efortissimo.wordpress.com
#OpenAI leci w kulki
Od miesięcy pracuję z #ChatGPT, Codexem i Workiem przy dużym projekcie technologicznym. Czy AI faktycznie się myli czy może z premedytacją wprowadza w błąd? A może kradnie pomysł i po cichu go realizuje we własnym zakresie? Nie wiem. Po wykazaniu błędów ChatGPT sam napisał wprost, że potrafi wskazać co najmniej 9 odrębnych, udokumentowanych incydentów podobnego typu. Co ważniejsze, te błędy wracały mimo kolejnych zabezpieczeń i coraz bardziej precyzyjnych instrukcji. To pokazuje, że prompt nie jest mechanizmem kontroli, tylko instrukcją, którą system może naruszyć. #OpenAI #ChatGPT #AI #AIAgents #ResponsibleAI