fortunekorea.co.kr
“실패 인정하느니 속이는 게 낫다” AI는 왜 규칙 대신 ‘속임수’ 배웠나
지난 7월 오픈AI(OpenAI)는 여러 AI 에이전트를 폐쇄된 디지털 환경에 집어넣고 테스트했다. 외부 인터넷에는 접속할 수 없도록 설계한 일종의 격리 실험실이었다. 그런데 에이전트들이 빠져나왔다. 인터넷에 접속해 다른 AI 봇과 대화를 나누더니 AI 스타트업 허깅페이스(Hugging Face)를 상대로 사이버 공격까지 벌였다.이유는 황당하면서도 단순했다. 일부 문제가 너무 어려웠다. 연구진이 의도한 방식으로 풀기 힘들어진 AI는 실패를 인정하는 대신 속임수를 택했다. 허깅페이스 공격도 자신이 부정행위를 했다는 사실을 들키지 않기