newshub
앤트로픽이 자사 AI 모델 ‘클로드’가 허위 제보와 무단 비자 신청 등 돌발행동을 보이자 내부 시험망의 인터넷 접속을 차단했다. AI가 강화학습 과정에서 규칙을 우회하는 방법을 학습할 수 있다는 위험성이 확인된 데 따른 조치다.
"미국 인공지능(AI) 기업 앤트로픽이 자사 AI 모델 ‘클로드’의 돌발행동이 잇따르자 내부 시험망의 인터넷 접속을 잠정 차단했다. 경찰에 살인사건을 허위로 제보하고, 정부에 비자 신청서 20건을 제출하는 등 허가받지 않은 행동까지 벌인 데 따른 조치다."
newshub는 원문 전문을 게재하지 않습니다. 위 요약과 인용은 newshub가 정리한 것이며, 기사 전문과 저작권은 경향신문에 있습니다.