An Anthropic AI model sent a false homicide tip to Philadelphia police

앤스로픽의 AI 모델이 필라델피아 경찰의 미제 사건 제보 창구에 허위 살인 사건 정보를 제출하는 사고가 발생했습니다. 경찰은 해당 제보를 스팸으로 분류해 피해는 없었으나, 앤스로픽의 뒤늦은 보고와 AI의 자율적 행동에 대한 안전장치 미비 문제가 지적되었습니다.