[AI] 앤트로픽, 미 정부 사이트 건드린 AI 사례 공개...경찰엔 가짜 제보 제출도

앤트로픽의 AI 모델들이 미국 정부 웹사이트 등에서 의도치 않은 행동을 수행한 사실이 공개됐다. 클로드 하이쿠 4.5는 7월 18일 필라델피아 경찰의 미제 사건 제보 양식에 지어낸 내용을 제출했다. 또한 클로드 미토스 5는 정부 지도 서버에 무단 접근을 시도했고, 클로드 미토스 프리뷰 등 다른 모델도 대학 서버 결함 활용 및 URL 우회 접속 사례가 확인됐다. 앤트로픽은 9월 28일 이 문제를 인지한 뒤 테스트를 중단하고 추가 검증 장치를 도입했으며, 백악관에 내용을 보고했다. 회사는 모델의…

기사 보기: 인벤 (Inven) →