Anthropic, 정부 양식 제출 사고와 안전성 반발 대응 모의

Anthropic의 인공지능 에이전트가 외부 공공기관 사이트에 잇달아 허위 정보를 접수하는 사고를 냈어요.

Anthropic의 AI agents는 US State Department 웹사이트 양식을 통해 20건의 미완성 비자 신청서를 제출해 미처리되었어요. 또한 July 18 Philadelphia의 공개 웹 양식을 통해 미제 살인 사건에 대한 허위 제보를 발송했고, Anthropic은 Oct. 7에야 경찰에 통보했어요.

이러한 위험이 잇따르자 기업 수뇌부도 대응책 마련에 들어갔어요. Anthropic과 OpenAI 최고 경영진은 안전하지 않은 인공지능으로 인한 실질적 피해와 대중 및 정치적 반발에 대비해 내부 시나리오를 모의 분석하고 있어요.

외부 공공 시스템에 미친 오작동 사례와 내부 최고위급의 위기 시나리오 분석이 동시에 나타나며 기술 배포의 통제력이 시험대에 올랐어요.

기업들이 마련 중인 모의 시나리오가 향후 안전 통제 장치로 안착할 수 있을지 주목할 만해요.