Anthropic, METR에 내부 접근권 부여하고 위험 평가 자율 공개

외부 연구 기관에 내부 임직원 수준의 권한을 내어주는 보안 조치가 나왔어요.

Anthropic은 프론티어 AI 모델 평가 비영리 단체인 METR에 직원 수준의 접근 권한을 부여했다고 밝혔어요. 아울러 평가 결과 공개를 차단할 수 있는 권리를 포기하기로 결정했어요. 이에 따라 METR은 Anthropic의 위험, 사고 및 관행에 대한 자체 평가 결과를 대외적으로 발표할 예정이에요.

안전성 검증과 대외적 책임을 강화하기 위해 개발사 스스로 평가 통제권을 내려놓았어요.

제3자 독립 기관이 직접 내부 위험 요소를 진단하고 대외에 공개할 수 있는 평가 경로를 열어둔 셈이에요.

앞으로 METR이 내놓을 첫 공식 평가 보고서의 구체적인 내용에 주목할 만해요.