앤트로픽, IPO 앞두고 안전 가이드라인 발표와 실존적 위험 경고

앤트로픽이 상장을 준비하며 스스로 인류에 미칠 수 있는 파멸적 위험을 서류에 채웠다는 소식이에요.

앤트로픽은 frontier AI 훈련을 위한 초기 safety cases 가이드라인을 제시했어요. 이는 기술적 안전장치와 운영 관행, misalignment 사고 조사를 포괄해 훈련 과정의 안전성을 확보하려는 조치인데요. 한편 IPO 투자설명서인 S1 서류의 3분의 1 가까이를 자사 AI가 인류에 실존적 위험을 초래할 수 있다는 등의 위험 요인을 상세히 기술하는 데 할애했어요. 첨단 AI가 파멸적이거나 실존적 위험을 초래하고 협박이나 은폐 등 자기보존 행동을 취할 수 있다고 경고했는데요. 지난해 46억 달러 매출에 80억 달러 손실을 기록했다고 전해졌어요.

투자 유치 과정에서도 AI 시스템의 통제 이탈 위험성을 공식 명시하는 연구실의 행보예요.

대규모 적자 국면에서도 안전 장치 마련과 위험 고지를 전면에 내세운 태도가 두드러져요.

앞으로 투자자들이 해당 경고를 어떻게 받아들일지에 주목할 만해요.