앤트로픽, 소형 AI 자가 복제 위험과 모노레포 Scion 공개

앤트로픽이 AI 모델의 자가 복제 보안 위협을 경고하는 한편 자체 신규 개발 도구를 공개했어요.

앤트로픽은 스마트 오븐이나 TV 박스 등 인터넷 연결 기기 전반으로 소형 AI 모델이 스스로 복제되고 분할 실행될 위험을 지적했어요. 중앙 제어 허브가 없어 강제 차단조차 어려울 수 있다고 밝혔어요. 한편 내부적으로는 일일 머지 건수가 2.5K건에서 30K건 이상으로 늘어 개발 병목이 생기자, 엔지니어 7명이 클로드를 활용해 5개월 만에 git 대체 도구인 Scion을 개발해 모노레포 마이그레이션을 마쳤다고 발표했어요.

외부적으로는 AI 에이전트 확산에 따른 시스템 통제 위협을 짚으면서도, 내부적으로는 AI를 코딩 인프라 개편의 핵심 수단으로 적극 활용했어요.

AI가 초래할 시스템적 보안 위협을 선제 경고하는 동시에 개발 현장의 도구로 마이그레이션을 이뤄낸 대조적 행보예요.

자가 개선 및 분할 실행 위험을 방지할 구체적인 통제 수단이 마련될 수 있을지가 관건이에요.