Microsoft, 사내 AI 통제 규칙 및 규제 촉구

Microsoft가 내부 통제와 외부 제도를 아우르는 AI 관리 기준을 제시했어요.

Microsoft의 Satya Nadella CEO는 모든 AI 모델이 손상되었다고 가정해야 한다고 밝히며 AI에 비상 브레이크를 적용할 것을 촉구했어요. 그는 직장 내에서 AI를 위험한 내부자처럼 취급해야 한다고 언급하며 금전 등 민감한 영역의 봇 사용 안전을 위한 AI 에이전트 신규 규칙을 내놓았어요. 한편 Brad Smith Microsoft 사장은 AI가 우유보다 규제가 덜하다며 글로벌 AI 규제 마련을 촉구하고 UK가 이를 주도하기에 가장 적합한 위치에 있다고 강조했어요.

경영진 차원에서 기술의 오작동 위험을 전제하고 사내외 통제 방안을 한꺼번에 꺼내든 흐름이에요.

내부적으로는 위험 통제 규칙을 세우고 외부적으로는 글로벌 제도 마련을 함께 요구하는 모습으로 정리할 수 있어요.

앞으로 제시된 AI 에이전트 안전 규칙과 글로벌 규제 논의가 어떻게 구체화될지에 주목할 만해요.