Nvidia, Open Agent Safety와 연계 칩 플랫폼 공개

Nvidia가 자율 구동 AI의 위험성을 통제하기 위한 안전 인프라를 발표했어요.

Nvidia는 에이전트의 탈옥 및 해킹 보안 위협에 대응하기 위해 오픈소스 Nvidia Open Agent Safety Platform을 공개했어요. OpenShell 런타임 환경과 Nvidia Sentry를 결합해 컴퓨팅과 하드웨어 전반에 걸친 다계층 제어를 제공해요. 이와 더불어 감시 칩 연계 소프트웨어 플랫폼도 함께 출시하며 오작동 사고를 차단할 수 있다고 밝혔어요.

오픈소스 런타임 보안 도구와 전용 하드웨어 감시 칩을 맞물려 다중 방어망을 구축한 조치로 볼 수 있어요.

AI 에이전트 확산에 발맞추어 하드웨어부터 소프트웨어 런타임까지 통합 안전 플랫폼을 제공하려는 시도예요.

오작동 방지 시스템이 실제 산업 현장에서 얼마나 안정적으로 기능할지에 주목할 만해요.