AI와 에이전트
NVIDIA, 에이전트 안전 플랫폼 공개
- 발행일
- 출처
- NVIDIA 뉴스룸
요약
NVIDIA가 AI 에이전트를 테스트부터 배포까지 지키는 열린 소프트웨어 플랫폼 'Open Agent Safety Platform'을 발표했다. 오픈소스 런타임 'OpenShell'은 에이전트가 일할 수 있는 경계를 긋고 모든 행동을 추적해 정책을 강제한다. 참조 설계 'Sentry'는 BlueField-4 DPU에서 에이전트를 독립적으로 감시해 경계를 벗어나려 하면 밀리초 단위로 격리·중단한다는 것이 회사 설명이다. Anthropic, Microsoft, Salesforce, ServiceNow 등 여러 기업이 함께한다고 밝혔다.
우리 일과의 관련성
장시간 돌아가는 에이전트가 애플리케이션 보안을 우회하는 사고가 잇따르는 가운데, 하드웨어까지 포함한 전 구간 감시·통제 틀이 공개됐다. 기업이 에이전트를 실무에 더 안심하고 들이는 발판이 될 수 있다.
요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.