에이전트를 실행하는 CPU부터 그 주변의 보안을 강화하는 인프라까지
AI가 에이전틱 시대로 접어들면서 이러한 변화는 더욱 중요해지고 있다. AI 에이전트는 단순히 답변을 생성하는 데 그치지 않고, 지속적으로 실행되며 툴을 활용하고 데이터에 접근하여 작업을 완수하기 위한 행동을 수행한다. 에이전트의 활용이 확대될수록, 에이전트를 실행하는 컴퓨팅과 에이전트를 보호하는 컴퓨팅이라는 두 가지 근본적인 요구사항이 생긴다.
Arm은 두 영역 모두에 필요한 컴퓨팅을 지원한다. 고성능 CPU는 에이전틱 워크로드를 실행하고, DPU와 같은 Arm 기반 인프라 프로세서는 독립적인 관찰, 격리, 정책 시행 및 보안 기능을 제공한다.
엔비디아의 새로운 오픈 에이전트 세이프티 플랫폼(Open Agent Safety Platform)은 이러한 아키텍처가 실제로 구현된 사례다.
CPU는 에이전틱 AI 인프라의 핵심이다. 에이전트 런타임, 하네스, 오케스트레이션, 툴 실행 및 애플리케이션은 모두 CPU에 의존한다. 에이전트의 역량이 높아지고 더 오래 작동하며 대규모로 동시 실행될수록 CPU에 대한 수요도 증가한다.
Arm은 이미 에이전틱 및 클라우드 워크로드 전반에서 이러한 컴퓨팅의 상당 부분을 지원하고 있다. Arm AGI CPU를 비롯해 AWS 그래비톤(Graviton), 구글 액시온(Axion), 마이크로소프트 코발트(Microsoft Cobalt) 및 엔비디아의 맞춤형 베라(Vera) CPU는 각각 아키텍처가 다르지만 Arm 소프트웨어 에코시스템과 호환된다. 엔비디아 오픈셸(OpenShell)은 이러한 광범위한 Arm CPU 에코시스템에서 에이전트를 안전하게 실행할 수 있도록 지원한다.
오픈셸은 에이전트 주변에 안전한 런타임 경계를 설정해 에이전트가 접근할 수 있는 대상과 수행할 수 있는 작업을 관리한다. 이는 에이전트의 안전한 실행을 위한 동일한 기본 접근방식을 점점 더 다양해지는 Arm 기반 클라우드 및 AI 인프라 에코시스템 전반으로 확장할 수 있다는 것이다.
에이전트를 실행하는 것은 전체의 한 측면에 불과하다. 에이전틱 인프라는 에이전트 자체가 실행되는 환경 외부에서 관찰하고, 격리하며, 정책을 관리할 수 있는 독립적인 컴퓨팅 또한 필요로 한다.
Arm 기반 DPU와 인프라 프로세서는 이러한 독립적인 계층을 제공한다. 네트워킹, 모니터링, 격리, 보안과 같은 인프라 서비스를 호스트 CPU에서 분리함으로써, 보호 대상인 에이전트 및 애플리케이션으로부터 독립적으로 작동하는 별도의 제어 지점을 구축한다.
이러한 아키텍처는 이미 광범위한 Arm 기반 DPU 에코시스템으로 확장되고 있다. 이러한 인프라 프로세서는 Arm CPU 기술을 기반으로 구축되기 때문에, 개발자와 인프라 제공업체는 공통의 컴퓨팅 아키텍처를 기반으로 보안 기능을 구축할 수 있다.
엔비디아 블루필드(BlueField)는 오픈 에이전트 세이프티 플랫폼 내에서 이러한 모델을 구현한다. Arm Neoverse V2 코어 64개를 탑재한 엔비디아 그레이스(Grace)로 구동되는 블루필드-4는 호스트와 독립적인 인프라 환경을 제공한다. 오픈셸은 블루필드에서 엔비디아 센트리(Sentry)와 통합돼 정책 시행 범위를 에이전트 런타임에서 별도의 신뢰 도메인으로 확장한다. 이를 통해 인프라 및 네트워크 제어 기능이 에이전트 자체와 독립적으로 작동할 수 있도록 한다.
엔비디아 센트리는 에이전트의 행동을 모니터링하고 안전하지 않은 행동을 보이는 에이전트를 격리할 수 있도록 하는 실시간 감시 시스템으로, 보안 계층을 하나 더 추가한다. 이러한 기능은 종합적으로 더 광범위한 시스템 수준의 보안 모델을 구현할 수 있다. Arm CPU는 에이전트 워크로드를 호스팅하고 실행할 수 있으며, Arm 기반 DPU는 이를 독립적으로 관찰, 관리, 격리 및 보호하는 역할을 수행할 수 있다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
