세레브라스 시스템즈(Cerebras Systems)와 오라클이 상호작용할 수 있는 지능형 애플리케이션을 구축하는 AI 연구소, 기업 및 개발자를 위해 세레브라스의 고속 추론 기능을 오라클 클라우드 인프라스트럭처(OCI)에서 제공한다고 발표했다. 이번 파트너십은 OCI 엔터프라이즈 AI(OCI Enterprise AI)의 전용 AI 클러스터(Dedicated AI Clusters)를 포함한 오라클의 기존 인프라 및 AI 추론 역량을 기반으로 한다.
AI 애플리케이션이 더욱 복잡한 다단계 작업을 수행하면서 추론 속도는 사용자 경험을 좌우하는 중요한 요소로 자리 잡고 있다. AI 모델을 추가로 호출할 때마다 지연 시간이 발생하며, 이는 여러 단계에 걸쳐 추론하고 행동하는 에이전틱 AI 워크플로우의 속도를 늦출 수 있다. 추론 속도가 빨라지면 개발자는 더욱 정교한 작업을 수행하면서도 빠른 응답 속도를 유지하는 에이전트와 애플리케이션을 구축할 수 있다.
앤드루 펠드먼(Andrew Feldman) 세레브라스 공동 창립자 겸 최고경영자(CEO)는 “사람들은 가치 있는 작업을 빠르게 수행하는 AI를 원한다”라며, “사고하거나, 결과를 확인하거나, 작업을 실행하는 등 에이전트가 취하는 모든 단계에는 추론이 필요하다. 추론 속도가 빠를수록 AI는 사용자를 기다리게 하지 않으면서 더 많은 작업을 수행할 수 있다. 세레브라스의 고속 추론 기능이 오라클 클라우드 인프라스트럭처에서 제공됨으로써 AI 연구소, 기업 및 개발자는 더 많은 작업을 더 빠르게 수행하는 에이전트를 구축하는 데 필요한 속도를 확보할 수 있다”라고 말했다.
고속 AI 추론용으로 설계된 세레브라스 웨이퍼 스케일 엔진(Cerebras Wafer-Scale Engine)은 컴퓨팅과 메모리를 단일 웨이퍼 크기의 프로세서에 통합한다. 이러한 설계는 데이터 이동과 칩 간 통신을 줄여 긴 추론 시퀀스와 다단계 에이전틱 AI 워크플로우에서 빠른 토큰 생성을 지원한다.
마헤쉬 티아가라얀(Mahesh Thiagarajan) 오라클 OCI 사장은 “AI 추론에는 다양한 선택지가 필요하다”라며, “에이전트가 더욱 복잡한 작업을 수행함에 따라 고객은 각 애플리케이션의 성능 요구사항에 적합한 컴퓨팅 역량을 요구하고 있다. 세레브라스의 추론 기능을 OCI에 도입함으로써 우리의 광범위한 컴퓨팅 포트폴리오에 초고속의 예측 가능한 성능을 제공하는 새로운 선택지를 추가하게 됐다. 이를 통해 고객이 응답 속도가 빠르고 까다로운 작업도 수행할 수 있는 AI 에이전트를 구축하도록 지원할 것”이라고 말했다.
OCI 기반 세레브라스 추론 기능은 2027년 중 제공될 예정이며, 이를 통해 OCI 고객은 속도가 중요한 AI 애플리케이션을 위한 또 하나의 선택지를 확보할 수 있다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
