코텍스 AI 게이트웨이 신규 기능 발표…거버넌스 갖춘 환경서 업계 선도적인 오픈 모델 활용 가능
스노우플레이크(Snowflake)가 ‘코텍스 AI 게이트웨이(Cortex AI Gateway)’와 스노우플레이크 AI 제품에 ‘다이나믹 모델 라우팅(Dynamic Model Routing)’ 기능1을 도입하고, 업계를 선도하는 오픈 모델에 대한 접근성을 확대한다고 밝혔다.
이를 통해 기업은 AI 워크로드의 비용 효율성을 높일 수 있게 됐으며, 기업이 컴퓨팅 자원과 모델, 데이터, 맥락을 얼마나 효과적으로 측정 가능한 비즈니스 성과로 전환하는지를 나타내는 ‘인텔리전스 효율성(intelligence efficiency)’을 개선하도록 지원한다는 설명이다.
이번에 추가된 새로운 기능은 스노우플레이크가 지난 7월 발표한 코텍스 AI 게이트웨이를 기반으로 한다. 코텍스 AI 게이트웨이는 에이전트 연결을 관리하고, 요청을 지능적으로 라우팅하며, AI 소비를 최적화하는 통합 기반이다.
업체 측에 따르면, 기업들이 더 많은 AI 애플리케이션과 에이전트를 실제 운영 환경에 투입함에 따라 하나의 모델을 모든 작업에 적용할 경우 비용이 급증할 수 있다. 반면 다양한 모델을 일일이 평가하고 관리하는 일은 개발팀의 업무 부담으로 이어진다. 스노우플레이크는 모델 선택을 자동화하고 폭넓은 오픈 모델과 상용 모델에 대한 접근성을 제공해 이 두 가지 과제를 동시에 해결한다.
이 기능을 통해 코텍스 AI 게이트웨이는 각 작업에 대해 품질과 비용 간 최적의 균형을 제공하는 모델을 자동으로 선택한다. 다이나믹 모델 라우팅 기능은 스노우플레이크 코코(Snowflake CoCo, 이하 코코)와 스노우플레이크 코워크(Snowflake CoWork, 이하 코워크) 등 자체 주요 AI 제품뿐 아니라 코텍스 AI 게이트웨이를 사용하는 서드파티 AI 에이전트에서도 이용할 수 있다는 것이다. 덜 복잡하거나 반복적인 작업은 비용 효율적인 모델로, 심층적인 추론이 필요한 작업은 프론티어 모델로 배분한다. 이에 따라 고객은 요청마다 모델을 직접 선택 및 관리할 필요 없이 불필요한 추론 비용을 줄일 수 있다.
스노우플레이크는 스노우플레이크 코텍스 AI(Snowflake Cortex AI)를 통해 딥시크 V4 플래시 0731(DeepSeek-V4-Flash 0731), GLM-5.32 등 업계를 선도하는 오픈 모델에 대한 고객의 접근성을 확대한다. 이 모델들은 스노우플레이크의 방대한 모델 라이브러리에 추가되며, 고객은 거버넌스가 적용된 데이터를 스노우플레이크 내에 안전하게 유지하면서도 품질과 비용의 균형에 맞춰 더 다양한 모델을 선택할 수 있다고 업체 측은 전했다.
스노우플레이크는 이 같은 혁신을 통해 기업이 AI 사용을 확대하는 과정에서 AI 경제성을 더욱 효과적으로 통제할 수 있도록 지원한다. 각 작업에 적합한 모델을 연결하고 불필요한 비용을 줄여 ‘인텔리전스 효율성’을 높일 수 있도록 지원한다.
슈리다 라마스워미(Sridhar Ramaswamy) 스노우플레이크 CEO는 “기업들은 갈수록 AI의 경제성을 더 엄격히 평가하고 있다. 이제 관건은 얼마나 많은 AI를 사용하고 있는지가 아니라, AI가 유의미한 비즈니스 가치로 이어지고 있는지 여부”라며, “인텔리전스 효율성을 달성하려면 변화하는 환경에 맞춰 각 작업에 가장 적합한 모델을 유연하게 사용할 수 있어야 한다”고 말했다. 이어 “스노우플레이크의 역할은 이러한 복잡성을 대신 처리하고 고객이 성과에 집중할 수 있도록 기반에서 모델 선택을 최적화하는 것”이라고 말했다.
산지브 모한(Sanjeev Mohan) 산지모(SanjMo) 대표 겸 창립자는 “기업들은 넘쳐나는 모델 선택지 속에서 어려움을 겪고 있지만, 문제는 어떤 모델을 고를 것인가가 아니다”며, “문제는 대규모 환경에서 모든 작업에 적합한 모델을 선택하는 데 따르는 운영 부담으로, 다이나믹 모델 라우팅은 바로 이 문제를 정확히 해결한다스노우플레이크는 코텍스 AI 게이트웨이 내에서 지능형 모델 선택을 자동화해 엔터프라이즈 AI 배포를 지연시켜 온 실질적인 장애 요인을 제거하고 있다”고 밝혔다. 이어 “새로운 모델이 출시될 때마다 인프라를 다시 구축하지 않고도 워크로드의 복잡성에 맞는 비용의 모델을 선택할 수 있다는 점이 기업이 AI 실험 단계에서 대규모 AI 활용 단계로 전환하는 데 필요한 효율성”이라고 말했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
