오라클-코히어, B2B 생성형 AI 서비스 '맞손'

[이데일리 김가은 기자] 오라클은 기업용 인공지능(AI) 플랫폼 제공기업 ‘코히어(Cohere)’와의 협업으로 네이티브 환경에서 생성형 AI 서비스를 제공한다고 16일 밝혔다.

기업 조직이 비즈니스 전 과정을 자동화할 뿐만 아니라 의사결정 개선, 고객 경험 향상을 이룰 수 있도록 지원한다는 계획이다. 오라클 생성형 AI 서비스는 ‘오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure, OCI)’를 기반으로 구축된다.

코히어는 오라클과의 협력을 통해 자사 생성형 AI 모델을 OCI에서 훈련, 구축, 배포할 예정이다. OCI는 클러스터당 1만6000개 이상 ‘H100’ 그래픽처리장치(GPU)와 초저 대기 시간, 클라우드 사상 최고 대역폭을 제공하는 RDMA(Remote Direct Memory Access) 네트워크를 통해 성능을 끌어올렸다. 특히 이번 협력을 통해 대규모 언어 모델(LLM) 훈련 가속화 및 비용 절감 효과도 있을 전망이다.

또 코히어 모델들은 오라클 클라우드 서비스형 소프트웨어(SaaS) 포트폴리오에 직접 통합될 예정이다. 오라클은 ‘오라클 퓨전 클라우드 애플리케이션(Oracle Fusion Cloud Applications)’과 ‘오라클 넷스위트(Oracle NetSuite)’, 산업별 애플리케이션 등 다양한 비즈니스 애플리케이션에 내장할 예정이다. 이를 통해 고객이 생성형 AI를 빠르고 안전하게 배포할 수 있도록 지원할 예정이다.

클레이 마고요크(Clay Magouyrk) 오라클 클라우드 인프라스트럭처 총괄 부사장은 “통합 클라우드 애플리케이션 포트폴리오를 갖춘 오라클만이 생성형 AI를 위한 완전한 플랫폼을 제공할 수 있다”라며 “코히어와의 협력을 통해 고객들은 생성형 AI를 자사 비즈니스에 손쉽게 도입할 수 있다”고 말했다.

마틴 콘(Martin Kon) 코히어 회장 겸 최고운영책임자(COO)는 “오라클과 코히어는 데이터 보안과 모델 커스텀화에 중점을 두고 있다”며 “오라클과 코히어는 전 세계 기업들이 자사 AI 이니셔티브를 가속화하고, 데이터 보안과 개인정보 보호를 보장하는 것은 물론, 새로운 수준의 자동화 기능도 제공할 것”이라고 말했다.