오라클이 OCI 생성형 AI 에이전트(OCI GenAI Agents)를 정식 출시했다. OCI 생성형 AI 에이전트는 검색증강생성(RAG) 기능과 향상된 오라클 AI(Oracle AI)의 혁신 기능을 통해 AI를 실제 비즈니스 운영에 보다 쉽게 적용하고, 기업이 데이터를 활용하여 경쟁 우위를 점할 수 있도록 지원한다.

OCI 생성형 AI 에이전트 제품군의 첫 번째인 RAG 에이전트(RAG Agent)는 기업이 에이전트 계획, 검색, 재정렬, 생성 및 통합과 같은 수동 프로세스를 거치지 않고도 RAG를 즉시 시작할 수 있도록 기본 RAG 기능들을 제공한다. 또한 자체 점검 기능으로 환각(hallucination) 현상을 최소화해 기업이 연구 개발에 시간을 들이지 않고 RAG 기술을 도입해 비즈니스 프로세스를 간소화할 수 있도록 지원한다. OCI 생성형 AI 에이전트는 기업이 오라클 데이터베이스 23ai AI 벡터 검색(Oracle Database 23ai AI Vector Search)에 액세스하고 데이터베이스에 저장된 기업 데이터를 대상으로 빠른 유사성 쿼리를 실행할 수 있도록 한다. OCI상에서 구동되는 오라클 데이터베이스 23ai를 구독 사용중인 기업은 데이터를 별도의 벡터 데이터베이스로 이전하지 않고도 생성형 AI 에이전트 서비스로 자동화 계층을 추가해 RAG 및 유사성 검색 기능을 실행할 수 있다.

OCI 생성형 AI 에이전트 서비스는 생성형 AI 워크로드를 위한 오픈소스 솔루션을 찾고 있는 기업을 위해 오픈서치(OpenSearch)를 통한 OCI 검색(OCI Search) 또한 지원한다.

그렉 파블릭(Greg Pavlik) OCI AI 및 데이터 관리 서비스 총괄 부사장은 “AI는 전례 없는 속도로 획기적인 발전과 효율성을 창출해 새로운 비즈니스 모델, 애플리케이션 및 산업 전반의 혁신을 이끌고 있다.”라면서 “OCI의 오라클 데이터베이스 23ai를 사용하고 있는 고객들은 OCI 생성형 AI 에이전트 서비스를 통해 완전 관리형 RAG 서비스를 구독할 수 있으며, 이를 통해 데이터와 대화할 수 있게 된다. AI를 고객의 데이터에 직접 적용하는 이 서비스는 AI를 실제 운영 환경에 신속하게 도입하고자 하는 기업을 위해 설계되었다.”라고 말했다.

OCI 생성형 AI 에이전트의 주요 사용 사례는 다음과 같다.

• 콜센터 최적화: 보다 정확한 응답과 높은 쿼리 처리량을 통해 상담원이 고객 만족도를 높일 수 있도록 지원한다.
• 법률 연구 가속화: 연구원들은 법원 기록 데이터베이스를 수동으로 검색하는 대신 AI와의 대화를 통해 원하는 답변을 빠르게 찾을 수 있다.
• 수익화 인텔리전스: 재무 팀이 보고서를 작성하는 대신 자연어 질문을 통해 고객의 구매 이력과 추세를 파악할 수 있도록 지원한다.
• 적격 채용 후보자 모집: 채용 담당자가 데이터베이스 쿼리를 구성하는 대신 자연어로 정보를 입력할 수 있게 해 신규 직원 채용을 위한 잠재 후보들을 보다 손쉽게 확보할 수 있도록 지원한다.

다양한 기능과 높은 접근성을 갖춘 AI 솔루션을 개발자 및 비즈니스 사용자에게 제공하기 위해 오라클은 다음과 같은 AI 혁신을 도입하고 있다.

• OCI 생성형 AI(OCI GenAI): 사용자가 다양한 사용 사례에 다용도 언어 모델을 원활하게 통합할 수 있도록 지원한다. 여기에는 글쓰기 지원, 요약, 분석 및 채팅 등이 포함된다. 기업이 최신 오픈소스 AI 기술을 활용할 수 있도록, OCI 생성형 AI는 이제 AI 사용 사례에 필요한 최첨단 기능을 제공할 수 있는 4050억 매개변수에서 더 타겟팅된 작업 부하에 적합한 700억 매개변수까지 다양한 크기의 메타 라마 3.1 모델에 대한 액세스를 제공한다. 또한 OCI 생성형 AI는 코히어 커맨드 R(Cohere Command R), 커맨드 R+(Command R+), 임베드(Embed) 모델도 지원한다.
• OCI 데이터 사이언스(OCI Data Science): 데이터 과학자 팀이 오픈소스 도구에 액세스하여 AI 모델을 구축, 훈련, 배포 및 관리할 수 있도록 지원한다. OCI 데이터 사이언스는 노코드 AI 퀵 액션(AI Quick Actions) 기능에 대한 새로운 업데이트를 제공한다. 여기에는 OCI 암페어 A1(OCI Ampere A1) 구성 지원과 몇 번의 클릭만으로 허깅 페이스(Hugging Face)의 모델을 OCI 데이터 사이언스로 가져올 수 있는 기능이 포함된다.
• OCI 언어(OCI Language): 개발자가 정교한 텍스트 분석 및 기계 번역을 대규모로 수행할 수 있도록 지원한다. 새로운 다국어 모델은 100개 이상의 언어를 원활하게 지원하도록 설계되었으며, 새로운 PHI(보호 대상 건강 정보) 기능은 PII(개인식별정보) 서비스를 확장하여 PHI 개체를 감지하고 이를 텍스트 데이터에서 삭제한다.
• OCI 문서 이해(OCI Document Understanding): 개발자가 사전 구축된 AI 모델을 사용해 수동 비즈니스 프로세싱 작업을 자동화할 수 있도록 지원한다. 개발자는 헬스케어용으로 새롭게 훈련된 모델을 사용해 의료 식별 카드에서 중요한 데이터를 식별 및 추출할 수 있으며, 작업 효율성을 높이고, 수작업으로 인해 발생하는 오류를 줄일 수 있다.
• OCI 비전(OCI Vision): 개발자가 프레임별로 영상을 분석해 객체, 라벨, 텍스트, 얼굴 등을 식별할 수 있도록 지원한다. 또한 객체가 감지된 시점의 타임 스탬프와 객체의 좌표가 되는 바운딩 박스를 제공해 디지털 자산 관리, 시각적 이상 탐지, 안전 및 감시, 광고 추적 및 배치 등 다양한 사용 사례를 지원한다.
• OCI 스피치(OCI Speech): 사용자가 음성을 텍스트로 변환할 수 있도록 하며, 텍스트를 자연스러운 음성으로 합성하고 사용자 지정 어휘를 지원하는 새로운 실시간 전사 기능도 제공한다.
• 오라클 코드 어시스트(Oracle Code Assist): 개발자가 자바(Java), 파이썬(Python), 자바스크립트(JavaScript), 스위트스크립트(SuiteScript), 러스트(Rust), 루비(Ruby), 고(Go), PL/SQL, C#, C 등 최신 프로그래밍 언어로 작성된 애플리케이션을 구축 및 최적화할 수 있도록 지능형 제안을 제공함으로써 개발자의 작업 속도를 높여준다.

추가 자료

• OCI 생성형 AI 블로그 읽어보기
• 오라클 AI에 대해 더 알아보기