HeatWave GenAI

Oracle HeatWave GenAI는 인데이터베이스 대규모 언어 모델(LLM), 자동화된 인데이터베이스 벡터 저장소, 스케일 아웃 벡터 처리, 맥락 기반 자연어 대화 등을 지원하는 자동화되고 안전한 생성형 AI 기능을 기본 제공합니다. AI 전문 지식이나 데이터를 이동할 필요 없이 추가 비용을 들이지 않고 생성형 AI를 자유롭게 활용하세요. HeatWave GenAI는 Oracle Cloud Infrastructure(OCI), Amazon Web Services(AWS), Microsoft Azure에서 이용할 수 있습니다.

데모 보기 (5:27)

HeatWave GenAI를 선택하는 이유는?

  • 어디서나 빠르게 생성형 AI 사용

    외부 LLM을 선택하거나 통합하는 번거로움 없이 클라우드 및 리전 전반에서 인데이터베이스 LLM을 사용하여 데이터를 검색하고 콘텐츠를 생성 또는 요약할 수 있습니다.

  • 보다 정확하고 관련성 높은 답변을 간편하게 확보

    AI 전문 지식 없이 또는 데이터를 별도의 벡터 데이터베이스로 이동할 필요 없이 LLM으로 독점 문서를 검색하여 보다 정확하고 맥락에 맞는 답변을 얻을 수 있습니다. HeatWave GenAI로 임베딩 생성을 자동화할 수 있습니다.

  • 자연어로 대화

    자연어를 사용한 대화를 통해 문서에서 신속하게 인사이트를 얻을 수 있습니다. HeatWave Chat 인터페이스는 후속 질문을 통해 사람과 유사한 대화를 만들어내는 데 도움이 되는 맥락을 유지합니다.

HeatWave GenAI의 주요 기능

인데이터베이스 LLM

모든 Oracle Cloud Infrastructure(OCI) 리전, OCI Dedicated Region 및 기타 다양한 클라우드 환경에 내장된 LLM을 사용하고, 배포 환경 전반에서 예측 가능한 성능을 바탕으로 일관된 결과를 도출할 수 있습니다. GPU를 프로비저닝할 필요가 없으므로 인프라 비용이 절감됩니다.

타 생성형 AI 서비스와의 통합

OCI에서 HeatWave GenAI를 사용할 때는 OCI Generative AI 서비스를 통해, AWS에서 HeatWave GenAI를 사용할 때는 Amazon Bedrock을 통해 Cohere 및 Meta에서 사전 학습된 기본 모델에 액세스할 수 있습니다.

HeatWave Chat

HeatWave Vector Store는 비정형 데이터를 바탕으로 자연어로 맥락에 맞는 대화를 나눌 수 있습니다. 내장된 Lakehouse Navigator를 사용하여 LLM이 특정 문서를 검색하도록 유도함으로써 비용을 절감하고 더 정확한 결과를 더 빠르게 도출할 수 있습니다.

인데이터베이스 벡터 저장소

별도의 벡터 데이터베이스로 데이터를 옮길 필요 없이 HeatWave Vector Store에 보관된 지식 기반 역할을 하는 다양한 형식의 독점 문서를 대상으로 검색 증강 생성(RAG) 작업을 수행하여 보다 정확하고 맥락에 맞는 답변을 얻을 수 있습니다.

임베딩 자동 생성

자동화된 파이프라인을 활용하여 HeatWave Vector Store에서 독점 문서를 검색하고 수집할 수 있으므로 AI 전문가가 아닌 개발자 및 데이터 분석가도 간단히 벡터 스토어를 사용할 수 있습니다.

수평 확장 벡터 프로세싱

최대 512개의 HeatWave 클러스터 노드를 통해 벡터 프로세싱이 병렬화되고 메모리 대역폭에서 실행되므로 최대한 정확하고 빠른 결과를 도출할 수 있습니다.

HeatWave GenAI에 대한 고객 의견

  • "HeatWave GenAI을 사용하면 생성형 AI를 매우 간편하게 활용할 수 있습니다. 인데이터베이스 LLM 및 인데이터베이스 벡터 생성이 지원되어 애플리케이션 복잡성이 크게 줄었고 예측 가능한 추론 지연성을 확보하게 되었으며, 무엇보다도 LLM을 사용하거나 임베딩을 생성하는 데 추가 비용이 들지 않습니다. 이는 생성형 AI의 민주화를 진정으로 이루었다고 할 수 있습니다. HeatWave GenAI를 통해 더욱 풍부한 애플리케이션을 구축하고, 고객의 생산성을 크게 높일 수 있게 되었습니다."

    - Vijay Sundhar, SmarterD CEO

  • "고객에게 다양한 추천을 제공하기 위해 인데이터베이스 HeatWave AutoML을 매우 많이 사용합니다. HeatWave는 인데이터베이스 LLM 및 인데이터베이스 벡터 저장소를 지원하여 이 제품을 차별화시키고, 생성형 AI를 AutoML과 통합하는 기능은 업계에서 HeatWave의 차별화를 더욱 강화해 고객에게 새로운 종류의 기능을 제공할 수 있게 해 줍니다. 또한 AutoML와의 시너지 효과 역시 LLM 결과물의 성능과 품질을 높여줍니다."

    - Safarath Shafi, EatEasy CEO

  • "HeatWave의 인데이터베이스 LLM, 인데이터베이스 벡터 저장소, 스케일 아웃 인메모리 벡터 프로세싱 및 HeatWave Chat은 Oracle이 제공하는 대단히 차별화된 기능입니다. 이는 생성형 AI에 대한 접근성을 높여주고, 사용이 매우 간단하고 안전하며 저렴하게 사용할 수 있습니다. HeatWave 및 AutoML를 기업 요구사항에 맞게 사용하여 이미 여러 가지 방식으로 비즈니스를 개선할 수 있었습니다. Oracle이 제공하는 혁신 기능을 도입하면 새로운 수준의 애플리케이션 성장이 가속화될 것입니다. 고객은 자사의 엔터프라이즈 콘텐츠에서 생성형 AI를 활용할 방법을 모색하게 될 것입니다."

    - Eric Aguilar, Aiwifi 창업자

HeatWave GenAI을 통해 누가 이점을 얻을 수 있나요?

  • 개발자들은 내장 AI를 활용해 앱을 제공할 수 있습니다

    내장된 LLM 및 HeatWave Chat을 사용하면 맥락 기반 대화를 자연어로 나눌 수 있도록 사전 구성된 앱을 제공할 수 있습니다. 외부 LLM 및 GPU가 필요하지 않습니다

  • 분석가는 새로운 인사이트를 빠르게 확보할 수 있습니다

    HeatWave GenAI를 사용하여 데이터에 대한 대화를 나누고, 문서 전체에서 유사성 검색을 수행하고, 기업의 독점 데이터에서 정보를 검색할 수 있습니다.

  • IT 팀은 AI 혁신 가속화를 지원할 수 있습니다

    통합 기능과 자동화를 통해 생성형 AI를 활용하여 개발자와 비즈니스 팀의 역량을 강화할 수 있습니다. 자연어 대화 및 RAG를 손쉽게 사용할 수 있습니다.

인데이터베이스 LLM을 사용하여 비정형 문서를 기반으로 콘텐츠를 생성하거나 요약할 수 있습니다. 사용자는 애플리케이션을 통해 자연어로 질문을 할 수 있으며, LLM은 요청을 처리하고 콘텐츠를 전달합니다.


콘텐츠 생성 다이어그램, 아래 설명:

사용자가 "이 솔루션 개요를 요약할 수 있을까?"라고 자연어로 질문을 합니다. 대규모 언어 모델(LLM)은 해당 입력을 처리하고 요약을 출력합니다.



생성형 AI의 강력한 기능을 머신러닝과 같은 다른 내장형 HeatWave 기능과 결합하여 비용을 절감하고 더 정확한 결과를 더 빠르게 도출할 수 있습니다. 이 예에서 제조업체는 예측 유지 관리를 위해 이 작업을 수행합니다. 엔지니어는 Oracle HeatWave AutoML을 사용하여 비정상적 운영 로그 보고서를 자동으로 생성할 수 있으며, HeatWave GenAI를 사용하면 로그를 수동으로 분석하는 대신 자연어로 질문을 하는 것만으로 문제의 근본 원인을 빠르게 확인할 수 있습니다.


분석 생성 다이어그램, 아래 설명:

사용자가 HeatWave Chat을 통해 "이 로그 모음의 주요 문제는 무엇이지? 두 문장으로 요약해줘."라고 질문합니다. 첫째, HeatWave AutoML은 지속적으로 수집하는 모든 운영 로그를 기반으로 필터링된 비정상적 로그 목록을 생성합니다. 그런 다음 HeatWave Vector Store는 로그 기술 자료를 기반으로 LLM에 추가 컨텍스트를 제공합니다. LLM은 해당 증강 프롬프트를 가져와 보고서를 생성하고, 자연어로 문제를 설명하는 상세한 답변을 제공합니다.



예를 들어 챗봇은 RAG를 사용하여 회사 내부 정책에 대한 직원의 질문에 답할 수 있습니다. 정책이 상세하게 설명된 내부 문서는 HeatWave Vector Store에 임베딩으로 저장됩니다. 사용자가 쿼리를 입력하면 벡터 저장소는 저장된 임베딩에 대한 유사성 검색을 수행하여 쿼리 내용과 가장 유사한 문서를 식별하는 작업을 지원합니다. 식별한 문서로 LLM에 제공되는 프롬프트를 보강하여 LLM이 정확한 답변을 제공하도록 유도할 수 있습니다.


RAG 다이어그램, 아래 설명:

사용자가 HeatWave Chat을 통해 "어떤 랩톱을 주문할 수 있고 주문 프로세스는 어떻게 진행돼?"라고 질문합니다. HeatWave는 HeatWave Vector Store에 저장된 내부 정책 문서에 액세스하여 질문을 처리합니다. 그런 다음 LLM에 "승인된 벤더 목록 및 주문 절차는 다음과 같습니다."라는 응답을 생성할 수 있는 증강 프롬프트를 제공합니다.



개발자들은 HeatWave에 내장된 ML과 생성형 AI의 파워를 결합해 애플리케이션을 구축함으로써 개인화된 추천을 제공할 수 있습니다. 이번 사례에서 애플리케이션은 HeatWave AutoML 추천 시스템을 사용하여 사용자의 선호도 또는 사용자의 과거 주문 이력을 기반으로 레스토랑을 제안합니다. HeatWave Vector Store를 사용하면 PDF 형식으로 제공된 레스토랑 메뉴에 대한 추가 검색이 지원되며, 이를 통해 특정 요리를 제안함으로써 고객에게 더 큰 가치를 제공할 수 있습니다.


ML로 향상된 RAG 다이어그램, 아래 설명:

사용자가 HeatWave Chat을 통해 "오늘 추천하는 비건 요리는 무엇인가요?"라고 질문합니다. 첫째, HeatWave AutoML 추천 시스템은 사용자의 이전 구매 이력을 바탕으로 레스토랑 목록을 제안합니다. 그런 다음 HeatWave Vector Store는 저장된 레스토랑 메뉴를 바탕으로 LLM에 증강 프롬프트를 제공합니다. 이제 LLM은 자연어로 개인 맞춤형 요리를 추천할 수 있습니다.



2024년 9월 10일

Oracle, 생성형 AI, Lakehouse, MySQL, AutoML, 멀티클라우드 전반에 걸친 HeatWave 혁신 발표

Nipun Agarwal, Oracle 수석 부사장, HeatWave and MySQL Development

Oracle HeatWave는 트랜잭션 및 레이크하우스 규모 분석을 위한 완전 관리형 단일 클라우드 서비스에서 자동화된 통합 보안 생성형 AI 및 머신 러닝을 제공합니다. 새로운 기능은 OCI 및 AWS 모두에서 HeatWave 포트폴리오 전반에서 사용할 수 있습니다.

HeatWave GenAI에 대한 업계 최고 분석가들의 의견

  • Constellation Research 로고

    "HeatWave의 엔지니어링 혁신은 범용 클라우드 데이터베이스의 비전을 지속적으로 실현하고 있습니다. 최신 버전은 인데이터베이스 벡터 저장소 및 인데이터베이스 LLM을 HeatWave 코어에 직접 통합하는 'HeatWave 스타일'로 구현된 생성형 AI입니다. 이를 통해 개발자는 HeatWave 요소를 결합할 때 새로운 애플리케이션 클래스를 생성할 수 있습니다."

    Holger Mueller
    Constellation Research, Vice President 겸 Principal Analyst
  • dbInsight 로고

    "HeatWave는 벡터 임베딩을 생성하는 모든 복잡한 작업을 내부에서 처리하여 생성형 AI 및 검색 증강 생성(RAG)에 대한 접근성을 높이는 데 중요한 진전을 이루어냈습니다. 개발자가 클라우드 객체 스토리지에 있는 소스 파일을 가리키면 HeatWave가 이에 필요한 작업을 처리해 줍니다."

    Tony Baer
    dbInsight 설립자 겸 CEO

HeatWave GenAI 시작하기

설명서 읽어보기

GenAI 애플리케이션을 간편하게 구축

단계별 지침에 따라 제공된 코드를 사용하여 HeatWave GenAI를 기반으로 애플리케이션을 쉽고 빠르게 구축해 보세요.

서비스 등록하기

HeatWave GenAI를 무료로 체험해 보세요. 30일간 기능 체험에 사용할 수 있는 미화 300달러 상당의 클라우드 크레딧을 받을 수 있습니다. 또한 다양한 HeatWave 기능들을 무제한으로, 무료로 사용할 수 있습니다.

영업팀에 문의하기

HeatWave GenAI에 대해 더 알아보고 싶으신가요? Oracle의 전문가가 도와 드리겠습니다.