Kubernetes는 컨테이너화된 애플리케이션 관리의 표준이 되었으며, Oracle Cloud Infrastructure Kubernetes Engine(OKE)은 뛰어난 클라우드 안정성을 제공하는 관리형 Kubernetes 서비스입니다. 이제 OKE를 AI와 함께 사용하여 강력하고 확장 가능하며 가용성이 높은 AI 애플리케이션을 만들 수 있다고 상상해 보십시오.
이 프로젝트는 텍스트 생성 및 요약을 위해 다목적 프론트엔드가 포함된 AI 파이프라인을 배포합니다. 파이프라인은 데이터베이스와 통합되어 상호 작용을 추적하므로 애플리케이션 최적화를 위한 미세 조정 및 성능 모니터링이 가능합니다. Kubernetes 클러스터에서 OCI 생성형 AI API를 활용합니다.