엔터프라이즈 AI란 무엇인가요?

생성형 AI 모델은 끊임없는 놀라움을 선사하고 있으며, 비즈니스 리더들에게 주목받고 있습니다. CIO들은 생성형 AI를 활용해 자사의 운영에 새로운 창의성을 더할 수 있는 방안을 제시해야 한다는 압박을 받고 있습니다. 기술 업계는 미래 지향적인 CIO 및 산하 팀원들의 혁신 추구를 지원하기 위한 다양한 엔터프라이즈 AI 옵션을 제공하기 시작했습니다. 신뢰할 수 있는 공급업체 파트너사들은 AI 생성 데이터 분석 기능으로 자사의 비즈니스 애플리케이션을 업데이트하고, 생성형 AI가 요구하는 컴퓨팅 파워 및 엄격한 데이터 거버넌스를 갖춘 맞춤형 클라우드 인프라를 제공하고 있습니다. CIO는 기존의 엔터프라이즈 데이터 저장소에 대규모 언어 모델이 통합되는 추세를 활용해 혁신을 주도하고, 기업의 구성원들은 과거와는 전혀 다른 방식으로 비즈니스 데이터를 쿼리할 수 있게 되었습니다.

엔터프라이즈 AI란 무엇인가요?

엔터프라이즈 AI는 급격히 진화 중인 생성형 인공지능 및 관련 기술을 미션 크리티컬한 비즈니스 워크로드에 적용하기 위한 지속적인 노력을 지칭하는 표현입니다. 엔터프라이즈 AI는 과거 제한적인 AI 시스템과 머신러닝 모델을 사용해 이상 징후 감지, 이미지 인식, 텍스트 분석 등의 작업을 성공적으로 수행해 온 경험에 기반하고 있습니다. 기존의 AI도 이미 비즈니스 운영의 속도 및 효율성 향상에 크게 기여해 왔지만, 생성형 AI는 그보다도 훨씬 더 많은 일들을 해 낼 수 있습니다. 거의 매주 진행되고 있는 놀라운 업데이트들을 통해 알 수 있듯이, 생성형 AI 모델은 미묘한 구두, 서면, 시각적 단서를 정확히 이해하고, 해당 입력을 사용해 텍스트, 그래픽, 컴퓨터 코드, 심지어 SQL 쿼리를 비롯한 정확한 출력물을 생성합니다.

엔터프라이즈 AI는 비즈니스 리더가 기업의 독점 데이터 및 지적 재산으로 생성형 AI를 미세 조정 또는 보강해 그 엄청난 잠재력을 활용하기 위한 모든 작업을 아우르는 표현입니다. 조정 또는 보강 과정에서 AI 모델은 기업을 깊이 이해하게 됩니다. 이는 고객 서비스 제공, 마케팅 활동 개인화, 영업 프로세스 지원, 법률 및 위험 관리 노력 가속화 등의 작업을 지원하기 위한 더욱 심층적인 인사이트 확보 및 해당 작업들의 안정적인 자동화를 가능케 합니다.

그러나 생성형 AI 모델이 엔터프라이즈 AI가 되려면 엄격한 조건들을 반드시 충족해야 합니다. 기업의 인프라는 미션 크리티컬 워크로드를 위한 강력한 대규모 언어 모델(LLM)을 지원하고, 충분히 안정적이고 강력한 처리 능력, 액세스 제어, 데이터 보안, 백업 및 복구 시스템을 갖추었나요? 직원들은 고도의 역량을 갖춘 AI를 일상 업무에 도입할 준비를 마쳤나요?

생성형 AI를 활용하고자 하는 기업(사실상 모든 기업들)은 다양한 방법을 선택할 수 있습니다. 가장 간단한 방법은 비즈니스 애플리케이션 공급업체와 협력해 기존 워크플로에 AI가 적용된 모듈을 도입하는 것입니다. 또 다른 옵션은 문서 요약, 데이터 분석, 채팅과 같은 기능을 애플리케이션에 추가할 수 있는 API를 통해 생성형 AI 서비스를 활용하는 것입니다. 그 외에도 기술팀은 오픈 소스 및 상용 모델 빌더에서 생성형 AI 모델을 선택하고 훈련용 플랫폼으로 가져와 훈련 또는 보강한 뒤 운영 시스템에 도입할 수 있습니다. 모델을 직접 훈련하는 방식에는 강력한 AI 인프라가 필요합니다.

엔터프라이즈 AI를 성공적으로 구현하고자 하는 기업은 빠르게 발전 중인 AI 기능들을 직원들의 광범위한 워크플로에 추가해 새로운 인사이트를 제공하고 생산성을 높일 수 있도록 지원할 수 있는 능력을 갖추어야 합니다.

핵심 요점

• 엔터프라이즈 AI는 머신러닝 및 최신 생성형 AI 기능을 활용해 비즈니스 문제를 해결합니다.
• 엔터프라이즈 AI는 최신 비즈니스 데이터를 사용하고, 특정한 기업과 관련된 결과물을 제공하기 위한 훈련을 받는다는 점에서 소비자용 AI와는 구분됩니다.
• 엔터프라이즈 AI 시스템은 기존 엔터프라이즈 시스템과의 통합이 필요한 경우가 많고, 엄격한 데이터 거버넌스 및 고가용성을 갖춰야 합니다.
• 기업 고객용 AI의 방대한 가능성에 힘입어 급증하고 있는 비즈니스 기회를 포착하고자 모델 빌더, AI 통합업체, 하이퍼스케일 클라우드 서비스 등으로 구성된 에코시스템도 함께 성장하고 있습니다.

기업에서 AI를 사용하는 방식

엔터프라이즈 AI는 직원과 고객을 위한 다양한 기능을 제공합니다. 개중 몇 가지 예시는 다음과 같습니다.

• 애플리케이션 개발: LLM으로 애플리케이션 코드 초안을 작성해 개발자의 생산성을 향상시킬 수 있습니다.
• 비즈니스 운영: 자연어 프롬프트를 지원하는 AI 지원 데이터베이스는 기업의 데이터에 보다 광범위한 액세스를 제공합니다.
• 고객 운영: 고객의 구매 내역, 과거 상호 작용 내역, 모국어 등의 정보를 이해하는 생성형 AI 모델을 사용해 고객 서비스 상호 작용을 자동화합니다.
• 마케팅: 기업은 구매자 프로필과 구매 이력에 액세스할 수 있는 AI 에이전트를 사용해 대규모로 타기팅된 홍보 및 고객 육성 활동을 수행할 수 있습니다.
• 위험 관리 및 법률: AI 어시스턴트가 문서를 조사하고 초안을 작성해 계약서 작성 속도를 가속화합니다. 승인 완료된 문서는 여러 언어로 번역할 수도 있습니다.
• 영업: AI 기반 가상 영업 담당자는 비즈니스 거래 중에 부드럽고 친근한 어조로 잠재 고객에게 적합한 오퍼링을 안내할 수 있습니다. 잠재 고객을 위한 개인화된 메시지를 작성하는 데에도 도움을 줍니다.
• 전략 및 재무: 내부, 외부, 공개 소스의 데이터를 분석해 자사의 비즈니스 성과는 물론 경쟁사의 성과까지 모니터링하는 강력한 분석 기능을 사용할 수 있습니다.

기업이 현재 엔터프라이즈 AI를 사용하는 방법

엔터프라이즈 AI 시스템은 기업이 생성형 AI를 자사의 비즈니스 운영에 도입할 수 있는 다양한 옵션을 제공합니다.

CIO는 엔터프라이즈 애플리케이션에 내장된 AI를 활용해 이해 관계자들에게 생성형 AI가 비즈니스 운영 개선에 기여하는 방식을 안전하면서도 확실하게 선보일 수 있습니다. SAP, Oracle, Workday와 같은 엔터프라이즈 애플리케이션 공급업체는 ERP, CRM, HCM 등의 비즈니스 애플리케이션 내에서 AI가 생성한 인사이트 및 워크플로를 직접 제공합니다. 주요 공급업체 파트너들과의 협력은 엔터프라이즈 AI를 향한 훌륭한 첫걸음입니다.

다양한 비즈니스 데이터로 생성형 AI 모델을 보강하는 것은 경쟁력 있는 차별화 요소입니다. 이제 기업은 다양한 오픈 소스 및 독점 LLM 중에서 자사에 필요한 규모와 정교함을 갖춘 모델을 선택할 수 있게 되었습니다. 효과적인 커스터마이징을 위해서는 모델을 미세 조정하고 자체 데이터로 보강할 수 있는 플랫폼을 반드시 확보해야 합니다. 그와 같은 플랫폼에는 검색 증강 생성(RAG) 구현 및 로컬 벡터 데이터베이스 등이 필요할 수 있습니다.

클라우드 제공업체의 AI 서비스 사용을 확대하는 것도 인기 있는 방법입니다. 클라우드 제공업체들은 이미 여러 해 동안 이상 징후 감지 및 컴퓨터 비전 등의 작업을 위한 AI 및 ML 모델을 제공해 왔습니다. 애플리케이션 개발자는 이러한 AI 서비스들을 활용해 기존의 개발 속도를 유지하며 머신러닝 기능을 추가할 수 있고, 커스텀 훈련을 통해 AI 서비스로부터 더 정확하고 관련성 높은 결과를 도출할 수도 있습니다.

생성형 AI 및 ML 모델 훈련을 위해 설계된 기업용 클라우드 플랫폼을 이용할 수도 있습니다. 기업이 독자적인 AI 및 ML 구현을 설계하고 시작할 수 있는 클라우드 기반 플랫폼이 계속해서 탄생하고 있습니다. 이러한 플랫폼은 비즈니스 담당자, 데이터 과학자, 데이터 관리자 간의 협업을 촉진해 그들이 자사에 적합한 생성형 AI 모델을 찾아내고 커스터마이징하거나, 인기 있는 오픈 소스 프레임워크를 사용해 새롭고 정교한 ML 모델을 직접 구축, 훈련, 배포, 관리하는 작업을 지원합니다.

클라우드 제공업체는 인프라 분야에서도 탁월한 서비스를 제공합니다. 딥 러닝은 대부분의 기업에서 가장 많은 컴퓨팅 파워를 사용하는 시스템입니다. 따라서 기업들은 생성형 AI의 훈련 및 제공에 필요한 GPU를 갖춘 클라우드 인프라를 이용합니다. 또한 클라우드 인프라 서비스는 클라우드의 탄력성 및 사용량 기반 요금제의 이점을 바탕으로 AI 관련 비용 절감에도 기여합니다.

정부 기관 및 다른 조직 중에는 AI 기술 및 관련 데이터가 배포되는 위치와 방법, AI 기술 운영에 사용되는 정책과 인력, 데이터 보호를 위한 프로세스 및 시스템에 대한 엄격한 통제를 요구하는 경우도 있습니다. 따라서 대형 클라우드 공급업체들은 소버린 클라우드 및 소버린 AI 옵션을 전 세계적으로 확대하고 있습니다.

마지막으로 독립 소프트웨어 공급업체(ISV)는 제조, 리테일, 법률, 건설 등 다양한 산업 분야의 기업 고객에게 전문적인 생성형 AI를 제공할 수 있습니다.

결론은, 기업은 엔터프라이즈 AI를 활용하기 위해 혼자 고민하고 노력할 필요가 없다는 것입니다.

소비자 AI와 엔터프라이즈 AI의 차이점

소비자 AI와 엔터프라이즈 AI의 기본 기능은 동일하지만, 소비자 AI는 개인 경험과 엔터테인먼트에 집중하는 반면, 엔터프라이즈 AI는 비즈니스 도전 과제 해결 및 효율성 개선에 집중합니다.

세부적인 차이점은 다음과 같습니다.

소비자 AI

소비자 AI는 음성 검색, 스마트 홈 자동화, 개인화된 음악 또는 영화 추천을 지원하는 Siri, Alexa, Google Assistant 등 널리 쓰이는 가상 어시스턴트들의 기반입니다. 소비자 AI는 대부분 광범위한 공개 데이터를 학습하고, 소비자 AI 애플리케이션은 일반적으로 개별 사용자 단위의 상호 작용을 처리하도록 설계됩니다. 소비자 AI 시스템은 수백만 명의 사용자를 수용할 수 있는 확장성을 갖출 수 있도록 구축되지만, 작업의 복잡성은 개인의 요구 사항을 충족할 수 있는 수준으로 제한되고, 음성 녹음, 위치 정보, 검색 기록과 같은 개인 데이터로 보완되는 경우가 많습니다.

엔터프라이즈 AI

엔터프라이즈 AI는 정부 기관이나 의료 서비스 제공업체와 같은 기업 및 조직의 운영 효율성, 의사 결정, 생산성 향상을 지원하는 것을 목표로 개발되었습니다. 엔터프라이즈 AI 솔루션은 기존 엔터프라이즈 시스템과 통합되는 경우가 많고, 통합을 구현하는 담당자는 복잡한 알고리즘 및 머신러닝 모델을 이해해야 할 수 있습니다. 엔터프라이즈 AI는 그 특성상 비즈니스 운영, 고객 정보, 독점 지식 등과 관련된 민감한 데이터를 다루는 경우가 많으므로 이러한 데이터를 무단 액세스나 침해로부터 보호하기 위한 강력한 보안 조치가 필요합니다. 엔터프라이즈 AI의 일반적인 사용 방식으로는 고객 서비스 챗봇, 데이터 분석 도구, 공급망 최적화 시스템 등이 있습니다.

Oracle 솔루션과 함께 엔터프라이즈 AI 활용하기

Oracle의 목표는 모든 고객이 가장 적합한 방식으로 생성형 AI를 도입할 수 있도록 지원하는 것입니다. 이를 위해 Oracle Cloud Infrastructure(OCI) 기술 스택의 모든 계층에는 생성형 AI가 내장되어 있습니다.

사용자는 Oracle 애플리케이션 내에서 AI 생성형 인사이트에 액세스하거나, API를 통해 모든 애플리케이션에 AI 서비스를 업데이트하고 AI 기반 이상 징후 감지 또는 문서 요약과 같은 작업을 수행할 수 있습니다. 데이터베이스 부문에서는 Oracle Database 23ai 및 Heatwave MySQL을 활용해 LLM 및 RAG의 성능을 엔터프라이즈 데이터 스토어와 결합하고, 직원들이 자연어 프롬프트로 지식 베이스를 쿼리할 수 있도록 지원할 수 있습니다.

마지막으로, OCI는 독점 및 오픈 소스 생성형 LLM 서비스를 제공합니다. 사용자는 요구 사항에 가장 잘 부합하는 모델을 선택하고, 가장 까다로운 AI 워크로드도 문제없이 처리할 수 있는 Oracle의 인프라에서 해당 모델을 실행할 수 있습니다.

2022년 말, 생성형 AI가 대중적으로 주목받기 시작한 뒤 기업의 리더들이 생성형 AI의 잠재력을 깨닫기까지는 그리 오랜 시간이 걸리지 않았습니다. 생성형 AI를 비즈니스에 도입할 수 있는 다양한 방법도 생겨났습니다.

생성형 AI의 비즈니스적 사용법을 파악한 기업의 직원들은 새로운 워크플로 관리 도구, 보다 광범위한 데이터 분석 등의 혜택을 누릴 수 있게 될 것입니다. 또한 엔터프라이즈 AI는 은행 업무, 여행, 외식, 쇼핑 등의 소비자 대상 서비스에도 녹아들 것입니다. 엔터프라이즈 AI 혁신은 이제 막 시작되었습니다. 그 결과는 과감하게 AI 기반의 미래로 나아가고 있는 비즈니스 리더들에게 달려 있습니다.

엔터프라이즈 AI FAQ

소비자 AI와 엔터프라이즈 AI의 차이점은 무엇인가요?

소비자 AI는 Siri, Alexa와 같은 인기있는 챗봇, Google, Perplexity AI와 같은 웹사이트 등의 형식으로 제공되고 널리 이용 가능한 공개 정보를 다룹니다. 엔터프라이즈 AI는 많은 경우 기업의 주요 정보가 담긴 로컬 데이터 저장소를 기반으로 작동하고, 기업의 생산성 및 효율성 향상에 사용됩니다.

엔터프라이즈 생성형 AI란 무엇인가요?

엔터프라이즈 생성형 AI는 기업이 생성형 AI 모델을 활용해 자사의 운영을 개선하기 위해 수행하는 작업을 지칭합니다. LLM을 사용해 개발자 생산성을 개선하거나, 비즈니스 애플리케이션 내에 AI 생성형 인사이트를 추가하거나, 기업의 모든 직원이 자연어 프롬프트를 사용해 지식 저장소를 쿼리할 수 있도록 지원하는 등의 다양한 방식으로 엔터프라이즈 생성형 AI를 구현할 수 있습니다.

엔터프라이즈 AI 시장의 규모는 어느 정도인가요?

2023년 엔터프라이즈 AI 서비스 시장의 규모는 약 240억 달러에 달했다는 것이 전문가들의 공통된 의견입니다. 그러나 AI에는 깨끗한 데이터 소스가 필요하므로 엔터프라이즈 AI는 거의 10년 동안 진행되어 온 디지털 전환의 연장선상에 있는 작업처럼 보이기도 합니다. 따라서 현재로서는 엔터프라이즈 AI만의 독자적인 시장 규모를 평가하기는 어렵습니다. 2032년에는 엔터프라이즈 AI 서비스 시장이 미화 3,400억 달러 이상으로 10배 성장할 것이라는 전망이 지배적입니다.