HeatWave GenAI Veelgestelde vragen

Algemeen

Wat is HeatWave GenAI?

Oracle HeatWave GenAI biedt geïntegreerde en geautomatiseerde generatieve AI met in-database LLM's (grote taalmodellen), een geautomatiseerde in-database vectoropslag, scale-out vectorverwerking en de mogelijkheid om contextuele gesprekken in een natuurlijke taal te voeren. Zo kunt u profiteren van generatieve AI zonder expertise op het gebied van AI, gegevensverplaatsing of extra kosten.

Wat zijn de belangrijkste kenmerken van HeatWave GenAI?

De belangrijkste kenmerken van HeatWave GenAI zijn

• In-database LLM's
• Integratie met OCI Generative AI en Amazon Bedrock
• In-database vectoropslag
• Geautomatiseerde generatie van embeddingen
• Scale-out vectorverwerking
• HeatWave Chat

Welke LLM's zijn beschikbaar als in-database modellen in HeatWave?

Gekwantiseerde versies van de volgende in-database LLM's zijn momenteel beschikbaar in HeatWave:

• llama3-8b-instruct-v1
• mistral-7b-instruct-v1

Hoe wordt HeatWave Vector Store geautomatiseerd?

Met één SQL-opdracht maakt u een vectoropslag voor ongestructureerde bedrijfsinhoud. Alle processen voor het creëren van vectoropslag en vectorinsluitingen zijn geautomatiseerd en vinden plaats binnen de database. Dit omvat het identificeren van documenten in de objectopslag, het ontleden, het op een zeer parallelle en geoptimaliseerde wijze genereren van insluitingen, en het invoegen in de vectoropslag, wat de HeatWave Vector Store efficiënt en gebruiksvriendelijk maakt.

Heeft HeatWave GPU's nodig om in-database LLM's uit te voeren?

HeatWave draait op standaardhardware. In-database LLM's draaien niet op GPU's, maar op CPU's. Hierdoor kunt u kosten besparen en hoeft u zich geen zorgen te maken over de beschikbaarheid van LLM's in verschillende datacenters.

Hoe helpt HeatWave GenAI de gegevensbeveiliging te verbeteren?

Bij gebruik van in-database LLM's en een in-database vectoropslag verlaten gegevens de database niet, wat de gegevensbeveiliging ten goede komt.

Kan ik HeatWave GenAI op AWS draaien?

Ja, HeatWave GenAI is beschikbaar op AWS, samen met andere HeatWave-mogelijkheden, waaronder HeatWave MySQL, HeatWave Lakehouse, HeatWave AutoML en HeatWave Autopilot.

Worden meerdere talen ondersteund voor het genereren van insluitingen?

Ja, insluitingen kunnen in 27 talen worden gegenereerd voor tekstgegevens.

Welke talen worden ondersteund voor het geven van prompts?

Prompts kunnen in het Engels worden uitgegeven. Prompts in andere talen, zoals Spaans en Duits, kunnen naar het Engels worden vertaald.

Kan ik vectorzoeken gebruiken zonder het HeatWave-cluster?

Nee, vectoronderzoek wordt binnen het HeatWave-cluster uitgevoerd.

Welke vormen moeten worden gebruikt voor HeatWave GenAI?

HeatWave draait op een MySQL-node. We raden een MySQL-node met een MySQL.32-vorm aan, plus HeatWave-nodes met de HeatWave.512GB-vorm voor een productieomgeving. Voor ontwikkeling/testen kan een kleinere MySQL-vorm worden gebruikt. Klik hier voor informatie over ondersteunde MySQL-vormen. Voor HeatWave GenAI wordt de vorm HeatWave.32GB niet ondersteund.

Welk type documenten wordt ondersteund voor het maken van vectoropslag?

Pdf, tekst, PowerPoint, Word en HTML zijn de ondersteunde indelingen.

Hoeveel kost HeatWave GenAI?

Er zijn geen extra kosten naast de kosten van het HeatWave-cluster voor het gebruik van HeatWave GenAI. U kunt zonder extra kosten een beroep doen op in-database LLM's en insluitingsmodellen die met HeatWave GenAI worden geleverd. U kunt ook een beroep doen op externe LLM's die beschikbaar zijn via OCI Generative AI op OCI en Amazon Bedrock op AWS. Deze services worden vervolgens in rekening gebracht.

Worden mijn gegevens gebruikt voor het trainen van LLM's?

Nee, LLM's zijn vooraf getrainde modellen. Uw gegevens worden niet gebruikt voor het trainen van LLM's.

Ondersteunt HeatWave GenAI fine-tuning?

Nee, in-database LLM's die bij HeatWave worden geleverd, kunnen niet worden verfijnd.

Kan ik mijn eigen LLM's meenemen of modellen insluiten?

Nee, u kunt uw eigen LLM's niet meenemen of modellen insluiten. U kunt echter wel een beroep doen op de externe LLM's of insluitingsmodellen die beschikbaar zijn via OCI Generative AI als u HeatWave GenAI op OCI uitvoert en via Amazon Bedrock als u HeatWave GenAI op AWS uitvoert.

Wat is de verwachte kwaliteit van de resultaten als de LLM's in de database worden gekwantificeerd?

Uit onze tests blijkt dat de resultaten vergelijkbaar zijn met die van niet-gekwantiseerde LLM's voor toepassingen die afhankelijk zijn van HeatWave Vector Store. U kunt gemakkelijk de modellen testen om hun prestaties en de kwaliteit van de resultaten te beoordelen.

Hoe vaak moet ik insluitingen maken?

U hoeft maar één keer insluitingen te genereren, die in HeatWave Vector Store worden opgeslagen. Veranderingen aan ongestructureerde documenten in objectopslag zullen automatisch leiden tot updates van de bijbehorende vectorinsluitingen.

Kunnen documenten met afbeeldingen in HeatWave Vector Store worden geïmporteerd?

Ja, HeatWave Vector Store kan met behulp van optische tekenherkenning gescande inhoud die als afbeelding is opgeslagen, converteren naar tekstgegevens voor analyse, zoals het zoeken naar overeenkomsten.