11 häufige Herausforderungen von KI-Start-ups und wie sie bewältigt werden können

Als OpenAI im November 2022 ChatGPT, sein Large Language Model (LLM), der Öffentlichkeit vorstellte, hatte es innerhalb von nur zwei Monaten 100 Millionen Nutzer. Das machte ChatGPT zu einer der am schnellsten wachsenden Verbraucher-Apps überhaupt.

Auch Investoren wurden darauf aufmerksam.

Seitdem haben die Mitglieder der Forbes-Liste der 50 führenden KI-Unternehmen zusammen mehr als 27,2 Milliarden US-Dollar aufgebracht. Einige dieser Firmen sind weniger als ein Jahr alt und haben unter 20 Mitarbeiter. Für KI-Start-ups mit interessanten Ideen sitzt das Geld locker.

Geld allein garantiert jedoch noch keinen Erfolg. KI-Start-ups stellen sich einzigartigen Herausforderungen, die mehr als nur den üblichen Mut, das richtige Timing und das richtige Wachstumsmanagement erfordern. Das Training der LLMs, auf denen Dienste wie ChatGPT oder der KI-Bildgenerator von Midjourney basieren, ist eine der rechenintensivsten Aufgaben, die die Menschheit je entwickelt hat. Investmentfirmen sagen, dass der Großteil des Kapitals, das KI-Start-ups beschaffen, direkt in Computing-Ressourcen fließt.

Darüber hinaus sind KI-Start-ups für die Sicherheit und den Schutz sensibler Informationen verantwortlich, die in den Bergen von Trainingsdaten lauern, die ihre Modelle aufnehmen. Gleichzeitig kämpfen sie darum, mit etablierten Giganten zu konkurrieren, die ebenfalls schnell Marktanteile erobern wollen.

Microsoft-Gründer Bill Gates bezeichnet KI als die bedeutendste Entwicklung in der Computerbranche seit der grafischen Benutzeroberfläche, die den Macintosh von Apple und alle seitdem populären Betriebssysteme und Anwendungen auf den Markt brachte. Es ist also verständlich, dass Unternehmer ein Stück von diesem Kuchen abhaben wollen. Schauen wir uns einmal die Faktoren an, die KI-Start-ups beachten sollten, wenn sie in den Ring steigen.

Was ist ein KI-Start-up?

Es gibt drei Arten von Start-ups für generative KI: solche, die LLM-Plattformen entwickeln, wie OpenAI oder Cohere; solche, die neue Tools für die Erstellung und das Training von LLMs anbieten, wie MosaicML; und solche, die Open-Source-LLMs heranziehen und sie darauf trainieren, bestimmte Geschäftsprobleme zu lösen – ein Beispiel ist Tome, das KI einsetzt, um Geschäftspräsentationen zu verbessern.

Alle KI-Start-ups arbeiten im Windschatten von ChatGPT, Google und anderen Firmen, die leistungsstarke Computing-Architekturen, sogenannte neuronale Netze, und Algorithmen für maschinelles Lernen verwendet haben, um benutzerfreundliche, natürlichsprachliche Schnittstellen zu entwickeln, die menschenähnliche Texte, visuelle Inhalte und Computercode generieren und viele weitere Aufgaben ausführen können.

Wichtige Erkenntnisse

• Obwohl KI-Plattformen bereits seit vielen Jahren eingesetzt werden, hat erst die Veröffentlichung von LLMs für den öffentlichen Gebrauch im Jahr 2022 zu einer Flut neuer Start-ups geführt.
• Investoren finden, prüfen und finanzieren diese Start-ups in einem rasanten Tempo.
• KI-Start-ups agieren in einem dynamischen Umfeld, das von Bedenken hinsichtlich des Datenschutzes und der Regulierung, dem Wettbewerb um Rechenkapazitäten und Bedrohungen durch etablierte Unternehmen geprägt ist.

11 Herausforderungen für KI-Start-ups

Von kapitalkräftigen Wunderkindern bis hin zu Start-ups, die sich selbst finanzieren – diese Start-ups stehen vor Stolpersteinen, die spezifisch für Anbieter von KI-basierten Services sind. Die folgenden 11 Herausforderungen vermitteln einen guten Eindruck von den möglichen Hindernissen, die auf uns warten.

1. Sicherheit und Datenschutz

KI-Start-ups übernehmen Verantwortung für Sicherheit und Datenschutz, die über die üblichen Datenschutzmaßnahmen von Unternehmen hinausgeht. Viele Sicherheitsmaßnahmen werden bereits bekannt sein, wie z. B. die Verwendung eines Zero-Trust-Modells oder die Überwachung von Netzwerken auf böswillige Aktivitäten, die automatische Reaktionen und Warnmeldungen auslösen. Doch es gibt auch neue Herausforderungen. Zum Beispiel könnten KI-Modelle möglicherweise Details aus den Daten, die für ihr Training verwendet wurden, durchsickern lassen. Diese Datensätze können Hunderte von Gigabyte oder sogar Terabyte groß sein und aus einer Reihe von Quellen stammen. Sie können sensible Daten enthalten, darunter Namen, Adressen und andere personenbezogene Daten. Könnte ein Modell, das mit diesen Daten trainiert wird, in seiner Ausgabe persönliche Informationen widerspiegeln?

Für ein Start-up ist es wichtig zu wissen, welche Daten in seinen Trainingssätzen enthalten sind, und einen Plan zu haben, um die Risiken im Zusammenhang mit sensiblen oder regulierten Informationen zu minimieren. Diese Unternehmen müssen Investoren davon überzeugen, dass sie diese Bedenken berücksichtigen – und einen Kommunikationsplan für den Fall haben, dass etwas schief geht.

2. Datenvolumen

KI-Unternehmen trainieren und setzen große Sprachmodelle (LLMs) mit umfangreichen Datensätzen und Milliarden von Parametern für alle möglichen Anwendungsfälle ein, darunter die Verarbeitung natürlicher Sprache (NLP) und die Bilderstellung. Sie entwickeln zudem KI-Modelle für die Bildverarbeitung, Prognose und Vorhersage, Anomalieerkennung und vieles mehr. Insbesondere LLMs erfordern unglaublich große Datenmengen, um genaue und einheitliche Ergebnisse zu erzielen.

Wenn Sie ein KI-Start-up sind, ist das Datenmanagement das Herzstück Ihres Unternehmens.

Eine zentrale Herausforderung besteht jedoch darin, die richtigen Datensätze für Ihre KI-Trainingsforderungen zu finden und sie in ein massives Data Warehouse oder Data Lakehouse hochzuladen. Dann müssen die Daten sicher durch neuronale Netze und Algorithmen für maschinelles Lernen fließen, wobei Supercluster von Grafikprozessor-Servern (GPU) verwendet werden – wenn man sie denn findet.

3. Rechenkapazität

Eine Behauptung, die wir immer wieder in Fernsehsendungen, Filmen und den gängigen Medien sehen, lautet, dass KI die Welt zerstören werde. Ein mögliches Gegenargument: „Woher soll diese böse KI die GPUs bekommen?“

Um die neuronalen Netze zu betreiben, auf denen KI-Modelle basieren, teilen GPUs die Rechenarbeit auf. Das System führt dann Abfragen parallel über eine Reihe von GPUs aus. Dadurch wird die CPU des Computers entlastet und das Netzwerk kann komplexe Berechnungen sehr schnell durchführen. Das Trainieren und Ausführen von KI-Modellen erfordert so viel Rechenleistung, dass es den Chipherstellern und Cloud-Anbietern weltweit schwer fällt, mit der Nachfrage Schritt zu halten. Seien Sie sich bewusst, dass Sie sich möglicherweise anstellen müssen, um Chips zu kaufen, oder einen Cloud-Anbieter davon überzeugen müssen, dass Ihr KI-Start-up diese wertvollen GPUs verdient.

4. Anpassung

Man kann mit Sicherheit sagen, dass die meisten KI-Start-ups ihre Unternehmen auf einem LLM aufbauen werden, das von einem anderen Unternehmen entwickelt wurde, da es in den meisten Fällen effizienter ist, ein KI-Modell von OpenAI oder Cohere anzupassen, als ein Modell von Grund auf neu zu entwerfen, zu erstellen und zu trainieren.

Es gibt zwei gängige Ansätze zur Anpassung eines LLM für eine bestimmte Branche oder einen Anwendungsfall: die Feinabstimmung und die Retrieval-Augmented Generation (RAG). Die Feinabstimmung der Ergebnisse eines KI-Systems erfolgt, indem man es mit großen Datenmengen trainiert, die für Ihr Anliegen spezifisch sind, und die KI anweist, diesen Informationen in ihren Antworten mehr Gewicht zu verleihen. Die andere Option, RAG, besteht darin, hochrelevante Dokumente in eine Datenbank einzubetten, die die KI verwendet, um den schriftlichen oder mündlichen Aufforderungen, die sie erhält, einen Kontext zu geben. Mit RAG ermöglichen diese Dokumente der KI, relevante technische Details zu ihrer Ausgabe hinzuzufügen und sogar anzugeben, woher sie die Informationen erhalten hat. Ein Start-up-Unternehmen im Gesundheitswesen könnte beispielsweise Dokumente oder Artikel einbetten, die seinem LLM helfen, die Absicht von Aufforderungen von medizinischen Fachkräften besser zu verstehen und dann eine Ausgabesprache bereitzustellen, die mit ihren Spezialisierungen zusammenhängt.

Jede Methode hat Vor- und Nachteile in Bezug auf Geschwindigkeit, Qualität und Kosten. Der Ansatz zur Anpassung eines LLM ist eine wichtige Entscheidung für jedes KI-Start-up, das einen branchen- oder anwendungsspezifischen Service anbieten möchte.

5. Cloud-Kosten

Für schnelllebige Start-ups ist es schwer, eine vorgefertigten Cloud-Infrastruktur abzulehnen. Jeder Hyperscale-Cloud-Anbieter bietet alles, was für das Training oder die Anpassung großer Sprachmodelle erforderlich ist, einschließlich Clustern von Recheninstanzen, die über ein Netzwerk mit hoher Bandbreite und ein leistungsstarkes Dateisystem verbunden sind. Und da diese Services verbrauchsabhängig sind, sind sie oft günstiger und in der Regel viel schneller als die Einrichtung einer On-Premises-Infrastruktur.

Aufgrund der verbrauchsabhängigen Abrechnung dieser Systeme müssen Geschwindigkeit und Effizienz gegen die Kosten abgewogen werden. Ein KI-Start-up kann seine Ausgaben niedrig halten, indem es ein LLM einsetzt, das mit möglichst wenig komplexen Algorithmen und Daten auskommt. Sobald diese Budgetberechnung abgeschlossen ist, wählen Sie eine Cloud-Infrastruktur, die Ihr Modell effizient handhabt. So wird beispielsweise durch den Betrieb auf Bare-Metal-Servern der Overhead virtualisierter Instanzen vermieden und eine bessere Leistung erzielt. Das ist umso wichtiger, wenn es um gebündelte Workloads geht, die bei LLMs üblich sind.

Denken Sie daran: Je schneller Ihr Auftrag erledigt wird, desto weniger zahlen Sie.

6. Effizienz

Es kann viele Gigawattstunden Energie kosten, ein LLM zu trainieren. Zur Veranschaulichung: Ein Gigawatt könnte laut der Investmentfirma The Carbon Collective bis zu 874.000 Haushalte ein Jahr lang mit Strom versorgen. Ein Start-up, das Risikokapitalgeber sucht, um LLM-basierte Dienstleistungen anzubieten, muss nachweisen, dass es sein Geld sinnvoll einsetzt. Zum Beispiel benötigen nicht alle KI-Aufgaben das gleiche Maß an Modellkomplexität oder Rechenleistung. Eine wachsende Sammlung von LLMs von Unternehmen wie OpenAI, Cohere, Anthropic und anderen bietet verschiedene Varianten und Größen. Sie sollten darauf vorbereitet sein, zu erklären, warum Ihre Wahl Ihren Bedürfnissen und Ihrem Budget entspricht.

Sobald Sie Ihr Modell und Ihre Datensätze ausgewählt haben, wählen Sie sorgfältig eine Infrastruktur mit effizienter paralleler Verarbeitung und dynamischer Skalierung aus, um zu vermeiden, dass Sie für Rechenressourcen bezahlen, die Sie nicht nutzen. Seien Sie bereit, den Investoren zu zeigen, dass Ihre Entscheidungen ein Gleichgewicht zwischen Leistung und Erschwinglichkeit schaffen.

7. Umfang

Es gibt drei grundlegende Techniken zur Skalierung von LLMs, um die Qualität und/oder Geschwindigkeit der LLM-Ergebnisse zu erhöhen: Erhöhung der Trainingsdatenmenge, Verwendung eines größeren und komplexeren Modells oder Hinzufügen von Rechenkapazität.

Ein größeres Modell erhöht die Anzahl der Schichten und Parameter in der neuronalen Netzwerkarchitektur und verleiht ihr eine höhere Kapazität, um komplexe Muster in den Daten zu erlernen und darzustellen. Infolgedessen wird Ihr LLM detailliertere und nuanciertere Antworten geben. Durch das Hinzufügen von mehr Gigabyte an Trainingsdaten kann Ihr KI-Start-up genauere oder vollständigere Antworten liefern. In beiden Fällen müssen Sie auch teure Rechenressourcen aufstocken, um die Modellleistung aufrechtzuerhalten.

8. Datenqualität

Die Qualität ist keine Herausforderung, die sich speziell auf künstliche Intelligenz bezieht. Business Analysts sorgen sich seit Jahrzehnten um die Qualität der von ihnen verwendeten Daten. KI-Start-ups müssen auf das Fachwissen von Data Scientists und Fachexperten zurückgreifen, um redundante Informationen, irrelevante Inhalte und andere „Störfaktoren“ aus den Datensätzen zu entfernen, die zum Trainieren von Algorithmen und zum Füttern von LLMs verwendet werden.

„Garbage in, garbage out“ ist ein Konzept, das bei KI-Start-ups Anklang finden sollte.

9. KPIs und Messungen

Für KI-Start-ups ist es wichtig, sowohl quantitative als auch qualitative Erfolgsmaßstäbe festzulegen. Zu den quantitativen Maßstäben gehören die Kapitalrendite von Technologieinvestitionen und technische Leistungskennzahlen (KPIs) wie der mittlere quadratische Fehler (MSE), der Ausreißerergebnisse identifiziert.

Darüber hinaus sollte ein KI-Start-up in der Lage sein, qualitative Ergebnisse zu messen, z. B. wie gut ein KI-Modell bei neuen oder bisher nicht gesehenen Daten abschneidet, wie relevant die Ergebnisse für die Zielgruppe sind und wie umfassend die Ergebnisse im Kontext des diskutierten Bereichs sind.

10. Finanzierung

Es gibt verschiedene Ansätze zur Finanzierung eines KI-Start-ups. Sie können dem Beispiel von LLMs wie Midjourney und Surge AI folgen, die ihren Kundenstamm schrittweise vergrößert haben, ohne Investitionsgelder in Anspruch zu nehmen. Wenn Ihr KI-Start-up nicht auf das Bootstrap-Wachstum warten kann, gibt es immer noch Business Angels, Accelerators und Inkubatoren, die alle auf der Suche nach KI-Gründern mit einem scharfen Verstand und guten Ideen sind. Der Vorteil von Inkubatoren und Accelerators besteht darin, dass sie Kontakte, Zugang zu Marktchancen, Unternehmensberatung und sogar Technologieplattformen für den Aufbau eines KI-Dienstes bieten.

11. Vertrieb und Marketing

Moderne Vertriebs- und Marketingplattformen setzen KI in jeder Phase der Customer Journey ein. Jedes KI-Start-up, das seinen Marktanteil vergrößern möchte, wird KI zu Hilfe nehmen wollen. Wie funktioniert das? KI kann detaillierte Daten, einschließlich Echtzeit-Geolokalisierungsdaten zur Kartierung und Verfolgung von Bewegungen, nutzen, um Produkt- oder Dienstleistungsangebote zu erstellen, die auf potenzielle Kunden zugeschnitten sind. KI-Assistenten können dann Upselling- und Cross-Selling-Möglichkeiten generieren oder Käufer dazu anregen, Transaktionen abzuschließen, sobald Artikel in ihrem Warenkorb liegen. Solche Taktiken erhöhen nachweislich die Konversionsraten und erfreuen Investoren, die darauf brennen, dass ein Start-up seine Umsätze steigert.

Nach dem Verkauf können KI-gestützte Services Anfragen bearbeiten, den Kontext verstehen und Vorschläge unterbreiten, während sie gleichzeitig konkrete Details zu Termin- oder Lieferzeiten mitteilen und komplexere Fragen an menschliche Mitarbeiter weiterleiten. Wenn Sie sehen, wie diese KI-gestützten Services funktionieren, können Sie die Angebote Ihres eigenen KI-Start-ups besser einschätzen.

Ihr Unternehmen mit Oracle skalieren

Wenn Sie ein KI-basiertes Unternehmen aufbauen möchten, sollten Sie Oracle Cloud Infrastructure (OCI) in Betracht ziehen, das eine robuste Infrastruktur für Schulungs- und Bereitstellungsmodelle in großem Maßstab bietet. Durch die Partnerschaft mit NVIDIA kann Oracle seinen Kunden Supercluster zur Verfügung stellen, die mit den neuesten Grafikprozessoren ausgestattet und mit einem RDMA-over-Converged-Ethernet-Netzwerk (RoCE) mit extrem niedriger Latenz verbunden sind. Diese Architektur bietet eine leistungsstarke, kostengünstige Methode für das Training generativer KI-Modelle in großem Maßstab. Viele KI-Start-ups, einschließlich Adept und MosaicML, erstellen ihre Produkte direkt auf OCI.

Oracle erleichtert den Einstieg in OCI-Services, einschließlich ausgewählter Always-Free-Cloud-Services. Start-ups können mit Entwickler-Sandboxes oder Paketbereitstellungen beliebter Software lernen, z. B. durch die Bereitstellung eines Kubernetes-Clusters.

Um Start-ups bei der Entscheidung zu helfen, stellt Oracle Untersuchungstools zur Verfügung, darunter Kostenrechner, Bewertungen von Drittanalysten und detaillierte Vergleiche zwischen OCI und anderen Cloud-Plattformen.

Künstliche Intelligenz ist seit mehr als einem Jahrzehnt Teil unseres Lebens. Sie arbeitet im Hintergrund, überwacht Millionen von Banktransaktionen auf Betrug, greift ein, um Kundeninteraktionen an vorderster Front zu bearbeiten, und trifft blitzschnelle Entscheidungen, um die Logistik des Übernachtversands zu beschleunigen. Mit der neuesten Generation von LLMs erhalten die subtilen, leistungsstarken und verblüffenden Fähigkeiten der KI nun die Benutzerschnittstelle, die sie verdienen: das natürliche, gesprochene oder geschriebene Wort.

Infolgedessen haben LLMs die Vorstellungskraft der Menschen mit Bildgestaltung, geschriebenem Text und Übersetzung und sogar mit der Generierung von Codes erobert. Obwohl noch jede Menge Herausforderungen zu bewältigen sind, ist jetzt der richtige Zeitpunkt für KI-Start-ups, Investoren zu finden, neue Kunden zu gewinnen und zu expandieren, als wäre es das Jahr 1999.

Häufig gestellte Fragen zu KI und Start-ups

Was sind häufige Herausforderungen für KI-Start-ups?

KI-Start-ups stehen vor der Herausforderung, das richtige LLM für das Training auszuwählen, die richtigen Trainingsdaten zu finden und die immense Rechenleistung aufzubringen, die zur Unterstützung ihrer neuronalen Netze erforderlich ist. Außerdem wären da noch die Probleme mit dem Datenschutz, der Datensicherheit und den sich ändernden Vorschriften.

Welche Arten von Services bieten KI-Start-ups an?

Start-ups im Bereich der künstlichen Intelligenz tauchen in allen Geschäftsbereichen auf, darunter so unterschiedliche Bereiche wie das Gesundheitswesen, die Fertigung und die Landesverteidigung. Einige Start-ups bieten Verbrauchern Produkte an, während andere Tools entwickeln, die von anderen KI-Unternehmen zum Aufbau und Training ihrer Modelle verwendet werden.

Wie finden KI-Start-ups Finanzmittel?

Start-ups, die auf der Suche nach Investoren sind, können schnell einen Business Angel finden, der nach Investitionsmöglichkeiten Ausschau hält. Weitere Optionen sind Technologie-Inkubatoren oder Accelerators, die Start-up-Gründern Beratung und technologische Unterstützung bieten können.