ICONIQ veröffentlicht: 2025 AI Builder's Handbook - Ein umfassender Leitfaden zur Entwicklung, Skalierung und Optimierung von AI-Produkten

Verzeichnis (auf der Festplatte des Computers)

1. einleitung

Wir sind der Meinung, dass die Entwicklung und der Betrieb von KI-Produkten die neue Grenze des Wettbewerbs ist, und die Stimmen der Architekten, Ingenieure und Produktmanager, die diese Bemühungen vorantreiben, verdienen mehr Aufmerksamkeit. Während sich der letztjährige KI-Bericht auf die Kaufentscheidung und die Dynamik der Unternehmensakzeptanz konzentrierte, verlagert der Bericht 2025 den Fokus auf das "Wie": wie man KI-gestützte Produkte von Anfang bis Ende konzipiert, liefert und skaliert.

Der diesjährige Bericht befasst sich mit den wichtigsten Aspekten des Bauhandbuchs:

1. Produktfahrplan & ArchitekturBest Practices für ein ausgewogenes Verhältnis zwischen Experimenten, Einführungsgeschwindigkeit und Leistung in jeder Phase der Modellentwicklung.
2. MarkteintrittsstrategieWie Teams Preismodelle und Markteintrittsstrategien anpassen können, um die einzigartigen Werttreiber von KI zu berücksichtigen.
3. Menschen und TalenteStellen Sie das richtige Team zusammen, um KI-Fachwissen zu nutzen, die funktionsübergreifende Zusammenarbeit zu fördern und Innovationen über einen längeren Zeitraum zu unterstützen.
4. Kostenmanagement und Rentabilität der InvestitionenAusgabenstrategien und Benchmarks im Zusammenhang mit der Entwicklung und Einführung von KI-Produkten.
5. Interne Produktivität und BetriebWie Unternehmen KI in ihre täglichen Arbeitsabläufe einbinden und welche Faktoren die Produktivität am meisten steigern.

2. generative KI-Produkte entwickeln

2.1 KI-Produkttypen

• Proxy-Workflow und Anwendungsschichtist die häufigste Art von Produkten, die von KI-nativen und KI-fähigen Unternehmen entwickelt werden. Bemerkenswert ist, dass etwa 80% der KI-nativen Unternehmen derzeit Agenten-Workflows entwickeln.

2.2 Verwendung von Modellen

• Die meisten Unternehmen, die KI-Anwendungen entwickeln, greifen auf KI-APIs von Drittanbietern zurück. Wachstumsstarke Unternehmen verfeinern jedoch auch bestehende Basismodelle und entwickeln eigene Modelle von Grund auf.

2.3 Wichtige Überlegungen zur Auswahl eines Basismodells

• ProduktentwicklungBei der Auswahl eines Basismodells für Kundenanwendungsfälle geben die Unternehmen der Modellgenauigkeit den Vorrang vor allen anderen Faktoren.

Im letztjährigen KI-Bericht wurden die Kosten im Vergleich zu anderen Faktoren wie Leistung, Sicherheit, Anpassbarkeit und Kontrolle als wichtigstes Kaufkriterium genannt. In den diesjährigen Daten waren die Kosten deutlich höher, was möglicherweise die Kommodifizierung der Modellebenen mit dem Aufkommen kostengünstigerer Modelle wie DeepSeek widerspiegelt.

2.4 Anbieter von Spitzenmodellen

• Das GPT-Modell von OpenAIist nach wie vor das am weitesten verbreitete Modell; viele Unternehmen verfolgen jedoch zunehmend einen Ansatz mit mehreren Modellen, um KI-Produkte für verschiedene Anwendungsfälle zu entwickeln.

Exegese(1) Unternehmen, die Endnutzeranwendungen und KI-Kernmodelle/-technologien entwickeln.

Unternehmen verfolgen bei der Entwicklung von KI-Produkten zunehmend einen modellübergreifenden Ansatz, bei dem sie je nach Anwendungsfall, Leistung, Kosten und Kundenanforderungen verschiedene Anbieter und Modelle nutzen. Dank dieser Flexibilität können sie ihre Produkte für verschiedene Anwendungen wie Cybersicherheit, Vertriebsautomatisierung und Kundenservice optimieren und gleichzeitig die Einhaltung von Vorschriften in verschiedenen Regionen und ein hervorragendes Nutzererlebnis gewährleisten. Es werden Architekturen entwickelt, die den schnellen Austausch von Modellen unterstützen, wobei einige Unternehmen Open-Source-Modelle aus Kostengründen und wegen der Schnelligkeit der Überlegungen bevorzugen.

In der Regel verwenden die meisten Befragten OpenAI-Modelle und 1-2 weitere Modelle von anderen Anbietern.

Wir verwenden verschiedene proprietäre und Drittanbieter-Modelle, weil unsere Kunden unterschiedliche Bedürfnisse haben. Proprietäre Modelle ermöglichen es uns, das Erlebnis für unsere Kunden und ihre Anwendungsfälle - Vertriebsautomatisierung, Kundendienstmitarbeiter und interne Tools - besser anzupassen. Außerdem können wir unseren Kunden flexiblere Preispunkte und Optionen anbieten und wir können ständig mit neuen Modellen und Geschäftsmöglichkeiten experimentieren.

-VP of Product bei einem KI-Unternehmen mit einem Jahresumsatz von über 1 Milliarde Dollar

3. die Strategien für den Markteintritt und die Einhaltung der Vorschriften

3.1 KI-Produkt-Roadmap

• Bei KI-fähigen Unternehmen sind etwa 20-35% der Produkt-Roadmap auf KI-gesteuerte Funktionen ausgerichtet, während wachstumsstarke Unternehmen 30-45% ihrer Roadmap auf KI-gesteuerte Funktionen verwenden.

3.2 Die wichtigsten Preismodelle

• Viele Unternehmen verwenden hybride Preismodelle, einschließlich abonnement-/planbasierter Preise und nutzungs- oder ergebnisbasierter Preise.

3.3 Preismodell für KI-Funktionen

• Derzeit bieten die meisten KI-fähigen Unternehmen entweder KI-Funktionen als Teil eines Premiumprodukts oder kostenlos an.

ICONIQ Funktionsübergreifende EinblickeIn unserem Bericht "State of GTM 2025" haben wir GTM-Führungskräften dieselbe Frage gestellt, und ihre Antworten stimmten in hohem Maße mit denen der F&E-Führungskräfte überein - ein weiterer Beleg für die anhaltende Beständigkeit dieses Trends auf dem Markt.

3.4 Änderungen der Preisgestaltung

• 40%-Unternehmen haben keine Pläne, die Preisgestaltung zu ändern, aber 37%-Befragte erkunden neue Preismodelle auf der Grundlage von Verbrauch, ROI und Nutzungsstufen.

Berücksichtigen Sie die Rentabilität Ihrer Investition::

"Wir wollten die Zahlungsbereitschaft und eine klare Verbindung zu den ROI-Ergebnissen in unser Preismodell integrieren."

-VP of Product bei einem KI-Unternehmen mit einem Jahresumsatz von 100 bis 150 Millionen Dollar

"Wir beobachten, ob die KI-Funktionen unseren Kunden einen zusätzlichen Nutzen bringen. Sobald wir die wichtigsten Adoptionsraten und den Nachweis des Mehrwerts haben, können wir die aktuellen Stufen unserer Plattform segmentieren (d. h. eine erweiterte Stufe mit vollständiger KI/Agenten schaffen, die Basisstufe einschränken und eine Unternehmensstufe schaffen).

-VP of Product bei einem KI-Unternehmen mit einem Jahresumsatz von 100 bis 150 Millionen Dollar

Verbrauchs- und ergebnisorientierte Preisgestaltung::

"Wir werden die Preisgestaltung des Advanced Tier Model durch ein verbrauchsabhängiges Preismodell ergänzen. Ich gehe davon aus, dass wir auch mit einer ergebnisorientierten Preisgestaltung experimentieren werden, aber es ist noch nicht klar, wie wir die Preisgestaltung strukturieren werden, damit die Kunden diese Kosten genau budgetieren können."

-VP of Product bei einem KI-Unternehmen mit einem Jahresumsatz von 100 bis 150 Millionen Dollar

"Das Abonnementmodell funktioniert für uns nicht. Vielnutzer neigen dazu, viel zu nutzen, was angesichts der LLM-API-Kosten zu negativen Margen führt, und diejenigen, die nicht nutzen, riskieren die Abwanderung. Angesichts der hohen variablen Kosten planen wir, zu einem nutzungsbasierten Modell überzugehen, aber die Nutzung in einem Abonnement zu bündeln, z. B. in einem Paket mit 100 Millionen Token pro Jahr."

-VP of Product bei einem KI-Unternehmen mit einem Jahresumsatz von 100 bis 150 Millionen Dollar

3.5 Interpretierbarkeit und Transparenz der KI

• Mit der Ausweitung von KI-Angeboten wird es immer wichtiger, detaillierte Berichte zur Modelltransparenz oder grundlegende Einblicke in die Auswirkungen von KI auf die Ergebnisse bereitzustellen.

3.6 KI-Einhaltung und Governance

• Die meisten Unternehmen haben Leitplanken für KI-Ethik und Governance-Richtlinien, und die meisten Befragten nutzen menschliche Aufsicht, um sicherzustellen, dass KI fair und sicher ist.

4. organisatorische Struktur

4.1 Engagierter AI/ML-Leiter

• Viele Unternehmen haben bereits eigene KI-Führungskräfte, wenn sie einen Umsatz von 100 Millionen US-Dollar erreichen. Dies ist wahrscheinlich auf die zunehmende operative Komplexität und die Notwendigkeit zurückzuführen, einen zentralen Verantwortlichen für die KI-Strategie zu haben.

4.2 KI-spezifische Rollen

• Die meisten Unternehmen haben inzwischen eigene KI/ML-Ingenieure, Datenwissenschaftler und KI-Produktmanager, wobei KI/ML-Ingenieure im Durchschnitt am längsten für die Einstellung brauchen.

4.3 Geschwindigkeit der Rekrutierung

• Die Einstellungen zur Geschwindigkeit der Einstellungen waren unter den Befragten relativ ausgewogen, wobei diejenigen, die der Meinung waren, dass die Einstellungen nicht schnell genug vonstatten gingen, vor allem den Mangel an qualifizierten Bewerbern als einen wichtigen einschränkenden Faktor nannten.

4.4 Anteil des KI-Entwicklungsteams

• Im Durchschnitt planen die Unternehmen, 20-30% ihrer Ingenieurteams auf KI zu konzentrieren, wobei wachstumsstarke Unternehmen einen höheren Prozentsatz ihrer Ingenieurteams auf KI konzentrieren.

5. die Kosten für AI

5.1 Ausgaben für die Entwicklung von KI

• Im Durchschnitt stellen Unternehmen 10-20% ihrer F&E-Budgets für die KI-Entwicklung zur Verfügung, wobei die meisten planen, die KI-Ausgaben bis 2025 zu erhöhen.

5.2 Zuweisung von Haushaltsmitteln

• Der prozentuale Anteil der Personalkosten an den Gesamtausgaben sinkt tendenziell, wenn die KI-Produkte expandieren. Umgekehrt steigen die Infrastruktur- und Datenverarbeitungskosten, wenn die Produkte auf dem Markt ankommen.

5.3 Infrastrukturkosten

• Von den verschiedenen Infrastrukturkosten gaben die Befragten an, dass die API-Nutzungsgebühren am schwierigsten zu kontrollieren sind, was darauf hindeutet, dass die Unternehmen bei den variablen Kosten im Zusammenhang mit dem externen API-Konsum mit der größten Unvorhersehbarkeit konfrontiert sind.

5.4 Kostenoptimierung

• Um die Kosten für die KI-Infrastruktur zu senken, erforschen Unternehmen Open-Source-Modelle und Möglichkeiten zur Optimierung der Inferenz-Effizienz.

5.5 Modellschulung

• Die meisten Befragten trainierten oder optimierten ihre Modelle mindestens monatlich, wobei die geschätzten monatlichen Kosten für die Modellschulung je nach Produktreife zwischen 160.000 und 1,5 Millionen Dollar lagen.

5.6 Bereitstellungskosten: Argumentation

• Die Begründungskosten stiegen nach der Markteinführung sprunghaft an, wobei wachstumsstarke KI-Unternehmen in der GA- und Scale-up-Phase doppelt so viel ausgaben wie ihre Mitbewerber.

5.7 Bereitstellungskosten: Datenspeicherung und -verarbeitung

• Auch die Kosten für die Datenspeicherung und -verarbeitung steigen ab der GA-Phase stark an, wobei die wachstumsstarken KI-Entwickler mehr für die Datenspeicherung und -verarbeitung ausgeben als ihre Mitbewerber.

6. interne Produktivität

6.1 Jährliches Budget für interne Produktivität

• Im Jahr 2025 werden sich die internen KI-Produktivitätsbudgets über alle Umsatzstufen hinweg fast verdoppeln, wobei Unternehmen zwischen 1-8% des Gesamtumsatzes ausgeben werden.

6.2 Interne Produktivitätsbudgetquellen

• F&E-Budgets sind nach wie vor die häufigste Quelle für interne Produktivitätsbudgets für KI in Unternehmen; wir sehen jedoch auch immer häufiger, dass Personalbudgets für interne Produktivitätsausgaben verwendet werden.

6.3 Zugang und Nutzung von AI

• Während etwa 70% der Mitarbeiter Zugang zu einer Vielzahl von KI-Tools für die interne Produktivität haben, nutzen nur etwa 50% KI-Tools auf einer konsistenten Basis, und die Akzeptanz ist in größeren Unternehmen (mit einem Jahresumsatz von über 1 Milliarde US-Dollar) viel schwieriger.

Don Vu (Verantwortlicher für Daten und Analytik, New York Life)Die bloße Bereitstellung von Tools ist ein Rezept für Enttäuschungen, insbesondere für große Organisationen. Um die Mitarbeiter wirklich zu befähigen, müssen Sie die Benutzerfreundlichkeit mit einer Unterstützungsstruktur verbinden, die Schulungen, die Hervorhebung von Vorreitern und vor allem eine unermüdliche Unterstützung durch die Führungsebene umfasst.

6.4 Wichtige Überlegungen zur Einführung von KI-Tools

• Bei der Wahl eines Basismodells für interne Anwendungsfälle sind die Kosten das wichtigste Kriterium, gefolgt von Genauigkeit und Datenschutz.

Während die Genauigkeit beim Einsatz externer KI-Produkte als wichtigster Faktor eingestuft wurde, waren die Kosten die wichtigste Überlegung bei der Auswahl eines Modells für interne KI-Anwendungsfälle. Auch der Datenschutz ist bei internen Anwendungsfällen wichtiger als bei externen.

6.5 Herausforderungen bei der Einführung des Modells: interne Anwendungsfälle

• Die größten Herausforderungen, mit denen Unternehmen beim Einsatz von KI für interne Anwendungsfälle konfrontiert werden, sind eher strategischer Natur (d. h. die richtigen Anwendungsfälle zu finden und den ROI nachzuweisen) als technischer Natur.

6.6 Anzahl der Anwendungsfälle

• Unternehmen erforschen in der Regel mehrere GenAI-Anwendungsfälle über verschiedene Funktionen hinweg, wobei Unternehmen mit hohen Akzeptanzraten GenAI in sieben oder mehr Anwendungsfällen einsetzen.

6.7 Einführung von KI

• Mitarbeiter mit geringerer aktiver Nutzung von KI-Tools als 20%Durchschnittliche Anzahl von Anwendungsfällen = 3,1
• Mitarbeiter mit einer aktiven AI-Tool-Nutzungsrate von 20-50%Durchschnittliche Anzahl von Anwendungsfällen = 4,9
• Mitarbeiter mit aktiver Nutzung von KI-Tools über 50%Durchschnittliche Anzahl von Anwendungsfällen = 7,1

6.8 Wichtigste Anwendungsfälle: nach Beliebtheit

• F&E und Vertrieb & MarketingAnwendungsfälle stehen an der Spitze der Beliebtheitsskala, während allgemeine und verwaltungstechnische Anwendungsfälle immer noch hinterherhinken.

6.9 Wichtigste Anwendungsfälle: nach Auswirkungen

• Was die tatsächliche Auswirkung auf die Produktivität betrifft, so spiegeln die wichtigsten Anwendungsfälle die Nutzungstrends wider, wobei die Unterstützung bei der Programmierung die anderen Anwendungsfälle bei weitem übertrifft und die größten Auswirkungen auf die Produktivität hat.

6.10 Einstellungen zur internen Einführung von KI

• Wachstumsstarke Unternehmen neigen dazu, neue KI-Tools aggressiver zu erproben und einzuführen, was darauf hindeutet, dass führende Unternehmen KI als strategischen Hebel sehen und sie schneller in interne Arbeitsabläufe integrieren.

6.11 Verfolgung der Kapitalrendite

• Die meisten Unternehmen messen die Produktivität und die Kosteneinsparungen durch den internen Einsatz von KI.

7. technologischer Stack für AI-Builder

7.1 Die am häufigsten verwendeten Werkzeuge: Modelltraining und Feinabstimmung

Wichtigste Punkte

Rahmenwerk und Hosting-Plattform

Kern-Frameworks für Deep Learning sind nach wie vor beliebt, wobei PyTorch und TensorFlow mehr als die Hälfte der Nutzung aller Befragten ausmachen. Sie werden jedoch fast genauso häufig von vollständig gehosteten oder API-gesteuerten Angeboten genutzt. Die Beliebtheit von AWS SageMaker und des Feinabstimmungsdienstes von OpenAI deutet darauf hin, dass die Teams zwischen einem "Build your own"- und einem "Let others run it"-Ansatz wählen. Überlassen Sie es anderen".

Akteure des Ökosystems erhalten Aufmerksamkeit

• Das Hugging Face-Ökosystem und Databricks' Mosaic AI Training schaffen sinnvolle Nischen, die eine höhere Abstraktionsebene für primitive Frameworks bieten.
• Spezialisiertere oder neuere Tools (AnyScale, Fast.ai, Modal, JAX, Lamini) liegen im einstelligen Prozentbereich, was darauf hindeutet, dass zwar experimentiert wird, die breite Einführung aber noch in den Kinderschuhen steckt.

Unternehmensanforderungen

• Unternehmen, die sich in einer späteren Phase befinden, verfügen in der Regel über größere Datenteams, komplexere Pipelines und strengere Anforderungen an Sicherheit, Governance und Compliance.
• Die "Lakehouse"-Architektur von Databricks (die Data Engineering, Analytik und ML vereint) und die gehosteten Ray-Cluster von AnyScale (die verteiltes Training und Hyperparameter-Tuning vereinfachen) adressieren diese Unternehmensanforderungen direkt, wobei mehr Befragte mit einem Jahresumsatz von mehr als 500 Millionen US-Dollar diese Lösungen.

Die am häufigsten verwendeten Tools

7.2 Die am häufigsten verwendeten Tools: LLM und KI-Anwendungsentwicklung

Wichtigste Punkte

Orchestrierungs-Frameworks dominieren

• Zu den am häufigsten verwendeten Frameworks gehören LangChain und das Toolset von Hugging Face, was zeigt, dass das Team einen klaren Schwerpunkt auf die Vereinfachung von Cue Chains, Stapelverarbeitung und High-Level-Bibliotheken legt, die eine Schnittstelle zu öffentlichen oder selbst gehosteten Modellen bilden.
• Ungefähr 701 TP3T der Befragten gaben außerdem an, dass sie private oder benutzerdefinierte LLM-APIs verwenden.

Sicherheit und SDKs auf höherer Ebene gewinnen an Aufmerksamkeit

• Etwa 3/10 der Befragten verwenden Guardrails zur Durchführung von Sicherheitsprüfungen und fast 1/4 nutzt das AI SDK von Vercel (23%) für eine schnelle Bereitstellung, was auf ein wachsendes Bewusstsein für den Bedarf an Guardrails und vereinfachten Integrationsschichten für LLM-Produktionsanwendungen hinweist.

das Long-Tail-Experiment

• Die schwache Nutzung aufstrebender Akteure wie CrewAI, Modal Labs, Instructor, DSPy und DotTXT deutet darauf hin, dass Experimente zwar weit verbreitet sind, sich aber noch keine umfassende Standardisierung jenseits der großen Akteure durchgesetzt hat.

Die am häufigsten verwendeten Tools

7.3 Die am häufigsten verwendeten Instrumente: Überwachung und Beobachtbarkeit

Wichtigste Punkte

Bestehende Infrastruktur bleibt dominant

• Fast die Hälfte der Teams verlässt sich auf ihr bestehendes APM-/Protokollierungssystem (Datadog, Honeycomb, New Relic usw.), anstatt ML-spezifische Tools einzuführen. Dies unterstreicht die Tatsache, dass eine einfache Integration und organisatorische Standardisierung die Vorteile einer maßgeschneiderten KI-Überwachung oft überwiegen.

ML Native Plattform erlangt frühe Aufmerksamkeit

• Sowohl LangSmith als auch Weights & Biases haben einen Durchbruch erzielt und eine Adoptionsrate von ~17% erreicht, was zeigt, dass ein echter Bedarf an sofort einsatzbereiten Lösungen besteht, die Cue Chains erkennen, Einbettungen verfolgen und Drifts finden können, ohne dass Add-Ons zu bestehenden Systemen erforderlich sind.

Der lange Schwanz der Fragmentierung und die Wissenslücke

• Jenseits der ersten beiden ML-Namen zersplitterte die Nutzung schnell unter Akteuren wie Arize, Fiddler, Helicone, Arthur usw., und 10% der Befragten wussten nicht, welche Tools sie verwendeten; dies deutet sowohl darauf hin, dass das Ökosystem noch in den Kinderschuhen steckt, als auch darauf, dass es Verwirrung über die "beobachtende" Natur der generativen KI gibt "Das Konzept ist verwirrend.

Die am häufigsten verwendeten Tools

7.4 Das am häufigsten verwendete Werkzeug: Optimierung der Schlussfolgerungen

Wichtigste Punkte

NVIDIAs Kontrolle in der Produktion

• Zusammen machten TensorRT und Triton Inference Server mehr als 60% des Marktanteils aus, was die anhaltende Dominanz von NVIDIAs Stack bei der Komprimierung von Latenz und Durchsatz in GPU-Einsätzen unterstreicht.

Plattformübergreifende Alternativen gewinnen Marktanteile

• ONNX Runtime (18%) ist die Spitzenlösung, die nicht von NVIDIA stammt, und spiegelt den Bedarf des Teams an hardwareunabhängiger Beschleunigung für CPUs, GPUs und Beschleuniger wider.
• TorchServe (15%) zeigt ebenfalls, dass es immer noch einen Platz für reine PyTorch-Dienste gibt, insbesondere für reine CPU-Workloads oder einfachere containerisierte Setups.

Wissenslücken und ungenutztes Potenzial

• Die Tatsache, dass 171 TP3T-Befragte nicht wussten, welche Optimierungen sie verwenden, und 141 TP3T-Befragte angaben, "keine" zu verwenden, deutet darauf hin, dass es erhebliche Verwirrung oder Unerfahrenheit in Bezug auf inferentielles Tuning gibt, was darauf hindeutet, dass es Bildungsmöglichkeiten (und Werkzeuge) für die Quantifizierung, das Pruning und die effiziente Laufzeit gibt - vor allem für große operative Teams. -insbesondere für große operative Teams.

Die am häufigsten verwendeten Tools

7.5 Das am häufigsten verwendete Instrument: Modell-Hosting

Wichtigste Punkte

Direkter Zugriff durch den Anbieter ist entscheidend

• Die meisten Teams haben über OpenAI, Anthropic usw. direkten Zugang zu Modellhosts, was die Tatsache unterstreicht, dass der Widerstand nach wie vor durch Aufrufe der herstellereigenen Inferenz-APIs erfolgt und nicht durch den Aufbau oder die Integration über eine mittlere Ebene.

Superscaler sind dicht dahinter

• AWS Bedrock und Google Vertex AI haben einen beträchtlichen Anteil erobert, was den Bedarf des Marktes an einheitlichen, unternehmensgerechten ML-Plattformen widerspiegelt, die Hosting mit Governance, Sicherheit und Abrechnung in einem Bereich vereinen.
• Vor allem mehr Unternehmen in der Spätphase (500 Millionen Dollar Jahresumsatz und mehr) geben an, Hyperscaler-Lösungen zu nutzen.

Alternativen zur Fragmentierung und neue Akteure

• Jenseits der großen Drei fragmentierte sich die Nutzung schnell unter Akteuren wie Fireworks, Modal, Together.ai, AnyScale, Baseten, Replicate, Deep Infra und anderen. Dieser lange Schwanz deutet darauf hin, dass Teams immer noch Pro-Hosts erforschen, oft angetrieben durch einzigartige Preise, Leistungs-SLAs oder Funktionssets (z. B. benutzerdefinierte Laufzeiten, Optionen für den Einsatz vor Ort).

Die am häufigsten verwendeten Tools

7.6 Das am häufigsten verwendete Instrument: die Modellbewertung

Wichtigste Punkte

Kein klarer unabhängiger Anführer

• Fast ein Viertel der Teams nutzt in erster Linie die integrierten Evaluierungsfunktionen von Plattformen wie Vertex, Weights & Biases oder Galileo, während 20% der Befragten einfach "nicht wissen", welche Tools sie verwenden, was darauf hindeutet, dass sich viele Organisationen immer noch auf die in bestehende ML-Stacks integrierten Evaluierungsfunktionen verlassen, anstatt spezielle Frameworks zu verwenden. Funktionalität in bestehenden ML-Stacks, anstatt spezialisierte Frameworks zu verwenden.

Neu entstehende professionelle Rahmenwerke

• LangSmith und Langfuse stehen an der Spitze der speziell entwickelten Evaluierungstools, aber auch HumanLoop und Braintrust sind auf dem Vormarsch. Diese Plattformen haben Marktanteile gewonnen, weil sie umfangreichere Metriken auf Cue-Ebene, anpassbare Testsuiten und eine sofort einsatzbereite Drifterkennung bieten.

Wissenslücken und DIY

• Fast ein Viertel der Befragten wusste nicht, welches Bewertungstool sie verwendeten, oder hatte überhaupt kein Bewertungstool, was sowohl auf Verwirrung über das Konzept der "Bewertung" in der generativen KI als auch auf das Risiko einer unkontrollierten Modellregression hinweist.
• Gleichzeitig bauen einige der Befragten ihre eigenen Bewertungspipelines auf, was darauf hindeutet, dass die Standardwerkzeuge noch nicht alle Anwendungsfälle abdecken.

Die am häufigsten verwendeten Tools

7.7 Die am häufigsten verwendeten Tools: Datenverarbeitung und Feature Engineering

Wichtigste Punkte

Klassische Big-Data-Tools dominieren weiterhin

• Apache Spark (441 TP3T der Befragten) und Kafka (421 TP3T der Befragten) stehen an der Spitze, was zeigt, dass Teams bei der Skalierung standardmäßig auf bewährte verteilte Batch-Verarbeitungs- und Streaming-Frameworks für ETL und Echtzeit-Dateneingabe zurückgreifen.

Ein starkes Fundament für Python

• Trotz des großen Big-Data-Footprints verlassen sich 41%-Befragte immer noch auf Pandas - was darauf hindeutet, dass die Einfachheit und Flexibilität von In-Memory-Python-Tools für kleinere Datensätze, Prototyping oder Randfälle immer noch unverzichtbar sind.

Am Horizont gespeicherte Funktionen

• Nur 171 TP3T-Mitarbeiter nutzen einen speziellen Feature Store, was darauf hindeutet, dass das Konzept "einmal erstellen, überall nutzen" zwar an Popularität gewinnt, die meisten Unternehmen es aber noch nicht in großem Umfang umsetzen.
• Mit zunehmender Reife werden vielleicht Feature Stores und leichtgewichtige Koordinatoren (Dask, Airflow usw.) in der Rangliste aufsteigen, aber im Moment dominiert das Apache-Ökosystem.

Die am häufigsten verwendeten Tools

7.8 Die am häufigsten verwendeten Tools: Vektordatenbanken

Wichtigste Punkte

Suchmaschinen entwickeln sich zu Vektorspeichern

• Elastic und Pinecone waren führend bei der Einführung, was darauf zurückzuführen ist, dass die Teams entweder bestehende Volltextsuchplattformen für die Einbettung angepasst oder spezielle gehostete Vektormaschinen eingeführt haben.

Redis und der lange Schwanz

• Redis zeigt, wie attraktiv es ist, den bereits vorhandenen In-Memory-Datenspeicher zu nutzen, während andere Lösungen wie Clickhouse, AlloyDB, Milvus, PGVector und andere zeigen, dass viele Unternehmen mit verschiedenen Back-Ends experimentieren, um ein Gleichgewicht zwischen Kosten, Latenz und Funktionsanforderungen herzustellen.

Der Aufstieg von Open-Source-Lösungen

• Spezialisierte Open-Source-Tools wie die Vektor-Plugins von Chroma, Weaviate, Faiss, Qdrant und Supabase könnenibalisieren die frühen Marktführer und deuten auf einen Wettbewerb in Bezug auf Benutzerfreundlichkeit, Skalierbarkeit und Cloud-native Integration hin.

Die am häufigsten verwendeten Tools

7.9 Die am häufigsten verwendeten Instrumente: synthetische Daten und Datenanreicherung

Wichtigste Punkte

Eigene Produktion dominiert

• Mehr als die Hälfte der Teams (52%) entwickeln ihre eigenen Tools, was darauf hindeutet, dass Standardanbieter noch immer nicht alle Anwendungsfälle abdecken oder in bestehende Pipelines integriert werden können.

Scale AI ist eindeutig der führende Anbieter

• Mit einer Annahmequote von 21% ist Scale AI die bevorzugte Plattform für synthetische Daten von Drittanbietern - aber auch sie wird nur von 1 von 5 Unternehmen angenommen.

Frühe Attraktivität des Programmrahmens

• Snorkel AI und Mostly AI zeigen, dass prozedurale Etikettierungs- und Generierungstools zwar an Marktanteil gewinnen, aber immer noch weit hinter kundenspezifischen Lösungen zurückbleiben.

Die am häufigsten verwendeten Tools

7.10 Am häufigsten verwendete Tools: Kodierhilfen

Wichtigste Punkte

Dominanz der Pioniere

• GitHub Kopilot Dank der engen Integration mit VS Code, der Unterstützung mehrerer Sprachen und der Unterstützung durch die große Nutzerbasis von GitHub wird Copilot von fast drei Vierteln der Entwicklungsteams verwendet. Der Netzwerkeffekt und die Anpassungsfähigkeit an den Produktmarkt machen es schwierig, Copilot zu verdrängen, aber die starke Leistung von Cursor (von 50%-Befragten verwendet) deutet darauf hin, dass es eine Nachfrage nach einer breiten Palette von IDE-Integrationen gibt.

Langlebige Produkte hinken hinterher

• Nach den beiden Spitzenreitern sanken die Adoptionsraten drastisch und die Long-Tail-Lösungen zersplitterten, was darauf hindeutet, dass die meisten Teams zwar mindestens einen Helfer ausprobiert haben, aber nur wenige sich auf Alternativen festgelegt haben. Low-Code- oder No-Code-Lösungen wie Retool, Lovable, Bolt und Replit erhielt ebenfalls eine lobende Erwähnung, was das wachsende Interesse des Marktes an Lösungen von der Idee bis zur Anwendung zeigt.

Die am häufigsten verwendeten Tools

7.11 Meistgenutzte Tools: DevOps und MLOps

Wichtigste Punkte

MLflow führt - hat aber keine Monopolstellung

• MLflow wurde von 36% der Befragten verwendet und war der klare Spitzenreiter bei der Verfolgung von Experimenten, Modellregistern und der grundlegenden Pipeline-Orchestrierung - das ist nur etwas mehr als ein Drittel der Teams, was darauf hindeutet, dass es noch viel Raum für Alternativen gibt.
• Gewichte & Biases hat auch einen hohen Marktanteil, der von 20% der Befragten genutzt wird, was seine Attraktivität als gehostetes SaaS für Tracking, Visualisierung und Zusammenarbeit widerspiegelt.
• Jenseits der beiden Spitzenreiter ist die Nutzung schnell fragmentiert - 16% "weiß nicht", welche Tools ihre MLOps unterstützen, und zu den anderen genannten Tools gehören Resolve.ai, Cleric, PlayerZero, Braintrust, und andere. Dies zeigt sowohl die Verwirrung über die Zuständigkeiten (DevOps vs. MLOps) als auch, dass der Markt noch dabei ist, sich zu sortieren.

Lücke zwischen Tracking und Vollbetrieb

• Die Dominanz von "Trace-first"-Plattformen wie MLflow und W&B deutet darauf hin, dass viele Teams erst noch eine End-to-End-Suite von MLOps einführen müssen - Continuous Delivery, Drift Monitoring oder automatisiertes Rollback sind für die meisten noch nicht ausgereift.

Die am häufigsten verwendeten Tools

7.12 Meistgenutzte Werkzeuge: Produkt und Design

Wichtigste Punkte

Der nahezu universelle Einfluss von Figma

• Mit einer Adoptionsrate von 87% hat sich Figma tatsächlich zum etablierten Standard für UI/UX- und Produktdesign entwickelt - Teams halten sich überwiegend an ihre Echtzeit-Zusammenarbeit, Komponentenbibliotheken und Plugin-Ökosysteme, anstatt sich mit KI-spezifischen Design-Tools zu beschäftigen.

Miro für die Zusammenarbeit auf höherer Ebene

• Mit einer Adoptionsrate von 37% ist Miro nach wie vor die erste Wahl für Wireframes, User Journey Mapping und funktionsübergreifendes Brainstorming; seine Oberfläche im Whiteboard-Stil ergänzt das Pixel-Level-Canvas von Figma, insbesondere in der frühen Ideenfindungsphase.

Der Aufstieg der KI-gestützten Produktlinien-Blockdiagramme

• Designteams verspüren noch nicht den dringenden Bedarf an KI-nativen Produkt-/Designplattformen, viele nutzen jedoch Low-/No-Code-Lösungen für Rapid Prototyping wie Bolt, Lovable und Vercel V0.

Die am häufigsten verwendeten Tools

8 Interne Produktivitätsanwendungsfälle (Teil I)

8.1 Anwendungsfälle

Wichtige Trends

Für weitere Informationen über bestimmte Tools in jeder Kategorie wenden Sie sich bitte an ICONIQ Insights.

Produktivität der Verkäufe

• Viele Teams beziehen ihre KI-gesteuerten Vertriebsfunktionen direkt von Salesforce - was darauf hindeutet, dass ein einfacher Weg darin besteht, sich auf die in Ihrem bestehenden CRM integrierten Empfehlungen, Prognosen und Opportunity-Bewertungen zu verlassen, anstatt einen separaten Service anzuschließen.
• Andere Befragte nutzen Plattformen für die Einbindung des Vertriebs wie Apollo, Salesloft und Gong, während andere auf KI-gestützte Lead-Generierungs-Tools wie Clay und People.ai setzen.
• Mit zunehmender Reife der eingebetteten Funktionalität wird sich die Differenzierung möglicherweise auf einige wenige Plattformen oder auf neue Punktlösungen beschränken.

Marketingautomatisierung und Inhaltserstellung

• Marketingexperten nutzen fast ausschließlich die generativen Funktionen von Canva für die Markenvision und die schnelle Erstellung von Inhalten.
• Viele der Befragten nutzen auch n8n oder interne Lösungen, was darauf hindeutet, dass Marketinganwendungen manchmal ein hohes Maß an interner Anpassung erfordern.
• Viele der Befragten nutzen auch spezialisierte KI-Schreibwerkzeuge wie Writer und Jasper, wobei die Akzeptanzrate bei Unternehmen in der Spätphase (mit einem Jahresumsatz von mehr als 1 Milliarde US-Dollar) höher ist.

Engagement für Kunden

• Die Teams verlassen sich bei Kundeninteraktionen fast ausschließlich auf die integrierten KI-Funktionen von Zendesk oder Salesforce. Das zeigt, dass es immer noch besser ist, sich auf die Plattformen zu verlassen, die Sie bereits nutzen, als eine eigenständige KI-Plattform für Konversationen einzuführen.
• Wenn sie eine tiefere Anpassung des Bots, Self-Service-Assistenten oder fest eingebaute Support-Widgets benötigen, verlässt sich eine große Minderheit auf spezialisierte Tools wie Pylon, Forethought, Grano.la oder Intercom - was zeigt, dass Boutique-Tools immer noch ihren Platz haben, wenn KI von der Stange nicht gut genug ist. Tools immer noch einen Platz haben.

Dokumentation und Wissensabfrage

• Die meisten Teams bauen entweder auf bestehenden Wiki- und Notizen-Tools auf oder verwenden standardmäßig Notion. Dies deutet darauf hin, dass Unternehmen häufig zunächst auf bereits vorhandene Tools zur Wissenserfassung zurückgreifen, bevor sie KI-gesteuerte Overlays ausprobieren.
• Ein großer Teil der Befragten setzt jedoch auch auf spezialisierte KI-Tools wie Glean und Writer für die Indizierung und semantische Suche.

9 Interne Produktivitätsanwendungsfälle (Teil II)

9.1 Anwendungsfälle

Wichtige Trends

Für weitere Informationen über bestimmte Tools in jeder Kategorie wenden Sie sich bitte an ICONIQ Insights.

IT und Sicherheit

• ServiceNow (von 33%-Befragten genutzt) und Snyk (von 30%-Befragten genutzt) führen die Liste an, was darauf hindeutet, dass große Unternehmen immer noch auf ihre bestehenden ITSM- und Sicherheitsscan-Plattformen zurückgreifen, anstatt völlig neue KI-Tools zu entwickeln.
• Zapier und Workato wurden ebenfalls häufig erwähnt, was den starken Fokus des Teams auf Low-Code-Orchestrierung für die Kombination von Warnmeldungen, Ticket-Erstellung und Abhilfeskripten über verschiedene Tools hinweg unterstreicht.

Gesetzgebung

• Der Rechtssektor ist hauptsächlich organisiert durch ChatGPT und zeitlich befristete Skripte versuchen sich an KI, aber spezielle Plattformen für Rechtsassistenten gewinnen langsam an Zugkraft.
• Da Vorschriften und Sicherheitsbedenken zunehmen, könnte es zu einer Divergenz kommen: Mainstream-LLM für informelle Forschung und auf die Einhaltung von Vorschriften ausgerichtete Suiten für unternehmenskritische Vertragsabläufe.

Humanressourcen und Personalbeschaffung

• Fast die Hälfte der Teams verlässt sich auf die in LinkedIn integrierten KI-Funktionen - Profilvorschläge, Kandidatenabgleich und Sortierung von Beförderungen -, was darauf hindeutet, dass sich Personalverantwortliche auf eine Plattform verlassen, die sie bereits täglich nutzen, anstatt eigenständige Lösungen zu integrieren. Aber auch Nischenplattformen wie HireVue (für KI-gesteuerte Videointerviews) und Mercor (für die Einbindung von Bewerbern) werden allmählich angenommen.

FP&A-Automatisierung

• Viele Teams nutzen Ramp für die FP&A-Automatisierung, indem sie die Funktionen für Ausgabenmanagement und Datensynchronisation in einer All-in-One-Plattform nutzen.
• Spezialisierte Suiten wie Pigment, Basis und Tabs gewinnen ebenfalls zunehmend an Bedeutung, was auf ein wachsendes Interesse an treiberbasierten Planungs- und Multi-Szenario-Modellierungsplattformen hinweist.
• Ungefähr ein Drittel der Befragten verwendet auch On-Premise-Lösungen, was die Investitionen in benutzerdefinierte Skripte, Excel-Makros und benutzerdefinierte Pipelines widerspiegelt, um ERP-, Abrechnungs- und BI-Systeme zusammenzuführen.

10. schlussfolgerung

Technologie ist wichtig, Strategie ist wichtig, aber das Wichtigste sind die Menschen.

 

Original: https://www.iconiqcapital.com/growth/reports/2025-state-of-ai

Report Download: https://cdn.prod.website-files.com/65d0d38fc4ec8ce8a8921654/685ac42fd2ed80e09b44e889_ICONIQAnalytics_Insights_The_AI_ Builders_Playbook_2025.pdf