Warum deine AI-Roadmap stimmt (und trotzdem nichts liefert).

Im Juni 2025 saßen wir bei einer Runde Wein & Wissen mit rund 30 Entscheidern zusammen und tauschten uns zu wesentlichen Punkten unserer AI-Roadmap aus: eigene Agenten-Plattform statt der SaaS-Tools, die jede Abteilung einzeln einkauft; die eigenen Daten semantisch erschließen statt sie nur per Dokumenten-Retrieval zu durchsuchen; KI-Systeme nach denselben Betriebsregeln führen wie Software; Voice AI zu einem vollwertigen Kanal ausbauen; und Agenten bauen, die erkennen, was sie nicht wissen, und diese Lücke selbst schließen.(Anmerkung: Die Begriffe erklärt unser AI-Glossar oder Mario in seinem Artikel Deine Landkarte durchs KI-Vokabular.)

Als die Frage kam, wer noch nach tragfähigen Anwendungsfällen sucht, gingen mehrere Hände nach oben. Heute, ein Jahr später, hält diese AI-Roadmap in Teilen: Zwei der fünf Punkte sind Marktkonsens, Voice AI ist technisch eingelöst, aber kaum genutzt, und auch die Plattform-Frage ist noch offen; auch wenn wir hierfür eine spannende Lösung zu bieten haben..

Ob deine Roadmap aus dieser Zeit stammt oder du damals bewusst keine aufgesetzt hast: Die offenen Punkte sind dieselben. Der Betrieb kommt inzwischen vor dem nächsten Piloten und ein Teil der damaligen Werkzeuge existiert in dieser Form gar nicht mehr.

Was 2025 auf der AI-Roadmap stand, ist heute Marktkonsens

Damals mussten wir noch begründen, warum Chunk-basiertes Retrieval nicht ausreicht. Zwischen einem Diagramm in einem PDF und zwei Sätzen, die sich drei Seiten später darauf beziehen, stellt ein einfaches RAG-System keinen Zusammenhang her. In der Praxis führt das zu hybriden Ansätzen aus Graph- und Vektor-Retrieval.

Heute braucht diese Kritik keinen Beleg mehr. Ein aktuelles Benchmark-Papier von Forschern der New York University Shanghai „Do We Still Need GraphRAG?“ vom April 2026 stellt nicht mehr in Frage, ob naives Retrieval an Dokumentgrenzen scheitert, sondern vergleicht nur noch, welche Strategie welche Frage besser beantwortet.

Ein zweiter Diskussionspunkt betraf den Betrieb. KI-Anwendungen sind keine Prototypen mehr, sie brauchen dieselbe Sorgfalt wie Software im Regelbetrieb: Tracing, Monitoring, Prompt-Management, Kostenkontrolle und Datenpipelines mit CI/CD-Disziplin. Auch das ist 2026 unstrittig. Ein Standard dafür fehlt allerdings weiterhin – die OpenTelemetry-Konventionen für GenAI tragen im Sommer 2026 immer noch den Status „Development“. Warten bringt dich nicht weiter; in unseren Projekten fordern wir: Validierung und Observability vor Volumen. Wie wir das mit dem mAIstack gelöst haben, zeigen wir in einem gesonderten Artikel in Kürze.

Du bist nicht hinten dran. Du hast nur kein Ergebnis.

Laut McKinseys State of AI nutzen 88 Prozent der befragten Organisationen KI regelmäßig in mindestens einer Geschäftsfunktion, ein Jahr davor waren es 78 Prozent. Beim Ergebnis sieht es anders aus: 39 Prozent führen überhaupt einen EBIT-Effekt auf KI zurück, und die meisten davon beziffern ihn auf unter fünf Prozent. Als „AI high performers“ gelten rund 6 Prozent der Befragten, also jene, die mindestens fünf Prozent EBIT-Beitrag und einen signifikanten Wertbeitrag berichten. Bei Agenten skalieren 23 Prozent, weitere 39 Prozent experimentieren, und 51 Prozent der KI-nutzenden Organisationen haben mindestens eine negative Folge erlebt. Gartner verortet Agentic AI im Hype Cycle for Agentic AI auf dem Peak of Inflated Expectations. Laut dem dort zitierten CIO-Survey 2026 haben erst 17 Prozent der Organisationen KI-Agenten ausgerollt, mehr als 60 Prozent wollen es in den nächsten zwei Jahren tun – die steilste Adoptionsabsicht aller gemessenen Technologien. Das ist eine wachsende Lücke zwischen Ambition und Umsetzung.

In Deutschland ist die Bewegung deutlicher. Bitkom hat im März 2026 berichtet, dass 41 Prozent der Unternehmen ab 20 Beschäftigten KI aktiv nutzen; ein Jahr davor waren es 17 Prozent. Weitere 48 Prozent planen oder diskutieren den Einsatz.

Ein Totalausfall ist das nicht. Unter den KI-nutzenden Unternehmen sehen laut Bitkom 77 Prozent ihre Wettbewerbsposition verbessert und 52 Prozent einen messbaren Geschäftsbeitrag. Gleichzeitig berichten 33 Prozent von höheren Kosten als erwartet und 19 Prozent von Stellenabbau. Bitkom weist beide Werte getrennt aus und stellt keinen Zusammenhang zwischen ihnen her.

Diese Werte stammen aus Erhebungen mit unterschiedlichen Grundgesamtheiten und Zeiträumen; sie zeigen eine Tendenz, lassen sich aber nicht verrechnen.

Nach diesen Zahlen bist du wahrscheinlich nicht hinten dran – und genauso wahrscheinlich hast du noch kein Ergebnis vorzuweisen. Wenn die Prioritäten aber schon 2025 stimmten: Warum ist die Liste von damals dann nicht abgearbeitet?

Was wir 2025 falsch eingeschätzt haben: Werkzeuge, Zeithorizonte, Nutzung

Zum Teil haben wir schlicht danebengelegen. Um die Eingangsfrage zu beantworten: Die Liste war richtig, aber sie nannte die Werkzeuge, mit denen wir arbeiten wollten, statt der Richtungen, für die sie standen. Sie führte den Betrieb als einen von fünf Punkten, obwohl er die Voraussetzung für die anderen vier ist. Und wir haben Datenschutz und Governance als gelöst behandelt – eine Aussage, die wir so nicht wiederholen würden.

GraphRAG sollte die Antwort auf das Semantik-Problem sein, also Wissensgraphen zusätzlich zum reinen Vektor-Retrieval. Diese Rolle hat es nicht bekommen. Das Benchmark-Papier von 2026 findet keine universelle Überlegenheit, die optimale Strategie hängt von der Aufgabe ab, und GraphRAG-Bench untersucht inzwischen vor allem, wann Graphen im Retrieval überhaupt helfen. Für Multi-Hop-Fragen, deren Antwort sich über mehrere Dokumente hinweg zusammensetzt, bleibt GraphRAG ein sinnvoller Baustein; wer es 2025 als Zielarchitektur gesetzt hat, baut heute komplizierter, als nötig wäre.

Computer Use lief damals als Ausblick für Legacy-Anwendungen ohne API. Bewährt hat es sich dafür nicht. Gemeint sind Agenten, die Software über die Bildschirmoberfläche steuern statt über eine Schnittstelle. Auf kurzen, klar umrissenen Aufgaben sind aktuelle Modelle inzwischen stark. Auf dem Long-Horizon-Benchmark OSWorld 2.0, dessen Aufgaben einen Menschen im Median 1,6 Stunden beschäftigen, löst das beste System jedoch nur 20,6 Prozent der Aufgaben vollständig. Für ein Legacy-System, an dem Geschäftsprozesse hängen, ist das zu wenig.

AutoGen hatten wir 2025 noch als Option genannt. Inzwischen hat Microsoft es offiziell in den Maintenance Mode versetzt und empfiehlt neuen Projekten das Microsoft Agent Framework, das seit April 2026 verfügbar ist. Guardrails, also automatisierte Schutzregeln gegen Fehlverhalten von Agenten, sind 2026 eher eigene Werkzeuge als eine Eigenschaft des Orchestrierungs-Frameworks.

Bei Voice AI stimmte unsere Einschätzung der Technik, die der Nutzung war zu optimistisch. Latenz und Kosten KI-gestützter Telefonie haben sich klar verbessert. Laut der MUUUH! Voice Studie 2026 haben aber erst 17 Prozent der Befragten in Deutschland überhaupt Erfahrung mit modernen Voice-Agents gemacht, und eine der beiden wichtigsten Anforderungen bleibt die saubere Übergabe an einen Menschen, sobald der Agent nicht weiterweiß. Unsere Ampel-Logik, wie wir sie auf dem Wein & Wissen vorgestellt hatten und erfolgreich in Kundenprojekten nutzen war damit richtig; die Konfidenzschwellen verlässlich zu kalibrieren, bleibt die Herausforderung.

Drei Punkte, die auf keiner AI-Roadmap von 2025 standen

Die Sicherheit von MCP war 2025 kein Thema. Das Protokoll selbst war eines, als Weg, interne Systeme für Agenten zu kapseln. Am 9. Dezember 2025 hat Anthropic das Model Context Protocol an die neu gegründete Agentic AI Foundation unter der Linux Foundation übergeben; aus dem Anbietervorschlag ist ein Standard mit eigenem Gremium geworden, dessen Spezifikation in Richtung Produktionsbetrieb reift. Das Spezifikations-Update dazu haben wir gesondert beschrieben.

Parallel hat sich die Bedrohungslage entwickelt. Der MCPTox-Benchmark hat 353 Werkzeuge von 45 aktiven MCP-Servern gegen 20 Sprachmodelle getestet: Im Durchschnitt gelang es in 36,5 Prozent der Fälle, einen Agenten über eine manipulierte Werkzeugbeschreibung zu einer versteckten Anweisung zu bewegen, im schlechtesten Fall in 72,8 Prozent. OWASP führt Tool Poisoning auf Platz drei seiner MCP Top 10, und Microsofts Sicherheitsleitlinie vom Juni 2026 behandelt Werkzeugbeschreibungen als Supply-Chain-Artefakt, das wie Produktionscode zu prüfen ist. Interne Systeme über MCP zu kapseln, bleibt richtig; dazu gehört heute aber ein Zero-Trust-Ansatz, der keinem Server und keinem Werkzeug ungeprüft vertraut.

Governance, Sicherheit und Kosten für Agenten werden zum eigenen Thema. Im Hype Cycle 2026 stehen dafür eigene Profile – von Governance und Sicherheit für Agentic AI über FinOps, also die laufende Kostensteuerung, bis zu Plattformen für die Verwaltung des Agentenbestands. Gartners Beobachtung dazu: Der Bedarf an Aufsicht zeigt sich schon früh im Adoptionszyklus, lange vor dem großflächigen Rollout. Die Frage, wer im Unternehmen einen Agenten in Betrieb nehmen darf und wer ihn abschaltet, klärst du heute für eine Handvoll Systeme. Wartest du, musst du einen gewachsenen Bestand nachträglich einordnen. Wir haben dafür eine Risiko-Staffel für den Agenten-Betrieb beschrieben.

Der Zeitplan des EU AI Act hat sich zu deinen Gunsten verschoben. Der Digital Omnibus on AI verlegt die Pflichten für Hochrisiko-Systeme nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I auf den 2. August 2028. Der 2. August 2026 bleibt trotzdem ein aktives Datum: Die Transparenzpflichten nach Artikel 50 gelten weitgehend unverändert, lediglich für die Wasserzeichenpflicht nach Artikel 50(2) gibt es bei Systemen, die vorher auf dem Markt waren, eine Schonfrist bis zum 2. Dezember 2026. Wer dir eine akute Hochrisiko-Deadline für August 2026 nennt, arbeitet mit einem überholten Stand; der Verweis auf Artikel 50 dagegen bleibt korrekt. Die gewonnene Zeit ist zum Arbeiten da.

Was wir dir für messbare KI-Ergebnisse empfehlen

Eines können wir dir nicht liefern: den Nachweis, dass sich der Aufbau einer eigenen KI-Plattform rechnet. Belastbare Studienzahlen zum Return solcher Investitionen gibt es nicht, also erfinden wir keine. Belegt ist nur die Verteilung – viele nutzen KI, wenige erzielen ein messbares Ergebnis.

Fünf Dinge können wir dir empfehlen:

• Geh deine Roadmap durch und trenne die Richtungen von den Produktnamen. Die Richtung kannst du im Vorstand verteidigen, Produktnamen nicht.
• Zieh den Betrieb vor den nächsten Piloten: Tracing, Kostenkontrolle, Prompt-Management. Das ist Aufgabe deines Plattform-Teams; auf einen AgentOps-Standard zu warten, verschiebt den Aufwand nur.
• Arbeite mit deinem Datenteam an der Semantik deiner Daten, ohne Graph-Monokultur. Setz Graphen dort ein, wo tatsächlich Multi-Hop-Fragen anfallen.
• Sichere MCP-Zugänge mit deinem Security-Team nach Zero-Trust-Prinzipien ab, bevor der nächste Agent ein internes System anbindet.
• Korrigiere mit Rechtsabteilung und Compliance die Termine für den AI Act, wo im Haus mit August 2026 geplant wurde.

Zwei dieser fünf Empfehlungen, der Betrieb und die Semantik, standen im Juni 2025 auf unserer Liste; die anderen drei sind seitdem dazugekommen. In diesem Tempo geht es weiter. Wenn du die nächste Verschiebung einordnen willst, während sie passiert: Beim nächsten Wein & Wissen sitzt du mit rund 30 Leuten am Tisch, die dieselben Entscheidungen zu treffen haben wie du.