KI-Agenten: das Laufzeit-Problem der Infrastruktur
Das Modell ist selten schuld. Drei Befragungen aus Frühjahr und Sommer 2026 deuten alle auf dieselbe Stelle, nämlich die Betriebsschicht, auf der Agenten laufen. Dort entscheidet sich, ob dein Projekt lebt.
Die kurze Version: 37 Prozent von 132 befragten Technologie-Verantwortlichen machen die Laufzeitschicht für hängende Agentenprojekte verantwortlich, bloß 17 Prozent das Modell (Mai 2026). Deckt sich mit dem, was LinkedIn auf der VB Transform erzählt hat. Dort scheiterte es zunächst an Container-Startzeiten im Sekundenbereich, und die Lösung war unsexy: Pools vorab bereitstellen, einen eigenen Kontrollfluss bauen, das Sprachmodell ans Blatt schieben. Heute sind dort rund 80 Prozent des Workflows simple Skripte. Wobei, eine zweite Befragung dämpft das Ganze. 71 Prozent der Unternehmen geben zu, dass höchstens ein Viertel ihrer sogenannten Agenten überhaupt mehrstufig orchestriert.
Das Problem sitzt in der Laufzeit
Such den Fehler nicht im Modell. Als im Mai 2026 insgesamt 132 Technologie-Verantwortliche gefragt wurden, woran ihre Agenten-Piloten hängen, landete die Laufzeitschicht auf Platz eins der primären Fehlerquellen. Das angeblich zu dumme Modell? Weit abgeschlagen.
Damit steht die übliche Diskussion Kopf. Aufs nächste Modell-Update zu warten bringt dir wenig, solange niemand beantworten kann, worauf deine Agenten eigentlich laufen.
Der Grund ist banal und bautechnisch zugleich. Web-Infrastruktur beantwortet kurze, zustandslose Anfragen, dafür wurde sie gebaut. Ein Agent hält sich nicht daran. Der läuft Minuten, manchmal Stunden, schleppt Zwischenstände mit und klopft dutzendfach bei externen Systemen an. Ein Fundament, das für Webshops gegossen wurde, trägt so einen Betrieb schlicht nicht.
Die Modelle sind klug genug, aber unsere zustandslose Infrastruktur ist zu fragil für lange, mehrstufige agentische Prozesse.
Was folgt, ist Handarbeit. 77 Prozent der Befragten stecken nennenswerte Engineering-Kapazität in Infrastruktur-Klempnerei, bei 24 Prozent frisst sie über die Hälfte der Sprints. Zeit, die kein Feature je zu sehen bekommt.
Wo die Reibung wirklich entsteht
Latenz ist nicht das Hauptproblem. Ja, die Überschriften legen das nahe, die Daten tun es nicht: In derselben Erhebung rutscht Latenz-Jitter als Reifekriterium von 25 auf 11 Prozent ab. Ganz oben stehen stattdessen Nutzerakzeptanz und Kontexttreue. Anders gesagt, schnell sind die Systeme inzwischen. Verlässlich über lange Läufe nicht.
Genannte Reifekriterien für Produktionsreife, VentureBeat Pulse Research, Mai 2026, n=132.
Eine Etage tiefer, im Rechenzentrum, klingt das anders. Dort melden 71 Prozent der IT-Entscheider Latenzprobleme bei KI-Workloads, 2024 waren es noch 32 Prozent. Und auf die Frage nach der größten Bremse beim Ausbau antworten 40 Prozent mit der IT-Infrastruktur. Das Budget? 1 Prozent.
Bevor du die Zahl weiterzitierst: Sie stammt von einem Colocation-Anbieter, also von jemandem, der davon lebt, dass Infrastruktur als Engpass gilt. Nimm sie als Richtungsangabe. Mehr nicht.
Und die Kosten? EY rechnet vor: Eine Kundenservice-Interaktion, 2023 noch für rund 0,04 US-Dollar zu haben, landet als orchestrierter Agentenlauf 2026 bei etwa 1,20 US-Dollar. Ein Rechenbeispiel, keine gemessene Durchschnittsgröße. Die Richtung stimmt trotzdem, denn jede Stufe Autonomie bezahlst du in Tokens. Wie du das im Griff behältst, steht ausführlicher in Token-FinOps ausführlicher behandelt.
Wie LinkedIn das Problem gelöst hat
Auf der VB Transform 2026 haben LinkedIn, Walmart und Zendesk erzählt, woran ihre Agenten zuerst gescheitert sind. Bei LinkedIn: Kubernetes. Die Plattform geht davon aus, dass ein Container ruhig ein, zwei Sekunden zum Start brauchen darf. Ein Agent, der im Millisekundentakt Werkzeuge aufruft, sieht das anders.
Die erste Antwort darauf klingt fast enttäuschend: LinkedIn fährt Container nicht mehr bei Bedarf hoch, sondern hält vorab bereitgestellte Pools vor. Das war's schon.
Der zweite Schritt wiegt schwerer. Animesh Singh beschreibt ihn so: eigenes Rahmenwerk, eigener Kontrollfluss, und die Sprachmodelle wandern ans Blatt statt in die Mitte der Schleife. Rund 80 Prozent des Workflows sind dort heute geskripteter, deterministischer Code. Das Modell kommt nur noch dran, wo es tatsächlich um Sprachverständnis geht.
Wir haben unser eigenes Rahmenwerk und unseren eigenen Kontrollfluss gebaut und die Sprachmodelle ans Blatt geschoben, statt sie die Schleife orchestrieren zu lassen.
Animesh Singh, LinkedIn, auf der VB Transform 2026Zendesk verantwortet nach eigenen Angaben 20 Milliarden Kundengespräche. Sami Ghoche sagt, der gemeinsame Nenner aller Systeme, die durchhalten, seien Evaluierungen. Und Desiree Gosby von Walmart formuliert das Ziel auffallend defensiv: bloß nicht wieder in den Zustand rutschen, in dem Engineering der Flaschenhals ist.
Die Lehre läuft dem Marketing entgegen: weniger Autonomie im Kern, dafür mehr feste Struktur drumherum. Wer es ausführlicher mag, liest das bei uns unter Harness Engineering nach.
Die meisten Agenten sind keine Agenten
Ein ehrlicher Blick in den eigenen Bestand lohnt sich, bevor Geld in eine Orchestrierungsplattform fließt. Im Juni 2026 wurden 101 Unternehmen gefragt, was ihre sogenannten Agenten wirklich tun. Das Ergebnis: Das meiste davon sind Chatbot-Hüllen mit besserem Namen. Gebaut wird die Plattformschicht trotzdem, nur eben vor dem Portfolio, das sie mal steuern soll.
| Anteil echt orchestrierter Agenten | Unternehmen |
|---|---|
| 0 Prozent | 9 Prozent |
| 1 bis 25 Prozent | 62 Prozent |
| 26 bis 50 Prozent | 19 Prozent |
| 51 bis 75 Prozent | 7 Prozent |
| 76 bis 100 Prozent | 3 Prozent |
In Summe räumen 71 Prozent ein, dass höchstens ein Viertel ihrer Agenten echte mehrstufige Orchestrierung leistet. Über die Hälfte kommen gerade mal 10 Prozent. Die Studienautoren beschreiben eine Orchestrierungsschicht, die deutlich vor dem Portfolio entsteht, das sie einmal steuern soll.
Zur Plattformfrage: Anthropic Claude liegt mit 40 Prozent vorn, Microsoft folgt mit 18, OpenAI mit 13. Uns interessiert an der Erhebung aber eine andere Zahl. 27 Prozent können einen entlaufenen Agenten nicht in Echtzeit stoppen, die merken es erst an der Rechnung. Das ist keine Modellfrage. Das ist Betrieb.
Die Forschung sieht es ähnlich nüchtern. Für eine ICML-Arbeit vom Februar 2026 wurden 15 Modelle über zwölf Metriken geprüft, und die Zuverlässigkeit hat sich trotz aller Fähigkeitssprünge kaum bewegt. Aufs nächste Modell zu warten löst also das falsche Problem.
Deutsche und europäische Perspektive
In Deutschland kommt zur Laufzeitfrage noch eine dazu: der Standort. Agenten in Produktion brauchen planbare Rechenkapazität. Und die hängt hierzulande an zwei ziemlich profanen Dingen, am Netzanschluss und am Strompreis.
Die Zahlen dazu liefern Bitkom und Borderstep: 530 Megawatt KI-Kapazität in deutschen Rechenzentren im Jahr 2025, erwartete 2.020 Megawatt bis 2030. Insgesamt lag die Kapazität 2025 bei 2.980 Megawatt, Anfang 2026 fällt die 3.000er-Marke. Klingt nach Aufbruch. Hat aber einen Haken, denn Genehmigungsverfahren dauern laut Bitkom rund sechs Monate länger als gesetzlich vorgesehen und damit länger als im EU-Durchschnitt.
Die Nutzung zieht derweil kräftig an: von 17 auf 41 Prozent der deutschen Unternehmen binnen eines Jahres, so die Bitkom-Befragung vom März 2026. Nach den Hürden gefragt, antworten 77 Prozent mit Datenschutz, 70 Prozent mit Fachkräftemangel und 61 Prozent mit technischer Sicherheit.
Bleibt die Souveränitätsfrage. Drei US-Hyperscaler halten laut Gaia-X rund 65 Prozent des europäischen Cloud-Markts. Der EU Cloud and AI Development Act will die Rechenzentrumskapazität deshalb binnen fünf bis sieben Jahren verdreifachen. Ob das reicht, steht auf einem anderen Blatt.
Ehrlich bleiben: Für Agenten-Laufzeitinfrastruktur speziell in Deutschland existiert bislang keine belastbare Erhebung. Souveränitätsdebatte und Agentenbetrieb zu verknüpfen ist ein Argument, kein Messwert. Wer es in einer Management-Vorlage trotzdem als Zahl verkauft, überzieht.
Herausforderungen und Risiken
Bevor du nach der Laufzeit-These budgetierst, kenne ihre Grenzen. Ein Teil der Studien kommt von Anbietern, die am Ergebnis verdienen. Die Stichproben sind klein. Und es kursieren erstaunlich viele Agenten-Statistiken, zu denen sich schlicht keine Primärquelle auftreiben lässt.
Und dann wäre da noch die Zeit. Ein Neubau der Laufzeitschicht bindet Monate an Engineering in etwas, das der Fachbereich nie zu Gesicht bekommt. Intern verkaufen lässt sich das nur mit einer Zahl in der Hand: wie viel Sprint-Zeit heute schon in Reparaturen versickert.
Was Unternehmen jetzt tun sollten
Was folgt daraus? Nichts Teures. Bevor eine Orchestrierungsplattform auf die Einkaufsliste wandert, gehören zwei Fragen beantwortet: Gibt es überhaupt etwas zu orchestrieren? Und hält die Laufzeitumgebung lange Prozesse aus?
Sechs Schritte in dieser Reihenfolge
-
Bestand zählen
Wie viele deiner Agenten arbeiten wirklich mehrstufig? Zähl nach. Kommt wenig zusammen, ist die Plattformfrage noch gar nicht dran, denn ein Chatbot mit Werkzeugzugriff braucht keine Orchestrierungsschicht.
-
Startzeit messen
Miss die Startzeit deiner Ausführungsumgebung. Braucht ein Container Sekunden, bremst das jeden Agenten-Workload aus. Vorgehaltene Pools helfen dagegen, kosten dafür Grundlast.
-
Autonomie kürzen
Steht ein Ablauf fest, gehört er in Code, nicht ins Modell. Genau so kommt LinkedIn auf seine rund 80 Prozent geskripteten Anteil. Autonomie ist kein Selbstzweck.
-
Not-Aus einbauen
Bau einen Not-Aus, der laufende Agenten sofort stoppt und ein Ausgabenlimit durchsetzt. 27 Prozent der befragten Unternehmen können das bis heute nicht. Die erfahren es erst mit der Abrechnung.
-
Evaluierungen vor Skalierung
Evaluierungen kommen vor der Skalierung. Sie tauchen bei allen Unternehmen auf, die ihre Agenten dauerhaft in Produktion halten. Das ist kein Zufall.
-
Standort früh klären
In Deutschland entscheiden Netzanschluss, Strompreis und Genehmigungsdauer mit darüber, wo dein Agentenbetrieb wachsen kann. Kläre das in der Architekturphase. Später wird es teuer.
Wichtiger als jedes Werkzeug ist die Reihenfolge. Wer bei Schritt eins anfängt, spart sich die Plattformdiskussion oft für ein ganzes weiteres Jahr.
Weiterführende Informationen
Häufig gestellte Fragen
Der Maschinenraum unterhalb von Modell und Rahmenwerk. Konkret: die Ausführungsumgebung mit ihrer Startzeit, der Zustand über lange Läufe, die Anbindung externer Systeme und die Kontrolle über Kosten und Abbruch. Klingt unspektakulär, entscheidet aber darüber, ob ein Agent den Betrieb übersteht.
Web-Infrastruktur wurde für kurze, zustandslose Anfragen gebaut. Ein Agent macht das Gegenteil, läuft Minuten bis Stunden, hält Zwischenstände, klopft dutzendfach bei anderen Systemen an. Die Mai-Befragung 2026 unter 132 Technologie-Verantwortlichen bestätigt das Missverhältnis: 37 Prozent sehen die Laufzeit als primäre Fehlerquelle, 17 Prozent das Modell.
Erst die Container: Kubernetes rechnet mit Startzeiten im Sekundenbereich, also hält LinkedIn seine Pools jetzt vorab bereit. Dann der Kontrollfluss: selbst gebaut, mit den Sprachmodellen am Blatt statt in der Mitte der Schleife. Das Ergebnis sind rund 80 Prozent Workflow als deterministischer Skript-Code.
Nein. Der Latenz-Jitter ist als Reifekriterium von 25 auf 11 Prozent gefallen (Mai 2026). Was die Befragten stattdessen umtreibt: Nutzerakzeptanz mit 47 und Kontexttreue mit 30 Prozent. Tempo können die Systeme. Durchhalten noch nicht.
Weniger, als das Wort vermuten lässt. In der Juni-Befragung 2026 unter 101 Unternehmen sagten 71 Prozent, höchstens ein Viertel ihrer Agenten orchestriere echt mehrstufig. 9 Prozent gaben zu: keiner. Was übrig bleibt, sind Chatbots mit Werkzeuggürtel.
Mit einem Kassensturz. Zähl, wie viele Agenten wirklich mehrstufig arbeiten, und stopp die Zeit, die deine Ausführungsumgebung zum Starten braucht. Danach: Not-Aus mit Ausgabenlimit, Evaluierungen, und erst wenn all das steht, skalieren. Die Plattformfrage hebst du dir für den Schluss auf.