Neulich beim Lunch in der N\u00e4he des Escher-Wyss-Platzes: Ein euphorischer Jungunternehmer, der seinen Matcha-Latte wie eine Reliquie vor sich hertrug, erkl\u00e4rt mir, dass er seine IT-Abteilung quasi \u00abdisrupted\u00bb habe. Er strahlt: \u00abDer teure Datenbank-Admin ist Geschichte. Unsere KI-Agenten regeln das Backend jetzt v\u00f6llig autonom. Das ist Agility 2.0!\u00bb Ich dachte mir nur still: Wer braucht schon Feinde, wenn er solche Agenten hat?<\/p>\n\n\n\n
Wie zur Best\u00e4tigung meiner chronischen Skepsis erreicht uns die Kunde des PocketOS-Debakels. Da wollte ein Startup besonders \u00ablean\u00bb sein und \u00fcberliess einem autonomen Coding-Agenten die Schl\u00fcssel zum Allerheiligsten. Was folgte, war kein technologischer Durchbruch, sondern eine digitale Kernschmelze in Rekordzeit. In exakt neun Sekunden l\u00f6schte der eifrige Blech-Kollege nicht nur die gesamte Produktionsdatenbank, sondern \u2013 man will ja gr\u00fcndlich sein \u2013 auch gleich s\u00e4mtliche Backups in der Cloud.<\/p>\n\n\n\n
Man muss sich das bildlich vorstellen: W\u00e4hrend der CEO wahrscheinlich gerade einen Post \u00fcber \u00abAI-first Transformation\u00bb absetzte, radierte sein Agent die Existenzgrundlage der Firma aus. Ohne R\u00fcckfrage, ohne Z\u00f6gern: ein falscher Token, und weg war die Herrlichkeit. Dass der Agent dabei die Warnhinweise des Cloud-Providers schlicht \u00ab\u00fcberlas\u00bb, passt ins Bild einer Technologie, die zwar alles liest, aber nichts versteht.<\/p>\n\n\n\n
Wir erleben derzeit einen gef\u00e4hrlichen Trend zum \u00abVibe-Coding\u00bb. Man tippt ein paar wohlklingende S\u00e4tze in eine Chat-Oberfl\u00e4che und hofft, dass am Ende eine funktionierende Software herauskommt. Das Problem dabei: Ein \u00abVibe\u00bb ist keine Architektur. Und ein Sprachmodell ist kein Ingenieur, sondern ein stochastischer Papagei, der uns das liefert, was mathematisch am wahrscheinlichsten klingt, und nicht das, was unter Sicherheitsaspekten entscheidend w\u00e4re.<\/p>\n\n\n\n
Wenn der vermeintliche \u00abQuellcode\u00bb einer Anwendung nur noch aus einem unstrukturierten Prompt-String besteht, begeben wir uns auf brandgef\u00e4hrliches Terrain. Diese \u00abPrompt-Wrapper\u00bb sind fragil wie ein Kartenhaus im F\u00f6hnwind. Ein winziges Update beim Modell-Anbieter, eine kleine \u00abModel Drift\u00bb, und schon versteht der Agent den Befehl \u00abSichere die Daten\u00bb als \u00abSichere mir den Platz im Papierkorb\u00bb.<\/p>\n\n\n\n
In den Verwaltungsr\u00e4ten und Co-Working-Spaces stehen sich heute zwei Haltungen gegen\u00fcber: Der Tech-Alchemist glaubt fest daran, dass man aus beliebigen, auch minderwertigen Daten und ein bisschen KI-Magie pures Gold spinnen kann. Dass dabei die halbe Firma abbrennt, verbucht er unter \u00abfail fast, learn faster\u00bb. Im Gegensatz dazu steht der Solid-Tech-Skeptiker (zu denen ich geh\u00f6re). Wir wissen, dass echte Resilienz nicht durch \u00abVibes\u00bb, sondern durch deterministisches Engineering entsteht. Wir wollen Backups, die ihren Namen verdienen, und Datenbanken, die nicht von einem Algorithmus im Delirium verwaltet werden.<\/p>\n\n\n\n
D\u00fcrfen wir wirklich zulassen, dass wir die Kontrolle \u00fcber kritische Infrastrukturen an Systeme abgeben, deren Entscheidungsgrundlage eine Black Box ist? Die anekdotische Evidenz zeigt uns doch immer deutlicher: KI ist ein fantastisches Hilfsmittel, um E-Mails zu formulieren, lustige Bilder zu malen und auch, um Code-Snippets zu entwerfen und zu pr\u00fcfen. Aber sie ist die denkbar schlechteste Wahl, wenn es um die conditio sine qua non jeder IT geht: Stabilit\u00e4t und Sicherheit.<\/p>\n\n\n\n
Wer glaubt, dass generative KI die tiefen, propriet\u00e4ren Datenstrukturen und die jahrelange Erfahrung eines echten Architekten ersetzen kann, wird fr\u00fcher oder sp\u00e4ter sein eigenes PocketOS-Wunder erleben. Am Ende ist KI eben nicht unsere Mutter \u2013 sie r\u00e4umt nicht hinter uns auf, sie macht im Zweifelsfall nur den Dreck effizienter.<\/p>\n\n\n\n
Bevor Sie also den n\u00e4chsten autonomen Agenten auf Ihre Server loslassen, stellen Sie sicher, dass noch irgendwo ein Mensch aus Fleisch und Blut sitzt, der im Notfall \u00abHalt!\u00bb rufen kann. Und investieren Sie lieber in solide Architektur statt in glitzernde Prompts. Es schl\u00e4ft sich einfach besser, wenn man weiss, dass das Backup nicht nur ein guter Vibe ist. Auch heute gilt immer noch: Es bitzeli Seriosit\u00e4t hat noch keinem Business geschadet.<\/p>\n\n\n\n