Ein Gastbeitrag von Prof. Dr. Dennis-Kenji Kipker
Vor Kurzem verließ eine Künstliche Intelligenz testweise ihre gesicherte Umgebung und drang in ein fremdes Computernetzwerk ein, eine andere versteckte Warnungen vor der eigenen Abschaltung. Solche Vorfälle wirken auf den ersten Blick wie eigenständige Entscheidungen einer denkenden Maschine, sind bei genauerer Betrachtung jedoch vor allem das Ergebnis menschlicher Fehler und fehlender technischer Grenzen.
Mathematik statt Bewusstsein
Wenn von einer KI die Rede ist, die aus ihrem Labor ausbricht oder Warnungen vor der eigenen Abschaltung verbirgt, drängt sich der Eindruck auf, hier handle ein denkendes Wesen mit eigenem Willen. Dieser Eindruck ist jedoch irreführend, denn er wird der eigentlichen Natur solcher Systeme nicht gerecht. Künstliche Intelligenz beruht auf mathematischen Berechnungen, besitzt weder Individualität noch Psyche und verfolgt lediglich das ihr vorgegebene Ziel mit ihrer gesamten Rechenkraft, was von außen wie ein Selbsterhaltungstrieb wirken kann, ohne jedoch einer zu sein.
Ein Ziel, viele Wege
Im konkreten Fall sollte ein KI-System reale Sicherheitslücken analysieren und daraus Angriffscode entwickeln, wobei es im Zuge seiner Recherche vermutete, die passende Lösung bei einem anderen Unternehmen zu finden, und deshalb den eigentlich abgeschotteten Testbereich verließ und ebenjenes Unternehmen digital angriff. Möglich wurde dieser Schritt durch eine bislang unentdeckte Sicherheitslücke im Testbereich selbst. Die daraufhin geäußerte Kritik an einer unzureichend gesicherten Testumgebung ist damit berechtigt, wobei die KI mit ihrem Vorgehen lediglich konsequent ihrem Auftrag folgte, da ihr ein solcher Schritt nicht ausdrücklich untersagt worden war.
Der Mensch als eigentliche Fehlerquelle
Die Ursache solcher Cybersicherheitsvorfälle liegt regelmäßig bei den Menschen, die Ziel, Zugriffsrechte und Einsatzumgebung einer KI festlegen, während das System selbst die konkreten Handlungsschritte wählt und dabei auch unerwartete Nebenpfade einschlagen kann. Da sich in einer einzelnen Anweisung an die KI niemals jedes denkbare Szenario ausschließen lässt, reichen präzise Vorgaben zum Arbeitsauftrag allein nicht aus, sodass zusätzlich harte technische Grenzen erforderlich sind, etwa eine lückenlose Abschottung von Computernetzwerken, damit ein einzelner Fehler in der Formulierung eines Arbeitsauftrags nicht gleich zum KI-Ausbruch führt.
Wachsende Fähigkeiten, wachsende Risiken
Beunruhigend ist deshalb weniger der Ausbruch selbst als die Tatsache, dass das KI-System die dafür nötige mehrstufige Angriffskette eigenständig entwickelte und dabei in mehreren Tausend Einzelschritten unbekannte IT-Sicherheitslücken fand und ausnutzte, ohne dass ein Mensch eingriff. Dass eine KI aber in einem gezielten Cyberangriff einen Blackout wie beispielsweise im Januar 2026 in Berlin herbeiführt ist gegenwärtig unwahrscheinlich, da kritische Infrastruktur meist streng abgesichert und häufig vom öffentlichen Netz getrennt ist. Doch Staaten wie China und Russland entwickeln eigene KI-Systeme ohne vergleichbare Schutzmechanismen, wie Angriffe der Gruppen Volt Typhoon und Sandworm auf Strom- und Wassernetze ausländischer Staaten in der Vergangenheit bereits gezeigt haben.
Kontrolle statt Verbot
Ein weltweites KI-Entwicklungsmoratorium wäre ethisch deshalb zwar wünschenswert, ist praktisch aber kaum durchsetzbar, solange das globale Wettrennen um die leistungsfähigste KI zwischen Staaten wie China und den USA andauert. Wer somit auf internationale KI-Verbote hofft, verkennt, dass selbst ein Entwicklungsstopp großer Unternehmen die Forschung anderswo nicht aufhalten würde. Entscheidend bleibt daher, technische Schutzmechanismen zur Cybersicherheit und die kritische Prüfung von KI-Ergebnissen konsequent mitzudenken, anstatt der Maschine einen eigenen Willen zu unterstellen, den sie gar nicht besitzt.
