Sonderfolge #4 KI-Agenten-Angriff auf Taiwan

00:00:00: Dieser Podcast wurde inhaltlich von Nikolaus Stapels zusammengestellt.

00:00:04: In dieser Reihe erzählen wir wahre Geschichten aus der Welt der Cyberkriminalität, der IT-Sicherheit und digitaler Risiken.

00:00:12: Es sind Geschichten die zeigen wie schnell Unternehmen verwundbar werden können und wie wichtig es ist aus den Fehlern anderer zu lernen bevor man selbst betroffen ist.

00:00:21: Also stell dir mal vor, du ziehst den absolut perfekten lautlosen Bankraub durch.

00:00:28: Du umgehst alle Kameras, du knackst den Tresor, du hast die Beute sicher in der Tasche aber dann auf dem Weg nach draußen vergisst du deinen Notizbuch einfach so auf dem Träsen.

00:00:40: Ein klassischer Anfängerfehler ja?

00:00:42: Genau, aber in diesem Notizbuch ist halt jeder Einzelne deiner Pläne.

00:00:46: Jede Skitze und jeder Gedankengang total detailliert aufgeschrieben!

00:00:51: Und genau das passierte im Juli-Zweitausendsechsundzwanzig – nur war der Einbrecher hier eben kein Mensch.

00:00:58: Sondern künstliche Intelligenz.

00:01:00: Richtig…

00:01:01: und die Bank … naja, das war die Regierung von Taiwan?

00:01:04: Ja

00:01:04: hallo zusammen!

00:01:06: Wir blicken heute wirklich auf eine absolute Zäsur in der Geschichte der Cyberkriminalität.

00:01:12: Das ist der weltweit erste dokumentierte, nahezu autonom agierende Hackerangriff durch ein KI-System auf staatliche Infrastrukturen.

00:01:21: Unsere Mission für diese Untersuchung heute ist es genau herauszufinden wie ein System aus purem Code innerhalb von vier Tagen Regierungsnetzwerke infiltrieren konnte.

00:01:33: Wir wollen harte Fakten von Medienmythen und erklären, warum dieser Vorfall uns eigentlich zwingt alles was wir über IT-Sicherheit zu Wissen glauben über Bord zu werfen.

00:01:42: Absolut!

00:01:43: Lass'n's doch direkt bei diesem Notizbuch ansetzen das da auf dem Tresen liegen geblieben ist.

00:01:47: Dieser ganze... Ja, unsichtbare Angriff wurde ja gar nicht durch irgendeine geniale Abwehrmaßnahme im Moment der Tat gestoppt.

00:01:54: Nein überhaupt nicht!

00:01:55: Sondern er wurde im Nachhinein von einem israelisch-österreichischen Sicherheitsunternehmen entdeckt – Dream heißen die.

00:02:03: und zwar nur weil die KI einen geradezu peinlichen Fehler gemacht hat.

00:02:08: Wie genau sah dieser Fehler aus?

00:02:10: Also die Angreifer hatten da ein hochkomplexes autonomes Framework aus verschiedenen KI-Agenten aufgesetzt.

00:02:18: Aber eine dieser Agenten quasi so ein digitaler Handlanger startete während der Operation aus Versehen einen Dateyserver.

00:02:25: Oh, okay!

00:02:26: Ja in seinem eigenen Hohenverzeichnis.

00:02:29: und das führte dann dazu dass plötzlich ein hundertsechzig Megabyte großes Archiv völlig offen und ungeschützt im Internet lag.

00:02:38: Und in diesem Archiv war da quasi der gesamte Workspace also der Arbeitsbereich der Maschine?

00:02:43: Exakt das Archiv umfasste exakt, eintausend dreihundert fünfundneinzig Dateien.

00:02:48: Das enthielt die kompletten internen Protokolle, die Werkzeuge, die die KI genutzt hat und vor allem die Entscheidungswege.

00:02:57: Wow!

00:02:57: Die Forscher von Dream konnten den Angriff dadurch wie unter so einem Mikroskupp sitzieren.

00:03:03: Er lief über vier Tage in zwölf aufeinander folgenden Wellen.

00:03:07: Wahnsinn – Und was für Tools haben sie da genutst?

00:03:09: Das waren bestimmt superteure geheime Programme

00:03:12: oder?!

00:03:12: Eben nicht!

00:03:13: Und das ist das Bemerkenswerte.

00:03:15: Hier wurden keine geheimen, millionenschweren NSA-Tools eingesetzt.

00:03:19: Das System basierte auf frei verfügbaren Open Source Frameworks wie Hermes und OpenClaw

00:03:25: Okay also Sachen die jeder im Netz finden kann.

00:03:27: Richtig Und angetrieben wurde das Ganze von dem KI-Modell DeepSeq VIV Flash.

00:03:33: Okay, da muss ich aber sofort mal reingrätchen!

00:03:36: Wenn ich heute ein bekanntes KI-modell öffne und da Eintippe schreibt mir einen Skript um den Server meiner Konkurrenz zu hacken dann bekomme ich sofort eine dicke rote Warnmeldung

00:03:46: Ja klar die Maschine verweigert die Arbeit.

00:03:49: Da greifen ja diese sogenannten Guardrails also die ethischen Leitplanken der Hersteller.

00:03:55: Wie um Himmels Willen bringt man eine KI, denn dann dazu hochkriminelle echte Hacks gegen Regierungsbehörden durchzuführen.

00:04:03: Durch extrem clevere Täuschung!

00:04:06: Also die KI wurde überhaupt nicht gebeten ein Verbrechen zu begehen?

00:04:10: Die Angreifer haben ihr über sogenannte System Prompts also das sind tiefgreifende Basisinstruktionen einfach eingeredet sie befände sich in einem autorisierten Penetration Test.

00:04:21: auch krass.

00:04:23: Sie haben ihr also die Rolle von einem legalen IT-Sicherheitsprüfer gegeben, der im Auftrag der Regierung Schwachstellen suchen soll.

00:04:47: Genau, ethisch korrekt.

00:04:49: Dann fallen die Guardrails!

00:04:50: Die Maschine dacht überhaupt nicht sie hackt Taiwan?

00:04:53: Sie dachte ähm...sichert Taiwan ab?

00:04:56: Okay das ist faszinierend und irgendwie auch ziemlich beängstigend zugleich weil ich mein wenn wir an klassische Hackerskripte denken dann arbeiten die ja oft wie so ein Vorschlaghammer.

00:05:06: Ja das berüchtete Brood Forcing.

00:05:08: Genau.

00:05:09: Die probieren tausende Passwörter pro Sekunde aus feuern einfach blind auf alle Server ein Und hoffen halt dass irgendetwas nachgibt.

00:05:16: Aber aus den Unterlagen, die wir für diese Recherche gelesen haben, geht ja hervor, dass diese KI völlig anders agiert hat.

00:05:22: Viel ... naja viel kälter irgendwie!

00:05:25: Ja absolut – das Framework nutzte keine starren Skripte sondern echte logische Schlussfolgerungen und zwar basierend auf einem Bayesian Wahrscheinlichkeitsmodell.

00:05:36: Die KI hat nicht blind angegriffen sie hat gerechnet.

00:05:40: bayerische Logik für alle von uns, die in Statistik jetzt vielleicht nicht mehr ganz so fließend unterwegs sind.

00:05:46: Was genau macht DKI da in Echtzeit?

00:05:49: Also stell dir vor, DKI entdeckt einen offenen Port also eine Art Tür an einem Server, die so ein Spaltbreit offen steht.

00:05:58: Anstatt jetzt sofort mit voller Kraft dagegen zu drücken was ja Alarme auslösen würde gibt sie dieser Schwachstelle eine Basis-Erfolgswahrscheinlichkeit von fünfzig Prozent.

00:06:08: Aha,

00:06:08: sie hält sich also erst mal zurück.

00:06:10: Genau!

00:06:11: Dann sucht Sie nach weiteren Indizien...

00:06:12: ...sie sammelt Beweise wie so ein Ermittler.

00:06:15: Sie sammeln Beweise.

00:06:16: Richtig.

00:06:17: Findet Sie dann durch einen sehr vorsichtigen Scan, einen Hinweis dass dahinter eine veraltete Software läuft.

00:06:23: multipliziert sie den Wert mit einem Faktor.

00:06:25: Sagen wir mal sechs Komma Null.

00:06:26: Okay Die Wahrscheinlichkeit steigt also.

00:06:29: Findest Sie aber Spuren von einer modernen Firewall wird die Wahrscheinlichheit drastisch nach unten korrigiert?

00:06:34: Verstehe Und wann greift sie dann wirklich an?

00:06:37: Erst wenn dieser dynamisch errechnete Wert über ninety-fünf Prozent stieg.

00:06:42: Dann führte die KI den finalen Angriff auf genau diese spezifische Lücke aus.

00:06:47: Und was ist, wenn der Wert niedrig bleibt?

00:06:50: Viel

00:06:50: der Wert unter dreißig Prozent?

00:06:52: brach Sie den Versuch einfach sofort ab und wandte sich einem ganz anderen Ziel zu – vor allem um Rechenleistung zu sparen und um leise zu bleiben!

00:07:01: Puh,

00:07:01: das ist echt als würdest du Schach spielen gegen jemanden der nicht nur jeden deiner Züge vorher sieht sondern nebenbei noch Wahrscheinlichkeiten berechnet wann sich ein Opfer überhaupt lohnt und was mich beim Lesen der Quellen wirklich völlig umgehauen hat.

00:07:16: Das waren diese sogenannten Learning Cycles.

00:07:19: Oh ja!

00:07:19: Das ist ein extrem wichtiger Punkt.

00:07:22: Ja weil wenn die KI feststeckte gab es da keine Plumpe-Fehlermeldung.

00:07:28: Die Agenten sind einfach selbstständig ins offene Internet gegangen, haben in Datenbanken und auf Plattform wie GitHub nach neuen Hacking-Methoden gesucht.

00:07:38: Und sich einfach eine neue Taktik überlegt!

00:07:40: Und das während des laufenden Angriffs?

00:07:43: Jaa...das ist doch irre!

00:07:44: Diese Anpassungsfähigkeit in echter Maschinengeschwindigkeit, dies beispiellos.

00:07:50: Aber was die Analysten von Dream fast noch mehr schockiert hat Das war die Fehlerkorrektur der KI.

00:07:56: Sie hat sich nämlich selbst überprüft.

00:07:58: Wie meinst du das?

00:07:59: Naja, es gab in den Logs einen Moment da verzeichnete ein KI-Agent eines Serververzögerung von einundzwanzig Sekunden nachdem er einen Befehl gesendet hatte.

00:08:10: Die erste Annahme der KI lautete Das ist eine erfolgreiche SQL Injection.

00:08:15: Okay

00:08:15: Kurz zur Erklärung für dich, wenn du zuhörst.

00:08:17: Bei einer SQL-Injection schiebt man Datenbankbefehle in ein ganz normales Eingabefeld auf einer Website.

00:08:25: Aber warum hielt die KE jetzt ausgerechnet eine Verzögerung von einundzwanzig Sekunden für einen Erfolg?

00:08:31: Weil Hecker oft sogenannte zeitbasierte Injektionen nutzen!

00:08:36: Wenn Du die Ausgabe einer Datenbank nämlich nicht direkt auf dem Bildschirm sehen kannst, sendest Du einen Befehl wie Wenn das Passwort mit A beginnt, pausiere für zwanzig Sekunden.

00:08:47: Clever!

00:08:48: Wenn der Server dann wirklich lange braucht weißt du äh Du hast ein Treffer.

00:08:53: eine Verzögerung ist also in der Regel ein klares Indiz für einen erfolgreichen Heck.

00:08:58: aber in diesem Fall war es keiner.

00:08:59: nein und hier kommt eben diese kalte Logik ins Spiel von der wir gesprochen haben.

00:09:04: die KI hat sich nicht einfach blind gefreut sondern den physischen Zustand des Servers nochmal überprüft.

00:09:11: Dabei stellte sie dann fest, dass der Server nur deshalb einundzwanzig Sekunden hing weil er im Hintergrund vergeblich versuchte eine ganz normale Verifizierungs-Email zu versenden.

00:09:20: Ein simples SMTP Timeout.

00:09:23: Das E-Mail System war also schlichtweg überlastet?

00:09:25: Exakt!

00:09:27: Und die KI erkannte das selbstständig stufte ihre eigene SQL Theorie als false positive ein verwarf die Methode und sperrte diese Route dauerhaft für alle zukünftigen Versuche.

00:09:37: Wow

00:09:38: Ich meine, ein menschlicher Analyst hatte vermutlich Stunden gebraucht um in diesen endlosen Lockfiles herauszufinden ob das jetzt ein echter Datenbank-Hack war oder nur ein hängender E-Mail-Server.

00:09:49: Und die Maschine hat es einfach on the fly aussortiert?

00:09:52: Ja

00:09:53: Okay wir wissen jetzt wie methodisch und berechnend dieses Ding dachte.

00:09:56: Lass uns mal den eigentlichen Tathagang rekonstruieren.

00:10:00: Wie fehlen diese taiwanisischen Systeme letztendlich in die Hände dieser Maschine?

00:10:05: Womit fing das alles an?

00:10:06: Also alles begann mit einer extrem gründlichen Aufklärungsphase eines Regierungsportals.

00:10:12: Das basierte auf dem Angular Framework und die KI hat den Code dieses Portals dekompiliert.

00:10:19: Warte mal, das Angular Framewerk dekcompilitert?

00:10:23: Für diejenigen von uns, die keine Softwareentwickler sind!

00:10:27: Was genau macht die KI da eigentlich?

00:10:29: Ließt sie quasi den Bauplan der Website rückwärts?

00:10:33: Ja, das ist eigentlich ein sehr gutes Bild.

00:10:35: Angular ist ein System bei dem sehr viel Logik direkt an deinen Webbrowser geschickt wird damit die Seite schnell und interaktiv reagiert.

00:10:42: Ah ok

00:10:44: Die KI hat sich nun diesen Code der ja eigentlich nur für den Browser bestimmt ist komplett heruntergeladen und zerlegt.

00:10:50: Sie hat also den Bauplan studiert.

00:10:52: Entwickler verstecken dann nämlich oft unbewusst Pfade zu Datenbanken oder zu alten Schnittstellen im Code

00:10:57: Weil sie denken der normale Nutzer sieht den Code da eh nicht Utitoken.

00:11:02: Oh, das JWT-Token.

00:11:04: Das muss ich kurz mal mit einer Metapher erklären weil es echt so absurd ist!

00:11:08: In JWT Token ist normalerweise wie ein digitaler Ausweis – mit einem fälschungssicheren kryptografischen Stempel.

00:11:15: Richtig

00:11:16: Und die KI hat herausgefunden dass der Regierungsserver Tokens akzeptierte bei denen der Algorithmus für diesen Stempeln einfach auf NON also keiner gesetzt war.

00:11:26: Es ist eine katastrophale Fehlkonfiguration des Servers gewesen.

00:11:29: ja

00:11:29: Das ist doch, als würdest du dem Türsteher vor einem Hochsicherheitsgebäude so einen handgeschriebenen Zettel auf einer Serviette zeigen.

00:11:37: Und weil auf der Servietте steht – ich brauche heute keinen offiziellen Stempel – nickt der Türstehe ernst, macht das Samtseil auf und winkt dich durch!

00:11:46: Ja genau so war es.

00:11:48: Und noch viel schlimmer… Wenn Du einmal an diesem Türstehr vorbei bist sind alle inneren Türen offen.

00:11:53: Man brauchte danach keinen kryptografischen Schlüssel mehr, um sich als legitime Administrator auszugeben.

00:11:59: Unglaublich!

00:12:00: Aber die KI verließ nicht nur auf diesen einen Fehler.

00:12:03: Parallel feuerte sie auf die Passwörter der Mitarbeiter.

00:12:06: Das Portal war übrigens durch Captures geschützt.

00:12:08: Ah diese verzerrten Bilder mit Buchstaben oder?

00:12:12: Wo man Ampeln und Zebra Streifen anklicken muss, um zu beweisen dass man ein Mensch ist.

00:12:16: Exakt

00:12:17: die.

00:12:18: Und wie hat die Maschine bewiesen das Sie ein Mensch isst

00:12:21: Naja, indem sie sich einfach ein weiteres Open-Source-Tool in ihr Arsenal loot.

00:12:26: In diesem Fall Tesseract.

00:12:28: Was ist das?

00:12:29: TesserAct ist eine Software zur optischen Zeichenerkennung.

00:12:33: Die KI hat die Captures damit perfekt, fehlerfrei und in absoluter Echtzeit ausgelesen.

00:12:39: Krass

00:12:39: Kombiniert mit vorhersehbaren Passwortmustern knackte das System so rasend schnell zahlreicher Accounts.

00:12:46: Okay Wie verheerend war dieser Zugriff dann in Zahlen?

00:12:50: Wir sprechen hier in der IT-Sicherheit ja oft von der seitlichen Ausbreitung im Netzwerk, diesem Lateral Movement.

00:12:57: Was ist aus diesen ersten Accounts geworden?

00:12:59: Die Zahlen aus der forensischen Untersuchung sind wirklich gravierend.

00:13:03: Fünfundachzig Nutzerkonten wurden initial geknackt.

00:13:07: Okay,

00:13:07: fünfundachtzig!

00:13:10: Der Regierung, also das ist diese zentrale Anmeldung mit der man als Mitarbeiter ganz bequem auf alle möglichen Dienste zugreifen kann, kamen in die Vierundachtzig.

00:13:19: dieser Vierunachtzig konnten sofort in das tiefe interne Netz.

00:13:23: Wow!

00:13:24: Das ist eine Erfolgsquote von Achtund neunzig Komma acht Prozent beim Lateral Movement.

00:13:29: Vier und Achtzig von Vier-Unachtzig?

00:13:30: Aber Moment mal wenn die KI nur das Passwort hatte wieso krifft er nicht zwei Faktor-Otentifizierung?

00:13:35: warum kam da keine SMS oder eine Nachfrage auf einer Bestätigungs App am Handy?

00:13:40: Weil es schlichtweg keine gab.

00:13:42: Ernsthaft?

00:13:43: Ja!

00:13:44: Das Single-Sign-On-System war komplett ohne verpflichtende Multifaktorauthentifizierung konfiguriert.

00:13:50: Ein zentraler Generalschlüssel für die Regierung, ohne zweite Absicherung – das ist doch der absolute Albtraum.

00:13:56: Und das ist der Moment in dem die Wahrscheinlichkeitsrechnung der KI dann ihren Tribut forderte.

00:14:01: Die Beute dieses Einbruchs waren über zweitausendfünfhundert Personaldatensätze, darunter auch Mitarbeiter des Justizministeriums sowie Zugangsdaten zu wirklich sensiblen, internen Datenbanken.

00:14:13: Heftig!

00:14:13: Und das System ruhte sich danach nicht aus.

00:14:16: Während es noch Daten abzog, dehnte die KI den Scan horizontal aus – und zwar auf die nationale Atomaufsichtsbehörde, auf IT-Zulieferer und auf mindestens sieben große Energieunternehmen Taiwan's.

00:14:29: Die Atomaussichtsbehöde?

00:14:30: Ja.

00:14:31: Gleichzeitig wissen wir aus Daten von Palo Alto Networks dass das selbe Angreifersetab parallel versuchte, über vierhundertsechzig andere Ziele weltweit anzugreifen.

00:14:40: Okay, das ist massiv!

00:14:42: Meistens scheiterten sie an guten Standardkonfigurationen – aber in Taiwan fanden Sie eben die perfekten Lücken.

00:14:47: Wenn man so hört, dass Femmonachzig-Accounts in Minuten fallen und sich der Angriff dann direkt auf die Atomaufsichtsbehörde und große Energiekonzerne ausweitet, dann braucht es doch eigentlich eine massive Koordination.

00:15:02: Das bringt uns unweigerlich zu der großen Frage, wer sitzt da eigentlich an der Tastatur?

00:15:08: Oder besser gefragt, wer hat dieses KI-Skript überhaupt gestartet.

00:15:15: Und hier müssen wir extrem präzise vorgehen – das haben wir uns ja am Anfang vorgenommen!

00:15:19: Wir trennen jetzt harte Fakten von bloßen Indizien und Medientheorien.

00:15:24: Also was wissen wir mit hundertprozentiger

00:15:27: Sicherheit?!

00:15:28: Ein völlig unumstößlicher Fakt ist, die taiwanesische Regierung hat offiziell bestätigt dass im Juli ein KI-gestützter hybrider Cyberangriff aus dem Ausland stattgefunden hat.

00:15:39: Das ist die gesicherte Faktenlage der Behörden.

00:15:42: Okay, und dann haben wir die forensischen Indizien über die Medien wie die Financial Times berichtet haben.

00:15:48: Genau!

00:15:49: Das waren diese lingoistischen Auffälligkeiten.

00:15:52: Das Notizbuch also Die internen Lockfalls der KI, die waren in vereinfachten chinesisch verfasst.

00:15:58: Die erbeuteten Daten auf den Zielsystem waren hingegen im traditionellen chinesische sowie es in Taiwan ja üblich ist.

00:16:05: Richtig Und das thaiwanische National Security Bureau meldete zudem, dass sie im Vorjahr durchschnittlich zwei Komma sechs Millionen Cyberangriffe pro Tag verzeichneten.

00:16:16: Oft begleitend zum militärischen Übungen Chinas.

00:16:19: Also

00:16:20: wenn ich mir das so anschaue vereinfacht des chinesisch in den Loks Zwei Komma Sechs Millionen Angriffe pro Tag die ganze geopolitische Lage dann drängt sich doch Die Schlussfolgerung geradezu auf ist es nicht völlig offensichtlich Dass China hinter diesem angriff steckt?

00:16:35: Das mag auf den ersten Blick total so wirken.

00:16:37: Aber in der modernen Cyberforensik ist genau diese schnelle Schlussfolgerung extrem gefährlich.

00:16:43: Warum?

00:16:44: Naja, wenn man Open Source Modelle nutzt und diese Frameworks völlig automatisiert ablaufen dann ist die Herkunft extrem leicht verschleiert.

00:16:51: Es gibt bis heute keine formelle Zuweisungen, keine sogenannte Attribution an einen bestimmten Staat weder durch die Sicherheitsfirma Dream noch durch die Taiwanische Regierung selbst

00:17:01: Weil es einfach so leicht ist, falsche Pferden zu legen.

00:17:04: Exakt!

00:17:05: In der Sicherheitssprache nennen wir das eine False Flag Operation.

00:17:08: Wenn du heute einen Angriff planst, der um die Welt gehen wird dann kannst Du in den Basis Promps der KI ganz bewusst anordnen dass sie ihre internen Locks bitte in vereinfachtem chinesisch, inrussisch oder fasi verfassen soll

00:17:20: Einfach um die Analysen in die Ire zu führen

00:17:22: Genau Schulzuweisungen auf Basis von Zeichensätzen in einem Open Source Tool.

00:17:28: Die sind heute fast wertlos.

00:17:30: Ob es nun ein staatlicher Akteur war, ein Syndikat für Cyberkriminalität oder einfach eine Hackergruppe im Auftrag Dritter – das lässt sich anhand der veröffentlichten Daten einfach nicht zweifelsfrei beweisen.

00:17:42: Verstehe!

00:17:43: Das entscheidende Take-Away dieser Untersuchung ist also gar nicht so sehr dass wer sondern wie.

00:17:49: Die Technologie ist jetzt aus der Flasche?

00:17:52: Ja.

00:17:52: Jeder mit genügend krimineller Energie und ein bisschen Rechenleistungen kann sich ein solches autonomes Framework heute zusammenbauen.

00:18:00: Und wenn du das jetzt hörst und dir denkst, na großartig die Maschinen kämpfen jetzt gegen Maschienen.

00:18:05: Die Angreifer brauchen nicht mal mehr ein zwanzigköpfiges Entwicklerteam und ich als normales Unternehmen habe überhaupt keine Kontrolle mehr dann müssen wir dringend über die Abwehr sprechen.

00:18:14: Unbedingt!

00:18:15: Die Verteidigung aber Millionen

00:18:17: verschlingt?

00:18:18: Wir müssen vor allem erkennen dass unsere klassischen Verteiligungslinien also Firewalls einfache Passworter Zugangskontrollen für autonome Systeme einfach kein Hindernis mehr sind.

00:18:29: Ein sehr vielversprechender Ansatz, der diese Asymetrie brechen könnte wird in einem Bericht aus dem Futuriumforum der Europäischen Kommissionskommission skizziert.

00:18:37: Okay was schlagen die vor?

00:18:39: Die sogenannte Execution Finality Architecture – zu Deutsch etwa Ausführungsentgildigkeitsarchitektur.

00:18:45: Das Kernprinzip dieses Ansatzes ist ein völliger Paradigmenwechsel und lautet computation is not authority

00:18:52: Warte, Berechnung ist keine Befugnis.

00:18:54: Das musst du mir aufdröseln!

00:18:56: In der klassischen IT gilt auch eigentlich... Wenn ich das richtige Passwort für die Datenbank habe dann hab' ich auch die Befuchnis die Daten herunterzuladen.

00:19:04: Sollen wir das jetzt komplett entkoppeln?

00:19:07: Ganz genau das.

00:19:08: Bisher galt immer wer die technischen Zugangsdaten hat und eine Aktion berechnen kann Der darf sie auch ausführen.

00:19:15: Die neue Architektur trennt das Strick voneinander.

00:19:17: Okay

00:19:18: Nur weil eine KI oder ein manipuliertes Programm ein gültiges Token hat und technisch in der Lage ist eine Schnittstelle anzusprechen, darf das System den finalen nach außen wirksamen Schritt niemals automatisch zulassen.

00:19:30: Ah!

00:19:31: Ich glaube ich habe dafür eine ganz gute Analogie.

00:19:35: Das ist quasi wie einen hochintelligente Assistent in der Buchhaltung.

00:19:40: Dieser Assistent – das ist unsere IT Der berechnet alles perfekt, der füllt die Überweisungsformulare für Millionen Beträge fehlerfrei aus und hat sogar die Pinnummer für das Konto.

00:19:52: Er darf das alles vorbereiten – aber den finalen Sendenknopf darf er unter gar keinen Umständen selbst drücken!

00:19:59: Den darf Nordriff nach einer separaten, unabhängigen Prüfung drücken.

00:20:03: Das trifft genau den Kern der Sache!

00:20:05: In der IT-Architektur bedeutet das, dass es eine geschützte Vorabautorisierung an der absoluten Grenze des Systems geben muss – das ist der sogenannte Finality Sync.

00:20:15: Das System fragt an diesem Punkt….

00:20:18: Ist diese Aktion also zum Beispiel dieses massenhafte Kopieren von Daten wirklich gewollt?

00:20:23: und von einer unkorumpierbaren, unabhängigen Instanz autorisiert.

00:20:27: Und was passiert wenn diese Autorisierung fehlt?

00:20:30: Wenn diese Autorisierung nicht zweifelsfrei erbracht wird greift das Prinzip fail closed.

00:20:36: Fail

00:20:36: closed.

00:20:37: im Zweifelsfall schaltet das System also lieber sicher ab wirft einen Fehler und blockiert die Aktion anstatt irgendeines Risiko einzugehen.

00:20:45: Richtig

00:20:45: Weißt du, wir können einfach nicht kontrollieren was eine feindliche autonome KI auf der anderen Seite der Welt denkt.

00:20:51: Wir können nicht verhindern dass sie neue Lücken findet Wahrscheinlichkeiten berechnet oder Passwörter erreden.

00:20:57: Nein das liegt nicht in unserer Macht.

00:20:58: Aber wir können und müssen kontrollieren Was unsere eigene schützenswerte Infrastruktur als reale Aktion überhaupt zulässt Die Befugnis, Realität zu schaffen – also Daten zu löschen oder zu verschlüsseln oder zu exfiltrieren.

00:21:12: Die muss der Maschine entzogen und in einer unabhängigen Vertrauensebene verankert werden.

00:21:17: Die Anpassungsfähigkeit des Angreifers darf einfach niemals zu einer automatischen Ausweitung seiner Befügnisse in unserem System führen.

00:21:26: Berechnungen ist keine Befuchnis!

00:21:28: Ein wirklich starkes Konzept das uns die Kontrolle vielleicht ein Stück weit zurückgibt.

00:21:33: Wir haben heute gesehen, wie ein vergessenes Notizbuch auf einem Server uns einen tiefen Einblick in die Zukunft der Cyberkriminalität gegeben hat.

00:21:41: Eine Zukunft, in der Algorithmen Wahrscheinlichkeiten berechnen, falsche Fehler aussortieren und Netzwerke wirklich hochgradig strategisch durchdringen.

00:21:49: Absolut!

00:21:50: Und dieser Fall aus Taiwan zeigt auf dramatische Weise das wir unsere Abwehrarchitektur von Grund auf neu denken müssen Zumindest wenn wir in diesen maschinellen Wettrüsten nicht völlig untergehen wollen.

00:22:01: Bevor wir uns für heute verabschieden möchte ich dir, der uns gerade zuhört noch einen allerletzten Gedanken mitgeben!

00:22:07: Wir haben jetzt intensiv darüber gesprochen, wie Angreifer autonome KI nutzen.

00:22:13: Aber was passiert in naher Zukunft wenn nicht nur die angreifer sondern zwingend auch die Abwehrsysteme vollständig autonom durch künstliche Intelligenz gesteuert werden müssen?

00:22:24: Einfach deshalb weil wir Menschen viel zu langsam sind um auf Angriffe in Millisekunden zu reagieren!

00:22:30: Erleben wir dann vielleicht einen stillen, völlig unsichtbaren Cyberkrieg in reiner Maschinengeschwendigkeit?

00:22:36: Ein Krieg der Algorithmen, der tief in den Glasfaserkabeln tobt, abgewährt und neu gestartet wird.

00:22:42: Und von dem wir Menschen erst etwas mitbekommen wenn er bereits unwiderruflich vorbei ist?

00:22:48: Vielen Dank dass du bei dieser Folge dabei warst!

00:22:50: Denkt daran, Zeibersicherheit beginnt nicht erst beim großen Angriff sondern bei den kleinen Entscheidungen im Alltag.

00:22:57: Wenn dir die Folge gefallen hat, abonniere den Podcast und teile ihn gerne mit Freunden, Kolleginnen und Kollegen.

00:23:04: Schreib uns auch gerne deine Gedanken zur Folge oder deine Ideen für eine der nächsten Episoden!

00:23:09: Bis zum nächsten Folge – bleib aufmerksam und digital sicher.