Verfassungsschutzchef Sinan Selen: Durch KI steigen die Risiken

0:01 KI verändert den Alltag von Menschen, unsere Arbeit, unser Zuhause. Sie verändert aber auch Kriege zum Beispiel. Die Ukrainer werten Satellitendaten inzwischen mit Software von Palanty aus und erkennen dadurch viel schneller russische Luftangriffe. Sie machen Zielerfassung mit KI und finden dadurch den besten Moment und die beste Stelle, um anzugreifen.

0:25 Wer diese Veränderungen sieht, fragt sich unweigerlich, was verändert KI wohl in Sphären, die wir nicht so im Blick haben, nämlich im Hybridenkrieg? Der Frage gehen wir heute auf den Grund für Wieder was gelernt, den Podcast von ntv.de. Schön, dass Sie zuhören. Mein Name ist Frauke Niemeyer, ich schreibe über Sicherheit und Verteidigung und mir gegenüber sitzt Sinan Seelen, seit Oktober Chef des Bundesamtes für Verfassungsschutz, und damit einer der Fachleute in Deutschland für hybride Kriegsführung aus der allerersten Reihe.

0:59 Vielen Dank, dass Sie sich die Zeit nehmen heute, Herr Seele. Ja, vielen Dank. Ich bin sehr gerne hier. Sie dürfen oft nicht offen sprechen. Ich sage jetzt ganz offen mal, wir zeichnen diese Folge ja am Mittwoch auf und gestern am Dienstag, fiel bei der Deutschen Bahn das gesamte Funknetz aus und als alle Züge stillstanden, dachte ich so im ersten Moment, verflixt, schon wieder der Russe.

1:19 Ist das Paranoia oder ist das ein naheliegender Gedanke bei all dem, was an hybrider Kriegsführungen seitens des Kreml so passiert? Ja, ein Stück weit kann man das total nachvollziehen. Es passiert nämlich sehr, sehr viel. Wir haben eine hybride Bedrohung, die, sehr weitläufig ist und das betrifft auch Cyber-Operationen, Das betrifft aber auch zum Beispiel Sabotage, Informationsmanipulation und wir haben, auch im Ausland gesehen, das kann richtig handfest werden bis hin zu sogenannten kinetischen Operationen, das heißt Tötungsoperationen.

1:57 Und wenn man damit in Europa komplett konfrontiert ist, und da spreche ich noch gar nicht von den Drohnensichtungen, dann ist das ein naheliegender Punkt, dass man sagt, Moment, das kann ja nur wieder so ein Cyberangriff sein. Jetzt kommt aber das große Aber, wir müssen unheimlich aufpassen, dass wir nicht überattributieren.

2:19 Nicht jedes Ereignis hat irgendwie mit Cyberbedrohung zu tun, sondern manchmal sind es halt auch Dinge, die einfach als Pannen zu kategorisieren sind, als Fehler in. Systemen oder schlichtweg als Unfälle. Und diese Überattributierung ist auch Teil des Problems. Wir müssen echt aufpassen, dass wir da nicht paranoid werden, sondern mit wirklich ganz kaltem Herzen und klarem Verstand sagen, so, das ist eine Situation, wir gucken uns das sehr genau an.

2:52 Erstmal haben wir ein Bild und dann beurteilen wir, was da tatsächlich passiert ist. Und so würde ich das auch kategorisieren in dem Fall. Das ist natürlich ein ganz großer Störfall und ich glaube, die Deutsche Bahn hat damit gearbeitet. Die haben das Problem gelöst und die müssen ihre Arbeit machen.

3:14 Und wenn von dort dann das Signal käme, Moment mal, wir haben da ein Problem, dann erst ist der Zeitpunkt gekommen, darüber nachzudenken. Im Augenblick habe ich nicht den Eindruck, dass das ein Thema ist, welches uns betrifft oder betreffen wird. Also als die Push-Meldung bei Ihnen vermutlich aufs Handy kam, bei mir war das 22.46 Uhr, wussten Sie in dem Moment schon, dass das passiert war?

3:37 Also sagt die Bahn, rufen wir vielleicht erstmal fix den Verfassungsschutz an? Wir werden immer besser darin, uns zu vernetzen. Wenn Sie sich angucken, heute sind wir beim Hasso-Plattner-Institut. Da sitze ich Seite an Seite mit meinen Kolleginnen und Kollegen vom Bundeskriminalamt und vom BSI. Und mit dem Bundesnachrichtendienst ist das nichts anderes.

4:00 Wir denken aneinander und wir informieren einander. Und das ist etwas, was, glaube ich, ganz entscheidend ist. Wir brauchen eine, supergute Vernetzung. Wir brauchen eine Vernetzung, wo Information in die Sensorik, in unsere Lagebilder mit einfließt. Und, das ist der Punkt, die Confliction, die linke Hand muss wissen, was die rechte tut. Und das ist genau das, was wir machen.

4:27 Wir haben da sehr lange Erfahrungen in der Terrorismusabwehr gesammelt. Das ist die Philosophie, gemeinsam arbeiten, vernetzt arbeiten, ein gemeinsames Lagebild und im Bereich hybride Bedrohungen denken und arbeiten wir genauso. Das heißt also, wenn sie so ein Ereignis haben, dann haben alle ziemlich schnell dasselbe Bild und sehr, sehr schnell wird dann gesagt, okay, das ist noch nichts für mich.

4:55 Ihr seid ja da dran, wenn wir gebraucht werden, entweder um zu unterstützen oder weil das unser Thema ist. Gibt uns ein Signal. So laufen die Dinge und ich finde auch, die laufen inzwischen sehr unaufgeregt und sehr strukturiert ab. Vielleicht wissen Sie, dass wir ein gemeinsames Abwehrzentrum Hybrid aufgemacht haben, wo wir in Bezug auf hybride Bedrohungen uns vernetzen, übrigens auch bald die Wirtschaft mit einbinden werden.

5:25 Wir haben ein Cyberabwehrzentrum, das wird betreut durch die Kolleginnen und Kollegen des BSI und das sind genau die Formate, wo solcher Austausch stattfindet. Also nicht hektisches Umhertelefonieren, sondern strukturiert auf Basis einer vernünftigen Sensorik, wenn ein Ereignis aufploppt, sich das angucken, bewerten, Schlüsse ziehen und dann punktgenau arbeiten.

5:52 Das ist die Methode, mit der wir arbeiten. Ich glaube, damit fahren wir auch gut. Als Steuerzahlerin können Sie das auch verlangen, dass Sie für Ihr Geld auch was bekommen in diese Richtung, nämlich Professionalität. Sie sprachen eben schon über die Vernetzung. Claudia Plattner, die Chefin des Bundesamtes für Sicherheit in der Informationstechnik, saß ja auch mit auf dem Panel heute.

6:12 Und sagt, die Zeitspanne vom Finden einer Schwachstelle, sage ich jetzt mal ein bisschen salopp, bis zum Nutzen, in dem ich angreife, ist, wenn ich es mir richtig gemerkt habe, von 47 Tagen runtergegangen auf 14. Wie unruhig werden die Zeiten und was wird das für eine Herausforderung, damit auf Augenhöhe zu kommen, in der Abwehr? Man darf es nicht schönreden.

6:36 KI bietet uns sehr, sehr viele Chancen. Aus künstlicher Intelligenz ergeben sich sehr viele Chancen. Uns Verfassungsschützer oder uns? Uns generell, als Gesellschaft. Wir werden KI nutzen als Gesellschaft und nutzbar machen. Nehmen Sie beispielsweise KI-Einsatz in der Bildgebung im Rahmen der Medizintechnik.

6:59 Das sind große Chancen, die auf uns zukommen, aber man darf halt auch die Risiken nicht unterschätzen und diese Risiken sind da. Das heißt also, KI hat schon ein disruptives Element, weil es Dinge beschleunigt, weil wir viel mehr Daten, in deutlich kürzerer Zeit im Endeffekt in die Ergebnisse überführen.

7:23 Und das bedeutet andere Entwicklungszyklen auf der Verteidigerseite, aber auch auf der Angreiferseite. Und das ist das, was Claudia Plattner, glaube ich, gesagt hat. Die Entwicklung von Angreiferinfrastruktur, die Nutzbarmachung von Angreiferinfrastruktur, das beschleunigt sich. Ich würde aber wirklich beide Seiten der Medaille immer gemeinsam beleuchten.

7:45 Was bedeutet das für uns? Die Risiken steigen, aber auch unsere Möglichkeiten müssen nutzbar gemacht werden. So dass wir darauf auch Antworten bieten und nicht. Ich formuliere es mal so, wie die Maus oder das Kaninchen vor der Schlange stehen und sagen, oh Gott, oh Gott, das ist der falsche Weg. Man muss es vernünftig abschätzen. Wir müssen eine Folgenabschätzung gemeinsam treffen und dann die Antworten auch entwickeln, die aus neuen Technologien, und das ist eine disruptive Technologie, resultieren und stehen da unruhige Zeiten bevor.

8:23 Das muss man auch in der Deutlichkeit sagen. Sie haben für Ihr Amt Chaps Vision gekauft, ein europäischer Anbieter. Können Sie so grob in der Öffentlichkeit sagen, in welcher Form das Ihre Arbeit zum Beispiel schneller und effektiver machen wird? Wissen Sie, ich erzähle ja gar nicht, was ich kaufe oder was ich nicht kaufe und was wir einsetzen und was wir nicht einsetzen.

8:48 Aber was ich Ihnen sehr gerne erzähle, ist, was wir eigentlich machen. Wir gucken uns Technologien an und wir gucken uns viele unterschiedliche Lösungen an, um zu verstehen. Bieten diese Lösungen, also Softwarelösungen, Innovationen, uns die Möglichkeiten, die wir brauchen, um als ein moderner Nachrichtendienst unseren Auftrag zu erfüllen.

9:17 Und da gibt es ganz unterschiedliche Produkte, die wir uns anschauen und auch ganz unterschiedliche Produkte, die wir einsetzen. Worauf wir ein bisschen schauen ist, wir wollen nicht Abhängigkeiten von einzelnen Produkten, weil das ist nie eine gute Idee. Das ist nie eine gute Idee, weil sie sowohl im Austausch mit dem jeweiligen Unternehmen dann in keiner guten Situation sind und vor allem sie verlieren an Agilität.

9:46 Und daher schauen wir uns ganz unterschiedliche Produkte an, die wir auch einsetzen, soweit wir das dürfen. Und das sind moderne Systeme, wo es immer wieder darum geht, wie kriegen wir eigentlich, eine Vielzahl von unterschiedlichen Erkenntnissen in einer vernünftigen Form so zusammengefasst, dass wir unseren Auftrag erfüllen können, nämlich beispielsweise Bedrohungen oder Zusammenhänge frühzeitig zu erkennen, und daraus dann auch Schlüsse zu ziehen.

10:19 Und das machen wir natürlich mit den Technologien, die im Jahre 2026 zur Verfügung stehen. Wir schauen uns aber auch schon die Technologien an, die wir vielleicht im Jahre 2028 oder 2030 dann auf dem Markt haben werden. Würden Sie dabei Open-Source-Technologien bevorzugen, also wo Sie keine Lizenzen zahlen und die auch Ihr Amt selbst zum Beispiel noch weiterentwickeln kann für Ihre besonderen Bedürfnisse?

10:46 Wir haben erfreulicherweise sehr kreative Köpfe im Haus. Wir haben ganz viele Profile im Haus. Das macht die Arbeit in einem Nachrichtendienst unheimlich spannend. Es sind auch IT-Experten, die mich jedes Mal begeistern. Und natürlich schauen wir uns auch an, wie kriegen wir unseren Bedarf abgedeckt und brauchen wir dafür eigene Lösungen.

11:12 Das ist die eine Variante, aber das ist immer aufwendig. Wir schauen uns auch an, gibt es diese Lösungen auf dem Markt und passen die in unsere Infrastruktur so rein, dass wir damit auch reinen Herzens arbeiten können. Ich würde zum Beispiel immer wieder auch den Hinweis geben, wenn Sie zum Beispiel, und das gilt für alle Chatbots und ChatGPT, nehme ich nur mal exemplarisch, das gilt für alle, wenn ich die Frage reinsteuere.

11:43 Muss ich mir die Frage auch stellen, wo steuere ich eigentlich meine Frage ein. Ja, so und das ist natürlich für einen Nachrichtendienst ein Faktor, der eine ganz große Rolle spielt und daher sind die Lösungen, mit denen wir arbeiten und die wir, nutzen, auch auf unsere Bedürfnisse, aber auch auf unsere Schutzbedürfnisse, gerade als Nachrichtendienst ausgerichtet.

12:10 Bei vielem ist es ja sicherlich auch so, dass Möglichkeiten nicht nutzbar sind, weil Datenschutzgesetze zum Beispiel davorstehen. Hat sich durch KI auch, haben sich da Schnittstellen aufgetan, wo sie sagen, dieses Gesetz war vor zehn Jahren super, aber jetzt binden wir uns selbst uns die Hände so sehr damit, da müsste die Politik eigentlich nochmal drüber nachdenken.

12:33 Innovations- und Entwicklungszyklen weichen von Entwicklungszyklen von Rechtsverordnungen und Gesetzen ab. Das heißt also, ein Innovationszyklus in der IT-Branche, da sprechen wir von Monaten, wenn wir... Ganz konservativ sind. Wenn Sie eine Rechtsverordnung haben oder ein Gesetz, das entwickelt sich nicht in Monaten, das dauert.

13:00 Und dann bilde ich im Endeffekt eine Lebenswirklichkeit ab, die schon total überholt ist. Das erleben wir immer wieder. Und daher versuchen wir in modernen Gesetzen auch technologieoffene Lösungen zu finden, weil die Herausforderungen sind eigentlich durchaus immer vergleichbar. Die Tools verändern sich.

13:20 Wenn wir Gesetze und Rechtsverordnungen immer fokussieren auf die Werkzeuge, dann werden wir immer hinterherhängen. Und daher ist es total wichtig, technologieoffen zu denken, weil die Problemstellung ist eigentlich die gleiche. Wie schütze ich beispielsweise das Informationsbedürfnis des Bürgers oder der Bürgerin hinsichtlich höchstpersönlicher Daten?

13:48 So, wenn ich das jetzt ausrichte auf ein Tool, dann habe ich eigentlich schon verloren. Ich muss das technologieoffen haben. Das gilt auch für unsere Werkzeuge. Das heißt also, unsere Befugnisse dürfen nicht fokussiert sein auf ein Tool, sondern wir müssen technologieoffen, diese Befugnisse definieren.

14:15 Ist verstanden. Sonst würde ich es Ihnen nicht erzählen können. Werden die Angriffe durch KI vor allem oder in erster Linie besser? Oder gibt es auch ganz neue Felder, die sich jetzt eröffnen durch KI, wo Angriffsfläche ist, die vorher nicht da war? Ich glaube, dass Schwachstellenanalyse deutlich effektiver wird, auch durch KI-Einsatz.

14:38 Das heißt also, das Screening von Schwachstellen in der Breite wird durch KI-basierte, Mechanismen deutlich einfacher, und ich kann die Schwachstellen deutlich besser und schneller und vor allem schneller ausdeuten. Das ist etwas, worauf man sich einstellen kann. Das können Sie mit einer bösen Absicht machen.

15:07 Das können Sie aber auch, wenn Sie beispielsweise Schutzmechanismen entwickeln, durchaus nutzen. Und was mir wichtig ist, ist, wir müssen uns diese Fähigkeiten offenhalten. Das heißt also, wenn Sie diese Fähigkeiten. Auf einzelne Länder, Entitäten, Firmen fokussieren und nur ein Land oder ein Unternehmen die Fähigkeiten hat, diese Analysen durchzuführen und die Hoheit darüber hat, wer diese Informationen erhält und wer nicht, Dann kommen wir in Probleme.

15:46 Das bringt mich zu dem Punkt, wäre schon super, wenn wir das Thema digitale Souveränität in der Intensität weiter betreiben, wie wir es tun. Hybrider Krieg gegen Deutschland. Achtung, jetzt auch mit KI. Und was bedeutet das? Wir haben da hoffentlich vielleicht ein paar kleine Schneisen in den Dschungel schlagen können.

16:04 Mein herzlicher Dank gilt an Sina Sehle, den Chef des Bundesamtes für Verfassungsschutz. Schön, dass wir Ihre Zeit und Ihre Expertise nutzen durften. Vielen Dank. ganz herzlichen Dank, hat mir sehr viel Spaß gemacht. Allen Hörerinnen und Hörern danke ich fürs Dranbleiben. Ich hoffe, es war spannend. Falls ja, abonnieren Sie uns gern auf RTL Plus oder anderen Plattformen.

16:26 Fragen, Kritik, Vorschläge empfangen wir auch immer gerne per Mail an podcasts.ntv.de, und über eine Bewertung bei Apple Podcasts oder bei Spotify freuen wir uns auch. Genießen Sie die Sommertage und hoffentlich auf bald.