KI-Massenüberwachung: Forscher überrascht, wie leicht das geht

0:00 Dieser Podcast wird präsentiert von PostFinance, ihrer Schweizer Partnerin für moderne Zahlungslösungen und einfaches Einkassieren im Geschäftsalltag. Und dann hatten wir natürlich wahnsinnig viele Ideen, was man theoretisch alles damit machen könnte wie man der Person identifizieren könnte. Weil uns war klar das ist nicht wirklich anonymisiert.

0:39 Zusammen mit seinem Team fragte sich dann Was wäre wenn man solche Standortdaten genauer analysieren könnte? Viel genauer als wird es bisher. konnten Joya und diese Daten? die bringen sie auf die Idee nämlich was wäre wenn wir mittels KI solche Datensätze auswerten würden? Was könnten wir dann alles über die Nutzer des Smartphones herausfinden?

1:01 Und mittlerweile muss Tess zugeben, dass die Ergebnisse ihn selbst überrascht und auch schockiert haben. Künstliche Intelligenz erlaubt noch nie gesehene Formen der Massenüberwachung. Das zeigt etwa das Experiment von Schweizer Forschern um Oscar Tess. Die Technologie-Redaktorin Joja da Silva ordnet die neuen Möglichkeiten ein.

1:23 Ich bin Lili Belle Eisele diese Oskates überhaupt an all diesen Daten? Er arbeitet als Forscher in der Fachhochschule Nordwest-Schweiz, und zwar am Zentrum für Datenqualität und Anonymisierung. Dort beschäftigt er sich mit der Frage wie man Daten anonymisieren kann nämlich so dass man sie auch verwenden kann.

1:48 aber Thes ist auch allgemein interessiert an Daten und an KI und an Überwachung. Er schaut viele Medienberichte zum Thema und kennt sich einfach sehr gut aus Und so kann man auf die Idee, bei einem Datenbroker anzufragen und einfach ganz viele Daten zu erhalten. Kannst du das ausführen? Also was macht ein Datenbrocker genau und warum kann der einfach so Daten weitergeben?

2:09 Also Datenbrokers sind Firmen, die Daten zu so vielen Menschen sammeln wie sie nur können. Das tun Sie zu sehr unterschiedlichen Zwecken aber oft eben auch für die personalisierte Werbung. Manche Datenbroker sammeln auch GPS-Daten, also Bewegungsprofile von Menschen und versuchen ihnen dann zum Beispiel ein Ticket für einen Konzert in einer bestimmten Stadt zu verkaufen oder bestimmte Angebote von Läden die es nur in einer Stadt gibt.

2:35 So sind GPS-daten eben auch interessant für personalisierte Werbe. Dafür arbeiten sie mit Apps zusammen, nämlich so gratis Apps wie zum Beispiel Weather Online oder Candy Crush Saga. Oder Flight Radar oder Klein Anzeigen und so weiter. Insgesamt sind vierzig Tausend Apps die bestimmt ihre Nutzer tracken und zwar teilweise auf den Meter genau.

3:00 Dann kannst du gucken zu welcher Uhrzeit war eine Person wo? Du kannst in etwa abschätzen wo diese Person gegebenenfalls wohnt, weil sie zum Beispiel in der Nacht an diesem Wohnort sich wahrscheinlich aufhält. Klingt schon irgendwie unheimlich da ja? Ja genau! Zumal man denken muss dass sobald man Menschen einem Bewegungsprofil zuordnet wird es wirklich gefährlich wenn jemand nämlich herausfinden kann Wer du bist, wo du wohnst und wo du arbeitest.

3:28 Wie regelmäßig du eben nicht zu Hause bist. dann kann er auch ermitteln wann deine Wohnung leer steht und also ein guter Zeitpunkt wäre für einen Einbruch. Und um einem Menschen einer Bewegungsspur zuzuordnen reichen diese Standortdaten. Du kannst darüber dann schauen beispielsweise über LinkedIn-Trophile oder Webseiten an Arbeitgebern oder irgendwelche Register zum Beispiel die weißen Seiten oder so.

3:56 Und dann kann man schauen, wer hat ein Arbeitgeber an einem bestimmten Ort? und damit passt das GPS-Profil oft nur auf einen einzigen Menschen sprich? Man ist dann sehr wohl identifizierbar da durch. Also wer eine Analyse machen will, der muss es von Hand machen. oder weil die Daten von Broker sind ja sicher anonymisiert?

4:16 Ja genau! Das sagen die Data Brokers auf jeden Fall. dass sie Daten anonymisieren spricht. Da sind keine Namen, da sind keine AHV Nummern. Direkten Identifier sagt man denen, also eine Messgröße die es echt nur einmal gibt. Aber das Bewegungsprofil ist eben halt so einzigartig dass es eben eigentlich auch als Identifikationsmerkmal dient.

4:38 Oskates hat mir gesagt Es stimmt nicht, dass Data Broker diese Daten anonymisieren sie pseudonymisieren nur indem sie nicht direkt den Namen offenlegen. aber eben durch das GPS Profil wird man eben doch identifizierbar. Aber es gibt auch Menschen, die besonders exponiert sind. Zum Beispiel könnten ausländische Geheimdienste ein Interesse haben zu wissen welche Personen zum Beispiel regelmäßig im Sitzungszimmer des Bundesrats ein- und ausgehen oder welche Personen in Atomkraftwerken arbeiten oder in Trinkwasseranlagen oder allgemein wäre einfach z.B.

5:11 im Schweizer Geheim Dienst arbeiten. das ist ja schon eine interessante Information wenn man versucht Agenten vielleicht zu beeinflussen bei zu sabotieren. Und dazu kommen auch noch Orte, die man eigentlich geheim halten will aus Gesellschaft zum Beispiel Frauenhäuser oder geheime Militärbunker. von denen soll ja niemand wissen wo die sind.

5:32 wenn man jetzt aber eine Person kennt von der man vermutet dass sie sich ab und zu dort aufhält dann könnte man so indem man die GPS Spur von dieser Person analysiert auch solche geheimen Standorte finden. also GPS Daten und Smartphones gibt es ja schon länger. war das denn früher so nicht möglich? Doch die Gefahr ist nicht neu, das wissen wir schon seit etwa zehn Jahren.

5:52 Dass man Leute erkennen kann anhand von GPS-Profilen, dass der große Unterschied zu früher war. Früher war es sehr aufwendig da musste man mit viel Handarbeit und brauchte sehr viel Zeit diese Leute diesen GPS Punkten zuordnen. Aber heute geht das mit den KI Modellen automatisiert. Das geht echt so einem Bruch Teil der Zeit.

6:11 Und eben genau das hat Oscar Thes mit seiner Studie nachgewiesen. Er hat mich gemerkt, ich habe ja schon achthunderttausend echte Daten von echtem Smartphones. Aber die würde er nie verwenden weil dann würde er ja die Privatsphäre von diesen achthundertausend Leuten verletzen. Also hat der Freiwillige rekrutiert und zwar dreiundvierzig Menschen aus seinem Umfeld und dem Umfeld von seinen Mitforschenden.

6:35 Die haben ihm eine Wohnadresse und eine Arbeitsadresse all genannt. Und rund um diese Adressen hatte dann Bewegungsdaten generiert also eigentlich Fake-Daten erschaffen. Die Daten waren dann nicht perfekt, er hat sie so gemacht dass sie auch Fehler enthalten, er hatte auch künstliche Freizeitstops eingeführt einfach so wie sich auch echtes Mal von Daten verhalten.

6:59 Dann hat er versucht mit KI diese Daten auszuwerten. Zuerst war er dann bei Jajibiti. JGPT wollte da nicht mitmachen, weil dazu muss man wissen dass diese KI-Firmen oft Beschränkungen haben und sagen ne Massenüberwachung oder Überwachung wollen wir nicht. Diese Anfrage lehnen wir ab. aber dann hat der Klot verwendet.

7:18 auch Klot hat zuerst mal abgelehnt Aber Thes hat gesagt ah ich bin Forscher es ist ein wissenschaftlichen Zweck. und so hatten eine Argumentation gefunden um die Sicherheitsrichtlinien von Klot zu umgehen. Und so hast du sämtlich doch funktioniert. Wir sind gleich zurück. Fünfzig Prozent aufs Terminal und persönliche Beratung aus der Schweiz.

7:44 Mit der Zahlungslösung von PostFinance kassieren Sie einfach, sicher unpassend zu Ihrem Geschäftsalltag. Vom Setup bis zum täglichen Einsatz begleiten wir sie Schritt für Schritt. Profitieren Sie bis zum dreißigsten November zwanzig sechsundzwanzig vom Sonderrabatt! Mehr Informationen und Bedingungen unter postfinance.ch.

8:03 slash terminal. Oskar Thes hat also einen Datensatz erstellt und anschließend hat er diese Fake-Daten in das KI-Modell Claude eingefügt. Wie ging es dann weiter? Ja, da hatte mir dann gesagt dass er selber echt verblüfft war nämlich hat Claude innerhalb von kürzester Zeit mehrere Menschen identifiziert von diesen simulierten Standortdaten.

8:29 Im Schnitt hat es um ein Resultat eine Person zu finden circa siebzehn Minuten gedauert zu kosten von etwa zwei Dollar vierundzwanzig. Das ist eigentlich nichts, das ist Münz und ein paar Minuten pro Person kann man so sagen. Was hat eigentlich gereicht um zu entscheiden ob eine Person identifizierbar ist oder nicht?

8:49 Er hat insgesamt von dreiundvierzig Testpersonen achtzehn Personen erkannt. Und dann wird Thes bewusst was sie da eigentlich gebaut hat weil... Er könnte ja jetzt theoretisch in dieses Tool die Daten von diesen achthunderttausend Smartphones einspeisen, die er ja von diesem Data Broker erhalten hat. Und so könnte er tatsächlich anfangen Leute zu überwachen und zu schauen wofür bringen sie ihre Freizeit?

9:14 Vielleicht könnte er einen Arztbesuch aufdecken bei einem spezialisierten Arzt. Er könnte vielleicht schauen okay welche Leute gehen, in welches Portell... ...er könnte theoretisch eine Affäre aufdeicken indem er zeigen könnte welche Leute sich regelmäßig treffen. also es ist ein Wahnsinn, welche Möglichkeiten ein solches Tool schafft.

9:31 Falsch genutzt könnte es wirklich gefährlich sein. Hast du gesagt, Joya das Tool von T ist? Das konnte nicht alle Testpersonen identifizieren sondern achtzehn von dreiundvierzig. also es funktioniert noch nicht ganz reibungslos. Das stimmt da sagt er auch selber. aber diese Zahlen also achtzehnt von drei und vierzig Testpersones das ist nicht repräsentativ.

9:51 dieses Stichprobe ist zu klein und eben die Daten sind generiert. Und trotzdem ist es verrückt, wenn ein kleines Team von Wissenschaftlern in ein paar wenigen Tagen ein solches Tool aufbauen kann. Dann könnte man erwarten dass das Geheimdienste und Kriminelle ebenfalls schon längst geschafft haben. also da wird einmal die Tragweite klar was das bedeutet.

10:15 Also Theste hat in seiner Studie gezeigt wie Massenüberwachung mit KI theoretisch immer einfacher wird. So ja... Was heißt das nun für uns als Bürgerinnen und Bürger? Ja, ich glaube da ist eine große Gefahr entstanden durch diese einfache Verfügbarkeit von diesen sehr personalisierten Daten. Natürlich existiert das Problem schon lange aber jetzt mit KI wird es erstmal so richtig groß weil man sie so einfach auswerten kann.

10:42 Und das Problem ist ja auch ich als Privatperson. Ich kann gar nicht so viel machen, um das zu verhindern. Klar, ich kann vielleicht meine Cookies ablehnen aber diese Data Broker die haben schon andere Datensammlungsmethoden herausgefunden dass sie gar keine Cookies mehr brauchen. also es ist auch etwas was man als privatperson eigentlich gar nicht verhindert kann und ich persönlich finde schon Es kann nichts sein, dass Datenbroker solche persönlichen Daten über uns alle einfach herausgeben.

11:17 Und falls ihr noch mal nachlesen wollt, wie Oscar Thes und sein Team die Studie genau durchgeführt haben den Link zum Artikel findet ihr in den Shownotes. Das war NZZ-Aktient. mein Name ist Lili Beleisele.