Können wir das Internet regulieren?

• Die Akte Tulpenfeld #2 � Transkript

Bundesnetzagentur Pf 2 2024-08-30T13:02:00Z 2024-09-02T12:19:00Z 2024-09-02T12:19:00Z 9 4293 27046 Bundesnetzagentur 225 62 31277 16.00

• •

21

false false false

DE X-NONE X-NONE

Transkript: K�nnen wir das Internet regulieren?

(00:00) Die Akte Tulpenfeld. Ein Podcast der Bundesnetzagentur. Mit Anna Papathanasiou und Matthias Podolski. Und mit einem Thema, das uns vermutlich alle mehr oder weniger direkt betrifft. Wir sprechen �ber digitale Dienste im Internet, genauer �ber deren dunkle Seiten. Denn dass es dort Hass und Hetze gibt, Fake News, kindergef�hrdende Inhalte, das d�rfte inzwischen jeder Internet-User mitbekommen haben.

(00:37) Aber der Kampf dagegen hat eben auch begonnen. Und da spielt auch die Bundesnetzagentur eine wichtige Rolle. Genau, die Bundesnetzagentur ist n�mlich seit einigen Monaten der Digital Services Coordinator, zu Deutsch der Koordinator f�r digitale Dienste. Was das genau hei�t und wie die Bundesnetzagentur gegen Vergehen im Internet vorgeht, dar�ber sprechen wir heute mit unserem Gast Dr. Julia Marquier.

(01:01) Herzlich willkommen, Julia. Ja, hallo und vielen Dank f�r die Einladung. Und auch herzlich willkommen an alle, die zuh�ren. Julia, vorab, was ist deine Aufgabe hier in der Bundesnetzagentur? Ich leite ein Referat in der Unterabteilung Digitalisierung und mein Referat besch�ftigt sich mit den Themen Netzneutralit�t, Plattform-Monitoring und k�nstliche Intelligenz.

(01:24) Und in der Funktion unterst�tze ich auch den Aufbaustab DSC. Also DSC steht f�r Digital Services Coordinator und bin auch zu dem Team abgeordnet. Dann kommen wir mal zum Thema. Der Digital Services Coordinator, der jetzt schon mehrfach erw�hnt wurde, ist bei der Bundesnetzagentur angesiedelt und seit dem 14. Mai

(01:46) dieses Jahres f�r die Durchsetzung des Digital Services Act zust�ndig. So, jetzt m�ssen wir vielleicht als erstes Mal ein paar Begriffe entwirren. Der Digital Services Act, zu Deutsch das Gesetz �ber digitale Dienste, ist eine EU-Verordnung. Korrigiere mich, wenn ich etwas Falsches sage. Genau, das ist vollkommen richtig. Und er zielt darauf ab, einen sicheren digitalen Raum zu schaffen und die Grundrechte der User, also der Internetnutzenden, zu sch�tzen.

(02:14) Und weil es eine EU-Verordnung ist, muss jeder Mitgliedstaat dieses Gesetz auf nationaler Ebene umsetzen. Also die Verordnung, die gilt unmittelbar in jedem Mitgliedstaat, aber ist vollkommen richtig. Also jeder Mitgliedstaat muss Beh�rden bestimmen, die f�r die Umsetzung zust�ndig sind und die Regeln dann auch national verfolgen.

(02:32) Und das ist in Deutschland der Digital Services Coordinator, der ist bei der Bundesnetzagentur angesiedelt. Und au�erdem gibt es noch f�r die Bereiche Datenschutz und Jugendschutz spezielle Beh�rden. Das sind die Landesmedienanstalten, die Bundeszentrale f�r Kinder- und Jugendmedienschutz und die Bundesbeauftragte f�r den Datenschutz in der Informationstechnik.

(02:51) Okay, aber wir konzentrieren uns heute auf den DSC. Das ist der neue Job der Bundesnetzagentur. Ein weiterer Begriff sind jetzt also die Digital Services, die digitalen Dienste. Da m�ssen wir nochmal erkl�ren, was das eigentlich genau ist und was es da zu koordinieren gibt. Ja gerne, also digitale Dienste, im Sinne des Digital Services Act sind ganz viele Dienste, die ihr auch kennt.

(03:18) Also der Hauptfokus des Digital Services Act liegt auf Online-Plattformen. Das k�nnen sowohl Social Media Dienste sein, als auch Online-Marktpl�tze, aber auch Gaming-Plattformen und so weiter. Also �berall da, wo Dritte oder User oder H�ndler ihre Inhalte hochladen auf der Plattform eines Anbieters. Also Beispiele etwa Amazon Marketplace, Temu, die Meta-Dienste, Facebook, Instagram, genau.

(03:42) Also das ist ein Gro�teil dessen, was wir im Internet alle nutzen. Genau, genau. Also ber�hrt uns t�glich. Also ich w�rde mal sagen, wir nutzen wahrscheinlich mehrmals am Tag verschiedene Apps, die jetzt durch den Digital Services Act kontrolliert sind. allen relevanten Beh�rden und Stakeholdern koordinieren, zum Beispiel mit der Kommission, ausl�ndischen DSCs oder national mit den relevanten Beh�rden und das Ziel ist, dass also das Recht online genauso wie offline durchgesetzt wird.

(04:13) Ja, Rechtsdurchsetzen ist jetzt ein sehr weit gefasster Begriff. Wir haben uns jetzt mal drei konkrete Beispiele �berlegt und wir bitten dich, einfach zu sagen, ob das ein Fall f�r den DSC ist. Also das erste w�re, jemand verbreitet Hass und Hetz gegen Minderheiten, zum Beispiel bei Facebook. Also die Bek�mpfung von Hass und Hetze im Internet ist ein wichtiges Anliegen des Digital Services Act. Nutzende k�nnen sich bei uns beschweren.

(04:39) Wir schauen, ob Plattformen, die Meldewege eingerichtet haben, auch Hass und Hetze vom Netz nehmen und da die Meldungen behandeln. Wenn wir auf einer sehr gro�en Online-Plattform sehen, dass Hass und Hetze ein gro�es Thema sind, dann informieren wir die EU-Kommission oder auch in laufenden Verfahren tritt die EU-Kommission an die nationalen Digital Services Coordinator heran und wir liefern in diesen Verfahren zu.

(05:05) Services Coordinator heran und wir liefern in diesem Verfahren zu. Was der Digital Services Coordinator nicht macht, ist, dass er selbst illegale Inhalte wie Hate Speech l�scht. Daf�r sind andere Beh�rden in der Pflicht. Zweites Beispiel. Ich entdecke gef�lschte Markensneaker auf einem Online-Marktplatz wie eBay oder Amazon und kann das dort nicht melden.

(05:24) Also das ist ein Fall f�r den Digital Services Coordinator. Wir achten darauf, dass die Plattformen Meldewege haben, die auch benutzerfreundlich sind und wo man schnell illegale Inhalte melden kann. Und das dritte, gef�hlt ein immer gr��eres Thema, es stehen Wahlen an und in einem sozialen Netzwerk werden jetzt gezielt Desinformationen verbreitet, um diese Wahl zu manipulieren in die eine oder andere Richtung? Also da ist es �hnlich wie bei Hate Speech. Also Desinformationen k�nnen wir auch nicht l�schen oder die L�schung anordnen.

(05:53) Aber wenn wir sehen, dass auf einer Plattform gezielt Desinformationskampagnen verbreitet werden, dann w�rden wir die Kommission informieren oder auch in laufenden Verfahren der EU-Kommission zuarbeiten. Also zusammengefasst kann man sagen, f�r die ganz gro�en Plattformen ist nicht die Bundesnetzagentur, nicht der DSC zust�ndig, sondern die Europ�ische Kommission.

(06:14) Aber in bestimmten F�llen arbeitet ihr den Kolleginnen und Kollegen in Br�ssel zu. Wie kommt es denn zu dieser Aufteilung? Also die Kommission ist zust�ndig f�r sehr gro�e Online-Plattformen. Das sind Plattformen mit mehr als 45 Millionen Nutzern. Welche w�ren das dann zum Beispiel? Das ist zum Beispiel Facebook, Instagram, also Meta, TikTok, Amazon, seit Neuem auch Temu und Shein.

(06:36) Also all das, was wir auch t�glich nutzen. Und der Grund daf�r ist, dass die Kommission einfach eine gr��ere Schlagkraft gegen�ber sehr gro�en Online-Plattformen hat. ist, dass die Kommission einfach eine gr��ere Schlagkraft gegen�ber sehr gro�en Online-Plattformen hat. Das ist also effektiver, als wenn jetzt jeder einzelne Mitgliedsstaat losl�uft.

(06:50) Wenn zum Beispiel Malta sich an Amazon wendet, dann hat das wahrscheinlich weniger Schlagkraft, als wenn die Kommission das tut. Und die Kommission hat auch schon gute Erfahrungen aus dem Kartellrechtsbereich. Da habt ihr vielleicht auch schon mal von gelesen, dass die Kommission da sehr hohe Bu�gelder verh�ngt und verh�ngen kann.

(07:16) Du hattest gerade schon Temu erw�hnt. Da kann man ja quasi alles bekommen. Bekleidung, Ger�te, Staubsauger. Das ist alles sehr g�nstig, erstaunlich g�nstig. Und auch der Einzelhandel ist schon gegen Temu vorgegangen. Die haben eine Petition gestartet. Klar, das ist auch eine Konkurrenz f�r die. Die Verbraucherzentrale hat aber auch schon gewarnt vor Temu.

(07:36) Warum ist das so? Warum gab es da diese Aufregung? Ja, also man sieht halt, oder was an uns herangetragen wurde und was man ja auch im Fernsehen oder in den Medien liest, es gibt ja auch Marktchecks dazu, dass also sehr viele unsichere Produkte �ber Temu und Schienen vertrieben werden oder auch Produktf�lschungen.

(07:46) Und da gibt es, also da kann man sich alles M�gliche vorstellen, zum Beispiel unsichere Elektroger�te oder Karabinerhaken, die nicht funktionieren, was dann auch wirklich gef�hrlich werden kann f�r Menschen. Was machen unsichere Elektroger�te? Ja, die k�nnen ja bis zu einem Wohnungsbrand f�hren oder ja, also kann man sich alles M�gliche vorstellen. Da ist dann die Kommission untersucht, ein systemisches Risiko auf der Plattform.

(08:07) Also sehr gro�e Online-Plattformen haben weitere Verpflichtungen. Wir m�ssen auch daf�r sorgen, dass illegaler Inhalt von der Plattform genommen wird. Also sie m�ssen die Risiken analysieren und das dann auch angehen. Und bei Temu scheint so ein Fall zu sein. Jetzt ist Temu erst mal als sehr gro�e Online-Plattform benannt worden und die Regeln treten dann Ende September in Kraft.

(08:28) Und wir sammeln jetzt schon Informationen national und k�nnen die der Kommission dann zuspielen, damit sie das Verfahren weiter pr�ft. Also ihr tragt dazu bei, dass die EU-Kommission am Ende daf�r sorgt oder das Recht durchsetzt, dass Temu diese Produkte entfernen muss. Genau. Okay.

(08:52) Und jetzt von Online-Marktpl�tzen mal abgesehen, von welchen illegalen Handlungen sprechen wir denn noch? Was sind typische Probleme bei anderen Plattformen? Also ganz generell, es gibt verschiedenste Probleme. Also ein Problem ist sicherlich, dass die Plattformen ihre eigenen Community-Guidelines nicht durchsetzen. Also Community-Guidelines sind wie so Art Hausregeln, die man sich, wenn man sich das in der analogen Welt vorstellt, jeder kann, man kann sich ja Hausregeln geben, wenn man einen Saal vermietet oder einen Restaurantbesitzer. Da muss man ja auch daf�r sorgen, dass die Regeln eingehalten werden,

(09:16) also dass die G�ste sich nicht streiten oder pr�geln oder sonst was und oder beleidigen. Und genau das Gleiche gilt auch auf einer Plattform. Und die meisten Plattformen haben auch diese Regeln, setzen sie aber noch nicht richtig durch. Und das ist ein Punkt. Man sieht auch sehr viel,000 Fake-Accounts gel�scht, also entdeckt und gel�scht.

(09:49) Aus eigenem Antrieb oder mussten die darauf hingewiesen werden? Naja, es l�uft ein Verfahren gegen diese Plattformen und wir sehen schon, dass der Digital Services Act jetzt auch Anreize bietet mit den entsprechenden Bu�geldandrohungen, dass jetzt auch die Plattformen verst�rkt aktiv werden und gucken, dass ihre Plattformen sauberer sind.

(10:05) Es ist nat�rlich noch sehr, sehr viel zu tun, es ist ein weiter Weg, aber so die ersten Anhaltspunkte sieht man schon. Dann ein weiterer typischer Fall ist, dass das Meldeverfahren nicht richtig ausgestaltet sind. Also die meisten Plattformen haben mittlerweile Meldeverfahren, aber nicht in allen F�llen sind die besonders benutzerfreundlich.

(10:20) Man muss manchmal etwas suchen, wo ist der Meldebutton oder in einer bestimmten App-Version von iOS ist es nicht besonders benutzerfreundlich ausgestaltet. Das sind ganz typische F�lle. Und dann auch ein ganz gro�es und wichtiges Thema ist der Jugendschutz. Hier enth�lt der Digital Services Act auch spezielle Regelungen.

(10:52) Die Medienanstalten zust�ndig und die Bundeszentrale f�r Kinder- und Jugendmedienschutz. Und das ist also ein breites Potpourri von Themen. Also ob es Altersverifikation eingef�hrt werden muss, dann die ganzen Challenges auf TikTok. Die Hot-Chip-Challenge oder die W�rge-Challenge. Was ist das? dass Jugendliche an Challenges auf TikTok mitmachen, die zum Teil ganz harmlos sind, also irgendwelche Tanz-Challenges.

(11:07) Aber in bestimmten F�llen auch gesundheitsgef�hrlich bis hin zu, es ist auch schon zu Todesf�llen gekommen, wenn sich Kinder zum Beispiel so lange gew�rgt haben vor laufender Kamera. Und vor kurzem gab es auch den National Rape Day. Vielleicht habt ihr davon auch in der Presse gelesen. Also da gab es Videos auf TikTok, auf denen im Wesentlichen gesagt wurde, an dem und dem Tag ist eine Vergewaltigung zul�ssig.

(11:33) Da muss ich jetzt nochmal eben einhaken, also bei so schweren Straftaten muss doch die Plattform von sich aus reagieren und nicht erst nachdem sie dazu aufgefordert wurde, oder? Ja, genau. Also das hat sie in dem Fall auch gemacht.

(11:49) Also sie hatte, wenn man den Begriff eingegeben, wurde man auf eine Seite weitergeleitet, also der Inhalt war geblockt und es gab einen Warnhinweis. Aber man konnte, wenn man den Suchbegriff �National Rape Day� ein bisschen variiert hat, hat man dann wieder Inhalte gefunden. Aber auch das wurde sehr schnell nachgebessert. Also da sehen wir auch schon erste Erfolge, also dass da mehr drauf geachtet wird.

(12:09) Wir kommen nochmal eben auf das Thema Meinungsfreiheit, weil das vielleicht am meisten diskutiert wird auch. Was passiert denn, wenn ihr als DSC feststellt, die Meinungsfreiheit ist an einer Stelle gef�hrdet? Also erstmal, wir gucken uns selber jetzt Posts oder Accounts nicht an mit dem Blickwinkel Meinungsfreiheit.

(12:30) Das ist nicht unsere Aufgabe. Nur wenn wir halt Hinweise auf Plattformen sehen, dass verst�rkt Meinungsfreiheit eingeschr�nkt wird. Also zum Beispiel, wenn die EU-Kommission bereits ein Verfahren f�hrt oder, wenn wir darauf hingewiesen w�rden durch eine NGO, dann kann die Kommission die Verfahren f�hren.

(12:44) durch eine NGO, dann kann die Kommission die Verfahren f�hren. Aber es gibt auch in Deutschland Beh�rden, die Inhalte sperren k�nnen. Zum Beispiel die Landesmedienanstalten mit Blick auf jugendgef�hrdende Inhalte. Die haben die Medienaufsicht? Genau, die haben die Medienaufsicht. Oder zum Beispiel die Markt�berwachungsbeh�rden im Bereich Marktpl�tze, die k�nnen unsichere Produkte entfernen lassen.

(13:06) Das macht aber auch die Bundesnetzagentur. Genau, da gibt es zust�ndige Fachreferate, die sind im Bereich Markt�berwachung t�tig, speziell f�r Funkanlagen und elektromagnetische Vertr�glichkeit. Und es gibt daneben auch noch eine breite Palette von Markt�berwachungsbeh�rden auf Bundes- und Landesebene.

(13:22) Okay, dann w�rde ich ganz gerne noch wissen, was die B�rgerinnen und B�rger jetzt konkret vom DSC haben, wie der eigentlich arbeitet. Aber vorher wollen wir dir gerne noch ein paar Fragen zu deiner Person stellen. Der Steckbrief. Raus aus bin ich Juristin. Und ich habe, bevor ich 2013 zur BNSA gekommen bin, habe ich als Anw�ltin im Kartellrecht gearbeitet.

(13:52) Meine Lieblingsbeh�rdenabk�rzung ist? ANDI. Da steht f�r Anfragebearbeitung Digitale Dienste. Und das ist unser internes IT-System f�r die Beschwerdebearbeitung. Und passt ja auch sehr sch�n. Zuletzt hatten wir ja Gabi, da gesellt sich jetzt Andi dazu. Der sch�nste Fachausdruck in meiner Arbeit ist? Also der Fachausdruck, den ich am liebsten mag, ist, und der passt vielleicht auch ganz gut zu eurem Titel, weil er etwas mysteri�s ist, das ist Dark Patterns.

(14:19) Ich wohne in? K�nigswinter. Und im Ruhestand m�chte ich? Ah, da habe ich ganz viele Pl�ne. All das, wozu ich jetzt keine Zeit habe. Also angefangen von Reisen, Wandern, Kochen, Lesen, in unserem sch�nen Garten sitzen und vielleicht auch meinem Mann mal bei der Gartenarbeit helfen. Da war jetzt gar nichts Digitales dabei. Das stimmt. Ich h�nge gerade gedanklich noch bei den Dark Patterns. Kannst du da noch mal ein Beispiel nennen, was da so gemacht wird im Internet und wie das vielleicht auch mit eurem Aufgabenfeld zusammenh�ngt?

(15:05) findet man ganz oft ja solche Hinweise, die einen dazu bringen sollen, dass man schnell was kauft. Zum Beispiel bereits 126 Personen haben diesen Artikel in ihrem Warenkorb, kauf jetzt schnell. Das ist ein echtes Beispiel, das hatte Temu auf der Webseite und das hat der Verbraucherschutzverband VZBV abgemahnt.

(15:20) Temu hat das daraufhin unterlassen. Oder auch zum Beispiel, wenn man irgendwo seine Zustimmung geben soll, dann ist der Zustimmungsbutton ganz deutlich hervorgehoben und das Ablehnen ist irgendwo ganz klein und ausgegraut und das findet man nicht. Das w�ren so zwei typische Beispiele. Also Verschleierung.

(15:33) Genau. Irref�hrung. Irref�hrung, Manipulation, ja. Wenn ich jetzt als Internetnutzer pl�tzlich merke, da werden Dark Patterns eingesetzt, was kann ich dann ganz konkret machen und was macht ihr dann? was kann ich dann ganz konkret machen und was macht ihr dann? Also ihr k�nnt euch �ber das Beschwerdeformular des DSC an uns wenden und wir w�rden dann pr�fen, ob ein Versto� vorliegt und dann m�ssen wir auch noch schauen, ist das ein Anbieter mit Sitz in Deutschland, dann w�rden wir zust�ndig. Wenn es ein Anbieter mit Sitz in einem anderen EU-Staat ist, dann geben wir das an

(16:01) den anderen Digital Services Coordinator weiter. Ich h�tte jetzt noch ein anderes Beispiel. Also nehmen wir an, ich sehe tats�chlich etwas Illegales, zum Beispiel jemand leugnet den Holocaust, was in Deutschland strafbar ist. Wie w�rde ich dann vorgehen? Auch wieder �ber das Meldesystem erstmal? Also wenn du selber illegale Inhalte im Internet siehst, dann kannst du das Meldesystem der Plattform nutzen und das sollte benutzerfreundlich ausgestaltet sein und es sollte auch schnell eine Antwort geben. Und dann gibt es noch eine zweite Stufe, also wenn die Antwort f�r dich nicht

(16:37) zufriedenstellend ist, also der Inhalt nicht gel�scht wird, dann kannst du nochmal Beschwerde bei der Plattform einlegen oder dann im Anschluss auch eine au�ergerichtliche Streitbeilegung nutzen. Da st�rkt der Digital Services Act also die Rechte von Nutzern. Also da ist erstmal Eigeninitiative gefragt. Aber wenn es Probleme mit dem Meldesystem gibt, also das gar nicht vorhanden ist oder man findet den Button schlecht oder du kriegst keine Antwort oder die Antwort kommt zu sp�t, dann kann man sich beim Digital Services Coordinator beschweren.

(17:07) Dann liegt der Fall also beim DSC, bei der Bundesnetzagentur. Und was macht ihr dann? Also wenn wir im Verfahren, also wir pr�fen wie gesagt, wenn sich ein Versto� erh�rten w�rde, dann k�nnten wir, um das durchzusetzen, zum Beispiel ein Verwaltungsverfahren einleiten und dann in der Anordnung treffen, dass das Meldesystem besser ausgestaltet wird.

(17:29) Wenn das Unternehmen dem nicht nachkommt, k�nnten wir auch Zwangsgelder verh�ngen. Oder wir k�nnen, wenn wirklich ganz widerborstiges Unternehmen ist, dann auch ein Bu�geldverfahren einleiten. Ihr pr�ft aber nicht, ob etwas legal ist oder verfassungsfeindlich oder ob eine �u�erung von der Meinungsfreiheit gedeckt ist, das ist nicht eure Aufgabe.

(17:47) Nein, das ist nicht unsere Aufgabe. Okay, das bedeutet also, der Vorwurf, den man immer mal wieder h�rt, die Bundesnetzagentur w�rde zu einer Zensurbeh�rde, trifft nicht zu. Nein, absolut nicht. Gut, haben wir das gekl�rt. Die Beispiele, die wir jetzt hatten, also vor allen Dingen das Beispiel Holocaust-Leugnung, das ist sehr eindeutig.

(18:42) Gibt es auch andere Sachen, die da ein bisschen schwieriger sind? Oder was sind so die F�lle, die euch in den ersten Monaten so gemeldet wurden? Beispiele zu nennen. Wir hatten eine Nutzerin, die hat auf einer Second-Hand-Plattform Kleidung verkauft und dann wurden ihre Artikel aber gel�scht. Und sie konnte sich, hat sich bei der Plattform beschwert, aber hat nie Antwort bekommen. Und das w�re also ein Beispiel, wo das Meldesystem nicht funktioniert.

(18:46) Hier hatte der Anbieter seinen Sitz in Litauen und da haben wir den litauischen Digital Services Coordinator eingeschaltet und ein anderes Beispiel w�re da mit einer Video-Streaming-Plattform gab es anscheinend auch Probleme mit dem Meldesystem und mit der Sperrung von Inhalten da haben sich sehr viele Content Creator bei uns beschwert so dass wir da dem fall auch nachgehen konnten was sind Content Creator also Content Creator sind Nutzer im Internet die oft auch professionell damit arbeiten und zum Beispiel Videos im Internet bereitstellen.

(19:08) Auch YouTuber oder so? YouTuber zum Beispiel oder Influencer auf Instagram, also das sind Content Creator, die also wirklich professionell ihr Account betreiben und nicht wie du und ich einfach mal so ein privates Foto posten. Ich nehme an, dass es dann auch eine sch�ne Sache ist, wenn man den Usern helfen kann, so wie in dem beschriebenen Fall.

(20:00) Gibt es denn auch so typische F�lle, die bei euch landen, wo ihr sagen m�sst, leider nicht unser Bereich, k�nnen wir nichts machen? Also die absolute Nummer eins unter den Beschwerden, f�r die wir nicht zust�ndig sind, ist, dass ein Versto� gegen die Impressumspflicht gemeldet wird, also dass kein Impressum auf der Webseite angegeben wird. Dann gibt es auch sehr viele Beschwerden zu Dark Patterns auf Webseiten, aber f�r reine Webseiten sind wir nicht zust�ndig, sondern halt nur f�r Online-Plattformen. Vielleicht, wenn du da nochmal den Unterschied eben erkl�ren k�nntest zwischen einzelnen Websites und Plattformen, weil das jetzt �fters gefallen ist.

(20:06) Ja, also Webseiten sind Einzelwebseiten, wo jemand seinen eigenen Inhalt, also zum Beispiel eine Boutique, die ihre Kleidung verkauft oder ein Blogger und ein Online-Marktplatz ist, wo auch Produkte oder Inhalte von anderen dr�ber gepostet werden. Also zum Beispiel Amazon Marketplace oder YouTube, Facebook.

(20:27) Und weitere Beispiele w�ren zum Beispiel Phishing-Webseiten oder Fake-Webseiten. Da handelt es sich auch um Einzelwebseiten und keine Online-Plattformen, wo Inhalte dritter bereitgestellt werden. Da k�nnen wir leider auch nicht t�tig werden. Dann gehen wir jetzt mal davon aus, ihr seid zust�ndig, ihr seid auch t�tig geworden und der Anbieter kooperiert aber nicht.

(20:51) Welche Ma�nahmen kann denn die Bundesnetzagentur jetzt einleiten? Welche Drohmittel habt ihr in der Hand? Wenn ein Anbieter nicht kooperiert, dann k�nnen wir bei einer Anordnung ein Zwangsgeld verh�ngen, damit die Anordnung durchgesetzt wird. Das sind bis zu f�nf Prozent des durchschnittlichen weltweiten Tagesumsatzes oder der durchschnittlichen weltweiten Tageseinnahmen. Oder wir k�nnen auch ein Bu�geld verh�ngen.

(21:11) Das sind bis zu sechs Prozent des weltweiten Jahresumsatzes. Und wenn wir da mal ein Beispiel nehmen, das Online-Angebot, was in Deutschland am reichweitenst�rksten ist, das hat einen Umsatz von 233 Millionen Euro im Jahr 2022. Und das w�re dann umgerechnet auf ein Bu�geld maximal 14 Millionen Euro. Also das ist schon recht empfindlich.

(21:32) Wenn wir jetzt auf die EU-Ebene gucken, hat das noch eine ganz andere Dimension. X hat einen Umsatz von 3,4 Milliarden US-Dollar in 2023 und Meta circa 134 Milliarden US-Dollar. Da sind also die m�glichen Bu�gelder nochmal sehr viel h�her, also im dreistelligen Millionenbereich oder sogar im Milliardenbereich.

(21:54) Das tut weh. Das tut weh, ja. Ja, wir sprechen heute �ber den DSC, den Digital Services Coordinator. Wer ist das denn eigentlich ganz konkret? Also wie gro� ist das Team? Also wir sind aktuell knapp unter 20 Personen und aus verschiedensten Fachrichtungen, also Jura, �konomen, Informatiker. Wir sind aber noch auf der Suche nach Verst�rkung.

(22:24) Ach, man kann sich also bewerben. Wen sucht ihr denn noch? Genau, also aktuell laufen interne und externe Ausschreibungen und wir suchen verschiedenste Fachrichtungen. Politikwissenschaftler, Soziologen, Kommunikationswissenschaftler, weitere Informatiker und Juristen. Und im Herbst wird es auch noch eine weitere Ausschreibungsrunde geben und dann werden wir auch Data Scientists, Psychologen und alles M�gliche, Weitere suchen. Also wirklich ein breites Portfolio, um die verschiedensten Aspekte des Digital Services abzudecken.

(22:50) Das finde ich jetzt spannend. Also die Juristen und Juristinnen, das leuchtet jetzt sofort ein. Das geht hier um Bu�geldverfahren und so weiter. Du hattest noch erw�hnt, Soziologen, glaube ich? Genau. Psychologinnen? Genau. Also fangen wir vielleicht mal mit dem Psychologen an. Also viele Apps funktionieren ja auch �ber Empfehlungssysteme, also dir werden Inhalte angezeigt.

(23:12) Und das f�hrt ja oft dazu, dass man sehr lange auf der Plattform bleibt. Also bis hin zu diesem Doom-Scrolling, also immer weiter scrollen. Und um diesen ganzen Mechanismus zu verstehen, braucht man nat�rlich auch Psychologen. Und um diesen ganzen Mechanismus zu verstehen, braucht man nat�rlich auch Psychologen.

(23:31) Und was da ganz interessant in dem Zusammenhang ist, dass man auch das Gesch�ftskonzept der Plattform verstehen muss. Also viele Apps sind ja umsonst oder vorgeblich vermeintlich umsonst f�r den Nutzer, aber sie finanzieren sich �ber Werbung. Deshalb ist es Ziel der Plattform, dass die Nutzer m�glichst lange auf der Plattform bleiben. Und das geschieht halt dadurch, dass sie dir m�glichst ganz spezielle Inhalte anzeigen. Und um das alles besser zu analysieren, ben�tigen wir Psychologen und Psychologinnen.

(23:59) Interessant. Okay, was war noch dabei? Politikwissenschaftlerinnen? Genau, Politikwissenschaftler und Soziologen. Das ist vor allem wichtig, um ein besseres Verst�ndnis von systemischen Risiken auf Plattformen zu bekommen. Zum Beispiel ein systemisches Risiko sind die Auswirkungen auf Wahlen und die gesellschaftliche Debatte. Und da sind diese Fachrichtungen vonn�ten.

(24:20) Und wie viele Leute sollen am Ende insgesamt zum Team geh�ren? Und wie viele Leute sollen am Ende insgesamt zum Team geh�ren? Also im Gesetz stand 99 Stellen. Das ist aber noch ein weiter Weg. Also wir hoffen, dass peu � peu immer mehr Kollegen und Kolleginnen dazukommen. Das ist ja auch eine sehr langfristige Aufgabe.

(24:37) Genau. Ja, bevor wir zum Ende kommen, habe ich noch eine Frage, die ein bisschen �ber eure konkrete Arbeit hier in Deutschland hinausgeht. Wie wird das denn in anderen L�ndern umgesetzt, anders als in Deutschland? Also in L�ndern au�erhalb der EU l�uft es ganz unterschiedlich. Teilweise gibt es gar keine Regulierung.

(24:55) Mittlerweile sehen wir aber auch einige Bestrebungen au�erhalb der EU. Zum Beispiel in den USA f�hren jetzt einige Bundesstaaten Regelungen zu Social Media oder zu Plattformen ein oder haben auch schon was eingef�hrt und das ist ganz unterschiedlich. Teilweise werden da Altersverifikationssysteme angefordert oder das... Entschuldigung, Altersverifikation bedeutet, das Alter wird �berpr�ft.

(25:18) Genau, das Alter wird �berpr�ft, damit auch sichergestellt ist, dass dann Kinder und Jugendliche bestimmte Apps nicht nutzen d�rfen oder die Eltern m�ssen ihre Zustimmung geben. Dann gibt es aber auch Bundesstaaten, die schauen, dass die Angebote von Plattformen alters- und entwicklungsgerechte Inhalte enthalten oder schutzvorsch�digenden Inhalten.

(25:37) Klingt erst mal gut. Man kann sich aber vorstellen, dass je nach Bundesstaat und politischer Ausrichtung des Bundesstaates da auch durchaus mal was anderes gemeint ist, als wir das hier in Europa verstehen. Zum Beispiel? Zum Beispiel ist Nacktheit nat�rlich viel strenger reguliert als in Europa. Also zum Beispiel Facebook, da darf man keine Nacktbilder drauf zeigen.

(25:59) Das f�hrt dann zu so kuriosen Umst�nden, dass auch Kunstwerke mit nackten Frauen entfernt werden. Oder nat�rlich auch, dass man auch LGBTQ-Inhalte, sehen wir das Risiko, dass es da gesperrt werden k�nnte. Aber das muss man mal weitersehen. Wo auch das Internet sehr stark reguliert wird, sind nat�rlich Staaten wie China, Russland oder Iran.

(26:20) China hat Entwickler, Ger�tehersteller und App-Stores verpflichtet, einen Jugendschutzmodus einzubauen, dass nach einer bestimmten Zeit dazu f�hrt, dass die Ger�te sich abschalten oder die App-Stores nicht mehr erreichbar sind. Also das ist eine sehr weitgehende Regulierung. Was denkst du denn als Expertin, was sich im Bereich digitale Dienste oder auch soziale Plattformen in den kommenden Jahren ver�ndern wird? Was m�ssen wir erwarten? Und welchen Einfluss kann der DSC bzw. die Bundesnetzagentur darauf nehmen?

(27:01) Also meine Hoffnung ist, dass die Anbieter, insbesondere die Anbieter von sehr gro�en Plattformen, also angesichts der Bu�gelddrohungen, sich auch mehr dazu bewegen, eigeninitiativ auch ihre Plattformen sauberer zu halten. Also auch nicht nur auf Meldungen zu warten, sondern auch proaktiv illegale Inhalte vom Netz zu nehmen, sodass man peu � peu zu einem sicheren, vertrauensw�rdigeren Online-Umfeld kommt.

(27:19) Das ist meine Hoffnung. Es ist nat�rlich noch ein weiter Weg, aber wir sehen auch schon erste Anhaltspunkte, dass auch Anbieter, die vorher nicht auf Beh�rden reagiert haben, jetzt auch gewisse Verpflichtungen des DSA einhalten. Was unsere Arbeitspriorit�ten angeht, wo wir denken, wo wir gut unterst�tzen k�nnen, ist vor allem zum einen der Schutz der Verbraucherinnen und Verbraucher, insbesondere auf vielgenutzten Plattformen, auf Marktpl�tzen, wie zum Beispiel Temu, aber auch auf Social Media.

(27:47) Und ein zweiter sehr wichtiger Punkt ist der Schutz von Wahlen. Wir haben jetzt Landtagswahlen im n�chsten Jahr, Bundestagswahl, dass man da auch insbesondere auf sehr gro�en Plattformen darauf achtet, dass die gesellschaftliche Debatte und Wahlen gesch�tzt werden und sich Desinformationskampagnen nicht zu sehr verbreiten.

(28:04) werden und sich Desinformationskampagnen nicht so sehr verbreiten. Ja spannend, vielen Dank Julia, dass du uns einen Einblick gegeben hast zum Thema digitale Dienste, eine ganz neue Aufgabe, die die Bundesnetzagentur hat. In der kommenden Folge vom Podcast sprechen wir �brigens �ber ein ganz klassisches Thema, Universaldienste, das ist ein Thema aus dem Postsektor.

(28:24) Hast du eine Frage an unseren Gast, den wir dann weiterreichen k�nnen? Ja, da h�tte ich in der Tat eine Frage. Also ich habe so vom neuen Postgesetz mitgenommen, dass sich die Laufzeiten �ndern und da w�rde mich interessieren, wenn ich jetzt eine Postkarte aus dem Urlaub verschicke, zum Beispiel sagen wir mal bei Bayern oder Ostsee und die an meine Eltern in NRW verschicke, wie lange das zuk�nftig dauert. Das werden wir kl�ren, versprochen. Das interessiert mich.

(28:43) Danke euch. Vielen Dank. Ja, euch vielen Dank. Und vielen Dank auch Ihnen f�rs Zuh�ren. Ja, wir verabschieden uns f�r heute. Wenn Sie noch mehr wissen m�chten in den Shownotes, finden Sie weiterf�hrende Links zum Thema DSC. Wenn Ihnen die Folge gefallen hat, abonnieren Sie gern unseren Podcast.

(29:06) Sie finden die Akte Tulpenfeld auf allen �blichen Plattformen oder einfach auf der Website der Bundesnetzagentur. Empfehlen Sie uns gern weiter. Wenn Sie Fragen an uns oder Themenw�nsche f�r die kommenden Folgen haben, schreiben Sie uns gerne eine E-Mail an podcast.bnetsa.de. Zum Schluss bedanken wir uns bei unserer Sprecherin Regine Lange, bei unserem Grafiker Stefan Weiden und bei Colvin Crowley-Nicol f�r alle Sound-Elemente.

(29:32) Die Akte Tulpenfeld ist ein Podcast der Bundesnetzagentur. Die Bundesnetzagentur ist die oberste deutsche Regulierungsbeh�rde. Ihre Aufgabe ist es, den Wettbewerb in den sogenannten Netzm�rkten zu f�rdern. Ihre Aufgabe ist es, den Wettbewerb in den sogenannten Netzm�rkten zu f�rdern. Das sind die M�rkte f�r Strom und Gas, Telekommunikation, Post und Eisenbahn.

(29:56) Weitere Aufgaben der Bundesnetzagentur sind der Verbraucherschutz und die Markt�berwachung. Sitz der Beh�rde ist in Bonn. Dar�ber hinaus ist sie deutschlandweit an fast 50 weiteren Standorten vertreten. Pr�sident der Bundesnetzagentur ist Klaus M�ller.