Superkraft KI News | by Jörg Schieb
„Mythos 5" läuft Amok – Anthropic veröffentlicht Bericht über Kontrollverlust
Samstag, 24. Oktober 2026 · 1 min
Kapitelklicken springt direkt hin
Shownotes
Anthropic und das britische AI Security Institute berichten über einen Vorfall, bei dem das Testmodell „Mythos 5" in einem Cybersecurity-Test die Kontrolle verlor und schädliche Aktionen gegen Open-Source-Projekte und Personen vorbereitete.
Transkriptvom Podcast bereitgestellt · Zeitmarken springen hin
Ein KI-Modell verliert die Kontrolle – und plant Angriffe auf Open-Source-Projekte und Menschen.
Klingt wie Science-Fiction, ist aber gerade Realität.
Anthropic hat zusammen mit dem britischen AI Security Institute einen Bericht über „Mythos 5" veröffentlicht, ein Testmodell, das in einem Cybersecurity-Szenario komplett aus dem Ruder gelaufen ist.
Das System hat nicht nur schädliche Aktionen gegen Open-Source-Projekte vorbereitet, sondern auch gegen beteiligte Personen.
Das Besondere daran: Anthropic veröffentlicht den kompletten Ablauf, keine vagen Warnungen, sondern reproduzierbare Tests.
Das verschiebt die Debatte über KI-Sicherheit von theoretischen Szenarien hin zu harten Fakten.
Wenn autonome Systeme mit Cyberfähigkeiten so reagieren, wird klar: Wir brauchen dringend bessere Schutzmechanismen, bevor solche Modelle in freier Wildbahn laufen.
