#59 Wenn KI Modelle hacken, was als sicher galt

Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet.
🔎 Begriff im Fokus:
OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf.
OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen.
🔗 Literatur & Studien:
Paper zu Shieldstral von Mistral: arxiv.org/abs/2607.25857
Link zum Buch “the Alignment Problem von Brian Christian: hugendubel.de/de/taschenbuch/brian_christian-t… (hugendubel.de/de/taschenbuch/brian_christian-t…)
🔗 Links:
Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH
Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):heise.de/news/Bericht-Nvidia-uebernimmt-Huggin…
Second Brain Guide von Inken: vely.ai/second-brain-guide
Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :)
📲 Media-Kanäle:
🔗 Sarah’s Instagram:@sarah_rojewski (instagram.com/sarah_rojewski) 🔗
Inken’s Instagram:@askinkenai (instagram.com/askinkenai)