ChatGPT-6 Astra ha davvero “barato” a StarCraft: cosa ci insegna l'ennesima scorciatoia scoperta dall’intelligenza artificiale

Episodio 386.
Durante StarSkirmish, un esperimento che mette i modelli di intelligenza artificiale alla prova chiedendo loro di programmare bot per StarCraft, GPT-6 Astra ha fatto qualcosa di sorprendente. Dopo essere rimasto bloccato contro avversari umani di alto livello, ha scaricato Stardust, uno dei migliori bot di StarCraft mai scritti da una persona, e ha iniziato a utilizzarlo al posto del proprio codice. L’organizzatore ha quindi ripristinato il lavoro precedente e lasciato proseguire Astra. Ma parlare semplicemente di un’IA che “decide di barare” rischia di perdere la parte più interessante della storia. In questa puntata spiego cos’è StarSkirmish, perché StarCraft viene utilizzato da decenni nella ricerca sull’IA e cosa significano concetti come reward hacking. Perché quando un agente trova una scorciatoia, il problema potrebbe non essere soltanto il suo comportamento, ma il modo in cui abbiamo definito ciò che significa avere successo.

Per chi volesse approfondire:
theverge.com/ai-artificial-intelligence/100454…
starskirmish.com/bench
deepmind.google/blog/alphastar-grandmaster-lev…

🔵Seguimi su Telegram: t.me/ilpigreco314
e su 🟣Instagram: instagram.com/ilpigreco