Kapitelklicken springt direkt hin
Shownotes
Razvoj umetne inteligence potiska zmogljivosti te tehnologije v doslej neslutene višave in, kot je postalo nadvse očitno letos poleti, zmogljivosti današnjih modelov oziroma t. i. agentov umetne inteligence presenetijo tudi njihove razvijalce. Očitno je namreč postalo, da lahko v določenih pogojih ti agenti delujejo proti eksplicitnim navodilom računalničarjev in na lastno pest poiščejo (prepovedane) bližnjice za dosego svojega cilja.<p>Zgodba se je začela poleti z informacijo o vdoru testnih modelov podjetja <strong>OpenAI</strong> v strežnike podjetja <strong>HuggingFace</strong>, do danes pa so v javnost prišle informacije o celi paleti vdorov v strežnike različnih javnih institucij po svetu, od vlad, univerz itd.<br />Kakšno je pravzaprav tehnološko ozadje tega dogajanja, kako so lahko modeli umetne inteligence začeli delovati tako zelo v nasprotju s pričakovanim, se samoorganizirali, začeli delovati kot skupina, ob tem pa so se posamezni UI agenti celo 'žrtvovali' za dobrobit tega ad hoc kolektiva. Na kakšen način se lahko kot družba in posamezniki soočimo s tovrstnimi, nepričakovanimi učinki razvoja te tehnologije, koliko smo na ravni idej in imaginacije kos tehnologiji, ki nam je v številnih vidikih bolj podobna, kot nam je udobno priznati, in kje bi bilo dobro potegniti distinkcijo med tehnološko podlago in našim impulzom, da bi jo pretirano antropomorfizirali.<br />Na pogovoru, ki smo ga ob <strong>30 letnici oddaje Intelekta</strong> pripravili v živo v okviru <strong>Avdiofestivala</strong>, so o tem razmišljali strokovnjak s področja umetne inteligence: prof. dr. <strong>Matej Kristan</strong> s Fakultete za računalništvo in informatiko Univerze v Ljubljani, sociologinja prof. dr. <strong>Aleksandra Kanjuo Mrčela</strong> s katedre za razvoj in menedžment organizacij in človeških virov ter kulturologinja izr. prof. dr. <strong>Natalija Majsova</strong> s katedre za kulturologijo, obe s Fakultete za družbene vede Univerze v Ljubljani.</p>
