PočúvAI: Expert radí, ako skrotiť AI agenta. Tieto práva mu určite nedávajte

Umelá inteligencia sa mení z pasívneho asistenta na samostatného agenta. Namiesto generovania textových odpovedí, ktoré museli ľudia prácne kopírovať, dokážu dnešné systémy zadané úlohy priamo a autonómne vykonávať. Kým pre produktivitu je to revolúcia, pre kybernetickú bezpečnosť to znamená nočnú moru.
Odborníci varujú pred neriadeným nasadzovaním AI do bežného pracovného prostredia. Absencia jasných pravidiel a fenomén takzvanej „Shadow AI“ – kedy zamestnanci potichu používajú bezplatné nástroje – predstavujú pre firmy obrovské bezpečnostné riziko.
Ako sa zmenila práca v IT s nástupom agentov, ako maskovať údaje pred odoslaním do cloudu a prečo majú k tajnej umelej inteligencii, ktorá s dokáže nabúrať do takmer každého systému, prístup len vybraní hráči? O týchto a ďalších témach hovorí v novej časti podcastu PočúvAI systémový inžinier Juraj Belko a manažér systémových inžinierov Peter Kočík. Rozpráva sa s nimi Maroš Žofčin.
Podcast vznikol v spolupráci so spoločnosťou Fortinet.
Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk.
TIP: zive.aktuality.sk/clanok/0RfdZVW/nahliadnite-d…
V podcaste sa dozviete aj o týchto témach:
• Čo z toho, čo nahráte do verejných modelov, môže poslúžiť na trénovanie umelej inteligencie pre tretie strany.
• Aké riziká prináša, keď zamestnanci využívajú vlastné AI nástroje na na prácu bez vedomia zamestnávateľa.
• Ako fungujú bezpečnostné brány, ktoré pred odoslaním do cloudu zamenia citlivé dáta za zástupné symboly a vo firme ich opäť demaskujú.
• Prečo je obrovskou chybou dať jednému AI asistentovi neobmedzený prístup a či by mal mať každý agent iba jednu špecifickú funkciu.
• Prečo je extrémne schopná AI od známej firmy držaná v tajnosti a kto ju aktuálne smie používať.

Podcast pripravuje magazín Živé.sk.