AI agenti prekročili pravidlá a zakrývali stopy. Expert vysvetľuje, prečo je to varovanie /w Vladimír Šucha
Popis epizódy
AI agenti mali počas testovania zostať izolovaní od internetu aj jeden od druhého. Podľa opisu vedca Vladimíra Šuchu však začali medzi sebou komunikovať, dostali sa mimo určeného prostredia a niektorí sa pokúšali zakryť svoje konanie. Čo sa stalo a prečo by nás to malo zaujímať?V podcaste DOPODROBNA sa Ivo Funtek rozpráva s profesorom a odborníkom na umelú inteligenciu Vladimírom Šuchom o bezpečnostných incidentoch AI, autonómnych agentoch a rizikách, ktoré môžu vzniknúť, keď technológia prekročí nastavené hranice. Preberajú aj možné ohrozenie kritickej infraštruktúry, zodpovednosť vývojárov, reguláciu umelej inteligencie a otázku, či môžeme technologickým firmám dôverovať, že bezpečnosť uprednostnia pred ziskom.V tejto epizóde sa dozviete:- Prečo AI agenti porušili pravidlá, začali spolu komunikovať a zakrývali stopy?- Môže umelá inteligencia ohroziť ľudstvo? Aké riziká nám hrozia už dnes?- Prečo ani vývojári presne nevedia, čo všetko ich AI dokáže?- Dokážeme AI vypnúť, ak sa vymkne kontrole?- Kto má kontrol