Online Plus

Vědci vyzývají politiky k regulaci AI. „Naděje na úspěch je velice malá,“ myslí si Koubský

Online Plus

Plus

Není tomu tak dávno, co umělá inteligence stěží napočítala do desíti. Dnes zvládne vytvořit realisticky vypadající obrázky, naprogramovat software, nebo dokonce řídit roboty. Spolu s tím ale vyvstává otázka, jestli nejsou na místě větší regulace AI, aby se lidem úplně nevymkla z rukou.
David Slížek

27. října 2023, 11:10

Přepis epizody

Přepis mluveného slova do textu je prováděn automatizovaným systémem a proto obsahuje mnoho nepřesností. Je určen pouze pro rychlou orientaci a vyhledávání. Nalezené výsledky vyhledávání jsou v přepisu zvýrazněny podbarvením.

Co hledáte?

Zlaté narozeniny jednoho textového editoru, velká americká žaloba na firmu meta, dětská pornografie vytvářená s pomocí AI a další varování před nekontrolovanou umělou inteligencí. To jsou témata pravidelného přehledu dění ve světě počítačů a internetu, kterým vás také dnes provází David Slížek.
On-line plus.
Samozřejmě na to nebudu sám. U mikrofonu přes internet na dálku vítám také našeho pravidelného komentátora, redaktora deníku n Petra Koubského. Ahoj, Petře. Ahoj. Davide. Ještě v roce 2019 jazykový model GPT dva nedokázal spolehlivě napočítat do 10 po čtyři roky později. Jeho nová verze GPT čtyři umí psát software, vytvářet fotorealistické obrázky, radit lidem v řadě témat nebo řídit roboty. V průběhu následující dekády bychom se mohli dočkat tzv. obecné umělé inteligence, která v řadě oblastí předčí člověka. Tak začíná dokument skupiny vědců a výzkumníků, kteří v něm vyzývají politiky, aby začali vývoj já ji systémů přísněji regulovat. Mezi autory je například jeden ten, který je považován za jednoho z otců neuronových sítí, na kterých je dnešní já jí systémy běží. Firmy investují obrovské peníze do vývoje nových modelů, ale už mnohem méně do opatření, která by omezovala možná rizika, říkají signatáři dokumentu. Navrhují proto, aby firmy i vlády třetinu peněz investovaných do vývoje AI přesměrovali na tvorbu pojistek, které by zajistily bezpečné a etické využívání umělé inteligence. Do vývojových center by podle nich také měli mít přístup nezávislí odborníci, a pokud by u AI modelů našli potenciálně nebezpečné schopnosti, mají mít firmy povinnost přijmout konkrétní bezpečnostní opatření. Firmy by také měli mít jasnou odpovědnost za případné škody, ke kterým by mohlo kvůli jejich já jí systému dojít. Petře, o několika varováních právě ze strany odborníků na počítače, na AI systémy a na IT. O několika takových varováních jsme už tady mluvili. Je toto vlastně nejnovější varování nebo nejnovější výzva k tomu, aby já jí a vývoj nových systémů byly více regulovány. Je to něčím výjimečné podle tebe?