Online Plus

„Finanční úspory v lese Řáholci pod kořenem.“ Syntetické hlasy jsou k nerozeznání od těch skutečných

Online Plus

Poslechněte si klub Rádia Junior o práci v Českém Rozhlase

Plus

AI technologie se neustále vyvíjí a na internetu přibývají kromě uměle vygenerovaných obrázků a textů třeba i syntetické hlasy. Jejich podoba s těmi skutečnými je zarážející a poznat, že se nejedná o skutečný hlas, je téměř nemožné. Jaká rizika se se syntetickými hlasy pojí a mělo by se jejich generování omezit?
David Slížek

10. listopadu 2023, 11:10

Přepis epizody

Přepis mluveného slova do textu je prováděn automatizovaným systémem a proto obsahuje mnoho nepřesností. Je určen pouze pro rychlou orientaci a vyhledávání. Nalezené výsledky vyhledávání jsou v přepisu zvýrazněny podbarvením.

Co hledáte?

No malé výročí, vtipný a já jí chatbot od firmy x a já jí ti Elon Musk a vytváření vlastních životů a rizika, ale i generování hlasů. To jsou témata pravidelného přehledu dění ve světě počítačů a internetu, kterým vás dnes provází David Slížek.
On-line plus.
A já samozřejmě u mikrofonu vítám na dálku, tedy přes internet našeho pravidelného komentátora, redaktora deníku n Petra Koubského. Ahoj Petře. Ahoj. Davide. Prosím. Vyberte veškeré své finanční úspory a za úplňku jděte do lesa. Řád holce, kde najdete pařezovou chaloupku. A tam ty vaše úspory vložte v igelitové tašce pod kořen. Křemínek s Vochomůrkou vám pak do týdne pošlou 1000 Bitcoinů. Tuto nabídku ve vysílání pořadu ČT Události, komentáře přednesl hlas moderátorky Jany Peroutkové. Šlo o ukázku možností současných a já jí systémů pro generování syntetických hlasů, kterou ve spolupráci s výzkumníkem Janem Kulveitem z Centra pro teoretická studia Univerzity Karlovy připravil režisér Petr Salaba. Hlas, který byl na první poslech od skutečného projevu moderátorky k nerozeznání. Podle Kulveita demonstruje problém, který bude do budoucna potřeba řešit jako možné řešení výzkumník navrhl, že by veškeré výstupy AI generátorů, tedy texty, zvuky i obraz, měly být povinně označeny například kryptografickým vodoznakem, aby se při jejich možném zneužití dalo poznat, kdo je vytvořil, a případně jej stíhat. Petře, ta ukázka je vlastně docela zajímavá, hezká. Ten hlas opravdu velmi odpovídá tedy hlasu té skutečné moderátorky, takže myslím si, že by se opravdu dalo leckdo oklamat tom ukázku a nedokázali rozeznat, který z těch hlasů vytvořila i já a který je tedy skutečný. Jak velká rizika pod led byl? Právě tyto technologie pro vytváření syntetických hlasů pomocí AI nástrojů. Jak velká rizika tedy přinášejí?