Syntetické hlasy jsou k nerozeznání od těch skutečných, jaký vliv bude mít další rozvoj AI?
AI technologie se neustále vyvíjí a na internetu přibývají kromě uměle vygenerovaných obrázků a textů třeba i syntetické hlasy. Jejich podoba s těmi skutečnými je zarážející a poznat, že se nejedná o skutečný hlas, je téměř nemožné. Jaká rizika se se syntetickými hlasy pojí a mělo by se jejich generování omezit?
„Prosím, vyberte veškeré své finanční úspory a za úplňku jděte do lesa Řáholce, kde najdete pařezovou chaloupku. A tam ty vaše úspory vložte v igelitové tašce pod kořen. Křemílek s Vochomůrkou vám pak do týdne pošlou 1000 Bitcoinů,“ zaznělo v pořadu České televize hlasem moderátorky Jany Peroutkové.
Nešlo ale o její skutečný hlas, nýbrž o ukázku možností současných AI systémů na generování syntetických hlasů, kterou ve spolupráci s výzkumníkem Janem Kulveitem z Centra pro teoretická studia Univerzity Karlovy připravil režisér Petr Salaba.
Výzkumník Jan Kulveit uvedl, že tato ukázka skvěle demonstruje problém, kterým se mohou syntetické hlasy v budoucnu stát. Podle něj by jedním řešením mohlo být, že budou všechny výstupy z AI generátorů povinně kryté kryptografickým vodoznakem, pomocí kterého bude možné dohledat, kdo je vytvořil.
Petr Koubský z Deníku N ale zdůrazňuje, že by vodoznaky sice byly elegantním řešením, ale že bude možnost je nějakým způsobem obejít a že je tedy potřeba najít propracovanější cestu k tomu, jak bojovat proti rizikům těchto technologií.
Zbohatnout na duševním zdraví ostatních? Seriál Štěstí ASAP ukazuje svět start-upů, AI i vyhoření
Číst článek
Vzestup umělé inteligence by ale mohl i pozitivně ovlivnit digitální gramotnost široké populace, která by byla nucena informace začít ověřovat. Větší pozornost by byla upřená i na média, která jsou dost často pod tlakem, aby vydávala co nejrychleji.
„Tohle je možná užitečná facka médiím k tomu, aby se vrátila k velice solidnímu prověřování všeho a aby nasadila apriorní nedůvěru vůči všemu, co k nim přichází jako vstup,“ komentuje Koubský to, jaký vliv by mohl mít další rozvoj umělé inteligence na práci médií.
Otázkou je, jestli by nebylo možné vytvořit jakýsi protipól, který by měl za cíl rozpoznat skutečné hlasy od těch syntetických.
„Dovedu si zhruba představit, že nějaká analýza na matematické úrovni toho digitalizovaného zvuku by mohla ledacos prozradit. Možná tam je víc skrytých stop, té umělé manipulace, než je u textu,“ dodává Petr Koubský.
Jedno malé výročí, vtipný AI chatbot od firmy xAI Elona Muska a vytváření vlastních chatbotů jsou další témata pořadu Online Plus, který moderuje David Slížek. Poslechnout si ho můžete v audiu v úvodu článku.
