Komentář: Potřebujeme revizi Green Dealu. Místo toho nás možná čeká přitvrzení

Plán EU snížit emise do roku 2040 o devadesát procent je nebezpečný. Schvalovat se má prostřednictvím zákulisního vyjednávání, s minimální účastní národních parlamentů a bez propočtů, co to bude koho stát a zda je to sociální únosné.

Plán EU snížit emise do roku 2040 o devadesát procent je nebezpečný. Schvalovat se má prostřednictvím zákulisního vyjednávání, s minimální účastní národních parlamentů a bez propočtů, co to bude koho stát a zda je to sociální únosné.

Celý článek
0

Velká ropná konsolidace v USA: Dražší benzín a více vlivu pro OPEC

Polovinu těžby ropy v největší producentské zemi světa ovládla pouhá desítka firem. Kromě nich samotných se to nelíbí nikomu – Wall Street, politikům ani spotřebitelům.

Polovinu těžby ropy v největší producentské zemi světa ovládla pouhá desítka firem. Kromě nich samotných se to nelíbí nikomu – Wall Street, politikům ani spotřebitelům.

Celý článek
0

Tajemná ruská vesmírná zbraň je nesmysl. Špionům šlo o udržení vlivu

Za únikem informací o ruské zbrani schopné ničit družice stály nejspíš americké tajné služby. Chtěly vyděsit politiky, aby neschválili novelu, která by jim sebrala pravomoc shromažďovat citlivá data i bez povolení soudu.

Za únikem informací o ruské zbrani schopné ničit družice stály nejspíš americké tajné služby. Chtěly vyděsit politiky, aby neschválili novelu, která by jim sebrala pravomoc shromažďovat citlivá data i bez povolení soudu.

Celý článek
0
Vybrané články
z týdeníku The Economist

Zfalšovat hlas pomocí AI je snadné, prokázat pravost záznamu téměř nemožné

Stačí pár vteřin a AI naklonuje váš hlas. Doplatit na to může kdekdo od herců po banky.

Zfalšovat hlas pomocí AI je snadné, prokázat pravost záznamu téměř nemožné
ilustrační foto | Shutterstock.com

Jennifer DeStefanová přijala hovor z neznámého čísla. „Mami, jsem v průšvihu,“ vzlykala její dcera. „Unesli mě.“ Mužský hlas pak začal požadovat peníze, vyhrožoval, že jinak její dceru zdroguje a nechá v Mexiku. Zatímco Jennifer telefonovala, jejím přátelům se podařilo spojit s její dcerou a zjistit, že je v naprostém pořádku a lyžuje v Arizoně. Hlas v telefonu byl fake. 

Dosud otřesená DeStefanová vyprávěla v červnu svůj příběh podvýboru amerického Senátu při slyšení o umělé inteligenci. Teprve nyní se začíná hovořit o nebezpečí spjatém s technologií schopnou naklonovat váš hlas. V posledních měsících se umělá inteligence (AI) těší velké pozornosti, ale většina pozornosti se soustředila na takzvané „velké jazykové modely“, jako je ChatGPT, jež dokážou chrlit text. Stejně zásadní dopady však bude mít i klonování hlasu.

Sami si vyberte

AI modelu stačí jen krátká hlasová ukázka, aby se naučil používat něčí hlas tak, že dokáže říct cokoli a bude při tom znít jako dotyčná osoba. Apple podle všeho tento prvek zakomponuje do operačního systému iOS 17, který se má objevit v září. Promuje jej jako nástroj pomáhající lidem, jimž hrozí ztráta hlasu například v důsledku degenerativního onemocnění ALS.

Těm, kdo by si rádi vyzkoušeli hlasové klonování hned, nabízí AI startup ElevenLabs možnost vytvořit si vlastní klony během několika minut. Výsledky jsou znepokojivě přesné. Při generování playbacku nabízí systém posuvník, jenž uživateli umožňuje vybírat mezi variabilitou a stabilitou. Když si zvolíte větší variabilitu, bude mít zvuková stopa realistickou intonaci včetně odmlk a zaškobrtnutí typu „éé…“. Když si vyberete stabilitu, bude hlas znít spíše jako klidný, odosobněný hlasatel.

Lingvista a konzultant Taylor Jones pečlivě prozkoumal ve svém youtubovém videu kvalitu svého naklonovaného hlasu z ElevenLabs. S využitím statistického testu poukázal na to, že v „jeho“ výslovnosti některých hlásek pár věcí nesedí. Při méně technologicky složitém testu, při „konverzaci“ s jeho vlastní matkou, se mu povedlo ženu, jež ho vychovala, ošálit. („Chraň tě ruka páně to ještě někdy zkoušet!“ varovala ho). Jones experiment s matkou zopakoval. S naklonovaným Jonesem si začala okamžitě povídat.

Kdo by tomu věřil?

Už několik let se mohou zákazníci při komunikaci s bankami či jinými společnostmi identifikovat hlasem. Jednalo se o vylepšení bezpečnosti, ne o její ohrožení. Dokonce ani nadaný imitátor nedokáže obelstít kontrolní systém. Nyní, s nástupem klonování, však bude nutné hlasovou identifikaci změnit a používat ji například jen jako jeden z několika identifikačních parametrů (čímž se sníží její využitelnost), aby se předešlo případnému podvodu.

Trpět bude nejspíš i showbyznys. Hlasové schopnosti herců, které cvičí po celý život, si bude možné přisvojit během pár vteřin. Britský deník The Telegraph nedávno informoval o hercích, kteří omylem podepsali smlouvy, v nichž se vzdali práv na své hlasy, a umožnili tak jejich klonování zcela zdarma. Do budoucna budou zapotřebí nové smlouvy. Některým hercům však může klonování vyhovovat. Vala Kilmera, kterého rakovina jícnu připravila téměř o veškerý hlas, nadchlo, když se ve filmu „Top Gun: Maverick“ znovu slyšel. Další nebudou muset docházet do studia na přetáčení. Nejvíc ohrožení budou průměrní pracovníci, ne superhvězdy. Se vzestupem klonování se bude muset vypořádat i novinařina. Tajné nahrávky – jako třeba ta, na níž se Donald Trump vytahoval, jak chytá ženy za jisté intimní partie – jsou už dlouho základem megaúspěšných sólokaprů. Kdo ale napříště uvěří příběhu založenému na audionahrávce?

O něco snazší by to mohlo být s falešně pozitivními nahrávkami, tedy těmi, na nichž se zachycený hlas ukáže jako podvod. V takovém případě bude možné využít sofistikované forenzní technologie, která například u soudu dosvědčí, že daný klip vytvořila AI. Ovšem prokázat, že je určitá nahrávka pravá, je těžké, možná dokonce nemožné. Novinář bude muset předvést, jak audiosoubor získal a uložil – pokud, jak tomu často bývá, neslíbil svému zdroji anonymitu.

Během první prezidentské kampaně se Trump přičinil víc než kdokoli jiný o popularizaci „fake news“ – a to ještě předtím, než se rozšířilo hlasové klonování, deepfake videa a obrázky generované AI. Lidé, které teď někdo přistihne při nějaké nepravosti, se budou mít tendenci hájit, že „to ale nebyli oni“. A mnozí budou mít o důvod víc jim věřit.

© 2023 The Economist Newspaper Limited
All rights reserved. Publikováno na základě licence s The Economist, přeloženo týdeníkem Hrot.
Originální článek v angličtině najdete na www.economist.com