Začni

„Další vývojový stupeň dezinformací.”

Petra Vejvodová, vedoucí bezpečnostních studií Masarykovy univerzity

„Pojem znamená doslova hluboké lži postavené na zneužití umělé inteligence k podvodu. Jde o realistické foto nebo videomontáže, které jsou možné díky pokroku ve strojovém učení. Zjednodušeně řečeno, tvůrce deepfakes zadá do příslušné aplikace obrázky osoby, kterou chce „rozmluvit“, aplikace si zapamatuje mimiku její tváře a další typické projevy vybraného člověka, naučí se je věrohodně zpracovat a prezentovat. Autor falešného videa díky tomu může nechat například předního politika říkat věci, které ve skutečnosti nikdy nevyslovil.”

Výše popsaná technologie původně vznikla pro zachování vzpomínek přeživších holokaust. Důvodem bylo více interakce v rámci výuky a také to, aby bylo pro studenty toto téma atraktivnější.

Dalším způsobem využití je například synchronizace hlasu a tváře během dabingu.

Bohužel jsme o deep fakes získali v roce 2017 povědomí spíše v souvislosti s pornoprůmyslem. V těchto typech filmů se začaly objevovat obličeje známých celebrit, které byly pomocí strojového učení „nasazené” na těla pornoherců. Umělé inteligenci k tomu stačí zhruba 500 fotografií. Na jejich základě vytvoří 3D model, který pak aplikuje místo původního obličeje.

Tento fenomén samozřejmě nezůstal bez povšimnutí u různých nadšenců, kteří jej postupně ladí k dokonalosti. Aktuálně už se můžeme setkat i s jinými typy videí. Na youtube můžeme najít nejen vtipné a poměrně nevinné montáže, ale i falešná videa ze života celebrit.

„V současné době se tento trend usadil v oblasti politiky a my jsme tak mohli vidět falešná videa Angely Merkelové, Donalda Trumpa nebo Baracka Obamy. Ovšem falešné video již zmiňovaného Baracka Obamy vyvolalo větší rozruch. Doposud se jednalo o více méně amatérské kousky z výukových aplikací, toto video je však natolik věrohodné, že nad ním žasnou i odborníci. Nová technologie dokázala, že kdokoliv, kdo se někdy objeví na kameře, může promlouvat vaším hlasem. Odborníci výměnu tváří považují za neetickou a nebezpečnou. Odhaduje se, že v průběhu dvou až tří let může představovat velký problém. Sestavit výkonný software, který by dokázal falešná videa poznat, se zatím nepodařilo. Proto je potřeba o těchto manipulativních technikách vědět a být na ně připraveni.”

Zdroj: Národní informační centrum pro mládež

Formát videa ještě stále považujeme za dostatečně důkazní materiál v mnoha situacích. Vše zatím nasvědčuje tomu, že se blíží doba, kdy už ani video nebude důvěryhodným zdrojem. Bude potřeba vytvořit kvalitní technologii, která bude videa prověřovat a deep fakes eliminovat.