Co jsou Deepfakes a proč jsou tak nebezpečné?

Jak

PodleMichael Bryant

Naposledy aktualizováno dne1. září 2021

Kdysi do značné míry omezené na pornografii, deepfake se nyní objevují všude. Více znepokojující: technologie, která je za tím, se každým rokem zlepšuje, což může mít v příštích letech široké důsledky.

Opravdu to Mark Zuckerberg přiznal? mít ukradená data od miliard lidí? Nazval Barack Obama Donalda Trumpa „úplná blbost?"Každé z těchto odkazů na videa je příkladem deepfake, nebezpečné formy umělé technologie, která umožňuje vložit někomu do úst slova nebo jinou tvář na tělo jiné osoby." Existují také „hlasové skiny“ a „hlasové klony“, které umožňují vtipálkům napodobit hlas.

Při diskusi o deepfakes existují dvě otázky, které stojí za zodpovězení. Za prvé, co je činí, a za druhé, proč jsou stále účinnější. Pojďme se tedy podívat.

Deepfakes: Takže, v čem je problém?

Není pochyb o tom, že některé deepfake jsou zábavné - jakmile vtipkujete. Představte si například, že 44. prezident USA skutečně veřejně nazval 45. špatné jméno nebo že původní Wonder Woman, Lynda Carter,

byl nějak umístěn do novějších filmů, které ve skutečnosti hrály Gal Gadot.

Bohužel, jak se deepfake zlepšují, mohou nastat problémy a způsobit značné problémy. Političtí odpůrci mohou například vytvářet padělaná videa ukazující své protivníky v kompromitujících pozicích. Mohli by tím posunout výsledek voleb. V nebezpečnějším příkladu si představte, že současný prezident Spojených států vyhlašuje válku Číně a čínská vláda věří, že je to pravda.

Problémy s deepfakes nemusí zahrnovat celebrity nebo vládní úředníky. Například pomocí „hlasových skinů“ mohl podvodník přesvědčit rodiče, jehož dítě má potíže, nebo falešný agent IRS mohl podvést nic netušícího občana, aby mu předal bankovní informace.

Dalšími příklady deepfake jsou phishingové podvody, narušení dat, pošpinění pověsti, sociální inženýrství, automatizované dezinformační útoky a finanční podvody.

Proč jsou efektivní?

Technologie hlubokého učení v posledních letech zlepšila kvalitu deepfakes. A přesto existují další důvody, protože skutečnost a fikce jsou stále více rozmazané. Podle Deep Fake Now, zkreslení potvrzení a falešná víra si také pohrávají s naším mozkem.

Potvrzovací potvrzení

Se zkreslením potvrzení jednotlivci vyhledávají, interpretují a upřednostňují informace způsobem, který podporuje něčí přesvědčení nebo hodnoty.

Jak vysvětluje Americká psychologická asociace (APA), „Bias potvrzení je tendence hledat informace, které podporují, a nikoli odmítá své předsudky, obvykle interpretací důkazů k potvrzení stávajících přesvědčení, přičemž odmítá nebo ignoruje jakékoli konfliktní data."

Falešná víra

V psychologii se teorie mysli týká mentální schopnosti porozumět druhým lidem a jejich chování. Falešná víra je považována za důležitý milník teorie. Je to pochopení, že ostatní lidé mohou věřit věcem, které nejsou pravdivé.

Zpět k Deep Fake Now: „Pokud bude mít někdo dost času, někdo, kdekoli, nevyhnutelně použije„ alternativní fakta “na podporu své agendy. A budou pravděpodobně používat technologii deepfake k „prokázání“ svých prohlášení. Je to jejich způsob šíření pochybností a propagandy ve společnostech. “

Oba koncepty ukazují, jak se deepfake používají jako nástroj ke změně názoru.

Deepfakes: Je to skutečné nebo falešné?

I když se technologie deepfakes zlepšuje, existují způsoby, jak poznat, kdy je konkrétní video falešné. Ve skutečnosti Norton vysvětluje, že alespoň existují 15 jistých palných způsobů k určení padělků. Mezi ně patří:

• Nepřirozené pohyby očí. Pohyby očí, které nevypadají přirozeně - nebo nedostatek pohybu očí, například absence mrkání - jsou červené vlajky. Je náročné replikovat blikání způsobem, který vypadá přirozeně. Je také náročné replikovat okamžiky očí skutečného člověka. To se stává něčí oči obvykle sledují osobu, se kterou mluví.
• Nedostatek emocí. Pokud obličej někoho nevykazuje emoce, které by měly odpovídat tomu, co údajně říká, můžete si všimnout morfování obličeje nebo obrazů.
• Nepřirozené zbarvení. Abnormální odstín pleti, změna barvy, podivné osvětlení a špatně umístěné stíny jsou známkou toho, že to, co vidíte, je pravděpodobně falešné.
• Digitální otisky prstů. Technologie blockchain může také vytvořit digitální otisk prstu pro videa. I když to není spolehlivé, toto ověření založené na blockchainu může pomoci ověřit pravost videa. Zde je návod, jak to funguje. Při vytváření videa je obsah zaregistrován do účetní knihy, kterou nelze změnit. Tato technologie může pomoci prokázat pravost videa.
• Reverzní vyhledávání obrázků. Při hledání původního obrázku nebo při zpětném vyhledávání obrázků pomocí počítače lze na internetu objevit podobná videa, která pomohou určit, zda byl obrázek, zvuk nebo video nějakým způsobem změněn. Přestože technologie zpětného vyhledávání videa není dosud veřejně dostupná, investice do takového nástroje by mohla být užitečná.

Příklady

Na internetu je spousta příkladů deepfakes. Mezi mé osobní oblíbené patří následující:

Jak vidíte, deepfakes mohou být opravdu zábavné, veselé. Bohužel mohou být také nebezpeční, když je technologie používána nelegálně. Bude zajímavé, kam to v následujících letech pojme jako koncept.

Jak

Jak vymazat mezipaměť Google Chrome, soubory cookie a historii procházení

Chrome skvěle ukládá vaši historii procházení, mezipaměť a soubory cookie, aby optimalizoval výkon vašeho prohlížeče online. Její způsob, jak ...

Jak

Váš průvodce sdílením dokumentů v Dokumentech, Tabulkách a Prezentacích Google

Můžete snadno spolupracovat s webovými aplikacemi Google. Zde je váš průvodce sdílením v Dokumentech, Tabulkách a Prezentacích Google s oprávněními ...