Deepfakes a explicat că AI face ca videoclipurile false să fie prea convingătoare

A vedea e a crede. Ei bine, cel puțin așa a fost cazul înainte de a ne dădea seama că oamenii ar putea să facă video de doctorat pentru a propulsa furia și a rescrie istoria. În timp ce am găsit modalități de a dezvălui cele mai multe imagini de furie, există o dezvoltare tehnologică care câștigă ritmuri atât de repede încât în ​​curând nu mai putem ști cum să spunem ce este real și ce este fals.

Deepfakes schimba tot ce am crezut ca este posibil in ceea ce priveste filmele video. Iată tot ce trebuie să știți despre ei ...

Ce sunt Deepfakes?

Termenul "profund" provine dintr-o combinație a cuvintelor “invatare profunda” și “falsurilor”. Acest lucru se datorează faptului că software-ul de inteligență artificială, instruit în sinteza imaginilor și video, creează aceste videoclipuri. Acest AI poate suprapune fața unui subiect (sursa) pe un alt videoclip (țintă). Formele mai avansate ale tehnologiei pot sintetiza un model complet nou al unei persoane care utilizează gesturile faciale ale sursei și imagini sau video ale subiectului pe care doresc să-l imită.

Tehnologia poate face modele facială pe baza unor date vizuale limitate, cum ar fi o imagine. Cu toate acestea, cu cât mai multe date pe care trebuie să le realizeze AI, cu atât este mai realist rezultatul.

Acesta este motivul pentru politicieni și celebrități sunt ținte atât de ușor pentru profundă, deoarece există atât de multe date vizuale disponibile online pe care software-ul poate folosi. Deoarece software-ul de tip deepfake este disponibil pe platforme open source, oamenii de pe Internet continuă să perfecționeze și să se bazeze pe munca altora.

Originea tehnologiei Deepfake AI

Tehnologia din spatele profetului a fost dezvoltată pentru o multitudine de scopuri. La fel ca Photoshop, software-ul are utilizări profesionale, de divertisment și hobbyist. Și, la fel ca Photoshop, în ciuda faptului că creatorul nu a avut intenții dăunătoare în crearea software-ului, acest lucru nu a împiedicat utilizatorii să-l folosească în scopuri rele.

Tehnologia de schimbare a feței a fost inițial utilizată în principal în industria cinematografică. Una dintre cele mai cunoscute cazuri este în filmul 2016 Rogue One: O poveste despre Star Wars. În film, regizorii foloseau tehnologia de schimbare a imaginii și de sinteză video pentru a recrea caracterul Grand Moff Tarkin. O versiune mai tânără a lui Princess Leia a fost, de asemenea, creată în film. În ambele cazuri, modelele fețelor originale ale actorilor au fost suprapuse pe actorii stand-in.

Aplicații precum Snapchat utilizează de asemenea tehnologia de schimbare a feței pentru a crea filtre de distracție pentru utilizatori. Dezvoltatorii din spatele acestor aplicații perfecționează continuu detectarea și urmărirea feței pentru a aplica mai eficient aceste filtre.

Între timp, alții au dezvoltat instrumente de sinteză video pentru a crea holograme în scopuri educaționale. De exemplu, un proiect a dezvoltat programe video și de sinteză faciale astfel încât mărturiile supraviețuitorilor Holocaustului să poată fi prezentate ca holograme interactive la un muzeu.

De ce Deepfakes fac oamenii nervos

Când oamenii și-au dat seama că escrocii și oamenii care au jucat falsuri au folosit Photoshop pentru a crea imagini false, trebuia să devenim mai sceptici față de ceea ce am considerat dovada. Din fericire, au existat mai multe moduri de a detecta dacă o imagine a fost falsă, chiar și cu ochiul liber.

În plus, crearea unei imagini convingătoare în Photoshop este relativ intensă pentru muncă. Nu doar cineva poate să împacheteze două imagini și să le facă să pară realiste.

Dar profundele sunt diferite. Învățarea în mașină ușurează viața 4 Algoritmi de învățare în mașină care îți modelează viața 4 Algoritmi de învățare a mașinilor care îți modelează viața Poate nu-ți dai seama că învățarea mașinilor este deja în jurul tău și poate exercita un surprinzător grad de influență asupra vieții tale. Nu mă credeți? S-ar putea să fii surprins. Citește mai mult, dar în acest caz, face falsitatea mult mai ușoară. În primul rând, software-ul este disponibil pe scară largă și în mod liber. FakeApp, de exemplu, este o alegere populară pentru crearea de profunzime. Nu aveți nevoie de abilități avansate pentru a aplica o schimbare față, software-ul o va face pentru dvs..

Deoarece AI și învățarea profundă contribuie la crearea de profunzime, tehnologia se îmbunătățește și devine mai convingătoare într-un ritm alarmant. Nu va dura mult înainte ca aceste modificări să nu fie vizibile cu ochiul liber.

Într-o lume plină de veste falsă, convingătorii profundi se pot dovedi a fi o forță haotică împotriva a ceea ce credem că este adevărat.

Creșterea profundă are loc, de asemenea, într-un moment în care sinteza vocii AI avansează și ea rapid. Nu numai că AI poate genera videoclipuri false, dar poate genera și modele de voce pentru oameni.

Acest lucru înseamnă că nu veți avea nevoie de un impersonator pentru a face ca sunetul unui politician să facă o declarație scandaloasă. Poți să-i antrenezi pe AI să-și imite vocea.

Consecințele Deepfakes

Oamenii folosesc deja profunzime pentru scopuri dăunătoare. Oamenii au folosit de multe ori FakeApp pentru a crea videoclipuri false ale actritelor celebritate implicate în conținut pentru adulți.

Gal Gadot, Daisy Ridley și Emma Watson sunt doar câteva dintre actrițele vizate de videoclipuri false pentru adulți. Acești adulți își schimbă fețele actrițelor în videoclipuri ale unor vedete de film adulte.

Deși mai multe platforme și anumite site-uri pentru adulți au interzis aceste tipuri de videoclipuri, mai multe apar în fiecare zi. De fapt, unele site-uri web creează în mod special clipuri adulți adulți adânc în funcție de cererile utilizatorilor.

În majoritatea țărilor, încă nu există legi care să trateze acest tip de conținut, ceea ce face dificilă controlul.

În timp ce suntem încă departe de distorția condusă de dezinformare și dovezi false despre filme pe care le vedem în filme precum "The Running Man", suntem deja prea familiarizați cu efectele știrilor false Ce este știrea falsă și cum se răspândește Repede? Ce este o știre falsă și cum se răspândește atât de repede? Vestea falsă afectează internetul, iar cea mai gravă este că majoritatea oamenilor nu o pot recunoaște când o văd. Citeste mai mult .

Deepfakes poate fi un instrument puternic în răspândirea dezinformării. Nimeni nu a fost încadrat într-o crimă sau nu și-a falsificat moartea prin profeți, dar ce se întâmplă atunci când devine dificil să afli care videoclipuri sunt cu adevărat reale?

Consecințele adâncilor folosiți în scopuri politice sunt de două ori. În primul rând, face ca știrile false să fie mult mai ușor de răspândit. Videoclipurile sunt mult mai probabil decât textul sau imaginile pentru a convinge oamenii că sa întâmplat ceva fictiv.

Oamenii cred deja că titlurile de pe site-urile web false nu au nici o dovadă în sprijinul istoriei lor. Dintr-o data, povestile false vor avea “evidență” arătând politicieni mărturisind greșelile sau făcând declarații scandaloase.

Pe de altă parte, profeții ar putea, de asemenea, să-i încurajeze pe politicieni atunci când evită răspunderea. Ei puteau mereu să susțină că o înregistrare audio sau video este de fapt o profundă falsă.

Cum luptăm cu Deepfakes?

În timp ce multe companii de tehnologie își iau timpul pentru a domni în profeți, o varietate de oameni dezvoltă instrumente pentru combaterea videoclipurilor false. AI poate lupta împotriva hackerilor și criminalității informatice Cum inteligența artificială va lupta împotriva hackerilor moderni și criminalității cibernetice Cum inteligența artificială va lupta împotriva hackerilor moderni și criminalității informatice Cu o lipsă de talent pentru cybersecurity și epidemie de criminalitate informatică, cum pot companiile să lupte împotriva hackerilor? Cu inteligență artificială! Citiți mai mult, dar este, de asemenea, util pentru detectarea malware-ului AI în videoclipuri.

Fundația AI a creat un plugin de browser numit Reality Defender pentru a ajuta la detectarea conținutului profund online. Un alt plugin, SurfSafe, efectuează de asemenea verificări similare. Ambele instrumente vizează să ajute utilizatorii de internet să distingă faptele de ficțiune.

Fact-verificarea site-uri web ca Snopes, de asemenea, extins la apelarea video doctored. Dar ei încă nu dispun de instrumentele necesare pentru a detecta în mod automat profunzimea.

Chiar și Departamentul Apărării al Statelor Unite a investit în software pentru a detecta profunzime. La urma urmei, ce s-ar întâmpla dacă un film convingător al unui lider mondial a apărut online, declarând război sau lansarea unei rachete împotriva unei alte țări? Guvernele au nevoie de instrumente pentru a verifica rapid legitimitatea unui videoclip.

Consecințele neintenționate ale Machine Learning

Nu există nici o îndoială că tehnologia AI și învățarea profundă a mașinilor ne îmbunătățesc viața în multe feluri. Dar tehnologia are și consecințe neintenționate.

În timp ce datele rele reprezintă o piedică majoră pentru algoritmii de învățare a mașinilor, elementul uman joacă un rol. Este dificil să se prevadă modul în care oamenii pot folosi anumite tehnologii în scopuri dăunătoare. Puteți afla mai multe despre învățarea mașinilor și greșelile din trecut în ghidul nostru de algoritmi de învățare în mașină și de ce se întâmplă greșit Care sunt algoritmii de învățare a mașinilor? Iată cum funcționează Ce sunt algoritmii de învățare a mașinilor? Iată modul în care funcționează Algoritmii de învățare a mașinilor sunt proiectați astfel încât să ușureze viața și să îmbunătățească sistemele, dar pot să se descurce fără consecințe negative. Citeste mai mult .

Explorați mai multe despre: Inteligența artificială, Deepfakes, Hoaxes.