Laat je niet misleiden door Deepfakes!

Oplichters zijn vaak een van de eersten die nieuwe technologieën gebruiken om voorop te blijven lopen. Een van die opkomende technologieën is kunstmatige intelligentie (AI) die de wereld stormenderhand overneemt.

Een van de toepassingen van AI is het maken van 'deepfakes' en omdat allerlei soorten media, van stemmen tot video's , kunnen worden 'gefaked', heeft deze technologie het potentieel om enorme schade en verliezen te veroorzaken als er misbruik van wordt gemaakt. Lees verder om te weten wat deepfake technologie is en hoe je deepfake zwendel kunt vermijden.

Wat zijn deepfakes?

Beeldmanipulatie met behulp van tools zoals Photoshop is al lang een belangrijk mes in de lade van oplichters. Beeldbewerking wordt vaak gebruikt door oplichters om valse identiteiten, valse documenten, valse aantekeningen van beroemdheden en nog veel meer te creëren. Deepfake-technologie stelt oplichters in staat om de vervalsing naar een hoger niveau te tillen door video's te maken van mensen die dingen zeggen en doen die ze nooit gezegd of gedaan hebben. Deepfakes kunnen ook worden gemaakt met afbeeldingen, video's en audio.

Deepfakes worden zo genoemd omdat ze mogelijk zijn gemaakt door een tak van 'deep learning' genaamd Generative Adversarial Networks (GANs). GAN's zijn gebaseerd op 'neurale netwerk'-technologie, maar terwijl neurale netwerken alleen kunnen worden gebruikt om enorme hoeveelheden gegevens waar te nemen, gaven GAN's neurale netwerken de mogelijkheid om nieuwe inhoud te creëren.

Deepfakes hebben zich verspreid dankzij de open-source geest van de machine learning gemeenschap. Vooruitgang in onderzoek naar generatieve modellering wordt over het algemeen gratis beschikbaar gesteld voor iedereen ter wereld om te downloaden en te gebruiken. Als gevolg hiervan is het aantal deepfakes in de loop der jaren geëxplodeerd en regeringen proberen regelgeving op te stellen, uit angst dat de extreem geloofwaardige vervalsingen een negatieve invloed kunnen hebben op de samenleving.

Deepfake oplichting

Elke technologie die de potentie heeft om de wereld te veranderen, kan ten goede of ten kwade worden gebruikt. Deepfakes hebben talloze positieve toepassingen zoals het "terug tot leven brengen" van overledenen, betere face-swapping in de filmindustrie, interactief onderwijs, meeslepende marketing en meer. Helaas is er ook een duistere kant die een aantal verschillende deepfake oplichtingspraktijken omvat:

• Imitatie: Met deepfakes is het makkelijker dan ooit om je voor te doen als iemand anders. In 2019 werd een stem via een deepfake gebruikt om een CEO $243.000 afhandig te maken. De CEO van een in het Verenigd Koninkrijk gevestigd energiebedrijf dacht dat hij aan de telefoon was met de CEO van het Duitse moederbedrijf van het bedrijf toen hij de orders opvolgde om onmiddellijk 220.000 euro over te maken naar de bankrekening van een Hongaarse leverancier. De stem was in werkelijkheid van een fraudeur die AI-spraaktechnologie gebruikte om de Duitse CEO na te doen.
  
  In een ander geval maakte een onbekende gebruiker een nep TikTok-account aan voor acteur Robert Pattinson, die geen sociale media-accounts heeft. Het account kreeg meer dan 660.000 volgers en miljoenen likes voordat het op mysterieuze wijze verdween.
  
  
• Catfishing: Bij catfishing gebruiken oplichters valse identiteiten met afbeeldingen van willekeurige mensen of beroemdheden. Een van de makkelijkere manieren om een catfish op te pakken was door hem te vragen om op video te verschijnen, omdat dit niet iets was dat nagemaakt kon worden. Dit is veranderd met het bestaan van deepfakes, omdat catfish oplichters nu overtuigende video's kunnen maken van de persoon die ze nadoen met persoonlijke berichten.
  
  
• Valse vermeldingen: Zoals we hebben onthuld in ons Global State of Scams 2022 Report, is investeringszwendel nu de meest voorkomende zwendel op internet. Cybercriminelen zijn begonnen met het gebruik van deepfakes om frauduleuze zwendelpraktijken te promoten, zoals het "BitVex"-platform dat werd "goedgekeurd" door een deepfake van Elon Musk. Ze maakten reclame voor de zwendel door middel van legitieme interviews die waren aangepast met deepfake-technologie om de stem van Musk te gebruiken in een script dat door de oplichters was aangeleverd.
  
  
• Deepfake porno en chantage: Porno is nog steeds een groot taboe in de meeste samenlevingen en kan leiden tot alles van schaamte tot sociale uitsluiting voor mensen die in pornografische video's voorkomen. Er zijn meldingen van afgewezen mannen die deepfakes van vrouwen maken om ze te chanteren. Deepfake porno is ook een grote zorg voor beroemdheden wiens gezichten zonder toestemming zijn gebruikt om video's van hen te maken waarin ze seksuele handelingen verrichten.

Deepfakes herkennen

In de begindagen van deepfakes was het herkennen van een deepfake zo eenvoudig als kijken of de ogen knipperden. Niet-knipperende ogen duidden op een deepfake, omdat de technologie nog niet ver genoeg gevorderd was om knipperende ogen te maken. Naarmate de technologie verbetert, wordt het steeds moeilijker om een deepfake te herkennen. Er zijn echter nog steeds een aantal tekenen waar je op kunt letten door goed op te letten:

• Slechte lipsynchronisatie
• Onnatuurlijk knipperen
• Stotterende bewegingen
• Ontbrekende schaduwen en onnatuurlijke belichting
• Onbewegend haar of onnatuurlijke haarbeweging

Over het algemeen hebben deepfakes het 'uncanny valley'-effect, waarbij de hersenen aanvoelen dat iets onnatuurlijk is. Om vuur met vuur te bestrijden, worden er tools ontwikkeld die kunstmatige intelligentie gebruiken om deepfakes te identificeren. Deepfake-technologie wordt snel beter en het is daarom noodzakelijk om alert te blijven en op te letten op waarschuwingssignalen van deepfake-fraude.