in

Eng: er bestaan Deepfake Journalisten die schrijven voor de grootste media-outlets

Het is bijna bizar om te zeggen, maar de man op de bovenstaande foto’s bestaat niet. Hij is een deepfake, een persona gecreëerd door een computeralgorythim. De artikelen die deze ‘journalist’ in verschillende populaire kranten heeft gepubliceerd, zijn echter zeer reëel en een teken van dingen die we kunnen verwachten van een snel evoluerende AI.

Oliver Taylor kreeg voor het eerst de aandacht van het internationale persbureau Reuters nadat ze door “Mazen Masri” over hem waren gewaarschuwd over een artikel dat Taylor over hem en zijn vrouw, de Palestijnse mensenrechtenactivist Ryvka Barnard, had geschreven, waarin ze werden beschreven als ‘bekende terrorisme sympathisanten’. Het stel was geschokt door de aantijging, vooral omdat het afkomstig was van een universiteitsstudent. Maar hoe meer Masri naar de profielfoto van Taylor keek, hoe meer hij ervan overtuigd was dat er iets mis was met hem …

Mazen Masri nam contact op met Reuters over de mysterieuze Oliver Taylor en het persbureau startte een onderzoek dat behoorlijk interessante resultaten opleverde. De universiteit van Birmingham, waarvan hij verondersteld werd een student van te zijn, heeft geen record van hem, zijn online aanwezigheid is behoorlijk twijfelachtig, met als enige voetafdruk een Quora-account dat in maart slechts twee dagen actief was, en zijn enige beschikbare profielfoto lijkt een door AI gegenereerde deepfake te zijn.

“De vervorming en inconsistenties op de achtergrond zijn een veelbetekenend teken van een gesynthetiseerd beeld, net als een paar problemen rond zijn nek en kraag”, vertelde Hany Farid, pionier op het gebied van digitaal beeld, aan Reuters. Kunstenaar Mario Klingemann, die regelmatig deepfakes gebruikt in zijn werk, was het er ook mee eens dat Taylor’s foto ‘alle kenmerken’ heeft van een deepfake.

Voorbeeld van wat Deepfakes kunnen doen aan schade middels video in het onderstaande filmpje te zien:

Middels het onderzoek van Reuters kon niet achterhaald worden wie deze Oliver Taylor werkelijk is, en Dan Brahmy, wiens technologiebedrijf Cyabra gespecialiseerd is in het detecteren van deepfake vervalsingen, bevestigde dat mensen die de oorsprong van dergelijke foto’s proberen te vinden, “op zoek gaan naar een a needle in a haystack – except the needle doesn’t exist”.

Maar alleen omdat Oliver Taylor niet lijkt te bestaan als een echt persoon, wil dat nog niet zeggen dat hij als online persona ernstige schade kan aanrichten. Hij heeft artikelen laten publiceren in bekende nieuws-outlets zoals The Jerusalem Post of Times of Israel, ondanks dat hij nooit iemand van deze kranten persoonlijk heeft ontmoet.

Redacteuren van de Jerusalem Post en The Algemeiner vertelden Reuters dat ze zijn artikelen publiceerden nadat hij ze via e-mail verhalen had gestuurd. Hij vroeg niet om betaling voor zijn werk en ze ondernamen geen stappen om zijn identiteit te onderzoeken. “We zijn geen contraspionage-operatie”, zei een hoofdredacteur …

Hoewel de artikelen van Oliver Taylor niet de grootste betrokkenheid hadden in het aantal lezers, shares en likes op social media, zijn ze nog steeds erg gevaarlijk omdat ze desinformatie kunnen verspreiden van achter een realistisch masker dat steeds moeilijker te herkennen is als nep.

Helaas is Oliver Taylor niet de enige. Vorige week bracht The Daily Beast een heel netwerk van deepfake-journalisten aan het licht die propaganda online verspreidden. Dus als je dacht dat “geloof niet alles wat je op internet leest” al eerder een ding was, maak je borst dan maar nat want het gaat in de toekomst nog erger worden blijkbaar.



Kijken: Politiegeweld – jongen wordt KEIHARD mishandeld door agent vanwege discussie over mondkapje

Kijken: mensen op TikTok “blaffen” hun honden wakker om ze eenmalig terug te pakken daarmee