Deepfake bilder av Trumps arrestering fick folk att tro att det faktiskt hände.
Om du är aktiv på Twitter kanske du har sett några chockerande bilder av USA: s förre president Donald Trump som arresteras av poliser, kämpar med dem och till och med flyr ifrån dem. Det visade sig att inget av detta var verkligt. Men hur hände allt detta?
Donald Trump-gripandet som aldrig hände
Den tidigare amerikanska presidenten delade en förmodad läcka genom sin tjänsteman Sanning Socialt handtag den 18 mars. I inlägget stod det att han förväntade sig ett gripande på tisdagen följande vecka för "gamla och helt avvisade" anklagelser mot honom. Det dröjde inte länge innan bilder av Trumps arrestering började dyka upp över hela internet.
Bilderna visade vad som verkade vara bilder av Trumps arrestering av en grupp poliser.
Bilderna var AI-genererade
Bilderna var dock inte autentiska. De var deepfakes gjorda med Midjourney, en AI-bildgenerator. Midjourney använder en djupinlärningsalgoritm för att generera bilder från början med hjälp av textuppmaningar. I det här fallet var textuppmaningarna varianter av att Trump blev arresterad.
Deepfake-teknik har funnits ett tag, och det blir allt mer sofistikerat. AI-genererade bilder brukade vara lätta att identifiera: de saknade detaljer och realism. Dock, Midjourneys senaste release (v5) fixade de flesta av dessa problem och var i själva verket versionen som användes för att generera Trumps arresteringsdeepfakes.
Hur bilderna blev virala
Eliot Higgins, en undersökande journalist, skapade de första versionerna av Trump-gripandet för att visualisera hur en Trump-gripande skulle se ut. Han publicerade dem på sitt Twitterkonto. Även om hans bildtext var tydlig från början att bilderna var falska, tog det inte lång tid för inlägget att bli viralt.
När bilderna spreds över sociala medier trodde många att det var verkligt. Trumps inlägg på Truth Social hade redan misstänkta människor, och de realistiska bilderna satte bara fart på elden. Det tog ett tag innan det stod klart att bilderna var falska och gripandeberättelsen hade varit en bluff.
Inlägg på sociala medier som "rapporterar" den falska gripandet har raderats eller har desinformationsetiketten på sig. Som straff bannlyste Midjourney även Higgins från sin server i en månad, per Washington Post.
The Era of Deepfakes kräver vaksamhet
Trump-gripandet av deepfakes belyser de alarmerande framstegen inom AI-teknik. Falska bilder kan nu skapas med otrolig lätthet och ser så realistiska ut att det är svårt att skilja vad som är verkligt och vad som inte är det. Vaksamhet är nu mer kritisk än någonsin när det gäller innehåll på nätet.
