Federale aanklagers hebben honderden door kunstmatige intelligentie gegenereerde nep-socialemedia-accounts uitgeschakeld die Russische agenten gebruikten om een ‘botfarm’ te creëren die leugens en desinformatie verspreidde ter ondersteuning van Vladimir Poetin in de Verenigde Staten en daarbuiten, aldus het Amerikaanse ministerie van Justitie. Dinsdag bekend gemaakt.
Veel van de elektronisch gegenereerde bots, die foto’s bevatten van lachende, strak gesneden mensen, beweerden van Amerikanen te zijn met namen als ‘Sue Williamson’ en ‘Ricardo Abbott’, die zogenaamd sociale mediasites als X gebruikten om de vrijgevigheid van Poetin te prijzen. deugden.
Experts op het gebied van de bestrijding van desinformatie en Amerikaanse functionarissen noemden deze campagne de eerste in zijn soort tegen door de staat gesponsorde, door AI aangedreven propaganda. Deze campagne komt op een cruciaal moment in de verdediging van Oekraïne tegen de Russische invasie en in de aanloop naar de Amerikaanse presidentsverkiezingen in november.
“De acties die we vandaag hebben ondernomen, scheppen een precedent”, zei FBI-directeur Christopher Wray. “Rusland was van plan deze geautomatiseerde boerderij te gebruiken om door AI gegenereerde buitenlandse desinformatie te verspreiden en zijn door AI ondersteunde bereik uit te breiden om onze partners in Oekraïne te ondermijnen en belangenbehartigers te beïnvloeden. geopolitieke verhalen van de overheid.” Russisch”.
Amerikaanse gerechtelijke documenten zeggen dat de Russische Federale Veiligheidsdienst – de opvolger van de KGB – de operatie van 2022 tot 2024 heeft georkestreerd. 1000× Rekeningen en Twee websiteszo blijkt uit documenten van de federale rechtbank.
US Cyber Command en zijn partners uit Nederland en Canada sloten zich aan bij de FBI om de Russische operatie neer te halen.
De Russische ambassade in Washington D.C. reageerde niet onmiddellijk op verzoeken om commentaar.
De FBI heeft op bevel van een federale rechter beslag gelegd op de rekeningen en websites van X nadat er vermoedens waren geuit van internationaal witwassen van geld en samenzwering, zo blijkt uit beëdigde verklaringen die zijn ingediend in het district Arizona, waar de websites waren geregistreerd.
Bedrijf X heeft de 968 accounts opgeschort wegens het schenden van hun servicevoorwaarden. Het bedrijf was niet bereikbaar voor commentaar.
Gedetailleerde Russische propaganda
Bots hebben alles verspreid, van desinformatie tot regelrechte leugens.
Eén gebruiker, die zichzelf Sue Williamson noemde, plaatste video’s waarin ze het Oekraïense leger ondermijnde door te zeggen dat het aantal buitenlandse strijders in zijn gelederen feitelijk veel lager was dan geschat, zo blijkt uit gerechtelijke documenten. De gebruiker plaatste ook video’s van Poetin die de invasie rechtvaardigden.
De Amerikaanse karakters zijn gemaakt met behulp van AI-aangedreven software die alleen op X werkt, hoewel analisten verwachten dat deze zal worden aangepast om op andere sociale mediaplatforms te werken, aldus Advies op het gebied van cyberbeveiliging Van de FBI en haar partners.
De software gebruikt een klein aantal ingangen om accounts aan te maken waarmee inhoud kan worden gemaakt en gedeeld in overeenstemming met gespecificeerde voorkeuren.
De accounts waren geregistreerd op e-maildomeinen waarvoor in Bitcoin werd betaald, aldus de bestanden. Onderzoekers hebben de accounts naar Moskou getraceerd via een reeks e-mailadressen die zijn opgegeven voor het geval Russische agenten het wachtwoord van de botaccounts zouden vergeten.
Gecreëerd door kunstmatige intelligentie, was Poetin populair onder Amerikanen.
Ricardo Abbott, een fictieve inwoner van Minneapolis, deelde video’s van de Russische president waarin hij betoogde dat Litouwen, Polen en Oekraïne deel uitmaken van Rusland, aldus de bestanden.
Een andere bot deelde video’s van Poetin die de invasie rechtvaardigde met een kandidaat voor een federaal ambt, aldus de verklaring.
Volgens gerechtelijke documenten zijn de video’s dezelfde propaganda als die te vinden is op het Russische staatsbedrijf RT News Network; Het botfarmprogramma is bedacht door een voormalig RT-redacteur die op zoek was naar manieren om een publiek buiten de televisiekijkers van RT te bereiken.
Feiten controleren:Bugatti ontkent valse beweringen dat Zelensky’s vrouw een auto zou kopen
Expert omschrijft het proces als ‘bemoedigend’
Dietram Scheufele is hoogleraar wetenschapscommunicatie aan de Universiteit van Wisconsin-Madison en doet onderzoek naar desinformatie.
Hij zei dat het aantal bots dat door de FBI-operatie wordt tegengehouden klein is vergeleken met het enorme aantal nepaccounts op sociale media. Maar hij vond het bemoedigend dat de federale overheid probeerde door AI gegenereerde desinformatie uit te roeien in plaats van nepvideo’s te markeren.
“Ik voel me geweldig”, zei een Duits staatsburger. “We hebben veel activiteiten gezien die pleisters op de symptomen zetten, maar niet echt de oorzaak aanpakken: het verwijderen van de tumor.”
Hij zei dat de door AI gegenereerde accounts gebruikers bereikten die geen reguliere feitencontroleverhalen lezen. Om dit probleem aan te pakken moesten de autoriteiten de activiteiten volledig stopzetten.
AI-bots zijn goedkoop om te maken en te onderhouden, dus Amerikanen zouden meer Poetin-fans moeten verwachten, zei Scheufele.
Maar Scheufele vond het bemoedigend dat de FBI zich richtte op door de staat gesponsorde, door AI gegenereerde desinformatie, die hij omschreef als de schadelijkste vorm van propaganda vanwege de reikwijdte en het doel ervan om onenigheid te zaaien in Amerikaanse gemeenschappen.
Hij voegde eraan toe: “Het probleem dat niet onder controle kan worden gebracht, zijn buitenlandse actoren. Nu zijn we getuige van de eerste reactie.”
