Brad Smith, president van Microsoft, roept op tot nieuwe wetgeving tegen deepfakefraude in het Amerikaanse Congres

De opkomst van generatieve AI heeft geleid tot een verontrustende toename van digitale “deepfake”-content, kwaadwillig geproduceerd door actoren die erop uit zijn om valse informatie over personen en onderwerpen online te verspreiden. Deze trend roept grote zorgen op, vooral met de aanstaande Amerikaanse presidentsverkiezingen van 2024.

In deze context heeft het Microsoft Threat Analysis Center (MTAC) nauwlettend in de gaten gehouden hoe door de staat gesponsorde dreigingsactoren uit Rusland, Iran en China misleidende websites, berichten op sociale media en video’s maken om de verkiezingen van 2024 te beïnvloeden. Onlangs publiceerde het bedrijf een rapport waaruit bleek dat actoren in Rusland video’s hebben gemaakt die gericht zijn op het verspreiden van desinformatie over de Democratische Amerikaanse presidentskandidaat Kamala Harris en vice-presidentskandidaat Tim Walz.

Vandaag deelde Microsoft de schriftelijke getuigenis van bedrijfspresident Brad Smith op zijn blog , na zijn verschijning voor de Amerikaanse Senaatscommissie voor inlichtingen in Washington DC. De hoorzitting richtte zich op buitenlandse bedreigingen voor Amerikaanse verkiezingen en de verplichtingen van Amerikaanse technologiebedrijven, zoals Microsoft, om deze bedreigingen te bestrijden.

In zijn schriftelijke verklaring schetste Smith de voortdurende inspanningen van door de staat gesponsorde groepen om AI en deepfake-technologie te gebruiken om de verkiezingen van 2024 te beïnvloeden. Hij riep de commissie en het Amerikaanse Congres ook op om proactieve maatregelen te nemen.

Smith verklaarde in zijn getuigenis:

Ten eerste zou het Congres een nieuwe federale “deepfake-fraudewet” moeten aannemen. We moeten wetshandhavers, waaronder procureurs-generaal van staten, een op zichzelf staand juridisch kader bieden om door AI gegenereerde fraude en oplichting te vervolgen, aangezien deze steeds sneller en complexer worden.

Smith benadrukte verder dat het Congres zou moeten bepalen dat elke leverancier van AI-systemen AI-gegenereerde content moet labelen met “state-of-the-art provenance tooling.” Daarnaast pleitte hij voor de goedkeuring van de Protect Elections from Deceptive AI Act, die al is ingediend door een bipartizane groep Amerikaanse wetgevers. Deze wet zou onder andere het gebruik van AI verbieden bij het genereren van politieke content voor federale wetgevers, met uitzonderingen voor satirische content of gebruik in nieuwsredacties.

Bron