Taylor snel, deepfake

Trollen overspoelen X met nep-AI-gemaakte afbeeldingen van Taylor Swift

Avatar van Eduardo Rebouças
Miljoenen gebruikers van sociale netwerken hadden toegang tot publicaties met deepfakes met seksuele inhoud, waardoor het platform gedwongen werd zoekopdrachten naar de zanger te blokkeren

Na een wereldtournee die stadions vulde, kwam de zanger uit Taylor Swift is terug in het nieuws, maar om minder nobele redenen: valse afbeeldingen van de zanger, gegenereerd door kunstmatige intelligentie, werden gepubliceerd op X (Twitter) en gezien door miljoenen gebruikers, waardoor de zoektocht naar de naam van de artiest op het sociale netwerk zelfs werd word verbannen . Ontdek nu meer over de zaak.

Begrijp het geval van nepafbeeldingen van Taylor Swift

Trollen overspoelen os met valse Taylor Swift-afbeeldingen gemaakt door ai. Miljoenen gebruikers van sociale netwerken hadden toegang tot publicaties met deepfakes met seksuele inhoud, waardoor het platform gedwongen werd zoekopdrachten naar de zanger te blokkeren
Taylor Swift

De afgelopen dagen circuleren nepbeelden van Taylor Swift – gegenereerd door AI – met expliciete inhoud op X, nog een voorbeeld van de constante golf van pornografie gegenereerd door technologie, naast de moeilijkheid om dit in te dammen door de moderatie van het platform.

Een van de meest bekeken berichten, die in totaal 17 uur heeft gestaan, werd 45 miljoen keer bekeken, 24 keer gedeeld en honderdduizenden likes voordat hij werd verwijderd en de gebruiker – die op het platform is geverifieerd – uw account werd opgeschort voor het overtreden van de regels van de X.

Maar dit hield niet de storm van nepbeelden van de zanger in, die op het sociale netwerk bleef circuleren via berichten op andere accounts, waarvan er vele nog steeds beschikbaar zijn om te bekijken. Als gevolg hiervan sprong het onderwerp ‘Taylor Swift AI’ naar de top van de lijst met meest gezochte termen, wat deze valse berichten over de kunstenaar verder versterkte.

Volgens de site 404 Media, de nepafbeeldingen van Taylor Swift is mogelijk gemaakt door gebruikers van een Telegram-groep waar dagelijks afbeeldingen van expliciete inhoud met vrouwen, gemaakt door Microsoft Designer, worden gedeeld. Leden van de groep vonden het blijkbaar geweldig dat de beelden op sociale media terechtkwamen, waardoor licht werd geworpen op wat er gebeurde. 

De website verklaarde dat de systeemfouten in het AI-beeldcreatiemechanisme dat diende als toegangspoort voor frauduleuze beelden zijn gecorrigeerd, wat werd bevestigd door de Artificial Intelligence Engineering Leader op Microsoft, Sara Vogel. Ze zegt dat het onderzoek naar de zaak zal worden voortgezet en dat de beveiligingssystemen van de tool zullen worden versterkt om te voorkomen dat deze opnieuw wordt gebruikt om afbeeldingen zoals die van Taylor te genereren.

Wat doet X eraan?

Zoek naar nepafbeeldingen van Taylor Swift op x (twitter)
Er waren zoveel zoekopdrachten naar de termen ‘Taylor Swift’ op X dat het platform de toegang tot de resultaten beperkte. (Afbeelding: X)

je X, zijn er regels en beleid met betrekking tot kunstmatige en gemanipuleerde beelden, naast naaktheid zonder wederzijds goedvinden, die dit soort inhoud van het sociale netwerktype verbieden. Ondanks contact via journalistieke kanalen hebben de vertegenwoordigers van Taylor Swift en NFL, de American football league waarin haar vriend speelt SwiftTravis Kelce, de tight end van Kansas City Chiefs, die volgende zondag in de Super Bowl speelt, weigerde commentaar te geven op de kwestie. 

Naar aanleiding van incidenten met Swift, publiceerde X een notitie waarin stond dat er geen enkele tolerantie bestaat in deze gevallen van imagomisbruik en dat de teams van het sociale netwerk actief werken aan het beteugelen van dit soort gedrag onder zijn gebruikers. Toch diende dit niet als excuus voor de miljoenen fans van de zanger over de hele wereld, die X fel bekritiseerden omdat hij de valse berichten zo lang had laten staan.

Om te proberen de problematische hashtags te verwijderen, begonnen deze fans echte video's te posten Taylor naar voren komen in een poging de vele vervalsingen die nog steeds beschikbaar zijn voor het publiek te verdoezelen. 

De moderatie in X neemt af

Ondanks de vele obstakels die proberen te voorkomen dat beelden als dat van Taylor door AI-tools worden gecreëerd, is de uitdaging om dit volledig te voorkomen moeilijk te overwinnen, vooral door de trage en onsuccesvolle reacties van sociale netwerken als X, waarvan het moderatieteam heeft sinds de overname door Musk is gedaald.

In Europa loopt er een onderzoek naar X met betrekking tot het gebruik ervan om desinformatie en illegale inhoud te verspreiden en is er ondervraagd over pogingen om valse informatie over het conflict tussen Israël en Hamas van het platform te verwijderen die de afgelopen maanden is gevonden.

Totdat er een ideale oplossing is voor dit ernstige probleem van privacy en individueel imago, kun je niet voorzichtig genoeg zijn bij het plaatsen van foto's en video's op sociale media, mensen!   

BEKIJK MEER:

Wat de eerste Apple Vision Pro-recensies zeggen

Bron: The Verge

Beoordeeld door Glaucon Vital op 6-2-24.

Meld u aan om ons nieuws te ontvangen:

Laat een reactie achter

Uw e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *

Gerelateerde berichten