Tse reglerar bl.a

TSE reglerar AI och förbjuder deepfakes i kommunalvalen 2024

Avatar av Eduardo Rebouças
Beslut syftar till att stävja missbruk av teknik för att skapa falska videor som imiterar kandidater under valkampanjen

O TSE (Superior Electoral Court) godkände regleringen av användning av AI under nästa val, som äger rum i oktober i år. Se mer detaljer om konsekvenserna av denna händelse nedan!

Förstå TSE:s beslut

Alexandre de moraes, tse reglerar bl.a
Alexandre de Moraes, ordförande för TSE. (Bild: Agência do Brasil, BEC)

O Högre valdomstolen godkände i går, 27, regleringen av användningen av artificiell intelligens i kommunalvalen, planerad till oktober i år, där väljarna kommer att välja nya borgmästare och fullmäktigeledamöter. Åtgärden fastställer att det kommer att finnas en skyldighet att varna väljarna om användningen av AI i produktionen av innehåll som visas i annonser, och om beslutet inte följs kan kandidaten få sin kandidatregistrering återkallad eller, om de blir vald, kan de förlora deras mandat..

I beslutet nämns också deepfakes, som absolut förbjuder användningen av det, i syfte att stävja produktionen av bedrägligt material med hjälp av politiska kandidaters bild och röst under valkampanjen. Dessutom deepfakeen TSE nämnde begränsningen av s.k chatbots, eller virtuella avatarer, under kontakter mellan kampanjer och människor, både per telefon och över internet.

Tanken med beslutet är att kontrollera och förhindra användningen av dessa tekniker för att skapa falska inspelningar som involverar kandidater och andra auktoritetspersoner under årets valkampanj, där deras användning kan orsaka moralisk skada för offer för bedrägeri och manipulation av väljarnas åsikter . om dem.  

Alexandre de Moraes, nuvarande president för Högre valdomstolen, talade om den nya beslutsamheten och sa att "alla resolutioner är viktiga, men detta är kanske det viktigaste för att garantera väljarnas val- och röstfrihet, och att i dessa val tyvärr er excellens (nämner minister Cármen Lúcia) kommer att behöva bekämpa falska nyheter och digital milis som steroidas av artificiell intelligens".

När det gäller hur den nya beslutsamheten kommer att förstärkas, sade Moraes att TSE kommer att innehålla de modernaste verktygen som finns tillgängliga idag för att bekämpa missbruk av artificiell intelligens och spridningen av vilseledande meddelanden.

"TSE kommer att ha effektiva instrument för att bekämpa snedvridningar i valreklam, hatiska, fascistiska, antidemokratiska tal och användningen av AI för att lägga in något i en persons tal som de inte sa." 

Alexandre de Moraes, ordförande för Högsta valdomstolen

I samband med det nya beslutet slog domstolen fast att sociala nätverk som t.ex Facebook, X (tidigare Twitter), TikTok, bland annat, tillämpa förebyggande åtgärder för att undvika spridning av publikationer med tvivelaktigt innehåll, som innehåller obevisade eller ur sammanhanget fakta, med den uppenbara avsikten att lura allmänheten som använder dessa plattformar. Om denna beslutsamhet inte respekteras och inlägg som innehåller hatretorik och antidemokratiskt innehåll, kommer nätverken att hållas ansvariga och straff kommer att utdömas av TSE.

Hur fungerar deepfake?  

Detta reglerar och förbjuder djupförfalskningar i kommunalvalet 2024. Beslutet syftar till att stävja missbruk av teknik för att skapa falska videor som imiterar kandidater under valkampanjen
Taylor Swift blev offer för deepfakes som involverade explicit innehåll

Som vi redan har sett i fall som spridning av videor med Explicit innehåll som involverar popdivan Taylor Swift, på miljardären Elon Musks plattform, X, och den senaste miljonbedrägeri som drabbats av ett finansbolag i Hong Kongen deepfake har destruktiv potential i händerna på illvilliga människor.

Men för att förstå denna kraft är det värt att ha en snabb förklaring av hur tekniken fungerar. I grund och botten använder den prover av en persons bild och röst, analyserade av en AI, och genererar en databas med densamma. Från det deepfake kan ersätta en persons funktioner med en annan, i realtid.

Trots den vanliga användningen av humoristiska satirer som de som Jimmy Fallon gjorde i hans amerikanska tv-talkshow, där komikern imiterade USA:s tidigare president, Donald Trump, deepfake kan användas för att tillämpa bedrägerier och desinformation.

Om antalet prover räcker är det förutom bilden också möjligt att replikera rösten för identiteten som den filmade personen ersätter i den nya videon. Med förbättringen av tekniken som sker i en svindlande takt, blir potentialen för detta AI-hanterade verktyg, både positiv och negativ, allt större, eftersom resultatet blir mer realistiskt och ännu svårare att spåras och identifieras av offer med potential för digital brott.

Väljarna måste vara uppmärksamma på innehållet 

Ett exempel på den vanliga användningen av deepfake i produktionen av humoristiskt innehåll som involverar stjärnan Tom Cruise. (Video: YouTube)

Med tanke på svårigheten att identifiera dessa fall av identitetsbedrägeri är det upp till oss, väljare som deltar i årets val, att vara försiktig när de konsumerar det innehåll som produceras under kampanjen, som snart träder i kraft i hela landet. 

Det kommer inte att räcka att förlita sig på de åtgärder som vidtagits av TSE att stävja produktionen av material i avsikt att lura dem som i oktober kommer att rösta på de kandidater som kommer att representera oss i kommunfullmäktige eller stadshus. Det kommer att finnas lite oro i minfältet som sändning av reklam från kandidater av tvivelaktig natur kommer att bli.

Trots detta har beslutet av TSE är fortfarande viktigt, eftersom det visar att regeringen är medveten om och erkänner den enorma destruktiva potential som deepfake och teknologier baserade på artificiell intelligens har, med hänsyn till denna nya beslutsamhet. 

källor: stor bokstav, CNN Brasilien e Info pengar

SE MER

Granskats av Glaucon Vital den 28/2/24.

Anmäl dig för att få våra nyheter:

Lämna en kommentar

O seu endereço e não será Publicado. Campos obrigatórios são marcados com *

relaterade inlägg