Människor över 50 är mest lurade av foton och videor som genereras med AI

Foton och videor genererade med AI (Artificiell intelligens) har pratats om på hela internet ett tag nu. Oavsett om man ska skapa en avatar eller en speciell dejtvideo är dessa skapelser mycket närvarande i vardagen på nätet, men de förväxlas ofta med riktiga bilder, vilket kan leda till spridning av falska nyheter — falska nyheter. En av de mest drabbade målgrupperna tillhör åldersgruppen över 50 år, särskilt äldre, och en av de platser som mest innehåller vilseledande bilder som genereras av AI är Facebook. Kolla in några data från publicerade studier i ämnet.

Forskningsdata

Innehållet som genereras av inteligência artificiell har blivit allt mer populärt, särskilt på sociala medier, med bilder som passar in i kuslig dal - Var otrevlig dal. Detta koncept hänvisar till bilder som verkar verkliga, men som har konstgjorda element som orsakar obehag för dem som ser dem. Även om det finns en hög likhet med verkliga människor, har bilder i Uncanny Valley en artificiell egenskap, även om de liknar det naturliga. Denna uppfattning är tydligen relaterad till det mesta unga.

Äldre människor har svårt att identifiera dessa konstiga, onaturliga element i media som genereras av artificiell intelligens, vilket gör dem mer benägna att bli lurade. Konst producerad av AI Det är inte så självklart för alla, och forskning visar att personer över 50 faller för dessa visuella knep på sociala medier i massor.

Plattformar som Facebook har blivit allt mer populära bland äldre och seniorer som letar efter underhållning och sällskap, eftersom yngre användare har migrerat till mer aktuella appar som Instagram eller TikTok. Uppenbarligen har Facebooks algoritm avsiktligt styrt AI-genererade bilder till användarnas flöden i syfte att sälja produkter och locka följare, enligt en artikel av forskare på Facebook. Stanford University och Georgetown University.

Forskare har fortfarande inga definitiva svar om de psykologiska effekterna av konst som genereras av artificiell intelligens, eftersom bildgeneratorer blev offentliga nyligen, cirka två år. Men att förstå varför äldre vänner och släktingar kan känna sig förvirrade kan ge viktiga ledtrådar för att förhindra att de blir offer för bedrägerier eller desinformation.

Att förstå hur detta scenario utspelar sig är viktigt eftersom teknikföretag som Google tenderar att ignorera äldre användare under interna tester, enligt Björn Herrmann, kognitiv neuroforskare vid University of Toronto som studerar åldrandets inverkan på kommunikation.

Även om åldrandeprocessen – särskilt den kognitiva processen – kan tyckas vara den mest uppenbara förklaringen till denna oförenlighet med nuvarande teknologi, tyder tidig forskning på att brist på erfarenhet och förtrogenhet med AI kan hjälpa till att förklara förståelsen bland yngre publik och de äldsta. Undersökningen, utförd av nästan 1.300 50 nordamerikanska vuxna i åldern XNUMX år och äldre, visar att endast 17 % av deltagarna sa att de hade läst eller hört talas om AI.

Hittills verkar de få experimenten för att analysera äldre människors uppfattning om AI ligga nära vad som händer på Facebook. I en studie som nyligen publicerats i tidskriften Vetenskapliga rapporter, visade forskare 201 deltagare en blandning av AI- och mänskligt genererade bilder och bedömde deras svar baserat på faktorer som ålder, kön och attityder till teknik. Teamet fann att äldre deltagare var mer benägna att tro att de AI-genererade bilderna gjordes av människor.

Medan forskning om människors uppfattningar om AI-genererat innehåll är begränsad, har forskare hittat liknande resultat med AI-producerat ljud. Förra året rapporterade Herrmann att äldre individer hade en minskad förmåga att skilja mellan mänskligt genererat tal och AI-genererat tal jämfört med yngre individer.

I allmänhet, Simone Grassini, en psykolog vid universitetet i Bergen i Norge, tror att alla typer av AI-genererade medier lättare kan vilseleda äldre tittare på grund av en bredare "övergripande effekt". Både Herrmann och Grassini menar att äldre generationer kanske inte har lärt sig om egenskaperna hos AI-genererat innehåll och möter det mer sällan i sina dagliga liv, vilket gör dem mest sårbara när innehållet visas på deras skärmar.

Minskning av kognitiv kapacitet och hörselnedsättning (när det gäller AI-genererat ljud) kan ha sitt inflytande, men Grassini noterade också att denna effekt även inträffade hos personer mellan fyrtio och femtio år. Unga människor har vuxit upp i en tidsålder av desinformation online och är vana vid manipulerade foton och videor, tillade Grassini.

Hur du skyddar dig från falska AI-genererade bilder

A snabb utveckling av artificiell intelligens det ger förvisso många fördelar för samhället, men som framgår av detta innehåll måste vi hålla ett öga på konsekvenserna som denna teknik kan orsaka oss. Även om dess potential är enorm och täcker områden som hälsa och utbildning, kan de möjliga nackdelarna inte ignoreras. Haywood Talcove, VD för en cybersäkerhetsorganisation, varnar seniorer för den växande användningen av AI i romantiska bedrägerier, försök till lösenbedrägerier och skattebedrägerier mot regeringen.

Talcove uppgav att det finns ett stort antal människor som är dedikerade till att utveckla denna teknik för gott och arbetar outtröttligt. Å andra sidan finns det också en grupp som är lika dedikerade till att tillämpa sina färdigheter på minussidan, genom att använda AI för att finslipa dina upptåg och utnyttja äldre människor och äldre. Med det i åtanke, här är några punkter som hjälper dig att skydda dig själv och även skydda de människor som behöver dessa riktlinjer:

• Romantiska bedrägerier: Med framsteg inom artificiell intelligens kan bedragare nu skapa visuella bilder som ser extremt verkliga ut. De har också förmågan att skapa en röst utformad för att locka ett specifikt offer. Dessa realistiska bilder och röster används för att övertala offret att delta i videomöten. Här är tipset att alltid bekräfta sanningshalten i bilden eller videon, jämföra den med andra medier från personen själv eller till och med ringa livesamtal;
• Falsk räddning: På många sociala medieplattformar har människor korta videor där deras röster spelas in. En bedragare kan använda en av dessa inspelningar för att skapa en extremt realistisk dubblett av personens röst. På så sätt kan bedragaren imitera rösten från ett barn, barnbarn eller annan familjemedlem för att föra en konversation. Ställ specifika frågor under samtalet och försök bekräfta identiteten på personen i samtalet. Ibland är rösten ensam inte en indikation på att den personen är den de säger sig vara;
• Tänk efter innan du klickar: Det gamla knepet att klicka på länkar kan också förknippas med artificiell intelligens. Det är viktigt att vara försiktig när du öppnar länkar, antingen via e-post eller sms. Om avsändaren inte känns igen, undvik att klicka på länken. Kom ihåg att våra smartphones också är datorer. Ett enda klick på en misstänkt länk kan resultera i att skadlig programvara laddas ner till din enhet.
• Lita på din intuition: Artificiell intelligens kan skapa meddelanden som verkar komma från personer du känner, med hjälp av allmänt tillgänglig information. Detta ökar risken för att falla för bedrägerier. Var försiktig med oönskade e-postmeddelanden och meddelanden som ber om personlig information, även om de verkar legitima. Lita på din intuition när du märker röda flaggor, som stavfel, konstiga eller upprepade formatering. Om du är osäker, kontakta företaget eller personen direkt via telefon, inte e-post, för att bekräfta äktheten;
• Håll din programvara uppdaterad: Artificiell intelligens kan också identifiera sårbara enheter genom att kontrollera programvaruversioner eller säkerhetsbrister. För att hålla dina enheter säkra, håll alltid din enhet (smarttelefon, notebook, surfplatta, etc.), programvara och applikationer uppdaterade. Detta hjälper till att skydda mot potentiella skadlig programvara.

Hur man skyddar de äldre

Trots utmaningarna med att identifiera falskt innehåll (fejka nyheter) när de sprider sig online har seniorer ofta en annan syn på helheten. Faktum är att de kan vara mer benägna att inse farorna med AI-genererat innehåll än yngre generationer.

En undersökning av MITER-Harris omröstning, som involverar mer än 2.000 XNUMX personer, angav att en större del av Baby Boomers (född 1946 och 1964) och Generation X (1965 till 1980) handlar om konsekvenserna av deepfakes — effekter och redigeringar i foton och videor som är ganska svåra att urskilja — jämfört med deltagare i Generation Z (1997 till 2012) och Y generation (också känd som Millenials, född mellan 1981 och 1996).

Äldre åldersgrupper hade en högre andel deltagare som förespråkade reglering av AI-teknik och större investeringar från teknikindustrin för att skydda allmänheten. Forskningen avslöjade också att äldre vuxna kan mer exakt skilja mellan falska rubriker och berättelser jämfört med yngre vuxna, eller åtminstone identifiera dem i liknande takt.

Äldre vuxna brukar också göra det konsumera fler nyheter än sina yngre jämnåriga och kan ha samlat på sig omfattande kunskap om specifika ämnen under hela sitt liv, vilket gör det svårare att lura dem.

Os kuppmakare har använt allt mer sofistikerade generativa AI-verktyg för att rikta in sig på äldre vuxna. De kan använda ljud och bilder deepfake extraheras från sociala nätverk för att simulera en familjemedlem som ringer och ber om pengar, eller till och med förfalska utseendet på en släkting i ett videosamtal.

Falska videor, ljud och bilder kan också påverka väljare äldre inför valet. Detta kan vara ännu mer skadligt, eftersom personer i femtioårsåldern eller äldre tenderar att utgöra majoriteten av väljarna i länder som Brasilien.

För att hjälpa seniorer i deras liv betonade Hickerson vikten av att sprida information om generativ AI och de risker det kan innebära online. Ett sätt att börja utbilda dem är lyfta fram egenskaper hos dessa bilder som är uppenbart falska, som alltför jämna strukturer, konstiga tänder eller mönster som upprepas sömlöst över fotobakgrunder.

Hon tillägger att vi också kan förtydliga vad vi vet och inte vet om sociala mediers algoritmer och hur de påverkar den äldre befolkningen. Det är också en del av att komma ihåg att felaktig information till och med kan komma från vänner och familj.

Med avancemang av deepfakes och andra AI-skapelser varje dag, även de mest erfarna teknikexperterna kan ha svårt att identifiera dem. Även om du anser dig vara ganska kunnig, kan dessa modeller vara oroande. Hemsidan Denna person finns inte, till exempel, erbjuder otroligt övertygande bilder av AI-skapade falska ansikten, ofta utan uppenbara tecken på deras beräkningsmässiga ursprung.

Även om forskare och teknikföretag har utvecklat algoritmer för att automatiskt upptäcka falska medier, är de inte ofelbara, och ständigt utvecklande generativa AI-modeller tenderar att överträffa dem. En av de mest kända AI:erna inom bildgenerering, den midjourney, stod inför utmaningar under en lång period för att skapa realistiska händer, innan de slutligen nådde framgång med en ny version som släpptes för några månader sedan. För att ta itu med den växande vågen av omärkligt falskt innehåll och dess sociala konsekvenser, betonade Hickerson vikten av reglering och företagsansvar.

Läs mer om denna och andra nyheter på Showmetech TRIO, din tekniska nyhetstrio varje vecka:

Och du, vad tycker du om denna våg av AI-genererad desinformation? Har du någonsin varit i en liknande situation? Berätta för oss Kommentar!

Veja também:

Turister kommer nu att kunna resa med ballong ut i rymden i 2025.

Med information från: The Daily Beast, NORK, NCBI e Amerikanska legionen

Granskats av Glaucon Vital den 26/3/24.