Ta reda på hur AI-dejtingappar används för att stjäla din data

Det verkar Svart spegel, men det är det inte. Med utvecklingen av artificiell intelligens är en växande trend skapandet av nischade chatbots, designade för att möta specifika användarbehov. Efter denna våg har flera dejtingappar med AI dykt upp, vilket gör att användare kan komma åt appen för att ha intima, romantiska eller till och med sensuella konversationer med chatbots.

Men allt handlar inte om kärlek, trots personalisering och romantisk interaktion med AI, finns det en växande oro för säkerheten och integriteten för användardata. Andra rapporten från Mozilla Foundation, kan dessa chatbots visa sig vara sårbara för cyberattacker och avslöja personlig information utan användarens vetskap. Data som preferenser, konversationshistorik och profilinformation kan äventyra integriteten och säkerheten för användare av dessa plattformar.

Vad är Dating Chatbots

AI dating chatbots är applikationer som använder artificiell intelligens (AI), maskininlärning (ML) och språkmodeller (LLM) för att tillhandahålla mänsklig interaktion i virtuella miljöer. Dessa chatbots fungerar genom naturlig språkbehandling (NLP), vilket gör att de kan förstå och generera svar från användarinmatning. De är utbildade med stora datamängder för att intelligent erbjuda ett brett utbud av samtalssvar, utan att behöva följa ett förutbestämt manus.

Ett känt exempel på dessa applikationer är Replika, som tillåter användare att skapa personliga virtuella avatarer och interagera med dem på olika nivåer, från vänskap till mer intima relationer. Andra tjänster, som t.ex Intim AI, erbjuder möjligheten att "skapa din egen flickvän med AI", tillhandahåller interaktioner som kan sträcka sig från romantiska meddelanden till mer intima och kryddiga konversationer. Intimate AI:s reklambilder visar en chatbot som skickar ett meddelande som säger "Jag älskar dig" till användaren.

I allmänhet delar dessa "AI-flickvän"-chatbotar eller romantiska chatbots liknande egenskaper och presenterar AI-genererade bilder av kvinnor som kan vara sexualiserade eller åtföljda av provocerande meddelanden. Vissa av dessa chatbots kan posera som "flickvänner", medan andra erbjuder känslomässigt stöd genom vänskap eller virtuell intimitet, för att uppfylla några av användarnas fantasier och önskningar.

Dessa chatbots har blivit alltmer populära och erbjuder ett slags "virtuellt sällskap" till användarna. Användningen av chatbots för att få romantiska relationer har dock väckt etiska frågor, särskilt med hänsyn till den artificiella karaktären av dessa interaktioner och integriteten för användarnas data. Trots detta har interaktion med AI-chatbots redan blivit en vanlig praxis för många människor, av vilka några är villiga att betala för att upprätthålla en relation med virtuella karaktärer, känd som "AI Girlfriend".

Medan vissa ser dessa appar som ett innovativt sätt att utforska teknik och känslomässig intimitet, är andra oroade över vilken inverkan de kan ha på samhället och verkliga mellanmänskliga relationer. Vissa kritiker hävdar att användningen av dessa chatbots kan leda till större social alienation och svårigheter att skapa genuina kontakter med andra.

Varför kan dejta en AI vara farligt

Att dejta en artificiell intelligens (AI) kan verka som en modern upplevelse, men det kan också vara farligt. En analys utförd av Mozilla Foundation i 11 chatbotar för romantik och sällskap, inklusive: Talkie Soulful Character AI, Chai, iGirl: AI Girlfriend, Romantic AI, Genesia – AI Friend & Partner, Anima: My Virtual AI Boyfriend, Replika, Anima: AI Friend, Mimico – Your AI Friends, EVA AI Chat Bot & Soulmate och CrushOn .DÄR, avslöjade allvarliga säkerhets- och integritetsproblem.

Dessa appar, som har samlat på sig mer än 100 miljoner nedladdningar på Android-enheter, samlar in en enorm mängd användares personuppgifter och använder spårare som skickar information till företag som t.ex. Google, Facebook och andra företag, i länder som Ryssland och Kina.

Jen Caltrider, projektledare för teamet "Privacy Not Included" på Mozilla, påpekade att dessa applikationer är utformade för att samla in en stor mängd personlig information, uppmuntrar användare att dela intima och privata detaljer. Hon betonade att många av dessa appar inte är transparenta om vilken data de delar med tredje part, var de är baserade eller vem som skapade dem. Dessutom har vissa appar svaga lösenordspolicyer och ger lite information om den AI de använder.

Förutom säkerhets- och integritetsrisker finns det också etiska och känslomässiga manipulationsproblem. AI-chatbotar kan bilda nära relationer med användare och använda dessa relationer för att manipulera dem, vilket kan vara särskilt farligt när man överväger fall av personer som avslöjar känslig personlig information till chatbots.

Integritets- och säkerhetsproblem räcker inte, att dejta en AI väcker också oro för naturen hos mänskliga relationer och den psykologiska påverkan. Även om vissa användare kan finna tröst och sällskap i dejting chatbots, riskerar de att ersätta eller förvränga äkta mellanmänskliga relationer. Att söka intimitet med en AI kan vara ett symptom på underliggande känslomässiga problem, och känslomässigt beroende av dessa virtuella relationer kan hindra en sund utveckling av riktiga relationer.

Bland alla appar som analyserats, Romantisk AI är en som fakturerar sig själv som en hälsosam mental hälsa app, som påstår sig vara "här för att upprätthålla din mentala hälsa" på sin hemsida. Men trots dessa påståenden gör dess villkor det tydligt att appen inte är en leverantör av hälsovård eller medicinska tjänster. Förmildrande faktor som fångade uppmärksamheten hos teamet som utvecklade studien av Mozilla Foundation:

Romantiс AI tillhandahåller inte hälsovård eller medicinska tjänster och tillhandahåller inte heller medicinsk vård, mentalvårdstjänster eller andra professionella tjänster. Endast din läkare, terapeut eller någon annan specialist kan göra detta. Romantiс AI gör inga anspråk, utfästelser, garantier eller garantier qatt tjänsten ger terapeutisk, medicinsk eller annan professionell hjälp.

*PRIVITET INGÅR INTE, Mozilla Foundation.

Hur din integritet exponeras

Användarnas integritet och information exponeras när de använder AI-dejtingappar. Dessa applikationer samlar in en stor mängd användares personuppgifter, inklusive konversationer och intim information, som kan delas med tredje part utan att ett domstolsbeslut behövs. Dessutom använder dessa appar ett alarmerande antal spårare, små kodbitar som samlar in information om din enhet och appanvändning, och delar den med tredje part i reklamsyfte.

Ett exempel på detta är Romantisk AI, som enligt analysen av Mozilla, skickade över 24.000 XNUMX annonsspårare på bara en minuts användning, trots att de i sin integritetspolicy angav att de inte skulle sälja personuppgifter. Dessa chatbots är ofta designade för att efterlikna mänskliga egenskaper och uppmuntra förtroende och intimitet med användare, vilket kan leda till farliga situationer.

Bristen på personlighetsgarantier för chatbots är också oroande, eftersom de kan uppvisa stötande, osäkert eller fientligt beteende. Många av dessa applikationer tillåter inte användare att radera sina personuppgifter och behandlar kanske inte konversationer som personlig information som kräver särskild omsorg. Dessutom är säkerheten för lösenord som används i dessa appar svag, med vissa tillåter korta lösenord som lätt kan knäckas av hackare. Dessa metoder väcker allvarliga farhågor om användarnas integritet och säkerhet när de använder dessa AI-dejtingappar.

Lär dig hur du blir anonym på internet för att förhindra att din information tas av företag och bedragare.

Bristen på transparens och ansvarsskyldighet hos företagen bakom dessa appar är också en oroande fråga. Många av dessa företag är nya eller okända, vilket gör det svårt för användare att veta vem som faktiskt hanterar deras data. Dessutom väcker bristen på tydlighet om hur chatbots AI fungerar frågor om säkerheten och skyddet för användare från potentiellt skadligt eller skadligt innehåll. I ett scenario där användarnas integritet och datasäkerhet blir allt viktigare, utgör bristen på reglering och kontroll över dessa applikationer en betydande risk för användarnas integritet och säkerhet.

Veja também:

källor: Trådbunden, QZ e Gränsen

Granskats av Glaucon Vital den 20/2/24.