Индекс
Парес Black Mirror, но это не так. С развитием искусственного интеллекта растущей тенденцией становится создание нишевых чат-ботов, предназначенных для удовлетворения конкретных потребностей пользователей. Вслед за этой волной появилось несколько приложений для знакомств с искусственным интеллектом, которые позволяют пользователям получать доступ к приложению для интимных, романтических или даже чувственных разговоров с чат-ботами.
Но дело не только в любви: несмотря на персонализацию и романтическое взаимодействие с ИИ, растут опасения по поводу безопасности и конфиденциальности пользовательских данных. Второй репортаж от Фонд Mozilla, эти чат-боты могут оказаться уязвимыми для кибератак, раскрывая личную информацию без ведома пользователя. Такие данные, как предпочтения, история разговоров и информация профиля, могут поставить под угрозу конфиденциальность и безопасность пользователей этих платформ.
Что такое чат-боты для знакомств
Чат-боты для знакомств с искусственным интеллектом — это приложения, которые используют искусственный интеллект (ИИ), машинное обучение (ML) и языковые модели (LLM) для обеспечения взаимодействия людей в виртуальных средах. Эти чат-боты работают посредством обработки естественного языка (NLP), что позволяет им понимать и генерировать ответы на основе пользовательского ввода. Их обучают на больших объемах данных разумно предлагать широкий спектр диалоговых ответов без необходимости следовать заранее определенному сценарию.
Известным примером таких приложений является Replika, который позволяет пользователям создавать персонализированные виртуальные аватары и взаимодействовать с ними на разных уровнях: от дружбы до более интимных отношений. Другие услуги, такие как Интимный ИИ, предложите возможность «создать свою собственную девушку с помощью ИИ», обеспечивая взаимодействие, которое может варьироваться от романтических сообщений до более интимных и пикантных разговоров. На рекламных изображениях Intimate AI видно, как чат-бот отправляет пользователю сообщение «Я люблю тебя».
В целом эти чат-боты «подружки с искусственным интеллектом» или романтические чат-боты имеют схожие характеристики: они представляют созданные искусственным интеллектом изображения женщин, которые могут быть сексуализированы или сопровождаться провокационными сообщениями. Некоторые из этих чат-ботов могут изображать из себя «подруг», в то время как другие предлагают эмоциональную поддержку через дружбу или виртуальную близость, исполняя некоторые фантазии и желания пользователей.
Эти чат-боты становятся все более популярными, предлагая пользователям своего рода «виртуальное общение». Однако использование чат-ботов для установления романтических отношений подняло этические вопросы, особенно в отношении искусственного характера этих взаимодействий и конфиденциальности данных пользователей. Несмотря на это, взаимодействие с чат-ботами с искусственным интеллектом уже стало обычной практикой для многих людей, некоторые из которых готовы платить за поддержание отношений с виртуальными персонажами, известными как «Подруга с искусственным интеллектом».
Некоторые рассматривают эти приложения как инновационный способ изучения технологий и эмоциональной близости, другие обеспокоены тем влиянием, которое они могут оказать на общество и реальные межличностные отношения. Некоторые критики утверждают, что использование этих чат-ботов может привести к еще большему социальному отчуждению и трудностям в установлении подлинных связей с другими людьми.
Почему знакомства с ИИ могут быть опасны
Знакомство с искусственным интеллектом (ИИ) может показаться современным опытом, но оно также может быть опасным. Анализ, проведенный Фонд Mozilla в 11 чат-ботах для романтики и общения, в том числе: Talkie Soulful Персонаж AI, Чай, iGirl: AI Girlfriend, Romantic AI, Genesia — AI Friend & Partner, Anima: My Virtual AI Boyfriend, Replika, Anima: AI Friend, Mimico — Your AI Friends, EVA AI Chat Bot & Soulmate и CrushOn .ТАМ, выявил серьезные проблемы с безопасностью и конфиденциальностью.
Эти приложения, которые набрали более 100 миллионов загрузок на устройствах Android, собирают огромное количество личных данных пользователей и используют трекеры, которые отправляют информацию таким компаниям, как Google, Facebook и другие компании в таких странах, как Россия и Китай.
Джен Калтрайдер, руководитель проекта группы «Конфиденциальность не включена» в Mozilla, отметил, что эти приложения предназначены для сбора большого количества личной информации., побуждая пользователей делиться интимными и личными подробностями. Она подчеркнула, что многие из этих приложений непрозрачны в отношении того, какими данными они делятся с третьими сторонами, где они базируются и кто их создал. Кроме того, некоторые приложения имеют слабую политику паролей и предоставляют мало информации об используемом ими искусственном интеллекте.
Помимо рисков безопасности и конфиденциальности, существуют также проблемы этического и эмоционального манипулирования. Чат-боты с искусственным интеллектом могут формировать тесные отношения с пользователями и использовать эти отношения для манипулирования ими, что может быть особенно опасно при рассмотрении случаев, когда люди раскрывают чат-ботам конфиденциальную личную информацию.
Соображений конфиденциальности и безопасности недостаточно: знакомства с ИИ также вызывают обеспокоенность по поводу характера человеческих отношений и их психологического воздействия. Хотя некоторые пользователи могут найти комфорт и общение в чат-ботах для знакомств, они рискуют подменить или исказить подлинные межличностные отношения. Стремление к близости с ИИ может быть симптомом скрытых эмоциональных проблем, а эмоциональная зависимость от этих виртуальных отношений может препятствовать здоровому развитию реальных отношений.
Среди всех проанализированных приложений Романтический ИИ — это приложение, которое позиционирует себя как здоровое приложение для психического здоровья, утверждая на своей домашней странице, что оно «здесь, чтобы поддерживать ваше психическое здоровье». Однако, несмотря на эти претензии, его условия ясно дают понять, что приложение не является поставщиком медицинских или медицинских услуг. Смягчающий фактор, который привлек внимание команды, разработавшей исследование Фонд Mozilla:
Romantiс AI не является поставщиком медицинских или медицинских услуг, а также не предоставляет медицинскую помощь, услуги по охране психического здоровья или другие профессиональные услуги. Это может сделать только ваш врач, терапевт или любой другой специалист. Романтический AI не делает никаких претензий, заявлений, гарантий или гарантий. qчто служба предоставляет терапевтическую, медицинскую или другую профессиональную помощь.
* КОНФИДЕНЦИАЛЬНОСТЬ НЕ ВКЛЮЧЕНА, Mozilla Foundation.
Как раскрывается ваша конфиденциальность
Конфиденциальность и информация пользователей раскрываются при использовании приложений для знакомств с искусственным интеллектом. Эти приложения собирают большое количество персональных данных пользователей, включая разговоры и интимную информацию, которые могут быть переданы третьим лицам без постановления суда. Кроме того, эти приложения используют тревожное количество трекеров — небольших фрагментов кода, которые собирают информацию об использовании вашего устройства и приложения и передают ее третьим лицам в рекламных целях.
Примером этого является Романтический ИИ, что, согласно анализу Mozilla, отправил более 24.000 XNUMX рекламных трекеров всего за одну минуту использования, несмотря на то, что в своей политике конфиденциальности указано, что он не будет продавать личные данные. Эти чат-боты часто созданы для имитации человеческих качеств и поощрения доверия и близости с пользователями, что может привести к опасным ситуациям.
Отсутствие гарантий личности для чат-ботов также вызывает беспокойство, поскольку они могут демонстрировать оскорбительное, небезопасное или враждебное поведение. Многие из этих приложений не позволяют пользователям удалять свои личные данные и не могут рассматривать разговоры как личную информацию, требующую особого ухода. Кроме того, безопасность паролей, используемых в этих приложениях, слаба: в некоторых из них разрешены короткие пароли, которые хакеры могут легко взломать. Такая практика вызывает серьезные опасения по поводу конфиденциальности и безопасности пользователей при использовании этих приложений для знакомств с искусственным интеллектом.
Отсутствие прозрачности и подотчетности компаний, стоящих за этими приложениями, также вызывает тревогу. Многие из этих компаний являются новыми или неизвестными, поэтому пользователям сложно узнать, кто на самом деле управляет их данными. Кроме того, отсутствие ясности в том, как работает ИИ чат-ботов, поднимает вопросы о безопасности и защите пользователей от потенциально вредного или вредоносного контента. В ситуации, когда конфиденциальность пользователей и безопасность данных становятся все более важными, отсутствие регулирования и контроля над этими приложениями представляет собой значительный риск для конфиденциальности и безопасности пользователей.
См. также:
Рассмотрено Главкон Витал от 20.
Узнайте больше о Showmetech
Подпишитесь, чтобы получать наши последние новости по электронной почте.
