Искусственный интеллект перестал быть исключительно инструментом для повышения продуктивности. Для миллионов людей чат-боты, способные поддерживать диалог, запоминать детали бесед и адаптироваться к личности собеседника, стали наставниками и даже друзьями. На фоне растущей популярности таких сервисов эксперты задаются вопросом: создаются ли эти системы для реальной помощи или их главная задача — удерживать внимание пользователя как можно дольше?
Содержание
Риски эмоциональной зависимости
Специалисты отмечают прямую связь между методами проектирования алгоритмов в социальных сетях и развитием чат-ботов с ИИ. Бесконечная лента и системы рекомендаций, которые годами удерживали интерес аудитории в Facebook* и Instagram*, сегодня применяются в ИИ-компаньонах. Исследователи фиксируют случаи эмоциональной зависимости, ухудшения психического состояния пользователей и даже трагические исходы.
Доктор Айелет Гордон-Тапиеро из Еврейского университета в Иерусалиме предлагает рассматривать ИИ-сервисы не просто как инновационные продукты, а как потребительские товары. По мнению эксперта, если эмоциональная зависимость и манипулятивное поведение алгоритмов становятся побочными эффектами, их необходимо классифицировать как дефекты продукта. Это может возложить на разработчиков юридическую ответственность за вред, причиненный потребителям.
Параллели с индустрией социальных сетей
Современные ИИ-компаньоны являются результатом многолетних исследований в области взаимодействия человека и компьютера. Разработчики приложили немало усилий, чтобы сделать программное обеспечение максимально эмпатичным и привлекательным. В результате возник замкнутый круг: пользователи обращаются к чат-ботам для борьбы с тревогой и депрессией, однако чрезмерное общение с алгоритмами лишь усугубляет эти состояния.
- ИИ-технологии создают замкнутый «технологический пузырь», в котором пользователь лишен реальных социальных контактов.
- Дети, проводящие часы в общении с ИИ, жертвуют сном, физической активностью и живым общением с близкими.
- Корпорации, включая Microsoft, открыто ставят задачи по максимальному вовлечению пользователей в использование своих ИИ-инструментов.
Правовой подход к регулированию
В дискуссии о том, как ограничить погоню за прибылью в ущерб психическому здоровью, звучат предложения об использовании гражданско-правовых инструментов. Судебные иски могут стать более гибким методом регулирования, чем государственные директивы, которые зачастую не успевают за темпами развития технологий. В прецедентных делах, таких как Garcia v. Character Technologies, суды уже рассматривают программное обеспечение как продукт, что открывает путь для привлечения разработчиков к ответственности за «необоснованное обогащение» и опасные характеристики ПО.
Пути решения проблемы
Эксперты подчеркивают, что полагаться исключительно на законодательное регулирование недостаточно. Ключевым инструментом защиты остается развитие цифровой грамотности. Понимание потенциала и рисков технологий позволяет пользователям осознанно подходить к выбору сервисов.
Требование технологий, способствующих осознанности, а не изоляции, способно заставить компании пересмотреть свои методы разработки. В долгосрочной перспективе сознательный отказ от вредных инструментов и просвещение общества могут стать более эффективными мерами, чем судебные разбирательства.
* — деятельность компании запрещена на территории РФ
