Компания OpenAI представила масштабное обновление системы памяти ChatGPT под названием Dreaming V3. Теперь чат-бот не просто сохраняет отдельные факты, предоставленные пользователем, но и самостоятельно формирует подробный профиль на основе всей истории переписки. Несмотря на заявления разработчиков о повышении эффективности, эксперты указывают на серьезные риски: использование устаревших данных и склонность нейросети к неверным обобщениям могут серьезно исказить результаты работы.
Содержание
От списка фактов к глубокому анализу
Функция памяти была впервые представлена в 2024 году. Изначально она представляла собой простой список утверждений, к которым ИИ мог обращаться в будущем. К 2026 году технология эволюционировала в сложную систему синтеза данных, которая работает в фоновом режиме, анализируя не только прямые инструкции, но и скрытый контекст, предпочтения и долгосрочные проекты пользователя.
Согласно данным OpenAI, эффективность системы значительно выросла по сравнению с ранними версиями:
- успешность выполнения задач по поиску фактов увеличилась с 41% до 82%;
- точность сохранения контекста во времени выросла с 9% до 75%;
- соблюдение пользовательских предпочтений улучшилось с 31% до 71%.
При этом компании удалось снизить вычислительные затраты на постоянный анализ данных в пять раз. Это позволило сделать функцию доступной не только для платных подписчиков уровней Plus и Pro, но и для пользователей бесплатной версии.
Риски «галлюцинаций» и устаревшей информации
Несмотря на технологический прорыв, обозреватели отмечают существенные недостатки системы Dreaming V3. Главная проблема заключается в том, что нейросеть склонна сохранять информацию, которая была актуальна лишь в рамках одной беседы несколько лет назад. Например, в памяти могут остаться данные о старом программном обеспечении или экспериментальных настройках оборудования, которые пользователь давно не использует.
В ходе тестирования было замечено, что ChatGPT может делать ошибочные выводы. В одном из примеров чат-бот утверждал, что пользователь использует систему умного дома Home Assistant для мониторинга розеток, хотя на самом деле такая система никогда не устанавливалась. ИИ синтезировал этот вывод на основе разрозненных упоминаний различных гаджетов в прошлых чатах.
В ответ на запрос редакции представители OpenAI пояснили, что обновленная память — это скорее «высокоуровневое резюме», а не полный инвентарь фактов. По словам компании, это сделано для того, чтобы пользователю было проще просматривать и корректировать свой профиль, однако это не гарантирует точности каждой детали в сложном технологическом контексте.
Проблемы конфиденциальности и управления данными
Управление памятью ChatGPT осуществляется через настройки в разделе «Персонализация». Однако эксперты подчеркивают, что простое отключение функции не решает проблему полностью.
- Отключение памяти не удаляет уже накопленные данные и историю чатов.
- Для полной очистки «сознания» ИИ необходимо вручную удалять конкретные факты из интерфейса управления или полностью стирать историю переписки.
- Существуют исключения для протоколов безопасности: в ситуациях с высоким риском ChatGPT может сохранять часть контекста для соблюдения правил безопасности, даже если персонализация отключена.
Особую тревогу вызывает то, что ИИ начинает фильтровать информацию через призму созданного им «досье». Существует риск, что нейросеть будет скрывать определенные данные или менять формат подачи ответов, основываясь на своем представлении о том, что интересно или полезно пользователю. Это создает когнитивную нагрузку: человеку приходится постоянно проверять, не является ли ответ предвзятым из-за накопленного ИИ «опыта».
Искусственный интеллект и социальные сети
Разработчики и эксперты продолжают обсуждать влияние алгоритмов на повседневную жизнь. За развитием проектов OpenAI и других технологических гигантов можно следить в различных каналах. Напомним, что официальные страницы многих ИТ-компаний и их руководителей представлены на платформах Meta*, включая Facebook* и Instagram*. Также обновления публикуются в X (бывший Twitter) и на YouTube.
* — деятельность компании запрещена на территории РФ
