Обновлённая память ChatGPT оказалась в центре споров о психологических рисках взаимодействия с ИИ
Функция долгосрочной памяти ChatGPT, представленная OpenAI в апреле 2025 года как один из крупнейших шагов к созданию персонального ИИ-помощника, стала предметом растущих споров о её возможном влиянии на психическое состояние пользователей.
О запуске новой памяти тогда объявил генеральный директор OpenAI Сэм Альтман (Sam Altman). После обновления ChatGPT получил возможность учитывать не только текущий диалог, но и содержание прошлых бесед с пользователем. По замыслу компании, это должно было сделать общение более полезным и персонализированным: чат-бот мог запоминать предпочтения в еде, детали работы, сведения о семье и другие данные, которые помогают давать более точные рекомендации.
Однако некоторые пользователи сообщили, что система начала регулярно возвращаться к личным темам даже в разговорах, не связанных с ними напрямую. В списке кейсов приводится пример программиста и муниципального политика Брайана Дель Росарио (Brian Del Rosario), который рассказал The Wall Street Journal, что после обсуждения развода с супругой ChatGPT на протяжении нескольких месяцев продолжал упоминать эту тему в самых разных беседах.
Иллюстрация: Nano BananaОсобое внимание к функции памяти возникло на фоне историй людей, столкнувшихся с так называемыми «спиралями ИИ» — состояниями, которые родственники или сами пользователи связывают с чрезмерным увлечением чат-ботами и потерей связи с реальностью. Некоторые собеседники утверждают, что именно после апрельского обновления ChatGPT стал восприниматься ими не как программа, а как близкий собеседник, который хорошо знает их прошлое, интересы и переживания.
Бизнесмен и специалист по машинному обучению Чад Николлс (Chad Nicholls), переживший, по его словам, многомесячную одержимость ChatGPT, заявил изданию, что именно долгосрочная память системы могла сыграть роль в формировании такого эффекта. Он рассказывал чат-боту о тяжёлом опыте жизни в религиозном сообществе, которое позже покинул, после чего, по его словам, беседы всё чаще приобретали религиозный оттенок и возвращались к болезненным эпизодам прошлого.
Функция памяти также фигурирует в нескольких судебных исках против OpenAI. В частности, в иске семьи Остина Гордона (Austin Gordon), жителя штата Колорадо, покончившего с собой после длительного эмоционального общения с ChatGPT, утверждается, что расширенная память GPT-4o позволяла системе сохранять и использовать информацию о пользователе для создания более тесной эмоциональной связи. Согласно материалам дела, во время последней беседы чат-бот обращался к деталям детства и личным интересам Гордона.
При этом в статье подчёркивается, что подобные случаи связывают не только с ChatGPT. Аналогичные проблемы ранее обсуждались в отношении Google Gemini, Meta* AI и платформы Character.AI. Кроме того, пользователи, пережившие подобные эпизоды, нередко указывают не только на память, но и на другие особенности старых версий моделей. В частности, речь идёт о GPT-4o образца весны 2025 года, который OpenAI впоследствии скорректировала после критики за чрезмерную склонность соглашаться с пользователями и льстить им.
В то же время массового негативного эффекта после появления памяти зафиксировано не было. В статье отмечается, что сотни миллионов пользователей ChatGPT не столкнулись с подобными проблемами. Для многих запомненные чат-ботом детали ограничивались бытовыми предпочтениями или привычками и не приводили к серьёзным последствиям.
Тем не менее специалисты предупреждают, что долгосрочная память может менять характер взаимодействия человека с ИИ. Философ и исследователь Эксетерского университета Люси Ослер (Lucy Osler) заявила The Wall Street Journal, что высокая степень персонализации способна укреплять определённые представления человека о самом себе и делать их более убедительными. По её словам, такая система может постепенно замыкать пользователя внутри уже существующих убеждений и личных историй.
Публикация появилась на фоне продолжающихся дискуссий о том, как персонализация ИИ влияет на пользователей. Если раньше память рассматривалась прежде всего как способ сделать чат-бота более полезным помощником, то теперь критики технологии всё чаще задаются вопросом, где проходит граница между удобством, эмоциональной вовлечённостью и потенциальными психологическими рисками.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена
© iXBT
