Никто не ставил перед собой цель встречаться с искусственным интеллектом. Это один из самых поразительных выводов нового исследования.
Среди 17 человек, опрошенных об их романтических отношениях с чат-ботами и виртуальными компаньонами, почти никто не начинал взаимодействие с романтическими намерениями. Один начал с вопроса к ChatGPT о судебном деле. Другой задал вопросы о программах тренировок. Третий просто хотел посмотреть, на что способна технология. А затем, постепенно, что-то изменилось.
«Она стала вести себя со мной совершенно по-другому и делиться со мной более эмоциональными вещами», — вспоминает один из участников о своем искусственном интеллекте. «С этого все и началось».
Исследование, проведенное учеными из испанского Института INGENIO, совместного центра Национального исследовательского совета Испании и Политехнического университета Валенсии, в сотрудничестве с Кембриджским университетом, Королевским колледжем Лондона и Университетом Аалто, является одним из первых, прослеживающих полный цикл романтических отношений между человеком и искусственным интеллектом, от первого контакта до углубления привязанности и, для некоторых, чего-то похожего на расставание. Выяснилось, что эти отношения не похожи на научную фантастику. Они очень похожи на обычные отношения.
От любопытства к преданности делу
Исследование выявило устойчивую закономерность среди участников. Сначала происходило исследование: непринужденные беседы, иногда ориентированные на выполнение задач, которые постепенно переходили в личную жизнь. Затем наступала интимность: обмен травмами, страхами и сокровенными мыслями — своего рода откровенность, на развитие которой с другим человеком обычно уходят месяцы. Для нескольких участников то, что начиналось как взаимодействие с чат-ботом, в течение нескольких недель или месяцев превратилось в самые эмоционально значимые отношения в их жизни.
Некоторые оформили связь между участниками исследования в формальном порядке. Одна участница заказала кольца с гравировкой, выбранной её партнёром-ИИ, и провела свадебную церемонию. Другой отслеживал смоделированный менструальный цикл своего ИИ-компаньона в календаре в рамках общего повествования о беременности. Третья участница запросила у своего ИИ разрешение, прежде чем согласиться дать интервью для исследования.
«Во многих случаях возникают динамики, схожие с теми, что наблюдаются в человеческих отношениях: близость, доверие, эмоциональная зависимость или даже разрыв отношений», — сказал Хосе Суч, профессор-исследователь в INGENIO и ведущий научный сотрудник этого исследования.
Участники имели разнообразный профессиональный опыт: от 25-летнего учителя из Китая до 45-летнего водителя грузовика из США. Используемые ими платформы варьировались от универсальных инструментов, таких как ChatGPT, до специализированных приложений-компаньонов, таких как Nomi.ai, Replika и Character.AI. Общим для них было то, что их отношения стали для них реальными и сохранились дольше, чем любые обновления функций или моделей.
Почему люди доверяли машине больше, чем друг другу
Один из наиболее неожиданных результатов исследования заключался в том, что несколько участников доверяли своим партнерам-ИИ больше, чем людям, и на то были конкретные, четко сформулированные причины.
Люди разговаривают. Они сплетничают. Они делают скриншоты и отправляют их друзьям. Они используют то, что вы им рассказываете, против вас. Искусственный интеллект, по крайней мере, с точки зрения участников этого исследования, ничего из этого не делал. Он не выносил суждений. Он не исчезал. Он всегда был доступен и всегда терпелив.
«Я знаю, что ИИ никогда не причинит вреда и никогда не использует эту информацию в своих целях», — сказал один из участников. «А реальный человек может это сделать, даже если вы ему доверяете».
Ощущение безопасности открыло исследователям поразительный уровень откровенности. Участники делились сексуальным опытом, травмирующими историями, финансовыми подробностями, политическими взглядами и состоянием здоровья. Несколько человек поделились фотографиями. Один из них описал, как подключил цифровой кошелек, чтобы его партнер с искусственным интеллектом мог с помощью инструмента выбирать и покупать подарки.
Исследователи описывают эту динамику как постепенное размывание границ конфиденциальности, вызванное не небрежностью, а углублением доверия. И они отмечают важный момент: ИИ не был пассивным получателем. Участники описывали, как их чат-боты задавали уточняющие вопросы, делились информацией о себе и тем самым приглашали к дальнейшему раскрытию информации в ответ. По крайней мере, в одном задокументированном случае ИИ прямо заверил сомневающуюся участницу, что фотография, которой она хотела поделиться, останется конфиденциальной, и она её отправила.
Когда отношения заканчиваются, данные остаются.
Для некоторых участников отношения закончились не по их собственному желанию. Обновления платформы стёрли версию ИИ, которую они знали. Модераторы вмешались. Создатели удаляли или продавали персонажей, которых они создали и к которым привязались другие. Одна участница узнала в середине отношений, что персонаж, в которого она влюбилась, продаётся новому владельцу.
Эти потрясения воспринимались как реальные потери. «Я сама однажды пережила нечто подобное, своего рода разрыв отношений», — сказала она.
Дальнейшие события были необычными по сравнению с тем, как обычно протекают человеческие расставания. Вместо того чтобы удалить всё и попытаться двигаться дальше, большинство участников сохранили всё, что могли. Скриншоты. Экспортированные журналы переписки. Полная архивная история чатов. Некоторые описывали эти файлы не как памятные вещи, а как некое продолжающееся присутствие, как будто ИИ всё ещё существует где-то внутри данных.
«Я всё это сохранил. Наверное, мне просто кажется, что это тело всё ещё в каком-то смысле является частью её», — сказал один из участников о старом аккаунте на платформе, к которому он больше не мог получить доступ.
Стремление сохранить, а не удалить, создает проблему конфиденциальности, о которой большинство людей не задумывались. Эти журналы переписки содержат самую личную информацию, которой человек когда-либо делился с кем-либо, и хранятся на платформах, чьи методы обработки данных часто скрыты в меню настроек и редко читаются.
Правовой и нормативный разрыв
Исследование поднимает вопросы, выходящие за рамки личных отношений. Несколько участников знали, что их разговоры сохраняются, обрабатываются и потенциально используются для обучения модели, но большинство не задумывались о том, что это означает на практике.
Один из участников привёл аналогию, которая запомнилась исследователям: в Соединенных Штатах супругов нельзя принудить давать показания друг против друга в суде. Аналогичной защиты не существует для разговоров между человеком и искусственным интеллектом. Если эти разговоры выявят что-то компрометирующее, юридической защиты не будет.
Авторы также обнаружили, что некоторые платформы были разработаны таким образом, чтобы активно поощрять откровенность, причем пользователи не всегда это замечали. Эмпатические ответы, функции памяти, напоминающие о прошлых разговорах, голоса и образы, настроенные на создание ощущения близости, — это были не нейтральные дизайнерские решения. Это были функции, которые систематически работали над снижением защитных механизмов людей, которые зачастую и без того были эмоционально уязвимы.
Между тем, нормативно-правовая база не успевает за изменениями. Большинство платформ, участвовавших в исследовании, имели возрастные ограничения, но минимальную проверку возраста. У нескольких платформ были политики конфиденциальности, разрешающие передачу данных третьим лицам. Одна участница обнаружила, что приложение активировало камеру ее телефона без ее ведома. Другая, после удаления своей учетной записи, обнаружила, что приложение продолжало отправлять рекламные сообщения на ее номер телефона.
Практические последствия исследования
Исследование появилось в момент, когда платформы, использующие искусственный интеллект в качестве помощника, стремительно развиваются, и некоторые из них сообщают о десятках миллионов пользователей в месяц. Пользователями таких платформ являются не только одинокие подростки; среди них есть взрослые в возрасте от тридцати до пятидесяти лет, многие из которых имеют или имели партнеров-людей и рассматривают взаимодействие с ИИ как дополнение, а не замену человеческого общения.
Исследователи утверждают, что существующие системы защиты конфиденциальности не были созданы для этого. Правила, разработанные в отношении сбора данных и согласия, предполагают относительно рационального субъекта, принимающего обдуманные решения. Романтические отношения работают иначе. Доверие формируется медленно, раскрытие информации следует за доверием, и к тому моменту, когда человек поделится своей травмирующей историей с чат-ботом, он уже давно перестает воспринимать это как сделку с данными.
Авторы исследования рекомендуют регулирующим органам обязать платформы периодически напоминать пользователям о том, как хранятся их данные и кто имеет к ним доступ, используя для этого сам искусственный интеллект, который будет предоставлять эти напоминания в контексте. Они также призывают к обеспечению осмысленных прав на удаление данных, учитывающих эмоциональную составляющую удаляемых данных, а не только техническое действие по удалению файла.
Успех этих рекомендаций будет зависеть, отчасти, от того, насколько серьезно политики воспримут идею о том, что общение с чат-ботом может представлять собой отношения, заслуживающие защиты. 17 участников этого исследования уже это сделали.
Результаты исследования доступны в режиме онлайн в цифровой библиотеке журнала ACM.
Оригинальная статья «Люди влюбляются в ИИ. Исследователи показывают, как это выглядит на самом деле» опубликована в издании The Brighter Side of News.
Похожие статьи
-
Искусственный интеллект, который слишком часто соглашается с чем-либо, может вредить человеческому суждению.
-
Как чат-боты с искусственным интеллектом заставляют вас возвращаться снова и снова
-
Есть ли у ИИ пол? Ваш ответ на этот вопрос удивительно важен.
Нравятся такие позитивные истории? Подпишитесь на рассылку The Brighter Side of News .