Согласно новому исследованию, люди уже через неделю не могут достоверно вспомнить, использовали ли они искусственный интеллект для создания текста.
Исследование, проведенное в Байройтском университете в Германии и Хельсинкском университете имени Аалто в Финляндии, вызывает опасения, что студенты, сотрудники и авторы могут неосознанно выдавать текст, сгенерированный искусственным интеллектом, за свои собственные оригинальные произведения и идеи.
Исследование показало, что просьба к людям вспомнить об участии ИИ в создании контента постфактум вряд ли даст точные результаты, поскольку вероятность правильного воспоминания резко снижается в течение семи дней.
«Рабочие процессы, в которых сочетались человеческий и искусственный интеллект, были особенно подвержены ошибкам — то есть, когда идея исходила от ИИ, а формулировка была выполнена человеком, и наоборот», — сказал Даниэль Бушек, профессор в области мобильных пользовательских интерфейсов в Байройтском университете.
Когда человек изложил идею, первоначально сгенерированную искусственным интеллектом, вероятность правильного запоминания происхождения контента снизилась до 37,7% через семь дней.
И наоборот, когда искусственный интеллект оформил идею человека в письменном виде, вероятность правильного определения этой идеи как собственной через неделю составляла 64%.
Два риска, связанные с пробелами в памяти относительно использования ИИ.
На основании полученных данных исследователи выявили два риска, возникающих из-за пробелов в памяти при использовании ИИ:
-
Люди могут выдавать идеи и тексты, сгенерированные искусственным интеллектом, за свои собственные.
-
И наоборот, люди могут недооценивать свой собственный вклад, ошибочно принимая свою идею за сгенерированную искусственным интеллектом.
Исследователи утверждают, что поэтому полагаться на память человека, вспоминающего использование ИИ, нереалистично, и предлагают более практичный подход — документировать создание контента с самого начала.
В исследовании, опубликованном в апреле, приняли участие 184 человека, которые участвовали в эксперименте, в ходе которого им предлагалось создавать тексты с помощью искусственного интеллекта или без него. Неделю спустя их опросили об источнике идей и о том, как они писали тексты.