В четверг компания Anthropic, занимающаяся разработкой искусственного интеллекта, предложила приостановить создание самых мощных систем ИИ по всему миру, поскольку новейшие модели начинают демонстрировать признаки того, что они могут выйти из-под контроля человека.
Компания из Сан-Франциско, разрабатывающая семейство моделей искусственного интеллекта Claude, заявила в своем отчете, что глобальное замедление развития передовых технологий в области ИИ «вероятно, будет полезным», но предупредила, что если остановится только одна компания, конкуренты просто вырвутся вперед.
«Мы считаем, что для мира было бы полезно иметь возможность замедлить или временно приостановить разработку передовых технологий искусственного интеллекта, чтобы позволить социальным структурам и исследованиям в области согласования действий идти в ногу с развитием технологий», — говорится в заявлении.
Как заявили в Anthropic, для того, чтобы действительно приостановить работу, необходимо, чтобы несколько крупных компаний, занимающихся искусственным интеллектом, в разных странах — прежде всего в США и Китае — согласились одновременно прекратить разработку, соблюдая правила, которые все могли бы проверить.
«Без глобального механизма координации компаниям и правительствам придется принимать сложные решения в области безопасности в условиях конкурентного и геополитического давления», — говорится в заявлении.
Компания столкнулась с критикой со стороны других участников отрасли, а также чиновников Белого дома, которые утверждают, что ее сосредоточенность на наихудших сценариях преувеличивает риски и представляет собой стратегию замедления конкурентов под прикрытием соображений безопасности.
Тем не менее, Белый дом признал эффективность модели Mythos компании, которая не была доступна широкой публике из-за своих возможностей в области кибербезопасности и в настоящее время используется лишь в небольшом числе проверенных организаций.
Предложение столкнется с серьезными трудностями в Вашингтоне и Силиконовой долине, где американские чиновники и руководители технологических компаний неоднократно заявляли, что любое замедление развития ИИ рискует дать Китаю решающее стратегическое преимущество в том, что многие считают определяющей технологической гонкой столетия.
Однако президент США Дональд Трамп заявил, что во время своего недавнего визита в Пекин он обсуждал возможность сотрудничества с Китаем по вопросам безопасности искусственного интеллекта.
На этой неделе Трамп также подписал указ, который дает правительству 30 дней на проведение предварительной проверки наиболее мощных американских моделей искусственного интеллекта перед их публикацией.
— «Сужение роли человека» —
Компания Anthropic сравнила эту проблему с договорами о контроле над ядерным оружием, но отметила, что справиться с ней будет еще сложнее, поскольку обучение ИИ гораздо легче скрыть, чем ракетную шахту, и соблазн продолжать работу втайне будет огромным.
Компания заявила, что в ближайшие месяцы планирует собрать вместе правительственных чиновников, ученых, правозащитные группы и конкурирующие компании, занимающиеся искусственным интеллектом, чтобы выяснить, как может работать такая система.
Как отмечает Anthropic, призыв к координации действий прозвучал на фоне внутренних данных, свидетельствующих о том, что ИИ уже значительно ускоряет само развитие искусственного интеллекта.
Такое ускорение создает замкнутый цикл обратной связи, который, как предупреждает компания Anthropic, в конечном итоге может привести к тому, что исследователи называют «рекурсивным самосовершенствованием».
В этом и заключается идея системы искусственного интеллекта, которая становится способной, по сути, самостоятельно обучаться и становиться умнее, практически без участия человека.
«Мы еще не достигли цели, и рекурсивное самосовершенствование не является неизбежным», — говорится в докладе, добавляя, что оно может наступить раньше, чем большинство правительств и учреждений к этому готовы.
«Полученные данные свидетельствуют о том, что роль человека сужается на каждом этапе процесса разработки ИИ», — заявила компания.
арп/сла