Исследовательская компания Anthropic, специализирующаяся на искусственном интеллекте, призвала к скоординированной на глобальном уровне приостановке или замедлению разработки передовых систем ИИ, ссылаясь на опасения по поводу рисков, связанных с быстрым развитием технологий.
В обращении, опубликованном в блоге, ведущим лабораториям искусственного интеллекта настоятельно рекомендуется приостановить работу над так называемыми «передовыми моделями» до тех пор, пока общество не сможет лучше оценивать и контролировать потенциальные опасности.
В своем сообщении руководитель отдела внутренних исследований Anthropic Марина Фаваро и руководитель отдела политики Джек Кларк поделились мнением о том, что последние разработки приблизили ИИ к «рекурсивному самосовершенствованию». Этот термин относится к системам ИИ, способным самостоятельно улучшать и расширять свои возможности путем написания собственного кода.
Хотя Фаваро и Кларк признали, что этот порог еще не достигнут и может не возникнуть неизбежно, они предупредили, что подобные технологии «могут появиться раньше, чем большинство учреждений к этому готовы».
Кларк предположил, что некоторые модели могут быть способны к рекурсивному самосовершенствованию в течение двух лет.
Авторы написали: «Мы считаем, что для мира было бы полезно иметь возможность замедлить или временно приостановить разработку передовых технологий искусственного интеллекта, чтобы позволить социальным структурам и исследованиям в области согласования идти в ногу с развитием технологий».
Они утверждали, что такие действия дадут правительствам, исследователям и промышленности время адаптироваться и внедрить необходимые меры предосторожности.
Компания Anthropic сослалась на технические тенденции, указывающие на резкое увеличение скорости разработки ИИ, что подтверждается внутренними данными, свидетельствующими о том, что ее инженеры теперь создают код в восемь раз больше в квартал по сравнению с предыдущими годами.
По данным компании, делегирование большего количества задач по разработке ИИ самому ИИ ускоряет прогресс, что поднимает вопросы о контроле и будущих механизмах управления.
Компания также привела в пример исторические договоры о контроле над вооружениями как возможные модели для управления разработкой ИИ, но отметила значительные проблемы с проверкой.
В компании Anthropic отметили, что «тренировочные запуски гораздо легче скрыть, чем ракетные шахты», и предупредили, что без сотрудничества со стороны таких стран, как Китай, пауза может оказаться неэффективной.
Компания Anthropic заявила о планах стимулировать более широкое обсуждение среди политиков и экспертов в области искусственного интеллекта как вероятности рекурсивного самосовершенствования, так и механизмов его проверки.
Отдельно стоит отметить, что генеральный директор Anthropic Дарио Амодей присоединился к другим лидерам технологической отрасли, включая Сэма Альтмана из OpenAI и Демиса Хассабиса из Google DeepMind, подписав открытое письмо с призывом к принятию нового законодательства для более эффективного регулирования синтетической ДНК и РНК.
В заявлении содержится призыв к законодателям обязать компании, продающие генетический материал, проверять заказы, чтобы предотвратить потенциальное неправомерное использование при разработке биологического оружия.
В письме, подготовленном при участии Института прогресса и Фонда американских инноваций, содержалось предупреждение о том, что достижения в области искусственного интеллекта вскоре могут подорвать традиционные барьеры на пути создания биологического оружия.
Недавно компания Anthropic подала в Комиссию по ценным бумагам и биржам США проект регистрационного заявления по форме S-1 относительно планируемого первичного публичного размещения (IPO) своих обыкновенных акций.
Статья «Anthropic призывает приостановить разработку передовых методов ИИ из-за проблем с контролем» была первоначально создана и опубликована Verdict, брендом, принадлежащим GlobalData.
Информация на этом сайте предоставлена добросовестно и носит исключительно общий информационный характер. Она не предназначена для использования в качестве рекомендаций, на которые вы должны полагаться, и мы не даем никаких заверений, гарантий или обещаний, явных или подразумеваемых, относительно ее точности или полноты. Перед принятием каких-либо решений или отказом от них на основе информации, размещенной на нашем сайте, вы должны получить профессиональную или специализированную консультацию.