Компания Anthropic, крупнейший в мире стартап в области искусственного интеллекта, призвала к глобальному замораживанию разработки ИИ и предупредила, что человечество рискует потерять контроль над этой технологией.
Компания, разработавшая чат-бота Claude, предложила приостановить работу над более мощными системами, если получит гарантии того, что другие поступят так же.
«Если бы была возможность эффективно замедлить развитие этой технологии, чтобы дать себе больше времени на решение ее огромных проблем, мы считаем, что это было бы, вероятно, хорошо», — написали руководители компании.
Они сравнили появление мощных систем искусственного интеллекта с «проблемой контроля над вооружениями» и предупредили, что времени для обуздания этой технологии осталось немного.
Компания Anthropic недавно обогнала разработчика ChatGPT, компанию OpenAI, и стала самой дорогой компанией в мире в сфере искусственного интеллекта с рыночной капитализацией в 965 миллиардов долларов (719 миллиардов фунтов стерлингов). Она отложила выпуск своей самой мощной системы, Mythos, для широкой публики из-за опасений, что она может быть использована для проведения разрушительных кибератак.
В эссе, опубликованном в четверг вечером, Марина Фаваро и Джек Кларк, глава исследовательского подразделения Anthropic и президент компании, заявили, что технология искусственного интеллекта приближается к тому моменту, когда системы начнут развиваться сами по себе.
Они заявили, что этот момент, известный как «рекурсивное самосовершенствование», может вызвать взрывной рост возможностей, но также может означать, что люди окажутся неспособны контролировать системы искусственного интеллекта.
Компания Anthropic позиционирует себя как наиболее приверженная обеспечению безопасности этой технологии в сфере искусственного интеллекта, одновременно совершая научные прорывы, которые, по ее словам, могут привести к созданию опасных систем.
Генеральный директор компании Дарио Амодей заявил, что существует 25-процентная вероятность того, что «все пойдет очень, очень плохо».
В четверг компания заявила: «Если замедление темпов роста позволит наименее осторожным участникам рынка просто наверстать упущенное в технологическом плане, это может сделать всех менее защищенными».
«Мы считаем, что для мира было бы полезно иметь возможность замедлить или временно приостановить разработку передовых технологий искусственного интеллекта, чтобы позволить социальным структурам и исследованиям в области согласования процессов идти в ногу со временем».
Однако в докладе предупреждалось, что координация глобального замораживания будет чрезвычайно сложной задачей, поскольку в нем указывалось на ожесточенную конкуренцию между США и Китаем в области искусственного интеллекта.
«Для существенного замедления или приостановки потребуется согласие нескольких хорошо обеспеченных ресурсами лабораторий, находящихся на переднем крае исследований или вблизи него, в разных странах, которые должны будут прекратить работу на одинаковых условиях», — говорится в документе.
«Это также потребует, чтобы каждый мог подтвердить, что другие действительно остановились… Тренировочные заезды гораздо легче скрыть, чем ракетные шахты».
Г-жа Фаваро и г-н Кларк заявили, что сотрудники Anthropic теперь создают в восемь раз больше кода, чем в период с 2021 по 2025 год, и что ИИ улучшает свои навыки в предложении новых идей и планировании исследований, что, по их словам, является шагом к созданию самоорганизующегося ИИ.
Другие эксперты утверждают, что компания преувеличивает возможности ИИ или создает предупреждения об ИИ, чтобы ввести правила, которые могут нанести вред конкурентам.
Это произошло после масштабной распродажи акций компаний, занимающихся разработкой микрочипов для искусственного интеллекта, после того, как компания Broadcom, производитель полупроводников, разочаровала инвесторов своими прогнозами продаж.
Акции компании упали на 13%, что привело к снижению ее рыночной капитализации примерно на 300 миллиардов долларов, при этом акции других производителей микросхем, таких как Micron, SK Hynix и Arm, также резко упали.
Распродажа вызвала опасения по поводу пузыря на рынке искусственного интеллекта из-за вопросов о спросе на чипы Broadcom.
Попробуйте сегодня же получить полный бесплатный доступ к The Telegraph. Откройте для себя их отмеченный наградами веб-сайт и важное новостное приложение, а также полезные инструменты и экспертные руководства по вопросам финансов, здоровья и отдыха.