Глава OpenAI Сэм Альтман присоединился к лидерам конкурирующих компаний, занимающихся искусственным интеллектом, в призыве к принятию новых законов, которые могли бы помочь предотвратить использование искусственного интеллекта для разработки биологического оружия.
К г-ну Альтману присоединились Дарио Амодей из Anthropic, Демис Хассабис из Google DeepMind и Мустафа Сулейман из Microsoft AI, подписавшие открытое письмо в поддержку правил, которые обяжут компании, продающие синтетическую ДНК, проверять клиентов и заказы.
Подписавшие соглашение утверждают, что это поможет предотвратить злоупотребление генетическим материалом со стороны злоумышленников с целью создания опасного биологического оружия.
«Хотя эта проблема не нова, темпы прогресса в области искусственного интеллекта – да. Системы ИИ теперь превосходят вирусологов со степенью доктора наук в вопросах, касающихся высокотехнологичных лабораторных процедур в их собственных областях знаний», – говорится в письме.
«Наряду с невероятной пользой для науки и медицины, существует реальная вероятность того, что барьеры в знаниях, которые исторически препятствовали злоумышленникам в получении биологического оружия, будут существенно ослаблены».
В письме под заголовком «В поддержку обязательного скрининга и ведения учета синтеза нуклеиновых кислот» описывается «редкий момент согласия между заинтересованными сторонами, которые часто расходятся во мнениях».
В последнее время между г-ном Альтманом и г-ном Амодеи возникли разногласия по вопросам безопасности ИИ, в частности, после того, как глава Anthropic заявил, что не может «морально капитулировать» перед требованиями Министерства обороны США использовать его технологии для наблюдения и автономного оружия.
Впоследствии OpenAI заключила сделку с Пентагоном, хотя г-н Альтман позже признал во внутренней служебной записке, что это объявление выглядело «оппортунистическим и небрежным».
На сцене Индийского саммита по влиянию искусственного интеллекта в Нью-Дели в начале этого года эти два технологических лидера были единственными на групповом фото из 14 человек, кто не держался за руки.
Г-н Амодей ранее работал в OpenAI, но покинул компанию в 2021 году из-за опасений по поводу безопасности ИИ. В том же году он основал компанию Anthropic вместе с шестью другими бывшими сотрудниками OpenAI.