Знаете это неприятное чувство, когда ChatGPT решает сложную задачу, но вы не можете понять ход его рассуждений? Математики испытывают нечто подобное — только на кону стоит сама основа научной достоверности. В новом документе, называемом Лейденской декларацией об искусственном интеллекте и математике, утверждается, что быстрое внедрение ИИ в математические исследования угрожает подорвать основные ценности этой дисциплины: строгие доказательства, прозрачные рассуждения и понимание человеком.
Академический эквивалент предупредительного выстрела
Шестнадцать математиков подготовили консенсусный документ, который теперь поддерживается более чем 130 исследователями и Международным математическим союзом .
Заявление стало результатом сентябрьского семинара в Нидерландах, где математики в течение нескольких месяцев прорабатывали каждую деталь, пока не достигли полного консенсуса. «Мы прошли через это трудным путем», — объясняет Родриго Очигаме, антрополог, изучающий искусственный интеллект, который участвовал в этом процессе. Одобрение Международного математического союза свидетельствует о том, что это не маргинальная тревога, а обеспокоенность со стороны основного математического сообщества.
Проблема «черного ящика» затрагивает чистую математику.
Теперь системы искусственного интеллекта могут генерировать математические доказательства, которые людям сложно проверить или понять.
Вот тут-то и начинается тревожная ситуация: передовые модели ИИ выдают все более сложные математические аргументы, которые экспертам сложно проверить. В отличие от калькулятора, демонстрирующего ход вычислений, эти системы выдают сложные доказательства, основанные на внутренних процессах, которые мы не до конца понимаем. Дэниел Литт из Университета Торонто предупреждает о «спешке объявлять результаты» от стартапов в области ИИ, чьи выводы «в основном верны, но не очень интересны», — однако их маркетинговая стратегия говорит об обратном.
Проблема атрибуции гораздо глубже. Системы искусственного интеллекта обучаются на arXiv , открытом репозитории, где математики делятся препринтами, а затем генерируют результаты без четких ссылок. Это как если бы у вас был блестящий студент, который усвоил домашнее задание всех, но не может объяснить, какие идеи откуда взялись.
Предложенные меры направлены на весь трубопровод.
Математики выступают за обязательную прозрачность в отношении ИИ и за финансируемые из государственного бюджета альтернативы корпоративным инструментам.
Предложенные в декларации решения на удивление конкретны:
-
Обязательное раскрытие информации об использовании ИИ в исследованиях.
-
Более строгая система рецензирования, способная обрабатывать работу с использованием ИИ.
-
Инвестиции в государственные вычислительные ресурсы для противодействия растущему влиянию крупных технологических компаний на математические открытия.
«Математика — это и всегда должна оставаться глубоко человеческим занятием», — написала вице-президент IMU Ульрике Тилльманн. Это высказывание отражает главное противоречие декларации: необходимо использовать возможности ИИ, сохраняя при этом человеческое понимание и доверие общества.
Это не математический луддизм — это признание того, что когда основы научной достоверности становятся непрозрачными, всё, что на них построено, становится более шатким. Шифрование вашего смартфона, ваша GPS-навигация, алгоритмы, управляющие современными финансами — всё это основано на математических доказательствах. Если математики не могут доверять целостности своей собственной области, эта неопределенность распространяется повсюду.
От самых крутых автомобилей до незаменимых гаджетов — ежедневная рассылка GadgetReview держит вас в курсе событий. Подпишитесь — это весело, быстро и бесплатно.