Ранее в этом году 23-летний молодой человек без формального математического образования попал в заголовки новостей, заявив, что использовал ChatGPT от OpenAI для решения одной из «проблем Эрдоша» — базы данных сложных гипотез, оставленных венгерским математиком Полем Эрдошем.
Затем, в прошлом месяце, ученые были поражены, когда компания OpenAI заявила, что ее ИИ опроверг гипотезу о «единичном расстоянии», выдвинутую Эрдошем 80 лет назад.
«Это первый случай, когда искусственный интеллект самостоятельно решил важную открытую проблему, имеющую центральное значение для области математики», — хвастались тогда в OpenAI.
Однако вопрос о том, действительно ли передовые модели искусственного интеллекта, лежащие в основе таких инструментов, как ChatGPT, представляют собой значительный скачок в нашей способности решать проблемы, которые десятилетиями ставили математиков в тупик, остается предметом жарких дебатов среди экспертов.
Возможно, самым резким публичным осуждением на сегодняшний день стало новое заявление, подписанное более чем 150 экспертами в области математики со всего мира, в котором правительствам настоятельно рекомендуется не «верить шумихе», когда речь идет о возможностях ИИ решать сложные математические задачи, что развеяло заявления о революции в этой области.
В заявлении, сопровождающем 11-страничную «Лейденскую декларацию об искусственном интеллекте и математике», вице-президент Международного математического союза Ульрике Тильманн заявила, что ИИ «поднимает вопросы, которые нельзя оставлять без внимания».
«Будущее математических исследований должно определяться человеческим суждением, справедливыми и прозрачными методами работы, а также общими ценностями мирового математического сообщества», — сказал Тилльманн.
«В настоящее время у технологической индустрии существует сильная коммерческая заинтересованность в преувеличении возможностей своей продукции», — говорится в заявлении, в котором политикам рекомендуется «консультироваться с экспертами, включая математиков, при принятии политических решений, а не полагаться на пресс-релизы или популярные сообщения о результатах математических расчетов».
Хуже того, модели искусственного интеллекта могут выдавать убедительно звучащие решения, которые на самом деле не выдерживают критики.
«Современные автоматизированные методы могут выдавать правдоподобные, но ненадежные (или даже неверные) аргументы, которые трудно отличить от правильных математических доказательств», — заявила подписавшая заявление Лесли Энн Голдберг, руководитель кафедры компьютерных наук Оксфордского университета. «Это серьезная проблема: исследования в математике (и в математических дисциплинах, таких как теоретическая информатика) почти всегда основываются на предыдущих исследованиях, поэтому исследователям крайне важно знать, что результаты, представленные в литературе, верны».
В заявлении подчеркивалось крайне шаткое положение, в котором оказались многие ученые. Привлечение нового финансирования оказалось сложной задачей, в то время как интерес к ИИ продолжает расти, часто вынуждая их поддерживать эту технологию любой ценой.
«Мы признаем, что промышленность предлагала высокооплачиваемые рабочие места, денежное вознаграждение, вычислительные ресурсы и интеллектуально стимулирующие возможности, которые некоторые математики находили привлекательными», — говорится в документе. «Это происходило в эпоху недостаточного финансирования высшего образования и нестабильной академической занятости».
В документе также отмечалось, что существует множество других причин для введения регулирующего надзора за пределами области математики, в частности, «участие индустрии ИИ в военных и программах массового наблюдения, разработка технологий, способствующих распространению дезинформации и подрывающих демократию, а также экологические издержки».
Короче говоря, это резкое осуждение упорного ажиотажа вокруг ИИ и призыв к ограничению его использования, который отзывается эхом далеко за пределами мира математики. Широкое научное сообщество потрясено потоком статей, в которых активно используется ИИ, что грозит заразить процесс рецензирования иллюзиями.
Это также важное напоминание о том, что модели ИИ обучаются на основе передовых исследований, зачастую без одобрения первоначальных авторов.
«Работы математиков, которые никогда не планировали вносить вклад в развитие ИИ, используются в этих целях без их согласия», — заявил изданию Scientific American Родриго Очигаме, антрополог из Лейденского университета, специализирующийся на ИИ и участвовавший в составлении декларации. «Я считаю, что это крайне тревожная ситуация».
Подробнее об ИИ и математике: Математики заявляют о значительном открытии, сделанном с помощью ChatGPT