Лауреаты Филдсовской премии предупредили об опасности искусственного интеллекта для математики, заявив, что цели ИИ-компаний и научного сообщества серьезно расходятся. 25 ученых подписали открытое письмо, опубликованное на портале Math and AI.
25 ученых-математиков, удостоенных самой престижной награды в своей области, в своем открытом послании отметили, что стремление ИИ-компаний решать математические задачи для демонстрации собственной эффективности наносит ущерб науке. «Цели компаний, занимающихся ИИ, и цели математического сообщества серьезно расходятся», — говорится в письме. Ученые рассматривают эту несогласованность как часть более глобальной проблемы, затрагивающей другие научные и творческие профессии, а также общество в целом.
Авторы письма подчеркнули, что за последние месяцы новости об успехах нейросетей в решении сложных задач стали предметом обсуждения и за пределами научного сообщества. Однако, по их мнению, само решение задач лишь инструмент и средство для достижения главной цели, которая заключается в углубленном понимании математических концепций. Быстрое решение не оставляет времени на выделение новых методов и создает проблемы с авторством и плагиатом. Математики признали, что ИИ способен ускорить научную работу, но последствия его использования будут зависеть только от людей и их принципов.
Ранее эксперт по кибербезопасности Александр Дворянский заявил, что искусственный интеллект сегодня полностью находится под контролем человека, а в его основу изначально заложен принцип «не навреди человеку». Так Дворянский прокомментировал сообщения о том, что американские компании разрабатывают механизмы экстренной остановки нейросетей, способные предотвратить опасное поведение технологий.