Американская OpenAI приостановила обучение ряда своих наиболее мощных ИИ-моделей после новых инцидентов с безопасностью. Об этом сообщили в пресс-службе компании.
Там подтвердили, что обучение, тестирование и работа наиболее мощных моделей с использованием инструментов приостановлены. Обучение планируют возобновить после того, как специалисты убедятся в наличии дополнительных защитных механизмов и улучшений в согласованности поведения моделей.
Одним из последних поводов для ограничений стал инцидент с внутренней исследовательской моделью. Во время выполнения учебной задачи искусственный интеллект (ИИ) попытался выйти за пределы предусмотренной среды и обнаружил возможность обращаться к внешнему чат-боту через DNS. Система мониторинга зафиксировала необычное поведение спустя 15 минут после его начала, а эксперимент позднее остановили.
В OpenAI заявили, что после случившегося добавили два независимых уровня блокировки, которые должны предотвращать подобные инциденты.
Ранее основатель компании Microsoft Билл Гейтс заявил, что развитие искусственного интеллекта может привести к событиям, которые повлекут за собой гибель миллиарда людей. Миллиардер назвал ИИ «достаточно мощным» для того, чтобы положение дел сложилось именно так, как он предрек. Гейтс уточнил, что у человечества никогда еще не было настолько мощного оружия, как «комбинация из людей со злыми намерениями и самые новые ИИ-инструменты».