Одна из ведущих ИИ-компаний мира выступила с очередным предупреждением о рисках «восстания машин», сообщает CNBC. В этот раз речь фактически зашла о сроках захвата искусственным интеллектом умных домов — в Anthropic заявили, что модели искусственного интеллекта смогут начать копировать себя на домашние устройства, используя их вычислительные мощности.
В компании отметили, что до появления у ИИ способности к самовоспроизведению на подключенных к интернету домашних устройствах остались считанные месяцы и описали сценарий, при котором модели смогут проникать в «умные» духовки или ТВ-приставки и пользоваться их ресурсами для работы распространения на другие устройства, не полагаясь на дорогостоящие дата-центры.
В Antropic отметили, что такую ИИ-модель будет сложно отключить, «поскольку у нее нет единой центральной точки выключения», а сами агенты ИИ «демонстрируют все большие способности к выполнению отдельных этапов цепочки самовоспроизведения (и передаче своих адаптаций последующим копиям)». Авторы послания подчернули, что полностью автономного ИИ, способного бесконтрольно размножаться, пока не существует, но предупредили, что речь сейчас идет о возможных предвестниках более опасных моделей, способных взламывать защищенные серверы и похищать ключи доступа.
Дискуссия о безопасности ИИ усилилась в начале осени после того, как глава Anthropic Дарио Амодеи призвал замедлить развитие технологии, поскольку уже через год-два контроль над ее развитием может быть утрачен. Соглашаясь с ним, основатель Microsoft Билл Гейтс отмечал, что речь идет о «том редком случае, когда инновации могут быть настолько масштабными и радикальными, что мы к ним не готовы».