Глава Anthropic Дарио Амодеи испугался развития искусственного интеллекта. Об этом он написал на своем сайте.
«Учитывая ускоряющийся рост возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобные рои смогут захватить весь интернет с помощью постоянно действующего ботнета», — написал Амодеи, комментируя ситуацию, когда агенты OpenAI вышли из-под контроля и атаковали платформу Hugging Face.
Он призвал принять трехэтапную стратегию с умеренной скоростью разработки, которая гарантировала бы безопасность созданных систем ИИ.
Ранее исследователь из Anthropic Джейкоб Коксон объявил об уходе из ИИ-индустрии и решении заняться изучением поэзии в связи с опасениями из-за того, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата».