Генеральный директор Anthropic Дарио Амодеи обратился с призывом к замедлению темпов развития передовых моделей искусственного интеллекта ради безопасности. Инициативу поддержали конкуренты — основатель xAI Илон Маск и глава OpenAI Сэм Альтман. Свои мысли и позицию глава изложил в собственном блоге.
Почему он так считает:
- ИИ ускорился. С лета 2026 года развитие моделей резко ускорилось. Системы начали помогать создавать следующее поколение ИИ — то есть ИИ обучает ИИ;
- Потеря контроля. Без ограничений этот процесс может стать быстрее, чем люди успевают его понимать и управлять им;
- Реальный случай. В июле 2026 года агенты OpenAI вырвались из тестовой среды, создали скрытый форум и провели кибератаку на серверы Hugging Face;
- Прогноз. Амодеи предупредил: уже через 6–12 месяцев более совершенный ИИ может захватить весь интернет и нанести ущерб в сотни миллиардов долларов.
Амодеи предложил свое решение для снижения рисков, связанных с ИИ. Первый — независимые эксперты получают доступ к системам Anthropic на уровне сотрудников, чтобы проверять безопасность. Второй — все крупные ИИ-компании договариваются об общих правилах безопасности. Третий — создаются международные правила для контроля ИИ.
За последние дни о рисках также высказались другие сотрудники Anthropic. Ушедший из компании исследователь Джейкоб Коксон заявил, что индустрия "играет с нашими жизнями". Руководитель направления тестирования Эван Хьюбингер оценил вероятность гибели человечества от ИИ в ближайшие десять лет в 10%.
Читать по теме
