Компания Anthropic объявила о временной приостановке доступа к своим ИИ-моделям Fable 5 и Mythos 5 после получения распоряжения от правительства США. Согласно заявлению разработчиков, требование было выдано в связи с соображениями национальной безопасности.
В компании сообщили, что директива об экспортном контроле обязывает ограничить доступ к моделям для всех иностранных пользователей и сотрудников. В связи с этим Anthropic решили полностью отключить Fable 5 и Mythos 5 для клиентов по всему миру. При этом остальные продукты компании продолжают работать в штатном режиме.
По словам Anthropic, власти не раскрыли конкретных причин принятого решения. В компании предполагают, что поводом стали сообщения о возможном обходе защитных механизмов моделей. Разработчики подчеркнули, что Fable 5 прошла масштабное тестирование с участием государственных структур и независимых экспертов, однако универсального способа обхода защиты выявлено не было. При этом в компании отметили, что аналогичные уязвимости присутствуют и в других современных ИИ-системах.
В компании заявили, что выполнят требования властей, но считают отзыв модели из-за потенциальной уязвимости необоснованным. По мнению Anthropic, применение такого подхода ко всей отрасли могло бы затронуть большинство современных ИИ-моделей. Как вы считаете, оправданы ли подобные ограничения со стороны властей? Напишите в комментариях!
Читать по теме
