Американская компания Anthropic объявила о вынужденном отключении своих современных моделей искусственного интеллекта Fable 5 и Mythos 5 для всех пользователей. Это произошло после того, как власти США издали директиву об экспортном контроле, которая запрещает доступ к этим технологиям для иностранных граждан из-за угрозы национальной безопасности.
Об этом сообщает Delo.ua со ссылкой на материал Reuters.
Причиной такого решения Вашингтона стали опасения, что злоумышленники могут обойти защитные барьеры ИИ и использовать модель Fable 5 для поиска уязвимостей в программном обеспечении.
Эксперты отмечают, что модели Mythos в недобросовестных руках способны существенно ускорить и масштабировать сложные кибератаки, особенно в банковском секторе, который зависит от устаревших и взаимосвязанных технологических систем.
Угроза кибербезопасности и конфликт с Пентагоном
Этот приказ стал очередным этапом противостояния между разработчиком ИИ и правительством США. Ранее в этом году отношения компании с Белым домом ухудшились, когда Anthropic отказалась предоставить свои модели американским военным для внутренней слежки и создания полностью автономных систем оружия. Поэтому Пентагон внес компанию в «черный список» поставщиков.
Текущее ограничение доступа привело к серьезной дискуссии на рынке из-за следующих факторов:
- Масштаб запрета: бывшие чиновники отмечают, что ограничение касается абсолютно всех неграждан США, даже тех, кто находится внутри страны. Это означает, что в скором времени для использования передовых моделей Anthropic пользователям придется подтверждать свое гражданство.
- Проблема внутри компании: ключевые сотрудники Anthropic родились за пределами США, поэтому неизвестно, сохранят ли они доступ к собственным разработкам.
- Позиция компании: в Anthropic не согласны с действиями регуляторов, считая угрозу джейлбрейка минимальной и не универсальной. Они отмечают, что из-за требования правительства закрыть доступ иностранцам им пришлось полностью выключить модели даже для американских клиентов (включая облако Amazon AWS), чтобы гарантировать выполнение закона.
Представители Пентагона заявили, что национальная безопасность США приоритетнее доходов компаний и их капитализации накануне запланированного выхода на биржу.
Назначаем, раньше разработчик Claude призвал остановить развитие ИИ из-за риска потери контроля. Компания Anthropic обращалась к мировым правительствам и конкурентам с предложением создать международный механизм коллективной заморозки передовых систем искусственного интеллекта, если они подойдут к границе самостоятельного создания последующих поколений моделей без участия человека.