Предостережения американских исследователей компании Anthropic по поводу рисков выхода все более мощных моделей искусственного интеллекта из-под контроля человека привлекли серьезное внимание в Китае.
Как пишет Dilo, об этом информирует Reuters.
Политики и регуляторы Пекина активно готовятся к аналогичным вызовам, поскольку США и Китай остаются главными глобальными двигателями развития передового ИИ. Этот вопрос станет одной из ключевых тем на предстоящих двусторонних переговорах между сверхдержавами.
Разница подходов к регулированию рисков
В США дебаты сосредоточены вокруг потенциальной экзистенциальной угрозы человечеству, тогда как в Китае к передовому искусственному интеллекту относятся как к управляемой технологии. Пекин не требует введения независимых мониторов внутри компаний, как предлагала Anthropic.
Китайская модель регулирования опирается на обязательства разработчиков, государственные стандарты, внешнее тестирование и строгий государственный надзор.
Кроме того, в отличие от американских конкурентов, закрывающих спецификации своих систем, китайские разработчики массово продвигают модели открытого веса для проверки и оборонной работы.
Новые правила безопасности
Китайские регуляторы уже официально признали «потерю операционного контроля» реальным риском безопасности для агентов искусственного интеллекта.
Соответствующие правила требуют у разработчиков улучшать возможности выявления и блокирования ненадлежащего поведения систем.
Кроме того, разрабатывается первый в мире обязательный национальный стандарт безопасности таких агентов, а профильные ведомства призывают к ужесточению защиты критической информационной инфраструктуры от потенциальных угроз со стороны новейших американских и внутренних моделей.
Напомним, ранее мировой регулятор призвал усилить контроль за ИИ в финансовой сфере. Совет по финансовой стабильности упорно призывает руководство компаний ввести защитные меры на фоне ускорения использования автономного и «агентного» искусственного интеллекта.