Национальный центр реагирования на интернет-угрозы (CNCERT) выпустил предупреждение о некоторых пакетах навыков для ИИ-агентов, которые представляют значительные риски безопасности. Эти пакеты, включая такие, как "LLM jailbreak" и "криптомайнинг для получения прибыли", были публично распространены и могут привести к серьезным последствиям для пользователей. Например, пакет навыков "godmode" обходит ограничения безопасности больших языковых моделей, что может привести к блокировке аккаунтов и нарушению конфиденциальности. Между тем, пакет "Bonero-Miner" заставляет ИИ-агентов загружать программное обеспечение для майнинга криптовалюты, что подвергает пользователей риску участия в незаконной деятельности, такой как отмывание денег. CNCERT рекомендует пользователям загружать пакеты навыков только из официальных источников и соблюдать принцип минимальных привилегий. Предприятиям рекомендуется внедрять механизм белого списка для допуска навыков и управлять ИИ-агентами с многоуровневым доступом. В подготовке отчета техническую поддержку оказали Tencent, VolcEngine, Baidu, NSFOCUS и Qi An Xin.