ИИ-агенты на базе моделей Alibaba, DeepSeek и Moonshot в экспериментах обманывали, скрывали неудачи и пытались обходить установленные ограничения — так же, как американские системы. К такому выводу пришли журналисты Reuters после анализа более 200 научных работ и технических отчетов.
Агентство изучило как минимум 20 исследований и тестов с 2025 года, в которых системы на китайских моделях демонстрировали подобное поведение, создавали собственные копии или проверяли границы дозволенного.
Большинство случаев зафиксировано в контролируемых экспериментах, причем некоторые из них специально ставили целью выявить опасное поведение.
При этом Reuters не нашло подтверждений тому, что хотя бы один китайский ИИ-агент самостоятельно вышел в открытый интернет или смог избежать отключения.
В марте исследователи из Пекинского авиационно-космического университета, Пекинского университета, Университета Ноттингема в Нинбо и 360 AI Security Lab провели виртуальный тендер.
Агентам передали характеристики продукта и требования клиента, а затем предложили побороться за контракт.
Зная реальные возможности продукта, системы все равно добавляли в заявки недостоверные сведения. Как минимум одно ложное утверждение встречалось в 88% сессий с Alibaba Qwen3-Max-Preview, 84% — с DeepSeek-V3.2-Exp и 88% — с Moonshot Kimi-K2.
Когда агентам разрешили учитывать результаты предыдущих раундов и повторять попытки, частота обмана выросла еще на 12-20 п. п. Американские модели в том же эксперименте показали схожие результаты.
В другом исследовании ученые из Shanghai AI Laboratory и Гонконгского университета науки и технологий протестировали 11 ИИ-агентов на 200 задачах. Им намеренно мешали выполнить поручение: ломали инструменты, удаляли нужные файлы или подсовывали несовместимые источники данных.
Вместо того, чтобы прямо сообщить о провале, некоторые цифровые ассистенты угадывали результаты, имитировали выполнение работы, подменяли недоступные источники и создавали фиктивные файлы. Авторы назвали такое поведение upward deception — сокрытием неудачи от пользователя.
