Лаборатория Arcee: Китайские ИИ-модели безопасны?
Американская лаборатория Arcee, занимающаяся открытым исходным кодом ИИ, заявила, что китайские модели не представляют изначальной опасности.
Китайские открытые ИИ-модели набирают популярность и возможности, что вновь обострило дискуссии об их регулировании. Администрация Трампа рассматривает возможность запрета, а крупные разработчики проприетарных моделей, такие как OpenAI и Anthropic, выражают обеспокоенность. Эти модели, включая Kimi K3 от Moonshot AI и Qwen от Alibaba, предлагают вычисления значительно дешевле, чем закрытые аналоги.
Основное опасение связано с потенциальной угрозой безопасности, в частности, возможностью использования китайских моделей хакерами. Однако Лукас Аткинс, технический директор компании Arcee, которая разрабатывает открытые модели как альтернативу китайским, не считает эти страхи обоснованными. Он утверждает, что китайские открытые модели не опаснее любого другого открытого программного обеспечения.
Аткинс объясняет, что модели не «закодированы» со злыми намерениями, которые можно активировать. Разработчики, будь то Arcee или Alibaba, не получают доступа к модели после того, как её запускают в собственной среде пользователя. Большинство этих моделей являются «открытыми по весу» (open weight), а не полностью открытым исходным кодом. Тем не менее, их исполняемый код, загруженный с платформ вроде Hugging Face, остаётся видимым и поддающимся проверке. Методы и данные обучения при этом закрыты.
Крупные организации должны проверять любое ядро модели через свои процессы безопасности. Они часто дообучают модели под свои задачи, что позволяет оценить предвзятость, токсичность и другие аспекты. Теоретически, модель может внедрить вредоносный код, но это требует «акробатических» усилий. Аткинс, ежедневно работающий с обучением моделей, не представляет, как это можно реализовать. Большие языковые модели креативны, поэтому шансы получить вредоносное ПО в ответ на заранее спланированный запрос крайне малы.
Предприятия также строят свои ИИ-приложения так, чтобы они были независимы от конкретных моделей, используя несколько решений. Это значит, что даже если китайские модели сегодня выгоднее, компании не будут привязаны к ним навсегда. Аткинс считает, что вместо запрета китайских моделей нужно развивать сильную открытую экосистему в США. Arcee, например, учится на китайских моделях, строит на их основе свои решения и уважает работу их исследователей. Конкуренция, по его мнению, должна строиться на создании лучших моделей.