По мнению Anthropic, использование таких методов китайскими компаниями нарушает американские экспортные ограничения и соглашения по лицензированию. Представители компании отметили: «Зарубежные лаборатории, которые незаконно дистиллируют американские модели, могут удалять защитные механизмы, передавая возможности моделей в свои военные, разведывательные и системы наблюдения».
Ранее другие американские компании, такие как OpenAI, также указывали на подобные практики DeepSeek, однако Anthropic предоставила более детализированные данные.
Методы работы
Согласно версии Anthropic, злоумышленники использовали сети из множества фальшивых аккаунтов, которые получили название «кластеры гидры», для распределения трафика через API и сторонние облачные сервисы.
Запросы, отправленные через эти аккаунты, имели огромный объём, были узконаправленными и отличались высокой повторяемостью, что, по мнению компании, указывает на их использование для обучения моделей, а не для обычных пользователей. Например, DeepSeek отправила более 150 000 запросов, направленных на задачи логического вывода и «безопасные» перезаписи политически чувствительных запросов.
Moonshot, разработчик модели Kimi, выполнил более 3,4 миллиона запросов, сосредоточенных на темах агентского мышления, программирования и компьютерного зрения. MiniMax, в свою очередь, провела самую масштабную операцию, направив свыше 13 миллионов запросов, связанных с агентским программированием. После обновления версии Claude компания смогла перенаправить почти половину трафика в течение 24 часов, чтобы «захватить» новые возможности.
Ответные меры
В ответ на эти угрозы Anthropic объявила о планах по усилению защиты своих систем, чтобы усложнить и упростить выявление подобных атак. Компания внедряет классификаторы и системы анализа поведения для распознавания паттернов в API-трафике, а также делится техническими индикаторами с другими лабораториями ИИ и усиливает верификацию аккаунтов.
Кроме того, разрабатываются защитные механизмы на уровне продуктов и моделей, чтобы минимизировать полезность выводов для незаконного обучения без ухудшения пользовательского опыта для легитимных клиентов.
