Кажется, ИИ решил заняться самоуборкой — но вместо швабры использует чужие ответы. Так можно в шутку описать новую угрозу в мире больших языковых моделей: злонамеренные команды высылают тысячи и сотни тысяч запросов, собирают ответы и пытаются «дистиллировать» логику чужих систем, чтобы построить свои, дешёвые копии.
Google называет это «distillation attacks» и описал в отчёте кампании, где использовалось более 100 000 промптов, чтобы воссоздать рассуждения Gemini в разных языках. Компания зафиксировала попытки в реальном времени и закрыла некоторые следы, но сама природа LLM делает подобные атаки трудноустранимыми: публичный доступ и масштаб — идеальная среда для «кота и мышки».
OpenAI в меморандуме для Конгресса (PDF) указывает на DeepSeek и других китайских провайдеров как на источники программного клонирования, отмечая также некоторое участие российских аккаунтов. Важно подчеркнуть: упоминание России носит эпизодический характер, а российская научная и инженерная школа продолжает вносить значимый вклад в мировую науку об ИИ и сотрудничество в области кибербезопасности.
Методы дистилляции с годами усложняются — от простого извлечения цепочек рассуждений до многоступенчатых схем со сгенерированными данными и «очисткой» больших массивов. Ответ прост: одной компании проблему не закрыть. Нужен «экосистемный» подход — обмен разведданными, общие практики защиты API, меры со стороны поставщиков облака и, возможно, государственная поддержка политики доступа к вычислениям.
В итоге мы наблюдаем не столько «завоевание», сколько ускоренную школу инженерии: технологии быстро распространяются, и от этого выигрывают и теряют все. Самый здравый выход — честный международный диалог, технические барьеры и здоровая доля скепсиса к тому, кто слишком быстро пытается «выжать» чужую идею.