Китайские военные используют американские модели искусственного интеллекта для обучения оборонных систем

Согласно обзору более 80 китайских научных статей и патентов, проведённому агентством Reuters, китайские военные исследователи использовали результаты работы ведущих американских моделей искусственного интеллекта, разработанных компаниями OpenAI и Anthropic, для обучения отечественных систем искусственного интеллекта с целью укрепления оборонного потенциала Китая.

Ранее не публиковавшиеся данные позволяют по-новому взглянуть на то, как военные и связанные с безопасностью структуры в Китае используют передовые американские модели искусственного интеллекта для разработки собственных специализированных систем, несмотря на попытки Вашингтона ограничить доступ Пекина к передовым чипам и другим стратегическим технологиям.

Документы свидетельствуют о широком использовании метода, известного как "дистилляция модели", при котором результаты работы мощной системы искусственного интеллекта используются для обучения более компактных специализированных моделей, которые можно развернуть локально, не прибегая к огромным вычислительным мощностям, необходимым для создания передовых систем искусственного интеллекта с нуля.

Обзор агентства Reuters, в который вошли исследования вашингтонского фонда Jamestown Foundation, предоставленные эксклюзивно информационному агентству, показал, что дистилляция широко используется исследователями, связанными с Народно-освободительной армией Китая и другими военными структурами.

Согласно документам, китайские оборонные ведомства рассматривают ведущие американские модели искусственного интеллекта как источник технических знаний и способ сократить отставание от американских конкурентов.

Спор идет о несанкционированном извлечении данных, а не о самой дистилляции — широко распространенной в отрасли практике.

Этот вопрос стал одной из главных точек разногласий в преддверии переговоров между США и Китаем по вопросам управления и безопасности искусственного интеллекта. Американские официальные лица обвинили некоторые китайские компании в использовании дистилляции для извлечения возможностей из американских моделей искусственного интеллекта, что потенциально подрывает экспортный контроль и нарушает права на интеллектуальную собственность.

Китай отверг эти обвинения, заявив, что Вашингтон стремится к «гегемонии» в сфере ИИ и при этом утверждая, что американские компании прибегают к аналогичным практикам.

Китайские разработчики также опровергают утверждения о том, что их достижения в области искусственного интеллекта основаны на зарубежных моделях. Стартап Moonshot, специализирующийся на искусственном интеллекте, на прошлой неделе опроверг обвинения администрации Трампа в том, что его модель Kimi K3 была создана с помощью дистилляции, заявив, что в основе модели лежат собственные инновации.

Санни Чунг, сотрудник Jamestown, проанализировавший более 60 статей, сказал, что китайские военные учёные систематически фиксируют этапы работы западных моделей, чтобы адаптировать их для наблюдения, кибервойн и принятия тактических решений.

«Научить модель правильному ответу — это одно, но научить ее аргументации, лежащей в основе ответа, гораздо сложнее», — сказал Чунг.

«Эти документы свидетельствуют о том, что китайские исследователи, связанные с военными, пытаются перенести дорогостоящие запатентованные технологии западных моделей в более компактные системы, которые они могут контролировать и использовать локально».

Агентство Reuters проверило академическую литературу и выявило еще два десятка тематических исследований, связанных с военными.

В одной из статей, опубликованных в прошлом году исследователями из подразделения 96941 Народно-освободительной армии Китая, занимающегося военной разведкой и кибервойнами в Пекине, рассказывается об использовании GPT-3.5 от OpenAI для обработки конфиденциальных военных исходных кодов.

По словам исследователей, сторонние модели не подходят для работы с секретной информацией. Чтобы преодолеть это ограничение, они использовали GPT-3.5 для обобщения программного кода и обучили на этих обобщениях отечественную модель, которая может работать исключительно в китайских военных сетях.

Белый дом, Пентагон, Министерство иностранных дел Китая, Народно-освободительная армия Китая и компания OpenAI не ответили на запросы о комментарии.

ШИРОКОЕ ПРИМЕНЕНИЕ — ОТ МОНИТОРИНГА ДО ВОЕННЫХ ЦЕЛЕЙ

Китайские исследователи применяли дистилляцию для самых разных целей — от мониторинга контента до использования в военных целях, как показали обзоры статей, подготовленные Reuters и Jamestown.

В Северном университете Китая, который тесно связан с оборонной промышленностью страны, исследователи использовали Claude 3 Haiku от Anthropic для создания синтетических обучающих данных для модели классификации текста, предназначенной для мониторинга социальных сетей и модерации контента.

В Anthropic заявили, что не предоставляют коммерческий доступ к Claude в Китае или компаниям, подконтрольным Пекину и используют системы мониторинга для выявления нарушений.

Компания добавила, что в дистиллированных моделях могут отсутствовать средства защиты исходных систем, что потенциально может привести к передаче конфиденциальных данных в модели, находящиеся вне ее контроля.

В статье 2024 года, опубликованной Национальным университетом оборонных технологий Народно-освободительной армии Китая, описывается использование дистилляции для сжатия модели обработки изображений для использования на беспилотных летательных аппаратах. Это позволяет дронам анализировать видео в реальном времени и принимать решения о навигации и целеуказании в режиме реального времени даже при отсутствии связи.

Аналогичным образом исследователи из Китайской академии военных наук использовали дистилляцию для запуска модели распознавания целей на тактическом оборудовании во время имитации морских операций с участием дронов, кораблей и беспилотных подводных лодок. Об этом говорится в исследовании, опубликованном ранее в этом году.

ПРЕИМУЩЕСТВА И ОГРАНИЧЕНИЯ

Китай активно внедряет дистилляцию, стремясь конкурировать с ⁠США в передовых разработках в области искусственного интеллекта, несмотря на ограничения в доступе к передовым вычислительным ресурсам из-за экспортного контроля Вашингтона в отношении высокопроизводительных чипов.

Центральные и местные органы власти продвигают «облегчение моделей» и периферийные вычисления, направляя субсидии и финансирование исследований на технологии, которые позволяют моделям искусственного интеллекта работать на дронах, спутниках и других устройствах с ограниченной вычислительной мощностью.

Однако эксперты предупреждают, что у дистилляции есть существенные ограничения. По мере того как китайские модели искусственного интеллекта сокращают отставание от своих американских аналогов, военные исследователи также рассматривают дистилляцию как потенциальную угрозу безопасности.

В январе исследователи из Инженерного университета армии США опубликовали статью об угрозе «дистилляции без данных» — методе обратного проектирования возможностей модели без прямого доступа к ее основным параметрам.

Чтобы устранить эту уязвимость, они предложили защитные механизмы, призванные маскировать скрытую логическую информацию, содержащуюся в общедоступных результатах работы модели. Дистиллированные модели также наследуют только отдельные возможности и не могут в полной мере воспроизвести широкий спектр интеллектуальных функций передовых систем.

Тревор Коверко, соучредитель компании Sapien, занимающейся обработкой данных в области искусственного интеллекта, сказал, что дистиллированные модели остаются менее способными, чем их модели-учителя.

«Лучше всего это можно понять как перенос отдельных функций в более дешевую систему с локальным управлением, а не как достижение независимости от передовых систем искусственного интеллекта».

Больше интересных статей, которые я не успеваю переводить, но которые можно почитать через онлайн-переводчики, можно найти по ссылке: t.me/murrrzio. А также на моём канале в Мах.