Китайский «Щит Зевса»

10 лет назад, с приходом эпохи Интернета, утечки стали массовыми и охватывали широкий спектр документов (поиск в Интернете по запросу «Иракское досье» выдаст 292 тыс. документов).В 2020-х годах интеграция ИИ в военный потенциал стала нормой для крупных военных держав по всему миру. Поэтому утечки секретных военных материалов кардинально изменили свой характер.

Теперь наиболее ценные утечки содержат не документы, а наборы данных для обучения ИИ.

Вот новейший характерный пример – утекший в сеть китайский относительно небольшой набор данных Чжоусидун (переводится как «Щит Зевса» или «Эгида» – мифическая могущественная сила с волшебными защитными свойствами).

Набор включает «608 камерных и спутниковых фото американских эсминцев класса Arleigh Burke, а также других эсминцев и фрегатов союзников США» с ограничивающими рамками, нарисованными вокруг «радарных систем кораблей, являющихся частью боевой системы Aegis ... Ограничивающие рамки нарисованы вокруг радаров SPY на надстройке, один на левом борту и один на правом борту, а также вокруг вертикальных пусковых установок, расположенных ближе к носу и корме корабля».

Эти цитаты из только что опубликованной совместной работы исследователей Berkeley Risk and Security Lab и Berkeley AI Research Lab, озаглавленной «Open-Source Assessments of AI Capabilities: The Proliferation of AI Analysis Tools, Replicating Competitor Models, and the Zhousidun Dataset».

Авторы исследования обучили на этом наборе модель YOLOv8, а затем проверили ее успешность при идентификации радиолокационных изображений на кораблях для задачи нацеливания на них.

И хотя этот набор мал, проведенное исследование показывает, что обучать даже относительно небольшую открытую модель выявлять цели, а потом супер-точно наводить на них средства уничтожения, – хорошо решаемая практическая задача.

Военным в таком случае можно будет целиком положиться на ИИ, который и цель выберет сам, и наведет на нее ракету. 

Если же выбор цели окажется ошибочным, – ничего страшного. Значит, ИИ просто плохо обучили и надо переучить. Ведь и с людьми такое случается.

Короче, жуть.