Андрей Клинцевич: Военный ИИ: кто отказался от «правил игры»

Военный ИИ: кто отказался от «правил игры»

На саммите REAIM в Ла-Корунье из 85 стран только 35 согласились подписать декларацию об ответственном использовании военного ИИ. США и Китай — среди отказавшихся.

Что предлагали подписать:

Признать приоритет человеческого контроля над системами с ИИ.

Ввести обязательную оценку рисков и тестирование боевых алгоритмов до развертывания.

Повысить прозрачность национальных механизмов надзора (настолько, насколько это «совместимо с безопасностью»).

Зафиксировать политическое обещание не пускать ИИ «на самотёк» в военном контуре.

Почему это важно:

Документ даже не юридически обязывающий — это всего лишь политический сигнал.

Но если даже на такой мягкий вариант не идут Вашингтон и Пекин, это показывает, насколько глубока недоверие и насколько сильна ставка на гонку военного ИИ.

По сути, мы видим зарождение «ядерной логики» в новой сфере: каждый боится проиграть, если первым начнёт себя ограничивать.

Что это значит дальше:

Без США и Китая любые «правила для военного ИИ» остаются клубом единомышленников среднего веса.

Окно для глобального режима контроля над военным ИИ быстро закрывается — технологии развиваются быстрее, чем успевают договориться дипломаты.

Чем дольше нет общих рамок, тем выше риск, что первые серьёзные инциденты с ИИ на войне станут не поводом для договорённостей, а триггером эскалации.

Нужно ли вообще пытаться повторить «ядерную модель» контроля уже сейчас, пока ИИ-системы ещё относительно примитивны — или большие державы договорятся только «после первого удара»?