Хто натисне останню кнопку

П'ятнадцять годин без камер

На початку вересня в Женеві завершилася фінальна сесія трирічного мандата Групи урядових експертів ООН з летальної автономної зброї, тобто систем, які після активації самі знаходять, обирають і вражають ціль. Останній день запам'ятався закритим засіданням, на якому делегації США та росії переписували чорновик документа. Як повідомила The Washington Post з посиланням на трьох учасників переговорів та отримані редакцією документи, камери ООН вимкнули, спостерігачів від громадянського суспільства попросили вийти, а кожна з двох делегацій привела близько десяти юристів, майже вдвічі більше, ніж інші.

Як наслідок, з тексту зникли вимога, щоб автономні системи працювали «передбачувано» і «надійно», згадка про етичні міркування та положення про обов'язкову перевірку людиною цілей, визначених штучним інтелектом.

Це стосується не лише дипломатів, бо питання звучить наступне: хто натискає останню кнопку, людина чи алгоритм. Від відповіді залежить, чи залишиться у війні місце для людського сумніву.

Дванадцять років розмов в ООН

Автономна зброя не обов'язково схожа на гуманоїдного робота з фантастики. Йдеться про будь-яку систему, яка після запуску сама обирає ціль і атакує її без подальшої команди людини: дрон, що барражує над районом, «розумну» ракету, систему ППО в автоматичному режимі. Звичайний FPV-дрон, яким керує оператор, до цієї категорії ще не належить, а от дрон, який сам вирішує, що танк у кадрі ворожий, уже належить.

Майданчик для переговорів – це Конвенція про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію (скорочено - Конвенція про конвенційні види зброї, англ. Convention on Certain Conventional Weapons або CCW). Це «рамковий» договір, до якого додаються окремі протоколи про конкретні види зброї. Прецедент для оптимістів існує, зокрема у 1995 році саме тут превентивно заборонили засліплюючі лазери, ще до того, як їх масово застосували.

У 2013 році держави доручили провести неформальні експертні зустрічі, які відбулися у 2014–2016 роках. У 2016 році створили Групу урядових експертів (GGE), яка засідає щороку. У 2019 році держави погодили 11 «керівних принципів», зокрема що міжнародне гуманітарне право повністю застосовується до такої зброї, а відповідальність не можна перекласти на машину. У 2021 році спроба почати переговори про договір провалилася.

Останній мандат (2024–2026) був практичнішим: консенсусом сформулювати «набір елементів інструменту», не вирішуючи наперед, чи буде він обов'язковим. Робочим документом став постійно оновлюваний чорновик голови групи, нідерландського посла Роберта ін ден Боса, так званий «rolling text».

Для розуміння подальших подій важливо, що в CCW рішення ухвалюються консенсусом. На практиці кожна держава має право вето. Юристу ця ситуація знайома: це як договір, який будь-яка сторона може просто не підписати, тож решта змушена приймати її правки, щоб отримати хоч якийсь текст.

Тисяча дрібних порізів