Цієї весни, під час Страсного тижня, священник відвідав український підрозділ безпілотників поблизу Запоріжжя. Він помолився разом із військовими за їхній захист, а потім окропив святою водою ударний дрон «Гара», освятивши його перед бойовим вильотом.
Цей епізод, на думку Foreign Policy, дуже точно передає суперечність сучасної війни. Конкретний український дрон усе ще потребував участі людини-оператора, однак передові армії світу вже активно розробляють системи, які здатні дедалі більше діяти автономно. І що більше штучний інтелект перебирає на себе функції пошуку, ідентифікації та ураження цілей, то складнішим стає питання не лише про ефективність таких систем, а й про моральну відповідальність за їхні рішення.
Протягом століть людство намагалося відповісти на фундаментальне питання: якщо війна є жахливою, але іноді неминучою, то за яких умов її можна вважати морально допустимою? Саме з цієї дилеми сформувалася теорія справедливої війни.
Вона передбачає, що рішення про початок війни має бути відповіддю на агресію, ухвалюватися законною владою та переслідувати справедливу мету. Війна має залишатися крайнім засобом, а її метою повинен бути не нескінченний конфлікт, а можливість досягнення справедливого миру.
Не менш важливі правила стосуються і самого ведення бойових дій. Застосована сила повинна бути пропорційною військовій меті. Цивільне населення не може ставати безпосередньою ціллю, а сторони конфлікту повинні вживати додаткових заходів для мінімізації шкоди мирним людям — навіть тоді, коли це означає більший ризик для власних військових.
Проблема полягає в тому, що технології дедалі сильніше віддаляють людину, яка ухвалює рішення, від моменту фактичного застосування смертоносної сили.
По обидва боки Тихого океану штучний інтелект швидко інтегрується у військові системи. Між командиром, який визначає завдання, і конкретним ударом можуть з’явитися численні технологічні посередники: алгоритми розвідки, автоматичне розпізнавання цілей, системи пріоритезації загроз, автономна навігація і зрештою сама зброя.
Парадокс полягає в тому, що такі технології можуть зробити удари значно точнішими, але водночас знизити психологічний і політичний бар’єр для застосування сили.
Якщо атака більше не потребує ризику для власного пілота або солдата, рішення про неї може стати простішим. Таким чином, війна потенційно стає менш небезпечною для того, хто її веде дистанційно, але зовсім не обов’язково менш імовірною.
Саме тут виникає одна з головних етичних проблем нової епохи — відповідальність.
Якщо автономна система неправильно визначила цивільний автомобіль як військову ціль, хто відповідає за загибель людей? Командир, який наказав застосувати систему? Оператор, який їй довірився? Інженер, який створив алгоритм? Компанія-виробник? Держава, яка прийняла систему на озброєння?
Чим більше проміжних технологічних ланок між рішенням і смертю людини, тим легше відповідальності розчинитися між десятками учасників процесу.
Foreign Policy наголошує, що це ставить під загрозу сам принцип підзвітності — один із фундаментальних елементів будь-якої системи воєнної етики та права.
Є й інша проблема, яку технологічна точність сама по собі вирішити не здатна.
Машина може краще за людину обчислити траєкторію, розпізнати об’єкт або визначити оптимальний момент для удару. Але вона не здатна на милосердя.
Людина може побачити, що противник поранений, здається в полон, прикриває дитину або опинився в ситуації, яка формально дозволяє застосувати силу, але морально вимагає відмовитися від неї. Саме такі рішення століттями були частиною людського виміру війни.
Алгоритм не відчуває співчуття, страху, сорому чи сумніву. А ці якості, попри всю їхню непередбачуваність, іноді не лише роблять війну менш жорстокою, а й створюють умови для майбутнього примирення.
Саме тому автори Foreign Policy вважають, що традицію справедливої війни потрібно не відкидати як застарілу, а оновити відповідно до технологічної реальності.
Нова доктрина повинна враховувати війну, яка дедалі частіше ведеться опосередковано — через алгоритми, дрони, автономні платформи та дистанційні системи управління. Вона має відновити зв’язок між тими, хто отримує вигоди від застосування сили, і тими, хто несе її ризики та наслідки.
Особливо важливо чіткіше пов’язати конкретні рішення з відповідальністю за їхні наслідки, щоб поняття вини не розчинялося в технологічному ланцюгу.
Одним із можливих рішень може стати інтеграція етичних обмежень ще на етапі проєктування систем. Тобто механізми захисту цивільного населення, обмеження автономності та правила застосування мають бути закладені в технологію до того, як вона потрапить на поле бою.
Інакше суспільство ризикує щоразу з’ясовувати відповідальність уже після трагедії — коли система помилилася, люди загинули, а провину зрештою покладають на солдатів, які діяли відповідно до рекомендацій технології.
Штучний інтелект не скасовує старих питань війни. Він робить їх складнішими.
Хто має право ухвалювати рішення про смерть? Де проходить межа між військовою необхідністю та моральною відповідальністю? Чи може алгоритм бути частиною ланцюга рішення про застосування летальної сили? І чи не стане війна частішою саме тому, що технології зроблять її дешевшою, точнішою і безпечнішою для того, хто натискає кнопку за тисячі кілометрів від поля бою?
Теорія справедливої війни формувалася століттями, пристосовуючись до появи артилерії, авіації, ядерної зброї та дистанційних ударів. Тепер їй доведеться пройти ще одну трансформацію — навчитися говорити про світ, у якому дедалі частіше між людиною та смертю стоятиме машина.
Джерело: Foreign Policy
