Хто буде жити, вирішуватимуть машини: США та Росія заблокували в ООН обмеження щодо бойового ШІ
США та Росія домоглися суттєвого пом’якшення проекту документа ООН щодо застосування штучного інтелекту у смертоносному озброєнні. З тексту зникли положення про людський контроль, надійність систем та етичні обмеження.
Американські та російські дипломати під час закритих переговорів у Швейцарії домоглися виключення з проєкту ООН кількох ключових положень, що регулюють використання штучного інтелекту у військовій сфері. Про це повідомляє The Washington Post з посиланням на учасників переговорів.
За даними видання, в останній день зустрічі делегації США та Росії майже 15 годин поспіль вносили зміни до документа. Співрозмовники газети стверджують, що з проєкту зникла вимога про те, щоб системи зі штучним інтелектом працювали передбачувано та надійно, а також враховували етичні принципи під час застосування зброї, здатної вбивати.
Найпомітнішою зміною стало виключення норми, згідно з якою людина мала перевіряти цілі, обрані штучним інтелектом, перед нанесенням удару.
Переговори відбувалися у закритому форматі — без камер ООН та представників громадянського суспільства. За інформацією Washington Post, кожна з двох делегацій залучила близько десяти юристів, через що невеликі країни не встигали відстежувати формулювання, що стрімко змінювалися.
Ні Державний департамент США, ні МЗС Росії, ні представники ООН не відповіли на запити журналістів щодо коментарів.
Ослаблення проекту відбувається на тлі активного впровадження штучного інтелекту у військові технології. США вже використовують ШІ для аналізу інформації та вибору потенційних цілей, а Ізраїль широко застосовує подібні системи у військових операціях у секторі Газа.
У Human Rights Watch попереджають, що відмова від жорстких міжнародних обмежень підвищує ризик передачі машинам повноважень щодо прийняття рішень, від яких залежать життя та смерть людей. За словами заступниці директора напряму з питань озброєння Веріті Койл, це може призвести до зростання кількості жертв серед цивільного населення та зниження відповідальності за застосування сили.
Наразі документ, що обговорюється, не має обов’язкової юридичної сили. Наступний раунд переговорів відбудеться в листопаді в Женеві, де країни обговорять можливість перетворити нинішні домовленості на офіційний міжнародний мандат або юридично обов’язковий договір.
Як раніше повідомляло інтернет-видання From-UA.org, ШІ ледь не спровокував війну між США та Китаєм: у Пентагоні аналізують ситуацію та готують висновки.