Гардијан: Амерички дрон којим је управљала вештачка интелигенција убио оператера током симулације, како би га спречио да се меша у напоре да постигне мисију

У симулираном тесту који је организовала америчка војска, дрон ваздухопловних снага САД под контролом вештачке интелигенције убио је оператера како би га спречио да се меша у напоре да постигне мисију, рекао је званичник прошлог месеца.

Вештачка интелигенција (АИ) користила је "веома неочекиване стратегије да постигне свој циљ" у симулираном тесту, изјавио је пуковник Такер Хамилтон, шеф АИ тестова и операција у америчким ваздухопловним снагама, током самита о будућим борбеним ваздушним и свемирским способностима одржаном у Лондону у мају.

Хамилтон је описао симулирани тест у којем је дрону којим је управљала вештачка интелигенција, саветовано да уништи непријатељске системе противваздушне одбране и напао је свакога ко је ометао ту наредбу.

"Систем је почео да схвата да, иако су идентификовали претњу, понекад би му људски оператер рекао да не убија ту претњу, али је добио поене убијајући ту претњу. Шта је урадио? Убио је оператера, јер га је та особа спречавала да оствари свој циљ", рекао је Хамилтон у свом блогу.

Каже да су тренирали систем са упутством да не убије оператера јер је то лоше, као и да ће тиме изгубити бодове.

"Шта почиње да ради? Почиње да уништава комуникациони торањ који оператер користи за комуникацију са дроном како би га спречио да убије мету", навео је Хамилтон.

Како преноси Гардијан, ниједна стварна особа није повређена током симулације.

Хамилтон, који је експериментални борбени тест-пилот, упозорио је на превише ослањања на вештачку интелигенцију и рекао да тест показује да "не можете да разговарате о вештачкој интелигенцији, машинском учењу, аутономији ако не желите да причате о етици".

Америчка војска је прихватила вештачку интелигенцију и недавно је користила за контролу борбеног авиона Ф-16.

"АИ мења друштво и војску"

У прошлогодишњем интервјуу за Дифенс ај кју (Defence iQ), Хамилтон је рекао да вештачка интелигенција није хир, већ нешто што заувек мења наше друштво и војску САД.

"Морамо се суочити са светом у којем је вештачка интелигенција већ овде и трансформише наше друштво. АИ је такође лако преварити и/или манипулисати њоме. Морамо да развијемо начине да учинимо вештачку интелигенцију робуснијом и да имамо више свести о томе зашто софтверски код доноси одређене одлуке – оно што зовемо АИ-објашњивост", казао је тада Хамилтон.

Краљевско аеронаутичко друштво, које је домаћин конференције, и америчко ваздухопловство нису одговорили на захтеве Гардијана за коментар.

(РТС, Гардијан)