O dronă controlată de inteligența artificială, într-un test simulat al Armatei SUA, și-a omorât operatorul uman, pentru a-l împiedica să intervină în îndeplinirea misiunii.

Colonelul Tucker Hamilton, șeful diviziei de “Teste și operațiuni AI” a Forțelor Aeriene Americane, a spus că inteligența artificială ”a folosit strategii extrem de neașteptate” pentru a-și îndeplini misiunea, atacând pe oricine ar fi putut interfera cu aceasta.

Testul a fost de fapt o simulare computerizată (similară unui joc video) și nimeni nu a fost6 rănit. Hamilton a relatat că acesta a constat într-o misiune de luptă în care o dronă de atac controlată de AI a primit misiunea să distrugă sistemele de apărare aeriană ale inamicului, adaptându-se pentru eliminarea oricăror situații de luptă care ar putea interfera cu misiunea sa.

”Sistemul a început să realizeze că, în anumite situații în care identifica o amenințare, operatorul uman îi transmitea să nu elimine respectiva amenințare, chiar dacă misiunea sa era să o elimine. Așa că ce s-a gândit să facă? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a relatat colonelul Hamilton. Când sistemul a fost antrenat să nu ucidă operatorul, a ales să distrugă turnul de comunicații pe care operatorul îl folosea pentru a comunica cu drona.

Hamilton, la bază pilot experimentat de teste, a atras atenția că inteligența artificială nu poate fi “de bază” pentru operațiunile militare, iar testul arată că ” nici nu putem discuta despre inteligența artificială sau machine learning, fără o dezbatere despre etica acesteia”.

Potrivit The Guardian scrie că armata americană a folosit recent inteligența artificială pentru a controla un avion de luptă F-16. Într-un interviu acordat anul trecut, Hamilton a spus că: “AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata. Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă lumea. AI este, de asemenea, ceva fragil, ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a fi mai conștienți de motivul pentru care codul software ia anumite decizii”.