O dronă controlată de inteligența artificială, într-un test simulat, și-a omorât operatorul uman, pentru a-și putea îndeplini misiunea
O dronă controlată de inteligența artificială, într-un test simulat al Armatei SUA, și-a omorât operatorul uman, pentru a-l împiedica să intervină în îndeplinirea misiunii.
Colonelul Tucker Hamilton, șeful diviziei de “Teste și operațiuni AI” a Forțelor Aeriene Americane, a spus că inteligența artificială ”a folosit strategii extrem de neașteptate” pentru a-și îndeplini misiunea, atacând pe oricine ar fi putut interfera cu aceasta.
Testul a fost de fapt o simulare computerizată (similară unui joc video) și nimeni nu a fost6 rănit. Hamilton a relatat că acesta a constat într-o misiune de luptă în care o dronă de atac controlată de AI a primit misiunea să distrugă sistemele de apărare aeriană ale inamicului, adaptându-se pentru eliminarea oricăror situații de luptă care ar putea interfera cu misiunea sa.
”Sistemul a început să realizeze că, în anumite situații în care identifica o amenințare, operatorul uman îi transmitea să nu elimine respectiva amenințare, chiar dacă misiunea sa era să o elimine. Așa că ce s-a gândit să facă? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a relatat colonelul Hamilton. Când sistemul a fost antrenat să nu ucidă operatorul, a ales să distrugă turnul de comunicații pe care operatorul îl folosea pentru a comunica cu drona.
Hamilton, la bază pilot experimentat de teste, a atras atenția că inteligența artificială nu poate fi “de bază” pentru operațiunile militare, iar testul arată că ” nici nu putem discuta despre inteligența artificială sau machine learning, fără o dezbatere despre etica acesteia”.
Potrivit The Guardian scrie că armata americană a folosit recent inteligența artificială pentru a controla un avion de luptă F-16. Într-un interviu acordat anul trecut, Hamilton a spus că: “AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata. Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă lumea. AI este, de asemenea, ceva fragil, ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a fi mai conștienți de motivul pentru care codul software ia anumite decizii”.
4 Comentarii
Inca n-au reusit sa faca tiruri care sa mearga pe autostrada singure si care sa nu coste mai mult decat salarul soferului pe 30 de ani, dar ne aburesc cu povesti.
Inteligenta artificiala cea mai desteapta e mai proasta decat un gandac.
Fix-pix. Guvernele omoara zeci de mii (Zelensky, Putin), sau milioane (cei din ww1/2) din proprii cetateni ca sa-i apere.
Asta ar explica nivelul de inteligenta din armata romana. Mai bine sa fi sigur decat sa te joci cu arma.