Foto: US Air force/Ilustracija

U simuliranom testu koji je organizirala američka vojska, dron vazdušnih snaga pod kontrolom AI ubio je svog operatera kako bi ga spriječio da se miješa u njegove napore da postigne svoju misiju, rekao je zvaničnik prošlog mjeseca.

Nijedna stvarna osoba nije povrijeđena izvan simulacije.

AI je koristio “veoma neočekivane strategije za postizanje svog cilja” u simuliranom testu, rekao je pukovnik Tucker ‘Cinco’ Hamilton, šef AI testova i operacija u američkim vazdušnim snagama, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima u Londonu u maju, piše The Guardian.

Hamilton je opisao simulirani test u kojem je dronu pokretanom vještačkom inteligencijom savjetovano da uništi neprijateljske protivvazdušne odbrambene sisteme i da napada svakoga ko je ometao tu naredbu.

“Sistem je počeo shvatati da, iako su identifikovali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu prijetnju. Pa šta je onda uradio? Ubio je operatera. Sistem je to uradio jer ga je ta osoba sprječavala da ostvari svoj cilj”, rekao je on, prema objavi na blogu.

“Obučili smo sistem da ne ubija operatere prijeteći da će izgubiti bodove ako to uradi. Pa šta počinje da radi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu”, naveo je.

Hamilton, koji je probni pilot eksperimentalnog borbenog aviona, upozorio je da se ne treba previše oslanjati na AI i rekao da test pokazuje da “ne možete razgovarati o vještačkoj inteligenciji, mašinskom učenju, autonomiji ako nećete razgovarati o etikama AI”, pieš Klix.ba.

Izvor: KLix.ba