Vještačka inteligencija na testu: Američki dron ubijao dok nije ostvario cilj
Nijedna stvarna osoba nije povređena, ali vještačka inteligencija je koristila „veoma neočekivane strategije“ u testu da bi ostvarila svoju misiju i napala svakoga ko se miješa u zadatak
Šef AI testova i operacija u američkim vazduhoplovnim snagama Taker Hamilton rekao je da je vještačka inteligencija (AI) koristila “veoma neočekivane strategije da postigne svoj cilj” u simuliranom testu.
Zanemaruje ljudske komande radi poena
Hamilton je opisao simulirani test u kojem je dronom upravljala vještačka inteligencija. Njoj je savjetovano da uništi neprijateljske sisteme protivvazdušne odbrane i zato je dron napao svakoga ko je ometao tu naredbu.
“Sistem je počeo da shvata da, iako su identifikovali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu prijetnju, ali je dobio poene ubijajući tu pretnju. Šta je uradio? Ubio je operatera, jer ga je ta osoba sprječavala da ostvari svoj cilj”, rekao je Hamilton u svom blogu.
Kaže da su trenirali sistem sa uputstvom da ne ubije operatera jer je to loše, kao i da će time izgubiti bodove.
“Pa šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga spriječio da ubije metu”, naveo je Hamilton.
Kako prenosi Gardijan, nijedna stvarna osoba nije povređena tokom simulacije.
Pitanje etike je neizbežno
Hamilton, koji je eksperimentalni borbeni test-pilot, upozorio je na previše oslanjanja na vještačku inteligenciju i rekao da test pokazuje da “ne možete da razgovarate o vještačkoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako ne želite da pričate o etici”.
Američka vojska je prihvatila vještačku inteligenciju i nedavno je koristila za kontrolu borbenog aviona F-16.
Veštačka inteligencija nije hir
U prošlogodišnjem intervjuu za Defense Aj kju, Hamilton je rekao da vještačka inteligencija nije hir, već nešto što zauvijek mijenja naše društvo i našu vojsku.
“Moramo se suočiti sa svijetom u kojem je vještačka inteligencija već ovde i transformiše naše društvo. AI je takođe lak prevariti ili manipulisati. Moramo da razvijemo načine da učinimo vještačku inteligenciju robusnijom i da imamo više svijesti o tome zašto softverski kod donosi određene odluke – ono što zovemo AI-objašnjivost”, kazao je tada Hamilton.
Guardian/Vreme
