Kad se John Brennan, izbor predsjednika Obame za sljedećeg šefa CIA, jučer pojavio pred odborom Senata, jedno je pitanje zamijenilo sve ostale na njegovom potvrdnom saslušanju:
Kako se donose odluke o upućivanju bespilotnih bespilotnih letelica nakon osumnjičenih terorista?
Kako i, po tom pitanju, zašto naručivati specifične udare bespilotnih letelica uglavnom ostaje misterija, ali barem je jedno jasno - odluke donose ljudi koji će se, nadati se, boriti s mišlju o slanju smrtonosne rakete u okupiranu zgradu.
Ali što ako ljudi nisu bili uključeni? Što ako jednog dana odluke o životu ili smrti budu prepuštene strojevima opremljenim s mnoštvom podataka, ali i osjećajem ispravnosti i pogrešnosti?
Moralni problem
To nije tako daleko. To se neće dogoditi uskoro, ali nema sumnje da će, kako strojevi postaju inteligentniji i samostalniji, središnji dio njihove transformacije biti sposobnost učenja morala.
Zapravo, to možda i nije tako daleko. Gary Marcus, koji je nedavno pisao u New Yorkeru, predstavio je scenarij jednog od Googleovih automobila bez vozača prije nego što je bio prisiljen donijeti dijeljenje sekunde: "Vaš automobil vozi se mostićem brzinom od 50 milja na sat kada nesretni školski autobus prevozi 40 nevine djece prelazi svoj put. Treba li vaš automobil skrenuti, možda riskirajući život vlasnika (vas), kako bi spasio djecu ili nastavio dalje, dovodeći u opasnost svih 40 djece? Ako se odluka mora donijeti u milisekundama, računalo će morati uspostaviti poziv. "
A što je s robotskim oružjem ili vojnicima? Da li bi dron mogao naučiti da ne puca u kuću ako zna da su nedužni civili također unutra? Da li se strojevi mogu naučiti da slijede međunarodna ratna pravila?
Ronald Arkin, profesor informatike i stručnjak za robotiku tvrtke Georgia Tech, to sigurno misli. Razvijao je softver, nazvan "etičkim upravljačem", koji bi omogućio strojevima da mogu odlučivati kada je to pogodno za paljbu, a kada nije.
Arkin priznaje da bi to moglo potrajati još desetljećima, ali vjeruje da bi roboti jednog dana mogli biti i fizički i etički nadmoćniji ljudskim vojnicima, a ne osjetljivi na emocionalne traume borbe ili želje za osvetom. On ne predviđa sve robotsku vojsku, već onu u kojoj strojevi služe ljudima, radeći visoko rizične poslove prepune stresnih donošenja odluka, poput čišćenja zgrada.
Pazite na robote ubojice
Ali drugi smatraju da je vrijeme da se uskrati ova vrsta razmišljanja prije nego što ona ode predaleko. Krajem prošle godine Human Rights Watch i Klinika za ljudska prava Harvard Law School izdali su izvještaj "Gubitak čovječanstva: slučaj protiv robota ubojica", koji je, istinski naslov, pozvao vlade da zabrane svako autonomno oružje jer će "povećati rizik od smrti ili povreda civila tijekom oružanih sukoba. "
Otprilike u isto vrijeme, grupa profesora sa Sveučilišta u Cambridgeu najavila je planove za pokretanje onoga što nazivaju Centar za istraživanje egzistencijalnog rizika. Kada se otvori kasnije ove godine, poticati će ozbiljna znanstvena istraživanja o tome što bi se moglo dogoditi ako i kada strojevi postanu pametniji od nas.
Opasnost, kaže Huw Price, jedan od osnivača Centra, jest da bismo se jednog dana mogli suočiti sa "strojevima koji nisu zlonamjerni, već s strojevima čiji nas interesi ne uključuju".
Umjetnost obmane
Shades of Skynet, luđački sustav umjetne inteligencije koji je pokrenuo kiborg Arnolda Schwarzeneggera u filmovima The Terminator . Možda će to uvijek biti stvar znanstvene fantastike.
Ali uzmimo u obzir i druga istraživanja koja Ronald Arkin sada radi u sklopu projekata koje financira Ministarstvo obrane. On i kolege proučavali su kako životinje obmanjuju jedna drugu, sa ciljem da nauče robote umjetnosti obmane.
Na primjer, oni rade na programiranju robota tako da mogu, ako je potrebno, mijenjati snagu kao što to često čine životinje. I gledali su nastavne strojeve kako bi oponašali ponašanje bića poput istočne sive vjeverice. Vjeverice skrivaju svoje matice od drugih životinja, a kad se pojave druge vjeverice ili grabežljivci, sive vjeverice će ponekad posjetiti mjesta na kojima su skrivale matice kako bi izbacile svoje natjecatelje s staze. Roboti programirani tako da slijede sličnu strategiju uspjeli su zbuniti i usporiti konkurente.
Sve je u interesu, kaže Arkin, za razvoj strojeva koji neće biti prijetnja ljudima, već prednost, osobito u ružnom ratu kaosa. Ključno je da se sada počnete fokusirati na postavljanje smjernica za odgovarajuće ponašanje robota.
"Kada počnete otvarati Pandorinu kutiju, što treba učiniti s ovom novom sposobnošću?", Rekao je u nedavnom intervjuu. "Vjerujem da postoji potencijal da se tim inteligentnim robotima smanje žrtve koje nisu u borbi, ali mi moramo biti vrlo oprezni u tome kako se koriste, a ne puštati ih na bojište bez odgovarajuće brige."
Za vjerovati newyorški pisac Gary Marcus, etički napredni strojevi nude veliki potencijal izvan bojnog polja.
Misao koja me najviše progoni je da su same ljudske etike tek u tijeku. Još se suočavamo sa situacijama za koje nemamo dobro razvijene kodekse (npr., U slučaju potpomognutog samoubojstva) i ne trebamo gledati daleko u prošlost da bismo pronašli slučajeve u kojima su vlastiti kodovi bili sumnjivi ili još gori (npr. Zakoni koji dozvoljeno ropstvo i segregacija).
Ono što stvarno želimo su strojevi koji mogu otići korak dalje, obdareni ne samo najglasnijim etičkim kodovima koje naši najbolji suvremeni filozofi mogu smisliti, već i s mogućnošću da strojevi ostvare vlastiti moralni napredak, dovodeći ih mimo vlastite ograničene rane - ideja morala o dvadeset prvom stoljeću. "
Strojevi marširaju dalje
Evo novijih razvoja robota:
- Hmmmm, etično i lukavo: Istraživači u Australiji razvili su robota koji se može šunjati naokolo ako se kreće samo kad ima dovoljno pozadinske buke da prikrije njegov zvuk.
- Kakav je to zujan zvuk?: Britanski vojnici u Afganistanu počeli su koristiti nadzorne bespilotne letjelice koje mogu stati u dlanove. Nazvan Black Hornet Nano, mali robot dugačak je samo četiri inča, ali ima špijunsku kameru i može letjeti 30 minuta s punim nabojem.
- Iscrtavanje površine: NASA razvija robota zvanog RASSOR koji teži samo 100 kilograma, ali moći će minerati minerale na Mjesecu i drugim planetima. Može se kretati po neravnom terenu, pa čak i preko zavojnica tako što će se ispružiti na rukama.
- Ah, požuda: I evo priče o ranom Valentinovu. Znanstvenici sa Sveučilišta u Tokiju koristili su muškog moljaca da vozi robota. Zapravo, koristili su se njenim pokretima parenja kako bi usmjerili uređaj prema objektu mirišljanom feromonima ženskog moljaca.
Video bonus: Dakle, jednostavno niste sigurni da biste mogli upravljati robom visokim 13 stopa? Nema problema. Evo sjajnog prikaza koji vam pokazuje koliko lako može biti. Sretan model čak vam pokazuje kako upravljati značajkom „Smile Shot“. Osmijeh, pucaju BB-i. Koliko je to teško?
Više sa Smithsonian.com
Ovaj robot je bolji tata nego tvoj tata
Roboti dobivaju ljudski dodir
