"Ti si u pustinji, hodaš po pijesku, kad odjednom pogledaš dolje i vidiš kornjaču ... Dosegneš dolje i baciš kornjaču na leđa. Kornjača leži na leđima, trbuh peče na vrućem suncu, tuče noge pokušavajući se okrenuti, ali ne može. Ne bez vaše pomoći. Ali ne pomažeš. "
Povezani sadržaj
- Voltaire: Filozof prosvjetiteljstva i lutrija prevarant
Možda ništa više nije obilježje distopijskog filma Ridleyja Scotta iz 1982. godine Blade Runner od Voight-Kampff testa kojim upravljaju filmski titularni policajci, uključujući Harrisona Forda kao Ricka Deckarda. Niz pitanja izmišljenog testa, kao što je onaj gore, osmišljen je tako da odvoji ljude od replikanata izazivanjem fiziološkog odgovora koji ukazuje na empatiju. Samo pravi ljudi, a ne replikatori, osjećaju tu emociju. Deckardova je optužba baviti se replikantima koji započinju nepoštivanje naloga. On i drugi koriste test da bi odlučili hoće li se „povući“ - ubiti - replikante.
Ovi buntovni androidi ne samo da predstavljaju prijetnju ljudima, već na ovom svijetu nemaju zakonska prava na zaštitu. Kako bi mogli, kada se ne smatraju ljudskom?
To je tako zanimljiva zadaća da će se priča nastaviti u dugo očekivanom nastavku Blade Runner: 2049. Dio razloga za trajnu popularnost izvornog filma je Deckardova osobna borba, ona koja se slično ponaša u filmovima poput Nje i prikazuje se poput Westworld ": Tko ili što se smatra čovjekom, posebno u svijetu napredne tehnologije?
A da bismo ga razumjeli, moramo se obratiti nekim vrlo starim filozofima.
***
Za stare Grke, strojevi koje su napravili bogovi ili izuzetno talentirani ljudi često su prevarili ljude vjerujući da su androidi vjerodostojni, piše Adrienne gradonačelnik u Aeonu. Kralj Sparte Nabis posjedovao je robotsku verziju svoje žene, čija je dojka potajno ukrašena noktima. Upotrijebio je stroj kako bi zagrlio građane koji ga nisu poslušali, a njihovo meso probilo je skriveno oružje. A u Kini je automati iz 10. stoljeća prije Krista koju je izradio izumitelj Yan Shi izgledao toliko ljudsko, pjevajući i namignuvši damama da je kralj bio bijesan na to. Tada je saznao istinu i divio se stroju koji je imao čak i mehaničke organe. Kao što znanstvenik Nigel Wheale piše, „U svim su se razdobljima„ ljudske stvari “zamišljale kao entiteti koji testiraju ili definiraju suvremeni osjećaj ljudske vrijednosti.“
Sve ovo znači reći da se briga o tome kako razlikovati ljude od krvi i krvi od strojeva koji samo izgledaju ljudsko (i odlučiti da li ti strojevi predstavljaju prijetnju za nas Homo sapiens) nije ograničena na moderno vrijeme. Uvijek smo se pitali jesu li svi ljudi zaista takvi kakvi izgledaju - što je razlog zašto su filozofi prosvjetiteljstva proveli toliko vremena rastavljajući pitanje što čovjeka čini ljudskim.
Rene Descartes, francuski filozof iz 17. stoljeća koji je široko putovao Europom, duboko je razmotrio pitanje što nas čini ljudima. Nije slučajno da je njegov najpoznatiji citat ponovio jedan od replikatora u Blade Runneru: "Mislim, dakle jesam." A ako sve to nije dovoljan dokaz njegove povezanosti s filmom, razmislite o imenima: Descartes i Deckard.
Kao što filozof Andrew Norris ističe, Descartes je sumnjao da će jednog dana možda trebati test da li je nešto ljudsko ili strojno. "Da postoje strojevi koji nose slike naših tijela i sposobni su oponašati naše postupke koliko je to moguće, još uvijek bi ostala dva najizvjerenija ispitivanja pomoću kojih bismo znali da oni zapravo nisu ljudi", napisao je Descartes. Tako je stvorio vlastite testove koji su se oslanjali na jezične sposobnosti i fleksibilnost ponašanja.
Replikanti govore i ponašaju se kao ljudi, što znači da bi prošli Descartesove testove. Ali postoji još jedan razlog zbog kojeg se Deckard bori da opovrgne njihovu čovječnost: Replikanti također imaju ugrađene uspomene. Za engleskog filozofa Johna Lockea ono što čovjeku pruža osjećaj samoga sebe jest kontinuitet njihovih sjećanja. Ljudsko se tijelo s vremenom mijenja, ali sjećanja ostaju, nudeći temelj za stabilan identitet. "Koliko se ova svijest može proširiti unatrag do bilo koje prošle akcije ili misli, ona tako daleko doseže identitet te osobe", napisao je Locke.
Dakle, za Rachael Blade Runner, najnapredniju replikantu koja je do sada razvijena, nije važno što će imati samo nekoliko godina; njezina se sjećanja protežu mnogo unatrag, ostavljajući dojam da je živjela mnogo duže. To je ono što Rachael čini tako tragičnom figurom - "njezina" sjećanja ne pripadaju njoj. Potječu od nećakinje njezinog izumitelja.
"To je srdačna stvar, ali možete zamisliti [sjećanja] su joj još uvijek posebna čak i nakon što sazna da nisu istinski njezine", kaže Susan Schneider, profesorica filozofije na Sveučilištu u Connecticutu i članica Etike i tehnologije grupa na Yaleu. "To je poput otkrivanja da ste prenesenu kopiju, a ne osobe koja vrši prijenos. Ali još uvijek imate neki poseban odnos prema njima. Kao roditelj. "
No, ne samo sjećanja ili racionalnost čine čovjeka u Blade Runneru. Najvažnije od svega, prema testu Voight-Kampff, jest empatija. Budući da mi ne možemo čitati umove niti vidjeti bilo kakve fizičke dokaze o njima, mislioci poput njemačkog filozofa Theodora Lippsa tvrdili su da možemo opaziti da drugi osjećaju i djeluju kao i mi pomoću snage empatije.
Harrison Ford kao Rick Deckard upravlja Voight-Kampff testom u originalnom Blade Runneru. (Warner Bros.) "Blade Runner mora, ironično, testirati empatiju drugih - ne ovdje u Lippsovom smislu, nego u njihovoj osjetljivosti na sada nestali prirodni svijet nastanjen nečovječnim životinjama", piše Norris u svom radu o filozofija filma. Odatle dolazi pitanje čuvenog kornjača zarobljenog na vratu u pustinji.
"Emocije nikada neće biti savršen test ljudskosti: sociopati su, uostalom, i ljudi", e-mailom je izjavila Deborah Knight, profesorica filozofije na Sveučilištu Queen. "Ali emocije su više od nekognitivnih reakcija. Pomažu nam u donošenju prosudbi o tome što trebamo činiti i kome bismo trebali težiti. "
To je posebno jasno u slučaju replika Roya Battyja, kojeg glumi Rutger Hauer. Roy osjeća ljudske emocije i ima aspiracije, ali ne dobija ljudski vijek, rekao je Knight. Roy je svjestan da je, poput ostalih replikanata, izgrađen da umre nakon samo četiri godine, što ga razumljivo ljuti.
Dakle, replikanci vjerojatno osjećaju osjećaje i imaju sjećanja. To ih čini ljudskim? Za Schneidera definitivni odgovor ne mora biti bitan. Replikanti s ljudima dijele dovoljno kvaliteta da zaslužuju zaštitu. "To je vrlo jak slučaj za tretiranje [nečovjeka] s istim zakonskim pravima koja dajemo čovjeku. Ne bismo zvali [Rachel] čovjekom, već možda osobom ", kaže ona.
Za Eric Schwitzgebel, profesor filozofije na Kalifornijskom sveučilištu u Riversideu, zaključak je još dramatičniji. "Ako jednog dana stvorimo robote s kognitivnim i emocionalnim sposobnostima sličnim ljudskim sposobnostima, dugujemo im više moralnog razmatranja nego što bismo inače dužni inače sličnim ljudskim bićima", piše u Aeonu. "Mi ćemo biti njihovi tvorci i dizajneri. Stoga smo izravno odgovorni i za njihovo postojanje i za njihovo sretno ili nesretno stanje. "
***
Blade Runner je samo film i ljudi još uvijek nisu uspjeli stvoriti replike. Ali učinili smo dosta napretka u umjetnoj inteligenciji, od automobila koji se samostalno voze, učenja prilagođavanja ljudskoj grešci, do neuronskih mreža koje se međusobno svađaju kako bi bile pametnije. Zato za Schneider, pitanja koja film postavlja o prirodi čovječanstva i kako bismo mogli tretirati androide imaju važne implikacije u stvarnom svijetu.
"Jedna od stvari koje radim je razmišljanje o tome hoće li se ikada išta osjećati kao AI. Hoće li ikada postojati Rachael? "Kaže Schneider, koja koristi Blade Runner u svom razredu o filozofiji u znanstvenim fantastikama. Ove godine, Schneider je objavio članak o testu koji je razvila s astrofizičarem Edwinom Turnerom kako bi otkrio može li neko mehaničko biće zapravo biti svjesno. Kao i test Voight-Kampff, zasnovan je na nizu pitanja, ali umjesto na zahtjevu prisutnosti empatije - osjećaja usmjerenih prema drugom - gleda na osjećaje prema sebi. Test, nazvan AI test svijesti, u tijeku je patentiranja na Princetonu.
Test se razlikuje od poznatijeg Turingovog testa koji je razvio matematičar Alan Turing 1951. U ovom ranijem testu sudac bi započeo digitalni razgovor sa sudionikom (poput onoga što biste danas imali u chatroomima) i postavljao pitanja na koja treba razaznati je li ispitanik bio čovjek ili stroj. No, kako Schneider u svom radu ističe, znanstvenici mogu razviti programe koji prolaze Turingov test, ali nisu svjesna bića. Turingov test zainteresiran je za procjenu vjerodostojnosti između reakcije stroja i ljudskog odgovora, a ne razumijevanja je li stroj senzibilan ili ne. Kao i test Voight-Kampff, i Schneiderov test svijesti o AI govori o pokušaju razumijevanja onoga što se događa unutar stroja.
Rad kao takav je hitan, kaže ona, jer čovječanstvo nije etički spremno nositi se sa posljedicama stvaranja života osjećaja. Ono što će prosuditi naše kreacije još teže je ljudsko oslanjanje na antropomorfizam koji će naznačiti ono što bi trebalo smatrati vrijednim moralnog razmatranja. "Neki [roboti] izgledaju ljudski ili su simpatični i lepršavi, tako da mislimo na svoje mačke i pse", kaže Schneider. "Zbog toga vjerujemo u njihov osjećaj. Vrlo smo lakoverni. Može se ispostaviti da samo biološki sustavi mogu biti svjesni ili da su najpametniji AI oni svjesni, one stvari koje ne izgledaju ljudsko. "
Znanstvenicima je važno da se savjetuju s filozofima - što mnogi već čine, kaže Schneider -, ali i da bi javnost mogla razmišljati o posljedicama ove vrste tehnologije. I, dodaje, nisu se svi filozofi složili o prirodi svijesti, tako da nema lakih odgovora.
Možda će nam holivudski filmovi poput Blade Runnera: 2049 približiti korak u tim razgovorima. Ali ako to ne uspije, morat ćemo samostalno preuzeti posao ulaska u etičnu tremu. Prije, a ne kasnije - ili ćemo naići na problem poput replikanata i nemamo pojma kako odgovoriti.
