Mnogo diskusija i etičkih razmišljanja o automobilima koji se voze bili su usredotočeni na tragične dileme, poput hipotetike u kojoj automobil mora odlučiti hoće li pregaziti grupu školarina ili se srušiti s litice, ubijajući vlastite putnike. Ali takve su situacije ekstremni slučajevi.
Kao posljednja nesreća - u kojoj je osobni automobil ubio pješaka u Tempe, Arizona - pokazuje svakodnevne svakodnevne situacije na svakom križanju, skretanju i raskrižju, puno teže i šire etičke poteškoće.
Etika krajnosti
Kao filozof koji radi s inženjerima iz Stanfordskog Centra za istraživanje automobila, u početku sam bio iznenađen što smo proveli naše sastanke u laboratoriji razgovarajući o onom što sam smatrao lakim pitanjem: Kako se automobil koji vozi sam mora približiti kolniku?
Moja pretpostavka bila je da ćemo razmisliti o tome kako automobil treba odlučivati između života svojih putnika i života pješaka. Znao sam razmišljati o takvim dilemama, jer ti scenariji sudara nalikuju poznatom filozofskom brainteaseru nazvanom "problem s kolicima." Zamislite da se odbačeni kolica zaputi stazama i da će pogoditi bilo skupinu od pet ljudi ili jednu osobu - biste li ubiti jednog da spasi pet?
Međutim, mnogi filozofi danas sumnjaju da je istraživanje takvih pitanja plodan put istraživanja. Na primjer, Barbara Fried, kolegica iz Stanforda, tvrdila je da tragične dileme čine da ljudi vjeruju da se etičke poteškoće uglavnom javljaju u ekstremnim i teškim okolnostima.
Zapravo su etičke poteškoće sveprisutne. Svakodnevne, prizemne situacije iznenađujuće su neuredne i složene, često na suptilne načine. Na primjer: Treba li vaš grad potrošiti novac na program prevencije dijabetesa ili na više socijalnih radnika? Treba li vaš lokalni ured za javno zdravstvo unajmiti drugog inspektora za higijenske standarde restorana ili nastaviti program koji nudi besplatne igle i potrepštine za injekcije?
Na ova su pitanja izuzetno teško odgovoriti zbog neizvjesnosti o posljedicama - poput toga tko će biti pogođen i u kojoj mjeri. Rješenja koja su filozofi predložili za ekstremne i očajne situacije nisu od velike pomoći ovdje.
Problem je sličan osobnim automobilima. Razmišljanje o ekstremnim situacijama i scenarijima sudara ne može pomoći u odgovoru na pitanja koja se javljaju u svakodnevnim situacijama.
Izazov na križanju
Moglo bi se zapitati, što može biti toliko naporno u svakodnevnim prometnim situacijama kao što je prilaz nogostupu, vožnja križanjem ili skretanje ulijevo. Čak i ako je vidljivost na križanju ograničena i ponekad je teško reći želi li obližnji pješak zapravo prijeći ulicu, vozači se s tim svakodnevno suočavaju.
No za osobne automobile, takve svakodnevne situacije predstavljaju izazov na dva načina.
Lako za ljude često znači teško za računala. (XKCD, CC BY-SA) Prvo, postoji činjenica da je ono što je lako za ljude često teško za strojeve. Bilo da se radi o prepoznavanju lica ili vožnji bicikla, dobri smo u percepciji i mehaničkim zadacima jer je evolucija izgradila te vještine za nas. To, međutim, čini ove vještine teškim za podučavanje ili inženjerstvo. To je poznato kao "Moravčev paradoks."
Drugo, u budućnosti u kojoj su svi automobili osobni automobili, male promjene u ponašanju u vožnji donijele bi veliku razliku u agregatu. Odluke koje su inženjeri donijeli danas, drugim riječima, odredit će ne kako jedan automobil vozi, već kako voze svi automobili. Algoritmi postaju politika.
Inženjeri podučavaju računala kako prepoznati lica i objekte koristeći metode strojnog učenja. Mogu koristiti mašinsko učenje i za pomoć osobnim vozilima da oponašaju vožnju ljudi. Ali to nije rješenje: ne rješava problem što inženjeri donose široke odluke o sigurnosti i mobilnosti.
Nadalje, automobili koji se voze ne bi trebali voziti poput ljudi. Ljudi zapravo nisu baš dobri vozači. I voze se na etički zabrinjavajući način, odlučujući hoće li prinosa na križanju, na temelju dobi, rase i prihoda pješaka. Na primjer, istraživači iz Portlanda otkrili su da crni pješaci prolaze dvostruko više automobila i da moraju čekati trećinu duže od bijelih pješaka prije nego što mogu prijeći.
Automobili koji se voze samo trebaju voziti sigurnije i poštenije nego ljudi.
Svjetska etika
Etički se problemi produbljuju kada naiđete na sukob interesa koji se pojavljuju u svakodnevnim situacijama poput križanja, zavoja i raskrižja.
Na primjer, dizajn osobnih automobila mora uravnotežiti sigurnost ostalih - pješaka ili biciklista - s interesima putnika automobila. Čim automobil ide bržim od hodanja, ne može se spriječiti da se u posljednjoj sekundi naleti na dijete koje bi moglo trčati na cestu. Ali ritam hodanja je, naravno, previše spor. Svi trebaju doći na mjesta. Pa kako inženjeri trebaju uspostaviti ravnotežu između sigurnosti i mobilnosti? A koja brzina je dovoljno sigurna?
Pojavljuju se i druga etička pitanja. Inženjeri moraju napraviti kompromise između mobilnosti i utjecaja na okoliš. Kada se primijene na svim automobilima u zemlji, male promjene računalno upravljanog ubrzanja, zavoja i kočenja mogu imati ogromne učinke na potrošnju energije i emisiju onečišćenja. Kako bi inženjeri mogli trgovati učinkovitošću putovanja s utjecajem na okoliš?
Kakva bi trebala biti budućnost prometa?
Okolne situacije predstavljaju nove inženjerske i etičke probleme, ali također postavljaju ljude u pitanje osnovne pretpostavke prometnog sustava.
Za sebe sam počeo ispitivati da li uopće trebamo mjesta koja se zovu "križanja"? Uostalom, samovozeći automobili potencijalno mogu osigurati sigurno prelazak ceste bilo gdje.
I nepotrebni nisu samo križni putovi. Semafori na raskrižjima mogli bi biti stvar prošlosti. Ljudi trebaju semafore kako bi bili sigurni da će svi prijeći raskrižje bez sudara i kaosa. No, automobili koji se voze mogu se nesmetano koordinirati.
Ovde je veće pitanje ovo: S obzirom na to da su automobili koji se voze bolji od ljudskih vozača, zašto bi se ta vozila trebala primjenjivati prema pravilima koja su stvorena za ljudsku zabludu i ljudske pogreške? A kako bi produžili ovaj misaoni eksperiment, uzmite u obzir i općenitije pitanje: Da bismo mi kao društvo mogli dizajnirati svoj prometni sustav ispočetka, kako bismo željeli da on izgleda?
Budući da se ta teška pitanja tiču svih u gradu ili društvu, oni zahtijevaju od grada ili društva da se dogovore oko odgovora. To znači uravnotežiti konkurentske interese na način koji djeluje za sve - bilo da ljudi razmišljaju samo o križanju ili o prometnom sustavu u cjelini.
S automatskim upravljanjem automobilima, društva mogu redizajnirati svoje prometne sustave. Od nogostupa do cjelokupnog prometnog dizajna - svakodnevne su situacije koje postavljaju zaista teška pitanja. Ekstremne situacije su distrakcija.
Problem s kolicima ne odgovara na ova teška pitanja.
Ovaj je članak prvotno objavljen u časopisu The Conversation.
Johannes Himmelreich, suradnik interdisciplinarne etike, Sveučilište Stanford, Obiteljski centar za etiku u društvu McCoy
