Prošle godine Facebook je stvorio dvije chatbote i zamolio ih da počnu razgovarati jedni s drugima, vježbajući svoje pregovaračke vještine. Čini se da su botovi prilično dobro pregovarali - ali to su učinili koristeći svoj izmišljeni jezik koji je ljudima bio nerazumljiv.
Povezani sadržaj
- Ovaj umjetnik boravi u tajnom svijetu klasificiranih tajni i nadzora
Ovdje ide svijet. Računala stvaraju sadržaj jedni za druge, a ne mi. Slike se snimaju na računalima, a druga računala ih mogu pregledati i interpretirati. Sve se odvija tiho, često bez našeg znanja ili pristanka.
Dakle, učenje kako vidjeti poput računala - čineći ove komunikacije stroj-stroj vidljivima - možda je najvažnija vještina 21. stoljeća.
25. listopada 2018., kvartet Kronosa - David Harrington, John Sherba, Hank Dutt i Sunny Yang - odsvirao je koncert u američkom muzeju umjetnosti Smithsonian. Gledalo ih je 400 ljudi i desetak algoritama umjetne inteligencije, a ljubazno ih je napisao Trevor Paglen, umjetnik iza izložbe „Sites Unseen“, koji se trenutno nalazi u muzeju.
Dok su svirali glazbenici, ekran iznad njih pokazao nam je ljude što računala vide.
Dok je Kronos prolazio kroz oplakivani komad podrijetlom iz Osmanskog carstva, algoritmi su na ekranu nad glavom otkrivali lica glazbenika, obrisujući usne, oči i nos svake osobe (i povremeno su vidjeli "duhova" lica tamo gdje ih nije bilo - često u Kronos dlake osnivača Harringtona). Kako su algoritmi postajali sve napredniji, video feed se odmicao sve dok nisu ostale samo neonske linije na crnoj pozadini. Konačno, obrisi lica su izblijedjeli sve dok nije preostalo apstraktno raspoređivanje linija - vjerojatno cijelo računalo koje je bilo potrebno za razumijevanje "lica", ali potpuno nerazumljivo za ljude.
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kvartet Kronos (Bruce Guthrie) 
"Stroj za gledanje", Trevor Paglen, Kvartet Kronos Debi na istočnoj obali predstave pod nazivom "Stroj za gledanje", poput Paglenovog drugog djela, tražio je od gledatelja i slušatelja da nauče kako vidjeti kako to rade računala i da preispitaju ljudski odnos prema tehnologiji - telefonima u džepu i očima u nebo i sve između toga.
2018. je godina, a ideja da nas mobiteli gledaju više se ne osjeća kao teorija zavjere koju je postavila blogerica iz podruma kapu od limenog folije i šešira. Google je uhvaćen ranije ove godine koji je pratio lokacije korisnika Android telefona, čak i ako su korisnici onemogućili tu značajku. Mnogi su uvjereni da nas telefoni slušaju kako bismo bolje posluživali oglase - Facebook i druge tvrtke negiraju te troškove, iako je to tehnički i pravno moguće učiniti. Tehnički novinari Alex Goldman i PJ Vogt istražili su i otkrili istu stvar: Nema razloga zašto nas telefoni ne bi slušali, ali s druge strane, oglašivači mogu prikupiti dovoljno informacija o nama pomoću drugih metoda koje jednostavno ne trebaju,
Upravo je u tom kontekstu izveden "Sight Machine". Desetak fotoaparata koji su gledali Kronos Quartet poslali su videozapise uživo s izvedbe na stalak s računalima, koji koriste izvanredne algoritme umjetne inteligencije za stvaranje jezive slike. Algoritmi su isti kao i naši telefoni koji nam pomažu da napravimo bolje selfieje, a koje koriste osobni automobili za izbjegavanje prepreka i oni koji se koriste za provođenje zakona i oružje. Pa dok su rezultati na ekranu ponekad bili lijepi ili čak smiješni, bilo je i straha.
„Ono što me zadivi u ovom određenom djelu jest da nam pokazuje nešto što jest - i to vrijedi za cijeli njegov rad - pokazuje nam nešto što je uznemirujuće i to radi pomoću trikova“, kaže John Jacob, kustos muzeja za fotografiju koja je organizirala "Nevidljiva mjesta."
"To je smišljeni trik", kaže, "i uspijeva."
Kasnije su sofisticirani algoritmi za prepoznavanje lica donijeli prosudbe o članovima Kronosa i prikazali njihove rezultate na ekranu. "Ovo je John [Sherba]. John ima između 24-40 godina", rekao je kompjuter. "Sunny [Yang] je 94, 4% žena. Sunčano je 80% ljuto i 10% neutralno."
"Nadam se da će se ova predstava pokazati, " kaže Paglen, "neki od načina na koji percepcija računala rade nije neutralna. Vrlo je pristrana ... sa svim vrstama političkih i kulturnih pretpostavki koje su nije neutralan. " Ako sustav razvrstavanja spolova kaže da je Sunny Yang 94, 4 posto žena, to znači da je netko 100 posto žena. "I tko je odlučio što je 100 posto žena? Je li Barbie 100 posto žena? A zašto je spol dvojak?" Pita Paglen. "Vidjeti da se to događa u trenutku kada savezna vlada pokušava doslovno izbrisati queer-ronde ljude, s jedne strane je smiješno, ali za mene je to i zastrašujuće."
Kasniji algoritam raspoređen s postocima i pomaknuo se da jednostavno identificira predmete u sceni. "Mikrofon. Violina. Osoba. Meduze. Perika." (Posljednja dva su očito greške; izgleda da je algoritam zbunio Hank Dutta za meduze i Harringtonovu pravu kosu za magarcu.) Tada su klasifikacije postale složenije. "Sunny drži škare", rekao je stroj dok je svjetlost svjetlucala s njezinih žica za violončelo. "John drži nož." Što bi se dogodilo ako je klasifikator dao ove - netočne - podatke policiji, nikad nećemo znati.
Većina krajnjih korisnika AI platformi - koji nisu umjetnici - može tvrditi da ti sustavi mogu imati svoje pristranosti, ali uvijek primaju konačni odjava od strane čovjeka. Amazonski algoritam algoritma Rekogservation koji tvrtka prodaje policijskim službama i, možda, ICE-u, pogrešno je identificirao 28 članova Kongresa kao ljude optužene za zločin uspoređujući njihova lica s mugshots snimcima u javno dostupnoj bazi podataka. U to je vrijeme Amazon tvrdio da je ACLU, koji je sustav koristio za izradu šibica, pogrešno koristio Rekognizaciju. Iz tvrtke su rekli da je zadana postavka sustava za utakmice, nazvana "prag pouzdanosti", samo 80 posto. (Drugim riječima, algoritam je bio samo 80 posto siguran da je uglednik John Lewis bio zločinac.) Glasnogovornik Amazona rekao je da preporučuje policijskim upravama korištenje praga povjerenja od 95 posto, a da se "Amazonovo obnavljanje gotovo isključivo koristi kako bi pomoglo suziti polje i omogućiti ljudima da brzo preispitaju i razmotre opcije koristeći svoju prosudbu. "Računala možda međusobno komuniciraju, ali - za sada - još uvijek traže od ljudi da obave zadnji poziv.
Glazba koju je Paglen odabrao s Kronos-ovim doprinosom također ima što reći o tehnologiji. Jedan je komad, "Powerhouse", Raymonda Scotta, "vjerojatno najpoznatiji po upotrebi u crtićima u tvorničkim scenama", kaže Paglen. "Ako ikad vidite tvorničku vrstu prekomjerne produkcije i polude, često se o tome govori glazba. Za mene je to način razmišljanja o toj gotovo karikaturističkoj industriji i nekako ih smjestiti u tehnološki kontekst." Još jedan komad, "Drugačiji vlakovi" Stevea Reicha, zatvorio je set. Kronos izvodi samo prvi pokret, a riječ je o djetinjstvu Reicha 1930-ih i 40-ih; Paglen kaže kako smatra da taj komad slavi "osjećaj obilja i napretka koji vlakovi olakšavaju." *
Spojena je sa slikama iz javno dostupne baze podataka pod nazivom ImageNet, koje se koriste za podučavanje računala stvarima. (Također se naziva "podaci o treningu", pa da, to je pomalo punka.) Zaslon je bljesnuo slike nemoguće brzo, pokazujući primjere voća, cvijeća, ptica, šešira, ljudi koji stoje, ljudi hodaju, ljudi skaču i pojedinci poput Arnolda Schwarzeneggera. Ako biste htjeli naučiti računalo kako prepoznati osobu, poput Schwarzeneggera, ili kuću ili koncept "večere", započeli biste pokazivanjem računala tim tisućama slika.
Objavljeni su i kratki videoisječci ljudi koji se ljube, zagrljaju, smiju i nasmiju. Možda bi AI obučen na ovim slikama bio dobroćudan, prijateljski raspoložen.
Ali "Različiti vlakovi" ne odnose se samo na optimizam; kasniji pokreti, koje Kronos nije igrao u četvrtak, ali ih "podrazumijeva" prvi, odnose se na to kako je obećanje putovanja vlakom postalo instrument holokausta. Vlakovi, koji su izgledali kao tehnološki napredak, postali su vozila u kojima su deseci tisuća Židova premješteni u logore smrti. Činilo se da dobronamjerna tehnologija postane potčinjena za zlo.
"To je poput:" Što bi možda moglo poći po zlu? " Kaže Paglen. "Prikupljamo sve informacije o svim ljudima na svijetu." "
A u stvari, kako su „Različiti vlakovi“ završavali, fokus se pomaknuo. Na ekranu se više nisu prikazivale slike Kronosa ili podaci o treningu iz ImageNeta; Umjesto toga, prikazivao je publiku uživo s video publikom jer su algoritmi za prepoznavanje lica odabrali značajke svake osobe. Zaista, čak i kad mislimo da nas ne promatraju, jesmo.
U video feedu publike uživo algoritmi za prepoznavanje lica odabrali su osobine svake osobe. (Bruce Guthrie) Kako bih ispričao ovu priču, napustio sam kuću i otišao do stanice podzemne željeznice, gdje sam skenirao elektroničku karticu povezanu s mojim imenom kako bih prošao kroz kretnicu i opet kad sam napustio metro u centru grada. U centru grada prošao sam polusatne sigurnosne kamere prije ulaska u muzej, gdje sam uočio najmanje još dvije (glasnogovornik Smithsoniana kaže da Smithsonian ne koristi tehnologiju prepoznavanja lica; isto policijsko odjeljenje gradske policije isto govori o svojim kamerama).
Snimio sam intervjue telefonom i prenio zvuk na uslugu transkripcije koja koristi AI da shvatim što ja i moji subjekti izgovaram i mogu ili ne moraju ciljati oglašavanje prema meni na temelju sadržaja intervjua. Poslao sam e-poštu pomoću Gmaila koji i dalje "čita" sve što šaljem (iako više ne poslužuje oglase).
Tijekom postupka izvještavanja, dok sam šetao gradom, naletio sam na - ne izmišljam - auto Google Street View. Dvaput. Nije paranoja ako te stvarno promatraju, zar ne?
Pa što je preostalo u ovom svijetu u kojem računala gledaju i po mogućnosti donose prosudbe o nama? "Sight Machine" nas traži da naučimo razmišljati poput računala - ali također nas podsjeća da postoje neki dijelovi nas koji su, za sada, još uvijek potpuno ljudi.
Glazba, kaže Paglen, "je nešto što doista nije moguće izmjeriti ... kada gledate sustav računalnog vida koji u biti ispituje izvođače, zaista za mene ističe da je ogroman jaz u percepcijama između načina na koji doživljavamo kulturu, emocija i značenja. i na sve načine na koje su oni nevidljivi autonomnim sustavima. "
Ili kao što kaže Harrington, možete stvarati glazbu s drvenom violinom ili onom izrađenom na 3D pisaču. Možete koristiti luk od ugljičnih vlakana ili izrađen od drveta pernambuko. Ali, kaže, luk ipak treba povući preko žice. Glazba "postaje dragocjenija jer je ručna izrada".
I za sada je to samo nešto što možemo učiniti. Strojevi nam možda više ne trebaju. Ali kada je u pitanju svečani zvuk klanjanja na violini i emocionalne žice na kojima napominju teglice, nisu nam potrebni strojevi.
"Trevor Paglen: Neviđena mjesta", kustos John Jacob, nastavlja se u američkom umjetničkom muzeju Smithsonian u Washingtonu, do 6. siječnja 2019. godine. Planirano je da se otputuje u Muzej suvremene umjetnosti u San Diegu, 21. veljače 2. lipnja, 2019.
* Bilješka urednika, 2. studenoga 2018.: Ova je priča uređena kako bi se razjasnio namjenski smisao i priča o podrijetlu skladbe Steve Reicha "Drugačiji vlakovi".
