Uberovi autonomni automobili su se vratili—i uzeo sam jedan za okretanje

Tech


Uberovi autonomni automobili su se vratili—i uzeo sam jedan za okretanje

Na većini satova moralnog razmišljanja vjerojatno ćete naići na dilemu s kolicima. Postoji nekoliko verzija filozofskog problema, ali u suštini je ovo: postoji odbjegli vlak koji juri niz pruge i ide ravno prema pet nevinih ljudi. Stojite u blizini poluge i imate priliku skrenuti vlak, samo što je šesta osoba na divergentnoj ruti koja će sigurno biti pogođena. Što radiš?

Prevladavajuća misao je žrtvovati nekolicinu kako bi spasili mnoge, ali što ako je ta usamljena osoba na preusmjerenoj stazi vaš sin? Što biste tada učinili?


Što ako zamolimo robota da donese iste odluke - što će izabrati?

To je pitanje koje se sve češće postavlja kako se strojevi počinju baviti složenim ljudskim zadacima poput vožnje. 'To je najsloženija dnevna stvar koju prosječna osoba radi', kaže profesor Raj Rajkumar s odjela za robotiku Sveučilišta Carnegie Mellon. Prema Rajkumaru, samovozeća vozila bit će industrija vrijedna više bilijuna dolara do kraja ovog desetljeća - to je puno robotskih kolica koja zumiraju prema tih pet ljudi.

No, odgovor na AI verziju nedoumice o kolicima – kao i na sva dobra etička pitanja – je trik: robot se u idealnom slučaju nikada ne bi našao u ovoj situaciji, ili sam tako naučio dok sam završavao svoj stručni tečaj za misiju s Uberovom grupom za napredne tehnologije za pilotiranje njihova autonomna vozila. U suštini, Sveučilište Uber, gdje sam diplomirao isprobavanje ranog softvera za samostalno upravljanje za buduću (čitaj: punu nade) budućnost kada će dotični robot biti dovoljno inteligentan da pokuša samostalno voziti bez pratnje.

Bio sam prvi civil pozvan da sudjeluje u programu i nisam uspio. Spektakularno. Ne zato što nisam bio dobar vozač (trebalo bi vidjeti moje vještine paralelnog parkiranja) – i ja sam prošao seminar filozofije – već zato što se strogost programa dramatično promijenila otkako je ponovno pokrenut nakon incidenta na koji se tim ATG-a poziva u prigušeni tonovi kao 'Tempe'.


Dana 18. ožujka 2018. u Tempeu u Arizoni, Uber je doživio vlastitu stvarnu varijaciju problema s kolicima, dok je jedan od njegovih Volvo XC90 klizio prema katastrofi. Bila je to savršena oluja: operaterka vozila bila je pretjerano sigurna u tehnologiju, obraćajući pažnju na svoj mobitel umjesto na cestu; samovozeći softver – koji je još u nastajanju – nije uspio pozitivno identificirati prepreku na izravnom putu automobila; a pješak je noću pokušao prošetati biciklom širokim bulevarom koji se nalazi u blizini autoceste u području označenom znakovima koji je zabranjivao šetnju. Nitko nije bio mentalno tu - čovjek ili robot - da povuče ručicu, a jaywalker je ubijen, odmah zatvorivši Uberov rastući program autonomnih vozila.

Prošlo bi punih devet mjeseci prije nego što bi se program ponovno pokrenuo u prosincu 2018. kao smanjena verzija prijašnjeg sebe, uglavnom usredotočena na testnu stazu u blizini sjedišta ATG-a u Pittsburghu. (San Francisco, Dallas i Toronto također imaju male timove za istraživanje satelita, ali Tempe ostaje trajno zatvoren.) A iz produžene stanke rodila se nova programska filozofija koja daje prioritet kalibru prikupljenih podataka (umjesto volumena). Definirane su nove razine sigurnosti, a nastavni predmeti su redizajnirali kako bi 'bliže odražavali zrakoplovnu certifikaciju', objašnjava Nick Wedge, voditelj učenja i razvoja u Uber ATG. Ukratko, podignuti su prethodno uspostavljeni sigurnosni standardi, koji su uključivali dodatna smanjenja latencije sustava - mikro-kašnjenja u komunikaciji senzora-softver-hardver autonomnih vozila - kako bi se osiguralo da se 'Tempe' više neće ponoviti.

Usporedba sa zrakoplovstvom je prikladna, budući da je upotreba autonomne tehnologije na komercijalnim zrakoplovima već uobičajena - piloti rukovode taksiranjem, polijetanja i slijetanja, ali jednom u zraku, pokreće se tehnologija samopilotiranja, koju nadzire pilotska kabina. A budući da je trenutni način prijevoza s najboljim sigurnosnim rekordom – bez obzira na nesreću Boeinga 737 Max 8 povezanu sa softverom – standardi za upravljanje procjenom rizika u zrakoplovnoj industriji sada su postali prijeko potreban predložak na kojemu je nova samovozeća industrija postavila svoju sigurnost okvir. Nebo je također, naravno, kontrolirano okruženje jer svaki pilot prolazi kroz intenzivnu obuku; jedan ograničavajući čimbenik za proliferaciju samovozećih vozila na terenu je jednostavno nepredvidljivost drugih ljudi. To je ono što vam otac govori kada vas uči kako voziti na Walmartovom parkiralištu: 'Ne brinem se za tebe - nego za druge vozače!'

Nikad nisam zamišljao da kao tinejdžer toliko očajnički želi dobiti dozvolu za učenje da ću jednog dana testirati tehnologiju u tijeku koja bi u ne tako dalekoj budućnosti mogla učiniti licencu zastarjelom. Nakon nekoliko preliminarnih dana ulaska, brifinga i predavanja o Uberovoj korporativnoj strukturi, polaznici (svi osim mene zaposlenici smo ATG-a) sudjeluju u cijelom tjednu intenzivnih ručnih operacija, upoznaju se s Volvom XC90 i testiraju njegove mogućnosti na zatvorenom prostoru. -izvan staze. Vježbaju se manevri u slučaju nužde (poput provjere škripavih granica blokada blokade), kao i rigorozne vježbe navigacije rutom, parkiranja i vožnje unatrag - rotacija automobila s ključaonicom (izvlačenje automobila s parkirnog mjesta i vraćanje u isti prostor kroz gotovo nemoguće zategnutu petlju) može se svrstati u jednu od najneugodnijih stvari koje sam učinio u posljednje vrijeme.


“Mnogo onoga što naučite u ručnom dijelu programa obuke specijalista za misiju zapravo se na kraju pretvori u upravljanje vozilom koje se samostalno vozi”, objašnjava Wedge. “Stvari poput graničnih točaka i okluzija su stvarno važne” – pojmovi koje nikad nisam čuo dok sam učila voziti kad sam bila mlađa, ali su ključni čimbenici kada vozač određuje rizik. Potreba da svi stručnjaci za misiju potpuno rukovode vozilom ključna je jer su oni trenutno posrednik između robota i njegovog okruženja dok se softver nastavlja prilagođavati uvjetima na cesti u ovoj graničnoj fazi. Razina i strogost ručnog dijela programa obuke također naglašava očiglednu ironiju modernog cestovnog putovanja: da su redoviti vozači sudjelovali u ručnom programu obuke ovog kalibra, već bismo bili jedan divovski korak bliže autonomiji zbog ogromne potencijalno smanjenje ljudske pogreške. Pa zašto se redoviti vozači uopće ne obučavaju na višu razinu?

Jednostavan odgovor je: način na koji danas vozimo smatra se dovoljno dobrim. 35.000 godišnjih smrtnih slučajeva u vozilima može zvučati puno – i to je sigurno poražavajuće za one koji su uključeni – ali statistički, morali biste prijeći preko 100.000.000 milja (to je 390 godina neprekidne vožnje) prije nego što se dogodi smrtni slučaj. Kada uklonite ograničavajuće čimbenike kao što su ometana vožnja (slanje poruka), smanjena vožnja (pijanost) i umor (stručnjaci ATG misije smiju biti za volanom samo dva sata; bilo je 12 prije Tempea), ljudski je mozak prirodno opremljen za promatrati, predviđati i reagirati u scenarijima poput kolica; mozgovi samovozećih robota još nisu tu.

Možete pritisnuti prekidač za autonomni način vožnje automobila tijekom trećeg tjedna obuke stručnjaka za misiju. I upravo je ovaj dio nastave doživio najopipljiviju promjenu paradigme od Tempea. Iako je mjerenje subjektivno, automobili se sada obrambenije voze – Uber je u početku imao previše povjerenja u ljudsku ruku kao sigurnu od kvarova – s poboljšanim otkrivanjem i praćenjem koji bolje razlikuje objekte neobičnog oblika u pokretu poput pješaka i biciklista.

Metode prikupljanja podataka dramatično su se promijenile i nakon Tempea. Prije je postojala potreba za demonstriranjem napretka kroz ono što ATG tim sada naziva “zahvaćanjem zemlje”: objektivan način pružanja mjerljivih ažuriranja – prijeđenih milja – dok su samovozeći automobili zujali duž prometnih bulevara, pokušavajući interakciju s konstantom stvarnog svijeta roj tijela u pokretu. Umjesto vježbanja manevara, poput skretanja ulijevo, prevladavala je misao da se softveru za robotsku vožnju, sa svojim beskonačnim memorijskim kapacitetom, da napametno razumijevanje svake ulice, ugla i krivine, poput pamćenja milijuna fraza na stranom jeziku, ali nikad ne shvaćanja konjugacije ili osnove strukture rečenice.


Sada je zlatna groznica za ucrtanim miljama zamijenjena kvalitativnim pristupom učenju: naučite softver svim pravilima i iznimkama stranog jezika (kao što je vježbanje svih mogućih vrsta lijevog skretanja na probnoj stazi) i on će znati kako neprimjetno generirati bilo koju rečenicu koja joj je potrebna (na cesti). Kako softver uči, on radi samo u granicama okruženja koje uči, isprobavajući nove podatkovne točke kao što bi francuski student sa svojim učiteljem prije nego što krenu na let za Pariz – to je sporije sagorijevanje, ali Uber više ne pokušava prokuhati ocean.

I tu dolazi u obzir pitanje trik robotskih kolica. Poput ljudi, umjetna inteligencija percipira, predviđa i reagira na scenarije s kojima je suočena, ali razlika leži u sofisticiranosti softvera za samovozu koji se temelji na aplikaciji. Kada su fino podešene, njegove mogućnosti predviđanja bit će toliko precizne da se automatizirana kolica jednostavno neće uhvatiti u koštac s pet – ili jednom – ljudima.

Bez obzira na prevladavajuće društveno nepovjerenje koje gajimo prema AI – da posjeduju ljudske vještine donošenja odluka, ali bez moralnog vela – strojevi mogu poduzeti prediktivne mjere kako bi eliminirali potencijalni rizik koji uopće pokreće dilemu kolica. 'S stalnim pogledom od 360° na svijet oko sebe, samovozeća vozila rade bez problema s ljudskim performansama kako bi donosila sigurnije, informiranije odluke o tome kako reagirati na stvari koje se događaju oko njih', nastavlja Nat Beuse, voditelj sigurnosti za Uber ATG. Korištenje super-ljudske tehnologije poput lidara (detekcija svjetla i dometa), radara i kamera nadilazi senzorna ograničenja koja ručni vozači inherentno posjeduju; u suštini, ne postoji takva stvar kao što je robotska mrtva točka. To u konačnici čini scenarij kolica zastarjelim jer sama dilema pretpostavlja ljudski neuspjeh u percepciji, što pokreće predviđanje (pet ili jedna osoba) i reakciju (odabir puta); pojačan pogled na svijet uključuje ranije i temeljitije rasuđivanje kako bi izolirao negativne varijable prije nego što se pretvore u neželjena predviđanja.

Ali što se događa kada se softver zaglavi? Stalno se vrti na mom prijenosnom računalu, pa što da radimo ako se dogodi u automobilu koji se samostalno vozi? Velik dio autonomne nastave odnosi se na ono što se naziva 'injektiranje grešaka' - pregovaranje o namjerno stvorenim kvarovima u tehnologiji samovoze kako se povijest (tj. Tempe) ne bi ponovila. Vrijeme potrebno da se povrati kontrola nad vozilom (pomicanje upravljača ili dodirivanje gasa ili pauza vraća vozačku sposobnost pilota) propisno se mjeri jer iznenadna zaustavljanja i ključevi pomažu polaznicima da vježbaju smanjivanje vremena reakcije na što bliže nula sekundi koliko je moguće, ako se u stvarnom životu dogodi bilo kakva štucanja na terenu. Usavršavanje budnosti vozača ključni je čimbenik u izbjegavanju nezgoda na putu prema potpuno autonomnoj vožnji budući da je samozadovoljstvo operatera bio jedan od vodećih uzroka incidenta u Tempeu. 'Naša trenutna tehnologija zahtijeva visoko obučene stručnjake za misije za volanom u svakom trenutku, a tek kada potvrdimo da naš sustav ispunjava našu sigurnost, istražit ćemo potpuno autonomnu vožnju', dodaje Wedge. A s novim, post-Tempe sigurnosnim okvirom posuđenim iz zrakoplovne industrije, svaki rizik mora se uzeti u obzir (i jamstvo da softver neće skočiti na plažu) prije nego što automobil bez vozača može poletjeti.

Da sam diplomirao, postao bih dio elitnog tima u Uber ATG-u koji se – dok tehnologija ne dosegne prihvatljivi prag upotrebe – bori s još jednom filozofskom dilemom koju Wedge naziva paradoksom nepovjerenja: “Uspjeh Stručnjak za misiju ovisi o životu u sivom prostoru između navijanja za uspjeh tehnologije, ali očekivanja da će propasti. Ti si ujedno i njegov najentuzijastičniji prvak, ali i najveći nevjernik.”

Još je čudnija ideja da potpuni uspjeh tima stručnjaka za misiju – postizanje onoga što se zove NVO (bez operatera vozila) – znači eventualni višak; u biti dotjeruješ tehnologiju kako bi se učinio zastarjelim. Što je onda motivacija (kaže pisac u sve manjem području novinarstva)?

Kratak odgovor je da Uber još ne teži svijetu potpune autonomije – razvoj područja staza za samostalno vožnju trenutačni je cilj.

Prije deset godina sve je to bila gerilska taktika dok se Uber spustio padobranom na ulice i tako dramatično promijenio transportne paradigme da gradovi nisu imali izbora nego poslušati. Danas su ti jotabajti korisničkih podataka postali vrijedni alati za ista odredišta jer izoliraju rute koje su pripremljene za autonomiju; arterije visoke gustoće u zajedničkoj operativnoj domeni gdje bi samovozeća vozila mogla ublažiti promet, smanjiti potencijal sudara i sniziti cijenu prijevoza za putnika.

Autoceste su posebno pogodan prostor za autonomiju, jer najbolje približavaju komercijalne uvjete letenja sa svojim dugim, širokim trakama, bez zavoja ili pješaka i jednim protokom vozila naprijed.

Dok se automobilske tvrtke poput Tesle nadaju povećati prodaju svojim blistavim verzijama 'autopilota' (koji je, za zapisnik, unaprijeđena verzija tempomata, a ne odgovarajuća autonomija), Uber bi radije uzeo automobil iz vaš prilaz. Nisu donesene nikakve dramatične odluke o potpunom napuštanju vašeg vozila, ali idealna bliska budućnost omogućila bi putnicima da slijede samovozeće kanale do svojih radnih mjesta u centru grada. San je, za sada, iskoristiti autonomiju za uklanjanje simptoma prenatrpanog okruženja kao što je usko grlo u špici, uz zadržavanje ručnih automobila za zadatke u blizini kuće kao što su navigacija ulicom i kupovina namirnica. A kada tehnologija bude spremna, samo bi se putnici vozili u robotskom automobilu, smanjujući operativne troškove upravljanja vozilom (što zauzvrat smanjuje cijene karata za vozače) jer više neće postojati navigacija za praćenje pilota.

'Parking garaže će uskoro biti ostatak prošlosti', napominje Wedge, a planovi su uvelike u tijeku već više od desetljeća s širenjem Uberove aplikacije za dijeljenje vožnje. Ali sama platforma, koju je Uber također stvorio, drži ključ budućnosti i za racionalizaciju autonomije i za povećanje profitabilnosti — to je šahovska ploča na koju će sve eventualne samovozeće usluge postaviti svoje figure: prvo automobile, zatim teretne kamione , a možda čak i autobuse. Ali molim vas, bez kolica.