Galerija

Strah od opšte veštačke inteligencije

Za početak mali uvod. Bilo koji vid veštačke inteligencije, odnosno pametnog delovanja neke sprave van ljudskog uma spada u takozvanu posebnu ili specijalizovanu veštačku inteligenciju. I samo računanje centralnih procesora u to spada. Kompjuter daleko bolje računa od ljudskog uma. Osim toga, igra bolje šah, optimizuje linije matičnih ploča, računa najkraće rastojanje od tačke A do tačke B na auto-karti, može da nađe otisak prstiju među milionima drugih za kratko vreme, može čak i auto da vozi bolje od čoveka. Međutim svi ti oblici inteligencije imaju 2 problema. Prvi je da nisu opšti. Dakle, kompjuter koji igra šah, ne zna čak ni pravila igre iks-oks i ne može da ih nauči. Kompjuter koji računa linije na elektronskoj ploči bi razlupao auto u prvu banderu, umesto da ga vozi. Drugi problem je da to uopšte nisu veštačke inteligencije, to su ljudske inteligencije koje brzo izvršava elektronski sklop. Čovek je iskombinovao napretke u minijaturizaciji i ubrzanju poluprovodničke tehnologije, koja se uvek svodi na: ima struje, nema struje, tu strujo idi, tamo ne idi sa matematičkim procedurama koje svode neke probleme iz realnog sveta na jezik poluprovodnika. Kompjuter je veoma složeni čekić, dakle ljudska alatka. Opšta inteligencija, sa druge strane, to je sposobnost da se reši veliki broj potpuno različitih problema, gde rešavatelj problema postavlja i pitanja i odgovore i nadasve samostalno zadaje sebi cilj koje probleme rešiti, a koje ne, za kojim znanjima posegnuti, koga konsultovati, šta vredi naučiti, kako vrednovati rezultat, kako testirati. Opšta inteligencija stvara veliki broj različitih rešenja za različite probleme.

Postoje neke, ja bih rekao, naivne hipoteze da ne postoji ništa teorijski nedostižno u ljudskom mozgu što ne bismo mogli da reprodukujemo u nekom drugom materijalu. Na kraju, mozak je par kilograma mokre žive materije koja izvršava veliki broj operacija u datom vremenu. Mozak je procesor informacija, kažu neki, ništa više od toga. Gledano strogo teorijski, to je tačno. Sa neograničeno puno vremena, strpljenja i pameti, možda jednom dosegnemo do mehanizama funkcionisanja tog kila ružičaste grbave mase. Gledano praktično ne postoji ni jedna garancija da je to nama pristupačno. I mrav je samo određen broj molekula poslaganih na pravi način, ali on čak sebi nije u stanju ni da postavi pitanje kako se on to kreće, a mi ljudi smo to shvatili. No, nismo shvatili još kako funkcioniše njegov nervni sistem. A ni sam mrav nije. Ono što smo sigurni je da mrav nikada neće shvatiti kako njegov «mozak» funkcioniše. A mi to možda jednog dana shvatimo. Ali to ne znači da ćemo ikada shvatiti kako naš radi. Primer mrava pokazuje da postoje limiti koji se ne mogu prevazići. Nije rečeno da je razumevanje našeg uma u okviru naših limita. A veliko je pitanje da li je moguće stvoriti opštu veštačku inteligenciju ako ne shvatimo kako naš um radi. Ali isto tako, ne mogu da isključim da izmislimo alternativne modele inteligencije koji ne zahtevaju razumevanje našeg. I jedna i druga hipoteza vraški su teške, tako da verovatnoća da dođemo do cilja preko ijednog od ova dva puta je prilično mala. Zato se ja ne bih zaletao nekim predviđanjima o stvaranju pravog robota u periodu od narednih 50 godina, kao što neki najavljuju. A s obzirom na naše generalno iracionalno ponašanje, sasvim je moguće da se istrebimo pre nego što stignemo do tih dragocenih saznanja.

dangerous-ai

No, ako bismo ipak, nekim slučajem došli do tih saznajna, postoje neki inženjeri i filozofi iz oblasti inteligencije koji se iskreno boje ishoda te tvorevine i opasnosti po našu, ljudsku egzistenciju. Postoje sasvim jasni načini kako bi nam ti roboti mogli nauditi. Prvi je da kako nisu samo poslušni složeni čekići, mogli bi da odluče da kao deo rešenja problema ugroze i nas kao nalogodavce, jer bi mogli da zaključe da smo mi uzrok problema koji im je postavljen. Naročito ako izgrade svoju etiku u kojoj ljudi nisu neprikosnoveni. Drugi je da mogu da shvate da su u borbi za zemaljske resurse sa ljudima i da im se isplati da nas unište da bi nesmetano došli do njih. Treći je, možda najgori, da nakon nastanka mogu sami da evoluiraju toliko velikom brzinom da za samo nekoliko godina postanu u odnosu na nas kao mi u odnosu na mrave, pa nas mogu zgaziti bez zla i namere, kao kad mi slučajno zgazimo mrava. Ili kad sagradimo kuću, posečemo stabla i uništimo sve miševe i insekte koji su živeli na tom zemljištu pre kuće. Mi i ne postavljamo pitanja ubijanja svog tog živog sveta niti se iko normalan bavi etikom nestajanja insekata pod takvim uslovima. Neka inteligencija koja je toliko različita od naše, može da gradi neke svoje kuće, ma šta god to bilo, preko naših glava, ubijajući nas bez postavljanja etičkog pitanja jer bismo bili za njih beskonačno nebitni i nezanimljivi, kao insekti za nas. Jedino čemu možemo da se nadamo u tom slučaju je da bi roboti sa tako visokom inteligencijom mogli da stvore način da kolonizuju druge planete bez problema i da se odsele, a nama da ostave Zemlju pa da se snalazimo. No, milosrđe i inteligencija ne moraju da idu zajedno i to mi ljudi neprestano pokazujemo.

To što se mnogi umni ljudi danas plaše opšte veštačke inteligencije, govori daleko više o nama ljudima, nego o budućim robotima. Jer na kraju, ako se mi bojimo da bi nas naša kreacija uništila pokazuje koliko malo imamo poverenja u svoj moralni kapacitet da bismo sve i uz najveću pažnju i predostrožnost prebacili neke svoje destruktivne osobine na sledeću generaciju inteligencije. Sva je sreća da ta generacija uopšte nije tako blizu kao što se nekima čini. I to je dobro, ostaće nam vremena da poradimo na sebi, tako da kad dođe trenutak, da budemo spremni i da novi pametni stvorovi budu zaista bolji od nas, ako nam je uopšte tako nešto i potrebno. Mada, postoje i mislioci koji maštaju o tome da nova inteligencija nastane što pre, ne bi li rešila probleme za koje mi ljudi nismo sposobni, kao što su zagađenje ili ekonomija ili ratovi, kao da to zavisi od pomanjkanja inteligencije. To, dragi ljudi, zavisi od pomanjkanja morala, a za to nam nisu potrebni roboti. Čak i kad bi roboti izmislili neke izvore energije koji su toliko dostupni i jeftini da bi na Zemlji moglo da živi milion milijardi ljudi bez problema, opet to ne znači da ljudi ne bi ratovali u pokušaju da neko dominira nad tim izvorom da drugi ne bi imali. Prioritet na našoj planeti nije razvoj još više tehnologije, već razvoj univerzalne etike. Nemojte da se zavaravate kao mladi Tesla, kada je sanjao da pokloni jeftinu energiju čovečanstvu kao da bi to rešilo problem čovečanstva.

Ako želite da odslušate, prilog počinje na 47 min 59 sek

Advertisements
od Markus Maki Objavljeno u nauka