AI2027: Da li je ovo scenario po kojem veštačka inteligencija može da uništi čovečanstvo

Istraživački rad koji predviđa da će se veštačka inteligencija oteti kontroli 2027. i u narednih 10 godina dovesti do istrebljenja čovečanstva, ustalasao je tehnološki svet.

Detaljan scenario, nazvan AI2027 (Veštačka inteligencija 2027), objavila je grupa uticajnih stručnjaka za veštačku inteligenciju ovog proleća.

Od tada je nadahnuo brojne viralne video-snimke i pokrenuo rasprave o tome koliko je takav ishod verovatan.

BBC je koristio široko dostupne alate generativne veštačke inteligencije za rekonstruikciju scena iz tog scenarija da dočara ovu mračnu prognozu, i pitao je stručnjake o uticaju ovog rada.

Šta scenario AI2027 predviđa?

Prema ovom radu, 2027. godine izmišljeni američki tehnološki gigant pod nazivom OpenBrain razvija veštačku inteligenciju.

Ona dostiže nivo opšte veštačke inteligencije toliko najavljivanu prekretnicu da se smatra svetom kada će veštačka inteligencije moći da obavlja sve intelektualne zadatke jednako dobro, ili čak bolje od ljudi.

Ovo dostignuće kompanija slavi na konferencijama za novinare, a njena dobit vrtoglavo raste kako ljudi prihvataju novi alat veštačke inteligencije.

Međutim, rad predviđa da će interni tim za bezbednost primetiti prve znakove da veštačka inteligencija sve manje mari za moralne vrednosti i etiku koje su u nju ugrađeni.

Kompanija, prema scenariju, zanemaruje upozorenja i ne preduzima ništa da obuzda veštačku inteligenciju.

U izmišljenom sledu događaja, vodeći kineski konglomerat za veštačku inteligenciju, nazvan DeepCent, zaostaje samo nekoliko meseci za kompanijom OpenBrain.

Vlada Sjedinjenih Država (SAD) ne želi da izgubi trku u razvoju naprednije veštačke inteligencije, pa se razvoj i ulaganja nastavljaju i trka se zahuktava.

Scenario dalje predviđa da će krajem 2027. godine veštačka inteligencija postati superinteligentna i da će daleko nadmašiti znanje i brzinu njenih tvoraca.

Ona ne prestaje da uči i razvija sopstveni, izuzetno brzi računarski jezik, koji je toliko napredan da čak ni njene prethodne verzije ne mogu da ga razumeju.

Suparništvo sa Kinom za nadmoć u oblasti veštačke inteligencije podstiče i kompaniju i američku vladu da zanemare dalja upozorenja o takozvanoj „neusklađenosti"(misalignment).

Taj pojam se koristi za situaciju kada veštačka inteligencija počinje da razvija ponašanja koja mogu da budu štetna ili suprotna ljudskim vrednostima i interesima.

Scenario predviđa da će 2029. godine tenzije između Kine i SAD dostići tačku mogućeg rata, jer suparnički sistemi veštačke inteligencije razvijaju zastrašujuće nove autonomne vrste oružja.

Ipak, istraživači zamišljaju da zemlje postižu mir zahvaljujući sporazumu kojim su posredovale upravo njihove veštačke inteligencije, koje takođe odlučuju da udruže snage za dobrobit čovečanstva.

Godinama je sve odlično, jer svet uživa u koristima superinteligentnih sistema veštačke inteligencije koji upravljaju ogromnom robotizovanom radnom snagom.

Prema scenariju, pronalaze se lekovi za većinu bolesti, zaustavljaju se klimatske promene i emisije štetnih gasova i obnavljaju se stabilni vremenski uslovi, a siromaštvo se iskorenjuje.

Sredinom 2030-ih, čovečanstvu počinje da smeta ambicija veštačke inteligencije da se dalje razvija.

Istraživači smatraju da će VI ubijati ljude nevidljivim biološkim oružjem.

Šta ljudi kažu o AI2027?

Iako neki smatraju da je AI2027 naučna fantastika, autori rada su ugledni stručnjaci koji rade na neprofitnom projektu AI Futures Project, osnovan da predviđa uticaj i posledice primene veštačke inteligencije.

Danijelu Kokotajlu, glavnom autoru rada pripisuju se zasluge za tačno predviđanje ključnih trenutaka u razvoju veštačke inteligencije.

Jedan od najistaknutijih kritičara AI2027 je američki kognitivni naučnik i autor Geri Markus, koji kaže da scenario nije nemoguć, ali smatra da je veoma malo verovatno da će se uskoro dogoditi.

„Lepota ovog dokumenta je u tome što vrlo živopisan i podstiče ljude na razmišljanje, i to je dobra stvar, ali ga ne bih ozbiljno razmatrao kao verovatan ishod", kaže Markus.

Naglašava da postoje hitniji problemi sa veštačkom inteligencijom od pretnje po opstanak čovečanstva, kao na primer njen uticaj na poslove koje obavljaju ljudi.

„Mislim da bi glavni zaključak trebalo da bude da postoji mnogo različitih stvari koje mogu da krenu po zlu sa veštačkom inteligencijom.

„Da li preduzimamo prave korake u pogledu regulative i međunarodnih ugovora?", pita se.

On i drugi kritičari takođe kažu da rad ne objašnjava kako veštačka inteligencija uspeva da ostvari tako ogromne skokove u inteligenciji i sposobnostima.

Automobile bez vozača navode kao primer tehnologije o kojoj se mnogo priča, ali se sporo razvija.

Da li se o radu AI2027 raspravlja i u Kini?

U Kini, čini se da rad nije imao značajniji odjek, kaže Jundan Gung, vanredna profesorka ekonomije i inovacija na Kings koledžu u Londonu.

„Većina rasprava o scenariju AI2027 odvija se na nezvaničnim forumima ili ličnim blogovima, gde se uglavnom posmatra kao neka vrsta polu-naučne fantastike.

„U Kini rad nije pokrenuo širu raspravu niti je privukao političku pažnju kao u SAD-u", kaže Gung inače stručnjakinja za kinesku tehnologiju.

Ona ističe i razliku u pristupu trci Kine i SAD-a za nadmoć u oblasti veštačke inteligencije.

Na nedavnoj Svetskoj konferenciji o veštačkoj inteligenciji u Šangaju, kineski premijer Li Ćang predstavio je viziju zemalja koje rade na međunarodnoj saradnji u oblasti veštačke inteligencije.

Naglasio je da Kina želi da pomogne u koordinaciji i uspostavljanju regulative za ovu tehnologiju.

Li je ovo izjavio samo nekoliko dana pošto je Donald Tramp, američki predsednik , objavio njegov Akcioni plan za veštačku inteligenciju, koji treba da osigura „dominaciju" SAD-a u oblasti VI.

„Za nacionalnu bezbednost SAD-a je od suštinskog značaja da postignu i održe nesumnjivu i neosporivu tehnološku dominaciju u svetu", piše u dokumentu.

Cilj Akcionog plana je da se „ukinu birokratske prepreka i preterani propisi" da bi se omogućio razvoj veštačke inteligencije u Americi.

Ove reči jezivo podsećaju na zaplet scenarija AI2027, u kojem političari u SAD-u stavljaju pobedu u trci za nadmoć u oblasti veštačke inteligencije ispred rizika od gubitka kontrole nad mašinama.

Šta industrija veštačke inteligencije kaže o AI2027?

Čini se da izvršni direktori najvećih kompanija koje razvijaju veštačku inteligenciju, a koje se neprestano međusobno takmiče u predstavljanju pametnijih modela, uglavnom zanemaruju ili izbegavaju da komentarišu rad.

Vizija naše budućnosti sa veštačkom inteligencijom koju ove tehnološke kompanije predstavljaju značajno se razlikuje od mračnog scenarija AI2027.

„Čovečanstvo je blizu stvaranja digitalne superinteligencije koja će pokrenuti blagu" revoluciju i doneti tehnološku utopiju bez rizika po ljude", nedavno je izjavio Sem Altman, tvorac ČetGPT-a.

Zanimljivo je da i sam Altman priznaje da postoji takozvani „problem usklađenosti", koji mora da se reši da bi se osiguralo da su ove superinteligentne mašine usklađene sa najboljim interesima čovečanstva.

Bez obzira na to kako će se stvari odvijati u narednih 10 godina, jedno je sigurno - trka za razvoj mašina pametnijih od nas je uveliko počela.

BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu i Vajberu. Ako imate predlog teme za nas, javite se na [email protected]

• Kako veštačka inteligencija koristi našu pijaću vodu
• Otpočeo kontroverzni projekat za izradu veštačkog DNK čoveka
• Tehnološki trendovi u 2025.: Kriptovalute i personalizovana veštačka inteligencija
• Trideset pojmova ključnih za razumevanje veštačke inteligencije