Poziv da se zaustavi razvoj superinteligencija

Živimo u eri neviđenog uzbuđenja i vrtoglavog napretka u oblasti veštačke inteligencije. Čini se da se svi, od tehnoloških giganata do malih startapa, utrkuju da stvore sledeću veliku stvar. Upravo zato je toliko šokantno što je velika i uticajna grupa ljudi pozvala na potpunu obustavu razvoja njenog najnaprednijeg oblika – „superinteligencije“. Dok jedni jure napred, drugi povlače kočnicu. Ovaj članak istražuje četiri najiznenađujuće činjenice koje stoje iza ovog dramatičnog poziva na akciju.

Neverovatno raznolika koalicija protiv superinteligencije

U današnjem polarizovanom svetu, gotovo je nemoguće pronaći temu oko koje se slažu Stiv Benon i princ Hari. Ipak, pretnja od nekontrolisane superinteligencije uspela je da stvori jednu od najneobičnijih ideoloških koalicija našeg vremena. Lista od preko 850 potpisnika nije samo skup tehnoloških stručnjaka, već zapanjujuće širok i raznolik spektar ljudi zabrinutih zbog nekontrolisanog razvoja AI.

Među potpisnicima su tehnološki pioniri poput Stiva Voznijaka (suosnivač kompanije Apple) i Ričarda Brensona (osnivač Virgin Group). Pored njih, tu je i dvostranačka grupa bivših američkih zvaničnika, uključujući Suzan Rajs (bivša savetnica za nacionalnu bezbednost) i Majka Malena (bivši predsednik Združenog generalštaba).

Možda najviše iznenađuje prisustvo politički suprotstavljenih medijskih ličnosti kao što su Stiv Benon i Glen Bek. Spisak zaokružuju i istaknute međunarodne ličnosti poput princa Harija, Megan, vojvotkinje od Saseksa, i Meri Robinson, bivše predsednice Irske. Kada se ljudi sa toliko različitih ideoloških i profesionalnih pozadina slože oko nečega, to daje izjavi neverovatnu težinu.

Kumovi moderne veštačke inteligencije predvode pobunu

Paradoksalno, ali istinito: upravo ljudi koji su postavili temelje moderne veštačke inteligencije sada najglasnije upozoravaju na njene opasnosti. Na samom vrhu liste potpisnika nalaze se imena kao što su Jošua Benđio i Džef Hinton, naučnici koji se smatraju „kumovima“ moderne veštačke inteligencije. Pored njih, tu su i drugi vodeći istraživači, poput Stjuarta Rasela sa Univerziteta Berkli u Kaliforniji, što pokazuje da se ne radi o izolovanim slučajevima, već o širem konsenzusu unutar najuvaženijih akademskih krugova.

Njihovo učešće nije samo simbolično; ono šalje snažnu poruku da oni koji najbolje razumeju ovu tehnologiju imaju i najveće rezerve prema njenom budućem pravcu. Jošua Benđio je to sažeo u svojoj izjavi:

Da bismo bezbedno napredovali ka superinteligenciji, moramo naučno utvrditi kako da dizajniramo AI sisteme koji su suštinski nesposobni da naude ljudima, bilo kroz neusaglašenost ili zlonamernu upotrebu. Takođe moramo osigurati da javnost ima mnogo jači glas u odlukama koje će oblikovati našu zajedničku budućnost.

Čak su i današnji lideri veštačke inteligencije upozoravali na izumiranje

U tehnološkom svetu postoji podela između onih koji AI vide kao silu dobra („AI bumeri“) i onih koji veruju da je opasna i da joj je potrebna stroga regulacija („AI dumeri“). Ironija je najoštrija kada se pogleda ko danas predvodi trku ka superinteligenciji. Lideri poput Sema Altmana i Ilona Maska, čije kompanije sada ulažu milijarde u razvoj ove tehnologije, svojevremeno su izdavali apokaliptična upozorenja koja kao da su sami zaboravili.

Dva primera se posebno ističu:

* Sem Altman, izvršni direktor kompanije OpenAI, napisao je u blog postu 2015. godine, pre nego što je preuzeo trenutnu funkciju:
* Ilon Mask, čija se kompanija xAI takođe takmiči u razvoju napredne veštačke inteligencije, izjavio je u jednom podkastu da postoji „samo 20% šanse za uništenje“ kao posledica razvoja AI koji prevazilazi ljudsku inteligenciju.

Ove izjave pokazuju da su čak i najveći zagovornici svesni potencijalno katastrofalnih rizika.

Javnost je izrazito oprezna

Zabrinutost potpisnika nije izolovano mišljenje elite; ona odražava stav šire javnosti. Nedavno istraživanje Instituta za budućnost života (Future of Life Institute) otkrilo je da samo 5% odraslih u SAD podržava „status kvo brzog, neregulisаnog“ razvoja superinteligencije.

Istraživanje je takođe pokazalo da većina ispitanika veruje da „nadljudska veštačka inteligencija“ ne bi trebalo da bude stvorena dok se ne dokaže da je bezbedna i kontrolisana, i da žele snažnu regulaciju napredne AI. Ovo jasno pokazuje da poziv na oprez nije marginalan, već da je u skladu sa preovlađujućim javnim mnjenjem.

Poziv na pauziranje razvoja superinteligencije nije samo još jedna tehnička debata. To je postao globalni razgovor koji uključuje neke od najrazličitijih i najmoćnijih glasova današnjice. Kada naučnici koji su je stvorili, lideri koji je grade, političari sa svih strana spektra i ogromna većina javnosti dele istu duboku zabrinutost, ignorisanje njihovog poziva postaje neodgovorno.

Tehnologija napreduje brže od naše sposobnosti da je razumemo. Pitanje koje ostaje je: ko bi trebalo da ima moć da odluči kada ćemo, i da li ćemo ikada, preći prag u svet sa inteligencijom daleko većom od naše?

Izvor: https://www.cnbc.com/2025/10/22/800-petition-signatures-apple-steve-wozniak-and-virgin-richard-branson-superintelligence-race.html