Šta Ilija Sutskever predviđa o budućnosti superinteligencije

Ilija Sutskever (Ilya Sutskever), jedan od ključnih arhitekata dubokog učenja (Deep Learning) i suosnivač OpenAI, poznat po radu na AlexNet-u i razvoju GPT-3 i GPT-4, napustio je giganta i sada vodi tajanstvenu novu kompaniju Safe Super Intelligence (SSI). Misija SSI je jasna: izgraditi superinteligenciju i osigurati njenu bezbednost.

U nedavnom intervjuu, Sutskever je ponudio retke uvide u to šta njegova kompanija zaista juri, definišući AGI i postavljajući predviđanja o neviđenim ekonomskim i društvenim promenama.

Kraj ere skaliranja

Jedna od najvažnijih Sutskeverovih izjava jeste da je era skaliranja (scaling) suštinski završena. On tvrdi da je preterano fokusiranje na skaliranje „usisalo sav vazduh u prostoriji“, što je dovelo do toga da svi razvijaju slične LLM-ove (velike jezičke modele) i modele sveta. Iako je nekada ideja bila da je izvršenje bitnije od ideje, Sutskever ističe da sada ima "više kompanija nego ideja".

On smatra da usko grlo (bottleneck) u napretku AI više nisu GPU-ovi ili računarska snaga, s obzirom na to da su AlexNet ili prvi Transformeri izgrađeni sa mnogo manje resursa nego danas. Umesto toga, usko grlo je mašta i istraživanje, a ne puka računarska snaga.

Definicija prave AGI: Sposobnost učenja

Da bi se razumela misija SSI, ključno je razumeti Sutskeverovu definiciju Opšte veštačke inteligencije (AGI). Termin AGI nastao je kao reakcija na "usku AI" (narrow AI), poput one za šah ili kompjuterske igre. Međutim, prava AGI nije gotov proizvod koji magično obavlja svaki posao.

Sutskever objašnjava da čak ni ljudsko biće nije AGI u smislu "gotovog proizvoda", jer nam nedostaje ogromna količina znanja, te se oslanjamo na kontinuirano učenje. Stoga, AGI nije konačno, savršeno stanje, već sposobnost učenja—mogućnost istinskog generalizovanja kao što to čine ljudi, ali mnogo brže, paralelno i trenutno.

Ekonomska eksplozija i neizbežne promene ponašanja

Sutskever predviđa da će široka primena istinske AGI—sistema koji može brzo da nauči bilo šta, poput ljudskog radnika—verovatno dovesti do veoma brzog ekonomskog rasta.

Model koji se rasporedi u privredi i koji kontinuirano uči na poslu, stičući sve veštine koje bi bilo koji čovek mogao da stekne, i potom objedinjujući ta znanja (amalgamating the learnings), funkcionalno postaje superinteligentan, čak i bez softverskog rekurzivnog samopoboljšanja.

Pored ekonomskog rasta, Sutskever predviđa i dramatične društvene promene. On veruje da će, kako AI postaje moćnija, doći do promene ljudskog ponašanja i pojave neviđenih stvari.

Primeri tih promena uključuju:

1. Saradnja Konkurenata: Kompanije koje su žestoki konkurenti, poput OpenAI i Anthropic (što je već primećeno u malim koracima), počeće da sarađuju na bezbednosti AI.
2. Paranoja Kompanija: Kada AI postane vidljivo moćnija, AI kompanije će postati mnogo paranoičnije u vezi sa bezbednošću.
3. Regulacija: Vlade i javnost će osećati sve veću želju da regulišu AI.

Bezbednost i dugoročna ravnoteža: Spajanje sa AI

U kontekstu bezbednosti, Sutskever se zalaže za novi cilj: izgradnju AI koja je robustno usaglašena da brine o svesnom životu (sentient life). Tvrdi se da bi to moglo biti lakše nego izgraditi AI koja brine isključivo o ljudskom životu, delimično zato što će sama AI biti svesna (sentient).

Za postizanje dugoročne ravnoteže i osiguravanje da čovečanstvo zadrži ulogu u svetu kojim dominiraju moćne AI, Sutskever je izneo rešenje koje mu se lično ne sviđa, ali smatra da je neizbežno: spajanje sa AI. Kroz neku vrstu "neural linka++", razumevanje AI bi se prenosilo u celosti na čoveka, čime bi čovek ostao potpuno uključen u situaciju koju AI rešava. Ako ne mogu da je pobede, ljudi će morati da joj se pridruže.

Sutskeverova lična prognoza za dolazak sistema koji uči kao čovek, a potom postaje superhuman, kreće se u rasponu od 5 do 20 godina.

Kao što je Ilija Sutskever objasnio, pošto AGI nije fiksni proizvod, već sposobnost učenja, njeno široko uvođenje u ekonomiju je kao uvođenje stotine miliona radnika koji mogu istovremeno učiti svaki posao u celom svetu. Ako se ta znanja objedine u jedan sistem, rezultat je funkcionalna superinteligencija koja pokreće neviđen ekonomski rast i društvene promene.

#Sutskever #AGI