Zašto je „poverenje“, a ne „autonomija“, jedina metrika koja je bitna za AI

Diskusija o tome da li će veštačka inteligencija preuzeti naše poslove postala je svakodnevica. Međutim, prema stručnjacima poput Džoela Hrona, tehničkog direktora kompanije Thomson Reuters, prevazišli smo taj početni strah. Sada na videlo izlazi jedna mnogo fundamentalnija greška Silicijumske doline: industrija je gradila autonomiju, a trebalo je da gradi odgovornost. Hron, koji nadgleda razvoj proizvoda i AI u oblastima kao što su pravo, porezi, revizija, trgovina, usklađenost sa propisima i upravljanje rizicima, ukazuje na ključni problem.

Taj problem se naziva „pozorište automatizacije“ – opsesija tehnološke industrije da stvori potpuno autonomne AI sisteme koji deluju bez ljudskog nadzora. Ovaj pristup stvara impresivne demonstracije, ali se pokazuje kao neuspešan u profesionalnim okruženjima gde su ulozi visoki. Pravi zaštitni bedem u svetu veštačke inteligencije nije sirova sposobnost. To je poverenje.

Ovaj članak će istražiti najvažnije pouke proistekle iz ove promene u razmišljanju, fokusirajući se na to zašto su odgovornost i saradnja, a ne slepa automatizacija, istinska budućnost veštačke inteligencije.

Iluzija „pozorišta automatizacije“ se završava

„Pozorište automatizacije“ je težnja ka potpuno autonomnim agentima koji impresioniraju na prezentacijama, ali su nekompatibilni sa načinom na koji profesionalci zaista rade. U domenima visokog rizika, pogrešni odgovori ne troše samo vreme – oni izazivaju stvarne posledice.

Ova tačka je ključna jer razotkriva kako je Silicijumska dolina optimizovala procese za pogrešan cilj. Fokusirajući se na upadljive, ali nepraktične demonstracije autonomije, ignorisana je stvarna potreba za ljudskim prosuđivanjem i nadzorom. To je dovelo do razvoja sistema koji ne ulivaju poverenje tamo gde je ono najpotrebnije.

Merimo uspeh pogrešnim merilima

Trenutna kultura u svetu veštačke inteligencije meri napredak prema tome koliko dobro sistem može samostalno da obavi ljudski zadatak. Međutim, najznačajniji napredak se dešava tamo gde je ljudsko prosuđivanje i dalje uključeno u proces.

Istraživanje kompanije Accenture pokazuje da kompanije koje daju prioritet saradnji između ljudi i AI postižu bolje rezultate od onih koje teže potpunoj automatizaciji.

„Autonomija sama po sebi ne gradi poverenje. Saradnja ga gradi.“

Poverenje je inženjerski problem, a ne marketinški slogan

U poslovima sa visokim ulozima, biti „uglavnom tačan“ jednostavno nije dovoljno. Halucinirani pravni citat može da sruši ceo argument, dok pogrešno klasifikovan dokument može da pokrene regulatornu istragu. Ovo nisu problemi percepcije. Ovo su problemi dizajna.

Poverenje se ugrađuje u AI sisteme kroz konkretna inženjerska rešenja: omogućavanje uvida u proces zaključivanja, prikazivanje nivoa pouzdanosti i pozivanje korisnika na validaciju. Ove karakteristike čine odgovornost vidljivom. Akvizicija kompanije Additive od strane Thomson Reuters-a je primer toga. Proboj nije bio u automatizaciji obrade K-1 obrazaca radi automatizacije, već u postizanju preciznosti i objašnjivosti u domenu gde je tačnost neupitna.

„Poverenje se ne gradi marketingom. Gradi se inženjeringom.“

Budućnost je saradnja i pojačavanje ljudskih sposobnosti, a ne zamena

Čak i najsposobniji AI agenti zahtevaju ljudski nadzor. Cilj nije ukloniti ljude iz procesa, već dizajnirati veštačku inteligenciju koja radi sa njima.

Najbolji inženjeri više ne teže savršenoj autonomiji. Umesto toga, oni dizajniraju „sisteme za saradnju“ koji pojačavaju ljudsko prosuđivanje tako što znaju kada da prepuste odluku čoveku, kada da zatraže pomoć i kako da svoj tok zaključivanja učine sledljivim. Ovo nisu sistemi za zamenu; ovo su sistemi za saradnju.

„Budućnost veštačke inteligencije neće se meriti onim što mašine mogu da urade same, već time koliko bolji postajemo zajedno.“

Od autonomije do odgovornosti

Era „pozorišta automatizacije“ se završava. Budućnost pripada veštačkoj inteligenciji dizajniranoj za saradnju, transparentnost i odgovornost.

Kako se AI sve više integriše u naše živote, najvažnije pitanje nije „Šta može da uradi sama?“, već „Kako nam može pomoći da zajedno izgradimo odgovorniji i pouzdaniji svet?“

Izvor: FORTUNE