Poplava nekvalitetnih istraživanja u svetu veštačke inteligencije

Oblast veštačke inteligencije (AI) doživljava neviđenu ekspanziju, ali sa rastom dolazi i zabrinjavajući problem: poplava ogromnog broja nekvalitetnih istraživačkih radova. U akademskim krugovima, ovaj fenomen je poznat kao "slop problem" ili problem "đubreta". Ovaj trend izaziva ozbiljnu zabrinutost među stručnjacima, koji upozoravaju da pritisak da se objavljuje što više, umesto da se fokusira na kvalitet, ugrožava sam temelj naučnog napretka u ovoj ključnoj disciplini.

1. Slučaj Kevina Zua: Preko 100 radova za godinu dana

Centralni primer ovog problema je slučaj Kevina Zua, koji je nedavno završio osnovne studije računarstva na Univerzitetu Kalifornija, Berkli, i sada vodi kompaniju Algoverse. Zu tvrdi da je u jednoj godini bio autor na čak 113 akademskih radova o veštačkoj inteligenciji, od kojih je 89 predstavljeno na jednoj od vodećih svetskih AI konferencija. Njegov poslovni model je jasan: kompanija Algoverse naplaćuje srednjoškolcima i studentima 3.325 dolara za 12-nedeljni mentorski program koji im pomaže da podnesu radove na konferencije, a mnogi od tih polaznika su ujedno i njegovi koautori na tim istim radovima. Ovo se otvoreno promoviše kao značajna prednost za upis na prestižne fakultete.

2. Kritika iz akademske zajednice: "Vibe kodiranje" i nemoguć doprinos

Slučaj Zua izazvao je oštru reakciju u akademskoj zajednici, a najglasniji je bio Hany Farid, profesor računarstva na Berkliju. Farid je Zuove radove bez oklevanja opisao kao "katastrofu" i izrazio uverenje da se radi o takozvanom "vibe kodiranju" – praksi korišćenja veštačke inteligencije za kreiranje softvera. Farid primenjuje ovaj koncept na proces stvaranja radova za koje veruje da im nedostaje istinska naučna strogost.

Faridov ključni argument je da je fizički nemoguće da jedna osoba smisleno doprinese tolikom broju radova za tako kratko vreme. Zbog trenutne "pomame" i masovne produkcije nekvalitetnih istraživanja, Farid je otišao toliko daleko da sada savetuje studentima da ne ulaze u polje AI istraživanja, jer je sistem postao previše zagađen.

3. Širi problem: Preopterećene konferencije i pritisak za objavljivanjem

Slučaj Kevina Zua nije izolovan incident, već simptom dubljih, sistemskih problema koji muče oblast AI istraživanja. Ovaj nalet "đubreta" omogućen je nizom sistemskih propusta:

1. Poplava radova na konferencijama: Vodeće AI konferencije su preplavljene prijavama. Broj radova podnetih na konferenciju NeurIPS skočio je sa manje od 10.000 u 2020. godini na 21.575 ove godine. Slično, konferencija ICLR prijavila je porast od 70% u godišnjim prijavama za konferenciju 2026. godine, sa skoro 20.000 radova, u odnosu na nešto više od 11.000 za konferenciju 2025. godine.
2. Slabosti recenzentskog procesa: Za razliku od tradicionalnih naučnih časopisa, recenzija radova za AI konferencije je mnogo brža i manje temeljna. Recenzenti, često doktoranti, imaju zadatak da u vrlo kratkom roku pregledaju desetine radova. Ovaj ubrzani proces neizbežno kompromituje kvalitet i rigoroznost ocene.
3. Frenetična trka za publikacijama: U akademskom svetu, uspeh se sve više meri brojem objavljenih radova, a ne njihovim kvalitetom ili uticajem. Kako kaže Džefri Voling, vanredni profesor na Virginia Tech-u, "svi vole mit o super produktivnosti", što stvara okruženje u kojem je kvantitet postao važniji od kvaliteta.

Ova kombinacija ogromnog obima, ubrzanih recenzija i kulture "objavi ili nestani" stvara sistem zreo za eksploataciju od strane operacija koje prioritet daju kvantitetu umesto naučnom doprinosu.

4. Posledice "slop" problema: Gubi se signal u šumu

Negativne posledice ovog trenda su ogromne. Prema rečima profesora Farida, zbog ogromne količine radova postalo je gotovo nemoguće pratiti šta se zaista dešava u naučnoj literaturi, čak i za vodeće stručnjake u polju. Ključni problem je, kako on navodi, to što je "odnos signala i šuma praktično jedan". Faridova lična frustracija sažima stanje u celoj oblasti: "Jedva mogu da odem na ove konferencije i shvatim šta se dođavola dešava." U takvom okruženju, istraživači koji žele da rade promišljen i pažljiv posao nalaze se u izrazito nepovoljnom položaju, jer njihov rad biva zaglušen bukom bezvrednih publikacija.

5. Zaključak: Budućnost istraživanja pomoću AI na raskršću

Iako iz ovog preopterećenog sistema i dalje povremeno proizilaze izvanredni radovi – poput revolucionarnog Guglovog rada "Attention Is All You Need", koji je postavio temelje za ChatGPT i, ironično, predstavljen upravo na konferenciji NeurIPS 2017. godine – pritisak za masovnim objavljivanjem predstavlja ozbiljnu pretnju za integritet i budućnost AI istraživanja. Poruka je jasna: kada je sistem postavljen tako da nagrađuje masovnu produkciju radova niskog kvaliteta, istinski inovativan rad postaje gotovo nemoguć. U takvom okruženju, savesni istraživači koji teže promišljenom radu su, kako Farid slikovito kaže, "praktično jednostrano razoružani".

Izvor: theguardian.com