Predstavljamo rad koji istražuje kako kritičko razmišljanje utječe na ishode suradnje između ljudi i generativne umjetne inteligencije (Gen AI), a fokusira se na to što se događa kada AI pruži netočne ili djelomično točne odgovore. Korištenje Gen AI, poput ChatGPT-a, postaje sve raširenije u profesionalnom okruženju, ali i u obrazovnim institucijama.
Istraživanje je provedeno na uzorku studenata i mladih stručnjaka, skupinama za koje je Gen AI široko prihvaćen.
Što smo naučili?
Nedostatak kritičkog razmišljanja i prekomjerno oslanjanje na umjetnu inteligenciju
Kada je sudionicima ponuđeno rješenje od strane modela ChatGPT 4o koje je bilo djelomično točno (sadržavalo je ispravne korake obrazloženja, ali pogrešan konačni odgovor zbog male interpretacijske pogreške), stopa točnih odgovora pala je na samo 3 %, što je znatno niže od 15 % točnih odgovora u kontrolnoj skupini koja nije imala pomoć AI-a. Ovaj rezultat sugerira da su pojedinci skloni prekomjernom oslanjanju na AI. Sudionici su prihvatili netočno konačno rješenje, umjesto da kritički procijene korake obrazloženja koje je dao AI model. Takvo oslanjanje manifestira se kroz povećano povjerenje u AI i smanjen kognitivni napor jer su sudionici koji su koristili AI trošili značajno manje vremena na rješavanje zadatka. Ovo “kognitivno prepuštanje” (outsourcing) postavlja ozbiljne rizike za obrazovni sektor, jer ponovljeno oslanjanje na AI bez kritičke procjene može s vremenom oslabiti vještine prosuđivanja i smanjiti učenje. Ranija istraživanja su već pokazala da studenti koji se oslanjaju na AI za pripremu ispita manje nauče i lošije prolaze na samostalnim testovima.
Učinkovitost podsjetnika za kritičku procjenu
Dobra vijest je da se točnost odgovora može poboljšati jednostavnom intervencijom. U drugom eksperimentu, kada je sudionicima bila dana izričita uputa da koriste ChatGPT “promišljeno, uzimajući vremena za analizu prije odgovaranja,” stopa točnih odgovora se značajno povećala i dostigla 24%. Ovo pokazuje da podsjetnik može značajno poboljšati kvalitetu ishoda kada AI čini pogreške, potičući sudionike da ponovno procijene odgovor AI-a umjesto da ga automatski prihvate.
Zaključak
S obzirom na to da su “halucinacije” (generiranje netočnih informacija) od strane AI modela sve češće, za organizacije i obrazovne ustanove je ključno aktivno njegovati vještine kritičkog razmišljanja kod korisnika. To uključuje obuku kojom se naglašavaju i sposobnosti i ograničenja AI sustava, čime se smanjuje prekomjerno oslanjanje i održavaju dugoročni kognitivni kapaciteti pojedinaca.
