Sve šira primjena umjetne inteligencije (AI) u profesionalnom radu otvara važno pitanje: može li AI, čak i kada pomaže u donošenju odluka, dugoročno oslabiti pojedine struke? Autorica ovog članka upozorava da korist AI alata ne dolazi bez skrivenih posljedica i to argumentira kroz eksperiment sa šahom.
Timovi u igri šaha bili su parovi koje su činili snažan AI i slabiji sustav sličan čovjeku. Neočekivano, pobjeđivali su oni timovi u kojima je AI bio prilagođen suradnji s partnerom, a ne oni s najsnažnijim AI-em. Zaključak je da nije dovoljno da je sustav moćan, mora biti koristan u suradnji s čovjekom.
To mijenja i način na koji gledamo na „razumljivost“ AI sustava. Nije ključno samo razumjeti rezultat koji AI daje, nego moći na temelju njega smisleno djelovati.
Autorica upozorava na dva oblika gubitka stručnosti. Prvi je individualni: ljudi s vremenom gube vještine ako se previše oslanjaju na AI. Primjerice, istraživanje je pokazalo da je nakon korištenja AI alata pala sposobnost liječnika da samostalno prepoznaju određene promjene. Drugi je kolektivni i teže uočljiv a radi se o tome da neke struke mogu postupno izgubiti sposobnost preispitivanja vlastitih ciljeva ako AI sustavi „ugrađuju“ određene načine razmišljanja.
Problem se posebno vidi u situacijama koje zahtijevaju procjenu i etičku odluku. Ako AI svaku neizvjesnost prikazuje kao broj ili postotak, to nije dovoljno u slučajevima koji traže prosudbu, poput procjene rizika u osjetljivim društvenim situacijama. Takve odluke ne mogu se svesti na brojke.
Za razliku od šaha, područja poput zdravstva, prava i obrazovanja nemaju fiksna pravila, njihovi se ciljevi stalno preispituju i mijenjaju. Upravo zato postoji rizik da AI, iako koristan pojedincima, suzi prostor za raspravu unutar struke.
Zbog toga autorica naglašava da AI sustavi ne bi trebali biti oblikovani samo za pojedinačne korisnike. Potrebno je omogućiti da stručne zajednice sudjeluju u njihovu razvoju i prilagodbi, primjerice kroz jasne procese povratnih informacija i kroz zahtjeve pri nabavi takvih sustava.
Zaključno, razvoj AI alata koji stvarno pomažu ljudima nije samo tehničko pitanje učinkovitosti, nego i pitanje očuvanja načina na koji struke razmišljaju, odlučuju i razvijaju se.
