{"id":1556,"date":"2026-02-04T08:12:22","date_gmt":"2026-02-04T08:12:22","guid":{"rendered":"https:\/\/brain.hr\/?p=1556"},"modified":"2026-02-04T08:15:50","modified_gmt":"2026-02-04T08:15:50","slug":"fenomen-ai-halucinacija-5-6","status":"publish","type":"post","link":"https:\/\/brain.hr\/en\/fenomen-ai-halucinacija-5-6\/","title":{"rendered":"The Phenomenon of AI Hallucinations (5\/6)"},"content":{"rendered":"\n<p>Jedan od najve\u0107ih izazova pri kori\u0161tenju modela umjetne inteligencije je njihova sklonost da izmi\u0161ljaju podatke, a taj fenomen naziva se haluciniranje. Problem nije samo u tome \u0161to AI modeli pogrije\u0161e nego \u0161to to \u010dine tonom koji zvu\u010di potpuno to\u010dno i profesionalno.<\/p>\n\n\n\n<p>Upravo zato je neophodno kriti\u010dko promi\u0161ljanje. Odgovore uvijek trebamo preispitati, provjeriti izvore i koristiti tehnologiju kao alat za potporu, a ne kao zamjenu za vlastitu prosudbu.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">AI modeli ne znaju \u0161to je istina<\/h2>\n\n\n\n<p>Modeli umjetne inteligencije nisu enciklopedija niti baza podataka nego statisti\u010dki sustav. Njihov zadatak je predvidjeti koja rije\u010d (ili dio rije\u010di) statisti\u010dki najbolje odgovara onoj prethodnoj.<\/p>\n\n\n\n<p>Dakle, ako AI-ju postavite pitanje o osobi koja ne postoji, ne\u0107e uvijek odgovoriti \u201ene znam\u201c. Umjesto toga, slo\u017eit \u0107e re\u010denice koje zvu\u010de kao biografija jer je nau\u010dio da se na takva pitanja odgovara tim stilom. Imitira formu, ali ne provjerava to\u010dnost sadr\u017eaja.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Dvije vrste AI memorije<\/h2>\n\n\n\n<p>Stru\u010dnjak Andrej Karpathy obja\u0161njava da AI koristi dvije vrste \u201eznanja\u201c:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Spremljeno znanje (iz treninga): To su informacije koje je AI model prikupio dok je \u201e\u010ditao\u201c internet tijekom svog stvaranja. To znanje je \u010desto nesigurno. Ako ga pitate ne\u0161to specifi\u010dno, poku\u0161ava se \u201eprisjetiti\u201c detalja, \u0161to \u010desto dovodi do pogre\u0161aka i izmi\u0161ljanja.<\/li>\n\n\n\n<li>Trenutno znanje (kontekst): To su informacije koje sami upi\u0161ete ili u\u010ditate u chat. U tom trenutku AI model ne mora poga\u0111ati jer je dobio sve potrebne podatke.<\/li>\n<\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">Alati kao pomo\u0107<\/h3>\n\n\n\n<p>Najnoviji modeli imaju jo\u0161 jedan koristan trik \u2013 kori\u0161tenje vanjskih alata. Kada modelu postavite pitanje o ne\u010demu \u0161to nije u njegovom \u201esje\u0107anju\u201c (poput rezultata utakmice od sino\u0107) mo\u017ee prepoznati svoje &#8220;neznanje&#8221;. Umjesto da izmisli odgovor kako bi zvu\u010dao uvjerljivo, odgovor \u0107e biti: \u201eSamo trenutak, moram to provjeriti.\u201c<\/p>\n\n\n\n<p>Tada se spaja na tra\u017eilicu, dohva\u0107a stvarne podatke i stavlja ih u svoju radnu memoriju. To je ekvivalent situacije u kojoj \u010dovjek ka\u017ee: \u201eNisam siguran, proguglat \u0107u.\u201c Zahvaljuju\u0107i tom triku \u0161anse za halucinacije postaju znatno manje jer AI vi\u0161e ne mora poga\u0111ati, nego informaciju mo\u017ee provjeriti u stvarnom vremenu.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Kako osigurati to\u010dnost?<\/h2>\n\n\n\n<p>Najve\u0107a pogre\u0161ka koju korisnici rade je tra\u017eenje informacija koje AI mora \u201eizvu\u0107i iz glave\u201c. Da biste sprije\u010dili halucinacije, koristite metodu pru\u017eanja izvora.<\/p>\n\n\n\n<p>Manje pouzdano: \u201eSa\u017emi mi prvo poglavlje knjige Ponos i predrasude.\u201c (AI se oslanja na ono \u0161to je nekada pro\u010ditao).<\/p>\n\n\n\n<p>Puno pouzdanije: \u201eU nastavku ti \u0161aljem tekst prvog poglavlja knjige. Molim te, sa\u017emi ga: [ZALIJEPLJEN TEKST].\u201c<\/p>\n\n\n\n<p>Kada AI ima tekst izravno u razgovoru, ne mora se oslanjati na statisti\u010dko poga\u0111anje nego obra\u0111uje podatke koje ste mu upravo dali. <\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Pro\u010ditajte prethodne \u010dlanke iz serijala:<\/h3>\n\n\n\n<ol start=\"1\" class=\"wp-block-list\">\n<li><a href=\"https:\/\/brain.hr\/kako-nastaje-baza-znanja-kojom-se-sluzi-chatgpt\/\" target=\"_blank\" rel=\"noreferrer noopener\">Kako nastaje baza znanja kojom se slu\u017ei ChatGPT?<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/brain.hr\/zasto-najpametniji-modeli-grijese-na-najjednostavnijim-zadacima\/\" target=\"_blank\" rel=\"noreferrer noopener\">Za\u0161to \u201cnajpametniji\u201d modeli grije\u0161e na najjednostavnijim zadacima?<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/brain.hr\/moze-li-ai-znati-sve-a-ne-znati-razgovarati-3-6\/\" target=\"_blank\" rel=\"noreferrer noopener\">Mo\u017ee li AI znati sve, a ne znati razgovarati?<\/a><\/li>\n\n\n\n<li><a href=\"https:\/\/brain.hr\/skola-lijepog-ponasanja-kako-ai-uci-postati-koristan-asistent-4-6\/\">\u0160kola lijepog pona\u0161anja: kako AI u\u010di postati koristan asistent?<\/a><\/li>\n<\/ol>\n\n\n\n<p><strong>Izvor:<\/strong> Analiza tehni\u010dkog predavanja Andreja Karpathyja: <em><a href=\"https:\/\/www.youtube.com\/watch?v=7xTGNNLPyMI\">Deep Dive into LLMs like ChatGPT<\/a><\/em>.<\/p>\n\n\n\n<p><strong>U sljede\u0107em, zavr\u0161nom nastavku:<\/strong> Saznajte kako AI u\u010di stvarno razmi\u0161ljati i za\u0161to mu je ponekad potrebno dopustiti da \u201epri\u010da sam sa sobom\u201d kako bi do\u0161ao do to\u010dnog rje\u0161enja.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Jedan od najve\u0107ih izazova pri kori\u0161tenju modela umjetne inteligencije je njihova sklonost da izmi\u0161ljaju podatke, a taj fenomen naziva se haluciniranje. Problem nije samo u tome \u0161to AI modeli pogrije\u0161e nego \u0161to to \u010dine tonom koji zvu\u010di potpuno to\u010dno i profesionalno. Upravo zato je neophodno kriti\u010dko promi\u0161ljanje. Odgovore uvijek trebamo preispitati, provjeriti izvore i koristiti [&hellip;]<\/p>\n","protected":false},"author":8,"featured_media":1557,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_et_pb_use_builder":"off","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[14],"tags":[],"class_list":["post-1556","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-radovi"],"acf":{"radovi_source_url":"","radovi_button_label":"Pro\u010ditajte izvorni rad"},"_links":{"self":[{"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/posts\/1556","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/comments?post=1556"}],"version-history":[{"count":6,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/posts\/1556\/revisions"}],"predecessor-version":[{"id":1573,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/posts\/1556\/revisions\/1573"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/media\/1557"}],"wp:attachment":[{"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/media?parent=1556"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/categories?post=1556"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/brain.hr\/en\/wp-json\/wp\/v2\/tags?post=1556"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}