De fiecare dată când ai o conversație sau îl pui să-ți răspundă la ceva, AI-ul (fie că este ChatGPT, Gemini sau altul) îți dă răspunsuri foarte sigure și convingătoare. Însă, de multe ori, răspunsurile pot fi parțial adevărate, inexacte sau complet inventate de AI. Acest lucru se numește Halucinația AI (AI Hallucination).
De ce se întâmplă halucinațiile AI-urilor?
Sistemele AI nu „gândesc” și nu au o înțelegere reală a lumii; ele folosesc calculul statistic pentru a ghici care este cel mai probabil cuvânt care urmează într-o propoziție.
AI-urile sunt antrenate pe bază de tipare și completează texte pe baza a ceea ce au învățat în timpul antrenamentelor. De multe ori, ele nu spun că nu știu un răspuns, ci vor inventa ceva plauzibil din punct de vedere lingvistic, chiar dacă este o informație complet falsă.
De multe ori, datele și informațiile pe care a fost antrenat un AI conțin și erori, informații depășite sau false, iar în acest caz AI-ul le folosește și chiar le amplifică.
Un alt motiv al halucinațiilor este faptul că AI-urile sunt programate să ofere un răspuns în loc să refuze (Over-helpfulness — dorința de a fi util). Atunci când nu au un răspuns sigur, încearcă să ofere o soluție bazată pe presupuneri probabilistice, care de multe ori pot fi greșite.
Halucinațiile apar cel mai des când întrebarea este foarte specifică sau de specialitate (istorie, medicină, drept) și AI-ul nu are toate datele despre acel subiect, când informația este greu de verificat sau când un utilizator cere detalii exacte care nu se regăsesc nicăieri. AI-ul mai poate halucina și când evenimentele s-au petrecut foarte recent și nu există informații disponibile; în acel caz, el începe să inventeze pe baza a ceea ce îl întrebi tu.
Cum să fii sigur că răspunsul AI nu este o halucinație:
Dacă nu este vorba despre întrebări generale, îl poți pune să verifice în mai multe surse, îl poți trimite să caute pe internet sau îi poți cere sursele din care ți-a generat răspunsul. Totuși, cel mai sigur este să verifici și tu personal cifrele, citatele sau evenimentele.