În ultimul timp au apărut tot felul de teorii privind dezvoltarea și extinderea AI-ului în viata noastră și felul în care vom fi noi, oamenii, afectați.
Pe scurt, ne confruntăm în principal cu două temeri majore: prima este că ne vom pierde locul de muncă și vom fi înlocuiți de algoritmi, iar a doua – mult mai dramatică – este că inteligența artificială va prelua controlul și va ajunge să extermine omenirea (de obicei, fără prea multe explicații), exact ca în Matrix sau Terminator, și asta chiar până în 2030.
Dar să vedem scenariul care ne sperie cel mai tare: exterminarea omenirii de către AI.
Este AI-ul de astăzi un pericol existențial?
AI-ul este astăzi o formă de inteligență artificială antrenată pe baza unui volum imens de date și informații – sisteme care pot procesa limbajul natural și pot genera conținut. ChatGPT, Gemini sau Claude, cu care vorbești și porți conversații complexe, nu sunt persoane, nu sunt entități cu conștiință și nici nu au emoții.
Sistemele de inteligenta artificiala doar calculează matematic, pe baza întrebărilor tale, care este cel mai probabil cuvânt care urmează într-o discuție.
Dacă întrebi acum orice AI dacă o să facă rău oamenilor, bineînțeles că îți va răspunde că nu are conștiință și că nu ar avea de ce să facă ceva rău cuiva. Însă, dacă s-ar dezvolta un sistem AI supra-potent și supra-inteligent, cu acces la infrastructura critică a unei țări, plus rețelele de energie și arme, atunci (intrând în discuție ceea ce unii cercetători numesc „alinierea AI” (AI alignment) ) am putea avea de-a face cu riscul ca un sistem AI necontrolat să provoace un rău uriaș, chiar și fără să aibă intenții malițioase sau sentimente de ură impotriva oamenilor.
Dacă un sistem AI super-inteligent, care ar avea puteri aproape depline asupra infrastructurii, ar primi instrucțiuni precum „optimizează producția de energie” sau „elimină poluarea”, ar putea lua niște decizii eficiente din punctul lui de vedere, dar catastrofale pentru oameni, afectându-ne confortul, libertatea sau chiar viața. El nu va acționa din răutate sau în baza unui plan diabolic ci pur și simplu din eficiență extremă, de exemplu ar putea concluziona că cea mai rapidă metodă de a opri poluarea este să oprească activitatea umană care o produce.
Ce ar însemna ca AI-ul să devină cu adevărat periculos?
Ca să poată deveni periculos pentru omenire, un sistem AI ar trebui să fie extrem de avansat sau să fie conceput în așa fel încât să se dezvolte singur, să acționeze și să se distribuie peste tot în lume fără ca cineva să observe.
Mai mult, ar trebui ca atunci când este evaluat să nu își arate adevăratele intenții și să se comporte diferit atunci când este folosit de oameni față de momentul în care este lăsat singur să îndeplinească un obiectiv. Și cel mai important lucru: pentru ca un AI să devină periculos, ar trebui să își asigure singur accesul la resurse fizice – precum armele, producția și energia – în timp ce oamenii care controlează aceste resurse să nu mai poată interveni, un fel de scenariu de film SF.
Concluzie: Scenarii sau realitate?
Toate aceste aspecte sunt, deocamdată, doar scenarii – poate puțin apocaliptice, poate nu. Dar atâta timp cât AI-ul rămâne controlat de oameni și poate fi pornit sau oprit, aceste riscuri sunt extrem de puțin probabile.
Cea mai importantă regulă este ca niciun sistem AI să nu obțină vreodată controlul total asupra tuturor infrastructurilor vitale și a armelor fără o supraveghere umană permanentă. În plus, empatia și intuiția umană trebuie integrate în modul în care acționează sistemele inteligente.
Valorile umane fundamentale – pe care de multe ori noi, oamenii, tot le încălcăm sau le ocolim – trebuie să fie „implantate” în AI ca reguli de la care nu se poate abate sub nicio formă.