Riscurile "catastrofice" ale inteligenței artificiale sunt explicate într-un studiu american desfășurat la cererea Departamentului de Stat din SUA. Scenariul cel mai pesimist include o amenințare a întregii omeniri "la nivel de extincție", ca în cazul unui război nuclear.
Studiul realizat de Gladstone AI a inclus interviuri cu peste 200 de experți în inteligență artificială, securitate cibernetică și arme de distrugere în masă. Concluzia principală este că există o nevoie urgentă de intervenție pentru a a limita pericolele inteligenței artificiale.
"Exită tot mai multe dovezi, de la cercetări empirice până la analize publicate de cele mai mari conferințe mondiale de inteligență artificială, care sugerează că AI va deveni imposibil de controlat după un anume prag de dezvoltare", a explicat Jeremie Harris, CEO și confondator al Gladstone AI, citat de CNN.
Cel mai mare risc de pierdere a controlului ține de inteligența artificială generală (AGI). Aceasta diferă substanțial de ChatGPT sau de asistentul Copilot în Windows 11. AGI este o inteligență artificială teoretică, care poate împlini sarcini la nivelul inteligenței umane sau chiar deasupra ei. Unii experți, inclusiv cei de la OpenAI și Google Deepmind, cred că aceasta ar putea deveni realitate până în 2028. Alții consideră ca atingerea pragului AGI ar putea dura decenii.
Exemplele din studiu includ atacuri cibernetice asupra infrastructurii esențiale a unei țări, campanii de dezinformare și manipulare psihologică care pot destabiliza societatea și acte teroriste cu grupuri mari de drone controlate de AI.
Chiar dacă pare un scenariu SF, o altă sursă de pericol este faptul că o inteligență artificială suficient de avansată va face orice pentru a împiedica închiderea sa de către oameni.