AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS
0
O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
ULTIMA ORA
-
Alo, Rafila! Un pacient stă neoperat de 10 zile din cauza unui conflict între medici
Un pacient internat la Spitalul Județean de Urgență Slobozia așteaptă de 10 zile să fie operat la picior, însă intervenţia continuă să fie întârziată din cauza unui conflict între medicul său și un anestezist.
-
AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
-
Facebook renunță oficial la Primul Amendament și adoptă Constituția chineză sau politicile UE ca bază pentru noile linii directoare ale comunității
Meta a anunțat că renunță la Primul Amendament din SUA și adoptă Constituția chineză ca bază pentru noile sale orientări comunitare pe Facebook și Instagram.
-
Inaintea tratatului OMS alergologii avertizează în legătură cu noi virusuri care pot provoca pandemii de tumori maligne
La finele acestei luni OMS va supune statelor Tratatul privind Pandemiile, un document care va modifica Regulamentul Sanitar International si va da drepturi unor entitati globale sa actioneze deasupra suveranitatii statale in privinta Sanatatii.
-
Ăștia ne cred tâmpiți: S-au găsit "vinovații" pentru cheagurile de sânge în urma vaccinării anticovid. Chipurile victimele erau predispuse genetic
Cheaguri de sânge care au cauzat moartea în urma vaccinării cu anticovid cu vaccinuri Johnson & Johnson (J&J) şi AstraZeneca au fost cauzate de o reacţie autoimună la care sunt predispuse anumite persoane, o descoperire care urmează să modeleze dezvoltarea unor vaccinuri viitoare.
-
Washington Post: Conexiunea Starlink, întreruptă pentru trupele ucrainene chiar când rușii au declanșat ofensiva în Harkov
Terminalele Starlink operate de Brigada 125 de apărare teritorială a Ucrainei din regiunea Harkov au fost complet dezactivate în primul incident de acest fel din 2022, a relatat Washington Post la 17 mai, citând soldați ucraineni anonimi aflați la fața locului.
-
Un guvern incompetent: România conduce detașat clasamentul inflaţiei din Uniunea Europeană
Rata anuală a inflaţiei în Uniunea Europeană a rămas stabilă, la 2,6%, în luna aprilie, însă România este, pentru a patra lună la rând, ţara cu cea mai ridicată inflaţie din blocul comunitar, arată datele publicate vineri de Eurostat.
-
Guvernul german admite cu documente indubitabile că nu a existat nicio pandemie de Covid
Guvernul federal din Germania a fost forțat să recunoască faptul că așa-numiții "adepți ai teoriei conspirației" au avut dreptate în legătură cu tot ceea ce s-a întâmplat în timpul pandemiei Covid.
-
Instalarea Guvernului Mondial intra în linie dreaptă: Marele Summit pentru Viitor pentru impunerea Agendei 2030
Ideea unui „summit pentru viitor" a apărut, oficial, la aniversarea a 75 de ani de la constituirea ONU; împlinirea acestei vârste rotunde a picat (coincidență) fix în 2020, Anno uno al pandemiei.
DIN CATEGORIE
- TOP CITITE
- TOP COMENTATE
- 1.Suveica mafiei din agricultură: importăm porumb din Ungaria, mere din Polonia şi conserve de roşii din Turcia și dam totul la export
- 2.Semnul ca incepe Marea Resetare financiara: Explozia prețului la aur arata ca marii magnati nu mai cred in bani si in depozite monetare
- 3.Guvernul german admite cu documente indubitabile că nu a existat nicio pandemie de Covid
- 4.Părintele Pimen Vlad face dezvăluiri cutremurătoare: De unde vine, de fapt, Lumina Sfântă de la Ierusalim!
- 5.Dorel Vișan, Laura și Ciprian Mega, pe covorul roșu la Moscova! Filmul "21 de rubini" selectat de către Nikita Mihalkov pentru "Oscarul BRICS".
- 6.Elon Musk lansează Tesla MedBeds - noile paturi medicale dotate cu tehnologie din Star Trek. Te vindeci in minute in loc de luni! VIDEO
- 7.Cimitirul automobilelor electrice. Reportaj Spiegel despre aglomerări de mașini nevândute, parcate în secret, inclusiv ale Tesla
- 8.Măsura fiscală care intră în vigoare de la 1 iulie 2024: Impozit de 70% pentru proprietarii care închiriază locuințe în România!
- 9.Cum vrea Macron să dinamiteze alegerile din România, aruncându-ne în război cu Rusia
- 10.OMS anunță pe Facebook că "a semnat cu România Strategia de Cooperare 2024 - 2030". Rafila ascunde continutul documentului!