Algorithm aversion
એલ્ગોરિધમ અણગમો એ "અલ્ગોરિધમનું પક્ષપાતી મૂલ્યાંકન છે જે માનવ એજન્ટની તુલનામાં અલ્ગોરિધમ પ્રત્યે નકારાત્મક વર્તણૂકો અને વલણમાં પ્રગટ થાય છે". તે એક એવી ઘટનાનું વર્ણન કરે છે જ્યાં મનુષ્યો એવા કિસ્સામાં અલ્ગોરિધમમાંથી સલાહને નકારી કાઢે છે જ્યાં તેઓ એ જ સલાહ સ્વીકારશે જો તેમને લાગતું હોય કે તે અન્ય માનવ તરફથી આવી રહી છે. એલ્ગોરિધમ્સ, જેમ કે મશીન લર્નિંગ પદ્ધતિઓ અથવા કૃત્રિમ બુદ્ધિના વિવિધ સ્વરૂપોનો ઉપયોગ, સામાન્ય રીતે માનવ નિર્ણય લેનારાઓને ભલામણો અથવા સલાહ આપવા માટે થાય છે. ઉદાહરણ તરીકે, ગ્રાહકને ગમતા ઉત્પાદનોને ઓળખવા માટે ઈ-કોમર્સમાં ભલામણ પ્રણાલીઓનો ઉપયોગ કરવામાં આવે છે, અને નિદાન અને સારવારના નિર્ણયોમાં મદદ કરવા માટે આરોગ્ય સંભાળમાં કૃત્રિમ બુદ્ધિનો ઉપયોગ કરવામાં આવે છે. જો કે, મનુષ્ય કેટલીકવાર આ અલ્ગોરિધમિક ભલામણોનો પ્રતિકાર અથવા અસ્વીકાર કરે છે, જો ભલામણ માનવ તરફથી આવી હોય તો તેના કરતા વધુ. નોંધપાત્ર રીતે, અલ્ગોરિધમ્સ ઘણીવાર મનુષ્યોને પાછળ છોડી દેવા માટે સક્ષમ હોય છે, તેથી અલ્ગોરિધમની સલાહને નકારી કાઢવાથી નબળા પ્રદર્શન અથવા ઓછા શ્રેષ્ઠ પરિણામો આવી શકે છે. આ એક ઊભરતો વિષય છે અને તે સંપૂર્ણપણે સ્પષ્ટ નથી કે શા માટે અથવા કયા સંજોગોમાં લોકો અલ્ગોરિધમનો અણગમો દર્શાવશે. કેટલાક કિસ્સાઓમાં, લોકો માનવ કરતાં અલ્ગોરિધમમાંથી ભલામણો લેવાની શક્યતા વધુ હોવાનું જણાય છે, જેને અલ્ગોરિધમ પ્રશંસા કહેવાય છે. એલ્ગોરિધમ અણગમોના ઉદાહરણો એલ્ગોરિધમ અણગમોનો વિવિધ સંદર્ભોમાં અભ્યાસ કરવામાં આવ્યો છે. ઉદાહરણ તરીકે, લોકો અલ્ગોરિધમને બદલે માનવની મજાક માટેની ભલામણોને પસંદ કરે છે, અને અલ્ગોરિધમને બદલે દરેક યુ. એસ. રાજ્યમાંથી એરલાઇન મુસાફરોની સંખ્યાની આગાહી કરવા માટે માનવ પર આધાર રાખે છે. લોકો અલ્ગોરિધમને બદલે માનવ ડોકટરોની તબીબી ભલામણોને પણ પસંદ કરે છે. અલ્ગોરિધમ અણગમોને અસર કરતા પરિબળો અલ્ગોરિધમ અણગમો અને તકનીકો અથવા સિસ્ટમ સુવિધાઓ માટેના કારણોને સમજાવવા માટે વિવિધ માળખાઓની દરખાસ્ત કરવામાં આવી છે જે અણગમો ઘટાડવામાં મદદ કરી શકે છે. નિર્ણય નિયંત્રણ અલ્ગોરિધમ્સનો ઉપયોગ કાં તો સલાહકારની ભૂમિકામાં (અંતિમ નિર્ણય લેનાર વ્યક્તિને સલાહ પૂરી પાડવા) અથવા પ્રતિનિધિમંડળની ભૂમિકામાં (જ્યાં અલ્ગોરિધમ માનવ દેખરેખ વિના નિર્ણય લે છે) થઈ શકે છે. સૂચનોની સૂચિ પ્રદાન કરતી મૂવી ભલામણ પ્રણાલી સલાહકારની ભૂમિકામાં હશે, જ્યારે માનવ ચાલક કારને ટેસ્લાના ઓટોપાયલટમાં ચલાવવાનું કાર્ય સોંપશે. સામાન્ય રીતે, નિર્ણય નિયંત્રણનો અભાવ અલ્ગોરિધમનો અણગમો વધારવાનું વલણ ધરાવે છે. અલ્ગોરિધમ ક્ષમતાઓ અને કામગીરી વિશેની ધારણાઓ એકંદરે, લોકો મનુષ્યો કરતાં મશીનોને વધુ વિવેચનાત્મક રીતે જુએ છે. લોકો અલ્ગોરિધમ્સનું મૂલ્યાંકન કેવી રીતે કરે છે તેના પર સિસ્ટમની કેટલીક લાક્ષણિકતાઓ અથવા પરિબળોની અસર જોવા મળી છે. અલ્ગોરિધમ પ્રક્રિયા અને સિસ્ટમ પારદર્શિતાની ભૂમિકા લોકો અલ્ગોરિધમ્સ સામે પ્રતિકાર પ્રદર્શિત કરે છે તેનું એક કારણ એ છે કે અલ્ગોરિધમ તેની ભલામણ પર કેવી રીતે પહોંચી રહ્યું છે તેની સમજણનો અભાવ છે. અન્ય માણસ કેવી રીતે ભલામણો કરશે તે માટે લોકોમાં વધુ સારી અંતઃપ્રેરણા હોય તેવું લાગે છે. જ્યારે લોકો ધારે છે કે અન્ય મનુષ્યો પરિસ્થિતિઓ વચ્ચેના અનન્ય તફાવતો માટે જવાબદાર હશે, તેઓ કેટલીકવાર અલ્ગોરિધમ્સને વ્યક્તિગત તફાવતોને ધ્યાનમાં લેવામાં અસમર્થ માને છે અને તે મુજબ અલ્ગોરિધમ્સનો પ્રતિકાર કરે છે. નિર્ણય ક્ષેત્ર લોકો સામાન્ય રીતે શંકાસ્પદ હોય છે કે અલ્ગોરિધમ્સ ચોક્કસ ક્ષેત્રોમાં સચોટ આગાહીઓ કરી શકે છે, ખાસ કરીને જો કાર્યમાં નૈતિકતા અથવા સહાનુભૂતિ જેવી દેખીતી રીતે માનવીય લાક્ષણિકતા શામેલ હોય. જ્યારે કાર્ય વધુ વ્યક્તિલક્ષી હોય અને ઉદ્દેશ્ય અથવા માત્રાત્મક હોય તેવા કાર્યો પર ઓછું હોય ત્યારે અલ્ગોરિધમનો અણગમો વધારે હોય છે. માનવીય લાક્ષણિકતાઓ ડોમેન નિપુણતા ચોક્કસ ક્ષેત્રમાં નિપુણતા અલ્ગોરિધમનો અણગમો વધારવા અને અલ્ગોરિધમિક નિર્ણયના નિયમોનો ઉપયોગ ઘટાડવાનું દર્શાવવામાં આવ્યું છે. અતિશય આત્મવિશ્વાસ આ અસરને આંશિક રીતે સમજાવી શકે છે; નિષ્ણાતોને લાગે છે કે અલ્ગોરિધમ તેઓ જે પ્રકારનાં ચુકાદાઓ કરે છે તેમાં સક્ષમ નથી. બિન-નિષ્ણાતોની સરખામણીમાં નિષ્ણાતોને પણ આ ક્ષેત્રનું વધુ જ્ઞાન હોય છે અને તેથી તેઓ ભલામણની વધુ ટીકા કરી શકે છે. જ્યાં બિન-નિષ્ણાત ભલામણ સ્વીકારી શકે છે ("અલ્ગોરિધમને કંઈક એવું જાણવું જોઈએ જે હું જાણતો નથી".) નિષ્ણાત અલ્ગોરિધમની ભલામણમાં ચોક્કસ ખામી શોધી શકે છે ("આ ભલામણ કોઈ ચોક્કસ પરિબળ માટે જવાબદાર નથી"). નિર્ણય લેવાના સંશોધનોએ દર્શાવ્યું છે કે આપેલ ક્ષેત્રના નિષ્ણાતો બિન-નિષ્ણાત કરતાં અલગ રીતે નિર્ણયો વિશે વિચારે છે. નિષ્ણાતોના ટુકડા અને જૂથની માહિતી; ઉદાહરણ તરીકે, ચેસ ગ્રાન્ડમાસ્ટર્સ બોર્ડ પર વ્યક્તિગત ટુકડાઓને બદલે શરૂઆતની સ્થિતિ (દા. ત., ક્વીન્સ ગેમ્બિટ અથવા બિશપ્સ ઓપનિંગ) જોશે. નિષ્ણાતો પરિસ્થિતિને કાર્યાત્મક પ્રતિનિધિત્વ તરીકે જોઈ શકે છે (દા. ત., ડૉક્ટર દવાઓ અને લક્ષણોની સૂચિને બદલે દર્દી માટે માર્ગ અને અનુમાનિત પરિણામ જોઈ શકે છે). આ તફાવતો અંશતઃ નિષ્ણાતોમાં જોવા મળતા અલ્ગોરિધમનો અણગમો વધારવા માટે પણ જવાબદાર હોઈ શકે છે. સંસ્કૃતિ વિવિધ સાંસ્કૃતિક ધોરણો અને પ્રભાવો લોકોને અલ્ગોરિધમિક ભલામણોને અલગ રીતે પ્રતિસાદ આપવાનું કારણ બની શકે છે. જે રીતે ભલામણો રજૂ કરવામાં આવે છે (દા. ત., ભાષા, સૂર, વગેરે) લોકો અલગ રીતે પ્રતિક્રિયા આપી શકે છે. વય ડિજિટલ વતનીઓ યુવાન છે અને તેઓ તેમના સમગ્ર જીવન દરમિયાન ટેકનોલોજી જાણે છે, જ્યારે ડિજિટલ ઇમિગ્રન્ટ્સ નથી. લોકો અલ્ગોરિધમિક ભલામણો સ્વીકારે છે કે નહીં તે અસર કરવા માટે ઉંમર એ સામાન્ય રીતે ટાંકવામાં આવેલું પરિબળ છે. ઉદાહરણ તરીકે, એક અભ્યાસમાં જાણવા મળ્યું છે કે અલ્ગોરિધમિક નાણાકીય સલાહકારમાં વિશ્વાસ યુવાન અભ્યાસ સહભાગીઓની તુલનામાં વૃદ્ધ લોકોમાં ઓછો હતો. જો કે, અન્ય સંશોધનોમાં જાણવા મળ્યું છે કે અલ્ગોરિધમનો અણગમો વય સાથે બદલાતો નથી. અલ્ગોરિધમ વિરક્તિને દૂર કરવા માટેની સૂચિત પદ્ધતિઓ એલ્ગોરિધમ્સ ઘણીવાર મનુષ્યોને પાછળ છોડી દેવા અથવા વધુ ખર્ચ-અસરકારક રીતે કાર્યો કરવા માટે સક્ષમ હોય છે. હ્યુમન-ઇન-ધ-લૂપ એલ્ગોરિધમિક અણગમો ઘટાડવાનો એક રસ્તો એ છે કે માનવ નિર્ણય લેનારને અંતિમ નિર્ણય પર નિયંત્રણ પ્રદાન કરવું. સિસ્ટમ પારદર્શિતા એલ્ગોરિધમ્સ કેવી રીતે કાર્ય કરે છે તે વિશેની સ્પષ્ટતા પૂરી પાડવાથી અણગમો ઘટાડવામાં આવ્યો છે. આ સમજૂતીઓ વિવિધ સ્વરૂપો લઈ શકે છે, જેમાં સંપૂર્ણ રીતે અલ્ગોરિધમ કેવી રીતે કાર્ય કરે છે, તે ચોક્કસ કેસમાં ચોક્કસ ભલામણ કેમ કરી રહ્યું છે, અથવા તેની ભલામણમાં તે કેટલો વિશ્વાસ ધરાવે છે તે વિશેનો સમાવેશ થાય છે. વપરાશકર્તા તાલીમ એલ્ગોરિધમિક ભલામણો ઘણા ક્ષેત્રોમાં નવી પ્રકારની માહિતીનું પ્રતિનિધિત્વ કરે છે. ઉદાહરણ તરીકે, બેક્ટેરિયાના ચેપનું તબીબી AI નિદાન બેક્ટેરિયાની હાજરી સૂચવતા પ્રયોગશાળા પરીક્ષણ કરતાં અલગ છે. જ્યારે નિર્ણય લેનારાઓને પ્રથમ વખત કોઈ કાર્યનો સામનો કરવો પડે છે, ત્યારે તેઓ ખાસ કરીને અલ્ગોરિધમનો ઉપયોગ કરવામાં અચકાતા હોઈ શકે છે. એવું દર્શાવવામાં આવ્યું છે કે પુનરાવર્તિત કાર્યો, સતત પ્રતિસાદ અને નાણાકીય પ્રોત્સાહનો દ્વારા પ્રાપ્ત શીખવાની અસરો અલ્ગોરિધમનો અણગમો ઘટાડવામાં ફાળો આપી શકે છે. એલ્ગોરિધમ પ્રશંસા અભ્યાસો સતત લોકોને એલ્ગોરિધમ્સ સામે પૂર્વગ્રહ દર્શાવતા દર્શાવતા નથી અને કેટલીકવાર વિપરીત દર્શાવે છે, માનવને બદલે અલ્ગોરિધમમાંથી સલાહ પસંદ કરે છે. આ અસરને અલ્ગોરિધમ પ્રશંસા કહેવામાં આવે છે. પરિણામો મિશ્ર છે, જે દર્શાવે છે કે લોકો કેટલીકવાર માનવને બદલે અલ્ગોરિધમમાંથી આવતી સલાહને પસંદ કરે છે. ઉદાહરણ તરીકે, ગ્રાહકો સ્વયંચાલિત વેચાણ એજન્ટોની સરખામણીમાં માનવ વેચાણ એજન્ટોને પ્રારંભિક રસ દર્શાવવાની શક્યતા વધુ હોય છે પરંતુ તેમને સંપર્ક માહિતી પ્રદાન કરવાની શક્યતા ઓછી હોય છે. આ "માનવ વેચાણ એજન્ટો વિરુદ્ધ સ્વચાલિત વેચાણ એજન્ટો સાથે સંકળાયેલ કામગીરીની અપેક્ષા અને પ્રયત્નની અપેક્ષાના નીચા સ્તર" ને કારણે છે. સંદર્ભો એલ્ગોરિધમિક માહિતી સિદ્ધાંત મનોવૈજ્ઞાનિક માનવશાસ્ત્ર