Algorithm aversion
एल्गोरिथम घृणा "एक एल्गोरिथम का पक्षपाती मूल्यांकन है जो एक मानव एजेंट की तुलना में एल्गोरिथम के प्रति नकारात्मक व्यवहार और दृष्टिकोण में प्रकट होता है।" यह एक ऐसी घटना का वर्णन करता है जहां मनुष्य एक ऐसे मामले में एक एल्गोरिथ्म से सलाह को अस्वीकार कर देते हैं जहां वे उसी सलाह को स्वीकार करेंगे यदि उन्हें लगता है कि यह किसी अन्य मानव से आ रही है। एल्गोरिदम, जैसे कि मशीन लर्निंग विधियों या कृत्रिम बुद्धिमत्ता के विभिन्न रूपों को नियोजित करने वाले, आमतौर पर मानव निर्णय निर्माताओं को सिफारिश या सलाह प्रदान करने के लिए उपयोग किए जाते हैं। उदाहरण के लिए, ई-कॉमर्स में ग्राहक को पसंद आने वाले उत्पादों की पहचान करने के लिए अनुशंसा प्रणालियों का उपयोग किया जाता है, और स्वास्थ्य सेवा में कृत्रिम बुद्धिमत्ता का उपयोग निदान और उपचार निर्णयों में सहायता के लिए किया जाता है। हालाँकि, मनुष्य कभी-कभी इन एल्गोरिथमिक अनुशंसाओं का विरोध या अस्वीकार करते दिखाई देते हैं, भले ही अनुशंसा किसी मानव से आई हो। विशेष रूप से, एल्गोरिदम अक्सर मनुष्यों को पछाड़ने में सक्षम होते हैं, इसलिए एल्गोरिदमिक सलाह को अस्वीकार करने के परिणामस्वरूप खराब प्रदर्शन या उप-इष्टतम परिणाम हो सकते हैं। यह एक उभरता हुआ विषय है और यह पूरी तरह से स्पष्ट नहीं है कि लोग क्यों या किन परिस्थितियों में एल्गोरिदम से घृणा प्रदर्शित करेंगे। कुछ मामलों में, लोग मनुष्य की तुलना में एक एल्गोरिथ्म से सिफारिशें लेने की अधिक संभावना रखते हैं, एक घटना जिसे एल्गोरिथ्म प्रशंसा कहा जाता है। एल्गोरिदम विरक्ति के उदाहरण एल्गोरिदम विरक्ति का विभिन्न प्रकार के संदर्भों में अध्ययन किया गया है। उदाहरण के लिए, लोग एक एल्गोरिथ्म के बजाय एक मानव से चुटकुलों के लिए सिफारिशों को पसंद करते हैं, और एक एल्गोरिथ्म के बजाय प्रत्येक अमेरिकी राज्य से एयरलाइन यात्रियों की संख्या का अनुमान लगाने के लिए एक मानव पर भरोसा करते हैं। लोग एक एल्गोरिथ्म के बजाय मानव डॉक्टरों से चिकित्सा अनुशंसाओं को भी पसंद करते हैं। एल्गोरिथ्म विरक्ति को प्रभावित करने वाले कारक एल्गोरिथ्म विरक्ति के कारणों और तकनीकों या प्रणाली विशेषताओं की व्याख्या करने के लिए विभिन्न ढांचे प्रस्तावित किए गए हैं जो विरक्ति को कम करने में मदद कर सकते हैं। निर्णय नियंत्रण एल्गोरिदम का उपयोग या तो एक सलाहकार भूमिका (एक ऐसे व्यक्ति को सलाह प्रदान करना जो अंतिम निर्णय लेगा) या एक प्रतिनिधिमंडलीय भूमिका (जहां एल्गोरिदम मानव पर्यवेक्षण के बिना निर्णय लेता है) में किया जा सकता है। सुझावों की सूची प्रदान करने वाली एक फिल्म अनुशंसा प्रणाली एक सलाहकार की भूमिका में होगी, जबकि मानव चालक कार को टेस्ला के ऑटोपायलट को चलाने का कार्य सौंपता है। आम तौर पर, निर्णय नियंत्रण की कमी एल्गोरिदम घृणा को बढ़ाती है। एल्गोरिदम क्षमताओं और प्रदर्शन के बारे में धारणाएं कुल मिलाकर, लोग मनुष्यों की तुलना में मशीनों को अधिक आलोचनात्मक रूप से आंकते हैं। कई प्रणाली विशेषताओं या कारकों को प्रभावित करने के लिए दिखाया गया है कि लोग एल्गोरिदम का मूल्यांकन कैसे करते हैं। एल्गोरिदम प्रक्रिया और प्रणाली पारदर्शिता की भूमिका लोग एल्गोरिदम के प्रति प्रतिरोध प्रदर्शित करने का एक कारण यह है कि एल्गोरिदम अपनी सिफारिश पर कैसे पहुंच रहा है, इस बारे में समझ की कमी है। ऐसा लगता है कि लोगों में इस बारे में भी बेहतर अंतर्ज्ञान है कि दूसरा इंसान कैसे सिफारिशें करेगा। जबकि लोग मानते हैं कि अन्य मनुष्य स्थितियों के बीच अद्वितीय अंतर के लिए जिम्मेदार होंगे, वे कभी-कभी एल्गोरिदम को व्यक्तिगत मतभेदों पर विचार करने में असमर्थ मानते हैं और तदनुसार एल्गोरिदम का विरोध करते हैं। निर्णय क्षेत्र लोग आम तौर पर संदेह करते हैं कि एल्गोरिदम कुछ क्षेत्रों में सटीक भविष्यवाणियां कर सकते हैं, विशेष रूप से यदि कार्य में नैतिकता या सहानुभूति जैसी मानवीय विशेषता शामिल है। एल्गोरिथम घृणा तब अधिक होती है जब कार्य अधिक व्यक्तिपरक होता है और उन कार्यों पर कम होता है जो उद्देश्यपूर्ण या मात्रात्मक होते हैं। मानव विशेषताएँ क्षेत्र विशेषज्ञता किसी विशेष क्षेत्र में विशेषज्ञता को एल्गोरिदम के प्रति घृणा बढ़ाने और एल्गोरिदमिक निर्णय नियमों के उपयोग को कम करने के लिए दिखाया गया है। अति आत्मविश्वास आंशिक रूप से इस प्रभाव की व्याख्या कर सकता है; विशेषज्ञों को लग सकता है कि एक एल्गोरिथ्म उनके द्वारा किए गए निर्णयों के प्रकारों में सक्षम नहीं है। गैर-विशेषज्ञों की तुलना में, विशेषज्ञों को भी इस क्षेत्र का अधिक ज्ञान होता है और इसलिए वे किसी सिफारिश की अधिक आलोचना कर सकते हैं। जहाँ एक गैर-विशेषज्ञ एक सिफारिश को स्वीकार कर सकता है ("एल्गोरिथ्म को कुछ ऐसा पता होना चाहिए जो मुझे नहीं है।") विशेषज्ञ को एल्गोरिथ्म की सिफारिश में विशिष्ट त्रुटि मिल सकती है ("यह सिफारिश किसी विशेष कारक के लिए जिम्मेदार नहीं है")। निर्णय लेने वाले शोध से पता चला है कि किसी दिए गए क्षेत्र के विशेषज्ञ निर्णयों के बारे में गैर-विशेषज्ञ की तुलना में अलग तरह से सोचते हैं। विशेषज्ञ टुकड़े और समूह की जानकारी देते हैं; उदाहरण के लिए, शतरंज ग्रैंडमास्टर बोर्ड पर अलग-अलग टुकड़ों के बजाय शुरुआती स्थिति (जैसे, क्वींस गैम्बिट या बिशप्स ओपनिंग) देखेंगे। विशेषज्ञ एक स्थिति को एक कार्यात्मक प्रतिनिधित्व के रूप में देख सकते हैं (उदाहरण के लिए, एक डॉक्टर दवाओं और लक्षणों की सूची के बजाय एक रोगी के लिए एक प्रक्षेपवक्र और अनुमानित परिणाम देख सकता है)। ये अंतर आंशिक रूप से विशेषज्ञों में देखे गए एल्गोरिदम घृणा के लिए भी जिम्मेदार हो सकते हैं। संस्कृति विभिन्न सांस्कृतिक मानदंड और प्रभाव लोगों को अलग-अलग एल्गोरिदमिक सिफारिशों के प्रति अलग-अलग प्रतिक्रिया देने का कारण बन सकते हैं। जिस तरह से सिफारिशें प्रस्तुत की जाती हैं (जैसे, भाषा, स्वर, आदि) हो सकता है कि लोग अलग तरह से प्रतिक्रिया दें। आयुवर्ग के डिजिटल मूल निवासी युवा हैं और वे अपने पूरे जीवन में प्रौद्योगिकी को जानते हैं, जबकि डिजिटल अप्रवासी नहीं जानते हैं। आयु एक सामान्य रूप से उद्धृत कारक है जिसकी परिकल्पना यह प्रभावित करने के लिए की जाती है कि लोग एल्गोरिदमिक सिफारिशों को स्वीकार करते हैं या नहीं। उदाहरण के लिए, एक अध्ययन में पाया गया कि एक एल्गोरिथमिक वित्तीय सलाहकार में विश्वास युवा अध्ययन प्रतिभागियों की तुलना में वृद्ध लोगों में कम था। हालांकि, अन्य शोधों में पाया गया है कि एल्गोरिदम घृणा उम्र के साथ भिन्न नहीं होती है। एल्गोरिदम विरक्ति को दूर करने के लिए प्रस्तावित तरीके एल्गोरिदम अक्सर मनुष्यों को पछाड़ने या कार्यों को अधिक लागत प्रभावी ढंग से करने में सक्षम होते हैं। ह्यूमन-इन-द-लूप एल्गोरिदमिक घृणा को कम करने का एक तरीका मानव निर्णय निर्माता को अंतिम निर्णय पर नियंत्रण प्रदान करना है। प्रणाली पारदर्शिता एल्गोरिदम के काम करने के तरीके के बारे में स्पष्टीकरण प्रदान करना घृणा को कम करने के लिए दिखाया गया है। ये व्याख्याएँ विभिन्न रूप ले सकती हैं, जिसमें यह भी शामिल है कि समग्र रूप से एल्गोरिथ्म कैसे काम करता है, यह क्यों एक विशिष्ट मामले में एक विशेष सिफारिश कर रहा है, या यह अपनी सिफारिश में कितना आश्वस्त है। उपयोगकर्ता प्रशिक्षण एल्गोरिदमिक अनुशंसाएँ कई क्षेत्रों में एक नए प्रकार की जानकारी का प्रतिनिधित्व करती हैं। उदाहरण के लिए, एक जीवाणु संक्रमण का एक चिकित्सा ए. आई. निदान एक प्रयोगशाला परीक्षण से अलग है जो एक बैक्टीरिया की उपस्थिति का संकेत देता है। जब निर्णय निर्माताओं को पहली बार किसी कार्य का सामना करना पड़ता है, तो वे विशेष रूप से एक एल्गोरिथ्म का उपयोग करने में संकोच कर सकते हैं। यह दिखाया गया है कि बार-बार किए जाने वाले कार्यों, निरंतर प्रतिक्रिया और वित्तीय प्रोत्साहनों के माध्यम से प्राप्त सीखने के प्रभाव एल्गोरिदम घृणा को कम करने में योगदान कर सकते हैं। एल्गोरिदम प्रशंसा अध्ययन लगातार एल्गोरिदम के खिलाफ पूर्वाग्रह का प्रदर्शन करने वाले लोगों को नहीं दिखाते हैं और कभी-कभी इसके विपरीत दिखाते हैं, मानव के बजाय एल्गोरिदम से सलाह लेना पसंद करते हैं। इस प्रभाव को एल्गोरिथ्म प्रशंसा कहा जाता है। परिणाम मिश्रित होते हैं, जिससे पता चलता है कि लोग कभी-कभी ऐसी सलाह पसंद करते हैं जो मानव के बजाय एक एल्गोरिथ्म से आती है। उदाहरण के लिए, स्वचालित बिक्री एजेंटों की तुलना में ग्राहक मानव बिक्री एजेंटों को प्रारंभिक रुचि का संकेत देने की अधिक संभावना रखते हैं, लेकिन उन्हें संपर्क जानकारी प्रदान करने की संभावना कम होती है। यह "मानव बिक्री एजेंट बनाम स्वचालित बिक्री एजेंटों से जुड़े प्रदर्शन की उम्मीद और प्रयास की उम्मीद के निम्न स्तर" के कारण है। संदर्भ एल्गोरिदमिक सूचना सिद्धांत मनोवैज्ञानिक नृविज्ञान