Algorithm aversion
الگورتھم سے نفرت "ایک الگورتھم کی متعصبانہ تشخیص ہے جو انسانی ایجنٹ کے مقابلے میں الگورتھم کے بارے میں منفی طرز عمل اور رویوں میں ظاہر ہوتی ہے۔" یہ ایک ایسے رجحان کی وضاحت کرتا ہے جہاں انسان کسی الگورتھم کے مشورے کو اس صورت میں مسترد کرتے ہیں جہاں وہ وہی مشورہ قبول کریں گے اگر انہیں لگتا ہے کہ یہ کسی دوسرے انسان کی طرف سے آ رہا ہے۔ الگورتھم، جیسے مشین لرننگ کے طریقوں یا مصنوعی ذہانت کی مختلف شکلوں کو استعمال کرنے والے، عام طور پر انسانی فیصلہ سازوں کو سفارشات یا مشورے فراہم کرنے کے لیے استعمال ہوتے ہیں۔ مثال کے طور پر، ای کامرس میں سفارش کے نظام کا استعمال گاہک کو پسند آنے والی مصنوعات کی شناخت کے لیے کیا جاتا ہے، اور مصنوعی ذہانت کا استعمال صحت کی دیکھ بھال میں تشخیص اور علاج کے فیصلوں میں مدد کے لیے کیا جاتا ہے۔ تاہم، انسان بعض اوقات ان الگورتھمک سفارشات کے خلاف مزاحمت یا مسترد کرتے نظر آتے ہیں اس سے زیادہ کہ یہ سفارش کسی انسان کی طرف سے آئی ہو۔ خاص طور پر، الگورتھم اکثر انسانوں کو پیچھے چھوڑنے کی صلاحیت رکھتے ہیں، لہذا الگورتھم کے مشورے کو مسترد کرنے کے نتیجے میں ناقص کارکردگی یا ذیلی نتائج سامنے آسکتے ہیں۔ یہ ایک ابھرتا ہوا موضوع ہے اور یہ مکمل طور پر واضح نہیں ہے کہ لوگ الگورتھم سے نفرت کیوں یا کن حالات میں ظاہر کریں گے۔ کچھ معاملات میں، ایسا لگتا ہے کہ لوگ انسان کے مقابلے میں الگورتھم سے سفارشات لینے کا زیادہ امکان رکھتے ہیں، ایک رجحان جسے الگورتھم کی تعریف کہا جاتا ہے۔ الگورتھم سے نفرت کی مثالیں الگورتھم سے نفرت کا وسیع اقسام کے سیاق و سباق میں مطالعہ کیا گیا ہے۔ مثال کے طور پر، ایسا لگتا ہے کہ لوگ لطیفوں کے لیے الگورتھم کے بجائے انسان کی سفارشات کو ترجیح دیتے ہیں، اور الگورتھم کے بجائے ہر امریکی ریاست سے ہوائی جہاز کے مسافروں کی تعداد کی پیش گوئی کے لیے انسان پر انحصار کرتے ہیں۔ ایسا لگتا ہے کہ لوگ الگورتھم کے بجائے انسانی ڈاکٹروں کی طبی سفارشات کو بھی ترجیح دیتے ہیں۔ الگورتھم سے نفرت کو متاثر کرنے والے عوامل الگورتھم سے نفرت کی وجوہات اور تکنیکوں یا نظام کی خصوصیات کی وضاحت کے لیے مختلف فریم ورک تجویز کیے گئے ہیں جو نفرت کو کم کرنے میں مدد کر سکتے ہیں۔ فیصلہ کنٹرول الگورتھم یا تو ایک مشاورتی کردار میں استعمال کیا جا سکتا ہے (ایک انسان کو مشورہ فراہم کرنا جو حتمی فیصلہ کرے گا) یا ایک وفود کے کردار میں (جہاں الگورتھم انسانی نگرانی کے بغیر فیصلہ کرتا ہے)۔ تجاویز کی فہرست فراہم کرنے والا فلم کی سفارش کا نظام ایک مشاورتی کردار میں ہوگا، جبکہ انسانی ڈرائیور کار کو ٹیسلا کے آٹو پائلٹ تک پہنچانے کا کام انجام دیتا ہے۔ عام طور پر، فیصلہ کن کنٹرول کی کمی الگورتھم کی نفرت میں اضافہ کرتی ہے۔ الگورتھم کی صلاحیتوں اور کارکردگی کے بارے میں تاثرات مجموعی طور پر، لوگ انسانوں کے مقابلے میں مشینوں کا زیادہ تنقیدی فیصلہ کرتے ہیں۔ نظام کی متعدد خصوصیات یا عوامل کو اس بات پر اثر انداز ہونے کے لیے دکھایا گیا ہے کہ لوگ الگورتھم کا اندازہ کیسے کرتے ہیں۔ الگورتھم کا عمل اور نظام کی شفافیت کا کردار لوگ الگورتھم کے خلاف مزاحمت ظاہر کرنے کی ایک وجہ یہ ہے کہ الگورتھم اپنی سفارش پر کیسے پہنچ رہا ہے اس کے بارے میں سمجھ کی کمی ہے۔ ایسا لگتا ہے کہ لوگوں کو اس بات کا بھی بہتر ادراک ہے کہ دوسرا انسان کس طرح سفارشات پیش کرے گا۔ جب کہ لوگ یہ فرض کرتے ہیں کہ دوسرے انسان حالات کے درمیان منفرد اختلافات کا سبب بنیں گے، وہ بعض اوقات الگورتھم کو انفرادی اختلافات پر غور کرنے کے قابل نہیں سمجھتے اور اسی کے مطابق الگورتھم کی مزاحمت کرتے ہیں۔ لوگ عام طور پر شکوک و شبہات کا شکار ہوتے ہیں کہ الگورتھم بعض شعبوں میں درست پیش گوئیاں کر سکتے ہیں، خاص طور پر اگر کام میں بظاہر انسانی خصوصیت جیسے اخلاقیات یا ہمدردی شامل ہو۔ الگورتھم سے نفرت اس وقت زیادہ ہوتی ہے جب کام زیادہ ساپیکش ہوتا ہے اور ان کاموں پر کم ہوتا ہے جو معروضی یا قابل قدر ہوتے ہیں۔ انسانی خصوصیات ڈومین کی مہارت کسی خاص شعبے میں مہارت کو الگورتھم کی نفرت کو بڑھانے اور الگورتھمک فیصلے کے اصولوں کے استعمال کو کم کرنے کے لیے دکھایا گیا ہے۔ حد سے زیادہ اعتماد جزوی طور پر اس اثر کی وضاحت کر سکتا ہے ؛ ماہرین محسوس کر سکتے ہیں کہ ایک الگورتھم ان کے فیصلوں کی اقسام کے قابل نہیں ہے۔ غیر ماہرین کے مقابلے میں، ماہرین کو بھی اس شعبے کا زیادہ علم ہوتا ہے اور اس لیے وہ سفارش پر زیادہ تنقید کر سکتے ہیں۔ جہاں کوئی غیر ماہر کسی سفارش کو قبول کر سکتا ہے ("الگورتھم کو کچھ ایسا معلوم ہونا چاہیے جو مجھے نہیں ہے۔") ماہر الگورتھم کی سفارش میں مخصوص غلطی تلاش کر سکتا ہے ("یہ سفارش کسی خاص عنصر کے لیے نہیں ہے")۔ فیصلہ سازی کی تحقیق سے پتہ چلتا ہے کہ کسی دیئے گئے شعبے کے ماہرین فیصلوں کے بارے میں غیر ماہر سے مختلف سوچتے ہیں۔ ماہرین ٹکڑے ٹکڑے اور گروپ کی معلومات ؛ مثال کے طور پر، شطرنج کے گرینڈ ماسٹرز بورڈ پر انفرادی ٹکڑوں کے بجائے افتتاحی پوزیشنیں (مثال کے طور پر، کوئینز گیمبٹ یا بشپس اوپننگ) دیکھیں گے۔ ماہرین کسی صورتحال کو عملی نمائندگی کے طور پر دیکھ سکتے ہیں (مثال کے طور پر، ایک ڈاکٹر ادویات اور علامات کی فہرست کے بجائے مریض کے لیے ایک رفتار اور پیش گوئی کے نتائج کو دیکھ سکتا ہے)۔ یہ اختلافات جزوی طور پر ماہرین میں نظر آنے والے الگورتھم کی بڑھتی ہوئی نفرت کا سبب بھی بن سکتے ہیں۔ ثقافت مختلف ثقافتی معیارات اور اثرات لوگوں کو الگورتھمک سفارشات کا مختلف انداز سے جواب دینے کا سبب بن سکتے ہیں۔ جس طرح سے سفارشات پیش کی جاتی ہیں (مثال کے طور پر زبان، لہجہ وغیرہ) لوگوں کو مختلف طریقے سے جواب دینے کا سبب بن سکتا ہے۔ ایج ڈیجیٹل باشندے کم عمر ہوتے ہیں اور ٹیکنالوجی کو اپنی پوری زندگی جانتے ہیں، جبکہ ڈیجیٹل تارکین وطن کو نہیں۔ عمر ایک عام طور پر حوالہ دیا گیا عنصر ہے جو اس بات پر اثر انداز ہوتا ہے کہ لوگ الگورتھمک سفارشات کو قبول کرتے ہیں یا نہیں۔ مثال کے طور پر، ایک مطالعہ سے پتہ چلا ہے کہ چھوٹے مطالعہ کے شرکاء کے مقابلے میں بڑی عمر کے لوگوں میں الگورتھمک مالیاتی مشیر پر اعتماد کم تھا۔ تاہم، دیگر تحقیقات سے پتہ چلا ہے کہ الگورتھم سے نفرت عمر کے ساتھ مختلف نہیں ہوتی ہے۔ الگورتھم سے نفرت پر قابو پانے کے مجوزہ طریقے الگورتھم اکثر انسانوں کو پیچھے چھوڑنے یا کاموں کو زیادہ مؤثر طریقے سے انجام دینے کے قابل ہوتے ہیں۔ ہیومن ان دی لوپ الگورتھمک نفرت کو کم کرنے کا ایک طریقہ یہ ہے کہ انسانی فیصلہ ساز کو حتمی فیصلے پر کنٹرول فراہم کیا جائے۔ نظام کی شفافیت الگورتھم کے کام کرنے کے طریقے کے بارے میں وضاحتیں فراہم کرنا نفرت کو کم کرنے کے لیے دکھایا گیا ہے۔ یہ وضاحتیں مختلف شکلیں لے سکتی ہیں، بشمول اس بارے میں کہ الگورتھم مجموعی طور پر کیسے کام کرتا ہے، اس بارے میں کہ وہ کسی مخصوص معاملے میں کوئی خاص سفارش کیوں کر رہا ہے، یا اس کی سفارش پر کتنا اعتماد ہے۔ صارف کی تربیت الگورتھمک سفارشات بہت سے شعبوں میں ایک نئی قسم کی معلومات کی نمائندگی کرتی ہیں۔ مثال کے طور پر، بیکٹیریل انفیکشن کی طبی AI تشخیص لیب ٹیسٹ سے مختلف ہے جو بیکٹیریا کی موجودگی کی نشاندہی کرتا ہے۔ جب فیصلہ سازوں کو پہلی بار کسی کام کا سامنا کرنا پڑتا ہے، تو وہ خاص طور پر الگورتھم استعمال کرنے میں ہچکچاتے ہیں۔ یہ دکھایا گیا ہے کہ بار بار کاموں، مستقل فیڈ بیک اور مالی ترغیبات کے ذریعے حاصل ہونے والے سیکھنے کے اثرات الگورتھم کی نفرت کو کم کرنے میں معاون ثابت ہو سکتے ہیں۔ مطالعات مستقل طور پر لوگوں کو الگورتھم کے خلاف تعصب کا مظاہرہ کرتے ہوئے نہیں دکھاتے ہیں اور بعض اوقات اس کے برعکس دکھاتے ہیں، انسان کے بجائے الگورتھم کے مشورے کو ترجیح دیتے ہیں۔ اس اثر کو الگورتھم کی تعریف کہا جاتا ہے۔ نتائج ملے جلے ہوتے ہیں، جس سے یہ ظاہر ہوتا ہے کہ لوگ بعض اوقات ایسے مشورے کو ترجیح دیتے ہیں جو انسان کے بجائے الگورتھم سے آتا ہے۔ مثال کے طور پر، گاہک خودکار سیلز ایجنٹوں کے مقابلے میں انسانی سیلز ایجنٹوں کو ابتدائی دلچسپی کی نشاندہی کرنے کا زیادہ امکان رکھتے ہیں لیکن ان سے رابطہ کی معلومات فراہم کرنے کا امکان کم ہوتا ہے۔ یہ "انسانی سیلز ایجنٹوں بمقابلہ خودکار سیلز ایجنٹوں سے وابستہ کارکردگی کی توقع اور کوشش کی توقع کی کم سطح" کی وجہ سے ہے۔ حوالہ جات الگورتھمک انفارمیشن تھیوری نفسیاتی بشریات