Algorithm aversion
অ্যালগরিদম বিদ্বেষ হল "একটি অ্যালগরিদমের পক্ষপাতদুষ্ট মূল্যায়ন যা একটি মানব এজেন্টের তুলনায় অ্যালগরিদমের প্রতি নেতিবাচক আচরণ এবং মনোভাব প্রকাশ করে।" এটি এমন একটি ঘটনা বর্ণনা করে যেখানে মানুষ একটি অ্যালগরিদম থেকে পরামর্শ প্রত্যাখ্যান করে যেখানে তারা একই পরামর্শ গ্রহণ করবে যদি তারা মনে করে যে এটি অন্য মানুষের কাছ থেকে আসছে। অ্যালগরিদম, যেমন মেশিন লার্নিং পদ্ধতি বা কৃত্রিম বুদ্ধিমত্তার বিভিন্ন রূপ ব্যবহার করে, সাধারণত মানুষের সিদ্ধান্ত গ্রহণকারীদের সুপারিশ বা পরামর্শ দেওয়ার জন্য ব্যবহৃত হয়। উদাহরণস্বরূপ, গ্রাহক পছন্দ করতে পারে এমন পণ্যগুলি সনাক্ত করতে ই-কমার্সে সুপারিশ ব্যবস্থা ব্যবহার করা হয় এবং রোগ নির্ণয় ও চিকিত্সার সিদ্ধান্তে সহায়তা করার জন্য স্বাস্থ্যসেবায় কৃত্রিম বুদ্ধিমত্তা ব্যবহার করা হয়। যাইহোক, মানুষ কখনও কখনও এই অ্যালগরিদমিক সুপারিশগুলিকে প্রতিরোধ বা প্রত্যাখ্যান করে বলে মনে হয়, যদি সুপারিশটি মানুষের কাছ থেকে আসে। উল্লেখযোগ্যভাবে, অ্যালগরিদমগুলি প্রায়শই মানুষকে ছাড়িয়ে যেতে সক্ষম, তাই অ্যালগরিদম পরামর্শ প্রত্যাখ্যান করার ফলে দুর্বল কর্মক্ষমতা বা উপ-অনুকূল ফলাফল হতে পারে। এটি একটি উদীয়মান বিষয় এবং এটি সম্পূর্ণরূপে স্পষ্ট নয় যে কেন বা কোন পরিস্থিতিতে লোকেরা অ্যালগরিদম বিদ্বেষ প্রদর্শন করবে। কিছু ক্ষেত্রে, মানুষ মানুষের চেয়ে অ্যালগরিদম থেকে সুপারিশ নেওয়ার সম্ভাবনা বেশি বলে মনে হয়, যা অ্যালগরিদম প্রশংসা নামে একটি ঘটনা। অ্যালগরিদম বিদ্বেষের উদাহরণ অ্যালগরিদম বিদ্বেষ বিভিন্ন প্রসঙ্গে অধ্যয়ন করা হয়েছে। উদাহরণস্বরূপ, লোকেরা অ্যালগরিদমের পরিবর্তে মানুষের থেকে রসিকতার জন্য সুপারিশ পছন্দ করে বলে মনে হয় এবং অ্যালগরিদমের পরিবর্তে প্রতিটি মার্কিন রাজ্য থেকে বিমান যাত্রীদের সংখ্যা পূর্বাভাস দেওয়ার জন্য একজন মানুষের উপর নির্ভর করবে। লোকেরা অ্যালগরিদমের পরিবর্তে মানব চিকিৎসকদের কাছ থেকে চিকিৎসা সংক্রান্ত সুপারিশও পছন্দ করে বলে মনে হয়। অ্যালগরিদম বিদ্বেষকে প্রভাবিত করার কারণগুলি অ্যালগরিদম বিদ্বেষের কারণ এবং কৌশল বা সিস্টেম বৈশিষ্ট্যগুলি ব্যাখ্যা করার জন্য বিভিন্ন কাঠামো প্রস্তাব করা হয়েছে যা বিদ্বেষ কমাতে সাহায্য করতে পারে। সিদ্ধান্ত নিয়ন্ত্রণ অ্যালগরিদমগুলি হয় পরামর্শমূলক ভূমিকায় ব্যবহার করা যেতে পারে (একজন মানুষকে পরামর্শ প্রদান করে যিনি চূড়ান্ত সিদ্ধান্ত নেবেন) অথবা একটি প্রতিনিধি ভূমিকায় (যেখানে অ্যালগরিদম মানুষের তত্ত্বাবধান ছাড়াই সিদ্ধান্ত নেয়)। পরামর্শের একটি তালিকা প্রদানকারী একটি চলচ্চিত্রের সুপারিশ ব্যবস্থা একটি পরামর্শমূলক ভূমিকায় থাকবে, যেখানে মানব চালক গাড়িটি চালানোর কাজটি টেসলার অটোপাইলটে অর্পণ করবে। সাধারণত, সিদ্ধান্ত নিয়ন্ত্রণের অভাব অ্যালগরিদম বিদ্বেষকে বাড়িয়ে তোলে। অ্যালগরিদম ক্ষমতা এবং কর্মক্ষমতা সম্পর্কে উপলব্ধি সামগ্রিকভাবে, মানুষ মানুষের তুলনায় মেশিনগুলিকে আরও সমালোচনামূলকভাবে বিচার করে। লোকেরা অ্যালগরিদমগুলি কীভাবে মূল্যায়ন করে তা প্রভাবিত করার জন্য বেশ কয়েকটি সিস্টেমের বৈশিষ্ট্য বা কারণ দেখানো হয়েছে। অ্যালগরিদম প্রক্রিয়া এবং সিস্টেম স্বচ্ছতার ভূমিকা অ্যালগরিদমের প্রতি মানুষের প্রতিরোধ প্রদর্শনের একটি কারণ হল অ্যালগরিদম কীভাবে তার সুপারিশে পৌঁছেছে সে সম্পর্কে বোঝার অভাব। অন্য মানুষ কীভাবে সুপারিশ করবে সে সম্পর্কে মানুষের আরও ভাল অন্তর্দৃষ্টি রয়েছে বলে মনে হয়। যেখানে লোকেরা ধরে নেয় যে অন্যান্য মানুষ পরিস্থিতিগুলির মধ্যে অনন্য পার্থক্যের জন্য দায়ী হবে, তারা কখনও কখনও অ্যালগরিদমগুলিকে পৃথক পার্থক্য বিবেচনা করতে অক্ষম হিসাবে উপলব্ধি করে এবং সেই অনুযায়ী অ্যালগরিদমগুলিকে প্রতিরোধ করে। সিদ্ধান্তের ক্ষেত্রে লোকেরা সাধারণত সংশয়ী যে অ্যালগরিদমগুলি নির্দিষ্ট কিছু ক্ষেত্রে সঠিক ভবিষ্যদ্বাণী করতে পারে, বিশেষত যদি কাজের সাথে নৈতিকতা বা সহানুভূতির মতো আপাতদৃষ্টিতে মানবিক বৈশিষ্ট্য জড়িত থাকে। অ্যালগরিদম বিদ্বেষ বেশি হতে থাকে যখন কাজটি আরও বিষয়গত হয় এবং উদ্দেশ্যমূলক বা পরিমাপযোগ্য কাজগুলিতে কম হয়। মানুষের বৈশিষ্ট্য একটি নির্দিষ্ট ক্ষেত্রে দক্ষতা অ্যালগরিদম ঘৃণা বৃদ্ধি এবং অ্যালগরিদম সিদ্ধান্তের নিয়মের ব্যবহার হ্রাস করতে দেখানো হয়েছে। অতিরিক্ত আত্মবিশ্বাস এই প্রভাবকে আংশিকভাবে ব্যাখ্যা করতে পারে; বিশেষজ্ঞরা মনে করতে পারেন যে একটি অ্যালগরিদম তারা যে ধরনের রায় দেয় তা করতে সক্ষম নয়। অ-বিশেষজ্ঞদের তুলনায়, বিশেষজ্ঞদেরও এই ক্ষেত্র সম্পর্কে আরও বেশি জ্ঞান রয়েছে এবং তাই একটি সুপারিশের জন্য আরও সমালোচনামূলক হতে পারে। যেখানে একজন অ-বিশেষজ্ঞ কোনও সুপারিশ গ্রহণ করতে পারেন ("অ্যালগরিদমকে অবশ্যই এমন কিছু জানতে হবে যা আমি জানি না")। বিশেষজ্ঞ অ্যালগরিদমের সুপারিশে নির্দিষ্ট ত্রুটি খুঁজে পেতে পারেন ("এই সুপারিশটি কোনও নির্দিষ্ট কারণের জন্য দায়ী নয়")। সিদ্ধান্ত গ্রহণ সংক্রান্ত গবেষণায় দেখা গেছে যে, একটি নির্দিষ্ট ক্ষেত্রের বিশেষজ্ঞরা অ-বিশেষজ্ঞের তুলনায় সিদ্ধান্তগুলি সম্পর্কে ভিন্নভাবে চিন্তা করেন। বিশেষজ্ঞরা টুকরো টুকরো এবং গোষ্ঠী তথ্য; উদাহরণস্বরূপ, দাবা গ্র্যান্ডমাস্টাররা বোর্ডে পৃথক টুকরোগুলির পরিবর্তে উদ্বোধনী অবস্থান (যেমন, কুইন্স গ্যাম্বিট বা বিশপ 'স ওপেনিং) দেখতে পাবেন। বিশেষজ্ঞরা একটি পরিস্থিতিকে কার্যকরী উপস্থাপনা হিসাবে দেখতে পারেন (উদাহরণস্বরূপ, একজন ডাক্তার ওষুধ এবং লক্ষণগুলির তালিকার পরিবর্তে রোগীর জন্য একটি গতিপথ এবং পূর্বাভাস ফলাফল দেখতে পারেন)। এই পার্থক্যগুলি বিশেষজ্ঞদের মধ্যে দেখা ক্রমবর্ধমান অ্যালগরিদম বিরক্তির জন্যও আংশিকভাবে দায়ী হতে পারে। সংস্কৃতি বিভিন্ন সাংস্কৃতিক নিয়ম এবং প্রভাব মানুষকে অ্যালগরিদমিক সুপারিশগুলিতে ভিন্নভাবে সাড়া দিতে পারে। যেভাবে সুপারিশগুলি উপস্থাপন করা হয় (যেমন, ভাষা, স্বর ইত্যাদি) লোকেরা হয়তো ভিন্নভাবে প্রতিক্রিয়া দেখাতে পারে। বয়স ডিজিটাল নেটিভরা কম বয়সী এবং তাদের সারা জীবন প্রযুক্তি জানে, যেখানে ডিজিটাল অভিবাসীরা জানে না। লোকেরা অ্যালগরিদমিক সুপারিশগুলি গ্রহণ করে কিনা তা প্রভাবিত করার জন্য অনুমান করা একটি সাধারণ-উদ্ধৃত কারণ হল বয়স। উদাহরণস্বরূপ, একটি সমীক্ষায় দেখা গেছে যে অ্যালগরিদমিক আর্থিক উপদেষ্টার প্রতি আস্থা কম বয়সী অধ্যয়নরত অংশগ্রহণকারীদের তুলনায় বয়স্ক ব্যক্তিদের মধ্যে কম ছিল। যাইহোক, অন্যান্য গবেষণায় দেখা গেছে যে অ্যালগরিদম ঘৃণা বয়সের সাথে পরিবর্তিত হয় না। অ্যালগরিদম বিদ্বেষ কাটিয়ে ওঠার প্রস্তাবিত পদ্ধতিগুলি অ্যালগরিদমগুলি প্রায়শই মানুষকে ছাড়িয়ে যেতে বা আরও বেশি সাশ্রয়ীভাবে কাজ সম্পাদন করতে সক্ষম। হিউম্যান-ইন-দ্য-লুপ অ্যালগরিদমিক বিরক্তি হ্রাস করার একটি উপায় হল মানুষের সিদ্ধান্ত গ্রহণকারীকে চূড়ান্ত সিদ্ধান্তের উপর নিয়ন্ত্রণ প্রদান করা। সিস্টেমের স্বচ্ছতা অ্যালগরিদমগুলি কীভাবে কাজ করে সে সম্পর্কে ব্যাখ্যা প্রদান ঘৃণা হ্রাস করতে দেখানো হয়েছে। এই ব্যাখ্যাগুলি বিভিন্ন রূপ নিতে পারে, যার মধ্যে রয়েছে কিভাবে অ্যালগরিদম সামগ্রিকভাবে কাজ করে, কেন এটি একটি নির্দিষ্ট ক্ষেত্রে একটি নির্দিষ্ট সুপারিশ করছে, বা তার সুপারিশে এটি কতটা আত্মবিশ্বাসী। ব্যবহারকারী প্রশিক্ষণ অ্যালগরিদমিক সুপারিশগুলি অনেক ক্ষেত্রে একটি নতুন ধরনের তথ্যের প্রতিনিধিত্ব করে। উদাহরণস্বরূপ, একটি ব্যাকটেরিয়া সংক্রমণের একটি চিকিৎসা এআই নির্ণয় একটি ব্যাকটেরিয়ার উপস্থিতি নির্দেশ করে একটি ল্যাব পরীক্ষার থেকে আলাদা। যখন সিদ্ধান্ত গ্রহণকারীরা প্রথমবার কোনও কাজের মুখোমুখি হন, তখন তারা অ্যালগরিদম ব্যবহার করতে বিশেষভাবে দ্বিধাবোধ করতে পারেন। এটি দেখানো হয়েছে যে পুনরাবৃত্ত কাজ, ধ্রুবক প্রতিক্রিয়া এবং আর্থিক প্রণোদনার মাধ্যমে অর্জিত শেখার প্রভাবগুলি অ্যালগরিদম বিদ্বেষ হ্রাস করতে অবদান রাখতে পারে। অ্যালগরিদম প্রশংসা অধ্যয়নগুলি ধারাবাহিকভাবে দেখায় না যে লোকেরা অ্যালগরিদমের বিরুদ্ধে পক্ষপাত প্রদর্শন করে এবং কখনও কখনও বিপরীত দেখায়, মানুষের পরিবর্তে অ্যালগরিদম থেকে পরামর্শ পছন্দ করে। এই প্রভাবকে অ্যালগরিদম প্রশংসা বলা হয়। ফলাফলগুলি মিশ্র, যা দেখায় যে লোকেরা কখনও কখনও মানুষের পরিবর্তে অ্যালগরিদম থেকে আসা পরামর্শ পছন্দ করে বলে মনে হয়। উদাহরণস্বরূপ, স্বয়ংক্রিয় বিক্রয় এজেন্টদের তুলনায় গ্রাহকরা মানব বিক্রয় এজেন্টদের প্রাথমিক আগ্রহ নির্দেশ করার সম্ভাবনা বেশি কিন্তু তাদের সাথে যোগাযোগের তথ্য সরবরাহ করার সম্ভাবনা কম। এটি "মানব বিক্রয় এজেন্ট বনাম স্বয়ংক্রিয় বিক্রয় এজেন্টের সাথে সম্পর্কিত কর্মক্ষমতার প্রত্যাশা এবং প্রচেষ্টার প্রত্যাশার নিম্ন স্তরের" কারণে হয়। তথ্যসূত্র অ্যালগরিদমিক তথ্য তত্ত্ব মনস্তাত্ত্বিক নৃতত্ত্ব