Automated decision-making
خودکار فیصلہ سازی (اے ڈی ایم) میں عوامی انتظامیہ، کاروبار، صحت، تعلیم، قانون، روزگار، نقل و حمل، میڈیا اور تفریح سمیت مختلف سیاق و سباق میں فیصلے کرنے کے لیے ڈیٹا، مشینوں اور الگورتھم کا استعمال شامل ہے، جس میں انسانی نگرانی یا مداخلت کی مختلف ڈگریاں شامل ہیں۔ اے ڈی ایم میں ڈیٹا بیس، متن، سوشل میڈیا، سینسرز، تصاویر یا تقریر جیسے متعدد ذرائع سے بڑے پیمانے پر ڈیٹا شامل ہوتا ہے، جس پر کمپیوٹر سافٹ ویئر، الگورتھم، مشین لرننگ، نیچرل لینگویج پروسیسنگ، مصنوعی ذہانت، آگمینٹڈ انٹیلی جنس اور روبوٹکس سمیت مختلف ٹیکنالوجیز کا استعمال کرتے ہوئے کارروائی کی جاتی ہے۔ مختلف سیاق و سباق میں خودکار فیصلہ سازی کے نظام (اے ڈی ایم ایس) کا بڑھتا ہوا استعمال انسانی معاشرے کے لیے بہت سے فوائد اور چیلنجز پیش کرتا ہے جس میں تکنیکی، قانونی، اخلاقی، سماجی، تعلیمی، اقتصادی اور صحت کے نتائج پر غور کرنے کی ضرورت ہوتی ہے۔ جائزہ شامل آٹومیشن کی سطح کی بنیاد پر اے ڈی ایم کی مختلف تعریفیں ہیں۔ کچھ تعریفیں تجویز کرتی ہیں کہ اے ڈی ایم میں انسانی ان پٹ کے بغیر خالصتا تکنیکی ذرائع سے کیے گئے فیصلے شامل ہیں، جیسے کہ یورپی یونین کا جنرل ڈیٹا پروٹیکشن ریگولیشن (آرٹیکل 22)۔ تاہم، اے ڈی ایم ٹیکنالوجیز اور ایپلی کیشنز بہت سی شکلیں لے سکتی ہیں جن میں فیصلہ سازی کے معاون نظام سے لے کر انسانی فیصلہ سازوں کے لیے کام کرنے کی سفارشات ہوتی ہیں، جنہیں بعض اوقات آگمینٹڈ انٹیلی جنس یا 'مشترکہ فیصلہ سازی' کے نام سے جانا جاتا ہے، مکمل طور پر خودکار فیصلہ سازی کے عمل تک جو انسانی شمولیت کے بغیر افراد یا تنظیموں کی جانب سے فیصلے کرتے ہیں۔ خودکار فیصلہ سازی کے نظام میں استعمال ہونے والے ماڈلز مصنوعی ذہانت اور ڈیپ نیورل نیٹ ورکس (ڈی این این) کے ذریعے چیک لسٹ اور فیصلہ کرنے والے درختوں کی طرح آسان ہو سکتے ہیں۔ 1950 کی دہائی سے کمپیوٹرز بنیادی پروسیسنگ کرنے کے قابل ہونے سے لے کر پیچیدہ، مبہم اور انتہائی ہنر مند کاموں جیسے تصویر اور تقریر کی شناخت، گیم پلے، سائنسی اور طبی تجزیہ اور متعدد ڈیٹا ذرائع میں قیاس آرائی کرنے کی صلاحیت رکھتے ہیں۔ اے ڈی ایم کو اب معاشرے کے تمام شعبوں اور تفریح سے لے کر نقل و حمل تک بہت سے متنوع شعبوں میں تیزی سے تعینات کیا جا رہا ہے۔ اے ڈی ایم سسٹم (اے ڈی ایم ایس) میں متعدد فیصلہ پوائنٹس، ڈیٹا سیٹس، اور ٹیکنالوجیز (اے ڈی ایم ٹی) شامل ہو سکتے ہیں اور یہ ایک بڑے انتظامی یا تکنیکی نظام جیسے کہ فوجداری انصاف کا نظام یا کاروباری عمل کے اندر بیٹھ سکتا ہے۔ ڈیٹا خودکار فیصلہ سازی میں ڈیٹا کا استعمال بطور ان پٹ شامل ہوتا ہے، یا تو کسی عمل، ماڈل یا الگورتھم کے اندر تجزیہ کیا جاتا ہے، یا نئے ماڈل سیکھنے اور تیار کرنے کے لیے۔ اے ڈی ایم سسٹم سسٹم کے اہداف اور سیاق و سباق کے لحاظ سے ڈیٹا کی اقسام اور ذرائع کی ایک وسیع رینج کا استعمال اور رابطہ کر سکتے ہیں، مثال کے طور پر خود چلانے والی کاروں اور روبوٹکس کے لیے سینسر ڈیٹا، سیکیورٹی سسٹم کے لیے شناختی ڈیٹا، عوامی انتظامیہ کے لیے آبادیاتی اور مالی ڈیٹا، صحت میں طبی ریکارڈ، قانون میں مجرمانہ ریکارڈ۔ اس میں بعض اوقات بڑی مقدار میں ڈیٹا اور کمپیوٹنگ کی طاقت شامل ہو سکتی ہے۔ ڈیٹا کا معیار ڈیٹا کا معیار جو دستیاب ہے اور اے ڈی ایم سسٹمز میں استعمال ہونے کے قابل ہے، نتائج کے لیے بنیادی ہے اور اکثر کئی وجوہات کی بناء پر انتہائی پریشانی کا باعث بنتا ہے۔ ڈیٹا سیٹ اکثر انتہائی متغیر ہوتے ہیں، بڑے پیمانے پر ڈیٹا کو کارپوریشنز یا حکومتوں کے ذریعے کنٹرول کیا جا سکتا ہے، رازداری یا حفاظتی وجوہات کی بناء پر محدود، نامکمل، متعصبانہ، وقت یا کوریج کے لحاظ سے محدود، مختلف طریقوں سے شرائط کی پیمائش اور وضاحت، اور بہت سے دوسرے مسائل۔ اعداد و شمار سے سیکھنے کے لیے مشینوں کے لیے اکثر بڑے کارپس کی ضرورت ہوتی ہے جن کا حصول یا حساب لگانا مشکل ہو سکتا ہے، تاہم جہاں دستیاب ہو، انہوں نے اہم پیش رفت فراہم کی ہے، مثال کے طور پر سینے کے ایکس رے کی تشخیص میں۔ اے ڈی ایم ٹیکنالوجیز آٹومیٹڈ فیصلہ سازی ٹیکنالوجیز (اے ڈی ایم ٹی) سافٹ ویئر کوڈڈ ڈیجیٹل ٹولز ہیں جو ان پٹ ڈیٹا کو آؤٹ پٹ ڈیٹا میں خودکار ترجمہ کرتے ہیں، جو خودکار فیصلہ سازی کے نظام کے کام میں معاون ہوتے ہیں۔ اے ڈی ایم ایپلی کیشنز اور سسٹمز میں ٹیکنالوجیز کی ایک وسیع رینج استعمال میں ہے۔ اے ڈی ایم ٹیز جن میں بنیادی کمپیوٹیشنل آپریشنز شامل ہیں تلاش (بشمول 1-2-1، 1-2-بہت سے، ڈیٹا میچنگ/مرج) ملاپ (دو مختلف چیزیں) ریاضیاتی حساب (فارمولا) تشخیص اور گروپنگ کے لیے اے ڈی ایم ٹیز: صارف پروفائلنگ ریکومینڈر سسٹمز کلسٹرنگ درجہ بندی فیچر لرننگ پیشن گوئی تجزیات (بشمول پیشن گوئی) جگہ اور بہاؤ سے متعلق اے ڈی ایم ٹیز: سوشل نیٹ ورک تجزیہ (بشمول لنک پیشن گوئی) پیچیدہ ڈیٹا فارمیٹس کی پروسیسنگ کے لیے اے ڈی ایم ٹیز کی نقشہ سازی امیج پروسیسنگ آڈیو پروسیسنگ آڈیو پروسیسنگ نیچرل لینگویج پروسیسنگ (این ایل پی) دیگر اے ڈی ایم ٹی بزنس رولز مینجمنٹ سسٹمز ٹائم سیریز تجزیہ بے ضابطگی کا پتہ لگانے کے ماڈلنگ/سیمولیشن مشین لرننگ مشین لرننگ (ایم ایل) میں بڑے ڈیٹا سیٹوں اور سیکھنے کے لیے مثالوں کی نمائش کے ذریعے کمپیوٹر پروگراموں کی تربیت شامل ہے۔ مشین لرننگ کو ڈیٹا تیار کرنے اور تجزیہ کرنے کے ساتھ ساتھ الگورتھمک حساب کتاب کرنے کے لیے استعمال کیا جا سکتا ہے اور اس کا اطلاق تصویر اور تقریر کی شناخت، ترجمے، متن، ڈیٹا اور تخروپن پر کیا گیا ہے۔ اگرچہ مشین لرننگ کچھ عرصے سے جاری ہے، لیکن ڈیپ نیورل نیٹ ورکس (ڈی این این) کی تربیت میں حالیہ پیشرفتوں، اور جی پی یو کوپروسیسرز اور کلاؤڈ کمپیوٹنگ کے ساتھ ڈیٹا اسٹوریج کی صلاحیت اور کمپیوٹیشنل طاقت میں ڈرامائی اضافے کی وجہ سے یہ تیزی سے طاقتور ہوتا جا رہا ہے۔ فاؤنڈیشن ماڈلز پر مبنی مشین لرننگ سسٹم ڈیپ نیورل نیٹ ورکس پر چلتے ہیں اور متن اور تصاویر جیسے عام ڈیٹا کی بڑی مقدار پر ایک بڑے نظام کو تربیت دینے کے لیے پیٹرن میچنگ کا استعمال کرتے ہیں۔ ابتدائی ماڈلز ہر نئے مسئلے کے لیے شروع سے شروع ہوتے تھے تاہم 2020 کی دہائی کے اوائل سے بہت سے نئے مسائل کے مطابق ڈھالنے کے قابل ہیں۔ ان ٹیکنالوجیز کی مثالوں میں اوپن اے آئی کا ڈی اے ایل ایل-ای (ایک تصویری تخلیق پروگرام) اور ان کے مختلف جی پی ٹی زبان کے ماڈل، اور گوگل کا پی اے ایل ایم زبان کا ماڈل پروگرام شامل ہیں۔ ایپلی کیشنز اے ڈی ایم کا استعمال عوامی اور نجی شعبے کی تنظیموں کے ذریعہ انسانی فیصلہ سازی کو تبدیل کرنے یا بڑھانے کے لیے کیا جا رہا ہے جس کی متعدد وجوہات ہیں جن میں مستقل مزاجی بڑھانے، کارکردگی کو بہتر بنانے، اخراجات کو کم کرنے اور پیچیدہ مسائل کے نئے حل کو فعال کرنے میں مدد کرنا شامل ہے۔ بحث کے معیار کا اندازہ لگانے، دلائل پر مبنی مضامین کا جائزہ لینے اور مباحثوں کا فیصلہ کرنے کے لیے ٹیکنالوجی کے استعمال میں مباحثہ تحقیق اور ترقی جاری ہے۔ ان استدلال ٹیکنالوجیز کے ممکنہ استعمال تعلیم اور معاشرے میں پھیلے ہوئے ہیں۔ ان معاملات میں، جن منظرناموں پر غور کرنا ہے، ان میں وہ شامل ہیں جن میں بات چیت، ریاضیاتی، سائنسی، تشریحی، قانونی، اور سیاسی استدلال اور بحث کی تشخیص اور تشخیص شامل ہے۔ دنیا بھر کے قانونی نظاموں میں، الگورتھمک ٹولز جیسے رسک اسسمنٹ انسٹرومینٹس (آر اے آئی) کا استعمال کئی سیاق و سباق میں ججوں، سرکاری ملازمین اور پولیس افسران کے انسانی فیصلے کی تکمیل یا اس کی جگہ لینے کے لیے کیا جا رہا ہے۔ ریاستہائے متحدہ میں آر اے آئی کا استعمال مقدمے سے پہلے کی حراست اور سزا کے فیصلوں میں بازگشت کے خطرے کی پیش گوئی کرنے، قیدیوں کے لیے پیرول کا جائزہ لینے اور مستقبل کے جرائم کے لیے "ہاٹ اسپاٹس" کی پیش گوئی کرنے کے لیے اسکور پیدا کرنے کے لیے کیا جا رہا ہے۔ یہ اسکور خودکار اثرات کا باعث بن سکتے ہیں یا نظام انصاف کے اندر حکام کے ذریعے کیے گئے فیصلوں کو مطلع کرنے کے لیے استعمال کیے جا سکتے ہیں۔ کینیڈا میں اے ڈی ایم کا استعمال 2014 سے امیگریشن حکام کی طرف سے کی جانے والی کچھ سرگرمیوں کو خودکار بنانے اور کچھ تارکین وطن اور وزیٹر ایپلی کیشنز کی تشخیص کی حمایت کرنے کے لیے کیا جاتا رہا ہے۔ معاشیات خودکار فیصلہ سازی کے نظام کا استعمال بعض کمپیوٹر پروگراموں میں مخصوص مالیاتی لین دین سے متعلق خرید و فروخت کے آرڈر بنانے اور بین الاقوامی منڈیوں میں خود بخود آرڈر جمع کرنے کے لیے کیا جاتا ہے۔ کمپیوٹر پروگرام خود بخود تجارتی حکمت عملیوں کا استعمال کرتے ہوئے اصولوں کے پہلے سے طے شدہ سیٹ کی بنیاد پر آرڈرز تیار کر سکتے ہیں جو تکنیکی تجزیے، جدید شماریاتی اور ریاضیاتی حسابات، یا دیگر الیکٹرانک ذرائع سے ان پٹ پر مبنی ہوتے ہیں۔ کاروباری مسلسل آڈٹ مسلسل آڈٹ آڈٹ کے عمل کو خودکار بنانے کے لیے جدید تجزیاتی ٹولز کا استعمال کرتا ہے۔ اسے نجی شعبے میں کاروباری اداروں اور سرکاری شعبے میں سرکاری تنظیموں اور میونسپلٹیوں کے ذریعے استعمال کیا جا سکتا ہے۔ جیسے جیسے مصنوعی ذہانت اور مشین لرننگ میں ترقی جاری ہے، اکاؤنٹنٹ اور آڈیٹر تیزی سے جدید ترین الگورتھم کا استعمال کر سکتے ہیں جو فیصلے کرتے ہیں جیسے کہ اس بات کا تعین کرنا کہ کیا بے ضابطگی ہے، اہلکاروں کو مطلع کرنا ہے یا نہیں، اور اہلکاروں کو تفویض کردہ کاموں کو ترجیح کیسے دی جائے۔ میڈیا اور انٹرٹینمنٹ ڈیجیٹل میڈیا، تفریحی پلیٹ فارم اور انفارمیشن سروسز آبادی کی معلومات، پچھلے انتخاب، باہمی تعاون سے فلٹرنگ یا مواد پر مبنی فلٹرنگ کی بنیاد پر خودکار سفارش کے نظام کے ذریعے سامعین کو تیزی سے مواد فراہم کرتے ہیں۔ اس میں موسیقی اور ویڈیو پلیٹ فارم، اشاعت، صحت سے متعلق معلومات، پروڈکٹ ڈیٹا بیس اور سرچ انجن شامل ہیں۔ بہت سے سفارش کے نظام صارفین کو سفارشات کو قبول کرنے میں کچھ ایجنسی بھی فراہم کرتے ہیں اور سسٹم صارف کے اعمال کی بنیاد پر ڈیٹا پر مبنی الگورتھمک فیڈ بیک لوپس کو شامل کرتے ہیں۔ اوپن اے آئی اور گوگل جیسی کمپنیوں کے ذریعے 2020 کی دہائی میں تیار کیے جانے والے بڑے پیمانے پر مشین لرننگ لینگویج ماڈل اور امیج کری ایشن پروگراموں تک رسائی محدود ہے تاہم ان کے اشتہارات، کاپی رائٹنگ، اسٹاک امیجری اور گرافک ڈیزائن کے ساتھ ساتھ صحافت اور قانون جیسے دیگر شعبوں میں وسیع پیمانے پر ایپلی کیشن ہونے کا امکان ہے۔ ایڈورٹائزنگ آن لائن ایڈورٹائزنگ بہت سے ڈیجیٹل میڈیا پلیٹ فارمز، ویب سائٹس اور سرچ انجنوں کے ساتھ قریب سے مربوط ہے اور اکثر مختلف فارمیٹس میں ڈسپلے اشتہارات کی خودکار ترسیل شامل ہوتی ہے۔ 'پروگراماتی' آن لائن اشتہارات میں براہ راست انسانی فیصلہ سازی کے بجائے سافٹ ویئر کے ذریعے ویب سائٹس اور پلیٹ فارمز پر ڈیجیٹل اشتہارات کی فروخت اور ترسیل کو خودکار بنانا شامل ہے۔ اسے بعض اوقات آبشار ماڈل کے نام سے جانا جاتا ہے جس میں مختلف نظاموں اور کھلاڑیوں میں اقدامات کا ایک سلسلہ شامل ہوتا ہے: پبلشرز اور ڈیٹا مینجمنٹ پلیٹ فارم، صارف کا ڈیٹا، اشتہاری سرورز اور ان کی ترسیل کا ڈیٹا، انوینٹری مینجمنٹ سسٹم، اشتہاری تاجر اور اشتہاری تبادلے۔ اس نظام کے ساتھ مختلف مسائل ہیں جن میں مشتہرین کے لیے شفافیت کی کمی، ناقابل تصدیق میٹرکس، اشتہاری مقامات پر کنٹرول کی کمی، سامعین سے باخبر رہنا اور رازداری کے خدشات شامل ہیں۔ انٹرنیٹ صارفین جو اشتہارات کو ناپسند کرتے ہیں انہوں نے جوابی اقدامات اپنائے ہیں جیسے کہ ایڈ بلاکنگ ٹیکنالوجیز جو صارفین کو ویب سائٹس اور کچھ انٹرنیٹ ایپلی کیشنز سے ناپسندیدہ اشتہارات کو خود بخود فلٹر کرنے کی اجازت دیتی ہیں۔ 2017 میں، 24 فیصد آسٹریلوی انٹرنیٹ صارفین کے پاس ایڈ بلاکرز تھے۔ ہیلتھ ڈیپ لرننگ اے آئی امیج ماڈل ایکس رے کا جائزہ لینے اور آنکھوں کی حالت میکولر انحطاط کا پتہ لگانے کے لیے استعمال کیے جا رہے ہیں۔ سماجی خدمات کی حکومتیں 2000 کی دہائی کے اوائل سے زیادہ موثر انتظامیہ اور سماجی خدمات فراہم کرنے کے لیے ڈیجیٹل ٹیکنالوجیز کو نافذ کر رہی ہیں، جنہیں اکثر ای-گورنمنٹ کہا جاتا ہے۔ دنیا بھر کی بہت سی حکومتیں اب پالیسیوں اور خدمات کو پروفائل کرنے اور نشانہ بنانے کے لیے خودکار، الگورتھمک سسٹم استعمال کر رہی ہیں جن میں خطرات کی بنیاد پر الگورتھمک پولیسنگ، ہوائی اڈے کی اسکریننگ جیسے لوگوں کی نگرانی کی ترتیب، بچوں کے تحفظ میں رسک پروفائلز کی بنیاد پر خدمات فراہم کرنا، روزگار کی خدمات فراہم کرنا اور بے روزگاروں کو منظم کرنا شامل ہیں۔ سماجی خدمات میں اے ڈی ایم کا ایک اہم اطلاق پیشن گوئی کے تجزیات کے استعمال سے متعلق ہے-مثال کے طور پر بچوں کے تحفظ میں بدسلوکی/غفلت سے بچوں کو لاحق خطرات کی پیش گوئیاں، پولیسنگ اور فوجداری انصاف میں بازگشت یا جرم کی پیش گوئیاں، تعمیل کے نظام میں فلاح و بہبود/ٹیکس دھوکہ دہی کی پیش گوئیاں، روزگار کی خدمات میں طویل مدتی بے روزگاری کی پیش گوئیاں۔ تاریخی طور پر یہ نظام معیاری شماریاتی تجزیے پر مبنی تھے، تاہم 2000 کی دہائی کے اوائل سے مشین لرننگ کو تیزی سے تیار اور تعینات کیا گیا ہے۔ سماجی خدمات میں اے ڈی ایم کے استعمال کے ساتھ کلیدی مسائل میں تعصب، انصاف پسندی، جوابدہی اور وضاحت شامل ہیں جو کسی فیصلے کی وجوہات کے ارد گرد شفافیت اور اس بنیاد کی وضاحت کرنے کی صلاحیت سے مراد ہے جس پر مشین نے فیصلہ کیا۔ مثال کے طور پر آسٹریلیا کی وفاقی سوشل سیکیورٹی ڈیلیوری ایجنسی، سینٹر لنک نے قرض کا پتہ لگانے اور جمع کرنے کے لیے ایک خودکار عمل تیار کیا اور اسے نافذ کیا جس کی وجہ سے غلط قرض جمع کرنے کے بہت سے معاملات ہوئے جو روبو ڈیٹ اسکیم کے نام سے مشہور ہوئے۔ ٹرانسپورٹ اینڈ موبلٹی کنیکٹڈ اینڈ آٹومیٹڈ موبلٹی (سی اے ایم) میں خود مختار گاڑیاں جیسے سیلف ڈرائیونگ کاریں اور نقل و حمل کی دیگر شکلیں شامل ہیں جو گاڑی کے انسانی کنٹرول کے مختلف پہلوؤں کو تبدیل کرنے کے لیے خودکار فیصلہ سازی کے نظام کا استعمال کرتی ہیں۔ یہ سطح 0 (مکمل انسانی ڈرائیونگ) سے لے کر سطح 5 (مکمل طور پر خود مختار) تک ہو سکتی ہے۔ سطح 5 پر مشین ڈیٹا ماڈلز اور جیو اسپیشل میپنگ اور ریئل ٹائم سینسرز اور ماحول کی پروسیسنگ کی بنیاد پر گاڑی کو کنٹرول کرنے کے فیصلے کرنے کے قابل ہے۔ 1 سے 3 کی سطح والی کاریں 2021 میں پہلے ہی مارکیٹ میں دستیاب ہیں۔ 2016 میں جرمن حکومت نے 'ایتھکس کمیشن آن آٹومیٹڈ اینڈ کنیکٹڈ ڈرائیونگ' قائم کیا جس نے منسلک اور خودکار گاڑیاں (سی اے وی) تیار کرنے کی سفارش کی اگر یہ نظام انسانی ڈرائیوروں کے مقابلے میں کم حادثات کا سبب بنتا ہے (خطرے کا مثبت توازن)۔ اس نے خودکار اور منسلک ڈرائیونگ کے موافقت کے لیے 20 اخلاقی اصول بھی فراہم کیے۔ 2020 میں سی اے ایم پر یورپی کمیشن کی حکمت عملی نے سفارش کی کہ انہیں یورپ میں سڑک کی ہلاکتوں کو کم کرنے اور اخراج کو کم کرنے کے لیے اپنایا جائے تاہم خود سے چلنے والی کاریں حادثات کی صورت میں ذمہ داری اور اخلاقی فیصلہ سازی کے لحاظ سے بہت سے پالیسی، سلامتی اور قانونی مسائل کو بھی جنم دیتی ہیں۔ نیز رازداری کے مسائل۔ خود مختار گاڑیوں پر اعتماد کے مسائل اور ان کی حفاظت کے بارے میں کمیونٹی کے خدشات کلیدی عوامل ہیں جن پر توجہ دی جانی چاہیے اگر اے وی کو بڑے پیمانے پر اپنایا جانا ہے۔ نگرانی سینسرز، کیمروں، آن لائن لین دین اور سوشل میڈیا کے ذریعے خودکار ڈیجیٹل ڈیٹا کلیکشن نے سرکاری اور تجارتی شعبوں میں نگرانی کے طریقوں اور اداروں کے دائرہ کار، پیمانے اور اہداف کو نمایاں طور پر بڑھا دیا ہے۔ اس کے نتیجے میں مشتبہ افراد کی ٹارگٹڈ نگرانی سے پوری آبادی کی نگرانی کرنے کی صلاحیت میں ایک بڑی تبدیلی آئی ہے۔ خودکار ڈیٹا اکٹھا کرنے کے نتیجے میں اب ممکن نگرانی کی سطح کو نگرانی سرمایہ داری یا نگرانی کی معیشت کے طور پر بیان کیا گیا ہے تاکہ اس بات کی نشاندہی کی جا سکے کہ ڈیجیٹل میڈیا میں ہر تعامل پر بڑے پیمانے پر ٹریکنگ اور ڈیٹا جمع کرنا شامل ہے۔ اخلاقی اور قانونی مسائل خودکار فیصلہ سازی کے نظام کے بہت سے سماجی، اخلاقی اور قانونی مضمرات ہیں۔ اٹھائے گئے خدشات میں شفافیت کی کمی اور فیصلوں کی مسابقت، رازداری اور نگرانی پر دراندازی، ڈیٹا اور الگورتھمک تعصب کی وجہ سے نظامی تعصب اور عدم مساوات کو بڑھانا، دانشورانہ املاک کے حقوق، میڈیا پلیٹ فارمز کے ذریعے غلط معلومات کا پھیلاؤ، انتظامی امتیازی سلوک، خطرہ اور ذمہ داری، بے روزگاری اور بہت سے دیگر شامل ہیں۔ جیسے جیسے اے ڈی ایم زیادہ ہر جگہ پھیلتا جا رہا ہے، انفارمیشن سوسائٹیوں میں اچھی حکمرانی کو یقینی بنانے کے لیے اخلاقی چیلنجوں سے نمٹنے کی زیادہ ضرورت ہے۔ اے ڈی ایم سسٹم اکثر مشین لرننگ اور الگورتھم پر مبنی ہوتے ہیں جنہیں آسانی سے دیکھا یا تجزیہ نہیں کیا جا سکتا، جس کی وجہ سے یہ خدشات پیدا ہوتے ہیں کہ وہ 'بلیک باکس' سسٹم ہیں جو شفاف یا جوابدہ نہیں ہیں۔ کینیڈا میں سٹیزن لیب کی ایک رپورٹ میں مختلف شعبوں میں اے ڈی ایم کے اطلاق کے انسانی حقوق کے تنقیدی تجزیے کی دلیل دی گئی ہے تاکہ یہ یقینی بنایا جا سکے کہ خودکار فیصلہ سازی کے استعمال کے نتیجے میں حقوق کی خلاف ورزی نہ ہو، بشمول مساوات اور غیر امتیازی سلوک کے حقوق ؛ نقل و حرکت، اظہار، مذہب اور انجمن کی آزادی ؛ رازداری کے حقوق اور شخص کی زندگی، آزادی اور سلامتی کے حقوق۔ اے ڈی ایم کے قانون سازی کے جوابات میں شامل ہیں: یورپی جنرل ڈیٹا پروٹیکشن ریگولیشن (جی ڈی پی آر)، جو 2016 میں متعارف کرایا گیا تھا، یورپی یونین (ای یو) میں ڈیٹا کے تحفظ اور رازداری سے متعلق یورپی یونین کے قانون میں ایک ضابطہ ہے۔ آرٹیکل 22 (1) اعداد و شمار کے مضامین کے فیصلے کے تابع نہ ہونے کے حق کو یقینی بناتا ہے، جس کے قانونی یا دیگر اہم اثرات ہوتے ہیں، جو مکمل طور پر خودکار انفرادی فیصلہ سازی پر مبنی ہوتے ہیں۔ جی ڈی پی آر میں وضاحت کے حق سے متعلق کچھ اصول بھی شامل ہیں تاہم ان کا صحیح دائرہ کار اور نوعیت فی الحال یورپی یونین کی عدالت انصاف کے زیر التواء جائزے سے مشروط ہے۔ یہ دفعات پہلی بار جی ڈی پی آر میں متعارف نہیں کرائی گئیں تھیں، لیکن 1995 میں ڈیٹا پروٹیکشن ڈائریکٹیو اور 1978 کے فرانسیسی قانون کے بعد سے پورے یورپ میں اسی طرح کی شکل میں موجود ہیں۔ اسی طرح یوگنڈا، مراکش اور امریکی ریاست ورجینیا سمیت دنیا بھر کے بہت سے دوسرے دائرہ اختیار کے ڈیٹا پروٹیکشن قوانین میں مختلف منسلک حقوق اور ذمہ داریوں کے ساتھ دائرہ کار اور الفاظ کی دفعات موجود ہیں۔ فرانسیسی لوئی پور یون ریپبلک نمبر کے تحت 'الگورتھمک ٹریٹمنٹ' بنانے والے پبلک سیکٹر کے خودکار فیصلوں کی وضاحت کے حقوق۔ تعصب اے ڈی ایم درج ذیل سے پیدا ہونے والے الگورتھمک تعصب کو شامل کر سکتا ہے: ڈیٹا ذرائع، جہاں ڈیٹا ان پٹ ان کے مجموعہ یا انتخاب میں متعصبانہ ہوتے ہیں الگورتھم کے تکنیکی ڈیزائن، مثال کے طور پر جہاں اس بارے میں مفروضے بنائے گئے ہیں کہ کوئی شخص ابھرتے ہوئے تعصب کا برتاؤ کیسے کرے گا، جہاں غیر متوقع حالات میں اے ڈی ایم کا اطلاق ایک متعصبانہ نتیجہ پیدا کرتا ہے۔ متعصبانہ یا غلط ڈیٹا یا الگورتھم کے سوالات اور خدشات کہ کچھ اے ڈی ایم بلیک باکس ٹیکنالوجیز ہیں، انسانی جانچ پڑتال یا تفتیش کے لیے بند ہیں، جس کی وجہ سے وضاحت کا مسئلہ، یا خودکار فیصلوں اور اے آئی کی وضاحت کا حق کہا جاتا ہے۔ اسے قابل وضاحت اے آئی (ایکس اے آئی)، یا قابل تشریح اے آئی کے نام سے بھی جانا جاتا ہے، جس میں حل کے نتائج کا تجزیہ کیا جا سکتا ہے اور انسان اسے سمجھ سکتے ہیں۔ ایکس اے آئی الگورتھم کو تین اصولوں پر عمل کرنے کے لیے سمجھا جاتا ہے-شفافیت، تشریح اور وضاحت۔ معلومات کی عدم توازن خودکار فیصلہ سازی ان افراد کے درمیان معلومات کی عدم توازن میں اضافہ کر سکتی ہے جن کا ڈیٹا سسٹم میں شامل ہوتا ہے اور پلیٹ فارم اور فیصلہ سازی کے نظام جو اس ڈیٹا سے معلومات کا اندازہ لگانے کے قابل ہوتے ہیں۔ دوسری طرف یہ مشاہدہ کیا گیا ہے کہ مالیاتی تجارت میں دو مصنوعی ذہین ایجنٹوں کے درمیان معلومات کی عدم توازن دو انسانی ایجنٹوں کے درمیان یا انسان اور مشین ایجنٹوں کے درمیان کے مقابلے میں بہت کم ہو سکتی ہے۔ تحقیقی شعبے بہت سے تعلیمی شعبے اور شعبے تیزی سے اپنی توجہ اے ڈی ایم کی ترقی، اطلاق اور مضمرات کی طرف موڑ رہے ہیں جن میں کاروبار، کمپیوٹر سائنسز، ہیومن کمپیوٹر انٹرایکشن (ایچ سی آئی)، قانون، پبلک ایڈمنسٹریشن، اور میڈیا اور مواصلات شامل ہیں۔ سرچ سسٹمز اور پلیٹ فارمز کے ذریعے میڈیا مواد اور الگورتھم سے چلنے والی خبروں، ویڈیو اور دیگر مواد کی آٹومیشن میڈیا اسٹڈیز میں تعلیمی تحقیق کا ایک بڑا مرکز ہے۔ انصاف، جوابدہی اور شفافیت پر اے سی ایم کانفرنس (اے سی ایم ایف اے سی سی ٹی) 2018 میں سماجی تکنیکی نظاموں کے تناظر میں شفافیت اور وضاحت کا مطالعہ کرنے کے لیے قائم کی گئی تھی، جن میں سے بہت سے میں اے ڈی ایم اور اے آئی شامل ہیں۔ اے ڈی ایم کی تحقیقات کرنے والے کلیدی تحقیقی مراکز میں شامل ہیں: الگورتھم واچ، جرمنی اے آر سی سینٹر آف ایکسی لینس فار آٹومیٹڈ ڈیسیژن میکنگ اینڈ سوسائٹی، آسٹریلیا سٹیزن لیب، کینیڈا انفارمیٹکس یورپ دیکھیں خودکار فیصلہ سپورٹ الگورتھمک بائیس ڈیسیژن میکنگ سافٹ ویئر ڈیسیژن مینجمنٹ اخلاقیات بذریعہ الگورتھم مشین لرننگ سسٹم سفارشات سائنس اور ٹیکنالوجی اسٹڈیز اور ڈیجیٹل ٹیکنالوجی مشین لرننگ