Sufficient dimension reduction
পরিসংখ্যানে, পর্যাপ্ত মাত্রা হ্রাস (এসডিআর) তথ্য বিশ্লেষণের জন্য একটি দৃষ্টান্ত যা পর্যাপ্ততার ধারণার সাথে মাত্রা হ্রাসের ধারণাগুলিকে একত্রিত করে। মাত্রা হ্রাস দীর্ঘকাল ধরে রিগ্রেশন বিশ্লেষণের একটি প্রাথমিক লক্ষ্য। একটি প্রতিক্রিয়া পরিবর্তনশীল y এবং একটি p-মাত্রিক ভবিষ্যদ্বাণীকারী ভেক্টর দেওয়া হলে, রিগ্রেশন বিশ্লেষণের লক্ষ্য হল প্রদত্তের শর্তাধীন বিতরণ অধ্যয়ন করা। একটি মাত্রা হ্রাস এমন একটি ফাংশন যা k <p এর একটি উপসেটে ম্যাপ করে, যার ফলে এর মাত্রা হ্রাস পায়। উদাহরণস্বরূপ, এক বা একাধিক রৈখিক সংমিশ্রণ হতে পারে। একটি মাত্রা হ্রাস যথেষ্ট বলে মনে করা হয় যদি এর বন্টন এর সমান হয়। অন্য কথায়, হ্রাস যথেষ্ট হলে এর মাত্রা হ্রাস করার ক্ষেত্রে রিগ্রেশন সম্পর্কে কোনও তথ্য হারিয়ে যায় না। গ্রাফিক্যাল অনুপ্রেরণা একটি রিগ্রেশন সেটিং-এ, প্রায়শই গ্রাফিকভাবে বিতরণের সংক্ষিপ্তসার করা দরকারী। উদাহরণস্বরূপ, এক বা একাধিক ভবিষ্যদ্বাণীকারীর বিপরীতে একটি বিচ্ছুরিত প্লট বিবেচনা করা যেতে পারে। সমস্ত উপলব্ধ রিগ্রেশন তথ্য সম্বলিত একটি বিচ্ছুরিত প্লটকে পর্যাপ্ত সংক্ষিপ্ত প্লট বলা হয়। কখন উচ্চ-মাত্রিক হয়, বিশেষত যখন, তথ্য হ্রাস না করে পর্যাপ্ত সংক্ষিপ্ত প্লট তৈরি করা এবং দৃশ্যমানভাবে ব্যাখ্যা করা ক্রমবর্ধমান চ্যালেঞ্জিং হয়ে ওঠে। এমনকি ত্রিমাত্রিক বিচ্ছুরণ প্লটগুলি অবশ্যই একটি কম্পিউটার প্রোগ্রামের মাধ্যমে দেখতে হবে এবং তৃতীয় মাত্রাটি কেবল স্থানাঙ্ক অক্ষগুলি ঘোরানোর মাধ্যমে দৃশ্যমান করা যেতে পারে। যাইহোক, যদি যথেষ্ট ছোট মাত্রার সাথে পর্যাপ্ত মাত্রার হ্রাস বিদ্যমান থাকে, তবে বনামের একটি পর্যাপ্ত সংক্ষিপ্ত প্লট তৈরি করা যেতে পারে এবং আপেক্ষিক স্বাচ্ছন্দ্যের সাথে দৃশ্যমানভাবে ব্যাখ্যা করা যেতে পারে। তাই পর্যাপ্ত মাত্রার হ্রাস এর বিতরণ সম্পর্কে গ্রাফিকাল অন্তর্দৃষ্টির অনুমতি দেয়, যা অন্যথায় উচ্চ-মাত্রিক তথ্যের জন্য উপলব্ধ নাও হতে পারে। বেশিরভাগ গ্রাফিকাল পদ্ধতি প্রাথমিকভাবে রৈখিক সংমিশ্রণের সাথে জড়িত মাত্রা হ্রাসের উপর দৃষ্টি নিবদ্ধ করে। এই নিবন্ধের বাকি অংশ শুধুমাত্র এই ধরনের হ্রাস নিয়ে আলোচনা করে। মাত্রা হ্রাস সাবস্পেস ধরুন একটি পর্যাপ্ত মাত্রা হ্রাস, যেখানে র্যাঙ্ক সহ একটি ম্যাট্রিক্স। তারপর রিগ্রেশন তথ্যের বন্টন অধ্যয়ন করে অনুমান করা যেতে পারে, এবং বনামের প্লট একটি যথেষ্ট সংক্ষিপ্ত প্লট। সাধারণতা না হারিয়ে, শুধুমাত্র প্রয়োজনের কলাম দ্বারা বিস্তৃত স্থান বিবেচনা করা হবে। কলামের জায়গার জন্য একটি ভিত্তি হতে দিন, এবং দ্বারা প্রসারিত স্থানটি দ্বারা চিহ্নিত করা যাক। এটি একটি পর্যাপ্ত মাত্রা হ্রাসের সংজ্ঞা থেকে অনুসরণ করে যেখানে উপযুক্ত বিতরণ ফাংশন বোঝায়। এই বৈশিষ্ট্যটি প্রকাশ করার আরেকটি উপায় হল শর্তসাপেক্ষভাবে স্বাধীন, দেওয়া। তারপর সাবস্পেসকে ডাইমেনশন রিডাকশন সাবস্পেস (ডি. আর. এস) হিসাবে সংজ্ঞায়িত করা হয়। কাঠামোগত মাত্রা একটি প্রতিগমনের জন্য, কাঠামোগত মাত্রা, এর শর্তাধীন বন্টন সংরক্ষণের জন্য প্রয়োজনীয় স্বতন্ত্র রৈখিক সংমিশ্রণের ক্ষুদ্রতম সংখ্যা। অন্য কথায়, ক্ষুদ্রতম মাত্রা হ্রাস যা এখনও একটি উপসেটের জন্য যথেষ্ট মানচিত্র। সংশ্লিষ্ট ডি. আর. এস হবে ডি-ডাইমেনশনাল। একটি সাবস্পেসকে ন্যূনতম ডি. আর. এস বলা হয় যদি এটি একটি ডি. আর. এস হয় এবং এর মাত্রা অন্যান্য সমস্ত ডি. আর. এস-এর তুলনায় কম বা সমান হয়। ন্যূনতম ডি. আর. এস অপরিহার্যভাবে অনন্য নয়, তবে এর মাত্রা সংজ্ঞা অনুসারে এর কাঠামোগত মাত্রার সমান। যদি ভিত্তি থাকে এবং ন্যূনতম ডি. আর. এস হয়, তবে y বনাম y এর একটি প্লট একটি ন্যূনতম যথেষ্ট সংক্ষিপ্ত প্লট, এবং এটি (d + 1)-মাত্রিক। যদি একটি সাবস্পেস একটি ডি. আর. এস হয়, এবং যদি অন্য সমস্ত ডি. আর. এস-এর জন্য হয়, তবে এটি একটি কেন্দ্রীয় মাত্রা হ্রাস সাবস্পেস, বা কেবল একটি কেন্দ্রীয় সাবস্পেস, এবং এটি দ্বারা চিহ্নিত করা হয়। অন্য কথায়, একটি কেন্দ্রীয় সাবস্পেস বিদ্যমান থাকে যদি এবং শুধুমাত্র যদি সমস্ত মাত্রা হ্রাস সাবস্পেসের ছেদটিও একটি মাত্রা হ্রাস সাবস্পেস হয় এবং সেই ছেদটি কেন্দ্রীয় সাবস্পেস হয়। কেন্দ্রীয় সাবস্পেস অপরিহার্যভাবে বিদ্যমান নেই কারণ ছেদটি অবশ্যই একটি ডি. আর. এস নয়। যাইহোক, যদি বিদ্যমান থাকে, তবে এটি অনন্য ন্যূনতম মাত্রা হ্রাস সাবস্পেসও। কেন্দ্রীয় সাবস্পেসের অস্তিত্ব যদিও প্রতিটি রিগ্রেশন পরিস্থিতিতে কেন্দ্রীয় সাবস্পেসের অস্তিত্বের নিশ্চয়তা দেওয়া হয় না, তবে কিছু বরং বিস্তৃত শর্ত রয়েছে যার অধীনে এর অস্তিত্ব সরাসরি অনুসরণ করে। উদাহরণস্বরূপ, কুক (1998) থেকে নিম্নলিখিত প্রস্তাবটি বিবেচনা করুনঃ এর জন্য মাত্রা হ্রাসের উপস্থান হতে দিন। যদি সকলের জন্য এবং অন্য সব জায়গার জন্য ঘনত্ব থাকে, যেখানে উত্তল, তাহলে ছেদটিও একটি মাত্রা হ্রাসকারী সাবস্পেস। এটি এই প্রস্তাব থেকে অনুসরণ করে যে কেন্দ্রীয় সাবস্পেস এই ধরনের জন্য বিদ্যমান। মাত্রা হ্রাসের পদ্ধতি গ্রাফিকাল এবং সংখ্যাসূচক উভয় ক্ষেত্রেই মাত্রা হ্রাসের জন্য অনেকগুলি বিদ্যমান পদ্ধতি রয়েছে। উদাহরণস্বরূপ, স্লাইসড ইনভার্স রিগ্রেশন (এসআইআর) এবং স্লাইসড এভারেজ ভ্যারিয়েন্স এস্টিমেশন (সেভ) 1990-এর দশকে চালু করা হয়েছিল এবং এখনও ব্যাপকভাবে ব্যবহৃত হচ্ছে। যদিও এস. আই. আর মূলত সাবস্পেস হ্রাসকারী একটি কার্যকর মাত্রা অনুমান করার জন্য ডিজাইন করা হয়েছিল, তবে এখন এটি বোঝা যায় যে এটি শুধুমাত্র কেন্দ্রীয় সাবস্পেস অনুমান করে, যা সাধারণত ভিন্ন। মাত্রা হ্রাসের আরও সাম্প্রতিক পদ্ধতিগুলির মধ্যে রয়েছে সম্ভাবনা-ভিত্তিক পর্যাপ্ত মাত্রা হ্রাস, বিপরীত তৃতীয় মুহুর্তের (বা kth মুহুর্ত) উপর ভিত্তি করে কেন্দ্রীয় সাবস্পেস অনুমান করা, কেন্দ্রীয় সমাধান স্থান অনুমান করা, গ্রাফিকাল রিগ্রেশন, খাম মডেল এবং প্রধান সমর্থন ভেক্টর মেশিন। এগুলি এবং অন্যান্য পদ্ধতি সম্পর্কে আরও বিশদ বিবরণের জন্য, পরিসংখ্যানগত সাহিত্যের পরামর্শ নিন। প্রধান উপাদান বিশ্লেষণ (পি. সি. এ) এবং মাত্রা হ্রাসের জন্য অনুরূপ পদ্ধতিগুলি পর্যাপ্ততার নীতির উপর ভিত্তি করে নয়। উদাহরণস্বরূপঃ রৈখিক রিগ্রেশন রিগ্রেশন মডেলটি বিবেচনা করুন লক্ষ্য করুন যে এর বন্টন এর বন্টনের মতোই। অতএব, এর স্প্যান হল একটি ডাইমেনশন রিডাকশন সাবস্পেস। এছাড়াও, এটি 1-মাত্রিক (যদি না হয়), তাই এই রিগ্রেশনটির কাঠামোগত মাত্রা হল। এর ও. এল. এস অনুমান সামঞ্জস্যপূর্ণ, এবং তাই এর ব্যাপ্তি একটি সামঞ্জস্যপূর্ণ অনুমানকারী। বনামের প্লটটি এই রিগ্রেশনটির জন্য যথেষ্ট সংক্ষিপ্ত প্লট। আরও দেখুন মাত্রা হ্রাস কাটা বিপরীত রিগ্রেশন প্রধান উপাদান বিশ্লেষণ রৈখিক বৈষম্যমূলক বিশ্লেষণ বহুমাত্রিক সাবস্পেস লার্নিং নোটস রেফারেন্স কুক, আর. ডি। (1998) রিগ্রেশন গ্রাফিক্সঃ গ্রাফিক্সের মাধ্যমে রিগ্রেশন অধ্যয়নের জন্য ধারণা, সম্ভাব্যতা এবং পরিসংখ্যানে উইলি সিরিজ। রিগ্রেশন গ্রাফিক্স। কুক, আরডি। এবং আদ্রাগনি, কে. পি. (2009) "পর্যাপ্ত মাত্রা হ্রাস এবং প্রত্যাবর্তনে ভবিষ্যদ্বাণী", রয়েল সোসাইটির দার্শনিক লেনদেন এঃ গাণিতিক, শারীরিক এবং প্রকৌশল বিজ্ঞান, 367 (1906), 4385-4405। পূর্ণ পাঠ্য কুক, আর. ডি. এবং ওয়েইসবার্গ, এস. (1991) "স্লাইসড ইনভার্স রিগ্রেশন ফর ডাইমেনশন রিডাকশনঃ কমেন্ট", জার্নাল অফ দ্য আমেরিকান স্ট্যাটিস্টিক্যাল অ্যাসোসিয়েশন, 86 (414), 328-332। জেস্টর লি, কে-সি. (1991) "স্লাইসড ইনভার্স রিগ্রেশন ফর ডাইমেনশন রিডাকশন", জার্নাল অফ দ্য আমেরিকান স্ট্যাটিস্টিক্যাল অ্যাসোসিয়েশন, 86 (414), 316-327। জেস্টর এক্সটার্নাল লিঙ্ক পর্যাপ্ত মাত্রা হ্রাস মাত্রা হ্রাস