Manifold hypothesis
ম্যানিফোল্ড হাইপোথিসিসটি বলে যে বাস্তব জগতে ঘটে যাওয়া অনেক উচ্চ-মাত্রিক ডেটা সেট আসলে সেই উচ্চ-মাত্রিক স্থানের ভিতরে নিম্ন-মাত্রিক সুপ্ত ম্যানিফোল্ডগুলির সাথে থাকে। ম্যানিফোল্ড হাইপোথিসিসের ফলস্বরূপ, অনেক ডেটা সেট যা প্রাথমিকভাবে বর্ণনা করার জন্য অনেক চলকের প্রয়োজন বলে মনে হয়, প্রকৃতপক্ষে তুলনামূলকভাবে অল্প সংখ্যক চলক দ্বারা বর্ণনা করা যেতে পারে, যা অন্তর্নিহিত ম্যানিফোল্ডের স্থানীয় স্থানাঙ্ক ব্যবস্থার সাথে তুলনা করা হয়। এটি প্রস্তাব করা হয় যে এই নীতিটি কয়েকটি সাধারণ বৈশিষ্ট্য বিবেচনা করে উচ্চ-মাত্রিক ডেটা সেটগুলি বর্ণনা করার ক্ষেত্রে মেশিন লার্নিং অ্যালগরিদমগুলির কার্যকারিতাকে সমর্থন করে। ম্যানিফোল্ড হাইপোথিসিসটি মেশিন লার্নিংয়ে অরৈখিক মাত্রা হ্রাস কৌশলগুলির কার্যকারিতার সাথে সম্পর্কিত। মাত্রিক হ্রাসের অনেক কৌশল অনুমান করে যে তথ্য একটি নিম্ন-মাত্রিক সাব-ম্যানিফোল্ড বরাবর রয়েছে, যেমন বহুগুণ ভাস্কর্য, বহুগুণ প্রান্তিককরণ এবং বহুগুণ নিয়মিতকরণ। এই অনুমানের প্রধান প্রভাব হল যে মেশিন লার্নিং মডেলগুলিকে কেবল তাদের সম্ভাব্য ইনপুট স্থানের (সুপ্ত ম্যানিফোল্ড) মধ্যে তুলনামূলকভাবে সহজ, নিম্ন-মাত্রিক, অত্যন্ত কাঠামোগত সাবস্পেসগুলি ফিট করতে হবে। এই ম্যানিফোল্ডগুলির মধ্যে একটির মধ্যে, দুটি ইনপুটের মধ্যে ইন্টারপোলেট করা সর্বদা সম্ভব, অর্থাৎ, একটি অবিচ্ছিন্ন পথের মাধ্যমে একে অপরের মধ্যে রূপান্তরিত করা, যার মাধ্যমে সমস্ত বিন্দু ম্যানিফোল্ডের উপর পড়ে। নমুনাগুলির মধ্যে অন্তর্বর্তী করার ক্ষমতা গভীর শিক্ষার ক্ষেত্রে সাধারণীকরণের মূল চাবিকাঠি। পরিসংখ্যানগত বহুগুণের তথ্য জ্যামিতি বহুগুণ অনুমানের একটি অভিজ্ঞতাগত-অনুপ্রাণিত পদ্ধতি বহুগুণ শেখার জন্য একটি কার্যকর তত্ত্বের সাথে তার যোগাযোগের উপর দৃষ্টি নিবদ্ধ করে এই ধারণার অধীনে যে শক্তিশালী মেশিন লার্নিংয়ের জন্য ডেটা সংকোচনের পদ্ধতি ব্যবহার করে আগ্রহের ডেটাসেটকে এনকোড করা প্রয়োজন। দক্ষ কোডিং অনুমান, ভবিষ্যদ্বাণীমূলক কোডিং এবং বৈচিত্র্যময় বায়েসিয়ান পদ্ধতিতে কাজ করা বিজ্ঞানীদের সমন্বিত প্রচেষ্টার জন্য তথ্য জ্যামিতির সরঞ্জামগুলি ব্যবহার করে এই দৃষ্টিভঙ্গি ধীরে ধীরে আবির্ভূত হয়েছিল। বিতরণের সুপ্ত স্থানের উপর তথ্য জ্যামিতি সম্পর্কে যুক্তির যুক্তি ফিশার তথ্য মেট্রিকের অস্তিত্ব এবং স্বতন্ত্রতার উপর নির্ভর করে। এই সাধারণ পরিবেশে, আমরা একটি পরিসংখ্যানগত ম্যানিফোল্ডের একটি স্টোকাস্টিক এম্বেডিং খুঁজে বের করার চেষ্টা করছি। গতিশীল ব্যবস্থার দৃষ্টিকোণ থেকে, বড় তথ্য ব্যবস্থায় এই বহুগুণ সাধারণত হোমিওস্ট্যাসিসের মতো কিছু বৈশিষ্ট্য প্রদর্শন করেঃ আমরা অন্তর্নিহিত উৎপাদক প্রক্রিয়া থেকে প্রচুর পরিমাণে তথ্যের নমুনা নিতে পারি। মেশিন লার্নিং পরীক্ষাগুলি পুনরুত্পাদনযোগ্য, তাই উৎপাদন প্রক্রিয়ার পরিসংখ্যান স্থিতিশীলতা প্রদর্শন করে। মুক্ত শক্তি নীতির উপর কাজ করা তাত্ত্বিক স্নায়ুবিজ্ঞানীদের দ্বারা সুনির্দিষ্ট করা এক অর্থে, প্রশ্নযুক্ত পরিসংখ্যানগত বহুগুণ একটি মার্কভ কম্বল ধারণ করে। তাত্ত্বিক স্নায়ুবিজ্ঞানের মৌলিক সমস্যা দ্বারা অনুপ্রাণিত হয়ে, মুক্ত শক্তি নীতি সম্প্রদায়ের কিছু বিজ্ঞানী গণনামূলক স্তরে ভবিষ্যদ্বাণীমূলক কোডিং ব্যবহার করে সিন্থেসিয়ার মডেল তৈরি করার চেষ্টা করেছেন। যাইহোক, এটি অজানা যে ম্যানিফোল্ড লার্নিং অ্যালগরিদমের একটি শ্রেণী আছে কিনা যা মারের স্তরের অ্যালগরিদমিক স্তরে সিন্থেথেসিয়ার কার্যকারিতা অনুকরণ করতে পারে। যে কোনও জৈবিকভাবে-প্রশংসনীয় ম্যানিফোল্ড লার্নিং অ্যালগরিদমের মুখোমুখি হওয়া একটি মৌলিক চ্যালেঞ্জ হ 'ল কার্যকর কোডিং অনুমানের জন্য রোমেইন ব্রেটের টাওয়ার অফ ব্যাবেল প্যারাডক্সঃ দক্ষ কোডিং অনুমানটি নির্ধারণ করে যে নিউরনগুলি স্পাইক ট্রেনে দক্ষ উপায়ে সংকেতগুলি এনকোড করে, অর্থাৎ এটি এমন একটি কোড ব্যবহার করে যাতে তথ্য সংরক্ষণের সময় সমস্ত অপ্রয়োজনীয়তা মূল বার্তা থেকে সরানো হয়, এই অর্থে যে এনকোডেড বার্তাটি মূল বার্তায় ম্যাপ করা যেতে পারে (বার্লো, 1961; সাইমনসেলি, 2003)। এটি বোঝায় যে একটি নিখুঁত দক্ষ কোডের সাথে, এনকোডেড বার্তাগুলি এলোমেলো থেকে আলাদা করা যায় না। যেহেতু কোডটি ইনপুটগুলির পরিসংখ্যানের উপর নির্ধারিত হয় এবং শুধুমাত্র এনকোডেড বার্তাগুলি যোগাযোগ করা হয়, তাই একটি কোড এতটাই কার্যকর যে এটি রিসিভারের দ্বারা বোধগম্য নয়। এটি দক্ষ কোডের বৈপরীত্য। নিউরাল কোডিং রূপকে, কোডটি ব্যক্তিগত এবং প্রতিটি নিউরনের জন্য নির্দিষ্ট। যদি আমরা এই রূপকটি অনুসরণ করি, এর অর্থ হল যে সমস্ত নিউরন একটি ভিন্ন ভাষায় কথা বলে, এমন একটি ভাষা যা ধারণাগুলি খুব সংক্ষিপ্তভাবে প্রকাশ করতে দেয় তবে অন্য কেউ বুঝতে পারে না। সুতরাং, কোডিং রূপক অনুসারে, মস্তিষ্ক হল ব্যাবেলের একটি টাওয়ার। ভবিষ্যদ্বাণীমূলক এবং দক্ষ কোডিং থিসিসগুলি ভবিষ্যদ্বাণী করে যে প্রতিটি নিউরনের নিজস্ব দক্ষ কোড রয়েছে যা সর্বাধিক এনট্রপি অনুমানের মাধ্যমে উদ্ভূত হয়। আমরা এই স্থানীয় কোডগুলিকে স্বতন্ত্র ভাষা হিসাবে ভাবতে পারি। ব্রেট তখন অনুমান করেন যে যেহেতু প্রতিটি স্নায়ুকোষের একটি ভাষা রয়েছে যা তার প্রতিবেশীদের তুলনায় এলোমেলোভাবে আলাদা করা যায় না, তাই একটি বিশ্বব্যাপী এনকোডিং অসম্ভব হওয়া উচিত। তথ্যসূত্র আরও পড়া মেশিন লার্নিং তাত্ত্বিক কম্পিউটার বিজ্ঞান