Manifold hypothesis
મેનીફોલ્ડ પૂર્વધારણા એવું માને છે કે વાસ્તવિક દુનિયામાં જોવા મળતા ઘણા ઉચ્ચ-પરિમાણીય ડેટા સમૂહો વાસ્તવમાં તે ઉચ્ચ-પરિમાણીય જગ્યાની અંદર ઓછા-પરિમાણીય સુપ્ત મેનીફોલ્ડ્સ સાથે આવેલા છે. મેનીફોલ્ડ પૂર્વધારણાના પરિણામે, ઘણા ડેટા સમૂહો કે જેને શરૂઆતમાં વર્ણવવા માટે ઘણા ચલની જરૂર હોય તેવું લાગે છે, તેને વાસ્તવમાં તુલનાત્મક રીતે ઓછી સંખ્યામાં ચલ દ્વારા વર્ણવી શકાય છે, જેને અંતર્ગત મેનીફોલ્ડની સ્થાનિક સંકલન પ્રણાલી સાથે સરખાવવામાં આવે છે. એવું સૂચવવામાં આવે છે કે આ સિદ્ધાંત કેટલીક સામાન્ય લાક્ષણિકતાઓને ધ્યાનમાં લઈને ઉચ્ચ-પરિમાણીય ડેટા સમૂહોના વર્ણનમાં મશીન લર્નિંગ અલ્ગોરિધમ્સની અસરકારકતાને આધાર આપે છે. મેનીફોલ્ડ પૂર્વધારણા મશીન લર્નિંગમાં બિનરેખીય પરિમાણીયતા ઘટાડવાની તકનીકોની અસરકારકતા સાથે સંબંધિત છે. પરિમાણીય ઘટાડાની ઘણી તકનીકો એવી ધારણા કરે છે કે માહિતી નિમ્ન-પરિમાણીય સબમેનિફોલ્ડ સાથે આવેલી છે, જેમ કે મેનીફોલ્ડ સ્કલ્પ્ટીંગ, મેનીફોલ્ડ સંરેખણ અને મેનીફોલ્ડ રેગ્યુલરાઇઝેશન. આ પૂર્વધારણાની મુખ્ય અસરો એ છે કે મશીન લર્નિંગ મોડેલોએ તેમની સંભવિત ઇનપુટ જગ્યા (સુપ્ત મેનીફોલ્ડ્સ) ની અંદર માત્ર પ્રમાણમાં સરળ, ઓછી-પરિમાણીય, ઉચ્ચ સંરચિત પેટા જગ્યાઓ જ ફિટ કરવી પડે છે. આ મેનીફોલ્ડ્સમાંથી એકની અંદર, બે ઇનપુટ્સ વચ્ચે ઇન્ટરપોલેટ કરવું હંમેશા શક્ય છે, એટલે કે, સતત માર્ગ દ્વારા એકને બીજામાં રૂપાંતરિત કરો, જેની સાથે તમામ બિંદુઓ મેનીફોલ્ડ પર પડે છે. નમૂનાઓ વચ્ચે અંતર્વેશન કરવાની ક્ષમતા એ ઊંડા શિક્ષણમાં સામાન્યીકરણની ચાવી છે. આંકડાકીય મેનીફોલ્ડ્સની માહિતી ભૂમિતિ મેનીફોલ્ડ પૂર્વધારણા માટે પ્રયોગમૂલક રીતે પ્રેરિત અભિગમ એ ધારણા હેઠળ મેનીફોલ્ડ લર્નિંગ માટે અસરકારક સિદ્ધાંત સાથે તેના પત્રવ્યવહાર પર ધ્યાન કેન્દ્રિત કરે છે કે મજબૂત મશીન લર્નિંગ માટે ડેટા સંકોચન માટેની પદ્ધતિઓનો ઉપયોગ કરીને રસના ડેટાસેટને એન્કોડિંગ કરવાની જરૂર છે. કાર્યક્ષમ કોડિંગ પૂર્વધારણા, આગાહીયુક્ત કોડિંગ અને વૈવિધ્યસભર બાયેસિયન પદ્ધતિઓ પર કામ કરતા વૈજ્ઞાનિકોના સંકલિત પ્રયાસોને કારણે આ પરિપ્રેક્ષ્ય ધીમે ધીમે માહિતી ભૂમિતિના સાધનોનો ઉપયોગ કરીને ઉભરી આવ્યું. વિતરણની સુપ્ત જગ્યા પર માહિતી ભૂમિતિ વિશે તર્ક માટેની દલીલ ફિશર માહિતી મેટ્રિકના અસ્તિત્વ અને વિશિષ્ટતા પર આધારિત છે. આ સામાન્ય સેટિંગમાં, આપણે આંકડાકીય મેનીફોલ્ડનું સ્ટોકેસ્ટિક એમ્બેડિંગ શોધવાનો પ્રયાસ કરી રહ્યા છીએ. ગતિશીલ પ્રણાલીઓના દ્રષ્ટિકોણથી, મોટા ડેટા શાસનમાં આ મેનીફોલ્ડ સામાન્ય રીતે હોમિયોસ્ટેસિસ જેવા ચોક્કસ ગુણધર્મો દર્શાવે છેઃ આપણે અંતર્ગત જનરેટિવ પ્રક્રિયામાંથી મોટા પ્રમાણમાં ડેટાનો નમૂનો લઈ શકીએ છીએ. મશીન લર્નિંગ પ્રયોગો પુનઃઉત્પાદનક્ષમ છે, તેથી ઉત્પાદન પ્રક્રિયાના આંકડા સ્થિરતા દર્શાવે છે. મુક્ત ઊર્જાના સિદ્ધાંત પર કામ કરતા સૈદ્ધાંતિક ન્યુરોસાયન્ટિસ્ટ્સ દ્વારા ચોક્કસ કરવામાં આવેલા અર્થમાં, આંકડાકીય મેનીફોલ્ડ માર્કોવ ધાબળો ધરાવે છે. ટાવર ઓફ બેબલ પેરાડોક્સ સૈદ્ધાંતિક ન્યુરોસાયન્સમાં મૂળભૂત સમસ્યાઓથી પ્રેરિત, મુક્ત ઊર્જા સિદ્ધાંત સમુદાયના કેટલાક વૈજ્ઞાનિકોએ કોમ્પ્યુટેશનલ સ્તરે આગાહીયુક્ત કોડિંગનો ઉપયોગ કરીને સિન્થેથેસિયાનું મોડેલ બનાવવાનો પ્રયાસ કર્યો છે. જો કે, તે અજ્ઞાત છે કે શું મેનીફોલ્ડ લર્નિંગ અલ્ગોરિધમ્સનો એક વર્ગ છે કે જે મારના સ્તરોના અલ્ગોરિધમિક સ્તરે સિન્થેથેસિયાની કાર્યક્ષમતાનું અનુકરણ કરી શકે છે. કોઈપણ જૈવિક રીતે-બુદ્ધિગમ્ય મેનિફોલ્ડ લર્નિંગ અલ્ગોરિધમનો સામનો કરતો મૂળભૂત પડકાર કાર્યક્ષમ કોડિંગ પૂર્વધારણા માટે રોમેન બ્રેટના ટાવર ઓફ બેબલ પેરાડોક્સ છેઃ કાર્યક્ષમ કોડિંગ પૂર્વધારણા નક્કી કરે છે કે ચેતાકોષો સ્પાઇક ટ્રેનમાં સંકેતોને કાર્યક્ષમ રીતે એન્કોડ કરે છે, એટલે કે, તે એક કોડનો ઉપયોગ કરે છે જેથી માહિતીને સાચવતી વખતે તમામ અતિરેકને મૂળ સંદેશમાંથી દૂર કરવામાં આવે, આ અર્થમાં કે એન્કોડેડ સંદેશને મૂળ સંદેશમાં પાછા મેપ કરી શકાય છે (બાર્લો, 1961; સિમોન્સેલી, 2003). આ સૂચવે છે કે સંપૂર્ણ કાર્યક્ષમ કોડ સાથે, એન્કોડેડ સંદેશાઓ અવ્યવસ્થિતથી અલગ પાડી શકાય તેમ નથી. કોડ ઇનપુટ્સના આંકડાઓ પર નિર્ધારિત કરવામાં આવે છે અને માત્ર એન્કોડેડ સંદેશાઓ સંચારિત કરવામાં આવે છે, તેથી કોડ એ હદ સુધી કાર્યક્ષમ છે કે તે પ્રાપ્તકર્તા દ્વારા સમજી શકાતો નથી. આ કાર્યક્ષમ કોડનો વિરોધાભાસ છે. ન્યુરલ કોડિંગ રૂપકમાં, કોડ ખાનગી છે અને દરેક ચેતાકોષ માટે વિશિષ્ટ છે. જો આપણે આ રૂપકને અનુસરીએ, તો તેનો અર્થ એ છે કે બધા ચેતાકોષો એક અલગ ભાષા બોલે છે, એક એવી ભાષા જે વિભાવનાઓને ખૂબ જ સંક્ષિપ્તમાં વ્યક્ત કરવાની મંજૂરી આપે છે પરંતુ તે બીજું કોઈ સમજી શકતું નથી. આમ, કોડિંગ રૂપક અનુસાર, મગજ એ બેબલનું ટાવર છે. આગાહીયુક્ત અને કાર્યક્ષમ કોડિંગ થીસીસ આગાહી કરે છે કે દરેક ચેતાકોષનો પોતાનો કાર્યક્ષમ કોડ હોય છે જે મહત્તમ એન્ટ્રોપી અનુમાન દ્વારા મેળવવામાં આવે છે. આપણે આ સ્થાનિક કોડને અલગ ભાષાઓ તરીકે વિચારી શકીએ છીએ. બ્રેટ પછી અનુમાન કરે છે કે દરેક ચેતાકોષની ભાષા તેના પડોશીઓની તુલનામાં અવ્યવસ્થિત રીતે અલગ પાડી શકાય તેવી હોવાથી, વૈશ્વિક એન્કોડિંગ અશક્ય હોવું જોઈએ. સંદર્ભો વધુ વાંચન મશીન લર્નિંગ સૈદ્ધાંતિક કમ્પ્યુટર વિજ્ઞાન