Laplace's approximation
લેપલેસનો અંદાજ એમ. એ. પી. સોલ્યુશનની બરાબર સરેરાશ અને અવલોકન કરાયેલ ફિશર માહિતીની બરાબર ચોકસાઇ સાથે ગૌસીયન વિતરણને ફીટ કરીને પશ્ચાદવર્તી સંભાવના વિતરણ માટે વિશ્લેષણાત્મક અભિવ્યક્તિ પ્રદાન કરે છે. આ અંદાજને બર્નસ્ટીન-વોન મિસેસ પ્રમેય દ્વારા ન્યાયી ઠેરવવામાં આવ્યો છે, જે જણાવે છે કે નિયમિત પરિસ્થિતિઓમાં પશ્ચાદવર્તી મોટા નમૂનાઓમાં ગૌસીયનમાં એકરૂપ થાય છે. ઉદાહરણ તરીકે, ઇનપુટ્સ અને આઉટપુટનો સમાવેશ કરતા ડેટા સેટ સાથે (સંભવતઃ બિન-રેખીય) રીગ્રેસન અથવા વર્ગીકરણ મોડેલ લંબાઈના (અજ્ઞાત) પરિમાણ વેક્ટર ધરાવે છે. સંભાવના સૂચવવામાં આવે છે અને પરિમાણ પહેલાં. આઉટપુટ અને પરિમાણોની સંયુક્ત ઘનતા એ અનુમાનિત ઇચ્છાનો ઉદ્દેશ છે સંયુક્ત સંભાવના અને પૂર્વના ઉત્પાદનની બરાબર છે અને બેયસના નિયમ દ્વારા, સીમાંત સંભાવના અને પશ્ચાદવર્તીના ઉત્પાદનની બરાબર છે. સાંધાના કાર્ય તરીકે જોવામાં આવે છે તે બિન-સામાન્ય ઘનતા છે. લાપ્લાસના અંદાજમાં આપણે સાંધાને બિન-સામાન્ય ગૌસીયન દ્વારા અંદાજિત કરીએ છીએ, જ્યાં આપણે બિન-સામાન્ય ઘનતા માટે અંદાજિત ઘનતા દર્શાવવા માટે ઉપયોગ કરીએ છીએ અને તે અચળાંક (સ્વતંત્ર) છે. સીમાંત સંભાવના પરિમાણ અને પશ્ચાદવર્તી સામાન્યીકરણ પર આધારિત ન હોવાથી આપણે તેમને અનુક્રમે આપણા અંદાજ સાથે અને તેની સાથે તરત જ ઓળખી શકીએ છીએ. લાપ્લાસનું અંદાજ એ છે કે જ્યાં આપણે વ્યાખ્યાયિત કર્યું છે કે સંયુક્ત લક્ષ્ય ઘનતાના મોડનું સ્થાન ક્યાં છે, જેને મહત્તમ પશ્ચાદવર્તી અથવા એમએપી બિંદુ તરીકે પણ ઓળખવામાં આવે છે અને તે મોડ પર નકારાત્મક લોગ સંયુક્ત લક્ષ્ય ઘનતાના બીજા ડેરિવેટિવ્ઝનું સકારાત્મક ચોક્કસ મેટ્રિક્સ છે. આમ, ગૌસીયન અંદાજ સ્થિતિ પર બિન-સામાન્ય લક્ષ્ય ઘનતાના મૂલ્ય અને વળાંક સાથે મેળ ખાય છે. નું મૂલ્ય સામાન્ય રીતે ઢાળ આધારિત પદ્ધતિનો ઉપયોગ કરીને જોવા મળે છે, દા. ત. ન્યૂટનની પદ્ધતિ. સારાંશમાં, આપણી પાસે અનુક્રમે અંદાજિત પશ્ચાદવર્તી અને અંદાજિત લોગ સીમાંત સંભાવના છે. ગૌસીયન પહેલાની સાથે બાયસીયન રેખીય રીગ્રેસનના વિશેષ કિસ્સામાં, અંદાજ ચોક્કસ છે. લાપ્લાસના અંદાજની મુખ્ય નબળાઈઓ એ છે કે તે મોડની આસપાસ સપ્રમાણ છે અને તે ખૂબ જ સ્થાનિક છેઃ સમગ્ર અંદાજ લક્ષ્ય ઘનતાના એક બિંદુ પરના ગુણધર્મોમાંથી મેળવવામાં આવે છે. લેપલેસની પદ્ધતિનો વ્યાપકપણે ઉપયોગ થાય છે અને ડેવિડ મેકકે દ્વારા ન્યુરલ નેટવર્ક્સના સંદર્ભમાં અને વિલિયમ્સ અને બાર્બર દ્વારા ગૌસીયન પ્રક્રિયાઓ માટે પહેલ કરવામાં આવી હતી. સંદર્ભો આંકડાકીય અંદાજો બાયેસિયન અનુમાન