Automatic basis function construction
મશીન લર્નિંગમાં, ઓટોમેટિક બેસિસ ફંક્શન કન્સ્ટ્રક્શન (અથવા બેસિસ ડિસ્કવરી) એ કાર્ય-સ્વતંત્ર બેસિસ ફંક્શન્સના સમૂહને શોધવાની ગાણિતિક પદ્ધતિ છે જે સ્ટેટ સ્પેસને નિમ્ન-પરિમાણીય એમ્બેડિંગમાં મેપ કરે છે, જ્યારે હજુ પણ મૂલ્ય કાર્યને સચોટ રીતે રજૂ કરે છે. સ્વયંચાલિત આધાર બાંધકામ એ ક્ષેત્રના પૂર્વ જ્ઞાનથી સ્વતંત્ર છે, જે તેને સારું પ્રદર્શન કરવાની મંજૂરી આપે છે જ્યાં નિષ્ણાત-નિર્મિત આધાર કાર્યો બનાવવાનું મુશ્કેલ અથવા અશક્ય હોય. રિઇન્ફોર્સમેન્ટ લર્નિંગ (આર. એલ.) માં, મોટાભાગની વાસ્તવિક દુનિયાની માર્કોવ નિર્ણય પ્રક્રિયા (એમ. ડી. પી.) સમસ્યાઓમાં મોટી અથવા સતત સ્થિતિ હોય છે, જેને સામાન્ય રીતે અસરકારક રીતે રજૂ કરવા માટે અમુક પ્રકારના અંદાજની જરૂર પડે છે. લીનિયર ફંક્શન એપ્રોક્સિમેટર્સ (એલ. એફ. એ.) ને તેમની ઓછી સૈદ્ધાંતિક જટિલતા માટે વ્યાપકપણે અપનાવવામાં આવે છે. વધુ સારા અંદાજ માટે બે પેટા-સમસ્યાઓનું સમાધાન કરવાની જરૂર છેઃ વજન ઓપ્ટિમાઇઝેશન અને આધાર નિર્માણ. બીજી સમસ્યાને ઉકેલવા માટે, એક રીત એ છે કે વિશેષ પાયાના કાર્યોની રચના કરવી. તે પાયાના કાર્યો ચોક્કસ કાર્યોમાં સારી રીતે કામ કરે છે પરંતુ નોંધપાત્ર રીતે ડોમેન્સ સુધી મર્યાદિત છે. આમ વ્યાપક કાર્યક્રમો માટે આપમેળે આધાર નિર્માણ કાર્યોનું નિર્માણ કરવાનું પસંદ કરવામાં આવે છે. સમસ્યાની વ્યાખ્યા મર્યાદિત સ્થિતિ જગ્યા અને નિશ્ચિત નીતિ સાથેની માર્કોવ નિર્ણય પ્રક્રિયાને 5-ટુપલ સાથે વ્યાખ્યાયિત કરવામાં આવે છે, જેમાં મર્યાદિત સ્થિતિ જગ્યા, મર્યાદિત ક્રિયા જગ્યા, પુરસ્કાર કાર્ય, ડિસ્કાઉન્ટ પરિબળ અને સંક્રમણ મોડેલનો સમાવેશ થાય છે. બેલમેન સમીકરણને આ રીતે વ્યાખ્યાયિત કરવામાં આવે છેઃ જ્યારે ઘટકોની સંખ્યા ઓછી હોય, ત્યારે તેને સામાન્ય રીતે કોષ્ટક સ્વરૂપ તરીકે જાળવવામાં આવે છે. જ્યારે આ પ્રકારની રજૂઆત માટે તે ખૂબ મોટી થાય છે. સામાન્ય રીતે બેસિસ ફંક્શનના રેખીય સંયોજન દ્વારા અંદાજવામાં આવે છે, જેથી આપણી પાસેઃ અહીં એક મેટ્રિક્સ છે જેમાં દરેક હરોળમાં અનુરૂપ પંક્તિ માટે લક્ષણ વેક્ટર હોય છે, તે સામાન્ય રીતે n પરિમાણો સાથે વજન વેક્ટર હોય છે. બેસિસ કન્સ્ટ્રક્શન આપમેળે વધુ સારા બેસિસ ફંક્શનનું નિર્માણ કરવાની રીતો શોધે છે જે મૂલ્ય કાર્યને સારી રીતે રજૂ કરી શકે છે. સારી બાંધકામ પદ્ધતિમાં નીચેની લાક્ષણિકતાઓ હોવી જોઈએઃ અંદાજ અને વાસ્તવિક મૂલ્ય કાર્ય વચ્ચેની નાની ભૂલની સીમાઓ મૂલ્ય કાર્ય જગ્યામાં ઓર્થોગોનલ આધાર બનાવે છે સ્થિર મૂલ્ય કાર્યમાં ઝડપી રૂપાંતર લોકપ્રિય પદ્ધતિઓ પ્રોટો-વેલ્યુ આધાર આ અભિગમમાં, મહાદેવન આધાર કાર્યોનો સમૂહ નક્કી કરવા માટે રાજ્યો વચ્ચેના જોડાણ ગ્રાફનું વિશ્લેષણ કરે છે. સામાન્યીકૃત આલેખ લાપ્લેસીયનને આ રીતે વ્યાખ્યાયિત કરવામાં આવે છેઃ અહીં W એ એક સંલગ્ન મેટ્રિક્સ છે જે નિશ્ચિત નીતિ MDPની સ્થિતિઓનું પ્રતિનિધિત્વ કરે છે જે દિશાહીન આલેખ (N, E) બનાવે છે. ડી એ નોડ્સની ડિગ્રી સાથે સંબંધિત વિકર્ણ મેટ્રિક્સ છે. ડિસ્ક્રીટ સ્ટેટ સ્પેસમાં, બે સ્થિતિઓ જોડાયેલી છે કે કેમ તે ફક્ત ચકાસીને સંલગ્નતા મેટ્રિક્સનું નિર્માણ કરી શકાય છે, અને D ની ગણતરી W ની દરેક હરોળનો સરવાળો કરીને કરી શકાય છે. સતત સ્થિતિ જગ્યામાં, આપણે W ની રેન્ડમ વોક લેપલેસિયન લઈ શકીએ છીએ. આ વર્ણપટ માળખાનો ઉપયોગ મૂલ્ય કાર્ય અંદાજ (VFA) માટે થઈ શકે છે. નિશ્ચિત નીતિને ધ્યાનમાં રાખીને, ધાર વજન અનુરૂપ સ્થિતિઓની સંક્રમણ સંભાવના દ્વારા નક્કી કરવામાં આવે છે. સરળ મૂલ્ય અંદાજ મેળવવા માટે, પ્રસરણ વેવલેટનો ઉપયોગ કરવામાં આવે છે. ક્રાયલોવ બેસિસ ક્રાયલોવ બેસિસ કન્સ્ટ્રક્શન રેન્ડમ વોક લેપલેસિયનને બદલે વાસ્તવિક સંક્રમણ મેટ્રિક્સનો ઉપયોગ કરે છે. આ પદ્ધતિની ધારણા એ છે કે સંક્રમણ મોડેલ પી અને પુરસ્કાર આર ઉપલબ્ધ છે. ન્યુમેન શ્રેણીમાં વેક્ટરને બધા માટે સૂચવવામાં આવે છે. તે દર્શાવે છે કે ક્રાયલોવ સ્પેસ દ્વારા ફેલાયેલું કોઈપણ મૂલ્ય કાર્યને રજૂ કરવા માટે પૂરતું છે, અને m એ ન્યૂનતમ બહુપદીની ડિગ્રી છે. ધારો કે ન્યૂનતમ બહુપદી છે, અને આપણી પાસે છે, મૂલ્ય કાર્યને આ રીતે લખી શકાય છેઃ એલ્ગોરિધમ ઓગમેન્ટેડ ક્રાયલોવ પદ્ધતિ એ પી માટે ટોચના વાસ્તવિક આઈગનવેક્ટર્સ છે જો તે પછી કરો; અંત જો માટે અંત જો પછી વિરામ; અંત જો k માટે અંતઃ આધાર l માં આઈગનવેક્ટર્સની સંખ્યાઃ વેક્ટર્સની કુલ સંખ્યા બેલમેન ભૂલના આધારે બેલમેન ભૂલ (અથવા બીઇબીએફ) ને આ રીતે વ્યાખ્યાયિત કરવામાં આવે છેઃ ઢીલી રીતે કહીએ તો, બેલમેન ભૂલ શ્રેષ્ઠ મૂલ્ય કાર્ય તરફ નિર્દેશ કરે છે. બીઇબીએફનો ક્રમ બેસિસ સ્પેસ બનાવે છે જે વાસ્તવિક મૂલ્ય ફંક્શન સ્પેસ માટે ઓર્થોગોનલ છે; આમ પૂરતી સંખ્યામાં બીઇબીએફ સાથે, કોઈપણ મૂલ્ય ફંક્શનને બરાબર રજૂ કરી શકાય છે. એલ્ગોરિધમ બીઇબીએફ સ્ટેજ સ્ટેજ i = 1,; સ્ટેજ વર્તમાન બેસિસ ફંક્શન અનુસાર વજન વેક્ટરની ગણતરી કરો; નવી બેલમેન ભૂલની ગણતરી કરો; નવું બેસિસ ફંક્શન બનાવવા માટે બેલમેન ભૂલ ઉમેરોઃ; એન કન્વર્જન્સ સુધી પુનરાવર્તનની સંખ્યાને રજૂ કરે છે. ":" નો અર્થ થાય છે મેટ્રિક્સ અથવા વેક્ટરને જોડવું. બેલમેન સરેરાશ પુરસ્કાર આધાર બેલમેન સરેરાશ પુરસ્કાર આધાર (અથવા બી. એ. આર. બી.) ક્રાયલોવ આધાર સમાન છે, પરંતુ પુરસ્કાર કાર્યને સરેરાશ સમાયોજિત સંક્રમણ મેટ્રિક્સ દ્વારા વિસ્તૃત કરવામાં આવી રહ્યું છે. અહીં ઘણી પદ્ધતિઓ દ્વારા ગણતરી કરી શકાય છે. બી. ઈ. બી. એફ. કરતા બી. એ. આર. બી. વધુ ઝડપથી ભેગા થાય છે અને જ્યારે ક્રાયલોવ 1ની નજીક હોય છે. એલ્ગોરિધમ BARB સ્ટેજ સ્ટેજ i = 1,; સ્ટેજ વર્તમાન બેસિસ ફંક્શન અનુસાર વજન વેક્ટરની ગણતરી કરે છે; નવા બેસિસની ગણતરી કરેઃ, અને તેને નવા બેસિસ મેટ્રિક્સ બનાવવા માટે ઉમેરો; N કન્વર્જન્સ સુધી પુનરાવર્તનની સંખ્યાને રજૂ કરે છે. ":" નો અર્થ થાય છે મેટ્રિક્સ અથવા વેક્ટરને જોડવું. ચર્ચા અને વિશ્લેષણ બે મુખ્ય પ્રકારની આધાર નિર્માણ પદ્ધતિઓ છે. પ્રથમ પ્રકારની પદ્ધતિઓ રિવોર્ડ-સેન્સિટિવ છે, જેમ કે ક્રાયલોવ અને બીઇબીએફ; તેઓ રિવોર્ડ ફંક્શનને ટ્રાન્ઝીશન મેટ્રિક્સ દ્વારા ભૌમિતિક રીતે ફેલાવે છે. જો કે, જ્યારે ડિસ્કાઉન્ટ પરિબળ 1 ની નજીક પહોંચે છે, ત્યારે ક્રાયલોવ અને બીઇબીએફ ધીમે ધીમે ભેગા થાય છે. આનું કારણ એ છે કે ભૂલ ક્રાયલોવ આધારિત પદ્ધતિઓ ચેબીશેવ બહુપદી બંધાયેલ દ્વારા પ્રતિબંધિત છે. આ સમસ્યાનું સમાધાન કરવા માટે, બી. એ. આર. બી. જેવી પદ્ધતિઓ પ્રસ્તાવિત કરવામાં આવી છે. બી. એ. આર. બી. એ ડ્રેઝિન પાયાનો વૃદ્ધિશીલ પ્રકાર છે, અને જ્યારે મોટા થાય છે ત્યારે તે ક્રાયલોવ અને બી. ઈ. બી. એફ. કરતા વધુ ઝડપથી એકરૂપ થાય છે. બીજો પ્રકાર ગ્રાફ લાપાલેશિયનમાંથી મેળવેલ પુરસ્કાર-અસંવેદનશીલ પ્રોટો મૂલ્ય આધારિત કાર્ય છે. આ પદ્ધતિ આલેખ માહિતીનો ઉપયોગ કરે છે, પરંતુ સંલગ્નતા મેટ્રિક્સની રચના આ પદ્ધતિનું વિશ્લેષણ કરવાનું મુશ્કેલ બનાવે છે. ડાયનેમિક પ્રોગ્રામિંગ બેલમેન સમીકરણ ઓપ્ટિમલ કંટ્રોલ સંદર્ભો પણ જુઓ બાહ્ય કડીઓ UMASS ALL લેબ ઓપ્ટિમલ નિર્ણયો ડાયનેમિક પ્રોગ્રામિંગ સ્ટોકેસ્ટિક કંટ્રોલ