Structured support vector machine
સ્ટ્રક્ચર્ડ સપોર્ટ-વેક્ટર મશીન એ મશીન લર્નિંગ અલ્ગોરિધમ છે જે સપોર્ટ-વેક્ટર મશીન (SVM) વર્ગીકરણને સામાન્ય બનાવે છે. જ્યારે એસ. વી. એમ. વર્ગીકરણ દ્વિસંગી વર્ગીકરણ, બહુસ્તરીય વર્ગીકરણ અને પ્રતિગમનને સમર્થન આપે છે, ત્યારે સંરચિત એસ. વી. એમ. સામાન્ય સંરચિત આઉટપુટ લેબલો માટે વર્ગીકરણની તાલીમને મંજૂરી આપે છે. ઉદાહરણ તરીકે, નમૂનાનું ઉદાહરણ કુદરતી ભાષાનું વાક્ય હોઈ શકે છે, અને આઉટપુટ લેબલ એ એનોટેટેડ પાર્સ ટ્રી છે. વર્ગીકરણની તાલીમમાં સાચા નમૂના અને આઉટપુટ લેબલ જોડીની જોડી બતાવવાનો સમાવેશ થાય છે. તાલીમ પછી, સંરચિત એસ. વી. એમ. મોડેલ નવા નમૂનાના ઉદાહરણો માટે અનુરૂપ આઉટપુટ લેબલની આગાહી કરવાની મંજૂરી આપે છે; એટલે કે, કુદરતી ભાષાના વાક્યને જોતાં, વર્ગીકરણકર્તા સૌથી વધુ સંભવિત પાર્સ ટ્રી ઉત્પન્ન કરી શકે છે. તાલીમ તાલીમ ઉદાહરણોના સમૂહ માટે, નમૂનાની જગ્યા અને લેબલ જગ્યામાંથી, સંરચિત SVM નીચેના નિયમિત જોખમ કાર્યને ઘટાડે છે. ફંક્શન બહિર્મુખ છે કારણ કે એફાઇન ફંક્શન્સના સમૂહની મહત્તમ બહિર્મુખ છે. કાર્ય લેબલ જગ્યામાં અંતરને માપે છે અને તે એક મનસ્વી કાર્ય છે (મેટ્રિક જરૂરી નથી) સંતોષકારક અને. ફંક્શન એ એક ફીચર ફંક્શન છે, જે આપેલ નમૂના અને લેબલમાંથી કેટલાક ફીચર વેક્ટરને બહાર કાઢે છે. આ કાર્યની રચના એપ્લિકેશન પર ખૂબ આધાર રાખે છે. કારણ કે ઉપરનું નિયમિત જોખમ કાર્ય બિન-વિભેદક છે, તે ઘણીવાર દરેક નમૂના માટે એક સ્લેક ચલ રજૂ કરીને દ્વિઘાત કાર્યક્રમની દ્રષ્ટિએ સુધારવામાં આવે છે, જે દરેક મહત્તમ મૂલ્યનું પ્રતિનિધિત્વ કરે છે. પ્રમાણભૂત સંરચિત એસ. વી. એમ. પ્રાથમિક રચના નીચે મુજબ આપવામાં આવી છે. અનુમાન પરીક્ષણ સમયે, માત્ર એક જ નમૂનો જાણીતો હોય છે, અને આગાહી કાર્ય તેને લેબલની જગ્યામાંથી અનુમાનિત લેબલ પર મેપ કરે છે. સંરચિત SVM માટે, તાલીમમાંથી મેળવેલા વેક્ટરને જોતાં, આગાહી કાર્ય નીચે મુજબ છે. તેથી, લેબલની જગ્યા પર મહત્તમ કરનાર એ અનુમાનિત લેબલ છે. આ મેક્સિમાઇઝર માટે ઉકેલ એ કહેવાતી અનુમાન સમસ્યા છે અને સંભવિત મોડેલોમાં મહત્તમ એ-પોસ્ટેરિઓરી (એમએપી) આગાહી કરવા સમાન છે. કાર્યની રચનાના આધારે, મેક્સિમાઇઝર માટે ઉકેલ એક મુશ્કેલ સમસ્યા હોઈ શકે છે. વિભાજન ઉપરોક્ત વર્ગાત્મક કાર્યક્રમમાં ખૂબ મોટી, સંભવતઃ અનંત સંખ્યામાં રેખીય અસમાનતાની મર્યાદાઓનો સમાવેશ થાય છે. સામાન્ય રીતે, અસમાનતાઓની સંખ્યા ખૂબ મોટી છે જેને સ્પષ્ટ રીતે ઓપ્ટિમાઇઝ કરી શકાતી નથી. તેના બદલે વિલંબિત અવરોધ ઉત્પાદનનો ઉપયોગ કરીને સમસ્યાનું સમાધાન કરવામાં આવે છે જ્યાં અવરોધોનો માત્ર મર્યાદિત અને નાનો સબસેટ ઉપયોગમાં લેવાય છે. અવરોધોના સબસેટ પર ઑપ્ટિમાઇઝ કરવું શક્ય સેટને વિસ્તૃત કરે છે અને એક ઉકેલ આપશે જે ઉદ્દેશ્ય પર નીચી સીમા પ્રદાન કરે છે. ઉકેલ સંપૂર્ણ સેટ અસમાનતાના અવરોધોનું ઉલ્લંઘન કરે છે કે કેમ તે ચકાસવા માટે, વિભાજનની સમસ્યાનું સમાધાન કરવાની જરૂર છે. જેમ જેમ નમૂનાઓમાં અસમાનતાઓ વિઘટિત થાય છે, તેમ તેમ દરેક નમૂના માટે નીચેની સમસ્યાનું સમાધાન કરવાની જરૂર છે. મહત્તમ કરવાનો જમણી બાજુનો ઉદ્દેશ અચળાંક અને ઓપ્ટિમાઇઝ કરેલા ચલ પર આધારિત શબ્દથી બનેલો છે, એટલે કે. જો પ્રાપ્ત જમણી બાજુનો ઉદ્દેશ નાનો અથવા શૂન્યની બરાબર હોય, તો આ નમૂના માટે કોઈ ઉલ્લંઘન અવરોધો અસ્તિત્વમાં નથી. જો તે કડક રીતે શૂન્ય કરતા મોટું હોય, તો આ નમૂનાના સંદર્ભમાં સૌથી વધુ ઉલ્લંઘન કરાયેલ અવરોધ ઓળખવામાં આવ્યો છે. આ અવરોધ દ્વારા સમસ્યા વિસ્તૃત થાય છે અને તેનું સમાધાન થાય છે. આ પ્રક્રિયા ત્યાં સુધી ચાલુ રહે છે જ્યાં સુધી કોઈ ઉલ્લંઘનની અસમાનતાને ઓળખી ન શકાય. જો ઉપરોક્ત સમસ્યામાંથી અચળાંકો કાઢી નાખવામાં આવે, તો આપણને ઉકેલવા માટે નીચેની સમસ્યા મળે છે. આ સમસ્યા અનુમાન સમસ્યા જેવી જ દેખાય છે. માત્ર તફાવત એ છે કે શબ્દનો ઉમેરો. મોટેભાગે, તે એવી રીતે પસંદ કરવામાં આવે છે કે તે લેબલની જગ્યામાં કુદરતી વિઘટન ધરાવે છે. તે કિસ્સામાં, ના પ્રભાવને અનુમાન સમસ્યામાં એન્કોડ કરી શકાય છે અને સૌથી વધુ ઉલ્લંઘન કરતી અવરોધને ઉકેલવી એ અનુમાન સમસ્યાને ઉકેલવા સમાન છે. સંદર્ભો ઇઓનિસ ત્સોચેન્ટારિડિસ, થોર્સ્ટન જોઆકિમ્સ, થોમસ હોફમેન અને યાસેમિન અલ્ટુન (2005), લાર્જ માર્જિન મેથડ્સ ફોર સ્ટ્રક્ચર્ડ એન્ડ ઇન્ટરડિપેનડેન્ટ આઉટપુટ વેરિયેબલ્સ, જે. એમ. એલ. આર., વોલ્યુમ. 6, પૃષ્ઠો 1453-1484. થોમસ ફિનલી અને થોર્સ્ટન જોઆકિમ્સ (2008), તાલીમ માળખાકીય SVMs જ્યારે ચોક્કસ અનુમાન જટિલ છે, ICML 2008. સુનીતા સરાવગી અને રાહુલ ગુપ્તા (2008), સ્ટ્રક્ચર્ડ આઉટપુટ સ્પેસ માટે ચોક્કસ મહત્તમ-માર્જિન તાલીમ, ICML 2008. ગોખાન બકીર, બેન ટાસ્કર, થોમસ હોફમેન, બર્નહાર્ડ સ્કોલકોફ, એલેક્સ સ્મોલા અને એસવીએન વિશ્વનાથન (2007), પ્રેડિક્ટિંગ સ્ટ્રક્ચર્ડ ડેટા, એમઆઇટી પ્રેસ. વોજ્તેચ ફ્રાન્ક અને બોગ્ડન સાવ્ચિન્સ્કી ડિસ્ક્રિમિનેટિવ લર્નિંગ ઓફ મેક્સ-સમ ક્લાસિફાયર્સ, જર્નલ ઓફ મશીન લર્નિંગ રિસર્ચ, 9 (જાન્યુઆરી): 67-104,2008, માઇક્રોટોમ પબ્લિશિંગ કેવિન મર્ફી મશીન લર્નિંગ, એમઆઇટી પ્રેસ સ્ટ્રક્ચર્ડ આગાહી સપોર્ટ વેક્ટર મશીનો