K q-flats
ડેટા માઇનિંગ અને મશીન લર્નિંગમાં,-ફ્લેટ અલ્ગોરિધમ એ એક પુનરાવર્તિત પદ્ધતિ છે જેનો હેતુ અવલોકનોને ક્લસ્ટરોમાં વિભાજિત કરવાનો છે જ્યાં દરેક ક્લસ્ટર-ફ્લેટની નજીક હોય છે, જ્યાં આપેલ પૂર્ણાંક હોય છે. તે-મીન્સ અલ્ગોરિધમનું સામાન્યીકરણ છે. - મીન્સ અલ્ગોરિધમમાં, ક્લસ્ટરોની રચના એવી રીતે થાય છે કે દરેક ક્લસ્ટર એક બિંદુની નજીક હોય, જે-ફ્લેટ છે. - ફ્લેટ અલ્ગોરિધમ અમુક ડેટા સમૂહ માટે-એટલે કે અલ્ગોરિધમ કરતાં વધુ સારું ક્લસ્ટરિંગ પરિણામ આપે છે. વર્ણન સમસ્યાની રચના અવલોકનોના સમૂહને જોતાં જ્યાં દરેક નિરીક્ષણ એન-પરિમાણીય વાસ્તવિક વેક્ટર હોય છે,-ફ્લેટ અલ્ગોરિધમનો ઉદ્દેશ-ફ્લેટ પેદા કરીને નિરીક્ષણ બિંદુઓનું વિભાજન કરવાનો છે જે દરેક નિરીક્ષણના અંતરના ચોરસના સરવાળાને નજીકના-ફ્લેટ સુધી ઘટાડે છે. એ-ફ્લેટ એ તેનો પેટા સમૂહ છે જે તેના માટે સર્વસમાવેશક છે. ઉદાહરણ તરીકે, એ-ફ્લેટ એ એક બિંદુ છે; એ-ફ્લેટ એ એક રેખા છે; એ-ફ્લેટ એ પ્લેન છે; એ-ફ્લેટ એ હાયપરપ્લેન છે. - ફ્લેટને સમીકરણોની રેખીય પ્રણાલીના ઉકેલ સમૂહ દ્વારા વર્ગીકૃત કરી શકાય છેઃ, જ્યાં,. 'તરીકે' ના પાર્ટીશનને દર્શાવો. સમસ્યાને ક્યાં પરનું પ્રક્ષેપણ છે તે રીતે ઘડી શકાય છે. નોંધ લો કે તે થી અંતર છે. અલ્ગોરિધમ અલ્ગોરિધમ કે-અર્થ અલ્ગોરિધમ જેવું જ છે (એટલે કે. લોઈડનો અલ્ગોરિધમ) જેમાં તે ક્લસ્ટર સોંપણી અને ક્લસ્ટર સુધારા વચ્ચે ફેરબદલ કરે છે. ખાસ કરીને, અલ્ગોરિધમ-ફ્લેટના પ્રારંભિક સમૂહથી શરૂ થાય છે, અને નીચેના બે પગલાઓ વચ્ચે વારાફરતી આગળ વધે છેઃ ક્લસ્ટર સોંપણી (આપેલ-ફ્લેટ, દરેક બિંદુને નજીકના-ફ્લેટને સોંપો):-th ક્લસ્ટરને ક્લસ્ટર અપડેટ તરીકે અપડેટ કરવામાં આવે છે (ક્લસ્ટર સોંપણી આપવામાં આવે,-ફ્લેટને અપડેટ કરો): માટે, ક્લસ્ટરને સોંપેલ તમામને અનુરૂપ પંક્તિઓ સાથે દો. મેટ્રિક્સ તરીકે સેટ કરો જેની કૉલમ અને ના ઓછામાં ઓછા આઈગન મૂલ્યોને અનુરૂપ ઓર્થોનોર્મલ આઈગનવેક્ટર્સ છે. જ્યારે પણ સોંપણીઓ બદલાતી નથી ત્યારે બંધ કરો. ક્લસ્ટર સોંપણી પગલું નીચેની હકીકતનો ઉપયોગ કરે છેઃ-ફ્લેટ અને વેક્ટર આપવામાં આવે છે, જ્યાં,-ફ્લેટ વચ્ચેનું અંતર છે આ અલ્ગોરિધમનો મુખ્ય ભાગ ક્લસ્ટરને કેવી રીતે અપડેટ કરવું તે છે, એટલે કે. આપેલ બિંદુઓ,-ફ્લેટ કેવી રીતે શોધવો જે-ફ્લેટ સુધીના દરેક બિંદુના અંતરના વર્ગોનો સરવાળો ઘટાડે છે. ગાણિતિક રીતે, આ સમસ્યા છેઃ આપવામાં આવેલ દ્વિઘાત ઓપ્ટિમાઇઝેશન સમસ્યાને હલ કરો જ્યાં આપવામાં આવે છે, અને. લેગ્રેન્જિયન મલ્ટિપ્લાયર પદ્ધતિનો ઉપયોગ કરીને સમસ્યાનું સમાધાન કરી શકાય છે અને ઉકેલ ક્લસ્ટર અપડેટ પગલામાં આપવામાં આવ્યો છે. તે દર્શાવી શકાય છે કે અલ્ગોરિધમ મર્યાદિત સંખ્યામાં પુનરાવર્તનોમાં સમાપ્ત થશે (સંભવિત સોંપણીઓની કુલ સંખ્યા કરતાં વધુ નહીં, જે દ્વારા બંધાયેલ છે). વધુમાં, અલ્ગોરિધમ એ બિંદુએ સમાપ્ત થશે કે એકંદર ઉદ્દેશને અલગ સોંપણી દ્વારા અથવા આ ક્લસ્ટરો માટે નવા ક્લસ્ટર પ્લેનને વ્યાખ્યાયિત કરીને ઘટાડી શકાતો નથી (આવા બિંદુને સંદર્ભોમાં "સ્થાનિક રીતે શ્રેષ્ઠ" કહેવામાં આવે છે). આ અભિસરણ પરિણામ એ હકીકતનું પરિણામ છે જેને બરાબર ઉકેલી શકાય છે. સમાન કન્વર્જન્સ પરિણામ-એટલે કે અલ્ગોરિધમ માટે છે કારણ કે ક્લસ્ટર અપડેટ સમસ્યાને બરાબર ઉકેલી શકાય છે. અન્ય મશીન લર્નિંગ પદ્ધતિઓ સાથેનો સંબંધ-એટલે કે અલ્ગોરિધમ-ફ્લેટ અલ્ગોરિધમ એ-એટલે કે અલ્ગોરિધમનું સામાન્યીકરણ છે. હકીકતમાં,-એટલે અલ્ગોરિધમ એ-ફ્લેટ અલ્ગોરિધમ છે કારણ કે બિંદુ એ 0-ફ્લેટ છે. તેમનું જોડાણ હોવા છતાં, તેનો ઉપયોગ વિવિધ પરિસ્થિતિઓમાં થવો જોઈએ. - ફ્લેટ અલ્ગોરિધમ એ કેસ માટે કે જે ડેટા થોડા ઓછા-પરિમાણીય જગ્યાઓમાં હોય છે. - એટલે કે ક્લસ્ટરો આજુબાજુના પરિમાણના હોય તેવા કિસ્સામાં અલ્ગોરિધમ ઇચ્છનીય છે. ઉદાહરણ તરીકે, જો તમામ અવલોકનો બે રેખાઓમાં હોય, તો-ફ્લેટ અલ્ગોરિધમનો ઉપયોગ કરી શકાય છે; જો અવલોકનો બે ગૌસીયન વાદળો હોય, તો-એટલે કે અલ્ગોરિધમનો ઉપયોગ કરી શકાય છે. સ્પાર્સ ડિક્શનરી લર્નિંગ નેચરલ સિગ્નલ્સ ઉચ્ચ-પરિમાણીય જગ્યામાં આવેલા છે. ઉદાહરણ તરીકે, 1024-બાય-1024 છબીનું પરિમાણ લગભગ 106 છે, જે મોટાભાગના સિગ્નલ પ્રોસેસિંગ અલ્ગોરિધમ્સ માટે ખૂબ વધારે છે. ઉચ્ચ પરિમાણીયતાથી છુટકારો મેળવવાનો એક રસ્તો એ છે કે આધાર કાર્યોનો સમૂહ શોધવો, જેમ કે ઉચ્ચ પરિમાણીય સંકેતને માત્ર થોડા આધાર કાર્યો દ્વારા રજૂ કરી શકાય છે. બીજા શબ્દોમાં કહીએ તો, સંકેત પ્રતિનિધિત્વના ગુણાંક ઓછી-પરિમાણીય જગ્યામાં આવેલા છે, જે સંકેત પ્રક્રિયા અલ્ગોરિધમ્સને લાગુ કરવા માટે સરળ છે. સાહિત્યમાં, વેવલેટ ટ્રાન્સફોર્મનો ઉપયોગ સામાન્ય રીતે ઇમેજ પ્રોસેસિંગમાં થાય છે, અને ફોરિયર ટ્રાન્સફોર્મનો ઉપયોગ સામાન્ય રીતે ઓડિયો પ્રોસેસિંગમાં થાય છે. પાયાના કાર્યોના સમૂહને સામાન્ય રીતે શબ્દકોશ કહેવામાં આવે છે. જો કે, તે સ્પષ્ટ નથી કે એકવાર સિગ્નલ ડેટા સેટ આપવામાં આવે તે પછી વાપરવા માટે શ્રેષ્ઠ શબ્દકોશ કયો છે. એક લોકપ્રિય અભિગમ એ છે કે જ્યારે સ્પાર્સ ડિક્શનરી લર્નિંગના વિચારનો ઉપયોગ કરીને ડેટા સેટ આપવામાં આવે ત્યારે શબ્દકોશ શોધવો. તેનો ઉદ્દેશ એક શબ્દકોશ શોધવાનો છે, જેથી શબ્દકોશ દ્વારા સંકેતને વિરલ રીતે રજૂ કરી શકાય. ઓપ્ટિમાઇઝેશન સમસ્યાને નીચે પ્રમાણે લખી શકાય છે. જ્યાં a-by-મેટ્રિક્સ છે. દરેક સ્તંભ એક સંકેત રજૂ કરે છે, અને ત્યાં કુલ સંકેતો છે. એક-બાય-મેટ્રિક્સ છે. દરેક સ્તંભ એક પાયાના કાર્યનું પ્રતિનિધિત્વ કરે છે, અને શબ્દકોશમાં કુલ પાયાના કાર્યો છે. એક-બાય-મેટ્રિક્સ છે. જ્યારે આપણે શબ્દકોશનો ઉપયોગ-th સ્તંભોનું પ્રતિનિધિત્વ કરવા માટે કરીએ છીએ ત્યારે (-th સ્તંભો) ગુણાંકનું પ્રતિનિધિત્વ કરે છે. વેક્ટરના શૂન્ય-ધોરણને સૂચવે છે. તે મેટ્રિક્સના ફ્રોબેનિયસ ધોરણને સૂચવે છે. - ફ્લેટ અલ્ગોરિધમનો વિચાર પ્રકૃતિમાં વિરલ શબ્દકોશ શિક્ષણ જેવો જ છે. જો આપણે-ફ્લેટથી-ડાયમેન્શનલ સબસ્પેસને પ્રતિબંધિત કરીએ, તો-ફ્લેટ અલ્ગોરિધમ ફક્ત આપેલ સિગ્નલ માટે બંધ-ડાયમેન્શનલ સબસ્પેસને શોધી રહ્યું છે. વિરલ શબ્દકોશ શિક્ષણ પણ એ જ કામ કરી રહ્યું છે, સિવાય કે પ્રતિનિધિત્વની અસ્પષ્ટતા પર વધારાની મર્યાદાઓ. ગાણિતિક રીતે, તે બતાવવું શક્ય છે કે-ફ્લેટ અલ્ગોરિધમ એક વધારાના બ્લોક માળખા સાથે વિરલ શબ્દકોશ શિક્ષણનું સ્વરૂપ છે. ચાલો એક મેટ્રિક્સ હોઈએ, જ્યાં કૉલમ-th ફ્લેટનો આધાર છે. પછી-th ફ્લેટ પર સિગ્નલનું પ્રક્ષેપણ છે, જ્યાં-પરિમાણીય ગુણાંક છે. ચાલો ફ્લેટના આધારના સંયોજનને દર્શાવીએ, તે બતાવવું સરળ છે કે-ફ્લેટ અલ્ગોરિધમ નીચેના જેવું જ છે. બ્લોક માળખું એ હકીકતનો ઉલ્લેખ કરે છે કે દરેક સિગ્નલને માત્ર એક જ ફ્લેટ પર લેબલ કરવામાં આવે છે. બે ફોર્મ્યુલેશનની સરખામણી કરતા,-ફ્લેટ એ વિરલ શબ્દકોશ મોડેલિંગ જેવું જ છે જ્યારે અને આર પર વધારાના બ્લોક માળખા સાથે. વપરાશકર્તાઓ બે ખ્યાલ વચ્ચેના સંબંધ વિશે વધુ ચર્ચા માટે સ્ઝલામના પેપરનો સંદર્ભ લઈ શકે છે. કાર્યક્રમો અને વિવિધતાઓ વર્ગીકરણ વર્ગીકરણ એ એક પ્રક્રિયા છે જે ઇનપુટ સિગ્નલને વિવિધ વર્ગોમાં વર્ગીકૃત કરે છે. એક ઉદાહરણ ઇમેઇલને સ્પામ અથવા બિન-સ્પામ વર્ગોમાં વર્ગીકૃત કરવાનું છે. વર્ગીકરણ અલ્ગોરિધમ્સને સામાન્ય રીતે દેખરેખ હેઠળના શિક્ષણ તબક્કાની જરૂર પડે છે. દેખરેખ હેઠળ શીખવાના તબક્કામાં, દરેક વર્ગ માટે તાલીમ ડેટાનો ઉપયોગ વર્ગની લાક્ષણિકતાઓ શીખવા માટે અલ્ગોરિધમ માટે થાય છે. વર્ગીકરણના તબક્કામાં, નવા અવલોકનને પહેલેથી જ પ્રશિક્ષિત લાક્ષણિકતાઓનો ઉપયોગ કરીને વર્ગમાં વર્ગીકૃત કરવામાં આવે છે. - ફ્લેટ અલ્ગોરિધમનો ઉપયોગ વર્ગીકરણ માટે થઈ શકે છે. ધારો કે કુલ m વર્ગો છે. દરેક વર્ગ માટે, ફ્લેટને તાલીમ ડેટા સેટ દ્વારા પ્રાથમિક તાલીમ આપવામાં આવે છે. જ્યારે નવો ડેટા આવે, ત્યારે નવા ડેટાની સૌથી નજીકનો ફ્લેટ શોધો. પછી નવો ડેટા નજીકના ફ્લેટના વર્ગ સાથે સંકળાયેલો છે. જો કે, જો આપણે ફ્લેટ પર કેટલાક માળખા લાદીએ તો વર્ગીકરણની કામગીરીમાં વધુ સુધારો થઈ શકે છે. એક સંભવિત વિકલ્પ એ છે કે વિવિધ વર્ગના વિવિધ ફ્લેટ પૂરતા પ્રમાણમાં દૂર હોવા જોઈએ. કેટલાક સંશોધકો આ વિચારનો ઉપયોગ કરે છે અને ભેદભાવપૂર્ણ k q-ફ્લેટ અલ્ગોરિધમનો વિકાસ કરે છે. કે-મેટ્રિક્સ ઇન-ફ્લેટ્સ અલ્ગોરિધમનો ઉપયોગ રજૂઆતની ભૂલને માપવા માટે થાય છે. જો ડેટા-પરિમાણ ફ્લેટમાં હોય, તો એક-ફ્લેટ ડેટાને ખૂબ જ સારી રીતે રજૂ કરી શકે છે. તેનાથી વિપરીત, જો ડેટા ખૂબ જ ઉચ્ચ પરિમાણની જગ્યામાં હોય પરંતુ સામાન્ય કેન્દ્રની નજીક હોય, તો કે-મીન્સ અલ્ગોરિધમ એ ડેટાને રજૂ કરવા માટે-ફ્લેટ અલ્ગોરિધમ કરતાં વધુ સારી રીત છે. તે એટલા માટે છે કારણ કે-એટલે કે અલ્ગોરિધમનો ઉપયોગ ભૂલને માપવા માટે થાય છે, જ્યાં કેન્દ્ર સૂચવે છે. કે-મેટ્રિક્સ એ એક સામાન્યીકરણ છે જે સપાટ અને સરેરાશ બંનેના વિચારનો ઉપયોગ કરે છે. કે-મેટ્રિક્સમાં, ભૂલને નીચેના મહાલનોબિસ મેટ્રિક દ્વારા માપવામાં આવે છે. જ્યાં હકારાત્મક અર્ધ-નિશ્ચિત મેટ્રિક્સ છે. જો ઓળખ મેટ્રિક્સ હોય, તો મહાલનોબિસ મેટ્રિક બરાબર-અર્થમાં ઉપયોગમાં લેવાતા ભૂલ માપ જેવું જ છે. જો ઓળખ મેટ્રિક્સ ન હોય, તો પછી-ફ્લેટ ભૂલ માપ તરીકે ચોક્કસ દિશાઓની તરફેણ કરશે. સંદર્ભ સમૂહ વિશ્લેષણ અલ્ગોરિધમ્સ