Deep learning speech synthesis
ડીપ લર્નિંગ સ્પીચ સિન્થેસિસ ટેક્સ્ટ (ટેક્સ્ટ-ટુ-સ્પીચ) અથવા સ્પેક્ટ્રમ (વોકોડર) માંથી કૃત્રિમ ભાષણ ઉત્પન્ન કરવા માટે ડીપ ન્યુરલ નેટવર્ક્સ (DNN) નો ઉપયોગ કરે છે. ડીપ ન્યુરલ નેટવર્ક્સને મોટા પ્રમાણમાં રેકોર્ડ કરેલા ભાષણનો ઉપયોગ કરીને અને ટેક્સ્ટ-ટુ-સ્પીચ સિસ્ટમના કિસ્સામાં, સંકળાયેલ લેબલ્સ અને/અથવા ઇનપુટ ટેક્સ્ટનો ઉપયોગ કરીને તાલીમ આપવામાં આવે છે. કેટલાક ડી. એન. એન. આધારિત સ્પીચ સિન્થેસાઇઝર્સ માનવ અવાજની સ્વાભાવિકતા તરફ આગળ વધી રહ્યા છે. ફોર્મ્યુલેશન ઇનપુટ ટેક્સ્ટ અથવા ભાષાકીય એકમના અમુક ક્રમને જોતાં, લક્ષ્ય ભાષણ મોડેલ પરિમાણ ક્યાં છે તેના દ્વારા મેળવી શકાય છે. સામાન્ય રીતે, ઇનપુટ લખાણ પહેલા એકોસ્ટિક ફીચર જનરેટરને પસાર કરવામાં આવશે, પછી એકોસ્ટિક સુવિધાઓ ન્યુરલ વોકોડરને પસાર કરવામાં આવે છે. એકોસ્ટિક ફીચર જનરેટર માટે, લોસ ફંક્શન સામાન્ય રીતે L1 અથવા L2 લોસ હોય છે. આ નુકસાન કાર્યો એક અવરોધ લાદતા હોય છે કે આઉટપુટ એકોસ્ટિક લક્ષણ વિતરણ ગૌસીયન અથવા લેપલેસિયન હોવું આવશ્યક છે. વ્યવહારમાં, માનવ વૉઇસ બેન્ડ આશરે 300 થી 4000 હર્ટ્ઝની રેન્જમાં હોવાથી, લોસ ફંક્શનને આ શ્રેણી પર વધુ દંડ આપવા માટે ડિઝાઇન કરવામાં આવશેઃ જ્યાં માનવ વૉઇસ બેન્ડથી નુકસાન થાય છે અને તે સામાન્ય રીતે લગભગ 0.5 ની આસપાસ સ્કેલર હોય છે. એકોસ્ટિક લક્ષણ સામાન્ય રીતે મેલ સ્કેલમાં સ્પેક્ટ્રોગ્રામ અથવા સ્પેક્ટ્રોગ્રામ છે. આ લક્ષણો વાણી સંકેતના સમય-આવર્તન સંબંધને મેળવે છે અને આમ, આ ધ્વનિ લક્ષણો સાથે બુદ્ધિશાળી આઉટપુટ પેદા કરવા માટે તે પૂરતું છે. વાણી ઓળખ કાર્યમાં ઉપયોગમાં લેવાતું મેલ-ફ્રિક્વન્સી સેપ્સ્ટ્રમ લક્ષણ વાણી સંશ્લેષણ માટે યોગ્ય નથી કારણ કે તે ખૂબ જ માહિતી ઘટાડે છે. સંક્ષિપ્ત ઇતિહાસ સપ્ટેમ્બર 2016માં, ડીપમાઇન્ડે વેવનેટની દરખાસ્ત કરી હતી, જે કાચા ઓડિયો તરંગરૂપોનું ઊંડું ઉત્પાદક મોડેલ છે, જે દર્શાવે છે કે ઊંડું શિક્ષણ-આધારિત મોડેલો કાચા તરંગરૂપોનું મોડેલિંગ કરવામાં અને સ્પેક્ટ્રોગ્રામ અથવા મેલ-સ્પેક્ટ્રોગ્રામ જેવી ધ્વનિ લાક્ષણિકતાઓમાંથી વાણી ઉત્પન્ન કરવામાં સક્ષમ છે. જોકે વેવનેટને શરૂઆતમાં તે સમયે ગ્રાહક ઉત્પાદનોમાં ઉપયોગમાં લેવા માટે કોમ્પ્યુટેશનલ રીતે મોંઘુ અને ધીમું માનવામાં આવતું હતું, તેના પ્રકાશનના એક વર્ષ પછી, ડીપમાઇન્ડે "પેરેલલ વેવનેટ" તરીકે ઓળખાતા વેવનેટના સુધારેલા સંસ્કરણનું અનાવરણ કર્યું, જે મૂળ કરતા 1,000 ઝડપી ઉત્પાદન મોડેલ હતું. 2017ની શરૂઆતમાં, મિલાએ એન્ડ-ટુ-એન્ડ પદ્ધતિમાં કાચા તરંગરૂપનું ઉત્પાદન કરવા માટે એક મોડેલ, ચાર2વેવનો પ્રસ્તાવ મૂક્યો હતો. તે જ વર્ષે, ગૂગલ અને ફેસબુકે અનુક્રમે ટેકોટ્રોન અને વોઇસલૂપની દરખાસ્ત કરી હતી, જે ઇનપુટ ટેક્સ્ટમાંથી સીધી એકોસ્ટિક સુવિધાઓ પેદા કરે છે; મહિનાઓ પછી, ગૂગલે ટેકોટ્રોન 2 ની દરખાસ્ત કરી હતી, જેણે વેવનેટ વોકોડરને સુધારેલા ટેકોટ્રોન આર્કિટેક્ચર સાથે જોડીને એન્ડ-ટુ-એન્ડ સ્પીચ સંશ્લેષણ કર્યું હતું. Tacotron2 માનવ અવાજની નજીક ઉચ્ચ ગુણવત્તાની વાણી ઉત્પન્ન કરી શકે છે. ત્યારથી, એન્ડ-ટુ-એન્ડ પદ્ધતિઓ સૌથી ગરમ સંશોધન વિષય બની ગઈ છે કારણ કે વિશ્વભરના ઘણા સંશોધકોએ એન્ડ-ટુ-એન્ડ સ્પીચ સિન્થેસાઇઝર્સની શક્તિની નોંધ લેવાનું શરૂ કર્યું છે. અર્ધ-દેખરેખ હેઠળનું શિક્ષણ હાલમાં, સ્વ-દેખરેખ હેઠળનું શિક્ષણ લેબલ વગરના ડેટાના વધુ સારા ઉપયોગ દ્વારા ઘણું ધ્યાન ખેંચ્યું છે. સંશોધનોએ દર્શાવ્યું છે કે, સ્વ-દેખરેખ હેઠળના નુકસાનની સહાય સાથે, જોડીકૃત માહિતીની જરૂરિયાત ઘટે છે. ઝીરો-શોટ સ્પીકર અનુકૂલન ઝીરો-શોટ સ્પીકર અનુકૂલન આશાસ્પદ છે કારણ કે એક જ મોડેલ વિવિધ સ્પીકર શૈલીઓ અને લાક્ષણિકતાઓ સાથે ભાષણ ઉત્પન્ન કરી શકે છે. જૂન 2018 માં, ગૂગલે સ્પીકર એમ્બેડિંગ્સને બહાર કાઢવા માટે સ્પીકર એન્કોડર્સ તરીકે પૂર્વ-પ્રશિક્ષિત સ્પીકર ચકાસણી મોડેલ્સનો ઉપયોગ કરવાની દરખાસ્ત કરી હતી. સ્પીકર એન્કોડર્સ પછી ન્યુરલ ટેક્સ્ટ-ટુ-સ્પીચ મોડેલનો ભાગ બની જાય છે, જેથી તે આઉટપુટ સ્પીચની શૈલી અને લાક્ષણિકતાઓ નક્કી કરી શકે. આ પ્રક્રિયાએ સમુદાયને બતાવ્યું છે કે બહુવિધ શૈલીઓ સાથે ભાષણ ઉત્પન્ન કરવા માટે માત્ર એક જ નમૂનાનો ઉપયોગ કરવો શક્ય છે. ન્યુરલ વોકોડર ઊંડા શિક્ષણ-આધારિત વાણી સંશ્લેષણમાં, ન્યુરલ વોકોડર એકોસ્ટિક લક્ષણોમાંથી ઉચ્ચ ગુણવત્તાની વાણી પેદા કરવામાં મહત્વપૂર્ણ ભૂમિકા ભજવે છે. 2016માં પ્રસ્તાવિત વેવનેટ મોડેલ વાણીની ગુણવત્તા પર ઉત્તમ પ્રદર્શન હાંસલ કરે છે. વેવેનેટે શરતી સંભાવનાઓના ઉત્પાદન તરીકે તરંગરૂપની સંયુક્ત સંભાવનાને નીચે પ્રમાણે ફેક્ટરાઇઝ કરી છે જ્યાં ઘણા વિસ્તૃત કન્વોલ્યુશન સ્તરો સહિત મોડેલ પરિમાણ છે. આમ, દરેક ઓડિયો નમૂના અગાઉના તમામ સમયના તબક્કાઓ પર નમૂનાઓ પર શરતી હોય છે. જો કે, વેવનેટની ઓટો-રીગ્રેસિવ પ્રકૃતિ અનુમાન પ્રક્રિયાને નાટકીય રીતે ધીમી બનાવે છે. આ સમસ્યાને ઉકેલવા માટે, સમાંતર વેવનેટની દરખાસ્ત કરવામાં આવી હતી. પેરેલલ વેવનેટ એ એક ઇન્વર્સ ઓટોરેગ્રેસિવ ફ્લો-આધારિત મોડેલ છે જે પૂર્વ-પ્રશિક્ષિત શિક્ષક વેવનેટ મોડેલ સાથે જ્ઞાન નિસ્યંદન દ્વારા પ્રશિક્ષિત છે. જેમ કે ઇન્વર્સ ઓટોરેગ્રેસિવ ફ્લો-આધારિત મોડેલો અનુમાન કરતી વખતે બિન-ઓટો-રીગ્રેસિવ હોવાથી, અનુમાનની ઝડપ વાસ્તવિક સમય કરતાં વધુ ઝડપી હોય છે. દરમિયાન, એનવીડિયાએ ફ્લો-આધારિત વેવગ્લો મોડેલની દરખાસ્ત કરી હતી, જે વાસ્તવિક સમય કરતાં વધુ ઝડપથી વાણી પેદા કરી શકે છે. જો કે, ઉચ્ચ અનુમાન ઝડપ હોવા છતાં, સમાંતર વેવનેટમાં પૂર્વ-પ્રશિક્ષિત વેવનેટ મોડેલની જરૂરિયાતની મર્યાદા છે, જેથી વેવગ્લોને મર્યાદિત કમ્પ્યુટિંગ ઉપકરણો સાથે જોડાવામાં ઘણા અઠવાડિયા લાગે છે. આ મુદ્દાને સમાંતર વેવગેન દ્વારા હલ કરવામાં આવ્યો છે, જે બહુ-રીઝોલ્યુશન સ્પેક્ટ્રલ લોસ અને જી. એ. એન. શીખવાની વ્યૂહરચનાઓ દ્વારા વાણી ઉત્પન્ન કરવાનું શીખે છે. સંદર્ભો વાણી સંશ્લેષણ કૃત્રિમ બુદ્ધિના ઉપયોગ સહાયક ટેકનોલોજી ઓડિટરી કોમ્પ્યુટેશનલ ભાષાશાસ્ત્ર દર્શાવે છે માનવ-કમ્પ્યુટર ક્રિયાપ્રતિક્રિયાનો ઇતિહાસ