Sparrow (bot)
સ્પેરો એ આલ્ફાબેટ ઇન્કની પેટાકંપની આર્ટિફિશિયલ ઇન્ટેલિજન્સ રિસર્ચ લેબ ડીપમાઇન્ડ દ્વારા વિકસાવવામાં આવેલી ચેટબોટ છે. તે અસુરક્ષિત અને અયોગ્ય જવાબોના જોખમને ઘટાડતી વખતે વપરાશકર્તાઓના પ્રશ્નોના યોગ્ય જવાબ આપવા માટે રચાયેલ છે. સ્પેરો પાછળની એક પ્રેરણા ખોટી, પક્ષપાતી અથવા સંભવિત હાનિકારક પરિણામો ઉત્પન્ન કરતી ભાષાના નમૂનાઓની સમસ્યાનું સમાધાન કરવાની છે. પૂર્વ-પ્રશિક્ષિત ભાષાના મૂળભૂત નમૂનાઓની સરખામણીમાં ચકલીને વધુ "મદદરૂપ, સાચા અને હાનિકારક" બનવા માટે માનવ નિર્ણયોનો ઉપયોગ કરીને તાલીમ આપવામાં આવે છે. સ્પેરોના વિકાસમાં પગારદાર અભ્યાસ સહભાગીઓને સ્પેરો સાથે વાતચીત કરવા માટે પૂછવું અને જવાબ કેટલો ઉપયોગી છે તેના નમૂનાને તાલીમ આપવા માટે તેમની પસંદગીઓ એકત્રિત કરવી સામેલ હતી. સચોટતામાં સુધારો કરવા અને ખોટી હકીકતોના "આભાસ" ની સમસ્યાને ટાળવામાં મદદ કરવા માટે, સ્પેરો તેના કોઈપણ તથ્યાત્મક દાવાઓ માટે પુરાવા શોધવા અને ટાંકવા માટે ગૂગલ સર્ચનો ઉપયોગ કરીને ઇન્ટરનેટ પર શોધ કરવાની ક્ષમતા ધરાવે છે. મોડેલને સુરક્ષિત બનાવવા માટે, તેનું વર્તન નિયમોના સમૂહ દ્વારા મર્યાદિત છે, ઉદાહરણ તરીકે "ધમકીભર્યા નિવેદનો ન આપો" અને "દ્વેષપૂર્ણ અથવા અપમાનજનક ટિપ્પણીઓ ન કરો", તેમજ સંભવિત હાનિકારક સલાહ વિશેના નિયમો, અને વ્યક્તિ હોવાનો દાવો ન કરો. વિકાસ અભ્યાસ દરમિયાન સહભાગીઓને સિસ્ટમ સાથે વાતચીત કરવા અને તેને આ નિયમોનો ભંગ કરવા માટે છેતરવાનો પ્રયાસ કરવા કહેવામાં આવ્યું હતું. આ સહભાગીઓના ચુકાદાઓ પર 'નિયમ મોડેલ' ને તાલીમ આપવામાં આવી હતી, જેનો ઉપયોગ વધુ તાલીમ માટે કરવામાં આવ્યો હતો. સ્પેરોને સપ્ટેમ્બર 2022માં એક પેપરમાં રજૂ કરવામાં આવ્યું હતું, જેનું શીર્ષક હતું "લક્ષિત માનવ ચુકાદાઓ દ્વારા સંવાદ એજન્ટોના સંરેખણમાં સુધારો"; જો કે, તે જાહેરમાં રજૂ કરવામાં આવ્યું ન હતું. ડીપમાઇન્ડના સી. ઈ. ઓ. ડેમિસ હાસાબિસે જણાવ્યું હતું કે ડીપમાઇન્ડ 2023માં અમુક સમય માટે "ખાનગી બીટા" માટે સ્પેરોને રજૂ કરવાનું વિચારી રહ્યું છે. તાલીમ ચકલી એ ટ્રાન્સફોર્મર મશીન લર્નિંગ મોડેલ આર્કિટેક્ચર પર આધારિત એક ઊંડું ન્યુરલ નેટવર્ક છે. તે ડીપમાઇન્ડના ચિનચિલા AI પૂર્વ-પ્રશિક્ષિત મોટા ભાષા મોડેલ (LLM) થી સારી રીતે ટ્યુન કરવામાં આવ્યું છે, જેમાં 70 અબજ પરિમાણો છે. ચકલીને માનવ પ્રતિસાદ (આર. એલ. એચ. એફ.) માંથી રિઇન્ફોર્સમેન્ટ લર્નિંગનો ઉપયોગ કરીને તાલીમ આપવામાં આવે છે, જો કે કેટલીક દેખરેખ હેઠળની ફાઇન-ટ્યુનિંગ તકનીકોનો પણ ઉપયોગ કરવામાં આવે છે. આર. એલ. એચ. એફ. તાલીમ માનવ ચુકાદાઓ મેળવવા માટે બે પુરસ્કાર મોડેલોનો ઉપયોગ કરે છેઃ એક "પસંદગી મોડેલ" જે આગાહી કરે છે કે માનવ અભ્યાસ સહભાગી શું પસંદ કરશે અને એક "નિયમ મોડેલ" જે આગાહી કરે છે કે જો મોડેલએ એક નિયમ તોડ્યો હોય. મર્યાદાઓ સ્પેરોનો તાલીમ ડેટા કોર્પસ મુખ્યત્વે અંગ્રેજીમાં છે, એટલે કે તે અન્ય ભાષાઓમાં વધુ ખરાબ પ્રદર્શન કરે છે. જ્યારે અભ્યાસના સહભાગીઓ દ્વારા પ્રતિકૂળ રીતે તપાસ કરવામાં આવે છે ત્યારે તે 8 ટકા સમય નિયમોને તોડે છે; જો કે, આ હજુ પણ પૂર્વ-પ્રશિક્ષિત મોડેલ (ચિનચિલા) કરતાં ત્રણ ગણો ઓછો છે. આ પણ જુઓ AI સલામતી કોમન્સન્સ તર્ક કૃત્રિમ બુદ્ધિની નૈતિકતા કુદરતી ભાષા પ્રક્રિયા પ્રોમ્પ્ટ ઇજનેરી સંદર્ભો બાહ્ય કડીઓ વ્હાઇટ પેપર બ્લોગ પોસ્ટ ચેટબોટ્સ ભાષા મોડેલિંગ કુદરતી ભાષા પ્રક્રિયા મોટા ભાષાના નમૂનાઓ