Sparrow (bot)
स्पैरो एक चैटबॉट है जिसे आर्टिफिशियल इंटेलिजेंस रिसर्च लैब डीपमाइंड द्वारा विकसित किया गया है, जो अल्फाबेट इंक की सहायक कंपनी है। इसे असुरक्षित और अनुचित उत्तरों के जोखिम को कम करते हुए उपयोगकर्ताओं के प्रश्नों का सही उत्तर देने के लिए डिज़ाइन किया गया है। गौरैया के पीछे एक प्रेरणा गलत, पक्षपाती या संभावित रूप से हानिकारक परिणाम उत्पन्न करने वाले भाषा मॉडल की समस्या का समाधान करना है। आधारभूत पूर्व-प्रशिक्षित भाषा मॉडल की तुलना में गौरैया को अधिक "सहायक, सही और हानिरहित" होने के लिए मानव निर्णयों का उपयोग करके प्रशिक्षित किया जाता है। गौरैया के विकास में भुगतान किए गए अध्ययन प्रतिभागियों को गौरैया के साथ बातचीत करने के लिए कहना और एक मॉडल को प्रशिक्षित करने के लिए उनकी प्राथमिकताओं को एकत्र करना शामिल था कि एक उत्तर कितना उपयोगी है। शुद्धता में सुधार करने और गलत तथ्यों के "मतिभ्रम" की समस्या से बचने में मदद करने के लिए, स्पैरो में किसी भी तथ्यात्मक दावे के लिए सबूत खोजने और उद्धृत करने के लिए गूगल सर्च का उपयोग करके इंटरनेट पर खोज करने की क्षमता है। मॉडल को सुरक्षित बनाने के लिए, इसका व्यवहार नियमों के एक समूह द्वारा बाधित है, उदाहरण के लिए "धमकी भरे बयान न दें" और "घृणित या अपमानजनक टिप्पणी न करें", साथ ही साथ संभवतः हानिकारक सलाह के बारे में नियम, और एक व्यक्ति होने का दावा न करें। विकास अध्ययन के दौरान प्रतिभागियों को प्रणाली के साथ बातचीत करने और इन नियमों को तोड़ने के लिए छल करने की कोशिश करने के लिए कहा गया था। इन प्रतिभागियों के निर्णयों पर एक 'नियम मॉडल' को प्रशिक्षित किया गया था, जिसका उपयोग आगे के प्रशिक्षण के लिए किया गया था। स्पैरो को सितंबर 2022 में एक पेपर में पेश किया गया था, जिसका शीर्षक था "लक्षित मानव निर्णयों के माध्यम से संवाद एजेंटों के संरेखण में सुधार"; हालाँकि, इसे सार्वजनिक रूप से जारी नहीं किया गया था। डीपमाइंड के सी. ई. ओ. डेमिस हासाबिस ने कहा कि डीपमाइंड 2023 में कुछ समय के लिए "निजी बीटा" के लिए स्पैरो को जारी करने पर विचार कर रहा है। प्रशिक्षण गौरैया एक गहरा तंत्रिका नेटवर्क है जो ट्रांसफॉर्मर मशीन लर्निंग मॉडल वास्तुकला पर आधारित है। यह डीपमाइंड के चिनचिला ए. आई. पूर्व-प्रशिक्षित बड़े भाषा मॉडल (एल. एल. एम.) से ठीक-ठाक है, जिसमें 70 बिलियन पैरामीटर हैं। गौरैया को मानव प्रतिक्रिया (आर. एल. एच. एफ.) से सुदृढीकरण सीखने का उपयोग करके प्रशिक्षित किया जाता है, हालांकि कुछ पर्यवेक्षित फाइन-ट्यूनिंग तकनीकों का भी उपयोग किया जाता है। आर. एल. एच. एफ. प्रशिक्षण मानव निर्णयों को पकड़ने के लिए दो पुरस्कार मॉडलों का उपयोग करता हैः एक "वरीयता मॉडल" जो भविष्यवाणी करता है कि एक मानव अध्ययन प्रतिभागी क्या पसंद करेगा और एक "नियम मॉडल" जो भविष्यवाणी करता है कि क्या मॉडल ने नियमों में से एक को तोड़ा है। लिमिटेशन स्पैरो का प्रशिक्षण डेटा कॉर्पस मुख्य रूप से अंग्रेजी में है, जिसका अर्थ है कि यह अन्य भाषाओं में खराब प्रदर्शन करता है। जब अध्ययन प्रतिभागियों द्वारा प्रतिकूल रूप से जांच की जाती है तो यह 8 प्रतिशत समय नियमों को तोड़ता है; हालाँकि, यह अभी भी पूर्व-प्रशिक्षित मॉडल (चिनचिला) की तुलना में तीन गुना कम है। ए. आई. सेफ्टी कॉमन्स रीजनिंग एथिक्स ऑफ आर्टिफिशियल इंटेलिजेंस भी देखें प्राकृतिक भाषा प्रसंस्करण प्रॉम्प्ट इंजीनियरिंग संदर्भ बाहरी लिंक व्हाइट पेपर ब्लॉग पोस्ट चैटबॉट्स भाषा मॉडलिंग प्राकृतिक भाषा प्रसंस्करण बड़े भाषा मॉडल