AI safety
செயற்கை நுண்ணறிவு பாதுகாப்பு என்பது செயற்கை நுண்ணறிவு (AI) அமைப்புகளால் ஏற்படக்கூடிய விபத்துக்கள், தவறாகப் பயன்படுத்துதல் அல்லது பிற தீங்கு விளைவிக்கும் விளைவுகளைத் தடுப்பதில் அக்கறை கொண்ட ஒரு இடைநிலைத் துறையாகும். இது இயந்திர நெறிமுறைகள் மற்றும் செயற்கை நுண்ணறிவு சீரமைப்பை உள்ளடக்கியது, இது செயற்கை நுண்ணறிவு அமைப்புகளை தார்மீக மற்றும் நன்மை பயக்கும் வகையில் மாற்றுவதை நோக்கமாகக் கொண்டுள்ளது, மேலும் செயற்கை நுண்ணறிவு பாதுகாப்பு என்பது அபாயங்களுக்கான கண்காணிப்பு அமைப்புகள் மற்றும் அவற்றை மிகவும் நம்பகமானதாக மாற்றுவது உள்ளிட்ட தொழில்நுட்ப சிக்கல்களை உள்ளடக்கியது. செயற்கை நுண்ணறிவு ஆராய்ச்சிக்கு அப்பால், பாதுகாப்பை ஊக்குவிக்கும் விதிமுறைகளையும் கொள்கைகளையும் உருவாக்குவது இதில் அடங்கும். உந்துதல்கள் செயற்கை நுண்ணறிவு ஆராய்ச்சியாளர்கள் செயற்கை நுண்ணறிவு தொழில்நுட்பத்தால் ஏற்படும் ஆபத்தின் தீவிரம் மற்றும் முதன்மை ஆதாரங்கள் குறித்து பரவலாக மாறுபட்ட கருத்துக்களைக் கொண்டுள்ளனர்-இருப்பினும் வல்லுநர்கள் அதிக விளைவு அபாயங்களை தீவிரமாக எடுத்துக்கொள்கிறார்கள் என்று ஆய்வுகள் தெரிவிக்கின்றன. செயற்கை நுண்ணறிவு ஆராய்ச்சியாளர்களின் இரண்டு ஆய்வுகளில், சராசரி பதிலளித்தவர் ஒட்டுமொத்த செயற்கை நுண்ணறிவைப் பற்றி நம்பிக்கையுடன் இருந்தார், ஆனால் 5 சதவீத நிகழ்தகவை "மிகவும் மோசமான (எ. கா. மனித அழிவு) "மேம்பட்ட AI இன் விளைவு. இயற்கை மொழி செயலாக்க (என்எல்பி) சமூகத்தின் 2022 கணக்கெடுப்பில், செயற்கை நுண்ணறிவு முடிவுகள் ஒரு பேரழிவுக்கு வழிவகுக்கும் என்பது நம்பத்தகுந்தது என்று 37 சதவீதம் பேர் ஒப்புக் கொண்டனர் அல்லது பலவீனமாக ஒப்புக் கொண்டனர், இது "குறைந்தபட்சம் ஒரு முழுமையான அணுசக்தி போரைப் போலவே மோசமானது". முக்கியமான அமைப்புகளின் தோல்விகள், சார்பு மற்றும் செயற்கை நுண்ணறிவு இயக்கப்பட்ட கண்காணிப்பு ஆகியவற்றிலிருந்து தற்போதைய அபாயங்கள் குறித்து அறிஞர்கள் விவாதிக்கின்றனர்; தொழில்நுட்ப வேலையின்மை, டிஜிட்டல் கையாளுதல் மற்றும் ஆயுதமயமாக்கல் ஆகியவற்றிலிருந்து வளர்ந்து வரும் அபாயங்கள்; மற்றும் எதிர்கால செயற்கை பொது நுண்ணறிவு (ஏஜிஐ) முகவர்களின் கட்டுப்பாட்டை இழப்பதில் இருந்து ஊக அபாயங்கள். சிலர் ஏஜிஐ பற்றிய கவலைகளை விமர்சித்துள்ளனர், ஆண்ட்ரூ என்ஜி போன்றவர்கள் 2015 இல் அவற்றை "நாம் இன்னும் கிரகத்தில் காலடி வைக்காதபோது செவ்வாய் கிரகத்தில் அதிக மக்கள் தொகை பற்றி கவலைப்படுகிறார்கள்" என்று ஒப்பிட்டனர். மறுபுறம் ஸ்டூவர்ட் ஜே. ரஸ்ஸல் எச்சரிக்கையை வலியுறுத்துகிறார், "மனித புத்திசாலித்தனத்தை குறைத்து மதிப்பிடுவதை விட எதிர்பார்ப்பது நல்லது" என்று வாதிடுகிறார். கணினி யுகத்தின் தொடக்கத்தில் செயற்கை நுண்ணறிவின் பின்னணி அபாயங்கள் தீவிரமாக விவாதிக்கத் தொடங்கினஃ 2008 முதல் 2009 வரை, செயற்கை நுண்ணறிவின் முன்னேற்றத்திற்கான சங்கம் (ஏஏஏஐ) செயற்கை நுண்ணறிவு ஆராய்ச்சி மற்றும் வளர்ச்சியின் நீண்டகால சமூக தாக்கங்களை ஆராய்ந்து நிவர்த்தி செய்ய ஒரு ஆய்வை நியமித்தது. அறிவியல்-புனைகதை எழுத்தாளர்கள் வெளிப்படுத்திய தீவிரமான கருத்துக்கள் குறித்து குழு பொதுவாக சந்தேகம் கொண்டிருந்தது, ஆனால் "எதிர்பாராத விளைவுகளைக் குறைக்க சிக்கலான கணக்கீட்டு அமைப்புகளின் நடத்தைகளின் வரம்பைப் புரிந்துகொள்வதற்கும் சரிபார்ப்பதற்கும் கூடுதல் ஆராய்ச்சி மதிப்புமிக்கதாக இருக்கும்" என்று ஒப்புக் கொண்டது. 2011 ஆம் ஆண்டில், ரோமன் யாம்போல்ஸ்கி செயற்கை நுண்ணறிவு மாநாட்டின் தத்துவம் மற்றும் கோட்பாட்டில் "செயற்கை நுண்ணறிவு பாதுகாப்பு பொறியியல்" என்ற வார்த்தையை அறிமுகப்படுத்தினார், செயற்கை நுண்ணறிவு அமைப்புகளின் முந்தைய தோல்விகளை பட்டியலிட்டு, "செயற்கை நுண்ணறிவுகள் அதிக திறன் கொண்டதாக மாறும்போது இதுபோன்ற நிகழ்வுகளின் அதிர்வெண் மற்றும் தீவிரத்தன்மை சீராக அதிகரிக்கும்" என்று வாதிட்டார். 2014 ஆம் ஆண்டில், தத்துவஞானி நிக் போஸ்ட்ரோம் சூப்பர் இன்டெலிஜென்ஸ்ஃ பாதைகள், ஆபத்துகள், உத்திகள் என்ற புத்தகத்தை வெளியிட்டார். ஏஜிஐயின் எழுச்சி செயற்கை நுண்ணறிவு மூலம் பணியாளர்களை இடம்பெயர்வது, அரசியல் மற்றும் இராணுவ கட்டமைப்புகளை கையாளுதல், மனித அழிவுக்கான சாத்தியம் வரை பல்வேறு சமூக பிரச்சினைகளை உருவாக்கும் ஆற்றலைக் கொண்டுள்ளது என்று அவர் கருதுகிறார். எதிர்கால மேம்பட்ட அமைப்புகள் மனித இருப்புக்கு அச்சுறுத்தலை ஏற்படுத்தக்கூடும் என்ற அவரது வாதம் எலோன் மஸ்க், பில் கேட்ஸ் மற்றும் ஸ்டீபன் ஹாக்கிங் ஆகியோரை இதே போன்ற கவலைகளை வெளிப்படுத்த தூண்டியது. 2015 ஆம் ஆண்டில், டஜன் கணக்கான செயற்கை நுண்ணறிவு வல்லுநர்கள் செயற்கை நுண்ணறிவு குறித்த ஒரு திறந்த கடிதத்தில் கையெழுத்திட்டனர், செயற்கை நுண்ணறிவின் சமூக தாக்கங்கள் குறித்து ஆராய்ச்சி செய்ய அழைப்பு விடுத்தனர் மற்றும் உறுதியான திசைகளை கோடிட்டுக் காட்டினர். இன்றுவரை, இந்த கடிதத்தில் யான் லெகன், ஷேன் லெக், யோஷுவா பெங்கியோ மற்றும் ஸ்டூவர்ட் ரஸ்ஸல் உட்பட 8000 க்கும் மேற்பட்டோர் கையெழுத்திட்டுள்ளனர். அதே ஆண்டில், பேராசிரியர் ஸ்டூவர்ட் ரஸ்ஸல் தலைமையிலான கல்வியாளர்கள் குழு கலிபோர்னியா பெர்க்லி பல்கலைக்கழகத்தில் மனித-இணக்கமான செயற்கை நுண்ணறிவு மையத்தை நிறுவியது மற்றும் எதிர்கால வாழ்க்கை நிறுவனம் "செயற்கை நுண்ணறிவு (AI) பாதுகாப்பாக, நெறிமுறை மற்றும் நன்மை பயக்கும் வகையில் இருப்பதை உறுதி செய்வதை நோக்கமாகக் கொண்ட ஆராய்ச்சிக்காக $6.5 மில்லியன் மானியங்களை வழங்கியது". 2016 ஆம் ஆண்டில், அறிவியல் மற்றும் தொழில்நுட்பக் கொள்கையின் வெள்ளை மாளிகை அலுவலகம் மற்றும் கார்னகி மெலன் பல்கலைக்கழகம் செயற்கை நுண்ணறிவுக்கான பாதுகாப்பு மற்றும் கட்டுப்பாடு குறித்த பொதுப் பட்டறையை அறிவித்தன, இது செயற்கை நுண்ணறிவின் "நன்மைகள் மற்றும் குறைபாடுகளை" ஆராய்வதை நோக்கமாகக் கொண்ட நான்கு வெள்ளை மாளிகை பட்டறைகளின் வரிசையில் ஒன்றாகும். அதே ஆண்டில், செயற்கை நுண்ணறிவு பாதுகாப்பில் உறுதியான சிக்கல்கள்-முதல் மற்றும் மிகவும் செல்வாக்குமிக்க தொழில்நுட்ப செயற்கை நுண்ணறிவு பாதுகாப்பு நிகழ்ச்சி நிரல்களில் ஒன்று-வெளியிடப்பட்டது. 2017 ஆம் ஆண்டில், ஃபியூச்சர் ஆஃப் லைஃப் இன்ஸ்டிடியூட் நன்மை பயக்கும் செயற்கை நுண்ணறிவு குறித்த அசிலோமர் மாநாட்டிற்கு நிதியுதவி அளித்தது, அங்கு 100 க்கும் மேற்பட்ட சிந்தனைத் தலைவர்கள் நன்மை பயக்கும் செயற்கை நுண்ணறிவுக்கான கொள்கைகளை உருவாக்கினர், இதில் "இனம் தவிர்ப்புஃ செயற்கை நுண்ணறிவு அமைப்புகளை உருவாக்கும் குழுக்கள் பாதுகாப்புத் தரங்களில் மூலையில் வெட்டப்படுவதைத் தவிர்க்க தீவிரமாக ஒத்துழைக்க வேண்டும்". 2018 ஆம் ஆண்டில், டீப் மைண்ட் பாதுகாப்புக் குழு விவரக்குறிப்பு, வலிமை மற்றும் உத்தரவாதம் ஆகியவற்றில் செயற்கை நுண்ணறிவு பாதுகாப்பு சிக்கல்களை கோடிட்டுக் காட்டியது. அடுத்த ஆண்டு, ஆராய்ச்சியாளர்கள் ICLR இல் ஒரு பட்டறையை ஏற்பாடு செய்தனர், இது இந்த சிக்கல் பகுதிகளில் கவனம் செலுத்தியது. 2021 ஆம் ஆண்டில், எம்எல் பாதுகாப்பில் தீர்க்கப்படாத சிக்கல்கள் வெளியிடப்பட்டன, இது வலிமை, கண்காணிப்பு, சீரமைப்பு மற்றும் முறையான பாதுகாப்பு ஆகியவற்றில் ஆராய்ச்சி திசைகளை கோடிட்டுக் காட்டுகிறது. 2023 ஆம் ஆண்டில், ரிஷி சுனக், ஐக்கிய இராச்சியம் "உலகளாவிய செயற்கை நுண்ணறிவு பாதுகாப்பு ஒழுங்குமுறையின் புவியியல் இல்லமாக" இருக்க வேண்டும் என்றும் செயற்கை நுண்ணறிவு பாதுகாப்பு குறித்த முதல் உலகளாவிய உச்சிமாநாட்டை நடத்த வேண்டும் என்றும் விரும்புவதாகக் கூறினார். ஆராய்ச்சி மையங்கள் செயற்கை நுண்ணறிவு பாதுகாப்பு ஆராய்ச்சி பகுதிகளில் வலிமை, கண்காணிப்பு மற்றும் சீரமைப்பு ஆகியவை அடங்கும். வலிமை விரோதமான வலிமை AI அமைப்புகள் பெரும்பாலும் எதிர்மறையான எடுத்துக்காட்டுகள் அல்லது "இயந்திர கற்றல் (எம். எல்) மாதிரிகளுக்கான உள்ளீடுகளால் பாதிக்கப்படுகின்றன, இது ஒரு தாக்குபவர் வேண்டுமென்றே மாதிரியை தவறாக செய்ய வடிவமைத்துள்ளார்". எடுத்துக்காட்டாக, 2013 ஆம் ஆண்டில், Szegedy மற்றும் பலர். ஒரு படத்தில் குறிப்பிட்ட புலப்பட முடியாத இடையூறுகளைச் சேர்ப்பது அதிக நம்பிக்கையுடன் தவறாக வகைப்படுத்தப்படலாம் என்பதைக் கண்டறிந்தார். நரம்பியல் நெட்வொர்க்குகளில் இது ஒரு பிரச்சினையாகத் தொடர்கிறது, இருப்பினும் சமீபத்திய ஆய்வுகளில் இடையூறுகள் பொதுவாக உணரக்கூடிய அளவுக்கு பெரியவை. வலதுபுறத்தில் உள்ள அனைத்து படங்களும் இடையூறு பயன்படுத்தப்பட்ட பிறகு ஒரு நெருப்புக்கோழியாக இருக்கும் என்று கணிக்கப்பட்டுள்ளது. (இடது) என்பது சரியாக கணிக்கப்பட்ட மாதிரியாகும், (நடுவில்) 10x, (வலது) எதிர் உதாரணத்தால் பெரிதாக்கப்பட்ட இடையூறு பயன்படுத்தப்படுகிறது. விரோதமான வலிமை பெரும்பாலும் பாதுகாப்புடன் தொடர்புடையது. ஒரு ஆடியோ சமிக்ஞையை புரிந்துகொள்ள முடியாத வகையில் மாற்றியமைக்க முடியும் என்று ஆராய்ச்சியாளர்கள் நிரூபித்தனர், இதனால் பேச்சு-க்கு-உரை அமைப்புகள் தாக்குபவர் தேர்ந்தெடுக்கும் எந்த செய்திக்கும் அதை படியெடுத்துவிடும். நெட்வொர்க் ஊடுருவல் மற்றும் தீம்பொருள் கண்டறிதல் அமைப்புகளும் எதிர்மறையாக வலுவானதாக இருக்க வேண்டும், ஏனெனில் தாக்குபவர்கள் தங்கள் தாக்குதல்களை முட்டாளாக்குவதற்கு வடிவமைக்கலாம். குறிக்கோள்களைக் குறிக்கும் மாதிரிகள் (வெகுமதி மாதிரிகள்) எதிர்மறையாக வலுவாக இருக்க வேண்டும். எடுத்துக்காட்டாக, ஒரு வெகுமதி மாதிரி ஒரு உரை பதில் எவ்வளவு உதவியாக இருக்கும் என்பதை மதிப்பிடலாம் மற்றும் இந்த மதிப்பெண்ணை அதிகரிக்க ஒரு மொழி மாதிரியைப் பயிற்றுவிக்கலாம். ஒரு மொழி மாதிரியை நீண்ட காலத்திற்கு பயிற்றுவித்தால், அது வெகுமதி மாதிரியின் பாதிப்புகளைப் பயன்படுத்தி சிறந்த மதிப்பெண்ணை அடைந்து, விரும்பிய பணியில் மோசமாக செயல்படும் என்று ஆராய்ச்சியாளர்கள் காட்டியுள்ளனர். வெகுமதி மாதிரியின் எதிர்மறையான வலிமையை மேம்படுத்துவதன் மூலம் இந்த சிக்கலை தீர்க்க முடியும். மேலும் பொதுவாக, மற்றொரு AI அமைப்பை மதிப்பீடு செய்யப் பயன்படுத்தப்படும் எந்தவொரு AI அமைப்பும் எதிர்மறையாக வலுவானதாக இருக்க வேண்டும். கண்காணிப்பு கருவிகள் இதில் அடங்கும், ஏனெனில் அவை அதிக வெகுமதியை வழங்குவதற்கு சேதப்படுத்தப்படலாம். நிச்சயமற்ற தன்மையை மதிப்பிடுவதைக் கண்காணிப்பது மனித ஆபரேட்டர்கள் ஒரு செயற்கை நுண்ணறிவு அமைப்பை எவ்வளவு நம்ப வேண்டும் என்பதை அளவிடுவது பெரும்பாலும் முக்கியம், குறிப்பாக மருத்துவ நோயறிதல் போன்ற உயர்-பங்கு அமைப்புகளில். எம்எல் மாதிரிகள் பொதுவாக நிகழ்தகவுகளை வெளியிடுவதன் மூலம் நம்பிக்கையை வெளிப்படுத்துகின்றன; இருப்பினும், அவை பெரும்பாலும் அதிக நம்பிக்கையுடன் உள்ளன, குறிப்பாக அவை கையாள பயிற்சி பெற்றவற்றிலிருந்து வேறுபட்ட சூழ்நிலைகளில். அளவீட்டு ஆராய்ச்சி மாதிரி நிகழ்தகவுகளை மாதிரி சரியானது என்ற உண்மையான விகிதத்துடன் முடிந்தவரை நெருக்கமாக ஒத்திருப்பதை நோக்கமாகக் கொண்டுள்ளது. இதேபோல், ஒழுங்கின்மை கண்டறிதல் அல்லது விநியோகத்திற்கு வெளியே (OOD) கண்டறிதல் ஒரு AI அமைப்பு ஒரு அசாதாரண சூழ்நிலையில் இருக்கும்போது அடையாளம் காண்பதை நோக்கமாகக் கொண்டுள்ளது. எடுத்துக்காட்டாக, ஒரு தன்னாட்சி வாகனத்தில் ஒரு சென்சார் செயலிழந்தால், அல்லது அது சவாலான நிலப்பரப்பை எதிர்கொண்டால், அது ஓட்டுநரை கட்டுப்பாட்டை எடுக்கவோ அல்லது இழுக்கவோ எச்சரிக்க வேண்டும். பலவிதமான கூடுதல் நுட்பங்கள் பயன்பாட்டில் இருந்தாலும், முரண்பட்ட மற்றும் முரண்படாத உள்ளீடுகளை வேறுபடுத்த ஒரு வகைப்பாட்டாளருக்கு பயிற்சி அளிப்பதன் மூலம் முரண்பாடு கண்டறிதல் செயல்படுத்தப்பட்டுள்ளது. தீங்கிழைக்கும் பயன்பாட்டைக் கண்டறிவது அறிஞர்களும் அரசாங்க நிறுவனங்களும் தீங்கிழைக்கும் நடிகர்களுக்கு ஆயுதங்களை உருவாக்குவதற்கும், பொதுக் கருத்தை கையாளுவதற்கும் அல்லது சைபர் தாக்குதல்களை தானியக்கமாக்குவதற்கும் செயற்கை நுண்ணறிவு அமைப்புகள் பயன்படுத்தப்படலாம் என்ற கவலையை வெளிப்படுத்தியுள்ளனர். ஆன்லைனில் சக்திவாய்ந்த செயற்கை நுண்ணறிவு கருவிகளை வழங்கும் ஓபன்ஏஐ போன்ற நிறுவனங்களுக்கு இந்த கவலைகள் ஒரு நடைமுறை அக்கறை. தவறாகப் பயன்படுத்தப்படுவதைத் தடுப்பதற்காக, பயனர்களின் செயல்பாட்டின் அடிப்படையில் அவர்களைக் குறிக்கும் அல்லது கட்டுப்படுத்தும் கண்டறிதல் அமைப்புகளை ஓபன்ஏஐ உருவாக்கியுள்ளது. வெளிப்படைத்தன்மை நரம்பியல் நெட்வொர்க்குகள் பெரும்பாலும் கருப்பு பெட்டிகள் என்று விவரிக்கப்படுகின்றன, அதாவது அவை செய்யும் ஏராளமான கணக்கீடுகளின் விளைவாக அவை ஏன் முடிவுகளை எடுக்கின்றன என்பதைப் புரிந்துகொள்வது கடினம். இதனால் தோல்விகளை முன்கூட்டியே கணிப்பது சவாலானது. 2018 ஆம் ஆண்டில், ஒரு சுய-ஓட்டுநர் கார் அவர்களை அடையாளம் காணத் தவறியதால் ஒரு பாதசாரி கொல்லப்பட்டார். செயற்கை நுண்ணறிவு மென்பொருளின் கருப்பு பெட்டி தன்மை காரணமாக, தோல்விக்கான காரணம் தெளிவாக இல்லை. வெளிப்படைத்தன்மையின் ஒரு முக்கியமான நன்மை விளக்கமளிப்பதாகும். நியாயத்தை உறுதி செய்வதற்காக ஒரு முடிவு ஏன் எடுக்கப்பட்டது என்பதற்கான விளக்கத்தை வழங்குவது சில நேரங்களில் சட்டபூர்வமான தேவையாகும், எடுத்துக்காட்டாக வேலை விண்ணப்பங்கள் அல்லது கிரெடிட் ஸ்கோர் ஒதுக்கீட்டை தானாக வடிகட்டுவதற்கு. மற்றொரு நன்மை தோல்விகளுக்கான காரணத்தை வெளிப்படுத்துவதாகும். 2020 கோவிட்-19 தொற்றுநோயின் தொடக்கத்தில், மருத்துவ பட வகைப்படுத்திகள் பொருத்தமற்ற மருத்துவமனை லேபிள்களுக்கு 'கவனம் செலுத்துகின்றன' என்பதைக் காட்ட ஆராய்ச்சியாளர்கள் வெளிப்படைத்தன்மை கருவிகளைப் பயன்படுத்தினர். பிழைகளை சரிசெய்ய வெளிப்படைத்தன்மை நுட்பங்களையும் பயன்படுத்தலாம். எடுத்துக்காட்டாக, "ஜிபிடியில் உண்மைச் சங்கங்களைக் கண்டறிதல் மற்றும் திருத்துதல்" என்ற கட்டுரையில், ஈபிள் கோபுரத்தின் இருப்பிடம் குறித்த கேள்விகளுக்கு அது எவ்வாறு பதிலளித்தது என்பதைப் பாதித்த மாதிரி அளவுருக்களை ஆசிரியர்களால் அடையாளம் காண முடிந்தது. கோபுரம் பிரான்சுக்கு பதிலாக ரோமில் இருப்பதாக நம்புவது போல் கேள்விகளுக்கு பதிலளிக்கும் வகையில் இந்த அறிவை அவர்களால் 'திருத்த' முடிந்தது. இந்த விஷயத்தில், ஆசிரியர்கள் ஒரு பிழையைத் தூண்டியிருந்தாலும், இந்த முறைகள் அவற்றை திறம்பட சரிசெய்ய பயன்படுத்தப்படலாம். கணினி பார்வையிலும் மாதிரி எடிட்டிங் நுட்பங்கள் உள்ளன. இறுதியாக, AI அமைப்புகளின் ஒளிபுகா தன்மை ஆபத்தின் குறிப்பிடத்தக்க ஆதாரம் என்றும் அவை எவ்வாறு செயல்படுகின்றன என்பதைப் பற்றிய சிறந்த புரிதல் எதிர்காலத்தில் அதிக விளைவு தோல்விகளைத் தடுக்க முடியும் என்றும் சிலர் வாதிட்டனர். "இன்னர்" இன்டர்பிரெட்டபிலிட்டி ரிசர்ச் எம்எல் மாடல்களை குறைவான ஒளிபுகா ஆக்குவதை நோக்கமாகக் கொண்டுள்ளது. இந்த ஆராய்ச்சியின் ஒரு குறிக்கோள் உள் நரம்பணு செயல்பாடுகள் எதைக் குறிக்கின்றன என்பதை அடையாளம் காண்பதாகும். எடுத்துக்காட்டாக, ஆராய்ச்சியாளர்கள் CLIP செயற்கை நுண்ணறிவு அமைப்பில் ஒரு நரம்பணுவை அடையாளம் கண்டனர், இது சிலந்தி மனிதனின் ஆடைகள், சிலந்தி மனிதனின் ஓவியங்கள் மற்றும் 'சிலந்தி' என்ற வார்த்தையில் உள்ள மக்களின் படங்களுக்கு பதிலளிக்கிறது. இது இந்த நரம்பணுக்கள் அல்லது 'சுற்றுகள்' இடையேயான தொடர்புகளை விளக்குவதையும் உள்ளடக்கியது. எடுத்துக்காட்டாக, மொழி மாதிரிகள் அவற்றின் சூழலில் இருந்து எவ்வாறு கற்றுக்கொள்கின்றன என்பதில் பங்கு வகிக்கக்கூடிய மின்மாற்றி கவனத்தில் முறை-பொருந்தும் வழிமுறைகளை ஆராய்ச்சியாளர்கள் அடையாளம் கண்டுள்ளனர். "உள் விளக்கத்தன்மை" நரம்பியல் அறிவியலுடன் ஒப்பிடப்பட்டுள்ளது. இரண்டு நிகழ்வுகளிலும், ஒரு சிக்கலான அமைப்பில் என்ன நடக்கிறது என்பதைப் புரிந்துகொள்வதே குறிக்கோள், இருப்பினும் எம். எல் ஆராய்ச்சியாளர்கள் சரியான அளவீடுகளை எடுத்து தன்னிச்சையான நீக்கங்களைச் செய்ய முடியும். ட்ரோஜன்களின் எம்எல் மாதிரிகளைக் கண்டறிவது 'ட்ரோஜன்கள்' அல்லது 'பின் கதவுகளை' கொண்டிருக்கலாம்ஃ தீங்கிழைக்கும் நடிகர்கள் தீங்கிழைக்கும் வகையில் ஒரு AI அமைப்பில் உருவாக்கும் பாதிப்புகள். எடுத்துக்காட்டாக, ஒரு ட்ரோஜன் செய்யப்பட்ட முக அங்கீகார அமைப்பு ஒரு குறிப்பிட்ட நகையை பார்க்கும்போது அணுகலை வழங்க முடியும்; அல்லது ஒரு குறிப்பிட்ட தூண்டுதல் தெரியும் வரை ஒரு ட்ரோஜன் செய்யப்பட்ட தன்னாட்சி வாகனம் பொதுவாக செயல்படக்கூடும். ஒரு ட்ரோஜனை நடவு செய்ய ஒரு எதிரி அமைப்பின் பயிற்சி தரவை அணுக வேண்டும் என்பதை நினைவில் கொள்க. சிஎல்ஐபி அல்லது ஜிபிடி-3 போன்ற சில பெரிய மாடல்களுடன் இதைச் செய்வது கடினமாக இருக்காது, ஏனெனில் அவை பொதுவில் கிடைக்கும் இணையத் தரவுகளில் பயிற்சி பெற்றவை. 3 மில்லியன் பயிற்சி படங்களில் 300 ஐ மட்டுமே மாற்றுவதன் மூலம் ஆராய்ச்சியாளர்களால் ஒரு பட வகைப்படுத்தியில் ஒரு ட்ரோஜனை நடவு செய்ய முடிந்தது. பாதுகாப்பு அபாயத்தை ஏற்படுத்துவதோடு மட்டுமல்லாமல், ட்ரோஜன்கள் சிறந்த கண்காணிப்பு கருவிகளை சோதிப்பதற்கும் உருவாக்குவதற்கும் ஒரு உறுதியான அமைப்பை வழங்குகின்றன என்று ஆராய்ச்சியாளர்கள் வாதிட்டனர். சீரமைப்பு முறையான பாதுகாப்பு மற்றும் சமூக தொழில்நுட்ப காரணிகள் செயற்கை நுண்ணறிவு அபாயங்கள் (மற்றும் பொதுவாக தொழில்நுட்ப அபாயங்கள்) தவறாகப் பயன்படுத்துதல் அல்லது விபத்துக்கள் என வகைப்படுத்தப்படுவது பொதுவானது. சில அறிஞர்கள் இந்த கட்டமைப்பு குறைவாக இருப்பதாக பரிந்துரைத்துள்ளனர். உதாரணமாக, கியூபா ஏவுகணை நெருக்கடி ஒரு விபத்து அல்லது தொழில்நுட்பத்தின் தவறான பயன்பாடு அல்ல. கொள்கை ஆய்வாளர்கள் ஸ்வெட்ஸ்லூட் மற்றும் டாஃபோ ஆகியோர் எழுதினர், "தவறான பயன்பாடு மற்றும் விபத்து முன்னோக்குகள் தீங்கு விளைவிக்கும் காரண சங்கிலியின் கடைசி கட்டத்தில் மட்டுமே கவனம் செலுத்துகின்றனஃ அதாவது, தொழில்நுட்பத்தை தவறாகப் பயன்படுத்திய நபர் அல்லது எதிர்பாராத வழிகளில் நடந்து கொண்ட அமைப்பு. இருப்பினும், பெரும்பாலும், தொடர்புடைய காரண சங்கிலி மிக நீளமானது". அபாயங்கள் பெரும்பாலும் போட்டி அழுத்தங்கள், தீங்குகளின் பரவல், வேகமான வளர்ச்சி, அதிக அளவிலான நிச்சயமற்ற தன்மை மற்றும் போதிய பாதுகாப்பு கலாச்சாரம் போன்ற 'கட்டமைப்பு' அல்லது 'முறையான' காரணிகளிலிருந்து எழுகின்றன. பாதுகாப்பு பொறியியலின் பரந்த சூழலில், 'நிறுவன பாதுகாப்பு கலாச்சாரம்' போன்ற கட்டமைப்பு காரணிகள் பிரபலமான STAMP இடர் பகுப்பாய்வு கட்டமைப்பில் முக்கிய பங்கு வகிக்கின்றன. கட்டமைப்பு கண்ணோட்டத்தால் ஈர்க்கப்பட்ட சில ஆராய்ச்சியாளர்கள், சமூக தொழில்நுட்ப பாதுகாப்பு காரணிகளை மேம்படுத்த இயந்திர கற்றலைப் பயன்படுத்துவதன் முக்கியத்துவத்தை வலியுறுத்தியுள்ளனர், எடுத்துக்காட்டாக, சைபர் பாதுகாப்பிற்காக எம். எல் பயன்படுத்துதல், நிறுவன முடிவெடுப்பதை மேம்படுத்துதல் மற்றும் ஒத்துழைப்பை எளிதாக்குதல். சைபர் பாதுகாப்பு சைபர் தாக்குபவர்களுக்கும் சைபர் பாதுகாவலர்களுக்கும் இடையிலான ஏற்கனவே சமநிலையற்ற விளையாட்டை செயற்கை நுண்ணறிவு அதிகரிக்கும் என்று சில அறிஞர்கள் கவலைப்படுகிறார்கள். இது 'முதல் தாக்குதல்' ஊக்குவிப்புகளை அதிகரிக்கும் மற்றும் அதிக ஆக்கிரமிப்பு மற்றும் ஸ்திரமின்மை தாக்குதல்களுக்கு வழிவகுக்கும். இந்த அபாயத்தைத் தணிப்பதற்காக, சிலர் சைபர் பாதுகாப்புக்கு அதிக முக்கியத்துவம் அளிக்க வேண்டும் என்று வாதிட்டனர். கூடுதலாக, சக்திவாய்ந்த AI மாதிரிகள் திருடப்படுவதையும் தவறாகப் பயன்படுத்தப்படுவதையும் தடுக்க மென்பொருள் பாதுகாப்பு அவசியம். நிறுவன முடிவெடுப்பதை மேம்படுத்துதல் பொருளாதார மற்றும் இராணுவ களங்களில் செயற்கை நுண்ணறிவு முன்னேற்றம் முன்னெப்போதும் இல்லாத அரசியல் சவால்களைத் தூண்டும். சில அறிஞர்கள் செயற்கை நுண்ணறிவு இன இயக்கவியலை பனிப்போருடன் ஒப்பிட்டுள்ளனர், அங்கு ஒரு சிறிய எண்ணிக்கையிலான முடிவெடுப்பவர்களின் கவனமான தீர்ப்பு பெரும்பாலும் ஸ்திரத்தன்மைக்கும் பேரழிவுக்கும் இடையிலான வேறுபாட்டை உச்சரிக்கிறது. AI ஆராய்ச்சியாளர்கள் AI தொழில்நுட்பங்கள் முடிவெடுக்க உதவுவதற்கும் பயன்படுத்தப்படலாம் என்று வாதிட்டனர். எடுத்துக்காட்டாக, ஆராய்ச்சியாளர்கள் செயற்கை நுண்ணறிவு முன்கணிப்பு மற்றும் ஆலோசனை அமைப்புகளை உருவாக்கத் தொடங்கியுள்ளனர். ஒத்துழைப்பை எளிதாக்குவது மிகப்பெரிய உலகளாவிய அச்சுறுத்தல்கள் (அணு ஆயுதப் போர், பருவநிலை மாற்றம் போன்றவை) ஒத்துழைப்பு சவால்களாக வடிவமைக்கப்பட்டுள்ளன. நன்கு அறியப்பட்ட கைதிகளின் சங்கடமான சூழ்நிலையைப் போலவே, சில இயக்கவியல் அனைத்து வீரர்களுக்கும் மோசமான முடிவுகளுக்கு வழிவகுக்கும், அவர்கள் தங்கள் சுயநலத்தில் உகந்த முறையில் செயல்படும்போது கூட. எடுத்துக்காட்டாக, யாரும் தலையிடாவிட்டால் விளைவுகள் குறிப்பிடத்தக்கதாக இருந்தாலும், காலநிலை மாற்றத்தை நிவர்த்தி செய்ய எந்த ஒரு நடிகருக்கும் வலுவான ஊக்குவிப்புகள் இல்லை. ஒரு முக்கிய செயற்கை நுண்ணறிவு ஒத்துழைப்பு சவால் ஒரு 'அடிமட்டத்திற்கு பந்தயத்தை' தவிர்ப்பது. இந்த சூழ்நிலையில், நாடுகள் அல்லது நிறுவனங்கள் அதிக திறன் கொண்ட செயற்கை நுண்ணறிவு அமைப்புகளை உருவாக்கவும், பாதுகாப்பை புறக்கணிக்கவும் போட்டியிடுகின்றன, இது ஒரு பேரழிவு விபத்துக்கு வழிவகுக்கிறது, இது சம்பந்தப்பட்ட அனைவருக்கும் தீங்கு விளைவிக்கும். இது போன்ற சூழ்நிலைகள் பற்றிய கவலைகள் மனிதர்களிடையே ஒத்துழைப்பை எளிதாக்குவதற்கான அரசியல் மற்றும் தொழில்நுட்ப முயற்சிகளை ஊக்கப்படுத்தியுள்ளன, மேலும் செயற்கை நுண்ணறிவு அமைப்புகளுக்கும் இடையில் சாத்தியமாகும். பெரும்பாலான AI ஆராய்ச்சிகள் தனிமைப்படுத்தப்பட்ட செயல்பாடுகளைச் செய்ய தனிப்பட்ட முகவர்களை வடிவமைப்பதில் கவனம் செலுத்துகின்றன (பெரும்பாலும் 'ஒற்றை வீரர்' விளையாட்டுகளில்). செயற்கை நுண்ணறிவு அமைப்புகள் மிகவும் தன்னாட்சி பெறுவதால், அவை தொடர்பு கொள்ளும் முறையைப் படிப்பதும் வடிவமைப்பதும் அவசியம் என்று அறிஞர்கள் பரிந்துரைத்துள்ளனர். நிர்வாகத்தில் செயற்கை நுண்ணறிவு ஆளுகை என்பது செயற்கை நுண்ணறிவு அமைப்புகளின் பயன்பாடு மற்றும் வளர்ச்சிக்கு வழிகாட்டுவதற்கான விதிமுறைகள், தரநிலைகள் மற்றும் ஒழுங்குமுறைகளை உருவாக்குவதில் பரந்தளவில் அக்கறை கொண்டுள்ளது. செயற்கை நுண்ணறிவு பாதுகாப்பு நிர்வாக ஆராய்ச்சி என்பது செயற்கை நுண்ணறிவின் சாத்தியமான தாக்கங்கள் குறித்த அடிப்படை விசாரணைகள் முதல் குறிப்பிட்ட பயன்பாடுகள் வரை உள்ளது. அடிப்படை பக்கத்தில், செயற்கை நுண்ணறிவு அதன் பரந்த பொருந்தக்கூடிய தன்மை காரணமாக சமூகத்தின் பல அம்சங்களை மாற்ற முடியும் என்று ஆராய்ச்சியாளர்கள் வாதிட்டனர், அதை மின்சாரம் மற்றும் நீராவி இயந்திரத்துடன் ஒப்பிட்டனர். சில வேலைகள் இந்த தாக்கங்களிலிருந்து எழக்கூடிய குறிப்பிட்ட அபாயங்களை எதிர்பார்ப்பதில் கவனம் செலுத்தியுள்ளன-எடுத்துக்காட்டாக, வெகுஜன வேலையின்மை, ஆயுதமயமாக்கல், தவறான தகவல், கண்காணிப்பு மற்றும் அதிகாரத்தின் செறிவு ஆகியவற்றிலிருந்து ஏற்படும் அபாயங்கள். வேகமாக வளர்ந்து வரும் செயற்கை நுண்ணறிவு தொழிற்துறையை கண்காணிப்பதில் உள்ள சிரமம், செயற்கை நுண்ணறிவு மாதிரிகள் கிடைப்பது மற்றும் 'அடிமட்டத்திற்கு பந்தயம்' இயக்கவியல் போன்ற அடிப்படை ஆபத்து காரணிகளை மற்ற வேலைகள் ஆராய்கின்றன. டீப் மைண்டின் நீண்டகால ஆளுகை மற்றும் மூலோபாயத்தின் தலைவரான ஆலன் டாஃபோ, பந்தயத்தின் ஆபத்துகள் மற்றும் ஒத்துழைப்புக்கான சாத்தியமான தேவையை வலியுறுத்தியுள்ளார்ஃ "மேம்பட்ட சக்திவாய்ந்த அமைப்புகளைப் பயன்படுத்துவதற்கு முன்பு செயற்கை நுண்ணறிவு பாதுகாப்பு மற்றும் சீரமைப்புக்கு ஒரு தேவையான மற்றும் போதுமான நிபந்தனைக்கு நெருக்கமாக இருக்கலாம்; இருப்பினும், நடிகர்கள் முதல்-மூவர்ஸ் அல்லது ஒப்பீட்டு நன்மைக்கு அதிக வருவாயைக் கொண்ட ஒரு களத்தில் போட்டியிடுகிறார்கள் என்றால், அவர்கள் ஒரு துணை உகந்த அளவிலான எச்சரிக்கையைத் தேர்வு செய்ய அழுத்தம் கொடுக்கப்படுவார்கள்". அரசாங்க நடவடிக்கை சில வல்லுநர்கள் செயற்கை நுண்ணறிவை ஒழுங்குபடுத்துவது மிக விரைவில் என்று வாதிட்டனர், விதிமுறைகள் புதுமைக்கு இடையூறு விளைவிக்கும் மற்றும் "அறியாமையில் கட்டுப்படுத்த விரைந்து செல்வது" முட்டாள்தனமாக இருக்கும் என்ற கவலையை வெளிப்படுத்தினர். வணிக அதிபர் எலோன் மஸ்க் போன்ற மற்றவர்கள், குறைக்க முன்கூட்டிய நடவடிக்கை எடுக்க அழைப்பு விடுத்தனர். முறையான சட்டத்திற்கு வெளியே, அரசாங்க நிறுவனங்கள் நெறிமுறை மற்றும் பாதுகாப்பு பரிந்துரைகளை முன்வைத்துள்ளன. மார்ச் 2021 இல், செயற்கை நுண்ணறிவுக்கான அமெரிக்க தேசிய பாதுகாப்பு ஆணையம், செயற்கை நுண்ணறிவின் முன்னேற்றங்கள் "அமைப்புகள் பாதுகாப்பு, வலிமை மற்றும் நம்பகத்தன்மை உள்ளிட்ட குறிக்கோள்கள் மற்றும் மதிப்புகளுடன் சீரமைக்கப்பட்டுள்ளன என்பதை உறுதிப்படுத்துவது" பெருகிய முறையில் முக்கியமானதாக இருக்கும் என்று அறிவித்தது. அதைத் தொடர்ந்து, தேசிய தரநிலைகள் மற்றும் தொழில்நுட்ப நிறுவனம் செயற்கை நுண்ணறிவு அபாயத்தை நிர்வகிப்பதற்கான ஒரு கட்டமைப்பை உருவாக்கியது, இது "பேரழிவு அபாயங்கள் இருக்கும்போது-அபாயங்களை போதுமான அளவு நிர்வகிக்கும் வரை மேம்பாடு மற்றும் வரிசைப்படுத்தல் பாதுகாப்பான முறையில் நிறுத்தப்பட வேண்டும்" என்று அறிவுறுத்துகிறது. செப்டம்பர் 2021 இல், சீன மக்கள் குடியரசு சீனாவில் செயற்கை நுண்ணறிவைப் பயன்படுத்துவதற்கான நெறிமுறை வழிகாட்டுதல்களை வெளியிட்டது, செயற்கை நுண்ணறிவு முடிவுகள் மனித கட்டுப்பாட்டின் கீழ் இருக்க வேண்டும் என்பதை வலியுறுத்தியது மற்றும் பொறுப்புக்கூறல் வழிமுறைகளுக்கு அழைப்பு விடுத்தது. அதே மாதத்தில், யுனைடெட் கிங்டம் தனது 10 ஆண்டு தேசிய செயற்கை நுண்ணறிவு மூலோபாயத்தை வெளியிட்டது, இது பிரிட்டிஷ் அரசாங்கம் "அணிசேரா செயற்கை பொது நுண்ணறிவின் நீண்டகால ஆபத்தையும், அது உலகிற்கு ஏற்படுத்தும் எதிர்பாராத மாற்றங்களையும் தீவிரமாக எடுத்துக்கொள்கிறது" என்று கூறுகிறது. பேரழிவு அபாயங்கள் உட்பட நீண்ட கால AI அபாயங்களை மதிப்பிடுவதற்கான நடவடிக்கைகளை இந்த மூலோபாயம் விவரிக்கிறது. செயற்கை நுண்ணறிவு பாதுகாப்பு குறித்த முதல் பெரிய உலகளாவிய உச்சிமாநாட்டிற்கான திட்டங்களை பிரிட்டிஷ் அரசாங்கம் அறிவித்துள்ளது. இது 2023 நவம்பர் 1 மற்றும் 2 ஆம் தேதிகளில் நடைபெற உள்ளது, மேலும் இது "கொள்கை வகுப்பாளர்கள் மற்றும் உலகத் தலைவர்களுக்கு செயற்கை நுண்ணறிவின் உடனடி மற்றும் எதிர்கால அபாயங்கள் மற்றும் உலகளாவிய ஒருங்கிணைந்த அணுகுமுறையின் மூலம் இந்த அபாயங்களை எவ்வாறு குறைக்கலாம் என்பதைக் கருத்தில் கொள்ள ஒரு வாய்ப்பாகும்". அரசாங்க அமைப்புகளும், குறிப்பாக அமெரிக்காவில், தொழில்நுட்ப செயற்கை நுண்ணறிவு பாதுகாப்பு ஆராய்ச்சியின் வளர்ச்சியை ஊக்குவித்துள்ளன. நுண்ணறிவு மேம்பட்ட ஆராய்ச்சி திட்ட செயல்பாடு செயற்கை நுண்ணறிவு அமைப்புகள் மீதான ட்ரோஜன் தாக்குதல்களை அடையாளம் கண்டு பாதுகாப்பதற்காக ட்ரோஜாய் திட்டத்தை தொடங்கியது. DARPA விளக்கக்கூடிய செயற்கை நுண்ணறிவு பற்றிய ஆராய்ச்சியில் ஈடுபடுகிறது மற்றும் விரோத தாக்குதல்களுக்கு எதிரான வலிமையை மேம்படுத்துகிறது. தேசிய அறிவியல் அறக்கட்டளை நம்பகமான இயந்திர கற்றல் மையத்தை ஆதரிக்கிறது, மேலும் அனுபவ செயற்கை நுண்ணறிவு பாதுகாப்பு ஆராய்ச்சிக்கு மில்லியன் கணக்கான டாலர்களை வழங்குகிறது. பெருநிறுவன சுய கட்டுப்பாடு செயற்கை நுண்ணறிவு ஆய்வகங்கள் மற்றும் நிறுவனங்கள் பொதுவாக முறையான சட்டத்திற்கு வெளியே வரும் பாதுகாப்பு நடைமுறைகள் மற்றும் விதிமுறைகளை கடைப்பிடிக்கின்றன. நிர்வாக ஆராய்ச்சியாளர்களின் ஒரு நோக்கம் இந்த விதிமுறைகளை வடிவமைப்பதாகும். இலக்கியத்தில் காணப்படும் பாதுகாப்பு பரிந்துரைகளின் எடுத்துக்காட்டுகளில் மூன்றாம் தரப்பு தணிக்கை செய்வது, தோல்விகளைக் கண்டுபிடிப்பதற்கான பவுண்டரிகளை வழங்குவது, செயற்கை நுண்ணறிவு சம்பவங்களைப் பகிர்வது (இந்த நோக்கத்திற்காக ஒரு செயற்கை நுண்ணறிவு சம்பவ தரவுத்தளம் உருவாக்கப்பட்டது), ஆராய்ச்சி அல்லது மாதிரிகளை வெளியிடலாமா என்பதைத் தீர்மானிக்க வழிகாட்டுதல்களைப் பின்பற்றுவது மற்றும் செயற்கை நுண்ணறிவு ஆய்வகங்களில் தகவல் மற்றும் இணைய பாதுகாப்பை மேம்படுத்துவது ஆகியவை அடங்கும். நிறுவனங்களும் உறுதிமொழிகளை அளித்துள்ளன. கோஹெர், ஓபன்ஏஐ மற்றும் ஏஐ21 ஆகியவை தவறான பயன்பாட்டைக் குறைப்பதில் கவனம் செலுத்தி, "மொழி மாதிரிகளைப் பயன்படுத்துவதற்கான சிறந்த நடைமுறைகள்" குறித்து முன்மொழிந்தன மற்றும் ஒப்புக் கொண்டன. பந்தய-இயக்கவியலுக்கு பங்களிப்பதைத் தவிர்ப்பதற்காக, ஓபன்ஏஐ தங்கள் சாசனத்தில், "ஒரு மதிப்பு-சீரமைக்கப்பட்ட, பாதுகாப்பு-உணர்வுள்ள திட்டம் ஏஜிஐயை உருவாக்குவதற்கு அருகில் வந்தால், நாங்கள் போட்டியிடுவதை நிறுத்திவிட்டு இந்த திட்டத்திற்கு உதவத் தொடங்க உறுதிபூண்டோம்" என்றும் கூறியுள்ளது. செயற்கை நுண்ணறிவு சீரமைப்பு செயற்கை நுண்ணறிவு கண்டறிதல் மென்பொருள் குறிப்புகள் வெளிப்புற இணைப்புகள் எம்எல் பாதுகாப்பில் தீர்க்கப்படாத சிக்கல்கள் அடித்தள மாதிரிகளின் வாய்ப்புகள் மற்றும் அபாயங்கள் பேரழிவு செயற்கை நுண்ணறிவு அபாயங்களின் ஒரு கண்ணோட்டம் செயற்கை நுண்ணறிவு விபத்துக்கள்ஃ ஒரு வளர்ந்து வரும் அச்சுறுத்தல் பொறியியல் ஒரு பாதுகாப்பான உலக செயற்கை நுண்ணறிவு செயற்கை பொது நுண்ணறிவு சைபர்நெடிக்ஸிலிருந்து இருக்கும் ஆபத்து