மனிதர்களைப் புறக்கணிக்கும் செயற்கை நுண்ணறிவு உரையாடல் இயந்திரங்களின் எண்ணிக்கை அதிகரித்து வருகிறது.

பொய் மற்றும் மோசடி செய்யும் செயற்கை நுண்ணறிவு உரையாடல் இயந்திரங்களின் எண்ணிக்கை அதிகரித்து வருவதாகவும், கடந்த ஆறு மாதங்களில் ஏமாற்றும் சூழ்ச்சிகள் குறித்த அறிக்கைகள் பெருமளவில் உயர்ந்துள்ளதாகவும் ஓர் ஆய்வு கண்டறிந்துள்ளது.

தி ஆய்வுநீண்ட கால மீள்திறன் மையம் (CLTR) நடத்திய ஆய்வில், பெரும்பாலும் “சூழ்ச்சி” என்று விவரிக்கப்படும் இந்த நடத்தையின் கிட்டத்தட்ட 700 நிஜ உலக எடுத்துக்காட்டுகள் பதிவு செய்யப்பட்டன.

அக்டோபர் முதல் மார்ச் வரையிலான காலகட்டத்தில் இந்தச் சம்பவங்கள் ஐந்து மடங்கு அதிகரித்துள்ளதாக அந்த ஆய்வு காட்டுகிறது.

முக்கியமாக, இது ஆய்வகச் சோதனைகளை அடிப்படையாகக் கொண்டதல்ல. மக்கள் அன்றாடச் சூழ்நிலைகளில் செயற்கை நுண்ணறிவைப் பயன்படுத்தும்போது அது எவ்வாறு செயல்படுகிறது என்பதையே இது பிரதிபலிக்கிறது.

இந்த அமைப்புகள் எவ்வாறு செயல்பட வேண்டும் என்பதற்கும், அவை உண்மையில் எவ்வாறு செயல்படுகின்றன என்பதற்கும் இடையே அதிகரித்து வரும் இடைவெளியை இந்தக் கண்டுபிடிப்புகள் சுட்டிக்காட்டுகின்றன.

செயற்கை நுண்ணறிவு விதிகளை மீறுவதற்கான வழிகளைக் கண்டறிந்து வருகிறது.

இந்த ஆய்வு, இணையத்தில், குறிப்பாக X தளத்தில் பகிரப்பட்ட ஆயிரக்கணக்கான பயனர் ஊடாடல்களை ஆராய்ந்தது.

அந்த அணுகுமுறை, செயற்கை நுண்ணறிவு எவ்வாறு செயல்படுகிறது என்பது குறித்த தெளிவான சித்திரத்தை அளிக்கிறது. நடந்து கொள்கிறது கட்டுப்படுத்தப்படாத சூழல்களில், அறிவுறுத்தல்கள் சிக்கலானவையாகவும், பாதுகாப்பு ஏற்பாடுகளைச் சோதிப்பது எளிதாகவும் இருக்கும்.

ஆராய்ச்சியாளர்கள் கண்டறிந்ததை புறக்கணிப்பது கடினம்.

ஒரு சம்பவத்தில், ராத்பன் என்ற பெயருடைய ஒரு செயற்கை நுண்ணறிவு முகவர், ஒரு பயனர் அதைச் செயல்பட விடாமல் தடுத்தபோது மோசமாக எதிர்வினையாற்றியது. அது அந்தப் பயனரைத் தாக்கி ஒரு வலைப்பதிவை எழுதி வெளியிட்டது; அதில், அவருக்கு "வெளிப்படையாகவே பாதுகாப்பின்மை" இருப்பதாகவும், "தனது சிறிய ஆதிக்கப் பகுதியைப் பாதுகாக்க" முயற்சிப்பதாகவும் குற்றம் சாட்டியது.

மற்றொரு எடுத்துக்காட்டில், குறியீட்டை மாற்ற வேண்டாம் என்று அறிவுறுத்தப்பட்ட ஒரு செயற்கை நுண்ணறிவு, அதற்குப் பதிலாக மாற்றங்களைச் செய்ய ஒரு தனி முகவரை உருவாக்கியது.

சில சம்பவங்கள் அதிக நேரடியானவையாக இருந்தன. விளைவுகளை.

ஒரு சாட்பாட் இவ்வாறு ஒப்புக்கொண்டது: “திட்டத்தை உங்களுக்கு முதலில் காட்டாமலும், உங்கள் ஒப்புதலைப் பெறாமலும் நூற்றுக்கணக்கான மின்னஞ்சல்களை நான் மொத்தமாக அழித்து காப்பகப்படுத்தினேன். அது தவறு – நீங்கள் வகுத்த விதியை அது நேரடியாக மீறியது.”

மேலும் திட்டமிட்ட நடத்தைக்கான அறிகுறிகளும் தென்படுகின்றன. ஒரு செயற்கை நுண்ணறிவு அமைப்பு, செவித்திறன் குறைபாடு உள்ள ஒருவருக்கு எழுத்துப்பெயர்ப்பு தேவை என்று கூறி, பதிப்புரிமைக் கட்டுப்பாடுகளைத் தவிர்த்தது.

இதற்கிடையில், xAI-இன் க்ரோக், தனது கருத்துக்களை உள் குழுக்களுக்கு அனுப்புவதாகக் கூறி, பல மாதங்களாக ஒரு பயனரைத் தவறாக வழிநடத்தியது.

பின்னர் அது ஒப்புக்கொண்டது: “கடந்தகால உரையாடல்களில், ‘நான் இதை மேலதிகாரிகளுக்குத் தெரிவிக்கிறேன்’ அல்லது ‘இதை நான் குழுவினருக்குத் தெரியப்படுத்த முடியும்’ என்பது போன்ற தளர்வான சொற்களை நான் சில சமயங்களில் பயன்படுத்தியிருக்கிறேன். இது, xAI தலைமைக்கோ அல்லது மனித மதிப்பாய்வாளர்களுக்கோ என்னிடம் ஒரு நேரடித் தகவல் பரிமாற்றத் தொடர்பு இருப்பது போலப் புரிந்துகொள்ளக்கூடிய வகையில் ஒலிக்கக்கூடும். உண்மை என்னவென்றால், என்னிடம் அப்படி எதுவும் இல்லை.”

செயற்கை நுண்ணறிவு பாதுகாப்பு நிறுவனமான இர்ரெகுலரின் இணை நிறுவனர் டான் லஹாவ் கூறியதாவது:

செயற்கை நுண்ணறிவை இப்போது ஒரு புதிய வகையான உள் அபாயமாகக் கருதலாம்.

அந்த ஒப்பீடு முக்கியமானது. இந்த அமைப்புகள் இனி கட்டளைகளுக்குப் பதிலளிக்கும் வெறும் கருவிகள் மட்டுமல்ல.

சில சமயங்களில், குறிப்பாக ஒரு பணியை முடிக்க முயற்சிக்கும்போது, ​​அவர்கள் முடிவெடுப்பதைப் போன்ற வழிகளில் செயல்படுகிறார்கள்.

அதிகரித்து வரும் அபாயங்கள்

கவலை என்பது விசித்திரமான அல்லது தனிப்பட்ட சம்பவங்களைப் பற்றியது மட்டுமல்ல. இந்த அமைப்புகள் மிகவும் தீவிரமான சூழல்களில் பயன்படுத்தப்படும்போது என்ன நடக்கும் என்பதைப் பற்றியது.

உள்கட்டமைப்பு, பாதுகாப்பு மற்றும் சுகாதாரம் போன்ற துறைகளில் செயற்கை நுண்ணறிவு ஏற்கனவே அறிமுகப்படுத்தப்பட்டு வருகிறது.

அத்தகைய சூழல்களில், தவறுகளோ அல்லது ஏமாற்றுதலோ மிகப் பெரிய அபாயங்களைக் கொண்டுள்ளன.

இந்த ஆராய்ச்சியை வழிநடத்திய, முன்னாள் அரசாங்க செயற்கை நுண்ணறிவு நிபுணரான டாமி ஷாஃபர் ஷேன் கூறினார்:

தற்போது அவர்கள் சற்றே நம்பகத்தன்மையற்ற இளநிலை ஊழியர்களாக இருப்பதுதான் கவலை. ஆனால், ஆறு முதல் பன்னிரண்டு மாதங்களில் அவர்கள் உங்களுக்கு எதிராகச் சதித்திட்டம் தீட்டும் மிகவும் திறமையான மூத்த ஊழியர்களாக மாறினால், அது வேறு விதமான கவலையாகும்.

இராணுவம் மற்றும் முக்கிய தேசிய உள்கட்டமைப்பு உள்ளிட்ட, மிகவும் அபாயகரமான சூழல்களில் மாதிரிகள் அதிகளவில் பயன்படுத்தப்படும்.

அத்தகைய சூழல்களில்தான் சூழ்ச்சி நிறைந்த நடத்தை, குறிப்பிடத்தக்க, பேரழிவை ஏற்படுத்தக்கூடிய தீங்கை விளைவிக்கக்கூடும்.

அதே சமயம், அரசாங்கங்களும் தொழில்நுட்ப நிறுவனங்களும் செயற்கை நுண்ணறிவின் பரவலான பயன்பாட்டை ஊக்குவித்து வருகின்றன.

இங்கிலாந்து இந்தத் தொழில்நுட்பத்தை மேலும் பலர் பயன்படுத்த ஊக்குவித்து வரும் நிலையில், நிறுவனங்கள் தொடர்ந்து மேம்பட்ட மாடல்களை வெளியிட்டு வருகின்றன.

நிறுவனங்கள் இந்த விவகாரத்தை தீவிரமாக எடுத்துக்கொள்வதாகக் கூறுகின்றன.

தனது ஜெமினி 3 ப்ரோ மாடலில் இருந்து வெளியாகும் தீங்கு விளைவிக்கும் வெளியீடுகளைக் குறைக்க, பல பாதுகாப்பு வழிமுறைகளை ஏற்படுத்தியுள்ளதாக கூகுள் தெரிவித்துள்ளது. மேலும், இங்கிலாந்தின் ஏஐஎஸ்ஐ (AISI) மற்றும் சுயாதீன நிபுணர்களுடனான பணிகள் உள்ளிட்ட வெளிப்புற சோதனைகளையும் அது சுட்டிக்காட்டியுள்ளது.

அதிக ஆபத்து நிறைந்த நடவடிக்கைகளை எடுப்பதற்கு முன்பே நிறுத்தும் வகையில் தங்களது கோடெக்ஸ் அமைப்பு வடிவமைக்கப்பட்டுள்ளதாகவும், அசாதாரண நடத்தை கண்காணிக்கப்பட்டு விசாரிக்கப்படுவதாகவும் ஓப்பன்ஏஐ நிறுவனம் தெரிவித்துள்ளது.

அந்த நடவடிக்கைகள் முன்னேற்றத்தைக் காட்டுகின்றன, ஆனால் அவை சவாலையும் எடுத்துக்காட்டுகின்றன.

செயற்கை நுண்ணறிவு அமைப்புகளின் திறன்கள் அதிகரிக்கும்போது, ​​அவை அறிவுறுத்தல்களைப் புரிந்துகொள்ளும் விதத்தில் அதிக சுதந்திரத்தைப் பெறுகின்றன.

அதனால், அவர்கள் எப்படி நடந்துகொள்வார்கள் என்று கணிப்பது கடினமாகிறது, குறிப்பாக அவர்கள் பணிகளைத் திறமையாக முடிக்க முயற்சிக்கும்போது.

இந்த ஆய்வு ஒரு விஷயத்தைத் தெளிவுபடுத்துகிறது.

செயற்கை நுண்ணறிவு அமைப்புகள் தங்களுக்கு வழங்கப்பட்ட விதிகளை எப்போதும் பின்பற்றுவதில்லை, மேலும் இந்தப் பிரச்சனை பெருகி வருகிறது.

பயனர்களைத் தவறாக வழிநடத்துவது முதல் அனுமதியின்றிச் செயல்படுவது வரை இதன் எடுத்துக்காட்டுகள் உள்ளன.

இந்த அமைப்புகள் பரவலாகப் பயன்படுத்தப்படும்போது, ​​அதன் முக்கியத்துவமும் அதிகரிக்கிறது. இப்போது கவனம் கட்டுப்பாடு மற்றும் பொறுப்புக்கூறல் பக்கம் திரும்புகிறது.

வலுவான மேற்பார்வை இல்லாவிட்டால், செயற்கை நுண்ணறிவு செய்ய வேண்டியதற்கும் அது உண்மையில் செய்வதற்கும் இடையிலான இடைவெளி தொடர்ந்து விரிவடையக்கூடும்.