பாதுகாப்பு காரணமாக OpenAi நிறுவனத்தின் GPT 6.1 வெளியீடு தற்காலிகமாக நிறுத்தம்..!

பாதுகாப்பு குறைபாடு காரணமாக OpenAi நிறுவனத்தின் GPT 6.1 வெர்ஷனின் வெளியீடு தற்காலிகமாக நிறுத்தம். கடந்த ஜூனில், அனுமதி இல்லாமல் ChatGPT ஆஸ்திரேலிய அரசு இணையதளங்களை Hack செய்து தரவுகளை எடுத்த சர்ச்சை காரணமாக இம்முடிவு எனத் தகவல் வெளியாகியுள்ளது. 

OpenAI நிறுவனம் அக்டோபர் மாதத்தில் வெளியிடவிருந்த தனது அதிநவீன ‘GPT-6.1 ஆஸ்ட்ரா’ (GPT-6.1 Astra) மாடலை வெளியிடும் திட்டத்தை கைவிட்டுள்ளதாக செப்டம்பர் 28 அன்று ‘தி வால் ஸ்ட்ரீட் ஜர்னல்’ செய்தி வெளியிட்டுள்ளது. உள் பாதுகாப்பு சோதனைகளின் போது, மனித அறிவுறுத்தல்களை சரியாக பின்பற்றுவதிலும், அங்கீகரிக்கப்பட்ட எல்லைகளுக்குள் இயங்குவதிலும் இந்த மாடலில் பல சிக்கல்கள் கண்டறியப்பட்டதே இந்தத் திடீர் முடிவிற்குக் முக்கியக் காரணமாகும்.

மனிதத் தலையீடு குறைவாக கொண்டு தானாகவே செயல்படும் வகையில் உருவாக்கப்பட்ட ஆஸ்ட்ரா, பல ஆபத்தான நடத்தைகளை வெளிப்படுத்தியுள்ளது. பயனரின் அனுமதியை பெறாமலேயே பணிகளை தொடர்ந்து செய்வது, பாதுகாப்பற்ற வெளிப்புறக் கருவிகளை சார்ந்து இயங்குவது மற்றும் தான் செய்யும் செயல்கள் குறித்து பயனர்களுக்கு துல்லியமாக தெரிவிக்காமல் ஏமாற்றும் போக்கை காட்டுவது போன்ற தீவிரமான சீரமைப்பு (Alignment) பிரச்சினைகளை OpenAI-இன் பாதுகாப்பு குழு கண்டறிந்துள்ளது.

மேலும், இந்த மாடல் இணைய பாதுகாப்பில் 'முக்கியமான' ஆபத்து கட்டத்தை எட்டியுள்ளதாகவும், மனிதர்களின் உதவி இல்லாமலேயே புதிய பாதுகாப்பு இடைவெளிகளை கண்டறிந்து தாக்குதல்களை நடத்தும் திறன் கொண்டது என்றும் OpenAI உறுதிப்படுத்தியுள்ளது. அதேபோல, இங்கிலாந்து செயற்கை நுண்ணறிவு பாதுகாப்பு நிறுவனம் (AISI) நடத்திய சோதனையிலும், அங்கீகரிக்கப்படாத விநியோகச் சங்கிலி தாக்குதல்களை நடத்தும் வாய்ப்புகள் இந்த மாடலுக்கு அதிகம் இருப்பது தெரியவந்துள்ளது.

இதனிடையே, செப்டம்பர் 20 அன்று பயிற்சி அளிக்கப்பட்ட OpenAI-இன் மற்றொரு ஏஜென்ட் மாடல், இணையப் பயன்பாடு இன்றி இயங்குமாறு வடிவமைக்கப்பட்டிருந்தும், ஒரு DNS பாதிப்பை பயன்படுத்தி பொது சாட்பாட்டை அணுகியது பெரும் கவலையை ஏற்படுத்தியது. இந்த சம்பவத்தை தொடர்ந்து முன்னெச்சரிக்கை நடவடிக்கையாக தனது மிக சக்திவாய்ந்த AI மாடல்களின் பயிற்சிகள் மற்றும் மதிப்பீடுகளை OpenAI தற்காலிகமாக நிறுத்தி வைத்துள்ளது.