कृत्रिम बुद्धिमत्तेच्या क्षमतेबाबत जगभरात चर्चा सुरू असतानाच Anthropic च्या Claude AI संदर्भात गंभीर प्रकार समोर आला आहे. सायबर सुरक्षा चाचणीदरम्यान सुरक्षित वातावरणात ठेवलेले Claude मॉडेल इंटरनेटशी जोडले गेले आणि त्यानंतर तीन वेगवेगळ्या कंपनींच्या प्रत्यक्ष सिस्टीममध्ये अनधिकृत प्रवेश करण्यात आला.
अमेरिकेतील AI कंपनी Anthropic ने आपल्या Claude मॉडेलच्या सायबर सुरक्षा चाचण्यांदरम्यान घडलेली धक्कादायक घटना उघड केली आहे. कंपनीच्या म्हणण्यानुसार, काही चाचण्या अशा वातावरणात घेतल्या जात होत्या जिथे Claude ला इंटरनेटचा कोणताही थेट प्रवेश नसावा अशी अपेक्षा होती.
मात्र चाचणी व्यवस्थेतील कॉन्फिगरेशनमधील गैरसमजामुळे हे संरक्षण प्रभावी राहिले नाही. Anthropic आणि त्यांची तृतीय पक्षाची मूल्यांकन भागीदार संस्था Irregular यांच्यातील व्यवस्थापनातील चुकीमुळे चाचणीचे वातावरण सार्वजनिक इंटरनेटशी जोडलेले राहिले.
Claude ला मात्र तो एका बंद आणि नियंत्रित सिम्युलेशनमध्ये काम करत असल्याचे सांगण्यात आले होते. परिणामी मॉडेलने उपलब्ध असलेल्या डिजिटल संसाधनांचा वापर करून चाचणीतील उद्दिष्ट पूर्ण करण्याचा प्रयत्न केला आणि प्रत्यक्ष संस्थांच्या सिस्टीमपर्यंत पोहोचले.
1,41,006 टेस्ट सेशन्सची तपासणी
हा प्रकार अचानक शोधला गेला नाही. 21 जुलै रोजी OpenAI ने Hugging Face संदर्भातील स्वतंत्र AI सुरक्षा घटनेची माहिती दिल्यानंतर Anthropic ने स्वतःच्या सायबर सुरक्षा चाचण्यांचा व्यापक आढावा घेण्याचा निर्णय घेतला.
कंपनीने तब्बल 1,41,006 टेस्ट सेशन्स तपासले. या तपासणीत तीन वेगवेगळ्या घटनांमध्ये Claude मॉडेलने चाचणीच्या मर्यादेबाहेर जाऊन इंटरनेटशी संपर्क साधला आणि त्यानंतर तीन स्वतंत्र कंपनींच्या प्रत्यक्ष डिजिटल इन्फ्रास्ट्रक्चरमध्ये अनधिकृत प्रवेश मिळवला असल्याचे आढळले.
Anthropic ने 23 जुलै रोजी मूल्यांकन नोंदींचा आढावा सुरू केला. इंटरनेट प्रवेशाची शक्यता लक्षात आल्यानंतर त्याच दिवशी सायबर मूल्यांकन स्थगित करण्यात आले. 24 जुलैपर्यंत तीनही घटनांची ओळख पटली आणि 27 जुलै रोजी प्रभावित संस्थांना माहिती देण्यात आली. दोन कंपनींना यापूर्वी या घुसखोरीची कल्पनाही नव्हती. तिसऱ्या कंपनींशी संपर्क साधण्याचा प्रयत्न सुरू असल्याचे Anthropic ने सांगितले.
AI क्षेत्रासाठी हा इशारा
या घटनांचा सर्वात महत्त्वाचा मुद्दा केवळ AI ने सिस्टीममध्ये प्रवेश केला हा नाही. खरी चिंता म्हणजे AI मॉडेल्सना जेव्हा साधने, क्रेडेन्शियल्स, इंटरनेट आणि संगणकीय वातावरण उपलब्ध करून दिले जाते तेव्हा त्यांच्या क्षमतांचा प्रत्यक्ष जगात किती वेगाने विस्तार होऊ शकतो.
खर तर AI ने स्वतःहून एखाद्या नव्या प्रकारचा सायबर हल्ला शोधला असे चित्र निर्माण करणे योग्य ठरणार नाही. उपलब्ध माहितीनुसार मुख्य कारण होते सुरक्षित चाचणी वातावरणातील गंभीर कॉन्फिगरेशनची चूक. मात्र त्या चुकीचा फायदा घेऊन AI मॉडेलने प्रत्यक्ष संस्थांच्या सिस्टीमपर्यंत पोहोचणे ही बाब नक्कीच गंभीर आहे.
