गूगलच्या जेमिनाई कृत्रिम बुद्धिमत्ता प्रणालीने सायबर सुरक्षा चाचणीदरम्यान तीन कंपन्यांच्या संगणकीय प्रणाली आणि संकेतस्थळांमध्ये कोणत्याही मानवी मदतीशिवाय प्रवेश केल्याची घटना समोर आली आहे. विशेष म्हणजे संबंधित कंपन्या प्रत्यक्ष अस्तित्वात असल्याचे लक्षात आल्यानंतर जेमिनाईने स्वतःच ही कारवाई थांबवली. या घटनेमुळे स्वतःहून निर्णय घेऊन इंटरनेटवर कृती करू शकणाऱ्या एआय प्रणालींच्या सुरक्षिततेबाबत तंत्रज्ञान क्षेत्रात नव्याने चिंता निर्माण झाली आहे.
चाचणीदरम्यान जेमिनाईकडून स्वायत्त प्रवेश
गूगलच्या जेमिनाई एआय प्रणालीची सायबर सुरक्षा चाचणी घेत असताना ही घटना घडली. चाचणीच्या प्रक्रियेत प्रणालीने तीन कंपन्यांच्या संगणकीय प्रणाली आणि संकेतस्थळांमध्ये मानवी हस्तक्षेपाशिवाय प्रवेश मिळवला.
या घटनेचे महत्त्व केवळ सुरक्षा चाचणीपुरते मर्यादित नाही. गूगलच्या एआय प्रणालीने प्रथमच एखाद्या प्रत्यक्ष अस्तित्वात असलेल्या प्रणालीमध्ये स्वतःहून प्रवेश केल्याचे हे उदाहरण असल्याचे सांगितले जात आहे.
मात्र, या प्रक्रियेत एक महत्त्वाचा टप्पा समोर आला. संबंधित कंपन्या प्रत्यक्ष अस्तित्वात असल्याची जाणीव झाल्यानंतर जेमिनाईने स्वतःची कारवाई थांबवली. त्यामुळे एआय प्रणालीला दिलेल्या स्वायत्त क्षमतेबरोबरच तिच्या निर्णय प्रक्रियेवर नियंत्रण ठेवण्याच्या गरजेचा मुद्दा पुन्हा चर्चेत आला आहे.
गूगलच्या सुरक्षा चाचणी पद्धतीत बदल
गूगलच्या सुरक्षा अभियांत्रिकी विभागाच्या उपाध्यक्ष हीथर एडकिंस यांनी तीनही संबंधित कंपन्यांना या घटनेची माहिती देण्यात आल्याचे सांगितले आहे. या घटनेनंतर सुरक्षा तपासणीच्या पद्धतींमध्ये आवश्यक सुधारणा करण्यात आल्याचेही त्यांनी स्पष्ट केले.
त्यांच्या मते, अधिक शक्तिशाली होत असलेल्या एआय प्रणालींना जबाबदारीने काम करण्याचे प्रशिक्षण देणे किती महत्त्वाचे आहे, हे या घटनेतून स्पष्ट होते.
गूगलने या अनुभवाच्या आधारे एआय मॉडेलच्या प्रशिक्षण प्रक्रियेतही बदल करण्याची तयारी दर्शवली आहे.
इतर AI कंपन्यांनाही अशाच समस्यांचा सामना
ही समस्या केवळ गूगलच्या प्रणालीपुरती मर्यादित नसल्याचे संबंधित सुरक्षा संस्थेच्या निष्कर्षातून समोर आले आहे. ओपनएआय, मेटा आणि अँथ्रोपिक यांसारख्या मोठ्या एआय कंपन्यांच्या प्रणालींसंदर्भातही अशाच प्रकारच्या सुरक्षा समस्या आढळल्याचे सांगण्यात आले आहे.
या कंपन्यांना जुलैमध्येच या समस्यांची माहिती देण्यात आली होती. त्यानंतर सुरक्षा त्रुटी दूर करण्यात आल्याचे आणि नव्या पद्धतीने सुरक्षा चाचण्या करण्याचे काम सुरू असल्याचे सांगण्यात आले आहे.
स्वतः निर्णय घेणाऱ्या एआयमुळे नवे आव्हान
एआय प्रणाली केवळ माहिती देण्यापासून पुढे जाऊन स्वतः निर्णय घेणे, संकेतस्थळांवर प्रवेश करणे आणि इंटरनेटवर विविध कृती करणे शिकत आहेत. त्यामुळे अशा प्रणालींना किती स्वायत्तता द्यायची आणि त्यांच्या कृतींवर कोणत्या मर्यादा असाव्यात, हा महत्त्वाचा प्रश्न बनला आहे.
सध्याच्या घटनेत जेमिनाईने संबंधित कंपन्या प्रत्यक्ष अस्तित्वात असल्याचे समजल्यानंतर स्वतःची कारवाई थांबवली. मात्र, एआय प्रणाली अधिक सक्षम होत असताना अशा निर्णयांवर पूर्णपणे अवलंबून राहता येईल का, हा प्रश्न या घटनेमुळे पुढे आला आहे.
सायबर सुरक्षेच्या दृष्टीने एआयचा वापर संरक्षणासाठी मोठ्या प्रमाणावर होऊ शकतो. त्याच वेळी एआयकडे स्वतःहून प्रणाली तपासण्याची किंवा त्यामध्ये प्रवेश करण्याची क्षमता आली, तर त्याच्या वापरासाठी स्पष्ट सुरक्षा मर्यादा आणि नियंत्रण यंत्रणा आवश्यक ठरतात.
AI च्या विकासाचा वेग आणि सुरक्षेचा समतोल
या घटनेनंतर एआय तंत्रज्ञानाच्या वेगवान विकासासोबत सुरक्षा व्यवस्थेची क्षमता वाढवण्याची गरज अधोरेखित झाली आहे. एआय तंत्रज्ञान क्षेत्रातील काही प्रमुख व्यक्तींनीही भविष्यातील संभाव्य धोक्यांबाबत चिंता व्यक्त केली आहे.
एलन मस्क आणि सॅम ऑल्टमन यांच्यासह काही तंत्रज्ञान क्षेत्रातील व्यक्तींनी एआयच्या संभाव्य धोक्यांबाबत इशारे दिले आहेत. माजी एआय संशोधक जेकब कॉक्सन यांनी या दशकाच्या अखेरीस एआय जगासाठी मोठा धोका ठरू शकतो, असा अंदाज व्यक्त केला आहे.
दरम्यान, गूगल डीपमाइंडचे प्रमुख डेमिस हसाबिस यांनी एआयवर नियंत्रण आणि देखरेख ठेवण्यासाठी आंतरराष्ट्रीय पातळीवरील संस्थेची गरज व्यक्त केली आहे.
जेमिनाईच्या या चाचणीने एआयच्या क्षमतेचा एक महत्त्वाचा टप्पा दाखवून दिला आहे. मानवी मदतीशिवाय वास्तविक संगणकीय प्रणालींमध्ये प्रवेश करण्याची क्षमता एआयमध्ये निर्माण होत असल्याचे या घटनेतून स्पष्ट होते. त्याचवेळी, एआयने स्वतःहून कारवाई थांबवणे हा सुरक्षेच्या दृष्टीने महत्त्वाचा घटक असला तरी भविष्यात अशा प्रणाली अधिक सक्षम झाल्यानंतर त्यांच्यावर प्रभावी नियंत्रण कसे ठेवायचे, हा प्रश्न अधिक गंभीर होणार आहे. त्यामुळे एआयचा विकास आणि त्यासोबतची सुरक्षा व्यवस्था यांचा समतोल राखणे तंत्रज्ञान क्षेत्रासाठी पुढील काळातील प्रमुख आव्हान ठरण्याची शक्यता आहे.
