CERT-In द्वारा Anthropic के Claude Mythos AI मॉडल का सुरक्षा मूल्यांकन: भारत की राष्ट्रीय साइबर रक्षा को मजबूत करने की दिशा में महत्वपूर्ण पहल

भारत की कंप्यूटर इमरजेंसी रिस्पॉन्स टीम (CERT-In) को उन्नत AI मॉडल Anthropic के Claude Mythos तक पहुंच प्रदान की गई है, ताकि इसकी साइबर सुरक्षा जांच की जा सके और संभावित कमजोरियों की पहचान की जा सके। यह पहल उन्नत AI प्रणालियों के सुरक्षा प्रभावों का मूल्यांकन करने, उनके दुरुपयोग के विरुद्ध उनकी क्षमता को परखने तथा भारत की राष्ट्रीय साइबर रक्षा क्षमताओं को मजबूत करने के व्यापक प्रयास का हिस्सा है।

"जैसे-जैसे AI अधिक शक्तिशाली होता जा रहा है, वैसे-वैसे AI की सुरक्षा भी नेटवर्क सुरक्षा जितनी महत्वपूर्ण होती जा रही है। CERT-In द्वारा उन्नत AI मॉडलों का परीक्षण इस दिशा में एक सक्रिय कदम है, जिससे साइबर अपराधियों द्वारा उनका दुरुपयोग किए जाने से पहले ही कमजोरियों की पहचान की जा सके।"

प्रमुख बिंदु
1. उन्नत AI प्रणालियों का सुरक्षा मूल्यांकन

• CERT-In, Claude Mythos में संभावित साइबर सुरक्षा कमजोरियों, दुरुपयोग की आशंकाओं तथा जोखिमों की जांच करेगा।
• इस मूल्यांकन का उद्देश्य बड़े पैमाने पर तैनाती से पहले कमजोरियों की पहचान करना है।

2. AI सुरक्षा और संरक्षा पर विशेष ध्यान

• परीक्षण में प्रॉम्प्ट मैनिपुलेशन, जेलब्रेक प्रयासों, हानिकारक सामग्री निर्माण तथा साइबर अपराधियों द्वारा संभावित दुरुपयोग का आकलन शामिल हो सकता है।
• इसका उद्देश्य यह समझना है कि विरोधी (Adversarial) इनपुट मिलने पर उन्नत AI मॉडल किस प्रकार व्यवहार करते हैं।

3. भारत की साइबर तैयारी को मजबूत करना

• यह पहल AI गवर्नेंस और साइबर सुरक्षा के प्रति भारत के सक्रिय दृष्टिकोण को दर्शाती है।
• इससे प्राप्त निष्कर्ष भविष्य के नियामक ढांचे, सुरक्षा मानकों और AI तकनीकों की सुरक्षित तैनाती में योगदान दे सकते हैं।

4. सार्वजनिक-निजी सहयोग

• AI प्रणालियों के अधिक शक्तिशाली और व्यापक होने के साथ सरकारी साइबर सुरक्षा एजेंसियों और AI डेवलपर्स के बीच सहयोग का महत्व लगातार बढ़ रहा है।

साइबर सुरक्षा पर प्रभाव
1. दोधारी तलवार के रूप में AI

जहां उन्नत AI मॉडल खतरे की पहचान, घटना प्रतिक्रिया और मैलवेयर विश्लेषण के माध्यम से साइबर सुरक्षा को मजबूत कर सकते हैं, वहीं साइबर अपराधी उनका उपयोग निम्नलिखित गतिविधियों के लिए कर सकते हैं:

• सोशल इंजीनियरिंग अभियान
• फिशिंग सामग्री तैयार करना
• स्वचालित भेद्यता (Vulnerability) अनुसंधान
• दुर्भावनापूर्ण कोड (Malicious Code) विकसित करना
• गलत सूचना एवं प्रभाव संचालन (Disinformation Operations)

2. प्रतिकूल खतरों (Adversarial Threats) के विरुद्ध परीक्षण

सुरक्षा मूल्यांकन यह निर्धारित करने में सहायता कर सकते हैं कि अपराधी:

• अंतर्निहित सुरक्षा उपायों को दरकिनार कर सकते हैं या नहीं।
• प्रॉम्प्ट इंजेक्शन के माध्यम से AI के उत्तरों में हेरफेर कर सकते हैं या नहीं।
• हानिकारक साइबर-संबंधित सामग्री उत्पन्न कर सकते हैं या नहीं।
• मॉडल की कमजोरियों का लाभ उठाकर प्रतिबंधों को पार कर सकते हैं या नहीं।

3. राष्ट्रीय सुरक्षा से जुड़ी प्रासंगिकता

जैसे-जैसे AI महत्वपूर्ण क्षेत्रों में एकीकृत हो रहा है, बड़े भाषा मॉडलों (LLMs) की कमजोरियां निम्नलिखित क्षेत्रों को प्रभावित कर सकती हैं:

• सरकारी नेटवर्क
• महत्वपूर्ण अवसंरचना (Critical Infrastructure)
• वित्तीय प्रणाली
• सार्वजनिक डिजिटल सेवाएं
• रक्षा एवं खुफिया तंत्र

साइबर अपराध रोकथाम के लिए महत्व

CERT-In को उन्नत AI मॉडल तक पहुंच प्रदान किया जाना पारंपरिक प्रतिक्रियात्मक (Reactive) साइबर सुरक्षा से सक्रिय (Proactive) AI सुरक्षा सत्यापन की ओर बढ़ते कदम को दर्शाता है। वास्तविक दुनिया में कमजोरियों के शोषण की प्रतीक्षा करने के बजाय, सुरक्षा एजेंसियां नियंत्रित वातावरण में परीक्षण करके जोखिमों को पहले से समझने और कम करने का प्रयास कर रही हैं।

यह दृष्टिकोण:

• AI सुरक्षा मानकों को बेहतर बनाएगा।
• AI प्रणालियों पर विश्वास बढ़ाएगा।
• साइबर अपराधियों के दुरुपयोग की संभावनाओं को कम करेगा।
• AI जोखिम प्रबंधन नीतियों के विकास को समर्थन देगा।
• राष्ट्रीय साइबर लचीलापन (Cyber Resilience) मजबूत करेगा।

सिफारिशें
1. AI मॉडलों के विरुद्ध नियमित रेड-टीम अभ्यास किए जाएं।
2. AI सुरक्षा परीक्षण के मानकीकृत ढांचे विकसित किए जाएं।
3. AI-सक्षम फिशिंग एवं सोशल इंजीनियरिंग रुझानों की लगातार निगरानी की जाए।
4. AI डेवलपर्स और साइबर सुरक्षा एजेंसियों के बीच सूचना साझाकरण को बढ़ावा दिया जाए।
5. AI-सक्षम खतरों की जांच हेतु साइबर अन्वेषकों के लिए विशेष प्रशिक्षण विकसित किया जाए।

निष्कर्ष

CERT-In द्वारा Anthropic के Claude Mythos तक पहुंच प्राप्त करना भारत के विकसित होते AI-सुरक्षा पारिस्थितिकी तंत्र में एक महत्वपूर्ण कदम है। उन्नत AI मॉडलों की कमजोरियों और दुरुपयोग की संभावनाओं का व्यवस्थित मूल्यांकन करके भारत उभरते AI-संचालित साइबर खतरों का प्रभावी ढंग से सामना करने तथा कृत्रिम बुद्धिमत्ता के सुरक्षित एवं जिम्मेदार उपयोग को बढ़ावा देने की दिशा में आगे बढ़ रहा है।