रिपोर्ट में कृत्रिम बुद्धिमत्ता से उत्पन्न कोड से जुड़े साइबर सुरक्षा जोखिमों पर प्रकाश डाला गया है।

नवंबर 2024 में सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी (सीएसईटी) द्वारा प्रकाशित एक शोध रिपोर्ट—जिसके लेखक जेसिका जी, जेनी जून, मैगी वू और रेबेका गेल्स हैं—आधुनिक सॉफ्टवेयर इंजीनियरिंग में कृत्रिम बुद्धिमत्ता (एआई) के एकीकरण से उत्पन्न साइबर सुरक्षा चुनौतियों का विश्लेषण करती है। “एआई-जनरेटेड कोड के साइबर सुरक्षा जोखिम,” यह अध्ययन इस बात का मूल्यांकन करता है कि स्वचालित कोड उपकरण, डेवलपर्स की कार्यगति बढ़ाने के साथ-साथ, सॉफ्टवेयर आपूर्ति श्रृंखला में प्रणालीगत कमजोरियां कैसे पैदा करते हैं।.

जैसे-जैसे वाणिज्यिक उद्यम इंजीनियरिंग पाइपलाइनों में बड़े भाषा मॉडल (एलएलएम) को तेजी से तैनात कर रहे हैं, लेखक चेतावनी देते हैं कि उच्च गति कोड जनरेशन अक्सर डिजिटल सुरक्षा प्रोटोकॉल, कोड गुणवत्ता नियंत्रण और दीर्घकालिक सिस्टम अखंडता की कीमत पर होता है, जैसा कि कथित तौर पर रिपोर्ट किया गया है। सीएसईटी.

यह भी पढ़ें: Google Workspace अपग्रेड से Gemini AI की पहुँच बाधित हो सकती है

एआई मॉडल आधुनिक सॉफ्टवेयर आर्किटेक्चर के लिए क्रांतिकारी साबित हुए हैं, डेवलपर वर्कफ़्लो को सुव्यवस्थित करते हैं, मानक सिंटैक्स को स्वचालित करते हैं और तकनीकी क्षेत्रों में दक्षता बढ़ाते हैं। हालांकि, रिपोर्ट एक बढ़ते असंतुलन को उजागर करती है: मूल्यांकन मानदंड परंपरागत रूप से एक एआई मॉडल की उत्पन्न करने की क्षमता को मापते हैं। कार्यात्मक कोड के बजाय सुरक्षित परिणामस्वरूप, अंतर्निहित रक्षात्मक तर्क को मान्य किए बिना, तात्कालिक कार्यात्मक आवश्यकताओं को पूरा करने के लिए मॉडलों को अक्सर अनुकूलित किया जाता है।.

  परंपरागत मूल्यांकन फोकस आवश्यक सुरक्षा प्रतिमान ┌──────────────────────────────┐ ┌──────────────────────────────┐ │ • सिंटैक्स कार्यक्षमता │ बनाम │ • डिज़ाइन द्वारा सुरक्षित डिफ़ॉल्ट │ │ • डेवलपर वेलोसिटी │ │ • प्रासंगिक बग ऑडिटिंग │ │ • त्वरित पूर्ति │ │ • स्वचालित खतरे की जाँच │ └──────────────────────────────┘ └───────────────────────────────┘

पांच व्यापक रूप से उपयोग किए जाने वाले एलएलएम (लाइव लर्निंग एल्गोरिदम) के मानक इंजीनियरिंग परिदृश्यों के तहत मूल्यांकन करने पर, लेखकों ने पाया कि उत्पन्न कोड स्निपेट्स में से लगभग आधे में महत्वपूर्ण बग और सुरक्षा संबंधी खामियां मौजूद थीं जिनका फायदा उठाया जा सकता था। चूंकि डेवलपर अक्सर एआई द्वारा उत्पन्न कोड स्निपेट्स को व्यापक समीक्षा के बिना ही प्रोडक्शन सिस्टम में कॉपी-पेस्ट कर देते हैं, इसलिए असत्यापित कोड सीधे कोर एप्लिकेशन लेयर्स में पहुंच जाता है।.

शोधकर्ताओं ने एआई कोड जनरेशन से जुड़े साइबर सुरक्षा खतरों को तीन मुख्य परिचालन श्रेणियों में वर्गीकृत किया है:

यह भी पढ़ें: वर्डप्रेस के अंदर Google Gemini AI: आपको क्या जानना चाहिए

• असुरक्षित कोड जनरेशन: मॉडल अनजाने में अपने सार्वजनिक प्रशिक्षण डेटासेट में मौजूद पूर्व-मौजूदा खामियों, अप्रचलित डिजाइन पैटर्न और सुरक्षा कमजोरियों को दोहरा देते हैं।.
• हमलों के प्रति मॉडल की भेद्यता: कृत्रिम बुद्धिमत्ता उपकरण स्वयं लक्षित आक्रमण के साधन हैं। दुर्भावनापूर्ण तत्व मॉडल प्रशिक्षण डेटासेट में हेरफेर कर सकते हैं या कृत्रिम बुद्धिमत्ता को समझौता-योग्य कोड उत्पन्न करने के लिए मजबूर करने हेतु विशेष प्रकार के प्रॉम्प्ट इंजेक्शन इनपुट तैयार कर सकते हैं।.
• निचले इलाकों में पारिस्थितिकी तंत्र पर प्रभाव: अपुष्ट एआई कोड का व्यापक प्रसार सॉफ्टवेयर आपूर्ति श्रृंखलाओं के लिए खतरा पैदा करता है। इसके अलावा, जैसे-जैसे बिना जांचा-परखा एआई-जनित कोड ऑनलाइन भंडारों में भरता जाता है, भविष्य के एआई मॉडल्स के निम्न गुणवत्ता वाले डेटा पर प्रशिक्षित होने का जोखिम बढ़ता जाता है—जिससे ऐसे फीडबैक लूप बनते हैं जो मॉडलों की पीढ़ियों में सुरक्षा खामियों को कायम रखते हैं।.

अध्ययन इस बात पर जोर देता है कि इन कमजोरियों को दूर करने के लिए केवल व्यक्तिगत सॉफ्टवेयर इंजीनियरों पर निर्भर रहना पर्याप्त नहीं है। इसके बजाय, संगठनों को कोड गवर्नेंस और निगरानी तंत्र में संरचनात्मक बदलाव लाना होगा।.

इंजीनियरिंग लीडर्स के लिए रणनीतिक सिफारिशें

1. सुरक्षित विकास ढाँचों का विस्तार करें: एआई-जनित घटकों के लिए विशिष्ट सत्यापन दिशानिर्देशों को शामिल करने के लिए मानक सॉफ्टवेयर विकास नीतियों - जैसे कि एनआईएसटी साइबर सुरक्षा फ्रेमवर्क - को अपडेट करें।.
2. मानवीय भागीदारी वाली निगरानी को लागू करें: उत्पादन में तैनाती से पहले मशीन द्वारा उत्पन्न सभी सिंटैक्स के लिए कठोर कोड समीक्षा प्रक्रियाओं और स्वचालित स्थैतिक विश्लेषण उपकरणों को अनिवार्य करें।.
3. डेटा पारदर्शिता अनिवार्य है: एआई विक्रेताओं से प्रशिक्षण डेटासेट, सुरक्षा संरेखण विधियों और भेद्यता मूल्यांकन बेंचमार्क के संबंध में अधिक स्पष्टता की मांग करें।.

जी, जून, वू और गेल्स के निष्कर्ष एक स्पष्ट अनिवार्यता प्रस्तुत करते हैं: कृत्रिम बुद्धिमत्ता डेवलपर्स की कार्यकुशलता को लगातार नया रूप दे रही है, लेकिन इससे एंटरप्राइज़ सॉफ़्टवेयर की मूलभूत सुरक्षा से समझौता नहीं होना चाहिए। AI-प्रेरित कमज़ोरियों को कम करने के लिए सक्रिय प्रबंधन, निरंतर ऑडिटिंग और पारदर्शी सुरक्षा मानकों की आवश्यकता है। स्वचालित कोड जनरेटर को सॉफ़्टवेयर आपूर्ति श्रृंखला में उच्च जोखिम वाले इनपुट के रूप में मानकर, संगठन अपने सिस्टम को गंभीर साइबर सुरक्षा हमलों से बचाए बिना AI के परिचालन लाभों का उपयोग कर सकते हैं।.

साइबर सुरक्षा एक विशाल क्षेत्र है और इसमें सिस्टम प्रशासन की कई बारीकियां शामिल हैं। त्वरित सूचनाओं की दुनिया में, उनकी वैधता और प्रामाणिकता अत्यंत आवश्यक है। लेकिन सवाल यह है कि कैसे? आइए मेरे साथ जुड़ें.