फ़िशिंग अभियानों के लिए डीपफेक बनाने के लिए हमलावर ‘आक्रामक एआई’ का उपयोग करते हैं

Posted on

एआई अपनाने की अवस्था में आपका उद्यम कहां खड़ा है? पता लगाने के लिए हमारे एआई सर्वेक्षण में भाग लें।


एआई संगठनों को कार्यों को स्वचालित करने, जानकारी निकालने और मीडिया को वास्तविक चीज़ से लगभग अप्रभेद्य बनाने में सक्षम बनाता है। लेकिन किसी भी तकनीक की तरह, AI हमेशा अच्छे के लिए नहीं होता है। विशेष रूप से, साइबर हमलावर अपने हमलों को बढ़ाने और अपने अभियानों का विस्तार करने के लिए एआई का उपयोग कर सकते हैं।

माइक्रोसॉफ्ट, पर्ड्यू और बेन-गुरियन यूनिवर्सिटी के शोधकर्ताओं द्वारा हाल ही में प्रकाशित एक सर्वेक्षण, संगठनों पर इस “आक्रामक एआई” के खतरे की पड़ताल करता है। यह विभिन्न क्षमताओं की पहचान करता है जो विरोधी अपने हमलों को मजबूत करने के लिए उपयोग कर सकते हैं और प्रत्येक को गंभीरता से रैंक कर सकते हैं, विरोधियों पर अंतर्दृष्टि प्रदान कर सकते हैं।

सर्वेक्षण, जिसमें आक्रामक एआई पर मौजूदा शोध और आईबीएम, एयरबस, एयरबस, आईबीएम और हुआवेई सहित संगठनों की प्रतिक्रियाओं को देखा गया, एक विरोधी के लिए एआई का उपयोग करने के लिए तीन प्राथमिक प्रेरणाओं की पहचान करता है: कवरेज, गति और सफलता। एआई हमलावरों को उनके प्रशिक्षण डेटा को दूषित करके मशीन लर्निंग मॉडल को “जहर” करने में सक्षम बनाता है, साथ ही साइड चैनल विश्लेषण के माध्यम से क्रेडेंशियल चोरी करता है। और इसका उपयोग भेद्यता का पता लगाने, प्रवेश परीक्षण और क्रेडेंशियल रिसाव का पता लगाने के लिए एआई विधियों को हथियार बनाने के लिए किया जा सकता है।

शीर्ष एआई साइबर खतरे

संगठनों ने शोधकर्ताओं से कहा कि वे शोषण विकास, सामाजिक इंजीनियरिंग और सूचना एकत्रण को सबसे खतरनाक आक्रामक एआई तकनीक मानते हैं। वे विशेष रूप से प्रतिरूपण के लिए उपयोग किए जाने वाले एआई के बारे में चिंतित हैं, जैसे फ़िशिंग हमलों को समाप्त करने के लिए डीपफेक और रिवर्स-इंजीनियरिंग जो एक हमलावर को मालिकाना एल्गोरिदम को “चोरी” करने की अनुमति दे सकती है। इसके अलावा, वे चिंता करते हैं कि, एआई की प्रक्रियाओं को स्वचालित करने की क्षमता के कारण, विरोधी कुछ धीमी गुप्त अभियानों के बजाय रक्षकों को अभिभूत करने और उनकी सफलता की संभावना बढ़ाने के लिए कई तेज़ गति वाले अभियान चला सकते हैं।

लेकिन डर बचाव में निवेश को बढ़ावा नहीं दे रहा है। डेटा ऑथेंटिकेशन स्टार्टअप Attestiv द्वारा किए गए उद्यमों के एक सर्वेक्षण के अनुसार, 30% से कम ने कहा कि उन्होंने डीपफेक हमले के नतीजों को कम करने के लिए कदम उठाए हैं। डीपफेक के खिलाफ लड़ाई चुनौतीपूर्ण बने रहने की संभावना है क्योंकि डीपफेक डिटेक्शन चैलेंज और माइक्रोसॉफ्ट के वीडियो ऑथेंटिकेटर जैसे नवाचारों के बावजूद पीढ़ी की तकनीकों में सुधार जारी है।

वास्तव में, शोधकर्ताओं का अनुमान है कि फ़िशिंग अभियान और अधिक उग्र हो जाएंगे क्योंकि बॉट्स डीपफेक फ़िशिंग कॉल्स को समझाने की क्षमता हासिल करते हैं। वे यह भी कहते हैं कि अगले कुछ वर्षों में डेटा संग्रह, मॉडल विकास, प्रशिक्षण और मूल्यांकन के क्षेत्रों में आक्रामक एआई की वृद्धि होने की संभावना है।

खतरों का सामना करने के लिए, शोधकर्ता अनुशंसा करते हैं कि संगठन पोस्ट-प्रोसेसिंग टूल विकसित करने पर ध्यान केंद्रित करें जो सॉफ्टवेयर को विकास के बाद विश्लेषण से बचा सकते हैं। वे MLOps के साथ सुरक्षा परीक्षण, सुरक्षा और मॉडलों की निगरानी के एकीकरण का भी सुझाव देते हैं ताकि संगठन अधिक आसानी से सुरक्षित सिस्टम बनाए रख सकें। MLOps, “मशीन लर्निंग” और “सूचना प्रौद्योगिकी संचालन” का एक यौगिक है, एक नया अनुशासन है जिसमें मशीन लर्निंग एल्गोरिदम को उत्पाद बनाने के उद्देश्य से डेटा वैज्ञानिकों और आईटी पेशेवरों के बीच सहयोग शामिल है।

“एआई के विकास की तीव्र गति और खुली पहुंच के साथ, हम संगठनों पर हमले की रणनीतियों में एक उल्लेखनीय बदलाव देखने की उम्मीद करते हैं,” शोधकर्ताओं ने लिखा। “एआई विरोधियों को समानांतर और अधिक बार अधिक संगठनों को लक्षित करने में सक्षम करेगा। नतीजतन, गुप्त होने के बजाय, विरोधियों ने एक सफलता की संभावना के लिए हजारों प्रयासों के साथ डिफेंडर की प्रतिक्रिया टीमों को अभिभूत करने का विकल्प चुना हो सकता है … [Indeed, as] विरोधी एआई-सक्षम बॉट्स का उपयोग करना शुरू कर देते हैं, डिफेंडरों को बॉट्स के साथ भी अपने बचाव को स्वचालित करने के लिए मजबूर किया जाएगा। उच्च-स्तरीय रणनीतियों को नियंत्रित करने और निर्धारित करने के लिए मनुष्यों को लूप में रखना एक व्यावहारिक और नैतिक आवश्यकता है। हालांकि, सुरक्षित और स्वीकार्य नीतियां बनाने के लिए आगे की चर्चा और शोध आवश्यक है।”

वेंचरबीट

तकनीकी निर्णय लेने वालों के लिए परिवर्तनकारी तकनीक और लेनदेन के बारे में ज्ञान हासिल करने के लिए वेंचरबीट का मिशन एक डिजिटल टाउन स्क्वायर बनना है।

जब आप अपने संगठनों का नेतृत्व करते हैं तो हमारा मार्गदर्शन करने के लिए हमारी साइट डेटा तकनीकों और रणनीतियों पर आवश्यक जानकारी प्रदान करती है। हम आपको हमारे समुदाय का सदस्य बनने के लिए आमंत्रित करते हैं:

  • आपकी रुचि के विषयों पर अप-टू-डेट जानकारी
  • हमारे समाचार पत्र
  • गेटेड विचार-नेता सामग्री और हमारे बेशकीमती आयोजनों के लिए रियायती पहुंच, जैसे रूपांतरण 2021: और अधिक जानें
  • नेटवर्किंग सुविधाएँ, और बहुत कुछ

सदस्य बने

Leave a Reply

Your email address will not be published. Required fields are marked *