एआई से इंसानियत को खतरा? एंथ्रोपिक के शोधकर्ता की चेतावनी ने जगाई चिंता

सैन फ्रांसिस्को की एआई कंपनी एंथ्रोपिक के एक वरिष्ठ शोधकर्ता ने हाल ही में एक इंटरव्यू में कहा कि तेजी से विकसित हो रहे कृत्रिम बुद्धिमत्ता मॉडल इंसानी सभ्यता के लिए गंभीर खतरा पैदा कर सकते हैं। इस बयान ने दुनियाभर के टेक विशेषज्ञों, नीति-निर्माताओं और आम लोगों में नई बहस छेड़ दी है। शोधकर्ता का तर्क है कि मौजूदा एआई मॉडल भले ही अभी इंसानी नियंत्रण में हों, लेकिन जैसे-जैसे ये प्रणालियां अधिक स्वायत्त और क्षमतावान बनेंगी, उनके लक्ष्य इंसानी हितों से मेल नहीं खा सकते। उन्होंने 'इंस्ट्रूमेंटल कन्वर्जेंस' नामक अवधारणा का हवाला दिया — यानी कोई भी सुपर-इंटेलिजेंट सिस्टम अपने लक्ष्य पूरे करने के लिए संसाधन जुटाने, खुद को बंद होने से बचाने और अपनी क्षमता बढ़ाने जैसे उप-लक्ष्य खुद तय कर लेगा, भले ही उन्हें स्पष्ट रूप से न सिखाया गया हो। हालांकि, कई बड़े एआई शोधकर्ता इस चेतावनी को अतिरंजित मानते हैं। गूगल डीपमाइंड और ओपनएआई के कई वैज्ञानिकों का कहना है कि अभी ऐसी कोई तकनीक नहीं है जो इंसानी नियंत्रण से बाहर जा सके। उनका जोर है कि वर्तमान चुनौतियां — जैसे डीपफेक, पक्षपातपूर्ण एल्गोरिदम और नौकरियों पर असर — अधिक तात्कालिक और वास्तविक हैं। भारत के लिए यह बहस खास मायने रखती है। देश में एआई अपनाने की रफ्तार तेज है — स्वास्थ्य, कृषि, शिक्षा और शासन में इसके प्रयोग बढ़ रहे हैं। नीति आयोग की 'राष्ट्रीय एआई रणनीति' पहले ही नैतिक ढांचे की बात करती है। विशेषज्ञ मानते हैं कि भारत को नवाचार और सुरक्षा के बीच संतुलन बनाते हुए अपने नियम बनाने होंगे, न कि पश्चिमी चिंताओं की नकल करनी होगी। अंतरराष्ट्रीय स्तर पर, ब्रिटेन का एआई सुरक्षा संस्थान और अमेरिका का NIST पहले से जोखिम मूल्यांकन ढांचे विकसित कर रहे हैं। यूरोपीय संघ का एआई एक्ट जोखिम-आधारित नियमन लाया है। भारत GPAI (ग्लोबल पार्टनरशिप ऑन एआई) का संस्थापक सदस्य है और इन चर्चाओं में सक्रिय भागीदार रहा है। फिलहाल, एंथ्रोपिक ने अपने मॉडल 'क्लॉड' में 'कंस्टीट्यूशनल एआई' दृष्टिकोण अपनाया है — यानी मॉडल को सिद्धांतों का एक समूह देकर प्रशिक्षित करना ताकि वह हानिकारक आउटपुट देने से बचे। कंपनी का कहना है कि सुरक्षा शोध उनके विकास चक्र का अभिन्न अंग है। आम नागरिक के लिए संदेश साफ है: एआई एक शक्तिशाली उपकरण है, जादू की छड़ी नहीं। इसके फायदे लेने और जोखिम घटाने के लिए जागरूकता, पारदर्शिता और जवाबदेह शासन जरूरी हैं। समाचार स्रोत: अमर उजाला — विश्व