AI को लेकर ट्रंप और Anthropic आमने-सामने! ‘Kill Switch’ पर क्यों बढ़ा विवाद?

AI कंपनियों के लिए अनिवार्य हो सकता है Kill Switch

Anthropic के Co-founder Jack Clark के मुताबिक बड़ी AI कंपनियों के पास पहले से ही अपने सिस्टम को बंद करने या जरूरत पड़ने पर 'Pull the Plug' करने के लिए कुछ mechanisms मौजूद हैं. लेकिन उनका सवाल यह है कि क्या भविष्य में इस तरह के safety mechanisms को सिर्फ कंपनियों की अपनी व्यवस्था पर छोड़ देना पर्याप्त होगा. उनका मानना है कि AI की capabilities लगातार बढ़ने के साथ सरकारों के लिए इस तरह के safety measures को लेकर नियम बनाना जरूरी हो सकता है. यहां सबसे महत्वपूर्ण बात सिर्फ Kill Switch का मौजूद होना नहीं है, बल्कि उसकी independent verification भी है. यानी यह सुनिश्चित किया जा सके कि कंपनी के पास वास्तव में ऐसा mechanism मौजूद है और जरूरत पड़ने पर वह काम भी कर सकता है.

Advanced AI को लेकर क्यों बढ़ रही चिंता?

AI के तेजी से विकास ने जहां कई क्षेत्रों में नई संभावनाएं पैदा की हैं, वहीं advanced AI systems से जुड़े संभावित जोखिमों पर भी चर्चा तेज हुई है. कुछ researchers और technology experts का मानना है कि अगर बेहद शक्तिशाली AI systems पर्याप्त नियंत्रण और सुरक्षा के बिना विकसित होते रहे, तो इसके गंभीर परिणाम हो सकते हैं. इसी वजह से AI की development की speed और उसके regulation को लेकर बहस लगातार बढ़ रही है. Anthropic के CEO Dario Amodei भी AI development की मौजूदा रफ्तार को लेकर चिंता जता चुके हैं. उनका कहना है कि AI की गति को कुछ हद तक धीमा करने और technology की ज्यादा closely monitoring की जरूरत हो सकती है. हालांकि उनका यह भी मानना है कि AI industry पर लगने वाले किसी भी नियंत्रण का ऐसा असर नहीं होना चाहिए जिससे commercial advantage पूरी तरह खत्म हो जाए.

AI से इंसानी अस्तित्व को खतरे की बहस

Advanced AI को लेकर सबसे गंभीर सवालों में से एक यह है कि क्या भविष्य में AI इंसानों के लिए अस्तित्वगत खतरा बन सकता है. Anthropic के researcher Evan Hubinger ने व्यक्तिगत तौर पर AI के अगले दशक में human extinction का कारण बनने की संभावना को 10 फीसदी से ज्यादा माना है. वहीं computer scientist और Nobel Prize winner Geoffrey Hinton ने भी BBC से बातचीत में कहा कि AI के कारण सभी इंसानों की मौत की 10 फीसदी संभावना को पूरी तरह अविश्वसनीय नहीं माना जा सकता. हालांकि Jack Clark इन तरह के probability estimates को बहुत उपयोगी नहीं मानते. उनका जोर इस बात पर है कि AI को पूरी तरह unregulated industry के तौर पर आगे बढ़ने देना जोखिम भरा हो सकता है. उनके मुताबिक दुनिया बेहद बड़े जोखिम के साथ आगे बढ़ रही है और इस industry की दिशा में बदलाव की जरूरत है.

अमेरिका में भी AI regulation को लेकर बहस

AI की सुरक्षा और regulation को लेकर बहस अब policymakers तक पहुंच चुकी है. अमेरिका में Kill Switch Act का प्रस्ताव भी सामने आया है. इसके तहत AI कंपनियों के लिए problematic AI systems को बंद करने की व्यवस्था जरूरी बनाने की बात कही गई है. प्रस्तावित व्यवस्था में कुछ परिस्थितियों में सरकारी agencies को भी कुछ AI tools को बंद करने या उनकी functionality को restrict करने का अधिकार दिए जाने की बात है. इससे साफ है कि AI safety को लेकर चर्चा अब केवल technology companies और researchers के बीच नहीं रह गई है. सरकारें भी इस सवाल पर विचार कर रही हैं कि advanced AI systems को किस तरह monitor और control किया जाए.

Donald Trump AI को धीमा करने के पक्ष में नहीं

AI की development को लेकर अमेरिका में सभी की राय एक जैसी नहीं है. US President Donald Trump ने AI की गति को धीमा करने की मांग को समर्थन नहीं दिया है. Trump का तर्क है कि अगर अमेरिका AI development में पीछे हटता है, तो उसके competitors, खासकर China, ऐसा नहीं करेंगे. ऐसे में अमेरिका के लिए AI race में अपनी बढ़त बनाए रखना जरूरी है. हालांकि Trump ने AI से जुड़े safety measures और domestic regulation की जरूरत को स्वीकार किया है. लेकिन उनकी प्राथमिकता AI development को रोकने के बजाय अमेरिकी technology और economic position को मजबूत करने की दिखाई देती है.

Tech industry भी दो हिस्सों में बंटी नजर आ रही है

AI की development speed को लेकर technology industry में भी अलग-अलग राय देखने को मिल रही है. Sam Altman और Demis Hassabis जैसे tech leaders ने AI की development में सावधानी और गति को लेकर चिंता जताने वाली बहस का समर्थन किया है. वहीं Elon Musk ने 'Pace the Frontier' कहकर AI development को आगे बढ़ाने के पक्ष में अपनी स्थिति जाहिर की. दूसरी तरफ PayPal के पूर्व Chief Operating Officer David Sacks ने AI को धीमा करने की मांग पर सवाल उठाया है. उनके मुताबिक इस तरह की मांग के पीछे अलग-अलग हित भी हो सकते हैं. यानी technology industry में भी यह सवाल पूरी तरह तय नहीं है कि AI की development को धीमा किया जाए या safety measures के साथ इसकी मौजूदा रफ्तार को बनाए रखा जाए.

AI Kill Switch क्यों बन रहा है चर्चा का केंद्र?

Kill Switch की चर्चा का सबसे बड़ा कारण यही है कि advanced AI systems की capabilities बढ़ने के साथ emergency control की जरूरत भी ज्यादा महत्वपूर्ण हो सकती है. अगर किसी AI system से ऐसी स्थिति पैदा होती है जिसे कंपनी खुद control नहीं कर पा रही है, तो उसे तत्काल बंद करने का mechanism एक महत्वपूर्ण safety layer हो सकता है. लेकिन Jack Clark की बात का अहम हिस्सा third-party verification है. यानी सिर्फ कंपनियों का यह कहना पर्याप्त नहीं होना चाहिए कि उनके पास AI को बंद करने की व्यवस्था है. जरूरत पड़ने पर किसी independent third party के जरिए यह verify किया जा सके कि यह व्यवस्था वास्तव में मौजूद है और काम करने की स्थिति में है.

AI की रफ्तार बनाम सुरक्षा की बहस

पूरी बहस को देखें तो एक तरफ AI को तेजी से विकसित करने की होड़ है. कंपनियां ज्यादा capable models तैयार करना चाहती हैं और देश technology race में अपनी स्थिति मजबूत करना चाहते हैं. दूसरी तरफ researchers और कुछ industry leaders AI के संभावित जोखिमों को लेकर चेतावनी दे रहे हैं. उनका सवाल है कि technology की capabilities जितनी तेजी से बढ़ रही हैं, क्या उसके साथ safety mechanisms भी उसी गति से विकसित हो रहे हैं. Anthropic के Jack Clark का Kill Switch वाला सुझाव इसी चिंता से जुड़ा हुआ है.

आगे क्या होगा?

AI regulation को लेकर दुनिया में अभी कोई एकमत रास्ता दिखाई नहीं देता. कुछ लोग mandatory safety measures और stronger monitoring की जरूरत बता रहे हैं, जबकि दूसरी तरफ यह तर्क दिया जा रहा है कि बहुत ज्यादा regulation AI development में प्रतिस्पर्धात्मक बढ़त को नुकसान पहुंचा सकता है. ऐसे में आने वाले समय में सरकारों और AI कंपनियों के सामने सबसे बड़ी चुनौती innovation और safety के बीच संतुलन बनाने की होगी. Anthropic के Co-founder Jack Clark का mandatory और third-party-verifiable Kill Switch वाला सुझाव इसी बड़ी बहस का हिस्सा है. सवाल अब सिर्फ यह नहीं है कि AI कितना powerful बन सकता है, बल्कि यह भी है कि अगर कोई powerful AI system गलत दिशा में चला जाए, तो उसे रोकने का भरोसेमंद तरीका क्या होगा.

Crude Oil में लगी आग, 100 डॉलर के पार पहुंचा Brent; Nifty पर भी मंडराया दबाव