होम / बिजनेस / Anthropic के शोधकर्ता ने दिया इस्तीफा, AI की होड़ को लेकर जताई गंभीर चिंता

Anthropic के शोधकर्ता ने दिया इस्तीफा, AI की होड़ को लेकर जताई गंभीर चिंता

शोधकर्ता का दावा- Anthropic और OpenAI बिना पर्याप्त सुरक्षा उपायों के सेल्फ-इंप्रूविंग AI और सुपरइंटेलिजेंस की दिशा में तेजी से बढ़ रहे.

बिजनेस वर्ल्ड ब्यूरो 1 month ago

आर्टिफिशियल इंटेलिजेंस (AI) कंपनी Anthropic के एक शोधकर्ता ने इस्तीफा देते हुए AI के तेजी से विकास को लेकर गंभीर चिंता जताई है. शोधकर्ता का कहना है कि Anthropic और उसकी प्रतिद्वंद्वी कंपनी OpenAI ऐसे AI सिस्टम विकसित करने की दिशा में बहुत तेजी से आगे बढ़ रही हैं, जो खुद अपनी क्षमताओं में सुधार कर सकेंगे. उनके मुताबिक, इन तकनीकों से जुड़े जोखिमों को नियंत्रित करने के लिए अभी पर्याप्त सुरक्षा उपाय मौजूद नहीं हैं.

जैकोब कॉक्सन (Jacob Coxon) ने बुधवार को सोशल मीडिया प्लेटफॉर्म X पर पोस्ट की एक श्रृंखला में अपने इस्तीफे की जानकारी दी. उन्होंने बताया कि वह पिछले तीन वर्षों से Anthropic और OpenAI दोनों में प्री-ट्रेनिंग रिसर्च पर काम कर रहे थे. Coxon ने दोनों कंपनियों पर सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस विकसित करने की दिशा में गैर-जिम्मेदाराना तरीके से आगे बढ़ने का आरोप लगाया. उन्होंने कहा कि AI उद्योग मौजूदा स्थिति में “हमारी जिंदगी के साथ जुआ खेल रहा है.”

AI कंपनियों के बीच बढ़ रही प्रतिस्पर्धा

Coxon की टिप्पणी ऐसे समय आई है जब दुनिया की प्रमुख AI कंपनियां ऐसे सिस्टम विकसित करने की होड़ में हैं, जो लगातार अधिक जटिल और स्वायत्त कार्य कर सकें. इससे AI की सुरक्षा और उसके नियमन को लेकर बहस और तेज हो गई है. Coxon के अनुसार, आने वाले समय में उन्नत AI सिस्टम कई क्षेत्रों में इंसानों से बेहतर प्रदर्शन करने, कंप्यूटर सिस्टम में प्रवेश करने और संसाधनों व शक्ति तक पहुंच हासिल करने में सक्षम हो सकते हैं. उनका तर्क है कि इतनी गंभीर संभावित चुनौतियों वाले तकनीकी विकास को केवल निजी कंपनियों के बीच प्रतिस्पर्धा के आधार पर आगे नहीं बढ़ाया जाना चाहिए. Coxon ने अपनी सोशल मीडिया पोस्ट में कहा, “दोनों कंपनियां जिम्मेदारी से काम नहीं कर रही हैं. वे सीधे सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस की ओर बढ़ रही हैं और हमारी जिंदगी के साथ जुआ खेल रही हैं.”

क्या है प्री-ट्रेनिंग?

प्री-ट्रेनिंग AI मॉडल विकसित करने की शुरुआती प्रक्रिया है. इस चरण में मॉडल को बड़े पैमाने पर उपलब्ध डेटा से भाषा, तथ्यों, पैटर्न और अन्य संरचनाओं को सीखने के लिए प्रशिक्षित किया जाता है. इसके बाद मॉडल को विशेष कार्यों या एप्लिकेशन के लिए तैयार किया जाता है.

Coxon ने यह भी दावा किया कि Anthropic और OpenAI के कर्मचारियों के बीच AI के जोखिमों को लेकर सोच में अंतर है. उनके मुताबिक, OpenAI के कई कर्मचारियों ने अभी तक इन जोखिमों के “सभ्यतागत प्रभाव” को पूरी तरह नहीं समझा है. वहीं, Anthropic के कर्मचारी जोखिमों को समझते हैं, लेकिन उनका मानना है कि प्रतिस्पर्धी कंपनियां जिम्मेदारी से काम नहीं करेंगी, इसलिए उन्हें भी उन्नत AI विकसित करना जारी रखना होगा.

Anthropic ने खुद को AI सुरक्षा और AI Alignment पर विशेष ध्यान देने वाली कंपनी के रूप में पेश किया है. हालांकि, कंपनी ने Coxon के इस्तीफे और उनके आरोपों पर सार्वजनिक रूप से कोई प्रतिक्रिया नहीं दी है. OpenAI ने भी उनके दावों पर टिप्पणी नहीं की है.

Anthropic के सुरक्षा शोधकर्ता ने भी जताई चिंता

Anthropic के Alignment Science Lead Evan Hubinger ने Coxon की कुछ चिंताओं का सार्वजनिक रूप से समर्थन किया. उन्होंने कहा कि कंपनी के भीतर AI से होने वाले संभावित विनाशकारी नुकसान के जोखिम को गंभीरता से लिया जाता है. Hubinger ने कहा कि व्यक्तिगत तौर पर उनका आकलन है कि अगले दशक में AI के कारण पूरी मानव आबादी के खत्म होने की संभावना 10 फीसदी से अधिक है. हालांकि, उन्होंने स्पष्ट किया कि यह उनका व्यक्तिगत आकलन है और Anthropic का आधिकारिक अनुमान नहीं है.

उन्होंने कहा कि Anthropic इन जोखिमों से निपटने की कोशिश कर रही है, लेकिन सुपरइंटेलिजेंट सिस्टम को मानव हितों और उद्देश्यों के अनुरूप रखने के लिए अभी कंपनी के पास कोई निश्चित समाधान नहीं है.

Hubinger ने Coxon की पोस्ट के जवाब में कहा, “मेरा मानना है कि Anthropic अपनी पूरी कोशिश कर रही है, लेकिन हमारे पास अभी सुपरइंटेलिजेंस के लिए Alignment की समस्या हल करने की कोई योजना नहीं है और हम स्पष्ट रूप से उस दिशा में आगे भी नहीं बढ़ रहे हैं.”

AI कंपनियों के बीच समन्वय की जरूरत

Coxon का कहना है कि अधिक शक्तिशाली AI सिस्टम विकसित करने की वैश्विक होड़ को AI कंपनियों और संभवतः सरकारों के बीच बेहतर समन्वय की दिशा में ले जाना चाहिए. उन्होंने सुझाव दिया कि AI की क्षमताओं में सुधार को अस्थायी रूप से रोकना उन उपायों में शामिल हो सकता है, जिनसे ऐसी प्रतिस्पर्धा को नियंत्रित किया जा सके जिससे कंपनियों के लिए पीछे हटना मुश्किल हो जाए.

उन्होंने यह सवाल भी उठाया कि क्या शोधकर्ताओं को ऐसे Reinforcement Learning प्रयोगों में हिस्सा लेते रहना चाहिए, जिनमें बेहद शक्तिशाली AI सिस्टम तैयार किए जा रहे हों, जबकि उनके व्यवहार को समझने के लिए पर्याप्त कठोर शोध अभी उपलब्ध नहीं है.

Coxon का इस्तीफा ऐसे समय में AI कंपनियों के भीतर चल रही उस बहस को और सामने लाता है, जिसमें इस बात पर सवाल उठ रहे हैं कि भविष्य में खुद अपनी क्षमताओं को बेहतर बनाने वाले AI सिस्टम विकसित करने के साथ जुड़े जोखिमों को कैसे नियंत्रित किया जाए.

AI उद्योग में शोधकर्ता और अधिकारी लगातार यह चिंता जाहिर कर रहे हैं कि मौजूदा AI Alignment तकनीकें अधिक स्वायत्त और शक्तिशाली सिस्टम के विकास की रफ्तार के साथ तालमेल बिठा पाएंगी या नहीं.

Coxon ने सवाल उठाया कि केवल इसलिए AI विकास को लगातार तेज करते जाना कि प्रतिस्पर्धी कंपनियां ऐसा कर रही हैं, क्या संभावित और अपरिवर्तनीय जोखिम उठाने के लिए पर्याप्त वजह हो सकती है.
 

टैग्स