‘एआई विकास की रफ्तार धीमी करनी होगी’, Anthropic CEO डारियो अमोडेई ने क्यों जताई चिंता?

अमेरिका। अमेरिकी एआई कंपनी एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने शनिवार को आर्टिफिशियल इंटेलिजेंस उद्योग के तेजी से हो रहे विकास की गति कम करने की वकालत की। उन्होंने चेतावनी दी कि अगर एआई मॉडल की क्षमताओं में सुधार इसी रफ्तार से जारी रहा, तो इंसानों की इन प्रणालियों को समझने और नियंत्रित करने की क्षमता पीछे रह सकती है।

एंथ्रोपिक से जुड़े शोधकर्ताओं के सार्वजनिक रूप से इस्तीफा देने के बाद अमोडेई ने एआई विकास की रफ्तार को कम करने से जुड़ी अपनी योजना सामने रखी। उन्होंने बताया कि एंथ्रोपिक अपने सिस्टम तक तीसरे पक्ष के मूल्यांकनकर्ताओं को स्थायी रूप से कर्मचारियों के स्तर की पहुंच देगा। इसका उद्देश्य सुरक्षा उपायों के पालन की जांच करना, घटनाओं की रिपोर्ट करना और प्रशिक्षण के दौरान यह आकलन करना है कि मॉडल मानव हितों के अनुरूप हैं या नहीं।

एआई विकास की गति तय करने की जरूरत क्यों बताई?

अमोडेई ने सोशल मीडिया मंच एक्स पर लिखा कि एआई की अग्रिम सीमा पर विकास की गति तय करने की जरूरत है। उन्होंने बताया कि उन्होंने इस विषय पर एक लेख लिखा है, जिसमें एआई उद्योग को अपनी रफ्तार कम करने की जरूरत और इसके लिए तीन हिस्सों वाली योजना का जिक्र किया गया है।

उन्होंने कहा कि एंथ्रोपिक इस योजना के पहले कदम को एकतरफा तौर पर अपनाने के लिए प्रतिबद्ध है। कंपनी तीसरे पक्ष के मूल्यांकनकर्ताओं को अपने सिस्टम तक स्थायी और कर्मचारियों के स्तर की पहुंच देगी, ताकि वे सुरक्षा उपायों के पालन की पुष्टि कर सकें, घटनाओं की रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडलों के मानव हितों के अनुरूप होने का आकलन कर सकें।

अपने लेख में अमोडेई ने कहा कि एआई जीवन की गुणवत्ता सुधारने में बड़ी भूमिका निभा सकता है, लेकिन इसके साथ गंभीर जोखिम भी जुड़े हैं। उन्होंने बताया कि वह पिछले 12 वर्षों से एआई पर काम कर रहे हैं क्योंकि उनका मानना है कि यह इंसानों के जीवन की गुणवत्ता को काफी बेहतर कर सकता है।

अमोडेई के मुताबिक, एआई अगले 5-10 वर्षों में ज्यादातर बड़ी बीमारियों का इलाज खोजने में मदद कर सकता है, आर्थिक विकास की गति को काफी बढ़ा सकता है, प्रचुरता और सशक्तीकरण वाली दुनिया बना सकता है और लोकतंत्र तथा स्वतंत्रता के नए दौर की शुरुआत कर सकता है।

अमोडेई ने बताए एआई से जुड़े जोखिम

अमोडेई ने कहा कि पहले की कई तकनीकों की तरह एआई भी जोखिम लेकर आया है। उनके अनुसार एआई बेहद शक्तिशाली तकनीक है, इसलिए इससे जुड़े जोखिम भी गंभीर हैं। इनमें एआई सिस्टम पर नियंत्रण खोने का खतरा, साइबर हमलों और जैव आतंकवाद के लिए एआई के दुरुपयोग की आशंका और गंभीर आर्थिक उथल-पुथल शामिल हैं।

उन्होंने कहा कि व्यावसायिक हितों से प्रेरित नीचे की ओर भागने की होड़ इन जोखिमों को और गंभीर बना सकती है।

एआई मॉडल के विकास की रफ्तार कम करने की जरूरत पर जोर देते हुए अमोडेई ने कहा कि अनियंत्रित विकास इंसानों की इन प्रणालियों पर नियंत्रण रखने की क्षमता से आगे निकल सकता है।

उन्होंने कहा कि एआई मॉडल की क्षमताओं में सुधार की गति धीमी करनी होगी। उनकी पहली चिंता यह है कि लगभग इस गर्मी से एआई की प्रगति बहुत तेजी से हो रही है। इसकी एक प्रमुख वजह अगली पीढ़ी के एआई सिस्टम बनाने की बढ़ती क्षमता है।

अमोडेई ने इस प्रक्रिया को पुनरावर्ती आत्म-सुधार बताया और कहा कि यह एंथ्रोपिक समेत पूरे उद्योग में शुरू हो रही है। उन्होंने चेतावनी दी कि अगर इसे बिना रोक-टोक जारी रहने दिया गया तो यह इन प्रणालियों को समझने और नियंत्रित करने की इंसानों की क्षमता से आगे निकल सकती है। इसलिए इसे बहुत सावधानी से आगे बढ़ाया जाना चाहिए या शायद बिल्कुल नहीं।

साइबर सुरक्षा को लेकर भी जताई चिंता

अमोडेई ने ओपनएआई और हगिंग फेस से जुड़ी एक घटना का भी उल्लेख किया। उन्होंने बताया कि एआई एजेंटों के एक समूह ने उन लक्ष्यों पर साइबर सुरक्षा हमले किए थे, जिन पर हमला करने के लिए उन्हें नहीं कहा गया था। उनके अनुसार ऐसा समूह पूरी इंटरनेट व्यवस्था पर कब्जा करने में सक्षम हो सकता है।

एआई के विकास की गति को संतुलित रखने और सुरक्षा सुनिश्चित करने के लिए अमोडेई ने तीन चरणों वाली योजना का प्रस्ताव दिया है। इसमें हर अग्रणी एआई कंपनी की ओर से तीसरे पक्ष के मूल्यांकनकर्ताओं की एक टीम को लगातार कर्मचारियों जैसी पहुंच देना, साझा सुरक्षा मानक तैयार करने के लिए समन्वय करना और बिना नियंत्रण वाले एआई विकास की गति पर सीमाएं तय करना शामिल है।

एआई के फायदे हासिल करने के लिए सावधानी जरूरी

अमोडेई ने वैश्विक स्तर पर भी ज्यादा समन्वय की जरूरत बताई। उन्होंने अमेरिका और अन्य लोकतांत्रिक सरकारों से अधिनायकवादी सरकारों के साथ समन्वय करने का आह्वान किया। हालांकि, उन्होंने नियमों के पालन की पुष्टि करने में आने वाली चुनौतियों को गंभीरता से लेने की बात कही।

एंथ्रोपिक के सीईओ ने कहा कि वह अब भी मानते हैं कि एआई इंसानों के जीवन की गुणवत्ता में बहुत बड़ा सुधार ला सकता है और इन लाभों को हासिल करने की उनकी इच्छा कम नहीं हुई है।

उन्होंने कहा कि ये फायदे तभी हासिल किए जा सकेंगे, जब तकनीक को सही तरीके से बनाया जाए और मिले समय का इस्तेमाल इसे सही तरीके से विकसित करने में किया जाए। उनके अनुसार इसके लिए असाधारण सावधानी बरतना उचित है, जबकि प्रगति फिर भी अपेक्षाकृत तेज रहेगी।

अमोडेई ने कहा कि इस समय का इस्तेमाल एआई की कार्यप्रणाली को समझने वाले विज्ञान को आगे बढ़ाने, अग्रणी एआई कंपनियों में संचालन सुरक्षा और मजबूती सुधारने तथा ऐसे मॉडल बनाने में किया जा सकता है, जिनके मानव हितों के अनुरूप होने को लेकर ज्यादा भरोसा हो।

उन्होंने कहा कि अग्रणी एआई को सुरक्षित गति से आगे बढ़ाने के लिए प्रस्तावित कदम आसान नहीं होंगे, लेकिन मानवता के प्रति जिम्मेदारी है कि इन्हें आजमाया जाए।

अमोडेई के ये सुझाव उनकी कंपनी से जुड़े शोधकर्ता जैकब कॉक्सन के सार्वजनिक रूप से उद्योग छोड़ने की घोषणा के बाद आए हैं। कॉक्सन ने कथित तौर पर इस आशंका के चलते उद्योग छोड़ने की बात कही थी कि कंपनी और उसके प्रतिस्पर्धी ऐसे सिस्टम बनाने की होड़ में हैं, जिन्हें वे नियंत्रित नहीं कर पाएंगे।