AI की capabilities तेजी से बढ़ रही हैं और दुनिया भर की कंपनियां ज्यादा powerful models तैयार करने की कोशिश कर रही हैं. इसी बीच Anthropic के CEO Dario Amodei ने AI development की रफ्तार को कुछ धीमा करने की अपील की है. उनका कहना है कि models की capabilities जिस तेजी से बढ़ रही हैं, उसके मुकाबले AI safety मजबूत करने के लिए कंपनियों को ज्यादा समय चाहिए.
Amodei के इस रुख पर OpenAI के CEO Sam Altman और xAI के प्रमुख Elon Musk ने भी सहमति जताई है. तीनों का जोर AI development को पूरी तरह रोकने के बजाय safety और evaluation के लिए पर्याप्त समय देने पर है.
यह भी पढ़ें- Delhi Metro Golden Line: 23.6 KM में 15 स्टेशन, दिसंबर तक शुरू हो सकता है पहला सेक्शन
Dario Amodei ने क्या प्रस्ताव दिया?
शनिवार को सोशल मीडिया प्लेटफॉर्म X पर Dario Amodei ने कहा कि AI models की capabilities में तेजी से हो रहे सुधार के बीच companies को security measures मजबूत करने के लिए ज्यादा समय की जरूरत है.
उन्होंने बड़ी AI कंपनियों में independent evaluators तैनात करने का प्रस्ताव रखा. इन evaluators को कंपनियों के अंदर कर्मचारियों जैसी access देने की बात कही गई, ताकि AI systems की safety को स्वतंत्र रूप से जांचा जा सके.
Amodei ने AI companies के बीच coordination बढ़ाने और global level पर international cooperation मजबूत करने की जरूरत पर भी जोर दिया.
उनका कहना था कि AI models की capabilities सुधारने की रफ्तार धीमी करनी होगी. उनके अनुसार development फिर भी तेज दिखाई देगा, लेकिन इस अतिरिक्त समय का इस्तेमाल safety और security को बेहतर बनाने में किया जा सकता है.
Sam Altman ने भी जताई सहमति
Anthropic CEO के प्रस्ताव पर OpenAI के CEO Sam Altman ने सहमति जताई.
Altman ने कहा कि AI development के frontier की pace को control करने की जरूरत है. उन्होंने बताया कि हाल के हफ्तों में OpenAI के अंदर हुई बैठकों में भी यह मुद्दा चर्चा का विषय रहा है.
Independent evaluators को internal access देने के विचार को उन्होंने अच्छा प्रस्ताव बताया और कहा कि OpenAI भी ऐसा करेगा.
Elon Musk ने भी कहा, Amodei सही कह रहे हैं
xAI के प्रमुख Elon Musk ने भी Dario Amodei के रुख से सहमति जताई. उन्होंने Amodei की बात को सही बताया.
इस तरह AI industry के तीन प्रमुख चेहरों की ओर से development speed, safety और independent evaluation को लेकर समान चिंता सामने आई है.
AI के गलत इस्तेमाल को लेकर बढ़ी चिंता
Amodei का यह प्रस्ताव Anthropic की एक threat intelligence report के कुछ दिनों बाद सामने आया. source के मुताबिक इस report में बताया गया था कि कुछ तत्वों ने Claude AI models का इस्तेमाल weapons development, cyberattacks, surveillance और fraud जैसे कामों में किया था.
Amodei ने तेजी से विकसित हो रहे AI models से जुड़े संभावित खतरों पर भी चेतावनी दी. उनका कहना था कि आने वाले समय में autonomous AI systems के बड़े समूह तैयार हो सकते हैं, जिनका गलत इस्तेमाल बड़े नुकसान का कारण बन सकता है.
उन्होंने अगले 6 से 12 महीनों में ऐसे किसी संभावित scenario को लेकर चिंता जताई जिसमें autonomous systems इंटरनेट के बड़े हिस्से पर प्रभाव डाल सकें और बहुत बड़ा आर्थिक नुकसान हो सकता है.
AI development पूरी तरह रोकने की मांग नहीं
Amodei ने यह भी स्पष्ट किया कि वह AI training या technical development को पूरी तरह रोकने की मांग नहीं कर रहे हैं.
उन्होंने AI competition को China के साथ चल रही प्रतिस्पर्धा से भी जोड़ा. उनके मुताबिक democratic countries को AI में अपनी बढ़त बनाए रखने की जरूरत है, क्योंकि China की बढ़त अमेरिका के लिए national security concern बन सकती है.
इसलिए उनका जोर development रोकने के बजाय pace को इस तरह manage करने पर है कि safety के लिए जरूरी काम भी साथ-साथ हो सकें.
यह भी पढ़ें- Solar Panel Price: 1 पैनल कितने का आता है, 3kW के लिए कितने पैनल चाहिए? जानें पूरी जानकारी
Advanced AI chips और data पर भी सख्ती की मांग
Amodei ने China को AI में बढ़त बनाने से रोकने के लिए advanced AI chips और model data की चोरी पर कड़े controls की मांग भी की.
यानी उनके प्रस्ताव में केवल AI models की development speed को धीमा करने की बात नहीं है. इसके साथ technology security, independent evaluation और international cooperation को भी महत्वपूर्ण माना गया है.
AI companies के सामने अब challenge यह है कि models को तेजी से बेहतर बनाने के साथ उनकी सुरक्षा और संभावित misuse की जांच के लिए पर्याप्त समय भी दिया जाए.
