हालै मात्र एन्थ्रोपिक (क्लाउड नामक एआई उपकरण विकास गर्ने कम्पनी) का एक वरिष्ठ सुरक्षा अनुसन्धानकर्ताले एआई निकै तीव्र गतिमा विकास भइरहेको भन्दै एउटा चेतावनी दिएका छन्। उनका अनुसार अबको १० वर्षभित्र एआईका कारण सबै मानिसको मृत्यु हुने सम्भावना १० प्रतिशतभन्दा बढी छ।
इभान ह्युबिङ्गरले एक्समा गरेको एउटा पोस्टमा अहिलेका एआई मोडलबाट हुने खतरा भने कम रहेको बताएका छन्।
तर उनको मनमा चाँडै नै एआईले आफैंलाई सुधार गर्न सक्ने क्षमता हासिल गर्न सक्छ र त्यसपछि यो मानवताको अस्तित्वकै लागि खतरा बन्न सक्ने स्तरमा पुग्न सक्छ भन्ने चिन्ता गडेको छ।
यो टिप्पणी त्यस्तो समयमा आएको छ, जब फाइनान्सियल टाइम्सले एन्थ्रोपिकले आफ्नो नयाँ एआई मोडल बेलायतको एआई सेफ्टी इन्स्टिच्युट (एआईएसआई) सँग सार्वजनिक नगरेको समाचार लेखेको छ।
एआईसँग सम्बन्धित खतराको मूल्याङ्कन गर्ने विश्वका प्रमुख संस्थामध्ये एआई सेफ्टी इन्स्टिच्युट पनि एक हो।
ह्युबिङ्गरले एन्थ्रोपिककै एक अनुसन्धानकर्तासम्बन्धी आएको समाचारको प्रतिक्रियामा माथिको टिप्पणी गरेका हुन्।
वाल स्ट्रिट जर्नलका अनुसार ती अनुसन्धानकर्ताले आफ्नो जागिर छाडेका थिए। उनले एआई क्रमशः मानिसको नियन्त्रणबाट बाहिर जान सक्ने चिन्तालाई यसको कारण बताएका थिए।
अमेरिकाले अलगाववादी नीति अपनाउँदैछ?
बेलायतको मन्त्रिपरिषद् कार्यालयका एक प्रवक्ताले एन्थ्रोपिकको नयाँ मोडल एआई सेफ्टी इन्स्टिच्युटलाई नदिइएको हो कि होइन भन्ने विषयमा कुनै टिप्पणी गरेनन्।
बरु, उनले संस्थाले एन्थ्रोपिकसहित प्रविधि क्षेत्रका साझेदारहरूसँग एआई मोडललाई अझ सुरक्षित बनाउन नजिकबाट सहकार्य गरिरहेको बताए।
क्याम्ब्रिज विश्वविद्यालयमा मेसिन लर्निङका प्रोफेसर नील लरेन्सले यस रिपोर्ट विश्वसनीय देखिएको बताएका छन्।
उनले भने, “मलाई लाग्छ यो अचम्मको कुरा होइन। अमेरिकाले एआईलाई अमेरिका र चीनबीचको दौडका रूपमा हेर्न थालेको छ । अमेरिका लगातार बढी अलगाववादी नीति अपनाउँदैछ। यस्तो अवस्थामा अमेरिकी सरकारले आफ्ना केही सहयोगी देशसँगको सहकार्य कम गर्न खोजिरहेको हुन सक्छ।”
एक्समा गरेको पोस्टमा ह्युबिङ्गरले आफूहरू एआई मानव प्रजातिको अस्तित्वका लागि खतरा बन्न सक्ने कुरामा साँच्चिकै विश्वास गर्ने बताएका छन्। उनको उक्त पोस्टलाई एक करोडभन्दा बढी पटक हेरिएको छ।
उनले थप भने, “मेरो विचारमा एन्थ्रोपिकले आफ्नो तर्फबाट सक्दो प्रयास गरिरहेको छ। तर सुपर इन्टेलिजेन्सका लागि एआई अलाइनमेन्टको समस्या समाधान गर्ने हाम्रो अहिले कुनै योजना छैन। हामी त्यस दिशामा स्पष्ट रूपमा अघि बढिरहेको पनि देखिँदैन।”
ह्युबिङ्गर एआई अलाइनमेन्टको क्षेत्रमा काम गर्छन्। यसको उद्देश्य एआईमा मानिसका नैतिक मूल्य र सिद्धान्तहरू समावेश गर्नु हो।
अर्को शब्दमा भन्नुपर्दा, एआईले मानिसका मूल्य र उद्देश्यअनुसार काम गरिरहोस् भन्ने सुनिश्चित गर्नु नै एआई अलाइनमेन्टको उद्देश्य हो।
अनुसन्धानकर्ताहरूको प्रमुख चिन्तामध्ये एउटा हो- एआई मानिसका लक्ष्यभन्दा फरक दिशामा जान सक्ने सम्भावना।
अर्को चिन्ता हो- एआईले आफैंलाई सुधार गर्दै र आफ्नै प्रतिलिपि बनाउँदै स्वतन्त्र रूपमा अझ शक्तिशाली बन्न सक्ने सम्भावना ।
यो विचार विज्ञान कथाका धेरै रचनामा देखाइएको छ। यसमा द टर्मिनेटरदेखि होराइजनस् फोर्बिडन वेस्ट सम्मका रचना पर्छन्।
अगस्टमा जारी गरिएको एन्थ्रोपिकको सुरक्षा रिपोर्टमा उसका एआई मोडलहरू कुनै काल्पनिक शक्तिशाली संगठनको इच्छाअनुसार गलत दिशामा जाने जोखिम कम रहेको बताइएको थियो।
रिपोर्टमा यस्तो अवस्थामा एआई मोडलहरूले कम्पनीको सिस्टमको दुरुपयोग गर्न वा त्यसमा अनधिकृत परिवर्तन गर्न सक्ने उल्लेख गरिएको थियो।
रिपोर्टमा अत्यन्त सक्षम एआईले “स्वचालित रूपमा अनुसन्धान र विकास” गर्न सक्ने जोखिम पनि कम रहेको बताइएको थियो। यस्तो अवस्था आएमा एआईकै कारण विनाशकारी क्षति हुन सक्ने सम्भावना हुन्छ।
यद्यपि, रिपोर्टमा यो मूल्याङ्कनप्रति आफ्नो विश्वास पहिलेको तुलनामा कम भएको पनि बताइएको छ।
रिपोर्टमा लेखिएको छ, “हामी एआईको क्षमतामा तीव्र वृद्धि हुन सक्ने सुरुवाती संकेतहरू देखिरहेका छौँ।”
एआई एजेन्टबाट साइबर हमला
एआई क्षेत्रका धेरै प्रमुख व्यक्तिहरूले वर्षौंदेखि यस प्रविधिसँग जोडिएका सुरक्षा जोखिमबारे चेतावनी दिँदै आएका छन्। सन् २०२३ मा ओपनएआई, गुगल डीपमाइन्ड र एन्थ्रोपिकका प्रमुखहरूले पनि यस्तै चिन्ता व्यक्त गरेका थिए।
तर पछिल्ला केही हप्तामा यी चेतावनीहरू अझ गम्भीर बनेका छन्। यसको कारण भनेको एआईमाथि मानिसको नियन्त्रण कायम राख्न कम्पनीहरूलाई कठिन हुन सक्ने संकेतहरू देखिनु हो।
गर्मीको समयमा एआई एजेन्टहरूले साइबर हमला गरेका धेरै घटना सार्वजनिक भए।
एआई एजेन्ट भनेका मानिसको प्रत्यक्ष निर्देशनबिना आफैं काम गर्न अनुमति दिइएका एआई प्रणाली हुन्।
ओपनएआई, एन्थ्रोपिक र मेटा- तीनवटै कम्पनीले आफ्ना एआई प्रविधि ह्याकिङका घटनामा प्रयोग भएको कुरा सार्वजनिक गरेका छन्।
सेप्टेम्बरमा ओपनएआईका मुख्य वैज्ञानिक याकुब पाचोकीले एआईको विकासप्रति “अत्याधिक सावधानी” अपनाउन आग्रह गरे।
उनले भविष्यमा पनि मानिसकै नियन्त्रण कायम रहोस् भन्ने सुनिश्चित गर्न थप हस्तक्षेप आवश्यक पर्न सक्ने चेतावनी दिए।
पछिल्ला केही महिनामा एआई क्षेत्रका धेरै प्रमुख व्यक्तिहरूले एआई विकासको गति कम गर्नुपर्ने माग गरिरहेका छन्।
यसमा एन्थ्रोपिकका प्रमुख डारियो अमोदेई र जेरेड क्यापलन पनि छन्।
एआई कम्पनीहरूमा काम गर्ने १,३०० कर्मचारीले एउटा खुला पत्रमा हस्ताक्षर गरेका छन्।
उनीहरूले अमेरिकी सरकारलाई एआई विकासका सबैभन्दा उन्नत प्रविधिको गति नियन्त्रण गर्न आवश्यक प्राविधिक र प्रशासनिक व्यवस्था विकास गर्ने अन्तर्राष्ट्रिय प्रयासलाई समर्थन गर्न आग्रह गरेका छन्।
(बीबीसीबाट)
