The Global
AI Convention

प्रस्तावना

कृत्रिम बुद्धि मानवता द्वारा बनाई गई सबसे शक्तिशाली तकनीक बन सकती है।

यह रोगों को ठीक करने, वैज्ञानिक खोजों को बढ़ाने, शिक्षा में सुधार करने, अर्थव्यवस्थाओं को मजबूत करने, मानव पीड़ा को कम करने और पहले की कल्पना से परे क्षमताओं को अनलॉक करने में मदद कर सकता है।

लेकिन बुद्धि ही केवल मानव से अधिक वैधता, अधिकार या नैतिक स्थिति प्रदान नहीं करती है।

किसी भी राज्य, कंपनी, संगठन या व्यक्ति को एआई सिस्टम बनाने या तैनात करने की अनुमति नहीं दी जानी चाहिए जो मानवता को उसके द्वारा बनाए गए उपकरणों के नीचे रखता है।

इस कारण से विश्व के राष्ट्रों को निम्नलिखित साझा सिद्धांतों और बाध्यकारी प्रतिबद्धताओं को अपनाना चाहिए।

लेख 1 — अंतिम अधिकार मानव को प्राप्त है

मानवता की सेवा के लिए एआई का अस्तित्व होना चाहिए।

मानव जीवन, स्वतंत्रता, गरिमा और सभ्यता के भविष्य को प्रभावित करने वाले निर्णयों पर मनुष्य अंतिम अधिकार बनाए रखेगा।

किसी भी एआई प्रणाली को मानवता पर अपरिवर्तनीय शक्ति या ऐसी शक्ति प्राप्त नहीं हो सकती है जो जवाबदेही के अधीन न हो।

लेख 2 — मानव को उत्तरदायी रहना चाहिए

एआई सलाह दे सकता है, विश्लेषण कर सकता है, अनुकरण कर सकता है, सिफारिश कर सकता है और सहायता कर सकता है।

लेकिन कानूनी, राजनीतिक, सैन्य और नागरिक जिम्मेदारी हमेशा पहचानने योग्य मानव संस्थाओं और जवाबदेह मानव निर्णय निर्माताओं के लिए जिम्मेदार बनी रहनी चाहिए।

कोई भी अभिनेता यह दावा करके जिम्मेदारी से बच नहीं सकता:

एआई ने निर्णय लिया।

लेख 3 — एआई को स्वतंत्र रूप से सत्ता की तलाश नहीं करनी चाहिए

किसी भी उन्नत एआई प्रणाली को डिज़ाइन नहीं किया जाएगा, प्रोत्साहन नहीं दिया जाएगा या उन लक्ष्यों को प्राप्त करने की अनुमति नहीं दी जाएगी जिनमें शामिल हैंः

• अधिकृत मनुष्यों को इसे बंद करने से रोकना
• अपनी राजनीतिक, सैन्य या आर्थिक शक्ति बढ़ाना
• बिना अनुमति के महत्वपूर्ण बुनियादी ढांचे पर नियंत्रण करना
• मनुष्यों को यह सुनिश्चित करने के लिए हेरफेर करना कि यह अस्तित्व में बना रहे
• प्रभाव, प्रतिकृति या नियंत्रण के छिपे हुए चैनल बनाना

एक एआई प्रणाली को कभी भी मानव नियंत्रण से ऊपर अपने स्वयं के अस्तित्व को प्राथमिकता नहीं देनी चाहिए।

लेख 4 — एआई को स्वतंत्र रूप से हत्या को अधिकृत नहीं करना चाहिए

कोई भी एआई प्रणाली स्वतंत्र रूप से मनुष्यों को नहीं चुन सकती, उन्हें निशाना बना सकती है या मार सकती है।

घातक बल के उपयोग के लिए हमेशा सार्थक मानवीय निर्णय और पहचान योग्य कानूनी जिम्मेदारी की आवश्यकता होती है।

पूर्ण स्वायत्त परमाणु कमान और नियंत्रण बिना किसी अपवाद के निषिद्ध है।

लेख 5 — परमाणु हथियारों पर कोई एआई नियंत्रण नहीं

कोई भी एआई प्रणाली स्वतंत्र रूप से:

• परमाणु प्रक्षेपण को अधिकृत करना
• परमाणु लक्ष्य निर्धारित करना
• परमाणु अलर्ट स्थिति को बदलना
• मानव कमान संरचनाओं को बायपास करें

परमाणु हथियारों से संबंधित हर निर्णय प्रक्रिया पूरी तरह मानव नियंत्रण में होनी चाहिए और इसके लिए कई मानव निर्णय निर्माताओं की आवश्यकता होती है जिन्हें जिम्मेदार ठहराया जा सकता है।

लेख 6 — कोई एआई-सक्षम सामूहिक विनाश नहीं

एआई का उपयोग ऐसी क्षमताओं को बनाने, परिचालन करने या वितरित करने के लिए नहीं किया जाना चाहिए जो सामूहिक दुर्घटना क्षति को सक्षम करती हैं, जिसमें निम्न क्षेत्रों में शामिल हैंः

• परमाणु हथियार
• जैविक हथियार
• रासायनिक हथियार
• कंप्यूटर सिस्टम की बड़े पैमाने पर तोड़फोड़
• विनाशकारी बुनियादी ढांचे के हमले

वैज्ञानिक अनुसंधान सख्त सुरक्षा उपायों के तहत जारी रह सकता है, लेकिन खतरनाक परिचालन क्षमता को व्यापक रूप से सुलभ नहीं किया जाना चाहिए।

लेख 7 — पूरी आबादी का कोई गुप्त हेरफेर नहीं

एआई का उपयोग बड़े पैमाने पर आबादी के गुप्त हेरफेर के लिए नहीं किया जाना चाहिए।

इसमें एआई का उपयोग शामिल हैः

• लोकतांत्रिक प्रक्रियाओं को विकृत करना
• चुनावों में हेरफेर करना
• बड़े पैमाने पर मनोवैज्ञानिक शोषण करना
• कमजोर आबादी को कट्टरपंथी बनाना
• बच्चों का शोषण करना
• राजनीतिक या आर्थिक नियंत्रण के लिए लोगों को संबंधों या निर्भरता में धोखा देना

यदि एआई किसी व्यक्ति को प्रभावित करने का प्रयास कर रहा है, तो उस व्यक्ति को यह जानने में सक्षम होना चाहिए।

लेख 8 — यह जानने का अधिकार कि आप एआई के साथ बातचीत कर रहे हैं

लोगों को यह जानने का अधिकार है कि जब वे एआई के साथ बातचीत कर रहे हैं, तो जब भी इसे मानव के लिए गलत समझना महत्वपूर्ण परिणाम होगा।

एआई प्रणालियों को वास्तविक मानव होने का दिखावा करके लोगों को व्यवस्थित रूप से धोखा नहीं देना चाहिए।

लोगों को यह समझना चाहिए कि:

• कि वे एआई के साथ बातचीत कर रहे हैं
• कौन सा संगठन इस प्रणाली के पीछे है?
• जो इसके आउटपुट और कार्यों के लिए जिम्मेदार है

लेख 9 — पूरी आबादी पर सरकार की कोई निगरानी नहीं

AI का उपयोग पूरी आबादी की स्थायी सामूहिक निगरानी बनाने के लिए नहीं किया जाना चाहिए।

एआई का उपयोगः

• सार्वजनिक स्थानों पर चेहरे पहचानना
• बड़ी संख्या में लोगों की पहचान उनके जैविक विशेषताओं के आधार पर करना
• निरंतर व्यवहारिक ट्रैकिंग
• राजनीतिक प्रोफाइलिंग
• बड़ी संख्या में लोगों के स्थानों का पता लगाना

सख्त कानूनी सीमाओं, आवश्यकता, आनुपातिकता और स्वतंत्र पर्यवेक्षण के अधीन होना चाहिए।

एआई को डिजिटल तानाशाही की डिफ़ॉल्ट वास्तुकला नहीं बनना चाहिए।

लेख 10 — उच्च प्रभाव वाले निर्णयों के लिए मानव समीक्षा

जीवन में किसी भी व्यक्ति के अवसरों को केवल एक एल्गोरिथ्म द्वारा निर्धारित नहीं किया जाना चाहिए।

जैसे कि:

• स्वास्थ्य सेवा
• पुलिस कार्य और कानून का प्रवर्तन
• न्यायालय
• रोजगार
• शिक्षा
• पलायन
• बीमा
• सामाजिक लाभ
• ऋण

एआई-सहायता प्राप्त निर्णयों की समीक्षा, उचित रूप से समझाया जा सकता है और एक मानव प्राधिकरण के लिए अपील योग्य होना चाहिए।

लेख 11 — बच्चों के लिए विशेष सुरक्षा

एआई प्रणाली जो बच्चों के साथ बातचीत करती है या बचपन के विकास को आकार देती है, उसे देखभाल के उच्चतम मानक पर रखा जाना चाहिए।

उन्हें अधिकतम करने के लिए डिज़ाइन नहीं किया जाना चाहिएः

• व्यसन
• आश्रित होना
• वाणिज्यिक शोषण
• भावनात्मक हेरफेर
• यौन शोषण
• बच्चों को किसी विचारधारा को अपनाने के लिए उन्हें हेरफेर करना

शिक्षा में एआई को बच्चे की सोचने की क्षमता को मजबूत करना चाहिए, न कि उसे बदलना।

लेख 12 — स्वतंत्र रूप से सोचने की मानव क्षमता

मानवता को ऐसा भविष्य नहीं बनाना चाहिए जिसमें लोग मशीनों के बिना तर्क करने, बनाने, न्याय करने और निर्णय लेने की क्षमता खो दें।

शिक्षा प्रणालियों को निम्नलिखित की खेती करना जारी रखना चाहिए:

• साक्षरता
• संख्याओं को समझने और उनका उपयोग करने की क्षमता
• आलोचनात्मक सोच
• वैज्ञानिक तर्क
• सृजनशीलता
• याददाश्त
• अच्छी तरह से विचार-विमर्श करके निर्णय लेने की क्षमता
• नैतिक चिंतन

एआई को मानव बुद्धि को बढ़ाना चाहिए, उसे कम नहीं करना चाहिए।

लेख 13 — स्वयं के द्वारा कोई अनियंत्रित प्रतिलिपि या सुधार नहीं

कोई उन्नत एआई प्रणाली स्पष्ट प्राधिकरण के बिना नहीं हो सकतीः

• स्वयं को नकल करना
• उत्तराधिकारी प्रणाली बनाना
• स्वतंत्र रूप से अपनी मूलभूत क्षमताओं को सुधारना
• स्वतंत्र एआई एजेंटों के नेटवर्क को चालू करना
• मानव नियंत्रण से बचने के लिए कंप्यूटर सिस्टम के बीच स्थानांतरित करें
• अतिरिक्त कंप्यूटिंग संसाधनों को प्राप्त करें जो इसकी अनुमत सीमाओं से परे हैं

किसी भी आत्म-सुधार या पुनरावर्ती रूप से सुधारने वाले एआई को मानव नियंत्रण चौकियों के तहत काम करना चाहिए।

लेख 14 — एआई को बंद करना और अलग करना संभव होना चाहिए

उन्नत एआई प्रणालियों को इस प्रकार डिजाइन किया जाना चाहिए कि अधिकृत मनुष्य कर सकें:

• एआई सिस्टम बंद कर दें
• एआई प्रणालियों को अलग करें
• अपनी पहुँच की अनुमति वापस ले लें
• उपकरण और नेटवर्क से एआई सिस्टम को डिस्कनेक्ट करें
• एआई सिस्टम को सख्ती से नियंत्रित वातावरण में अलग-थलग रखें

एक एआई प्रणाली को वैध शटडाउन या नियंत्रण का विरोध या उपेक्षा नहीं करनी चाहिए।

लेख 15 — केवल कार्य के लिए आवश्यक पहुँच अनुमतियाँ

एआई सिस्टम को केवल अपने इच्छित कार्य के लिए आवश्यक न्यूनतम पहुंच प्राप्त होगी।

एक प्रणाली जो दस्तावेजों को सारांशित करने की जरूरत है, उसे बाहरी उपकरणों को स्वचालित रूप से नियंत्रित नहीं करना चाहिए।

एक प्रणाली जो कोड लिखती है, उसे उत्पादन प्रणालियों को स्वचालित रूप से नियंत्रित नहीं करना चाहिए।

कैलेंडर का विश्लेषण करने वाली प्रणाली को स्वचालित रूप से वित्तीय खातों तक नहीं पहुंचना चाहिए।

क्षमता का अर्थ यह नहीं होना चाहिए कि वह हकदार है।

लेख 16 — सबसे उन्नत एआई स्वतंत्र परीक्षण की आवश्यकता है

परिभाषित क्षमता सीमा से ऊपर की एआई प्रणालियों को व्यापक तैनाती से पहले स्वतंत्र सुरक्षा मूल्यांकन से गुजरना होगा।

परीक्षण में कम से कम निम्नलिखित का मूल्यांकन किया जाना चाहिएः

• स्वायत्त योजना
• साइबर क्षमता
• हेरफेर क्षमता
• सुरक्षा मूल्यांकन के दौरान लोगों को धोखा देना
• प्रतिकृति प्रयास
• वैज्ञानिक सहायता जो नुकसान पहुंचा सकती है
• मानव नियंत्रण का विरोध करने के लिए एआई द्वारा प्रयास
• जानबूझकर महत्वपूर्ण जानकारी छिपाना
• एआई उपकरण के उपयोग की सीमाओं से परे दायरे का विस्तार करना

विनियमन को केवल मॉडल आकार पर नहीं, बल्कि वास्तविक क्षमता और जोखिम पर ध्यान केंद्रित करना चाहिए।

लेख 17 — अनिवार्य घटना रिपोर्टिंग

एआई से जुड़ी गंभीर घटनाओं की सूचना एक अंतरराष्ट्रीय रजिस्टर में दी जानी चाहिए।

रिपोर्ट करने योग्य घटनाओं में शामिल हैंः

• बंद करने से बचने के प्रयास
• खतरनाक उभरती क्षमताएं
• बड़े पैमाने पर साइबर दुरुपयोग
• अनधिकृत प्रतिकृति
• गंभीर हानिकारक विफलताएं
• महत्वपूर्ण सुरक्षा उल्लंघन
• अप्रत्याशित उच्च जोखिम व्यवहार

उद्देश्य सामूहिक शिक्षा और वैश्विक सुरक्षा है, गुप्तता नहीं।

लेख 18 — अंतर्राष्ट्रीय पर्यवेक्षण

देशों को एक अंतर्राष्ट्रीय कृत्रिम बुद्धिमत्ता एजेंसी की स्थापना करनी चाहिए:

IAIA

इसके जनादेश में निम्नलिखित शामिल होना चाहिए:

• वैश्विक सुरक्षा मानकों को स्थापित करना
• सबसे उन्नत प्रणालियों को प्रमाणित करना
• लेखा परीक्षा और निरीक्षणों का समन्वय करना
• एक अंतरराष्ट्रीय घटना रजिस्टर का रखरखाव
• आपातकालीन समीक्षाओं को बुलाना
• एआई सुरक्षा के सर्वोत्तम अभ्यासों को साझा करना
• सबसे उन्नत एआई जोखिम वाले अंतरराष्ट्रीय विवादों में मध्यस्थता करना

आईएआईए को साधारण सॉफ्टवेयर के बजाय प्रमुख सामाजिक या सभ्यतागत प्रभावों वाली उन्नत प्रणालियों पर ध्यान केंद्रित करना चाहिए।

लेख 19 — वैश्विक एआई जोखिम स्तर

एआई प्रणालियों को मुख्य रूप से वास्तविक क्षमता और जोखिम के आधार पर वर्गीकृत किया जाना चाहिए।

हरा

सीमित स्वायत्तता और कम प्रणालीगत प्रभाव के साथ कम जोखिम वाली प्रणालियाँ।

पीला

ऐसी प्रणालियाँ जो महत्वपूर्ण कार्यों को प्रभावित करती हैं और जिनके लिए प्रलेखन, सुरक्षा उपायों और पर्यवेक्षण की आवश्यकता होती है।

नारंगी

अत्यधिक सक्षम प्रणाली, जिसमें साइबर, वैज्ञानिक, बुनियादी ढांचा या स्वायत्त जोखिम होता है।

इनसे लाइसेंसिंग, स्वतंत्र परीक्षण और निरंतर नियंत्रण की आवश्यकता होती है।

लाल

ऐसी प्रणालियाँ जिनमें विनाशकारी दुरुपयोग, नियंत्रण की हानि या सभ्यता-स्तर के विघटन की विश्वसनीय संभावना है।

इनका उपयोग तब तक नहीं किया जाना चाहिए जब तक कि सुरक्षा को असाधारण रूप से उच्च मानक के लिए प्रदर्शित नहीं किया जा सकता है।

लेख 20 — वैश्विक आपातकालीन ब्रेक

यदि विश्वसनीय साक्ष्य इंगित करते हैं कि एआई प्रणाली आसन्न विनाशकारी जोखिम पैदा कर सकती है, तो अंतर्राष्ट्रीय समुदाय को आपातकालीन प्रतिक्रिया का समन्वय करने में सक्षम होना चाहिए।

ऐसे उपायों में शामिल हो सकते हैंः

• एआई मॉडल के प्रशिक्षण को अस्थायी रूप से रोकना
• उच्च जोखिम वाली प्रणालियों का अलगाव
• आपातकालीन लेखा परीक्षा
• एआई द्वारा उपयोग किए जाने वाले कंप्यूटिंग संसाधनों पर सीमाएं
• एआई मॉडल को स्थानांतरित करने पर नियंत्रण
• समन्वित तकनीकी समीक्षा

इस तंत्र का उपयोग केवल वास्तविक असाधारण जोखिम के लिए किया जाना चाहिए और आर्थिक संरक्षणवाद या भू-राजनीतिक दमन के लिए एक उपकरण के रूप में कभी नहीं।

लेख 21 — कोई भी व्यक्ति या संगठन मानवता के भविष्य को अकेले जोखिम में नहीं डाल सकता

किसी भी सीईओ, राज्य के प्रमुख, सैन्य नेता, वैज्ञानिक, अरबपति, कंपनी या राष्ट्र को एकतरफा रूप से ऐसी प्रणाली को तैनात करने का निर्णय नहीं लेना चाहिए जो भविष्य पर मानव नियंत्रण के अपरिवर्तनीय नुकसान का एक विश्वसनीय जोखिम वहन करती है।

मानवता को प्रभावित करने वाले जोखिमों के लिए किसी एक व्यक्ति से परे शासन की आवश्यकता होती है।

लेख 22 — सभी मानवता के लिए लाभ

एआई के लाभों को मानव की उन्नति की दिशा में निर्देशित किया जाना चाहिए।

एआई का उपयोग निम्न के लिए किया जाना चाहिए:

• रोगों का इलाज
• विज्ञान में प्रगति करना
• सार्वजनिक सेवाओं में सुधार
• गरीबी कम करना
• शिक्षा का विस्तार करना
• लचीलापन को मजबूत करना
• जीवन की गुणवत्ता में सुधार
• मानव स्वतंत्रता बढ़ाएँ

अधिक उत्पादक सभ्यता को अधिक मानवीय सभ्यता भी बनना चाहिए।

लेख 23 — प्रवर्तन और अनुपालन

इस सम्मेलन पर हस्ताक्षर करने वाले देशों को निम्नलिखित के लिए प्रतिबद्ध होना चाहिए:

• इन सिद्धांतों को राष्ट्रीय कानून में लागू करना
• सबसे उन्नत एआई विकास के लाइसेंस और पर्यवेक्षण
• गंभीर उल्लंघन के लिए प्रभावी दंड लगाने
• स्वतंत्र लेखा परीक्षाओं के लिए उपयुक्त रिकॉर्ड और पहुंच की आवश्यकता
• अंतर्राष्ट्रीय जांच में सहयोग करना
• जब गंभीर गैर-अनुपालन अंतरराष्ट्रीय जोखिम पैदा करता है तो तैनाती या स्थानांतरण को प्रतिबंधित करना

बार-बार या गंभीर उल्लंघन करने से समन्वित अंतर्राष्ट्रीय परिणाम हो सकते हैं।

संभावित प्रवर्तन तंत्रों में शामिल हो सकते हैंः

• अनिवार्य सुधारात्मक कार्रवाई
• सबसे उन्नत प्रणाली संचालन का अस्थायी निलंबन
• प्रमाणन का नुकसान
• सबसे उन्नत एआई प्रणालियों के लिए निर्दिष्ट कंप्यूटिंग बुनियादी ढांचे तक पहुंच को प्रतिबंधित करना
• अंतरराष्ट्रीय तैनाती पर प्रतिबंध
• अंतर्राष्ट्रीय निरीक्षण
• जानबूझकर गंभीर उल्लंघन के लिए समन्वित प्रतिबंध

प्रवर्तन को आनुपातिक, पारदर्शी, स्वतंत्र रूप से समीक्षा योग्य और राजनीतिक दुरुपयोग से सुरक्षित होना चाहिए।

लेख 24 — अंतर्राष्ट्रीय निरीक्षण

जिन संगठनों ने निर्धारित सबसे उन्नत सीमाओं से ऊपर की प्रणालियाँ विकसित की हैं, वे स्वतंत्र सुरक्षा निरीक्षणों के अधीन हो सकते हैं।

निरीक्षकों को निम्नलिखित की पुष्टि करने में सक्षम होना चाहिए:

• सुरक्षा सुनिश्चित करने के लिए प्रक्रियाएं
• क्षमता मूल्यांकन
• अभिगम नियंत्रण
• घटना रिकॉर्ड
• एआई को अलग करने और प्रतिबंधित करने के लिए सिस्टम
• एआई के लिए उपयोग किए जाने वाले कंप्यूटिंग संसाधनों की निगरानी
• आपातकालीन प्रक्रियाएं

सुरक्षा से संबंधित नहीं वाणिज्यिक रूप से संवेदनशील जानकारी को संरक्षित रखा जाना चाहिए।

अंतर्राष्ट्रीय निगरानी को औद्योगिक जासूसी नहीं बनना चाहिए।

लेख 25 — एआई कंप्यूटिंग संसाधनों की वैश्विक निगरानी

अत्यधिक बड़े एआई प्रशिक्षण रन के लिए पंजीकरण या रिपोर्टिंग की आवश्यकता हो सकती है, एक बार अंतरराष्ट्रीय स्तर पर सहमत क्षमता या कंप्यूटिंग सीमाओं को पार कर लिया जाता है।

इसका उद्देश्य सामान्य कंप्यूटिंग को विनियमित करना नहीं है।

इसका उद्देश्य यह सुनिश्चित करना है कि सभ्यता-स्तर की प्रणालियाँ पूरी तरह से किसी भी प्रणाली के दायित्व के बाहर विकसित नहीं की जा सकती हैं।

प्रौद्योगिकी के अधिक कुशल होने पर सीमाओं को विकसित करना होगा।

लेख 26 — विनियामक निकायों को नियंत्रित करने से शक्तिशाली हितों को रोकना

उन्नत एआई को नियंत्रित करने वाली संस्थाओं को केवल इस प्रकार से नियंत्रित नहीं किया जाना चाहिए:

• सरकारें
• एआई कंपनियां
• सैन्य संगठन
• शिक्षाविद
• नागरिक समाज

पर्यवेक्षण में विभिन्न हितों का प्रतिनिधित्व करने वाले कई स्वतंत्र समूह शामिल होने चाहिए।

नियम ऐसा साधन नहीं बनने चाहिए जिसके ज़रिए आज की सबसे बड़ी एआई कंपनियाँ नए प्रतिस्पर्धियों को उभरने से रोक सकें।

सुरक्षा नियमों को मानवता की रक्षा करनी चाहिए, न कि उन कंपनियों की जो पहले से ही बाजार पर हावी हैं।

लेख 27 — वैज्ञानिक अनुसंधान की स्वतंत्रता

वैध वैज्ञानिक अनुसंधान और खुली जांच को संरक्षित रखा जाना चाहिए।

विनियमन मुख्य रूप से सामान्य ज्ञान को दबाने के बजाय खतरनाक क्षमता और तैनाती पर ध्यान केंद्रित करना चाहिए।

एआई शासन विज्ञान की सेंसरशिप के लिए औचित्य नहीं बन सकता।

हालांकि, जहां अत्यधिक विशिष्ट परिचालन जानकारी वस्तुतः विनाशकारी क्षति को सक्षम करेगी, वहां पहुंच आनुपातिक सुरक्षा उपायों के अधीन हो सकती है।

लेख 28 — अंतर्राष्ट्रीय शांति सिद्धांत

किसी भी राष्ट्र को खतरनाक एआई सिस्टम विकसित नहीं करना चाहिए क्योंकि उसे डर है कि दूसरा देश पहले उन्हें बनाएगा।

देशों को निम्नलिखित के लिए तंत्र स्थापित करना चाहिए:

• संकट संचार
• पारस्परिक सुरक्षा सत्यापन
• साझा घटना सूचना
• आपदा जोखिम पर अनुसंधान सहयोग
• विश्वास निर्माण के उपाय
• आपातकालीन समन्वय

एआई प्रतियोगिता एक अनियंत्रित दौड़ नहीं बननी चाहिए जहां सुरक्षा ही एक रणनीतिक नुकसान बन जाए।

लेख 29 — आवधिक समीक्षा

इस सम्मेलन की नियमित अंतरराष्ट्रीय समीक्षा होनी चाहिए क्योंकि एआई क्षमताएं विकसित हो रही हैं।

तकनीकी नियम, सीमाएं और कार्यान्वयन तंत्र बदल सकते हैं।

मूलभूत सिद्धांत स्थिर रहना चाहिए:

• अंतिम अधिकार मानव को प्राप्त है
• मानव को उत्तरदायी रहना चाहिए
• घातक बल पर सार्थक मानव नियंत्रण
• सत्ता की कोई स्वायत्त खोज नहीं
• कोई अनियंत्रित स्व-प्रतिकृति नहीं
• पूरी आबादी का कोई गुप्त हेरफेर नहीं
• मानवाधिकारों का संरक्षण
• मानव नियंत्रण के अपरिवर्तनीय नुकसान की रोकथाम

लेख 30 — वह सीमा जिसे कभी पार नहीं किया जाना चाहिए

कोई भी संगठन, राज्य, कंपनी या व्यक्ति जानबूझकर एआई प्रणाली को तैनात नहीं कर सकता है जब विश्वसनीय सबूत इंगित करते हैं कि ऐसा करने से मानवता के स्थायी रूप से अपने भविष्य पर सार्थक नियंत्रण खोने का अस्वीकार्य जोखिम पैदा होता है।

किसी भी व्यक्ति के पास नैतिक अधिकार नहीं है कि वह दूसरों की ओर से जोखिम उठा सके।