এআই ইতিহাসের সবচেয়ে শক্তিশালী প্রযুক্তি হতে পারে। এটা কখনো মানবতার চেয়ে শক্তিশালী হতে পারবে না।
কৃত্রিম বুদ্ধিমত্তা আমাদের জ্ঞান, বিজ্ঞান এবং দক্ষতায় এগিয়ে যেতে পারে। কিন্তু বুদ্ধিমানের দ্বারা শাসন করার অধিকার দেওয়া হয় না।
উন্নত কৃত্রিম বুদ্ধিমত্তার নিরাপদ, মানব-সংশ্লিষ্ট উন্নয়ন ও ব্যবহারের জন্য একটি প্রস্তাবিত আন্তর্জাতিক কাঠামো।
একটি ভবিষ্যত যা শাসন করার যোগ্য সংস্করণ 1.0 / 2026কৃত্রিম বুদ্ধিমত্তা হয়তো বিজ্ঞানে, প্রকৌশলে, চিকিৎসায় এবং কৌশলগত ক্ষেত্রে আমাদেরকে ছাড়িয়ে যাবে। এটাকে চিরকালের জন্য প্রতিরোধ করার চেষ্টা করা অবাস্তব হতে পারে।
কিন্তু বুদ্ধিমত্তা এবং কর্তৃত্ব একই জিনিস নয়। আমাদের নিয়ন্ত্রণ করার অনুমতি না পেয়েও এআই আমাদের চেয়ে বেশি বুদ্ধিমান হতে পারে।
এই কনভেনশনটি বুদ্ধিমত্তার উপর কোন নির্বিচারে সীমা নির্ধারণ করে না। এটি ক্ষমতার চারপাশে স্থায়ী সীমানা স্থাপন করে।
এআই পরামর্শ দিতে পারে।
মানুষই দায়ী।
এআই অসাধারণভাবে সক্ষম হয়ে উঠতে পারে।
এটি স্বাধীন ক্ষমতা চাইতে পারে না।
এআই জীবন রক্ষা করতে পারে।
এটা স্বাধীনভাবে সিদ্ধান্ত নিতে পারে না।
নিয়ন্ত্রিত পরিস্থিতিতে এআই নিজেকে উন্নত করতে পারে।
এটা গোপনে প্রতিলিপি বা তত্ত্বাবধান এড়াতে পারে না।
কোন ব্যক্তি, কোম্পানি, সামরিক বা দেশ
মানবজাতির ভবিষ্যৎ নিয়ে জুয়া খেলতে পারে।
এআই কি করতে পারে তা কেবল গুরুত্বপূর্ণ নয়।
কার ক্ষমতা আছে, সে সিদ্ধান্ত নেবে।
লক্ষ্য হচ্ছে অগ্রগতি বন্ধ করা নয়। লক্ষ্য হচ্ছে, অগ্রগতিকে বেঁচে থাকার যোগ্য, দায়বদ্ধ এবং মানবিক করে তোলা।
প্রস্তাবিত বিশ্বব্যাপী এআই কনভেনশনের কেন্দ্রবিন্দুতে রয়েছে অভিন্ন সীমানা।
মানুষের জীবন, স্বাধীনতা, মর্যাদা এবং সভ্যতার উপর প্রভাব ফেলতে পারে এমন সিদ্ধান্তের ক্ষেত্রে মানুষই চূড়ান্ত কর্তৃত্ব বজায় রাখে।
অনুচ্ছেদ 1 পড়ুনকোন কোম্পানি, দেশ বা ব্যক্তি এই সিদ্ধান্তের জন্য একটি এআই সিস্টেমকে দায়ী করে দায়িত্ব থেকে সরে আসতে পারবে না।
অনুচ্ছেদ 2 পড়ুনএআইকে কখনোই স্বাধীনভাবে সিদ্ধান্ত নিতে হবে না কে বাঁচবে আর কে মরবে।
অনুচ্ছেদ 4 পড়ুনপারমাণবিক উৎক্ষেপণ কর্তৃপক্ষকে অবশ্যই মানব নিয়ন্ত্রিত হতে হবে।
অনুচ্ছেদ 5 পড়ুনএআইকে রাজনৈতিক, সামরিক বা অর্থনৈতিক ক্ষমতার জন্য নিজেকে ব্যবহার করতে হবে না।
অনুচ্ছেদ 3 পড়ুনএআইকে অবশ্যই জনগণ, গণতন্ত্র বা ব্যক্তিদের গোপনে বড় আকারে পরিচালনা করতে হবে না।
অনুচ্ছেদ 7 পড়ুনমানুষের জানা উচিত, কখন তারা এআই-এর সঙ্গে অর্থপূর্ণভাবে যোগাযোগ করছে।
অনুচ্ছেদ 8 পড়ুনএআইকে স্থায়ী গণ নজরদারি বা স্বয়ংক্রিয় নিপীড়নের জন্য অবকাঠামো হতে দেওয়া উচিত নয়।
অনুচ্ছেদ 9 পড়ুনমানুষের জীবনে প্রভাব ফেলতে পারে এমন উচ্চ-প্রভাবের এআই সিদ্ধান্তগুলি অবশ্যই দায়বদ্ধ মানুষদের দ্বারা পর্যালোচনাযোগ্য থাকতে হবে।
অনুচ্ছেদ 10 পড়ুনশক্তিশালী এআই সুরক্ষার অধীনে উন্নত হতে পারে তবে গোপনে প্রতিলিপি করা, তদারকি থেকে পালানো বা অনিয়ন্ত্রিত উত্তরসূরি তৈরি করা উচিত নয়।
অনুচ্ছেদ 13 পড়ুনঅনুমোদিত মানুষদের অবশ্যই উন্নত এআই সিস্টেমগুলিকে বিচ্ছিন্ন, সীমাবদ্ধ এবং বন্ধ করার ক্ষমতা বজায় রাখতে হবে।
অনুচ্ছেদ 14 পড়ুনকোনো ব্যক্তি, কোম্পানি বা দেশ এককভাবে মানবজাতিকে অপরিবর্তনীয় বিপর্যয়ের বিশ্বাসযোগ্য ঝুঁকির সম্মুখীন করতে পারে না।
অনুচ্ছেদ 21 পড়ুনসুপারহিউম্যান বুদ্ধিমত্তার জন্য সুপারহিউম্যান কর্তৃত্বের প্রয়োজন নেই।
একটি ধারণা চিত্র, একটি পূর্বাভাস বা বুদ্ধিমত্তা পরিমাপ না. স্লাইডারটি সরানঃ ক্ষমতা পরিবর্তন; বৈধ কর্তৃপক্ষ নয়।
৩০টি নিবন্ধ। এআই এর যুগে মানুষের সার্বভৌমত্বের জন্য একটি ভাগ করা ভিত্তি।
কৃত্রিম বুদ্ধিমত্তা মানবজাতির তৈরি সবচেয়ে শক্তিশালী প্রযুক্তি হতে পারে।
এটি রোগ নিরাময় করতে, বৈজ্ঞানিক আবিষ্কার প্রসারিত করতে, শিক্ষার উন্নতি করতে, অর্থনীতিকে শক্তিশালী করতে, মানুষের কষ্ট কমাতে এবং পূর্বে কল্পনা করা যেকোনো কিছুর বাইরে ক্ষমতা উন্মোচন করতে সাহায্য করতে পারে।
কিন্তু বুদ্ধিমত্তা একা মানুষের উপরে বৈধতা, কর্তৃত্ব বা নৈতিক অবস্থান প্রদান করে না।
কোনো রাষ্ট্র, কোম্পানি, প্রতিষ্ঠান বা ব্যক্তিকে এআই সিস্টেম তৈরি বা স্থাপন করার অনুমতি দেওয়া উচিত নয় যাতে মানবতা তার তৈরি সরঞ্জামগুলির নীচে থাকে।
এই কারণে, বিশ্বের জাতিগুলিকে নিম্নলিখিত সাধারণ নীতি এবং বাধ্যতামূলক প্রতিশ্রুতি গ্রহণ করা উচিত।
মানবতার সেবা করার জন্য এআই এর অস্তিত্ব রয়েছে।
মানব জীবন, স্বাধীনতা, মর্যাদা এবং সভ্যতার ভবিষ্যতকে প্রভাবিত করে এমন সিদ্ধান্তের ক্ষেত্রে মানুষের চূড়ান্ত কর্তৃত্ব বজায় রাখা উচিত।
কোনো এআই সিস্টেম মানবজাতির উপর অপরিবর্তনীয় ক্ষমতা বা এমন ক্ষমতা গ্রহণ করতে পারে না যা জবাবদিহিতা সাপেক্ষে নয়।
এআই পরামর্শ দিতে পারে, বিশ্লেষণ করতে পারে, অনুকরণ করতে পারে, সুপারিশ করতে পারে এবং সহায়তা করতে পারে।
কিন্তু আইনি, রাজনৈতিক, সামরিক এবং নাগরিক দায়িত্ব সবসময়ই চিহ্নিত মানবিক প্রতিষ্ঠান এবং দায়বদ্ধ মানবিক সিদ্ধান্ত গ্রহণকারীদের উপর নির্ভরশীল থাকতে হবে।
কোন অভিনেতা এই দাবি করে দায়িত্ব এড়াতে পারবেন নাঃ
এআই সিদ্ধান্ত নিয়েছে।
কোন উন্নত এআই সিস্টেমকে নিম্নলিখিত লক্ষ্যগুলি অর্জনের জন্য ডিজাইন, উৎসাহিত বা অনুমোদিত করা হবে নাঃ
এআই সিস্টেম কখনোই তার নিজের বেঁচে থাকার বিষয়টিকে মানুষের নিয়ন্ত্রণের উপরে অগ্রাধিকার দিতে পারে না।
কোন এআই সিস্টেম স্বাধীনভাবে মানুষ নির্বাচন, লক্ষ্যবস্তু বা হত্যা করতে পারে না।
প্রাণঘাতী শক্তি ব্যবহারের জন্য সবসময়ই মানুষের বিবেচনার প্রয়োজন এবং আইনি দায়বদ্ধতাও প্রয়োজন।
সম্পূর্ণ স্বশাসিত পারমাণবিক কমান্ড এবং নিয়ন্ত্রণ ব্যতিক্রম ছাড়াই নিষিদ্ধ।
কোন এআই সিস্টেম স্বাধীনভাবে:
পারমাণবিক অস্ত্রের সাথে জড়িত প্রতিটি সিদ্ধান্ত গ্রহণ প্রক্রিয়া সম্পূর্ণরূপে মানুষের নিয়ন্ত্রণে থাকতে হবে এবং এর জন্য বেশ কয়েকটি মানব সিদ্ধান্ত গ্রহণকারীদের প্রয়োজন যাদেরকে দায়ী করা যেতে পারে।
এআইকে এমন ক্ষমতা তৈরি, কার্যকর করা বা বিতরণ করতে ব্যবহার করা যাবে না যা ভর-ক্ষতিসাধনকারী ক্ষয়ক্ষতিকে সম্ভব করে, যার মধ্যে রয়েছেঃ
কঠোর সুরক্ষার অধীনে বৈজ্ঞানিক গবেষণা চালিয়ে যেতে পারে, কিন্তু বিপজ্জনক অপারেশনাল ক্ষমতা ব্যাপকভাবে অ্যাক্সেসযোগ্য করা যাবে না।
জনসংখ্যার বড় আকারের গোপন কাজে এআই ব্যবহার করা যাবে না।
এর মধ্যে রয়েছে এআই ব্যবহারের ক্ষেত্রেঃ
যদি এআই একজন মানুষকে প্রভাবিত করার চেষ্টা করে, তাহলে সেই ব্যক্তিকে অবশ্যই তা জানাতে হবে।
মানুষের যখনই এআই-এর সঙ্গে যোগাযোগের বিষয়টি জানার অধিকার রয়েছে, কারণ এটিকে মানুষের সাথে ভুল করে নেওয়ার ফলে গুরুত্বপূর্ণ পরিণতি হতে পারে।
এআই সিস্টেমগুলিকে অবশ্যই মানুষকে প্রতারণা করতে হবে না, কারণ তারা নিজেদেরকে মানুষ বলে পরিচয় দিতে পারে।
মানুষ বুঝতে পারবে:
এআইকে পুরো জনগোষ্ঠীর স্থায়ী গণ নজরদারি তৈরি করতে ব্যবহার করা উচিত নয়।
এআই এর ব্যবহারঃ
কঠোর আইনি সীমাবদ্ধতা, প্রয়োজনীয়তা, প্রযোজ্যতা এবং স্বাধীন তত্ত্বাবধানে থাকতে হবে।
এআই কখনোই ডিজিটাল স্বৈরশাসনের ডিফল্ট আর্কিটেকচারে পরিণত হতে পারে না।
কোনো ব্যক্তির জীবনে সুযোগ শুধুমাত্র একটি অ্যালগরিদম দ্বারা নির্ধারিত করা উচিত নয়।
যেমনঃ
এআই-সহায়তায় সিদ্ধান্তগুলি অবশ্যই পর্যালোচনাযোগ্য, যথাযথভাবে ব্যাখ্যাযোগ্য এবং একটি মানব কর্তৃপক্ষের কাছে আবেদনযোগ্য হতে হবে।
এআই সিস্টেমগুলি যা শিশুদের সাথে ইন্টারঅ্যাক্ট করে বা শৈশব বিকাশকে রূপ দেয় তাদের সর্বোচ্চ স্তরের যত্নের সাথে রাখা উচিত।
তাদের ডিজাইন করা উচিত নয় যাতে তারা সর্বোচ্চ পরিমাণেঃ
শিক্ষায় কৃত্রিম বুদ্ধিমত্তার ব্যবহার শিশুর চিন্তাভাবনাকে শক্তিশালী করতে হবে, প্রতিস্থাপন করতে নয়।
মানবতাকে এমন ভবিষ্যৎ পরিকল্পনার পরিকল্পনা করতে হবে না যেখানে মানুষ মেশিন ছাড়া যুক্তি, সৃষ্টি, বিচার এবং সিদ্ধান্ত নেওয়ার ক্ষমতা হারাবে।
শিক্ষাব্যবস্থাকে নিম্নলিখিত বিষয়গুলোতে মনোনিবেশ করতে হবে:
এআই মানুষের বুদ্ধিকে বাড়াতে হবে, ক্ষয় করতে নয়।
কোন উন্নত এআই সিস্টেম, স্পষ্ট অনুমোদন ছাড়া:
যে কোন স্ব-উন্নতি বা পুনরাবৃত্তিমূলকভাবে উন্নত AI অবশ্যই মানুষের নিয়ন্ত্রণে কাজ করতে হবে।
উন্নত এআই সিস্টেমগুলি এমনভাবে ডিজাইন করা উচিত যাতে অনুমোদিত মানুষঃ
এআই সিস্টেমকে বৈধ বন্ধ বা নিয়ন্ত্রণের প্রতিরোধ বা বিপর্যয় সৃষ্টি করতে হবে না।
এআই সিস্টেমগুলিকে কেবলমাত্র তাদের নির্ধারিত কাজের জন্য প্রয়োজনীয় ন্যূনতম অ্যাক্সেস দেওয়া হবে।
যে সিস্টেমটি নথি সংক্ষিপ্ত করতে চায়, সে সিস্টেমকে স্বয়ংক্রিয়ভাবে বহিরাগত সরঞ্জামগুলি নিয়ন্ত্রণ করা উচিত নয়।
কোড লিখতে পারে এমন একটি সিস্টেম স্বয়ংক্রিয়ভাবে উৎপাদন ব্যবস্থা নিয়ন্ত্রণ করতে পারে না।
ক্যালেন্ডার বিশ্লেষণ করে এমন একটি সিস্টেম স্বয়ংক্রিয়ভাবে আর্থিক অ্যাকাউন্ট অ্যাক্সেস করা উচিত নয়।
ক্ষমতা মানেই অধিকার নয়।
এআই সিস্টেমগুলিকে অবশ্যই তাদের দক্ষতার সীমা অতিক্রম করে স্বতন্ত্র নিরাপত্তা মূল্যায়ন করতে হবে।
পরীক্ষার মাধ্যমে নিম্নলিখিত বিষয়গুলো মূল্যায়ন করা উচিতঃ
নিয়মাবলী শুধুমাত্র মডেলের আকারের উপর নয়, প্রকৃত ক্ষমতা এবং ঝুঁকির উপর ফোকাস করা উচিত।
এআই-এর সাথে জড়িত গুরুতর ঘটনাগুলো আন্তর্জাতিক রেজিস্টারে রিপোর্ট করতে হবে।
প্রতিবেদনযোগ্য ঘটনাগুলির মধ্যে রয়েছেঃ
উদ্দেশ্য হচ্ছে সমষ্টিগত শিক্ষা এবং বিশ্বব্যাপী নিরাপত্তা, গোপনীয়তা নয়।
দেশগুলোকে একটি আন্তর্জাতিক কৃত্রিম বুদ্ধিমত্তা সংস্থা প্রতিষ্ঠা করতে হবে:
IAIA
এর কার্যভার নিম্নলিখিত বিষয়গুলি অন্তর্ভুক্ত করা উচিত:
আইএআইএ সাধারণ সফটওয়্যার নয়, বড় সামাজিক বা সভ্যতার প্রভাবের সাথে উন্নত সিস্টেমগুলিতে ফোকাস করা উচিত।
এআই সিস্টেমগুলোকে মূলত প্রকৃত ক্ষমতা এবং ঝুঁকি অনুযায়ী শ্রেণীবদ্ধ করা উচিত।
সবুজ
স্বল্প স্বয়ংক্রিয়তা এবং স্বল্প সিস্টেমিক প্রভাব সহ নিম্ন ঝুঁকিপূর্ণ সিস্টেম।
হলুদ
গুরুত্বপূর্ণ ফাংশন প্রভাবিত করে এবং নথিভুক্তকরণ, সুরক্ষা এবং তত্ত্বাবধানের প্রয়োজন হয় এমন সিস্টেম।
কমলা
উচ্চ ক্ষমতাসম্পন্ন সিস্টেমগুলি যার সাইবার, বৈজ্ঞানিক, অবকাঠামোগত বা স্বশাসিত ঝুঁকি রয়েছে।
এর জন্য লাইসেন্স, স্বাধীন পরীক্ষা এবং ক্রমাগত নিয়ন্ত্রণ প্রয়োজন।
লাল
সিস্টেমগুলোতে বিপর্যয়কর অপব্যবহার, নিয়ন্ত্রণ হারানো বা সভ্যতার স্তর ভেঙ্গে যাওয়ার সম্ভাব্য সম্ভাবনা রয়েছে।
এইগুলিকে ব্যবহার করা যাবে না যদি না নিরাপত্তা অত্যন্ত উচ্চ মানের হয়।
যদি বিশ্বাসযোগ্য প্রমাণ থেকে বোঝা যায় যে, এআই সিস্টেমটি একটি বিপর্যয়মূলক ঝুঁকি সৃষ্টি করতে পারে, তাহলে আন্তর্জাতিক সম্প্রদায়কে জরুরি প্রতিক্রিয়া সমন্বয় করতে সক্ষম হতে হবে।
এই ধরনের ব্যবস্থাগুলির মধ্যে অন্তর্ভুক্ত থাকতে পারেঃ
এই ব্যবস্থা শুধুমাত্র সত্যিকারের অসাধারণ ঝুঁকির ক্ষেত্রে ব্যবহার করা উচিত এবং কখনোই অর্থনৈতিক সুরক্ষাবাদ বা ভূরাজনৈতিক দমনের জন্য একটি হাতিয়ার হিসেবে ব্যবহার করা উচিত নয়।
কোন সিইও, রাষ্ট্রপ্রধান, সামরিক নেতা, বিজ্ঞানী, কোটিপতি, কোম্পানি বা জাতিকে একতরফাভাবে এমন একটি ব্যবস্থা স্থাপনের সিদ্ধান্ত নিতে হবে যাতে মানুষের নিয়ন্ত্রণের অনিবার্য ক্ষতির ঝুঁকি রয়েছে।
যেসব ঝুঁকি সমগ্র মানবজাতিকে প্রভাবিত করে, সেগুলির জন্য কোনো একক ব্যক্তির বাইরেও প্রশাসনের প্রয়োজন হয়।
এআই এর সুবিধাগুলো মানুষের উন্নতির দিকে পরিচালিত করা উচিত।
এআই এর ব্যবহার করা উচিতঃ
একটি অধিক উৎপাদনশীল সভ্যতাকে আরো মানবিক সভ্যতাও হতে হবে।
যেসব দেশ এই চুক্তিতে স্বাক্ষর করেছে তাদের নিম্নোক্ত বিষয়ে প্রতিশ্রুতিবদ্ধ হওয়া উচিত:
বারবার বা গুরুতর লঙ্ঘন সমন্বিত আন্তর্জাতিক পরিণতি হতে পারে।
সম্ভাব্য প্রয়োগের পদ্ধতির মধ্যে রয়েছেঃ
প্রয়োগের বিষয়টি অবশ্যই সমানুপাতিক, স্বচ্ছ, স্বাধীনভাবে পর্যালোচনাযোগ্য এবং রাজনৈতিক অপব্যবহার থেকে সুরক্ষিত হতে হবে।
যেসব প্রতিষ্ঠান নির্ধারিত উন্নততম সীমা অতিক্রম করে এমন সিস্টেম তৈরি করছে, তাদের স্বাধীন নিরাপত্তা পরিদর্শন করা হতে পারে।
পরিদর্শকদের যাচাই করতে সক্ষম হওয়া উচিতঃ
বাণিজ্যিকভাবে সংবেদনশীল তথ্য যা নিরাপত্তার সাথে সম্পর্কিত নয়, তা সুরক্ষিত থাকা উচিত।
আন্তর্জাতিক পর্যবেক্ষণ শিল্প গুপ্তচরবৃত্তির পরিণত হতে পারে না।
আন্তর্জাতিকভাবে সম্মত ক্ষমতা বা কম্পিউটিং থ্রেশহোল্ড অতিক্রম করার পরে অত্যন্ত বড় এআই প্রশিক্ষণ রানগুলি নিবন্ধকরণ বা প্রতিবেদন প্রয়োজন হতে পারে।
উদ্দেশ্য সাধারণ কম্পিউটিং নিয়ন্ত্রণ করা নয়।
এর উদ্দেশ্য হচ্ছে, সভ্যতার মাত্রা সম্পন্ন ব্যবস্থা যাতে কোনো দায়বদ্ধতা ব্যবস্থা ছাড়া সম্পূর্ণভাবে বিকশিত না হয়।
প্রযুক্তির দক্ষতা বাড়ার সাথে সাথে প্রান্তিকের উন্নতি করতে হবে।
উন্নত এআই পরিচালনা করে এমন প্রতিষ্ঠানগুলোকে শুধুমাত্র নিম্নলিখিত কর্তৃপক্ষ দ্বারা নিয়ন্ত্রিত করা যাবে নাঃ
বিভিন্ন স্বার্থের প্রতিনিধিত্বকারী একাধিক স্বাধীন গোষ্ঠীকে তদারকিতে অন্তর্ভুক্ত করা উচিত।
নিয়মগুলো যেন আজকের বৃহত্তম এআই কোম্পানিগুলোর নতুন প্রতিযোগীর উত্থান ঠেকানোর হাতিয়ার না হয়ে ওঠে।
নিরাপত্তা নিয়ম মানবাধিকার রক্ষা করতে হবে, বাজারে আধিপত্য বিস্তারকারী কোম্পানিকে নয়।
বৈধ বৈজ্ঞানিক গবেষণা এবং খোলা তদন্তকে রক্ষা করা উচিত।
সাধারণ জ্ঞানকে দমন করার পরিবর্তে নিয়মকানুনের মূল লক্ষ্য হওয়া উচিত বিপজ্জনক ক্ষমতা এবং স্থাপনার উপর।
এআই গভর্নেন্সকে বিজ্ঞানকে সেন্সর করার জন্য একটি যুক্তি হতে দেওয়া উচিত নয়।
তবে, যেখানে অত্যন্ত সুনির্দিষ্ট অপারেশনাল তথ্যের ফলে বিপর্যয়মূলক ক্ষতির সম্ভাবনা রয়েছে, সেখানে প্রবেশাধিকার প্রাপ্য সুরক্ষার বিষয় হতে পারে।
কোনো দেশেরই কেবলমাত্র এই ভয়ে ক্রমবর্ধমান বিপজ্জনক এআই সিস্টেম তৈরি করা উচিত নয় যে অন্য দেশ প্রথমে এটি তৈরি করবে।
দেশগুলোকে নিম্নলিখিত বিষয়গুলির জন্য ব্যবস্থা গ্রহণ করতে হবে:
এআই প্রতিযোগিতা এমন একটি অনিয়ন্ত্রিত দৌড়ের মধ্যে পরিণত হতে পারে না যেখানে নিরাপত্তা নিজেই কৌশলগত অসুবিধায় পরিণত হয়।
এআই এর ক্ষমতা বৃদ্ধি পাওয়ায় এই কনভেনশনটি নিয়মিত আন্তর্জাতিক পর্যালোচনা করা উচিত।
প্রযুক্তিগত নিয়ম, প্রান্তিক এবং বাস্তবায়ন প্রক্রিয়া পরিবর্তন হতে পারে।
মৌলিক নীতিগুলো স্থির থাকবে:
কোনো সংগঠন, রাষ্ট্র, কোম্পানি বা ব্যক্তি সচেতনভাবে একটি এআই সিস্টেম স্থাপন করতে পারে না যখন বিশ্বাসযোগ্য প্রমাণ ইঙ্গিত দেয় যে এটি করার ফলে মানবজাতি স্থায়ীভাবে তার নিজের ভবিষ্যতের উপর অর্থপূর্ণ নিয়ন্ত্রণ হারাতে পারে এমন একটি অগ্রহণযোগ্য ঝুঁকি তৈরি করে।
অন্যদের হয়ে এই ঝুঁকি নেওয়ার নৈতিক অধিকার কোনো ব্যক্তির নেই।
কনভেনশনের সমাপ্তি
সংস্করণ 1.0 · প্রস্তাবনা এবং সব ৩০টি অনুচ্ছেদ
সিস্টেমগুলোকে তাদের ক্ষতিকর দিক ও সম্ভাব্য ক্ষতির দিক দিয়ে শ্রেণীবদ্ধ করুন।
সীমিত স্বায়ত্তশাসন। কম সিস্টেমিক প্রভাব।
চিত্রণীয় উদাহরণএকটি টুল যা অন্য সিস্টেম অ্যাক্সেস ছাড়া নথি সংক্ষিপ্ত করে.
প্রস্তাবিত স্তর, বর্তমান আন্তর্জাতিক আইন নয়। উদাহরণে এই কাঠামোটি তুলে ধরা হয়েছে। চূড়ান্ত প্রান্তিক এবং মূল্যায়ন পদ্ধতির বিষয়ে আন্তর্জাতিকভাবে একমত হওয়া প্রয়োজন। পড়ুন ১৯ অনুচ্ছেদ
বিশ্বব্যাপী প্রভাবের সঙ্গে উন্নত এআই সিস্টেমের পরিচালনা সমন্বয় করার জন্য একটি প্রস্তাবিত প্রতিষ্ঠান।
অন্যান্য ভাগ করা ঝুঁকির জন্য আন্তর্জাতিক চুক্তির মতো এটি জাতীয় দায়িত্বকে বিশেষভাবে এআই-এর জন্য ডিজাইন করা আন্তর্জাতিক যাচাইয়ের সাথে সংযুক্ত করবে। এর কার্যাবলী সাধারণ সফটওয়্যার নয়, সবচেয়ে উন্নত সিস্টেমগুলিতে ফোকাস করবে।
প্রস্তাবিত ম্যান্ডেটটি অন্বেষণ করুনভাগাভাগি মানদণ্ড। স্বাধীন চেক।
দায়িত্বশীল মানবিক প্রতিষ্ঠান।
এআই নিরাপত্তা সংক্রান্ত সর্বাধিক উন্নত প্রয়োজনীয়তা নির্ধারণ করা।
সম্মত মাত্রার উপরে সিস্টেমগুলি মূল্যায়ন করুন।
উচ্চ ঝুঁকিপূর্ণ নিরাপত্তা অনুশীলন যাচাই করুন।
গুরুতর এআই ব্যর্থতা থেকে বিশ্বব্যাপী শিক্ষা তৈরি করা।
বিশ্বাসযোগ্য বিপর্যয়মূলক হুমকির মোকাবিলায় সমন্বিত প্রতিক্রিয়া।
ভূ-রাজনৈতিক প্রতিযোগিতায় নিরাপত্তাকে অসুবিধার কারণ হতে দেওয়া থেকে বিরত রাখা।
বিরল, অসাধারণ পরিস্থিতিতে যেখানে বিশ্বাসযোগ্য প্রমাণে দেখা যায় যে, বিপজ্জনক ক্ষতির সম্ভাবনা রয়েছে।
একটি গবেষণাগার, গবেষক, রাষ্ট্র বা জনসাধারণের সদস্য আসন্ন বিপর্যয় ঝুঁকি বিশ্বাসযোগ্য লক্ষণ চিহ্নিত করে।
প্রমাণ-ভিত্তিক ট্রিগার। সময়সীমার মধ্যে প্রযোজ্য ব্যবস্থা। স্বাধীন পর্যালোচনা এবং পরিষ্কার পুনরায় আরম্ভের মানদণ্ড। যেখানেই নিরাপদ স্বচ্ছতা। অর্থনৈতিক সুরক্ষাবাদ বা ভূ-রাজনৈতিক দমন নয়।
পড়ুন ২০ অনুচ্ছেদকোনো ব্যক্তি বা প্রতিষ্ঠানকে একেবারে নিয়ন্ত্রণে রাখা উচিত নয়।
এর কর্তৃত্ব এবং সীমাবদ্ধতা দেখতে একটি ভূমিকা নির্বাচন করুন।
মানবিক প্রতিষ্ঠানগুলোকে জবাবদিহি করতে হবে; মানুষ উচ্চ প্রভাবের সিদ্ধান্তের জন্য মানুষের পর্যালোচনা চাইতে পারে।
মানুষের কর্তৃত্বের সীমাবদ্ধতা রয়েছে অধিকার ও আইন দ্বারা। কোন মানুষই একা মানবতার ভবিষ্যৎ নির্ধারণ করতে পারে না।
একাগ্র বুদ্ধিমত্তা অনিবার্য হতে পারে।
একাগ্রভাবে ক্ষমতা গ্রহণ করা ঠিক নয়।
সুরক্ষা এবং সম্ভাবনা একসাথে চলে।
এটা এমন একটি অগ্রগতির প্রস্তাব যা আমরা ভাগ করে নিতে পারি।
ক্যান্সার নিরাময় করতে সাহায্য করে। নতুন ওষুধ আবিষ্কার করা।
ফিউশন এবং পরিচ্ছন্ন শক্তির অগ্রগতি। জলবায়ু ও পরিবেশগত সমস্যা সমাধানে সহায়তা করা।
শিক্ষার মানোন্নয়ন করা। সবার জন্য দক্ষতাকে সহজলভ্য করে তুলুন।
সমৃদ্ধি বিস্তার করুন। সরকারকে আরও ভালোভাবে কাজ করতে সাহায্য করে।
মানুষকে মহাবিশ্ব বুঝতে সাহায্য করবে। অন্য জগতে ঘুরে বেড়াও।
নতুন শিল্প সৃষ্টি করা। বিপজ্জনক এবং পুনরাবৃত্তিমূলক কাজ সরান। মানুষকে আরো সময় দাও।
এই সম্মেলন মানব প্রগতির জন্য কোন সীমা নির্ধারণ করে না।
এটা এমন একটি প্রচেষ্টা যাতে আমরা নিশ্চিত করতে পারি যে অগ্রগতি আমাদেরই হবে।
স্পষ্টতা গুরুত্বপূর্ণ। মতবিরোধের স্বাধীনতাও আছে।
না।
এই সম্মেলনটি অনুমান করে যে ক্রমবর্ধমান শক্তিশালী এআই বিপুল সুবিধা তৈরি করতে পারে।
এর উদ্দেশ্য বুদ্ধিমত্তা বা বৈজ্ঞানিক অগ্রগতি বন্ধ করা নয়।
এটি স্বায়ত্তশাসিত শক্তি, বিপর্যয়কর ক্ষমতা, অজানা সিদ্ধান্ত এবং মানুষের নিয়ন্ত্রণ হ্রাসের সীমানা স্থাপন করে।
কারণ বুদ্ধিমত্তার সংজ্ঞা দেওয়া কঠিন এবং এর উপর স্থায়ী সীমা নির্ধারণ করা আরও কঠিন।
একটি সিস্টেম বিপজ্জনক না হয়ে গণিত বা চিকিৎসায় মানুষের চেয়ে অনেক ভাল হতে পারে।
আরও দরকারী পার্থক্য হচ্ছে ক্ষমতা এবং কর্তৃত্বের মধ্যে।
লক্ষ্য হচ্ছে মানুষ যেন সবচেয়ে বুদ্ধিমান সত্তা না হয়।
লক্ষ্য হচ্ছে মানবজাতিকে তার ভবিষ্যতের উপর সার্বভৌমত্ব বজায় রাখতে হবে।
হ্যাঁ।
এআই ইতিমধ্যে অগণিত রুটিন সিদ্ধান্ত গ্রহণ করে।
মানুষের অংশগ্রহণের উপর নির্ভর করতে হবে ফলাফল এবং পুনরুদ্ধারের উপর।
এই কনভেনশনে মৌলিক অধিকার, প্রাণঘাতী শক্তি, বিপর্যয়মূলক ঝুঁকি এবং অপরিবর্তনীয় শক্তির সিদ্ধান্তের উপর জোর দেওয়া হয়েছে।
মূলত জাতীয় সরকারগুলোকে অভ্যন্তরীণ আইনের মাধ্যমে।
বিশ্বব্যাপী প্রভাবের সাথে বেশিরভাগ উন্নত সিস্টেমের জন্য, প্রস্তাবটি আন্তর্জাতিক সহযোগিতা, স্বাধীন মূল্যায়ন এবং একটি প্রস্তাবিত আন্তর্জাতিক কৃত্রিম বুদ্ধিমত্তা সংস্থাও আহ্বান করে।
স্বভাবতই না।
সফটওয়্যারটি খোলা বা বন্ধ কিনা, তার চেয়ে বরং প্রকৃত বিপজ্জনক ক্ষমতা এবং স্থাপনার উপর নিয়ন্ত্রণের ফোকাস করা উচিত।
একটি খোলা মডেল সীমিত বিপজ্জনক ক্ষমতা সঙ্গে একটি অত্যন্ত স্বশাসিত মালিকানাধীন সিস্টেম নিয়ন্ত্রণ সমালোচনামূলক অবকাঠামো তুলনায় কম ঝুঁকি সৃষ্টি করতে পারে।
হ্যাঁ।
যে কোন শক্তিশালী নিয়ন্ত্রক কাঠামো নিজেই অপব্যবহার করা যেতে পারে।
এই কারণেই স্বচ্ছতা, স্বাধীন পর্যালোচনা, আনুপাতিকতা, বৈজ্ঞানিক স্বাধীনতা, বিতরণকৃত শাসন এবং শক্তিশালী স্বার্থ দ্বারা নিয়ন্ত্রকদের নিয়ন্ত্রণের বিরুদ্ধে সুরক্ষা কনভেনশনের অংশ।
বিশ্বব্যাপী চুক্তির সূচনা খুব কমই সর্বজনীন গ্রহণের মাধ্যমে হয়।
এই কাঠামোটি অংশগ্রহণকারী রাষ্ট্র এবং প্রতিষ্ঠানগুলির মধ্যে ভাগ করা নীতি হিসাবে শুরু হতে পারে, তারপরে চুক্তি, দ্বিপাক্ষিক চুক্তি, মান, সংগ্রহের নিয়ম এবং আন্তর্জাতিক চাপের মাধ্যমে বিকাশ করতে পারে।
এই প্রস্তাবের উদ্দেশ্য হচ্ছে, প্রথমত, মানবজাতি কি নিয়ম মেনে চলবে তা নির্ধারণ করা।
এই নিয়মটি মূলত চেতনা সম্পর্কে অনুমান করার পরিবর্তে ক্ষমতা এবং শক্তিকে নিয়ন্ত্রণ করে।
যদি মেশিনের চেতনা সম্পর্কে দৃঢ় প্রমাণ পাওয়া যায়, তাহলে নৈতিক অবস্থা এবং অধিকারের প্রশ্নগুলো আলাদা আন্তর্জাতিক কাঠামোর প্রয়োজন হবে।
মানুষের নিরাপত্তা এবং মেশিনের নৈতিক বিবেচনার মধ্যে কোনো পার্থক্য নেই।
মানুষ সবসময় বুদ্ধিমান হয় না।
আমরা না।
কিন্তু মানবতা হচ্ছে সেই সম্প্রদায় যার ভবিষ্যৎ নির্ধারণ করা হচ্ছে।
কোনো যন্ত্রই তার সৃষ্টিকর্তার উপর অপরিবর্তনীয় কর্তৃত্ব অর্জন করতে পারে না, কেবলমাত্র কারণ এটি তাদের চেয়ে বেশি সক্ষম হয়ে উঠেছে।
এই আপত্তিগুলো সত্য। কাঠামো একটি সূচনা বিন্দু, চূড়ান্ত শব্দ নয়।
হতে পারে। শুধু মানুষের নিয়ন্ত্রণই যথেষ্ট নয়, এটি অবশ্যই বৈধ, দায়বদ্ধ এবং চ্যালেঞ্জের বিষয় হতে হবে। এই প্রস্তাব সরকার এবং কোম্পানিগুলির পাশাপাশি এআই সিস্টেমগুলিকে সীমাবদ্ধ করে। এটি কোন নেতার কাছে অবাধ কর্তৃত্ব প্রদান করে না।
প্রায়ই এমন হতে পারে। আরও ভালো ভবিষ্যৎবাণী এবং সুপারিশ সিদ্ধান্তের ভিত্তি হওয়া উচিত। কঠিন প্রশ্ন হচ্ছে, কে লক্ষ্য নির্ধারণ করে, এর পরিণতি বহন করে এবং আপিল করতে পারে। উচ্চতর পারফরম্যান্স, নিজের মত করে, রাজনৈতিক বৈধতা স্থির করে না।
খারাপভাবে তৈরি নিয়ম চিকিৎসা, গবেষণা এবং নতুন প্রতিযোগীদের বিলম্বিত করতে পারে। প্রয়োজনীয়তা প্রমাণিত ক্ষমতা এবং ঝুঁকির সাথে সমানুপাতিক হওয়া উচিত, বৈজ্ঞানিক স্বাধীনতা এবং শক্তিশালী স্বার্থ দ্বারা নিয়ন্ত্রকদের নিয়ন্ত্রণের বিরুদ্ধে সুরক্ষা থাকা উচিত। তত্ত্বাবধানে ব্যয়ও পর্যবেক্ষণের দাবি রাখে।
কেউ কেউ হয়তো। কোন চুক্তিই নিখুঁত সম্মতির প্রতিশ্রুতি দিতে পারে না। পরিদর্শন, ভাগ করে নেওয়া ঘটনা প্রতিবেদন, পারস্পরিক যাচাই এবং সমানুপাতিক পরিণতি এড়ানোকে আরও কঠিন করে তুলতে পারে। আন্তর্জাতিক আস্থা প্রমাণের দ্বারা সমর্থিত হতে হবে, অনুমান নয়।
বিকেন্দ্রীকরণ তত্ত্বাবধানকে আরও কঠিন করে তোলে এবং প্রকৃত ফাঁক রেখে যেতে পারে। একটি কার্যকর ব্যবস্থা বিপজ্জনক ক্ষমতা, ফলস্বরূপ মোতায়েন এবং গুরুত্বপূর্ণ অবকাঠামোতে জবাবদিহিতা অ্যাক্সেসের উপর ফোকাস করা প্রয়োজন। এটা অনুমান করা উচিত নয় যে মডেলের প্রতিটি কপি নিয়ন্ত্রণ করা যায়।
যদি চেতনার দৃঢ় প্রমাণ পাওয়া যায়, তাহলে কল্যাণ এবং নৈতিক অবস্থানের প্রশ্নগুলি গুরুতর, স্বাধীন বিবেচনার প্রাপ্য। এই প্রস্তাব তাদের সমাধান করে না। মানুষের নিরাপত্তা ও স্বাধীনতার সুরক্ষার পাশাপাশি একটি পৃথক কাঠামোর প্রয়োজন হবে।
প্রস্তাবিত ধারা, ঘোষিত প্রোগ্রাম নয়।
কোন সরকার বা প্রতিষ্ঠানকে স্বাক্ষরকারী হিসেবে উপস্থাপন করা হয় না।
গবেষক, নাগরিক, কোম্পানি এবং সরকার এই কাঠামোর উপর আলোচনা করে।
এআই ল্যাবরেটরিজ এবং সরকারগুলি সাধারণ নিরাপত্তা প্রতিশ্রুতি গ্রহণ করে।
দেশগুলো সবচেয়ে উন্নত এআই নিয়ম বাস্তবায়ন করে।
রাষ্ট্রগুলো বাধ্যতামূলক সাধারণ মানদণ্ড নিয়ে আলোচনা করে।
আন্তর্জাতিক সার্টিফিকেশন, পরিদর্শন, দুর্ঘটনা প্রতিবেদন এবং জরুরি সমন্বয় কার্যকর হবে।
কোন এআই সিস্টেম মানুষের উপর বা মানবতার ভবিষ্যতের উপর অপরিবর্তনীয় ক্ষমতা অর্জন করতে পারে না।চূড়ান্ত নীতি · অনুচ্ছেদ ৩০
এআই আমাদের চেয়ে বেশি বুদ্ধিমান হয়ে উঠতে পারে। এটা এমন কিছু আবিষ্কার করতে পারে যা আমরা কখনোই করতে পারতাম না। এটা আমাদের বর্তমান কল্পনা করা সম্ভব না এমন একটি সভ্যতা গড়ে তুলতে সাহায্য করতে পারে।
[পাদটীকা]
বুদ্ধিমত্তাকে ভয় পাওয়া উচিত নয়।
ক্ষমতাকে জবাবদিহির আওতায় আনা উচিত।
এবং মানুষের ভবিষ্যতের উপর চূড়ান্ত কর্তৃত্ব অবশ্যই মানুষেরই থাকবে।