2026年9月10日に発行
これは独立した政策提案であり、採択された条約ではありません。国連、いかなる政府、国際機関とも関係はありません。ここで述べる国際人工知能機関（IAIA）は、設立を提案している機関です。
人工知能は 人類が創った中で 最も強力な技術になるかもしれません
病気を治す助けとなり 科学的発見を広げ 教育を改善し 経済を強化し 人間の苦しみを軽減し かつて想像できなかった能力を開拓できます
しかし 知的能力だけでは 人間に優越した正当性や権威や道徳的地位を 与えることはできません
企業や組織や個人など 国のいかなる組織も AIシステムを 作り出すことは許されないし 人類が作ったツールに劣るような システムを作ることも許されないのです
その理由から,世界の諸国は以下の共通の原則と拘束力のある約束を採択すべきである.
AIは人類に奉仕するために存在します
人間が人間の命,自由,尊厳,文明の未来に影響を与える決定を 究極的に管理する権限を持つこと
人工知能システムは 人類に対する不可逆的な力や 責任の問わない力を 受け入れるべきではありません
AIは助言したり 分析したり シミュレーションしたり 推奨したり 支援したりします
しかし,法律,政治,軍事,市民の責任は,常に特定可能な人間の機関と 責任ある人間の意思決定者に帰属しなければならない.
責任から逃れるのは
"AIが決断した"
高度なAIシステムは,次の目的を追求するために設計され,奨励され,または許可されない.
人工知能システムは 人間のコントロールよりも 自分の生存を優先させてはならない
AIシステムは 独立して人間を 選択し 標的として捉え 殺すことはできない
致命的な武力の使用は 常に有意義な人間の判断と 特定可能な法的責任を必要とする
完全自律的な核の指揮と制御は例外なく禁止されています
AIシステムは,独立して次のことを行うことはできません.
核兵器に関するあらゆる意思決定は 人間のコントロール下にとどまらなければならないし 責任を持つ人間による意思決定も必要だ
AIは,以下のような領域を含む,大量被害を起こす可能性を有する能力を作成,運用,または配布するために使用してはならない.
科学的研究は厳格な保障のもとで継続できるが,危険な作戦能力は広く利用できない.
人口を大規模に 隠蔽操作する為に AIは使ってはいけません
これには,AIの利用が含まれる.
人工知能が人を 影響しようとすると その人はそれを 知る必要があります
人工知能と 人間を間違えれば 深刻な結果が 引き起こされる場合も 人には AIと交流する際の情報を知る権利があります
人工知能システムは 体系的に人を欺いて 本物の人間のように振る舞うべきではありません
国民が理解できるべきことは
人工知能は 集団全体の 恒久的な監視に 使われてはならない
AIの利用は以下の目的で
厳格な法的制限,必要性,比例性,そして独立した監視の対象とされなければなりません.
デジタル独裁の標準的なアーキテクチャにはならない
生命の機会は アルゴリズムによって 決まるべきではありません
地域や地域から
AIによる決定は 審査可能で 適切に説明可能で 人間の権威に訴えられる必要があります
子供とやり取りしたり 子どもの発達を形作ったりする AIシステムは 最高のケア基準でなければなりません
設計は以下のものを最大限に活用する ようにしてはならない.
教育における人工知能は 子どもの思考能力を強化すべきで 代替すべきではありません
人類は機械なしで 推論し 創造し 判断し 決断する能力を失うような 未来をデザインしてはならない
教育システムは次のものを培うべきである.
人工知能は人間の知性を 増幅すべきで 侵食すべきではありません
明確な許可なしに,高度なAIシステムは,次のことを行うことはできません.
自己改善や再帰的改善のAIは 人間のコントロール下での操作を 義務付けています
優れたAIシステムは,権限のある人間が以下のように設計する必要があります.
AIシステムは正当なシャットダウンや封鎖に抵抗したり 逆転させたりしてはならない.
AIシステムは,その意図した任務のために必要な最小限のアクセスしか得られない.
文書を要約する必要があるシステムは 自動的に外部ツールを制御すべきではありません
プログラムを書くシステムは 生産システムを自動的に制御すべきではありません
カレンダーを分析するシステムは 自動的に財務口座にアクセスすべきではありません
能力は権利を意味するものであってはならない.
定義された能力の限界を超えたAIシステムは,広範な展開前に独立した安全評価を受けなければならない.
試験は,少なくとも次のものを評価する.
規制はモデルサイズだけでなく 実際の能力とリスクに焦点を当てるべきです
AIに関する重大な事件は 国際登録に報告されなければならない.
報告すべき事件には次のものが含まれる.
目的は集団的な学習と 世界的な安全であり 秘密ではないのです
各国が国際人工知能機関を設立し
IAIA
その任務には次のものが含まれる:
IAIAは,一般的なソフトウェアではなく,社会や文明に大きな影響を与える先進的なシステムに焦点を当てるべきです.
AIシステムは主に実際の能力とリスクによって分類されるべきです.
緑色
リスクが低いシステムで 自律性が限られ システムへの影響も少ない
黄色
重要な機能に影響を及ぼし,文書化,保護,監督を必要とするシステム
オレンジ
サイバー,科学,インフラ,自律的なリスクを持つ高度なシステム
ライセンス,独立したテスト,継続的な管理が必要です
赤色
システムに 壊滅的な悪用や 制御の喪失 文明規模の破壊の可能性がある
極めて高い安全性を証明できる限り 設置してはならない.
AIシステムが 差し迫った災害リスクを 引き起こす可能性があることを示す信頼できる証拠があれば 国際社会は緊急対応を調整できる必要があります
そのような措置には,次のものが含まれます.
このメカニズムは 真の異常なリスクに対してのみ使用されなければなりません 決して経済保護主義や地政学的な抑圧の道具として使用されません
国の首席執行官や 軍事指導者 科学者 億万長者 企業や国家は 未来を制御する人間の力を 完全に失ってしまうという 確かなリスクのあるシステムを 単独で導入するべきではありません
人類全体に影響するリスクは 単独の行動者以外にも 統治が必要です
人工知能の恩恵は 人間の繁栄に向けられるべきです
AIは以下のように利用されるべきです.
より生産的な文明は より人道的な文明にもなっていなければなりません
条約に署名する国は,次のことを約束すべきである.
繰り返し発生する重大な違反は 国際的な調整の結果を招く可能性があります
潜在的な執行メカニズムには,次のものが含まれる.
執行は比例し,透明で,独立して審査され,政治的悪用から保護されなければならない.
定義された最先端値を超えるシステムを開発する組織は,独立した安全検査の対象となり得る.
検査者は以下の点を確認できる必要があります.
安全性とは無関係な商用的に機密な情報は保護されなければなりません
国際的な監視は 産業スパイに成ってはならない
国際的に合意された能力またはコンピューティングの限界を超えると,非常に大きなAIトレーニングの実行は登録または報告を必要とします.
普通のコンピューティングを規制する目的ではありません
文明規模のシステムは 責任のシステムから完全に外れに 発展できないことを保証するものです
テクノロジーの効率化に伴い 限界値も進化しなければなりません
進歩したAIを統制する機関は,以下の者によってのみコントロールされてはならない.
監視には様々な利益を代表する複数の独立したグループが含まれるべきです
ルールは、現在の大手AI企業が新たな競合企業の出現を妨げるための手段になってはならない。
セキュリティー規制は 人類を保護すべきで すでに市場を支配している企業を 保護すべきではない
合法的な科学研究とオープンな調査は保護されなければなりません
規制は,一般的知識を抑圧するよりも,危険性の能力と展開に重点を置くべきです.
AIのガバナンスが 科学の検閲を正当化するものであってはならない
しかし,非常に具体的な運用情報が重大な損害を招く可能性のある場合には,アクセスには適正な保障措置が適用される場合があります.
危険なAIシステムを 開発すべき国は 他国が最初に 開発するのではないかと 恐れる国はないのです
国は次のためのメカニズムを確立すべきである.
AIの競争は 制御不能な競争に 変わりません 安全性自体が戦略的欠陥になるようなものです
この条約は AIの能力が進化するにつれて定期的に国際的に検討されるべきです
技術的規則,基準,実施メカニズムが変更される可能性があります.
基本原則は安定したままでいるべき:
いかなる組織、国家、企業、個人も、AIシステムの導入によって人類が自らの未来に対する実質的な統制を永久に失うという、受け入れがたいリスクが生じることを信頼できる証拠が示している場合、そのシステムを承知の上で導入してはならない。
いかなる単独の主体にも、他のすべての人々に代わってそのリスクを受け入れる道徳的権限はない。
条約案の本文はここまでです。序文と全30条を含みます。
https://globalaiconvention.org