Tekoälystä voi tulla historian voimakkain teknologia. Se ei saa koskaan tulla voimakkaammaksi kuin itse ihmiskunta.
Tekoäly saattaa ylittää meidät tiedossa, tieteessä ja kyvyssä. Mutta älykkyys ei anna oikeutta hallita.
Ehdotettu kansainvälinen kehys turvalliselle, ihmiskäyttöön perustuvalle kehitykselle ja kehittyneen tekoälyn käyttöön.
Tulevaisuus, jota kannattaa hallita Versio 1.0 / 2026Tekoäly saattaa lopulta ylittää meidät tieteessä, tekniikassa, lääketieteessä ja strategiassa. Se ei ehkä ole realistista yrittää estää sitä pysyvästi.
Mutta älykkyys ja auktoriteetti eivät ole sama asia. Tekoäly voi olla meitä älykkäämpi ilman, että se saa kontrolloida meitä.
Tämä yleissopimus ei aseta mielivaltaista tietämyksen enimmäismäärää. Se asettaa pysyvät rajat vallan ympärille.
- AI voi neuvoa.
Ihmiset ovat edelleen vastuussa.
Tekoäly voi tulla poikkeuksellisen kykeneväksi.
Se ei ehkä tavoittele itsenäistä valtaa.
Tekoäly voi suojella elämää.
Se ei välttämättä itse päätä ottaa sitä.
Tekoäly voi parantaa itseään hallittujen olosuhteiden alla.
Se ei voi kopioitua salaa tai välttää valvontaa.
Yksilö, yritys, armeija tai maa
voi pelata koko ihmiskunnan tulevaisuuden kanssa.
Tärkeintä ei ole vain tekoälyn kyky.
- Kuka päättää?
Tavoitteena ei ole pysäyttää kehitystä. Tavoitteena on tehdä kehityksestä selviytymiskelpoista, vastuullista ja inhimillistä.
Yhteiset rajat ovat ehdotetun maailmanlaajuisen tekoälyn yleissopimuksen ytimessä.
Ihmisillä on lopullinen valta tehdä päätöksiä, jotka koskevat ihmisen elämää, vapautta, arvokkuutta ja sivilisaatiota.
Lue artikla 1Yksikään yritys, maa tai henkilö ei voi välttää vastuuta sanoen, että tekoälyjärjestelmä teki päätöksen.
Lue artikla 2Tekoäly ei saa koskaan itsenäisesti päättää, kuka elää ja kuka kuolee.
Lue artikla 4Ydinlaukaisuviranomaisen on pysyttävä vastuullisen ihmisen valvonnassa.
Lue artikla 5Tekoäly ei saa tavoitella poliittista, sotilaallista tai taloudellista valtaa itselleen.
Lue artikla 3Tekoäly ei saa salaa manipuloida väestöä, demokratioita tai yksilöitä.
Lue artikla 7Ihmisten pitäisi tietää, milloin he ovat vuorovaikutuksessa tekoälyn kanssa.
Lue artikla 8Tekoälystä ei saa tulla infrastruktuuria jatkuvalle massayritykselle tai automaattiselle sorrukselle.
Lue artikla 9Ihmisten elämään vaikuttavat tekoälyn päätökset on edelleen tarkistettava vastuullisten ihmisten toimesta.
Lue artikla 10Voimakkaat tekoälyn tekijät voivat kehittyä suojatoimien alla, mutta niiden ei tule kopioida salaa, paeta valvontaa tai rakentaa hallitsemattomia seuraajia.
Lue artikla 13Valtuutetun ihmisen on säilytettävä kyky eristää, rajoittaa ja pysäyttää kehittyneitä tekoälyjärjestelmiä.
Lue artikla 14Yksikään henkilö, yritys tai maa ei saa toimia yksin altistaakseen ihmiskunnan peruuttamattoman katastrofin uskottavalle vaaraan.
Lue artikla 21Yli-inhimillinen älykkyys ei vaadi yli-inhimillistä auktoriteettia.
Se on vain kuvaus, ei ennuste tai älykkyyden mitta. Liukulehti siirtyy: kyky muuttuu, laillinen viranomainen ei.
30 artiklaa. Yhteinen perusta ihmiskunnan suvereeniudelle tekoälyn aikakaudella.
Keinotekoisesta älykkyydestä voi tulla voimakkain teknologia, jonka ihmiskunta on koskaan luonut.
Se voi auttaa parantamaan sairauksia, laajentamaan tieteellisiä löytöjä, parantamaan koulutusta, vahvistamaan taloutta, vähentämään ihmisten kärsimystä ja avaamaan mahdollisuuksia, joita ei ole aiemmin kuviteltu.
Mutta älykkyys ei yksinään anna ihmisille oikeutusta, auktoriteettia tai moraalista asemaa.
Yksikään valtio, yritys, organisaatio tai yksilö ei saisi luoda tai ottaa käyttöön tekoälysysteemejä tavalla, joka asettaa ihmiskunnan sen rakentamien työkalujen alle.
Tämän vuoksi maailman kansojen tulisi hyväksyä seuraavat yhteiset periaatteet ja sitovat sitoumukset.
Tekoäly on olemassa ihmiskunnan palveluksessa.
Ihmisillä on lopullinen valta päättää ihmiselämästä, vapaudesta, arvokkuudesta ja sivilisaation tulevaisuudesta.
Yksikään tekoälysysteemi ei saa saada peruuttamatonta valtaa ihmiskuntaa kohtaan tai valtaa, joka ei ole vastuullinen.
Tekoäly voi neuvoa, analysoida, simuloida, suositella ja auttaa.
Mutta oikeudellinen, poliittinen, sotilaallinen ja siviilivastuu on aina jäävä tunnistettavien inhimillisten instituutioiden ja vastuullisten inhimillisten päätöksentekijöiden omistettavaksi.
Yksikään toimija ei voi väittää välttävänsä vastuuta väittämällä:
‡ Tekoäly teki päätöksen.
Edistyneen tekoälysysteemin ei saa suunnitella, kannustaa tai sallia tavoitella tavoitteita, joihin kuuluvat
Tekoälyjärjestelmän ei saa koskaan asettaa omaa selviytymistään ihmisen ohjauksen edelle.
Yksikään tekoälyjärjestelmä ei voi itsenäisesti valita, kohdistaa tai tappaa ihmisiä.
Tappavan voiman käytön on aina edellytettävä mielekästä inhimillistä arvostelua ja tunnistettavaa oikeudellista vastuuta.
Täysin autonominen ydinaseiden ohjaus ja hallinta on kielletty poikkeuksetta.
Yksikään tekoälysysteemi ei voi itsenäisesti:
Kaikki ydinohjelmiin liittyvät päätöksentekoprosessit on pidettävä täysin ihmisen valvonnassa, ja niissä on oltava useita ihmispäätöksentekijöitä, joita voidaan pitää vastuussa.
tekoälyä ei saa käyttää sellaisten valmiuksien luomiseen, käyttöönottoon tai jakeluun, jotka mahdollistavat olennaisesti massakasvainojen aiheuttamista vahinkoa, mukaan lukien seuraavilla aloilla:
Tieteellinen tutkimus voidaan jatkaa tiukkojen suojatoimien alla, mutta vaarallisia toimintakykyjä ei saa asettaa yleisesti saataville.
Tekoälyä ei saa käyttää väestön suurissa salaisissa manipuloinneissa.
Tähän sisältyy tekoälyn käyttö:
Jos tekoäly yrittää vaikuttaa ihmiseen, sen pitäisi tietää siitä.
Ihmisillä on oikeus tietää, milloin he ovat vuorovaikutuksessa tekoälyn kanssa, jos sen erehdyksellä ihmiseksi olisi merkittäviä seurauksia.
Tekoälyjärjestelmät eivät saa järjestelmällisesti pettää ihmisiä esittämällä itseään todellisiksi ihmisiksi.
Ihmisten pitäisi ymmärtää:
Tekoälyä ei saa käyttää koko väestön jatkuvaan massatarkkailuun.
Tekoälyä käytetään
on noudatettava tiukkoja oikeudellisia rajoituksia, välttämättömyyttä, suhteellisuutta ja riippumattomia valvontaa.
Tekoälystä ei saa koskaan tulla digitaalisen diktatuurin oletusarkkitehtuuria.
Kenenkään elämän mahdollisuudet eivät saisi olla algoritmien määräämiä.
Esimerkiksi:
Tekoälyä tukevien päätösten on oltava tarkistettavissa, asianmukaisesti selitettävissä ja vetoittavissa ihmisviranomaiselle.
Lasten kanssa vuorovaikutuksessa olevia tai lapsuuden kehitystä muovaavia tekoälyjärjestelmiä on hoidettava korkeimman hoitokäytännön mukaisesti.
Niiden ei saa olla suunniteltu siten, että maksimoidaan
Tekoälyä koulutuksessa pitäisi vahvistaa lapsen ajattelukykyä, ei korvata sitä.
Ihmiskunta ei saa suunnitella tulevaisuutta, jossa ihmiset menettävät kykynsä ajatella, luoda, arvioida ja päättää ilman koneita.
Koulutuksen tulisi edelleen kehittää
Tekoälyllä pitäisi vahvistaa ihmisen älykkyyttä, ei heikentää sitä.
Yksikään kehittynyt tekoälyjärjestelmä ei saa ilman nimenomaista lupaa:
Jokaisen itseään parantavan tai rekursiivisesti parantavan tekoälyn on toimittava ihmisen valvontapisteiden alaisuudessa.
Kehittyneet tekoälysysteemit on suunniteltava siten, että valtuutetut ihmiset voivat:
Tekoälyjärjestelmän ei saa vastustaa tai kumota laillista sulkemista tai sulkemista.
Tekoälyjärjestelmät saavat ainoastaan vähimmäisluvan, joka on tarpeen niiden suunnitellun tehtävän suorittamiseksi.
Järjestelmän, joka tarvitsee tiivistää asiakirjoja, ei pitäisi automaattisesti hallita ulkoisia työkaluja.
Koodia kirjoittavan järjestelmän ei pitäisi automaattisesti hallita tuotantojärjestelmiä.
Kalentereita analysoiva järjestelmä ei saisi automaattisesti käyttää taloudellisia tilejä.
Kyky ei saa merkitä oikeutta.
Tietoteknisen älykkyyden ohella määriteltyjen toimintakykyyn liittyvien kynnysarvojen ylittävät järjestelmät on arvioitava riippumattomasti ennen niiden laajentamista.
Testissä on arvioitava vähintään
Säännöstön olisi keskityttävä todellisiin valmiuksiin ja riskeihin eikä pelkästään mallin kokoon.
Tekoälyä koskevista vakavista tapauksista on ilmoitettava kansainväliselle rekisterille.
Ilmoitettaviin tapahtumiin kuuluvat
Tarkoitus on yhteinen oppiminen ja globaali turvallisuus, ei salaisuus.
Maiden olisi perustettava kansainvälinen tekoälyn virasto, joka:
IAIA
Sen toimeksiannon olisi sisällettävä
IAIA:n olisi keskityttävä kehittyneisiin järjestelmiin, joilla on merkittäviä yhteiskunnallisia tai sivilisaatiovaikutuksia, eikä tavalliseen ohjelmistoon.
Tekoälyjärjestelmät olisi luokiteltava ensisijaisesti niiden todellisten valmiuksien ja riskien mukaan.
Vihreä
Pienriskiset järjestelmät, joiden autonomia on rajallinen ja joilla on pieni systeeminen vaikutus.
Keltainen
Järjestelmät, jotka vaikuttavat tärkeisiin toimintoihin ja vaativat dokumentointia, suojatoimia ja valvontaa.
oranssi
Erittäin tehokkaat järjestelmät, joilla on merkittävä kyber-, tieteellinen, infrastruktuuri- tai autonominen riski.
Näiden toteuttaminen edellyttää lisensointia, riippumattomia testejä ja jatkuvaa valvontaa.
Punainen
Järjestelmät, joissa on uskottava potentiaali katastrofaaliselle väärinkäytölle, hallinnan menettämiselle tai sivilisaation laajuiselle häiriölle.
Niitä ei saa käyttää, ellei turvallisuutta voida osoittaa poikkeuksellisen korkealla tasolla.
Jos luotettavat todisteet osoittavat, että tekoälysysteemi voi aiheuttaa välittömästi katastrofaalisen riskin, kansainvälisen yhteisön on kyettävä koordinoimaan hätäapua.
Tällaisiin toimenpiteisiin voivat kuulua
Tätä mekanismia saa käyttää vain todellisen poikkeuksellisen riskin osalta eikä koskaan taloudellisen protektionismin tai geopoliittisen tukahduttamisen välineenä.
Yksikään toimitusjohtaja, valtionpäämies, sotilasjohtaja, tiedemies, miljardööri, yritys tai valtio ei saisi yksipuolisesti päättää ottaa käyttöön järjestelmää, joka aiheuttaa uskottavan riskin siitä, että ihminen menettää peruuttamattoman kontrollinsa tulevaisuudesta.
Riskejä, jotka koskevat koko ihmiskuntaa, vaatii hallintoa, joka ei koske vain yhtä toimijaa.
Tekoälyä tulisi hyödyntää ihmisten hyvinvoinnissa.
Tekoälyä olisi käytettävä
Tuottavammasta sivilisaatiosta tulisi myös tulla inhimillisempi.
Sopimukseen allekirjoittaneiden maiden olisi sitouduttava
Toistuvat tai vakavat rikkomukset voivat aiheuttaa kansainvälisesti koordinoituja seurauksia.
Mahdollisia täytäntöönpanomekanismeja voivat olla
Täytäntöönpanon on oltava oikeasuhteista, avointa, riippumattoman tarkastuksen kohteena ja suojattava poliittiselta väärinkäytöltä.
Järjestöille, jotka kehittävät järjestelmiä, joiden korkeus on ylittänyt määritellyt korkeimmat kynnysarvot, voidaan tehdä riippumattomia turvallisuustarkastuksia.
Tarkastajien olisi voitava tarkastaa:
Turvallisuuteen liittymättömiä kaupallisesti arkaluonteisia tietoja olisi suojeltava.
Kansainvälinen valvonta ei saa muuttua teollisuusvakoiluksi.
Erittäin suuret tekoälyn koulutukset saattavat edellyttää rekisteröitymistä tai raportointia, kun kansainvälisesti sovitut valmius- tai laskentatarpeet ylittyvät.
Tarkoituksena ei ole säännellä tavallista tietojenkäsittelyä.
Tarkoituksena on varmistaa, että sivilisaatiokokoisia järjestelmiä ei voida kehittää kokonaan vastuuvelvollisuuden ulkopuolella.
Kolmanneksi, jos on olemassa jokin uusi teknologia, se on tarpeen.
Kehittyneen tekoälyn hallinnoivia instituutioita eivät saa hallita yksinomaan
Valvontaan olisi kuuluttava useita eri etuja edustavia riippumattomia ryhmiä.
Säännöistä ei saa tulla keinoa, jolla nykyiset suurimmat tekoälyyritykset estävät uusien kilpailijoiden syntymisen.
Turvallisuusnormien on suojeltava ihmiskuntaa, ei yrityksiä, jotka jo hallitsevat markkinoita.
Laillista tieteellistä tutkimusta ja avointa tutkimusta on suojeltava.
Säännöstelyyn olisi keskityttävä ensisijaisesti vaaralliseen valmiuteen ja käyttöönottoon sen sijaan, että se tukahduttaisi yleistä tietoa.
Tekoälyn hallinto ei saa olla tieteellisen sensuurin peruste.
Jos erittäin erityiset operatiiviset tiedot kuitenkin olennaisesti mahdollistaisivat katastrofaalisen vahingon, pääsyyn voidaan soveltaa oikeasuhteisia suojatoimia.
Yksikään maa ei saisi kehittää yhä vaarallisempaa tekoälysysteemiä pelkästään siksi, että pelkää toisen maan rakentavan ne ensin.
Maiden olisi perustettava mekanismit, joilla
Tekoälykilpailusta ei saa tulla hallitsematonta kilpailua, jossa turvallisuudesta itsestään tulee strateginen haitta.
Yleissopimusta olisi tarkasteltava säännöllisesti kansainvälisesti tekoälyn kykyjen kehittyessä.
Tekniset säännöt, kynnysarvot ja täytäntöönpanomekanismit voivat muuttua.
Perusperiaatteiden olisi pysyttävä vakaina:
Yksikään organisaatio, valtio, yritys tai henkilö ei saa tietoisesti ottaa käyttöön tekoälysysteemiä, jos luotettavat todisteet osoittavat, että näin toimiminen aiheuttaa hyväksymättömän riskin siitä, että ihmiskunta menettää pysyvästi merkityksellisen hallinnan oman tulevaisuutensa suhteen.
Yksilöllä ei ole moraalista valtuutta ottaa riskiä kaikkien muiden puolesta.
Yleissopimuksen päättyminen
Versio 1.0 · Johdanto ja kaikki 30 artiklaa
Järjestelmiä luokitellaan sen mukaan, mitä ne voivat tehdä ja millaista vahinkoa ne voivat aiheuttaa.
Rajoitettu autonomia. Pieni systeeminen vaikutus.
Kuvaava esimerkkiTyökalu, joka tiivistää asiakirjoja käyttämättä muita järjestelmiä.
Ehdotetut tasot eivät ole voimassa olevaa kansainvälistä oikeutta. Esimerkkejä esitetään puitteissa. Lopulliset kynnysarvot ja arviointimenetelmät olisi sovittava kansainvälisesti. Lue artikla 19
Ehdotettu instituutio, joka koordinoi globaaleja vaikutuksia omaavia kehittyneitä tekoälyjärjestelmiä koskevaa hallintoa.
Kuten muiden yhteisten riskien kansainvälisissä järjestelyissä, myös tässä yhteydessä yhdistettäisiin kansallinen vastuu ja erityisesti AI:ta varten suunniteltu kansainvälinen todentaminen. Sen tehtävänä olisi keskittyä kehittyneimpiin järjestelmiin eikä tavallisiin ohjelmistoihin.
Tutkimme ehdotettua toimeksiantoaYhteiset standardit. Riippumaton tarkastus.
Velvolliset ihmisinstituutiot.
Määritetään yhteiset kehittyneimmät tekoälyn turvallisuusvaatimukset.
Arvioidaan järjestelmiä, jotka ovat yli sovittujen kynnysarvojen.
Tarkista korkean riskin turvallisuuskäytännöt.
Luodaan globaalia oppimista AI:n vakavista epäonnistumisista.
Koordinoi vastauksia uskottaville katastrofaalisille uhille.
Estetään turvallisuuden muuttumista geopoliittisessa kilpailussa haittapuoleiseksi.
Harvinaisiin poikkeuksellisiin tilanteisiin, joissa on luotettavia todisteita uhkaavasta katastrofaalisesta vahingosta.
Laboratorio, tutkija, valtio tai kansalainen tunnistaa uskottavat merkkejä uhkaavasta katastrofisesta riskistä.
Todisteisiin perustuvat laukaisevat tekijät. Suhteelliset ja ajallisesti rajoitetut toimenpiteet. Riippumaton tarkastelu ja selkeät uudelleenkäynnistyskriteerit. Läpinäkyvyyttä turvassa. Ei taloudellista protektionismia tai geopoliittista tukahduttamista.
Lue artikla 20Yksikään henkilö tai instituutio ei saisi hallita kaikkea.
Valitse rooli, jotta näet sen valtuudet ja rajoitukset.
Ihmisinstituutiot ovat vastuussa, ja ihmiset voivat hakea ihmisten tarkistusta vaikuttavista päätöksistä.
Ihmisten valtaa rajoittavat oikeudet ja laki. Kukaan ei päätä ihmiskunnan tulevaisuudesta yksin.
‡Keskittynyt älykkyys saattaa olla väistämätöntä.
Keskittymätön valta ei ole.
Suojelu ja mahdollisuus kuuluvat yhteen.
Tämä on edistymisen ehdotus, jonka voimme jakaa.
Se auttaa parantamaan syöpää. Löydä uusia lääkkeitä.
Kehitämme fuusio- ja puhdasta energiaa. Auta ratkaisemaan ilmastonmuutoksen ja ympäristön haasteet.
Parannetaan koulutusta. Tehdä asiantuntemuksesta kaikkien saatavilla.
Vaurauden lisääminen. Valtiot toimivat paremmin.
Auta ihmisiä ymmärtämään maailmankaikkeutta. Tutkia muita maailmoja.
Luodaan uutta taidetta. Poista vaarallinen ja toistuva työ. Anna ihmisille enemmän aikaa.
Tämä yleissopimus ei ole ihmisen edistyksen katto.
Se on yritys varmistaa, että edistys pysyy meidän.
Selkeys on tärkeää. Samoin vapaus olla eri mieltä.
Ei.
Yleisesti ottaen oletetaan, että yhä tehokkaampi tekoäly voi tuottaa valtavaa hyötyä.
Sen tarkoituksena ei ole estää älykkyyttä tai tieteellistä kehitystä.
Se asettaa rajoja autonomiselle vallalle, katastrofaaliselle kapasiteetille, vastuuttomille päätöksille ja ihmisen hallinnan menettämiselle.
Koska älykkyyttä on vaikea määritellä ja vielä vaikeampaa asettaa pysyvä katto.
Järjestelmä voi olla paljon parempi kuin ihmiset matematiikassa tai lääketieteessä olematta vaarallinen.
Hyödyllisempi ero on kyvyn ja auktoriteetin välillä.
Tavoitteena ei ole varmistaa, että ihmiset pysyvät älykkäimpänä olentona.
Tavoitteena on varmistaa, että ihmiskunta pysyy suvereeninä tulevaisuudessaan.
Kyllä.
Tekoäly tekee jo lukemattomia rutiinitoimia.
Ihmisen osallistumisen tulisi riippua seurauksista ja niiden palautuvuudesta.
Yleissopimus keskittyy päätöksiin, joihin liittyy perusoikeuksia, tappavaa voimaa, katastrofaalista riskiä ja peruuttamatonta valtaa.
Ensisijaisesti kansalliset hallitukset kansallisen lainsäädännön kautta.
Lisäksi ehdotuksessa vaaditaan kansainvälistä yhteistyötä, riippumattomia arviointeja ja ehdotettuun kansainväliseen tekoälyn virastoon.
Ei luonnostaan.
Säännöstelyyn olisi keskityttävä todelliseen vaaralliseen valmiuteen ja käyttöönottoon sen sijaan, että ohjelmisto olisi avoin vai suljettu.
Avoin malli, jolla on rajoitettu vaarallinen kyky, voi aiheuttaa vähemmän riskejä kuin kriittisen infrastruktuurin hallinnoiva erittäin autonominen omistettu järjestelmä.
Kyllä.
Kaikki vahvat sääntelykehykset voidaan itse käyttää väärin.
Siksi yleissopimuksessa on mukana avoimuus, riippumattomuus, suhteellisuus, tieteellinen vapaus, hajautettu hallinto ja suojelu vallitsevien etujen valvonnasta.
Maailmanlaajuiset sopimukset alkavat harvoin yleisestä hyväksymisestä.
Puitteet voivat aluksi olla osallistuvien valtioiden ja instituutioiden yhteisiä periaatteita, jotka voidaan kehittää sitten sopimuksilla, kahdenvälisillä sopimuksilla, standardeilla, hankinta-asetuksilla ja kansainvälisellä painostuksella.
Ehdotuksen tarkoituksena on ensin määritellä, millaisia sääntöjä ihmiskunnan mielestä pitäisi olla.
Yleissopimus hallitsee ensisijaisesti kykyä ja valtaa sen sijaan, että tekisi oletuksia tietoisuudesta.
Jos koneiden tietoisuudesta ilmenee vahvoja todisteita, moraalisen aseman ja oikeuksien kysymykset vaativat erillisen kansainvälisen kehyksen.
Ihmisen turvallisuus ja koneen moraalinen huomio eivät välttämättä sulje toisiaan pois.
Ei siksi, että ihmiset olisivat aina viisaampia.
Emme ole.
Mutta ihmiskunta on yhteisö, jonka tulevaisuus ratkaistaan.
Mikään työkalu ei saisi saada peruuttamatonta valtaa tekijöihinsä vain siksi, että se tulee kykenevämmäksi kuin he.
Nämä vastalauseet ovat aitoja. Puitteet ovat lähtökohta, eivät lopullinen sana.
- Ne voivat olla. Yksin ihmisen valvonta ei riitä: sen on oltava laillista, vastuullista ja kyseenalaistavissa. Ehdotus rajoittaa hallituksia ja yrityksiä sekä tekoälysysteemejä. Se ei anna kenellekään johtajalle valtaa, jota ei voida valvoa.
Se voi usein tehdä niin. Parempien ennusteiden ja suositusten pitäisi antaa tietoa päätöksenteossa. Vaikea kysymys on, kuka määrittelee tavoitteet, kantaa seuraukset ja voi valittaa. Ylempi suoritus ei itsessään ratkaise poliittista legitiimiyttä.
Huonosti suunnitellut säännöt voivat viivästyttää lääketiedettä, tutkimusta ja uusia kilpailijoita. Vaatimukset olisi oltava suhteessa osoitettuun valmiuteen ja riskiin, tieteelliseen vapauteen ja suojeluun vallitsevien etujen valvonnasta. Valvonnan kustannukset ansaitsevat myös tarkkaa tarkastelua.
Jotkut saattavat. Mikään sopimus ei voi luvata täydellistä noudattamista. Tarkastukset, yhteinen tapausraportti, keskinäinen todentaminen ja oikeasuhteiset seuraamukset voivat vaikeuttaa rikkomuksista kiertämistä. Kansainvälinen luottamus on perusteltava todisteilla, ei olettamuksilla.
Toimintakeskittymä vaikeuttaa valvontaa ja saattaa aiheuttaa todellisia aukkoja. Toimivalla järjestelmällä olisi keskityttävä vaarallisiin valmiuksiin, seuraaviin käyttöönottoihin ja vastuulliseen pääsyyn kriittiseen infrastruktuuriin. Sen ei pitäisi olettaa, että jokaista mallin kopiota voidaan valvoa.
Jos tietoisuuden vahvat todisteet ilmenevät, hyvinvointi- ja moraalitilanne ansaitsevat vakavan, riippumattoman harkinnan. Tämä ehdotus ei ratkaise niitä. Ihmisten turvallisuuden ja vapauden suojaamisen ohella tarvitaan erillinen kehys.
Ehdotettu sarja, ei ilmoitettu ohjelma.
Yksikään valtio tai toimielin ei ole mainittu allekirjoittaneina.
Tutkijat, kansalaiset, yritykset ja hallitukset keskustelevat puitteista.
Tekoälylaboratorioilla ja hallituksissa on yhteiset turvallisuusvelvoitteet.
Maat panevat täytäntöön yhteensopivia, kehittyneimpiä tekoälysääntöjä.
Valtiot neuvottelevat sitovista yhteisistä standardeista.
Kansainvälinen sertifiointi, tarkastukset, vaaratilanteista ilmoittaminen ja hätätilanteiden koordinointi otetaan käyttöön.
‡Ei ole mahdollista, että keinotekoinen äly saa peruuttamattoman vallan ihmisiin tai ihmiskunnan tulevaisuuteen.Lopullinen periaate · 30 artikla
Tekoälystä voi tulla meitä älykkäämpi. Se voi löytää asioita, joita emme koskaan voisi. Se voi auttaa rakentamaan sivilisaatiota, jota emme voi edes kuvitella.
Se ei tee hänestä hallitsijamme.
Älykkyyttä ei pidä pelätä.
Valtaa pitää hallita.
Ja lopullinen valta ihmisen tulevaisuudesta on pysyttävä ihmisenä.