Kehys nopeasti kehittyvien digitaalisten ja siihen liittyvien teknologioiden arvioimiseksi: tekoäly, suuret kielimallit ja muut

• esittely 
• Tausta 
• Analyyttisen viitekehyksen kehittäminen 
• Analyyttisen viitekehyksen käyttö 
• Mitat, jotka on otettava huomioon arvioitaessa uutta teknologiaa 
• Tie eteenpäin 
• Kiitokset

Nopeasti syntyvä teknologia tuo haasteita niiden hallinnassa ja mahdollisessa sääntelyssä. Tekoälyä (AI) ja sen käyttöä koskeva politiikka ja julkinen keskustelu on nostanut nämä asiat akuuttiin. Vaikka UNESCO, OECD ja muut ovat julkaisseet tekoälyn laajoja periaatteita ja teknologian maailmanlaajuisesta tai lainkäyttövaltaisesta sääntelystä käydään vasta keskusteluja, korkean tason periaatteiden kehittämisen ja niiden sisällyttämisen sääntelyyn, politiikkaan, hallinnon ja taloudenhoidon lähestymistavat. Tässä valtiosta riippumattomalla tiedeyhteisöllä voisi olla erityinen rooli. 

Useat tutkijat ja politiikan asiantuntijat ovat ehdottaneet, että Kansainvälinen tiedeneuvosto (ISC) – sen moniarvoinen jäsenistö yhteiskunta- ja luonnontieteistä – perustaisi prosessin, jonka avulla tuotetaan ja ylläpidetään selitettyä viitekehystä/tarkistuslistaa riskeistä, hyödyistä, nopeasti kehittyviin digitaalisiin teknologioihin liittyvät uhat ja mahdollisuudet, mukaan lukien – mutta ei rajoittuen – tekoäly. Tarkistuslistan tarkoituksena on tiedottaa kaikille sidosryhmille – mukaan lukien hallitukset, kauppaneuvottelijat, sääntelyviranomaiset, kansalaisyhteiskunta ja teollisuus – mahdollisista tulevaisuuden skenaarioista ja kehystää, miten he voisivat harkita mahdollisuuksia, etuja, riskejä ja muita kysymyksiä. 

Tuotokset eivät toimisi arviointielimenä, vaan mukautuvana ja kehittyvänä analyysikehyksenä, joka voisi tukea kaikkia sidosryhmien, mukaan lukien hallitukset ja monenvälinen järjestelmä, mahdollisesti kehittämiä arviointi- ja sääntelyprosesseja. Kaikki analyyttiset puitteet tulisi ihanteellisesti kehittää riippumattomina hallitusten ja teollisuuden vaatimuksista, kun otetaan huomioon niiden ymmärrettävät edut. Sen on myös oltava näkökulmiltaan mahdollisimman moniarvoinen, jolloin se kattaa kaikki tekniikan ja sen vaikutukset. 

Tämä keskusteluasiakirja tarjoaa ääriviivat alustavalle viitekehykselle, joka antaa tietoa monista tekoälyyn liittyvistä maailmanlaajuisista ja kansallisista keskusteluista. 

Tekoälyn monimutkaisuuden ja seurausten sisältävän teknologian nopea ilmaantuminen on saanut monia väitteitä suurista eduista. Se kuitenkin herättää myös pelkoa merkittävistä riskeistä yksilötasolta aina geostrategiseen tasoon. Suuri osa keskustelusta tapahtuu näkemysten kirjon ääripäissä, ja tarvitaan pragmaattisempaa lähestymistapaa. Tekoälyteknologia kehittyy edelleen, ja historia osoittaa, että käytännössä jokaisella tekniikalla on sekä hyödyllisiä että haitallisia käyttötarkoituksia. Kysymys kuuluukin: kuinka voimme saavuttaa tällä tekniikalla hyödyllisiä tuloksia samalla kun vähennämme haitallisten seurausten riskiä, ​​joista osa voi olla laajuudeltaan eksistentiaalista? 

Tulevaisuus on aina epävarma, mutta tekoälystä ja generatiivisesta tekoälystä on riittävästi uskottavia ja asiantuntevia ääniä, jotka kannustavat suhteellisen varovaiseen lähestymistapaan. Lisäksi tarvitaan järjestelmälähestymistapaa, koska tekoäly on teknologioiden luokka, jota käyttävät ja soveltavat laajasti monenlaiset käyttäjät. Tämä tarkoittaa, että koko konteksti on otettava huomioon, kun tarkastellaan tekoälyn vaikutuksia yksilöihin, sosiaaliseen elämään, kansalaiselämään, yhteiskunnalliseen elämään ja globaalissa kontekstissa. 

Toisin kuin useimmat aiemmat tekniikat, digitaalisilla ja siihen liittyvillä teknologioilla on hyvin lyhyt aika kehityksestä julkaisuun, mikä johtuu suurelta osin tuotantoyhtiöiden tai virastojen eduista. AI leviää nopeasti; jotkin ominaisuudet saattavat tulla ilmi vasta julkaisun jälkeen, ja tekniikalla voi olla sekä pahantahtoisia että hyväntahtoisia sovelluksia. Tärkeiden arvojen ulottuvuudet vaikuttavat siihen, miten käyttö koetaan. Lisäksi pelissä voi olla geostrategisia etuja. 

Tähän mennessä virtuaalisen teknologian sääntelyä on nähty pitkälti "periaatteiden" ja vapaaehtoisen noudattamisen linssin kautta. Viime aikoina keskustelu on kuitenkin kääntynyt kansallista ja monenvälistä hallintoa koskeviin kysymyksiin, mukaan lukien sääntely- ja muiden poliittisten välineiden käyttö. Tekoälyn puolesta tai sitä vastaan ​​esitetyt väitteet ovat usein hyperbolisia ja – tekniikan luonteen vuoksi – vaikeita arvioida. Tehokkaan globaalin tai kansallisen teknologiasääntelyjärjestelmän luominen on haastavaa, ja ketjussa tarvitaan useita riskitietoisen päätöksenteon tasoja keksijältä tuottajaan, käyttäjään, hallitukseen ja monenväliseen järjestelmään. 

Vaikka muun muassa UNESCO, OECD ja Euroopan komissio ovat julistaneet korkean tason periaatteita ja käynnissä on useita korkean tason keskusteluja mahdollisista sääntelykysymyksistä, tällaisten periaatteiden ja hallinto- tai sääntelykehyksen välillä on suuri ontologinen kuilu. Mikä on se huomioiden taksonomia, joka sääntelyviranomaisen on ehkä otettava huomioon? Kapeasti kohdistettu kehystys ei olisi viisasta, kun otetaan huomioon näiden teknologioiden laajat vaikutukset. Tämä potentiaali on saanut paljon kommentteja, sekä positiivisia että negatiivisia.

ISC on tärkein kansainvälinen kansalaisjärjestö, joka yhdistää luonnon- ja yhteiskuntatieteitä. Sen maailmanlaajuinen ja kurinalainen kattavuus tarkoittaa, että sillä on hyvät mahdollisuudet tuottaa riippumattomia ja maailmanlaajuisesti olennaisia ​​neuvoja edessä olevien monimutkaisten valintojen tekemiseksi, varsinkin kun tällä areenalla äänet tulevat suurelta osin teollisuudelta tai suurilta teknologiamahoilta. Viime kuukausina käydyn laajan keskustelun jälkeen, johon sisältyi valtiosta riippumattoman arviointiprosessin tarkastelu, ISC totesi, että sen hyödyllisin panos olisi tuottaa ja ylläpitää mukautuva analyyttinen viitekehys, jota voidaan käyttää keskustelun ja päätöksenteon perustana. kaikki sidosryhmät, myös mahdollisen muodollisen arviointiprosessin aikana. 

Tämä kehys olisi kattava tarkistuslista, jota voisivat käyttää sekä valtion että valtiosta riippumattomat instituutiot. Viitekehys tunnistaa ja tutkii tekoälyn ja sen johdannaisten kaltaisen teknologian potentiaalia laajalla linssillä, joka kattaa ihmisten ja yhteiskunnan hyvinvoinnin sekä ulkoiset tekijät, kuten talouden, politiikan, ympäristön ja turvallisuuden. Jotkin tarkistuslistan näkökohdat voivat olla merkityksellisempiä kuin toiset kontekstista riippuen, mutta paremmat päätökset ovat todennäköisempiä, jos kaikki alueet otetaan huomioon. Tämä on tarkistuslistalähestymistavan luontainen arvo. 

Ehdotettu viitekehys on johdettu aikaisemmasta työstä ja ajattelusta, mukaan lukien Kansainvälisen valtion tiedeneuvonnan verkoston (INGSA) digitaalisen hyvinvoinnin raportti¹ ja OECD AI Classification Framework² esitellä kokonaisuus tekoälyn mahdollisista mahdollisuuksista, riskeistä ja vaikutuksista. Näiden aikaisempien tuotteiden tarkoitus oli rajoitetumpi, kun otetaan huomioon niiden aika ja konteksti, joten tarvitaan kattava kehys, joka kattaa kaikki ongelmat sekä lyhyellä että pitkällä aikavälillä. 

Vaikka tämä analyyttinen viitekehys kehitettiin tekoälyn huomioon ottamiseksi, sitä voitaisiin soveltaa mihin tahansa nopeasti kehittyvään teknologiaan. Asiat on ryhmitelty laajasti seuraaviin luokkiin lisätutkimuksia varten: 

• Hyvinvointi (mukaan lukien yksilön tai itsensä hyvinvointi, yhteiskunta ja sosiaalinen elämä sekä kansalaiselämä) 
• Kauppa ja talous 
• ympäristö- 
• Geostrateginen ja geopoliittinen 
• Teknologinen (järjestelmän ominaisuudet, suunnittelu ja käyttö) 

Mukana on luettelo kunkin edellä mainitun luokan huomioista sekä niiden mahdollisuuksista ja seurauksista. Jotkut ovat merkityksellisiä tietyille tekoälyn tapauksille tai sovelluksille, kun taas toiset ovat yleisiä ja agnostisia alustan tai käytön suhteen. Mitään yksittäistä tähän sisällytettyä näkökohtaa ei pitäisi käsitellä ensisijaisena, ja sellaisena kaikkia tulisi tarkastella. 

Tätä kehystä voitaisiin käyttää, mutta ei rajoittuen, seuraavilla tavoilla: 

• Periaatteiden ja arvioinnin välisen kuilun kurominen umpeen luomalla validoitu yhteinen taksonomia niistä näkökohdista, joita asiaankuuluvat sidosryhmät voisivat käyttää pohjana antaakseen tietoa ja muotoillakseen lisäajattelua, mukaan lukien kaikki viranomaisten mahdollisesti kehittämät arviointikehykset. 

• Tiedottaa vaikutustenarvioinneille. EU:n tekoälylaki edellyttää, että järjestöt, jotka tarjoavat tekoälytyökaluja tai ottavat tekoälyä prosesseihinsa, suorittavat vaikutustenarvioinnin tunnistaakseen aloitteidensa riskit ja soveltavan asianmukaista riskinhallintatapaa. Tässä esitettyä viitekehystä voitaisiin käyttää pohjana tälle. 

• Tehostaa tekoälyn käytön ohjaamiseen ja hallitsemiseen tarvittavia eettisiä periaatteita. Viitekehys voi tehdä tämän tarjoamalla joustavan perustan, jolle voidaan kehittää luotettavia järjestelmiä ja varmistamalla teknologian laillisen, eettisen, vankan ja vastuullisen käytön. Näitä periaatteita voitaisiin testata kaikissa tässä viitekehyksessä esitettyjen vaikutusten suhteen. 
• Helpottaa olemassa olevien toimenpiteiden (eli sääntelyn, lainsäädännön, politiikan) kartoittamista ja tunnistaa mahdolliset puutteet, jotka vaativat lisäharkintaa. 

• Kehys on agnostinen teknologian ja sen käytön suhteen. Siksi sitä voitaisiin käyttää hyvin erilaisilla aloilla, kuten synteettisessä biologiassa. 

Seuraava taulukko on analyyttisen viitekehyksen ulottuvuuksien varhainen muotoilu. Tekniikasta ja sen käytöstä riippuen jotkut komponentit ovat merkityksellisempiä kuin toiset. Esimerkit tarjotaan havainnollistamaan, miksi kukin alue voi olla tärkeä; Tässä yhteydessä kehys vaatisi asiayhteyteen liittyvää laajennusta. On myös tärkeää erottaa alustan kehitys ja yleiset ongelmat, joita saattaa ilmetä tiettyjen sovellusten aikana.  

Avain kuvaajien lähteet

selkeä teksti:
Gluckman, P. ja Allen, K. 2018. Hyvinvoinnin ymmärtäminen nopeiden digitaalisten ja siihen liittyvien muutosten kontekstissa. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Lihavoitu teksti:
OECD. 2022. OECD:n kehys tekoälyjärjestelmien luokittelulle. OECD Digital Economy Papers, nro 323, OECD Publishing, Paris. https://oecd.ai/en/classification 

Kursivinen teksti:
Uudet kuvaajat (useista lähteistä) 

Tähän keskusteluasiakirjaan saadusta vastauksesta riippuen ISC muodostaisi asiantuntijatyöryhmän kehittämään tai muuttamaan edellä mainittua analyyttistä viitekehystä, jonka avulla sidosryhmät voisivat tarkastella kokonaisvaltaisesti merkittäviä alustojen tai käyttöulottuvuuksien muutoksia. Työryhmä olisi kurinalaisesti, maantieteellisesti ja demografisesti monipuolinen, ja sen asiantuntemus ulottuisi teknologian arvioinnista julkiseen politiikkaan, ihmisen kehityksestä sosiologiaan ja tulevaisuuteen ja teknologiatutkimukseen. 

Jos haluat osallistua tähän keskustelupaperiin, käy osoitteessa Council.science/publications/framework-digital-technologies 

Tämän asiakirjan laatimisessa on kuultu useita ihmisiä. Sir Peter Gluckman, ISC:n puheenjohtaja ja Hema Sridhar, entinen puolustusministeriön päätutkija ja nykyinen vanhempi tutkija Aucklandin yliopistossa Uudessa-Seelannissa. 

Kiitämme erityisesti Lord Martin Reesiä, Royal Societyn entistä presidenttiä ja Cambridgen yliopiston eksistentiaalisten riskien tutkimuskeskuksen perustajaa; Professori Shivaji Sondhi, fysiikan professori, Oxfordin yliopisto; Professori K Vijay Raghavan, Intian hallituksen entinen tieteellinen neuvonantaja; Amandeep Singh Gill, YK:n pääsihteerin teknologialähettiläs; tohtori Seán Óh Éigeartaigh, Cambridgen yliopiston eksistentiaalisten riskien tutkimuskeskuksen pääjohtaja; Amanda-June Brawner, vanhempi poliittinen neuvonantaja ja Ian Wiggins, kansainvälisten asioiden johtaja, Royal Society UK; Tri Jerome Duberry, tohtori Marie-Laure Salles, johtaja, Geneva Graduate Institute; Chor Pharn Lee, strategisten tulevaisuuksien keskus, pääministerin kanslia, Singapore; Barend Mons ja tohtori Simon Hodson, Datakomitea (CoDATA); Professori Yuko Harayama, Japani; Professori Rémi Quirion, johtaja, INGSA; Tri Claire Craig, Oxfordin yliopisto ja entinen ennakointipäällikkö, valtion tiedevirasto; ja prof Yoshua Bengio, YK:n pääsihteerin tieteellinen neuvoa-antava toimikunta ja Université de Montréal. Tarkistuslista-lähestymistapaa kannatettiin yleisesti, ja ISC:n kaikkien toimien oikea-aikaisuutta korostettiin.