Kapeasti määritellyt tavoitteet ja algoritmit

Kun alunperin kuulin Nick Boströmin paperiliitinmaksimoijasta, pidin sitä jossain määrin naurettavana. Eihän äärimmäisen älykäs tekoäly voisi olla noin rajoittunut. Ongelma on kuitenkin huomattavasti vaikeampi ja vivahteikkaampi kuin tuolloin ymmärsin, ja todennäköisesti useimmat ymmärtävät.

Boströmin paperiliitinvertauksessa superälykkäälle tekoälylle annetaan siis näennäisen harmiton tehtävä luoda paperiliittimiä. Minkä se luonnollisesti haluaa tehdä mahdollisimman hyvin. Koska sille ei ollut erikseen kerrottu, että ihmishengellä on mitään arvoa, se katsoo, että ihmisruumis koostuu atomeista, joista osa on täysin käyttökelpoista paperiliitinmateriaalia, ja sitä paitsi ihmiset elossa ollessaan haluavat käyttää muitakin paperiliittimiksi sopivia materiaaleja sen mielestä täysin turhiin asioihin, kuten vaikkapa ovenkahvoihin, elektroniikkaan tai kitarankieliin. 

Eikä se lopeta ennen kuin kaikki paperiliittimiksi sopiva materiaali on muutettu paperiliittimiksi. Ja koska se on huomattavasti meitä älykkäämpi, meillä ei ole mitään keinoa pysäyttää sitä.

Ajattelin että eihän me määriteltäisi tavoitetta noin kapeasti. Eihän me nyt niin tyhmiä oltaisi.

Liian kapeasti määritellyt tavoitteet on oikeasti aika keskeinen ja huomattavan monimutkainen tekijä tässä ongelmavyyhdissä jonka äärellä ihmiskunta on, eikä se todellakaan rajoitu tekoälyyn tai algoritmeihin. Se on yksi keskeisimpiä historiaa ja maailman tilaa selittäviä tekijöitä.

Jos mietitään että ongelmana on vaikkapa huonosti käyvä polttomoottori. Se koputtaa. Ratkaisuksi ehdotetaan lyijyn lisäämistä polttoaineeseen. Se ratkaisee ongelman. Jos joku tämän ongelman parissa painivan yrityksen työntekijä tässä kohtaa lähtee miettimään, että onko tämä nyt varmasti turvallista ja mitähän laajempia seurauksia tällä saattaa olla, tämä yritys ei tule ratkaisemaan tuota ongelmaa ensimmäisenä, eikä välttämättä ikinä. On huomattavasti kannattavampaa tuoda pitkällä tähtäimellä katastrofaalinen mutta toimiva ratkaisu markkinoille ja antaa muiden kärsiä ulkoisvaikutuksista kuin käyttää yhtään resursseja turvallisuudesta varmistumiseen.

Ja tämä ei rajoitu millään lailla yrityksiin ja kapitalismiin. Tämä tarina on eri muodoissaan todella paljon vanhempi. Kautta aikojen on ollut sivilisaatioita jotka ovat eläneet rauhanomaisesti tasapainossa luonnon kanssa. Ja yleensä heidät on syrjäytetty, sellaisten toimesta jotka ovat määritelleet tavoitteensa huomattavasti kapeammin ja lyhytnäköisemmin.

Viisauden eri määritelmiin kuuluu yleensä hyvin olennaisena osana maltti. Kyky olla tekemättä jotain asiaa, joka olisi oman lyhyen tähtäimen edun mukaista, mutta jolla olisi pitkällä tähtäimellä kaikille huonot seuraukset. 

Ne yhteiskunnat, joissa viisautta on ollut ja sitä on pidetty arvossa, eivät valitettavasti pääse enää osallistumaan keskusteluun meidän tavoitteistamme ja arvoistamme. Nykyinen yhteiskuntamme on parhaiten väkivaltaista yhteistyötä eli sotimista toteuttavan yhteiskunnan perillinen. Kapeasti määritellyt tavoitteet määrittävät kaikkea mitä teemme.

Niinpä yrityksen tehtävä on tuottaa voittoa omistajilleen. Facebook ja muut somet tekevät sen maksimoimalla käyttäjien huomion. Se, että siinä samalla hävitetään ihmisten keskittymiskyky, aiheutetaan valtava määrä mielenterveysongelmia, polarisoidaan kansalaiset ja tuhotaan luottamus instituutioihin ja sitä myötä poistetaan demokratian ja toimivan yhteiskunnan perusedellytykset on ulkoisvaikutus jota heidän ei kannata miettiä sen enempää. Jos Facebookin johto olisi jossain kohtaa pysähtynyt miettimään, että mitä laajempia seurauksia tällä olisi, niin Mark Zuckerberg olisi joitain satoja miljardeja dollareita köyhempi, Facebookia ei olisi, ja joku toinen firma olisi tehnyt jonkun vastaavan.

Suurin osa pörssikaupasta on algoritmien tekemää. Algoritmien, joilla on äärimmäisen kapeasti määritelty tavoite. Ja tekoälyn kehitys koskee kaikkia yhteiskunnan osa-alueita. Öljy-yhtiöt luonnollisesti käyttävät tekoälyä uusien öljyesiintymien etsimiseen ja vanhojen tehokkaampaan hyödyntämiseen. Kaivosyhtiöt käyttävät niitä malmiesiintymien etsimiseen. Propagandaa tuottavat tahot luonnollisesti käyttävät generatiivisia algoritmeja kuten GPT4, mahdollisesti yhdistettynä massadataan äärimmäisen tarkan kohdentamisen mahdollistamiseksi. 

Jos tämä maailmanlaajuinen järjestelmä, hyperorganismi, moolokki, miksi sitä nyt haluaakaan kutsua, oli jo valmiiksi hyvää vauhtia matkalla kohti itsetuhoa, tekoäly sen palveluksessa ei tule ainakaan hidastamaan sitä. Ei ennen kuin tavoitteet on määritelty uudestaan. Ja se vaatii hyvin perustavanlaatuisia muutoksia sekä yksilöissä että rakenteissa.

Laajasti määriteltävät tavoitteet ovat vaikeita. Jos luettelemme 20 asiaa jotka ovat mielestämme arvokkaita, tekoäly voi hyvin uhrata sen 21:sen. Ei ole mitään keinoa eksplisiittisesti kertoa, mitkä kaikki asiat ovat arvokkaita. Tämä on ilmeisesti jotain, mikä on implisiittistä, ja minkä välittäminen toiselle on äärimmäisen vaikeaa.

Kokeillaanpa tällaista. Elämä, elonkehä, sen monimuotoisuus ja eri elämänmuodot ovat itseisarvoisen arvokkaita. Tämä kuulostaa hyvältä lähtökohdalta. Mutta entäpä malaria? Monet taudit ja loiset ovat välttämättömiä ekologisen tasapainon säilyttäjiä. Ne ovat myös todella ikäviä yksilöiden kannalta. 

Entäpä vieraslajit? Ajatellaanpa, että yksi laji, vaikkapa rotat Uudessa-Seelannissa, aiheuttavat olemassaolollaan jatkuvasti muiden lajien sukupuuttoja, vieläpä sellaisten lajien joita ei kerta kaikkiaan ole missään muualla maailmassa. Tässä tilanteessa tämän yhden lajin hävittämisen pitäisi olla täysin perusteltua. Sitten voidaan korvata rotat eräällä Afrikasta karanneella karvattomalla apinalajilla ja miettiä miten pitkälle tämä argumentti oikeastaan halutaan viedä.

Näihin kysymyksiin ei ole olemassa mitään sellaista sääntöä, mikä voitaisiin kirjoittaa algoritmien ymmärtämälle kielelle. Jos on joku keino kirjoittaa aidosti viisas algoritmi, joka ymmärtää implisiittisesti elonkehän keskinäisriippuvuudet ja mikä on aidosti arvokasta, niin me emme tiedä sitä. Ja jos meidän omat arvomme ja tavoitteemme eivät ole yhteensopivia oman selviytymisemme kanssa, ei meidän luomamme tekoälynkään tavoitteet voi olla.