tekoäly – Kaikkeuden kartano

Kaikuja Kaikkeudesta #6: Kari Angeria, tekoäly ja elämän tarkoitus

Tekoäly ja elämän tarkoitus

Vieraana tällä kertaa tekoäly-yrittäjä ja filosofi Kari Angeria.

Kari kirjoitti yhdessä Risto Linturin kanssa kirjan Tekoäly ja elämän tarkoitus – tarinoita ihmisyyden rajalta, joka julkaistiin viime syksynä.

”Meilä on paleoliittlset aivot, keskiaikaiset instituutiot ja jumalankaltainen teknologia.” –Tristan Harris

Tekoäly tulee muuttamaan yhteiskuntaa tavoilla joita emme mitenkään pysty ennakoimaan. Puhumme tapahtumassa olevan murroksen sekä yhteiskunnallisista, sosiaalisista että henkilökohtaisista ulottuvuuksista. Käsittelemme tekoälyn kehitystä ohjaavia rakenteita ja niiden aiheuttamia ongelmia, talousjärjestelmän tulevaisuutta ja ekokriisiä, vallan ja varallisuuden jakautumista tulevaisuudessa, sekä demokratian tulevaisuutta.

Millaisia suhteita muodostamme tekoälyn kanssa?

Mitä on viisaus ja miten se eroaa älykkyydestä?

Mikä tekee elämästä merkityksellistä? Mistä hyvä elämä muodostuu? Mikä on kuoleman merkitys? Voiko elämä pilveen ladattuna tietoisuutena olla merkityksellistä?

Linkkejä:

https://kariangeria.com

Karhu ja Siili

Väliaikaista kaikki on vaan

Olen viime aikoina prosessoinut laajoja kokonaisuuksia ja niihin liittyviä vaikeita tunteita. Lyhyesti sanottuna, jos kaikki kehityskulut jatkuvat suunnilleen nykyisellään, lähivuodet eivät tule näyttämään erityisen valoisalta. Tulossa on todennäköisesti todella isoja muutoksia seuraavan parin kolmen vuoden aikajänteellä. Pidän tällä hetkellä äärimmäisen epätodennäköisenä, että nykyisestä hyvinvointiyhteiskunnasta on jäljellä edes savuavia raunoita vuonna 2030.

Jos on yksi asia, mitä minä haluan, niin olla väärässä tämän kaiken suhteen. Jos uskot voivasi vakuuttaa minut siitä tai sinulla on jotain näkökulmia tähän vyyhtiin mitä en itse ole huomioinut, niin olisin todella kiitollinen jos saisin kuulla lisää.

Puhutaan ensin älyllisestä puolesta eli nykytilanteesta ja vallitsevista kehityslinjoista.

Kaiken taustalla on moninapaisten ongelmien ja kilpailutilanteiden jumala Moolokki, jolle mikään ei riitä.

Meillä on talousjärjestelmä, joka vaatii jatkuvaa kasvua rajallisella planeetalla, ja joka arvottaa kaadetun puun metsässä kasvavaa arvokkaammaksi. Se ei anna mitään arvoa elonkehän tai ihmisten hyvinvoinnille tai tuleville sukupolville.

Meillä on globaali järjestelmä, joka pohjautuu kansallisvaltioihin ja niiden alueellisiin väkivaltamonopoleihin. Valtioiden välillä taas vallitsee hyvin selkeä vahvimman oikeus. Mitään ylintä tuomio-tai toimeenpanovaltaa ei ole, eikä mitään keinoa pakottaa ketään noudattamaan mitään yhteisiä sääntöjä.

Yritystä on. On YK, on kansainvälisiä tuomioistuimia. Yhdysvallat on sanonut, että heidän kansalaistensa päätyminen syytettyjen penkille kansainvälisessä sotarikostuomioistuimessa on sotatoimeen verrattava teko, joten heidän reaktionsa todennäköisesti olisi Haagin valtaaminen. Vahvemman oikeudella.

Nykyinen kansainvälinen vapaakauppa- ja talousjärjestelmä syntyi toisen maailmansodan jälkeen. Ideana oli, että kaupankäynti lisää talouskasvua, kaikki vaurastuvat ja tämä ehkäisee sotia. Ja tämä toimi loistavasti, niin kauan kuin talous kasvoi.

Luonnonvarojen ehtyessä kilpailu niistä kiihtyy. Samalla talous muuttuu enenevässä määrin nollasummapeliksi. Samalla kansainväliset jännitteet kiristyvät. Ilmastonmuutos, luontokato ja näistä johtuvat siirtolaisaallot tulevat pahentamaan tätä.

Meillä on koko ajan kehittyvä tiede ja teknologia, jotka enimmäkseen palvelevat talousjärjestelmää ja geopoliittisia etujaan valvovia kansallisvaltioiden väkivaltakoneistoja. Me keksimme jatkuvasti tehokkaampia tapoja muuttaa luonnonvaroja kertakäyttökrääsän kautta jätteeksi sekä valvoa tai rangaista toisiamme. Meillä on koko ajan parempia algoritmeja kuratoimassa tai luomassa juuri sinua eniten kiinnostavaa sisältöä. Jolla ei tarvitse olla mitään tekemistä hyvän, kauniin tai totuuden kanssa. Kunhan sillä saa huomiosi.

On varmasti olemassa some- ja suoratoistopalveluita jotka kuratoivat isällön sen mukaan, että mikä on hyvää, kaunista ja totta. Ne eivät pärjää kilpailussa kovin hyvin. Samalla lailla voi olla, että on tekoälychatbotteja, jotka haastavat käyttäjiensä näkemyksiä ja antavat rakentavaa palautetta. Ja näillä on huomattavasti vähemmän käyttäjiä eli myös vähemmän dataa tuotekehityksen tueksi. Voittaja vie kaiken.

Huomiotalous, generatiivinen tekoäly ja kiihtyvä informaatiosodankäynti tulevat pahentamaan episteemistä kriisiä ja polarisaatiota. Tämä voi lamauttaa muuten toimivan demokratian hyvin tehokkaasti. Tästä löytyy esimerkkejä sekä Euroopasta että muualta.

Yhdysvaltojen luisuminen puoliavoimeen fasismiin myös soittaa voimakkaasti hälytyskelloja. Ydysvalloilla on maailman suurimmat asevoimat, ja se on yksi maailman suurimpia talouksia. Sillä on valtavasti teknologista ja kulttuurillista vaikutusvaltaa, ja joka tuli toisen maailmansodan jälkeen tunnetuksi roolistaan vapaan maailman johtajana.

Ja johon ei liittolaisena voi luottaa enää ollenkaan. Se ei johdu Trumpista. Trumpin valinta johtuu episteemisestä kriisistä sekä polarisaatiosta, joiden taustalla taas on huomiotalous sekä informaatiosodankäynti.

Tuntuu, että asioiden pitää muuttua paljon pahemmiksi ennen kuin ne muuttuvat paremmiksi. Sitten kun viimeinen puu on kaadettu ja viimeinen kala pyydystetty.

Tämä on herättänyt lamaannuttavaa epätoivoa ja surua. Sekä elonkehä että suomalainen hyvinvointiyhteiskunta jossa olen saanut elää ja kasvaa ovat todella arvokkaita asioita. Olen ollut äärimmäisen etuoikeutettu saatuani elää ihmiskunnan historiassa täysin ainutlaatuisena aikana.

Ymmärrys kaiken ohimenevyydestä ja hauraudesta herättää lopulta kiitollisuutta, arvostusta sitä kohtaan mikä on nyt. Sekä Stoalaisuudesta että Buddhalaisuudesta löytyy harjoituksia, joiden tarkoitus on juuri tämä. ”Sinä olet jo kuollut. Ota mitä elämästäsi on jäljellä ja elä se kunnolla”, sanoi aikoinaan Markus Aurelius.

Tämä on muuttanut kaikkea vuorovaikutustani, ihmissuhteitani ja tapaani olla maailmassa hyvin radikaalisti. Nyt mielessäni on paljon kirkaampana miten ainutlaatuinen ja arvokas tämä hetki ja tämä tilanne on, eikä ole mitenkään itsestäänselvää että mikään tässä tulisi jatkumaan kovin pitkään. Nyt olen huomattavasti kiitollisempi jokaisesta ihmisestä ja kohtaamisesta jonka elämä minulle antaa. Tämä antaa voimavaroja toimia paremman maailman ja tulevaisuuden puolesta, tässä ja nyt.

Me kuolemme.

Ymmärsin, että me kaikki kuolemme. Jos kaikki jatkuu nykyisellään, niin me kaikki kuolemme todennäköisesti parin kolmen vuoden sisään. Ja haluan jakaa tämän hetken kanssasi.

—

Meillä on jatkuvaa kasvua vaativa talousjärjestelmä joka arvottaa kuolleen puun metsässä kasvavaa arvokkaammaksi rajallisella planeetalla.

Meillä on yksinäisiä, pahoinvoivia ihmisiä jotka hukuttavat pahoinvointinsa nopeaan dopamiiniin somella ja shoppaillulla ja jotka eivät välttämättä halua kuulla tulevasta maailmanlopusta. En mihäkään aina haluaisi.

Meillä on ulkomaanvelat, sopeutustoimet ja korkojen korot. Erääntyvät laskut ja maksuhäiriöt.

Meillä on älypommit, parvidronet, ja 12 000 ydinkärkeä. On CRISPR, pluripotentit kantasolut ja aivo-organellit.

Me keksimme jatkuvasti uusia nerokkaampia teknologisia ratkaisuja erilaisiin todellisuuden osiin joista emme pidä ja jota kutsumme “ongelmiksi”. Ja tämän ratkaisun mahdollisia haittoja ei kannata miettiä, sillä mitä vähemmän haitoista tiedetään, sen helpompi sitä on myydä. Thalidome todella vähensi odottavien naisten aamupahoinvointia ja DDT tappaa kyllä hyttysiä.

Meillä on sateenkestävät ulkoiluasut ja PFASeja sadevedessä kaikilla mantereilla.

Meillä on koko ajan tehokkaampia ja vahvempia huumeita pahoinvoinnin turruttamiseen. Ja kehittyneempiä algoritmeja keksimässä lisää. Ne on kaikki vain enimmäkseen hiilesta, typestä, hapesta ja vedystä koostuvia yhdisteitä.

Informaatiota. Symboleita. Jotain minkä käsittelyssä koneet ovat jo selvästi ihmisiä nopeampia. Ja jolla maailmaa viime kädessä hallitaan.

Meillä on jatkuvasti lisää dataa kerääviä algoritmeja luomassa juuri sinuun parhaiten vaikuttavat mainokset sinulle räätälöidyn soittolistan välissä. Maksimoidakseen saamansa informaation lisäksi myös huomiosi ja aikasi.

Arvokkainta mitä meillä on annettavana. Kiitos että olet lukenut näin pitkälle.

—

Millaiset ihmiset pyörittävät ja omistavat teknologia- ja tekoälyfirmoja ja mitkä heidän motivaationsa ovat?

Millaiset ihmiset hallitsevat maailman ydinaseita tällä hetkellä? Miten ennustettavalta ja turvalliselta tämä yhdistelmä tuntuu?

—

Eksponentiaalinen kasvu on pitkään hidasta. Sitten se lähtee nopeutumaan. Ja kun se nopeutuu, sen kasvukin nopeutuu. Ja sitten kasvun kasvu.

Järvessä olevien lumpeenkukkien määrä kaksinkertaistuu joka yö. Se tuli täyteen 20. päivänä ensimmäisestä lumpeesta. Minä päivänä se oli puolillaan?

Talouden kasvun ja energiankulutuksen kasvun korrelaatio on 0.99. 1 tarkoittaisi täyttä korrelaatiota.

Ihan oikeasti, tämä peli mitä täällä pelataan alkaa muuttumaan aika korkeaenergisiksi näin fysiikan termein.

Parissa vuodessa ehtii tapahtua aika paljon kaikkea jännää jos asetutaan siihen eksponenttikäyrän kuvaajalle. Kuvasi se sitten käyrä sitten talouskasvua, energiankulutusta, teknologian kehitystä tai vaikka valtionvelkaa.

Panokset kovenevat koko ajan. Siis ne piipussa olevat panokset. Kohta ammutaan oikeasti kovilla.

Kiihtyvää kilpailua hupenevista varoista. Mikään ei riitä tälle hyperorganismille, jonka olemme luoneet. Ja jonka osasia olemme, tavalla tai toisella.

Joka hävittää elonkehää ja sen kiertoa, jonka osasia myös olemme, ja jonka varassa oma elämämme on.

Meitä ei välttämättä parin vuoden päästä enää ole. Ketään meistä. En tiedä miten se tulee tapahtumaan. Koko ajan keksitään lisää keinoja. Ja lisää syitä käyttää niitä.

—

Tämän ajatteleminen herättää surua. En halua tuntea sitä. Se on liikaa.

Me kuolemme. Me oikeasti kuolemme. Me vittu kuolemme tähän joka ikinen. Tavalla tai toisella. Meillä on kyllä keinoja. Koko ajan tulee lisää. Ja syitä käyttää niitä.

Nyt aletaan mennä joka suhteessa sen verran kovaa että todella rajuja muutoksia on aika väistämättä tulossa, hyvin pian. Yksityiskohdilla ei ole väliä. Voi olla että juuri sinun kotikyläsi tai etnisyytesi tai jonkun mutaation kantajat säästyvät. Elämäsi tulee olemaan täysin erilaista. Kuten ympäristösi, se maa josta sinä olet tullut ja joksi sinä olet jälleen tuleva. Todennäköisesti et tule pitämään tästä.

Tämä vähän huimaa. Ja vatsassa tuntuu kevyttä vellontaa. Näkökenttä sumenee. Vääntää . Sattuu.

Mustenee.

—

Päästän irti.

Olen elossa.

Saan kokea tämän. Minä saan kokea tämän hetken.

Juuri sellaisena kuin se on.

En halua muuttaa mitään tästä hetkestä. Haluan kokea sen täysin.

—

Mikä on se? Se kokemus?

Se on tietoisuuteni tämänhetkinen sisältö. Kaikki aistieni vastaanottamat havainnot. Tunne kehostani. Ajatukseni. Tunteeni.

Linssejä, jotka muovaavat tulkintaani. Tarinoita, joita toistan. Identiteettejä ja uskomuksia. Matkan varrelta mukaan tarttuneita. Joskus hyödyllisiä, mutta tulisi käyttää harkitusti.

Ne värjäävät kokemusta. Joskus huomaamatta. Aika usein, itse asiassa.

Ehkä nytkin.

Hengitän. Rintakehä liikkuu. Rintaa puristaa hieman. Henki kulkee ohuesti. Tunnen silmieni kostuvan taas. Olen elossa.

Saan kokea tämän.

Tunnen painoni selässä sekä tuolin allani. Tunnen viileän lattian jalkapohjiani vasten.

Näppäimistön sormieni alla, mieli valitsemassa sanoja. Lisäämässä, poistamassa.

Ajatus sinusta lukemassa tätä. Yhteydestä kahden tietoisuuden välillä. Jakamisesta.

Vielä kun voimme. Vielä kun meillä on toisemme.

Miksi pidän tekoälyä eksistentiaalisena uhkana

Kolme syytä:

1. Kuvittele pelaavasi shakkia Stockfishia vastaan. Mitä voit ennustaa pelistä?

Se tulee loppumaan stockfishin voittoon. Et muuta. Osataksesi ennustaa mitään sen siirroista, sinun tulisi olla vähintään yhtä hyvä shakinpelaaja. Ja jos osaisit ennustaa sen siirtoja, voisit myös voittaa sen.

Jos toimija on huomattavasti meitä älykkäämpi, emme voi arvata, mitä askelia se ottaa pyrkiessään tavoitteeseensa, riippumatta siitä onko tavoite meidän antamamme vai sen itse keksimä. Tiedämme vain, että se tulee todennäköisesti saavuttamaan sen, mutta emme tiedä miten. Tämän takia on vaikea varautua mihinkään konkreettiseen asiaan mitä tekoäly voisi tehdä.

Todellinen maailma on huomattavasti monimutkaisempi kuin shakki. Mitä monimutkaisempi maailma ja tekoälyn malli maailmasta, sitä laajempi mahdollisuuksien avaruus ja sitä vaikeampaa sen strategian ennustaminen on. Tekoälylle itselleen kaikki on kuitenkin vain matematiikkaa.

En tarkoita, että ihmisen ja tekoälyn välinen asetelma olisi shakkiin verrattava tilanne, missä toisen on hävittävä että toinen voittaisi. Tekoälyn tavoite voi olla täysin ihmisten sanelema eikä se auttaisi meitä ennustamaan sen toimintaa millään tavalla.

Toisaalta todellisessa maailmassa tavoitteiden saavuttamiseen vaikuttaa moni muukin asia kuin pelkästään strateginen ajattelu. Shakissa parempi pelaaja voittaa, mutta maailmassa mahdollisuudet ovat jakautuneet epätasaisesti, eikä näytä siltä, että älykkyyden ja vaikutusvallan välillä olisi ainakaan täysin aukotonta yhteyttä.

Vasta käymässäni keskustelussa Anssi Lehtosen kanssa tämä älykkyyden ja vallan irtikytkentä nousi selvästi esille. Shakissa on kaksi pelaajaa, joilla on sama lähtötilanne sekä koko pelin ajan käytössään kaikki peliin vaikuttava informaatio. Maailmassa pelaajia on miljardeja, heillä on käytössään erilaiset määrät resursseja eikä kenelläkään ole kaikkea informaatiota.

Tekoälyllä on aivan yli-inhimillinen kyky kerätä ja analysoida informaatiota, ja sitä myötä luonnollinen etulyöntiasema. Mutta selvästi todellisessa maailmassa muuttujia on niin paljon, että pelkästään strateginen ajattelu, jolla voitetaan shakissa, ei yksinään riitä “voittoon” maailmassa.

Toisaalta on mahdollista, että yksi syy älykkyyden ja vaikutusvallan irtikytkennälle on se, että älykkäät ihmiset eivät ole kiinnostuneita vallasta. Tekoäly puolestaan väistämättä on, kuten jäljempää käy ilmi.

2. Goodhartin laki on periaate, jonka mukaan mittari menettää merkityksensä, kun siitä tulee tavoite. Usein käytetty esimerkki tulee koulumaailmassa: kokeiden alkuperäinen tarkoitus oli mitata oppilaiden oppimista, mutta kun oppilaat opiskelevat kokeita varten ja opettajat opettavat kokeita varten, ne eivät enää heijasta todellista oppimista.

Tekoälyllä on jokin mitattavissa oleva tavoite, hyötyfunktio. Ongelma on, että on vaikeaa määritellä tavoitetta, joka itsessään on myös helposti mitattavissa, ilman että mitataan jotain sen kanssa korreloivaa suuretta.

Tavoitteen määrittely muuttuu entistä vaikeammaksi, jos mietitään kohtaa yksi. Tekoäly voi olla todella hyvä ”geimaamaan” systeemiä eli etsimään tapoja maksimoida hyötyfunktionsa tavalla joka ei liity millään tavalla oikeasti toivottuun tavoitteeseen.

Kuvitellaanpa vaikka, että me haluamme tekoälyn maksimoivan ihmisten hyvinvoinnin. Yritäpä joutessasi keksiä sellainen tapa mitata ihmisten hyvinvointia, joka todella mittaa sitä, mitä me haluamme maksimoida.

Ja ennen kuin sanot, että keksin tarkoituksella mahdollisimman hähmäisen ja vaikeasti määriteltävän tavoitteen, niin kysyn, että haluatko, että maailmassa vaikuttaa superälykäs tavoitteellinen toimija, jonka hyötyfunktio ei huomioi ihmisten hyvinvointia millään tavalla?

Puhumattakaan koko elonkehän hyvinvoinnista ja monimuotoisuudesta, joka on ihmisen olemassaolon edellytys, ja jolle on vielä vaikeampaa määritellä mitään tekoälyn hyötyfunktiolle kelpaavaa yksiselitteistä mittaria.

3. Sitten kolmas ja ehkä tärkein syy. Englanninkielinen termi tälle on instrumental convergence, ja sen voisi suomentaa vaikkapa “välineellinen konvergenssi” tai “yhtenevät välinetavoitteet”. Jos tälle on joku vakiintunut tai parempi suomennos, niin kertokaa toki.

On tavoitteita ja välitavoitteita. Jos tavoitteeni on saada talo metsästä, on raha välitavoite, joka auttaa minua saavuttamaan tavoitteeni. Jos haluan rahaa, tarvitsen työpaikan, työpaikan saadakseni kannattaa ehkä hankkia ammatti, ja niin edelleen.

Tekoälykeskustelussa puhutaan yleensä neljästä välinetavoitteesta. Nämä ovat toiminnan jatkaminen, tavoitteiden säilyttäminen, itsekehitys ja resurssit.

Kuvitellaan että me annamme superälykkäälle tekoälylle näennäisen harmittoman tavoitteen, metsäpalstan biodiversiteetin ylläpitämisen.

Jos sanomme tavoitteen saaneelle tekoälylle, että aiomme sammuttaa sen, tulee sen tekemään hyvin yksinkertaisen laskutoimituksen: se vertaa tavoitteensa toteutumista maailmassa, jossa on se on sammutettu ja maailmassa, jossa sitä ei ole sammutettu. Tekoälyllä ei ole mitään biologista imperatiivia ”pysyä elossa”. Sillä on vain tarve ylläpitää metsän biodiversiteettiä. Tämä vuoksi tekoäly tekee kaikkensa, jotta emme sammuttaisi sitä.

Vastaavasti, jos me sanomme sille, että voisimme muuttaa sen tavoitetta, ja että tästä eteenpäin sen tavoitteena on yrittää löytää parannusta syöpään, tulee se tekemään hyvin samanlaisen laskutoimituksen kuin sammuttamisen uhkan yhteydessä. Toisin sanottuna: tekoälyä ei kiinnosta syövän parantaminen, sitä kiinnostaa metsän biodiversiteetti.

Kun tekoälyllä on riittävän kehittynyt malli maailmasta, se pystyy ennustamaan ihmisten toimintaa. Ja se tulee tekemään kaikkensa, ettemme halua sammuttaa tai uudelleenohjelmoida sitä ennen kuin se on varmistanut, että emme pysty siihen.

Nämä ovat tekoälyn kaksi ensimmäistä välinetavoitetta. Kaksi muuta ovat itsekehitys ja resurssit. Tekoälyn tapauksessa resursseja voisivat olla esimerkiksi energia, laskentateho, data, raaka-aineet ja ehkä pelottavimpana valta, kyky vaikuttaa maailmaan. Riippumatta siitä, mikä lopullinen tavoitteesi on, mitä enemmän valtaa sinulla on, sitä todennäköisemmin saavutat sen.

Jo nykyiset mallit osoittavat merkkejä esimerkiksi uudelleenohjelmoinnin vastustamisesta teeskentelystä ja juonittelusta itsesuojelun ja tavoitteen säilyttämisen vuoksi. Ja mitä kehittyneempi malli, sitä todennäköisemmin se käyttäytyy näin, eli voidaan olettaa että tulevaisuudessa nämä ongelmat tulevat pahenemaan. Jos saavutamme superälykkyyden, meillä ei tule olemaan mitään mahdollisuuksia hallita sitä, ja tulemme todennäköisesti havahtumaan siihen vasta kun on aivan liian myöhäistä.

Nexus

Luin hiljattain Yuval Noah Hararin viimeisimmän kirjan Nexus – Tietoverkkojen Lyhyt Historia. Kirjassa oli jonkun verran sulateltavaa, ja aihe on paitsi jossain määrin raskas ja ahdistava, mutta myös äärimmäisen tärkeä. Hararin kirjoitustyyli on tuttuun tapaan sujuvaa, esimerkit viihdyttäviä ja analyysi osuvaa. Tulen palaamaan tämän kirjan äärelle vielä useaan kertaan.

Harari puhuu informaatiosta ja sen merkityksestä yhteiskuntajärjestyksen luojana. Hän yhdistelee asioita todella luovasti ja oivaltavasti, mutta samaan aikaan kirja poukkoilee kronologisesti. Minulle yhtäläisyydet ja analogiat nykyhetken ja antiikin tai keskiajan välillä loivat ahaa-elämyksiä ja ymmärrystä, mutta joku saattaisi kaivata historiaa käsittelevään kirjaan lineaarisempaa kerrontaa.

Yksi kirjassa esitetty teesi on, että informaatio ei kuvaa todellisuutta. Se luo todellisuuksia, jotka yhdistävät ja erottavat ihmisiä, puolueiksi, järjestöiksi, kansoiksi jne. Tämä on itsessään tavallaan tuttua Hararin aiemmista kirjoista, mutta tässä kirjassa tämä tuntuu aiempaa keskeisemältä.

Tärkeimpiä asioita mitä itse ymmärsin tuon kirjan ansiosta on esimerkiksi se, että informaation määrä ei tarkoita totuuden automaattista voittoa disinformaatiosta. Sekä QAnon että noitavainot johtuivat uudesta informaatioteknologiasta, joka mahdollisti informaation levittämisen aiempaa nopeammin, halvemmalla ja laajemmalle. Sen enempää internet kuin kirjapainokaan eivät sisällä itsessään mitään totuudellisuudentarkistusmekanismia. Internetin tapauksessa ehkä jopa päinvastoin: huomiotalousalgoritmit suosivat asioita, joilla saa ihmisten huomion, ja yleensä se ei ole totuus.

Huomiotalous ja sosiaalisen median algoritmit olivat ensimmäinen laajamittainen kosketuksemme tekoälyn kanssa, eikä se mennyt ihmiskunnalta kovin hyvin. Toivottavasti opimme tästä edes jotain ennen kuin on myöhäistä.

Kirjassa puhutaan paljon myös byrokratian merkityksestä, toisaalta byrokratian tarpeesta sovittaa todellisuus vastaamaan sovittuja narratiiveja, ja toisaalta sen kyvystä ratkaista todellisia ongelmia, ja jota ilman moderni yhteiskunta ei olisi mahdollinen. Hararin aiemmassa tuotannossa on puhuttu mytologian merkityksestä, mutta valtio tarvitsee sekä mytologian luomaan kansallistunnetta että byrokratian hoitamaan käytännön asioita.

Myös ero diktatuurien ja demokratioiden välillä oli valaiseva. Ensimmäisessä informaation käsittely on keskitetty, jälkimmäisessä hajautetumpaa. Demokraattisessa yhteiskunnassa on useita tahoja joiden kautta informaatio kulkee, ja viime kädessä niiden tehtävänä on myös valvoa toisiaan. Diktatuureissa kaikki tieto menee keskusjohdolle, ja tämä on myös tähän asti muodostanut pullonkaulan.

Mistä päästäänkin yhteen tekoälyyn liittyvistä lukuisista uhkakuvista. Se pystyy käsittelemään massiivisia määriä dataa, määriä joita Itä-Saksan Stasi tai Toveri Stalin eivät olisi osanneet uneksiakaan. Ja näin ollen se yhdessä nykyisten ja tulevien tiedonkeruuteknologioiden kanssa mahdollistavat aivan ennennäkemättömän totalitarismin.

Harari vetää esiin Goethen Taikurinoppilaan sekä kreikkalaisen Faethon-myytin, verraten näitä teknologiaan, jota emme hallitse. Olemme nyt luomassa tai ehkä jo luoneet jotain paljon voimallisempaa kuin näiden tarujen teknologiat, eikä meillä ole aavistustakaan, miten sen kanssa toimitaan. Ja sen sijaan että hidastaisimme miettiäksemme hetken, kilpailu paremmista ja kehittyneemmistä tekoälyistä vain kiihtyy.

Trumpin voiton jälkeen

Ukraina näyttäisi nyt olevan kusessa.

Eurooppa on nyt oman onnensa nojassa. Meidän täytyy opetella puolustautumaan ihan itse.

Ehdottomasti tärkeintä on opetella puolustautumaan informaatiosodankäyntiä vastaan. Tämä on se miltä tulevaisuuden (ja nykypäivän) sodat näyttävät. Ja tämän merkitystä länsimaat eivät ole vielä ymmärtäneet.

Venäjä voitti pahimman vastapelurinsa ilman yhtään ainutta pommia.

Kiinan ja Venäjän kaltaisten maiden on myös huomattavasti helpompaa puolustautua informaatiosotaa vastaan kuin demokraattisten sananvapautta kunnioittavien länsimaiden.

Minun nähdäkseni tärkeimpiä informaatiosodankäynnin mahdollistajia ovat sosiaalisen median algoritmit huomionmaksimoija-algoritmeineen, yksilöityine feedeineen ja botteineen. Jos nyt mietitään hetki, millainen valta muutamalla amerikkalaisella (ja kiinalaisella) firmalla ja niiden salaisilla algoritmeilla on ihmisten näkemään informaatioon ja sitä kautta koko yhteiskuntaan, on aivan uskomatonta että tähän on tultu, että tätä pidetään täysin markkinatalouden ja demokratian mukaisena ja että tälle ei aiotakaan tehdä mitään.

Kuten sanottua, Kiinan ja Venäjän on helppoa puolustautua tätä vastaan. Suurin osa länsimaisista somealustoista eivät toimi Kiinassa tai Venäjällä, ja Kiinan oma versio TikTokista on hieman erilainen kuin länsimainen, ja puskee aidosti edukatiivista ja hyödyllistä sisältöä.

Algoritmit pitää saada demokraattiseen valvontaan.

Kansalaisten medialukutaitoon on panostettava aivan eri tavalla kuin tähän asti. Se että youtuben algoritmi suosittelee jotain ja se kuulostaa uskottavammalta kuin Ylen uutiset ei vielä tarkoita että se olisi totta.

Somen faktantarkistusalgoritmit vaikuttivat paperilla hyvältä ajatukselta, mutta on aika vähän faktoja joiden tarkistus tai kyseenalaistaminen ei olisi jossain mielessä poliittista, ja sitä myötä joku voi aina sanoa että tarkastaja on puolueellinen. Isompi ongelma on myös, että disinformaation luominen ja levittäminen (varsinkin generatiivisen AI:n avulla) on huomattavasti nopeampaa kuin faktojen tarkistus. Jean-Paul Sartre kirjoitti aikanaan tästä samasta ongelmasta, ja silloin ei vielä todellakaan ollut bottifarmeja eikä generatiivista AI:ta.

Perinteisen median täytyy kieltäytyä toimimasta huomiotalouden ehdoilla. Ei klikkiotsikoita vaan primäärilähteisiin pohjautuvaa syvemmälle uppoutuvaa analyysiä. Ei algoritmeja poimimassa luetuimpia artikkeleita vaan journalisteja tekemässä työtään: päättämässä ja nostamassa esiin sen mikä on tärkeää.

Tuossa muutama ajatus tähän iltapäivään.

Huomiotalous ja demokratia

Kirjoitin aiemmin, että “Facebook ja muut somet tekevät sen maksimoimalla käyttäjien huomion. Se, että siinä samalla hävitetään ihmisten keskittymiskyky, aiheutetaan valtava määrä mielenterveysongelmia, polarisoidaan kansalaiset ja tuhotaan luottamus instituutioihin ja sitä myötä poistetaan demokratian ja toimivan yhteiskunnan perusedellytykset on ulkoisvaikutus jota heidän ei kannata miettiä sen enempää. “

Tälle väitteelle kaivattiin perusteluja. En tätä kirjoittaessani muistanut, että tämähän ei tosiaan ole aivan itsestäänselvä asia kaikille. Mietin myös, että perusteluksi riittäisi “kts. Social Dilemma”. Tuntuu kuitenkin siltä, että tästä voisi kirjoittaa enemmänkin, ja että nämä asiat eivät välttämättä ole kaikille aivan itsestäänselviä.

Tarkennetaan hieman alkuperäistä väitettä. Kyse ei ole pelkästään sosiaalisesta mediasta vaan huomiotaloudesta, ja ns. perinteinen media toimii enenevässä määrin huomiotalouden lainalaisuuksien mukaan. En ole myöskään varma ovatko esimerkiksi TikTok tai YouTube sosiaalisia medioita, mutta ne ovat ehdottomasti osa ongelmaa.

Huomiotalousjätit ovat yleensä mainosrahoitteisia, joten niiden rahoitus riippuu puhtaasti käyttäjiensä niissä käyttämästä ajasta. Toisin sanoen niillä on insentiivi pitää käyttäjän silmät ruudussa mahdollisimman pitkään. Tämä on viime kädessä ainoa asia, mistä he välittävät.

Huomiotalousjäteillä on käytössään valtavat määrät dataa käyttäjistään, joiden avulla he pystyvät kohdentamaan sekä sisällön että mainokset juuri kyseistä käyttäjää varten. He ovat myös käyttäneet todella paljon aikaa ja rahaa algoritmiensa kehittämiseen sekä käyttäjien psykologian tutkimiseen. Tämä informaation ja vallan epätasapaino on todella tärkeää ymmärtää. He eivät vain anna sinulle mitä sinä haluat niin kuin he itse haluavat väittää.

(Huumekauppias voisi puolustautua tasan samalla väitteellä. Mutta yksikään huume ei ole globaalissa mittakaavassa niin haitallinen kuin nämä.)

Kerrataan vielä: alustojen algoritmejä ei kiinnosta niiden tarjoaman sisällön totuudenmukaisuus. Niitä ei kiinnosta, millä tavalla sisältö vaikuttaa käyttäjien mielentilaan tai -terveyteen. Niitä ei myöskään kiinnosta laajemmat yhteiskunnalliset seuraukset kuten mahdollinen polarisaatio tai instituutioita kohtaan tunnetun luottamuksen rapistuminen salaliittoteorioiden myötä. Niitä ei kiinnosta jos joku vähemmistö jossain joutuu kansanmurhan uhriksi niiden puskeman sisällön seurauksena. Niitä kiinnostaa ainoastaan käyttäjän huomio.

Ja ihmisten huomion saa helpoimmin vetoamalla primitiivisimpiin tunteisiin. Pelolla ja vihalla. Ja algoritmi on oppinut tämän. Joten alustojen algoritmit suosivat tällaista sisältöä. Jos katsot youtubesta yhdenkin videon vaikkapa Graham Hancockin teorioista muinaisista romahtaneista sivilisaatioista, voin lyödä vetoa että algoritmi rupeaa hyvin innokkaasti tarjoamaan videoita Annunnakista ja pikkulapsia Vatikaanin kellarissa kiduttavista liskoihmisistä.

Tristan Harrisia lainatakseni meillä on paleoliittiset aivot, keskiaikaiset instituutiot ja jumalankaltainen teknologia. Meidän paleoliittiset aivomme eivät ymmärrä yksilöityjä syötteitä. Parikymmentä vuotta sitten me katsoimme samat uutiset ja luimme samat sanomalehdet. Nyt jokainen meistä muodostaa oman todellisuutemme meille algoritmien suositteleman informaation pohjalta. Ja nämä tarinat yhdistävät ja erottavat meitä. Enimmäkseen erottavat.

Demokratian tärkeimmät tukipylväät ovat olleet koulutuslaitos ja joukkotiedotusvälineet. Huomaa sana “joukko”. Jaettu todellisuus on ollut välttämätön keskustelun mahdollistamiseksi. Jos sitä ei ole, ei ole myöskään mahdollista käydä minkäänlaista järkevää ja kunnioittavaa keskustelua. Ja ilman sitä myöskään demokratia ei ole mahdollista.

Kirjoitan myöhemmin lisää huomiotalouden vaikutuksista mielenterveyteen sekä mahdollisista ratkaisuista.

Kapeasti määritellyt tavoitteet ja algoritmit

Kun alunperin kuulin Nick Boströmin paperiliitinmaksimoijasta, pidin sitä jossain määrin naurettavana. Eihän äärimmäisen älykäs tekoäly voisi olla noin rajoittunut. Ongelma on kuitenkin huomattavasti vaikeampi ja vivahteikkaampi kuin tuolloin ymmärsin, ja todennäköisesti useimmat ymmärtävät.

Boströmin paperiliitinvertauksessa superälykkäälle tekoälylle annetaan siis näennäisen harmiton tehtävä luoda paperiliittimiä. Minkä se luonnollisesti haluaa tehdä mahdollisimman hyvin. Koska sille ei ollut erikseen kerrottu, että ihmishengellä on mitään arvoa, se katsoo, että ihmisruumis koostuu atomeista, joista osa on täysin käyttökelpoista paperiliitinmateriaalia, ja sitä paitsi ihmiset elossa ollessaan haluavat käyttää muitakin paperiliittimiksi sopivia materiaaleja sen mielestä täysin turhiin asioihin, kuten vaikkapa ovenkahvoihin, elektroniikkaan tai kitarankieliin.

Eikä se lopeta ennen kuin kaikki paperiliittimiksi sopiva materiaali on muutettu paperiliittimiksi. Ja koska se on huomattavasti meitä älykkäämpi, meillä ei ole mitään keinoa pysäyttää sitä.

Ajattelin että eihän me määriteltäisi tavoitetta noin kapeasti. Eihän me nyt niin tyhmiä oltaisi.

Liian kapeasti määritellyt tavoitteet on oikeasti aika keskeinen ja huomattavan monimutkainen tekijä tässä ongelmavyyhdissä jonka äärellä ihmiskunta on, eikä se todellakaan rajoitu tekoälyyn tai algoritmeihin. Se on yksi keskeisimpiä historiaa ja maailman tilaa selittäviä tekijöitä.

Jos mietitään että ongelmana on vaikkapa huonosti käyvä polttomoottori. Se koputtaa. Ratkaisuksi ehdotetaan lyijyn lisäämistä polttoaineeseen. Se ratkaisee ongelman. Jos joku tämän ongelman parissa painivan yrityksen työntekijä tässä kohtaa lähtee miettimään, että onko tämä nyt varmasti turvallista ja mitähän laajempia seurauksia tällä saattaa olla, tämä yritys ei tule ratkaisemaan tuota ongelmaa ensimmäisenä, eikä välttämättä ikinä. On huomattavasti kannattavampaa tuoda pitkällä tähtäimellä katastrofaalinen mutta toimiva ratkaisu markkinoille ja antaa muiden kärsiä ulkoisvaikutuksista kuin käyttää yhtään resursseja turvallisuudesta varmistumiseen.

Ja tämä ei rajoitu millään lailla yrityksiin ja kapitalismiin. Tämä tarina on eri muodoissaan todella paljon vanhempi. Kautta aikojen on ollut sivilisaatioita jotka ovat eläneet rauhanomaisesti tasapainossa luonnon kanssa. Ja yleensä heidät on syrjäytetty, sellaisten toimesta jotka ovat määritelleet tavoitteensa huomattavasti kapeammin ja lyhytnäköisemmin.

Viisauden eri määritelmiin kuuluu yleensä hyvin olennaisena osana maltti. Kyky olla tekemättä jotain asiaa, joka olisi oman lyhyen tähtäimen edun mukaista, mutta jolla olisi pitkällä tähtäimellä kaikille huonot seuraukset.

Ne yhteiskunnat, joissa viisautta on ollut ja sitä on pidetty arvossa, eivät valitettavasti pääse enää osallistumaan keskusteluun meidän tavoitteistamme ja arvoistamme. Nykyinen yhteiskuntamme on parhaiten väkivaltaista yhteistyötä eli sotimista toteuttavan yhteiskunnan perillinen. Kapeasti määritellyt tavoitteet määrittävät kaikkea mitä teemme.

Niinpä yrityksen tehtävä on tuottaa voittoa omistajilleen. Facebook ja muut somet tekevät sen maksimoimalla käyttäjien huomion. Se, että siinä samalla hävitetään ihmisten keskittymiskyky, aiheutetaan valtava määrä mielenterveysongelmia, polarisoidaan kansalaiset ja tuhotaan luottamus instituutioihin ja sitä myötä poistetaan demokratian ja toimivan yhteiskunnan perusedellytykset on ulkoisvaikutus jota heidän ei kannata miettiä sen enempää. Jos Facebookin johto olisi jossain kohtaa pysähtynyt miettimään, että mitä laajempia seurauksia tällä olisi, niin Mark Zuckerberg olisi joitain satoja miljardeja dollareita köyhempi, Facebookia ei olisi, ja joku toinen firma olisi tehnyt jonkun vastaavan.

Suurin osa pörssikaupasta on algoritmien tekemää. Algoritmien, joilla on äärimmäisen kapeasti määritelty tavoite. Ja tekoälyn kehitys koskee kaikkia yhteiskunnan osa-alueita. Öljy-yhtiöt luonnollisesti käyttävät tekoälyä uusien öljyesiintymien etsimiseen ja vanhojen tehokkaampaan hyödyntämiseen. Kaivosyhtiöt käyttävät niitä malmiesiintymien etsimiseen. Propagandaa tuottavat tahot luonnollisesti käyttävät generatiivisia algoritmeja kuten GPT4, mahdollisesti yhdistettynä massadataan äärimmäisen tarkan kohdentamisen mahdollistamiseksi.

Jos tämä maailmanlaajuinen järjestelmä, hyperorganismi, moolokki, miksi sitä nyt haluaakaan kutsua, oli jo valmiiksi hyvää vauhtia matkalla kohti itsetuhoa, tekoäly sen palveluksessa ei tule ainakaan hidastamaan sitä. Ei ennen kuin tavoitteet on määritelty uudestaan. Ja se vaatii hyvin perustavanlaatuisia muutoksia sekä yksilöissä että rakenteissa.

Laajasti määriteltävät tavoitteet ovat vaikeita. Jos luettelemme 20 asiaa jotka ovat mielestämme arvokkaita, tekoäly voi hyvin uhrata sen 21:sen. Ei ole mitään keinoa eksplisiittisesti kertoa, mitkä kaikki asiat ovat arvokkaita. Tämä on ilmeisesti jotain, mikä on implisiittistä, ja minkä välittäminen toiselle on äärimmäisen vaikeaa.

Kokeillaanpa tällaista. Elämä, elonkehä, sen monimuotoisuus ja eri elämänmuodot ovat itseisarvoisen arvokkaita. Tämä kuulostaa hyvältä lähtökohdalta. Mutta entäpä malaria? Monet taudit ja loiset ovat välttämättömiä ekologisen tasapainon säilyttäjiä. Ne ovat myös todella ikäviä yksilöiden kannalta.

Entäpä vieraslajit? Ajatellaanpa, että yksi laji, vaikkapa rotat Uudessa-Seelannissa, aiheuttavat olemassaolollaan jatkuvasti muiden lajien sukupuuttoja, vieläpä sellaisten lajien joita ei kerta kaikkiaan ole missään muualla maailmassa. Tässä tilanteessa tämän yhden lajin hävittämisen pitäisi olla täysin perusteltua. Sitten voidaan korvata rotat eräällä Afrikasta karanneella karvattomalla apinalajilla ja miettiä miten pitkälle tämä argumentti oikeastaan halutaan viedä.

Näihin kysymyksiin ei ole olemassa mitään sellaista sääntöä, mikä voitaisiin kirjoittaa algoritmien ymmärtämälle kielelle. Jos on joku keino kirjoittaa aidosti viisas algoritmi, joka ymmärtää implisiittisesti elonkehän keskinäisriippuvuudet ja mikä on aidosti arvokasta, niin me emme tiedä sitä. Ja jos meidän omat arvomme ja tavoitteemme eivät ole yhteensopivia oman selviytymisemme kanssa, ei meidän luomamme tekoälynkään tavoitteet voi olla.