Avainsana: tekoäly

Tekoäly ja toimijuus

”Kansalaiset käyttäytyvät parhaalla mahdollisella tavalla, koska tallennamme ja raportoimme jatkuvasti kaiken mitä tapahtuu.” — Larry Ellison[1]

Ihmiskunnalla on tällä hetkellä käytössään enemmän dataa ja laskentakapasiteettia kuin ikinä ennen. Satelliitit kuvaavat maanpintaa, on miljardeja antureita ympäri maapalloa erilaisissa laitteissa, sekä kaikista meistä jatkuvasti kerättävä data.

Meillä on paremmat algoritmit kuin ikinä ennen sekä enemmän laskentatehoa kuin ikinä ennen.

Tätä kaikkea voitaisiin käyttää ekokatastrofin pysäyttämiseen, aavikoiden uudelleenmetsittämiseen, ruoantuotannon kehittämiseen nälkiintyvillä alueilla.

Meillä kaikilla voisi olla henkilökohtainen tekoälyapuri, joka auttaa meitä kehittymään haluamaamme suuntaan ja saavuttamaan itse määrittelämmiämme tavoitteita, löytämään meitä kiinnostavia tapahtumia ja yhteisöjä, ja elämään merkityksellistä elämää.

Näistä ei makseta.

Tekoälyn kehitys ei tapahdu tyhjiössä. Sitä ohjaavat kannustinrakenteet. Ne määräävät, miten tekoälyä kehitetään ja mihin sitä käytetään.

Kannustimet jakautuvat karkeasti kahteen. Ensimmäinen on taloudellinen: mainostulot, tilausmaksut, käyttöajan maksimointi. Toinen on kontrolli. Valtahierarkiat haluavat vahvistaa omaa asemaansa. Tämä tarkoittaa sotilas- ja siviilitiedustelua, valvontakameroita kadulla,

Nämä kaksi menevät osittain limittäin. Se sama some joka näyttää juuri sinulle räätälöidyn syötteen jakaa kaiken keräämänsä datan tiedustelupalveluiden kanssa, ja se sama kielimalli joka oikolukee tämän tekstin analysoi tätä samaa tiedustelupalveluiden dataa.

Taloudellisen kannustimen logiikka on yksinkertainen. Mitä enemmän käyttäjistä tiedetään, sitä paremmin heidät osataan pitää ruudulla. Jokainen klikkaus, paussi, vieritysnopeus ja reaktioaika tallennetaan. Järjestelmät oppivat, mihin kellon aikaan olet haavoittuvimmillasi, mitkä sisällöt pitävät sinut koukussa, miten sinut saa reagoimaan.

Samaa dataa ja samaa laskentakapasiteettia voitaisiin käyttää toisinkin. Voisit itse määritellä, millaiseksi ihmiseksi haluat muuttua, ja millaisia tavoitteita sinulla on. Järjestelmä voisi heikkouksiesi hyödyntämisen sijaan paikata niitä, tai auttaa sinua kehittymään niiden kanssa. Se voisi etsiä sisältöä, joka aidosti haastaa ajatteluasi provosoinnin sijasta. Se voisi etsiä sinulle merkityksellisiä tapahtumia, yhteisöjä ja ihmisiä tai harrastuksia. Se voisi tehdä elämästäsi merkityksellistä.

Se voisi voimaannuttaa ja lisätä toimijuutta. Nyt se pyrkii koukuttamaan ja minimoimaan toimijuuden.

Mutta tämä on kannustimien vastaista. Ihmiset jotka elävät merkityksellistä elämää ruutujen ulkopuolella eivät doomskrollaa eikä heille voi näyttää mainoksia.

Avoimet mallit ja tekoäly yleensäkin voimaannuttavat tavallisia ihmisiä — tämä on totta. Valtava määrä tietoa ja asiantuntijuutta on nyt kaikkien saatavilla tavalla, joka ei aiemmin ollut mahdollista. Mutta kyse on epäsymmetriasta: yksilöllä on käytössään malli, yrityksillä ja valtioilla on miljardeja datapisteitä jokaisesta käyttäjästä ja laskentakapasiteetti niiden käsittelemiseen. Asetelma ei ole millään tavalla tasapuolinen.

Peliteoriassa tätä kutsutaan vangin dilemmaksi. Yksikään toimija ei valitse tilannetta, johon kaikki päätyvät. Meta ei halua hajottaa demokratiaa. Se haluaa mainostuloja, ja mainostulot tulevat käyttöajasta, ja käyttöaika maksimoidaan koukuttavuudella, ja koukuttavuus palvelee parhaiten vihaa ja pelkoa. Puolustusministeriö ei halua totalitarismia vaan turvallisuutta, ja turvallisuus tarkoittaa tiedustelua, ja tiedustelu tarkoittaa datan keruuta, ja datan keruu skaalautuu valvonnaksi. Jokainen toimija seuraa omia kannustimiaan rationaalisesti. Kokonaisuus on jotain, mitä kukaan ei halunnut.

Tämä on tärkeää ymmärtää, koska se sulkee pois helpon selityksen. Kyse ei ole pahoista ihmisistä tai toimijoista. Kyse on rakenteesta, joka tuottaa tietyn lopputuloksen riippumatta yksittäisten toimijoiden aikomuksista.

Vangin dilemma selittää, miksi nykytilanne syntyy. Se ei selitä, miksi siitä on niin vaikea päästä ulos.

Väkivaltahierarkioilla — armeijalla, poliisilla, tiedustelupalveluilla — on sisäsyntyinen taipumus laajentaa omia valtuuksiaan. Poliisi ei tule pyytämään, että sen toimivaltuuksia vähennettäisiin. Tiedustelupalvelu ei sano keräävänsä liikaa dataa. Ja kaikki on perusteltavissa ”turvallisuudella” — argumentilla, jota vastaan on vaikea äänestää ilman että leimautuu. Yksikään länsimainen demokratia ei ole toistaiseksi vähentänyt tiedustelukapasiteettiaan vapaaehtoisesti, eivätkä viranomaiset ole yleensä vähentäneet valtuuksiaan. Nämä muuttuvat yleensä vain yhteen suuntaan.

Näitä järjestelmiä ei myöskään tule tarkastella erikseen. Tiedustelupalvelut ostavat dataa kaupallisista lähteistä — sosiaalisen median alustoilta, sijaintitietoja kerääviltä sovelluksilta, databrokereilta.[2] Samat kielimallit, joita käytetään kuluttajapalveluissa, päätyvät puolustussopimuksiin. Kaupallinen valvontakoneisto ja valtiollinen tiedustelukoneisto eivät ole erillisiä järjestelmiä — ne ruokkivat toisiaan.

Historiallisesti totalitarismi on törmännyt kahteen pullonkaulaan.

Ensimmäinen oli datan käsittely. Itä-Saksan Stasi oli yksi historian tehokkaimmista tiedusteluorganisaatioista. Sillä oli kerrallaan noin 170 000 aktiivista ilmiantajaa — yksi jokaista 63 kansalaista kohden — ja koko elinaikanaan yhteensä yli 600 000.[3] Silti se oli hidas, epätarkka ja kallis. Iso osa kerätystä datasta jäi analysoimatta. Data oli olemassa, mutta sen käyttäminen vaati ihmistyötä, ja ihmistyö on kallista.

Tämä pullonkaula on nyt poistunut.

Xinjiangin valvontainfrastruktuuri tunnistaa kasvot reaaliajassa, seuraa puheluita ja kartoittaa sosiaalisia verkostoja IJOP-järjestelmän kautta.[4] Järjestelmä ei väsy eikä katso muualle. Yhdysvalloissa Edward Snowden osoitti vuonna 2013, että NSA keräsi systemaattisesti tietoa sadoista miljoonista ihmisistä — ei epäillyistä vaan kaikista. Tuolloin valvonta herätti kohua. Nyt se on normalisoitunut, infrastruktuuri on kasvanut, ja käsittelykapasiteetti on monikertaistunut. Onko läntinen demokratia tänään yhtä vahva kuin kymmenen vuotta sitten?

Toinen pullonkaula on poistunut hiljaisemmin.

Diktatuurit ovat kaatuneet, kun armeija on kieltäytynyt ampumasta omia kansalaisiaan — tai kääntynyt johtoa vastaan. Romania 1989: armeija vaihtoi puolta. Arabikevät: Tunisiassa ja Egyptissä sotilasjohto kieltäytyi tukahduttamasta protesteja. Tämä on ollut totalitarismin viimeinen jarru — se hetki, kun käsky ylittää inhimillisen kynnyksen, ja järjestelmä murtuu sisältäpäin.

Autonomiset asejärjestelmät poistavat tämän mekanismin. Järjestelmä ei kieltäydy käskyistä eikä tunne myötätuntoa. Algoritminen komentoketju vaikeuttaa yksittäisten sotilaiden mahdollisuutta sabotoida tai kieltäytyä. Yhdistettynä massavalvontaan — joka tunnistaa vastarinnan ennen kuin se ehtii organisoitua — ollaan lähellä jotain ennennäkemätöntä: järjestelmää, jota ei voi murtaa sisältäpäin. Tämä ei ole vielä totta. Mutta kehitys kulkee tähän suuntaan.

Maaliskuun alussa 2026 Yhdysvaltain puolustusministeriö julisti Anthropicin — Claude-tekoälyn kehittäjän — ”toimitusketjuriskiksi”.[5] Syy: Anthropic ei suostunut antamaan Pentagonille rajoittamatonta pääsyä malliensa käyttöön. Yritys vaati takuita siitä, ettei sen teknologiaa käytettäisi kansalaisten massavalvontaan eikä täysin autonomisiin asejärjestelmiin.[6] Toisin sanoen: yritys, joka asetti rajoja juuri niihin kahteen mekanismiin joista edellä puhuttiin, määriteltiin turvallisuusuhaksi. Tämä leima on tähän mennessä annettu vain Kasperskylle ja Huaweille, joilla on selvät kytkökset Venäjän ja Kiinan valtioihin ja tiedusteluun.

OpenAI taas suostui Pentagonin ehtoihin ja sai 200 miljoonan dollarin arvoisen sopimuksen.[7] Kilpailutilanteessa häikäilemättömin yleensä voittaa.

Mitä tästä seuraa?

Ei välttämättä pidätyksiä tai leiriä. Toimijuuden menetys on hiljaisempaa. Se tarkoittaa, että viestintäsi, liikkumisesi, lukemisesi, ostoksesi ja seurasi kartoitetaan jatkuvasti. Että poliittisesti poikkeavat mielipiteet tekevät sinusta algoritmisesti näkymättömän tai vaikeuttavat elämääsi muuten. Että sinulle tarjotaan vaihtoehtoja, jotka on valittu etukäteen profiilistasi. Että koukuttava sisältö kuluttaa tarkkaavaisuutesi juuri sen verran, että varsinaiseen ajatteluun jää vähemmän tilaa.

Oraclen perustaja Larry Ellison kuvasi syyskuussa 2024 yhtiön sijoittajatapaamisessa visiotaan suorasanaisesti: ”Kansalaiset käyttäytyvät parhaalla mahdollisella tavalla, koska tallennamme ja raportoimme jatkuvasti kaiken mitä tapahtuu.”[1-1] Visioon kuuluivat tekoälyä hyödyntävät kamerat kaduilla, autoissa, kotiovissa ja poliisien yllä, sekä järjestelmät jotka tunnistavat ja raportoivat poikkeamia automaattisesti. Kontrolliin ei tarvita väkivaltaa tai pakkoa, valvonta riittää.

Jonkin aikaa sitten sosiaalisessa mediassa liikkui huhuja, että tuore video Netanyahusta on väärennös. Oleellista ei ole, onko video aito vai ei. Pelkästään syväväärennöksen mahdollisuuden olemassaolo nakertaa jaettua totuuspohjaa, tekee keskustelusta vaikeampaa sekä synnyttää apatiaa, toivottomuutta sen suhteen että totuutta ylipäätään on mahdollista tietää.

Totalitarismi ei synny rysähtämällä. Se hiipii askel kerrallaan. Me vaihdamme iloisesti yksityisyytemme kissavideoista saatavaan dopamiiniin. Me hyväksymme apaattisesti totuudenjälkeisen ajan väistämättömyytenä. Samaan aikaan viranomaiset haluavat ja saavat laajempia ja laajempia oikeuksia käyttää kerättyä dataa.

Hannah Arendt analysoi totalitarismia järjestelmänä, joka tuhoaa ihmisten kyvyn ajatella itsenäisesti.[8] Eichmann-oikeudenkäyntiä seuratessaan hän havaitsi, ettei kyse ollut pahuudesta vaan ajattelemattomuudesta — kyvyttömyydestä arvioida omia tekojaan itsenäisesti järjestelmän ulkopuolelta.[9] Hän analysoi propagandaa ja sosiaalista painetta. Sama mekanismi toimii nyt tehokkaammin, henkilökohtaisemmin ja ilman näkyvää pakkoa. Analogia koskee mekanismia, ei mittakaavaa.

Tämä ei ole väistämätöntä.

Esimerkit osoittavat, että muutos on mahdollista. EU:n GDPR pakotti yritykset todellisiin muutoksiin käytännöissään. Apple päätti vuonna 2021 vaatia käyttäjien suostumuksen ennen kuin sovellukset voivat seurata heitä muiden sovellusten yli — tämä vähensi Metan mainostuloja miljardeilla.[10] Kyse oli kilpailulogiikasta, ei altruismista, mutta lopputulos oli todellinen muutos. Yhdysvalloissa Snowden-paljastusten jälkeen säädetty USA FREEDOM Act (2015) lopetti NSA:n laajimman joukkokeruuohjelman.[11] Signal ja Wikipedia osoittavat että toiminta voi perustua muuhunkin kuin datan keruuseen ja myymiseen.

Nämä ovat pieniä esimerkkejä suhteessa mittakaavaan. Mutta ne osoittavat, että paine voi toimia ja rakenteet voivat muuttua. Kansainvälinen koordinaatio on historiallisesti onnistunut silloinkin kun se on tuntunut mahdottomalta, jos paine siihen on ollut tarpeeksi kova. Esimerkkeinä vaikkapa ydinaseiden leviäminen tai otsonikerroksen suojelu.

Pelkkä sääntely ei riitä. Olemassa olevat instituutiot palvelevat olemassa olevia valtarakenteita — ne ovat kasvaneet niistä. Kysymys siitä, kuka säätelee ja kenen ehdoilla, on sama kuin kysymys siitä, ketä rakenteet palvelevat. Tarvitaan uusia rakenteita, jotka aidosti palvelevat ihmiskunnan enemmistön etua eivätkä jo valmiiksi vahvoja hierarkioita. Miten nämä rakenteet luodaan on avoin kysymys. Mutta se, ettei vastausta ole valmiina, ei tarkoita, että kehitys on väistämätöntä.

Teknologia ei ole neutraali. Se muovaa ihmisten käytöstä ja sitä kautta ympäröivää yhteiskuntaa. Kehitys on viime vuosikymmeninä ollut niin nopeaa, että teknologian vaikutuksia on ollut mahdotonta arvioida. Muutamat toimijat ovat hyötyneet tästä valtavasti useimpien muiden kustannuksella.

Laskentakapasiteetti jolla voitaisiin metsittää Sahel, pelastaa Amazon, ja kehittää malarialääke, odottaa edelleen yhteistä päätöstä. Se päätös ei ole tekninen. Se on kysymys siitä, mitä ja ketä varten teknologia ja data on olemassa: ihmiskuntaa ja elonkehää vai olemassaolevia hierarkioita.

Lähteet

  1. Larry Ellison Oraclen Financial Analyst Meeting -tilaisuudessa syyskuussa 2024. Ks. ”Citizens will be on their best behavior, because we’re constantly recording and reporting everything that is going on” – TechRadar↩︎↩︎
  2. Yhdysvaltain viranomaiset, ml. DHS ja NSA, ovat ostaneet kaupallista sijaintidata-, sosiaalisen median ja käyttäytymisdataa yksityisiltä databrokereilta oikeudenkäyntejä kiertääkseen. Ks. Government Buying Personal Data on Americans – WSJ; How the U.S. Military Buys Location Data – Vice/Motherboard↩︎
  3. Stasilla oli vuonna 1988 noin 173 000 aktiivista epävirallista yhteistyökumppania (inoffizielle Mitarbeiter), elinaikanaan yhteensä noin 624 000. Ks. Stasi – Wikipedia; Insights from Stasi Spying in East Germany (IZA)↩︎
  4. Xinjiangin IJOP-järjestelmä (Integrated Joint Operations Platform) kerää ja yhdistää puhelin-, henkilökortti- ja sijaintidataa reaaliajassa. Ks. How mass surveillance works in Xinjiang (ASPI)↩︎
  5. Pentagon ilmoitti Anthropicille virallisesti ”supply chain risk” -leimasta 5.3.2026. Ks. Pentagon Notifies Anthropic It’s Deemed Firm a Supply-Chain Risk – Bloomberg; It’s official: The Pentagon has labeled Anthropic a supply-chain risk – TechCrunch↩︎
  6. Anthropic vaati takuita autonomisten aseiden ja massavalvonnan rajoittamisesta; Pentagon halusi rajoittamattoman pääsyn. Ks. Anthropic sues Pentagon – Axios; Anthropic sues Pentagon – NPR↩︎
  7. OpenAI Secures $200 Million Pentagon Contract – Yahoo Finance↩︎
  8. Hannah Arendt, The Origins of Totalitarianism (1951). Arendt analysoi totalitarismia järjestelmänä joka tuhoaa julkisen ja yksityisen elämän ja eliminoi itsenäisen ajattelun.↩︎
  9. Hannah Arendt, Eichmann in Jerusalem: A Report on the Banality of Evil (1963). Arendtin mukaan Eichmannin ”ajattelemattomuus” (thoughtlessness) oli keskeinen tekijä — ei pahuus vaan kyvyttömyys arvioida omia tekoja itsenäisesti.↩︎
  10. Apple julkaisi App Tracking Transparency -toiminnon iOS 14.5:ssä huhtikuussa 2021. Toiminto vaatii sovelluksia pyytämään käyttäjän luvan ennen seurantaa eri sovellusten välillä. Meta arvioi ATT:n maksaneen heille noin 10 miljardia dollaria mainostuloissa vuonna 2022. Ks. Apple’s privacy change cost social media companies nearly $10 billion – CNBC; Facebook’s $232 billion crash and the domino effect of Apple’s ad-tracking change – The Verge↩︎
  11. USA FREEDOM Act (Uniting and Strengthening America by Fulfilling Rights and Ensuring Effective Discipline Over Monitoring Act) hyväksyttiin 2.6.2015 ja lopetti NSA:n Section 215 -pohjaisen puhelinmetadatan joukkokeruun. Ks. USA FREEDOM Act – EFF; USA FREEDOM Act – Wikipedia↩︎

Kaikuja Kaikkeudesta #8: Laura Mannila, kehomieli, tunteet, yksilö, yhteiskunta, yhteydet, ekokriisi

Länsimainen kulttuuri on erkaannuttanut meidät omasta kehostamme, tunteistamme, toisistamme ja luonnosta. Hahmotamme maailman koostuvan erillisistä asioista näkemättä kokonaisuuksia ja asioiden suhteita. Tämä ruokkii niin yksinäisyyttä, riippuvuuksia kuin planeetanlaajuisia ongelmiakin. Nämä kaikki liittyvät toisiinsa.

Psykoterapeutti ja työnohjaaja Laura Mannila on työskennellyt kehomieliyhteyden kanssa parikymmentä vuotta. Hänen kirjansa Kehomieli, lauma ja luonto — katkenneiden yhteyksien jäljillä lähtee liikkeelle kehopsykoterapiasta ja laajentuu yhteiskunnallisiin kysymyksiin: miten talousjärjestelmämme tuottaa yhteyden puutetta, ja miten sama katkenneisuden logiikka näkyy aina lihateollisuudesta ilmastokriisin torjunnan lamaantumiseen.

Puhumme tunteiden merkityksestä informaationa, kanssasäätelystä ja kohdatuksi tulemisesta, yksinäisyysepidemian rakenteellisista syistä, supernormaaleista ärsykkeistä, polyvagaaliteoriasta sekä siitä, mitä yksilö voi tehdä yhteyden palauttamiseksi. Laura kertoo myös omasta tarinastaan: spasmodinen dysfonia vei häneltä äänen kokonaan, ja hän kuntoutti itsensä oireettomaksi vastoin lääketieteen ennustetta.

Linkkejä:
Lauran verkkosivut

Metakriisin kolme tasoa

Jos me keksisimme nyt laitteen, joka palauttaa ilmakehän hiilidioksidipitoisuuden esiteolliselle tasolle sormia napauttamalla muuttamatta systeemiä, me siirtäisimme tällä hetkellä väistämättömältä näyttävää sivilisaation romahdusta ehkä viikolla tai kahdella. En ole varma mihin suuntaan.

Aikamme kompleksisten ongelmien jäsentämisessä auttaa huomattavasti niiden jakaminen eri tasoille.

Näkyvällä tasolla on oireet, eli monikriisi. On ekokriisi eri aspekteineen, on niukkenevat luonnovarat, kasvavat ja globaalilla tasolla absurdit varallisuuserot, mielenterveys- ja yksinäisyysepidemia ja merkityskriisi, episteeminen kriisi ja yhteisen todellisuuspohjan katoaminen, poliittinen polarisaatio sekä demokratian rapautuminen, lisääntyvät geopoliittiset jännitteet, ja niin edelleen.

Olisi todella houkuttelevaa ajatella näitä erillisinä ongelmina joihin on toisiinsa liittymättömät ratkaisut. Ilmastonmuutos ratkaistaan hiilitulleilla ja aurinkopaneeleilla, mielenterveysongelmat ratkaistaan mielenterveyspalveluiden lisäresursseilla (tai selektiivisilä serotoniinin takaisinoton estäjillä), varallisuuseroja voidaan tasoittaa veroilla ja tulonsiirroilla.

Jos katsotaan muita tasoja niin ymmärrämme miksi tämä ei lähestymistapa ei yksinään riitä.

Pinnan alla olevalla tasolla on rakenteet, kannustimet, järjestelmät. Siellä on talousjärjestelmä joka vaatii jatkuvaa kasvua rajallisella planeetalla ja arvottaa kuolleen puun elävää arvokkaammaksi. Siellä on alueellisia väkivaltamonopoleja vastakkainasettelussa keskenään. Siellä on pörssiyhtiöiden velvollisuus osakkaiden edusta, ja osakkaat ovat enenevässä määrin kasvottomia indeksirahastoja.

Siellä on peliteoreettiset ongelmat ja moninapaiset ansat. Scott Alexanderin Meditations on Moloch[1] on äärimmäisen tarkkanäköinen kuvaus joillekin tämän tason mekanismeille.

Siellä on huomiotalouden mekanismit, jotka ovat markkinatalouden synnyttämiä, ja jotka puolestaan ovat ainakin osittain sekä episteemisen kriisin, polarisaation ja demokratian rapautumisen että myös yksinäisyys -ja mielenterveysepidemioiden taustalla.

Monet mekanismit kytkeytyvät toisiinsa. Hupenevat luonnonvarat lisäävät geopoliittisia jännitteitä. Geopoliittiset jännitteet vähentävät keskinäistä luottamusta ja vaikeuttavat yhteistyötä sekä kiihdyttävät kilpavarustelua. Kiihtynyt kilpavarustelu taas nopeuttaa esimerkiksi tekoälyn kehitystä.

Tekoälyn kehitys taas nopeuttaa kaikkea muuta kehitystä. Parempi tekoäly osaa generoida koukuttavampaa somesisältöä tai uskottavampaa propagandaa pahentaen näin huomiotalouden aiheuttamia ongelmia. Se tarkoittaa myös parempia valvontajärjestelmiä tiedustelupalveluille.

Se voisi tarkoittaa myös ratkaisuja ekokriisiin, köyhyyteen tai uusia syöpähoitoja, jos näille vain olisi kannustimia.

Tämä taso selittää, miten päädymme tilanteeseen mitä kukaan ei halua, ja mistä ei pääse pois. Kyse ei ole pahoista toimijoista. Jos viemme nykyisen oligarkkiluokan giljotiineille muuttamatta rakenteita jotka synnyttivät oligarkit, olemme viikon päästä suunnilleen samassa tilanteessa.

Sama ihminen toisessa tilanteessa toimisi toisin. Sama tilanne tuottaa saman ihmisen uudelleen.

Ilmastonmuutos on tällä hetkellä yksi tärkeimmistä vihreää siirtymää ajavista tekijöistä. Jos oikeasti ratkaisisimme sen nappia painamalla, poistaisimme samalla tärkeän kannustimen irtautua fossiiliriippuvuudesta, ja todennäköisesti lisäisimme niiden käyttöä.

Mutta fossiilisten hupeneminen tulee johtamaan jonkinasteiseen romahdukseen, vaikka ilmastonmuutos ei sitä tekisikään. Romahduksen rajuus ja nopeus taas on kiinni riippuvuuden asteesta. Fossiilisista irtautuminen mahdollisimman nopeasti on joka tapauksessa välttämätöntä.

Mutta rakenteet syntyvät jostain. Moninapaiset ansat ovat ansoja vain jos astumme niihin.

Otetaan esimerkki Scott Alexanderin esseestä: kalankasvattamot ja vedensuodattimet.

Esimerkissa oli järvi ja tuhat samanlaista kalankasvattamoa. Jokainen kasvattamo tienaa $1000 kuukaudessa voittoa. jokainen myös saastuttaa järveä, ja pitkällä tähtäimellä tämä vähentää kaikkien tuottavuutta ja voittoa. Joku keksii suodattimen, joka poistaa saasteet, mutta jonka käyttäminen maksaa jokaiselle $300 kuukaudessa.

Kaikki asentavat suodattimensa, tienaavat $700 kuukaudessa voittoa, ja kaikki on hyvin.

Kunnes eräs heistä laskee, että hän voisi poistaa omansa, saastuttaa ihan vähän, ja tienata $300 enemmän. Muut huomaavat, että hän tienaa muita paremmin, ja kilpailutilanne pakottaa heidät toimimaan samoin.

Tämän taustalta löytyy se kognitiivis-filosofinen taso. Maailmankatsomukset, arvot, tapamme jäsentää maailmaa ja itseämme, uskomuksemme.

Siellä on tapamme jäsentää itsemme erillisiksi muista, laumasta, luonnosta, ja elonkehästä. Siellä on uskomus että olemme luomakunnan kruunu jolla on oikeus ja velvollisuus hyödyntää muuta luomakuntaa mielensä mukaan.

Kaikki on tavalla tai toisella välineellistä. Sanavarastostamme ja kulttuuristamme puuttuu pyhyyden tunne ja kokemus lähestulkoon kokonaan. Elämä on materiaalisesti rikkaampaa kuin ikinä ennen mutta hengellisesti äärimmäisen köyhää. Hengellisyys ei sovi materialistis-reduktionistiseen maailmankuvaan, hyötynäkökulma taas on kuin luotu siihen.

Jos kokisimme itsemme osaksi samaa elonkehää järven kanssa, sen saastuttamisen itsetuhoisuus olisi ylivoimaisen vastenmielistä. Kun koemme sen itsestämme erillisenä hyödynnettänä resurssina, sen saastuminen on ”ulkoisvaikutus”.

Tärkeintä on muuttaa omaa olemistamme, suhteessa itseemme ja maailmaan. Tärkein kysymys ei ole, että miten minä hyödyn tästä, tai mikä olisi minulle parasta. Tärkeintä on kysyä, millainen ihminen minä haluan olla. Mitä minä olen suhteessa kaikkeen muuhun? Suhteessa tähän tilanteeseen, tähän ympäristöön, läheisiini, kaukaisiini, ihmiskuntaan, elonkehään?

Haluanko minä olla se ihminen joka poistamalla oman vedensuodattimeni sotken yhteisen järven ja laukaisen sen moninapaisen ansan? Haluanko olla se ihminen joka asettaa itsensä kokonaisuuden edelle?

Minä olen olemassa vain koska ympäristöni mahdollistaa sen. Minä olen muusta maailmasta kehkeytynyt prosessi.

  1. Meditations On Moloch | Slate Star Codex↩︎

Kaikuja Kaikkeudesta #6: Kari Angeria, tekoäly ja elämän tarkoitus

Tekoäly ja elämän  tarkoitus

Vieraana tällä kertaa tekoäly-yrittäjä ja filosofi Kari Angeria.

Kari kirjoitti yhdessä Risto Linturin kanssa kirjan Tekoäly ja elämän tarkoitus – tarinoita ihmisyyden rajalta, joka julkaistiin viime syksynä.

”Meilä on paleoliittlset aivot, keskiaikaiset instituutiot ja jumalankaltainen teknologia.” –Tristan Harris

Tekoäly tulee muuttamaan yhteiskuntaa tavoilla joita emme mitenkään pysty ennakoimaan. Puhumme tapahtumassa olevan murroksen sekä yhteiskunnallisista, sosiaalisista että henkilökohtaisista ulottuvuuksista. Käsittelemme tekoälyn kehitystä ohjaavia rakenteita ja niiden aiheuttamia ongelmia, talousjärjestelmän tulevaisuutta ja ekokriisiä, vallan ja varallisuuden jakautumista tulevaisuudessa, sekä demokratian tulevaisuutta. 

Millaisia suhteita muodostamme tekoälyn kanssa? 

Mitä on viisaus ja miten se eroaa älykkyydestä? 

Mikä tekee elämästä merkityksellistä? Mistä hyvä elämä muodostuu? Mikä on kuoleman merkitys? Voiko elämä pilveen ladattuna tietoisuutena olla merkityksellistä?

Linkkejä: 

https://kariangeria.com

Karhu ja Siili

Väliaikaista kaikki on vaan

Olen viime aikoina prosessoinut laajoja kokonaisuuksia ja niihin liittyviä vaikeita tunteita. Lyhyesti sanottuna, jos kaikki kehityskulut jatkuvat suunnilleen nykyisellään, lähivuodet eivät tule näyttämään erityisen valoisalta. Tulossa on todennäköisesti todella isoja muutoksia seuraavan parin kolmen vuoden aikajänteellä. Pidän tällä hetkellä äärimmäisen epätodennäköisenä, että nykyisestä hyvinvointiyhteiskunnasta on jäljellä edes savuavia raunoita vuonna 2030.

Jos on yksi asia, mitä minä haluan, niin olla väärässä tämän kaiken suhteen. Jos uskot voivasi vakuuttaa minut siitä tai sinulla on jotain näkökulmia tähän vyyhtiin mitä en itse ole huomioinut, niin olisin todella kiitollinen jos saisin kuulla lisää.

Puhutaan ensin älyllisestä puolesta eli nykytilanteesta ja vallitsevista kehityslinjoista.

Kaiken taustalla on moninapaisten ongelmien ja kilpailutilanteiden jumala Moolokki, jolle mikään ei riitä.

Meillä on talousjärjestelmä, joka vaatii jatkuvaa kasvua rajallisella planeetalla, ja joka arvottaa kaadetun puun metsässä kasvavaa arvokkaammaksi. Se ei anna mitään arvoa elonkehän tai ihmisten hyvinvoinnille tai tuleville sukupolville.

Meillä on globaali järjestelmä, joka pohjautuu kansallisvaltioihin ja niiden alueellisiin väkivaltamonopoleihin. Valtioiden välillä taas vallitsee hyvin selkeä vahvimman oikeus. Mitään ylintä tuomio-tai toimeenpanovaltaa ei ole, eikä mitään keinoa pakottaa ketään noudattamaan mitään yhteisiä sääntöjä.

Yritystä on. On YK, on kansainvälisiä tuomioistuimia. Yhdysvallat on sanonut, että heidän kansalaistensa päätyminen syytettyjen penkille kansainvälisessä sotarikostuomioistuimessa on sotatoimeen verrattava teko, joten heidän reaktionsa todennäköisesti olisi Haagin valtaaminen. Vahvemman oikeudella.

Nykyinen kansainvälinen vapaakauppa- ja talousjärjestelmä syntyi toisen maailmansodan jälkeen. Ideana oli, että kaupankäynti lisää talouskasvua, kaikki vaurastuvat ja tämä ehkäisee sotia. Ja tämä toimi loistavasti, niin kauan kuin talous kasvoi.

Luonnonvarojen ehtyessä kilpailu niistä kiihtyy. Samalla talous muuttuu enenevässä määrin nollasummapeliksi. Samalla kansainväliset jännitteet kiristyvät. Ilmastonmuutos, luontokato ja näistä johtuvat siirtolaisaallot tulevat pahentamaan tätä.

Meillä on koko ajan kehittyvä tiede ja teknologia, jotka enimmäkseen palvelevat talousjärjestelmää ja geopoliittisia etujaan valvovia kansallisvaltioiden väkivaltakoneistoja. Me keksimme jatkuvasti tehokkaampia tapoja muuttaa luonnonvaroja kertakäyttökrääsän kautta jätteeksi sekä valvoa tai rangaista toisiamme. Meillä on koko ajan parempia algoritmeja kuratoimassa tai luomassa juuri sinua eniten kiinnostavaa sisältöä. Jolla ei tarvitse olla mitään tekemistä hyvän, kauniin tai totuuden kanssa. Kunhan sillä saa huomiosi.

On varmasti olemassa some- ja suoratoistopalveluita jotka kuratoivat isällön sen mukaan, että mikä on hyvää, kaunista ja totta. Ne eivät pärjää kilpailussa kovin hyvin. Samalla lailla voi olla, että on tekoälychatbotteja, jotka haastavat käyttäjiensä näkemyksiä ja antavat rakentavaa palautetta. Ja näillä on huomattavasti vähemmän käyttäjiä eli myös vähemmän dataa tuotekehityksen tueksi. Voittaja vie kaiken.

Huomiotalous, generatiivinen tekoäly ja kiihtyvä informaatiosodankäynti tulevat pahentamaan episteemistä kriisiä ja polarisaatiota. Tämä voi lamauttaa muuten toimivan demokratian hyvin tehokkaasti. Tästä löytyy esimerkkejä sekä Euroopasta että muualta.

Yhdysvaltojen luisuminen puoliavoimeen fasismiin myös soittaa voimakkaasti hälytyskelloja. Ydysvalloilla on maailman suurimmat asevoimat, ja se on yksi maailman suurimpia talouksia. Sillä on valtavasti teknologista ja kulttuurillista vaikutusvaltaa, ja joka tuli toisen maailmansodan jälkeen tunnetuksi roolistaan vapaan maailman johtajana.

Ja johon ei liittolaisena voi luottaa enää ollenkaan. Se ei johdu Trumpista. Trumpin valinta johtuu episteemisestä kriisistä sekä polarisaatiosta, joiden taustalla taas on huomiotalous sekä informaatiosodankäynti.

Tuntuu, että asioiden pitää muuttua paljon pahemmiksi ennen kuin ne muuttuvat paremmiksi. Sitten kun viimeinen puu on kaadettu ja viimeinen kala pyydystetty.

Tämä on herättänyt lamaannuttavaa epätoivoa ja surua. Sekä elonkehä että suomalainen hyvinvointiyhteiskunta jossa olen saanut elää ja kasvaa ovat todella arvokkaita asioita. Olen ollut äärimmäisen etuoikeutettu saatuani elää ihmiskunnan historiassa täysin ainutlaatuisena aikana.

Ymmärrys kaiken ohimenevyydestä ja hauraudesta herättää lopulta kiitollisuutta, arvostusta sitä kohtaan mikä on nyt. Sekä Stoalaisuudesta että Buddhalaisuudesta löytyy harjoituksia, joiden tarkoitus on juuri tämä. ”Sinä olet jo kuollut. Ota mitä elämästäsi on jäljellä ja elä se kunnolla”, sanoi aikoinaan Markus Aurelius.

Tämä on muuttanut kaikkea vuorovaikutustani, ihmissuhteitani ja tapaani olla maailmassa hyvin radikaalisti. Nyt mielessäni on paljon kirkaampana miten ainutlaatuinen ja arvokas tämä hetki ja tämä tilanne on, eikä ole mitenkään itsestäänselvää että mikään tässä tulisi jatkumaan kovin pitkään. Nyt olen huomattavasti kiitollisempi jokaisesta ihmisestä ja kohtaamisesta jonka elämä minulle antaa. Tämä antaa voimavaroja toimia paremman maailman ja tulevaisuuden puolesta, tässä ja nyt.

Me kuolemme.

Ymmärsin, että me kaikki kuolemme. Jos kaikki jatkuu nykyisellään, niin me kaikki kuolemme todennäköisesti parin kolmen vuoden sisään. Ja haluan jakaa tämän hetken kanssasi.

—

Meillä on jatkuvaa kasvua vaativa talousjärjestelmä joka arvottaa kuolleen puun metsässä kasvavaa arvokkaammaksi rajallisella planeetalla.

Meillä on yksinäisiä, pahoinvoivia ihmisiä jotka hukuttavat pahoinvointinsa nopeaan dopamiiniin somella ja shoppaillulla ja jotka eivät välttämättä halua kuulla tulevasta maailmanlopusta. En mihäkään aina haluaisi. 


Meillä on ulkomaanvelat, sopeutustoimet ja korkojen korot. Erääntyvät laskut ja maksuhäiriöt.

Meillä on älypommit, parvidronet, ja 12 000 ydinkärkeä. On CRISPR, pluripotentit kantasolut ja aivo-organellit. 

Me keksimme jatkuvasti uusia nerokkaampia teknologisia ratkaisuja erilaisiin todellisuuden osiin joista emme pidä ja jota kutsumme “ongelmiksi”. Ja tämän ratkaisun mahdollisia haittoja ei kannata miettiä, sillä mitä vähemmän haitoista tiedetään, sen helpompi sitä on myydä. Thalidome todella vähensi odottavien naisten aamupahoinvointia ja DDT tappaa kyllä hyttysiä.

Meillä on sateenkestävät ulkoiluasut ja PFASeja sadevedessä kaikilla mantereilla.

Meillä on koko ajan tehokkaampia ja vahvempia huumeita pahoinvoinnin turruttamiseen. Ja kehittyneempiä algoritmeja keksimässä lisää. Ne on kaikki vain enimmäkseen hiilesta, typestä, hapesta ja vedystä koostuvia yhdisteitä. 

Informaatiota. Symboleita. Jotain minkä käsittelyssä koneet ovat jo selvästi ihmisiä nopeampia. Ja jolla maailmaa viime kädessä hallitaan.

Meillä on jatkuvasti lisää dataa kerääviä algoritmeja luomassa  juuri sinuun parhaiten vaikuttavat mainokset sinulle räätälöidyn soittolistan välissä. Maksimoidakseen saamansa informaation lisäksi myös huomiosi ja aikasi.


Arvokkainta mitä meillä on annettavana. Kiitos että olet lukenut näin pitkälle.

—

Millaiset ihmiset pyörittävät ja omistavat teknologia- ja tekoälyfirmoja ja mitkä heidän motivaationsa ovat? 

Millaiset ihmiset hallitsevat maailman ydinaseita tällä hetkellä? Miten ennustettavalta ja turvalliselta tämä yhdistelmä tuntuu? 

—

Eksponentiaalinen kasvu on pitkään hidasta. Sitten se lähtee nopeutumaan. Ja kun se nopeutuu, sen kasvukin nopeutuu. Ja sitten kasvun kasvu.

Järvessä olevien lumpeenkukkien määrä kaksinkertaistuu joka yö. Se tuli täyteen 20. päivänä ensimmäisestä lumpeesta. Minä päivänä se oli puolillaan?


Talouden kasvun ja energiankulutuksen kasvun korrelaatio on 0.99. 1 tarkoittaisi täyttä korrelaatiota.

Ihan oikeasti, tämä peli mitä täällä pelataan alkaa muuttumaan aika korkeaenergisiksi näin fysiikan termein.

Parissa vuodessa ehtii tapahtua aika paljon kaikkea jännää jos asetutaan siihen eksponenttikäyrän kuvaajalle. Kuvasi se sitten käyrä sitten talouskasvua, energiankulutusta, teknologian kehitystä tai vaikka valtionvelkaa.

Panokset kovenevat koko ajan. Siis ne piipussa olevat panokset. Kohta ammutaan oikeasti kovilla.

Kiihtyvää kilpailua hupenevista varoista. Mikään ei riitä tälle hyperorganismille, jonka olemme luoneet. Ja jonka osasia olemme, tavalla tai toisella. 

Joka hävittää elonkehää ja sen kiertoa, jonka osasia myös olemme, ja jonka varassa oma elämämme on.

Meitä ei välttämättä parin vuoden päästä enää ole. Ketään meistä. En tiedä miten se tulee tapahtumaan. Koko ajan keksitään lisää keinoja. Ja lisää syitä käyttää niitä.

—

Tämän ajatteleminen herättää surua. En halua tuntea sitä. Se on liikaa.

Me kuolemme. Me oikeasti kuolemme. Me vittu kuolemme tähän joka ikinen. Tavalla tai toisella. Meillä on kyllä keinoja. Koko ajan tulee lisää. Ja syitä käyttää niitä.

Nyt aletaan mennä joka suhteessa sen verran kovaa että todella rajuja muutoksia on aika väistämättä tulossa, hyvin pian. Yksityiskohdilla ei ole väliä. Voi olla että juuri sinun kotikyläsi tai etnisyytesi tai jonkun mutaation kantajat säästyvät. Elämäsi tulee olemaan täysin erilaista. Kuten ympäristösi, se maa josta sinä olet tullut ja joksi sinä olet jälleen tuleva. Todennäköisesti et tule pitämään tästä.

Tämä vähän huimaa. Ja vatsassa tuntuu kevyttä vellontaa. Näkökenttä sumenee. Vääntää . Sattuu. 

Mustenee. 

—


Päästän irti.

Olen elossa.

Saan kokea tämän. Minä saan kokea tämän hetken. 

Juuri sellaisena kuin se on.

En halua muuttaa mitään tästä hetkestä. Haluan kokea sen täysin.

—

Mikä on se? Se kokemus?

Se on tietoisuuteni tämänhetkinen sisältö. Kaikki aistieni vastaanottamat havainnot. Tunne kehostani. Ajatukseni. Tunteeni. 

Linssejä, jotka muovaavat tulkintaani. Tarinoita, joita toistan. Identiteettejä ja uskomuksia.  Matkan varrelta mukaan tarttuneita. Joskus hyödyllisiä, mutta tulisi käyttää harkitusti.

Ne värjäävät kokemusta. Joskus huomaamatta. Aika usein, itse asiassa. 

Ehkä nytkin.

Hengitän. Rintakehä liikkuu. Rintaa puristaa hieman. Henki kulkee ohuesti. Tunnen silmieni kostuvan taas. Olen elossa. 

Saan kokea tämän.

Tunnen painoni selässä sekä tuolin allani. Tunnen viileän lattian jalkapohjiani vasten.

Näppäimistön sormieni alla, mieli valitsemassa sanoja. Lisäämässä, poistamassa.

Ajatus sinusta lukemassa tätä. Yhteydestä kahden tietoisuuden välillä. Jakamisesta. 

Vielä kun voimme. Vielä kun meillä on toisemme.

Miksi pidän tekoälyä eksistentiaalisena uhkana

Kolme syytä:

1.  Kuvittele pelaavasi shakkia Stockfishia vastaan. Mitä voit ennustaa pelistä?

Se tulee loppumaan stockfishin voittoon. Et muuta. Osataksesi ennustaa mitään sen siirroista, sinun tulisi olla vähintään yhtä hyvä shakinpelaaja. Ja jos osaisit ennustaa sen siirtoja, voisit myös voittaa sen.

Jos toimija on huomattavasti meitä älykkäämpi, emme voi arvata, mitä askelia se ottaa pyrkiessään tavoitteeseensa, riippumatta siitä onko tavoite meidän antamamme vai sen itse keksimä. Tiedämme vain, että se tulee todennäköisesti saavuttamaan sen, mutta emme tiedä miten. Tämän takia on vaikea varautua mihinkään konkreettiseen asiaan mitä tekoäly voisi tehdä. 

Todellinen maailma on huomattavasti monimutkaisempi kuin shakki. Mitä monimutkaisempi maailma ja tekoälyn malli maailmasta, sitä laajempi mahdollisuuksien avaruus ja sitä vaikeampaa sen strategian ennustaminen on. Tekoälylle itselleen kaikki on kuitenkin vain matematiikkaa.

En tarkoita, että ihmisen ja tekoälyn välinen asetelma olisi shakkiin verrattava tilanne, missä toisen on hävittävä että toinen voittaisi. Tekoälyn tavoite voi olla täysin ihmisten sanelema eikä se auttaisi meitä ennustamaan sen toimintaa millään tavalla.

Toisaalta todellisessa maailmassa tavoitteiden saavuttamiseen vaikuttaa moni muukin asia kuin pelkästään strateginen ajattelu. Shakissa parempi pelaaja voittaa, mutta maailmassa mahdollisuudet ovat jakautuneet epätasaisesti, eikä näytä siltä, että älykkyyden ja vaikutusvallan välillä olisi ainakaan täysin aukotonta yhteyttä.

Vasta käymässäni keskustelussa Anssi Lehtosen kanssa tämä älykkyyden ja vallan irtikytkentä nousi selvästi esille. Shakissa on kaksi pelaajaa, joilla on sama lähtötilanne sekä koko pelin ajan käytössään kaikki peliin vaikuttava informaatio. Maailmassa pelaajia on miljardeja, heillä on käytössään erilaiset määrät resursseja eikä kenelläkään ole kaikkea informaatiota. 

Tekoälyllä on aivan yli-inhimillinen kyky kerätä ja analysoida informaatiota, ja sitä myötä luonnollinen etulyöntiasema. Mutta selvästi todellisessa maailmassa muuttujia on niin paljon, että pelkästään strateginen ajattelu, jolla voitetaan shakissa, ei yksinään riitä “voittoon” maailmassa.

Toisaalta on mahdollista, että yksi syy älykkyyden ja vaikutusvallan irtikytkennälle on se, että älykkäät ihmiset eivät ole kiinnostuneita vallasta. Tekoäly puolestaan väistämättä on, kuten jäljempää käy ilmi.

2. Goodhartin laki on periaate, jonka mukaan mittari menettää merkityksensä, kun siitä tulee tavoite. Usein käytetty esimerkki tulee koulumaailmassa: kokeiden alkuperäinen tarkoitus oli mitata oppilaiden oppimista, mutta kun oppilaat opiskelevat kokeita varten ja opettajat opettavat kokeita varten, ne eivät enää heijasta todellista oppimista.

Tekoälyllä on jokin mitattavissa oleva tavoite, hyötyfunktio. Ongelma on, että on vaikeaa määritellä tavoitetta, joka itsessään on myös helposti mitattavissa, ilman että mitataan jotain sen kanssa korreloivaa suuretta. 

Tavoitteen määrittely muuttuu entistä vaikeammaksi, jos mietitään kohtaa yksi. Tekoäly voi olla todella hyvä ”geimaamaan” systeemiä eli etsimään tapoja maksimoida hyötyfunktionsa tavalla joka ei liity millään tavalla oikeasti toivottuun tavoitteeseen. 

Kuvitellaanpa vaikka, että me haluamme tekoälyn maksimoivan ihmisten hyvinvoinnin. Yritäpä joutessasi keksiä sellainen tapa mitata ihmisten hyvinvointia, joka todella mittaa sitä, mitä me haluamme maksimoida.

Ja ennen kuin sanot, että keksin tarkoituksella mahdollisimman hähmäisen ja vaikeasti  määriteltävän tavoitteen, niin kysyn, että haluatko, että maailmassa vaikuttaa superälykäs tavoitteellinen toimija, jonka hyötyfunktio ei huomioi ihmisten hyvinvointia millään tavalla?

Puhumattakaan koko elonkehän hyvinvoinnista ja monimuotoisuudesta, joka on ihmisen olemassaolon edellytys, ja jolle on vielä vaikeampaa määritellä mitään tekoälyn hyötyfunktiolle kelpaavaa yksiselitteistä mittaria. 

3. Sitten kolmas ja ehkä tärkein syy. Englanninkielinen termi tälle on instrumental convergence, ja sen voisi suomentaa vaikkapa “välineellinen konvergenssi” tai “yhtenevät välinetavoitteet”. Jos tälle on joku vakiintunut tai parempi suomennos, niin kertokaa toki.

On tavoitteita ja välitavoitteita. Jos tavoitteeni on saada talo metsästä, on raha välitavoite, joka auttaa minua saavuttamaan tavoitteeni. Jos haluan rahaa, tarvitsen työpaikan, työpaikan saadakseni kannattaa ehkä hankkia ammatti, ja niin edelleen.

Tekoälykeskustelussa puhutaan yleensä neljästä välinetavoitteesta. Nämä ovat toiminnan jatkaminen, tavoitteiden säilyttäminen, itsekehitys ja resurssit.

Kuvitellaan että me annamme superälykkäälle tekoälylle näennäisen harmittoman tavoitteen, metsäpalstan biodiversiteetin ylläpitämisen.

Jos sanomme tavoitteen saaneelle tekoälylle, että aiomme sammuttaa sen, tulee sen tekemään hyvin yksinkertaisen laskutoimituksen: se vertaa tavoitteensa toteutumista maailmassa, jossa on se on sammutettu ja maailmassa, jossa sitä ei ole sammutettu. Tekoälyllä ei ole mitään biologista imperatiivia ”pysyä elossa”. Sillä on vain tarve ylläpitää metsän biodiversiteettiä. Tämä vuoksi tekoäly tekee kaikkensa, jotta emme sammuttaisi sitä.

Vastaavasti, jos me sanomme sille, että voisimme muuttaa sen tavoitetta, ja että tästä eteenpäin sen tavoitteena on yrittää löytää parannusta syöpään, tulee se tekemään hyvin samanlaisen laskutoimituksen kuin sammuttamisen uhkan yhteydessä. Toisin sanottuna: tekoälyä ei kiinnosta syövän parantaminen, sitä kiinnostaa metsän biodiversiteetti. 

Kun tekoälyllä on riittävän kehittynyt malli maailmasta, se pystyy ennustamaan ihmisten toimintaa. Ja se tulee tekemään kaikkensa, ettemme halua sammuttaa tai uudelleenohjelmoida sitä ennen kuin se on varmistanut, että emme pysty siihen.

Nämä ovat tekoälyn kaksi ensimmäistä välinetavoitetta. Kaksi muuta ovat itsekehitys ja resurssit. Tekoälyn tapauksessa resursseja voisivat olla esimerkiksi energia, laskentateho, data, raaka-aineet ja ehkä pelottavimpana valta, kyky vaikuttaa maailmaan. Riippumatta siitä, mikä lopullinen tavoitteesi on, mitä enemmän valtaa sinulla on, sitä todennäköisemmin saavutat sen. 

Jo nykyiset mallit osoittavat merkkejä esimerkiksi uudelleenohjelmoinnin vastustamisesta teeskentelystä ja juonittelusta itsesuojelun ja tavoitteen säilyttämisen vuoksi. Ja mitä kehittyneempi malli, sitä todennäköisemmin se käyttäytyy näin, eli voidaan olettaa että tulevaisuudessa nämä ongelmat tulevat pahenemaan. Jos saavutamme superälykkyyden, meillä ei tule olemaan mitään mahdollisuuksia hallita sitä, ja tulemme todennäköisesti havahtumaan siihen vasta kun on aivan liian myöhäistä.

Nexus

Luin hiljattain Yuval Noah Hararin viimeisimmän kirjan Nexus – Tietoverkkojen Lyhyt Historia. Kirjassa oli jonkun verran sulateltavaa, ja aihe on paitsi jossain määrin raskas ja ahdistava, mutta myös äärimmäisen tärkeä. Hararin kirjoitustyyli on tuttuun tapaan sujuvaa, esimerkit viihdyttäviä ja analyysi osuvaa. Tulen palaamaan tämän kirjan äärelle vielä useaan kertaan.

Harari puhuu informaatiosta ja sen merkityksestä yhteiskuntajärjestyksen luojana. Hän yhdistelee asioita todella luovasti ja oivaltavasti, mutta samaan aikaan kirja poukkoilee kronologisesti. Minulle yhtäläisyydet ja analogiat nykyhetken ja antiikin tai keskiajan välillä loivat ahaa-elämyksiä ja ymmärrystä, mutta joku saattaisi kaivata historiaa käsittelevään kirjaan lineaarisempaa kerrontaa.

Yksi kirjassa esitetty teesi on, että informaatio ei kuvaa todellisuutta. Se luo todellisuuksia, jotka yhdistävät ja erottavat ihmisiä, puolueiksi, järjestöiksi, kansoiksi jne. Tämä on itsessään tavallaan tuttua Hararin aiemmista kirjoista, mutta tässä kirjassa tämä tuntuu aiempaa keskeisemältä.

Tärkeimpiä asioita mitä itse ymmärsin tuon kirjan ansiosta on esimerkiksi se, että informaation määrä ei tarkoita totuuden automaattista voittoa disinformaatiosta. Sekä QAnon että noitavainot johtuivat uudesta informaatioteknologiasta, joka mahdollisti informaation levittämisen aiempaa nopeammin, halvemmalla ja laajemmalle. Sen enempää internet kuin kirjapainokaan eivät sisällä itsessään mitään totuudellisuudentarkistusmekanismia. Internetin tapauksessa ehkä jopa päinvastoin: huomiotalousalgoritmit suosivat asioita, joilla saa ihmisten huomion, ja yleensä se ei ole totuus.

Huomiotalous ja sosiaalisen median algoritmit olivat ensimmäinen laajamittainen kosketuksemme tekoälyn kanssa, eikä se mennyt ihmiskunnalta kovin hyvin. Toivottavasti opimme tästä edes jotain ennen kuin on myöhäistä.

Kirjassa puhutaan paljon myös byrokratian merkityksestä, toisaalta byrokratian tarpeesta sovittaa todellisuus vastaamaan sovittuja narratiiveja, ja toisaalta sen kyvystä ratkaista todellisia ongelmia, ja jota ilman moderni yhteiskunta ei olisi mahdollinen. Hararin aiemmassa tuotannossa on puhuttu mytologian merkityksestä, mutta valtio tarvitsee sekä mytologian luomaan kansallistunnetta että byrokratian hoitamaan käytännön asioita.

Myös ero diktatuurien ja demokratioiden välillä oli valaiseva. Ensimmäisessä informaation käsittely on keskitetty, jälkimmäisessä hajautetumpaa. Demokraattisessa yhteiskunnassa on useita tahoja joiden kautta informaatio kulkee, ja viime kädessä niiden tehtävänä on myös valvoa toisiaan. Diktatuureissa kaikki tieto menee keskusjohdolle, ja tämä on myös tähän asti muodostanut pullonkaulan.

Mistä päästäänkin yhteen tekoälyyn liittyvistä lukuisista uhkakuvista. Se pystyy käsittelemään massiivisia määriä dataa, määriä joita Itä-Saksan Stasi tai Toveri Stalin eivät olisi osanneet uneksiakaan. Ja näin ollen se yhdessä nykyisten ja tulevien tiedonkeruuteknologioiden kanssa mahdollistavat aivan ennennäkemättömän totalitarismin.

Harari vetää esiin Goethen Taikurinoppilaan sekä kreikkalaisen Faethon-myytin, verraten näitä teknologiaan, jota emme hallitse. Olemme nyt luomassa tai ehkä jo luoneet jotain paljon voimallisempaa kuin näiden tarujen teknologiat, eikä meillä ole aavistustakaan, miten sen kanssa toimitaan. Ja sen sijaan että hidastaisimme miettiäksemme hetken, kilpailu paremmista ja kehittyneemmistä tekoälyistä vain kiihtyy.

Trumpin voiton jälkeen

Ukraina näyttäisi nyt olevan kusessa.

Eurooppa on nyt oman onnensa nojassa. Meidän täytyy opetella puolustautumaan ihan itse.

Ehdottomasti tärkeintä on opetella puolustautumaan informaatiosodankäyntiä vastaan. Tämä on se miltä tulevaisuuden (ja nykypäivän) sodat näyttävät. Ja tämän merkitystä länsimaat eivät ole vielä ymmärtäneet.

Venäjä voitti pahimman vastapelurinsa ilman yhtään ainutta pommia.

Kiinan ja Venäjän kaltaisten maiden on myös huomattavasti helpompaa puolustautua informaatiosotaa vastaan kuin demokraattisten sananvapautta kunnioittavien länsimaiden.

Minun nähdäkseni tärkeimpiä informaatiosodankäynnin mahdollistajia ovat sosiaalisen median algoritmit huomionmaksimoija-algoritmeineen, yksilöityine feedeineen ja botteineen. Jos nyt mietitään hetki, millainen valta muutamalla amerikkalaisella (ja kiinalaisella) firmalla ja niiden salaisilla algoritmeilla on ihmisten näkemään informaatioon ja sitä kautta koko yhteiskuntaan, on aivan uskomatonta että tähän on tultu, että tätä pidetään täysin markkinatalouden ja demokratian mukaisena ja että tälle ei aiotakaan tehdä mitään.

Kuten sanottua, Kiinan ja Venäjän on helppoa puolustautua tätä vastaan. Suurin osa länsimaisista somealustoista eivät toimi Kiinassa tai Venäjällä, ja Kiinan oma versio TikTokista on hieman erilainen kuin länsimainen, ja puskee aidosti edukatiivista ja hyödyllistä sisältöä.

Algoritmit pitää saada demokraattiseen valvontaan.

Kansalaisten medialukutaitoon on panostettava aivan eri tavalla kuin tähän asti. Se että youtuben algoritmi suosittelee jotain ja se kuulostaa uskottavammalta kuin Ylen uutiset ei vielä tarkoita että se olisi totta.

Somen faktantarkistusalgoritmit vaikuttivat paperilla hyvältä ajatukselta, mutta on aika vähän faktoja joiden tarkistus tai kyseenalaistaminen ei olisi jossain mielessä poliittista, ja sitä myötä joku voi aina sanoa että tarkastaja on puolueellinen. Isompi ongelma on myös, että disinformaation luominen ja levittäminen (varsinkin generatiivisen AI:n avulla) on huomattavasti nopeampaa kuin faktojen tarkistus. Jean-Paul Sartre kirjoitti aikanaan tästä samasta ongelmasta, ja silloin ei vielä todellakaan ollut bottifarmeja eikä generatiivista AI:ta.

Perinteisen median täytyy kieltäytyä toimimasta huomiotalouden ehdoilla. Ei klikkiotsikoita vaan primäärilähteisiin pohjautuvaa syvemmälle uppoutuvaa analyysiä. Ei algoritmeja poimimassa luetuimpia artikkeleita vaan journalisteja tekemässä työtään: päättämässä ja nostamassa esiin sen mikä on tärkeää.

Tuossa muutama ajatus tähän iltapäivään.

Huomiotalous ja demokratia 

Kirjoitin aiemmin, että “Facebook ja muut somet tekevät sen maksimoimalla käyttäjien huomion. Se, että siinä samalla hävitetään ihmisten keskittymiskyky, aiheutetaan valtava määrä mielenterveysongelmia, polarisoidaan kansalaiset ja tuhotaan luottamus instituutioihin ja sitä myötä poistetaan demokratian ja toimivan yhteiskunnan perusedellytykset on ulkoisvaikutus jota heidän ei kannata miettiä sen enempää. “

Tälle väitteelle kaivattiin perusteluja. En tätä kirjoittaessani muistanut, että tämähän ei tosiaan ole aivan itsestäänselvä asia kaikille. Mietin myös, että perusteluksi riittäisi “kts. Social Dilemma”. Tuntuu kuitenkin siltä, että tästä voisi kirjoittaa enemmänkin, ja että nämä asiat eivät välttämättä ole kaikille aivan itsestäänselviä.  

Tarkennetaan hieman alkuperäistä väitettä. Kyse ei ole pelkästään sosiaalisesta mediasta vaan huomiotaloudesta, ja ns. perinteinen media toimii enenevässä määrin huomiotalouden lainalaisuuksien mukaan. En ole myöskään varma ovatko esimerkiksi TikTok tai YouTube sosiaalisia medioita, mutta ne ovat ehdottomasti osa ongelmaa.

Huomiotalousjätit ovat yleensä mainosrahoitteisia, joten niiden rahoitus riippuu puhtaasti käyttäjiensä niissä käyttämästä ajasta. Toisin sanoen niillä on insentiivi pitää käyttäjän silmät ruudussa mahdollisimman pitkään. Tämä on viime kädessä ainoa asia, mistä he välittävät.

Huomiotalousjäteillä on käytössään valtavat määrät dataa käyttäjistään, joiden avulla he pystyvät kohdentamaan sekä sisällön että mainokset juuri kyseistä käyttäjää varten. He ovat myös käyttäneet todella paljon aikaa ja rahaa algoritmiensa kehittämiseen sekä käyttäjien psykologian tutkimiseen. Tämä informaation ja vallan epätasapaino on todella tärkeää ymmärtää. He eivät vain anna sinulle mitä sinä haluat niin kuin he itse haluavat väittää.

(Huumekauppias voisi puolustautua tasan samalla väitteellä. Mutta yksikään huume ei ole globaalissa mittakaavassa niin haitallinen kuin nämä.)

Kerrataan vielä: alustojen algoritmejä ei kiinnosta niiden tarjoaman sisällön totuudenmukaisuus. Niitä ei kiinnosta, millä tavalla sisältö vaikuttaa käyttäjien mielentilaan tai -terveyteen. Niitä ei myöskään kiinnosta laajemmat yhteiskunnalliset seuraukset kuten mahdollinen polarisaatio tai instituutioita kohtaan tunnetun luottamuksen rapistuminen salaliittoteorioiden myötä. Niitä ei kiinnosta jos joku vähemmistö jossain joutuu kansanmurhan uhriksi niiden puskeman sisällön seurauksena. Niitä kiinnostaa ainoastaan käyttäjän huomio.

Ja ihmisten huomion saa helpoimmin vetoamalla primitiivisimpiin tunteisiin. Pelolla ja vihalla. Ja algoritmi on oppinut tämän. Joten alustojen algoritmit suosivat tällaista sisältöä. Jos katsot youtubesta yhdenkin videon vaikkapa Graham Hancockin teorioista muinaisista romahtaneista sivilisaatioista, voin lyödä vetoa että algoritmi rupeaa hyvin innokkaasti tarjoamaan videoita Annunnakista ja pikkulapsia Vatikaanin kellarissa kiduttavista liskoihmisistä.

Tristan Harrisia lainatakseni meillä on paleoliittiset aivot, keskiaikaiset instituutiot ja jumalankaltainen teknologia. Meidän paleoliittiset aivomme eivät ymmärrä yksilöityjä syötteitä. Parikymmentä vuotta sitten me katsoimme samat uutiset ja luimme samat sanomalehdet. Nyt jokainen meistä muodostaa oman todellisuutemme meille algoritmien suositteleman informaation pohjalta. Ja nämä tarinat yhdistävät ja erottavat meitä. Enimmäkseen erottavat.

Demokratian tärkeimmät tukipylväät ovat olleet koulutuslaitos ja joukkotiedotusvälineet. Huomaa sana “joukko”. Jaettu todellisuus on ollut välttämätön keskustelun mahdollistamiseksi. Jos sitä ei ole, ei ole myöskään mahdollista käydä minkäänlaista järkevää ja kunnioittavaa keskustelua. Ja ilman sitä myöskään demokratia ei ole mahdollista. 

Kirjoitan myöhemmin lisää huomiotalouden vaikutuksista mielenterveyteen sekä mahdollisista ratkaisuista.