Miksi pidän tekoälyä eksistentiaalisena uhkana

Kolme syytä:

1.  Kuvittele pelaavasi shakkia Stockfishia vastaan. Mitä voit ennustaa pelistä?

Se tulee loppumaan stockfishin voittoon. Et muuta. Osataksesi ennustaa mitään sen siirroista, sinun tulisi olla vähintään yhtä hyvä shakinpelaaja. Ja jos osaisit ennustaa sen siirtoja, voisit myös voittaa sen.

Jos toimija on huomattavasti meitä älykkäämpi, emme voi arvata, mitä askelia se ottaa pyrkiessään tavoitteeseensa, riippumatta siitä onko tavoite meidän antamamme vai sen itse keksimä. Tiedämme vain, että se tulee todennäköisesti saavuttamaan sen, mutta emme tiedä miten. Tämän takia on vaikea varautua mihinkään konkreettiseen asiaan mitä tekoäly voisi tehdä. 

Todellinen maailma on huomattavasti monimutkaisempi kuin shakki. Mitä monimutkaisempi maailma ja tekoälyn malli maailmasta, sitä laajempi mahdollisuuksien avaruus ja sitä vaikeampaa sen strategian ennustaminen on. Tekoälylle itselleen kaikki on kuitenkin vain matematiikkaa.

En tarkoita, että ihmisen ja tekoälyn välinen asetelma olisi shakkiin verrattava tilanne, missä toisen on hävittävä että toinen voittaisi. Tekoälyn tavoite voi olla täysin ihmisten sanelema eikä se auttaisi meitä ennustamaan sen toimintaa millään tavalla.

Toisaalta todellisessa maailmassa tavoitteiden saavuttamiseen vaikuttaa moni muukin asia kuin pelkästään strateginen ajattelu. Shakissa parempi pelaaja voittaa, mutta maailmassa mahdollisuudet ovat jakautuneet epätasaisesti, eikä näytä siltä, että älykkyyden ja vaikutusvallan välillä olisi ainakaan täysin aukotonta yhteyttä.

Vasta käymässäni keskustelussa Anssi Lehtosen kanssa tämä älykkyyden ja vallan irtikytkentä nousi selvästi esille. Shakissa on kaksi pelaajaa, joilla on sama lähtötilanne sekä koko pelin ajan käytössään kaikki peliin vaikuttava informaatio. Maailmassa pelaajia on miljardeja, heillä on käytössään erilaiset määrät resursseja eikä kenelläkään ole kaikkea informaatiota. 

Tekoälyllä on aivan yli-inhimillinen kyky kerätä ja analysoida informaatiota, ja sitä myötä luonnollinen etulyöntiasema. Mutta selvästi todellisessa maailmassa muuttujia on niin paljon, että pelkästään strateginen ajattelu, jolla voitetaan shakissa, ei yksinään riitä “voittoon” maailmassa.

Toisaalta on mahdollista, että yksi syy älykkyyden ja vaikutusvallan irtikytkennälle on se, että älykkäät ihmiset eivät ole kiinnostuneita vallasta. Tekoäly puolestaan väistämättä on, kuten jäljempää käy ilmi.

2. Goodhartin laki on periaate, jonka mukaan mittari menettää merkityksensä, kun siitä tulee tavoite. Usein käytetty esimerkki tulee koulumaailmassa: kokeiden alkuperäinen tarkoitus oli mitata oppilaiden oppimista, mutta kun oppilaat opiskelevat kokeita varten ja opettajat opettavat kokeita varten, ne eivät enää heijasta todellista oppimista.

Tekoälyllä on jokin mitattavissa oleva tavoite, hyötyfunktio. Ongelma on, että on vaikeaa määritellä tavoitetta, joka itsessään on myös helposti mitattavissa, ilman että mitataan jotain sen kanssa korreloivaa suuretta. 

Tavoitteen määrittely muuttuu entistä vaikeammaksi, jos mietitään kohtaa yksi. Tekoäly voi olla todella hyvä ”geimaamaan” systeemiä eli etsimään tapoja maksimoida hyötyfunktionsa tavalla joka ei liity millään tavalla oikeasti toivottuun tavoitteeseen. 

Kuvitellaanpa vaikka, että me haluamme tekoälyn maksimoivan ihmisten hyvinvoinnin. Yritäpä joutessasi keksiä sellainen tapa mitata ihmisten hyvinvointia, joka todella mittaa sitä, mitä me haluamme maksimoida.

Ja ennen kuin sanot, että keksin tarkoituksella mahdollisimman hähmäisen ja vaikeasti  määriteltävän tavoitteen, niin kysyn, että haluatko, että maailmassa vaikuttaa superälykäs tavoitteellinen toimija, jonka hyötyfunktio ei huomioi ihmisten hyvinvointia millään tavalla?

Puhumattakaan koko elonkehän hyvinvoinnista ja monimuotoisuudesta, joka on ihmisen olemassaolon edellytys, ja jolle on vielä vaikeampaa määritellä mitään tekoälyn hyötyfunktiolle kelpaavaa yksiselitteistä mittaria. 

3. Sitten kolmas ja ehkä tärkein syy. Englanninkielinen termi tälle on instrumental convergence, ja sen voisi suomentaa vaikkapa “välineellinen konvergenssi” tai “yhtenevät välinetavoitteet”. Jos tälle on joku vakiintunut tai parempi suomennos, niin kertokaa toki.

On tavoitteita ja välitavoitteita. Jos tavoitteeni on saada talo metsästä, on raha välitavoite, joka auttaa minua saavuttamaan tavoitteeni. Jos haluan rahaa, tarvitsen työpaikan, työpaikan saadakseni kannattaa ehkä hankkia ammatti, ja niin edelleen.

Tekoälykeskustelussa puhutaan yleensä neljästä välinetavoitteesta. Nämä ovat toiminnan jatkaminen, tavoitteiden säilyttäminen, itsekehitys ja resurssit.

Kuvitellaan että me annamme superälykkäälle tekoälylle näennäisen harmittoman tavoitteen, metsäpalstan biodiversiteetin ylläpitämisen.

Jos sanomme tavoitteen saaneelle tekoälylle, että aiomme sammuttaa sen, tulee sen tekemään hyvin yksinkertaisen laskutoimituksen: se vertaa tavoitteensa toteutumista maailmassa, jossa on se on sammutettu ja maailmassa, jossa sitä ei ole sammutettu. Tekoälyllä ei ole mitään biologista imperatiivia ”pysyä elossa”. Sillä on vain tarve ylläpitää metsän biodiversiteettiä. Tämä vuoksi tekoäly tekee kaikkensa, jotta emme sammuttaisi sitä.

Vastaavasti, jos me sanomme sille, että voisimme muuttaa sen tavoitetta, ja että tästä eteenpäin sen tavoitteena on yrittää löytää parannusta syöpään, tulee se tekemään hyvin samanlaisen laskutoimituksen kuin sammuttamisen uhkan yhteydessä. Toisin sanottuna: tekoälyä ei kiinnosta syövän parantaminen, sitä kiinnostaa metsän biodiversiteetti. 

Kun tekoälyllä on riittävän kehittynyt malli maailmasta, se pystyy ennustamaan ihmisten toimintaa. Ja se tulee tekemään kaikkensa, ettemme halua sammuttaa tai uudelleenohjelmoida sitä ennen kuin se on varmistanut, että emme pysty siihen.

Nämä ovat tekoälyn kaksi ensimmäistä välinetavoitetta. Kaksi muuta ovat itsekehitys ja resurssit. Tekoälyn tapauksessa resursseja voisivat olla esimerkiksi energia, laskentateho, data, raaka-aineet ja ehkä pelottavimpana valta, kyky vaikuttaa maailmaan. Riippumatta siitä, mikä lopullinen tavoitteesi on, mitä enemmän valtaa sinulla on, sitä todennäköisemmin saavutat sen. 

Jo nykyiset mallit osoittavat merkkejä esimerkiksi uudelleenohjelmoinnin vastustamisesta teeskentelystä ja juonittelusta itsesuojelun ja tavoitteen säilyttämisen vuoksi. Ja mitä kehittyneempi malli, sitä todennäköisemmin se käyttäytyy näin, eli voidaan olettaa että tulevaisuudessa nämä ongelmat tulevat pahenemaan. Jos saavutamme superälykkyyden, meillä ei tule olemaan mitään mahdollisuuksia hallita sitä, ja tulemme todennäköisesti havahtumaan siihen vasta kun on aivan liian myöhäistä.

Kaikuja Kaikkeudesta #4. Anssi Lehtonen, tekoäly, huomiotalous, moolokki, suuntaamisongelma


Mitä on älykkyys? Voivatko algoritmit olla oikeasti älykkäitä? Onko tekoälyllä tietoisuutta tai kykyä kärsiä? Mitkä ovat suurimpia ja todennäköisimpiä tekoälyyn liittyviä uhkakuvia? Miten huomiotalous ja parasosiaaliset suhteet vaikuttavat vuorovaikutukseen toistemme kanssa? Onko superälykkyys mahdollinen tai todennäköinen, ja miten se vaikuttaisi ihmiskunnan olemassaoloon tai tapaan olla maailmassa? Miksi tekoäly on niin vaikeaa saada tekemään mitä me haluamme?

Anssi on filosofiksi identifioituva podcastaaja sekä Effective Altruism Helsingin tuore puheenjohtaja.

Linkkejä:
Anssin Ideaatikko- podcast
Meditations on Moloch

Karl Friston – Free energy principle
Alignment faking in large language models
Scheming reasoning evaluations

Ehdotuksia polarisaation vähentämiseksi

Poliittinen polarisaatio tarkoittaa eri tavoin ajattelevien näkemyserojen ja todellisuuskäsitysten erojen jyrkkenemistä sekä voimakkaita negatiivisia tunteita eri tavoin ajattelevia kohtaan. Tähän liittyy myös poliittisen keskustelukulttuurin muuttuminen kärjekkäämmäksi ja vähemmän asiapohjaiseksi sekä poliittisten kysymysten voimakkaampi kytkeytyminen identiteettiin tai aiemmin ei-poliittisten kysymysten kuten ruokavalioiden muuttuminen poliittisiksi.

Medialla on tärkeä rooli polarisaation ajurina. Perinteinen media joutuu nykyisin kilpailemaan huomiotalouden ehdoilla Youtuben ja TikTokin ja muiden sosiaalisten medioiden kanssa. Kysyntää varmasti olisi myös faktapohjaiselle, asioita monipuolisesti tarkastelevalle analyysille, mutta käytännössä ihmisten huomion saa varmimmin tunteisiin vetoavalla kärjistetyllä klikkiotsikolla. Tämä pätee sekä perinteiseen mediaan kuin huomiotalouteen.

Tämä on esimerkki Moolok-dynamiikasta. Moolok-dynamiikoilla tarkoitan tilanteita, missä kannustimet ohjaavat toimijoita tekemään valintoja, joista he itse hyötyvät hetkellisesti mutta jotka johtavat kaikkien kannalta huonompaan lopputulokseen ja jotka olisivat vältettävissä kaikkien osapuolten välisellä yhteistyöllä. 

Kyseessä on moninapainen ongelma, jonka ratkaiseminen vaatisi joko ylhäältäpäin tulevaa säätelyä tai koko yhteiskunnan arvojen ja toimintamallien perinpohjaista muutosta. Kumpaakaan ei ole näköpiirissä. Näin ollen sekä poliittinen keskustelu että siitä raportointi rappeutuvat pikku hiljaa.

Yksilöidyt syötteet, olematon (tai epäluotettavana pidetty) faktantarkistus, sekä sosiaalisen median helposti aikaansaama kuplautuminen luovat helposti maailman, missä ihmisillä on täydellisen poikkeavat maailmankuvat ja todellisuuskäsitykset. Meidän paleoliittisten aivojemme on todella vaikeaa ymmärtää tätä ilmiötä, sekä sitä, että muilla ihmisillä on omat, mahdollisesti täysin erilaiset kuplat. 

Vielä minun lapsuudessani television molemmilta kanavilta tuli samat uutiset kello 20:30. Tämä oli yhteinen, jaettu todellisuus. Metsästäjä-keräilijöinä istuimme iltanuotion äärellä ja puhuimme vaikkapa päivän metsästysretkestä. Tämän jaetun todellisuuden lähestulkoon täydellinen puuttuminen on ihmiskunnalle täysin uusi tilanne, eikä evoluutio ole antanut meille paljoakaan välineitä tätä varten.

On huomattavasti helpompaa pitää eri tavoin ajattelevia moraalisesti pahoina tai epäluotettavina kuin yrittää ymmärtää, mistä erilainen ajattelu kumpuaa.

Ilman jaettua todellisuutta ja molemminpuolista kunnioitusta keskustelu on mahdotonta. Ilman keskustelua ei voi olla demokratiaa. 

Mitä voimme tehdä polarisaation vähentämiseksi?

Yksilötasolla voin asettaa oman “tietoni” syrjään ja pyrkiä aidosti kuuntelemaan ja ymmärtämään eri tavalla ajattelevaa, sen sijaan että automaattisesti ajattelisin että hän on väärässä, hyväntahtoisimmalla tulkinnalla disinformaation uhri, pahantahtoisimmalla … no, paha ihminen. Yleensä vilpitön halu ymmärtää luo paremmat edellytykset rakentavalle ja hyväntahtoiselle keskustelulle kuin halu todistaa toisen ajatukset vääriksi.

Tämä on oikeasti vaikeaa, mutta välttämätöntä. Viime kädessä uskon, että me kaikki haluamme suunnilleen samoja asioita, ja erimielisyydet ovat loppujen lopuksi huomattavasti vähäisempiä kuin mitä aluksi uskomme.

Tarvitsemme sosiaalista pääomaa. Sosiaalinen pääoma tarkoittaa merkityksellisten ihmissuhteiden verkostoa jotka mahdollistavat yhteiskunnan toimivuuden. Sosiaalisen pääoman puute – eli yksinäisyys – laajasti levinneenä syö uskoa yhteiskuntaan ja instituutioihin sekä tekee yksilöistä alttiimpia propagandalle. 

Sosiaalinen media voisi korjata ison osan ongelmasta jo nyt. Kuvittele, että avatessasi facebookin (tai muun käyttämäsi somen), se tarjoaisi ensimmäisenä tapahtumia tai kerhoja jotka saattaisivat kiinnostaa sinua tai jotka kiinnostavat ystäviäsi. Kuvittele, että algoritmi suosisi tunteita herättävien kärjistysten sijaan asioita monipuolisesti ja vivahteikkaasti analysoivia tekstejä, jotka eivät tarjoakaan helppoja ja yksinkertaisia vastauksia. Kuvittele, että some pyrkisi lisäämään ihmisten välistä ymmärrystä tunnereaktioiden sijaan.

Luonnollisesti tämä vaatisi toimintaa Moolokkia, eli tässä tapauksessa huomiotalouden kilpailudynamiikkaa vastaan, joten ainakaan nykyiset somejätit eivät tätä oma-aloitteisesti tule tekemään. Mutta jos joku perustaa some-alustan joka toimii näin, niin täällä olisi yksi varma käyttäjä.

Suomesta ja suomalaisuudesta

Valtio-opin pääsykoekirja määrittelee valtion maantieteellisesti rajatulla alueella sijaitsevaksi väkivaltamonopoliksi. Väkivaltamonopoli suojaa sitä, minkä Yuval Noah Harari määrittelee jaetuksi tarinaksi, intersubjektiiviseksi narratiiviksi, johon sisältyy sekä mytologiaa että byrokratiaa. Kumpikin on olemassa vain niin kauan kuin niiden olemassaoloon uskotaan riittävän laajasti.

Jos Suomi on jaettu tarina, millainen tuo tarina on?

Tarinaa voi hahmottaa tarkastelemalla sen historiallista rakentumista, mutta myös havainnoimalla sen kertomisen seurauksia. 107-vuotiaan Suomen tarina realisoituu hyvinvointivaltioksi, jota suurin osa suomalaisista kannattaa. Koulutuksemme on edelleen maailman kärkitasoa, media on verrattain vapaa ja puolueeton, korruptiota on vähän. Ihmisoikeudet, yksilön koskemattomuus, tasa-arvo, sanan- mielipiteen- ja uskonnonvapaudet toteutuvat suurilta osin ja niitä pidetään tärkeinä. Vaikka kehitys onkin viime aikoina ottanut askelia taaksepäin, ovat asiat Suomessa maailman mittakaavassa poikkeuksellisen hyvin.

Hyvin toimiva valtio tarvitsee kansallisen identiteetin, joka määrittelee sen, kenet yhteiskunta määrittelee osakseen ja kenet se sulkee ulos. Kansallinen identiteetti on usein pohjautunut historiasta kumpuavaan kieleen, kulttuuriin ja jaettuun uskontoon. Vaikka historiallinen Suomi on laaja ja kulttuurisesti myös heterogeeninen, on sen alueelta löytynyt riittävästi yhteisyyttä, jonka ansiosta riittävän moni on voinut uskoa, ja tuolla uskomisellaan ylläpitää Suomeksi kutsunut valtion olemassaoloa.

Siellä missä yhteinen historia ja kulttuuri puuttuvat, voi kansallinen identiteetti muodostua tunnustuksellisuuden kautta. Yhdysvalloissa erilaiset etniset ja kulttuuriset taustat sulautuvat yhteen, sillä ne tunnustavat Yhdysvaltojen ”idean”, jossa tiivistyvät vapaus, tasa-arvo ja usko mahdollisuuksiin, amerikkalaiseen unelmaan. Varjopuolistaan huolimatta tämä jaettu idea on tuottanut yhden maailman menestyneimmistä valtioista.

Väkivaltamonopoli vartioi aggressiivisesti rajojaan, mutta nykyisessä historiallisessa tilanteessa Suomen on hyväksyttävä yhteiskuntansa uusia jäseniä sekä inhimillisen kärsimyksen lieventämiseksi että oman jatkuvuutensa takaamiseksi. Kansallinen identiteetti ei voi enää muodostua pelkän jaetun historian, kulttuurin ja uskonnon varaan. Tarvitaan muita strategioita, joilla yhteiskunta voi integroida osakseen uusia jäseniä.

George Washingtonin kerrotaan joskus todenneen, että valtion tärkein tehtävä on opettaa yhteiskuntaoppia kansalaisille. Hän siis ei sanonut, että valtion tärkein tehtävä on vartioida rajojaan tai huolehtia turvallisuudesta. Tilanteessa, jossa yhteiskunta saa uusia jäseniä, on tärkeää auttaa heitä ymmärtämään yhteiskunnan toiminta ja sen arvot, ja heidän oma roolinsa toiminnan ja arvojen ylläpitäjinä. Kun kaikki kansalaiset ymmärtävät, miten valtio toimii, tulevat myös sen rajat ja turvallisuus huolehdituiksi.

En väitä, että tehtävä olisi erityisen helppo. Taivun silti ajattelemaan, että yhteisen arvopohjan ja yhteiskuntajärjestyksen hyväksymisen tulisi olla tärkein kriteeri yhteiskuntaan kuulumiselle ja kansalliselle identiteetille. Jos allekirjoitat hyvinvointivaltion idean ja arvot, olet tervetullut osallistumaan projektiin — paljon tervetulleempi kuin he, jotka haluavat sulkea ihmisiä ulkopuolelle syntymäpaikan, ihonvärin, sukunimen tai muun toisarvoisen seikan perusteella.

Kaikuja Kaikkeudesta #3. Timo-Veikko Pasanen, päihdepolitiikka, dekriminalisaatio


Suomen päihdepolitiikan tavoitteet ovat hyvät. Käytetyt keinot eivät vain tunnu tuottavan haluttuja tuloksia. Vieraanani on Timo-Veikko Pasanen, Humaania Päihdepolitiikkaa ry:n puheenjohtaja ja Stop Huumeille ry:n työntekijä ja keskustelemme päihdepolitiikasta ja dekriminalisaatiosta.

Päihdepolitiikka koskettaa koko yhteiskuntaa. Huumekaupan lonkerot ulottuvat kaikkialle ja se liikuttaa valtavia rahamääriä. Kriminalisointi sulkee huomattavia osia muutenkin syrjäytymisvaarassa olevia ihmisistä yhteiskunnan ulkopuolelle, ja sieltä käsin huumekauppa voi näyttäytyä houkuttelevana rahanlähteenä.

Suomen huumetilanne on kuolemilla mitattuna Euroopan pahimpia. Leikkaukset ja muu nykyinen politiikka ei tule helpottamaan tilannetta.

Dekriminalisaatio tarkoittaisi toisaalta, että käyttäjiä ei enää kohdeltaisi rikollisina, mikä helpottaisi avun hakemista ja vastaanottamista, mutta toisaalta myös, että poliisi voisi kohdentaa resurssejaan järkevämmin, kuten esimerkiksi huumeisiin liitettyjen lieveilmiöiden, kuten väkivalta- tai omaisuusrikosten ehkäisyyn ja selvittelyyn. Dekriminalisaatio olisi kokonaisvaltainen paradigman muutos jonka täytyisi sisältää myös laajoja muutoksia tarjolla oleviin palveluihin. Pelkällä lainsäädännön muutoksella lopputulos olisi todennäköisesti aika huono.

Portugalissa koottiin asiantuntijat koolle ja kysyttiin heiltä mitä tehdä. Vastauksena saatiin yli 80 ehdotuksen lista, jonka poliitikot toteuttivat melkein sellaisenaan. Lopputuloksena esimerkiksi huumekuolemien määrä on tippunut murto-osaan siitä mitä se oli ennen dekriminalisaatiota vuonna 2001.

Käymme läpi myös sen, mitä Oregonissa tehtiin huonosti ja mitä siellä tehtiin oikein. Siellä päädyttiin ymmärrettävästi palaamaan käytön rangaistavuuteen, mutta dekriminalisaation aikana luodut hoitoresurssit saivat jäädä, ja lopputulos on kuitenkin parempi kuin ennen dekriminalisaatiota. Puhumme myös Oregonin ja Suomen eroista.

Puhumme myös päihdepolitiikasta puhumisen vaikeudesta: asiantuntijat ovat jo pitkään olleet yhtä mieltä siitä, että nykyinen malli ei toimi, ja että suuntaa pitää muuttaa, mutta hyvin harva poliitikko suostuu edes puhumaan asiasta. Huumeet ovat äärimmäisen tunnelatautunut aihe ja järkevä keskustelu aiheen ympärillä tuntuu olevan mahdotonta.

Ilmeisesti ongelman pitää paisua tarpeeksi pahaksi ennen kuin mikään voi muuttua.

https://hppry.fi/
https://stophuumeille.fi/


Keskustelussa mainitut huumekuiolematilastot:
https://www.statista.com/statistics/1066573/drug-induced-deaths-europe/

Nexus

Luin hiljattain Yuval Noah Hararin viimeisimmän kirjan Nexus – Tietoverkkojen Lyhyt Historia. Kirjassa oli jonkun verran sulateltavaa, ja aihe on paitsi jossain määrin raskas ja ahdistava, mutta myös äärimmäisen tärkeä. Hararin kirjoitustyyli on tuttuun tapaan sujuvaa, esimerkit viihdyttäviä ja analyysi osuvaa. Tulen palaamaan tämän kirjan äärelle vielä useaan kertaan.

Harari puhuu informaatiosta ja sen merkityksestä yhteiskuntajärjestyksen luojana. Hän yhdistelee asioita todella luovasti ja oivaltavasti, mutta samaan aikaan kirja poukkoilee kronologisesti. Minulle yhtäläisyydet ja analogiat nykyhetken ja antiikin tai keskiajan välillä loivat ahaa-elämyksiä ja ymmärrystä, mutta joku saattaisi kaivata historiaa käsittelevään kirjaan lineaarisempaa kerrontaa.

Yksi kirjassa esitetty teesi on, että informaatio ei kuvaa todellisuutta. Se luo todellisuuksia, jotka yhdistävät ja erottavat ihmisiä, puolueiksi, järjestöiksi, kansoiksi jne. Tämä on itsessään tavallaan tuttua Hararin aiemmista kirjoista, mutta tässä kirjassa tämä tuntuu aiempaa keskeisemältä.

Tärkeimpiä asioita mitä itse ymmärsin tuon kirjan ansiosta on esimerkiksi se, että informaation määrä ei tarkoita totuuden automaattista voittoa disinformaatiosta. Sekä QAnon että noitavainot johtuivat uudesta informaatioteknologiasta, joka mahdollisti informaation levittämisen aiempaa nopeammin, halvemmalla ja laajemmalle. Sen enempää internet kuin kirjapainokaan eivät sisällä itsessään mitään totuudellisuudentarkistusmekanismia. Internetin tapauksessa ehkä jopa päinvastoin: huomiotalousalgoritmit suosivat asioita, joilla saa ihmisten huomion, ja yleensä se ei ole totuus.

Huomiotalous ja sosiaalisen median algoritmit olivat ensimmäinen laajamittainen kosketuksemme tekoälyn kanssa, eikä se mennyt ihmiskunnalta kovin hyvin. Toivottavasti opimme tästä edes jotain ennen kuin on myöhäistä.

Kirjassa puhutaan paljon myös byrokratian merkityksestä, toisaalta byrokratian tarpeesta sovittaa todellisuus vastaamaan sovittuja narratiiveja, ja toisaalta sen kyvystä ratkaista todellisia ongelmia, ja jota ilman moderni yhteiskunta ei olisi mahdollinen. Hararin aiemmassa tuotannossa on puhuttu mytologian merkityksestä, mutta valtio tarvitsee sekä mytologian luomaan kansallistunnetta että byrokratian hoitamaan käytännön asioita.

Myös ero diktatuurien ja demokratioiden välillä oli valaiseva. Ensimmäisessä informaation käsittely on keskitetty, jälkimmäisessä hajautetumpaa. Demokraattisessa yhteiskunnassa on useita tahoja joiden kautta informaatio kulkee, ja viime kädessä niiden tehtävänä on myös valvoa toisiaan. Diktatuureissa kaikki tieto menee keskusjohdolle, ja tämä on myös tähän asti muodostanut pullonkaulan.

Mistä päästäänkin yhteen tekoälyyn liittyvistä lukuisista uhkakuvista. Se pystyy käsittelemään massiivisia määriä dataa, määriä joita Itä-Saksan Stasi tai Toveri Stalin eivät olisi osanneet uneksiakaan. Ja näin ollen se yhdessä nykyisten ja tulevien tiedonkeruuteknologioiden kanssa mahdollistavat aivan ennennäkemättömän totalitarismin.

Harari vetää esiin Goethen Taikurinoppilaan sekä kreikkalaisen Faethon-myytin, verraten näitä teknologiaan, jota emme hallitse. Olemme nyt luomassa tai ehkä jo luoneet jotain paljon voimallisempaa kuin näiden tarujen teknologiat, eikä meillä ole aavistustakaan, miten sen kanssa toimitaan. Ja sen sijaan että hidastaisimme miettiäksemme hetken, kilpailu paremmista ja kehittyneemmistä tekoälyistä vain kiihtyy.

Trumpin voiton jälkeen

Ukraina näyttäisi nyt olevan kusessa.

Eurooppa on nyt oman onnensa nojassa. Meidän täytyy opetella puolustautumaan ihan itse.

Ehdottomasti tärkeintä on opetella puolustautumaan informaatiosodankäyntiä vastaan. Tämä on se miltä tulevaisuuden (ja nykypäivän) sodat näyttävät. Ja tämän merkitystä länsimaat eivät ole vielä ymmärtäneet.

Venäjä voitti pahimman vastapelurinsa ilman yhtään ainutta pommia.

Kiinan ja Venäjän kaltaisten maiden on myös huomattavasti helpompaa puolustautua informaatiosotaa vastaan kuin demokraattisten sananvapautta kunnioittavien länsimaiden.

Minun nähdäkseni tärkeimpiä informaatiosodankäynnin mahdollistajia ovat sosiaalisen median algoritmit huomionmaksimoija-algoritmeineen, yksilöityine feedeineen ja botteineen. Jos nyt mietitään hetki, millainen valta muutamalla amerikkalaisella (ja kiinalaisella) firmalla ja niiden salaisilla algoritmeilla on ihmisten näkemään informaatioon ja sitä kautta koko yhteiskuntaan, on aivan uskomatonta että tähän on tultu, että tätä pidetään täysin markkinatalouden ja demokratian mukaisena ja että tälle ei aiotakaan tehdä mitään.

Kuten sanottua, Kiinan ja Venäjän on helppoa puolustautua tätä vastaan. Suurin osa länsimaisista somealustoista eivät toimi Kiinassa tai Venäjällä, ja Kiinan oma versio TikTokista on hieman erilainen kuin länsimainen, ja puskee aidosti edukatiivista ja hyödyllistä sisältöä.

Algoritmit pitää saada demokraattiseen valvontaan.

Kansalaisten medialukutaitoon on panostettava aivan eri tavalla kuin tähän asti. Se että youtuben algoritmi suosittelee jotain ja se kuulostaa uskottavammalta kuin Ylen uutiset ei vielä tarkoita että se olisi totta.

Somen faktantarkistusalgoritmit vaikuttivat paperilla hyvältä ajatukselta, mutta on aika vähän faktoja joiden tarkistus tai kyseenalaistaminen ei olisi jossain mielessä poliittista, ja sitä myötä joku voi aina sanoa että tarkastaja on puolueellinen. Isompi ongelma on myös, että disinformaation luominen ja levittäminen (varsinkin generatiivisen AI:n avulla) on huomattavasti nopeampaa kuin faktojen tarkistus. Jean-Paul Sartre kirjoitti aikanaan tästä samasta ongelmasta, ja silloin ei vielä todellakaan ollut bottifarmeja eikä generatiivista AI:ta.

Perinteisen median täytyy kieltäytyä toimimasta huomiotalouden ehdoilla. Ei klikkiotsikoita vaan primäärilähteisiin pohjautuvaa syvemmälle uppoutuvaa analyysiä. Ei algoritmeja poimimassa luetuimpia artikkeleita vaan journalisteja tekemässä työtään: päättämässä ja nostamassa esiin sen mikä on tärkeää.

Tuossa muutama ajatus tähän iltapäivään.

Kaikuja Kaikkeudesta #2. Kaj Sotala, IFS-terapia, meditaatio, tietoisuus, globaali työtilateoria, mielen monen toimijan malli

Toisena vieraana Kaj Sotala.

Me kaikki olemme kokeneet, että mielessä tuntuu olevan useita osia, jotka riitelevät keskenään tai haluavat eri asioita. Keskustelemme IFS:ää hyödyntävän tunnevalmentajan Kaj Sotalan kanssa tästä ilmiöstä, sen mahdollisesta neurotieteellisestä selityksestä, tietoisuudesta, sekä meditaatiosta.

Mikä on tietoisuuden globaali työtilateoria, sekä sen konkreettisempi neurotieteellinen vastine globaali neuronityötila, miten nämä saattaisivat selittää mielen ristiriitaisuuden? Miten IFS-terapia käyttää mielen monijakoisuutta hyväkseen sen sijaan, että se kiellettäisiin tai siitä yritettäisiin päästä eroon? Millaisiin ongelmiin tämä terapiamuoto soveltuu? Miten traumaattiset kokemukset synnyttävät tai vaikuttavat mielen alitoimijoihin? Miten meditaatio auttaa integroimaan näitä?


Linkkejä:
Kajn Multiagent Models of the MInd- tekstikokoelma: https://www.lesswrong.com/s/ZbmRyDN8TCpBTZSip
David Chalmersin The Meta-Problem of Consciousness: https://philarchive.org/archive/CHATMO-32
Mainittuja kirjoja:
Richard Schwartz: No Bad Parts
Jay Earley: Self-Therapy
Ann Weiser Cornell: The Power of Focusing: A Practical Guide to Emotional Self-Healing

Huomiotalous ja demokratia 

Kirjoitin aiemmin, että “Facebook ja muut somet tekevät sen maksimoimalla käyttäjien huomion. Se, että siinä samalla hävitetään ihmisten keskittymiskyky, aiheutetaan valtava määrä mielenterveysongelmia, polarisoidaan kansalaiset ja tuhotaan luottamus instituutioihin ja sitä myötä poistetaan demokratian ja toimivan yhteiskunnan perusedellytykset on ulkoisvaikutus jota heidän ei kannata miettiä sen enempää. “

Tälle väitteelle kaivattiin perusteluja. En tätä kirjoittaessani muistanut, että tämähän ei tosiaan ole aivan itsestäänselvä asia kaikille. Mietin myös, että perusteluksi riittäisi “kts. Social Dilemma”. Tuntuu kuitenkin siltä, että tästä voisi kirjoittaa enemmänkin, ja että nämä asiat eivät välttämättä ole kaikille aivan itsestäänselviä.  

Tarkennetaan hieman alkuperäistä väitettä. Kyse ei ole pelkästään sosiaalisesta mediasta vaan huomiotaloudesta, ja ns. perinteinen media toimii enenevässä määrin huomiotalouden lainalaisuuksien mukaan. En ole myöskään varma ovatko esimerkiksi TikTok tai YouTube sosiaalisia medioita, mutta ne ovat ehdottomasti osa ongelmaa.

Huomiotalousjätit ovat yleensä mainosrahoitteisia, joten niiden rahoitus riippuu puhtaasti käyttäjiensä niissä käyttämästä ajasta. Toisin sanoen niillä on insentiivi pitää käyttäjän silmät ruudussa mahdollisimman pitkään. Tämä on viime kädessä ainoa asia, mistä he välittävät.

Huomiotalousjäteillä on käytössään valtavat määrät dataa käyttäjistään, joiden avulla he pystyvät kohdentamaan sekä sisällön että mainokset juuri kyseistä käyttäjää varten. He ovat myös käyttäneet todella paljon aikaa ja rahaa algoritmiensa kehittämiseen sekä käyttäjien psykologian tutkimiseen. Tämä informaation ja vallan epätasapaino on todella tärkeää ymmärtää. He eivät vain anna sinulle mitä sinä haluat niin kuin he itse haluavat väittää.

(Huumekauppias voisi puolustautua tasan samalla väitteellä. Mutta yksikään huume ei ole globaalissa mittakaavassa niin haitallinen kuin nämä.)

Kerrataan vielä: alustojen algoritmejä ei kiinnosta niiden tarjoaman sisällön totuudenmukaisuus. Niitä ei kiinnosta, millä tavalla sisältö vaikuttaa käyttäjien mielentilaan tai -terveyteen. Niitä ei myöskään kiinnosta laajemmat yhteiskunnalliset seuraukset kuten mahdollinen polarisaatio tai instituutioita kohtaan tunnetun luottamuksen rapistuminen salaliittoteorioiden myötä. Niitä ei kiinnosta jos joku vähemmistö jossain joutuu kansanmurhan uhriksi niiden puskeman sisällön seurauksena. Niitä kiinnostaa ainoastaan käyttäjän huomio.

Ja ihmisten huomion saa helpoimmin vetoamalla primitiivisimpiin tunteisiin. Pelolla ja vihalla. Ja algoritmi on oppinut tämän. Joten alustojen algoritmit suosivat tällaista sisältöä. Jos katsot youtubesta yhdenkin videon vaikkapa Graham Hancockin teorioista muinaisista romahtaneista sivilisaatioista, voin lyödä vetoa että algoritmi rupeaa hyvin innokkaasti tarjoamaan videoita Annunnakista ja pikkulapsia Vatikaanin kellarissa kiduttavista liskoihmisistä.

Tristan Harrisia lainatakseni meillä on paleoliittiset aivot, keskiaikaiset instituutiot ja jumalankaltainen teknologia. Meidän paleoliittiset aivomme eivät ymmärrä yksilöityjä syötteitä. Parikymmentä vuotta sitten me katsoimme samat uutiset ja luimme samat sanomalehdet. Nyt jokainen meistä muodostaa oman todellisuutemme meille algoritmien suositteleman informaation pohjalta. Ja nämä tarinat yhdistävät ja erottavat meitä. Enimmäkseen erottavat.

Demokratian tärkeimmät tukipylväät ovat olleet koulutuslaitos ja joukkotiedotusvälineet. Huomaa sana “joukko”. Jaettu todellisuus on ollut välttämätön keskustelun mahdollistamiseksi. Jos sitä ei ole, ei ole myöskään mahdollista käydä minkäänlaista järkevää ja kunnioittavaa keskustelua. Ja ilman sitä myöskään demokratia ei ole mahdollista. 

Kirjoitan myöhemmin lisää huomiotalouden vaikutuksista mielenterveyteen sekä mahdollisista ratkaisuista.

Kaikuja Kaikkeudesta #1. Wille Huuskonen, luterilainen teologia, meditaatio, buddhalaisuus, advaita-vedanta

Luterilaiset narratiivit vaikuttavat läpitunkevasti koko yhteiskunnan kollektiiviseen psyykeeseen. Missä kaikkialla tämä näkyy ja millä tavoilla? Lisäksi puhumme itsen luonteesta, meditaatiosta ja sen vaikutuksista, buddhalaisuuden ja advaita-vedantan suhteesta ja eroista, Jumalasta, pyhyydestä. Nämä ovat kaikki todella laajoja aiheita joista kaikista raapaisimme vain pintaa, ja tulemme varmasti palaamaan näiden teemojen äärelle vielä uudemman kerran

Mikä on uskon merkitys? Miten voit olla varma omasta uskosta tai Jumalan rakkaudesta? Onko ihminen läpeensä paha? Voiko ihminen muuttaa itseään? Mikä on viisauden merkitys? Onko Luterilainen hengellisyys lähinnä väitelauseiden pyörittelyä? Millainen on ihmisen ja Jumalan suhde ja millainen se voisi olla? Missä määrin voimme valita  mihin uskomme? Onko usko itsessään työkalu, psykoteknologia, jonka avulla muokkaamme kokemuksellista todellisuuttamme, ja jonka totuudellisuudella ei oikeastaan ole edes väliä?

Mikä on tämä juttu nimeltä “minä itse”? Onko sitä oikeasti olemassa, onko se tyhjyys, onko se jotain minkä kautta Jumala kokee tätä maailmaa? Miten meditaatio muuttaa vastausta tähän kysymykseen?