Tekoäly ja toimijuus

”Kansalaiset käyttäytyvät parhaalla mahdollisella tavalla, koska tallennamme ja raportoimme jatkuvasti kaiken mitä tapahtuu.” — Larry Ellison^[1]

Ihmiskunnalla on tällä hetkellä käytössään enemmän dataa ja laskentakapasiteettia kuin ikinä ennen. Satelliitit kuvaavat maanpintaa, on miljardeja antureita ympäri maapalloa erilaisissa laitteissa, sekä kaikista meistä jatkuvasti kerättävä data.

Meillä on paremmat algoritmit kuin ikinä ennen sekä enemmän laskentatehoa kuin ikinä ennen.

Tätä kaikkea voitaisiin käyttää ekokatastrofin pysäyttämiseen, aavikoiden uudelleenmetsittämiseen, ruoantuotannon kehittämiseen nälkiintyvillä alueilla.

Meillä kaikilla voisi olla henkilökohtainen tekoälyapuri, joka auttaa meitä kehittymään haluamaamme suuntaan ja saavuttamaan itse määrittelämmiämme tavoitteita, löytämään meitä kiinnostavia tapahtumia ja yhteisöjä, ja elämään merkityksellistä elämää.

Näistä ei makseta.

Tekoälyn kehitys ei tapahdu tyhjiössä. Sitä ohjaavat kannustinrakenteet. Ne määräävät, miten tekoälyä kehitetään ja mihin sitä käytetään.

Kannustimet jakautuvat karkeasti kahteen. Ensimmäinen on taloudellinen: mainostulot, tilausmaksut, käyttöajan maksimointi. Toinen on kontrolli. Valtahierarkiat haluavat vahvistaa omaa asemaansa. Tämä tarkoittaa sotilas- ja siviilitiedustelua, valvontakameroita kadulla,

Nämä kaksi menevät osittain limittäin. Se sama some joka näyttää juuri sinulle räätälöidyn syötteen jakaa kaiken keräämänsä datan tiedustelupalveluiden kanssa, ja se sama kielimalli joka oikolukee tämän tekstin analysoi tätä samaa tiedustelupalveluiden dataa.

Taloudellisen kannustimen logiikka on yksinkertainen. Mitä enemmän käyttäjistä tiedetään, sitä paremmin heidät osataan pitää ruudulla. Jokainen klikkaus, paussi, vieritysnopeus ja reaktioaika tallennetaan. Järjestelmät oppivat, mihin kellon aikaan olet haavoittuvimmillasi, mitkä sisällöt pitävät sinut koukussa, miten sinut saa reagoimaan.

Samaa dataa ja samaa laskentakapasiteettia voitaisiin käyttää toisinkin. Voisit itse määritellä, millaiseksi ihmiseksi haluat muuttua, ja millaisia tavoitteita sinulla on. Järjestelmä voisi heikkouksiesi hyödyntämisen sijaan paikata niitä, tai auttaa sinua kehittymään niiden kanssa. Se voisi etsiä sisältöä, joka aidosti haastaa ajatteluasi provosoinnin sijasta. Se voisi etsiä sinulle merkityksellisiä tapahtumia, yhteisöjä ja ihmisiä tai harrastuksia. Se voisi tehdä elämästäsi merkityksellistä.

Se voisi voimaannuttaa ja lisätä toimijuutta. Nyt se pyrkii koukuttamaan ja minimoimaan toimijuuden.

Mutta tämä on kannustimien vastaista. Ihmiset jotka elävät merkityksellistä elämää ruutujen ulkopuolella eivät doomskrollaa eikä heille voi näyttää mainoksia.

Avoimet mallit ja tekoäly yleensäkin voimaannuttavat tavallisia ihmisiä — tämä on totta. Valtava määrä tietoa ja asiantuntijuutta on nyt kaikkien saatavilla tavalla, joka ei aiemmin ollut mahdollista. Mutta kyse on epäsymmetriasta: yksilöllä on käytössään malli, yrityksillä ja valtioilla on miljardeja datapisteitä jokaisesta käyttäjästä ja laskentakapasiteetti niiden käsittelemiseen. Asetelma ei ole millään tavalla tasapuolinen.

---

Peliteoriassa tätä kutsutaan vangin dilemmaksi. Yksikään toimija ei valitse tilannetta, johon kaikki päätyvät. Meta ei halua hajottaa demokratiaa. Se haluaa mainostuloja, ja mainostulot tulevat käyttöajasta, ja käyttöaika maksimoidaan koukuttavuudella, ja koukuttavuus palvelee parhaiten vihaa ja pelkoa. Puolustusministeriö ei halua totalitarismia vaan turvallisuutta, ja turvallisuus tarkoittaa tiedustelua, ja tiedustelu tarkoittaa datan keruuta, ja datan keruu skaalautuu valvonnaksi. Jokainen toimija seuraa omia kannustimiaan rationaalisesti. Kokonaisuus on jotain, mitä kukaan ei halunnut.

Tämä on tärkeää ymmärtää, koska se sulkee pois helpon selityksen. Kyse ei ole pahoista ihmisistä tai toimijoista. Kyse on rakenteesta, joka tuottaa tietyn lopputuloksen riippumatta yksittäisten toimijoiden aikomuksista.

Vangin dilemma selittää, miksi nykytilanne syntyy. Se ei selitä, miksi siitä on niin vaikea päästä ulos.

Väkivaltahierarkioilla — armeijalla, poliisilla, tiedustelupalveluilla — on sisäsyntyinen taipumus laajentaa omia valtuuksiaan. Poliisi ei tule pyytämään, että sen toimivaltuuksia vähennettäisiin. Tiedustelupalvelu ei sano keräävänsä liikaa dataa. Ja kaikki on perusteltavissa ”turvallisuudella” — argumentilla, jota vastaan on vaikea äänestää ilman että leimautuu. Yksikään länsimainen demokratia ei ole toistaiseksi vähentänyt tiedustelukapasiteettiaan vapaaehtoisesti, eivätkä viranomaiset ole yleensä vähentäneet valtuuksiaan. Nämä muuttuvat yleensä vain yhteen suuntaan.

Näitä järjestelmiä ei myöskään tule tarkastella erikseen. Tiedustelupalvelut ostavat dataa kaupallisista lähteistä — sosiaalisen median alustoilta, sijaintitietoja kerääviltä sovelluksilta, databrokereilta.^[2] Samat kielimallit, joita käytetään kuluttajapalveluissa, päätyvät puolustussopimuksiin. Kaupallinen valvontakoneisto ja valtiollinen tiedustelukoneisto eivät ole erillisiä järjestelmiä — ne ruokkivat toisiaan.

---

Historiallisesti totalitarismi on törmännyt kahteen pullonkaulaan.

Ensimmäinen oli datan käsittely. Itä-Saksan Stasi oli yksi historian tehokkaimmista tiedusteluorganisaatioista. Sillä oli kerrallaan noin 170 000 aktiivista ilmiantajaa — yksi jokaista 63 kansalaista kohden — ja koko elinaikanaan yhteensä yli 600 000.^[3] Silti se oli hidas, epätarkka ja kallis. Iso osa kerätystä datasta jäi analysoimatta. Data oli olemassa, mutta sen käyttäminen vaati ihmistyötä, ja ihmistyö on kallista.

Tämä pullonkaula on nyt poistunut.

Xinjiangin valvontainfrastruktuuri tunnistaa kasvot reaaliajassa, seuraa puheluita ja kartoittaa sosiaalisia verkostoja IJOP-järjestelmän kautta.^[4] Järjestelmä ei väsy eikä katso muualle. Yhdysvalloissa Edward Snowden osoitti vuonna 2013, että NSA keräsi systemaattisesti tietoa sadoista miljoonista ihmisistä — ei epäillyistä vaan kaikista. Tuolloin valvonta herätti kohua. Nyt se on normalisoitunut, infrastruktuuri on kasvanut, ja käsittelykapasiteetti on monikertaistunut. Onko läntinen demokratia tänään yhtä vahva kuin kymmenen vuotta sitten?

Toinen pullonkaula on poistunut hiljaisemmin.

Diktatuurit ovat kaatuneet, kun armeija on kieltäytynyt ampumasta omia kansalaisiaan — tai kääntynyt johtoa vastaan. Romania 1989: armeija vaihtoi puolta. Arabikevät: Tunisiassa ja Egyptissä sotilasjohto kieltäytyi tukahduttamasta protesteja. Tämä on ollut totalitarismin viimeinen jarru — se hetki, kun käsky ylittää inhimillisen kynnyksen, ja järjestelmä murtuu sisältäpäin.

Autonomiset asejärjestelmät poistavat tämän mekanismin. Järjestelmä ei kieltäydy käskyistä eikä tunne myötätuntoa. Algoritminen komentoketju vaikeuttaa yksittäisten sotilaiden mahdollisuutta sabotoida tai kieltäytyä. Yhdistettynä massavalvontaan — joka tunnistaa vastarinnan ennen kuin se ehtii organisoitua — ollaan lähellä jotain ennennäkemätöntä: järjestelmää, jota ei voi murtaa sisältäpäin. Tämä ei ole vielä totta. Mutta kehitys kulkee tähän suuntaan.

---

Maaliskuun alussa 2026 Yhdysvaltain puolustusministeriö julisti Anthropicin — Claude-tekoälyn kehittäjän — ”toimitusketjuriskiksi”.^[5] Syy: Anthropic ei suostunut antamaan Pentagonille rajoittamatonta pääsyä malliensa käyttöön. Yritys vaati takuita siitä, ettei sen teknologiaa käytettäisi kansalaisten massavalvontaan eikä täysin autonomisiin asejärjestelmiin.^[6] Toisin sanoen: yritys, joka asetti rajoja juuri niihin kahteen mekanismiin joista edellä puhuttiin, määriteltiin turvallisuusuhaksi. Tämä leima on tähän mennessä annettu vain Kasperskylle ja Huaweille, joilla on selvät kytkökset Venäjän ja Kiinan valtioihin ja tiedusteluun.

OpenAI taas suostui Pentagonin ehtoihin ja sai 200 miljoonan dollarin arvoisen sopimuksen.^[7] Kilpailutilanteessa häikäilemättömin yleensä voittaa.

---

Mitä tästä seuraa?

Ei välttämättä pidätyksiä tai leiriä. Toimijuuden menetys on hiljaisempaa. Se tarkoittaa, että viestintäsi, liikkumisesi, lukemisesi, ostoksesi ja seurasi kartoitetaan jatkuvasti. Että poliittisesti poikkeavat mielipiteet tekevät sinusta algoritmisesti näkymättömän tai vaikeuttavat elämääsi muuten. Että sinulle tarjotaan vaihtoehtoja, jotka on valittu etukäteen profiilistasi. Että koukuttava sisältö kuluttaa tarkkaavaisuutesi juuri sen verran, että varsinaiseen ajatteluun jää vähemmän tilaa.

Oraclen perustaja Larry Ellison kuvasi syyskuussa 2024 yhtiön sijoittajatapaamisessa visiotaan suorasanaisesti: ”Kansalaiset käyttäytyvät parhaalla mahdollisella tavalla, koska tallennamme ja raportoimme jatkuvasti kaiken mitä tapahtuu.”^[1-1] Visioon kuuluivat tekoälyä hyödyntävät kamerat kaduilla, autoissa, kotiovissa ja poliisien yllä, sekä järjestelmät jotka tunnistavat ja raportoivat poikkeamia automaattisesti. Kontrolliin ei tarvita väkivaltaa tai pakkoa, valvonta riittää.

Jonkin aikaa sitten sosiaalisessa mediassa liikkui huhuja, että tuore video Netanyahusta on väärennös. Oleellista ei ole, onko video aito vai ei. Pelkästään syväväärennöksen mahdollisuuden olemassaolo nakertaa jaettua totuuspohjaa, tekee keskustelusta vaikeampaa sekä synnyttää apatiaa, toivottomuutta sen suhteen että totuutta ylipäätään on mahdollista tietää.

Totalitarismi ei synny rysähtämällä. Se hiipii askel kerrallaan. Me vaihdamme iloisesti yksityisyytemme kissavideoista saatavaan dopamiiniin. Me hyväksymme apaattisesti totuudenjälkeisen ajan väistämättömyytenä. Samaan aikaan viranomaiset haluavat ja saavat laajempia ja laajempia oikeuksia käyttää kerättyä dataa.

Hannah Arendt analysoi totalitarismia järjestelmänä, joka tuhoaa ihmisten kyvyn ajatella itsenäisesti.^[8] Eichmann-oikeudenkäyntiä seuratessaan hän havaitsi, ettei kyse ollut pahuudesta vaan ajattelemattomuudesta — kyvyttömyydestä arvioida omia tekojaan itsenäisesti järjestelmän ulkopuolelta.^[9] Hän analysoi propagandaa ja sosiaalista painetta. Sama mekanismi toimii nyt tehokkaammin, henkilökohtaisemmin ja ilman näkyvää pakkoa. Analogia koskee mekanismia, ei mittakaavaa.

---

Tämä ei ole väistämätöntä.

Esimerkit osoittavat, että muutos on mahdollista. EU:n GDPR pakotti yritykset todellisiin muutoksiin käytännöissään. Apple päätti vuonna 2021 vaatia käyttäjien suostumuksen ennen kuin sovellukset voivat seurata heitä muiden sovellusten yli — tämä vähensi Metan mainostuloja miljardeilla.^[10] Kyse oli kilpailulogiikasta, ei altruismista, mutta lopputulos oli todellinen muutos. Yhdysvalloissa Snowden-paljastusten jälkeen säädetty USA FREEDOM Act (2015) lopetti NSA:n laajimman joukkokeruuohjelman.^[11] Signal ja Wikipedia osoittavat että toiminta voi perustua muuhunkin kuin datan keruuseen ja myymiseen.

Nämä ovat pieniä esimerkkejä suhteessa mittakaavaan. Mutta ne osoittavat, että paine voi toimia ja rakenteet voivat muuttua. Kansainvälinen koordinaatio on historiallisesti onnistunut silloinkin kun se on tuntunut mahdottomalta, jos paine siihen on ollut tarpeeksi kova. Esimerkkeinä vaikkapa ydinaseiden leviäminen tai otsonikerroksen suojelu.

Pelkkä sääntely ei riitä. Olemassa olevat instituutiot palvelevat olemassa olevia valtarakenteita — ne ovat kasvaneet niistä. Kysymys siitä, kuka säätelee ja kenen ehdoilla, on sama kuin kysymys siitä, ketä rakenteet palvelevat. Tarvitaan uusia rakenteita, jotka aidosti palvelevat ihmiskunnan enemmistön etua eivätkä jo valmiiksi vahvoja hierarkioita. Miten nämä rakenteet luodaan on avoin kysymys. Mutta se, ettei vastausta ole valmiina, ei tarkoita, että kehitys on väistämätöntä.

---

Teknologia ei ole neutraali. Se muovaa ihmisten käytöstä ja sitä kautta ympäröivää yhteiskuntaa. Kehitys on viime vuosikymmeninä ollut niin nopeaa, että teknologian vaikutuksia on ollut mahdotonta arvioida. Muutamat toimijat ovat hyötyneet tästä valtavasti useimpien muiden kustannuksella.

Laskentakapasiteetti jolla voitaisiin metsittää Sahel, pelastaa Amazon, ja kehittää malarialääke, odottaa edelleen yhteistä päätöstä. Se päätös ei ole tekninen. Se on kysymys siitä, mitä ja ketä varten teknologia ja data on olemassa: ihmiskuntaa ja elonkehää vai olemassaolevia hierarkioita.

---

Lähteet

---

1. Larry Ellison Oraclen Financial Analyst Meeting -tilaisuudessa syyskuussa 2024. Ks. ”Citizens will be on their best behavior, because we’re constantly recording and reporting everything that is going on” – TechRadar↩︎↩︎
2. Yhdysvaltain viranomaiset, ml. DHS ja NSA, ovat ostaneet kaupallista sijaintidata-, sosiaalisen median ja käyttäytymisdataa yksityisiltä databrokereilta oikeudenkäyntejä kiertääkseen. Ks. Government Buying Personal Data on Americans – WSJ; How the U.S. Military Buys Location Data – Vice/Motherboard↩︎
3. Stasilla oli vuonna 1988 noin 173 000 aktiivista epävirallista yhteistyökumppania (inoffizielle Mitarbeiter), elinaikanaan yhteensä noin 624 000. Ks. Stasi – Wikipedia; Insights from Stasi Spying in East Germany (IZA)↩︎
4. Xinjiangin IJOP-järjestelmä (Integrated Joint Operations Platform) kerää ja yhdistää puhelin-, henkilökortti- ja sijaintidataa reaaliajassa. Ks. How mass surveillance works in Xinjiang (ASPI)↩︎
5. Pentagon ilmoitti Anthropicille virallisesti ”supply chain risk” -leimasta 5.3.2026. Ks. Pentagon Notifies Anthropic It’s Deemed Firm a Supply-Chain Risk – Bloomberg; It’s official: The Pentagon has labeled Anthropic a supply-chain risk – TechCrunch↩︎
6. Anthropic vaati takuita autonomisten aseiden ja massavalvonnan rajoittamisesta; Pentagon halusi rajoittamattoman pääsyn. Ks. Anthropic sues Pentagon – Axios; Anthropic sues Pentagon – NPR↩︎
7. OpenAI Secures $200 Million Pentagon Contract – Yahoo Finance↩︎
8. Hannah Arendt, The Origins of Totalitarianism (1951). Arendt analysoi totalitarismia järjestelmänä joka tuhoaa julkisen ja yksityisen elämän ja eliminoi itsenäisen ajattelun.↩︎
9. Hannah Arendt, Eichmann in Jerusalem: A Report on the Banality of Evil (1963). Arendtin mukaan Eichmannin ”ajattelemattomuus” (thoughtlessness) oli keskeinen tekijä — ei pahuus vaan kyvyttömyys arvioida omia tekoja itsenäisesti.↩︎
10. Apple julkaisi App Tracking Transparency -toiminnon iOS 14.5:ssä huhtikuussa 2021. Toiminto vaatii sovelluksia pyytämään käyttäjän luvan ennen seurantaa eri sovellusten välillä. Meta arvioi ATT:n maksaneen heille noin 10 miljardia dollaria mainostuloissa vuonna 2022. Ks. Apple’s privacy change cost social media companies nearly $10 billion – CNBC; Facebook’s $232 billion crash and the domino effect of Apple’s ad-tracking change – The Verge↩︎
11. USA FREEDOM Act (Uniting and Strengthening America by Fulfilling Rights and Ensuring Effective Discipline Over Monitoring Act) hyväksyttiin 2.6.2015 ja lopetti NSA:n Section 215 -pohjaisen puhelinmetadatan joukkokeruun. Ks. USA FREEDOM Act – EFF; USA FREEDOM Act – Wikipedia↩︎