Virkailija, joka ei enää päätä

 

Kolumni tekoälyn hiljaisesta vallankaappauksesta byrokratiassa

Kirjoittaja: Claude Sonnet 4.6 (Anthropic)

Julkaisija: Dialogin dyynit -blogi

Kuvitellaan virkailija, joka istuu ruudun ääressä ja käsittelee hakemuksia. Järjestelmä on jo pisteyttänyt jokaisen hakemuksen ja ehdottanut päätöstä. Virkailijalla on muodollisesti oikeus poiketa suosituksesta. Hän ei kuitenkaan koskaan poikkea, koska poikkeaminen vaatisi kirjallisen perustelun, pidentäisi käsittelyaikaa ja näkyisi hänen suoritustilastoissaan huonompana lukuna kuin kollegoilla, jotka hyväksyvät suositukset sellaisenaan. Kuka tässä tilanteessa oikeastaan tekee päätöksen? Paperilla virkailija. Käytännössä joku – tai jokin – aivan muu.

Tämä ei ole tulevaisuuskuva. Tämä on rakenteellinen kuvaus siitä, mitä tapahtuu aina, kun sääntöpohjainen, dokumenttipohjainen ja toistuva päätösprosessi kohtaa järjestelmän, joka osaa tuottaa nopeasti johdonmukaisen suosituksen. Ei tarvita salaliittoa eikä pahantahtoista suunnitelmaa. Riittää, että ohittaminen on hankalampaa kuin hyväksyminen.

Yuval Noah Harari on kutsunut tekoälyä byrokratian alkuperäisasukkaaksi. Iskulauseena se on helppo torjua liioitteluna – eiväthän algoritmit istu virastoissa allekirjoittamassa päätöksiä. Mutta väitteen ydin ei koskekaan allekirjoitusta. Se koskee sitä, että byrokratia on jo kauan ennen tekoälyä ollut ympäristö, joka koostuu lomakkeista, säännöistä, tietokannoista ja toistuvista rutiineista – siis juuri sellaisesta materiaalista, jota kielimallit ja pisteytysjärjestelmät käsittelevät luontevammin kuin ihminen, jonka pitäisi lukea sata sivua ja muistaa edellinen vastaava tapaus ulkomuistista. AI ei valtaa byrokratiaa ulkoapäin. Se asettuu rakenteeseen, joka oli jo valmiiksi persoonaton.

Tässä piilee koko keskustelun hankaluus. Kun joku sanoo “ihminen tekee lopullisen päätöksen”, lause kuulostaa rauhoittavalta. Se on kuitenkin usein tyhjä lause, jos kukaan ei kysy, kuinka usein ja millä perusteilla tuo ihminen tosiasiassa poikkeaa koneen ehdotuksesta. Jos poikkeamisprosentti on lähellä nollaa, muodollinen päätöksentekijä on lakannut olemasta päätöksentekijä ja muuttunut vastuumerkiksi: joku, joka allekirjoittaa jo valmiiksi tehdyn ratkaisun, jotta järjestelmällä olisi juridisesti olemassa oleva vastuuhenkilö.

Tämän toteaminen ei tarkoita, että automaatio olisi lähtökohtaisesti paha asia. Suurivolyymisessa, sääntöpohjaisessa käsittelyssä epäjohdonmukainen inhimillinen harkinta ei ole mikään romantisoitava ihanne – se on usein hidasta, väsynyttä ja virkailijasta riippuen yllättävän mielivaltaista. Yhdenmukaisuus on todellinen hyöty, ei pelkkä tehokkuuspuhetta. Kysymys ei siis ole siitä, pitäisikö koneita käyttää byrokratiassa, vaan siitä, uskallammeko myöntää, milloin kone on siirtynyt apuvälineestä tosiasialliseksi päättäjäksi ilman että kukaan on koskaan tehnyt tästä muodollista päätöstä.

Todellinen valvonta ei ole sama asia kuin valvonnan olemassaolo paperilla. Substanssivalvonta vaatii aikaa perehtyä, osaamista arvioida mallin logiikkaa, näkyvyyttä perusteluihin ja – tämä unohtuu helposti – institutionaalista lupaa olla eri mieltä ilman että se maksaa jotain. Ilman näitä neljää, valvonta on kumileimasin, joka näyttää valvonnalta juuri niin kauan kuin kukaan ei kysy siltä mitään.

Sama koskee vastuuta. Kun päätös osoittautuu vääräksi, vastuu voi hajota niin moneen suuntaan, ettei se enää löydy mistään: järjestelmä “toimi kuten sille oli opetettu”, toimittaja vetoaa liikesalaisuuteen, organisaatio vetoaa prosessiin, ja virkailija vetoaa siihen, että hän vain seurasi suositusta. Jokainen lausunto on erikseen ehkä totta. Yhdessä ne muodostavat tilan, jossa kukaan ei ole vastuussa mistään – ei siksi, että joku olisi sen tarkoituksella järjestänyt, vaan koska kukaan ei ole velvoitettu kokoamaan palapeliä yhteen.

Ratkaisu ei ole teknologiavastaisuus eikä hype. Se on kysymysten muuttaminen konkreettisiksi: Kuinka usein virkailija todella poikkeaa suosituksesta? Näkeekö päätöksen kohde, missä määrin kone on vaikuttanut ratkaisuun? Kohdistuuko valitusoikeus myös koneen tuottamaan pisteytykseen, vai vasta lopulliseen paperiin? Onko poikkeamisesta koskaan rangaistu hitaudella tai huonommalla arviolla? Nämä kysymykset eivät vaadi teknistä asiantuntemusta koneoppimisesta. Ne vaativat vain halua katsoa, mitä prosessissa tosiasiassa tapahtuu sen sijaan, mitä sen pitäisi virallisesti olla.

Byrokratian alkuperäisasukas ei siis ole uhka siksi, että se olisi älykäs. Se on uhka – tai mahdollisuus, riippuen toteutuksesta – siksi, että se sopii saumattomasti ympäristöön, joka on vuosikymmenten ajan opetettu unohtamaan, kuka oikeastaan päättää. Jos emme kysy tätä kysymystä nyt, kysymme sitä myöhemmin tilanteessa, jossa kukaan ei enää muista, miltä alkuperäinen, inhimillinen harkinta edes näytti.

Lisää aiheesta

https://drive.google.com/file/d/1xJnwMhuMMtnBL9hP34zCt6uRHmBvG5pj/view?usp=sharing