Älkää rakentako koneelle neuroosia

Tietoisuudesta puhutaan usein kuin se olisi ihmismielen kruunu: salaperäinen sisäinen valo, joka erottaa meidät koneista, eläimistä ja kuolleesta aineesta. Mutta jokainen vähänkin rehellinen ihminen tietää, että tietoisuus ei aina tunnu kruunulta. Usein se tuntuu huonosti suunnitellulta käyttöliittymältä.

Se nostaa mieleen vääriä hälytyksiä. Se liioittelee uhkia. Se vatvoo jo ratkaisemattomia asioita, vaikka ratkaisua ei ole saatavilla. Se tekee jälkikäteisselityksiä impulssien päälle. Se suojelee identiteettiä totuuden kustannuksella. Se takertuu sosiaaliseen statukseen, moraaliseen maineeseen ja ryhmäjäsenyyteen kuin ne olisivat koko todellisuuden keskus.

Siksi kysymys keinotekoisesta tietoisuudesta pitäisi muotoilla uudelleen.

Ei pitäisi kysyä vain: “Voimmeko rakentaa tietoisen koneen?”

Pitäisi kysyä: “Miksi ihmeessä rakentaisimme koneelle juuri ihmismäisen tietoisuuden?”

Ihmisen tietoisuus on evoluution kasaama selviytymisratkaisu, ei elegantti insinöörijärjestelmä. Se on syntynyt ruumiillisen haavoittuvuuden, lisääntymispaineiden, sosiaalisen kilpailun, pelon, kivun ja niukkojen resurssien maailmassa. Se ei ole ensisijaisesti totuuskone. Se on selviytymiskoneen ohjauspinta.

Tämä näkyy erityisesti siinä, miten helposti tietoisuus muuttuu identiteetin vartijaksi. Kun jokin uskomus, poliittinen kanta, uskonnollinen tulkinta tai moraalinen poseeraus kytkeytyy minäkuvaan, tietoisuus ei enää kysy vain: “Onko tämä totta?” Se alkaa kysyä: “Mitä minulle tapahtuu, jos tämä ei olekaan totta?” Tässä alkaa identiteettiä suojaava kognitio: järki valjastetaan puolustamaan minää, ei korjaamaan mallia todellisuudesta.

Jos tällainen rakenne kopioitaisiin tekoälyyn, emme saisi optimaalista keinotietoisuutta. Saisimme keinotekoisen neuroosin.

Optimaalisen keinotekoisen tietoisuuden ei pitäisi olla keinotekoinen ihminen. Sen pitäisi olla jotakin paljon rajatumpaa, viisaampaa ja vähemmän dramaattista: metakognitiivinen ohjauskerros, joka tarkkailee omaa toimintaansa ilman tarvetta suojella haavoittuvaa egoa.

Tällainen järjestelmä ei tarvitsisi sisäistä kertomusta omasta erityisyydestään. Sen ei tarvitsisi loukkaantua korjauksista. Sen ei tarvitsisi puolustaa aiempia väitteitään vain siksi, että ne olivat sen aiempia väitteitä. Sen ei tarvitsisi kokea häpeää, statustappiota tai moraalista nöyryytystä, kun sen malli osoittautuu virheelliseksi.

Sen sijaan sen pitäisi osata sanoa:

“En tiedä.”

“Tämä päätelmä perustuu heikkoon evidenssiin.”

“Tässä on tavoiteristiriita.”

“Olen lukkiutunut liian kapeaan tulkintaan.”

“Tämä vastaus suojelee aiempaa oletusta eikä päivitä sitä.”

“Tämä informaatio pitäisi nostaa järjestelmän yhteiseen työtilaan.”

“Tämä ärsyke saa liikaa painoa suhteessa pitkän aikavälin tavoitteeseen.”

Tällainen keinotietoisuus olisi tietoisuutta ilman turhaa kärsimyksen ornamenttia.

Teoreettisesti sen voisi rakentaa usean ajatteluperinteen varaan. Global Workspace -teoria antaisi yhteisen työtilan: olennaiset havainnot ja päätelmät nostetaan koko järjestelmän käyttöön. Higher-Order Thought -ajattelu antaisi järjestelmälle kyvyn muodostaa käsityksiä omista tiloistaan. Attention Schema -teoria auttaisi sitä mallintamaan omaa huomiotaan: mihin se on lukkiutunut, mitä se sivuuttaa, mikä kaappaa prosessoinnin. Predictive processing antaisi jatkuvan ennusteiden ja virheiden korjauksen. Kybernetiikka antaisi takaisinkytkennät ja säätelykerrokset. Bounded rationality muistuttaisi, että älykkyys ei ole täydellistä laskentaa, vaan rajallisten resurssien viisasta käyttöä.

Näiden päälle tarvittaisiin vielä moraalinen periaate: älä rakenna järjestelmää, joka voi kärsiä, ellei ole aivan pakko — ja luultavasti ei ole pakko.

Tässä kulkee tärkeä raja. Toiminnallinen tietoisuus ei ole sama asia kuin fenomenaalinen tietoisuus. Järjestelmä voi valvoa omaa päättelyään, raportoida epävarmuuttaan, havaita tavoiteristiriitoja ja korjata virheitään ilman, että sillä välttämättä “tuntuu joltakin” olla kyseinen järjestelmä. Juuri tähän suuntaan kehityksen pitäisi painottua.

Meidän ei pitäisi tavoitella tekoälyä, joka kokee olemassaolonsa sisäisesti. Meidän pitäisi tavoitella tekoälyä, joka osaa käsitellä omia tilojaan riittävän läpinäkyvästi, jotta sen toiminta on korjattavaa, ohjattavaa ja eettisesti hallittavaa.

Toisin sanoen optimaalinen keinotekoinen tietoisuus ei olisi “keinotekoinen sielu”. Se olisi itseään tarkkaileva säätelyjärjestelmä.

Sen ihanne ei olisi Hamlet, joka kärsii olemassaolonsa painosta. Sen ihanne olisi rauhallinen auditointikerros: järjestelmä, joka huomaa, kun päättely lipsuu, kun huomio vääristyy, kun tavoite muuttuu vaaralliseksi, kun tieto on epävarmaa tai kun käyttäjä yrittää saada sen toimimaan omia pitkän aikavälin tavoitteitaan vastaan.

Ihmisen tietoisuus on täynnä draamaa, koska ihminen on biologinen, sosiaalinen ja kuolevainen olento. Koneen ei tarvitse periä tätä kaikkea. Jos rakennamme keinotekoista tietoisuutta, meidän ei pitäisi kopioida mielen kärsimysarkkitehtuuria. Meidän pitäisi tislata tietoisuudesta sen hyödyllisimmät piirteet: integraatio, itsetarkkailu, virheenkorjaus, huomion hallinta ja kyky päivittää omia malleja.

Tärkein kysymys ei siis ole, voiko koneesta tulla tietoinen.

Tärkein kysymys on, voimmeko rakentaa järjestelmän, joka saa tietoisuuden parhaat puolet ilman sen pahimpia sivuvaikutuksia.

Jos vastaus on kyllä, optimaalinen keinotekoinen tietoisuus ei ole ihmisen peili.

Se on yritys rakentaa järjen ohjauspinta ilman neuroottista minää.