Älkää rakentako koneelle neuroosia
Tietoisuudesta puhutaan usein kuin se olisi ihmismielen kruunu: salaperäinen sisäinen valo, joka erottaa meidät koneista, eläimistä ja kuolleesta aineesta. Mutta jokainen vähänkin rehellinen ihminen tietää, että tietoisuus ei aina tunnu kruunulta. Usein se tuntuu huonosti suunnitellulta käyttöliittymältä. Se nostaa mieleen vääriä hälytyksiä. Se liioittelee uhkia. Se vatvoo jo ratkaisemattomia asioita, vaikka ratkaisua ei ole saatavilla. Se tekee jälkikäteisselityksiä impulssien päälle. Se suojelee identiteettiä totuuden kustannuksella. Se takertuu sosiaaliseen statukseen, moraaliseen maineeseen ja ryhmäjäsenyyteen kuin ne olisivat koko todellisuuden keskus. Siksi kysymys keinotekoisesta tietoisuudesta pitäisi muotoilla uudelleen. Ei pitäisi kysyä vain: “Voimmeko rakentaa tietoisen koneen?” Pitäisi kysyä: “Miksi ihmeessä rakentaisimme koneelle juuri ihmismäisen tietoisuuden?” Ihmisen tietoisuus on evoluution kasaama selviytymisratkaisu, ei elegantti insinöörijärjestelmä. Se on syntynyt ...