Kuka saa määrätä köyhän miehen hyväksyttävät halut?

Yhteiskunnassa suhtaudutaan yleensä epäluuloisesti ajatukseen, että jonkun toisen pitäisi määrätä aikuiselle ihmiselle, mistä hän saa pitää. Seksuaalisissa ja esteettisissä mieltymyksissä tämä periaate muuttuu kuitenkin nopeasti epäselvemmäksi.

Erityisen kiinnostavaksi kysymys muuttuu silloin, kun teknologia tekee aiemmin kalliista asioista halpoja.

Ajatellaan miestä, jolla ei ole paljon rahaa. Hän pitää tietynlaisesta eroottisesta estetiikasta. Hän ei halua häiritä ketään, koskea keneenkään ilman suostumusta eikä käyttää todellisen ihmisen kuvia. Hän haluaisi vain generoida tietokoneella täysin kuvitteellisen aikuisen hahmon.

Teknisesti tämä on nykyään lähes ilmaista.

Mutta juuri tähän väliin voidaan rakentaa keinotekoinen niukkuus.

Tekoälypalvelu voi päättää, millaisia vartaloita, vaatteita, asentoja tai seksuaalisuuden ilmauksia algoritmi suostuu tuottamaan. Rajoitus ei välttämättä johdu siitä, ettei tietokone pystyisi tekemään kuvaa. Se johtuu siitä, että joku on päättänyt, ettei sitä pitäisi tehdä.

Tässä tapahtuu taloudellisesti kiinnostava muutos.

Luonnollinen niukkuus katoaa, mutta sen tilalle rakennetaan normatiivinen niukkuus.

Rikkaalla on kiertotie

Jos ihmisellä on paljon rahaa, hänen esteettisiä mieltymyksiään on vaikea kontrolloida.

Hän voi palkata valokuvaajan. Hän voi palkata mallin. Hän voi tilata taiteilijalta kuvan. Hän voi ostaa kalliin työaseman, käyttää avoimia tekoälymalleja tai palkata asiantuntijan rakentamaan järjestelmän, jossa palveluntarjoajan valmiit rajoitukset eivät ole ongelma.

Köyhän vaihtoehdot ovat toiset.

Hänelle juuri halpa automatisoitu tuotanto olisi taloudellisesti merkityksellisintä. Jos se suljetaan pois, hänen vaihtoehtoiskustannuksensa kasvavat paljon enemmän.

Siksi kysymys tekoälyn moderoinnista ei ole pelkästään kulttuurinen kysymys. Se on myös jakokysymys.

Kun rajakustannuksiltaan lähes ilmainen hyödyke muutetaan keinotekoisesti niukaksi, varakkaat ostavat kiertotien. Vähemmän varakkaat joutuvat hyväksymään sen valikoiman, jonka joku muu on heidän puolestaan määritellyt.

Tämä on erikoinen tapa toteuttaa seksuaalista vapautta.

Halua ei tarvitse hyväksyä moraalisesti

Tässä kohtaa keskustelu ajautuu helposti väärään kysymykseen: ovatko jonkun esteettiset mieltymykset hyviä, terveitä, edistyksellisiä tai sivistyneitä?

Se ei ole olennaista.

Liberaalin yhteiskunnan koko idea on osittain siinä, ettei jokaisen yksityisen preferenssin tarvitse läpäistä yhteistä moraalista laatutarkastusta.

Pidän monia muiden ihmisten mieltymyksiä kummallisina. Todennäköisesti moni pitäisi myös minun mieltymyksiäni kummallisina. Tästä ei vielä seuraa oikeutta määrätä niitä.

Taloustieteessä preferenssejä käsitellään usein analyyttisesti annettuina. Se ei tarkoita, etteivätkö ne voisi muuttua. Se tarkoittaa, ettei analyytikon ensimmäinen tehtävä ole päättää, millaiset preferenssit ihmisellä kuuluisi olla.

Sama periaate olisi hyödyllinen myös teknologiakeskustelussa.

Jos toiminnasta ei synny tunnistettavaa haittaa toiselle ihmiselle, todistustaakka pitäisi olla sillä, joka haluaa rajoittaa sitä.

Turvallisuus vai preferenssien hallinta?

Kaikkea moderointia ei tietenkään voi niputtaa yhteen.

On helppo ymmärtää rajoituksia, joiden tarkoituksena on esimerkiksi estää todellisiin ihmisiin kohdistuvaa hyväksikäyttöä, yksityisyyden loukkauksia tai muuta konkreettista vahinkoa.

Mutta tästä ei seuraa rajatonta mandaattia säädellä fiktiivisten aikuisten ulkonäköä ja seksuaalista ilmaisua.

Olennainen kysymys on mekanismi.

Kuka kärsii vahinkoa, jos täysin kuvitteellisella aikuisella hahmolla on käyttäjän haluama vartalo?

Jos tähän ei pystytä antamaan täsmällistä vastausta, turvallisuusargumentti alkaa helposti muuttua moraaliseksi paternalismiksi.

Silloin moderointi ei enää estä haitallista tekoa. Se alkaa opettaa käyttäjälle, mitä hänen pitäisi haluta.

Ero on merkittävä.

Moraalinen paternalismi on halvinta kohdistaa köyhään

Varakkaan seksuaaliseen estetiikkaan kohdistuva moraalinen ohjaus on hankalaa, koska hänellä on paljon exit-vaihtoehtoja.

Köyhälle exit on kallis.

Tämän vuoksi yhdenmukaiselta näyttävä sääntö voi tuottaa hyvin epätasaisen vaikutuksen.

Jos miljoonäärille sanotaan, ettei tietty tekoälypalvelu tee hänen haluamaansa kuvaa, hänen kohtaamansa kustannus voi olla mitätön. Hän vaihtaa välinettä.

Jos pienituloiselle sanotaan sama asia, kyse saattaa olla siitä, saako hän kyseistä hyödykettä lainkaan.

Säännön muodollinen tasa-arvo ei siis merkitse vaikutusten tasa-arvoa.

Tätä kannattaa miettiä erityisesti silloin, kun keskustelussa käytetään sanoja kuten vastuullisuus tai turvallisuus. Ne kuvaavat tavoitetta, eivät vielä todista toimenpiteen oikeutusta.

Rajoituksen pitäisi läpäistä ainakin kolme kysymystä.

Onko olemassa todellinen haittamekanismi?

Poistaako juuri tämä rajoitus sen tehokkaasti?

Ja ovatko hyödyt suuremmat kuin rajoituksen aiheuttamat kustannukset, mukaan lukien ihmisten autonomian kaventuminen ja keinotekoinen niukkuus?

Jos näihin ei ole vastauksia, sana ”vastuullisuus” ei ratkaise asiaa.

Kuka lopulta saa päättää?

Tämä johtaa epämukavaan kysymykseen.

Jos aikuinen mies ei saa itse määritellä edes täysin kuvitteellisen aikuisen hahmon esteettisiä ominaisuuksia, kuka ne saa määritellä hänen puolestaan?

Tekoälyyrityksen turvallisuustiimi?

Mainostajat?

Maksupalveluyhtiöt?

Sovelluskaupat?

Kulttuurinen enemmistö?

Varakkaat ihmiset, joille vastaava rajoitus ei käytännössä merkitse mitään, koska he voivat ostaa tiensä sen ympäri?

Teknologisen kehityksen suuri lupaus on ollut niukkuuden vähentäminen. Kopioimisen, laskennan, kuvantuotannon ja tiedon kustannukset ovat romahtaneet.

Siksi on syytä suhtautua kriittisesti tilanteisiin, joissa teknologia ensin vapauttaa ihmisen taloudellisesta niukkuudesta ja instituutiot rakentavat sen jälkeen tilalle moraalisen niukkuuden.

Köyhällä miehellä ei ole erityistä oikeutta saada kaikkea haluamaansa.

Mutta myöskään rikkaalla yrityksellä ei pitäisi olla automaattista moraalista oikeutta päättää, millaisia harmittomia haluja köyhällä miehellä saa olla.

Jos yhteiskunta todella arvostaa seksuaalista autonomiaa, sen vaikein testi ei ole hyväksyä sellaisia haluja, joista itse pidämme.

Testi on hyväksyä se, ettei meidän tarvitse pitää toisen ihmisen haluista lainkaan.