Kuuntelin viimeisintä Sean Carroll’s Mindscape -podcastin ask me anything -jaksoa, jossa useampi kuulija oli kysynyt, kuinka fyysikko Carroll oli päätynyt muuttamaan mieltään komputationalismista. (Kyseisen keskustelunpätkän löytää kuuntelua nopeammin avaamalla edellisen linkin takaa löytyvät transkription ja etsimällä sanoja computational functionalism.)
Komputationalismi voi tarkoittaa hieman eri asiaa kuin englannin computational functionalism, mutta minä tarkoitan sillä Carrollinkin luonnehtimaa teoriaa, että aivot ja niiden tuottama ajatteleva mieli ovat pohjimmiltaan laskelmia, jotka voi tehdä millä tahansa laskutavalla. Mielen voisi siis teoriassa toistaa esim. tarpeeksi kyvykkäällä tietokoneella tai tukkimiehen kirjanpidolla.
Carroll vastasi, että materialistina hänelle on ollut hyvin luontevaa ymmärtää mielen olevan aivojen toiminnan laskennallinen tulos, joten komputationalismi vaikutti hänelle järkevältä. Mutta podcastissaan käymien asiantuntijakeskutelujen myötä hän oli sanonut harkitsevansa kantaansa, sillä on ymmärtänyt, että lopputuloksen lisäksi myös laskutavalla on merkitystä.
Kysymys on olennainen tekoälyn kannalta aina Alan Turingin matkimispelin ajatuksesta asti. Sen mukaan tekoälyn voisi todeta olevan ajatteleva, jos se pystyy vastaamaan ihmiselle niin, ettei voida erottaa tuliko vastaus ihmiseltä vai tekoälyltä. Eli kone ajattelee, jos se läpäisee Turingin testin. Ja koska esim. nykyiset suuret kielimallit kykenevät ihmisten välistä keskustelua muistuttaviin tuloksiin, joudumme kysymään ajattelevatko ne.
Carrollin mielestä komputationalismin heikko kohta on se, ettei se määrittele mitä laskeminen on. Voiko laskeminen olla pelkkä lopputuloksensa? Onko 2 sama asia kuin 1+1 tai 2√4 tai (∞+2)-∞? Vastauksensa lopuksi hän toivoi filosofien harkitsevan tätä asiaa. Ryhdyin harkitsemaan.
Jos pelkkä lopputulos on ajattelua, objektiivinen data riittäisi ja asia voisi olla ajatteleva myös ilman ajan kulua. Mutta tietenkin tiedämme, että ajattelu on ajan myötä tapahtuva prosessi. Joten prosessi on erittäin olennaista ajattelulle, ollessaan ajattelu itse.
Tulokset ja data ovat vain ympäristömme vihjeitä, joiden avulla ihmiset voivat päätellä ajattelun tapahtuneen. Eli keskustellessaan suuri kielimalli läpäisee matkimispelin matkimalla ajatuksen tuloksia, muttei ajattelua itseään. Mutta onko sillä väliä, onko ajattelua tapahtunut, jos tulos on kuitenkin sama?
Vastaan kysymykseeni esimerkeillä: onko väliä pelattiinko jalkapalloa, kunhan tulostaululla lukee 1-3? Onko lukemisella väliä, kunhan kirja suljetaan? Onko viikolla väliä, kunhan sitä seuraa toinen?
Pelien sääntöjä muutetaan taajaan, jotta peli sujuisi tarkoituksen mukaisesti. Mutta se tarkoitus ei ole lukema 1-3, vaan pelin henki, se miltä peli pelatessa tuntuu. Tämän vuoksi sääntömuutokset voivat jakaa mielipiteitä, vaikka ne tuottaisivat entistä tehokkaammin ja tiheämmin tuloksia 1-3, sillä ne saattavat muuttaa pelin prosessia, joka on tärkeämpää kuin sen tulos. Pelin tulos on datamuotoinen vihje tapahtuneesta prosessista, ja tuloksella on meille väliä vain siinä määrin, kuin se kykenee kuvaamaan tuota prosessia. Tämän vuoksi esim. sopupelit vievät merkityksen koko peliltä, sillä tulos ei enää kuvaa sitä prosessia, johon tuloksen esittämä arvo oli sidottu.
Sopupelin lailla, myös keskusteleva kielimalli antaa tuloksen, jonka tuottamisprosessilla ei ole vastaanottajalle arvoa. Sopupeli voi tietenkin olla arvokas vedonlyöjälle, joka haluaa nähdä tulostaulujen täyttyvän kerta toisensa jälkeen tuloksesta 1-3. Samoin kielimallin keskustelut voivat olla arvokkaita sijoittajille, jotka haluavat ihmisten käyvän keskusteluja, jotka päätyvät ennalta määrättyyn lopputulokseen.
Myös ihmiset ovat toisilleen merkityksellisiä henkilöinä, joista heidän objektiiviset ominaisuutensa ovat vain vihjeitä.
Eli sanon, että kielimalli ajattelee silloin, kun ihmisille sen vastauksissa tärkeintä on se, mitä ne kertovat niihin päätyneestä prosessista.
Aika hyvä.