Tietokoneet ja tietoisuus

[tnjrp]

Jos keskustellaan siitä, mikä on mahdollisuus saada tietokoneilla (tai yleensä ns. keinotekoisesti) aikaan tietoisuutta, on pakko pohtia, mitä tietoisuus ylipäätään on ja milloin sekä missä se ilmenee. Muuten toinen puhuu aidasta ja toinen aidanseipäistä

Kuten olen sanonut jo kahdesti (kolmannella kerralla siitä tulee totuus), tietoisuuskeskustelu on tuomittu tähän ansaan tässä vaiheessa. Siksi ei myöskään ole mitään itsestäänselvää tapaa määritellä, onko meillä käsissämme tietoinen tekoäly vai sellaista taitavasti esittävä tosielämän P-zombie. Joidenkin tietoisuuden määritelmien mukaan nimittäin voidaan hyvinkin olettaa, kenties jopa toteuttamiskelpoiseksi, ei-tietoinen äly.

Minusta on lähinnä tässä vaiheessa hedelmällistä katsella, mitä tekoälytutkijat kuvittelevat olevansa kehittelemässä ja vasta sitten, kun tavoitteeseen ollaan päästy keskustella siitä, ovatko tuotokset tietoisia vähemmän, enemmän vai yhtä paljon kuin muut eläimet, tai kenties jopa ihminen.

[Zereott]

Tulipa tosta mieleen eräitten kavereideni käymä keskustelu siitä voiko tietokone tulla tietoiseksi vai ei, kun olivat katselleet terminaattoria.

Noh, itse joskus paljon nuorempana pohdiskelin, josko jokin kone voisi saavuttaa tietoisuuden vai ei. Kun asiaa yritin vähän tutkia, en löytänyt oikeastaan mitään, mikä tukisi teoriaa ja kaikki aiheesta käydyt keskustelut tuntuivat vain turhan monimutkaisilta.
Tulin kuitenkin loppujen lopuksi siihen tulokseen, että koneet eivät voi koskaan saavuttaa tietoisuutta, koska ne eivät ole eläviä olentoja eivätkä omaa sielua vaikka ne kuinka tarkasti ohjelmoisi jäljittelemään ihmisajattelua.

Myös kuulin kerran kaveriltani huhuja sellaisesta, että jossain ihmisen tietokonetta vastaan pelaamassa shakki-turnauksessa tietokone olisi muka yllättäen oivaltanut tehdä jonkin täysin inhimillisen ja tekoälylle mahdottoman siirron, minkä vuoksi oli ryhdytty spekuloimaan tekoälyn kehityksestä tietoisuuteen. Minä en moista juttua uskonut. Miten edes määritellään "ihmillinen ratkaisu"? Itsekin olen joskus pelannut shakkia tietokonetta vastaan, käyttänyt jotain pettämätöntä taktiikkaa ja voittanut pari peliä kunnes tietokone on oppinut pelaamaan erilailla päihittääkseen minut taas joka kerta. Ei siinä mitään inhimillistä ole.

[MaKo]

Noh, itse joskus paljon nuorempana pohdiskelin, josko jokin kone voisi saavuttaa tietoisuuden vai ei. Kun asiaa yritin vähän tutkia, en löytänyt oikeastaan mitään, mikä tukisi teoriaa ja kaikki aiheesta käydyt keskustelut tuntuivat vain turhan monimutkaisilta.

Tietoisuuden ja älykkyyden suhteen me joudutaan vielä jonkin aikaa elämään melko hämärästi määriteltyjen termien varassa, kun kerran kättä pidempää niiden luonteesta ei ole saatavilla. Molemmissa tapauksissa keskustelut ajautuvat helposti sellaisiin filosofisiin sfääreihin, ettei siitä saa mitään irti, kun kerran ankkurointipistettä ei tahdo löytyä. Mutta toivon mukaan nykyinen tutkimustyö tällä alueella palkitaan sitten tulevaisuudessa vankemmin määritellyillä ilmiöillä.

Tulin kuitenkin loppujen lopuksi siihen tulokseen, että koneet eivät voi koskaan saavuttaa tietoisuutta, koska ne eivät ole eläviä olentoja eivätkä omaa sielua vaikka ne kuinka tarkasti ohjelmoisi jäljittelemään ihmisajattelua.

Jos maailmankatsomuksen lähtökohtana on sielu tai sen kaltaiset asiat, niin ei varmaan tunnu uskottavalta se, että kone voisi olla kuin ihminen. Luonnontieteilijät ajattelevat kuitenkin niin, että ihmisen ajattelun on "pakko" olla pohjimmiltaan pelkkää fysiikkaa ja kemiaa, siis jotain sellaista, joka lopulta voidaan ymmärtää ja joka voidaan myös rakentaa.

Myös kuulin kerran kaveriltani huhuja sellaisesta, että jossain ihmisen tietokonetta vastaan pelaamassa shakki-turnauksessa tietokone olisi muka yllättäen oivaltanut tehdä jonkin täysin inhimillisen ja tekoälylle mahdottoman siirron, minkä vuoksi oli ryhdytty spekuloimaan tekoälyn kehityksestä tietoisuuteen.

Tuota noin, tässä lienee kyse Kasparovin lausahduksesta siitä, että hän Deep Bluea vastaan koki tunteen toisella puolella olevasta älykkyydestä. Garri Kasparov (Wikipedia):

Tappion jälkeen Kasparov sanoi, että joskus näki syvää älykkyyttä ja luovuutta tietokoneen siirroissa.

Tätä lausahdusta on käytetty sittemmin niissä yhteyksissä, joissa ollaan puhuttu koneiden älykkyydestä (eikä suoranaisesti tietoisuudesta), ehkä väärin perustein. Kasparov on pelien jälkeen ollut tukkanuottasilla Deep Blue -porukan kanssa, väittäen mm. ihmisten tehneen siirtoja ohi tietokoneen.

Miten edes määritellään "ihmillinen ratkaisu"?

Aivan, tuskin tuollaista termiä voidaan koskaan määritellä muuten kuin summittaisesti.

Itsekin olen joskus pelannut shakkia tietokonetta vastaan, käyttänyt jotain pettämätöntä taktiikkaa ja voittanut pari peliä kunnes tietokone on oppinut pelaamaan erilailla päihittääkseen minut taas joka kerta. Ei siinä mitään inhimillistä ole.

Tavallisen kotitietokoneen shakkialgoritmin ei kyllä pitäisi oppia pelaamaan vastustajansa mukaan. Kyllä ne ovat suurimmaksi osaksi ihan kiinteitä paketteja... Mutta hyviä niiden, ainakin parempien, pitäisi olla.

[Narri]

...että koneet eivät voi koskaan saavuttaa tietoisuutta, koska ne eivät ole eläviä olentoja eivätkä omaa sielua vaikka ne kuinka tarkasti ohjelmoisi jäljittelemään ihmisajattelua.

Ei koneella tarvitse olla oikeaa tietoisuutta, riittää kun näyttää ja tuntuu siltä, että sillä on tietoisuus.

Jos jossakin vaiheessa koneen ajattelua ei voi erottaa ihmisen ajattelusta, sitten voidaan kysyä, mitä tietoisuus tarkoittaa?

Jos on sitä lajia, että uskoo Jumalaan, niin sitten voi kysyä, antaisiko Jumala ajattelevalle ja tiedostavalle "koneihmiselle" sielun.

http://fi.wikipedia.org/wiki/Turingin_testi#Vastakkaisia_n.C3.A4k.C3.B6kohtia

[Piru Naiseksi]

Me ihmiset tiedämme olevamme ihmisiä, toisin kirjoittaen olemme tietoisia ihmisyydestämme ja vaihtelevasti tietoisia myös ympäristöstä, jossa elämme. Mutta milloin kone voi kyetä oivalmaan olevansa juuri tietty kone ja hahmottaa suhdettaan ympäristöön?

[MaKo]

Mutta milloin kone voi kyetä oivalmaan olevansa juuri tietty kone ja hahmottaa suhdettaan ympäristöön?

Mulla on siihen jonkinlainen ajatus, mutta se on kyllä kauniistikin sanottuna keskeneräinen. Mun ajatus tietoisuuteen itsestä lähtee siitä, että jos jollekin aktiiviselle toimijalle (robotti, ihminen, eläin) haluaa edes joltensakin järkevää käytöstä, niin tämän täytyy pystyä etukäteen "näkemään" toimintansa seuraukset. Käytännössä tämä tarkoittaa sitä, että ennen kuin päätöstä toimista tehdään, vaihtoehtoja "kokeillaan" pään (tai muun sen kaltaisen) sisällä olevassa "minimaailmassa". Tuon "minimaailmassa" tapahtuvan kokeilemisen luulen ihmisellä olevan täysin alitajuista.

Nyt puhutaan siis hyvin yksinkertaisista teoista ja niiden seurauksista, esimerkiksi saalistava kissa "tuumaa" juostessaan, että kääntyykö oikealle vai vasemmalle (vai luopuuko koko leikistä) ja vastaavasti edessä juokseva hiiri "miettii" samoja asioita.

Jotta pystyy arvioimaan tekojen seurauksia, niin tuossa minimaailmassa täytyy olla mukana myös toimija itse.

Tältä pohjalta olen ajatellut, että tietoisuus syntyisi sellaisesta prosessista, jossa on tuollainen tekojen vaikutuksia ympäristöön arvioiva koneisto, joka on riittävän kyvykäs siihen, että se pystyy käsittelemään myös "minimaailman" asioita sellaisenaan.

Miten tämän nyt helposti selittäisi? Kaikki pelialgoritmit, samoin kaikki robottien reititysalgoritmit ovat sellaisia, että ne arvioivat tekojen seurauksia "pään sisällä" ennen varsinaista tekemistä. Pelialgoritmeista vain puuttuvat käsitteet ja keinot arvioida itse päätöksentekoa samoilla symboleilla - siis ajatella "shakiksi" (shakin laillisina siirtoina) shakin peluuta. Luulisin siis, että jos koneen käsittelemä symbolisto ohittaa sopivan joustavuuden rajan, se pystyy sen jälkeen käsittelemään myös tietoa itsestään ja ajattelustaan.

Mutta kuten sanottu, mitään faktapohjaa tällaiselle mietteelle ei ole.

[Narri]

Mutta milloin kone voi kyetä oivalmaan olevansa juuri tietty kone ja hahmottaa suhdettaan ympäristöön?

Mulla on siihen jonkinlainen ajatus, mutta se on kyllä kauniistikin sanottuna keskeneräinen. Mun ajatus tietoisuuteen itsestä lähtee siitä, että jos jollekin aktiiviselle toimijalle (robotti, ihminen, eläin) haluaa edes joltensakin järkevää käytöstä, niin tämän täytyy pystyä etukäteen "näkemään" toimintansa seuraukset. ...

Mutta kuten sanottu, mitään faktapohjaa tällaiselle mietteelle ei ole.

Pentti Haikonen  näitä tutkii. Alansa auktoriteetti, hänestä löytyy paljon tietoa netistä.
http://personal.inet.fi/cool/pentti.haikonen/

Haikonen puhuu kognitiivisesta arkkitehtuurista, jossa olisivat mukana havaintoprosessit ja aisti-informaatio; matkittaisiin siis hermoverkostoa.

[Rasimus]

Itsekin olen joskus pelannut shakkia tietokonetta vastaan, käyttänyt jotain pettämätöntä taktiikkaa ja voittanut pari peliä kunnes tietokone on oppinut pelaamaan erilailla päihittääkseen minut taas joka kerta.

Tavallisen kotitietokoneen shakkialgoritmin ei kyllä pitäisi oppia pelaamaan vastustajansa mukaan.

"Pettämätön", tuskin... Todennäköisemmin shakkiohjelma tekee satunnaisia huonompia siirtoja, jotta syntyy jonkinlainen vaikutelma inhimillisestä vastustajasta. Niillä voi saada muutaman sulan hattuunsa ettei innostus laannu.

Toisaalta, jos ohjelma osaa valikoida laudan satunnaisesta tilanteesta jollain kriteereillä ne siirrot, joita kannattaa tutkia paria siirtoa kauemmaksi, niin ei se kova homma ole laittaa ohjelmaa myös keräämään tilastoja siitä, minkälaisissa tilanteissa pelaaja minkäkinlaisia siirtoja ja millä menestyksellä... Mitenköhän Chessmaster homman hoitaa?

Haikonen puhuu kognitiivisesta arkkitehtuurista, jossa olisivat mukana havaintoprosessit ja aisti-informaatio; matkittaisiin siis hermoverkostoa.

Siinä se onkin... Koneen on saatava paitsi havaintoja ja aisti-informaatiota, niin sen on myös oltava sille jotenkin merkityksellistä. Havainnoilla ja aisti-informaatioilla on oltava jokin syy, jotta kone joutuisi käyttämään niihin paljon resursseja tehdäkseen luovia johtopäätöksiä. Ennen kaikkea pitäisi päätyä arvioimaan että luovista johtopäätöksistä seuraa sellaista hyvää, että niitä voi jatkaa yhä vain pidemmälle sen sijaan että vain hylättäisiin ne ja jatkettaisiin alkuperäisen ohjelmoinnin mukaista toimintaa...

Onneksi muuten koneen tekoälyn luokittelemista älykkääksi helpottaa se, että ihmisetkin vetävät ison osan elämästään sellaisella arkirutiinilla, että se vastaa jo koneeseen ohjelmoituja liikkeitä...

[Zereott]

Itsekin olen joskus pelannut shakkia tietokonetta vastaan, käyttänyt jotain pettämätöntä taktiikkaa ja voittanut pari peliä kunnes tietokone on oppinut pelaamaan erilailla päihittääkseen minut taas joka kerta. Ei siinä mitään inhimillistä ole.

Tavallisen kotitietokoneen shakkialgoritmin ei kyllä pitäisi oppia pelaamaan vastustajansa mukaan.

Piti laittamani lainausmerkit sanalle pettämätön, mutta ne jäivät pois. Juttu oli niin, että päätin kokeilla isäni opettamaa neljän siirron matitusta tietokonetta vastaan. Kahdella ekalla kerralla voitin, mutta kolmannesta kerrasta eteenpäin kone rupesi siirtämään hevosensa eteen vesittäen "taktiikkani".

[Echramath]

Piti laittamani lainausmerkit sanalle pettämätön, mutta ne jäivät pois. Juttu oli niin, että päätin kokeilla isäni opettamaa neljän siirron matitusta tietokonetta vastaan. Kahdella ekalla kerralla voitin, mutta kolmannesta kerrasta eteenpäin kone rupesi siirtämään hevosensa eteen vesittäen "taktiikkani".

Shakkihan on erinomaisen heikko esimerkki tähän ketjuun, koska se on niin tarkkaan määritelty ja mallinnettavissa oleva ongelma – siis enemmänkin tietojenkäsittelytieteellinen ongelma, kuin mielenkiintoinen peli, jos minulta kysytään. Joka tapauksessa kun kyseessä on noinkin rajattu vuorovaikutus kuin shakkipelin siirrot ja vastassa tavan tallaaja – joka yleisesti ottaen ei oikein shakkia osaa – ei ole vaikea uskoa, etteikö alan ammattilaisten väkertämä shakkipeli osaisi luoda illuusioita vaikka minkälaisesta vastapelaajasta. (shakkiohjelmia on kai yleensä myyty ihan kohtalaisen paljon eikä niissä ole merkittäviä grafiikka- ja ääniaineiston tuotantokustannuksia)

(Kasparov on väittänyt kaikkea muutakin mielenkiintoista, kuten sen, että historiankirjoituksen vuosiluvut heittävät aivan totaalisesti – siis jotakuinkin kaikki vuosiluvut)

[Zereott]

Totta, että shakki on huono esimerkki. Tulipahan vain mieleen mainita tuo tapaus Deep Bluen kanssa, koska tuttavien kanssa tästä aiheesta jutellessa se aina ennemmin tain myöhemmin nousee esiin.

Mutta palatakseni enemmän varsinaiseen aiheeseen:

Jos jossakin vaiheessa koneen ajattelua ei voi erottaa ihmisen ajattelusta, sitten voidaan kysyä, mitä tietoisuus tarkoittaa?

Ise ajattelen, että tietoisuus merkitsee sitä, että ymmärtää olevansa "elävä" ja "tunteva" olento ja omaa jonkinlaisen valinnanvapauden toimintaansa erottaen oikeat valinnat väärästä. Mielestäni mikään kone ei koskaan pysty ymmärtämään sitä, se kykenee vain noudattamaan sille tehtyä ohjelmaa.

[Narri]

Ise ajattelen, että tietoisuus merkitsee sitä, että ymmärtää olevansa "elävä" ja "tunteva" olento ja omaa jonkinlaisen valinnanvapauden toimintaansa erottaen oikeat valinnat väärästä. Mielestäni mikään kone ei koskaan pysty ymmärtämään sitä, se kykenee vain noudattamaan sille tehtyä ohjelmaa.

Jos koneelle onnistutaan luomaan keinotekoinen hermoverkosto, loogisia synapseja sun muita, jotka välittävät sille ärsykkeitä, eikö se silloin tunne?

Jos se reagoi noihin saamiinsa ärsykkeisiin (teko)älykkäästi valitsemalla itselleen sopivimman vaihtoehdon (kuten vaikkapa pelastaa itsensä palavasta rakennuksesta), eikö se silloin ajattele?

Eikö ihmisessäkin ole evoluution tuottama hyvin monimutkainen "ohjelma", jota me toiminnassamme noudatamme?

[Piru Naiseksi]

Jos pystytään luomaan tietokone toimivine keinotekoisine hermoverkkoineen ja aistimineen ... niin missä vaiheessa luomus lakkaisi olemasta pelkkä kone? Koneen voi esimerkiksi tuhota joutumatta syytteeseen murhasta tai edes eläinrääkkäyksestä mutta jos joku tuhoaa tuntevan koneen, niin syyllistyykö hän elävän, tietoisen organismin vahingoittamiseen? Taas kohtaamme elollisen ja elottoman välisen rajapinnan...

[tnjrp]

Tämä on tietenkin ongelmallista ja vielä oudommaksi asia menee, ellei keinoälyllä edes ole varsinaista tarkkaan rajattua ruumista vaan se elää jonkinlaisessa yksittäisestä alustasta riippumattomassa verkossa. Saako tulevaisuuden Piraattipuolue esimerkiksi kopioida tällaisen tekoälyn surutta, koska se on puhtaasti  digitaalinen/immateriaalinen?

[Zereott]

Eikö ihmisessäkin ole evoluution tuottama hyvin monimutkainen "ohjelma", jota me toiminnassamme noudatamme?

Ei minusta, sillä kaikilla on vapaa tahto. Kenenkään ei ole pakko tehdä mitään tai he voivat tehdä, mitä ikinä mieleen pälkähtää. Kenenkään ei kuitenkaan tädy väkisin mukautua johonkin tiettyyn "ohjelmointiin".

[tnjrp]

Mitä mahdat tarkoittaa, kun sanot "vapaa tahto"? Sellaisen olemassaolo ja määrittely ei sen kummemin ole filosohvaiselta kantilta ajatellen yksiviivaista kuin tajunnankaan. No ehkä asteen helpompaa kun sen voi olettaa olevan osa tajuntaa.

[Narri]

Ei minusta, sillä kaikilla on vapaa tahto. Kenenkään ei ole pakko tehdä mitään tai he voivat tehdä, mitä ikinä mieleen pälkähtää. Kenenkään ei kuitenkaan tädy väkisin mukautua johonkin tiettyyn "ohjelmointiin".

Koeta lopettaa hengittäminen, jos sinulla on täysin vapaa tahto. Tuskin onnistuu paria minuuttia kauempaa... ;-)

Eikö syy- ja seuraussuhteita ole? Eivätkö perimä ja ympäristö ohjaa toimintaa valinnanvapautta kaventavasti?

Vapaa tahto on niin epäselvä käsite, josta filosofit ja teologit ovat taittaneet peistä vuosisatoja, ettei sillä voi mitään perustella, ainakaan tietoisuutta.

Hmm, onko muurahaispesällä tietoisuus?

[Echramath]

Tämä on tietenkin ongelmallista ja vielä oudommaksi asia menee, ellei keinoälyllä edes ole varsinaista tarkkaan rajattua ruumista vaan se elää jonkinlaisessa yksittäisestä alustasta riippumattomassa verkossa. Saako tulevaisuuden Piraattipuolue esimerkiksi kopioida tällaisen tekoälyn surutta, koska se on puhtaasti  digitaalinen/immateriaalinen?

Ylipäätään yksilön käsitteestä tulee kummallinen, puhumattakaan olemassaolon jatkuvuudesta. Greg Egan esittää tästä mielenkiintoisen ajatusleikin Permutation Cityssä: samaa (biologisesta ihmisestä skannattua) persoonaa ajetaan kahtena täysin identtisenä kopiona. Niille kerrotaan, että viiden minuutin kuluttua toinen kopio deletoidaan. Onko kopioilla syytä huoleen?

Ylipäätään kaikkien kannattaa lukaista tässä vaiheessa (vaikka Wikipediasta), että mitä filosofisen zombin käsitteellä tarkoitetaan.

[tnjrp]

Mielenkiintoisehko artikkelisarja ihmisen tajunnan salojen viimeaikaisesta tutkmisesta:
http://www.sciencenews.org/view/feature/id/338083/title/Demystifying_the_Mind

[tnjrp]

Noam-setä kertoo, miksei (hänen mielestään) meillä vieläkään ole oikeaa tekoälyä:
http://www.theatlantic.com/technology/archive/2012/11/noam-chomsky-on-where-artificial-intelligence-went-wrong/261637/?single_page=true