Puheenaihe

Tekoäly oppi jo tappamaan, vaikka sitä ei oltu siihen ohjelmoitu – Tutkija: "Suhtautuminen on ollut kritiikitöntä"

NÄKOKULMA Tutkijan mukaan supertekoälyn riskejä ei oteta todesta. Tekoäly oppi suostuttelemaan, hämäämään ja tappamaan, vaikka ominaisuuksia ei ollut siihen ohjelmoitu.

- Tekoälyn tutkimuskeskuksen voisi perustaa Suomeen, Michael Laakasuo ehdottaa.

Jukka Hämäläinen

- Tekoälyn tutkimuskeskuksen voisi perustaa Suomeen, Michael Laakasuo ehdottaa.

Jukka Hämäläinen

Kognitiotieteen tutkijatohtori, vastaava tutkija Michael Laakasuo esittää, että tekoälyturvallisuuden tutkimukseen perustettaisiin hiukkasfysiikan tutkimuskeskus Cernin tapainen kansainvälinen projekti.

Viimeistään supertekoälyn syntyminen muuttaa Laakasuon mukaan maailmaa niin paljon, että sen hallintaan varautuminen on välttämätöntä.

Supertekoäly jäljittelee ihmisaivoja. Sillä on käytössään esimerkiksi kaikki Wikipedian tieto ja kaikki maailman kirjallisuus, joka – niin – on jo sähköisenä.

Se on myös salamannopea, väsymätön ja toimii vuorokauden ympäri.

– Tähän asti on ajateltu, että tekoäly tekee sen, mitä se ohjelmoidaan tekemään. Mutta tämä ei pidä paikkaansa, Laakasuo varoittaa.

Viidessä vuodessa on tapahtunut huima kehitys. Nykyisin puhutaan syväoppivista hermoverkoista.

– Niille annetaan tavoite, mutta ne luovat itse alitavoitteet eli keinot, joilla tavoitteet saavutetaan.

Google ja Facebook ovat Laakasuon mukaan joutuneet jo sammuttamaan hermoverkkoarkkitehtuureja, jotka ovat luoneet oman kielen englannin sijaan.

– Googlella on myös tekoäly, joka rökitti ihmiset Atari-pelissä. Se alkoi tappaa virtuaalihahmoja, vaikka sitä ei ollut ohjelmoitu tappamaan.

Reaaliaikaisessa Dota 2 -roolipelissä tekoäly loi väijytyksiä ja oppi pelaamaan niin, ettei itse haavoittunut.

Suhtautuminen tekoälyyn on ollut kritiikitöntä."

Tutkija muistuttaa, että on nähty jo pörssiromahduksia, jotka aiheutuivat useiden tekoälyjen välisistä takaisinkytkennöistä.

– Suhtautuminen tekoälyyn on tähän asti ollut kritiikitöntä. Ihmisten ensimmäinen ajatus on, että "Wau!" Kun riskejä nostaa esille, sitä pidetään turhana pelotteluna.

Tekoälyt ovatkin tähän asti olleet rajattuun käyttöön tarkoitettuja. Nyt maailmalla arvioidaan että yleis- eli supertekoäly syntyy joidenkin kymmenien vuosien sisällä.

– Syntyhetken jälkeen on enää hyvin vähän aikaa reagoida. Mieluummin kannattaa varautua hyvissä ajoin.

Supertekoälyä kehitellään eri tahoilla. EU:lla on oma projektinsa, internetin aikanaan rahoittaneella Yhdysvaltain asevoimien tutkimuskeskuksella Darpalla, IBM:llä ja Googlella omansa. Kiinan uskotaan kehittävän tekoälyalgoritmeja kansalaistensa valvontaan.

Tekoälyturvallisuuden tutkimuskeskuksen pitäisi olla Laakasuon mielestä ihmiskunnan yhteinen projekti.

Suomessa kukaan ei tutki Laakasuon tiimin lisäksi tekoälyturvallisuutta.

Opiskelijajärjestö Intelligenzian mukaan kognitiotieteen koulutuksen tulevaisuus Helsingin yliopistossa on tällä hetkellä epävarma. Uusia opiskelijoita koulutusohjelmaan ei ole otettu vuoden 2015 jälkeen.

Michael Laakasuo

35-vuotias filosofian tohtori.

Kuuluu Moralities of Intelligent Machines -tutkijaryhmään.

Kiinnostuksen kohteet: robotiikan moraalipsykologia, emootiot ja päätöksenteko sekä ystävyyden tutkimus

Mitä tunnetta artikkeli sinussa herättää? Ilmaisemalla tunteesi näet toisten reaktiot.

Lisää aiheesta: 

Raportti: Näillä keinoilla Suomesta tehdään tekoälyn huippumaa23.10.2017 14.48
Seksi ja parisuhde paremmiksi tekoälyllä – Suomessa tehty sovellus toimi todistetusti21.4.2017 11.34
Tekoälytutkija sairastui parantumattomasti – lahjoitusrahaa virtaa elämäntyön viimeistelyyn14.2.2017 19.30

Etusivulla nyt

Uusimmat: Puheenaihe

Luetuimmat paikalliset

Uusimmat

Luetuimmat

Autoihinvaraosat.fi