Mitä ovat robottiaseet?
Robottiaseet on yksi nimitys täysin autonomisille asejärjestelmille. Autonomia on järjestelmän kykyä toimia itsenäisesti, ilman ihmisen ohjausta. Nykyisin monissa asejärjestelmissä on autonomisia ominaisuuksia. Täysin autonominen asejärjestelmä olisi järjestelmä, jonka kriittisten funktioiden käytössä ihmisellä ei olisi merkityksellistä roolia. Kriittisiä funktioita ovat asejärjestelmän kyky tunnistaa kohde ja iskeä siihen. Täysin autonominen asejärjestelmä eli robottiase voisi siis päättää itsenäisesti, mihin kohteeseen iskeä ja käyttää voimaa sitä vastaan.
Mitä muita nimityksiä robottiaseista käytetään?
Populääri nimitys täysin autonomisille asejärjestelmille on tappajarobotti. Sanassa huomio kiinnittyy järjestelmän kriittisiin toimintoihin eli kykyyn päättää voimankäytöstä.
Yhdistyneissä kansakunnissa tappajaroboteista on keskusteltu nimittämällä niitä tappavaa voimaa käyttäviksi autonomisiksi järjestelmiksi (Lethal Autonomous Weapons Systems, LAWS). Käsitteen ongelma on kuitenkin se, että voiman ei tarvitse olla tappavaa ollakseen ongelmallista kansainvälisen oikeuden tai etiikan näkökulmasta. Esimerkiksi vammauttava voimankäyttö voi olla yhtä lailla kiellettyä tai moraalitonta, kuten vaikkapa henkilömiinat tai rypäleaseet kieltävät sopimukset osoittavat.
Milloin järjestelmä on täysin autonominen?
Robottiaseiden vastustajien näkemys on, että on kaksi toimintoa, joiden tulee olla ihmisten hallinnassa: kohteen valinta ja voiman käyttö sitä kohtaan. Ihmisen tulee olla aidosti vastuussa ja päättämässä näistä asioista. Ei siis riitä, että ihminen ohjelmoi järjestelmän valitsemaan tietynlaisia kohteita, vaan kontrollin tulee säilyä yksittäisiin iskuihin asti.
Ihmisellä on myös oltava todellinen mahdollisuus varmistaa, että järjestelmän keräämät tiedot ovat riittävät kohteen valintaan ja siihen iskemiseen. Aitoa ihmiskontrollia ei siis ole se, että ihmisellä on pienen hetken aikaa kyky perua järjestelmän tekemä päätös.
Täydellä autonomialla asejärjestelmissä tarkoitetaan siis tilannetta, jossa ihmisen kontrolli kriittisistä toiminnoista ei ole riittävä tai merkityksellinen.
Onko tappajarobotteja olemassa, ja kuka niitä kehittää?
Täysin autonomisia asejärjestelmiä ei vielä ole käytössä, mutta maailma on tappajaroboteilla käytävän asevarustelukierteen kynnyksellä. Tällä hetkellä pitkälle autonomisia asejärjestelmiä ovat esimerkiksi Israelin ja Etelä-Korean käytössä olevat rajavartiorobotit, jotka kykenevät tunnistamaan ja valitsemaan kohteita. Iskukäskyn on yhä tultava ihmiseltä, mutta toiminto on autonomisoitavissa. Autonomisia asejärjestelmiä kehittelevät myös Yhdysvallat, Venäjä, Kiina ja Iso-Britannia.
Miksi robottiaseita vastustetaan?
Täysin autonomisiin asejärjestelmiin liittyy merkittäviä ongelmia kansainvälisen oikeuden, etiikan ja kansainvälisen turvallisuuden näkökulmasta.
Kansainvälinen humanitaarinen oikeus asettaa säännöt sodankäynnille. On kyseenalaista, kykenisikö robottiase noudattamaan sen vaatimuksia. Ongelmallisia ovat etenkin seuraavat sodankäynnin säännöt:
- Sodassa on eroteltava siviilit sotilaista ja siviilikohteet sotilaskohteista. Iskuja ei saa kohdistaa siviileihin. Sotilaskohteeseen iskemisen seurauksena ei saa aiheuttaa suhteetonta vahinkoa siviileille. On kyseenalaista, kykenisikö robotti erottelemaan siviilit sotilaista riittävällä varmuudella jatkuvasti muuttuvissa sotatilanteissa. Suhteettoman vahingon arviointi puolestaan ei ole matemaattinen operaatio vaan edellyttää eettistä, kontekstisidonnaista arviota ja päätöstä, josta sen tekijä on vastuussa.
- Jos sodankäynnin sääntöjä rikotaan, vastuu rikoksista on henkilökohtainen. Jos rikoksen tekee kone, kysymys vastuusta hämärtyy. Joutuisiko syytettyjen penkille komentaja, koneen ohjelmoija, valmistaja vai joku muu? Robottia tuskin voi asettaa vastuuseen teoistaan.
On eettisesti ongelmallista, jos roboteille annetaan oikeus päättää ihmisten elämästä ja kuolemasta. Tämä halventaisi ihmisarvoa sekä ihmisoikeutta elämään. Siirtäessämme päätösvallan elämästä koneille ulkoistaisimme roboteille myös moraalin.
Kansainvälisen turvallisuuden kannalta ongelmia on useita, esimerkiksi:
- On mahdollista, että robottiaseiden käyttö madaltaisi kynnystä sotimiseen, kun taisteluun ei tarvitsisi lähettää ihmissotilaita. Lisäksi vaarana olisi, että tämä vähentäisi halukkuutta ratkaista konfliktit neuvottelemalla.
- Robottiaseiden kehittäminen voisi johtaa kiihtyvään kilpavarusteluun, joka heikentäisi kansainvälistä turvallisuutta
- Robottiaseet voisivat levitä myös ei-valtiollisille toimijoille ja mahdollistaa uudenlaiset terroriteot. Verrattuna esimerkiksi ydinaseisiin, robottiaseiden teknologia on halvempaa ja siten helpommin leviävää.
- On kyseenalaista, olisiko mahdollista kehittää asejärjestelmä, joka ei joutuisi epäkuntoon, toimisi arvaamattomalla tavalla tai olisi alttiina hakkeroitumiselle. Teknisten ongelmien, järjestelmien kaappauksen ja odottamattomien vaikutusten riski kasvaisi entisestään, jos robottiaseita käytettäisiin useiden kymmenten tai satojen parvina.
Eikö robotin voisi ohjelmoida ihmistä eettisemmäksi?
Usein robottiaseita puolustetaan perustuen ajatukseen, että hyvin kehitetty asejärjestelmä voisi noudattaa humanitaarista oikeutta ihmisiä uskollisemmin. Ei ole kuitenkaan todistettu, että tällaisen asejärjestelmän kehittäminen olisi mahdollista. Kun nykyisiä autonomisia järjestelmiä on ohjelmoitu tunnistamaan kohteita, ne ovat tehneet huomattavia virheitä esimerkiksi kohteen ympäristön vaihtuessa. Jos kone on oppinut tunnistamaan vaikkapa panssaroidun ajoneuvon aavikolla, se ei välttämättä ole kyennyt tunnistamaan sitä metsän edustalla.
Vaikka tunnistuskyky hiottaisiin huippuunsa ja virheiden määrä minimoitaisiin, sodankäynti on kuitenkin liian muuttuvaa ja kontekstisidonnaista, jotta sitä voitaisiin typistää algoritmeihin. Sotilaat siviiliasuissa, antautuvat sotilaat ja siviilit sotilaspuvuissa tai aseiden kanssa voivat olla vaikesti erotettavissa ihmisillekin. Kuinka robottiase tekisi oikean päätöksen ilman ihmiselle mahdollista kulttuurista päättelyä ja empaattista ajattelua?
Toinen robottiaseiden puolustukseksi käytetty ajatus on skenaario, jossa sodat olisivat robottien välisiä. Eikö silloin säästettäisi ihmistaistelijoiden ja siviilien henkiä? Valitettavasti nykyinen sodankäynti on harvoin sellaista, että osapuolet voitaisiin lähettää muusta maailmasta eristetyille taistelukentille. Useimmiten sotaa käydään kaupungeissa ja kylissä, siviilien keskellä. Sodat ovat myös usein epäsymmetrisiä, ja niissä saattaa olla vastakkain vaikkapa hyvin aseistetut hallituksen joukot ja ei-valtiollisia ryhmittymiä. Todennäköistä olisikin, että robottiaseita käytettäisiin sekä ihmissotilaita että – tarkoittamatta tai tarkoituksella – siviilejä vastaan. Vaikka ideaalitilanne tapahtuisikin ja tappajarobotit sotisivat toisiaan vastaan etäisissä kohteissa, on myös muistettava, että asejärjestelmien vuorovaikutuksesta saattaisi syntyä odottamattomia yhteisvaikutuksia, joilla voisi olla tuhoisat vaikutukset.
Kuka robottiaseita vastustaa?
Kansainvälinen kampanja, Campaign to Stop Killer Robots, perustettiin vuonna 2012 edistämään robottiaseiden kieltämistä. Kampanjaan kuuluu 87 kansainvälistä ja kansallista kansalaisjärjestöä 40 maasta.* Suomesta mukana ovat Sadankomitea ja Rauhanliitto. *tilanne elokuussa 2018
Robottiaseita vastaan ovat puhuneet myös lukuiset robotiikan ja tekoälyn tutkijat, kehittäjät ja yrittäjät. Esimerkiksi vuonna 2017 116 alan asiantuntijaa vetosi Elon Muskin johdolla tappajarobottien kieltämiseksi.
Euroopan parlamentti on äänestänyt robottiaseita vastaan useita kertoja, viimeksi syyskuussa 2018. 26 valtiota on ilmoittanut kannattavansa tappajarobottien kieltoa, minkä lisäksi enemmistö valtioista katsoo, että YK:ssa tulisi neuvotella tappajarobottien sääntelystä. YK:ssa aiheesta on keskusteltu vuodesta 2014. Lisäksi osa valtioista on käsitellyt asiaa kansallisesti ja esimerkiksi äänestänyt siitä parlamentissa.
Mitä voidaan tehdä, jotta robottiaseista ei tule todellisuutta?
Tehokkain tapa puuttua asiaan olisi saada aikaan kansainvälinen sopimus, joka kieltäisi täysin autonomisten asejärjestelmien kehittämisen, valmistuksen ja käytön. Sopimus tarvitaan nyt, ennen kuin robottiaseet ovat sodankäynnin todellisuutta, ja mukaan tarvitaan kaikki valtiot. Vaikka sopimukseen eivät heti liittyisikään kaikki asemahdit, sen aikaansaama kansainvälinen normi hillitsisi autonomisten asejärjestelmien kehittämistä sekä sijoituksia tällaisten järjestelmien kehittämiseen.
Tällä hetkellä autonomisista asejärjestelmistä keskustellaan YK:n tavanomaisten aseiden kokouksessa, joka on nimittänyt erillisen asiantuntijaryhmän käsittelemään aihetta.
Robottiaseiden kehittämistä ja käyttöä voidaan säädellä myös kansallisesti sekä esimerkiksi EU:ssa. Joissain valtioissa eduskunta on äänestänyt robottiaseiden kieltämisen puolesta, ja Euroopan parlamentti on asettunut kiellon kannalle.
Robotiikan, tekoälyn, kansainvälisen oikeuden, etiikan, turvallisuuspolitiikan ja monien muiden alojen tutkijat voivat omalla työllään ja kannanotoillaan osoittaa, että täysin autonomisten asejärjestelmien kehittäminen on kestämätöntä. Yritykset voivat investoinneillaan ja yhteiskuntavastuupolitiikassaan päättää olla tukematta robottiaseiden kehittämistä, ja työntekijät voivat vaatia työnantajiltaan eettistä toimintaa. Kansalaisyhteiskunta voi lisätä tietoisuutta asiasta, mobilisoida tukea tappajarobottien kieltämiseksi ja järjestää tarvittaessa boikotteja tai muita toimia robottiaseita kehittäviä yrityksiä tai valtioita vastaan.
Mitä Suomen tulisi tehdä?
Suomen tulee ottaa YK:ssa ja EU:ssa aktiivinen rooli robottiaseiden kiellon edistämiseksi. YK:ssa Suomen tulisi puolustaa täysin autonomisten asejärjestelmien kieltoa, ja EU:ssa edistää aloitteita, jotka hillitsisivät robottiaseiden kehittämistä.
Tarvitsemme toimia myös Suomessa. Eduskunnan on keskusteltava aiheesta ja annettava hallitukselle selkeä poliittinen viesti, että sen on toimittava robottiaseiden kieltämiseksi. On myös huolehdittava, etteivät suomalaisyritykset osallistu täysin autonomisten asejärjestelmien kehittämiseen.
Mistä löydän lisätietoja?
- Esite täysin autonomisista asejärjestelmistä
- Esite autonomian sääntely asejärjestelmissä
- Rauhanliiton sivut aiheesta
- Kansainvälisen Stop Killer Robots -kampanjan nettisivut
- Hollantilaisen Pax-järjestön sivusto tappajaroboteista
Miten pääsen mukaan robottiaseiden vastaiseen työhön?
Jos kampanjointi robottiaseita vastaan kiinnostaa, ota yhteys Sadankomitean pääsihteeri Jarmo Pykälään (jarmo.pykala@sadankomitea.fi) tai suoraan kampanjan koordinaattoriin Kaisu Kinnuseen (kaisu.kinnunen@sadankomitea.fi).
