Turvallisuus, tekoäly ja automatisoitu päätöksenteko ovat nousseet otsikoihin. Tekoälyä voi hyödyntää ihmiskunnan hyväksi lukemattomin eri tavoin mutta samaan aikaan sitä kehitetään aseteollisuuden käyttöön. Tekoälyn ja koneoppimisen kehittyessä myös asejärjestelmien autonomia lisääntyy, mikä johtaa käytännössä siihen, että koneet alkavat korvata ihmisiä aseellisessa voimankäytössä.
Ihmisen korvaaminen koneella tarkoittaisi, että ihminen ei enää määritä missä, milloin tai edes ketä vastaan aseellista voimaa käytetään. Nämä päätökset on ulkoistettu autonomiselle asejärjestelmälle eli robottiaseelle tai tappajarobotille, joka tunnistaa kohteensa sensoritiedon perusteella ja käyttää tuhovoimaa itsenäisesti.
Autonomisista asejärjestelmistä on keskusteltu viimeiset yhdeksän vuotta YK:n sisällä, mutta keskustelut eivät ole johtaneet sopimusneuvotteluihin. Suomi ei ole myöskään lausunnoissaan ilmoittanut tukevansa neuvotteluja oikeudellisesti sitovasta välineestä. Asiantuntija Yeti Kakko näkee keskustelun hyvin jakautuneena ja politisoituneena:
“Kieltoa vaatii voimakkaimmin kansalaisjärjestöt, suoran puheen kieltosopimuksen puolesta on esittänyt noin 30 valtiota ja monet merkkihenkilöt sekä tuhannet asiantuntijat. Sitten on valtioita, jotka suoraan vastustavat kaikkea sitovaa sääntelyä. Monet maat asettuvat johonkin välimaastoon ja kannattavat esimerkiksi poliittista julistusta, mikä ei ole sitovaa sääntelyä.”
Kansanedustajilla on keskeinen rooli sellaisen kansainvälisen sopimuksen tukemisessa, joka ehkäisee tappamisen automatisoinnin ja takaa voimankäytön inhimillisen hallinnan. Siksi Stop Killer Robots Finland verkostomme kutsui eduskuntavaaliehdokkaat keskustelemaan aiheesta vaalipaneeliin.
Algoritminen syrjintä ja sopimisen mahdollisuudet puhuttivat
Tampereen Puistotornissa keskusteltiin 20.3.2023 algoritmisen syrjinnän ongelmista, robottiaseista sekä rauhan edistämisen mahdollisuuksista nykyisessä turvallisuuspoliittisessa ympäristössä.
Vihreiden edustaja Merve Caglayan kertoo, että on tärkeää kiinnittää huomiota algoritmin kehittäjään, koska näemme algoritmisen syrjinnän muotoja jo nyt:
“Kun menette pesemään käsiä vessaan, niin siellä on suurimmassa osassa hanoista sensori, joka päättää, rupeaako vesi valumaan kraanasta vai ei. Siitä on ollut esimerkkejä, että tummaihoinen ihminen on yrittänyt saada sen käynnistettyä, eikä se ole käynnistynyt … Epäilen suuresti, että niinkin kuoleman ja elämän kysymyksissä kuin tappamisessa pystyisimme tekemään niin aukottoman järjestelmän, että sen päätösten takana voi oikeasti seisoa.”
Nuorena Libanonin sisällissodan nähneelle sosiaalidemokraattien edustajalle Mahmoud Machaalille rauhan rakentaminen on kaiken ytimessä. Hän näkee, että aseiden automatisointi voi lisätä epäoikeudenmukaisuutta ja eskaloida tilanteita entisestään:
“Meidän ensimmäinen vastuu ja velvollisuus on pelastaa ihmishenkiä. Tällä hetkellä tuntuu, että kehityssuunta on epätasapainossa, kun käytetään niin paljon rahaa aseisiin, joiden tarkoituksena on viedä toiselta henki…”
Poliisina työskentelevä ja Venäjän tutkimusta Tampereen yliopistossa opiskeleva Sebastian Lohja kokoomuksesta on huolissaan tulenarasta turvallisuustilanteesta ja nostaa esiin sodan roolin teknologian kehityksessä:
“Sotien aikana erilaiset teknologian kehitykset ottavat valtavia harppauksia eteenpäin. Tässä on nyt riski, kun Euroopassa käydään sotaa ja meillä on muutenkin jo vuosia kestänyt asevarustelukierre maailmassa, että tämä on omiaan lisäämään myös autonomisia asejärjestelmiä tai niiden kehitystä. Jos tähän halutaan reagoida, niin nyt on asioita tehtävä.”
Sähkötekniikan opiskelija, keskustan Miina-Maija Simonen vertaa robottiaseita itsenäisesti ajaviin autoihin:
“Näen tässä paljon yhtymäkohtia kokonaisuuteen tekoälystä yleisesti – tai kaikesta, johon liittyy ihmisen vaurioituminen. Esimerkiksi autojen kohdalla: Jos se osuu johonkin, niin kenen vastuulla se on? Sama kysymyshän on näissä robottiaseissa! Erona vain on, että näitä muita tekoälysovelluksia ei ole tarkoitettu tappamaan toisin kuin robottiaseet.”
Feministisen puolueen edustaja Riikka Pöntinen nostaa esiin huolen asevarustelun lisääntymisestä ja rauhantyön näkökulman katoamisesta keskustelusta: “Tällä hetkellä rauhantyön näkökulma ei ole ollenkaan keskustelussa mukana, eikä kukaan sitä uskalla oikein tuoda esiin.”
Suomen Kommunistisen Puolueen edustaja ja Tiedonantaja-lehden päätoimittaja Petra Packalén on huolissaan lisääntyvästä ylivarustelusta:
“Ylivarustelustahan täytyy ilman muuta päästä eroon ja teknologian kehitys itseasiassa vain kiihdyttää varustelua. Lisäksi tullaan siihen, kuka hyötyy varustelusta ja sen kiihdyttämisestä – ja ilman muuta yksi hyötyjä on ne aseita valmistavat yritykset.”
Vasemmistoliiton Liban Sheikh iloitsee, että tekoälyn murroksen myötä keskustellaan tekoälyn etiikasta, ja mihin sitä on sopivaa käyttää esimerkiksi korkeakouluopinnoissa:
“Ikävä kyllä se keskustelu on ollut vähäisempää kun puhutaan sotateollisuudesta. Tekoälyn ja teknologian etiikasta keskustelu on usein vähän vinoutunutta: Joissain asioissa ja joissain päin maailmaa keskustellaan paljon, mutta sitten kun autonomisia aseita käytetään tai testataan globaalissa etelässä, niin siitä ei ole samanlaista eettistä keskustelua.”
“Tekniikan vinoumat pitää ottaa myös huomioon, eihän teknologia tai tekoäly ole sukupuolisista tai etnisistä vinoumista vapaa. Sen huomaa monessa muussakin teknologiassa, ja kun on kyse elämästä ja kuolemasta, ollaan todella merkittävän vastuun äärellä.”, hän lisää.
Simonen tunnistaa algoritmisen syrjinnän ongelmat mutta korostaa ihmisten vastuuta teknologian kehittäjinä:
“Kehittäjäjoukon pitäisi olla monipuolisempi, jotta siellä osattaisiin ajatella näitä erilaisia seikkoja. Sehän ei sinänsä ole sen tekniikan vika, ettei se tunnista, vaan se on kehittäjien vika, että tekoälyn kouluttamiseen ei ole otettu riittävän monipuolista otantaa erilaisia ihmisiä tai muita tapauksia.”
Caglayan tietää, että teknologiayrityksissä on viime vuosina keskusteltu siitä, että tarvitsemme monipuolisempia ihmisiä kehittämään algoritmeja, jotta pystymme ottamaan huomioon erilaiset tilanteet. Hän ei kuitenkaan näe tätä ratkaisuna robottiaseiden herättämiin huoliin:
“Ongelma tulee siinä vaiheessa, kun puhumme tappamisesta, ja kuinka lopullinen se päätös on … En näe mahdollisena, että tulemme koskaan saamaan niin monipuolista joukkoa, että se olisi täysin virhevarma. Sitten kun virhe tapahtuu, niin kuka siitä on loppupeleissä vastuussa? Ei oikeastaan kukaan.”
Samaa teknologiaa voi käyttää ihmisten elinolosuhteiden parantamiseen ja tappamiseen. Autonomisiin aseisiin kehitettävä teknologia ei itsessään olekaan ongelma vaan sen käyttötarkoitus. Machaal näkee, että kehitystä pitäisi ennemmin ohjata ihmisten hyvinvointiin:
“Teknologia voi palvella meitä ihmisiä, eläimiä ja luontoa. Olen hyvin huolissani siitä, että teknologiaa kehitetään väärällä tavalla. Huomasin esimerkiksi terveydenhuoltoalalla, että robotilla voi olla erittäin hyviä pointteja. Se voi olla leikkauksissa, purkaa miinoja. Tätä teknologiaa voitaisi kehittää niin, että saadaan elämää jatkumaan meille ja tuleville sukupolville, ja tähän teknologian kehittämiseen pitäisi mielestäni kiinnittää enemmän huomiota.”
Kaikki näyttivät vihreää valoa kansainväliselle sopimukselle autonomisten aseiden kieltämiseksi. Huolena nähdään muun muassa robottiaseiden ennakoimattomuus ja sodan kynnyksen laskeminen.
“Robottiaseilla ei ole tilannekohtaista harkintaa, minkä takia on tärkeää, että päätös toisen hengen riistämisestä on loppukädessä ihmisellä”, Caglayan toteaa.
“Se on ovi, mitä emme ehkä halua avata. Seuraukset voivat olla ennakoimattomia. Jos ne sallittaisiin ja sitten ruvettaisi säätelemään, niin se ei yleensä toimi.”, Pöntinen jatkaa.
Packalén on myös täyskiellon puolella: “Tutkijat ja ihmiskunta eivät tiedä, missä mennään tekoälyn kehityksessä tällä hetkellä. Se on epäselvää ja sieltä voi tulla vielä lisäuhkia varsinkin, jos autonomisia aseita kehitetään.”
“Robottiaseet pitäisi kieltää, koska sodankäynnin kynnyshän laskee. Silloin voi tulla ajatus, että ei ole riskiä sotilaiden kuolla, mikä voi hämärtää konfliktien vaikutusta ja siviilit kärsivät siinä kaikista eniten.”, Sheikh pohtii.
Suomi voi olla suunnannäyttäjä
Panelistit ovat yhtä mieltä siitä, että Suomen tulee osoittaa vahvaa johtajuutta sopimuksen edistämiseksi. Kaikki eivät kuitenkaan näe, että sopimusta kannattaisi olla ensimmäisten joukossa allekirjoittamassa saatika ilman suurvaltoja.
“On ensisijaisen tärkeää, että suurvallat saataisi sopimukseen mukaan. Sen jälkeen meillä on enemmän pelimerkkejä, mutta jos nämä isot toimijat eivät ole sopimuksen piirissä, silloin se on tyhjä paperi.”, Lohja toteaa.
Hän näkee mahdollisena yhteisen tahtotilan löytämisen, onhan niin käynyt aiemminkin:
“Kylmän sodan kuumina vuosina Neuvostoliitto ja Yhdysvallat pystyivät sopimaan ydinaseista, ja sen takia katson, että kun saamme rakennettua sellaisen asetelman, että kaikilla on yhteinen tahtotila – että ymmärretään autonomisten asejärjestelmien vaarat – niin silloin on mahdollista saada toimijat pelaamaan yhteen. Pakko kuitenkin sanoa, että tämänhetkinen tilanne maailmassa on neuvottelujen kannalta hankala lähtökohta.”
Simonen näkee, että yhteisen tahtotilan löytäminen on tällä hetkellä vaikeaa mutta hänkin korostaa Suomen roolia keskustelun herättäjänä ja yhtyy siihen, että Suomen tulee olla ensimmäisten joukossa vaikuttamassa siihen, että isot maat lähtevät sopimukseen mukaan. Samoilla linjoilla on Machaal: “Suomi voi olla näyttämässä suuntaa, mutta tarvitaan laajempi kansainvälinen tahto.”
Caglayan ajattelee, että Suomi voi olla kokoaan isompi ja ottaa edelläkävijän roolin, kuten on tehty esimerkiksi ilmastonmuutoksen torjunnassa. Suomella onkin mahdollisuus olla edelläkävijä kansainvälisen sopimuksen aikaansaamisessa, jos poliitikot ovat valmiita osoittamaan poliittista johtajuutta.
Panelistit pohtivat aseistautumisen ennaltaehkäisevää vaikutusta, maailman realiteetteja sekä sotien hintaa. Kansainvälisten sopimusten voima asetetaan myös kyseenalaiseksi, koska sotien aikana niitä usein rikotaan.
Sheikh kuitenkin korostaa kansainvälisten sopimusten tärkeyttä, koska myös sotien ja kriisien aikana tarvitaan yhteisesti sovitut raamit sille, mikä on hyväksyttyä ja mikä ei. Hän myös huomauttaa, että kriisiaikoina tehdään kovia arvovalintoja, jotka nähdään realistina, vaikka keskustelua tulisi käydä ennemmin etukäteen.
“Se, miten ehkäistään sotia ja näiden asejärjestelmien kehittämistä, on toisaalta rauhantyöhön suhtautuminen vakavasti sekä tasa-arvotyö, ihmisoikeuksien ja ihmisarvoisen politiikan edistäminen, tyttöjen ja naisten kouluttautuminen – näillä me ennaltaehkäisemme sotia. Aseita on olemassa, mutta jos suhtaudumme siihen realiteettina, mille emme voi yhtään mitään, niin tottakai se pysyy realiteettina.”, Pöntinen pohtii.
Packalén myös huomauttaa, että esimerkiksi sodanvastainen liike ei ole pelkästään rauhanajan ilmiö: “Sodanvastainen liike toimii, vaikka Suomessa olisi sota, ja vaatii kansainvälistä aseidenriisuntaa. Ei se muuta ajatuksia vaatimuksista oli tilanne mikä tahansa.”
Panelistit näkevät eri tavoin kansanedustajien mahdollisuudet vaikuttaa. Vaikuttaminen Euroopan unionissa ja Natossa nähdään väylinä rakentaa turvallisempaa maailmaa. Kirjaus hallitusohjelmaan nostetaan konkreettiseksi tavaksi ohjata toimintaa. Tärkeänä pidetään myös sellaisten kansalaisjärjestöjen työn tukemista, jotka ovat asiantuntijoita aseidenriisuntakysymyksissä ja nostavat rauhantyön näkökulmia julkiseen keskusteluun.
