Stop Killer Robots Finland järjesti 24.5.2022 Aalto-Yliopistossa ennakkonäytöksen ja keskustelutilaisuuden dokumentille Immoral Code (Moraaliton koodi). Intiimiä tilaisuutta ohjasi Sadankomitean puheenjohtaja Kaisu Kinnunen.
Autonomisia aseita käsittelevä dokumentti kuvaa monimuotoisia ihmisiä vastaamassa joukkoon moraalisia kyllä/ei -kysymyksiä. Yksinkertaisilta kuulostaviin kysymyksiin ei kuitenkaan ole helppoja vastauksia, mikä johtaa henkilöt syvällisiin moraalisiin pohdintoihin ja eri lopputuloksiin – perustellusti. Filmi kysyykin, miten koneeseen ylipäänsä voitaisiin ohjelmoida moraali? Se myös alleviivaa, kuinka ennalta määrättynä autonomisiin aseisiin ohjelmoitu algoritmi todennnäköisesti suosisi heitä, jotka sen ovat ohjelmoineet. Kun kyseessä on tappava ase, tulevaisuudennäkymä on karmaiseva – etenkin aliedustetuille ihmisryhmille.
Saadaksesi mahdollisimman paljon irti asiantuntijakeskustelustamme, katso dokumentti osoitteesta: https://immoralcode.io/ (suomen kieliset tekstit saatavilla).
Miksi autonomisia aseita kehitetään?
Dokumentin esitystä seurasi asiantuntijapaneeli, jossa paikalla olivat Amnesty Internationalin Suomen osaston toiminnanjohtaja Frank Johansson, Twig the code yhdistyksen varapuheenjohtaja ja ohjelmoinnin opettaja Laura Järvinen, sekä Tekniikka elämää palvelemaan yhdistyksen edustaja professori Antero Honkasalo.
Päällimmäisiä ajatuksia dokumentista kuvaillessaan Johansson huomautti heti alkuun elokuvan saatesanojen kertoneen yleismaailmallisista ongelmista kuten köyhyydestä ja pandemiasta.
”Mietin elokuvan ensimmäisiä repliikkejä, jossa pohdittiin maailman tilaa ja minkälaisia ongelmia meillä pitäisi olla ratkaistavana. Onko nyt sellainen hetki, jossa kannattaa uhrata miljardeja dollareita autonomisten asejärjestelmien kehittämiseen?”
Vaikka onkin syytä kysyä, onko koskaan hyvä aika käyttää tolkuttomia resursseja autonomisiin aseisiin; on hyvä tosiaan pohtia, millä motiivilla niitä käytämme. Rahaa tuntuu riittävän loputtomasti tappamiseen. Tappajarobottien tapauksessa moraalisesti kelvottomaan projektiin, joka pyrkii silmittömään koneistettuun tappamiseen. Joskus on vain pysähdyttävä ja ihmeteltävä tarkoitusperiämme ihmiskuntana.
Johansson kuitenkin arvioi, miksi tappavia koneita halutaan kehittää: Suurvallat kuten Venäjä ja Yhdysvallat sensuroivat kuvia ja keskustelua omista sodissa kuolleista sotilaista pitääkseen julkisen mielipiteen sotamyönteisenä. Koneiden hoitaessa tappamisen tätä ei tarvittaisi, mutta käytännössä se madaltaisi sodan kynnystä ja tekisi siitä entistä vaarallisempaa.
Honkasalo totesi, että käynnissä on tietynlainen varustelukilpailu. Valtiot eivät halua jäädä aseteknologioissa jälkeen. Kone on ihmistä nopeampi ja valtiot luonnollisesti haluavat itselleen kaikista nopeimman tappajan. Honkasalo lisäsi myös, että autonomisiin aseisiin kehitettävä teknologia ei itsessään ole ongelma, sitä voi käyttää myös hyvään, kuten kadonneiden ihmisten etsimiseen metsästä droonien avulla. Maamiinakiellosta poiketen autonomiset aseet kieltävässä sopimuksessa ei oikeastaan voidakaan kieltää teknologiaa, vaan sen käyttötarkoitus.
Honkasalo halusi paneutua syvemmälle tekoälyn ja koneoppimisen nykytilaan ja totesi tutkimuksen olevan suureksi osaksi salaista, joten emme voi täysin tietää, kuinka lähellä käyttöönottoa autonomiset aseet ovat.
”Henkilökohtainen käsitykseni on, että valmius ottaa autonomisia aseita käyttöön on olemassa. Tekniikan tasoa ja sitä, kuinka teknisesti haavoittuvia ne ovat, on vaikea sanoa.”
”Koneilla ei ole ymmärrystä”
Johansson huomautti, että kaikki algoritmit ovat lähtökohtaisesti syrjiviä. Ne tekevät oletuksia ihmisistä esimerkiksi asuinalueeseen perustuen. Järvinen tarkensi tätä kuvailemalla, kuinka datajoukkoja kerätään lähinnä tai jopa yksinomaan enemmistöstä, jolloin on mahdotonta saada algoritmeihin tasapuolista edustavuutta. Helppouden takia saatetaan toisinaan käyttää valmiita datajoukkoja, joissa ei ole yhtään etnistä edustusta.
Tekoälyssä tulee myös eteen yllättäviä tilanteita, joita ei ole otettu huomioon. Silloin se saattaa yhdistää asioita keskenään niin, että lopputulos voi olla kaoottinen. ”Tekoäly saattaa esimerkiksi ’tunnistaa’ koirarodun, koska sille annetussa datajoukossa kuvista löytyy lumiset taustat”, Järvinen kuvailee. Tekoälyä kehittäessä virheitä korjataan niiden ilmaantuessa, koska kaikkia mahdollisia tilanteita ei voida ottaa huomioon. Tämä tekisi autonomisista aseista varsin kylmäävän ihmiskokeen.
Johansson mainitsi, että ohjelmoinnissa tehtävänä on usein se, että korjataan rikkinäistä koodia. Ohjelmia rakennetaan kuin legopalikoita; virheiltä ei voida välttyä. Lisäksi, mitä monimutkaisempi koodi on, sitä enemmän mahdollisuuksia syntyy sen hakkeroinnille. Järvinen lisäsi, että taustasäteilyn on huomattu muuttavan koodissa nollasta ykkösen. Tämä tuskin kuitenkaan kääntäisi koneet ’isäntiään’ vastaan. Tosin hakkereilla olisi motivaatio ja keinoja ottaa tappajarobotit haltuunsa.
Ohjelmistojen heikkouksien lisäksi tappajarobotteihin liittyy myös vakavia eettisiä huolia. Honkasalo tuumi, että vaikka olemme tuhansia vuosia pohtineet moraalifilosofiaa, aina syntyy uusia kysymyksiä ja ongelmia; eikä se ole ihmisillekään vielä helppoa. Johansson oli samoilla linjoilla:
“Miten moraalifilosofia voisi olla koneelle mahdollista? Jos ongelma on, että ihmisetkin toimivat sodassa väärin ja katuvat tekojaan, meidän pitäisi hakea keinoja estää sodan syttyminen. On vaikea käsittää, miksi joku haluaisi kehittää ongelmaan sellaisen ratkaisun että hirveydet vain koneellistetaan.”
Järvinen lisäsi, että koneet voidaan opettaa vain imitoimaan etiikkaa. Koneet ovat yksinkertaisiin prosesseihin varsin toimiva ratkaisu. Etiikka on kuitenkin niille liian monimutkaista.
Saadaanko tappajarobotit kieltävä sopimus aikaan?
Johansson huomautti, että kansainväliset sopimusprosessit ovat hitaita ja monimutkaisia prosesseja. Aseviennin sopimuksen prosessi YK:n sisällä kesti noin 15 vuotta ja oli täten suhteellisen nopea. Tärkeää on saada isoja valtioita mukaan viemään prosessia eteenpäin ja se etenee vasta kun kampanjalle saavutetaan kriittinen massa.
Maamiinat ja rypäleaseet kieltävät sopimukset lähtivät liikkeelle YK:n ulkopuolelta ja palasivat myöhemmin YK:n piiriin. Johansson oli optimistinen, että tappajarobotit kieltävä sopimus tulee saamaan vielä tuulta alleen paradoksaalisesti sen takia, että sota on taas lähempänä länsimaita, kuin aikoihin.
Autonomisista asejärjestelmistä on keskusteltu YK:n sisällä kahdeksan vuotta. Muutaman valtion hidastaessa neuvotteluita enemmistö kannattaa täysin autonomisten asejärjestelmien kieltoa. Näyttääkin siltä, että prosessissa seurataan maamiinojen ja rypäleaseiden jalanjäljissä – YK:n ulkopuolisin sopimusneuvotteluin.
“Sopimusten saaminen voimaan on vaikeampaa, kuin niiden hidastaminen. Syyrian ja Iranin edustajat käyttivät suurta diplomaattista taituruutta hidastaakseen asekauppasopimuksen syntymistä.” Johansson lisäsi.
Mitä voimme tehdä?
Yleisökeskustelussa pidettiin tärkeänä dokumentin nähtäväksi saaminen päättäjille sekä laajemmalle yleisölle, koska poliitikotkin kuuntelevat kansalaismielipidettä. Johansson halusi tappajarobotit kieltävän sopimuksen puolueiden vaaliohjelmiin:
“Ja yksittäiset poliittiset toimijat on saatava kiinnostumaan aiheesta ja viemään asiaa eteenpäin. Virkakoneiston vakuuttaminen ei yleensä auta, koska asioiden edistäminen aiheuttaa heille ylimääräistä työtä.”
Järvinen vetosi, että on syytä lähestyä myös ohjelmistoyrityksiä. Yrityksille on tärkeää viestiä arvoistaan myös markkinointinäkökulmasta. Mikäli saamme lupauksia toimijoilta, joita kuunnellaan, niin myös Suomi voi edistää merkittävästi kansainvälistä tappajarobotteja kieltävää sopimusta.
Paneelissa syvennyttiin myös tekoälyn ja koneoppimisen eroihin, sekä keskusteltiin siitä kuka on vastuussa tappajarobotin tekemistä virheistä tai rikoksista.
Stop Killer Robots edistää täysin autonomisten asejärjestelmien kieltoa, ja siten riittävän ihmiskontrollin säilyttämistä voimankäytössä. Allekirjoita vetoomus ja ole mukana estämässä tappajarobotteja tekemästä päätöksiä elämästä ja kuolemasta.
Eetu Lehto
Kirjoittaja on ihmisyyden teemoihin perehtynyt yhteiskuntatieteiden maisteri.
