Autonomiset asejärjestelmät eivät ole vapaita ennakkoluuloista, sillä ne toimivat puolueellisten algoritmien pohjalta. Toisin sanoen tappajarobotit perivät ohjelmoijiensa ennakkoasenteet ja tiedostamattomat ajatusvääristymät. Jos autonomisia asejärjestelmiä ryhdytään käyttämään poliisitoiminnassa, taistelukentillä tai rajavalvonnassa, syrjintä ja rasistinen väkivalta voivat pahimmassa tapauksessa lisääntyä entisestään.
Autonomiset asejärjestelmät eivät turvaa rauhaa. Päinvastoin, ne ruokkivat konflikteja vaarantaen samalla erityisesti heikoimmassa asemassa olevien ihmisten turvallisuuden sota- ja kriisitilanteissa. Algoritminen syrjintä kohdistuu etenkin yhteiskunnissa marginaalisiksi miellettyihin ihmisryhmiin. Lisäksi toimintakyvyn rajoitteet voivat toimia asenteellisen väkivallan vaikuttimena. Koska autonomisen tuhovoiman käyttöönotto ja leviäminen vaikuttaisivat haavoittuvaisiin ihmisryhmiin, eriarvoisuus yhteiskunnassamme kärjistyisi entisestään.
Mikä tekee tappajaroboteista rasistisia?
Lukuisat todisteet osoittavat, että tekoäly ei toimi puolueettomasti, vaan pikemminkin ylläpitää historiallisia ennakkoluuloja marginalisoituja kansanryhmiä, etnisiä vähemmistöjä ja ei-valkoisia ihmisiä kohtaan. Tiedostamattomat ennakkoluulot siirtyvät tekoälyn suunnittelijoilta, kehittäjiltä ja ohjelmoijilta asejärjestelmiin valmistusprosessin kaikilla tasoilla asesäätelystä, suunnittelusta ja tuotannosta aina myynti- ja jakeluprosesseihin asti.
Esimerkiksi kasvojentunnistuksessa käytetyt vinoutuneet harjoitteluaineistot suosivat vaaleaihoisia, ulkoisesti maskuliinisia kasvoja tummemman ihonvärin ja ulkoisesti naisellisten kasvonpiirteiden kustannuksella. Tämä ennakkoasetelma ruokkii rakenteellisen ja institutionaalisen väkivallan kierrettä, josta kärsivät ennen kaikkea aineistossa huonoiten edustetut ihmiset.
Teknologian rasistisuus
Rakenteellinen ja institutionaalinen väkivalta ovat läsnä myös etnistä profilointia harjoittavissa järjestelmissä sekä rasistisesti vinoutuneissa tilastoissa. Esimerkiksi rikostilastojen perusteella tehdyt ennustukset siitä, missä ja kenen toimesta rikoksia tapahtuu, osuvat useimmiten matalatuloisten asuinalueisiin. Näillä alueilla asuvat väestöryhmät kuuluvat keskimääräistä suuremmalla todennäköisyydellä vähemmistö- ja maahanmuuttajaryhmiin.
Tekoäly ei analysoi tilastoja pintaa syvemmältä, ja oppii linkittämään marginalisoidut ihmisryhmät yhteen heikomman sosioekonomisen aseman ja rikollisten taipumusten kanssa. Tämä yksinkertaistettu näkemys ruokkii tietokantojen puolueellisuutta entisestään. Syntyneen noidankehän ansiosta vähemmistö- ja maahanmuuttajaryhmät joutuvat muita useammin tekemisiin poliisin ja viranomaisten kanssa. Usein he joutuvat kärsimään myös aggressiivisemmasta kohtelusta kuin muu väestö keskimäärin.
Syvään juurtuneet asenteet ja ennakkoluulot jatkavat elämäänsä osana tekoälyjärjestelmiä. Pahimmillaan tekoäly voi toistaa, kärjistää ja monistaa syrjiviä käytäntöjä ennennäkemättömiin mittasuhteisiin. Tämä tarkoittaa, että ne ihmiset, jotka ovat kautta aikojen joutuneet kärsimään sorrosta ja syrjinnästä, altistetaan edelleen väkivallan eri muodoille – tällä kertaa vain teknologian toimesta ja sen avustuksella.
Syvään juurtuneet asenteet ja ennakkoluulot jatkavat elämäänsä osana tekoälyjärjestelmiä.
Väkivallan automatisointi kasvattaisi erilaisiin hierarkioihin perustuvia valtaeroja ihmisten välillä, aiheuttaisi peruuttamatonta haittaa ennakkoluulojen uhreille ja lisäisi vaaraa tulla tapetuksi puolueellisista syistä. Algoritmien, kehittyvän teknologian ja tekoälyn valjastamista sodankäynnin ja kansalaisvalvonnan tarkoituksiin voi pitää ihmisoikeusuhkana, jonka negatiiviset vaikutukset osuisivat vahvimmin jo valmiiksi heikommassa asemassa oleviin ihmisiin.
Intersektionaalinen lähestymistapa autonomisiin asejärjestelmiin
Intersektionaalisuus auttaa kuvailemaan, ymmärtämään ja analysoimaan risteävää eriarvoisuutta yhteiskunnassa. Intersektionaalinen lähestymistapa valottaa, kuinka ihmisen eri identiteetit – esimerkiksi sukupuoli, etninen tausta, seksuaalisuus, uskonto, sosioekonominen asema, ikä ja toimintakyky – voivat yhdistyessään työntää yksilön marginaaliin. Tällöin puhutaan moniperustaisesta syrjinnästä. Esimerkiksi tummaihoiset naiset joutuvat kärsimään erillisestä syrjinnän muodosta – rasismin ja seksismin yhdistelmästä – joka rajoittaa heidän mahdollisuuksiaan toimia yhteiskunnassa ja altistaa heidät väkivallan eri muodoille. Syrjinnän luonteeseen voi vaikuttaa myös esimerkiksi toimintakyvyn rajoitteet ja uskonto.
Intersektionaalinen lähestymistapa turvallisuuspolitiikkaan ja aseidenriisuntaan auttaa ymmärtämään, miten tärkeää tappajarobottien kieltäminen on rauhan, tasa-arvon ja inkluusion kannalta.
Intersektionaalisuus auttaa ymmärtämään, miten tärkeää tappajarobottien kieltäminen on rauhan, tasa-arvon ja inkluusion kannalta.
Oli kyse sitten maamiinoista, rypälepommeista tai ydinaseista, yhteiskunnissa marginalisoidut ihmiset ovat kautta aikojen kärsineet konfliktitilanteista ja aseellisesta väkivallasta etuoikeutettuja ja valtaapitäviä enemmän. Autonomiset asejärjestelmät eivät muuttaisi tätä epätasa-arvoista lähtöasetelmaa millään tavalla. Väkivallan kierteen katkaisemiseksi on ehdottoman tärkeää, että tekoälyn kehitykseen liittyvät riskit tunnistetaan ja tunnustetaan. Meidän tulee suojella kaikkia ihmisiä, myös heikoimmassa asemassa olevia, ja siksi tappajarobotit on kiellettävä ennen niiden käyttöönottoa ja leviämistä.
Tavoitteena tulevaisuus ilman automatisoituja ennakkoluuloja ja tappajarobotteja
Ennakkoehto kestävälle rauhalle ja turvallisuudelle on, että kolonialismin, valkoisen ylivallan, rakenteellisen rasismin ja institutionalisoituneen sorron vaikutukset ymmärretään myös aseteollisuuden piirissä.
Monet maailman suurimmista aseiden valmistajista ja viejistä ovat entisiä siirtomaavaltoja Pohjois-Amerikasta ja Länsi-Euroopasta. Aikanaan nämä valtiot käyttivät siirtomaitaan (Afrikassa, Latinalaisessa Amerikassa, Aasiassa ja Lähi-Idässä) uusien aseiden testikenttinä ja sijoittivat sotakalustoa Tyynenmeren pienten saarivaltioiden alueille. Monet näiden aikojen rakenteet ovat pysyneet ennallaan, vaikka siirtomaakausi onkin päättynyt. On todennäköistä, että autonomisten asejärjestelmien käyttöönotto ja leviäminen vahvistaisi kolonialistisen valta-asetelman perinteitä, joissa suurvaltojen ylivoima kasvaisi entisestään.
Emme voi palata ajassa taaksepäin ja korjata historian epäoikeudenmukaisuuksia. Voimme kuitenkin pyrkiä purkamaan nykyisiä syrjiviä rakenteita, joita yhä elää yhteiskuntamme instituutioissa. Intersektionaalisella lähestymistavalla on tämän tehtävän kannalta suuri merkitys.
Historiallisten valtarakenteiden kyseenalaistaminen ei riitä – ne on purettava tasa-arvoisemman yhteiskunnan tieltä.
Kampanjamme tekee töitä epäoikeudenmukaisuuksien purkamiseksi. Rakenteelliseen rasismiin puuttuminen ja tasavertaisuuden edistäminen yhteiskunnissa on myös meidän tehtävämme. Tahdomme varmistaa, että meistä jokaisen sallitaan osallistua, vaikuttaa ja toimia vapaasti identiteettiemme eroista huolimatta. Historiallisten valtarakenteiden kyseenalaistaminen ei riitä – ne on purettava tasa-arvoisemman yhteiskunnan tieltä. Siksi on olennaista, että tulevassa autonomiset asejärjestelmät kieltävässä sopimuksessa huomioidaan intersektionaalinen lähestymistapa, puututaan rakenteelliseen syrjintään ja korostetaan osallisuuden merkitystä.
Autonomisten asejärjestelmien herättämistä huolenaiheista keskustellaan YK:ssa. Tällä hetkellä keskusteluihin ottaa osaa yli 90 maata. Vaikka Pohjois-Amerikan ja Euroopan maat ovatkin edenneet neuvotteluissa hitaasti, yhä useammat Afrikan, Latinalaisen Amerikan ja Lähi-idän maat vaativat tappajarobottien kieltämistä lailla. Kampanjamme peräänkuuluttaa rohkeaa poliittista johtajuutta päätöksenteon vauhdittamiseksi. Neuvottelut on aloitettava välittömästi, jotta kansainvälinen sopimus tappajarobottien kieltämiseksi saadaan solmittua ennen kuin ihmiset menettävät hallinnan kehittämiinsä asejärjestelmiin.
Teksti on mukaillen käännetty kansainvälisen Campaign to Stop Killer Robots -verkoston verkkosivuilta. Suomen verkoston toimintaa voit seurata @stopkillerrobotsFI tai @KillerRobotsFI.