Yle raportoi tällä viikolla sisäministeriön hallinnonalan viranomaisten hyödyntävän yhdysvaltalaisen teknologiayhtiö Palantirin teknologiaa. Palantir valmistaa analyysiohjelmistoja muun muassa viranomaiskäyttöön.
Palantirin toimintaan liittyy vakavia ihmisoikeushuolia. Ihmisoikeusjärjestö Amnesty International on raportoinut yhtiön yhteyksistä Israelin toteuttamaan Gazan kansanmurhaan toimittamalla tekoälytuotteita ja -palveluja Israelin armeijalle ja tiedustelupalveluille. Yhtiön on lisäksi katsottu sivuuttaneen kansainvälisen oikeuden normeja muun muassa Yhdysvaltojen maahanmuuttoviranomaisten (DHS, ICE) operaatioissa.
Käytännössä Palantirin toimittamilla työkaluilla on ollut keskeinen rooli Yhdysvaltain viranomaisten toimintatavoissa, jotka ovat Amnesty Internationalin arvioiden mukaan uhanneet lisätä mielivaltaisia ja lainvastaisia viisumien peruutuksia, pidätyksiä, karkotuksia ja lukuisia ihmisoikeusloukkauksia. Uhattuna ovat olleet esimerkiksi oikeus yksityisyyteen, sananvapauteen ja tiedonsaantiin, liikkumisvapaus, yhdenvertaisuus ja syrjimättömyys sekä oikeus vapauteen ja mielenosoittamiseen. Amnesty Internationalin mukaan Palantirin Immigration OS:n kaltaiset järjestelmät uhkaavat tuottaa automatisoituja päätöksiä ja oikeusturvan vakavaa heikentymistä maahanmuuttovalvonnassa ja ovat johtaneet Yhdysvalloissa ennennäkemättömällä nopeudella toteutettuihin joukkokarkotuksiin.
Yhdysvaltojen esimerkki on osoittanut, että ohjelmistojen automatisoidut ominaisuudet mahdollistavat ihmisten jatkuvan massaseurannan, valvonnan ja arvioinnin usein siinä tarkoituksessa, että toimia kohdistetaan muihin kuin kansalaisiin. Palantir on yhdistetty esimerkiksi ennakoivaan valvontaan tekoälyn avulla. Ilman yksilöityä rikosepäilyä tai muita vahvoja perusteita yksilöön ja laajoihin joukkoihin kohdistettu valvonta on ongelmallista useiden ihmisoikeuksien kannalta.
Viimeisimpänä Palantir on noussut kyseenalaiseen valoon huhtikuussa julkaisemansa manifestin vuoksi. Manifestissa Palantir julistautuu käytännössä kannattamaan äärioikeistossakin havaittavissa olevaa sivilisaatioiden välisen taistelun maailmankuvaa, jonka mukaan "toiset kulttuurit ovat toimintakyvyttömiä ja taantumuksellisia". Yhtiö peräänkuuluttaa "kovan vallan hyödyntämistä" ja Piilaakson teknologiajättien "moraalista velkaa kotimaalle" julistaen näin asettautumista Yhdysvaltain intressien puolelle. Yhtiön halu käyttää poliittista valtaa globaalisti on siis julkilausuttu tavoite.
Yhdysvaltalaisten teknologiamiljardöörien poikkeuksellisen suora vaikutusvalta presidentti Trumpin lähipiirissä on kiihdyttänyt kehitystä, jossa poliittinen päätöksenteko, valtiolliset intressit sekä suurten yksityisten pääomien ja teknologiayhtiöiden tavoitteet kietoutuvat yhä tiiviimmin yhteen. Liittolaisille tämä merkitsee ennen kaikkea kasvavaa epävarmuutta: Yhdysvaltain linjauksiin vaikuttavat entistä näkyvämmin paitsi valtiojohto myös sen ympärille rakentunut taloudellinen ja teknologinen valtakeskittymä.
Yhtiön epäluotettavuuteen on herätty jo joissain Euroopan maissa. Ylen jutussa viitataan Sveitsin päätökseen olla tekemättä yhteistyötä Palantirin kanssa, päätöksen takana oli huoli tietoturvasta. Myös Britanniassa tietoturvahuoliin on reagoitu aiemmin tänä vuonna, kun Palantirille oltiin antamassa pääsy erittäin arkaluontoisiin Britannian finanssivalvonnan tietoihin sen jälkeen, kun Financial Conduct Authority, FCA, oli myöntänyt yhtiölle sopimuksen sisäisten tiedustelutietojensa tutkimiseksi. Iso-Britannian kansanedustajat kehottivat hallitusta pysäyttämään tämän sopimuksen.
Tekoälyohjelmistoja otetaan nyt käyttöön perusoikeusherkissä viranomaisprosesseissa, joissa yksilöiden oikeusturvan toteutuminen on välttämätöntä varmistaa. Palveluita ja ohjelmistoja ei voida ostaa sellaisilta yhtiöiltä, jotka ovat todistetusti mahdollistaneet palveluillaan oikeudellisesti kyseenalaisen massavalvonnan, oikeusturvaa loukkaavien automatisoitujen viranomaispäätösten, ihmisoikeusloukkausten ja jopa kansanmurhan toteutumista.
Suomen on yhdessä EU:n kanssa rakennettava johdonmukainen strategia niin teknologisen riippuvuuden vähentämiseksi yhdysvaltalaisista teknologiajäteistä kuin tekoälyohjelmistojen viranomaiskäytön oikeusturva- ja ihmisoikeusstandardien varmistamiseksi.