Tässä postauksessa tulen käsittelemään algoritmeja. Pohdin muun muassa niiden vaikutusta minulle tarjottuun tietoon ja työnhakuun. Lisäksi pohdin algoritmeja tasa-arvon näkökulmasta. Algoritmeillä tarkoitetaan yksinkertaisuudessaan kuvausta tai ohjetta, jonka mukaan tehtävä, prosessi tai ongelmanratkaisu suoritetaan (Mannerheimin lastensuojeluliitto). Algoritmeja hyödynnetään nykypäivänä hyvin paljon erilaisissa asioissa. Esimerkiksi algoritmit ohjaavat sitä, mitä Instagramissa tai muissa sosiaalisen median kanavissa sinulle näytetään ensimmäisenä.
Yhdenvertaisuus valtuutetun blogin mukaan myös tekoälyä koskee yhdenvertaisuuslaki, jossa määritellään ja kielletään syrjintä. Tästä huolimatta erityisesti algoritmeissa on hyvin paljon syrjintää. Lukemani blogin mukaan tämä voi johtua hyvin monista eri tekijöistä esimerkiksi virheellisestä datasta tai siitä, että algoritmille on annettu suoraa vaikutusta syrjintään johtaville tekijöille kuten sukupuolelle tai iälle.
Luin myös Ylen uutisen koskien työnhakuun liittyvää syrjintää. Tekoälyn ja algoritmien hyödynnetään nykyään enenevissä määrin myös työntekijöiden valinnassa. Tämä tuo mukanaan myös syrjinnän, joka johtaa epätasa-arvoiseen rekrytointiprosessiin. Algoritmit laittavat työnhakijat tiettyyn järjestykseen niille syötetyn datan mukaisesti. Uutisessa kerrottiin, että esimerkiksi Suomen suurin henkilöstöpalveluyritys Barona hyödyntää tekoälyä erottelemalla potentiaalisimmat työnhakijat kaikkien hakijoiden joukosta. Tämä tapahtuu algoritmien avulla, jotka oppineet millaisilla ansioluetteloilla on työllistynyt ja millaisin perustein vastaaviin työpaikkoihin on aikaisemmin päässyt.
Ylen uutisessa kerrottiin myös, että EU:n tietosuojalain mukaan asiakkaalla on oikeus joutua automaattisen päätöksenteon kohteeksi. Jäin kuitenkin pohtimaan, kuinka tämä käytännössä toteutuu. En ole itse ainakaan työhakemuksia lähettäessä törmännyt millään tavoin siihen, miten tämä huomioidaan. Toivottavasti tämä kuitenkin toteutuu onnistuneesti myös käytännössä.
Talouselämän uutisen mukaan myös suuryritys Amazon hyödynsi tekoälyyn perustuvaa työnhakua. Kuitenkin huomattiin, että algoritmi tunnisti yrityksen miesvaltaisuuden ja oletti tämän olevan yksi yrityksen menestystekijöistä. Työnhaku alkoi siis syrjimään naisia. Tämän huomattuaan Amazon lopetti algoritmeihin perustuvan työnhaun.
Tällainen on mielestäni todella ongelmallista, mikäli algoritmit automaattisesti jättävät tiettyyn ryhmään kuuluvat hakijat työnhaun ulkopuolelle. Yleisesti mikään yksittäinen demograafinen tekijä kuten sukupuoli tai sivilisääty ei kerro suoraan hakijan kelpoisuudesta työtehtävään. Pitäisi enemmän seurata algoritmien toimintaa ja puuttua ongelmakohtiin, jotta tällaista syrjintää ei tapahtuisi.
Lähteet:
Tiesitkö, että tekoälyyn ja algoritmeihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu? Luettavissa: https://syrjinta.fi/-/tiesitko-etta-tekoalyyn-ja-algoritmeihin-liittyvaa-syrjintaa-valvoo-yhdenvertaisuusvaltuutettu-. Luettu: 11.11.2022.
Lisääntyykö syrjintä työnhaussa? Tekoäly seuloo entistä useammin työnhaussa hyvät akanoista. Luettavissa: https://yle.fi/uutiset/3-10034072. Luettu: 11.11.2022.
Amazon päätti lopettaa tekoälyyn perustuvan kokeilunsa havittuaan, että se syrji naisia. Luettavissa: https://www-talouselama-fi.ezproxy.haaga-helia.fi/uutiset/amazon-paatti-lopettaa-tekoalyyn-perustuvan-kokeilunsa-havaittuaan-etta-se-syrji-naisia/a946332f-7f47-337c-bd34-86d35984210a. Luettu 12.11.2022.
Kuva 1: https://read.xamk.fi/2021/muu-kehittaminen/voiko-tekoaly-syrjia/
Aihe, jota en olekaan ennen ajatellut. Hyvin tärkeä asia ottaa huomioon algoritmeja käytettäessä. Yllätyin itsekin, että algoritmi "oppii" syrjimään itsenäisesti. Sopivan pituiset kappaleet. Algoritmista itsestään olisi voinut vielä kertoa tarkemman esimerkin.
VastaaPoistaErittäin mielenkiintoista luettavaa. Blogista käy hyvin ilmi algoritmien käyttämisen ongelmakohdat. Mielestäni automaatio algoritmien avulla voi olla hyvä ajatus, mikäli sitä ei tehdä harkitsemattomasti ja liian nopeasti, kuten esimerkiksi Amazonin esimerkistä käy hyvin ilmi. Ihmiset eivät ehkä tajua miten paljon algoritmit ohjaavat heidän elämäänsä, ja blogissa oli hyvin kerrottu osasta näitä osa-alueita. Hyvää omaa pohdintaa läpi tekstin.
VastaaPoistaMielenkiintoinen kirjoitus! Oli mukavaa lukea omista näkemyksistäsi ja olit valinnut hyviä lähteitä blogiisi. Avasit myös alkuun hyvin, mitä algoritmeilla ylipäätään tarkoitetaan ja kuinka niitä hyödynnetään. Algoritmit ovat mielestäni todella mielenkiintoinen aihe ja niiden toiminnan huomaa usein, kun selaa somea ja vastaan tulee oikeasti itseäni kiinnostavia uutisia ja kirjoituksia. En ollut ajatellutkaan kuinka paljon algoritmit toimivat vastoin lakia ja syrjivät osaa ihmisistä
VastaaPoistaLukiessani blogitekstistä, että algoritmeja käytetään myös työnhakijoihin, ajattelin vain, että pitää varmaan mennä päivittämään CV. Työnhaku saattaa monesti olla jo muutenkin vaikea prosessi, ja se, että algoritmitkin saattavat vielä syrjiä siinä, ei kuulosta hyvälle. Oli mielenkiintoista lukea lisää, millä eri tavoilla algoritmit syrjivät ihmisiä. Kiitos hyvästä blogitekstistä!
VastaaPoista