Miten varautua villiintyneeseen tekoälyyn?
CNN raportoi syyskuun puolivälissä, että Yhdysvaltain armeijalle olisi tapahtunut vakava läheltäpititilanne. Sen kerrottiin johtuneen virheellisestä, osin tekoälyä käyttäen tuotetusta tiedusteluraportista. Raportti väitti erään kiinalaisen aluksen kuljettavan ydinaseiden valmistukseen tarvittavia materiaaleja Lähi-itään. CNN:n lähteen mukaan Yhdysvallat olivat valmiudessa hyökätä tätä alusta vastaan. Aiheesta on kirjoittanut myös tekoälytutkijat Timnit Gebru ja Emily M. Bender The Guardianissa.
Tekoäly luo organisaatiolle säästöjen ja tehostamisen mahdollisuuksia. Mutta kuten kaikki uusi teknologia, se luo ennakoimattomia riskejä. Jokainen organisaatio joutuu tasapainottelemaan näiden välillä. Riskit voidaan luokitella sisäisiin ja ulkoisiin, ja niistä on kattavia selvityksiä.
Näkökulmastani henkilöstöresursseihin ja hyvinvointiin liittyviä riskejä ei ole kuitenkaan vielä kunnolla tunnistettu tekoälyä koskevassa keskustelussa. Kiinnittäisin huomiota erityisesti seuraaviin asioihin:
Tekoäly saattaa heikentää organisaation sisäistä osaamista
- Kokematon työntekijä ei opi taitoja ja tietoja, jos hän nojaa liikaa tekoälyyn työssään
- Kokeneemmat tekjiät eivät ylläpidä osaamista, jos käyttävät rutiinitehtäviin aina tekoälyä
- Arvostelukyvyn pettäminen: työntekijä ei osaa arvioida tekoälyn tuottaman vastauksen luotettavuutta
- Tekoälyn käyttö voi alkaa ohjaamaan ajattelua ja lisätä vinoumia
- Magangement by AI: Työntekijä ottaa ohjeistuksen tekoälyltä ennemmin kuin esimieheltään tai esimies ulkoistaa työnsä tekoälyle ja yleinen laadunvalvonta kärsii
- Kukaan ei kirjoita, kukaan ei lue: organisaation sisäinen viestintä ulkoistuu tekoälylle ja siten organisaatiokulttuuri rappeutuu
Juuri tästä vaikuttaa olevan kyse Yhdysvaltain armeijalle CNN:n mukaan tapahtuneessa vakavassa virheessä: inhimillisestä erehdyksestä. Työntekijät käyttävät tekoälyä ja tekevät viime kädessä päätöksen siitä, luotetaanko sen antamaan informaatioon vai ei.
Paras väline villiintyneen tekoälyn hallintaan on työntekijöiden osaaminen.
Kirjoittaja on Kilpimuuri oy:n hallituksen jäsen.