Ovatko toimittajaverkostosi tekoälyriskit hallinnassa?
Tekoälyteknologian kehittyessä yhä useampi organisaatio hyödyntää sitä liiketoiminnassaan. Vaikka tekoäly on monille organisaatioille tärkeä osa nykyaikaisia liiketoimintaprosesseja, vain harva kehittää tekoälyjärjestelmiä itse. Sen sijaan suurin osa luottaa kolmansien osapuolten tarjoamiin ratkaisuihin.
Tekoälyteknologian kehittyessä yhä useampi organisaatio hyödyntää sitä liiketoiminnassaan. Vaikka tekoäly on monille organisaatioille tärkeä osa nykyaikaisia liiketoimintaprosesseja, vain harva kehittää tekoälyjärjestelmiä itse. Sen sijaan suurin osa luottaa kolmansien osapuolten tarjoamiin ratkaisuihin.
Yhteistyökumppanit ovat tärkeässä roolissa tässä muutoksessa. Kuitenkin jokainen palveluntoimittaja, yhteistyökumppani, alihankkija ja API-rajapinta merkitsee potentiaalista riskitekijää organisaatiollesi. Suurissa yrityksissä näitä yhteistyösuhteita voi olla kymmeniä tai jopa satoja, joten on tärkeää tunnistaa ja systemaattisesti hallita myös toimittajaverkoston tekoälyyn liittyviä riskejä.
Monet yritykset asettavat palveluntoimittajilleen laajasti vaatimuksia, usein kyselylomakkeiden muodossa, selvittääkseen niiden kyvykkyyden ja mahdolliset riskit. Mutta mitä vaatimuksia toimittajille tulisi asettaa tekoälyn käytön suhteen? Ei ole tarpeen aloittaa tyhjästä: olemassa oleviin toimittaja-arviointeihin voi lisätä tekoälyä koskevia kysymyksiä, joilla varmistetaan, että toimittajan käytännöt ovat linjassa tekoälyn vastuullisen käytön, eettisten periaatteiden ja EU:n lainsäädännön kanssa.
Tärkeitä kysymyksiä ja selvitettäviä asioita voivat olla esimerkiksi:
- Tekoälyn käytön arviointi: Käyttääkö toimittaja tekoälyä tuotteissaan tai palveluissaan? Ovatko sen tarjoamat järjestelmät EU:n tekoälysäädöksen mukaan suuririskisiä?
- Opetusdatan lähteet: Mistä toimittaja hankkii tekoälymallien koulutusdatan ja onko otos kattava eri demografisten ja maantieteellisten tekijöiden suhteen?
- Opetusdatan laatu ja säilytys: Miten toimittaja arvioi koulutusdatan laatua ja tarkkuutta? Kuinka tätä dataa säilytetään tekoälymallin koulutusprosessin aikana?
- Haavoittuvuuksilta suojautuminen: Miten toimittaja suojautuu tietoturvahyökkäyksiltä, esimerkiksi kehoteinjektiolta (prompt injection)?
- Sensitiivisen tiedon käsittely: Miten toimittaja varmistaa, että koulutusdatan mahdollisesti sisältämiä arkaluonteisia tietoja käsitellään asianmukaisesti?
- Tietojen hallintaprosessi: Mitä ohjeistuksia ja valvontakeinoja toimittajalla on, jotta se noudattaa tietosuoja- ja muuta lainsäädäntöä?
On myös olennaista ymmärtää, että riskienhallinnan tulee olla syklinen prosessi, joka jatkuu koko sopimuskauden ajan, eikä pelkästään uuden toimittajan valintavaiheessa. Riskit ja toimintaympäristö voivat muuttua, joten on tärkeää seurata ja arvioida niitä säännöllisesti varmistaaksesi, että toimittajaverkostosi toimii turvallisesti ja vastuullisesti.
Apua tekoälyriskienhallintaan
Mikäli kaipaatte tukea toimittajaverkostonne riskienhallintaan muun muassa tekoälyratkaisujen osalta, meillä PwC:llä on laaja verkosto asiantuntijoita, jotka voivat auttaa. Ota yhteyttä niin jutellaan lisää juuri teidän tarpeistanne!
