Tekoälyllä avustetaan lainapäätöksiä
Selvitimme, mitä riskejä automaattiseen päätöksentekoon liittyy.
Selvitimme, mitä riskejä automaattiseen päätöksentekoon liittyy.
Pankit ja muut rahalaitokset käyttävät tekoälyä ja erilaisia laskentamalleja algoritmeineen päätöksentekonsa apuna. Esimerkiksi luottokelpoisuuden arvioimiseen on käytetty laajasti jo kauan automaattiseen henkilötietojen käsittelyyn pohjautuvia tilastollisia menetelmiä (eng. credit scoring).
Tilastotietoihin pohjautuvien, maksukäyttäytymistä ennustavien menetelmien käyttö on sallittua osana luotonhakijan luottokelpoisuuden arviointia, mutta vain yksinomaan tilastollisten menetelmien käyttäminen lopullisen päätöksen perusteena ei ole riittävää.
“Kuluttajan luottokelpoisuutta on aina arvioitava kuluttajan yksilöllisen taloudellisen aseman perusteella”, Finanssivalvonnan toimistopäällikkö Virva Walo kertoo.
Automaattisessa päätöksenteossa on riskejä läpinäkyvyyteen, vastuunjakoon ja syrjintään liittyen.
“Kuluttajan näkökulmasta on tärkeää, että luottopäätös perustuu ajantasaisiin, virheettömiin ja riittäviin tietoihin kuluttajan taloudellisesta asemasta.”
Päätöksenteon pitää siis olla riittävän läpinäkyvää. Kuluttajalle pitää kertoa luottopäätöksen perustumisesta automaattiseen päätöksentekoon, päätöksenteon logiikasta ja mahdollisuudesta saada luottopäätös uudelleen ihmisen arvioitavaksi. Esimerkiksi silloin, kun lainapäätöksen tekemisessä käsitellään luottoluokitustietoja, voitaisiin kertoa miksi automaattista päätöksentekoa käytetään, mitä tekijöitä painotetaan ja mikä on eri asioiden painoarvo ja mikä on tietojen alkuperä.
Walo lisää, että toinen kuluttajan kannalta keskeinen asia automaattisessa päätöksenteossa ja tekoälyn käytössä on sen varmistaminen ja valvominen, ettei päätöksenteko pohjaudu kiellettyihin syrjintäperusteisiin.
Luottokelpoisuuden arvioinnissa käsitellään henkilötietoja ja asiakkaan taloudellista asemaa koskevaa salassa pidettävää tietoa. Lainapäätöstä varten voidaan esimerkiksi analysoida rekisteröidyn antamat tiedot, rekisteröidyn aikaisempi maksukäyttäytyminen ja eri rekistereistä löytyvät tiedot.
“Tällaisen datan hyödyntämiseen liittyy aina myös henkilötietojen suojaan ja kyberturvallisuuteen liittyviä riskejä, joiden hallitseminen on tärkeää.”
Automaattisen päätöksenteon keskeisiä valvontaviranomaisia ovat Finanssivalvonnan lisäksi ainakin tietosuojavaltuutettu, yhdenvertaisuusvaltuutettu ja kuluttaja-asiamies.
EU:n tekoälyasetus täsmentää tekoälyn käytön vaatimuksia. Sen tavoitteena on varmistaa, että tekoälyjärjestelmät ovat turvallisia ja kunnioittavat perusoikeuksia. Asetuksen soveltaminen ja valvonta alkaa asteittain vuosien 2026 ja 2027 aikana. Se jakaa järjestelmät riskitason mukaan.
Tekoälyjärjestelmät, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, ovat asetuksen mukaan suuririskisiä tekoälyjärjestelmiä. Ne vaikuttavat henkilöiden mahdollisuuteen saada taloudellisia resursseja tai olennaisia palveluja.
Voiko olla vaarana, että luototusmarkkina toimii sääntöjen reunoilla? Mitä, jos automaatiota kerrotaan käytettävän suosituksena, mutta käytännössä päätös nojaa siihen? Walo korostaa, että luotonantajien on toimittava sääntelyn mukaisesti.
“Automaattinen henkilötietojen käsittely ja päätöksenteko on sallittua luotonmyönnössä sääntelyn asettamin reunaehdoin. Parhaimmillaan automaatio ja tekoäly voivat parantaa luottopäätösten laatua.”
Lähteet:
Finanssivalvonnan toimistopäällikkö Virva Walon haastattelu
https://tietosuoja.fi/automaattinen-paatoksenteko-profilointi
https://publications.bof.fi/handle/10024/54138
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://link.springer.com/article/10.1007/s00146-023-01676-3
https://www.op.fi/en/op-financial-group/to-the-media/publications/ai-transparency-reports
lainat
Tekoäly
