I en uttalelse til Financial Times 28. april (og kommentert i Finansavisen samme dag) sier oljefondsjef Nicolai Tangen at det generelt er et sterkt behov for å regulere kunstig intelligens. Som leder av verdens største investeringsfond og Oljefondets ulike investeringer, kan det være interessant å spørre hvilke effekter KI kan ha på finans.
I Financial Times-artikkelen «Farene ved å la KI løpe løpsk i finans» 28. april 2023 advarer forfatteren nettopp mot å stole for mye på KI i finans uten tilstrekkelig tilsyn, åpenhet og regulering. Bekymringene inkluderer algoritmisk skjevhet (biases), cybersikkerhetsrisikoer og fluktuasjoner i finansmarkedene. La meg utdype:
- Algoritmisk skjevhet: KI-systemer er aldri bedre enn de dataene de blir trent på. Skjeve data, data som bygger på forutinntatte holdninger, kan føre til skjeve resultater. Innen finans kan dette få alvorlige konsekvenser for marginaliserte grupper som allerede kan møte diskriminering i finansielle tjenester. Ifølge en studie fra National Bureau of Economic Research, ble fargede og latinamerikanske låntakere belastet med høyere renter enn hvite låntakere med lignende kredittscore, inntekt og låne-til-verdi-rater. Dette antyder at algoritmisk skjevhet allerede kan være til stede i utlånsindustrien, selv uten bruk av KI. Med KI kan de bli forsterket. Dette gir grunn til bekymring.
- Cybersikkerhetsrisikoer: Ettersom finansinstitusjoner i økende grad stoler på KI-systemer for å håndtere sensitive data og prosesser, blir de mer sårbare for cyberangrep og datainnbrudd. Ifølge en rapport fra World Economic Forum, er cyberangrep den tredje største globale risikoen når det gjelder sannsynlighet, og den nest største når det gjelder virkning. I 2020 var gjennomsnittskostnaden for et datainnbrudd 3,86 millioner dollar, ifølge en rapport fra IBM Security. Dette gir grunn til bekymring.
- Markedsfluktuasjoner: Bruken av KI i handel av valuta og aksjer kan forsterke markedsfluktuasjoner, spesielt i krisetider. Ifølge en rapport fra Bank for International Settlements kan den økende bruken av algoritmisk handel ha bidratt til et «flash crash» (plutselig og dramatisk fall i et aktivum eller marked) den 6. mai 2010, da Dow Jones Industrial Average falt nesten 1000 poeng før den spratt tilbake. I tillegg har den økende bruken av KI i handel ført til bekymring for «black box»-modeller som er vanskelige å forstå eller forutsi. Både plutselige og uforklarlige fall og mangel på transparens gir grunn til bekymring.
Finans og KI har én ting til felles. De påvirker og angår alle. Det er derfor viktig å adressere risiki assosiert og gjerne forsterket ved KI i finans. Målet må være å sikre at bruken av KI i finanssektoren skjer på en etisk og ansvarlig måte. Dette kan bidra til å sikre at teknologi kan brukes til å skape positive resultater og bidra til økonomisk vekst, uten å forsterke negative samfunnsmessige utfall til glede for oss alle. Tangens opprop er derfor nødvendig, men mye KI-rusk ligger foran hans egen dør.
Tor W. Andreassen
Professor i innovasjon ved Norges Handelshøyskole (NHH)
