Algoritmer, tillit og sandkasser
Effekten av digitalisering bremses fordi man ikke har den nødvendige tilliten til tjenestene – med rette, skriver Eirik Gulbrandsen i Datatilsynet.
Mot slutten av 1800-tallet i USA undersøkte kjemikeren Harvey Wiley innholdet i en rekke industrielt produserte matvarer. 90 prosent av honningkrukkene inneholdt ikke honning, lønnesirup var stort sett ikke lønnesirup og syltetøy bestod som de nevnte matvarene også stort sett av billig maissirup, hvor sirupen var tilsatt epleskall for tekstur. Enda verre var det at melk ble tilsatt formaldehyd, vannet ut og tilsatt gipspulver for å fremstå som frisk, hvit og ubedervet. Barn ble syke og døde. I 1906 opprettet USA sin første forbrukervernlov for å sikre trygg mat. *1
En digital nedkjølingseffekt
Datatilsynet gjennomførte i årskiftet 2019/2020 en personvernundersøkelse som blant annet påviser en digital nedkjølingseffekt. Effekten av digitalisering bremses fordi man ikke har den nødvendige tilliten til tjenestene – med rette.
Det blir stadig tydeligere at gigantene bak fenomenet «sosiale medier» - som matprodusentene på 1800-tallet - ikke makter å tilby disse tjenestene til samfunnets og enkeltmenneskets beste. Google, Facebook m fl er i realiteten først og fremst annonsesalgsselskaper som gjennom kynisk bruk av algoritmer første og fremst ønsker du skal trykke så mange annonser som mulig via deres plattform. Dette er den moderne varianten av maissirup og utvannet melk – en dystopisk og polariserende digital virkelighet skapt fordi man ønsker å selge annonser.
Algoritmene som benyttes i disse sammenhengene faller i mange tilfeller innenfor (en relativt bred) definisjon av «kunstig intelligens» (KI). *2
Enormt potensial
Det positive potensialet for løsninger som benytter KI-algoritmer er enormt. Som f.eks. bedre og mer effektive helsetjenester. Nyttige og effektive offentlige og private tjenester generelt. Ikke bare i industrialiserte land, men kanskje spesielt i land med krevende utfordringer knyttet til økonomi og samfunnsinfrastruktur.
Samtidig kan teknologien – tilsiktet eller ikke – føre til løsninger som konsekvent foreslår menn til tekniske stillinger i Google eller systematisk foreslår strengere straffer for afroamerikanere i rettssystemet. Eller foreslår kostbare helsebehandlinger for noen grupper og ikke for andre. Uten av vi kanskje helt skjønner hvorfor?
Der hvor Wiley satt blant glasskolber og målebegre for å finne en forklaring på hva «syltetøyet» egentlig bestod av, trenger vi også gode metoder, mekanismer og prosesser for å kunne forklare hva de mer komplekse algoritmene benyttet av kunstig intelligens egentlig gjør. Dette behovet for forklarbarhet er grunnleggende viktig for å kunne håndheve et av de grunnleggende prinsippene i Personvernforordningen – rettferdighetsprinsippet (Personvernforordningen/GDPR Art 5.1).
Men hva er en god og forståelig forklaring? Når er forklaringen «god nok»? Når må man forklare og på hvilken måte? Dette gjelder ikke spesielt løsninger som benytter kunstig intelligens, men får ekstra gyldighet når man benytter akkurat denne teknologien. KI som konsept er ikke nytt, men den massive utbredelsen og tilgjengeligheten av teknologien siste årene gjør at dette har fått helt ny aktualitet.
Sandkasse for kunstig intelligens
Som en del av Nasjonal strategi for KI (tidlig 2020) var et av tiltakene å opprette en såkalt sandkasse spesifikt for kunstig intelligens. Datatilsynet fikk oppdraget med å realisere denne og allerede 1. desember i år åpnet vi for søknader for prosjekter. Her skal alle typer virksomheter av alle størrelser kunne melde inn prosjekter som benytter KI og persondata, gjerne på måter som krever en grundig forståelse av hvordan man skal sikre at dette gjøres innenfor lover, regler og god praksis for ansvarlig bruk av teknologien. Mange svar på dette er foreløpig ubesvarte, uklare eller krever en god og bredt sammensatt kompetanse for å avklares. Sandkassen er et sted hvor man kan lære sammen (også Datatilsynet) og hvor man så publiserer resultatene av denne kunnskapen for alle.
Et mål at det skapes løsninger som samtidig som de skaper nytteverdi for samfunnet og enkeltmennesket, som også ivaretar deres rettigheter. Dette legger også grunnlaget for tillitt – kanskje det aller viktigste elementet for å lykkes over tid. Å produsere KI-løsninger som har stor forbrukertillit, ikke bare i Norge, men i hele verden er en eksportartikkel med enormt potensiale!
Nysgjerrig på sandkassen? I gang med å etablere et prosjekt, en tjeneste eller et selskap som enten utvikler eller benytter eksisterende løsninger hvor KI og persondata er viktige elementer?
Ta en kikk på https://www.datatilsynet.no/sandkasse og hvis du kjenner «kallet» - send inn en søknad om deltagelse! Søknadsfristen for første runde er 15. januar 2021.
*1 Fra boken «Det store spillet», Bår Stenvik
*2 «Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål.», Nasjonal strategi for kunstig intelligens, KMD.
