Vi tillater det

Løsningene blir altså bedre fordi at vi stadig gir tillatelse til at data kan hentes inn. Vi gir tillatelse når vi aksepterer cookies (informasjonskapsler), når vi tillater apper å lagre og sende data om hvor vi er og hvordan vi bruker dem, og vi gir tillatelse til litt av hvert når vi registrerer oss på sosiale medier eller andre former for nettløsninger.

Aksepter du kjøpsbetingelsene, aksepterer du at vi bruker dataene dine, aksepterer du at vi sender deg informasjon? Vi aksepterer – stort sett uten å ha lest betingelsene. Hvem leser vel sider med liten skrift når du egentlig bare skal kjøpe en liten dippedutt?

Skreddersydde gjenytelser

Til gjengjeld får vi skreddersydde tilbud om det vi er interessert i – produkter og tjenester, men også nyheter. Som vi vet er ikke nyheter lenger nyheter, men de er både fakta, fake news og alternative fakta (det har de vel egentlig vært lenge) og de blir stadig mer skreddersydde til hva den enkelte «ønsker» å tro på. Tror du på den ene «riktige» sannheten, bombarderes du også med nyheter om denne, mens alternative sannheter filtreres bort. Samfunn av meningsfeller dannes på nettet. Å få til meningsfulle diskusjoner når diskusjonen går mellom meningsfeller som bare kjenner til én side av en sak, kan det nok bli.

Lar deg selge

Én ting er at du mer eller mindre frivillig gir innsyn i ditt privatliv, men du har ganske sikkert også gitt tillatelse til at denne informasjonen kan selges på store internasjonale markedsplasser for kjøp og salg av personinformasjon.

Avslører misbrukerne

Offentlige aktører som NAV og Skatteetaten har stort sett lovhjemler/tillatelser for å bruke opplysninger om borgerne slik at de på et bedre vis kan avsløre både trygdemisbrukere og skattesnytere. Det er kanskje ikke et stort problem at algoritmene som er laget for å velge ut de som skal kontrolleres, er såpass komplekse at man ikke fullt ut forstår hvorfor noen velges ut for kontroll, mens andre ikke velges ut? Det er imidlertid en mulighet for at modeller reproduserer diskriminering i samfunnet. Skjevheter i datasett kan forplante seg inn i systemene, og befeste eksisterende ulikheter og forsterke forskjellsbehandling. Automatiserte systemer som vurderer jobbsøknader og peker ut de beste kandidatene trenes for eksempel på data fra tidligere ansettelser og vil kunne preges av skjeve valg og praksis fra f.eks. intervjurunder. Algoritmen vil da ikke bare videreføre en skjev praksis, men kan også gjøre den vanskeligere å oppdage.

Rettferdig?

Er det forresten rettferdig om det er du som hele tiden plukkes ut til kontroll, har mindre mulighet til å få jobb og må betale høyere forsikringspremie og lånerente bare fordi du tilhører en gruppe som har bestemte egenskaper? Er det rettferdig at du skal få alle fordelene hvis du er født med sølvskje i munnen, men alle ulempene hvis du er født i «feil» familie som bor på feil sted? Ikke at det er noe nytt, men vi er tross alt ikke bare del av en gruppe, men vi er like mye enkeltindivider med egne viljer som gjør egne valg.

Rett til forklaring

EUs personvernforordning gir innbyggerne rett til en forklaring av automatiserte beslutninger. Hvorfor er du blitt plukket ut fremfor noen andre? Ikke så lett å besvare når de som utvikler algoritmene og programvaren ofte ikke selv forstår fullt ut hvorfor noen velges ut fremfor andre.

Et reelt valg?

Rema forsikring har lansert Dingsen og Appen som registrerer hvordan du kjører og sørger for at du får prisen du fortjener, som det heter i reklamen. Andre produkter er på vei som vil gi deg en lavere pris dersom du lar en telefon, en sensor eller en annen «dings» få kartlegge andre deler av ditt privatliv, som for eksempel hvor mye du spiser, drikker eller trener. Du gir da frivillig innsyn i en del av privatlivet mot (forhåpentligvis) å spare penger. Greit nok, men hva med den dagen forskjellen i prisen på bilforsikringen eller helseforsikringen uten overvåking blir uforholdsmessig høy sammenlignet med prisen med overvåking? Har du da et reelt valg eller tvinges du i praksis til å til å gi fra deg dine personlige data?

Hvem er ansvarlig?

Til forskjell fra tradisjonell programmering, hvor maskiner løser en oppgave ved hjelp av et sett med presise instruksjoner, trenes intelligente løsninger opp til å løse forskjellige oppgaver uten at de i detalj blir forklart hvordan oppgaven skal løses. Jo flere oppgaver som løses, jo bedre håndteres neste oppgave. Når det er maskinen selv som bestemmer hvordan en oppgave skal løses, hvem er da ansvarlig om noe går galt? Den som har laget programvaren i utgangspunktet eller den som har trent den opp? I EU jobbes det med dette spørsmålet, og et område som spesielt peker seg ut, er selvkjørende biler. Et klassisk dilemma er spørsmålet om hva en selvkjørende bil skal gjøre når den havner i en situasjon der det ikke finnes noen god løsning? Hva gjør den når valget er mellom å kjøre på den middelaldrende advokaten som står ute i veien eller å kjøre på den unge tiggeren som står på fortauet?

Kvalitetssikring?

Et annet spørsmål etter hvert som maskiner blir i stand til å utføre oppgaver som tidligere ble gjort av en håndverker, en lege, en regnskapsfører eller en revisor, er om de da trenger en lignende kvalitetssikring eller sertifisering som de menneskene de erstatter?

Tenker stadig mer selv

Utviklingen av kunstig intelligens gjør at vi får maskiner (programmer) som tenker mer og mer likt som mennesker. De tar egne beslutninger basert på avveininger. Selv om en problemstilling ikke har et klart ja- eller nei-svar, veier maskinen argumenter for og imot og ender opp med en konklusjon avhengig av hva som veier tyngst. Jo mer erfaring en maskin har, jo riktigere blir beslutningen. Dette skjer gjerne innen såkalte nevrale nettverk, datastrukturer med tilhørende algoritmer, som er inspirert av måten nerveceller i en hjerne er organisert på.

Allerede overlegne oss mennesker

Vi vet at maskiner allerede kan tilegne seg og bruke kunnskap på et helt annet nivå enn mennesker samtidig som de blir bedre og bedre til å gjøre egne valg. IBMs Watson kan for eksempel både analysere store mengder ustrukturerte data og lese ca. 800 millioner sider med informasjon i løpet av ett sekund. Frykten er at det over tid vil bli utviklet maskiner med superintelligens som også utvikler andre verdier enn det menneskene har. Superintelligens er intelligens som langt overstiger selv de mest intelligente og talentfulle mennesker.

Frykter superintelligens

En mengde kjente forskere som blant annet Stephen Hawking har i et åpent brev* Research Priorities for Robust and Beneficial Artificial Intelligence, 2015. Se: https://futureoflife.org/ai-open-letter/ både lovprist og påpekt behovet for mer forskning når det gjelder kunstig intelligens. I et vedlagt dokument står det blant annet: «Stanford’s One-Hundred Year Study of Artificial Intelligence includes loss of control of AI systems as an area of study, specifically highlighting concerns over the possibility that … we could one day lose control of AI systems via the rise of superintelligences that do not act in accordance with human wishes – and that such powerful systems would threaten humanity.»

Elon Musk har karakterisert kunstig intelligens som «Greatest Risk We Face as a Civilization» og i Global Risk Report 2017* www3.weforum.org/docs/GRR17_Report_web.pdf gjennomført av World Economic Forum, betegnes kunstig intelligens både som en av de fremvoksende teknologiene med størst nytteverdi, men også som den teknologien med det største skadepotensialet.

Tilgjengelig for alle

Alle kan gratis laste ned verktøy for å lage intelligente løsninger fra internett og det samme gjelder kodingen av mange ferdiglagde løsninger. For å bruke verktøyene stilles det gjerne som motkrav at eventuelle løsninger som utvikles, også må legges ut åpent. På det vises sikres utvikling og videreutvikling av stadig bedre løsninger. På den annen side – det er ikke bare de «snille» som laster ned dette …

Veien videre

Store og raske teknologiske fremskritt vil dekke mange av våre behov raskere, bedre og til en lavere kostnad enn i dag, men til en pris. I tillegg til utfordringene beskrevet ovenfor, stiller mange seg spørsmål om hvordan dette vil påvirke arbeidsmarkedet og om det blir enda større forskjeller mellom ressurssvake og ressurssterke grupper – og kanskje generasjoner. Noen frykter også at noen få store teknologiselskaper vil bli så dominerende at de kan oppnå en slags monopolstilling.

Fortsatt er det imidlertid opp til oss selv hvordan fremtiden skal bli – den blir fortsatt til mens vi går. EU-parlamentet vurderer et rammeverk for regulering av kunstig intelligens som blant annet ser på juridisk ansvarliggjøring og registrering av avanserte systemer som bruker kunstig intelligens, retningslinjer for ansvarlig utvikling og ansvarsforhold når det gjelder tap forårsaket av slike systemer.

Fra norske politikere hører vi lite.