Pålitelig AI og velferd

I denne landsbyen vil du utforske temaet kunstig intelligens og dens rolle i forbedring av offentlige velferdstjenester. Det vil bli fokusert på å etablere ny kunnskap om bruken av AI-applikasjoner, brukeres behov for å forstå hvilken rolle AI-applikasjoner har i levering av velferdstjenester, viktige egenskaper ved applikasjonene, samt hvilke typer data de bruker. Dette vil bidra til en utvikling av brukervennlige og pålitelige løsninger.

I dag er det behov for et mer menneskesentrert perspektiv ved bruk av AI-applikasjoner for levering av offentlige tjenester. På den ene siden har vi innbyggere som bør ha en forståelig, transparent og pålitelig opplevelse når de samhandler med AI-applikasjoner, på den andre siden må involverte offentlige tjenesteansatte kunne forstå logikken til AI-systemene som brukes. Dette for å støtte deres daglige arbeid med levering av velferdstjenester. Den europeiske personvernforordningen (GDPR) og den norske forvaltningsloven fastslår at logikken bak beslutninger må kommuniseres (dvs. at grunnlaget for beslutninger må oppgis, fakta brukt for beslutninger må tilbys, og bruk av algoritmestøtte må forklares).

Landsbyen kan være attraktiv og motiverende for studenter fra ulike fagområder som ønsker å forstå og forske på utfordringene fra ulike perspektiver, foreslå egne ideer og prosjektoppgaver innenfor det tematiske området, samt og å levere nødvendige resultat. Vi tror temaet kan bidra til å fremme studenters kreativitet, samtidig som det vil gi en sterk følelse av eierskap til det konseptualiserte prosjektet. Studentgruppene kan eksempelvis fokusere på empiriske studier, utvikling av personlighetsprofiler og prototyper, utvikling av designprinsipper eller andre relevante områder.

Relevant kompetanse

Målet er å danne studentgrupper fra ulike studieprogram, og som vil være i stand til å møte temaets utfordringer gjennom samarbeid og felles tenkning. Landsbyen passer for alle som er interessert i å bidra til å håndtere utfordringer knyttet til ansvarlig bruk av kunstig intelligens i offentlig sektor, og som ønsker å delta i en prosess som innebærer samarbeid med innbyggere og offentlige institusjoner. Landsbyens omfang er egnet og relevant for studenter fra en bred rekke bakgrunner, som for eksempel informatikk og IT, kunstig intelligens, programvareteknologi, men også psykologi, helse, jus og samfunnsvitenskap. Andre fagområder er også velkomne.

Om landsbyen

Kunstig intelligens-applikasjoner brukes i dag bredt og kan bidra til å øke effektiviteten og kvaliteten på prosesser i ulike sektorer, inkludert offentlige tjenester. Det kan imidlertid være vanskelig å forstå applikasjonenes funksjon, og det kan være utfordrende å forklare hvordan de transformerer data input til data output. Dette er en utfordring, kjent som "Black Box"-problemet, som kan hindre at mennesker deltar i utforming, drift og overvåking av AI i levering av velferdstjenester. Fokuset i denne landsbyen blir å undersøke dagens utfordringer knyttet til AI-applikasjoner i offentlige tjenester, med mål om å hjelpe brukere (saksbehandlere i velferdsorganisasjoner og innbyggere) med å forstå, stole på og effektivt håndtere nye AI-applikasjoner. Dette vil åpne veien for utvikling av brukervennlig og pålitelig AI.

Utfordringer knyttet til det ovennevnte temaet for landsbyen involverer to viktige interessentgrupper, som begge har ulike behov:

1. Saksbehandlere på operativt nivå må forstå beslutningslogikken. Videre må de være klar over begrensningene i den spesifikke algoritmestøtten. Det er viktig å synliggjøre for saksbehandlere hva de viktigste egenskapene til systemene som brukes er. For eksempel, er systemet statisk eller lærer det kontinuerlig med ny akkumulert informasjon?
    
2. Den vanlige innbygger må være klar over metodene som brukes for beslutninger som påvirker dem. Lik saksbehandlerne, må den vanlige innbygger forstå noen viktige egenskaper ved systemene som brukes. Videre trenger innbyggere innsikt i hvilke typer data som brukes, spesielt når det er en risiko for at data kan være ufullstendige eller ikke representere de som senere kan bli påvirket.

Mulige forskningsspørsmål:

• Hvordan informere «ikke-eksperter» om AI-applikasjoners rolle og egenskaper som brukes i levering av velferdstjenester, og som kan å muliggjøre meningsfull menneskelig kontroll?

Eksempel på utfordringer:

• Utvikle metoder for å kartlegge behov for ulike grupper av innbyggere og saksbehandlere.
• Skape løsningsideer eller prototyper som visualiserer informasjon på en forståelig måte.
• Evaluere ulike alternative visualiseringer og deres innvirkning på en beslutningsprosess eller aksept blant innbyggere.
• Øke effektiviteten i beslutningsprosesser uten å kompromittere transparens.
• Respektere loven og bygge tillit til systemene og saksbehandlerne.

Landsbyen samarbeider med en gruppe forskere ved Universitetet i Agder (UiA) og NTNU. Formålet med partnerskapet er å gi deltakerne i landsbyen informasjon, legge til rette for diskusjon og gi en evaluering av foreslåtte tiltak for spesifikke problemer knyttet til ansvarlig bruk av AI for levering av velferdstjenester. Plenumsaktivitet vil foregå på engelsk, men begge rapportene kan leveres på norsk.

Hvordan melder jeg meg opp i EiT?