Kunstig intelligens har et forklaringsproblem

Kunstig intelligens er i vinden, og brukes i nærmest alle deler av samfunnet og industrien - alt fra personlig tilpasning til autonome fartøy. Blant hovedårsakene til kunstig intelligens sin økende popularitet og suksess er fremgang innen maskinlæring, hvor maskiner selv lærer å løse problemer, basert på erfaring eller data. Siden maskinlæringssystemer er resultatet av en læringsprosess, er det dessverre ikke åpenbart hva de lærer. Faktisk forblir dette i mange tilfeller et ubesvart spørsmål. Hvordan forklare hva en maskin har lært er et åpent forskningsspørsmål, og strekker seg fra det tekniske aspektet om hvordan informasjon kan tolkes og representeres, til det etiske og samfunnsmessige aspektet om hvordan mennesker oppfatter forklaringer og hvilken informasjon som er relevant for en gitt mottaker i et gitt miljø.

Relevant kompetanse

Maskinlæring, datateknikk, samfunnsvitenskap, etikk, filosofi, matematikk, statistikk og informatikk.

Om landsbyen

1. Maskinlæring betyr at en maskin lærer fra data. Men så snart vi har en maskin som kan løse problemer (kanskje bedre enn vi selv!), har vi et forklaringsproblem. Dette problemet består av to deler:
   1. Hvordan kan vi forstå hva maskinen har skjønt?
   2. Hvordan kan vi kommunisere denne informasjonen til ulike mottakere (det være seg en pasient, en kunde eller en CEO)?

Begge disse er uløste spørsmål på forskningsfronten, og en gruppe kan velge å undersøke et av dem eller begge to.

Mulige tilnærminger gruppene kan velge er for eksempel (men ikke begrenset til):

1. Gruppen kan undersøke hvilke forklaringer ulike mottakere forventer av maskiner, og om forventningene skiller seg fra de ve forventer fra mennesker.
2. Gruppen kan utforske hvilke konsekvenser ulike nivåer av forståelse av kunstig intelligente beslutninger kan ha på ulike deler av samfunnet, hvis dagens utvikling i retning av automatisering og individuelt tilpasset innhold fortsetter eller øker.
3. Hvis gruppen ønsker å programmere kan dere bruke eksisterende verktøy i Python til å lage en maskinlæringsmodell basert på et selvvalgt datasett, og bruke eksisterende forklaringsmetoder til å forklare modellen. Gruppen kan evaluere og eventuelt tilpasse de ulike forklaringsmetodene.
4. Hvis gruppen har tilstrekkelig programmeringskompetanse og ønsker å lage en egen maskinlæringsmodell, kan dere utforske ulike maskinlæringsmetoder for ulike typer data, inkludert tekst, bilde og lyd. Eksisterende forklaringsmetoder kan brukes til å lage forklaringer, som kan testes på ulike mottakere (som medstudenter fra ulike studieretninger).
5. Gruppen kan velge å gå i en filosofisk retning: Hvis generell kunstig intelligens (ofte forkortet AGI på engelsk) en gang utvikles, er det sannsynlig at den vil ha minimum noen komponenter som bruker maskinlæring. Hvordan skal vi mennesker forstå motivasjonene til en intelligent aktør, og er det mulig å forstå en maskin hvis intelligens overgår vår egen?
6. Gruppen kan diskutere og bruke litteraturen til å undersøke hvilken rolle forståelse og forklaring spiller for kontrollproblemet innen kunstig intelligens.

Gruppene vil få hjelp til å finne og bruke nødvendige verktøy. Dette inkluderer maskinlæringsbiblioteker i Python, og LaTex for rapportskriving.

Følgende tekst kan leses for inspirasjon: 1.1 Story Time | Interpretable Machine Learning

Vi får besøk av aktive forskere på feltet som vil gi gjesteforelesninger og være tilgjengelige for spørsmål.

Det er mulig å skrive masteroppgave innen forklarbar kunstig intelligens (XAI) på ITK og IDI.

Fakta

Hvordan melder jeg meg opp i EiT?