Fare på ferde: Kunstig intelligens kan sette seg andre mål enn menneskenes beste

– Vi står rett foran en utvikling der kunstig intelligens (AI) vil skyte stor fart. Da vil vi se roboter og maskiner med en smarthet som går langt utenpå det vi har erfart til nå. Det kan bli bra – eller farlig – for menneskene.

Det var noe av budskapet fra professor Keith L. Downing ved NTNUs Institutt for datateknologi og informatikk foran konferansen NxtMedia 2017 i Trondheim, onsdag 15. november.

Downing peker på hva som kan bli farlig. Det er hvis AI utvikler sine egne målsettinger og hvis disse ikke er til menneskenes beste. Enn så lenge er det menneskelige mål som styrer programvaren. Men når programvare og roboter gjennom AI får utvikle seg selv kan de også overta styringen ved å omdefinere sine mål.

Foran en fullsatt konferansesal i Rockheim holdt han frem akkurat dette perspektivet som en av de viktigste etiske utfordringer der forskningen og utviklingen av AI står i dag.

«Smartere media» var overskriften på årets konferanse, den femte i rekken. NxtMedia er blitt en viktig møteplass om innovasjon i media for akademia og mediebransjen.

Over 60 år med kunstig intelligens

Downing var invitert til å gi innblikk i AI både som vitenskap og som fiksjon. Han så bakover og fremover i tid. Teknologihistorien med AI startet på 1950-tallet. Siden da har AI både vært hypet og hatet. Han kalte også perioden ca. 1985-2000 for «AI-vinter» da feltet var ute i kulden. Men med den senere utviklingen har det skutt fart igjen. Selvkjørende biler som kommer nå demonstrerer bare et snev av det vi kan forvente fremover.

Vi begynner å erfare systemer som langt overgår menneskelige evner. Med kameraer som gjenkjenner komplekse mønstre, naturlig språkforståelse osv., står utviklingen foran nyvinninger. Downing poengterte også at det som skjer fremover vil foregår mye hurtigere enn tidligere. Det tok tiår fra de første dataprogrammene spilte sjakk til de greide å slå menneskelige verdensmestere. Slike steg vil nå gå svært mye raskere.

 

AI komponerer musikk

En slik smakebit fikk forsamlingen av professor Øyvind Brandtsegg ved NTNUs Institutt for musikk. Først demonstrerte han teknologisk musikk basert på observasjoner av himmelen og himmellegemer. Den var komponert på bestilling fra Statens kartverk.

Brandtsegg forklarte også forsamlingen hvordan AI, store datamengder med filmmusikk, et ønske om en bestemt sinnsstemning – og så kunne maskinene lage fiks ferdig filmmusikk til en reklamefilm.

 

Fullt og utsolgt

Årets NxtMedia-konferanse var utsolgt. Over 300 deltakere fikk gleden av å komme innenfor dørene.

Programmet for 2017-konferansen står her.

Toril Hernes, NTNUs prorektor for nyskaping, var blant dem som ønsket velkommen til Trondheim. Hun viste frem hvilke muligheter regionen som har denne kombinasjonen av næringsliv og et teknologisk universitet. Trondheim er derfor også rangert blant de aller beste regioner i Europa for innovasjon og nyskaping.

Se oversikten over høyprofilerte innledere på konferansen her.

En nyvinning i årets arrangement var programmet for Young Visionaires, der unge talentfulle studenter blir koblet med mediebransjen. Les egen artikkel om det her.