De siste årene har kunstig intelligens (AI) hatt betydelig innvirkning på omtrent alle menneskelige aktiviteter. Kunstig intelligens viser imponerende resultater i mange oppgaver som skal løses, men metodene som brukes har flere utfordringer for å kunne bli pålitelige og bærekraftige.
Toppmoderne algoritmer innen kunstig intelligens krever massiv datakraft og energi for å håndtere stadig voksende arkiver med stordata.
For å sikre at fremtidig kunstig intelligens blir miljømessig bærekraftig, må systemene utvikles slik at de til enhver tid optimaliserer tid og energi brukt til beregninger.
Samtidig blir også AI-systemer i lengden truet av menneskelige faktorer, og den største menneskelige utfordringen er mangel på tillit, fordi mennesker ofte ikke forstår hvordan maskiner kommer fram til de beslutningene som tas.
Selv de mest sofistikerte modellene innen kunstig intelligens mangler åpenhet rundt hvordan de forutser hva som kommer til å skje.
Nordic Center for Sustainable and Trustworthy Artificial Intelligence Research (NordSTAR) er et fremragende forskningsmiljø som vil etablere en ny tradisjon i forskningen på bærekraftig og pålitelig kunstig intelligens.
Senteret ledes av Pedro Lind og Anis Yazidi, og er en del av OsloMet Artificial Intelligence Lab og forskningsgruppen Applied Artificial Intelligence.
Hovedmålet til NordSTAR er å utvikle AI-verktøy som tar med alle nødvendige nøkkelaspekter ved bærekraft og pålitelighet i kunstig intelligens. For å nærme seg alle disse nøkkelaspektene, har senteret utviklet fem forskjellige forskningsområder:
Modeller man kan forklare og forstå
Dette forskningsområdet legger vekt på å kvantifisere usikkerheten i beslutninger gjort av kunstig intelligens. Dette gjøres gjennom å utvikle verktøy for å kunne få bedre forståelse av forskjellige komponenter i modeller for kunstig intelligens, og for å forklare hvorfor spesifikke beslutninger tas.
Leder av forskningsområdet:
Biologisk inspirerte systemer for beregning
Dette forskningsområdet henter inspirasjon fra naturlig intelligens, som inkluderes i modeller for kunstig intelligens. Målet er å nærme seg effektiviteten i biologiske nevrale systemer.
Leder av forskningsområdet:
Quantum AI
Målet med dette forskningsområdet er å redusere gapet mellom antall teoretiske forslag på design og anvendelse av Quantum AI, og den nåværende mangelen på kvantitative praktiske resultater.
Leder av forskningsområdet:
Sikkerhet, trygghet og pålitelighet
Dette forskningsområdet tar for seg datasikkerhet, og menneskers fysiske sikkerhet i bruk av kunstig intelligens. Målet er å oppnå et høyere nivå av pålitelighet i bruk av kunstig intelligente systemer og metoder. Forskningsområdet ble startet av Ahmed Elmokashfi fra SimulaMet, som ledet arbeidet det første året.
Leder av forskningsområdet:
Menneskelige faktorer i kunstig intelligens
Ved å legge vekt på menneskelige faktorer og verdier i en tidlig fase av utviklingen, skal dette forskningsområdet forsøke å sikre tilliten til de kunstig intelligente systemene som blir utviklet. Forskningsområdet ble startet av Marija Slavkovik fra Universitetet i Bergen.
Leder av forskningsområdet:
Forskningsprosjekter
- DHEFEUS (ulisboa.pt), koordinert eksternt
Ledere
Forskere
Administrative medarbeidere
Medlemmer
Alumni
- Elena Parmiggiani. Leder av forskningsområdet Menneskelige faktorer i kunstig intelligens. Tilhørighet: NTNU
- Cassandra Grundstrom (ntnu.no), Associate Professor at the Department of Computer Science, NTNU. Part of the human factors research area in NordSTAR.
- Ioannis Adamopoulos, masterstudent ved Anvendt data- og informasjonsteknologi (ACIT)
- Giorgia Nadizar, tidligere forskningsassistent ved NordSTAR, nåværende PhD-student ved University of Trieste og en del av samarbeidsprosjektet BioSoftRob (nichele.eu).
- Sebastian Testaniére Overskott, masterstudent ved anvendt data- og informasjonsteknologi (ACIT).
- Sushil Acharya utviklet et verktøy for å digitalisere 7000 ECGer lagret i databasene til Ahus.
- Ramesh Upreti utførte en undersøkelse på sikkerhetsprotokoller for datanettverk.
- Ahmed Elmokashfi startet forskningsområdet Sikkerhet, trygghet og pålitelighet i NordSTAR, og ledet arbeidet i området det første året.
