Fagpressenytt

Både i sin kronikk og nylig utgitte bok, som hevder å avklare flere myter rundt AI, går Morten Goodwin i overforenklingsfella. Det er særlig påstander om at det er enkelt å unngå diskriminering, at forklarbarhet er enkelt og at personvernet ikke er i fare som er foruroligende. Alle disse temaene er komplekse og utfordrende å løse, ikke minst på grunn av deres etiske og samfunnsmessige dimensjoner. Sistnevnte kan ikke løsrives fra helheten, og må ikke undergraves.

Ser vi på de største AI-konferansene, er det nettopp emner som rettferdighet, pålitelighet og forklarbarhet som får økt oppmerksomhet - og det er bred enighet om at disse er langt ifra å være løst. For å gjenoppfriske noen av de påstått avlivede mytene om kunstig intelligens:

Vi forstår faktisk ikke hva enkelte AI-systemer gjør

Det at vi kan lese ut samtlige parametre i et AI-system eller teste det så mye vi måtte ønske, er ikke det samme som at vi forstår hvilke mønstre modellen har lært å fokusere på. Det finnes enkle AI-metoder vi forstår utmerket godt, men dette gjelder ikke de mest avanserte metode