Magasinet Forskningsetikk
01.12.2023
Fungerer etikken bedre som beskyttelse mot potensielt farlig forskning i dag enn da atombomben ble utviklet? Norske eksperter mener innsatsen må økes.
Når jeg snakker med ledende forskere innen kunstig intelligens, sier de at dette er deres Oppenheimer-øyeblikk.
Det uttalte regissør Christopher Nolan til NBC News i sommer. Anledningen var lanseringen av filmen om den teoretiske fysikeren som under andre verdenskrig ledet USAs atomvåpenprogram.
- Disse forskerne ser nå til J. Robert Oppenheimers historie for å forstå ansvaret sitt når de utvikler teknologi med mulige utilsiktede konsekvenser, fortsatte Nolan.
Katastrofebilder
Forskningen på kunstig intelligens (KI) utvikler seg veldig raskt, og teknologien påvirker allerede de fleste samfunnsområder. Mange katastrofescenarioer og advarsler sirkulerer. Menneskehetens utslettelse er ett av dem. Det blir tegnet abstrakte bilder av superintelligente, muligens bevisste og ukontrollerbare maskiner.
Sentrale aktører signerte i vår et opprop om å sette de store KI-eksperimentene på pause, et såkalt moratorium. Forskningen og utviklingen har siden fortsatt med full kraft, også blant de som signerte - for eksempel Elon Musk. Noen få måneder etter oppropet lanserte han sitt eget KI-selskap.
Mer jordnære problemstillinger må slåss for å ikke drukne i alt dette: spørsmål om personvern og overvåkning, slagsider og diskriminering, dypforfalskninger, autonome systemer, manglende regulering, gjennomsiktighet og ansvar, kreativitet og eierskap, manipulasjon og misinformasjon, økende fremmedgjøring og så videre.
Har vi lært nok av tidligere samfunnsomveltende forskning til å møte denne utviklingen på en god måte? Hvordan har synet på potensielt farlig forskning utviklet seg innad i forskningsmiljøene?
En ukontrollert kjedereaksjon
Beregningene viste at det var høyst usannsynlig, men Oppenheimer og kollegaene kunne ikke utelukke at den første prøvesprengningen av en atombombe ville starte en ukontrollert kjedereaksjon med antenning av atmosfæren og ødeleggelse av verden.
Det skjedde ikke. Den nye filmens siste scene viser et møte med Albert Einstein etter krigen, der Oppenheimer uttrykker at han likevel tror han har vært med på å starte en verdensødeleggende kjedereaksjon.
Én tolkning er at han tror det kjernefysiske kappløpet vil føre til at menneskene til slutt utsletter seg selv. En annen tolkning er at han ser for seg hvordan selv udetonerte atombomber får så stor og negativ innvirkning på verden og samfunnet at det blir en ødeleggelse.
- Det hadde han kanskje rett i. Atomvåpnenes tilstedeværelse endret jo verden fullstendig, sier professor emeritus Ragnar Fjelland ved Senter for vitenskapsteori ved Universitetet i Bergen (UiB).
Han er fysiker og filosof, og tidligere medlem av både Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT) og Teknologirådet.
Forskningsetiske vannskiller
Lidelsene og ødeleggelsen som atombombene påførte japanske sivile i Hiroshima og Nagasaki, og nazistenes medisinske eksperimenter på mennesker i konsentrasjonsleir, har blitt stående som skjellsettende forskningsetiske vannskiller.
I Nürnbergprosessene ble leger som hadde eksperimentert på fanger, dømt for krigsforbrytelser. I kjølvannet kom Nürnbergkodeksen, et dokument med etiske stand
Les opprinnelig artikkelDet uttalte regissør Christopher Nolan til NBC News i sommer. Anledningen var lanseringen av filmen om den teoretiske fysikeren som under andre verdenskrig ledet USAs atomvåpenprogram.
- Disse forskerne ser nå til J. Robert Oppenheimers historie for å forstå ansvaret sitt når de utvikler teknologi med mulige utilsiktede konsekvenser, fortsatte Nolan.
Katastrofebilder
Forskningen på kunstig intelligens (KI) utvikler seg veldig raskt, og teknologien påvirker allerede de fleste samfunnsområder. Mange katastrofescenarioer og advarsler sirkulerer. Menneskehetens utslettelse er ett av dem. Det blir tegnet abstrakte bilder av superintelligente, muligens bevisste og ukontrollerbare maskiner.
Sentrale aktører signerte i vår et opprop om å sette de store KI-eksperimentene på pause, et såkalt moratorium. Forskningen og utviklingen har siden fortsatt med full kraft, også blant de som signerte - for eksempel Elon Musk. Noen få måneder etter oppropet lanserte han sitt eget KI-selskap.
Mer jordnære problemstillinger må slåss for å ikke drukne i alt dette: spørsmål om personvern og overvåkning, slagsider og diskriminering, dypforfalskninger, autonome systemer, manglende regulering, gjennomsiktighet og ansvar, kreativitet og eierskap, manipulasjon og misinformasjon, økende fremmedgjøring og så videre.
Har vi lært nok av tidligere samfunnsomveltende forskning til å møte denne utviklingen på en god måte? Hvordan har synet på potensielt farlig forskning utviklet seg innad i forskningsmiljøene?
En ukontrollert kjedereaksjon
Beregningene viste at det var høyst usannsynlig, men Oppenheimer og kollegaene kunne ikke utelukke at den første prøvesprengningen av en atombombe ville starte en ukontrollert kjedereaksjon med antenning av atmosfæren og ødeleggelse av verden.
Det skjedde ikke. Den nye filmens siste scene viser et møte med Albert Einstein etter krigen, der Oppenheimer uttrykker at han likevel tror han har vært med på å starte en verdensødeleggende kjedereaksjon.
Én tolkning er at han tror det kjernefysiske kappløpet vil føre til at menneskene til slutt utsletter seg selv. En annen tolkning er at han ser for seg hvordan selv udetonerte atombomber får så stor og negativ innvirkning på verden og samfunnet at det blir en ødeleggelse.
- Det hadde han kanskje rett i. Atomvåpnenes tilstedeværelse endret jo verden fullstendig, sier professor emeritus Ragnar Fjelland ved Senter for vitenskapsteori ved Universitetet i Bergen (UiB).
Han er fysiker og filosof, og tidligere medlem av både Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT) og Teknologirådet.
Forskningsetiske vannskiller
Lidelsene og ødeleggelsen som atombombene påførte japanske sivile i Hiroshima og Nagasaki, og nazistenes medisinske eksperimenter på mennesker i konsentrasjonsleir, har blitt stående som skjellsettende forskningsetiske vannskiller.
I Nürnbergprosessene ble leger som hadde eksperimentert på fanger, dømt for krigsforbrytelser. I kjølvannet kom Nürnbergkodeksen, et dokument med etiske stand
