Den etiske siden av generativ kunstig intelligens
Ingen sektor eller næringsliv forblir upåvirket av den omveltende kunstige intelligensen (KI) og dens kapasiteter. Spesielt generativ KI skaper et stort engasjement blant foretak, individer og ledere når det gjelder å forvandle daglig drift.
Generativ KIs imponerende evne til å skape variert og kvalitetsinnhold – fra tekst og bilder til videoer og musikk – har hatt en merkbar innvirkning på en rekke områder.
Ifølge forskning fra Acumen, forventes det globale markedet for generativ KI å nå 208,8 milliarder dollar innen 2032, med en årlig vekst på 35,1% mellom 2023 og 2032.
Men veksten av denne mektige teknologien fører med seg en rekke etiske bekymringer og problemstillinger som ikke kan ignoreres, spesielt de som omhandler datavern, opphavsrett, falske fremstillinger og samsvarsproblemer.
I denne artikkelen går vi dypere inn i disse etiske problemene ved generativ KI – hva de er og hvordan vi kan forhindre dem. Men først, la oss ta en titt på de etiske retningslinjene EU formulerte i 2019 for pålitelig KI.
Etiske retningslinjer for pålitelig KI
I 2019 utarbeidet en ekspertgruppe på høyt nivå etiske retningslinjer for pålitelig kunstig intelligens (KI).
Disse retningslinjene ble publisert for å adressere potensielle farer ved KI på den tiden, inkludert brudd på data- og personvern, diskriminerende praksis, trusler om skadelige innvirkninger på tredjeparter, useriøs KI og uærlige aktiviteter.
Retningslinjene fremhever tre områder en pålitelig KI må bygge på:
- Etisk: Den må respektere etiske verdier og prinsipper.
- Lovlig: Den må overholde alle relevante lover og forskrifter.
- Robust: Den må sikre robust sikkerhet med tanke på både teknisk sikkerhet og det sosiale miljøet.
I tillegg pekte retningslinjene på syv nøkkelkrav et KI-system må oppfylle for å bli ansett som pålitelig. Kravene er som følger:
Selv om disse retningslinjene hadde stor innvirkning i KI-bransjen, eksisterer det fortsatt bekymringer, som til og med øker med fremveksten av generativ KI.
Generativ KI og fremveksten av etiske betenkeligheter
Når vi snakker om etikk i KI, representerer generativ KI et unikt sett med utfordringer, spesielt med fremveksten av generative modeller som OpenAI og ChatGPT.
Den særegne karakteren til generativ KI gir opphav til etiske betenkeligheter, hovedsakelig innen områder som regelverk, datasikkerhet og personvern, kontroll, miljøhensyn og opphavsrett og dataeierskap.
For eksempel kan generativ KI generere menneskelignende tekst, inkludert bilder og videoer, noe som reiser bekymring for falske fremstillinger, spredning av falske nyheter og annet skadelig innhold som kan forårsake skade og feilinformasjon. I tillegg kan enkeltpersoner også føle tap av kontroll over KI-modellenes beslutninger basert på deres algoritmer.
Geoffrey Hinton, anerkjent som KIs «gudfar», har uttalt at KI-utviklere må jobbe hardt for å forstå hvordan KI-modeller kan prøve å overta kontrollen fra mennesker. Mange KI-eksperter og forskere er likeledes bekymret over KIs muligheter og etiske sider.
Yann LeCun, KIsjefsforsker ved Facebook og professor ved NYU, mener derimot at problemene og bekymringene KI reiser for menneskeheten er «uhyggelig latterlige.»
Fordi generativ KI gir organisasjoner og enkeltpersoner enestående evner til å endre og manipulere data – er det av største viktighet å adressere disse utfordringene.
La oss se nærmere på disse bekymringene.
Generering og spredning av skadelig innhold
Basert på tekstmeldingene vi gir, skaper og genererer KI-systemer automatisk innhold som kan være både nøyaktig og nyttig, men også skadelig.
Generative KI-systemer kan generere skadelig innhold med vilje eller utilsiktet på grunn av fenomener som KI-hallusinasjoner. De mest bekymringsfulle situasjonene inkluderer falsk teknologi, som skaper falske bilder, tekster, lyd og videoer, og manipulerer en persons identitet og stemme for å spre hatprat.
Eksempler på generering og spredning av skadelig KI-innhold kan omfatte:
- En KI-generert e-post eller melding på sosiale medier som sendes og publiseres på vegne av en organisasjon, kan inneholde krenkende og usaklig språk, og dermed skade ansatte eller kunders følelser.
- Angripere kan også bruke falsk teknologi til å lage og spre KI-genererte videoer med offentlige personer som politikere eller skuespillere som sier ting de faktisk ikke har sagt. En video med Barack Obama er et populært eksempel på en falsk video.
- Et eksempel på en falsk lyd er når en svindler nylig forfalsket en kidnapping ved å klone stemmen til en ung jente for å kreve løsepenger fra moren.
Spredning av slikt skadelig innhold kan få alvorlige konsekvenser og negative effekter på en persons eller organisasjons omdømme og troverdighet.
I tillegg kan KI-generert innhold forsterke eksisterende skjevheter ved å lære av treningsdatasett, og dermed generere mer partisk, hatfullt og skadelig innhold. Dette gjør det til et av de mest bekymringsfulle etiske dilemmaene ved generativ KI.
Krenkelse av opphavsretten
Siden de generative KI-modellene er trent på store mengder data, kan dette av og til føre til tvetydighet i spørsmål om autoritet og opphavsrett.
Når KI-verktøy genererer bilder eller koder og lager videoer, kan datakilden fra treningsdatasettet det refererer til være ukjent, noe som kan føre til brudd på immaterielle rettigheter eller opphavsrettigheter til andre enkeltpersoner eller organisasjoner.
Slike brudd kan føre til økonomisk, juridisk og omdømmemessig skade for en organisasjon, med kostbare rettssaker og negativ omtale som resultat.
Brudd på personvernet
De underliggende treningsdataene til Generative KI-språkmodeller (LLM) kan inneholde sensitiv og personlig informasjon, også kalt personlig identifiserbar informasjon (PII).
US Department of Labor definerer PII som data som direkte identifiserer en person med detaljer som navn, adresse, e-postadresse, telefonnummer, personnummer eller andre identifikasjonskoder.
Datainnbrudd eller uautorisert bruk av disse dataene kan føre til identitetstyveri, misbruk av data, manipulasjon eller diskriminering – noe som utløser rettslige konsekvenser.
For eksempel kan en KI-modell som er trent på personlige helsedata utilsiktet generere en profil som kan ligne en ekte pasient – noe som fører til bekymringer for sikkerhet og personvern og brudd på HIPAA-forskriften (Health Insurance Portability and Accountability Act).
Forsterkning av eksisterende skjevhet
På samme måte som enhver KI-modell, er også en generativ KI-modell bare så god som treningsdatasettet den er trent på.
Dersom treningsdatasettet inneholder skjevheter, vil den generative KI-en forsterke disse eksisterende skjevhetene ved å produsere partiske resultater. Disse skjevhetene er generelt utbredt i den eksisterende sosiale ulikheten og kan inneholde rasistiske, sexistiske eller diskriminerende holdninger i nettfellesskapene.
Ifølge 2022 AI-indeksrapport utviklet en modell med 280 milliarder parametere i 2021 som viste en økning på 29 % i skjevhet og toksisitet. Dermed, mens KI-språkmodeller blir stadig dyktigere, blir de også mer partiske basert på eksisterende treningsdata.
Innflytelse på arbeidsstyrkens roller og moral
Generative KI-modeller forbedrer arbeidsstyrkens produktivitet ved å automatisere daglige aktiviteter og utføre oppgaver som skriving, koding, analyse, innholdsproduksjon, oppsummering, kundestøtte og mer.
Selv om dette på den ene siden bidrar til å øke produktiviteten i arbeidslivet, innebærer veksten av generativ KI også tap av arbeidsplasser. Ifølge McKinseys rapport anslår arbeidsstyrketransformasjonen og KI-adopsjon at halvparten av dagens arbeidsstyrkeoppgaver kan automatiseres mellom 2030 og 2060, med 2045 som et midtpunkt.
Selv om adopsjon av generativ KI innebærer tap av arbeidskraft, betyr ikke det at det er nødvendig å stoppe eller dempe KI-transformasjonen. I stedet må ansatte og arbeidere oppgradere ferdighetene sine, og organisasjoner må støtte arbeidere i jobboverganger uten å miste jobbene sine.
Manglende åpenhet og forklarbarhet
Åpenhet er et av de viktigste prinsippene for etisk KI. Likevel er generativ KI i sin natur en sort boks, ugjennomsiktig og svært kompleks, noe som gjør det vanskelig å oppnå et høyt nivå av transparens.
Den komplekse naturen til generativ KI gjør det vanskelig å fastslå hvordan den kom frem til et bestemt svar eller forstå de medvirkende faktorene som førte til beslutningstakingen.
Dette manglende forklaringsgrunnlaget skaper ofte bekymringer om datamisbruk og manipulasjon, nøyaktigheten og påliteligheten til resultatene, og kvaliteten på testingen. Dette er særlig viktig for applikasjoner med høy innsats.
Miljøpåvirkning
Generative KI-modeller krever betydelig datakraft, særlig de med større skalaer. Dette betyr at disse modellene forbruker mye energi, noe som har et potensielt stort negativt miljømessig fotavtrykk, inkludert karbonutslipp og global oppvarming.
Selv om det er en oversett faktor ved etisk KI, er det viktig å sørge for at datamodellene er miljøvennlige, bærekraftige og energieffektive.
Rettferdighet og likestilling
Generativ KIs potensial til å produsere upassende, unøyaktige, krenkende og partiske svar er en annen stor bekymring for å sikre etikk i KI.
Dette kan skyldes problemer som rasistiske kommentarer som rammer marginaliserte grupper, og opprettelse av falske videoer og bilder som fremsetter partiske påstander, forvrenger sannheten og genererer innhold som forsterker stereotypier og fordommer.
Ansvarlighet
Opprettings- og distribusjonsprosessen for treningsdata til generative KI-modeller kompliserer ofte spørsmålet om ansvarlighet for KI.
I tilfeller av uhell, kontroverser og unike situasjoner, vil et udefinert hierarki og ansvarsstruktur føre til juridiske komplikasjoner, fingerpeking og skade på merkevarens troverdighet.
Uten en solid ansvarsstruktur kan dette problemet raskt eskalere og svekke merkevarens image, omdømme og troverdighet.
Autonomi og kontroll
Ettersom generative KI-modeller automatiserer oppgaver og beslutningsprosesser innen ulike felt, som helse, jus og finans, fører det til tap av kontroll og individuell autonomi. Dette er fordi beslutningene hovedsakelig er drevet av KI-algoritmer i stedet for menneskelig dømmekraft.
For eksempel, uten menneskelig innblanding, kan et automatisert lånegodkjenningssystem som er drevet av KI avgjøre en persons evne til å ta opp et lån eller kredittverdighet basert på kredittscore og tilbakebetalingshistorikk.
I tillegg fører generative KI-modeller noen ganger til tap av profesjonell autonomi. For eksempel, innen områder som journalistikk, kunst og kreativ skriving, skaper generative KI-modeller innhold som utfordrer og konkurrerer med menneskeskapt arbeid – noe som reiser bekymringer om jobbforskyvning og faglig autonomi.
Hvordan redusere etiske betenkeligheter ved generativ KI? Løsninger og beste praksis
Mens utviklingen og den teknologiske fremgangen som førte til generativ KI gir samfunnet store fordeler, er det også avgjørende å ta tak i de etiske betenkelighetene og sikre en ansvarlig, regulert, pålitelig og sikker KI-praksis.
I tillegg til KI-modellskaperne og enkeltpersoner, er det også viktig for selskaper som bruker generative KI-systemer for å automatisere prosessene sine, å sikre den beste KI-praksisen og adressere de etiske betenkelighetene som er involvert.
Her er de beste fremgangsmåtene organisasjoner og selskaper må ta i bruk for å sikre etisk generativ KI:
✅ Invester i robust datasikkerhet: Bruk av avanserte datasikkerhetsløsninger, som kryptering og anonymisering, bidrar til å beskytte sensitive data, personopplysninger og konfidensiell selskapsinformasjon. Dette adresserer de etiske betenkelighetene ved brudd på personvernet som er knyttet til generativ KI.
✅ Inkluder ulike perspektiver: Organisasjoner må inkludere ulike perspektiver i KI-treningsdatasettet for å redusere skjevhet og sikre rettferdige og upartiske beslutninger. Dette inkluderer å engasjere personer med ulik bakgrunn og erfaring, og å unngå å utforme KI-systemer som skader eller misgynner enkelte grupper.
✅ Hold deg informert om KI-utviklingen: KI-landskapet utvikler seg stadig med nye verktøy og teknologier, noe som gir opphav til nye etiske betenkeligheter. Selskaper må investere ressurser og tid for å forstå de nye KI-regelverkene og holde seg informert om de nye endringene for å sikre best mulig KI-praksis.
✅ Implementer digitale signaturer: En annen beste fremgangsmåte eksperter foreslår for å håndtere problemer med generativ KI, er å bruke digitale signaturer, vannmerker og blokkjedeteknologi. Dette hjelper med å spore opprinnelsen til det genererte innholdet og identifisere potensiell uautorisert bruk eller manipulering av innholdet.
✅ Utvikle klare etiske retningslinjer og brukspolicyer: Det er viktig å etablere klare etiske retningslinjer og brukspolicyer for bruk og utvikling av KI. Dette bør dekke områder som ansvarlighet, personvern og åpenhet. I tillegg vil bruk av etablerte rammeverk som AI Risk Management Framework eller EUs etiske retningslinjer for pålitelig kunstig intelligens bidra til å unngå misbruk av data.
✅ Overhold globale standarder: Organisasjoner må gjøre seg kjent med globale standarder og retningslinjer som UNESCOs KI-etikk-retningslinjer, som understreker fire kjerneverdier, inkludert menneskerettigheter og verdighet, mangfold og inkludering, fredelige og rettferdige samfunn og miljømessig velstand.
✅ Fremme åpenhet og transparens: Organisasjoner må fremme åpenhet rundt bruk og utvikling av KI for å bygge tillit hos brukere og kunder. Det er viktig for selskaper å tydelig definere hvordan KI-systemer fungerer, hvordan de tar beslutninger og hvordan de samler inn og bruker data.
✅ Evaluer og overvåk KI-systemer regelmessig: Til slutt er det avgjørende å jevnlig evaluere og overvåke KI-systemer for å sikre at de er i tråd med og følger etiske KI-standarder og retningslinjer. Organisasjoner må derfor utføre regelmessige KI-vurderinger og revisjoner for å unngå risiko for etiske betenkeligheter.
Konklusjon
Selv om generativ KI gir betydelige fordeler og revolusjonerer en rekke sektorer, er det avgjørende å forstå og adressere de etiske betenkelighetene for å fremme en ansvarlig og sikker bruk av KI.
De etiske bekymringene rundt generativ KI, som brudd på opphavsrett, brudd på personvernet, spredning av skadelig innhold og manglende åpenhet, krever strenge reguleringer og etiske retningslinjer for å sikre en god balanse og en robust og ansvarlig bruk av KI.
Organisasjoner kan utnytte kraften i KI maksimalt med minimal eller ingen etisk risiko ved å implementere og utvikle etiske regler og retningslinjer, og ved å følge de beste KI-fremgangsmåtene.
Du kan deretter utforske KI-statistikk og trender som vil forvirre deg.