Ingen sektor eller industri blir uberørt av den revolusjonerende kunstige intelligensen (AI) og dens evner. Og det er spesielt generativ AI som skaper en buzz blant bedrifter, enkeltpersoner og markedsledere når det gjelder å transformere hverdagslige operasjoner.
Generativ AIs imponerende evne til å generere mangfoldig innhold av høy kvalitet – fra tekst og bilder til videoer og musikk – har hatt betydelig innvirkning på flere felt.
I følge Acumens forskning forventes det globale generative AI-markedet å nå 208,8 milliarder dollar innen 2032vokser med en CAGR på 35,1 % mellom 2023 og 2032.
Veksten av denne kraftige teknologien kommer imidlertid med flere etiske bekymringer og problemer man ikke kan ignorere, spesielt de som er relatert til datavern, opphavsrett, dype forfalskninger og overholdelsesproblemer.
I denne artikkelen dykker vi dypt inn i disse generative AI-etiske bekymringene – hva de er og hvordan vi kan forhindre dem. Men først, la oss se på de etiske retningslinjene EU dannet i 2019 for pålitelig AI.
Innholdsfortegnelse
Etiske retningslinjer for pålitelig AI
I 2019 opprettet en ekspertgruppe på høyt nivå AI Etiske retningslinjer for pålitelig kunstig intelligens (AI).
Denne retningslinjen ble publisert for å adressere potensielle AI-farer på det tidspunktet, inkludert data- og personvernbrudd, diskriminerende praksis, trussel om skadelig innvirkning på tredjeparter, useriøs AI og uredelige aktiviteter.
Retningslinjen foreslår disse tre områdene en pålitelig AI må stole på:
- Etisk: Den må respektere etiske verdier og prinsipper.
- Lovlig: Den må respektere alle gjeldende lover og forskrifter.
- Robust: Det må sikre robust sikkerhet fra perspektivet til teknisk sikkerhet og sosialt miljø.
Videre fremhevet retningslinjen også syv nøkkelkrav et AI-system må oppfylle for å bli ansett som pålitelig. Kravene er som oppført:
Selv om disse retningslinjene gjorde en betydelig innvirkning i AI-bransjen, er det fortsatt bekymringer som eksisterer og øker til og med med fremveksten av generativ AI.
Generativ AI og The Rise of Ethical Concerns
Når man snakker om etikk i AI, gir generativ AI et unikt sett med utfordringer, spesielt med fremkomsten av generative modeller som OpenAI og ChatGPT.
Den spesielle karakteren til generativ AI gir opphav til etiske bekymringer, hovedsakelig på områdene inkludert regelverk, datasikkerhet og personvern, kontroll, miljøhensyn og opphavsrett og dataeierskap.
For eksempel kan generativ AI generere menneskelignende tekst, inkludert bilder og videoer, noe som vekker bekymring for dype forfalskninger, generering av falske nyheter og annet skadelig innhold som kan forårsake skade og spre feilinformasjon. I tillegg kan enkeltpersoner også føle tap av kontroll med AI-modellers beslutninger basert på deres algoritmer.
Geoffrey Hinton, den såkalte gudfaren til AI, sa at AI-utviklere må anstrenge seg for å forstå hvordan AI-modeller kan prøve å ta kontrollen fra mennesker. På samme måte er mange AI-eksperter og forskere bekymret for AI-evner og etikk.
Sjef AI-forsker ved Facebook og professor ved NYU Yann LeCun sier at problemene og bekymringene AI kan vekke for menneskeheten er «uhyggelig latterlig.»
Fordi generativ kunstig intelligens gir organisasjoner og enkeltpersoner enestående evner til å endre og manipulere data – er det av ytterste viktighet å løse disse problemene.
La oss se på disse bekymringene mer detaljert.
Generering og distribusjon av skadelig innhold
Basert på tekstmeldingene vi gir, oppretter og genererer AI-systemer automatisk innhold som kan være nøyaktig og nyttig, men også skadelig.
Generative AI-systemer kan generere skadelig innhold med vilje eller utilsiktet på grunn av årsaker som AI-hallusinasjoner. De mest bekymringsfulle situasjonene inkluderer deepfake-teknologi, som skaper falske bilder, tekster, lyd og videoer, og manipulerer en persons identitet og stemme for å spre hatytringer.
Eksempler på generering og distribusjon av skadelig AI-innhold kan omfatte:
- En AI-generert e-post eller innlegg på sosiale medier sendt og publisert på vegne av en organisasjon som kan inneholde støtende og fornuftig språk, som skader ansattes eller kunders følelser.
- Angripere kan også bruke deepfake til å lage og distribuere AI-genererte videoer med offentlige personer som politikere eller skuespillere som sier ting de faktisk ikke sa. En video med Barrack Obama er et av de mest populære eksemplene på deepfake.
- Et eksempel på en lyddeepfake er når en svindler nylig forfalsket en kidnapping kloning av en ung jentes stemme å be om løsepenger fra moren hennes.
Spredning av slikt skadelig innhold kan ha alvorlige konsekvenser og negative implikasjoner for en persons og organisasjons omdømme og troverdighet.
Dessuten kan AI-generert innhold forsterke skjevhetene ved å lære av treningsdatasettene, generere mer partisk, hatefullt og skadelig innhold – noe som gjør det til et av de mest bekymrende etiske dilemmaene ved generativ AI.
Brudd på opphavsretten
Siden de generative AI-modellene er trent på mye data, kan dette noen ganger føre til tvetydighet i autoritets- og opphavsrettsspørsmål.
Når AI-verktøy genererer bilder eller koder og lager videoer, kan datakilden fra treningsdatasettet det refererer til være ukjent, som et resultat av at det kan krenke immaterielle rettigheter eller opphavsrettigheter til andre individer eller organisasjoner.
Disse krenkelsene kan resultere i økonomisk, juridisk og omdømmeskade for en organisasjon – noe som resulterer i kostbare søksmål og offentlig tilbakeslag.
Brudd på personvernet
De underliggende treningsdataene til Generative AI Large Language Models (LLMs) kan inneholde sensitiv og personlig informasjon, også kalt personlig identifiserbar informasjon (PII).
De US Department of Labor definerer PII som data som direkte identifiserer en person med detaljer som navn, adresse, e-postadresse, telefonnummer, personnummer eller annen kode eller personnummer.
Datainnbrudd eller uautorisert bruk av disse dataene kan føre til identitetstyveri, datamisbruk, manipulasjon eller diskriminering – som utløser juridiske konsekvenser.
For eksempel kan en AI-modell, trente personlige sykehistoriedata utilsiktet generere en profil som kan likne en ekte pasient – noe som fører til bekymringer om sikkerhet og personvern og brudd på HIPAA-forskriften (Helseforsikring Portability and Accountability Act).
Forsterkning av eksisterende skjevhet
Akkurat som en AI-modell, er selv en generativ AI-modell bare så god som treningsdatasettet den er trent på.
Så hvis treningsdatasettet består av skjevhet, forsterker den generative AI denne eksisterende skjevheten ved å generere skjev utgang. Disse skjevhetene er generelt utbredt til den eksisterende sosiale skjevheten og kan inneholde rasistiske, sexistiske eller dyktige tilnærminger i nettsamfunnene.
Ifølge 2022 AI-indeksrapport, 2021 utviklet en 280 milliarder parametermodell som representerer en 29 % økning i skjevhet og toksisitetsnivåer. Dermed, mens AI LLM blir dyktigere enn noen gang, blir de også mer partiske basert på eksisterende treningsdata.
Innvirkning på arbeidsstyrkens roller og moral
Generative AI-modeller forbedrer arbeidsstyrkens produktivitet ved å automatisere hverdagslige aktiviteter og utføre daglige oppgaver som skriving, koding, analyse, innholdsgenerering, oppsummering, kundestøtte og mer.
Selv om dette på den ene siden bidrar til å øke arbeidsstyrkens produktivitet, på den andre siden innebærer veksten av generativ AI også tap av arbeidsplasser. I følge McKinseys rapportanslår arbeidsstyrketransformasjonen og AI-adopsjon at halvparten av dagens arbeidsstyrkeoppgaver og aktiviteter kan automatiseres mellom 2030 og 2060, med 2045 som midtpunktet.
Selv om generativ AI-adopsjon betyr tap av arbeidsstyrke, betyr det ikke at det er noen stopp eller behov for å dempe AI-transformasjon. I stedet vil ansatte og arbeidere måtte oppgradere, og organisasjoner må støtte arbeidere med jobboverganger uten å miste jobben.
Mangel på åpenhet og forklaring
Åpenhet er et av kjerneprinsippene for etisk AI. Likevel, karakteren til generativ AI er black-box, ugjennomsiktig og svært kompleks, blir det utfordrende å oppnå et høyt transparensnivå.
Den komplekse naturen til generativ AI gjør det vanskelig å bestemme hvordan den kom frem til en bestemt respons/utgang eller til og med forstå de medvirkende faktorene som førte til beslutningstakingen.
Denne mangelen på forklarbarhet og klarhet reiser ofte bekymringer om datamisbruk og manipulering, utdataenes nøyaktighet og pålitelighet, og testkvaliteten. Dette er spesielt viktig for applikasjoner og programvare med høy innsats.
Miljøpåvirkning
Generative AI-modeller krever en betydelig mengde beregningskraft, spesielt de med større skalaer. Dette gjør at disse modellene bruker mye energi, noe som har potensiell høyrisiko miljøpåvirkning, inkludert karbonutslipp og global oppvarming.
Selv om det er en oversett faktor ved etisk AI, er det nødvendig å sikre miljøvennlighet for bærekraftige og energieffektive datamodeller.
Rettferdighet og rettferdighet
Generativ AIs potensial til å produsere upassende, unøyaktige, støtende og partiske svar er en annen stor bekymring for å sikre etikk i AI.
Det kan oppstå på grunn av problemer som rasemessig ufølsomme bemerkninger som påvirker de marginaliserte samfunnene og skaper dyptfalske videoer og bilder som produserer partiske påstander, forvrenger sannheten og genererer innhold som skader vanlige stereotypier og fordommer.
Ansvarlighet
Opprettings- og distribusjonspipelinen for opplæringsdata til generative AI-modeller kompliserer ofte ansvarsattributtet til AI.
I tilfeller av uhell, kontroverser og enestående omstendigheter, resulterer et udefinert hierarki og ansvarlighetsstruktur i juridiske komplikasjoner, fingerpeking og hemmer merkevaretroverdigheten.
Uten et solid ansvarlighetshierarki kan dette problemet ta en dårlig vending på kort tid, forsterke merkevarebildet og skade merkevarens omdømme og troverdighet.
Autonomi og kontroll
Ettersom generative AI-modeller automatiserer oppgaver og beslutningsprosesser på ulike felt, som helsevesen, juss og finans, resulterer det i tap av kontroll og individuell autonomi. Dette er fordi avgjørelsene hovedsakelig er drevet av AI-algoritmer i stedet for menneskelig dømmekraft.
For eksempel, uten menneskelig innblanding, kan et AI-drevet automatisert lånegodkjenningssystem bestemme en persons evne til å ta et lån eller kredittverdighet basert på kredittscore og tilbakebetalingshistorikk.
Dessuten fører generative AI-modeller noen ganger til tap av profesjonell autonomi. For eksempel, innen felt som journalistikk, kunst og kreativ skriving, skaper generative AI-modeller innhold som utfordrer og konkurrerer med menneskeskapt arbeid – noe som vekker bekymringer om jobbforskyvning og faglig autonomi.
Hvordan redusere etiske bekymringer med generativ AI? Løsninger og beste praksis
Mens utviklingen og teknologiske fremskritt førte til generativ AI er til stor nytte for samfunnet, er det også avgjørende å adressere etiske bekymringer og sikre ansvarlig, regulert, ansvarlig og sikker AI-praksis.
Foruten AI-modellskaperne og enkeltpersoner, er det også avgjørende for bedrifter som bruker generative AI-systemer for å automatisere prosessene sine for å sikre den beste AI-praksisen og adressere de involverte etiske bekymringene.
Her er beste praksis organisasjoner og bedrifter må ta i bruk for å sikre etisk generativ AI:
✅ Invester i robust datasikkerhet: Bruk av avanserte datasikkerhetsløsninger, som kryptering og anonymisering, bidrar til å sikre sensitive data, personopplysninger og konfidensiell selskapsinformasjon – og adresserer den etiske bekymringen ved brudd på personvernet knyttet til generativ AI.
✅ Innlemme forskjellige perspektiver: Organisasjoner må innlemme forskjellige perspektiver i AI-treningsdatasettet for å redusere skjevhet og sikre rettferdig og rettferdig beslutningstaking. Dette inkluderer å involvere individer med ulike bakgrunner og erfaringer og unngå å designe AI-systemer som skader eller er til ulempe for visse grupper av individer.
✅ Holde seg informert om AI-landskapet: AI-landskapet fortsetter å utvikle seg konsekvent med nye verktøy og teknologier – noe som gir opphav til nye etiske bekymringer. Bedrifter må investere ressurser og tid for å forstå de nye AI-regelverket og holde seg informert om de nye endringene for å sikre den beste AI-praksisen.
✅ Implementering av digitale signaturer: En annen beste praksis-eksperter foreslår for å overvinne generative AI-problemer er å bruke digitale signaturer, vannmerker og blokkjedeteknologi. Dette hjelper med å spore opprinnelsen til det genererte innholdet og identifisere potensiell uautorisert bruk eller tukling av innholdet.
✅ Utvikle klare etiske retningslinjer og brukspolicyer: Å etablere klare etiske retningslinjer og brukspolicyer for bruk og utvikling av AI er avgjørende for å dekke emner som ansvarlighet, personvern og åpenhet. Dessuten bruker etablerte rammer som AI Risk Management Framework eller EUs etiske retningslinjer for pålitelig kunstig intelligens bidrar til å unngå datamisbruk.
✅ Samsvar med globale standarder: Organisasjoner må gjøre seg kjent med globale standarder og retningslinjer som UNESCO AI-etikk retningslinjer som vektlegger fire kjerneverdier, inkludert menneskerettigheter og verdighet, mangfold og inkludering, fredelige og rettferdige samfunn og miljøoppblomstring.
✅ Fremme åpenhet og transparens: Organisasjoner må fremme AI-bruk og utviklingstransparens for å bygge tillit hos brukerne og kundene. Det er viktig for bedrifter å klart definere hvordan AI-systemer fungerer, hvordan de tar beslutninger og hvordan de samler inn og bruker data.
✅ Evaluer og overvåk AI-systemer konsekvent: Til slutt, konsekvent evaluering og overvåking av AI-systemer er avgjørende for å holde dem på linje og etisk i henhold til de angitte AI-standardene og retningslinjene. Derfor må organisasjoner utføre regelmessige AI-vurderinger og revisjoner for å unngå risiko for etiske bekymringer.
Konklusjon
Selv om generativ AI gir betydelige fordeler og revolusjonerer flere sektorer, er forståelse og adressering av de omkringliggende etiske bekymringene avgjørende for å fremme ansvarlig og sikker bruk av AI.
De etiske bekymringene rundt generativ AI, som brudd på opphavsrett, brudd på personvern, distribusjon av skadelig innhold og mangel på åpenhet, krever strenge reguleringer og etiske retningslinjer for å sikre riktig balanse og robust og ansvarlig bruk av AI.
Organisasjoner kan utnytte AIs kraft til sitt maksimale potensial med minimale eller ingen etiske risikoer og bekymringer ved å implementere og utvikle etiske regler og retningslinjer og følge beste AI-praksis.
Deretter kan du sjekke ut AI-statistikk/trender som vil forvirre deg.