Alle har snakket om Bloombergs rapport at Amazon-arbeidere lytter til stemmeopptakene som lages når du snakker med Alexa. Men Amazon er langt fra alene. Her er hvordan teknologiselskaper kan – og har – sett på de private dataene du laster opp.
Innholdsfortegnelse
Fra å lese notatene dine til å forfølge mindreårige
La oss snakke om noen eksempler, fra Evernote-ansatte som snakker om å lese dine private notater til Google- og Facebook-ansatte som forfølger folk.
Evernote ga sine ansatte tillatelse til les dine private notater til «Forbedre opplevelsen din» i en endring av personvernreglene gjort i januar 2017. Evernote ombestemte seg og lovet ansatte ville be om tillatelse først etter at mange brukere ble opprørt. Men dette illustrerer problemet – Evernote kan enkelt gi sine ansatte tilgang. Og selv om du delte data med Evernote og forventer at selskapets retningslinjer vil holde det trygt, kan selskapet endre denne policyen når det vil.
Google sparket en gang en Site Reliability Engineer for å bruke tilgangen hans til Google-servere til forfølge og spionere på flere mindreårige, trykke på anropsloggene deres i Google Voice, få tilgang til chatloggene deres og oppheve blokkeringen av seg selv på en tenårings venneliste. Site Reliability Engineers har tilgang til alt fordi de trenger det for å gjøre jobben sin – og det er mulig for ansatte å være useriøse og misbruke den tilgangen, slik denne ingeniøren gjorde i 2010.
Facebook sparket en sikkerhetsingeniør som brukte tilgangen hans på Facebook til å forfølge flere kvinner på nettet i 2018. Hovedkortet rapporterte at andre ansatte var sagt opp pga forfølger eksene deres og andre lignende skumle ting.
Vi anbefaler ikke å gi apper tilgang til e-posten din. Men hvis du gjør det, kan disse appene ha folk som leser e-posten din – enten den kommer fra Gmail, Outlook.com eller en annen e-postkonto. Wall Street Journal rapporterte at menneskelige ingeniører som jobbet for noen selskaper som var ansvarlige for disse appene ser gjennom hundretusenvis av e-poster å trene algoritmene sine.
Dette er ikke en uttømmende liste. Facebook hadde en gang en feil som eksponerte private bilder til apputviklere og din arbeidsgiver kan les dine private meldinger i Slack– De er med andre ord ikke så private. Selv NSA har angivelig måttet sparke folk for å ha brukt statlige overvåkingssystemer til spionere på eksene deres. Og hvert selskap som har dataene dine, vil overlevere dem til myndighetene når en arrestordre kommer, slik Amazon gjorde da Alexa overhørte et dobbeltmord.
Skyen er bare en annens datamaskin
Når du bruker en tjeneste som laster opp dataene dine til en «sky»-tjeneste, er det bare å lagre disse dataene på en bedrifts servere. Og det selskapet kan se dataene hvis det vil.
Dette er enkelt nok, men rapporter om ansatte som lytter til stemmeopptakene våre føles fortsatt sjokkerende på en eller annen måte. Kanskje vi alle antar at det bare er for mye data og at folk ikke kunne undersøke det, eller kanskje vi tror det må være en slags lov som hindrer teknologiselskaper fra å se på disse tingene. Men i det minste i USA er vi ikke klar over noen lov som vil hindre selskaper fra å se på disse dataene – så lenge de er ærlige om det, kanskje ved å avsløre dette faktum i et servicevilkårsdokument som ingen leser .
Selv med stemmeassistenter er det imidlertid ikke bare Amazon. Som Bloomberg selv sier, har til og med personvernfokusert Apple folk som lytter til Siri-opptak for å hjelpe med å trene algoritmene som får disse stemmeassistentene til å fungere. Og Bloomberg sier at noen Google-anmeldere også lytter til opptak gjort med Google Home-enheter.
Legitime grunner til at folk kan se på dataene dine
Hvis du setter de skumle forfølgerne og andre som misbruker tilgangen deres til side, her er noen gyldige grunner til at en bedriftsansatt kan ha til å undersøke dataene dine:
Forespørsler fra myndighetene: En arrestordre kan tvinge et selskap til å se gjennom dataene dine etter noe relevant og overgi det til myndighetene
Opplæringsalgoritmer: På grunn av måten maskinlæring fungerer på, trenger algoritmer som brukes i programvare litt menneskelig input under opplæringsprosessen. Det er derfor folk lytter til Alexa- og Siri-opptak, og det er derfor Evernote ønsket at folk skulle se gjennom notatene dine.
Kvalitetssikring: Bedrifter kan undersøke opptak eller andre data for å finne ut hvordan tjenesten deres fungerer. Selv om du snakker med en robot, kan noen andre høre på opptaket senere for å se hvordan det gikk.
Kundestøtte: Et selskap kan be om tillatelse til å se dataene dine for å hjelpe deg hvis du trenger støtte. I det minste vil selskapet forhåpentligvis bare gjøre dette med din tillatelse – noe som kan være like enkelt å gi som sender en tweet, slik det var med Google Foto.
Rapporterte brudd: Et selskap kan se på dataene dine for å se på rapporter om brudd. La oss for eksempel si at du har en privat en-til-en-samtale på Facebook. Hvis den andre personen rapporterte deg for trakassering eller annet brudd, ville Facebook se på konverteringen.
Den eneste måten å stoppe dette på: Ende-til-ende-kryptering
Alt dette skjer på grunn av måten internett fungerer på. Til tross for all snakk om «kryptering» for å sikre dataene dine, blir data vanligvis bare kryptert når de sendes mellom enhetene dine og selskapets servere. Jada, dataene kan lagres kryptert på selskapets servere – men på en slik måte at selskapet kan få tilgang til det. Tross alt må selskapet dekryptere dataene for å sende dem til deg.
Den eneste måten å forhindre dette på er å bruke ende-til-ende-kryptering eller klientside-kryptering. Dette betyr at programvaren du bruker vil kryptere dataene på enhetene du bruker, og lagre bare de krypterte dataene på selskapets servere på en måte som selskapet ikke kunne få tilgang til. Dine data vil være dine.
Men dette er mindre praktisk på mange måter. Tjenester som Google Photos ville ikke vært mulig, siden de ikke automatisk kunne utføre oppgaver på bildene dine på selskapets servere. Bedrifter ville ikke være i stand til å «deduplisere» data og måtte legge mer penger på lagring. For taleassistenter måtte all behandling skje lokalt, og bedrifter kunne ikke bruke taledataene til å trene assistentene sine bedre.
Hvis du mistet krypteringsnøkkelen din, ville du ikke kunne få tilgang til dataene dine lenger – hvis selskapet kunne gi deg tilgang til filene igjen, betyr det at selskapet kan få tilgang til filene dine i utgangspunktet.