Apples underleverandører lytter regelmæssigt til fortrolige
lægeoplysninger, narkohandler og optagelser af par, der har sex, som del af
deres job med at yde kvalitetskontrol på firmaets digitale assistent, Siri,
har den britiske avis The Guardian erfaret.
Selvom Apple således ikke udtrykkeligt afslører det i sit
forbrugervendte privatlivsbeskyttelsesdokument, videregives en lille del af
Siris optagelser til dets underleverandører, der arbejder for firmaet verden
over. De har til opgave at kvalitetssikre svarene ud fra en række faktorer,
bl.a. om aktiveringen af stemmeassistenten var med vilje eller ved et uheld, og
om forespørgslen var noget, Siri kunne forventes at hjælpe med, og om Siris
svar var passende.
Apple siger, at dataene ”benyttes til at hjælpe Siri og
diktion … at forstå dig bedre og genkende det, du siger.”
Men firmaet siger ikke udtrykkeligt, at det arbejde foretages
af mennesker, der lytter til de anonymiserede optagelser.
Apple fortalte The Guardian: ”En lille andel af Siri-anmodningerne
analyseres for at forbedre Siri og diktion. Brugeranmodninger forbindes ikke med
brugerens Apple-ID. Siris svar analyseres i sikre faciliteter, og alle dem der
gennemlytter dem, skal overholde Apples strenge fortrolighedskrav.” Firmaet
tilføjede, at en meget lille tilfældig delmængde, mindre end 1 % af de daglige
Siri-aktiveringer, benyttes til kvalitetskontrollen, og de er typisk kun få
sekunder lange.
En whistleblower, der arbejder for firmaet, som har bedt om
at være anonym pga. frygt for sit job, udtrykte bekymring for denne mangel på
afsløring, især givet hyppigheden med hvilken fejlaktiveringer opfanger
ekstremt følsomme personlige oplysninger.
Siri kan ved et uheld aktiveres, når den fejlagtigt hører
sit opvågningsord, sætningen ”Hej Siri”. Det er forståelige fejl, men der er
også mindre forståelige. Et BBC-interview om Syrien blev afbrudt af den digitale
assistent sidste år. ”Lyden af en lynlås opfattes ofte af Siri som en
udløser,” sagde underleverandøren. Tjenesten kan også aktiveres på andre måder.
F.eks. hvis et Apple Watch lægger mærke til, at det løftes og så hører tale,
aktiveres Siri automatisk.
Whistlebloweren sagde, ”Der er utallige tilfælde af
optagelser med private diskussioner mellem læger og patienter, forretningsaftaler,
tilsyneladende kriminelle handler, samlejer osv. Disse optagelser ledsages af
brugerdata, der viser sted, kontaktoplysninger og app-data.”
De medfølgende oplysninger kan benyttes til at verificere,
om anmodningen lykkedes. I sine privatlivsbeskyttelsesdokumenter siger Apple,
at Siris data “ikke er forbundet til andre data, som Apple kan have fra din
brug af andre Apple-tjenester.” Der er ikke noget specifikt navn eller
noget, der entydigt identificerer brugeren, knyttet til optagelsen, og ingen
enkeltoptagelse kan let forbindes med andre optagelser.
Fejlagtige aktiveringer førte til optagelsen af de fleste
følsomme data, der var sendt til Apple. Selvom Siri er en del af de fleste Apple-enheder,
lagde underleverandøren vægt på Apple Watch og firmaets intelligente højttaler,
HomePod, som de hyppigste kilder til fejlagtige optagelser. ”Regelmæssigheden
af urets fejlagtige aktiveringer er utrolig høj,” sagde de. ”Uret kan
optage nogle lydstumper, som vil vare 30 sekunder – det er ikke så længe, men man
kan få en idé om, hvad der sker.”
Sommetider “kan du afgjort høre en læge og patient, der
taler om patientens sygdomshistorie. Eller du hører nogen, måske med motorstøj
fra en bil i baggrunden – og du kan ikke med bestemthed afgøre det, men det
lyder som en narkohandel … du kan bestemt høre, det sker. Og du kan høre folk
engageret i den seksuelle akt, som ved et uheld er optaget på den intelligente højttaler, HomePod, eller det intelligente ur.”
Underleverandøren sagde, at medarbejderstaben opmuntres til
at rapportere om aktiveringer, der sker ved et uheld, ”men kun som et
teknisk problem,” uden nogen særlig procedure for at håndtere følsomme
optagelser. ”Vi opmuntres til at gå efter målet og komme gennem arbejdet så
hurtigt som muligt. Den eneste funktion ved at rapportere, hvad der lyttes til,
synes at være for at løse tekniske problemer. Der er intet om at rapportere
indholdet.”
Ligesom ubehaget ved at lytte til så private oplysninger,
sagde underleverandøren at de motiveredes til at gå til offentligheden om deres
job pga. deres frygt for, at sådanne informationer kan misbruges. ”Der er ikke
megen sikkerhedsgodkendelse af dem, der arbejder der, og mængden af data, de
frit kan kigge igennem, er ret bred. Det vil ikke være vanskeligt at
identificere en person, du lytter til, især med aktivering ved et uheld –
adresser, navne osv.”
”Apple udliciterer opgaven til underleverandører, og der
er stor udskiftning blandt personalet. Det er ikke sådan, at medarbejderne opmuntres til
at gøre sig overvejelser om folks privatlivsbeskyttelse eller endog tænke på
det. Hvis der er nogen med forbryderiske hensigter, vil det ikke være svært at
identificere [folk på optagelserne].”
Underleverandøren argumenterede med, at Apple bør afsløre
over for sine brugere, at denne menneskelige kvalitetskontrol finder sted – og
især at holde op med at offentliggøre sine sjovere svar til Siri-anmodninger.
Spørg f.eks. den digitale assistent, ”Lytter du altid med?”, og den vil
svare med ”Jeg lytter kun, når du taler til mig” – i hvert fald i den
engelsksprogede udgave.
Det er helt sikkert forkert, sagde underleverandøren. De
argumenterede med, at aktivering ved et uheld er alt for almindeligt til sådan
et sorgløst svar.
Apple er ikke alene om at ansætte mennesker til at overvåge
og fejlrette sine automatiske digitale assistenter. I april afsløredes det,
at Amazon ansatte medarbejdere til at lytte til Alexa-optagelser, og
tidligere denne måned blev det afsløret, at Google-medarbejdere gjorde det
samme med Google Assistant, som beskrevet længere nede i teksten.
Apple afskiller sig dog fra andre firmaer på nogle måder.
Amazon og Google tillader brugerne at fravælge nogle måder at bruge deres
optagelser; Apple tilbyder ikke lignende valgmuligheder undtagen at slå
Siri helt fra. Ifølge Counterpoint Research har Apple 35 % af markedet
for smartwatches, mere end tre gange så meget som sin nærmeste konkurrent,
Samsung, og mere end sine seks største konkurrenter tilsammen.
Firmaet værdsætter sit ry for at beskytte brugernes privatliv
meget og bruger det ofte som en konkurrencefordel over for Google og Amazon. I januar
måned købte Apple en kæmpe plakattavle ved Consumer Electronics Show i
Las Vegas, USA, der meddelte, at ”Hvad, der sker på din iPhone, forbliver på
din iPhone.”
Google-ansatte lytter med på Google Assistant
Det belgiske nyhedsmedie VRT NWS har i begyndelsen af juli
2019 afsløret, at Google i et vist omfang lytter med, når dets kunder bruger
Googles stemmestyrede tjenester såsom den intelligente højttaler Google Home og
din Android-telefons Google Assistant.
Googles moderselskab Alphabet beskæftiger mellemmænd til at
gennemlytte samtaler - endda også private samtaler, som brugerne fører uden at
have aktiveret tjenesten.
Det belgiske medie gennemgår i nedenstående 12-minutter
lange YouTube-video, der har engelske undertekster, afsløringen af en række
talestumper og samtaler med en mand, der har til opgave at gennemgå
flamsksprogede beskeder fra Belgien og Holland. Mandens ansigt og stemme er
sløret, for han har skrevet under på strenge vilkår fra Google om ikke at
afsløre noget om sit arbejde.
Af YouTube-videoen fremgår også, at der af og til optages
personfølsomme oplysninger. VRT NWS har fundet frem til og taler endda med nogle af de personer, der er
blevet optaget. Selvom det er anonymiserede data, manden arbejder med, kan man
af og til finde frem til brugerne, der har talt til Google Assistant.
Google har meddelt VRT NWS, at det er nødvendigt at gennemgå
ca. 0,2 % af de optagne lydstumper med henblik på at forbedre
sprogtjenesten – i dette tilfælde også fordi flamsk er et nyt understøttet
sprog for Google Assistant, og den flamske tjeneste er ikke så veludviklet som
den engelsksprogede.
Det fremgår også af brugerbetingelserne og Googles privatlivsbeskyttelsespolitik
for Google Assistant, at Google deler personlige oplysninger med sine
samarbejdspartnere.
I 2018 blev dansk også et sprog, der kan benyttes sammen med
Google Assistant. Ligesom flamsk er dansk et sprog, som Google Assistant er ved
at lære at kende, og det kan derfor forventes, at der gælder samme problematik
for Google Assistant på dansk som på flamsk. Firmaet Apple gør som du kan læse
ovenfor noget tilsvarende med deres iPhone, iPad, intelligente højttaler HomePod og Apple Watch, der benytter den stemmestyrede assistent Siri.
Se den interessante video med engelske undertekster ved klik
herunder.
Se den 12 minutter lange video herover med engelske undertekster.
Hvis du vil vide mere
IT-selskaberne, inklusive Googles, overvågning kan du læse
mere om i bogen ”Bliv sikker på
nettet – PC- og onlinesikkerhed”. Bogen handler generelt om IT-sikkerhed og
hvordan man bliver agtpågivende og kan beskytte sig. Den henvender sig til den
almindelige borger eller ansatte i en virksomhed. Du kan bl.a. læse om disse
relaterede emner:
- Side
409-429: Kapitel 29 - Digitalt selvforsvar
- Side
410: Se hvilke oplysninger Google indsamler om dig
- Side
410: Træt af it-selskabers indsamling af oplysninger
- Side
412-414: Brugervenlighed, dit privatliv og store it-firmaers
dataindsamling
Med venlig hilsen
Lars Laursen, forfatter til bogen ”Bliv sikker på
nettet – PC- og onlinesikkerhed”.
Ingen kommentarer:
Send en kommentar