mandag den 29. juli 2019

Apple, Google og Amazons digitale assistenter lytter med


Apples underleverandører lytter regelmæssigt til fortrolige lægeoplysninger, narkohandler og optagelser af par, der har sex, som del af deres job med at yde kvalitetskontrol på firmaets digitale assistent, Siri, har den britiske avis The Guardian erfaret.

Selvom Apple således ikke udtrykkeligt afslører det i sit forbrugervendte privatlivsbeskyttelsesdokument, videregives en lille del af Siris optagelser til dets underleverandører, der arbejder for firmaet verden over. De har til opgave at kvalitetssikre svarene ud fra en række faktorer, bl.a. om aktiveringen af stemmeassistenten var med vilje eller ved et uheld, og om forespørgslen var noget, Siri kunne forventes at hjælpe med, og om Siris svar var passende.
Apple siger, at dataene ”benyttes til at hjælpe Siri og diktion … at forstå dig bedre og genkende det, du siger.”

Men firmaet siger ikke udtrykkeligt, at det arbejde foretages af mennesker, der lytter til de anonymiserede optagelser.

Apple fortalte The Guardian: ”En lille andel af Siri-anmodningerne analyseres for at forbedre Siri og diktion. Brugeranmodninger forbindes ikke med brugerens Apple-ID. Siris svar analyseres i sikre faciliteter, og alle dem der gennemlytter dem, skal overholde Apples strenge fortrolighedskrav.” Firmaet tilføjede, at en meget lille tilfældig delmængde, mindre end 1 % af de daglige Siri-aktiveringer, benyttes til kvalitetskontrollen, og de er typisk kun få sekunder lange.

En whistleblower, der arbejder for firmaet, som har bedt om at være anonym pga. frygt for sit job, udtrykte bekymring for denne mangel på afsløring, især givet hyppigheden med hvilken fejlaktiveringer opfanger ekstremt følsomme personlige oplysninger.

Siri kan ved et uheld aktiveres, når den fejlagtigt hører sit opvågningsord, sætningen ”Hej Siri”. Det er forståelige fejl, men der er også mindre forståelige. Et BBC-interview om Syrien blev afbrudt af den digitale assistent sidste år. ”Lyden af en lynlås opfattes ofte af Siri som en udløser,” sagde underleverandøren. Tjenesten kan også aktiveres på andre måder. F.eks. hvis et Apple Watch lægger mærke til, at det løftes og så hører tale, aktiveres Siri automatisk.

Whistlebloweren sagde, ”Der er utallige tilfælde af optagelser med private diskussioner mellem læger og patienter, forretningsaftaler, tilsyneladende kriminelle handler, samlejer osv. Disse optagelser ledsages af brugerdata, der viser sted, kontaktoplysninger og app-data.”

De medfølgende oplysninger kan benyttes til at verificere, om anmodningen lykkedes. I sine privatlivsbeskyttelsesdokumenter siger Apple, at Siris data “ikke er forbundet til andre data, som Apple kan have fra din brug af andre Apple-tjenester.” Der er ikke noget specifikt navn eller noget, der entydigt identificerer brugeren, knyttet til optagelsen, og ingen enkeltoptagelse kan let forbindes med andre optagelser.

Fejlagtige aktiveringer førte til optagelsen af de fleste følsomme data, der var sendt til Apple. Selvom Siri er en del af de fleste Apple-enheder, lagde underleverandøren vægt på Apple Watch og firmaets intelligente højttaler, HomePod, som de hyppigste kilder til fejlagtige optagelser. ”Regelmæssigheden af urets fejlagtige aktiveringer er utrolig høj,” sagde de. ”Uret kan optage nogle lydstumper, som vil vare 30 sekunder – det er ikke så længe, men man kan få en idé om, hvad der sker.”

Sommetider “kan du afgjort høre en læge og patient, der taler om patientens sygdomshistorie. Eller du hører nogen, måske med motorstøj fra en bil i baggrunden – og du kan ikke med bestemthed afgøre det, men det lyder som en narkohandel … du kan bestemt høre, det sker. Og du kan høre folk engageret i den seksuelle akt, som ved et uheld er optaget på den intelligente højttaler, HomePod, eller det intelligente ur.”

Underleverandøren sagde, at medarbejderstaben opmuntres til at rapportere om aktiveringer, der sker ved et uheld, ”men kun som et teknisk problem,” uden nogen særlig procedure for at håndtere følsomme optagelser. ”Vi opmuntres til at gå efter målet og komme gennem arbejdet så hurtigt som muligt. Den eneste funktion ved at rapportere, hvad der lyttes til, synes at være for at løse tekniske problemer. Der er intet om at rapportere indholdet.”

Ligesom ubehaget ved at lytte til så private oplysninger, sagde underleverandøren at de motiveredes til at gå til offentligheden om deres job pga. deres frygt for, at sådanne informationer kan misbruges. ”Der er ikke megen sikkerhedsgodkendelse af dem, der arbejder der, og mængden af data, de frit kan kigge igennem, er ret bred. Det vil ikke være vanskeligt at identificere en person, du lytter til, især med aktivering ved et uheld – adresser, navne osv.”

”Apple udliciterer opgaven til underleverandører, og der er stor udskiftning blandt personalet. Det er ikke sådan, at medarbejderne opmuntres til at gøre sig overvejelser om folks privatlivsbeskyttelse eller endog tænke på det. Hvis der er nogen med forbryderiske hensigter, vil det ikke være svært at identificere [folk på optagelserne].”

Underleverandøren argumenterede med, at Apple bør afsløre over for sine brugere, at denne menneskelige kvalitetskontrol finder sted – og især at holde op med at offentliggøre sine sjovere svar til Siri-anmodninger. Spørg f.eks. den digitale assistent, ”Lytter du altid med?”, og den vil svare med ”Jeg lytter kun, når du taler til mig” – i hvert fald i den engelsksprogede udgave.

Det er helt sikkert forkert, sagde underleverandøren. De argumenterede med, at aktivering ved et uheld er alt for almindeligt til sådan et sorgløst svar.

Apple er ikke alene om at ansætte mennesker til at overvåge og fejlrette sine automatiske digitale assistenter. I april afsløredes det, at Amazon ansatte medarbejdere til at lytte til Alexa-optagelser, og tidligere denne måned blev det afsløret, at Google-medarbejdere gjorde det samme med Google Assistant, som beskrevet længere nede i teksten.  

Apple afskiller sig dog fra andre firmaer på nogle måder. Amazon og Google tillader brugerne at fravælge nogle måder at bruge deres optagelser; Apple tilbyder ikke lignende valgmuligheder undtagen at slå Siri helt fra. Ifølge Counterpoint Research har Apple 35 % af markedet for smartwatches, mere end tre gange så meget som sin nærmeste konkurrent, Samsung, og mere end sine seks største konkurrenter tilsammen.

Firmaet værdsætter sit ry for at beskytte brugernes privatliv meget og bruger det ofte som en konkurrencefordel over for Google og Amazon. I januar måned købte Apple en kæmpe plakattavle ved Consumer Electronics Show i Las Vegas, USA, der meddelte, at ”Hvad, der sker på din iPhone, forbliver på din iPhone.”

Google-ansatte lytter med på Google Assistant

Det belgiske nyhedsmedie VRT NWS har i begyndelsen af juli 2019 afsløret, at Google i et vist omfang lytter med, når dets kunder bruger Googles stemmestyrede tjenester såsom den intelligente højttaler Google Home og din Android-telefons Google Assistant.

Googles moderselskab Alphabet beskæftiger mellemmænd til at gennemlytte samtaler - endda også private samtaler, som brugerne fører uden at have aktiveret tjenesten.

Det belgiske medie gennemgår i nedenstående 12-minutter lange YouTube-video, der har engelske undertekster, afsløringen af en række talestumper og samtaler med en mand, der har til opgave at gennemgå flamsksprogede beskeder fra Belgien og Holland. Mandens ansigt og stemme er sløret, for han har skrevet under på strenge vilkår fra Google om ikke at afsløre noget om sit arbejde.

Af YouTube-videoen fremgår også, at der af og til optages personfølsomme oplysninger. VRT NWS har fundet frem til og taler endda med nogle af de personer, der er blevet optaget. Selvom det er anonymiserede data, manden arbejder med, kan man af og til finde frem til brugerne, der har talt til Google Assistant. 

Google har meddelt VRT NWS, at det er nødvendigt at gennemgå ca. 0,2 % af de optagne lydstumper med henblik på at forbedre sprogtjenesten – i dette tilfælde også fordi flamsk er et nyt understøttet sprog for Google Assistant, og den flamske tjeneste er ikke så veludviklet som den engelsksprogede.

Det fremgår også af brugerbetingelserne og Googles privatlivsbeskyttelsespolitik for Google Assistant, at Google deler personlige oplysninger med sine samarbejdspartnere.

I 2018 blev dansk også et sprog, der kan benyttes sammen med Google Assistant. Ligesom flamsk er dansk et sprog, som Google Assistant er ved at lære at kende, og det kan derfor forventes, at der gælder samme problematik for Google Assistant på dansk som på flamsk. Firmaet Apple gør som du kan læse ovenfor noget tilsvarende med deres iPhone, iPad, intelligente højttaler HomePod og Apple Watch, der benytter den stemmestyrede assistent Siri.

Se den interessante video med engelske undertekster ved klik herunder.

Se den 12 minutter lange video herover med engelske undertekster.   

Hvis du vil vide mere

IT-selskaberne, inklusive Googles, overvågning kan du læse mere om i bogen ”Bliv sikker på nettet – PC- og onlinesikkerhed”. Bogen handler generelt om IT-sikkerhed og hvordan man bliver agtpågivende og kan beskytte sig. Den henvender sig til den almindelige borger eller ansatte i en virksomhed. Du kan bl.a. læse om disse relaterede emner:

  • Side 409-429: Kapitel 29 - Digitalt selvforsvar
  • Side 410: Se hvilke oplysninger Google indsamler om dig
  • Side 410: Træt af it-selskabers indsamling af oplysninger
  • Side 412-414: Brugervenlighed, dit privatliv og store it-firmaers dataindsamling
Med venlig hilsen

Lars Laursen, forfatter til bogen ”Bliv sikker på nettet – PC- og onlinesikkerhed”.


lørdag den 13. juli 2019

Facebook skal betale kæmpebøde

Den amerikanske forbruger- og konkurrencestyrelse (FTC) har indgået forlig med Facebook om at betale en bøde på 5 milliarder dollar (33,1 milliarder danske kroner).

Det oplyser kilder med kendskab til sagen til den amerikanske avis The Wall Street Journal. Dog har hverken FTC eller Facebook kommenteret oplysningen. Hvis oplysningen er korrekt, vil det være den største bøde i FTC’s over 100-årige historie.

En afgørelse kan komme inden for en uge fra det amerikanske justitsministerium.

Demokraten David Ciciline, der har plads i Repræsentanternes Hus, og er modstander af, at dette fører til lukning af Facebook-sagen, har sagt til Ritzau, at ”Den her bøde er en brøkdel af Facebooks årlige indtægter. Den vil ikke få dem til at tænke sig om en ekstra gang over deres ansvar for at beskytte brugeroplysninger”.

Facebook havde i første kvartal af 2019 en omsætning på 15,1 milliarder dollar og et nettooverskud på 2,4 milliarder dollar.

Sagen startede i 2018 med efterforskningen af Facebook efter Cambridge Analytica-skandalen. Det britiskbaserede firma blev afsløret i at have indsamlet personoplysninger om millioner af Facebook-brugere siden 2014. Informationerne anvendte firmaet blandt andet til at sælge konsulentydelser til politikere. Firmaet kørte bl.a. en kampagne for Donald Trump mod målrettede vælgere på Facebook med henblik på at få dem til at stemme på Donald Trump, der som bekendt vandt præsidentvalget i 2016. Det var også kraftigt involveret på sociale medier i forbindelse med Brexit-afstemningen i Storbritannien til fordel for Brexit.

Hvis du vil vide mere

Du kan læse mere om Cambridge Analytica-skandalen i bogen "Bliv sikker på nettet - PC- og onlinesikkerhed":
  • Side 429-430: Facebook og Cambridge Analytica - en dybere beskrivelse af skandalen.
  • Side 251-276: Sociale medier - om farer ved de sociale medier.
Med venlig hilsen

Lars Laursen, forfatter til bogen om IT-sikkerhed for den almindelige bruger, "Bliv sikker på nettet - PC- og onlinesikkerhed".