Vous êtes sur écoute ! (au cas où vous ne l’auriez pas encore assimilé)

Mis à jour le 08/06/2020

Mise à jour : étonnamment, Facebook ne figurait pas dans cet article. Ne vous inquiétez pas, c’est très vite réparé puisque le 14 août, Facebook nous apprend que chez eux aussi des humains (des centaines d’entreprises sous-traitantes en fait) ont écouté vos messages vocaux de Messenger pour améliorer leur retranscription manuscrite. Ouf, on est rassuré … C’est Facebook lui-même qui avoue, préférant le faire au moment où tous ses collègues sont épinglés pour le même motif. Ils ont dû pensé que ça diluerait le problème.

Alexa, Google Assistant, Siri, Cortana. Vous connaissez ? Ce sont ce que l’on appelle des « assistants vocaux » créés par respectivement Amazon, Google, Apple et Microsoft. Grâce à eux, vous n’avez pas besoin de taper une requête dans un moteur de recherche, mais vous pouvez faire votre demande oralement à une « intelligence artificielle » qui vous répondra de façon plus ou moins à propos.

On sait déjà que pour entraîner une intelligence artificielle, il lui faut ingurgiter de la data. Par exemple, Google sait que quand vous tapez « météo » dans son moteur de recherche, avec ou sans accents, c’est qu’en général vous souhaitez connaître la météo d’où vous vous trouvez. Mais on ne fera pas la recherche de la même manière avec un assistant vocal où on aura tendance à s’exprimer de manière plus naturelle. Par exemple, « quel temps fera-t-il demain ? »

Donc toutes ces intelligences artificielles, qui ne sont pas intelligentes du tout à l’heure actuelle, ont appris des milliards de questions usuelles et donnent la réponse qui est en général la plus pertinente, mais seulement parce que l’expérience l’a montré. Si la question est reposée par l’utilisateur, c’est que la réponse n’était pas la meilleure et qu’il faut l’affiner. C’est pourquoi plus vous utilisez votre assistant vocal, plus il sera performant, puisqu’il apprendra des requêtes précédentes.

Jusqu’à présent vous pensiez que tout ça était géré par un logiciel, des algorithmes etc. et que tout ce que vous pouviez raconter avec votre assistant(e) restait entre vous et votre téléphone (ou enceinte connectée, ou téléviseur, ou montre connectée, ou réveil connecté, ou brosse à dent …). Bref, je met fin au suspens : non, vos conversations ne restent pas entre la belle Cortana et vous. Et c’est pareil pour tous les assistants vocaux, Apple ayant avoué lui aussi. Des centaines d’employés sont derrière à écouter certaines requêtes dans le but d’améliorer cette fameuse intelligence artificielle (qui reste très bête comme je vous disais).

Je sais, certains d’entre vous, en lisant ces lignes, me diront encore « je n’ai rien à cacher » … mais déjà avec un peu moins de conviction qu’avant, surtout quand on sait qu’il n’est pas rare que ces assistants se déclenchent par accident et peuvent donc écouter une conversation qui n’a rien à voir avec une demande à l’assistant.

La dernière info en date devrait quand même faire encore plus flipper puisque les mêmes procédures d’écoute par des employés est utilisée par Microsoft pour son service de traduction dans Skype. Évidemment ce service de traduction instantanée fait appel également à une intelligence artificielle qu’il faut améliorer par l’intervention divine humaine.

Et vous ne trouverez nulle part dans les conditions générales d’utilisation que des enregistrements audio de vos interactions avec le service d’assistance vocale sont susceptibles d’être écoutés par des humains. À moins qu’ils les aient modifiées depuis que le scandale a éclaté grâce aux lanceurs d’alerte qui ont envoyé ces preuves à différents sites d’information. Enfin, quand je dis scandale, ça fait pas la une des journaux non plus …

La conséquence de ces fuites est qu’Apple a décidé d’interrompre complètement le programme d’écoutes dans le monde entier le temps d’une enquête interne (j’ai pas compris sur quoi ils vont enquêter … sur le lanceur d’alerte j’imagine). Google met fin à cette pratique pour 3 mois en Europe (pourquoi 3 mois ? … le temps que ça se tasse et que les gens se fassent à l’idée ?). Microsoft et Amazon ne changent rien (pas d’hypocrisie au moins).

Oui, vous êtes bien sur écoute, mais c’est vous qui placez les micros !