Flicage en ligne: Youtube franchit une étape

Cette semaine , YouTube va tester aux États-Unis un système de vérification d’âge par intelligence artificielle. L’objectif officiel : protéger les mineurs des contenus inappropriés. Mais cette mesure, qui s’appuie sur l’analyse des habitudes de visionnage et l’ancienneté du compte, soulève de sérieuses questions sur la vie privée et le risque de surveillance généralisée.

Fin juillet, YouTube a annoncé le déploiement d’un système de vérification de l’âge assisté par l’IA. Cet outil d’apprentissage automatique sera testé sur un groupe d’utilisateurs aux Etats-Unis à compter de cette semaine . La capacité de la technologie à vérifier l’âge d’un utilisateur sera évaluée avant son déploiement à grande échelle a annoncé le directeur de la gestion des produits chez  YouTube Youth, James Beser.  

Le système de vérification d’âge de YouTube en cours d’essai 

Vers la fin du mois de juillet, YouTube a annoncé qu’il utiliserait un système de vérification de l’âge. L’outil « contribuera à fournir les expériences et les protections les meilleures et les plus adaptées à l’âge » selon la plateforme en ligne.  Le directeur de la gestion des produits chez YouTube Youth, James Beser, a déclaré que le nouveau système sera testé sur « un petit groupe d’utilisateurs aux Etats-Unis » à compter de la semaine prochaine.

Le but dans cette expérience est « d’estimer leur âge, afin que les adolescents soient traités comme des adolescents et les adultes comme des adultes », a-t-il écrit dans un article de blog. Notons que ce système de vérification est basé sur l’Intelligence artificielle (IA). L’outil se servira donc de l’IA pour identifier l’âge d’un utilisateur. L’IA va baser son analyse via différents signaux comme les types de vidéos recherchés, la durée de vie du compte ou encore les catégories de vidéos regardées.

 Si le système finit par déduire que l’utilisateur est un adolescent, il mettra en vigueur automatiquement les démarches de protections adaptées à son âge. S’il y a erreur, l’utilisateur devra présenter une pièce d’identité officielle ou une carte de crédit permettant de certifier qu’il a plus de 18 ans.  

Les outils de vérification de l’âge font polémique

Actuellement, la loi sur la sécurité en ligne est de plus en plus stricte. On encourage les différentes plateformes en ligne à utiliser un outil de vérification de l’âge afin de protéger les mineurs du danger d’Internet et de les empêcher d’accéder à des contenus pour adultes, comme les films pornographiques.

Certains sites web se servent de la reconnaissance faciale ou des identifiants. Mais cette stratégie est peu fiable à l’heure où l’IA générative gagne en performance. Il est de plus en plus facile de contourner les systèmes de vérification de l’âge. De plus, les internautes sont peu enclins à fournir des informations privées en raison des risques d’insécurité comme la fuite des données et conversations privées d’une utilisatrice de l’application pour femmes Tea suite à un acte de piratage.

Dans son rapport, Wired a révélé qu’au Royaume-Uni, les internautes doivent subir une vérification de l’âge avant de pouvoir regarder un film pornographique. Mais ils utilisent désormais des VPN pour contourner cette loi. Selon Wired, « les systèmes mis en place sont défectueux, tant du point de vue de la vie privée que du point de vue de la protection ».

Cependant, la collecte et l’analyse des habitudes de visionnage, combinées à la demande de documents officiels, pourraient constituer une base de données sensible, exposée à des abus ou des piratages, pouvant découler à une surveillance de masse.

Selon le vice-président de la politique au Centre à but non lucratif pour la démocratie et la technologie, Samir Jain, les exigences de vérification de l’âge « soulèvent de graves préoccupations en matière de confidentialité et de liberté d’expression ». Elles pourraient supprimer « l’accès à la liberté d’expression protégée par le Premier amendement sur Internet pour tous, enfants et adultes », a-t-il ajouté.

Samir Jain a souligné que si les Etats veulent mettre en vigueur cette loi sur la vérification de l’âge, il est primordial que les outils utilisés soient fiables et précis. Il pense aussi que les Etats doivent « limiter la collecte, le partage et la conservation des informations personnelles, en particulier les informations sensibles comme la date de naissance et les données biométriques ».  

Cette initiative de Youtube aux USA pourrait être le laboratoire d’un futur modèle mondial. Reste à savoir si le public acceptera ce compromis entre sécurité numérique et vie privée, ou s’il y verra le début d’une ère de surveillance algorithmique massive.