Vous avez peut-être entendu l’avertissement légal « demandez la permission à vos parents avant d’aller en ligne » dans certaines publicités destinées aux enfants, ce qui est compréhensible car il est important de donner aux parents le contrôle sur ce à quoi leurs enfants accèdent dans le domaine numérique. Cependant, une demande faite le 2 juin par l’Entertainment Software Ratings Board a récemment commencé à circuler et à susciter des inquiétudes, car l’ESRB demande à la Federal Trade Commission des États-Unis de modifier la Children’s Online Privacy Protection Act (COPPA) pour permettre à une application de utiliser la technologie de numérisation du visage comme une forme de vérification de l’âge.
L’ESRB est rejoint par Yoti, un développeur de la technologie de numérisation faciale en question, et SuperAwesome, qui gère la plate-forme gratuite de gestion du consentement parental Kids Web Services et possède également plusieurs entreprises de publicité et de marketing d’influence axées sur les enfants. La technologie de Yoti ne scannerait pas les visages des utilisateurs pour les identifier personnellement, ne prenant que l’image faciale, la convertissant en nombres et utilisant ces nombres contre « des modèles dans son ensemble de données de formation qui sont associés à des âges connus ». Yoti a souligné l’adoption de sa technologie pour les utilisations de vérification de l’âge par Instagram et Facebook en novembre 2022.
Au fur et à mesure que le signalement de cette application à la FTC se répandait, de multiples préoccupations concernant la collecte de données et l’abus d’apprentissage de l’IA ont commencé à surgir de manière compréhensible, ce qui a suscité une longue réponse d’un porte-parole de l’ESRB qui tente de calmer les inquiétudes :
« D’abord et avant tout, cette application n’est pas d’autoriser l’utilisation de cette technologie avec des enfants. Arrêt complet. Ce logiciel ne prend pas et ne stocke pas non plus les « selfies » des utilisateurs ou ne tente pas de confirmer l’identité des utilisateurs. De plus, cette application ne fait aucune mention de l’utilisation de l’estimation de l’âge pour empêcher les enfants d’acheter et/ou de télécharger des jeux vidéo à classification restrictive, et nous n’avons pas non plus l’intention de recommander son utilisation de cette manière.
« Toutes les images et données utilisées pour ce processus ne sont jamais stockées, utilisées pour la formation à l’IA, utilisées pour le marketing ou partagées avec qui que ce soit ; le seul élément d’information qui est communiqué à l’entreprise qui demande le VPC est une détermination « oui » ou « non » quant à savoir si la personne a plus de 25 ans. »
Malgré ces tentatives d’assurance, GamesIndustry signale plusieurs autres signaux d’alarme : SuperAwesome est une filiale d’Epic Games, dont les lecteurs se souviendront qu’elle a été condamnée à une amende par la FTC pour violation de la COPPA en Fortnite; Le PDG de Yoti, Robin Tombs, est co-fondateur de la société de jeux Gamesys qui s’est retiré en 2019 après que la société a été condamnée à une amende par la UK Gambling Commission; et bien que la technologie de Yoti ait déjà été utilisée, il y a des cas extrêmes où elle échoue et demande une vérification de l’âge en utilisant des méthodes déjà en place, ce qui souligne que (à la manière de la vraie technologie) le scanner facial de l’entreprise essaie de créer un solution à un problème déjà résolu.
Publicité
