Meta déploie un nouveau système d'intelligence artificielle pour scanner la structure osseuse et la taille sur les photos afin d'identifier et de supprimer les utilisateurs de moins de 13 ans. Il s'agit d'une escalade significative de ses mesures de sécurité après une sanction juridique de 375 millions de dollars pour avoir compromis la sécurité des enfants.
« Notre IA examine des thèmes généraux et des indices visuels, par exemple la taille ou la structure osseuse, pour estimer l'âge général d'une personne », a écrit l'entreprise dans un billet de blog. « Elle n'identifie pas la personne spécifique sur l'image. »
Cette technologie, qui évite la reconnaissance faciale, analysera les profils à la recherche d'indices contextuels comme les publications d'anniversaire et scannera les images pour trouver des marqueurs physiques. Le système s'étend à Instagram dans 27 pays de l'UE et au Brésil, ainsi qu'à Facebook aux États-Unis, au Royaume-Uni et dans l'UE. Cette initiative intervient après qu'un jury du Nouveau-Mexique a ordonné à Meta de payer 375 millions de dollars de dommages et intérêts et qu'un jury de Los Angeles a jugé l'entreprise responsable d'avoir contribué aux problèmes de santé mentale des jeunes.
Ce déploiement teste si Meta peut résoudre son problème d'utilisateurs mineurs sans nuire à sa croissance, un défi qui a frappé la plateforme de jeux Roblox, dont l'action a chuté de 18 % après que son propre déploiement de vérification de l'âge a impacté le nombre d'utilisateurs. Bien que le modèle de revenus publicitaires de Meta soit plus protégé que celui de Roblox basé sur les transactions, ces changements comportent des risques réputationnels et réglementaires importants alors que l'entreprise fait face à un examen intense des tribunaux et du Congrès.
L'IA comme videur numérique
Le nouveau système de Meta représente un passage significatif d'une modération de contenu réactive à une détection d'âge proactive et automatisée. L'IA analysera des profils entiers, cherchant des indices contextuels dans les publications, les biographies et les commentaires — tels que des mentions de niveaux scolaires ou de célébrations d'anniversaire — qui pourraient indiquer qu'un utilisateur a moins de 13 ans.
Le développement le plus notable est l'intégration de l'analyse visuelle. Bien que Meta souligne qu'il ne s'agit pas de reconnaissance faciale, l'IA scannera les photos et les vidéos pour trouver des marqueurs de développement comme la taille et la structure osseuse afin d'estimer l'âge d'un utilisateur. Les comptes signalés comme potentiellement mineurs seront désactivés, obligeant l'utilisateur à suivre un processus de vérification de l'âge pour éviter une suppression permanente. Ce scan proactif vise à fermer les failles qui ont permis à des millions d'utilisateurs mineurs de créer des comptes.
Un problème coûteux
La poussée vers une vérification de l'âge plus avancée intervient alors que Meta fait face à une pression juridique et financière croissante. Un jury du Nouveau-Mexique a récemment condamné l'entreprise à une amende de 375 millions de dollars après l'avoir jugée responsable d'avoir compromis la sécurité des enfants en ligne en vertu de la loi sur les pratiques déloyales de l'État. Par ailleurs, un jury de Los Angeles a jugé Meta et YouTube (Google) négligents dans la conception de leurs plateformes, contribuant aux problèmes de santé mentale chez les jeunes utilisateurs.
Ces défaites juridiques soulignent les risques financiers liés à l'incapacité de contrôler l'utilisation par les mineurs. Le nouveau système d'IA fait partie de la réponse de Meta, une tentative de démontrer une conformité proactive et d'atténuer sa responsabilité future. L'entreprise étend également son programme « Comptes Adolescents », qui place par défaut les utilisateurs de moins de 18 ans dans des paramètres plus privés, à 27 nouveaux pays de l'UE et au Brésil.
Le précédent Roblox
Le défi de Meta est de mettre en œuvre ces fonctions de sécurité sans s'aliéner sa base d'utilisateurs ni nuire aux mesures d'engagement. Le cas de Roblox offre une mise en garde. La plateforme de jeux, très populaire auprès des jeunes utilisateurs, a vu son action plonger de 18 % le 1er mai après avoir signalé que ses nouvelles exigences de vérification de l'âge avaient ralenti l'acquisition de nouveaux utilisateurs et réduit la communication sur la plateforme.
Cependant, le modèle économique de Meta pourrait servir de tampon. Contrairement à Roblox, qui dépend des dépenses en jeu d'une base d'utilisateurs fortement orientée vers les moins de 17 ans, les revenus de Meta proviennent principalement de la publicité ciblant une population beaucoup plus large. Bien qu'une répression des comptes de mineurs puisse entraîner une baisse ponctuelle du nombre d'utilisateurs, l'impact sur les résultats de Meta devrait être moins grave que celui subi par Roblox. L'entreprise fait le pari que l'avantage à long terme d'une sécurité accrue et de la conformité réglementaire l'emportera sur tout désabonnement à court terme.
Cet article est à titre informatif uniquement et ne constitue pas un conseil en investissement.
