Intelligence artificielle et protection des mineurs : Sarah El Haïry, haute-commissaire à l’Enfance, lance une dynamique collective avec associations et entreprises pour construire une IA protectrice des enfants
Communiqué de presse
Publié le |
Sarah El Haïry, haute-commissaire à l’Enfance, a réuni ce jeudi 17 septembre, aux côtés de Najat Maalla M’jid, représentante spéciale du secrétaire général des Nations unies chargée de la question de la violence contre les enfants, des associations de protection de l’enfance, des experts du numérique et des concepteurs d’intelligences artificielles. À l’issue de cette rencontre, les participants ont accepté de rejoindre un groupe de travail consacré à la conception d’une intelligence artificielle protectrice des enfants. Piloté par le haut-commissariat à l’Enfance pendant deux mois, il devra aboutir à des propositions concrètes selon un principe commun : le « Safe Child by Design ».
Les enfants ne se contentent plus de consulter des contenus numériques. Ils dialoguent désormais avec des intelligences artificielles, leur posent des questions et peuvent leur confier leurs difficultés scolaires, leurs problèmes familiaux, leur mal-être ou leurs interrogations les plus intimes. Cette évolution ouvre des possibilités considérables pour apprendre, créer, comprendre et accéder à l’information. Elle fait également apparaître de nouveaux risques : exposition à des contenus inadaptés, manipulation, dépendance affective, collecte de données intimes, recommandations dangereuses, détournement d’images ou encore deepfakes sexuels.
Un groupe de travail installé dès la semaine prochaine
Face à cette transformation, Sarah El Haïry a réuni au ministère associations de protection des enfants, experts du numérique et concepteurs d’intelligences artificielles.
À la proposition de Sarah El Haïry, les participants ont accepté de s’organiser en dynamique collective « IA protectrice des enfants », piloté par le haut-commissariat à l’Enfance. Pendant deux mois, chaque acteur sera invité à réfléchir à des mesures opérationnelles, en associant les compétences des associations et des entreprises technologiques.
Ses travaux s’organiseront autour de quatre priorités :
- définir les principes d’une IA protectrice des enfants, fondée sur la protection par défaut, la prise en compte de l’âge, la minimisation des données, la transparence et l’absence de mécanismes exploitant les vulnérabilités des mineurs ;
- traduire ces principes dans la conception des produits, notamment grâce à des paramètres protecteurs activés par défaut et à un « mode mineur » commun aux services d’intelligence artificielle. Ce mode pourra intégrer des protections activées par défaut : limitation du profilage et de la mémoire, réponses adaptées à l’âge, encadrement des interactions affectives, détection des situations à risque et accès facilité à un adulte ;
- construire des outils concrets (tel qu’un bouton d’urgence immédiatement identifiable) permettant à un enfant de signaler une situation dangereuse, de demander de l’aide et d’être orienté vers le 119, le 3018 ou un intervenant humain. Un canal prioritaire avec les associations et signaleurs de confiance sera également étudié afin que les alertes les plus sensibles ne se perdent pas dans le flux général des demandes ;
- préciser les responsabilités et les engagements respectifs des entreprises, des associations et des pouvoirs publics, ainsi que les éventuelles évolutions réglementaires à porter en France et au niveau européen, sous forme d’un référentiel commun tel qu’un « Passeport IA Enfance ».
L’objectif est de faire de la protection des enfants un principe de conception, un standard industriel et un critère de confiance pour les familles. Les conclusions du groupe de travail et les premiers engagements des participants seront présentés au terme des deux mois de travaux. Cette démarche sera ensuite portée au niveau européen.
« Nous avons trop souvent construit le numérique avant de nous demander comment y protéger les enfants. On en voit aujourd’hui les dégâts, notamment avec les réseaux sociaux et les messageries en ligne des jeux vidéo. Avec l’intelligence artificielle, nous n’avons pas le droit de recommencer ! Je veux que la France soit le pays qui ne demande plus aux enfants de s’adapter aux risques technologiques, mais qui demande à la technologie de s’adapter à leurs droits, à leurs besoins et à leur vulnérabilité. » Sarah El Haïry, haute-commissaire à l’Enfance
Contact presse
Haut-Commissaire à l'Enfance
Cabinet de Mme Sarah El Haïry
Mél : sec.presse.hce@social.gouv.fr
14 avenue Duquesne
75007 Paris SP07