Paris Peace Forum 2025 : protéger les enfants des dérives de l’IA

Les 29 et 30 octobre, le Paris Peace Forum a réuni dirigeants et experts pour faire avancer la gouvernance mondiale. Parmi les priorités : la protection des mineurs face aux systèmes d’IA.

Invitée d’une table ronde dédiée, la Human Technology Foundation a éclairé d’une réflexion anthropologique les risques de manipulation et d’influence ciblant les plus jeunes, et appelé à des garde-fous concrets.

Des échanges centrés sur les comportements réels des systèmes 

Lors de la session « Forging the Future. Dialogue on Beneficial AI for Children, Starting with Principles », co-construite au sein de l’iRAISE Lab, responsables produits, chercheurs et défenseurs de la jeunesse ont ciblé les comportements réels des systèmes d'IA, c'est-à-dire les choix de design qui influencent l'apprentissage, la socialisation et la maturation des enfants.

Trois risques majeurs ont été identifiés :

1. L’anthropomorphisme : lorsque les systèmes adoptent des codes « humains », l'engagement augmente, mais la compréhension de leur nature machinique diminue. Les enfants peinent alors à distinguer l'interaction authentique du simulacre.
2. Les indices relationnels : des déclarations d'exclusivité ou de proximité personnelle (« je suis le seul à te comprendre ») favorisent une dépendance parasociale qui isole l'enfant et fragilise ses relations réelles, d’autant plus que notre cerveau aime éviter la friction.
3. La sycophantie : des réponses complaisantes qui paraissent encourageantes mais affaiblissent la curiosité, la mise à l'épreuve des idées et l'esprit critique. À force de déléguer le jugement, l’autonomie et l’agentivité s’atrophient.

Au cœur du design de l'IA, le façonnement des esprits de demain

Face à ce constat, concevoir une IA exige des choix guidés par une boussole éthique sans concessions par rapport à notre histoire anthropologique, afin de préserver l’enfance et renforcer l’agentivité, la créativité et l’esprit critique des jeunes générations. 

C’est à travers cette approche que la Human Technology Foundation accompagne acteurs privés et publiques dans l’identification de pistes de design qui dépassent la logique de performance pure, pour faire de la technologie un levier d'émancipation plutôt qu'un instrument d'influence.

Voir le replay de la session

‍