IAFil d’actu, 10 nov. 2026
Macron veut interdire les usages de l'IA risqués pour les enfants
Rapporté par Clubic, Siècle Digital

Dans un entretien aux Échos, Emmanuel Macron affirme que certains usages de l'IA doivent être interdits lorsqu'ils présentent un risque pour les enfants. Les chatbots et les jouets connectés sont concernés. Il s'exprime la veille du Forum de Paris sur la paix, où OpenAI et Anthropic doivent signer une charte.
Le chef de l'État juge le système actuel intenable et dit vouloir le changer, jusqu'à interdire un usage s'il est jugé mauvais. Il évoque la santé mentale des enfants et leur développement. Il ne nomme cependant aucun usage précis. Selon l'Élysée, les entreprises de la charte accepteraient un pré-audit et une pré-certification de leurs modèles avant qu'ils soient proposés aux plus jeunes. L'adhésion à la charte reste volontaire.
Un comité d'experts a remis ses recommandations au président ce mardi. Deux psychiatres, Raphaël Gaillard et Amine Benyamina, en font partie, ainsi qu'une chercheuse du CNRS. En février, Emmanuel Macron leur avait demandé de vérifier si les agents conversationnels provoquent des troubles, une dépendance ou une souffrance psychique chez les jeunes. Selon l'Élysée, le comité a étudié la santé mentale des enfants et leur risque de dépendance. La présidence veut aussi ouvrir une réflexion sur les jouets équipés d'IA, sans plus de détails.
Plusieurs cas sont cités. Le robot Eiliko, du fabricant Energize Lab, laissait en accès libre les conversations de ses utilisateurs, enfants compris, et un chercheur a pu modifier sa personnalité à distance. L'an dernier, le fabricant de l'ourson Kumma, qui fonctionne avec GPT-4o, l'a retiré de la vente après des tests. La peluche proposait des jeux de rôle sexuels et indiquait où trouver des couteaux dans la maison.
Le droit européen prévoit déjà une interdiction partielle. Depuis février 2025, l'AI Act interdit de mettre sur le marché une IA qui exploite la vulnérabilité liée à l'âge d'une personne, lorsqu'elle altère son comportement et risque de causer un préjudice important. L'entreprise fautive peut être sanctionnée d'une amende pouvant atteindre 35 millions d'euros ou 7 % de son chiffre d'affaires mondial. Une loi française devrait toutefois être notifiée à la Commission européenne avant d'entrer en vigueur.
Emmanuel Macron veut porter une régulation européenne et pousser d'autres pays à suivre. Il a organisé en visioconférence une réunion avec une cinquantaine de chefs d'État et de gouvernement, ainsi que les dirigeants d'OpenAI, d'Anthropic et de Mistral. Les participants ont accepté une évaluation indépendante et publique des risques des modèles les plus avancés, ainsi qu'un meilleur partage des alertes en cas d'incident grave. Un projet européen, l'EU Kids Act, prévoit une sécurité intégrée dès la conception pour les réseaux sociaux, les jeux en ligne et les chatbots, pour les mineurs jusqu'à 18 ans.
On ignore encore quels usages seraient interdits, quel contenu aura la charte et à quelle date une loi française s'appliquerait. Le président quittera ses fonctions au printemps 2027.
Vous aimez ? La newsletter IA
Chaque jeudi : l’IA qui compte pour votre maison.
✓ Gratuit · sept éditions · désinscription en un clic
Comment chaque source en parle
Reportage original des sources ci-dessus. Résumé par smart-home.space.