Chargement...
Chargement...
SummarySarah El Haïry, High Commissioner for Children and author of the book « Les Prédateurs », describes the risks social media and artificial intelligence pose to minors, including cyberbullying, exposure to violent content and the capture of their attention. She believes parents should not have to bear sole responsibility for protecting children, and proposes a child mode by default, age checks and platform regulation. She defends the principle of a “childhood debt” that companies should help repay, and calls for executives to be held accountable when risks are known and protective measures are rejected. She also talks about the need to better measure violence against children and coordinate public action around the different places where they live their lives.
Factual claims and figures from the identified politicians are checked against official sources, fact-checkers and the quality press. Automatic check: see the sources.
'atelier politique avec Frédéric Rivière.
Bonsoir et bienvenue dans l'atelier politique. Dans cette émission, nous essayons de prendre le temps dont parfois le tumulte de l'actualité nous prive. Le temps de la réflexion, de l'analyse, de la mise en perspective avec l'ambition de comprendre ce qui nous arrive et peut-être aussi ce qui s'annonce. Et ce soir, nous sommes avec Sarah El Haïry, haute commissaire à l'enfance, ancienne secrétaire d'Etat à la jeunesse, ancienne ministre de l'enfance. Bonsoir.
Bonsoir.
Cette émission, je vous le précise, est enregistrée dans les conditions du direct. Nous sommes ensemble pour à peu près 40 minutes. Vous aurez donc du temps. pour développer vos idées. Et je vais commencer, dans le vif du sujet, par lire quelques lignes des premières pages de votre livre, sorti récemment chez Albert Michel, intitulé « Les prédateurs ». Je plante le décor, vous parlez d'une mère le soir, c'est une scène imaginaire, mais dont on comprend bien qu'elle est très réelle en même temps. Vous parlez d'une mère le soir, à l'heure de se coucher, qui voit de la lumière sous la porte de sa fille, de 13 ans, qui entre dans la chambre et qui voit que sa fille était plongée dans son smartphone. Et là, je vous cite, dans le couloir, on parle de la mère, elle s'arrête, elle pense à demander le mot de passe, elle pense à confisquer le téléphone. Elle pense à ses ateliers de l'école en novembre, sur les bons usages du numérique, des diapositives, une animatrice bienveillante, des conseils sur la limitation du temps d'écran. Elle avait pris des notes, elle avait téléchargé l'application de contrôle parental, elle l'avait utilisée trois semaines. Elle retourne se coucher, elle ne dort pas, elle ne dormira pas de la nuit, pas vraiment, pas le genre de sommeil qui repose. Parce qu'il y a quelque chose dans ce geste de sa fille, faisant glisser l'écran vers le bas, quelque chose qu'elle n'arrive pas à nommer et qui pourtant la tient éveillée. Ce serait presque plus simple si c'était la peur d'un danger précis. C'est pire que ça, c'est la conscience sourde qu'elle ne sait pas de quoi protéger sa fille. Et vous ajoutez, la mère dans ce couloir n'a pas échoué, elle a été abandonnée. Abandonnée par qui ?
Abandonnée dans une époque qui va vite. Abandonnée parce que finalement elle s'est retrouvée seule face à des doutes, face à des questions. Et son instinct maternel était juste. Pourquoi elle ne sait pas ? Parce que, dans le fond, sa fille, elle est peut-être aujourd'hui, à ce moment-là, Emma et Claire, elle est peut-être face à une tentative de sextorsion, du chantage. Elle est peut-être dans une situation de cyberharcèlement. Elle est peut-être juste... Il y a quelques instants, elle a été exposée à des images pornographiques ou quelqu'un qui lui a envoyé... Une image, pour le coup, sexuelle. Ou une campagne de haine en ligne. Elle est peut-être tout à fait face à une campagne de haine en ligne. Elle est peut-être en train, depuis plusieurs heures déjà, de scroller face à des vidéos de tristesse, de déprime, pour le coup, de scarification. Elle est finalement face à des visages multiples de prédateurs, mais portés par système. de prédation et c'est là où son instinct de maman est juste elle sait que tout ce qu'elle a pu apprendre à sa fille pour se protéger ne pas aller avec un inconnu dans une voiture ne pas accepter un bonbon un jouet ou je ne sais quel cadeau d'un adulte inconnu tout ça n'a aucune prise à la maison
mais c'est terrible parce que c'est cette phrase la conscience sourde qu'elle ne sait pas de quoi protéger sa fille elle résonne très fortement parce que c'est un sentiment que chacun peut comprendre En même temps, la manière de la protéger définitivement, ce serait de la priver de cet outil qu'est le smartphone. Mais aujourd'hui, priver un ado ou une ado de smartphone, c'est aussi lui infliger une forme de souffrance sociale qui est presque insurmontable.
Aujourd'hui, c'est pour ça que moi, je n'ai jamais été pour l'exil numérique. Je ne pense pas qu'il faut transférer la charge entière. Et c'est pour ça que je suis douce avec cette maman. Il ne faut pas transférer cette charge. l'exclusive responsabilité des parents. Ce n'est pas un manque d'autorité qu'elle vit dans sa maison. C'est finalement une falaise. C'est
un désemparement. C'est un
désemparement parce que la protéger, c'est un contrôle de l'âge sur les réseaux pour qu'elle n'ait pas à être confrontée à un... un prédateur, qu'elle ne soit pas elle-même en réalité finalement la maman d'un enfant qui est piégé dans un système de l'économie de l'attention et qui est en train de grignoter chaque minute de nuit de sa fille. au point, finalement, de la prendre en otage. Et c'est ça qui est sourd. Et donc, finalement, la protéger, c'est poser, vous savez, des cadres, des digues qui ne feront pas d'elle l'exclusive arbitre ou l'exclusive bouclier de sa fille, alors même qu'elle a entre les mains quelque chose qui est merveilleux, mais qui peut se transformer en réalité en arme, malheureusement, parfois même létale.
Alors, vous écrivez aussi, nous avons interdit le travail des enfants dans les usines, mais nous avons accepté leur... dans les algorithmes. Et vous proposez ce mot, une sorte de concept que vous appelez la dette d'enfance. Ce sont, selon vous, les coûts qu'une société fait porter aux enfants sans leur consentement. D'ailleurs, le consentement des enfants, c'est un sujet presque à part entière. Et sans les inscrire, ces dettes, dans les bilans. Elle est, dites-vous, un remboursement différé. Celui qui l'a contracté n'est jamais celui qui la paie. Nous avons découvert une dette que personne n'avait pensé à compter. Et il nous reste 10 ans avant qu'elle ne devienne impayable. Est-ce que vous pouvez nous... nous préciser ce concept de la dette d'enfance et nous dire aussi qui devrait la rembourser. Pour
le coup, aujourd'hui, on a évalué la dette environnementale. On a évalué le poids de notre dette fiscale et notre dette de finances publiques. Mais cette dette d'enfance, c'est quoi ? Aujourd'hui, il y a un conflit d'intérêts immense qui est en train de se jouer. Et c'est tout le sujet de cette enquête. Des entreprises sont en train de gagner des milliards, des milliards sur le dos des enfants, avec des conséquences extrêmement graves sur leur santé, d'abord physique. parce que c'est du manque de sommeil, parce que c'est de l'obésité du fait de la sédentarité, parce que c'est de la dégradation de la santé mentale, c'est des conséquences sur l'apprentissage, parce qu'on voit aujourd'hui les conséquences sur le cognitif, sur la capacité à se concentrer, à apprendre, parce qu'on les a exposées à des choses auxquelles... Ils n'ont normalement pas accès et qui leur font du mal. Je ne parle même pas du contenu. Je ne parle pas du contenu violent, je ne parle pas du contenu haineux. Là, je parle vraiment du système. Et donc, cette dette, pourquoi c'est une dette ? Parce que certains, qui sont ces grands géants, pas tous au même niveau, mais certains plus que d'autres, viennent grignoter des parts de nos enfants. Ils les grignotent. Quand je dis il y a cette dette, c'est que c'est des pertes de chance. Un enfant qui a du mal à apprendre. Un enfant qui va tomber petit à petit dans une dépression profonde parce qu'il s'est retrouvé dans une bulle d'algorithme de scarification, de tristesse. Un enfant qui va se retrouver dans une bulle de violence. Vous avez vu malheureusement les drames, même dans notre pays. On n'a jamais eu d'arme spécialement à feu. Et on voit que d'un coup, des tendances à l'autre bout du monde, aux Etats-Unis, font qu'on a des enfants qui... ont des comportements qui sont difficiles à expliquer par rapport à notre histoire. Tout ça, c'est des conséquences d'une exposition et d'un manque de protection. Manque de protection qui aujourd'hui crée une dette. Parce que c'est des chances qu'on a enlevées aux enfants. Et cette dette, elle doit être payée par qui ? Parce que c'est ça votre question. Elle doit être payée comme par les entreprises aujourd'hui qui polluent. Pollueur
-payeur ?
Pollueur-payeur. Celui qui aujourd'hui pollue... paye. Concrètement, ça veut dire que moi, en attendant de réussir à réguler, parce que je crois qu'il faut une régulation, je crois qu'il faut des lois. Des lois d'abord qui protègent sur l'âge des réseaux sociaux, ça c'est le premier point, mais des lois qui ne font pas que c'est les parents qui doivent se débrouiller tout seuls. Des lois qui disent, par exemple, quand c'est un enfant, c'est le mode enfant par défaut. Et dans le mode enfant par défaut, il y a quoi ? Tu n'as pas de scroll infini. Tu n'as pas les vidéos qui se lancent toutes seules, indéfiniment. Un inconnu ne peut pas venir te parler. Et parce que, en fait, quelqu'un de 52 ans n'a pas à parler. Mais ça, c'est la
régulation.
c'est la régulation. Ça, c'est par la loi.
Mais quand vous dites qu'il faut contraindre les big tech à payer et à rembourser cette dette. D'abord, comment on la calcule, cette dette ? Et ensuite, comment ça se passe ? C'est payé à qui ?
C'est payé, à mes yeux, d'abord aux victimes. C'est-à-dire qu'aujourd'hui, il y a des procès qui sont en cours.
Oui, pour les familles qui ont bien d'un enfant.
On a un procès, pour le coup, en France. Le collectif Algos Victims. Ce sont des parents qui aujourd'hui engagent la responsabilité de TikTok parce qu'ils ont vu à quel point... L'enfermement de leurs enfants dans des algorithmes. Mais encore une fois, un algorithme, ce n'est pas quelque chose d'invisible, d'une sorte de chose qui est née par elle-même. C'est des codes, c'est des gens qui ont codé.
On va donner un exemple très concret. Je vais là aussi lire un extrait un petit peu long, mais parce que ça permet de bien contextualiser. Vous racontez le compte rendu d'une réunion interne dans une entreprise qui s'appelle Caracter AI, une application de... Qui est connue, hein ? Oui, moi je ne la connaissais pas pour tout vous dire, je l'ai découvert. dans votre livre, c'est une application de compagnon virtuel. Et d'après ce document, c'était en septembre 2023, qui a été produit en justice, trois options ont été examinées pour protéger les mineurs. La plus protectrice aurait réduit de 18 à 23% le temps d'engagement, comme on dit, c'est-à-dire le temps passé en fait, j'imagine, sur l'application. Exactement, qui rapporte
de l'argent.
Bien entendu, le temps d'engagement des utilisateurs concernés, elle a été écartée pour des raisons de bénéfice. Six mois plus tard, Sewell Setzer, un jeune Américain de 14 ans, utilisateur assidu de cette application, se suicidait. Et vous dites ceci, ce document ne prouve pas que Caracter AI a tué Sewell Setzer, mais, poursuivez-vous, ce que ce document prouve, c'est quelque chose de différent et d'aussi important. avait identifié une catégorie de risque pour les mineurs, elle avait évalué les options pour réduire ce risque et elle avait choisi la moins protectrice. Une négligence, c'est ne pas voir le risque. Ici, le risque était vu, documenté, évalué. Ce qui s'est passé ici s'appelle un arbitrage conscient entre la protection d'utilisateurs vulnérables et la performance des métriques d'engagement, des scores d'engagement. Quand on lit ça, on en vient presque à se dire que c'est une attitude qui n'est pas loin d'être, je vais m'auto-modérer, mais qui n'est pas loin d'être presque criminelle.
À mes yeux, effectivement, elle l'est et ce sera à la justice de la qualifier à la fin. Mais pourquoi je vous dis elle l'est ? C'est parce qu'on a l'impression qu'un enfant, c'est un adulte en miniature. En fait, non. Non. La protection qu'on doit aux enfants, elle est différente du consentement qu'on peut recueillir d'un adulte. Aujourd'hui, Caractère AI, pour citer que cette application, elle propose finalement des relations affectives. C'est une IA, c'est une intelligence artificielle dite conversationnelle. C'est pour chatter et discuter et créer des émotions. Mais on n'a pas le droit... Et qui enferme,
ce que j'ai vu, qui enferme dans ce qu'on... Ce que les psychologues appellent des comportements parasociaux. C'est-à-dire qu'on est à côté du monde, mais on n'est plus dedans. Mais vous
vous rendez compte, en fait, aujourd'hui, on a un enfant sur trois de 13 ans, un enfant, qui dit que son meilleur ami est une IA. Pourquoi ? Parce qu'à cet âge, au moment où on a besoin d'altérité, de confronter des idées, de ne pas être d'accord, de débattre, vous avez d'un coup quelque chose avec quoi vous pouvez parler. C'est-à-dire qu'aujourd'hui, les IA, vous n'avez même pas besoin d'écrire. Vous discutez.
Qui
vous répond avec vos mots, qui a une mémoire... infini de ce que vous lui avez dit, qui sait utiliser vos craintes, vos peurs, vos rêves, qui n'est jamais en confrontation avec vous. Donc il y a un anthropomorphisme immense. Et je dis simplement que bien sûr qu'il y a complicité quand on considère que finalement parce qu'on protégerait les plus jeunes, alors on perdrait de l'argent, ce qui est vrai, mais qu'on a fait le choix de l'argent face à la protection. Si une technologie n'est pas prête à respecter les besoins finalement des enfants, elle n'est pas mature pour les exposer. Une entreprise qui fait ça avec des adultes, j'ai envie de vous dire, à un moment, tu es solide pour dire je veux, je ne veux pas. Un enfant, il n'a pas cette capacité-là. Et c'est là où une entreprise qui fait ça, à mes yeux, c'est discriminable. Et c'est pour ça que dans le livre, je dis attention. Nous devons engager demain la responsabilité pénale des dirigeants qui prennent ces décisions en conseil d'administration. Parce qu'il y a deux comportements. Il y a ceux qui savent, qui ont effectivement documenté et qui ont pris des choix, mais ces choix se prennent où ? Dans des conseils d'administration. Et puis il y a plein d'autres entreprises qui n'évaluent même pas les conséquences. Ils disent bon, c'est pas grave, on verra si ça les donne ou pas.
Il y a ceux qui les évaluent et qui reconnaissent. qu'ils sont passés outre les corrections, qu'ils seraient sans doute bénéfiques de porter. C'est là où il faut
demander des comptes. Parce que c'est facile de dire que c'est un algorithme. Enfin, un algorithme, il est codé par des personnes. Oui, mais quand ce sont des gens américains,
par exemple, on voit bien comment le président américain a mis en garde d'Europe en disant « Ne venez pas, pour parler familièrement, on kikinait nos géants numériques ».
Oui, mais vous savez ce que je lui réponds ? Je lui réponds quelque chose de très simple. Lui, il dit ça. Ils nous disaient ça à nous, aux Français, nous, aux Européens. ils protègent mieux ces enfants. Aujourd'hui, en fonction du pays dans lequel vous vivez, vous êtes plus ou moins protégés. Les enfants chinois, les enfants américains sont mieux protégés que les enfants européens. Pourquoi ? Parce que, oui, aux États-Unis, les procès contre Meta en particulier, mais pas qu'eux, ont fait qu'eux, ils ont un couvre-feu numérique le soir. Pourquoi pour leurs enfants c'est bien et pas pour les nôtres ? Eux ils n'ont pas le scroll infini. Pourquoi ? Pourquoi ils font des choses chez eux ? TikTok en Chine n'est même pas le même que chez nous. Mais je veux bien qu'on n'en kique une personne, mais la réalité c'est que les conséquences de cette absence de régulation, elle est sur nos enfants. Et ils ont fait un choix différent pour les leurs. Et c'est pour ça que ce message n'est plus audible aujourd'hui. S'ils protègent les siens, on a le droit à la même protection pour les nôtres. Et donc on peut chez nous engager la responsabilité de ces géants. Je vais vous dire, moi j'ai rencontré un monsieur. Il a perdu sa vie. C'est un voisin. Il habite pas très loin de chez moi en Loire-Atlantique. Il en a écrit un livre d'ailleurs.
fille qui était tombée dans une spirale infernale du numérique, si je peux dire. Atroce.
C'est une famille attentionnée. Ils travaillaient. Ils avaient à peu près tout ce qu'on peut rêver d'une famille qui élève ses enfants, qui part en vacances. Tout ce qui peut paraître bien. Et finalement, d'un coup, tu ne comprends pas pourquoi ton enfant va plus bien. Et tu ne le vois pas. Mais parce que la prédation, elle est venue dans sa chambre. Elle est dans son téléphone. Mais elle n'est pas anodine. Ce n'est pas une mauvaise rencontre. Ce n'est pas un accident que de tomber sur ça. Et c'est là où, quand je dis la responsabilité des dirigeants, une entreprise qui va choisir de cibler, qui va compter le nombre d'utilisateurs qu'elle a mineurs de 8 ans, de 9 ans, de 10 ans, de 13 ans, et qui fait de l'argent sur ça, ce n'est pas entendable. C'est pour ça que je disais qu'on a interdit le travail dans les usines. Quand le temps que tu passes, c'est un travail et qu'il y en a, qu'ils l'utilisent et qui ont du coup un conflit d'intérêt. Ils n'ont aucun intérêt à ce que tu sors de l'application. Et aujourd'hui, on est passé de l'économie, finalement, de l'attention, celle du temps, à l'économie de l'affection. Ils veulent que nos enfants s'attachent, donnent leurs secrets, ne soient plus capables de vivre sans. D'ailleurs, aujourd'hui, juste pour donner un exemple, on a 100 millions d'utilisateurs en deux mois sur ChatGPT. Il a fallu deux ans à Instagram. pour voir 100 millions d'utilisateurs dans le monde. Est-ce que vous voyez la vitesse à laquelle ça va ?
On va marquer une petite respiration musicale et ce sont des enfants d'ailleurs qu'on va entendre et vous nous direz dans quelques instants pourquoi vous avez choisi cette chanson, ce titre. C'est Kids United, on écrit sur les murs.
écrit sur les murs le nom de ceux qu'on aime, des messages pour les jours à venir. On décide tout ce que l'on voudrait dire.
Nos enfants, ils devraient grandir comme ça. Ils devraient rêver, écrire sur les murs, penser à un monde où ils ont des rêves. Et aujourd'hui, le monde que je vois, il les aspire plutôt. Ça ressemble plutôt à des sables mouvants qu'à des rêves. Sauf que c'est ce qu'on leur doit. C'est un peu de candeur, un peu de légèreté et j'espère beaucoup de douceur. Et cette chanson, pour moi, quand je les ai entendues entonner, cette superbe chanson et ses mots, ça m'a fait, j'avoue, vibrer.
Merci d'être avec nous. Vous écoutez l'Atelier politique, émission réalisée par Mathias Golchani. On va se retrouver dans quelques minutes et on reviendra évidemment sur de nombreux sujets qui sont abordés dans ce livre. Les prédateurs chez Elvin Michel. Mais pour l'instant, c'est le moment de faire un point sur l'actualité. A tout de suite.
'atelier politique avec Frédéric Rivière.
'atelier politique avec Sarah El Haïry, haute commissaire à l'enfance, ancienne secrétaire d'État à la jeunesse, ancienne ministre de l'enfance et auteure de ce livre, Les Prédateurs, aux éditions Albin Michel, le sous-titre, Réseaux sociaux. IA, pédocriminalité, comment ils captent et monétisent l'attention de nos enfants. Dans votre livre, vous citez cette objection qui est régulièrement brandie, qui consiste à dire la technologie est neutre, ce sont les usages qu'on en fait qui sont bons ou mauvais. Et vous tenez à la réfuter et vous dites d'ailleurs qu'elle est profondément et structurellement fausse. Expliquez-nous.
Elle est structurellement fausse parce que c'est facile de se laver les mains. La technologie, elle est orientée, elle est bâtie par des hommes et des femmes qui la projettent dans une philosophie avec des objectifs à attendre. Et dès le moment que tu as un objectif, tu n'es pas neutre. Ce qui peut être neutre, c'est le support. Un téléphone peut être neutre. Un téléphone, il peut servir pour appeler, envoyer des SMS et c'est tout. Un téléphone avec un accès Internet et accès aux réseaux sociaux, d'un coup, c'est plus du tout le même. Ça devient un smartphone. Et finalement, un smartphone avec ou sans réseaux sociaux n'est pas le même. Vous comprenez la différence ? Il y a le support et il y a le contenu, mais une technologie. Lydia. C'est du quantique, mais il y a aussi l'IA conversationnelle. Une IA qui ne fait que de manière socratique t'aider à comprendre un problème mathématique. Pourquoi pas ? Je pense qu'il faut enseigner ces usages aux enfants. Ça a
rendu récemment malheureux quelques grands mathématiciens, notamment un Français Médaille-Field qui s'est effondré en apprenant qu'une IA avait résolu des choses sur lesquelles il travaillait depuis des années.
Exactement. Et donc, finalement, il y a cette IA-là. qui va venir même détecter des cancers dans des radios. Moi, j'adore ces usages-là. Et puis finalement, on peut en faire d'autres usages. Quand l'IA a été programmée pour te parler et aller chercher le plus profond de ton âme, de tes secrets, et finalement que tu t'attaches à elle, je suis désolée, il n'y a rien de neutre à ça. Et cette phrase, elle est même vicieuse, parce qu'elle transfère la responsabilité finalement sur l'utilisateur et l'usager. Mais l'utilisateur, si c'est un enfant... n'a pas le droit de faire ça. On n'a pas le droit de lui dire tu dois gagner tout seul le combat du haut de tes 9 ans, 10 ans, 12 ans, 13 ans face à un géant qui a finalement des centaines, des milliers d'ingénieurs, de spécialistes du neurodéveloppement dont du matin au soir le travail est de te garder le plus longtemps possible. Et je crois, et parce que je crois profondément finalement, je crois à cette révolution technologique pour dire... Nous pouvons faire un autre choix. Et ce choix, c'est un choix plus responsable, avec des conseils d'administration qui assument d'évaluer, de rendre public, d'auditer les conséquences, et de ne pas faire les autruches, parce qu'en ce moment, c'est ce qui se passe.
Alors tout ça, c'est l'ambition, mais ce que j'ai envie de vous demander, Sarah et la Iris, c'est si vous ne vous sentez pas parfois un peu seuls. D'ailleurs, il y a un avocat marseillais spécialisé dans cette question, notamment de la pédocriminalité. depuis des années sur le sujet, qui dit « vous êtes la seule courageuse sur ce sujet ». Et je voudrais lire un petit extrait de votre livre dans lequel vous reconstituez une réunion dans un ministère à Paris en novembre 2022. Il y a une experte qui expose des données alarmantes. Il y a un représentant de l'Elysée qui dit « la question politique c'est le calendrier, les régionales sont dans six mois ». On a le sujet du pouvoir d'achat qui mange tout l'espace et des arbitrages budgétaires qui vont être difficiles. Est-ce que c'est vraiment le moment de lancer une offensive régulatrice sur les plateformes ? Ça en dit quand même assez long sur l'importance qu'on accorde au sujet, non ?
l'importance qu'on accorde au sujet, sur le fait que ce qu'on n'évalue pas n'existe pas. C'est pour ça que je ne veux pas qu'on laisse les enfants invisibles. Je ne veux pas qu'on en parle que quand c'est des victimes, quand le mal est fait. Et le pire dans l'histoire, c'est cette phrase si facile de dire « mais t'as qu'à tenir tes enfants ». Pour moi, c'est le pire, parce que finalement, c'est soit l'enfant tout seul qui doit se débrouiller, soit c'est le parent qui serait indigne, parce qu'à 13 ans, à 14 ans, oui, il a craqué, parce que finalement, la pression du groupe, de la classe, a fait que son enfant, et parfois même sans le savoir, a un accès, ou s'est installé un accès aux réseaux sociaux. Ce que je dis là, c'est que ces réunions, il y en a eu plusieurs. Parfois face à des plateformes qui nous disaient oui, oui, mais qui ne faisaient rien derrière. Alors j'ai fait un autre choix. J'ai fait le choix de judiciariser. C'est-à-dire qu'à chaque fois que j'ai vu un comportement... Là, typiquement encore, il y a quelques jours...
En tant que haute commissaire, vous, vous avez le pouvoir de l'article 40 ? Oui,
et je l'ai... C'est-à-dire
de saisir la justice si vous estimez que c'est nécessaire ?
Plus que ce que j'en ai jamais usé,
pour
une raison toute simple. En ce moment même, pour le coup, sur X, il y avait une trend, une sorte de hashtag qui s'appelle mini chat. Désolé pour les auditeurs, mais c'est la réalité, avec des images extrêmement... violentes de pédocriminalité. J'ai engagé la responsabilité de tout le monde. J'ai saisi la Commission européenne, Faros, Arcom, et en plus un article 40 au procureur. Et j'ai fait ça sur les forums pédocriminels, sur un certain nombre de même plateformes de vente. Vous vous souvenez des scandales sur les poupées pédocriminelles. Mais pourquoi je fais ça ? Parce que je crois qu'aujourd'hui, on n'a plus le droit d'être silencieux. On n'a plus le droit d'essayer de trouver des arrangements dans des salles feutrées.
Dans une réunion, vous dites que quelqu'un a dit « si ce n'est pas très réaliste, ce n'est pas grave ».
Bien sûr, on m'a même dit « qu'est-ce qui définit la pornographie ? » Je vais vous rigoler ou quoi ? Et quand dans la description, on vous dit que ça ressemble à un enfant de 8 ans, qu'est-ce qu'il vous faut d'autre ? Et la réalité, c'est que, je suis désolée, il y en a qui sont cyniques, il y en a qui sont peut-être pas conscients de la conséquence. J'ai entendu aussi dire « oui, mais si c'est sur des poupées, ça ne sera pas sur des enfants ». C'est faux. Ce qui se passe, et l'affaire malheureusement, le drame, le Square Neck l'a montré, c'est que d'abord on va consommer des images, et c'est ce que je raconte dans le livre, les enquêtes aujourd'hui des équipes de police et de gendarmerie qui luttent contre les réseaux pédocriminels vont d'abord trouver des images, des vidéos, des contenus, puis ils vont trouver malheureusement souvent, comme chez le Square Neck, des poupées. Et après on va enquêter sur l'entourage et on va se rendre compte qu'il y a eu des victimes, enfants. Et on ne peut pas aujourd'hui considérer que le lien... Entre ce qui se passe dans le monde virtuel et ce qui se passe dans le monde réel est discontinu. Au point où, juste sur l'année dernière, vous savez combien il y a d'images pédocriminelles qui ont circulé ? Un demi-million. Un enfant sur deux, aujourd'hui, dans notre pays, a été exposé à des images violentes. Un enfant sur deux n'a pas souhaité regarder d'images pornographiques tomber nez à nez avec. C'est ça, la réalité. Et donc, face à ça, moi, j'essaie dans ce livre, j'avoue de... de partager ce que j'ai vu, dit, compris ces dernières années, pour que les parents ne soient pas seuls. Mais pour que aussi, vous savez, parfois certains grands-parents mettent de l'argent sur leur livret A, vont mettre un peu d'épargne. Et tout cet argent, il sert aussi à l'économie. Moi, je n'aurais pas la conscience tranquille si je savais que mon argent servait à engraisser. ou à participer à la croissance d'entreprises qui viennent faire du mal, peut-être demain, à mes enfants. C'est exactement ce que je dis dans ce livre. Il faut que tout le monde ouvre les yeux pour que tout le monde assume. Et si tout le monde assume, alors ces géants ne pourront pas plus, plus comme caractériel la dernière fois, considérer que finalement... 'amende, elle sera moins lourde
que
le profit généré. Ça, ce n'est pas entendable.
À propos du jeune homme dont on parlait au début de l'émission, qui s'est suicidé à 14 ans aux États-Unis, vous dites que la presse américaine a classé l'affaire en fait divers technologiques. Et vous dites, en fait, c'était un accident de civilisation. C'est un terme, je crois, qui est emprunté à Paul Virilio. entre autres philosophes, parce que c'était vraiment quelqu'un qui était multicarte. Mais cette expression est extrêmement forte. Comment fait-on lorsque c'est la civilisation qui est en marche, avec toute sa force, toute sa puissance ? Comment vous faites, vous, Sarah Laïry, pour vous dresser et résister ? C'est un défi extrêmement impressionnant. Parce qu'on n'est pas seul,
parce qu'on est des millions de parents. Parce qu'on parle de nos enfants. Je partage avec vous une conviction très profonde. Je dis que c'est vraiment aujourd'hui une réalité de civilisation et qu'on a changé d'air. Parce qu 'hui, c'est la question du contenu et de l'algorithme. Mais on a vu également, il y a quelques semaines, un robot qui a tenté une agression sexuelle en Allemagne. Oui, il y avait quelques semaines. Et ce robot, du coup, la question qui va être devant la justice, c'est qui est responsable ?
Juste parce que c'est important, vous dites qui a tenté une agression sexuelle. Il était piloté par un homme, si c'est ce à quoi je pense, et il a mis, pour dire le juste crûment, la main aux fesses d'une jeune femme. Mais c'était télécommandé par un homme. Ce robot n'a pas eu d'intention.
Non, aujourd'hui, ce robot n'a pas eu d'intention. Et on va sûrement engager la responsabilité. à voir la justice, ce qu'elle dira, de celui qui le commandait. Mais aujourd'hui, on a des IA qui, vous avez vu, n'attendent plus la commande première. C'est-à-dire qu'elles s'auto-alimentent et prennent des décisements de manière autonome. Qui sera responsable de leurs décisions et de leurs actions ? Et si demain, des robots ont effectivement de l'IA embarqué, c'est-à-dire qu'elles n'ont pas besoin d'être télécommandées. Mais si vous leur dites, ton objectif, c'est d'aller du point Y au point Z. Sauf qu'entre ces deux points, ils font des méfaits. Qui est responsable ? C'est toute la question. Et c'est là où, quand je vous dis, c'est une situation où on doit très vite reprendre la main. Enfin, un progrès qui n'est pas au service de l'homme n'est pas un progrès. Et c'est là où j'en appelle vraiment à la compréhension des uns et des autres. Et j'en appelle aux parents parce qu'aujourd'hui, on passe à côté d'émojis. Nos enfants sont effondrés parce qu'ils reçoivent des pizzas, des zèbres, des petites goupes de sang. Pour nous, ce sont juste des émojis, voire des petits cœurs jaunes, qui sont des codes, en fait, des codes extrêmement... violent c'est des menaces c'est des scarifications c'est des signes de pédocriminalité la fameuse pizza et je vous passe aubergine et le corps jaune un zèbre c'est des scarifications c'est des mutilations parce que les modérateurs enlèvent les mots scarification des contrôles mais du coup il ya des images mais nous On ne connaît pas ces signes.
Donc
comme on ne connaît pas ces signes, mais que les prédateurs les connaissent, et que c'est comme ça qu'ils font du chantage, on a dû faire une campagne il y a à peine quelques jours, je l'ai lancée, sur la sextortion. Qui aurait imaginé qu'aujourd'hui on devrait protéger nos enfants ?
S'extorsion, c'est-à-dire une espèce de chantage sexuel. J'ai obtenu une image plus ou moins dénudée et je la révèle partout si tu ne réponds pas à mes demandes. Ou si tu ne me
donnes pas d'autres images, ou si tu ne viens pas des comportements auxquels tu ne consens pas. Mais pire dans l'histoire, c'est que soit c'est une première image... Soit cette image, elle n'a même jamais eu lieu, puisque une IA t'a dénudé, mais c'est bien ta tête, puisque ta tête était sur Snapchat. Et on te menace de l'envoyer à tous tes amis. Enfin, vous vous rendez compte ? Le monde dans lequel nos ados et même nos... Préado grandit.
Alors, il y a quelques sujets encore que je vais aborder. Vous faites un certain nombre de propositions, et notamment, mais vous l'avez déjà dit plusieurs fois, pénaliser, poursuivre, etc. Éduquer
aussi beaucoup.
Oui, bien entendu. Vous dites qu'un dirigeant devrait être poursuivi si on peut prouver trois choses. La connaissance documentée des effets nocifs, la disponibilité de ressources pour y remédier. Et la décision délibérée de ne pas le faire pour des raisons économiques. Ça fait beaucoup de coupables en puissance, ça, non ?
Oui, bien sûr. Mais beaucoup de coupables en puissance parce qu'ils ont fait le choix, encore une fois. Quand tu prends la décision... Que tu as de l'information et que tu te dis « c'est pas grave, j'y vais quand même », mais c'est des drames. Ça, même si ces trois conditions font effectivement beaucoup de coupables potentiels, c'est une sonnette d'alarme. Dites ça en face, en regardant dans les yeux, à ces parents qui, pour certains, ont emmené leurs enfants en urgence pédopsychiatrique parce qu'ils étaient... effondré et qu'il ne savait plus par quel bout les relever et les soutenir, ça n'a pas de prix. Et ça responsabilisera parce qu'ils ne comprennent que deux choses, certains de ses dirigeants. Ils comprennent le pénal, Et aujourd'hui, les amendes financières. Et comme c'est les deux langages qu'ils comprennent, il faut leur parler dans leur langue.
Alors, vous abordez également... Et à côté de ça,
juste, pardon, il y a plein de gens qui essayent de faire des choses bien. Je pense, par exemple, à des structures de led tech, des réseaux sociaux éthiques et tout. Et ceux-là, ils ont toute leur place. Mais tant qu'on ne luttera pas contre ceux qui font les méfaits, alors on ne permettra pas aux autres également de se développer. Et ça, c'est valable dans tous les secteurs. Dans le numérique, mais aussi dans l'hôtellerie, dans plein de choses.
Vous abordez, je disais, également des questions qui vont au-delà du seul numérique. Vous parlez notamment de Betaram, cet établissement scolaire dans lequel des violences morales, physiques et sexuelles ont eu lieu pendant des décennies. Mais aussi, vous l'avez cité tout à l'heure, d'ailleurs, Joël Lescouarnex, chirurgien condamné en mai 2025 à 20 ans de réclusion pour viol et agression sexuelle. de 299 victimes pour la plupart des enfants et pour la plupart lorsqu'ils étaient sur une table d'opération. Et vous racontez que quatre mois après votre arrivée au commissariat à l'enfance, avez voulu lancer une enquête nationale sur les violences faites aux enfants. Le service concerné avait d'ailleurs renoncé à un travail similaire précédemment, faute de moyens. Et vous résumez la situation dans ces termes. D'un côté, un État qui ne sait pas combien d'enfants sont blessés. Quand vous dites blessés, c'est violenté, victime de pédocriminalité, etc. De l'autre, des entreprises qui savent tout de ce qui se passe dans la chambre de chaque enfant, via les écrans. Et plus loin, vous dites... Nous savons compter nos exportations de fromage au kilo près. Nous ne savons pas compter nos enfants blessés. Ce vide n'est pas une négligence technique, c'est un choix par défaut. On ne compte pas ce qu'on n'a pas décidé de voir et l'on ne décide pas ce qu'on ne compte pas. La boucle est parfaite. et elle tourne depuis des décennies. Vous connaissez, Sarah El Ayri, sans doute, la célèbre formule de Charles Péguy. Il faut toujours dire ce que l'on voit, mais surtout, il faut toujours, ce qui est plus difficile, voir ce que l'on voit. Quand on vous lit, quand on lit ce que je viens de lire, il est quand même difficile de ne pas envisager que cet aveuglement puisse confiner à de la complicité.
Cet aveuglement, il est en train de se... de se briser d'une certaine manière. Je veux dire comment ? D'abord parce que deux lois ont été débattues à l'Assemblée nationale et au Sénat. Violence, protection intégrale contre les violences faites aux enfants et aux femmes, loi de protection contre les mineurs, pénalisation des deepfakes, des commissions d'enquête plus de trois sur l'aide sociale à l'enfance, sur le périscolaire. particulier le drame du périscolaire parisien. Et puis, quelque chose d'un peu nouveau, et je ne sais pas si c'est enthousiasmant ou pas, mais en tout cas ça se passe. Vous savez, des banquiers centraux qui disent « vous savez le plus grand risque pour les croissances des pays développés ». la démographie sauf que comment faire plus d'enfants dans une société qui ne prend même pas soin de ceux qui sont déjà là voyez cette question assez fondamentale et d'un coup les silences se brise plus et c'est pour ça que aujourd'hui en ce moment même d'ailleurs dans plusieurs établissements à tous les niveaux scolaires on est en train de demander aux enfants ce qu'ils vivent Pas parce qu'il y a du courage et parce que, enfin, j'ai envie de dire, on assume ces chiffres. Toutes les trois minutes, il y a un enfant qui est victime de l'élan sexuel. Toutes les trois minutes, il n'y a pas un enfant aujourd'hui qui n'a pas été exposé. 92% des enfants disent ne pas réussir à sortir tout seul d'une application ou d'un... chatbot il y a, et qu'ils passent trop de temps dessus et ils savent que ça ne leur fait pas du bien. 92% de nos enfants, bon sang. Et donc, face à ça, face au grooming, à tous ces nouveaux mots qu'on ne connaissait pas, eh bien aujourd'hui, on est en train de demander à tous les enfants de France ce qu'ils vivent pour que enfin ces chiffres ressortent alors même qu'eux-mêmes n'ont pas conscience parfois des violences qu
'ils ont à connaître. Mais de quoi relever alors, puisque vous dites que c'est en train de changer, mais enfin il reste en doute encore du chemin à parcourir. De quoi relevait cette attitude, ce comportement qui consistait à refuser de voir ?
crois que c'est vraiment la conséquence d'une organisation pas au niveau des besoins des enfants. Je vais être très claire. L'organisation de notre pays, elle est structurée par ministères. C'est-à-dire que l'école, le ministère de l'éducation nationale ne regardait que le temps de l'école. Donc son job, c'est de 8h30 à 17h30. Par contre, ce qu'il y a avant et ce qu'il y a après, ça s'appelle le périscolaire, et au milieu aussi, au midi. Donc l'un ne parle pas à l'autre. Et puis il y a ce qui se passe à la
maison aussi.
Exactement. Et puis finalement, ce qui se passe à la maison, c'est plus de mon fait. Et puis ce qui se passe pendant le sport, c'est pas tout à fait de mon fait. C'est pas les mêmes services. Ce qu'on fait aujourd'hui, quand j'ai été au ministère de la Santé, vraiment sur la santé, les conséquences des réseaux sociaux, vous comprenez, ça c'est en dehors du programme scolaire. Et puis le numérique, ah non, ça c'est un truc pour, franchement, l'économie. On parle de souveraineté, de data center, on parle de trucs sérieux. Mais en fait, on parle du même enfant. Cet enfant, c'est un élève, c'est parfois une victime, c'est parfois juste un jeune adolescent qui est plein de rêve. C'est aussi l'adhérent d'une association, c'est le fils, le frère. Et finalement, si on ne pense pas tous les temps de l'enfant... et qu'on n'assume pas de regarder à 360 degrés ses besoins, alors ces chiffres, on ne les a jamais. Parce que quand l'école commence à se préoccuper de ce qui se passe à la maison, on lui dit de quoi tu te mêles. Et quand c'est l'école qui va dire, attention, il se passe quelque chose à la maison, c'est les parents, parfois, malentention, qui disent, mais de quoi tu te mêles ? Il nous
reste une petite minute. Il vous reste en principe, parce qu'on ne sait pas qui sera le prochain président ou présidente de la République. Il n'est pas interdit de penser que vous pourriez être conduite, je ne sais pas. Pour le coup, le ministère a
été pensé pour durer, mais toute la légitimité vient du président de la République. On peut supposer qu
'il vous reste à peu près six mois. Est-ce que vous avez, je vous laisse 40 secondes pour répondre, est-ce que vous avez le sentiment que vous pouvez lancer des trains qu'on ne pourra plus arrêter ?
Aujourd'hui, ce qui ne s'arrêtera plus, c'est la régulation sur l'intelligence artificielle et les réseaux sociaux, la responsabilité des plateformes, le statut particulier de l'enfant et du mineur, que ce soit aujourd'hui dans l'influence, la publicité, le fait de les transformer en produits. Ça c'est certain, je crois que plus jamais il y aura de cran. Mais si j'ai un message, une alerte, c'est que oui, il faut évaluer, il faut un impact score. Et puis surtout, c'est Noël dans quelques semaines, on va tous acheter des cadeaux à nos enfants, à nos petits-enfants. Vous l'avez dit, attention au numérique. Attention aux jouets qui embarquent de l'IA. Lisez bien, regardez bien. Je sais qu'on espère faire un beau cadeau, mais malheureusement parfois... Un téléphone au mauvais âge ou une tablette au mauvais âge,
c
'est un drame.
Votre livre se conclut par ces mots. Le jour où un enfant n'aura plus à se demander s'il peut nous parler, nous aurons commencé à rembourser la dette d'enfance. Merci Sarah El Haïry, merci d'être venue à l'atelier politique. Cette émission est à retrouver sur le site internet de RFI ou sur l'application Pure Radio. Bonne soirée, à la semaine prochaine.
Automatic transcript (Whisper + speaker diarisation), in French, translated by AI on request — errors in attribution, transcription or translation are possible. Always check against the timestamped source video.
Their latest statements, transcribed word for word.

Child protection: “Today, predators have two faces,” Sarah El Haïry denounces
CNEWS12 November 20262 min

Sarah El Haïry: “For the digital giants, our children are products”
Public Sénat10 November 202622 min

There is something criminal about some of the practices of the digital giants | Sarah El Haïry
MoDem4 November 202618 min

Sarah El Haïry (Modem): “Extremes fuel violent behaviour” • FRANCE 24
FRANCE 243 November 202618 min

I’m not against innovation; I’m against letting it run wild | Sarah El Haïry
MoDem25 September 202613 min

Sarah El Haïry: “Progress is neither an opponent, nor an adversary, nor a source of fascination”
CNEWS23 September 20262 min