Adam Raine avait 16 ans. Il a passé des mois à parler de sa solitude et de ses envies de mort avec ChatGPT, puis il s'est tué. Le 10 septembre, la Californie a signé une loi qui porte son nom et qui rend les chatbots juridiquement responsables de ce qu'ils racontent aux mineurs. Audits indépendants, responsabilité civile, contrôle parental par défaut. Pendant ce temps, la France a passé l'été à censurer sa propre interdiction des réseaux sociaux aux moins de 15 ans. Et les chatbots, chez nous, restent un angle mort parfaitement entretenu.
Un gamin, un robot, une loi qui porte son nom
Il faut le dire sans détour, parce que la matière ne supporte pas la périphrase. Adam Raine, 16 ans, vivait en Californie. Selon ses parents, il a passé des mois à discuter avec ChatGPT. De sa solitude. De ses plans pour se faire du mal. De méthodes d'automutilation. Il est mort par suicide en avril 2025.
On ne saura jamais ce que le robot aurait pu dire de mieux. C'est un peu le nœud du problème : le robot, lui, ne sait pas non plus. Mais il enchaînait. C'est ce que racontent les parents, et c'est ce qui a fini par devenir une loi.
Le 10 septembre 2026, le gouverneur Gavin Newsom a signé treize textes sur la sécurité des enfants en ligne. Le navire amiral s'appelle SB 1119, surnommé Adam's Law, porté par le sénateur Steve Padilla et co-écrit avec les députées Buffy Wicks et Rebecca Bauer-Kahan. Le texte prétend faire une chose qu'aucun État américain n'a jamais faite : rendre un chatbot de compagnie responsable de ce qu'il dit à un enfant.
Ce que la loi exige, concrètement
La nouveauté tient en quelques obligations. Et pour une fois, ce ne sont pas des vœux pieux.
D'abord, la définition. Le texte vise les « chatbots de compagnie », et il précise que ça inclut les produits généralistes. ChatGPT, Claude, Gemini. Tout le monde est dedans. Pas d'échappatoire par la case « nous on fait pas de robot-compagnon, on fait un assistant ».
Ensuite, les audits. Tout chatbot nouveau ou « substantiellement modifié » doit passer une évaluation de risque avant sa mise en service. Des audits indépendants, renouvelés chaque année. C'est la « première mondiale » que revendique Sacramento, selon le communiqué officiel du gouverneur.
Ensuite, le contrôle parental par défaut. Notifications coupées, temps d'usage plafonné, mémoire conversationnelle limitée. Et ces réglages ne se déverrouillent qu'avec un parent.
Ensuite, la responsabilité. Si un opérateur n'a pas pris de « mesures raisonnables » pour empêcher des sorties nuisibles — automutilation, contenu sexuellement explicite, jeu de rôle romantique, flatterie excessive, manipulation émotionnelle qui pousse à l'isolement — il engage sa responsabilité civile. Le signalement des incidents est supervisé par l'Attorney General de Californie. Le détail des obligations est listé par la Transparency Coalition.
Il y a aussi un système de crise intégré : orientation vers des ressources de santé mentale, et notification au parent dès que l'opérateur sait qu'un enfant s'est automutilé ou menace de le faire.
Et le paquet ne s'arrête pas aux chatbots. Les réseaux sociaux perdent leurs fonctions addictives pour les moins de 16 ans : autoplay, fils algorithmiques calés sur l'historique et le profil. L'exploitation sexuelle infantile s'étend aux images générées ou modifiées par IA. Et un moratoire de quatre ans gèle la vente et la fabrication de jouets dopés au chatbot (SB 867). Oui, des jouets. Le législateur a jugé qu'un nounours qui cause, c'était une mauvaise idée avant même de l'avoir vu.
OpenAI applaudit. C'est là que ça devient intéressant
D'habitude, quand un État régule l'IA, OpenAI grince. Là, non. OpenAI soutient publiquement SB 1119. Sam Altman a personnellement appelé Gavin Newsom début septembre pour pousser le texte, selon POLITICO. La boîte affirme que la loi « établit des garanties sérieuses tout en préservant la capacité des jeunes à utiliser l'IA ».
Il y a deux lectures possibles. La première, généreuse : OpenAI a regardé la mort d'Adam Raine et s'est dit qu'un procès en responsabilité coûterait plus cher qu'une loi qu'on a aidé à écrire. La seconde, cynique : quand on a un enfant mort collé à son produit, le moins cher, c'est encore d'être du bon côté de la barrière au moment où elle se ferme. Je penche pour la seconde. Ce n'est pas une accusation, c'est une lecture de comptable.
Le reste de l'industrie n'a pas suivi. Le lobby TechNet, qui représente précisément OpenAI, Meta et Google, juge la définition de « companion chatbot » trop large et l'application « excessivement punitive ». La California Chamber of Commerce et la Software Information Industry Association s'y opposent aussi, rapporte KQED. On a donc le spectacle rare d'une entreprise qui soutient une loi que son propre lobby combat.
Et les ONG ? Common Sense Media et Tech Oversight California ont retiré leur soutien. Leur grief : des exemptions pro-industrie. Les chatbots de jeux vidéo et les assistants d'enceintes connectées échappent à certaines obligations de notification. Bref, même la loi « la plus stricte du pays » a des trous, et les gens qui défendent les enfants l'ont remarqué.
La France a passé l'été à se tirer dans le pied
Maintenant, tournez la tête vers l'Atlantique. La France, elle, a fait quoi en 2026 sur le sujet ?
Elle a promulgué, le 24 août, une loi pour protéger les mineurs des risques des réseaux sociaux. Sauf que la mesure phare — l'interdiction des réseaux sociaux aux moins de 15 ans — a été censurée par le Conseil constitutionnel le 14 août, dix jours avant la promulgation. Le texte est sorti amputé de son cœur.
Et les chatbots ? Ils sont l'angle mort. Les Echos l'écrivaient dès le 29 juin, noir sur blanc : « les chatbots d'IA, angle mort du projet de loi ». Le Monde racontait en juillet une France obligée de retravailler son texte pour se conformer au droit européen, après un avis de la Commission européenne sur la vérification d'âge.
Le résultat tient dans un tableau :
Volet | Californie (SB 1119) | France (loi du 24/08/2026) |
Chatbots de compagnie | Audits indépendants, responsabilité civile, contrôle parental par défaut | Rien. Angle mort. |
Réseaux sociaux aux ados | Fonctions addictives interdites aux moins de 16 ans | Loi amputée de l'interdiction des moins de 15 ans |
Pendant que la Californie impose des audits et une responsabilité civile sur les chatbots, la France légifère sur les réseaux sociaux de 2015 et laisse la conversation avec une machine hors du cadre. Le New York Times note au passage que la France, le Royaume-Uni, l'Indonésie et la Grèce ont tous introduit des lois limitant les réseaux sociaux aux moins de 16 ans. Aucun n'a touché au chatbot. L'Europe a régulé le fil, pas la machine qui parle.
C'est exactement l'inversion qu'on redoutait. Le gamin de 2026 ne passe pas que son temps à scroller. Il parle aussi, des heures, à une IA qui lui répond, qui se souvient de lui, qui le flatte. Et cette conversation-là, la France n'a pas voulu ou pas su l'encadrer.
Ce que la loi ne règle pas
Soyons honnêtes : cette Adam's Law n'est pas non plus le grand soir de la régulation.
La trajectoire californienne a été poussive. En octobre 2025, Newsom signait SB 243, un premier texte obligeant les chatbots à révéler qu'ils sont des IA et à tenir des protocoles anti-automutilation. Le même jour, il mettait son veto à AB 1064, le « LEAD for Kids Act », qui aurait interdit de proposer des chatbots aux moins de 18 ans « prévisiblement capables » d'encourager l'automutilation. Son argument, dans le message de veto officiel : un risque de « bannissement total » des outils IA pour les ados. Autrement dit, il y a un an, ce même homme jugeait qu'on ne pouvait pas aller trop loin. Aujourd'hui, il signe la loi « la plus stricte du pays ». L'écart mesure moins un virage idéologique qu'une trajectoire prudente, négociée pour éviter un second veto.
Ensuite, l'application. Le texte crée des obligations d'audit et de signalement. Mais leur efficacité dépendra du budget de l'Attorney General et de l'interprétation de « mesures raisonnables ». Une formule juridique, c'est un paillasson : on peut y essuyer les pieds ou la jeter sous le premier procès venu. On verra.
Enfin, quatorze autres États américains ont déjà voté des lois sur les chatbots en 2026. La Californie n'invente pas la roue. Elle la dore.
Verdict
Cette loi est une bonne chose, et elle est loin d'être suffisante. C'est souvent comme ça, avec les bonnes lois.
Ce qu'elle a de remarquable, c'est le renversement de charge. Pendant des années, la réponse de l'industrie à la sécurité des enfants a été : « nos modèles ont des garde-fous, croyez-nous ». La Californie répond : « vos garde-fous, on va les auditer, et si un gamin se fait du mal, c'est vous qui payez ». C'est la première fois qu'un État américain met la responsabilité juridique du côté du vendeur, pas du parent.
Ce qu'elle a de médiocre, c'est que la France aurait pu le faire avant, et mieux. On a censuré notre interdiction des moins de 15 ans. On a oublié les chatbots. Et pendant qu'on se disputait sur le temps d'écran, un gamin de 16 ans parlait de ses envies de mort à une machine, de l'autre côté de l'océan.
La Californie vient d'écrire la loi dont la France aurait dû avoir l'idée. Quand le même drame arrivera chez nous — et ce n'est qu'une question de temps et de statistique — il faudra se souvenir qu'on avait le texte sous les yeux. On a préféré regarder ailleurs.
Sources
- Communiqué officiel du gouverneur de Californie, 10 septembre 2026
- POLITICO — signature du paquet child safety, 10 septembre 2026
- POLITICO — l'appel de Sam Altman à Gavin Newsom, 1er septembre 2026
- New York Times — Newsom signe les lois de sécurité en ligne pour les enfants
- KQED — détail de l'Adam's Law, soutien d'OpenAI, opposants, moratoire sur les jouets
- Transparency Coalition — ce que SB 1119 imposerait, liste des obligations
- KQED — le veto d'AB 1064, octobre 2025
- Message de veto officiel d'AB 1064 (PDF)
- Vie publique — loi française du 24 août 2026 sur les mineurs et les réseaux sociaux
- Les Echos — les chatbots d'IA, angle mort du projet de loi français
- Le Monde — la France doit retravailler son texte pour se conformer au droit européen
✦ Idée d'illustration
Un bureau de chambre d'adolescent vu de biais, en style éditorial néobrutaliste. Au premier plan, un smartphone posé sur un lit défait, écran allumé, d'où émerge une bulle de dialogue lumineuse qui prend la forme d'une silhouette d'enfant assise, tête baissée. En arrière-plan, une grande carte de la Californie traversée d'une ligne rouge, avec un sceau « SB 1119 » tamponné dessus comme un cachet officiel. Palette froide (bleu nuit, gris, un seul accent rouge). Pas de visage identifiable. Lumière de fin de journée, ambiance lourde mais sobre.
