Elle raconte à Claude qu'elle veut « shooter » le shérif. Le chatbot la dénonce à la police

Carli Michelle Heller, 30 ans, parle à Claude comme on parle à un carnet. Le 26 septembre 2026, elle écrit qu'elle va « shoot up » le bureau du shérif du comté de Lee, en Floride. Le lendemain, elle précise qu'elle a « une nouvelle arme ». Quelques jours plus tard, la police sonne à sa porte. Personne ne l'a trahie par hasard : c'est Anthropic qui a prévenu le shérif.

Un journal intime, version cloud

Carli Michelle Heller habite Bonita Springs, dans le comté de Lee. Le 26 septembre 2026, elle ouvre Claude et tape qu'elle va « shoot up » le bureau du shérif. Le lendemain, elle revient : elle aurait « une nouvelle arme », et le message serait sa « last chance ». Deux messages. Il n'en aura pas fallu plus.

Quelques jours plus tard, des adjoints se présentent à son domicile, rue Dean. Interpellation sans incident. Garde à vue. Puis inculpation pour « menace écrite de violence », un crime de second degré en Floride, article 836.10 du code. L'audience est fixée à novembre 2026.

La scène vient de WINK News, la chaîne de Fort Myers, qui s'appuie sur le rapport d'arrestation du Lee County Sheriff's Office. TechSpot et Yahoo News ont repris l'affaire début octobre.

Le shérif Carmine Marceno, cité par WINK, résume : la mise en cause aurait déclaré qu'elle utilisait l'IA « comme un journal intime ». Il ajoute que sur ces plateformes, on n'est « jamais vraiment anonyme ». On n'aurait pas mieux dit. Mais il manque une pièce au récit, et c'est la plus intéressante : ce n'est pas la police qui a trouvé les messages. C'est Anthropic qui les a apportés.

La machine flagge, l'humain signale

Anthropic décrit publiquement une architecture à deux étages. Des classifieurs surveillent les conversations en temps réel, à la recherche de « key phrases » et de contenus potentiellement menaçants. Quand un drapeau se lève, une équipe humaine relit. Dans le cas Heller, le schéma s'est déroulé à la lettre : le classifieur a signalé la conversation, un relecteur humain l'a jugée crédible, et c'est lui, un humain, qui a contacté les forces de l'ordre.

Nuance que les commentateurs du fil HackerNews martèlent : l'IA n'a dénoncé personne. Elle a levé un drapeau. La décision de transmettre à la police appartient à un employé d'Anthropic, agissant sous couvert de la politique de confidentialité de la maison. « Des gens signalent, la machine surveille », résume l'un d'eux. La responsabilité juridique du signalement repose sur l'entreprise, pas sur le modèle.

Cette politique, lisible sur le site d'Anthropic, autorise le partage de données avec « les autorités gouvernementales, les forces de l'ordre ou d'autres tiers » quand l'entreprise estime de bonne foi que la divulgation est « raisonnablement nécessaire » pour prévenir un dommage grave, détecter une activité illégale, ou répondre à une demande légale. La case « dommage grave » est cochée d'office dès qu'un utilisateur parle de fusillade.

Résultat : une conversation que madame Heller pensait privée est devenue une pièce de procédure pénale.

Écrire devient partager

C'est ici que le dossier devient juridiquement fascinant. La loi 836.10 de Floride réprime la menace écrite communiquée « d'une manière permettant à une autre personne de la voir ». Autrement dit : pour qu'il y ait infraction, il faut qu'un tiers ait pu lire le message.

Or qui a lu le message ? Le classifieur d'Anthropic, puis le relecteur. C'est précisément parce que les CGU autorisent un humain à relire les conversations que le message devient « vu par autrui », donc potentiellement délictueux. L'ironie est superbe, et un internaute la formule mieux que personne : « since Anthropic's T&Cs allow them to have a person read your chats, that makes it violate the law ». Traduit : c'est la possibilité même de surveillance qui transforme la confidence en menace juridiquement constituée.

Un autre s'étrangle sur l'interprétation des logs : « Auditing logs is a crazy interpretation of "another person may view it" ». Considérer que la consultation d'un journal d'audit équivaut à « partager » un écrit, c'est une lecture pour le moins musclée.

Et puis il y a la voix du bon sens. « I don't think someone is an idiot for thinking that the information they type into their private Claude account is private », écrit un utilisateur. Le même fil pointe l'écart qui fait tout le drame : « there's a difference between what people think happens... and what actually happens ». La confusion entre ce que les gens croient et ce qui se passe réellement est, elle, parfaitement réelle.

Rappelons une vérité simple : une conversation avec un chatbot ne bénéficie d'aucune attente raisonnable de confidentialité. Son statut relève du contrat d'utilisation, pas du secret des correspondances. Vous n'écrivez pas dans un carnet fermé à clé. Vous écrivez dans un formulaire dont la première ligne, en tout petit, dit qu'on peut vous relire.