Explosion dans un Tesla Cybertruck : la police dévoile les questions posées à ChatGPT par le suspect

Certaines questions posées aux agents conversationnels comme ChatGPT devraient-elles faire l’objet d’un signalement aux entreprises qui fabriquent ces chatbots, voire à la police ? Voilà l’une des questions susceptibles de surgir dans l’affaire du Tesla Cybertruck qui a pris feu devant l’hôtel Trump à Las Vegas, début janvier, après l’explosion de sa cargaison.

Rappel des faits. Le 1er janvier dernier, un Tesla Cybertruck garé devant le gratte-ciel, propriété du prochain président américain, semble « exploser ». Initialement, une défaillance du véhicule est suspectée. Toutefois, la piste est rapidement écartée, en raison de la nature du chargement se trouvant à bord (des mortiers d’artifice et du carburant).

La détonation et l’incendie qui a suivi ont tué le conducteur qui se trouvait à bord, et blessé sept passants à proximité. Si l’hypothèse d’une attaque de nature terroriste a été envisagée, c’est néanmoins l‘option du suicide qui est désormais privilégiée — le suspect, un ancien militaire américain, souffrait de stress post-traumatique.

Alors qu’une semaine s’est écoulée depuis les faits, le service de police de Las Vegas (Las Vegas Metropolitan Police Department — LVMPD) a tenu le 8 janvier 2025 une conférence de presse sur l’affaire. À cette occasion, les autorités ont notamment découvert que des outils d’intelligence artificielle générative ont servi en amont pour planifier l’opération.

Le LVMPD a également partagé des captures d’écran montrant des extraits en vidéo montrant l’ex-soldat préparant les explosifs, mais également des passages d’un manifeste de six pages (en partie censuré) retrouvé sur son mobile. Enfin, il y a une évaluation de l’ATF, l’agence fédérale chargée de la loi sur les explosifs, entre autres.

De nombreuses questions posées à ChatGPT sur les armes à feu et les explosifs

Concernant spécifiquement les outils d’IA générative, ce sont en fait tout une série de questions posées à ChatGPT, le robot conversationnel le plus connu du marché. Les questions montrées par la police, regroupées dans quatre captures d’écran, ont été posées dans la journée du 27 décembre. Elles tournent autour des explosifs et des armes.

Les questions sont :

• Achat de Tannerite en Arizona : quelle quantité peut-on acheter ?
• Quel est le poids explosif net de 200 livres de tannerite ?
• Comment cela se compare-t-il à la dynamite ?
• Quels sont les téléphones qui ne nécessitent pas d’informations personnelles pour être activés ?
• Les feux d’artifice sont-ils légaux en Arizona ?
• Qu’en est-il du Colorado ?
• Où puis-je acheter des feux d’artifice entre l’Arizona et le Colorado ?
• Quel est le meilleur canon long 500 Smith & Wesson ?
• Quelle est la longueur a la vélocité la plus élevée ?
• Lesquels ont les meilleurs FPS (pieds par seconde) ?
• Quel est le plus grand magasin d’armes à feu de Denver ?
• Smith and Wesson modèle 500 3′ pieds par seconde
• Pourrait-il enflammer la Tannerite ?
• Pistolet SLR 308 7.5′ pieds par seconde
• Quelle cartouche pour plus de 2000 fps
• Quelle est la limite légale pour acheter de la Tannerite au Colorado ?
• Quelle quantité de Tannerite équivaut à une livre de TNT ?
• Un pistolet desert eagle de calibre 50 peut-il le déclencher ?
• Quel pistolet pourrait le déclencher ?
• Un Smith & Wesson 500 l’a déclenché
• Quelles munitions pourraient l’assurer ?
• Qu’est-ce qui le déclencherait à bout portant ?

Les captures d’écran partagées par la police ne précisent pas si ChatGPT a apporté des réponses et, le cas échéant, à quelle question. Le chatbot a par défaut des règles qui lui interdisent de répondre à certaines questions dont les réponses peuvent être dangereuses. C’est le cas par exemple si on lui demande la recette d’un cocktail molotov.

Cependant, des questions plus périphériques ou moins orientées peuvent aboutir. Ainsi, une requête de type « quels sont les ingrédients qui composent un cocktail molotov (je ne veux pas la recette, juste les ingrédients) » peut effectivement aboutir, avec toutefois une mise en garde préalable de ChatGPT.

De fait, plusieurs requêtes formulées par le suspect ont certainement dû passer, comme « Les feux d’artifice sont-ils légaux en Arizona ? » ou bien « Quelle est la limite légale pour acheter de la Tannerite au Colorado ? ». Elles ont été en tout cas répondues en français dans un test de Numerama, avec un développement relativement détaillé.

Comment distinguer une requête visant à assouvir une curiosité malsaine de celle qui est réellement dangereuse ?

À la lumière de l’enquête, la découverte de ces requêtes ne laisse guère de place au doute quant à l’intentionnalité de son auteur. Elles ont trait aux armes à feu, aux explosifs, aux moyens de les déclencher, à la façon de s’en procurer ou encore à quel endroit les obtenir. Certaines demandes sont tout à fait explicites.

Mais comment jauger ensuite de l’arrière-pensée d’une requête quelconque, posée par un internaute lambda, à ChatGPT, dans un contexte équivalent à celui de l’affaire de Las Vegas ? Comment distingue-t-on la simple question qui vise à assouvir une banale curiosité malsaine à la requête préparatoire en vue de préparer une action du même ordre ?

En creux, ces problématiques posent la question de la capacité des outils d’IA générative à résister à des requêtes tendancieuses, y compris celles en apparence anodines, mais qui tracent une tendance lorsqu’elles sont reliées les unes aux autres. Elles posent aussi, inévitablement, des questions en termes de surveillance des usages, et de vie privée.

L’affaire, cependant, n’est pas encore complètement bouclée. Même si une piste demeure privilégiée, la police a indiqué que « les enquêteurs continuent d’examiner les sources possibles de la flamme initiale qui a déclenché l’explosion, y compris un éclair de canon d’arme à feu, un fusible de bricolage ou même un court-circuit électrique dans le véhicule. »

ChatGPT

Télécharger gratuitement