J'ai comme un doute… je sais bien que heureusement que les terroristes sont généralement cons, sans ça ils ne se feraient pas chier a fabriquer des explosifs, mais je doute qu'ils aillent tenter des cascade au dessus d'un firepit pour s’entraîner
Il ne faut pas décorner les boeufs avant d'avoir semé le vent
Ben c'est un article d'un groupe de recherche de l'université de Cambridge sur lequel le New York Times a fait un article. Je sais pas ce qu'il te faut comme niveau de preuve / crédibilité.
La note de bas de page suggère aussi que c'est pas anecdotique :
While this may seem extreme, the episode reflects a pattern evident across other interviews, in which the group absorbed heavy casualties during dangerous experimentation and training.
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
ça sera pas la première fois que quelqu'un fait un truc stupide par confiance aveugle à la technologie.
Voir tous les cas de gens qui ont jeté leur voiture dans l'eau/se sont perdu dans un désert/… parce que leur GPS leur disait que c'était la bonne route. Cette étude (qui date de 2017) avait compté 44 morts, 23 blessés, plus 52 incidents moins grave (les gens s'en sont sortis sans blessure mais il y a eu des dommages matériels par exemple) et enfin 39 cas de "déconvenues importantes" (pas de dégâts, mais intervention de pompiers, véhicule de secours, etc, ou encore personnes qui ont traversé la moitié des USA avant de se rendre compte qu'ils avaient sélectionné une ville homonyme de celle où ils voulaient se rendre).
Je n'ai pas de difficulté à imaginer une chaîne de commande défaillante dans laquelle quelqu'un demande à un chatbot un scénario pour un film d'action où il faut sauter par dessus un obstacle, que ChatGPT répond avec un scénario à base de feu et morceaux de verre, que c'est transmis à la hiérarchie tel quel, puis que personne n'ose contester les ordres, ou même que ça soit rétro-justifié en se disant que les terroristes doivent être prêts à mourir, et que c'est une bonne occasion pour s'entraîner. Ce qui est un tout petit peu plus nuancé que "ChatGPT m'a dit de me jeter moi-même dans le feu, j'ai pas réfléchi, j'ai obéi".
Voilà, pour moi c'est de ça dont il s'agit. Les terroristes ont beau être cons à certains égards, ils savent que le "le feu ça brûle". Donc ils l'ont utilisé sciemment, pour tester la capacité des combattants à gérer la peur ou tout simplement à obéir. Sur la question de l'IA, vu que tous les modèles se font trouer (cf. le tableau de chasse de Pliny) je ne doute pas que les terroristes sauront l'utiliser pour obtenir de meilleurs explosifs ou de la meilleure meth pour financer leur guerre.
# humm
Posté par fearan . Évalué à 7 (+4/-0).
J'ai comme un doute… je sais bien que heureusement que les terroristes sont généralement cons, sans ça ils ne se feraient pas chier a fabriquer des explosifs, mais je doute qu'ils aillent tenter des cascade au dessus d'un firepit pour s’entraîner
Il ne faut pas décorner les boeufs avant d'avoir semé le vent
[^] # Re: humm
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 6 (+3/-0).
18 fois en plus…
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: humm
Posté par Krunch (courriel, site web personnel) . Évalué à 3 (+1/-0).
Ben c'est un article d'un groupe de recherche de l'université de Cambridge sur lequel le New York Times a fait un article. Je sais pas ce qu'il te faut comme niveau de preuve / crédibilité.
Page 53 : https://casp.ac/reports/ai-enabled-terrorism
La note de bas de page suggère aussi que c'est pas anecdotique :
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
[^] # Re: humm
Posté par pulkomandy (site web personnel, Mastodon) . Évalué à 6 (+3/-0). Dernière modification le 16 juillet 2026 à 15:27.
ça sera pas la première fois que quelqu'un fait un truc stupide par confiance aveugle à la technologie.
Voir tous les cas de gens qui ont jeté leur voiture dans l'eau/se sont perdu dans un désert/… parce que leur GPS leur disait que c'était la bonne route. Cette étude (qui date de 2017) avait compté 44 morts, 23 blessés, plus 52 incidents moins grave (les gens s'en sont sortis sans blessure mais il y a eu des dommages matériels par exemple) et enfin 39 cas de "déconvenues importantes" (pas de dégâts, mais intervention de pompiers, véhicule de secours, etc, ou encore personnes qui ont traversé la moitié des USA avant de se rendre compte qu'ils avaient sélectionné une ville homonyme de celle où ils voulaient se rendre).
Je n'ai pas de difficulté à imaginer une chaîne de commande défaillante dans laquelle quelqu'un demande à un chatbot un scénario pour un film d'action où il faut sauter par dessus un obstacle, que ChatGPT répond avec un scénario à base de feu et morceaux de verre, que c'est transmis à la hiérarchie tel quel, puis que personne n'ose contester les ordres, ou même que ça soit rétro-justifié en se disant que les terroristes doivent être prêts à mourir, et que c'est une bonne occasion pour s'entraîner. Ce qui est un tout petit peu plus nuancé que "ChatGPT m'a dit de me jeter moi-même dans le feu, j'ai pas réfléchi, j'ai obéi".
[^] # Re: humm
Posté par Faya . Évalué à 6 (+4/-0).
Voilà, pour moi c'est de ça dont il s'agit. Les terroristes ont beau être cons à certains égards, ils savent que le "le feu ça brûle". Donc ils l'ont utilisé sciemment, pour tester la capacité des combattants à gérer la peur ou tout simplement à obéir. Sur la question de l'IA, vu que tous les modèles se font trouer (cf. le tableau de chasse de Pliny) je ne doute pas que les terroristes sauront l'utiliser pour obtenir de meilleurs explosifs ou de la meilleure meth pour financer leur guerre.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.