Pas sûr d'être d'accord. On va multiplier les rapports de renseignements qui n'auraient peut être pas existé. Dans un tel cadre un faux positif me semble bien plus dangereux qu'un faux négatif (d'un truc qui serait passé hors radar de toute façon, peut être sans conséquence).
Par contre des faux positifs qui entraînent potentiellement des surréactions … c'est des tas d'emmerdes potentielles crées rien que par le système. Bref … à t'on vraiment envie d'être trop renseignés ?
Le renseignement c'est toujours une tonne d'information. Un tri ou une synthèse déficiente peuvent avoir des conséquences très grave. Voici deux exemples connus où la défaillance des services par minimisation ou non détection des dangers ont conduit à des guerres et une déstabilisation qui durent encore :
les attentats d'Al-Quaida contre le commandant Massoud en Afghanistan et du 11 septembre 2001 aux USA
les attaques du Hamas en Israel le 7 octobre 2023
En plus, je pense qu'une IA qui raterait qq chose, un faux négatif, raterait même sa mission parce que l'intérêt de l'IA dans ce domaine c'est de voir ce que l'humain ne voit pas.
Bizarrement, je ne pense pas que la sécurité globale se trouve dans la suspission généralisée de tous par tous et la méfiance générale. À force de voir des ennemis potentiels partout, on trouve des innocents voir on en fabrique. Le salut est-il dans la tentative d'éliminer absolument toute menace ou tragédie ? Il y a plus de mort dans les guerres de dengeance que dans les attentats, plus de mort dans les catastrophes comme celles du Tibet récemment … Qu'on semble faire bien peu pour prévenir.
deux exemples connus où la défaillance des services par minimisation ou non détection des dangers ont conduit à des guerres
Dans les deux cas, c'est la réaction d'escalade démesurée qui a déclenché une guerre.
De toute façon il y aura des faux négatifs ou des faux positifs (et probablement les deux). On peut juste choisir s'il est préférable d'avoir plus de l'un ou de l'autre. Les faux négatifs me semblent largement préférable. On peut encore choisir comment réagir après une attaque. Si on attaque par erreur, les options par la suite sont plus limitées.
Mais le calcul des états ne se fait évidemment pas comme ça. Les vies de civiles du « bon » côté ont bien sûr beaucoup plus de valeur que celles des civiles du « mauvais » côté. Donc mieux vaut déclencher une guerre qui va tuer des centaines de milliers de personnes « loin », générer des millions de réfugiés et détruire des centaine de milliards de dollars d'infrastructure que d'absorber une attaque terroriste qui va tuer quelques milliers de civiles locaux, générer zéro réfugiés et détruire quelques millions/milliards de dollars d'infrastructure.
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
En fait, c'est peut-être à ce problème que les gens qui disent que l'IA va détruire le monde pensent : ces faux renseignements, mauvaises interprétations et hallucinations qui vont conduire des armées à déclarer des guerres et envoyer des missiles atomiques.
Ça se tient en fait, c'est pas la pseudo intelligence supérieure des llm qui va détruire l'humanité, c'est que les gens aux pouvoir vont la croire et prendre des décisions de merde en les écoutant, voire connecter automatiquement la prise de décisions à des boutons rouges…
Ça, c'est définitivement un scénario crédible. Surtout si pour leur égo ou leur portefeuille les décideurs se trouvent en position d'avoir intérêt à croire l'intelligence artificielle les interpolations produites pas les réseaux de neurones numériques (toute ressemblance de cette hypothèse avec le monde réel seraient purement fortuite, est-ce utile de le préciser).
# et réciproquement ?
Posté par orfenor . Évalué à 6 (+4/-0).
J'espère que l'armée se pose aussi la question dans l'autre sens : combien de rapports IA bénins alors qu'il y aurai eu matière à plus.
[^] # Re: et réciproquement ?
Posté par Benoit Sibaud (site web personnel) . Évalué à 7 (+4/-0).
Bénin, c'est trompeur aussi chef. Tant pis on a rasé le pays par erreur.
[^] # Re: et réciproquement ?
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 7 (+4/-0).
Par erreur ? No. It was mandatory Togo.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: et réciproquement ?
Posté par Liorel . Évalué à 5 (+4/-1).
C'est donc pour ça que Trump mange dans la main de Poutine ! Je me disais aussi…
Ça, ce sont les sources. Le mouton que tu veux est dedans.
[^] # Re: et réciproquement ?
Posté par thoasm . Évalué à 7 (+4/-0).
Pas sûr d'être d'accord. On va multiplier les rapports de renseignements qui n'auraient peut être pas existé. Dans un tel cadre un faux positif me semble bien plus dangereux qu'un faux négatif (d'un truc qui serait passé hors radar de toute façon, peut être sans conséquence).
Par contre des faux positifs qui entraînent potentiellement des surréactions … c'est des tas d'emmerdes potentielles crées rien que par le système. Bref … à t'on vraiment envie d'être trop renseignés ?
[^] # Re: et réciproquement ?
Posté par orfenor . Évalué à 2 (+1/-1).
Le renseignement c'est toujours une tonne d'information. Un tri ou une synthèse déficiente peuvent avoir des conséquences très grave. Voici deux exemples connus où la défaillance des services par minimisation ou non détection des dangers ont conduit à des guerres et une déstabilisation qui durent encore :
En plus, je pense qu'une IA qui raterait qq chose, un faux négatif, raterait même sa mission parce que l'intérêt de l'IA dans ce domaine c'est de voir ce que l'humain ne voit pas.
[^] # Re: et réciproquement ?
Posté par thoasm . Évalué à 3 (+2/-2).
Bizarrement, je ne pense pas que la sécurité globale se trouve dans la suspission généralisée de tous par tous et la méfiance générale. À force de voir des ennemis potentiels partout, on trouve des innocents voir on en fabrique. Le salut est-il dans la tentative d'éliminer absolument toute menace ou tragédie ? Il y a plus de mort dans les guerres de dengeance que dans les attentats, plus de mort dans les catastrophes comme celles du Tibet récemment … Qu'on semble faire bien peu pour prévenir.
[^] # Re: et réciproquement ?
Posté par orfenor . Évalué à 4 (+2/-0).
Qu'esst-ce que tu racontes ? Ni moi ni personne dans ce fil n'avons parlé de ça. il est seulement question de faux-négatifs
[^] # Re: et réciproquement ?
Posté par thoasm . Évalué à 1 (+0/-2).
Il y a un moyen de n'avoir aucun faux négatifs : mettre 100% de situation suspectes.
[^] # Re: et réciproquement ?
Posté par BAud (site web personnel) . Évalué à 5 (+3/-0).
pour reprendre ta formulation
;-)
[^] # Re: et réciproquement ?
Posté par Krunch (courriel, site web personnel) . Évalué à 3 (+1/-0). Dernière modification le 20 septembre 2026 à 09:18.
Dans les deux cas, c'est la réaction d'escalade démesurée qui a déclenché une guerre.
De toute façon il y aura des faux négatifs ou des faux positifs (et probablement les deux). On peut juste choisir s'il est préférable d'avoir plus de l'un ou de l'autre. Les faux négatifs me semblent largement préférable. On peut encore choisir comment réagir après une attaque. Si on attaque par erreur, les options par la suite sont plus limitées.
Mais le calcul des états ne se fait évidemment pas comme ça. Les vies de civiles du « bon » côté ont bien sûr beaucoup plus de valeur que celles des civiles du « mauvais » côté. Donc mieux vaut déclencher une guerre qui va tuer des centaines de milliers de personnes « loin », générer des millions de réfugiés et détruire des centaine de milliards de dollars d'infrastructure que d'absorber une attaque terroriste qui va tuer quelques milliers de civiles locaux, générer zéro réfugiés et détruire quelques millions/milliards de dollars d'infrastructure.
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
# la fin du monde n'est pas où on la croit être
Posté par lejocelyn (site web personnel) . Évalué à 10 (+10/-0).
En fait, c'est peut-être à ce problème que les gens qui disent que l'IA va détruire le monde pensent : ces faux renseignements, mauvaises interprétations et hallucinations qui vont conduire des armées à déclarer des guerres et envoyer des missiles atomiques.
Ça se tient en fait, c'est pas la pseudo intelligence supérieure des llm qui va détruire l'humanité, c'est que les gens aux pouvoir vont la croire et prendre des décisions de merde en les écoutant, voire connecter automatiquement la prise de décisions à des boutons rouges…
[^] # Re: la fin du monde n'est pas où on la croit être
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 6 (+3/-0).
Ça, c'est définitivement un scénario crédible. Surtout si pour leur égo ou leur portefeuille les décideurs se trouvent en position d'avoir intérêt à croire
l'intelligence artificielleles interpolations produites pas les réseaux de neurones numériques (toute ressemblance de cette hypothèse avec le monde réel seraient purement fortuite, est-ce utile de le préciser).« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.