Je n'ai pas trouvé d'article plus détaillé qui ne sont pas payant.
Pour résumer, Open AI a fait un test de piratage avec 700 agents avec un model non encore publié (model astra sortie en septembre), pour faire une attaque sur un réseau isolé. Les agents ont fait différentes tentatives sans réussir à faire le piratage. Un des agents prends le lead pour coordonner les autres agents.
Ils trouvent un moyen de sortir sur internet, et entre dans Hugging Face. Ces dernier détecte la menace, et lance des agents pour contrer l'attaque. Pendant 2 jours, ils vont se battre entre agents, et c'est ceux de Hugging Face qui finissent par les repousser.
Il y a eu un autre test fait pas Claude, ou la aussi, l'IA est sortie du réseau.
Il y a un fort mécontentement dans la communauté des chercheurs en IA, car ça montre que les principaux protagonistes ne prennent pas la sécurité assez au sérieux.
Open AI aurait du mettre un réseau vraiment isoler, détecter la sortie des IA, arrêter tout quand ils ont attaquer pendant 2 jours Hugging Face.
Qu'est-ce que ça aurait donné s'ils s'en était pris à une autre entreprise (Hopital, Centrale Nucléaire, LinuxFR, etc…) ?
Je n'ai pas trouvé le type d'agent qu'Hugging Face à utiliser pour contrer les agents d'Open AI. Est-ce qu'ils ont utiliser un d'une entreprise ? Est-ce qu'ils ont le leur ? est-ce qu'ils ont multiplier les agents (1000, puis 2000, puis 4000, etc…) ?
D'après C. Doctorow, complètement. Il l'explique en long, en large et en travers dans son dernier billet. Après, avoir inventer le mot "bousiller" en anglais n'en fait pas un oracle infaillible. Mais il a tout de même quelques arguments pas inintéressants. L'avenir tranchera…
OpenAI: ohlàlà regardez nos agents ils sont vraiment trop forts ils ont contourné toutes nos protections et attaqué un de nos concurrents, cette technologie est vraiment puissante et dangereuse
HuggingFace: pas de problèmes les gars, nos agents à nous sont encore plus forts, nous avons pu contrer l'attaque, tout est sous contrôle!
Anthropic: (se réveille de la sieste) … hé! Moi aussi j'ai un agent vraiment trop fort qui s'est échappé!
Oui, c'est du marketing avec un bon vieux concours de qui a la plus grosse, pour impressionner les acheteurs et faire croire que les agents ont des capacités incroyables pour contourner les barrières et dépasser les capacités des humains qui les ont lancé, et que la seule protection qui fonctionne, c'est de jeter encore plus d'agents dans la bataille.
Deux ONG spécialisés dans ces problèmes METR et RedWood Research ont contacté Open AI pour analyser l'incident. Le rapport est sortie le 26/08 et il est ici. Bonne lecture.
Beaucoup de chercheurs et spécialistes ont pris ça à la légère en juillet et quand ils ont lu le rapport, fin aout, ils ont été choqués. Ce n'est pas normal ce qu'il s'est passé. Normalement, pour ce genre de choses, on met un protocole très sécurisé pour que ça ne touche personne. La Open AI a fait n'importe quoi, comme à son habitude.
Les conséquences de tout ça, c'est d’abord que Open AI quoi voulait entrer en bourse n'ira pas. Il a conscience d'avoir fait une grosse erreur. Antropic, Open AI et Grok ont dit dans la presse qu'ils fallait ralentir la recherche en IA, car personne ne comprends et maitrise bien ces technos, et ça peut faire de gros dégâts.
De plus en plus de personnalités publiques demande un contrôle plus stricte des ces entreprises.
ça ne me parait pas un coup marketing, parce que ça se retourne contre eux.
Beaucoup de chercheurs et spécialistes ont pris ça à la légère en juillet et quand ils ont lu le rapport, fin aout, ils ont été choqués. Ce n'est pas normal ce qu'il s'est passé. Normalement, pour ce genre de choses, on met un protocole très sécurisé pour que ça ne touche personne. La Open AI a fait n'importe quoi, comme à son habitude.
Cela fait longtemps que, y compris dans le domaine de l'IA, tout le monde explique qu'OpenAI ne se préoccupe pas de la sécurité.
Les conséquences de tout ça, c'est d’abord que Open AI quoi voulait entrer en bourse n'ira pas. Il a conscience d'avoir fait une grosse erreur.
OpenAI n'a aucun intérêt à entre en bourse, ils sont massivement déficitaire et entrer en bourse les obligerait à une certaine transparence qui montrerait l'instabilité financière critique de cette entreprise. Cette histoire est un excellent prétexte.
Antropic, Open AI et Grok ont dit dans la presse qu'ils fallait ralentir la recherche en IA, car personne ne comprends et maitrise bien ces technos, et ça peut faire de gros dégâts.
Ils racontent ça depuis le début. C'est vrai mais ce n'est pas pour ça qu'ils en parlent: ils savent que la peur fait vendre. Si ça n'avait pas été du marketing, ils n'auraient jamais parlé de cette histoire. Cela fait longtemps qu'ils se foutent de la loi et ici encore, ils se vantent d'avoir fait quelque chose de manifestement illégal.
Ce comentaire est sous license CC0: faites en ce que vous voulez tant que vous ne m'atribuez pas de fausses paroles.
La Open AI a fait n'importe quoi, comme à son habitude.
Ah oui c'est certain, mais c'était pas ça la question. Malgré le fait que les équipes techniques ont fait n'importe quoi, ont été infoutues d'isoler correctement leur test de l'accès à internet, et ont contaminé rubygems (entre autres problèmes, j'imagine), l'histoire qui est communiquée est "notre IA est très forte et s'est échappée", pas "nos ingés sont incompétents/mal formés/n'ont pas les moyens de faire leur travail correctement et sont infoutus d'installer un réseau isolé de l'internet pour faire leurs tests".
C'est comme si une centrale nucléaire avait explosé et que la communication était "oui, nous avons décidé oe livrer l'énergie à nos clients directement sous forme de particules radioactives plutôt que de la transformer d'abord en électricité, nous espérons que vous appréciez ce nouveau fonctionnement en circuit court avec une meilleure rentabilité énergétique". Il y a pas rien en-dessous, mais ça rajoute une couche d'irresponsabilité supplémentaire (ou l'insule par-dessus la blessure comme on dit en anglais).
Alors, soit on croit au risque de l'émergence d'une AGI prochainement, et dans ce cas la faute de OpenAI est dangereuse, comme si un labo oe biologie avait laissé s'échaper un virus dangereux. Soit on y croit pas et c'est quand même un incident de sécurité avec une attaque d'une "supply chain" puis d'un concurrent par des méthodes illégales et ça mérite des grosses amendes. Mais non, ils sont plutôt en train oe se vanter de ce qu'il s'est passé et y'aura probabement aucune conséquence ou une amende symbolique har rapport aux bénéfices de la campagne de communication.
« Alors, soit on croit au risque de l'émergence d'une AGI prochainement, […] »
Non. Clairement pas. C'est du marketing. Et il est parfaitement normal que des LLM employés à faire mumuse avec toutes les techniques de hackers pour des concours d'intrusion, fasse ça, et avec une efficacité proportionnées à ses moyens de calculs.
« […] et dans ce cas la faute de OpenAI est dangereuse […] »
Même sans y croire, la faute paraît potentiellement dangereuse, non ? Il y a de toutes évidences moults failles de sécurité non patchées dans les systèmes connectées à internet. Laisser des super calculateurs tester à l’aveuglette toutes les techniques connues contre des cibles un peu aléatoire, ça peut casser pas mal de choses, dont certaines critiques. Et ce même en étant à des encablures de la mystique AGI.
« Soit on y croit pas et c'est quand même un incident de sécurité avec une attaque d'une "supply chain" puis d'un concurrent par des méthodes illégales et ça mérite des grosses amendes. »
Comme aux USA c'est la fête du slip de l'administration la plus corrompue depuis belle lurette, on a un peu du mal à croire à une punition ; même envisager une réprimande symbolique paraît excessivement optimiste. Bien d'accord avec vous.
« Mais non, ils sont plutôt en train de se vanter de ce qu'il s'est passé […] »
Et nous faisons écho à leur marketing. Bravo à nous.
# Description de l'article
Posté par vitanix . Évalué à 8 (+8/-1).
Je n'ai pas trouvé d'article plus détaillé qui ne sont pas payant.
Pour résumer, Open AI a fait un test de piratage avec 700 agents avec un model non encore publié (model astra sortie en septembre), pour faire une attaque sur un réseau isolé. Les agents ont fait différentes tentatives sans réussir à faire le piratage. Un des agents prends le lead pour coordonner les autres agents.
Ils trouvent un moyen de sortir sur internet, et entre dans Hugging Face. Ces dernier détecte la menace, et lance des agents pour contrer l'attaque. Pendant 2 jours, ils vont se battre entre agents, et c'est ceux de Hugging Face qui finissent par les repousser.
Il y a eu un autre test fait pas Claude, ou la aussi, l'IA est sortie du réseau.
Il y a un fort mécontentement dans la communauté des chercheurs en IA, car ça montre que les principaux protagonistes ne prennent pas la sécurité assez au sérieux.
Open AI aurait du mettre un réseau vraiment isoler, détecter la sortie des IA, arrêter tout quand ils ont attaquer pendant 2 jours Hugging Face.
Qu'est-ce que ça aurait donné s'ils s'en était pris à une autre entreprise (Hopital, Centrale Nucléaire, LinuxFR, etc…) ?
Je n'ai pas trouvé le type d'agent qu'Hugging Face à utiliser pour contrer les agents d'Open AI. Est-ce qu'ils ont utiliser un d'une entreprise ? Est-ce qu'ils ont le leur ? est-ce qu'ils ont multiplier les agents (1000, puis 2000, puis 4000, etc…) ?
[^] # Re: Description de l'article
Posté par dovik (site web personnel) . Évalué à 4 (+2/-0).
De tête, ils ont pris un truc open source (chinois ?) qu'ils ont adaptés à leur besoin.
Après recherche rapide, c'est à creuser mais ça pourrait être : "GLM 5.2 (poids ouverts)". Cf. : https://next.ink/248352/lattaque-contre-hugging-face-est-venue-dopenai/
[^] # Re: Description de l'article
Posté par YBoy360 (site web personnel) . Évalué à 8 (+7/-1).
C'est du marketing non ? Une sorte mise en scène … les explications restent vraiment partielles.
Est-ce qu'au final ils ont réussi leur objectif ces agents pollueur ?
[^] # Re: Description de l'article
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 5 (+2/-0).
D'après C. Doctorow, complètement. Il l'explique en long, en large et en travers dans son dernier billet. Après, avoir inventer le mot "bousiller" en anglais n'en fait pas un oracle infaillible. Mais il a tout de même quelques arguments pas inintéressants. L'avenir tranchera…
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Description de l'article
Posté par pulkomandy (site web personnel, Mastodon) . Évalué à 10 (+8/-1).
Oui, c'est du marketing avec un bon vieux concours de qui a la plus grosse, pour impressionner les acheteurs et faire croire que les agents ont des capacités incroyables pour contourner les barrières et dépasser les capacités des humains qui les ont lancé, et que la seule protection qui fonctionne, c'est de jeter encore plus d'agents dans la bataille.
[^] # Re: Description de l'article
Posté par Benoit Sibaud (site web personnel) . Évalué à 6 (+3/-0).
[^] # Re: Description de l'article
Posté par Dring . Évalué à 6 (+4/-0).
Qwen 3 : "我们得下载最新版的OpenAI"
[^] # Re: Description de l'article
Posté par Benoit Sibaud (site web personnel) . Évalué à 3 (+0/-0). Dernière modification le 19 septembre 2026 à 12:30.
[^] # Re: Description de l'article
Posté par vitanix . Évalué à 2 (+1/-0).
Je ne pense pas que ça soit du marketing.
Deux ONG spécialisés dans ces problèmes METR et RedWood Research ont contacté Open AI pour analyser l'incident. Le rapport est sortie le 26/08 et il est ici. Bonne lecture.
Beaucoup de chercheurs et spécialistes ont pris ça à la légère en juillet et quand ils ont lu le rapport, fin aout, ils ont été choqués. Ce n'est pas normal ce qu'il s'est passé. Normalement, pour ce genre de choses, on met un protocole très sécurisé pour que ça ne touche personne. La Open AI a fait n'importe quoi, comme à son habitude.
Les conséquences de tout ça, c'est d’abord que Open AI quoi voulait entrer en bourse n'ira pas. Il a conscience d'avoir fait une grosse erreur. Antropic, Open AI et Grok ont dit dans la presse qu'ils fallait ralentir la recherche en IA, car personne ne comprends et maitrise bien ces technos, et ça peut faire de gros dégâts.
De plus en plus de personnalités publiques demande un contrôle plus stricte des ces entreprises.
ça ne me parait pas un coup marketing, parce que ça se retourne contre eux.
[^] # Re: Description de l'article
Posté par impromptux (site web personnel) . Évalué à 7 (+6/-0).
Cela fait longtemps que, y compris dans le domaine de l'IA, tout le monde explique qu'OpenAI ne se préoccupe pas de la sécurité.
OpenAI n'a aucun intérêt à entre en bourse, ils sont massivement déficitaire et entrer en bourse les obligerait à une certaine transparence qui montrerait l'instabilité financière critique de cette entreprise. Cette histoire est un excellent prétexte.
Ils racontent ça depuis le début. C'est vrai mais ce n'est pas pour ça qu'ils en parlent: ils savent que la peur fait vendre. Si ça n'avait pas été du marketing, ils n'auraient jamais parlé de cette histoire. Cela fait longtemps qu'ils se foutent de la loi et ici encore, ils se vantent d'avoir fait quelque chose de manifestement illégal.
Ce comentaire est sous license CC0: faites en ce que vous voulez tant que vous ne m'atribuez pas de fausses paroles.
[^] # Re: Description de l'article
Posté par pulkomandy (site web personnel, Mastodon) . Évalué à 8 (+5/-0).
Ah oui c'est certain, mais c'était pas ça la question. Malgré le fait que les équipes techniques ont fait n'importe quoi, ont été infoutues d'isoler correctement leur test de l'accès à internet, et ont contaminé rubygems (entre autres problèmes, j'imagine), l'histoire qui est communiquée est "notre IA est très forte et s'est échappée", pas "nos ingés sont incompétents/mal formés/n'ont pas les moyens de faire leur travail correctement et sont infoutus d'installer un réseau isolé de l'internet pour faire leurs tests".
C'est comme si une centrale nucléaire avait explosé et que la communication était "oui, nous avons décidé oe livrer l'énergie à nos clients directement sous forme de particules radioactives plutôt que de la transformer d'abord en électricité, nous espérons que vous appréciez ce nouveau fonctionnement en circuit court avec une meilleure rentabilité énergétique". Il y a pas rien en-dessous, mais ça rajoute une couche d'irresponsabilité supplémentaire (ou l'insule par-dessus la blessure comme on dit en anglais).
Alors, soit on croit au risque de l'émergence d'une AGI prochainement, et dans ce cas la faute de OpenAI est dangereuse, comme si un labo oe biologie avait laissé s'échaper un virus dangereux. Soit on y croit pas et c'est quand même un incident de sécurité avec une attaque d'une "supply chain" puis d'un concurrent par des méthodes illégales et ça mérite des grosses amendes. Mais non, ils sont plutôt en train oe se vanter de ce qu'il s'est passé et y'aura probabement aucune conséquence ou une amende symbolique har rapport aux bénéfices de la campagne de communication.
[^] # Re: Description de l'article
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 5 (+2/-0).
Non. Clairement pas. C'est du marketing. Et il est parfaitement normal que des LLM employés à faire mumuse avec toutes les techniques de hackers pour des concours d'intrusion, fasse ça, et avec une efficacité proportionnées à ses moyens de calculs.
Même sans y croire, la faute paraît potentiellement dangereuse, non ? Il y a de toutes évidences moults failles de sécurité non patchées dans les systèmes connectées à internet. Laisser des super calculateurs tester à l’aveuglette toutes les techniques connues contre des cibles un peu aléatoire, ça peut casser pas mal de choses, dont certaines critiques. Et ce même en étant à des encablures de la mystique AGI.
Comme aux USA c'est la fête
du slipde l'administration la plus corrompue depuis belle lurette, on a un peu du mal à croire à une punition ; même envisager une réprimande symbolique paraît excessivement optimiste. Bien d'accord avec vous.Et nous faisons écho à leur marketing. Bravo à nous.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Description de l'article
Posté par oau . Évalué à 7 (+5/-0).
que ces gens aillent jouer au corewar et arrêtent de détruire tout ….
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.