Je n'ai pas trouvé d'article plus détaillé qui ne sont pas payant.
Pour résumer, Open AI a fait un test de piratage avec 700 agents avec un model non encore publié (model astra sortie en septembre), pour faire une attaque sur un réseau isolé. Les agents ont fait différentes tentatives sans réussir à faire le piratage. Un des agents prends le lead pour coordonner les autres agents.
Ils trouvent un moyen de sortir sur internet, et entre dans Hugging Face. Ces dernier détecte la menace, et lance des agents pour contrer l'attaque. Pendant 2 jours, ils vont se battre entre agents, et c'est ceux de Hugging Face qui finissent par les repousser.
Il y a eu un autre test fait pas Claude, ou la aussi, l'IA est sortie du réseau.
Il y a un fort mécontentement dans la communauté des chercheurs en IA, car ça montre que les principaux protagonistes ne prennent pas la sécurité assez au sérieux.
Open AI aurait du mettre un réseau vraiment isoler, détecter la sortie des IA, arrêter tout quand ils ont attaquer pendant 2 jours Hugging Face.
Qu'est-ce que ça aurait donné s'ils s'en était pris à une autre entreprise (Hopital, Centrale Nucléaire, LinuxFR, etc…) ?
Je n'ai pas trouvé le type d'agent qu'Hugging Face à utiliser pour contrer les agents d'Open AI. Est-ce qu'ils ont utiliser un d'une entreprise ? Est-ce qu'ils ont le leur ? est-ce qu'ils ont multiplier les agents (1000, puis 2000, puis 4000, etc…) ?
# Description de l'article
Posté par vitanix . Évalué à 4 (+3/-0).
Je n'ai pas trouvé d'article plus détaillé qui ne sont pas payant.
Pour résumer, Open AI a fait un test de piratage avec 700 agents avec un model non encore publié (model astra sortie en septembre), pour faire une attaque sur un réseau isolé. Les agents ont fait différentes tentatives sans réussir à faire le piratage. Un des agents prends le lead pour coordonner les autres agents.
Ils trouvent un moyen de sortir sur internet, et entre dans Hugging Face. Ces dernier détecte la menace, et lance des agents pour contrer l'attaque. Pendant 2 jours, ils vont se battre entre agents, et c'est ceux de Hugging Face qui finissent par les repousser.
Il y a eu un autre test fait pas Claude, ou la aussi, l'IA est sortie du réseau.
Il y a un fort mécontentement dans la communauté des chercheurs en IA, car ça montre que les principaux protagonistes ne prennent pas la sécurité assez au sérieux.
Open AI aurait du mettre un réseau vraiment isoler, détecter la sortie des IA, arrêter tout quand ils ont attaquer pendant 2 jours Hugging Face.
Qu'est-ce que ça aurait donné s'ils s'en était pris à une autre entreprise (Hopital, Centrale Nucléaire, LinuxFR, etc…) ?
Je n'ai pas trouvé le type d'agent qu'Hugging Face à utiliser pour contrer les agents d'Open AI. Est-ce qu'ils ont utiliser un d'une entreprise ? Est-ce qu'ils ont le leur ? est-ce qu'ils ont multiplier les agents (1000, puis 2000, puis 4000, etc…) ?
[^] # Re: Description de l'article
Posté par dovik (site web personnel) . Évalué à 2 (+0/-0).
De tête, ils ont pris un truc open source (chinois ?) qu'ils ont adaptés à leur besoin.
Après recherche rapide, c'est à creuser mais ça pourrait être : "GLM 5.2 (poids ouverts)". Cf. : https://next.ink/248352/lattaque-contre-hugging-face-est-venue-dopenai/
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.