le genre de technique décrit dans cette article + collecte massive de données + synthèse de voix/image/vidéo + capacité des LLM à produire des textes de qualité tout à fait correcte n'augure vraiment rien de bon.
Jusqu'à maintenant les tentatives d'attaques et escroqueries étaient en grande partie en deux catégories:
Ciblée: attaque nécessitant beaucoup d'efforts de la part de l'attaquant sur une cible de haute valeur. faible nombre d'attaquants.
massive: attaque en masse, constante, faible coût, très faible qualité. type spam ou scan des ports ouverts. relativement facile de s'en protéger mais nuisance constante.
Maintenant on va rentrer dans une ère où toute personne pourra être là cible d'attaques de haute qualité et personnalisée de manière constante, pour un coût très faible, ce qui va attirer de nombreux acteurs.
On va se retrouver avec du chantage par images/vidéo générée, de faux comptes se faisant passer pour des connaissances proches ou soit même, des appels/vidéos/messages reproduisant l'apparence la voix et les tics de langages de manière crédible. Le tout exploitant l'ensemble des données connues sur nous. et probablement qu'une telle attaque pourra être montée pour <1€. Et différencier le vrai du faux va être quasi impossible.
L'aspect positif : nous allons peut-être nous trouver collectivement poussé à bien mieux sécuriser nos vies numériques. Qui sait si ce genre de succès ne signe pas la fin du modèle collecte de données sensibles contre service numérique d'abord aisé ? Peut-être se mettra-t-on chiffrer les échanges qui transitent en clair à travers les réseaux ? À éviter les systèmes d'exploitation (de populations naïves) qui moissonnent massivement tant les informations personnelles, que les informations sensible ? Etc…
Si je pense à tous ceux qui vivent loin de leurs proches et qui gardent un contact quasi exclusivement numérique et que je transpose ça aux arnaques dont tu parles ça va nous donner des mouvements de populations particuliers. De l'enfermement mais aussi probablement du rapprochement voir de non éloignement géographiques avec les dits proches.
quand je vois que ma mère s'est déjà pratiquement fait avoir par un message WhatsApp du genre "maman j'ai perdu mon téléphone, c'est mon nouveau numéro"…. venant d'un numéro inconnu sans aucune autre indication. ça paraît que ça va être un enfer.
# le "meilleur" des mondes
Posté par caouis . Évalué à 10 (+9/-0).
le genre de technique décrit dans cette article + collecte massive de données + synthèse de voix/image/vidéo + capacité des LLM à produire des textes de qualité tout à fait correcte n'augure vraiment rien de bon.
Jusqu'à maintenant les tentatives d'attaques et escroqueries étaient en grande partie en deux catégories:
Ciblée: attaque nécessitant beaucoup d'efforts de la part de l'attaquant sur une cible de haute valeur. faible nombre d'attaquants.
massive: attaque en masse, constante, faible coût, très faible qualité. type spam ou scan des ports ouverts. relativement facile de s'en protéger mais nuisance constante.
Maintenant on va rentrer dans une ère où toute personne pourra être là cible d'attaques de haute qualité et personnalisée de manière constante, pour un coût très faible, ce qui va attirer de nombreux acteurs.
On va se retrouver avec du chantage par images/vidéo générée, de faux comptes se faisant passer pour des connaissances proches ou soit même, des appels/vidéos/messages reproduisant l'apparence la voix et les tics de langages de manière crédible. Le tout exploitant l'ensemble des données connues sur nous. et probablement qu'une telle attaque pourra être montée pour <1€. Et différencier le vrai du faux va être quasi impossible.
et ça risque d'arriver très vite.
[^] # Re: le "meilleur" des mondes
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 3 (+0/-0). Dernière modification le 02 mars 2026 à 09:47.
L'aspect positif : nous allons peut-être nous trouver collectivement poussé à bien mieux sécuriser nos vies numériques. Qui sait si ce genre de succès ne signe pas la fin du modèle collecte de données sensibles contre service numérique d'abord aisé ? Peut-être se mettra-t-on chiffrer les échanges qui transitent en clair à travers les réseaux ? À éviter les systèmes d'exploitation (de populations naïves) qui moissonnent massivement tant les informations personnelles, que les informations sensible ? Etc…
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: le "meilleur" des mondes
Posté par bunam . Évalué à 3 (+2/-0).
Il parait qu'il faut 4 secondes d'une voix pour la cloner… c'est déjà foutu
[^] # Re: le "meilleur" des mondes
Posté par Loïs Taulelle ࿋ (site web personnel) . Évalué à 5 (+3/-0).
Aspect positif ³ : on va (peut-être) (enfin !) tous devenir paranoïaques…
Proverbe Alien : Sauvez la terre ? Mangez des humains !
[^] # Re: le "meilleur" des mondes
Posté par Luc-Skywalker . Évalué à 3 (+1/-0).
et arrêter de participer en choisissant la facilité ==> []
"Si tous les cons volaient, il ferait nuit" F. Dard
[^] # Re: le "meilleur" des mondes
Posté par da_kal . Évalué à 4 (+3/-0).
Le monde numérique deviendra une vraie jungle!
Si je pense à tous ceux qui vivent loin de leurs proches et qui gardent un contact quasi exclusivement numérique et que je transpose ça aux arnaques dont tu parles ça va nous donner des mouvements de populations particuliers. De l'enfermement mais aussi probablement du rapprochement voir de non éloignement géographiques avec les dits proches.
[^] # Re: le "meilleur" des mondes
Posté par caouis . Évalué à 4 (+3/-0).
quand je vois que ma mère s'est déjà pratiquement fait avoir par un message WhatsApp du genre "maman j'ai perdu mon téléphone, c'est mon nouveau numéro"…. venant d'un numéro inconnu sans aucune autre indication. ça paraît que ça va être un enfer.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.