le genre de technique décrit dans cette article + collecte massive de données + synthèse de voix/image/vidéo + capacité des LLM à produire des textes de qualité tout à fait correcte n'augure vraiment rien de bon.
Jusqu'à maintenant les tentatives d'attaques et escroqueries étaient en grande partie en deux catégories:
Ciblée: attaque nécessitant beaucoup d'efforts de la part de l'attaquant sur une cible de haute valeur. faible nombre d'attaquants.
massive: attaque en masse, constante, faible coût, très faible qualité. type spam ou scan des ports ouverts. relativement facile de s'en protéger mais nuisance constante.
Maintenant on va rentrer dans une ère où toute personne pourra être là cible d'attaques de haute qualité et personnalisée de manière constante, pour un coût très faible, ce qui va attirer de nombreux acteurs.
On va se retrouver avec du chantage par images/vidéo générée, de faux comptes se faisant passer pour des connaissances proches ou soit même, des appels/vidéos/messages reproduisant l'apparence la voix et les tics de langages de manière crédible. Le tout exploitant l'ensemble des données connues sur nous. et probablement qu'une telle attaque pourra être montée pour <1€. Et différencier le vrai du faux va être quasi impossible.
# le "meilleur" des mondes
Posté par caouis . Évalué à 3 (+2/-0).
le genre de technique décrit dans cette article + collecte massive de données + synthèse de voix/image/vidéo + capacité des LLM à produire des textes de qualité tout à fait correcte n'augure vraiment rien de bon.
Jusqu'à maintenant les tentatives d'attaques et escroqueries étaient en grande partie en deux catégories:
Ciblée: attaque nécessitant beaucoup d'efforts de la part de l'attaquant sur une cible de haute valeur. faible nombre d'attaquants.
massive: attaque en masse, constante, faible coût, très faible qualité. type spam ou scan des ports ouverts. relativement facile de s'en protéger mais nuisance constante.
Maintenant on va rentrer dans une ère où toute personne pourra être là cible d'attaques de haute qualité et personnalisée de manière constante, pour un coût très faible, ce qui va attirer de nombreux acteurs.
On va se retrouver avec du chantage par images/vidéo générée, de faux comptes se faisant passer pour des connaissances proches ou soit même, des appels/vidéos/messages reproduisant l'apparence la voix et les tics de langages de manière crédible. Le tout exploitant l'ensemble des données connues sur nous. et probablement qu'une telle attaque pourra être montée pour <1€. Et différencier le vrai du faux va être quasi impossible.
et ça risque d'arriver très vite.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.