En soit et pour faire hérisser le poil de certains ici je ne suis pas contre l'automatisation de la détection de contenu illégal, mais de mon point de vue l'entreprise a la responsabilité de ne pas faire de faux-positifs, et par responsabilité c'est tout remettre en place si erreur, et si impact financier il devrait y avoir dédommagement, charge à l'entreprise de réduire au maximum les faux-positifs et non pas optimiser juste pour ne pas avoir de faux-négatif. Surtout quand la police répond que tout va bien.
En attendant, je ne m'interdit pas du tout d'utiliser les services de ces entreprises, mais en évitant d'y mettre mes mails et en faisant des backups de ce à quoi je tiens ailleurs que chez eux. J'en ai les compétences mais je comprend que les gens ne les aient pas et pensent que ça va bien pour eux, et il faut défendre les gens sans les compétences, avec un État de droit aussi pour ces services qui deviennent important dans la vie des gens.
Je me note que ça peut m'arriver d'avoir des photos "sensibles" (pour des raisons similaires) automatiquement backupées, je vais sans doute désactiver ce service sur mon smartphone.
Je reste toutefois assez étonné que vu le système judiciaire US il n'y ai pas encore eu un avocat intéressé à faire un procès pour abus de droit ou un truc du genre.
J'aimerais sérieusement comprendre le sens des moinssages par ici.
J'ai personnellement trouvé ce lien et le premier commentaire l'accompagnant pertinents.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
L'article est derrière un paywall, donc on peut légitimement estimer que le lien n'est pas très utile.
Sur le fond, l'histoire ne me semble pas très claire (pourquoi la photo a t-elle été analysée? mise à disposition sur un serveur d'images? Pourquoi l'appel a été rejeté?).
Au passage, faire l'objet d'une enquête de police n'est pas un préjudice (même s'il y a garde à vue), en France on ne peut pas demander réparation à l'État même en cas de non-lieu. Et (toujours en France, aux US je ne sais pas), une dénonciation n'est problématique que si elle est calomnieuse. Du coup, ça exclut l'incompétence ou la négligence…
Parce que Google n'est pas devenu riche en signant des chèques pour le support.
Et je pense que dans le contexte US, c'est plus une obligation de signaler ce genre de choses (eg, tu fais pas de jugement de valeur, tu le remontes)
Ensuite, il n'y a pas d'obligation de fermer le compte, ni de le garder fermé, c'est clairement la faute de Google. Bien sur, d'ici 2 jours, Google va avoir remis le compte en marche maintenant qu'il y a du bruit autour de l'affaire.
Rien de très nouveau pour qui suit le domaine, et comme dit par le passé, j'ai le sentiment que le style est manipulatoire, mais ça reste assez factuel et ça montre bien comment on en arrive la (minus le fait de fermer le compte).
A une époque, celle pour prendre les parts de marché, c'était illimité.
Depuis quelques temps le disque en ligne est limité (à 15 Go pour l'entreprise sujet du lien) pour faire payer l'utilisation de l'espace en plus (et cet argent servira aussi pour financer la "pub" en espace gratuit).
Classique "investissement" en premières doses gratuites pour faire payer derrière (= "premium").
Et si tu veux sortir, les 15 Go, il faut transférer les emails ailleurs…
Non seulement c'est particulièrement pénible de configurer un compte Gmail sur un logiciel de messagerie, mais le transfert se fera à la vitesse petit nuage de 100Ko/s environ…
C'est vécu.
J'avais bien dit que c'était une connerie de tout mettre chez Google, mais les informaticiens ne sont pas écoutés… parce que c'est gratuit (à l'époque ça l'était).
Rien que libérer quelques Go pour débloquer la boîte à cause du dépassement de quota des 15Go ça a demandé des plombes. Au moins, ça n'a pas saturé ma bande passante.
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
Posté par Misc (site web personnel) .
Évalué à 4.
Dernière modification le 23 août 2022 à 10:39.
Parfois j'ai l'impression que les GAFAM ne payent ni le CPU ni l'espace disque…
En même temps, vu les profits des dites entreprises, ça me parait le minimum.
Très objectivement, je pense que c'est une fonctionnalité utile. J'ai perdu 4000 photos en verrouillant mal mon téléphone et en le mettant dans la poche, et je suis un peu vert quand j'y repense (parce que j'ai pas de synchro, ni même mis de compte google sur le tel).
De la même façon, je me suis fait faucher mon tel un jour, et pareil, j'ai perdu les photos dessus.
Moi, c'était des photos de chats dans la rue que j'ai envoyé à des gens, et des affiches de boutiques pour OSM, donc c'est pas super grave. Mais je peux comprendre que pour d'autres personnes, ça serait plus chiant.
Ensuite, la gratuité du service a des effets de bord d'un point de vue économique, mais comme dit par le passé, couvrir la population entière avec des services libres style chatons, ça demanderait un changement assez radical sur le mouvement.
Très objectivement, je pense que c'est une fonctionnalité utile.
C'est bien le très gros problème : la fonctionnalité est très utile.
Et c'est bien pour ça que la suppression de compte ne devrait pas être faite par des machines sans possibilité de contestation pour les suppressions illégitimes, mais par une justice dans un État de droit, entre autre pour que la "punition" (si il y a) soit proportionnée.
PS : hasard du calendrier mais je viens de me faire bloquer mon compte Facebook suite à piratage de la boite mail correspondante (ma faute ma faute…), et je suis en attente d'examen de leur part car le hackeur a publié des trucs pas bien; rien de grave de perdu si jamais ils persistent, sauf de la page d'une asso qui lui est liée et des autorisations pour des apps dont je risque de perdre l'accès aussi du coup, bon ben je croise les doigts…
Depuis que j'ai mon NextCloud sur un de mes serveurs, je suis vraiment content.
Je choisi ce qui est synchronisé et comment, et quels smartphone.
J'avais aussi SyncThings avant, qui fonctionnait très bien sur le réseau local.
Après, il y a toujours des gens qui préfèrent la complexité des services cloud externes parce qu'ils ne veulent pas installer SyncThings sur leur ordinateur et leur smartphone…
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
Erreur de ma part, ayant uBlock Origin le truc qui fait le paywall tout en laissant le contenu pour les moteurs de recherche est bloqué et du coup je n'ai pas chez moi le paywall (sauf pour tester, donc, que sans uBlock Origin il y a un paywall).
pourquoi la photo a t-elle été analysée?
Parce qu'il a envoyé un mail au médecin de son fils avec en pièce jointe les couilles (malades, soignées depuis) de son fils.
Pourquoi l'appel a été rejeté?
Je n'ai pas dit ça. Il n'y a pas d'appel, ça tombe dans le vide, quand tu es bloqué tu es bloqué et basta, si j'ai bien compris.
Au passage, faire l'objet d'une enquête de police n'est pas un préjudice (même s'il y a garde à vue),
Exact, mais pas le sujet, je parlais de l'entreprise privée.
La police a juste regardé le mail, vu que c'était OK, et est passée à autre chose.
en France on ne peut pas demander réparation à l'État même en cas de non-lieu.
En l’occurrence, en cas de non-lieu tu n'as aucune punition, ici la police a dit "OK" mais l'entreprise privée s'en fout et garde le compte clôturé.
Et (toujours en France, aux US je ne sais pas), une dénonciation n'est problématique que si elle est calomnieuse. Du coup, ça exclut l'incompétence ou la négligence…
Ce n'est pas le sujet. Ici l'entreprise peut, si elle le veut (mais elle s'en fout), savoir qu'elle a merdé et illégitimement fermé un compte avec toutes les données, c'est ce genre d'abus qui me dérange : ces entreprises promettent de faire attention aux données mais peuvent virer les gens du jour au lendemain sans aucun motif légitime, et de mon point de vue ça devrait devenu illégal. Doux rêve, je sais, déjà que pour des trucs plus importants comme une banque on peut te jeter, ne pas te fournir l'offre contractuelle, sans raison, c'est bien une limitation du pouvoir discrétionnaire de ces entreprises privées qui m’intéresse (allez ceux ayant sur moi un préjugé "libéral de droite" amusez vous à trouver une façon de caser ça dans votre préjugé, les "libéraux de droite" me traitant souvent de "gauchiste").
La "chance" de la victime est que l'entreprise privée a filé toutes les données à la police qui est incline à fournir une copie à la victime, la victime ne pourra pas récupérer son compte actif mais au moins le contenu.
Parce qu'il a envoyé un mail au médecin de son fils avec en pièce jointe les couilles (malades, soignées depuis) de son fils.
Je me corrige :
- photo de, pas l'objet en soit :).
- Comme Misc le souligne c'est la synchro auto, la victime ayant uploadé via l'outil de la clinique.
De plus j'avais mis ce lien sans savoir que c'était derrière un paywall parce que c'est la source de tous les autres (qui ne font que reprendre) et ayant payé le journaliste qui a enquêté.
Erreur de ma part, ayant uBlock Origin le truc qui fait le paywall tout en laissant le contenu pour les moteurs de recherche est bloqué et du coup je n'ai pas chez moi le paywall (sauf pour tester, donc, que sans uBlock Origin il y a un paywall).
Malgré uBlock Origin, je tombe sur le paywall. Il faut activer le bloqueur de javascript dans uBlock Origin sur le site en question pour avoir accès à l'article.
Ce qui me fait peur dans les commentaires ci-dessus, c'est qu'il semble légitime aux divers intervenants que google puisse scanner un courriel privé, et pire encore, en divulguer le contenu (même s'il s'agit de la police), ce qui les gêne est simplement le manque d'analyse pour voir si la dénonciation était légitimée ou non.
Hé les gars, vous n'avez pas l'impression que vous oubliez un petit détail ? Une conversation privée est censée rester… privée ! Et d'autant plus quand c'est une conversation médicale !! À moins que l'un des deux bouts de cette conversation soit sous surveillance policière, avec aval d'un juge.
Il y a une grande différence entre publier un contenu dans un espace public (forum, blog, FB, …) et envoyer un contenu à une seule personne.
Que diriez-vous, messieurs les censeurs, si la Poste ouvrait systématiquement TOUTES les lettres pour pouvoir dénoncer un éventuel expéditeur à la police si ce dernier avait le malheur d'envoyer à la grand-mère la photo du petit dernier de 2 ans, barbotant à poil dans une piscine ?
Et même si la Poste pouvait tomber sur un réel pédophile envoyant à un seul complice une photo licencieuse, ça n'est en aucun cas un motif pour ouvrir toutes les lettres de tous les citoyens.
Je sais, je sais, la notion de respect de la vie privée est censée être obsolète et est réputée être une préoccupation de vieux schnocks rétrogrades, mais cette idée ne serait-elle pas justement propagée par ceux qui ont un intérêt (soit policier, soit financier) à pouvoir avoir accès à tout ce qui s'échange entre particuliers, ou même à ce qui est stocké dans un espace privé (le spyphone) ?
Même si la photo a été scannée et dénoncée non suite à l'envoi du courriel, mais à la sauvegarde auto de la photo, ça ne change rien au problème, cette photo était privée et destinée à un usage privée, et qui plus est, tenait du secret médical.
Bah justement, ce qui était censé être expliqué dans l'article, c'est que Google n'analyse pas les contenus privés. Apparemment, le téléphone du monsieur était configuré pour envoyer automatiquement les photos sur Google drive, qui est potentiellement public et partageable. Vu le coût CPU de l'analyse de photos par un algo d'AI, j'aurais pensé que Google n'aurait analysé que les répertoires publics… après, peut-être que le drive était configuré pour partager avec la famille ou je ne sais pas quoi, c'est souvent des histoires de détail ces trucs là. Ou alors, Google considère le drive comme non-privé, mais je trouverais ça bizarre.
De toutes manières, je ne pense pas que Google ait spontanément pensé à analyser les photos pour détecter la pédopornographie. C'est probablement une obligation légale (l'hébergeur de contenu doit mettre tous les moyens en place pour empêcher la diffusion), et une grosse pression de la part des actionnaires pour éviter les scandales (du style "un réseau de pédophiles utilisait Google drive pour échanger des trucs").
Vu que la photo est potentiellement partageable, on peut supposer que Google scanne toutes les photos entrantes au cas où dès que des ressources sont disponibles plutôt que d'attendre qu'elle soit partagée et devoir mobiliser des ressources à ce moment (si c'est pendant une grosse charge, ça peut retarder la diffusion et ça diminue la satisfaction des utilisateurs…).
Rien ne peut permettre à Google ici de deviner qu'il s'agit d'un échange privé jusqu'à ce que le reste des échanges lui soit communiqué.
Moralité: je suis d'accord avec tout ce qu'à écrit Zenitram plus haut sur la nécessité de protéger les utilisateurs non-techniques contre les conséquences de l'ignorance de la partie technique, mais je ne suis pas prêt non plus de retourner confier mes données à des boites privées. Entre l'obligation de régulation et les gaffes, le risque me semble bien plus grand que celui de perdre mon serveur ET mes sauvegardes en même temps…
Bah justement, ce qui était censé être expliqué dans l'article, c'est que Google n'analyse pas les contenus privés
Vu que la photo est potentiellement partageable,
Ça continue à n'être pas justifiable, et à être par conséquent intolérable, l'espace de sauvegarde est un espace privé. Si google mélange l'espace de sauvegarde avec l'espace partageable, c'est pas mon problème, le résultat est que mes contenus privés sont exposés à des acteurs externes (police, fournisseur de service) sans aucun contrôle législatif.
Je viens de regarder les options d'un spyphone, volet "services google". et j'y trouve :
« Sauvegardez votre appareil avec google one.
« Utilisez le stockage de votre compte google pour sauvegarder :
« Applis et données associées
« Contacts, SMS et MME, historique des appels »
Où est-il indiqué : "Attention, cet espace est public et peut être accédé par des tiers" ?
IRL, cela correspondrait à ce que la banque puisse ouvrir les coffres des clients pour voir s'ils ne font pas du blanchiment, ou s'ils ne stockent pas des photos pédopornos. Ou que les proprios de box loués puissent installer des caméras dans leurs box pour voir si les voitures ne sont pas volées (ou si le box ne sert pas à stocker des photos pédopornos). Et pourquoi pas dans les apparts, finalement, puisqu'on est lancé (après 5 ans de caméras dans les box, le temps que l'intolérable devienne tolérable), puisque tout gamin peut être potentiellement violé par un des adultes y vivant ?
Le fait que des gens ici défendent la possibilité que des données personnelles soient accessibles á tout va, et qui plus est sans contrôle aucun, alors qu'on se trouve ici entre gens qui sommes quand même bien sensibilisés au probléme et aux soubassements techniques, eh bien cela me fait drôlement peur et fait mal augurer de ce qui va rester de notre intimité et de la manière dont la loi va la défendre dans le futur.
Où est-il indiqué : "Attention, cet espace est public et peut être accédé par des tiers" ?
Ce n'est pas un tiers, c'est le fournisseur de stockage lui-même. Et même pour GMail, c'était marqué dès le début que les mails seront scannés de toutes parts…
Oui, Google scanne toutes tes interactions, il catégorise toutes tes photos (le tag automatique est très à la mode en ce moment). Quand on dit "le produit c'est toi", c'est bien ta vie privée qui est vendue.
à ce que la banque puisse ouvrir les coffres des clients pour voir s'ils ne font pas du blanchiment
Je ne serais pas étonné que ce soit le cas, il y a une coopération étroite entre le fisc et les banques.
Je t'invite à déposer régulièrement de grosses sommes en cash sur ton compte en banque, et à voir ce qu'il se passe…
Le fait que des gens ici défendent la possibilité que des données personnelles soient accessibles á tout va
Non, accessibles par celui qui héberge ces données. Une grosse pression a été mise sur les hébergeurs ces dernières années, et ils ont mit en place un protocole de vérification plus ou moins heureux.
Encore une fois, le cloud, ce n'est que l'ordinateur de quelqu'un d'autre. La dérive que tu pointes, c'est surtout qu'on a oublié ça…
Ensuite il est vrai que la loi ne sait pas trop quoi faire de ces espaces numériques, entre espace privé sanctifié et open-bar douteux.
Ça continue à n'être pas justifiable, et à être par conséquent intolérable, l'espace de sauvegarde est un espace privé. Si google mélange l'espace de sauvegarde avec l'espace partageable, c'est pas mon problème, le résultat est que mes contenus privés sont exposés à des acteurs externes (police, fournisseur de service) sans aucun contrôle législatif.
Ça tombe mal, parce que la tendance est à déléguer aux hébergeurs de données la responsabilité de détecter les activités malveillantes. Et ça n'est pas le cas qu'aux États-Unis. En Europe aussi, on a la même tendance, avec toujours l'excuse de la lutte contre la pédopornographie en ligne (c'est dommage que personne ne soit foutu de fournir un chiffre sur le nombre de pédophiles attrapés grâce à tout ça).
Où est-il indiqué : "Attention, cet espace est public et peut être accédé par des tiers" ?
Pas par des tiers, par Google même.
Et c'est enfoui aux confins de leurs contrats d'utilisation.
Tiens, bonne lecture, c'est déjà la version abrégée: https://tosdr.org/en/service/217
IRL, cela correspondrait à ce que la banque puisse ouvrir les coffres des clients pour voir s'ils ne font pas du blanchiment, ou s'ils ne stockent pas des photos pédopornos.
Quand on a déménagé de Singapour, on a envoyé une partie de l'argent que j'y avais gagné en Chine (on y retournait), et une partie en France.
La banque en France a immédiatement bloqué la transaction, parce que dans leurs fichiers, j'étais toujours étudiant, je ne pouvais donc pas avoir eu accès à autant d'argent d'un coup, et ils ont exigé que je mette à jour mes informations personnelles avec preuves à l'appui (des fiches de paie) pour débloquer le transfert.
Certes, c'est pas dans un coffre, mais on est d'accord que c'est une banque qui mène une enquête sur moi et exige que je lui fournisse des informations personnelles qu'elle utilise ensuite dans des activités commerciales? (j'en ai reçu, des pubs de leur part après ça…). Et bien cette enquête est une obligation légale de leur part!
Le fait que des gens ici défendent la possibilité que des données personnelles soient accessibles á tout va, et qui plus est sans contrôle aucun, alors qu'on se trouve ici entre gens qui sommes quand même bien sensibilisés au probléme et aux soubassements techniques, eh bien cela me fait drôlement peur et fait mal augurer de ce qui va rester de notre intimité et de la manière dont la loi va la défendre dans le futur.
Les gens ici savent pour la plupart que tu ne peux pas faire confiance à une boite dont le modèle économique repose sur la surveillance, l'accumulation de données personnelles et leur valorisation, pour protéger ta vie privée. Autant demander à Total de nous faire le plan de sortie des énergies fossiles.
Je ne suis pas choqué par ce qui est arrivé à cet homme parce que je sais déjà que c'est ce que Google fait des données qu'on lui envoie. Et pour info, c'est pareil pour tous les GAFAM. D'où l'idée qu'il faille aller réguler tout ce bordel.
Mais on n'en prend pas le chemin, bien au contraire: on leur demande toujours plus de contrôle de leurs utilisateurs.
Donc personnellement, j'ai mon serveur chiffré pour héberger mes données.
Je suis aussi conscient que les GAFAM enchaînent les scandales sans que l'émoi ne dure plus de 3jours. Dit autrement: le public s'en contre-carre l'oignon et ne basculera jamais vers un hébergement personnel. À partir de là tu peux t'indigner autant que tu veux ou accepter qu'il faut faire AVEC l'idée que Google héberge les photos de presque tout le monde.
IRL, cela correspondrait à ce que la banque puisse ouvrir les coffres des clients pour voir s'ils ne font pas du blanchiment, ou s'ils ne stockent pas des photos pédopornos.
En Europe au moins, les banques sont responsables auprès de l'État de l'origine des fonds. Elles ne sont pas censées accepter les transferts douteux, et doivent émettre sur demande des certificats attestant de l'origine légale des sorties de montants inhabituels (par exemple, les notaires demandent un tel certificat quand tu achètes un bien immobilier sans passer par un crédit : la banque doit justifier de l'origine de l'argent (salaire, héritage, placements financiers, etc). D'ailleurs, inversement, les banques doivent également empêcher les dépenses inhabituelles (genre, un transfert de 100k€ vers une banque Africaine). Donc oui, ton banquier a l'obligation légale de surveiller tes comptes et tes transactions financières.
Pour revenir au sujet, Google prétend (et je ne pense pas qu'il y ait des raisons de les mettre en doute sur ce point) que les contenus personnels ne sont pas utilisés à des fins commerciales. Les documents et contenus sont scannés pour des raisons de sécurité (recherche de logiciels ou de fichiers malveillants, notamment).
Dans tous les cas, il semble déraisonnable d'imaginer que Google ait un quelconque intérêt à développer des outils et consommer du CPU pour savoir si tu es pédophile. S'ils font ça, c'est pour limiter les risques que tu diffuses des photos illégales à partir de leurs serveurs (et/ou éventuellement de montrer leur bonne volonté à l'administration US). Un pédophile reste un consommateur pour eux, et s'ils peuvent leur refiler de la pub ciblée, ça les arrange aussi.
Au final, j'imagine qu'il y a une subtilité technique (par exemple, le gars avait partagé par défaut ses photos sur Drive avec un membre de sa famille ou un truc comme ça). Il n'y a pas de malveillance, juste des algos qui font des trucs d'algos sans jamais qu'un humain n'intervienne.
Il n'y a pas de malveillance, juste des algos qui font des trucs d'algos sans jamais qu'un humain n'intervienne.
Je suis plutôt d'accord avec toi, sauf que je vois de la malveillance dans le fait qu'aucun humain n'intervienne pour réparer les dégâts causés par un algorithme. C'est un choix délibéré de l'entreprise qui dit bien tout le mépris qu'elle a pour ses utilisateurs.
Malveillance, ce serait une intention de nuire, alors que c'est juste qu'ils n'en ont strictement rien à foutre: la quantité d'utilisateurs impactés est négligeable et donc sans impact sur le CA, et comme pour tous les scandales sur les GAFAM, le grand public ne changera absolument rien à ses habitudes.
Posté par arnaudus .
Évalué à 3.
Dernière modification le 25 août 2022 à 09:49.
je vois de la malveillance dans le fait qu'aucun humain n'intervienne
Ça c'est de la négligence, pas de la malveillance. La malveillance c'est lié à la volonté de nuire à quelqu'un. Ça n'est pas de ça dont on parle.
qui dit bien tout le mépris qu'elle a pour ses utilisateurs
Je ne suis pas sûr que ça soit vrai dans le fond, mais de toutes manières le raisonnement est fallacieux. Google a des milliards d'utilisateurs, débrancher le compte d'une personne pour (selon leur point de vue) permettre d'améliorer l'expérience de millions d'autres (leur permettre d'accéder à une plateforme de partage à bonne réputation dont les IP ne vont pas être bloquées dans certains pays et référencés dans les moteurs de recherche, supprimer les fichiers corrompus, éviter des poursuites pour des infractions à la propriété intellectuelle, etc) se justifie parfaitement du point de vue de l'utilisateur. C'est comme les mutuelles qui excluent les clients "malchanceux", c'est une balance entre les intérêts des utilisateurs.
Ce qui doit être plus clairement établi par la loi par contre, c'est si l'accès à un compte Google est un droit. Par exemple, accéder à un compte en banque à l'agence du coin, ça n'est pas un droit : une banque peut très bien refuser un client (sauf si c'est de la discrimination). Par contre, avoir un compte est un doit, l'État peut imposer à une agence d'ouvrir un compte à une personne si personne d'autre ne veut le faire. Pour faire l'analogie (foireuse, il faut bien le dire) avec une banque, peut-être que l'accès spécifique aux services de Google n'est pas un droit, et que cette personne n'a pas le droit d'exiger de Google que son compte lui soit restitué.
Ce qui me fait peur dans les commentaires ci-dessus, c'est qu'il semble légitime aux divers intervenants que google puisse scanner un courriel privé, et pire encore, en divulguer le contenu (même s'il s'agit de la police)
# Mon avis
Posté par Zenitram (site web personnel) . Évalué à 7.
En soit et pour faire hérisser le poil de certains ici je ne suis pas contre l'automatisation de la détection de contenu illégal, mais de mon point de vue l'entreprise a la responsabilité de ne pas faire de faux-positifs, et par responsabilité c'est tout remettre en place si erreur, et si impact financier il devrait y avoir dédommagement, charge à l'entreprise de réduire au maximum les faux-positifs et non pas optimiser juste pour ne pas avoir de faux-négatif. Surtout quand la police répond que tout va bien.
En attendant, je ne m'interdit pas du tout d'utiliser les services de ces entreprises, mais en évitant d'y mettre mes mails et en faisant des backups de ce à quoi je tiens ailleurs que chez eux. J'en ai les compétences mais je comprend que les gens ne les aient pas et pensent que ça va bien pour eux, et il faut défendre les gens sans les compétences, avec un État de droit aussi pour ces services qui deviennent important dans la vie des gens.
Je me note que ça peut m'arriver d'avoir des photos "sensibles" (pour des raisons similaires) automatiquement backupées, je vais sans doute désactiver ce service sur mon smartphone.
Je reste toutefois assez étonné que vu le système judiciaire US il n'y ai pas encore eu un avocat intéressé à faire un procès pour abus de droit ou un truc du genre.
# -1
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 6.
J'aimerais sérieusement comprendre le sens des moinssages par ici.
J'ai personnellement trouvé ce lien et le premier commentaire l'accompagnant pertinents.
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: -1
Posté par arnaudus . Évalué à 6.
L'article est derrière un paywall, donc on peut légitimement estimer que le lien n'est pas très utile.
Sur le fond, l'histoire ne me semble pas très claire (pourquoi la photo a t-elle été analysée? mise à disposition sur un serveur d'images? Pourquoi l'appel a été rejeté?).
Au passage, faire l'objet d'une enquête de police n'est pas un préjudice (même s'il y a garde à vue), en France on ne peut pas demander réparation à l'État même en cas de non-lieu. Et (toujours en France, aux US je ne sais pas), une dénonciation n'est problématique que si elle est calomnieuse. Du coup, ça exclut l'incompétence ou la négligence…
[^] # Re: -1
Posté par Misc (site web personnel) . Évalué à 6.
cat envoyé sur google drive
sans doute une synchro automatique depuis le tel
Parce que Google n'est pas devenu riche en signant des chèques pour le support.
Et je pense que dans le contexte US, c'est plus une obligation de signaler ce genre de choses (eg, tu fais pas de jugement de valeur, tu le remontes)
Ensuite, il n'y a pas d'obligation de fermer le compte, ni de le garder fermé, c'est clairement la faute de Google. Bien sur, d'ici 2 jours, Google va avoir remis le compte en marche maintenant qu'il y a du bruit autour de l'affaire.
Sur la question de la lutte contre la pornographie et de la pedocriminalité et les GAFAMs (et les dérives), j'ai lu récemment The Digital Closet: How the Internet Became Straight.
Rien de très nouveau pour qui suit le domaine, et comme dit par le passé, j'ai le sentiment que le style est manipulatoire, mais ça reste assez factuel et ça montre bien comment on en arrive la (minus le fait de fermer le compte).
[^] # Re: -1
Posté par arnaudus . Évalué à 4.
Parfois j'ai l'impression que les GAFAM ne payent ni le CPU ni l'espace disque…
[^] # Re: -1
Posté par Zenitram (site web personnel) . Évalué à 2. Dernière modification le 23 août 2022 à 08:12.
A une époque, celle pour prendre les parts de marché, c'était illimité.
Depuis quelques temps le disque en ligne est limité (à 15 Go pour l'entreprise sujet du lien) pour faire payer l'utilisation de l'espace en plus (et cet argent servira aussi pour financer la "pub" en espace gratuit).
Classique "investissement" en premières doses gratuites pour faire payer derrière (= "premium").
[^] # Re: -1
Posté par GG (site web personnel) . Évalué à 7.
Et si tu veux sortir, les 15 Go, il faut transférer les emails ailleurs…
Non seulement c'est particulièrement pénible de configurer un compte Gmail sur un logiciel de messagerie, mais le transfert se fera à la vitesse petit nuage de 100Ko/s environ…
C'est vécu.
J'avais bien dit que c'était une connerie de tout mettre chez Google, mais les informaticiens ne sont pas écoutés… parce que c'est gratuit (à l'époque ça l'était).
Rien que libérer quelques Go pour débloquer la boîte à cause du dépassement de quota des 15Go ça a demandé des plombes. Au moins, ça n'a pas saturé ma bande passante.
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
[^] # Re: -1
Posté par Misc (site web personnel) . Évalué à 4. Dernière modification le 23 août 2022 à 10:39.
En même temps, vu les profits des dites entreprises, ça me parait le minimum.
Très objectivement, je pense que c'est une fonctionnalité utile. J'ai perdu 4000 photos en verrouillant mal mon téléphone et en le mettant dans la poche, et je suis un peu vert quand j'y repense (parce que j'ai pas de synchro, ni même mis de compte google sur le tel).
De la même façon, je me suis fait faucher mon tel un jour, et pareil, j'ai perdu les photos dessus.
Moi, c'était des photos de chats dans la rue que j'ai envoyé à des gens, et des affiches de boutiques pour OSM, donc c'est pas super grave. Mais je peux comprendre que pour d'autres personnes, ça serait plus chiant.
Ensuite, la gratuité du service a des effets de bord d'un point de vue économique, mais comme dit par le passé, couvrir la population entière avec des services libres style chatons, ça demanderait un changement assez radical sur le mouvement.
[^] # Re: -1
Posté par Zenitram (site web personnel) . Évalué à 0. Dernière modification le 23 août 2022 à 10:50.
C'est bien le très gros problème : la fonctionnalité est très utile.
Et c'est bien pour ça que la suppression de compte ne devrait pas être faite par des machines sans possibilité de contestation pour les suppressions illégitimes, mais par une justice dans un État de droit, entre autre pour que la "punition" (si il y a) soit proportionnée.
PS : hasard du calendrier mais je viens de me faire bloquer mon compte Facebook suite à piratage de la boite mail correspondante (ma faute ma faute…), et je suis en attente d'examen de leur part car le hackeur a publié des trucs pas bien; rien de grave de perdu si jamais ils persistent, sauf de la page d'une asso qui lui est liée et des autorisations pour des apps dont je risque de perdre l'accès aussi du coup, bon ben je croise les doigts…
[^] # Re: -1
Posté par GG (site web personnel) . Évalué à 6.
Depuis que j'ai mon NextCloud sur un de mes serveurs, je suis vraiment content.
Je choisi ce qui est synchronisé et comment, et quels smartphone.
J'avais aussi SyncThings avant, qui fonctionnait très bien sur le réseau local.
Après, il y a toujours des gens qui préfèrent la complexité des services cloud externes parce qu'ils ne veulent pas installer SyncThings sur leur ordinateur et leur smartphone…
Pourquoi bloquer la publicité et les traqueurs : https://greboca.com/Pourquoi-bloquer-la-publicite-et-les-traqueurs.html
[^] # Re: -1
Posté par Zenitram (site web personnel) . Évalué à 3. Dernière modification le 23 août 2022 à 08:13.
Erreur de ma part, ayant uBlock Origin le truc qui fait le paywall tout en laissant le contenu pour les moteurs de recherche est bloqué et du coup je n'ai pas chez moi le paywall (sauf pour tester, donc, que sans uBlock Origin il y a un paywall).
Parce qu'il a envoyé un mail au médecin de son fils avec en pièce jointe les couilles (malades, soignées depuis) de son fils.
Je n'ai pas dit ça. Il n'y a pas d'appel, ça tombe dans le vide, quand tu es bloqué tu es bloqué et basta, si j'ai bien compris.
Exact, mais pas le sujet, je parlais de l'entreprise privée.
La police a juste regardé le mail, vu que c'était OK, et est passée à autre chose.
En l’occurrence, en cas de non-lieu tu n'as aucune punition, ici la police a dit "OK" mais l'entreprise privée s'en fout et garde le compte clôturé.
Ce n'est pas le sujet. Ici l'entreprise peut, si elle le veut (mais elle s'en fout), savoir qu'elle a merdé et illégitimement fermé un compte avec toutes les données, c'est ce genre d'abus qui me dérange : ces entreprises promettent de faire attention aux données mais peuvent virer les gens du jour au lendemain sans aucun motif légitime, et de mon point de vue ça devrait devenu illégal. Doux rêve, je sais, déjà que pour des trucs plus importants comme une banque on peut te jeter, ne pas te fournir l'offre contractuelle, sans raison, c'est bien une limitation du pouvoir discrétionnaire de ces entreprises privées qui m’intéresse (allez ceux ayant sur moi un préjugé "libéral de droite" amusez vous à trouver une façon de caser ça dans votre préjugé, les "libéraux de droite" me traitant souvent de "gauchiste").
La "chance" de la victime est que l'entreprise privée a filé toutes les données à la police qui est incline à fournir une copie à la victime, la victime ne pourra pas récupérer son compte actif mais au moins le contenu.
[^] # Re: -1
Posté par Zenitram (site web personnel) . Évalué à 3.
Je me corrige :
- photo de, pas l'objet en soit :).
- Comme Misc le souligne c'est la synchro auto, la victime ayant uploadé via l'outil de la clinique.
De plus j'avais mis ce lien sans savoir que c'était derrière un paywall parce que c'est la source de tous les autres (qui ne font que reprendre) et ayant payé le journaliste qui a enquêté.
[^] # Re: -1
Posté par nico4nicolas . Évalué à 2.
Malgré uBlock Origin, je tombe sur le paywall. Il faut activer le bloqueur de javascript dans uBlock Origin sur le site en question pour avoir accès à l'article.
# Contenu privé… et médical !
Posté par sebas . Évalué à 10.
Ce qui me fait peur dans les commentaires ci-dessus, c'est qu'il semble légitime aux divers intervenants que google puisse scanner un courriel privé, et pire encore, en divulguer le contenu (même s'il s'agit de la police), ce qui les gêne est simplement le manque d'analyse pour voir si la dénonciation était légitimée ou non.
Hé les gars, vous n'avez pas l'impression que vous oubliez un petit détail ? Une conversation privée est censée rester… privée ! Et d'autant plus quand c'est une conversation médicale !! À moins que l'un des deux bouts de cette conversation soit sous surveillance policière, avec aval d'un juge.
Il y a une grande différence entre publier un contenu dans un espace public (forum, blog, FB, …) et envoyer un contenu à une seule personne.
Que diriez-vous, messieurs les censeurs, si la Poste ouvrait systématiquement TOUTES les lettres pour pouvoir dénoncer un éventuel expéditeur à la police si ce dernier avait le malheur d'envoyer à la grand-mère la photo du petit dernier de 2 ans, barbotant à poil dans une piscine ?
Et même si la Poste pouvait tomber sur un réel pédophile envoyant à un seul complice une photo licencieuse, ça n'est en aucun cas un motif pour ouvrir toutes les lettres de tous les citoyens.
Je sais, je sais, la notion de respect de la vie privée est censée être obsolète et est réputée être une préoccupation de vieux schnocks rétrogrades, mais cette idée ne serait-elle pas justement propagée par ceux qui ont un intérêt (soit policier, soit financier) à pouvoir avoir accès à tout ce qui s'échange entre particuliers, ou même à ce qui est stocké dans un espace privé (le spyphone) ?
Même si la photo a été scannée et dénoncée non suite à l'envoi du courriel, mais à la sauvegarde auto de la photo, ça ne change rien au problème, cette photo était privée et destinée à un usage privée, et qui plus est, tenait du secret médical.
La grenouille dans la casserole.
[^] # Re: Contenu privé… et médical !
Posté par Christophe . Évalué à 5.
Je crois que tu t'emballes un peu. La photo a manifestement été prise avec un appareil android, et téléchargée automagiquement sur Google Photos.
La suite (email, clinique, etc) n'a pas de lien technique avec ça.
[^] # Re: Contenu privé… et médical !
Posté par arnaudus . Évalué à 4.
Bah justement, ce qui était censé être expliqué dans l'article, c'est que Google n'analyse pas les contenus privés. Apparemment, le téléphone du monsieur était configuré pour envoyer automatiquement les photos sur Google drive, qui est potentiellement public et partageable. Vu le coût CPU de l'analyse de photos par un algo d'AI, j'aurais pensé que Google n'aurait analysé que les répertoires publics… après, peut-être que le drive était configuré pour partager avec la famille ou je ne sais pas quoi, c'est souvent des histoires de détail ces trucs là. Ou alors, Google considère le drive comme non-privé, mais je trouverais ça bizarre.
De toutes manières, je ne pense pas que Google ait spontanément pensé à analyser les photos pour détecter la pédopornographie. C'est probablement une obligation légale (l'hébergeur de contenu doit mettre tous les moyens en place pour empêcher la diffusion), et une grosse pression de la part des actionnaires pour éviter les scandales (du style "un réseau de pédophiles utilisait Google drive pour échanger des trucs").
[^] # Re: Contenu privé… et médical !
Posté par Maclag . Évalué à 4.
Vu que la photo est potentiellement partageable, on peut supposer que Google scanne toutes les photos entrantes au cas où dès que des ressources sont disponibles plutôt que d'attendre qu'elle soit partagée et devoir mobiliser des ressources à ce moment (si c'est pendant une grosse charge, ça peut retarder la diffusion et ça diminue la satisfaction des utilisateurs…).
Rien ne peut permettre à Google ici de deviner qu'il s'agit d'un échange privé jusqu'à ce que le reste des échanges lui soit communiqué.
Moralité: je suis d'accord avec tout ce qu'à écrit Zenitram plus haut sur la nécessité de protéger les utilisateurs non-techniques contre les conséquences de l'ignorance de la partie technique, mais je ne suis pas prêt non plus de retourner confier mes données à des boites privées. Entre l'obligation de régulation et les gaffes, le risque me semble bien plus grand que celui de perdre mon serveur ET mes sauvegardes en même temps…
[^] # Re: Contenu privé… et médical !
Posté par sebas . Évalué à 10.
Ça continue à n'être pas justifiable, et à être par conséquent intolérable, l'espace de sauvegarde est un espace privé. Si google mélange l'espace de sauvegarde avec l'espace partageable, c'est pas mon problème, le résultat est que mes contenus privés sont exposés à des acteurs externes (police, fournisseur de service) sans aucun contrôle législatif.
Je viens de regarder les options d'un spyphone, volet "services google". et j'y trouve :
« Sauvegardez votre appareil avec google one.
« Utilisez le stockage de votre compte google pour sauvegarder :
« Applis et données associées
« Contacts, SMS et MME, historique des appels »
Où est-il indiqué : "Attention, cet espace est public et peut être accédé par des tiers" ?
IRL, cela correspondrait à ce que la banque puisse ouvrir les coffres des clients pour voir s'ils ne font pas du blanchiment, ou s'ils ne stockent pas des photos pédopornos. Ou que les proprios de box loués puissent installer des caméras dans leurs box pour voir si les voitures ne sont pas volées (ou si le box ne sert pas à stocker des photos pédopornos). Et pourquoi pas dans les apparts, finalement, puisqu'on est lancé (après 5 ans de caméras dans les box, le temps que l'intolérable devienne tolérable), puisque tout gamin peut être potentiellement violé par un des adultes y vivant ?
Le fait que des gens ici défendent la possibilité que des données personnelles soient accessibles á tout va, et qui plus est sans contrôle aucun, alors qu'on se trouve ici entre gens qui sommes quand même bien sensibilisés au probléme et aux soubassements techniques, eh bien cela me fait drôlement peur et fait mal augurer de ce qui va rester de notre intimité et de la manière dont la loi va la défendre dans le futur.
Grenouille, casserole…
[^] # Re: Contenu privé… et médical !
Posté par Christophe . Évalué à 5.
Ce n'est pas un tiers, c'est le fournisseur de stockage lui-même. Et même pour GMail, c'était marqué dès le début que les mails seront scannés de toutes parts…
Oui, Google scanne toutes tes interactions, il catégorise toutes tes photos (le tag automatique est très à la mode en ce moment). Quand on dit "le produit c'est toi", c'est bien ta vie privée qui est vendue.
Je ne serais pas étonné que ce soit le cas, il y a une coopération étroite entre le fisc et les banques.
Je t'invite à déposer régulièrement de grosses sommes en cash sur ton compte en banque, et à voir ce qu'il se passe…
Non, accessibles par celui qui héberge ces données. Une grosse pression a été mise sur les hébergeurs ces dernières années, et ils ont mit en place un protocole de vérification plus ou moins heureux.
Encore une fois, le cloud, ce n'est que l'ordinateur de quelqu'un d'autre. La dérive que tu pointes, c'est surtout qu'on a oublié ça…
Ensuite il est vrai que la loi ne sait pas trop quoi faire de ces espaces numériques, entre espace privé sanctifié et open-bar douteux.
[^] # Re: Contenu privé… et médical !
Posté par Maclag . Évalué à 5.
Ça tombe mal, parce que la tendance est à déléguer aux hébergeurs de données la responsabilité de détecter les activités malveillantes. Et ça n'est pas le cas qu'aux États-Unis. En Europe aussi, on a la même tendance, avec toujours l'excuse de la lutte contre la pédopornographie en ligne (c'est dommage que personne ne soit foutu de fournir un chiffre sur le nombre de pédophiles attrapés grâce à tout ça).
Pas par des tiers, par Google même.
Et c'est enfoui aux confins de leurs contrats d'utilisation.
Tiens, bonne lecture, c'est déjà la version abrégée:
https://tosdr.org/en/service/217
Quand on a déménagé de Singapour, on a envoyé une partie de l'argent que j'y avais gagné en Chine (on y retournait), et une partie en France.
La banque en France a immédiatement bloqué la transaction, parce que dans leurs fichiers, j'étais toujours étudiant, je ne pouvais donc pas avoir eu accès à autant d'argent d'un coup, et ils ont exigé que je mette à jour mes informations personnelles avec preuves à l'appui (des fiches de paie) pour débloquer le transfert.
Certes, c'est pas dans un coffre, mais on est d'accord que c'est une banque qui mène une enquête sur moi et exige que je lui fournisse des informations personnelles qu'elle utilise ensuite dans des activités commerciales? (j'en ai reçu, des pubs de leur part après ça…). Et bien cette enquête est une obligation légale de leur part!
Les gens ici savent pour la plupart que tu ne peux pas faire confiance à une boite dont le modèle économique repose sur la surveillance, l'accumulation de données personnelles et leur valorisation, pour protéger ta vie privée. Autant demander à Total de nous faire le plan de sortie des énergies fossiles.
Je ne suis pas choqué par ce qui est arrivé à cet homme parce que je sais déjà que c'est ce que Google fait des données qu'on lui envoie. Et pour info, c'est pareil pour tous les GAFAM. D'où l'idée qu'il faille aller réguler tout ce bordel.
Mais on n'en prend pas le chemin, bien au contraire: on leur demande toujours plus de contrôle de leurs utilisateurs.
Donc personnellement, j'ai mon serveur chiffré pour héberger mes données.
Je suis aussi conscient que les GAFAM enchaînent les scandales sans que l'émoi ne dure plus de 3jours. Dit autrement: le public s'en contre-carre l'oignon et ne basculera jamais vers un hébergement personnel. À partir de là tu peux t'indigner autant que tu veux ou accepter qu'il faut faire AVEC l'idée que Google héberge les photos de presque tout le monde.
[^] # Re: Contenu privé… et médical !
Posté par arnaudus . Évalué à 5.
En Europe au moins, les banques sont responsables auprès de l'État de l'origine des fonds. Elles ne sont pas censées accepter les transferts douteux, et doivent émettre sur demande des certificats attestant de l'origine légale des sorties de montants inhabituels (par exemple, les notaires demandent un tel certificat quand tu achètes un bien immobilier sans passer par un crédit : la banque doit justifier de l'origine de l'argent (salaire, héritage, placements financiers, etc). D'ailleurs, inversement, les banques doivent également empêcher les dépenses inhabituelles (genre, un transfert de 100k€ vers une banque Africaine). Donc oui, ton banquier a l'obligation légale de surveiller tes comptes et tes transactions financières.
Pour revenir au sujet, Google prétend (et je ne pense pas qu'il y ait des raisons de les mettre en doute sur ce point) que les contenus personnels ne sont pas utilisés à des fins commerciales. Les documents et contenus sont scannés pour des raisons de sécurité (recherche de logiciels ou de fichiers malveillants, notamment).
Dans tous les cas, il semble déraisonnable d'imaginer que Google ait un quelconque intérêt à développer des outils et consommer du CPU pour savoir si tu es pédophile. S'ils font ça, c'est pour limiter les risques que tu diffuses des photos illégales à partir de leurs serveurs (et/ou éventuellement de montrer leur bonne volonté à l'administration US). Un pédophile reste un consommateur pour eux, et s'ils peuvent leur refiler de la pub ciblée, ça les arrange aussi.
Au final, j'imagine qu'il y a une subtilité technique (par exemple, le gars avait partagé par défaut ses photos sur Drive avec un membre de sa famille ou un truc comme ça). Il n'y a pas de malveillance, juste des algos qui font des trucs d'algos sans jamais qu'un humain n'intervienne.
[^] # Re: Contenu privé… et médical !
Posté par Jean-Baptiste Faure . Évalué à 5.
Je suis plutôt d'accord avec toi, sauf que je vois de la malveillance dans le fait qu'aucun humain n'intervienne pour réparer les dégâts causés par un algorithme. C'est un choix délibéré de l'entreprise qui dit bien tout le mépris qu'elle a pour ses utilisateurs.
[^] # Re: Contenu privé… et médical !
Posté par Ysabeau 🧶 (site web personnel, Mastodon) . Évalué à 4.
En effet vu que le type n'a toujours pas récupéré son compte !
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
[^] # Re: Contenu privé… et médical !
Posté par Maclag . Évalué à 5.
Malveillance, ce serait une intention de nuire, alors que c'est juste qu'ils n'en ont strictement rien à foutre: la quantité d'utilisateurs impactés est négligeable et donc sans impact sur le CA, et comme pour tous les scandales sur les GAFAM, le grand public ne changera absolument rien à ses habitudes.
[^] # Re: Contenu privé… et médical !
Posté par Jean-Baptiste Faure . Évalué à 4.
https://fr.wiktionary.org/wiki/malveillance et https://www.larousse.fr/dictionnaires/francais/malveillance/48979 -> sens n°1
Toi tu prends le sens n°2
[^] # Re: Contenu privé… et médical !
Posté par BAud (site web personnel) . Évalué à 3.
tout est justiciable de nos jours mon pov' môssieur :-)
alors qu'à compromis, chose due (plusieurs formulations possibles, spa ma fôte : Coluche inside :p)
le sens 1er a tendance à être dévoyé / pédopornographié (sait-on quelles images il a pris dernièrement ?!)
Toute ressemblance avec des faits précédents serait purement fortuite :D
[^] # Re: Contenu privé… et médical !
Posté par arnaudus . Évalué à 3. Dernière modification le 25 août 2022 à 09:49.
Ça c'est de la négligence, pas de la malveillance. La malveillance c'est lié à la volonté de nuire à quelqu'un. Ça n'est pas de ça dont on parle.
Je ne suis pas sûr que ça soit vrai dans le fond, mais de toutes manières le raisonnement est fallacieux. Google a des milliards d'utilisateurs, débrancher le compte d'une personne pour (selon leur point de vue) permettre d'améliorer l'expérience de millions d'autres (leur permettre d'accéder à une plateforme de partage à bonne réputation dont les IP ne vont pas être bloquées dans certains pays et référencés dans les moteurs de recherche, supprimer les fichiers corrompus, éviter des poursuites pour des infractions à la propriété intellectuelle, etc) se justifie parfaitement du point de vue de l'utilisateur. C'est comme les mutuelles qui excluent les clients "malchanceux", c'est une balance entre les intérêts des utilisateurs.
Ce qui doit être plus clairement établi par la loi par contre, c'est si l'accès à un compte Google est un droit. Par exemple, accéder à un compte en banque à l'agence du coin, ça n'est pas un droit : une banque peut très bien refuser un client (sauf si c'est de la discrimination). Par contre, avoir un compte est un doit, l'État peut imposer à une agence d'ouvrir un compte à une personne si personne d'autre ne veut le faire. Pour faire l'analogie (foireuse, il faut bien le dire) avec une banque, peut-être que l'accès spécifique aux services de Google n'est pas un droit, et que cette personne n'a pas le droit d'exiger de Google que son compte lui soit restitué.
[^] # Re: Contenu privé… et médical !
Posté par anubis . Évalué à 1.
Pour te rassurer ce sera bientôt légalement obligatoire pour n'importe quel service d'hébergement en ligne d'analyser et transmettre à la police : https://linuxfr.org/news/la-fin-de-la-vie-privee-pour-la-correspondance-numerique / http://chatcontrol.eu/
aussi sur le salon xmpp:linuxfr@chat.jabberfr.org?join
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.