On peut évidemment penser aux lois d'Asimov, et nombre de chercheurs en éthique des robots l'ont fait depuis longtemps. Nous nous sommes focalisés sur des problèmes de vie privée dans le ML contemporain, et n'avions pas la prétention de traiter tous les problèmes d'éthique possibles et imaginables ! En particulier, nous ne faisons pas ce qu'on appelle de la robot ethics, soit des tentatives de programmation de normes éthiques dans le robot lui-même : nous étudions des questions éthiques dans le processus de développement. Les règles qu'on pourrait tirer de nos principes sont donc faites pour être implémentées par des êtres humains, et non par des robots.
Vous faites bien de signaler ce problème, qui m'attriste moi aussi. Comme vous le dites, il est très difficile d'échapper aux trackers malgré le renforcement du cadre législatif : je ne vois pas comment cela peut être légal si vous avez refusé les cookies non-nécessaires sur le formulaire RGPD. Mais c'est une question à adresser aux gestionnaires du site, pas aux auteurs et éditeurs de contenu qui ont le droit de supposer que le cadre légal est rigoureusement respecté dans les endroits où ils ou elles travaillent, même si on peut avoir de mauvaises surprises.
Dans le cadre de la charte, nous essayons de concevoir un processus de développement qui aboutisse à des IAs dont le déploiement permette le respect de la vie privée. On cherche donc à transmettre une propriété du développement -le respect de la vie privée- au produit fini de ce développement, même si vous avez bien raison de dire qu'une telle transmission n'est pas une évidence. J'ai préféré faire l'accord avec le "développement" dans le titre pour souligner que la charte s'adresse avant tout à ceux et celles qui font du développement.
Il n'est pas du tout interdit que les réflexions initiées par cette charte dédiée au ML arrivent à des conclusions portant sur le développement en général : ce sont des choses qui arrivent bien souvent en recherche. Mais cette charte est bien centrée sur des problèmes spécifiques au ML, comme la rétro-ingénierie des données.
Il est vrai que la charte s'adresse avant tout aux spécialistes du domaine. En revanche, je ne pense pas que s'embarquer dans les sempiternelles querelles sur la définition de l'IA et son rapport à l'intelligence nous aidera à l'ouvrir à un plus vaste public. Quand à la définition de la vie privée, c'est une question immense, sur laquelle je travaille activement, mais elle suppose la mobilisation de connaissances sociohistoriques très vastes, qui auraient noyé le poisson plus qu'autre chose ici.
Bien sûr que la vie privée n'est pas le seul problème pertinent en éthique de l'IA ! Ce que nous essayons plutôt de montrer, c'est que c'est déjà un problème assez massif en lui-même.
Il me faut bien préciser qu'il ne s'agit aucunement de proposer un indicateur (inexistant dans la charte), ou de collecter des signatures de soutien de la part d'institutions. Il est en effet par trop facile de signer une charte sans valeur contraignante et de faire tout l'inverse de ce qu'elle défend, ou de prétendre avoir résolu tous les problèmes éthiques en ne satisfaisant qu'une définition très étroite des enjeux.
L'objectif de la charte n'est pas d'obtenir des réactions institutionnelles mais de lancer une conversation parmi les praticiennes et praticiens du ML. Une fois cette conversation bien mûrie, on pourra passer éventuellement à des objectifs institutionnels.
La charte s'adresse avant tout aux praticiens du ML, soit à des scientifiques et des développeuses et développeurs du domaine. Peuvent être aussi incluses toutes les personnes capables de suivre une conversation substantielle sur ces sujets, comme le peuvent par exemple certaines juristes.
Il est tout à fait juste que ça rend le document assez technique. Notre problème est qu'avant de réussir à exprimer des résultats clairs et simples aux non-praticiens, il faudrait encore que les praticiens et praticiennes comprennent ce qu'ils veulent et ce qu'ils peuvent faire, et nous en sommes encore loin.
Le principe 1 s'adresse uniquement aux scientifiques car le droit les exempte de déclarer la finalité du traitement et de réduire la collecte de donnée à ce qui est strictement nécessaire à cette finalité pré-déclarée. Ce principe-là est donc réduit à ce public particulier, mais ce n'est pas le cas de toute la charte.
"L'apparition du pouvoir prédictif trop fin" est un concept majeur de la charte qui est expliqué plus tard dans le document : il ne peut en effet être compris à la première lecture, puisque ce phénomène n'a pas de nom scientifique standard. Il s'agit des cas où un modèle est capable de prédire des données à grain très fin, y compris des données personnelles, alors même que ce n'est pas nécessaire pour satisfaire sa spécification. Par exemple, un logiciel de complétion ne devrait pas compléter "mon numéro de carte de crédit est" par le numéro de carte de l'utilisateur, car il est là pour aider à la rédaction, pas pour compléter des demandes d'informations personnelles. Mais certains le font dans les faits, et cela pose un problème de sécurité et de respect de la vie privée.
Il faudrait en effet une autre version du document avec une explication brève principe par principe, exactement comme vous le dites. Nous songeons à faire une telle présentation en ce moment et à la faire publier.
[^] # Re: On pourrait peut-être aussi utiliser les trois lois de la robotique d'Asimov
Posté par maelpegny . En réponse à la dépêche Développement des IAs respectueux de la vie privée : une charte récente. Évalué à 1.
Bonjour,
On peut évidemment penser aux lois d'Asimov, et nombre de chercheurs en éthique des robots l'ont fait depuis longtemps. Nous nous sommes focalisés sur des problèmes de vie privée dans le ML contemporain, et n'avions pas la prétention de traiter tous les problèmes d'éthique possibles et imaginables ! En particulier, nous ne faisons pas ce qu'on appelle de la robot ethics, soit des tentatives de programmation de normes éthiques dans le robot lui-même : nous étudions des questions éthiques dans le processus de développement. Les règles qu'on pourrait tirer de nos principes sont donc faites pour être implémentées par des êtres humains, et non par des robots.
Bien à vous,
Maël Pégny
[^] # Re: Dommage
Posté par maelpegny . En réponse à la dépêche Développement des IAs respectueux de la vie privée : une charte récente. Évalué à 0.
Bonjour,
Vous faites bien de signaler ce problème, qui m'attriste moi aussi. Comme vous le dites, il est très difficile d'échapper aux trackers malgré le renforcement du cadre législatif : je ne vois pas comment cela peut être légal si vous avez refusé les cookies non-nécessaires sur le formulaire RGPD. Mais c'est une question à adresser aux gestionnaires du site, pas aux auteurs et éditeurs de contenu qui ont le droit de supposer que le cadre légal est rigoureusement respecté dans les endroits où ils ou elles travaillent, même si on peut avoir de mauvaises surprises.
Bien à vous,
Maël Pégny
[^] # Re: Confus
Posté par maelpegny . En réponse à la dépêche Développement des IAs respectueux de la vie privée : une charte récente. Évalué à 0.
Bonjour,
Dans le cadre de la charte, nous essayons de concevoir un processus de développement qui aboutisse à des IAs dont le déploiement permette le respect de la vie privée. On cherche donc à transmettre une propriété du développement -le respect de la vie privée- au produit fini de ce développement, même si vous avez bien raison de dire qu'une telle transmission n'est pas une évidence. J'ai préféré faire l'accord avec le "développement" dans le titre pour souligner que la charte s'adresse avant tout à ceux et celles qui font du développement.
Il n'est pas du tout interdit que les réflexions initiées par cette charte dédiée au ML arrivent à des conclusions portant sur le développement en général : ce sont des choses qui arrivent bien souvent en recherche. Mais cette charte est bien centrée sur des problèmes spécifiques au ML, comme la rétro-ingénierie des données.
Il est vrai que la charte s'adresse avant tout aux spécialistes du domaine. En revanche, je ne pense pas que s'embarquer dans les sempiternelles querelles sur la définition de l'IA et son rapport à l'intelligence nous aidera à l'ouvrir à un plus vaste public. Quand à la définition de la vie privée, c'est une question immense, sur laquelle je travaille activement, mais elle suppose la mobilisation de connaissances sociohistoriques très vastes, qui auraient noyé le poisson plus qu'autre chose ici.
Bien à vous,
Maël Pégny
[^] # Re: J'ai pas lu le projet de Charte
Posté par maelpegny . En réponse à la dépêche Développement des IAs respectueux de la vie privée : une charte récente. Évalué à 0.
Bonjour,
Bien sûr que la vie privée n'est pas le seul problème pertinent en éthique de l'IA ! Ce que nous essayons plutôt de montrer, c'est que c'est déjà un problème assez massif en lui-même.
Il me faut bien préciser qu'il ne s'agit aucunement de proposer un indicateur (inexistant dans la charte), ou de collecter des signatures de soutien de la part d'institutions. Il est en effet par trop facile de signer une charte sans valeur contraignante et de faire tout l'inverse de ce qu'elle défend, ou de prétendre avoir résolu tous les problèmes éthiques en ne satisfaisant qu'une définition très étroite des enjeux.
L'objectif de la charte n'est pas d'obtenir des réactions institutionnelles mais de lancer une conversation parmi les praticiennes et praticiens du ML. Une fois cette conversation bien mûrie, on pourra passer éventuellement à des objectifs institutionnels.
Bien à vous,
Maël Pégny
[^] # Re: À qui s'adresse cette charte ?
Posté par maelpegny . En réponse à la dépêche Développement des IAs respectueux de la vie privée : une charte récente. Évalué à 0.
Bonjour,
La charte s'adresse avant tout aux praticiens du ML, soit à des scientifiques et des développeuses et développeurs du domaine. Peuvent être aussi incluses toutes les personnes capables de suivre une conversation substantielle sur ces sujets, comme le peuvent par exemple certaines juristes.
Il est tout à fait juste que ça rend le document assez technique. Notre problème est qu'avant de réussir à exprimer des résultats clairs et simples aux non-praticiens, il faudrait encore que les praticiens et praticiennes comprennent ce qu'ils veulent et ce qu'ils peuvent faire, et nous en sommes encore loin.
Le principe 1 s'adresse uniquement aux scientifiques car le droit les exempte de déclarer la finalité du traitement et de réduire la collecte de donnée à ce qui est strictement nécessaire à cette finalité pré-déclarée. Ce principe-là est donc réduit à ce public particulier, mais ce n'est pas le cas de toute la charte.
"L'apparition du pouvoir prédictif trop fin" est un concept majeur de la charte qui est expliqué plus tard dans le document : il ne peut en effet être compris à la première lecture, puisque ce phénomène n'a pas de nom scientifique standard. Il s'agit des cas où un modèle est capable de prédire des données à grain très fin, y compris des données personnelles, alors même que ce n'est pas nécessaire pour satisfaire sa spécification. Par exemple, un logiciel de complétion ne devrait pas compléter "mon numéro de carte de crédit est" par le numéro de carte de l'utilisateur, car il est là pour aider à la rédaction, pas pour compléter des demandes d'informations personnelles. Mais certains le font dans les faits, et cela pose un problème de sécurité et de respect de la vie privée.
Il faudrait en effet une autre version du document avec une explication brève principe par principe, exactement comme vous le dites. Nous songeons à faire une telle présentation en ce moment et à la faire publier.
Bien à vous,
Maël Pégny