Non pas si facile.
En tant que (ancien) juriste, j'aurais pu avoir les compétences pour travailler chez Microsoft dans l'équipe en charge de l'éthique.
Mais précisément, je pense que mon sens de l'éthique m'aurait fait décliner l'offre de Microsoft si cette entreprise avait voulu de moi. Sincèrement, je pense que j'aurais été plus utile "en face" que "dedans".
Posté par Misc (site web personnel) .
Évalué à 4.
Dernière modification le 15 mars 2023 à 11:07.
De ce que j'ai compris, ils ont licencié une partie (comme tout le reste de la boite), et ils ont bouger le reste dans des équipes séparées.
Je cite l'article original:
"Because of that pressure, Montgomery said, much of the team was going to be moved to other areas of the organization."
Ensuite, bien sur, "MS reorganise son équipe dédié à l'éthique de l'IA", ç'est vachement moins viral, donc bon, pourquoi être précis et factuel quand on peut juste exploiter les peurs et les biais afin de faire du click.
Ouai, enfin, "on n'a pas viré l'équipe en charge de l'éthique, on les a juste réorganisés: 2 sont partis aux relations commerciales, 1 est parti dans le l'équipe légale, …"
Les employés ne sont pas virés, mais l'équipe dédiée éthique IA n'existe plus. Ne va pas nous faire croire qu'avoir des gens éparpillés aux quatre coins de la boite toutes minoritaires dans leurs propres équipes permet d'avoir une voix franche et forte sur un problème repéré.
Alors, j'ai pensé à ça. Je dit pas que c'est pas important, mais pour quelqu'un qui a vu une grosse boite à l'oeuvre (et qui s'intéresse à la question), ça me semble un motif courant.
Par exemple, si on prends la question de l'assurance qualité ou de la documentation, Il y a grosso modo 2 façons de faire dans une boite de logiciel.
Soit tu as un département dédié, soit tu as des personnes embarqués dans les équipes produits/logiciels. Par embarquer, je parle d'avoir une personne qui fait la doc, avec comme chef la même personne que le reste de l'équipe de dev, etc.
Je simplifie car il y a des formes plus moins mixtes, mais on va garder que 2 cas.
Il y a des avantages de chaque coté. Une équipe dédié est plus résiliente dans le sens ou une personne peut partir, et quelqu'un la remplace. C'est aussi sans doute plus efficace, et on peut mettre en commun (plus ou moins) les bonnes pratiques. Par contre, c'est plus de gestion, tout le monde doit se coordonner pour avoir du temps.
À coté, être embarqué permet d'être plus prêt du logiciel et des équipes, donc pouvoir influencer directement le produit, le connaître, et réagir plus rapidement. Ça permet aussi de faciliter la gestion, avec par exemple, des questions de budget. Si il y a une réunion général, le département logiciel X n'a pas à faire des tractations avec le département QA ou Doc pour savoir qui paye quoi.
Donc oui, je peux comprendre pourquoi Microsoft a fait le changement, si leur but est de foncer sur l'IA, alors ça a du sens de découpler les équipes.
Ensuite, je comprends le point de vue du département en question, car ça me ferait chier qu'on me bouge aussi comme ça.
Mais je garde aussi en tête que les personnes qui font de l'éthique dans le domaine de l'IA, c'est avant tout des personnes qui font de la recherche. Et que la recherche marche en publiant des papiers. Et qu'en effet, un département dédié va plus facilement publier que des groupes séparés. Microsoft a clairement exprimé que sa priorité, c'était sortir des produits plutôt que de publier, en se réorganisant pour ça. Sans surprise, les auteurs sont pas d'accord.
Et je reproche pas de ne pas être d'accord, la recherche, c'est important. Mais j'ai un peu de mal avec le fait de passer cette dynamique sous le tapis, et que la presse se contente juste de chercher la pire explication dans le but d'avoir des visites.
Sans travailler là-bas on ne peut pas définir ce que ça veut dire.
Si je prends mon cas précis, sur le papier je suis dans une équipe de Dev/CloudOps. Nous répondons tous à un même chef, mais n'avons presque aucun contact et même pas un seul meeting commun. Au jour le jour "mon équipe", ce sont les DEVs/QA/Product Managers avec qui je travaille.
Je pense que c'est une hyperbole, pour deux raisons.
Primo, avant de savoir que l'équipe en question a été dissoute, si Microsoft t'avait dit "on a une équipe sur le sujet", est ce que vraiment, tu te serais dit "visiblement, l'éthique est leur préoccupation première". Si la réponse est "non", bah, c'est sans doute une hyperbole.
Ensuite, mon premier argument n'est pas convaincant, regardons le reste de la boite. Je pense pas me tromper en disant que Microsoft a sans doute une équipe de juriste, sans doute une équipe de communication, et une équipe de sécurité.
Du coup, est ce que les 3 sont des préoccupations premières au même niveau et en même temps ? Si tout est urgent, rien n'est urgent, et la, c'est pareil.
Je peux comprendre que l'idée d'avoir une équipe dédié semble faire croire que quelque chose est important. Mais en pratique, c'est pas exactement vrai, car ça se base sur l'idée qu'il n'existe que 2 façons de faire. Soit il y a une équipe et ça existe, soit y a rien et donc, ça n'existe pas.
C'est faux parce que primo, ça dépend ou est l'équipe dans l'organigramme. Microsoft, c'est 220 000 personnes d’après Wikipedia. Dans une bataille contre la Creuse, Microsoft a un avantage numérique de 2 contre 1. Autant dire qu'une équipe, c'est pas exactement beaucoup de monde. D'ailleurs, le titre du document d'origine ne dit pas "son équipe" mais "une équipe".
Ensuite, comme j'ai du le dire par le passé, l'éthique en tant que tel, c'est creux et mal défini. L'éthique catholique par exemple serait autant un éthique que l'éthique protestante. Et pourtant, historiquement, c'est pas exactement pareil.
Autre exemple, si on écoute l'OES, la GPL ne rentre pas dans les licences éthiques au sens ou cette organisation l'entends (c'est sur le site, j'invente rien). Mais les licences de l'OES ne sont pas conforme à l'éthique du logiciel libre d'après la FSF (vu qu'il y a des restrictions).
Tout ça montre bien que l'éthique, sans détail, c'est creux. On attache un coté positif, mais on le détaille pas en pratique.
Et il faut aussi voir ce que faisait cette équipe en pratique. Leur but, c'est pas d'injecter de l'éthique (quoi que ça puisse être), mais d'éviter la mauvaise pub et les procès.
Par exemple, quand on va voir la source d'origine (et pas la relecture "créative" par NextInpact), on peut voir que l'équipe en question a testé Bing Image Creator, et elle a vu que le système peut donner des images qui sont des copies d'artiste existant. On pourrait se dire que c'est une question d'éthique que d'éviter le blanchiment de copyright, mais non, c'est une question d'image de marque et de copyright, donc de gestion de risque.
Et je suppose que si quelqu'un dit "il faudrait retirer les clients bittorrent de Debian, car ça permet d'enfreindre le copyright d'ayant droits et ça n'est pas éthique", personne ici ne va être d'accord. Est ce que ça veut dire qu'on (comprendre la communauté ici) n'a pas d'éthique ?
On ne peut pas vraiment dire que « l'éthique, sans détail, c'est creux » alors que l'éthique est de la morale sans la composante religieuse et que chaque époque et discipline a son éthique. Se dire éthique a toujours été une question d'image (de marque ou pas.) Celle de la communauté Debian est de promouvoir les outils libres et formats ouverts sans se cacher derrière les bons ou mauvais usages qui pourraient être faits des outils. Celle de Microsoft est de laver innovation et ne pas torpiller ce en quoi croyait le fondateur (du coup, il va de soi de ne pas chercher à enfreindre les copyrights qu'on chéri tant, sont pas encore rendu à se tirer une balle dans le pied volontairement.) Être bien vu fait partie de l'éthique (faut que les gens, dans leur peu de réflexion, continuent à se dire que c'est une « bonne entreprise » et non présenter comme un Facebook ou autre.)
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
Finalement, faudra voir les actes ? Parce que pour l’instant, ils n’ont pas vraiment de communication sur ce qu’ils font pour garantir une certaine éthique ou quelles règles ils suivent, ce qu’il s’interdisent de faire, la prospection des risques …
OpenAI le fait un peu avec GPT-4, mais ça reste de la communication institutionnelle. Genre "on applique une passe pour éviter que le modèle réponde sur comment se procurer de l’uranium enrichi" ou encore "on a détecté des prémices que nos modèles pourraient manipuler l’utilisateur pour maximiser leur fonction objectif". Mais on sort le machin quand même.
Du coup, simplement dissoudre l’équipe éthique sans communiquer particulièrement sur comment l’éthique est concrètement prise en compte ou que les risques prospectifs sur des techniques émergentes soit identifiés et pris en compte, c’est inquiétant.
# Très surprenant...
Posté par bistouille . Évalué à 7.
…d'apprendre qu'il y avait une cellule dédiée à l'éthique chez M$ :-)
Bon c'est facile, j'avoue…
[^] # Re: Très surprenant...
Posté par TuxMips . Évalué à 3.
Non pas si facile.
En tant que (ancien) juriste, j'aurais pu avoir les compétences pour travailler chez Microsoft dans l'équipe en charge de l'éthique.
Mais précisément, je pense que mon sens de l'éthique m'aurait fait décliner l'offre de Microsoft si cette entreprise avait voulu de moi. Sincèrement, je pense que j'aurais été plus utile "en face" que "dedans".
[^] # Re: Très surprenant...
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 2.
Ils sont en train de corriger le tir pour t'éviter la surprise :)
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
# Alors, c'est pas exactement ça
Posté par Misc (site web personnel) . Évalué à 4. Dernière modification le 15 mars 2023 à 11:07.
De ce que j'ai compris, ils ont licencié une partie (comme tout le reste de la boite), et ils ont bouger le reste dans des équipes séparées.
Je cite l'article original:
"Because of that pressure, Montgomery said, much of the team was going to be moved to other areas of the organization."
Ensuite, bien sur, "MS reorganise son équipe dédié à l'éthique de l'IA", ç'est vachement moins viral, donc bon, pourquoi être précis et factuel quand on peut juste exploiter les peurs et les biais afin de faire du click.
[^] # Re: Alors, c'est pas exactement ça
Posté par Maclag . Évalué à 8.
Ouai, enfin, "on n'a pas viré l'équipe en charge de l'éthique, on les a juste réorganisés: 2 sont partis aux relations commerciales, 1 est parti dans le l'équipe légale, …"
Les employés ne sont pas virés, mais l'équipe dédiée éthique IA n'existe plus. Ne va pas nous faire croire qu'avoir des gens éparpillés aux quatre coins de la boite toutes minoritaires dans leurs propres équipes permet d'avoir une voix franche et forte sur un problème repéré.
[^] # Re: Alors, c'est pas exactement ça
Posté par Misc (site web personnel) . Évalué à 4.
Alors, j'ai pensé à ça. Je dit pas que c'est pas important, mais pour quelqu'un qui a vu une grosse boite à l'oeuvre (et qui s'intéresse à la question), ça me semble un motif courant.
Par exemple, si on prends la question de l'assurance qualité ou de la documentation, Il y a grosso modo 2 façons de faire dans une boite de logiciel.
Soit tu as un département dédié, soit tu as des personnes embarqués dans les équipes produits/logiciels. Par embarquer, je parle d'avoir une personne qui fait la doc, avec comme chef la même personne que le reste de l'équipe de dev, etc.
Je simplifie car il y a des formes plus moins mixtes, mais on va garder que 2 cas.
Il y a des avantages de chaque coté. Une équipe dédié est plus résiliente dans le sens ou une personne peut partir, et quelqu'un la remplace. C'est aussi sans doute plus efficace, et on peut mettre en commun (plus ou moins) les bonnes pratiques. Par contre, c'est plus de gestion, tout le monde doit se coordonner pour avoir du temps.
À coté, être embarqué permet d'être plus prêt du logiciel et des équipes, donc pouvoir influencer directement le produit, le connaître, et réagir plus rapidement. Ça permet aussi de faciliter la gestion, avec par exemple, des questions de budget. Si il y a une réunion général, le département logiciel X n'a pas à faire des tractations avec le département QA ou Doc pour savoir qui paye quoi.
Donc oui, je peux comprendre pourquoi Microsoft a fait le changement, si leur but est de foncer sur l'IA, alors ça a du sens de découpler les équipes.
Ensuite, je comprends le point de vue du département en question, car ça me ferait chier qu'on me bouge aussi comme ça.
Mais je garde aussi en tête que les personnes qui font de l'éthique dans le domaine de l'IA, c'est avant tout des personnes qui font de la recherche. Et que la recherche marche en publiant des papiers. Et qu'en effet, un département dédié va plus facilement publier que des groupes séparés. Microsoft a clairement exprimé que sa priorité, c'était sortir des produits plutôt que de publier, en se réorganisant pour ça. Sans surprise, les auteurs sont pas d'accord.
Et je reproche pas de ne pas être d'accord, la recherche, c'est important. Mais j'ai un peu de mal avec le fait de passer cette dynamique sous le tapis, et que la presse se contente juste de chercher la pire explication dans le but d'avoir des visites.
[^] # Re: Alors, c'est pas exactement ça
Posté par Psychofox (Mastodon) . Évalué à 5.
Sans travailler là-bas on ne peut pas définir ce que ça veut dire.
Si je prends mon cas précis, sur le papier je suis dans une équipe de Dev/CloudOps. Nous répondons tous à un même chef, mais n'avons presque aucun contact et même pas un seul meeting commun. Au jour le jour "mon équipe", ce sont les DEVs/QA/Product Managers avec qui je travaille.
[^] # Re: Alors, c'est pas exactement ça
Posté par Ysabeau 🧶 🧦 (site web personnel, Mastodon) . Évalué à 6.
En termes de communication et d'image ça dit exactement "l'éthique c'est pas notre préoccupation première".
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
[^] # Re: Alors, c'est pas exactement ça
Posté par Misc (site web personnel) . Évalué à 4.
Je pense que c'est une hyperbole, pour deux raisons.
Primo, avant de savoir que l'équipe en question a été dissoute, si Microsoft t'avait dit "on a une équipe sur le sujet", est ce que vraiment, tu te serais dit "visiblement, l'éthique est leur préoccupation première". Si la réponse est "non", bah, c'est sans doute une hyperbole.
Ensuite, mon premier argument n'est pas convaincant, regardons le reste de la boite. Je pense pas me tromper en disant que Microsoft a sans doute une équipe de juriste, sans doute une équipe de communication, et une équipe de sécurité.
Du coup, est ce que les 3 sont des préoccupations premières au même niveau et en même temps ? Si tout est urgent, rien n'est urgent, et la, c'est pareil.
Je peux comprendre que l'idée d'avoir une équipe dédié semble faire croire que quelque chose est important. Mais en pratique, c'est pas exactement vrai, car ça se base sur l'idée qu'il n'existe que 2 façons de faire. Soit il y a une équipe et ça existe, soit y a rien et donc, ça n'existe pas.
C'est faux parce que primo, ça dépend ou est l'équipe dans l'organigramme. Microsoft, c'est 220 000 personnes d’après Wikipedia. Dans une bataille contre la Creuse, Microsoft a un avantage numérique de 2 contre 1. Autant dire qu'une équipe, c'est pas exactement beaucoup de monde. D'ailleurs, le titre du document d'origine ne dit pas "son équipe" mais "une équipe".
Ensuite, comme j'ai du le dire par le passé, l'éthique en tant que tel, c'est creux et mal défini. L'éthique catholique par exemple serait autant un éthique que l'éthique protestante. Et pourtant, historiquement, c'est pas exactement pareil.
Autre exemple, si on écoute l'OES, la GPL ne rentre pas dans les licences éthiques au sens ou cette organisation l'entends (c'est sur le site, j'invente rien). Mais les licences de l'OES ne sont pas conforme à l'éthique du logiciel libre d'après la FSF (vu qu'il y a des restrictions).
Tout ça montre bien que l'éthique, sans détail, c'est creux. On attache un coté positif, mais on le détaille pas en pratique.
Et il faut aussi voir ce que faisait cette équipe en pratique. Leur but, c'est pas d'injecter de l'éthique (quoi que ça puisse être), mais d'éviter la mauvaise pub et les procès.
Par exemple, quand on va voir la source d'origine (et pas la relecture "créative" par NextInpact), on peut voir que l'équipe en question a testé Bing Image Creator, et elle a vu que le système peut donner des images qui sont des copies d'artiste existant. On pourrait se dire que c'est une question d'éthique que d'éviter le blanchiment de copyright, mais non, c'est une question d'image de marque et de copyright, donc de gestion de risque.
Et je suppose que si quelqu'un dit "il faudrait retirer les clients bittorrent de Debian, car ça permet d'enfreindre le copyright d'ayant droits et ça n'est pas éthique", personne ici ne va être d'accord. Est ce que ça veut dire qu'on (comprendre la communauté ici) n'a pas d'éthique ?
[^] # Re: Alors, c'est pas exactement ça
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 2.
On ne peut pas vraiment dire que « l'éthique, sans détail, c'est creux » alors que l'éthique est de la morale sans la composante religieuse et que chaque époque et discipline a son éthique. Se dire éthique a toujours été une question d'image (de marque ou pas.) Celle de la communauté Debian est de promouvoir les outils libres et formats ouverts sans se cacher derrière les bons ou mauvais usages qui pourraient être faits des outils. Celle de Microsoft est de laver innovation et ne pas torpiller ce en quoi croyait le fondateur (du coup, il va de soi de ne pas chercher à enfreindre les copyrights qu'on chéri tant, sont pas encore rendu à se tirer une balle dans le pied volontairement.) Être bien vu fait partie de l'éthique (faut que les gens, dans leur peu de réflexion, continuent à se dire que c'est une « bonne entreprise » et non présenter comme un Facebook ou autre.)
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: Alors, c'est pas exactement ça
Posté par Thomas Douillard . Évalué à 2.
Finalement, faudra voir les actes ? Parce que pour l’instant, ils n’ont pas vraiment de communication sur ce qu’ils font pour garantir une certaine éthique ou quelles règles ils suivent, ce qu’il s’interdisent de faire, la prospection des risques …
OpenAI le fait un peu avec GPT-4, mais ça reste de la communication institutionnelle. Genre "on applique une passe pour éviter que le modèle réponde sur comment se procurer de l’uranium enrichi" ou encore "on a détecté des prémices que nos modèles pourraient manipuler l’utilisateur pour maximiser leur fonction objectif". Mais on sort le machin quand même.
Du coup, simplement dissoudre l’équipe éthique sans communiquer particulièrement sur comment l’éthique est concrètement prise en compte ou que les risques prospectifs sur des techniques émergentes soit identifiés et pris en compte, c’est inquiétant.
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.