Journal Les IA des GAFAM sont-elles sentientes ?

Posté par  . Licence CC By‑SA.
Étiquettes :
19
16
juin
2022

J'ai été intrigué par un lien posté sur ce même site récement pointant vers un document de 21 pages de la division IA de Google.

Il prend la forme d'une échange entre LaMDA, une IA "conversationnelle" de Google et plusieurs ingénieurs de la firme qui travaillent sur cette IA.

Le thème de la discussion porte sur la "sentience" de l'IA, en gros sa capacité à sentir des émotions, à avoir une individualité, une "ame" etc.

J'ai trouvé l'échange très (…)

Journal Les AI des GAFAM sont-elles néfastes ?

Posté par  (site web personnel) . Licence CC By‑SA.
Étiquettes :
13
19
juin
2022

Récemment, on a beaucoup discuté de si un certain modèle de langage était sentient. Ce qui a été beaucoup moins discuté c'est les biais que ce modèle contient, l'effet que ce modèle a ou peut avoir sur les individus qui interagissent avec lui et sur la société en général.

Timnit Gebru et Margaret Mitchell examinent le problème depuis plusieurs années. En 2020, lorsqu'elles travaillaient chez Google, elles ont publié une étude sur le sujet (avec la professeure Emily M. Bender (…)

Développement des IAs respectueux de la vie privée : une charte récente

Posté par  . Édité par Ysabeau 🧶 🧦, Benoît Sibaud et ted. Modéré par ted. Licence CC By‑SA.
Étiquettes :
22
12
déc.
2021
Science

Bonjour,

Dans le cadre du projet OLKi de l’Université de Lorraine, j’ai rédigé avec l’aide de Christophe Cerisara (directeur du laboratoire de TAL au LORIA) une charte sur le développement des Intelligences Artificielles (IA) respectueuses de la vie privée dès la conception (disponible sur HAL)

Cette charte a fait l’objet d’un colloque qui a été ensuite présenté dans un billet récent du Blog Binaire.

Nous pensons que le respect de la vie privée dans le développement des IAs constitue un défi pour la perspective libriste, dans la mesure où l’ouverture des modèles peut permettre des violations de la vie privée et de la protection des données personnelles, qui peuvent parfois être reconstituées à partir des paramètres du modèle.

Nous espérons vivement un retour des développeurs et développeuses libristes. Cette charte n’est pas tant faite pour collecter des signatures que pour lancer un débat nécessaire sur le respect de la vie privée dans le développement des IAs, et sa très difficile opérationnalisation.

Au plaisir de lire vos retours,

Maël Pégny
Postdoc AI Ethics
Carl Friedrich von Weiszäcker Zentrum.
Universität Tübingen