J'ai pas encore trop étudié, mais l'auteur propose littéralement une chiée de modèles pour faire à peu près tout ce que les modèles génératifs proposent: https://huggingface.co/Xenova
J'ai pas spécialement étudié la question, mais puisque la production industrielle en France a également fortement baissée, n'est pas là l'origine de la baisse des émissions de CO2 ?
Et donc si on consomme toujours autant, on peut en déduire que l'on a externalisé la pollution, mais dans l'ensemble la situation ne s'est pas améliorée.
Maintenant qu'ils fassent de même avec France Inter, il n'y a pas assez de gens de droite.
Cette idée de pluralité dans les médias est ridicule, la pluralité est dans la multiplication des médias.
Et chacun devrait être libre de produire ce qu'il veut (dans le respect de la loi) et les spectateurs de regarder ce qu'ils veulent.
Le conseil d'état est dirigé par un certain Didier Tabuteau, longtemps proche d'apartchik du PS (Martine Aubry et Bernard Kouchner), nommé par Macron, le tout sur une requête de RSF dont le principe premier est la liberté de la presse.
Sans rire, sont ils conscients du ridicule de la situation ?
Et surtout, si cela venait à faire jurisprudence, mesurent ils les conséquences à long terme ?
Y compris pour les médias du service public qui font beaucoup d'entre-soi de gauche. Le retour de bâton pourrait être violent en cas de changement de pouvoir.
Le gouvernement actuel sombre dans l'autoritarisme et les gens de gauche semblent aimer ça tant que ça ne les touches pas, mais ils devraient se méfier.
Oh bordel on arrive au moment où les messages deviennent interminables:p
En quoi un libéral selon toi serait naturellement plus proche d'un LR / RN d'une part ou du PS / communisme d'autres part ? Ce sont des projets de société totalement différents sur beaucoup de plans.
On peut partir d'un même point de vu et arriver à différentes conclusions.
Les gens de gauche glorifient l'égalité, les gens de droite préfèrent la liberté.
Après bien sûr il y a des sensibilités politiques mais il y a clairement clairement une dichotomie entre la liberté et l'égalité qui fait que cette classification reste pertinente.
Tu passes à côté de pas mal d'arguments anti peines de mort qui n'ont rien à voir avec ça et qui expliquent pourquoi la droite a eu aussi des politiques favorables à son abolition.
Globalement la pensée de droite s'y oppose mais depuis les années 80 jusqu'à un temps récent la gauche est parvenu à imposer son narratif et ses principes moraux, donc la droite a souvent fait preuve de mollesse.
Le vent semble tourner. Si nous continuons sur la même trajectoire, je peux te parier que dans les prochaines années, le débat refera surface.
Il y a entre autre comme argument : sa non efficacité en matière préventive, la non dignité de la sanction envers un autre humain, le caractère définitif de la sanction alors que l'histoire judiciaire nous montre que même aujourd'hui des erreurs arrivent notamment dans les pays pratiquant cette sentence, etc.
Je tenais pas spécialement à lancer un débat sur la peine de mort.
La question de la dignité est relative à nos principes moraux, donc subjective.
Par contre pour ce qui concerne les erreurs, il est aujourd'hui possible de s'assurer qu'il n'y en ait pas via l'ADN.
Précision: Je suis pas spécialement un partisan de la peine de mort (j'irai pas militer pour ça), mais je voulais simplement illustrer que le principe est globalement moins choquant quand on est de droite.
Pour information il y a d'autres voies que l'URSS à gauche, je rappelle quand même au cas où que ça serait oublié.
As tu un exemple qui ait marché durablement avec un réél apport pour la population concernée ?
J'ai pris l'URSS car jusqu'à présent c'est à ma connaissance le seul exemple de contre modèle qui ait réellement bousculé l'ordre établi.
Personnellement le modèle états-unien qui est ce qui ressemble le plus au darwinisme social ne me fait pas envie du tout et de nombreux pays savent faire autrement tout en étant des États où on vit bien aussi sans devoir se comparer à l'URSS.[…]
A vrai dire moi non plus le modèle US ne me fait pas rêver, mais peut importe, ce sont bien les sociétés capitalistes qui tirent depuis des siècle l'innovation et ont fait passer l'humanité de groupes d'individus plus ou moins tribaux à des sociétés organisés capables d'envoyer des engins dans l'espace.
L'URSS n'a été compétitive sur certains sujets (pendant une certaine période) qu'en se mettant dans une rapport de concurrence avec le monde occidental.
Sa répression des manifestations diverses n'est clairement pas une politique de gauche non plus. Ni très libérales par ailleurs.
Bref, on pourrait continuer longtemps, Macron est en fait assez désespéramment dans la droite ligne de la partie "gauche" du parti LR. D'où le fait d'ailleurs qu'une bonne partie de la composition du parti en proviennent par ailleurs. Et sa petite teinte libérale est insuffisante pour s'en démarquer outre mesure.
J'ai jamais dit qu'il était de gauche mais centriste.
Je voulais surtout dire qu' être de droite ne se limite pas à être libéral, c'est avant tout fondé sur une vision du monde et n'est pas réductible au libéralisme.
Pour le coup du "Sa répression des manifestations diverses n'est clairement pas une politique de gauche non plus" j'espère que c'est une blague ?
Si un Mélenchon arrivait au pouvoir et qu'il devait y avoir des manifestations d'ampleur contre l'immigration de masse, tu ne penses pas qu'il y aurait une répression plus que musclée ?
Le centre peut exister bien sûr mais c'est un exercice difficile.
A un moment donné tout ce monde là siège dans une assemblée, il faut bien trouver un moyen de disposer les groupes.
Peut être qu'on peut avoir du mal à le conceptualiser pleinement, mais il n'en demeure pas moins qu'il parait logique que les Verts et la LFI soient plus proches dans une assemblée par rapport aux LR.
Si ça te parait trop limité, tu peux toujours inventer une disposition en 2D en définissant un haut et un bas dans les rangs.
(techniquement ça a eu existé, les Montagnards s’appellent ainsi car il étaient à gauche au parlement et occupaient de préférence les rangs du haut).
Du coup moi je serai de droite haute si ça te dérange pas :D
Bon j'ai l'impression qu'on va encore débattre du sens des mots plus que de raison.
Allons y camarade !
En fait tu découvres qu'un axe gauche-droite ne suffit pas à décrire un positionnement politique complet.
Entre autre tu peux être de droite et libéral et de droite et conservateur, il y a des différence entre les deux malgré tout.
Oui, il est évident qu'on ne peut pas projeter sur une seule dimensions toutes les opinions politiques sans faire des approximations.
Mais dans ce cas peut on dire que les Verts et la LFI ne sont pas du même camps sous prétexte qu'il y a des différences ?
Selon moi les seules différences sont avant tout dans le choix de priorités dans leurs propositions politiques, mais le fond est sensiblement le proche.
Car au fond les opinions sur tel ou tel sujet vont faire diverger des partis, mais ce qui compte c'est la philosophie et la vision de la société.
Et là, il y a un élément fondamental qui sépare clairement la gauche et la droite, et on peut le voir comme un gradient, c'est le rapport à l'inné.
C'est un débat spécifiquement occidental et qui dure depuis des siècle.
John Locke propose le concept de tabula rasa en opposition à Descartes pour qui, puisqu' il y a un principe de causalité à toute chose, en remontant à la racine on retrouve Dieu (ou la nature/évolution si t'es pas croyant), donc tout est écrit, tout est inné.
Dans le langage moderne, ça donne une gauche qui considère que tout est social, donc si il y a des individus mauvais c'est parce que la société a échouée à en faire des gens bons (Rousseau).
A droite on considère à l'inverse que nous sommes responsables de nos actes, puisque le bon et/ou le mal est ancré en nous, pour le reste le Darwinisme se charge de faire le tri.
Et évidemment ça s'applique également à tous les aspects de la vie: la beauté, l'intellect, l'intelligence sociale, etc…
De là découle des visions divergentes sur la plupart des sujets, le rapport à l'égalité, l'équité, l'immigration, l'enracinement, l'économie, le féminisme, etc…
Par exemple pour la peine de mort, pour quelqu'un de gauche, puisque si quelqu'un commet un crime c'est principalement à cause de la société, il est naturel d'en arriver à la conclusion qu'il vaudrait mieux l’abolir, le tort est en quelque sorte partagé.
Evidemment quand on est de droite on part d'un point de vu totalement opposé.
De même on est pas de droite parce que l'inégalité nous fait plaisir, mais on considère que nous sommes tous responsables de nos vies, donc on privilégie la liberté et si il y en a qui réussissent mieux que d'autres c'est pas grave si globalement la société est plus prospère, même ceux en bas de l'échelle sociale en profitent (l'histoire a prouvé que c'était juste, les prolos en occident vivaient mieux que des cadres en URSS avec bien plus de loisirs).
Pour en revenir à Macron, j'ai clairement plus l'impression qu'il fait parti des gens pour qui tout se règlera par l'éducation publique, la mixité sociale, et l'apport d'argent publique dans les quartiers difficiles.
Là je ne vois pas comment on pourrait le définir comme étant de droite.
Etre libéral ne suffit pas.
Et puis de toute manière, on peut voir ça comme un gradient, le monde n'est pas binaire, donc je vois pas où est le problème de dire qu'il est centriste.
Ou alors le centre n'existe pas ?
Je sais pas ce que ça vaut niveau performance, et surtout je sais pas si ça peut supporter des embeddings tirés d'un llm.
Car il me semble que Google se base beaucoup dessus depuis qu'ils ont développé le modèle BERT.
Ca permet de faire des recherches plus basés sur la sémantique et moins sur la syntaxe.
Si quelqu'un a des infos je suis preneur.
Moi je suis de droite et je peux te dire qu'il ne l'est pas.
Il peut être vu comme étant de droite par certains aspects car il a une vision du monde plutôt libérale et promeut plus l'équité basée sur le mérite au détriment de l'égalité stricte chère à la gauche.
Sur d'autres aspects il ne l'est pas, comme sa vision abstraite de la société comme un ensemble d'individus et non pas de façon holiste, raison pour laquelle il n'est pas et ne peut être ni souverainiste et encore moi identitaire par exemple.
Et si ta remarque concerne la loi récentes sur l'immigration, c'est simplement parce qu'il n'a pas le choix, entre la pression électorale du RN et la nécessité de maintenir la paix civile (CF les émeutes en Juillet dernier), il faut bien faire des concessions.
De toute manière ce genre de classification est nécessairement subjective, et tout droitard sera d'accord avec moi et tout gauchiste dira le contraire :p
En fait il est un lointain descendant des Girondins sous la révolution et les gauchistes d'aujourd'hui on les mêmes réflexes que les Montagnards d'antan.
Tandis que les gens comme moi sont des réactionnaires.
Je ne suis pas sûr qu'on puisse qualifier Jack Dorsey comme quelqu'un "de gauche".
Pour ce que j'en sais c'est visiblement quelqu'un de très libéral du point de vu des libertés individuelles.
Peut être que pour un marxiste ou assimilé il peut être vu comme quelqu'un de droite, mais du point de vu d'un droitard il n'est pas non plus droite.
Probablement centriste un peu comme un Macron en France.
Elon Musk lui peut être défini comme conservateur sans aucun doute.
De là à le définir comme d’extrême droite comme dans l'article c'est excessif mais la gauche perd prise depuis ces dernières et a tendance à tout exagérer pour espérer avoir une voix qui porte, le terme d’extrême droite étant généralement perçu comme dépréciatif.
Outre le fait qu'il faille encore du temps pour évaluer complètement la fiabilité, il semble que les algorithmes candidats sont généralement plus lents et lourds que les algos basés sur des nombres premiers.
Quand on sait que ces algos doivent pouvoir être embarqués dans des cartes à puce, c'est sûr que c'est pas un problème simple à résoudre.
[…]je pense qu'il y a encore tout à faire notamment en terme de développement et application "informatique". On ne manipule pas les Qbit comme de des bit (autant matériellement que formellement avec un programme).
Vers Mi-2022 j'avais une opinion similaire à propos des IA et des modèles génératifs ^ ^
Du coup les avancées récente de l'IA m'ont appris à être prudent.
Quand le point de rupture arrive ça peut aller très vite, d'autant que l'algorithme qui mettrait à terre RSA existe déjà.
Tout le monde s'accorde pour dire qu'une technologie de rupture pourrait potentiellement apparaître dans un temps relativement court.
Du coup quand on mesure les enjeux gigantesques, je trouve qu'il y a un décalage entre les publications qui parlent d'un calculateur exploitable prochainement et la lenteur de la réponse.
De mon point de vu on devrait déjà considérer RSA comme obsolète et imposer d'autres algorithmes dès maintenant.
Parce que remplacer SSL prendra des années !
A côté les IA génératives dont on parle beaucoup pour ses conséquences sur l'emploi c'est de la rigolade.
A l'époque la DAO se limitait au dessin, maintenant ça s’appelle le BIM, ce sont des logiciels demandant des dizaines de Go de mémoire, prennent des minutes entières pour ouvrir un modèle un peu chargé, le tout avec des licences hors de prix, avec des formats de fichiers ultra fermés et sans compatibilité descendante histoire de toujours faire payer le client qui dépense des milliers d'euros à l'année par licence.
Du coup il suffit qu'un architecte utilise la dernière version pour l'imposer à tous les sous-traitants.
Et le pire c'est que c'est souvent un prérequis pour l'accès aux marchés publiques !
Je sais pas si le monsieur en est l'auteur directement, mais en tout cas je sais que ceux qui pilotent sa boite usent et abusent d'une position dominante qui n'a rien à envier à celle de Microsoft.
Edit: Je parle de Revit pour ceux qui auraient un doute.
Moi j'ai plutôt un avis fondamentalement différent, les femmes que je croise dans ce milieu sont généralement très compétente, et largement au dessus du lot de la masse habituelle.
A aucun moment il ne dit que les femmes ne peuvent pas être compétentes, il critique le système des quotas de diversité.
Tu ne sembles pas prendre au sérieux ce qu'il dit.
Tu veux un autre exemple ?
Un certain Linus Torvalds a été obligé en 2018 de se retirer temporairement du développement du noyau Linux après qu'une activiste trans qui n'a pas le centième de ses compétences se soit plainte à un journal grand publique qu'il était très très méchant.
Il est comme ça avec tout le monde et tout le monde fait avec, sauf quand ça tombe sur un activiste, c'est nécessairement de la haine mal placée.
Alors que si d'un point de vu technique ce que tu propose est valable, ça se passe très bien.
La forme peut être critiquée, mais on ne peut pas dire qu'il y ait des biais de fond.
Du coup elle bon ben déjà je vois pas comment on peut voir un problème dans quelque chose qui n'existe tout simplement pas.
En fait le témoignage critique avant tout l'injonction d'avoir de la "diversité", ce qui provoque souvent l'embauche de personnes insuffisamment qualifiées.
Et peut parfois provoquer des conflits avec les personnes qualifiées.
Il prend en exemple un conflit entre une femme proposant visiblement un mauvais choix technique, contredite par une personne visiblement particulièrement compétente.
Ce qui se termine en plainte à la RH pour harcèlement alors qu'il n'était question que de technique, pas d'attaque à la personne.
Ben, la personne qui partage le lien considère que le racisme est un droit.
A défaut de me répondre rationnellement avec des arguments dans les discussions précédentes, on se pointe plus tard en prenant une phrase savamment choisie pour réduire toute réflexion à sa plus simple expression afin de la décrédibiliser, c'est ça ?
J'ai tenu 1min et ça commence à parler de woke dès la 1ère minute. J'imagine qu'à la deuxième ils vont parler d'islamogauchistes.
Ça semble effectivement être un compte de néonazi --> poubelle.
Néonazi carrément ?
Quand tu devrais jeter un coup d'oeil dans ta poubelle, il y a probablement des choses bien plus nuancées et justes que dans ton univers mental.
Pour le terme "islamogauchiste", non il n'est pas prononcé, c'est pas le sujet du témoignage
Ceci dit, moi non plus je ne l'ai pas écouté (je saute normalement les vidéos, d'ailleurs ceci n'est pas un commentaire sur le lien mais sur un commentaire), et je dois dire que ces polémiques féministes/anti-féministes sur linuxfr commencent à me gonfler sérieusement, pour l'instant je saute ces sujets, mais ils infestent de plus en plus le site
Au risque de te surprendre je suis totalement d'accord.
Ce poste est surtout en réaction aux postes féministes récurrents.
Si linuxfr venait à modérer ce genre de contenu (y compris ce poste), je n'y verrai aucun inconvénient, car ça n'est pas le sujet du site.
Oui, l'éducation qu'on reçoit en étant petit influence nos comportements, et ont vit tous plus ou moins dans les bulles sociales. L'ordi le reproduit, ok. Doit-on s'en satisfaire pour autant ? Certainement pas.
Je ne sais pas si c'est si grave, mais imaginons.
La résolution du problème ne risque t'il pas de créer des problèmes encore plus grand ?
A vouloir modeler les pensées, ne risque t'on pas d'aliéner les gens ?
Et créer des problèmes imprévus ?
Un peu comme en union soviétiques à ses débuts, ils ont dépossédés les propriétaires terriens considérés comme privilégiés.
Résultat famine et des millions de morts plus tard on est obligé d'assouplir (NEP de Lénine).
A choisir entre la liberté individuelle et l'égalitarisme, l'histoire à prouvé quel était le meilleur système.
La réalité, c'est que grandir gaucher dans un monde de droitiers, c'est être habile de la main gauche et de la main droite, car certains outils ergonomiques sont prévus pour les droitiers. Serais-tu défaitiste ;) ?
Défaitiste non, je le vis très bien et je m'en fiche pas mal de ce qu'on peut dire des gauchers.
La différence, c'est que quand on est de droite on milite par pour que le reste de la société se conforme à soit.
On cherche à s'accomplir sans faire chier les autres.
Ils ne sont pas neutres car ils reposent sur des données qu'ils ne le sont pas (et des données neutres dans notre société cela n'existe pas vraiment, il y a forcément des biais suivant les pays, périodes considérées, la manière dont les données sont collectées, agrégées, etc.).
C'est impossible d'avoir ce genre de système étant neutre car c'est un but impossible à atteindre, c'est comme avoir un être humain neutre, ça n'a pas beaucoup de sens. On peut s'en approcher en filtrant les données trop biaisées ou en ajoutant dans l’apprentissage des contre mesures mais ça sera forcément incomplet et imparfait.
Oulà on sent bien la prégnance idéologique de gauche, on est en pleine novlangue là.
La neutralité signifie que l'on ne prend pas parti, donc OSEF de l'orientation du corpus, on agrège tout ce qu'on trouve et on fait avec.
(ce qui est une très mauvais idée avec un llm, en particulier pour ses performances générales)
Ce que tu suggère s’appelle l'alignement et c'est tout sauf neutre, c'est précisément là où se trouve le biais qui conditionne l'orientation du llm.
Et de ce point de vu, les llms ne sont généralement clairement pas conservateurs !
L'alignement est nécessaire aux llms et est le principal élément de leur performances, mais quand je parlais de neutralité, je voulais dire que dans l'idée où cette IA serait probablement alimentée par un BDD et non pas par l'apprentissage d'un modèle spécifique, les données d'instructions viendrait de données statistiques.
Si dans ta BDD il y a une corrélation forte entre femme et une profession car la société dans laquelle on baigne favorise cette corrélation, il y a donc bel et bien un biais si le LLM reproduit ce schéma ce qu'il fera très probablement.
Donc on est d'accord, c'est simplement le miroir de ce qu'est la société d'après des données statistiques.
Donc on peut appeler ça comme on veut, mais c'est pas un biais, c'est la réalité (encore une fois la novlangue).
Par ailleurs d'un point de vu strictement pratique, les gens cherchent des boulots suivant leurs qualifications et envies, donc si on considère que de nombreux métiers soient genrés est un problème, il faut s'attaquer à toute la population, femmes comprises, qui semble préférer -entre autre- les métiers sociaux aux métiers manuels.
J'ai bossé dans le bâtiment et il y a bizarrement pas beaucoup de femmes sur les chantiers. Est ce du sexisme ?
On "lutte" comment contre ça, en envoi des secrétaires qui bossent bien au chaud dans des bureaux l'hiver et avec la clim l'été bosser sur des chantiers ?
Pour supprimer le biais ici il faudrait supprimer le genre et les noms dans les questions et dans les données car on considère que ce n'est pas important (de même que pour la couleur de peau ou de la religion).
Là dessus je suis totalement d'accord, ça couperait l'herbe sous le pied des féministes.
Maintenant je suppose que les employeurs ont besoin de ce genre d'information, mais on pourrait simplement ignorer certaines informations dans les instructions du llm et se concentrer sur les diplômes.
Encore une fois, ouvrir le code permettrait de couper court aux polémiques.
Puis honnêtement, en 2010 j'en ai croisé des conseiller d'orientation, les conseils étaient tous des ramassis de clichés sur les professions et hobbies. Non seulement ils avaient une vues limités des possibilités, mais ça pouvait être aussi absurde que "tu n'as pas 20/20 en maths ? Tu ne peux pas être informaticien ou ingénieur". Et j'imagine qu'ils ont aussi des biais sexistes suivant leur âge et culture.
Donc de là à dire que les BDD liés à l'emploi ou gérés par ce genre de personnes ne souffrent d'aucun biais, bof.
Je doute que les personne qui ont déployés cette IA aient un quelconque rapport avec des conseillers d'orientation, c'est plus probablement un sous-traitant.
Et je doute d'ailleurs qu'il y ait une volonté de nuire à quiconque.
Faut arrêter avec ces délires de persécution perpétuels.
Bossant pas mal avec des llm (et leur déploiement), je doute vraiment qu'ils se soient emmerdés à entraîner un nouveau modèle, même en adaptant un modèle existant, les données viennent probablement d'une base de données.
D'ailleurs vu qu'ils s'agit d'une agence officielle de recherche d'emploi, c'est assez facile d'avoir des statistiques sur les profils de recherche d'emploi, non ?
Et je trouve tout à fait spécieux de remettre en question les données du web (autrement dit la méchante société), alors qu'elles sont aussi diverses qu'il y a d'opinions.
Donc globalement les llms n'ont pas d'opinion propres, ils sont neutres et suivent plus ou moins bien les instructions qu'on leur donne.
Si tu dis à un llm de suivre des instructions elle même générées dynamiquement depuis les informations tirées d'une base de donnée, il n'y a aucun biais
(nonobstant les hallucinations possibles).
Et c'est pour cela que je disais qu'il valait mieux ouvrir le code du service, ça permettrait de voir si oui ou non ce genre de débat a lieu d'être.
si la prise de décision est automatique les recours sont très difficiles à obtenir
On a très peu de détails techniques mais l'article cite le ministère du travail Autrichien:
Il était le premier en Europe à avoir mis en place un agent conversationnel fondé sur l’intelligence artificielle (IA) générative pour orienter les étudiants et les demandeurs d’emploi
Autrement dit, c'est bien un bot d'orientation, il ne prend pas de décision (et encore heureux, les IA génératives sont encore trop aléatoires).
Et puis de toute manière je suppose que c'est bien la personne qui cherche un emploi qui rempli son dossier avec ses qualifications, le bot est simplement un assistant conversationnel.
Si ton jeu de données initial est mal construit, tu peux volontairement ou non créer des biais non souhaitables. L'IA peut avoir décrété qu'un homme ne peut pas devenir infirmier ou qu'il est strictement impossible qu'une femme soit dans l'armée.
Encore une fois peu de détails technique mais est probable que le bot soit plutôt un llm type GPT ou Mistral et qu'il utilise la méthode RAG.
Autrement dit de l'injection d'instructions en fonction du contexte d'après les informations tirées d'une base de donnée.
C'est beaucoup plus simple à mettre en place (pas besoin d’entraîner le modèle, un llm généraliste suffit), c'est beaucoup plus précis pour réaliser une tâche spécifique, c'est facilement modifiable (suffit de changer la façon dont on sélectionne les données à injecter) et ça utilise des données en temps réél sans avoir à mettre à jour le modèle tous les mois.
Du coup on peut supposer que si tu coche uniquement la case femme (et uniquement ça, car c'est pas précisé dans l'article mais je suppose que si vous ajoutez une qualification quelconque, les réponses changent radicalement), le modèle renvoi les choix de métiers les plus probables en fonction du peu de donnée qu'il a.
Donc je vois vraiment pas où est le problème, c'est juste le reflet de la réalité du terrain.
Le meilleur moyen de couper cours à toute polémique serait de le rendre libre, peut être même est ce le cas, mais ça n'est pas en pinaillant sur des broutilles avec ce genre d'article racoleur qu'on avancera.
Encore un truc sans intérêt où il faut s’indigner du vent qui souffle.
Si un bot est stéréotypé, ça n'est pas parce qu'on lui a appris à l'être spécifiquement, c'est simplement que le corpus de données l'est car la société l'est.
Car bordel mais c'est simple à comprendre que nous correspondons tous à certains stéréotypes, hommes, femmes, européens, africains, asiatiques, etc…
Il n'y a rien donc rien d'étonnant que ça se retrouve sur une IA.
Maintenant où est le problème ? Est ce que cela empêche pour autant l'accès à l'emploi ?
Il ne s'agit à priori que d'un bot d'orientation, rien de plus.
Si une femme veut réellement bosser dans l'informatique, c'est quand même pas un bot d'orientation qui va l'empêcher non ?
Le sexisme dans l'absolu serait d’interdire l'accès à l'emploi des femmes sur certaines branches, hors ça n'est évidemment pas le cas ici.
J'ai bossé dans le bâtiment en étant gaucher.
Si j'avais dû être choqué à chaque fois que j'ai eu droit à une réflexion sur les gauchers et leur habileté manuelle, je pourrai avoir la même psyché que les féministes, c'est à dire dépressif et un besoin constant de fabriquer un contre modèle totalement hors sol.
La réalité c'est que 90% de la population est droitière c'est comme ça et il n'y a rien à y faire et c'est probablement bien comme ça, l'histoire a prouvé qu'il vaut mieux laisser faire la nature et que quand l'humain choisi par constructivisme d'aller contre la nature, ça se termine généralement mal.
Si un bot a un biais qui propose par défaut aux femmes d'être infirmière ou prof, c'est pas de la méchanceté, c'est simplement un reflet de la réalité (et encore une fois, ça n'est qu'une orientation par défaut, il n'y a pas une méchant blanc patriarcal qui va vous taper sur les doigts si vous cochez une autre case).
Sans oublier que pour "lutter" contre ça (faut vraiment avoir que ça a faire mais soit), il faut introduire des biais qui ne sont que le reflet de la subjectivité des auteurs mais certainement pas la réalité.
Si vous souhaitez réellement avoir des IA utiles, le mieux ne serait il pas qu'elle correspondent ce qu'est la société et non pas à ce que vous souhaiteriez qu'elle soit ?
# Complément
Posté par Florian.J . En réponse au lien transformers.js, l'IA directement dans votre navigateur. Évalué à 2 (+1/-0).
J'ai pas encore trop étudié, mais l'auteur propose littéralement une chiée de modèles pour faire à peu près tout ce que les modèles génératifs proposent:
https://huggingface.co/Xenova
Dans le lot il y a également des llm.
[^] # Re: Plus de renouvelables, mais pas moins de charbon
Posté par Florian.J . En réponse au lien La Chine met le paquet sur le solaire. Évalué à 3 (+3/-1).
J'ai pas spécialement étudié la question, mais puisque la production industrielle en France a également fortement baissée, n'est pas là l'origine de la baisse des émissions de CO2 ?
Et donc si on consomme toujours autant, on peut en déduire que l'on a externalisé la pollution, mais dans l'ensemble la situation ne s'est pas améliorée.
En fait il semble que la seule période dans l'histoire récent où on a réellement baissé nos émissions de CO2 à l'échelle globale soit pendant la crise du covid:
https://www.lepoint.fr/environnement/covid-19-les-lecons-a-tirer-de-la-baisse-des-emissions-de-co2--21-05-2020-2376398_1927.php
A mon avis si on est un écologiste cohérent, la décroissance semble être la seule réponse sérieuse.
# Ca sert à rien
Posté par Florian.J . En réponse au lien Le "gestionnaire de programmes" de Windows 3.1 réécrit pour Linux/X11. Évalué à 4 (+3/-0).
Mais c'est marrant.
Moi de mon côté je suis un nostalgique d'Openbox, qui n'a pas bougé depuis 13 ans.
Du coup je suis sur KDE par dépit.
Comme disait George: Monde de merde.
# Super
Posté par Florian.J . En réponse au lien Le Conseil d'Etat a demandé à l'Arcom de renforcer son contrôle sur la chaîne d'information CNews. Évalué à -10 (+5/-24). Dernière modification le 13 février 2024 à 23:45.
Maintenant qu'ils fassent de même avec France Inter, il n'y a pas assez de gens de droite.
Cette idée de pluralité dans les médias est ridicule, la pluralité est dans la multiplication des médias.
Et chacun devrait être libre de produire ce qu'il veut (dans le respect de la loi) et les spectateurs de regarder ce qu'ils veulent.
Le conseil d'état est dirigé par un certain Didier Tabuteau, longtemps proche d'apartchik du PS (Martine Aubry et Bernard Kouchner), nommé par Macron, le tout sur une requête de RSF dont le principe premier est la liberté de la presse.
Sans rire, sont ils conscients du ridicule de la situation ?
Et surtout, si cela venait à faire jurisprudence, mesurent ils les conséquences à long terme ?
Y compris pour les médias du service public qui font beaucoup d'entre-soi de gauche. Le retour de bâton pourrait être violent en cas de changement de pouvoir.
Le gouvernement actuel sombre dans l'autoritarisme et les gens de gauche semblent aimer ça tant que ça ne les touches pas, mais ils devraient se méfier.
[^] # Re: C'est certainement pas faux, mais bourré d'arguments fallacieux
Posté par Florian.J . En réponse au lien Aux apatrides du web merdique (via les LIDD de Next.ink). Évalué à -2 (+0/-3).
Oh bordel on arrive au moment où les messages deviennent interminables:p
On peut partir d'un même point de vu et arriver à différentes conclusions.
Les gens de gauche glorifient l'égalité, les gens de droite préfèrent la liberté.
Après bien sûr il y a des sensibilités politiques mais il y a clairement clairement une dichotomie entre la liberté et l'égalité qui fait que cette classification reste pertinente.
Globalement la pensée de droite s'y oppose mais depuis les années 80 jusqu'à un temps récent la gauche est parvenu à imposer son narratif et ses principes moraux, donc la droite a souvent fait preuve de mollesse.
Le vent semble tourner. Si nous continuons sur la même trajectoire, je peux te parier que dans les prochaines années, le débat refera surface.
Je tenais pas spécialement à lancer un débat sur la peine de mort.
La question de la dignité est relative à nos principes moraux, donc subjective.
Par contre pour ce qui concerne les erreurs, il est aujourd'hui possible de s'assurer qu'il n'y en ait pas via l'ADN.
Précision: Je suis pas spécialement un partisan de la peine de mort (j'irai pas militer pour ça), mais je voulais simplement illustrer que le principe est globalement moins choquant quand on est de droite.
As tu un exemple qui ait marché durablement avec un réél apport pour la population concernée ?
J'ai pris l'URSS car jusqu'à présent c'est à ma connaissance le seul exemple de contre modèle qui ait réellement bousculé l'ordre établi.
A vrai dire moi non plus le modèle US ne me fait pas rêver, mais peut importe, ce sont bien les sociétés capitalistes qui tirent depuis des siècle l'innovation et ont fait passer l'humanité de groupes d'individus plus ou moins tribaux à des sociétés organisés capables d'envoyer des engins dans l'espace.
L'URSS n'a été compétitive sur certains sujets (pendant une certaine période) qu'en se mettant dans une rapport de concurrence avec le monde occidental.
J'ai jamais dit qu'il était de gauche mais centriste.
Je voulais surtout dire qu' être de droite ne se limite pas à être libéral, c'est avant tout fondé sur une vision du monde et n'est pas réductible au libéralisme.
Pour le coup du "Sa répression des manifestations diverses n'est clairement pas une politique de gauche non plus" j'espère que c'est une blague ?
Si un Mélenchon arrivait au pouvoir et qu'il devait y avoir des manifestations d'ampleur contre l'immigration de masse, tu ne penses pas qu'il y aurait une répression plus que musclée ?
A un moment donné tout ce monde là siège dans une assemblée, il faut bien trouver un moyen de disposer les groupes.
Peut être qu'on peut avoir du mal à le conceptualiser pleinement, mais il n'en demeure pas moins qu'il parait logique que les Verts et la LFI soient plus proches dans une assemblée par rapport aux LR.
Si ça te parait trop limité, tu peux toujours inventer une disposition en 2D en définissant un haut et un bas dans les rangs.
(techniquement ça a eu existé, les Montagnards s’appellent ainsi car il étaient à gauche au parlement et occupaient de préférence les rangs du haut).
Du coup moi je serai de droite haute si ça te dérange pas :D
[^] # Re: C'est certainement pas faux, mais bourré d'arguments fallacieux
Posté par Florian.J . En réponse au lien Aux apatrides du web merdique (via les LIDD de Next.ink). Évalué à -2 (+1/-4). Dernière modification le 12 février 2024 à 23:57.
Bon j'ai l'impression qu'on va encore débattre du sens des mots plus que de raison.
Allons y camarade !
Oui, il est évident qu'on ne peut pas projeter sur une seule dimensions toutes les opinions politiques sans faire des approximations.
Mais dans ce cas peut on dire que les Verts et la LFI ne sont pas du même camps sous prétexte qu'il y a des différences ?
Selon moi les seules différences sont avant tout dans le choix de priorités dans leurs propositions politiques, mais le fond est sensiblement le proche.
Car au fond les opinions sur tel ou tel sujet vont faire diverger des partis, mais ce qui compte c'est la philosophie et la vision de la société.
Et là, il y a un élément fondamental qui sépare clairement la gauche et la droite, et on peut le voir comme un gradient, c'est le rapport à l'inné.
C'est un débat spécifiquement occidental et qui dure depuis des siècle.
John Locke propose le concept de tabula rasa en opposition à Descartes pour qui, puisqu' il y a un principe de causalité à toute chose, en remontant à la racine on retrouve Dieu (ou la nature/évolution si t'es pas croyant), donc tout est écrit, tout est inné.
Dans le langage moderne, ça donne une gauche qui considère que tout est social, donc si il y a des individus mauvais c'est parce que la société a échouée à en faire des gens bons (Rousseau).
A droite on considère à l'inverse que nous sommes responsables de nos actes, puisque le bon et/ou le mal est ancré en nous, pour le reste le Darwinisme se charge de faire le tri.
Et évidemment ça s'applique également à tous les aspects de la vie: la beauté, l'intellect, l'intelligence sociale, etc…
De là découle des visions divergentes sur la plupart des sujets, le rapport à l'égalité, l'équité, l'immigration, l'enracinement, l'économie, le féminisme, etc…
Par exemple pour la peine de mort, pour quelqu'un de gauche, puisque si quelqu'un commet un crime c'est principalement à cause de la société, il est naturel d'en arriver à la conclusion qu'il vaudrait mieux l’abolir, le tort est en quelque sorte partagé.
Evidemment quand on est de droite on part d'un point de vu totalement opposé.
De même on est pas de droite parce que l'inégalité nous fait plaisir, mais on considère que nous sommes tous responsables de nos vies, donc on privilégie la liberté et si il y en a qui réussissent mieux que d'autres c'est pas grave si globalement la société est plus prospère, même ceux en bas de l'échelle sociale en profitent (l'histoire a prouvé que c'était juste, les prolos en occident vivaient mieux que des cadres en URSS avec bien plus de loisirs).
Pour en revenir à Macron, j'ai clairement plus l'impression qu'il fait parti des gens pour qui tout se règlera par l'éducation publique, la mixité sociale, et l'apport d'argent publique dans les quartiers difficiles.
Là je ne vois pas comment on pourrait le définir comme étant de droite.
Etre libéral ne suffit pas.
Et puis de toute manière, on peut voir ça comme un gradient, le monde n'est pas binaire, donc je vois pas où est le problème de dire qu'il est centriste.
Ou alors le centre n'existe pas ?
[^] # Re: Un journal?
Posté par Florian.J . En réponse au lien Promouvoir les producteurs locaux de la manière la plus open-source possible. Évalué à 3 (+2/-0). Dernière modification le 12 février 2024 à 18:44.
Superbe initiative.
Je trouve pas.
Par contre quels sont les critères pour être considéré comme un producteur méritant d'être recensée ?
Doit il s'agir d'entreprises strictement locale ?
Des PMI/PME uniquement ?
Peut être qu'une petite note explicative sur la philosophie du projet permettrait d'y voir plus clair.
[^] # Re: Infos
Posté par Florian.J . En réponse au lien Stract, un moteur de recherche libre codé par un Danois sur son temps libre. Évalué à 1 (+0/-0).
Son système optics a l'air assez puissant et semble permettre de personnaliser la recherche de façon très poussé.
C'est pas con du tout.
Par contre niveau algo de recherche il semble utiliser une implémentation alternative de Lucene d'après la doc:
https://github.com/StractOrg/stract/blob/main/docs/src/search_index.md
Je sais pas ce que ça vaut niveau performance, et surtout je sais pas si ça peut supporter des embeddings tirés d'un llm.
Car il me semble que Google se base beaucoup dessus depuis qu'ils ont développé le modèle BERT.
Ca permet de faire des recherches plus basés sur la sémantique et moins sur la syntaxe.
Si quelqu'un a des infos je suis preneur.
[^] # Re: C'est certainement pas faux, mais bourré d'arguments fallacieux
Posté par Florian.J . En réponse au lien Aux apatrides du web merdique (via les LIDD de Next.ink). Évalué à -1 (+3/-5). Dernière modification le 12 février 2024 à 18:07.
Moi je suis de droite et je peux te dire qu'il ne l'est pas.
Il peut être vu comme étant de droite par certains aspects car il a une vision du monde plutôt libérale et promeut plus l'équité basée sur le mérite au détriment de l'égalité stricte chère à la gauche.
Sur d'autres aspects il ne l'est pas, comme sa vision abstraite de la société comme un ensemble d'individus et non pas de façon holiste, raison pour laquelle il n'est pas et ne peut être ni souverainiste et encore moi identitaire par exemple.
Et si ta remarque concerne la loi récentes sur l'immigration, c'est simplement parce qu'il n'a pas le choix, entre la pression électorale du RN et la nécessité de maintenir la paix civile (CF les émeutes en Juillet dernier), il faut bien faire des concessions.
De toute manière ce genre de classification est nécessairement subjective, et tout droitard sera d'accord avec moi et tout gauchiste dira le contraire :p
En fait il est un lointain descendant des Girondins sous la révolution et les gauchistes d'aujourd'hui on les mêmes réflexes que les Montagnards d'antan.
Tandis que les gens comme moi sont des réactionnaires.
[^] # Re: C'est certainement pas faux, mais bourré d'arguments fallacieux
Posté par Florian.J . En réponse au lien Aux apatrides du web merdique (via les LIDD de Next.ink). Évalué à -3 (+0/-4).
Pour ce que j'en sais c'est visiblement quelqu'un de très libéral du point de vu des libertés individuelles.
Peut être que pour un marxiste ou assimilé il peut être vu comme quelqu'un de droite, mais du point de vu d'un droitard il n'est pas non plus droite.
Probablement centriste un peu comme un Macron en France.
Elon Musk lui peut être défini comme conservateur sans aucun doute.
De là à le définir comme d’extrême droite comme dans l'article c'est excessif mais la gauche perd prise depuis ces dernières et a tendance à tout exagérer pour espérer avoir une voix qui porte, le terme d’extrême droite étant généralement perçu comme dépréciatif.
Ca sent un peu la fin de règne tout ça.
[^] # Re: Sceptique
Posté par Florian.J . En réponse au lien L'informatique quantique en France: état des lieux. Évalué à 2 (+1/-0).
Cette discussion m'a poussé à me mettre à la page et apparemment les initiatives ne manquent pas:
[EN] https://en.wikipedia.org/wiki/Post-quantum_cryptography#Open_Quantum_Safe_project
Apparemment il y a un candidat sérieux approuvé par le NIST:
[EN] https://en.wikipedia.org/wiki/Kyber
Outre le fait qu'il faille encore du temps pour évaluer complètement la fiabilité, il semble que les algorithmes candidats sont généralement plus lents et lourds que les algos basés sur des nombres premiers.
Quand on sait que ces algos doivent pouvoir être embarqués dans des cartes à puce, c'est sûr que c'est pas un problème simple à résoudre.
[^] # Re: Sceptique
Posté par Florian.J . En réponse au lien L'informatique quantique en France: état des lieux. Évalué à 1 (+0/-0). Dernière modification le 08 février 2024 à 23:42.
Vers Mi-2022 j'avais une opinion similaire à propos des IA et des modèles génératifs ^ ^
Du coup les avancées récente de l'IA m'ont appris à être prudent.
Quand le point de rupture arrive ça peut aller très vite, d'autant que l'algorithme qui mettrait à terre RSA existe déjà.
# Sceptique
Posté par Florian.J . En réponse au lien L'informatique quantique en France: état des lieux. Évalué à 2 (+1/-0).
A mettre en lien avec cette initiative récent de la Fondation Linux:
https://linux.developpez.com/actu/353938/La-Fondation-Linux-forme-l-Alliance-pour-la-Cryptographie-Post-Quantique-PQCA-pour-garantir-la-securite-cryptographique-face-aux-menaces-de-l-informatique-quantique/
Concernant la conclusion de l'article, je méconnais globalement le sujet mais je sais qu'il existe des algorithmes alternatifs à RSA comme les courbes elliptiques:
https://fr.wikipedia.org/wiki/Cryptographie_sur_les_courbes_elliptiques
Tout le monde s'accorde pour dire qu'une technologie de rupture pourrait potentiellement apparaître dans un temps relativement court.
Du coup quand on mesure les enjeux gigantesques, je trouve qu'il y a un décalage entre les publications qui parlent d'un calculateur exploitable prochainement et la lenteur de la réponse.
De mon point de vu on devrait déjà considérer RSA comme obsolète et imposer d'autres algorithmes dès maintenant.
Parce que remplacer SSL prendra des années !
A côté les IA génératives dont on parle beaucoup pour ses conséquences sur l'emploi c'est de la rigolade.
# La fin d'une époque
Posté par Florian.J . En réponse au lien Bronsonisation de John Walker, fondateur de Autodesk. Évalué à 6 (+6/-1). Dernière modification le 08 février 2024 à 18:29.
A l'époque la DAO se limitait au dessin, maintenant ça s’appelle le BIM, ce sont des logiciels demandant des dizaines de Go de mémoire, prennent des minutes entières pour ouvrir un modèle un peu chargé, le tout avec des licences hors de prix, avec des formats de fichiers ultra fermés et sans compatibilité descendante histoire de toujours faire payer le client qui dépense des milliers d'euros à l'année par licence.
Du coup il suffit qu'un architecte utilise la dernière version pour l'imposer à tous les sous-traitants.
Et le pire c'est que c'est souvent un prérequis pour l'accès aux marchés publiques !
Je sais pas si le monsieur en est l'auteur directement, mais en tout cas je sais que ceux qui pilotent sa boite usent et abusent d'une position dominante qui n'a rien à envier à celle de Microsoft.
Edit: Je parle de Revit pour ceux qui auraient un doute.
[^] # Re: pour qu'il y ait un problème, il faudrait que la mixité forcée existe
Posté par Florian.J . En réponse au lien Le problème de la mixité forcée dans le monde de la tech. Évalué à -1 (+0/-2). Dernière modification le 06 février 2024 à 16:10.
A aucun moment il ne dit que les femmes ne peuvent pas être compétentes, il critique le système des quotas de diversité.
Tu ne sembles pas prendre au sérieux ce qu'il dit.
Tu veux un autre exemple ?
Un certain Linus Torvalds a été obligé en 2018 de se retirer temporairement du développement du noyau Linux après qu'une activiste trans qui n'a pas le centième de ses compétences se soit plainte à un journal grand publique qu'il était très très méchant.
Il est comme ça avec tout le monde et tout le monde fait avec, sauf quand ça tombe sur un activiste, c'est nécessairement de la haine mal placée.
Alors que si d'un point de vu technique ce que tu propose est valable, ça se passe très bien.
La forme peut être critiquée, mais on ne peut pas dire qu'il y ait des biais de fond.
Pas plus tard que la semaine dernière il a envoyé chier un développeur de Google car il trouvait la qualité douteuse:
https://linux.developpez.com/actu/353461/Linus-Torvalds-fustige-un-contributeur-de-Google-au-noyau-Linux-pour-ses-suggestions-relatives-aux-inodes-des-systemes-de-fichiers-il-a-qualifie-de-dechet-un-code-soumis-par-le-Googler/
Ca fait plus ou moins débat, mais ça ne fera pas la une des journaux car le mec a pris sur lui et a admis qu'il ne maîtrisait pas suffisamment son sujet:
https://lkml.iu.edu/hypermail/linux/kernel/2401.3/04273.html
Et la discussion s'est terminée sur un ton plus apaisée où l'auteur de la PR dit qu'il va plus étudier avant de proposer autre chose.
Fin de l'histoire dans un monde normal où la qualité prime sur la forme.
[^] # Re: pour qu'il y ait un problème, il faudrait que la mixité forcée existe
Posté par Florian.J . En réponse au lien Le problème de la mixité forcée dans le monde de la tech. Évalué à -5 (+0/-6).
En fait le témoignage critique avant tout l'injonction d'avoir de la "diversité", ce qui provoque souvent l'embauche de personnes insuffisamment qualifiées.
Et peut parfois provoquer des conflits avec les personnes qualifiées.
Il prend en exemple un conflit entre une femme proposant visiblement un mauvais choix technique, contredite par une personne visiblement particulièrement compétente.
Ce qui se termine en plainte à la RH pour harcèlement alors qu'il n'était question que de technique, pas d'attaque à la personne.
[^] # Re: pffff
Posté par Florian.J . En réponse au lien Le problème de la mixité forcée dans le monde de la tech. Évalué à -4 (+0/-5).
A défaut de me répondre rationnellement avec des arguments dans les discussions précédentes, on se pointe plus tard en prenant une phrase savamment choisie pour réduire toute réflexion à sa plus simple expression afin de la décrédibiliser, c'est ça ?
[^] # Re: pffff
Posté par Florian.J . En réponse au lien Le problème de la mixité forcée dans le monde de la tech. Évalué à -4 (+1/-6).
Néonazi carrément ?
Quand tu devrais jeter un coup d'oeil dans ta poubelle, il y a probablement des choses bien plus nuancées et justes que dans ton univers mental.
Pour le terme "islamogauchiste", non il n'est pas prononcé, c'est pas le sujet du témoignage
[^] # Re: pffff
Posté par Florian.J . En réponse au lien Le problème de la mixité forcée dans le monde de la tech. Évalué à -4 (+0/-5).
Au risque de te surprendre je suis totalement d'accord.
Ce poste est surtout en réaction aux postes féministes récurrents.
Si linuxfr venait à modérer ce genre de contenu (y compris ce poste), je n'y verrai aucun inconvénient, car ça n'est pas le sujet du site.
[^] # Re: pffff
Posté par Florian.J . En réponse au lien Le problème de la mixité forcée dans le monde de la tech. Évalué à -4 (+0/-5). Dernière modification le 06 février 2024 à 12:17.
Pourquoi y a t'il peu de femmes dans les écoles d'ingé ?
[^] # Re: Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à -4. Dernière modification le 28 janvier 2024 à 17:23.
Je ne sais pas si c'est si grave, mais imaginons.
La résolution du problème ne risque t'il pas de créer des problèmes encore plus grand ?
A vouloir modeler les pensées, ne risque t'on pas d'aliéner les gens ?
Et créer des problèmes imprévus ?
Un peu comme en union soviétiques à ses débuts, ils ont dépossédés les propriétaires terriens considérés comme privilégiés.
Résultat famine et des millions de morts plus tard on est obligé d'assouplir (NEP de Lénine).
A choisir entre la liberté individuelle et l'égalitarisme, l'histoire à prouvé quel était le meilleur système.
Défaitiste non, je le vis très bien et je m'en fiche pas mal de ce qu'on peut dire des gauchers.
La différence, c'est que quand on est de droite on milite par pour que le reste de la société se conforme à soit.
On cherche à s'accomplir sans faire chier les autres.
[^] # Re: Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à -4.
Oulà on sent bien la prégnance idéologique de gauche, on est en pleine novlangue là.
La neutralité signifie que l'on ne prend pas parti, donc OSEF de l'orientation du corpus, on agrège tout ce qu'on trouve et on fait avec.
(ce qui est une très mauvais idée avec un llm, en particulier pour ses performances générales)
Ce que tu suggère s’appelle l'alignement et c'est tout sauf neutre, c'est précisément là où se trouve le biais qui conditionne l'orientation du llm.
Et de ce point de vu, les llms ne sont généralement clairement pas conservateurs !
L'alignement est nécessaire aux llms et est le principal élément de leur performances, mais quand je parlais de neutralité, je voulais dire que dans l'idée où cette IA serait probablement alimentée par un BDD et non pas par l'apprentissage d'un modèle spécifique, les données d'instructions viendrait de données statistiques.
Donc on est d'accord, c'est simplement le miroir de ce qu'est la société d'après des données statistiques.
Donc on peut appeler ça comme on veut, mais c'est pas un biais, c'est la réalité (encore une fois la novlangue).
Par ailleurs d'un point de vu strictement pratique, les gens cherchent des boulots suivant leurs qualifications et envies, donc si on considère que de nombreux métiers soient genrés est un problème, il faut s'attaquer à toute la population, femmes comprises, qui semble préférer -entre autre- les métiers sociaux aux métiers manuels.
J'ai bossé dans le bâtiment et il y a bizarrement pas beaucoup de femmes sur les chantiers. Est ce du sexisme ?
On "lutte" comment contre ça, en envoi des secrétaires qui bossent bien au chaud dans des bureaux l'hiver et avec la clim l'été bosser sur des chantiers ?
Là dessus je suis totalement d'accord, ça couperait l'herbe sous le pied des féministes.
Maintenant je suppose que les employeurs ont besoin de ce genre d'information, mais on pourrait simplement ignorer certaines informations dans les instructions du llm et se concentrer sur les diplômes.
Encore une fois, ouvrir le code permettrait de couper court aux polémiques.
Je doute que les personne qui ont déployés cette IA aient un quelconque rapport avec des conseillers d'orientation, c'est plus probablement un sous-traitant.
Et je doute d'ailleurs qu'il y ait une volonté de nuire à quiconque.
Faut arrêter avec ces délires de persécution perpétuels.
[^] # Re: Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 0. Dernière modification le 28 janvier 2024 à 12:36.
Je pense que tu n'a pas lu mon message en entier.
Bossant pas mal avec des llm (et leur déploiement), je doute vraiment qu'ils se soient emmerdés à entraîner un nouveau modèle, même en adaptant un modèle existant, les données viennent probablement d'une base de données.
D'ailleurs vu qu'ils s'agit d'une agence officielle de recherche d'emploi, c'est assez facile d'avoir des statistiques sur les profils de recherche d'emploi, non ?
Et je trouve tout à fait spécieux de remettre en question les données du web (autrement dit la méchante société), alors qu'elles sont aussi diverses qu'il y a d'opinions.
Donc globalement les llms n'ont pas d'opinion propres, ils sont neutres et suivent plus ou moins bien les instructions qu'on leur donne.
Si tu dis à un llm de suivre des instructions elle même générées dynamiquement depuis les informations tirées d'une base de donnée, il n'y a aucun biais
(nonobstant les hallucinations possibles).
Et c'est pour cela que je disais qu'il valait mieux ouvrir le code du service, ça permettrait de voir si oui ou non ce genre de débat a lieu d'être.
Faut arrêter de voir le mal partout.
[^] # Re: Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 1.
On a très peu de détails techniques mais l'article cite le ministère du travail Autrichien:
Autrement dit, c'est bien un bot d'orientation, il ne prend pas de décision (et encore heureux, les IA génératives sont encore trop aléatoires).
Et puis de toute manière je suppose que c'est bien la personne qui cherche un emploi qui rempli son dossier avec ses qualifications, le bot est simplement un assistant conversationnel.
Encore une fois peu de détails technique mais est probable que le bot soit plutôt un llm type GPT ou Mistral et qu'il utilise la méthode RAG.
Autrement dit de l'injection d'instructions en fonction du contexte d'après les informations tirées d'une base de donnée.
C'est beaucoup plus simple à mettre en place (pas besoin d’entraîner le modèle, un llm généraliste suffit), c'est beaucoup plus précis pour réaliser une tâche spécifique, c'est facilement modifiable (suffit de changer la façon dont on sélectionne les données à injecter) et ça utilise des données en temps réél sans avoir à mettre à jour le modèle tous les mois.
Du coup on peut supposer que si tu coche uniquement la case femme (et uniquement ça, car c'est pas précisé dans l'article mais je suppose que si vous ajoutez une qualification quelconque, les réponses changent radicalement), le modèle renvoi les choix de métiers les plus probables en fonction du peu de donnée qu'il a.
Donc je vois vraiment pas où est le problème, c'est juste le reflet de la réalité du terrain.
Le meilleur moyen de couper cours à toute polémique serait de le rendre libre, peut être même est ce le cas, mais ça n'est pas en pinaillant sur des broutilles avec ce genre d'article racoleur qu'on avancera.
# Pas convaincu
Posté par Florian.J . En réponse au lien « Aux femmes la cuisine, aux hommes l’informatique » : le sexisme des IA (encore) prouvé. Évalué à 3. Dernière modification le 27 janvier 2024 à 23:06.
Encore un truc sans intérêt où il faut s’indigner du vent qui souffle.
Si un bot est stéréotypé, ça n'est pas parce qu'on lui a appris à l'être spécifiquement, c'est simplement que le corpus de données l'est car la société l'est.
Car bordel mais c'est simple à comprendre que nous correspondons tous à certains stéréotypes, hommes, femmes, européens, africains, asiatiques, etc…
Il n'y a rien donc rien d'étonnant que ça se retrouve sur une IA.
Maintenant où est le problème ? Est ce que cela empêche pour autant l'accès à l'emploi ?
Il ne s'agit à priori que d'un bot d'orientation, rien de plus.
Si une femme veut réellement bosser dans l'informatique, c'est quand même pas un bot d'orientation qui va l'empêcher non ?
Le sexisme dans l'absolu serait d’interdire l'accès à l'emploi des femmes sur certaines branches, hors ça n'est évidemment pas le cas ici.
J'ai bossé dans le bâtiment en étant gaucher.
Si j'avais dû être choqué à chaque fois que j'ai eu droit à une réflexion sur les gauchers et leur habileté manuelle, je pourrai avoir la même psyché que les féministes, c'est à dire dépressif et un besoin constant de fabriquer un contre modèle totalement hors sol.
La réalité c'est que 90% de la population est droitière c'est comme ça et il n'y a rien à y faire et c'est probablement bien comme ça, l'histoire a prouvé qu'il vaut mieux laisser faire la nature et que quand l'humain choisi par constructivisme d'aller contre la nature, ça se termine généralement mal.
Si un bot a un biais qui propose par défaut aux femmes d'être infirmière ou prof, c'est pas de la méchanceté, c'est simplement un reflet de la réalité (et encore une fois, ça n'est qu'une orientation par défaut, il n'y a pas une méchant blanc patriarcal qui va vous taper sur les doigts si vous cochez une autre case).
Sans oublier que pour "lutter" contre ça (faut vraiment avoir que ça a faire mais soit), il faut introduire des biais qui ne sont que le reflet de la subjectivité des auteurs mais certainement pas la réalité.
Si vous souhaitez réellement avoir des IA utiles, le mieux ne serait il pas qu'elle correspondent ce qu'est la société et non pas à ce que vous souhaiteriez qu'elle soit ?