Renault a écrit 7478 commentaires

Vraie question: on gueule sur les ressources absurdes consommées par les IA, mais leurs défenseurs expliqueront qu'il faut ramener ça à une conso par utilisateur (donc s'il y a 1Mds de… euh… gens qui s'en servent, l'apprentissage aura été ventilé).

Il n'y a pas que l'apprentissage qui consomme. C'est même pire, à mesure que les utilisateurs s'en servent, l'impact principal dominant sera son utilisation. C'est peut être même déjà le cas depuis un moment.

L'IA pose plusieurs soucis à cet égard :

• Chaque requête est individuelle et "unique", utiliser des technique de cache est donc délicat ;
• Chaque requête monopolise des ressources matérielles qui sont plus difficiles à partager en même temps. Un serveur web classique peut facilement gérer des centaines / milliers d'utilisateurs en parallèle sans soucis. Pour une IA cela semble difficile car le GPU est très sollicité et a besoin d'exécuter les instructions d'un utilisateur dans l'ordre ;
• Beaucoup de requêtes demandent un accès à Internet en direct et ne peuvent se reposer sur le cache comme pour un moteur de recherche classique. Style "tu peux me résumer cette page XXXXX" ou trouver des produits / infos à propos de quelque chose. Cela implique aux éditeurs d'avoir bien plus de robots qui naviguent sur Internet qu'un moteur de recherche plus classique qui a moins ce problème et qui réserve une haute fréquence pour certains sites le justifiant type site d'actu, Wikipédia, etc.

Outre les arguments des personnes qui suivent, ta comparaison est en plus foireuse.

L'analogie correcte dans ton cas c'est que réparer le robot d'une ligne de production ce serait d'entrainer l'IA ou de lui donner des instructions de sorte qu'il produise le résultat souhaité. Ce qui n'est pas ce que les gens font en général dans ce contexte et qui serait à la limite un travail satisfaisant intellectuellement.

Ta comparaison serait correcte si dans les lignes de production robotisées des personnes passaient systématiquement derrière pour réparer les défauts générés par le robot. Par exemple un robot producteur de vis qui en fait 1/3 tordus qu'il faut rectifier à la main. ET pour le coup ce n'est clairement pas un travail très satisfaisant à mon sens.

Alors oui dans l'industrie ça arrive que cela arrive, mais c'est à un taux en général très faible car l'avantage des lignes robotisées en général c'est leur efficience et reproductibilité en dehors des pannes. Il y a bien plus de gens qui font du contrôle qualité en comparaison.

Comment vous avez OSI les rejoindre sans préparer une dépêche en amont ? :D

Tu es le premier à parler de la croissance et à faire circuler la monnaie entre deux agents pour montrer comment une "croissance infinie" est possible.

Je dis ça je dis rien, hein.

Le coût d’opportunité est que les réparateurs de fenêtres auraient fait autre chose que réparer des fenêtres si on ne les avait pas cassées, et cet autre chose serait rentré dans le PIB. Il est donc loin d’être évident que "casser des fenêtres" augmente le PIB.

Elle n'est en effet pas systématique, mais cela peut le faire si pour réaliser cette action on recrute du personnel qui autrement ne travaillait pas par exemple.

C'est un sujet qui revient quand même souvent, les pays en guerre peuvent avoir un PIB qui augmente suite aux investissements miliaires et aux réparations à faire ce qui nécessite du personnel et du matériel en plus par rapport à une situation "as usual".

Mais cette situation met en lumière la critique courante du PIB fait de longues dates par de nombreux économistes : la croissance du PIB dans un tel contexte ne masque pas que globalement c'est une régression de la richesse pour la population.

C'est ça le message important du message, la croissance du PIB est un proxy imparfait du niveau de la vie, sa croissance à tout prix n'est pas la fin en soi, et on cherche surtout à atteindre un niveau de vie à la fin avec un certain nombre de services et d'équipements disponibles pour tous.

Ça répond littéralement à la question littérale, de "comment une fonction (PIB) peut avoir une dérivée (croissance) infinie en restant bornée" ? C’est toi qui part en "au fond, qu’est-ce que le PIB", qui est une autre question.

Oui enfin faire abstraction du contexte réel n'a je pense aucun intérêt.

Si le but d'une croissance est d'avoir plus de biens et de services pour tous, l'intérêt est que cette augmentation permette de satisfaire tout le monde, pas d'avoir une augmentation tellement misérable que mathématiquement c'est jouable mais à la fin on n'a pas l'objectif atteint.

Si on augmente le PIB en cassant volontairement des fenêtres puis on les répare, on améliore le PIB d'un point de vue statistique
Non

Cela n'invalide pas mon argument, pour donner plus de contexte tu peux lire : https://fr.wikipedia.org/wiki/Sophisme_de_la_vitre_cass%C3%A9e

C'est le soucis du PIB, il évalue la production et l'échange de ressources, il n'évalue pas un patrimoine existant.
Détruire et réparer d'un point du vue du PIB est une croissance, pas forcément plus élevée que si on avait fait autre chose à la place, mais ça reste une croissance. Mais en terme de niveau de vie pour la société, c'est une régression.

De la même façon qu'une croissance de certains secteurs industriels, par exemple de la production de tabac, c'est bon pour le PIB, pour la population ce n'est pas la même histoire.

Ton scénario est sympa et fonctionne dans certains cas, mais il me semble difficile à soutenir que c'est généralisable à l'échelle de la société entière.

Ce qu'on recherche n'est encore une fois pas la croissance du PIB mais un niveau de vie, le PIB n'étant qu'un proxy pour le mesurer. On pourrait vivre dans un pays avec une croissance nulle et vivre très bien, si tout le monde a un niveau de vie qui le satisfait en l'état.

Augmenter le PIB est le moyen le plus simple d'améliorer le niveau de vie de la population mais la répartition des richesses est une autre possibilité aussi. Par exemple il semble bien qu'en théorie la population occidentale aurait de quoi vivre confortablement avec un PIB constant, mais les inégalités et la volonté d'avoir toujours plus même parmi les plus riches est un frein à cela, donc on cherche la croissance.

Ensuite le tertiaire reste couplé aux extractions de ressources. Mon métier c'est du tertiaire, mais pour que je sois payé, mes clients doivent vendre des cartes électroniques. Si je veux augmenter mon salaire, ils doivent en vendre plus (ou plus chers). Beaucoup de métiers du tertiaires sont liés au commerce, au transport de marchandises, etc. Pour leur croissance, ils doivent aussi vendre plus de biens réels.

Même les GAFAM sont dedans, Amazon de manière évidente mais pour que Microsoft, Google et Apple gagnent plus de soucis, ils doivent vendre plus d'équipements. Il faut équiper plus de gens, leur faire passer plus de temps sur leurs produits. Même Google qui en théorie est le moins impacté, comme Facebook d'ailleurs, doivent vendre des pubs pour se financer. Pubs qui très souvent soutiennent à la fin la vente de biens physiques à produire.

Oui certains métiers peuvent en soit croître énormément avec un impact dérisoire sur l'environnement. Mais ces métiers ne sont clairement pas majoritaires, et malgré tout la croissance atteindra une limite aussi. Je ne vais pas aller chez le coiffeur tous les jours, ça n'a aucun sens ni aucun intérêt. Notre temps, notre énergie sont aussi limités. Je ne peux pas consommer à l'infini tout ce que je voudrais même avec tout l'argent du monde car mes journées feront 24h de toute façon. C'est une limite forte à une potentielle croissance infinie.

En tout cas malgré nos découplages que ce soit au niveau énergétiques, CO2, etc. on n'a jamais autant vendus de biens physiques.

Avoir une voix quand le parlement consulte les acteurs du secteur sur les actions législatives à prendre ?

Cela ne change pas que sauf si Anthropic a fait adopté une mesure rendant la situation acceptable pour tous, le résultat sera délétère. Que ce soient eux ou Google à la fin qui ont réussi ne changerait pas grand chose.

Dario Amodei n’a pas le contrôle là dessus.

Ils pourraient faire plus pour qu'on aille dans ce sens plutôt que de multiplier les levées de fond sans partage du contrôle de la boîte ou du capital.

J’ajouterai que la voie "abandonner l’industrie, passer sur de l’activisme et éveiller les consciences et parler au politiques" est suivie par Joshua Bengio/Geoffrey Hinton, et les résultats sont loin d’être spectaculaires. Difficile de jeter la pierre à Dario Amodei pour ne pas s’y engouffrer.

Je ne dis pas que ça permet de plus changer les choses, je dis juste que c'est hypocrite.

Y'en a qui arrivent à dormir en prétendant sauver la forêt tout en ajoutant de l'essence dans l'incendie, moi pas. Et j'ai le droit de dénoncer cette posture qui me semble particulièrement à l'encontre des valeurs qu'il prétend défendre.

Personnellement je m'en fous pas mal que la majorité de la population ne travaille pas, moi même je pourrais vivre sans travail. Je sais comment m'occuper.

Le soucis est la répartition de la richesse. Si tu mets tout le monde au chômage dans notre société actuelle, tu as un désastre social et sociétal évident.

Cela me paraît particulièrement malsain de pousser à l'évolution de cette techno sans avoir au préalable mis en place de quoi rendre la situation acceptable. C'est une fuite en avant. Et c'est pareil pour l'environnement appliqué au domaine au demeurant.

Oui enfin le but n'est pas d'avoir une dérivée positive pour avoir une dérivée positive, c'est d'avoir plus de biens ou de services en valeur absolue.

Si demain on a un monde avec une croissance nulle voire négative mais tout le monde a globalement ce qui lui convient, le monde se portera très bien.

Ta sigmoïde dit juste en gros pour que la croissance soit positive mais "infinie" sans dépasser une valeur asymptotique, la croissance est de plus en plus faible à un taux qui approche le 0%. Super, mais ça ne répond pas à la question.

La croissance du PIB est un proxy du niveau de vie car si on produit plus, la population a dans son ensemble en moyenne plus de biens et de services. C'est ça qui compte, faire en sorte que les gens aient un niveau de vie acceptable à la fin. Si on augmente le PIB en cassant volontairement des fenêtres puis on les répare, on améliore le PIB d'un point de vue statistique mais on n'améliore pas le bien être, ni le pouvoir d'achats.

Le PIB n'est qu'un indicateur imparfait, on l'utilise pour de bonnes raisons mais il ne faut pas oublier de ce qu'on cherche à savoir par cet indicateur. Car c'est cette finalité qu'on recherche, pas le PIB en tant que tel.

Pour sa défense, ça fait un moment qu’il crie haut et fort que l’IA va nécessiter une « réécriture complète du contrat social de nos sociétés »

Je ne trouve pas cela suffisant, il faut proposer, pas juste alerter. Il faut monter des relais politiques, organiser une réponse politique en réfléchissant à des scénarios pour proposer justement une vision de la société en adéquation.

Je ne l'ai pas spécialement vu faire tout ça. Il semble plus dans la réaction.

Ce n’est malheureusement pas aussi simple que ça. Si demain Anthropic se retire de la course, non seulement OpenAI et Google y sont toujours, mais en plus tu as maintenant sur le marché du travail un paquets de chercheurs/développeurs en IA parmi les plus talentueux — prêts à aller chez OpenAI/Google/Meta (Meta en particulier est désespéré, et offre 300 millions de dollar à tout "top" talent qui accepterait de les rejoindre). Dans l’état des choses, la fragmentation en 4-5 gros labos/entreprises est probablement un facteur de ralentissement.

Mais si Anthropic "gagne" la course, je ne vois pas trop ce que cela changera en pratique en fait. Cela ressemble plus à une excuse pour faire du business as usual et à participer à une prophétie auto réalisatrice que d'avoir contribué à améliorer le sort de l'Humanité.

Un peu comme si les gars du GIEC bossaient chez Total en espérant pouvoir influencer de l'intérieur la consommation d'énergie fossile au niveau mondial pour limiter le réchauffement climatique. Je ne trouve pas cela très cohérent.

L’option "il y a un seul gros développeur d’IA, mais qui agit de manière responsable" a été tentée, c’était OpenAI à sa création. L’histoire a montré que ça ne marchait pas

D'où l'importance d'avoir des États forts pour piloter cela étant donnés les enjeux plutôt que de laisser le privé faire ce qu'ils veulent sur la question. Le projet Manhattan n'a pas été contrôlé par une entreprise privée et aucune entreprise privée n'aurait le droit de produire de telles armes, même si certaines ont les ressources et compétences pour l'envisager.

Le problème avec ce genre de prévisions, c'est que l'augmentation du chômage c'est l'argument de vente de ces entreprises. Ce dont il est difficile de douter, c'est que la productivité va augmenter. Mais dans l'histoire de l'économie, les gains de productivité ont rarement engendré du chômage, et aucun argument n'est proposé ici pour expliquer pourquoi ce serait le contraire avec l'IA. Ça ressemble donc à de la com pour patrons débiles, genre "grâce à moi il y aura plein de chômage".

Plus bizarre, le patron d'une entreprise qui aurait un tel impact qui fait une telle prédiction cela ne semble pas lui poser de problème. C'est sans doute le plus scandaleux dans l'histoire.

Si tu penses que ta boîte va causer probablement un chômage de masse, tu devrais agir un peu plus que de juste agiter la menace dans la presse. Et en particulier agir pour que cela n'arrive aps en n'étant pas dans la course à qui mettra ces gens là au chômage le plus vite possible.

Donc jusqu'à preuve du contraire, cette histoire de chômage, c'est du bullshit. Les conséquences normales, c'est que les gains de productivité vont engendrer une baisse des coûts, qui vont permettre d'avoir plus pour le même investissement, et donc stimuler l'investissement, et donc la croissance. L'idée c'est qu'une entreprise ou un particulier n'a jamais ses besoins comblés. Une boite ne va pas dire "avant je dépensais 100k€ pour développer mon site web, maintenant je dépense 10k€, youpi, distribuons les 90 k€ gagnés aux salariés (ou aux actionnaires)". C'est juste qu'avec 100k€, tu pourras avoir un truc bien plus riche et/ou fonctionnel et/ou gourmand en serveurs et en bande passante, et tes concurrents aussi, donc tu dépenseras autant pour avoir plus.

Pourtant on l'a bien vu dans l'agriculture et dans l'industrie que finalement les gains de productivité ont eu pour conséquences moins de gens bossent dedans pour produire pourtant plus de biens. Il n'est donc pas absurde que pour le tertiaire l'impact sera finalement le même à la fin. Sauf que tu recases où les gens du tertiaire ? Oui il y a sans doute des métiers qui recruteront encore à balle, mais assez pour absorber le tout ? Pas certain du tout.

Cependant si le chômage est trop élevé, tu as moins de consommateurs potentiels et tu as aussi probablement des contre réactions politiques ou sociétales. Cela risque surtout de diviser la population encore plus entre celle qui gagne bien sa vie et celle qui ne le peut pas faut d'emplois dispos. Ce n'est pas très reluisant.

Et tous les patrons ne sont pas les mêmes, et tous ce qui est produit n'a pas les mêmes contraintes. Oui certains patrons peuvent profiter de l'amélioration de productivité pour produire / vendre plus. Mais d'autres ne le feront pas car pour gagner de la marge c'est plus facile dans ce cas de virer que de produire plus. Surtout que les gens ont des finances et un temps fini, tu ne peux pas surproduire ad vitam eternam.

Bref, si l'amélioration de la productivité a lieu de manière massive, les conséquences sur l'emploi sont réellement possibles.

Non, l'objectif est de pouvoir identifier dans du code C existant des situations d'une manière formelle et d'appliquer une transformation dessus. Cela n'a pas été fait pour créer du code nouveau (à ma connaissance) et les capacités d'expressions semblent vraiment orientées dans une optique de maintenance de code que d'écriture.

En général les patchs générés dans le noyau avec ont la commande associée dans le message de commits pour expliquer comment cela a été obtenu. Je ne trouve pas la syntaxe de Coccinelle particulière lisible ou avantageuse sur ce point, mais c'est efficace pour l'objectif poursuivi car de nombreuses transformations qui semblent simples en apparence peuvent être exprimées de manière différentes et il faut pouvoir les capturer au maximum.

Car des exemples valent mille mots, une diapo qui montre les capacités tirés d'exemples réels : https://events.static.linuxfound.org/sites/events/files/slides/part1.pdf

Problème Rust est particulièrement complexe à cause de ses règles complexes (je pense borrow-checker)… ils ont implémenté les fonctionnalités minimales pour le moment.

Le borrow checker n'est pas le principal problème ici. Le soucis est la richesse de la syntaxe de Rust et la variété de situations qu'il faut couvrir.

Oui Coccinelle naïvement peut servir à automatiser le changement de nom d'une fonction dans Linux. Mais ça à la limite c'est le cas facile en C à gérer.

L'intérêt est plutôt : on a tel objet qui s'initialise d'une autre façon (nouveaux paramètres, nouveau code de sortie, etc.), il faut automatiser la détection et correction du code impacté pour se conformer à la nouvelle manière de faire.

C'est là son point fort surtout pour une base de code si large et avec beaucoup de code qui finalement se ressemble, un pilote I2C reste un pilote I2C, y'en a des centaines qui ont un squelette similaire donc en cas de refonte cela peut vite devenir pénible à faire à la main.

Ce n'est pas pourtant le cas dans les mathématiques appliquées ou ceux qui travaillent en collaboration avec d'autres sciences comme justement la physique ?

L'interdisciplinarité n'a rien de nouveau.

Je connais pas bien le sujet, mais depuis des années (la mort de SJ, quand LT a "officialisé" qu'il avait eu des échanges en vu de recrutement, de la part du PDG d'apple, relayés par la presse spécialisée), certains commentateurs indiquent que la différence de fonctionnement des noyaux de linux et de mach, aurait fait peser la balance.

Ce dont je relate n'était pas d'être un employé Apple (du moins à cette époque là) mais d'associer Apple et l'OpenSource en général contre Microsoft. L'aspect Linux, conception du noyau, etc. c'était totalement secondaire, Jobs n'a probablement jamais été trop impliqué là dedans et s'en foutait pas mal. Mais justement c'était plutôt l'aspect qu'Apple ne comprenait pas l'OpenSource qui lui posait problème pour envisager quoique ce soit avec eux. Il espérait de leur part un peu d'ouverture mais Jobs n'a clairement pas été très réceptif.

Après perso je peux comprendre que quand tu travailles sur ton bébé en étant bien payé pour cela et que tu y prends du plaisir, il faut offrir beaucoup pour accepter un tel changement de carrière. Là encore je ne pense pas que si le noyau d'Apple aurait été "monolithique" il aurait accepté une telle offre de toute façon… Code pas OpenSource, pas son projet, quel intérêt ?

Bien sûr, je ne dis pas forcément le contraire.

Mais j'ai connu beaucoup trop de personnes qui ont été développeurs et qui à force de faire du travail de haut niveau et de management sont bien incapables de suivre une discussion technique.

Oui enfin tout le monde vieilli en 10-15 ans, je ne vois pas le soucis.

Si tu regardes des photos de lui il y a moins de 5 ans c'est à peu près le même. Pour Gates le changement semble plus imoortant. Gates est certes plus vieux mais assez surpris de voir un tel impact en si peu de temps.

En vrai en 20 ans sans toucher du code, c'est facile de perdre beaucoup de notions techniques surtout que durant la période il y a eu de nombreux changements.

Cela nécessite de suivre en détail les avancées pour ne pas être à la ramasse.

Torvalds a surtout refusé parcqu'il travaillait sur un noyau monolithique, alors que mach (de macos) est un micronoyau. Cette différence, semble avoir été principale, par rapport aux autres raisons.

Tu as une preuve de cela ?

Pour avoir lu sa bio pas mal de fois, je n'ai pas le souvenir que cela a été une considération quelconque, pour l'un comme pour l'autre. Ce sont surtout deux personnes avec des compétences et des points de vus divergents, les détails techniques d'un OS ce n'était pas tellement du ressort de Jobs qui s'en fichait probablement.

Torvalds a surtout été contre Tanenbaum à ce sujet, mais là encore il ne semble pas que Torvalds soit fondamentalement contre les micro-noyaux en tant que tels, juste qu'il ne croit pas que ce soit la solution parfaite et universelle que soutenait Tanenbaum à l'époque et qu'il méprisait toutes les autres architectures malgré les avantages et inconvénients de chacun.

C'était aussi un bon développeur qui a activement participé au développement de la micro informatique. Et selon quelques employés de Microsoft dans les années 90, Gates était toujours compétent techniquement à ce moment là.

Bien sûr que Gates a aussi eu de bonnes idées pour se développer commercialement, mais contrairement à Jobs il était aussi bon techniquement ce que Torvalds savait. Il y avait donc matière à discuter d'égal à égal ce qui l'intéressait plus que les plans de Jobs qui étaient plutôt commerciaux. Ce qui n'est pas son centre d'intérêt.

Ce que je voulais souligner c'est que contrairement à ce que pensent beaucoup de personnes dans le milieu du libre, Torvalds n'est pas anti Microsoft primaire et a toujours eu un certain respect pour Gates. Donc qu'il se rencontre n'est pas surprenant, c'est d'ailleurs plutôt étonnant que cela n'ait jamais eu lieu plus tôt.

Dans sa biographie de 2001 (et oui ça date), Torvalds relatait qu'il avait rencontré Jobs qui souhaitait former avec lui une alliance contre Microsoft et Windows ce qu'il n'a pas souhaité faire. Il trouvait qu'il n'avait pas grand chose à voir avec Jobs qui était plus dans le domaine du marketing que dans le technique et qu'à contrario il trouverait sans doute plus intéressant de discuter avec Gates qui est à la base un développeur expérimenté.

À dire vrai Gates et Torvalds ont clairement des cheveux blancs depuis longtemps, cela n'a rien de nouveau cela fait plusieurs années qu'on les voit comme ça.

Par contre Gates a pris un sacré coup de vieux depuis des images récentes d'il y a 1 an. Torvalds semble moins affecté par le temps à ce stade.

Bon il y a quand même 14 ans d'écart entre les deux hommes. Mais les débuts de la micro informatiques ça commence à dater, tout ce petit monde devient vieux et finira par partir de ce monde aussi.

Malheureusement, tu as tout compris : les tickets pour assister à de nombreuses conférences sont souvent payées par un employeur. Il faut être vraiment passionné (et avoir un bon salaire) pour se payer un ticket à titre individuel.

Après vu le tarif, même sans être payé par l'employeur c'est plutôt abordable en fait d'autant que la nourriture et boisson (petit déj, goûters, repas du midi) sont compris dedans.

De toute façon quand l'événement est en semaine c'est souvent orienté entreprise et vu le niveau technique de la conf c'est en effet plutôt pour des pros qui bossent de près ou de loin sur ces sujets.

Néanmoins, à part cas particulier, ces tarifs sont justifiés étant donnés les coûts d'organisation : location d'une salle pour X jours, repas, éventuellement traiteur pour buffets, défraiement pour voyages et hébergement des speakers…

En plus les participants sont pour beaucoup d'une grande renommée, très sympas et accessibles, beaucoup viennent de loin pour ça et pouvoir leur parler librement entre deux croissants, c'est vraiment chouette.

Personnellement venir à Kernel recipes (et Embedded recipes quand c'était commun) est sans doute la meilleure expérience de conf que j'ai connu. Même si je ne pourrais pas venir cette année malheureusement, je compte bien y retourner. :)

Et encore merci à Anne (et à ses petites mains) pour l'orga. Toujours une chouette expérience.

Seulement pour les fonction C standard. Et cela se justifie par le fait, qu'elle sont plus simple à mémoriser et plus rapide à écrire.

C'était surtout une limitation des compilateurs de l'époque.