« Pour Zitron, la récession économique se profile. « Il n’a aucune raison de célébrer une industrie sans plans de sortie et avec des dépenses en capital qui, si elles restent inutiles, semblent être l’une des rares choses maintenant la croissance de l’économie américaine. »
Face à un effondrement de l'économie, les solutions sont bien connues, remise à plat des mécanismes ayant provoqués le déraillement aux dépends des classes qui en ont bénéficié ; ou la guerre, pour éradiquer suffisamment de va-nu-pieds et remobiliser les capitaux vagabonds vers l'économie réelle de l'armement. Pas besoin d'allumer le petit écran de brancher internet pour savoir vers quoi nous nous hâtons, avec une belle unanimité parmi les types qui souhaitent vivre 150 ans (ou bien plus) en vampirisant leurs sujets.
Il y a peu j'ai travaillé sur un projet où il fallait utilise un LLM du marché pour créer des objets de configuration automatiquement pour nos clients, car à la main c'était vraiment lourd et pas pratique.
Mais quand est arrivé la partie estimation des coûts, là on a eu un soucis qu'on avait pas vu venir au départ: ok on a le coût actuel, mais vu le gouffre financier et l'équilobre actuel qui ne pourra pas tenir advitam (et je ne m'avancerais pas à définir un timing du truc je ne suis pas économiste ^ ) la question était: on prends quoi comme estimation du prix futur pour définir notre rentabilité sur ce projet?
Et là c'est rude car si on prends le dernier exemple en date que j'ai en tête sur cette estimation, on a Github qui fourni un outil automagique pour te pondre un gros bout de code et une Pull Request à a clé. C'était au départ au "prix" à peu près réel en "requêtes" dont il a eu besoin. Mais quand on a essayé ça mangeait entre 20 et 50 requêtes pour une simple PR sur un quotas au mois qu'on avait de 300, autant dire qu'on a vite arrété de l'utilisé.
J'imagine qu'on a pas été les seuls, car en moins d'une semaine c'est passé à 1 requête pour toute la PR. Or là on voit bien que le prix "réel" n'est pas tenable, et qu'ils sont enocre plus à perte mais veulent vraiment qu'on utilise leur système et pas celui du concurrent, quitte à payer pour ça.
Alors je mets de côté le soucis légal du truc (j'ai jamais compris pourquoi la vente à perte était autorisé dans le numérique et pas ailleurs, on voit bien que c'est foireux comme système, encore plus pour nous pauvres européens sans moyens), mais là je me dit que le jour où on va devoir payer le service au vrai coût, est-ce que ça va valoir le coût?
Alors pour notre projet le problème s'est réglé de lui même: les requêtes étaient bien trop lente et les résultats vraiment pas foufou par rapport à un algo "old school" qu'on testait en parallèle.
Mais je plains ceux qui doivent vraiment baser le cœur de leur offre sur le l'IA, car à aujourd'hui je ne vois pas comment faire pour estimer ses coût futurs et ne pas avoir à manger son chapeau dans 1 ou 2 ns (ah flûte, j'ai dit que je ne donnais pas d'estimation de temps…)
Merci pour ce retour qui confirme que ce marché est une bulle spéculative.
Alors je mets de côté le soucis légal du truc (j'ai jamais compris pourquoi la vente à perte était autorisé dans le numérique
Il n'y a aucun souci légal avec la vente à perte. C'est interdit en France mais pas aux États-Unis et même l'Europe considère qu'on ne peut pas l'interdire…
Il ne faut pas oublier que de grosses entreprises utilisent la vente à perte pour conquérir les marchés (Amazon, Shein, Temu, etc.) pour ensuite imposer meurs prix et leurs conditions une fois en situation dominante.
Ah merci je pensais que c'était un principe général de bon sens, mais en effet, on parle des US après tout, j'aurais dû me douter que bon sens et US ça collait pas :)
Mais quand est arrivé la partie estimation des coûts, là on a eu un soucis qu'on avait pas vu venir au départ: ok on a le coût actuel, mais vu le gouffre financier et l'équilobre actuel qui ne pourra pas tenir advitam (et je ne m'avancerais pas à définir un timing du truc je ne suis pas économiste ^ ) la question était: on prends quoi comme estimation du prix futur pour définir notre rentabilité sur ce projet?
Vous avez évalué la possibilité d'auto-héberger votre LLM avec un model open-source ou pas ?
Déjà ce n'est pas la politique de la société de hoster ce genre de service "maison". Donc ça demanderait déjà un investissement en formation et personnel non négligeable pour monter en compétence sur ces gestions spécifiques.
Et je mets de côté le problème d'investissement matériel initial non négligeable pour gérer le volume estimé des requêtes (e avoir des réponses rapides, donc j'élimine la solutiond'une armée de pcs avec des cartes grands publics déjà ^ ).
En y repensant là un truc que je n'avais pas vu à l'époque et qui m'aurait fait mettre l'option de côté: le côté gestion de la chose. Il y a de vrais outils de gestions (avec quotas & traçabilité) qui existent?
Mais c'est tout le soucis: ces investissements ont déjà été fait par les gros groupes/investisseurs, et donc le mur pour y entrer nous même est énorme.
Mais in-fine ce coût il va bien falloir y passer et le prendre à notre charge à un moment (les investisseurs vont vouloir un retour sur investissements il me semble, et pas dans 10 ans).
Donc à court terme non on a esquivé la gestion, mais à moyen terme la question va se reposer très clairement.
# Solution toute trouvée
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 5 (+3/-0).
Face à un effondrement de l'économie, les solutions sont bien connues, remise à plat des mécanismes ayant provoqués le déraillement aux dépends des classes qui en ont bénéficié ; ou la guerre, pour éradiquer suffisamment de va-nu-pieds et remobiliser les capitaux vagabonds vers l'économie réelle de l'armement. Pas besoin
d'allumer le petit écrande brancher internet pour savoir vers quoi nous nous hâtons, avec une belle unanimité parmi les types qui souhaitent vivre 150 ans (ou bien plus) en vampirisant leurs sujets.« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Solution toute trouvée
Posté par Nicolas Boulay (site web personnel) . Évalué à 5 (+2/-0).
Ou alors c est juste une bulle comme les précédentes. (Internet)
"La première sécurité est la liberté"
# Vrai soucis pour définir sa propre rentabilité
Posté par Jean Gabes (site web personnel) . Évalué à 7 (+5/-0).
Il y a peu j'ai travaillé sur un projet où il fallait utilise un LLM du marché pour créer des objets de configuration automatiquement pour nos clients, car à la main c'était vraiment lourd et pas pratique.
Mais quand est arrivé la partie estimation des coûts, là on a eu un soucis qu'on avait pas vu venir au départ: ok on a le coût actuel, mais vu le gouffre financier et l'équilobre actuel qui ne pourra pas tenir advitam (et je ne m'avancerais pas à définir un timing du truc je ne suis pas économiste ^ ) la question était: on prends quoi comme estimation du prix futur pour définir notre rentabilité sur ce projet?
Et là c'est rude car si on prends le dernier exemple en date que j'ai en tête sur cette estimation, on a Github qui fourni un outil automagique pour te pondre un gros bout de code et une Pull Request à a clé. C'était au départ au "prix" à peu près réel en "requêtes" dont il a eu besoin. Mais quand on a essayé ça mangeait entre 20 et 50 requêtes pour une simple PR sur un quotas au mois qu'on avait de 300, autant dire qu'on a vite arrété de l'utilisé.
J'imagine qu'on a pas été les seuls, car en moins d'une semaine c'est passé à 1 requête pour toute la PR. Or là on voit bien que le prix "réel" n'est pas tenable, et qu'ils sont enocre plus à perte mais veulent vraiment qu'on utilise leur système et pas celui du concurrent, quitte à payer pour ça.
Alors je mets de côté le soucis légal du truc (j'ai jamais compris pourquoi la vente à perte était autorisé dans le numérique et pas ailleurs, on voit bien que c'est foireux comme système, encore plus pour nous pauvres européens sans moyens), mais là je me dit que le jour où on va devoir payer le service au vrai coût, est-ce que ça va valoir le coût?
Alors pour notre projet le problème s'est réglé de lui même: les requêtes étaient bien trop lente et les résultats vraiment pas foufou par rapport à un algo "old school" qu'on testait en parallèle.
Mais je plains ceux qui doivent vraiment baser le cœur de leur offre sur le l'IA, car à aujourd'hui je ne vois pas comment faire pour estimer ses coût futurs et ne pas avoir à manger son chapeau dans 1 ou 2 ns (ah flûte, j'ai dit que je ne donnais pas d'estimation de temps…)
[^] # Re: Vrai soucis pour définir sa propre rentabilité
Posté par Voltairine . Évalué à 5 (+3/-0).
Merci pour ce retour qui confirme que ce marché est une bulle spéculative.
Il n'y a aucun souci légal avec la vente à perte. C'est interdit en France mais pas aux États-Unis et même l'Europe considère qu'on ne peut pas l'interdire…
Il ne faut pas oublier que de grosses entreprises utilisent la vente à perte pour conquérir les marchés (Amazon, Shein, Temu, etc.) pour ensuite imposer meurs prix et leurs conditions une fois en situation dominante.
[^] # Re: Vrai soucis pour définir sa propre rentabilité
Posté par Jean Gabes (site web personnel) . Évalué à 3 (+1/-0).
Ah merci je pensais que c'était un principe général de bon sens, mais en effet, on parle des US après tout, j'aurais dû me douter que bon sens et US ça collait pas :)
[^] # Re: Vrai soucis pour définir sa propre rentabilité
Posté par thoasm . Évalué à 6 (+3/-0).
Encore un truc dont c'est ceux qui en parlent le plus qui le pratiquent le moins.
[^] # Re: Vrai soucis pour définir sa propre rentabilité
Posté par NiKaro (site web personnel) . Évalué à 3 (+2/-0).
Vous avez évalué la possibilité d'auto-héberger votre LLM avec un model open-source ou pas ?
[^] # Re: Vrai soucis pour définir sa propre rentabilité
Posté par Jean Gabes (site web personnel) . Évalué à 2 (+0/-0).
Pas de manière approfondie à vrai dire.
Déjà ce n'est pas la politique de la société de hoster ce genre de service "maison". Donc ça demanderait déjà un investissement en formation et personnel non négligeable pour monter en compétence sur ces gestions spécifiques.
Et je mets de côté le problème d'investissement matériel initial non négligeable pour gérer le volume estimé des requêtes (e avoir des réponses rapides, donc j'élimine la solutiond'une armée de pcs avec des cartes grands publics déjà ^ ).
En y repensant là un truc que je n'avais pas vu à l'époque et qui m'aurait fait mettre l'option de côté: le côté gestion de la chose. Il y a de vrais outils de gestions (avec quotas & traçabilité) qui existent?
Mais c'est tout le soucis: ces investissements ont déjà été fait par les gros groupes/investisseurs, et donc le mur pour y entrer nous même est énorme.
Mais in-fine ce coût il va bien falloir y passer et le prendre à notre charge à un moment (les investisseurs vont vouloir un retour sur investissements il me semble, et pas dans 10 ans).
Donc à court terme non on a esquivé la gestion, mais à moyen terme la question va se reposer très clairement.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.