Weboob 0.f

Posté par . Édité par Lucas Bonnet, Benoît Sibaud, Nÿco et patrick_g. Modéré par Nÿco. Licence CC by-sa
Tags :
31
27
mar.
2013
Internet

Weboob (Web Outside Of Browsers) est un ensemble d'applications interagissant avec des sites web. Seulement deux mois après la dernière dépêche, Weboob 0.f est parue mardi dernier.

C'est une version très riche en nouveautés et dont l'activité de développement a été remarquable. Cette nouvelle version est ainsi constituée de plus de 450 commits, représentant l'ajout de plus de 15 000 lignes dans les sources.

Weboob est maintenant capable de rechercher des recettes de cuisine, d'obtenir des informations sur le monde du cinéma, de télécharger des sous-titres pour des vidéos ainsi que de récupérer des textes de chansons. Les anciennes fonctionnalités ne sont pas oubliées, avec notamment l'ajout de modules pour de nouveaux sites bancaires.

Ces nouveautés seront détaillées en seconde partie de la dépêche. Avec 16 nouveaux sites boobisés, Weboob atteint désormais le nombre de 106 modules !

Sommaire

Recherche de recettes de cuisine

C'est pas moins de trois sites de recettes de cuisines qui sont maintenant accessibles (marmiton, 750g, cuisineaz). Deux applications sont dédiées à cet effet, QCookboob pour la version graphique et Cookboob pour son équivalent en console.

Les deux ont les mêmes fonctionnalités : la recherche, l'affichage d'informations sur la recette (bien entendu la recette, mais aussi les commentaires et les photos qui vont avec), et l'export. Cette dernière fonctionnalité permet pour le moment d'exporter vers le format KRecipesML, importable dans les logiciels Krecipes et gourmet.

En résumé en images, le processus est donc très simple. On lance tout d'abord une recherche :

Recherche avec QCookboob

On sélectionne la recette choisie :

Informations détaillées QCookboob

On l'importe dans Krecipes :

Import dans Krecipes

Cet exemple est typique de la philosophie de Weboob. On agrège les résultats de nombreux sites pour trouver rapidement le meilleur choix, et on utilise ensuite ses logiciels habituels grâce à l'export de donnée dans de multiples formats.

Tout sur le cinéma

Après un bon repas, une activité courante pour briller en société est de tout connaître sur le cinéma. Weboob peut désormais vous aider à devenir imbattable au Time's Up, grâce aux applications QCineoob et cineoob. Ces applications permettent des recherches sur des films, des acteurs, ainsi que des recherches un peu plus complexes (trouver les films en communs de deux acteurs par exemple). Bien entendu, il est possible d'afficher toutes les informations détaillées à propos de ces films et acteurs. Les modules permettant ces recherches sont pour le moment le très populaire imdb et le site français allociné.

Un petit exemple en image :

Star Wars dadns QCineoob

Comme on peut le voir sur la gauche de la capture, d'autres fonctionnalités sont directement intégrées dans l'application. La première est la recherche de sous-titres, nouvelle fonctionnalité de cette version, accessible également via l'application spécialisée suboob. Autre fonctionnalité intégrée, la recherche de torrents correspondant au film (libre), déjà accessible dans les versions précédentes via l'application weboorrents.

En résumé, QCineoob est une application spécialisée qui devrait ravir les amateurs de cinéma. En quelques clics, on peut interagir avec des sites aux fonctionnalités différentes mais étant finalement utilisées très souvent en même temps.

Petites nouvelles

Parmi les nouveaux modules, on peut citer l'accès à de nouvelles banques. Le module Crédit du Nord permet ainsi d'accéder à la banque du même nom, mais aussi à la Banque Courtois, la Banque Kolb et la Banque Tarneaud qui partagent le même moteur de site Web. Ce ne sont pas complètement des banques, mais on peut noter l'ajout des module Paypal et American Express.

Pour les amateurs de Karaoké, l'application booblyrics permet de télécharger les paroles des chansons.

L'application pastoob permettant de poster et de récupérer des fichiers sur des sites comme Pastbin et Paste à la con a été améliorée. On peut notamment désormais choisir l'expiration du fichier.

Du côté du dossier contrib, contenant des scripts évoluant autour de Weboob mais pas assez développés pour être considérés comme des applications, on peut noter l'amélioration de downloadboob. Ce script permet d'automatiser le téléchargement de vidéos, l'exemple typique étant le téléchargement de l'émission Dessous des Cartes toutes les semaines, ou des Guignols de l'info. La configuration a été améliorée, permettant de filtrer sur une expression rationnelle sur l'identifiant d'une vidéo.

Pour les amateurs de graphiques, un script generic-munin est désormais disponible. Il permet de créer un plugin munin pour n'importe quelle valeur numérique obtenue par Weboob (température d'une ville, solde de votre forfait téléphonique, solde de votre compte bancaire, etc).

Enfin, pour l'export de données, un formateur JSON a été ajouté.

L'association

À l'occasion des trois ans du projet, les contributeurs et utilisateurs de Weboob étaient invités au Bouillon Belge le 13 février. Cette soirée fut l'occasion d'organiser l'assemblée constitutive de la naissante Association Weboob, décrite plus en détail sur le Wiki du projet. Suite à cette assemblée, les statuts ont été déposés en préfecture et l'association Weboob a désormais une existence légale.

Pour la petite histoire, nous utilisons Garradin pour le suivi des membres. Que nous n'avons pas encore boobisé

Contributeurs

Merci aux contributeurs qui ont participé à cette version :

  • Cyril Brulebois
  • Fabien Grumelard
  • Florent Fourcot
  • François Revol
  • Goffi
  • ianux
  • Julien Hebert
  • Julien Veyssier
  • Laurent Bachelier
  • Romain Bignon

Weboob est un projet qui vit grâce à ses contributeurs. Si vous souhaitez l’améliorer et que vous connaissez le Python, n’hésitez pas à contribuer.

Nous recherchons également un volontaire ayant des connaissances en paquet et dépôts Debian. Le dépôt Weboob n'est plus à jour, les clefs de signatures sont expirées, et nous n'avons pas forcément les compétences en interne pour le remettre sur pied rapidement. C'est pourtant une demande régulière de nos utilisateurs de pouvoir bénéficier d'un paquet plus récent que la version 0.c présente dans Debian.

  • # Question existentielle

    Posté par . Évalué à -8.

    C'est fort tout ça, mais quel intérêt ? A l'heure où les applications convergent vers le web, pourquoi faire l'inverse ?

    C'est plus utile d'avoir une application (le navigateur) pour tout faire et jongler avec les onglets que d'avoir à lancer une application application pour chaque consultation.

    L'effort de développement de l'application + l'effort de maintenance quand quelque chose pète après changement de l'API …

    • [^] # Re: Question existentielle

      Posté par (page perso) . Évalué à 10.

      A l'heure où les applications convergent vers le web, pourquoi faire l'inverse ?

      Pour anticiper la mode du web3.0

      * Ils vendront Usenet^W les boites noires quand on aura fini de les remplir.

    • [^] # Re: Question existentielle

      Posté par . Évalué à 10.

      C'est plus utile d'avoir une application (le navigateur) pour tout faire et jongler avec les onglets que d'avoir à lancer une application application pour chaque consultation.

      Les développeurs de ce projet ne sont évidemment pas d'accord avec ça :-)

      Quelques raisons en vrac de développer Weboob :
      * l'automatisation de tâches. Télécharger automatiquement mes relevés bancaires, télécharger toutes les semaines par cron les rares émissions télé que je regarde
      * Beaucoup de sites Web sont pourris. Clavier virtuels à chier, interface inefficace. Là en une ligne de commande, je fais un virement, contre plusieurs minutes par le site de ma banque. De même chez freemobile, ma consultation de mon compte est bien plus rapide.
      * Une interface unifiée, l'agrégation de données. Pour revenir à l'exemple de la dépêche, en une seule application je recherche sur trois sites de cuisines différents, ce qui est bien plus efficace que de le faire site par site.

      Si on le fait, c'est bien qu'on pense y gagner du temps. Et politiquement, on peut aussi penser que le Web n'est pas adapté à beaucoup d'usages. Comme les sites refusent de libérer nos données (exemple : ma banque, incapable d'utiliser un protocole standard de récupération des relevés de comptes), on est obliger de passer par là.

      • [^] # Re: Question existentielle

        Posté par . Évalué à 2.

        Bonjour et bravo pour ces développements !

        Personnellement j'ai trouvé ce travail vraiment très intéressant dès la première news sur votre projet. Je me suis même demandé pourquoi une idée aussi simple et évidente (a posteriori) n'avait pas été lancée bien plus tôt (il se peut que ce soit le cas et que je sois juste mal renseigné).

        Disons qu'à mon sens ça ne remplace pas un navigateur, c'est juste une autre façon d'accéder à l'info du web. D'un côté le navigateur est neutre et exhaustif mais désordonné, parfois complexe et pollué. Alors que le mode d'accès à l'information de weboob est simple, ordonné et dépourvu de fioritures (pub par exemple) mais pas exhaustif puisque déterministe dans son choix des sources, donc orienté. Pour moi weboob répond aux besoins des tâches répétitives liées au web, ces tâches qu'on exécute dans un navigateur à l'aide des favoris et de la répétition d'actions similaires. Se poser la question de l'utilité de weboob, c'est la même question que se poser la question de l'utilité d'un client de messagerie quand on dispose d'un webmail pour le même service. C'est simplement une question d'ergonomie et donc au final, de goûts. Chacun y trouvera, ou pas, une utilité. Moi je suis conquis.

        Par contre je comprends le soucis du "oui mais il risque d'y avoir 90 applications à maintenir". Je n'ai pas encore regardé en détail le fonctionnement de weboob, du coup les propos qui vont suivrent enfoncent peut-être des portes déjà ouvertes… Est-ce que vous avez défini un protocole unifié de mise à disposition de l'information ? Je veux dire : ce serait génial (et c'est peut-être déjà le cas) si weboob était simplement une librairie qui permet à n'importe quel logiciel (par exemple grisbi pour la banque) de pêcher les infos sur le site de ma banque. En gros, si le projet weboob doit s'occuper de l'interface web ET des applications, ça me semble un peu gros comme travail et les utilisateurs (qui sont fainéants et n'aiment pas changer leurs habitudes/logiciels) risquent de passer à côté. Par contre si un nouveau plugin dans leur logiciel permet de se brancher sur une librairie (libweboob), l'utilisation peut rapidement exploser. Enfin, c'est mon avis…

        • [^] # Re: Question existentielle

          Posté par . Évalué à 7.

          Weboob est déjà une bibliothèque. Elle est utilisée notamment par skrooge et Budgea, et un plugin existe pour KMyMoney (pas encore remonté upstream).

          En outre, les applications qui sont fournies par Weboob sont assez rudimentaires en général, mais peuvent exporter les données dans des formats ouverts (QIF pour les modules bancaires, KRecipesML pour les recettes de cuisine, ou plus généralement en json ou csv), ce qui permet de les réutiliser dans des applications sophistiquées.

          Un projet de démon dbus pour partager les services weboob est également en cours de développement.

          Pour ce qui est de la maintenance des modules, nous avons un buildbot pour nous prévenir des modules cassés, et un système de dépôts permet aux utilisateurs de récupérer les derniers correctifs (_weboob-config update_) qui sont poussés pour les versions maintenues (0.c qui est la LTS (normal, elle est dans Debian) et la dernière stable, à savoir 0.f).

    • [^] # Re: Question existentielle

      Posté par (page perso) . Évalué à 6.

      La grande utilité, c’est surtout de pouvoir ramener des vidéos de pr0n sans aller sur les sites eux-mêmes.
      Comment ça, c’est même la genèse du projet ? :)

  • # Debian

    Posté par . Évalué à 1.

    La version sur les dépots de Debian sont un poil obsolètes. Peut on les trouver sur un autre repo ?

    • [^] # Re: Debian

      Posté par . Évalué à 5.

      Je crois qu'ils attendent un certain FabienC pour s'en occuper : )

      Pour un sextumvirat ! Zenitram, Tanguy Ortolo, Maclag, xaccrocheur, arnaudus et alenvers présidents !

      • [^] # Re: Debian

        Posté par . Évalué à 3.

        haaa ok, je vais me former aux packages debian pour les faire (ca doit pas bien etre difficile vu que tu me le propose), pendant ce temps ils maintiendront mes serveurs de génération de tuiles OSM et ferront les mises jour de style mapnik (après un peu de formation bien sur) ?

        Pffiuu on va gagner du temps c'est sur …. Et dans l'histoire tu es ou ?

        • [^] # Re: Debian

          Posté par . Évalué à 5.

          Ce n'est pas où je suis, mais jusqu'où je vais qui est important : c'est-à-dire à la fin de la dépêche ;)

          Pour un sextumvirat ! Zenitram, Tanguy Ortolo, Maclag, xaccrocheur, arnaudus et alenvers présidents !

          • [^] # Re: Debian

            Posté par . Évalué à 1.

            Désolé, j'ai lu la fin en diagonale.

    • [^] # Re: Debian

      Posté par (page perso) . Évalué à 5.

      Je crois qu'il y a comme un léger lien entre ta remarque et le dernier paragraphe de la news…

  • # Interface web

    Posté par (page perso) . Évalué à 10.

    Est-ce qu'une interface web ou une version cloud de Weboob est prévue afin de pouvoir profiter de ses services dans un navigateur ?

    • [^] # Re: Interface web

      Posté par . Évalué à 2. Dernière modification le 28/03/13 à 10:30.

      Tu veux une interface web pour utiliser un logiciel qui a pour but de se passer d'une interface web ?
      Dans ce cas, il faudra prévoir un plugin pour weboob pour pouvoir récupérer les résultats de cette interface web.

    • [^] # Re: Interface web

      Posté par . Évalué à 5.

      Même si je ne suis pas certain que la question ne soit pas ironique, on a une réponse tout à fait sérieuse :)

      D'une part ça existe en partie déjà, avec Budgea notamment pour les modules bancaires. C'est en revanche non libre.

      Du côté du libre, on a videoob_web dans le dossier contrib, qui permet de récupérer les vidéos sur un serveur et de les lire avec un navigateur (sans flash et compagnie). C'est pas complètement du Web, mais l'export en flux Atom des articles de journaux s'en approche. Tout comme on a un export en JSON, ça serait assez simple d'ajouter un export générique en html.

  • # f**ker le weboob

    Posté par (page perso) . Évalué à -2.

    Est-ce que les blagues sur weboob sont sexistes ?

    « I approve of any development that makes it more difficult for governments and criminals to monopolize the use of force. » Eric Raymond

  • # typo

    Posté par (page perso) . Évalué à 3.

    s/martiton/marmiton

    If you choose open source because you don't have to pay, but depend on it anyway, you're part of the problem.evloper) February 17, 2014

  • # Pluzz

    Posté par . Évalué à 4.

    Depuis la 0.c, le module pour France télévision est cassé. Avez-vous une idée de quand il sera réparé ?

    • [^] # Re: Pluzz

      Posté par (page perso) . Évalué à 1.

      Depuis la 0.c, le module pour France télévision est cassé. Avez-vous une idée de quand il sera réparé ?

      Il me semble que ça depend des videos, as tu fais un rapport de bug ?

      • [^] # Re: Pluzz

        Posté par . Évalué à 3.

        as tu fais un rapport de bug ?

        Y'en a déjà un : .

        Il me semble que ça dépend des vidéos

        Je viens d'essayer avec 8 vidéos totalement différentes, et ça ne marche jamais.

        • [^] # Re: Pluzz

          Posté par (page perso) . Évalué à 3.

          Ce bug est bien connu, rapporté fréquemment, la solution est connue.
          Il ne manque que des volontaires.

  • # Le b*n c*in

    Posté par (page perso) . Évalué à 4.

    Bonjour

    Y'a-t-il un module pour ce célèbre site d'annonce ? J'ai aperçu quelques discussions précédentes mais je n'ai rien vu de concret. C'est parce que le site ne veut pas ?

    ( Tel le site http://alerte.ilatumi.org/ qui envoyait des alertes lors de l'arrivée de nouvelles annonces et qui a dû fermer. Sympathiquement, l'auteur du site met à disposition ses sources ce qui permet de retrouver les fonctionnalités sur son serveur à soi. )

    • [^] # Re: Le b*n c*in

      Posté par (page perso) . Évalué à 4.

      Y'a-t-il un module pour ce célèbre site d'annonce ?

      Non pas encore.

      C'est parce que le site ne veut pas ?

      Plus vraisemblablement parce que aucun contributeur n'a eu le temps, le besoin ou l'envie d'ecrire ce module.
      Il n'y a visiblement que la partie « scraping » a faire, etant donné que weboob dispose deja de tout l'environnement necessaire pour envoyer des mails.

      Il y a deja des sites d'annonces mais il s'agit d'annonces immobilieres :
      http://weboob.org/applications/flatboob
      http://weboob.org/applications/qflatboob

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.