Journal Liquid Inference : une enchère à chaque requête d’inférence LLM, plafond fixé avant le premier jeton

Bonjour, je suis Rembi et je fais partie de l’équipe de Liquid Inference.

Liquid Inference organise une enchère pour chaque requête d’inférence LLM. On envoie la requête via une API compatible OpenAI ou Anthropic (en pratique, on change souvent l’URL de base et la clé). Seules les offres qui respectent vos critères participent, et le plafond de prix est fixé avant le premier jeton. Vous payez les jetons réellement consommés ; le reste du plafond revient sur le solde. Je ne prétends pas que ce soit forcément moins cher que votre usage actuel.

Un nouvel espace de travail reçoit un crédit de départ, on peut donc essayer sans carte : liquidinference.ai

Il n’y a pas de contrepartie. Je suis preneur de retours francs, y compris critiques, sur l’API et sur le plafond.