Architect lancia Liquid Inference, un mercato all'asta per la computazione LLM

Un mercato finanziario per il compute AI

Architect, l'azienda dietro lo scambio AX per futures perpetui, ha lanciato Liquid Inference — un mercato di routing LLM che gestisce un'asta in tempo reale per ogni richiesta di inference. Invece di indirizzare verso un unico provider, il sistema permette a più fornitori di inference di fare offerte per servire ogni prompt, con l'acquirente che paga l'offerta qualificante più bassa.

La proposta è semplice per gli sviluppatori: sostituire un URL base nel codice e lasciare che i provider compatibili con OpenAI e Anthropic competano sul prezzo ¹. L'architettura attinge direttamente dall'esperienza della piattaforma di trading di Architect, applicando una price discovery a due lati — qualcosa che il team ha costruito per i mercati finanziari — al compute AI.

Come funziona l'asta

Il flusso ha quattro fasi. Un cliente invia una chiamata API standard, i vincoli dell'acquirente filtrano le offerte eleggibili, i provider che offrono quel modello competono, e l'offerta a prezzo più basso che rispetta le regole vince ¹. Il prezzo massimo è bloccato prima dell'inizio della generazione, e la fatturazione copre solo l'uso misurato.

Gli acquirenti possono impostare limiti di costo per-job, limiti di tempo-primo-token e requisiti minimi di throughput. Possono anche richiedere regioni approvate, zero retention dei dati e allow list per provider o modello. Una modalità "Auto" può selezionare il modello per una data unità di lavoro.

Perché conta

Lo strato di dati di mercato è insolito per le API LLM. I titolari di conto possono visualizzare libri ordini in tempo reale, quotazioni per-provider e per-modello, e transazioni compensate — un livello di trasparenza più tipico degli scambi tradizionali rispetto alle infrastrutture AI.

Liquid Inference si integra già con strumenti di coding agentic tra cui Claude, Codex, OpenCode, Cursor, Pi e Cline. Nuovi provider sono verificati in minuti invece che in settimane, e i pagamenti girano attraverso Stripe con registri dettagliati di ogni job ¹.

I primi 500 utenti ricevono $20 di inference gratuito, e un programma di referral paga il 20 percento delle commissioni riferite come crediti gratuiti.

Confrontare le opzioni

A differenza dell'approccio default-to-fastest di Hugging Face o del bilanciamento del carico price-weighted di OpenRouter, Liquid Inference fa un'asta di ogni richiesta su tutti i provider offerenti ¹. Si differenzia anche sui controlli dei dati: Liquid Inference supporta zero retention dei dati, requisiti di regione e allow list out of the box.

Il conteggio dei provider resta non divulgato per Liquid Inference, sebbene l'azienda descriva "centinaia" di modelli. Commissioni, dettagli della lista provider e dati di latenza non sono ancora pubblici.

Per team che già spendono sei figure per l'inference, il modello d'asta potrebbe introdurre una pressione significativa sui costi per i provider — e una visibilità significativa per gli acquirenti.

I fatti principali

• Liquid Inference fa un'asta di ogni richiesta LLM tra provider competitivi
• Prezzo massimo bloccato prima del primo token con ricevuta per-job
• Funziona con client OpenAI e Anthropic tra cui Claude Code e Cursor
• Primi 500 utenti ricevono $20 di inference gratuito; i referral guadagnano il 20 percento delle commissioni
• Commissioni, lista provider e dati di latenza non sono ancora pubblici

Fonti

1. Architect Launches Liquid Inference, a Real-Time Auction for LLM Inference — marktechpost.com
2. Mellum2.1 Gets to Work: A Fast Open Model for Coding Agents — blog.jetbrains.com
3. JetBrains Releases Mellum2.1: A 12B MoE Open Model for Coding Agents — marktechpost.com