Log
zerotok: backend a rami (sperimentale)
Questo aggiornamento aggiunge un secondo backend alla classificazione.
Decisioni da un LLM in 44 ms, senza generare testo
Come zerotok legge i logit di un LLM locale invece di farlo scrivere, cosa ha misurato il prefix caching e dove il metodo non funziona.