MACHINE LEARNING · Cerignola, Italia
Costruisco sistemi di machine learning e scrivo cosa succede mentre li costruisco.
Sviluppatore, autore di Insegnare alle Macchine. Lavoro su modelli linguistici, MLOps e sto imparando reinforcement learning.
Log
zerotok: backend a rami (sperimentale)
Questo aggiornamento aggiunge un secondo backend alla classificazione.
Decisioni da un LLM in 44 ms, senza generare testo
Come zerotok legge i logit di un LLM locale invece di farlo scrivere, cosa ha misurato il prefix caching e dove il metodo non funziona.
Progetti
zerotok
~44 ms/decisione con cache · AG News 88.5%Decisioni tipizzate da un LLM locale leggendo i logit, senza generare testo. Un solo forward pass per decisione, con prefix caching su llama.cpp.
GPT da zero
~40.7M parametri · loss ~2.8Un transformer in stile GPT da circa 40.7M parametri, scritto da zero in PyTorch senza nn.MultiheadAttention né pesi preaddestrati, e addestrato su 500.000 storie di TinyStories con una RTX 5060 Laptop.
RobThiel
eval loss 1.57 → 1.30 · 920 esempiEsperimento didattico di fine-tuning QLoRA su Qwen2.5-7B-Instruct, con un dataset di startup e marketing ispirato a Zero to One. Raddoppiando i dati la eval loss è scesa da 1.57 a 1.30, su una GPU laptop da 8GB.
Libro
IL LIBRO
Insegnare alle Macchine
Un'introduzione al machine learning in italiano, 185 pagine. Rivolto a chi conosce le basi di python e vuole imparare il machine learning classico bilanciando teoria e pratica
Disponibile su AmazonLavora con me
Prendo pochi progetti freelance alla volta, su cose in cui posso portare un risultato misurabile.
Automazione documenti
Smistamento e classificazione con LLM in locale, i dati non escono dallo studio.
Prototipo AI in due settimane
Un processo ripetitivo, un prezzo fisso, un prototipo che gira sui tuoi dati e un numero che dice se funziona.
Siti web
Siti vetrina semplici e veloci per piccole attività.