Caso di studio
LMaaS
Servizio modelli self-hosted su Apple Silicon: API compatibile OpenAI per LLM locali, più ML train/serve/retrain dietro SemVer.
- Go
- React
- TypeScript
Problema
Le mie app avevano bisogno di inferenza locale su modelli linguistici e release ML versionate senza dipendere da un provider cloud a ogni chiamata.
Approccio
LMaaS è un servizio self-hosted su Apple Silicon: un'API Go compatibile OpenAI per modelli locali, più flussi train, serve e retrain dietro release SemVer, con una console React.
Risultato
Un desk modelli privato che i miei prodotti possono chiamare in locale, con console live e codice non pubblicato.