Étude de cas
LMaaS
Service de modèles auto-hébergé sur Apple Silicon : API compatible OpenAI pour LLM locaux, plus ML train/serve/retrain derrière SemVer.
- Go
- React
- TypeScript
Problème
Mes propres apps avaient besoin d’inférence locale sur des modèles de langage et de releases ML versionnées sans dépendre d’un fournisseur cloud à chaque appel.
Approche
LMaaS est un service auto-hébergé sur Apple Silicon : une API Go compatible OpenAI pour des modèles locaux, plus des flux train, serve et retrain derrière des versions SemVer, avec une console React.
Résultat
Un bureau de modèles privé que mes produits peuvent appeler en local, avec une console en ligne et un code non publié.