Marc ForsVolver al escritorio

Caso de estudio

LMaaS

Servicio de modelos autoalojado en Apple Silicon: API compatible con OpenAI para LLM locales, y ML con train/serve/retrain bajo SemVer.

Problema

Mis propias apps necesitaban inferencia local de modelos de lenguaje y releases de ML versionados sin depender de un proveedor cloud en cada llamada.

Enfoque

LMaaS es un servicio autoalojado en Apple Silicon: una API en Go compatible con OpenAI para modelos locales, más flujos de train, serve y retrain detrás de releases SemVer, con una consola React.

Resultado

Un escritorio de modelos privado al que mis productos pueden llamar en local, con consola en vivo y código sin publicar.