Synapse — Gobernanza de IA interna

Contexto

Synapse es una plataforma interna de Thinkia para gobernar, asegurar y controlar el coste del uso de la IA en la organización: un único punto de acceso a modelos y agentes especializados, con trazabilidad y permisos centralizados.

Arquitectura

Sigue un patrón Hub-and-Spoke con servicios aislados en Docker:

• Hub (LibreChat): interfaz central de chat, identidad y configuración de agentes.
• Gateway (LiteLLM): proxy único para toda la inferencia LLM, con enrutado de modelos (Vertex AI, OpenAI…), control de costes y auditoría.
• Hands (N8N): automatización low-code para tareas reales (email, CRM, APIs) vía workflows OpenAPI.
• Brain (MCP): servidor pro-code (Model Context Protocol) para ejecutar código Python local de forma segura.

Qué hice

Construí la plataforma combinando y personalizando piezas open source, y desarrollando la capa de gobernanza propia:

• Pasarela unificada: toda la IA pasa por LiteLLM (sin claves directas), con abstracción de proveedor, presupuestos y auditoría en PostgreSQL.
• Sincronización de identidad: servicio propio (LiteLLMSync) que da de alta a cada usuario y aplica permisos en tiempo real entre LibreChat (MongoDB) y LiteLLM (PostgreSQL).
• MCP aislado (Dynamic Mapping): patrón que garantiza que cada agente solo accede a las herramientas asignadas, evitando "tool leakage" en un entorno multiusuario.
• Pipeline de agentes: despliegue versionado de agentes Python al marketplace, con modelos virtuales (Gemini 2.5 flash/pro), RBAC granular y coste por agente.
• Frontend corporativo: interfaz de LibreChat adaptada a la identidad de marca.

Funcionalidades

• Chat unificado con múltiples modelos y proveedores a través de LiteLLM.
• Agentes especializados por área (finanzas, legal, RRHH, IT…) desde un marketplace.
• Automatizaciones (N8N) y herramientas pro-code (MCP) conectables a los agentes.
• Gobernanza: auditoría completa, atribución de coste y presupuestos por usuario/equipo.
• Acceso corporativo: alta automática de usuarios y permisos gestionados por administración.

Stack

Arquitectura Docker multi-servicio: LibreChat (React/TS + Node) como hub, LiteLLM como gateway, N8N para automatización y un servidor MCP en Python; datos en MongoDB y PostgreSQL; modelos vía Vertex AI (Gemini 2.5) y OpenAI.