Crea tu propio Laboratorio de Inteligencia Artificial Local con un solo comando

Crea tu propio Laboratorio de Inteligencia Artificial Local con un solo comando
Video técnico en YouTube: Crea tu propio Laboratorio de Inteligencia Artificial Local con un solo comando

Contexto y problema de depender de nubes externas para IA

Enviar documentos internos, contratos, código fuente o bitácoras de red hacia APIs públicas de modelos de lenguaje implica costos recurrentes por token y riesgos directos de privacidad o cumplimiento corporativo. Muchas organizaciones necesitan experimentar con modelos abiertos (open weights), construir flujos de Generación Aumentada por Recuperación (RAG) y conectar agentes autónomos manteniendo el 100 % de los datos dentro de su propia red.

Nuestro proyecto abierto LLM-Lab empaqueta en un despliegue reproducible con Docker Compose todo el ecosistema necesario —Ollama, Open WebUI, n8n y Hermes Agent— para levantar un laboratorio privado en minutos sin instalar dependencias en tu sistema anfitrión.

Requisitos previos

  • Equipo Linux con Docker y Docker Compose v2 activos (al menos 16 GB de RAM recomendados; GPU NVIDIA con NVIDIA Container Toolkit opcional pero muy recomendable para baja latencia).
  • Al menos 30 GB de espacio libre en disco NVMe/SSD para descargar pesos de modelos cuantizados.
  • Git instalado para clonar el repositorio o copiar el manifiesto de composición.

Pasos de implementación rápida

1. Clonar llm-lab y levantar el stack en un paso

Descarga el repositorio oficial y despliega la pila completa con un único comando de arranque:

git clone https://github.com/tecno-consultores/llm-lab.git && cd llm-lab && docker compose up -d

Si prefieres inspeccionar primero la estructura básica de servicios entre Ollama y Open WebUI, la arquitectura de referencia en compose.yaml separa almacenamiento persistente e intercomunicación interna de esta manera:

services:
  ollama:
    image: ollama/ollama:latest
    container_name: llm-ollama
    restart: unless-stopped
    volumes:
      - ollama_models:/root/.ollama
    networks:
      - llm-net

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: llm-open-webui
    restart: unless-stopped
    ports:
      - "127.0.0.1:3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - openwebui_data:/app/backend/data
    depends_on:
      - ollama
    networks:
      - llm-net

volumes:
  ollama_models:
  openwebui_data:

networks:
  llm-net:
    driver: bridge

2. Descargar un modelo inicial en Ollama

Una vez levantados los contenedores, descarga un modelo compacto y eficiente para pruebas de conversación o programación:

docker exec -it llm-ollama ollama pull llama3.1:8b

Verificación del resultado

Comprueba la lista de modelos cargados dentro del contenedor y verifica que la interfaz web responda localmente en el puerto 3000:

docker exec llm-ollama ollama list
curl -I http://127.0.0.1:3000

Al abrir http://localhost:3000 podrás registrar tu cuenta administradora inicial en Open WebUI y comenzar a consultar modelos locales o adjuntar documentos en colecciones RAG sin tráfico saliente hacia proveedores externos.

Buenas prácticas de seguridad

  • No expongas el puerto 11434 de Ollama hacia Internet: La API de Ollama no incorpora autenticación nativa por defecto; mantenla accesible únicamente dentro de la red interna de Docker o detrás de un proxy autenticado.
  • Desactiva el registro abierto en Open WebUI tras crear el administrador: En la configuración de administración, bloquea nuevas altas públicas y exige roles definidos para cada usuario.
  • Respalda periódicamente volúmenes de conocimiento y flujos n8n: Incluye los volúmenes de datos (openwebui_data y credenciales cifradas de n8n) en tu rutina de respaldo corporativo 3-2-1.

Si deseas llevar un laboratorio privado de Inteligencia Artificial y RAG a producción empresarial, ofrecemos consultoría para el diseño, la implementación, el despliegue y el mantenimiento continuo de plataformas LLM desde Valencia, Estado Carabobo (Contáctanos).