AnythingLLM, la opinión de Joute

Lo esencial en 20 segundos

Aplicación de escritorio (Mac, Windows, Linux) para RAG sobre tus propios documentos
Funciona 100% en local, ningún dato sale de tu ordenador
Compatible con Ollama, LM Studio y APIs cloud (OpenAI, Claude, Gemini)
Precio: gratuito, open source

Veredicto: La mejor solución no-code para RAG local sobre tus documentos. Privacy-first, multimodelo, sin fricción.

¿Qué es AnythingLLM?

AnythingLLM es una aplicación de escritorio open source que te permite crear workspaces de chat basados en tus propios documentos. Importas PDFs, archivos de texto, páginas web, repositorios de GitHub, y luego puedes hacer preguntas sobre ellos con el LLM que elijas.

Todo funciona en local. Ningún documento se envía a la nube si usas un modelo local a través de Ollama. Para documentos sensibles, es el setup ideal.

Puntos fuertes

Privacidad total posible

Con Ollama o LM Studio como backend, toda la cadena es local. Tus documentos, tus conversaciones, tu historial. Cero datos en la nube.

Multi-documentos, multi-workspaces

Puedes crear workspaces temáticos: uno para tu documentación técnica, uno para las notas de reuniones, uno para tu biblioteca de PDFs. Cada workspace está aislado.

Sin configuración técnica

La interfaz es gráfica. Importas documentos arrastrando y soltando. El chunking, el embedding, la indexación: todo es automático. Sin código, sin terminal.

Límites

Rendimiento local limitado por tu hardware

Con un modelo local en un Mac M1, las respuestas sobre corpus grandes pueden tardar entre 10 y 30 segundos. La experiencia es menos fluida que con una API cloud.

Sin colaboración multiusuario en local

AnythingLLM de escritorio es para un solo usuario. La versión cloud (Mintplex Labs) existe para equipos, pero sale del perímetro gratuito.

Precio

Escritorio: gratuito, open source (MIT)
AnythingLLM Cloud: planes de pago para equipos, precios en el sitio

Alternativas

Open WebUI para una interfaz web auto-alojable con Ollama
LM Studio para modelos locales sin RAG integrado
NotebookLM para RAG cloud sobre tus documentos, de Google

Veredicto

AnythingLLM es el setup más sencillo para RAG local sin comprometer la privacidad. Si tienes documentos que no quieres enviar a la nube pero quieres consultar en lenguaje natural, es lo primero que hay que instalar.

Preguntas frecuentes

¿AnythingLLM es compatible con archivos Excel y PowerPoint?

Sí. PDF, DOCX, PPTX, XLSX, TXT, CSV y otros formatos están soportados.

¿Se puede conectar AnythingLLM a un repositorio de GitHub?

Sí. Hay un conector nativo para importar el contenido de un repositorio de GitHub público o privado en un workspace.

¿Puede AnythingLLM acceder a Internet en tiempo real?

No por defecto. Es una herramienta de RAG sobre documentos estáticos. Se pueden configurar agentes web, pero es una función avanzada.

¿Qué tamaño de corpus es compatible?

Sin límite teórico. En la práctica, más allá de 10.000 páginas, el rendimiento de indexación puede ser lento según tu hardware.

AnythingLLM es open source y gratuito. Joute no recibe comisión por esta herramienta. Más información sobre nuestra política de afiliación.