llama.cpp

El motor para ejecutar LLM en hardware común

github.com/ggml-org/llama.cpp ↗
01

Qué es

La base abierta de Ollama, LM Studio y muchos más: ejecuta modelos cuantizados en CPU, Mac y tarjetas gráficas.

02

Etiquetas

  • ejecutar en local
  • código abierto
  • modelos abiertos
  • cuantización
  • sin conexión
03

Parecidas

Hugging Face

El gran hub de los modelos abiertos

001

Cientos de miles de modelos y datasets, demos en Spaces y librerías de entrenamiento. Es el punto de partida de cualquier trabajo con código abierto.

codingFreemium

Docling

Procesamiento abierto de documentos de IBM

002

Lee PDF, Word y presentaciones y los devuelve como estructura: títulos, tablas, imágenes, listo para alimentar a un modelo.

researchGratis

Chunkr

Procesamiento de documentos para búsqueda en base

003

Convierte PDF y escaneos en fragmentos etiquetados conservando tablas y estructura, de lo que depende la calidad de la búsqueda.

researchFreemium