vLLM

Servidor rápido para ejecutar modelos en producción

vllm.ai ↗
01

Qué es

Motor de inferencia abierto de alto rendimiento: levantas una API compatible con OpenAI para modelos abiertos en tus GPU.

02

Etiquetas

  • inferencia
  • servidor propio
  • código abierto
  • GPU
  • compatible con OpenAI
03

Parecidas

Hugging Face

El gran hub de los modelos abiertos

001

Cientos de miles de modelos y datasets, demos en Spaces y librerías de entrenamiento. Es el punto de partida de cualquier trabajo con código abierto.

codingFreemium

Docling

Procesamiento abierto de documentos de IBM

002

Lee PDF, Word y presentaciones y los devuelve como estructura: títulos, tablas, imágenes, listo para alimentar a un modelo.

researchGratis

Chunkr

Procesamiento de documentos para búsqueda en base

003

Convierte PDF y escaneos en fragmentos etiquetados conservando tablas y estructura, de lo que depende la calidad de la búsqueda.

researchFreemium