vLLM

Servidor rápido para rodar modelos em produção

vllm.ai ↗
01

O que é

Motor de inferência aberto de alto desempenho: você sobe uma API compatível com a OpenAI para modelos abertos nas suas GPUs.

02

Etiquetas

  • inferência
  • servidor próprio
  • código aberto
  • GPU
  • compatível com OpenAI
03

Parecidas

Hugging Face

O grande hub dos modelos abertos

001

Centenas de milhares de modelos e datasets, demos no Spaces e bibliotecas de treinamento. É o ponto de partida de qualquer trabalho com código aberto.

codingFreemium

Docling

Processamento aberto de documentos da IBM

002

Lê PDF, Word e apresentações e os devolve como estrutura: títulos, tabelas, imagens, pronto para alimentar um modelo.

researchGrátis

Chunkr

Processamento de documentos para busca na base

003

Converte PDF e digitalizações em trechos rotulados preservando tabelas e estrutura, do que depende a qualidade da busca.

researchFreemium