llama.cpp

O motor para rodar LLMs em hardware comum

github.com/ggml-org/llama.cpp ↗
01

O que é

A base aberta do Ollama, LM Studio e muitos outros: roda modelos quantizados em CPU, Mac e placas de vídeo.

02

Etiquetas

  • rodar local
  • código aberto
  • modelos abertos
  • quantização
  • offline
03

Parecidas

Hugging Face

O grande hub dos modelos abertos

001

Centenas de milhares de modelos e datasets, demos no Spaces e bibliotecas de treinamento. É o ponto de partida de qualquer trabalho com código aberto.

codingFreemium

Docling

Processamento aberto de documentos da IBM

002

Lê PDF, Word e apresentações e os devolve como estrutura: títulos, tabelas, imagens, pronto para alimentar um modelo.

researchGrátis

Chunkr

Processamento de documentos para busca na base

003

Converte PDF e digitalizações em trechos rotulados preservando tabelas e estrutura, do que depende a qualidade da busca.

researchFreemium