Модели и API

Hugging Face

Главный хаб открытых моделей

001

Сотни тысяч моделей и датасетов, демо-приложения Spaces и библиотеки для обучения. Точка старта для любой работы с open source.

Docling

Открытый разбор документов от IBM

002

Читает PDF, Word и презентации и отдаёт их структурой: заголовки, таблицы, картинки — пригодно для подачи в модель.

Chunkr

Разбор документов для поиска по базе

003

Превращает PDF и сканы в размеченные куски с сохранением таблиц и структуры — то, от чего зависит качество поиска по документам.

Dropzone AI

Разбор тревог вместо дежурного аналитика

004

Берёт поток оповещений, сам проверяет каждое по журналам и приносит разбор с выводом, настоящая это угроза или шум.

BAML

Язык для описания вызовов модели

005

Функция с типами входа и выхода описывается отдельным файлом, а клиент для Python и TypeScript генерируется из него автоматически.

Ragas

Оценка поиска по документам

006

Считает, насколько ответ опирается на найденные фрагменты и не выдумал ли модель лишнего — для приложений, которые ищут по своей базе.

Agenta

Промпты, версии и оценки в одном месте

007

Открытая площадка, где можно сравнить несколько вариантов промпта и модели на одном наборе примеров и показать результат команде.

Prophet Security

Автоматическое расследование инцидентов

008

Проверяет каждое оповещение по всем доступным источникам и пишет разбор с доказательствами, не оставляя тревоги без ответа.

Abnormal

Защита почты по поведению, а не по спискам

009

Учится на том, как обычно переписываются сотрудники, и ловит письма с подменой отправителя и просьбами о переводе денег.

Protect AI

Проверка моделей на закладки

010

Сканирует файлы моделей и цепочку их поставки, потому что скачанные веса могут содержать исполняемый код.

Outlines

Гарантированный формат ответа

011

Ограничивает генерацию так, что модель физически не может выдать неправильный JSON или выйти за заданный шаблон.

NeMo Guardrails

Правила разговора, записанные отдельно от промпта

012

Открытый набор от NVIDIA, где допустимые и запрещённые повороты диалога описываются своим языком, а не прячутся в инструкции модели.

Guardrails AI

Рамки для ответов модели

013

Проверяет ответ по заданным правилам — формат, отсутствие персональных данных, следование теме — и переспрашивает модель, если правило нарушено.

Vectra AI

Обнаружение атак внутри сети

014

Следит за тем, что происходит между машинами уже за периметром, и показывает цепочку действий злоумышленника.

Instructor

Ответ модели сразу в нужную структуру

015

Описываешь ожидаемый результат схемой, а библиотека сама переспрашивает модель, пока ответ не сойдётся с описанием.

DeepEval

Тесты для ответов модели как для кода

016

Открытая библиотека, где проверки качества ответов пишутся обычными тестами и запускаются в той же сборке, что и остальной код.

Phoenix

Разбор того, что происходит внутри цепочки

017

Открытый инструмент для просмотра вызовов модели по шагам: видно, какой текст ушёл, что вернулось и где потерялось качество.

Darktrace

Поиск странного в сетевом трафике

018

Строит представление о нормальной жизни сети и поднимает тревогу на отклонениях, не опираясь на известные подписи вирусов.

Mirascope

Вызовы модели обычными функциями Python

019

Превращает обращение к модели в простую функцию с подсказками типов, не навязывая собственную большую архитектуру.

Surge AI

Разметка данных людьми под обучение

020

Собирает оценки и сравнения ответов живыми исполнителями — то, на чём держится дообучение моделей на человеческих предпочтениях.

Cleanlab

Поиск ошибок в самих данных

021

Находит неверно размеченные примеры, дубли и выбросы в обучающем наборе — то, что портит качество незаметно для метрик.

Argilla

Открытая среда для разметки текста

022

Позволяет команде размечать и чистить обучающие наборы вручную, споря о спорных примерах и фиксируя решения.

Neuphonic

Синтез речи с минимальной задержкой

023

Озвучивает текст достаточно быстро для живого разговора и умеет работать прямо на устройстве, без обращения в облако.

Koyeb

Развёртывание приложений и моделей без серверов

024

Запускает контейнеры и модели на видеокартах по всему миру, масштабируя до нуля, когда запросов нет.

Northflank

Платформа для приложений и обучения моделей

025

Собирает, разворачивает и следит за сервисами, базами и задачами на видеокартах в одном месте — своём или арендованном облаке.

Inferless

Запуск своей модели без простоя

026

Поднимает модель на видеокарте только под запрос и гасит после, поэтому платишь за секунды работы, а не за аренду круглые сутки.

Nscale

Кластеры под обучение больших моделей

027

Европейский оператор дата-центров на возобновляемой энергии, который сдаёт целые кластеры видеокарт под длинные обучения.

LMNT

Озвучка для разговора в реальном времени

028

Выдаёт речь потоком с задержкой в десятки миллисекунд, что нужно голосовым агентам, и умеет клонировать голос.

Unreal Speech

Дешёвая озвучка по API

029

Делает ставку на цену за символ, поэтому подходит там, где озвучивать надо много и постоянно — книги, рассылки, уведомления.

Zyphra

Небольшие модели и открытый синтез речи

030

Делает компактные модели, которые работают на скромном железе, и выкладывает открытые модели озвучки с клонированием голоса.

Sieve

Обработка видео через готовые блоки

031

Набор функций для видео и звука — распознать речь, найти лица, нарезать по сценам — которые соединяются в конвейер по API.

Segmind

Модели картинок и видео одним запросом

032

Отдаёт десятки открытых моделей по API без развёртывания и позволяет собирать из них цепочки обработки.

Crusoe

Видеокарты на попутной энергии

033

Строит дата-центры там, где газ всё равно сжигался бы впустую, и за счёт этого даёт более дешёвые вычисления под обучение.

OVHcloud AI

Обучение и инференс в европейском облаке

034

Готовые среды для обучения, развёртывание своих моделей и вызов открытых по API — с понятными ценами и европейской юрисдикцией.

Nebius

Облако с видеокартами и готовыми моделями

035

Европейская инфраструктура под обучение и инференс: аренда карт, кластеры и вызов открытых моделей по API.

Scaleway

Европейское облако с ИИ-сервисами

036

Французский поставщик с арендой видеокарт и вызовом моделей по API, с хранением данных внутри Европы.

Imagen

Модель Google для генерации картинок

037

Рисует по описанию с аккуратной передачей текста на изображении. Доступна через облако Google и студию разработчика.

LocalAI

Своя замена облачному API моделей

038

Поднимает у себя сервер с тем же интерфейсом, что у популярных облаков, поэтому код приложения менять не нужно. Работает и без видеокарты.

Latitude

Работа над промптами как над кодом

039

Хранит промпты с версиями, прогоняет их на наборах примеров и показывает, какая версия отвечает лучше. Открытый код.

Whisper JAX

Ускоренная расшифровка на Whisper

040

Переписанная под JAX реализация модели Whisper, которая обрабатывает длинные записи заметно быстрее исходной.

Coqui TTS

Открытый набор для синтеза речи

041

Библиотека с готовыми моделями озвучки и клонирования голоса, которую можно обучить на своём языке и держать у себя.

Picovoice

Распознавание речи прямо на устройстве

042

Голосовые команды и слова-активаторы работают без интернета, на телефоне или микроконтроллере, поэтому звук не покидает устройство.

Faster Whisper

Whisper, который экономит память

043

Та же модель на движке CTranslate2: работает в несколько раз быстрее и помещается на скромной видеокарте.

AudioCraft

Модели Meta для музыки и звуков

044

Открытый набор с MusicGen и AudioGen: генерирует музыку по описанию и отдельные звуковые эффекты. Запускается у себя.

WhisperX

Расшифровка с точными временами слов

045

Добавляет к Whisper выравнивание по словам и разделение говорящих, поэтому годится для субтитров и для разбора переговоров.

Demucs

Разделение песни на дорожки

046

Разбирает запись на вокал, барабаны, бас и остальное с качеством, которое долго было лучшим среди открытых решений.

Bark

Генерация речи со вздохами и смехом

047

Модель, которая умеет не только слова, но и невербальные звуки, музыкальные вставки и разные языки. Веса открыты.

Piper

Быстрый синтез речи на слабом железе

048

Озвучивает текст локально и успевает делать это даже на одноплатном компьютере, поэтому его ставят в домашние голосовые системы.

Vespa

Поиск и выдача на больших объёмах

049

Движок, который держит текстовый и векторный поиск вместе с ранжированием моделью на миллиардах документов. Вырос из поиска Yahoo.

Marqo

Векторный поиск со встроенными векторами

050

Сам считает представления для текста и картинок, так что отдельная модель вложений не нужна — достаточно загрузить документы.

Aidoc

Сортировка радиологических исследований

051

Просматривает снимки в потоке и поднимает наверх те, где видны признаки острого состояния, чтобы их посмотрели первыми.

Corti

Разбор медицинских разговоров в реальном времени

052

Слушает приём или вызов скорой и подсказывает уточняющие вопросы, помогая не пропустить важный симптом.

Deepchecks

Тесты для моделей и приложений на них

053

Набор проверок, которые ловят утечки в данных, перекосы в выборке и ухудшение ответов после смены промпта или модели.

Confident AI

Оценка качества ответов модели

054

Платформа вокруг открытой библиотеки DeepEval: прогоняет наборы тестов, сравнивает версии промптов и показывает, что именно ухудшилось.

Viz.ai

Раннее выявление инсульта по снимкам

055

Разбирает томограммы сразу после съёмки и собирает нужных врачей в один чат, когда находит признаки угрозы.

Qure.ai

Чтение рентгена там, где нет радиолога

056

Разбирает снимки грудной клетки и головы и даёт заключение, что особенно важно для стран с нехваткой специалистов.

Tempus

Данные и модели для точной медицины

057

Собирает клинические и геномные данные и строит на них подсказки по лечению, прежде всего в онкологии.

Lunit

Поиск опухолей на маммографии

058

Отмечает подозрительные участки на снимках груди и в гистологии, работая вторым мнением рядом с врачом.

PathAI

Анализ гистологических снимков

059

Разбирает оцифрованные препараты и помогает патологу оценить образец, а фармкомпаниям — подбирать пациентов в исследования.

Moonshot AI

Создатель Kimi и очень длинного контекста

060

Лаборатория, которая первой сделала ставку на работу с огромными документами, и выпускает открытые модели серии Kimi.

01.AI

Модели Yi с открытыми весами

061

Лаборатория Кай-Фу Ли, которая выпускает двуязычные модели Yi и продаёт доступ к ним. Веса базовых версий доступны для своего запуска.

StepFun

Китайские многомодальные модели

062

Делает семейство Step, которое работает с текстом, картинками и звуком сразу. Доступ по API и через собственное приложение.

SenseTime

Видеоаналитика и модели SenseNova

063

Крупный китайский разработчик компьютерного зрения, который теперь продаёт и языковые модели семейства SenseNova.

iFlytek Spark

Китайская модель с сильной речью

064

Отвечает и пишет тексты, но заметнее всего в распознавании и синтезе речи — это исторически основной профиль компании.

Tencent Hunyuan

Модели Tencent для текста, картинок и видео

065

Линейка Hunyuan закрывает сразу несколько задач, а часть версий выложена с открытыми весами для своего запуска.

Z.ai

Чат на моделях GLM

066

Отвечает, пишет код и разбирает файлы на моделях семейства GLM, часть которых выложена с открытыми весами.

NtechLab

Распознавание лиц и силуэтов на видео

067

Находит людей в потоке камер по лицу, одежде и силуэту, работает на городских системах видеонаблюдения. Поставляется как SDK и как сервер.

Cloud.ru

Российское облако с моделями по API

068

Даёт аренду видеокарт, готовые модели и инструменты обучения с оплатой в рублях и хранением данных внутри страны.

3DiVi

Компьютерное зрение для своих приложений

069

Набор библиотек для распознавания лиц, оценки позы и подсчёта людей, который работает прямо на устройстве без облака.

GigaChat

Русская языковая модель Сбера

070

Отвечает на вопросы, пишет тексты и код, рисует картинки. Доступен в приложении, в Телеграме и по API с оплатой в рублях.

Lambda

Аренда видеокарт под обучение

071

Облако, собранное вокруг графических процессоров: часовая аренда, готовые образы и кластеры под обучение больших моделей. Есть и доступ к готовым моделям по API.

Black Forest Labs

Модели FLUX для картинок

072

Лаборатория выходцев из Stable Diffusion, которая делает семейство FLUX — одно из сильнейших в генерации изображений. Веса части моделей открыты.

Bria

Картинки с чистыми правами

073

Генерирует и редактирует изображения на моделях, обученных только на лицензированных данных, поэтому результат можно использовать в рекламе без споров об авторстве.

Anthropic

Создатель моделей Claude

074

Исследовательская компания, которая делает Claude и продаёт доступ к нему по API. Отдельно публикует работы по безопасности моделей.

AI21 Labs

Модели Jamba и готовые решения

075

Израильская лаборатория с линейкой Jamba, которая умеет держать очень длинный контекст. Продаёт API и отраслевые сборки для бизнеса.

SambaNova

Быстрый инференс на своих чипах

076

Запускает открытые модели на собственном железе и выдаёт заметно больше токенов в секунду, чем обычные видеокарты. Доступ по API и в закрытом контуре.

Marker

PDF в размеченный текст

077

Переводит документы в разметку с заголовками, формулами и таблицами, заметно аккуратнее простого извлечения текста.

Veryfi

Данные из чека за секунды

078

Распознаёт чеки и счета без ручной доводки шаблонов и отдаёт поля по API, ориентируясь на бухгалтерские задачи.

Instabase

Поток неструктурированных документов в данные

079

Собирает конвейер разбора для банков и страховых: распознать, проверить, отдать в систему — с участием человека на спорных местах.

Klippa

Разбор чеков, счетов и документов

080

Вытаскивает поля из финансовых документов и удостоверений, проверяя подлинность и подставляя данные в учётную систему.

Ultralytics

Создатели YOLO для распознавания объектов

081

Популярные открытые модели YOLO для детекции, сегментации и трекинга плюс облачная платформа для обучения на своих данных.

SuperAnnotate

Настраиваемая разметка для обучения LLM и зрения

082

Конструктор интерфейсов для разметки любых задач, включая оценку ответов моделей, плюс команда асессоров.

LanceDB

Мультимодальное хранилище данных для обучения AI

083

Хранит тексты, картинки, видео и векторы в одной таблице и ускоряет отбор данных и подготовку признаков для обучения моделей. Открытый формат Lance.

Jina AI

Эмбеддинги, реранкинг и чтение веба для поиска

084

Мультиязычные модели эмбеддингов и реранкеров и Reader API, который превращает любую страницу в чистый текст для LLM.

Voyage AI

Точные эмбеддинги для поиска и RAG

085

Модели векторных представлений и реранкеры, в том числе для кода, юридических и финансовых текстов. Входит в MongoDB.

Turbopuffer

Дешёвый векторный и полнотекстовый поиск на объектном хранилище

086

Хранит индексы в S3, поэтому поиск по огромным объёмам стоит в разы дешевле. Используется Cursor, Notion и другими.

Databricks

Данные и AI компании на одной платформе

087

Хранилище и обработка данных, обучение моделей и агенты, которые работают прямо на корпоративных данных, плюс AI/BI для вопросов обычным языком.

Landing AI

Точное извлечение данных из сложных документов

088

Компания Эндрю Ына: разбирает PDF с таблицами, графиками и формами в структурированные данные для RAG и автоматизации.

Gemini Enterprise Agent Platform

Корпоративная AI-платформа Google Cloud (бывший Vertex AI)

089

Gemini, Claude и открытые модели в одном облаке, плюс инструменты, чтобы строить, масштабировать и контролировать агентов с защитой данных компании.

llama.cpp

Движок для запуска LLM на обычном железе

090

Открытая основа Ollama, LM Studio и многих других: запускает квантованные модели на процессоре, Mac и видеокартах.

vLLM

Быстрый сервер для запуска моделей в продакшене

091

Открытый движок инференса с высокой пропускной способностью: поднимаете OpenAI-совместимый API для открытых моделей на своих GPU.

Zilliz

Облачная векторная база на основе Milvus

092

Управляемая версия открытой Milvus для поиска по миллиардам векторов в RAG, рекомендациях и поиске по картинкам.

Cloudflare Workers AI

Запуск открытых моделей в сети Cloudflare

093

Вызываете модели для текста, картинок и речи прямо из Workers, близко к пользователю, с бесплатной суточной квотой.

Mixedbread

Готовый поиск по документам для AI-приложений

094

Загружаете файлы — сервис сам разбирает, индексирует и ищет по ним, включая картинки и таблицы. Открытые модели эмбеддингов.

Amazon Bedrock

Модели Claude, Llama и других в AWS

095

Единый доступ к моделям разных компаний внутри инфраструктуры AWS, с базами знаний, агентами и защитными фильтрами.

Microsoft Foundry

Платформа Microsoft для моделей и агентов (бывший Azure AI Foundry)

096

Модели OpenAI и тысячи других в Azure, конструктор агентов, оценка и мониторинг в корпоративной среде Microsoft.

Encord

Слой данных для физического AI и роботов

097

Управляет, отбирает и размечает петабайты данных — от сенсоров и видео до текста — для команд, которые обучают роботов, беспилотники и мультимодальные модели.

Snorkel AI

Экспертные данные и оценка для AI-лабораторий

098

Создаёт наборы данных с участием экспертов и программную разметку, чтобы дообучать и тестировать модели в специализированных областях.

IBM watsonx

AI-платформа IBM с упором на контроль и соответствие

099

Модели Granite и сторонние модели, инструменты для агентов и строгий контроль рисков и регуляторных требований для крупных компаний.

Roboflow

Компьютерное зрение от разметки до запуска

100

Размечаете фото, обучаете модель распознавания объектов и разворачиваете её на камере, сервере или телефоне без глубоких знаний ML.

Clarifai

Платформа для запуска моделей и компьютерного зрения

101

Одна из старейших AI-платформ: инференс любых моделей на своих или облачных GPU, модерация и распознавание изображений.

Vectara

Корпоративная платформа надёжных AI-агентов

102

Строит агентов на данных компании с защитными правилами и контролем достоверности ответов, чтобы их можно было безопасно выпускать к клиентам.

Pinokio

Установка AI-программ на компьютер в один клик

103

Браузер-лаунчер, который сам скачивает и настраивает ComfyUI, генераторы видео, клоны голоса и другие открытые проекты.

Mistral AI

Французская лаборатория с открытыми и быстрыми моделями

104

API к моделям Mistral для текста, кода и распознавания документов, многие веса открыты. Есть развёртывание у себя для компаний.

NVIDIA NIM

Оптимизированные модели от NVIDIA для запуска где угодно

105

Каталог моделей в виде готовых контейнеров: пробуете через бесплатный API, а потом разворачиваете на своих GPU.

SiliconFlow

Быстрый API к китайским и мировым открытым моделям

106

DeepSeek, Qwen, GLM, Kimi и другие модели через единый API с высокой скоростью и низкой ценой.

Novita AI

API моделей и облачные GPU для разработчиков

107

Открытые модели для текста, изображений и видео по API, плюс аренда GPU и песочницы для агентов.

Unsloth

Обучение и запуск моделей на своём компьютере

108

Открытое настольное приложение без кода: дообучаете и запускаете открытые модели локально. В основе — быстрая библиотека для fine-tuning.

DeepInfra

Дешёвый API к открытым моделям

109

Сотни открытых моделей для текста, картинок и речи через OpenAI-совместимый API с оплатой за токены.

Hyperbolic

Недорогие GPU и инференс открытых моделей

110

Аренда видеокарт по часам и API к популярным открытым моделям по низкой цене. Для экспериментов и стартапов.

Vast.ai

Маркетплейс аренды видеокарт

111

Арендуете GPU у дата-центров и частных владельцев в разы дешевле крупных облаков — для обучения и запуска моделей.

Labelbox

Данные для обучения с подкреплением для AI-лабораторий

112

Готовит среды, оценки и экспертные данные для RL и дообучения передовых моделей; работает с большинством ведущих американских лабораторий.

Scale AI

Данные для обучения крупнейших моделей

113

Готовит размеченные данные и оценки для AI-лабораторий, правительств и компаний, публикует рейтинги моделей.

Lakera

Защита AI-приложений от prompt injection

114

Проверяет входящие запросы и ответы модели в реальном времени, блокирует взломы, утечки данных и вредный контент.

xAI API

API к моделям Grok от xAI

115

Доступ к моделям Grok для приложений: длинный контекст, работа с изображениями, вызов инструментов и поиск по X в реальном времени.

Label Studio

Открытая разметка данных для обучения моделей

116

Размечаете тексты, картинки, аудио и видео в одном интерфейсе, подключаете модель для предразметки. Разворачивается у себя.

Inworld

Синтез и распознавание речи в реальном времени для приложений

117

Быстрые модели TTS и STT и запуск языковых моделей через модульные API. Рассчитано на массовые приложения, где важны задержка и цена голоса.

ComfyUI

Узловой конструктор для генерации картинок и видео

118

Собираете пайплайн из блоков: модели, ControlNet, апскейл, видео. Работает локально с открытыми моделями, есть облачная версия.

Automatic1111

Классический веб-интерфейс Stable Diffusion

119

Запускаете генерацию на своей видеокарте с сотнями расширений: inpainting, ControlNet, LoRA и пакетная обработка.

Wan

Открытые видеомодели Alibaba

120

Генерация видео по тексту и картинке с открытыми весами: можно пробовать на сайте или запускать у себя, например в ComfyUI.

Promptfoo

Тестирование промптов и взлом своего AI

121

Сравнивает ответы моделей на наборе тестов и атакует ваше AI-приложение, чтобы найти утечки, jailbreak и опасные ответы до релиза.

Lightning AI

Облачные студии для обучения моделей

122

Среда разработки с GPU в браузере: обучаете и дообучаете модели, запускаете API и платите за минуты. От авторов PyTorch Lightning.

LiteLLM

Один API для сотни моделей

123

Открытый шлюз, через который приложение обращается к OpenAI, Anthropic, Gemini и другим одинаково, с учётом расходов, лимитами и резервными моделями.

LangSmith

Отладка и оценка LLM-приложений

124

Показывает каждый шаг агента или цепочки, собирает датасеты и прогоняет оценки качества. От команды LangChain, но работает с любым кодом.

Blackbox AI

Защищённый инференс открытых моделей

125

Запускает выбранную открытую модель на выделенных мощностях с шифрованием запросов или маршрутизирует сотни моделей через один эндпоинт. Для компаний, которым важны приватность и скорость.

Personal AI

Память и инфраструктура агентов для операторов связи

126

Платформа для телеком-компаний: память, идентификация и запуск моделей прямо в сети оператора, чтобы абоненты пользовались AI-агентами без установки приложений.

GPT4All

Бесплатный чат с моделями без интернета

127

Приложение от Nomic запускает открытые модели прямо на ноутбуке, даже без видеокарты, и отвечает по вашим локальным файлам.

ChatGLM

Ассистент Zhipu на моделях GLM

128

Китайская лаборатория Zhipu с сильными открытыми моделями GLM: чат, анализ файлов и агентные задачи. Бесплатный доступ в браузере.

Qwen Chat

Ассистент Alibaba на моделях Qwen

129

Отвечает на вопросы, пишет код и разбирает документы, умеет генерировать картинки и видео. Работает на открытых моделях Qwen и бесплатен.

Msty

Локальные и облачные модели в одном приложении

130

Настольное приложение: запускаете модели у себя или подключаете облачные, сравниваете ответы и ведёте разговоры с документами. Данные остаются на компьютере.

Qdrant

Быстрый векторный поиск на Rust

131

Открытая векторная база с фильтрами и гибридным поиском, есть облако и установка к себе.

Pinecone

Управляемая векторная база для RAG

132

Хранит эмбеддинги и ищет по смыслу без администрирования серверов, масштабируется сама. Одна из самых популярных.

Giskard

Ищет уязвимости и ошибки в LLM-приложениях

133

Автоматически прогоняет бота на атаки, галлюцинации и предвзятость и выдаёт отчёт. Есть открытая библиотека.

Open WebUI

Свой ChatGPT на своём сервере

134

Открытый интерфейс для локальных моделей через Ollama и для облачных API, с пользователями, документами и поиском.

Anyscale

Масштабирует AI-нагрузки на Ray

135

Платформа от создателей Ray: разносит обучение, инференс и обработку данных по кластеру без ручной настройки. Для команд с тяжёлыми вычислениями.

Fiddler AI

Мониторинг и объяснимость моделей

136

Показывает, почему модель приняла решение, следит за дрейфом и качеством LLM-ответов. Для отраслей с жёсткими требованиями.

LibreChat

Открытый интерфейс чата под любые модели

137

Похож на ChatGPT, но подключается к десяткам моделей разом и ставится на свой сервер для всей команды.

Weaviate

Открытая векторная база с гибридным поиском

138

Совмещает поиск по смыслу и по ключевым словам, умеет сама строить эмбеддинги. Облако или установка к себе.

AnythingLLM

Чат с вашими документами на своём компьютере

139

Приложение, где загружаете файлы и спрашиваете по ним, подключая любую модель — локальную или облачную. Данные остаются у вас.

Unstructured

Приводит документы в порядок для моделей

140

Превращает PDF, презентации, письма и сканы в чистые фрагменты текста, готовые для RAG. Есть открытая библиотека.

Chroma

Открытая векторная база для RAG

141

Хранит эмбеддинги и ищет по смыслу — основа для поиска по документам в AI-приложениях. Ставится одной командой.

Jan

Открытый чат с моделями без интернета

142

Настольное приложение: скачиваете модель и общаетесь с ней локально, данные никуда не уходят. Можно подключить и облачные API.

Milvus

Векторная база для больших объёмов

143

Открытая база для поиска по смыслу на миллиардах векторов, основа для RAG и рекомендаций. Облачная версия — Zilliz.

Arthur AI

Контроль моделей и защита LLM-ответов

144

Следит за качеством моделей в проде и фильтрует опасные ответы LLM: утечки данных, выдуманные факты, токсичность.

Patronus AI

Исследования симуляций для обучения AI

145

Лаборатория строит симулированные среды и цифровые модели мира, в которых обучают и проверяют AI-агентов перед реальными задачами.

Twelve Labs

Модели, которые понимают видео

146

Ищут нужный момент внутри часов видео по описанию и составляют сводку ролика. Через API для медиа и архивов.

AI21 Studio

Модели AI21 Labs по API

147

Платформа израильской лаборатории AI21 с моделями семейства Jamba, рассчитанными на длинный контекст. Ориентирована на корпоративные задачи.

ModelScope

Хаб открытых моделей от Alibaba

148

Каталог моделей и демо, особенно богат китайскими открытыми моделями. Можно запускать прямо в браузере.

PromptLayer

Хранилище и версии промптов

149

Ведёт историю изменений промптов, логирует запросы и прогоняет оценки, чтобы править без программиста.

LlamaIndex

Подключает ваши данные к моделям

150

Фреймворк для RAG и агентов плюс сервис LlamaParse, который аккуратно разбирает сложные PDF с таблицами.

Google AI Studio

Песочница для моделей Gemini

151

Бесплатно пробуете Gemini в браузере, настраиваете промпт и сразу получаете ключ API и код для своего проекта.

DataRobot

Корпоративная платформа для ML и агентов

152

Строит, проверяет и выкатывает модели и AI-приложения с контролем качества и соответствия требованиям. Для крупных компаний.

Runpod

Дешёвая аренда GPU по секундам

153

Поднимает контейнер с видеокартой за секунды, есть и постоянные машины, и serverless-режим. Популярен у тех, кто считает деньги.

SambaNova Cloud

Инференс открытых моделей на своих чипах

154

Собственное железо даёт высокую скорость на больших открытых моделях. Есть развёртывание в контуре заказчика.

Cerebras Inference

Самый быстрый отклик на своих чипах

155

Огромный чип целиком держит модель, поэтому токены идут в разы быстрее, чем на видеокартах. Заметно в голосе и длинных рассуждениях.

Modal

Запуск Python-функций на GPU из кода

156

Обычная функция превращается в облачную задачу декоратором, инфраструктура поднимается сама. Популярен для инференса и обработки данных.

Baseten

Разворачивает свои модели как сервис

157

Берёт вашу модель и превращает её в масштабируемый эндпоинт с автоскейлингом и мониторингом. Нужен, когда своя модель уходит в продакшен.

ClearML

Платформа для управления GPU и ML-процессами

158

Управляет кластерами видеокарт, распределяет вычисления между командами и помогает запускать обучение и генеративные модели в продакшене. Открытый код в основе.

Mem0

Mem0: память для AI-приложений

159

Mem0 — инфраструктура памяти для AI-приложений и агентов. Сервис помогает сохранять контекст между взаимодействиями и использовать его в последующих задачах.

Lambda AI

Аренда видеокарт для обучения моделей

160

Даёт доступ к машинам с топовыми GPU по часам или в долгую, вместе с готовым окружением. Берут исследователи и ML-команды.

Comet ML

Наблюдение и тестирование AI-агентов (Opik)

161

Логирует каждый шаг агента, ловит тихие ошибки, прогоняет тесты и оптимизирует промпты. Прежний учёт ML-экспериментов тоже на месте.

Portkey

Шлюз к моделям с контролем и безопасностью

162

Единая точка доступа к сотням моделей с кешем, лимитами, резервированием и учётом расходов. Сейчас входит в Palo Alto Networks как Prisma AIRS AI Gateway.

Weights & Biases

Учёт экспериментов для ML-команд

163

Записывает каждый запуск обучения с графиками и артефактами, чтобы сравнивать подходы. Есть отдельный контур для LLM-приложений.

Fireworks AI

Быстрый инференс открытых моделей

164

Держит популярные открытые модели с высокой скоростью отдачи и позволяет дообучать их под себя. Оплата по токенам.

Arize AI

Следит за качеством моделей в проде

165

Показывает, где модель начала ошибаться и как менялось качество ответов со временем. Есть отдельный контур для оценки LLM-приложений.

Cerebrium

Serverless-платформа для ML-нагрузок

166

Разворачивает модель или обработку на GPU без настройки серверов, масштабируясь под нагрузку. Оплата идёт за время работы.

Reka AI

Модели, понимающие видео и звук

167

Работают не только с текстом и картинками, но и с видеорядом и аудио в одном запросе. Можно развернуть в своём контуре.

Helicone

Логи и расходы по запросам к моделям

168

Пишет каждый запрос к LLM с ценой, задержкой и ответом, чтобы видеть, куда уходят деньги. Подключается одной строкой в коде.

MLflow

Открытый стандарт учёта ML-экспериментов

169

Записывает параметры и метрики обучения, хранит модели и следит за их версиями. Стал де-факто стандартом в ML-командах.

Beam

Запуск кода на GPU по требованию

170

Поднимает вычисления на видеокартах из обычного Python-скрипта и гасит их, когда работа кончилась. Платите за секунды, а не за простаивающий сервер.

Cohere Command

Модели под задачи бизнеса и поиска

171

Заточены под корпоративные сценарии: поиск по базе документов, классификация, эмбеддинги. Можно развернуть в своём контуре.

CoreWeave AI

Облако видеокарт под обучение и инференс

172

Даёт кластеры GPU в аренду для тяжёлых нагрузок — обучения больших моделей и массового инференса. Работает с крупными AI-командами.

Braintrust

Проверяет, стало ли AI-приложение лучше

173

Прогоняет ваши промпты на наборах примеров и показывает, что улучшилось, а что сломалось после правки. Нужен, чтобы не чинить вслепую.

Hume AI

Оценка голосовых AI людьми через API

174

Даёт командам, которые делают голосовых ассистентов и синтез речи, быстрые оценки реальных людей: естественность, эмоции, качество диалога — одним запросом к API.

Resemble AI

Обнаружение дипфейков и водяные знаки для компаний

175

В реальном времени проверяет голос, видео и изображения на подделку и помечает сгенерированный контент водяными знаками. Работает в облаке или у заказчика.

Simpledot

Десятки моделей в одной подписке

176

Отправляет один запрос сразу нескольким моделям и помогает выбрать лучший ответ. Удобно, чтобы сравнивать модели на своих задачах без отдельных подписок.

Varo Cloud

Больше 500 моделей в одном облаке

177

Объединяет сотни моделей для изображений, видео, аудио и языка в одном интерфейсе. Подходит разработчикам и создателям для сравнения и запуска моделей.

fal

Быстрый запуск генеративных моделей

178

Инференс моделей изображений, видео и звука по API с упором на скорость. Удобен, когда генерация встраивается в собственный продукт.

Claude Platform

Модели Claude по API для разработчиков

179

Платформа Anthropic для встраивания Claude в продукты: длинный контекст, вызов инструментов, кеширование промптов и пакетные запросы. Бывшая консоль Anthropic API.

OpenRouter

Один API ко всем моделям

180

Единая точка входа к моделям разных провайдеров с общим биллингом и автоматическим переключением при сбоях.

LangChain

Фреймворк для AI-приложений

181

Библиотека для сборки цепочек, RAG и агентов на Python и TypeScript. В комплекте инструменты трассировки и оценки качества.

Together AI

Облако для открытых моделей

182

Инференс, дообучение и выделенные инстансы для открытых моделей с оплатой за токены.

Whisper

Открытая модель распознавания речи

183

Переводит аудио в текст на десятках языков, работает локально и бесплатно. Основа множества сервисов транскрипции.

LM Studio

Локальные модели с интерфейсом

184

Настольное приложение: скачиваете модель из каталога и общаетесь с ней офлайн, есть совместимый с OpenAI локальный сервер.

Groq

Экстремально быстрый инференс

185

Собственные чипы дают отклик в разы быстрее обычных GPU — заметно на голосовых и интерактивных сценариях.

Replicate

Запуск открытых моделей по API

186

Тысячи готовых моделей запускаются одним HTTP-запросом с оплатой по секундам работы. Можно выкатить и свою модель.

Ollama

Модели локально одной командой

187

Запускает открытые модели на своём ноутбуке или сервере без интернета. Данные никуда не уходят, есть локальный API.

OpenAI API

Модели OpenAI для разработчиков

188

Доступ к моделям текста, изображений, речи и эмбеддингов по API, с инструментами для агентов и файн-тюнинга.

Stable Diffusion

Открытая модель для картинок

189

Модель с открытыми весами: можно запускать на своём компьютере, дообучать под свой стиль и встраивать в собственные продукты без лимитов.

Le Chat

Быстрый европейский ассистент от Mistral

190

Ассистент французской лаборатории Mistral с очень быстрым ответом и открытыми моделями в основе. Удобен там, где важно хранение данных в ЕС.

FLUX

Сильная модель изображений от Black Forest Labs

191

Хорошо отрабатывает текст на картинке и сложные промпты. Доступна через API и множество сторонних сервисов, часть версий — с открытыми весами.

Poe

Много моделей в одном интерфейсе

192

Агрегатор от Quora: в одной подписке доступны модели разных лабораторий, можно собирать своих ботов и сравнивать ответы между собой.

DeepSeek

Открытые модели с сильной математикой и кодом

193

Китайская лаборатория, известная дешёвым API и моделями рассуждения с открытыми весами. Популярный выбор, когда нужно недорого закрыть большой объём запросов.