BabelMesh
Меню
Русский
English简体中文EspañolFrançaisDeutschPortuguês (Brasil)日本語한국어Русскийहिन्दीBahasa IndonesiaItalianoTürkçeالعربية

Вывод моделей из сети независимых GPU

Один API, совместимый с OpenAI, для чата, кода, эмбеддингов, изображений и видео. Простаивающие GPU где угодно могут присоединиться и зарабатывать кредиты.

Читать документацию API Поделиться GPU
curl
curl https://babelmesh.ai/v1/chat/completions \
  -H "Authorization: Bearer $BABEL_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user",
                  "content": "Explain a hash ring"}]
  }'
Шлюз выбирает модель и подходящий для неё узел.
0
доступных моделей
none yet
что он может сейчас

Четыре вида работы, один ключ

Изображение и клип ниже созданы в самой сети.

Чат и код

Выберите auto, и запрос будет прочитан, но не сохранён: короткие вопросы уходят быстрой модели, код — модели для кода, сложные задачи — самой сильной.

python
client = OpenAI(base_url="https://babelmesh.ai/v1",
                api_key="sk-fab-...")
client.chat.completions.create(
    model="auto", stream=True,
    messages=[{"role": "user", "content": "..."}])

Изображения

Одна фраза — одна картинка.

Изображение, созданное в сети: настольная лампа и раскрытая книга у окна дождливой ночью

Эмбеддинги

Текст в векторы для поиска и извлечения с помощью небольшой модели, которая работает на обычных CPU.

curl
curl https://babelmesh.ai/v1/embeddings \
  -H "Authorization: Bearer $BABEL_KEY" \
  -d '{"model": "embedding-default",
       "input": ["a lighthouse at dawn"]}'

Видео

Короткие клипы, создаваемые в фоне. Это занимает несколько минут, и по готовности файл можно сохранить.

Что происходит с запросом

  1. Отправка

    Ваше приложение вызывает API с ключом, как и любой сервис, совместимый с OpenAI.

  2. Распределение

    Шлюз выбирает подходящий узел: учитывает модель, длину запроса и текущую нагрузку.

  3. Вычисления

    Узел запускает модель и передаёт ответ потоком обратно через шлюз.

  4. Проверка

    Обе стороны подписывают квитанцию, а часть результатов пересчитывается для проверки.

Одолжите то, что у вас есть

Зарабатывайте кредиты, пока компьютер простаивает. Это начинается только после вашего согласия, и вы можете остановиться в любой момент.

Поделиться GPU

  • Видеокарта

    NVIDIA, AMD, Intel или Apple Silicon. Обрабатывает чат, код, изображения и видео, пока вас нет.

  • Только процессор

    Нет подходящего GPU? Одолжите CPU для малых моделей и эмбеддингов. Используется только около половины потоков.

Сегодня и дальше

Доступно сейчас

  • Чат, код, эмбеддинги, изображения и видео
  • API, совместимый с OpenAI, поэтому привычные инструменты работают сразу
  • Страница состояния с доступностью и скоростью в реальном времени

В работе, сроков нет

  • Настольный клиент Babel Mesh с общим доступом к GPU и CPU
  • Выплата заработанных кредитов наличными, что требует проверки личности и рассмотрения
  • Больше моделей и покрупнее

Вопросы

Как это оплачивается?

Использование оплачивается кредитами: по токенам для текста и эмбеддингов, за изображение и за секунду видео. Кредиты можно также зарабатывать, делясь вычислениями.

Могут ли другие видеть то, что я отправляю?

Узел, обрабатывающий ваш запрос, может его прочитать, но не видит, кто вы. Babel Mesh не хранит переписку, а учётные квитанции содержат только хеши и объём использования. Только запрос, сработавший на правило содержимого, оставляет короткий фрагмент вокруг совпадения. Не отправляйте пароли, номера документов и другие конфиденциальные материалы. Подробнее на странице безопасности.

Чем это отличается от аренды облачного GPU?

Запросы распределяются между множеством независимых машин. Вам не нужно арендовать целую машину или настраивать окружение, и вы платите за использование. Предлагается вывод моделей, а не аренда голого GPU.

Какие системы и карты могут делиться вычислениями?

Windows и Linux (x86-64) с картами NVIDIA (CUDA) или AMD и Intel (Vulkan), а также Mac на Apple Silicon (Metal). Компьютер без подходящей видеокарты может предоставить процессор. Клиент готовится.

Сделайте первый вызов

Читать документацию APIПосмотреть состояние