BabelMesh
Menú
Español
English简体中文EspañolFrançaisDeutschPortuguês (Brasil)日本語한국어Русскийहिन्दीBahasa IndonesiaItalianoTürkçeالعربية

Inferencia desde una red de GPU independientes

Una sola API compatible con OpenAI para chat, código, embeddings, imágenes y vídeo. Las GPU inactivas de cualquier lugar pueden unirse y ganar créditos.

Lee la documentación de la API Comparte una GPU
curl
curl https://babelmesh.ai/v1/chat/completions \
  -H "Authorization: Bearer $BABEL_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user",
                  "content": "Explain a hash ring"}]
  }'
La pasarela elige el modelo y un nodo adecuado.
0
modelos disponibles
none yet
lo que puede hacer ahora

Cuatro tipos de trabajo, una clave

La imagen y el clip de abajo se generaron en la propia red.

Chat y código

Pide auto y la petición se lee, no se guarda: las preguntas cortas van a un modelo rápido, el código a un modelo de código y los problemas difíciles al más potente.

python
client = OpenAI(base_url="https://babelmesh.ai/v1",
                api_key="sk-fab-...")
client.chat.completions.create(
    model="auto", stream=True,
    messages=[{"role": "user", "content": "..."}])

Imágenes

Una frase, una imagen.

Una imagen generada en la red: una lámpara de escritorio y un libro abierto junto a una ventana en una noche de lluvia

Embeddings

Texto a vectores para búsqueda y recuperación, con un modelo pequeño que funciona en CPU normales.

curl
curl https://babelmesh.ai/v1/embeddings \
  -H "Authorization: Bearer $BABEL_KEY" \
  -d '{"model": "embedding-default",
       "input": ["a lighthouse at dawn"]}'

Vídeo

Clips cortos generados en segundo plano. Tardan unos minutos y el archivo está listo para guardar cuando termina.

Qué le pasa a una petición

  1. Enviar

    Tu aplicación llama a la API con una clave, como con cualquier servicio compatible con OpenAI.

  2. Encaminar

    La pasarela elige un nodo adecuado: el modelo, la longitud del prompt y la carga actual.

  3. Cálculo

    El nodo ejecuta el modelo y devuelve la respuesta en streaming a través de la pasarela.

  4. Verificar

    Ambas partes firman un recibo, y una parte de los resultados se vuelve a calcular para comprobarlos.

Presta lo que tienes

Gana créditos mientras tu equipo está inactivo. Solo empieza cuando aceptas y puedes parar en cualquier momento.

Comparte una GPU

  • Una tarjeta gráfica

    NVIDIA, AMD, Intel o Apple silicon. Atiende chat, código, imágenes y vídeo mientras no estás.

  • Solo un procesador

    ¿Sin una GPU utilizable? Presta la CPU para modelos pequeños y embeddings. Solo se usa aproximadamente la mitad de los hilos.

Hoy y lo que viene

Disponible ahora

  • Chat, código, embeddings, imágenes y vídeo
  • Una API compatible con OpenAI, así que las herramientas que ya usas funcionan
  • Una página de estado con disponibilidad y velocidad en vivo

En curso, sin fechas

  • El cliente de escritorio de Babel Mesh, con uso compartido de GPU y CPU
  • Pagar en efectivo los créditos ganados, lo que requiere verificación de identidad y revisión
  • Más modelos y más grandes

Preguntas

¿Cómo se paga?

El uso se cobra en créditos: por tokens en texto y embeddings, por imagen y por segundo de vídeo. También se pueden ganar créditos compartiendo cálculo.

¿Pueden otros ver lo que envío?

El nodo que atiende tu petición puede leerla, pero no puede ver quién eres. Babel Mesh no guarda las conversaciones y los recibos contables solo contienen hashes y uso. Solo una petición que activa una regla de contenido deja un breve fragmento alrededor de la coincidencia. No envíes contraseñas, números de documento ni otro material sensible. Más en la página de seguridad.

¿En qué se diferencia de alquilar una GPU en la nube?

Las peticiones se reparten entre muchas máquinas independientes. No alquilas una máquina entera ni preparas un entorno, y pagas por lo que usas. Lo que se ofrece es inferencia de modelos, no alquiler de GPU en bruto.

¿Qué sistemas y tarjetas pueden compartir cálculo?

Windows y Linux (x86-64) con tarjetas NVIDIA (CUDA) o AMD e Intel (Vulkan), y Mac con Apple silicon (Metal). Un equipo sin tarjeta gráfica utilizable puede compartir su procesador. El cliente se está preparando.

Haz la primera llamada

Lee la documentación de la APIVer el estado