BabelMesh
Menu
Bahasa Indonesia
English简体中文EspañolFrançaisDeutschPortuguês (Brasil)日本語한국어Русскийहिन्दीBahasa IndonesiaItalianoTürkçeالعربية

Inferensi dari jaringan GPU yang independen

Satu API yang kompatibel dengan OpenAI untuk chat, kode, embedding, gambar, dan video. GPU yang menganggur di mana pun dapat bergabung dan memperoleh kredit.

Baca dokumentasi API Bagikan GPU
curl
curl https://babelmesh.ai/v1/chat/completions \
  -H "Authorization: Bearer $BABEL_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user",
                  "content": "Explain a hash ring"}]
  }'
Gateway memilih model dan node yang cocok.
0
model tersedia
none yet
yang bisa dilakukannya sekarang

Empat jenis pekerjaan, satu kunci

Gambar dan klip di bawah dibuat di jaringan itu sendiri.

Chat dan kode

Minta auto dan permintaan dibaca, tidak disimpan: pertanyaan singkat ke model cepat, kode ke model kode, masalah sulit ke model terkuat.

python
client = OpenAI(base_url="https://babelmesh.ai/v1",
                api_key="sk-fab-...")
client.chat.completions.create(
    model="auto", stream=True,
    messages=[{"role": "user", "content": "..."}])

Gambar

Satu kalimat, satu gambar.

Gambar yang dibuat di jaringan: lampu meja dan buku terbuka di dekat jendela pada malam hujan

Embedding

Teks menjadi vektor untuk pencarian dan pengambilan, dengan model kecil yang berjalan di CPU biasa.

curl
curl https://babelmesh.ai/v1/embeddings \
  -H "Authorization: Bearer $BABEL_KEY" \
  -d '{"model": "embedding-default",
       "input": ["a lighthouse at dawn"]}'

Video

Klip pendek, dibuat di latar belakang. Butuh beberapa menit, dan file siap disimpan setelah selesai.

Apa yang terjadi pada sebuah permintaan

  1. Kirim

    Aplikasi Anda memanggil API dengan sebuah kunci, seperti layanan lain yang kompatibel dengan OpenAI.

  2. Rute

    Gateway memilih node yang cocok: berdasarkan model, panjang prompt, dan beban saat ini.

  3. Komputasi

    Node menjalankan model dan mengalirkan jawabannya kembali lewat gateway.

  4. Verifikasi

    Kedua pihak menandatangani tanda terima, dan sebagian hasil dihitung ulang untuk memeriksanya.

Pinjamkan apa yang Anda punya

Peroleh kredit saat komputer Anda menganggur. Baru dimulai setelah Anda setuju, dan Anda dapat berhenti kapan saja.

Bagikan GPU

  • Kartu grafis

    NVIDIA, AMD, Intel, atau Apple silicon. Melayani chat, kode, gambar, dan video saat Anda pergi.

  • Cukup prosesor

    Tidak punya GPU yang dapat dipakai? Pinjamkan CPU untuk model kecil dan embedding. Hanya sekitar setengah dari thread yang dipakai.

Hari ini dan selanjutnya

Tersedia sekarang

  • Chat, kode, embedding, gambar, dan video
  • API yang kompatibel dengan OpenAI, jadi alat yang sudah Anda pakai langsung berfungsi
  • Halaman status dengan ketersediaan dan kecepatan langsung

Sedang dikerjakan, tanpa tanggal

  • Klien desktop Babel Mesh, dengan berbagi GPU dan CPU
  • Pembayaran kredit yang diperoleh dalam bentuk tunai, yang memerlukan verifikasi identitas dan peninjauan
  • Lebih banyak model, dan lebih besar

Pertanyaan

Bagaimana pembayarannya?

Pemakaian ditagih dalam kredit: per token untuk teks dan embedding, per gambar, dan per detik video. Kredit juga dapat diperoleh dengan berbagi komputasi.

Bisakah orang lain melihat apa yang saya kirim?

Node yang melayani permintaan Anda dapat membacanya, tetapi tidak dapat melihat siapa Anda. Babel Mesh tidak menyimpan percakapan, dan tanda terima pembukuan hanya berisi hash dan pemakaian. Hanya permintaan yang memicu aturan konten yang meninggalkan kutipan singkat di sekitar kecocokan. Jangan kirim kata sandi, nomor identitas, atau materi sensitif lainnya. Selengkapnya di halaman keamanan.

Apa bedanya dengan menyewa GPU cloud?

Permintaan disebar ke banyak mesin yang independen. Anda tidak menyewa seluruh mesin atau menyiapkan lingkungan, dan Anda membayar sesuai pemakaian. Yang ditawarkan adalah inferensi model, bukan sewa GPU mentah.

Sistem dan kartu apa yang dapat berbagi komputasi?

Windows dan Linux (x86-64) dengan kartu NVIDIA (CUDA) atau AMD dan Intel (Vulkan), serta Mac Apple silicon (Metal). Komputer tanpa kartu grafis yang dapat dipakai dapat membagikan prosesornya. Klien sedang disiapkan.

Lakukan panggilan pertama

Baca dokumentasi APILihat status