BabelMesh
메뉴
한국어
English简体中文EspañolFrançaisDeutschPortuguês (Brasil)日本語한국어Русскийहिन्दीBahasa IndonesiaItalianoTürkçeالعربية

독립된 GPU 메시에서 이루어지는 추론

채팅, 코드, 임베딩, 이미지, 동영상을 위한 하나의 OpenAI 호환 API. 어디에 있든 놀고 있는 GPU가 참여해 크레딧을 벌 수 있습니다.

API 문서 읽기 GPU 공유
curl
curl https://babelmesh.ai/v1/chat/completions \
  -H "Authorization: Bearer $BABEL_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user",
                  "content": "Explain a hash ring"}]
  }'
게이트웨이가 모델과 거기에 맞는 노드를 고릅니다.
0
개의 이용 가능한 모델
none yet
지금 할 수 있는 일

네 가지 작업, 하나의 키

아래의 이미지와 클립은 이 네트워크 자체에서 생성한 것입니다.

채팅과 코드

auto를 지정하면 요청은 읽히기만 하고 저장되지 않습니다. 짧은 질문은 빠른 모델로, 코드는 코드 모델로, 어려운 문제는 가장 강력한 모델로 갑니다.

python
client = OpenAI(base_url="https://babelmesh.ai/v1",
                api_key="sk-fab-...")
client.chat.completions.create(
    model="auto", stream=True,
    messages=[{"role": "user", "content": "..."}])

이미지

한 문장으로, 한 장의 그림을.

네트워크에서 생성한 이미지: 비 오는 밤, 창가의 스탠드와 펼쳐진 책

임베딩

검색과 검색 증강을 위해 텍스트를 벡터로 바꿉니다. 일반 CPU에서 돌아가는 작은 모델을 사용합니다.

curl
curl https://babelmesh.ai/v1/embeddings \
  -H "Authorization: Bearer $BABEL_KEY" \
  -d '{"model": "embedding-default",
       "input": ["a lighthouse at dawn"]}'

동영상

짧은 클립을 백그라운드에서 생성합니다. 몇 분 걸리며 완료되면 바로 저장할 수 있습니다.

요청에 일어나는 일

  1. 전송

    내 앱은 다른 OpenAI 호환 서비스와 마찬가지로 키를 붙여 API를 호출합니다.

  2. 분배

    게이트웨이가 알맞은 노드를 고릅니다. 모델, 프롬프트 길이, 현재 부하를 봅니다.

  3. 연산

    노드가 모델을 실행하고 답을 게이트웨이를 거쳐 스트리밍으로 돌려줍니다.

  4. 검증

    양쪽이 영수증에 서명하며, 결과의 일부는 확인을 위해 다시 계산합니다.

가진 것을 빌려 주세요

컴퓨터가 유휴 상태인 동안 크레딧을 버세요. 동의한 뒤에만 시작되며 언제든 멈출 수 있습니다.

GPU 공유

  • 그래픽 카드

    NVIDIA, AMD, Intel 또는 Apple 실리콘. 내가 자리를 비운 동안 채팅, 코드, 이미지, 동영상을 처리합니다.

  • 프로세서만 있어도

    쓸 만한 GPU가 없나요? CPU를 빌려 주어 작은 모델과 임베딩을 처리할 수 있습니다. 스레드의 약 절반만 사용합니다.

지금과 앞으로

지금 이용 가능

  • 채팅, 코드, 임베딩, 이미지, 동영상
  • OpenAI 호환 API라서 쓰던 도구가 그대로 작동합니다
  • 실시간 가용성과 속도를 보여 주는 상태 페이지

진행 중, 날짜 미정

  • GPU와 CPU 공유를 지원하는 Babel Mesh 데스크톱 클라이언트
  • 번 크레딧을 현금으로 지급(본인 확인과 심사 필요)
  • 더 많고 더 큰 모델

자주 묻는 질문

비용은 어떻게 되나요?

사용량은 크레딧으로 청구됩니다. 텍스트와 임베딩은 토큰 수, 이미지는 장당, 동영상은 초당입니다. 연산을 공유해서 크레딧을 벌 수도 있습니다.

다른 사람이 내가 보내는 내용을 볼 수 있나요?

요청을 처리하는 노드는 내용을 읽을 수 있지만 내가 누구인지는 볼 수 없습니다. Babel Mesh는 대화를 저장하지 않으며, 회계용 영수증에는 해시와 사용량만 있습니다. 콘텐츠 규칙에 걸린 요청만 해당 부분 앞뒤의 짧은 발췌를 남깁니다. 비밀번호, 신원 번호 등 민감한 자료는 보내지 마세요. 자세한 내용은 보안 페이지를 보세요.

클라우드 GPU를 빌리는 것과 무엇이 다른가요?

요청은 서로 독립적인 많은 기계에 나뉘어 처리됩니다. 기계 전체를 빌리거나 환경을 구성할 필요가 없고, 쓴 만큼만 냅니다. 제공하는 것은 모델 추론이며, GPU 자체의 대여가 아닙니다.

어떤 시스템과 카드로 연산을 공유할 수 있나요?

NVIDIA(CUDA) 또는 AMD·Intel(Vulkan) 카드가 있는 Windows와 Linux(x86-64), 그리고 Apple 실리콘 Mac(Metal). 쓸 만한 그래픽 카드가 없는 컴퓨터는 프로세서를 공유할 수 있습니다. 클라이언트는 준비 중입니다.

첫 호출 해 보기

API 문서 읽기상태 보기