"AI" 태그로 연결된 209 개 게시물 개의 게시물이 있습니다.

인공지능 및 머신러닝 애플리케이션

분산형 AI: BlockEden.xyz에서 허가 없는 LLM 추론

2024년 6월 20일 · 약 4 분

Software Engineer

BlockEden.xyz는 원격 프로시저 호출(RPC) 인프라로 유명한데, 이제 AI 추론 서비스로 영역을 확장하고 있습니다. 이 진화는 오픈소스·허가 없는 설계를 활용해 모델 연구자, 하드웨어 운영자, API 제공자, 사용자들이 원활히 상호작용할 수 있는 마켓플레이스를 만들었습니다. 네트워크의 Relay Mining 알고리즘은 투명하고 검증 가능한 서비스를 보장하며, 대형 모델 AI 연구자들이 인프라 유지 없이도 작업을 수익화할 수 있는 독특한 기회를 제공합니다.

핵심 문제

AI 생태계는 다음과 같은 중대한 과제에 직면해 있습니다.

제한된 모델 서빙 환경: 자원 집약적인 인프라 때문에 AI 연구자들이 다양한 모델을 실험하기 어렵습니다.
오픈소스 혁신을 위한 지속 불가능한 비즈니스 모델: 독립 엔지니어들이 작업을 수익화하기 힘들어, 대형 인프라 제공업체에 의존하게 됩니다.
불균형한 시장 접근성: 엔터프라이즈 급 모델이 장악하고 있어 중간 규모 모델과 사용자는 충분히 지원받지 못합니다.

BlockEden.xyz만의 차별화된 가치 제안

BlockEden.xyz는 인프라 계층을 제품·서비스 계층과 분리하여 개방적이고 분산된 프레임워크를 구현합니다. 이를 통해 고품질 서비스를 제공하고 네트워크 참여자 모두의 인센티브를 정렬합니다.

주요 혜택:

기존 네트워크 활용: BlockEden.xyz 서비스 네트워크를 활용해 모델 접근성과 서비스 품질을 간소화합니다.
관심사 분리: 각 이해관계자는 자신의 강점에 집중해 전체 생태계 효율성을 높입니다.
인센티브 정렬: 암호학적 증명과 성능 측정이 경쟁과 투명성을 촉진합니다.
허가 없는 모델·공급: 비용 효율적인 하드웨어 공급을 위한 개방형 마켓플레이스입니다.

분산형 AI 추론 이해관계자

모델 제공자: 코디네이터

코디네이터는 제품·서비스 계층을 관리하며 서비스 품질을 최적화하고 애플리케이션에 원활한 접근성을 제공합니다. 코디네이터는 일반 사용자로 가장해 공급자 무결성을 검증하고 편향 없는 성능 평가를 수행합니다.

모델 사용자: 애플리케이션

애플리케이션은 주로 1차 코디네이터를 사용하지만, 프라이버시와 비용 절감을 위해 3자 코디네이터와도 연결할 수 있습니다. 직접 접근을 통해 다양한 사용 사례를 실험하고 중개자 비용을 없앨 수 있습니다.

모델 공급자: 하드웨어 운영자

공급자는 추론 노드를 운영해 토큰을 획득합니다. DevOps, 하드웨어 유지보수, 로깅 역량이 네트워크 성장에 핵심이며, 허가 없는 접근 방식은 유휴·휴면 자원을 보유한 다양한 하드웨어 제공자의 참여를 장려합니다.

모델 출처: 엔지니어·연구자

모델을 오픈소스로 공개하는 연구자와 기관은 사용량 기반 수익을 얻을 수 있습니다. 이 모델은 인프라 유지 없이 혁신을 장려해 오픈소스 기여자에게 지속 가능한 비즈니스 모델을 제공합니다.

Cuckoo Network와의 협업

BlockEden.xyz는 Cuckoo Network와 협력해 허가 없는 분산 인프라를 기반으로 AI 추론을 혁신합니다. 양 플랫폼의 강점을 결합해 AI 모델 배포와 수익화를 위한 원활하고 효율적인 생태계를 구축합니다.

주요 협업 영역

인프라 통합: BlockEden.xyz의 견고한 RPC 인프라와 Cuckoo Network의 분산 모델 서빙 기능을 결합해 확장 가능하고 회복력 있는 AI 추론 서비스를 제공합니다.
모델 배포: 오픈소스 AI 모델을 네트워크 전역에 배포해 연구자가 더 넓은 청중에게 다가가고 인프라 부담 없이 수익을 창출하도록 지원합니다.
품질 보증: 모델 성능 및 공급자 무결성을 지속적으로 모니터링·평가하는 메커니즘을 구현해 고품질 서비스와 신뢰성을 보장합니다.
경제적 인센티브: 암호학적 증명과 성능 기반 보상을 통해 모든 이해관계자의 경제적 인센티브를 정렬하고 투명한 마켓플레이스를 조성합니다.
프라이버시·보안: 신뢰 실행 환경(TEE) 및 분산 데이터 스토리지와 같은 첨단 기술을 활용해 프라이버시 보호와 안전한 모델 추론을 강화합니다.
커뮤니티·지원: AI 연구자와 개발자를 위한 지원 커뮤니티를 구축해 자원·가이드·인센티브를 제공하고 분산 AI 생태계 내 혁신과 채택을 촉진합니다.

Cuckoo Network와의 파트너십을 통해 BlockEden.xyz는 연구자·개발자·사용자에게 투명하고 효율적인 AI 모델 배포·활용 플랫폼을 제공하는 전체적·분산형 AI 추론 접근 방식을 구현합니다. 이제 https://blockeden.xyz/api-marketplace/cuckoo-ai 에서 분산형 텍스트‑투‑이미지 API를 체험해 보세요.

분산형 추론 네트워크의 입출력

Cuckoo Network에 대한 LLM 입력:

오픈소스 모델
최종 사용자 또는 애플리케이션의 수요
범용 하드웨어로부터의 집계된 공급
서비스 품질 보증

Cuckoo Network에서의 LLM 출력:

다운타임 없음
원활한 모델 실험
공개 모델 평가
프라이버시 보호 운영
검열 없는 모델

Web3 생태계 통합

BlockEden.xyz의 RPC 프로토콜은 다른 Web3 프로토콜과 연계해 분산형 AI(DecAI)를 강화할 수 있습니다.

데이터·스토리지 네트워크: Filecoin/IPFS·Arweave 등 분산 스토리지와 원활히 연동해 모델 저장과 데이터 무결성을 확보합니다.

컴퓨트 네트워크: Akash·Render 등 분산 컴퓨팅 레이어와 보완적인 서비스를 제공해 전용·유휴 하드웨어 모두를 지원합니다.

추론 네트워크: 다양한 추론 작업을 지원하는 유연한 배포 모델과 견고한 생태계를 제공합니다.

애플리케이션: AI 에이전트, 소비자 앱, IoT 디바이스가 DecAI 추론을 활용해 개인화 서비스, 데이터 프라이버시, 엣지 의사결정을 구현합니다.

요약

BlockEden.xyz의 검증된 인프라와 경제 설계는 오픈소스 AI에 새로운 기회를 열어줍니다. 분산형·검증 가능한 서비스를 제공함으로써 오픈소스 AI와 Web3 사이의 격차를 메우고, 혁신적이고 지속 가능하며 신뢰할 수 있는 서비스를 가능하게 합니다. 이 접근 방식은 모델 다양성 확대, 중소기업의 시장 접근성 향상, 오픈소스 연구자를 위한 새로운 비즈니스 모델을 촉진합니다. 향후 개발을 통해 생태계를 지속적으로 확장해 AI와 블록체인 분야가 진화함에 따라 BlockEden.xyz가 견고하고 적응력 있는 솔루션으로 자리매김하도록 할 것입니다.

Twitter: https://twitter.com/BlockEdenHQ
Discord: https://discord.gg/eWZvE4RSBw
Source Link: https://blockeden.xyz/blog/2024/06/20/decentralized-inference-blockeden-xyz/

BlockEden.xyz의 API 마켓플레이스에 OpenAI ChatGPT API 통합 공개

2023년 7월 19일 · 약 3 분

Dora Noda

Software Engineer

BlockEden.xyz, 웹3 개발자들의 필수 API 마켓플레이스가 새로운 강력한 기능 – OpenAI API – 를 추가했음을 기쁘게 알려드립니다. 맞습니다, 정확히 들으셨습니다! 개발자, 기술 애호가, 그리고 AI 선구자들은 이제 BlockEden의 API 마켓플레이스를 통해 OpenAI가 제공하는 최첨단 머신러닝 모델을 직접 활용할 수 있습니다.

본격적인 가이드에 들어가기 전에, OpenAI API가 제공하는 가치에 대해 먼저 이해해 보겠습니다. OpenAI API는 OpenAI가 개발한 AI 모델에 접근할 수 있는 게이트웨이이며, 업계에서 널리 알려진 GPT‑3와 같은 최첨단 트랜스포머 기반 언어 모델을 포함합니다. 이 모델은 인간과 유사한 텍스트를 이해하고 생성하는 뛰어난 능력을 가지고 있습니다. API를 통해 개발자는 이메일 초안 작성, 코드 작성, 질문 답변, 콘텐츠 제작, 튜터링, 언어 번역 등 다양한 애플리케이션에 이 기술을 활용할 수 있습니다.

이제 BlockEden.xyz를 이용해 OpenAI API의 힘을 애플리케이션에 통합하는 방법을 살펴보겠습니다. Python, JavaScript (Node.js), 혹은 curl을 직접 사용해 세 가지 방식으로 구현할 수 있습니다. 이번 블로그에서는 각각의 방법에 대한 기본 설정을 간단한 “Hello, World!” 예제로 보여드립니다.

아래 API 키는 공개용이며 변경 및 속도 제한될 수 있습니다. 직접 발급받으려면 https://blockeden.xyz/dash 에서 BLOCKEDEN_API_KEY 를 받아 주세요.

Python:

Python을 사용해 OpenAI API를 호출하는 예시는 다음과 같습니다.

import openai

BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD"
openai.api_key = ""
openai.api_base = "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1"

response = openai.ChatCompletion.create(
  model="gpt-3.5-turbo-16k",
  messages=[{"role": "user", "content": "hello, world!"}],
  temperature=0,
  max_tokens=2048,
  top_p=1,
  frequency_penalty=0,
  presence_penalty=0
)

print(response["choices"])

JavaScript (Node.js):

JavaScript에서도 OpenAI API를 활용할 수 있습니다. 구현 예시는 다음과 같습니다.

const { Configuration, OpenAIApi } = require("openai");

const BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD";
const configuration = new Configuration({
  basePath: "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1",
});
const openai = new OpenAIApi(configuration);

(async () => {
  const response = await openai.createChatCompletion({
    model: "gpt-3.5-turbo-16k",
    messages: [{ role: "user", content: "hello, world!" }],
    temperature: 0,
    max_tokens: 2048,
    top_p: 1,
    frequency_penalty: 0,
    presence_penalty: 0,
  });

  console.log(JSON.stringify(response.data.choices, null, 2));
})();

cURL:

마지막으로 터미널에서 curl 명령어로 직접 OpenAI API를 호출할 수 있습니다.

curl https://api.blockeden.xyz/openai/8UuXzatAZYDBJC6YZTKD/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
  "model": "gpt-3.5-turbo-16k",
  "messages": [{"role": "user", "content": "hello, world!"}],
  "temperature": 0,
  "max_tokens": 2048,
  "top_p": 1,
  "frequency_penalty": 0,
  "presence_penalty": 0
}'

다음은 무엇을 해야 할까요? 직접 실험해 보고 OpenAI API를 활용해 챗봇, 콘텐츠 생성, 혹은 기타 NLP 기반 애플리케이션을 구현해 보세요. 가능성은 여러분의 상상력만큼이나 무한합니다. BlockEden.xyz와 OpenAI의 원활한 통합을 통해 새로운 가능성의 경계를 재정의해 봅시다.

OpenAI의 기능, 모델, 사용법에 대한 자세한 내용은 공식 OpenAI 문서를 참고하세요.

행복한 코딩 되세요!

BlockEden.xyz란?

BlockEden.xyz는 Sui, Aptos, Solana 및 12개의 EVM 블록체인용 DApp을 지원하는 API 마켓플레이스입니다. 고객이 우리를 선택하는 이유는 무엇일까요?

높은 가용성 – 최초 API인 Aptos 메인넷 출시 이후 99.9% 이상의 업타임을 유지하고 있습니다.
다양한 API 제공 및 활발한 커뮤니티 – 서비스가 Sui, Ethereum, IoTeX, Solana, Polygon, Polygon zkEVM, Filecoin, Harmony, BSC, Arbitrum, Optimism, Gnosis, Arbitrum Nova, EthStorage Galileo 등으로 확대되었습니다. 커뮤니티 10x.pub에는 실리콘밸리, 시애틀, 뉴욕을 아우르는 4,000명 이상의 웹3 혁신가가 활동하고 있습니다.
보안 – 4,500만 달러 이상의 토큰이 우리에게 스테이킹되어 있으며, 고객은 웹3 및 블록체인 요구에 신뢰할 수 있는 안전한 솔루션을 기대합니다.

우리는 블록체인 생태계의 모든 참여자를 지원하기 위해 다음 세 가지 핵심 영역에 집중한 포괄적인 서비스를 제공합니다.

프로토콜 빌더를 위해 노드를 운영하고 장기적인 생태계 기여를 통해 보안과 탈중앙화를 보장합니다.
DApp 개발자를 위해 사용하기 쉬운 API를 제공하여 개발 효율성을 높이고 탈중앙화 애플리케이션의 잠재력을 최대한 끌어냅니다.
토큰 보유자를 위해 안정적인 스테이킹 서비스를 제공하여 보상을 극대화하고 자산 관리를 최적화합니다.

Twitter: https://twitter.com/BlockEdenHQ
Discord: https://discord.gg/eWZvE4RSBw
Source Link: https://blockeden.xyz/blog/2023/07/19/unveiling-integration-openai-api-blockeden-api-marketplace/

API Marketplace Featured

핵심 문제​

BlockEden.xyz만의 차별화된 가치 제안​

분산형 AI 추론 이해관계자​

Cuckoo Network와의 협업​

주요 협업 영역​

분산형 추론 네트워크의 입출력​

Web3 생태계 통합​

요약​

BlockEden.xyz란?​