跳到主要内容

11 篇博文 含有标签「人工智能」

查看所有标签

去中心化 AI:在 BlockEden.xyz 上的无许可 LLM 推理

· 阅读需 5 分钟
Dora Noda
Software Engineer

BlockEden.xyz 以其远程过程调用(RPC)基础设施闻名,如今正向 AI 推理服务拓展。此演进利用其开源、无许可的设计,打造一个模型研究者、硬件运营商、API 提供商和用户无缝交互的市场。网络的 Relay Mining 算法确保服务透明且可验证,为大型模型 AI 研究者提供了无需维护基础设施即可变现的独特机会。

核心问题

AI 领域面临以下重大挑战:

  • 受限的模型服务环境:资源密集型基础设施限制了 AI 研究者对多模型的实验能力。
  • 开源创新的不可持续商业模式:独立工程师难以实现变现,往往依赖大型基础设施提供商。
  • 市场准入不平等:企业级模型占据主导,中端模型和用户则被忽视。

BlockEden.xyz 的独特价值主张

BlockEden.xyz 通过将基础设施层与产品服务层解耦,构建开放且去中心化的框架,从而解决上述问题。这一布局实现了高质量的服务交付,并在所有网络参与者之间对齐激励。

主要优势包括:

  • 成熟网络:利用 BlockEden.xyz 已有的服务网络,简化模型访问并提升服务质量。
  • 关注点分离:各利益相关方专注自身优势,提高整体生态系统效率。
  • 激励对齐:加密证明和性能测量驱动竞争与透明度。
  • 无许可模型与供应:开放的市场提供成本效益高的硬件供应。

去中心化 AI 推理的利益相关者

模型提供者:协调者
协调者管理产品与服务层,优化服务质量,为应用提供无缝访问。协调者通过伪装成普通用户来验证供应商的完整性,提供客观的性能评估。

模型使用者:应用
应用通常使用第一方协调者,也可以通过第三方接入网络,以提升隐私和降低成本。直接接入支持多样化的用例实验,省去中间商费用。

模型供应商:硬件运营商
供应商运行推理节点以赚取代币。他们在 DevOps、硬件维护和日志记录方面的能力对网络增长至关重要。无许可模式鼓励各种硬件提供商参与,包括拥有闲置或休眠资源的提供商。

模型来源:工程师与研究者
开放源码模型的研究者和机构可依据使用量获得收入。该模式在无需维护基础设施的前提下激励创新,为开源贡献者提供可持续的商业模型。

与 Cuckoo Network 的合作

BlockEden.xyz 与 Cuckoo Network 合作,通过去中心化、无许可的基础设施革新 AI 推理。此合作聚焦于发挥双方优势,打造一个高效、无缝的 AI 模型部署与变现生态系统。

关键合作领域

  • 基础设施集成:将 BlockEden.xyz 强大的 RPC 基础设施与 Cuckoo Network 的去中心化模型服务能力相结合,提供可扩展且弹性的 AI 推理服务。
  • 模型分发:在网络中分发开源 AI 模型,使研究者能够触达更广泛的受众并实现变现,无需大量基础设施投入。
  • 质量保证:实现持续监控与评估模型性能及供应商完整性的机制,确保高质量服务交付与可靠性。
  • 经济激励:通过加密证明和基于性能的奖励在所有利益相关方之间对齐经济激励,营造竞争透明的市场。
  • 隐私与安全:利用可信执行环境(TEE)和去中心化数据存储等先进技术,提升隐私保护操作和安全模型推理。
  • 社区与支持:构建面向 AI 研究者和开发者的支持社区,提供资源、指导和激励,推动去中心化 AI 生态系统的创新与采纳。

通过与 Cuckoo Network 的合作,BlockEden.xyz 旨在打造全方位的去中心化 AI 推理方案,为研究者、开发者和用户提供稳健、透明且高效的 AI 模型部署与使用平台。现在即可尝试去中心化的文本生成图像 API: https://blockeden.xyz/api-marketplace/cuckoo-ai。

去中心化推理网络的输入/输出

Cuckoo Network 的 LLM 输入

  • 开源模型
  • 终端用户或应用的需求
  • 来自商品硬件的聚合供应
  • 服务质量保证

Cuckoo Network 的 LLM 输出

  • 零宕机
  • 无缝模型实验
  • 公共模型评估
  • 隐私保护操作
  • 无审查模型

Web3 生态系统集成

BlockEden.xyz 的 RPC 协议可与其他 Web3 协议集成,提升去中心化 AI(DecAI):

  • 数据与存储网络:与 Filecoin/IPFS、Arweave 等去中心化存储解决方案无缝对接,实现模型存储与数据完整性。
  • 计算网络:借助 Akash、Render 等去中心化计算层,支持专用硬件和闲置硬件的混合服务。
  • 推理网络:提供灵活的部署模型和强大的生态系统,支撑多样化的推理任务。
  • 应用层:AI 代理、消费类应用和物联网设备可利用 DecAI 推理,实现个性化服务、数据隐私和边缘决策。

总结

BlockEden.xyz 已有的基础设施与经济设计为开源 AI 开辟了新机遇。通过提供去中心化且可验证的服务,它搭建了开源 AI 与 Web3 之间的桥梁,实现创新、可持续且可靠的服务交付。此方案促进模型多样性、提升中小企业的市场准入,并为开源研究者提供全新商业模型。未来的迭代将继续扩展生态系统,确保 BlockEden.xyz 在不断演进的 AI 与区块链领域保持强大且适应性强的解决方案。

揭示 OpenAI ChatGPT API 在 BlockEden.xyz API 市场的集成

· 阅读需 4 分钟
Dora Noda
Software Engineer

我们很高兴宣布,BlockEden.xyz —— Web3 开发者首选的 API 市场平台,新增了一项强大的功能 —— OpenAI API。是的,你没有听错!开发者、技术爱好者以及 AI 先驱现在可以直接通过 BlockEden 的 API 市场,使用 OpenAI 提供的前沿机器学习模型。

在深入了解使用指南之前,让我们先了解一下 OpenAI API 能带来哪些价值。OpenAI API 是通往 OpenAI 开发的 AI 模型的大门,其中包括业界知名的 GPT‑3,以及以卓越的理解和生成类人文本能力著称的最新 transformer‑based 语言模型。该 API 让开发者能够在各种场景中使用这些先进技术,包括撰写邮件、生成代码、回答问题、创作内容、辅导教学、语言翻译等等。

下面我们来看一下如何通过 BlockEden.xyz 将 OpenAI API 的强大能力集成到你的应用中。你可以通过三种方式实现:使用 Python、使用 JavaScript(Node.js)或直接在命令行使用 curl。在本篇博客中,我们将为每种方法提供最基础的 “Hello, World!” 示例。

下面的 API Key 为公开示例,可能随时更改并受速率限制。请前往 https://blockeden.xyz/dash 获取你自己的 BLOCKEDEN_API_KEY

Python:

使用 Python 时,可参考以下代码片段调用 OpenAI API:

import openai

BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD"
openai.api_key = ""
openai.api_base = "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1"

response = openai.ChatCompletion.create(
model="gpt-3.5-turbo-16k",
messages=[{"role": "user", "content": "hello, world!"}],
temperature=0,
max_tokens=2048,
top_p=1,
frequency_penalty=0,
presence_penalty=0
)

print(response["choices"])

JavaScript (Node.js):

同样可以使用 JavaScript 调用 OpenAI API,示例代码如下:

const { Configuration, OpenAIApi } = require("openai");

const BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD";
const configuration = new Configuration({
basePath: "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1",
});
const openai = new OpenAIApi(configuration);

(async () => {
const response = await openai.createChatCompletion({
model: "gpt-3.5-turbo-16k",
messages: [{ role: "user", content: "hello, world!" }],
temperature: 0,
max_tokens: 2048,
top_p: 1,
frequency_penalty: 0,
presence_penalty: 0,
});

console.log(JSON.stringify(response.data.choices, null, 2));
})();

cURL:

最后,你也可以直接在终端使用 curl 调用 OpenAI API:

curl https://api.blockeden.xyz/openai/8UuXzatAZYDBJC6YZTKD/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-3.5-turbo-16k",
"messages": [{"role": "user", "content": "hello, world!"}],
"temperature": 0,
"max_tokens": 2048,
"top_p": 1,
"frequency_penalty": 0,
"presence_penalty": 0
}'

那么接下来该怎么做?快去尝试吧,探索如何在你的项目中利用 OpenAI API 的强大能力,无论是聊天机器人、内容生成,还是其他任何基于自然语言处理的应用。想象力的边界即是可能性的边界。借助 BlockEden.xyz 与 OpenAI 的无缝集成,让我们一起重新定义可能。

欲了解 OpenAI 的功能、模型及使用细节,请访问官方的 OpenAI 文档

祝编码愉快!

什么是 BlockEden.xyz

BlockEden.xyz 是一个为 Sui、Aptos、Solana 以及 12 条 EVM 公链提供 API 市场的平台,助力各类 DApp 的构建。为什么我们的客户选择我们?

  1. 高可用性。自首个 API —— Aptos 主网上线以来,我们保持了 99.9% 的运行时间。
  2. 丰富的 API 产品与社区。我们的服务已扩展至 Sui、Ethereum、IoTeX、Solana、Polygon、Polygon zkEVM、Filecoin、Harmony、BSC、Arbitrum、Optimism、Gnosis、Arbitrum Nova 与 EthStorage Galileo。社区 10x.pub 拥有 4000+ 来自硅谷、Seattle 与 NYC 的 Web3 创新者。
  3. 安全可靠。已有超过 4500 万美元价值的代币在我们平台质押,客户信赖我们为其 Web3 与区块链需求提供可靠安全的解决方案。

我们提供一整套服务,旨在赋能区块链生态的每一参与者,聚焦以下三大核心领域:

  • 对于区块链 协议构建者,我们通过运营节点并进行长期生态贡献,确保安全性与去中心化。
  • 对于 DApp 开发者,我们构建易用的 API,简化开发流程,释放去中心化应用的全部潜能。
  • 对于 代币持有者,我们提供可靠的质押服务,最大化收益并优化资产管理。