Saltar para o conteúdo principal

209 posts marcados com "IA"

Aplicações de inteligência artificial e aprendizado de máquina

Ver todas as tags

Inteligência Artificial Descentralizada: Inferência de LLM sem Permissão no BlockEden.xyz

· 6 min de leitura
Dora Noda
Dora Noda
Software Engineer

BlockEden.xyz, conhecido por sua infraestrutura de Remote Procedure Call (RPC), está expandindo para serviços de inferência de IA. Essa evolução aproveita seu design open‑source e sem permissão para criar um marketplace onde pesquisadores de modelos, operadores de hardware, provedores de API e usuários interagem de forma fluida. O algoritmo de Relay Mining da rede garante um serviço transparente e verificável, oferecendo uma oportunidade única para pesquisadores de IA de grandes modelos monetizarem seu trabalho sem precisar manter a infraestrutura.

O Problema Central​

O cenário de IA enfrenta desafios significativos, incluindo:

  • Ambientes Restritos de Servir Modelos: Infraestruturas intensivas em recursos limitam a capacidade dos pesquisadores de IA de experimentar diferentes modelos.
  • Modelos de Negócio Insustentáveis para Inovação Open‑Source: Engenheiros independentes têm dificuldade em monetizar seu trabalho, dependendo de grandes provedores de infraestrutura.
  • Acesso Desigual ao Mercado: Modelos de nível empresarial dominam, deixando modelos de médio porte e usuários sub‑atendidos.

Proposta de Valor Única do BlockEden.xyz​

BlockEden.xyz resolve esses problemas desacoplando a camada de infraestrutura da camada de produto e serviços, garantindo um framework aberto e descentralizado. Essa configuração permite a entrega de serviços de alta qualidade e alinha incentivos entre todos os participantes da rede.

Benefícios principais incluem:

  • Rede Estabelecida: Utiliza a rede existente de serviços do BlockEden.xyz para simplificar o acesso a modelos e a qualidade do serviço.
  • Separação de Responsabilidades: Cada parte interessada foca em seus pontos fortes, melhorando a eficiência geral do ecossistema.
  • Alinhamento de Incentivos: Provas criptográficas e medições de desempenho impulsionam a competição e a transparência.
  • Modelos e Suprimentos Sem Permissão: Um marketplace aberto para suprimento de hardware com custo‑efetivo.

Stakeholders da Inferência de IA Descentralizada​

Provedores de Modelo: Coordenadores

Coordenadores gerenciam a camada de produto e serviços, otimizando a qualidade do serviço e proporcionando acesso contínuo para aplicações. Eles garantem discretamente a integridade dos fornecedores ao se apresentarem como usuários regulares, oferecendo avaliações de desempenho imparciais.

Usuários de Modelo: Aplicações

Aplicações normalmente utilizam coordenadores de primeira parte, mas também podem acessar a rede por meio de terceiros para maior privacidade e economia. O acesso direto permite experimentação em diversos casos de uso e elimina custos de intermediários.

Fornecedores de Modelo: Operadores de Hardware

Fornecedores executam nós de inferência para ganhar tokens. Suas competências em DevOps, manutenção de hardware e registro de logs são cruciais para o crescimento da rede. A abordagem sem permissão incentiva a participação de diversos provedores de hardware, inclusive aqueles com recursos ociosos ou inativos.

Fontes de Modelo: Engenheiros & Pesquisadores

Pesquisadores e instituições que disponibilizam modelos como open‑source podem ganhar receita baseada no uso. Esse modelo incentiva a inovação sem a necessidade de manutenção de infraestrutura, proporcionando um modelo de negócio sustentável para contribuidores open‑source.

Trabalhando com a Cuckoo Network​

BlockEden.xyz colabora com a Cuckoo Network para revolucionar a inferência de IA por meio de uma infraestrutura descentralizada e sem permissão. Essa parceria foca em aproveitar os pontos fortes de ambas as plataformas para criar um ecossistema fluido e eficiente para implantação e monetização de modelos de IA.

Áreas-Chave de Colaboração​

  • Integração de Infraestrutura: Combinação da robusta infraestrutura RPC do BlockEden.xyz com as capacidades descentralizadas de servir modelos da Cuckoo Network para oferecer um serviço de inferência de IA escalável e resiliente.
  • Distribuição de Modelos: Facilitar a distribuição de modelos de IA open‑source pela rede, permitindo que pesquisadores alcancem um público mais amplo e monetizem suas inovações sem precisar de infraestrutura extensa.
  • Garantia de Qualidade: Implementar mecanismos de monitoramento contínuo e avaliação de desempenho de modelos e integridade dos fornecedores, assegurando entrega de serviço de alta qualidade e confiabilidade.
  • Incentivos Econômicos: Alinhar incentivos econômicos entre todos os stakeholders por meio de provas criptográficas e recompensas baseadas em desempenho, fomentando um marketplace competitivo e transparente.
  • Privacidade e Segurança: Aprimorar operações que preservam a privacidade e inferência segura de modelos através de tecnologias avançadas como Trusted Execution Environments (TEE) e soluções descentralizadas de armazenamento de dados.
  • Comunidade e Suporte: Construir uma comunidade de apoio para pesquisadores e desenvolvedores de IA, oferecendo recursos, orientações e incentivos para impulsionar a inovação e adoção dentro do ecossistema de IA descentralizada.

Ao se associar à Cuckoo Network, BlockEden.xyz busca criar uma abordagem holística e descentralizada para inferência de IA, capacitando pesquisadores, desenvolvedores e usuários com uma plataforma robusta, transparente e eficiente para implantação e utilização de modelos de IA. Você já pode experimentar a API descentralizada de texto‑para‑imagem em https://blockeden.xyz/api-marketplace/cuckoo-ai.

Entrada/Saída de uma Rede de Inferência Descentralizada​

Entradas de LLM para a Cuckoo Network:

  • Modelos open‑source
  • Demanda de usuários finais ou aplicações
  • Suprimento agregado de hardware commodity
  • Garantias de qualidade de serviço

Saídas de LLM da Cuckoo Network:

  • Nenhum tempo de inatividade
  • Experimentação de modelo fluida
  • Avaliação pública de modelo
  • Operações que preservam a privacidade
  • Modelos livres de censura

Integrações no Ecossistema Web3​

O protocolo RPC do BlockEden.xyz pode ser integrado a outros protocolos Web3 para aprimorar a IA Descentralizada (DecAI):

Redes de Dados & Armazenamento: Integração fluida com soluções de armazenamento descentralizado como Filecoin/IPFS e Arweave para armazenamento de modelos e integridade de dados.

Redes de Computação: Serviços complementares que aproveitam camadas de computação descentralizada como Akash e Render, suportando hardware dedicado e ocioso.

Redes de Inferência: Modelos de implantação flexíveis e ecossistemas robustos que suportam tarefas de inferência diversas.

Aplicações: Agentes de IA, apps de consumo e dispositivos IoT beneficiam‑se da inferência DecAI para serviços personalizados, privacidade de dados e tomada de decisão na borda.

Resumo​

A infraestrutura estabelecida e o design econômico do BlockEden.xyz desbloqueiam novas oportunidades para IA open‑source. Ao oferecer um serviço descentralizado e verificável, ele preenche a lacuna entre IA open‑source e Web3, permitindo serviços inovadores, sustentáveis e confiáveis. Essa abordagem favorece maior diversidade de modelos, melhor acesso ao mercado para PMEs e um novo modelo de negócio para pesquisadores open‑source. Desenvolvimentos futuros continuarão a expandir o ecossistema, garantindo que o BlockEden.xyz permaneça uma solução robusta e adaptável nos cenários evolutivos de IA e blockchain.

Desvendando a Integração da API OpenAI ChatGPT no Marketplace de APIs do BlockEden.xyz

· 4 min de leitura
Dora Noda
Dora Noda
Software Engineer

Estamos felizes em anunciar que o BlockEden.xyz, a plataforma de referência dos desenvolvedores Web3 para marketplace de APIs, adicionou uma nova e poderosa capacidade – a API da OpenAI. Isso mesmo, você ouviu corretamente! Desenvolvedores, entusiastas de tecnologia e pioneiros em IA agora podem aproveitar os modelos de aprendizado de máquina de ponta oferecidos pela OpenAI, diretamente através do Marketplace de APIs do BlockEden.

Antes de mergulharmos no guia passo a passo, vamos entender o que a API da OpenAI traz à mesa. A API da OpenAI é um portal para os modelos de IA desenvolvidos pela OpenAI, como o renomado GPT‑3 e o modelo de linguagem transformer de última geração, conhecido por sua notável capacidade de compreender e gerar texto semelhante ao humano. A API permite que desenvolvedores utilizem essa tecnologia avançada em diversas aplicações, incluindo redação de e‑mails, escrita de código, respostas a perguntas, criação de conteúdo escrito, tutoria, tradução de idiomas e muito mais.

Agora, veja como incorporar o poder da API da OpenAI em suas aplicações usando o BlockEden.xyz. Você pode fazer isso de três maneiras: usando Python, usando JavaScript (Node.js) ou usando curl diretamente na linha de comando. Neste blog, vamos fornecer a configuração básica para cada método, usando um exemplo simples de “Hello, World!”.

A chave de API abaixo é pública, está sujeita a alterações e limites de taxa. Obtenha sua própria BLOCKEDEN_API_KEY em https://blockeden.xyz/dash.

Python:

Usando Python, você pode utilizar a API da OpenAI conforme o trecho a seguir:

import openai

BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD"
openai.api_key = ""
openai.api_base = "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1"

response = openai.ChatCompletion.create(
  model="gpt-3.5-turbo-16k",
  messages=[{"role": "user", "content": "hello, world!"}],
  temperature=0,
  max_tokens=2048,
  top_p=1,
  frequency_penalty=0,
  presence_penalty=0
)

print(response["choices"])

JavaScript (Node.js):

Você também pode utilizar a API da OpenAI com JavaScript. Veja como:

const { Configuration, OpenAIApi } = require("openai");

const BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD";
const configuration = new Configuration({
  basePath: "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1",
});
const openai = new OpenAIApi(configuration);

(async () => {
  const response = await openai.createChatCompletion({
    model: "gpt-3.5-turbo-16k",
    messages: [{ role: "user", content: "hello, world!" }],
    temperature: 0,
    max_tokens: 2048,
    top_p: 1,
    frequency_penalty: 0,
    presence_penalty: 0,
  });

  console.log(JSON.stringify(response.data.choices, null, 2));
})();

cURL:

Por fim, você pode chamar a API da OpenAI usando curl diretamente no terminal:

curl https://api.blockeden.xyz/openai/8UuXzatAZYDBJC6YZTKD/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
  "model": "gpt-3.5-turbo-16k",
  "messages": [{"role": "user", "content": "hello, world!"}],
  "temperature": 0,
  "max_tokens": 2048,
  "top_p": 1,
  "frequency_penalty": 0,
  "presence_penalty": 0
}'

Então, qual é o próximo passo? Mergulhe, experimente e descubra como você pode aproveitar o poder da API da OpenAI em seus projetos, seja para chatbots, geração de conteúdo ou qualquer outra aplicação baseada em NLP. As possibilidades são tão amplas quanto sua imaginação. Com a integração perfeita do BlockEden.xyz com a OpenAI, vamos redefinir os limites do que é possível.

Para mais informações sobre as capacidades, modelos e uso da OpenAI, visite a documentação oficial da OpenAI.

Happy Coding!

O que é o BlockEden.xyz​

O BlockEden.xyz é um marketplace de APIs que alimenta DApps de todos os tamanhos para Sui, Aptos, Solana e 12 blockchains EVM. Por que nossos clientes nos escolhem?

  1. Alta disponibilidade. Mantemos 99,9 % de uptime desde o lançamento da nossa primeira API – a rede principal da Aptos.
  2. Oferta de APIs inclusiva e comunidade vibrante. Nossos serviços se expandiram para incluir Sui, Ethereum, IoTeX, Solana, Polygon, Polygon zkEVM, Filecoin, Harmony, BSC, Arbitrum, Optimism, Gnosis, Arbitrum Nova e EthStorage Galileo. Nossa comunidade 10x.pub conta com mais de 4 000 inovadores Web3 de Silicon Valley, Seattle e Nova Iorque.
  3. Segurança. Com mais de US $45 milhões em tokens apostados conosco, nossos clientes confiam em nós para fornecer soluções confiáveis e seguras para suas necessidades Web3 e de blockchain.

Oferecemos um conjunto abrangente de serviços projetados para capacitar todos os participantes do ecossistema blockchain, focando em três áreas principais:

  • Para construtores de protocolos blockchain, garantimos segurança robusta e descentralização operando nós e contribuindo a longo prazo para o ecossistema.
  • Para desenvolvedores de DApps, criamos APIs amigáveis que simplificam o desenvolvimento e liberam todo o potencial das aplicações descentralizadas.
  • Para detentores de tokens, oferecemos um serviço de staking confiável para maximizar recompensas e otimizar a gestão de ativos.