Saltar al contenido principal

20 publicaciones etiquetados con "IA"

Ver Todas las Etiquetas

IA descentralizada: inferencia de LLM sin permisos en BlockEden.xyz

· 6 min de lectura
Dora Noda
Software Engineer

BlockEden.xyz, conocido por su infraestructura de Remote Procedure Call (RPC), está expandiéndose a servicios de inferencia de IA. Esta evolución aprovecha su diseño de código abierto y sin permisos para crear un mercado donde investigadores de modelos, operadores de hardware, proveedores de API y usuarios interactúan de forma fluida. El algoritmo de Relay Mining de la red garantiza un servicio transparente y verificable, ofreciendo una oportunidad única a los investigadores de IA con modelos grandes para monetizar su trabajo sin mantener infraestructura.

El problema central

El panorama de la IA enfrenta desafíos significativos, entre ellos:

  • Entornos de servicio de modelos restringidos: La infraestructura intensiva en recursos limita la capacidad de los investigadores de IA para experimentar con diversos modelos.
  • Modelos de negocio insostenibles para la innovación de código abierto: Los ingenieros independientes luchan por monetizar su trabajo, dependiendo de grandes proveedores de infraestructura.
  • Acceso desigual al mercado: Los modelos de nivel empresarial dominan, dejando desatendidos a los modelos de rango medio y a sus usuarios.

Propuesta de valor única de BlockEden.xyz

BlockEden.xyz aborda estos problemas desacoplando la capa de infraestructura de la capa de producto y servicios, asegurando un marco abierto y descentralizado. Esta configuración permite una entrega de servicios de alta calidad y alinea los incentivos entre todos los participantes de la red.

Beneficios clave incluyen:

  • Red establecida: Utiliza la red existente de servicios de BlockEden.xyz para agilizar el acceso a modelos y la calidad del servicio.
  • Separación de responsabilidades: Cada parte interesada se centra en sus fortalezas, mejorando la eficiencia del ecosistema en su conjunto.
  • Alineación de incentivos: Pruebas criptográficas y métricas de rendimiento impulsan la competencia y la transparencia.
  • Modelos y suministro sin permisos: Un mercado abierto para suministro de hardware rentable.

Stakeholders de la inferencia de IA descentralizada

Proveedores de modelos: Coordinadores

Los coordinadores gestionan la capa de producto y servicios, optimizando la calidad del servicio y proporcionando acceso fluido para las aplicaciones. De forma discreta, los coordinadores garantizan la integridad de los proveedores al actuar como usuarios regulares, ofreciendo evaluaciones de rendimiento imparciales.

Usuarios de modelos: Aplicaciones

Las aplicaciones suelen usar coordinadores de primera parte, pero también pueden acceder a la red a través de un tercero para mayor privacidad y ahorro de costos. El acceso directo permite experimentar con casos de uso diversos y elimina los costos de intermediarios.

Proveedores de modelos: Operadores de hardware

Los proveedores ejecutan nodos de inferencia para ganar tokens. Sus competencias en DevOps, mantenimiento de hardware y registro de logs son cruciales para el crecimiento de la red. El enfoque sin permisos fomenta la participación de diversos proveedores de hardware, incluidos aquellos con recursos ociosos o inactivos.

Fuentes de modelos: Ingenieros e investigadores

Los investigadores e instituciones que publican modelos de código abierto pueden obtener ingresos basados en el uso. Este modelo incentiva la innovación sin necesidad de mantener infraestructura, proporcionando un modelo de negocio sostenible para los contribuyentes de código abierto.

Trabajo con Cuckoo Network

BlockEden.xyz colabora con Cuckoo Network para revolucionar la inferencia de IA mediante una infraestructura descentralizada y sin permisos. Esta asociación se centra en aprovechar las fortalezas de ambas plataformas para crear un ecosistema fluido y eficiente para el despliegue y la monetización de modelos de IA.

Áreas clave de colaboración

  • Integración de infraestructura: Combinar la robusta infraestructura RPC de BlockEden.xyz con las capacidades descentralizadas de servicio de modelos de Cuckoo Network para ofrecer un servicio de inferencia de IA escalable y resiliente.
  • Distribución de modelos: Facilitar la distribución de modelos de IA de código abierto a lo largo de la red, permitiendo a los investigadores alcanzar una audiencia más amplia y monetizar sus innovaciones sin necesidad de infraestructura extensa.
  • Garantía de calidad: Implementar mecanismos de monitoreo continuo y evaluación del rendimiento de los modelos y la integridad de los proveedores, asegurando una entrega de servicio de alta calidad y fiabilidad.
  • Incentivos económicos: Alinear los incentivos económicos entre todos los stakeholders mediante pruebas criptográficas y recompensas basadas en rendimiento, fomentando un mercado competitivo y transparente.
  • Privacidad y seguridad: Mejorar las operaciones que preservan la privacidad y la inferencia segura de modelos mediante tecnologías avanzadas como Entornos de Ejecución Confiables (TEE) y soluciones de almacenamiento de datos descentralizado.
  • Comunidad y soporte: Construir una comunidad de apoyo para investigadores y desarrolladores de IA, proporcionando recursos, orientación e incentivos para impulsar la innovación y la adopción dentro del ecosistema de IA descentralizada.

Al asociarse con Cuckoo Network, BlockEden.xyz busca crear un enfoque holístico y descentralizado para la inferencia de IA, empoderando a investigadores, desarrolladores y usuarios con una plataforma robusta, transparente y eficiente para el despliegue y la utilización de modelos de IA. Ahora puedes probar la API descentralizada de texto a imagen en https://blockeden.xyz/api-marketplace/cuckoo-ai.

Entrada/Salida de una red de inferencia descentralizada

Entradas de LLM a Cuckoo Network:

  • Modelos de código abierto
  • Demanda de usuarios finales o aplicaciones
  • Suministro agregado de hardware commodity
  • Garantías de calidad de servicio

Salidas de LLM de Cuckoo Network:

  • Sin tiempo de inactividad
  • Experimentación fluida con modelos
  • Evaluación pública de modelos
  • Operaciones que preservan la privacidad
  • Modelos libres de censura

Integraciones en el ecosistema Web3

El protocolo RPC de BlockEden.xyz puede integrarse con otros protocolos Web3 para potenciar la IA descentralizada (DecAI):

Redes de datos y almacenamiento: Integración fluida con soluciones de almacenamiento descentralizado como Filecoin/IPFS y Arweave para el almacenamiento de modelos y la integridad de los datos.

Redes de cómputo: Servicios complementarios que aprovechan capas de computación descentralizada como Akash y Render, soportando tanto hardware dedicado como inactivo.

Redes de inferencia: Modelos de despliegue flexibles y ecosistemas robustos que soportan tareas de inferencia diversas.

Aplicaciones: Agentes de IA, apps de consumo y dispositivos IoT se benefician de la inferencia DecAI para servicios personalizados, privacidad de datos y toma de decisiones en el borde.

Resumen

La infraestructura establecida y el diseño económico de BlockEden.xyz abren nuevas oportunidades para la IA de código abierto. Al ofrecer un servicio descentralizado y verificable, cierra la brecha entre la IA de código abierto y Web3, permitiendo servicios innovadores, sostenibles y fiables. Este enfoque permite una mayor diversidad de modelos, mejor acceso al mercado para pymes y un nuevo modelo de negocio para investigadores de código abierto. Los desarrollos futuros seguirán ampliando el ecosistema, asegurando que BlockEden.xyz siga siendo una solución robusta y adaptable en los paisajes evolutivos de IA y blockchain.

Revelando la integración de la API OpenAI ChatGPT en el Marketplace de API de BlockEden.xyz

· 4 min de lectura
Dora Noda
Software Engineer

Nos complace anunciar que BlockEden.xyz, la plataforma de referencia para desarrolladores web3 en el marketplace de API, ha añadido una nueva y poderosa capacidad: la API de OpenAI. ¡Sí, lo has escuchado bien! Desarrolladores, entusiastas de la tecnología y pioneros de la IA ahora pueden aprovechar los modelos de aprendizaje automático de vanguardia ofrecidos por OpenAI, directamente a través del Marketplace de API de BlockEden.

Antes de sumergirnos en la guía paso a paso, comprendamos qué aporta la API de OpenAI. La API de OpenAI es una puerta de enlace a los modelos de IA desarrollados por OpenAI, como el reconocido GPT‑3, el modelo de lenguaje basado en transformadores de última generación conocido por su notable capacidad para entender y generar texto similar al humano. La API permite a los desarrolladores usar esta tecnología avanzada para una variedad de aplicaciones, incluyendo la redacción de correos electrónicos, escritura de código, respuestas a preguntas, creación de contenido escrito, tutoría, traducción de idiomas y mucho más.

Ahora veamos cómo puedes incorporar el poder de la API de OpenAI en tus aplicaciones usando BlockEden.xyz. Puedes hacerlo de tres maneras: con Python, con JavaScript (Node.js) o con curl directamente desde la línea de comandos. En este blog, proporcionaremos la configuración básica para cada método, usando un sencillo ejemplo de “¡Hola, Mundo!”.

La clave API a continuación es pública, está sujeta a cambios y a límites de velocidad. Obtén tu propio BLOCKEDEN_API_KEY en https://blockeden.xyz/dash.

Python:

Usando Python, puedes utilizar la API de OpenAI como se muestra en el siguiente fragmento:

import openai

BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD"
openai.api_key = ""
openai.api_base = "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1"

response = openai.ChatCompletion.create(
model="gpt-3.5-turbo-16k",
messages=[{"role": "user", "content": "hello, world!"}],
temperature=0,
max_tokens=2048,
top_p=1,
frequency_penalty=0,
presence_penalty=0
)

print(response["choices"])

JavaScript (Node.js):

También puedes utilizar la API de OpenAI con JavaScript. Así es como puedes hacerlo:

const { Configuration, OpenAIApi } = require("openai");

const BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD";
const configuration = new Configuration({
basePath: "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1",
});
const openai = new OpenAIApi(configuration);

(async () => {
const response = await openai.createChatCompletion({
model: "gpt-3.5-turbo-16k",
messages: [{ role: "user", content: "hello, world!" }],
temperature: 0,
max_tokens: 2048,
top_p: 1,
frequency_penalty: 0,
presence_penalty: 0,
});

console.log(JSON.stringify(response.data.choices, null, 2));
})();

cURL:

Por último, pero no menos importante, puedes llamar a la API de OpenAI usando curl directamente desde tu terminal:

curl https://api.blockeden.xyz/openai/8UuXzatAZYDBJC6YZTKD/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-3.5-turbo-16k",
"messages": [{"role": "user", "content": "hello, world!"}],
"temperature": 0,
"max_tokens": 2048,
"top_p": 1,
"frequency_penalty": 0,
"presence_penalty": 0
}'

Entonces, ¿qué sigue? Sumérgete, experimenta y descubre cómo puedes aprovechar el poder de la API de OpenAI para tus proyectos, ya sea para chatbots, generación de contenido o cualquier otra aplicación basada en NLP. Las posibilidades son tan amplias como tu imaginación. Con la integración fluida de BlockEden.xyz con OpenAI, redefinamos los límites de lo que es posible.

Para obtener más información sobre las capacidades, modelos y uso de OpenAI, visita la documentación oficial de OpenAI.

¡Feliz codificación!

¿Qué es BlockEden.xyz?

BlockEden.xyz es un marketplace de API que potencia DApps de todos los tamaños para Sui, Aptos, Solana y 12 blockchains EVM. ¿Por qué nuestros clientes nos eligen?

  1. Alta disponibilidad. Mantenemos un 99,9 % de tiempo activo desde nuestro primer API: el lanzamiento de la mainnet de Aptos.
  2. Oferta de API inclusiva y comunidad. Nuestros servicios se han expandido para incluir Sui, Ethereum, IoTeX, Solana, Polygon, Polygon zkEVM, Filecoin, Harmony, BSC, Arbitrum, Optimism, Gnosis, Arbitrum Nova y EthStorage Galileo. Nuestra comunidad 10x.pub cuenta con más de 4 000 innovadores web3 de Silicon Valley, Seattle y Nueva York.
  3. Seguridad. Con más de 45 millones de dólares en tokens apostados con nosotros, nuestros clientes confían en que les ofrecemos soluciones fiables y seguras para sus necesidades web3 y blockchain.

Proporcionamos una suite integral de servicios diseñados para empoderar a cada participante del ecosistema blockchain, enfocándonos en tres áreas clave:

  • Para los constructores de protocolos blockchain, garantizamos seguridad y descentralización robustas operando nodos y realizando contribuciones a largo plazo al ecosistema.
  • Para los desarrolladores de DApp, creamos API fáciles de usar que agilizan el desarrollo y liberan todo el potencial de las aplicaciones descentralizadas.
  • Para los poseedores de tokens, ofrecemos un servicio de staking confiable para maximizar recompensas y optimizar la gestión de activos.