Saltar al contenido principal

IA descentralizada: inferencia de LLM sin permisos en BlockEden.xyz

· 6 min de lectura
Dora Noda
Dora Noda
Software Engineer

BlockEden.xyz, conocido por su infraestructura de Remote Procedure Call (RPC), está expandiéndose a servicios de inferencia de IA. Esta evolución aprovecha su diseño de código abierto y sin permisos para crear un mercado donde investigadores de modelos, operadores de hardware, proveedores de API y usuarios interactúan de forma fluida. El algoritmo de Relay Mining de la red garantiza un servicio transparente y verificable, ofreciendo una oportunidad única a los investigadores de IA con modelos grandes para monetizar su trabajo sin mantener infraestructura.

El problema central​

El panorama de la IA enfrenta desafíos significativos, entre ellos:

  • Entornos de servicio de modelos restringidos: La infraestructura intensiva en recursos limita la capacidad de los investigadores de IA para experimentar con diversos modelos.
  • Modelos de negocio insostenibles para la innovación de código abierto: Los ingenieros independientes luchan por monetizar su trabajo, dependiendo de grandes proveedores de infraestructura.
  • Acceso desigual al mercado: Los modelos de nivel empresarial dominan, dejando desatendidos a los modelos de rango medio y a sus usuarios.

Propuesta de valor única de BlockEden.xyz​

BlockEden.xyz aborda estos problemas desacoplando la capa de infraestructura de la capa de producto y servicios, asegurando un marco abierto y descentralizado. Esta configuración permite una entrega de servicios de alta calidad y alinea los incentivos entre todos los participantes de la red.

Beneficios clave incluyen:

  • Red establecida: Utiliza la red existente de servicios de BlockEden.xyz para agilizar el acceso a modelos y la calidad del servicio.
  • Separación de responsabilidades: Cada parte interesada se centra en sus fortalezas, mejorando la eficiencia del ecosistema en su conjunto.
  • Alineación de incentivos: Pruebas criptográficas y métricas de rendimiento impulsan la competencia y la transparencia.
  • Modelos y suministro sin permisos: Un mercado abierto para suministro de hardware rentable.

Stakeholders de la inferencia de IA descentralizada​

Proveedores de modelos: Coordinadores

Los coordinadores gestionan la capa de producto y servicios, optimizando la calidad del servicio y proporcionando acceso fluido para las aplicaciones. De forma discreta, los coordinadores garantizan la integridad de los proveedores al actuar como usuarios regulares, ofreciendo evaluaciones de rendimiento imparciales.

Usuarios de modelos: Aplicaciones

Las aplicaciones suelen usar coordinadores de primera parte, pero también pueden acceder a la red a través de un tercero para mayor privacidad y ahorro de costos. El acceso directo permite experimentar con casos de uso diversos y elimina los costos de intermediarios.

Proveedores de modelos: Operadores de hardware

Los proveedores ejecutan nodos de inferencia para ganar tokens. Sus competencias en DevOps, mantenimiento de hardware y registro de logs son cruciales para el crecimiento de la red. El enfoque sin permisos fomenta la participación de diversos proveedores de hardware, incluidos aquellos con recursos ociosos o inactivos.

Fuentes de modelos: Ingenieros e investigadores

Los investigadores e instituciones que publican modelos de código abierto pueden obtener ingresos basados en el uso. Este modelo incentiva la innovación sin necesidad de mantener infraestructura, proporcionando un modelo de negocio sostenible para los contribuyentes de código abierto.

Trabajo con Cuckoo Network​

BlockEden.xyz colabora con Cuckoo Network para revolucionar la inferencia de IA mediante una infraestructura descentralizada y sin permisos. Esta asociación se centra en aprovechar las fortalezas de ambas plataformas para crear un ecosistema fluido y eficiente para el despliegue y la monetización de modelos de IA.

Áreas clave de colaboración​

  • Integración de infraestructura: Combinar la robusta infraestructura RPC de BlockEden.xyz con las capacidades descentralizadas de servicio de modelos de Cuckoo Network para ofrecer un servicio de inferencia de IA escalable y resiliente.
  • Distribución de modelos: Facilitar la distribución de modelos de IA de código abierto a lo largo de la red, permitiendo a los investigadores alcanzar una audiencia más amplia y monetizar sus innovaciones sin necesidad de infraestructura extensa.
  • Garantía de calidad: Implementar mecanismos de monitoreo continuo y evaluación del rendimiento de los modelos y la integridad de los proveedores, asegurando una entrega de servicio de alta calidad y fiabilidad.
  • Incentivos económicos: Alinear los incentivos económicos entre todos los stakeholders mediante pruebas criptográficas y recompensas basadas en rendimiento, fomentando un mercado competitivo y transparente.
  • Privacidad y seguridad: Mejorar las operaciones que preservan la privacidad y la inferencia segura de modelos mediante tecnologías avanzadas como Entornos de Ejecución Confiables (TEE) y soluciones de almacenamiento de datos descentralizado.
  • Comunidad y soporte: Construir una comunidad de apoyo para investigadores y desarrolladores de IA, proporcionando recursos, orientación e incentivos para impulsar la innovación y la adopción dentro del ecosistema de IA descentralizada.

Al asociarse con Cuckoo Network, BlockEden.xyz busca crear un enfoque holístico y descentralizado para la inferencia de IA, empoderando a investigadores, desarrolladores y usuarios con una plataforma robusta, transparente y eficiente para el despliegue y la utilización de modelos de IA. Ahora puedes probar la API descentralizada de texto a imagen en https://blockeden.xyz/api-marketplace/cuckoo-ai.

Entrada/Salida de una red de inferencia descentralizada​

Entradas de LLM a Cuckoo Network:

  • Modelos de código abierto
  • Demanda de usuarios finales o aplicaciones
  • Suministro agregado de hardware commodity
  • Garantías de calidad de servicio

Salidas de LLM de Cuckoo Network:

  • Sin tiempo de inactividad
  • Experimentación fluida con modelos
  • Evaluación pública de modelos
  • Operaciones que preservan la privacidad
  • Modelos libres de censura

Integraciones en el ecosistema Web3​

El protocolo RPC de BlockEden.xyz puede integrarse con otros protocolos Web3 para potenciar la IA descentralizada (DecAI):

Redes de datos y almacenamiento: Integración fluida con soluciones de almacenamiento descentralizado como Filecoin/IPFS y Arweave para el almacenamiento de modelos y la integridad de los datos.

Redes de cómputo: Servicios complementarios que aprovechan capas de computación descentralizada como Akash y Render, soportando tanto hardware dedicado como inactivo.

Redes de inferencia: Modelos de despliegue flexibles y ecosistemas robustos que soportan tareas de inferencia diversas.

Aplicaciones: Agentes de IA, apps de consumo y dispositivos IoT se benefician de la inferencia DecAI para servicios personalizados, privacidad de datos y toma de decisiones en el borde.

Resumen​

La infraestructura establecida y el diseño económico de BlockEden.xyz abren nuevas oportunidades para la IA de código abierto. Al ofrecer un servicio descentralizado y verificable, cierra la brecha entre la IA de código abierto y Web3, permitiendo servicios innovadores, sostenibles y fiables. Este enfoque permite una mayor diversidad de modelos, mejor acceso al mercado para pymes y un nuevo modelo de negocio para investigadores de código abierto. Los desarrollos futuros seguirán ampliando el ecosistema, asegurando que BlockEden.xyz siga siendo una solución robusta y adaptable en los paisajes evolutivos de IA y blockchain.

Share on Twitter