Direkt zum Hauptinhalt

209 Beiträge getaggt mit „KI“

Künstliche Intelligenz und Machine-Learning-Anwendungen

Alle Tags anzeigen

Dezentrale KI: Erlaubnisfreie LLM-Inferenz auf BlockEden.xyz

· 5 Min. Lesezeit
Dora Noda
Software Engineer

BlockEden.xyz, bekannt für seine Remote Procedure Call (RPC)-Infrastruktur, expandiert in den Bereich der KI-Inferenzdienste. Diese Entwicklung nutzt sein Open-Source- und erlaubnisfreies Design, um einen Marktplatz zu schaffen, auf dem Modellforscher, Hardware-Betreiber, API-Anbieter und Nutzer nahtlos interagieren können. Der Relay-Mining-Algorithmus des Netzwerks gewährleistet einen transparenten und überprüfbaren Dienst und bietet KI-Forschern großer Modelle eine einzigartige Möglichkeit, ihre Arbeit ohne Infrastrukturwartung zu monetarisieren.

Das Kernproblem

Die KI-Landschaft steht vor erheblichen Herausforderungen, darunter:

  • Eingeschränkte Modellbereitstellungsumgebungen: Ressourcenintensive Infrastruktur begrenzt die Fähigkeit von KI-Forschern, mit verschiedenen Modellen zu experimentieren.
  • Nicht nachhaltige Geschäftsmodelle für Open-Source-Innovationen: Unabhängige Ingenieure haben Schwierigkeiten, ihre Arbeit zu monetarisieren, da sie auf große Infrastrukturanbieter angewiesen sind.
  • Ungleicher Marktzugang: Modelle auf Unternehmensebene dominieren, wodurch Modelle der mittleren Ebene und deren Nutzer unterversorgt bleiben.

Das einzigartige Wertversprechen von BlockEden.xyz

BlockEden.xyz löst diese Probleme, indem es die Infrastrukturschicht von der Produkt- und Dienstleistungsschicht entkoppelt und so ein offenes und dezentrales Framework gewährleistet. Dieses Setup ermöglicht eine qualitativ hochwertige Servicebereitstellung und gleicht die Anreize aller Netzwerkteilnehmer an.

Zu den Hauptvorteilen gehören:

  • Etabliertes Netzwerk: Nutzung eines bestehenden Netzwerks von BlockEden.xyz-Diensten zur Optimierung des Modellzugangs und der Servicequalität.
  • Trennung der Verantwortlichkeiten: Jeder Stakeholder konzentriert sich auf seine Stärken, was die Effizienz des gesamten Ökosystems verbessert.
  • Anreizausrichtung: Kryptografische Beweise und Leistungsmessungen fördern Wettbewerb und Transparenz.
  • Erlaubnisfreie Modelle & Angebot: Ein offener Marktplatz für kostengünstige Hardware-Bereitstellung.

Stakeholder der dezentralen KI-Inferenz

Modellanbieter: Koordinatoren

Koordinatoren verwalten die Produkt- und Dienstleistungsschicht, optimieren die Servicequalität und bieten Anwendungen nahtlosen Zugang. Koordinatoren stellen diskret die Integrität der Anbieter sicher, indem sie sich als reguläre Nutzer ausgeben und unvoreingenommene Leistungsbewertungen anbieten.

Modellnutzer: Anwendungen

Anwendungen nutzen typischerweise Erstanbieter-Koordinatoren, können aber auch mit einem Drittanbieter auf das Netzwerk zugreifen, um die Privatsphäre zu verbessern und Kosten zu sparen. Direkter Zugang ermöglicht Experimente mit verschiedenen Anwendungsfällen und eliminiert Zwischenkosten.

Modellanbieter: Hardware-Betreiber

Anbieter betreiben Inferenz-Knoten, um Token zu verdienen. Ihre Kompetenzen in DevOps, Hardware-Wartung und Logging sind entscheidend für das Netzwerkwachstum. Der erlaubnisfreie Ansatz fördert die Teilnahme verschiedener Hardware-Anbieter, einschließlich jener mit ungenutzten oder inaktiven Ressourcen.

Modellquellen: Ingenieure & Forscher

Forscher und Institutionen, die Open-Source-Modelle bereitstellen, können Einnahmen basierend auf der Nutzung erzielen. Dieses Modell fördert Innovationen, ohne dass Infrastrukturwartung erforderlich ist, und bietet ein nachhaltiges Geschäftsmodell für Open-Source-Beitragende.

Zusammenarbeit mit dem Cuckoo Network

BlockEden.xyz arbeitet mit dem Cuckoo Network zusammen, um die KI-Inferenz durch eine dezentrale und erlaubnisfreie Infrastruktur zu revolutionieren. Diese Partnerschaft konzentriert sich darauf, die Stärken beider Plattformen zu nutzen, um ein nahtloses und effizientes Ökosystem für die Bereitstellung und Monetarisierung von KI-Modellen zu schaffen.

Wichtige Kollaborationsbereiche

  • Infrastrukturintegration: Kombination der robusten RPC-Infrastruktur von BlockEden.xyz mit den dezentralen Modellbereitstellungsfunktionen des Cuckoo Network, um einen skalierbaren und widerstandsfähigen KI-Inferenzdienst anzubieten.
  • Modellverteilung: Erleichterung der Verteilung von Open-Source-KI-Modellen im gesamten Netzwerk, wodurch Forscher ein breiteres Publikum erreichen und ihre Innovationen ohne umfangreiche Infrastruktur monetarisieren können.
  • Qualitätssicherung: Implementierung von Mechanismen zur kontinuierlichen Überwachung und Bewertung der Modellleistung und Anbieterintegrität, um eine qualitativ hochwertige Servicebereitstellung und Zuverlässigkeit zu gewährleisten.
  • Wirtschaftliche Anreize: Angleichung der wirtschaftlichen Anreize aller Stakeholder durch kryptografische Beweise und leistungsbasierte Belohnungen, wodurch ein wettbewerbsorientierter und transparenter Marktplatz gefördert wird.
  • Datenschutz und Sicherheit: Verbesserung datenschutzfreundlicher Operationen und sicherer Modellinferenz durch fortschrittliche Technologien wie Trusted Execution Environments (TEE) und dezentrale Datenspeicherlösungen.
  • Community und Support: Aufbau einer unterstützenden Community für KI-Forscher und -Entwickler, Bereitstellung von Ressourcen, Anleitungen und Anreizen zur Förderung von Innovation und Akzeptanz innerhalb des dezentralen KI-Ökosystems.

Durch die Partnerschaft mit dem Cuckoo Network möchte BlockEden.xyz einen ganzheitlichen und dezentralen Ansatz für die KI-Inferenz schaffen, der Forschern, Entwicklern und Nutzern eine robuste, transparente und effiziente Plattform für die Bereitstellung und Nutzung von KI-Modellen bietet. Sie können die dezentrale Text-zu-Bild-API jetzt unter https://blockeden.xyz/api-marketplace/cuckoo-ai ausprobieren.

Input/Output eines dezentralen Inferenznetzwerks

LLM-Inputs an das Cuckoo Network:

  • Open-Source-Modelle
  • Nachfrage von Endnutzern oder Anwendungen
  • Aggregiertes Angebot von Standardhardware
  • Garantien für die Servicequalität

LLM-Outputs vom Cuckoo Network:

  • Keine Ausfallzeiten
  • Nahtlose Modell-Experimente
  • Öffentliche Modellbewertung
  • Datenschutzfreundliche Operationen
  • Zensurfreie Modelle

Web3-Ökosystem-Integrationen

Das RPC-Protokoll von BlockEden.xyz kann mit anderen Web3-Protokollen integriert werden, um dezentrale KI (DecAI) zu verbessern:

Daten- & Speichernetzwerke: Nahtlose Integration mit dezentralen Speicherlösungen wie Filecoin/IPFS und Arweave für Modellspeicherung und Datenintegrität.

Compute-Netzwerke: Komplementäre Dienste, die dezentrale Computing-Schichten wie Akash und Render nutzen und sowohl dedizierte als auch ungenutzte Hardware unterstützen.

Inferenznetzwerke: Flexible Bereitstellungsmodelle und robuste Ökosysteme, die vielfältige Inferenzaufgaben unterstützen.

Anwendungen: KI-Agenten, Verbraucher-Apps und IoT-Geräte profitieren von der DecAI-Inferenz für personalisierte Dienste, Datenschutz und Edge-Entscheidungsfindung.

Zusammenfassung

Die etablierte Infrastruktur und das wirtschaftliche Design von BlockEden.xyz eröffnen neue Möglichkeiten für Open-Source-KI. Durch die Bereitstellung eines dezentralen und überprüfbaren Dienstes überbrückt es die Lücke zwischen Open-Source-KI und Web3 und ermöglicht innovative, nachhaltige und zuverlässige Dienste. Dieser Ansatz ermöglicht eine größere Modellvielfalt, einen besseren Marktzugang für KMU und ein neues Geschäftsmodell für Open-Source-Forscher. Zukünftige Entwicklungen werden das Ökosystem weiter ausbauen und sicherstellen, dass BlockEden.xyz eine robuste und anpassungsfähige Lösung in den sich entwickelnden KI- und Blockchain-Landschaften bleibt.

Enthüllung der Integration der OpenAI ChatGPT API in den API-Marktplatz von BlockEden.xyz

· 4 Min. Lesezeit
Dora Noda
Software Engineer

Wir freuen uns bekannt zu geben, dass BlockEden.xyz, die bevorzugte Plattform für Web3-Entwickler für API-Marktplätze, eine neue, leistungsstarke Funktion hinzugefügt hat – die OpenAI API. Ja, Sie haben richtig gehört! Entwickler, Technikbegeisterte und KI-Pioniere können jetzt die hochmodernen maschinellen Lernmodelle von OpenAI direkt über den API-Marktplatz von BlockEden nutzen.

Bevor wir uns dem Leitfaden widmen, wollen wir verstehen, was die OpenAI API zu bieten hat. Die OpenAI API ist ein Zugang zu KI-Modellen, die von OpenAI entwickelt wurden, wie dem branchenweit bekannten GPT-3, dem hochmodernen transformatorbasierten Sprachmodell, das für seine bemerkenswerte Fähigkeit bekannt ist, menschenähnlichen Text zu verstehen und zu generieren. Die API ermöglicht es Entwicklern, diese fortschrittliche Technologie für eine Vielzahl von Anwendungen zu nutzen, darunter das Verfassen von E-Mails, das Schreiben von Code, das Beantworten von Fragen, das Erstellen von schriftlichen Inhalten, Nachhilfe, Sprachübersetzung und vieles mehr.

Sehen wir uns nun an, wie Sie die Leistungsfähigkeit der OpenAI API mit BlockEden.xyz in Ihre Anwendungen integrieren können. Sie können dies auf drei Arten tun: mit Python, mit JavaScript (Node.js) oder direkt mit curl über die Befehlszeile. In diesem Blogbeitrag werden wir die grundlegende Einrichtung für jede Methode anhand eines einfachen „Hello, World!“-Beispiels vorstellen.

Der unten stehende API-Schlüssel ist öffentlich und kann sich ändern und ist ratenbegrenzt. Holen Sie sich stattdessen Ihren eigenen BLOCKEDEN_API_KEY unter https://blockeden.xyz/dash.

Python:

Mit Python können Sie die OpenAI API wie im folgenden Snippet gezeigt verwenden:

import openai

BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD"
openai.api_key = ""
openai.api_base = "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1"

response = openai.ChatCompletion.create(
model="gpt-3.5-turbo-16k",
messages=[{"role": "user", "content": "hello, world!"}],
temperature=0,
max_tokens=2048,
top_p=1,
frequency_penalty=0,
presence_penalty=0
)

print(response["choices"])

JavaScript (Node.js):

Sie können die OpenAI API auch mit JavaScript nutzen. So geht's:

const { Configuration, OpenAIApi } = require("openai");

const BLOCKEDEN_API_KEY = "8UuXzatAZYDBJC6YZTKD";
const configuration = new Configuration({
basePath: "https://api.blockeden.xyz/openai/" + BLOCKEDEN_API_KEY + "/v1"
});
const openai = new OpenAIApi(configuration);

(async () => {
const response = await openai.createChatCompletion({
model: "gpt-3.5-turbo-16k",
messages: [{role: "user", content: "hello, world!"}],
temperature: 0,
max_tokens: 2048,
top_p: 1,
frequency_penalty: 0,
presence_penalty: 0,
});

console.log(JSON.stringify(response.data.choices, null, 2));
})()

cURL:

Zu guter Letzt können Sie die OpenAI API mit curl direkt von Ihrem Terminal aus aufrufen:

curl https://api.blockeden.xyz/openai/8UuXzatAZYDBJC6YZTKD/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-3.5-turbo-16k",
"messages": [{"role": "user", "content": "hello, world!"}],
"temperature": 0,
"max_tokens": 2048,
"top_p": 1,
"frequency_penalty": 0,
"presence_penalty": 0
}'

Was kommt als Nächstes? Tauchen Sie ein, experimentieren Sie und entdecken Sie, wie Sie die Leistungsfähigkeit der OpenAI API für Ihre Projekte nutzen können, sei es für Chatbots, Content-Generierung oder jede andere NLP-basierte Anwendung. Die Möglichkeiten sind so grenzenlos wie Ihre Vorstellungskraft. Mit der nahtlosen Integration von BlockEden.xyz mit OpenAI wollen wir die Grenzen des Machbaren neu definieren.

Weitere Informationen zu den Funktionen, Modellen und der Nutzung von OpenAI finden Sie in der offiziellen OpenAI-Dokumentation.

Viel Spaß beim Codieren!

Was ist BlockEden.xyz

BlockEden.xyz ist ein API-Marktplatz, der DApps jeder Größe für Sui, Aptos, Solana und 12 EVM-Blockchains antreibt. Warum wählen unsere Kunden uns?

  1. Hohe Verfügbarkeit. Wir halten seit dem Start unserer ersten API – dem Aptos Mainnet – eine Verfügbarkeit von 99,9 % aufrecht.
  2. Umfassende API-Angebote und Community. Unsere Dienste wurden erweitert und umfassen Sui, Ethereum, IoTeX, Solana, Polygon, Polygon zkEVM, Filecoin, Harmony, BSC, Arbitrum, Optimism, Gnosis, Arbitrum Nova & EthStorage Galileo. Unsere Community 10x.pub hat über 4000 Web3-Innovatoren aus dem Silicon Valley, Seattle und NYC.
  3. Sicherheit. Mit über 45 Millionen US-Dollar an bei uns gestakten Tokens vertrauen unsere Kunden darauf, dass wir zuverlässige und sichere Lösungen für ihre Web3- und Blockchain-Anforderungen bereitstellen.

Wir bieten eine umfassende Palette von Dienstleistungen, die darauf abzielen, jeden Teilnehmer im Blockchain-Bereich zu stärken, wobei wir uns auf drei Schlüsselbereiche konzentrieren:

  • Für Blockchain-Protokollentwickler gewährleisten wir robuste Sicherheit und Dezentralisierung durch den Betrieb von Nodes und langfristige Beiträge zum Ökosystem.
  • Für DApp-Entwickler erstellen wir benutzerfreundliche APIs, um die Entwicklung zu optimieren und das volle Potenzial dezentraler Anwendungen freizusetzen.
  • Für Token-Inhaber bieten wir einen zuverlässigen Staking-Dienst, um Belohnungen zu maximieren und die Vermögensverwaltung zu optimieren.