IONOS CLOUD AI Model Hub | LLM Hosting

KI-Inferenz auf europäischer Infrastruktur

  • Nutzen Sie DSGVO-konforme Datenverarbeitung in europäischen Rechenzentren
  • Schützen Sie Ihre Geschäftsabläufe verlässlich nach europäischem Recht
  • Integrieren Sie bestehende Codebasen direkt per OpenAI-kompatiblem REST-Endpunkt
Ein abstraktes Bild eines Netzwerks oder einer Datenstruktur mit blauen und weißen Elementen.
IONOS

AI Model Hub

Souveräne KI-Infrastruktur für höchste Compliance-Ansprüche

Mit dem IONOS CLOUD AI Model Hub profitieren Ihre Entwickler von einer stabilen Inference-API und maximaler Datensouveränität nach europäischem Recht.

Volle Datensouveränität

Alle Abfrageanfragen werden in europäischen Rechenzentren verarbeitet und unmittelbar danach gelöscht – Datenhoheit ist strukturell verankert und kein vertraglicher Zusatz.

  • Keine Gefährdung durch den US-amerikanischen CLOUD Act, kein Risiko einer extraterritorialen Offenlegung
  • Kein Zugriff durch Dritte – strenge Datenhoheit
  • Ihre Eingaben und Ergebnisse werden niemals zum Trainieren von Modellen verwendet

Komplett verwaltete Infrastruktur

Ihre Teams programmieren auf Basis einer stabilen REST-API, während IONOS CLOUD den gesamten Serving-Stack, die Modellversionierung und die Verfügbarkeit übernimmt.

  • Keine GPU-Infrastruktur, die beschafft, konfiguriert oder gewartet werden muss
  • Der Modelllebenszyklus wird von IONOS CLOUD verwaltet, nicht von Ihrem Entwicklerteam
  • Skalierbar vom ersten Test bis zur Produktion über dieselbe API

Nahtlose, OpenAI-kompatible Integration

Dank nativer, OpenAI-kompatibler REST-Endpunkte lassen sich bestehende Tools, SDKs und Frameworks ohne Anpassungen integrieren.

  • Kompatibel mit den offiziellen OpenAI-SDKs und jedem HTTP-Client
  • Chat-Vervollständigungen, Bildgenerierung und Embeddings über eine einzige API
  • Playground im DCD zum Testen von Modellen
Ein Archivdokument mit einem Speicherfach im unteren Bereich, als Symbol für Cloud-Datenspeicherung und -Archivierung

Retrieval-Augmented-Generation

Kombinieren Sie große Sprachmodelle mit Ihren eigenen Dokumentensammlungen, um präzise, kontextbezogene und auf Ihren Daten basierende Antworten zu generieren.

  • Kombinieren Sie die Embedding-Inferenz mit der IONOS CLOUD Managed Database (PostgreSQL + pgvector) – oder einem Vektorspeicher Ihrer Wahl
  • Embedding und LLM-Inferenz auf derselben souveränen Plattform
  • Mehrsprachige Embedding-Modelle für eine umfassendere, sprachübergreifende Abdeckung

Function-Calling und Agenten-Tools

Die Modelle liefern schema-gültiges JSON und strukturierte Tool-Aufrufe für Ihre Anwendung. So integrieren Sie nachgelagerte Systeme vollkommen nahtlos, direkt und absolut zuverlässig.

  • Workflows auslösen und Echtzeitdaten über natürliche Sprache abrufen
  • Direkte Integration in Geschäftsanwendungen, keine benutzerdefinierte Middleware erforderlich
Transparente, tokenbasierte Abrechnung

Sie zahlen nur für die Tokens, die Sie tatsächlich verbrauchen – keine Grundgebühren, kein Mindestumsatz und keine Kosten, wenn die Workloads im Leerlauf sind.

  • Keine Vorabinvestitionen – keine Hardware, die gekauft werden muss, und keine Kapazitäten, die reserviert werden müssen
  • Eingangs- und Ausgangstokens werden je nach Modell separat abgerechnet
  • Transparente Nutzungsdaten unterstützen die interne Budgetsteuerung
  • TÜV NORD Zertifizierungslogo für ISO/IEC 27001
  • TÜV NORD Zertifizierungslogo für ISO 50001
  • ISO 27001-Zertifikat des Bundesamts für Sicherheit in der Informationstechnik, gültig bis 13.09.2025.
  • GDPR-Logo mit zwölf Sternen.
  • Gaia-X Logo mit blauem Text und einem abstrakten Symbol aus Punkten.
  • Grünes Logo mit Baum und Text "Green Hosting" darunter.
  • TÜV NORD Zertifizierungslogo für ISO/IEC 27001
  • TÜV NORD Zertifizierungslogo für ISO 50001
  • ISO 27001-Zertifikat des Bundesamts für Sicherheit in der Informationstechnik, gültig bis 13.09.2025.
  • GDPR-Logo mit zwölf Sternen.
  • Gaia-X Logo mit blauem Text und einem abstrakten Symbol aus Punkten.
  • Grünes Logo mit Baum und Text "Green Hosting" darunter.
  • TÜV NORD Zertifizierungslogo für ISO/IEC 27001
  • TÜV NORD Zertifizierungslogo für ISO 50001
  • ISO 27001-Zertifikat des Bundesamts für Sicherheit in der Informationstechnik, gültig bis 13.09.2025.
  • GDPR-Logo mit zwölf Sternen.
  • Gaia-X Logo mit blauem Text und einem abstrakten Symbol aus Punkten.
  • Grünes Logo mit Baum und Text "Green Hosting" darunter.

Sie zahlen nur für das, was Sie tatsächlich nutzen

Zahlen Sie mit IONOS CLOUD nur verbrauchte Tokens ohne feste Gebühren – ideal für Pilotprojekte und produktive Workloads.
Modell
Preis pro 1 Million Input-Token
Preis pro 1 Million Output-Token

Qwen3.5-9B Neu

0,10 €
0,15 €
Llama 3.1 8B Instruct
0,15 €
0,15 €
Mistral Nemo Instruct
0,15 €
0,15 €
Mistral Small 24B Instruct
0,10 €
0,30 €
gpt-oss-120b
0,15 €
0,65 €
Llama 3.3 70B Instruct
0,65 €
0,65 €

Qwen3.5-397B-A17B Neu

0,60 €
3,60 €

Qwen3.5-9B Neu

Modell
Preis pro 1 Million Input-Token
0,10 €
Preis pro 1 Million Output-Token
0,15 €
Llama 3.1 8B Instruct
Modell
Preis pro 1 Million Input-Token
0,15 €
Preis pro 1 Million Output-Token
0,15 €
Mistral Nemo Instruct
Modell
Preis pro 1 Million Input-Token
0,15 €
Preis pro 1 Million Output-Token
0,15 €
Mistral Small 24B Instruct
Modell
Preis pro 1 Million Input-Token
0,10 €
Preis pro 1 Million Output-Token
0,30 €
gpt-oss-120b
Modell
Preis pro 1 Million Input-Token
0,15 €
Preis pro 1 Million Output-Token
0,65 €
Llama 3.3 70B Instruct
Modell
Preis pro 1 Million Input-Token
0,65 €
Preis pro 1 Million Output-Token
0,65 €

Qwen3.5-397B-A17B Neu

Modell
Preis pro 1 Million Input-Token
0,60 €
Preis pro 1 Million Output-Token
3,60 €

Was Ihre Teams mit IONOS CLOUD realisieren können

Eine souveräne Infrastruktur für Anwendungen, die reguliert sind und die Teams des öffentlichen Sektors bisher nicht in Betrieb nehmen konnten.

Anwendungsfall

Sovereign-KI-Assistent für interne Dienste

Entwickeln Sie interne oder bürgerorientierte Assistenten auf einer Inferenzebene, die die Datenschutzanforderungen strukturell erfüllt – ohne Ausnahmen und ohne Abstriche bei der Benutzerfreundlichkeit.

  • Bearbeitung sensibler Anfragen, ohne dass Daten die EU verlassen
  • Chat Completions API als Grundlage für maßgeschneiderte Dialoglogik
  • Ihre Eingabeaufforderungen und Ausgaben werden niemals zum Trainieren von Modellen verwendet
  • Einsetzbar dort, wo andere Anbieter aus datenschutzrechtlichen Gründen ausgeschlossen sind

Anwendungsfall

Abruf und Suche in internen Datenbeständen

Erstellen Sie RAG-Pipelines, mit denen Sie Ihr internes Dokumentenbestand erschließen können. IONOS CLOUD übernimmt die Einbettung und die LLM-Inferenz – Ihre Dokumente verlassen die Plattform zu keinem Zeitpunkt.

  • Kombinieren Sie die Embedding-Inferenz mit der IONOS CLOUD Managed Database (PostgreSQL + pgvector) oder einem Vektorspeicher Ihrer Wahl
  • Semantische Ähnlichkeitssuche in vertraulichen internen Beständen
  • Kontextreiche Antworten durch die Kombination von Abruf und Inferenz

Anwendungsfall

Automatisierte Vertrags- und Dokumentenbearbeitung

Automatisieren Sie die Bearbeitung eingehender Verträge, Berichte und Korrespondenz. Strukturierte Extraktion relevanter Felder und direkte Übergabe an ERP- und DMS-Systeme ohne manuelle Zwischenschritte.

  • Modelle liefern strukturierte Ergebnisse – diese fließen direkt in ERP-, DMS- oder Fachanwendungen ein
  • Offene Gewichtung: vorhersehbares Modellverhalten, überprüfbar und reproduzierbar
  • Offene, standardisierte API – keine Anbieterabhängigkeit, kein proprietäres Format

Dokumentation und Anleitungen

Einleitung & Erste Schritte

Holen Sie das Maximum aus Ihren Daten und erhalten Sie einen umfassenden Überblick über die ersten Schritte zur erfolgreichen Integration und Nutzung des AI Model Hub.

API-Schnittstelle

Integrieren Sie mit der API des IONOS CLOUD AI Model Hub die gewünschten LLMs einfach in Ihre Applikationen und optimieren Sie diese. Hier erfahren Sie alles Wissenswerte dazu.

Bereichern Sie Ihre Apps

  • Registrieren Sie sich für die IONOS CLOUD Public Cloud
  • Erhalten Sie vollen Zugriff auf die IONOS CLOUD AI Model Hub API
  • Verbinden Sie leistungsfähige KI-Modelle mit Ihrer Anwendung