Open Source · Apache 2.0 · Self-hosted

Die KI-Infrastruktur, die aus Prompts aufgabenspezifische Arbeitsprozesse macht.

MoE Sovereign analysiert jede Anfrage, kombiniert passende Modelle, Expert Templates, GraphRAG, MCP-Werkzeuge und aktuelle Recherche – validiert das Ergebnis und speichert verwertbares Wissen für zukünftige Aufgaben.

Nicht nur ein Router. Ein Compiler für ausführbare KI-Workflows.

Architektur entdeckenTechnische Dokumentation
EuroHPC Development AccessNach Begutachtung bewilligt18.000 GPU-h

Eine API, viele Fähigkeiten

Für Clients ein LLM.
Intern ein vollständiges System.

OpenAI Chat CompletionsOpenAI ResponsesAnthropic MessagesOllama API
POST /v1/responses
{
  "model": "moe-sovereign",
  "input": "Bewerte die aktuelle Lage …"
}

Whitepaper · Preview Release

Architektur, Forschung und Evidenz – offen zur Prüfung.

Alle drei Dokumente sind Vorabfassungen. Inhalte, Methodik, Ergebnisse und Seitenzahlen können sich bis zur finalen Veröffentlichung ändern. Feedback ist ausdrücklich willkommen.

Preview · August 2026

Deutsches Whitepaper

Vollständige deutschsprachige Darstellung der Plattform, Architektur und Forschungsvision.

Umfang
118 Seiten
Format
PDF · 3,1 MB
PDF herunterladen ↓
Preview · August 2026

English Whitepaper

Complete international edition covering the platform, architecture and research vision.

Umfang
118 Seiten
Format
PDF · 3,1 MB
PDF herunterladen ↓
Preprint · Preview

Wissenschaftliche Kurzfassung

Kompakte englischsprachige Forschungsfassung für wissenschaftliche Diskussion und Review.

Umfang
13 Seiten
Format
PDF · 355 KB
Preprint herunterladen ↓

Publikationsstatus: Preview / Preprint. Noch nicht als finale Fassung veröffentlicht und – soweit nicht im Dokument anders ausgewiesen – nicht peer-reviewed.

Gleicher Prompt. Anderer Prozess.

Ein Modell antwortet. MoE Sovereign organisiert die Lösung.

Die Architektur setzt Rechenaufwand dort ein, wo Aktualität, Wissen, Mehrschrittigkeit oder Nachweisbarkeit ihn rechtfertigen.

Direkter Modellbetrieb

Native LLM

  1. PromptEine Eingabe
  2. Ein ModellStatisches Trainingswissen
  3. AntwortKeine persistente Lernerfahrung

Für einfache, stabile Aufgaben kann dieser direkte Weg optimal sein.

Adaptive Verarbeitung

MoE Sovereign

  1. PromptanalyseDomäne, Komplexität, Risiko
  2. Expert TemplateModelle, Abhängigkeiten, Policies
  3. AusführungGraphRAG · MCP · Recherche · Agenten
  4. ValidierungJudge · Quellen · Korrekturschleife
  5. Antwort + WissenVerwertbares Ergebnis bleibt erhalten

Der größte Vorteil entsteht bei anspruchsvollen, aktuellen, wissensintensiven oder sicherheitsrelevanten Aufgaben.

Die lernende Architektur

Wissen wächst außerhalb der Modellgewichte.

Heute löst ein großes Modell eine neue Aufgabe. Morgen kann ein kleineres Modell auf verifiziertes Wissen und den bewährten Arbeitsprozess zurückgreifen.

01BearbeitenWorkflow ausführen
→
02PrüfenQualität validieren
→
03ExtrahierenFakten, Quellen, Wege
→
04SpeichernGraph + Memory
→
05VerbessernRouting + nächste Anfrage
Implementiert

Produktives Systemlernen

GraphRAG, mehrschichtige Caches, episodisches Wissen, Correction Memory, Feedback und Routing-Signale verbessern den Systemkontext – ohne unkontrolliertes Training.

In Entwicklung

Formale Verifikation & Quality Gates

Forschung und Entwicklung deterministischer GBNF-Constraints, DAG-Zyklenprüfung (Kahn), SMT-gestützter Validierung und Entropie-basierter Egress-Schutzmechanismen.

Forschungsziel

Modell-Destillation auf LUMI-G

Erfolge großer Modelle und verifizierte Pläne werden auf EuroHPC LUMI-G in spezialisierte kleine Modelle für rechensparsamen Betrieb übertragen.

Ein souveränes Ökosystem

Drei Projekte. Drei klar getrennte Aufgaben.

MoE Sovereign bleibt der eigenständig betreibbare Kern. Libris und Codex erweitern ihn optional um föderierten Wissensaustausch und eine auditierbare Datenplattform.

S
Core · Orchestration

MoE Sovereign

Kompiliert Prompts zu Workflows aus Modellen, Expert Templates, Wissen, Tools und Validierung. Funktioniert vollständig ohne die Schwesterprojekte.

  • Adaptive KI-Workflows
  • GraphRAG, MCP und Memory
  • OpenAI-, Anthropic- und Ollama-APIs
Core Repository ↗
L
Federation · Knowledge

MoE Libris

Föderierter Wissensaustausch zwischen souveränen Instanzen – freiwillig, vertrauensbasiert und mit Prüfung vor der Übernahme.

  • JSON-LD Push und Pull
  • Pre-Audit und Human Review
  • mTLS und senderseitiges Privacy Scrubbing
moe-libris.org ↗
C
Data · Audit

MoE Codex

Optionale souveräne Daten- und Auditplattform für Organisationen mit Katalog-, Freigabe-, Lineage- und Nachweisanforderungen.

  • Datenkatalog und Versionierung
  • Approvals, Lineage und Drift Detection
  • Policies, Suche und Analysewerkzeuge
moe-codex.org ↗

Modular statt monolithisch: Jedes Projekt besitzt einen eigenen Verantwortungsbereich und kann unabhängig entwickelt beziehungsweise betrieben werden. Integrationen erfolgen über dokumentierte Schnittstellen.

Qualität durch Zusammenspiel

Nicht mehr Features. Strukturierte Ausführung & Validierung.

01

Besseres Wissen

GraphRAG, Dokumente und aktuelle Recherche liefern belegbaren Kontext statt allein auf Trainingswissen zu vertrauen.

02

Präzisere Ausführung

MCP-Präzisionswerkzeuge und strukturierte Toolpfade führen berechenbare Aufgaben deterministisch aus.

03

Bessere Entscheidungen

Expert Templates, Komplexitätsanalyse und Routing wählen nur die Ressourcen, die eine Aufgabe benötigt.

04

Höhere Verlässlichkeit

Judge, Self-Correction, Widerspruchserkennung und Quellenpriorisierung prüfen vor der Ausgabe.

05

Kontinuierliche Verbesserung

Korrekturen, Feedback, Episoden und Routing-Scores fließen als wiederverwendbarer Systemkontext zurück.

Referenzarchitektur

Sechs Ebenen. Eine gewöhnliche API nach außen.

01InterfaceOpenAI · Anthropic · Ollama · bestehende Clients
02IntelligenceMeta-Orchestrator · Planner · Templates · Routing · Policies
03ExecutionLLMs · SLMs · Expert Workers · agentic_tool · MCP · Recherche
04KnowledgeNeo4j GraphRAG · Vektoren · Dokumente · Cache · Memory
05QualityJudge · Self-Correction · Corrective RAG · Security Gates
06ObservabilityTracing · Metriken · Audit · Routing-Telemetrie

EuroHPC · LUMI-G

Supercomputer nutzen, damit die Plattform später weniger Supercomputer benötigt.

Einmalige hohe Rechenleistung dient der Forschung an Planungs-, Routing- und Validierungsfähigkeiten. Das Deploymentziel sind kleinere, lokale Spezialmodelle – nicht dauerhafte HPC-Abhängigkeit.

Die Förderung erfolgt durch die EuroHPC Joint Undertaking als Zuteilung von Hochleistungsrechenressourcen, nicht als direkte finanzielle Zuwendung.

Forschungsdokumentation ansehen →
ImplementiertCompound-AI-PipelineTemplates, GraphRAG, Tools, Validierung, Memory
In ValidierungTrainings- und EvaluationsdatenNachvollziehbare Pläne und Qualitätsentscheidungen
In EntwicklungOffline-Model-DistillationUnabhängiges SLM-Training auf LUMI-G
GeplantSpezialisierte SLMsMehr lokale Übernahme wiederkehrender Aufgaben

Wissenschaftliche Ecke

Hypothesen prüfen – nicht nur Systeme demonstrieren.

Die Forschungsarbeit untersucht, welche Teile eines Compound-AI-Systems messbar lernen, wann persistentes Wissen Modellgröße ersetzen kann und wie Qualität nachvollziehbar bewertet wird.

Q₀

Kann eine lernende Orchestrierungs- und Wissensarchitektur kleine, lokal betreibbare Modelle bei anspruchsvollen Aufgaben so unterstützen, dass Qualität steigt und wiederkehrende Verarbeitung effizienter wird?

R1
In Entwicklung

Inferenz-Effizienz & Spekulation

Fokus: Kombination moderner Inferenz-Ansätze (Stanford / Princeton) zur Latenzhalbierung bei gleichbleibender Modellqualität.

Methode
Spekulatives Decoding & speichereffizientes Prefetching
Messgrößen
Latenz-Halbierung, volle 35B-Qualität, geringer Speicherbedarf
R2
In Validierung

Logische & Kausale Verifikation

Fokus: Verknüpfung kausaler Prozesspläne (MILA) mit mathematischen Solvern (MIT) zur Unterbindung von Werkzeug-Halluzinationen.

Methode
Formale SMT-Garantien & probabilistische Zyklenprüfung
Messgrößen
Zyklenfreiheit, Parameter-Pass-Rate, Zuverlässigkeit
R3
Systembasis aktiv

Automatische Optimierung & Privacy

Fokus: Deklarative Pipeline-Optimierung (Databricks DSPy) kombiniert mit mathematischem Schutz vor Datenabflüssen.

Methode
Teleprompter-Optimization & entropiebasierte Egress-Schranken
Messgrößen
Empirische Qualitäts-Pass-Rate, lückenloses Audit

Methodische Leitplanken

Reproduzierbar, statusklar, widerlegbar.

  • Konfiguration, Version und Hardware dokumentieren
  • Interne Messung und externe Vergleichsbasis trennen
  • Stichprobe, Varianz und Einschränkungen ausweisen
  • Negative und fehlgeschlagene Ergebnisse nicht ausblenden
01Scientific Preprint13 Seiten · Preview PDF02Vollständiges Whitepaper118 Seiten · Preview PDF03Benchmark-ArtefakteCode und Methodik ↗04ForschungsdokumentationArchitektur und Versuchsaufbau ↗

Vom Prompt zum bleibenden Wissen

Konkrete Workflows statt Branchenetiketten.

Öffentliche VerwaltungVergabeunterlagen gegen aktuelle Vorgaben prüfen
„Prüfe diese Leistungsbeschreibung auf Widersprüche und fehlende Nachweise.“
Template
Dokumentanalyse → Rechtsquellen → Widerspruchsprüfung
Ressourcen
Lokales LLM, Dokumente, GraphRAG, aktuelle offizielle Quellen
Validierung
Quellenrang, Fundstellen, Judge, Unsicherheitsmarkierung
Bleibt erhalten
Freigegebene Begriffe, Beziehungen, Korrekturen und Prüfmuster
IT & SecurityEine Architektur gegen Bedrohungen bewerten
„Erstelle ein Threat Model für diese hybride Plattform und priorisiere Maßnahmen.“
Template
Systemmodell → Threat Research → Maßnahmen → Review
Ressourcen
Security-Experte, MCP, interne Standards, aktuelle Advisories
Validierung
Abdeckung, Quellenaktualität, Widersprüche, Judge
Bleibt erhalten
Systembeziehungen, akzeptierte Risiken und validierte Kontrollen
SoftwareentwicklungEin reproduzierbares Produktionsproblem lösen
„Finde die Ursache dieses sporadischen Fehlers und liefere einen getesteten Patch.“
Template
Reproduktion → Codeanalyse → Patch → Tests → Review
Ressourcen
Code-SLM/LLM, Repository-Tools, Tests, Dokumentation
Validierung
Build, Tests, statische Analyse, Diff-Review
Bleibt erhalten
Ursache, verifizierter Lösungsweg und relevante Codebeziehungen

Evidenz, nicht Superlative

Messwerte mit Kontext.

Interne Benchmarks zeigen das reale Verhalten einer konkreten Konfiguration. Sie trennen Modellfähigkeiten von der umgebenden Systemarchitektur.

10,0/10

Deterministische VLSM-Präzision

Typisierte MCP-Berechnungen erzeugten fehlerfreie Subnetzpartitionierung im VLSM-Task; probabilistische LLM-Generierung erzeugte in 80 % der Vergleichsfälle überlappende Bereiche.

Beobachtet im Pre-Distillation-Benchmark · August 2026Methodik und Artefakte ↗
7,0 vs. 3,0

Temporale Konsistenz

In einem kontrollierten Richtlinien-Task nutzte GraphRAG den aktuellen Port 8443/mTLS-Zustand, während die native Baseline auf veraltetes Trainingswissen zurückfiel. In zwei Runden reproduziert.

Kontrollierter Task-Vergleich · August 2026Benchmark prüfen ↗
707 s → 76 s

Beobachtete Latenzdifferenz

Über fünf interne Epochen. Graph-Wachstum, Cache-Wiederverwendung, Correction-Memory und Modellwärme änderten sich simultan; individuelle Kausalbeiträge wurden nicht isoliert.

Longitudinale Beobachtung · Stand 2026Ablationsdaten ↗

Souveränität & Sicherheit

Kontrolle ist eine technische Eigenschaft – keine pauschale Rechtsbehauptung.

MoE Sovereign schafft technische Voraussetzungen für kontrollierbare Datenflüsse und Datenschutz durch Technikgestaltung. Die rechtliche Bewertung bleibt vom konkreten Betrieb, Zweck und den organisatorischen Maßnahmen abhängig.

Versionierte Datenschutz-Selbsteinschätzung prüfen →
  • Lokale Inferenz und optionaler Offline-/Air-Gap-Betrieb
  • Deterministische Ausführungspläne mit Kahn-DAG-Zyklenprüfung
  • Forschung & Entwicklung: Deterministische GBNF-Constraints, SMT-Solver und Entropie-Schutz
  • Transparente Audit- und Telemetrie-Persistenz in PostgreSQL für nachvollziehbare Protokollierung
  • Technologie-neutral: Nativ lauffähig auf NVIDIA CUDA, AMD ROCm und CPU
  • OCI-portabel, containerisiert und rootless betreibbar
  • Sicherheits-Gates und gehärtete Tool-Schnittstellen

Deployment nach Bedarf

Vom lokalen System bis zur Plattform.

Eine OCI-basierte Architektur unterstützt unterschiedliche Betriebsmodelle. Kubernetes und OpenShift sind architektonisch vorbereitet; die jeweilige Produktionsvalidierung bleibt deploymentspezifisch.

ONE-LINE INSTALLER · LINUX

MoE Sovereign interaktiv installieren

Für einen frischen Debian- oder Ubuntu-Server. Der Installer erkennt Docker oder Podman, erzeugt Secrets und führt durch die Konfiguration.

curl -sSL https://raw.githubusercontent.com/h3rb3rn/moe-sovereign/main/install.sh | bash

Shell-Skripte vor der Ausführung prüfen: install.sh ansehen · Voraussetzungen und manuelle Installation

Target A

Notebook & Edge (WSL2)

16/32 GB RAM Standard-Laptops mit CPU-optimierter Inferenz und hoher Verarbeitungsgeschwindigkeit.

Target B

GPU-Workstation

Multi-GPU Setups (NVIDIA/AMD) für große Kontextfenster und parallele Expertenausführung.

Target C

Enterprise RZ-Cluster

Skalierbare Plattform (AIHUB, Ollama, Kubernetes) für mandantenfähige Hochlast und Auditing.

LXC · Docker Compose · Podman Quadlet · Kubernetes · OpenShift

Die Architektur ist offen

Verstehen Sie nicht nur das Modell.
Verstehen Sie den Prozess dahinter.

Whitepaper lesenRepository ansehenLokal deployen →