Kurzantwort
Hermes ist eine Reihe von Sprachmodellen mit offenen Gewichten, die das US-Forschungslabor Nous Research auf Basis fremder Grundmodelle nachtrainiert. Das zum Recherchezeitpunkt jüngste Modell der Reihe, Hermes 4.3 mit 36 Milliarden Parametern, basiert laut Model Card auf ByteDance Seed-OSS-36B und steht laut Lizenzangabe unter Apache 2.0. Ältere Varianten wie Hermes 4 70B beruhen auf Llama 3.1 und unterliegen dessen Lizenz.
Hermes Agent ist davon getrennt zu betrachten: ein quelloffenes Agenten-Framework unter MIT-Lizenz, das auf einem eigenen Server läuft, Werkzeuge ausführt, Erinnerungen und Skills anlegt und mit beliebigen Modellanbietern arbeitet – auch ohne Hermes-Modell. Für Unternehmen ist Hermes interessant, wenn Daten im eigenen Haus bleiben oder ein Modell gezielt angepasst werden soll. Die Leitplanken liefert dabei nicht das Modell, sondern die eigene Betriebsumgebung.
Infografik
Vom offenen Modell zum kontrollierten Einsatz
- 01Eingang
Modell & Lizenz
Variante auswählen, Model Card und Lizenz des Basismodells dokumentieren.
- 02System
Bereitstellung
Modell auf eigener GPU oder in EU-Cloud mit vLLM, SGLang oder GGUF-Laufzeit betreiben.
- 03Mensch
Leitplanken
Systemprompt, Richtlinienfilter und Ausgabeprüfung definieren, da das Modell wenig selbst ablehnt.
- 04KI
Evaluation
Modell beantwortet eigene Testfälle; Qualität, Tool-Aufrufe und Formattreue werden bewertet.
- 05Ergebnis
Freigabe
Nur bestandene Anwendungsfälle gehen mit Protokoll und Rückfallweg in den Betrieb.
Die Hermes-Modellreihe: Was Nous Research veröffentlicht
Nous Research trainiert keine Grundmodelle von Grund auf, sondern setzt auf bestehende offene Basismodelle ein eigenes Nachtraining. Die Releases-Seite des Labors führt für die vierte Generation Hermes 4 auf Basis von Llama 3.1 in 405 und 70 Milliarden Parametern sowie eine kleinere Variante mit 14 Milliarden Parametern, die laut Hugging Face auf Qwen3-14B aufsetzt. Im Dezember 2025 folgte Hermes 4.3 mit 36 Milliarden Parametern auf Basis von Seed-OSS-36B.
Laut Model Card arbeiten die Modelle in einem hybriden Modus: Sie können vor der Antwort einen sichtbaren Denkabschnitt erzeugen oder direkt antworten. Nous Research betont zudem strukturierte Ausgaben nach JSON-Schema und Funktionsaufrufe in einem festen Format, für das vLLM und SGLang eigene Parser mitbringen. Hermes 4.3 wurde laut Ankündigung mit erweitertem Kontext von bis zu 512.000 Token trainiert und auf dem verteilten Trainingsnetz Psyche nachtrainiert.
Ausrichtung auf den Nutzer: Was das für Leitplanken bedeutet
Nous Research beschreibt Hermes als Modell, das sich an den Werten des Nutzers ausrichten lässt, und hebt ausdrücklich eine geringe Ablehnungsrate hervor. Für Forschung und kreative Anwendungen ist das ein gewollter Unterschied zu kommerziellen Modellen. Für ein Unternehmen bedeutet es: Die Sicherheitsgrenzen, die kommerzielle Anbieter in Modell und Plattform einbauen, muss der Betreiber selbst definieren und technisch durchsetzen.
Praktisch heißt das, einen Systemprompt mit klaren Unternehmensregeln zu hinterlegen, Eingaben und Ausgaben über eine eigene Richtlinienschicht zu prüfen und sensible Themen regelbasiert an Menschen zu übergeben. Wer Hermes für Kundenkommunikation einsetzt, sollte mit eigenen Testfällen belegen, dass unangemessene Antworten abgefangen werden. Das Modell ist steuerbar, aber diese Steuerbarkeit gilt für jeden, der Zugriff auf Prompt oder Schnittstelle hat.
Hermes Agent: Funktionsumfang und Sicherheitsmodell
Hermes Agent ist laut Repository ein Agent, der auf einem eigenen Server oder in einer Sandbox dauerhaft läuft, aus erledigten Aufgaben Skills ableitet, sitzungsübergreifend Erinnerungen speichert und zeitgesteuerte Aufgaben ausführt. Er lässt sich über eine Terminaloberfläche, eine Desktop-App und über Messenger wie Slack, Microsoft Teams, Telegram oder E-Mail ansprechen, kann Unteragenten starten und bindet externe Werkzeuge über MCP an. Das Modell ist frei wählbar, etwa über Nous Portal, OpenRouter, OpenAI oder einen eigenen Endpunkt.
Die Dokumentation beschreibt ein mehrstufiges Sicherheitsmodell: Allowlists für berechtigte Nutzer, Freigabe gefährlicher Befehle durch einen Menschen, Schreibschutz für sensible Pfade, Container-Isolation sowie das Herausfiltern von Zugangsdaten für MCP-Prozesse. Standardmäßig werden gefährliche Befehle in zeitgesteuerten und unbeaufsichtigten Sitzungen abgelehnt. Es gibt allerdings auch Modi, die Freigaben abschalten. In einer Unternehmensumgebung sollten diese gesperrt und die Konfiguration versioniert werden.
- Freigabemodus für Befehle auf manuell oder smart, nie aus
- Ausführung nur im Container, nicht direkt auf dem Host
- Gateway nur für namentlich freigegebene Konten
- Selbst erzeugte Skills vor Wiederverwendung prüfen

Lizenzfragen bei offenen Modellen
Die Lizenz eines nachtrainierten Modells hängt wesentlich vom Basismodell ab. Laut den Angaben auf Hugging Face stehen Hermes 4.3 36B und Hermes 4 14B unter Apache 2.0, Hermes 4 70B dagegen unter der Llama-3-Lizenz von Meta. Diese enthält eigene Bedingungen des Herstellers, die gesondert zu prüfen sind. Ein einheitliches Urteil über die Reihe gibt es daher nicht; jede Variante muss einzeln betrachtet werden.
Für die Praxis empfiehlt sich ein kurzes Lizenzregister: Modellname, Version, Basismodell, Lizenztext, Datum des Downloads und vorgesehene Nutzung. Kommen Anpassungen durch eigenes Feintuning hinzu, gehören auch die verwendeten Trainingsdaten und deren Rechte in die Dokumentation. Bei Unklarheiten zur Weitergabe oder zu kommerziellen Nutzungsgrenzen sollte eine rechtliche Prüfung erfolgen; die Angaben hier ersetzen sie nicht.
Selbst betreiben und feintunen: Aufwand und Hardware
Ein offenes Modell selbst zu betreiben bedeutet, Rechenleistung, Laufzeitsoftware, Updates und Überwachung in eigener Verantwortung zu halten. Der Speicherbedarf steigt mit der Parameterzahl und sinkt mit der Quantisierung. Nous Research stellt für Hermes 4.3 neben den Originalgewichten GGUF-Varianten mit 4 bis 8 Bit bereit und beschreibt das Modell als passend für handelsübliche Grafikkarten. Für den produktiven Betrieb auf Servern mit mehreren GPUs nennt die Model Card tensor-parallele Inferenz-Engines.
Feintuning lohnt sich, wenn ein Modell eine feste Ausgabeform, Fachsprache oder ein internes Klassifikationsschema zuverlässig treffen soll und Prompting allein nicht reicht. Es erfordert kuratierte Beispieldaten, eine Testumgebung und die Bereitschaft, das Ergebnis bei jedem neuen Basismodell erneut zu prüfen. Für viele Wissensaufgaben ist eine Anbindung an freigegebene Dokumente der einfachere Weg als Training.
Wann Hermes sinnvoll ist – und wann eine kommerzielle API
Hermes ist eine Option, wenn Daten die eigene Infrastruktur nicht verlassen sollen, wenn ein Modell an eine eigene Aufgabe angepasst werden muss oder wenn Abhängigkeit von einem einzelnen Anbieter vermieden werden soll. Auch für Forschung, Prototypen und interne Werkzeuge mit klar begrenztem Nutzerkreis kann ein offenes Modell gut passen.
Eine kommerzielle API ist meist die bessere Wahl, wenn höchste Qualität bei komplexen Aufgaben zählt, kein Team für den Modellbetrieb vorhanden ist oder die Nutzung stark schwankt. Häufig ist eine Kombination sinnvoll: offene Modelle für vertrauliche Routinearbeit, kommerzielle Modelle für weniger sensible, anspruchsvolle Aufgaben. Hermes Agent kann in beiden Fällen als Framework dienen, da er das Modell nicht vorschreibt.
Architektur
Bausteine einer Hermes-Umgebung
Ebene 1
Modell
- Hermes 4.3 36B
- Hermes 4 14B
- Hermes 4 70B
- Andere offene Modelle
Ebene 2
Laufzeit
- vLLM
- SGLang
- GGUF-Varianten
- OpenAI-kompatible API
Ebene 3
Agent
- Hermes Agent
- Skills und Memory
- MCP-Anbindung
- Zeitgesteuerte Aufgaben
Ebene 4
Kontrolle
- Befehlsfreigabe
- Container-Isolation
- Benutzer-Allowlist
- Eigene Richtlinien
6 Punkte
6 Fragen, bevor Sie Hermes einsetzen
Die Antworten entscheiden, ob ein offenes Modell oder Hermes Agent im Unternehmen tragfähig ist.
- 01
Modell oder Agent?
Wer nur ein lokales Sprachmodell braucht, benötigt kein Agenten-Framework. Wer Hermes Agent nutzt, kann auch ein kommerzielles Modell anbinden.
- 02
Welche Lizenz gilt genau?
Basismodell und Lizenztext je Variante prüfen und im Register festhalten.
- 03
Wo laufen die Daten?
Eigener Server, EU-Cloud oder Nous Portal – bei gehosteten Diensten verlassen Daten das Haus.
- 04
Wer setzt die Leitplanken?
Systemprompt, Richtlinienfilter und Übergaberegeln brauchen einen fachlichen Owner.
- 05
Wer betreibt die Umgebung?
Updates, Überwachung und Sicherheitskorrekturen müssen personell abgedeckt sein.
- 06
Wie wird Qualität gemessen?
Ein eigenes Testset vergleicht Hermes mit der bisherigen Lösung oder einer API, bevor entschieden wird.
Gegenüberstellung
Hermes-Modell, Hermes Agent oder kommerzielle API?
Die drei Optionen lösen unterschiedliche Probleme. Die Gegenüberstellung hilft, sie nicht zu verwechseln.
| Kriterium | Hermes-Modell selbst betreiben | Hermes Agent | Kommerzielle Modell-API |
|---|---|---|---|
| Was es ist | Offene Modellgewichte | Agenten-Framework für eigenen Server | Gehostetes Modell als Dienst |
| Lizenz | Je Variante, z. B. Apache 2.0 oder Llama-Lizenz | MIT | Nutzungsbedingungen des Anbieters |
| Datenfluss | Bleibt in eigener Infrastruktur | Hängt vom gewählten Modellanbieter ab | Geht an den Anbieter |
| Leitplanken | Vollständig selbst zu bauen | Befehlsfreigabe, Isolation, Allowlists | Teilweise im Modell und in der Plattform |
| Betriebsaufwand | Hoch: GPU, Laufzeit, Updates | Mittel: Server, Konfiguration, Pflege | Gering: Schlüssel, Limits, Vertrag |
| Anpassbarkeit | Feintuning möglich | Skills, Werkzeuge, Modellwahl | Prompting, teils Feintuning |
Hermes Agent und ein selbst betriebenes Hermes-Modell lassen sich kombinieren, sind aber unabhängig voneinander einsetzbar.
Praxis
Drei typische Einsatzszenarien
Szenario 1
Ingenieurbüro mit vertraulichen Projektunterlagen
- Ausgangslage
- Planungsunterlagen von Auftraggebern dürfen laut Vertrag das Haus nicht verlassen. Trotzdem sollen Zusammenfassungen und Prüflisten schneller entstehen.
- Ansatz
- Hermes 4.3 läuft quantisiert auf einem internen GPU-Server und erstellt aus freigegebenen Dokumenten Zusammenfassungen und offene Punkte.
- Kontrolle
- Kein Internetzugang des Servers, Zugriff nur über Projektrollen, fachliche Freigabe jeder Prüfliste durch die Projektleitung.
Zeit bis zur ersten Prüfliste je Projektphase
Szenario 2
IT-Dienstleister automatisiert Routinechecks
- Ausgangslage
- Das Betriebsteam prüft täglich Logs, Zertifikatslaufzeiten und Sicherungen auf vielen Kundensystemen und schreibt Statusberichte.
- Ansatz
- Hermes Agent führt zeitgesteuert lesende Prüfskripte in einem Container aus und meldet Auffälligkeiten in einen Teamkanal.
- Kontrolle
- Freigabemodus aktiv, gefährliche Befehle in unbeaufsichtigten Läufen gesperrt, nur Lesezugriffe auf Kundensysteme.
Zeit vom Auftreten einer Auffälligkeit bis zur Meldung
Szenario 3
Softwarehaus testet Feintuning für Fachformate
- Ausgangslage
- Ein Produkt soll technische Freitexte in ein branchenspezifisches Datenformat übertragen. Allgemeine Modelle treffen das Schema nicht zuverlässig.
- Ansatz
- Das Team feintunt eine Apache-lizenzierte Hermes-Variante mit eigenen, bereinigten Beispielen und vergleicht sie mit einer kommerziellen API.
- Kontrolle
- Lizenz- und Datenregister, festes Testset, Ausgaben werden gegen das Schema validiert, bevor sie weiterverarbeitet werden.
Anteil schemakonformer Ausgaben im Testset
Checkliste
Bereit für Hermes?
- Unterschied zwischen Hermes-Modell, Hermes Agent und Nous Portal ist intern geklärt
- Lizenz und Basismodell jeder eingesetzten Variante sind dokumentiert
- Eine eigene Richtlinienschicht für Ein- und Ausgaben ist geplant
- Hardware oder EU-Cloud-Kapazität für die gewählte Größe ist geprüft
- Ein Team ist für Updates, Überwachung und Sicherheitskorrekturen benannt
- Freigabemodus und Container-Isolation von Hermes Agent sind festgelegt
- Ein Testset mit Vergleich zu einer kommerziellen API liegt vor
Vermeiden
Typische Fehler
Modell und Agent verwechseln
Wer Hermes Agent mit einem gehosteten Modell betreibt, verarbeitet Daten beim Modellanbieter. Der Name Hermes allein sagt nichts über den Datenfluss.
Geringe Ablehnungsrate unterschätzen
Ohne eigene Richtlinienschicht gibt das Modell auch Antworten, die ein Unternehmen nicht verantworten möchte.
Lizenz nach Familie beurteilen
Innerhalb der Reihe gelten unterschiedliche Lizenzen. Jede Variante braucht eine eigene Prüfung.
Freigaben aus Bequemlichkeit abschalten
Ein Agent ohne Befehlsfreigabe auf einem Server mit weitreichenden Rechten ist ein Betriebsrisiko.
Weiterführend
- KI-Potenzialanalyse für IT: bewertet, ob sich Selbstbetrieb und Agenten im eigenen IT-Betrieb lohnen.
FAQ
Häufige Fragen: Hermes von Nous Research
Ist Hermes ein eigenes Grundmodell?+
Nein. Nous Research trainiert bestehende offene Basismodelle nach, etwa Llama 3.1, Qwen3 oder Seed-OSS. Eigenschaften und Lizenz hängen deshalb auch vom jeweiligen Basismodell ab.
Darf man Hermes kommerziell nutzen?+
Das hängt von der Variante ab. Für Hermes 4.3 36B und Hermes 4 14B ist auf Hugging Face Apache 2.0 angegeben, für Hermes 4 70B die Llama-3-Lizenz. Vor dem Einsatz sollte der jeweilige Lizenztext geprüft werden.
Braucht Hermes Agent ein Hermes-Modell?+
Nein. Hermes Agent arbeitet laut Dokumentation mit verschiedenen Anbietern und eigenen Endpunkten. Der Datenfluss richtet sich nach dem gewählten Modell.
Welche Hardware braucht ein Hermes-Modell?+
Das hängt von Größe und Quantisierung ab. Quantisierte Varianten der 36B-Version beschreibt Nous Research als geeignet für handelsübliche Grafikkarten; größere Varianten benötigen deutlich mehr Grafikspeicher, oft verteilt auf mehrere GPUs.
Ist Hermes sicher für Kundenkommunikation?+
Nur mit eigenen Leitplanken. Hermes ist auf geringe Ablehnung ausgelegt. Unternehmen müssen Richtlinien, Ausgabeprüfung und Übergaberegeln selbst umsetzen und mit Tests belegen.
Was ist Nous Portal?+
Ein gehosteter Dienst von Nous Research, der Modelle und Werkzeuge über ein Abonnement bündelt. Wer ihn nutzt, verarbeitet Daten nicht mehr ausschließlich in der eigenen Infrastruktur.
Quellen
Quellen und weiterführende Dokumentation
- Releases · Nous Research · Stand 5. November 2026
- Introducing Hermes 4.3: Local Intelligence Globally Trained · Nous Research · Stand 1. Dezember 2025
- NousResearch/Hermes-4.3-36B (Model Card) · Hugging Face / Nous Research · Stand 5. November 2026
- NousResearch/Hermes-4-70B (Model Card) · Hugging Face / Nous Research · Stand 5. November 2026
- NousResearch/hermes-agent · GitHub / Nous Research · Stand 5. November 2026
- Hermes Agent Docs · Nous Research · Stand 5. November 2026
- Hermes Agent Security · Nous Research · Stand 5. November 2026
Die Seite beschreibt Einsatzmuster und Prüfkriterien, keine Rechtsberatung. Produkt- und Anbieterangaben ändern sich schnell; maßgeblich ist die jeweils verlinkte Originaldokumentation. Zur Bewertungslogik siehe Methodik.