Technologie · Offene Modelle

Hermes von Nous Research: Offene Modelle und Hermes Agent im Unternehmenskontext

Unter dem Namen Hermes veröffentlicht Nous Research zwei verschiedene Dinge: frei herunterladbare Sprachmodelle und ein quelloffenes Agenten-Framework. Beide lassen sich selbst betreiben – mit entsprechend mehr Verantwortung für Sicherheit, Leitplanken und Betrieb.

So funktioniert es

Von Tobias Sander · Aktualisiert am

ModellLaufzeitAgentKontrolle
Herausgeber
Nous Research, Forschungslabor für offene Modelle
Modelle
Offene Gewichte, nachtrainiert auf fremden Basismodellen
Lizenz
Je Modell unterschiedlich, abhängig vom Basismodell
Hermes Agent
MIT-lizenziert, modellunabhängig, selbst gehostet

Kurzantwort

Hermes ist eine Reihe von Sprachmodellen mit offenen Gewichten, die das US-Forschungslabor Nous Research auf Basis fremder Grundmodelle nachtrainiert. Das zum Recherchezeitpunkt jüngste Modell der Reihe, Hermes 4.3 mit 36 Milliarden Parametern, basiert laut Model Card auf ByteDance Seed-OSS-36B und steht laut Lizenzangabe unter Apache 2.0. Ältere Varianten wie Hermes 4 70B beruhen auf Llama 3.1 und unterliegen dessen Lizenz.

Hermes Agent ist davon getrennt zu betrachten: ein quelloffenes Agenten-Framework unter MIT-Lizenz, das auf einem eigenen Server läuft, Werkzeuge ausführt, Erinnerungen und Skills anlegt und mit beliebigen Modellanbietern arbeitet – auch ohne Hermes-Modell. Für Unternehmen ist Hermes interessant, wenn Daten im eigenen Haus bleiben oder ein Modell gezielt angepasst werden soll. Die Leitplanken liefert dabei nicht das Modell, sondern die eigene Betriebsumgebung.

Infografik

Vom offenen Modell zum kontrollierten Einsatz

  1. 01
    Eingang

    Modell & Lizenz

    Variante auswählen, Model Card und Lizenz des Basismodells dokumentieren.

  2. 02
    System

    Bereitstellung

    Modell auf eigener GPU oder in EU-Cloud mit vLLM, SGLang oder GGUF-Laufzeit betreiben.

  3. 03
    Mensch

    Leitplanken

    Systemprompt, Richtlinienfilter und Ausgabeprüfung definieren, da das Modell wenig selbst ablehnt.

  4. 04
    KI

    Evaluation

    Modell beantwortet eigene Testfälle; Qualität, Tool-Aufrufe und Formattreue werden bewertet.

  5. 05
    Ergebnis

    Freigabe

    Nur bestandene Anwendungsfälle gehen mit Protokoll und Rückfallweg in den Betrieb.

Typischer Weg, wenn ein Unternehmen ein Hermes-Modell selbst betreibt. Die meiste Arbeit steckt in Prüfung, Leitplanken und Betrieb, nicht im Download.

Die Hermes-Modellreihe: Was Nous Research veröffentlicht

Nous Research trainiert keine Grundmodelle von Grund auf, sondern setzt auf bestehende offene Basismodelle ein eigenes Nachtraining. Die Releases-Seite des Labors führt für die vierte Generation Hermes 4 auf Basis von Llama 3.1 in 405 und 70 Milliarden Parametern sowie eine kleinere Variante mit 14 Milliarden Parametern, die laut Hugging Face auf Qwen3-14B aufsetzt. Im Dezember 2025 folgte Hermes 4.3 mit 36 Milliarden Parametern auf Basis von Seed-OSS-36B.

Laut Model Card arbeiten die Modelle in einem hybriden Modus: Sie können vor der Antwort einen sichtbaren Denkabschnitt erzeugen oder direkt antworten. Nous Research betont zudem strukturierte Ausgaben nach JSON-Schema und Funktionsaufrufe in einem festen Format, für das vLLM und SGLang eigene Parser mitbringen. Hermes 4.3 wurde laut Ankündigung mit erweitertem Kontext von bis zu 512.000 Token trainiert und auf dem verteilten Trainingsnetz Psyche nachtrainiert.

Ausrichtung auf den Nutzer: Was das für Leitplanken bedeutet

Nous Research beschreibt Hermes als Modell, das sich an den Werten des Nutzers ausrichten lässt, und hebt ausdrücklich eine geringe Ablehnungsrate hervor. Für Forschung und kreative Anwendungen ist das ein gewollter Unterschied zu kommerziellen Modellen. Für ein Unternehmen bedeutet es: Die Sicherheitsgrenzen, die kommerzielle Anbieter in Modell und Plattform einbauen, muss der Betreiber selbst definieren und technisch durchsetzen.

Praktisch heißt das, einen Systemprompt mit klaren Unternehmensregeln zu hinterlegen, Eingaben und Ausgaben über eine eigene Richtlinienschicht zu prüfen und sensible Themen regelbasiert an Menschen zu übergeben. Wer Hermes für Kundenkommunikation einsetzt, sollte mit eigenen Testfällen belegen, dass unangemessene Antworten abgefangen werden. Das Modell ist steuerbar, aber diese Steuerbarkeit gilt für jeden, der Zugriff auf Prompt oder Schnittstelle hat.

Hermes Agent: Funktionsumfang und Sicherheitsmodell

Hermes Agent ist laut Repository ein Agent, der auf einem eigenen Server oder in einer Sandbox dauerhaft läuft, aus erledigten Aufgaben Skills ableitet, sitzungsübergreifend Erinnerungen speichert und zeitgesteuerte Aufgaben ausführt. Er lässt sich über eine Terminaloberfläche, eine Desktop-App und über Messenger wie Slack, Microsoft Teams, Telegram oder E-Mail ansprechen, kann Unteragenten starten und bindet externe Werkzeuge über MCP an. Das Modell ist frei wählbar, etwa über Nous Portal, OpenRouter, OpenAI oder einen eigenen Endpunkt.

Die Dokumentation beschreibt ein mehrstufiges Sicherheitsmodell: Allowlists für berechtigte Nutzer, Freigabe gefährlicher Befehle durch einen Menschen, Schreibschutz für sensible Pfade, Container-Isolation sowie das Herausfiltern von Zugangsdaten für MCP-Prozesse. Standardmäßig werden gefährliche Befehle in zeitgesteuerten und unbeaufsichtigten Sitzungen abgelehnt. Es gibt allerdings auch Modi, die Freigaben abschalten. In einer Unternehmensumgebung sollten diese gesperrt und die Konfiguration versioniert werden.

  • Freigabemodus für Befehle auf manuell oder smart, nie aus
  • Ausführung nur im Container, nicht direkt auf dem Host
  • Gateway nur für namentlich freigegebene Konten
  • Selbst erzeugte Skills vor Wiederverwendung prüfen
Team-Workshop zur Bewertung offener KI-Modelle und selbst gehosteter Agenten

Lizenzfragen bei offenen Modellen

Die Lizenz eines nachtrainierten Modells hängt wesentlich vom Basismodell ab. Laut den Angaben auf Hugging Face stehen Hermes 4.3 36B und Hermes 4 14B unter Apache 2.0, Hermes 4 70B dagegen unter der Llama-3-Lizenz von Meta. Diese enthält eigene Bedingungen des Herstellers, die gesondert zu prüfen sind. Ein einheitliches Urteil über die Reihe gibt es daher nicht; jede Variante muss einzeln betrachtet werden.

Für die Praxis empfiehlt sich ein kurzes Lizenzregister: Modellname, Version, Basismodell, Lizenztext, Datum des Downloads und vorgesehene Nutzung. Kommen Anpassungen durch eigenes Feintuning hinzu, gehören auch die verwendeten Trainingsdaten und deren Rechte in die Dokumentation. Bei Unklarheiten zur Weitergabe oder zu kommerziellen Nutzungsgrenzen sollte eine rechtliche Prüfung erfolgen; die Angaben hier ersetzen sie nicht.

Selbst betreiben und feintunen: Aufwand und Hardware

Ein offenes Modell selbst zu betreiben bedeutet, Rechenleistung, Laufzeitsoftware, Updates und Überwachung in eigener Verantwortung zu halten. Der Speicherbedarf steigt mit der Parameterzahl und sinkt mit der Quantisierung. Nous Research stellt für Hermes 4.3 neben den Originalgewichten GGUF-Varianten mit 4 bis 8 Bit bereit und beschreibt das Modell als passend für handelsübliche Grafikkarten. Für den produktiven Betrieb auf Servern mit mehreren GPUs nennt die Model Card tensor-parallele Inferenz-Engines.

Feintuning lohnt sich, wenn ein Modell eine feste Ausgabeform, Fachsprache oder ein internes Klassifikationsschema zuverlässig treffen soll und Prompting allein nicht reicht. Es erfordert kuratierte Beispieldaten, eine Testumgebung und die Bereitschaft, das Ergebnis bei jedem neuen Basismodell erneut zu prüfen. Für viele Wissensaufgaben ist eine Anbindung an freigegebene Dokumente der einfachere Weg als Training.

Wann Hermes sinnvoll ist – und wann eine kommerzielle API

Hermes ist eine Option, wenn Daten die eigene Infrastruktur nicht verlassen sollen, wenn ein Modell an eine eigene Aufgabe angepasst werden muss oder wenn Abhängigkeit von einem einzelnen Anbieter vermieden werden soll. Auch für Forschung, Prototypen und interne Werkzeuge mit klar begrenztem Nutzerkreis kann ein offenes Modell gut passen.

Eine kommerzielle API ist meist die bessere Wahl, wenn höchste Qualität bei komplexen Aufgaben zählt, kein Team für den Modellbetrieb vorhanden ist oder die Nutzung stark schwankt. Häufig ist eine Kombination sinnvoll: offene Modelle für vertrauliche Routinearbeit, kommerzielle Modelle für weniger sensible, anspruchsvolle Aufgaben. Hermes Agent kann in beiden Fällen als Framework dienen, da er das Modell nicht vorschreibt.

Architektur

Bausteine einer Hermes-Umgebung

Ebene 1

Modell

  • Hermes 4.3 36B
  • Hermes 4 14B
  • Hermes 4 70B
  • Andere offene Modelle

Ebene 2

Laufzeit

  • vLLM
  • SGLang
  • GGUF-Varianten
  • OpenAI-kompatible API

Ebene 3

Agent

  • Hermes Agent
  • Skills und Memory
  • MCP-Anbindung
  • Zeitgesteuerte Aufgaben

Ebene 4

Kontrolle

  • Befehlsfreigabe
  • Container-Isolation
  • Benutzer-Allowlist
  • Eigene Richtlinien
Modell, Laufzeit, Agenten-Framework und Kontrolle sind getrennte Entscheidungen. Jede Ebene lässt sich austauschen.

6 Punkte

6 Fragen, bevor Sie Hermes einsetzen

Die Antworten entscheiden, ob ein offenes Modell oder Hermes Agent im Unternehmen tragfähig ist.

  1. 01

    Modell oder Agent?

    Wer nur ein lokales Sprachmodell braucht, benötigt kein Agenten-Framework. Wer Hermes Agent nutzt, kann auch ein kommerzielles Modell anbinden.

  2. 02

    Welche Lizenz gilt genau?

    Basismodell und Lizenztext je Variante prüfen und im Register festhalten.

  3. 03

    Wo laufen die Daten?

    Eigener Server, EU-Cloud oder Nous Portal – bei gehosteten Diensten verlassen Daten das Haus.

  4. 04

    Wer setzt die Leitplanken?

    Systemprompt, Richtlinienfilter und Übergaberegeln brauchen einen fachlichen Owner.

  5. 05

    Wer betreibt die Umgebung?

    Updates, Überwachung und Sicherheitskorrekturen müssen personell abgedeckt sein.

  6. 06

    Wie wird Qualität gemessen?

    Ein eigenes Testset vergleicht Hermes mit der bisherigen Lösung oder einer API, bevor entschieden wird.

Gegenüberstellung

Hermes-Modell, Hermes Agent oder kommerzielle API?

Die drei Optionen lösen unterschiedliche Probleme. Die Gegenüberstellung hilft, sie nicht zu verwechseln.

KriteriumHermes-Modell selbst betreibenHermes AgentKommerzielle Modell-API
Was es istOffene ModellgewichteAgenten-Framework für eigenen ServerGehostetes Modell als Dienst
LizenzJe Variante, z. B. Apache 2.0 oder Llama-LizenzMITNutzungsbedingungen des Anbieters
DatenflussBleibt in eigener InfrastrukturHängt vom gewählten Modellanbieter abGeht an den Anbieter
LeitplankenVollständig selbst zu bauenBefehlsfreigabe, Isolation, AllowlistsTeilweise im Modell und in der Plattform
BetriebsaufwandHoch: GPU, Laufzeit, UpdatesMittel: Server, Konfiguration, PflegeGering: Schlüssel, Limits, Vertrag
AnpassbarkeitFeintuning möglichSkills, Werkzeuge, ModellwahlPrompting, teils Feintuning

Hermes Agent und ein selbst betriebenes Hermes-Modell lassen sich kombinieren, sind aber unabhängig voneinander einsetzbar.

Praxis

Drei typische Einsatzszenarien

Szenario 1

Ingenieurbüro mit vertraulichen Projektunterlagen

Ausgangslage
Planungsunterlagen von Auftraggebern dürfen laut Vertrag das Haus nicht verlassen. Trotzdem sollen Zusammenfassungen und Prüflisten schneller entstehen.
Ansatz
Hermes 4.3 läuft quantisiert auf einem internen GPU-Server und erstellt aus freigegebenen Dokumenten Zusammenfassungen und offene Punkte.
Kontrolle
Kein Internetzugang des Servers, Zugriff nur über Projektrollen, fachliche Freigabe jeder Prüfliste durch die Projektleitung.
Messgröße

Zeit bis zur ersten Prüfliste je Projektphase

Szenario 2

IT-Dienstleister automatisiert Routinechecks

Ausgangslage
Das Betriebsteam prüft täglich Logs, Zertifikatslaufzeiten und Sicherungen auf vielen Kundensystemen und schreibt Statusberichte.
Ansatz
Hermes Agent führt zeitgesteuert lesende Prüfskripte in einem Container aus und meldet Auffälligkeiten in einen Teamkanal.
Kontrolle
Freigabemodus aktiv, gefährliche Befehle in unbeaufsichtigten Läufen gesperrt, nur Lesezugriffe auf Kundensysteme.
Messgröße

Zeit vom Auftreten einer Auffälligkeit bis zur Meldung

Szenario 3

Softwarehaus testet Feintuning für Fachformate

Ausgangslage
Ein Produkt soll technische Freitexte in ein branchenspezifisches Datenformat übertragen. Allgemeine Modelle treffen das Schema nicht zuverlässig.
Ansatz
Das Team feintunt eine Apache-lizenzierte Hermes-Variante mit eigenen, bereinigten Beispielen und vergleicht sie mit einer kommerziellen API.
Kontrolle
Lizenz- und Datenregister, festes Testset, Ausgaben werden gegen das Schema validiert, bevor sie weiterverarbeitet werden.
Messgröße

Anteil schemakonformer Ausgaben im Testset

Checkliste

Bereit für Hermes?

  • Unterschied zwischen Hermes-Modell, Hermes Agent und Nous Portal ist intern geklärt
  • Lizenz und Basismodell jeder eingesetzten Variante sind dokumentiert
  • Eine eigene Richtlinienschicht für Ein- und Ausgaben ist geplant
  • Hardware oder EU-Cloud-Kapazität für die gewählte Größe ist geprüft
  • Ein Team ist für Updates, Überwachung und Sicherheitskorrekturen benannt
  • Freigabemodus und Container-Isolation von Hermes Agent sind festgelegt
  • Ein Testset mit Vergleich zu einer kommerziellen API liegt vor

Vermeiden

Typische Fehler

  • Modell und Agent verwechseln

    Wer Hermes Agent mit einem gehosteten Modell betreibt, verarbeitet Daten beim Modellanbieter. Der Name Hermes allein sagt nichts über den Datenfluss.

  • Geringe Ablehnungsrate unterschätzen

    Ohne eigene Richtlinienschicht gibt das Modell auch Antworten, die ein Unternehmen nicht verantworten möchte.

  • Lizenz nach Familie beurteilen

    Innerhalb der Reihe gelten unterschiedliche Lizenzen. Jede Variante braucht eine eigene Prüfung.

  • Freigaben aus Bequemlichkeit abschalten

    Ein Agent ohne Befehlsfreigabe auf einem Server mit weitreichenden Rechten ist ein Betriebsrisiko.

Weiterführend

FAQ

Häufige Fragen: Hermes von Nous Research

Ist Hermes ein eigenes Grundmodell?+

Nein. Nous Research trainiert bestehende offene Basismodelle nach, etwa Llama 3.1, Qwen3 oder Seed-OSS. Eigenschaften und Lizenz hängen deshalb auch vom jeweiligen Basismodell ab.

Darf man Hermes kommerziell nutzen?+

Das hängt von der Variante ab. Für Hermes 4.3 36B und Hermes 4 14B ist auf Hugging Face Apache 2.0 angegeben, für Hermes 4 70B die Llama-3-Lizenz. Vor dem Einsatz sollte der jeweilige Lizenztext geprüft werden.

Braucht Hermes Agent ein Hermes-Modell?+

Nein. Hermes Agent arbeitet laut Dokumentation mit verschiedenen Anbietern und eigenen Endpunkten. Der Datenfluss richtet sich nach dem gewählten Modell.

Welche Hardware braucht ein Hermes-Modell?+

Das hängt von Größe und Quantisierung ab. Quantisierte Varianten der 36B-Version beschreibt Nous Research als geeignet für handelsübliche Grafikkarten; größere Varianten benötigen deutlich mehr Grafikspeicher, oft verteilt auf mehrere GPUs.

Ist Hermes sicher für Kundenkommunikation?+

Nur mit eigenen Leitplanken. Hermes ist auf geringe Ablehnung ausgelegt. Unternehmen müssen Richtlinien, Ausgabeprüfung und Übergaberegeln selbst umsetzen und mit Tests belegen.

Was ist Nous Portal?+

Ein gehosteter Dienst von Nous Research, der Modelle und Werkzeuge über ein Abonnement bündelt. Wer ihn nutzt, verarbeitet Daten nicht mehr ausschließlich in der eigenen Infrastruktur.

Quellen

Quellen und weiterführende Dokumentation

  1. Releases · Nous Research · Stand 5. November 2026
  2. Introducing Hermes 4.3: Local Intelligence Globally Trained · Nous Research · Stand 1. Dezember 2025
  3. NousResearch/Hermes-4.3-36B (Model Card) · Hugging Face / Nous Research · Stand 5. November 2026
  4. NousResearch/Hermes-4-70B (Model Card) · Hugging Face / Nous Research · Stand 5. November 2026
  5. NousResearch/hermes-agent · GitHub / Nous Research · Stand 5. November 2026
  6. Hermes Agent Docs · Nous Research · Stand 5. November 2026
  7. Hermes Agent Security · Nous Research · Stand 5. November 2026

Die Seite beschreibt Einsatzmuster und Prüfkriterien, keine Rechtsberatung. Produkt- und Anbieterangaben ändern sich schnell; maßgeblich ist die jeweils verlinkte Originaldokumentation. Zur Bewertungslogik siehe Methodik.

Nächster Schritt

Wo lohnt sich der Einstieg in Ihrem Unternehmen?

Der kostenlose KI-Check ordnet Ziel, Prozess, Daten, Kontrolle und Budget ein und empfiehlt einen ersten prüfbaren Pilotansatz.