Technologie · Sprachmodelle

OpenAI und ChatGPT im Unternehmen: Produkte, EU-Optionen und Grenzen

OpenAI bietet Sprachmodelle als Arbeitsoberfläche, als Programmierschnittstelle und über Microsoft Azure an. Welcher Weg passt, entscheidet sich an Datenresidenz, Aufbewahrung, Verwaltung und daran, wie eng die KI in Prozesse eingreifen soll.

So funktioniert es

Von Tobias Sander · Aktualisiert am

OberflächenPlattformDatenschutzGovernance
Anbieter
OpenAI (USA); Azure-Variante durch Microsoft betrieben
Unternehmensprodukte
ChatGPT Business, ChatGPT Enterprise, API, Codex
EU-Optionen
Datenresidenz bei OpenAI, EU Data Zone in Azure
Training auf Firmendaten
Standardmäßig nein, laut Anbieterangaben

Kurzantwort

OpenAI ist ein US-Unternehmen, das die GPT-Modelle sowie den Assistenten ChatGPT entwickelt. Für Unternehmen gibt es drei Hauptwege: die Arbeitsoberflächen ChatGPT Business und ChatGPT Enterprise, die OpenAI API für eigene Anwendungen und die Azure-OpenAI-Modelle, die Microsoft in Microsoft Foundry als eigenen Dienst betreibt. Laut Entwicklerdokumentation (Stand November 2026) gehören GPT-6 Astra, GPT-6.1 Sol, GPT-6.1 Terra und GPT-6 Luna zu den aktuellen Hauptmodellen.

Daten aus Business, Enterprise und API nutzt OpenAI nach eigener Angabe standardmäßig nicht zum Training. Für europäische Unternehmen ist vor allem relevant, dass OpenAI Datenresidenz und Inferenz in Europa für berechtigte Kunden anbietet, und dass Microsoft bei Azure-Bereitstellungen eine EU-Datenzone innerhalb der EU Data Boundary vorsieht. Beides ist an Voraussetzungen gebunden und ersetzt keine eigene Datenschutzprüfung.

Infografik

Vom Anwendungsfall zum passenden OpenAI-Zugang

  1. 01
    Eingang

    Anwendungsfall

    Fachbereich beschreibt Aufgabe, beteiligte Daten und gewünschtes Ergebnis.

  2. 02
    Mensch

    Datenklasse

    Datenschutz und IT ordnen die Daten ein und legen den zulässigen Verarbeitungsort fest.

  3. 03
    System

    Zugang wählen

    ChatGPT-Plan, OpenAI API oder Azure-Bereitstellung mit passender Region und Aufbewahrung.

  4. 04
    KI

    Pilot mit Modell

    Das Modell bearbeitet reale, bereinigte Beispiele; Ergebnisse werden bewertet.

  5. 05
    Ergebnis

    Freigabe & Betrieb

    Rollen, Limits und Protokollierung werden aktiviert, bevor weitere Teams Zugang erhalten.

Entscheidungslogik in fünf Schritten. Die Reihenfolge verhindert, dass ein Produkt gekauft wird, bevor Datenklasse und Verarbeitungsort feststehen.

Aktuelle Modelle und Produkte

In der API-Dokumentation empfiehlt OpenAI zum Recherchezeitpunkt GPT-6 Astra als Spitzenmodell für komplexes Reasoning und Programmierung, GPT-6.1 Sol als Abwägung zwischen Leistung und Kosten, GPT-6.1 Terra für visuelles Reasoning, präzise Computerbedienung und natürliche Texte sowie GPT-6 Luna für kostensensible Massenaufgaben. Alle Hauptmodelle verarbeiten laut Dokumentation Text und Bilder und unterstützen Funktionsaufrufe, Websuche, Dateisuche und Computerbedienung als Werkzeuge.

Auf Produktebene unterscheidet OpenAI persönliche Pläne von den Unternehmensplänen ChatGPT Business und ChatGPT Enterprise. Dazu kommen Codex für Softwareentwicklung und ChatGPT Work für längere Arbeitsaufgaben. Die Modellnamen ändern sich in kurzen Abständen, und in ChatGPT stehen je Plan unterschiedliche Modelle bereit. Für eine Integration ist deshalb wichtiger, welche Modell-ID über die API angesprochen wird und wann OpenAI sie abkündigt, als der Name im Chatfenster.

ChatGPT Business und Enterprise: Was die Pläne unterscheidet

ChatGPT Business richtet sich laut OpenAI an Teams, die einen gemeinsamen Arbeitsbereich mit Mehr-Faktor-Authentifizierung, den Rollen Member, Admin und Owner, Steuerung von Drittanbieter-GPTs, SAML Single Sign-on und Basisauswertungen benötigen. ChatGPT Enterprise ergänzt SCIM zur automatischen Benutzerverwaltung, rollenbasierte Rechte nach Gruppen, zentrale Ausgabensteuerung für Codex und ChatGPT Work sowie Nutzungsanalysen.

Für die Aufbewahrung gilt ein wichtiger Unterschied: Bei Enterprise kann das Unternehmen laut OpenAI selbst festlegen, wie lange Daten gespeichert werden. Auch die Datenresidenz in Europa ist für neue Enterprise-Arbeitsbereiche vorgesehen, nicht für Business. Wer heute mit Business startet und später strengere Anforderungen an den Speicherort hat, sollte einen Wechsel einplanen, statt ihn als einfache Einstellung zu erwarten.

OpenAI API, Agenten und Codex

Über die API bindet ein Unternehmen OpenAI-Modelle in eigene Abläufe ein, etwa zur Dokumentenauswertung, für Antwortentwürfe im Support oder als Baustein eines Agenten. Projekte, Ausgabenlimits, eine Admin-API und eine Audit-Log-API helfen, Zugriffe und Kosten je Team zu steuern. Die Dokumentation führt auch einen Agenten-Endpunkt, dessen Zustand bis zur Löschung gespeichert wird und der nicht für Zero Data Retention infrage kommt.

Codex ist das Entwicklungswerkzeug von OpenAI und in den ChatGPT-Plänen enthalten; in Enterprise lässt sich der Verbrauch zentral begrenzen. Wie bei jedem Coding-Agenten gilt: Der Agent arbeitet in einer Umgebung mit klar begrenzten Rechten, Änderungen laufen über Review und automatisierte Tests, und Zugänge zu Produktionsdaten oder Geheimnissen bleiben gesperrt. Agentenfähigkeit ist ein Grund für mehr Kontrolle, nicht für weniger.

Beratungsgespräch zur Auswahl zwischen ChatGPT Enterprise, OpenAI API und Azure OpenAI

Datenschutz und Datenresidenz bei OpenAI

OpenAI gibt an, Daten aus ChatGPT Business, Enterprise und der API standardmäßig nicht für Training oder Modellverbesserung zu verwenden, verschlüsselt im Ruhezustand mit AES-256 und in der Übertragung mit TLS ab Version 1.2 und bietet einen Auftragsverarbeitungsvertrag an. Für die API protokolliert OpenAI Ein- und Ausgaben standardmäßig bis zu 30 Tage zur Missbrauchserkennung. Zero Data Retention oder Modified Abuse Monitoring sind nur nach vorheriger Genehmigung möglich.

Datenresidenz in Europa, definiert als EWR plus Schweiz, gibt es für Speicherung im Ruhezustand und für die Modellausführung auf GPUs. Laut Hilfeartikel gilt die Inferenz-Residenz in ChatGPT für berechtigte Enterprise- und Edu-Kunden mit aktivierter Datenresidenz; Authentifizierung, Routing und Analytik können weiterhin außerhalb der Region stattfinden. Für API-Projekte außerhalb der USA verlangt OpenAI eine Genehmigung für Missbrauchskontrollen und eine Zusatzvereinbarung zur Aufbewahrung. Externe Integrationen wie Apps, MCP-Server oder Websuche fallen nicht unter die Datenresidenz.

Azure OpenAI in Microsoft Foundry als Alternative

Microsoft stellt OpenAI-Modelle als Models sold by Azure in Microsoft Foundry bereit. Laut Microsoft-Dokumentation sind Eingaben, Ausgaben, Embeddings und Trainingsdaten dabei weder für OpenAI noch für andere Kunden zugänglich und werden nicht zur Verbesserung der Modelle des Anbieters genutzt. Vertragspartner ist Microsoft, maßgeblich ist das Data Protection Addendum für Microsoft-Produkte. Für Unternehmen mit bestehender Azure-Umgebung kann das die Prüfung vereinfachen, weil Identitäten, Netzwerk und Abrechnung bereits geregelt sind.

Beim Verarbeitungsort unterscheidet Foundry drei Varianten: global, Datenzone und Azure-Geografie. Bei Data-Zone-Bereitstellungen in der EU verarbeitet Microsoft Daten innerhalb der EU Data Boundary, die neben EU-Staaten auch EFTA-Länder wie Norwegen und die Schweiz einschließen kann. Gespeicherte Daten bleiben in der gewählten Geografie. Neue Modelle erscheinen laut Microsoft zuerst als globale Bereitstellung, danach in Datenzonen und zuletzt geografiebezogen. Das aktuellste Modell ist also nicht immer sofort mit EU-Verarbeitung verfügbar.

Grenzen und Einordnung

Die fachlichen Grenzen gleichen denen anderer Sprachmodelle: falsche, aber überzeugend formulierte Aussagen, kein Wissen über interne Abläufe ohne bereitgestellte Quellen und ein fester Wissensstand. Hinzu kommen Risiken aus dem Betriebsmodell: Abhängigkeit von einem Anbieter mit häufigen Produktänderungen, Funktionen, die in einzelnen Regionen fehlen, und Kosten, die mit Modellstufe, Kontextlänge und Werkzeugnutzung wachsen.

Sinnvoll ist eine Architektur, in der OpenAI ein austauschbarer Baustein bleibt. Ein internes Gateway, eigene Testsätze und standardisierte Schnittstellen erlauben es, je Aufgabe zwischen OpenAI, Azure, anderen Anbietern und lokalen Modellen zu wählen. So entscheidet die Datenklasse über den Weg und nicht die Gewohnheit.

Architektur

Ebenen einer OpenAI-Nutzung im Unternehmen

Ebene 1

Oberflächen

  • ChatGPT Business
  • ChatGPT Enterprise
  • Codex
  • Eigene Anwendungen

Ebene 2

Plattform

  • OpenAI API
  • Azure OpenAI in Foundry
  • Projekte und Limits

Ebene 3

Datenschutz

  • Datenresidenz Europa
  • EU Data Zone
  • ZDR auf Antrag
  • Aufbewahrungsregeln

Ebene 4

Governance

  • SAML SSO
  • SCIM und Rollen
  • Audit-Logs
  • Freigabeprozess
Unabhängig vom Zugangsweg bleiben Identität, Rechte und Protokollierung Aufgaben des Unternehmens.

7 Punkte

7 Prüffragen für ChatGPT und die OpenAI API

Mit diesen Fragen lässt sich vor Vertragsschluss klären, ob der gewählte Weg zu Datenklasse, Organisation und Kontrollanspruch passt.

  1. 01

    Welche Datenklasse ist betroffen?

    Öffentliche Inhalte, interne Dokumente und personenbezogene Daten erfordern unterschiedliche Zugangswege und Vereinbarungen.

  2. 02

    Muss die Verarbeitung in Europa bleiben?

    Wenn ja: Eignung für Datenresidenz bei OpenAI oder EU Data Zone in Azure vorab bestätigen lassen.

  3. 03

    Wer ist Vertragspartner?

    OpenAI direkt oder Microsoft – das bestimmt Auftragsverarbeitungsvertrag, Support und Haftungsrahmen.

  4. 04

    Reicht Business oder braucht es Enterprise?

    SCIM, Gruppenrechte, eigene Aufbewahrungsfristen und Datenresidenz sprechen für Enterprise.

  5. 05

    Wie lange werden Daten gespeichert?

    Standardfristen, Missbrauchsprotokolle und ZDR-Eignung je Endpunkt dokumentieren.

  6. 06

    Welche Werkzeuge darf das Modell nutzen?

    Websuche, Apps und MCP-Server verlassen die Residenzgrenze und brauchen eigene Freigaben.

  7. 07

    Wie sieht der Wechselweg aus?

    Prompts und Tests so ablegen, dass ein anderes Modell ohne Neuentwicklung übernehmen kann.

Gegenüberstellung

ChatGPT Enterprise, OpenAI API und Azure OpenAI im Vergleich

Die drei Wege nutzen ähnliche Modelle, unterscheiden sich aber in Vertragspartner, Verwaltung und Verarbeitungsort. Angaben nach Dokumentation der Anbieter, Stand der Recherche.

KriteriumChatGPT EnterpriseOpenAI APIAzure OpenAI in Foundry
Typischer ZweckArbeitsoberfläche für MitarbeitendeIntegration in eigene SoftwareIntegration in Azure-Umgebung
VertragspartnerOpenAIOpenAIMicrosoft
Training auf EingabenStandardmäßig neinStandardmäßig neinNein, laut Microsoft
Verarbeitung in EuropaDatenresidenz und Inferenz für berechtigte neue WorkspacesEU-Region nach Genehmigung und ZusatzvereinbarungEU Data Zone oder Azure-Geografie
AufbewahrungVom Unternehmen konfigurierbarMissbrauchsprotokolle bis 30 Tage, ZDR auf AntragNach Microsoft-Regeln, Anpassung auf Antrag
Identität und RechteSAML SSO, SCIM, GruppenrollenProjekte, Admin-API, Audit-LogsIdentitäten und Rollen der Azure-Umgebung
Neue ModelleSchnell in der OberflächeSchnell über die APIZuerst global, später in Datenzonen

Die Wahl ist nicht exklusiv: Viele Unternehmen nutzen eine Arbeitsoberfläche für Wissensarbeit und eine API-Variante für klar abgegrenzte Prozesse.

Praxis

Drei typische Einsatzszenarien

Szenario 1

Kundenservice eines Onlinehändlers

Ausgangslage
Das Serviceteam beantwortet wiederkehrende Fragen zu Lieferung, Rücksendung und Produktdetails aus mehreren Systemen.
Ansatz
Über die API erstellt ein OpenAI-Modell Antwortentwürfe aus Helpdesk-Verlauf, Bestellstatus und freigegebenen Artikeltexten.
Kontrolle
Erstattungen, Kulanz und Beschwerden entscheidet das Team. Entwürfe zeigen ihre Quellen; der Versand erfolgt nach Freigabe.
Messgröße

Bearbeitungszeit je Ticket und Anteil unverändert übernommener Entwürfe

Szenario 2

Steuerberatungskanzlei mit Azure-Umgebung

Ausgangslage
Mandantenunterlagen sollen schneller gesichtet werden. Die Kanzlei betreibt Identitäten und Ablage bereits in Azure.
Ansatz
Ein Azure-OpenAI-Modell in einer EU-Data-Zone-Bereitstellung fasst eingereichte Belege zusammen und markiert fehlende Unterlagen.
Kontrolle
Fachliche Bewertung und Mandantenkommunikation bleiben bei Berufsträgern. Zugriff nur über Kanzleikonten mit Rollen.
Messgröße

Zeit bis zur vollständigen Unterlagenliste je Mandat

Szenario 3

Vertriebsteam eines Dienstleisters

Ausgangslage
Gesprächsnotizen, Angebotsvorlagen und Marktinformationen liegen verstreut. Vorbereitung auf Kundentermine dauert lange.
Ansatz
ChatGPT Enterprise mit Projekten und freigegebenen Konnektoren erstellt Gesprächsvorbereitungen und Entwürfe für Folge-E-Mails.
Kontrolle
Konnektoren sind auf Vertriebsordner begrenzt; Preise und Vertragsbedingungen werden nicht aus dem Chat übernommen.
Messgröße

Vorbereitungszeit je Kundentermin, erhoben vor und nach Einführung

Checkliste

Vor dem Start mit OpenAI klären

  • Zugangsweg und Vertragspartner sind festgelegt
  • Eignung für Datenresidenz in Europa ist schriftlich bestätigt, falls erforderlich
  • Auftragsverarbeitungsvertrag oder Microsoft-DPA ist geprüft
  • Aufbewahrung und ZDR-Bedarf sind je Endpunkt dokumentiert
  • SSO, Rollen und gegebenenfalls SCIM sind eingerichtet
  • Freigegebene Apps, GPTs und Konnektoren sind auf eine Liste begrenzt
  • Ausgabenlimits für API, Codex und ChatGPT Work sind gesetzt
  • Ein Testsatz mit eigenen Beispielen und klaren Kriterien ist vorhanden

Vermeiden

Typische Fehler

  • Business-Plan für sensible Daten

    Eigene Aufbewahrungsfristen und Datenresidenz sind an Enterprise gebunden. Ein späterer Wechsel bedeutet Migrationsaufwand.

  • Residenz als Komplettschutz verstehen

    Datenresidenz deckt nicht alle Systemdaten und keine externen Integrationen ab. Websuche, Apps und MCP-Server brauchen eigene Prüfung.

  • Neuestes Modell in der EU-Zone erwarten

    In Azure erscheinen Modelle meist zuerst global. Wer EU-Verarbeitung braucht, plant mit dem, was in der Datenzone verfügbar ist.

  • Schatten-Nutzung privater Konten

    Ohne freigegebene Firmenlösung weichen Mitarbeitende auf persönliche Konten aus, bei denen andere Trainings- und Aufbewahrungsregeln gelten.

Weiterführend

FAQ

Häufige Fragen: OpenAI und ChatGPT

Nutzt OpenAI unsere Unternehmensdaten zum Training?+

Für ChatGPT Business, Enterprise und die API gibt OpenAI an, Ein- und Ausgaben standardmäßig nicht zum Training zu nutzen. Bei persönlichen Plänen gelten andere Regeln mit Opt-out.

Kann ChatGPT Daten ausschließlich in Europa verarbeiten?+

Für berechtigte neue Enterprise-Arbeitsbereiche bietet OpenAI Speicherung und GPU-Inferenz im EWR plus Schweiz an. Einzelne Systemdaten und externe Integrationen können trotzdem außerhalb verarbeitet werden.

Was ist der Unterschied zwischen OpenAI API und Azure OpenAI?+

Die Modelle stammen von OpenAI, der Betrieb in Azure erfolgt durch Microsoft mit Microsoft als Vertragspartner. Laut Microsoft haben OpenAI und andere Kunden keinen Zugriff auf Eingaben und Ausgaben.

Welches OpenAI-Modell passt für den Einstieg?+

OpenAI empfiehlt GPT-6 Astra für komplexe Aufgaben, GPT-6.1 Sol als Mittelweg und GPT-6 Luna für große Mengen einfacher Aufgaben. Die Auswahl sollte mit eigenen Testfällen bestätigt werden.

Was bedeutet Zero Data Retention bei OpenAI?+

Kundeninhalte werden nicht in Missbrauchsprotokollen gespeichert, und bestimmte Endpunkte speichern keinen Anwendungszustand. Die Option erfordert eine vorherige Genehmigung durch OpenAI und gilt nicht für alle Endpunkte.

Brauchen wir neben ChatGPT eine Richtlinie für Mitarbeitende?+

Ja. Eine kurze Nutzungsrichtlinie legt fest, welche Daten eingegeben werden dürfen, welche Konten zu nutzen sind und welche Ergebnisse vor der Verwendung geprüft werden müssen.

Quellen

Quellen und weiterführende Dokumentation

  1. Models · OpenAI · Stand 5. November 2026
  2. Enterprise privacy at OpenAI · OpenAI · Stand 8. Januar 2026
  3. Business data privacy, security, and compliance · OpenAI · Stand 5. November 2026
  4. Data residency and inference residency for ChatGPT · OpenAI Help Center · Stand 5. November 2026
  5. Data controls in the OpenAI platform · OpenAI · Stand 5. November 2026
  6. ChatGPT Plans and Pricing · OpenAI · Stand 5. November 2026
  7. Data, privacy, and security for Models sold by Azure in Microsoft Foundry · Microsoft Learn · Stand 18. Mai 2026
  8. Deployment types for Microsoft Foundry Models · Microsoft Learn · Stand 12. August 2026

Die Seite beschreibt Einsatzmuster und Prüfkriterien, keine Rechtsberatung. Produkt- und Anbieterangaben ändern sich schnell; maßgeblich ist die jeweils verlinkte Originaldokumentation. Zur Bewertungslogik siehe Methodik.

Nächster Schritt

Wo lohnt sich der Einstieg in Ihrem Unternehmen?

Der kostenlose KI-Check ordnet Ziel, Prozess, Daten, Kontrolle und Budget ein und empfiehlt einen ersten prüfbaren Pilotansatz.