Produkte
AICP, die AI Control Plane
Kontrollierter Zugang zu Frontier-, EU- und privaten AI-Modellen
AICP
AICP ist ein kontrollierter Weg für Ihre Mitarbeitenden und Anwendungen zu Frontier-Modellen, Modellen in der EU-Region und privaten AI-Modellen. Es läuft in Ihrer Umgebung oder wird von uns betrieben, bindet Ihren Identity Provider und Ihre Secrets an, entscheidet anhand der Datenklassifizierung jeder Anfrage, wohin sie gehen darf, setzt Budgets durch, bevor Geld ausgegeben wird, und liefert die Audit-Nachweise, die ein Compliance-Programm braucht.
Für wen es gedacht ist
Für Organisationen, die AI bereits in mehreren Teams und Anwendungen einsetzen und nun beantworten müssen, wohin die Daten gingen, wer welches Modell nach welcher Richtlinie genutzt hat und was es gekostet hat.
Das Problem, das es löst
Die meisten Organisationen nutzen AI bereits. Wenige können sagen, wie, wo und zu welchen Kosten.
Schatten-AI
Mitarbeitende kopieren Arbeit in AI-Tools, die niemand registriert hat, über private Konten. Es gibt keine Übersicht, wer welches Modell wofür nutzt.
Daten verlassen die EU
Nichts prüft, ob ein vertraulicher Prompt gleich bei einem Anbieter außerhalb der EU landet, und nichts hält es fest, wenn es passiert.
Unkontrollierte Kosten
Anbieterrechnungen kommen im Nachhinein. Ein Limit, das Überschreitungen nur meldet, verhindert sie nicht.
Kein Audit-Trail
Wenn ein Prüfer, ein Datenschutzbeauftragter oder ein Mitarbeiter fragt, was wo und nach welchen Regeln verarbeitet wurde, gibt es keinen Nachweis.
Was AICP leistet
Das Modell-Gateway darunter ist austauschbar. Das Produkt sind Identität, Richtlinien, Routing nach Datenstandort, Budgets und Audit.
OpenAI-kompatible API
Anwendungen rufen einen Endpunkt auf und sprechen Modelle über einen stabilen Alias an, nie über den Modellnamen eines Anbieters. So kann das Modell hinter einem Alias wechseln, ohne Codeänderung.
Routing nach Klassifizierung
Die Datenklassifizierung jeder Anfrage entscheidet, wohin sie darf: zu einem Frontier-Anbieter, einem Anbieter in der EU-Region, einem privaten Modell auf Ihrer Hardware oder nirgendwohin.
Klassifizierung mit Obergrenze
Die Klassifizierung ergibt sich aus Anwendung, Rolle und Anfrage. Inhaltserkennung kann sie nur erhöhen, und eine Anfrage über ihrer Obergrenze wird abgelehnt, nie herabgestuft.
Erkennung sensibler Daten
Detektoren für Kategorien wie Kontonummern und geleakte Secrets blockieren, schwärzen oder protokollieren, je Anwendung, Kategorie und Anbieter. Geschwärzt wird vor dem externen Aufruf.
Identität und SSO
Menschen melden sich über Ihren OIDC Identity Provider an, Software über Workload-Identität. Modellfreigaben und Klassifizierungsgrenzen gelten pro Team und Rolle.
Budgets, die Ausgaben verhindern
Die geschätzten Kosten werden vor dem Aufruf reserviert und danach mit den tatsächlichen Tokens abgeglichen. Limits gelten über alle Replikate.
Nutzungs- und Kostenmessung
Tokenverbrauch und Kosten werden pro Anfrage und Anwendung erfasst, mit Dashboards und laufenden Ausgaben in der Betreiberkonsole.
Audit-Trail und Nachweise
Standardmäßig nur Metadaten, mit pseudonymisierten Nutzern, als Hash-Kette, damit jede Änderung auffällt, und an Ihr SIEM exportiert. Ein Nachweisbericht listet Modelle, Anbieter, Richtlinienversionen und Entscheidungen.
Betreiberkonsole
Eine Admin-Konsole hinter Ihrem SSO zeigt die wirksamen Richtlinien, laufende Ausgaben und Ablehnungen, erlaubt Änderungen an Budgets, Obergrenzen und Erkennungsaktionen und markiert Abweichungen von der geprüften Basis.
Private Modelle auf Ihrer Hardware
Streng vertrauliche Daten können von einem Open-Weight-Modell auf Ihrer eigenen GPU verarbeitet werden, sodass der Prompt Ihre Grenzen nie verlässt.
Ausfallsicherheit mit Datenstandort
Fällt ein Anbieter aus, wird eine Anfrage nur über Routen wiederholt, die die Richtlinie für ihre Klassifizierung bereits freigegeben hat. Jeder Versuch wird festgehalten.
Signierte Lieferkette
Jedes Image ist per Digest fixiert und wird bei der Zulassung auf seine Signatur geprüft. Ein manipuliertes Image startet nicht.
So funktioniert es
Jede Anfrage nimmt denselben Weg. Was sich ändert, ist, wo sie enden darf.
Ihre Mitarbeitenden und Software
- Anwendungen und SDKs
- Chat-Oberfläche für Mitarbeitende
- Skripte und Automatisierung
AICP Control Plane
- Identität prüfen
- Klassifizierung ableiten
- Nach Richtlinie entscheiden
- Budget reservieren
- Weiterleiten und protokollieren
Wohin eine Anfrage darf
- Frontier-Anbieteraußerhalb der EU
- Anbieter in der EU-RegionVerarbeitung in der EU
- Privates ModellIhre Hardware
- Abgelehntüber der Obergrenze
- Ihr Identity ProviderSSO
- Ihr Secret StoreAnbieterschlüssel
- Ihr SIEMAudit
OpenAI-kompatibel: Basis-URL ändern
Bestehende OpenAI-SDKs und Tools funktionieren weiter. Richten Sie sie auf AICP, authentifizieren Sie sich mit dem Token Ihres Identity Providers und rufen Sie ein Modell über seinen Alias auf. Streaming wird unterstützt.
- Kein Anbieter-SDK in Ihrem Code
- Modelle wechseln hinter dem Alias, nicht im Code
- Eine abgelehnte Anfrage liefert einen klaren Fehler, keinen stillen Ausweichweg
from openai import OpenAI
client = OpenAI(
base_url="https://aicp.example.com/v1", # Ihr AICP-Endpunkt
api_key=token, # von Ihrem Identity Provider
)
reply = client.chat.completions.create(
model="eu-only", # ein Alias, kein Anbietermodell
messages=[{"role": "user", "content": "Fasse diesen Vertrag zusammen"}],
)Betriebsmodelle
In Ihrer Umgebung
AICP läuft in Ihrem eigenen Cluster, angebunden an Ihren Identity Provider, Ihren Secret Store und Ihre Anbieterverträge.
- Ihre eigenen Anbieterschlüssel
- Prompts laufen nicht über unsere Infrastruktur
- Wir richten es ein und können es für Sie betreiben
Von uns betrieben
Wir betreiben AICP für Sie auf unserer Infrastruktur, standardmäßig in der EU, in Deutschland, Frankreich oder Bulgarien.
- Auf Wunsch Ihre eigenen Anbieterschlüssel
- Wir handeln als Ihr Auftragsverarbeiter nach AVV
- Hosting in den USA auf Anfrage
Managed Operations
Für beide Modelle übernehmen wir die Arbeit, die im täglichen AI-Betrieb wiederkehrt.
- Änderungen bei Anbietern, Preisen und Modellen
- Feinabstimmung der Richtlinien und Budgetprüfung
- Upgrades, Nachweisberichte und Zugriffsprüfungen
Governance und Compliance
AICP ist Infrastruktur, die Compliance ermöglicht. Es setzt durch und dokumentiert, welche Daten welchen Anbieter erreichen, und gibt Ihrem Datenschutzbeauftragten die Nachweise. Ob ein Einsatz konform ist, bleibt dessen Urteil.
- Belegen, dass kein vertraulicher Prompt einen Anbieter außerhalb der EU erreicht hat, aus den Aufzeichnungen statt aus einem Richtliniendokument
- Prüfen, dass der Audit-Trail nicht verändert wurde, bevor er einem Prüfer vorgelegt wird
- Auskunftsersuchen von Mitarbeitenden aus dem pseudonymisierten Trail beantworten, ohne Prompt-Inhalte zu speichern
- Jede Entscheidung mit der Richtlinienversion verknüpfen, die zu diesem Zeitpunkt galt
Inhaltserkennung ist kein DLP. Sie kann Treffer verpassen und zu viel erkennen, deshalb darf sie eine Klassifizierung nur erhöhen. Die verlässlichen Grenzen sind die Klassifizierungsobergrenze, die Anbieterfreigabe und die Netzwerkisolation.
- Checkliste EU AI ActKlären, welche Pflichten für die von Ihnen genutzte AI gelten.
- Bereitschaft für EU-RegulierungAI Act, NIS2 und DORA gemeinsam vorbereiten.
- AI-SicherheitsprüfungIhre AI-Anwendungen und ihre Schutzmechanismen testen.
- Private LLM-HostingModelle auf unserer oder Ihrer Infrastruktur betreiben.
Geplant
Auf der Roadmap und noch nicht verfügbar.
- Geplant
AI-Act-Dokumentation aus Ihrem Einsatz
Dokumentation, erzeugt aus Konfiguration und Audit-Trail, mit markierten statt gefüllten Lücken.
- Geplant
Kontrollierte Bilderzeugung
Bilder auf Ihrer eigenen GPU, mit derselben Identität, Klassifizierung, Budget und Audit wie Chat.
- Geplant
Anthropic-kompatibler Endpunkt
Eine zweite API-Form für Tools, die sie sprechen.
Wie es zu unseren Leistungen passt
Die Teams hinter unseren Leistungen entwickeln und betreiben dieses Produkt. Mit diesen Leistungen ist es verbunden.
- Private LLM-Hosting und KI-IntegrationPrivate LLMs auf unserer EU-Infrastruktur oder Ihrer, über eine OpenAI-kompatible API mit tokenbasierten Tarifen, integriert in Ihre Anwendungen, Abläufe und Daten.Mehr erfahren
- Open-Source-IntegrationWir integrieren und betreiben Nextcloud, Keycloak, Authentik, GitLab, Mattermost, Matrix, Odoo, Grafana und Ihren übrigen Open-Source-Stack, mit SSO und Hosting in der EU.Mehr erfahren
Fragen
Ist AICP nur ein AI-Gateway?
Nein. Ein Gateway leitet Anfragen an Modelle weiter. AICP entscheidet, ob eine Anfrage einen Anbieter überhaupt erreichen darf, anhand von Datenklassifizierung, Nutzer und Anwendung, setzt das Budget vor dem Aufruf durch und hält die Nachweise fest. Das Gateway darunter ist austauschbar.
Bleiben unsere Daten mit AICP im Haus?
Nur auf dem Weg zum privaten Modell. Eine Anfrage an einen externen Anbieter verlässt Ihre Organisation weiterhin; AICP beschränkt, steuert und dokumentiert diese Übermittlung. Streng vertrauliche Daten lassen sich auf ein Modell auf Ihrer eigenen Hardware begrenzen.
Macht es uns DSGVO- oder AI-Act-konform?
Das kann kein Produkt. AICP setzt Ihre Regeln durch und liefert die Nachweise, die ein Compliance-Programm braucht. Es kann keine Rechtsgrundlage schaffen und keinen unzulässigen Anwendungsfall heilen, und das Urteil über die Konformität bleibt bei Ihrem Datenschutzbeauftragten.
Werden Prompts gespeichert?
Standardmäßig nicht. Der Audit-Trail hält Metadaten fest: wer, welche Anwendung, welche Klassifizierung, welcher Anbieter, was erkannt wurde und was es kostete, mit pseudonymisierten Nutzern.
Können wir eigene Anbieterverträge und Schlüssel nutzen?
Ja. In Ihrer Umgebung nutzt AICP Ihre Anbieterkonten, mit Schlüsseln in Ihrem Secret Store. Wenn wir es betreiben, können Sie ebenfalls eigene Schlüssel mitbringen.
Mit welchen Identity Providern funktioniert es?
Mit jedem OIDC Identity Provider, etwa Microsoft Entra ID oder Okta.
AICP
Fragen zu einem Produkt?
Fragen Sie uns nach Zugang, Eignung für Ihr Team oder der Anbindung an Ihre Systeme.