Zum Hauptinhalt springen

Bring-your-own-Key (BYOK)

Das AI Kit spricht mit den Modellanbietern über Ihre API-Schlüssel, nicht über unsere. Diese Seite erklärt, was das praktisch bedeutet – für Kosten, Kontrolle und Sicherheit.

Was BYOK bedeutet​

Wenn Sie zum Beispiel OpenAI mit Ihrem Workspace verbinden, tragen Sie einen OpenAI-API-Schlüssel ein, der Ihnen gehört. Ab diesem Moment gilt:

  • Das AI Kit leitet jede Modellanfrage mit Ihrem Schlüssel an OpenAI weiter.
  • OpenAI rechnet jedes Token über Ihr Konto ab, nicht über unseres.
  • Das AI Kit sieht nicht, was OpenAI Ihnen in Rechnung stellt. Um Nutzung und Kosten von Ihrer Seite aus zu verfolgen, verwenden Sie die Metriken.

Dasselbe gilt für Anthropic, Mistral und jeden anderen kommerziellen Anbieter.

Warum BYOK​

  • Kostentransparenz. Sie sehen die Rechnung des Anbieters direkt, Posten für Posten.
  • Kontrolle. Sie können den Schlüssel austauschen, widerrufen, Ausgabenlimits setzen oder das Abrechnungskonto wechseln – alles, ohne uns einzubeziehen.
  • Compliance. Manche Organisationen verlangen, dass alle Dienste Dritter unter Verträgen laufen, die sie selbst kontrollieren. Mit BYOK bleibt das Vertragsverhältnis zwischen Ihnen und dem Modellanbieter bestehen.
  • Wahlfreiheit. Sie können auch Anbieter nutzen, die wir offiziell noch nicht unterstützen, solange sie dasselbe Protokoll sprechen wie ein unterstützter Anbieter.

Wann BYOK nicht gilt​

Für selbst betriebenes Ollama gilt BYOK nicht: Sie betreiben das Modell selbst, es gibt keinen Dritten und keine Kosten je Token. Siehe Ollama (selbst betrieben).

Wo der Schlüssel gespeichert wird​

API-Schlüssel landen beim Anlegen des Modells in einem geschützten Feld. Die Plattform verschlüsselt den Wert mit einem workspace-eigenen Schlüssel, bevor sie ihn auf die Festplatte schreibt. Nach dem Speichern wird der Wert in der Oberfläche nicht mehr angezeigt – Sie können ihn nur ersetzen, nie wieder auslesen.

Um einen Schlüssel auszutauschen, bearbeiten Sie einfach das Modell und fügen den neuen Schlüssel in das Feld ein.

Risiken begrenzen​

Einige einfache Vorkehrungen verringern das Risiko eines offengelegten Schlüssels:

  • Legen Sie je Workspace einen eigenen Schlüssel an. So bleibt der Schaden klein, falls Sie einmal einen widerrufen müssen.
  • Setzen Sie Ausgabenlimits beim Anbieter, wo immer das möglich ist. OpenAI, Anthropic und Mistral erlauben alle, die monatlichen Ausgaben je Schlüssel zu begrenzen.
  • Tauschen Sie Schlüssel regelmäßig aus. Ein- oder zweimal im Jahr reicht für die meisten Organisationen.
  • Beobachten Sie die Nutzung unter Metriken. Auffälligkeiten (plötzliche Spitzen, unerwartet aufgerufene Modelle) deuten oft eher auf eine falsch konfigurierte Automation hin als auf einen abgeflossenen Schlüssel – ein Blick lohnt sich trotzdem.

Kosten, die Sie mit BYOK nicht steuern können​

Den Preis je Token legt der Anbieter fest. Einige Punkte, die Sie im Blick behalten sollten:

  • Eingabe-Token kosten bei den meisten Anbietern weniger als Ausgabe-Token.
  • Systemanweisungen zählen bei jedem Aufruf als Eingabe-Token. Lange System-Prompts werden auf Dauer teuer.
  • Der Wissensabruf fügt Eingabe-Token hinzu. Ein größeres Ergebnis aus der Wissensbasis bedeutet mehr eingehende Token.
  • Agenten und die KI-Aktion können in mehreren Runden arbeiten. Die Kosten richten sich nach dem gewählten Aufwand.

Die Metriken helfen Ihnen zu erkennen, welche Automation die Kosten treibt. Prompts zu verbessern oder auf ein kleineres Modell zu wechseln ist meist günstiger, als mit dem Anbieter einen Rabatt auszuhandeln.

Nächste Schritte​