Sicherheitsprüfung

Wie sicher ist Baseten für Ihren Anwendungsfall?

Separater Partnerdienst: /go öffnet den Katalog der Modell-API für die Inferenz mit bestehenden Modellen und den API-Zugriff, nicht für individuelle Bereitstellungen von Baseten oder einen LLM-Katalog. Melden Sie sich dort an und prüfen Sie Preise und Verfügbarkeit für das jeweilige Modell.

Wenn Sie sich fragen, wie sicher baseten ist, beginnen Sie bei Ihrem Anwendungsfall statt bei einem pauschalen Urteil. Diese Seite beschreibt, was Sie prüfen sollten, bevor Sie Daten an einen Modell-Endpunkt senden. Sie kann Baseten nicht zertifizieren und ersetzt nicht dessen aktuelle Sicherheitsdokumentation.

Illustration einer Cloud-Infrastruktur im Stil von Baseten

Drei Missverständnisse zur Sicherheit

Diese Annahmen können dazu führen, dass eine unvollständige Prüfung zu einer unbegründeten Freigabe führt. Gleichen Sie jede davon mit der aktuellen Dokumentation und Ihrer eigenen Konfiguration ab.

1

Ein Inferenz-Endpunkt macht die gesamte Anwendung sicher

Baseten kann die Sicherheit Ihres Clients, gespeicherter Zugangsdaten, der Validierung von Anfragen oder der nachgelagerten Nutzung von Modellausgaben nicht gewährleisten. Ein offengelegtes Anwendungsgeheimnis bleibt offengelegt, unabhängig davon, wo die Inferenz ausgeführt wird.

Was Sie stattdessen tun sollten

Erfassen Sie den gesamten Anfragepfad und prüfen Sie jedes System, das Eingaben, Ausgaben oder Zugangsdaten verarbeitet.

2

Sicherheitsaussagen klären alle Fragen zur Datenverarbeitung

Eine allgemeine Aussage verrät Ihnen nicht, ob Ihre konkreten Eingaben, Protokolle, Backups und Aufbewahrungsanforderungen abgedeckt sind. Diese Details hängen vom jeweiligen Dienst und der geltenden Vereinbarung ab.

Was Sie stattdessen tun sollten

Holen Sie die aktuellen Bedingungen zur Datenverarbeitung ein und dokumentieren Sie, welche Datenkategorien übermittelt werden dürfen.

3

Eine erfolgreiche Testanfrage beweist nicht, dass das System für den Produktivbetrieb bereit ist

Eine funktionierende Baseten-Integration stellt die Verbindung her, ersetzt aber weder ein Berechtigungskonzept noch Überwachung, Verfahren für Sicherheitsvorfälle oder die Einhaltung Ihrer Richtlinien.

Was Sie stattdessen tun sollten

Führen Sie eine separate Sicherheitsprüfung durch, bevor Sie echte Nutzer oder sensible Informationen einbeziehen.

Was es tatsächlich ist

Baseten ist eine Plattform zur Bereitstellung von Modellen, kein Ersatz für die Sicherheitskontrollen Ihrer Organisation. Bewerten Sie die Servicegrenze zusammen mit der Anwendung und den Personen, die sie betreiben.

Erforderlich Optional
  • Bestimmen Sie den genauen Baseten-Dienst, die Bereitstellung und den Datenfluss, die geprüft werden. — Eine allgemeine Antwort auf Plattformebene beschreibt Ihre Implementierung möglicherweise nicht.

  • Fordern Sie aktuelle Sicherheitsdokumentation an und prüfen Sie deren Geltungsbereich und Datum. — Prüfen Sie, ob die Nachweise für den Dienst und die Umgebung gelten, die Sie nutzen möchten.

  • Klassifizieren Sie Ein- und Ausgaben, bevor Sie sensible Daten in Anfragen zulassen. — Berücksichtigen Sie Prompts, hochgeladene Materialien, Antworten und Betriebsprotokolle.

  • Überprüfen Sie in Ihrer Anwendung die Speicherung von Zugangsdaten, Zugriffsberechtigungen und den Entzug von Berechtigungen. — Ihre Integration bleibt Ihre Verantwortung.

  • Benennen Sie eine intern für die Freigabe verantwortliche Person und legen Sie ein Datum fest, an dem die Entscheidung erneut geprüft wird.optional — Sinnvoll, wenn sich die Bereitstellung oder die geltenden Bedingungen ändern.

Rahmenbedingungen

Nutzen Sie diesen relativen Prüfzeitplan als Arbeitsablauf, nicht als Darstellung der Produktgeschichte von Baseten. Jeder Prüfpunkt verändert, welche Schlussfolgerungen Sie verantwortungsvoll ziehen können.

  1. Systemgrenzen festlegen

    Stellen Sie dar, wo Daten in Ihre Anwendung gelangen, Baseten erreichen und zurückkehren. Listen Sie weitere Dienste auf, die eine Kopie erhalten. Ohne diese Übersicht kann eine Aussage über einen Anbieter fälschlich als Aussage über das gesamte System verstanden werden.

  2. Relevante Nachweise sammeln

    Fordern Sie Unterlagen für den vorgesehenen Dienst und die geplante Bereitstellung an. Halten Sie Veröffentlichungsdaten, Geltungsbereich, Vertragsbedingungen und offene Fragen fest, statt eine undatierte Zusammenfassung als aktuellen Nachweis zu behandeln.

  3. Eigene Kontrollen testen

    Prüfen Sie, wer den Endpunkt aufrufen kann, wo Zugangsdaten gespeichert sind, was protokolliert wird und wie Zugriffe entzogen werden. Diese Tests betreffen Ihre Integration, auch wenn Baseten die Inferenzinfrastruktur betreibt.

  4. Workload freigeben oder einschränken

    Lassen Sie das zuständige Team die Nachweise mit den Anforderungen an die Datenklassifizierung und den Umgang mit Sicherheitsvorfällen abgleichen. Bleibt eine Anforderung ungeprüft, schränken Sie den Workload ein oder verschieben Sie den Start, bis sie geklärt ist.

Wann Sie es NICHT verwenden sollten

Senden Sie keine regulierten, vertraulichen oder anderweitig eingeschränkten Daten an Baseten, wenn Sie die geltenden Bedingungen für deren Verarbeitung nicht überprüfen oder keine Genehmigung Ihrer Organisation einholen können. Stellen Sie keine Integration bereit, deren Zugangsdaten, Zugriffsregeln oder Protokolle nicht geprüft wurden. Wenn Sie einen anderen Dienst prüfen möchten, öffnet die folgende Aktion die Modell-API. Bewerten Sie deren Sicherheit gesondert, statt eine Schlussfolgerung zu Baseten darauf zu übertragen.

Behandeln Sie Unsicherheit nicht als Genehmigung

  • Unterbrechen Sie den Prozess, wenn erforderliche Nachweise fehlen.
  • Verwenden Sie nur Testeingaben, die Ihrer freigegebenen Datenklassifizierung entsprechen.
  • Überprüfen Sie die Entscheidung erneut, wenn sich die Bereitstellung ändert.
Modellkatalog der Modell-API durchsuchen

Sicherheits-FAQ

Ohne einen festgelegten Dienst, eine konkrete Bereitstellung, einen Datentyp und eine Reihe aktueller, zu prüfender Kontrollen lässt sich keine allgemeingültige Bewertung verantworten. Fordern Sie bei Baseten Nachweise an, die für Ihren Workload relevant sind, und prüfen Sie die Sicherheit Ihrer eigenen Integration gesondert.

Gehen Sie nicht davon aus, dass vertrauliche Eingaben zulässig sind, nur weil ein Endpunkt sie akzeptiert. Prüfen Sie zuerst die geltenden Bedingungen für den Umgang mit Daten, die Klassifizierungsregeln Ihrer Organisation und die Genehmigung für den konkreten Anwendungsfall.

Kein Anbieter kann verhindern, dass Ihre Anwendung Zugangsdaten offenlegt oder zu weitreichende Berechtigungen gewährt. Halten Sie Geheimnisse aus clientseitigem Code heraus, beschränken Sie den Zugriff entsprechend Ihren Anforderungen und testen Sie, wie Sie kompromittierte Zugangsdaten widerrufen würden.

Fordern Sie aktuelle Unterlagen an, die den Geltungsbereich relevanter Kontrollmaßnahmen, den Umgang mit Daten, die Zugriffsverwaltung und die Verfahren bei Sicherheitsvorfällen beschreiben. Prüfen Sie Datum und Anwendbarkeit und richten Sie offene Fragen an den Anbieter und Ihre interne Sicherheitsprüfung.

Dokumentation
Dokumentation