Notizen · KI im Unternehmen

Was darf in Claude oder ChatGPT hinein?

Fragen Sie in Ihrem Betrieb, wer KI benutzt. Meistens heben mehr Leute die Hand, als die Geschäftsleitung erwartet. Die Offerte wird mit ChatGPT umformuliert, das Protokoll mit Claude zusammengefasst, die Kundenmail übersetzt. Oft mit einem privaten Konto.

Das ist kein Grund zur Panik. Es zeigt, dass die Werkzeuge nützen. Das Problem liegt woanders. Niemand weiss, welche Daten dabei das Haus verlassen haben, und niemand hat festgelegt, was erlaubt ist.

Das private Konto ist das eigentliche Risiko

Bei einem privaten Konto entscheidet die einzelne Person über Einstellungen, die eigentlich die Firma treffen müsste. Ein Beispiel: Anthropic trainiert neue Modelle mit Chats aus den privaten Plänen Free, Pro und Max, wenn die Person das in ihren Einstellungen erlaubt. Dann bleiben die Daten laut Anthropic bis zu fünf Jahre gespeichert, sonst 30 Tage. Bei den Firmenangeboten (Team, Enterprise und die Programmierschnittstelle) verwendet Anthropic Ein- und Ausgaben standardmässig nicht für das Training.

Auch bei ChatGPT gelten für private Konten und Firmenangebote unterschiedliche Bedingungen. Daten aus ChatGPT Business, Enterprise und Edu sowie aus der Programmierschnittstelle verwendet OpenAI laut eigenen Angaben standardmässig nicht für das Training. Was im Vertrag steht, prüfe ich vor jeder Einführung in der aktuellen Fassung.

Und verlässt jemand die Firma, nimmt er seine Chats mit. Sie wissen nicht, was darin steht, und können nichts löschen.

Eine Seite Richtlinie reicht für den Anfang

Sie brauchen kein Handbuch. Eine Seite, die alle lesen, schützt mehr als zwanzig, die niemand liest. Sie beantwortet vier Fragen:

1. Welche Werkzeuge und Konten sind erlaubt? Zum Beispiel Claude über das Firmenkonto, keine privaten Konten für Firmenarbeit.
2. Welche Daten dürfen hinein, welche nie? Allgemeines und Öffentliches ja. Passwörter, Gesundheitsdaten und alles unter Berufsgeheimnis nie. Kundendaten nur in einem Werkzeug, das dafür freigegeben ist.
3. Wer prüft die Ergebnisse? KI schreibt überzeugend, auch wenn es falsch ist. Was an Kunden geht, liest vorher ein Mensch.
4. Wem meldet man einen Fehler? Wer versehentlich Kundendaten eingefügt hat, soll es ohne Angst sagen können. Nur dann können Sie reagieren.

Eine Vorlage dafür können Sie hier herunterladen. Sie hat Lücken für Ihren Firmennamen und die verantwortliche Person. Sie ersetzt keine Rechtsberatung und muss an Ihren Betrieb angepasst werden.

Vorlage herunterladen (Word)Ansicht (PDF)

Firmenkonten statt Verbote

Ein Verbot treibt die Nutzung auf private Handys. Besser ist ein Firmenkonto, das die Leute gern benutzen. Bei Claude heisst das ein Team- oder Enterprise-Plan. Sie vergeben die Konten zentral, sperren sie beim Austritt und legen fest, was erlaubt ist. Bewertet eine Mitarbeiterin eine Antwort mit Daumen hoch oder runter, darf Anthropic diesen Chat laut eigenen Angaben für das Training verwenden. Im Team- und im Enterprise-Plan können Sie diese Bewertungen für alle ausschalten.

Was das Datenschutzgesetz verlangt

Seit September 2023 gilt das revidierte Datenschutzgesetz. Für KI-Werkzeuge zählen drei Punkte.

• Bekanntgabe ins Ausland. Personendaten dürfen in ein Land, dessen Datenschutz der Bundesrat als angemessen anerkannt hat. Für die USA gilt das seit dem 15. September 2024 nur für Firmen, die nach dem Swiss-U.S. Data Privacy Framework zertifiziert sind. Ob Ihr Anbieter darauf steht, zeigt die Liste des US-Handelsministeriums. Sonst braucht es Garantien, etwa Standardvertragsklauseln (Art. 16 DSG). Das prüfe ich im Vertrag des Anbieters.
• Verzeichnis der Bearbeitungstätigkeiten. Die KI-Nutzung mit Personendaten gehört als Bearbeitung hinein (Art. 12 DSG). Firmen mit weniger als 250 Mitarbeitenden sind von der Pflicht befreit, ausser sie bearbeiten besonders schützenswerte Daten in grossem Umfang oder betreiben ein Profiling mit hohem Risiko (Art. 24 DSV). Ich empfehle den Eintrag trotzdem. Er zwingt dazu, die Fragen einmal sauber zu beantworten.
• Meldung von Vorfällen. Eine Verletzung der Datensicherheit mit voraussichtlich hohem Risiko für die Betroffenen melden Sie so rasch als möglich dem EDÖB (Art. 24 DSG). Darum gehört die Meldestelle in die Richtlinie.

Wo Claude Ihre Daten verarbeitet

Nutzen Sie Claude direkt bei Anthropic, auch im Team- oder Enterprise-Plan, speichert Anthropic die Daten laut eigenen Angaben in den USA. Die Anfragen können in Rechenzentren in den USA, in Europa, Asien oder Australien verarbeitet werden. Für viele Aufgaben spielt das keine Rolle, für manche schon. Deshalb legen wir gemeinsam fest, welche Daten draussen bleiben. Wo die Verarbeitung im EU-Raum bleiben soll, gibt es andere Wege, etwa Claude über einen Cloud-Anbieter in einer EU-Region oder GPT-Modelle über Azure mit dem passenden Bereitstellungstyp. Was das bei Azure genau heisst, steht in der Notiz Azure OpenAI: Wo Ihre Daten wirklich verarbeitet werden.

Was ich konkret mache

• Ein Workshop mit Ihrer Geschäftsleitung. Danach haben Sie den Entwurf Ihrer Richtlinie und wissen, welche Konten Sie brauchen.
• Ich richte die Firmenkonten ein und schalte aus, was Sie nicht wollen.
• Ich prüfe den Datenschutz und schreibe den Eintrag für Ihr Verzeichnis der Bearbeitungstätigkeiten.
• Eine Schulung an Ihren eigenen Aufgaben: wie man Namen ersetzt, bevor man etwas einfügt, und wie man Ergebnisse prüft.