Verbote werden umgangen, weil die Werkzeuge nützlich sind. Was wirkt, ist eine kurze Regel: welche Werkzeuge erlaubt sind, welche Inhalte nie hineingehören und wer im Zweifel entscheidet. Dazu ein geschäftliches Abonnement statt kostenloser Zugänge – das ist der wichtigste technische Schritt.
Warum ein Verbot nicht hilft
Wo ein Werkzeug spürbar Arbeit abnimmt, wird es benutzt. Ein Verbot verlagert die Nutzung nur auf private Geräte und private Konten – dorthin, wo der Betrieb weder Einblick noch Kontrolle hat.
Damit wird aus einem beherrschbaren Risiko ein unbeherrschbares. Der Inhalt geht trotzdem hinaus, nur weiss niemand mehr, welcher.
Sinnvoller ist der umgekehrte Weg: einen erlaubten, geschäftlich abgesicherten Zugang bereitstellen und dazu sagen, was hineingehört und was nicht.
Der wichtigste technische Schritt
Kostenlose Zugänge und geschäftliche Abonnements unterscheiden sich in einem Punkt, der alles entscheidet: ob die eingegebenen Inhalte zur Weiterentwicklung des Modells verwendet werden.
Bei geschäftlichen Abonnements ist das in der Regel ausgeschlossen und vertraglich zugesichert. Bei kostenlosen Zugängen ist es häufig erlaubt – und selbst wo nicht, fehlt die vertragliche Grundlage, die ein Auftragsbearbeitungsverhältnis braucht.
Ein geschäftliches Abonnement kostet pro Person und Monat einen überschaubaren Betrag. Gemessen an der Alternative ist das der günstigste Teil der ganzen Übung.
Die Regel, die auf eine Seite passt
- Erlaubte Werkzeuge. Eine namentliche Liste. Was nicht darauf steht, ist nicht erlaubt – und die Liste wird auf Anfrage erweitert, nicht heimlich umgangen.
- Was nie hineingehört. Personendaten von Mitarbeitenden und Kunden, Gesundheitsangaben, Lohndaten, Bewerbungsunterlagen, Vertragsentwürfe mit Namen, Zugangsdaten.
- Was mit Anonymisierung geht. Ein Text lässt sich oft entpersonalisieren, bevor er hineingeht. Aus „Herr Müller aus Wollerau reklamiert" wird „ein Kunde reklamiert".
- Die Kontrollpflicht. Jedes Ergebnis wird vor Verwendung gelesen. Was hinausgeht, verantwortet die Person, die es verschickt – nicht das Werkzeug.
- Wer im Zweifel entscheidet. Eine Ansprechperson mit Namen. Zweifelsfälle sollen gefragt und nicht selbst entschieden werden.
Mehr braucht es für den Anfang nicht. Eine Regel, die niemand liest, wirkt schlechter als fünf Punkte, die alle kennen.
Der Punkt mit den Halluzinationen
Sprachmodelle erzeugen plausible Texte, keine geprüften Fakten. Sie erfinden Quellen, Paragraphen und Zahlen, und zwar in einem Tonfall, der Sicherheit ausstrahlt.
Das ist kein Fehler, der behoben wird, sondern eine Eigenschaft der Technik. Wer damit arbeitet, muss es wissen – und deshalb gehört die Kontrollpflicht in die Regel.
Besonders heikel sind Rechtsauskünfte, medizinische Angaben und Zahlen jeder Art. In diesen drei Bereichen prüfen wir jedes Ergebnis gegen die Quelle, ohne Ausnahme.