DSG und künstliche Intelligenz: die tatsächlichen Pflichten eines Schweizer KMU

Das DSG gilt bereits für Ihre KI-Nutzungen

Viele Führungskräfte warten auf ein «Schweizer KI-Gesetz», bevor sie sich der Frage zuwenden. Das ist ein Kalenderirrtum: Das Bundesgesetz über den Datenschutz (DSG), revidiert und seit dem 1. September 2023 in Kraft, gilt schon heute für jede Bearbeitung von Personendaten, künstliche Intelligenz (KI) eingeschlossen. Das ist die Haltung des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten (EDÖB).

Konkret: Sobald eine Mitarbeiterin oder ein Mitarbeiter in ChatGPT oder einem vergleichbaren Werkzeug den Namen einer Kundin, eine E-Mail, ein Personaldossier (HR) oder irgendein Element eingibt, das eine Person identifizierbar macht, liegt eine Bearbeitung von Personendaten vor. Die Pflichten des DSG gelten, ob das Werkzeug gratis oder kostenpflichtig ist und ob Sie die europäische KI-Verordnung betrifft oder nicht.

Die Personen informieren (Art. 19)

Die Informationspflicht ist die Grundpflicht. Sie müssen die betroffenen Personen über die Beschaffung ihrer Daten informieren: Identität des Verantwortlichen, Bearbeitungszwecke, Empfänger und Zielstaat bei einer Bekanntgabe ins Ausland (Art. 19 DSG).

Auf die KI angewandt bedeutet dies, dass Ihre Datenschutzerklärung den Einsatz von KI-Werkzeugen erwähnen muss, wenn diese Personendaten bearbeiten: welche Datenarten, zu welchen Zwecken, mit welchen Dienstleistern und in welchen Ländern. Eine vor 2023 verfasste und nie aktualisierte Erklärung deckt Ihre heutigen Nutzungen kaum ab.

Das Bearbeitungsverzeichnis: erst ab 250 Mitarbeitenden (Art. 12)

Gute Nachricht für kleine Strukturen: Das Verzeichnis der Bearbeitungstätigkeiten ist erst ab 250 Mitarbeitenden Pflicht. Unter dieser Schwelle gilt die Ausnahme, ausser bei Bearbeitungen mit hohem Risiko — typischerweise die Bearbeitung besonders schützenswerter Personendaten in grossem Umfang oder ein Profiling mit hohem Risiko (Art. 12 Abs. 5 DSG und seine Verordnung).

Zwei Vorbehalte. Einerseits ist die entsprechende Ausnahme der europäischen Datenschutz-Grundverordnung (DSGVO), falls diese auf Ihre Tätigkeit anwendbar ist, deutlich enger (Art. 30 DSGVO). Andererseits fährt ein KMU auch mit Ausnahme gut damit, ein schlankes Inventar seiner KI-Nutzungen zu führen: Es ist der Ausgangspunkt aller anderen Pflichten, und das künftige Recht — KI-Verordnung wie Schweizer Vorentwurf — setzt es voraus.

Die Folgenabschätzung bei hohem Risiko (Art. 22)

Eine Datenschutz-Folgenabschätzung (DSFA) ist erforderlich, wenn die vorgesehene Bearbeitung ein hohes Risiko für die Persönlichkeit oder die Grundrechte der Personen mit sich bringen kann (Art. 22 DSG). Das hohe Risiko ergibt sich namentlich aus einem Profiling in grossem Umfang, aus der Bearbeitung besonders schützenswerter Personendaten oder aus dem Einsatz neuer Technologien — die KI ist das Musterbeispiel.

In der Praxis erreicht ein KMU, das KI für Übersetzungen oder interne Schreibhilfe nutzt, diese Schwelle in der Regel nicht. Ein Kunden-Scoring, eine Verhaltensanalyse in grossem Umfang oder die automatisierte Bearbeitung von Gesundheitsdossiers hingegen schon. Ergibt die DSFA trotz der vorgesehenen Massnahmen ein verbleibendes hohes Risiko, ist der EDÖB vor der Bearbeitung zu konsultieren (Art. 23 DSG).

Automatisierte Einzelentscheidungen (Art. 21)

Art. 21 DSG regelt Entscheidungen, die ausschliesslich auf einer automatisierten Bearbeitung beruhen und für die Person Rechtsfolgen entfalten oder sie erheblich beeinträchtigen. Beispiele: eine von einem Algorithmus ohne menschliches Zutun getroffene Kreditverweigerung oder eine vollständig automatisierte Bewerbungsauswahl, die Dossiers aussortiert.

In diesen Fällen müssen Sie die Person über das Bestehen der automatisierten Entscheidung informieren, ihr die Möglichkeit geben, ihren Standpunkt darzulegen, und ihr die Überprüfung der Entscheidung durch eine natürliche Person anbieten. Der einfachste Schritt zur Konformität bleibt, in Prozessen, die Personen betreffen, einen echten menschlichen Entscheid zu behalten — nicht bloss jemanden, der einen Knopf drückt.

Auftragsbearbeiter und Bekanntgaben ins Ausland (Art. 9 und 16)

Ihr KI-Anbieter, der in Ihrem Auftrag Personendaten bearbeitet, ist ein Auftragsbearbeiter. Die Auftragsbearbeitung verlangt einen Vertrag oder eine gesetzliche Grundlage, die Gewissheit, dass der Auftragsbearbeiter die Datensicherheit einhält, und Ihre vorgängige Zustimmung zu jeder Unterbeauftragung (Art. 9 DSG). Prüfen Sie deshalb die geschäftlichen Bedingungen Ihrer Werkzeuge: Ein kostenloses Konto für Privatpersonen bietet diese Garantien selten, und manche Dienste nutzen Ihre Inhalte standardmässig zum Training ihrer Modelle.

Die meisten KI-Werkzeuge hosten die Daten im Ausland. Eine Bekanntgabe von Daten ins Ausland ist nur zulässig, wenn der Zielstaat gemäss der Liste des Bundesrates einen angemessenen Schutz gewährleistet, oder mittels geeigneter Garantien wie Datenschutz-Vertragsklauseln (Art. 16 DSG). Ermitteln Sie den Hosting-Ort jedes Werkzeugs und die Grundlage der Bekanntgabe.

Die häufigen Fehler

Erster Fehler: Daten von Kundschaft oder Mitarbeitenden in ein KI-Werkzeug für Privatpersonen einfügen, ohne Auftragsbearbeitungsvertrag und ohne Konfiguration. Das ist der häufigste Fall, und er häuft die Verstösse: Information (Art. 19), Sicherheit (Art. 8), Auftragsbearbeitung (Art. 9), Bekanntgabe (Art. 16).

Zweiter Fehler: die Ausnahme vom Verzeichnis für eine allgemeine Befreiung zu halten. Die Schwelle von 250 Mitarbeitenden betrifft nur das Verzeichnis nach Art. 12: Information, Sicherheit, Rechte der Personen und DSFA gelten für jedes Unternehmen, ab der ersten Mitarbeiterin oder dem ersten Mitarbeiter.

Dritter Fehler: die Mitarbeitenden vergessen. Auch ihre Daten sind Personendaten; der Einsatz von KI-Werkzeugen, die ihre Tätigkeit auswerten, ist anzukündigen und muss verhältnismässig sein. Vierter Fehler: Auskunftsbegehren ignorieren — jede Person kann verlangen zu erfahren, welche Daten Sie über sie bearbeiten, und die übliche Antwortfrist beträgt 30 Tage (Art. 25 DSG).

Womit anfangen

Vier Schritte in dieser Reihenfolge: die im Unternehmen tatsächlich genutzten KI-Werkzeuge inventarisieren, inoffizielle Nutzungen eingeschlossen; die Datenschutzerklärung aktualisieren (Art. 19); jedes Werkzeug auf Auftragsbearbeitung und Bekanntgabe prüfen (Art. 9 und 16); und die Nutzungen ermitteln, die Entscheidungen über Personen oder ein hohes Risiko betreffen, um Art. 21 und gegebenenfalls die DSFA (Art. 22) zu behandeln.

Die kostenlose Bewertung von AI-Karma, für Schweizer KMU gedacht, deckt diese Punkte in rund fünfzehn Minuten ab und weist Indikator für Indikator auf die anwendbaren rechtlichen Orientierungspunkte hin — DSG wie KI-Verordnung. Berührt Ihre Tätigkeit den europäischen Markt, präzisiert das Modul /aiact, was zu den Schweizer Pflichten hinzukommt, und das Modul /transparence liefert die gebrauchsfertigen Informationshinweise.

Dies ist keine Rechtsberatung. Für heikle oder umfangreiche Bearbeitungen lassen Sie Ihre Analyse von einer spezialisierten Rechtsberatung prüfen.

Häufige Fragen