KI und Datenschutz: Was ist erlaubt?

Was bedeutet Datenschutz beim Einsatz von KI überhaupt?

Künstliche Intelligenz (KI) ist nur so vertrauenswürdig wie der Umgang mit den Daten, die sie verarbeitet. Sobald Sie ein KI-Tool mit Texten, Tabellen oder Kundeninformationen füttern, verlassen diese Daten Ihren direkten Einflussbereich. Datenschutz beim KI-Einsatz heißt deshalb vor allem: zu wissen, wohin Ihre Daten fließen, wer sie verarbeitet und ob sie für das Training weiterer Modelle verwendet werden.

Im B2B-Umfeld kommt es auf drei Fragen an: Gibt es einen klaren Zweck für die Verarbeitung? Existiert eine Rechtsgrundlage nach der Datenschutz-Grundverordnung (DSGVO), die seit dem 25. Mai 2018 europaweit gilt? Und bleibt der Datenfluss kontrolliert? Wer diese drei Punkte sauber beantwortet, kann KI bedenkenlos nutzen; wer sie ignoriert, riskiert Datenpannen und Bußgelder von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes.

Der gute Umgang mit Daten ist dabei kein Hindernis für den KI-Einsatz, sondern seine Voraussetzung. Wer von Anfang an klärt, welche Werkzeuge erlaubt sind und welche Informationen sie verarbeiten dürfen, kann die Vorteile der Technik nutzen, ohne sich später um Verstöße oder verlorenes Vertrauen sorgen zu müssen. So wird aus einem diffusen Risiko ein kalkulierbarer, beherrschbarer Vorgang.

Hinzu kommt eine schlichte, oft übersehene Wahrheit: Datenschutz ist auch ein Vertrauensargument gegenüber Ihren Kunden. Wer belegen kann, dass er sorgsam mit übergebenen Informationen umgeht, gewinnt im Wettbewerb. Gerade im B2B-Geschäft fragen Auftraggeber zunehmend nach, wie ihr Partner mit KI und mit ihren Daten umgeht. Eine durchdachte Antwort darauf ist heute kein lästiges Beiwerk mehr, sondern Teil der Geschäftsgrundlage.

Welche Daten dürfen Sie in ein KI-Tool eingeben?

Die wichtigste Faustregel lautet: Geschäftsdaten gehören nicht in beliebige öffentliche Chatbots. Viele kostenlose KI-Dienste behalten sich vor, Eingaben zu speichern und für die Weiterentwicklung ihrer Modelle zu nutzen. Was Sie dort eingeben, könnte also an anderer Stelle wieder auftauchen oder in fremde Hände geraten.

Achten Sie besonders auf folgende Kategorien, die in der Regel nicht in ungeprüfte Tools gehören:

• Personenbezogene Daten von Kundinnen, Kunden oder Mitarbeitenden
• Vertrags- und Finanzunterlagen
• Passwörter, Zugangsdaten und interne Konfigurationen
• Geschäftsgeheimnisse wie Konstruktionsdaten oder Kalkulationen
• Gesundheits- oder andere besonders schützenswerte Daten nach Artikel 9 DSGVO

Gerade die besonderen Kategorien nach Artikel 9 DSGVO — etwa Gesundheitsdaten, Gewerkschaftszugehörigkeit oder religiöse Überzeugungen — genießen einen besonders strengen Schutz und haben in einem ungeprüften Tool nichts zu suchen. Unkritisch sind dagegen allgemeine Fragen, öffentlich verfügbare Inhalte oder anonymisierte Beispiele, aus denen sich keine Rückschlüsse auf reale Personen ziehen lassen. Wer unsicher ist, ersetzt sensible Stellen vor der Eingabe durch Platzhalter und prüft das Ergebnis anschließend von Hand.

Ein wirksamer Grundsatz lautet: Geben Sie nichts in ein KI-Tool ein, was Sie nicht auch einem fremden Dienstleister ohne Vertrag schicken würden. Diese einfache Eselsbrücke hilft im Alltag mehr als jede lange Liste, weil sie die Verantwortung dort verankert, wo die Entscheidung fällt — beim Menschen vor der Tastatur. Sobald ein Werkzeug nachweislich abgesichert und vertraglich geregelt ist, verschieben sich diese Grenzen entsprechend.

Was verlangt der EU AI Act zusätzlich zur DSGVO?

Seit dem 1. August 2024 gilt mit dem EU AI Act (Verordnung (EU) 2024/1689) erstmals ein eigenes Regelwerk speziell für künstliche Intelligenz. Während die DSGVO regelt, wie mit personenbezogenen Daten umzugehen ist, schreibt der AI Act vor, wie KI-Systeme selbst gestaltet und betrieben werden dürfen. Beide Regelwerke gelten nebeneinander.

Der AI Act teilt Anwendungen in vier Risikoklassen ein: verboten, hochriskant, begrenztes Risiko und minimales Risiko. Bestimmte Praktiken — etwa Social Scoring — sind seit dem 2. Februar 2025 ganz untersagt. Seit demselben Datum gilt die Pflicht zur KI-Kompetenz: Unternehmen müssen dafür sorgen, dass ihre Mitarbeitenden die eingesetzten KI-Werkzeuge angemessen verstehen. Die umfangreicheren Pflichten für Hochrisiko-Systeme greifen gestaffelt bis 2026 und 2027.

Für die meisten Mittelständler liegen die typischen Anwendungen — Textassistenten, Chatbots, Zusammenfassungen — im Bereich begrenztes oder minimales Risiko. Wichtig bleibt vor allem die Transparenzpflicht: Ein KI-Chatbot muss als solcher erkennbar sein, und auch künstlich erzeugte Inhalte sind entsprechend zu kennzeichnen. Wer früh mit einem strukturierten Workshop startet, deckt die Kompetenzanforderung gleich mit ab.

Hochrisiko-Anwendungen — etwa KI in der Personalauswahl oder bei der Kreditvergabe — unterliegen deutlich strengeren Pflichten wie Risikomanagement, Protokollierung und menschlicher Aufsicht. Sollten Sie solche Einsätze planen, lohnt sich eine rechtliche Prüfung vorab. Für den Großteil der alltäglichen Büro-Anwendungen gilt das jedoch nicht; hier genügt ein verantwortungsvoller Umgang mit den Grundregeln.

Wie sicher ist Microsoft 365 Copilot im Vergleich zu öffentlichen Tools?

Microsoft 365 Copilot ist ein gutes Beispiel für eine datenschutzfreundlichere Variante. Hier bleiben die Daten in Ihrem eigenen Microsoft-365-Mandanten, also in dem geschützten Bereich, den Sie ohnehin für E-Mails und Dokumente nutzen. Sie werden nicht zum Training öffentlicher Modelle verwendet und verlassen den abgesicherten Rahmen nicht unkontrolliert.

Wichtig ist allerdings, dass Ihre Berechtigungen sauber gesetzt sind. Copilot greift genau auf das zu, was die jeweilige Person ohnehin sehen darf. Sind Ablagen zu weit freigegeben, fördert das Werkzeug diese Unordnung schnell zutage und macht Inhalte sichtbar, die eigentlich geschützt sein sollten.

Aufräumen vor dem Start ist deshalb die halbe Miete. Wer Berechtigungen und Ablagestrukturen vor der Einführung ordnet, holt nicht nur das Beste aus dem Werkzeug heraus, sondern verbessert ganz nebenbei die Sicherheit der gesamten Microsoft-365-Umgebung. Unabhängig vom gewählten Anbieter gilt: Verarbeitet ein externer Dienst personenbezogene Daten in Ihrem Auftrag, brauchen Sie einen Vertrag zur Auftragsverarbeitung (AVV) nach Artikel 28 DSGVO.

Ein weiterer Punkt verdient Aufmerksamkeit: der Standort der Verarbeitung. Werden Daten außerhalb der EU verarbeitet, etwa auf Servern in einem Drittland, stellt die DSGVO zusätzliche Anforderungen an die Übermittlung. Viele Anbieter bieten inzwischen eine Verarbeitung innerhalb der EU an — eine Option, die Sie nach Möglichkeit nutzen sollten. Bei umfangreicheren oder besonders sensiblen Verarbeitungen kann zudem eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO nötig werden, die die Risiken vorab systematisch bewertet.

Brauchen Sie eine eigene KI-Richtlinie im Unternehmen?

Ja. Eine kurze, verständliche KI-Richtlinie schafft Klarheit und verhindert die meisten Datenpannen, bevor sie entstehen. Sie muss kein dickes Regelwerk sein, oft genügen ein bis zwei Seiten, die festhalten, welche Tools erlaubt sind und welche Informationen hineindürfen.

Eine gute Richtlinie regelt mindestens diese Punkte:

• Freigegebene Werkzeuge: Welche KI-Tools sind erlaubt, welche ausdrücklich nicht?
• Erlaubte Daten: Welche Informationen dürfen eingegeben werden, welche niemals?
• Zuständigkeiten: Wer entscheidet bei Zweifelsfällen und gibt neue Tools frei?
• Meldeweg: Was ist bei Verdacht auf eine Datenpanne zu tun, und an wen wendet man sich?

Entscheidend ist, dass die Richtlinie gelebt wird und nicht in einer Schublade verschwindet. Sie sollte verständlich formuliert sein, regelmäßig an neue Werkzeuge angepasst werden und allen Beteiligten bekannt sein, damit sie im Alltag tatsächlich greift. Die Verantwortung für diesen Rahmen liegt bei der Geschäftsführung.

Ein häufiger Praxisfehler ist die reine Verbotsliste. Wer nur aufzählt, was nicht erlaubt ist, treibt die Mitarbeitenden in die sogenannte Schatten-KI: Sie nutzen heimlich private Tools, weil ihnen keine freigegebene Alternative angeboten wird. Eine gute Richtlinie sagt deshalb immer auch, welches Werkzeug für welchen Zweck erlaubt ist. So lenken Sie den Bedarf in geordnete Bahnen, statt ihn in den Untergrund zu drängen.

Wie schulen Sie Ihre Mitarbeitenden für den sicheren KI-Einsatz?

Technik allein reicht nicht, entscheidend ist, dass die Menschen im Unternehmen wissen, was erlaubt ist und was nicht. Eine kurze Schulung, in der typische Situationen durchgespielt werden, wirkt oft mehr als jedes Verbot, weil sie Verständnis statt bloßer Vorschriften vermittelt. Seit Februar 2025 ist diese KI-Kompetenz durch den EU AI Act sogar verpflichtend.

Vermitteln Sie konkrete, alltagstaugliche Regeln statt abstrakter Paragrafen. Zeigen Sie an echten Beispielen, wie sich sensible Inhalte vor der Eingabe anonymisieren lassen und an wen man sich im Zweifel wendet. So wird sicheres Verhalten Teil der Routine und nicht zur lästigen Ausnahme.

Datenschutz und Sicherheit hängen dabei eng zusammen. Ein gut geschultes Team, aufgeräumte Berechtigungen und freigegebene Werkzeuge sind nicht nur eine Frage der KI, sondern Teil einer soliden IT-Grundordnung — die sich übrigens auch in den IT-Kosten auszahlt, weil sie spätere Datenpannen und deren teure Folgen vermeidet. Wer hier früh investiert, spart sich an anderer Stelle erheblichen Aufwand.

Nicht das Verbot von KI schützt Ihre Daten, sondern Mitarbeitende, die wissen, welche Information wohin gehört.

Wir begleiten Sie gern bei der Einführung, von der Auswahl der passenden Werkzeuge über die Richtlinie bis zur Schulung, damit KI für Sie zum sicheren Helfer statt zum Risiko wird. Wenn Sie KI rechtssicher in Ihrem Betrieb verankern möchten, sprechen Sie uns unverbindlich an.