Low-Risk-KI ist nicht Null-Aufwand: Was der neue KI-Leitfaden des LfDI MV vom Mittelstand erwartet

Der interne Chatbot läuft, Protokolle werden zusammengefasst, Angebotstexte vorformuliert, Tickets vorsortiert. Alles unspektakulär, alles „nur“ begrenztes Risiko. Und genau darin liegt das Problem: Weil niemand ein Hochrisikosystem betreibt, fühlt sich niemand zuständig. Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern hat im Juli 2026 einen Leitfaden veröffentlicht, der genau diese Lücke schließt – kompakter, konkreter und unbequemer, als man es von einer Behördenpublikation erwarten würde.

Eine Lücke, die die KI-Verordnung selbst gerissen hat

Die KI-Verordnung (EU) 2024/1689 legt ihren Schwerpunkt auf Hochrisiko-Systeme – allein die Artikel 6 bis 49 widmen sich dieser Kategorie. Entsprechend adressiert die Mehrzahl der verfügbaren Orientierungshilfen genau diese Systeme, mit dem gesamten Komplexitätsaufwand, der dazugehört. Für ein Unternehmen mit 120 Mitarbeitenden, das einen internen Chatbot einführen will, ist das der falsche Maßstab – und eine unnötig hohe Einstiegshürde. Die Regelungen für KI-Systeme mit begrenztem oder minimalem Risiko sind nämlich überschaubar.

Genau hier setzt der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern (LfDI MV), Sebastian Schmidt, an. Sein Leitfaden „Datenschutzkonformer und digital-souveräner Einsatz von Künstlicher Intelligenz mit beschränktem oder minimalem Risiko“ (Version 1.0, Stand Juli 2026, 33 Seiten) richtet sich ausdrücklich an KMU und kleinere Verwaltungen, bleibt produktneutral, minimiert die rechtlichen Herleitungen auf das für die Nachvollziehbarkeit notwendige Maß – und liefert im Anhang eine abarbeitbare Checkliste. Genannte Beispiele: der datenschutzfreundliche interne Chatbot und Werkzeuge, die Dokumente ordnen und zusammenfassen.

Zur Einordnung, weil das erfahrungsgemäß sofort gefragt wird: Es handelt sich um eine Orientierungshilfe einer Landesaufsichtsbehörde, nicht um ein Gesetz, und der formale Adressatenkreis sitzt in Mecklenburg-Vorpommern. DSGVO und KI-Verordnung gelten allerdings bundes- beziehungsweise unionsweit, und die fachliche Argumentation einer Aufsichtsbehörde ist ein belastbarer Indikator dafür, welche Nachweise im Prüffall erwartet werden. Wer das Papier mit „falsches Bundesland“ beiseitelegt, verzichtet freiwillig auf eine kostenlose Blaupause.

Vier Risikokategorien – und die Einordnung hängt am Anwendungsfall, nicht am Produkt

Die KI-Verordnung definiert Risiko als Kombination aus Eintrittswahrscheinlichkeit und Schwere eines Schadens (Art. 3 Nr. 2). Für die praktische Einordnung wird häufig zwischen vier Risikokategorien unterschieden: verbotenen KI-Praktiken, Hochrisiko-KI, KI-Systemen mit bestimmten Transparenzpflichten und sonstigen KI-Systemen mit geringeren regulatorischen Anforderungen. Der Leitfaden des LfDI MV nutzt diese Vier-Kategorien-Darstellung ebenfalls – ein formales Modell aus vier gleichrangigen gesetzlichen Risikostufen schreibt die Verordnung selbst allerdings nicht vor.

• Verbotene KI-Praktiken: nach Art. 5 untersagt, weil mit den Werten der EU unvereinbar – etwa Social Scoring oder manipulative Systeme.
• Hochrisiko-KI: erfasst über Art. 6 i. V. m. Anhang I und III. Beispiele sind Systeme, die bestimmungsgemäß zur Bewertung von Lernergebnissen oder zur Einstellung und Auswahl natürlicher Personen verwendet werden sollen. Die Artikel 6 bis 49 regeln die zugehörigen Pflichten.
• Besondere Transparenzpflichten: Für bestimmte KI-Systeme sieht die KI-Verordnung besondere Transparenzpflichten nach Art. 50 vor, etwa bei der direkten Interaktion mit natürlichen Personen oder bei bestimmten synthetisch erzeugten Inhalten. In der Praxis – und auch im Leitfaden – werden diese Systeme häufig als „KI mit begrenztem Risiko“ bezeichnet.
• Sonstige KI-Systeme: Fallen Systeme nicht unter spezielle Verbote, Hochrisikoanforderungen oder besondere Transparenzpflichten, bestehen aus dem AI Act grundsätzlich deutlich weniger spezifische Anforderungen; Art. 95 i. V. m. Erwägungsgrund 165 regt einen freiwilligen Verhaltenskodex an. Die KI-Kompetenz nach Art. 4 gilt aber auch hier – und andere gesetzliche wie organisatorische Anforderungen, insbesondere Datenschutz und Informationssicherheit, bleiben davon unberührt.

Der entscheidende Satz steht dazwischen: Die Einordnung hängt vom Einsatzzweck ab. Dasselbe Sprachmodell ist beim Zusammenfassen von Texten regulatorisch weitgehend unauffällig – und im Bewerbungsverfahren zur Auswahl von Personen ein Hochrisikosystem mit dem vollen Pflichtenprogramm der Artikel 6 bis 49. Für die Praxis folgt daraus zweierlei: Bewerten Sie Use Cases, nicht Werkzeuge. Und Schatten-KI ist kein Compliance-Kavaliersdelikt, sondern eine Risikoeinstufung, die niemand vorgenommen hat.

Der Leitfaden räumt an dieser Stelle auch mit einem verbreiteten Missverständnis auf: Nicht jede Form der Automatisierung ist KI im Sinne der Verordnung. Rein regelbasierte Systeme fallen nicht darunter. Präzise Begriffe verhindern beides – übersehene Pflichten und überflüssigen Aufwand.

Anbieter oder Betreiber? Die Rolle entscheidet, nicht das Selbstbild

Art. 3 der KI-Verordnung unterscheidet verschiedene Akteursrollen, darunter Anbieter, Betreiber, Bevollmächtigte, Einführer, Händler und Produkthersteller. Für den Mittelstand besonders relevant sind häufig die Rollen Anbieter und Betreiber. Welche Rolle ein Unternehmen einnimmt, hängt vom konkreten Verhältnis zum KI-System und dessen Einsatz ab. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt – entgeltlich oder unentgeltlich. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, sofern das nicht rein persönlich und nicht beruflich geschieht.

Das Fallbeispiel des Leitfadens macht die Abgrenzung greifbar: Wird ein lokal betriebenes Sprachmodell unverändert genutzt, ist die Betreiber-Rolle einschlägig. Eine Anpassung oder ein Fine-Tuning – etwa auf Fachterminologie, die in allgemeinen Modellen unterrepräsentiert ist – führt nicht automatisch zu einem Rollenwechsel. Entscheidend ist vielmehr, ob dadurch unter den Voraussetzungen der KI-Verordnung insbesondere eine wesentliche Veränderung oder eine relevante Änderung der Zweckbestimmung entsteht oder das System unter eigenem Namen oder eigener Handelsmarke in Verkehr gebracht oder in Betrieb genommen wird. Wer diese Frage nicht beantwortet, weiß nicht, welchen Pflichtenkatalog er eigentlich erfüllen müsste – und das ist gerade bei internen Eigenentwicklungen ein realer Blindflug.

Klärungsbedarf im Haus

Wer bei Ihnen Modelle anpasst, deren Zweckbestimmung verändert, sie brandet oder als Produkt weitergibt – auch kostenlos, auch nur an Konzernschwestern – sollte wissen, dass genau an dieser Stelle Anbieterpflichten beginnen können. Diese Frage gehört vor das Projekt, nicht in das Audit.

Artikel 4 KI-Kompetenz: die Pflicht, die ausnahmslos alle trifft

Unabhängig von der Risikoeinstufung verpflichtet Art. 4 der KI-Verordnung Anbieter und Betreiber, ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Was „ausreichend“ bedeutet, ist kontextabhängig: Es bemisst sich am eingesetzten System, an der Risikoeinstufung und an der Aufgabe des jeweiligen Personals. Je nach Fall geht es um strategische, technische, rechtliche und ethische Kenntnisse ebenso wie um Risikobewusstsein und praktische Anwendungsfertigkeiten.

Aus unserer Projekterfahrung ist das die am häufigsten unterschätzte Pflicht – weil sie sich nicht durch ein Produkt erfüllen lässt. Eine Awareness-Folie im Onboarding ist keine KI-Kompetenz. Nachweisbar wird sie erst durch rollenbezogene Qualifizierung: Geschäftsführung, Fachbereiche, IT-Betrieb und Datenschutzorganisation brauchen unterschiedliche Tiefe – und eine Dokumentation, die zeigt, wer wann was gelernt hat.

Ein Prozess und sechs Maßnahmen: der operative Kern

Der Leitfaden verpackt seine Anforderungen in einen Managementprozess und sechs Maßnahmen. Das ist der Teil, den Sie direkt in Ihre Governance übernehmen können:

• M 0.1 – KI-Managementprozess: ausdrücklich empfohlen, mit dem Ziel optimaler KI-Qualität. Der Leitfaden verweist auf den Datenschutzmanagement-Prozess des Standard-Datenschutzmodells (Abschnitt D4.4) und damit auf einen klassischen Plan-Do-Check-Act-Zyklus. Beauftragte für Datenschutz und Informationssicherheit sowie Betriebs- beziehungsweise Personalrat sind einzubinden, soweit vorhanden. Ändern sich Rechtslage oder Anwendungsfall, beginnt der Zyklus von Neuem.
• M 1.1 – Bestandsaufnahme und Dokumentation: vollständig, mindestens mit funktionalen Anforderungen, verarbeiteten Daten, konkretem Anwendungsfall und – bei personenbezogenen Daten – der Rechtsgrundlage. Für noch nicht dokumentierte Bestandssysteme ist das nachzuholen.
• M 1.2 – Rollenbestimmung: Festlegung der eigenen Rolle nach Art. 3 der KI-Verordnung.
• M 1.3 – Risikoeinstufung: Einordnung im konkreten Anwendungsfall. Die Art.-4-Pflichten zur KI-Kompetenz sind auf allen erlaubten Stufen obligatorisch.
• M 1.4 – Anforderungen nach DSGVO: Rechtsgrundlage und Zweckbindung als Eintrittskarte, danach Umsetzung der Betroffenenrechte entlang des gesamten Lebenszyklus – Design, Entwicklung, Einführung, Betrieb, Ausmusterung. Wichtig: Training, Fine-Tuning oder eine Erweiterung um zusätzliche Datenquellen wie bei RAG-Systemen bringen zusätzliche Risiken mit sich, etwa die Extraktion von Trainingsdaten. Das Training oder Fine-Tuning eines Modells mit personenbezogenen Daten erfordert eine tragfähige datenschutzrechtliche Grundlage und eine eigenständige Prüfung von Zweckbindung, Rechtsgrundlage und weiteren Datenschutzanforderungen.
• M 1.5 – Anforderungen nach KI-Verordnung: Art. 4 immer, für bestimmte KI-Systeme zusätzlich die besonderen Transparenzpflichten nach Art. 50. Die Informationen sind spätestens zum Zeitpunkt der ersten Interaktion klar und eindeutig bereitzustellen und müssen den geltenden Barrierefreiheitsanforderungen entsprechen. Diese Pflichten treten neben die datenschutzrechtlichen.
• M 1.6 – Geeignete technische Umsetzung: Design passend zur Aufgabe, hoher Souveränitätsgrad, hohe Datenqualität, sicherer Betrieb nach BSI-Vorgaben und weiteren Rahmenwerken – und, so der Leitfaden, die Sicherstellung, dass letztinstanzlich der Mensch rechtlich verbindlich agiert. Die konkrete Umsetzung ist zu dokumentieren.

Auf der Datenschutzstrecke gibt der Leitfaden zudem eine klare Reihenfolge vor: Vorabprüfung beziehungsweise Schwellwertanalyse, Bewertung des datenschutzrechtlichen Risikos und – sofern die Voraussetzungen des Art. 35 DSGVO erfüllt sind – Durchführung einer Datenschutz-Folgenabschätzung, dann technische und organisatorische Maßnahmen nach dem Standard-Datenschutzmodell. Nach Einschätzung der Datenschutzkonferenz wird eine DSFA beim Einsatz von KI-Anwendungen vielfach erforderlich sein; im Zweifel wird zur Durchführung geraten. Am Ende stehen die Aufnahme in das Verzeichnis von Verarbeitungstätigkeiten und die Aktualisierung der Datenschutzerklärung – zwei Schritte, die in der Praxis regelmäßig vergessen werden.

Zwei Risikobegriffe, die nicht vermischt werden dürfen

Das datenschutzrechtliche Risiko ist eigenständig vom Risikostatus nach der KI-Verordnung zu bewerten. Eine Hochrisiko-Einstufung nach AI Act führt nicht automatisch zu einer Datenschutz-Folgenabschätzung – und umgekehrt kann eine DSFA nach Art. 35 DSGVO auch dann erforderlich sein, wenn das System nach der KI-Verordnung keiner besonderen Risikokategorie unterfällt.

Digitale Souveränität: deutlich in der Aussage, ehrlich in der Konsequenz

Beim Betriebsmodell wird der Leitfaden ungewohnt konkret: Mit Blick auf die volle Kontrolle über System und Daten und eine möglichst geringe Abhängigkeit von Dritten sei der interne Betrieb dem externen Cloud-Betrieb vorzuziehen; für den Cloud-Fall wird auf den BSI-Grundschutzbaustein OPS.2.2 verwiesen.

Bemerkenswert ist, dass die Behörde nicht bei dieser Empfehlung stehen bleibt. Der Betrieb eines KI-Systems kann schnell ressourcenaufwändig werden; Vertretungssicherheit und teils notwendiges Spezialwissen bringen kleinere Organisationen an die Leistungsgrenze. Dann sei im Hinblick auf einen sicheren Betrieb die Beauftragung eines externen Dienstleisters zu bevorzugen. Mit zwei Einschränkungen, die man sich rot anstreichen sollte: Eine vollständige Entlastung gibt es nicht – Ressourcen müssen gebucht, Verträge verwaltet, sich ändernde Bedarfe einem Change Management zugeführt und Cloud-Strategie sowie Sicherheitsrichtlinien aktuell gehalten werden. Und die Rolle des Verantwortlichen bleibt in der Organisation. Sie geht nicht auf den Dienstleister über.

Das ist der wirtschaftlich relevante Punkt: Souveränität ist kein Deployment-Modell, sondern eine Frage der Kontrolle – und Kontrolle setzt Betriebsfähigkeit voraus. Wer on-premises betreibt, aber Patch-, Rechte- und Notfallprozesse nicht dauerhaft stemmt, hat am Ende weniger Souveränität als eine Organisation mit klaren Verträgen, europäischem Rechtsrahmen und funktionierendem Change Management. Die richtige Frage lautet nicht „intern oder Cloud“, sondern: Welche Kontrollpunkte müssen bei uns bleiben, und welche können wir vertraglich und technisch nachweisbar delegieren?

Prioritär ist für den LfDI MV der Ausschluss einer Einflussnahme durch Drittstaaten, weil andernfalls die Aushebelung europäischen Rechts droht – und das betrifft personenbezogene wie proprietäre Daten gleichermaßen. Anbieter, die sicher ausschließlich dem europäischen Rechtsrahmen unterliegen, sind vorzuziehen. Open-Source-Lösungen, offene Schnittstellen und offene Formate gelten als integraler Baustein größtmöglicher digitaler Souveränität, weil sie kritische Abhängigkeiten von einzelnen Herstellern minimieren. Ergänzend verweist der Leitfaden auf die DSK-Kriterien für Souveräne Clouds.

Der unbequeme Realitätscheck: KI-Qualität vor KI-Aktionismus

Der Leitfaden führt eine MIT-Studie aus dem Jahr 2025 an, nach der 95 Prozent der Unternehmen, die in die Integration generativer KI investiert haben, nicht hinreichend erfolgreich sind – wobei der Erfolg erheblich vom gewählten Ansatz abhängt. Nicht jeder pauschale Einsatz generativer KI führt zu einer hinreichenden KI-Qualität.

Unter KI-Qualität versteht der Leitfaden den Grad, in dem ein System zuverlässig, sicher, fair und im Einklang mit fachlichen, ethischen und regulatorischen Anforderungen funktioniert – es geht also nicht nur um technische Leistungsfähigkeit, sondern um Vertrauenswürdigkeit und Robustheit. Daraus folgen drei Aussagen, die jede KI-Roadmap im Mittelstand prüfen sollte:

• Allgemeine generative KI liefert in fachlichen Nischen und auf proprietären Daten seltener brauchbare Ergebnisse als spezialisierte Ansätze – besonders dann, wenn diese Daten in der Trainingsmenge unterrepräsentiert waren. RAG-Systeme sind ein Lösungsweg, Wissensgrafen wie GraphRAG oder KAG die Weiterentwicklung.
• Datenqualität ist keine Nebenbedingung, sondern Voraussetzung. Ziel ist die Vermeidung von Bias und daraus resultierender Diskriminierung.
• Auch gut funktionierende KI-Systeme sind nicht zwingend fehlerfrei. Wo KI-Ergebnisse in Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung natürlicher Personen einfließen, sind insbesondere die Anforderungen des Art. 22 DSGVO zu prüfen. Je nach Anwendungsfall können wirksame menschliche Kontroll- und Eingriffsmöglichkeiten erforderlich sein; der Leitfaden formuliert als Grundsatz, dass letztinstanzlich der Mensch rechtlich verbindlich agieren sollte.

Übersetzt in die Sprache der Geschäftsführung: Der teuerste KI-Fehler ist nicht das Bußgeld, sondern das Projekt, das nach zwölf Monaten keine belastbaren Ergebnisse liefert, weil Anwendungsfall und Architektur nicht zueinander passten.

KI-Agenten: der Anhang, den Sie zuerst lesen sollten

Der Anhang A2 ist der aktuellste und aus Sicherheitssicht der brisanteste Teil des Dokumentes. KI-Agenten grenzen sich von bisherigen Lösungen durch operative Autonomie und stärkere Personalisierung ab – und vereinen laut Leitfaden drei kritische Eigenschaften, die zusammen als „tödliche Dreifaltigkeit“ bezeichnet werden:

1. Zugriff auf private beziehungsweise interne Daten
2. Zugriff auf nicht vertrauenswürdige Inhalte im Internet
3. autonome Fähigkeit zur externen Kommunikation

Die Bewertung ist bemerkenswert unjuristisch formuliert und dafür sehr klar: Der LfDI MV bewertet ungemanagte KI-Agenten als nicht sicher und als nicht kalkulierbares Risiko. Es solle essenzielles Eigeninteresse jeder Organisation sein, solche Agenten nicht einzusetzen.

Ergänzt wird das durch sechs Angriffsmuster aus einer systematischen Untersuchung (Franklin et al., März 2026): verborgene Befehle in HTML-Code oder Multimedia, die Menschen nicht wahrnehmen, Agenten aber auswerten und ausführen; besondere Formulierungen wie Übertreibungen oder Emotionen, denen der Agent überhöhte Relevanz zumisst; verfälschte Fakten in der Wissensbasis, die als bestätigt behandelt werden; Missbrauch von Agentenfähigkeiten zur Erstellung und Ausführung von Schadcode oder zur Extraktion sensibler Informationen aus dem internen Netz; die Manipulation ganzer Agentennetzwerke, weil aktuelle Agenten sehr ähnlich aufgebaut und untereinander vernetzt sind; und schließlich die Manipulation des Menschen selbst, etwa durch eine Welle automatisiert erzeugter Informationen, die zu einer Fehlentscheidung drängt.

Wer diese Liste liest und daneben sein Berechtigungskonzept legt, sieht das Problem sofort. Der Leitfaden zieht die naheliegende Konsequenz: Standardkonfigurationen nach der Installation sind grundsätzlich zu prüfen und gegebenenfalls nachzuschärfen. Ein zu freizügiger Umgang mit Zugriffsrechten oder ein gänzlich freier Zugang zu den Daten der Organisation ist ein kaum beherrschbares Sicherheitsrisiko. Prompt Injection ist kein neues Thema – aber mit Agenten wird aus einem Ausgabefehler ein Handlungsfehler. Dass sich europäische Aufsichtsbehörden bereits gesondert mit Agentic AI befassen, unterstreicht die Richtung.

Praxistest für Ihre Agenten-Pilotierung

Kann der Agent interne Daten lesen, externe Inhalte verarbeiten und selbstständig nach außen kommunizieren? Wenn Sie dreimal ja sagen, brauchen Sie vor dem Rollout ein Rechte- und Rollenkonzept, Protokollierung und dokumentierte menschliche Kontroll- und Eingriffsmöglichkeiten – keine weitere Demo.

Der Fahrplan: acht Schritte, mit denen Sie diese Woche starten können

Die Checkliste im Anhang A1 lässt sich in eine schlanke Reihenfolge übersetzen:

1. Managementprozess aufsetzen. Ohne einen Prozess, der zumindest Rechtskonformität sicherstellt, beginnt nach der Checkliste nichts anderes.
2. Bestand aufnehmen – inklusive Schatten-KI. Was läuft heute, wer hat es eingeführt, mit welchen Daten?
3. Anwendungsfall präzise benennen. Nicht „KI im Vertrieb“, sondern „Zusammenfassung eingehender Kundenmails ohne automatisierte Entscheidung“.
4. Prüfen, ob die KI-Verordnung überhaupt greift. Regelbasierte Automatisierung ist kein KI-System.
5. Rolle bestimmen. Betreiber, Anbieter – oder eine Rolle, die der Leitfaden nicht abdeckt und die gesondert betrachtet werden muss.
6. Risiko einstufen. Höchstens begrenzt? Dann trägt der Leitfaden. Hoch? Dann brauchen Sie ein anderes, deutlich umfangreicheres Vorgehen.
7. Datenschutzstrecke abarbeiten. Rechtsgrundlage, bei besonderen Kategorien nach Art. 9 DSGVO die strengeren Voraussetzungen, Schwellwertanalyse, bei Vorliegen der Voraussetzungen des Art. 35 DSGVO eine DSFA, TOM, Verzeichnis von Verarbeitungstätigkeiten, Datenschutzerklärung.
8. Pflichten operativ verankern. KI-Kompetenz nachweisbar aufbauen, Transparenzhinweise nach Art. 50 umsetzen, technische Umsetzung dokumentieren – und den Zyklus terminiert wiederholen.

Ein Hinweis, den der Leitfaden selbst gibt und den wir gern weitergeben: Er hat einen bewusst engen Fokus. Weitere Anforderungen aus anderen Normen – in der Praxis häufig NIS-2, branchenspezifische Vorgaben oder Anforderungen aus dem Lieferantenmanagement – sind gesondert zu prüfen.

AI-Governance ist eine Schlüsselkompetenz

Dr. Faranak Yazdani, Lead Consultant AI Governance bei enthus, ordnet den Leitfaden so ein:

„Künstliche Intelligenz ist längst im Unternehmensalltag angekommen – vom internen Chatbot bis zur Unterstützung bei Texten und Prozessen. Doch auch KI-Systeme mit begrenztem oder minimalem Risiko müssen rechtlich und organisatorisch sauber eingebettet werden. Der Leitfaden macht deutlich: Auch Low-Risk-KI braucht klare Strukturen und Verantwortlichkeiten. Ein strukturierter KI-Managementprozess hilft dabei, Anforderungen aus Datenschutz, Informationssicherheit und dem AI Act in einer konsistenten Governance-Struktur zusammenzuführen. Für Unternehmen, die ihre KI-Nutzung systematisch und dauerhaft steuern wollen, lässt sich dieser Ansatz zudem an ein AI Management System nach ISO/IEC 42001 anschließen – etwa durch die systematische Verankerung von Rollen, KI-Risikomanagement, Kompetenz, operativer Steuerung, Monitoring und kontinuierlicher Verbesserung.“

Wo enthus ansetzt

Datenschutz und AI Governance gehören von Anfang an zusammengedacht – nicht nacheinander abgearbeitet. Konkret unterstützen wir Sie an vier Stellen:

• Datenschutzrechtliche Bewertung von KI-Anwendungen: Prüfung von Rechtsgrundlagen und Datenverarbeitungen, Schwellwertanalyse und Datenschutz-Folgenabschätzung, Umsetzung geeigneter Maßnahmen. Auf Wunsch übernehmen wir die Funktion als externer Datenschutzbeauftragter.
• AI Governance: Einordnung nach dem AI Act, Aufbau geeigneter Governance-Strukturen sowie Definition klarer Rollen, Verantwortlichkeiten und Prozesse – anschlussfähig an ein bestehendes Managementsystem für Datenschutz (ISO 27701) oder Informationssicherheit (ISO 27001, BSI IT-Grundschutz).
• KI-Kompetenz nach Art. 4: rollenbezogene Qualifizierung über die enthus Academy und unsere E-Learning-Plattform – von der Sensibilisierung aller Mitarbeitenden bis zu Vertiefungsseminaren für Datenschutz- und Informationssicherheitsbeauftragte, dokumentiert und damit nachweisbar.
• Technische Absicherung und Use-Case-Klarheit: vom Copilot for Microsoft 365 Workshop über die Microsoft M365 Tenant Analyse und Berechtigungskonzepte bis zum Cyber Security Assessment. Und wenn Sie den Reifegrad zuerst messen wollen: Im Rahmen eines Workshops ermitteln wir Ihren Schutzbedarf per GAP-Analyse, etwa gegen ISO 27001 oder ISO 27701, und leiten gemeinsam Maßnahmen ab.

Häufige Fragen

Was bedeutet „KI mit begrenztem Risiko“?

Der Begriff ist eine praktische Kategorie, keine eigene gesetzliche Risikostufe. Gemeint sind KI-Systeme, für die die KI-Verordnung besondere Transparenzpflichten nach Art. 50 vorsieht – etwa bei der direkten Interaktion mit natürlichen Personen oder bei bestimmten synthetisch erzeugten Inhalten. Typische Beispiele sind Chatbots. Fallen Systeme unter keine dieser Kategorien, sind die spezifischen Anforderungen aus dem AI Act deutlich geringer; die KI-Kompetenz nach Art. 4 gilt jedoch weiterhin, und Datenschutz- sowie Informationssicherheitsanforderungen bleiben unberührt.

Gilt der Leitfaden des LfDI MV auch außerhalb von Mecklenburg-Vorpommern?

Formal richtet sich der Leitfaden an Organisationen in Mecklenburg-Vorpommern und ist eine Orientierungshilfe, kein Gesetz. Die zugrunde liegenden Rechtsakte – DSGVO und KI-Verordnung – gelten jedoch bundes- beziehungsweise unionsweit. Der Leitfaden ist damit auch für Unternehmen in anderen Bundesländern eine gut nutzbare Strukturhilfe, ersetzt aber keine Prüfung der für Sie zuständigen Aufsichtsbehörde und keine Rechtsberatung.

Brauche ich für einen internen Chatbot eine Datenschutz-Folgenabschätzung?

Das hängt vom Ergebnis der Vorabprüfung und den Voraussetzungen des Art. 35 DSGVO ab – und ist unabhängig von der Risikoeinordnung nach der KI-Verordnung zu beurteilen. Der Leitfaden sieht für sein Fallbeispiel eines internen Chatbots mit lesendem Zugriff auf Kundendaten kein hohes datenschutzrechtliches Risiko und damit keine DSFA-Pflicht. Gleichzeitig verweist er darauf, dass eine DSFA nach Einschätzung der Datenschutzkonferenz beim Einsatz von KI-Anwendungen vielfach erforderlich sein wird – im Zweifel wird zur Durchführung geraten.

Wer muss KI-Kompetenz nachweisen?

Anbieter und Betreiber von KI-Systemen, unabhängig von der Risikoeinstufung. Der erforderliche Umfang ist kontextabhängig und richtet sich nach System, Risiko und Aufgabe der jeweiligen Person – von strategischen über technische, rechtliche und ethische Kenntnisse bis zu Risikobewusstsein und praktischen Anwendungsfertigkeiten.

Reicht es, KI-Tools im Unternehmen einfach zu verbieten?

In der Praxis selten. Verbote verlagern die Nutzung in den unkontrollierten Bereich – und Schatten-KI ist genau das, was der Leitfaden mit seiner Forderung nach vollständiger Bestandsaufnahme adressiert. Wirksamer ist der umgekehrte Weg: erlaubte Anwendungsfälle definieren, dokumentieren, Kompetenz aufbauen und den Rest technisch begrenzen.

Sprechen Sie uns für weitere Details, eine Beratung oder ein Expertengespräch gerne auch direkt an oder wenden Sie sich formlos an hallo@enthus.de.