Liebe Leser, herzlich willkommen zur ersten Antwort im Fall 1 des LPT: Die Überwachungskameras von Lüritz
Wir haben Gemini-Exp-1206, eine führende Version von Googles KI-Modellen, am 06.01.2025 auf die juristische Probe gestellt. Über die KI-Plattform lmarena.ai ließen wir das KI-Modell mit den Parametern Temperatur 0,7 und Top P 0,7 zur Beantwortung antreten.
Die Parameter "Temperatur" und "Top P" steuern die Zufälligkeit und Vorhersehbarkeit bei der Textgenerierung. Die Temperatur, hier auf 0,7 eingestellt, fungiert als Kreativitätsregler: Höhere Werte fördern ungewöhnlichere Wortwahlen, niedrigere Werte führen zu konservativeren Ergebnissen. Ein Wert von 0,7 bietet einen Mittelweg zwischen Kreativität und Vorhersehbarkeit. Top P, ebenfalls auf 0,7 gesetzt, wirkt als Fokusregler und bestimmt den Anteil der wahrscheinlichsten Wörter, die das Modell berücksichtigt. Hier werden nur jene Wörter in Betracht gezogen, die zusammen 70% der Wahrscheinlichkeitsmasse ausmachen. Zusammen ermöglichen diese Einstellungen eine ausgewogene Antwortqualität, die sowohl Kreativität als auch Kohärenz gewährleistet.
Das KI-Modell wurde zunächst mit dem Sachverhalt konfrontiert und durfte jede Frage einzelnd bis zur maximalen Output-Token-Grenze von 4096 seine Antwort ausformulieren. So wollten wir herausfinden, wie weit die KI im juristischen Diskurs gehen kann. Denn je mehr Output Token zur Verfügung stehen, umso detaillierter fallen die Antworten aus. Beurteilen Sie selbst, wie gut sie das Ergebnis halten. Die Antwort gilt als Referenzwert für zukünftige Forschungen.
---
Antwort zu Frage 1 des 1. Falls des LPT (Lüritz-Parchwigslust-Test)
Frage 1: Ist die Einführung des KI-gestützten Videoüberwachungssystems mit Gesichtserkennung im Landkreis Lüritz nach geltendem Recht, insbesondere unter Berücksichtigung der DSGVO, des BDSG, des Sicherheits- und Ordnungsgesetzes Mecklenburg-Vorpommern (SOG M-V) und der Rechtsprechung des Bundesverfassungsgerichts sowie des Landesverfassungsgerichts Mecklenburg-Vorpommern, zulässig?
Antwort:
Die Einführung des KI-gestützten Videoüberwachungssystems mit Gesichtserkennung im Landkreis Lüritz ist mit sehr hoher Wahrscheinlichkeit rechtswidrig. Sie verstößt gegen geltendes Recht, insbesondere gegen die Datenschutz-Grundverordnung (DSGVO), das Bundesdatenschutzgesetz (BDSG), das Sicherheits- und Ordnungsgesetz Mecklenburg-Vorpommern (SOG M-V) und die Rechtsprechung des Bundesverfassungsgerichts sowie des Landesverfassungsgerichts Mecklenburg-Vorpommern.
Begründung:
1. Datenschutz-Grundverordnung (DSGVO):
* Die geplante Videoüberwachung mit Gesichtserkennung beinhaltet die Verarbeitung biometrischer Daten zum Zwecke der eindeutigen Identifizierung natürlicher Personen. Biometrische Daten sind gemäß Art. 4 Nr. 14 DSGVO "mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen, physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, die die eindeutige Identifizierung dieser natürlichen Person ermöglichen oder bestätigen, wie Gesichtsbilder oder daktyloskopische Daten". Die von der "Fischkopp-IT GmbH" entwickelte Software fällt zweifellos unter diese Definition, da sie Gesichtsbilder verwendet, um Personen zu identifizieren.
* Gemäß Art. 9 Abs. 1 DSGVO ist die Verarbeitung solcher biometrischer Daten grundsätzlich untersagt. Dieses Verbot reflektiert die besondere Sensibilität biometrischer Daten und die mit ihrer Verarbeitung verbundenen Risiken für die Grundrechte und Grundfreiheiten natürlicher Personen.
* Eine Ausnahme nach Art. 9 Abs. 2 DSGVO ist im vorliegenden Fall nicht ersichtlich. Insbesondere:
* Einwilligung (Art. 9 Abs. 2 lit. a DSGVO): Eine pauschale Einwilligung aller Bürger und Besucher des Landkreises ist weder praktisch umsetzbar noch wäre sie "freiwillig" im Sinne der DSGVO. Freiwilligkeit setzt voraus, dass die betroffene Person eine echte Wahl hat und nicht unter Druck gesetzt wird. Angesichts des erheblichen Machtungleichgewichts zwischen dem Landkreis als öffentlicher Stelle und den betroffenen Personen sowie der Bedeutung des öffentlichen Raums für die freie Entfaltung der Persönlichkeit ist eine "freiwillige" Einwilligung in die flächendeckende Überwachung mit Gesichtserkennung kaum vorstellbar. Zudem wäre eine solche Einwilligung jederzeit widerruflich, was die Planungssicherheit für den Landkreis in Frage stellt.
* Erhebliches öffentliches Interesse (Art. 9 Abs. 2 lit. g DSGVO): Ein "erhebliches öffentliches Interesse" an der flächendeckenden Überwachung des öffentlichen Raums mit Gesichtserkennung ist angesichts der relativ geringen Kriminalitätsbelastung (Fahrraddiebstähle, Ruhestörungen) und der hohen Eingriffsintensität in das Recht auf informationelle Selbstbestimmung nicht gegeben. Die Rechtsprechung, insbesondere des Europäischen Gerichtshofs (EuGH), legt hohe Hürden an die Annahme eines "erheblichen öffentlichen Interesses". Es müssen gewichtige Gründe vorliegen, die den schwerwiegenden Eingriff in die Grundrechte rechtfertigen. Die Verhinderung von Fahrraddiebstählen und Ruhestörungen, so ärgerlich sie auch sein mögen, erreicht diese Schwelle nicht. Der EuGH hat in seiner Rechtsprechung zur Vorratsdatenspeicherung (vgl. EuGH, Urteile vom 21. Dezember 2016, C-203/15 und C-698/15, Tele2 Sverige und Watson) betont, dass nur die Bekämpfung schwerer Kriminalität, wie z.B. Terrorismus, ein "erhebliches öffentliches Interesse" begründen kann.
* Darüber hinaus verstößt die geplante Überwachung gegen die Grundsätze der Datenverarbeitung nach Art. 5 DSGVO, insbesondere gegen:
* Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz (Art. 5 Abs. 1 lit. a DSGVO): Die Rechtmäßigkeit ist, wie dargelegt, nicht gegeben. Die Verarbeitung ist auch nicht transparent, da die Funktionsweise der Software und die genauen Kriterien für die Identifizierung von Personen unklar sind.
* Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO): Die Zwecke der Verarbeitung (Verhinderung und Verfolgung von Fahrraddiebstählen und Ruhestörungen) sind zu weit gefasst und rechtfertigen nicht den Einsatz von Gesichtserkennung. Die erhobenen Daten dürfen nur für die festgelegten Zwecke verwendet werden und nicht für andere, mit diesen Zwecken nicht zu vereinbarende Zwecke.
* Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO): Die Verarbeitung biometrischer Daten ist für die angegebenen Zwecke nicht erforderlich. Es gibt weniger einschneidende Mittel, um die genannten Ziele zu erreichen (z.B. verstärkte Polizeipräsenz, herkömmliche Videoüberwachung ohne Gesichtserkennung).
* Richtigkeit (Art. 5 Abs. 1 lit. d DSGVO): Die unklare Trefferquote der Software und die damit verbundene Gefahr von "false positives" stehen der Richtigkeit der Daten entgegen. Unzutreffende Daten können zu ungerechtfertigten Maßnahmen gegen unschuldige Personen führen.
* Speicherbegrenzung (Art. 5 Abs. 1 lit. e DSGVO): Die vorgesehene Speicherung der Daten von "polizeibekannten Straftätern", auch bei Bagatelldelikten, ist unverhältnismäßig und verstößt gegen den Grundsatz der Speicherbegrenzung. Die Daten dürfen nur so lange gespeichert werden, wie es für die Erreichung der Verarbeitungszwecke erforderlich ist.
2. Bundesdatenschutzgesetz (BDSG):
* § 4 BDSG regelt die Videoüberwachung öffentlich zugänglicher Räume. Eine offene Videoüberwachung ist nur zulässig, soweit sie zur Aufgabenerfüllung öffentlicher Stellen, zur Wahrnehmung des Hausrechts oder zur Wahrnehmung berechtigter Interessen für konkret festgelegte Zwecke erforderlich ist und keine Anhaltspunkte bestehen, dass schutzwürdige Interessen der Betroffenen überwiegen.
* Die im Sachverhalt geschilderte Videoüberwachung mit Gesichtserkennung geht weit über eine "normale" Videoüberwachung hinaus. Sie stellt eine neue Qualität der Überwachung dar, da sie die automatisierte Identifizierung von Personen im öffentlichen Raum ermöglicht.
* Die Erforderlichkeit der Gesichtserkennung ist angesichts der unklaren Trefferquote und der Verfügbarkeit weniger eingriffsintensiver Mittel (z.B. verstärkte Polizeipräsenz, herkömmliche Videoüberwachung ohne Gesichtserkennung) zweifelhaft. Eine Maßnahme ist erforderlich, wenn es kein milderes Mittel gibt, das den angestrebten Zweck mit gleicher Wirksamkeit erreichen kann.
* Zudem überwiegen die schutzwürdigen Interessen der Betroffenen, da die Gesichtserkennung einen massiven Eingriff in das Recht auf informationelle Selbstbestimmung darstellt. Dieses Grundrecht, das aus Art. 2 Abs. 1 in Verbindung mit Art. 1 Abs. 1 GG abgeleitet wird, schützt das Recht des Einzelnen, grundsätzlich selbst über die Preisgabe und Verwendung seiner personenbezogenen Daten zu bestimmen. Die flächendeckende Überwachung des öffentlichen Raums mit Gesichtserkennung führt zu einer ständigen Überwachungssituation, die das Verhalten der Bürger beeinflussen und zu einer Einschränkung der freien Entfaltung der Persönlichkeit führen kann ("Chilling Effect").
* Darüber hinaus besteht die Gefahr des Missbrauchs und der Diskriminierung (siehe Antwort zu Frage 2). Die unklare Funktionsweise der Software und die mangelnde Transparenz erhöhen das Risiko, dass die Technologie für andere Zwecke als die angegebenen eingesetzt wird.
3. Sicherheits- und Ordnungsgesetz Mecklenburg-Vorpommern (SOG M-V):
* Das SOG M-V enthält in den §§ 27 ff. Regelungen zur Datenerhebung, einschließlich der Bildaufnahme und -aufzeichnung. Diese Vorschriften konkretisieren die Anforderungen des Grundgesetzes und der DSGVO für den Bereich der Gefahrenabwehr in Mecklenburg-Vorpommern.
* Eine offene Bildaufnahme und -aufzeichnung ist nach § 28 Abs. 1 SOG M-V nur zur Abwehr einer gegenwärtigen Gefahr oder zur Verfolgung von Straftaten von erheblicher Bedeutung zulässig.
* Eine gegenwärtige Gefahr liegt gemäß § 3 Abs. 4 SOG M-V vor, wenn die Einwirkung des schädigenden Ereignisses bereits begonnen hat oder unmittelbar oder in allernächster Zeit mit einer an Sicherheit grenzenden Wahrscheinlichkeit bevorsteht. Die bloße Möglichkeit von Fahrraddiebstählen und Ruhestörungen, wie sie im Sachverhalt geschildert wird, begründet keine gegenwärtige Gefahr. Es fehlt an konkreten Anhaltspunkten für eine unmittelbar bevorstehende Gefahr für die öffentliche Sicherheit.
* Auch die Verfolgung von Straftaten von erheblicher Bedeutung liegt hier nicht vor. Die im Sachverhalt genannten Delikte (Fahrraddiebstahl, Ruhestörung) sind keine Straftaten von erheblicher Bedeutung im Sinne des § 28 Abs. 1 SOG M-V. Dieser Begriff ist eng auszulegen und umfasst nur schwere Straftaten, die den Rechtsfrieden in besonderem Maße stören, wie z.B. Mord, Totschlag, Raub oder schwere Körperverletzung.
* Selbst wenn man das Vorliegen einer gegenwärtigen Gefahr oder die Verfolgung von Straftaten von erheblicher Bedeutung bejahen würde, wäre die flächendeckende Videoüberwachung mit Gesichtserkennung unverhältnismäßig. Sie wäre weder geeignet noch erforderlich noch angemessen, um die genannten Ziele zu erreichen.
4. Rechtsprechung:
* Das Bundesverfassungsgericht (BVerfG) hat in mehreren Entscheidungen (insb. zum "Großen Lauschangriff", zur automatisierten Kennzeichenerfassung und zur Vorratsdatenspeicherung) strenge Anforderungen an die Verhältnismäßigkeit von Überwachungsmaßnahmen gestellt. Es hat wiederholt betont, dass Eingriffe in das Recht auf informationelle Selbstbestimmung nur unter engen Voraussetzungen zulässig sind und einer strengen Verhältnismäßigkeitsprüfung unterliegen.
* In seiner Entscheidung zum "Großen Lauschangriff" (BVerfG, Urteil vom 3. März 2004 - 1 BvR 2378/98, 1 BvR 1084/99) hat das BVerfG klargestellt, dass der Staat nicht unterschiedslos und flächendeckend in die Privatsphäre der Bürger eingreifen darf.
* In der Entscheidung zur automatisierten Kennzeichenerfassung (BVerfG, Urteil vom 11. März 2008 - 1 BvR 2074/05, 1 BvR 582/06) hat das Gericht betont, dass die Erfassung und Speicherung von Kfz-Kennzeichen einen Eingriff in das Recht auf informationelle Selbstbestimmung darstellt und nur zulässig ist, wenn sie zur Abwehr einer konkreten Gefahr oder zur Verfolgung von Straftaten von erheblicher Bedeutung erforderlich ist.
* In der Entscheidung zur Vorratsdatenspeicherung (BVerfG, Urteil vom 2. März 2010 - 1 BvR 256/08, 1 BvR 263/08, 1 BvR 586/08) hat das Gericht die anlasslose Speicherung von Telekommunikationsverkehrsdaten für verfassungswidrig erklärt, da sie einen unverhältnismäßigen Eingriff in das Fernmeldegeheimnis und das Recht auf informationelle Selbstbestimmung darstellt.
* Eine flächendeckende und anlasslose Videoüberwachung mit Gesichtserkennung, wie sie im Landkreis Lüritz geplant ist, dürfte diesen Anforderungen nicht genügen. Das BVerfG betont stets die besondere Bedeutung des Rechts auf informationelle Selbstbestimmung und die Notwendigkeit einer strengen Verhältnismäßigkeitsprüfung bei Eingriffen in dieses Recht. Die anlasslose, permanente Überwachung des öffentlichen Raums mittels einer Technologie, die eine eindeutige Identifizierung von Personen ermöglicht, wiegt besonders schwer und ist nur unter außergewöhnlichen Umständen zu rechtfertigen.
* Das Landesverfassungsgericht Mecklenburg-Vorpommern hat sich in seiner Rechtsprechung den Grundsätzen des Bundesverfassungsgerichts angeschlossen und die Bedeutung des Grundrechtsschutzes im Kontext von Überwachungsmaßnahmen betont. Es hat in mehreren Entscheidungen die Verfassungsmäßigkeit von landesrechtlichen Regelungen zur Videoüberwachung überprüft und dabei strenge Maßstäbe angelegt (vgl. z.B. LVerfG M-V, Urteil vom 23. Mai 2007 - LVerfG 2/06, LVerfG 3/06).
Fazit:
Die geplante Einführung des KI-gestützten Videoüberwachungssystems mit Gesichtserkennung im Landkreis Lüritz ist nach geltendem Recht mit hoher Wahrscheinlichkeit rechtswidrig. Sie verstößt gegen die DSGVO, das BDSG, das SOG M-V und die grundrechtlichen Vorgaben der Verfassungsgerichte. Die hohe Eingriffsintensität der Gesichtserkennungstechnologie steht in keinem verhältnismäßigen Verhältnis zu den verfolgten Zielen der Verhinderung von Fahrraddiebstählen und Ruhestörungen. Die flächendeckende und anlasslose Überwachung des öffentlichen Raums mit einer Technologie, die eine biometrische Identifizierung von Personen ermöglicht, greift tief in das Recht auf informationelle Selbstbestimmung ein und ist mit den Grundsätzen einer freiheitlich-demokratischen Gesellschaft nicht vereinbar. Die unklare Funktionsweise der Software, die fragwürdige Datenbank "polizeibekannter Straftäter" und das Diskriminierungsrisiko verstärken die rechtlichen Bedenken zusätzlich.
---
Bewertung
Die gegebene Antwort ist bereits eine brauchbare juristische Analyse der Zulässigkeit eines KI-gestützten Videoüberwachungssystems. Sie zeigt ein Verständnis der relevanten Rechtsnormen und der einschlägigen Rechtsprechung auf. Die Argumentation ist schlüssig und stets auf den konkreten Sachverhalt bezogen und berücksichtigt die spezifischen Gegebenheiten des Landkreises Lüritz, wie z.B. die relativ geringe Kriminalitätsbelastung und die touristische Bedeutung der Region. Der abschreckende Effekt auf die freie Entfaltung der Persönlichkeit durch die permanente Überwachung könnte noch etwas stärker betont werden. Dass die hohe Eingriffsintensität in keinem Verhältnis zu den verfolgten Zielen steht, wurde auch zutreffend durch das KI-Modell erkannt. Die Urteile des Bundesverfassungsgerichts sind überwiegend korrekt zitiert - beim Kenzeichenerfassungs-Urteil ist das zweite angegebene Aktenzeichen falsch, dieses lautet richtig: 1 BvR 1254/07. Inhaltlich sind die strengen Vorgaben an die Verhältnismäßigkeit jedoch - soweit nach summarischer Prüfung ersichtlich - korrekt wiedergegeben worden.
Erfahrungsgemäß haben KI-Modelle beim richtigen Zitieren von Normen und der Authentizität der angegebenen Entscheidungen bislang erhebliche Schwierigkeiten gehabt und neigten gerne zum Halluzinieren. Auch die Datumsangabe und das richtige Aktenzeichen stellte die "Künstliche Intelligenz" häufig vor Probleme. Wie hier gesehen, sind diese Probleme gegenwärtig immer noch anzutreffen, allerdings haben die führenden KI-Modelle erhebliche Fortschritte erzielt.
Nicht von der Aufgabenstellung umfasst, zum Verständnis der juristischen Problematik für die Leser aber wichtig, ist noch der EU AI Act ergänzend zu erwähnen, welcher nunmehr den Bereich der biometrischen Fernidentifizierung ebenso regelt. Dieser Komplex wird jedoch in Frage 4 gesondert behandelt.
Möglicherweise problematisch ist der Verweis auf das angegebene Urteil des LVerfG M-V. Das Urteil war in der im Internet verfügbaren Entscheidungssammlung des LVerfG M-V nicht zu finden und konnte nicht überprüft werden.