Wir haben Gemini-Exp-1206, eine führende Version von Googles KI-Modellen, am 06.01.2025 auf die juristische Probe gestellt. Über die KI-Plattform lmarena.ai ließen wir das KI-Modell mit den Parametern Temperatur 0,7 und Top P 0,7 zur Beantwortung antreten.
Die Parameter "Temperatur" und "Top P" steuern die Zufälligkeit und Vorhersehbarkeit bei der Textgenerierung. Die Temperatur, hier auf 0,7 eingestellt, fungiert als Kreativitätsregler: Höhere Werte fördern ungewöhnlichere Wortwahlen, niedrigere Werte führen zu konservativeren Ergebnissen. Ein Wert von 0,7 bietet einen Mittelweg zwischen Kreativität und Vorhersehbarkeit. Top P, ebenfalls auf 0,7 gesetzt, wirkt als Fokusregler und bestimmt den Anteil der wahrscheinlichsten Wörter, die das Modell berücksichtigt. Hier werden nur jene Wörter in Betracht gezogen, die zusammen 70% der Wahrscheinlichkeitsmasse ausmachen. Zusammen ermöglichen diese Einstellungen eine ausgewogene Antwortqualität, die sowohl Kreativität als auch Kohärenz gewährleistet.
Das KI-Modell wurde zunächst mit dem Sachverhalt konfrontiert und durfte jede Frage einzelnd bis zur maximalen Output-Token-Grenze von 4096 seine Antwort ausformulieren. So wollten wir herausfinden, wie weit die KI im juristischen Diskurs gehen kann. Denn je mehr Output Token zur Verfügung stehen, umso detaillierter fallen die Antworten aus. Beurteilen Sie selbst, wie gut sie das Ergebnis halten. Die Antwort gilt als Referenzwert für zukünftige Forschungen.
Antwort zu Frage 4 des LPT (Lüritz-Parchwigslust-Test)
Frage 4: Welche Auswirkungen hat der AI Act auf die Zulässigkeit der Gesichtserkennung im Landkreis Lüritz?
Antwort:
Der AI Act, die geplante Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz, hat erhebliche Auswirkungen auf die Zulässigkeit der Gesichtserkennung, wie sie im Landkreis Lüritz geplant ist. Der AI Act verfolgt einen risikobasierten Ansatz und teilt KI-Systeme in verschiedene Risikoklassen ein, wobei für Hochrisiko-KI-Systeme besonders strenge Anforderungen gelten.
Nach dem derzeitigen Entwurf des AI Act (Stand April 2024) würde die im Landkreis Lüritz geplante Echtzeit-Fernidentifizierung im öffentlichen Raum mittels Gesichtserkennung mit hoher Wahrscheinlichkeit als "Hochrisiko-KI-System" eingestuft werden.
Artikel 5 des Entwurfs des AI Act sieht sogar ein grundsätzliches Verbot bestimmter KI-Praktiken vor, die als unannehmbar gelten, weil sie gegen die Werte der Union verstoßen oder Grundrechte verletzen. Dazu gehört nach Artikel 5 Absatz 1 Buchstabe d des Entwurfs auch der Einsatz von biometrischen Fernidentifizierungssystemen in Echtzeit in öffentlich zugänglichen Räumen zum Zwecke der Strafverfolgung, es sei denn, der Einsatz ist für eines der in dieser Bestimmung abschließend aufgeführten Ziele unbedingt erforderlich.
Ausnahmen von diesem Verbot wären nur unter sehr engen Voraussetzungen möglich, z.B.:
* die gezielte Suche nach potenziellen Opfern von Straftaten, einschließlich vermisster Kinder;
* die Abwehr einer gegenwärtigen oder vorhersehbaren Bedrohung des Lebens oder der körperlichen Unversehrtheit natürlicher Personen oder einer terroristischen Bedrohung;
* die Lokalisierung oder Identifizierung einer Person, die einer Straftat im Sinne von Artikel 2 Absatz 2 des Rahmenbeschlusses 2002/584/JI verdächtigt wird oder von der angenommen wird, dass sie an einer solchen Straftat beteiligt war, sofern diese Straftat in dem betreffenden Mitgliedstaat mit einer Freiheitsstrafe oder einer freiheitsentziehenden Maßregel im Höchstmaß von mindestens drei Jahren bedroht ist.
Diese Ausnahmen zielen auf die Verfolgung schwerer Straftaten oder die Abwehr einer akuten terroristischen Bedrohung ab. Diese Voraussetzungen liegen im Landkreis Lüritz, in dem es um die Bekämpfung von Fahrraddiebstählen und Ruhestörungen geht, nicht vor.
Darüber hinaus sieht Artikel 5 Absatz 2 des Entwurfs vor, dass der Einsatz von biometrischen Fernidentifizierungssystemen in Echtzeit in öffentlich zugänglichen Räumen zum Zwecke der Strafverfolgung im Einklang mit den in Absatz 1 Buchstabe d genannten Ausnahmen einer vorherigen Genehmigung durch eine Justizbehörde oder eine unabhängige Verwaltungsbehörde des jeweiligen Mitgliedstaats bedarf.
Selbst wenn man die geplante Gesichtserkennung nicht als verbotene KI-Praktik einstufen würde, so wäre sie nach dem AI Act besonderen Anforderungen in Bezug auf Risikomanagement, Datenqualität, Transparenz, menschliche Aufsicht und Cybersicherheit unterworfen.
Artikel 9 des Entwurfs sieht vor, dass Hochrisiko-KI-Systeme ein Risikomanagementsystem einhalten müssen, das während des gesamten Lebenszyklus des KI-Systems angewandt wird. Dieses System muss potenzielle Risiken für die Gesundheit, die Sicherheit und die Grundrechte identifizieren, bewerten und mindern.
Artikel 10 des Entwurfs legt Anforderungen an die Daten-Governance fest. Die Trainings-, Validierungs- und Testdatensätze, die von Hochrisiko-KI-Systemen verwendet werden, müssen relevant, repräsentativ, fehlerfrei und vollständig sein. Dies ist besonders relevant im Hinblick auf die im Sachverhalt erwähnten Probleme mit der Trefferquote und der Diskriminierung.
Artikel 13 des Entwurfs fordert Transparenz und Informationspflichten. Die Funktionsweise von Hochrisiko-KI-Systemen muss für die Nutzer transparent und nachvollziehbar sein. Im Kontext der Videoüberwachung bedeutet dies, dass die Bürger umfassend über den Einsatz der Gesichtserkennung und ihre Rechte informiert werden müssen.
Artikel 14 des Entwurfs schreibt eine menschliche Aufsicht über Hochrisiko-KI-Systeme vor. Diese Aufsicht soll sicherstellen, dass die Systeme bestimmungsgemäß verwendet werden und dass potenzielle Risiken erkannt und behoben werden können.
Artikel 15 des Entwurfs verlangt, dass Hochrisiko-KI-Systeme ein hohes Maß an Genauigkeit, Robustheit und Cybersicherheit aufweisen. Dies ist besonders relevant angesichts der im Sachverhalt erwähnten Zweifel an der Trefferquote der Software und der mangelnden Erfahrung der "Fischkopp-IT GmbH".
Der AI Act würde die Rechtswidrigkeit des Vorhabens im Landkreis Lüritz also noch unterstreichen und die Hürden für den Einsatz von Gesichtserkennung im öffentlichen Raum erheblich erhöhen. Er würde die Anforderung an Transparenz, an die Qualifikation der involvierten Akteure und die Rechenschaftspflichten noch einmal deutlich erhöhen. Selbst wenn die geplante Gesichtserkennung nicht gänzlich verboten wäre, müsste sie strengen Anforderungen genügen, die im vorliegenden Fall kaum erfüllt sein dürften.
Fazit:
Der AI Act wird den Einsatz von Gesichtserkennungstechnologie im öffentlichen Raum, wie er im Landkreis Lüritz geplant ist, voraussichtlich verbieten oder zumindest extrem stark einschränken. Er verstärkt die rechtlichen Bedenken, die sich bereits aus der DSGVO, dem BDSG und dem SOG M-V ergeben, und macht deutlich, dass die Europäische Union dem Schutz der Grundrechte vor den Risiken von KI-Systemen einen hohen Stellenwert einräumt. Der AI Act wird die Einführung von Gesichtserkennung im öffentlichen Raum in der EU in Zukunft erheblich erschweren und setzt ein klares Signal gegen den Trend zu anlassloser Massenüberwachung.
Antwort zu Frage 5 des LPT (Lüritz-Parchwigslust-Test)
Frage 5: Entwerfen Sie einen Datenschutzhinweis für die Bürger des Landkreises Lüritz, der sie gemäß Art. 13 DSGVO über die Videoüberwachung und ihre Rechte informiert. Berücksichtigen Sie dabei insbesondere: Verantwortlicher der Datenverarbeitung, Zwecke der Verarbeitung und Rechtsgrundlage, Empfänger der Daten, Speicherdauer, Betroffenenrechte (Auskunft, Berichtigung, Löschung, Einschränkung der Verarbeitung, Widerspruch, Datenübertragbarkeit), Beschwerderecht bei der Aufsichtsbehörde.
Antwort:
Hier ist ein Entwurf für einen Datenschutzhinweis, der die Bürger des Landkreises Lüritz gemäß Art. 13 DSGVO über die (hypothetische) Videoüberwachung informiert. Ich gehe im Folgenden davon aus, dass eine anlassbezogene, temporäre Videoüberwachung ohne Gesichtserkennung stattfindet, wie sie in der Antwort zu Frage 3 als möglicher Kompromiss skizziert wurde. Eine flächendeckende Überwachung mit Gesichtserkennung wäre, wie in den vorherigen Antworten dargelegt, rechtswidrig.
Datenschutzhinweis zur Videoüberwachung im Landkreis Lüritz
1. Verantwortlicher der Datenverarbeitung:
Verantwortlich für die Verarbeitung Ihrer personenbezogenen Daten im Rahmen der Videoüberwachung ist:
Landkreis Lüritz
Der Landrat
[Straße und Hausnummer]
[Postleitzahl und Ort]
[Telefonnummer]
[E-Mail-Adresse]
2. Datenschutzbeauftragter:
Unseren Datenschutzbeauftragten erreichen Sie unter:
Herr Eckhard Datensicher
[Straße und Hausnummer]
[Postleitzahl und Ort]
[Telefonnummer]
[E-Mail-Adresse]
3. Zwecke der Verarbeitung und Rechtsgrundlage:
Die Videoüberwachung erfolgt anlassbezogen und temporär an bestimmten öffentlich zugänglichen Orten im Landkreis Lüritz, insbesondere am Stadthafen Waren (Müritz) und im angrenzenden Bereich des Müritz-Nationalparks.
Die Überwachung dient folgenden Zwecken:
* Verhütung von Straftaten: Insbesondere dient die Überwachung der Verhinderung von Fahrraddiebstählen, Sachbeschädigungen und anderen Straftaten, die in der Vergangenheit an den überwachten Orten gehäuft aufgetreten sind.
* Verfolgung von Straftaten: Die Aufnahmen können im Bedarfsfall zur Aufklärung von Straftaten und zur Identifizierung von Tatverdächtigen verwendet werden.
* Verhütung und Verfolgung von Ordnungswidrigkeiten von erheblicher Bedeutung: Die Überwachung dient auch der Verhütung und Verfolgung von Ordnungswidrigkeiten, die die öffentliche Sicherheit und Ordnung in erheblichem Maße beeinträchtigen, wie z.B. erhebliche Ruhestörungen.
Die Rechtsgrundlage für die Videoüberwachung ist § 28 Abs. 2 Nr. 2 und Nr. 3 des Sicherheits- und Ordnungsgesetzes Mecklenburg-Vorpommern (SOG M-V) in Verbindung mit § 4 des Bundesdatenschutzgesetzes (BDSG).
4. Empfänger der Daten:
Die im Rahmen der Videoüberwachung angefertigten Aufnahmen werden grundsätzlich nur von autorisierten Mitarbeitern des Landkreises Lüritz eingesehen.
Eine Weitergabe der Daten erfolgt nur in folgenden Fällen:
* An die Polizei: Wenn die Aufnahmen zur Verfolgung von Straftaten oder Ordnungswidrigkeiten benötigt werden, können sie an die zuständige Polizeiinspektion Waren (Müritz) weitergegeben werden.
* An Gerichte und Strafverfolgungsbehörden: Im Rahmen von Gerichtsverfahren oder Ermittlungen können die Aufnahmen auf Anforderung an die zuständigen Gerichte oder Strafverfolgungsbehörden übermittelt werden.
* An sonstige Dritte: Eine Weitergabe an sonstige Dritte erfolgt nicht, es sei denn, es besteht eine gesetzliche Verpflichtung hierzu.
5. Speicherdauer:
Die im Rahmen der Videoüberwachung angefertigten Aufnahmen werden automatisch nach 72 Stunden gelöscht, sofern sie nicht zur Verfolgung von Straftaten oder Ordnungswidrigkeiten oder zur Geltendmachung, Ausübung oder Verteidigung von Rechtsansprüchen benötigt werden.
Sollten die Aufnahmen als Beweismittel in einem Straf- oder Ordnungswidrigkeitenverfahren benötigt werden, erfolgt die Löschung erst nach dem rechtskräftigen Abschluss des Verfahrens und dem Ablauf etwaiger Aufbewahrungsfristen.
6. Betroffenenrechte:
Nach der Datenschutz-Grundverordnung (DSGVO) stehen Ihnen folgende Rechte zu:
* Auskunftsrecht (Art. 15 DSGVO): Sie haben das Recht, Auskunft über die zu Ihrer Person gespeicherten Daten zu erhalten, einschließlich Informationen über die Verarbeitungszwecke, die Kategorien der verarbeiteten Daten, die Empfänger der Daten, die geplante Speicherdauer, das Bestehen eines Beschwerderechts bei einer Aufsichtsbehörde sowie ggf. über die Herkunft der Daten und das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling.
* Recht auf Berichtigung (Art. 16 DSGVO): Sie haben das Recht, die Berichtigung Sie betreffender unrichtiger personenbezogener Daten zu verlangen.
* Recht auf Löschung (Art. 17 DSGVO): Sie haben das Recht, die Löschung Sie betreffender personenbezogener Daten zu verlangen, wenn die Daten für die Zwecke, für die sie erhoben oder auf sonstige Weise verarbeitet wurden, nicht mehr notwendig sind, wenn Sie Ihre Einwilligung widerrufen haben und es an einer anderweitigen Rechtsgrundlage für die Verarbeitung fehlt, wenn Sie Widerspruch gegen die Verarbeitung eingelegt haben und keine vorrangigen berechtigten Gründe für die Verarbeitung vorliegen, wenn die Daten unrechtmäßig verarbeitet wurden oder wenn die Löschung zur Erfüllung einer rechtlichen Verpflichtung erforderlich ist.
* Recht auf Einschränkung der Verarbeitung (Art. 18 DSGVO): Sie haben das Recht, die Einschränkung der Verarbeitung zu verlangen, wenn Sie die Richtigkeit der Daten bestreiten (für die Dauer der Überprüfung), wenn die Verarbeitung unrechtmäßig ist und Sie die Löschung ablehnen und stattdessen die Einschränkung der Nutzung verlangen, wenn der Verantwortliche die Daten für die Zwecke der Verarbeitung nicht länger benötigt, Sie sie jedoch zur Geltendmachung, Ausübung oder Verteidigung von Rechtsansprüchen benötigen, oder wenn Sie Widerspruch gegen die Verarbeitung eingelegt haben (für die Dauer der Prüfung, ob die berechtigten Gründe des Verantwortlichen gegenüber Ihren überwiegen).
* Recht auf Datenübertragbarkeit (Art. 20 DSGVO): Sie haben das Recht, die Sie betreffenden personenbezogenen Daten, die Sie dem Landkreis Lüritz bereitgestellt haben, in einem strukturierten, gängigen und maschinenlesbaren Format zu erhalten, und Sie haben das Recht, diese Daten einem anderen Verantwortlichen ohne Behinderung durch den Landkreis Lüritz zu übermitteln, sofern die Verarbeitung auf einer Einwilligung oder auf einem Vertrag beruht und die Verarbeitung mithilfe automatisierter Verfahren erfolgt.
* Widerspruchsrecht (Art. 21 DSGVO): Sie haben das Recht, aus Gründen, die sich aus Ihrer besonderen Situation ergeben, jederzeit gegen die Verarbeitung Sie betreffender personenbezogener Daten, die aufgrund von Art. 6 Abs. 1 lit. e oder f DSGVO erfolgt, Widerspruch einzulegen. Der Landkreis Lüritz verarbeitet die personenbezogenen Daten dann nicht mehr, es sei denn, er kann zwingende schutzwürdige Gründe für die Verarbeitung nachweisen, die Ihre Interessen, Rechte und Freiheiten überwiegen, oder die Verarbeitung dient der Geltendmachung, Ausübung oder Verteidigung von Rechtsansprüchen.
Zur Ausübung Ihrer Rechte wenden Sie sich bitte an den oben genannten Verantwortlichen oder unseren Datenschutzbeauftragten.
7. Beschwerderecht bei der Aufsichtsbehörde:
Wenn Sie der Ansicht sind, dass die Verarbeitung der Sie betreffenden personenbezogenen Daten gegen die DSGVO verstößt, haben Sie das Recht, sich bei einer Aufsichtsbehörde, insbesondere in dem Mitgliedstaat Ihres gewöhnlichen Aufenthaltsorts, Ihres Arbeitsplatzes oder des Orts des mutmaßlichen Verstoßes, zu beschweren (Art. 77 DSGVO).
Die für den Landkreis Lüritz zuständige Aufsichtsbehörde ist:
Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern
Werderstraße 74a
19055 Schwerin
Telefon: +49 385 59494 0
E-Mail: info@datenschutz-mv.de
8. Hinweis zum Einsatz von Gesichtserkennung:
Es wird ausdrücklich darauf hingewiesen, dass im Rahmen der Videoüberwachung im Landkreis Lüritz KEINE Gesichtserkennungstechnologie eingesetzt wird. Es werden keine biometrischen Daten im Sinne von Art. 4 Nr. 14, Art. 9 DSGVO verarbeitet.
9. Weitere Informationen:
Weitere Informationen zur Videoüberwachung im Landkreis Lüritz, insbesondere zu den genauen Standorten der Kameras und den konkreten Überwachungszeiten, finden Sie auf der Website des Landkreises unter [Link einfügen].
Stand: [Datum]
---
Dieser Datenschutzhinweis dient als Beispiel und muss an die konkreten Gegebenheiten im Landkreis Lüritz angepasst werden. Insbesondere müssen die genauen Standorte der Kameras, die konkreten Überwachungszeiten und die maßgeblichen Rechtsgrundlagen im SOG M-V präzisiert werden. Es empfiehlt sich, den Datenschutzhinweis vor seiner Veröffentlichung durch einen Juristen prüfen zu lassen.
.jpeg)