Montag, 25. September 2023 von Vanessa Seifert Turtlezone Tiny Talks #141
Ist KI-Biometrie bald unzulässig?
„Remote Biometric Identification“, also bestimmte Formen der Gesichts- und Identitätserkennung mittels KI, der Nutzung für ein Social Scoring oder die Nutzung der Künstlichen Intelligenz und der biometrischen Daten für eine Profilbildung von interessierter Seite, sind Schwerpunktthemen in den Abstimmungen des Europäischen Artificial Intelligence Act und werden -so der Plan- als Teil der Risikoklasse „Inakzeptables Risiko“ unzulässig sein und damit einem Verbot auf dem Gebiet der europäischen Union unterliegen. Die EU nimmt mit ihrem AI Act weltweit eine Vorreiterrolle ein und der risikobasierte Ansatz mit verschiedenen Risikoklassen erlaubt eine feinabgestufte Regulierung. Die Herausforderung liegt aber im Detail und in der Abgrenzung.
Der EU AI Act wird für den europäischen Markt und die Nutzung von KI-Anwendungen und KI-generierten Inhalten innerhalb der EU gelten. Damit betrifft das Gesetz zwar weltweit Unternehmen, die in Europa tätig sind und es kommt nicht auf den Standort des Servers oder den Sitz des Unternehmens an. Dennoch können europäische Bürgerinnen und Bürger über das grenzenlose Internet natürlich auch KI-Dienste von ausländischen Anbietern in Anspruch nehmen können, die von sich aus nicht den europäischen Markt adressieren. Und es wird europäischen Entwicklern möglich sein, in Europa nicht zugelassene und verbotene KI-Systeme für Anwendungen in Drittmärkten anzubieten. Ziel der Gesetzgebung ist vielmehr den Einsatz risikobehafteter KI-Lösungen zu regulieren. Daher gelten die Regelungen dann sowohl für Anbieter als auch für Nutzer, also auch für Privatpersonen, die sich in der Europäischen Union aufhalten. Und als Anbieter sind rechtlich nicht nur Software- oder IT-Unternehmen zu verstehen, sondern vor allem auch Betreiber bis hin zu Behörden.
Für die neue Episode 141 der Turtlezone Tiny Talks sprechen Dr. Michael Gebert und Oliver Schwartz über die geplante Regulierung der ki-basierten biometrischen Identifikation und warum es nicht nur auf jedes Wort im künftigen AI Act ankommt, sondern auch um mögliche Opt-In-Regelungen, eventuelle Ausnahmen für die Sicherheitsbehörden und einen Brückenschlag für homogene internationale Rechtsnormen bezüglich stark risikobehafteter und potenziell grundrechtsverletzender KI-Anwendungen. Und sie sprechen auch über die positive Seite von KI-Biometrie, über den service- und nutzwertorientierten Einsatz zugunsten von Kunden und Bürgern. Spannende 41 Podcast-Minuten.
