Donnerstag, 14. September 2023 von Oliver Schwartz Kreuzfahrtschiffe zeigen auch Positivbeispiele
Gesichtserkennung polarisiert die KI-Debatte
„Unscan my Face!“ – mit dieser Kampagne setzt sich Amnesty International für ein Verbot der Herstellung, des Einsatzes und des Exports von Gesichtserkennungstechnologie in Deutschland, der EU und weltweit ein. Jetzt ist Gesichtserkennung nicht gleich Gesichtserkennung. Ein reines Matching wie beim Entsperren von Smartphones ist nicht vergleichbar mit einer Massenüberwachung im öffentlichen Raum. Und auch dann ist ein stumpfer Abgleich mit biometrischen Profilen in einer Täterdatenbank noch nicht wirklich Künstliche Intelligenz. Aber die Kombination aus immer besseren Videokameras, dramatisch leistungsfähigerer Gesichtserkennungstechnologie und nun auch KI-Modellen, stellt eine neue Qualität da. Kein Wunder, dass das Thema auch einen Streitpunkt und großen Raum in der Abstimmung des anstehenden EU AI Act zwischen Kommission, Rat und Parlament einnimmt. Dabei geht es weniger um das gemeinsame Verständnis, dass man eine allgemeine biometrische Erkennung in der Öffentlichkeit ausschließen will. Das hatte die deutsche Ampel-Regierung auch in ihrem Koalitionsvertrag so formuliert. Aber wie immer liegt die Tücke im Detail.
Es geht um Definitionen und um Ausnahmen. Der Fachbegriff „Remote Biometric Identification“ lässt -je nach Interesse- Interpretationsspielraum. Während die Gegner das Recht auf Privatsphäre in den Ring werfen und Diskriminierung befürchten, fordern Befürworter umfassende Ausnahmen – nicht nur für die Sicherheit und die Strafverfolgung. Die verschiedenen Entwurfsfassungen entscheiden sich in diesem Punkt erheblich. Es bleibt spannend, wie scharf oder wie ausgewässert das finale Gesetz diesbezüglich ausfällt.
Ein Knackpunkt wird die eindeutige Abgrenzung zwischen dem „Öffentlichen Raum“ und allen anderen Szenarien. Ist eine Gesichtserkennung generell schlecht, oder nur auf dem Marktplatz? Und welche akzeptierten und verständlichen Spielregeln wird es künftig für einen freiwilligen „Opt-In“ von Kunden, Teilnehmern und Reisenden geben. Es erscheint schwer vorstellbar, dass die Anwendung der KI-basierten biometrischen Erkennung in der Gefahrenabwehr zwar geeignet ist, Ängste vor „Big Brother“ zu schüren, aber dieselbe Technologie im gewerblichen Einsatz akzeptiert wird - solange irgendwo im Kleingedruckten elegant auf eine Art Zwangs-Opt-In hingewiesen wird. Es ist also an der Zeit, beide Seiten der Medaille zu betrachten: Gibt es auch Positiv-Beispiele? Unbedingt! Aber auch diese serviceorientierten Anwendungen entsprechen selbstverständlich nicht einer umfassenden Privatsphäre. Denn der Nutzwert der Gesichtserkennung -für Anbieter wie für Kunden- steigt im Umfang der „intelligenten“ Daten-Auswertung durch die KI. In diesem Beitrag betrachten wir daher ein spannendes Szenario aus den USA, wo man traditionell ein anderes Verständnis von Datenschutz hat. Wo aber auch die Service- und Nutzenorientierung bei neuen Technologien viel ausgeprägter ist als in Europa. Gehen wir also auf Kreuzfahrt.
KI-Nutzung beginnt beim Einschiffen
Ein modernes Kreuzfahrtschiff ist idealtypisch für die Betrachtung der nutzwertorientierten Möglichkeiten heutiger KI-Gesichtserkennung. Aber auch der Herausforderungen. Das Schiff ist mehr als ein schwimmendes Hotel. Für die Reedereien bedeutet es jedesmal logistische Meisterleistungen tausende Gäste zu boarden, zu verpflegen, zu unterhalten und auf internationalen Routen zu transportieren. Für die Gäste soll sich der Service aber möglichst individuell anfühlen und der Reiseverlauf komfortabel und stressfrei sein. Hinzu kommt die Personalplanung, die Lebensmittellogistik und -immer wichtiger- die Reduzierung der Umweltbelastung. Die marketingseitig eingeführten zig verschiedenen Service-Packages und die sehr unterschiedlichen Interessen der international gemischten Passagiere steigern noch einmal die Komplexität. Einige Groß-Reedereien, wie zum Beispiel Royal Caribbean, haben daher früh das Potenzial der Künstlichen Intelligenz erkannt und testen insbesondere die Vorteile der KI-basierten Gesichtserkennung.
Schon der Beginn einer Kreuzfahrt kann für die Passagiere zur Herausforderung werden. Tausende Menschen auf den immer größeren Schiffen einzuchecken und zu boarden erfordert entweder ein ausgeklügeltes Slot-System, sehr viel Personal oder Geduld auf Gästeseite. Da in den USA die „All-Inclusive-Beverage“-Pakete eine große Rolle spielen, sinkt die Laune amerikanischer Gäste mit jeder Minute, die es länger dauert zur Bar zu kommen. Ein Klischee, aber intern ein gängiger Milestone der Reederei-Logistiker. Zudem gilt es Sicherheitsvorschriften zu beachten und sicherzustellen, dass geboardete Gäste kein ungewollter Showstopper für den Reiseablauf werden. Auch die örtlichen Gegebenheiten in den verschiedenen internationalen Häfen erleichtern oder erschweren den Prozess. Mit Hilfe der biometrischen Gesichtserkennung kann der Ablauf deutlich vereinfacht und beschleunigt werden. Unter Umständen wird sogar eine manuelle Ausweiskontrolle obsolet. Vorbilder sind entsprechende Lösungen an manchen internationalen Flughäfen. Doch für die Kreuzfahrt ist dies erst der Beginn. Wirklich „intelligent“ wird der Service in der ganzheitlichen Betrachtung der Reise an Bord.
Urlaubsgefühl vom ersten Tag an
"Unser Ziel war es, unseren Kunden zu ermöglichen, in weniger als 10 Minuten vom Auto zur Bar zu gelangen. Traditionell dauerte es 60 bis 90 Minuten, um an Bord eines Schiffes zu gehen, was dazu führte, dass sich die Leute erst am zweiten Tag wie im Urlaub fühlten - wir wollten ihnen ihren ersten Tag zurückgeben."
Jay Schneider, SVP of Digital bei Royal Caribbean
Individuelle Wunschumgebung dank KI
Mit Hilfe der Kameras und der Biometrik erhält die KI wertvolle Informationen, um den gesamten Logistik- und Serviceablauf an Bord und die Personaleinteilung zu optimieren – ganz ohne Zutun der Passagiere. Aus Sicht der Gäste reduziert sich damit die Bedeutung der Zimmerkarten und reduzieren sich Wartezeiten. Viel wichtiger ist aber der persönliche Zuschnitt des Service. Gäste werden jederzeit identifiziert und können mit ihrem Namen angesprochen werden. Die KI greift auf vorliegende Informationen zu den Wünschen und Vorlieben zu und reichert diese kontinuierlich an. Dies wiederum optimiert die Bestellplanung der Gastronomie. Doch das ist erst der Anfang. Gerade für US-amerikanische Gäste ist die, meist niedrige, Temperatur in ihrer Kabine bekanntlich ein wichtiger Wohlfühlfaktor. Aber auch die weiteren internationalen Gäste entwickeln ein persönliches Setup. Idealerweise finden sie diese, individuelle, Wunschumgebung jedes Mal vor, wenn sie ihre Kabine wieder betreten. Bei Kreuzfahrten mit Landausflügen kann es aber -aus Energie-, Ressourcen-, Kosten- und Umweltschutzgründen- keine sinnvolle Alternative sein, eine verlassene Kabine im Normalmodus laufen zu lassen. Mit der klassischen Zimmerkarte fehlt bislang oft die Information, ob der Passagier in Kürze wieder zurückkehrt, sich gerade am Pool befindet oder gar auf einem ganztägigen Landausflug. Und nach der Rückkehr zur Kabine dauert das Reaktivieren aus dem Sparmodus seine Zeit. Will man nun die Gäste nicht nötigen, ständig ihren Standort mittels Scan der Zimmerkarte aktiv mitzuteilen, ist der Einsatz einer KI-basierten Gesichtserkennung eine elegante Lösung.
Diese Beispiele lassen sich beliebig fortführen. Und für die Rederei kommen der KI künftig noch viele weitere Aufgaben zu. Sie optimiert die exakten Routen und wertet die unterschiedlichsten Datenquellen aus, um die aktuelle Reise reibungslos und sicher zu gestalten. Wir alle kennen auch Demo-Videos bei denen in Geschäften, Restaurants und Hotels auch das Personal und die Betriebsabläufe mit Hilfe von Videobildern analysiert werden. Jenseits aller, berechtigten, Bedenken hinsichtlich Datenschutz und Privatsphäre ist dennoch eindeutig, welches Potenzial gerade auf einem Kreuzfahrtschiff zum kontinuierlichen Verbessern der Abläufe besteht. Auch beim Organisieren der Ausflüge, des Checkouts und des Ausschiffens. Bis hin zu Flughafen- und Hoteltransfers. Ein möglichst perfekter und individueller Servicegedanke treffen hier frontal auf Ängste und Vorbehalte gegenüber einer Video-Beobachtung auf Schritt und Tritt. Und gegenüber einer zu „intelligenten“ Analyse durch die KI. Im erweiterten Sinne kann diese sich ja bei der nächsten Buchung daran erinnern, wenn ein Gast mit seinem „All-Inclusive-Paket“ die halben Schiffsvorräte ganz allein verkonsumiert hat. Und auch noch weitere Schlüsse ziehen, die sich auf die Preiskalkulation auswirken.
Mehr Nachhaltigkeit, weniger Abfälle
""Wir sind der Meinung, dass wir wahrscheinlich die nachhaltigste Kreuzfahrtgesellschaft sind - und eines der Dinge, auf die wir uns beim Einsatz von KI konzentriert haben, ist die Verbesserung der Nachhaltigkeit. Abgesehen von den Kosteneinsparungen und der verbesserten Frische der Speisen, die wir servieren, hat es auch Vorteile in Bezug auf die Nachhaltigkeit. Wir haben eine Reduzierung der Lebensmittelabfälle als Ergebnis dieses Pilotprojekts festgestellt."
Jay Schneider, SVP of Digital bei Royal Caribbean
„Remote Biometric Identification“ und der EU AI Act
Springen wir von diesen KI-Experimenten vor allem US-amerikanischer Reedereien wieder zurück zur Ausgangsfrage nach der künftigen Rechtslage und Regulierungen. Im Szenario Schiff und Hafen stellt sich schon teilweise die Frage nach dem „Öffentlichem Raum“. Kann eine KI-Lösung sinnvoll zum Einsatz kommen, wenn sich auf einer internationalen Passage die Rechtslage permanent ändert? Und im Zusammenspiel zwischen Sicherheitsaspekten und der notwendigen Identitätsfeststellung beim Einchecken und den nachfolgenden eher Service- und Effizienzgedanken, verschwimmen die klaren Grenzen eines „berechtigten“ Interesses am Einsatz. Bleibt also noch der freiwillige „Opt-In“ der Passagiere, die sich vielleicht sogar mehrheitlich freuen über den neuen, persönlicheren Service. Wie gestaltet man diese Willenserklärung? Kann ein Anbieter diese wirklich völlig freiwillig gestalten? Teilweise ja, dann sehen wir den Kontrast zwischen „Fast Lane“ und Oldschool-Prozessen. Wenn es aber wirklich um eine ganzheitliche, intelligente Steuerung und Optimierung der Bord- und Reiselogistik geht, benötigt die KI möglichst umfassende Daten. Das Interesse dürfte daher groß sein, per Buchungs- und Geschäftsbedingungen einen Zwangs-Opt-In als Teilnahmevoraussetzungen festzulegen. Schon heute sind die „AGB“ der Kreuzfahrer umfangreich, um Risikopassagiere zu vermeiden. Doch ist ein solches Vorgehen im sehr heterogenen Umfeld des sehr internationalen Geschäftsbetriebs rechtskonform? Und werden künftige KI-Regulierungen hier klare Regelungen beinhalten?
Diese Fragen stellen sich in Zukunft in sehr vielen Anwendungsszenarien für eine Nutzung der KI-basierten Gesichtserkennung. Die Kreuzfahrt-Branche bündelt diese Szenarien nur prototypisch. Bei einer Tendenz zu sehr strikten Vorgaben für den berechtigten Einsatz der Technologie in Europa und Ausnahmen vornehmlich für Sicherheit und Strafverfolgung, wenn überhaupt, ließe sich die skizzierte KI-Nutzung kaum mittels Opt-In und Geschäftsbedingungen privatrechtlich legalisieren. Und das Thema Gesichtserkennung ist nur ein besonders polarisierender Aspekt der KI-Debatte. Denn für die KI-Modelle ist die Datenquelle eigentlich unerheblich. Bei ihr geht es vielmehr um die Menge an strukturierten Daten, um das Training und die konkrete Aufgabenstellung. Daten lassen sich auch mit Einlesen einer Zimmerkarte oder eines NFC-Armbands erheben. Die Forderung von Gegnern der Gesichtserkennung zielt also im Kern eher auf das Einsammeln persönlicher Daten, der Analyse und Profilbildung ab. Mit der Gesichtserkennung kommen lediglich zusätzliche Chancen und Risiken hinzu. In der Gefahrenabwehr hilft es, nicht nur eine biometrische Identifizierung vorzunehmen, sondern auch den Gefühlszustand, Wut und Aggression zu erkennen. Umgekehrt steigt hier aber das Risiko zu Fehlerkennung und das Potenzial für Diskriminierungen – denn noch immer funktioniert die Erkennung je nach Hautfarbe unterschiedlich gut. Ein Echtzeit-Profiling ist also mit Vorsicht zu genießen. Und noch ist es sicherlich Zukunftsmusik, dass die KI anhand der Videobilder der Gäste oder Passagiere gleich den voraussichtlichen Getränke- und Mahlzeitenkonsum ermittelt. Von den Algorithmen wäre das problemlos möglich, aber bei der Kameratechnik und für eine möglichst exakte biometrische Identifizierung wird im zivilen Einsatz derzeit stark auf das Gesicht fokussiert. Im Sicherheitsumfeld sieht das längst anders aus. Nicht nur im Kino und TV-Thrillern.
Auch in Sachen „Remote Biometric Identification“ ist die Technik längst weiter als die gesellschaftliche und politische Debatte um Notwendigkeit, Vorteile und Technologiefolgen. Nicht alles was technisch möglich ist, muss aber in der Güterabwägung akzeptiert werden. Es gibt gute Gründe für den Kampf um die Rettung der Privatsphäre und gegen den gläsernen, überwachten Menschen. Es gibt auf der anderen Seite aber auch gute Argumente für den service- und mehrwertorientierten Einsatz. Ein generelles Verbot oder eine sehr starke Einschränkung der Nutzbarkeit von KI-Lösungen aufgrund von Missbrauchsgefahr könnte eine Überreaktion sein. Vor einem völlig unreguliertem Freilauf der Technologie warnen nicht zuletzt aber auch KI-Experten. Dem EU AI Act und seiner Risikoklassifizierung kommt daher eine wichtige Bedeutung zu. Am Ende zählt aber ein internationales Verständnis, klare Regeln und eine gute Begleitkommunikation. Die Gesichtserkennung per se kann durchaus auch positiv eingesetzt werden, wie das Kreuzfahrtbeispiel exemplarisch zeigt. Und andere unfreiwillige Datenspenden, die weniger Emotionen und Ängste bedienen, können wesentlich schwerwiegendere Folgen haben. Nicht die Technologie greift in die Grundrechte von Menschen ein, sondern diejenigen, die Anwendungsszenarien kreieren. Und bei der Frage von notwendigen Regulierungen sollte der freiwillige Opt-In, die gewollte Datenspende gegen persönlichem Nutzwert, nicht völlig ausgeschlossen werden. Der Schlüssel ist in jeden Fall eine Transparenz bei der Datennutzung. Und erst einmal eine vorurteilsfreie Herangehensweise an die Künstliche Intelligenz. Nicht nur bei der nächsten Kreuzfahrt.
