27.04.2021

Hessens Livestream: Zukunftstechnologie Künstliche Intelligenz (KI)

Wie sind Anwendungen der (KI) mit hohem Risiko zu definieren? Wie ist die Nutzung biometrischer Identifikationssysteme im öffentlichen Raum mit den Grundrechten vereinbar? Diese und weitere Fragen standen im Mittelpunkt des Livestream mit Werner Stengg aus dem Kabinett der zuständigen EU-Kommissarin und Vizepräsidentin Margrethe Vestager am 27. April 2021 in der Hessischen Landesvertretung in Brüssel.

Hessens Livestream: Zukunftstechnologie Künstliche Intelligenz (KI)
Bild 1 von 5
Hendrik Kafsack, Frankfurter Allgemeine Zeitung
© Hessische Landesvertretung

Hessens Europaministerin Lucia Puttrich, die zu der Veranstaltung zum Thema „Zukunftstechnologie Künstliche Intelligenz – wie die Kommission Hochrisiko-Anwendungen regulieren will“, eingeladen hatte, wies in ihrer Begrüßung auf die Chancen und Risiken der Künstlichen Intelligenz (KI) hin. Das eine sei mit dem anderen untrennbar verbunden und werfe ethische und rechtliche Fragen auf, denen wir uns stellen müssen, sagte Puttrich. Die Anwendungsfelder KI scheinen unbegrenzt. Doch ohne einen klaren Handlungsrahmen laufe man Gefahr, dass Grundrechte und europäische Werte verletzt werden. Sie sprach sich auch für eine breite gesellschaftliche Debatte über die Technologie und den neuen EU-Rechtsrahmen aus. Prof. Dr. Kristina Sinemus, Hessische Ministerin für digitale Strategie und Entwicklung, stellte in ihrem Impulsvortrag das Hessische Zentrum für verantwortungsbewusste Digitalisierung (ZEVEDI) und das Hessische Zentrum für Künstliche Intelligenz, hessian.AI, vor. Sie betonte, dass die Digitalpolitik im Dienste des Menschen stehen müsse, und brachte vier Thesen des Hessischen Rats für Digitalethik zur KI in die Diskussion ein: Notwendig für eine KI im Dienste des Menschen seien die Stärkung der digitalen Souveränität des Einzelnen, mehr Marktvielfalt im Bereich KI, mehr Wissen der Bürgerinnen und Bürger über die Technologie sowie mehr interdisziplinäre Forschung, um einen ethischen Ansatz bereits bei der Produktentwicklung zu fördern.

Im weiteren Gespräch mit Hendrik Kafsack von der FAZ erläuterte Werner Stengg, Koordinator der digitalen Politik im Kabinett der Exekutiv-Vizepräsidentin und Kommissarin für Digitale Wirtschaft und Gesellschaft, Margrethe Vestager, die am 21. April vorgelegten Vorschläge der EU-Kommission für einen neuen europäischen KI-Rechtsrahmen. Dem Verordnungsvorschlag liege eine Pyramide zugrunde: Verbote seien eng begrenzt und betreffen nur deren „Spitze“, wie KI-Anwendungen, die Menschen nicht merkbar manipulieren, die Verwundbarkeit besonderer Gruppen wie Kinder ausnutzen oder Anwendungen des sog. „Social Scoring“. Hochrisiko-Anwendungen hingegen, die im Anhang der Verordnung aufgeführt werden, unterliegen näher definierten Anforderungen, wenn sie in der EU in den Verkehr gebracht werden sollen. Stengg wies darauf hin, dass sich KI-Anwendungen im Übrigen nicht im rechtsfreien Raum bewegten – bereits heute unterliegen sie EU-Vorschriften, wie beispielsweise der Produktsicherheitsrichtlinie oder der Datenschutzgrundverordnung. Eine noch stärkere Risiko-Differenzierung zwischen den KI-Anwendungen lehnte der Kommissionsvertreter mit dem Verweis darauf ab, dass die Regulierung dann noch komplexer werden würde. Zur Förderung von Innovationen und zur Unterstützung von Start-ups und KMU verwies Herr Stengg insbesondere auch auf die sog. Sandkästen als „Experimentierfelder“, die der Verordnungsvorschlag ausdrücklich vorsehe. Außerdem sei das Instrument der Normung dazu bestimmt, die nötige Flexibilität zu gewährleisten. Mit Blick auf die Distanz-Gesichtserkennung in Echtzeit erklärte Stengg, die Verordnung lasse diese nur in ganz engen Ausnahmen zu - und dann auch nur zeitlich und räumlich begrenzt.

Das Video zur Veranstaltung können Sie über diese Links abrufen:

Deutsch

Englisch 

Schließen