Digitalpaket der EU: TÜV-Verband fordert differenzierte Sicherheitsprüfungen für KI-Anwendungen

Berlin (ots) - +++ Regelungen für die Sicherheit von KI-Systemen mit hohem
Gefährdungspotenzial +++ Risikobasierter Ansatz weist in die richtige Richtung
+++ Konkrete Vorgaben für Datenzugang notwendig +++ EU-Kommission legt Weißbuch
Künstliche Intelligenz und Datenstrategie vor

Der TÜV-Verband hat das heute von der EU-Kommission vorgelegte "Weißbuch
Künstliche Intelligenz" grundsätzlich begrüßt, aber weitere Konkretisierungen
gefordert. "Die KI-Strategie der EU-Kommission ist ein wichtiger Schritt auf dem
Weg zu einem einheitlichen europäischen Datenraum", sagte Dr. Joachim Bühler,
Geschäftsführer des TÜV-Verbands (VdTÜV). "Es ist sinnvoll, Produkte und
Anwendungen mit Künstlicher Intelligenz in Abhängigkeit von ihrem Risiko zu
regulieren. Immer dann, wenn die Gesundheit und Sicherheit der Menschen oder
ihre elementaren Grundrechte in Gefahr sind, muss es klare gesetzliche Vorgaben
für KI-Anwendungen geben." Die Vorschläge der EU-Kommission sehen vor, dass die
Sicherheit von KI-Anwendungen mit hohem Risiko von herstellerunabhängigen
Stellen geprüft werden sollen. Erst dann dürften sie in Zukunft in der EU auf
den Markt gebracht werden. Ein KI-System mit hohem Risiko kann demnach anhand
der betroffenen Sektoren (z.B. Mobilität, Gesundheit) und der konkreten
Anwendung (z.B. Fahrzeugsteuerung, medizinische Diagnosen) identifiziert werden.
Aus Sicht des TÜV-Verbands sollte aber auch das Vorgehen bei KI-Systemen mit
mittlerem und niedrigem Risiko geregelt werden. "Analog zu den bisher geltenden
Vorgaben zur Produktsicherheit in der EU sollten alle KI-Anwendungen in die
Regulierung einbezogen werden", betonte Bühler. "Je nach Risikolevel sollten
unterschiedliche Sicherheits- und Prüfanforderungen festgelegt werden." Diese
könnten von einer Herstellerselbsterklärung für KI-Anwendungen mit geringem
Risiko bis zur obligatorischen Einbindung einer unabhängigen Stelle reichen, wie
es heute schon unter anderem bei Autos, Aufzügen oder Medizinprodukten der Fall
ist. Die konkrete Ausgestaltung der Vorgaben sollte in den EU-Verordnungen und
Richtlinien für die jeweiligen Produkte und Dienstleistungen erfolgen. Bühler:
"Mit einem risikobasierten Ansatz können wir in der EU innovative digitale
Technologien fördern und gleichzeitig die Sicherheit der Nutzerinnen und Nutzer
gewährleisten."

Zusätzlicher Regelungsbedarf besteht aus Sicht des TÜV-Verbands beim Zugang zu
Daten, die für Sicherheitsprüfungen notwendig sind. Die EU-Kommission hat in
ihrer ebenfalls heute vorgelegten Datenstrategie zwar die Einrichtung von
"Datenräumen" für verschiedene Bereiche wie Mobilität, Gesundheit oder
Klimaschutz angekündigt, bleibt beim Thema Datenzugang aber noch recht vage. Im
Fahrzeugsektor werden zum Beispiel immer mehr Funktionen digitalisiert und
automatisiert. "Die Prüforganisationen brauchen für Sicherheitsprüfungen von
Assistenzsystemen Zugang zu bestimmten Fahrzeugdaten", sagte Bühler. Darüber
hinaus müsse auch der Zugang zu Fahrzeugdaten für kommerzielle Zwecke geregelt
werden. Bisher haben allein die Fahrzeughersteller die Kontrolle über die beim
Fahren generierten Daten. Bühler: "Die Datenhoheit im Fahrzeug sollten die
Besitzer und Fahrer haben und selbst entscheiden, welche Daten sie für welche
Zwecke teilen wollen." Nur so könnten Fahrzeugdaten für innovative Anwendungen
genutzt werden. Der TÜV-Verband hat mit seinem TrustCenter-Konzept einen
Vorschlag vorgelegt, wie der Zugang zu Fahrzeugdaten für unterschiedliche Zwecke
datenschutzkonform und unter Ausgleich verschiedener Interessen geregelt werden
kann.

In der Bevölkerung findet eine stärkere Regulierung von KI-Systemen große
Zustimmung. Laut einer kürzlich veröffentlichten Umfrage des TÜV-Verbands sind
85 Prozent der Bundesbürgerinnen und Bundesbürger der Ansicht, dass Produkte und
Anwendungen mit Künstlicher Intelligenz erst auf den Markt gebracht werden
sollten, wenn zuvor ihre Sicherheit von unabhängigen Stellen überprüft wurde.
Zwei von drei Befragten (67 Prozent) haben Angst, dass KI-Systeme bei
sicherheitskritischen Anwendungen Fehler machen, zum Beispiel bei hoch
automatisierten Fahrzeugen. Generell sind 78 Prozent der Meinung, dass der Staat
Gesetze und Vorschriften zur Regulierung von Künstlicher Intelligenz
verabschieden sollte. Das hat eine repräsentative Ipsos-Umfrage im Auftrag des
TÜV-Verbands unter 1.000 Personen ab 16 Jahren ergeben.

Über den TÜV-Verband: Der Verband der TÜV e.V. (VdTÜV) vertritt die politischen
und fachlichen Interessen seiner Mitglieder gegenüber Politik, Verwaltung,
Wirtschaft und Öffentlichkeit. Der Verband setzt sich für technische und
digitale Sicherheit bei Produkten, Anlagen und Dienstleistungen durch
unabhängige Prüfungen und qualifizierte Weiterbildung ein. Mit seinen
Mitgliedern verfolgt der TÜV-Verband das Ziel, das hohe Niveau der technischen
Sicherheit in unserer Gesellschaft zu wahren und Vertrauen für die digitale Welt
zu schaffen.

Pressekontakt:

Maurice Shahd
Pressesprecher
Verband der TÜV e.V. (VdTÜV)
Friedrichstraße 136 | 10117 Berlin
T 030 760095-320, E presse@vdtuev.de
www.vdtuev.de | www.twitter.com/vdtuev_news

Weiteres Material: https://www.presseportal.de/pm/65031/4524635
OTS: VdTÜV Verband der TÜV e.V.

Original-Content von: VdTÜV Verband der TÜV e.V., übermittelt durch news aktuell