| Flug | Nach | Planmäßig |
| Flug | Von | Planmäßig |
|
|||||||||
Unabhängige Stelle soll alle sogenannten "Hochrisiko-KI-Syteme" überprüfen
| 
| 
Forderung des TÜV-Verbandsgeschäftsführers
Unabhängige Stelle soll alle sogenannten "Hochrisiko-KI-Syteme" überprüfen
Samstag 29. April 2023 - Berlin / Brüssel (wbn). Alle Hochrisiko-KI-Systeme sollten vor dem Marktstart von einer unabhängigen Stelle überprüft werden.
Dies hat der Geschäftsführer des TÜV-Verbandes Dr. Joachim Bühler mit Blick auf das EU-Parlament deutlich gemacht, das sich derzeit mit der Handhabung der sogenannten „Künstlichen Intelligenz“ (KI) in Brüssel beschäftigt.
„Der Entwurf des AI Act sieht zwar vor, dass KI-Anwendungen bestimmte Anforderungen wie beispielsweise mehr Transparenz von Algorithmen erfüllen müssen. Es muss aber sichergestellt werden, dass die Vorgaben auch eingehalten werden. Eine unabhängige Überprüfung ist nur für einen kleinen Teil der KI-Systeme mit hohem Risiko vorgesehen. Die meisten kritischen KI-Anwendungen wie zum Beispiel Gesichtserkennung, Recruiting-Software oder Kreditwürdigkeitsprüfungen sollen weiter mit einer reinen Herstellerselbsterklärung auf den Markt gebracht werden dürfen. Darüber hinaus soll die Einstufung als Hochrisiko-Anwendung teilweise über eine Selbsteinschätzung der Anbieter erfolgen – Fehleinschätzungen sind vorprogrammiert. Hier besteht aus Sicht des TÜV-Verbands weiterer Handlungsbedarf, um Eingriffe in die Privatsphäre oder automatisierte Diskriminierung zu verhindern.“
„Besser wäre es, alle Hochrisiko-KI-Systeme vor dem Marktstart von einer unabhängigen Stelle überprüfen zu lassen. Nur so kann gewährleistet werden, dass die Anwendungen den Sicherheitsanforderungen entsprechen. Das gilt besonders, wenn KI-Anwendungen in kritischen Bereichen wie der Medizin, in Fahrzeugen, der Energieinfrastruktur oder in bestimmten Maschinen eingesetzt werden.“
Aus Sicht des TÜV-Verbands müsse bereits jetzt die praktische Umsetzung der KI-Vorgaben vorbereitet werden. Eine wichtige Grundlage seien Normen, Standards und Qualitätskriterien. Darüber hinaus müssten entsprechende Prüfverfahren und -kriterien entwickelt werden.
Der TÜV-Verband engagiert sich seit längerem für die Einrichtung von interdisziplinären „AI Quality & Testing Hubs“ auf Länder- und Bundesebene. Die TÜV-Unternehmen bereiten sich derzeit intensiv auf die Prüfung von KI-Systemen vor und haben dafür das „TÜV AI Lab“ gegründet.
Hinweis der Redaktion: Mit "Al Act" ist der Artificial Intelligence Act gemeint, das Gesetz über Künstliche intelligenz.
