Der Artificial Intelligence Act – Update
Mit der Verbreitung von Verfahren der künstlichen Intelligenz in verschiedenen Lebensbereichen kam in den vergangenen Jahren eine Diskussion über die Notwendigkeit einer Regulierung in diesem Bereich in Gang. Im Rahmen der EU-Digitalisierungsstrategie hat die EU-Kommission am 21. April 2021 dazu einen Vorschlag für eine Grundverordnung, den sogenannten „Artificial Intelligence Act“ vorgelegt.* In meinen Beiträgen vom 03.02.2022 und 22.02.2022 habe ich einen Überblick über die Systematik sowie die Regelungen skizziert.
Kompromisstext des Europäischen Rates
Der Verordnungsvorschlag der EU-Kommission wird im sogenannten Trilog mit den am Gesetzgebungsprozess beteiligten Institutionen (Europäisches Parlament und Europäischer Rat) weiter verhandelt. Die Gremien prüfen den Vorschlag und schlagen Änderungen oder Ergänzungen vor. Basierend auf dem Vorschlag der EU-Kommission hat der Europäische Rat genau dies getan und am 29.11.2021 einen sogenannten Kompromisstext veröffentlicht.**
Und der hat es in sich, vor allem aus Sicht der Versicherungsbranche. Aber der Reihe nach.
Anforderungen an Hochrisikosysteme
Zur Erinnerung: In dem Vorschlag der EU-Kommission wird in einem risikobasierten Ansatz eine Klassifikation der KI-Systeme in vier Kategorien vorgenommen. Je nach Zuordnung zu einer der vier Kategorien ergibt sich der Umfang der Regulierung. Der Fokus der Regulierung liegt auf den sogenannten Hochrisikosystemen, für die umfassende Regelungen vorgesehen sind: Unter anderem ein spezifisches Risikomanagement, eine Daten-Governance, umfängliche technische Dokumentationen und Aufzeichnungspflichten, Transparenzvorschriften, Menschliche Aufsicht sowie besondere Anforderungen an Genauigkeit, Robustheit und Cybersicherheit.
Darüber hinaus werden weitreichende Pflichten für Anbieter von Hochrisikosystemen formuliert. Dazu zählen die Einrichtung eines eigenen Qualitätsmanagementsystems, die Pflicht einer regelmäßigen Konformitätsbewertung sowie umfassende Informationspflichten gegenüber den zuständigen Behörden.
Einstufung von KI-Systemen in Versicherungen als Hochrisikosysteme
Kriterien zur Einstufung als Hochrisikosystem sind gemäß Artikel 6 in Anhang III aufgelistet. Dort werden insgesamt acht Gruppen von Einsatzbereichen festgelegt. Aus Sicht der Versicherungsbranche könnte hier lediglich die Gruppe fünf „Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen“ relevant sein. In dem Vorschlag der EU-Kommission finden sich jedoch lediglich Hinweise auf KI-Systeme in Behörden, Kreditinstituten sowie Rettungsdiensten und Feuerwehren. Von Versicherungen lesen wir hier nichts!
Das ändert sich mit dem Kompromisstext des Europäischen Rates. Dieser schlägt vor, die Gruppe fünf um eine vierte Kategorie zu erweitern. Sinngemäß heißt es dort: „KI-Systeme, die für die Festsetzung von Versicherungsprämien verwendet werden sollen, Risikoprüfungen und Schadensbewertungen“. Damit würden zahlreiche KI-Anwendungen in Versicherungen als Hochrisikosysteme klassifiziert und so unter die umfassende Regulierung fallen!
Definition von KI-Systemen im Artificial Intelligence Act
Möglicherweise betrifft dies dann nicht nur den Einsatz von KI-Systemen im landläufigen Sinne. In Artikel 3, Absatz 1 des Vorschlags der EU-Kommission wird eine sehr weit gefasste Definition von KI-Systemen gegeben und die Techniken und Konzepte in Anhang I spezifiziert. Und dort finden sich u.a. Logik- und wissensgestützte Konzepte und auch statistische Ansätze. Demnach könnten künftig auch heute gängige Verfahren der Risikoprüfung, der Schadenbewertung und der Prämienfestsetzung, die wir im Allgemeinen nicht als KI-basiert betrachten, unter die obige Regulierung fallen.
Hierzu jedoch präzisiert der Kompromisstext des Europäischen Rates die Definition und fasst den Begriff eines KI-Systems enger. Traditionelle Softwaresysteme, die normalerweise nicht als KI angesehen werden, sollen demnach nicht in den Geltungsbereich fallen.
Stellungnahme des GDV
Am 26.01.2022 veröffentlichte der GDV eine Stellungnahme***, in der er begründet, warum er die obige Erweiterung der Gruppe fünf für nicht gerechtfertigt hält. Dabei verweist der GDV auf die bereits umfängliche und strenge Regulierung im Versicherungssektor sowie die Grundprinzipien der risikobasierten Prämienfestsetzung und der Risikobewertung, unabhängig davon, ob dafür KI-Systeme zum Einsatz kommen oder nicht. Schließlich ergänzt der GDV, dass Entscheidungen im Versicherungssektor stets überprüfbar und reversibel sind. Die Kunden haben immer das Recht, eine weitere (auch aufsichtliche) Überprüfung von Entscheidungen im Versicherungsgeschäft zu verlangen, egal, ob KI-Systeme eingesetzt werden oder nicht.
Zwischenbilanz
Mit dem Kompromisstext des Europäischen Rates zum Artificial Intelligence Act entsteht für die Versicherungsbranche möglicherweise eine komplett neue Situation. War gemäß dem ursprünglichen Vorschlag für KI-Systeme in Versicherungen fast keine Regulierung vorgesehen, steht mit dem Kompromissvorschlag des Europäischen Rates eine weitreichende Regulierung im Raum.
Aber: Bislang ist noch nichts entschieden! Bis zu einer Verabschiedung, die aktuell für den Herbst 2022 erwartet wird, kann das Pendel noch in die eine oder die andere Richtung ausschlagen. Wir werden Sie auf dem Laufenden halten.
*) Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS
**) Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts – Presidency compromise text
***) Position Paper of the German Insurance Association (ID Number 6437280268-55) on the EU regulatory framework for artificial intelligence, 26. Januar 2022
