KI beruflich nur noch nutzen, wenn man kompetent genug ist (NL 3/25)

RA Mag. Stephan Novotny, Foto: Stephan Huger

Künstliche Intelligenz: Ab 2. 2. 2025: Einiges verboten, hohe Strafen drohen.

Unter obigem Titel veröffentlichte kürzlich DER STANDARD einen Bericht, der sich ganz allgemein mit der KI beschäftigt (Link unten anbei), den wir zum Anlass nahmen, um uns mit dem Thema KI oder AI (für Artificial Intelligence) zu beschäftigen.
Und Informationen für Sie zusammenzutragen. Denn: Glaubt man Medien-Berichten, so wird sich KI zu einem Schlüsselthema in der Finanz- und Versicherungswelt entwickeln. Wie schnell das passieren kann, zeigt die Nutzung von Systemen wie ChatGPT in den letzten Monaten.

Dennoch wissen sehr viele Marktteilnehmer noch nicht oder nicht ausreichend genug, welche Anwendungen in unseren Branchen möglich sein könnten und was die EU-KI-Verordnung verbietet bzw. welche Auflagen sie für die nicht verbotenen Anwendungen vorschreibt.
Besonders auf nötige Ausbildungen für alle, die KI einsetzen (wollen), möchten wir Sie ganz dringend hinweisen.

Weiters wollen wir in den nächsten Wochen darüber informieren…

was in der KI-Verordnung (oft auch als AI act bezeichnet) steht und seit wann Sie bereits gilt.
Wie die EU versucht die KI-Systemen nach Risiken zu kategorisieren und was ab 2. 2. nun verboten /erlaubt ist und wo es Graubereiche gibt.
Welche Auswirkungen hat das alles für Unternehmen?
Wofür wird heute schon KI verwendet? Und was könnten bald Anwendungsfälle der KI sein?
Und wie schaut es mit den verpflichtenden Schulungen beim Entwickeln, Betreiben und Einsetzen der KI aus?
Wo bekomme ich einen raschen Überblick über KI, sozusagen einen Blitzstart?

Das haben wir beim auf Versicherungs- und Datenschutzrecht spezialisierten Anwalt Mag. Stephan Novotny erfragt. Hier sein Input.

Was ist die KI-Verordnung und warum ist sie wichtig?

Fakt ist: Das Thema der Künstlichen Intelligenz (KI) wird in unserem Alltag immer präsenter. Aber mit all den Möglichkeiten, die sie bietet – etwa die Automatisierung von Arbeitsprozessen, personalisierte digitale Assistenten – gehen auch erhebliche Herausforderungen einher. Genau an dieser Stelle setzt die KI-Verordnung der Europäischen Union an: Sie soll einen rechtlichen Rahmen schaffen, der Risiken minimiert, während gleichzeitig Innovationen nicht ausgebremst werden.

Die KI-Verordnung wurde am 12. Juli 2024 veröffentlicht und ist bereits zum Teil am 1. August 2024 in Kraft getreten.
Die Entwicklung (seit in Krafttreten) und die Zukunft zeigt die folgende Graphik:

Graphik: Zeitplan des AI Acts seit Inkrafttreten, Quelle: Digital Austria, BKA

Bei der KI-Verordnung handelt es sich um eine europäische Verordnung, welche im Rahmen eines ordentlichen Gesetzgebungsverfahren von der Europäischen Kommission in Zusammenarbeit mit dem Europäischen Parlament und dem Ministerrat (Rat der EU) erlassen wurde. Nachdem die KI-Verordnung Einstufungen von „kein Risiko“ bis „inakzeptables Risiko“ vorgenommen hat, wird sie stufenweise eingeführt, orientiert an diesem System. Den Anfang machen diejenigen Systeme, die verboten werden sollen und bis 2027 soll die gesamte Verordnung gelten.

Kategorisierung von KI-Systemen

Da die KI-Verordnung einen risikobasierten Ansatz verfolgt, werden KI-Systeme in Zukunft entsprechend ihrem Risikopotential kategorisiert.
“Risiko“ im Sinne des AI-Acts ist die Kombination aus der Wahrscheinlichkeit des Eintritts eines Schadens und der Schwere dieses Schadens (Artikel 3).

Es wird zwischen folgenden Stufen unterschieden: minimales bzw. kein Risiko, begrenztes Risiko, hohes Risiko und inakzeptables Risiko. Während jene KI-Systeme mit minimalem bzw. keinem Risiko keine spezifischen Pflichten erfüllen müssen, werden den AnbieterInnen und BetreiberInnen von jenen mit „begrenztem“ Risiko Transparenzpflichten auferlegt. Gemäß Artikel 50 AI Act fallen darunter folgende Systeme: Solche, die mit natürlichen Personen interagieren, Bild-, Audio-, Text- oder Videoinhalte erzeugen oder manipulieren sowie Systeme zur biometrischen Kategorisierung und Emotionserkennung.

Im Vergleich dazu erfordert die Kategorie der Hochrisiko-KI-Systeme die Einhaltung bestimmter Anforderungen. In die Stufe des inakzeptablen Risikos fallen und sind daher verboten beispielsweise KI-Systeme, die das menschliche Verhalten manipulieren, um den freien Willen des Menschen zu umgehen sowie solche, die eingesetzt werden, um die Schwächen von Menschen auszunutzen.

Doch was kann die KI?
Wofür wird Sie schon jetzt und bald eingesetzt werden?
Was bedeutet das für den Finanz- und Versicherungsbereich?
Entscheidet künftig die KI, ob jemand kreditwürdig ist (Kredit-Scoring ist das Schlagwort dazu)?
Spricht der Kunde bald nur noch mit einem Chatbot oder irgendein System regelt automatisch den Schaden?
Darf KI künftig in unseren Bereichen eingesetzt werden und falls ja, wie?

Mehr dazu im nächsten IVVA-Newsletter.

Beste Grüße vom IVVA Team und Mag. Stephan Novotny

Interessante weiterführende Links:

https://artificialintelligenceact.eu/de/