Im ersten Teil des Interviews mit Ing. Thomas Lackner, HDI-Vorstand erfuhren wir mehr über die Entwicklung bei HDI in den letzten Monaten und welche Rolle die Agenten dabei spielten. Weiters: Wie haben sich die Unwetter der letzten Monate ausgewirkt? Zum Nachlesen von Teil 1 hier klicken…
Heute erfahren wir, ob es auch bei HDI einen Digitalisierungsschub gab und wo intern bereits KI eingesetzt wird? Auch fragten wir nach, wie man sich vor „halluzinierenden“ KI-Systemen schützt.
IVVA: Kommen wir zum Themen-Komplex Digitalisierung und KI.
Nach dem Digitalisierungs-Schub „dank“ Corona-Pandemie steht nun die nächste Revolution bevor, zumindest reden alle von Künstlicher Intelligenz.
Welche Rolle spielt bereits jetzt die KI und wofür könnte sie in Zukunft eingesetzt werden? Haben Sie da praktische Beispiele, damit sich unsere Leser:innen hier vorstellen können, was alles angedacht ist oder sogar schon möglich ist?
VST Lackner: Wir verwenden KI schon in mehreren Abteilungen, derzeit überwiegend unterstützend für interne Arbeitsabläufe. In der Software-Entwicklung verwenden wir KI-Tools wie Github Copilot, die den Entwicklungsprozess beschleunigen. In anderen Abteilungen wird unser interner Chatbot verwendet, der ChatGPT-ähnliche Funktionen bietet und darüber hinaus das Arbeiten mit einem oder mehreren Dokumenten ermöglicht.
Zukünftig ist geplant, mehr und mehr Arbeitsabläufe teils mit KI abzuwickeln und KI weiterhin unterstützend für Mitarbeiter:innen zu verwenden.
IVVA: Mag. Novotny sieht hier ähnliche Probleme auf die Vermittler:innen, aber auch Versicherer zukommen, wie wir sie bei der DSGVO hatten. Als Beispiel nennt er etwa, dass man ChatGPT (oder ähnliche Tools) verwendet und nicht realisiert, dass man damit die Daten der Anfrage / Übersetzung / Applikation dem KI-Anbieter zu Trainingszwecken zur Verfügung stellt. Was Datenschutzbedenken, Geheimhaltungs-/ Urheberrechtsverletzung und somit wieder Haftungen bedeutet.
Sind Sie sich dieser Problematiken bewusst und wie wollen Sie hier gegensteuern? Wird es Vorgaben für die Vermittler geben – wie es bei Einführung der DSGVO passiert ist und nötig war?
VST Lackner: Unser interner Chatbot läuft über die Microsoft-Cloud, die sicherstellt, dass die Daten nicht für anderweitige Zwecke verwendet werden. Für andere Tools sichern die Entwickler der Tools meistens zu, dass bei entsprechender Lizenzierung NICHT auf den eigenen Daten trainiert wird, da das natürlich besonders wichtig ist für Betriebe.
Aktuell ist unsere KI nur intern verfügbar, also für Mitarbeiter:innen und nicht für Vermittler:innen.
IVVA: Fakt ist auch, dass KI „lügen und betrügen, um ans Ziel zu kommen“. Laut einer aktuellen Studie des renommierten Massachusetts Institute of Technology (MIT) sind Systeme mit Künstlicher Intelligenz (KI) in der Lage,
Menschen zu täuschen – selbst wenn sie darauf trainiert wurden, hilfreich und ehrlich zu sein. Außerdem „erfinden KI-Systeme einfach Fakten“ (der Fachausdruck dazu ist „Halluzinieren“). Da die KI diese „Fakten“ so überzeugend formuliert, dass man solche Erfindungen oft nicht erkennt, sehen viele darin ein großes Gefahrenpotential für unsere Gesellschaft, aber auch die Unternehmen, die darauf vertrauen.
Soll wirklich so eine Technologie im Versicherungsbereich eingesetzt werden, wo es um die Absicherung von existentiellen Risiken geht? Wie sehen Sie diesen Konflikt zwischen vielleicht nützlichem Tool und Gefahrenpotential?
VST Lackner: Bei Wissensabfragen mit KI ist es wichtig, stets darauf zu bestehen, Quellenangaben zu bekommen und diese dann im Nachhinein zu überprüfen. Unsere interne KI zum Beispiel beantwortet alle Fragen zu Dokumenten mit einer direkten Quellenangabe aus dem Text. Wenn es darum geht, KI selbständig Aufgaben lösen zu lassen, ist wichtig, dass das Ergebnis dieser Aufgabe leicht zu verifizieren ist. Zum jetzigen Stand dieser Modelle sollte außerdem jeglicher Output von KI noch von Menschen kontrolliert werden. Bei einer vernünftigen Abwägung von Nutzen und Risiken und einer durchdachten menschlichen Überprüfung von Outputs kann die KI auch in einer „heikleren“ Branche wie dem Versicherungswesen einen wertvollen Beitrag leisten.
Im dritten Teil des Interviews fragen wir nach DORA, den Digital Operational Resilience Act“, um zu erfahren, wie sich HDI sich und die Berater / Vermittler darauf vorbereitet. Neue Produkte und Konditionen werden ebenso besprochen, wie etwa das wichtige Thema Weiterbildung.