Das BRZ-Frameworks baut auf vertrauenswürdige KI

Sind Systeme mit künstlicher Intelligenz eine »Blackbox« ? Bei Österreichs größtem IT-Dienstleister für die Verwaltung, dem Bundesrechenzentrum ist man überzeugt, dass Technologie nur dann erfolgreich sein kann, wenn Menschen Vertrauen dazu haben und Transparenz auch in den Entscheidungen gegeben ist.

So ist eine »vertrauenswürdige KI« seit mehreren Jahren einer der Schwerpunkte in der Arbeit des Bundesrechenzentrum (BRZ). Was das bedeutet: Jede österreichische Bürgerin und jeder Bürger soll künftig wissen, wenn die Verwaltung algorithmische Entscheidungsunterstützung bei Verfahren einsetzt. Im sensiblen Bereich der öffentlichen Verwaltung ist es besonders schwierig, ethische Themen zu behandeln. Um von Beginn an möglichen Widerständen entgegenzuwirken, konzentriert sich der BRZ-Ansatz auf die Risikoeinschätzung algorithmischer Entscheidungsunterstützung – kurz gesagt: Die KI unterstützt, der Mensch entscheidet. Wichtig ist dabei eine Sensibilisierung aller Beteiligten. Die ersten Anwendungen eines umfassenden BRZ-Frameworks »Vertrauenswürdige KI« im Rahmen mehrerer »Proof of concepts« haben bereits gezeigt, dass man auf dem richtigen Weg ist.

Wolfgang Kabelka, stellvertretender Abteilungsleiter AI im Bundesrechenzentrum, hat mit seinem Team eine Toolbox erarbeitet, die den Kunden ein gemeinsames Verständnis zum Thema vertrauenswürdige KI vermitteln soll. Gleichzeitig zeigt sie auf, welche Risiken mit dem Einsatz eines KI-Systems verbunden sind und wie man diese bei gleichzeitiger Nutzenmaximierung reduziert.

Quelle: Innovatives Österreich – künstliche Intelligenz