Sicherer KI-Einsatz

Dokumente sortieren, Bescheinigungen erkennen, Formulare analysieren: Künstliche Intelligenz (KI) kann so einiges. Der Einsatz von KI-Systemen kann Beschäftigte bei ihren Aufgaben unterstützen, Prozesse effizienter machen und Bearbeitungszeiten verkürzen.

Wichtig ist für alle Beteiligten, dass KI innovativ, transparent und vor allem sicher eingesetzt wird. Schließlich geht es oft um sensible Daten oder Prozesse. Um den wertebasierten KI-Einsatz zu fördern, hat das „Netzwerk KI in der Arbeits- und Sozialverwaltung“ – ein Projekt der Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales – die „Selbstverpflichtenden Leitlinien für den KI-Einsatz in der behördlichen Praxis der Arbeits- und Sozialverwaltung“ veröffentlicht.

Die BGHM war an der Entwicklung der Leitlinien beteiligt und nutzt sie nun freiwillig als Basis für den sicheren KI-Einsatz. Die Leitlinien sollen dabei helfen

• Einführungsprozesse menschzentriert zu gestalten und Ziele zu definieren, Folgen abzuschätzen und Risiken zu bewerten,
• die Datenqualität sicherzustellen und mögliche Fehler in der Datenbasis, sogenannte Bias, zu vermeiden,
• Transparenz zu schaffen und Erklärbarkeit herzustellen.

Personen, die potenziell von KI-basierten Entscheidungen betroffen sind, wird mit dem Leitfaden transparent gemacht, welche Werte, Prinzipien und Empfehlungen dem zugrunde liegen.