In der jüngsten gemeinsamen Publikation von PwC Schweiz, dem Smart Government Lab der Universität St.Gallen und Modulos AG bieten wir eine praktische Orientierung, wie der öffentliche Sektor eine wirksame Governance der künstlichen Intelligenz (KI) aufbauen kann. Unsere Empfehlungen basieren auf Interviews mit Fachpersonen, der Analyse von Governance-Regelwerken und Erfahrungen aus der Praxis.
Komplexität als Herausforderung
Organisationen des öffentlichen Sektors stehen vor der komplexen Herausforderung, das Potenzial von KI-Systemen zu nutzen und gleichzeitig deren Risiken zu kontrollieren. Zum einen bestechen KI-Systeme durch erhebliche Vorteile wie Kosteneinsparungen, verbesserte Entscheidungsgrundlagen und eine Entlastung der Mitarbeitenden. Zum anderen bergen sie bedeutende Risiken, die von technischen Herausforderungen über rechtliche Unsicherheiten bis zu ethischen Bedenken reichen.
Diese Risiken wiegen in staatlichen Organisationen besonders schwer. Mehr als die Privatwirtschaft müssen sie aufgrund ihrer besonderen Verantwortung für das Gemeinwohl bei Rechtsstaatlichkeit, Transparenz und dem Schutz der Privatsphäre höchste Standarts gewährleisten. Vorfälle der jüngeren Vergangenheit zeigen, dass ein unzureichend gesteuerter Einsatz von KI-Systemen erhebliche Schäden und Vertrauensverluste verursachen kann. Eine effektive KI-Governance hilft dem öffentlichen Sektor, die Chancen der Technologie zu nutzen und zugleich seinen spezifischen Anforderungen gerecht zu werden.
KI-Governance ist ein System von Regeln, Praktiken, Prozessen, technischen und nicht technischen Instrumenten, mit dem eine Organisation sicherstellen kann, dass der Einsatz von KI-Systemen mit ihren Strategien, Zielen und Werten übereinstimmt, gesetzliche und ethische Anforderungen erfüllt und sich an einer nachhaltigen Wertschöpfung für sämtliche Anspruchsgruppen orientiert.
KI-Governance strukturiert aufbauen
In unserer Publikation präsentieren wir einen praxisorientierten Ansatz, der die erwähnte Komplexität in handhabbare Arbeitspakete aufteilt. Basierend auf dem international anerkannten Standard ISO/IEC 42001 und angepasst an die Anforderungen des öffentlichen Sektors in der Schweiz haben wir einen konkreten Fahrplan für das erste Aufbaujahr einer KI-Governance entwickelt. Mit der folgenden Checkliste fassen wir die wichtigsten Schritte zusammen. Je nach Reifegrad und Kontext sollte eine Organisation diese unterschiedlich gewichten.
Frage: Versteht Ihre Organisation den Kontext für den Einsatz von KI-Systemen?
Konkrete Schritte:
- Relevante Anspruchsgruppen einbeziehen: Erfragen Sie die Bedürfnisse und Erwartungen interner und externer Anspruchsgruppen für den Einsatz von KI-Systemen, z. B. in Workshops mit Vertretungen verschiedener Abteilungen und im Gespräch mit externer Unterstützung.
- Risikoexposition bewerten: Prüfen Sie, welchen Risiken Ihre Organisation durch den bestehenden und zukünftigen Einsatz von KI-Systemen ausgesetzt ist und wie stark diese ausgeprägt sind.
- Rechtsrahmen analysieren und anpassen: Stellen Sie sicher, dass rechtliche Rahmenbedingungen für den Einsatz von KI-Systemen vorhanden sind. Falls erforderlich, passen Sie die rechtlichen Grundlagen zeitnah an.
Frage: Haben Sie übergeordnete Ziele und klare Grundsätze für den Einsatz von KI-Systemen formuliert?
Konkrete Schritte:
- KI-Richtlinie entwickeln: Legen Sie den allgemeinen Kurs und die grundlegenden Prinzipien für den Einsatz von KI-Systemen in Ihrer Organisation fest. Diese Richtlinie dient Ihnen als Orientierung für alle KI-bezogenen Aktivitäten.
- Rollen und Verantwortlichkeiten klären: Definieren und kommunizieren Sie Zuständigkeiten und Rollen entlang des ganzen Lebenszyklus (Entwicklung, Nutzung und Überwachung) von KI-Systemen. Dokumentieren Sie diese für Ihre internen und externen Anspruchsgruppen.
- Praxisorientierte Leitlinien entwickeln: Erarbeiten Sie spezifische Leitlinien für die Entwicklung, die Beschaffung und das Lebenszyklus-Management von KI-Systemen. Diese Leitlinien sollten die interne Nutzung und die Beschaffung externer KI-Systeme abdecken, um Konsistenz und Compliance sicherzustellen.
Frage: Haben Sie einen Überblick über die Chancen, Risiken und Ressourcen für den Einsatz von KI-Systemen?
Konkrete Schritte:
- Chancen und Risiken identifizieren: Führen Sie Potenzialanalysen durch, um relevante KI-Anwendungsfälle zu identifizieren. Starten Sie gleichzeitig eine erste detaillierte Analyse der Risiken, die der aktuelle und künftige Einsatz von KI-Systemen mit sich bringt.
- Ressourcenübersicht erstellen: Erstellen Sie eine detaillierte Übersicht über die vorhandenen und benötigten Ressourcen wie Daten, Personal oder Infrastruktur. Dieser Schritt kann eine Bestandsaufnahme verfügbarer Datensätze und IT-Ressourcen sowie eine Bedarfsanalyse im Bereich Fachkräfte umfassen.
Frage: Verfügen Sie über die notwendigen Kompetenzen und Ressourcen für eine wirksame KI-Governance?
Konkrete Schritte:
- Ressourcen für den Aufbau bereitstellen: Stellen Sie sicher, dass genügend finanzielle Mittel und Personal zur Verfügung stehen, um die für den Aufbau von KI-Governance notwendigen Initiativen umzusetzen.
- Schulungs- und Weiterbildungsprogramme aufsetzen: Entwickeln Sie rollengerechte Schulungen, etwa praxisorientierte Grundlagen für Führungskräfte und spezialisierte Fortbildungen für IT-Teams. Solche Programme helfen Ihnen, Wissenslücken zu schliessen und Kompetenzen langfristig aufzubauen.
- Kooperationsplattformen schaffen: Initiieren Sie Plattformen für den Erfahrungsaustausch und die Zusammenarbeit mit internen und externen Anspruchsgruppen wie anderen Verwaltungen, Forschungseinrichtungen und der Zivilgesellschaft. So verbreitern Sie Ihre Wissensbasis und stärken das Netzwerk Ihrer Organisation.
Frage: Haben Sie alles Nötige unternommen, damit interne und externe Anspruchsgruppen Ihrem Einsatz von KI-Systemen vertrauen?
Konkrete Schritte:
- Risiken fortlaufend identifizieren und dokumentieren: Etablieren Sie einen geordneten Prozess, damit Sie Risiken laufend identifizieren und bewerten und Ihre Massnahmen zur Risikominimierung dokumentieren können.
- Kommunikationsstrategie entwickeln: Erstellen Sie eine transparente und stufengerechte Kommunikationsstrategie und informieren Sie regelmässig und klar über den Einsatz von KI-Systemen in Ihrer Organisation. Das fördert das Vertrauen interner und externer Anspruchsgruppen.
- Betroffene zu Beteiligten machen: Kommunizieren Sie regelmässig mit relevanten Anspruchsgruppen über Fortschritte und Herausforderungen, um das Verständnis für den Einsatz von KI-Systemen und dessen Vorteile zu festigen.
Fazit
Der Aufbau einer KI-Governance mag auf den ersten Blick komplex erscheinen. Mit unserer Publikation zeigen wir auf, dass sich mit einer strukturierten Herangehensweise und Priorisierung bereits im ersten Jahr wichtige Grundlagen schaffen lassen. Öffentliche Organisationen können sich dabei an der hier präsentierten Checkliste mit praktischen Massnahmen orientieren.
Kontaktieren Sie uns
Sebastian Singler
