Eine Gruppe von Forschern am IKM hat die Initiative zum integrierten Umgang mit Daten und KI ins Leben gerufen. Unternehmen stehen vor der Herausforderung, den Einsatz von Daten ethisch und rechtlich korrekt zu gestalten. Im neuen Schwerpunkt «Integrität» soll eine umsetzbare Governance von Daten und KI unterstützt werden. Im Beitrag zeigen wir auf, was Integrität beinhaltet, wie die Forschungsgruppe an der Umsetzung arbeitet und wie man mitmachen kann.

Die Nutzung von Daten und KI wirft komplexe ethische Fragen auf. Transparenz, Fairness, Rechenschaftspflicht und Nichtdiskriminierung sind zentrale Themen, die bei der Entwicklung und Nutzung von KI-Systemen berücksichtigt werden müssen.

Ethische Werte sind intuitiv verständlich, aber ihre Umsetzung in der Praxis ist schwierig. Im Kontext von Daten und KI kommen noch die vielfältigen Interessen und Standpunkte verschiedener Anspruchsgruppen hinzu.

Integrität als Schlüsselbegriff

Eine Gruppe von Forschern versucht, Ethik anwendbar zu machen und erarbeitet einen neuen Ansatz, der Integrität als zentrales Konzept etabliert. Integrität von Daten und KI bedeutet, dass diese auf ethische Weise erhoben, verarbeitet und genutzt werden.

Definition von Integrität

Integrität definiert sich im Kontext von Daten und KI als die kontinuierliche Identifikation und Analyse ethischer Spannungsfelder. Einfach gesagt: Integrität bedeutet, dass eine Organisation sich aktiv mit ethischen Fragestellungen auseinandersetzt. Sie deckt Bereiche auf, in denen ethische Konflikte auftreten können, analysiert diese und findet Lösungen auf Basis ihrer Werte und Leitlinien.

Warum ist Integrität wichtig?

Integrität ist in der Daten- und KI-Wertschöpfungskette aus mehreren Gründen wichtig:

• Funktionsfähigkeit von KI-Systemen: Um eine zuverlässige Leistung von KI-Systemen zu gewährleisten, benötigen sie akkurate und vollständige Daten für Training und Bewertung. Fehlerhafte oder unvollständige Daten führen zu unzuverlässigen Vorhersagen, Entscheidungen und Ergebnissen.
• Verringerung von Bias und Diskriminierung: KI-Systeme können bestehende Verzerrungen in den Trainingsdaten lernen und widerspiegeln. Mangelnde Integrität bei der Entwicklung und Anwendung von KI kann bestehende Vorurteile sogar verstärken.
• Schutz von Privatsphäre und Sicherheit: KI-Systeme sammeln und verarbeiten häufig große Mengen personenbezogener Daten. Integrität sorgt dafür, dass diese Daten verantwortungsvoll und ethisch korrekt erhoben, gespeichert und genutzt werden.
• Vertrauensaufbau bei Verbrauchern und Stakeholdern: Verbraucher und andere Interessengruppen schenken Systemen, die nachweislich mit Integrität entwickelt und eingesetzt werden, eher ihr Vertrauen und ihre Akzeptanz.

Was gibt es also konkret zu tun?

Die Verantwortung für die Integrität von Daten und KI liegt bei allen Akteuren der Daten- und KI-Wertschöpfungskette. Das Management hat dabei eine besondere Verantwortung und besondere Aufgaben, dazu gehören:

• Kontinuierliche Identifikation und Analyse ethischer Spannungsfelder
• Entwicklung und Implementierung von ethischen Leitlinien
• Schaffung einer Kultur der Integrität
• Förderung von Transparenz und Dialog

Um diesen Herausforderungen zu begegnen, hat sich eine Forschungsgruppe am IKM zum Ziel gesetzt, ein Framework mit leicht zugänglichen/messbaren Indikatoren für die Daten- und KI-Integrität entlang der gesamten Daten- und KI-Wertschöpfungskette zu entwickeln.

Die drei Ebenen des Framework

• Ebene 1: Indikatoren
  • Messung und Bewertung der Integrität von KI-Systemen
  • z.B. Fairness, Transparenz, Robustheit
• Ebene 2: Leitlinien
  • Orientierungshilfe für die Entwicklung und Nutzung von KI-Systemen
  • Basierend auf ethischen Prinzipien wie z.B. Menschenwürde, Nichtdiskriminierung und Datenschutz
• Ebene 3: Prozesse
  • Unterstützung bei der kontinuierlichen Verbesserung der Integrität
  • Etablierung von Strukturen und Verfahren zur Sicherstellung der ethischen Konformität

Nutzen für Unternehmen und Organisationen

Das Framework bietet Orientierungshilfe bei der Umsetzung von Integrität in der Daten- und KI-Wertschöpfungskette, unterstützt bei der Bewältigung der ethischen Herausforderungen und ermöglicht die kontinuierlichen Verbesserung der Integrität ihrer Daten und KI-Systeme. Aktuell wird das Framework in der Forschungsgruppe weiterentwickelt und kontextualisiert. Interessierte Akteure aus Unternehmen, Wissenschaft und Politik sind eingeladen, sich an dem Projekt zu beteiligen und den Weg zu einer verantwortungsvollen Nutzung von Daten und KI mitzugestalten.