Datenschutz und KI

Künstliche Intelligenz wird als Schlüsseltechnologie der Zukunft angesehen, denn mit KI können Systeme automatisierte, datenbasierte Entscheidungen treffen. Die Art und Weise, wie Daten gesammelt, eingesetzt und strukturiert werden, um zu diesen Schlüssen zu gelangen, ist aber alles andere als neutral und bringt eine Vielzahl rechtlicher Probleme mit sich. Ein Beispiel aus dem Personalwesen.

Text: Maya Dougoud, publiziert am 04.05.2021

Die neuen Anwendungen, die durch KI-basierte Methoden ermöglicht werden, gehören derzeit zu den vielversprechendsten Entwicklungen der Digitalisierung. Ihr grosses Transformationspotenzial beruht auf der Sammlung und Verwaltung unzähliger Datensätze. In Anbetracht der zentralen Bedeutung der Daten wirft der Einsatz von KI fundamentale, rechtliche und ethische Fragen auf. Nicht nur das: Die Technologie bringt ihre eigenen Herausforderungen mit sich. Die enge Verbindung zwischen KI-gestützter Datenanalyse und Datenschutz ist also offensichtlich.

Um mit der fortschreitenden Digitalisierung Schritt halten zu können, ist der Einsatz von KI für viele Unternehmen unumgänglich. KI-gestützte Technologien sind auch für die schnelle, objektive Entscheidungsfindung basierend auf relevanten, umfassenden Datensätzen notwendig. Integrität und Qualitätssicherung beruhen jedoch auf guter Führung und Vertrauen.

Die EU High-Level Expert Group on Arificial Intelligence hat angesichts der Anwendungsbereiche, Architektur sowie der vielen Einsatzmöglichkeiten von KI-basierten Systemen drei Komponenten als absolut notwendig deklariert: Die KI muss selbst gesetzeskonform sein, ethischen Anforderungen entsprechen und auf einer belastbaren Struktur basieren.

Das Datenschutzrecht nimmt angesichts der Funktionsweise der KI-gestützten Systeme an Bedeutung zu und die technischen und organisatorischen Massnahmen des Datenschutzes erhalten eine ganz neue Dimension.

KI in der Arbeitswelt

In der Arbeitswelt ist KI im privaten wie auch im öffentlichen Sektor bereits stark verbreitet. Dennoch stellen sich auch im Bereich der Personalverwaltung grundlegende datenschutzrechtliche Fragen, auch wenn diese weniger offensichtlich sind. Private und öffentliche Unternehmen, die KI-gestützte Technologien zur Personalbeschaffung einsetzen, verletzten möglicherweise die Grundrechte, wenn man bedenkt, dass die KI-Algorithmen selbst voreingenommen sind und einseitige Ergebnisse liefern können. Zu den Grundrechten gehören die Rechtsgleichheit und das Diskriminierungsverbot sowie der Schutz der Privatsphäre.

KI und Personalbeschaffung in der Schweiz

Viele Schweizer Arbeitgeber, die Stellen in der Schweiz besetzen möchten, wenden sich an ausländische Subunternehmer, die zur Vorauswahl der Kandidatinnen und Kandidaten Onlineformulare analysieren. Diese Formulare machen den Eindruck, regelkonform und objektiv zu sein. Sie spiegeln eine offene Personalpolitik wider und verlangen daher weder Fotos noch Angaben zum Zivilstand oder zur Person. Zur Personalfindung werden jedoch ausgeklügelte Algorithmen angewendet, um hochsensible Informationen aus den verschiedensten Bereichen wie den sozialen Medien zu beziehen. Mittels dieser KI-Maschinerie werden Daten gesammelt, übertragen, zusammengestellt und für die Entscheidungsfindung hinsichtlich der Beschäftigungsfähigkeit der Person interpretiert. Zu den gesammelten Informationen gehören beispielsweise: Berufserfahrung, Zeugnisse, Gesundheitszustand, Zivilstand, Vorstrafen, ethnische Zugehörigkeit, Religion, sexuelle Orientierung, Geschlecht und politische Überzeugungen. Unter diesen Datensätzen, für deren Sammlung eine klare, transparente und ausdrückliche Zustimmung fehlt, befinden sich streng vertrauliche, persönliche und hochsensible Daten.

Vielfalt und Gleichberechtigung

Wenn wir die Voreingenommenheit des Systems bedenken, wird klar, warum kompetente Bewerberinnen und Bewerber zu früh aus dem Bewerbungsprozess ausscheiden. Oft sind farbige junge Frauen von dieser Form der Diskriminierung betroffen und können keine Stelle finden, die ihren Fähigkeiten entspricht. Obwohl bei der Bewerbung weder Alter, Geschlecht noch Herkunft angegeben wurde, wendet das System ganz automatisch solche Parameter an, indem es im digitalen Umfeld der Bewerberin nach entsprechenden Informationen sucht, und zwar ohne freie und ausdrückliche Zustimmung der betroffenen Person.

Dieses von der betroffenen Person nicht autorisierte Vorgehen verletzt nicht nur die Grundrechte, sondern verstösst auch gegen das Datenschutzgesetz und die damit zusammenhängenden Grundprinzipien (Transparenz, Datenminimierung, Zweckbindung). Die Situation verschärft sich, wenn wir bedenken, dass die Kategorisierung der Kandidatinnen und Kandidaten aufgrund diskriminierender Indikatoren wie Rasse, ethnischer Zugehörigkeit, Religion oder sexueller Orientierung erfolgt und die Personalauswahl demnach auf Vorurteilen beruht. Es sind also nicht nur die Grund- und Verfassungsrechte betroffen, auch Strafrechtsnormen können zur Anwendung kommen, z. B. Artikel 261bis StGB. 

Automatisierte Entscheidungsfindung im Personalwesen

Für die Mitarbeitenden der Personalabteilung ist es in einem ersten Schritt wichtig, von der Problematik der beschriebenen Technologien Kenntnis zu nehmen. In einem zweiten Schritt sollten sie sich über die allgemeinen Bedingungen der Systeme informieren sowie deren Funktionsweisen und die Implikationen ihrer Anwendung genau verstehen, um dann die verschiedenen Interessen in Einklang bringen und faire, verantwortungsbewusste Entscheidungen treffen zu können.

In der Tat greift der Mensch in allen Aspekten in die Funktionsweise von KI-Systemen ein und kann sich daher nicht von seiner Verantwortung freisprechen.

Wer solche Tools einsetzt, muss sich der vom System erlernten Vorurteile bewusst sein, muss wissen, wo der Mensch eingreift, und muss die technischen und organisatorischen Massnahmen rund um die Nutzung von KI in den verschiedenen Anwendungsbereichen kennen.

Daraus folgt, dass die Personalabteilung dafür verantwortlich ist, alle Mitarbeitenden zu schulen, zu informieren, zu sensibilisieren und auf die Risiken dieser Systeme aufmerksam zu machen. In der Tat greift der Mensch in allen Aspekten in die Funktionsweise von KI-Systemen ein und kann sich daher nicht von seiner Verantwortung freisprechen.

Ethische Bedenken

Welche Art von Gesellschaft wird es zukünftig geben? Laut einer Kolumne der Vereinten Nationen ist das eine entscheidende Frage. In derselben Quelle steht: «KI ist eine neue Grenze für die Menschheit. Wird sie überschritten, entsteht eine neue Kultur. Dabei geht es nicht darum, KI einzusetzen, um autonom zu werden oder die menschliche Intelligenz zu ersetzen.»

In Anbetracht der Implikationen und Risiken haben viele Organisationen unter anderem folgende Werte in ihre Verhaltenskodizes aufgenommen: KI-Technologien müssen jederzeit von Menschen kontrolliert werden können; KI-Systeme dürfen keine Vorurteile entstehen lassen oder verstärken.

Konkret muss das Personalwesen dafür sorgen, dass die menschliche Komponente bei den technischen und organisatorischen Massnahmen in der Personalpolitik einbezogen, geschützt, respektiert und gepflegt wird. Das Datenschutzgesetz und die Grundrechte machen dies erforderlich. Von den Mitarbeitenden im Personalwesen wird weiter erwartet, dass sie sich mit Initiativen für Vielfalt und Integration befassen, die Vorurteile und Diskriminierung bekämpfen, und die Organisation und Kultur des Unternehmens verändern. Für Unternehmen geht es um die Einhaltung aller privatrechtlichen, öffentlichen und strafrechtlichen Pflichten.

Die Personalabteilung muss sicherstellen, dass die Personalverwaltung nach einem humanistischen, wertebasierten Ansatz erfolgt, der im Einklang mit den Menschenrechten steht. Diese Empfehlung baut auf den Studien auf, die der Europarat und andere internationale Organisationen auf diesem Gebiet durchgeführt haben. Sie ist in dem bestehenden universellen, verbindlichen und anwendbaren Rahmen verankert, den die internationalen Menschenrechte bieten.

Zusammenfassend lässt sich sagen, dass künstliche Intelligenzen, die von menschlichen Inputs lernen (human-centric AI), eine Option sind. Die Notwendigkeit, den Einzelnen durch ethische Normen, Transparenz, Informationen und Rechtsbehelfe beim Einsatz von KI zu schützen, wird von europäischen und internationalen Menschenrechtsakteuren anerkannt.

Mehr zum Thema Diskriminierung und KI:

Fay Parris, Deborah Diallo, Monika Pfaffinger und ich haben im Rahmen der IAPP European Data Protection Intensive Online 2021 Webserie einen Vortrag zu diesem Thema gehalten. Die Präsentation ist auf der IAPP Website verfügbar.

Über den Autor
Maya   Dougoud

Maya Dougoud

Maya Dougoud ist als Rechtsberaterin im akademischen Umfeld (HES-SO//FR und SWITCH) tätig. Darüber hinaus unterstützt sie in ihrer Funktion als Mitarbeiterin des HumanTech Institutes der HEIA-FR und assoziierte Professorin der Hochschule für Wirtschaft in Freiburg auch die Forschung. Nach ihrem Juraabschluss an der Universität Freiburg spezialisierte sie sich in einem bilingualen Rechtskanzlei auf Wirtschaftsrecht und wechselte danach in die Staatsanwaltschaft. Privat engagiert sie sich sozial in der Association 38,5 für Kinder im Krankenhaus; sie ist zudem Vorsitzende der Juristinnen Schweiz.

E-Mail
Tags
Community
Weitere Beiträge