zur Übersicht

Algorithmen, Recht und Gesellschaft

up down

Erstellung von Leitfäden für den diskriminierungsfreien und arbeitnehmer*innenfreundlichen Einsatz von Algorithmen zur Entscheidungsunterstützung


Die Arbeitswelt ist durch die Digitalisierung in großer Veränderung begriffen.
Immer mehr Entscheidungen werden mit algorithmischer Unterstützung getroffen: Von Einstellung, Beförderung und Kündigung über Kreditwürdigkeit bis hin zu polizeilichen Maßnahmen und der Gewährung von Qualifizierungsmaßnahmen bei der Arbeitssuche oder Sozialhilfe. Diese algorithmenunterstützte Entscheidungsfindung wird häufig als besonders „objektiv“ und „neutral“ empfunden, tatsächlich wirft sie aber im gesamten Ablauf vielerlei potenziell und real diskriminierende Ungleichbehandlungen auf.
Im Projekt »Algorithmen, Recht und Gesellschaft – Entscheider*innen zwischen algorithmischer Steuerung und persönlicher Verantwortung« liegt das Hauptaugenmerk auf den Problemen, die in der Interaktion von Algorithmen mit Menschen entstehen. Im Unterschied zu Entscheidungen von Menschen, in denen auch Ermessensentscheidungen möglich sind, gibt es solchen Spielraum bei Algorithmen nicht. Dazu kommt, dass oft gerade durch die scheinbare Objektivität diskriminierende Resultate geleugnet oder wegerklärt werden. Bestehende Diskriminierungen werden somit verhärtet und sind durch die in vielen Fällen fehlende oder mangelhafte Transparenz solcher algorithmischen Systeme noch schwerer zu bekämpfen. All dies stellt Bestrebungen nach Gleichstellung, Inklusion und Diskriminierungsfreiheit vor Probleme.
Im Rahmen des Projektes wird die Frage behandelt, wie algorithmengestützte Entscheidungssysteme bestmöglich eingeführt und eingesetzt werden können, sodass Probleme möglichst entschärft werden. Ergebnis sind Leitfäden für Arbeitgeber*innen sowie für Betriebsrät*innen, die einen möglichst diskriminierungsfreien und arbeitnehmer*innenfreundlichen Einsatz solcher Algorithmen im Arbeitsleben gewährleisten sollen.

Institut für IT-Sicherheitsforschung, Fachhochschule St. Pölten
Matthias Corvinus-Straße 15
3100 St. Pölten
02742/313228246
forschung@fhstp.ac.at
https://isf.fhstp.ac.at/
  logo

Unternehmensprofil:
Das österreichweit einzigartige Institut für IT-Sicherheitsforschung erforscht und entwickelt ein in der Praxis effizientes und sicheres Instrumentarium an IT-Security-Maßnahmen, -Verfahren und -Lösungen. Zusätzlich beforscht das Institut auch Fragestellungen aus dem Bereich Data Science, Artificial Intelligence/Machine Learning und aus dem Grenzbereich zwischen Technik und Gesellschaft.
Markterfolge:
Die Resultate dieses Projekts sind in vielen verschiedenen Kontexten für Unternehmen, Vereine und Behörden gleichermaßen nutzbar. Die in der finalen Projektphase erstellten Leitfäden helfen bei der Berücksichtigung von ethischen, arbeitsrechtlichen, diskriminierungsrechtlichen und verwandten Fallstricken bei der Nutzung von algorithmenunterstützter Entscheidungsfindung; dies betrifft jeglichen Einsatz von Algorithmenunterstützung, bei dem die Entscheidungen mittelbare oder unmittelbare Auswirkungen auf Personen haben, also einen sehr umfassenden Bereich.
Gründungsjahr: 1996
Mitarbeiter 2019: 353
Weitersagen   E-Mail    Facebook   Twitter   Google+
drucken drucken