Werbung
Wie dem Nachrichtensender Bloomberg jetzt zu entnehmen ist, soll eine Regulierungsbehörde der Wall Street eine Untersuchung eingeleitet haben, um die Kreditkartenpraktiken der Goldman Sachs Group genauer zu untersuchen. Grund für die Ermittlungen soll eine geschlechtsspezifische Diskriminierung der neuen Apple Card sein. Der Algorithmus bevorteilt allem Anschein nach Männer bei der Festlegung des Kreditlimits.
Laut Aussagen von David Heinemeier Hansson hat der Creator von Ruby on Rails im Gegensatz zu seiner Frau das 20-fache Kreditlimit erhalten. Hansson äußerte sich nicht zu spezifischen einkommensbezogene Informationen, allerdings sagte er, dass beide eine gemeinsame Steuererklärung abgeben würden. Zudem gab Hansson zu Protokoll, dass seine Frau eine bessere Kreditwürdigkeit habe als er selbst. Somit ist es für ihn nicht nachvollziehbar, warum beim Kreditkartenlimit solch ein Unterschied herrscht.
Jeder Algorithmus, der absichtlich oder nicht zu einer diskriminierenden Behandlung von Frauen oder einer anderen geschützten Personengruppe führt, verstößt gegen das New Yorker Gesetz. Laut Aussagen eines Goldman-Sprechers würde das Unternehmen keine Entscheidung treffen, die auf Faktoren wie dem Geschlecht basiert.
Die Regulierungsbehörde eröffnete in der letzten Woche zudem eine weitere Untersuchung bei dem Gesundheitskonzern UnitedHealth Group. Eine Studie ergab, dass ein Algorithmus weiße Patienten gegenüber schwarzen Patienten bevorzugt.
Bei der Apple Card handelt es sich um ein Joint Venture zwischen dem kalifornischen Smartphonehersteller und der in New York ansässigen Bank, die für alle Kreditentscheidungen verantwortlich ist.
Einige Gesetzgeber fordern bereits eine Regulierung durch die Behörden. Senatorin Elizabeth Warren, eine Demokratin aus Massachusetts, sagte den Regulierungsbehörden bereits im Juni dieses Jahres, dass die Regierung Maßnahmen ergreifen muss, um sicherzustellen, dass die Antidiskriminierungsgesetze mit der Innovation Schritt halten.