Tegut-Kundendaten sind im Darknet aufgetaucht

[Holt]

Im Endefekt sagts das ja aus, ohne solch ein System verbirgt man vor der Bank oder Versicherung etc. wie hoch das eigene Risiko ist.
Man profitiert also von einer Unwissenheit...
Ich sehe da nicht wirklich ein Problem damit dass sich der Vertragspartner all die Information beschafft die es braucht für ein faires "risk assessment".

Wer garantiert denn, dass die ein faires "risk assessment" machen? Die Algorithmen werden ebenso unbekannt bleiben wie die Eingangsdaten die ein Unternehmen über den Kunden gesammelt hat und am Ende steht da ein Ergebnis, gegen das man nicht vorgehen kann, egal wie unfair es ist. Dies kann auf Fehlern in den Daten beruhen, oder auch auf einen Bug im Algorithmus, aber dies wird man nie erfahren. Da liegt das Problem und Dinge die man heute als nicht problematisch ansieht, können morgen so betrachtet werden.

Für Fairness muss dann der Staat sorgen.

Das vergisss mal lieber oder schau Dir an wie sehr der Staat dafür sorgt das Schufa und Co. faire Scores erstellen. Schufa und Co. sind übrigens ein gute Beispiele welchen Einfluss Daten die gesammelt wurden und undurchsichtige Algorithmen die nicht offengelegt werdden müssen, weil sie als Geschäftsgeheimniss gelten, auf das Leben der Leute haben können.