Das ist der Kernsatz: «Die Forschung ist noch unschlüssig darüber, wie eine faire Vorhersage aufgrund von Statistiken und Algorithmen gelingen soll, ohne diskriminierendes Profiling zu betreiben.»
Bin gespannt, wie je "die Forschung" die Fariness solcher Vorhersagen nachweisen können wird...

Vielen Dank für diesen interessanten und aufschlussreichen Artikel. Ich schrecke manchmal zurück vor Artikeln, in denen es um Datenschutz oder Ähnliches geht. Hier finde ich, wurde das Thema sehr verständlich erläutert.
Ich frage mich auch, wie denn "eine faire Vorhersage aufgrund von Statistiken und Algorithmen gelingen soll, ohne diskriminierendes Profiling zu betreiben."

Wie die Anthropologen David Graeber und David Wengrow in ihrem sehr lesenswerten, neu auf Deutsch übersetzten Buch "Anfänge" ausführen basiert die Macht von Staaten oder staaten-ähnlichen politischen Systemen seit jeder auf zwei Pfeilern: der legitimierten Ausübung von Gewalt und der Kontrolle von Information. Der Text zeigt, dass die Möglichkeiten der Digitalisierung zur Informationskontrolle und damit zur Stabilisierung von Macht nicht nur in Autokratien wie China, sondern auch westlichen, "demokratischen" Staaten so weit wie möglich ausgeschöpft werden. Es wäre naiv zu vermuten, dass die Migrant:innen als einzige davon betroffen sein werden.

Was für eine humanitäre Grundhaltung haben Algorithmen?

Mir wird übel, wenn ich lese, was alles abläuft und was das konkret bedeutet.

Die Kontrollfreaks sind an der Macht. Irgend jemand könnte etwas Schlimmes tun. Dafür wird willkürlich eine Zielgruppe ins Visier genommen, die wenig Fürsprechende hat unter den Reichen und Mächtigen. Und mit Technologie wird geklotzt.
Dass dies eine gigantische, vollautomatisierte selbsterfüllende Prophezeiung sein könnte, ist wohl nur wenigen bewusst. Aus Angst, jemand könnte etwas Schlimmes tun, wird bestimmt jemand aus der Zielgruppe etwas Schlimmes tun. Was dann wieder das Kontroll- und Unterdrückungssystem verstärkt, was wiederum … Ein Perpetuum Mobile?

Ein perfektionierter Krieg gegen die Armen dieser Welt. Arme werden meist als überflüssig und bedrohlich empfunden und beschrieben. Als Ergänzung zu diesem Artikel möchte ich gerne mehr wissen über "die Armen". Wie hoch ist ihr Anteil an der Weltbevölkerung? Ihr Anteil am Konsum, Ressourcenverbrauch? Wie hoch ist der Anteil der von ihnen geleisteten, gesellschaftlich notwendigen Arbeit?

Es ist erschütternd zu erfahren was Europa alles vor hat. Wenn diese Mechanismen auch gegen Umweltzerstörer, Grossbetrüger, Diktatoren, Oligarchen, organisierte Kriminelle, eingesetzt werden und nicht nur gegen arme Flüchtlinge, egal woher sie kommen. Wie es in der Vergangenheit gezeigt hat, öffnet Geld alle Grenzen.

Es sei „lohnenswert, «über die technischen und rechtlichen Grenzen hinweg zu blicken und zu sehen, was noch möglich sein könnte»“ — gibt es dem irgendwas noch hinzuzufügen ???
Dann müsste es erst noch genauer heissen, denn das ist der eigentliche Gehalt jener Aussage: „die technischen Möglichkeiten jederzeit vollumfänglich auszureizen“ (und ausserdem laufend noch menschenfeindlicher zu machen) — und dabei „über sämtliche rechtlichen Grenzen auch gleich schon hinweg zu blicken“ — diese aktiv ausser Sichtweite zu stellen. Sich also von keinerlei rechtlichen Schranken mehr in irgendeiner Art mehr einschränken zu lassen.
Hat auch Europa, die Schweiz, alle noch demokratischen Staaten, nun ebenfalls endgültig den Verstand verloren bereits???
Da spinnen nun nicht mehr die Römer.
Noch schlimmer: dieliest sich als komplett unstoppable.
Das darf doch einfach nicht sein!!!
Das kann doch nicht sein!
Die Frage ist also dringendst:
Wie lässt sich das alles noch stoppen?
Dass bestehende Gesetze — von staatlich beauftragten Vollkontrollfreaks, last not least — dermassen vollumfänglich ausgehebelt werden sollen.
Das ist wieder einer der Momente, wo es sich gar nicht gut anfühlt, da keine Göttin mehr um Hilfe anschreien zu können. Früher hiess das flehen. Heute wären es Abermiliiarden Schreie.

Wir entsetzen uns über die totale Ueberwachung in China. Wenn es bei uns wie geplant weitergeht, sind wir in Europa auch bald soweit.

Das Einschränken der Freiheit unter dem Deckmantel des angeblichen Schutzes kennt keine Grenze. Und das um vor etwas zu schützen, was gar keine Gefahr ist nämlich die Migration und das was als Terror qualifiziert wird. Beide gehört zu den geringsten Gefahren denen man als Mensch ausgesetzt ist. Die Politiker, wo dies vorantreiben, verkennen das ihr Schutzsystem selbst, das was es schützen soll, zerstört.

Ich lese gerade das neue Buch „RCE“ von Sybille Berg. Sie beschreibt darin eine dystopische Welt, in der Daten und Digitalisierung eine ziemlich schreckliche Rolle spielen. Nach dem Lesen dieses Artikels denke ich, dass die Zukunft schon in der Gegenwart angekommen ist. Und viel zu wenig Menschen scheint das überhaupt zu interessieren. Danke für den Artikel!