Mit solchem Stumpfsinn riskieren wir auch unsere Fähigkeit zur Innovation - sowohl in technischer Hinsicht als auch in gesellschaftlicher. Das ist nicht unbedingt offensichtlich, darum empfehle ich unbedingt, sich einmal die 5-Minuten-Zusammenfassung Social Cooling von Tijmen Schep anzusehen.

Mich hat er davon überzeugt, dass die schwerwiegenste Folge einer anlasslosen Dauerüberwachung für die Gesellschaft der sogenannte Chilling Effect ist. Dieser kommt so zustande:

1. Deine Daten werden in tausende von unterschiedlichen Bewertungen verwandelt.

2. Die Leute beginnen zu merken, dass diese «digitale Reputation» ihre Chancen einschränken könnte.

3. Die Leute ändern ihre Verhaltensweise, um bessere Bewertungen zu kriegen.

Die Langzeiteffekte einer solchen Reputationsökonomie fasst Schep unter dem Begriff Social Cooling (in Anspielung auf Global warming) zusammen. Die Effekte im Einzelnen:

1. Eine Kultur der Konformität: Schon mal gezögert, einen Link anzuklicken, weil Sie dachten, eventuell wird dieser Klick aufgezeichnet, und das könnte falsch aufgenommen werden? Immer mehr Menschen spüren diesen Druck und beginnen sich selbst einzuschränken.

2. Eine Kultur der Risikoaversion: Als man damit begonnen hatte, Ärzte in New York mit Bewertungen zu versehen, hatte das unerwartete Folgen. Diejenige Ärzte, die versuchten, Krebspatienten im fortgeschrittenen Stadium zu helfen, hatten eine höhere Mortalitätsrate, was sich wiederum in tieferen Bewertungen wiederspiegelte. Hingegen Ärzte, welche nicht zu helfen versuchten, wurden mit höheren Bewertungen ausgezeichnet, obwohl deren Patienten früher starben. Bewertungssysteme können also ungewollte Anreize schaffen. Sie erhöhen den Druck, sich dem bürokratischen Durchschnitt anzugleichen.

3. Erstarrte soziale Dynamik: Digitale Reputationsysteme beschneiden unsere Fähigkeiten und unseren Willen, gegen Ungerechtigkeit aufzustehen. In China wird jedem Erwachsenen eine gesetzlich vorgeschriebene social credit score zugewiesen. Diese steht dafür, wie folgsam die Bürger sind und basiert auf dem Strafregister, wie sie sich in den sozialen Medien äussern, was sie kaufen und sogar den scores ihrer Freunde. Mit einem tiefen score kriegst du keinen Verwaltungsjob, keine Visa, keine günstigen Darlehen, nicht mal ein attraktiven Onlinedate. Gruppendruck ist die mächtigste und subtilste Form von Kontrolle.

Man kann sich das einfach gefallen lassen und hoffen, man selber werde davon verschont. Aber von den wirtschaftlichen Folgen eines Innovationsstillstands und der Ödnis einer konformen Gesellschaft wird niemand verschont bleiben. Mir ist daher unverständlich, wie Politikerinnen mit diesem billigen «Zum Schutze der Kinder!» glauben durchzukommen.

PS: Statt auf das inaktive Twitterkonto von Ulrich Kelber zu verweisen, könntet ihr auf das Backup des Posts beim Internet Archive verweisen. Bei Twitter scheint das nicht so recht zu funktionieren («Something went wrong»), aber beim Backup der privatsphären-freundlichen Mirrorseite Nitter ist der Beitrag von Herr Kelber immer noch ersichtlich.

Bei der (sowieso prinzipiell abzulehnenden) Chatkontrolle gäbe es bei der Masse der falsch-positiven Meldungen (die immer Einzelschicksale betreffen) auch eine beträchtliche Behinderung der Strafverfolgungsbehörden, deren Kapazität mit der Bearbeitung solcher "Fälle" gebunden würde und nicht mehr für die eigentliche Ermittlungsaufgabe zur Verfügung stünde.

Das Dramatische ist:

1. Kriminelle finden problemlos einen Weg drum herum und werden hiervon sowieso nicht betroffen sein (und nicht zu erwischen sein)

2. Es gibt unschuldige Opfer wie im Artikel beschrieben

3. IT-Profis haben das Wissen zu verhindern, dass ihre Daten nur in der jeweiligen Cloud gespeichert sind und wissen auch, eine Redundanz zu dem Hersteller-Konto einzurichten, aber die absolute Masse kann sich da kaum helfen

[edit: typo]

Apple wird bis Ende Jahr "client site encryption" für alle Fotos und Videos, welche in iCloud gespeichert sind, anbieten, und hat alle Pläne fallengelassen, Chats und Fotos von Benutzern automatisch nach Kinderpornografie zu scannen:
https://www.eff.org/deeplinks/2022/…ning-plans

Das heisst, Apple selber hat keinen Zugriff auf die Fotos der Benutzer und Benutzerinnen in iCloud, und weder Polizei noch Hacker können sich Zugriff verschaffen.

Ich sehe das grössere Problem darin, dass es ein falsches Signal für andere Staaten gibt welche im Bereich Überwachung und Menschenrechte untergraben schon etwas weiter sind. Die durchsuchen dann auch nach allen Inhalten welche ihnen nicht passen. Siehe die aktuelle Situation in China und Huawei.

Hier ein Hinweis auf die 4 Reiter der Infocalypse https://en.wikipedia.org/wiki/Four_…nfocalypse

Wäre nett gewesen, noch zu ergänzen, dass Kelber vollständig auf Mastodon umgestiegen ist und sein neuer Auftritt sich hier findet.

Hervorragender Artikel, tausend Dank!