Nach meiner Einschätzung haben diese sogenannten Ethik-Abteilungen (wir haben ja schon im ersten Porträt über Deborah Raji etwas ähnliches gelesen) zwei Ziele:
Erstens eine PR-Fassade aufzubauen, und zweitens brillante junge Menschen in diesem Forschungsfeld an sich zu binden und so zu neutralisieren.

Klassisches Beispiel des Streisand-Effekts: Mit dem Versuch, die unliebsame Information in Gebrus Publikation zu unterdrücken, hat Google genau das Gegenteil erreicht. Ernüchternd, dass ein wichtiges Thema wie Ethical AI erst via eines personifizierten Skandals seinen Weg in die breite Öffentlichkeit gefunden hat.

Von dieser Kündigung konnte man in anderen Zeitungen, in kürzerer Form, auch schon lesen. Ich glaube gerne, das Frau Gebru eine superintelligente, engagierte Frau ist. Was mich aber wirklich interessieren würde ist, warum google sie entlassen hat und zwar die konkreten Überlegungen dahinter. Diese Leute sind ja nicht blöd und mussten mit einem Shitstorm rechnen. Mehr Recherche und weniger Emotion wäre für mich informativer.

...und es ist ein Muster, siehe den englischen Wikipedia-Eintrag über Margaret Mitchell, die Gebru den Job bei Google angeboten hatte. Sie wurde vor einem Jahr von Google gefeuert:
In February 2021, her employment at Google, where she was co-leading the Ethical Artificial Intelligence team with Timnit Gebru, was terminated. Her dismissal came after a five-week investigation by Google, who claim that she violated the company's code of conduct and security policies. This came only a few weeks after the controversial departure of her former team co-lead Timnit Gebru in December 2020. Prior to her dismissal, Mitchell had been a vocal advocate for diversity at Google, and had voiced concerns about research censorship at the company.

Mich erstaunt immer wieder wie Leute erstaunt sein können über das unethische Verhalten von Google & Co.

Dabei liegt das doch auf der Hand: Kern des Geschäfts ist, möglichst viel über alle Menschen zu lernen, sie zu modellieren und ihr Verhalten vorherzusagen.
Ist das ethisch vertretbar?

(Ich glaube nicht, dass es noch eine Rolle spielt ob die Vorhersagen präzise sind oder von Vorurteilen behaftet.)

Eine Firma deren Kern nicht ethisch vertretbar ist kann noch so viele Ethik Abteilungen haben. Der Kern bleibt.

Herzliche Gratulation zu dieser Republik-Serie! Sie erinnert in verschiedenen Punkten daran, wieder und weiterhin zu hinterfragen. Danke dafür! LG und einen schönen Tag allen, Anne

Ich habe eine Frage zum 3.letzten Abschnitt. Gebru sagt, dass sie mit der Gründung ihres Institutes "... auch viel mehr Ressourcen verbrauchen werde". Das verstehe ich nun überhaupt nicht, denn weiter oben kritisiert sie ja das large language model wegen zu hohen Energieverbrauchs und den den Schäden an der Umwelt.

Eine tolle Artikel Serie. Die Geschichte von Timnit Gebru hatte ich damals auf Twitter live mitverfolgen können, da ich mich für den Bereich KI und Ethik sehr interessiere.

Soweit ich es verstanden hatte war Gebru zum Zeitpunkt der fristlosen Entlassung im Urlaub und erfuhr es dann erst von Kollegen.

Das ganze Vorgehen Seitens Google (die Forderung das Gebru ihre Autorenschaft an der Forschungsarbeit zurück zieht) wurde damit begründet das Google ausreichende Verfahren hätte um den kritisierten Bias in Sprachmodellen zu mitigieren.

Die Folgen für Gebru war nicht nur die fristlose Kündigung sondern es wurde auch massiv versucht sie zu diskreditieren.

Hätte Gebru nicht eine so solide Unterstützer Basis Aufgrund ihrer enormen Qualitfikation und bedeutenden Arbeit gehabt, wäre ihre berufliche Existenz hier sicher vernichtet worden.

Jeff Dean hatte trotz des desaströsen Vorgehens persönlich keinerlei Folgen zu tragen.
Auf AI Konferenzen dürfte er aber in der nächsten Zeit kein sehr willkommener Gast sein.

Eine kleine Anmerkung:
ACM ist die Association of Computing Machinery (acm.org), die Sponsoren von FAccT sind.
Google wurde als Sponsor nach der Entlassung Gebrus übrigens ausgeladen.

Toller Beitrag aus einer sehr wichtigen Serie! Ich möchte aber noch darauf hinweisen, dass trans ein Adjektiv ist bzw. so verwendet werden sollte: Ein trans Kind, eine trans Person, eine trans Frau. Wäre schön, wenn ihr das im Text noch anpasst!

Ich bin da immer etwas erstaunt. Es sind doch gerade die globalisierten und tief kapitalistischen Unternehmen welche das grösste Interesse an einer 1-5% Gewinnmaximierung durch die Inklusion von Minderheiten hätten. Als Beispiel kann man die Bestrebungen von Google nennen welche die Suche in fast allen Sprachen verfügbar machte.