Vielen dank für das (für mich) sehr interessante Interview. Mir war ConceptNet bisher entgangen, obwohl ich die einzelnen Komponenten (json-ld, dbpedia, cyc) aktiv verfolge.

Eigentlich müsste man jetzt konsequent sein und alle Produkte dieser Firma boykottieren, bis beide wieder eingestellt sind. Wäre schön, wenn sich noch jemand finden würde, der das gleiche Ziel hat, denn ich habe derzeit noch nicht ganz die Konsequenz und Durchhaltewillen von Greta Thunberg.

Das ist definitiv richtig. Erschreckend auch, dass das debiasing als "einfache" Arbeit in Billiglohnländer ausgelagert wird. Hier braucht es sehr viel mehr Aufmerksamkeit, die offenbar nicht einmal bei der Lesern der Republik übermässig gross ist, wie die Anzahl der Kommentare vermuten lässt.

Debiasing ist und bleibt wohl für längeres Handarbeit. Was im Interview beschrieben ist mit der Wortnähe, ist das "unsupervised learning" nämlich das Lernen anhand von Beispielen, ohne zu wissen was sie bedeuten.

Ein simples Beispiel: Wir können 10000 Bilder von Katzen und 10000 Bilder von Hunden nehmen und sie alle beschriften mit "Hund" und "Katze". So lernt die KI wie Hunde und Katzen aussehen. Wenn wir auch schauen, dass da Dackel und Huskys etc. drin sind und nicht nur der gleiche Border Collie vom Nachbarn, generalisiert das Netzwerk sogar ziemlich gut, wenn wir dann Bilder von Katzen und Hunden zeigen, die es noch nicht gesehen hat. Das ist "supervised learning" weil wir die Bilder vorher beschriftet haben.

Das Beschriften (auch "labeling") ist wegen der grossen Datenmengen nicht immer möglich, da es Handarbeit wäre. Deshalb wird oft "unsupervised learning" benutzt. Also zeigen wir dem Netzwerk unbeschriftete Bilder und es findet die Unterschiede von sich aus raus.
So kann es sein, dass sich dann ein Dackel und ein Husky eher unterscheiden als Katzen und Hunde. Es könnte also dann einfach 2 Gruppen geben, eine mit Dackel und Katzen sowie eine mit Huskys und anderen grossen Hunden.
Oder schlimmer: Eine Gruppe mit Katzen und Hunden die von einer Menschenhand gestreichelt werden und solche, die nicht gestreichelt werden.

Das waren jetzt alle harmlose Beispiele, aber es scheint offensichtlich, dass systemische Diskriminierung sehr einfach Eingang findet in solche Systeme. Man muss dann von Hand eine "Strafe" einbauen für das Netzwerk, wenn es einen Zusammenhang zwischen negativ behafteten Begriffen und dem Geschlecht, Aussehen, Herkunft einer Person findet. Diese Zusammenhänge muss man erst finden, dann als unerwünscht einstufen, und dann bestrafen. Automatisieren lässt sich das zwar auch, aber offenbar ist da BigTech noch nicht so weit.

(unwesentlich, aber fachlich falsch: Krebszellen kann man nicht im Röntgen sehen)

Ihr lieben Leute von der Republik, ihr müsst euch wirklich nicht wundern, wenn ihr in den Fokus der NSA geratet, weil ihr die Leute dazu drängt, dass sie, anstatt gläubig, wie es nach schweizer. Staatsdoktrin gelehrt wird, die Unfehlbarkeit der US- Computerin-dustrie und der amerikan. Regierungs-Beschlüsse dankbar und demütig entgegen zu nehmen, sogar noch anfangen, die technische Entwicklung und den segensreichen Fortschritt zu hinterfragen, ja sich selber sogar auch stets wieder Fragen nach Sinn Unsinn von "unumgäglichen Neuerungen zu stellen. Sepp, Grandson

Nun ja. Was sollen diese Systeme koennen, was sollen sie lernen ? Ja, man kann ihnen eine heile Welt vorgaukeln, indem der Input gefiltert wird. Wie einem "Kind aus gutem Hause", welches vieles eben nicht kennt, weder davon gehoert hat, noch sich das vorstellen kann. Das Kind aus dem guten Haus kommt dann da raus und lernt innert sehr kurzer Zeit, dass die bisherige Welt nicht ganz stimmt. Bei einem selbstlernenden System koennte man nun diesen Schritt (theoretisch) unterdruecken, indem der Lernmodus bei Auslieferung abgeschaltet wird. Dann bleiben die Entscheidungen eben kindlich. Ja. wenn das genuegt ... ist ja auch gut.
Ein update kann ja spater zugekauft werden.

Das De-biasen sollte man vergessen. Wie ein Kind findet so ein System den Bias von selbst raus. Allenfalls verkehrt herum. Im Sinne von .. "alle" mögen Zucker, nur Mama meint er sei schlecht.
Das Bias veraendern/unterdruecken fuehrt dann dazu, dass es Handlungen ohne sichtbare Ursache gibt. Die gibt es auch, wir nennen's Kultur.