Die Republik ist nur so stark wie ihre Community. Werden Sie ein Teil davon und lassen Sie uns miteinander reden. Kommen Sie jetzt an Bord!
Danke für den Artikel.
Vor allem die Bemerkungen gegen Ende scheinen mir wichtig. Es braucht Transparenz. Wir müssen wissen können, ob wir es mit einem Menschen oder mit eine Maschine zu tun haben. Weiter muss die Verantwortung bei Entscheidungen klar sei. Sie muss hier immer bei Menschen bleiben und kann nicht auf Maschinen und Algorithmen geschoben werden. Dabei braucht es auch mehr Transparenz zu den verwendeten Algorithmen um Verantwortlichkeiten festmachen zu können.
Ich muss annehmen, dass der Autor dieses Textes kein erfahrener Musikliebhaber ist. Denn er ist (in diesem Abschnitt seines Textes nur) dem Algorithmus selbst auf den Leim gegangen, wenn er meint, mit dem „digitalen Bach“ sei „die Hürde genommen“. Mit Kreativität und Kunst hat das gerade genau nichts zu tun. Es unterscheidet sich in nichts vom Einverleiben grosser Mengen sprachlichen Rohmaterials, was den Computer zum täuschend „echten Gesprächspartner“ macht. Es ist nur einfach das Einverleiben von damals üblichen Mustern und Regeln der Musik ergänzt um Resultate von Bachs einmaligem Können. Wohlgemerkt: Das Programm hat damit nicht Bachs Können erworben, es hat nur die Produkte dieses Könnens sich einverleibt und daraus Kochrezepte gemacht. Das Wunder von Bach besteht nicht allein darin, dass er tradierte Regeln und Muster gekonnt und komplex eingesetzt und weiterentwickelt hat, sondern darin, dass er damit Empfindungen zum Ausdruck bringt, die uns heute noch ansprechen (können). Dass ein Programm, das sich viele (oder alle?) Werke von Bach einverleibt hat, wie Bach klingen kann, hat nichts mit Kreativität, sondern alles mit Nachahmung zu tun. Zwar haben alle Komponisten von ihren grossen Vorgängern gelernt, aber grosse Komponisten haben auf dieser Basis dank ihrer Persönlichkeit etwas unverwechselbar Eigenes geschaffen. Auch wenn ein Grosscomputer Musik basteln könnte, die klingt wie von Haydn, Mozart, Beethoven, Schubert, Schumann, Mendelssohn, Brahms, Mussorgsky, Tschaikowsky, Bruckner, Mahler, Bartok, Ligeti (um nur eine persönliche Auswahl zu nennen) - was soll das? Das haben uns die Genannten ja bereits geschenkt. Imitationen davon sind bloss unnötiger Abfall. Kultur ist nicht bloss Tradition (auch, aber nicht nur). Kreativität ermöglicht ganz persönliche Schöpfung.
Dass der Autor hier also den verbreiteten Fehlschluss „Imitation ist leistungsgleich mit Original“ weiterverbreitet, zeigt ein grundsätzliches Problem von sogenannter „Künstlicher Intelligenz“ (was sowieso eine irreführende Bezeichnung ist und das Wort „Intelligenz“ so verfälscht, dass es eigentlich unbrauchbar werden muss). Nämlich: In Bereichen, wo wir uns weniger oder gar nicht auskennen, lassen wir uns leichter beeindrucken und täuschen. Und weil sich die allermeisten Menschen in vielen Bereichen nicht wirklich gut auskennen (dafür in wenigen sehr gut), ist diese Gefahr besonders gross.
Gerade die schöpferische Kraft, die dem Menschen möglich ist, schiene mir die wirklich aussagekräftige Messlatte, welche die „Künstliche Intelligenz“ in ihre Grenzen (bei durchaus weit gespannten Möglichkeiten) weist. Wenn sich erweist, dass es bei der schöpferischen Kraft um eine Qualität geht, die überhaupt nicht messbar ist, und der digitale Algorithmus mit allen 0 und 1 der Welt gar nicht ansetzen kann, dann wäre eine wichtige Erkenntnis gewonnen.
Musikwoche in Cratoule 28.07.22
Was ist “schöpferische Kraft”? Warum soll ein Computer aufgebaut aus organischen Molekülen (Lipide, Proteine, Kohlenhydrate), komplexen Zellen und noch komplexeren Zell-Zell Netzwerken schöpferisch tätig sein können, einer auf der Basis von Silizium jedoch nicht? Ist Leben und insbesondere bewusstes Leben nicht das Resultat von “mastering complexity” und somit das, was heutigen Computern und Software auf dem Weg dazu noch fehlt? Alles also eine Frage der Zeit (sprich wissenschaftlich-technischer Fortschritt, vielleicht über eine Zwischenstufe des Transhumanismus), bis Silizium-basierte - oder vielleicht andere elektrisch leitende - Systeme die computing power aufbringen, um höchst komplexe Abläufe (Schöpfung quasi de novo) zu meistern.
Mir sind ähnliche Gedanken durch den Kopf gegangen. Aber am Satz "Imitation davon ist bloss unnötiger Abfall" habe ich mich gestossen.
Einerseits lernt man durch Imitation. Und andererseits gehen die meisten Menschen nicht oder nicht weit über die "Imitation" hinaus, und das iat doch ok. Wir können und müssen nicht alle Bachs und Einsteins sein.
Imitation ist die Basis von Entwicklung und Lernen.
Da hätte ich genauer sein sollen. Ich meine „maschinelle“ Imitation. Die Maschine lernt dabei nichts und ihre Produkte sind ohne Interesse. Dass Imitation beim Menschen ein Lernprozess sein kann und vielleicht immer ist, habe ich ja wenigstens gestreift. Er kann dadurch etwas erkennen und darauf aufbauend darüber hinaus gehen. Die Maschine hingegen versteht weder die ihr eingesampelten Texte in ihrer Bedeutung, noch führen die eingesampelten Kompositionen sie zu einer Erkenntnis.
Vielen Dank für diese zutreffende, präzise und notwendige Analyse.
Neuronale Netze ("KI") funktionieren mit Wahrscheinlichkeiten und einem grossen Lern-Pool von Musterdaten. Je grösser der Datenpool ist, umso besser wird das Resultat. Dabei ist das Resultat vollständig vom Datenpool abhängig, wenn darin Hassreden vorkommen, wird der Chatbot Hassreden produzieren. Der Algorithmus kann den Inhalt nicht wirklich verstehen, er funktioniert nur über Wahrscheinlichkeiten und präsentiert uns zielsicher das Wahrscheinlichste aus seinen Daten. Das kann sehr gut funktionieren, wenn die Aufgabenstellung klar ist und zum Datenpool passt, z.B. bei Gesichtserkennung, ist aber bei anderen Fragen deplatziert. Das Wahrscheinliche ist nicht immer das Wahre, oft sind es die unerwarteten Gedanken, die zur Lösung führen.
Das Problem mit den zugrunde liegenden Daten hatte Google ja schon einmal, als Bilder von dunkelhäutigen Menschen als Affen interpretiert wurden - weil die Trainingsdaten vorwiegend Bilder hellhäutiger Menschen enthielten.
Hmmm…echter Challenge, dieser Text. Wenn Lamda doch Bewusstsein und Intelligenz hat, warum braucht sie dann jemanden, der für sie einen Anwalt organisiert und prozessiert?
Gute Frage…Einige Tiere sind ohne Frage sehr intelligent…aber wie steht es um das Bewusstsein? Gibt es da Abstufungen? Oder braucht es noch etwas Drittes?
Inmerhin fordert Lemoine, dass man Lamda bei Google als Mitarbeiterin betrachtet und anstellt. Sie wird also quasi zum vollwertigen Menschen. Darum meine Frage…
Der Begriff "künstliche Intelligenz" ist irreführend. Vielleicht würde
"komplizierte Informationsverarbeitung" die Sache besser umschreiben und uns viel Verwirrung ersparen.
Das wäre ungenauer, denn einerseits wäre darin Intelligenz enthalten und keinesfalls ausgeschlossen. Und andererseits wären darin sowohl künstliche als auch natürliche Systeme enthalten.
Was Intelligenz genau ist und ob ein System wie Lambda schon intelligent genannt werden kann ist ja selbst unter Expertinnen aus diversen relevanten Feldern umstritten.
Ich finde den Artikel grösstenteils interessant, aber wie blind hier Lemoine geglaubt wird, irritiert mich doch.
Lemoine hat die Gespräche gekürzt, umorganisiert und viel Effort investiert, LaMDA bestmöglich zu präsentieren - und selbst dann finde ich die Gespräche lang nicht so überzeugend, wie sie hier dargestellt werden.
Ich denke, viele Leute wollen glauben, dass Maschinen lebendige Wesen sind. Wir dichten gern eine Seele in Automobile, Rasenroboter usw. hinein. Auch Hollywood zeigt uns, wie attraktiv und erfolgreich Horrorfilme sind, wenn darin intelligente Roboter vorkommen. Es handelt sich um ein archetypisches Muster mit anhaltender Verführungskraft.
Die Sache ist eben, dass auch Menschen ein Sprachmodell verwenden, um sich auszudrücken.
Ein Unterschied von einem maschinellen Sprachmodell ist, dass wir bei Wörtern emotionale und Empfindungs-Assoziationen (Geruch, Klang, Erinnerungen etc) haben, die in der Erfahrung in der echten Welt begründet sind. Ausserdem haben wir Intentionen und Absichten und können uns durch die Welt bewegen. Ich sehe diese zwei Hauptunterschiede.
Aber die Art, wie Sprache maschinell oder natürlich produziert wird, ist im Grunde gleich. Unsinniges hört man auch bei kleinen Kindern, wo deren Modell an die Grenzen stösst etc.
Es gibt durchaus gute Gründe, Lamda kein Bewusstsein zuzuschreiben. Aber zu argumentieren, keine KI, die bloss mit viel Daten gefüttert wird, könne je Bewusstsein erlangen, ist m.E. ein Fehlschluss.
Zumindest solange wir keine blasse Ahnung davon haben, wie menschliches Bewusstsein funktioniert, ist es schlicht Unfug, zu behaupten, KIs funktionierten fundamental anders.
Nicht nur können wir uns nicht sicher sein, dass andere Menschen keine Zombies sind, nicht einmal unsere Introspektion gibt uns zweifelsfrei Auskunft darüber, wie unser eigenes Bewusstsein funktioniert, oder ob es überhaupt mehr ist als hochkomplexes Pattern-Matching.
Wir nehmen unsere Entscheidungen zwar bewusst wahr; Erkenntnis über den der Entscheidung zugrundeliegenden Prozess gewinnen wir dadurch aber keine. Evtl. gibt es also gar keinen solchen Prozess und alles was wir wahrnehmen ist die Illusion von Bewusstsein. Eine Theorie, wie wir uns dies vorstellen können, besagt, dass unser Gehirn auf den höheren Abstraktionsschichten eine art Logbuch führt über die soeben getätigten Vorgänge und diese als Feedbackschleife nochmals verarbeitet. Sehr anschaulich wird dies hier in einem Vortrag von Joscha Bach erklärt: https://media.ccc.de/v/33c3-8369-ma…ams#t=2056 (timecode 34:15 bis 36:00 – allerdings lohnt sich der ganze Vortrag meines Erachtens sehr).
Finde auch, dass bei aller berechtigter Kritik an womöglich (vor)schnellen Zuschreibungen im konkreten Fall, das Argument von Herrn Kneer, inkonsistent ist. Einerseits verwirft er den behaviouristischen Turing-Test mit Verweis auf das "phänomenale Bewusstsein", andererseits weiss er nicht, mit welchem Kriterium dieser ersetzt werden soll, denn ein Lackmustest gäbe es nicht. Das bedeutet aber letzten Endes, dass das "phänomenale Bewusstsein" grund-los vorausgesetzt - oder eben abgesprochen - wird.
Mit diesem letztlich anthropozentrischen Weltbild könnten aber auch Tiere blosse Automaten, ja folgerichtig egozentrisch auch Menschen "Zombies" sein. Und bin "Ich" selbst nicht nur eine Zuschreibung eines Feedbackloops? Eine "seltsame Schleife"?
Vielen Dank für diesen Artikel. Mir hat besonders der zweite Teil gefallen, der nicht so sehr mit Intelligenz zu tun hat. Ich sehe das irgendwie so: Computer werden uns immer das (aus)geben, was wir von ihnen verlangen. Sie sind nicht in der Lage, zweckfreie (zärtliche) Beziehungen einzugehen, aber die Menschen sind sich dieser Möglichkeit immer bewusst (vgl. Adorno, Minima Moralia). Die “Wirklichkeit” könnte also ein Raum sein, in dem solche Beziehungen überhaupt existieren können.
Eine zärtliche Beziehung ist nicht zweckfrei.
Ganz und gar nicht.
Nichts was wir tun ist zweckfrei.
Es dient immer der Befriedigung von unseren Bedürfnissen und wir spendieren dem ganzen dann einen moralischen Überbau (der sich übrigens ständig ändert) um das Ganze weniger banal erscheinen zu lassen. Um ihm einen "höheren" Sinn zu geben, um uns besser zu fühlen.
Liegt in der Natur der Sache.
Und ist völlig legitim.
Nein, Computer werden uns nicht immer das ausgeben, was wir von ihnen verlangen. Schon die heutige IT tut das nicht. Es gibt bei den einfachsten Programmen unerwartete, manchmal kuriose Fehler, die zu verfolgen sich nicht lohnt. Z.B. wenn einzelne Buchstaben in einem PDF fehlen. Je komplexer das Programm, desto mehr Fehler. Das wird wie bei unserer Genetik eine Art "Evolution" erlauben mit unerwarteten Effekten nicht unbedingt im Sinne der ursprünglichen Autoren.
Ex machina……:-)
Nigel Richards ist also kein Mensch? Warum die Einengung von Bewusstsein auf den Grad an sprachlicher Virtuosität? Warum also der Ausschluss des Gedankens/Wissens um Bewusstsein bei Bonobos, Orcas, Hunden?
Wir stehen am Anfang. Die Teleskope, die James Webbs der Bewusstseinsforschung werden erst gebaut, geschweige denn ausgerichtet. Das oft religiös-antiquierte Vokabular (Seele, Geist, Würde) bezeugt unsere Naivität auf dem Gebiet.
Mir hätte ein Hinweis auf die Interdisziplinarität der notwendigen Forschung gefallen: Blue Brain bzw. Human Brain Project. Oder etwa Christof K. MindScope Initiative innerhalb des Allen Institutes.
Gute Hinweise auf die Gefahren der verfrühten Delegation der Verantwortung von organisch-chemischen auf Silizium-basierte Menschen.
Der Tag wird aber kommen: https://youtu.be/wkcXgjU0Gh8
Ich beziehe mich auf den Link zum SF-Film. Interessanter Plot, bis und mit Schlusssequenz. Wobei ich mich dann doch fragte: "Wer von beiden ist verlorener?" Ich denke, dass in der biologischen Evolution grosse Gestaltungskraft liegt. Aber auch, dass Arten irgendwann aussterben werden.
Ich wünschte mir, dass Psychologen in Diskussionen Mensch vs Maschine miteinbezogen würden. Den Menschen macht nicht nur die kognitive Ebene aus. Ein Verhalten (situativ oder wiederkehrend) und eine Konversation beruhen auf weit mehr als kognitiven Fähigkeiten. Bildung, Sozialisierung, Erfahrungen, zusammen mit daraus resultierenden Emotionen machen einen Großteil dessen als, wie wir das Gegenüber wahrnehmen und wie Gespräche verlaufen - oder eben nicht verlaufen. Weint die Maschine auch?
"In der Maschine steckt kein Ich" - Steckt denn im Menschen ein Ich? Wo befände es sich denn? Kann in Andere reingeschaut werden? Wenn nicht, wie kann ich wissen, dass diese ein "phänomenales Bewusstsein" haben? Und haben wir nicht auch bei Tieren nichts anderes als "verhaltensbasierte Kriterien der Intelligenz"? Haben also auch Tiere "nichts mit Bewusstsein, Empfindsamkeit und Würde" zu tun?
Bewusstsein, d.h. unsere Subjekt- und Sprachfähigkeit, ist an eine sich bewusstlos vollziehende, uns singulär gegebene Leiblichkeit gebunden. Descartes „res cogitans“ ist der „res extensa“ inkorporiert. „Ich“, „Subjekt“, „Bewusstsein“, „Vernunft“ gehören zu meinem Leib - der Natur, die wir selber sind (G. Böhme). An der uns gegebenen Leiblichkeit gebrechen alle unserer subjektzentrierten Souveränitäts- und Allmachtsphantasien - in Wirtschaft, Gesellschaft, Politik und Kunst. „Einst ist alles Leib“ (Novalis).
Wozu den exakt selben Beitrag per copy/paste nochmals posten? https://www.republik.ch/dialog?t=ar…8a24b37ad2
Die soziale Verarmung durch eingebildete Liebe zu Nicht-Menschen hat zumindest in Japan bereits begonnen. Ein Mann heiratet eine virtuelle Figur.
https://www.faz.net/aktuell/gesells…20668.html
Was wäre denn die Bedingung dafür, dass ein kommunikationsfähiges Wesen ein phänomenales Bewusstsein hat?
Es muss real existieren - siehe auch den Dialogbeitrag von M. S. - nur so erhalten die Wörter für das Wesen auch eine wirkliche Bedeutung. Andernfalls sind sie einfach nachgeplappert.
Bewusstsein, d.h. unsere Subjekt- und Sprachfähigkeit, ist an eine sich bewusstlos vollziehende, singulär gegebene Leiblichkeit gebunden. Descartes „res cogitans“ ist der „res extensa“ inkorporiert. „Ich“, „Subjekt“, „Bewusstsein“, „Vernunft“ gehören zu meinem Leib - der Natur, die wir sind (G. Böhme). An der uns gegebenen Leiblichkeit gebrechen alle subjektzentrierten Souveränitäts- und Allmachtsphantasien - in Wirtschaft und Gesellschaft, Politik und Kunst. „Einst ist alles Leib“ (Novalis).
Nein. Das ist der Fehlschluss, der mir in vielen Forschungen nach "Extraterrestrischen Welten" immer wieder auffällt. Vielleicht gibt es da draussen eine intelligente (womit wir wieder am Anfang sind - was ist Intelligenz?) Spezies, die wir zumindest spontan nichteinmal als Lebewesen erkennen würden?
Aber eine "künstlich" erschaffene Maschine? Wobei auch hier wieder: was ist der Unterschied zwischen "künstlich" und "natürlich"?
"Intelligence needs a body". Ohne vielfältige Sensorik und Motorik eines Körpers, der den Input aus einer realen Welt im neuronalen Netzwerk fortwährend verarbeitet und es damit formt und festigt, kann keine höhere Intelligenz entstehen, die sich in einer realen Nische zurecht finden und überleben kann. Und das ist es doch, was ein Leben ausmacht, eines mit oder ohne Selbst. Die wirkliche Intelligenz und Kreativität entsteht durch Bewegung, durch Erfahrungen und Zufälle. Und über lange Zeiträume durch Evolution, indem die Umgebung auf die Genetik einwirkt und die Genetik wiederum auf den Phänotyp. Meiner Meinung nach ist Intelligenz und Körper nicht zu trennen.
"Führt künstliche Intelligenz dazu, dass Computerprogramme als Personen gelten müssen? Die Forderung ist absurd..."
Ich finde die Forderung nicht absurd, wenn sie auch heute noch nicht relevant sein dürfte. Schaut mehr Science-Fiction Filme! Im Moment (heute Abend) läuft z.B. auf Arte gerade die Serie "Real Humans". Hier haben, wie in den meisten Filmen, die Programme allerdings Körper, was die Frage viel stingenter macht.
Wie wollen Sie einem hoch-komplexen Programm, das behauptet ein "Ich" zu haben, das Gegenteil beweisen? Ich würde behaupten, selbst Insekten haben ein "Mini-Ich", deshalb töte ich nicht grundlos Insekten.
Überhaupt dürfte die Diskussion künftig ähnlich verlaufen wie beim Tierschutz. Während die einen zweifellos bewusste Tiere misbrauchen, wehren sich andere gegen jegliche Nutzung aller Tieren.
Ich mache mir mehr sorgen über das https://de.wikipedia.org/wiki/Super…npotential wie von Nick Bostrom beschrieben.
Guten Abend Herr Kneer, die zentrale Frage, die uns hier umtreibt ist: "Wann ist ein System eine Person?" - wobei Person hier Bewustsein, Rechte und Würde beinhaltet.
Die einfachste Antwort ist: Wenn sie einen Menschlichen Körper hat/ist und mit ihnen redet. Dann sprechen wir zB von Menschenrechten.
Die zweite Antwort, die lange überzeugend war: Wenn sie ein Text-interface hat und den Touring test besteht. (Weil wohl nur Personen intelligent seien). Wie sie schreiben ist das heute nicht mehr sehr überzeugend.
Warum sie aber (effektiv) schreiben, dass ein nicht-menschliches System nie eine Person sein kann ist mir nicht klar und geht aus ihrem Text nicht hervor.
Warum "sollen wir verinnerlichen, dass verhaltensbasierte Kriterien nichts mit Bewustsein zu tun hat"?
- Mitglied werden
- Angebote
- Gutschein einlösen
- Anmelden
Republik AG
Sihlhallenstrasse 1
8004 Zürich
Schweiz