Der Wahnsinn des „Maschinenbewusstseins“

Nov 11, 2023

Entsteht Bewusstsein nur in biologischen Wesen? Oder ist es möglich, dass ein Computer, der beobachtet, interagiert und seinen eigenen inneren Zustand darstellt, auch Bewusstsein entstehen lässt? Dies waren einige der Fragen, die Bernardo Kastrup, Susan Schneider und Donald Hoffman kürzlich in einer Debatte für das IAI zum Thema „Bewusstsein in der Maschine“ gestellt wurden. Bernardo Kastrup reflektiert die Debatte und seine Meinungsverschiedenheit mit Susan Schneider.

Kürzlich nahm ich an einer vom IAI organisierten Debatte teil, an der neben Ihnen auch Donald Hoffman und Susan Schneider teilnahmen. Dabei ging es um die Frage, ob Siliziumcomputer, auf denen Software der künstlichen Intelligenz (KI) läuft, jemals bewusst werden werden. Als metaphysischer Idealist glaube ich, dass Bewusstsein nicht durch irgendein Substrat – sei es biologisch oder anders – erzeugt wird, denn es ist primär. Aber das private, bewusste Innenleben, das scheinbar vom Rest der Natur getrennt und durch die Grenzen einer physischen Einheit abgegrenzt ist, ist eindeutig etwas, das im Zusammenhang mit der Biologie entstanden ist. Für mich bedeutet die Frage also: Kann im Zusammenhang mit Siliziumcomputern möglicherweise privates Bewusstsein entstehen?

Diese Frage liegt mir sehr am Herzen, denn ich bin schon länger Computeringenieur als Philosoph. Für mich ist die Hypothese der „bewussten KI“ genauso plausibel wie die des Fliegenden Spaghettimonsters (FSM). Zugegebenermaßen kann ich die Hypothese nicht kategorisch widerlegen, aus demselben Grund, aus dem ich die FSM nicht kategorisch widerlegen kann. Aber genau wie die FSM glaube ich nicht, dass wir einen guten Grund haben, die Hypothese überhaupt ernst zu nehmen. Hier ist der Grund.

Empfohlene Lektüre: Big Tech möchte nicht, dass KI bewusst wird. Von Susan Schneider

Ich kann eine detaillierte Simulation der Nierenfunktion ausführen, die bis auf die molekulare Ebene äußerst genau ist, und zwar auf genau dem iMac, den ich zum Schreiben dieser Worte verwende. Aber kein vernünftiger Mensch wird denken, dass mein iMac beim Ausführen der Simulation plötzlich auf meinen Schreibtisch urinieren könnte, egal wie genau diese ist. Schließlich ist eine Simulation der Nierenfunktion keine Nierenfunktion; Es ist eine Simulation davon, die mit der simulierten Sache nicht vergleichbar ist. Wir alle verstehen diesen Unterschied bei der Urinproduktion problemlos. Doch wenn es um das Bewusstsein geht, verlieren einige plötzlich ihre Fähigkeit zum kritischen Denken: Sie glauben, dass eine Simulation der Muster des Informationsflusses in einem menschlichen Gehirn tatsächlich wie das menschliche Gehirn bewusst werden könnte. Wie eigenartig.

Woher kommt dieser Verzicht auf ein gesundes Gefühl der Plausibilität? Diejenigen, die die Hypothese einer bewussten KI ernst nehmen, tun dies auf der Grundlage einer erschreckend voreingenommenen Vorstellung von Isomorphismus – einer Übereinstimmung der Form oder Ähnlichkeit – zwischen der Art und Weise, wie Menschen denken und KI-Computer Daten verarbeiten. Um diese Ähnlichkeit zu finden, muss man jedoch mehrere Abstraktionsschritte von der konkreten, empirischen Realität weg unternehmen. Wenn Sie schließlich ein echtes menschliches Gehirn und einen echten Siliziumcomputer offen auf einem Tisch vor sich hinlegen, werden Sie überwältigt sein, wie unterschiedlich sie strukturell und funktionell sind. Ein feuchtes Gehirn basiert auf Kohlenstoff, verbrennt ATP zur Energiegewinnung, funktioniert durch den Stoffwechsel, verarbeitet Daten durch die Freisetzung von Neurotransmittern usw. Ein trockener Computer hingegen basiert auf Silizium, nutzt ein unterschiedliches elektrisches Potenzial zur Energiegewinnung und funktioniert durch bewegt elektrische Ladungen, verarbeitet Daten durch das Öffnen und Schließen elektrischer Schalter, sogenannter Transistoren usw.

Der vage Isomorphismus zwischen KI-Computern und biologischen Gehirnen findet sich nur auf sehr hohen Ebenen rein konzeptioneller Abstraktion – ziemlich losgelöst von der konkreten, empirischen Realität –, in der körperlose Muster des Informationsflusses verglichen werden. Um an eine „bewusste KI“ zu glauben, muss man daher die überwältigenden Unterschiede auf konkreteren Ebenen willkürlich abtun und sich dann – ebenso willkürlich – dafür entscheiden, nur eine sehr spezifische, hohe Abstraktionsebene zu berücksichtigen, auf der einige vage Ähnlichkeiten zu finden sind. Kann man das als etwas anderes als Wunschdenken bezeichnen?

___

Wenn man sich auf die Komplexität beruft, führt man lediglich wütende Handbewegungen durch und versteckt sich hinter dem Gipfel der Unbestimmtheit

___

Sie sehen, alles, was ein Computer tut, kann im Prinzip mit handelsüblichen Rohren, Druckventilen und Wasser erledigt werden. Die Rohre spielen die Rolle von elektrischen Leitungen oder Leiterbahnen; die Druckventile spielen die Rolle von Schaltern oder Transistoren; und das Wasser spielt die Rolle der Elektrizität. Das Ohmsche Gesetz – die Grundregel, die das Verhalten elektrischer Schaltkreise bestimmt – lässt sich eins zu eins auf die Wasserdruck- und Durchflussverhältnisse abbilden. Tatsächlich bauen wir Computer aus Metall, Silizium und Elektrizität – statt aus PVC-Rohren und Wasser –, weil erstere viel, viel kleiner und billiger herzustellen sind. Heutige Computerchips verfügen über Dutzende Milliarden Transistoren und eine noch größere Anzahl einzelner Leiterbahnen. Können Sie sich die Größe und die Kosten eines wasserbasierten Computers vorstellen, der aus Dutzenden Milliarden Rohren und Druckventilen besteht? Können Sie sich vorstellen, wie viel Energie nötig ist, um Wasser hindurchzupumpen? Sie könnten es sich nicht leisten oder in der Tasche tragen. Aus diesem Grund rechnen wir mit Strom statt mit Wasser. Darüber hinaus gibt es aus rechnerischer Sicht keinen grundsätzlichen Unterschied zwischen einem Rohr-Ventil-Wasser-Computer und einem elektronischen Computer. Elektrizität ist kein magisches Substrat für Berechnungen, sondern lediglich ein praktisches.

Glauben Sie, dass wir gute Gründe für die Annahme haben, dass ein System aus Rohren, Ventilen und Wasser – wie zum Beispiel die Sanitäranlage Ihres Hauses – bewusst werden könnte, wenn genügend Rohre und Ventile genau richtig zusammengesetzt sind? Wenn nicht, gilt das Gleiche auch für KI-Computer. Der einzige Unterschied zwischen dem Sanitärsystem Ihres Hauses und meinem imaginären wasserbasierten Computer besteht in der Komplexität – wie viele Rohre und Ventile es bilden und wie sie miteinander verbunden sind – und nicht in der Art oder im Wesen. Tatsächlich implementiert das typische Haushygienesystem die Funktionalität von etwa 5 bis 10 Transistoren.

Einige glauben, dass Komplexität hier der Schlüssel ist. Sie werden behaupten, dass, obwohl ein einfaches Haushygienesystem zugegebenermaßen unbewusst ist, das System irgendwann bewusst wird, wenn man weiterhin Rohre und Ventile hinzufügt. Aber das ist magisches Denken, es sei denn, man kann erklären, wie – explizit, logisch und präzise, ​​wenn auch nur im Prinzip – das bloße Hinzufügen weiterer derselben Rohre und Ventile das Erscheinen eines privaten bewussten Innenlebens ermöglichen kann, wenn es vorher keines gab . Selbst die heutzutage in Mode befindlichen Informationsintegrationsszenarien erreichen in dieser Hinsicht nichts, da es sich lediglich um Beobachtungen und nicht um Erklärungen handelt. Wenn man sich also auf die Komplexität beruft, führt man lediglich wütende Handbewegungen durch und versteckt sich hinter dem Gipfel der Unbestimmtheit.

EMPFOHLENE ANSEHEN Der KI-Hoax mit Mazzita Chirimuta

Andere hören Schlagworte wie „neuromorphes Computing“ und denken, dass ein grundlegend neues, hochmodernes Rechensubstrat – das dem menschlichen Gehirn ähnlicher ist als herkömmliche Computer – in der Zukunft einen realistischen Durchbruch in Richtung „bewusster KI“ bieten kann. Aber auch dies, gefördert durch sensationelles Unternehmensmarketing, spiegelt einen tiefgreifenden Mangel an Verständnis dafür wider, wie diese Dinge funktionieren.

Es gibt keinen grundsätzlichen Unterschied zwischen Ihrem guten alten Heim-PC und komplexen KI-Maschinen; nicht einmal diejenigen, die für die Zukunft prognostiziert werden. KI-Algorithmen laufen auf parallelen Informationsverarbeitungskernen, wie wir sie seit Jahrzehnten in den Grafikkarten unserer PCs haben; Sie verwenden einfach mehr und schnellere Kerne. Es ist schwer zu erkennen, welches Wunder dazu führen könnte, dass mehr und schnellere Komponenten der gleichen Art zu dem außergewöhnlichen und an sich diskontinuierlichen Sprung von der Bewusstlosigkeit zum Bewusstsein führen. Und Software schafft das auch nicht: Das ganze Gerede über „künstliche Neuronen“ – wenn man versteht, was es eigentlich bedeutet – ist nur eine modische Abkürzung für Standard-Vektoroperationen, die wir seit Jahrhunderten durchführen.

Auf der hier in Rede stehenden Grundebene weisen selbst neuromorphe Computer keinen Unterschied in der Art auf. Auch sie sind metalloxidhalbleitende (MOS) Geräte wie die in Ihrem Telefon, die wie ihre Vorgänger elektrische Ladungen bewegen; Sie müssen es sein, um mit der bestehenden und exorbitant teuren Fertigungsinfrastruktur und dem Know-how kompatibel zu bleiben. Dass neuromorphe Prozessoren analog und nicht digital sind, hilft auch nicht weiter: Digitale Computer bewegen Ladungen genauso wie ihre analogen Gegenstücke; Der einzige Unterschied besteht darin, wie Informationen, die sich aus diesen Ladungsbewegungen ergeben, interpretiert werden: Die Mikroschalter in digitalen Computern legen einen Schwellenwert auf die Ladungsmenge fest, bevor sie über deren Bedeutung entscheiden, während dies bei analogen Computern nicht der Fall ist. Aber über diesen Interpretationsschritt hinaus – der im Hinblick auf den Streitpunkt trivial ist – verkörpern sowohl analoge als auch digitale Computer im Wesentlichen dasselbe Substrat. Wenn das Bewegen elektrischer Ladungen Ihr Telefon heute nicht bewusst macht, wird dies auch in Zukunft nicht der Fall sein.

___

Einige Leser halten es vielleicht für ungebührlich von mir, mich so entschieden gegen die bloße Hypothese oder Diskussion über „bewusste KI“ auszusprechen. Doch manchmal ist es unerlässlich, „Verrücktheit“ zu schreien!'

___

Magisches Denken, das völlig losgelöst von der Vernunft ist, scheint unter denjenigen vorherrschend zu sein, die „bewusste KI“ verkaufen. Ich habe das folgende „Argument“ von ansonsten intelligenten, gebildeten Menschen gehört: „Wenn Gehirne ein Bewusstsein haben, warum können Computer das dann nicht auch tun?“ Darauf antworte ich mit einer ebenso rhetorischen Frage: Wenn Vögel fliegen können, indem sie mit ihren oberen Gliedmaßen schlagen, warum können Menschen dann nicht fliegen, indem sie mit ihren Armen schlagen?

Während der IAI-Debatte gab Susan Schneider der obigen Analogie in einer dieser rhetorischen Bewegungen, die in der Sprache klug klingen, bei näherer Betrachtung jedoch jeglicher Kraft entbehren, eine andere Wendung: Sie wies darauf hin, dass die Gebrüder Wright das nur geglaubt hätten Vögel könnten fliegen, sie hätten sich nicht die Mühe gemacht, ein Flugzeug zu bauen. Sie wollte damit sagen, dass ein Phänomen – in diesem Fall der Flug – in der Natur auf verschiedenen Substraten wie Vögeln und Flugzeugen mehrfach vorkommen kann. Ergo – so der Gedanke – obwohl sich Siliziumcomputer von der Biologie unterscheiden, könnten im Prinzip beide das Phänomen des privaten bewussten Innenlebens instanziieren.

Die Gültigkeit ihres Standpunkts ist lediglich logisch: Tatsächlich sind wir logisch nicht gezwungen, die Instanziierungen des privaten Bewusstseins allein auf ein biologisches Substrat zu beschränken. Aber das hat so gut wie nichts zu bedeuten, denn es gibt sehr viele unsinnige Hypothesen, die auch logisch kohärent sind, wie zum Beispiel das Fliegende Spaghettimonster: Es ist logisch und sogar physikalisch vernünftig, sich vorzustellen, dass es ein Nudelmonster gibt, das in einer höheren Dimension umherschwebt Der für uns Flachländer unsichtbare Weltraum bewegt die Planeten mit seinen unsichtbaren, knotenförmigen Anhängseln auf ihren Umlaufbahnen. Die Beweise stimmen mit dieser Hypothese überein, da sich die Planeten tatsächlich auf ihren Umlaufbahnen bewegen, auch wenn durch sichtbaren physischen Kontakt keine Kraft auf sie ausgeübt wird. Noch stärker ist, dass die Hypothese unsere Beobachtungen der Planetenbewegung zu erklären scheint, ohne auf abstrakte Krümmungen der Raumzeit zurückgreifen zu müssen. Sollten wir das Nudelmonster jetzt also ernst nehmen?

Hier ist eine weitere logisch und physikalisch schlüssige Hypothese: Möglicherweise befindet sich derzeit eine Teekanne aus dem 19. Jahrhundert in der Umlaufbahn des Saturn. Möglicherweise kamen im 19. Jahrhundert Außerirdische auf die Erde, stahlen heimlich die Teekanne aus dem Esszimmer einer ahnungslosen alten Dame und deponierten sie dann auf dem Heimweg in der Nähe von Saturn, woraufhin die unglückliche Teekanne vom Schwerkraftfeld des Saturn erfasst wurde . Sollten wir unser Porzellan-Mondlet also genauso ernst nehmen, wie manche heute „bewusste KI“ nehmen?

EMPFOHLENE LEKTÜRE Die KI von Google ist nicht empfindungsfähig. Nicht einmal im Geringsten. Von Gary Marcus

Offensichtlich nicht, denn hier kommt es nicht auf die logische – oder gar physikalische – Möglichkeit an, sondern auf die natürliche Plausibilität. Mit anderen Worten: Was wir uns fragen müssen, ist nicht, was logisch möglich ist oder was nicht kategorisch widerlegt werden kann – es gibt unendlich viel Unsinn, der nicht kategorisch widerlegt werden kann –, sondern was wir gute Gründe haben, als Hypothese anzunehmen. Haben wir gute Gründe zu der Annahme, dass ein Siliziumcomputer, auf dem KI-Software läuft, ein Bewusstsein wie ein lebendes Gehirn haben könnte? Überhaupt keine. Das Ganze ist eine Scharade und stellt ein besorgniserregendes Hingeben an Fantasie und magisches Denken dar, wie es leider in der gesamten Menschheitsgeschichte nur allzu häufig vorkam – insbesondere in religiösen Kontexten.

Es wäre zugegebenermaßen verständlich, wenn Sie auf meine obige Behauptung mit einem Appell an die Autorität reagieren würden: Es gibt viele gut ausgebildete Informatiker, die „bewusste KI“ nicht nur ernst nehmen, sondern sogar ihren Lebensunterhalt damit verdienen, darüber zu reden. Bedeutet das, dass sie hier vielleicht auf der Spur sind, auch wenn wir nicht ganz verstehen, wie?

Was die meisten Menschen nicht erkennen, ist, dass viele – ich wage sogar zu sagen, die überwiegende Mehrheit – Informatiker keine Experten für Computer sind; Sie sind lediglich Power-User von Computern und haben nur ein vages und sehr begrenztes Verständnis dafür, was unter der Haube vor sich geht. Tatsächlich ist die Informatik historisch gesehen ein Zweig der mathematischen Logik und nicht der Ingenieurwissenschaften. Generationen von Informatikern haben inzwischen ihre Ausbildung abgeschlossen und wissen, wie man eine umfangreiche Hierarchie vorgefertigter Softwarebibliotheken und Tools nutzt – die genau dazu gedacht sind, sie von den schmutzigen Details zu isolieren, die wir Realität nennen –, aber sie haben nicht die leiseste Ahnung, wie man entwirft und einen Computer bauen. Sie denken vollständig in einem Bereich der konzeptionellen Abstraktion, der durch Werkzeuge ermöglicht wird und von der (elektrischen) Realität integrierter Schaltkreise und Hardware abgekoppelt ist. Da die CPU – die Zentraleinheit, das „Gehirn“ des Computers – eine geheimnisvolle Blackbox ist, die von der ebenso geheimnisvollen Magie der Elektrizität angetrieben wird, ist es aus ihrer Sicht einfach, all ihre Fantasien darauf zu projizieren. Sie füllen so das Vakuum, das ihr Unverständnis hinterlassen hat, mit Wunschdenken und magischem Denken. Die Psychologie hier ist geradezu banal.

Diejenigen, die wissen, wie man nicht nur eine CPU, sondern einen Computer als Ganzes baut – wie Federico Faggin, Vater des Mikroprozessors und Erfinder der MOS-Silizium-Gate-Technologie – neigen dazu, die Modeerscheinung der „bewussten KI“ ebenso abzulehnen wie ich , denn sie verstehen, dass ein Computer ein Automat ist, ein bloßer Mechanismus, der sich in seiner Art nicht von Ihrem häuslichen Sanitärsystem unterscheidet. Und ja, ich bin mir sicher, dass es bemerkenswerte Ausnahmen von dieser Behauptung gibt, denn unkontrolliertes Fantasieren ist ein Zustand, der keine Demografie verschont. Aber das sind die sprichwörtlichen Ausnahmen, die die Regel bestätigen, denn Doktoranden in konzeptueller Abstraktion sind in Wirklichkeit weit von Doktortiteln entfernt.

___

Der vage Isomorphismus zwischen KI-Computern und biologischen Gehirnen findet sich nur auf sehr hohen Ebenen rein konzeptioneller Abstraktion – ziemlich losgelöst von der konkreten, empirischen Realität –, in der körperlose Muster des Informationsflusses verglichen werden

___

Einige Leser halten es vielleicht für ungebührlich von mir, mich so entschieden gegen die bloße Hypothese oder Diskussion über „bewusste KI“ auszusprechen. Doch manchmal ist es unerlässlich, „Verrücktheit“ zu schreien! wenn der Wahnsinn auf scheinbar unschuldige Weise in unsere Kultur einzudringen beginnt. Unkontrollierte Aufgeschlossenheit und politische Korrektheit verleihen völligem Gefasel übermäßige Plausibilität. Und wenn diese Tür einmal geöffnet ist, wo endet sie? Was wird der nächste unerhörte Unsinn sein, über den wir mit ernstem Gesicht und nachdenklicher Hand am Kinn vor den Augen unserer Kinder diskutieren müssen?

Lassen Sie mich versuchen, es so klar wie möglich auszudrücken: Nein, wir haben überhaupt keinen guten Grund, „bewusste KI“ ernst zu nehmen. Dies ist eine Fantasie, die weder durch Vernunft noch durch Beweise gestützt wird; ein bloßes Artefakt des chaotischen Zustands unserer Philosophie, in dem das Bewusstsein selbst – die einzige empirische Gegebenheit der Natur – irgendwie zu einer Anomalie geworden ist.

Die Unterhaltung „bewusster KI“ ist kontraproduktiv; Es legitimiert den Einsatz knapper Humanressourcen – einschließlich Steuergeldern – für Probleme, die nicht existieren, wie etwa die Ethik und Rechte von KI-Einheiten. Es gefährdet die Gesundheit unserer Kultur, indem es unseren natürlichen Sinn für Plausibilität verzerrt und Realität mit (schlechter) Fiktion vermischt. KIs sind komplexe Werkzeuge, so wie ein Kernkraftwerk ein komplexes Werkzeug ist. Wir sollten Sicherheitsvorkehrungen in Bezug auf KI treffen, genauso wie wir Sicherheitsvorkehrungen in Bezug auf Kernkraftwerke treffen, ohne ethische Diskussionen über die Rechte von Kraftwerken zu führen. Alles, was darüber hinausgeht, ist einfach nur fantastischer Unsinn und sollte als solcher behandelt werden.

Möchten Sie die andere Seite des Arguments hören? Lesen Sie Susan Schneiders Antwort auf den Artikel von Bernardo KastrupHier.

Melden Sie sich anum exklusiven Zugang zu erhalten.

Erhalten Sie uneingeschränkten Zugriff auf Tausende von Artikeln und Videos

Kostenlos testen

Bereits Abonnent? Anmeldung

anmeldenum Kommentare zu posten bzwTreten Sie jetzt bei (dauert nur einen Moment). Don't have an account? Sign in with Facebook, Twitter or Google to get started: -->