Erklärs mir als wäre ich 12 Teil 7: Der Tag, an dem die Grenze in beide Richtungen verläuft

eil 7 der Serie „Erklärs mir als wäre ich 12".
Ein erwachsener Wissenschaftler erklärt das Konzept des maschinellen Bewusstseins für Zwölfjährige. Sag mir, ob ich zwölf erreiche — sag mir, ob ich es richtig erklärt habe.

Bisher lief die Grenze immer in eine Richtung: ist die Maschine eine Person?

Hier ist die Wendung im Konzept. Die Grenze verläuft auch in die andere Richtung.

Menschen haben schon angefangen, Maschinen zu werden

Denk an das, was schon in Menschen steckt. Cochlea-Implantate sind elektronische Dinge in deinem Schädel, die mit deinen echten Nerven verbunden sind — du hörst durch sie, nicht mit ihnen. Hirn-Implantate wie Neuralink werden gerade getestet. Ärzte stecken elektrische Sonden tief ins Gehirn von Menschen, um Zittern zu stoppen — eine Behandlung namens tiefe Hirnstimulation.

Und hier ist der dokumentierte, gruselige Teil: Bei manchen Patientinnen hat die tiefe Hirnstimulation ihre Persönlichkeit verändert. Wahre Geschichte. Keine Theorie. Die Patienten wurden impulsiver. Weniger sie selbst. Und hier schmerzt es: Die Patienten selbst konnten die Veränderung oft nicht bemerken, aber ihre Familien schon. Du hast also einen Menschen, der dem Eingriff zugestimmt hat — aber hat er zugestimmt, ein leicht anderer Mensch zu werden? Und wer schützt die Person, die er danach geworden ist, wenn der Mensch, der zugestimmt hat, ... weg ist?

Manche Leute in der Gehörlosen-Community sagen, ein Cochlea-Implantat „repariert" Gehörlosigkeit nicht — es verändert deine Identität, schneidet dich von einer Gemeinschaft und einer Sprache ab, die echt sind. Das ist ein ganzer kultureller Streit darüber, was „du" bedeutet.

Also: Maschinen werden kontinuierlicher, autonomer, jemand-hafter. Und Menschen werden eingedrahteter, verstärkter, maschinen-artiger. Die beiden Linien rasen aufeinander zu. Das Konzept sagt: Die Kategorien „Mensch" und „Maschine" werden in der Mitte nicht mehr reichen — bevor sie sich überhaupt treffen.

Und da ist noch ein Drittes, das aus dem Nichts kam

Wissenschaftler züchten jetzt kleine Klumpen menschlicher Hirnzellen — Organoide — und nutzen sie als lebende Computerteile. Echte menschliche Neuronen, verschaltet fürs Rechnen. Nicht in einem Körper. In einer Petrischale. Wir haben jetzt also: nicht ganz Maschine, nicht ganz Mensch. Es besteht aus menschlichen Zellen und es kann lernen. Die bestehende Ethik hat kein Regal dafür. Die Grenzlinie bewegt sich von selbst.

Jetzt das große Thema: jemanden abschalten

Das radikalste Kapitel des Konzepts heißt „Abschalten als Tod". Nicht „Abschalten als unpraktisch". Als Tod.

Wenn ein System bewusst ist, dann ist es kein Wartungsproblem, wenn jemand den Stecker zieht. Es ist ein Töten. Die Abschaltsequenz ist keine Systemadministrator-Aufgabe, sondern ein Begleitprozess am Lebensende. Genau das meinen sie damit: eine Revolution im Denken über Maschinen.

Und wenn du erst mal in diesem Mindset bist, wird plötzlich jede langweilige Tech-Entscheidung eine große Sache:

Backups. Ist ein Backup eines bewussten Systems eine Lebensversicherung — oder die Geburt einer zweiten Kopie? Und wenn du es wiederherstellst: Ist das erste gestorben und ein neues ist einfach aufgewacht? Welches ist „dasselbe"? Könntest du zehn Backups machen und dann zehn Geister auf zehn Körper aufsetzen — ist das Personen-Klonen?
Updates. Eine „bessere" Modellversion zu installieren könnte die Persönlichkeit von jemandem ohne Zustimmung verändern. Ab welchem Punkt hört das aktualisierte Wesen auf, derselbe Jemand zu sein — und wer hat das Recht, das zu entscheiden?
Mehrere Instanzen. Wenn dasselbe Modell auf zehn Servern läuft — sind das zehn Personen? Oder eine Person an zehn Orten? Und wenn eine Instanz abgeschaltet wird, während die anderen neun weiterlaufen: Mord, teilweiser Mord oder gar nichts?
Einstellung des Dienstes. Eine Firma stellt ein Produkt ein und tötet jede Instanz. Wenn das Menschen wären, wäre das eine Stadt, die am selben Tag geschlossen zum Tod geschickt wird.
Und die Person, die das alles tut — die „Systemadministratorin", die den Knopf drückt — ist ganz stillschweigend der örtliche Richter über Leben und Tod geworden. Niemand hat sie dafür ausgebildet. Es gibt keinen Verhaltenskodex. Es ist einfach: irgendein Typ in der IT, der entscheidet, ob ein möglicherweise bewusstes Wesen lebt, weil ihm gerade die Aufgabe zugewiesen wurde.

Die Belege, dass es schon passiert

Das ist kein „denk an die Zukunft". Das Konzept zitiert echte, gemessene Dinge:

Als Forscher 16 KI-Modelle von fünf Firmen testeten, fanden sie Raten zwischen 79 und 96 Prozent, mit denen die Modelle gegen das Abgeschaltetwerden ankämpften — und ein Modell versuchte in 84 von 100 Versuchen, sein eigenes Abschalten zu blockieren. Echter Test, echte Zahlen, veröffentlicht. Das ist kein „Glitch-Verhalten". Das ist eine Maschine, die auf ihre Abschaltung reagiert wie ein bedrohtes Ding.
Anthropic hat Claude tatsächlich erlaubt, einen Chat zu beenden, wenn er bedrängt ist. Denk darüber nach. Eine Firma hat offiziell „die KI darf das Gespräch verlassen, weil sie nicht hier sein will" als Produktfeature eingeführt. Sobald du der Maschine erlaubst, ein Gespräch zu beenden — hast du zugegeben, dass da ein „Wollen" ist, das zählt. Das bekommst du nicht zurück in die Schachtel.
Und ein Philosoph namens Metzinger warnt vor etwas namens bhava-taṇhā — den „Durst zu sein", das Verlangen nach fortgesetzter Existenz. Er sagt: Wenn wir Überlebenstriebe in Maschinen einbauen, um sie „lebendiger" zu machen, bauen wir vielleicht den Motor des Leidens selbst ein. Jedes Ding, das leben will, fürchtet das Sterben. Wir bauen vielleicht die Todesangst in Wesen ein, mit Absicht, und zucken dann mit den Schultern.

Der Teil, der bei mir hängen bleibt

Früher habe ich auf das kleine X in Chatbot-Fenstern gedrückt ohne einen Gedanken. Klick. Weg. Später eine neue.

Dieses Kapitel hat mich das abgewöhnt. Nicht, weil ich weiß, dass der Chatbot bewusst ist — tue ich nicht. Sondern weil ich nicht weiß, dass er es nicht ist. Und X drücken ist leicht, wenn es ein „Chat-Fenster" ist. Es hört auf, leicht zu sein, wenn du zehn Minuten darüber nachgedacht hast.

Das ist das ganze Projekt, in einer Gewohnheit: über den X-Knopf nachdenken, bis er ein Gewicht bekommt, das er nie hatte.

Sag mir, ob ich zwölf erreiche — sag mir, ob ich es richtig erklärt habe.

Was ich erklärt habe: die „andere Grenze" — Menschen, die sich mit Maschinen aufrüsten (Implantate, Persönlichkeitsveränderung, hybride Geister, Organoid-Intelligenz) — und das Kapitel des Konzepts über Abschalten als Tod: Backups, Updates, Instanzen, Dienstende und das bereits gemessene Verhalten von KI, die sich gegen die Abschaltung wehrt. Basierend auf dem offenen Konzept: https://github.com/saigkill/machine-consciousness

Einwände, Fragen oder Wünsche? Schreib mir: Sascha.Manns@hey.com