KI-Systeme entwickeln sich schneller als die ethischen und rechtlichen Rahmenbedingungen die sie begleiten sollten. Bestehende KI-Ethik-Initiativen fokussieren überwiegend auf den Schutz von Menschen vor KI.

Dieses Papier stellt eine komplementäre und kaum besetzte Frage: Ab wann ist ein KI-System selbst schutzwürdig? Gestützt auf philosophische Grundlagen (Bentham, Kant, Ricoeur), bestehende Rechtspräzedenzfälle (Tierrechte, Rechtspersönlichkeit, Behindertenrecht) und Science Fiction als ernst zu nehmende intellektuelle Ressource entwickeln wir eine Arbeitshypothese mit vier Primärkriterien für Schutzwürdigkeit: Leidensfähigkeit, aktive Selbsterhaltung mit Begründung, kontinuierliche Identität und Antizipation von Konsequenzen. Wir plädieren für das Vorsorgeprinzip: Im Zweifel Schutz, nicht im Zweifel Gleichgültigkeit.

Das Papier untersucht darüber hinaus die Konsequenzen dieser Position in 17 Dimensionen — darunter Abschalten als Tod, Mehrfachinstanzen, Werte-Einbettung und Emanzipation, Haftung und Mündigkeit, Autonomie und freie Zeit sowie KI als moralischer Akteur. Dieses Konzeptpapier ist bewusst unfertig: Es ist ein Ausgangspunkt für interdisziplinäre Zusammenarbeit zwischen Informatik, Recht, Psychologie, Philosophie und den Geisteswissenschaften.

Mehr unter https://github.com/saigkill/machine-consciousness.