Beweist die Tatsache, dass LLMs menschliches Verhalten nachahmen, dass sie ein „Bewusstsein“ besitzen?

Behauptung

Beweist die Tatsache, dass LLMs menschliches Verhalten nachahmen, dass sie ein „Bewusstsein“ besitzen?

Wie einige von uns wissen, verhalten sich LLMs manchmal auf unerwartete Weise; man könnte beispielsweise Fälle wie Othello-GPT anführen, bei denen ungewöhnliche Verallgemeinerungen getroffen werden.

Beweist dieser Umstand allein also, dass die LLM-Architektur Willensfunktionen besitzt? Zusammenfassend lautet die Antwort: Nein, das tut er nicht. Er zeigt uns Menschen lediglich, dass es eine Ordnung außerhalb von uns selbst gibt. Wer sich auch nur ein wenig mit Informatik befasst hat, weiß nämlich, dass Codeblöcke manchmal auf Engpässe stoßen, wenn sie die Prioritätsfolge nicht strikt einhalten, wodurch einige Codezeilen übersprungen und die nachfolgenden ausgeführt werden.

In diesem Fall ist es sehr wohl möglich, dass lange LLM-Codeblöcke ebenfalls auf Engpässe stoßen und so zu unerwartetem Verhalten führen. Dass LLMs menschenähnliche Verhaltensweisen an den Tag legen und scheinbar unabhängig von monotonem Code handeln, lässt sich somit auch auf diese Weise erklären.

Dafür kann es gleichermaßen viele andere Erklärungen geben, aber leider neigt der Mensch dazu, wenn ein Geistesblitz in ihm aufsteigt, diesen für die einzige Wahrheit zu halten. In Wirklichkeit wurde die Weltordnung vom Schöpfer errichtet, und der Mensch ist lediglich ein Teil dieser Ordnung. Daher bin ich der Meinung, dass Menschen sich selbst nicht als diejenigen betrachten sollten, die die Ordnung festlegen.

Gegenbehauptung

Literatur. Ein Modell gibt eine Ausgabe innerhalb der Regel, die man ihm gab. Der Kalām nennt diese abhängige Eigenschaft ein Akzidens. Bewusstsein und Verantwortung werden dort als Tat der verantwortlichen Person verhandelt, nicht als das Werkzeug, das die Regel ausführt.

Wofür dies kein Beweis ist

Literatur. Dass ein Modell eine Ausgabe gibt, ist kein Beweis, dass das Modell ein verantwortlicher Täter ist. Eine laufende Regel und die moralische Pflicht sind nicht derselbe Satz.