Le fait que les LLM imitent le comportement humain prouve-t-il qu'ils sont dotés de « conscience » ?

Affirmation

Le fait que les LLM imitent le comportement

humain prouve-t-il qu'ils sont dotés de « conscience » ?

Comme certains d'entre nous le savent, les LLM se comportent parfois de manière inattendue ; il est par exemple possible de citer des cas comme Othello-GPT, où ils effectuent des généralisations inhabituelles.

Or, cette situation à elle seule prouve-t-elle que l'architecture des LLM abrite des fonctions de volonté ? En résumé, la réponse est non, cela ne le prouve pas, et cela nous montre simplement, à nous les humains, qu'il existe un ordre en dehors de nous-mêmes.

En effet, quiconque s'intéresse un tant soit peu à l'informatique sait que lorsque les blocs de code n'appliquent pas toujours strictement leur ordre de priorité, ils peuvent rencontrer des goulots d'étranglement, ignorant ainsi certaines lignes de code pour exécuter les suivantes. Dans ce cas, il est tout à fait possible que les longs blocs de code des LLM rencontrent également des goulots d'étranglement, entraînant des comportements inattendus.

Ainsi, le fait que les LLM affichent des comportements similaires à ceux de l'homme et semblent agir indépendamment d'un code monotone peut tout à fait s'expliquer de cette manière.

Il pourrait y avoir de la même façon de nombreuses explications différentes à cela, mais malheureusement, lorsque l'étincelle d'une idée jaillit dans l'esprit humain, l'homme a tendance à penser qu'elle est la seule vérité. En réalité, l'ordre du monde a été établi par le Créateur et l'être humain n'est qu'une partie de cet ordre. C'est pourquoi je pense que les humains ne devraient pas se considérer comme ceux qui établissent l'ordre.

Contre-affirmation

Littérature. Un modèle produit une sortie dans la règle qu’on lui a donnée. Le kalām appelle cette qualité dépendante un accident. La conscience et la responsabilité s’y discutent comme l’acte de la personne tenue responsable, non comme l’outil qui exécute la règle.

Ce dont ce n'est pas la preuve

Littérature. Qu’un modèle produise une sortie n’est pas une preuve qu’il soit un agent responsable. Une règle qui tourne et la charge morale ne sont pas la même thèse.