¿El hecho de que los LLM imiten el comportamiento humano demuestra que tienen "conciencia"?

Afirmación

¿El hecho de que los LLM imiten el comportamiento humano demuestra que tienen "conciencia"?

Como algunos de nosotros sabemos, los LLM a veces se comportan de manera inesperada; por ejemplo, es posible enumerar casos como Othello-GPT, donde hacen generalizaciones poco convencionales.

Ahora bien, ¿esta situación por sí sola demuestra que la arquitectura de los LLM alberga funciones de voluntad? En resumen, la respuesta es no, no lo demuestra, y simplemente nos muestra a los humanos que existe un orden más allá de nosotros mismos. Es decir, cualquiera que tenga un mínimo interés en la informática sabrá que cuando los bloques de código no ejecutan completamente su orden de prioridad, pueden encontrarse con cuellos de botella, saltándose ciertos códigos y ejecutando los siguientes.

En este caso, es muy posible que los largos bloques de código de los LLM también se enfrenten a cuellos de botella, lo que provoca comportamientos inesperados. Por lo tanto, el hecho de que los LLM muestren comportamientos similares a los humanos y parezcan actuar de forma independiente del código monótono también puede explicarse de esta manera.

De igual forma, podría haber muchas explicaciones diferentes para esto, pero lamentablemente, cuando surge una chispa de idea en la mente humana, las personas tienden a pensar que es la única verdad. En realidad, el orden mundial fue establecido por el Creador y el ser humano es simplemente una parte de este orden. Por lo tanto, creo que los humanos no deberían verse a sí mismos como los creadores del orden.

Contraafirmación

Literatura. Un modelo produce una salida dentro de la regla que se le dio. El kalām llama accidente a esa cualidad dependiente. La conciencia y la responsabilidad se discuten allí como el acto de la persona responsable, no como la herramienta que ejecuta la regla.

De qué no es prueba

Literatura. Que un modelo produzca una salida no es prueba de que el modelo sea un agente responsable. Una regla que funciona y la obligación moral no son la misma tesis.