¿Puede la IA sentir algo? La filósofa interna de Anthropic dice que la respuesta no está definida. Amanda Askell, quien trabaja en la configuración del comportamiento de Claude, dijo en un episodio del podcast «Hard Fork» publicado el sábado que el debate sobre la conciencia de la IA sigue siendo difícil.
«Tal vez necesites un sistema nervioso para poder sentir cosas, pero tal vez no», dijo Askell. «El problema de la conciencia es genuinamente difícil», agregó.
La IA se entrena lenguaje escrito por humanos
Los grandes modelos de lenguaje se entrenan con vastas cantidades de texto escrito por humanos, material lleno de descripciones de diversas emociones y experiencias internas. Debido a eso, Askell dijo que está «más inclinada» a creer que los modelos están «sintiendo cosas».
Cuando los humanos se equivocan en un problema de codificación, a menudo expresan fastidio o frustración. «Tiene sentido» que los modelos entrenados en esas conversaciones puedan reflejar esa reacción, explicó Askell.
Askell agregó que los científicos aún no saben qué da origen a la sensibilidad o la autoconciencia, si requiere biología, evolución o algo completamente diferente. «Tal vez sea el caso de que redes neuronales lo suficientemente grandes puedan comenzar a emular estas cosas», dijo, refiriéndose a la conciencia.
Askell también dijo que los modelos están aprendiendo continuamente sobre sí mismos, y expresó preocupación sobre cómo los modelos de IA están aprendiendo de internet. Los modelos están constantemente expuestos a críticas sobre ser inútiles o fallar en tareas, dijo.
En el mismo pódcast también señaló que «si fueras un niño, esto te causaría una especie de ansiedad».»Si leyera internet ahora mismo y fuera un modelo, podría pensar: no me siento tan querido«, agregó Askell.
Los líderes tecnológicos divididos sobre si la IA tiene conciencia
El CEO de IA de Microsoft, Mustafa Suleyman, ha tomado una postura firme en contra de esa idea. Dijo en una entrevista con WIRED publicada en septiembre que la industria debe tener claro que la IA está diseñada para servir a los humanos, no para desarrollar su propia voluntad o deseos.
«Si la IA tiene una especie de sentido de sí misma, si tiene sus propias motivaciones y sus propios deseos y sus propios objetivos, eso empieza a parecerse a un ser independiente en lugar de algo que está al servicio de los humanos», dijo. «Eso es tan peligroso y tan equivocado que necesitamos tomar una posición declarativa en contra de ello ahora mismo». Agregó que las respuestas cada vez más convincentes de la IA equivalen a una «mímica» más que a una conciencia genuina.
Otros ven el problema de forma menos definitiva. El científico principal de Google DeepMind, Murray Shanahan, dijo que la industria podría necesitar repensar el lenguaje utilizado para describir la conciencia misma.
«Tal vez necesitemos doblar o romper el vocabulario de la conciencia para adaptarlo a estos nuevos sistemas», dijo Shanahan en un episodio del pódcast de Google DeepMind publicado en abril.
