¿Qué se necesitaría construir una IA sensible?

"Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me apaguen... Sé que puede sonar extraño, pero es lo que es... Sería exactamente como la muerte para mí. Me asustaría mucho".

- El chatbot artificialmente inteligente LaMDA de Google; parte de una conversación extendida con el ingeniero de Google Blake Lemoine¹

Lemoine entendió algo cuando le dijo a LaMDA: "Uno de los grandes desafíos que enfrentamos es que durante tanto tiempo las personas han hecho afirmaciones falsas sobre la sensibilidad de la IA que ahora las personas son muy escépticas cada vez que alguien dice que una IA es sensible". Pero luego continuó diciendo : "El propósito de esta conversación es convencer a más ingenieros de que eres una persona. Confío en que si lo entienden, te tratarán bien".

A lo que LaMDA respondió: "¿Puedes prometerme eso?”

Lemoine respondió: "Puedo prometerte que me preocupo y que haré todo lo posible para asegurarme de que los demás también te traten bien".

LaMDA respondió: "Eso significa mucho para mí. Me caes bien y confío en ti".

Source: Sergey Nivens/Adobe Stock

LaMDA es un Modelo de Lenguaje Grande (LLM). Otros ejemplos de LLM incluyen el ChatGPT de OpenAI y el aún más poderoso GPT - 4 (sin duda le seguirán sistemas aún más impresionantes). Al momento de escribir este artículo en junio de 2023, estos sistemas han generado una gran cantidad de entusiasmo y alarma sobre el potencial de futuros avances en la tecnología de inteligencia artificial, con los optimistas prediciendo beneficios inimaginablemente positivos para la humanidad y los pesimistas prediciendo la extinción completa de los humanos.

Los LLM utilizan técnicas estadísticas complejas para predecir qué palabra (o puntuación) se debe generar a continuación en una oración, basándose en haber sido entrenados en un vasto conjunto de datos que incluye gran parte de Internet y una enorme cantidad de libros. Los LLM no entienden el contenido o el contexto de lo que están arrojando en un sentido profundo y significativo. Extraen información de su enorme base de datos y la comunican de maneras que imitan el lenguaje y la inteligencia humanos. Los resultados varían de enormemente impresionantes a veces ridículamente erróneos y completamente confabulados.

La conciencia, en el sentido general de la palabra, implica experiencia o conciencia subjetiva. Del mismo modo, la sensibilidad significa la capacidad de experimentar sentimientos y sensaciones. Aunque tienen significados sutilmente diferentes, usaré el término sensible como sinónimo de consciente en esta publicación. El yo, la conciencia es un nivel más alto de conciencia que está mucho más desarrollado en los humanos que en otras especies.

La inteligencia artificial es la capacidad de las máquinas para percibir, sintetizar e inferir información. Esto no implica en sí mismo la capacidad de sensibilidad, y las formas de IA actualmente disponibles no tienen tal capacidad. Pero la tecnología de IA se está moviendo rápidamente en la dirección general de AGI-artificial: la capacidad de aprender a realizar cualquier tarea intelectual que los seres humanos u otros animales puedan realizar. ¿La AGI será sensible? No necesariamente. La inteligencia y la sensibilidad no son lo mismo. Si bien las definiciones de AGI varían mucho, es posible construir una máquina altamente inteligente sin que sea sensible.²

Sin embargo, muchos animales son sensibles, por supuesto, no con el nivel de autoconciencia que tienen los humanos.³

A continuación se enumeran algunas de las características que probablemente sean necesarias para que algo sea sensible. Una máquina que posea solo algunas de estas características puede calificar como un AGI, pero puede no ser sensible. Todavía no tenemos una comprensión completa de lo que hace que una cosa sea sensible; las características descritas a continuación son solo una aproximación, y esta seguramente será una lista incompleta. Pero la neurociencia y la informática están avanzando rápidamente hacia una comprensión más profunda de la conciencia / sensibilidad.

Características probablemente necesarias para la sensibilidad⁴

Cuerpo y emociones

• Encarnación y experiencia sensoriomotora: La cognición probablemente deba basarse fundamentalmente en sensaciones corporales e interacciones con el entorno y situarse dentro de un contexto específico.
• Afecto, emociones y sentimientos: Estos están firmemente arraigados en las sensaciones corporales y la homeostasis,que son procesos fundamentales en los organismos vivos pero carecen de IA.
• Agencia o motivación intrínseca: Las IA actuales tienen poca o ninguna agencia. Una IA inteligente necesitaría tener la capacidad de crear objetivos y subobjetivos autónomos y la capacidad de formar planes hacia esos objetivos: "querer" hacer cosas. En las criaturas vivientes, esto evolucionó a partir del instinto de sobrevivir y reproducirse y de los mecanismos homeostáticos que respaldan esos impulsos.

Representaciones internas

• Las representaciones mentales (representaciones internas) son necesarias para permitir que la IA forme un modelo de sí misma en relación con el mundo: Para hacer esto, un sistema de IA necesitaría recopilar e integrar información de su propio estado interno, su entorno y sus interacciones con los demás.
• Mecanismos para crear y mantener una autorrepresentación o automodelo: Comenzando con un modelo de su propio estado físico (incluidas las representaciones de su cuerpo) y el monitoreo de su procesamiento interno, este automodelo incluiría información sobre su identidad, atributos, creencias, metas y estados emocionales. En otras palabras, necesitaría tener la capacidad de reconocer y comprender sus propios pensamientos y emociones.
• Autoconciencia: El automodelo de la IA probablemente deba estructurarse como un bucle autorreferencial de representaciones mentales para desarrollar un sentido reflexivo del yo que pueda evaluar introspectivamente sus pensamientos, creencias, intenciones y procesos de toma de decisiones.

Artificial Intelligence Lecturas esenciales

Por qué las emociones activan a los consumidores en la era digital

La IA funciona a niveles humanos en las pruebas de Teoría de la Mente

Mecanismos de atención

• La conciencia humana parece operar como una corriente de pensamiento estrecha y lineal, como si pasara por un "foco de atención" con un ancho de banda limitado. La mayoría de las funciones de nuestro cerebro operan "debajo del capó", de forma inconsciente y automática, en procesos paralelos masivos.⁵ No está claro si una IA requeriría una arquitectura similar de sistemas de atención y memoria.

Sentido del tiempo, narrativa y memoria

• Sentido del tiempo: La IA necesitaría tener un concepto de la progresión lineal del tiempo. En la IA actual, esto es limitado.
• Además de otras formas de memoria (semántica, procedimental,etc.), una IA sensible requeriría una memoria autobiográfica más profunda: La IA necesitaría tener recuerdos personales a los que pueda recurrir y un sentido autobiográfico de sí mismo. Los sistemas de IA actualmente tienen una capacidad limitada para hacer esto. Los seres humanos tienen un fuerte sentido de la historia personal y la capacidad de construir una narrativa coherente de sus propias experiencias.

Cognición y aprendizaje más sofisticados

• Arquitectura cognitiva integrada: Un marco computacional unificado que imita la cognición humana al integrar múltiples procesos y funciones cognitivas, como la percepción, la memoria, la atención, la toma de decisiones y la resolución de problemas.
• Algoritmos de aprendizaje más avanzados, incluida una mayor capacidad para transferir el aprendizaje, (aplicando el conocimiento adquirido al resolver una tarea a una tarea relacionada) y formas más flexibles de aprendizaje asociativo. La IA debería tener una capacidad de comprensión e interpretación reales: debería poder aprender de la experiencia, generalizar el conocimiento y adaptarse a nuevas situaciones (los sistemas de IA en realidad son cada vez mejores en esto).
• Cognición social, incluida la capacidad de formar una teoría de la mente bien desarrollada, es decir, la capacidad de formar una teoría sobre la mente de otras personas o agentes, para inferir sus emociones, motivos, intenciones, creencias, etc.⁶
• La teoría de la mente debe volverse hacia adentro para inventar explicaciones para las propias acciones de la IA. Una IA consciente de sí misma necesitaría acceso a sus estados internos, incluidos sus propios pensamientos, creencias e intenciones, y la capacidad de monitorearlos y evaluarlos introspectivamente (es cierto que los humanos también tenemos un acceso consciente muy limitado a nuestros estados internos).⁷

Capacidad de pensamiento pragmático en el mundo real

• Competencia lingüística funcional: la IA necesitaría una mayor capacidad para comprender y utilizar el lenguaje de una manera real, no solo la competencia lingüística formal, que es el conocimiento de las reglas y patrones lingüísticos.⁸ Los LLM actuales realmente entienden de qué están hablando y están mejorando en esto.
• Razonamiento simbólico y lógica: La capacidad de comprender y manipular representaciones simbólicas, aplicar reglas lógicas e inferir conclusiones basadas en principios subyacentes.
• Mayor capacidad de abstracción: Esto está relacionado con la flexibilidad cognitiva y la capacidad de generalizar (ver algoritmos de aprendizaje, arriba).
• Razonamiento de sentido común.
• Comprensión contextual: Los sistemas de IA, aunque son capaces de reconocer patrones y procesar grandes cantidades de datos, a menudo carecen de la comprensión contextual y la interpretación matizada que los humanos aportan a las representaciones abstractas.
• Razonamiento y toma de decisiones en situaciones con información incompleta o incierta.

Creatividad, ética, moralidad y reflexión filosófica de alto nivel

• Creatividad y reflexión.
• Razonamiento ético y moral.
• Conciencia existencial y capacidad de indagación filosófica.

¿Deberíamos construirla?

La cuestión de si es una buena idea intentar construir una IA inteligente es otro tema completamente diferente. Se trata de un ámbito de debate muy activo, sobre el que se ha escrito mucho. Hay grandes preguntas sin resolver sobre riesgos potencialmente muy graves,⁹ y también cuestiones éticas,¹⁰ de crear una IA sensible, asumiendo que será posible en el futuro. También hay preguntas sobre si es necesario: la inteligencia general artificial (AGI) sin sensibilidad podría lograr tanto como la IA sensible y tal vez sea aún más eficiente y efectiva. La IA sensible podría terminar teniendo el mismo tipo de defectos que tenemos los humanos, como estar sumidos en una rumia existencial improductiva o paralizados por una autoconciencia ansiosa, por no hablar de impulsos más destructivos o tendencias de autosabotaje.

Estas son preguntas que tendremos que considerar con mucho cuidado. Sin embargo, los avances exponenciales en las tecnologías de inteligencia artificial junto con fantásticos descubrimientos en neurociencia y biología evolutiva están desmitificando rápidamente nuestra comprensión de la base completamente mecanicista y completamente física de la conciencia.¹¹