subcomisiones

Subcomisión de Programación y Robótica

Artículo ¿Qué es la conciencia, y podrían tenerla las máquinas?

¿Qué es la conciencia, y podrían tenerla las máquinas?

“Aprende a escuchar la voz de las cosas, de los acontecimientos. Verás como todo habla, todo se comunica contigo”

La cuestión controvertida de si las máquinas pueden ser conscientes alguna vez debe basarse en una cuidadosa consideración de cómo surge la conciencia en el único sistema físico que sin duda lo posee: el cerebro humano. En este estudio se sugiere que la palabra “conciencia” combina dos tipos diferentes de cálculos de procesamiento de información en el cerebro: la selección de información para la difusión global, por lo que está disponible de manera flexible para el cálculo y el informe (C1, conciencia en el primer sentido) y autocontrol de esos cálculos, lo que lleva a un sentido subjetivo de certeza o error (C2, conciencia en el segundo sentido). Se argumenta que, a pesar de sus recientes éxitos, las máquinas actuales todavía están implementando en su mayoría cálculos que reflejan el procesamiento inconsciente (C0) en el cerebro humano.2

¿Llegaremos algún día a crear máquinas conscientes?  Aunque la posibilidad es inquietante ya fue planteada en libros de visionarios de la ciencia ficción y porque no de la ciencia moderna, como unos de los ejemplos más conocidos, la supercomputadora HAL 9000 de la novela “2001 Odisea en el espacio” de Arthut C. Clarke, y en especial consideración de las “leyes de la robótica” formuladas por Isaac Asimov en sus libros, ámbos escritores relacionados a nuestra augusta orden.

La palabra “conciencia”, como muchos términos precientíficos, se usa en sentidos muy diferentes. En un contexto médico, a menudo se usa en un sentido intransitivo (como en “el paciente ya no estaba consciente”), en el contexto de la evaluación de la vigilancia y la vigilia. Epistemológicamente la conciencia es la capacidad que poseemos los seres humanos y que permite conectarnos con el aquí y el ahora, hacia afuera y hacia uno mismo. En la historia de la palabra, en latín el adjetivo conscius (partícipe del conocimiento, que comparte con otro el conocimiento de algo, confidente), sobre este se construye el sustantivo conscientia, en principio conocimiento compartido, luego fue evolucionando de conocimiento global y completo a autoconocimiento global de un ser humano, de su existencia y de su pensamiento, de sus actos y de la relación de sus actos de moral, personajes de la historia desde Cicerón, Séneca o Terencio nunca se imaginaron que esta palabra se iba a aplicar a una maquina construída por el inetelecto humano y mucho menos que éste le podría conferir conciencia 3

Alan Turing y John von Neumann, los fundadores de la moderna ciencia de la computación, consideraron la posibilidad de que las máquinas finalmente imitaran todas las capacidades del cerebro, incluida la conciencia. Los recientes avances en inteligencia artificial (IA) han revivido este objetivo. Los refinamientos en el aprendizaje automático, inspirados en la neurobiología, han llevado a redes neuronales artificiales que se acercan o, en ocasiones, superan a los humanos.4,5 

Proporcionar consciencia a un objeto precisaría que este tuviera un “cerebro”, no solo lo suficientemente complejo como para procesar información y generar pensamiento abstracto, del mismo modo que lo hace el nuestro, sino también para generar un sentido individual del “yo”, tomar decisiones más allá de su programación inicial o sentir y comunicar sus sentimientos.

De momento, lo que sí se ha conseguido es que las máquinas de inteligencia artificial puedan resolver rápidamente tareas computacionales. Esto es posible gracias a sofisticados sistemas de inteligencia artificial que permiten a las máquinas “aprender”.

Se denominan sistemas de “aprendizaje profundo” y están formados por capas intercomunicadas de algoritmos especializados en asimilar representaciones de datos. Gracias a ellos, las máquinas de inteligencia artificial pueden, por ejemplo, aprender a identificar enfermedades o rostros.

Pero incluso esa capacidad de aprendizaje depende inicialmente de un programador humano. De momento, las máquinas de inteligencia artificial aún no son capaces de pensar por sí mismas.

Conocer y replicar la consciencia

Poder dotar a las máquinas de consciencia deberá pasar ineludiblemente por que entendamos qué es la consciencia. En 2017, la revista Science publicaba un artículo al respecto. En él se sintetizaba (y se simplificaba) el funcionamiento de la consciencia humana, para tratar de dilucidar cómo esta podría incorporarse a las máquinas de inteligencia artificial. 

Según los autores del artículo, entre los que se encontraba el neurocientífico francés Stanislas Dehaene, de cuyos estudios sobre la consciencia en bebés hemos hablado hace poco, en el ser humano existen tres niveles de consciencia humana. Dehaene es Director de la unidad de Neuroimagen Cognitiva del Centro de NeuroSpin de París y profesor de la cátedra de Psicología Cognitiva Experimental del College de Francia.

En el primero de los niveles de la consciencia humana, definido como “C0” (“No podemos ser conscientes de lo que no somos conscientes”),6 se producirían los cálculos cerebrales inconscientes, por ejemplo, aquellos que nos permiten reconocer caras. En el segundo nivel, el “C1”, se filtrarían y evaluarían los datos que nos llegan del mundo exterior para modular nuestras respuestas a circunstancias específicas. La autoconsciencia surgiría en un tercer nivel de consciencia, el “C2”, y conllevaría poder reconocer y corregir los propios errores o investigar lo desconocido.

Según Dehaene y su equipo, si se logra traducir a términos computacionales la actividad neuronal que permite estos tres niveles de consciencia, las máquinas podrían ser programadas para la consciencia.

Acercamientos

De momento, lo máximo que se ha conseguido, al menos según lo que sabemos, es lo siguiente. En 2015 se realizó un experimento en el laboratorio de robótica de Nueva York, en Estados Unidos, que consistió en hacer “creer” a dos de tres robots Nao que se les había dado una pastilla que los dejaba sin habla.

En realidad, simplemente se había pulsado en dos de ellos un botón para silenciarlos, pero ninguno de los tres sabía cuál de ellos podía seguir hablando. Eso era lo que tenían que averiguar. Cuando el investigador les preguntó a los robots, los procesadores de estos trataron de buscar la respuesta correcta. Ya que dos no podían hablar porque estaban silenciados, sólo uno respondió en voz alta: “no sé”. 

En ese momento, aseguraron los autores del experimento, cayó en la cuenta de la solución: al oír su propia voz robótica, entendió que no podía estar silenciado. Entonces señaló: “puedo demostrar que no me dieron la pastilla“. Según un artículo publicado en la revista New Scientist, esta fue la primera vez que un robot superaba un enigma de este tipo, acercándose así a los límites de la (auto) consciencia.

Otros dos ejemplos nos han llamado la atención en los últimos años a este respecto: uno es el de “Nico, un robot de investigación de la Universidad de Yale capaz de reconocer su propia mano en un espejo, y otro es Qbo, un proyecto español de código abierto programado para tareas de reconocimiento facial o de objetos, que puede reconocerse a sí mismo frente a un espejo.

Sin embargo, en todos estos casos los robots no han hecho más que constatar en ellos mismos una característica que habrían reconocido del mismo modo en otros, es decir, que su logro no implicaría que sean capaces de distinguirse de los demás o tener noción de un “yo”.

El temor a lo desconocido

A pesar de lo lejos que parecen quedar las máquinas conscientes, sus potenciales peligros ya pesan en la consciencia de algunos (todos ellos humanos).

Los riesgos de estas máquinas, y en concreto su potencial uso en el terreno bélico, fue alertado en 2007 por un equipo internacional de científicos y académicos pertenecientes a”EURON” (EUropean RObotics research Network). Hace un par de años, además, el ya fallecido Stephen Hawking y otras 16.000 personas lanzaron una campaña para señalar el riesgo de que crear ‘robots asesinos’, quizá inteligentes, pero con una consciencia (en el sentido moral del término) mínima; programada por humanos sin escrúpulos.

  1. https://www.tendencias21.net/Podraadquirirconsciencialainteligenciaartificial_a44579.html

  2. Dehaene, S.; Lau, H.; Kouider, S., What is consciousness, and could machines have it?

Science 2017, 358 (6362), 486-492.


  1. http://etimologias.dechile.net/?conciencia

  2. D. plata , A. Huang , CJ Maddison , A. Guez , L. Sifre , G. van den Driessche , J.

Schrittwieser , I. Antonoglou , V. Panneershelvam , M. Lanctot , S. Dieleman , D. Grewe , J.

Nham , N. Kalchbrenner , Me sutskever , T. Lillicrap , M. Leach , K. Kavukcuoglu , T. Graepel , D.

Hassabis, Dominando el juego de Go con redes neuronales profundas y búsqueda de árboles .

Nature 529 , 484 – 489 ( 2016 ). 10.1038 / nature16961 pmid: 26819042


  1. Lago BM , TD Ullman , JB Tenenbaum , SJ Gershman, Construyendo máquinas que aprenden y piensen como personas . Behav. Cerebro sci. 2016 , 1 – 101 ( 2016 ). 10.1017 /

S0140525X16001837 pmid: 27881212P


  1. J. Jaynes, El origen de la conciencia en la ruptura de la mente bicameral (Houghton Mifflin Company, 1976).

Artículo Panorama sobre la discapacidad

Panorama sobre la discapacidad

Una visión del panorama actual.

Situación Mundial
En la actualidad la Organización Mundial de la Salud (OMS) estima que el 15,6% de la población mundial posee alguna discapacidad moderada o grave (1 de cada 7 personas) y el 2,9% una discapacidad grave. En el mismo informe se advierte que la población mundial crece década a década y que el porcentaje de personas con discapacidad también lo hace, por último se destaca que la franja etaria más comprometida son las personas mayores.

En cuanto a las personas mayores la OMS estima que en el 2015 la población mundial de personas mayores a 60 años era aproximadamente 1.100 millones, y 125 millones de personas mayores a 80 años. También estima que para el año 2050 la población de personas mayores a 60 años alcance los 2.000 millones y la población mayor a 80 años alcance los 434 millones.

En este contexto deberíamos preguntarnos, ¿Qué es la discapacidad?

La OMS define la discapacidad como un término genérico que abarca deficiencias, limitaciones de la actividad y restricciones a la participación. Se entiende por discapacidad la interacción entre las personas que padecen alguna enfermedad (por ejemplo, parálisis cerebral, síndrome de Down y depresión) y factores personales y ambientales (por ejemplo, actitudes negativas, transporte y edificios públicos inaccesibles y un apoyo social limitado).

Situación de la Argentina
En 2003 se realiza la Primera Encuesta Nacional de Personas con Discapacidad (ENDI), una encuesta complementaria del Censo Nacional de Población de Hogares y Viviendas del año 2001, tomando una muestra de alrededor de 67.000 hogares urbanos en todo el país. Entre ellos, el 7,1% de la población tiene alguna discapacidad. En números absolutos se trata de 2.176.123 personas. La distribución por sexo de las personas con discapacidad muestra un leve predominio de mujeres con el 53,6% y el 46,4% restante, varones. El estudio reveló que el 40% de la población afectada posee discapacidades motoras, el 22% discapacidades visuales y el 15% discapacidades cognitivas, el restante 23% posee otras discapacidades.

Este año se realizó el Estudio Nacional Sobre el Perfil de las Personas con Discapacidad, el primero desde el ENDI, realizado por el INDEC. La muestra fue tomada de aproximadamente 41.000 hogares en localidades de más de 5.000 habitantes. Se estima que el 10,2% de la población de 6 años o más posee alguna discapacidad, en términos absolutos se estiman 3.571.983 personas. La distribución por sexo se mantiene con una leve inclinación hacia las mujeres, siendo el 51,5%, y el restante 48,5% corresponde a los hombres. En cuanto a las discapacidades, el 42,7% posee discapacidades motoras, el 23,3% discapacidades visuales, el 18,6% posee discapacidades auditivas, el 12,7% discapacidades cognitivas, el restante 2,7% posee discapacidades de comunicación y cuidado a sí mismo.

Organización Mundial de la Salud, Banco Mundial, “Informe Mundial sobre la Discapacidad”. 2011

Organización Mundial de la Salud. “Informe mundial sobre el envejecimiento y la salud.” 2015.

Organización Mundial de la Salud, Organización Panamericana de la Salud. “CIF: Clasificación internacional del funcionamiento, de la discapacidad y de la salud”. (2001).

https://www.indec.gov.ar/micro_sitios/webcenso/ENDI_NUEVA/ampliada_index_total.asp?mode=01

https://www.indec.gov.ar/ftp/cuadros/poblacion/estudio_discapacidad_07_18.pdf

Encontrás aquí el detalle de las subcomisiones