OpenAI, de Elon Musk, descubre una neurona artificial que sólo se ha visto en el cerebro humano

Los investigadores de inteligencia artificial han descubierto neuronas dentro de un sistema de inteligencia artificial que sólo se habían visto anteriormente en el cerebro humano.

OpenAI, una startup fundada por Elon Musk, descubrió lo que los neurocientíficos llaman una neurona multinodal, dentro del oscuro funcionamiento interno de una de sus redes neuronales más avanzadas.

El descubrimiento se realizó utilizando un sistema de visión de propósito general llamado CLIP, que se entrena a sí mismo en conjuntos de datos complejos para reconocer objetos y personas dentro de contextos abstractos, como dibujos animados o estatuas.

"Hemos descubierto neuronas en CLIP que responden al mismo concepto, ya sea que se presenten literal, simbólica o conceptualmente", explicó OpenAI en una publicación de blog.

“Nuestro descubrimiento de neuronas multinodales en CLIP nos da una pista sobre lo que puede ser un mecanismo común de los sistemas de visión tanto sintéticos como naturales: la abstracción”.

Las neuronas multimodales se descubrieron por primera vez en el cerebro humano en 2005, cuando los científicos se dieron cuenta de que una sola neurona podía identificar un tema común a través de grupos de conceptos abstractos transmitidos a través de información sensorial.

En lugar de millones de neuronas trabajando juntas para identificar una imagen de una celebridad, por ejemplo, sólo una neurona es responsable de reconocerlas.

Esto significa que el cerebro humano tiene una neurona individual dedicada a cada miembro de la familia, amigo y celebridad que una persona conoce, y esa neurona responde a fotografías, dibujos e imágenes de su nombre, pero no a otros nombres.

Leer más: Un pequeño parche para la piel puede monitorear el cuerpo de una persona, dicen científicos

Al igual que sus homólogos biológicos, los investigadores de OpenAI encontraron neuronas artificiales "que responden a las emociones, los animales y la gente famosa".

Una de esas neuronas, a la que llamaron la “neurona Spiderman”, tenía un "parecido notable" con las neuronas multinodales descritas por primera vez en el estudio de 2005.

La neurona "responde a una imagen de una araña, una imagen del texto “araña” y el personaje de cómic Spiderman, ya sea disfrazado o ilustrado", escribieron los investigadores.

Las redes neuronales tienen un enorme potencial en el desarrollo de sistemas avanzados de inteligencia artificial, ya que han impulsado avances en áreas como el reconocimiento facial, los asistentes digitales y los vehículos autónomos.

Están compuestos por neuronas o nodos artificiales que se inspiran en la arquitectura de los sistemas neuronales biológicos para procesar datos.

El inconveniente de una tecnología tan poderosa es que puede resultar difícil saber por qué toma determinadas decisiones o cómo llega a conclusiones particulares.

Esto puede conducir a resultados no deseados, como la formación de asociaciones sexistas o racistas con ciertas categorías debido a los vastos conjuntos de datos que utilizan para entrenar.

El modelo de OpenAI se entrenó en un subconjunto seleccionado de Internet, pero aún hereda ciertos sesgos y asociaciones que podrían resultar dañinos si se usara en aplicaciones comerciales.

“Hemos observado, por ejemplo, una neurona de 'Oriente Medio' asociada con el terrorismo y una neurona de 'inmigración' que responde a América Latina”, afirmó OpenAI.

"Incluso hemos encontrado una neurona que se activa tanto para las personas de piel oscura como para los gorilas, reflejando incidentes anteriores de etiquetado de fotografías en otros modelos que consideramos inaceptables".

Las herramientas que los investigadores desarrollaron para comprender tales redes neuronales podrían ayudar a otros a adelantarse a los problemas potenciales que puedan surgir en el futuro.