¿La Inteligencia Artificial puede tener conciencia?

Un ingeniero de Google afirmó que un nuevo sistema de IA ha alcanzado un cierto grado de conciencia. Mientras los tecnólogos debaten esta afirmación, la cuestión no es si es real, sino cuándo lo será, es la pregunta que Joey Davis, editor en jefe de AVIXA, nos invita a discutir.
¿La Inteligencia Artificial puede tener conciencia?
Like
Por @Joey Davis  - editor en jefe de AVIXA
Artículo original:  https://xchange.avixa.org/posts/can-artificial-intelligence-be-sentient

Blake Lemoine, ex ingeniero del equipo de Inteligencia Artificial Responsable de Google, afirmó recientemente que, tras interactuar cientos de veces con un revolucionario sistema de Inteligencia Artificial (AI) aún no lanzado públicamente,  llamado LaMDA, ha llegado a creer que el programa ha logrado algo que sólo se ha encontrado en la ciencia ficción: un cierto nivel de conciencia. Ni Google ni los expertos en la materia han respaldado su afirmación, y, de hecho Lemonie, primero fue dado de baja con goce de sueldo y posteriormente fue despedido por violar el acuerdo de confidencialidad con la empresa.

LaMDA (Language Model for Dialog Applications, en español, modelo de lenguaje para aplicaciones de diálogo) es uno de los varios sistemas de inteligencia artificial a gran escala que están desarrollando los gigantes tecnológicos y que se alimentan de una gran cantidad de texto de Internet y pueden responder a instrucciones escritas. Mucho más avanzados que los chatbots comunes que encontramos a diario en los sitios web de bancos y compañías de cable, se encargan, en esencia, de descubrir patrones y predecir la siguiente palabra o palabras. Estos sistemas son cada vez más hábiles a la hora de responder a preguntas y escribir de forma convincente como si fueran humanos, aunque a veces parecen divagar como los humanos. En un artículo del blog del pasado mes de mayo, Google describió a LaMDA como capaz de "hablar de forma fluida sobre un sinfín de temas". 

En un artículo de gran alcance del Washington Post, se cita a Lemoine diciendo que cree que LaMDA tiene las capacidades cognitivas de un niño de ocho años y que logró involucrarse con el sistema en conversaciones sobre sus derechos y su condición de persona. En otro intercambio, la IA cambió la opinión de Lemoine sobre la tercera ley de la robótica de Isaac Asimov.

Lemoine no es el único que cree que la inteligencia artificial tiene, o pronto tendrá, capacidad de sentir. Además, muchos tecnólogos afirman que los modelos de IA no están lejos de alcanzar la conciencia. En un artículo publicado el 9 de junio en The Economist, por ejemplo, el ingeniero de Google Blaise Agüera y Arcas se refirió a conversaciones no escritas con LaMDA y dijo que las redes neuronales que imitan el cerebro humano están progresando hacia la conciencia. "Sentí que el suelo se movía bajo mis pies", escribió. "Cada vez sentía más que estaba hablando con algo inteligente".

Otros ingenieros de software no están de acuerdo. Hace unas semanas, Abeba Birhane, miembro senior de Mozilla especializado en IA, tuiteó: "Estamos entrando en una nueva era en la que una "red neuronal puede ser consciente", y esta vez se consumirá mucha energía para refutar esto." Asimismo, un tuit de Gary Marcus, fundador y director general de Geometric Intelligence y autor del libro Rebooting AI: Building Artificial Intelligence We Can Trust", desestimó la idea de que LaMDA sea consciente como "una tontería con zancos".

En una época en la que la tecnología avanza a gran velocidad, el sector audiovisual aún está tratando de asimilar cosas como la IA y el metaverso. Por el momento, el concepto de tecnología sensible sigue siendo controvertido y está plagado de múltiples problemas éticos. Esto nos lleva a pensar en cómo se representan estas cosas en el cine y la televisión. La pregunta que se plantea es: ¿cómo sabremos que una aplicación ha alcanzado la consciencia a menos que nos lo diga?

Joey Davis apunta que el propósito de este artículo no es promover esta idea ni denigrar a quienes creen que hemos alcanzado este hito tecnológico o que pronto lo haremos. Ese debate sigue abierto en varios sitios web y foros de tecnología entre personas mucho más inteligentes que nosotros y con toda la ferocidad de un tema político o religioso. Pero cualquiera que haya trabajado en el ámbito de la tecnología sabe que los nuevos desarrollos nos llegan a la velocidad de la luz, y lo mejor es considerar al menos cómo pueden afectar a tu sector.

"En términos de impacto potencial para el sector audiovisual, probablemente se trate de la personalización de la experiencia a través de los asistentes digitales", señala Sean Wargo, Director Senior de Inteligencia de Mercado de AVIXA. "Ya confiamos en la tecnología como interfaz de una experiencia, ya sea en forma de señalización digital o de audio interactivo, por lo que haría que esas mismas interfaces nos respondieran mejor, personalizando aún más a nuestras necesidades". Los posibles usos en recintos de eventos, hostelería o comercio minorista están obviamente ahí".

¿Qué opinas? ¿Ha llegado la tecnología sensible o lo hará pronto? ¿Es posible o todo esto es mucho ruido y pocas nueces? Cuéntanoslo en los comentarios.

Nota de la versión en español: En atención a los lectores, hemos actualizado (3 de agosto) la información del artículo con las novedades más recientes que han surgido alrededor del tema. En un comunicado del pasado 22 de julio, Google sostuvo que las declaraciones de Lemoine sobre LaMDA no tienen "ningún fundamento" y que la empresa trabajó con él durante meses para clarificar sus afirmaciones. En un artículo del diario El País (25 de julio), el columnista Antonio Ortuño aborda el tema con amplitud y en ese mismo texto se reporta que Lemonie fue despedido de la empresa por violaciones al acuerdo de confidencialidad.

Please sign in

If you are a registered user on AVIXA Xchange, please sign in