Los desarrollos recientes en IA han permitido a los investigadores ‘leer’ los pensamientos de alguien como un flujo continuo de texto
por Miriam Frankel
(The Conversation) Por primera vez, los investigadores lograron usar GPT1, precursor del chatbot de IA ChatGPT, para traducir imágenes de resonancia magnética a texto en un esfuerzo por comprender lo que alguien está pensando.
Este avance reciente permitió a los investigadores de la Universidad de Texas en Austin «leer» los pensamientos de alguien como un flujo continuo de texto, en función de lo que estaban escuchando, imaginando o viendo.
Plantea preocupaciones significativas por la privacidad, la libertad de pensamiento e incluso la libertad de soñar sin interferencias. Nuestras leyes no están preparadas para hacer frente al uso comercial generalizado de la tecnología de lectura mental: la ley de libertad de expresión no se extiende a la protección de nuestros pensamientos.
Se pidió a los participantes en el estudio de Texas que escucharan audiolibros durante 16 horas dentro de un escáner de resonancia magnética. Al mismo tiempo, una computadora «aprendió» cómo asociar su actividad cerebral de la resonancia magnética con lo que estaban escuchando. Una vez entrenado, el decodificador podría generar texto a partir de los pensamientos de alguien mientras escuchaba una nueva historia o imaginaba una propia.
Según los investigadores, el proceso requería mucho trabajo y la computadora solo logró obtener la esencia de lo que alguien estaba pensando. Sin embargo, los hallazgos aún representan un avance significativo en el campo de las interfaces cerebro-máquina que, hasta ahora, se han basado en implantes médicos invasivos. Los dispositivos no invasivos anteriores solo podían descifrar un puñado de palabras o imágenes.
Aquí hay un ejemplo de lo que estaba escuchando uno de los sujetos (de un audiolibro):
Me levanté del colchón de aire y presioné mi rostro contra el vidrio de la ventana del dormitorio, esperando ver ojos mirándome, pero en cambio solo encontré oscuridad.
Y esto es lo que la computadora «lee» de la actividad cerebral del sujeto:
Continué caminando hacia la ventana y abrí el vidrio. Me puse de puntillas y miré hacia afuera. No vi nada y volví a mirar. No vi nada.
Los participantes del estudio tuvieron que cooperar tanto para entrenar como para aplicar el decodificador, de modo que se mantuviera la privacidad de sus pensamientos. Sin embargo, los investigadores advierten que «los desarrollos futuros podrían permitir que los decodificadores eludan estos requisitos». En otras palabras, la tecnología de lectura de la mente podría aplicarse algún día a las personas en contra de su voluntad.
La investigación futura también puede acelerar el proceso de formación y decodificación. Si bien tomó 16 horas entrenar la máquina para leer lo que alguien estaba pensando en la versión actual, esto disminuirá significativamente en futuras actualizaciones. Y como hemos visto con otras aplicaciones de IA, es probable que el decodificador también sea más preciso con el tiempo.
Hay otra razón por la que esto representa un cambio radical. Los investigadores han estado trabajando durante décadas en interfaces cerebro-máquina en una carrera para crear tecnologías de lectura mental que puedan percibir los pensamientos de alguien y convertirlos en texto o imágenes. Pero por lo general, esta investigación se ha centrado en los implantes médicos, con el objetivo de ayudar a los discapacitados a expresar sus pensamientos.
Neuralink, la compañía de neurotecnología fundada por Elon Musk, está desarrollando un implante médico que puede «permitirle controlar una computadora o dispositivo móvil donde quiera que vaya». Pero es probable que la necesidad de someterse a una cirugía cerebral para que le implanten un dispositivo siga siendo una barrera para el uso de dicha tecnología.
Sin embargo, las mejoras en la precisión de esta nueva tecnología no invasiva podrían cambiar las reglas del juego. Por primera vez, la tecnología de lectura mental parece viable al combinar dos tecnologías que están fácilmente disponibles, aunque con un alto precio. Las máquinas de resonancia magnética actualmente cuestan entre $150,000 y $1 millón.
Ramificaciones legales y éticas
La ley de privacidad de datos actualmente no considera el pensamiento como una forma de datos. Necesitamos nuevas leyes que impidan la aparición de delitos de pensamiento, violaciones de datos de pensamiento e incluso, quizás, algún día, la implantación o manipulación del pensamiento. Pasar de leer el pensamiento a implantarlo puede llevar mucho tiempo todavía, pero ambos requieren una regulación y supervisión preventivas.
Investigadores de la Universidad de Oxford abogan por un derecho legal a la integridad mental, que describen como:
Un derecho contra la interferencia significativa y no consensuada con la mente de uno.
Otros comienzan a defender un nuevo derecho humano a la libertad de pensamiento. Esto se extendería más allá de las definiciones tradicionales de libertad de expresión, para proteger nuestra capacidad de reflexionar, preguntarnos y soñar.
Un mundo sin regulación podría volverse distópico muy rápidamente. Imagina que un jefe, un maestro o un funcionario estatal pueda invadir tus pensamientos privados, o peor aún, que pueda cambiarlos y manipularlos.
Ya estamos viendo que se implementan tecnologías de escaneo ocular en las aulas para rastrear los movimientos oculares de los estudiantes durante las lecciones, para saber si están prestando atención. ¿Qué sucede cuando las tecnologías de lectura mental son las próximas?
Del mismo modo, ¿qué sucede en el lugar de trabajo cuando a los empleados ya no se les permite pensar en la cena ni en nada fuera del trabajo? El nivel de control abusivo de los trabajadores podría superar todo lo imaginado anteriormente.
George Orwell escribió de manera convincente sobre los peligros del “crimen de pensamiento”, en el que el estado convierte en delito el mero hecho de tener pensamientos rebeldes sobre un régimen autoritario. La trama de “1984”, sin embargo, se basó en funcionarios estatales leyendo lenguaje corporal, diarios u otras indicaciones externas de lo que alguien estaba pensando.
Con la nueva tecnología de lectura de la mente, la novela de Orwell se volvería muy corta, tal vez incluso tan corta como una sola oración:
Winston Smith pensó para sí mismo: «Abajo el Gran Hermano», después de lo cual fue arrestado y ejecutado.
Reimpreso con permiso de The Conversation via Lifesite.
