Actualmente, es posible captar la señal cerebral mediante dispositivos médicos, interfaces cerebro-computadora o, en formas más sencillas, tecnología portátil. Esto no se trata de leer la mente en el sentido de la ciencia ficción, sino de medir la actividad eléctrica o fisiológica a partir de la cual un sistema intenta reconocer patrones. Cuando la inteligencia artificial interviene en este proceso, el cerebro deja de producir únicamente datos clínicos y se convierte en una fuente de inferencias potencialmente reutilizables sobre la salud, la atención, la intención y el comportamiento.
El 8 de septiembre, la Comisión Europea publicó «Gobernar la neuro-IA», un dictamen del Grupo Europeo de Ética en la Ciencia y las Nuevas Tecnologías. En él se describe la convergencia de la neurociencia y la IA como un cambio de escala: ya no basta con evaluar un implante o una aplicación aislada. Debemos examinar toda la infraestructura de sensores, plataformas, nubes, archivos, modelos y organizaciones capaces de transformar una señal biológica en una decisión.
La distinción crucial radica en la diferencia entre datos neuronales e inferencia. Los datos brutos pueden ser una secuencia de impulsos; una inferencia es lo que un modelo afirma poder deducir de esa secuencia. Una predicción sobre la atención, el riesgo de enfermedad o la respuesta emocional puede ser más sensible que la señal original. Por lo tanto, proteger únicamente el archivo recopilado es insuficiente. Las interpretaciones producidas, almacenadas, vendidas o vinculadas a otros perfiles también deben estar reguladas.
Los modelos de la Fundación Cerebral concretan aún más el problema. A medida que los grandes modelos de lenguaje aprenden estructuras a partir de enormes cantidades de texto, estos sistemas buscan regularidades en los datos cerebrales de numerosas personas, dispositivos y tareas. Pueden servir de apoyo a la investigación, el diagnóstico, la rehabilitación y nuevas formas de comunicación para personas con discapacidades del habla o la movilidad. Sin embargo, un modelo general puede adaptarse a fines muy distintos de aquellos para los que se recopilaron los datos, lo que hace que el consentimiento único resulte insuficiente.
