Knowing Neurons
Tecnologías neurocientíficasConcurso de Ciencia Política 2023Políticas científicas

La Verdad Está en Tus Ojos: Regulando el Uso Encubierto de la Bioretroalimentación de la Pupila

¡GANADOR DEL SEGUNDO LUGAR!

Memorándum de política por Erin Morrow

INTRODUCCIÓN

En la última década, las tecnologías de consumo se han vuelto cada vez más capaces de registrar y analizar datos fisiológicos. Por ejemplo, los relojes inteligentes ahora pueden monitorear la frecuencia cardíaca en tiempo real, detectar cambios en la marcha e incluso realizar electrocardiogramas, ofreciendo recomendaciones basadas en estas medidas. Estos avances siguen al ascenso meteórico de la medicina de precisión, que tiene como objetivo mejorar la calidad de vida y la atención médica al recopilar una gran cantidad de datos de salud de cada individuo (ver Jeong, Bychkov y Searson, 2019). Sin embargo, se ha observado un importante avance en la tecnología de realidad extendida (XR), donde las empresas han comenzado a recopilar, almacenar y utilizar datos biométricos con fines no relacionados con la salud (Plopski et al., 2022). 

Apple puede predecir cuán comprometido está un usuario con un elemento mostrado y optimizar el contenido en consecuencia.

Anunciado en junio de 2023, el auricular Vision Pro de Apple utilizará el seguimiento ocular para moldear la forma en que los usuarios interactúan con una interfaz de XR. De hecho, recientes patentes de Apple describen un mecanismo mediante el cual su dispositivo puede rastrear el tamaño de la pupila para inferir el estado de atención de un usuario y, basándose en estos datos, cambiar la forma en que se muestra el contenido. Por ejemplo, si la pupila de un usuario tiende a dilatarse más en respuesta a un cierto color, el dispositivo elegirá utilizar ese color con más frecuencia (Crispin, Yildiz y Mulliken, 2020, 2021). De esta manera, Apple puede predecir cuán comprometido está un usuario con un elemento mostrado y optimizar el contenido en consecuencia. Aunque esta característica probablemente fue diseñada para mejorar la experiencia del usuario, también plantea un riesgo sin precedentes para la autonomía del consumidor. Es decir, los usuarios pueden no ser conscientes de que se están utilizando datos biométricos sensibles para manipular activamente el contenido y posiblemente generar ganancias para terceros. Por ejemplo, el dispositivo puede ‘aprender’ que un cierto tipo de letra es más efectivo para provocar la dilatación de la pupila en respuesta a cierto anuncio y seguir utilizando ese tipo de letra para fomentar compras. Sin embargo, el tráiler extendido de casi 10 minutos de Vision Pro no menciona en absoluto las capacidades de bioretroalimentación ni cómo se podría compartir esta información. Mientras tanto, algunos enfatizan que el Vision Pro podría actuar como un precursor rudimentario de interfaces cerebro-computadora (BCI) para consumidores, o máquinas que pueden ser operadas completamente utilizando señales neuronales (Crispin, 2023; VK, 2023). De hecho, ya se han comenzado a explorar las posibilidades de combinar la tecnología de XR y BCI (Arpaia et al., 2022). Aunque el Vision Pro no alcanza este nivel de función, ya que depende de una variedad de entradas no neurales, es fundamental anticipar y regular el uso engañoso de la tecnología de biorretroalimentación a medida que la innovación avanza.

IMPLICACIONES ÉTICAS: SIMILITUDES Y DIFERENCIAS CON ENFOQUES EXISTENTES

El uso de seguimiento ocular en tiempo real para medir la atención plantea preocupaciones éticas únicas en comparación con las técnicas convencionales que miden el compromiso digital. En concreto, los datos de la pupila ofrecen una ventana más directa a los estados mentales humanos. El tamaño de la pupila indica varios aspectos del procesamiento neural, incluyendo la carga/esfuerzo cognitivo (Wierda et al., 2012), la atención (Hong, Walz y Sajda, 2014; Kang, Huffer y Wheatley, 2014), y el nivel de excitación (Bradley et al., 2008; Clewett, Gasser y Davachi, 2020). Más específicamente, las regiones cerebrales que respaldan estos procesos, como el locus coeruleus, activan vías autónomas que controlan los músculos lisos del iris, dirigiendo la pupila a expandirse o contraerse (Bradley et al., 2008; Liu et al., 2017; Steinhauer et al., 2004). Dado el acceso al ojo dentro de esta red, la pupilometría se ha utilizado como un método relativamente económico y no invasivo para inferir estados psicológicos desde la década de 1960 (Laeng, Sirois y Gredebäck, 2012). Por otro lado, métricas más indirectas, como el tiempo que uno pasa en una publicación de redes sociales, pueden no capturar el verdadero compromiso del usuario. Por ejemplo, los algoritmos actuales no pueden discriminar entre un usuario que ve atentamente contenido de video y otro que deja un video abierto en segundo plano mientras realiza una tarea separada. Al eliminar esta ambigüedad, la biorretroalimentación de la pupila proporciona a las empresas de tecnología estimaciones más precisas de las reacciones de los usuarios a contenido momento a momento. Dado que existe evidencia de que la dilatación de la pupila puede estar relacionada con las preferencias del consumidor (Ramsøy et al., 2017), los dispositivos podrían modificar el contenido en función de esta información para influir en la toma de decisiones del usuario, potencialmente sin su conocimiento o consentimiento.

… los datos de la pupila ofrecen una ventana más directa a los estados mentales humanos.

Estos riesgos amplían un debate existente sobre las implicaciones éticas del neuromarketing. El neuromarketing se refiere al uso de técnicas de neurociencia para comprender mejor el comportamiento del consumidor, es decir, cómo se pueden representar, descifrar e influir en las preferencias del consumidor (Murphy, Illes y Reiner, 2008; Stanton, Sinnott-Armstrong y Huettel, 2017). Trabajos anteriores han utilizado una amplia gama de metodologías, incluyendo la resonancia magnética funcional (fMRI), la electroencefalografía (EEG) y el seguimiento ocular, para investigar cómo responde el cerebro a diferentes productos y anuncios (consultar a Stanton, Sinnott-Armstrong y Huettel, 2017 para una revisión). Estas técnicas ofrecen el atractivo de la ciencia dura a la investigación de marketing al reemplazar los grupos de enfoque tradicionales y las medidas de autorreporte por datos neurales “objetivos”. Sin embargo, si esta señal neural se manipula para lograr algún objetivo, la libertad cognitiva de uno, o el derecho a “pensar sus propios pensamientos” (pp. 2301; Rainey et al., 2021), podría considerarse en riesgo (Rainey et al., 2021; consultar a Farahany, 2018; Sententia, 2006). Aunque la posible pérdida de la libertad cognitiva a veces se exagera dadas las condiciones actuales de la ciencia (Stanton, Sinott-Armstrong y Huettel, 2017), el neuromarketing sigiloso constituye un desafío único al influir en la toma de decisiones sin que el individuo tenga conciencia de ello. De hecho, el público parece ser particularmente sensible a las manipulaciones del comportamiento del consumidor que se realizan de manera inadvertida (Murphy, Illes y Reiner, 2008; consultar a Karremans et al., 2006; Moore, 1982). El uso encubierto de la biorretroalimentación de la pupila parece encajar perfectamente en esta categoría; en este caso, los usuarios proporcionan datos sensibles sobre sus propios estados mentales que se utilizan sin que lo sepan para ajustar el contenido y maximizar el compromiso. Para salvaguardar la autonomía del consumidor, es imperativo asegurarse de que los usuarios estén al tanto de la forma en que sus datos biométricos influyen en su experiencia.

RECOMENDACIONES DE POLÍTICAS

1a Opción Política: Sin cambios. Aunque mantener el estado legal actual es una posibilidad, esta opción deja poco margen para posibles amenazas a la autonomía. Con una empresa tan grande y ubicua como Apple adoptando la tecnología de seguimiento ocular, siguiendo a gigantes de la industria como Microsoft (Stellmach et al., 2023) y Google (Calderone, 2015), la biorretroalimentación de la pupila podría estar pronto en manos de millones de personas. Aunque el precio de $3,500 es probablemente demasiado alta para el usuario promedio de iPhone, se espera que las futuras iteraciones aumenten la accesibilidad y la disponibilidad. Aunque no llega tan lejos como el chip Neuralink, que lee señales eléctricas directamente desde el cerebro y debe ser implantado quirúrgicamente, el Vision Pro representa un enfoque más económico, accesible y menos invasivo que probablemente se implementará de manera más amplia. Permitir que esta innovación avance sin regulación conlleva el riesgo de engaño y explotación por parte de anunciantes de terceros que pueden acceder a información sensible sobre los estados mentales de los usuarios y utilizarla para impulsar sus negocios. Dado nuestra posición en un momento crucial en el desarrollo de la neurotecnología para consumidores, debemos considerar alternativas políticas.

Este nuevo acceso permite a las empresas manipular contenido basándose en información que es tanto sensible como en gran parte involuntaria.

2a Opción Política: Enmendar la definición de engaño en la Ley de la FTC. Una alternativa es ampliar la definición de engaño en la Ley de la Comisión Federal de Comercio (FTC). La Ley de la FTC permite a la mencionada agencia tomar medidas legales contra las empresas que engañan a los consumidores (Ley de la Comisión Federal de Comercio, 2018), es decir, “[representan], [omitir], o [realizan una] práctica que es probable que induzca a error” (pp. 1; Declaración de la FTC sobre el Engaño, 1984). Cabe destacar que la FTC previamente ha investigado el uso del engaño en la publicidad conductual en línea, en la cual las empresas personalizan anuncios para un usuario individual basada en su actividad digital (Comisión Federal de Comercio, 2009). Aunque el uso encubierto de la biorretroalimentación de la pupila puede entrar en esta categoría y, por lo tanto, estar sujeto a las pautas existentes de la FTC, probablemente representa un riesgo nuevo y único al incorporar datos biométricos en tiempo real. Como se explicó anteriormente, los datos de la pupila evalúan los estados mentales de manera más directa que otras medidas de compromiso digital. Este nuevo acceso permite a las empresas manipular contenido basándose en información que es tanto sensible como en gran medida involuntaria (Loewenfeld, 1993). Por lo tanto, ampliar la definición de engaño para incluir el uso encubierto de datos biométricos sería beneficioso. La Sección 57a de la Ley de la FTC permite la creación de estas nuevas pautas (Ley de la Comisión Federal de Comercio, 2018); de hecho, legislación reciente ha prohibido prácticas engañosas relacionadas con COVID-19 (Ley de Protección al Consumidor COVID-19 del Acta de Asignaciones Consolidadas de 2021, 2020) y ventas en línea de boletos (Ley de Mejora de Ventas en Línea de Boletos, 2016), por ejemplo. Por lo tanto, existe un precedente para garantizar protecciones adicionales para la autonomía del consumidor.

3Opción Política: Nueva legislación para abordar la manipulación encubierta basada en datos neurales. Dada la rápida expansión de la neurotecnología para consumidores en los últimos años, podría ser necesario promulgar una nueva legislación en su totalidad. De hecho, los productos emergentes, como dispositivos de neuroestimulación, dispositivos portátiles, interfaces cerebro-computadora y otras tecnologías de realidad extendida, probablemente estén fuera del alcance de las orientaciones existentes (Kreitmar, 2019; Wexler y Reiner, 2019) y podrían beneficiarse de su propio marco regulatorio. Por lo tanto, una segunda opción es redactar un nuevo proyecto de ley que regule cualquier manipulación encubierta de contenido basada en datos neurales. Esta manipulación podría extenderse más allá de la publicidad y otras tácticas de marketing. Por ejemplo, imagina un dispositivo portátil del futuro que pueda evaluar el estado de ánimo de una persona y posteriormente alterar las noticias o publicaciones en redes sociales que se les muestran sin que lo sepan. Este escenario recuerda al controvertido experimento de ‘contagio emocional’, en el cual los experimentadores manipularon de manera encubierta las noticias de más de 500,000 usuarios de Facebook para afectar su estado de ánimo (Kramer, Guillory y Hancock, 2014). Aunque se presentaron quejas ante la FTC tras la publicación de este estudio (Gibbs, 2014; Rotenberg y Horwitz, 2014), el uso de neurotecnología para producir efectos similares tiene un precedente mucho más limitado. Por lo tanto, la nueva legislación podría diseñarse para requerir que las empresas divulguen y expliquen cómo se utiliza los datos neurales para afectar la experiencia del usuario. Idealmente, estas divulgaciones deberían proporcionarse 1) fuera de los extensos términos y condiciones, 2) en un lenguaje fácil de entender (es decir, que evite el uso de jerga innecesaria), y 3) en un lugar que sea de fácil y continuo acceso para el usuario. Al priorizar la educación del consumidor, requisitos como estos superan pautas más generales para prácticas no engañosas.     

Aunque el uso encubierto de la biorretroalimentación de la pupila puede entrar en esta categoría y, por lo tanto, estar sujeto a las pautas existentes de la FTC, probablemente representa un riesgo nuevo y único al incorporar datos biométricos en tiempo real.


CONCLUSIÓN     

A medida que los datos neurales se convierten en un objetivo cada vez más importante para los dispositivos de consumo, es esencial preservar la autonomía. Utilizando el Vision Pro de Apple como ejemplo, describo cómo el seguimiento ocular ofrece una forma económica y accesible para que las empresas recopilen información sobre los estados mentales de los usuarios. Sin embargo, es posible que al usuario no le quede claro cómo se están utilizando sus datos biométricos de la pupila para dar forma al contenido futuro. Aquí, esbozo brevemente tres posibles alternativas de políticas, que incluyen: 1) Sin cambios, 2) enmendar la definición de engaño en la Ley de la FTC y 3) redactar nueva legislación para abordar cualquier manipulación encubierta basada en datos neurales y requerir prácticas de divulgación claras. Estas opciones ofrecen un punto de partida para que los responsables de la formulación de políticas consideren cómo proteger la autonomía del consumidor en la era de nuevas formas de datos sensibles.

~~~

Escrito por Erin MorrowN
Editado por Zoë Dobler y Kayla Lim

~~~

Referencias

Arpaia, P., Callegaro, L., Cultrera, A., Esposito, A., & Ortolano, M. (2021). Metrological characterization of consumer-grade equipment for wearable brain–computer interfaces and extended reality. IEEE Transactions on Instrumentation and Measurement71, 1-9. https://doi.org/10.1109/TIM.2021.3127650

Better Online Ticket Sales Act, 15 U.S.C. § 45c (2016). https://www.ftc.gov/legal-library/browse/statutes/better-online-ticket-sales-act

Bradley, M. M., Miccoli, L., Escrig, M. A., & Lang, P. J. (2008). The pupil as a measure of emotional arousal and autonomic activation. Psychophysiology45(4), 602-607. https://doi.org/10.1111/j.1469-8986.2008.00654.x

Calderone, J. (2015, January 1). Eye tracking in Google Glass: A window into the soul?.

Scientific American. https://www.scientificamerican.com/article/eye-tracking-in-google-glass-a-window-into-the-soul/

Clewett, D., Gasser, C., & Davachi, L. (2020). Pupil-linked arousal signals track the temporal organization of events in memory. Nature Communications11(1), 4007. https://doi.org/10.1038/s41467-020-17851-9

COVID-19 Consumer Protection Act of the 2021 Consolidated Appropriations Act, Pub. L. No. 116-260, 134 Stat. 1182, Division FF, Title XIV, § 1401 (2020). https://www.ftc.gov/legal-library/browse/statutes/covid-19-consumer-protection-act-2021-consolidated-appropriations-act

Crispin, S. R. [@sterlingcrispin]. (2023, June 5). I spent 10% of my life contributing to the development of the #VisionPro while I worked at Apple as a… [Image attached] [Tweet]. Twitter. https://twitter.com/sterlingcrispin/status/1665792422914453506

Crispin, S. R., Yildiz, I. B., & Mulliken, G. H. (2020). Biofeedback method of modulating digital content to invoke greater pupil radius response (European Patent Application No. EP3891585A1). European Patent Office. https://patents.google.com/patent/EP3891585A1/en

Crispin, S. R., Yildiz, I. B., & Mulliken, G. H. (2021). Biofeedback method of modulating digital content to invoke greater pupil radius response (U.S. Patent Application No. US20210349536A1). U.S. Patent and Trademark Office. https://patents.google.com/patent/US20210349536A1/en

Farahany, N. A. (2012). Incriminating thoughts. Stanford Law Review, 64(2), 351-408.

Federal Trade Commission (2009). Self-Regulatory Principles for Online Behavioral Advertising. https://www.ftc.gov/sites/default/files/documents/reports/federal-trade-commission-staff-report-self-regulatory-principles-online-behavioral-advertising/p085400behavadreport.pdf

Federal Trade Commission Act, 15 U.S.C. §§ 41-58 (2018). https://www.ftc.gov/legal-library/browse/statutes/federal-trade-commission-act

FTC Statement on Deception, 103 F.T.C. 174, 175 (1984) (appended to Cliffdale Assocs., Inc., 103 F.T.C. 110 (1984)) (“Deception Policy Statement”). https://www.ftc.gov/system/files/documents/public_statements/410531/831014deceptionstmt.pdf

Gibbs, S. (2014, July 4). Privacy watchdog files complaint over Facebook emotion experiment.

The Guardian. https://www.theguardian.com/technology/2014/jul/04/privacy-watchdog-files-complaint-over-facebook-emotion-experiment

Hong, L., Walz, J. M., & Sajda, P. (2014). Your eyes give you away: prestimulus changes in pupil diameter correlate with poststimulus task-related EEG dynamics. PloS One9(3), e91321. https://doi.org/10.1371/journal.pone.0091321

Jeong, I., Bychkov, D., & Searson, P. C. (2018). Wearable devices for precision medicine and health state monitoring. IEEE Transactions on Biomedical Engineering66(5), 1242-1258. https://doi.org/10.1109/TBME.2018.2871638

Kang, O. E., Huffer, K. E., & Wheatley, T. P. (2014). Pupil dilation dynamics track attention to high-level information. PloS One9(8), e102463. https://doi.org/10.1371/journal.pone.0102463

Karremans, J. C., Stroebe, W., & Claus, J. (2006). Beyond Vicary’s fantasies: The impact of subliminal priming and brand choice. Journal of Experimental Social Psychology42(6), 792-798. https://doi.org/10.1016/j.jesp.2005.12.002

Kramer, A. D., Guillory, J. E., & Hancock, J. T. (2014). Experimental evidence of massive-scale emotional contagion through social networks. Proceedings of the National Academy of Sciences of the United States of America111(24), 8788. https://doi.org/ 10.1073/pnas.1320040111

Kreitmair, K. V. (2019). Dimensions of ethical direct-to-consumer neurotechnologies. AJOB Neuroscience10(4), 152-166. https://doi.org/10.1080/21507740.2019.1665120

Laeng, B., Sirois, S., & Gredebäck, G. (2012). Pupillometry: A window to the preconscious?. Perspectives on Psychological Science7(1), 18-27. https://doi.org/10.1177/1745691611427305

Liu, Y., Rodenkirch, C., Moskowitz, N., Schriver, B., & Wang, Q. (2017). Dynamic lateralization of pupil dilation evoked by locus coeruleus activation results from sympathetic, not parasympathetic, contributions. Cell Reports20(13), 3099-3112. https://doi.org/10.1016/j.celrep.2017.08.094

Loewenfeld, I.E. (1993). The Pupil: Anatomy, Physiology, and Clinical Applications. Wiley-Blackwell.

Moore, T. E. (1982). Subliminal advertising: What you see is what you get. Journal of Marketing46(2), 38-47. https://doi.org/10.1177/002224298204600205

Murphy, E. R., Illes, J., & Reiner, P. B. (2008). Neuroethics of neuromarketing. Journal of Consumer Behaviour: An International Research Review7(4‐5), 293-302. https://doi.org/10.1002/cb.252

Plopski, A., Hirzle, T., Norouzi, N., Qian, L., Bruder, G., & Langlotz, T. (2022). The eye in extended reality: A survey on gaze interaction and eye tracking in head-worn extended reality. ACM Computing Surveys (CSUR)55(3), 1-39. https://doi.org/10.1145/3491207

Rainey, S., Martin, S., Christen, A., Mégevand, P., & Fourneret, E. (2020). Brain recording, mind-reading, and neurotechnology: ethical issues from consumer devices to brain-based speech decoding. Science and Engineering Ethics26, 2295-2311. https://doi.org/10.1007/s11948-020-00218-0

Ramsøy, T. Z., Jacobsen, C., Friis-Olivarius, M., Bagdziunaite, D., & Skov, M. (2017). Predictive value of body posture and pupil dilation in assessing consumer preference and choice. Journal of Neuroscience, Psychology, and Economics10(2-3), 95. https://doi.org/10.1037/npe0000073

Rotenberg, M., & Horwitz, J. (2014). Complaint, Request for Investigation, Injunction, and Other Relief. Electronic Privacy Information Center. Complaint before the Federal Trade Commission. https://epic.org/wp-content/uploads/privacy/ftc/facebook/Facebook-Study-Complaint.pdf

Sententia, W. (2004). Neuroethical considerations: cognitive liberty and converging technologies for improving human cognition. Annals of the New York Academy of Sciences1013(1), 221-228. https://doi.org/10.1196/annals.1305.014

Stanton, S. J., Sinnott-Armstrong, W., & Huettel, S. A. (2017). Neuromarketing: Ethical implications of its use and potential misuse. Journal of Business Ethics144, 799-811.  https://doi.org/10.1007/s10551-016-3059-0

Steinhauer, S. R., Siegle, G. J., Condray, R., & Pless, M. (2004). Sympathetic and parasympathetic innervation of pupillary dilation during sustained processing. International Journal of Psychophysiology52(1), 77-86. https://doi.org/10.1016/j.ijpsycho.2003.12.005

Stellmach, S., McClister, C., Zhang, B., Buck, A., Tieto, V., Jahiu, D., v-chmccl, Arya, H., Sharkey, K., Ferrone, H., Eveleigh, K., magdavuko, Coulter, D. (2023, March 2). Eye tracking on HoloLens 2. Microsoft Learn. https://learn.microsoft.com/en-us/windows/mixed-reality/design/eye-tracking

VK, A. (2023, June 14). Apple’s Vision Pro might be the world’s first brain chip interface (BCI). Analytics India Magazine. https://analyticsindiamag.com/apples-vision-pro-might-be-the-worlds-first-brain-chip-interface-bci/

Wexler, A., & Reiner, P. B. (2019). Oversight of direct-to-consumer neurotechnologies. Science363(6424), 234-235. https://doi.org/10.1126/science.aav0223

Wierda, S. M., van Rijn, H., Taatgen, N. A., & Martens, S. (2012). Pupil dilation deconvolution reveals the dynamics of attention at high temporal resolution. Proceedings of the National Academy of Sciences109(22), 8456-8460. https://doi.org/10.1073/pnas.1201858109

Author

  • Erin Morrow

    Erin es una estudiante de doctorado en psicología cognitiva en la Universidad de California, Los Ángeles. Utiliza técnicas de comportamiento, pupilometría y neuroimagen para investigar cómo la excitación emocional afecta la estructura y el contenido de la memoria humana. Erin también tiene un fuerte interés en la política cerebral y de salud mental, la neuroética y la comunicación científica. Actualmente, forma parte del Comité de Estudiantes/Postdoctorados de la Sociedad Internacional de Neuroética. Anteriormente, obtuvo una licenciatura en Neurociencia y Biología del Comportamiento de la Universidad de Emory. Fuera del laboratorio, a Erin le gusta la música, el diseño gráfico y la caligrafía.

Erin Morrow

Erin es una estudiante de doctorado en psicología cognitiva en la Universidad de California, Los Ángeles. Utiliza técnicas de comportamiento, pupilometría y neuroimagen para investigar cómo la excitación emocional afecta la estructura y el contenido de la memoria humana. Erin también tiene un fuerte interés en la política cerebral y de salud mental, la neuroética y la comunicación científica. Actualmente, forma parte del Comité de Estudiantes/Postdoctorados de la Sociedad Internacional de Neuroética. Anteriormente, obtuvo una licenciatura en Neurociencia y Biología del Comportamiento de la Universidad de Emory. Fuera del laboratorio, a Erin le gusta la música, el diseño gráfico y la caligrafía.