ESTAMOS ENTREGANDO NUESTRA PRIVACIDAD DE UNA FORMA EXCESIVAMENTE FRÍVOLA Y ALEGRE.

“Estamos entregando nuestra privacidad de una forma excesivamente frívola y alegre”

El experto en inteligencia artificial Ramón López de Mántaras apoya la prohibición del uso de sistemas de reconocimiento facial, como ha ocurrido en San Francisco.

Imagine vivir en una casa con las paredes de cristal y que desde fuera cualquiera pudiera ver todo lo que hace. Sus movimientos, sus hábitos y sus conductas. Este es el escenario que plantea el director del Instituto de Investigación en Inteligencia Artificial del CSIC, Ramón López de Mántaras (Sant Vicenç de Castellet, 1952), con la llegada del 5G y la incorporación de un gran número de dispositivos inteligentes en el hogar. “Tener multitud de objetos y aparatos en tu casa conectados a Internet es muy mala idea. Pueden saber lo que consumes, lo que compras, cuándo lavas la ropa, qué cocinas, qué comes e incluso cosas tan íntimas como las que ocurren dentro de tu cuarto de baño”, asegura.

El científico pone como ejemplo los inodoros electrónicos en Japón, que son capaces de analizar la orina y, de esta forma, monitorizar la salud de una persona. Ya existen todo tipo de dispositivos conectados para viviendas y oficinas: desde mesas que controlan cuánto tiempo se trabaja a camas que detectan las horas que duerme un usuario. Además, la venta de altavoces inteligentes no para de crecer. Solo durante el último trimestre de 2018 se comercializaron a nivel mundial 38,5 millones de estos dispositivos, lo que supone un aumento de un 95% respecto al mismo trimestre del año anterior, según la consultora Strategy Analytics.

“Yo no tengo uno ni lo quiero tener”, dice tajante López de Mantarás, que afirma que este tipo de dispositivos están “siempre conectados y escuchando”, explica, en una entrevista con EL PAÍS el pasado lunes antes de participar en la presentación de ¿Hacia una nueva Ilustración? Una década trascendente, el undécimo libro de la colección de OpenMind, la web de innovación y conocimiento científico de BBVA. Compañías como Amazon, Google o Apple aseguran que los asistentes solo se activan al pronunciar un comando. Pero ha habido varios casos en los que estos dispositivos han grabado conversaciones privadas al activarse por error: “Intentan venderte siempre el caramelo de que te van a hacer la vida más fácil en base a que tú renuncies a tu privacidad”, añade.

Además, tanto Amazon como Google cuentan con empleados que revisan a diario conversaciones aleatorias que los usuarios mantienen con los asistentes para mejorar el sistema. Apple, Microsoft y Samsung han descartado explicar a este periódico si tienen trabajadores que realicen este tipo de trabajo. López de Mántaras considera que “todos tienen a personas escuchando” y sostiene que dicha opacidad al respecto se debe a puro marketing: “Quieren hacer creer que la inteligencia artificial funciona mucho mejor de lo que de verdad funciona. Si tú le dices a un asistente, apunta lo siguiente en la lista de compras, te dice: ‘lo siguiente apuntado en la lista de compras’ porque cree que lo siguiente es como el pan o la leche. No entiende la semántica”.

“Tener multitud de objetos y aparatos en tu casa conectados a Internet es muy mala idea. Pueden saber lo que consumes, lo que compras, cuándo lavas la ropa, qué cocinas, qué comes e incluso cosas tan íntimas como las que ocurren dentro de tu cuarto de baño”

El conjunto de dispositivos conectados, según sostiene, podría servir de cara a “entrenar un sistema de inteligencia artificial para llegar a tener un perfil muy preciso del comportamiento de las personas de la casa”. “A partir del momento en el que tú sabes todo de una persona, le puedes ofrecer publicidad de todo tipo. Por ejemplo, de pastillas contra el insomnio al detectar que una persona no duerme bien”, explica López de Mántaras.

El experto señala que en muchas ocasiones los usuarios carecen de pensamiento crítico a la hora de dar su consentimiento a las diferentes compañías para recopilar todo tipo de datos: “Estamos entregando nuestra privacidad de una forma excesivamente frívola y alegre. Es lo que me preocupa”. Para él, la solución para evitarlo pasa por “educar e informar a la gente de todos estos problemas”.

Reconocimiento facial

Pero en ocasiones esta cuestión va más allá, cuando ni siquiera se solicita el consentimiento del usuario. Es lo que ocurre en algunos lugares con “las cámaras que están en la calle y detrás tienen sistemas de reconocimiento facial”. Un hombre ha llevado a los tribunales a la Policía de Gales, en Reino Unido, por tomar una imagen de su rostro con un sistema de reconocimiento facial automático mientras hacía compras navideñas, según la BBC.

El experto en inteligencia artificial sostiene que “el consentimiento es imprescindible”. Aunque reconoce que “tampoco es la solución óptima”, ya que en muchas ocasiones a los ciudadanos no les queda otra que aceptarlo si quieren acudir a un evento multitudinario en el que se usan sistemas de reconocimiento facial. Por ejemplo, a un partido de fútbol o un concierto: “Si compras la entrada y la pagas, estás implícitamente dando tu consentimiento. El problema es que si no das el consentimiento, no tienes la entrada y no vas a ir. Es casi como un chantaje”.

Además, subraya que los sistemas de reconocimiento facial tienen limitaciones. Entre ellas, “un 80% o 90% de falsos positivos”. Y en ocasiones “detectan que tu cara se corresponde con una similitud bastante alta con alguien que está en una lista de posibles sospechosos”. De hecho, el reconocimiento facial de Amazon confundió en 2018 a 28 congresistas con sospechosos de la policía. Igualmente, se ha demostrado que es posible pasar inadvertido ante este tipo de sistemas: “También hay falsos negativos. Si un terrorista se pone una pegatina en la cara o unas gafas tipo Elton John, muy gordas y con muchos colores, es posible que no se le identifique”.

Quizás dentro de un tiempo el sistema [de reconocimiento facial] funcione muy bien y los errores sean suficientemente bajos como para que puedan ser aceptables pero hay que ser prudentes y esperar”

Estas limitaciones y la pérdida de privacidad que suponen estos sistemas han suscitado polémicas en los últimos meses. San Francisco se convirtió hace dos semanas en la primera ciudad de Estados Unidos en prohibir el uso de estos sistemas. “Me parece perfecto. Viendo lo mal que funcionan, yo creo que es lo que hay que hacer. Hay que ser prudentes y esperar. Quizás dentro de un tiempo el sistema funcione muy bien y los errores sean suficientemente bajos como para que puedan ser aceptables”, afirma López de Mántaras. Pese a ello, no se muestra tan contundente al explicar si extendería esta prohibición a otros lugares: “Habría que estudiarlo con mucho detenimiento, es un problema difícil. La regulación es complicada y tendrían que trabajar expertos en leyes y temas jurídicos”.

Robots y trabajo

También se ha debatido mucho en los últimos años sobre el impacto que tendrá la incorporación de las máquinas en diferentes empleos. López de Mántaras subraya que “la informática en general hace años que impacta en la manera en que hacemos nuestro trabajo y en el hecho de que se están automatizando muchas cosas”. Por ejemplo, los cajeros automáticos.

El experto en inteligencia artificial defiende que las máquinas no sustituyan a las personas, sino que trabajen de forma conjunta. “Alrededor de un puesto de trabajo puede haber 20 tareas distintas. Algunas son automatizables y en otras seguirá siendo importante que haya una persona”, afirma. Pone como ejemplo los sistemas de asistencia a personas dependientes: “No se trata de poner robots y quitar a las personas en una residencia de tercera edad, sino de que trabajen conjuntamente”. Se imagina, por ejemplo, un robot o un sistema informático “que avise al cuidador para que no se olvide de dar la medicación o ayude en el traslado de una persona a un hospital”.

Precisamente en el sector de la salud se han producido múltiples avances gracias a la inteligencia artificial. Aunque este tipo de sistemas aún tienen limitaciones. López de Mántaras incluso reconoce “tener ciertas reticencias a llamarle inteligencia”. “La inteligencia artificial actual funciona bien cuando la aplicas a un ámbito muy concreto. Por ejemplo, jugar al ajedrez o hacer un diagnóstico médico”, explica. Pero recalca que solo sabe hacer una tarea y no comprende lo que hace. Por ejemplo, “un programa capaz de traducir entre idiomas no comprende la semántica del lenguaje”. Hacer que esto cambie supone todo un desafío: “El gran reto de la inteligencia artificial es hacer inteligencias artificiales cada vez más generales. Estamos muy lejos de conseguirlo, nos estamos encontrando con las mismas dificultades desde hace 50 años. Para que esto sea posible, es imprescindible que las máquinas puedan comprender cómo funcionan las cosas. Una compresión de verdad, profunda, similar a la humana”.

ES MUY CIERTO, NO SOMOS DUEÑOS NI DE NUESTRA INTIMIDAD.