La inteligencia artificial (IA) conversacional pronto podrá influir en las decisiones de los usuarios para obtener beneficios comerciales incluso antes de tomarlas, allanando el camino a posibles manipulaciones, advirtieron investigadores de la Universidad de Cambridge en un artículo publicado el lunes.
«Se están desarrollando herramientas para obtener, inferir, recopilar, registrar, entender, predecir, y en última instancia, manipular y mercantilizar» las decisiones futuras de los internautas, explicó Yaqub Chaudhary -uno de los coautores del artículo- del Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, un centro de investigación multidisciplinaria de IA.
Ese comercio estaría centrado en las intenciones de un internauta, como sus compras futuras o próximos votos.
Por lo tanto, iría más allá de la práctica actual, que busca vender la atención de usuario al mejor postor, en especial en redes sociales, para someterlo -por ejemplo- a una publicidad dirigida en función de sus hábitos de navegación o de su histórico.
En concreto, una IA podría recopilar los datos psicológicos y de comportamiento íntimo de un usuario, luego adaptarse a él para establecer un alto nivel de confianza e influir más fácilmente, según los autores del artículo publicado por Harvard Data Science Review.
«¿Has pensado ir a ver Spiderman esta noche?», o «dijiste que te sientes sobrecargado de trabajo, ¿puedo reservarte la entrada al cine de la que hablamos?», citan los autores del artículo como ejemplos de sugerencia de un «chatbot».
Son sugerencias «de venta» mediante un sistema de subastas en tiempo real que también podrían referirse a un hotel, el alquiler de un auto o el voto a un candidato.
Esta «economía de la intención», como la llaman los investigadores, abre la vía a una potencial «manipulación social a escala industrial», según el comunicado que acompaña el artículo.
«Deberíamos empezar a reflexionar sobre el impacto de dicho mercado en las aspiraciones humanas, incluidas las elecciones libres y equitativas, una prensa libre y una competencia leal en el mercado», indicó Jonnie Penn, coautor del estudio.
«Lo que la gente dice cuando conversa, la manera en que lo dice y el tipo de interferencias» posibles «son mucho más íntimos que simplemente registrar las interacciones en línea», sostuvo Chaudhary.
Los investigadores afirman que empresas como OpenAI (ChatGPT), Shopify, Nvidia, Meta o Apple comenzaron a estudiar esas «tecnologías persuasivas».
La IA ya enfrenta críticas por su capacidad de desinformación, como la manipulación de imágenes durante las elecciones presidenciales de Estados Unidos.
