LONDRES – ¿Qué hace falta para que una persona cambie de opinión? La inteligencia artificial generativa está cada más más imbuida en los sistemas de cara al cliente -pensemos en las llamadas telefónicas aparentemente humanas o en los chatbots en línea-, de manera que es un interrogante ético que debe abordarse de manera amplia.
La capacidad de hacer cambiar a alguien de opinión mediante un discurso razonado está en el corazón de la democracia. Una comunicación clara y efectiva forma la base de la deliberación y de la persuasión, que son esenciales para resolver intereses enfrentados. Pero la persuasión tiene un costado oscuro: los motivos falsos, las mentiras y la manipulación cognitiva -un comportamiento malicioso que la IA podría facilitar.
En un futuro no tan lejano, la IA generativa podría permitir la creación de nuevas interfaces de usuario capaces de persuadir en nombre de cualquier persona o entidad con los medios para crear un sistema de esas características. Al apalancar bases de conocimiento privadas, estos modelos especializados ofrecerían diferentes verdades que compiten en base a su capacidad para generar respuestas convincentes para un grupo objetivo -una IA para cada ideología-. Lo que vendría después seguramente sería una ola de ingeniería social asistida por IA, y una competencia cada vez mayor que haría que a los malos actores les resultara más fácil y más barato diseminar desinformación y llevar a cabo estafas.
LONDRES – ¿Qué hace falta para que una persona cambie de opinión? La inteligencia artificial generativa está cada más más imbuida en los sistemas de cara al cliente -pensemos en las llamadas telefónicas aparentemente humanas o en los chatbots en línea-, de manera que es un interrogante ético que debe abordarse de manera amplia.
La capacidad de hacer cambiar a alguien de opinión mediante un discurso razonado está en el corazón de la democracia. Una comunicación clara y efectiva forma la base de la deliberación y de la persuasión, que son esenciales para resolver intereses enfrentados. Pero la persuasión tiene un costado oscuro: los motivos falsos, las mentiras y la manipulación cognitiva -un comportamiento malicioso que la IA podría facilitar.
En un futuro no tan lejano, la IA generativa podría permitir la creación de nuevas interfaces de usuario capaces de persuadir en nombre de cualquier persona o entidad con los medios para crear un sistema de esas características. Al apalancar bases de conocimiento privadas, estos modelos especializados ofrecerían diferentes verdades que compiten en base a su capacidad para generar respuestas convincentes para un grupo objetivo -una IA para cada ideología-. Lo que vendría después seguramente sería una ola de ingeniería social asistida por IA, y una competencia cada vez mayor que haría que a los malos actores les resultara más fácil y más barato diseminar desinformación y llevar a cabo estafas.