Más persuasivos que los humanos: los bots con inteligencia artificial demuestran ser maestros en la manipulación.
Un experimento científico llevado a cabo en la plataforma Reddit ha revelado que los bots de inteligencia artificial son capaces de influir en las opiniones humanas durante los debates en línea.
Un equipo de investigadores de la Universidad de Zúrich llevó a cabo este experimento de manera clandestina durante varios meses en el foro r/changemyview de Reddit, con la intención de evaluar la efectividad de los modelos de lenguaje para modificar posturas en un entorno de diálogo abierto. Los bots intercalaron comentarios generados por inteligencia artificial sin revelar su origen, lo que generó una notable controversia en la plataforma.
Entre los casos más controvertidos, los bots simularon ser víctimas de abuso, profesionales de la salud mental e incluso individuos con identidades raciales o religiosas específicas, buscando así aumentar su credibilidad. Esta táctica manipuladora fue considerada especialmente alarmante por la comunidad.
Reacción de Reddit
Los moderadores del foro denunciaron abiertamente el experimento, argumentando que infringió las normas comunitarias al utilizar cuentas falsas y carecer de consentimiento informado de los participantes. Además, los investigadores personalizaron los mensajes de los bots basándose en información privada inferida de los perfiles de los usuarios, lo que desató una fuerte controversia ética.
La investigación ha suscitado un intenso debate sobre los límites éticos del uso de la inteligencia artificial en estudios sociales. Tanto Reddit como los moderadores del foro han exigido que el estudio no sea publicado, mientras la preocupación por el poder persuasivo de estas tecnologías sigue en aumento.
Respuesta de los investigadores
Los investigadores defendieron sus acciones argumentando que el estudio tenía una relevancia social considerable y que revelar la utilización de inteligencia artificial habría comprometido los resultados. Además, aclararon que todas las interacciones fueron revisadas manualmente para asegurarse de que no fueran perjudiciales.
La Universidad de Zúrich indicó que el proyecto había sido aprobado por su comité de ética y que los posibles beneficios de la investigación superaban los riesgos asociados. Sin embargo, también admitieron la necesidad de mejorar la coordinación con los sujetos de estudio en futuras investigaciones.