La inteligencia artificial (IA) puede influir sobre los pensamientos de las personas. Tal premisa quedó demostrada luego de que investigadores de la Universidad de Zúrich, Suiza, llevaran adelante un experimento secreto y no autorizado durante cuatro meses consecutivos con usuarios de Reddit en el subreddit r/changemyview. Allí, cientos de bots de IA formaron parte de debates sobre temas diversos y controvertidos, como política y salud mental.

Específicamente, la IA generó más de 1700 comentarios cargados de temáticas sensibles, como ser sobrevivientes de violación, trabajar con pacientes con traumas u oponerse al movimiento Black Lives Matter, según informó 404 Media.

En este escenario, desde Reddit apuntaron contra el experimento y anunciaron que emprenderán acciones legales contra el equipo de investigadores. “Lo que hizo este equipo de la Universidad de Zúrich es profundamente incorrecto, tanto a nivel moral como legal. Viola la investigación académica y las normas de derechos humanos, y está prohibido por el acuerdo de usuario y las reglas de Reddit, además de las reglas del subreddit”, comunicó el principal abogado de la plataforma, Ben Lee.

“Queremos hacer todo lo posible para apoyar a la comunidad y garantizar que los investigadores rindan cuentas por sus actos ilícitos”, enfatizó.

A su vez, Lee aseguró que Reddit no estaba al tanto del proyecto y que todas las cuentas involucradas fueron baneadas. “Seguiremos reforzando nuestras capacidades de detección de contenido no auténtico”, añadió.

La investigación, en detalle

Para llevar adelante el experimento, gran parte de los bots fueron personalizados con IA para adecuar sus respuestas según las características de los usuarios, como género, edad, etnia y orientación política. Para ello, se utilizaron datos de los historiales de publicación de diferentes cuentas.

Los investigadores remarcaron que no publicarán los resultados del estudio, y se limitaron a comentar que, de forma “muy modesta”, la IA logró influir sobre la opinión de los usuarios. “Observamos que nuestros comentarios han sido consistentemente bien recibidos por la comunidad, ganando más de 20.000 likes totales y 137 deltas”, revelaron.

Por otro lado, los académicos admitieron ser conscientes de haber violado las normas de la plataforma. Hasta el momento, se desconoce su entidad.

En este sentido, el Comité de Ética de la Facultad de Artes y Ciencias Sociales de la universidad calificó al proyecto de “excepcionalmente desafiante” y recomendó cambios, aunque subrayaron que la responsabilidad recae exclusivamente sobre los investigadores.

En detalle, opinaron que el enfoque debía justificarse mejor, que los participantes debían estar informados sobre el experimento y que las normas de Reddit debían cumplirse en su totalidad.

“El Comité de Ética de la Facultad de Artes y Ciencias Sociales tiene la intención de adoptar un proceso de revisión más estricto en el futuro y, en particular, coordinarse con las comunidades en las plataformas antes de realizar estudios experimentales”, señaló un portavoz de la universidad a 404 Media.

Y agregó: “Las autoridades competentes de la Universidad de Zúrich están al tanto de los incidentes y los investigarán a fondo y revisarán críticamente los procesos de evaluación pertinentes”.