¿Para los usuarios, o para las marcas? La encrucijada de la inteligencia artificial

Mi columna en Invertia de esta semana se titula «La IA prostituída» (pdf), y es un intento de explicar lo que puede ocurrir si, como todo parece indicar, las compañías tecnológicas comienzan a utilizar la inteligencia artificial no para proveer un servicio a los usuarios susceptible de permitirles ser más productivos y hacer más con menos, sino como un simple vehículo publicitario.

El artículo intenta plantear una crítica contundente sobre la colonización de los modelos de lenguaje masivo por parte de intereses comerciales, sobre lo que escribí también recientemente. Esta preocupación está respaldada por recientes desarrollos en la industria tecnológica, donde empresas como Meta y OpenAI están integrando la inteligencia artificial en sus estrategias publicitarias y estructuras corporativas.

La integración de la inteligencia artificial en la publicidad es, claramente, una tendencia creciente. Meta ha anunciado que su objetivo es automatizar completamente el proceso publicitario mediante la inteligencia artificial. Adiós agencias, adiós creativos, adiós a toda la industria tradicional que conocemos. Mark Zuckerberg declaró que las empresas podrán simplemente indicar sus objetivos, y que Meta se encargará de todo el resto: desde la creación de contenido hasta la segmentación y medición de resultados, todo impulsado por inteligencia artificial.

Esta automatización plantea interrogantes sobre la autenticidad y la manipulación en la publicidad, ya que los consumidores podrían ser influenciados por contenidos generados sin intervención humana directa. Por supuesto, y más tratándose de Meta, esto plantea innumerables preocupaciones sobre la privacidad y el uso de datos. La nueva aplicación de Meta AI recuerda y utiliza conversaciones pasadas para personalizar respuestas, lo que podría llevar a la exposición involuntaria de información sensible de los usuarios. Las interacciones privadas con la IA de Meta podrían, además, hacerse públicas sin el conocimiento explícito del usuario. Estas prácticas reflejan una tendencia muy preocupante, donde la búsqueda de personalización y eficiencia en la publicidad compromete la privacidad y el consentimiento informado de los usuarios.

El reciente anuncio de cambios estructurales en OpenAI, que ha decidido mantener su estructura bajo el control de una organización sin fines de lucro, convirtiendo su brazo comercial en una corporación de beneficio público, podría buscar equilibrar la necesidad de financiación con su supuesta misión original de beneficiar a la humanidad. Algunos críticos, sin embargo, argumentan que esta reestructuración podría ser insuficiente para garantizar una verdadera independencia de los intereses comerciales, especialmente considerando las inversiones significativas en la compañía de empresas como Microsoft y SoftBank.

La creciente integración de la inteligencia artificial en la publicidad y las preocupaciones sobre la privacidad subrayan la importancia de desarrollar modelos abiertos de inteligencia artificial que prioricen la ética y la transparencia frente al mero interés comercial. El código abierto y la supervisión comunitaria podrían ser caminos hacia una inteligencia artificial que sirva al interés público, en lugar de ser una herramienta más para la explotación comercial.

Es fundamental que la sociedad civil, los reguladores y la comunidad tecnológica trabajen juntos para establecer marcos que protejan a los usuarios y promuevan una inteligencia artificial alineada con valores democráticos y éticos. De ahí a la práctica… ya veremos qué termina pasando.