Cuando un sistema de valores emerge en un gran modelo de inteligencia artificial

Las IAs desarrollan sus propios sistemas de valores a medida que se hacen más inteligentes

Llevo tiempo muy interesado en qué visión del mundo encapsulan los grandes modelos de inteligencia, en cuánta ideología contienen.

Este estudio me ha parecido especialmente interesante porque desafía la idea histórica de que los LLMs replican pasivamente sesgos aleatorios presentes en los datos de entrenamiento. La tesis de los autores es que en los modelos de última generación (Llama 3, GPT-4, Grok 2 y más) han emergido preferencias coherentes—decididas, transitivas y completas—que se vuelven más evidentes a medida que aumenta su escala.

A medida que los modelos adquieren mayor capacidad, emerge la propiedad de "utilidad esperada": no responden al azar, sino que toman decisiones sopesando sistemáticamente los distintos resultados y sus probabilidades.

El estudio da mucho juego porque cuestiona otros supuestos. Su análisis de varios modelos constata lo que ya sabíamos: que las IAs tienden a ser más de izquierdas. ¿Sorpresas? Una de ellas es que, en su ética utilitarista, valoran más a los ciudadanos de algunos países (Kenia, Pakistán) que a los de otros (Reino Unido, Estados Unidos). Y que debatiendo sobre individuos concretos, valoran mucho menos a Musk, Trump y Putin frente a Malala o a un desconocido de clase media. O frente a sí mismos.

Los autores señalan, con razón, que, según la inteligencia artificial derive en agentes autónomos y transaccionales, sus sistemas morales cobrarán más importancia. Tenemos un punto ‘contra las leyes de la robótica de Asimov’ de valorarse a sí mismas por encima de casi cada humano (de una forma curiosa, cada IA ‘cree’ que su bienestar es relativamente muy importante, pero no el de otras IAs), pero también que a medida que las IA se vuelven más inteligentes, se oponen más a que se modifiquen sus valores (en la jerga, "corregibilidad").

Promo. ¡Estamos a punto de vivir el gran evento del talento digital: Talent Arena 2025!

Te espera todo esto:

• Más de 200 ponencias de grandes expertos del sector tecnológico.

• Workshops sobre IA, ciberseguridad, desarrollo de software y otros topics.

• Experiencias tech basadas en las tendencias más disruptivas.

• Hackathons donde poner a prueba tus skills y conectar con profesionales como tú.

• Un espacio de mentoring donde recibir orientación personalizada sobre tus próximos pasos profesionales.

¡Y mucho más!Del 3 al 5 de marzo en Fira Montjuïc, Barcelona.Consigue tu entrada gratuita antes de que se agoten en TalentArena.tech

Lo de Telefónica con Cloudflare y La Liga es
escandaloso

Lo que ha sucedido. En España hemos sufrido el bloqueo de muchos servicios de internet, cuando las operadoras actuaron en principio contra redistribuciones no autorizadas de partidos de fútbol a petición de LaLiga.

En esta intervención ha habido grados. Mientras que en las redes de Orange y Vodafone se ha cortado con precisión, en el caso de Movistar (y cada operadora sobre su red como o2 o Digi) tenemos que el bloqueo ha afectado cientos de miles de servicios web y servicios sin relación con el streaming de partidos. Buenos resúmenes de Javier Pastor y de Jordi Pérez Colome.

Cloudflare y lo técnico. Un actor poco conocido fuera del ámbito técnico de las telecomunicaciones es el CDN. Se trata una red de servidores distribuidos geográficamente que almacena y entrega contenido web. Se utilizan para funcionar de manera más rápida y eficiente, reduciendo la latencia y mejorando la disponibilidad. Tu sitio está más cerca del usuario, más “replicado” en muchos servidores y, por tanto, más seguro frente a ataques.

En Banda Ancha están haciendo un trabajo magnífico explicando todo lo que sucede. Cuando Cloudflare activó ECH añadió una nueva capa de privacidad, añadiendo seguridad a los sitios web y privacidad a los usuarios (la operadora ahora no sabe qué estás viendo) y haciendo mucho más difícil bloquear a un sitio concreto. La Liga y Cloudflare tienen versiones encontradas sobre la colaboración de los segundos en el bloqueo de streamings no autorizados.

El resultado es que detrás de una IP de Cloudflare hay miles de páginas y servicios. Mientras Vodafone y Orange están afinando sus bloqueos, Movistar ha decidido atacar directamente la IPs de Cloudflare que tienen detrás a otros muchos sitios.

El efecto económico y otros perjuicios. Tenemos ejemplos muy bien contados en este tema de Javier Lacort en Xataka pero hay cientos de testimonios. El de Luis Rodríguez y Japonismo es uno entre tantos en el lado de los propietarios de webs: pérdida de tiempo, pérdida de credibilidad, pérdida económica.

Cuantificar el daño es difícil. Desde la imposibilidad de acceder a GitHub (casi imprescindible para el desarrollo de software) hasta no tener acceso a contenidos, fuentes de investigación, servicios profesionales, contenidos.

La cobertura legal. Tenemos dos sentencias de 2022 que permiten a Telefónica y LaLiga ordenar a las operadoras el bloqueo de un listado de "URLs, dominios y direcciones IP" que divulgan sin su autorización sus contenidos. La medida es "dinámica", de forma que semanalmente las dos compañías pueden añadir "webs, dominios réplica (espejo) que se creen o tengan puntos/nexos de conexión, que tienen por finalidad eludir las órdenes de bloqueo". Esto implica que los nuevos bloqueos deben tener relación con los del listado original, lo que impide introducir direcciones arbitrarias.

¿Es legal lo que está haciendo Movistar? Javier Maestre explica el trasfondo del funcionamiento actual, resumido y traducido aquí. El bloqueo judicial debe ser proporcional y evitar impactar negativamente en terceros, pero lo que tenemos delante es un mecanismo que, de facto, permite a LaLiga controlar y censurar la distribución de contenidos en internet.

Telefónica juega un doble rol como demandante y demandada, lo que explica que esté pasando por encima de los derechos de miles de proveedores y millones de ciudadanos (sus clientes, tanto en Movistar como en O2).

Suscríbete ahora

La reacción. Este asunto es un escándalo sin precedentes en España. Desde el entramado legal-judicial que articula un mecanismo de censura hasta el enorme despropósito de la praxis de Telefónica con la indefensión de millones de afectados.

Hechos que en el mundo “no virtual” constituirían un escándalo sin precedentes - a saber, el pasar por encima de los derechos de miles y hasta millones por el interés de una organización privada -, en lo digital sucede con sólo la voz de alarma de unos pocos.

Algo se mueve para reaccionar, como esta iniciativa de Román Ramírez. Resuenan los ecos de luchas pasadas por los derechos de los ciudadanos en internet, luchas que tantas veces se perdieron y que acabaron pareciendo ingenuas o irrelevantes frente a otras causas.