Yoshua Bengio, uno de los padres de la IA moderna, lo tiene claro: "Las futuras IA serán más potentes y, por tanto, más peligrosas si caen en las manos equivocadas"

Yoshua Bengio es, posiblemente, uno de los tres padrinos de la Inteligencia Artificial (IA), hay tres personas que han dado luz a esta tecnología con mayor fuerza que el resto por sus aportaciones a la lógica que las ha hecho posibles. El experto Geoffrey Hinton que ya advirtió de los riesgos de la IA, Yann Lecun, y el propio Bengio. Sin embargo, cada uno tiene una visión muy diferente de lo que opina sobre el desarrollo de esta tecnología. Mientras Hinton y Bengio son bastante pesimistas con el futuro de la misma, es Lecun su principal partidario.En pleno año 2023, Lecun habló en términos optimistas sobre la IA, y sobre que no era serio hablar de "escenarios catastrofistas". Lo hizo en una publicación de Facebook que se puede leer públicamente. Y en esta, su colega Yoshua Bengio entró enardecidamente a defender su postura frente a la visión tan positiva que tenía Lecun de esta tecnología.Una discusión acalorada entre dos genios de la IAPara Lecun, hay una "mayoría silenciosa de científicos IA" que no creen en "escenarios de extinción por culpa de la IA". Sin embargo, también ha querido añadir que el código abierto y la capacidad humana para gestionar estos problemas son más que suficientes para poder hacer frente a los problemas que puede generar una inteligencia artificial realmente avanzada. Ante esta situación, Yoshua Bengio decidió contestarle con bastante contundencia al respecto de esta cuestión:"Los futuros sistemas de IA serán sin duda más potentes y, por tanto, más peligrosos si caen en las manos equivocadas" - Yoshua BengioAunque son colegas y compatriotas, eso no ha eximido a Bengio de ser bastante contundente, con lo que ha considerado lógico tras años trabajando para dar a luz a las IA. Lo primero que señaló es que no saben como diseñar inteligencias artificiales poderosas "de forma segura". Crear un sistema muy avanzado es muy peligroso para él, que considera que se trata de crear entidades más inteligentes que el ser humano como especie y, por lo tanto, que tarde o temprano van a desarrollar "sus propios intereses".Además, ha asegurado que se debería invertir mucho más en seguridad antes que confiar en la capacidad de decisión. "Es cierto que tenemos capacidad de decisión, pero ahora mismo estamos invirtiendo entre 50 y 100 veces más en capacidades de IA que en seguridad y gobernanza".Finalmente, su último punto versaba sobre defender el código abierto como forma de obrar, algo que ha defendido siempre, según asegura. Pero la IA puede caer en manos equivocadas y considera que sería "como dar armas peligrosas a todo el mundo". Algo que tiene mucho peligro y que habría que tener realmente bastante cuidado, al igual que existe una fuerte legislación sobre armas en todo el mundo.Llegado este punto, Bengio le pedía a su compañero que se diera cuenta de "lo que estaba haciendo", porque consideraba que sus palabras no podían estar más erradas en el tiro. Sobre todo, teniendo en cuenta que Lecun considera que la IA pronto será superior a nosotros.El artículo Yoshua Bengio, uno de los padres de la IA moderna, lo tiene claro: "Las futuras IA serán más potentes y, por tanto, más peligrosas si caen en las manos equivocadas" fue publicado originalmente en Andro4all.

Feb 14, 2025 - 16:40

Yoshua Bengio, uno de los padres de la IA moderna, lo tiene claro: "Las futuras IA serán más potentes y, por tanto, más peligrosas si caen en las manos equivocadas"

Yoshua Bengio es, posiblemente, uno de los tres padrinos de la Inteligencia Artificial (IA), hay tres personas que han dado luz a esta tecnología con mayor fuerza que el resto por sus aportaciones a la lógica que las ha hecho posibles. El experto Geoffrey Hinton que ya advirtió de los riesgos de la IA, Yann Lecun, y el propio Bengio. Sin embargo, cada uno tiene una visión muy diferente de lo que opina sobre el desarrollo de esta tecnología. Mientras Hinton y Bengio son bastante pesimistas con el futuro de la misma, es Lecun su principal partidario.

En pleno año 2023, Lecun habló en términos optimistas sobre la IA, y sobre que no era serio hablar de "escenarios catastrofistas". Lo hizo en una publicación de Facebook que se puede leer públicamente. Y en esta, su colega Yoshua Bengio entró enardecidamente a defender su postura frente a la visión tan positiva que tenía Lecun de esta tecnología.

Una discusión acalorada entre dos genios de la IA

Para Lecun, hay una "mayoría silenciosa de científicos IA" que no creen en "escenarios de extinción por culpa de la IA". Sin embargo, también ha querido añadir que el código abierto y la capacidad humana para gestionar estos problemas son más que suficientes para poder hacer frente a los problemas que puede generar una inteligencia artificial realmente avanzada. Ante esta situación, Yoshua Bengio decidió contestarle con bastante contundencia al respecto de esta cuestión:

"Los futuros sistemas de IA serán sin duda más potentes y, por tanto, más peligrosos si caen en las manos equivocadas" - Yoshua Bengio

Aunque son colegas y compatriotas, eso no ha eximido a Bengio de ser bastante contundente, con lo que ha considerado lógico tras años trabajando para dar a luz a las IA. Lo primero que señaló es que no saben como diseñar inteligencias artificiales poderosas "de forma segura". Crear un sistema muy avanzado es muy peligroso para él, que considera que se trata de crear entidades más inteligentes que el ser humano como especie y, por lo tanto, que tarde o temprano van a desarrollar "sus propios intereses".

Además, ha asegurado que se debería invertir mucho más en seguridad antes que confiar en la capacidad de decisión. "Es cierto que tenemos capacidad de decisión, pero ahora mismo estamos invirtiendo entre 50 y 100 veces más en capacidades de IA que en seguridad y gobernanza".

Finalmente, su último punto versaba sobre defender el código abierto como forma de obrar, algo que ha defendido siempre, según asegura. Pero la IA puede caer en manos equivocadas y considera que sería "como dar armas peligrosas a todo el mundo". Algo que tiene mucho peligro y que habría que tener realmente bastante cuidado, al igual que existe una fuerte legislación sobre armas en todo el mundo.

Llegado este punto, Bengio le pedía a su compañero que se diera cuenta de "lo que estaba haciendo", porque consideraba que sus palabras no podían estar más erradas en el tiro. Sobre todo, teniendo en cuenta que Lecun considera que la IA pronto será superior a nosotros.

El artículo Yoshua Bengio, uno de los padres de la IA moderna, lo tiene claro: "Las futuras IA serán más potentes y, por tanto, más peligrosas si caen en las manos equivocadas" fue publicado originalmente en Andro4all.