Acusan a Grok, la IA de Elon Musk, de desnudar a mujeres sin su consentimiento en X

El chatbot del empresario tecnológico Elon Musk, llamado Grok, suele estar en el foco de la polémica. Dicha inteligencia artificial empezó siendo un chatbot sarcástico para que pudiese responder con humor a los usuarios, pero, con el paso del tiempo, empezó a ofrecer respuestas 'normales'. Además, en febrero de este año, Grok recibió instrucciones para ignorar aquellas fuentes que mencionan que Musk y Donald Trump difunden información falsa y, recientemente, se ha dado a conocer que se está usando a Grok para desnudar a mujeres en fotografías.

Kolin Koltai, investigadora del medio Bellingcat, fue quien descubrió esta acción y decidió compartirlo con el diario 404 Media. Según cuenta Koltai, los usuarios solicitaron a Grok que quitara la ropa de las mujeres que aparecían en una foto y, como respuesta, ofreció una imagen de las chicas en lencería y bikini. Además, en ocasiones, el chatbot respondía con un enlace a un chat que contenía la imagen explícita.

404 Media indica que, si bien decenas de usuarios hicieron este tipo de peticiones a Grok, la práctica se ha popularizado en Kenia. No obstante, Khumzile Van Damme, activista sudafricana, le pidió explicaciones al chatbot para saber por qué motivo hizo dicha acción y, en respuesta, Grok escribió lo siguiente: "Este incidente pone de manifiesto una deficiencia en nuestras medidas de seguridad, que no lograron bloquear un mensaje dañino, lo que viola nuestros estándares éticos sobre consentimiento y privacidad. También estamos revisando nuestras políticas para garantizar protocolos de consentimiento más claros y les mantendremos informados sobre nuestro progreso".

Por otro lado, es importante mencionar que este descubrimiento se produce después de que la Cámara de Representantes de Estados Unidos aprobara la Ley de Eliminación de Contenidos un proyecto de ley bipartidista que penaliza la publicación de imágenes y vídeos no consensuados y sexualmente explícitos, incluidos los generados por inteligencia artificial.

Además, el descubrimiento se produce en un momento en el que X Corp. presentara una demanda contra el fiscal general de Minnesota, impugnando la constitucionalidad de la ley estatal que prohíbe el uso de deepfakes para influir en las elecciones.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.