La flexibilización tiene una limitación importante: solo estará disponible para usuarios en Europa.
Un informe reveló que se usan imágenes de abuso infantil para entrenar herramientas de IA
Más de 3200 fotos explícitas se encontraron en la base de datos de la popular herramienta generativa de Stable Diffusion.
Tecno25 de diciembre de 2023
Imagen ilustrativa.
El Observatorio de Internet de la Universidad de Stanford descubrió miles de fotos de abusos sexuales a menores en una popular base de datos de imágenes que se utiliza para entrenar sistemas de inteligencia artificial.
Las más de 3200 fotografías explícitas se encontraron en los sistemas de IA LAION que usaba la herramienta de generación de imágenes Stable Diffusion, entre otras.
La investigación de Stanford va en contra de la creencia convencional de que las herramientas de IA crean imágenes de abusos sexuales a menores únicamente fusionando pornografía adulta con fotos de niños. El reporte reveló que es incluso más fácil para algunos sistemas de IA, que fueron entrenados utilizando la base de datos LAION, producir este tipo de contenido ilegal.
“Encontramos que el acceso a la base de datos LAION-5B, poblada incluso hasta finales de 2023, implica la posesión de miles de imágenes ilegales, fotos íntimas y recopiladas de forma no consensuada”, afirmaron David Thiel y Jeffrey Hancock, autores del estudio.
En respuesta al estudio de Stanford, LAION anunció que retiró temporalmente sus bases de datos, y Stability AI -el desarrollador de Stable Diffusion- afirmó que tomó todas las medidas proactivas para mitigar el riesgo de uso indebido y aplicó filtros más estrictos en su herramienta de IA.
Sin embargo, según el informe de Stanford, una versión anterior de Stable Diffusion, la 1.5, sigue siendo el modelo más popular para generar imágenes explícitas.
Por último, el estudio sugiere que los usuarios que hayan creado una herramienta utilizando la base de datos LAION borren o eliminen su trabajo, y anima a mejorar la transparencia en torno a los conjuntos de datos de formación de imágenes: “Los modelos basados en Stable Diffusion 1.5 a los que no se hayan aplicado medidas de seguridad deberían ser obsoletos y su distribución debería cesar siempre que sea posible”.
Fuente: TN.
Te puede interesar
La tendencia al halago “es más extendida de lo que esperábamos”, dijeron investigadores que analizaron respuestas de ChatGPT y Gemini, entre otros sistemas.
El 30% de las parejas ya usa ChatGPT para resolver conflictos.
La compañía permitirá el contenido erótico en ChatGPT para mayores de edad.
Un exdirectivo de Google advirtió que los modelos de IA podrían aprender a matar
Tecno14 de octubre de 2025Eric Schmidt, que lideró la compañía del buscador hasta 2011, alertó que esas tecnologías podrían ser entrenadas para eliminar seres humanos.
Los usuarios pueden chatear con la inteligencia artificial sin salir de la app de mensajería.
Lo más visto
Un video de Lucía, de 98 años, emocionándose al escuchar "Atorrante" de Emanero se volvió viral.
El conductor del vehículo había asegurado que los animales extraviados estaban contagiados con hepatitis C, herpes y Covid.
Este gesto de cariño no representa para todos lo mismo y la ciencia identificó lo que para algunos transmite.
Tras la definición entre ambos en 2021, los gigantes del fútbol brasileño se vuelven a enfrentar por el trofeo internacional.
La noticia fue confirmada por su familia, tras varios días en los que María José, de 23 años, estuvo internada en terapia intensiva.
Las distintas entidades financieras informaron los topes de extracción de billetes a partir del corriente mes, las cuales varían según el perfil de cada cliente.
El Rey de la Bachata confirmó, con humor, el lanzamiento de su próximo disco.
El método revolucionaría el desarrollo de tecnología y se postula como una alternativa económica y ecológica para la actual generación de memorias.
Los ladrones ascendieron por una plataforma mecánica hasta un balcón del primer piso del museo en París, donde cortaron una ventana a plena luz del día.
La resolución fue publicada en el Boletín Oficial y elimina la prohibición que regía desde los años noventa.