Una investigación simuló diversos escenarios para evaluar la capacidad del telescopio y los resultados sorprendieron a la comunidad científica.
Un informe reveló que se usan imágenes de abuso infantil para entrenar herramientas de IA
Más de 3200 fotos explícitas se encontraron en la base de datos de la popular herramienta generativa de Stable Diffusion.
Tecno25 de diciembre de 2023
Imagen ilustrativa.
El Observatorio de Internet de la Universidad de Stanford descubrió miles de fotos de abusos sexuales a menores en una popular base de datos de imágenes que se utiliza para entrenar sistemas de inteligencia artificial.
Las más de 3200 fotografías explícitas se encontraron en los sistemas de IA LAION que usaba la herramienta de generación de imágenes Stable Diffusion, entre otras.
La investigación de Stanford va en contra de la creencia convencional de que las herramientas de IA crean imágenes de abusos sexuales a menores únicamente fusionando pornografía adulta con fotos de niños. El reporte reveló que es incluso más fácil para algunos sistemas de IA, que fueron entrenados utilizando la base de datos LAION, producir este tipo de contenido ilegal.
“Encontramos que el acceso a la base de datos LAION-5B, poblada incluso hasta finales de 2023, implica la posesión de miles de imágenes ilegales, fotos íntimas y recopiladas de forma no consensuada”, afirmaron David Thiel y Jeffrey Hancock, autores del estudio.
En respuesta al estudio de Stanford, LAION anunció que retiró temporalmente sus bases de datos, y Stability AI -el desarrollador de Stable Diffusion- afirmó que tomó todas las medidas proactivas para mitigar el riesgo de uso indebido y aplicó filtros más estrictos en su herramienta de IA.
Sin embargo, según el informe de Stanford, una versión anterior de Stable Diffusion, la 1.5, sigue siendo el modelo más popular para generar imágenes explícitas.
Por último, el estudio sugiere que los usuarios que hayan creado una herramienta utilizando la base de datos LAION borren o eliminen su trabajo, y anima a mejorar la transparencia en torno a los conjuntos de datos de formación de imágenes: “Los modelos basados en Stable Diffusion 1.5 a los que no se hayan aplicado medidas de seguridad deberían ser obsoletos y su distribución debería cesar siempre que sea posible”.
Fuente: TN.
Te puede interesar
Esta nueva herramienta provee de funciones actualizadas en materia de inteligencia artificial.
Las mejoras de diseño se lanzan a nivel general, luego de circular en ediciones de prueba.
Este contenido está disponible en la aplicación a través de una actualización y se sumarán otros seis emojis.
Muse S Athena cuenta con un sensor que identifica la cantidad de oxígeno en el cerebro, un indicador de actividad en ese órgano.
Lo más visto
El miércoles 2 de abril de 2025 será feriado en Argentina para conmemorar el Día del Veterano y de los Caídos en la Guerra de Malvinas.
Una consultora privada reveló distintas opciones de escapadas nacionales para aprovechar esta fecha tan esperada.
El torneo más importante del continente comienza la fase de grupos y estos son los principales futbolistas que lucharán por ser el anotador más letal.
Del 31 de marzo al 6 de abril, los espacios culturales cordobeses se llenan de propuestas para todos los gustos.
La cantante chilena lanza “Otra noche de llorar”, una canción que fusiona jazz, cabaret y melancolía.
Tiene como objetivo acompañar a las personas gestantes sin obra social y a sus bebés, fortalecer su salud, facilitar el acceso a los controles y brindar distintos beneficios.
La medida había sido adelantada por redes sociales por el ministro Caputo, pero se publicó en el Boletín Oficial con más de dos semanas de demora.
La actualización de la lista entrega más precisiones acerca de los equipos que podrían encabezar los grupos de la próxima Copa del Mundo.
Un estudio de la Universidad Pompeu Fabra (UPF) y de la Universitat Oberta de Catalunya (UOC) revela que dichas redes sociales tienen un mayor impacto en el bienestar psicológico de las chicas usuarias que en los chicos.
Un hallazgo en las pirámides del Antiguo Egipto obligaría a reescribir los libros de historia
CienciaAyerAl parecer, esos monumentos mortuorios no sólo se erigieron para faraones.