Esta actualización está en una fase Beta, pero es probable que en los próximos meses o semanas, llegue a todos los usuarios de la app de mensajería.
Un informe reveló que se usan imágenes de abuso infantil para entrenar herramientas de IA
Más de 3200 fotos explícitas se encontraron en la base de datos de la popular herramienta generativa de Stable Diffusion.
Tecno25 de diciembre de 2023
Imagen ilustrativa.
El Observatorio de Internet de la Universidad de Stanford descubrió miles de fotos de abusos sexuales a menores en una popular base de datos de imágenes que se utiliza para entrenar sistemas de inteligencia artificial.
Las más de 3200 fotografías explícitas se encontraron en los sistemas de IA LAION que usaba la herramienta de generación de imágenes Stable Diffusion, entre otras.
La investigación de Stanford va en contra de la creencia convencional de que las herramientas de IA crean imágenes de abusos sexuales a menores únicamente fusionando pornografía adulta con fotos de niños. El reporte reveló que es incluso más fácil para algunos sistemas de IA, que fueron entrenados utilizando la base de datos LAION, producir este tipo de contenido ilegal.
“Encontramos que el acceso a la base de datos LAION-5B, poblada incluso hasta finales de 2023, implica la posesión de miles de imágenes ilegales, fotos íntimas y recopiladas de forma no consensuada”, afirmaron David Thiel y Jeffrey Hancock, autores del estudio.
En respuesta al estudio de Stanford, LAION anunció que retiró temporalmente sus bases de datos, y Stability AI -el desarrollador de Stable Diffusion- afirmó que tomó todas las medidas proactivas para mitigar el riesgo de uso indebido y aplicó filtros más estrictos en su herramienta de IA.
Sin embargo, según el informe de Stanford, una versión anterior de Stable Diffusion, la 1.5, sigue siendo el modelo más popular para generar imágenes explícitas.
Por último, el estudio sugiere que los usuarios que hayan creado una herramienta utilizando la base de datos LAION borren o eliminen su trabajo, y anima a mejorar la transparencia en torno a los conjuntos de datos de formación de imágenes: “Los modelos basados en Stable Diffusion 1.5 a los que no se hayan aplicado medidas de seguridad deberían ser obsoletos y su distribución debería cesar siempre que sea posible”.
Fuente: TN.
Te puede interesar
La compañía Odyssey quiere entrenar a su tecnología gracias a cámaras que personas llevarán colgadas en su espalda.
Cómo funciona y cuándo ingresaría al mercado el primer auto volador de China
Tecno14 de noviembre de 2024La marca que compite con Tesla mostró su novedosa creación en la XV Exposición Internacional Aeronáutica y Aeroespacial de China.
La evolución de esta tecnología trajo un problema inesperado: la incompatibilidad entre dispositivos más la confusión y la frustración de los usuarios.
Es el primer paso de un plan de 50 años que prevé plantar árboles, además de construir casas en la Luna y Marte.
En las próximas semanas se anunciarán cuatro nuevas herramientas que estarán disponibles tanto en dispositivos iOS como en Android.
Lo más visto
La novedad en la red social de videos breves también involucra a la plataforma de streaming Apple Music.
Las catastróficas profecías de Nostradamus que se cumplirían antes de fin de año
PrediccionesEl domingoEl célebre astrólogo francés dejó escritos que aún hoy generan debate sobre su impacto.
El Servicio Meteorológico Nacional precisó los detalles sobre el tiempo para las próximas horas.
La Municipalidad de Córdoba informa la prórroga de licencias de conducir de todas sus categorías, cuyo vencimiento esté comprendido entre el 21 de octubre y el 31 de diciembre del corriente año.
Sectores estratégicos ofrecen salarios iniciales que empataron la inflación, destacándose en un mercado laboral afectado por la crisis económica.
Las autoridades del país anunciaron la realización de un amistoso que contaría con la presencia del astro argentino.
La ceremonia fue durante la tarde noche del martes 19 de noviembre en el renovado escenario.
Además, te mostramos más estrenos para hoy jueves 21 de noviembre.
Se trata de un método de medición científico para determinar cuán cerca está la Humanidad de su final.
El comprador recibirá, junto a la fruta y la cinta adhesiva que la sostiene en la pared, un certificado de autenticidad de la banana.