La teoría que creó en 1905 y que todavía usan todos los celulares.
Un informe reveló que se usan imágenes de abuso infantil para entrenar herramientas de IA
Más de 3200 fotos explícitas se encontraron en la base de datos de la popular herramienta generativa de Stable Diffusion.
Tecno25 de diciembre de 2023
Imagen ilustrativa.
El Observatorio de Internet de la Universidad de Stanford descubrió miles de fotos de abusos sexuales a menores en una popular base de datos de imágenes que se utiliza para entrenar sistemas de inteligencia artificial.
Las más de 3200 fotografías explícitas se encontraron en los sistemas de IA LAION que usaba la herramienta de generación de imágenes Stable Diffusion, entre otras.
La investigación de Stanford va en contra de la creencia convencional de que las herramientas de IA crean imágenes de abusos sexuales a menores únicamente fusionando pornografía adulta con fotos de niños. El reporte reveló que es incluso más fácil para algunos sistemas de IA, que fueron entrenados utilizando la base de datos LAION, producir este tipo de contenido ilegal.
“Encontramos que el acceso a la base de datos LAION-5B, poblada incluso hasta finales de 2023, implica la posesión de miles de imágenes ilegales, fotos íntimas y recopiladas de forma no consensuada”, afirmaron David Thiel y Jeffrey Hancock, autores del estudio.
En respuesta al estudio de Stanford, LAION anunció que retiró temporalmente sus bases de datos, y Stability AI -el desarrollador de Stable Diffusion- afirmó que tomó todas las medidas proactivas para mitigar el riesgo de uso indebido y aplicó filtros más estrictos en su herramienta de IA.
Sin embargo, según el informe de Stanford, una versión anterior de Stable Diffusion, la 1.5, sigue siendo el modelo más popular para generar imágenes explícitas.
Por último, el estudio sugiere que los usuarios que hayan creado una herramienta utilizando la base de datos LAION borren o eliminen su trabajo, y anima a mejorar la transparencia en torno a los conjuntos de datos de formación de imágenes: “Los modelos basados en Stable Diffusion 1.5 a los que no se hayan aplicado medidas de seguridad deberían ser obsoletos y su distribución debería cesar siempre que sea posible”.
Fuente: TN.
Te puede interesar
Cómo es el casco de realidad virtual creado en colaboración con Meta y Microsoft
Tecno25 de junio de 2025El dispositivo con el sello de Xbox tendría un diseño similar al visor Quest 3S de la exFacebook.
Los cinco cambios importantes que llegan a WhatsApp durante el resto del año 2025
Tecno24 de junio de 2025La aplicación se enriquecerá con una variedad de nuevas funciones que prometen transformar la experiencia del usuario.
Esto no sólo mejorará la apariencia visual, sino que también agilizará la navegación entre otros beneficios.
Investigadores crearon un tipo de piel artificial capaz de detectar señales físicas de su entorno.
Ahora, los usuarios pueden hacer operaciones matemáticas básicas sin recurrir a otras herramientas externas.
Lo más visto
La disposición gubernamental, que comenzará a regir a partir del 1 de julio, busca generar “la primera generación sin tabaco” para el 2032.
La escudería francesa busca mejorar su rendimiento de cara a futuro y el argentino podría verse afectado por un drástico cambio.
Se vienen 11 conciertos de la IV Edición del Festival de Música Barroca de Dos Mundos
CulturaEl miércolesLa puesta musical y artística reúne una serie de conciertos majestuosos, ya consolidados y reconocidos, con entrada libre y gratuita.
El gobernador Martín Llaryora firmó el decreto que elimina la obligación de inscribirse como asociación civil o fundación, lo que permite el acceso a trámites de diversa índole.
Un reciente informe en base a resultados de las pruebas PISA 2022 reveló que los estudiantes más pobres en la Argentina tienen hasta cuatro veces menos chances de alcanzar aprendizajes básicos en Matemática.
Se estrena una nueva entrega de la saga y está protagonizada por Scarlett Johansson.
Tras la noticia del trágico fallecimiento del jugador de Liverpool, el ente madre del fútbol europeo decidió que se guarde un minuto de silencio en todos los partidos de la Eurocopa Femenina de este jueves y viernes.
Después del impacto de “Loco Contigo”, la dupla regresa con una colaboración explosiva que fusiona el estilo característico de cada uno de los artistas.
Varios astromóviles buscan las huellas de una vida que podría haber existido hace millones de años.
Expertos explican cómo prevenir estos casos, qué síntomas no deben ignorarse y por qué el color de la llama puede ser una señal de peligro. Los detalles, en la nota.