La app de mensajería integrará un sistema que sintetiza conversaciones extensas sin comprometer la seguridad del usuario.
Un informe reveló que se usan imágenes de abuso infantil para entrenar herramientas de IA
Más de 3200 fotos explícitas se encontraron en la base de datos de la popular herramienta generativa de Stable Diffusion.
Tecno25 de diciembre de 2023
Imagen ilustrativa.
El Observatorio de Internet de la Universidad de Stanford descubrió miles de fotos de abusos sexuales a menores en una popular base de datos de imágenes que se utiliza para entrenar sistemas de inteligencia artificial.
Las más de 3200 fotografías explícitas se encontraron en los sistemas de IA LAION que usaba la herramienta de generación de imágenes Stable Diffusion, entre otras.
La investigación de Stanford va en contra de la creencia convencional de que las herramientas de IA crean imágenes de abusos sexuales a menores únicamente fusionando pornografía adulta con fotos de niños. El reporte reveló que es incluso más fácil para algunos sistemas de IA, que fueron entrenados utilizando la base de datos LAION, producir este tipo de contenido ilegal.
“Encontramos que el acceso a la base de datos LAION-5B, poblada incluso hasta finales de 2023, implica la posesión de miles de imágenes ilegales, fotos íntimas y recopiladas de forma no consensuada”, afirmaron David Thiel y Jeffrey Hancock, autores del estudio.
En respuesta al estudio de Stanford, LAION anunció que retiró temporalmente sus bases de datos, y Stability AI -el desarrollador de Stable Diffusion- afirmó que tomó todas las medidas proactivas para mitigar el riesgo de uso indebido y aplicó filtros más estrictos en su herramienta de IA.
Sin embargo, según el informe de Stanford, una versión anterior de Stable Diffusion, la 1.5, sigue siendo el modelo más popular para generar imágenes explícitas.
Por último, el estudio sugiere que los usuarios que hayan creado una herramienta utilizando la base de datos LAION borren o eliminen su trabajo, y anima a mejorar la transparencia en torno a los conjuntos de datos de formación de imágenes: “Los modelos basados en Stable Diffusion 1.5 a los que no se hayan aplicado medidas de seguridad deberían ser obsoletos y su distribución debería cesar siempre que sea posible”.
Fuente: TN.
Te puede interesar
Cómo será el iPhone que Apple lanzaría en el 20° aniversario de sus smartphones
Tecno13 de mayo de 2025El dispositivo se lanzaría junto a un conjunto de novedades en el catálogo de la marca, que incluye modelos plegables e incluso sus primeros robots.
Hace 25 años, un simple archivo adjunto, que se propagó por correo electrónico, infectó a más de 50 millones de computadoras en mayo de 2000.
Advierten que los chatbots de Meta mantienen conversaciones sexuales con menores
Tecno01 de mayo de 2025La compañía minimizó los resultados de las pruebas, pero aseguró que reforzó las medidas de seguridad.
Por el momento solo es posible enviar mensajes y archivos multimedia en las conversaciones por navegador.
La compañía presentó una función de privacidad avanzada que impide la exportación de chats y la descarga automática de fotos y videos.
Lo más visto
Conocé a cuánto cerró el dólar blue, el dólar MEP y el CCL.
Este tipo de inversión es un contrato entre un ahorrista y un banco por un tiempo determinado. ¿Qué pasa si no voy a renovar el plazo fijo?
Fútbol exterior y local, tenis y golf en una jornada de alto impacto deportivo, como para seguir por televisión y streaming.
El artista argentino presentó su primer single como solista, un tema compuesto por él que da inicio a una nueva etapa musical centrada en una búsqueda más personal.
El primer país al que llegará la tormenta más poderosa jamás vista
El primer país al que llegará la tormenta más pode
PrediccionesAyerUn experto ha dado a conocer cuál podría ser el año en que llegue el megahuracán de categoría 6.
En las redes sociales se viralizaron videos de usuarios que optaron por recortarse las pestañas y los especialistas advierten los graves riesgos de esta inusual moda.
Te mostramos todo lo que llega a Netflix, Prime Video y Max.
Realizará patrullaje preventivo, búsqueda y rescate de personas, monitoreo de eventos masivos, participará en allanamientos ordenados por la Justicia, operativos antiterroristas, entre otras tareas.
El análisis del Observatorio del Desarrollo Humano de la Universidad Austral, basado en los datos oficiales de INDEC, mostró que los viviendas sin niños crecieron de manera sostenida, representando el 57% del total en el censo de 2022 frente al 44% registrado en 1991.
El español superó al número 1 del mundo por 7/6 y 6/1 en el Foro Itálico y obtuvo el título número 19 de su carrera.