OpenAI podría compartir con la policía las charlas íntimas de los usuarios con ChatGPT
TecnoEl martesCambios de última hora en los términos de uso del chatbot generan polémica por una eventual vigilancia a los usuarios.
Un informe reveló que se usan imágenes de abuso infantil para entrenar herramientas de IA
Más de 3200 fotos explícitas se encontraron en la base de datos de la popular herramienta generativa de Stable Diffusion.
Tecno25 de diciembre de 2023
Imagen ilustrativa.
El Observatorio de Internet de la Universidad de Stanford descubrió miles de fotos de abusos sexuales a menores en una popular base de datos de imágenes que se utiliza para entrenar sistemas de inteligencia artificial.
Las más de 3200 fotografías explícitas se encontraron en los sistemas de IA LAION que usaba la herramienta de generación de imágenes Stable Diffusion, entre otras.
La investigación de Stanford va en contra de la creencia convencional de que las herramientas de IA crean imágenes de abusos sexuales a menores únicamente fusionando pornografía adulta con fotos de niños. El reporte reveló que es incluso más fácil para algunos sistemas de IA, que fueron entrenados utilizando la base de datos LAION, producir este tipo de contenido ilegal.
“Encontramos que el acceso a la base de datos LAION-5B, poblada incluso hasta finales de 2023, implica la posesión de miles de imágenes ilegales, fotos íntimas y recopiladas de forma no consensuada”, afirmaron David Thiel y Jeffrey Hancock, autores del estudio.
En respuesta al estudio de Stanford, LAION anunció que retiró temporalmente sus bases de datos, y Stability AI -el desarrollador de Stable Diffusion- afirmó que tomó todas las medidas proactivas para mitigar el riesgo de uso indebido y aplicó filtros más estrictos en su herramienta de IA.
Sin embargo, según el informe de Stanford, una versión anterior de Stable Diffusion, la 1.5, sigue siendo el modelo más popular para generar imágenes explícitas.
Por último, el estudio sugiere que los usuarios que hayan creado una herramienta utilizando la base de datos LAION borren o eliminen su trabajo, y anima a mejorar la transparencia en torno a los conjuntos de datos de formación de imágenes: “Los modelos basados en Stable Diffusion 1.5 a los que no se hayan aplicado medidas de seguridad deberían ser obsoletos y su distribución debería cesar siempre que sea posible”.
Fuente: TN.
Te puede interesar
La compañía de la manzana mordida mostrará cuatro ejemplares de sus teléfonos.
La app prueba una función para grabar mensajes al no recibir una respuesta en las llamadas
El servicio de mensajería de Meta prepara una de sus mayores novedades, apuntada a cuidar la privacidad y la información personal de los usuarios.
La función, aún en fase beta, permitirá a los usuarios validar la propiedad de sus cuentas de Instagram en WhatsApp, aumentando la confianza y reduciendo los riesgos de fraude digital entre contactos.
Desarrollan anillos inteligentes que prometen reducir el tiempo de uso del celular.
Lo más visto
OpenAI podría compartir con la policía las charlas íntimas de los usuarios con ChatGPT
TecnoEl martesCambios de última hora en los términos de uso del chatbot generan polémica por una eventual vigilancia a los usuarios.
El frío regresa y algunas provincias serán más afectadas. Cuáles son las que tendrán las bajas temperaturas.
La Inteligencia Artificial reveló qué países de Sudamérica clasificarán al Mundial 2026
DeportivoEl miércolesEn la previa de las decisivas últimas dos fechas de las Eliminatorias, la Inteligencia Artificial proporcionó un pronóstico contundente.
La apuesta de Instagram ocurre en un entorno digital donde la competencia por la atención es intensa y la experiencia de usuario es clave.
Un objeto de aproximadamente el tamaño de un avión comercial pasará a una distancia lunar de nuestro planeta; qué puede llegar a suceder
La Comisión Europea detectó dos sustancias prohibidas luego de una serie de estudios.
En febrero pasado habían oficializado la sanción inicial, y menos de seis meses después optaron por levantarla.
Además, te mostramos mas estrenos para hoy jueves 4 de septiembre.
Este viernes se realizará una visita guiada para conocer el Palacio Municipal y el cielo cordobés.
El gobernador de Florida, Ron DeSantis, y su director general de Salud, buscan eliminar la obligatoriedad de las vacunas en los niños que asisten al colegio, generando fuerte debate y críticas.