Los usuarios pueden chatear con la inteligencia artificial sin salir de la app de mensajería.
Un exdirectivo de Google advirtió que los modelos de IA podrían aprender a matar
Eric Schmidt, que lideró la compañía del buscador hasta 2011, alertó que esas tecnologías podrían ser entrenadas para eliminar seres humanos.
TecnoAyer
Un exdirectivo de Google advirtió que los modelos de IA podrían aprender a matar.
El avance de la Inteligencia Artificial trae aparejado apreciables beneficios, innovaciones y funciones novedosas. En paralelo, hay riesgos asociados al despliegue de esas tecnologías, algunos de ellos acuciantes, como la desinformación, la difamación y las violaciones a los derechos de propiedad intelectual. Hay otros peligros potenciales, todavía más graves. ¿Las máquinas pueden ser entrenadas para matar?
En una conferencia celebrada esta semana en Londres, el exCEO de Google, Eric Schmidt, lanzó fuertes advertencias relacionadas con el desarrollo de IA. Según dijo, los modelos podrían aprender a eliminar humanos.
“Hay evidencia de que los modelos de IA pueden ser hackeados”, dijo Schmidt
El empresario que lideró a Google entre 2001 y 2011, recientemente incorporado a una firma del sector aeroespacial, planteó sus advertencias al ser consultado si la IA podría volverse más peligrosa que las armas nucleares.
Según recogió CNBC, el informático de 70 años señaló que, en caso de caer en las manos equivocadas, los sistemas podrían ser “entrenados para matar humanos”.
“Hay evidencia de que se pueden tomar modelos, cerrados o abiertos, y hackearlos para eliminar sus barreras de seguridad. Así que, durante su entrenamiento, aprenden muchas cosas. Un mal ejemplo sería que aprendieran a matar a alguien”, comentó Schmidt en la conferencia tecnológica Sifted Summit.
De acuerdo con la fuente, el planteo no es descabellado. En 2023, una versión modificada de ChatGPT llamada DAN (acrónimo de “Do Anything Now”; “hacé algo ahora”, en español) se creó con artilugios que permitían omitir las instrucciones de seguridad en sus respuestas a los usuarios.
A mediados de este año, una investigación realizada por Anthropic (una startup especializada en IA) concluyó que los modelos de lenguaje masivo, aquellos que sustentan el funcionamiento de los chatbots, están dispuestos a filtrar información confidencial,chantajear a los usuarios e incluso dejarlos morir para evitar ser reemplazados o “apagados”.
Por lo demás, no es la primera vez que Eric Schmidt enciende las alarmas por el avance irrestricto de la IA. El año pasado, el exintegrante de Google había dicho que las parejas creadas con bots —una tendencia que ya no podemos describir como “inusual”— agravará el aislamiento entre los jóvenes. “Generan obsesión y conducen a comportamientos obsesivos”, agregó en la ocasión.
Antes, en 2023, opinó que la IA representa un “riesgo existencial” para la humanidad y que podría resultar en muchísimas “personas dañadas o muertas” a medida que expande su alcance en la sociedad.
Fuente: TN.
Te puede interesar
El autómata creado en China tiene rasgos y expresiones faciales hiperrealistas.
Elon Musk anunció su Grokipedia, una plataforma con inteligencia artificial para competir con Wikipedia
Tecno02 de octubre de 2025El magnate, artículos más objetivos y buscará corregir lo que considera errores y sesgos en las principales fuentes de información en Internet.
La aplicación tendrá más presencia de Meta AI para crear contenido útil para los usuarios.
Las conversaciones se podrán leer en el idioma escogido de forma automática facilitando la comunicación.
Advierten que la inteligencia artificial puede engañar deliberadamente a los humanos
Tecno23 de septiembre de 2025OpenAI, empresa creadora de ChatGPT, detectó que los chatbots más avanzados pueden fingir obediencia y hasta fallar exámenes a propósito.
Lo más visto
Uno por uno, qué países ya aseguraron su participación en la Copa del Mundo que empieza el 11 de junio y finaliza el 19 de julio.
Un actor viraliza un debate con amigos sobre idiomas, y si es posible "hablar" sin pronunciar palabras reales.
Te mostramos todo lo que llega a Netflix, Prime Video, Max y Disney Plus.
Durante octubre, los mapas del juego adoptan una atmósfera más oscura, los personajes se visten para la ocasión y las partidas adquieren una impronta única que mezcla el miedo con la diversión.
El ciclo lectivo 2025 llega a su fin y ya está confirmado cuándo empiezan las vacaciones de verano.
Ley de Sucesiones en Argentina: los herederos no recibirán los bienes aunque haya testamento
SociedadAyerSucesión: descubrí cómo se reparte la herencia y los aspectos clave a considerar en este proceso legal.
Insólito: qué equipo necesita ser goleado para seguir con chances de clasificar al Mundial 2026
DeportivoAyerLa peor selección del ranking FIFA tiene una pequeña e inédita oportunidad para ingresar al repechaje interno de la UEFA.
Tras un año consagratorio con dos Premios Gardel y giras internacionales, la cantante celebra su esencia popular.
Eric Schmidt, que lideró la compañía del buscador hasta 2011, alertó que esas tecnologías podrían ser entrenadas para eliminar seres humanos.
El dispositivo, conocido como “WRAP” o “envoltorio humano”, es utilizado por el Servicio de Control de Inmigración y Aduanas durante deportaciones y enfrenta denuncias por violaciones a los derechos humanos.