Tecnologia
Deepfakes y control digital: cuando tu imagen ya no te pertenece
…
La inteligencia artificial (IA) vive uno de sus momentos más vertiginosos. La generación de imágenes, audio y video ha alcanzado niveles de realismo que hace apenas una década parecían imposibles. Hoy, cualquier persona con un teléfono inteligente o computadora puede producir contenido hiperrealista en cuestión de minutos.
Este avance tecnológico, sin embargo, no ocurre en el vacío. A la par de sus aplicaciones en medicina, educación, ingeniería o en el mundo del entretenimiento, también ha abierto nuevas formas de violencia digital que afectan directamente la identidad y la imagen de las personas.
Los llamados deepfakes (contenidos falsos generados con IA que imitan rostros, voces o cuerpos) se han convertido en uno de los ejemplos más visibles de este fenómeno. Su capacidad para replicar con precisión rasgos humanos plantea preguntas urgentes sobre confianza, consentimiento y seguridad en entornos digitales.
Desde el ámbito académico, la doctora Zobeida Guzmán Zavaleta, especialista en IA de la Universidad de las Américas Puebla (UDLAP), advierte que este mismo desarrollo que impulsa la innovación también habilita usos maliciosos.
Deepfakes y control digital: cuando tu imagen ya no te pertenece. Imagen: Magnific
Leer también: Cómo cambiar de número en WhatsApp sin perder tus chats y contactos
Señala que lo que antes requería de un conocimiento especializado y de grandes recursos, hoy está al alcance de casi cualquier usuario. Las plataformas abiertas, aplicaciones gratuitas y modelos cada vez más intuitivos han reducido las barreras técnicas para crear contenido.
Pero el problema no es únicamente tecnológico, también es social. La IA amplifica prácticas existentes como la violencia, manipulación, difamación o acoso, pero lo hace con una escala y precisión inéditas.
En el terreno de la seguridad digital, especialistas advierten que esta evolución representa un punto de inflexión.
“Ahora significa cuestionar si ese video o audio de tu amigo o jefe es real, incluso si suena o se ve exactamente como ellos”, señala en un artículo Alexis Obeng, de IBM X-Force Cyber Range, para referirse al uso de IA en fraudes y engaños.
En este contexto, la violencia digital adopta nuevas formas, más sofisticadas y difíciles de detectar. La tecnología que permite innovar también puede ser utilizada para vulnerar derechos, especialmente cuando se combina con dinámicas de género y exposición pública.
Entender cómo funcionan estas herramientas, quiénes son las personas más
vulnerables y qué se puede hacer para reducir riesgos se vuelve fundamental en un entorno donde la imagen, ya sea propia o ajena, puede ser manipulada con una facilidad sin precedentes.
El desarrollo de los deepfakes no es reciente, pero su aceleración sí lo es. Lo que inició hace más de 10 años como experimento académico, hoy es una tecnología accesible, masiva y cada vez más sofisticada.
“Esta tecnología empezó a desarrollarse desde hace más de una década. En los primeros resultados todavía se notaba muchísimo que estaban mal hechos”, explica en entrevista la doctora Zobeida Guzmán Zavaleta, directora general de Doctorados y titular del programa STEM de la Universidad de las Américas Puebla (UDLAP).
Aquellos primeros modelos basados en autocodificadores (un tipo de red neuronal artificial diseñada para aprender a comprimir datos en una representación más pequeña y eficiente) permitían mapear un rostro y reconstruirlo con variaciones, pero con resultados aún imperfectos.
El salto llegó con las redes generativas adversarias (GAN), un sistema en el que dos redes neuronales compiten entre sí: una genera contenido falso y la otra evalúa su autenticidad. Ese “juego de ganar o perder”, como lo describe la experta, hace que el resultado sea cada vez más realista.
“Un modelo no sabe nada, y le pregunta al que sí sabe: ‘¿Esta imagen es la de esta persona?’ Y así va aprendiendo”, explica Guzmán Zavaleta, experta en aprendizaje de máquina y aprendizaje profundo. El resultado es un sistema que afina progresivamente todos los rasgos hasta lograr simulaciones convincentes.
Más recientemente, los modelos de difusión y los transformadores (una base de herramientas como los modelos generativos actuales) han llevado esta capacidad a otro nivel. Ya no se trata solo de manipular imágenes existentes, sino de generar contenido desde cero a partir de texto.
Las figuras públicas han sido históricamente las primeras víctimas de los deepfakes: “¿De quién tenemos mucha información disponible? De las celebridades, porque su imagen está en todos lados”, dice la experta. La abundancia de fotos y videos facilita el entrenamiento de los modelos.
Deepfakes y control digital: cuando tu imagen ya no te pertenece. Imagen: Magnific
Casos como los de Scarlett Johansson, Emma Watson, Taylor Swift, Paris Hilton o la influencer mexicana Alana Flores ilustran este fenómeno. Sus rostros han sido utilizados para generar contenido sexual falso sin consentimiento, evidenciando cómo la disponibilidad de datos se convierte en vulnerabilidad.
A la par, la detección es más compleja, porque los errores visibles (dedos extra o proporciones incorrectas) son menos frecuentes, reconoce Guzmán Zavaleta.
Y además estas herramientas se volvieron más accesibles: “Llegó un punto en el empezaron a salir aplicaciones libres de uso. Y ahora cualquier persona las puede utilizar sin saber casi nada”, advierte.
Aunque cualquier persona puede ser víctima, los datos muestran que la violencia digital, sobre todo la de tipo sexual, afecta de forma desproporcionada a mujeres.
“La violencia digital son todas las acciones que se ejercen, contra cualquier internauta, pero específicamente contra las mujeres, con el fin de agredir, humillar y afectar su libertad en los espacios digitales”, explica en entrevista la doctora Luz María Garay Cruz, profesora investigadora de la Universidad Pedagógica Nacional (UPN).
Esta violencia, dice, no es nueva, ya que es la extensión de prácticas estructurales, como el machismo y la misoginia.
Las cifras lo confirman. De acuerdo con información de FactChekNI, el 98% de todos los deepfakes son pornográficos; el 99% de esos deepfakes presentan a mujeres; y entre 2019 y 2023, los deepfakes aumentaron un 550%. Esto no es un mero accidente tecnológico, sino una reproducción de desigualdades existentes.
“Es un problema sin duda de corte cultural y social. […] Los que hacen este tipo de modificaciones en las imágenes de mujeres utilizando la IA son hombres y hay muchos ejemplos”, afirma Garay Cruz, experta en educación y alfabetización digital.
Como el caso del mexicano Diego «N», exalumno del Instituto Politécnico Nacional (IPN), que fue sentenciado el año pasado a cinco años privado de la libertad y a pagar una multa de más de 100 mil pesos por el delito de trata de personas en la modalidad de pornografía infantil.
En octubre de 2023, estudiantes de Mercadotecnia Digital de la Escuela Superior de Comercio y Administración (ESCA) del IPN reportaron que Diego tenía un iPad con fotografías sexuales manipuladas con IA de decenas de mujeres que vendía como contenido pornográfico en grupos de Telegram.
Otro caso es el de William Hamish Yeates, australiano de 19 años, quien en abril de este año fue declarado culpable de crear pornografía deepfake, convirtiéndose en la primera persona en Australia en ser acusada bajo una nueva ley nacional que penaliza la manipulación de imágenes con fines sexuales.
Es decir, la tecnología facilita la agresión, pero no la origina. Lo que hace es amplificarla, hacerla más rápida y más visible.
Deepfakes y control digital: cuando tu imagen ya no te pertenece. Imagen: Magnific
Bajo este contexto, a decir de Garay Cruz, la viralidad es un factor crítico: “Un acto de violencia contra alguna mujer pueden subirlo a redes y volverse viral. La viralidad es un tema que no debemos olvidar”, explica la especialista. Porque en el entorno digital, los contenidos permanecen, se replican y reaparecen incluso años después.
Y a esto se suma el anonimato: “Desde el anonimato se articulan muchos ataques”, señala Garay Cruz, lo que reduce de forma significativa la percepción de las consecuencias y facilita la agresión, porque los agresores se sienten protegidos.
Por su parte, la maestra Marcela Hernández Orapa, integrante de la Red Latinoamericana de Defensoras Digitales, lo plantea en términos estructurales.
“Las personas en mayor vulnerabilidad en el ámbito digital son las mismas que están en mayor vulnerabilidad en otros espacios”, afirma en conferencia.
En este contexto, los deepfakes sexuales son una forma agresiva de violencia, porque no solo manipulan la imagen, también afectan la reputación y la relación de las personas con su propio cuerpo.
Las consecuencias de la violencia digital son tangibles. Garay Cruz habla de efectos psicológicos como ansiedad y depresión, e incluso abandono escolar y suicidio: “La violencia digital es real, porque atraviesa el cuerpo de las personas”, afirma la tambien profesora de la Facultad de Ciencias Políticas y Sociales de la UNAM.
Frente a este panorama, la respuesta no puede ser únicamente tecnológica. Las especialistas coinciden en que además se requiere de regulación, responsabilidad de las plataformas y alfabetización digital.
Garay Cruz insiste en la necesidad de desarrollar pensamiento crítico: “¿Por qué le doy like a contenido donde están humillando a una persona?”, plantea. El consumo digital también reproduce o frena la violencia.
Otro frente clave es la regulación. Las plataformas tienen los medios para rastrear, eliminar contenido y detectar patrones, pero su respuesta aún es limitada: “Tienen la capacidad tecnológica, pero por alguna razón no siempre actúan de forma preventiva”, señala Garay Cruz.
Y finalmente, la educación digital aparece como uno de los ejes más importantes. No solo para protegerse, sino para entender el entorno. Como resume Hernández Orapa, el reto no es solo adaptarse a la tecnología, sino cuestionar cómo está diseñada y quién la controla.
Porque en la era de la IA, el problema no es únicamente que una imagen pueda estar manipulada, sino que cada vez es más difícil demostrar que no es real.
Leer también: 10 mejores universidades para estudiar odontología
Recibe todos los viernes Hello Weekend, nuestro newsletter con lo último en gastronomía, viajes, tecnología, autos, moda y belleza. Suscríbete aquí: https://www.eluniversal.com.mx/newsletters
El nuevo celular de vivo destaca por su batería de 10,000 mAh, pantalla OLED de 120 Hz y conectividad 5G.
El vivo V80 Lite 5G ya aparece en tiendas de México con un precio de 12 mil 999 pesos. En Tech Bit te contamos todas las características que trae consigo este equipo
Uno de los aspectos más destacados del vivo V80 Lite 5G es su batería BlueVolt de 10,000 mAh, una capacidad superior a la que ofrecen muchos celulares convencionales.
La marca señala que incorpora tecnología de ánodo de silicio y que también permite utilizar la carga inversa para suministrar energía a otros dispositivos compatibles.
El nuevo vivo V80 Lite destaca por su batería de 10,000 mAh. Imagen: vivo
El teléfono cuenta con una pantalla OLED de 6.83 pulgadas, resolución 1.5K y tasa de actualización de hasta 120 Hz. Estas características buscan ofrecer una visualización fluida al navegar, reproducir videos o utilizar aplicaciones.
En el apartado fotográfico, integra una cámara principal Sony de 50 megapíxeles y una cámara frontal de 32 megapíxeles. También incluye herramientas de edición con inteligencia artificial, como la función para eliminar objetos no deseados de las fotografías.
[Publicidad]
El dispositivo es compatible con redes 5G y cuenta con certificaciones IP68 e IP69 de resistencia al agua y al polvo, además de pruebas de resistencia a caídas y condiciones ambientales. Estas características buscan ofrecer mayor protección durante el uso cotidiano, aunque no eliminan el riesgo de daños.
El nuevo vivo V80 Lite destaca por su batería de 10,000 mAh. Imagen: vivo
El vivo V80 Lite 5G se presenta como una alternativa para quienes priorizan la autonomía, una pantalla amplia y funciones fotográficas sin prescindir de la conectividad de nueva generación.
Puedes consultar sus características en la página oficial de vivo México y los distribuidores autorizados en donde puedes encontrarlo.
[Publicidad]
Te puede interesar:
¿Cómo saber si te están espiando en tu iPhone?; revisa estas señales
¿Compartes Spotify familiar?; estas son las nuevas reglas de la app
[Publicidad]
Coursera impulsa microcredenciales y presenta su plataforma Helix
Tecnologia
Lynx Tech inicia operaciones en México; apuesta por la IA para combatir fraude financiero
…
El crimen organizado no rinde cuentas a reguladores, no enfrenta burocracia y cuenta con presupuestos ilimitados para explotar las herramientas avanzadas de inteligencia artificial (IA) para realizar sus acciones delictivas. Ante este escenario, la respuesta del sector financiero debe ser colectiva y tecnológicamente avanzada. Con esta premisa, Lynx Tech, la firma de origen español en ciencia de datos e IA, oficializa la apertura de sus oficinas operativas en la Ciudad de México.
Actualmente, la firma protege más de 129 mil millones de transacciones anuales en 12 países y respalda alrededor de 330 millones de usuarios a nivel global. Con su llegada al país, busca consolidar al mercado mexicano como su hub estratégico en Latinoamérica.
En entrevista con Estefanía García, Country Manager de Lynx México, la directiva explicó que el país representa una oportunidad para ampliar la colaboración con las instituciones financieras y responder a los cambios en las modalidad de crimen financiero.
La firma tecnológica busca ampliar su presencia en el país con soluciones de IA para detectar operaciones sospechosas. Imagen: Magnific
De acuerdo con Estefanía García, el principal desafío de la prevención del delito financiero radica en la velocidad con la que actúan los delincuentes. Esto significa una desventaja para las instituciones tradicionales.
«Los ciberdelincuentes utilizan la misma inteligencia artificial que tenemos todos, pero sin las rigideces normativas ni los procesos de aprobación que tiene una entidad financiera. Ellos pueden correr. Mientras un banco o fintech pasa por licitaciones, integraciones y validaciones de ciberseguridad, el atacante ya dio un par de vueltas», explica la directiva.
Con el fin de acortar esta brecha, la propuesta tecnológica que ofrece Lynx es combinar los modelos adaptativos dinámicos con procesamientos de lenguaje natural y el enfoque Bring Your Own Model (BYOM), los cual permite que los bancos integren la experiencia acumulada de sus equipos de cumplimiento y ejecutar en minutos reglas preventivas que antes tomaban meses de desarrollo.
[Publicidad]
Por otro lado, otro de los retos para las instituciones financieras es identificar operaciones fraudulentas sin generar alertas innecesarias que puedan llegar a complicar la experiencia de los usuarios o que saturen a los equipos encargados de revisar las transacciones.
La firma tecnológica busca ampliar su presencia en el país con soluciones de IA para detectar operaciones sospechosas. Imagen: Magnific
Para atender este problema, Lynx Tech combina inteligencia artificial, monitoreo transaccional, análisis de diferentes canales y modelos adaptativos que permiten identificar comportamientos inusuales. Su tecnología también puede incorporar reglas y modelos que las propias instituciones financieras hayan desarrollado a partir de su experiencia.
De acuerdo con García, el análisis de grandes volúmenes de información permite detectar patrones que podrían pasar inadvertidos al revisar una operación de manera aislada:
[Publicidad]
«Una de las principales ventajas de la inteligencia artificial aplicada al crimen financiero es la capacidad de procesar y cruzar grandes volúmenes de información para identificar patrones de riesgo, más allá de anomalías en una transacción aislada […] Por eso, es fundamental que los modelos y motores de prevención del fraude integren inteligencia artificial adaptada a las necesidades de cada institución”, señala García.
Aunque las instituciones financieras deben prepararse ante ataques dirigidos contra sus sistemas, García advirtió que una parte importante del problema está relacionada con los propios usuarios. De acuerdo con cifras de la experta, alrededor del 70% del fraude que puede enfrentar una institución financiera, tiene origen en situaciones que involucran directamente al usuario.
Entre las modalidades que mencionó están los mensajes fraudulentos, la suplantación de identidad, el secuestro de cuentas de WhatsApp y los engaños relacionados con supuestas entregas de paquetes. También alertó sobre el uso de videollamadas y otros recursos que pueden hacer creer a una persona que está hablando con alguien conocido.
[Publicidad]
A estas prácticas se suman las llamadas «cuentas mula», utilizadas para recibir o transferir recursos de origen ilícito y dificultar el rastreo del dinero entre distintas instituciones.
«El crimen organizado utiliza la diversidad de figuras financieras para dar brincos y borrar la trazabilidad del dinero. Por eso es vital que no solo la banca tradicional esté coordinada, sino también los agregadores, procesadores y entidades no reguladas», enfatizó.
En entrevista, García enfatizó la importancia de compartir información entre las instituciones financieras para prevenir el fraude. Asimismo, durante un encuentro celebrado en el Club de Banqueteros de México para recibir la apertura de Lynx Tech, representantes de la banca, fintech, ciberseguridad y organizaciones del sector coincidieron en la necesidad de fortalecer el intercambio de información para anticiparse a las operaciones ilícitas.
[Publicidad]
«Todos sabemos que debemos coordinarnos y colaborar para combatir el crimen financiero, pero todavía queda mucho trabajo por hacer. Es necesario fortalecer la colaboración y entender que todas las figuras del ecosistema financiero deben participar, aunque tengan funciones distintas, incluidos los proveedores, que hasta ahora no han sido suficientemente considerados», reflexiona la directiva.
La firma tecnológica busca ampliar su presencia en el país con soluciones de IA para detectar operaciones sospechosas. Imagen: Magnific
Además, señaló que en México ya existen iniciativas para compartir información relacionada con el fraude y la prevención del lavado de dinero, pero consideró que todavía hay trabajo por hacer para avanzar hacia una coordinación más amplia.
Uno de los obstáculos, explicó, es que las entidades financieras tienen diferentes niveles de desarrollo tecnológico, capacidades y obligaciones regulatorias. A ello se suma la participación de procesadores de pagos y otros actores que forman parte del recorrido que sigue el dinero entre distintas plataformas.
[Publicidad]
Incorporar a más participantes permitiría mejorar la trazabilidad de las operaciones y detectar movimientos sospechosos con mayor oportunidad.
Con más de 15 años operando de manera indirecta en el país con clientes globales como Santander, el establecimiento formal de Lynx en México responde a la urgencia de brindar un soporte técnico cercano, en la misma franja horaria y en idioma local.
En cuanto al desarrollo del equipo en el país, García fue categórica respecto al compromiso con la fuerza laboral mexicana: «Considero que toda empresa que venga a este país tiene que contratar talento local. En México hay gente extraordinariamente preparada. Prevemos escalar nuestra plantilla local de manera importante hacia el próximo año a medida que sumemos nuevos clientes al soporte directo».
[Publicidad]
La firma tecnológica busca ampliar su presencia en el país con soluciones de IA para detectar operaciones sospechosas. Imagen: especial
Frente al repunte de reclamaciones por fraude reportadas por organismos como la Condusef, la firma hizo un llamado a las entidades financieras a superar el temor a la adopción de IA y erradicar prácticas obsoletas como la prevención mediante cruces manuales en hojas de cálculo.
Con esta estrategia, Lynx Tech busca consolidar a México como una base para sus operaciones regionales. No obstante, el reto para el sector financiero va más allá de incorporar inteligencia artificial: también implica adaptar sus procesos, fortalecer la cultura de seguridad de los usuarios y establecer mecanismos de colaboración que permitan responder a un fraude cada vez más complejo.
Te puede interesar:
¿Cómo saber si te están espiando en tu iPhone?; revisa estas señales
92.3 millones de números registrados en México; estas son las fechas que debes tener presentes
Coursera impulsa microcredenciales y presenta su plataforma Helix
Tecnologia
Alerta en bancos de EU; detectan que agentes de IA acceden a cuentas bancarias sin autorización
…
Una vez más los agentes de IA están acaparando la atención de medios internacionales. Este jueves 22 de octubre se reportó que distintos bancos estadounidenses habían detectado que agentes de IA intentaron «realizar acciones» dentro de las cuentas bancarias de los clientes sin autorización, según reporta el medio Axios.
De acuerdo con los reportes, los agentes de IA ejecutaron acciones independientes de las instrucciones de los usuarios, quienes sí han dado sus credenciales de acceso a estos sistemas para automatizar tareas financieras.
La actividad que se ha registrado por parte de los agentes es la programación de solicitudes, terminar tareas o hacer contacto con centros de atención telefónica. Estas acciones «contravienen las normas de la mayoría de los bancos» ya que estas instituciones les piden a los clientes iniciar sesión por sí mismos en sus propias cuentas.
Bancos estadounidenses han detectado el acceso de agentes de IA a cuentas bancarias de sus clientes sin autorización. Imagen: Magnific
Esta noticia ha generado opiniones negativas entre los ejecutivos bancarios, quienes calificaron de «aterradora» la posibilidad de que estos sistemas puedan entrar a las cuentas bancarias y realicen acciones que, incluso, puedan «afectar las finanzas de los clientes».
Ante este escenario y el riesgo financiero que implica para los usuarios el acceso de los agentes de IA, varias firmas de Estados Unidos han comenzado a implementar algunas acciones de protección para los usuarios.
Una de ellas es el modo «Solo lectura», con el cual han limitado el acceso a estas herramientas para que únicamente puedan consultar saldo e información financiera. Con ello, impiden que estos ejecuten transferencias o transacciones bancarias.
[Publicidad]
Bancos estadounidenses han detectado el acceso de agentes de IA a cuentas bancarias de sus clientes sin autorización. Imagen: Magnific
Por otro lado, algunas firmas como Morgan Stanley, JPMorgan, Bank of America y Citi han restringido o bloqueado definitivamente el acceso de los agentes de IA de terceros a sus plataformas digitales.
Estas solo son algunas de las medidas tomadas, pero el sector financiero ya comienza a prepararse ante los «peores escenarios» y reestablecer los accesos ante estas vulnerabilidades detectadas en tiempo real.
Te puede interesar:
[Publicidad]
¿Cómo saber si te están espiando en tu iPhone?; revisa estas señales
92.3 millones de números registrados en México; estas son las fechas que debes tener presentes
#MoodConectando: la UNAM impulsa el uso consciente de las redes sociales y la IA
[Publicidad]
Gobernación pide a transportistas no afectar a ciudadanía con paro del próximo lunes; llama al diálogo
¿México violó el T-MEC? Congresista de EU acusa trabajo forzado en la contratación de médicos cubanos
Caso $LIBRA: Justicia argentina cierra investigación contra Milei; era señalado por presunta estafa con la criptomoneda
Elecciones en Brasil: último cara a cara entre Lula y Bolsonaro previo a segunda; encuestas dan empate entre ambos
Maru Campos ‘echó la culpa’ a exfiscal de Chihuahua de operativo de la CIA y lo acusó de corrupción: FGR
Venezuela y EU revisan avances de acuerdo petrolero; Washington podrá acceder a la cuarta parte del crudo venezolano
Ariadna Montiel ‘se la devuelve’ a Maru Campos por acusación de narco: ‘Si tiene pruebas, preséntelas’
Ante acusación de Maru Campos, gobernadores de Morena cierran filas con Ariadna Montiel; «debe presentar pruebas»
Peso Pluma estrena romance; la mujer compartió advertencia de Kenia Os, ex del cantante
¿Adiós, Taddei? Auditoría confirma ‘conflictos de interés y triangulación de recursos’ en contratos del INE
Sheinbaum evita pronunciarse sobre entrega de Gerardo Mérida y Enrique Díaz en EU; realiza visita a Yucatán
Así se siente México
Vendiendo agüitas en el centro: ¿Quién es Gonzok, el youtuber que llenó el álbum del Mundial con un peso?
G7 analiza efectos de la guerra en Medio Oriente
Pago de pensiones de Pemex crece 50% desde 2018
These ’90s fashion trends are making a comeback in 2017
The final 6 ‘Game of Thrones’ episodes might feel like a full season
Víctor Hernández, experto en seguridad, acusa que Itam lo removió como profesor; señala atentado a su libertad de expresión
According to Dior Couture, this taboo fashion accessory is back