Connect with us

Tecnologia

La basura generada por la IA ya es un problema – MILENIO

…

La basura generada por la IA ya es un problema - MILENIO

M+.- Lo peor de la basura generada por la inteligencia artificial ha saturado las búsquedas de Google con recetas de pizza con pegamento, listas de Amazon con biografías falsas y los muros de Facebook con imágenes del Jesús Camarón. Ahora, Silicon Valley quiere deshacerse de la basura.

Spotify, la plataforma de transmisión de música, afirmó que el año pasado eliminó 75 millones de cargas masivas, canciones duplicadas y otras pistas “basura”, una parte importante del total de su catálogo.

LinkedIn dijo en julio que “la basura generada por la IA es una prioridad absoluta para todos nosotros” y desarrolló un botón para que los usuarios la denuncien.

Investigadores de Google, la empresa matriz de YouTube, describieron cómo un servicio de videos eliminó 130 mil canales de contenido de baja calidad de su plataforma en un lapso de seis meses.

Las empresas tecnológicas están llevando a cabo una desintoxicación en todo internet del contenido basura generativo, abrumadas en muchos casos por ese mismo contenido basura que sus propias herramientas de IA hicieron posible en primer lugar. Las aplicaciones de mensajería móvil, los sitios de reseñas de restaurantes, los archivos académicos y los servicios de citas están eliminando o minimizando el contenido basura generado por la IA; muchos de ellos recurren a la misma tecnología para llevar a cabo la purga.

La gente se está cansando del impacto de la IA en el medio ambiente y de la presión que ejerce sobre los empleos y la salud mental. La basura generada por la IA es simplemente otra “herida infectada”, afirmó Aidan Walker, creador de contenido e investigador que estudia las tendencias en línea para la Fundación Carnegie para la Paz Internacional, un centro de estudios sobre asuntos globales.

“Los usuarios cada vez se molestan más por esto —expresó—. La opinión pública ha cambiado de manera evidente y estas empresas finalmente están haciendo frente a dichos problemas”.

La IA generativa puede producir imágenes, audio y videos cada vez más realistas, pero sólo una parte se considera contenido basura. Las empresas tecnológicas se están enfocando principalmente en ese tipo de contenido sensacionalista de baja calidad que es fácil de crear, difundir, consumir y olvidar, como la moda rápida que desplaza a la alta costura.

Si no se controla, el pantano sintético en línea podría “desplazar la creatividad humana, corroer los valores culturales y desestabilizar el discurso público”, escribieron investigadores europeos el año pasado.

La basura en internet (slop) se ha vuelto tan común que la editorial del diccionario Merriam-Webster eligió el término como la palabra del año en 2025. Deezer, un servicio francés de “streaming”, dijo esta primavera que casi la mitad de las canciones que se actualizan a diario en su sistema son generadas artificialmente, muchas de ellas los usuarios nunca las escuchan. La IA genera más de un tercio de lo que se sube a Apple Music.

Adam Mosseri, director de Instagram, aseguró a finales del año pasado que pronto “será más práctico rastrear contenidos reales que contenidos falsos”. La observación se hizo poco después de que Meta, la empresa matriz de Instagram, lanzara una transmisión de video totalmente basada en IA, ridiculizada por muchos como un escaparate de contenido basura.

​Arma de dos filos

Muchas empresas de tecnología que ahora intentan gestionar el contenido de baja calidad generado por la IA son también las que lo hacen posible. En julio, Meta prometió apoyar un pacto europeo para que el contenido generado por la IA se pueda identificar mejor a través de la detección, el etiquetado y la clasificación. Ese mismo mes, la empresa también lanzó un generador de imágenes que automáticamente incluía cuentas públicas de Instagram como referencia para la herramienta. (Meta eliminó la función tras tres días de críticas.)

“El contenido basura generado por la IA es un arma de dos filos, ya que muchas de estas plataformas experimentaron un aumento en la participación gracias a él —aclaró Paul Shovlin, experto en IA de la Universidad de Ohio —. Pero llegó un punto en el que se convirtió en un lastre porque hay tanta basura que ahora es difícil para los usuarios encontrar el tipo de calidad que buscan”.

Google, por ejemplo, ha apostado fuerte por la IA, vinculando su modelo Gemini a los servicios de correo electrónico, mapas, viajes y búsqueda. Más de 20 por ciento de los videos cortos iniciales que YouTube muestra a los nuevos usuarios son basura generada por la IA, según un experimento que realizó el año pasado Kapwing, un editor de videos en línea que funciona con IA.

Kapwing estimó que uno de los canales de contenido basura más populares de YouTube ganaba 4.25 millones de dólares al año. (Desde entonces, se suspendió de un programa de monetización de YouTube.) Neal Mohan, director ejecutivo de YouTube, escribió en un blog que “gestionar el contenido basura generado por la IA” era una prioridad absoluta este año.

Recientemente, investigadores de Google analizaron este desafío. En lugar de evaluar los videos de forma individual, se enfocaron en el ritmo de carga, las plantillas repetitivas y otros patrones que pudieran indicar un comportamiento abusivo coordinado. Encontraron 50 mil grupos de cuentas, que fueron eliminados. Sin embargo, a algunos expertos en medios digitales les preocupaba que este enfoque pudiera ir demasiado lejos y también penalizara a creadores de contenido legítimos que publican un gran volumen de material.

“Si bien la investigación académica ayuda a mejorar la comprensión de la industria, no refleja las múltiples capas de defensa que utilizamos para hacer cumplir nuestras políticas —afirmó YouTube en un comunicado—. Esto incluye medidas de protección sólidas para garantizar que los creadores bien intencionados que utilizan herramientas de IA no se vean afectados”.

Otras empresas están recurriendo a distintas estrategias para abordar el contenido basura generado por la IA, incluyendo la movilización de sus propios usuarios para ayudar a identificarlo. En octubre, Pinterest actualizó su sistema para permitir a los usuarios limitar la cantidad de publicaciones generadas por IA que ven.

TikTok dijo que estaba probando una función en Estados Unidos que permite a los usuarios aumentar o disminuir la cantidad de contenido generado por IA que consumen. (La empresa también dijo que había marcado más de 3 mil millones de videos generados por IA.) TikTok eliminó más de 377 mil videos en los primeros tres meses del año por violar las políticas de IA.

Según Pangram, una empresa emergente especializada en la detección de IA, ésta se utilizó para crear casi la mitad de las publicaciones con más de 50 palabras en X, la plataforma de redes sociales de Elon Musk. Para hacer frente a “una enorme cantidad de contenido basura generado por IA y respuestas no deseadas”, la plataforma de redes sociales prohibió este año las aplicaciones que en la práctica alientan a los bots a publicar a cambio de pago por el contenido, escribió Nikita Bier, que fungió como jefa de producto de X hasta este mes.

Chris Best, director ejecutivo de Substack, escribió el mes pasado que “cada vez es más difícil distinguir qué es real en internet” y que “las plataformas que premian lo falso provocarán una carrera hacia el abismo”. La plataforma de boletines anunció su propia herramienta de detección de IA para los usuarios, impulsada por Pangram, que está diseñada para analizar respuestas, comentarios y publicaciones de más de 100 palabras y determinar si se escribieron a mano o con ayuda de la IA.

Algunos autores de boletines se quejaron de que la herramienta confundía las publicaciones escritas por humanos con las generadas por IA; no tomaba en cuenta el posible papel de la IA en el proceso creativo y ejercía una presión indebida sobre los autores para que defendieran su reputación frente a una métrica opaca.

Salón slop

Esta primavera, Camille François y casi dos docenas de otros expertos en IA se reunieron en un evento de Slop Salon en Menlo Park, California, donde discutieron la dificultad de clasificar, y por lo tanto de gestionar, el contenido basura generado por la IA.

“La mezcolanza de tácticas es un síntoma de que nos estamos enfrentando a un problema sistémico en nuestro entorno informativo y no solo a una mala categoría de contenido llamada ‘slop’ que podamos simplemente definir y eliminar”, dijo en una entrevista François, estudiante de tecnologías digitales dañinas en la Universidad de Columbia.

“Al fin y al cabo, la IA es una herramienta de creatividad y es multifacética; las plataformas que manejen esto de manera deficiente verán cómo la gente se va y busca otros lugares”.

CQ

Tecnologia

Alerta en bancos de EU; detectan que agentes de IA acceden a cuentas bancarias sin autorización

…

Alerta en bancos de EU; detectan que agentes de IA acceden a cuentas bancarias sin autorización

Una vez más los agentes de IA están acaparando la atención de medios internacionales. Este jueves 22 de octubre se reportó que distintos bancos estadounidenses habían detectado que agentes de IA intentaron «realizar acciones» dentro de las cuentas bancarias de los clientes sin autorización, según reporta el medio Axios.

De acuerdo con los reportes, los agentes de IA ejecutaron acciones independientes de las instrucciones de los usuarios, quienes sí han dado sus credenciales de acceso a estos sistemas para automatizar tareas financieras.

La actividad que se ha registrado por parte de los agentes es la programación de solicitudes, terminar tareas o hacer contacto con centros de atención telefónica. Estas acciones «contravienen las normas de la mayoría de los bancos» ya que estas instituciones les piden a los clientes iniciar sesión por sí mismos en sus propias cuentas.

Bancos estadounidenses han detectado el acceso de agentes de IA a cuentas bancarias de sus clientes sin autorización. Imagen: Magnific

Bancos estadounidenses han detectado el acceso de agentes de IA a cuentas bancarias de sus clientes sin autorización. Imagen: Magnific

Esta noticia ha generado opiniones negativas entre los ejecutivos bancarios, quienes calificaron de «aterradora» la posibilidad de que estos sistemas puedan entrar a las cuentas bancarias y realicen acciones que, incluso, puedan «afectar las finanzas de los clientes».

Ante este escenario y el riesgo financiero que implica para los usuarios el acceso de los agentes de IA, varias firmas de Estados Unidos han comenzado a implementar algunas acciones de protección para los usuarios.

Una de ellas es el modo «Solo lectura», con el cual han limitado el acceso a estas herramientas para que únicamente puedan consultar saldo e información financiera. Con ello, impiden que estos ejecuten transferencias o transacciones bancarias.

[Publicidad]

Bancos estadounidenses han detectado el acceso de agentes de IA a cuentas bancarias de sus clientes sin autorización. Imagen: Magnific

Bancos estadounidenses han detectado el acceso de agentes de IA a cuentas bancarias de sus clientes sin autorización. Imagen: Magnific

Por otro lado, algunas firmas como Morgan Stanley, JPMorgan, Bank of America y Citi han restringido o bloqueado definitivamente el acceso de los agentes de IA de terceros a sus plataformas digitales.

Estas solo son algunas de las medidas tomadas, pero el sector financiero ya comienza a prepararse ante los «peores escenarios» y reestablecer los accesos ante estas vulnerabilidades detectadas en tiempo real.

DiDi integra inteligencia artificial a sus viajes; así mejora la seguridad en cada recorrido

Te puede interesar:

[Publicidad]

¿Cómo saber si te están espiando en tu iPhone?; revisa estas señales

92.3 millones de números registrados en México; estas son las fechas que debes tener presentes

#MoodConectando: la UNAM impulsa el uso consciente de las redes sociales y la IA

[Publicidad]

Continue Reading

Tecnologia

DiDi integra inteligencia artificial a sus viajes; así mejora la seguridad en cada recorrido

…

DiDi integra inteligencia artificial a sus viajes; así mejora la seguridad en cada recorrido

La inteligencia artificial puede convertirse en una aliada de la seguridad durante un viaje por aplicación. En DiDi, modelos que llevan nombres de dioses griegos analizan patrones de comportamiento, detectan situaciones inusuales y generan alertas que pueden activar protocolos de atención humana y colaboración con las autoridades.

La plataforma presentó su ecosistema de seguridad, integrado por más de 40 funciones que buscan prevenir riesgos antes, durante y después de cada recorrido. Entre sus herramientas destacan la verificación de identidad, el monitoreo en tiempo real, el código PIN de cuatro dígitos y un sistema de soporte en vivo que conecta la tecnología con equipos especializados.

Pablo Lamuraglia, jefe global de seguridad de DiDi, explicó que la compañía utiliza nombres de personajes de la mitología griega para identificar algunos de sus modelos de inteligencia artificial. Hércules analiza las características del viaje, los patrones de uso y el historial de la cuenta. Si detecta algo inusual, puede solicitar una verificación adicional de identidad.

Clío trabaja junto con Hércules para analizar variables espacio-temporales e información histórica sobre la seguridad en determinadas zonas y horarios. Pitia, por su parte, ayuda a asignar conductores con buenas calificaciones y amplia experiencia, con el objetivo de ofrecer trayectos más seguros.

«La inteligencia artificial activa un algoritmo que me envía a una conductora o a un conductor con muy altas calificaciones y muchos viajes hechos, para que mi viaje sea más seguro y me sienta segura», explicó Ángela Vega, gerente de Asuntos Gubernamentales en materia de Seguridad para DiDi en Latinoamérica, al describir cómo funciona Pitia.

Mientras que Temis busca impedir que personas bloqueadas por incumplir los términos y condiciones ingresen mediante perfiles falsos o cuentas secundarias.

[Publicidad]

Estos modelos forman parte de un sistema que identifica anomalías como frenados repentinos, desvíos de ruta, paradas prolongadas o alejamientos de la zona de destino. Las alertas permiten que los equipos especializados evalúen si existe una situación de riesgo.

La plataforma combina inteligencia artificial, un PIN de cuatro dígitos y soporte humano 24/7 para detectar anomalías. Foto: Israel Rivera

La plataforma combina inteligencia artificial, un PIN de cuatro dígitos y soporte humano 24/7 para detectar anomalías. Foto: Israel Rivera

El ecosistema se organiza en tres pilares: la seguridad de los usuarios, la operación de la plataforma y la colaboración con las autoridades. Sus funciones incluyen botones de emergencia, grabación de audio, reconocimiento de identidad, monitoreo en tiempo real y herramientas para compartir viajes con contactos de confianza.

También existe un código PIN de cuatro dígitos que permite verificar el inicio del viaje y ayudar a confirmar que el usuario aborda el vehículo correcto.

[Publicidad]

La estrategia funciona en tres etapas: antes del recorrido se realizan verificaciones y análisis preventivos; durante el trayecto se monitorean posibles anomalías, y después del viaje se revisa la información para identificar aprendizajes que permitan mejorar los modelos y los protocolos.

“Queremos también que la tecnología sea una lente de seguimiento de lo que pasa en tiempo real”, señaló Lamuraglia al presentar el enfoque de prevención de la compañía.

La plataforma también presentó una integración tecnológica con Axon 911 para compartir información con las autoridades. Foto: Israel Rivera

La plataforma también presentó una integración tecnológica con Axon 911 para compartir información con las autoridades. Foto: Israel Rivera

Cuando una alerta requiere atención, el sistema de soporte en vivo canaliza el caso a una central de emergencia disponible las 24 horas, los siete días de la semana. Un agente especializado analiza la información, define las acciones necesarias y puede contactar a los usuarios o solicitar apoyo policial.

[Publicidad]

La plataforma también presentó una integración tecnológica con Axon 911 para compartir información con las autoridades en casos que lo requieran. El sistema permite consultar datos como la ubicación del vehículo en tiempo real, la velocidad y las características del automóvil. La empresa prevé incorporar video en vivo como una herramienta futura.

De acuerdo con los datos presentados durante el evento, de 3 mil millones de viajes, 17 mil activaron el soporte en vivo y en 3% de esos casos se requirió asistencia policial.

Vega explicó que la información obtenida también alimenta un ciclo de mejora continua. Así, los datos recopilados después de cada viaje permiten aprender de los incidentes y ajustar tanto la tecnología como los protocolos de prevención.

[Publicidad]

La propuesta combina algoritmos, equipos humanos y coordinación institucional. El reto consiste en que la detección automatizada se traduzca en respuestas oportunas, con protocolos de actuación y respeto a la privacidad de los usuarios.

El sistema busca que cada viaje genere información útil para anticipar riesgos y mejorar la respuesta ante posibles incidentes. Con la inteligencia artificial como primera línea de detección y los equipos especializados a cargo de evaluar las alertas, DiDi busca fortalecer la prevención y ofrecer asistencia durante los recorridos, señaló Vega.

HP apuesta por la IA, democratizar la tecnología y consolidar el trabajo híbrido; entrevista con Mateo Figueroa

Te puede interesar

[Publicidad]

¿Compartes Spotify familiar?; estas son las nuevas reglas de la app

Biometría facial en bancos; una alternativa a la huella dactilar

¿Cómo cambiar la voz de Alexa?; sigue el paso a paso

[Publicidad]

Continue Reading

Tecnologia

¿Cómo saber si te están espiando en tu iPhone?; revisa estas señales

…

¿Cómo saber si te están espiando en tu iPhone?; revisa estas señales

Si sospechas que alguien podría estar espiando tu iPhone, hay varias funciones de Apple que te ayudan a comprobarlo. Gracias a ellas puedes saber qué aplicaciones acceden a tus datos, si hay otros dispositivos vinculados a tus cuentas y cómo proteger tu información.

Aquí te decimos cuáles son.

Una primera medida de protección consiste en verificar si alguna aplicación usa la cámara o el micrófono del celular sin tu permiso. Para esto, Apple integra indicadores visuales con diferentes significados.

Por ejemplo, si aparece un punto naranja en la isla dinámica, significa que una app está usando el micrófono; en cambio, un punto verde indica que una app está utilizando la cámara o la cámara, junto con el micrófono.

¿Cómo saber qué aplicación tiene esos permisos? Simplemente ve al Centro de control y revisa la información que aparece en la parte superior de la pantalla.

Y en caso de identificar un acceso no autorizado por ti, ve a «Configuración» y luego entra en «Privacidad y seguridad». Aquí aparecen todos los permisos concedidos a las aplicaciones, y te recomendamos retirar los que no sean necesarios.

[Publicidad]

Pon atención a los indicadores de colores que aparecen en la isla dinámica de iPhone. Foto: Unsplash

Pon atención a los indicadores de colores que aparecen en la isla dinámica de iPhone. Foto: Unsplash

Importante: los indicadores no detectan todas las modalidades de espionaje, pero te ayudan a vigilar el uso de funciones sensibles y a identificar comportamientos inesperados en iPhone.

Otra herramienta útil es el «Reporte de privacidad de apps». disponible en dispositivos con iOS 15.2 o versiones posteriores. Dicha función registra cómo las aplicaciones utilizan los permisos que les has concedido y qué actividad realizan en la red.

Para activarla, realiza lo siguiente:

[Publicidad]

  • Abre «Configuración»
  • Ve a «Privacidad y seguridad»
  • Selecciona «Reporte de privacidad de apps»
  • Pulsa «Activar el reporte de privacidad de apps»

Una vez habilitado, el sistema del celular comienza a recopilar información. Mientras que el reporte te permite consultar -dentro del periodo de los últimos siete días- cuándo y cuántas veces las apps accedieron a datos como tu ubicación, fotografías, contactos, cámara y micrófono.

De igual manera, te muestra los dominios de Internet con los que se comunican las aplicaciones. Si percibes una actividad sospechosa, modificar los permisos correspondientes.

Si alguien conoce la contraseña de tu cuenta de Apple o tuvo acceso físico a tu celular, vale la pena revisar qué dispositivos tienen activa tu sesión.

[Publicidad]

Para comprobarlo, abre «Configuración» y pulsa tu nombre (ubicado en la parte superior.). Luego, desplázate hasta la lista de dispositivos asociados y revisa los que aparecen.

Si no reconocer alguno, selecciónalo para conocer sus datos y las opciones disponibles para eliminarlo.

Revisar las sesiones activas y los dispositivos conectados ayuda a reforzar la seguridad de tu iPhone. Foto: Pixabay

Revisar las sesiones activas y los dispositivos conectados ayuda a reforzar la seguridad de tu iPhone. Foto: Pixabay

Y finalmente, como medida de protección extra ante un posible espionaje, revisa si compartes tu ubicación con personas que ya no deberían tener acceso a ella.

[Publicidad]

Para esto, Apple cuenta con la función «Revisión de seguridad», que sirve para comprobar y modificar los accesos a este tipo de información personal.

Dicha revisión es importante si alguien más conoce tus credenciales o si compartiste tu cuenta con otra persona. La herramienta se encuentra disponible en modelos con iOS 16 o versiones posteriores.

Para utilizarla, sigue esta ruta:

[Publicidad]

  1. Entra en «Configuración»
  2. Pulsa «Privacidad y seguridad»
  3. Selecciona «Revisión de seguridad»
  4. Elige «Administrar acceso y datos compartidos «para revisar cada permiso. O bien, selecciona «Restablecimiento de emergencia» si necesitas detener rápidamente el acceso compartido.

¡Listo! Antes de que tu privacidad se convierta en un libro abierto, revisa las señales y ajusta los permisos de las apps de tu iPhone.

Roku y TCL lanzan televisores MiniLED; disponibilidad en México

Te puede interesar

¿Cuántas líneas se han registrado hasta ahora?

[Publicidad]

¿Compartes Spotify familiar? Estas son las nuevas reglas de la app

¿Cómo eliminar los audios de WhatsApp para liberar espacio?

Continue Reading