En los últimos años, la inteligencia artificial (IA) ha alcanzado un nivel de sofisticación de tal magnitud que muchas veces ya no es posible distinguir si se está interactuando con una persona o con una máquina. Lo que hace apenas una década parecía una amenaza lejana, hoy en día se ha convertido en un problema cotidiano.
Los llamados deepfakes, que son imágenes o audios editados con el rostro y la voz de una persona real, significan uno de los principales riesgos de esta tecnología, así como los bots, programas automáticos que pueden ejecutar tareas repetitivas.
Miguel Rocha, director regional de World, empresa especializada en autenticación digital, aseveró a El Sol de México que el gran reto hacia adelante para las plataformas digitales, ya sean comercios, sociales o institucionales, “es saber con certeza cuándo estamos interactuando con un humano de carne y hueso y cuándo lo estamos haciendo con una IA”.
World fue fundada por Sam Altman, el creador de OpenAI, empresa responsable de ChatGPT; y por Alex Blania, su actual CEO, como una plataforma de identidad digital que utiliza escaneo de iris para verificar la humanidad de los usuarios y crear una identificación.
Para ilustrar la dimensión del problema, Rocha señala que herramientas como ChatGPT o Gemini pueden resolver sin dificultad los captchas tradicionales —las pruebas visuales que pedían identificar objetos como semáforos o bicicletas—, lo que las vuelve ineficaces como mecanismo para verificar la humanidad.
De hecho, World ha encontrado que seis de cada 10 usuarios de internet han visto algún video generado con IA sin darse cuenta de inmediato de que se trataba de contenido falso, mientras que 70 por ciento ya no tiene certeza de si están hablando con otro humano o con un bot cuando interactúan en plataformas digitales.
La proliferación de deepfakes, audios manipulados y perfiles falsos ha puesto en riesgo no sólo la seguridad de los usuarios, sino también la integridad de las conversaciones en línea.
“Lo que estamos viendo no es un escenario de ciencia ficción, es el presente. Hay videos generados con IA que ya están siendo utilizados para fraudes y suplantación de identidad, incluso en videollamadas”, advirtió Rocha.
Frente a este panorama, World desarrolló una herramienta que busca establecer un nuevo estándar de autenticación en internet: World ID, una herramienta que permite demostrar que una persona es un humano único y real sin comprometer su privacidad.
A través de World App, los usuarios pueden crear una cuenta —incluso sin revelar su identidad— y después acudir a un orb, una cámara especializada que escanea el iris y genera un código encriptado que representa matemáticamente su textura.
Ese código se compara con los ya existentes en la red global de World para asegurarse de que no haya duplicidades, sin almacenar imágenes ni datos biométricos del usuario.
Actualmente, World ha superado los 30 millones de usuarios registrados en su aplicación a nivel mundial, de los cuales 14 millones ya han sido verificados físicamente mediante un orb. Estos dispositivos están distribuidos en diversas regiones, y la expansión ha sido especialmente acelerada en América Latina y el sudeste asiático.
Uno de los elementos más importantes del sistema, según Rocha, es que los datos biométricos no se conservan ni se comparten con terceros.
“La imagen nunca se sube a la nube, no se almacena y nadie la puede recuperar. El código del iris se fragmenta y se distribuye en servidores seguros, incluso en instituciones como la Universidad de Zúrich o Berkeley, de modo que no hay un punto único de riesgo”, explicó.
En CDMX, descargas eléctricas y coladeras dañadas generan 280 quejas diarias ante el SUAC
Publican libro sobre el mayor asesino serial de México, Andrés Mendoza
El ministerio de Hacienda pronostica que la economía chilena crecerá 2.5% en 2025
El ministro de Planificación de Bolivia asegura que es manejable el nivel de deuda externa para estabilidad económica
Repunta falsificación de billetes en México por primera vez desde 2022
Riesgo latente
Una encuesta reciente de Toluna y Tools for Humanity reveló que 89 por ciento de los mexicanos ha sido víctima o teme sufrir fraudes en línea, esto puede ser un agravante en ciertas plataformas o aplicaciones, como son las de citas.
De acuerdo con una encuesta hecha por World, seis de cada 10 usuarios de apps como Tinder o Bumble ha sospechado o descubierto que uno de sus “match” podría ser un bot o una IA.
Es por ello que 65 por ciento de los usuarios de este tipo de plataformas se sienten inseguros y 70 por ciento considera que las aplicaciones de citas no están tomando acciones suficientes para verificar que quienes interactúan son personas reales.
En ese sentido, Rocha destacó que herramientas como World ID permiten a los usuarios acceder de forma segura a funciones en distintas plataformas que requieren verificación de humanidad.
Destacó que la herramienta ya está siendo integrada en tiendas que operan con Shopify para evitar abusos de bots en promociones, así como en la plataforma de videojuegos Razer, donde puede evitar que jugadores se enfrenten a programas automatizados en lugar de personas reales.
También, dijo, hay casos en el ecosistema de redes de citas, como un piloto para verificar perfiles de Tinder en Japón, y en actividades de la Federación Nacional de Videojuegos (Fenavide) en México.
El avance de este tipo de verificación no responde únicamente a la necesidad de frenar fraudes, sino también a la creciente pérdida de confianza digital.
En una encuesta interna de World, 89% de los encuestados en México afirmaron conocer a alguien que haya sido víctima de suplantación de identidad. Además, nueve de cada 10 gamers dijeron haber encontrado bots en sus partidas.
Rocha enfatizó que los famosos captcha, que durante años ha funcionado como un “cadenero virtual”, ya no garantizan la seguridad de que un humano está navegando por un sitio, ya que, dijo, cualquier herramienta de IA los puede resolver en cuestión de segundos, por lo que esta primera barrera de seguridad digital quedó obsoleta.
El directivo señaló que este rezago abre la puerta a múltiples vulnerabilidades, desde el hecho que bots acaparen boletos de espectáculos en plataformas como las de Ticketmaster o Boletia, hasta campañas de desinformación a través de videos manipulados con IA.
Pero el riesgo no sólo es económico, sino también emocional o personal, ya que en una llamada con un video manipulado, si ves a tu jefe pidiéndote una transferencia urgente, o a un familiar solicitando ayuda, el daño ya está hecho antes de que te el usuario se dé cuenta de que era un deepfake.
Combaten los deepfakes
Una de las aplicaciones más avanzadas que World desarrolla actualmente es Deep Face, una herramienta en fase beta que busca integrar verificación en tiempo real durante videollamadas.
Con un pequeño “reto” desde la app, se puede confirmar si la persona frente a la cámara coincide con los datos registrados y si está participando activamente en la llamada. El sistema compara la imagen que ve la cámara, la enviada por el usuario y la almacenada localmente, todo sin comprometer su identidad.
“En segundos, una plataforma como Zoom, Google Meet o WhatsApp podría darte la seguridad de que no estás frente a un deepfake”, explicó Rocha.
Por ahora, el uso de World ID es completamente gratuito para el usuario. La lógica detrás de este enfoque es que, a medida que más personas completen el proceso de verificación, más servicios querrán adoptar World ID como mecanismo estándar de autenticación.
“No estamos pensando en monetizar esto todavía. Lo más importante es construir una red sólida y confiable de humanos verificados, una capa adicional de confianza para la web”, indicó el directivo.
Rocha planteó que, en un futuro cercano, los usuarios se enfrentarán a una disyuntiva: o entregan sus datos personales y documentos oficiales para cada transacción digital, o adoptan mecanismos como World ID que les permitan comprobar que son humanos sin tener que revelar quiénes son.
Destacó que hay otros esfuerzos en marcha que también buscan ofrecer pruebas de humanidad en internet, debido a que se trata de un problema global y creciente.
“La gente quiere privacidad, pero también quiere seguridad. Nosotros creemos que se puede tener ambas. No se trata solo de autenticarnos, se trata de protegernos de una realidad donde las máquinas pueden parecer humanas y donde cada vez cuesta más distinguir la diferencia”, concluyó.
Juan Luis Ramos | El Sol de México