Últimamente, es muy común abrir redes sociales o aplicaciones de mensajería y ver fotos de conocidos que no son las típicas de las vacaciones o de una comida. En la primera imagen salen vestidos como fieros guerreros vikingos; en la segunda, parecen princesas sacadas directamente de una película de Disney; y en la tercera, llevan un traje de astronauta hiperrealista.
Los comentarios no tardan en llegar: "¡Qué chulada!", "¿Cómo has hecho eso?". Normalmente, todo surge de un enlace a una aplicación gratuita de moda. Solo tienes que subir diez selfis tuyos y, por arte de magia, la aplicación te devuelve cien retratos espectaculares generados por Inteligencia Artificial.
Para la mayoría, esto es solo un juego divertido. Para alguien que estudia cómo funciona esta tecnología, produce un auténtico escalofrío.
Como estudiante de Inteligencia Artificial, paso muchas horas leyendo sobre cómo se entrenan los modelos, de dónde sacan la información las empresas y cómo funcionan las bases de datos masivas. La primera recomendación siempre es clara: por favor, no te descargues esas aplicaciones ni subas fotos tuyas, y mucho menos de menores de edad.
Puede sonar a exageración o a paranoia informática. Muchos piensan: "¡Si es solo un juego, no pasa nada!". Pero detrás de este aparente entretenimiento inofensivo se esconde uno de los negocios más oscuros y rentables de la era digital. Hoy quiero explicar por qué hay que tener mucho cuidado, sin usar palabras de ingeniero ni jerga técnica.
El mito del "todo gratis" en internet
Para entender el problema, primero tenemos que entender cómo funciona el dinero en la tecnología. Mantener una aplicación de Inteligencia Artificial que genera imágenes es carísimo. Requiere unos ordenadores gigantescos (servidores) y un consumo de electricidad brutal para procesar cada fotografía. Hablamos de cientos de miles de euros al mes solo para mantener la aplicación encendida.
Entonces, si a la empresa le cuesta tanto dinero hacer esto, ¿por qué la aplicación es totalmente gratuita para ti?
"En internet hay una regla de oro que nunca falla: Si tú no pagas por el producto, es porque tú eres el producto."
Estas empresas no han creado la aplicación para sacarte una sonrisa ni para que tengas una foto de perfil chula en Facebook. Han creado la aplicación como un cebo perfecto. Su verdadero negocio no es regalarte avatares de vikingo; su verdadero negocio es recolectar la mayor cantidad de rostros humanos posible para crear una base de datos gigante.
No es una simple foto, es tu "huella dactilar" facial
Aquí es donde los adultos suelen decirme: "Bueno, ¿y qué más da que tengan mi cara? Si ya subo fotos mías a Instagram o a Facebook, mi cara ya está en internet".
Es una duda muy lógica, pero hay una diferencia abismal. Cuando tú subes una foto a tus redes sociales, subes una imagen plana. Pero cuando una de estas aplicaciones te pide que subas "diez selfis desde diferentes ángulos", no está mirando lo guapo que eres. Está escaneando la geometría exacta de tu rostro.
La aplicación mide con precisión milimétrica la distancia entre tus pupilas, la profundidad de tus pómulos, la curvatura de tu mandíbula y la asimetría de tu nariz. Está extrayendo lo que en tecnología llamamos datos biométricos.
Para que nos entendamos: tu rostro hoy en día ya no es solo tu cara. Tu rostro es la contraseña con la que desbloqueas tu teléfono móvil, la llave con la que autorizas transferencias en la aplicación de tu banco y, en muchos países, el sistema que se usa para pasar los controles del aeropuerto. Darle un escáner tridimensional de tu cara a una empresa desconocida que acaba de aparecer en la tienda de aplicaciones es el equivalente a darle las llaves de tu casa y tu número de cuenta a un desconocido por la calle solo porque te ha prometido hacerte una caricatura bonita.
La trampa de la letra pequeña que nadie lee
El verdadero terror empieza cuando te paras a leer los "Términos y Condiciones" de estas aplicaciones virales. Ya sabéis, esa parrafada kilométrica de texto legal que todos pasamos rápido hacia abajo para darle al botón de "Aceptar" lo antes posible.
En clase de universidad hemos analizado algunos de estos contratos, y lo que firmas al darle a aceptar es de locos. En casi todas estas apps de avatares gratuitos, la letra pequeña dice algo parecido a esto:
"Al usar nuestros servicios, usted nos concede una licencia perpetua, irrevocable, mundial y transferible para usar, modificar, reproducir y distribuir su imagen para cualquier propósito comercial, incluyendo el entrenamiento de algoritmos, sin derecho a compensación alguna".
Traducido al español de andar por casa: les estás dando permiso legal para hacer lo que les dé la gana con tu cara, para siempre, en todo el planeta, y pueden venderle ese escáner de tu rostro a quien quieran.
¿A quién se lo venden? Pues normalmente a otras empresas de Inteligencia Artificial que necesitan millones de caras humanas reales para entrenar sistemas de reconocimiento facial, sistemas de vigilancia gubernamental en países con dudosa moralidad, o incluso a empresas de publicidad para crear modelos virtuales que se parezcan a ti. Has vendido los derechos de autor de tu propia cara a cambio de un dibujo de Disney.
El peligro del robo de identidad
Quizás pienses: "Soy una persona normal, no soy famoso, a nadie le importa mi cara". Ese es el famoso argumento de "yo no tengo nada que ocultar". Pero el peligro no es que la empresa que hizo la app te quiera espiar; el peligro es que esa empresa sea hackeada o decida vender su base de datos a ciberdelincuentes.
Como ya vimos en artículos anteriores sobre estafas y clonación de voz, los delincuentes utilizan estos datos biométricos de alta calidad para crear lo que se llaman deepfakes (vídeos falsos hiperrealistas).
Si tienen un mapa perfecto de tu cara, pueden poner tu rostro en el cuerpo de otra persona en un vídeo haciendo cosas ilegales o comprometidas. Pueden intentar burlar los sistemas de seguridad de verificación de identidad de los bancos (esos que te piden que mires a la cámara y gires la cabeza para abrir una cuenta o pedir un préstamo a tu nombre). Tu rostro es algo que no puedes cambiar. Si alguien te roba la contraseña del correo, pones otra nueva y solucionado. Pero si alguien tiene el mapa biométrico de tu cara, no puedes ir al cirujano a ponerte una cara nueva.
Sentido común antes de instalar
No se trata de vivir en una cueva alejados de la tecnología ni de adoptar una postura catastrofista. La Inteligencia Artificial es fascinante y tiene aplicaciones creativas increíbles.
Pero tenemos que empezar a tratar nuestros datos personales con el mismo respeto y cuidado con el que tratamos nuestra cartera o nuestras tarjetas de crédito.
La regla de oro para sobrevivir a estas modas de internet es la prudencia. Antes de descargarte la app de moda que usa todo el mundo en WhatsApp para ver cómo serías de anciano, cómo serías si fueras de otro país o para convertirte en un dibujo animado, pregúntate quién ha hecho esa aplicación. Si es una herramienta oficial de empresas enormes y reguladas (como los filtros que ya vienen integrados en el propio teléfono de Apple o Google), el riesgo es menor porque están sometidos a leyes de protección de datos muy estrictas.
Pero si es una aplicación gratuita de un desarrollador desconocido que nadie sabía que existía hasta ayer... huye. Ningún retrato de vikingo es lo suficientemente chulo como para justificar regalar la cerradura de tu vida digital.