En los últimos años los avances en Inteligencia Artificial (IA) han demostrado un potencial sin precedentes para la automatización de procesos. Esta creciente dependencia de la IA también ha generado un impacto significativo en un ámbito menos deseable: el fraude en línea. El mundo digital ha facilitado un entorno propicio para que los defraudadores busquen mejorar sus prácticas fraudulentas, y la Inteligencia Artificial ha añadido una nueva dimensión a este panorama.
Los defraudadores están aprovechando las capacidades de la IA para diseñar estrategias cada vez más sofisticadas que les permiten engañar a sistemas de seguridad y a los usuarios. Uno de los mayores desafíos radica en la capacidad de la IA para imitar patrones de comportamiento humano con una precisión asombrosa.
Prueba de ello es el crecimiento de la tecnología deepfake, una nueva forma de cometer fraude en línea que los defraudadores pueden utilizar para falsificar identidades o robar información de los usuarios. El deepfake se ha convertido en una preocupante amenaza para la seguridad en línea ya que estas manipulaciones creadas por algoritmos de aprendizaje automático pueden crear contenido multimedia extremadamente realista, como videos, imágenes y voces falsas.
¿Qué es el deepfake?
El término deepfake surge de la combinación de palabras “deep learning” y “fake”, en referencia al contenido generado por medio de inteligencia artificial que imita la apariencia y voz de una persona real. Estos medios sintéticos pueden engañar a personas y a sistemas de detección de identidad. Los deepfakes se crean mediante algoritmos de redes generativas adversarias (GAN), donde dos redes neuronales compiten para generar contenido que sea indistinguible del contenido real y generar un video, una imagen o un audio lo más parecido posible al objetivo.
Los deepfakes representan una serie de peligros, desde el fraude en línea hasta la desinformación y el chantaje. El uso malicioso que se le puede dar a esta tecnología plantea desafíos significativos a medida que llegue al alcance de todos.
Una de las formas más preocupantes de uso malicioso de los deepfakes es el fraude financiero. Los defraudadores pueden aprovecharse de la tecnología de manipulación de imágenes o vídeos para engañar a los sistemas de verificación basados en reconocimiento facial o de voz. ChatGPT, Dall-e o Stable Diffusion son solo algunas de las nuevas inteligencias artificiales generativas que se han puesto de moda en los últimos meses y su uso no solo ha sido recreativo.
¿Cómo puede afectar el deepfake al robo de identidad?
Los intentos de phishing con deepfakes también pueden afectar a consumidores, ya que puede ser una herramienta usada para el robo de identidad. Los defraudadores continúan innovando y buscando nuevas formas de aprovechar la tecnología deepfake para cometer fraudes más sofisticados basados en la coincidencia de rostros y otras verificaciones biométricas. Por ejemplo, utilizan fotos de famosos o mezclan videos antiguos para realizar transmisiones en vivo en redes sociales, donde a través de videos editados piden a las las víctimas transferir entre 2,500 y 1,000,000 en criptomonedas con la promesa de duplicar cualquier pago. En estas estafas se reporta que se pueden perder entre 1,000 y 460,000 dólares, según Kaspersky.
Aunque la detección de falsificaciones en manipulaciones visuales y de audio es más sencilla, ya que a menudo muestran signos evidentes de que son generadas por IA, como inconsistencias visuales o tonos artificiales en las voces. El estudio de identidad en línea Jumio 2023 indica que el 67% de los encuestados conoce la existencia de herramientas de IA generativa que pueden crear deepfakes, el 52% considera que podría detectar un vídeo deepfake y el 62% de los encuestados mexicanos cree que el robo de identidad en línea será más fácil como consecuencia del uso de estas herramientas para generar deepfake.
Para los expertos en ciberseguridad es preocupante que casi la mitad de las personas no puedan diferenciar de un video real a un video falso, debido a que esto puede garantizar el éxito de tácticas de ingeniería social y fraude que al aplicar esta tecnología podrán lograr el objetivo de engañar y extraer información personal de sus víctimas a través de la desinformación y estafas.
Además, un estudio realizado por la revista científica PNAS (Proceedings of the National Academy of Sciences of the United States of America), menciona que los rostros generados sintéticamente se han vuelto casi indistinguibles de los reales.
Si bien la IA ha demostrado ser una herramienta poderosa en la lucha contra el fraude en línea, también plantea desafíos significativos ya que los estafadores continúan adaptándose y evolucionando sus métodos.
Por ello es importante mantenerse al día de estas tecnologías que están en constante evolución y para evitar enfrentarse al creciente fraude, las empresas deben enfocarse en protegerse desde su trinchera. En el e-commerce, el contar con una protección antifraude se ha vuelto primordial, sobre todo usar la Inteligencia Artificial a nuestro favor.
Signifyd, utiliza la IA para reconocer la identidad detrás de cada pago a través del el Machine Learning y así evitar que el fraude llegue a tu negocio en línea, incluso si los intentos de fraude se hacen utilizando información robada de usuarios que han sido víctimas de phishing o estafa por deepfake.
Al igual que la Inteligencia Artificial va avanzando y los defraudadores buscan innovar con sus prácticas, existen herramientas como Signifyd que usan la Inteligencia Artificial para mejorar y perfeccionar la protección antifraude. Mantente alerta de los nuevos métodos de fraude y protege tu información personal.
Últimas publicaciones
