Una nueva herramienta de inteligencia artificial tiene como objetivo proteger las videoconferencias de las estafas Deepfake

Reality Defender, una plataforma de detección de medios generada por IA que ganó el Innovation Sandbox de RSA, ha introducido la detección de deepfake en tiempo real en las conferencias web. Disponible ahora en versión beta privada, la tecnología tiene como objetivo frustrar intentos de fraude cada vez más comunes. Con el uso cada vez mayor de la IA para hacerse pasar por directores ejecutivos, funcionarios gubernamentales y parejas románticas, esta tecnología proporciona una línea de defensa crucial.

“Probablemente sea sólo cuestión de meses antes de que comencemos a ver una explosión de videos deepfake y fraude cara a cara. En cuanto a las videollamadas, especialmente en situaciones de alto riesgo, ver no creer», advirtió Ben Colman, CEO y cofundador de la startup.

Durante una demostración con WIRED, el gerente de producto de Reality Defender, Christopher Ren, demostró la herramienta haciéndose pasar por Elon Musk en una videollamada en vivo. Usando código de GitHub y solo una foto de Musk, Ren mapeó con éxito el rostro de Musk en el suyo. En consecuencia, el widget de detección de Reality Defender señaló correctamente la manipulación, demostrando la confiabilidad del sistema para detectar falsificaciones generadas por IA en tiempo real.

Los modelos de detección funcionan analizando video en vivo cuadro por cuadro, identificando elementos sospechosos y luego alertando a los usuarios directamente en la aplicación de conferencia que están utilizando.

Las estafas deepfake ya no son sólo una preocupación futurista: ya están alterando industrias y vidas personales en todo el mundo. Según un informe de incidente reciente, una empresa de ingeniería internacional perdió 25 millones de dólares tras ser engañada por una videollamada falsa. De manera similar, las víctimas enamoradas en toda Asia han sido víctimas de estafadores que utilizan la inteligencia artificial para hacerse pasar por personas atractivas.

«La detección profunda de vídeos falsos en tiempo real no podría haber llegado en un momento más crucial», afirmó Coleman. “A medida que ocurren más incidentes de fraude de alto perfil relacionados con videoconferencias en todo el mundo, los equipos necesitan saber que en realidad están hablando con personas reales. Nuestra tecnología realmente permite que esto suceda sin esfuerzo y al instante”.

Coleman no estaba exagerando, ya que el mercado de herramientas relacionadas con deepfake ha aumentado según Cyber ​​​​Intelligence de Accenture. Se informó de un aumento del 223% en las transacciones en foros de la web oscura entre el primer trimestre de 2023 y el primer trimestre de 2024. La demanda de deepfakes de alta calidad también ha aumentado, y los precios de los vídeos alcanzan hasta 20.000 dólares por minuto.

En apuestas tan altas como ésta, herramientas como Reality Defender resultan útiles”. No le pedimos a mi madre de 80 años que señale el ransomware en un correo electrónico. Porque ella no es una experta en informática», dijo Colman.

Además, Reality Defender se ha asociado con ElevenLabs, una empresa de inteligencia artificial especializada en generación de voz sintética, para ampliar su alcance en el campo del audio. A medida que la clonación de voz se vuelve cada vez más sofisticada y los estafadores combinan imágenes falsas con voz generada por IA, esta asociación garantiza un sistema de detección más completo para los usuarios que enfrentan amenazas complejas.

La tecnología se encuentra actualmente en versión beta privada, con planes de ampliar el acceso a través de una lista de espera pública. A medida que la comunicación por vídeo se vuelve más integral para la vida personal y empresarial, es fundamental garantizar que los participantes sean quienes dicen ser. La solución de Reality Defender tiene como objetivo abordar esa necesidad, porque, en el mundo digital actual, lo que ves no siempre es lo que obtienes.