Foto de Reuters TV
por Todd C. Helmus
Varias tecnologías de IA están maduras para su uso en campañas de desinformación. Los videos falsos profundos representan una amenaza obvia, pero la clonación de voz, las imágenes falsas profundas y el texto generativo también merecen preocupación. Y los sitios web ahora ofrecen acceso a servicios falsos.
El propósito de esta Perspectiva es brindarles a los formuladores de políticas una descripción general de la amenaza de las falsificaciones profundas. Primero revisa la tecnología que sustenta las falsificaciones profundas y las tecnologías impulsadas por inteligencia artificial (IA) asociadas que proporcionan la base para videos falsos profundos, clonación de voz, imágenes falsas profundas y texto generativo. Destaca las amenazas que plantean las falsificaciones profundas, así como los factores que podrían mitigar tales amenazas. Luego, el documento revisa los esfuerzos en curso para detectar y contrarrestar las falsificaciones profundas y concluye con una descripción general de las recomendaciones para los formuladores de políticas. Esta perspectiva se basa en una revisión de la literatura publicada sobre tecnologías de desinformación de IA y deepfake. Además, los principales expertos en el campo de la desinformación contribuyeron con valiosos conocimientos que ayudaron a dar forma al trabajo.
Esta Perspectiva fue patrocinada por la Oficina del Secretario de Defensa y realizada dentro del Centro Internacional de Políticas de Seguridad y Defensa de la División de Investigación de Seguridad Nacional (NSRD) de RAND.
Esta publicación es parte de la serie Perspectiva de RAND Corporation. RAND Perspectives presenta percepciones de expertos sobre cuestiones de política oportunas. Todas las Perspectivas de RAND se someten a una revisión por pares para garantizar altos estándares de calidad y objetividad.
Este documento y las marcas registradas contenidas en él están protegidas por ley. Esta representación de la propiedad intelectual de RAND se proporciona únicamente para uso no comercial. Se prohíbe la publicación no autorizada de esta publicación en línea; Se recomienda vincular directamente a la página de este producto. Se requiere permiso de RAND para reproducir o reutilizar de otra forma cualquiera de sus documentos de investigación con fines comerciales. Para obtener información sobre los permisos de reimpresión y reutilización, visite www.rand.org/pubs/permissions .
RAND Corporation es una institución sin fines de lucro que ayuda a mejorar las políticas y la toma de decisiones a través de la investigación y el análisis. Las publicaciones de RAND no reflejan necesariamente las opiniones de sus clientes y patrocinadores de investigación.
