Image

El Veredicto de la IA: ¿Por Qué Ya No Podemos Confiar en los Videos y Cómo Recuperaremos la Verdad?

En la era digital actual, la línea entre la realidad y la ficción se difumina a un ritmo alarmante, especialmente con el auge de la inteligencia artificial generativa y las tecnologías de deepfake. Un reciente incidente en marzo puso de manifiesto esta creciente incertidumbre: un video emitido por una agencia de noticias iraní mostraba lo que parecía ser un misil Tomahawk de fabricación estadounidense impactando en una escuela, con informes posteriores que sugerían la muerte de más de 175 personas, la mayoría niños. A pesar de la negación de responsabilidad por parte de EE. UU., la comunidad global, incluida la experta en análisis de medios digitales, se mostró escéptica ante la autenticidad del material, reflejando una desconfianza generalizada hacia las grabaciones visuales.

Este escepticismo no es infundado. Durante tres décadas, el análisis y la detección de manipulación en medios digitales han sido el campo de batalla de investigadores como el autor de este artículo. Tradicionalmente, la “presunción de autenticidad” prevalecía: la carga de la prueba recaía en quien afirmaba que una grabación era falsa. Sin embargo, el panorama ha cambiado drásticamente. Hoy, nos encontramos ante una “presunción de falsedad”, donde la responsabilidad recae ahora en el creador para demostrar la veracidad de su contenido. Este cambio, aunque pueda parecer injusto para los creadores legítimos, es un reflejo necesario de la realidad tecnológica y una advertencia sobre el futuro de la confianza en la información visual.

Las herramientas de inteligencia artificial ya no son solo para crear contenido, sino que también son fundamentales para el desarrollo de robots más capaces. La IA mejora desde la precisión en la manipulación de objetos hasta la autonomía en entornos complejos, como se ve en iniciativas como ARLI, la IA que domina la latencia para hacer a los robots más inteligentes y precisos, o los avances en la manipulación robótica de contacto con sistemas como TAMEn System, que alcanza un impresionante 92% de éxito.

El Enfoque Forense Ante la Ola de Deepfakes

La reacción inicial ante el video del supuesto ataque con Tomahawk fue de sospecha, fundamentada en la baja calidad del metraje, el retraso en su aparición y la fuente de distribución, una agencia con un historial cuestionable de precisión. Sin embargo, la magnitud de las implicaciones potenciales obligó a un análisis forense detallado. La aplicación de técnicas matemáticas y computacionales permitió examinar la consistencia física del video. Al alinear las secuencias de video con un punto de referencia estático del fondo, se pudo observar que el misil, supuestamente añadido digitalmente, seguía una trayectoria casi lineal, lo que indicaba una posible manipulación.

Posteriormente, se evaluó la plausibilidad del tamaño del misil en el video. Bajo supuestos razonables, se estimó que el objeto visual correspondía a un Tomahawk de seis metros de longitud situado a una distancia aproximada de cien metros de la cámara. Esta distancia, junto con la demora de 0.3 segundos entre el impacto visible y el sonido resultante (considerando la velocidad del sonido), parecían consistentes. A pesar de estas evidencias analíticas, la convicción sobre la autenticidad del video seguía siendo esquiva. Un estudio reciente, realizado por el propio autor junto a colegas de la Universidad de California, Berkeley, demostró la dificultad inherente para distinguir videos reales de los fabricados. La propia pericia del investigador se veía afectada por esta creciente sospecha generalizada en la audiencia.

Este desafío en la verificación se extiende a otras áreas de la robótica. Por ejemplo, la capacidad de robots humanoides para realizar tareas complejas y seguras es un área de investigación activa. Mientras algunos, como Foundation Phantom MKII, se orientan a entornos industriales y de defensa, otros buscan la destreza asequible, como la mano robótica imprimible PHD Hand. La IA es crucial para dotar a estos robots de la inteligencia necesaria para operar eficazmente.

Tras varias horas de análisis, la conclusión se inclinó hacia la autenticidad del video del misil. Este punto de inflexión personal marcó un cambio de paradigma: la ausencia de artefactos evidentes ya no era suficiente para asegurar la veracidad de un video. La “presunción de autenticidad” había dado paso, irrevocablemente, a la “presunción de falsedad”.

Señales de Procedencia: La Nueva Frontera de la Confianza Visual

Ante la erosión de la fiabilidad del registro visual, surge la pregunta: ¿qué podemos hacer? Las técnicas forenses, aunque efectivas, no son escalables ni veloces para la inmensidad de internet. Aquí es donde entran en juego las “señales de procedencia”: metadatos incrustados en el momento de la creación o captura del contenido. Estándares como el C2PA (Coalition for Content Provenance and Authenticity) adjuntan manifiestos firmados criptográficamente a fotos y videos. Estos manifiestos detallan el dispositivo de origen, la hora, la ubicación y cualquier edición posterior. La firma criptográfica garantiza que cualquier manipulación, ya sea del contenido o de su historial, sea detectable por máquina.

Imagen complementaria

Otra vía son las marcas de agua, como SynthID de Google, que integran una señal imperceptible directamente en los píxeles o muestras de audio para identificar el origen del contenido. Apple ha llevado esta idea un paso más allá con su “imagen de referencia” en algunos iPhones. El sensor de la cámara firma criptográficamente los datos de píxeles brutos en el momento de la captura. Esta firma se guarda junto con la foto editable, permitiendo una comparación directa para detectar cualquier cambio.

Estas señales de procedencia, a menudo criticadas por ser soluciones parciales o vulnerables, cumplen un propósito distinto: no tanto “atrapar a los malos actores” como “empoderar a los buenos actores”. Su objetivo es permitir que los creadores legítimos demuestren la autenticidad de sus grabaciones. Si suficientes actores confiables adoptan estos mecanismos, la credibilidad del contenido verificado aumentará, ayudando a distinguir la información fiable del contenido malicioso. Se trata de un cambio del modelo de “capturar al infractor” a uno de “dar poder al creador honesto”. En el ámbito logístico y de automatización, el desarrollo de robots capaces de realizar tareas específicas de forma eficiente es clave. Empresas como Motion buscan revolucionar el paletizado con modelos innovadores, como el Galbot S1, que se ofrece bajo un modelo de leasing.

Verificación en Tiempo Real: El Desafío de las Videollamadas

La desconfianza hacia el medio digital se extiende ahora a las interacciones cotidianas, como las videollamadas. Un incidente en septiembre de 2024 ilustra este riesgo: un senador estadounidense recibió una solicitud de reunión virtual del exministro de Asuntos Exteriores de Ucrania. Durante la llamada, las preguntas inusuales y fuera de personaje del interlocutor despertaron sospechas, llevando a la finalización de la conversación. Posteriormente, se confirmó que el ministro nunca había solicitado dicha reunión, y las advertencias sobre intentos de suplantación por parte de adversarios extranjeros se hicieron públicas.

Estos engaños son posibles gracias a tecnologías de deepfake de intercambio de rostros (face-swap) y conversión de voz, que pueden operar en tiempo real con equipos informáticos relativamente modestos. La generación de un video falso fluido, a unos 24 fotogramas por segundo, requiere atajos que pueden ser detectados forensicamente. Estos atajos incluyen la simplificación de rostros, interacciones menos naturales con el entorno y posibles desincronizaciones entre audio y video. Si bien el ojo humano puede no percibir estas inconsistencias, el análisis forense sí puede revelarlas.

En este contexto, las señales de procedencia tienen un papel crucial. El software de videoconferencia podría implementar el mismo tipo de firma criptográfica en cada fotograma de una transmisión en vivo que Apple utiliza para las fotografías. La detección de una alteración en tránsito, donde los fotogramas no provienen de un sensor físico sino que han sido modificados, permitiría la verificación en tiempo real. Una vez más, el enfoque se desplaza de la detección de impostores a la capacidad de los participantes legítimos para probar su identidad.

Durante las primeras dos décadas de la revolución digital, el análisis forense era suficiente para resolver la mayoría de las disputas de autenticidad. Sin embargo, la revolución de la IA ha elevado la escala y la velocidad de la manipulación a un nivel que la ciencia forense por sí sola no puede gestionar. Para confiar en una grabación en el presente, esta debe ir acompañada de una señal de procedencia desde el punto de origen. La sinergia entre la procedencia y el análisis forense es fundamental: la primera habilita la confianza en los actores legítimos, mientras que el segundo expone a los malintencionados. La robotización en sectores como la logística, impulsada por soluciones como los robots de Amazon, es un claro ejemplo de cómo la tecnología puede mejorar la eficiencia cuando se implementa con garantías de fiabilidad.

Releated Posts

PHD Hand: La Mano Robótica Humanoide Imprimible que Busca la Destreza asequible

Investigadores del New Jersey Institute of Technology presentan la Printable Humanoid Dexterous Hand (PHD Hand), un prototipo que…

PorBy Nov 20, 2026

De la Universidad al Campo: Cómo la IA Está Transformando la Agricultura Familiar en Colorado

Xue «Alice» Dong, especialista en extensión de Colorado State University, se ha propuesto acortar la brecha tecnológica llevando…

PorBy Nov 20, 2026

El Espejismo de la Superinteligencia Artificial: ¿Estamos Persiguiendo un Fantasma Tecnológico?

Un análisis profundo cuestiona la base científica y de ingeniería detrás de la superinteligencia artificial (ASI), argumentando que…

PorBy Nov 19, 2026

La Robótica Busca la ‘Inteligencia Embebida’: El Desafío de Dotar a las Máquinas de Autonomía Real

La evolución de la robótica, impulsada por modelos de IA y hardware más avanzados, plantea el reto de…

PorBy Nov 19, 2026

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio