Voces clonadas y desnudos falsos: la IA perfecciona el cibercrimen

Chus Heredia

Martes, 24 de septiembre 2024, 10:35 | Actualizado 14:09h.

Comenta

El segundo panel de Sun&Tech 2024 ha estado centrado en las posibles implicaciones de la inteligencia artificial con los delitos cibernéticos, cuestión de plena vigencia y preocupación colectiva. Sobre el escenario, nada menos que Bernardo Quintero y Andrés Román y sus valiosas ópticas técnica y policial. En los últimos cuatro años estos delitos se han disparado.

Curiosamente ambos ponentes compartieron pupitre en la Universidad de Málaga en 1991 y sus caminos se bifurcaron. Eso sí, los dos combaten a los malos. Y los dos alertan de peligros como la voz. Por más dobles autentificaciones que se puedan poner.

Bernardo Quintero es ingeniero informático y uno de los 'hackers' más prestigiosos del mundo. Fue cofundador de Hispasec, empresa decana de la seguridad informática en España, y fundador de Virustotal, un analizador de virus gratuito que fue adquirido por Google en 2012. Es director de ingeniería de seguridad de Google, al frente de un equipo de más de 60 ingenieros que trabajan en GSEC Málaga. «Desgraciadamente los atacantes suelen ser más innovadores. Ellos tienen menos cortapisas y un rendimiento económico inmediato. El incentivo juega a su favor. No dependen de la ética o la regulación», ha avanzado, aunque aclara que no es exclusivo de la IA.

El 'phising' tradicional, según Quintero, llevaba faltas de ortografía o mala redacción. Con la inteligencia puede traducirse a un español perfectamente normalizado. Eso, y la personalización, cada usuario recibe un mensaje estafa distinto. «Esto se está llevando ya a la imagen y a la voz», ha apostillado.

Andrés Román es inspector jefe de Policía Nacional y es responsable de la Sección de Ciberdelincuencia de la Comisaría Provincial de Málaga. Es titulado en Informática y Criminología por la Universidad de Málaga y Ciencias Policiales por la de Salamanca e ingresó en Policía Nacional en 1999. El policía ha empezado hablando del crimen como un microorganismo que se adapta y se mueve. «Aprovecha la limitación y el conocimiento. Ahí está el maquillaje de mensajes y llamadas telefónicas. La IA no es una amenaza cuantitativamente importante pero tiene muy riesgo a futuro sobre todo con la síntesis de voz, imagen y vídeo», ha dicho. El año pasado con deep fake se produjeron las primeras detenciones en Málaga: unos compañeros de clase habían 'desnudado' a una compañera con una app. El alcance general de la tecnología es un multiplicador del riesgo.

«La síntesis de voz es muy peligrosa. El delincuente necesita ahora una inmediatez. Alzas en delitos de 'sextorsión' o estafa son inminentes », ha dicho Román, al tiempo que ha advertido sobre la automatización y la masificación.

Cada vez los ataques son más sofisticados. El 'deep fake' es una amenaza real. Según el experto policial, falta orientación ciudadana, puesto que casi todo está volcado a lo empresarial. El 90% de las denuncias son por parte de ciudadanos. El auge es exponencial. «En las escuelas hay que enseñar tecnologías digitales pero no sólo a protegerse, sino a cuidarse de la sobreestimulación, las relaciones personales... Que la tecnología no termine consumiéndonos a nosotros», ha expresado.

El hacker malagueño ha trabajado a fondo en IA generativa para analizar posible malware. Hay miles de elementos que no se sabe si son maliciosos. Hacían falta medios humanos e ingeniería inversa. Y ahí aplicó la IA generativa. «Era un cuello de botella porque antes se hacía con humanos. Ahora somos capaces de analizar todo lo que nos llega a Virustotal. Siempre tenemos que tener en cuenta que es una carrera, que el contrincante puede tener las mismas técnicas», ha explicado.

«Sed amables con la IA. ¿Cuántos de aquí decís las cosas 'por favor'? Aunque parezca de broma es muy importante», ha concluido a modo de consejo entremezclado con broma.

El evento ha contado con los patrocinios y colaboraciones de Diputación Provincial de Málaga, CaixaBank DayOne, Eurecat/Innova IRV, EY GDS Spain, Betancourt, UMA y Málaga CF.