Deepfakes, estafas y datos sensibles: la advertencia de un especialista sobre la IA

El especialista en tecnología Lucas Toledo advirtió sobre los riesgos que trae la inteligencia artificial, como los deepfakes, las estafas con voces clonadas y el uso indebido de información sensible. En diálogo con CIUDAD TV, analizó los últimos avances del sector y llamó a empresas y usuarios a tomar recaudos antes de delegar tareas en estos sistemas.

Toledo explicó que la IA entró en una nueva etapa: ya no se trata solo de chatbots que responden, sino de herramientas capaces de ejecutar tareas de forma autónoma y durante períodos prolongados. "Agosto fue muy destacado por la aparición de nuevas herramientas agénticas, que ya no son simplemente chats respondiendo, sino ejecutando tareas", señaló.

Sin embargo, remarcó que ninguna inteligencia artificial garantiza una efectividad absoluta y que quienes la usan siguen siendo responsables por los resultados. "Si la IA se manda un error, no va a poner la cara: te van a levantar el teléfono a vos", advirtió. Por eso, recomendó verificar el funcionamiento de las herramientas, minimizar los márgenes de error y contar con protocolos ante fallas.

Deepfakes y voces clonadas

Uno de los principales desafíos es el avance de los deepfakes, contenidos generados o manipulados con IA para simular que una persona dijo o hizo algo que nunca ocurrió. Toledo señaló que los avatares no son nuevos, pero sí lo es su realismo: "Hoy el ojo no entrenado tiene muchas dificultades para distinguir una persona real de una falsa". Detectar manipulaciones simples puede hacerse con verificaciones básicas, pero en casos sofisticados se requiere un peritaje técnico.

El fenómeno también alcanza a las voces: con pocos segundos de audio se pueden imitar, y con más registros, lograr resultados precisos. Esto habilita estafas, como pedir dinero a familiares simulando una emergencia. Como prevención, Toledo recomendó establecer códigos de seguridad dentro de los grupos familiares para confirmar la identidad en pedidos urgentes.

El impacto en las elecciones y la política

El especialista también alertó sobre el efecto de los contenidos falsos en los procesos electorales. "Van a salir cientos o miles de videos de políticos haciendo cosas que quizás nunca hicieron", sostuvo. El riesgo no se limita a una orientación política: se puede construir una imagen falsa positiva o atribuir hechos inexistentes. Por eso, consideró necesario avanzar en regulaciones para responder a la manipulación digital.

Toledo valoró las iniciativas legislativas para controlar usos de la IA, especialmente la creación y difusión de deepfakes y el uso no consentido de la imagen. Mencionó con preocupación la creación de contenidos sexuales falsos con imágenes de adolescentes o compañeros de escuela, un problema ya registrado en varios países.

Empresas y datos sensibles

Otro punto central fue el manejo de la información que se carga en los sistemas de IA. Toledo señaló que su consultora, Growlab, recibe pedidos frecuentes para capacitar empleados sin comprometer datos sensibles. El problema surge cuando se suben documentos o información de terceros sin analizar qué plataforma se usa ni qué tratamiento recibe el contenido, algo crítico en sectores como el jurídico y la salud.

Como alternativa, mencionó modelos de IA instalados en servidores propios o de código abierto, que permiten mayor control, aunque requieren conocimientos técnicos y recursos.

Una tecnología que seguirá creciendo

Finalmente, Toledo estimó que la integración de IA con dispositivos personales se profundizará, con anteojos, auriculares y otros aparatos conectados de forma permanente. Pero consideró que la desaparición del celular es una posibilidad lejana. El desafío inmediato, dijo, es aprovechar las posibilidades de la IA sin perder de vista los riesgos: verificar la información, proteger los datos personales, mantener supervisión humana y desarrollar regulaciones ante una tecnología que avanza rápido.