Frente a estos riesgos, la labor del periodista y del comunicador se vuelve aún más estratégica: deben aprender a detectar contenidos falsos, verificar fuentes, contextualizar las noticias y mantener siempre la responsabilidad social por delante. La tecnología, en ese sentido, es una aliada que requiere de un manejo consciente y crítico, como lo explica Julián Montoya, ingeniero en sistemas y experto en seguridad digital e inteligencia artificial.
Durante las elecciones regionales de 2023 en Colombia, se vivió un caso concreto de este desafío. Circularon en redes sociales deepfakes de candidatos diciendo frases falsas, acompañados de audios manipulados generados por IA. Aunque medios como Colombiacheck intentaron desmentirlos, la velocidad de propagación superó muchas veces la capacidad de reacción, afectando la percepción del electorado.
La manipulación electoral mediante inteligencia artificial no es un fenómeno exclusivo de Colombia. En Estados Unidos, ya en 2016, empresas como Cambridge Analytica utilizaron algoritmos y bots para segmentar propaganda política basada en datos personales de Facebook, creando mensajes emocionales y polarizantes. Para 2024, el uso de IA ha escalado: se han reportado deepfakes del presidente Joe Biden y audios falsos que imitan su voz, utilizados en llamadas automatizadas en estados como New Hampshire, con el objetivo de confundir a los votantes y desincentivar su participación.