En la actualidad, con la creciente popularidad de los asistentes de programación basados en inteligencia artificial, una tarea de desarrollo que debería haber «liberado las manos» gracias a la IA casi le cuesta muy caro a una empresa. Recientemente, según informes de medios extranjeros, un ingeniero de la consultora de desarrollo de software Softjourn, al utilizar un agente de inteligencia artificial para recomendar un paquete de software que «sonaba muy confiable», recibió un nombre que era extremadamente similar en formato a una biblioteca común. Si no fuera por una regla estricta y poco llamativa de la empresa, este paquete de software malicioso podría haber infiltrado sus sistemas.
Se entiende que el ingeniero de Softjourn, en el transcurso de un negocio, solicitó al agente de inteligencia artificial que recomendara un paquete de software para tareas comunes. El agente de inteligencia artificial rápidamente proporcionó un nombre. En muchas organizaciones, los desarrolladores adoptan directamente las recomendaciones y descargan e instalan. Sin embargo, Softjourn tiene una regla que se aplica estrictamente: cualquier recomendación de software de inteligencia artificial debe ser verificada dos veces para asegurar su legitimidad. El ingeniero siguió este proceso, revisó parte del código fuente del paquete en GitHub y rápidamente encontró indicios sospechosos: el paquete tenía muy pocas descargas y el repositorio había sido creado hacía apenas unos días.
Los modelos de inteligencia artificial pueden aumentar el riesgo de ataques a la cadena de suministro
Esto no es un error ocasional de los modelos de inteligencia artificial, sino un nuevo tipo de ataque a la cadena de suministro denominado «slopsquatting» (es decir, «ocupación de nombres de paquetes ilusorios de IA»). A veces, los modelos de inteligencia artificial «ilusionan» nombres de paquetes que suenan razonables pero que en realidad no existen. Los atacantes ya han notado esta tendencia y han registrado anticipadamente estos nombres de paquetes inventados por la IA, subiendo código malicioso y esperando a que los desarrolladores caigan en la trampa. Sergiy Fitsak, director general de Softjourn, advirtió que los atacantes apuestan a que «los desarrolladores, bajo la presión de los plazos, instalarán primero y revisarán después».
Softjourn logró evitar este riesgo, pero Fitsak enfatizó: «Lo que nos permitió descubrirlo fue que hemos desarrollado el hábito de verificar las descargas y revisar el código fuente de GitHub, incluso si la recomendación de la inteligencia artificial era solo un paquete que parecía muy común».