Con el continuo aumento de las capacidades de la IA generativa, las preocupaciones sobre el «desastre de armas biológicas provocado por la IA» han aumentado notablemente en tiempos recientes. Anteriormente, varios líderes de empresas de IA han instado a reforzar la regulación de la fabricación de ADN sintético, y los investigadores de la Universidad de Stanford y el Instituto Arc también han demostrado que la IA puede diseñar nuevos genomas virales, lo que ha ampliado aún más la discusión sobre «la IA fabricando patógenos mortales».
No obstante, varios científicos creen que la amenaza real de la IA en el ámbito de las armas biológicas sigue siendo bastante limitada en la actualidad. Los investigadores señalan que la IA es más bien una herramienta que acelera la búsqueda y organización de información, y no ha cambiado fundamentalmente los puntos críticos en el desarrollo de armas biológicas. La verdadera barrera sigue estando en la fase experimental, que incluye la obtención de fragmentos genéticos, la ensambladura de un genoma completo desde cero, la verificación de si puede infectar a humanos y propagarse entre la población, así como los materiales, equipos y conocimientos especializados necesarios.
La amenaza de la IA en el desarrollo de armas biológicas sigue siendo limitada
Desde la perspectiva de la ejecución en laboratorio, en esta etapa la IA también tiene dificultades para completar de manera independiente los procesos relacionados. El responsable de la empresa de biotecnología Ginkgo Bioworks ha señalado que, incluso si la IA puede participar en los procesos experimentales, aún necesita que los humanos proporcionen equipos, reactivos y apoyo operativo, y la revisión del personal en sí misma es una limitación importante. Algunos expertos también creen que, incluso si en el futuro aparece una IA general más potente, los investigadores humanos aún pueden hacer frente a esto a través del desarrollo de vacunas y sistemas de control y prevención.
También hay opiniones que advierten que, a corto plazo, lo que merece más atención no es la IA lanzando ataques biológicos de manera independiente, sino su uso por parte de elementos delictivos. Los expertos en la materia creen que, aunque los laboratorios completamente autónomos aún no se han generalizado, la IA podría reducir algunas barreras en la integración de información, descomposición de tareas y asistencia en la ejecución, por lo que no se puede ignorar la posibilidad de que se utilice en actividades de bioterrorismo. Otros investigadores señalan que las armas biológicas en sí no son un método de ataque eficiente, ya que su dificultad radica en la fabricación precisa, a gran escala y el control de la propagación, y la complejidad de la operación a menudo supera a la de los métodos de ataque tradicionales.