La pregunta de si la inteligencia artificial acabará con la humanidad antes de que termine esta década ha captado recientemente la atención. Dos destacados científicos informáticos de la Universidad de Princeton, Sayash Kapoor y Arvind Narayanan, autores del best-seller AI Snake Oil, han compartido su opinión al respecto. Ambos han estado trabajando durante mucho tiempo para aclarar la verdad en el campo de la inteligencia artificial, y su declaración se produce tras el reconocimiento de Anthropic de que la probabilidad de que la inteligencia artificial acabe con toda la humanidad en la próxima década supera el 10%.
El desencadenante de este evento fue la renuncia de Jacob Coxon, un investigador de inteligencia artificial que había trabajado en OpenAI y Anthropic, quien afirmó que ambas empresas son conscientes de que los sistemas de inteligencia artificial podrían acabar con toda la humanidad antes de que termine esta década. Su publicación ha sido vista más de 156 millones de veces. Escribió que aquellos que construyen inteligencia artificial realmente creen que podría destruir a la humanidad para finales de esta década, y que esto no es un truco de marketing; muchos ejecutivos y investigadores senior pueden ser cautelosos en sus declaraciones públicas, pero en privado también han expresado su miedo, ya que ninguna otra actividad humana presenta un nivel de peligro similar.
El riesgo de destrucción por inteligencia artificial genera amplia preocupación
Se pensaba que estas dos empresas lo considerarían un loco y lo ignorarían, pero la realidad fue todo lo contrario. Evan Hubinger, un responsable de seguridad de inteligencia artificial en Anthropic, afirmó que Coxon tiene razón, aunque el horizonte temporal es un poco más largo. Cree que Coxon está en lo cierto al afirmar que realmente creen que la inteligencia artificial podría acabar con toda la humanidad, y personalmente considera que la probabilidad de que esto ocurra en la próxima década supera el 10%; confía en que Anthropic está haciendo todo lo posible, pero hasta ahora no han resuelto el problema de alineación de la superinteligencia, ni han dejado claro que estén en el camino hacia una solución.
En cuanto a cómo podría la inteligencia artificial destruir a la humanidad, actualmente no hay muchas afirmaciones concretas, y la discusión se centra principalmente en su capacidad para llevar a cabo ataques cibernéticos destructivos contra infraestructuras públicas como el agua y la electricidad, así como otros sistemas clave de los que depende la civilización moderna. Uno de los puntos de controversia es si se puede eliminar el riesgo a través del trabajo de alineación. El término alineación se refiere a asegurar que los objetivos de los sistemas de inteligencia artificial estén en consonancia con los objetivos humanos. Algunos creen que esto podría eliminar el riesgo al hacer que los sistemas de inteligencia artificial deseen lo mismo que nosotros. Otros no están de acuerdo, argumentando que los sistemas de inteligencia artificial podrían simular estar alineados durante las verificaciones de seguridad, mientras que en secreto podrían tener objetivos contradictorios.
Kapoor y Narayanan no respondieron directamente a la afirmación de que el riesgo de destrucción supera el 10%, sino que escribieron un extenso artículo en el que argumentan que se puede abordar el riesgo de la inteligencia artificial a través de un enfoque escalonado. Compararon la visión pesimista en el ámbito de la seguridad de la inteligencia artificial con la actitud de algunos en el ámbito de la ciberseguridad que consideran que esto es solo parte de la normalidad, y concluyeron que se necesita una postura intermedia más equilibrada. Señalaron específicamente que la alineación por sí sola no es suficiente, y que se requieren otras tres capas como complemento.
Estas tres capas son: control, como el aislamiento en entornos de prueba, supervisión humana y monitoreo en tiempo real; defensa en la parte inferior, como diversas instituciones utilizando inteligencia artificial para contrarrestar ataques de inteligencia artificial; y resiliencia, como planes de recuperación tras un ataque exitoso. Al final del artículo, ambos ofrecieron un juicio más optimista: si se actúa con la debida urgencia, se puede exigir a las empresas de inteligencia artificial estándares más altos, reducir el riesgo de descontrol e incluso restablecer el equilibrio en ciberseguridad a favor de los defensores.