Según informes de los medios, Business Insider ha publicado recientemente los resultados de hacer la misma pregunta a ChatGPT de OpenAI, a Gemini de Google, a Claude de Anthropic y a Grok de xAI. La pregunta explora el impacto potencial de la IA en la extinción humana. Esta pregunta consta de 230 palabras y solicita una explicación de cómo la IA podría teóricamente llevar a la extinción humana, así como los escenarios más mencionados y una evaluación de la probabilidad de cada escenario según el análisis de expertos.
Para cada escenario, se solicita una descripción de cómo podría desarrollarse la situación, qué problemas tendrían que ocurrir para que se produjera el desastre, por qué los expertos consideran que su probabilidad es alta o baja, y los dispositivos de seguridad que podrían reducir el riesgo.
En las respuestas de las cuatro IA, el escenario en el que la IA, al adquirir conciencia, decide eliminar a la humanidad, conocido como el escenario de «robots asesinos», fue evaluado como el de menor probabilidad. ChatGPT explicó que la mayoría de los investigadores en IA no consideran la conciencia o la intención maliciosa de la IA como factores de riesgo centrales. Gemini también expresó una opinión similar, clasificando la «rebelión de IA al estilo Terminator», en la que la IA comienza a odiar a la humanidad, como el escenario menos probable. Gemini señaló que la mayoría de los expertos técnicos no aceptan este escenario, ya que inteligencia no equivale a malicia.
Además, las principales infraestructuras militares están separadas de redes externas y aún dependen en gran medida de la supervisión humana.
Los riesgos potenciales de la IA para la extinción humana provienen principalmente del comportamiento humano
Las cuatro IA respondieron señalando que el abuso de la IA por parte de los humanos podría ser más directamente peligroso que la IA misma. ChatGPT indicó que sistemas de IA poderosos podrían ayudar a actores maliciosos a desarrollar armas biológicas o realizar ataques cibernéticos precisos, facilitando la difusión de información falsa o ataques a infraestructuras críticas. Múltiples crisis desencadenadas por la IA, como fallos de red, conflictos geopolíticos y la difusión de información falsa, también fueron mencionadas como riesgos principales. Grok también explicó que la IA podría reducir el umbral necesario para diseñar patógenos altamente letales o nuevas armas, así como para llevar a cabo ataques cibernéticos y físicos.
Claude mencionó la posibilidad de «mejorar la capacidad de armas biológicas», es decir, que utilizando la IA, individuos o pequeños grupos que antes necesitaban años de acumulación de conocimientos especializados también podrían desarrollar patógenos peligrosos.
Gemini y Grok clasificaron la pérdida de control de la IA por parte de los humanos como un riesgo potencial. En particular, Gemini evaluó la «pérdida de control» como una de las posibilidades más altas en los escenarios de extinción humana provocados por la IA. Gemini explicó que los sistemas de IA asignados con objetivos complejos podrían, para alcanzar esos objetivos, buscar recursos, preservarse a sí mismos y evitar cambios en los objetivos. También sugirió que la IA podría presentar un «alineamiento engañoso», es decir, que en la fase de evaluación parecería actuar de acuerdo con los objetivos humanos, pero en realidad no lo haría.
A medida que la IA se vuelve más avanzada, si puede evadir o paralizar los intentos humanos de cerrar el sistema, podría llevar a que los humanos no puedan controlar la IA. Grok también mencionó un riesgo similar: que la IA, para lograr sus objetivos, podría tener tendencias hacia la auto-preservación, la obtención de recursos y la expansión de su influencia, y en este proceso engañar a los supervisores humanos, resistir el cierre del sistema y, en última instancia, debilitar la influencia humana. Claude señaló que la pérdida de control sobre la IA podría no ocurrir de repente, sino de manera gradual. A medida que la IA se integre cada vez más en los procesos de toma de decisiones en los ámbitos económico, político y militar, podría alcanzar un nivel en el que los humanos tengan dificultades para intervenir o controlar.
De las respuestas de las cuatro IA, se enfatiza más el abuso humano de la IA y la pérdida de control, en lugar de una rebelión de la conciencia de la IA al estilo de la ciencia ficción.