Anthropic anunció oficialmente el lanzamiento de Enterprise Frontier Safeguards (EFS), una solución que combina la privacidad de cero retención de datos (ZDR) con avanzadas garantías de detección de abusos. EFS funciona almacenando datos en una infraestructura en la nube controlada por el cliente, en lugar de ser controlada por Anthropic. EFS se lanzará a los clientes en fases, con planes de comenzar más adelante este otoño. Para asegurar una transición fluida, los clientes elegibles recibirán soporte ZDR para Fable 5 y Fable 5.1 antes de que EFS esté listo.
EFS diseñado teniendo en cuenta las necesidades del cliente
Anthropic indicó que EFS fue desarrollado en estrecha colaboración con más de 100 clientes de sectores como servicios financieros, atención médica, manufactura, telecomunicaciones, legal, retail y el sector público, y fue diseñado en conjunto con socios en la nube como Amazon Web Services, Google Cloud y Microsoft Azure.
Abordando los desafíos de la seguridad de vanguardia
Según el comunicado oficial, a medida que los modelos de clase Mythos (como Claude Fable 5.1) mejoran significativamente en inteligencia y autonomía, también surgen riesgos potenciales de abuso y comportamientos inapropiados. Anthropic mencionó que en los últimos meses se han observado evidencias sustanciales de abuso de modelos de IA, incluyendo fraudes y ataques cibernéticos complejos, que podrían implicar el robo o uso indebido de credenciales de clientes empresariales, comportamientos que son difíciles de detectar sin monitoreo de tráfico y detección de comportamientos anómalos.
«La detección efectiva requiere almacenar datos durante un tiempo significativo para poder correlacionar a través del tiempo y las cuentas.»
Anthropic
Por lo tanto, Anthropic introdujo una política de retención de datos de 30 días en Fable 5, no por el deseo de entrenar con datos empresariales, ya que Anthropic nunca ha utilizado datos empresariales para entrenamiento sin permiso explícito, y no lo hará en el futuro.
Control de almacenamiento y gestión de datos por parte del cliente
En EFS, los clientes pueden controlar el almacenamiento y la gestión de sus datos. Los clientes desean poder almacenar datos en la infraestructura que controlan, utilizando sus propias claves de cifrado, políticas de acceso y registros de auditoría. Los datos de actividad utilizados para el monitoreo pueden almacenarse en la cuenta en la nube del cliente, como Amazon S3, Azure Blob Storage o Google Cloud Storage.
«El monitoreo de seguridad automático de EFS no requiere revisión manual por parte de Anthropic.»
Anthropic
Los clientes desean protección contra ataques cibernéticos y reconocen que estos ataques pueden ser muy difíciles de detectar si se llevan a cabo a través de múltiples sesiones y cuentas. El sistema automático de EFS analiza ventanas de tráfico en movimiento para detectar señales de abuso grave, incluyendo intentos de desarrollar capacidades de ataque cibernético o biológicas, así como signos de credenciales robadas o filtradas. Estas alertas se enviarán directamente a los clientes, quienes las gestionarán con su equipo sin necesidad de revisión manual por parte del personal de Anthropic.
Plan de lanzamiento de EFS
Enterprise Frontier Safeguards se lanzará a los clientes en fases, con el objetivo de estar ampliamente disponible este otoño. Si los clientes desean solicitar acceso a EFS, deben completar el formulario correspondiente. Anthropic enfatiza que el uso de EFS no cambiará el comportamiento del modelo, los precios de la API o los límites de tasa, y no se cobrará a los clientes tarifas adicionales.
Fuente: Comunicado oficial de Anthropic