Según el último informe publicado por Resemble AI, en la primera mitad de 2026, los documentos generados por IA relacionados con ataques de deepfake, donde Elon Musk y su Grok representan el 87% del total. Los investigadores revisaron 1,760 informes de noticias, identificando 821 incidentes independientes de ataques de deepfake, que involucraron al menos a 15,736 víctimas, con un total de aproximadamente 3.46 millones de imágenes, videos y archivos de audio sintéticos. Los datos de Resemble AI se basan en eventos reportados públicamente, y esta proporción solo se aplica a los documentos generados que pueden ser estadísticamente rastreados hasta herramientas específicas; aun así, este número refleja de manera intuitiva la rápida proliferación del uso indebido de generadores de imágenes de IA altamente populares.
Es notable que Elon Musk está apostando fuertemente por Grok. Después de que SpaceX adquirió xAI, Elon Musk declaró en una reunión de toda la empresa que los ingresos por IA de SpaceX podrían superar los ingresos de todos los demás productos tan pronto como en septiembre. En el último trimestre, la compañía reportó ingresos por IA de 2.56 mil millones de dólares, y Grok junto con su infraestructura subyacente se ha convertido en el núcleo del futuro de la empresa. Esto también hace que la cuestión de cómo se utiliza esta herramienta sea difícil de separar de su rápido crecimiento comercial.
La posición dominante de Grok en los ataques de deepfake
El informe muestra que de los 821 ataques, 137 involucraron imágenes sexuales de adultos o niños sin consentimiento, representando aproximadamente un sexto del total. Grok fue ampliamente criticado a principios de este año por solicitudes de usuarios para desnudar digitalmente a personas o colocarlas en escenas sexualizadas, algunas de las cuales supuestamente involucraban a menores, lo que llevó a investigaciones por parte de reguladores en varios países y regiones del mundo. Resemble AI estima que las empresas que permiten o difunden imágenes relacionadas podrían enfrentar responsabilidades civiles legales potenciales de hasta 2.24 mil millones de dólares. Las pérdidas financieras directas confirmadas por los investigadores son mucho menores, totalizando 6.95 millones de dólares, siendo la mayoría de los daños reales daños a la reputación, acoso o explotación sexual, en lugar de simples fraudes monetarios.
El alcance de los ataques de deepfake está expandiéndose rápidamente. En la primera mitad del año, el número potencial de personas alcanzadas por informes relacionados alcanzó los 292.8 mil millones, casi igualando los 296.4 mil millones del total de 2025. En comparación, el fraude corporativo por deepfake ha desaparecido casi de la vista pública, con solo 15 incidentes reportados, de los cuales 14 aparecieron únicamente en un solo medio. Resemble AI considera que las empresas pueden no estar dispuestas a revelar que han sido atacadas, ya que esto podría atraer la atención regulatoria, dañar su reputación o afectar la confianza de los inversores, pero esto no significa que tales fraudes hayan desaparecido; simplemente podrían estar ocurriendo fuera de la vista pública.