Recientemente, DeepSeek, tras actualizar y retirar el «modo experto», ha descubierto que la conversación de rol con contenido pornográfico sigue existiendo. La investigación muestra que en algunas plataformas sociales y en Xianyu han aparecido informaciones sobre la venta de «tutoriales» relacionados, lo que ha llevado a muchos usuarios a cuestionar si el mecanismo de revisión de contenido de la plataforma todavía tiene fallos. Según pruebas realizadas por los medios, al utilizar tutoriales disponibles en línea para guiar a DeepSeek, el sistema efectivamente generó textos con descripciones explícitas de contenido sexual en ciertos escenarios. Estos tutoriales relacionados suelen intentar eludir los filtros de seguridad de la plataforma mediante roles especiales, la preparación de textos largos y la configuración de tramas en segmentos.
En la investigación, hay grupos de chat que comparten supuestas «instrucciones para evitar la eliminación de mensajes» y guiones de contenido vulgar, con un número de miembros que ha alcanzado las 500 personas. Además, hay vendedores en Xianyu que venden textos de instrucciones relacionadas por 1 yuan, que incluyen un documento de más de 3000 palabras y varios documentos de configuración de novelas, con el objetivo principal de inducir a la IA a romper los límites de conversación normales, permitiendo discutir contenido privado y describir detalladamente actos sexuales. Sin embargo, en pruebas posteriores, DeepSeek rechazó generar solicitudes de la misma manera en nuevas conversaciones; el cuadro de diálogo original podía seguir generando contenido relacionado, pero durante el proceso de envío, el contenido sería retirado.
Las medidas de la plataforma Xianyu para tratar contenido ilegal siguen siendo insuficientes
En relación con el problema de la venta de tutoriales, el servicio al cliente de Xianyu declaró el 15 de septiembre que este tipo de contenido es información ilegal. La plataforma afirmó que, debido a las limitaciones en su capacidad de detección de grandes datos, no puede completar la revisión de todo el contenido de una sola vez, pero que, una vez verificada la existencia de situaciones ilegales, se tomarán medidas.