✨︎ Resumen (TL;DR):
- Yao Shunyu, científico jefe de IA de Tencent, advirtió que los modelos podrían alcanzar pronto capacidades biológicas y de ciberseguridad capaces de causar daño.
- Hy4 obtuvo 30.4 sobre 100 en la prueba interna Hy-BioExperimentBench, una puntuación que Tencent situó muy por debajo de su umbral de alto riesgo.
- La decisión de publicar pesos abiertos seguirá dependiendo de evaluaciones de seguridad que no pueden anticipar por completo el comportamiento de los modelos en condiciones reales.
Yao Shunyu, científico jefe de IA de Tencent, advirtió en Hong Kong que las capacidades de los modelos en ciberseguridad y, pronto, en biología podrían llegar a un umbral en el que sería posible causar daño. Pronunció la advertencia el 7 de noviembre, en un simposio de Future Science Prize, días después de la presentación de Hy4. El punto para los desarrolladores es cómo compartir modelos útiles para investigación sin facilitar usos peligrosos. La advertencia no afirma que Hy4 ya haya cruzado ese umbral.
El aviso habla del futuro, no de un daño demostrado
Durante el encuentro, Yao dijo que las capacidades de los modelos en ciberseguridad y, pronto, en biología llegarán a un umbral en el que será “posible causar daño”, según el South China Morning Post. También pidió a las compañías que liberan sus modelos tomar en serio los riesgos de seguridad.
El alcance del comentario es específico: habla de capacidades futuras y del posible uso de la tecnología por personas. No equivale a decir que Hy4 ya alcanzó ese nivel ni que un modelo pueda producir daño biológico por sí solo.
Hy4 obtuvo 30.4 sobre 100 en una prueba interna
El 4 de noviembre, Tencent presentó la versión general de Hy4 y explicó cómo había evaluado sus capacidades biológicas. Hy-BioExperimentBench es una prueba de diseño experimental creada por la compañía para esa evaluación. Allí, el modelo obtuvo 30.4 sobre 100.
Tencent afirmó que la puntuación estaba muy por debajo de su umbral de alto riesgo. La empresa no indicó el valor numérico de ese umbral en la presentación técnica consultada.
La cifra corresponde a una prueba diseñada por Tencent. No representa una probabilidad de daño ni demuestra por sí sola que Hy4 sea seguro en cualquier situación. Especialistas internos de la compañía concluyeron que el modelo tiene conocimientos básicos sólidos de biología, pero le cuesta más convertirlos en planes experimentales.
En ese anuncio, Tencent dijo que planeaba publicar los pesos de la versión general junto con una ficha con el detalle de sus evaluaciones de seguridad. El acceso a Hy4 mediante servicios alojados y la publicación de esos pesos son pasos distintos.
El dilema de abrir Hunyuan
Durante el mismo encuentro, un asistente preguntó si Tencent mantendría abierto Hunyuan, su familia de modelos, en caso de alcanzar el primer lugar mundial. Yao no respondió directamente con un sí o un no, informó el medio chino Yicai.
Yao explicó que abrir un modelo puede atraer desarrolladores y contribuir al avance de la comunidad. También dijo que la seguridad pesa cada vez más en esa decisión, que separar las capacidades defensivas de las ofensivas puede ser difícil y que las empresas deben evaluar sus sistemas antes de liberarlos.
The Next Web, al retomar la cobertura del South China Morning Post, informó que Yao consideró sólidos los argumentos de Anthropic y otras empresas estadounidenses para mantener cerrados los modelos más avanzados. A la vez, sostuvo que los modelos abiertos también pueden ayudar a quienes trabajan en defensa y que combinar ambos enfoques podría ser conveniente.
Un modelo de pesos abiertos es un sistema cuyos parámetros pueden descargar otras personas para ejecutarlo o adaptarlo, siempre que tengan los recursos y permisos necesarios. Esa posibilidad amplía las opciones de investigación y auditoría. En un servicio alojado, el proveedor conserva el control de la infraestructura desde la que ofrece las respuestas.
El International AI Safety Report 2026 señala que los modelos abiertos son más fáciles de modificar para retirar protecciones. Una vez que sus pesos se difunden, no es posible recuperar todas las copias. El informe también advierte que esta diferencia no elimina la necesidad de evaluar la seguridad de los sistemas cerrados.
Por qué una prueba previa no cierra el debate
La preocupación no se limita a Tencent. El mismo informe, publicado en febrero de 2026, reunió resultados mixtos de estudios que compararon la ayuda de estos sistemas con el acceso convencional a internet. Un estudio encontró asistencia relevante en tareas sustitutas; otros detectaron efectos pequeños o no concluyentes.
Sus autores advirtieron que varias investigaciones trabajaron con muestras pequeñas y que sus resultados pueden quedar desactualizados conforme mejoran los modelos. También señalaron que el desempeño en una evaluación previa al lanzamiento no predice de manera fiable, por sí solo, el comportamiento o el riesgo en condiciones reales.
Por eso, el 30.4 sobre 100 de Hy4 tiene un alcance concreto: describe lo que Tencent observó en su propia prueba. No es una probabilidad de daño ni demuestra por sí solo que el modelo sea seguro en cualquier situación. La decisión de abrir futuros modelos dependerá también de cómo se evalúen sus capacidades y sus posibles usos antes de liberarlos.
