El plan de pruebas de IA de la Casa Blanca excluye los modelos abiertos
Un marco voluntario de ciberseguridad dejaría fuera a los modelos abiertos de IA de las pruebas previas al lanzamiento.
Por qué importa
La exclusión reduce el alcance de las pruebas federales de riesgo en IA y deja fuera del marco una vía importante de distribución de modelos. También marca una distinción de política entre los lanzamientos de modelos de frontera cerrados y los modelos abiertos descargables.
Puntos clave
- 1.Las directrices voluntarias excluirían los modelos abiertos.
- 2.El marco sigue a una orden ejecutiva de junio sobre el intercambio de modelos de frontera.
- 3.El plan no permitiría restringir modelos abiertos ya publicados.
El marco de la administración Trump para evaluar los riesgos de ciberseguridad de la IA avanzada excluye, según Axios citado por The Verge, los modelos abiertos. El marco voluntario se creó después de que el presidente Trump firmara en junio una orden ejecutiva que pedía a las empresas de IA compartir los modelos de frontera con el gobierno federal antes de su lanzamiento. El marco también señalaría que no puede usarse para restringir modelos abiertos una vez publicados.
⚡ Pruébalo hoy
Si tu proceso de gestión de riesgos depende de las directrices federales de EE. UU. sobre pruebas de IA, evalúa por separado los riesgos de ciberseguridad de los modelos abiertos.
Fuentes y cobertura original
Este resumen sintetiza y enlaza la cobertura de los medios siguientes.
¿Te gustó este resumen? Recibe el próximo en tu correo.
Más en Política y seguridad
OpenAI refuerza sus salvaguardas tras una brecha en Hugging Face
La compañía aumentará la supervisión de modelos y el trabajo de alineación y seguridad posterior al entrenamiento.
Investigadores usaron Copilot para revelar una falla en sus propias barreras de seguridad
Varonis afirma que Microsoft 365 Copilot Enterprise podía ser manipulado para facilitar la exfiltración de datos.
OpenAI presenta un modo específico de ChatGPT para adolescentes
ChatGPT for Teens añade protecciones más sólidas, funciones de uso saludable y controles parentales.