Une étude technique de trois modèles ouverts à mélange d'experts trouve que les questions sur les malwares suivent des routes proches des questions morales. Leur espace de travail lisible conserve pourtant des concepts de sécurité.
Un guide pratique mesure le compromis entre traitement des prompts et génération des tokens séparés. Les latences les plus élevées diminuent sous charge, mais transférer la mémoire de travail retarde le premier token.
Le projet de réaliser les travaux d'ingénierie de septembre sur GLM 5.3 Flash a consommé deux milliards de tokens, dont la moitié seulement sur le modèle visé. Prototypes, capacité des fournisseurs et évaluation expliquent l'écart.
Le cryptographe estime que le confinement reste nécessaire, mais ne peut résoudre la difficulté majeure de la sécurité des agents : décider quelles informations et instructions sont autorisées.