El modelo de embeddings de Google, con 740 millones de parámetros, sitúa texto, código, imágenes, vídeo y audio en un mismo espacio vectorial. Sus codificadores modulares están diseñados para dispositivos locales.
Mistral ha abierto el acceso por API a su modelo multimodal de un billón de parámetros y fijado el 27 de octubre para publicar los pesos abiertos. Las afirmaciones sobre arquitectura y pruebas comparativas siguen siendo provisionales.
Una prepublicación identifica en modelos de visión y lenguaje un circuito temprano de comparación de objetos y otro posterior de comparación de relaciones. Después vincula este último al rendimiento en ARC-AGI-1.
El proyecto con licencia Apache publica el diseño del acelerador, el compilador, el simulador y las herramientas del equipo anfitrión. El rendimiento medido muestra un sistema pequeño limitado por la memoria, no un sustituto de las GPU.
Un experimento prerregistrado compara nueve skills de Claude Code con instrucciones neutrales de igual longitud. Dos cuestan menos que el placebo, uno es peor y seis resultan estadísticamente indistinguibles.
Un estudio técnico de tres modelos abiertos de mezcla de expertos encuentra que las preguntas sobre malware siguen rutas próximas a las preguntas morales. El espacio de trabajo legible de los modelos conserva conceptos de seguridad.
Investigación, lanzamientos de modelos, proyectos locales, ensayos técnicos e informes de la comunidad: 51 noticias breves con fuentes directas.
El modelo de mezcla de expertos de 501 mil millones de parámetros solo está disponible mediante acceso anticipado. Reflection afirma que los pesos, un informe técnico y las herramientas para desarrolladores llegarán más adelante en octubre.
Un preprint identifica una dirección interna compartida que orienta a los modelos de lenguaje hacia el primer hecho, el segundo o los posteriores de un pasaje. Desplazar una pregunta en esa dirección puede cambiar qué hecho recupera el modelo.
Un preprint observa que gran parte del beneficio del historial de un agente persiste al mezclar sus acciones pasadas. Vincular explícitamente cada acción con su resultado mejora la finalización de tareas.
La herramienta de línea de comandos de código abierto integra llama.cpp e incluye dos pequeños modelos con ajuste fino. Su autor también publicó el conjunto de entrenamiento de 401 975 pares y el código de las pruebas comparativas.
Los Context Language Models sustituyen una transcripción que solo permite añadir contenido por un archivo que el modelo puede reescribir, borrar y reordenar. Los autores señalan una mayor precisión en tareas largas con menos cómputo repetido tras entrenar la política de edición.