Hraničné modely strácajú prehľad o meniacom sa stave
StateBench testuje, či modely dokážu udržať meniaci sa stav sveta počas desiatok tisíc aktualizácií. Hraničné systémy zlyhali pri vzájomne závislých zmenách, zatiaľ čo malé rekurentné a hybridné modely sa priamo naučili tri jednoduchšie úrovne.