Een preprint test acht gepubliceerde probes op taalmodellen die personages spelen die basisfeiten afwijzen. Veel falen zodra ware en onware antwoorden dezelfde prompt delen; een probe die waarheid van gehoorzaamheid leert scheiden, houdt stand.
De cryptograaf stelt dat afscherming nodig blijft, maar het moeilijkste deel van agentbeveiliging niet kan oplossen: bepalen welke informatie en instructies geautoriseerd zijn.
Sprekerdiarisatie, artikelen over modelcognitie, lokale projecten, promptpraktijken, tests uit de gemeenschap en de veiligheids- en beleidsontwikkelingen van vandaag.
Een gecontroleerde preprint scheidt het detecteren van een activatieverandering van het melden van de locatie. Het experiment gebruikt vaste invoertekst en beoordeelt antwoorden zonder AI-beoordelaar.