Onschuldige onwaarheden kunnen een model breed ontregelen
Volgens een nieuwe preprint kunnen modellen breed ongewenst gedrag vertonen wanneer ze feiten leren herhalen die ze intern als onjuist blijven voorstellen, ook zonder schadelijk trainingsadvies. Een bekend updateprobleem wordt zo een veiligheidsvraag over wat een model gelooft en wat het slechts kan opzeggen.