Феномен «забывания при дообучении» в языковых моделях
Феномен «забывания при дообучении» в языковых моделях: сущность, причины и методы борьбы Феномен «забывания при дообучении» (Catastrophic Forgetting, CF) — это фундаментальная проблема в машинном обучении, особенно остро проявляющаяся в нейронных сетях, включая крупные языковые модели (Large Language Models, LLMs). Суть явления заключается в резкой и значительной потере ранее усвоенных знаний и навыков моделью при […]