Mini BERT预训练模型评估报告
==================================================

评估时间: 2025-09-13T13:25:10.329695
模型路径: /root/autodl-tmp/mini-bert-output
分词器路径: /root/autodl-tmp/pretraining_data/tokenizer
运行设备: cuda

掩码语言建模(MLM)结果:
  准确率: 0.0002 (0.02%)
  困惑度: 373564538880.00
  平均损失: 26.6464
  总token数: 19291
  正确预测数: 3

下一句预测(NSP)结果:
  准确率: 0.5090 (50.90%)
  总样本数: 1000
  正确预测数: 509

性能指标:
  平均批次时间: 0.0037s
  平均tokens/秒: 288132.17
  批次/秒: 273.55

内存使用:
  CPU使用率: 8.0%
  CPU已用: 74.28GB
  GPU已分配: 0.14GB
  GPU最大分配: 0.37GB

训练日志摘要:
  总训练步数: 100
  最终训练损失: 0.4853
  最终验证损失: 0.5407
  最终学习率: 2.76e-05
  最终梯度范数: 0.1083