LLM·§四 · 预训练·24 题

预训练范式与数据

Causal LM、MLM、Denoising、Scaling Law、数据配比、去重——预训练工程面试必考。

#预训练#GPT#Scaling Law#Pretrain 面试
§4.1

预训练任务

7 题
§4.2

预训练数据

6 题
§4.3

训练范式

5 题
§4.4

代表模型

6 题
相关主题
llm
Transformer 架构面试全攻略
rag
RAG 检索增强生成面试指南
llm
Attention 机制深度解析
llm
RLHF / DPO / GRPO 对齐面试
llm
SFT 与 PEFT 微调面试
llm
推理加速与部署面试

本主题 24 道题，第 1 章免费阅读

进入完整基础索引 →面试准备指南