T5 用一个统一的 text-to-text 框架吞下所有 NLP 任务,BART 用去噪自编码器把 BERT 的双向理解与 GPT 的生成能力拼在一起——Encoder-Decoder 路线的巅峰。
GPT-3 用 1750 亿参数证明了规模就是能力:不微调、不更新参数,仅凭几个示例就能击败当时最先进的微调模型,彻底改变了 NLP 的范式。
从源码出发,拆解 containerd 的 gRPC、TTRPC、UDS 三层通信架构,理解一个容器运行时如何管理进程生命周期。
OpenAI 的 GPT-1/2 证明了一个直觉:只要模型够大、数据够多,生成式预训练自己就能学会语法、常识和推理,无需人工标注。
深入内核源码,拆解 UDS 从 socket 创建到数据收发全过程,理解为什么本地 IPC 不走网络栈反而更快。