Gemini 多模态入门:文本以外的信息如何进入模型
用输入表示、跨模态交互与任务评估三个问题阅读 Gemini 的公开报告。
从基础计算到厂商研究,让每一篇笔记都能接回原始资料。
用输入表示、跨模态交互与任务评估三个问题阅读 Gemini 的公开报告。
从 GPT-4 技术报告建立阅读方法:分开记录公开方法、测评结果和未披露的实现。
理解特征、归因图与干预:为什么模型说出的思考过程不等于完整的内部机制。
沿着 token → 向量 → 注意力 → 概率分布,理解语言模型的一次前向计算。
把预训练、指令微调与实际模型配置串起来,形成可重复使用的阅读方法。
把计算量与缓存开销分开看,理解稀疏专家和潜在注意力的两条优化路线。
这个主题下还没有文章,试试其他标签。