CCF@U1494 讲座
很有幸能够参加 CCF 举办的校园讲座，聆听了三位专家针对计算机前沿领域的相关报告和竞赛信息推介。在这里简要记录一下我听了报告之后的一些收获和思考。
王啸（北京航空航天大学）：大语言模型赋能的图表征学习
由于还没有足够的先修知识和科研经历，我无法快速复现报告中的论文和实验，因此我转向对大体方法的分析：遇到某类问题，我们能够用怎样的思路去应对？这应该是我在本科之后的学习过程中更有意义的内容。
- 面对复杂问题，除了对问题建模，还可以 对问题中涉及到的数据结构抽象建模。在听这次讲座之前，我从来没听说过“图表征学习”是什么。简而言之，图是实体和关系的表征。Huggingface 博客指出“本质上来讲，图描述了由关系互相链接起来的实体”。相较于文字、图片、视频等自然呈现的数据类型，“图”更倾向于从逻辑层面呈现。它的一个特征是“低歧义”，例如如果我们用“边”描述两个实体，就会比直接用文字阐述实体关系更加精确。
- 根据 互补 的关系，大胆做出 A+B。LLM“赋能”图表征学习的前提是 LLM 的 few-shot 和泛化能力强，恰好补齐了传统图神经网络对语义理解不足的短板。鉴于 LLM 的这种能力，将其应用到其他领域完全是可以实现的，关键在于如何想到、如何在正确的时候把好东西嵌入进来。
- 互信息可以表征语料的贡献程度。当 Graph Token 通过 Projector 进入到 Text Token 空间的时候，研究 用互信息构造 Loss 并且进行监督训练，显著提高了 LLM 的“读图”能力，说明我们有能够实现“判定条件是否用上”的机制。由于笔者目前正在写计算思维导论中关于 LLM + 机器翻译的文献研究报告，那么是否可以用类似的方法计算源句词素和生成句子词素的互信息？LLM + 隐私泄露的项目中，是否可以计算 LLM 生成内容和隐私内容的互信息？但是怎么得到的互信息呢？ 估计还需要阅读论文才能知道了，
- 减少计算开销的核心是 化大为小，在化大为小的同时保留大的功能的一种方法是 蒸馏，另外一种方法是建立 专门模型。研究在干净大图上施加攻击生成 Instruction Dataset，蒸馏 GPT-4 对异常边与重要边的推理能力至本地 LM，就完成了化大为小。同时还能够用 LM 的数据训练轻量预测器（更小的模型）识别被攻击删除的重要边，不仅减少了计算开销，而且还提高了鲁棒性。
李贝（阿里云）：不仅仅是写代码——在 AI 辅助编程中重塑你的计算思维
Vibe Coding 现在已经是老生常谈的问题了。李老师的报告中其实没有涉及到很多内容，但是有几个点我听了受益匪浅：
- 计算思维是驾驭 AI 工具的门槛。AI 降低操作下限但未消除认知门槛，能想到才能做到，系统结构与算法知识仍是核心竞争力。具体而言，就是“要指导 AI 往什么方向走”，因为 AI 做不到我们没有指示的任务。
- 认知上限决定 AI 产出价值。让 AI 挣 500 万或炒股盈利等超出自身认知，“人赚不到认知之外的钱”，也没法让 AI 做自己认知之外的东西。
还有个比较有意思的 idea，我让千问做了总结：
在 AI 时代，算力与 AI 模型已成为新的核心生产资料。资本家剥削剩余价值的对象正从单纯的“人力”转向“机器”以及“能驾驭机器的人”。Vibe Coding 让软件工程的成本重心已从“人力成本”变成“AI 算力成本”，剩余价值的创造主体向机器迁移。学生感到就业难是因为作为单一劳动力的剩余价值降低，但作为“人机协同体”的价值反而上升。学生拥有三大不可替代优势：年轻（精力旺盛、可塑性强）、便宜（相比资深工程师和昂贵算力具有成本优势）、专业基础（具备底层知识体系）。学生的核心竞争力不再是写代码的速度，而是基于扎实专业知识的“认知上限”。只有理解底层原理，才能成为 AI 的“审核者”与“指挥官”，在松散组织（如学校、CCF）中主动寻找 Motivation，证明自己是“又便宜又有价值”的生产力要素。