按量化笔试面试复习：先拿下能迁移的基础
本书的目标是现场建模、算对并讲清条件。带★的“核心必会”先学；“岗位重点”按目标岗位加练；附录留到最后。这里的优先级综合官方准备方向、基础依赖和题型迁移价值，不是对所有公司出题频率的统计。
第一轮：概率与期望，再到统计推断
先读01—08：条件概率、独立、计数、指标变量、条件期望、常见分布、尾和、首步递推。再读14、15、18、19：LLN／CLT、最大似然、置信区间、检验。每节必须不看答案重新算一个例子，才能进入同类题。
第二轮：按岗位选择，而不是把目录全部刷完
交易方向：09随机游走、10停止决策、11极值、23期望风险与成本；返回52题与61题练状态递推、最优停止和赔率判断。研究方向：13条件高斯、16—17估计、20回归推断、21重采样、22时间序列；同时练机器学习中的回归、过拟合、时间验证和泄漏。
现场自检：先写随机变量与已知条件 → 说出为何可独立相乘／条件化／递推 → 手推到结果 → 检查极端值。数学熟练不等于解题熟练，复习时先限时尝试，再看提示。
附录：12的雅可比与比值分布、24的Jensen与矩母函数放在正文后。若目标岗位明确要求，再回到这些专题；不要在第一轮花大量时间背高阶证明。17中的Fisher信息、14中的严格浓缩推导也可第二轮再看。
开始前：从一枚硬币学会读公式
本书把你当作第一次接触概率的人。先别记定理名字：一条公式只是在压缩一些加法、乘法、筛选或平均。下面先把这些动作做一遍；正文会在每个新模型中重新说明字母代表什么。读到不熟的字母，先问它记录的是哪一个数，而不是急着找下一条公式。
把长算式写短：加总、连乘、下标与组合
有三次观测，数值依次为一、二、三。给它们名字 \(x_1=1,x_2=2,x_3=3\)，右下角只是编号。\(\sum_{i=1}^{3}x_i\) 的读法是“让编号从一到三，把对应数相加”，展开为 \(1+2+3=6\)；\(\sum_{i=1}^{3}x_i^2=1^2+2^2+3^2=14\)，先分别平方再相加。\(\prod_{i=1}^{3}x_i=1\times2\times3=6\)，则把加法换成连乘。不要因为本例两个结果都为六，就把这两个运算当同一件事。
从甲、乙、丙三人中选两人，有甲乙、甲丙、乙丙三组。如果先挑第一人再挑第二人，有 \(3\times2=6\) 个顺序，但甲乙与乙甲代表同一组，所以除以二，得 \(\binom32=3\)。一般 \(\binom nk=n!/[k!(n-k)!]\)，其中 \(n!=1\times2\times\cdots\times n\)，并约定 \(0!=1\)。组合符号压缩的是“先按顺序数、再除掉每组重复次数”，第三节会完整重做。
概率不是密度：事件、随机量与面积
掷公平骰子会出现一至六，尚未掷出时用 \(X\) 记录将来的点数，称为随机变量。事件 \(A\) 可以是“点数为偶数”，即结果集合 \(\{2,4,6\}\)。六面等可能，所以 \(P(A)=3/6=1/2\)，\(P\) 表示概率。\(A\cap B\) 是两事件同时成立，\(A\cup B\) 是至少一个成立。\(P(A\mid B)\) 读“已知后面的条件成立时，前面的概率”，条件符号不表示除号；如何除，第一节会从筛选结果推出来。
若 \(X\) 在长度二的区间 \([0,2]\) 上均匀，就不能逐点数结果。我们画高为 \(1/2\) 的矩形，用区间上方的面积给概率：\(P(0\le X\le1)=1\times1/2=1/2\)。这条高度函数叫密度 \(f(x)\)。单点没有宽度、面积为零，所以 \(P(X=1)=0\)；这不妨碍抽到某个具体实数。分布函数 \(F(x)=P(X\le x)\) 则把左侧全部面积累计起来，本例在区间内为 \(F(x)=x/2\)。
先平均，再看偏离：期望、方差与标准差
一枚公平币决定奖金：正面三元、反面一元。用 \(X\) 记奖金，长期平均为 \(E[X]=(3+1)/2=2\) 元，\(E\) 表示期望，不要求单次真能领两元。两种结果距平均分别为 \(1\) 与 \(-1\)，平方后平均为 \(\operatorname{Var}(X)=[1^2+(-1)^2]/2=1\) 平方元，这叫方差。开平方得到标准差一元，单位回到奖金单位。所有方差计算都可以按“先求均值、分别减均值、平方、按概率平均”完成，不必先记任何简写公式。
连续量怎样相加：导数与积分
函数是输入到输出的规则，例如 \(f(x)=x^2\)。输入从二增加到 \(2+h\)，输出增加 \((2+h)^2-4=4h+h^2\)。除以输入增加量 \(h\)，平均变化率为 \(4+h\)；当 \(h\) 越来越小时趋近四，记作 \(f'(2)=4\)。这个局部变化率叫导数。后面的“令导数为零”是在找内部平滑最高点，但还必须检查边界和最高/最低性质。
积分把许多窄条的“高度乘宽度”累积：\(\int_0^2 x\,dx\) 是直线下底二、高二的三角形面积，等于二。计算多项式时可以用 \(\int_0^b x^k dx=b^{k+1}/(k+1)\)，例如 \(\int_0^2x^2dx=8/3\)。为什么指数加一又除以新指数？因为 \(x^{k+1}/(k+1)\) 的导数恰为 \(x^k\)，积分与导数在这里互相抵消。连续变量的期望就是把“数值乘对应概率小条”累计，本例均匀变量 \(E[X]=\int_0^2x(1/2)dx=1\)。
对数为什么常出现
自然对数 \(\log x\) 是指数 \(e^y\) 的反问，\(e\approx2.71828\)。它把乘法变加法：\(\log(ab)=\log a+\log b\)，并且保持大小顺序，所以最大化正似然和最大化其对数有相同答案。会用的导数只有几条：\((\log x)'=1/x\)、\((e^x)'=e^x\)、\((x^2)'=2x\)。复合函数要再乘内部变化率，如 \([\log(1-p)]'=-1/(1-p)\)。第十五节会逐项求导，不以“显然”跳过代数。
从题目到模型：这本笔记怎样组织
假设面试官问“连续出现两次正面需要等多久”，直接枚举长度会越来越复杂；如果只记住“末尾有没有H”，无限历史就压缩成两个状态。换成数据题，面试官问“信号均值为正是否可靠”，思路也相同：先找生成机制与假设，再把问题压缩成均值、方差、样本依赖和检验规则。
本书分为八组：A组处理信息与计数；B组处理总量与等待；C组处理带历史的随机过程；D组处理分布与极值；E组处理样本变大的极限；F组把观测反推为参数；G组给参数估计附上证据强弱；H组把这些工具放回金融序列与执行。前几组主要面对“模型已知时预测数据”，后几组面对“数据已知时推断模型”。
符号约定：E表示期望，Var表示方差，Cov表示协方差；IID表示独立同分布；p̂或θ̂表示从样本算出的估计量。随机变量用大写，已经观察到的数值用小写。每次看到“独立”“正态”“平稳”，都把它当成需要核验的条件。
学习时把三个动作串起来
先说清随机性或数据来自哪里，再手推一个最小例子，最后指出结论成立的条件。能复述公式只是第一步；能解释公式为什么在这道题里合法、换条件后哪里先失效，才是迁移能力。
下面每节均包含例子、推导、面试追问、易错点与关联方向。建议先遮住解答，用纸写出状态、目标和第一步；卡住时只看下一条推导，再自行继续。
★ 核心必会 · 第一轮闭卷掌握
A · 先把看到的信息当成一次筛选
01 · 条件概率、全概率与贝叶斯
问题：机器报“坏”，到底有多少是真的坏？
一万件产品中，实际有百分之一坏品。检测会把坏品中的百分之九十报为阳性，也会把正常品中的百分之五误报为阳性。我们拿到一件阳性产品，问它真是坏品的概率。先不背“贝叶斯公式”，直接给产品分堆。这里的百分比先理解为模型中的比例；一万件是帮助看清比例的假想人群，不表示每次检测必须恰出现下面的件数。
先按真实状态分：坏品 \(10000\times0.01=100\) 件，正常品 \(10000-100=9900\) 件。坏品中阳性 \(100\times0.9=90\) 件，坏品阴性 \(100-90=10\) 件。正常品中阳性 \(9900\times0.05=495\) 件，正常品阴性 \(9900-495=9405\) 件。四堆合计仍为一万，所以没有漏项或重项。
现在“已知阳性”把阴性两堆全部筛掉。留下的不是原来的一万件，而是 \(90+495=585\) 件。其中只有九十件真坏，所以答案是：
分母为什么必须是所有阳性？因为问题已经指定我们从阳性堆里挑一件，新的全部可能结果就是这五百八十五件。除以一万只会得到“既坏又阳性”的概率 \(90/10000=0.009\)，并未完成条件筛选；除以坏品数一百则会得到“坏品被报阳性”的概率 \(0.9\)，它回答了相反的问题。
把同一个分堆动作翻译成符号
令 \(D\) 表示坏品事件，\(B\) 表示阳性事件，\(D^c\) 表示“不坏”。先求同时坏且阳性：从所有产品里先落入坏品堆，概率 \(P(D)=0.01\)；在这堆中再被报阳性，条件比例 \(P(B\mid D)=0.9\)，所以：
阳性还有另一条来源：正常却误报，概率 \(0.99\times0.05=0.0495\)。真实坏与正常不会同时成立，而且包含所有产品，所以两条来源没有重叠、也没有遗漏，能直接相加。这种“按所有来源分别计算再加总”的动作叫全概率：
最后把联合概率除以筛选后保留的总概率，得到与数件数相同的答案：
如果把联合概率那一步代进去，就得到贝叶斯公式。它并不是第三种神奇运算，只是把“先验坏品比例”乘上“坏品产生当前观察的可能性”，再除以当前观察的总可能性。一般来源 \(H_1,\ldots,H_m\) 必须互不重叠且覆盖全部情况：
再测一次：为什么不能直接把后验平方
额外假设：真实好坏固定后，两次检测相互独立，且错误率不变。坏品连续两次阳性的概率是 \(0.9\times0.9=0.81\)，正常品连续两次误报是 \(0.05\times0.05=0.0025\)。分子为 \(0.01\times0.81=0.0081\)，分母再加正常来源 \(0.99\times0.0025=0.002475\)，故：
检查方向：第二次同方向证据应让真坏概率上升，确实从约百分之十五升到百分之七十七。如果两次共用同一台坏掉的传感器，错误可能被重复，不能乘两个误报率。本节真正要记的是“来源分堆→按观察筛选→用留下来的总量作分母”，不是看到阳性就套一个孤立百分比。
★ 核心必会 · 第一轮闭卷掌握
A · 乘两个概率之前先核对理由
02 · 独立、互斥与条件独立
问题：两件各有一半概率的事，同时发生总是一半乘一半吗？
抛两枚独立公平硬币，依次记录第一枚、第二枚，四种结果为 \(HH,HT,TH,TT\)，每种概率 \(1/4\)。\(H\) 是正面、\(T\) 是反面。令事件 \(A\) 为第一枚正面，\(B\) 为第二枚正面。\(A\) 包含前两种结果，\(B\) 包含第一和第三种，所以各有概率 \(1/2\)，同时发生只有 \(HH\)，概率 \(1/4\)。
这里为什么能相乘？已知第一枚正面后，只剩 \(HH,HT\) 两种等可能结果，第二枚仍有一半正面。知道第一枚没有改变第二枚分布，这才叫独立。形式上 \(P(B\mid A)=P(B)\)，乘以 \(P(A)\) 后等价于 \(P(A\cap B)=P(A)P(B)\)。等式不是定义“所有同时发生”的通用算法，而是检验两事件是否独立的标准。
换一个模型：第二枚不抛，直接复制第一枚结果。每枚单独看仍各有一半正面，但只可能 \(HH\) 或 \(TT\)，同时正面概率变成 \(1/2\)。同样的边际概率不决定联合概率；“两枚”“两个来源”这些语言标签也不能自动保证独立。
互斥与独立为什么不是一回事
回到一枚公平骰子。令 \(C\) 为掷出一，\(D\) 为掷出二。它们不可能同时成立，叫互斥，所以 \(P(C\cap D)=0\)。但是 \(P(C)P(D)=1/36\)，不等于零，因此不独立。已知掷出一，会把掷出二的可能性完全消除，显然提供了信息。正概率的互斥事件必不独立；两个概率为零的特殊事件则需单独按定义看。
两两都独立，为什么三件事仍可能不能相乘
重新用两枚真正独立的硬币，加第三个事件 \(C\)：两枚同面。因此 \(C=\{HH,TT\}\)，概率也是 \(1/2\)。逐对检查：\(A\cap B\)、\(A\cap C\)、\(B\cap C\) 都只含 \(HH\)，概率各为 \(1/4\)，恰等于各自概率之积，所以三对都独立。
但三件事一起发生仍只有 \(HH\)，真实概率 \(1/4\)，并不是 \((1/2)^3=1/8\)。因为一旦知道两枚都是正面，就已经知道同面事件成立，第三件事没有额外随机性。两两独立只检查两件的组合；共同独立还要检查所有更大交集。把很多金融信号各做一遍成对相关检查，不能据此认定它们整体提供了互不重复的信息。
加上已知信息后，独立关系会改变
仍在原四个等可能结果上，现在已知 \(C\) 成立，也就是两枚同面。只剩 \(HH,TT\)，各自条件概率一半。此时 \(P(A\mid C)=P(B\mid C)=1/2\)，但 \(P(A\cap B\mid C)=1/2\)，大于乘积 \(1/4\)。原先独立的两枚结果，在按“同面”筛选后出现依赖。这就是为什么不能忽略数据筛选规则。
反过来，固定一枚未知硬币类型后，各次抛掷可能独立；不固定类型时，连续观察会共同透露硬币偏向，因而相关。“给定类型后独立”称条件独立，必须在同一个条件下检查：
零协方差也不是独立的替代词
取 \(X\) 等概率为 \(-1,0,1\)，令 \(Y=X^2\)。三种有序值为 \((-1,1),(0,0),(1,1)\)，各一份。\(E[X]=0\)，\(E[Y]=2/3\)，\(E[XY]=(-1+0+1)/3=0\)，所以协方差 \(E[XY]-E[X]E[Y]=0\)。但一知道 \(X=0\)，就必有 \(Y=0\)，而不知道 \(X\) 时 \(Y=0\) 只有三分之一。零协方差仅表示一种线性共同变化为零，不能排除非线性依赖。后面的联合高斯是允许从零协方差推出独立的额外分布条件。
★ 核心必会 · 第一轮闭卷掌握
A · 先讲清“不同结果”怎样区分
03 · 排列组合、补集与生日碰撞
问题：五个人中抽两人，为什么不是二十五种？
给五人命名甲乙丙丁戊。若按顺序抽且不放回，第一个可选五人，第二个只能选四人，得到 \(5\times4=20\) 种有序结果。不能写 \(5^2=25\)，因为那会允许同一个人抽两次。若题目只关心哪两人、不关心先后，则甲乙与乙甲合并，每个二人集合恰被数两次，所以有 \(20/2=10\) 组。
从 \(n\) 个不同对象选 \(k\) 个不重复对象，若先计顺序，有 \(n(n-1)\cdots(n-k+1)=n!/(n-k)!\) 种；每个集合的 \(k\) 个成员可有 \(k!\) 种先后，所以再除 \(k!\)。这就推得：
这里“每组重复次数恒为 \(k!\)”是能够统一相除的理由。若对象有重复颜色但身份是否区分不明，就应先澄清，不能只见“选”字就套组合。计概率时，分子和分母也必须同时采用有序或同时采用无序口径。
生日题：直接数碰撞太乱，先数没碰撞
假设每人生日独立，全年三百六十五天等可能，忽略闰日。先看三个人。第一人无论哪天都可以，避免重复的概率为一；第二人避开第一人生日的概率 \(364/365\)；已经两人不同后，第三人要避开两个日期，概率 \(363/365\)。所以：
所有情况只有“全不同”与“至少一处碰撞”两类，而且互斥。因此至少两人生日相同的概率为 \(1-132132/133225=1093/133225\approx0.008204\)。这种先算反面事件再用一减的动作叫补集法。它比直接分“甲乙相同、甲丙相同、乙丙相同、三人相同”更简单，也避免把三人相同重复计算。
推广到 \(m\) 人，只要 \(m\le365\)，全不同概率为 \(\prod_{j=0}^{m-1}(1-j/365)\)。每个因子都在表达“已经占了 \(j\) 天后，下一人还剩多少可用生日”。于是：
当 \(m=23\) 时，逐项乘积约为 \(0.492703\)，碰撞概率约 \(0.507297\)，已经超过一半。不是每个人都要与一个事先指定的人匹配；二十三人之间有 \(\binom{23}2=253\) 个候选人对，机会远多于二十三个。这解释了看似小人数也容易碰撞。
近似从哪一步来，什么时候不可靠
将全不同概率取对数，乘积变加和：\(\log P=\sum_{j=0}^{m-1}\log(1-j/365)\)。当每个比例很小时，可用 \(\log(1-u)\approx-u\)，所以约为 \(-\sum j/365=-m(m-1)/(2\times365)\)。再取指数并取补集得到常用近似 \(1-\exp[-m(m-1)/(2\times365)]\)。近似不是新的精确计数；人数接近天数时，部分比例不再小，应回到原乘积。
若 \(m=1\)，只有一个生日，不可能碰撞，公式给零；若 \(m=366\)，抽屉只有三百六十五个却放入三百六十六人，必有碰撞。真实生日并非严格均匀、亲属生日也未必独立，模型假设变动会改变数值。迁移到哈希碰撞时，生日换成桶号，人的数量换成键数，仍先查各桶是否等可能以及键是否近似独立。
★ 核心必会 · 第一轮闭卷掌握
B · “有多少个”往往只需分别问“这个有没有”
04 · 期望线性与指标变量
问题：三个人随机入座，平均几个人坐对？
三个人有各自的编号座位，一人一座，所有安排等可能。若先求“恰零人、恰一人、恰两人、恰三人”的完整概率，容易在数座位时出错。我们换一个更小的问题：只看甲，他坐对的概率是多少？三把椅子对他等可能，所以是三分之一；乙、丙也一样。
给甲的结果记一个数 \(I_1\)：坐对为一，坐错为零。同理定义 \(I_2,I_3\)。这种只记录事件发生与否的零一变量叫指示变量，也常叫指标变量。因为它只有两种值，\(E[I_1]=1\times(1/3)+0\times(2/3)=1/3\)。坐对总人数恰好等于 \(N=I_1+I_2+I_3\)，不是近似。
总数的平均就是各个记录的平均相加，得到 \(E[N]=1/3+1/3+1/3=1\)。这叫期望的线性性。它为什么不要求独立？把所有座位安排列成六行，每一行三个人的指示数加起来，再把六行平均；也可以先把第一列平均、第二列平均、第三列平均，再相加。交换有限次加法顺序不需要任何独立条件：
用六种安排核验：三人全对一份，恰一人坐对三份，全错两份，恰两人坐对没有份，因为前两人都对则第三人也只能坐对。平均 \((3\times1+1\times3+0\times2)/6=1\)，与短解相同。期望为一并不说每次必坐对一人。
为什么方差不能也直接相加
两个人坐对不是独立事件。以甲乙为例，甲坐对后，只剩两椅，乙坐对概率变成一半，而原来只有三分之一。因此 \(P(I_1=1,I_2=1)=1/6\)，不是 \(1/9\)。
若要求总人数方差，先算平方：\(N^2=I_1^2+I_2^2+I_3^2+2I_1I_2+2I_1I_3+2I_2I_3\)。零一变量平方仍是自己，所以前三项期望合计一。三对联合坐对概率各为六分之一，交叉项合计 \(2\times3\times(1/6)=1\)，于是 \(E[N^2]=2\)。减去均值平方一，方差也是一。
交叉项之所以不能丢，是两个变量的变化可能一起发生；协方差正是 \(E[XY]-E[X]E[Y]\)，将它保留才有 \(\operatorname{Var}(X+Y)=\operatorname{Var}(X)+\operatorname{Var}(Y)+2\operatorname{Cov}(X,Y)\)。期望线性与方差加法的条件不同，不能混为一个口诀。
再做一个连续邻对例子
两位男士、一位女士随机排队。总共只有左间隔与右间隔两个候选相邻对。对左边固定两位置：先男后女的概率 \((2/3)(1/2)=1/3\)，先女后男为 \((1/3)(2/2)=1/3\)，异性概率合计 \(2/3\)。右间隔对称也为 \(2/3\)，所以异性邻对期望 \(4/3\)。
核验女士位置：站两端时各出现一对异性邻对，站中间出现两对，三个位置等可能，平均 \((1+2+1)/3=4/3\)。两间隔会共享中间一人，明显不独立，仍可相加期望。以后见到固定点、碰撞人对、图中的三角形、出现过的品种数，都先选一个具体候选对象，给它零一记录，再数共有多少个候选；不必先解决总量的整个分布。
★ 核心必会 · 第一轮闭卷掌握
B · 先分组计算，再把组内与组间变化拼回去
05 · 全期望、条件期望与全方差
问题：先随机选币，再固定这枚币抛两次
袋里两枚硬币，甲的正面率 \(0.8\)，乙的正面率 \(0.2\)。先等概率挑一枚，之后两次都用它；固定类型后，两次抛掷独立。令 \(C\) 表示选中的类型，\(S\) 表示两次的正面总数。求平均正面数与方差。关键是先固定类型再算，而不是把所有抛掷直接当成正面率一半的独立硬币。
选甲时，每次平均贡献 \(0.8\) 个正面，两次均值 \(1.6\)；选乙时为 \(0.4\)。写作 \(E[S\mid C=甲]=1.6\)、\(E[S\mid C=乙]=0.4\)。这两个数是在对应组内作平均，叫条件期望。还未知道币型时，再按两组各半加权：
一般地，先按信息分组求平均，再平均各组均值，就回到总体平均，写作 \(E[S]=E[E[S\mid C]]\)，叫全期望。外面的期望不是对同一个数重复平均，而是在币型这个尚未揭晓的随机信息上平均。
组内方差怎样一步步算
对正面率 \(p\) 的一掷，零一结果 \(I\) 的均值为 \(p\)。它的平方仍是自己，所以方差 \(E[I^2]-E[I]^2=p-p^2=p(1-p)\)。固定甲币后两掷独立，和的方差为 \(2(0.8)(0.2)=0.32\)；乙币同样 \(2(0.2)(0.8)=0.32\)。所以“各组内方差的平均”也是 \(0.32\)。
但这不是总方差。甲组整体集中在均值一点六附近，乙组整体在零点四附近，而总体均值为一。即使每组内部没有任何波动，只要组均值不同，随机选组就仍有波动。两个组均值到总体均值的偏差分别 \(0.6,-0.6\)，平方并按各半平均，得到 \((0.36+0.36)/2=0.36\)。因此总方差为 \(0.32+0.36=0.68\)。
全方差公式的每一项从哪里来
把一次结果对总体平均的偏差拆成两段：先从结果走到本组均值，再从本组均值走到总体均值。令 \(m_C=E[S\mid C]\)、\(m=E[S]\)，则：
平方得到三项：第一段平方、第二段平方、两段乘积的两倍。固定币型后，第二段是常数，而第一段的组内平均为零，所以乘积组内平均也为零。再对币型平均，交叉项仍为零，剩下：
第一项是“组里自己有多散”，本例零点三二；第二项是“各组平均彼此多远”，本例零点三六。两者非负，所以只保留第一项永远不会比完整方差大。
不借公式，直接枚举核验
甲币时零、一、两个正面的概率分别为 \(0.04,0.32,0.64\)；乙币反过来为 \(0.64,0.32,0.04\)。两组各半混合，得到：
均值 \(0(0.34)+1(0.32)+2(0.34)=1\)。二阶矩 \(0+0.32+4(0.34)=1.68\)，减均值平方一，仍得零点六八。若误当两次独立公平币，方差会错成 \(2(1/2)(1/2)=0.5\)。因为看到第一次正面后，更像选到了甲币，第二次正面概率也会上升；固定类型后的独立不等于不固定类型时独立。这一节就是混合人群、分市场风险与潜在状态模型的基础。
★ 核心必会 · 第一轮闭卷掌握
B · 分布名称是对试验规则的简称
06 · 二项、几何、泊松、指数：用生成机制选分布
同一枚硬币，换一个停止规则就换一个分布
公平硬币独立抛三次，记录正面数 \(X\)。三次是事前固定的，不因中间结果改变。八种正反序列等可能。恰两个正面的序列为 \(HHT,HTH,THH\)，三份各 \(1/8\)，所以概率 \(3/8\)。一般固定抛 \(n\) 次、每次成功概率 \(p\)，恰 \(k\) 次成功，先选成功出现的位置，再乘每条序列概率：
这叫二项分布。组合数不是装饰：同样两次成功可占不同位置，必须把这些互斥序列加起来。三次公平币对应概率 \(1/8,3/8,3/8,1/8\)，相加为一；均值用三个零一变量相加得 \(np\)，方差在独立条件下得 \(np(1-p)\)。
现在不固定三次，改成“首次正面就停”，用 \(T\) 记包含成功那一掷的总次数。\(T=3\) 只能是 \(TTH\)，概率 \((1-p)^2p\)。一般必须先失败 \(k-1\) 次再成功，得到：
这叫几何分布。公平币前三个概率是 \(1/2,1/4,1/8\)，之后继续下降；所有项相加为一，因为 \(p\sum_{j\ge0}(1-p)^j=p/p=1\)。平均等待由首步方程 \(e=1+(1-p)e\) 得 \(e=1/p\)。二项问固定次数内成功多少，几何问首次成功要等多少次，不能因为都用硬币就互换。
固定时间数订单：泊松分布的参数是平均总数
设某个简化订单流每分钟平均来两单，而且不同小时间段近似独立，同时多单的概率在极小时间段内很小。把一分钟切成 \(m\) 份，每份至多记一单，来单概率近似 \(2/m\)。总单数近似二项 \(\operatorname{Bin}(m,2/m)\)。令切分越来越细，就得到泊松概率：
例如零单 \(e^{-2}\approx0.135335\)，一单 \(2e^{-2}\approx0.270671\)，两单 \(2e^{-2}\approx0.270671\)。写一般参数 \(\lambda\) 时，均值与方差都为 \(\lambda\)。若速率每分钟两单、观察三分钟，参数应为 \(\lambda=2\times3=6\)，不是仍用二；参数必须带上观察窗口。
从数订单变成等订单：指数分布怎样推出
仍在这个恒速率泊松过程中，令 \(W\) 是从现在到第一单的等待分钟数。“等了超过 \(t\) 分钟仍未到”恰好等于“这 \(t\) 分钟来了零单”。此窗口平均单数为 \(2t\)，所以：
对累计概率求导得密度 \(f_W(t)=2e^{-2t}\)，这叫速率为二的指数分布。平均等待为 \(1/2\) 分钟。三十秒是半分钟，所以半分钟内来单概率 \(1-e^{-1}\approx0.632121\)，不能将三十直接代进以分钟为单位的 \(t\)。
指数模型的无记忆性是 \(P(W\gt s+t\mid W\gt s)=e^{-2(s+t)}/e^{-2s}=e^{-2t}\)：已经等了多久，不改变剩余等待分布。它来自恒速率和过程假设；上班高峰不断增强的订单流通常不满足。二项与泊松都计数，几何与指数都等待，但固定次数、固定时间、离散轮次、连续时长这四个生成规则必须先分清，再选分布。
★ 核心必会 · 第一轮闭卷掌握
B · 不逐个算“恰好何时停”，改数“至少还活着几轮”
07 · 尾和公式与 coupon collector
先用一个三结果的随机次数看懂换序
某过程停止次数 \(T\) 可能为一、二、三，对应概率 \(1/2,1/3,1/6\)。普通平均是 \(E[T]=1(1/2)+2(1/3)+3(1/6)=5/3\)。把每个次数拆成一格一格：一次就是一格，两次是两格，三次是三格。每次试验只要总次数至少一就贡献第一格，至少二贡献第二格，至少三贡献第三格。因此：
平均第一格是 \(P(T\ge1)=1\)；第二格为 \(P(T\ge2)=1/3+1/6=1/2\)；第三格为 \(P(T\ge3)=1/6\)。相加 \(1+1/2+1/6=5/3\)，与原平均一致。公式没有创造额外时间，只是把“每个结果贡献几格”换成“每一格有多少结果会贡献”。
对任意非负整数次数，可一直排到无限格：
第二种写法把编号移一格，所以从零开始。为什么无限情况下还能换加总与平均？先只取前 \(M\) 格，它们的和是 \(\min(T,M)\)，有限加法一定合法。\(M\) 增大只会添非负贡献，不会出现正负抵消，极限可用非负项单调累积得到；若平均无限，等式两边同为无限，不暗示存在有限数。对可能为负的随机量，不能不检查就沿用同一尾和。
集齐三种券：为什么最后一种等最久
每次独立、等概率得到甲乙丙一种券，允许重复，直到三种都出现。用 \(T\) 记购买次数。把过程拆成三个阶段：还没有券时等第一种；已有一种时等一种没见过的；已有两种时等最后一种。阶段可以经历重复券，不能只说“三种所以三次”。
第一阶段下一张一定新，成功率一，平均一次。第二阶段三种里两种新，成功率 \(2/3\)；每次旧券失败后仍在同样阶段，所以等待均值 \(1/(2/3)=3/2\)。第三阶段仅一种新，成功率 \(1/3\)，平均三次。总次数是三段时间之和，期望相加：
各阶段是否独立不是这一步的要求；线性期望已经足够。但每阶段用几何均值时，确实用到各次购买独立且概率恒定。最后一种单独就等三次，超过前两阶段和的一部分，直觉上应是瓶颈。
用尾和独立重算一次
购买 \(n\) 次后仍未集齐，意味着至少一种券没出现。指定甲从未出现概率 \((2/3)^n\)，三种来源合计 \(3(2/3)^n\)。但“没甲又没乙”等交集被算两次，要减去三组 \((1/3)^n\)。对 \(n\ge1\)，三种同时没出现不可能，因此：
在 \(n=0\) 时还没买，必须另用概率一；把前式机械代零会错得零。尾和给 \(E[T]=1+3\sum_{n\ge1}(2/3)^n-3\sum_{n\ge1}(1/3)^n=1+3(2)-3(1/2)=5.5\)。这与阶段法吻合，也展示了边界编号为何重要。一般 \(m\) 种等概率券的阶段均值依次为 \(m/m,m/(m-1),\ldots,m\)，总和 \(m\sum_{j=1}^{m}1/j\)；各券概率不相等时不能只把种数代进去，须重新建状态或容斥。
★ 核心必会 · 第一轮闭卷掌握
C · 记住会影响未来的进度，不记无用的完整历史
08 · 首步分析与序列等待
问题：为什么等连续两个正面不是四次？
独立公平币，两次固定抛掷恰为 \(HH\) 的概率是四分之一，但连续观察的窗口会重叠，不能把每一步都当独立的四分之一成功试验。比如刚看到一个正面，离目标只差一掷；刚看到反面，就要重新开始。当前后缀信息确实影响剩余等待。
设状态零表示末尾没有可用正面；状态一表示末尾已有至少一个正面、但还未达成两连正；状态二为完成。令 \(e_0,e_1\) 为从前两状态开始“还需抛掷次数的平均”，完成后 \(e_2=0\)。这些是未知数，我们靠下一掷的分类写方程。每个未完成状态先抛一次，所以不管出现什么，都先花一单位时间。
状态零下一掷：一半正面进入状态一，一半反面仍在零，所以 \(e_0=1+(e_1+e_0)/2\)。状态一下一掷：正面立即完成、余下零次；反面回零，所以 \(e_1=1+(0+e_0)/2\)。等式右侧的时间一是这一掷，括号中是它结束后的剩余时间，不能漏掉或再计一次。
逐行消元，不跳到答案
第一式两边乘二，得到 \(2e_0=2+e_1+e_0\)，两边减 \(e_0\)，得到 \(e_0=2+e_1\)。把第二式 \(e_1=1+e_0/2\) 代入，变成 \(e_0=3+e_0/2\)。两边减去 \(e_0/2\)，得 \(e_0/2=3\)，因此 \(e_0=6\)，再代回得 \(e_1=4\)。
核验两式：零状态右侧 \(1+(4+6)/2=6\)；一状态右侧 \(1+6/2=4\)。已有一个正面能把平均剩余时间从六降到四，方向合理。所求包含最后成功那一掷，不能再加一。有限性也有依据：把硬币切成互不重叠的两掷块，每块至少四分之一概率是目标，因此块数被一个有限均值的几何等待控制；连看所有重叠窗口只会更早完成。
换成先正后反，状态相似但转移变了
等 \(HT\) 时，仍有零状态与已有 \(H\) 状态。零状态方程不变；已有 \(H\) 再见 \(H\) 时，新末尾仍是 \(H\)，不是回零。于是 \(f_1=1+f_1/2\)，直接解得 \(f_1=2\)；由 \(f_0=2+f_1\) 得 \(f_0=4\)。长度同样为二，平均却比 \(HH\) 少二次，原因就在失败时是否保留进度。
三字模式：把“最长可用后缀”写清楚
目标 \(HTH\)。未完成状态依次为无进度、末尾 \(H\)、末尾 \(HT\)，期望为 \(g_0,g_1,g_2\)。在 \(H\) 后见 \(H\) 仍留状态一；在 \(HT\) 后见反面成 \(HTT\)，任何非空后缀都不是目标开头，回零。由此：
第一式给 \(g_1=g_0-2\)；第二式乘二并移项给 \(g_2=g_1-2=g_0-4\)。与第三式相等，\(g_0-4=1+g_0/2\)，所以 \(g_0=10\)。回代 \(g_1=8,g_2=6\)，三式都成立。以后换更长模式，先逐状态试下一字符，找能继续当目标开头的最长尾巴，再写期望方程；状态图正确比背一个连胜公式重要。
岗位重点 · 按交易／研究方向加练
C · 先用有限边界解出概率，再理解更大的定理
09 · 赌徒破产：先解边界，再谈停时
问题：两元起步，先到零还是先到五？
每局独立公平，赢一元或输一元，各一半。财富只能在整数位置 \(0,1,2,3,4,5\) 走动，到零破产，到五成功，立即停。用 \(h_i\) 表示从财富 \(i\) 出发最终先到五的概率。题目求 \(h_2\)。边界先写：已在零时成功率零，已在五时成功率一，所以 \(h_0=0,h_5=1\)。
若当前在中间某点，下一局只会去左右相邻位置。成功率是两条后续路径成功率的平均，因此 \(h_i=(h_{i-1}+h_{i+1})/2\)。这不是“财富平均”方程，而是对成功事件作第一步条件分解。乘二、移项得到：
相邻概率增加量相同。令每段增加量为 \(d\)，从 \(h_0=0\) 出发依次为 \(d,2d,3d,4d,5d\)，最后必须等于一，所以 \(d=1/5\)。因此 \(h_2=2/5=0.4\)。不是每局公平就“最终成功一半”，因为起点离零比离五近。
平均玩多久：不同未知量，方程多一个一
令 \(m_i\) 是从位置 \(i\) 到任一边界的平均局数。边界 \(m_0=m_5=0\)。中间先花一局，再平均后续，所以 \(m_i=1+(m_{i-1}+m_{i+1})/2\)。把 \(m_i=i(5-i)\) 代入，可逐点核验：\(m_1=4,m_2=6,m_3=6,m_4=4\)，例如位置二右侧 \(1+(4+6)/2=6\)。
为何敢假定平均有限？从任何中间位置，未来连续五局都赢就必在这五局内到达五，概率至少 \(2^{-5}\)。只看每五局一个块，未停的概率每块至多乘 \(1-2^{-5}\)，所以等待块数被有限均值几何变量控制。这样方程对应的确是有限等待，而非随意代数解。
有偏硬币时，把直线改成几何形状
设赢概率 \(p\)、输概率 \(q=1-p\)，且 \(0\lt p\lt1\)。首步方程改成 \(h_i=ph_{i+1}+qh_{i-1}\)。试形如 \(r^i\) 的解，代入并除以 \(r^{i-1}\) 后得 \(pr^2-r+q=0\)，可分解为 \((r-1)(pr-q)=0\)，两根为一与 \(q/p\)。因此边界可由常数项与几何项组合满足，结果：
举 \(p=0.6,q=0.4\)，起点二，倍率 \(q/p=2/3\)，分子 \(1-4/9=5/9\)，分母 \(1-32/243=211/243\)，所以成功率 \((5/9)(243/211)=135/211\approx0.63981\)。它高于公平时零点四，方向正确。公平极限不能直接代成零除零，应回到相邻增量推导得 \(i/5\)。
停时为何不能无条件套用
停止轮数 \(\tau\) 是第一次到零或五的时刻：每一轮只凭已看见的财富就能决定是否停，不需要预知未来。公平时财富的下一局条件平均等于当前财富，叫鞅；在这个有限边界问题里，停止前后财富始终被零和五夹住，因此可以合法保留期望，\(E[W_\tau]=W_0=2\)。终点只可能零或五，所以 \(5P(成功)=2\)，重新得到零点四。
边界有界和停止时间规则是真正依据。若允许无限借款、直到赚一元才停，财富可能向负无穷走，不能继续用“公平所以停后期望不变”一行推出结论。下一节会把这一合法性问题单独展开。
岗位重点 · 按交易／研究方向加练
C · 何时停会改变问题，条件不能藏在定理名字后面
10 · 鞅、可选停止与最优停止
先看“公平”究竟是对什么取平均
财富从两元开始，每局公平赢或输一元。若已知目前财富三元，下一局财富是四或二，各一半，平均仍三。若当前一元，下一局平均仍一。对每一个已经看见的历史都保持“未来一步的条件平均等于当前值”的过程叫鞅。记历史信息为 \(\mathcal F_t\)，定义写为 \(E[W_{t+1}\mid\mathcal F_t]=W_t\)。这个符号只是在正式表达“已知道截至现在全部结果”。
鞅不表示财富不变，也不表示输赢路径对称到任何时候都一半。它约束的是条件平均，而不是每次实际结果。若每局要付费用，下一步平均低于当前，通常称超鞅；中文名称容易反直觉，先按不等式理解即可。
停止规则何时能守住平均
“最多玩三局，一旦财富到零就停”只依赖已见结果，称停止时间。它还保证不晚于第三局，是有界停止。把增量写出：
第 \(t\) 局有没有资格玩，在这一局抛币之前就已决定，所以是否继续的指示变量只依赖过去；而这一局增量在给定过去后平均零。两者相乘的平均仍零，三项加起来也零。因此 \(E[W_\tau]=E[W_0]\)。这就是一个不需要背抽象定理的可选停止证明：规则不能偷看下一局，局数也先被三这个固定上限控制。
如果没有固定上限，但像前节财富一直夹在零与五之间，也可以先截断为 \(\tau\wedge n\)，对每个有限上限成立，再借停止财富始终有界把极限带过期望。更一般条件还包括适当可积性等，但不能只说“它是鞅，所以随便什么时候停都一样”。
为什么翻倍下注不是白送钱
策略为先押一元，输后押二，再输押四，直到首次赢。一旦在第三局赢，前面损失一加二，第三局赚四，净赚一；在任何有限首次赢的时刻都一样。公平币几乎必然最终出现正面，但这仍不推出“这是无风险一元利润”。
若先规定最多三局，首次赢则赚一；三局全输概率 \(1/8\)，损失 \(1+2+4=7\)。期望净收益为 \((7/8)(1)+(1/8)(-7)=0\)。上限为 \(n\) 时，连续输尾部概率虽缩成 \(2^{-n}\)，尾部损失却增成 \(2^n-1\)，其乘积并没消失。让上限趋无限时，极少数巨大负值承担全部平衡，不能交换极限与期望；现实有限资金与下注上限还会更早截断策略。
最优停止：你有选择权时，要比较“收下”与“继续”
掷骰得到点数对应奖金，最多掷两次。看第一次后可收下，也可放弃并重掷；重掷后必须收新值。最后一次的平均奖金 \((1+2+3+4+5+6)/6=3.5\)。因此第一次看到一、二、三时继续，看到四、五、六时停止；不是为了坚持“平均守恒”，而是在每个观察后选择更高的可得平均。
开始前价值为 \([3.5+3.5+3.5+4+5+6]/6=25.5/6=4.25\)。逐分支看，前三个低结果被放弃、各换成平均三点五，高结果保留。不能把这当两颗骰取最大值，因为拒绝第一次后无法反悔；也不能用总体价值四点二五作为第一次阈值，拒绝后只剩一次机会，继续价值仅三点五。
这类向后推的关系通常叫贝尔曼方程：当前价值等于“立刻收益”与“下一阶段平均价值”的较大者。先把最后阶段算清、再往前推，比直接猜策略稳定。鞅问某个既定公平过程在合法停止后怎样守住平均；最优停止问哪些行动能改变可获得收益，二者不是同一条公式。
岗位重点 · 按交易／研究方向加练
D · 先把最大值事件变成“所有样本都满足”
11 · 极值、次序统计与分位数
问题：两个零到一的随机数，较大那个平均是多少？
独立均匀抽 \(X_1,X_2\in[0,1]\)，令 \(M=\max(X_1,X_2)\)。单个数平均一半，但较大者应更大；不能说“都均匀所以最大值也均匀”。先问一个比期望容易的问题：最大值不超过某阈值 \(m\) 的概率是多少？
若 \(0\le m\le1\)，最大值不超过它，当且仅当两个数都不超过它。单个均匀数落在 \([0,m]\) 的概率就是长度 \(m\)，两者独立才可乘，得 \(F_M(m)=m^2\)。若 \(m\lt0\)，概率为零；若 \(m\ge1\)，概率为一。只写区间内表达式还不是完整分布函数。
例如阈值一半，只有两个数都在左半区才满足，概率 \((1/2)^2=1/4\)；这比均匀变量本身的二分之一小，说明最大值更偏向右。对累计概率求导，区间内密度 \(f_M(m)=2m\)，越靠右高度越高；积分 \(\int_0^12m\,dm=1\)，总概率正确。
期望积分怎样逐步算
连续期望是每个值乘上相应概率密度再累积：
结果位于二分之一与一之间，符合取大操作。也可把非负变量切成无数细条，用尾积分 \(E[M]=\int_0^1P(M\gt t)dt=\int_0^1(1-t^2)dt=1-1/3=2/3\)，两个独立表达式给同值。
若有 \(n\) 个独立同分布的数，分布函数为 \(F\)，则最大值累计概率 \(F(m)^n\)，因为要所有样本同时不超过阈值。对均匀数就是 \(m^n\)，密度 \(nm^{n-1}\)，期望 \(n/(n+1)\)。最小值则从尾部算：所有数都大于阈值的概率 \((1-F(m))^n\)。把最大与最小的“都不超过”与“都超过”混在一起，是最常见符号错误。
中位数：不要求所有，只要求足够多个
独立抽三个均匀数，把排序后的第二个记作 \(Q\)，叫样本中位数，也叫第二个次序统计量。问 \(P(Q\le1/4)\)。中间数在四分之一以下，等价至少两个原数在四分之一以下；每个数满足的概率 \(p=1/4\)。恰两个满足有三种选位置方式，概率 \(3(1/4)^2(3/4)=9/64\)；三个都满足为 \((1/4)^3=1/64\)，合计 \(10/64=5/32\)。
一般阈值 \(q\) 时 \(P(Q\le q)=3q^2(1-q)+q^3=3q^2-2q^3\)。代一半得 \(3/4-1/4=1/2\)，符合关于中点的对称性。这里的三来自“哪个样本是唯一不满足者”，不是凭印象乘三。
分位数是把概率反过来问
最大值的四分之三分位数，问的是哪个阈值能容下百分之七十五结果。两个均匀最大值满足 \(m^2=3/4\)，取非负根 \(m=\sqrt3/2\approx0.866025\)。中位分位阈值则 \(\sqrt{1/2}\approx0.707107\)，不同于平均 \(2/3\)。均值是加权平均位置，分位数是指定累计概率位置，不能互代。
若样本相关，最大值事件仍等价全部满足，但联合概率不再是边际幂。若分布有原子、密度不存在，累计概率方法仍可用，却不能无条件求导。将支持区间缩放为 \([0,\theta]\) 后，最大值均值按长度同比缩放为 \(n\theta/(n+1)\)，后面的均匀上界估计正靠这一结果。
岗位重点 · 按交易／研究方向加练
D · 观察一个变量后，把能解释的部分与剩余噪声分开
13 · 多元高斯、条件分布与线性预测
慢读连接：把当前这一步跟算出来
先把下面的生成例子变成一张表，再套条件公式。本节的X=U、Y=U+√3V中，U、V独立、方差各1，因此协方差矩阵 \(\Sigma=\begin{pmatrix}1&1\\1&4\end{pmatrix}\)。左上是X方差1，右下是Y方差4，两侧是共同变化的协方差1；矩阵表不等于四个观测数据。
只预测Y而未见X时，平方损失下先报均值0。现在看到X=2，共享那一部分U已经知道为2，所以改报2，而新噪声√3V仍没看到。用通式时，系数为 \(\Sigma_{YX}\Sigma_{XX}^{-1}=1\times1=1\)，剩余方差 \(4-\Sigma_{YX}\Sigma_{XX}^{-1}\Sigma_{XY}=4-1\times1\times1=3\)。这里逆矩阵只是一个数1的倒数；不是凭一个矩阵名跳过运算。自测：若看到X=−1，会把剩余方差改成1吗？不会，均值改为−1，方差仍3；在这个联合高斯模型里位置改变而组内噪声不变。
先造两个相关量，再看条件分布
设 \(U,V\) 为独立标准正态：各自均值零、方差一，密度为 \((2\pi)^{-1/2}e^{-x^2/2}\)。正态指这种对称钟形分布，不是“任何看起来常见的数字”。定义 \(X=U\)、\(Y=U+\sqrt3V\)。于是 \(Y\) 一部分复制 \(X\)，另一部分来自独立新噪声。
逐项算均值：\(E[X]=0\)，\(E[Y]=0+\sqrt3\times0=0\)。方差：\(\operatorname{Var}(X)=1\)，而独立使交叉协方差零，\(\operatorname{Var}(Y)=1+3=4\)。协方差 \(\operatorname{Cov}(X,Y)=E[U(U+\sqrt3V)]=E[U^2]+\sqrt3E[UV]=1+0=1\)。标准差分别一与二，所以相关系数 \(1/(1\times2)=1/2\)。
现在观察到 \(X=x\)。由于 \(X=U\)，那一部分 \(U\) 已经知道就是 \(x\)，但独立的 \(V\) 仍是标准正态。因此 \(Y=x+\sqrt3V\)，条件均值为 \(x\)，条件方差为三，写作 \(Y\mid X=x\sim N(x,3)\)。例如看到 \(X=2\)，最佳条件平均预测是二，剩余标准差 \(\sqrt3\approx1.732\)。
“恰等于二”在连续分布下概率为零，不能直接用离散条件概率分母。这里的条件分布可以理解为先观察 \(X\) 落在二附近极窄小区间，算该组内 \(Y\) 分布，再让区间缩窄；密度形式给出这一极限。用独立表示式也能直接看清，并不需要除以零。
一般公式由“消掉线性联系”推出来
设联合高斯变量均值 \(\mu_X,\mu_Y\)，方差 \(\sigma_X^2,\sigma_Y^2\)，协方差 \(c\)，且 \(\sigma_X^2\gt0\)。把剩余量定义为 \(Z=Y-\mu_Y-a(X-\mu_X)\)。选 \(a\) 使 \(Z\) 与 \(X\) 不再线性共同变化：
再展开剩余方差：\(\operatorname{Var}(Z)=\sigma_Y^2+a^2\sigma_X^2-2ac\)。代 \(a=c/\sigma_X^2\) 后，两项合并为 \(\sigma_Y^2-c^2/\sigma_X^2\)。联合高斯有一个特别性质：线性组合仍联合高斯，零协方差可推出独立。这不是一般变量都有的性质；本例之所以能将剩余分布当作不受 \(X\) 影响，正用到它。
把分解中的 \(X\) 换成已观察的 \(x\)，剩余量 \(Z\) 均值零、独立，便得：
若用相关系数 \(\rho=c/(\sigma_X\sigma_Y)\)，斜率改写为 \(\rho\sigma_Y/\sigma_X\)，条件方差为 \(\sigma_Y^2(1-\rho^2)\)。本例代 \(c=1,\sigma_X^2=1,\sigma_Y^2=4\)，恰回到均值 \(x\)、方差三。
数值核验与适用边界
全方差检查：不同 \(X\) 带来的条件均值波动 \(\operatorname{Var}(E[Y\mid X])=\operatorname{Var}(X)=1\)，加组内剩余方差三，总计四，正等于无条件 \(Y\) 方差。若相关为零，观察 \(X\) 不减 \(Y\) 方差；若绝对相关为一，则剩余方差零，\(Y\) 可被精确线性确定。
协方差矩阵写成 \(\begin{pmatrix}1&1\\1&4\end{pmatrix}\)，任意线性组合方差都不能负，这种性质叫半正定。它保证上面剩余方差非负。只说两个边际各自正态还不够，联合结构也必须高斯；非高斯情况下，同样的协方差斜率仍是最佳线性预测，但真实条件均值可能弯曲、条件方差可能随 \(x\) 变化，不能硬套这一整套分布结论。
★ 核心必会 · 第一轮闭卷掌握
E · 平均会更稳定，不代表每个单样本变得稳定
14 · 大数定律、中心极限定理与浓缩
慢读连接：把当前这一步跟算出来
标准化是把误差改写成“几个标准差”。公平硬币抛100次，正面数S的均值50、方差 \(100\times(1/4)=25\)，标准差5；比例 \(\hat p=S/100\) 的标准差 \(5/100=0.05\)。若看到60正，比例0.6，比0.5多0.1，相当于 \(0.1/0.05=2\) 个标准差。这解释为何后面的CLT统计量要除标准误，而不是直接拿0.1与1.96比较。
有限样本的上界与近似分布是两个层次：切比雪夫只用平均与方差，给 \(P(|\hat p-0.5|\ge0.1)\le0.0025/0.01=0.25\)；CLT则在大样本条件下把标准化后的形状近似成正态。前者可能很松但在条件下是界，后者可能更贴近数值但不是“任何n都精确”。自测：把n从100增至400且模型不变，标准误是多少？\(1/(2\sqrt{400})=0.025\)，只减半，不是减到四分之一。
问题：用多少次公平硬币，正面比例才不太晃？
每掷记正面一、反面零，\(X_i\) 是第 \(i\) 次记录。正面率 \(p=1/2\)，每次均值一半、方差四分之一。抛 \(n\) 次后比例 \(\hat p=(X_1+\cdots+X_n)/n\)。因为平均是线性运算，\(E[\hat p]=p\)；独立让总和方差等于 \(n/4\)，再除 \(n^2\)，得到：
十六次时标准差八分之一，即零点一二五；一百次降为零点零五；一万次为零点零零五。样本增一百倍，标准差只缩十倍，不是缩一百倍。仍然可能偶尔偏离很大，不能把标准差当绝对误差上限。
大数定律：稳定的是平均，不是下一次结果
对于独立同分布、均值存在的样本，大数定律说样本平均会趋近真实均值。“同分布”指每次遵循同一规律，“独立”指前面结果不改变后面的规律。单次硬币仍然只有零和一，不会随着以前抛得多就越来越接近一半；接近的是累计比例。
在方差有限的这个模型里，可以用切比雪夫不等式给有限样本保证。若偏离至少 \(\varepsilon\)，平方偏离就至少 \(\varepsilon^2\)。因此平方偏离的平均至少为该事件概率乘 \(\varepsilon^2\)，移项得：
取 \(n=100,\varepsilon=0.1\)，上界 \(0.25\)。它保证概率不超过四分之一，却不说真实概率就是四分之一。这种上界可能松，但不依赖“近似正态”的额外形状。
中心极限定理：把缩小的误差放大到同一尺度
比例误差本来随样本量缩小。用它除以自身标准差，得到标准化误差 \(Z_n=(\hat p-p)/\sqrt{p(1-p)/n}\)。在独立同分布、有限非零方差等条件下，样本足够大时，这个量的分布接近标准正态。该结论叫中心极限定理，不是说原始硬币本身变成正态。
一百次公平币，比例高出零点一，对应 \(z=0.1/0.05=2\)。正态模型下双侧超过两个标准差的概率约 \(0.0455\)。但硬币计数是离散的，百分之六十这个阈值附近，连续性修正与精确二项计算会有明显差异；第十九节会给恰好六十正面的精确检验，不能用这里的近似强行压过临界结论。
浓缩：利用有界性获得另一种尾界
硬币记录总在零与一之间，可以使用比“只知道方差”更具体的界：对独立零一观测，Hoeffding不等式给 \(P(|\hat p-p|\ge\varepsilon)\le2e^{-2n\varepsilon^2}\)。它是有限样本上界，不是正态近似；有界与独立是关键条件。取 \(n=1000,\varepsilon=0.1\)，上界 \(2e^{-20}\approx4.12\times10^{-9}\)。若只取一百次，这个界约零点二七，甚至比前面的切比雪夫界松；不能宣称某个名气大的界在所有参数下都最好。
时序收益相关时，总和方差还含跨期协方差；偏币率慢慢漂移时，也不再同分布。重尾甚至可能让方差不存在，经典平方根样本量缩放与普通中心极限定理就不能照抄。应用时先说“平均估哪个固定量、样本为什么可当独立、尾部矩是否存在”，再决定用收敛结论、近似分布还是严格上界。
★ 核心必会 · 第一轮闭卷掌握
F · 数据已经见到，比较哪些参数更能产生它
15 · 最大似然：从生成模型反推参数
慢读连接：把当前这一步跟算出来
本节抛币主例先比较参数；遇到正态时，照同样路线重做。数据(2,4,5)，标准差1已知，候选均值为μ。联合密度乘积为 \((2\pi)^{-3/2}\exp(-[(2-\mu)^2+(4-\mu)^2+(5-\mu)^2]/2)\)。三个指数相乘变成指数内三项相加；取log后，前面的常数变成另一个不随μ变的常数，所以只剩负平方和需要优化。
逐项求导得到 \((2-\mu)+(4-\mu)+(5-\mu)=11-3\mu\)，令零得μ=11/3；二阶导−3保证向下弯。若写成含1/σ²的一般式，它是共同正因子，不改变导数为零的位置。边界：这是已知同一方差、独立正态误差的推导；换成重尾噪声或观测各自方差不同，不能先背平均值再忽略生成设定。
问题：十次抛币七正三反，怎样估正面率？
假设十次独立、每次正面率固定为未知 \(p\)。先把已经发生的具体序列固定下来，例如前七次正面、后三次反面。对给定候选 \(p\)，这段序列的概率为 \(L(p)=p^7(1-p)^3\)。把数据固定、参数当输入的这条函数叫似然，不是说参数自己随机的概率。
例如 \(p=0.5\) 时似然 \(0.5^{10}\approx0.0009766\)；\(p=0.7\) 时为 \(0.7^7\times0.3^3\approx0.0022236\)，后者更大。如果只记录“十次中七正”而不记录顺序，还需乘 \(\binom{10}7=120\)；这个因子不依赖 \(p\)，所以不会改变哪个参数使似然最大。
求导的每个动作
连乘直接求导比较麻烦。自然对数严格递增，最大化 \(L\) 等价最大化 \(\ell(p)=\log L(p)=7\log p+3\log(1-p)\)，其中 \(0\lt p\lt1\)。第一项导数是 \(7/p\)。第二项要再乘内部 \(1-p\) 的导数负一，所以是 \(-3/(1-p)\)，并不是正号。
内部最高点先令导数零。把第二项移到右边：\(7/p=3/(1-p)\)。在当前开区间两个分母都为正，可以同乘 \(p(1-p)\)，得到 \(7(1-p)=3p\)。展开 \(7-7p=3p\)，移项 \(7=10p\)，所以候选 \(\hat p=0.7\)。
导数零也可能是最低点，所以再求二阶导：\(\ell''(p)=-7/p^2-3/(1-p)^2\)，在整个内部都小于零，函数向下弯，候选是唯一内部最大。又因为两端各含至少一个零概率因子，\(L(0)=L(1)=0\)，边界也不可能更高。这才完成最大值证明。一般 \(h\) 正、\(t\) 反时同样得到 \(\hat p=h/(h+t)\)。
边界例子：全是正面时不能硬找内部零导数
若十次全正面，似然 \(p^{10}\) 在零到一单调上升，最大就在 \(p=1\)。对数导数 \(10/p\) 从不为零，但最大值仍存在。MLE认为最能解释现有数据的是一，并不证明真实硬币必然永不出反面；有限数据与不确定性仍需后面的区间或后验描述。
另一个边界模型：均匀分布的未知上界
独立观测 \(2,4,5\)，假设每个都来自 \([0,\theta]\) 均匀。若 \(\theta\lt5\)，模型根本不允许已经出现的五，似然为零；若 \(\theta\ge5\)，每个观测密度 \(1/\theta\)，联合似然 \(\theta^{-3}\)，越大反而越低。所以最优取刚好能容纳数据的边界 \(\hat\theta=5\)。
这里用的是密度乘积，不是“连续变量恰好等于观测值”的零点概率。相同测量精度下，各候选参数的小区间概率都带同样宽度因子，因此比较密度乘积是合理极限。边界随参数变化，也会破坏一些常规信息量公式的条件，第十七节会专门提醒。
正态均值：为什么样本平均会出现
若数据独立正态，已知标准差 \(\sigma\)，未知均值 \(\mu\)，对数似然中只有 \(-\sum_i(x_i-\mu)^2/(2\sigma^2)\) 随 \(\mu\) 变化。求导每项产生 \((x_i-\mu)/\sigma^2\)，加总设零得 \(\sum x_i-n\mu=0\)，所以 \(\hat\mu=\sum x_i/n\)。对数据二、四、五，估计 \(11/3\)。最小平方误差与最大似然在这里同解，是因为正态密度的对数恰好给平方残差；换成别的噪声分布就不必相同。
岗位重点 · 按交易／研究方向加练
F · 给参数本身分配权重，再用数据更新
16 · MAP、共轭先验与后验预测
慢读连接：把当前这一步跟算出来
把先验参数与幂次对齐，再做多次更新。Beta(2,2)先验的幂次是 \(p^{2-1}(1-p)^{2-1}=p(1-p)\)，不是p²(1−p)²。若再见七正三反，乘上似然 \(p^7(1-p)^3\)，新幂次为p⁸(1−p)⁴；把它重新写成Beta的“参数减一”形式，即 \(\operatorname{Beta}(9,5)\)。
后验均值 \(9/(9+5)=9/14\approx0.642857\)。内部密度最高点从 \(8/p-4/(1-p)=0\) 得 \(8(1-p)=4p\)，故MAP=2/3。原数据MLE仍为7/10。三种数字没有谁算错：一个只拟合观测，一个按整个后验密度平均，一个挑后验密度峰顶。自测：为何不能把Beta参数直接当已见正反次数？密度的幂次是参数减一；更新规则、后验平均和MAP各自用的量不同。
问题：只抛一次正面，就认定正面率是一吗？
最大似然会在一次正面后给 \(\hat p=1\)，因为似然 \(L(p)=p\) 越大越好。但我们可能事先觉得极端偏币比较少，不愿把一个观测完全当真。贝叶斯做法先给 \(p\in[0,1]\) 上不同候选值分配一个密度，称先验，再用观测的似然改变权重。
选一个简单先验 \(\pi(p)=6p(1-p)\)。它在中间高、两端低，表达更偏好接近一半的硬币。它真是密度吗？积分 \(6\int_0^1(p-p^2)dp=6(1/2-1/3)=1\)，所以总权重正确。这个先验常叫 \(\operatorname{Beta}(2,2)\)；名字暂时不重要，先认识具体函数。
看见一次正面，逐项完成乘法与归一化
正面数据在参数 \(p\) 下的似然为 \(p\)。先验乘似然得到 \(6p^2(1-p)\)，此时积分不再为一：\(6(1/3-1/4)=1/2\)。这个积分也就是在原先所有候选硬币混合下，看到正面的总体概率。要让新密度积分回一，把每个权重都除以它：
核验总积分 \(12(1/3-1/4)=1\)。数据把 \(p\) 的指数从一提高到二，因为原本 \(p\) 因子多乘了一次；反面的 \(1-p\) 指数没动。新密度称后验，正是我们看完数据后对参数不确定性的完整描述。
MAP与后验平均为什么给不同数字
MAP是后验密度最高的位置。常数十二不影响最高点，对 \(p^2(1-p)=p^2-p^3\) 求导得 \(2p-3p^2=p(2-3p)\)。内部候选为 \(p=2/3\)，边界两处密度零，因此MAP是三分之二。
后验均值不是找最高，而是按整个密度平均参数：\(E[p\mid H]=\int_0^1p\,12p^2(1-p)dp=12(1/4-1/5)=3/5\)。它为零点六，不同于MAP的零点六六七，也不同于MLE的一。最高点、加权平均与最能拟合数据的参数，是三个不同问题，不应互称。
预测下一次正面，需要对未知 \(p\) 平均。每个候选硬币下一次正面概率就是 \(p\)，所以 \(P(H_{下一次}\mid H)=\int p\pi(p\mid H)dp=3/5\)。这就是后验预测：不是先挑最高点再假装参数已知，而是把参数不确定性积分进去。
一般Beta更新：指数为什么要加一又减一
Beta先验写成 \(\pi(p)\propto p^{\alpha-1}(1-p)^{\beta-1}\)，其中 \(\alpha,\beta\gt0\) 控制形状，比例符号表示暂略不随 \(p\) 变的归一化常数。见到 \(h\) 正 \(t\) 反，似然 \(p^h(1-p)^t\)，相乘后指数变 \(\alpha+h-1\) 与 \(\beta+t-1\)。因此后验仍是同一函数族，只把参数更新为 \(\alpha+h,\beta+t\)；这种“更新后形式不变”叫共轭。
后验均值为 \((\alpha+h)/(\alpha+\beta+h+t)\)。当两个后验形状参数都大于一，内部MAP为 \((\alpha+h-1)/(\alpha+\beta+h+t-2)\)。本例先验两参数为二、数据一正零反，分别得到 \(3/5\) 与 \(2/3\)，与积分和求导完全一致。形状参数不满足内部条件时，MAP可能在边界，不能机械代公式得到负数。
先验不是把个人愿望变成事实：它须反映可辩护信息，并检查换合理先验后结论是否剧变。数据多时似然通常主导，数据少或参数难辨识时先验影响可能很大。后验概率区间也不要与下一节的频率派置信区间混称，它们对“哪个量随机”的解释不同。
岗位重点 · 按交易／研究方向加练
F · 估计值会怎样偏，怎样晃，哪些误差无法同时消掉
17 · 偏差、方差、MSE与Fisher信息
慢读连接：把当前这一步跟算出来
用可枚举的重复实验核查分解。假设某估计规则在三种等可能数据情形里分别输出0、0.5、1，真实参数θ=0.6。规则平均输出 \((0+0.5+1)/3=0.5\)，偏差−0.1；围绕自己平均值的方差 \([(0-0.5)^2+0+(1-0.5)^2]/3=1/6\)。
直接围绕真值算MSE：\([(0-0.6)^2+(0.5-0.6)^2+(1-0.6)^2]/3=(0.36+0.01+0.16)/3=0.176667\)。另一路“方差加偏差平方”给 \(1/6+(-0.1)^2=0.176667\)，两路吻合。方差衡量离自己平均多远，MSE衡量离真值多远，不能把中心随意换掉。此处三种输出及等概率是教学给定的采样分布，不是所有三样本估计都这样。
问题：一个永远报一半的估计器算不算好？
未知正面率 \(p\)，独立抛 \(n\) 次。一种估计永远输出 \(1/2\)，另一种输出观察正面比例 \(\hat p\)。前者在不同数据上完全不变，方差零，却在真实 \(p=0.8\) 时总错零点三。可见“稳定”不能替代“准确”。估计量是计算规则，代入不同随机样本会有不同输出；我们衡量的是这些输出在重复实验中的分布。
偏差定义为平均估计减真值：\(b=E[\hat\theta]-\theta\)。方差衡量估计在自身均值附近多散。均方误差 \(\operatorname{MSE}=E[(\hat\theta-\theta)^2]\) 则直接看离真值的平方误差平均。把偏差拆开：
平方有两项平方和一个交叉项。前一括号平均零，后一括号是常数，交叉项平均零，因此 \(\operatorname{MSE}=\operatorname{Var}(\hat\theta)+b^2\)。永报一半的规则在真实零点八时MSE为 \(0+0.3^2=0.09\)。正面比例无偏，十六次时方差 \(0.8(0.2)/16=0.01\)，MSE更小；但在真实一半时，常数规则MSE为零，而样本比例仍有误差。所以不能脱离参数范围与评价目标宣称某个规则全方面最佳。
为什么样本方差要除样本数减一
观测二、四、六，平均四，离差平方和 \(4+0+4=8\)。除以三得到经验方差 \(8/3\)；除以二得到无偏样本方差四。两个数不是谁“算错”，而是用于不同目的：前者描述这一批数的平均平方离差，后者在IID总体模型下估未知总体方差而做无偏校正。
校正来自我们先用数据估过均值，样本自己围着自己的均值会显得偏紧。精确恒等式为 \(\sum(X_i-\bar X)^2=\sum(X_i-\mu)^2-n(\bar X-\mu)^2\)。取期望，第一项 \(n\sigma^2\)，第二项 \(n\operatorname{Var}(\bar X)=\sigma^2\)，所以平方离差和平均仅 \((n-1)\sigma^2\)。除以 \(n-1\) 才在重复采样中平均正确。这个推导用到了独立同分布与有限方差，不是任意数据都“减一就科学”。
信息量如何用一次硬币的似然算出来
一次结果 \(X\in\{0,1\}\)，对数似然 \(\ell(p)=X\log p+(1-X)\log(1-p)\)。对参数求导得到 \(s(p)=X/p-(1-X)/(1-p)=(X-p)/[p(1-p)]\)，称得分：参数改一点时，数据对数似然改变多快。它的平均为零，因为 \(E[X]=p\)。
Fisher信息在常规条件下可定义为得分平方的平均。把分母提出期望：
独立样本的得分相加、交叉平均零，所以信息相加，\(I_n(p)=n/[p(1-p)]\)。常规无偏估计的方差下界为其倒数，\(1/I_n=p(1-p)/n\)，这叫Cramér–Rao下界。样本比例方差恰好达到，所以在这一模型与无偏类中不能找到更小方差的估计。若 \(n=100,p=1/2\)，下界 \(0.0025\)，标准差至少零点零五，与前面直接计算相符。
信息量不是“样本行数”的同义词：重复同一观测没有增加独立信息。下界也要求可交换求导与积分等正规条件、支持集不能以有问题的方式依参数变化。均匀分布未知上界的支持集随参数移动，边界携带信息，不能不检查就套这条下界。带偏估计可能用一点偏差换更低MSE，所以“达到无偏下界”不等于所有意义下都压倒其他方法。
★ 核心必会 · 第一轮闭卷掌握
G · 给一个估计附上重复采样下的误差尺度
18 · 置信区间、t分布与有效样本量
慢读连接：把当前这一步跟算出来
样本标准差与平均值的标准误是两件事。三次观测(2,4,6)，平均4；平方偏差 \(4+0+4=8\)。估样本方差除n−1=2，得s²=4，样本标准差s=2，描述单次观测的散布。若独立同分布，样本平均的估计标准误再除 \(\sqrt3\)，即 \(2/\sqrt3\approx1.1547\)，描述换一批三样本时平均值会怎样晃。
所以构造均值区间时，应拿临界值乘1.1547，而不是乘单次标准差2。σ未知、样本正态时还要用自由度2的t临界值；不能因分母很熟就换成大样本1.96。自测：在同样总体且样本标准差大致不变的前提下，将独立样本数增为原来四倍，平均标准误怎样变？约减半；数据相关时这条换算需重查。
问题：平均收益五十二，误差可能多大？
设每天观测 \(X_i\) 的单位为基点，\(1\) 基点就是 \(0.01\%\)。假设各天独立正态，真实均值 \(\mu\) 未知，但总体标准差确知为 \(\sigma=10\) 基点。抽二十五天，样本均值 \(\bar X=52\)。注意总体标准差十描述单天的波动，并不直接等于二十五天平均值的波动。
总和方差 \(25\times100=2500\)，平均除以二十五后，方差再除 \(25^2\)，得到四，标准差二。这个“估计量的标准差”叫标准误，公式是 \(\sigma/\sqrt n\)。所以 \((\bar X-\mu)/2\) 为标准正态。标准正态有约百分之九十五落在 \([-1.96,1.96]\)，即：
逐步反解：乘二得 \(-3.92\le\bar X-\mu\le3.92\)；把 \(\mu\) 移到不等式中间，等价 \(\bar X-3.92\le\mu\le\bar X+3.92\)。代实际平均五十二，得到区间 \([48.08,55.92]\) 基点。这就是已知总体标准差时的双侧百分之九十五置信区间。
“百分之九十五”到底指什么
计算前，样本随机，所以区间两端随机；总体均值是一个固定但不知道的数。若重复很多次相同抽样与造区间程序，约百分之九十五的区间会盖住固定真值。本次区间一旦算成 \([48.08,55.92]\)，在频率派解释里它要么包含真值、要么不包含；不能把这句话自动翻成“真值本身有百分之九十五概率落在这里”。给参数分布并直接谈其概率属于前面的贝叶斯框架。
标准差未知时，为什么换成t分布
现实通常只知道这二十五天的样本标准差 \(s=10\)，而非总体真值。虽然点估标准误仍写 \(s/\sqrt n=2\)，分母本身也随着样本随机变化，直接套标准正态会忽略它的不确定性。对独立正态样本，\((\bar X-\mu)/(s/\sqrt n)\) 的精确分布叫t分布，形状由自由度 \(n-1=24\) 决定；这个减一来自先估均值占掉一个线性约束。
t分布的尾比标准正态厚，小样本需更宽阈值。本例双侧临界值约 \(2.064\)，所以区间 \(52\pm2.064\times2=[47.872,56.128]\)。比前面略宽，反映估计波动尺度的额外不确定性；不是随意换一个“更保守常数”。非正态总体时，小样本t精确结论不保证成立，大样本近似仍要检查尾部与依赖。
有一百行，不一定有一百份独立信息
假设每期方差 \(\sigma^2\)，相隔 \(k\) 期的相关系数为 \(\rho_k\)。展开均值平方时，同期项有 \(n\) 个，相隔 \(k\) 的有序交叉项有 \(2(n-k)\) 个，因此：
正相关让括号大于独立时的 \(n\)。若相关大致 \(\rho_k=(1/2)^k\)、样本较多，括号约为 \(n[1+2(1/2+1/4+\cdots)]=3n\)。均值方差约是独立公式的三倍，标准误约放大 \(\sqrt3\)，等效独立样本量约 \(n/3\)。一百期约相当三十三期的独立信息，而非用 \(\sqrt{100}\) 盲目缩误差。实际应估长期协方差或使用合适块重采样；把估出的有效样本量代进去也不是自动获得精确小样本分布。
★ 核心必会 · 第一轮闭卷掌握
G · 先约定若模型正确，什么数据会算反常
19 · 假设检验、功效与多重比较
慢读连接：把当前这一步跟算出来
先用四次公平硬币算清“更极端”是什么意思。四次有 \(2^4=16\) 种等可能序列。若观察四次全正，单独这串概率1/16；双侧检验“偏离2个正面的期望至少同样多”，还要包含全反那一串，所以p值 \(2/16=0.125\)。它不是0，也不是“公平概率12.5%”。
样本很少时，四次全正看起来很整齐，仍不足以在预先约定的5%双侧规则下拒绝公平。检验先固定原假设与反常程度，再累加原假设下所有至少同样反常的结果；观察完才选择只看正面方向，会改变错误控制。然后再看本节100次的精确二项求和，动作完全相同，只是结果数量变多。
问题：一百次六十正，能说硬币有偏吗？
先把待检验说法叫原假设 \(H_0:p=1/2\)，对立说法为 \(H_1:p\ne1/2\)。我们不是先假定一定有偏再找理由，而是问：如果真的公平，当前或更极端的偏离有多常见？显著性水平事先定为 \(\alpha=0.05\)，意思是在公平模型下愿意容忍不超过约百分之五的误拒概率。
令正面数 \(X\sim\operatorname{Bin}(100,1/2)\)，观察为六十，距公平期望五十差十。双侧“至少同样极端”包含上尾 \(X\ge60\) 与下尾 \(X\le40\)，二者对称且不重叠。精确p值为：
上尾约零点零二八四四四，再乘二。它大于零点零五，所以这套双侧精确检验不拒绝公平。恰好六十正面的概率约零点零一零八四，不是p值：检验把更极端情况也算进去了。也不能将零点零五六九解释成“公平概率百分之五点六九”，那将 \(P(数据\mid模型)\) 倒成了 \(P(模型\mid数据)\)。
为什么粗略正态检验会给相反结论
公平时计数标准差五，六十正对应 \(z=(60-50)/5=2\)，直接标准正态双侧尾概率约零点零四五五，会低于阈值。离散计数的“至少六十”对应连续近似应从五十九点五起，上尾标准化 \((59.5-50)/5=1.9\)，双侧约零点零五七四，更接近精确值。临界附近不能隐藏近似方式；这也说明“z超过一点九六”不是所有小样本离散问题的最终裁决。
两类错与功效，分别站在哪个真实世界里看
第一类错误是硬币本来公平却被拒绝；水平控制的是这一错误概率。第二类错误是真有某种偏差却未拒绝；功效是当那个具体偏差真实存在时，检验成功发现它的概率，即一减第二类错误率。未拒绝既可能是真公平，也可能只是数据少看不出来，不等于确认模型。
用一个更方便手算的正态均值例子看功效：独立观测方差一，检验均值零，双侧百分之五规则是 \(|\sqrt n\bar X|\gt1.96\)。若真均值为 \(0.5\)，该标准化量均值变 \(0.5\sqrt n\)，标准差仍一。取 \(n=32\)，均值 \(2.828\)。超过上临界的概率为 \(P(Z\gt1.96-2.828)=P(Z\gt-0.868)\approx0.807\)，另一端拒绝概率极小，因此功效约百分之八十一。样本规划必须先指定希望发现多大的偏差，不可能用一个固定样本量“检测所有非零效应”。
试二十个因子后只报最显著者，哪里变了
若二十个零假设全真，各检验独立且误报率百分之五，一个都不误报概率 \(0.95^{20}\approx0.358486\)，至少一个误报概率 \(1-0.95^{20}\approx0.641514\)。挑出最漂亮的p值后，不能继续把它按仅检验一次解读。
若想控制“整组至少误报一次”不超过零点零五，可给每个检验阈值 \(0.05/20=0.0025\)。因为并集概率不超过各事件概率之和，这种Bonferroni校正不依赖检验相互独立。它可能保守，但比忽视选择过程合理。看着结果再加样本、反复调标签或试模型也是多次机会，需事先设计序贯规则或保留完全未参与选择的数据。最后，统计显著仅表示证据与零模型冲突，不自动表示效应大、更不保证覆盖交易成本。
岗位重点 · 按交易／研究方向加练
G · 拟合出一条线之后，还要问线有多确定、为何有斜率
20 · 回归推断、遗漏变量与异方差
慢读连接：把当前这一步跟算出来
把本节三点回归的两条方程真正消元。数据(0,1)、(1,2)、(2,2)，预测a+bx，误差依次 \(1-a,\ 2-a-b,\ 2-a-2b\)。平方和对a的导数是三项误差各乘−2，设零等价 \(5-3a-3b=0\)，即3a+3b=5。
对b求导时，三条预测随b的变化分别为0、1、2，所以误差加权为 \(0(1-a)+1(2-a-b)+2(2-a-2b)=6-3a-5b=0\)，即3a+5b=6。第二式减第一式给2b=1，故b=1/2；回代3a+3/2=5，得a=7/6。这才是“求导后得到正规方程”的具体运算。后面的参数标准误还需噪声模型，不能仅凭这两条代数等式就声称斜率有统计证据。
从三点手算一条回归线
观测点为 \((0,1),(1,2),(2,2)\)。用直线 \(\hat y=a+bx\) 预测，残差是实际减预测 \(e_i=y_i-a-bx_i\)。最小二乘让 \(Q=\sum e_i^2\) 最小。对截距求导为 \(-2\sum e_i=0\)，所以 \(a=\bar y-b\bar x\)；对斜率求导为 \(-2\sum x_ie_i=0\)，代前式后得到：
本例 \(\bar x=1,\bar y=5/3\)。自变量偏差 \((-1,0,1)\)，目标偏差 \((-2/3,1/3,1/3)\)。分子逐项 \(2/3+0+1/3=1\)，分母 \(1+0+1=2\)，所以斜率 \(\hat b=1/2\)，截距 \(5/3-1/2=7/6\)。三个预测值为 \(7/6,10/6,13/6\)，残差为 \(-1/6,1/3,-1/6\)，平方和 \(1/36+1/9+1/36=1/6\)。
检查：残差和为零，残差乘自变量偏差后也和为零。这两条是求导强制得到的代数性质，即使真实数据生成含偏差也会成立，不能拿它们当作“没有遗漏变量”的证据。
从拟合到推断：标准误需要额外噪声假设
设真实生成规则为 \(Y_i=a+bx_i+\varepsilon_i\)，自变量位置视为固定，噪声独立、平均零、方差同为 \(\sigma^2\)。其中“给定自变量仍均值零”排除了系统性漏项与自变量一起变化。把模型代回斜率公式，得到 \(\hat b-b=\sum(x_i-\bar x)\varepsilon_i/S_{xx}\)，其中 \(S_{xx}=\sum(x_i-\bar x)^2\)。
独立使加权噪声方差相加，于是 \(\operatorname{Var}(\hat b\mid x)=\sigma^2\sum(x_i-\bar x)^2/S_{xx}^2=\sigma^2/S_{xx}\)。用数据估噪声方差时，已经拟合截距、斜率两个参数，所以 \(s^2=\operatorname{SSE}/(n-2)\)。本例 \(n=3\)，只有一个残余自由度，\(s^2=1/6\)，斜率标准误 \(\sqrt{(1/6)/2}=1/\sqrt{12}\approx0.288675\)。
若还假设噪声正态，检验真实斜率零的统计量 \(t=0.5/0.288675\approx1.732\)，服从自由度一的t模型，而不是标准正态。自由度一的双侧百分之五临界值约十二点七零六，远大于一点九六，所以这三点绝不能据正斜率就宣布显著。小数据可能画出漂亮的线，却给很不确定的系数。
遗漏变量怎样进入斜率
设真实模型其实为 \(Y=\beta X+\gamma Z+\varepsilon\)，但拟合时没放 \(Z\)。总体线性斜率是 \(\operatorname{Cov}(X,Y)/\operatorname{Var}(X)\)。协方差对加法线性，若 \(\operatorname{Cov}(X,\varepsilon)=0\)，展开为：
例如真实直接效应 \(\beta=1\)，遗漏市场因子系数 \(\gamma=2\)，且 \(\operatorname{Var}(X)=1,\operatorname{Cov}(X,Z)=1\)，回归会看到斜率三，而非一。额外的二来自市场共同变化，不能都归给信号本身。预测相关与因果效应因此不是同一个目标。
噪声不一样大时，为什么只改标准误还不够
若第 \(i\) 个噪声方差为 \(\sigma_i^2\)，称异方差。斜率方差应改为 \(\sum(x_i-\bar x)^2\sigma_i^2/S_{xx}^2\)，不再能提出一个共同 \(\sigma^2\)。稳健标准误用残差平方等估各样本贡献；时序相关时还须补不同日期噪声的交叉项，常用HAC或适当聚类方法估计。它们是在修正不确定性估计，不会把遗漏变量造成的错误斜率自动变回一。先问模型均值是否合理，再问误差结构如何，最后才报告t值与区间。
岗位重点 · 按交易／研究方向加练
G · 让已有数据重新扮演一次总体，但别忘记它只是近似
21 · Bootstrap与置换检验
慢读连接：把当前这一步跟算出来
重采样不是重新排列，先看数量。原样本只有1与3，抽两次且每次放回，会产生(1,1)、(1,3)、(3,1)、(3,3)，前后顺序不同但均值相同的两种都必须计数。均值为1、2、2、3，概率各1/4；它们构成一个完整的经验模型分布，所以总体方差除以4，得到 \((1+0+0+1)/4=1/2\)。
如果不是枚举全部可能，而是随机运行B次程序，所得到的B个均值只是对这个分布的模拟样本，用B−1构造样本方差估计是另一项动作。不要因为两段算式都含平方和，就一律用同一个分母。增加B只降低模拟近似误差，不会增加原始样本数n，也不会补出原样本没见过的尾部。
问题：不知道总体公式，怎样看看平均值有多不稳？
只有两个观测一与三，样本平均二。如果能从真实总体重新抽很多批两样本，就能看到平均值每次怎样变化；但总体未知，也往往不能重做实验。Bootstrap的想法是把当前样本当作总体的一个近似：只给一与三各一半概率，再从这两个值中有放回抽两次。放回表示抽到一之后下一次仍可抽到一，而非用完就移除。
全部重采样结果只有四种有序组合：\((1,1),(1,3),(3,1),(3,3)\)，各概率四分之一。对应平均 \(1,2,2,3\)。这些均值的平均仍二，它们的精确方差为 \([(1-2)^2+0+0+(3-2)^2]/4=1/2\)，标准差 \(1/\sqrt2\approx0.707107\)。这就是在经验总体模型下，二样本平均的波动尺度。
注意这个零点七零七不是“真实未知总体下标准误已经被证明如此”。经验分布只在一与三有概率，看不见样本没覆盖的极端结果；样本只有两个时，它可能是很差的总体近似。Bootstrap不是从无到有创造信息，而是估计已有样本所暗示的不确定性。
数据多时怎样操作，分母为什么是重复次数减一
原样本有 \(n\) 个，每次从它们中有放回抽 \(n\) 个，重新算关心的统计量，比如均值、中位数或回归斜率。重复 \(B\) 次，得 \(\hat\theta_1^*,\ldots,\hat\theta_B^*\)，星号表示重采样结果。先算重复平均 \(\bar\theta^*=\sum_b\hat\theta_b^*/B\)，再算这些重复结果的样本标准差：
若五次结果刚好为一、二、二、三、二，重复平均二，离差平方和二，除四得方差二分之一，开根仍零点七零七。这里五次是随机模拟样本，用减一估计重采样分布方差；前面完整枚举四个等概率结果时是在计算那个分布的精确方差，分母四，两者不能混为一个公式。
简单区间法可取重采样统计量的百分之二点五与九十七点五分位数，称百分位区间。但偏差明显、参数在边界或统计量是最大值时可能失败：从当前样本抽取的最大值永远不超过原最大值，无法自动模拟未知上界之上的可能观测。不能只因模拟次数很大，就保证覆盖率准确。
置换检验问的是另一件事
两组数据，甲为一、二，乙为三、四，观察均值差“乙减甲”为二。若原假设为两组来自相同分布，且分组标签在零假设下可以交换，我们固定四个数不变，只重新挑哪两个贴甲标签。共有 \(\binom42=6\) 种：
甲分别为 \(\{1,2\},\{1,3\},\{1,4\},\{2,3\},\{2,4\},\{3,4\}\)，对应乙减甲均值差为 \(2,1,0,0,-1,-2\)。双侧至少与观察绝对差二同样极端的只有首尾两种，所以精确p值 \(2/6=1/3\)，证据不强。
Bootstrap为逼近估计量采样波动而重新抽观测；置换为构造“原假设成立时会看到什么差异”而打乱标签，数据值本身不变。能交换标签是一项分布假设：若两组本来时间不同、有不同方差或随机分派不允许任意交换，未必合法。若只随机模拟部分置换，常用“极端次数加一，除以模拟次数加一”的规则避免错误报告零p值；完整枚举时则直接用精确比例。
金融时间序列为什么要按块抽
若收益连续几天同向，逐日随机重采样会拆散这种依赖，常低估均值或策略路径的波动。块Bootstrap把连续若干天作为一个整体重抽，尽量保留块内结构；块太短保留不了依赖，太长又只有少数有效块。模型比较若在同一日期分别计算两模型损失，应按同日期成对抽，不能两模型各抽各的。若统计量包含训练与特征选择，每轮还须重做相应步骤，否则估的只是“给定已训练模型”的条件波动，而非整个研究流程的不确定性。
岗位重点 · 按交易／研究方向加练
H · 每行数据都有时间位置，前后不是任意交换
22 · 平稳性、AR(1)与随机游走
问题：今天的冲击，到明天还留多少？
用 \(X_t\) 表示第 \(t\) 期一个偏离平均的量，模型 \(X_t=0.5X_{t-1}+\varepsilon_t\)。\(\varepsilon_t\) 是这期新来的冲击，假设各期独立、与过去独立，且等概率为正一或负一，所以均值零、方差一。只依赖前一期的线性形式称一阶自回归，常写AR(1)。先从 \(X_0=0\) 开始看几步。
第一期 \(X_1=\varepsilon_1\)，方差一。第二期 \(X_2=0.5\varepsilon_1+\varepsilon_2\)，方差 \(0.25+1=1.25\)。第三期 \(X_3=0.25\varepsilon_1+0.5\varepsilon_2+\varepsilon_3\)，方差 \(0.0625+0.25+1=1.3125\)。旧冲击的系数每期再乘一半，作用逐渐衰减。
一般 \(X_t=\sum_{j=0}^{t-1}(0.5)^j\varepsilon_{t-j}\)，方差是 \(1+1/4+1/16+\cdots\)，趋向 \(1/(1-1/4)=4/3\)。从固定零起步的初期方差仍在变，所以不能宣称这条有限初始化序列从第一期就平稳；它是在逐渐靠近一个稳定分布。
弱平稳究竟要求什么
弱平稳要求三件二阶性质：每期均值相同、每期方差相同、两期协方差只依赖间隔而不依赖日历位置。若让模型在无限过去就已经运行，构造 \(X_t=\sum_{j=0}^{\infty}\phi^j\varepsilon_{t-j}\)，且 \(|\phi|\lt1\)，平方系数和收敛，就能得到相应平稳版本。它的方差也可从一步关系推出：
等式中的交叉项零来自新冲击与旧状态独立。若 \(\phi=0.5,\sigma_\varepsilon^2=1\)，得 \(v=4/3\)，与展开一致。协方差 \(\operatorname{Cov}(X_t,X_{t-1})=\phi v\)，因为新冲击不与旧状态共同变化；除以两边标准差乘积 \(v\)，相邻相关为 \(\phi\)。隔 \(k\) 期重复展开，相关为 \(\phi^k\)，本例依次一半、四分之一、八分之一。
随机游走为什么不满足这个稳定方差
把系数改成一，\(X_t=X_{t-1}+\varepsilon_t\)，每个旧冲击永远以系数一留在水平里。固定起点时 \(X_t=X_0+\sum_{i=1}^{t}\varepsilon_i\)，方差 \(t\sigma_\varepsilon^2\)，随时间增加，不存在前式有限稳定解。不能把 \(\phi=1\) 代进零分母后随意忽略；该条件明确失效。
差分 \(\Delta X_t=X_t-X_{t-1}=\varepsilon_t\) 却可以平稳。这解释为什么价格水平与收益/变化量应分别建模。两条互不相干的随机游走，在一段样本中都可能缓慢漂移，直接回归水平会显得相关，却不代表变化互相预测；必须检查趋势、差分和适当的共同长期关系，而非只看高拟合度。
不相关为什么仍可能有波动依赖
先随机选一个共同尺度 \(A\)，等概率为一或二；再每期独立抛公平符号 \(S_t\in\{-1,1\}\)，定义收益 \(R_t=AS_t\)。每期均值零。两期不同符号乘积平均零，所以 \(E[R_tR_s]=E[A^2]E[S_tS_s]=0\)，原收益不相关。但是平方 \(R_t^2=A^2\) 每期完全一样：一旦看到平方四，就知道之后平方也四，明显有依赖。
这类例子说明白噪声通常只说零均值、常方差、不同时点不相关，不保证独立；收益线性相关不明显，也可能在平方收益中存在波动结构。金融数据还可能改变参数或均值，历史上近似平稳并不保证未来永远平稳。验证应按过去训练未来预测的顺序，不能随机打乱时间后用高分证明可交易。
岗位重点 · 按交易／研究方向加练
H · 先把收益单位与执行动作写清，统计优势才有落点
23 · 从信号到执行：期望、风险与交易成本
问题：预测平均涨四基点，为什么合理动作可能是不交易？
假设一单位资金做一笔完整往返交易，预测毛收益四基点，但买卖费用、价差与滑点合计五基点。基点是 \(0.01\%\)，所以毛收益 \(0.0004\)、成本 \(0.0005\)，净平均 \(-0.0001\)，即负一基点。即使预测方向经常正确，这笔操作的期望仍为负；不交易的净变化零，反而更好。
方向正确率不等于平均盈利。例如十分之九的交易赚一元，十分之一亏二十元，平均 \(0.9(1)+0.1(-20)=-1.1\) 元。胜率高并未消除尾部大亏。先写所有可能收益及概率，再扣完整成本，不能把“预测正确”直接翻译成“该买”。
加入仓位大小与风险，构造一个可手算决策模型
令 \(w\) 是投入的资金比例，允许正数做多、负数做空，初始仓位零。每单位仓位预期毛收益 \(\mu\)，收益方差 \(\sigma^2\gt0\)，完整往返线性成本 \(c|w|\)。为了不让仓位无限大，引入风险惩罚 \((\gamma/2)w^2\sigma^2\)，其中 \(\gamma\gt0\) 是对风险的重视程度。这里是明确写出的教学目标，不声称所有投资者都用这一偏好：
第一项按比例获得期望收益；第二项无论买或卖都付正成本，因此取绝对值；第三项按仓位平方增加，因为收益乘 \(w\)，方差就乘 \(w^2\)。系数二分之一只是让后面求导时二抵消，不是额外费用。
正仓位分支，把每一步导数展开
若 \(w\gt0\)，绝对值等于 \(w\)，目标变成 \(w(\mu-c)-\gamma\sigma^2w^2/2\)。求导为 \(J'(w)=\mu-c-\gamma\sigma^2w\)。令零得候选 \(w=(\mu-c)/(\gamma\sigma^2)\)。它只有在 \(\mu\gt c\) 时才真落在正半轴；若 \(\mu\le c\)，正半轴一开始导数就不正，最优不应勉强报一个负“正仓位”。
数值取 \(\mu=0.02,c=0.005,\sigma^2=0.04,\gamma=2\)。剩余优势 \(0.02-0.005=0.015\)，风险系数 \(2\times0.04=0.08\)，所以最优正仓位 \(0.015/0.08=0.1875\)。该仓位毛期望 \(0.00375\)，成本 \(0.0009375\)，风险惩罚 \(0.04\times0.1875^2=0.00140625\)，净目标 \(0.00140625\)。
用较大仓位四分之一检查：毛期望 \(0.005\)，成本 \(0.00125\)，风险项 \(0.0025\)，目标 \(0.00125\)，确实低于前者。二阶导 \(-\gamma\sigma^2\lt0\)，所以该半轴候选唯一最高，不是碰巧挑中一个好例子。
负仓位与零仓位怎样拼起来
若 \(w\lt0\)，则 \(|w|=-w\)，目标线性部分变成 \(w(\mu+c)\)，导数给 \(w=(\mu+c)/(\gamma\sigma^2)\)，只有 \(\mu\lt-c\) 时合法。若 \(-c\le\mu\le c\)，向任何一边走都先付出超过预测优势的成本，所以最优为零。综合：
这个“先减门槛，没超过就归零”的动作常叫软阈值。实际若已有旧仓位，成本通常依赖换仓量 \(|w-w_0|\)，零交易区会围绕旧仓位而非零仓；若不能卖空、有杠杆上限或冲击非线性，要把相应约束放进去重解。完整验证链应为：预测给出什么条件收益→决策怎样转成仓位→订单如何成交→完整成本后得到什么净收益。任何一层只展示理想分数，都还没有回答策略能否有效执行。
选读附录：第一轮复习可以跳过
下列知识可用于特定岗位追问；先完成核心题目的独立解答，再按需要补充。
附录选读 · 基础完成后再学
D · 数值变了，概率总量不能变
12 · 变量变换、雅可比与比值
先做一维：把尺子拉长，密度为什么变矮
令 \(X\) 在 \([0,1]\) 均匀，密度一。把每个结果乘二，定义 \(Y=2X\)，新范围 \([0,2]\)。\(Y\) 落在宽零点二的区间 \([1,1.2]\)，等价 \(X\in[0.5,0.6]\)，概率零点一。因此新密度是概率除新宽度，即 \(0.1/0.2=0.5\)。坐标拉长两倍，同一概率要铺在两倍宽度上，密度就减半。
正式地，\(F_Y(y)=P(X\le y/2)=y/2\)，在零至二之间求导得 \(f_Y(y)=1/2\)。一般单调可逆变换 \(Y=g(X)\)，先把新坐标换回旧坐标，再乘旧宽度对新宽度的比例：
绝对值确保密度非负；若变换递减，区间方向会反转，但宽度仍为正。不是把 \(y\) 填进旧密度就完成，还必须补这个宽度比例。
非线性例子：平方后为什么不再均匀
仍取零到一均匀数，定义 \(Z=X^2\)。对 \(0\le z\le1\)，\(Z\le z\) 等价 \(X\le\sqrt z\)，所以 \(F_Z(z)=\sqrt z\)，密度 \(1/(2\sqrt z)\)。平方会把小数挤到更靠近零的位置，近零密度变高是合理的。虽然密度趋无限，总面积 \(\int_0^1[1/(2\sqrt z)]dz=[\sqrt z]_0^1=1\)，仍是合法概率。
手算检查：\(P(Z\le1/4)=P(X\le1/2)=1/2\)。若错误把 \(Z\) 当均匀则会答四分之一。若原变量可正可负，平方不是一对一，同一个新值可能有正负两个旧来源，就要把两个来源的密度贡献相加，不能只保留正平方根。
二维比值：为什么要多一个雅可比因子
令 \(X,Y\) 独立均匀于 \([0,1]\)，求比值 \(R=X/Y\) 的分布；\(Y=0\) 的概率零，可忽略该点。比值一个数不足以恢复两个原数，因此另保留 \(V=Y\)。逆变换是 \(X=RV,Y=V\)。固定 \(v\) 时，\(r\) 变化一点 \(dr\)，原横坐标变化 \(dx=v\,dr\)，而竖向仍 \(dy=dv\)；小矩形面积被放大 \(v\) 倍。
这个二维面积比例叫雅可比绝对值。本例逆变换导数矩阵为 \(\begin{pmatrix}v&r\\0&1\end{pmatrix}\)，行列式 \(v\times1-r\times0=v\)。原联合密度是一，新坐标联合密度因此是 \(v\)，但只能在原范围对应的区域：\(0\le v\le1\)、\(0\le rv\le1\)。
若 \(0\le r\le1\)，全部 \(0\le v\le1\) 合法，积分消去不关心的 \(v\)：\(f_R(r)=\int_0^1v\,dv=1/2\)。若 \(r\gt1\)，必须 \(v\le1/r\)，所以 \(f_R(r)=\int_0^{1/r}v\,dv=1/(2r^2)\)。负比值不可能，密度零。
归一化检查：零到一面积一半，一到无穷 \(\int_1^\infty1/(2r^2)dr=1/2\)，合计一。更直观地，\(R\le1\) 就是 \(X\le Y\)，单位正方形正好一半，也对应前段累计概率一半。比值可以任意大，因为分母可能极接近零；不能仅凭分子分母都有限，就认为比值也有固定上界。
做任何变量变换都依次写旧支持集、逆变换、新支持集、长度或面积比例，再积分。雅可比不是另一条神秘概率定律，只是保证改变坐标后，同一块结果的总概率不变。
附录选读 · 基础完成后再学
H · 非线性函数不能穿过平均号随意互换
24 · Jensen不等式、对数增长与矩母函数
问题：平均收益零，反复投资为什么仍会缩水？
资产每期独立，等概率涨一半或跌一半。算术平均收益 \([0.5+(-0.5)]/2=0\)。但一次涨一次跌，本金一变成 \(1\times1.5\times0.5=0.75\)，不是回到一。先跌再涨乘积相同。因为亏去一半后，要涨一倍才回本，涨跌相同百分比并不互相抵消。
连乘财富适合取对数：\(\log(W_n/W_0)=\sum_{t=1}^{n}\log(1+R_t)\)。各期对数增长平均为 \([\log1.5+\log0.5]/2=\tfrac12\log0.75\approx-0.143841\)。独立同分布下长期每期平均对数增长接近这个负值，所以典型复利路径缩水。尽管有限期财富的算术期望仍可保持本金，少数大结果会支撑它；“平均财富”与“典型路径增长”不是同一目标。
Jensen到底在比较哪两个先后顺序
对数曲线向下弯，称凹函数。先将两个正数 \(a,b\) 平均再取对数，至少与分别取对数再平均一样大。两点等权时可从普通平方非负证明：\((\sqrt a-\sqrt b)^2\ge0\)，所以 \((a+b)/2\ge\sqrt{ab}\)。对两边取递增的对数，得 \(\log[(a+b)/2]\ge(\log a+\log b)/2\)。
一般概率加权的版本叫Jensen不等式，凹函数满足 \(E[f(X)]\le f(E[X])\)，凸函数则反向。代单期财富倍率 \(X=1+R\)，左边本例负零点一四三八，右边 \(\log E[X]=\log1=0\)，方向正确。若直接把期望放进对数当相等，正是漏掉了波动对增长的影响。
凯利比例：有优势也不必全押
换一个赌局：每局赢概率零点六、输概率零点四，赢时下注净赚同额，输时下注全损。每次押当前财富比例 \(f\in[0,1]\)，赢后倍率 \(1+f\)，输后 \(1-f\)。长期对数目标：
内部求导 \(g'(f)=0.6/(1+f)-0.4/(1-f)\)。设零并同乘正分母，\(0.6(1-f)=0.4(1+f)\)，展开 \(0.6-0.6f=0.4+0.4f\)，得 \(f=0.2\)。二阶导 \(-0.6/(1+f)^2-0.4/(1-f)^2\lt0\)，所以是唯一最大。全押 \(f=1\) 时，一次输就财富零，对数为负无穷，尽管单期金额期望为正也不适合该目标。估计胜率错误或赌局相关会改变比例，不能把教学数字当真实下注建议。
矩母函数：用一个参数把不同次数的矩装起来
令 \(X\) 等概率为零或一，定义 \(M_X(t)=E[e^{tX}]=(1+e^t)/2\)。\(t\) 是人为选择的数，不是时间；它控制放大大结果的程度。求导 \(M'_X(t)=e^t/2\)，在零处为一半，等于 \(E[X]\)；再求导零处仍一半，等于 \(E[X^2]\)。一般在可合法交换求导与平均且函数存在的邻域，\(M_X^{(k)}(0)=E[X^k]\)，所以叫矩母函数。
从指数平均到尾概率上界：逐步做一次Chernoff界
十次独立公平币正面总数 \(S\)，求至少八正的概率上界。对任意 \(t\gt0\)，事件 \(S\ge8\) 上，\(e^{tS}\ge e^{8t}\)。因此整个指数平均至少为该事件贡献 \(e^{8t}P(S\ge8)\)，移项：
最后等式用了独立：和的指数是各指数乘积，独立时平均乘积可拆。现在选让上界最小的 \(t\)。取对数后求导 \(-8+10e^t/(1+e^t)=0\)，解 \(e^t=4\)，即 \(t=\log4\)。上界为 \(2.5^{10}/4^8\approx0.145519\)。精确二项尾概率为 \([\binom{10}8+\binom{10}9+\binom{10}{10}]/2^{10}=56/1024=0.0546875\)，确低于上界；界不是精确值，但可迁移到不易枚举的独立和。
有些重尾分布即使若干矩存在，正参数的指数平均也可能无限，此时这条上界没有实用信息。近似式 \(\log(1+r)\approx r-r^2/2\) 也只适合小收益，接近全损时完全不可靠。遇到非线性期望，先区分先平均还是先变换，再核对存在性与近似范围；这是本书从概率计算走到统计决策的最后一条共同习惯。
闭卷复习：检验是否真正掌握
- 任选一节，只凭标题复原例子的计算，不能只背最终数字。
- 把独立改成相关、把已知参数改成未知、把固定样本量改成停止规则，说明哪一步需要重写。
- 给出一个反例：解释公式在什么情况下不能用，再说可用的替代方法。
- 用两分钟把题目讲给同事：设定 → 核心工具 → 推导 → 数值检查 → 边界。
证据边界与资料索引
本套笔记是独立编写的教学路线和例题，不是公司真题转录，也不声称覆盖某家公司的所有题目。官方招聘材料只支持能力方向；每节的学习优先级是按概念依赖和迁移范围作出的教学判断，没有未经证实的考题频率排名。招聘流程与网页可能变化，适用范围以具体岗位与招聘方说明为准。
- Jane Street · Probability & Markets：官方明确列出概率、期望与做市等基础准备方向；不等于每一道题都会考。
- Jane Street · Interviewing：区分交易、研究与机器学习面试，研究与交易及工程能力交叉。
- Citadel · Quantitative Research FAQ：明确概率统计、数据分析、预测模型与编程能力。
- Citadel · QR interview process：强调编程、研究、数据结构算法与解释解题过程。
- MIT 6.041SC · Probabilistic Systems Analysis and Applied Probability：概率模型、离散/连续变量、随机过程、大数定律与推断的原始教学课程；适合作为推导与练习的进一步阅读。
- An Introduction to Statistical Learning · 作者官网：回归、重采样、多重检验等章节及免费教材入口。
- scikit-learn · Cross-validation：训练/验证/测试边界、预处理泄漏与时间序列验证。
公式中的默认假设在各节列出。市场数据的非平稳、重尾、依赖与执行成本会破坏课堂模型；数学例题的正确不构成策略可盈利证据。