<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Wasserstein 距離 on Intellectual Guides</title><link>https://ckw19810413.github.io/tags/wasserstein-%E8%B7%9D%E9%9B%A2/</link><description>Recent content in Wasserstein 距離 on Intellectual Guides</description><generator>Hugo -- gohugo.io</generator><language>zh-TW</language><lastBuildDate>Fri, 16 Oct 2026 08:00:00 +0800</lastBuildDate><atom:link href="https://ckw19810413.github.io/tags/wasserstein-%E8%B7%9D%E9%9B%A2/index.xml" rel="self" type="application/rss+xml"/><item><title>研究生知識寓言：將軍的糧山與最省的運糧路</title><link>https://ckw19810413.github.io/blog/2026-10-16-optimal-transport-fable/</link><pubDate>Fri, 16 Oct 2026 08:00:00 +0800</pubDate><guid>https://ckw19810413.github.io/blog/2026-10-16-optimal-transport-fable/</guid><description>&lt;p&gt;大荒之年，「蒙日（Monge）」城。&lt;/p&gt;
&lt;p&gt;那一年，大饜降臨蒙日城。城外有&lt;strong&gt;九個缺糧的鄉區&lt;/strong&gt;（一號區到九號區），每個鄉區餓著的人多寡不等——一號區有百戶，九號區只三五戶；而城內有&lt;strong&gt;七座去年囤糧的倉廩&lt;/strong&gt;（A 到 G），每座倉裡的糧山也高矮不同——A 倉堆得比屋頂還高，G 倉卻只餘一隅。&lt;/p&gt;
&lt;p&gt;不過，「城裡的糧」與「鄉下要養的嘴」加在一起，&lt;strong&gt;恰好相等&lt;/strong&gt;。這本是老天爺的安排；若不相等，這場饞災就要更慘。&lt;/p&gt;
&lt;p&gt;國王把將軍召進宮，只下一道令：&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;「把城裡的糧&lt;strong&gt;全部&lt;/strong&gt;運出去，送到各鄉區。但你要記住——&lt;strong&gt;每一斗糧都要有著落，一斗都不能糟蹋。&lt;/strong&gt;」&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;將軍的難題，其實是兩件事纏在一處：&lt;/p&gt;
&lt;ol&gt;
&lt;li&gt;&lt;strong&gt;每座倉，該往各鄉區送多少？&lt;/strong&gt;（糧山怎麼分）&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;每條路多遠、費幾車幾斗？&lt;/strong&gt;（運輸的代價）&lt;/li&gt;
&lt;/ol&gt;
&lt;p&gt;這兩件事牽一髮動全身：路越遠，運一斗越貴；某條路送得越多，總代價就越高。既要餵飽鄉下、又要省代價，兩頭必須同時兼顧。&lt;/p&gt;
&lt;p&gt;將軍冥思苦想三日，定了一條鐵律：&lt;strong&gt;「每座倉，只指派一個鄉區，把全倉的糧都送過去，絕不分送。」&lt;/strong&gt; 他把這套規則畫在軍令圖上——每座倉是一隻箭，只許指向一個目標。他稱這為「&lt;strong&gt;圖（map）&lt;/strong&gt;」：一座倉、一個目的地，不允許分送。&lt;/p&gt;
&lt;p&gt;圖畫好了，車隊開拔。但沒幾日，C 倉的老管倉就衝進帳中喊冤：&lt;/p&gt;
&lt;p&gt;「將軍！我倉的糧山&lt;strong&gt;太大&lt;/strong&gt;了。全送一號區，一號區受不住（它要的量只有那麼多），多出來的糧要爛在倉裡；全送四號區，路又太远。可一號區&lt;strong&gt;和&lt;/strong&gt;四號區&lt;strong&gt;都&lt;/strong&gt;在餓肚子啊……」&lt;/p&gt;
&lt;p&gt;將軍愣住了。他的「一倉一区」鐵律，&lt;strong&gt;被 C 倉打破了&lt;/strong&gt;——C 倉的糧&lt;strong&gt;必須拆開&lt;/strong&gt;，一半送一號、一半送四號。可全軍沒有一個人，被教導過「拆糧」該怎麼拆。&lt;/p&gt;
&lt;hr&gt;
&lt;h3 id="二學者的覺悟"&gt;二、學者的覺悟
&lt;/h3&gt;&lt;p&gt;此時，一位白鬚學者「坎托羅維奇（Kantorovich）」路過蒙日城。聽將軍嘆氣，他笑說：&lt;/p&gt;
&lt;p&gt;「你問錯了問題。你問的是『&lt;strong&gt;每一斗糧，送到哪個區？&lt;/strong&gt;』——那叫&lt;strong&gt;圖&lt;/strong&gt;，一斗只去一個地方，不許分。可天地並不總是這樣。&lt;strong&gt;有些時候，你非分不可。&lt;/strong&gt;」&lt;/p&gt;
&lt;p&gt;「你該問的是：『&lt;strong&gt;全城的帳，記下每座倉往每個區各送了多少&lt;/strong&gt;』——那不是圖，那是一張&lt;strong&gt;帳（plan）&lt;/strong&gt;。一紙完整的帳，記下&lt;strong&gt;每一條路線&lt;/strong&gt;：A 倉送一號幾斗、B 倉送五號幾斗……一張合規的帳，只有三條鐵則：&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;一、每座倉&lt;strong&gt;送出&lt;/strong&gt;的量，恰好等於它有的量（不多送、不少送）；
二、每個區&lt;strong&gt;收到&lt;/strong&gt;的量，恰好等於它要的量（不多收、不少收）；
三、每條路線的代價，等於「&lt;strong&gt;路距 × 送去的量&lt;/strong&gt;」。&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;「在所有合規的帳裡，&lt;strong&gt;總代價最小&lt;/strong&gt;的那張，就是&lt;strong&gt;最省的運法&lt;/strong&gt;。而這個最小代價，本身，就是七座倉與九個鄉區之間的『距離』。糧送得越貴，兩堆分布就離得越遠。學者把這距離叫作『&lt;strong&gt;推土機距離&lt;/strong&gt;』——彷彿你得把整堆土挖起來，搬去新地方。」&lt;/p&gt;
&lt;p&gt;將軍愕然：「所以，『兩個分布的距離』，就是『把所有糧搬過去的最省代價』？」&lt;/p&gt;
&lt;p&gt;「正是。而且這距離，有一個普通距離&lt;strong&gt;沒有&lt;/strong&gt;的美德：&lt;strong&gt;它懂糧山的形狀&lt;/strong&gt;。把一座糧山往右挪一步，距離只變一點；把一座糧山拆成兩堆、拋到兩頭，距離會驟增。它&lt;strong&gt;知道&lt;/strong&gt;糧在哪裡——不像只盯著「重心」的普通距離。用它量「今年的倉位分布」與「去年的」，將軍一眼就看得出：糧究竟往哪裡移、移了多少。」&lt;/p&gt;
&lt;hr&gt;
&lt;h3 id="三稽核官的證明"&gt;三、稽核官的證明
&lt;/h3&gt;&lt;p&gt;將軍仍煩惱：「合規的帳有&lt;strong&gt;千萬&lt;/strong&gt;張，我怎麼知道挑到了最省的那張？怎麼證明沒有更省的？」&lt;/p&gt;
&lt;p&gt;學者點頭，召來一位老「稽核官」。稽核官的工作，&lt;strong&gt;不是&lt;/strong&gt;畫帳，而是&lt;strong&gt;定價&lt;/strong&gt;。&lt;/p&gt;
&lt;p&gt;「我在&lt;strong&gt;每座倉&lt;/strong&gt;、&lt;strong&gt;每個區&lt;/strong&gt;，都貼一張價牌。但價牌要守一條鐵律：『&lt;strong&gt;倉上的價&lt;/strong&gt; 加上 &lt;strong&gt;區上的價&lt;/strong&gt;』，&lt;strong&gt;永遠不得超過&lt;/strong&gt;那條路的運糧代價。換句話說：我把倉上的價墊高，就得把目的地的價壓低——&lt;strong&gt;兩頭不能同時貪高。&lt;/strong&gt; 這規則，防止有人靠抬價把總帳做假。」&lt;/p&gt;
&lt;p&gt;稽核官貼完價，再把「倉價 × 該倉送出的量」與「區價 × 該區收到的量」全加起來，交給將軍一個數字。&lt;/p&gt;
&lt;p&gt;將軍比對：稽核官這張「價證」的總和，&lt;strong&gt;恰好等於&lt;/strong&gt;他自己最省那張帳的總代價。任何一張帳，都不會比這張價證更省——&lt;strong&gt;因為每條路的「價差」都被「代價」卡死上緣，加總絕不可能超過真正的代價。&lt;/strong&gt; 這就是問題的「&lt;strong&gt;對偶&lt;/strong&gt;」：稽核官不搬糧，他只用&lt;strong&gt;價&lt;/strong&gt;，證明代價不可能低於某個數。&lt;strong&gt;最省的運糧成本 = 最大的價證。&lt;/strong&gt; 兩者一旦碰頭，就是最優解。&lt;/p&gt;
&lt;p&gt;學者把這張價證取名「&lt;strong&gt;對偶勢&lt;/strong&gt;（dual potentials）」。他說：「在千萬張帳無法逐一舉出時，稽核官的『價牌』，是你&lt;strong&gt;證明&lt;/strong&gt;最優的唯一法寶。這是整個數學裡，最美麗的對偶之一。」&lt;/p&gt;
&lt;hr&gt;
&lt;h3 id="四年輕學者的梯度定理"&gt;四、年輕學者的「梯度」定理
&lt;/h3&gt;&lt;p&gt;數年後，一位年輕學者「布涅爾（Brenier）」進城。聽完將軍的難題，他給出一個驚人斷言：&lt;/p&gt;
&lt;p&gt;「若代價是『&lt;strong&gt;距離的平方&lt;/strong&gt;』（路越遠越貴，且代價&lt;strong&gt;平方級&lt;/strong&gt;增长），且目的地的糧&lt;strong&gt;攤得夠勻&lt;/strong&gt;（沒把糧全堆成一坨），那麼最省的帳，&lt;strong&gt;永遠是一張乾淨的圖&lt;/strong&gt;——&lt;strong&gt;每一斗糧，恰好去一個地方，不必拆。&lt;/strong&gt;」&lt;/p&gt;
&lt;p&gt;將軍驚：「可 C 倉不是被迫拆糧嗎！」&lt;/p&gt;
&lt;p&gt;「布涅爾微笑：『因為你城的目的地是&lt;strong&gt;離散&lt;/strong&gt;的——九個鄉區，糧必須&lt;strong&gt;堆&lt;/strong&gt;成區，才被迫拆。但若目的地是&lt;strong&gt;連續&lt;/strong&gt;且&lt;strong&gt;攤開&lt;/strong&gt;的——像把水倒進一個廣盆——最省的方式，自然會乾淨：每斗糧流向恰好一個位置，而且&lt;strong&gt;流向永不交叉&lt;/strong&gt;。』」&lt;/p&gt;
&lt;p&gt;「那怎麼找這張圖？」&lt;/p&gt;
&lt;p&gt;「你只要找出&lt;strong&gt;一個&lt;/strong&gt;函數——一片&lt;strong&gt;凸&lt;/strong&gt;的景觀（像單底、無多窪的碗）——讓每斗糧沿著這景觀&lt;strong&gt;最陡&lt;/strong&gt;的方向流下。&lt;strong&gt;這凸景觀的梯度&lt;/strong&gt;，就是最優運輸圖。」&lt;/p&gt;
&lt;p&gt;將軍望著白髮學者、又望著年輕學者：「所以，『搬糧的最省方式』，跟『找一片凸景觀的梯度』，&lt;strong&gt;是同一件事&lt;/strong&gt;？」&lt;/p&gt;
&lt;p&gt;「正是。這是整個分析學裡最美麗的結果之一：&lt;strong&gt;二次距離成本下的最優傳輸問題，被約化為『求一個凸函數的梯度』。&lt;/strong&gt; 一個本該是組合噩夢的運輸問題，化成了研究&lt;strong&gt;單一&lt;/strong&gt;光滑函數。這，就叫&lt;strong&gt;布涅爾定理&lt;/strong&gt;。」&lt;/p&gt;
&lt;hr&gt;
&lt;h3 id="五工程師的熵把戲"&gt;五、工程師的「熵」把戲
&lt;/h3&gt;&lt;p&gt;將軍的頭痛還沒完：「我懂道理了，可我的帳有&lt;strong&gt;千萬&lt;/strong&gt;條路，怎麼&lt;strong&gt;算&lt;/strong&gt;得出最省的那張？」&lt;/p&gt;
&lt;p&gt;這時，一位異國工匠「辛克霍恩（Sinkhorn）」帶來新招。他說：&lt;/p&gt;
&lt;p&gt;「我幫你&lt;strong&gt;鬆&lt;/strong&gt;一點。別再堅持&lt;strong&gt;絕對&lt;/strong&gt;最省（它常常是極難算的&lt;strong&gt;尖角&lt;/strong&gt;），我加一條：&lt;strong&gt;讓帳有點『不確定』。&lt;/strong&gt; 也就是，允許糧對目的地&lt;strong&gt;不必&lt;/strong&gt;百分之百確定。這叫&lt;strong&gt;熵正則化&lt;/strong&gt;。代價會貴一丁點，但帳&lt;strong&gt;變光滑、變可算&lt;/strong&gt;。」&lt;/p&gt;
&lt;p&gt;「怎麼算？答案是手藝人用了兩千年的老招：&lt;strong&gt;矩陣縮放（matrix scaling）&lt;/strong&gt;——先把帳的&lt;strong&gt;每一行&lt;/strong&gt;（每座倉送出的量）重新縮放到正確；再把&lt;strong&gt;每一列&lt;/strong&gt;（每個區收到的量）縮放對；&lt;strong&gt;行、列、行、列&lt;/strong&gt;地輪流。&lt;strong&gt;每一輪，都更近一點&lt;/strong&gt;；&lt;strong&gt;幾輪&lt;/strong&gt;之後，就逼近答案。這&lt;strong&gt;極快&lt;/strong&gt;，遠勝直接解千萬個方程。」&lt;/p&gt;
&lt;p&gt;「我加的『不確定』，代價是帳&lt;strong&gt;略糊&lt;/strong&gt;。但工程師知道怎麼把不確定&lt;strong&gt;調低&lt;/strong&gt;——那叫&lt;strong&gt;溫度&lt;/strong&gt;。溫度越低，帳越接近&lt;strong&gt;真&lt;/strong&gt;的最優解；溫度&lt;strong&gt;歸零&lt;/strong&gt;，熵正則化的問題&lt;strong&gt;就變回&lt;/strong&gt;原來的最優傳輸問題。溫度，就是&lt;strong&gt;熵&lt;/strong&gt;本身。」&lt;/p&gt;
&lt;p&gt;將軍，終於全明白了。&lt;/p&gt;
&lt;hr&gt;
&lt;h3 id="六揭曉"&gt;六、揭曉
&lt;/h3&gt;&lt;p&gt;多年後，將軍寫書成冊。書的最後，他寫下這段話：&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;「你我談了這許多年——&lt;strong&gt;搬糧的最省方式、推土機距離、那張『帳』、稽核官的價證、年輕學者的梯度定理、工程師的熵把戲&lt;/strong&gt;——在今日的數學與機器學習裡，全部有一個名字：&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;最優傳輸（Optimal Transport）。&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;將軍求的那個『七座倉與九鄉區的距離』——&lt;strong&gt;把糧山全部搬過去的最小代價&lt;/strong&gt;——叫作 &lt;strong&gt;Wasserstein 距離&lt;/strong&gt;（又稱「推土機距離」），以俄國數學家 &lt;strong&gt;Kantorovich&lt;/strong&gt; 與法國數學家 &lt;strong&gt;Villani&lt;/strong&gt;（2010 年因最優傳輸獲&lt;strong&gt;菲爾茲獎&lt;/strong&gt;）命名。&lt;/p&gt;
&lt;p&gt;學者『圖可拆為帳』的覺悟，是 &lt;strong&gt;Kantorovich 鬆弛（1939）&lt;/strong&gt;；「價證」是 &lt;strong&gt;Kantorovich 對偶&lt;/strong&gt;與&lt;strong&gt;對偶勢&lt;/strong&gt;；「凸景觀的梯度」是 &lt;strong&gt;Brenier 定理（1991）&lt;/strong&gt;；「熵＋矩陣縮放」，是 &lt;strong&gt;Sinkhorn-Knopp 算法&lt;/strong&gt;與它的現代熵正則化版本（Cuturi, 2013, 《Sinkhorn Distances》）。&lt;/p&gt;
&lt;p&gt;而控制帳糊與不糊的&lt;strong&gt;溫度&lt;/strong&gt;，是&lt;strong&gt;熵正則化參數&lt;/strong&gt;——歸零時得到&lt;strong&gt;真&lt;/strong&gt;的 Wasserstein 距離，調大則得工程師用的&lt;strong&gt;平滑版&lt;/strong&gt;。」&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;「這理論，不只是『搬糧最省』的問題。它是&lt;strong&gt;整個數學&lt;/strong&gt;最活躍的一塊：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;Wasserstein GAN（2017）&lt;/strong&gt;：用生成器造圖，再用 &lt;strong&gt;Wasserstein 距離&lt;/strong&gt;量『兩堆圖像分布』的遠近——因為&lt;strong&gt;普通&lt;/strong&gt;距離&lt;strong&gt;不懂形狀&lt;/strong&gt;，無法&lt;strong&gt;引導&lt;/strong&gt;造圖；唯有 Wasserstein 懂，才能&lt;strong&gt;引導&lt;/strong&gt;得穩。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Schrödinger 橋（1932，2020 年代現代化）&lt;/strong&gt;：最優傳輸的&lt;strong&gt;動態&lt;/strong&gt;版——不是「一舉搬完糧」，而是「讓糧&lt;strong&gt;隨時間&lt;/strong&gt;流動」——&lt;strong&gt;總動能最小&lt;/strong&gt;的路徑。它連到&lt;strong&gt;量子力學&lt;/strong&gt;與&lt;strong&gt;深層學習&lt;/strong&gt;。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;梯度流&lt;/strong&gt;：&lt;strong&gt;Fokker-Planck 方程&lt;/strong&gt;（擴散如何散布）&lt;strong&gt;正是&lt;/strong&gt;「相對熵」對 &lt;strong&gt;Wasserstein 距離&lt;/strong&gt;的&lt;strong&gt;梯度流&lt;/strong&gt;。換句話說：&lt;strong&gt;擴散，就是糧沿著 Wasserstein 地形往低處流。&lt;/strong&gt;&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Hamilton-Jacobi 方程&lt;/strong&gt;：那張「價證」（對偶勢）與它的&lt;strong&gt;viscosity 解&lt;/strong&gt;，息息相關。」&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;將軍在書末，留下一句：&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;&lt;strong&gt;度量兩個機率分布的距離，最浪漫的方式，不是比它們的「中心」——而是把所有糧山挖起來、搬去新處、算出那筆「最省的代價」。這最省的代價，就是 Wasserstein 距離。&lt;/strong&gt;&lt;/p&gt;
&lt;/blockquote&gt;
&lt;hr&gt;
&lt;h2 id="概念解說"&gt;概念解說
&lt;/h2&gt;&lt;h3 id="1-什麼是最優傳輸"&gt;1. 什麼是最優傳輸？
&lt;/h3&gt;&lt;p&gt;1781 年，法國數學家 &lt;strong&gt;Antoine de Monge&lt;/strong&gt; 在《De la détermination des forces motrices des eaux》中問：給一座土堆，要「堆」成另一座山形，&lt;strong&gt;以最小運輸代價&lt;/strong&gt;（代價 = 距離 × 量）怎麼做？這叫「Monge 問題」。&lt;/p&gt;
&lt;p&gt;Monge 把它寫成&lt;strong&gt;確定性圖&lt;/strong&gt; T：「每斗土，恰好送到一個目的地」。問題在：&lt;strong&gt;這樣的圖不一定存在&lt;/strong&gt;，存在了也未必最優——比如一座土堆（一团質量）得&lt;strong&gt;拆開&lt;/strong&gt;送進兩座山谷，確定性圖辦不到。&lt;/p&gt;
&lt;p&gt;1939 年，俄國數學家 &lt;strong&gt;Vladimir Kantorovich&lt;/strong&gt; 做出關鍵&lt;strong&gt;鬆弛&lt;/strong&gt;：不找「圖」，改找一個定義在&lt;strong&gt;乘積空間&lt;/strong&gt; $X \times Y$ 上的&lt;strong&gt;聯合分佈（coupling）&lt;/strong&gt; $\pi$，它：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;在 $X$ 邊的&lt;strong&gt;邊緣&lt;/strong&gt;恰好是 $\mu$（來源分布）；&lt;/li&gt;
&lt;li&gt;在 $Y$ 邊的&lt;strong&gt;邊緣&lt;/strong&gt;恰好是 $\nu$（目標分布）。&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;代價是 $\int c(x,y), d\pi(x,y)$，在所有 coupling 裡取最小：&lt;/p&gt;
&lt;p&gt;$$
W_c(\mu,\nu) = \inf_{\pi \in \Pi(\mu,\nu)} \int_{X\times Y} c(x,y), d\pi(x,y)
$$&lt;/p&gt;
&lt;p&gt;這&lt;strong&gt;總有&lt;/strong&gt;最優解（在合理條件下），因為我們&lt;strong&gt;鬆弛&lt;/strong&gt;了：允許「拆」。最小值 $W_c$ 就是 &lt;strong&gt;Wasserstein 距離&lt;/strong&gt;（$c=d$ 時）或 &lt;strong&gt;Wasserstein 成本&lt;/strong&gt;。&lt;/p&gt;
&lt;p&gt;核心洞察：&lt;strong&gt;「帳」（聯合分佈）比「圖」更一般。&lt;/strong&gt; 圖只是帳的&lt;strong&gt;特例&lt;/strong&gt;（聯合分佈「撐」在圖的圖形上）。Kantorovich 的鬆弛，是現代最優傳輸的基石。&lt;/p&gt;
&lt;h3 id="2-對偶那張價證"&gt;2. 對偶：那張「價證」
&lt;/h3&gt;&lt;p&gt;Kantorovich 對偶：原問題（找最省帳）與對偶（找最緊價證）有&lt;strong&gt;同一&lt;/strong&gt;個最優值：&lt;/p&gt;
&lt;p&gt;$$
W_c(\mu,\nu) = \sup_{\substack{(\varphi,\psi)\ \varphi(x)+\psi(y)\le c(x,y)}} \int \varphi, d\mu + \int \psi, d\nu
$$&lt;/p&gt;
&lt;p&gt;對偶變量 $(\varphi,\psi)$ 就是「價牌」／&lt;strong&gt;對偶勢&lt;/strong&gt;。約束 $\varphi(x)+\psi(y)\le c(x,y)$ 說：「倉價加區價，不得超過運糧代價」。對偶問：「在此約束下，我能貼出&lt;strong&gt;多大&lt;/strong&gt;的總價？」這個&lt;strong&gt;最大&lt;/strong&gt;價證，恰好等於&lt;strong&gt;最省&lt;/strong&gt;的運糧成本。&lt;/p&gt;
&lt;p&gt;這，就是寓言裡稽核官的證明。它是數學裡最美麗、最有用的對偶之一——把「對測度的無窮維最小化」，轉成「對函數的逐點優化」，也是現代 OT 多數計算與理論結果的地基。&lt;/p&gt;
&lt;h3 id="3-brenier-定理圖何時存在"&gt;3. Brenier 定理：「圖何時存在」
&lt;/h3&gt;&lt;p&gt;當代價是 $c(x,y)=\tfrac{1}{2}|x-y|^2$（距離平方），且 $\nu$ 對 $\mu$ 的「推前」&lt;strong&gt;絕對連續&lt;/strong&gt;（直白說：目的地攤得開、沒堆成一坨），最優帳&lt;strong&gt;總是&lt;/strong&gt;一張確定性圖：&lt;/p&gt;
&lt;p&gt;$$
T = \nabla\varphi
$$&lt;/p&gt;
&lt;p&gt;其中 $\varphi$ 是&lt;strong&gt;凸函數&lt;/strong&gt;。這叫 &lt;strong&gt;Brenier 定理（1991）&lt;/strong&gt;。意即：搬質量最省的方式，是讓每點推到 $\nabla\varphi(x)$——一片凸景觀的梯度。糧&lt;strong&gt;不拆&lt;/strong&gt;。這結果之所以美麗，是它把「傳輸」（測度問題）和「凸分析」（函數問題）證成&lt;strong&gt;同一件事&lt;/strong&gt;。&lt;/p&gt;
&lt;p&gt;注意：正因如此，在&lt;strong&gt;連續&lt;/strong&gt;（分布攤開）時「可以」用圖；但在&lt;strong&gt;離散&lt;/strong&gt;（寓言的九個區）時，目的地堆成離散點，絕對連續條件&lt;strong&gt;失敗&lt;/strong&gt;，就&lt;strong&gt;必須&lt;/strong&gt;用（會拆的）&lt;strong&gt;帳&lt;/strong&gt;。這正是 C 倉的困境。&lt;/p&gt;
&lt;h3 id="4-熵正則化與-sinkhorn-算法"&gt;4. 熵正則化與 Sinkhorn 算法
&lt;/h3&gt;&lt;p&gt;&lt;strong&gt;精確&lt;/strong&gt; Wasserstein 距離&lt;strong&gt;難算&lt;/strong&gt;（最優帳常是「尖角／稀疏」）。2013 年，Marco Cuturi 的《Sinkhorn Distances》指出：加&lt;strong&gt;熵&lt;/strong&gt;正則：&lt;/p&gt;
&lt;p&gt;$$
W_{\varepsilon}(\mu,\nu) = \inf_{\pi\in\Pi(\mu,\nu)} \int c, d\pi + \varepsilon\cdot \mathrm{Ent}(\pi), \qquad \mathrm{Ent}(\pi) = -\int \pi\log\pi
$$&lt;/p&gt;
&lt;p&gt;熵項&lt;strong&gt;懲罰&lt;/strong&gt;「太確定」的帳、鼓勵「攤開」（略糊）的帳。&lt;strong&gt;代價&lt;/strong&gt;：$W_\varepsilon &amp;gt; W_0$（略微高估）。&lt;strong&gt;回報&lt;/strong&gt;：最優&lt;strong&gt;熵&lt;/strong&gt;帳長成&lt;/p&gt;
&lt;p&gt;$$
\pi(x,y) = \frac{a(x),b(y)}{Z}, e^{-c(x,y)/\varepsilon}
$$&lt;/p&gt;
&lt;p&gt;——是兩個&lt;strong&gt;行&lt;/strong&gt;因子 $a$ 與&lt;strong&gt;列&lt;/strong&gt;因子 $b$ 的&lt;strong&gt;積&lt;/strong&gt;！所以可以&lt;strong&gt;輪流&lt;/strong&gt;解出 $a$、$b$（重縮放行、重縮放列）——這正是 &lt;strong&gt;Sinkhorn-Knopp 迭代&lt;/strong&gt;（矩陣縮放，&lt;strong&gt;極快&lt;/strong&gt;，每輪 $O(n^2)$，幾輪即收斂）。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;溫度&lt;/strong&gt; $\varepsilon$：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;$\varepsilon \to 0$：$W_\varepsilon \to W_0$（&lt;strong&gt;真&lt;/strong&gt; Wasserstein，&lt;strong&gt;尖&lt;/strong&gt;、&lt;strong&gt;難算&lt;/strong&gt;）。&lt;/li&gt;
&lt;li&gt;$\varepsilon &amp;gt; 0$：$W_\varepsilon$ 是&lt;strong&gt;平滑版&lt;/strong&gt;，用 Sinkhorn &lt;strong&gt;易算&lt;/strong&gt;。&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;這，就是寓言裡「工程師的把戲」：用&lt;strong&gt;一點不確定（熵）&lt;strong&gt;換&lt;/strong&gt;可算&lt;/strong&gt;，再把&lt;strong&gt;溫度&lt;/strong&gt;調低，收斂回&lt;strong&gt;真&lt;/strong&gt;答案。&lt;/p&gt;
&lt;h3 id="5-為何重要那些深層連接都是真的"&gt;5. 為何重要（那些「深層」連接，都是真的）
&lt;/h3&gt;&lt;p&gt;最優傳輸不只是「搬糧最省」，它是&lt;strong&gt;整個數學&lt;/strong&gt;最活躍的領域之一：&lt;/p&gt;
&lt;ol&gt;
&lt;li&gt;&lt;strong&gt;Wasserstein GAN（Arjona-Mastrucci 等, 2017）&lt;/strong&gt;：普通 GAN 用 &lt;strong&gt;JS 散度&lt;/strong&gt;，生成時「&lt;strong&gt;飽和&lt;/strong&gt;」（兩堆圖像分布的距離幾乎恆為 1），&lt;strong&gt;引導不動&lt;/strong&gt;；&lt;strong&gt;Wasserstein-1&lt;/strong&gt;「&lt;strong&gt;懂形狀&lt;/strong&gt;」、&lt;strong&gt;平滑&lt;/strong&gt;變化，生成器才知道「糧山該往哪移」，訓練&lt;strong&gt;穩&lt;/strong&gt;。這是生成建模的里程碑之一。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Schrödinger 橋（1932；2020 年代動態 OT 現代化）&lt;/strong&gt;：不「一舉」搬糧，而是問「讓糧&lt;strong&gt;隨時間&lt;/strong&gt;沿一條&lt;strong&gt;分布路徑&lt;/strong&gt;流動，&lt;strong&gt;總動能&lt;/strong&gt;最小？」這是 OT 的&lt;strong&gt;動態&lt;/strong&gt;版，深連&lt;strong&gt;量子力學&lt;/strong&gt;（Schrödinger 原意）與&lt;strong&gt;深層 diffusion 模型&lt;/strong&gt;（數據分布的「路徑」）。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;梯度流（Jordan-Kinderlehrer-Ornstein, 1998）&lt;/strong&gt;：&lt;strong&gt;Fokker-Planck 方程&lt;/strong&gt;（布朗粒子雲如何擴散）&lt;strong&gt;正是&lt;/strong&gt;「&lt;strong&gt;相對熵&lt;/strong&gt;」對 &lt;strong&gt;Wasserstein 距離&lt;/strong&gt;的「&lt;strong&gt;梯度流&lt;/strong&gt;」。換言：&lt;strong&gt;擴散＝糧沿 Wasserstein 地形往低處流&lt;/strong&gt;。這把&lt;strong&gt;偏微分&lt;/strong&gt;與&lt;strong&gt;幾何&lt;/strong&gt;優雅地統一。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Hamilton-Jacobi／viscosity 解&lt;/strong&gt;：對偶勢 $\varphi,\psi$ 在二次成本下滿足 HJ 方程 $|\nabla\varphi|^2 + c = \lambda$（viscosity 意義下）。「價證」，&lt;strong&gt;就是&lt;/strong&gt;那 PDE 的&lt;strong&gt;解&lt;/strong&gt;。OT 因此連到&lt;strong&gt;偏微分&lt;/strong&gt;與&lt;strong&gt;變分法&lt;/strong&gt;。&lt;/li&gt;
&lt;/ol&gt;
&lt;hr&gt;
&lt;h2 id="隱喻對照表"&gt;隱喻對照表
&lt;/h2&gt;&lt;table&gt;
&lt;thead&gt;
&lt;tr&gt;
&lt;th&gt;故事中的元素&lt;/th&gt;
&lt;th&gt;最優傳輸／Wasserstein 概念&lt;/th&gt;
&lt;th&gt;深度解析&lt;/th&gt;
&lt;/tr&gt;
&lt;/thead&gt;
&lt;tbody&gt;
&lt;tr&gt;
&lt;td&gt;蒙日城（Monge）&lt;/td&gt;
&lt;td&gt;最優傳輸理論的誕生地（Monge 1781）&lt;/td&gt;
&lt;td&gt;Antoine de Monge 在 1781 年的《De la détermination des forces motrices des eaux》中，首提「如何以最小代價移動土堆」。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;七座糧倉 A…G（各有不同存量）&lt;/td&gt;
&lt;td&gt;來源測度 $\mu$（source distribution）&lt;/td&gt;
&lt;td&gt;七座倉＝七個「質量點」，各倉「存糧」＝該點「質量」（機率）。$\mu$ 是一個離散測度。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;九個飢荒區 1…9（各有不同需求）&lt;/td&gt;
&lt;td&gt;目標測度 $\nu$（target distribution）&lt;/td&gt;
&lt;td&gt;九個區＝目標「質量點」。$\nu$ 是另一個離散測度。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;總糧 = 總需求&lt;/td&gt;
&lt;td&gt;$\int\mu = \int\nu$（質量守恆）&lt;/td&gt;
&lt;td&gt;最優傳輸要求「來源總質量＝目標總質量」，否則「搬糧」無解（或需加 source/sink）。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;每座倉指派「唯一」一個區&lt;/td&gt;
&lt;td&gt;Monge 圖（deterministic map）$T:X\to Y$&lt;/td&gt;
&lt;td&gt;Monge 1781 原設：每個來源點「唯一」送往一個目標點。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;C 倉的「拆糧」（一半一號、一半四號）&lt;/td&gt;
&lt;td&gt;圖不存在、須「拆」成「帳」（coupling）$\pi$&lt;/td&gt;
&lt;td&gt;目標離散、質量須「堆」成區時，絕對連續條件失敗，Monge 圖不存在，Kantorovich 鬆弛為「帳」。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「整本帳」（記每條路線的量）&lt;/td&gt;
&lt;td&gt;coupling $\pi\in\Pi(\mu,\nu)$&lt;/td&gt;
&lt;td&gt;定義在 $X\times Y$ 上的「聯合分佈」，兩邊「邊緣」分別是 $\mu$、$\nu$。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;帳的三條鐵則&lt;/td&gt;
&lt;td&gt;兩個邊緣約束 ＋ 代價&lt;/td&gt;
&lt;td&gt;① 每倉「送出」＝$\mu$(該倉)；② 每區「收到」＝$\nu$(該區)；③ 代價＝$\int c,d\pi$。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「所有帳中總代價最小者」&lt;/td&gt;
&lt;td&gt;$W_c(\mu,\nu)=\inf_{\pi}\int c,d\pi$&lt;/td&gt;
&lt;td&gt;Wasserstein 距離（以代價 $c$）。$c$＝距離時為 $W_1$；$c$＝距離²時為 $W_2$。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「兩堆糧山的距離＝搬過去的最小代價」&lt;/td&gt;
&lt;td&gt;Wasserstein 距離「懂形狀」&lt;/td&gt;
&lt;td&gt;與「重心」（L1/L2）不同，它量的是「質量怎麼重排」，對「山形」敏感：挪一座山一點，距離小變；拆成兩座，距離大變。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;學者「Kantorovich」的覺悟（圖→帳）&lt;/td&gt;
&lt;td&gt;Kantorovich 鬆弛（1939）&lt;/td&gt;
&lt;td&gt;從「確定性圖」（Monge）到「coupling」（Kantorovich），是現代 OT 基石。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;稽核官的「價牌」（倉價＋區價 ≤ 代價）&lt;/td&gt;
&lt;td&gt;Kantorovich 對偶／對偶勢 $(\varphi,\psi)$&lt;/td&gt;
&lt;td&gt;對偶：$\sup_{\varphi+\psi\le c}\int\varphi,d\mu+\int\psi,d\nu$＝原問題最小值。稽核官「不搬糧」，只用「價」證明「代價不會低於某數」。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「價證總和＝最省帳的代價」&lt;/td&gt;
&lt;td&gt;強對偶（strong duality）&lt;/td&gt;
&lt;td&gt;最優傳輸（在適當條件下）&lt;strong&gt;強對偶&lt;/strong&gt;成立：原問題＝對偶。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;年輕學者「Brenier」的「凸景觀」&lt;/td&gt;
&lt;td&gt;Brenier 定理（1991）&lt;/td&gt;
&lt;td&gt;二次成本下，最優帳「總是」圖 $T=\nabla\varphi$（$\varphi$ 凸）。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「凸景觀的梯度」&lt;/td&gt;
&lt;td&gt;$T=\nabla\varphi$（凸函數梯度）&lt;/td&gt;
&lt;td&gt;最優「圖」＝單一「凸函數」的「梯度」。搬糧與凸分析是「同一件事」。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「流向永不交叉」&lt;/td&gt;
&lt;td&gt;最優圖的單調性／凸性&lt;/td&gt;
&lt;td&gt;二次成本下最優圖「不交叉」（交叉即可重配對、降代價）。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;工程師的「不確定」（熵）＋溫度 $\varepsilon$&lt;/td&gt;
&lt;td&gt;熵正則化 ＋ 溫度參數 $\varepsilon$&lt;/td&gt;
&lt;td&gt;$W_{\varepsilon}=\inf_{\pi}\int c,d\pi+\varepsilon,\mathrm{Ent}(\pi)$。$\varepsilon\to0$ 收斂到「真」$W_0$。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「行、列、行、列」重縮放&lt;/td&gt;
&lt;td&gt;Sinkhorn-Knopp 迭代（matrix scaling）&lt;/td&gt;
&lt;td&gt;最優「熵」帳具行列因子化 $\pi=\frac{ab}{Z}e^{-c/\varepsilon}$，輪流求 $a,b$ 即「重縮放」。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「溫度調低」＝「糊減少」&lt;/td&gt;
&lt;td&gt;$\varepsilon\to0$ 極限&lt;/td&gt;
&lt;td&gt;$\varepsilon$ 越小，帳越接近「真」Wasserstein（越尖、越難算）。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「Wasserstein GAN 的引導」&lt;/td&gt;
&lt;td&gt;Arjona-Mastrucci（2017）&lt;/td&gt;
&lt;td&gt;JS 散度在生成時「飽和」（距離恆≈1）無法引導；Wasserstein-1「懂形狀」，引導穩。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「糧隨時間流動」（動態版）&lt;/td&gt;
&lt;td&gt;Schrödinger 橋／dynamic OT&lt;/td&gt;
&lt;td&gt;不「一舉」搬糧，而是沿一條「分布路徑」以「最小總動能」流動，連到量子力學與深層 diffusion。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「糧沿 Wasserstein 地形下滑」&lt;/td&gt;
&lt;td&gt;梯度流（JKO 1998）&lt;/td&gt;
&lt;td&gt;Fokker-Planck 方程＝相對熵對 Wasserstein 距離的「梯度流」。擴散＝糧沿 Wasserstein 地形下滑。&lt;/td&gt;
&lt;/tr&gt;
&lt;tr&gt;
&lt;td&gt;「價證＝PDE 的解」&lt;/td&gt;
&lt;td&gt;Hamilton-Jacobi 方程（viscosity 解）&lt;/td&gt;
&lt;td&gt;對偶勢 $\varphi,\psi$ 滿足 HJ 方程（二次成本 $&lt;/td&gt;
&lt;/tr&gt;
&lt;/tbody&gt;
&lt;/table&gt;
&lt;hr&gt;
&lt;p&gt;&lt;strong&gt;一句話總結&lt;/strong&gt;：要量「兩堆機率」的距離，最浪漫也最深刻的方式，不是比它們的「中心」，而是「把所有糧山挖起來、搬過去、算出最省的代價」——這最省的代價，就是 &lt;strong&gt;Wasserstein 距離&lt;/strong&gt;；而「找最省帳」的&lt;strong&gt;對偶&lt;/strong&gt;是「稽核官的價證」、「圖」在連續下&lt;strong&gt;就是凸函數的梯度&lt;/strong&gt;、「熵」則把「尖角」磨成「可算」，這四件事，正是**最優傳輸（Optimal Transport）**的靈魂。&lt;/p&gt;</description></item></channel></rss>