<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Big Data on Intellectual Guides</title><link>https://ckw19810413.github.io/tags/big-data/</link><description>Recent content in Big Data on Intellectual Guides</description><generator>Hugo -- gohugo.io</generator><language>zh-TW</language><lastBuildDate>Wed, 07 Oct 2026 08:00:00 +0800</lastBuildDate><atom:link href="https://ckw19810413.github.io/tags/big-data/index.xml" rel="self" type="application/rss+xml"/><item><title>每日研究生知識寓言故事：星辰城的點名者</title><link>https://ckw19810413.github.io/blog/2026-10-07-hyperloglog-fable/</link><pubDate>Wed, 07 Oct 2026 08:00:00 +0800</pubDate><guid>https://ckw19810413.github.io/blog/2026-10-07-hyperloglog-fable/</guid><description>&lt;p&gt;在古老而繁華的星辰城，每天都有成千上萬的旅人、商人和朝聖者從四面八方湧入。星辰城的城主提出了一個看似簡單，卻讓所有書記官頭痛不已的要求：「我需要知道過去一年中，究竟有多少個『不同』的人來過我們城市。」&lt;/p&gt;
&lt;p&gt;傳統的做法是：在城門口放一本巨大的羊皮帳冊，每來一個人，就記下他的名字。每天晚上，書記官必須核對新來的名字是否已經在帳冊中出現過。如果來過，就不重複計算。&lt;/p&gt;
&lt;p&gt;剛開始幾天這還行得通。但幾個月後，帳冊變得像小山一樣高。每核對一個名字，書記官都要翻閱幾十萬頁的記錄，耗費大量的人力和時間。這座圖書館般的帳冊，即將壓垮整個城市的運作。&lt;/p&gt;
&lt;p&gt;絕望的首席書記官貼出告示尋求幫助。一天，一位雲遊的數學家揭下了告示，他手裡只拿著一塊小小的石板。&lt;/p&gt;
&lt;p&gt;「你只需要這塊石板，就能算出上百萬名獨立訪客的數量，而且不需要記下任何人的名字。」數學家說。城主和書記官們都覺得他在說大話。&lt;/p&gt;
&lt;p&gt;數學家解釋了他的方法：「星辰城的每個旅人，身上都佩戴著一條代表他們家族血脈的護身符串珠。這些串珠由黑白兩色隨機組成，且每個人的排列都是獨一無二的。」&lt;/p&gt;
&lt;p&gt;「從今天起，守衛不需要問旅人的名字。當旅人入城時，守衛只需看他護身符上，『從第一顆開始算，有連續多少顆白珠子』。如果第一顆是黑的，那就是 0 顆；如果是白、白、黑，那就是 2 顆。」&lt;/p&gt;
&lt;p&gt;「書記官不需要記下任何人的串珠圖案，你們石板上只需要保留『一個數字』——也就是你們目前為止見過『最長的連續白珠子數量』。」&lt;/p&gt;
&lt;p&gt;城主皺起眉頭：「這有什麼用？如果有人來了兩次呢？」&lt;/p&gt;
&lt;p&gt;數學家笑著說：「如果同一個人來了兩次，他的串珠是一模一樣的，所以他不會改變你們石板上那個『歷史最大值』。這天然就過濾掉了重複的訪客！」&lt;/p&gt;
&lt;p&gt;城主又問：「那怎麼知道總人數呢？」&lt;/p&gt;
&lt;p&gt;數學家答道：「這是一個機率的遊戲。如果我拋硬幣，要連續拋出一次正面很容易（一半機率），要連續兩次正面較難（四分之一機率）。如果要連續看到十次正面，那我大概得拋 $2^{10}$ 也就是 1024 次硬幣才可能撞見一次。所以，如果你的石板上寫著『最大連續白珠數是 10』，那麼我們就可以大膽推測，大約有 1024 個不同的旅人來過。」&lt;/p&gt;
&lt;p&gt;首席書記官敏銳地發現了破綻：「等等！如果今天運氣不好，早上第一個進城的旅人，他剛好就帶著連續 20 顆白珠的護身符呢？那我們豈不是第一天就會誤以為城裡來了一百萬人？」&lt;/p&gt;
&lt;p&gt;數學家拍手稱讚：「非常聰明！這就是這個方法最大的弱點：單一記錄容易受到極端運氣的干擾。為了解決這個問題，我們不只用一個守衛。」&lt;/p&gt;
&lt;p&gt;「我們把城門分成 1024 個不同的通道。當旅人來時，我們根據他們串珠最後十顆的排列組合，決定他們必須走哪個通道。每個通道的守衛，都拿著一塊小石板，記錄自己通道裡看到的最大連續白珠數。」&lt;/p&gt;
&lt;p&gt;「到了年底，我們把這 1024 個通道的最大值收集起來，用一種特殊的平均法（調和平均數）來計算。這樣一來，極端的壞運氣就會被其他通道的正常情況給互相抵消。最終，你們只需要這 1024 個小數字，就能極度精準地估算出來過星辰城的人數。」&lt;/p&gt;
&lt;p&gt;城主半信半疑地實施了這個計畫。一年後，當他們用數學家的方法估算，並與耗費千辛萬苦整理出來的巨型帳冊比對時，驚訝地發現，兩者的數字竟然只有不到百分之二的誤差，而書記官們的辦公室裡，再也沒有堆積如山的羊皮紙了。&lt;/p&gt;
&lt;hr&gt;
&lt;h3 id="概念解析hyperloglog-hll-演算法"&gt;概念解析：HyperLogLog (HLL) 演算法
&lt;/h3&gt;&lt;p&gt;這個故事所描述的，是計算機科學與大數據領域中非常著名的基數估算演算法——&lt;strong&gt;HyperLogLog (HLL)&lt;/strong&gt;。&lt;/p&gt;
&lt;p&gt;在大數據場景下（例如統計一個大型網站每天的獨立訪客數 UV、或者資料庫中的 Unique 查詢），如果使用傳統的 Set 或 Hash Table 來精確記錄每一個出現過的元素，當數據量達到數億級別時，會消耗極其龐大的記憶體（這對應故事中「堆積如山的羊皮帳冊」）。&lt;/p&gt;
&lt;p&gt;HyperLogLog 是一種機率資料結構，它犧牲了一點點精確度，換來了極致的空間效率。在 Redis 等現代資料庫中，HLL 只需要 12 KB 的記憶體，就能估算多達 $2^{64}$ 個不同元素的數量，標準誤差僅約為 0.81%。&lt;/p&gt;
&lt;h4 id="故事中的隱喻對應"&gt;故事中的隱喻對應：
&lt;/h4&gt;&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;巨大羊皮帳冊與核對過程&lt;/strong&gt;：傳統的 Set 或 Hash Table 資料結構。空間複雜度為 O(N)，且隨著資料量變大，操作成本急劇上升。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;旅人獨一無二的黑白串珠&lt;/strong&gt;：將大數據元素（如 IP 位址、用戶 ID）通過「雜湊函數 (Hash Function)」轉換成的二進位字串（0 和 1）。雜湊保證了相同的元素會有相同的二進位字串，且 0 和 1 呈現均勻的隨機分佈。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;計算開頭連續的白珠子數量&lt;/strong&gt;：觀察二進位字串從最低位（或最高位）開始，連續出現「0」的個數（Leading zeros）。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;石板上只記錄「歷史最大值」&lt;/strong&gt;：如果連續出現 $k$ 個 0，意味著大約進行了 $2^k$ 次隨機試驗。HLL 只保留見過最大的 $k$ 值，藉此反推總基數 $2^k$。而且相同的輸入會產生相同的 Hash，不會改變最大值，自然達到了「去重（Deduplication）」的效果。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;第一個旅人帶 20 顆白珠（運氣不好）&lt;/strong&gt;：在機率統計中單次取樣的高變異數（High Variance）問題。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;1024 個通道與調和平均數&lt;/strong&gt;：HyperLogLog 的核心改良——「分桶（Bucketing）」。利用 Hash 字串的某幾個位元（例如前 10 位元）作為桶（Bucket）的索引，將數據分散到多個桶中，每個桶獨立維護自己的最大值。最後將所有桶的估算值利用調和平均數（Harmonic Mean）聚合起來，大幅降低變異數與誤差，達到驚人的估算精度。&lt;/li&gt;
&lt;/ul&gt;</description></item></channel></rss>