लघुमानचित्रधर्मः। सहमतिक्षणधर्मस्य (२ जन) अनन्तरं अत्र लघुमानम्: लघुमानचित्रं अनुमानगणना मेलनं दोषसीमा। लघुमानचित्रधर्मः।

English (minimizable)

After consensus (2 Jan), this post covers cardinality sketches: approximate unique counts, mergeable maps, error bounds and when exact sets are still required.

पूर्ण-शीर्षकम् / Full title

लघुमानचित्रधर्मः: A Metrical Codification of Lightweight Sketch Map Dharma (with English glosses)

English · overview and topics (minimizable)

What this post is about

Sketches trade a bounded lie for speed and size. Publish the error and never bill on a silent approx.

Topics

  1. Why sketch
  2. Approx uniques
  3. Merge maps
  4. Error bound public
  5. Salt and hash
  6. When exact required
  7. Memory budget
  8. Reset policy
  9. Not a database
  10. Five limbs
  11. Close
  12. Seal

Sanskrit title

लघुमानचित्रधर्मः = dharma of the light measure-map.

English

Minimizable; Sanskrit-first.

परम्परा-सन्धिः / Series links
पूर्वं / Prior अत्र / Adds न पुनः / Does not repeat
सहमतिक्षणधर्मः (२ जन) agreement not counting
अवलोकनशास्त्रम् metrics sketch cousin
अत्र cardinality sketch -
ग्राह्य-त्याज्य-विवेकः / Keep and avoid

ग्राह्यम् / Keep

१. publish error bound with the number: honest
२. merge only same-config sketches: safe
३. exact path for money and law: when
४. bound memory and reset clocks: ops
५. never treat sketch as ledger: ban

त्याज्यम् / Avoid

  • Billing on raw HLL
  • Merge mismatched sketches
  • No error bar on dashboard
  • Sketch as source of truth store
अध्याय-योजना / Chapter plan
प्रकरणम् विषयः छन्दः श्लोकाः
मङ्गलं बीजं च / Opening अनुष्टुभ्
मूलतत्त्वानि / Core अनुष्टुभ्
मुख्यविधिः / Method उपजाति
रक्षा · विधिः / Guards अनुष्टुभ्
विवेक · सीमा / Judgment अनुष्टुभ्
पूर्वसन्धिः / Series links उपजाति
उपसंहारः / Close अनुष्टुभ्
पारिभाषिक-कोशः / Glossary
Modern English संस्कृतम् Note
sketch लघुमानचित्रम् compact approx structure
cardinality असङ्ख्यता / वैविध्यम् unique count
merge मेलनम् combine sketches
error bound दोषसीमा max relative error
exact set यथार्थसमुच्चयः precise membership

श्लोकः १ (अनुष्टुभ्)

असङ्ख्यता यदा गुरुः लघुमानं श्रेयः पथे ।
पूर्णसमुच्चये स्मृतिः आकाशं याचते ॥१॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
असङ्ख्यता यदा गुरुः लघुमानं श्रेयः पथे । पूर्णसमुच्चये स्मृतिः आकाशं याचते ॥१॥

Word-for-word

संस्कृतपदम् Word-for-word English
असङ्ख्यता असङ्ख्यता
यदा यदा
गुरुः गुरुः
लघुमानं लघुमानं
श्रेयः श्रेयः
पथे पथे
पूर्णसमुच्चये पूर्णसमुच्चये
स्मृतिः स्मृतिः
आकाशं आकाशं
याचते याचते

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
When uniques are huge a sketch is kinder than a full set in RAM.

Context / topic
why

वृत्तमिति: ८-८-८-८।

श्लोकः २ (अनुष्टुभ्)

अनुमानसङ्ख्यां दोषसीमया सह प्रकाशय ।
असीमाङ्के दलं मिथ्यानिश्चितं गृह्णाति ॥२॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
अनुमानसङ्ख्यां दोषसीमया सह प्रकाशय । असीमाङ्के दलं मिथ्यानिश्चितं गृह्णाति ॥२॥

Word-for-word

संस्कृतपदम् Word-for-word English
अनुमानसङ्ख्यां अनुमानसङ्ख्यां
दोषसीमया दोषसीमया
सह सह
प्रकाशय प्रकाशय
असीमाङ्के असीमाङ्के
दलं दलं
मिथ्यानिश्चितं मिथ्यानिश्चितं
गृह्णाति गृह्णाति

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Always show the number with its error bound.

Context / topic
bound

वृत्तमिति: ८-८-८-८।

श्लोकः ३ (उपजाति)

समानकल्पैः मेलय सदा हि ।
भिन्नसूत्रं मा मेलय सम्यक् ।
मेलने सीमां पुनः लिख सदा ।
एवं मानचित्रं शुचि स्यात् सदा ॥३॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
समानकल्पैः मेलय सदा हि । भिन्नसूत्रं मा मेलय सम्यक् । मेलने सीमां पुनः लिख सदा । एवं मानचित्रं शुचि स्यात् सदा ॥३॥

Word-for-word

संस्कृतपदम् Word-for-word English
समानकल्पैः समानकल्पैः
मेलय मेलय
सदा सदा
हि हि
भिन्नसूत्रं भिन्नसूत्रं
मा मा
सम्यक् सम्यक्
मेलने मेलने
सीमां सीमां
पुनः पुनः
लिख लिख
एवं एवं

Gloss table

पदम् अर्थः / sense
धर्मः dharma

English sense
Merge only like-configured sketches; rewrite the bound after merge.

Context / topic
merge

वृत्तमिति: एकादशाक्षराः पादाः।

श्लोकः ४ (अनुष्टुभ्)

धनधर्मे यथार्थपथं रक्ष मा अनुमानम् ।
अनुमानविपण्यां विश्वासो नश्यति पथि ॥४॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
धनधर्मे यथार्थपथं रक्ष मा अनुमानम् । अनुमानविपण्यां विश्वासो नश्यति पथि ॥४॥

Word-for-word

संस्कृतपदम् Word-for-word English
धनधर्मे धनधर्मे
यथार्थपथं यथार्थपथं
रक्ष रक्ष
मा मा
अनुमानम् अनुमानम्
अनुमानविपण्यां अनुमानविपण्यां
विश्वासो विश्वासो
नश्यति नश्यति
पथि पथि

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Money and compliance keep exact paths; sketches are not tills.

Context / topic
exact

वृत्तमिति: ८-८-८-८।

श्लोकः ५ (अनुष्टुभ्)

ह्रस्वलवणं बीजे योजय टक्करं मा कुरु ।
अलवणे संघर्षे दोषः सहसा वर्धते ॥५॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
ह्रस्वलवणं बीजे योजय टक्करं मा कुरु । अलवणे संघर्षे दोषः सहसा वर्धते ॥५॥

Word-for-word

संस्कृतपदम् Word-for-word English
ह्रस्वलवणं ह्रस्वलवणं
बीजे बीजे
योजय योजय
टक्करं टक्करं
मा मा
कुरु कुरु
अलवणे अलवणे
संघर्षे संघर्षे
दोषः दोषः
सहसा सहसा
वर्धते वर्धते

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Hash with proper salt; collisions inflate the lie.

Context / topic
hash

वृत्तमिति: ८-८-८-८।

श्लोकः ६ (अनुष्टुभ्)

स्मृतिसीमां मानचित्राय बध्नीहि अतिक्रमे छिन्दि ।
अमितायां स्मृतौ लघुत्वं नश्यति पथि ॥६॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
स्मृतिसीमां मानचित्राय बध्नीहि अतिक्रमे छिन्दि । अमितायां स्मृतौ लघुत्वं नश्यति पथि ॥६॥

Word-for-word

संस्कृतपदम् Word-for-word English
स्मृतिसीमां स्मृतिसीमां
मानचित्राय मानचित्राय
बध्नीहि बध्नीहि
अतिक्रमे अतिक्रमे
छिन्दि छिन्दि
अमितायां अमितायां
स्मृतौ स्मृतौ
लघुत्वं लघुत्वं
नश्यति नश्यति
पथि पथि

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Cap sketch memory; unbounded sketches stop being light.

Context / topic
memory

वृत्तमिति: ८-८-८-८।

श्लोकः ७ (अनुष्टुभ्)

घटीं योजय पुराणमानं मा शाश्वतं धरेत् ।
जीर्णमानं नूतनसत्यं दूषयति पथि ॥७॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
घटीं योजय पुराणमानं मा शाश्वतं धरेत् । जीर्णमानं नूतनसत्यं दूषयति पथि ॥७॥

Word-for-word

संस्कृतपदम् Word-for-word English
घटीं घटीं
योजय योजय
पुराणमानं पुराणमानं
मा मा
शाश्वतं शाश्वतं
धरेत् धरेत्
जीर्णमानं जीर्णमानं
नूतनसत्यं नूतनसत्यं
दूषयति दूषयति
पथि पथि

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Age and reset sketches; stale maps poison new truth.

Context / topic
reset

वृत्तमिति: ८-८-८-८।

श्लोकः ८ (अनुष्टुभ्)

मानचित्रं मापनं न तु कोशसत्यम् ।
कोशवत् सेवने इतिहासो मिथ्या भवेत् ॥८॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
मानचित्रं मापनं न तु कोशसत्यम् । कोशवत् सेवने इतिहासो मिथ्या भवेत् ॥८॥

Word-for-word

संस्कृतपदम् Word-for-word English
मानचित्रं मानचित्रं
मापनं मापनं
तु तु
कोशसत्यम् कोशसत्यम्
कोशवत् कोशवत्
सेवने सेवने
इतिहासो इतिहासो
मिथ्या मिथ्या
भवेत् भवेत्

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
A sketch is a meter not a store of record.

Context / topic
not db

वृत्तमिति: ८-८-८-८।

श्लोकः ९ (अनुष्टुभ्)

फलके अङ्कं सीमां च एकपङ्क्तौ दर्शय ।
एकाङ्के दर्शनं अन्धजयघोषः सदा ॥९॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
फलके अङ्कं सीमां च एकपङ्क्तौ दर्शय । एकाङ्के दर्शनं अन्धजयघोषः सदा ॥९॥

Word-for-word

संस्कृतपदम् Word-for-word English
फलके फलके
अङ्कं अङ्कं
सीमां सीमां
एकपङ्क्तौ एकपङ्क्तौ
दर्शय दर्शय
एकाङ्के एकाङ्के
दर्शनं दर्शनं
अन्धजयघोषः अन्धजयघोषः
सदा सदा

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Dashboard one row: value and bound together.

Context / topic
ui

वृत्तमिति: ८-८-८-८।

श्लोकः १० (उपजाति)

अनुमानं सीमां मेलनम् सदा ।
यथार्थं लवणं स्मृतिम् एव ।
घटीं कोशविवेकम् हि सम्यक् ।
पञ्चाङ्गं लघुमान उच्यते हि ॥१०॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
अनुमानं सीमां मेलनम् सदा । यथार्थं लवणं स्मृतिम् एव । घटीं कोशविवेकम् हि सम्यक् । पञ्चाङ्गं लघुमान उच्यते हि ॥१०॥

Word-for-word

संस्कृतपदम् Word-for-word English
अनुमानं अनुमानं
सीमां सीमां
मेलनम् मेलनम्
सदा सदा
यथार्थं यथार्थं
लवणं लवणं
स्मृतिम् स्मृतिम्
एव एव
घटीं घटीं
कोशविवेकम् कोशविवेकम्
हि हि
सम्यक् सम्यक्

Gloss table

पदम् अर्थः / sense
धर्मः dharma

English sense
Five limbs: approx+bound, merge rules, exact path, salt+memory, reset+not-DB.

Context / topic
five

वृत्तमिति: एकादशाक्षराः पादाः।

श्लोकः ११ (अनुष्टुभ्)

इति लघुमानसारः दोषसीमासमन्वितः ।
मापितानुमानं कर्मयोग्यं तन्त्रधर्मः स उच्यते ॥११॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
इति लघुमानसारः दोषसीमासमन्वितः । मापितानुमानं कर्मयोग्यं तन्त्रधर्मः स उच्यते ॥११॥

Word-for-word

संस्कृतपदम् Word-for-word English
इति इति
लघुमानसारः लघुमानसारः
दोषसीमासमन्वितः दोषसीमासमन्वितः
मापितानुमानं मापितानुमानं
कर्मयोग्यं कर्मयोग्यं
तन्त्रधर्मः तन्त्रधर्मः
उच्यते उच्यते

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Closing: operable approx counts under public error law.

Context / topic
close

वृत्तमिति: ८-८-८-८।

श्लोकः १२ (अनुष्टुभ्)

सीमां लिख मेलय यथार्थं रक्ष स्मृतिं बध्नीहि ।
कोशं मा वद लघुमानधर्मः स उच्यते पथि ॥१२॥
पदच्छेदः · Word-for-word · English (minimizable)

पदच्छेदः
सीमां लिख मेलय यथार्थं रक्ष स्मृतिं बध्नीहि । कोशं मा वद लघुमानधर्मः स उच्यते पथि ॥१२॥

Word-for-word

संस्कृतपदम् Word-for-word English
सीमां सीमां
लिख लिख
मेलय मेलय
यथार्थं यथार्थं
रक्ष रक्ष
स्मृतिं स्मृतिं
बध्नीहि बध्नीहि
कोशं कोशं
मा मा
वद वद
लघुमानधर्मः लघुमानधर्मः

Gloss table

पदम् अर्थः / sense
धर्मः dharma
मितम् measured

English sense
Bound, merge, keep exact when needed, cap memory, never call it a ledger.

Context / topic
seal

वृत्तमिति: ८-८-८-८।

श्लोकसूची / Verse index

१. अनुमानं ब्रूहि
२. सीमां लिख
३. समानं मेलय
४. यथार्थपथं रक्ष
५. लवणं योजय
६. स्मृतिं बध्नीहि
७. घटीं योजय
८. कोशं मा वद
९. पञ्चाङ्गं स्मर
१०. मिथ्यामापं त्यज
११. लघु सत्यं कुरु
१२. धर्मं धारय

सन्दर्भाः / References
  1. HyperLogLog ops
  2. Sketch merge rules
  3. Prior: consensus 2 Jan