Wisdom of Crowds: Galton's Ox — The 1906 Experiment That Proved Crowds Beat Experts

विज्ञानी जो भीड़ को मूर्ख साबित करना चाहता था

सामूहिक बुद्धिमत्ता के सबसे प्रसिद्ध प्रयोग का सबसे अच्छा हिस्सा यह है कि इसे डिज़ाइन किया गया था — कम से कम आत्मा में — जो इसके परिणाम के विपरीत साबित करने के लिए।

1906 तक, फ्रांसिस गैल्टन ब्रिटेन के सबसे सफल वैज्ञानिकों में से एक थे। चार्ल्स डार्विन के चचेरे भाई, उन्होंने सहसंबंध और औसत पर लौटने के सांख्यिकीय सिद्धांतों का मार्ग प्रशस्त किया, मौसम के मानचित्र का आविष्कार किया, और फिंगरप्रिंट पहचान को वैज्ञानिक आधार पर रखा। वह यह भी थे — और यह कहानी के लिए महत्वपूर्ण है — साधारण लोगों के निर्णय के प्रति गहरे संदेह में। गैल्टन का मानना था कि बुद्धिमत्ता एक छोटे वंशानुगत अभिजात वर्ग में केंद्रित है; उन्होंने “युजेनिक्स” शब्द का निर्माण किया और इसे बढ़ावा देने में दशकों बिताए, जो आज सही रूप से निंदा की गई है और इस प्रश्न के प्रति उनके दृष्टिकोण से अलग नहीं किया जा सकता। जब उन्होंने अपने सांख्यिकीय उपकरणों को एक भीड़ पर लगाया, तो उन्होंने इसकी अक्षमता को दस्तावेजित करने की उम्मीद की।

तो जब 84 वर्षीय गैल्टन 1906 की शरद ऋतु में प्लायमाउथ में वेस्ट ऑफ इंग्लैंड फैट स्टॉक और पोल्ट्री प्रदर्शनी में घूमते हुए एक वजन-निर्धारण प्रतियोगिता में आए, तो उन्होंने एक अविश्वसनीय डेटा सेट देखा। यहाँ एक भीड़ थी — कुछ विशेषज्ञ, अधिकांश नहीं — जो एक तथ्य के बारे में सैकड़ों स्वतंत्र संख्यात्मक निर्णय ले रही थी, जिसमें उन्हें ईमानदार रखने के लिए एक छोटा प्रवेश शुल्क और उन्हें प्रेरित रखने के लिए एक पुरस्कार था। जैसा कि उन्होंने बाद में नेचर में लिखा, औसत प्रतियोगी शायद बैल के वजन का निर्णय लेने के लिए उतना ही सक्षम था जितना औसत मतदाता अधिकांश राजनीतिक मुद्दों के गुणों का निर्णय लेने के लिए। लोकतंत्र के लिए उपमा पूरी बात थी। गैल्टन ने उम्मीद की थी कि वॉक्स पॉपुली — लोगों की आवाज़ — खुद को शर्मिंदा करेगी।

एक देश का मेला, एक मोटा बैल, और 787 छह पेंस के टिकट

प्रतियोगिता की यांत्रिकी सरल थीं, और — जैसा कि हम अब जानते हैं — आकस्मिक रूप से आदर्श प्रयोगात्मक डिज़ाइन के करीब थीं। एक जीवित बैल प्रदर्शित किया गया था। छह पेंस में, कोई भी एक स्टैम्प और नंबर वाला कार्ड खरीद सकता था, उस पर अपना नाम और पता लिख सकता था, और यह रिकॉर्ड कर सकता था कि बैल का वजन क़त्ल और तैयार होने के बाद क्या होगा — यह व्यावसायिक रूप से महत्वपूर्ण आंकड़ा है, और जानवर के जीवित वजन से कठिन प्रश्न है। सबसे सटीक अनुमान पुरस्कार जीतते थे।

इस सेटअप की तीन विशेषताएँ ध्यान देने योग्य हैं, क्योंकि प्रत्येक एक ऐसी शर्त पर मैप करती है जिसे बाद के शोध ने सामूहिक सटीकता के लिए आवश्यक दिखाया। पहले, छह पेंस का शुल्क शुद्ध व्यावहारिक मजाकियों को बाहर करता है — लोगों को खेल में त्वचा थी। दूसरे, प्रत्येक कार्ड को निजी रूप से भरा गया: हाथ उठाने का कोई प्रदर्शन नहीं था, कोई नीलामी करने वाला चल रहे सहमति को नहीं बुला रहा था, कोई दिखाई देने वाला अग्रणी नहीं था जिसे नकल किया जा सके। निर्णय स्वतंत्र थे। तीसरे, भीड़ वास्तव में मिश्रित थी: पेशेवर विशेषज्ञता वाले कसाई और किसान क्लर्कों और परिवारों के साथ खड़े थे जो, गैल्टन के शब्दों में, क्षण की कल्पना से मार्गदर्शित थे। निर्णय विविध थे।

प्रतियोगिता के बाद, गैल्टन ने कार्ड उधार लिए। लगभग 800 में से, तेरह या तो पढ़ने योग्य नहीं थे या अन्यथा दोषपूर्ण थे, जिससे 787 मान्य अनुमान बचे। उन्होंने उन्हें छांटा, उन्हें तालिका में रखा, उनके वितरण को प्लॉट किया, और उनके क्वांटाइल की गणना की — एक पूर्ण सांख्यिकीय कार्य, जिसे नेचर में 7 मार्च 1907 को “वॉक्स पॉपुली” (गैल्टन, एफ., नेचर, 75, 450–451) के शीर्षक के तहत प्रकाशित किया गया।

परिणाम जिसने उन्हें आश्चर्यचकित किया

मध्यतम अनुमान — जिसे हम अब मध्य कहते हैं — 1,207 पाउंड था। बैल, क़त्ल और तैयार किया गया, का वजन 1,198 पाउंड था। भीड़ का सामूहिक निर्णय नौ पाउंड से गलत था: लगभग 0.8% की त्रुटि, जो उपस्थित मवेशी विशेषज्ञों के अनुमानों के करीब थी।

गैल्टन — एक वैज्ञानिक के रूप में उनकी वास्तविक श्रेय के लिए — ने परिणाम को सीधे रिपोर्ट किया। “यह परिणाम, मुझे लगता है, लोकतांत्रिक निर्णय की विश्वसनीयता के लिए अधिक श्रेय देने योग्य है जितना कि अपेक्षित हो सकता था,” उन्होंने लिखा। एक ऐसे व्यक्ति से जो अपने करियर में तर्क कर चुका था कि सही निर्णय एक दुर्लभ वंशानुगत उपहार है, यह वाक्य एक शांत वैज्ञानिक स्वीकृति है: डेटा ने उनके पूर्वाग्रह को हरा दिया था।

कहानी उस पत्राचार में और भी बेहतर हो गई जो इसके बाद हुआ। नेचर के पाठकों ने लिखा, और अपनी प्रतिक्रिया में (“द बैलट-बॉक्स,” नेचर, 75, 509) गैल्टन ने स्वीकार किया कि सभी 787 अनुमानों का अंकगणितीय औसत 1,197 पाउंड था — वास्तविक वजन से एक पाउंड की कमी। एक सदी बाद, अर्थशास्त्री केनेथ वॉलीस (“फ्रांसिस गैल्टन की भविष्यवाणी प्रतियोगिता पर दोबारा विचार करना,” 2014) ने मूल डेटा और आसपास के आदान-प्रदान की समीक्षा की, जो उस कहानी के आवश्यक तत्वों की पुष्टि करता है जिसे जेम्स सुरोविकी ने प्रसिद्ध बनाया। औसत का एक पाउंड का मिस आज आमतौर पर उद्धृत किया जाता है; मध्य का नौ पाउंड का मिस वह है जिससे गैल्टन वास्तव में शुरू हुआ। दोनों आश्चर्यजनक हैं।

मध्य या औसत? गैल्टन का सांख्यिकीय चुनाव अभी भी महत्वपूर्ण है

गैल्टन ने मध्यतम अनुमान को क्यों पसंद किया? उनकी तर्कशक्ति स्पष्ट रूप से राजनीतिक थी: मध्य वह मूल्य है जिसे भीड़ के एक बहुमत ने मतदान में अनुमोदित किया होगा। हर अन्य मूल्य उन लोगों द्वारा अस्वीकृत किया जाएगा जिन्होंने इसे बहुत ऊँचा या बहुत नीचा समझा। दूसरे शब्दों में, मध्य भीड़ का लोकतांत्रिक निर्णय है — जो कि वॉक्स पॉपुली के बारे में उन्होंने परीक्षण करने का सवाल था।

लेकिन राजनीतिक तर्क के भीतर एक सांख्यिकीय तर्क छिपा हुआ है, और यह आज भी सिखाया जाता है। मध्य एक मजबूत सांख्यिकी है: कुछ बेतुके अनुमान — कोई 10,000 पाउंड को हंसने के लिए लिखता है — इसे मुश्किल से हिलाता है, जबकि औसत एकल आउटलेयर द्वारा मनमाने ढंग से खींचा जा सकता है। दूसरी ओर, औसत डेटा में अधिक जानकारी का उपयोग करता है और, जब त्रुटियाँ लगभग सममित और स्वतंत्र होती हैं, तो उन्हें अधिक कुशलता से रद्द करता है। गैल्टन की भीड़ इतनी अच्छी तरह से व्यवहार कर रही थी कि दोनों काम कर गए: मध्य 9 पाउंड से चूका, औसत 1 पाउंड से। गंदे भीड़ में — ऑनलाइन मतदान, बिना मॉडरेटेड फोरम — मध्य की मजबूती अक्सर जीतती है। आपके एकत्रीकरण तंत्र का चुनाव एक निर्णय है कि आप अपनी भीड़ के पूंछों पर कितना भरोसा करते हैं।

औसत क्यों काम करता है: त्रुटि रद्द करने की अंकगणित

गैल्टन के परिणाम में कोई रहस्यवाद नहीं है। प्रत्येक अनुमान को सच्चे मूल्य के साथ एक त्रुटि के रूप में सोचा जा सकता है। यदि त्रुटियाँ स्वतंत्र हैं और सत्य के दोनों पक्षों पर बिखरी हुई हैं — कुछ कसाई अधिक अनुमान लगाते हैं, कुछ कम — तो अनुमानों को एक साथ जोड़ने से बहुत सी त्रुटियाँ रद्द हो जाती हैं जबकि साझा संकेत जमा होता है। जितनी अधिक विविध और स्वतंत्र त्रुटियाँ होंगी, वे उतनी ही आक्रामकता से रद्द होंगी।

स्कॉट पेज ने बाद में अंतर्दृष्टि को विविधता भविष्यवाणी प्रमेय (पेज, द डिफरेंस, 2007) के रूप में औपचारिक रूप दिया: वर्ग त्रुटि के लिए, सामूहिक की त्रुटि औसत व्यक्तिगत त्रुटि के बराबर होती है माइनस भविष्यवाणियों की विविधता। यह एक गणितीय पहचान है, न कि एक अनुभवजन्य दावा — जो इसे इतना उपयोगी बनाता है। एक भीड़ अपने औसत सदस्य को ठीक उसी मात्रा में हराती है जितना उसके सदस्य एक-दूसरे से असहमत होते हैं। विविधता एक अच्छा होना नहीं है; यह, अंकगणितीय रूप से, पूरा लाभ है। क्लोन की एक भीड़ एकत्रीकरण से कुछ नहीं पाती।

समान तर्क को गैल्टन से एक सदी पहले, मात्राओं के बजाय हाँ/नहीं प्रश्नों के लिए खोजा गया था। मार्क्विस डी कोंडॉर्सेट ने 1785 में साबित किया कि यदि प्रत्येक मतदाता सही होने की संभावना से थोड़ा अधिक है, और मतदाता स्वतंत्र रूप से निर्णय लेते हैं, तो बहुमत के सही होने की संभावना समूह के बढ़ने के साथ निश्चितता की ओर बढ़ती है। हम उस कहानी को बताते हैं — और नाटकीय तरीके से प्रमेय कैसे विफल होता है जब इसके पूर्वाग्रह टूटते हैं — हमारे साथी लेख में कोंडॉर्सेट जूरी प्रमेय पर।

फुटनोट से ढांचे तक: सुरोविकी की चार शर्तें

बीसवीं सदी के अधिकांश समय तक, गैल्टन का बैल एक सांख्यिकीय जिज्ञासा था। यह 2004 में बदल गया, जब जेम्स सुरोविकी ने द वॉइस ऑफ क्राउड्स के साथ प्लायमाउथ की कहानी खोली और एक सदी के सबूतों को एकत्र किया — स्टॉक मार्केट से लेकर सर्च इंजनों तक — कि भीड़ व्यवस्थित रूप से स्मार्ट हो सकती है। महत्वपूर्ण रूप से, सुरोविकी ने यह दावा नहीं किया कि भीड़ हमेशा बुद्धिमान होती है। उन्होंने चार शर्तें पहचानी जो गैल्टन के मेले ने आकस्मिक रूप से पूरी कीं, और जो किसी भी बुद्धिमान भीड़ को जानबूझकर चाहिए:

किसी एक शर्त को हटा दें और भीड़ केवल अपना लाभ नहीं खोती — यह अपने सदस्यों की तुलना में सक्रिय रूप से खराब हो सकती है, क्योंकि एकत्रीकरण तब साझा पूर्वाग्रह को बढ़ाता है बजाय स्वतंत्र त्रुटियों को रद्द करने के। चार शर्तों और उनके विफलता मोड के पूर्ण विज्ञान के लिए, हमारे गाइड को देखें भीड़ की बुद्धिमत्ता।

छोटी बारीकियाँ: क्या मेले ने सही किया जो बैठकें गलत करती हैं

यहाँ किसी भी व्यक्ति के लिए असुविधाजनक प्रश्न है जो बैठकें चलाता है: आपकी संगठन में कितने समूह निर्णय गैल्टन के मेले की तरह संरचित हैं — और कितने ठीक विपरीत हैं?

मेले में, प्रत्येक निर्णय को निजी रूप से, लिखित रूप में, पहले किया गया, जब तक कि कोई और किसी और की संख्या नहीं देखता। एक सामान्य बैठक में, सबसे वरिष्ठ या सबसे आत्मविश्वासी व्यक्ति पहले बोलता है, और हर बाद का “अनुमान” उनके आधार पर होता है। जो तीस लोगों का सहमति दिखता है वह अक्सर एक व्यक्ति का अनुमान होता है जिसमें उनतीस प्रतिध्वनियाँ होती हैं। अर्थशास्त्री इस तंत्र को सूचना कैस्केड कहते हैं: एक बार जब कुछ प्रारंभिक रायें दिखाई देती हैं, तो प्रत्येक बाद के व्यक्ति के लिए यह व्यक्तिगत रूप से तर्कसंगत हो जाता है कि वे अपनी जानकारी को कम करें और नकल करें — और भीड़ की स्वतंत्रता, पूरे घटना की लोड-बेयरिंग शर्त, चुपचाप गिर जाती है (बिखचंदानी, हिरशलेफर और वेल्च, 1992)। हम अपने गाइड में तंत्र को कवर करते हैं सूचना कैस्केड।

यही कारण है कि गैल्टन के प्रयोग की पुनरावृत्तियाँ कभी-कभी निराश करती हैं: यदि आप बैल-अनुमान खेल को एक दृश्य चल रहे औसत के साथ चलाते हैं, या प्रतिभागियों को अपने अनुमान चिल्लाने देते हैं, तो सटीकता घट जाती है। जादू कभी भी भीड़ में नहीं था — यह प्रोटोकॉल में था। छह पेंस, एक निजी कार्ड, और एक बंद मतपत्र बॉक्स अधिकांश सम्मेलन कक्षों की तुलना में बेहतर निर्णय आर्किटेक्चर साबित होते हैं।

बैल के आधुनिक वंशज

गैल्टन द्वारा दस्तावेजित एकत्रीकरण सिद्धांत अब आधुनिक प्रणालियों की एकRemarkable श्रृंखला में चलता है:

प्रत्येक वंशज कुछ अलग एकत्रित करता है — बाजार विश्वासों को कीमतों में एकत्रित करते हैं, एंसेंबल मॉडल आउटपुट को भविष्यवाणियों में एकत्रित करते हैं, मतदान प्रणालियाँ प्राथमिकताओं को परिणामों में एकत्रित करती हैं — और प्रत्येक उसी निर्भरता को विरासत में लेता है: एकत्रित केवल उतना ही अच्छा है जितना कि जो इसे खिलाता है उसकी स्वतंत्रता और विविधता। वह पारिवारिक समानता पूरे शोध परंपरा की धारा है, कोंडॉर्सेट के 1785 के प्रमेय से लेकर आज के एमआईटी के सामूहिक बुद्धिमत्ता अनुसंधान तक — एक 240-वर्षीय आर्क जिसे हम सामूहिक बुद्धिमत्ता: 240 वर्षों का शोध में ट्रेस करते हैं।

गैल्टन के बैल का आपके टीम के लिए क्या मतलब है

1906 के प्रयोग का व्यावहारिक अनुवाद एक संक्षिप्त चेकलिस्ट है, और यह निर्णय के जीवन में एक विशिष्ट बिंदु पर लागू होता है — वह क्षण जब आप निर्णय एकत्र करते हैं और संयोजित करते हैं, समूह के विचार-विमर्श शुरू करने से पहले:

• पहले स्वतंत्र रूप से, लिखित में, अनुमान एकत्र करें। बैठक से पहले, वरिष्ठ व्यक्ति बोलने से पहले। जिस क्षण निर्णय स्पष्ट होते हैं, स्वतंत्रता — और भीड़ का सांख्यिकीय लाभ — घटने लगता है।
• विविध दृष्टिकोणों की सक्रिय रूप से भर्ती करें। विविधता भविष्यवाणी प्रमेय स्पष्ट है: आपके औसत सदस्य पर आपका सामूहिक लाभ है आपकी विविधता। एक ही पृष्ठभूमि और समान जानकारी वाले लोगों का एक पैनल कई नाम टैग पहनने वाला एक अनुमान है।
• अपने समेकन तंत्र को जानबूझकर चुनें। गंदे समूहों के लिए माध्यिका, अच्छे व्यवहार वाले समूहों के लिए औसत, जब निर्णयों के कई आयाम होते हैं तो संरचित रेटिंग। “हमने इस पर चर्चा की और सहमति पर पहुंचे” एक समेकन तंत्र नहीं है — यह आमतौर पर एक एंकरिंग तंत्र होता है।
• कारणों को रखें, केवल संख्याओं को नहीं। गैल्टन के कार्ड ने उसे बताया क्या भीड़ सोचती है, कभी क्यों नहीं। एक बैल के लिए, यह ठीक है। एक रणनीति निर्णय के लिए, तर्क वह हिस्सा है जिसकी आपको आवश्यकता होगी जब परिस्थितियाँ बदलेंगी।

यह अंतिम बिंदु आधुनिक सहयोगात्मक निर्णय लेने में गैल्टन से आगे बढ़ता है। आर्गुमेंट्री को एक टीम को तर्क के साथ मेले के प्रोटोकॉल देने के लिए बनाया गया है: प्रतिभागी तर्क स्वतंत्र रूप से और असिंक्रोनस रूप में योगदान करते हैं — कमरे के एकत्रित होने से पहले — एक संरचित प्रॉ/कॉन ट्री में; समूह फिर प्रत्येक तर्क को स्पष्ट आयामों (सहायता, स्पष्टता, सटीकता, पूर्णता) पर रेट करता है, और रेटिंग सहमति स्कोर में एकत्रित होती हैं जिस तरह 787 कार्ड 1,207 पाउंड में एकत्रित होते हैं। गुमनाम योगदान विकल्प स्वतंत्रता को पदानुक्रम से बचाते हैं, और पूरा ऑडिट ट्रेल वह संरक्षित करता है जो बैल प्रतियोगिता कभी नहीं कर सका: संख्या के पीछे का क्यों।

गैल्टन ने यह साबित करने के लिए एक मेले में गए कि साधारण निर्णय पर भरोसा नहीं किया जा सकता। वह सबसे मजबूत सबूत के साथ लौटे कि — सही ढंग से एकत्रित होने पर — यह किया जा सकता है। उपकरण एक मतपत्र बॉक्स से सॉफ़्टवेयर में बदल गया है। पाठ नहीं बदला है।