जब LLMs ने तर्क खनन से मुलाकात की: क्या बदला और क्या नहीं बदला | Argumentree
अपने इतिहास के अधिकांश समय के लिए, संगणकीय तर्क खनन के लिए हर नए क्षेत्र के लिए एक हाथ-एनोटेटेड कॉर्पस की आवश्यकता थी। यह आवश्यकता क्षेत्र की बाध्यकारी सीमा थी: एनोटेशन प्रयास बड़ा था, दिशानिर्देश विवादित थे, और एक प्रणाली जो छात्र निबंधों पर ट्यून की गई थी, मीटिंग ट्रांसक्रिप्ट या सार्वजनिक टिप्पणियों पर खराब तरीके से स्थानांतरित होती थी। बड़े भाषा मॉडल ने उस सीमा को हटा दिया। एक सामान्य-उद्देश्य मॉडल एक प्रॉम्प्ट से घटक पहचान और संबंध वर्गीकरण कर सकता है, बिना किसी क्षेत्र-विशिष्ट प्रशिक्षण डेटा के, और प्रकाशित मूल्यांकन ने पाया है कि प्रॉम्प्टेड सामान्य-उद्देश्य मॉडल संबंध-आधारित तर्क खनन पर ठीक-ट्यून किए गए एन्कोडर बेंचमार्क के साथ प्रतिस्पर्धी हैं और कुछ मामलों में उनसे बेहतर हैं। इसने यह बदल दिया कि तर्क खनन किसके लिए है: यह केवल क्यूरेटेड अनुसंधान कॉर्पस पर नहीं, बल्कि सामान्य संगठनात्मक पाठ पर उपयोगी हो गया। जो चीज नहीं बदली वह कठिन समस्याओं की संरचना है। वर्ग असंतुलन यह दर्शाता है कि लोग कैसे लिखते हैं, न कि मॉडल कैसे प्रशिक्षित होते हैं। चाहे एक योगदान समर्थन करता है या हमला करता है, यह इसके माता-पिता पर निर्भर करता है न कि इसके शब्दों पर। और आपत्तियाँ अक्सर एक अप्रकट वारंट को लक्षित करती हैं जो पाठ में कहीं नहीं दिखाई देता। बड़े मॉडल ने अपनी एक नई कठिनाई भी पेश की: मौखिक रूप से व्यक्त आत्मविश्वास कच्चे टोकन संभावनाओं की तुलना में बेहतर कैलिब्रेटेड है लेकिन फिर भी रैंकिंग संकेत के रूप में अविश्वसनीय है, इसलिए एक मॉडल की निश्चितता यह तय करने के लिए उपयोग नहीं की जा सकती कि कौन सा निकाला गया तर्क सबसे महत्वपूर्ण है।
कॉर्पस की बाधा गायब हो गई। संरचनात्मक समस्याएँ एक इंच भी नहीं हिलीं — और एक नई समस्या आई, जो समाधान के वस्त्र में थी।
- आर्गुमेंट माइनिंग को प्रत्येक डोमेन के लिए हाथ से एनोटेट किया गया कॉर्पस चाहिए था। प्रॉम्प्टेड जनरल-पर्पज मॉडल को इसकी आवश्यकता नहीं होती, जो इसे सामान्य व्यावसायिक पाठ पर उपयोगी बनाता है।
- प्रकाशित मूल्यांकन यह पाते हैं कि सामान्य-उद्देश्य मॉडल संबंध वर्गीकरण पर, कभी-कभी बेहतर, और अक्सर, ठीक-ठाक एन्कोडर बेंचमार्क के मुकाबले प्रतिस्पर्धात्मक होते हैं।
- असंतुलन, संदर्भ निर्भरता और अप्रकट वारंट भाषा और कार्य की विशेषताएँ हैं, मॉडल के आकार की नहीं।
- मॉडल का आत्मविश्वास कच्ची संभावनाओं की तुलना में बेहतर तरीके से समायोजित होता है लेकिन फिर भी यह एक विश्वसनीय रैंकिंग संकेत नहीं है — एक नया जाल, नया उपकरण नहीं।
- जो मदद करता है वह यह है कि संबंध को शब्दों में व्यक्त करने के लिए मजबूर किया जाए इससे पहले कि लेबल को स्वीकार किया जाए।
जिस बाधा ने क्षेत्र को परिभाषित किया, वह बस लागू होना बंद हो गई।
बीस वर्षों तक, क्या हम अपने डेटा पर तर्क खनन कर सकते हैं? का उत्तर एक और प्रश्न था: आप कितने हजारों दस्तावेजों को पहले हाथ से एनोटेट करने के लिए तैयार हैं, और दिशा-निर्देश कौन लिखेगा?
यह कोई तकनीकी विवरण नहीं था। यह वह कारण था कि तर्क खनन अनुसंधान प्रयोगशालाओं में ही रहा जबकि भावना विश्लेषण हर उत्पाद में शामिल हो गया। एनोटेशन की आवश्यकता ने प्रत्येक नए क्षेत्र को एक परियोजना बना दिया न कि एक कॉन्फ़िगरेशन, और जैसा कि इस श्रृंखला में दूसरा पोस्ट ने वर्णित किया, दिशानिर्देश स्वयं विशेषज्ञों के बीच भी विवादित थे।
फिर सामान्य-उद्देश्य भाषा मॉडल आए और यह सवाल पूछना बंद हो गया। आप अब किसी मीटिंग ट्रांसक्रिप्ट को एक ऐसे क्षेत्र में इंगित कर सकते हैं जिसे कभी भी एनोटेट नहीं किया गया है और एक उपयोगी पहली पास प्राप्त कर सकते हैं। यदि आपने कभी सोचा है कि यह क्षमता अचानक उत्पादों में क्यों आई, न कि धीरे-धीरे, तो यही कारण है।
जीरो-शॉट ही पूरी कहानी है
विशिष्ट चीज जो बदली है वह है डोमेन-विशिष्ट पर्यवेक्षण का हटना। एक प्रॉम्प्टेड मॉडल भाषा के साथ एक सामान्य क्षमता लाता है और उसे बताया जा सकता है कि एक दावा क्या है और एक पूर्वधारणा क्या है, प्रॉम्प्ट में, अनुमान के समय।
संबंध-आधारित तर्क खनन पर प्रकाशित कार्य ने सामान्य-उद्देश्य वाले मॉडलों को पाया है, जिनमें कुछ-शॉट प्रॉम्प्टिंग कई डेटा सेटों में फाइन-ट्यून किए गए एन्कोडर बेंचमार्क के साथ प्रतिस्पर्धा कर रही है — और कुछ मामलों में उनसे आगे भी। एक ऐसे क्षेत्र के लिए जिसकी पूरी मूल्यांकन प्रणाली एनोटेटेड कॉर्पोरा के खिलाफ सुपरवाइज्ड ट्रेनिंग पर आधारित थी, यह एक वास्तविक विघटन है।
तीन व्यावहारिक परिणाम निकलते हैं। डोमेन अनुकूलन पुनः प्रशिक्षण के बजाय प्रॉम्प्ट-स्विचिंग बन जाता है। लंबे दस्तावेज़ प्रबंधनीय हो जाते हैं, क्योंकि संदर्भ विंडो बढ़ गई हैं। और साक्ष्य क्षेत्र एक व्याख्या ले जा सकता है, क्योंकि मॉडल से उसी कॉल में अपने आप को सही ठहराने के लिए कहा जा सकता है — जो कि सुनने में जितना लगता है उससे अधिक महत्वपूर्ण साबित होता है।
तीन समस्याएँ जो नहीं हिलीं
पिछले पोस्ट में सब कुछ अभी भी लागू होता है, और यह स्पष्ट होना महत्वपूर्ण है कि क्यों पैमाना इनमें से किसी का समाधान नहीं करता है।
- क्लास असंतुलन लेखन की एक विशेषता है, प्रशिक्षण की नहीं। मामले का निर्माण करने वाले लोग ज्यादातर सहायक वाक्य लिखते हैं। एक मॉडल जिसने पूरे इंटरनेट को पढ़ा है, उसने ज्यादातर सहमति भी पढ़ी है।
- संदर्भ निर्भरता कार्य की एक विशेषता है। समर्थन और हमले संबंध हैं, वाक्य के गुण नहीं। एक अलग माता-पिता के तहत वही वाक्य एक अलग लेबल रखता है, और दुनिया के ज्ञान की कोई मात्रा इसे नहीं बदलती।
- अप्रकट वारंट पाठ की एक संपत्ति है। यदि साक्ष्य को निष्कर्ष से जोड़ने वाला सिद्धांत कभी लिखा नहीं गया, तो यह इनपुट में नहीं है। एक बड़ा मॉडल उसी अनुपस्थित वाक्य को पढ़ता है।
एक चौथा, अधिक सूक्ष्म है। एक धाराप्रवाह मॉडल धाराप्रवाह आउटपुट उत्पन्न करता है, इसलिए इसकी गलतियाँ अच्छी तरह से वाक्यबद्ध और आंतरिक रूप से संगत होती हैं। एक एन्कोडर से गलत संबंध लेबल शोर की तरह दिखता है। एक भाषा मॉडल से गलत संबंध लेबल एक तर्क की तरह दिखता है।
नया जाल: मॉडल की अपनी निश्चितता पर भरोसा करना
क्योंकि ये मॉडल यह रिपोर्ट कर सकते हैं कि वे कितने आत्मविश्वासी हैं, इसलिए उस संख्या का उपयोग करना आकर्षक होता है — निकाले गए तर्कों को रैंक करने के लिए, यह तय करने के लिए कि कौन से महत्वपूर्ण हैं, यह निर्धारित करने के लिए कि क्या दिखाया जाए।
सौरव कदावत और उनके सहयोगियों के काम ने पाया कि वर्बलाइज्ड आत्म-मूल्यांकन कच्चे टोकन संभावनाओं की तुलना में अर्थपूर्ण रूप से बेहतर कैलिब्रेटेड है। उस परिणाम को अक्सर संख्या पर भरोसा करने के लिए लाइसेंस के रूप में उद्धृत किया जाता है। इसके बाद के मूल्यांकन ने लगातार कम उत्साहजनक परिणाम दिए हैं: विकल्प से बेहतर होना विश्वसनीय होने के समान नहीं है, और कैलिब्रेशन ठीक उसी जगह बिगड़ता है जहाँ इसकी आवश्यकता होती है, कठिन और असामान्य मामलों में।
व्यवहार में एक श्रेणी त्रुटि भी छिपी हुई है। आत्मविश्वास यह मापता है कि मॉडल कितनी निश्चितता के साथ यह कह सकता है कि उसने एक वास्तविक तर्क पाया। यह इस बारे में कुछ नहीं कहता कि वह तर्क बहस के लिए केंद्रीय है या नहीं। एक स्पष्ट रूप से शब्दबद्ध सांख्यिकी एक आसान, उच्च-आत्मविश्वास वाली निष्कर्षण है; वह हेज़ किया हुआ वाक्य जो वास्तव में थीसिस है, एक कठिन है। आत्मविश्वास के आधार पर रैंकिंग साक्ष्य को बढ़ावा देती है और दावों को कम करती है — जो कि इस श्रृंखला में अंतिम पोस्ट के साथ शुरू होती है।
इसे एक ट्रांसक्रिप्ट पर आजमाएं जिसे आप अच्छी तरह जानते हैं।
एक ऐसी बैठक लें जिसका परिणाम आपको स्पष्ट रूप से याद है और किसी भी AI टूल से पूछें कि मुख्य तर्क क्या था। यदि यह आपको सबसे सटीक, सबसे अच्छी तरह से प्रमाणित वाक्य देता है बजाय उस ढीले वाक्य के जिसने वास्तव में निर्णय को प्रभावित किया, तो आपने देखा है कि आत्मविश्वास ने महत्व के लिए स्थानापन्न किया है — और अब आप जानते हैं कि उस रैंकिंग पर भरोसा नहीं करना चाहिए।
क्या मदद: पहले यह क्यों कहता है
इन मॉडलों के साथ उपलब्ध सबसे विश्वसनीय सुधार लगभग शर्मनाक रूप से सरल है। लेबल से पहले तर्क मांगें।
एक मॉडल को यह लिखने की आवश्यकता होना कि एक योगदान अपने माता-पिता के लिए क्या करता है - यह ऊपर दिए गए आपत्ति को मजबूत करता है, क्योंकि यह उस आपत्ति के लिए एक और कारण प्रदान करता है - समर्थन या हमले के निर्णय पर प्रतिबद्ध होने से पहले यह निर्णय को मापने योग्य रूप से सुधारता है। लिखित चरण माता-पिता के संबंध को मॉडल के कार्यशील संदर्भ में मजबूर करता है, जो कि वाक्य के शब्दों द्वारा प्रदान की गई जानकारी की ठीक वही कमी है।
यह एक पूरी तरह से मानव तकनीक का मशीन संस्करण है। यही कारण है कि स्टीलमैनिंग काम करता है: यह बताना कि एक तर्क वास्तव में क्या कर रहा है, उसे आंकने से पहले, निर्णय को बदल देता है।
क्या तर्क खनन का समाधान हो गया है?
नहीं, और जो बचा है उसकी आकृति अब पहले से कहीं अधिक स्पष्ट है।
व्यवहारिक रूप से जो हल हुआ है, वह है पहुंच। आज कोई भी संगठन अपने स्वयं के पाठ पर बिना किसी एनोटेशन कार्यक्रम के तर्क खनन चला सकता है, जो कुछ साल पहले असंभव था। यह एक वास्तविक और बड़ा परिवर्तन है।
जो हल नहीं हुआ है वह संरचना है: कौन सा योगदान किसका उत्तर देता है, और किस दिशा में, जब जोड़ने वाला सिद्धांत स्पष्ट नहीं है और डेटा ने सभी को - मानव और मशीन - सहमति की अपेक्षा करने के लिए प्रशिक्षित किया है। ईमानदार स्थिति यह है कि निष्कर्ष अब किसी भी क्षेत्र में एक अच्छा मसौदा उत्पन्न करता है, और एक व्यक्ति को अभी भी असहमतियों की जांच करनी होती है। यह श्रम का एक काफी बेहतर विभाजन है बनिस्बत उस स्थिति के जहां कोई भी संरचना का निर्माण नहीं करता।
इसका सही उपयोग कैसे करें
- आत्मविश्वास के आधार पर रैंक न करें। यह निष्कर्ष निकालने की निश्चितता को मापता है, महत्व को नहीं, और यह प्रणालीगत रूप से दावों की तुलना में साक्ष्य को बढ़ावा देता है।
- रिश्ते के बारे में पूछें, भावना के बारे में नहीं। उपयोगी सवाल यह है कि यह इसके माता-पिता पर क्या प्रभाव डालता है — कभी भी यह विषय के बारे में कैसा महसूस करता है।
- इसे देने से पहले लेबल को सही ठहराएं। लिखित तर्क वह है जो माता-पिता के संबंध को संदर्भ में रखता है, और यहीं आप गलतियाँ पकड़ते हैं।
- अपने समीक्षा समय को असहमतियों पर व्यतीत करें। यही वह स्थान है जहाँ मॉडल सबसे कमजोर होते हैं और जहाँ निर्णय का मूल्य केंद्रित होता है।
एक बेहतर मसौदा, न कि एक निर्णय
जो बाधा तर्क खनन को प्रयोगशाला में रखती थी, वह चली गई है, और यह वापस नहीं आएगी। यह स्पष्ट रूप से समझने लायक है: यह एक शोध तकनीक और कुछ ऐसा है जिसे आप अपनी बैठकों में दिखा सकते हैं।
लेकिन 1958 में जो समस्याएँ कठिन थीं, वे अब भी कठिन हैं। वारंट अभी भी अप्रकाशित है, असहमति अभी भी दुर्लभ है, और लेबल अभी भी अभिभावक पर निर्भर करता है न कि वाक्यांश पर। जो बदला है वह यह है कि किसे समस्या होती है — जो कि एक क्षेत्र के लिए जिसने अंकेक्षक के लिए बीस साल इंतजार किया, यह पर्याप्त बदलाव है।
तर्क खनन श्रृंखला
पाँच पोस्ट इस बारे में कि मशीनों ने तर्क पढ़ना कैसे सीखा — यह क्षेत्र कहाँ से आया, इसके कठिन समस्याएँ कठिन क्यों हैं, और हम इसे कैसे लागू करते हैं।
कैसे 1958 की एक दर्शनशास्त्र की किताब जिसे तर्कशास्त्रियों ने अस्वीकार किया, एक मशीन-लर्निंग कार्य के लिए विनिर्देशन बन गई।
हाथ से एनोटेट किए गए कॉर्पोरा का दशक जिसने तर्क खनन को एक विचार से एक मापने योग्य कार्य में बदल दिया।
डेटा में असहमति दुर्लभ है और यह उस संदर्भ पर निर्भर करती है जो वाक्य में नहीं है।
इसे लागू करना: तर्क श्रेणियाँ, प्रत्येक श्रेणी के लिए एक मुख्य दावा, और क्यों आत्मविश्वास गलत रैंकिंग संकेत है।
स्रोत और आगे की पढ़ाई
क्षेत्र की पूर्व-एलएलएम स्थिति — यह उस आधार के रूप में उपयोगी है जिसके खिलाफ परिवर्तन को मापा जाता है।
मौखिक आत्म-मूल्यांकन कच्चे टोकन संभावनाओं को मात देता है — परिणाम अक्सर संख्या पर भरोसा करने के लाइसेंस के रूप में अधिक पढ़ा जाता है।
LLM दृष्टिकोणों की तुलना के लिए पर्यवेक्षित बेंचमार्क परिणाम।
वारंट — वह अनलिखित कदम जो पैमाना प्रदान नहीं करता, क्योंकि यह पाठ से अनुपस्थित है न कि मॉडल से।
अक्सर पूछे जाने वाले प्रश्न
बड़े भाषा मॉडल्स ने तर्क खनन को कैसे बदला?
उन्होंने प्रत्येक नए क्षेत्र में हाथ से एनोटेट किए गए कॉर्पस की आवश्यकता को हटा दिया। एक प्रेरित सामान्य-उद्देश्य मॉडल बिना क्षेत्र-विशिष्ट प्रशिक्षण डेटा के दावों, पूर्वापेक्षाओं और संबंधों की पहचान कर सकता है, जिससे तर्क खनन एक शोध तकनीक से सामान्य संगठनात्मक पाठ पर उपयोग करने योग्य कुछ में बदल गया।
क्या LLMs तर्क खनन में फाइन-ट्यून किए गए मॉडलों से बेहतर हैं?
संबंध-आधारित तर्क खनन पर, प्रकाशित मूल्यांकन ने पाया है कि सामान्य उद्देश्य मॉडल कई डेटा सेटों में फाइन-ट्यून किए गए एन्कोडर बेंचमार्क के साथ प्रतिस्पर्धी हैं और कुछ मामलों में उनसे बेहतर हैं। बड़ा व्यावहारिक लाभ यह है कि उन्हें किसी नए क्षेत्र के लिए कोई एनोटेटेड प्रशिक्षण डेटा की आवश्यकता नहीं होती है।
LLMs ने कौन सी समस्याओं का समाधान नहीं किया?
तीन संरचनात्मक बातें। वर्ग असंतुलन यह दर्शाता है कि लोग कैसे लिखते हैं, न कि मॉडल कैसे प्रशिक्षित होते हैं। समर्थन बनाम हमले का निर्भरता माता-पिता पर होती है, न कि शब्दों पर। और आपत्तियाँ अक्सर एक अप्रकट वारंट को लक्षित करती हैं जो पाठ में अनुपस्थित होती है, इसलिए मॉडल की किसी भी क्षमता से इसे प्रदान नहीं किया जा सकता।
क्या आप एक मॉडल के आत्मविश्वास स्कोर पर भरोसा कर सकते हैं?
रैंकिंग संकेत के रूप में नहीं। मौखिक रूप से व्यक्त आत्मविश्वास कच्चे टोकन संभावनाओं की तुलना में बेहतर समायोजित होता है लेकिन यह निरपेक्ष रूप से अविश्वसनीय रहता है, और यह महत्व के बजाय निष्कर्ष निकासी की निश्चितता को मापता है — इसलिए इसके द्वारा रैंकिंग करना व्यवस्थित रूप से अच्छी तरह से प्रमाणित विवरण को उन ढीले वाक्यों के मुकाबले बढ़ावा देता है जो वास्तविक दावों को ले जाते हैं।
LLMs के साथ संबंध वर्गीकरण को वास्तव में क्या सुधारता है?
मॉडल को यह बताने की आवश्यकता है, शब्दों में, कि एक योगदान अपने माता-पिता के लिए क्या करता है, समर्थन या हमले के लेबल पर प्रतिबद्ध होने से पहले। लिखित चरण माता-पिता के संबंध को कार्यशील संदर्भ में लाता है, जो कि वाक्य के अपने शब्दों में प्रदान करने में विफल रहता है।
क्या तर्क खनन अब एक हल किया हुआ समस्या है?
एक्सेस हल हो गया है - कोई भी संगठन इसे अपने पाठ पर बिना किसी एनोटेशन कार्यक्रम के चला सकता है। संरचना हल नहीं हुई है। यह तय करना कि कौन सा योगदान किसका जवाब देता है, और किस दिशा में, अभी भी कठिन है, इसलिए निष्कर्षण एक अच्छा मसौदा तैयार करता है और एक व्यक्ति अभी भी असहमति की समीक्षा करता है।
Argumentree Team
Decision Science
The Argumentree team explores the science of better decisions—from ancient philosophy to modern AI.
एक मसौदा जिसे आप सुधार सकते हैं
निष्कर्ष संरचना उत्पन्न करता है; आप असहमतियों की समीक्षा करते हैं। एक प्रतिलेख चिपकाएँ और श्रम का विभाजन देखें।
क्षेत्र के लिए संदर्भ पृष्ठ — कार्य, इतिहास, और क्यों संबंध कठिन हिस्सा हैं।
पूरे क्षेत्र का आर्क, एक अस्वीकृत 1958 के दर्शनशास्त्र की किताब से लेकर आज तक।
श्रेणियाँ, प्रत्येक श्रेणी के लिए एक मुख्य दावा, और क्यों आत्मविश्वास गलत रैंकिंग संकेत है।
इसे अपनी स्वयं की प्रतिलिपि पर चलाएँ।
कोई एनोटेशन कार्यक्रम नहीं, कोई कॉर्पस नहीं, कोई प्रशिक्षण रन नहीं — केवल समीक्षा के लिए एक संरचित पक्ष और विपक्ष का पेड़।
मुफ्त शुरू करें