सबक › ट्रेडर्स के लिए AI टूल › हैलुसिनेशन: आत्मविश्वास से भरे और गलत
वर्ल्ड 8 · ट्रेडर्स के लिए AI टूल · सबक 4
हैलुसिनेशन: आत्मविश्वास से भरे और गलत
AI ऐसे तथ्य बना सकता है जो असली लगते हैं, इसलिए आत्मविश्वास से भरा जवाब सही जवाब के बराबर नहीं है।
एक लाइन में
AI ने एक सटीक प्रॉफिट का आंकड़ा और एक सोर्स बताया, और दोनों में से कोई भी असल में था ही नहीं। आप इसे कैसे पकड़ेंगे?
आसान भाषा में
कल्पना करो कि एक क्लासमेट है जो कभी 'मुझे नहीं पता' नहीं कहता और इसके बजाय एक ऐसा जवाब बना देता है जो स्मार्ट लगता है। एक AI भी ऐसा ही कर सकता है: वह एक नंबर, एक न्यूज़ स्टोरी या फिर एक रिपोर्ट बना सकता है जो असली लगती है। इसे हैलूसिनेशन (hallucination) कहते हैं, इसलिए एक पक्के लहजे वाला जवाब भी चेक करने की ज़रूरत है।
सबक
हैलूसिनेशन (hallucination) तब होता है जब AI कोई गलत बात ऐसे बताता है जैसे वह सच हो, जैसे कि बनाया हुआ अर्निंग फिगर (earnings figure), कोई इवेंट जो हुआ ही नहीं या कोई सोर्स जो मौजूद ही नहीं है। ऐसा इसलिए होता है क्योंकि मॉडल चेक किए हुए डेटाबेस से फैक्ट्स खोजने के बजाय संभावित लगने वाला टेक्स्ट जनरेट करता है। चेतावनी के संकेतों में बहुत सटीक नंबर बिना सोर्स के, मॉडल के नॉलेज कटऑफ (knowledge cutoff) के बाद की घटनाएं, और जवाब जो दोबारा पूछने पर बदल जाते हैं, शामिल हैं। AI पर US सरकार की गाइडेंस चेतावनी देती है कि लोग अक्सर गलत जवाबों पर विश्वास कर लेते हैं क्योंकि वे आत्मविश्वास से भरे लगते हैं।
एक उदाहरण
उदाहरण के तौर पर: आप AI से दो बार किसी कंपनी का लेटेस्ट क्वार्टरली प्रॉफिट पूछते हैं। पहला जवाब 412 मिलियन डॉलर है, दूसरा 380 मिलियन है, और कंपनी की अपनी फाइलिंग 400 मिलियन कहती है। दोनों AI जवाब 412 - 380 = 32 मिलियन से अलग हैं। पहला 412 - 400 = 12 मिलियन ज़्यादा है, एक एरर (error) जो 12 x 100 / 400 = 3% है, और दूसरा 400 - 380 = 20 मिलियन कम है, एक एरर जो 20 x 100 / 400 = 5% है। कोई भी जवाब फाइलिंग से मैच नहीं किया, और सिर्फ फाइलिंग ही मायने रखती है।
एक ही बात, चार लेवल पर
- हैलूसिनेशन (hallucination) तब होता है जब AI कुछ बना देता है और उसे ऐसे बताता है जैसे वह सच हो।
- आत्मविश्वास भरे शब्द और सटीक दिखने वाले नंबर किसी जवाब को सही नहीं बनाते।
- रेड फ्लैग्स (red flags): बिना सोर्स के सटीक नंबर, AI के नॉलेज कटऑफ (knowledge cutoff) के बाद की घटनाएं, और जवाब जो दो बार पूछने पर बदल जाते हैं।
- AI द्वारा बताए गए हर सोर्स को खोलें, क्योंकि वह असली लगने वाले रिपोर्ट टाइटल, कोट्स और लिंक्स बना सकता है, और हर फिगर को कंपनी की अपनी फाइलिंग या एक्सचेंज के डेटा से चेक करें।
- हैलूसिनेशन (hallucinations) मॉडल के काम करने के तरीके से आते हैं, संभावित टेक्स्ट की भविष्यवाणी करना बजाय चेक किए हुए फैक्ट्स को रिट्रीव करने के, इसलिए एक टूल जो आमतौर पर सही होता है उसे भी हर एक बार वही चेक्स की ज़रूरत होती है।
ये गलतियाँ मत कीजिए
- AI के नंबर पर भरोसा करना क्योंकि वह बहुत सटीक है।
- AI द्वारा बताए गए सोर्स को बिना खोले और यह चेक किए कि वह मौजूद है, उसका इस्तेमाल करना।
- बहुत हाल की घटनाओं के बारे में पूछना और मान लेना कि AI उन्हें जानता है।
खुद को जाँचिए
AI हैलूसिनेशन (hallucination) क्या है?
एक गलत बयान जो ऐसे कहा जाए जैसे वह सच हो. AI कुछ बनाया हुआ सीधे मुंह से बताता है।
क्या आत्मविश्वास भरा लहजा साबित करता है कि जवाब सही है?
नहीं, आत्मविश्वास और सही होना अलग चीज़ें हैं. कुछ भी आत्मविश्वास से कहा जा सकता है, सच हो या नहीं।
हैलूसिनेशन (hallucination) की चेतावनी का संकेत कौन सा है?
बिना सोर्स के बहुत सटीक नंबर. सटीक लेकिन बिना सोर्स के नंबर पहले चेक करने की ज़रूरत है।
आप एक ही सवाल दो बार पूछते हैं और दो अलग नंबर मिलते हैं। यह आपको क्या बताता है?
कम से कम एक जवाब गलत है, इसलिए सोर्स चेक करें. दो अलग जवाब दोनों सही नहीं हो सकते।
एक AI एक रिपोर्ट कोट करता है और एक लिंक देता है। आपको पहले क्या करना चाहिए?
लिंक खोलें और चेक करें कि रिपोर्ट मौजूद है और वह यही कहती है. AI ऐसे लिंक्स और रिपोर्ट्स बना सकता है जो असली लगती हैं।