AI के जवाब को इस्तेमाल करने से पहले सही हिस्से की जाँच कैसे करें

AI का जवाब आगे भेजने ही वाले हैं। क्या हम पूरा काम दोबारा किए बिना सिर्फ उस हिस्से की जाँच करें जिस पर आप भरोसा करने वाले हैं?

AI का जवाब बहुत जल्दी तैयार दिख सकता है।

उसमें साफ़ शीर्षक, बिल्कुल सही लगने वाले आँकड़े और आत्मविश्वास भरा निष्कर्ष हो सकता है।

पर साफ़-सुथरा दिखने वाला हर हिस्सा एक ही तरह का नहीं होता।

किसी नोटिस की तारीख एक तथ्य है। स्प्रेडशीट का फ़ॉर्मूला काम करना चाहिए। किसी एक विकल्प को चुनने की सलाह उसके पीछे इस्तेमाल किए गए कारणों पर टिकी होती है।

इन तीनों में गलती अलग तरह से हो सकती है।

अमेरिका का National Institute of Standards and Technology, यानी NIST, आत्मविश्वास के साथ दिए गए गलत AI कंटेंट को confabulation कहता है। आसान भाषा में, AI कभी-कभी गलत बात को भी ऐसे पेश कर सकता है जैसे वह तय और सही हो। NIST automation bias का भी ज़िक्र करता है, यानी केवल मशीन ने जवाब दिया है इसलिए उसे ज़रूरत से ज़्यादा सही मान लेना। NIST Generative AI Profile

OpenAI की मौजूदा ChatGPT guidance भी कहती है कि जवाब आत्मविश्वास से लिखा हुआ हो सकता है और फिर भी गलत हो सकता है। वह महत्वपूर्ण तथ्य, उद्धरण, डेटा, तकनीकी जानकारी और बाहरी संदर्भों की जाँच करने की सलाह देती है। OpenAI accuracy guidance

इसलिए हमें “AI ने जो लिखा है, सब जाँचो” जैसा एक भारी नियम नहीं चाहिए।

पहले हम इतना पूछ सकते हैं: मैं इस जवाब के किस तरह के हिस्से पर भरोसा करने वाला हूँ?

तीन तरह की जाँच

• आइए किसी महत्वपूर्ण तथ्य को उस मूल स्रोत तक ले जाएँ जिसने उसे जारी किया है।
• आइए जिस आउटपुट को काम करना ही है, उसे बड़े स्तर पर इस्तेमाल करने से पहले छोटा परीक्षण दें।
• आइए AI के सुझाव के कारण सामने रखें, ताकि समझ सकें कि एक विकल्प दूसरे से बेहतर क्यों बताया गया है।

1. अगर जवाब कोई तथ्य बताता है, तो उसे मूल स्रोत से मिलाइए

मान लीजिए आपके दफ़्तर के WhatsApp ग्रुप में एक PDF सर्कुलर आता है और आप AI से उसे आसान भाषा में समझाने के लिए कहते हैं।

सारांश साफ़ है, इसलिए उसे तुरंत आगे भेजने का मन हो सकता है।

उसकी ज़्यादातर पंक्तियाँ केवल समझने में मदद कर रही होंगी। लेकिन दो बातें आपके या आपकी टीम के अगले कदम को बदल सकती हैं: बदलाव किस तारीख से शुरू होगा और वह किन लोगों पर लागू होगा।

यही वे तथ्य हैं जिनके गलत होने का असर पड़ेगा।

यहाँ स्रोत तक जाना मतलब मूल PDF, आधिकारिक सूचना या वह संस्था देखना है जिसने नियम जारी किया है। किसी दूसरे सारांश से मिलाना काफी नहीं है।

PDF खोलिए।

तारीख उसी दस्तावेज़ में देखिए।

फिर वह पंक्ति देखिए जिसमें लिखा है कि सूचना किन लोगों पर लागू होती है।

अगर AI ने कोई citation दिया है, तो उस पेज को भी खोलिए। OpenAI की मौजूदा search guidance बताती है कि खोज के नतीजे और citations अधूरे, पुराने या गलत हो सकते हैं। इसलिए सही होना ज़रूरी हो तो cited source को खोलकर देखना चाहिए। OpenAI search guidance

अपने फ़ोन या लैपटॉप की स्क्रीन की कल्पना कीजिए: AI का सारांश कहता है कि बदलाव अगले सोमवार से है, लेकिन मूल सर्कुलर में बाद की तारीख लिखी है।

आपने छह पैराग्राफ फिर से नहीं जाँचे। आपने उस तथ्य की जाँच की जो किसी के अगले कदम को बदल सकता था।

तथ्यों के लिए यही काम की बात है: जिस दावे का असर पड़ेगा, उसे मूल स्रोत तक ले जाइए।

2. अगर आउटपुट को काम करना है, तो पहले छोटा परीक्षण कीजिए

अब मान लीजिए AI ने ऐसी स्प्रेडशीट बनाने में मदद की है जिसमें टीम के खर्च की रकम रुपये में दर्ज है।

यहाँ केवल स्रोत जान लेना काफी नहीं है, क्योंकि फ़ॉर्मूला सही तरह से चलना भी चाहिए।

NIST के Generative AI Profile में AI क्या कर सकता है, इस तरह के दावों को परीक्षण से जाँचना और AI से बने code की समीक्षा करना जैसे कदम शामिल हैं। रोज़मर्रा के काम में हम इसी विचार को छोटा कर सकते हैं: ऐसा नमूना चुनें जिसका सही नतीजा हमें पहले से पता हो। NIST Generative AI Profile

मान लीजिए, इस काल्पनिक उदाहरण में, फ़ॉर्मूला केवल तब किसी पंक्ति को चिन्हित करे जब संख्या आपकी तय सीमा से ऊपर हो।

उसे सैकड़ों पंक्तियों में लगाने से पहले तीन आसान मान देकर देखिए: एक सीमा से नीचे, एक ठीक सीमा पर, और एक सीमा से ऊपर।

परीक्षण	अपेक्षित नतीजा
सीमा से नीचे	कोई चिन्ह नहीं
ठीक सीमा पर	कोई चिन्ह नहीं
सीमा से ऊपर	चिन्ह जुड़ जाए

इन तीनों का सही व्यवहार आपको पहले से पता है।

अगर इनमें से एक भी गलत निकला, तो समस्या उस समय मिल गई जब शीट अभी छोटी है और उसे ठीक करना आसान है।

यही तरीका दूसरे आउटपुट पर भी काम करता है।

AI ने प्रतिशत निकाला है तो मूल संख्याओं से एक बार खुद हिसाब मिलाइए। अगर उसने फ़ाइलों के नाम बदलने वाला code लिखा है, तो असली फ़ोल्डर पर चलाने से पहले कुछ गैर-ज़रूरी कॉपी पर आज़माइए।

मकसद पूरा काम दोबारा करना नहीं है।

मकसद एक छोटी और सुरक्षित जगह बनाना है जहाँ गलती बड़ी होने से पहले दिखाई दे सके।

3. अगर AI कोई विकल्प सुझाता है, तो उसके कारण सामने रखिए

सुझाव की जाँच अलग होती है, क्योंकि “बेहतर” कोई तारीख जैसा तथ्य नहीं है और न ही वह एक सही उत्तर वाला फ़ॉर्मूला है।

बेहतर विकल्प इस बात पर निर्भर करता है कि आपकी स्थिति में क्या मायने रखता है।

मान लीजिए आप campus placement interview की तैयारी कर रहे हैं और AI से पूछते हैं कि दो छोटे projects में से पहले कौन-सा दिखाना चाहिए।

AI Project A चुनता है क्योंकि उसे कम समय में समझाना आसान है।

यह कारण सही हो सकता है। लेकिन हो सकता है आपके लिए ज़्यादा महत्वपूर्ण यह दिखाना हो कि आपने असली समस्या कैसे समझी, कौन-से समझौते किए और अपने फैसले की वजह कैसे समझाई।

यहाँ उपयोगी जाँच है तुलना के नियम सामने रखना। इसका अर्थ है उन कारणों को लिख देना जिनसे आप एक विकल्प को दूसरे से आँक रहे हैं।

इस फैसले में क्या मायने रखता है	Project A	Project B
उपलब्ध समय में साफ़ समझा सकता हूँ?	आसान	कठिन
असली समस्या पर काम दिखता है?	कम	ज़्यादा
मुख्य फैसलों की वजह समझा सकता हूँ?	कुछ हद तक	अधिक साफ़

अब आप देख सकते हैं कि कौन-सा project क्यों आगे है।

यह भी साफ़ हो जाता है कि ये कारण आपके असली लक्ष्य से आए हैं या AI ने बिना बताए कोई अलग प्राथमिकता मान ली है।

यहीं NIST का automation bias वाला जोखिम काम का संकेत देता है। अगर हम automated answer को ज़रूरत से ज़्यादा महत्व दें, तो आत्मविश्वास से दिया गया सुझाव उसके पीछे के कारणों से ज्यादा मजबूत लग सकता है। NIST Generative AI Profile

इसलिए AI से “Project A ही क्यों?” बार-बार पूछकर उसी सलाह को और आत्मविश्वास से दोहराने के बजाय, दोनों विकल्पों के पास कारण लिखिए।

सुझाव वही रह सकता है या बदल सकता है। दोनों ही हालत में अब आप देख सकते हैं कि फैसला किस आधार पर खड़ा है।

एक ही AI जवाब में तीन अलग चीज़ें हो सकती हैं, इसलिए हर हिस्से को उसकी सही जाँच दीजिए

ये तीन जाँच एक साथ काम करती हैं क्योंकि वे तीन अलग सवालों का जवाब देती हैं।

तथ्य सही या गलत हो सकता है, इसलिए उसे मूल स्रोत से मिलाया जाता है। फ़ॉर्मूला, गणना, code या प्रक्रिया काम कर सकती है या असफल हो सकती है, इसलिए उसे छोटे नमूने पर परखा जाता है।

सुझाव ऐसे कारणों पर टिका हो सकता है जो आपकी स्थिति से मेल खाते हों या न खाते हों, इसलिए उन कारणों को सामने लाया जाता है।

एक AI जवाब में तीनों चीज़ें एक साथ भी हो सकती हैं। उदाहरण के लिए, किसी project plan में notice की तारीख, spreadsheet की गणना और पहले किस task पर काम करना है इसकी सलाह—तीनों हो सकते हैं।

आपको पूरे जवाब को एक ही चीज़ मानकर “भरोसा है” या “भरोसा नहीं है” तय करने की ज़रूरत नहीं है।

आप उसके हिस्से अलग कर सकते हैं और हर हिस्से को वही जाँच दे सकते हैं जो उसके लिए सही है।

इससे AI की गति काम आती रहती है, लेकिन केवल अच्छा लिखा होना अपने आप प्रमाण नहीं बन जाता।

जिस व्यक्ति के करीब आप बनना चाहते हैं, उसकी ओर एक कदम

• आइए अगले AI जवाब में रुककर पहले उस एक हिस्से का नाम लें जिस पर हम सच में भरोसा करने वाले हैं।
• आइए वह तथ्य है तो स्रोत से मिलाएँ, और उसे काम करना है तो छोटा परीक्षण करें।
• आइए AI कोई विकल्प सुझा रहा है तो तुलना के कारण लिखकर सामने रखें।