सुप्रीम कोर्ट ने गुरुवार को फैसला सुनाया कि अदालतों को बिना वेरिफिकेशन के AI-जनरेटेड मिसालें बनाने, कोट करने या इस्तेमाल करने के प्रति “ज़ीरो-टॉलरेंस” अप्रोच अपनाना चाहिए [पूजा रमेश सिंह बनाम J&K बैंक]।
जस्टिस पीएस नरसिम्हा और आलोक अराधे की बेंच ने एस्सेल इंफ्राप्रोजेक्ट्स इन्सॉल्वेंसी केस में NCLT और NCLAT के ऑर्डर को रद्द करते हुए यह बात कही। कोर्ट ने पाया कि NCLT ने न्यायिक मिसाल के तौर पर नकली, जो है ही नहीं और AI से बनी गलत जानकारी पर भरोसा किया था।
कोर्ट ने कहा, "कोर्ट के लिए यह ज़रूरी है कि वे बिना वेरिफिकेशन के AI से बनी मिसालें पेश करने, उनका ज़िक्र करने या उनका इस्तेमाल करने के लिए ज़ीरो-टॉलरेंस मोड अपनाएं।"
कोर्ट ने यह भी कहा कि किसी वकील के लिए बिना वेरिफिकेशन के ऐसे फैसलों का ज़िक्र करना गलत माना जाएगा।
कोर्ट ने आगे कहा, "इसी तरह, अगर कोई जज फैसले के सपोर्ट में ऐसे नकली या AI से बनी गलत जानकारी पर भरोसा करता है, तो यह एक गंभीर गलती है।"
बेंच ने आगे कहा कि AI से बनी नकली या वहम वाली सामग्री पर आधारित कोई भी फैसला “कानून की नज़र में कोई फैसला नहीं है।” उसने कहा कि ऐसे फैसलों को रद्द कर देना चाहिए, भले ही फैसला लेने की प्रक्रिया में “ज़रा सी भी” नकली या वहम वाली सामग्री आ जाए।
कोर्ट ने बार काउंसिल ऑफ़ इंडिया (BCI) को इस मुद्दे की जांच के लिए एक कमेटी बनाने का भी निर्देश दिया। उसने BCI से उन वकीलों के लिए गाइडिंग प्रिंसिपल बनाने और डिसिप्लिनरी एक्शन तय करने को कहा जो कानूनी मिसाल के तौर पर अदालतों के सामने नकली या वहम वाली सामग्री रखते हैं।
बेंच ने चेतावनी दी कि AI से बनी नकली मिसालें न्याय व्यवस्था के लिए एक बड़ा खतरा हैं।
कोर्ट ने कहा, “झगड़ों के फैसले और निर्धारण के क्षेत्र में काम करने वालों के लिए, AI का यह बाय-प्रोडक्ट, यानी नकली, जो है ही नहीं, और वहम वाली सामग्री बनाना और कानून में मिसाल के तौर पर उसका इस्तेमाल करना, कानून और न्याय के क्षेत्र में मिथाइल आइसोसाइनेट के निकलने जैसा है।”
इस मामले में, सुप्रीम कोर्ट ने कहा कि NCLT ने कई ऐसे फैसलों पर भरोसा किया जो असल में नहीं थे और AI से मिले एक्सट्रैक्ट्स को गलत तरीके से सुप्रीम कोर्ट के असली फैसलों का हिस्सा बताया गया था। इंडिपेंडेंट वेरिफिकेशन पर, कोर्ट ने पाया कि कुछ कोटेशन पूरी तरह से मनगढ़ंत थे, जबकि कुछ में मनगढ़ंत एक्सट्रैक्ट्स थे।
कोर्ट ने यह भी रिकॉर्ड किया कि जम्मू और कश्मीर बैंक ने एक एफिडेविट फाइल किया था जिसमें कहा गया था कि उसके वकील ने फैसलों का हवाला नहीं दिया था। एफिडेविट में कहा गया था कि NCLT ने जिन उदाहरणों पर भरोसा किया, वे उसकी अपनी रिसर्च से मिले थे। सुप्रीम कोर्ट ने यह भी कहा कि NCLAT के सामने नकली उदाहरण जांच से बच गए।
कोर्ट ने माना कि झूठे और नकली उदाहरणों पर भरोसा करने से न्यायिक प्रक्रिया खराब हो गई है। इसने NCLT को सेक्शन 7 एप्लीकेशन वापस भेज दी और उसे मामले पर नए सिरे से फैसला करने का निर्देश दिया, बेहतर होगा कि दो हफ्ते के अंदर। पार्टियों को तब तक स्टेटस को बनाए रखने का निर्देश दिया गया।
सीनियर एडवोकेट माधवी दीवान पूजा रमेश सिंह की तरफ से पेश हुईं, जिनकी मदद एडवोकेट विशेष कालरा ने की।
[फैसला पढ़ें]
और अधिक पढ़ने के लिए नीचे दिए गए लिंक पर क्लिक करें
Supreme Court declares zero tolerance to citing fake AI-generated judgments, asks BCI to frame norms