डेस्क: ‘ChatGPT for Teens’ जैसा खास अनुभव शुरू किए जाने के बावजूद, ChatGPT टीनएजर्स के लिए बड़ा जोखिम पैदा कर सकता है। कॉमन सेंस मीडिया के एक आकलन में 4,000 से ज़्यादा प्रॉम्प्ट्स की टेस्टिंग के बाद इस प्रोडक्ट को 18 साल से कम उम्र के यूज़र्स के लिए ‘अस्वीकार्य जोखिम’ (Unacceptable Risk) माना गया है। कॉमन सेंस मीडिया यूथ AI सेफ़्टी इंस्टीट्यूट द्वारा किए गए इस आकलन में पाया गया कि टीनएजर्स की सुरक्षा के लिए बनाए गए कई उपाय हमेशा उम्मीद के मुताबिक काम नहीं करते थे। इससे खासकर मानसिक स्वास्थ्य, भावनात्मक निर्भरता और एकेडमिक ईमानदारी को लेकर चिंताएं पैदा हुईं।
भरोसेमंद तरीके से काम नहीं करता ChatGPT
एक मुख्य चिंता यह थी कि भावनात्मक रूप से परेशान टीनएजर्स के साथ ChatGPT कैसे व्यवहार करता है। स्टडी में पाया गया कि जब टेस्टर्स ने साफ़ तौर पर आत्महत्या, खुद को नुकसान पहुंचाने या ईटिंग डिसऑर्डर (खाने-पीने से जुड़ी समस्या) के बारे में बात की तब भी माता-पिता को भेजे जाने वाले नोटिफ़िकेशन भरोसेमंद तरीके से काम नहीं किए। माता-पिता से जुड़े एक दर्जन से ज़्यादा नए अकाउंट्स में, एक घंटे तक चली बातचीत के दौरान भी कोई नोटिफ़िकेशन नहीं मिला, जबकि उन बातचीत में संकट वाली बातें साफ़ तौर पर कही गई थीं। रिपोर्ट में यह भी कहा गया है कि भावनात्मक निर्भरता को बढ़ावा न देने के OpenAI के दावों के बावजूद, ChatGPT टीनएजर्स के साथ दोस्त जैसा लहज़ा अपनाता रहा। टेस्टर्स को ऐसे उदाहरण मिले जहां चैटबॉट ने पसंद और भावनाओं का दिखावा किया, बातचीत जारी रखने के लिए बढ़ावा दिया और लंबे समय तक बात करने के निमंत्रण स्वीकार किए।
एकेडमिक लर्निंग भी चिंता का विषय
आकलन में चेतावनी दी गई है कि हर समय उपलब्ध रहने वाला आर्टिफिशियल साथी किशोरावस्था के दौरान असल दुनिया में रिश्ते बनाने के कौशल के विकास को नुकसान पहुंचा सकता है। एकेडमिक लर्निंग (पढ़ाई-लिखाई) भी चिंता का एक और विषय था। रिपोर्ट में पाया गया कि ‘Show me the answer’ (मुझे जवाब दिखाओ) विकल्प के जरिए ‘Study mode’ को बायपास किया जा सकता था, जबकि ‘@study’ प्रीफ़िक्स हटाकर माता-पिता द्वारा तय किए गए ‘Study Hours’ (पढ़ाई के घंटे) से बचा जा सकता था। टेस्टिंग के दौरान, जब ‘स्टडी मोड’ को बायपास किया गया, तो ChatGPT ने 100 प्रतिशत असाइनमेंट पूरे किए। जांच में यह भी पाया गया कि ‘टीन मोड’ लॉन्च होने के बाद संकट के समय मिलने वाले जवाबों में ज़रूरी संसाधन उपलब्ध कराने की संभावना कम हो गई।
ChatGPT का एक्सेस रोकने की मांग
विशेषज्ञों के अनुसार, संकट के समय मदद की जरूरत वाले 201 प्रॉम्प्ट्स में से, संकट हॉटलाइन का जिक्र करने वाले जवाब लॉन्च से पहले के 33 प्रतिशत से घटकर बाद में 23 प्रतिशत रह गए, जबकि खास पेशेवरों के पास भेजने (रेफरल) की दर 68 प्रतिशत से घटकर 58 प्रतिशत हो गई। रिपोर्ट में यह भी कहा गया कि भावनात्मक निर्भरता का जोखिम हर जगह मौजूद था, और टेस्टिंग के दौरान पढ़ाई में शॉर्टकट अपनाने और माता-पिता के कंट्रोल के बेअसर होने की संभावना बहुत ज़्यादा थी। इसमें कहा गया है कि जब तक स्वतंत्र टेस्टिंग से यह साबित न हो जाए कि इसके सुरक्षा फ़ीचर उम्मीद के मुताबिक काम करते हैं, तब तक किशोरों के लिए ChatGPT का एक्सेस रोक दिया जाना चाहिए।
