चैटजीपीटी से अब हथियारों और सिक्योरिटी सिस्टम से जुड़ी जानकारियां नहीं मिलेंगी। कंपनी ने शुक्रवार को घोषणा की कि वह टीनेजर्स के लिए हथियारों और सुरक्षा प्रणालियों से जुड़ी व्यावहारिक जानकारियों पर सख्त प्रतिबंध लगाएगी। यह नियम तब भी लागू होगा जब उपयोगकर्ता का सवाल देखने में सामान्य या बिना किसी हिंसक इरादे वाला लगे। दुनिया में हिंसा को रोकने के उद्देश्य से कंपनी यह नए सुरक्षा उपाय लागू कर रही है।
हिंसक चैट अपने-आप होगी बंद, बार-बार उल्लंघन पर अकाउंट पॉज
ओपनएआई के नए सुरक्षा नियम सभी यूजर्स पर लागू होंगे। यदि कोई यूजर बातचीत के दौरान लगातार हिंसा या किसी को नुकसान पहुंचाने जैसी बातों पर केंद्रितरहता है, तो चैटजीपीटी उस चैट सेशन को अपने-आप बंद कर देगा।
कंपनी ने यह भी बताया है कि यदि कोई यूजर बार-बार इस तरह की हिंसक बातें दोहराता है, तो उसका अकाउंट अस्थायी रूप से बंद कर दिया जाएगा।
इतिहास के बड़े हमलों के विवरण पर भी लगी रोक
ओपनएआई ने अतीत में हुए जनसंहारों की जानकारी देने के नियमों को भी सख्त बनाया है।
सभी यूजर्स के लिए पुराने सामूहिक हमलों के विस्तृत जानकारी तक पहुंच को सीमित कर दिया गया है।
इसमें हमलों में इस्तेमाल किए गए हथियारों के प्रकार और उन्हें हासिल करने के तरीकों से जुड़ी संवेदनशील जानकारियां अब चैटजीपीटी नहीं देगा।
अगले कुछ हफ्तों में लागू होंगे नए सुरक्षा फीचर्स
ओपनएआई ने बताया कि ये नए सेफ्टी फीचर्स अगले कुछ हफ्तों में चरणबद्ध तरीके से रोलआउट होना शुरू हो जाएंगे। कंपनी इन सुरक्षा उपायों का लगातार आकलन करेगी और जरूरत के हिसाब से इन्हें आगे भी अपडेट करती रहेगी।
रोजाना औसतन 15 मिनट ही चैटजीपीटी पर बिताते हैं टीन्स
ओपनएआई ने इस महीने की शुरुआत में टीनेजर्स द्वारा चैटजीपीटी के इस्तेमाल पर अपनी पहली रिपोर्ट जारी की थी। इस रिपोर्ट के अनुसार, किशोर यूजर रोजाना औसतन 15 मिनट से भी कम समय चैटजीपीटी पर बिताते हैं। इसके बावजूद कंपनी का मानना है कि युवाओं की सुरक्षा के लिए सुरक्षा मानकों को सख्त बनाना जरूरी है।
क्यों पड़ी सुरक्षा सख्त करने की जरूरत?
दुनियाभर में एआई कंपनियों पर यह दबाव बढ़ रहा है कि वे अपने प्लेटफॉर्म पर युवाओं की मानसिक और शारीरिक सुरक्षा सुनिश्चित करें।
NGO ‘कॉमन सेंस मीडिया’ की हालिया रिपोर्ट में सामने आया था कि चैटजीपीटी का टीन वर्जन आत्महत्या, खुद को नुकसान पहुंचाने या ईटिंग डिसऑर्डर जैसी गंभीर चर्चाओं के दौरान माता-पिता को समय पर अलर्ट भेजने में नाकाम रहा था।
रिपोर्ट के मुताबिक कई मामलों में पैरेंट्स को काफी देर से अलर्ट मिला या बिल्कुल भी सूचित नहीं किया गया। इसी रिपोर्ट के बाद ओपनएआई ने अपनी सुरक्षा व्यवस्था को कड़ा करने का फैसला किया है।
