आज के डिजिटल युग में AI का इस्तेमाल हर उम्र के लोग कर रहे हैं. पढ़ाई से जुड़ा सवाल हो या सेहत से जुड़ी समस्या अब बहुत से लोग तुरंत एआई से सवाल कर देते हैं. जैसेजैसे एआई का इस्तेमाल बढ़ रहा है, वैसेवैसे बच्चों की ऑनलाइन सुरक्षा को लेकर भी चिंता बढ रही है. इसी को देखते हुए AI बनाने वाली कंपनी OpenAI ने ChatGPT के लिए कुछ नए सिक्योरिटी फीचर पेश कर दिया है. चैटजीपीटी के इन फीचर की सहायता से बच्चों से जुड़ी अश्लील तस्वीरों और आपत्तिजनक कंटेंट की पहचान करना आसान होगा. कंपनी ने इसके लिए एक नया AI इमेज क्लासिफायर भी तैयार कर लिया है, जो AI से बनाई गई ऐसी तस्वीरों को भी पहचान लेगा.

OpenAI के अनुसार ChatGPT में अब ऐसे प्रॉम्प्ट पर अलर्ट दिखाएगा, जिनके जरिए बच्चों को गलत तरीके से दिखाने वाला कंटेंट तैयार करने का प्रयास किया जाएगा. इसके साथ ही डेवलपर्स और कानून लागू करने वाली एजेंसियों के लिए भी नए टूल्स और गाइडलाइंस जारी की गई हैं.

कैसे काम करेगा नया सिस्टम

OpenAI का नया इमेज क्लासिफायर तस्वीरों को स्कैन करके उनमें बच्चों से जुड़े अश्लील तस्वीरों को पहचान सकेगा. यह AI से तैयार की गई तस्वीरों को भी जान लेगा. इसके बाद इमेज को एक स्कोर दिया जाएगा, जिससे सेफ्टी टीमों को यह समझने में सहायता मिलेगी कि कौन सी तस्वीर जांच के लिए ज्यादा जरूरी है.

इस टूल को नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन यानी NCMEC के साथ मिलकर तैयार किया गया है. शुरुआती टेस्टिंग में इसने पहले के मुकाबले 48 फीसदी कम तस्वीरों को जांच के लिए चुना, वहीं संदिग्ध तस्वीरों की पहचान करने की क्षमता बनी रही.

फिलहाल इस टूल का इस्तेमाल कुछ चुनिंदा संस्थाएं ही API के जरिए कर सकेंगी. इनमें Tech Coalition और ROOST जैसी संस्थाएं शामिल हैं. OpenAI ने इनके लिए इसे बिना किसी एक्स्ट्रा चार्ज के उपलब्ध कराया है.

गलत प्रॉम्प्ट देने पर मिलेगा अलर्ट

ओपनएआई में अलर्ट स्क्रीन भी जोड़ रही है. अगर कोई यूजर बच्चों से जुड़ा अश्लील कंटेंट बनाने का प्रयास करता है, तो उसे स्क्रीन पर अलर्ट दिखाई देगा. इसके साथ ही उसे ऐसी एक्टिविटी से दूर रहने और जरूरी हेल्प लेने के लिए जानकारी दी जाएगी. ऐसे मामलों में यूजर का अकाउंट 24 घंटे के लिए सस्पेंड भी किया जाएगा.
इन अलर्ट मैसेज को तैयार करने में प्रोटेक्ट चिल्ड्रन्स, लुसी फेथफुल फाउंडेशन और यूनिवर्सिटी ऑफ तस्मानिया के रिसर्चर्स जोएल स्कैनलान की सहायता ली गई है.

डेवलपर्स और पुलिस को भी मिलेंगे नए टूल

OpenAI ने डेवलपर्स के लिए भी नई गाइडलाइंस जारी की हैं. इनके जरिए वे अपने प्लेटफॉर्म पर ऐसे कंटेंट की पहचान और रिपोर्टिंग कर सकेंगे. वहीं कानून लागू करने वाली एजेंसियों को AI आधारित टूल्स, जांच में मदद करने वाले प्लगइन और डेटा एनालिसिस की सुविधा दी जाएगी. कंपनी जांच अधिकारियों को ट्रेनिंग और इस्तेमाल से जुडी गाइड भी उपलब्ध कराएगी.

बता दें कि बीते कुछ समय से OpenAI पर बच्चों की सेफ्टी को लेकर काफी दबाव बना हुआ है. अकेले अमेरिका के कई राज्यों के कई अटॉर्नी जनरल ने चैटजीपीटी के खिलाफ मुकदमे भी दर्ज किए हैं जिनमें आरोप लगाया गया है कि इसके जरिए युवाओं पर गलत असर पड़ रहा है. यही कारण है कि कंपनी अब सेफ्टी के मोर्चे पर एक के बाद एक सख्त और कड़े फैसले ले रही है.