होम / टेक / AI-image Generator टूल को लेकर सरकार से क्या मांग कर रहे हैं माइक्रोसॉफ्ट के ये इंजीनियर?
AI-image generator टूल को लेकर सरकार से क्या मांग कर रहे हैं माइक्रोसॉफ्ट के ये इंजीनियर?
Microsoft ने अपने यूजर्स के लिए 'Copilot Designer' की सुविधा जोड़ी है. वहीं, अब इस टूल के गलत उपयोग को लेकर चिंता जताते हुए माइक्रोसॉफ्ट के एक इंजीनियर ने सरकार से जांच की मांग की है.
बिजनेस वर्ल्ड ब्यूरो 2 years ago
माइक्रोसॉफ्ट (Microsoft) ने अपने यूजर्स के लिए हाल में एक नया फीचर लॉन्च किया है. इसमें कंपनी ने यूजर्स के काम को आसान बनाने के लिए AI-image generator टूल की सुविधा जोड़ी है. वहीं, अब इस टूल के गलत उपयोग को लेकर माइक्रोसॉफ्ट के एक सीनियर इंजीनियर ने चिंता जताई है. उनका कहना है कि इस टूल के उपयोग से लोग हार्मफुल इमेज भी क्रिएट कर सकते हैं, जो समाज पर बुरा प्रभाव डाल सकती है.
सरकार से लगाई गुहार
माइक्रोसॉफ्ट के प्रिंसिपल सॉफ्टवेयर इंजीनियरिंग मैनेजर शेन जोन्स ने मार्च 2023 में तकनीकी दिग्गज द्वारा लॉन्च किए गए टेक्स्ट-टू-इमेज जनरेटर कोपायलट डिजाइनर के संबंध में यूएस फेडरल ट्रेड कमीशन (US Fedral Trade Commission) और माइक्रोसॉफ्ट के बोर्ड ऑफ डायरेक्टर्स को एक पत्र सौंपा है. शेन जोन्स ने कंपनी के जेनरेटिव एआई टूल्स की सुरक्षा को लेकर चिंता जताई है और अमेरिकी सरकार से इस विषय पर जांच करने का आग्रह किया है.
क्या है जोन्स की चिंता?
जोन्स ने हार्मफुल इमेज का निर्माण करने के लिए कोपायलट डिजाइनर की क्षमता पर चिंता व्यक्त की है. उन्होंने कहा है कि इस टूल का उपयोग अश्लीलता, हिंसा, कम उम्र में शराब पीने और नशीली दवाओं को बढ़ावा देने के साथ राजनीतिक पूर्वाग्रह के लिए भी किया जा सकता है. उन्होंने कहा है कि लोगों को और विशेष रूप से माता-पिता और शिक्षकों को ऐसी तकनीक के उपयोग से जुड़े रिक्स को लेकर शिक्षित करने की जरूरत है.
कंपनी पर लगाया ये आरोप
जोन्स ने कहा है कि पिछले तीन महीनों से वह माइक्रोसॉफ्ट में आंतरिक रूप से इस मुद्दे पर बात करने का प्रयास कर रहे हैं, लेकिन कंपनी कोई कार्रवाई नहीं कर रही. कंपनी ने कोपायलट डिज़ाइनर को सार्वजनिक उपयोग से हटाने या पर्याप्त सुरक्षा उपाय लागू करने से मना कर दिया है. उन्होंने प्रोडक्ट को बंद करने और एंड्रॉइड ऐप स्टोर पर इसकी रेटिंग बदलने का सुझाव भी दिया, लेकिन उस पर भी कार्रवाई नहीं की गई.
माइक्रोसॉफ्ट का भी आया बयान
कंपनी ने शेन जोन्स द्वारा उठाई गई चिंताओं का जवाब देते हुए कहा कि कंपनी अपनी नीतियों के अनुरूप किसी भी कर्मचारी की चिंताओं को दूर करने के लिए प्रतिबद्ध है और अपनी टेक्नालाजी की सुरक्षा बढ़ाने के लिए लगातार काम कर रही है.
टैग्स