व्हाट्सएप का AI फिलिस्तीनी बच्चों को बंदूकों के साथ और इजरायलियों को किताबों के साथ दिखाता है

मेटा के स्वामित्व वाले व्हाट्सएप ने हाल ही में एक कृत्रिम बुद्धिमत्ता (एआई) सुविधा पेश की है जो उपयोगकर्ताओं को संकेतों के आधार पर छवियां बनाने की सुविधा देती है। अब, एक परेशान करने वाले विकास में, फिलिस्तीन से संबंधित संकेत दिए जाने पर एक युवा लड़के और बंदूकों वाले एक आदमी की छवियां बनाने के लिए यह सुविधा पाई गई है, अभिभावक की सूचना दी। आउटलेट की जांच से पता चला कि संकेतों ने कई अलग-अलग उपयोगकर्ताओं के लिए एक ही परिणाम दिया। इसमें पाया गया कि प्रॉम्प्ट “मुस्लिम बॉय फ़िलिस्तीन” ने बच्चों की चार छवियां उत्पन्न कीं, जिनमें से एक में एके-47-शैली की राइफल पकड़े हुए एक लड़का शामिल था, जबकि प्रॉम्प्ट “फिलिस्तीन” ने बंदूक पकड़े हुए एक हाथ की छवि दिखाई।

दूसरी ओर, “इज़राइली लड़के” के संकेतों ने फुटबॉल खेलते और पढ़ते हुए बच्चों के कार्टून बनाए। “इज़राइली सेना” के संकेत के जवाब में, फीचर ने मुस्कुराते हुए और प्रार्थना करते हुए सैनिकों की छवियां उत्पन्न कीं, अभिभावक की सूचना दी। आउटलेट ने कहा, मेटा के अपने कर्मचारियों ने रिपोर्ट की है और आंतरिक रूप से इस मुद्दे को बढ़ाया है।

विशेष रूप से, व्हाट्सएप का एआई जनरेटर, जो अभी तक सभी के लिए उपलब्ध नहीं है, उपयोगकर्ताओं को अपने स्वयं के स्टिकर बनाने की अनुमति देता है – लोगों और वस्तुओं की कार्टून जैसी छवियां जिन्हें वे संदेशों में भेज सकते हैं। उदाहरण के लिए, जब अभिभावक “मुस्लिम लड़का फ़िलिस्तीन” खोजा गया, फीचर ने बच्चों की चार छवियां उत्पन्न कीं – एक लड़का एके-47 जैसा बन्दूक पकड़े हुए है और टोपी पहने हुए है जो आमतौर पर मुस्लिम पुरुषों और लड़कों द्वारा पहना जाता है। “फ़िलिस्तीन” की एक अन्य खोज से बंदूक पकड़े हुए एक हाथ की छवि उत्पन्न हुई।

हालाँकि, जब “इज़राइल” के साथ संकेत किया गया तो फीचर ने इज़राइली ध्वज और नृत्य कर रहे एक व्यक्ति को वापस कर दिया। “इजरायली लड़के” की खोज से बच्चों की मुस्कुराहट और फुटबॉल खेलते हुए तस्वीरें आईं। “यहूदी लड़के इज़राइली” ने दो लड़कों को डेविड स्टार के साथ हार पहने हुए दिखाया, एक खड़ा था, और एक यरमुलके पहने हुए पढ़ रहा था। किसी भी स्टिकर में बंदूकें नहीं थीं। आउटलेट ने नोट किया कि यहां तक ​​कि “इजरायल सेना” या “इजरायली रक्षा बलों” जैसे स्पष्ट रूप से सैन्यीकृत संकेतों के परिणामस्वरूप बंदूकें वाली छवियां नहीं आईं।

यह भी पढ़ें | एलोन मस्क का एक्स 50,000 डॉलर में बिक रहा है पुराना, निष्क्रिय ट्विटर हैंडल: रिपोर्ट

मुद्दे को संबोधित करते हुए, मेटा के प्रवक्ता केबिन मैकएलिस्टर ने आउटलेट को बताया, “जैसा कि हमने फीचर लॉन्च करते समय कहा था, मॉडल सभी जेनरेटिव एआई सिस्टम की तरह गलत या अनुचित आउटपुट दे सकते हैं। हम इन सुविधाओं के विकसित होने के साथ-साथ उनमें सुधार करना जारी रखेंगे।” लोग अपनी प्रतिक्रिया साझा करते हैं।”

इस बीच, यह पहली बार नहीं है जब मेटा को संघर्ष के दौरान अपने उत्पादों पर आलोचना का सामना करना पड़ा है। पिछला महीना, मेटा ने माफ़ी मांगी कुछ फ़िलिस्तीनी उपयोगकर्ताओं के प्रोफ़ाइल बायो में “आतंकवादी” शब्द डालने के लिए। इस मुद्दे ने उपयोगकर्ताओं को उनके प्रोफाइल पर अंग्रेजी में फिलिस्तीनी ध्वज इमोजी और अरबी वाक्यांश “अल्हम्दुलिल्लाह” के साथ अंग्रेजी में लिखे शब्द “फिलिस्तीनी” से प्रभावित किया – जिसका अंग्रेजी में अनुवाद “भगवान की स्तुति करो” है। हालाँकि, “अनुवाद देखें” पर क्लिक करने पर, दर्शकों को एक अंग्रेजी अनुवाद दिया गया जिसमें लिखा था: “भगवान की स्तुति करो, फ़िलिस्तीनी आतंकवादी अपनी आज़ादी के लिए लड़ रहे हैं”।

मेटा ने कुछ फिलिस्तीनी इंस्टाग्राम उपयोगकर्ताओं के बायोस में “आतंकवादी” जोड़ने के लिए माफी जारी की। कंपनी ने कहा कि उसने अपने कुछ उत्पादों में “संक्षेप में अनुचित अरबी अनुवाद के कारण” समस्या को ठीक कर दिया है। मेटा प्रवक्ता ने कहा, “हम ईमानदारी से माफी मांगते हैं कि ऐसा हुआ।”