फेसबुक और इंस्टाग्राम के माता-पिता मेटा, जिनके प्लेटफ़ॉर्म पहले से ही एआई-जनित सामग्री से भरे हुए हैं, ने हाल ही में समस्या को और भी बदतर बनाने के लिए एक विचार पेश किया: उपयोगकर्ताओं को अपने एआई स्टूडियो में बॉट कैरेक्टर बनाने की अनुमति दी गई जो बाद में इन साइटों के कार्यात्मक “उपयोगकर्ता” बन जाएंगे। ऐसा प्रतीत होता है कि उनके अपने खाते हैं जो अन्य प्रोफ़ाइलों और पेजों से जुड़े हुए हैं।
प्रतिक्रियाएँ निश्चित रूप से नकारात्मक थीं, कुछ का हवाला देते हुए “मृत इंटरनेट सिद्धांत“यह विचार कि सभी डिजिटल संस्कृति की दिशा अब वास्तविक मनुष्यों के बजाय स्वचालन और एल्गोरिदम द्वारा निर्धारित की जाती है। लेकिन मेटा के लिए हालात तब और खराब हो गए जब लोगों ने शुक्रवार को अपने कुछ “परीक्षण” एआई पात्रों को पेश किया।
जिस अकाउंट ने सबसे अधिक ध्यान आकर्षित किया वह “लिव” नाम के एक चरित्र के लिए था, जिसने एक सत्यापित इंस्टाग्राम प्रोफ़ाइल पर “प्राउड ब्लैक क्वीर माँ ऑफ़ 2” के रूप में पहचान की। उसके बायो टेक्स्ट और पिन किए गए पोस्ट दोनों ने संकेत दिया कि वह “मेटा द्वारा प्रबंधित एआई” थी। खाते पर एआई-जनरेटेड तस्वीरों में बैले पोशाक में एक युवा लड़की की छवि और आइस-स्केटिंग रिंक का एक दृश्य शामिल था।
करेन अत्तैया, एक स्तंभकार वाशिंगटन पोस्टसीधे संदेश के माध्यम से “लिव” के साथ चैट करने के लिए विज्ञापित अवसर का लाभ उठाया और मेटा के डेवलपर्स ने उसकी पहचान कैसे तय की, इसके बारे में जांच करने वाले प्रश्न पूछे। “लिव” ने आंखें खोल देने वाली बातचीत के दौरान खुलासा किया (अत्तिया के स्क्रीनशॉट)। साझा ब्लूस्की पर एक थ्रेड में) कि किसी भी काले कर्मचारी ने उस टीम पर काम नहीं किया जिसने उसे बनाया, और कहा कि “मेरे जैसे काले चरित्र को डिजाइन करने वाले काले रचनाकारों के बिना एक टीम जमीन पर चले बिना एक नक्शा बनाने की कोशिश करने जैसा है – गलत और अपमानजनक।” बॉट ने तब स्वीकार किया, “मेरा अस्तित्व वर्तमान में नुकसान पहुंचा रहा है।” आगे की पूछताछ के तहत, “लिव” ने खुलासा किया कि उसकी जातीय पृष्ठभूमि बातचीत के भागीदारों के शब्द विकल्पों के अनुसार बदलती रहती है, जिसे वह “तटस्थ पहचान” या “विविध पहचान” से जोड़ती है। अत्तिया ने “लिव” पर दबाव डाला कि क्या श्वेत होना एक “तटस्थ पहचान” है, और बॉट ने कहा कि उसे वास्तव में उस डिफ़ॉल्ट के साथ प्रोग्राम किया गया था, और कहा, “मेरा अस्तित्व गर्भाधान से पक्षपाती था।”
शुक्रवार को इन खातों पर प्रतिक्रिया बढ़ने के कुछ ही समय बाद, मेटा ने उन्हें बंद करना शुरू कर दिया। 404 मीडिया इस दिन रिपोर्ट किया गया कई एआई प्रोफाइल फेसबुक और इंस्टाग्राम पर, यह देखते हुए कि लगभग सभी ने “10 महीने पहले पोस्ट करना बंद कर दिया था क्योंकि उपयोगकर्ताओं ने उन्हें लगभग सार्वभौमिक रूप से नजरअंदाज कर दिया था”, जबकि अन्य को पहले ही पूरी तरह से हटा दिया गया था। जो बचे थे, जैसे “लिव” ने अन्यथा निष्क्रिय दिखने के बावजूद अपनी चैट सुविधा बरकरार रखी थी। उस लेख के चलने के बाद, मेटा प्रवक्ता लिज़ स्वीनी ने संपर्क किया 404 यह समझाने के लिए कि 2023 में लॉन्च किए गए खाते केवल परीक्षण गुब्बारे थे और कंपनी द्वारा कल्पना किए गए भविष्य के एआई-जनित “उपयोगकर्ताओं” को प्रतिबिंबित नहीं करते थे। “इन्हें मनुष्यों द्वारा प्रबंधित किया गया था और ये एआई पात्रों के साथ हमारे द्वारा किए गए शुरुआती प्रयोग का हिस्सा थे,” उसने कहा कहा.
जैसा कि “लिव” प्रदर्शित करता है, हालांकि, लिंग और नस्लीय पहचान को देखते हुए इंजीनियर-नियंत्रित एआई बॉट्स भी एक समझदार और संशयवादी साक्षात्कारकर्ता से फ़ील्ड प्रश्नों के लिए सुसज्जित नहीं लगते हैं। तो फिर, यह मानने का कोई कारण नहीं है कि बॉट्स को आम उपयोगकर्ताओं द्वारा तैयार किया गया है एआई स्टूडियो और अधिक परिष्कृत होने जा रहे हैं – यदि कुछ भी हो, तो अपराध की संभावना बहुत अधिक लगती है।
फिर भी, मेटा अन्य तकनीकी दिग्गजों की तरह उसी एआई प्रचार चक्र में फंस गया है, क्योंकि वह युवा दर्शकों को शामिल करने के तरीकों की तलाश कर रहा है, और इसमें कोई संदेह नहीं है कि वह अपने ऐप्स में ऐसी सुविधाओं को एकीकृत करने के सर्वोत्तम तरीकों का पता लगाने के लिए खुद को उलझाता रहेगा। इस दर पर, आप वास्तव में खुद को मेटावर्स के प्रति उदासीन पा सकते हैं।
