ऑस्ट्रेलिया की एक महिला व्यवसायी को अपने इंस्टाग्राम अकाउंट पर तीन कुत्तों का एक "मासूम" वीडियो शेयर करना भारी पड़ गया। इस एक पोस्ट की वजह से उनका व्यक्तिगत और व्यावसायिक अकाउंट सस्पेंड हो गया, जिससे उन्हें करीब 50,000 ऑस्ट्रेलियाई डॉलर (लगभग 27 लाख रुपये) का नुकसान हुआ।
क्या है मामला?
रॉशेल मेरिनाटो, जो Pilates World Australia की मैनेजिंग डायरेक्टर हैं, ने हाल ही में अपने व्यक्तिगत इंस्टाग्राम प्रोफाइल पर तीन कुत्तों का एक वीडियो साझा किया। लेकिन सोशल मीडिया कंपनी मेटा की ओर से यह वीडियो “बाल यौन शोषण, नग्नता और उत्पीड़न” से जुड़ी सामुदायिक दिशानिर्देशों का उल्लंघन मान लिया गया।
मेरिनाटो के अनुसार, यह एक एआई यानी आर्टिफिशियल इंटेलिजेंस की गलती थी, जिसने वीडियो में मौजूद कुत्तों को बच्चों की तरह पहचान लिया। "यह एक बेतुका आरोप था। मुझे लगा यह जल्दी ही ठीक हो जाएगा," उन्होंने कहा।
व्यवसाय को भारी नुकसान
हालांकि यह वीडियो उनके निजी अकाउंट पर था, लेकिन मेटा ने उनके व्यावसायिक अकाउंट को भी इसी आधार पर प्रतिबंधित कर दिया, क्योंकि वह “एक उल्लंघन करने वाले अकाउंट से जुड़ा” था।
मेरिनाटो ने बताया कि उनकी कंपनी Pilates World Australia की मार्केटिंग पूरी तरह सोशल मीडिया पर निर्भर है। अकाउंट सस्पेंड होने के कारण वे कई महत्वपूर्ण प्रचार अवसरों से चूक गईं, जिनमें एक 1.2 मिलियन फॉलोअर्स वाली सोशल मीडिया इंफ्लुएंसर के साथ साझेदारी भी शामिल थी। उस इंफ्लुएंसर ने साफ कहा कि वह उनके ब्रांड को ढूंढ नहीं पाई।
विश्वासघात जैसा अनुभव
मेरिनाटो ने कहा, “मैंने सोचा था कि जब कोई इंसान इस केस की समीक्षा करेगा, तो फैसला बदल दिया जाएगा। लेकिन अपील प्रक्रिया बहुत लंबी और निराशाजनक रही।” इस दौरान उन्हें लगभग 75% तक राजस्व में गिरावट झेलनी पड़ी।
उन्होंने आगे कहा, “लोगों को लगने लगा कि हमारी कंपनी बंद हो गई है या किसी गलत वजह से हटाई गई है। इससे हमारी प्रतिष्ठा को भी नुकसान पहुंचा।”
सवालों के घेरे में मेटा की एआई मॉडरेशन प्रणाली
इस घटना ने सोशल मीडिया प्लेटफॉर्म्स की एआई-आधारित मॉडरेशन प्रणाली पर सवाल खड़े कर दिए हैं। मेटा का कहना है कि वह नियमों के उल्लंघन की पहचान के लिए तकनीक और मानव टीम दोनों का इस्तेमाल करता है। लेकिन इस मामले में सिर्फ एआई निर्णय के आधार पर दोनों अकाउंट्स का सस्पेंशन व्यापारियों के लिए गंभीर आर्थिक और प्रतिष्ठात्मक संकट पैदा कर सकता है।
