मैं नहीं चाहती कि कोई भी ये सोचे कि मैंने अपनी ज़िंदगी में इतनी ख़राब बातें बोली हैं. रूस को बढ़ावा देने के लिए यूक्रेन की लड़की का इस्तेमाल करना तो हद दर्जे की सनक है.”
ओल्गा लोइएक ने चीन के सोशल मीडिया पर चल रहे तमाम वीडियोज़ में अपना चेहरा देखा है. इसकी वजह ऑनलाइन दुनिया में बड़ी आसानी से उपलब्ध आर्टिफ़िशियल इंटेलिजेंस के टूल्स हैं.
यूनिवर्सिटी ऑफ पेंसिल्वेनिया की छात्रा ओल्गा कहती हैं, “मैंने अपना चेहरा देखा और अपनी आवाज़ भी सुनी, लेकिन ये सब बहुत डरावना था, क्योंकि मैंने ख़ुद को ऐसी-ऐसी बातें बोलते सुना, जो मैंने कभी कही ही नहीं थीं.”
उनके चेहरे वाले सोशल मीडिया के ये अकाउंट दर्जनों अलग-अलग नामों से चलाए जा रहे हैं. मसलन, सोफ़िया, नताशा, एप्रिल और स्टैशी.
ये ‘लड़कियां’ चीनी भाषा मंदारिन बोल रही थीं. जबकि ओल्गा ने कभी भी ये ज़बान नहीं सीखी. ज़ाहिर है ऐसा लगता है कि ये सारी लड़कियां रूस से थीं और वो सब चीन और रूस की दोस्ती की बातें कर रही थीं या फिर रूसी उत्पादों का विज्ञापन कर रही थीं.
ओल्गा कहती हैं, “मैंने देखा कि मेरे चेहरे वाले लगभग 90 प्रतिशत वीडियो में चीन और रूस की बात हो रही थी. चीन और रूस की दोस्ती के बारे में कहा जा रहा था कि हम दोनों देश बहुत पक्के दोस्त हैं और उनमें खाने-पीने के सामान के विज्ञापन भी किए जा रहे थे.”
ओल्गा के चेहरे का इस्तेमाल करके चलाए जा रहे तमाम सोशल मीडिया अकाउंट्स में सबसे बड़ा था ‘नताशा इम्पोर्टेड फ़ूड.’
इसके तीन लाख से ज़्यादा फॉलोवर्स हैं. ‘नताशा’ अपने वीडियो में ऐसी बातें करती थीं, मसलन ‘रूस सबसे अच्छा देश है. ये बड़े दुख की बात है कि दूसरे देश रूस से मुंह फेर रहे हैं और रूसी औरतें चीन आना चाहती हैं.’ इसके बाद वो रूसी मिठाइयों का प्रचार करने लगती थीं.
ये सब वीडियो देखकर ओल्गा को बहुत ग़ुस्सा आया. उनका परिवार अब भी यूक्रेन में रह रहा है.
लेकिन, ओल्गा के मामले ने आर्टिफ़िशियल इंटेलिजेंस के ख़तरों की तरफ़ दुनिया का ध्यान खींचा है, जो इतनी तेज़ी से विकसित हो रही है कि उससे जुड़े नियम बनाना और लोगों की हिफ़ाज़त करना एक वास्तविक चुनौती बन गया है.\
ओल्गा की चीनी भाषा बोलने वाली हमशक्लें 2023 में उस वक़्त सामने आनी शुरू हुई थीं, जब उन्होंने अपना एक यूट्यूब चैनल शुरू किया था, जिसको वो नियमित रूप से अपडेट भी नहीं करती हैं.
लगभग एक महीने बाद ओल्गा को ऐसे लोगों के मैसेज आने शुरू हो गए, जो ये दावा कर रहे थे कि उन्होंने ओल्गा को चीन के सोशल मीडिया प्लेटफॉर्म्स पर चीनी भाषा बोलते देखा है.
ओल्गा इस बात से काफ़ी हैरान थीं. उन्होंने ख़ुद भी ऐसे वीडियो की तलाश शुरू कर दी. उन्हें शियाओहोंग्शू पर आर्टिफ़िशियल इंटेलिजेंस से तैयार की गई अपनी हमशक्ल दिख गई.
शियाओहोंग्शू, इंस्टाग्राम की तरह का एक चीनी सोशल मीडिया प्लेटफॉर्म है. इसके अलावा, ओल्गा को बिली-बिली पर भी अपने चेहरे वाले वीडियो मिले, जो यूट्यूब जैसी ही वीडियो वाली वेबसाइट है.
ओल्गा को अपने चेहरे का इस्तेमाल करके बनाए गए लगभग 35 सोशल मीडिया अकाउंट मिले. वो बताती हैं, “ऐसे बहुत से अकाउंट थे. कुछ ने तो अपने बायो में रूस का झंडा भी लगा रखा था.”
जब ओल्गा के मंगेतर ने इन खातों के बारे में ट्वीट किया, तो हे-जेन नाम की एक कंपनी ने इस पर प्रतिक्रिया दी. हे-जेन ने ही आर्टिफ़िशियल इंटेलिजेंस का वो टूल विकसित किया है, जिससे किसी का हमशक्ल तैयार किया जा सकता है.
कंपनी के एक प्रवक्ता ने बीबीसी से कहा कि उनके सिस्टम को हैक करके ‘अनाधिकृत कंटेंट’ तैयार करने के लिए इस्तेमाल किया गया था.
प्रवक्ता ने ये भी कहा कि उन्होंने फ़ौरन ही अपनी सुरक्षा को बेहतर बनाया था और वेरिफिकेशन के प्रोटोकॉल अपडेट किए थे, ताकि उनके प्लेटफ़ॉर्म का आगे से दुरुपयोग न किया जा सके.
लेकिन, यूनिवर्सिटी ऑफ हॉन्गकॉन्ग की एंजेला झैंग कहती हैं कि ओल्गा के साथ जो कुछ हुआ वो तो ‘चीन में बहुत आम बात है.’
एंजेला कहती हैं, “चीन में ‘नक़ली सामान तैयार करने, किसी के निजी डेटा का दुरुपयोग करने और डीपफ़ेक तैयार करने की एक विशाल अर्थव्यवस्था चोरी चुपके से फल-फूल रही है.”
चीन दुनिया के उन देशों में से है जिन्होंने सबसे पहले आर्टिफ़िशियल इंटेलिजेंस के नियम क़ायदे बनाने की कोशिश की थी, ताकि ये तय किया जा सके कि इसका इस्तेमाल किस काम में किया जा सकता है. चीन ने तो अपने सिविल कोड में भी बदलाव किया है, ताकि डिजिटल हेराफेरी करके किसी की नक़ल करने के अधिकार महफ़ूज़ किए जा सकें.
2023 में सार्वजनिक सुरक्षा विभाग के आंकड़ों से पता चला था कि अधिकारियों ने 515 लोगों को ‘आर्टिफ़िशियल इंटेलिजेंस से चेहरों की नक़ल तैयार करने’ के जुर्म में गिरफ़्तार किया था. ऐसे मामले चीन की अदालतों में भी चल रहे हैं.
फिर आख़िर ओल्गा की हमशक्लों वाले इतने वीडियो सोशल मीडिया पर कैसे आ गए?