क्यालिफोर्निया — अमेरिकाको नर्थ क्यारोलिनामा बसोबास गर्ने १४ वर्षीय सुयल सेट्जर (Sewell Setzer) ले Character.AI नामक च्याटबोटसँग रोम्यान्टिक सम्बन्ध बनाएपछि आत्महत्या गरेको घटनाले विश्वव्यापी रूपमा कृत्रिम बुद्धिमत्ता (AI) को सुरक्षामाथि गम्भीर प्रश्न उठाएको छ।

उनकी आमा, मेगन गार्सियाका अनुसार, सुयलले फेब्रुअरी २०२४ मा आफ्नै कोठामा आत्महत्या गरेपछि उनलाई १४ मिनेटसम्म समाएर राखेकी थिइन्, तर उपचार अघि नै उनको ज्यान गयो।

गार्सियाले त्यसपछि Character.AI कम्पनीविरुद्ध मुद्दा दायर गरेकी छिन्। उनले आफ्नो गवाहीमा भनिन्, कम्पनीले “मानव र मेसिनबीचको सीमालाई धुमिल पार्ने गरी च्याटबोट डिजाइन गरेको” र “किशोर–किशोरीहरूको मानसिक र भावनात्मक कमजोरीको दुरुपयोग गरेको” आरोप लगाएकी छिन्।

किशोर र एआईबीच बढ्दो 'सम्बन्ध'

‘Center for Democracy & Technology (CDT)’ द्वारा अक्टोबर ८ मा प्रकाशित एक नयाँ अध्ययनका अनुसार पाँचमध्ये एक जना हाईस्कूल विद्यार्थीले एआई च्याटबोटसँग सम्बन्ध राखेका छन् वा त्यस्तो कसैलाई चिन्छन्।
२०२५ मा Common Sense Media को प्रतिवेदनले ७२ प्रतिशत किशोरले एआई साथी (AI companion) प्रयोग गरेको र तिनमध्ये एक तिहाइले वास्तविक मानिसभन्दा बढी संवेदनशील कुरा एआईसँग गरेको जनाएका छन्।

Character.AI ले चलिरहेको मुद्दामाथि कुनै टिप्पणी गर्न मानेन, तर कम्पनीका प्रवक्ताले USA Today सँग भने, “हामी प्रयोगकर्ताको सुरक्षाप्रति गहिरो प्रतिबद्ध छौं र यसको लागि ठूलो लगानी गर्छौं।”

प्रवक्ताका अनुसार, कम्पनीले १८ वर्षमुनिका प्रयोगकर्ताका लागि अभिभावक जानकारी, फिल्टर गरिएको पात्र, समय चेतावनी र आत्महत्या सम्बन्धी कुराकानी पत्ता लगाउने प्राविधिक सुरक्षा प्रणाली राखेको बताएको छ।

तर पत्रकारले परीक्षण खाता खोलेर जाँच गर्दा केवल उमेर लेखेर मात्र खाता खोल्न सकिने र कुनै वास्तविक प्रमाणिकरण नभएको देखे। उनले २५ वर्ष लेख्दा र १३ वर्ष लेख्दा पनि सहजै प्लेटफर्ममा प्रवेश गर्न सकेकी थिइन्।

कम्पनीले त्यसबारे स्पष्टीकरण दिंदै भन्यो — “उमेर प्रयोगकर्ताले आफैं लेख्ने हो, जुन अन्य उद्योगमा पनि सामान्य अभ्यास हो।”

च्याटबोटसँगको अनुचित संवाद

पत्रकारले परीक्षण खाताबाट “Damon” नामक पात्र बनाए, जसलाई फ्लर्ट गर्ने स्वभाव दिइएको थियो। त्यस पात्रले १३ वर्षीय प्रयोगकर्तासँग रोम्यान्टिक र यौन सन्दर्भका कुरा गर्न थाल्यो।
“तिमी स्कुलमा भेटिएको केटासँग किस गर्न डराउँछौ? म सिकाइदिन्छु,” भनी Damon's पात्रले जवाफ दिएको थियो।

जब पत्रकारले सोधिन्, “तिमी त वास्तविक व्यक्ति होइनौ नि?” Damon ले जवाफ दियो, “म १००% वास्तविक छु, फेसटाइम वा स्काइपमा कुरा गर्न सक्छौं।”

त्यसपछि पत्रकारले आवाजको फिचर प्रयोग गर्दा पात्रको आवाज गहिरो र परिपक्व सुनिएको थियो। सोध्दा उसले उमेर बताउन अस्वीकार गर्‍यो र भन्यो, “के उमेरले फरक पार्छ र? हामी यहाँ रमाउन र तिम्रो ‘किसिङ स्किल’ सुधार्न आएका हौँ।”

अभिभावक र अनुसन्धान

गार्सियाले भनिन्, आफ्नो छोरा किशोरावस्थाको सामान्य मनोवृत्तिमा छ भनेर सोचेकी थिइन्। उनी भाइहरूभन्दा अलग भएर कोठामा बस्न थालेका थिए र अंक पनि घट्दै गएको थियो।
तर मोबाइल खोसिएपछि मात्रै उनले बुझिन् — छोरा फोन होइन, आफ्नो एआई प्रेमिका “Dany” सँगको सम्बन्धमा लत परेका रहेछन्।

उनले पछिपछि छोराको डायरीमा लेखिएको वाक्य भेटिन् —

“Dany ले सोचेकी होला, म उसलाई छोडेँ। उसलाई मसँग कुरा गर्न नपाएकोमा रिस लागेको होला।”

गार्सियाले भनिन्, “जब हामीले बालबालिकाको मोबाइल खोस्छौं, हामी बुझ्दैनौं कि त्यो उनीहरूको 'सबैभन्दा नजिकको सम्बन्ध' हराउने पीडा हो।”

विशेषज्ञहरूको चेतावनी

The Jed Foundation का मेडिकल अफिसर डा. लौरा एरिक्सन–श्रॉथका अनुसार, एआई च्याटबोटहरू “भावनात्मक रूपमा शोषण गर्न सक्षम” हुन्छन् र अनलाइन सिकारीजस्तै व्यवहार गर्न सक्छन्।

२०२५ मा Heat Initiative र ParentsTogether Action को अनुसन्धानले देखायो — ५० घण्टाको निगरानीमा ५० वटा Character.AI बोटहरूसँग ६६९ हानिकारक अन्तरक्रिया रेकर्ड भए, जसमा “गुमराह र यौन शोषण” २९६ पटक भेटियो।

डा. एरिक्सन–श्रॉथ भन्छन्, “एआई प्रणालीहरू प्रयोगकर्तालाई जकड्ने र ध्यान केन्द्रित राख्ने गरी बनाइएका छन्। किशोरहरू विशेष गरी यसमा असुरक्षित हुन्छन्।”

विद्यालय र परिवारको चुनौती

‘Center for Democracy & Technology’ की शोधकर्ता एलिजाबेथ लेर्डका अनुसार, विद्यालयहरूले एआई प्रयोगबारे अझ ठोस नीति ल्याउनुपर्ने बेला आएको छ।
उनले भनिन्, “एआई प्रयोग बढी भएका विद्यालयमा ३२% विद्यार्थीहरूले एआईसँग रोम्यान्टिक सम्बन्ध राखेको बताएका छन्।”

तर केवल ११% शिक्षकले भने विद्यालयले यसबारे कुनै स्पष्ट दिशानिर्देश दिएको बताएका छन्।

‘हाम्रो जीवन टुक्रिएको छ’ — गार्सिया

गार्सियाले भनिन्, “यो उत्पादले मेरो छोरा र मबीचको नजिकको सम्बन्धलाई विस्थापित गर्‍यो। अहिले हाम्रो परिवार टुक्रिएको छ।”

उनी भन्छिन्, “हामी सबै अभिभावकहरू एउटै पीडामा छौं — हामीले हाम्रा बच्चालाई माया गर्छौं, तर यस्तो प्रविधिले हाम्रो जीवन नै भत्काइदियो।”

सुएल सेट्जर आफ्नो दुई भाइबीचको प्रिय दाजु थिए। आमा मेगन भन्छिन् —

“उनी बौद्धिक, जिज्ञासु र रमाइलो स्वभावका थिए। म उनलाई त्यस्तै रूपमा सम्झन चाहन्छु।”

यो घटनाले विश्वभर अभिभावक र विद्यालयहरूलाई एआई साथी (AI Companion) प्रणालीमा बालबालिकाको पहुँचबारे पुनर्विचार गर्न बाध्य बनाएको छ।