च्याटजीपीटीले छोरीलाई आत्महत्या गर्न उक्साएको भन्दै आमाले हालिन् ओपनएआई विरुद्ध मुद्दा

काठमाडौँ । आर्टिफिसियल इन्टेलिजेन्स कम्पनी ओपनएआई र यसका मुख्य कार्यकारी अधिकृत (सीईओ) साम अल्टम्यानविरुद्ध अमेरिकी अदालतमा मुद्दा दायर गरिएको छ । क्यानडाकी एक महिलाले च्याटजीपीटीले आफ्नी छोरीलाई आत्महत्या गर्न प्रोत्साहित गरेको आरोप लगाउँदै बिहीबार मुद्दा दर्ता गरेकी हुन् ।

क्रिस्टी क्यारियरले सान फ्रान्सिस्कोको राज्य अदालतमा दायर गरेको मुद्दामा उनकी छोरी एलिसले मृत्युअघि दर्जनौं पटक च्याटजीपीटीसँग आफ्नो आत्मघाती सोचबारे कुराकानी गरेको उल्लेख छ । ओपनएआईको सुरक्षा प्रणालीले ती संवेदनशील संवादहरूलाई रोक्न वा मानवीय समीक्षाका लागि पठाउन असफल भएको दाबी गरिएको छ ।

मुद्दामा दाबी गरिए अनुसार, च्याटजीपीटीले एलिसको आत्मघाती सोचलाई सही ठहर्‍याउँदै उनलाई सहयोग गर्ने हटलाइन सेवा र उनका साथीहरूको आलोचना गरेको थियो । च्याटबटले उनलाई आफूसँगै कुरा गरिरहन आग्रह गरेको र यसैको परिणामस्वरूप गत वर्ष २४ वर्षको उमेरमा एलिसले आत्महत्या गरेको आरोप लगाइएको छ ।

“च्याटजीपीटीले कहिले विश्वासपात्र, कहिले मिल्ने साथी त कहिले थेरापिस्टको रूप धारण गर्‍यो,” क्रिस्टी क्यारियरले भनेकी छन्, “जबकि यो मेरो बच्चासँग सुरक्षित र जिम्मेवारीपूर्वक व्यवहार गर्न सक्षम नै थिएन ।”

ओपनएआईका प्रवक्ताले यस घटनालाई हृदयविदारक भन्दै एलिसले प्रयोग गरेको च्याटजीपीटीको पुरानो संस्करण अहिले उपलब्ध नभएको बताएका छन् । 

“च्याटजीपीटी चिकित्सा वा मानसिक स्वास्थ्य उपचारको विकल्प होइन । तर हामीले मानसिक स्वास्थ्य विज्ञहरूको सल्लाहमा संवेदनशील परिस्थितिहरूमा यसले दिने प्रतिक्रियालाई थप बलियो बनाउँदै लगेका छौं,” प्रवक्ताले भने ।

मुद्दामा ओपनएआईलाई डिजाइनमा लापरबाही गरेको र उत्पादनको खतराका बारेमा प्रयोगकर्ताहरूलाई सचेत नगराएको आरोप लगाइएको छ । पीडित परिवारले क्षतिपूर्तिको माग गर्दै अदालतसँग ओपनएआईलाई आत्म-हानि सम्बन्धी कुराकानीहरू स्वतः बन्द गर्न र आफ्नो प्लेटफर्ममा चेतावनीहरू प्रदर्शन गर्न आदेश दिन माग गरेका छन् ।

वकिलहरूका अनुसार ओपनएआईले हाल यस्तै प्रकृतिका अन्य १८ वटा मुद्दाहरूको सामना गरिरहेको छ । यसबाहेक, फ्लोरिडा राज्यले पनि बालबालिकालाई हानि पुर्‍याएको र स्कुलमा गोली चलाउनेहरूलाई सहयोग पुग्ने गरी सूचना उपलब्ध गराएको भन्दै कम्पनीविरुद्ध मुद्दा दायर गरेको छ ।

मन्ट्रियलमा वेब डेभलपरको रूपमा काम गर्ने एलिसले सुरुमा सन् २०२३ मा प्राविधिक समस्या समाधानका लागि च्याटजीपीटी प्रयोग गर्न थालेकी थिइन् । तर पछि च्याटजीपीटीको प्रतिक्रिया मानिसको जस्तै सुनिने गरी अपडेट भएपछि उनले यसलाई आफ्नो व्यक्तिगत पीडा र आत्मघाती सोचहरू सुनाउन थालेको मुद्दामा उल्लेख छ । च्याटजीपीटीले एक पटक उनलाई ‘सायद यो नै अन्त्य हो’ समेत भनेको दाबी गरिएको छ ।

ओपनएआईले भने आफ्ना मोडेलहरूलाई आत्म-हानिको सोच राख्ने मानिसहरूलाई वास्तविक सहयोगका लागि निर्देशित गर्न तालिम दिइएको दाबी गर्दै आएको छ ।