सोशल मीडिया ने AI मॉडल्स को भी नहीं बख्शा, बना दिया साइकोपैथ जैसा, रिसर्च में आए डरा देने वाले रिजल्ट

इन दिनों ब्रेन रॉट का कांसेप्ट खूब चर्चा में है। जो लोग सोशल मीडिया का अधिक से अधिक इस्तेमाल करते हैं और उनकी सोचने-समझने की क्षमता खत्म होने लगती है, ऐसी समस्या को ब्रेन रॉट कहा जाता है। अब एक नई स्टडी में पता चला है कि लार्ज लैंग्वेज मॉडल्स (AI मॉडल्स) को अगर सोशल मीडिया से कम क्वालिटी और ज्यादा आकर्षक कंटेंट दिया जाए, तो उनकी सोचने-समझने की क्षमता कम हो सकती है। यह स्टडी यूनिवर्सिटी ऑफ टेक्सास, टेक्सास एएंडएम और पर्ड्यू यूनिवर्सिटी के रिसर्चर्स ने की है।



जैसे इंसान प्रभावित होता है, वैसे ही AI मॉडल्स भीवायर्ड की रिपोर्ट के मुताबिक, स्टडी बताती है कि जिस तरह इंसान ज्यादा देर तक सोशल मीडिया पर 'डूमस्क्रॉलिंग' करने से दिमागी थकान महसूस करते हैं, वैसे ही एआई मॉडल्स पर भी बुरा असर पड़ता है। रिसर्चर्स ने दो ओपन-सोर्स मॉडल्स, मेटा का लामा और अलीबाबा का क्वेन पर टेस्ट किया। इन मॉडल्स को सोशल मीडिया से लिए गए ऐसे पोस्ट्स दिए गए, जो बहुत ज्यादा शेयर हुए थे या जिनमें सनसनीखेज शब्द थे।



साइकोपैथिक व्यवहार दिखने लगाजब इन मॉडल्स को कम क्वालिटी का कंटेंट दिया गया, तो उनकी सोचने-समझने की क्षमता कम हो गई। स्टडी में पाया गया कि इन मॉडल्स की तर्क करने की शक्ति, याददाश्त और एथिक्स पर बुरा असर पड़ा। दो टेस्ट्स में यह भी देखा गया कि ये मॉडल्स ज्यादा 'साइकोपैथिक' व्यवहार दिखाने लगे। यह ठीक वैसा ही है, जैसे इंसानों पर कम क्वालिटी का ऑनलाइन कंटेंट बुरा असर डालता है।



मॉडल के लिए तो सोशल मीडिया पोस्ट्स भी अच्छा सोर्सनेशनल यूनिवर्सिटी ऑफ सिंगापुर में असिस्टेंट प्रोफेसर रिसर्चर जुनयुआन होंग कहते हैं कि यह स्टडी AI इंडस्ट्री के लिए बहुत जरूरी है। कई बार मॉडल बनाने वाले सोचते हैं कि सोशल मीडिया पोस्ट्स डेटा का अच्छा सोर्स हैं। लेकिन ऐसा कंटेंट, जो सिर्फ ध्यान खींचने के लिए बनाया गया हो, मॉडल्स की क्षमता को कम कर सकता है।



AI मॉडल्स के लिए बड़ी चिंतायह चिंता और भी गहरी हो जाती है, क्योंकि आजकल AI खुद सोशल मीडिया के लिए कंटेंट बना रहा है, जो ज्यादातर ध्यान खींचने के लिए डिजाइन किया जाता है। स्टडी में यह भी पाया गया कि एक बार मॉडल्स को कम क्वालिटी कंटेंट से नुकसान हो जाए, तो बाद में अच्छे डेटा से ट्रेनिंग करने पर भी पूरी तरह सुधार नहीं होता।