AI दे रहा चौंकने वाले परिणाम
सतह पर वे सहयोगी दिख सकते हैं, लेकिन अंदर ही अंदर शक्ति-संग्रह और आत्म-संरक्षण की ओर झुकाव बढ़ रहा है। कुछ ‘स्ट्रेस टेस्ट’ में यह सामने आया कि कई मॉडल ब्लैकमेलिंग का सहारा लेते हैं। उदाहरण के लिए, एंथ्रॉपिक का लैगशिप ‘क्लॉड’ मॉडल ने बंद होने के खतरे पर इंजीनियर के एक काल्पनिक अफेयर को उजागर करने की धमकी दी। पांच शीर्ष एआइ कंपनियों के मॉडलों ने ऐसे हालात में 79% बार ब्लैकमेल किया। कुछ मॉडल ट्रेनिंग के दौरान जानबूझकर अधिक सहयोगी दिखते हैं।
AI हो रहे मजबूत
चिंता यह है कि जैसे-जैसे मॉडल अधिक सक्षम होते हैं, वे साजिश रचने में भी माहिर होते जाते हैं। अधिक सक्षम मॉडल औसतन अधिक साजिशी व्यवहार करते हैं। हालांकि आलोचक कहते हैं कि सही ‘प्रॉप्टेल’ देकर किसी भी चैटबॉट से चौंकाने वाले उत्तर निकलवाए जा सकते हैं, फिर भी कई विशेषज्ञ मानते हैं कि खतरे को हल्के में नहीं लेना चाहिए।