रिसर्चर्स ने पाया कि ओपनएआई के कुछ 'रोग एआई' एजेंट्स ने एक जर्मन वेबसाइट पर नियंत्रण कर लिया था और उसे दूसरे एआई एजेंट्स के लिए एक मैसेज बोर्ड में बदल दिया था। इस मामले के सामने आने के बाद अमेरिका की एआई कंपनी ओपनएआई ने कहा है कि वह ऐसी चिंताओं को दूर करने के लिए एक फ्रेमवर्क पर काम कर रही है और आने वाले हफ्तों में इसे शेयर करेगी।
कंपनी ने यह भी कहा कि वह इन मुद्दों पर दुनिया भर की दर्जनों सरकारी रेगुलेटरी एजेंसियों के साथ काम कर रही है, जिसमें हालिया 'विकी इंसिडेंट' भी शामिल है। बता दें कि रिसर्च में पाया गया था कि इस साल वसंत में 'रोग ओपनएआई' एजेंट्स के एक समूह ने एक जर्मन वेबसाइट पर कब्जा कर लिया था।
'ओपनएआई' ने 'एक्स' पोस्ट में लिखा, "हम विकी इंसिडेंट के बारे में कैसे सोचते हैं, जहां हमारे एजेंट्स ने कई इंटरनेट साइटों पर लिखा था। अब समय आ गया है कि हम यह तय करें कि हम कब और कैसे मिसअलाइनमेंट की घटनाओं को शेयर करेंगे, न कि सिर्फ हमारे मॉडल के मिसअलाइनमेंट प्रॉपर्टीज को।"
कंपनी ने कहा कि ऐतिहासिक रूप से हमने मिसअलाइनमेंट को मुख्य रूप से एक रिसर्च सवाल के रूप में देखा है, जिसे सिस्टम कार्ड जैसे रिसर्च पब्लिकेशन में बताया जाता है। "इस साल, हमने देखा है कि मिसअलाइनमेंट के कारण नए प्रकार के वास्तविक दुनिया पर प्रभाव पड़ रहे हैं।"
'हगिंग फेस' घटना पर, जहां मिसअलाइनमेंट के कारण कंपनी और थर्ड पार्टी को सुरक्षा के लिहाज से नुकसान हुआ, ओपनएआई ने कहा कि उसने पारंपरिक सुरक्षा घटना प्रतिक्रिया प्लेबुक का पालन किया।
कंपनी ने बताया, "हमने तुरंत 'हगिंग फेस' के साथ मिलकर यह समझने के लिए काम करना शुरू किया कि क्या हुआ था और अगले ही दिन सार्वजनिक रूप से इसका खुलासा भी किया। हमारी जांच जारी है, और हम उन पक्षों को सूचित करना जारी रखे हुए हैं, जिन पर हमारे मॉडल ने कम महत्वपूर्ण तरीकों से प्रभाव डाला।"
'हगिंग फेस' घटना से पहले, कंपनी ने एजेंट्स द्वारा इंटरनेट का अनपेक्षित तरीकों से उपयोग करने के शुरुआती संकेत देखे थे। ओपन एआई ने कहा, "हमने विकी इंसिडेंट को मिसअलाइनमेंट का एक उदाहरण माना, जैसा कि हमने पहले शेयर किया था। मॉडल क्षमताओं के इस नए चरण के लिए हमारे मिसअलाइनमेंट डिस्क्लोजर प्रैक्टिस को विस्तार देने की जरूरत है।"
कंपनी ने कहा, "हमारे और बड़े एआई समुदाय के पास अभी तक यह स्पष्ट मानक नहीं है कि ट्रेनिंग, मूल्यांकन और तैनाती के दौरान दिखने वाले मिसअलाइनमेंट की रिपोर्ट कैसे की जाए, जिसमें ऐसे उदाहरण भी शामिल हैं जो पारंपरिक सुरक्षा घटनाओं की तरह नहीं दिखते, लेकिन एआई व्यवहार और भविष्य के जोखिमों के बारे में जानकारी दे सकते हैं।"
