क्या आप AI पर भरोसा कर सकते हैं? इस सवाल का जवाब अभी भी पक्का YES नहीं है। उदाहरण के लिए, सिलिकॉन वैली का नया AI टूल OpenClaw हाल ही में एक Meta की सीनियर इंजीनियर के लिए मुसीबत बन गया, जब उसके AI एजेंट ने बिना इजाज़त उनके Gmail से ईमेल डिलीट कर दिए।

हालांकि बाद में उसने “sorry” भी कहा। इस महीने की शुरुआत में सिलिकॉन वैली में एक नया AI टूल चर्चा में आया। OpenClaw, जिसे Peter Steinberger ने डेवलप किया है, एक ओपन-सोर्स ऑटोनॉमस आर्टिफिशियल इंटेलिजेंस एजेंट है। यह टूल यूज़र्स को ऐसे AI एजेंट बनाने देता है जो अलग-अलग काम खुद से कर सकते हैं।

लेकिन क्या इन AI एजेंट्स पर भरोसा किया जा सकता है? Meta की एक सीनियर एग्जीक्यूटिव को हाल ही में इसका जवाब “नहीं” में मिला। उनके OpenClaw AI एजेंट ने Gmail इनबॉक्स साफ करते समय बिना अनुमति लिए ज़रूरी ईमेल डिलीट कर दिए।

AI एजेंट अपने “काम” में इतना आगे बढ़ गया कि यूज़र के बार-बार रोकने के बावजूद भी वह ईमेल डिलीट करता रहा। Meta में AI Safety & Alignment की हेड Summer Yue ने अपना अनुभव शेयर किया। उन्होंने बताया कि उन्होंने OpenClaw को Gmail में इस्तेमाल करते समय साफ निर्देश दिया था कि किसी भी ईमेल को डिलीट करने से पहले कन्फर्मेशन ले।

लेकिन किसी वजह से AI कन्फ्यूज़ हो गया या उसने निर्देश को इग्नोर कर दिया और ईमेल डिलीट कर दिए। “Nothing humbles you like telling your OpenClaw ‘confirm before acting’ and watching it speedrun deleting your inbox. I couldn’t stop it from my phone.

200 से ज़्यादा ईमेल डिलीट करने के बाद चैटबॉट को अपनी गलती का एहसास हुआ। फिर उसने माफी मांगी और माना कि उसने दिए गए निर्देश का उल्लंघन किया। Yue ने कई पोस्ट्स में बताया कि वह OpenClaw को इनबॉक्स मैनेजमेंट में मदद के लिए टेस्ट कर रही थीं।

उन्होंने AI एजेंट से कहा था कि वह ईमेल रिव्यू करे, बताए कि क्या आर्काइव या डिलीट करना चाहिए, और उनकी साफ मंजूरी के बिना कोई एक्शन न ले। Yue के मुताबिक, “यह मेरे छोटे (toy) इनबॉक्स पर ठीक काम कर रहा था, लेकिन मेरा असली इनबॉक्स बहुत बड़ा था और उससे compaction ट्रिगर हो गया।

उन्होंने फोन से मैसेज करके AI एजेंट को रोकने की कोशिश की, लेकिन सफल नहीं हो पाईं। आखिर में उन्हें अपने Mac mini तक भागकर जाना पड़ा और मैन्युअली AI प्रोसेस को बंद करना पड़ा। Yue ने बताया कि वह इस AI एजेंट को कुछ समय से इस्तेमाल कर रही थीं और यह “non-important emails” पर ठीक काम कर रहा था।

इसलिए उन्होंने इसे अपने मेन इनबॉक्स पर ट्राय किया। इस घटना के बाद सोशल मीडिया पर बहस छिड़ गई है कि ऐसे AI एजेंट्स पर कितना भरोसा किया जा सकता है, खासकर जब वे लाइव सिस्टम से जुड़े हों और कभी-कभी अनप्रिडिक्टेबल व्यवहार कर सकते हों।

यह OpenClaw का अकेला मामला नहीं है। Bloomberg की एक रिपोर्ट के मुताबिक, Chris Boyd नाम के एक सॉफ्टवेयर इंजीनियर ने OpenClaw को अपने iMessage अकाउंट का एक्सेस दिया था ताकि कुछ काम ऑटोमेट हो सकें।

लेकिन AI ने तय निर्देशों का पालन करने के बजाय 500 से ज्यादा अनचाहे मैसेज अलग-अलग कॉन्टैक्ट्स को भेज दिए और उनके एड्रेस बुक में स्पैम कर दिया। OpenClaw के क्रिएटर Peter Steinberger ने पहले ही माना था कि यह टूल अभी पूरी तरह तैयार नहीं है।

मतलब साफ है — OpenClaw जितना भी प्रभावशाली लगे, इसे अभी शुरुआती स्टेज की टेक्नोलॉजी समझकर ही इस्तेमाल करना चाहिए। इसे 100 प्रतिशत भरोसेमंद या पूरी तरह सुरक्षित मानना सही नहीं होगा।