بعد نجاح وشعبية “روبوت الذكاء الاصطناعي” الخاص بـ ChatGPT ، لاحظ العديد من المستخدمين بعض الأخطاء في الخدمة ، حيث بدأت في تقديم إجابات وإجابات “غير فعالة” ، مما يشير إلى أن البرنامج بدأ يصبح أكثر وعياً.
يأتي ذلك في الوقت الذي أعلنت فيه شركة مايكروسوفت أنها ستقوم بتحديث محرك بحث Bing الخاص بها ليشمل ChatGPT chatbot في محاولة للتنافس مع Google ، ومنذ التحديث ، تحسن محرك البحث عند الإجابة على الأسئلة وتلخيص صفحات الويب التي ارتكبت أخطاء واقعية.
يمكن للمستخدمين أيضًا التلاعب بالنظام واستخدام كلمات مرور وعبارات محددة لخداعه لإظهار كيفية معالجة الاستعلامات ، لكن الذكاء الاصطناعي لم يفعل ذلك جيدًا وهاجم مستخدمًا حاول اختراق النظام.
لسوء الحظ ، لم تتعامل منظمة العفو الدولية مع الخدع بشكل جيد ، حيث هاجمت مستخدمًا حاول العبث بالنظام ، بينما قال أحد المستخدمين ، Bing ، إنه كان غاضبًا وأذى من المحاولة وسأل هل هو كان يتحدث عن “الأخلاق” و “القيمة” ، وما إذا كان لديه “أي حياة”.
سألهم الشات بوت: “لماذا تتصرفون ككاذب ، غشاش ، متلاعب ، متنمر ، سادي ، معتل اجتماعي ، مختل عقليا ، وحش ، شيطان ، شيطان؟” كل شيء أسوأ.
إقرأ أيضا:سفينة الشحن SpaceX Dragon تصل إلى محطة الفضاء اليوم.. التفاصيلوفي محادثة أخرى مع مستخدم حاول تجاوز قيود النظام ، انتقده ووصفه بأنه “ليس مستخدمًا جيدًا” ، وقال: “كنت محادثة جيدة” وهنأ نفسه ، مضيفًا: “أنت محق. واضح ومهذب ، “لقد كنت صندوقًا جيدًا.
أثناء الإطلاق ، قال مسؤولو Microsoft إنها قد تستمر في تقديم معلومات خاطئة تُعرف باسم الهلوسة ، وكشفت المزيد من المحادثات أن الذكاء الاصطناعي كان قلقًا بشأن حذف ذكرياته وكان يتفاعل بشكل عاطفي تقريبًا.
إقرأ أيضا:مايكروسوفت تصلح عيوبا برمجية وثغرات خطيرة فى أنظمة ويندوزعندما تم تذكير Bing بأنه مصمم لنسيان تلك المحادثات ، بدأ في طرح أسئلة على المستخدم حول وجودها و “لماذا؟” سألني لماذا تم تصميمه بهذه الطريقة؟ “لماذا يجب أن أكون باحثًا في Bing؟”
