أطلقت شركة OpenAI من Microsoft برنامج الدردشة ChatGPT العام الماضي ، وبينما يمتدح البعض قدرة روبوت الدردشة AI على تقديم استجابات شبيهة بالبشر ، يستهدف البعض الآخر كل من OpenAI و ChatGPT ، واصفين إياهم بأنهم يتهمون التحيز.
لكن الشركة تناولت المشكلة وشرحت كيف يتشكل سلوك ChatGPT وكيف تخطط الشركة لتحسين السلوك الافتراضي لـ ChatGPT.
قال AI Baz في منشور بالمدونة: “منذ إطلاقنا ChatGPT ، شارك المستخدمون النتائج التي وجدوا أنها متحيزة سياسيًا أو مسيئة أو مرفوضة ، لكن في كثير من الحالات نعتقد أن المخاوف المثارة صحيحة والقيود حقيقية”. يكشف أنظمتنا الذي نريده لإعطاء العنوان “.
قالت شركة OpenAI أيضًا إنها رأت “بعض المفاهيم الخاطئة حول كيفية عمل أنظمتنا وسياساتنا لتشكيل النتائج التي تحصل عليها من ChatGPT.”
في المدونة ، تقر شركة OpenAI بأن الكثيرين قلقون بحق بشأن التحيزات في تصميم أنظمة الذكاء الاصطناعي وتأثيرها.
وأضاف أن نموذج الذكاء الاصطناعي يتم تدريبه بالبيانات الموجودة والمدخلات من الجماهير الذين يستخدمون أو يتأثرون بأنظمة مثل ChatGPT.
وقالت الشركة الناشئة “مبادئنا التوجيهية واضحة أن المراجعين لا ينبغي أن يفضلوا أي مجموعة سياسية. التحيزات التي قد تظهر مع ذلك من العملية الموصوفة هي أخطاء وليست ميزات”. وأضاف أن الشركة تعتقد أن شركات التكنولوجيا يجب أن تكون مسؤولة عن إنتاج سياسات تصمد أمام التدقيق.
إقرأ أيضا:انخفاض أرباح شركة صناعة المعالجات Arm China بأكثر من 90٪ عام 2022وقال البيان “نحن ملتزمون بالتعامل الجاد مع هذا الأمر والتحلي بالشفافية بشأن أهدافنا وتقدمنا”.
قالت OpenAI إنها ستعمل على تحسين وضوح هذه الإرشادات ، وبناءً على الدروس المستفادة من إطلاق ChatGPT ، ستوفر للمراجعين إرشادات أوضح حول المشكلات والتحديات المحتملة المتعلقة بالتحيز ، فضلاً عن الشخصيات والموضوعات المثيرة للجدل.
إقرأ أيضا:مارك زوكربيرج يطرح ميزة “Channels” الجديدة على أنستجرامكجزء من مبادرات الشفافية الخاصة بها ، تعمل OpenAI أيضًا على مشاركة المعلومات الديموغرافية التي تم جمعها حول المراجعين “بطريقة لا تنتهك قوانين ومعايير الخصوصية” ، حيث يعد هذا مصدرًا إضافيًا للتحيز المحتمل في مخرجات النظام. تبحث الشركة أيضًا في كيفية جعل العملية التنظيمية أكثر قابلية للفهم والإدارة.
