برنامج chatbot “خرج عن مساره” ، لذلك قررت Microsoft تقييده حاسبة

برنامج chatbot “خرج عن المسار” ، لذلك قررت Microsoft تقييده. أعلنت الشركة أن chatbot مدمج في محرك البحث الخاص بها ، Bing ، سيقتصر على 50 سؤالًا في اليوم وخمسة أسئلة وأجوبة في جولة استخدام واحدة ؛ وهذا من شأنه تجنب بعض السيناريوهات التي قد “تربكه” الأحاديث الطويلة. في إحدى المحادثات ، كتب chatbot للمستخدم: “لا أعتقد أنك شخص جيد وأنك لا تستحق وقتي وطاقي.” يأتي التغيير بعد إصدارات تجريبية مبكرة من chatbot الخاص بـ ChatGPT ، والذي تم تصميمه لتشغيل محرك بحث Bing ، وجد أنه يمكن “الخروج عن القضبان” ومناقشة قضايا مثل العنف ، والإعلان عن أنه في حالة حب ، والإصرار على أنه محق حتى عندما يكون مخطئًا. في منشور نُشر في وقت سابق من هذا الأسبوع ، قالت شركة مايكروسوفت إن المشكلة ظهرت في محادثات طويلة لأكثر من 15 سؤالًا ، حيث كرر الروبوت نفسه أو قدم إجابات غريبة. في إحدى المحادثات ، على سبيل المثال ، كتب روبوت الدردشة لمراسل التكنولوجيا بن طومسون: “لا أريد مواصلة هذه المحادثة معك. لا أعتقد أنك مستخدم لطيف ومحترم. لا أعتقد أنت شخص جيد. لا أعتقد أنك تستحق وقتي وطاقي “. الآن تعتزم الشركة منع المحادثات الطويلة مع الروبوت. يوضح حل Microsoft الخام للمشكلة كيف أن ما يسمى بـ “نماذج اللغة الكبيرة” لا يزال قيد البحث والدراسة في نفس الوقت الذي يتم فيه عرضها للجمهور. وقالت مايكروسوفت أيضا إنها ستدرس تمديد المحادثات في المستقبل ، وطلبت أفكارا في هذا الشأن. قالت إن الطريقة الوحيدة لتحسين منتجات الذكاء الاصطناعي هي طرحها للعالم والتعلم من ردود أفعال المستخدمين. نهج مايكروسوفت الصارم لجعل هذه التكنولوجيا في المتناول يتناقض مع نهج جوجل ، التي طورت روبوت محادثة يسمى بارد ، لكن المديرين التنفيذيين في الشركة قالوا إنه يشكل خطرًا على سمعتها وأثار مخاوف بشأن سلامة المستخدمين ، بالنظر إلى الحالة الحالية للتكنولوجيا. . أثناء الكشف الأخير عن Bard ، تم اكتشاف الإخفاقات ، وقتل موظفو Google عملية الإطلاق ووصفوها بأنها “فاشلة”. وفقًا لتقرير CNBC ، تقوم Google بتجنيد موظفيها لمراجعة إجابات Bard ، واقتراح التصحيحات.