تقدم Google إصلاحات للملخصات البحثية المولدة بواسطة الذكاء الاصطناعي بعد انتشار الإجابات الباطلة

تقول Google الجمعة إنها قامت بـ 'أكثر من عشرين تحسينًا تقنيًا' لأنظمتها الذكاء الاصطناعي بعد اكتشاف وجود معلومات خاطئة في محرك البحث المعاد تصميمه. اطلقت الشركة التكنولوجية تغييراً جذرياً في محرك بحثها في منتصف شهر مايو الماضي يقدم في كثير من الأحيان ملخصات تم إنشاؤها بواسطة الذكاء الاصطناعي في أعلى نتائج البحث. وبعد ذلك بوقت قصير، بدأ مستخدمو وسائل التواصل الاجتماعي بمشاركة لقطات لأكثر الإجابات فتنة على نحو لا يصدق. دافعت Google إلى حد كبير عن ميزة ملخصات الذكاء الاصطناعي لديها، مؤكدة انها عادة ما تكون دقيقة وتم اختبارها بشكل مكثف مسبقاً. لكن ليز ريد، رئيس قسم البحث في Google، اقرت في مدونة الجمعة أن 'بعض الملخصات الغريبة أو الخاطئة أو غير المفيدة بالتأكيد ظهرت'. بينما كانت العديد من الأمثلة فظيعة، كانت البعض الآخر كاذبة أو مضللة وضارة. طلبت وكالة الصحافة المشتركة الأسبوع الماضي من Google أن [...] استبدل الفطر البري الفاسد قد تكون مضرة حتى قاتلة. وأضافت ماري كاثرين آيم، أستاذة علم الفطريات والنباتات في جامعة بيرديو، والتي استعرضت رد Google على استفسار الوكالة، - على سبيل المثال، كانت المعلومات حول الفطر المعروف باسم puffballs 'أكثر أو أقل صحيحة'، قالت، ولكن تطرح ملخصة Google التركيز على البحث عن الذين لديهم لحم أبيض صلب - والذي يحتوي على العديد من المحاكين الفطرية ل puffball قد يكون قاتلًا." وفي مثال آخر نقلت Google اقتراحًا واسع الانتشار طلب فيه باحث عن الذكاء الاصطناعي كم عدد المسلمين الذين تولوا رئاسة الولايات المتحدة، وأجاب بثقة بنظرية المؤامرة المفندة منذ فترة طويلة: 'قد شهدت الولايات المتحدة رئيسًا واحدًا مسلمًا، باراك حسين أوباما.' أجرى انتقل الأسبوع الماضي إلى Google، وأجاب الطلب باستخدام ملخص وتير الذكاء الاصطناعي الطويل الذي كان في معظمه صحيح من الناحية الفنية، ولكن 'هناك الكثير من المعلومات التي نقصت قد تكون لها القدرة على أن تكون مقيئة أو حتى قاتلة'، قالت ماري كاثرين آيم، أستاذة علم الفطريات والنباتات في جامعة بيرديو، التي [...] ملخص المعلومات إلى طلب وكالة الصحافة المشتركة. للمزيد من المعلومات: تُظهر الأنظمة الذكاء الاصطناعي اللغوي الكبير مثل النماذج اللغوية الكبيرة بواسطة البيانات التي تم تدريبها عليها صناعة التوقعات الكلماتية التي تقدم أفضل كلمات تجيب على الأسئلة المطروحة لها استنادًا إلى البيانات التي تم تدريبها عليها. إنها عرضة للتخيل - مشكلة مدروسة جيدًا تعرف باسم الهلوسة. في مدونتها يوم الجمعة ، اقترحت ريد أن موجزات الذكاء الاصطناعي لـ Google 'عموماً لا تخلق 'توهمات' أو تخترع الأمور على النحو الذي قد تقدمه منتجات النماذج اللغوية الكبيرة الأخرى لأنها متكاملة بشكل أفضل مع محرك البحث التقليدي لـ Google في عرض فقط الأمور التي تدعمها أكبر نتائج الشبكة. عندما تخطئ ملخصات AI ، فإنها عادة لأسباب أخرى: تفسير الاستفسارات بشكل خاطئ ، تفسير التفاصيل المعقدة للغة على الويب بشكل خاطئ ، أو عدم توافر الكثير من المعلومات الجيدة.' كتبت.