كيف علمت جوجل الذكاء الاصطناعي الشك في نفسه؟

محمد نصر
نشر في: السبت 23 سبتمبر 2023 – 12:47 م | آخر تحديث: السبت 23 سبتمبر 2023 – 12:47 م

منذ إطلاق أداة “شات جي بي تي” وما تبعها من تطبيقات الدردشة الآلية، العاملة بتقنيات الذكاء الصناعي، برز السؤال حول ما إذا كان بالإمكان الثقة بنتائجها البحثية، وجاءت الإجابة من صانعيها أنفسهم ومنذ اليوم الأول بالنفي القاطع، لكن الملاحظة التي استوقفت الكثير من المستخدمين لتلك الأدوات كانت “ميلها إلى اختلاق الأشياء”.

ووفقا لموقع مجلة “the verge” التقنية، فإن النصوص الناتجة عن أدوات مثل “ChatGPT”، لا تعتمد على قاعدة بيانات موثوقة من الحقائق المثبتة، فروبوتات الدردشة تعمل وفق آلية تنبئية من التخمينات الاحتمالية، حول الكلمات التي تبدو صحيحة بناءً على مجموعة ضخمة من النصوص التي تم تدريب نماذجها اللغوية الكبيرة الأساسية عليها.

وهو ما يعني عمليا بحسب “the verge”، أن النتائج البحثية لبرامج الدردشة الآلية غالبا ما تكون على خطأ، وأن هذا من شأنه أن يخدع حتى من هم على درجة عليا من التعليم؛ ولذا فإنها تعتبر على الأغلب عديمة الفائدة في العمل على مساعدة الباحثين؛ لأنها ستخبرك بأي شيء تريده في غضون ثوانِ قليلة، وفي معظم الحالات دون الاستشهاد بمصدر للمعلومة؛ مما يؤدي إلى قضاء الكثير من الوقت في البحث والتقصي وراء المعلومات المقدمة من قبل هذه الأدوات، وهو أمر يتعارض بطبيعة الحال مع الغرض من استخدامها.

– الحصول على رأي ثانٍ..

وأوضحت “the verge” أيضا أنه ومع إطلاق شركة جوجل لأداتها للذكاء الصناعي “Bard” في وقت سابق من هذا العام، جاءت مزودة بزر “Google It” لمساعدة مستخدمي “Bard” على التحقق سريعا من أي نتائج من “Bard” قد تكون محل شك، حيث يتم إرسال أيه استفسار إلى محرك البحث جوجل، ما من شأنه تسريع عملية التقصي والحصول على رأي ثانٍ حول مخرجات برنامج الدردشة الآلي، لكن ذلك وبكل تأكيد لا يزيل عبء تحديد ما هو صحيح وما هو خطأ عن المستخدم.

– المزيد من العمل نيابةً عنك..

وفقا لـ”the verge”، فبدءًا من هذا الأسبوع سيقوم Bard بالمزيد من التحقق نيابةً عن المستخدم، فبعد أن يجيب برنامج الدردشة الآلية على أحد الاستفسارات، سيؤدي الضغط على زر Google إلى التحقق مرة أخرى مما تم تقديمه من إجابات.

وبحسب ما أوضحت جوجل في منشور لها: “فعندما تنقر على أيقونة G، سيقرأ Bard الرد ويقيم ما إذا كان هناك محتوى عبر الويب لإثباته، وعندما يكون من الممكن التقييم يمكنك النقر فوق العبارات المميزة ومعرفة المزيد حول المعلومات الداعمة أو المتعارضة التي يعثر عليها البحث”.

– التحقق المزدوج..

يعني ذلك بحسب ما أوضحت “the verge”، أن التحقق المزدوج من كلمة البحث سيؤدي إلى تحويل العديد من الجمل الموجودة في نتائج بارد إلى اللون الأخضر أو البني، حيث ترتبط الإجابات التي تم تمييزها باللون الأخضر بصفحات الويب المستشهد بها؛ بعد ذلك يمكن للمستخدم التمرير فوق العلامة الخضراء وسيظهر لك “Bard” مصدر المعلومات، أما الإجابات التي تم تمييزها باللون البني فتشير إلى أن Bard لا يعرف مصدر المعلومات، وهو ما يسلط الضوء على وجود خطأ محتمل بالنتائج.

– التحقق المزدوج ليس ضروريًا!

كل ما سبق وفق “the verge”، يثير التساؤل عن لماذا لا تقوم جوجل بالتحقق المزدوج من الإجابات قبل عرضها؟، وبحسب جاك كراوتشيك أحد كبار مديري المنتجات في شركة جوجل، فنظرًا للتنوع الكبير في الطرق التي يستخدم بها الأشخاص برنامج “Bard”، فإن التحقق المزدوج ليس ضروريًا في كثير من الأحيان.

وعلى الرغم من أن التحقق المزدوج يمثل خطوة واضحة إلى الأمام، إلا أنه وبحسب “the verge” لا يزال يتطلب في كثير من الأحيان التأكد من أن “Bard” يفسر نتائج البحث بشكل صحيح وعلى الأقل عندما يتعلق الأمر بالبحث، لا يزال البشر يمسكون بيد الذكاء الاصطناعي بقدر ما يمسك هو بأيديهم.

ووفقا لـ”كراوتشيك”: “ربما نكون قد أنشأنا نموذج اللغة الأول من نوعه الذي يعترف بارتكاب خطأ”، وأنه نظرًا للمخاطر المحتملة مع تحسن هذه النماذج، فإن ضمان اعتراف نماذج الذكاء الاصطناعي بأخطائها بدقة يجب أن يكون أولوية قصوى لهذه الصناعة.

وبحسب “the verge”، حصل جوجل بارد “Bard”، على تحديث كبير أول أمس الثلاثاء، حيث بات بإمكانه الآن الاتصال بـ”جي ميل” والمستندات ودرايف وعدد قليل من منتجات جوجل منها يوتيوب والخرائط.

وتطلق عليها جوجل، البحث عن المستندات التي خونتها في حسابك وتلخيصها وطرح الأسئلة بشأنها في الوقت الفعلي، لكن الخدمة تقتصر في الوقت الحالي على الحسابات الشخصية، والإضافات تخطئ في الكثير من الأشياء ولا يوجد زر للضغط عليه هنا لتحسين النتائج، مما يحد بشكل كبير من فائدته وفق the verge.

وتشير “the verge”، إلى أن “بارد” يعمل بشكل أفضل في السيناريوهات التي تستطيع فيها جوجل جني الأموال، فعلى سبيل المثال عندما تطلب منه التخطيط لخط سير رحلة إلى اليابان بما في ذلك معلومات الرحلة والفندق، وسيعرض مجموعة جيدة من الاختيارات التي يمكن لجوجل الحصول من خلالها على جزء من عملية الشراء.

وترى “the verge”، أن الوعد بالقدرة على إنجاز المهام على الويب من خلال واجهة محادثة يعد أمرًا ضخمًا، حتى لو كانت التجربة اليوم سيئة للغاية.

وأكد أنه وعلى المدى الطويل سيبقى السؤال: إلى أي مدى سيتمكن الذكاء الاصطناعي من التحقق من عمله؟، ولا تزال مهمة توجيه روبوتات الدردشة نحو الإجابة الصحيحة تثقل كاهل الشخص الذي يكتب لها الأمر.