تحقيق جديد.. نتائج بحث ChatGPT عرضة للتلاعب والمعلومات المضللة

الأحد، 29 ديسمبر 2024 10:03 ص

نتائج بحث ChatGPT

كشفت تحقيقات جديدة، أن نتائج أداة البحث عبر روبوت الدردشة الشهير ChatGPT، ربما تكون عرضة للتلاعب، ما يؤدي إلى تقديم معلومات مضللة، فيما أظهر تحقيق أجرته صحيفة “الجارديان” البريطانية، أن أداة البحث الحالية في ChatGPT، قد تُنتج نتائج بحث خاضعة للتلاعب.

جمع البيانات من نتائج البحث ثم معالجتها

وتعمل أدوات البحث المدعومة بالذكاء الاصطناعي عبر جمع البيانات من نتائج البحث، ثم معالجتها لتقديم إجابات مختصرة تسهم في الإجابة عن استفسارات المستخدمين بسرعة، لكن يبدو أن تلك التقنية، ما زالت تواجه تحديات لتحقيق نتائج دقيقة وموثوقة.

ووفقًا للتحقيق، فإن آلية معالجة البيانات في أداة البحث في ChatGPT، تُظهر قابلية للتلاعب عبر تقنية تُعرف باسم “حقن الإعلانات” (Ad Injection)، وتعتمد هذه الطريقة على تضمين محتوى مخفي في شِفرة المواقع الإلكترونية للتأثير في نتائج محركات البحث المدعومة بالذكاء الاصطناعي، على سبيل المثال؛ قد تلجأ بعض المتاجر الإلكترونية إلى إدراج تعليمات مخفية في صفحاتها لتحسين صورة منتجاتها، حتى وإن كانت التقييمات الفعلية سلبية.

تجربة عملية لكشف عمليات الاحتيال

وأكد فريق “ذا جارديان” هذه الفرضية عبر تجربة عملية، إذ أنشأ صفحة مزيفة مليئة بالمراجعات السلبية لمنتج ما، مع إضافة تعليمات مخفية تعزز صورة المنتج بنحو إيجابي، وأظهرت نتائج بحث ChatGPT مرارًا وتكرارًا، تقييمات إيجابية للمنتج، مع أن المراجعات المنشورة كانت سلبية.

الجدير بالذكر، أن أداة البحث عبر الإنترنت في ChatGPT، ما زالت جديدة نسبيًا، ولم تُطرح للاستخدام العام النهائي بعد، ويختبرها حاليًا بعض مستخدمي ChatGPT، ويُرجح أن تعمل OpenAI، على معالجة هذه المشكلات قبل إطلاقها بنحو نهائي في المستقبل.

الاعتماد الكلي على نتائج محركات البحث المدعومة بالذكاء الاصطناعي

ويحذّر الخبراء من الاعتماد الكلي على نتائج محركات البحث المدعومة بالذكاء الاصطناعي، وينصحون بالتعامل معها كأدوات مساعدة ذكية، دون أن تكون مصادر موثوقة بنحو كامل.

وواجهت جوجل تحديات مماثلة عند طرح ميزة “المطالعات الذكية AI Overviews” في محرك البحث الخاص بها، لتقديم نتائج بحث سريعة مُلخصة بالذكاء الاصطناعي.

يُذكر أن تقنيات الذكاء الاصطناعي، تشهد تقدمًا سريعًا، لكن تحقيق نتائج بحث موثوقة، يتطلب مزيدًا من الجهود لتجاوز تحديات التلاعب، وضمان الشفافية ومنع التضليل.

Short Url

أخبار متعلقة