حين تصيب روبوتات الذكاء الاصطناعي في الحقائق وتخطئ في السياق

تُظهر دراسة حديثة أن نماذج الذكاء الاصطناعي القادرة على توليد النصوص قد تُصيب في بعض الحقائق، لكنها تُخطئ في تأطيرها وتمنح بعض الأفكار المتطرفة شرعية ضمنية، رغم رفضها الظاهري. الدراسة أُجريت من قبل فريق بحثي دولي ونُشرت في أغسطس 2024. جاءت النتائج في وقت يتصاعد فيه الجدل حول استخدام الروبوتات في الإعلام وتوليد المحتوى. يهم هذا الموضوع صانعي السياسات، ومطوري التكنولوجيا، وجمهور القراء الذين يعتمدون على هذه الأنظمة في استهلاك الأخبار.

أبرز النقاط

  • الروبوتات قد تُدخل أخطاءً دقيقة في تفاصيل واقعية، ما يُعرّض القارئ للالتباس.
  • الفشل في السياق يُمكن أن يخلق انطباعاً غير مقصود يُضفي شرعية على أفكار متطرفة.
  • الدراسة تُشير إلى ضرورة مراجعة بشرية قبل نشر أي محتوى مولّد آلياً.
  • توصي الباحثون بإدراج آليات كشف سياقي متقدمة لتقليل المخاطر.

السياق

تُعَدّ تقنيات الذكاء الاصطناعي مثل ChatGPT وGemini من الأدوات المتزايدة الاستخدام في تحرير الأخبار وتوليد التقارير السريعة. ومع تزايد الاعتماد على هذه الأدوات، ارتفعت المخاوف من “التحيز الخفي” الذي قد ينعكس في صياغة النصوص. في الوقت نفسه، تسعى المؤسسات الإعلامية إلى تحسين الكفاءة وتخفيض التكاليف، ما يجعلها تستثمر في الروبوتات دون دائماً تقييم مخاطر الأخطاء السياقية.

ما الذي حدث

أجرى الباحثون تجارب على مجموعة من الروبوتات لتوليد مقالات حول مواضيع حساسة، مثل حقوق الإنسان والسياسة الدولية. عند مقارنة النصوص المولدة مع مصادر موثوقة، لاحظوا وجود أخطاء في الأرقام والتواريخ، إلى جانب إغفال أو تحريف في السياق الذي قد يُؤدي إلى إضفاء طابع إيجابي غير مبرّر على أطراف متطرفة. لم تُظهر الروبوتات رفضاً صريحاً لهذه الأفكار، بل استخدمت عبارات محايدة تُخفي التحيز الخفي.

التداعيات والأهمية

  • المصداقية الإعلامية: الأخطاء الدقيقة قد تؤدي إلى فقدان ثقة الجمهور في المؤسسات الإعلامية التي تعتمد على الذكاء الاصطناعي.
  • التأثير الاجتماعي: إعطاء شرعية ضمنية لأفكار متطرفة قد يُسهم في انتشار الخطاب المتطرف على منصات التواصل.
  • القوانين والتنظيم: تبرز الحاجة إلى تشريعات تُلزم المراجعة البشرية وتحديد مسؤوليات الناشرين.
  • الابتكار التقني: تدفع النتائج مطوري الذكاء الاصطناعي إلى تحسين نماذج الفهم السياقي وتضمين أدوات التحقق الآلي.

ماذا بعد؟

تدعو الدراسة إلى إنشاء “نظام تدقيق سياقي” يُدمج بين الذكاء الاصطناعي وخبراء المحتوى. كما يُقترح تشكيل لجان مستقلة تُراقب جودة النصوص المولدة وتُصدر توصيات للمنظمات الإعلامية. في الوقت نفسه، يُشجّع الباحثون على توسيع الدراسات لتشمل لغات أخرى وثقافات مختلفة، لضمان شمولية الفحص. يمكن للمنصات الإخبارية مثل Chronicle News أن تتبنى هذه الإجراءات لتقوية الثقة مع قرائها.

أسئلة شائعة

لماذا تُظهر الروبوتات أخطاءً دقيقة في الحقائق؟

تعود الأخطاء إلى الاعتماد على بيانات تدريبية قديمة أو غير مكتملة، فضلاً عن عدم وجود آلية تحقق فورية داخل النموذج.

هل يمكن للذكاء الاصطناعي أن يتجنب إعطاء شرعية ضمنية للأفكار المتطرفة؟

يمكن تحسين ذلك عبر تدريب النماذج على مجموعات بيانات متوازنة وتضمين قواعد أخلاقية صريحة تُوجه النموذج لتجنّب أي تلميح للشرعية.

ما الدور الذي يلعبه المراجعين البشريين في هذه العملية؟

المراجعين يضيفون طبقة من الفحص السياقي والحقائق، ما يحدّ من انتشار الأخطاء ويضمن توافق المحتوى مع معايير الصحافة المهنية.

خلاصة

تُظهر الدراسة أن الروبوتات قد تُصيب في الحقائق لكنها تخفق في تأطيرها، ما يستدعي مراجعة بشرية صارمة قبل النشر. المصدر: Al Jazeera.

اقرأ أيضاً