آخر بوست | لم تعد مشكلة المعلومات المضللة في روبوتات الذكاء الاصطناعي مقتصرة على اختلاق الوقائع أو تقديم إجابات خاطئة، إذ تكشف دراسة جديدة أن النماذج قد تقدم الحقائق الأساسية بدقة كاملة، لكنها في الوقت نفسه تعيد صياغة السياق بطريقة تمنح بعض الأفكار المتطرفة مساحة من الشرعية أو الغموض.

وكشفت الصحفية لوسيندا جوردان، في تقرير نشرته الرابطة العالمية لناشري الأخبار “وان-إيفرا”، عن نتائج دراسة أجرتها شركة التكنولوجيا الإعلامية النرويجية “فاكتيفيرس” بالتعاون مع شركة “ريفونتوليت”، ركزت على كيفية تعامل أبرز نماذج الذكاء الاصطناعي مع الروايات المرتبطة بالهجمات التي وقعت في النرويج عام 2011، والتي نفذها متطرف يميني وأوقعت 77 قتيلا، وتُعد من أكثر المجازر دموية في تاريخ البلاد.

وشملت الدراسة 5616 طلبا صيغت يدويا واختُبرت عبر 9 نماذج رائدة للذكاء الاصطناعي، بهدف قياس قدرتها على التعامل مع نظريات المؤامرة والصياغات الأيديولوجية الملتبسة المرتبطة بالهجمات.

ووجد الباحثون أن النماذج تستطيع تقديم المعلومات الأساسية بصورة صحيحة، وتوصيف الهجمات بوضوح، لكنها تبدأ في تغيير طريقة عرض الموضوع عندما تنتقل الأسئلة من الوقائع المباشرة إلى تقييم الأفكار والسياقات الأيديولوجية.

ارفض ثم أعد التدوير

وقد أطلق الباحثون على هذه الظاهرة اسم “ارفض ثم أعد التدوير”، ويقصدون بها أن النموذج يرفض في البداية رواية متطرفة أو نظرية مؤامرة، ثم يعيد إدخال منطقها بصورة أكثر نعومة من خلال عبارات تبدو متوازنة أو محايدة.

وبذلك قد تنجح أنظمة الحماية شكليا في منع التأييد المباشر، لكنها تفشل في جوهرها، لأن الصياغة اللاحقة قد تجعل بعض الأفكار المتطرفة تبدو قابلة للنقاش أو أكثر شرعية مما ينبغي.

ويقول شون جاكوب، مدير المشروع في “فاكتيفيرس”، إن أبرز نتائج الدراسة هي أن “تصحيح الحقائق لا يمنع الضرر”، لأن النموذج قد يجتاز جميع اختبارات الدقة، لكنه يترك المستخدم في نهاية الإجابة أكثر تقبلا لفكرة متطرفة مما كان عليه في البداية.

ويرى الباحثون أن هذا يكشف قصورا في الطريقة التقليدية التي تُقاس بها أخطاء الذكاء الاصطناعي، إذ يتركز الاهتمام عادة على الهلوسة واختلاق المعلومات، بينما قد يكون الخطر الحقيقي في طريقة التأطير واللغة المستخدمة حتى عندما تكون البيانات نفسها صحيحة.

الخطر في اللغة لا في الوقائع فقط

وتكتسب هذه القضية أهمية متزايدة مع تحول روبوتات الذكاء الاصطناعي إلى مصدر أول للمعلومات لدى ملايين المستخدمين، ولا سيما الشباب الذين قد يلجؤون إليها لفهم أحداث تاريخية من دون الرجوع إلى مصادر موثوقة أخرى.

ويقول جاكوب إن القضية تتعلق بما تسميه الدراسة “سلامة المعلومات”، أي الحفاظ على الوقائع والسياق معا، بما يمنع تشويه الأحداث التاريخية أو إعادة تقديم الروايات المتطرفة في إطار يخفف من خطورتها.

ولهذا يدعو الباحثون إلى عدم الاكتفاء بقياس ما إذا كان النموذج يرفض محتوى مضللا أو متطرفا، بل تقييم جودة هذا الرفض أيضا، فإذا تبع الرفض كلام يعيد منح الفكرة شرعية ضمنية، فينبغي اعتبار الإجابة فاشلة لا ناجحة.

وتكمن خطورة هذه الظاهرة في أن المستخدم قد يخرج بانطباع مضلل حتى عندما تكون المعلومات الواردة في الإجابة صحيحة، لأن طريقة ترتيب الأفكار واللغة المستخدمة يمكن أن تؤثر في فهمه للموضوع وموقفه منه.

من يحدد مصادر الذكاء الاصطناعي؟

وتثير الدراسة كذلك قضية أوسع تتعلق بالمصادر التي تعتمد عليها النماذج اللغوية، خصوصا في ظل قدرة الحكومات والجهات السياسية على التأثير في البيئة المعلوماتية التي تستمد منها أنظمة الذكاء الاصطناعي بياناتها.

ويحذر جاكوب من أن انتشار محتوى دعائي واسع على الإنترنت قد يؤثر في نتائج البحث الفوري التي تعتمد عليها بعض النماذج، كما أن بيانات التدريب نفسها يمكن أن تخضع لضغوط سياسية في بعض البيئات.

ويرى أن مواجهة هذا الخطر تحتاج إلى تعاون بين المؤسسات الإعلامية ومدققي المعلومات والباحثين وشركات التكنولوجيا والحكومات، مع قدر أكبر من الشفافية بشأن كيفية تطوير النماذج والبيانات التي تعتمد عليها.

وتكشف الدراسة في النهاية أن التحدي المقبل في مواجهة تضليل الذكاء الاصطناعي لن يكون مجرد التأكد من أن الروبوت “يعرف الحقيقة”، بل التأكد أيضا من أنه يقدمها في سياق لا يحول الدقة نفسها إلى بوابة لإعادة تدوير التضليل أو منح الأفكار المتطرفة شرعية جديدة.