أخر الاخبار

باحثون يطورون خوارزميات جديدة في الذكاء الاصطناعي لتحديد المنشورات السلبية على مواقع التواصل الاجتماعي

باحثون يطورون خوارزميات جديدة في الذكاء الاصطناعي لتحديد المنشورات السلبية على مواقع التواصل الاجتماعي
طور الباحثون خوارزميات للتعلم الآلي يمكنها مراقبة محادثات الوسائط الاجتماعية عبر الإنترنت من أجل منع التحرش عبر الإنترنت. يتطلب منع المضايقات عبر الإنترنت اكتشافًا سريعًا لمواقع التواصل الاجتماعي المسيئة والمضايقة والسلبية. وفقًا للباحثين ، يمكن للنظام الجديد القائم على الذكاء الاصطناعي أن يؤدي إلى طريقة فعالة ومؤتمتة لاكتشاف التصيد عبر الإنترنت في المستقبل.
الطرق الحالية للحصول على بيانات الوسائط الاجتماعية هذه إما مؤتمتة بالكامل ، ولا يمكن تفسيرها أو تعتمد على مجموعة ثابتة من الكلمات الرئيسية ، والتي يمكن أن تصبح قديمة بسرعة.
وفقاً لمايا سريكانث ، من معهد كاليفورنيا للتكنولوجيا في كاليفورنيا:
"لا توجد طريقة فعالة للغاية" ، "ليس من الممكن أن يحاول البشر أن يقوموا بهذا العمل يدويًا ، ومن المحتمل أن يكون هؤلاء الأشخاص متحيزين". .
وقالت:
"من ناحية أخرى ، فإن البحث عن الكلمات الرئيسية يعاني من السرعة التي تتطور بها المحادثات عبر الإنترنت. مصطلحات جديدة تظهر فوق المصطلحات القديمة وتغيير المعنى ، لذلك فإن الكلمة التي استخدمت بإخلاص في يوم من الأيام قد تكون سخرية في اليوم التالي".
استخدم الفريق ، بما في ذلك Anima Anandkumar من Caltech ، نموذج GloVe (المتجهات العالمية لتمثيل الكلمات) الذي يستخدم خوارزميات التعلم الآلي لاكتشاف كلمات رئيسية جديدة وذات صلة.
التعلم الآلي هو تطبيق للذكاء الاصطناعي يوفر للأنظمة القدرة على التعلم والتحسين تلقائيًا من التجربة دون أن تتم برمجتها بشكل صريح.
GloVe هو نموذج لتضمين الكلمات ، بمعنى أنه يمثل كلمات في فضاء متجه ، حيث "المسافة" بين كلمتين هي مقياس للتشابه اللغوي أو الدلالي.
بدءًا من كلمة رئيسية واحدة ، يمكن استخدام هذا النموذج للعثور على أشخاص آخرين مرتبطين ارتباطًا وثيقًا بتلك الكلمة للكشف عن مجموعات من المصطلحات ذات الصلة المستخدمة بالفعل.
على سبيل المثال ، أسفر البحث في تويتر عن استخدامات "MeToo" في المحادثات عن مجموعات من علامات التجزئة ذات الصلة مثل "SupportSurvivors" و "ImWithHer" و "NotSilent".
يوفر هذا النهج للباحثين كلمة رئيسية ديناميكية ومتطورة تم ضبطها للبحث.
ومع ذلك ، لا يكفي مجرد معرفة ما إذا كانت محادثة معينة مرتبطة بموضوع الاهتمام ؛ وقال الباحثون إن السياق مهم.
لذلك ، يوضح GloVe مدى ارتباط بعض الكلمات الرئيسية ، مع توفير مدخلات حول كيفية استخدامها.
على سبيل المثال ، في منتدى Reddit مخصص لكره النساء ، تم استخدام كلمة "أنثى" في ارتباط وثيق مع الكلمات "الجنسية" و "السلبية" و "الجماع".
في تغريدات تويتر حول حركة #MeToo ، كان من المرجح أن ترتبط كلمة "أنثى" بمصطلحات "الشركات" و "الرغبة" و "الضحايا".
وقال الباحثون إن المشروع كان دليلا على المفهوم يهدف إلى يوم واحد إعطاء منصات وسائل الإعلام الاجتماعية أداة أكثر قوة لاكتشاف التحرش عبر الإنترنت.
وقالت أناندكومار:
"أصبح مجال أبحاث الذكاء الاصطناعي أكثر شمولاً ، لكن هناك دائمًا أشخاص يقاومون التغيير".
"نأمل أن تساعد الأدوات التي نطورها الآن في محاربة جميع أنواع المضايقات في المستقبل".
تم تقديم البحث في 14 ديسمبر من العام الماضي في ورشة عمل الذكاء الاصطناعي من أجل الخير الاجتماعي في مؤتمر نظم معالجة المعلومات العصبية في فانكوفر ، كندا.



وضع القراءة :
حجم الخط
+
16
-
تباعد السطور
+
2
-