ستستخدم TikTok الذكاء الاصطناعي للمساعدة في إزالة المحتوى المخالف على منصتها، ولكن هل هذا كافٍ؟ لقد طلبنا من ثلاثة خبراء أن يزنوا.
تتطور TikTok، ويبلغ عمر المنصة الآن أربع سنوات فقط ولكن لديها أكثر من مليار مستخدم وهي متاحة في أكثر من 150 دولة. حتى أنها تفوقت على YouTube وInstagram وWhatsApp وFacebook Messenger من حيث التنزيلات، حيث حققت 33 مليونًا في ربع واحد في عام 2019، وفقًا لـ برج الاستشعار.
لذا، حتى لو لم تكن تستخدم TikTok، فمن المحتمل أن يكون هناك شخص واحد تعرفه على الأقل. تابع القراءة لمعرفة كيف تتطلع المنصة إلى أن تصبح أكثر أمانًا لمستخدميها وما رأي الخبراء في التغييرات الأخيرة.
ما الذي تفعله TikTok للحفاظ على أمان مستخدميها؟
أعلنت TikTok مؤخرًا أنها ستبدأ في استخدام التكنولوجيا لإزالة بعض أنواع الانتهاك تلقائيًا المحتوى الذي سيتم تحديده عند تحميله، بالإضافة إلى المحتوى الذي تتم إزالته يدويًا بواسطة قسم الأمان الخاص به فريق.
تدعي TikTok أن الأتمتة سيتم حجزها لفئات المحتوى حيث تتمتع تقنيتها بأعلى دقة وستبدأ الانتهاكات المتعلقة بسلامة القاصرين، وعري البالغين، والأنشطة الجنسية، والمحتوى العنيف والرسومي، والأنشطة غير القانونية، وتنظيمها بضائع.
تدعي الشركة أيضًا أنها ستحاول الاستمرار في تحسين دقة التكنولوجيا لتجنب ذلك ومع ذلك، في حالات الإزالة غير الصحيحة، يمكن لمنشئي المحتوى تقديم التماس بشأن إزالة الفيديو مباشرةً إذا شعروا أنه تم ذلك بشكل غير عادل.
يقوم النظام الجديد بإحصاء المخالفات التي يرتكبها المستخدم، مع ملاحظة مدى خطورة الانتهاكات ومدى تكرارها. سيتم إخطار المستخدم بالعواقب، والتي يمكن العثور عليها في قسم تحديثات الحساب في صندوق الوارد الخاص به.
سيؤدي الانتهاك الأول للمستخدم إلى تحذيره ما لم يكن الانتهاك عبارة عن سياسة عدم التسامح مطلقًا، وفي هذه الحالة سيتم حظره. بعد الانتهاك الأول، سيتم تعليق حساب المستخدم لمدة تتراوح من 24 إلى 48 ساعة، اعتمادًا على ذلك على مستوى الخطورة، وفي ذلك الوقت لن يتمكنوا من تحميل الفيديو أو التعليق عليه أو تعديله حساب تعريفي.
وبعد عدة انتهاكات، سيتم إشعار المستخدم بأن حسابه على وشك الحظر، وإذا استمر هذا السلوك فسيتم إزالة الحساب نهائيًا.
هل الأتمتة أكثر فعالية لإزالة المحتوى المخالف؟
"نعم. قبل ذلك، كان على المشرفين البشريين تأكيد الانتهاك قبل إزالة شيء ما. البشر بطيئون والقوى العاملة محدودة، مما قد يسمح بانتشار جزء من المحتوى المخالف من قبل قال بول بيشوف، محامي الخصوصية في شركة Comparitech، لـ Trusted: "لقد تمت إزالته، أو لم تتم إزالته على الإطلاق". التعليقات.
"تعمل TikTok على إزالة الاختناق البشري من الحالات الأكثر وضوحًا التي تكون فيها أنظمتها الآلية واثقة بشكل معقول من حدوث انتهاك."
سيكون نظام الذكاء الاصطناعي قادرًا على العمل بشكل أسرع من الفريق البشري، ويعتقد كريس هوك أيضًا أن الأنظمة الآلية أكثر دقة.
"الأنظمة الآلية لا تخضع للخطأ البشري أو التعب. يمكن للنظام الآلي العمل على مدار الساعة طوال أيام الأسبوع لإزالة جزء من المحتوى المخالف. من غير المحتمل أيضًا أن تقوم الأنظمة الآلية بإزالة (أو عدم إزالة) جزء من المحتوى، وذلك ببساطة بسبب رأي الإنسان فيما يتعلق بذلك. ما قد يكون أو لا يكون انتهاكًا للمعايير،" أوضح كريس هوك، بطل خصوصية المستهلك في Pixel Privacy، لـ Trusted التعليقات.
هل سيقوم الذكاء الاصطناعي أيضًا بإزالة المحتوى غير المخالف عن طريق الخطأ؟
"حتما سوف يحدث. من المؤكد أنه ستكون هناك مشاكل في البداية من شأنها أن تتسبب في تسرب بعض المحتوى العنيف وأيضًا ظهور نتائج إيجابية كاذبة. وقال توم جافني، المستشار الأمني لشركة F-Secure، لـ Trusted Reviews: “سوف يستغرق الأمر بعض الوقت حتى يتم تحسين خوارزميات TikTok بما يكفي لتجنب تصنيف محتوى الفيديو بشكل خاطئ”.
"على المدى الطويل، سيكون من المثير للاهتمام أن نرى كيف يتم تصنيف المحتوى في مناطق مختلفة. في هذه الحالة، تم تجربة السياسة على استخدام مواضيع أمريكية وكندية، لكن الأعراف الاجتماعية تختلف في جميع أنحاء العالم، لذلك ستكون هناك بعض الأخطاء. وتابع جافني قائلاً: "لدي بعض التعاطف مع TikTok بشأن هذا الأمر لأنهم كيان تجاري يُطلب منهم "مراقبة" محتوى الإنترنت".
ليس من غير المعتاد أن تستخدم منصة التواصل الاجتماعي الذكاء الاصطناعي للمساعدة في إزالة المحتوى المخالف أو المسيء. الحافة تم الإبلاغ عن استخدام Facebook للذكاء الاصطناعي لفرز المحتوى للإشراف بشكل أسرع في عام 2020.
ومع ذلك، نظرًا لكون النظام الآلي جديدًا نسبيًا بالنسبة لـ TikTok، فقد وافق بيشوف على أن النظام الأساسي قد يواجه صعوبات في تحديد المحتوى الذي يستحق الإزالة بشكل صحيح.
"من المحتم أن يخطئ نظام آلي مثل هذا في بعض الأحيان في تعريف شيء ما باعتباره انتهاكًا. وبموجب النظام الجديد، يمكن إزالة المحتوى دون إشراف بشري. وأوضح بيشوف أن TikTok سيحاول تقليل النتائج الإيجابية الكاذبة إلى درجة معقولة وسيظل يسمح بالطعن في عمليات الإزالة التلقائية.
قد ترغب…
هل إنستغرام آمن؟ وهنا ما يقوله الخبراء
لقد قامت تطبيقات Android هذه بسرقة كلمة مرور Facebook الخاصة بك
هل تيليجرام آمن؟ إليك ما يقوله خبراء الأمن حول التطبيق
من المعتقد أن النظام سيحتاج إلى "تعليمه" ما ينبغي وما لا ينبغي إزالته، على الرغم من أن هذه الأنظمة ليست مثالية دائمًا. أثناء الوباء، كان موقع YouTube مذنبًا بإزالة محتوى الفيديو الذي لا يتعارض مع القواعد سياسة الشركات، حيث أن إجراءات حماية الموظفين تعني أن الذكاء الاصطناعي لم يكن مدعومًا بالمراجعة البشرية، كما هو الحال تم عمل تقرير بواسطة أزمة التكنولوجيا.
ما الذي يمكن للمستخدمين فعله لتجنب رؤية المحتوى المخالف؟
"يحتوي TikTok على عدد من الأدوات لمساعدة الآباء على الحد من تعرض الأطفال لرؤية المحتوى. يمكن للوالدين التأكد من أن أطفالهم يستخدمون إعدادات العمر المناسبة في التطبيق أو للحصول على أفضل استخدام للحماية "ميزة الاقتران"، التي تتيح للآباء المزيد من التحكم الدقيق"، أوضح جافني لـ Trusted التعليقات.
يدعي Hauk أيضًا أن الإبلاغ عن المحتوى الذي لا ترغب في التفاعل معه سيساعد الخوارزمية على فهم تفضيلاتك بشكل أفضل وما ينبغي وما لا ينبغي السماح به على الموقع.
"[يجب على المستخدمين] الإبلاغ عن المحتوى الذي يشعرون أنه ينتهك معايير مجتمع النظام الأساسي. وقال هوك: "على الرغم من أنه قد لا تتم إزالة المحتوى على الفور، إلا أن التقارير تساعد النظام الآلي على التعلم والتحسين".
يمكن للمستخدم الإبلاغ عن مقاطع الفيديو والحسابات على TikTok باتباع الإرشادات التالية:
للإبلاغ عن فيديو على TikTok:
- انتقل إلى الفيديو الذي تريد الإبلاغ عنه
- اضغط على زر المشاركة
- حدد "إبلاغ" واتبع الإرشادات التي تظهر على الشاشة
للإبلاغ عن حساب على TikTok:
- انتقل إلى الملف الشخصي الذي تريد الإبلاغ عنه
- اضغط على النقاط الثلاث في الجانب الأيمن العلوي من الشاشة لرؤية المزيد من الخيارات
- اضغط على زر الإبلاغ
- حدد الإبلاغ عن الحساب من الخيارات
- اتبع الإرشادات التي تظهر على الشاشة لوصف المشكلة
هل يجب على TikTok أن يفعل المزيد؟
"على الرغم من أن جميع الشبكات الاجتماعية يجب أن تشعر بالقلق إزاء المحتوى المخالف، إلا أنها يجب أن تكون حريصة على عدم تقييد حرية التعبير. وعلق هوك قائلاً: "يمكن أن تتحول إجراءات الحماية بسرعة إلى رقابة إذا لم تتم إزالة المحتوى بشكل عادل ودون تحيز".
وادعى بيشوف أيضًا أن نظام التعليق الجديد يجب أن يكون فعالاً، حتى لو قام المستخدمون الموقوفون أو المحظورون بإنشاء حساب آخر.
"تكون عمليات التعليق فعالة في بعض الحالات وهي جزء ضروري لمنع الأشخاص من إساءة استخدام المنصة. وأوضح بيشوف أنه على الرغم من أنه بإمكان شخص ما إنشاء حساب جديد، إلا أنه لا يزال يتعين عليه إعادة بناء قاعدة متابعيه.
ولم يعلق TikTok على أي ميزة من شأنها تعليق أو حظر الحسابات المرتبطة ببعضها البعض، ومع ذلك، سيتعين على المستخدم إعادة بناء متابعته إذا اختار إنشاء حساب آخر بعد ذلك معلق.
"هذه خطوة استباقية جيدة جدًا من جانب TikTok، مما يضعها في مقدمة العديد من شركات الوسائط الاجتماعية الأخرى. وربما ينبغي أن يكون السؤال هو: ما الذي ينبغي للحكومات أن تفعله أيضًا لتمكين جميع شركات وسائل التواصل الاجتماعي من تقديم خدمات مماثلة؟».
"لقد اتخذت TikTok زمام المبادرة هنا، ولكن من الجنون إلى حد ما أن نطلب من الشركات التجارية تحديد المحتوى الآمن على الإنترنت."
ومع ذلك، قال جافني أيضًا أنه يمكن فعل المزيد للمساعدة في حماية المستخدمين الأصغر سنًا للمنصة. مع الأخذ في الاعتبار أن الفئة السكانية الرئيسية لـ TikTok هي أقل من 34 عامًا، حيث تتراوح أعمار 32.5% من المستخدمين بين 10 و19 عامًا، وفقًا إلى الأخيرة إحصائيات.
"وتعليق عام من هذا الجانب، هذه خطوة جيدة من TikTok للمستخدمين والعلاقات العامة الخاصة بها، ولكن أمامها طريق طويل لتقطعه عندما يتعلق الأمر بالخصوصية. وأوضح جافني أن مصطلحات المستخدم العامة غامضة إلى حد كبير، وهناك عدد من الدراسات الجيدة التي تظهر أن جمع البيانات الخاص بها يتجاوز حتى تلك التي تجمعها شركات التواصل الاجتماعي الأخرى.
"على الرغم من أن هذه النقطة الأخيرة قابلة للنقاش، إلا أنها بالتأكيد تطبيق يصور شبابنا. إذا أرادت أن تذهب خطوة أخرى إلى الأمام، فلماذا لا تضمن عدم جمع أي بيانات تعريف شخصية للمستخدمين الذين تقل أعمارهم عن 18 عامًا والسماح لهم بتجربة الإنترنت دون تسويقها؟
إذا كنت قلقًا بشأن بصمتك على الإنترنت، فاطلع على اختياراتنا لـ أفضل VPN، مما سيساعدك على البقاء في مأمن من الهجمات الخارجية والحفاظ على تشفير جميع بياناتك حتى تكون غير مرئي عند تصفح الويب.
