قد تعتقد أن محادثاتك الخاصة مع أصدقائك أمازون إيكو هي فقط بينك وبين Alexa، المساعد الافتراضي الذي يعيش في السحابة. هذا ليس هو الحال بالضرورة، كما أ بلومبرج يكشف التقرير عن المدى الكامل الذي يستمع إليه موظفو أمازون لتحسين ذكاء Alexa.
بنفس الطريقة التي ستخبرك بها مراكز الاتصال بأن "هذه المكالمة قد يتم تسجيلها لأغراض التدريب"، فإن أمازون تفعل ذلك مع Alexa، ولكن بشكل أقل وضوحًا. في الواقع، في الأسئلة الشائعة، كتبت أمازون ببساطة: “نحن نستخدم طلباتك إلى Alexa لتدريب التعرف على الكلام وفهم اللغة الطبيعية الأنظمة." هذا صحيح، لكن هذا لا يفسر أن هذا يتضمن في بعض الأحيان آذانًا بشرية على جهازك التسجيلات.
يزعم تقرير بلومبرج أن أمازون توظف "الآلاف" من الموظفين - سواء كانوا موظفين بدوام كامل أو مقاولين - الذين يعملون لمدة تسع ساعات يوميًا، ويقومون بتحليل ما يصل إلى 1000 مقطع صوتي في كل نوبة عمل. العمل عادي جدًا - لإعطائك فكرة، يذكر التقرير موظفًا واحدًا يقضي نوبة عمل البحث عن عبارة "Taylor Swift"، وإضافة تعليقات توضيحية لكل واحدة منها لتسليط الضوء على أن الأمر يتعلق بالتسجيل فنان.
متعلق ب: جوجل هوم مقابل أمازون إيكو
من الواضح أن الفرق - التي تتمركز حول العالم في مواقع من بوسطن إلى بوخارست - ينتهي بها الأمر إلى سماع أشياء كنت تفضل ألا تسمعها: مثل الغناء أثناء الاستحمام. ويقال إنهم يستخدمون أحيانًا قنوات الدردشة الداخلية لمشاركة أمثلة مسلية بشكل خاص.
ولكن هناك جانب مظلم أيضا. وقال اثنان من العمال لبلومبرج إنهما سمعا شيئا يعتقدان أنه قد يكون اعتداء جنسيا. وبينما تدعي أمازون أن لديها إجراءات تتعلق بالمحتوى المؤلم، أخبر موظفان رومانيان بلومبرج أن الشركة أبلغتهما أنه ليس من وظيفة أمازون التدخل.
وكتبت أمازون في بيان: "نحن نأخذ أمن وخصوصية المعلومات الشخصية لعملائنا على محمل الجد". "نحن نقوم فقط بتعليق عينة صغيرة جدًا من تسجيلات Alexa الصوتية من أجل تحسين تجربة العملاء. على سبيل المثال، تساعدنا هذه المعلومات في تدريب التعرف على الكلام واللغة الطبيعية فهم الأنظمة، حتى تتمكن Alexa من فهم طلباتك بشكل أفضل، والتأكد من أن الخدمة تعمل بشكل جيد للجميع.
متعلق ب: أي مكبر صوت من Amazon Echo يجب أن تشتريه؟
"لدينا ضمانات فنية وتشغيلية صارمة، ولدينا سياسة عدم التسامح مطلقًا مع إساءة استخدام نظامنا. لا يتمتع الموظفون بإمكانية الوصول المباشر إلى المعلومات التي يمكنها تحديد هوية الشخص أو الحساب كجزء من سير العمل هذا. يتم التعامل مع جميع المعلومات بسرية عالية ونستخدم المصادقة متعددة العوامل لتقييد الوصول وتشفير الخدمة وعمليات التدقيق في بيئة التحكم لدينا لحمايتها.
إذا كان هذا يبدو مألوفًا بعض الشيء، فقد ظهرت قصة مماثلة في بداية العام، مع شركة مملوكة لشركة أمازون تطلب Ring من موظفيها استخدام لقطات من الكاميرات الأمنية المملوكة للعملاء لأغراض التدريب.
بشكل عام، يبدو أن الناس يشعرون بالارتياح تجاه تنصت الذكاء الاصطناعي، ولكن الحقيقة الغريبة هي أنه للوصول إلى مستوى قابل للاستخدام، لا يزال الإشراف البشري ضروريًا. ربما لا ينبغي لنا أن نتفاجأ بأن الشركات لا تتمتع بالشفافية الكاملة بشأن هذه الحقيقة المحرجة.
هل ينبهك هذا التقرير، أم أنه ثمن يستحق أن تدفعه مقابل ذكاء اصطناعي أكثر ذكاءً؟ أخبرنا برأيك على تويتر: @TrustedReviews.
لماذا نثق بصحافتنا؟
تأسست شركة Trusted Reviews عام 2003، وهي تهدف إلى تقديم نصائح شاملة وغير متحيزة ومستقلة لقرائنا بشأن ما يجب شراؤه.
واليوم، لدينا ملايين المستخدمين شهريًا من جميع أنحاء العالم، ونقوم بتقييم أكثر من 1000 منتج سنويًا.
