لماذا كان ستيفن هوكينج مخطئًا بشأن الروبوتات القاتلة؟
نيكول كوبي
عندما يدعو عباقرة مثل إيلون ماسك وستيفن هوكينج إلى فرض حظر على شيء ما، فمن الصعب أن نختلف معهم. عندما يطالبون بحظر الروبوتات القاتلة، يكون من الصعب التشكيك في حكمهم. ومع ذلك، فأنا هنا على وشك القول إنهم وآلاف من زملائهم الأذكياء مخطئون.
انظر ذات الصلة
لكي أكون واضحًا، أنا لا أختلف مع جوهر تحذيرهم. وجادلت مجموعة من الأكاديميين وقادة الأعمال في رسالة مفتوحة بأن الأسلحة المستقلة، وتلك التي "تختار الأهداف وتتعامل معها دون تدخل بشري"، تكون ممكنة في غضون سنوات، وليس كذلك عقود. ويقولون إن هذا أمر مثير للقلق، لأنه على الرغم من أنها قد تقلل من عدد الجنود البشر المطلوبين للمخاطرة بحياتهم في الحروب، إلا أنها تخفض أيضًا "عتبة الذهاب إلى المعركة".
"في حين أنه من الصعب الجدال ضد الحظر، إلا أنه لا جدوى منه في نهاية المطاف: فالحكومات سوف تنتهكه، تمامًا مثل القيود المفروضة على كل جانب ضار آخر من جوانب التكنولوجيا."
وجاء في الرسالة: "السؤال الرئيسي للبشرية اليوم هو ما إذا كان ينبغي بدء سباق تسلح عالمي للذكاء الاصطناعي أم منعه من البدء". "إذا مضت أي قوة عسكرية كبرى قدما في تطوير أسلحة الذكاء الاصطناعي، فإن سباق التسلح العالمي أمر لا مفر منه تقريبا إن نقطة النهاية لهذا المسار التكنولوجي واضحة: الأسلحة المستقلة سوف تصبح بنادق كلاشينكوف الغد. وعلى النقيض من الأسلحة النووية، فهي لا تحتاج إلى مواد خام باهظة الثمن أو يصعب الحصول عليها، وعلى هذا فإنها سوف تصبح منتشرة في كل مكان ورخيصة الثمن بالنسبة لكل القوى العسكرية الكبرى لإنتاجها على نطاق واسع.
إنه أمر مرعب بالفعل، وعلى الرغم من صعوبة الجدال ضد الحظر، إلا أنه لا جدوى منه في نهاية المطاف: فالحكومات سوف تنتهكه، تمامًا مثل القيود المفروضة على كل جانب ضار آخر من جوانب التكنولوجيا. ببساطة، من غير الممكن أن تتوقف جيوش العالم عن تطوير الأسلحة الآلية بسبب رسالة مفتوحة من هوكينج وأصدقائه، أو حتى بسبب القانون الدولي.
"أولئك الذين نشروا قصصًا عن التطفل تم استبعادهم باعتبارهم مهووسين. والآن نعلم أن "جنون العظمة" الذي أصابهم لم يكن شيئًا من هذا القبيل".
خذ التطفل، على سبيل المثال. لسنوات وعقود من الزمن، أشار الباحثون الأمنيون وخبراء التكنولوجيا وحتى الصحفيون إلى حتمية استخدام اتصالات الإنترنت الجماعية للتجسس على المواطنين. أولئك الذين نشروا قصصًا عن برامج التطفل مثل Echelon تم استبعادهم باعتبارهم مهووسين. والآن تثبت ما كشفه سنودن أن "جنون العظمة" لم يكن شيئًا من هذا القبيل.
في النهاية، لا تفعل الرسالة أكثر من مجرد تهدئة شعور الباحثين بالذنب تجاه التكنولوجيا التي هم عليها سيتم استخدام المبنى لأغراض غير أخلاقية - وعندما يحدث ذلك حتماً، يمكنهم على الأقل القول إنهم حاولوا ذلك حذرنا. وكما تشير الرسالة: "تمامًا كما أن معظم الكيميائيين وعلماء الأحياء ليس لديهم مصلحة في بناء أسلحة كيميائية أو بيولوجية، فإن معظم الباحثين في مجال الذكاء الاصطناعي ليس لديهم مصلحة في بناء أسلحة كيميائية أو بيولوجية". أسلحة الذكاء الاصطناعي - ولا يريدون أن يقوم الآخرون بتشويه مجالهم من خلال القيام بذلك، مما قد يؤدي إلى خلق رد فعل عام كبير ضد الذكاء الاصطناعي مما يحد من مستقبله المجتمعي فوائد."
فماذا يتوقع هذا الشخص الأغبى من هؤلاء الأشخاص الأذكياء أن يفعلوا؟ لقد اتخذوا الخطوة الأولى من خلال تحديد المشكلة والتحدث عنها، بدلاً من ترك النقاش في غرف مغلقة مليئة بالاستراتيجيين العسكريين. ولكن حان الوقت الآن للمضي قدمًا واتخاذ الإجراءات اللازمة، بدلاً من الانتظار حتى تصبح مقاتلات الذكاء الاصطناعي شائعة. 
"أنت ذكي بما يكفي لرؤية المشكلة قبل أن تتجول في جميع أنحاء العالم وتذبح الناس، لكن افعل أكثر من مجرد كتابة الرسائل."
ومرة أخرى، انظر إلى المراقبة: بعد الكشف عن سنودن، ضاعف الباحثون جهودهم للتوصل إلى أدوات مضادة للمراقبة. توجد الآن هواتف ذكية مصممة لمنع المتطفلين، مثل Blackphone؛ انتقل المزيد من مواقع الويب إلى التشفير الكامل؛ وحتى التقنية التي تقف خلف Tor يتم تحسينها، مما يعني أنها قد تصبح قريبًا الطريقة الفعلية للتصفح لتجنب المراقبة. لو أننا رأينا قيمة مثل هذا العمل عاجلاً.
لذا، إلى الموقعين على تلك الرسالة: أنتم أذكياء بما يكفي لرؤية المشكلة قبل أن تتجول في جميع أنحاء العالم وتذبح الناس، لكن افعلوا أكثر من مجرد كتابة الرسائل. توصلوا إلى أنظمة للحماية من الروبوتات القاتلة، أو لمنع الطائرات الآلية بدون طيار من استهداف الكائنات الحية، أو لنحمي أنفسنا من مثل هذه التهديدات. عقلي الصغير لا يستطيع حتى أن يتخيل ما ينطوي عليه ذلك، لكنني أرغب بشدة في وجود مثل هذه الحماية – لأنني متأكد تمامًا من أن الأمر سيستغرق أكثر من مجرد خطاب شديد اللهجة لمنع أسلحة الذكاء الاصطناعي من القتل الناس.
اقرأ هذا التالي: آلات قتل الروبوتات – هل ستتمرد؟
الصور: حملة لوقف الروبوتات القاتلة و LWP Kommunkacio تستخدم تحت المشاع الإبداعي
