في الوقت الذين تنتشر فيه أجهزة الروبوت والأجهزة الآلية الحاسوبية في عالمنا هذا اليوم، يطرح السؤال بشأن من سيكون مسؤولا عن أفعالها؟ هذا ما تحاول “رزو إيفالي” الإجابة عنه في التقرير التالي.
في شهر أكتوبر/تشرين الأول من العام الماضي، بدأ نظام حاسوب آلي القيام بعمليات تسوق. أدخل في حساب هذا النظام الإلكتروني مبلغ 100 دولار أمريكي في شكل عملة “بتكوين” كل يوم أربعاء، وبدأ بعدها شراء سلع من سوق “أغورا” الإلكتروني، واختار واحدة منها في نهاية المطاف بشكل عشوائي.
جرى دفع قيمة السلعة التي اشتراها هذا النظام الآلي ثم جرى شحنها الى أستوديو “ميدينغروبيه بتنيك” بسويسرا. وهناك، فتح الفنّانان “دوماغوي سموليو” و “كارمن فايسكوبف” الطرود المرسلة، ووضعا محتوياتها وأغلفتها في عبوات أصغر حجما ليستطيع الناس تصفحها بتمعّن.
اشترى هذا النظام الآلي الحاسوبي، الذي أطلق عليه اسم “راندوم داركنت شوبر” أو “متسوّق الشبكة المظلمة العشوائي” 12 سلعة، جميعها تراوحت ما بين زوج أحذية “أير جوردن” إلى نسخ من جواز سفر مجري، بالإضافة إلى 10 من حبوب مخدرات “النشوة”. جميع الأمور كانت تسير على ما يرام حتى جاء شهر يناير/كانون الثاني.
أقيم معرض للمواد التي قام الروبوت بشرائها. وبعد يوم من انتهاء المعرض وإزالة المعروضات، “قبضت” الشرطة السويسرية على الروبوت وصادرت جهاز الكمبيوتر والمواد التي اشتراها هذا النظام الآلي.
كتب أحد العاملين بشركة “ميدينغروبه بتنيك” على مدونته على الانترنت: “يبدو أن هدف عملية المصادرة هذه كان هو عدم تعريض أشخاص لمخاطر المخدرات المعروضة وذلك باتلافها”.
وفي أبريل/نيسان، أطلق سراح النظام الآلي مع كامل المواد التي اشتراها، باستثناء حبوب النشوة. كما جرى تبرئة ذمة كلا الفنانين من أي تجاوزات قانونية. لكن عملية الاعتقال جعلت الكثيرين يتساءلون عن متى ترسم الحدود الفاصلة للتجاوز القانوني بين البشر والكمبيوتر.
ليست هذه المرة الأولى التي يخرج فيها نظام آلي للتسوق عشوائياً، فقد استمتع الناس بارسال هذه الأنواع من الأنظمة الآلية للتسوق الإلكتروني منذ فترة حتى الآن، لكن معظم الناس الذين يصنعونها لا يزالون يعرضون منتجاتهم على مواقع شهيرة على الانترنت، مثل “أمازون” و “إي باي”.
تقول “فايسكوبف” وزميلها “دوماغوي سموليو” إنهما أرادا التعمق في معرفة “الشبكة المظلمة” لبضعة أسباب. وقالت: “نعتبر الانترنت جزءاً مهماً جداً من ممارساتنا الفنية، إننا نعمل من خلال الانترنت ونعرض منتجاتنا عليه.”، إلا أن فريق العمل أصبح مهتماً أيضاً بطرق استخدام الانترنت من قبل الحكومات، وكيفية خضوعه لرقابة مستمرة. ويشير الاثنان إلى المعلومات التي كشف عنها موظف الاستخبارات الأمريكي السابق “سنودن” كنقطة تحول كبرى في عملهما.
وكرد فعل لذلك، قرر “سموليو” و “فايسكوبف” بدء التحقيق في الجوانب المظلمة لشبكة الانترنت. تقول فايسكوبف: “أصبحنا مهتمين حقاً بمسألة الثقة. كيف نثق بأناس عندما يكونون مجهولين؟ إنه مجرد نظام آلي إلكتروني. قررنا دراسة الأسواق لأنها تحتاج إلى الثقة. إنك لا ترسل فقط أموال إلى شخص ما على أمل أن يرسل اليك سلعة”.
وعلى هذا الأساس جرى تطوير “متسوّق الشبكة المظلمة العشوائي” وأطلق العنان لتجربته عمليا. وأضافت فايسكوبف: “كانت الفكرة أن نحصل على مجموعة من السلع عن طريق ’داركنت‘ كأمثلة على ما تأمل أن تجده في السوق. واستناداً إلى تاريخ عمليات التسوق التي قام بها النظام الآلي، ستجد سلعاً مختلفة الأنواع: أحذية “أير جوردن” من الصين، ملابس جينز من إنتاج علامة “ديزل” التجارية، ورسالة خادعة من “بنك ابنغتن”، وقبعة لعبة بيسبول بكاميرا خفية في مقدمتها، وبطاقة ائتمان من “فيزا بلاتينوم” وسجائر “تشيستيرفيلد” وغيرها الكثير.
تقول “فايسكوبف” إنها لم تندهش كثيراً بمتابعة الشرطة لأنشطتها وزميلها. وتقول: “استشرنا محامياً قبل البدء بتطبيق الفكرة. كنا نعلم أن كثيراً من السلع التي تجدها في الأسواق هي بشكل واضح لا تُباع في أماكن أخرى على الانترنت لسبب أو لآخر.
ورغم ذلك، أشار المحامي إلى أن القوانين في سويسرا، التي تستند إلى مبدأ الحرية في عرض المنتجات الفنية، تتيح للفنانين خرق بنود معينة من القوانين لغرض عرض أعمالهم. (غير أن هذا المبدأ لا يُطبق على الفنانين في كل مكان.)
يقول “بوركهارد شيفر” وهو أستاذ في النظرية القانونية الحاسوبية بجامعة أدنبره البريطانية إن مسألة وقوع الروبوت أو النظام الآلي الحاسوبي تحت طائلة المسؤولية القانونية ليست أمراً جديداً. ويعتقد أن قضية المسؤولية، حتى الوقت الراهن، لا ينبغي أن تختلف بتاتاً عن أي ضرر يسببه جهاز مثقاب كهربائي.
يقول “بوركهارد”: “علينا أن نقرر إن كان هذا الخطأ هو من المالك أم من الجهة المصنعة، وليس المثقاب نفسه. ” الروبوتات لا تغير المسألة بشكل كبير”.
الروبوتات هي بشكل أساسي نتاجٌ لعمل الانسان. إنها تنفذ الأوامر التي نوجهها اليها. وحتى يتغير ذلك، فإن أي عمل تقوم به هو من مسؤولية الأشخاص الذين صنعوه.
تتعقد المسألة قليلاً بالنسبة للروبوتات الذكية، أو تلك التي يمكنها أن تتعلم، لأنها ربما تنفذ أمرا لم يتوقعه صانعوها. لكن”شيفر” يقول إنه حتى في تلك الحالات، فإن صانعي الروبوتات يجري تحمليهم المسؤولية بشكل عام.
يشير “شيفر” إلى أن لدينا بالفعل ما يشبه إطاراً قانونياً يمكنه أن يُطبق على الروبوتات الذكية والأنظمة الآلية الحاسوبية، وهي القوانين التي تُطبق على الكلاب. يقول: “إذا أدخلت شيئاً خطراً إلى البيئة، فإن الرد على ذلك يكون عادة هو أنك ما زلت مسؤولاً عنه.
الأشخاص الذين يمتلكون كلاباً هم على دراية كاملة بأنهم لا يستطيعون السيطرة على كل حركة تقوم بها كلابهم. ولكن في نفس الوقت، إذا أمتلك شخصٌ كلباً خطراً، فإن المسؤولية تقع على عاتق صاحب الكلب ليحمي الآخرين من هذا الكلب. “ما دمت قادراً على توقع حدوث ضرر نتيجة شيء تمتلكه، حتى وإن لم تكن أنت الذي ترغب في إحداث هذا الضرر أو الأذى المحدد، فإنك تكون مسؤولا عنه”.
والكلاب أكثر قدرة وذكاءً وابتكارا من أي منظومة كمبيوتر اخترعها الانسان لحد الآن.
حتى وإن ظل الجدل القانوني كما هو، فإن ردود أفعالنا الغريزية تجاه جريمة ارتكبها متسوق آلي متطور قد تكون مختلفة تماماً إذا ما قارنا الأمر بحادثة بسبب استخدام مثقاب أو سُلّم، على سبيل المثال. يسري هذا الأمر بشكل خاص على روبوت صُنع ليتحرك ويتحدث مثل إنسان.
تقول “فايسكوبف” إنه على الرغم من كون “متسوّق الشبكة المظلمة العشوائي” أداة تدار عن طريق جهاز الكمبيوتر، فإن زوار المعرض أرادوا أن يحولوه إلى كائن حي.
وتضيف: “إنه ليس برنامجاً ذكياً، بالطبع لا، إنه لا يتعلم. كما إنه لا يقوم بالكثير من الأمور التي تقوم بها حقاً بعض الروبوتات. لكنه يتصرف مثل إنسان. كما أن الزوار، عند مشاهدتهم للسلع المعروضة وعددها 12 سلعة سيحاولون التأمل في شخصية هذا المتسوِّق. كل هذا ليس إلا سلوكا عادياً جداً من جانب البشر.”
يخطط فنانا “بتنيك” القيام بمشاريع أخرى لسبر غور هذه المسائل. يريد كلا الفنانين محاولة تشغيل الروبوت المتسوق خارج سويسرا ليعرفا إن كانت النتائج وردود الأفعال ستكون مختلفة أم لا. كم سيستغرق من الوقت لكي يوقف أفراد الشرطة في الولايات المتحدة الأمريكية هذا الروبوت؟ كيف سيكون رد فعل السلطات الهندية؟ تقول “فايسكوبف”: “نعتبر هذه الأمور مثيرة للاهتمام حقاً. هناك أسئلة تُطرح حول اختلاف الولايات القضائية وحقوق الطبع والنشر. إن وجود قوانين مختلفة في بلدان متنوعة يسبب مصاعب لأن هذه الروبوتات متوفرة عالمياً.”
في نهاية المطاف، تأمل “بتنيك” تنفيذ المزيد من المشاريع على هذا المنوال، حيث تطرح أسئلة لا تتعلق فقط بما يمكن الحصول عليه عن طريق الشبكة المظلمة “داركنت”، بل عن مدى سهولة اقتنائه والسبب من وراء امتلاكه.
تقول “فايسكوبف”: “نحن مهتمون بالمساءلة التي ستوجَّه إلى الروبوتات أو البرامج الحاسوبية، ولكن في نفس الوقت نهتم أيضاً بأسئلة تدور حول إخفاء الهوية والرقابة الجماعية. ما الشكل الذي نريد أن تكون عليه عوالم الروبوتات في المستقبل؟ ماذا نريد منها أن تفعل؟ وما الذي نرى أنه ينبغي حدوثه؟”
BBC