الأخلاق

(١-١) أخلاق الشمبانزي

(١-٢) الأسس الطبيعية للأخلاق

فتوجد إذن «أسس طبيعية للخُلُق» تتأصل في مملكة الحيوانات، ولا سيما لدى الحيوانات التي تعيش في جماعات والتي ينحدر منها الإنسان، ولكنها لا تقتصر على هذه الفئة دون غيرها. ولا تستبعد هذه الأسس الطبيعية بالطبع معاملة إنسانية بحتة واستدلالية للأخلاق تقوم على اللغة والتفكير المجرد وهما سمتان من سمات جنسنا البشري. وتُعتبر هذه الأخلاق الاستدلالية، شأنها شأن الأخلاق الدينية أو أخلاق كانط، مميِّزةً للجنس البشري، فحتى بعض الحيوانات شديدة الذكاء مثل الشمبانزي لا تستطيع ابتكار هذه «الأخلاق الاستدلالية».

(٢-١) بعض مصمِّمي الروبوت يتبعون إسحاق أسيموف حرفيًّا

عندما ألَّف الكاتب إسحاق أسيموف سلسلته الروائية الشهيرة عن «الروبوتات»، اهتم بشدة بالابتعاد عن القصص التقليدية للمخلوقات التي تنقلب على خالقها. وكان استدلالُه هو التالي: «لقد اعتدْنا على العيش بجانب أشياء قد تكون خطيرة ولكننا دائمًا ما استطعنا ملاءمتها مع استخداماتنا؛ فللسكاكين مقبض وللدَّرَج درابزين.» وبهذه الطريقة تخيل القوانين الثلاثة لتصميم الروبوتات، وهي قوانين دقيقة ومنطقية وواضحة، ومن المفترض أنها تتحكم في سلوكيات أي روبوت يُصمِّمه الإنسان، وهو خُلُق فطري يمكن أن تُزوَّد به أيُّ آلة.

القانون الأول: لا يستطيع الروبوت إلحاق الضرر بإنسان، ولا السماح بإلحاق ضرر به بالامتناع عن التصرف.

القانون الثاني: يجب أن يطيع الروبوت أوامر الإنسان، إلا إذا تعارضت هذه الأوامر مع القانون الأول.

القانون الثالث: يجب أن يدافع الروبوت عن بقائه لأطول فترة ممكنة بصورة لا تتعارض مع القانونين الأول والثاني.

وبفضل هذه الحبكة الروائية الفعالة، ألَّف أسيموف سلسلة من القصص التي كان أبطالُها من الروبوتات التي تبدو للوهلة الأولى كأنها تتصرف في تعارض مع هذه القوانين، إلا أنها تتبعها مفسرة إياها كلٌّ بطريقته.

وقد تساءل عدد من المهندسين الذين قرءوا روايات أسيموف في اندهاش حول إمكانية فرض هذه القوانين على روبوتات حقيقية، وفي بعض الحالات وضعوا قواعد لسلوكيات مشابهة يعتقدون أنه يجب تزويد الآلات المستقبلية بها. ولا تصعب ملاحظة أن تطبيق هذه الفكرة ليس واردًا. فما هو الإنسان؟ وما هو الإيذاء؟ لا توجد أي طريقة لتعريف هذين المصطلحين بصورة واضحة بما يكفي لكي نفكر في فرضها على آلة ما. فتكمن الطريقة الوحيدة للاحتماء من الأضرار المحتملة للآلات المستقلة في مجرد التأكد من أنها مَهْمَا فعلتْ فلن تستطيع الإيذاء. وبالإضافة إلى ذلك، تنطبق التشريعات التي تنظم تسويق المنتجات الإلكترونية على مثل هذا السياق بصورة جيدة، فالروبوتات التي تُباع حاليًّا صغيرة ومزودة بآليات أمانٍ تُبطِل مُحرِّكَها بمجرد الشعورِ بمقاومة قوية. ويُعتبر هذا النوع من «صمام الأمان» أكثر أمانًا من القوانين التي تخيلها أسيموف (انظر الفصل الرابع عشر).

(٢-٢) يمكننا تزويد الآلات بدوافع «أخلاقية» خارجية

(٢-٣) يمكننا تزويد الآلات بدوافع «أخلاقية» داخلية

إن الانعكاسية، أي قدرة الآلة على القيام بحركة ثم عكسها والعودة إلى الوضع الأولي ذاته، تُعَدُّ شرطًا أساسيًّا لأي تحكم آلي. ومن الحركات غير القابلة للانعكاس نجد حركة تؤدي إلى تصادم يضر بالآلة، أو حركة تدفع الروبوت إلى الوقوع في حفرة لا يستطيع الخروج منها، أو إلغاء بيانات مهمة على قرص صلب. وإذا كان الهدف من آلة ما هو الحفاظ على سلامتها الجسدية واستقلال عملها، فإن غالبية الحركات غير القابلة للانعكاس تُعتبر حركات ضارة أو على الأقل خطيرة. وكما تستطيع الآلة تعلم التنبؤ بنتائج حركاتها (انظر الفصل الثاني) يمكنها أيضًا تعلم استباق انعكاسية حركاتها، مما يسمح لها باختيار حركات مفضلة يمكنها التنبؤ بانعكاساتها بأفضل طريقة ممكنة. وقد أظهرت بعض التجارب أن الروبوت المزود بهذا الدافع الداخلي يستطيع على سبيل المثال أن يتعلم تلقائيًّا تجنب الاصطدامات، وهو سلوك يَنتُج ببساطة عن هذا المبدأ المجرد. ولكن هل يُعَدُّ مبدأ الانعكاسية مع ذلك مبدأ أخلاقيًّا؟ إنه في كل الأحوال مثال على «مدونة لحسن السلوك» تنطبق على عدد كبير من المواقف المختلفة.

(٢-٤) هل يمكن أن تَظهَر سلوكيات جماعية «أخلاقية» بين الآلات؟

فلنختم هذا الاستعراض السريع لوجهات النظر بشأن أخلاقيات الآلات بأن نذكر إمكانية ظهور أخلاق بصورة تلقائية بين الآلات المتعلمة. فلقد رأينا أن بعض الآلات قادرة على إنتاج ظواهر ثقافية تنتمي لها؛ أيْ ذاكرة جماعية بين الأجيال (انظر الفصل الثامن). ولا نقصد هنا بالضرورة بكلمة «الأخلاق» اتباع مبادئ أخلاقية شبيهة بمبادئ الجماعات الإنسانية أو الحيوانية، بل نقصد ظهور عدد من القواعد السلوكية المشتركة بين أكبر عدد ممكن من هذه الآلات.