الفصل الأول

ماذا لو نجحنا؟

مُنذ فترة طويلة، كان والداي يعيشان في مدينة برمنجهام بإنجلترا في بيتٍ قُرب الجامعة. في يومٍ من الأيام، قرَّرا الرَّحيل عن المدينة وباعا المنزل إلى ديفيد لودج؛ أستاذ الأدب الإنجليزي. حينها، كان ديفيد في أوج مجده وشُهرته كروائي. ومع أنِّي لم أقابله قط، لكني عقدت العزم على قراءة بعضٍ من كُتُبه؛ على سبيل المثال، رواية «تبادل الأماكن» ورواية «عالم صغير». ومن بين الشخصيات الرئيسية في هاتين الروايتين، هناك بعض الأكاديميِّين الخياليِّين الذين ينتقلون من نُسخةٍ خياليةٍ لمدينة برمنجهام إلى نُسخةٍ خياليةٍ لمدينة بيركلي بولاية كاليفورنيا. وعندما كنتُ أنا أكاديميًّا حقيقيًّا من مدينة برمنجهام الحقيقية وقد انتقلتُ لتوِّي إلى مدينة بيركلي الحقيقية، شعرتُ حينها أنَّ هذه مُصادفة لا يجدُر بي أن أدعها تمرُّ مرور الكرام دون تمعُّنٍ وانتباه.

لقد أعجبني أحد المشاهد في رواية «عالم صغير»؛ حيث كان بطل الرواية، الذي كان باحثًا أدبيًّا طموحًا، يحضُر مؤتمرًا عالميًّا مُهمًّا ثمَّ يسأل لجنة المُناقشة التي تضُمُّ عددًا من الشخصيات القياديَّة: «ما خطوتكم التالية إذا وافقكم الجميع الرأي؟» أثار ذلك السؤال فزعًا وذُعرًا لأن المُناقشين كانوا مُنهمكين في الصراع الفكري بدلًا من تحرِّي الحقائق ومحاولة الوصول إلى فهمٍ صحيح. وحينها، طرأ سؤال مُشابه في ذهني أريد أن تُجيب عنه الشخصيات القيادية في مجال الذكاء الاصطناعي: «لنفترض أنكم نجحتم، ماذا بعد؟» إن الهدف الأسمى لهذا المجال كان ولا يزال خلق ذكاءٍ اصطناعي يُماثلُ الذكاء البشري أو يفُوقُه. ولكنَّنا لم نفكر، اللَّهُم إلا من بعض المحاولات المُتواضعة، فيما سيئول إليه الحال لو نجحْنا في مسعانا ذاك.

بعد سنواتٍ قليلةٍ، بدأتُ أنا وبيتر نورفج تأليف كتابٍ جديد عن الذكاء الاصطناعي، ونُشرت أول طبعةٍ منه عام ١٩٩٥.1 وكان عنوان آخر قسم فيه هو «ماذا لو فعلناها ونجحنا؟» وكان ذاك القسم يُشير إلى العواقب الحسنة والسَّيئة واحتمالاتهما، لكنَّه لم يصل إلى استنتاجاتٍ مُحكمة. وحين صدرت الطَّبعة الثالثة من الكتاب عام ٢٠١٠، كان الكثير من النَّاس قد بدءوا يأخذون بعين الاعتبار احتمالية أنَّ الذكاء الاصطناعي الخارق قد لا يكون أمرًا جيدًا؛ ولكن كان مُعظم هؤلاء غير مُتخصِّصين وليسوا من عُمُوم الباحثين في مجال الذكاء الاصطناعي. وفي عام ٢٠١٣، وصلتُ إلى قناعةٍ أنَّ تلك المسألة لا تخُصُّ مُجتمع الباحثين في المجال فقط، بل رُبَّما كانت أعظم تساؤلٍ يُواجه البشرية جمعاء.
في شهر نوفمبر عام ٢٠١٣، ألقيتُ محاضرةً في معرض صور داليتش؛ وهو معرض فنِّي عريق جنوب لندن. كان مُعظم الحضور من المُتقاعدين غير المُتخصِّصين، ولكنَّهم كانوا ذوي اهتمامٍ عامٍّ بالقضايا الفكرية. لذلك كان عليَّ أن أُلقي محاضرةً مُبسَّطةً تمامًا، وقد بدا هذا المقامُ ملائمًا لأطرح فيها أفكاري على الملأ للمرة الأولى. وهكذا، بعد أن شرحتُ ما هو الذكاء الاصطناعي، رشَّحتُ خمسة أحداثٍ ليكون أحدها هو «أعظم حدثٍ في مستقبل البشرية»:
  • (١)

    أن نهلك جميعًا (سواء بارتطامٍ نيزكي أم كارثةٍ مناخيَّةٍ أم تفشٍّ لوباءٍ خطير وهلُمَّ جرًّا).

  • (٢)

    أن نعيش مُخلَّدين للأبد (باكتشاف إكسير الحياة والحدِّ من الشيخوخة).

  • (٣)

    أن نخترع السَّفر بسرعةٍ تفوقُ سرعة الضَّوء ونغزو الكون.

  • (٤)

    أن تغزُونا كائنات فضائية من حضارةٍ أكثر تطورًا من حضارتنا.

  • (٥)

    أن نخترع ذكاءً اصطناعيًّا خارقًا.

وتوقَّعت حينها أن يكون الحدث الخامس؛ الذكاء الاصطناعي الخارق، هو الفائز. فهو سيساعدنا على تجنُّب الكوارث المادِّية وتحقيق الخُلُود واختراع السَّفر بسرعةٍ تفوقُ سرعة الضَّوء، إن كانت هذه الأشياء مُمكنة الحدوث أصلًا. كما سينقل حضارتنا البشرية نقلةً كبيرةً، بل قد يخلق حضارةً جديدة تمامًا. فاليوم الذي نخترعُ فيه ذكاءً اصطناعيًّا خارقًا سيكون مُماثلًا، من نواحٍ كثيرة، لليوم الذي تصل فيه كائنات فضائية من حضارةٍ أكثر تطورًا من حضارتنا إلى كوكبنا، لكنَّه في الغالب هو الأقرب للحدوث. ورُبَّما كان أهم ما في الأمر أنَّ الذكاء الاصطناعي هو شيء نملكُ زمامه إلى حدٍّ ما، على عكس الكائنات الفضائية.

بعدها، طلبت من الجمهور أن يتخيَّلوا ماذا سيحدث إذا تلقَّينا إنذارًا من كائناتٍ فضائيةٍ من حضارةٍ مُتفوِّقةٍ يُخبروننا فيه أنَّهم سيقدُمُون إلى كوكب الأرض في غضون الثلاثين إلى الخمسين سنةً المُقبلة؟ دعوني أُخبركم أنَّ القاعة امتلأت بالهرج والمرج. ولكن يكفي أنْ أقول إن ردَّ فعلهم على توقُّعات اختراع ذكاء اصطناعي خارق كان أقل من المتوقع. (في محاضرةٍ لاحقةٍ، وضَّحتُ ذلك في صورة مُراسلة بريد إلكتروني ترونها في الشَّكل ١-١.) وأخيرًا، أوضحتُ لهم مدى أهمية الذكاء الاصطناعي الخارق وخُطُورته في الوقت ذاته، فقلتُ: «نجاحنا في هذا الأمر سيكون أعظم حدثٍ في تاريخ البشرية … ورُبَّما آخر أحداثها على الإطلاق.»
fig1
شكل ١-١: ربما لا تكون هذه هي المُراسلة البريدية التي ستنتُج عن أول تواصلٍ مع حضارةٍ فضائية متفوِّقة.

مرَّت عدة أشهرٍ، وبالتَّحديد في شهر أبريل عام ٢٠١٤، كنتُ أحضُر مؤتمرًا في أيسلندا عندما تلقَّيت اتصالًا من «الإذاعة الوطنية العامة» يسألونني فيه إذا كنتُ أودُّ أن أجري حوارًا نقاشيًّا حول فيلم «التَّسامي» («ترانسندنس»)؛ الذي كان قد بدأ عرضُهُ حديثًا في الولايات المتحدة. كنتُ قد قرأتُ عددًا من مُلخَّصات حبكة الفيلم وبعض مُراجعاتٍ له، لكنَّي لم أشاهده لأني كنت أعيش في باريس وقتها، ولم يكن ليُعرض هناك إلا في شهر يونيو. ثمَّ اضطُررتُ أن أعرِّج على مدينة بوسطن في طريقي من أيسلندا إلى بيتي لأشارك في اجتماعٍ لوزارة الدِّفاع. وهكذا وفور أن وصلتُ إلى مطار لوجان الدولي بمدينة بوسطن، ركبت سيارة أجرةٍ إلى أقرب دار سينما تعرض الفيلم، ثمَّ جلستُ في الصَّف الثاني وشاهدت المُمثِّل جوني ديب، في دور أستاذ ذكاءٍ اصطناعي ببيركلي، وهو يُواجه محاولة اغتيالٍ من ناشطين مُعادين للذكاء الاصطناعي، وهم، كما جال في خاطرك، جماعة تخشى عواقب الذكاء الاصطناعي الخارق. حينها، انكمشتُ في مقعدي لا إراديًّا. (أهذه مصادفة أخرى يجب أن أقف عندها لأُراجع نفسي؟) وقبل موت الشخصية التي يُجسِّدها جوني ديب، حُمل عقله إلى كمبيوترٍ كمِّي فائق السُّرعة، ثمَّ ما لبث أن صار ذا قدراتٍ تتخطَّى حدود القدرات البشرية وبدأ يُهدِّد بالسيطرة على العالم.

وفي التاسع عشر من شهر أبريل عام ٢٠١٤، نشرتُ مُراجعةً للفيلم على موقع «هافينجيتون بوست» بالمُشاركة مع الفيزيائيِّين ماكس تيجمارك، وفرانك ويلتشك، وستيفين هوكينج. تضمَّنت المُراجعة الجملة التي قلتُها في محاضرة معرض داليتش عن أعظم حدثٍ في تاريخ البشرية. ومنذ ذلك الحين، تبنَّيت علنًا وجهة النَّظر القائلة بأنَّ مجال بحثي قد يُشكِّلُ تهديدًا مُحتملًا لأبناء جنسي البشري.

(١) كيف وصلنا إلى هنا؟

بدأ البحث في مجال الذكاء الاصطناعي منذ فترةٍ طويلة، لكنَّ بدايته «الرسمية» تُؤرَّخ بعام ١٩٥٦ عندما أقنع جون ماكارثي ومارفن مينيسكي؛ وهما عالما رياضيَّاتٍ شابَّان، كُلًّا من كلود شانون الذي كان وقتها مشهورًا بصفته مُخترع نظرية المعلومات، وناثانيل رتشيستر؛ مُصمِّم أول كمبيوتر يُباع في الأسواق من شركة آي بي إم، أن ينضمَّا إليهما لتنظيم برنامج صيفي في جامعة دارتموث. وكان الهدف منه كما يلي:

يقوم البرنامج على افتراض أنَّ كل جوانب التَّعلُّم أو أي سمةٍ من سمات الذكاء يُمكن، نظريًّا، أن تُوصَّف توصيفًا دقيقًا بحيث يُمكن جعل الآلات قادرةً على محاكاتها. ستُجرى محاولة لاكتشاف كيفية جعل الآلات تتحدَّثُ اللغة؛ وتصُوغ الأفكار المُجرَّدة والمفاهيم؛ وتعمل على حلِّ ذاك الضَّرب من المشاكل المُستعصية والمقصُور البحث فيها على البشر؛ وتُطوِّر من نفسها. نظُنُّ أنَّ تقدُّمًا ملحوظًا يُمكن أن يُحرز في واحدةٍ أو أكثر من هذه المسائل إذا ما اشتغل بها فريق من العلماء مُنتقًى بعنايةٍ خلال صيفٍ واحد.

لا حاجة بنا للإشارة إلى أنَّ تلك التجربة قد استغرقت وقتًا أطول بكثيرٍ من فصل صيفٍ واحد؛ فنحن ما نزال إلى الآن نعمل على حلولٍ لتلك المسائل.

في خلال العقد الأول أو نحو ذلك بعد برنامج دارتموث، ازدهر الذكاء الاصطناعي وشهد العديد من النَّجاحات الهامَّة؛ بما في ذلك خوارزمية آلان روبنسون للتفكير المنطقي العام2 وبرنامج لُعبة الدَّامة الذي صمَّمه آرثر صامويل، والذي طور من نفسه حتى تغلَّب على صانعه.3 أما أول فقاعةٍ للذكاء الاصطناعي، فقد انفجرت في أواخر السِّتينيَّات من القرن العشرين، عندما فشلت الجهود المُبكِّرة في مجالَي تعلُّم الآلة والتَّرجمة الآلية في الارتقاء إلى مستوى التوقعات. وخلُص تقرير أعدَّته الحكومة البريطانية عام ١٩٧٣ إلى أنَّنا «لا نستطيع أن نُشير إلى أي فرعٍ من فروع هذا المجال ونقول إن الاكتشافات التي أحرزت فيه حتى الآن قد حقَّقت الأثر الهائل الذي كان متوقَّعًا منها.»4 أو بعبارةٍ أخرى، لم تكن الآلات ذكيةً بما يكفي.
عندما كنت في سنِّ الحادية عشرة، لحُسن حظِّي، لم أكن أعرف شيئًا عن هذا التَّقرير. وبعد سنتين، أُهديت إليَّ آلة حاسبة قابلة للبرمجة من طراز «سينكلير كامبريدج»، وحينها أردت فقط أن أجعلها ذكية. ولكن تلك الآلة الحاسبة التي ما كانت ذاكرتها لتحتمل أكثر من ٣٦ خطوة حسابية، لم تكن كبيرةً كفايةً بحيث تمتلك ذكاءً اصطناعيًّا يُضاهي الذَّكاء البشري. بعدها، وأنا غير مُهبَّط العزيمة، تمكنت من الوصول إلى الكمبيوتر الفائق «سي دي سي ٦٦٠٠»5 ذي الحجم الضَّخم، في كلية إمبريال كوليدج بلندن، وأنشأتُ عليه برنامج لُعبة شطرنج، والذي كان مُخزَّنًا على مجموعةٍ من البطاقات المثقوبة التي يبلغ ارتفاعها قدمَين. لم تكن النَّتيجة مُرضيةً جدًّا، ولكن لم يُهمَّني ذلك؛ فقد كنت أعرف حينها ما الذي أريد فعله.

أصبحتُ أستاذًا في جامعة بيركلي بحُلُول مُنتصف الثمانينيات في القرن العشرين، وكان الذكاء الاصطناعي حينها يشهد صحوةً وانتعاشًا بفضل الإمكانات التجارية لما كان يُدعى بالنظم الخبيرة. وهنا كان ثاني انفجارات فُقَّاعات الذكاء الاصطناعي؛ حين فشلت هذه النظم وأثبتت عدم أهليتها للعديد من المهام التي وُكلت إليها. مرة أخرى، لم تكن الآلات ذكيةً بما يكفي. تبع ذلك شتاء طويل لم تسطع فيه شمس على الذكاء الاصطناعي، وانكمش عدد الطلَّاب في دورة الذكاء الاصطناعي التي أُدرِّسُها من حوالي ما يربو على تسعمائة طالبٍ إلى خمسةٍ وعشرين طالبًا فقط في عام ١٩٩٠.

وهنا تعلَّم مجتمع الذكاء الاصطناعي الدَّرس، وفطن إلى أنَّ الآلات يجب أن تكون أذكى، ولكن كان علينا أن نجتهد ونكدَّ في الدِّراسة لنجعل هذا الأمر مُمكنًا. فتعمَّق المجال في علم الرياضيات، ووطَّد أواصره مع فروع المعرفة العريقة كعلم الاحتمالات والإحصاء ونظرية التَّحكم. وغُرست بُذُور النَّجاحات التي نراها اليوم خلال أيام ذلك الشِّتاء الذي خيَّم على مجال الذكاء الاصطناعي، بما في ذلك الدراسات الأوَّلية على نظم التفكير الاحتمالي الواسع النِّطاق، التي سُمِّيت فيما بعد ﺑ «التَّعلُّم المُتعمِّق».

وبداية من عام ٢٠١١ تقريبًا، بدأت تقنيات التَّعلُّم المُتعمِّق في إحراز نجاحاتٍ هائلةٍ في ثلاثٍ من أهمِّ المسائل غير المحسُومة في المجال؛ تمييز الكلام، وتمييز العناصر المرئية، والتَّرجمة الآلية. وإلى حدٍّ ما، الآلات في يومنا هذا تُضاهي القدرات البشرية في تلك الأمور، بل وتتفوَّق عليها أحيانًا. ففي عامي ٢٠١٦ و٢٠١٧، هزم برنامج «ألفا جو»، الذي طورته شركة ديب مايند، بطل العالم السَّابق في لعبة جو؛ لي سيدول، وبطل العالم الحالي؛ كي جيه، وهو حدث تنبَّأ بعض الخبراء أننا لن نراه يحدُث أبدًا، وإن حصل فلن يكون قبل عام ٢٠٩٧.6

وها نحن الآن نشهد الذكاء الاصطناعي وهو يظهر في أخبار الصَّفحات الأولى من التَّغطيات الإعلامية كل يومٍ تقريبًا. فقد أُسِّست الآلاف من الشركات النَّاشئة التي يدعمها سيل عارم من التمويلات الاستثمارية. ودرس الملايين من الطلاب دوراتٍ في الذكاء الاصطناعي وتعلُّم الآلة عبر الإنترنت، وصار الخبراء في المجال يتقاضون رواتب بملايين الدولارات. ونذكُر هنا أنَّ الاستثمارات التي تضُخُّها الصَّناديق الاستثمارية والحكومات الوطنية والشركات الكبرى تصل إلى عشرات المليارات من الدولارات سنويًّا؛ أي إن الأموال التي استُثمرت في السنوات الخمس الماضية هي أكثر مما أُنفق على المجال منذ أن بدأ. ومن المُتوقَّع أن تترك التقنيات التي ما تزال في حيِّز التطوير؛ كالسَّيارة الذاتية القيادة والمُساعد الشَّخصي الذكي، أثرًا جوهريًّا في عالمنا خلال العقد القادم. أما المنافع الاقتصادية والاجتماعية المُحتملة التي قد نجنيها من وراء الذكاء الاصطناعي فهي كثيرة ومُتعدِّدة، مما يُعطي زخمًا عظيمًا لمؤسَّسات أبحاث الذكاء الاصطناعي.

(٢) ما الخطوة التالية؟

أيعني هذا التَّقدم السريع والمُتلاحق أنَّنا على وشْك أن تسبقنا الآلات وتتخطانا؟ الإجابة هي لا؛ فهناك العديد من الطَّفرات التقنية التي يجب أن تحدُث أولًا قبل أن نشهد ميلاد آلات ذات ذكاءٍ خارق يفوق الذكاء البشري.

من المعروف أنَّ التَّنبؤ بالطَّفرات العلمية أمر غاية في الصعوبة. ولنُدرك مدى صعوبة الأمر، فلنُلق نظرةً على تاريخ أحد المجالات الأخرى التي بإمكانها أن تُبيد الحضارة الإنسانية وتقضي عليها؛ ألا وهو الفيزياء النَّووية.

في السنوات الأولى من القرن العشرين، لعلَّ أكثر الفيزيائيِّين النَّوويين شهرةً وبُرُوزًا كان العالم إرنست رذرفورد؛ مُكتشف البروتونات والرجل الذي «شطر الذرة» (انظر الشكل ١-٢«أ»). وكغيره من أرباب المجال، كان يعرف أنَّ نواة الذرة تختزن كمًّا هائلًا من الطاقة، لكنَّ الاعتقاد السَّائد حينها كان هو أنَّ الوصول إلى هذه الطاقة والانتفاع بها هو ضرب من ضُرُوب المُستحيل.
في الحادي عشر من شهر سبتمبر عام ١٩٣٣، عقدت الجمعية البريطانية لتقدُّم العلوم اجتماعها السَّنوي بمدينة ليستر. وألقى اللورد رذرفورد خطاب الجلسة المسائية. وكما فعل مرَّاتٍ عديدة في الماضي، أوهن بخطابه عزم احتمالات إنتاج الطاقة النَّووية وقال: «أي شخصٍ ينشُد مصدرًا للطاقة من تحوُّل الذرات فهو كمن يلاحق سرابًا في فلاة.» وفي الصَّباح التالي نقلت جريدة «ذا تايمز» اللندنية خطاب رذرفورد (انظر الشكل ١-٢«ب»).
fig2
شكل ١-٢: (أ) عالم الفيزياء النووية اللورد رذرفورد. (ب) مقتطفات من تقريرٍ صحفي أعدَّته جريدة «ذا تايمز» بتاريخ ١٢ سبتمبر، ١٩٣٣، حول الخطاب الذي ألقاه رذرفورد مساء اليوم السَّابق. (ﺟ) عالم الفيزياء النووية ليو سيلارد.
ليو سيلارد (انظر الشكل ١-٢«ﺟ»)، وهو فيزيائي مجري هرب من جحيم ألمانيا النَّازية، كان يُقيم في فندق إمبريال في ميدان راسل بلندن. قرأ تقرير جريدة «ذا تايمز» وهو يتناول فطوره. ثمَّ ذهب إلى نُزهةٍ على قدميه وأخذ يتمعَّن فيما قرأه، ثم اخترع التَّفاعُل النَّووي المُتسلسل المُستحث بالنيوترونات.7 في أقلَّ من أربعٍ وعشرين ساعة، تحوَّلت مسألة تحرير الطاقة من النَّواة من حُكم المُستحيل إلى أنَّها قد حُلَّت من حيث المبدأ. وفي العام اللاحق، سجَّل ليو سيلارد براءة اختراعٍ سريةً لمُفاعلٍ نووي. وفي عام ١٩٣٩، سُجِّلت أول براءة اختراعٍ لسلاحٍ نووي في فرنسا.

المغزى من هذه القصة هو أنَّ المُراهنة على عدم براعة العقل البشري هو رهان خاسر ومُتهور، خصوصًا عندما يكون مُستقبل جنسنا على المحك. مؤخرًا، بدأت موجة إنكارٍ بالظُّهُور داخل مجتمع الذكاء الاصطناعي ذاته، حتى إنها وصلت إلى حدِّ إنكار احتمالية إحراز أيِّ نجاحٍ فيما يتعلق بأهداف الذكاء الاصطناعي الطويلة الأمد. تخيَّل الأمر كسائقٍ يقود حافلةً وركابها هم البشرية جمعاء، ثم قال السَّائق: «سأقود بكم بأقصى سرعةٍ باتِّجاه جرفٍ صخري، ولكن ثقوا بي؛ سينفد منَّا الوقود قبل أن نصل إلى الحافة!»

أنا لا أزعُمُ بقولي هذا أنَّنا «حتمًا» سننجح في مجال الذكاء الاصطناعي، وأظنُّ أنَّ هذا النَّجاح لو حدث، فلن يكون خلال السنوات القليلة المُقبلة. ومع ذلك، فمن الحكمة والحصافة أن نستعدَّ لهذه الاحتمالية. فإن حدثت، ستكون إيذانًا بعصرٍ ذهبي للبشرية. غير أنَّنا يجب أن نعي حقيقة أنَّنا نُخطِّط لابتكار كياناتٍ تفوق البشر ذكاءً. والسؤال هنا هو: كيف نضمن ألَّا تُسيطر علينا تلك الكيانات؟

ولنأخذ فكرةً عن ضراوة النَّار التي نلعب بها، لننظُر إلى كيفية عمل خوارزميات انتقاء المحتوى في مواقع التَّواصُل الاجتماعي. إن تلك الخوارزميات ليست ذكيةً بوجهٍ خاص، ولكنَّها في موقعٍ تستطيع منه التأثير على العالم أجمع؛ فهي تتحكَّم تحكُّمًا مباشرًا في مليارات البشر. عادةً ما تُصمَّم مثل تلك الخوارزميات لزيادة «مُعدَّل النَّقْر»؛ والذي يعني احتمالية نقر المُستخدم على الأشياء المعروضة أمامه. إذن فأنت تظنُّ أنَّ الحلَّ ببساطةٍ هو أن تعرض الأشياء التي يميل المستخدمون إلى النقر عليها، أليس كذلك؟ هذا غير صحيح. الحلُّ هو أن نُغيِّر من تفضيلات المستخدمين لكي تُصبح اختياراتهم أكثر قابلية للتوقُّع. فالمُستخدم الذي اختياراته أكثر قابلية للتوقع يمكن أن تظهر له المُنتجات التي من المُحتمل أن ينقر عليها؛ ومن ثمَّ تُحقق المزيد من الأرباح. فمثلًا، الأشخاص ذوو الآراء السياسية المُتطرِّفة يتَّسمُون بأنَّ المُنتجات التي يميلون إلى النقر عليها أكثر توقُّعًا. (من المُحتمل أن تكون هناك أيضًا فئة من السِّلع التي يميل الأشخاص الذين يتمسَّكون بآراء سياسيةٍ مُعتدلةٍ إلى النقر عليها، ولكن ليس من السَّهل تخيُّل ما الذي تنطوي عليه هذه الفئة.) مثلُها كمثل أي كيانٍ منطقي، تتعلم الخوارزمية كيف تُغيِّر من حالة بيئتها — التي هي هنا تفكير المُستخدم — لكي تزيد من الأرباح التي تحصل عليها.8 وعواقب هذا الأمر تتضمَّن انتشار الفاشية من جديد وفسخ العقد الاجتماعي الذي هو الأساسُ الدَّاعمُ للأنظمة الديموقراطية حول العالم، ورُبَّما شهدنا حينها نهاية الاتحاد الأوروبي ومُنظَّمة حلْف شمال الأطلنطي. أظنُّ أنَّ هذا ليس بالأمر السيئ بالنسبة لعدة أسطُرٍ برمجيَّة، حتى ولو كان يُساعدها بعض البشر. والآن تخيل معي ما الذي قد تُحدثُه خوارزميات ذاتُ ذكاءٍ حقيقي!

(٣) ما الذي أخطأنا فيه؟

كان الشعار المُحفِّز لأرباب الذكاء الاصطناعي على مرِّ تاريخه هو «كلَّما كانت الآلات أذكى، كان ذلك أفضل.» وفي الحقيقة أنا على قناعةٍ أنَّ هذا القول قول خاطئ؛ لا لأنِّي أشعر بخوفٍ مُبهمٍ من أن الآلات ستحلُّ محلَّنا، بل أراه قولًا خاطئًا بسبب طريقة فهْمنا لماهية الذكاء.

يُعتبر الذَّكاء سببًا رئيسيًّا لما نحن عليه كبشر، ولهذا نُسمِّي أنفسنا «هومو سايبينز»؛ أو «الإنسان العاقل». وبعد ما يزيد عن ألفي عامٍ من التَّفكُّر والتأمُّل في طبيعتنا البشرية، توصَّلنا إلى توصيفٍ للذكاء يُمكن أن يُلخَّص في السَّطر التالي:

نحن البشر أذكياء ما دامت فعالنا يُتوقَّع منها أن تُحقِّق غاياتنا.

أما بقيَّة خصائص الذكاء، كالإدراك والتَّفكير والتَّعلُّم والابتكار وغيرها، فيُمكن فهمُها في ضوء مُساهماتها في قُدرتنا على التَّصرف بنجاح. ومنذ بدايات مجال الذكاء الاصطناعي، عُرِّف مفهوم الذكاء في الآلات على نفس النَّحو:

الآلات ذكية ما دامت فعالها يُتوقَّع منها أن تُحقِّق غاياتها.

ولأن الآلات، على عكس البشر، ليست لها غاياتها الخاصة، فنحن من نُودعها الغايات لتُحقِّقها. بمعنًى آخر؛ نحن نبني آلاتٍ تتوخَّى أمثل الحلول، فنُودع فيها ما نريدها أن تُحقِّقه من أهدافٍ، ثم نُطلقُها.

هذا النَّهْج العام ليس مقتصرًا على مجال الذكاء الاصطناعي وحده، بل نراه يتواتر مُتغلغلًا في أُسس مجتمعنا التقنية والرِّياضية. على سبيل المثال، في مجال نظرية التَّحكم؛ ذاك المجال الذي يُصمِّم نُظُم التَّحكُّم في كل شيءٍ حولنا، بدايةً من طائرات الركاب العملاقة إلى مضخَّات الأنسولين، تكون وظيفة النِّظام أن يُبقي على «دالة التَّكلفة» في أدنى قيمةٍ لها؛ هذه الدالة التي تقيس الانحراف عن سلوكٍ ما مرغُوب فيه. وفي مجال الاقتصاد، تُصمم السياسات والآليات لزيادة «منفعة» الأفراد و«رفاهية» الجماعات و«أرباح» الشركات.9 وفي مجال أبحاث العمليات الذي يسعى لإيجاد حلولٍ للمشاكل التصنيعية واللوجستية المُعقَّدة، يزيد الحل من «مجموعة المكافآت» المُتوقَّعة بمرور الوقت. وأخيرًا، في علم الإحصاء، تُصمم خوارزميات التَّعلُّم لتقليل قيمة «دالة خسارة» متوقعةٍ؛ تُعرِّف كُلفة الوقوع في أخطاءٍ تنبؤية.

من الجليِّ إذن أنَّ هذا الإطار العام؛ والذي سأُسمِّيه من الآن فصاعدًا «النمُوذج القياسي»، هو إطار واسع الانتشار وذو قوةٍ وفعالية. ولكن للأسف، «نحن لا نبغي آلات ذات ذكاءٍ بهذا التَّوصيف».

في عام ١٩٦٠، لفت نوربرت فينر؛ وهو أستاذ أسطوري بمعهد ماساتشوستس للتقنية وأحد أبرز علماء الرياضيات في منتصف القرن العشرين، الأنظار إلى عيوب هذا النمُوذج القياسي. كان فينر قد اطَّلع لتوِّه على لُعبة الدَّامة التي صمَّمها آرثر صامويل والتي طوَّرت من نفسها حتى فاقت صانعها في المُستوى، فقادته هذه التَّجربة إلى كتابة بحثٍ ذي نظرةٍ مُستقبلية مُستبصرة لكنَّه مع ذلك غير مشهور، تحت عنوان: «بعض العواقب الأخلاقية والتقنية للأتمتة.»10 وها هي الكيفية التي صاغ بها فكرة البحث الأساسية:

إذا استعملنا، لبُلُوغ الغايات التي ننشُدُها، وسيطًا آليًّا وكُنا لا نستطيع أن نتدخَّل تدخُّلًا كبيرًا في سير عمليَّاته … فجدير بنا أن نتأكَّد أن الغاية التي جعلنا الآلة تسعى لتحقيقها هي الغاية التي نُريد بلوغها حقًّا.

«الغاية التي جعلنا الآلة تسعى لتحقيقها» هي بالضبط الهدف الذي تسعى الآلات لتحقيقه على نحوٍ أمثل في إطار النمُوذج القياسي. ولو وضعنا هدفًا خاطئًا غير الذي نُريده في آلةٍ ذات ذكاءٍ يفوق ذكاءنا البشري، فبلا شكٍّ ستُحقِّقُ ذاك الهدف الخاطئ، وحينها نكون قد خسرنا. وما ذلك التَّصوُّر الكارثي المذكور آنفًا والذي قد تتسبَّبُ فيه مواقع التَّواصل الاجتماعي إلا دلالة مُنذرة لما قد نجنيه إذا ما وظَّفنا الهدف الخاطئ على نطاقٍ عالمي باستعمال خوارزميات غير ذكية إلى حدٍّ كبير. في الفصل الخامس، سأفصح لكم عن بعض النتائج الأسوأ والأكثر كارثية.

ما قُلتُه يجب ألَّا يُثير دهشتكم مُطلقًا؛ فعلى مدار آلاف السنين ونحن نعلم علم اليقين المخاطر التي تُحيطُ بنا حين نحقق غاية آمالنا بالكامل. وفي كل قصةٍ من القصص التي يُعطى فيها أحد الأشخاص ثلاث أمنياتٍ، دائمًا ما تُبطل الأمنية الثالثة آثار الأمنيتين السَّابقتين عليها.

باختصار، يبدو أنَّ محاولات خلق ذكاء خارق للآلات لا يُمكن إيقافُها، غير أنَّ النَّجاح في تحقيق هذا المأرب قد يكون سبب هلاك الجنس البشري. لكن الوقت لم يتأخَّر بعد. لذلك علينا أن نعرف ما الذي أخطأنا فيه وأن نسْعى لإصلاحه.

(٤) هل يُمكننا إصلاح الأمر؟

يكمُن لُبُّ المشكلة في التَّعريف الأساسي لماهية الذكاء الاصطناعي. فنحن نقول إن الآلات ذكية ما دامت فعالها يُتوقَّع منها أن تُحقِّق «غاياتها»، ومع ذلك فنحن لا نملك أسلوبًا فعَّالًا وجديرًا بالثِّقة لنضمن من خلاله أنَّ «غاياتها» هي نفسها «غاياتنا».

ماذا لو، بدلًا من أن نُصمِّم الآلات لتحقيق «غاياتها»، نُصرُّ بإلحاحٍ على أن تُصمَّم لتحقيق «غاياتنا»؟ ستكون مثل هذه الآلات، إن استطعنا تصميمها، آلاتٍ «ذكية» و«نافعة» للبشر في الوقت ذاته. فلنُحاول إذن أن نصُوغ التَّعريف كما يلي:

تكون الآلات «نافعةً» ما دامت «فعالها» يُتوقَّع منها أن تُحقِّق «غاياتنا».

رُبَّما كان هذا هو ما كان يجبُ علينا فعله منذ البداية.

أصعب جُزءٍ بلا ريبٍ هو أنَّ غاياتنا موجودة بداخلنا — أي داخل كلِّ فردٍ من الثَّمانية مليار بشريٍّ بكل ما حُبينا به من تنوُّعٍ واختلافٍ عظيمين — وليس بداخل الآلات. وبالرغم من ذلك، يُمكنُنا أن نبني آلاتٍ نافعة بنفس هذا المعنى. إن هذه الآلات ستكون غير مُتيقنة من ماهية غاياتنا — ولكنَّنا في النِّهاية أيضًا على نفس الحال — لكن هذه ميزة لا عيب (أي إنها شيء حسن لا شيء سيِّئ). فعدم اليقين بشأن الغايات يضمنُ أن تظلَّ الآلات بالضرورة مُذعنةً للبشر؛ فلسوف تطلُبُ الإذن، وتتقبَّلُ التَّصحيح، وتستسلم لأوامر إيقاف تشغيلها.

إذا استبعدنا افتراض أنَّ الآلات يجب أن تُلقَّم بغاياتٍ وأهدافٍ مُحدَّدة، حينها سنُضطر إلى هدم جُزءٍ من أسس الذكاء الاصطناعي ثمَّ استبداله؛ وهذا الجزء هو المفاهيم الأساسية لما نُحاول الوصول إليه في هذا المجال. كما يعني هذا أيضًا أن نُعيد بناء جُزءٍ كبيرٍ من البنْية الفوقيَّة؛ وهي تلك الأفكار والأساليب المُتراكمة التي تُشكِّل أساس الذكاء الاصطناعي الحالي. سينتُج عن ذلك علاقة جديدة بين البشر والآلات؛ تلك العلاقة التي أرجو أن تُمكِّننا من اجتياز العُقُود القليلة القادمة بنجاح.

جميع الحقوق محفوظة لمؤسسة هنداوي © ٢٠٢٢