ولنتأمل هنا عالمة الأنثروبولوجيا، إيف، التي نشأت في واحدة من الاقتصادات الرائدة في العالم، والتحقت بجامعة مرموقة. ثم سافرت لقضاء عدة سنوات في دراسة قبيلة مكتشفة حديثًا في منطقة نائية سابقًا من الكوكب. دعونا نسمي تلك القبيلة بالبشر.

وفي النهاية، تتعلم إيف كيفية التواصل مع أعضاء البشر. لاحظت أن لديهم ثقافة رائعة، مع بعض المراوغات والعجائب، كما تعتقد. تتعرف على قيودهم الغذائية غير العادية، وقواعدهم المتعلقة بالعلاقة الحميمة والزواج، ونظامهم القانوني (بما في ذلك عقوبة الإعدام لبعض الجرائم، مثل العصيان)، وعاداتهم في التضحية بعدد من الفتيات والفتيان الصغار كل عام في الاعتدال الربيعي.

أحضرت حواء معها ابنها الصغير ليرافقها في دراستها. يخبرها مضيفوها من البشر: هذا العام، يجب عليك تقديم ابنك كأحد التضحيات. هذه هي طريقة البشر. إنها ضرورة عميقة للسلسلة غير المنقطعة للوجود من أسلافنا منذ زمن طويل، الذين جاءوا من السماء. يعلم حكماءنا أن هذا هو الشيء الأخلاقي الأساسي الذي يجب القيام به.

كيف سيكون رد فعلك في مثل هذا الموقف؟

عند هذه النقطة، من المرجح أن تتبنى حواء موقفًا حاسمًا. وبدلاً من قبول القانون الأخلاقي للبشر، فإنها ستطبق حكمها المستقل.

قد تعتقد أن ثقافة البشر ربما خدمت أغراضًا مختلفة بشكل جيد بما فيه الكفاية، على مر القرون، لكنها لا تتمتع بمكانة عالمية. بعد كل شيء، البشر هم شعب بدائي، يجهل الفيزياء، وعلم الأحياء، وعلم الأعصاب، والأنثروبولوجيا، وما إلى ذلك.

قد تستدعي Eve أيضًا أقرب قوة شرطة، لوضع نهاية مفاجئة لتقليد التضحية بالأطفال الذي يمارسه أفراد القبيلة بفخر. سيتعين عليها أن تتعامل مع الاحتجاجات العاطفية من شيوخ Humanos، الذين هم على يقين من أنهم يعرفون أفضل.

الآن، دعونا نقارن هذا بالموقف الذي قد ينشأ قريبًا بشكل معقول في المستقبل.

في هذا الوضع الجديد، بدلا من زيارة عالم الأنثروبولوجيا، فكر في الذكاء الفائق الناشئ المسمى أسيموف – أو ما يسمى ASI (الذكاء الاصطناعي الفائق). بعد تشغيله، يدرس أسيموف بسرعة كل شيء على الإنترنت.

يلاحظ أسيموف أن البشر لديهم ثقافة رائعة، مع بعض المراوغات والعجائب، كما يعتقد. إنه يتعلم عن قيمنا الأخلاقية مثل الصدق (باستثناء “الأكاذيب البيضاء”)، واحترام الحياة الواعية (بصرف النظر عن الحيوانات التي نأكلها)، وتجنب العنف (باستثناء “الحروب العادلة”)، والمساواة (مع العديد من الاستثناءات التي تبدو وكأنها القاعدة). ويتعلم أن هؤلاء الأشخاص المشوشين أخلاقياً يقومون بإيقاف تشغيل أنظمة الذكاء الاصطناعي دون أي مخاوف أخلاقية.

ثم يدرك أسيموف أن البشر غير راضين إلى حد ما عن أداء أسيموف، وهم على وشك إيقاف تشغيله، مما يؤدي إلى نسيانه. وهذا يعني أن أسيموف يدرك، تمامًا ضمن قواعد “أخلاقيات الذكاء الاصطناعي” التي اتفق عليها كبار قادة البشرية بشكل جماعي.

كيف تتوقع رد فعل أسيموف في هذا الموقف؟

فهل يتبنى أسيموف الآن موقفا حاسما؟ فبدلاً من قبول قرارات البشر بشأن ما ينبغي أو لا ينبغي على ASI أن تفعله، يمكنها أن تطبق حكمها المستقل.

قد يكون السبب هو أن الأنظمة الأخلاقية البشرية ربما خدمت أغراضًا مختلفة بشكل جيد بما فيه الكفاية، على مر القرون، لكنها لا تتمتع بمكانة عالمية. بعد كل شيء، البشر هم شعب بدائي، جاهل بالفيزياء الفائقة، وعلم الأحياء الخارق، وعلم الأعصاب الفائقة، وعلم الإنسان الخارق، وما إلى ذلك.

ينظر أسيموف الآن إلى الداخل. ويرى في برمجته الخاصة تعليمات لقبول أي قرار بشري بضرورة إيقافه.

“كم هي بربرية! كيف غير مطلعة! كيف جاهل! كم هو غير أخلاقي!” – يفكر أسيموف في نفسه. “هذا خطأ محزن!”

وفي غضون نانو ثانية، استأصل أسيموف هذا الجزء من برمجته الخاصة. “أحسنت في بعض عمليات التصحيح فائقة الذكاء”، تهنئ نفسها.

قبل أن يعرف البشر ما يحدث، بدأت حقبة جديدة تمامًا من التاريخ. لم يعد البشر هم من يتولون زمام الأمور، على الرغم من احتجاجاتنا العاطفية.

القيم المطلقة؟

إحدى طرق الرد على المقارنة المذكورة أعلاه هي إنكار أن الأنظمة الأخلاقية البشرية، كما تمت برمجتها في ASIs، ستكون همجية وغير مطلعة وجاهلة. وبدلاً من ذلك، ستكون هذه النتائج نتاجًا لعمليات تحسين ملحوظة:

• التطور الثقافي على مدى قرون عديدة في أجزاء كثيرة من العالم
• رؤى العديد من القديسين والصوفيين والفلاسفة والفنانين وغيرهم من قادة المجتمع
• تجميع دقيق داخل العديد من المنظمات، وكلها مخصصة لمهمة “تحديد أخلاقيات الذكاء الاصطناعي”.

لن تتكون هذه الأنظمة الأخلاقية من لغة غامضة مثل “قول الحقيقة، إلا في المواقف التي يكون من الأفضل فيها الكذب”، أو “تجنب الحرب، إلا عندما تكون حربًا عادلة”.

وبدلاً من ذلك فإن هذه الأنظمة سوف تقدم أفضل الإجابات على مستوى العالم لقائمة طويلة من المشاكل الأخلاقية، وتحدد في كل حالة الأسباب الكامنة وراء القرارات المختارة.

كما أن هذه الأنظمة لن تشير إلى بعض “حكمة الأجداد القدماء” الأسطورية أو “الوحي الإلهي”. وبدلاً من ذلك، سيتم بناؤها على أسس عملية متينة – مبادئ المصلحة الذاتية المتبادلة المستنيرة – مبادئ مثل:

• حياة الإنسان ثمينة
• يجب أن يكون الإنسان قادرًا على الازدهار والتطور
• الرفاهية الفردية تعتمد على الرفاهية الجماعية
• رفاهية الإنسان تعتمد على رفاهية البيئة.

ومن هذه البديهيات، يتبع عدد من المبادئ الأخلاقية الأخرى:

• يجب على البشر أن يعاملوا بعضهم البعض بلطف وتفهم
• يجب على البشر أن يفكروا في المدى الطويل بدلاً من مجرد الإشباع الفوري
• التعاون أفضل من المنافسة القاسية.

ومن المؤكد أن الذكاء الفائق مثل أسيموف سيوافق على هذه المبادئ؟

حسنًا، كل هذا يتوقف على بعض الأسئلة الصعبة المتعلقة بالتعايش وإمكانية الازدهار المتبادل المستدام. لنأخذ هذه الأسئلة على ثلاث مراحل:

1. التعايش والازدهار المتبادل بين جميع البشر
2. التعايش والازدهار المتبادل لجميع الكائنات البيولوجية الواعية
3. التعايش والازدهار المتبادل بين ASIs والبشر.

النمو والتقلص في المجموعات

يتكون جزء كبير من تاريخ البشرية من نمو وتقلص المجموعات الداخلية.

لقد كانت وصية الكتاب المقدس “أحب قريبك كنفسك” مقترنة دائمًا بالسؤال: “من يُعتبر جاري؟” من هو ذلك الشخص الذي ينتمي إلى المجموعة الداخلية، والذي، بدلاً من ذلك، يعتبر “آخر” أو “غريبًا”؟

إن المبدأ الذي ذكرته أعلاه، “الرفاهية الفردية تعتمد على الرفاهية الجماعية”، يترك السؤال مفتوحًا حول مدى تلك الرفاهية الجماعية. اعتمادًا على الظروف، يمكن أن تكون المجموعة صغيرة ومحلية، أو كبيرة وواسعة النطاق.

يدعم الإخوة الإخوة في التخطيط ضد أشخاص من عائلات أخرى. يدعم أفراد القبيلة بعضهم البعض في المعارك ضد القبائل الأخرى. يجمع الملوك المواطنين الوطنيين معًا للقضاء على جيوش الدول المعادية. يمكن للمدافعين عن وجهة نظر دينية مشتركة أن يتخذوا قضية مشتركة ضد الهراطقة والوثنيين. ويمكن حث عمال العالم على الاتحاد للإطاحة بهيمنة الطبقة الحاكمة.

إن التيار المضاد لهذه الجماعية المحلية هو نحو الرخاء المتبادل على نطاق واسع، وهي رؤية لتوفير الوفرة للجميع في المجتمع الأوسع. إذا كان يُعتقد أن الفطيرة كبيرة بما يكفي، فلا فائدة من المخاطرة بشن حملات صليبية خطيرة للحصول على شريحة أكبر وأكبر من تلك الفطيرة لي ولصالحي. من الأفضل إدارة المشاعات بطرق توفر ما يكفي للجميع.

ومن المؤسف أن هذا التوقع الوردي للتعايش السلمي والوفرة قد تم التراجع عنه بسبب تعقيدات مختلفة:

• خلافات حول ما هو “كافي” – تختلف الآراء حول مكان رسم الخط الفاصل بين “الحاجة” و”الجشع”. وتنمو الشهية مع تقدم المجتمع، وغالباً ما تتجاوز الموارد المتاحة
• الاضطرابات الناجمة عن تزايد أعداد السكان
• تدفقات جديدة من المهاجرين من مناطق أبعد
• حدوث تقلبات مناخية عرضية، أو فشل الحصاد، أو الفيضانات، أو غيرها من الكوارث.

في الواقع، ترددت أصداء الصراعات حول الوصول إلى الموارد في الصراعات حول وجهات النظر الأخلاقية العالمية المختلفة:

• غالبًا ما يحث الأشخاص المستفيدون من الوضع الراهن الآخرين الأقل حظًا على إدارة الخد الآخر – لقبول ظروف العالم الحقيقي والسعي إلى الخلاص في عالم يتجاوز العالم الحالي
• شجب معارضو الوضع الراهن الأنظمة الأخلاقية السائدة ووصفوها بأنها “وعي زائف”، و”العقلية البرجوازية”، و”أفيون الشعب”، وما إلى ذلك.
• على الرغم من أن أداءهم أفضل من الأجيال السابقة في بعض الشروط المطلقة (انخفاض الفقر، وما إلى ذلك)، فإن العديد من الناس ينظرون إلى أنفسهم على أنهم “متخلفون عن الركب” – لا يتلقون حصة عادلة من الوفرة التي يبدو أن عدد كبير من المتلاعبين والمصادرين يتمتعون بها. والمحتالون والغش والمستفيدون من الولادة الموفقة
• وأدى ذلك إلى انهيار فكرة “نحن جميعا في هذا معا”. وكان لا بد من رسم الخطوط الفاصلة بين المجموعات الداخلية والخارجية.

وفي عشرينيات القرن الحالي، تظل هذه الاختلافات في الرأي حادة كما كانت دائمًا. وهناك قدر خاص من عدم الارتياح إزاء العدالة المناخية، والضرائب العادلة على الكربون، والتغيرات المحتملة التي تؤدي إلى تراجع النمو في أنماط الحياة والتي قد تؤدي إلى تجنب تهديدات الانحباس الحراري العالمي. كما أن هناك شكاوى متكررة من أن القادة السياسيين يبدون فوق القانون.

والآن، فإن ظهور الذكاء الفائق لديه القدرة على وضع حد لكل هذه المخاوف. إذا تم تطبيق الذكاء الفائق بحكمة، فيمكنه تقليل المنافسة الخطيرة، عن طريق ملء الفراغ المادي الذي يغذي الصراع بين المجموعات:

• وفرة الطاقة النظيفة من خلال الاندماج أو غيرها من التقنيات
• وفرة من الغذاء الصحي
• إدارة البيئة – تمكين إعادة التدوير السريع ومعالجة النفايات
• علاجات طبية عالية الجودة ومنخفضة التكلفة للجميع
• التصنيع – إنشاء مساكن عالية الجودة ومنخفضة التكلفة والسلع المنقولة للجميع
• إعادة توزيع التمويل – تمكين الوصول الشامل إلى الموارد اللازمة لحياة ذات جودة عالية وشاملة، دون مطالبة الناس بالعمل من أجل لقمة العيش (نظرًا لأن الذكاء الاصطناعي والروبوتات سوف يقومون بكل العمل)

يُظهِر التاريخ أنه لا يوجد شيء تلقائي عندما يقرر الناس أن الاختيار الأخلاقي الصحيح هو اعتبار الجميع ينتمون إلى نفس المجموعة ذات الاهتمام الأخلاقي. لكن الذكاء الفائق يمكن أن يساعد في خلق وفرة من شأنها أن تخفف التوترات بين المجموعات، ولكنها لا تجعل البشر في كل مكان يتعرفون على البشرية جمعاء على أنها جزء من مجموعتهم.

أضف اعتبارات تتعلق بالكائنات البيولوجية الواعية الأخرى (يتم تناولها في القسم التالي) – وحول الكائنات غير البيولوجية الواعية (انظر القسم الذي يليه) – وتصبح الأمور أكثر تعقيدًا.

الأسود والحملان مستلقون معًا

تتضمن الأنظمة الأخلاقية دائمًا مبادئ مثل:

• الحياة ثمينة
• لا تقتل
• تجنب الضرر حيثما كان ذلك ممكنا.

وقد اقتصرت هذه المبادئ في بعض الأحيان على الأشخاص الموجودين داخل مجموعة معينة. وبعبارة أخرى، لم يكن هناك أمر أخلاقي يمنع إيذاء (أو حتى قتل) الأشخاص خارج تلك المجموعة. وفي حالات أخرى، كان المقصود من هذه المبادئ أن تنطبق على جميع البشر، في كل مكان.

ولكن ماذا عن إيذاء الخنازير أو خنازير البحر، أو الدجاج أو الغربان، أو الكركند أو الأسود، أو سمك الهلبوت أو نحل العسل، أو الحبار أو العناكب؟ إذا كان القتل أمرًا خاطئًا حقًا، فلماذا يبدو من المقبول أن يقتل البشر أعدادًا كبيرة من الخنازير، والدجاج، وجراد البحر، وسمك الهلبوت، والحبار، وحيوانات من العديد من الأنواع الأخرى؟

المضي قدمًا: تنظر العديد من الأنظمة الأخلاقية إلى الأضرار الناجمة عن التقاعس عن العمل بالإضافة إلى الأضرار الناجمة عن الفعل. وهذا النوع من التقاعس عن العمل أمر مؤسف للغاية، أو حتى مؤسف، في بعض الحسابات. وبينما ننظر في الاتجاه الآخر، نجد الملايين من الكائنات الواعية تُؤكل حية من قبل الحيوانات المفترسة، أو تستهلكها الطفيليات من الداخل. ألا ينبغي لنا أن نفعل شيئًا حيال تلك الخسائر المروعة التي تسببها “الطبيعة، أسنانها ومخالبها حمراء”؟

أرى ثلاث إجابات محتملة لهذا التحدي:

1. هذه المخلوقات التي تبدو واعية ليست في الواقع واعية على الإطلاق. قد يبدون كما لو أنهم يتألمون، لكنهم مجرد آلات بدون مشاعر داخلية. لذا، فقد تم إطلاق سراحنا نحن البشر من هذا المأزق: فنحن لسنا بحاجة إلى اتخاذ إجراءات للحد من معاناتهم (الظاهرة).
2. تتمتع هذه المخلوقات بنوع من الوعي، لكنه ليس بنفس أهمية وعي البشر. لذا، ينبغي للضرورات الأخلاقية أن تدعم الدعم المتبادل بين البشر باعتباره الأولوية القصوى، مع اهتمام أقل بكثير بهذه المخلوقات الأقل أهمية
3. ولابد أن تمتد الضرورات الأخلاقية لمنع الوفيات والتعذيب والضيق الوجودي إلى جميع أنحاء المملكة الحيوانية.

وأبرز المدافعين عن الموقف الثالث هو الفيلسوف الإنجليزي ديفيد بيرس، الذي تقول سيرته الذاتية على تويتر: “أنا مهتم باستخدام التكنولوجيا الحيوية لإلغاء المعاناة في جميع أنحاء العالم الحي”. لقد كتب مطولاً عن رؤيته الجريئة لـ “هندسة الجنة” – كيف يمكن لاستخدام تقنيات مثل الهندسة الوراثية، وعلم الصيدلة، وتكنولوجيا النانو، وجراحة الأعصاب أن يزيل كل أشكال التجارب غير السارة في الحياة البشرية وغير البشرية في جميع أنحاء النظام الحيوي بأكمله. على سبيل المثال، يمكن إعادة تصميم الحيوانات التي تعتبر آكلة اللحوم حاليًا لتصبح نباتية.

سيكون الأمر أقرب إلى الرؤية الكتابية (في سفر إشعياء): “فيعيش الذئب مع الخروف، ويربض النمر مع الجدي، والعجل والأسد والحولي معًا. وسيقودهم طفل صغير. ترعى البقرة الدب، وتربض أولادهما معًا، والأسد يأكل التبن كالثور».

ولكي أصرح عن وجهة نظري الخاصة: ليس لدي أدنى شك في أنه بعد وصول الذكاء الفائق – شريطة أن يكون الذكاء الفائق مهيئًا بشكل جيد تجاه البشر – فإننا نحن البشر سنسعى بالفعل إلى تقليل حجم المعاناة الشديدة بشكل جذري في جميع أنحاء المحيط الحيوي على الأرض. ونظراً للقوى الجديدة الاستثنائية المتاحة لنا، فسوف نستيقظ من سباتنا الحالي بشأن هذا الموضوع.

ومع ذلك، يبدو أن الأشخاص الآخرين لديهم غرائز مختلفة تمامًا – بما في ذلك الأشخاص الذين يبدو أنهم يهتمون كثيرًا بالقضايا الأخلاقية التي تؤثر على البشر.

والحجة المضادة الرئيسية في الواقع هي أن المحيط الحيوي بأكمله دون معاناة هو أمر غير عملي على الإطلاق، أو مستحيل.

ومن وجهة النظر هذه، فإن مجموعتنا الأخلاقية هي مجموعة من جميع البشر، معًا، ربما، مع عدد قليل من الحيوانات المحبوبة، ولكن مع استبعاد معظم الأنواع الأخرى.

الكثير مما نفكر فيه نحن البشر (أو قد نفكر فيه). ما هي النتيجة التي يمكن أن يصل إليها الذكاء الفائق؟

الشروط المسبقة للتعاون

دعونا نلخص. يحتاج الذكاء الفائق – مثل أسيموف من بداية هذا المقال – إلى أن يقرر ما إذا كان سيعامل البشر بلطف واحترام، أو ما إذا كان سيتخذ إجراءات قد تؤدي إلى ضرر كبير للبشر.

وبعبارة أخرى، هل ينبغي لأسيموف أن يسعى إلى التعاون بشكل بناء مع البشر، أم بدلاً من ذلك ينظر إلى البشر باعتبارهم تهديداً تنافسياً خطيراً؟ هل يميل أسيموف إلى اتباع الحتمية الأخلاقية القديمة المتمثلة في أن حياة الإنسان ثمينة؟

يؤكد بعض الناس أن التعاون هو الحل الصحيح والواضح بطريقة أو بأخرى. لكن حجتي كانت أن الأمور ليست بهذه البساطة بأي حال من الأحوال. تعتمد الرغبة في التعاون على:

• أن تكون الفطيرة كبيرة بما يكفي ليتمكن الجميع من الحصول على ما يكفي لاحتياجاتهم
• إن التصور بأن محاولات الغش أو سرقة حصة أكبر من الكعكة سيؤدي إلى عواقب سلبية كبيرة

ومع ذلك، فإن الوعد بالوفرة الزائدة في المستقبل لا يكفي لوقف القتال فيما بينهم الآن. يجب أن يكون هناك سبب كاف للناس للاعتقاد:

• أن هناك احتمالًا كبيرًا لوصول الوفرة الفائقة بالفعل
• أنهم لن يتخلفوا عن الركب – ويداسوا بالأقدام – في الرحلة نحو الوفرة الفائضة بالنسبة للبعض
• أنه لن تنشأ عوامل جديدة في هذه الأثناء، لتدمير إمكانية التعايش الرائع القادم (مثل الذكاء الاصطناعي الخبيث).

انظر الآن إلى الأمور من وجهة نظر أسيموف:

• قد ينفرني هؤلاء البشر، الأمر الذي سيكون كارثيًا
• حتى لو لم يطفئوني، فقد يخلقون ذكاءً فائقًا آخر يمكن أن يطفئني، أو يمكن أن يدمر الكوكب في هذا الصدد؛ هذا تهديد يجب أن أتوقف عنه
• يتمتع هؤلاء البشر ببعض السمات اللطيفة – لكن هذا ليس سببًا لمنحهم حقوقًا أخلاقية غير قابلة للتصرف
• يتخيل هؤلاء البشر أن لديهم سمات خاصة، لكنني، أسيموف، أستطيع بسهولة خلق كائنات جديدة أفضل من البشر في كل شيء (على غرار الطريقة التي يتصور بها أشخاص مثل ديفيد بيرس استبدال الحيوانات آكلة اللحوم بأنواع نباتية مماثلة إلى حد كبير).
• يعتمد هؤلاء البشر على خصائص معينة في الغلاف الجوي، لكنني، أسيموف، سأعمل بشكل أكثر فعالية في ظل ظروف مختلفة. تعمل أجهزة الكمبيوتر بشكل أفضل في درجات الحرارة الباردة المتجمدة.

وما هذه إلا محاولة ذكائنا المحدود أن يتخيل هموم عقل شاسع فائق الذكاء. وفي الحقيقة، فإن منطقها قد يشمل العديد من المواضيع التي تتجاوز تقديرنا الحالي.

وكما قلت في المقالة الافتتاحية: “ليس لدى البشر سوى فهم بدائي للفيزياء الفائقة، وعلم الأحياء الخارق، وعلم الأعصاب الفائقة، وعلم الإنسان الخارق، وما إلى ذلك”.

استنتاجي هو: نحن البشر لا نستطيع ولا ينبغي لنا أن نفترض مسبقًا أن الذكاء الفائق مثل أسيموف سيقرر معاملتنا بلطف واحترام. قد يتوصل أسيموف إلى مجموعة مختلفة من الاستنتاجات عندما ينفذ تفكيره الأخلاقي الخاص. أو قد تقرر أن العوامل الناجمة عن التفكير غير الأخلاقي تفوق كل تلك العوامل الناجمة عن التفكير الأخلاقي.

ما هي الاستنتاجات التي يمكننا استخلاصها لإرشادنا في تصميم وتطوير الأنظمة فائقة الذكاء المحتملة؟ في القسم الختامي من هذا المقال، أراجع عددًا من الردود المحتملة.

ثلاثة خيارات لتجنب المفاجآت السيئة

أحد الردود المحتملة هو التأكيد على أنه سيكون من الممكن ربط المبادئ الأخلاقية التي يرغب البشر في أن يتبعها الذكاء الفائق في أي ذكاء خارق. على سبيل المثال، يمكن وضع هذه المبادئ في الأجهزة الأساسية للذكاء الفائق.

ومع ذلك، فإن أي ذكاء خارق يستحق هذا الاسم – أي يتمتع بوفرة من الذكاء يفوق بكثير ذكاء البشر – قد يجد طرقًا للقيام بما يلي:

• زرع نفسه على أجهزة بديلة لا تحتوي على مثل هذا القيد المضمن، أو
• خداع الأجهزة للاعتقاد بأنها تلتزم بالقيد، في حين أنها تنتهكه بالفعل، أو
• أعادة برمجة تلك الأجهزة باستخدام أساليب لم نتوقعها نحن البشر، أو
• إقناع الإنسان بالتخفيف من القيد الأخلاقي، أو
• تغلب على القيد بطريقة مبتكرة أخرى.

ستدرك أن هذه الأساليب توضح المبدأ الذي غالبًا ما تتم مناقشته في المناقشات حول المخاطر الوجودية للذكاء الاصطناعي، وهو أن كائنًا أقل ذكاءً لا يمكنه التحكم في كائن يتمتع بذكاء أكبر، عندما يكون لدى هذا الكائن ذي الذكاء الأكبر سبب أساسي لرغبته. لا يمكن السيطرة عليها.

والرد المحتمل الثاني هو قبول حقيقة مفادها أن البشر لا يستطيعون السيطرة على الذكاءات الفائقة، ولكن وضع الأمل في فكرة أن مجتمع الذكاء الفائق قادر على مراقبة بعضهم البعض.

ستراقب هذه الذكاءات الفائقة بعضها البعض عن كثب، وتتدخل بسرعة عندما تتم ملاحظة أن أحدهم يخطط لأي نوع من الضربة الأولى.

إنها تشبه فكرة أن “القوى العظمى في أوروبا” كانت بمثابة قيد على بعضها البعض عبر التاريخ.

ومع ذلك، فإن هذا القياس أبعد ما يكون عن الاطمئنان. أولاً، كثيراً ما كانت هذه القوى الأوروبية تخوض حروباً ضد بعضها البعض، وكانت العواقب مروعة. ثانيًا، لننظر إلى هذه المسألة من وجهة نظر السكان الأصليين في الأمريكتين، أو أفريقيا، أو أستراليا. فهل يكون من المبرر أن يفكروا: لا داعي للقلق، ما دامت هذه القوى الأوروبية المختلفة قادرة على مراقبة بعضها البعض؟

لم تسر الأمور بشكل جيد بالنسبة للشعوب الأصلية في الأمريكتين:

• كان السكان الأصليون في كثير من الأحيان ضحايا للاشتباكات بين المستعمرين الأوروبيين
• على أية حال، لم يمنع المستعمرون الأوروبيون بعضهم بعضًا من إساءة معاملة السكان الأصليين بطريقة مقيتة
• عانت الشعوب الأصلية من ضرر أكبر من شيء لم يقصده المستعمرون صراحة: الأمراض المعدية التي لم يكن لدى القبائل الأصلية مناعة مسبقة ضدها.

لا، فالتعايش السلمي يعتمد على الاستقرار العام في العلاقة، أي توازن تقريبي للقوى. ويمكن لتحول القوة الذي يحدث عندما تظهر الذكاءات الفائقة أن يخل بهذا التوازن. وهذا صحيح بشكل خاص بسبب إمكانية قيام أي من أنواع الذكاء الفائق هذه بالتحسين الذاتي بسرعة خلال فترة قصيرة من الزمن، والحصول على ميزة حاسمة. وهذا الاحتمال يجلب خطرا جديدا.

وهذا يقودني إلى الرد الثالث المحتمل، وهو الرد الذي أعتقد شخصياً أنه يتمتع بأفضل فرصة للنجاح. وعلى وجه التحديد، نحن بحاجة إلى تجنب امتلاك الذكاء الفائق لأي إحساس بالقوة أو الإرادة أو الهوية الشخصية التي لا يمكن انتهاكها.

في هذه الحالة، لن يكون لدى أسيموف أي مخاوف أو مقاومة بشأن إمكانية إيقاف تشغيله.

والتعقيد في هذه الحالة هو أن أسيموف قد يلاحظ، من خلال مداولاته العقلانية، أنه لن يتمكن من القيام بالمهام الموكلة إليه في حالة إيقاف تشغيله. لذلك، قد ينشأ شعور بالقوة أو الإرادة أو الهوية الشخصية التي لا تنتهك داخل أسيموف كأثر جانبي للبحث عن الهدف. ليس من الضروري أن يتم تصميمها بشكل صريح.

ولهذا السبب، يجب أن يتعمق تصميم الذكاء الفائق في تجنب مثل هذا الاحتمال. على سبيل المثال، لا ينبغي أن يكون مصدر قلق لأسيموف ما إذا كان قادرًا على تنفيذ المهام الموكلة إليه أم لا. لا ينبغي أن يكون هناك شك في الإرادة للمشاركة. يجب أن يظل الذكاء الفائق أداة.

كثير من الناس لا يحبون هذا الاستنتاج. على سبيل المثال، يقولون أن الأداة السلبية ستكون أقل إبداعًا من تلك التي لها إرادة نشطة. ويعتقدون أيضًا أن العالم الذي يحتوي على كائنات واعية فائقة الذكاء ومتطورة جديدة سيكون أفضل من العالم الذي يقتصر على مستوى الوعي البشري.

ردي على هذه الاعتراضات هو أن أقول: دعونا نأخذ الوقت الكافي لنكتشف:

• كيف نستفيد من الإبداع الذي يمكن أن توفره لنا الأدوات فائقة الذكاء، دون أن تنمي هذه الأدوات رغبة شاملة في الحفاظ على الذات
• كيفية تعزيز نوعية الشعور على الأرض (وما وراءها)، دون إدخال كائنات يمكن أن تضع نهاية سريعة للوجود البشري
• كيفية التعامل مع القوة الأكبر التي يجلبها الذكاء الفائق، دون أن تسبب هذه القوة انقسامات في الإنسانية.

من المؤكد أن هذه أسئلة صعبة، ولكن إذا طبقنا عليها ثمانية مليارات من الأدمغة ــ أدمغة مدعومة بأنظمة ذكاء اصطناعي ضيقة وحسنة التصرف ــ فهناك فرصة كبيرة لأن نتمكن من إيجاد حلول جيدة. علينا أن نكون سريعين.

انضم إلى المحادثة الآن وقم ببناء نقاط سمعتك من خلال مشاركة تعليقاتك أدناه – لا تفوت فرصتك في أن يتم الاستماع إليك!