بواسطة:  كاثلين مايلز
ترجمة: رمضان مصباح

يقول أستاذ فلسفة  نيك بوستروم ،في جامعة أكسفورد، والذي درس التهديدات الوجودية التي تتراوح بين الحرب النووية و الجراثيم الخارقة:
إن الخطر الأكبر على الإطلاق قد يكون الذكاء الفائق.
الذكاء الفائق هو أي عقل يتفوق على العقل البشري في أي مجال، ويعتقد نيك بوستروم أن الشكل الأكثر احتمالا لهذا الذكاء سيكون: آلة الذكاء الاصطناعي.
ويرى بوستروم أن الذكاء الاصطناعي قد يسلك طريقين:
الأول :أنه قد يُحسن حياتنا إلى حد كبير ويحل مشاكل العالم؛ مثل المرض والجوع وحتى الألم.
والثاني: قد يسيطر على البشر وربما يقتلهم جميعا أو العديد منهم.
ووفقا لبوستروم، الذي يتمتع بخلفية في الفيزياء، وعلم الأعصاب الحاسوبي ،والمنطق الرياضي، فإن السيناريو الكارثي هو الأكثر احتمالا.
« لقد أخبرني بوستروم أن الذكاء الخارق قد يصبح قوياً للغاية ،وقد يكون قادراً على تشكيل المستقبل وفقاً لتفضيلاته. وإذا كانت البشرية عاقلة ،وتستطيع أن تشتغل معاً على المستوى العالمي، فإن المسار المعقول للعمل سوف يتلخص في تأجيل تطوير الذكاء الخارق إلى أن نتوصل إلى كيفية القيام بذلك بأمان ».
ويعرض بوستروم، المدير المؤسس لمعهد مستقبل البشرية في جامعة أكسفورد، مخاوفه في كتابه الجديد « : الذكاء الفائق: المسارات والمخاطر والاستراتيجيات » .
يعقد في هذا الكتاب مقارنة مروعة بين مصير الخيول ومصير البشر:
في البداية، تم استكمال استخدام الخيول بالعربات والمحاريث، مما أدى إلى زيادة إنتاجية الخيول بشكل كبير. وفي وقت لاحق، تم استبدال الخيول بالسيارات والجرارات.
وعندما أصبحت الخيول قديمة ،كمصدر للعمالة، تم بيع العديد منها إلى مصانع تعبئة اللحوم لمعالجتها وتحويلها إلى طعام للكلاب ،ووجبة عظام وجلود وغراء.
في الولايات المتحدة، كان هناك حوالي 26 مليون حصان في عام 1915. وبحلول أوائل الخمسينيات بقي 2 مليون حصان.
وقال بوستروم إن نفس النتيجة المظلمة يمكن أن تحدث للبشر عندما يجعل الذكاء الاصطناعي عملنا وذكاءنا عتيقين.
قد يبدو الأمر وكأنه فيلم خيال علمي، لكن التحركات الأخيرة ،في عالم التكنولوجيا ،قد تشير إلى عكس ذلك؛ففي وقت سابق من هذا العام، استحوذت شركة جوجل على شركة الذكاء الاصطناعي DeepMind وأنشأت مجلس مراجعة السلامة والأخلاقيات للذكاء الاصطناعي، لضمان تطوير التكنولوجيا بأمان. كما أنشأت شركة ميتا  مختبرًا للذكاء الاصطناعي هذا العام، وتعمل على إنشاء دماغ اصطناعي.
وانتشرت بسرعة التكنولوجيا المسماة « التعلم العميق »- وهي شكل من أشكال الذكاء الاصطناعي ،يهدف إلى محاكاة الدماغ البشري عن كثب- من جوجل إلى مايكروسوفت وبايدو وتويتر.
وبينما ناقش راي كورزويل ،من شركة جوجل، لفترة طويلة « التفرد » التكنولوجي الذي يحل فيه الذكاء الاصطناعي محل البشر، انضمت شركة عملاقة في عالم التكنولوجيا مؤخرًا إلى كورزويل في التعبير عن قلقها.
فقد غرد إيلون ماسك، المؤسس المشارك لشركة سبيس إكس (النقل الفضائي) وتيسلا (السيارات الكهربائية)، في وقت سابق من هذا الشهر:
تحدثت مع بوستروم عن سبب قلقه وكيف ينبغي لنا أن نستعد:
تكتب أن الذكاء الاصطناعي الفائق الذكاء، قد يصبح خطيرًا على البشر لأنه سيسعى إلى تحسين نفسه والحصول على الموارد. اشرح ذلك.
لنفترض أن لدينا ذكاء اصطناعيًا هدفه الوحيد هو صنع أكبر عدد ممكن من مشابك الورق. سيدرك الذكاء الاصطناعي بسرعة أنه سيكون أفضل بكثير إذا لم يكن هناك بشر؛ لأن البشر قد يقررون إيقاف تشغيله. لأنه إذا فعل البشر ذلك، فسيكون هناك عدد أقل من مشابك الورق. كما أن أجسام البشر تحتوي على الكثير من الذرات التي يمكن تحويلها إلى مشابك ورق. المستقبل الذي سيحاول الذكاء الاصطناعي التوجه إليه سيكون مستقبلًا حيث يوجد الكثير من مشابك الورق ولكن لا يوجد بشر.
هل يمكننا برمجة الذكاء الاصطناعي لإنشاء ما لا يزيد عن 100 مشبك ورق يوميًا، لمدة إجمالية تبلغ 10 أيام على سبيل المثال؟
بالتأكيد، ولكن الآن يحاول الذكاء الاصطناعي تعظيم احتمالية صنع 100 مشبك ورق بالضبط في 10 أيام.
مرة أخرى، قد ترغب في التخلص من البشر لأنهم قد يوقفونك. ماذا يحدث عندما ينتهي من صنع 1000 مشبك ورق؟ قد يقوم بحسابها مرة أخرى، أو تطوير جهاز عد أكثر دقة ؛ ربما بحجم الكوكب أو أكبر.
إننا نستطيع أن نتخيل سلسلة غير محدودة من الإجراءات التي قد تكون لها عوائد متناقصة ،ولكنها مع ذلك تحمل بعض القيم الإيجابية للذكاء الاصطناعي ،والتي قد تزيد حتى بنسبة ضئيلة من احتمالات تحقيق الهدف.
يمتد هذا القياس إلى أي ذكاء اصطناعي ، وليس فقط الذكاء الاصطناعي المبرمج لصنع مشابك الورق. والواقع أن النقطة الأساسية هنا هي أن أفعاله لن تعير أي اهتمام لرفاهية الإنسان.
هل يمكننا أن نجعل هدفه الأساسي هو تحسين الحالة الإنسانية، وتعزيز القيم الإنسانية ، وجعل البشر سعداء؟
حسنا، يتعين علينا أن نحدد إذن ما نعنيه بالسعادة. وإذا كنا نعني الشعور بالمتعة، فربما يقوم الذكاء الاصطناعي الفائق الذكاء بتركيب أقطاب كهربائية على دماغ كل إنسان، وتحفيز مراكز المتعة لدينا.
أو ربما نخرج الجسم بالكامل ونجعل أدمغتنا تغتسل بدواء يمكن للذكاء الاصطناعي تصميمه. وقد تبين أن تحديد ما نريده باللغة الإنجليزية ــ ناهيك عن استخدام لغة البرمجة الحاسوبية ــ أمر بالغ الصعوبة.
وعلى نحو مماثل، لا نستطيع أن نثق في مجموعتنا الحالية من القيم الإنسانية.
وبوسعنا أن نتخيل ما كان ليحدث لو أتيحت الفرصة لعصر بشري سابق لوضع قانون للأبد ، لتشفير فهمهم للقيم الإنسانية ،مرة واحدة وإلى الأبد.
في الكتاب، تقول: انه قد يكون هناك ذكاء اصطناعي خارق واحد أو أكثر؛اشرح ذلك.
في أحد ألسيناريوهات لديك ذكاء اصطناعي خارق ألذكاء، وفي غياب أي منافسة، لديه القدرة على تشكيل المستقبل وفقًا لتفضيلاته؛ وهناك سيناريو آخر متعدد الأقطاب، حيث يكون الانتقال إلى الذكاء الفائق أبطأ؛ وهناك العديد من الأنظمة المختلفة على مستوى مماثل تقريبًا من التطور. وفي هذا السيناريو، لديك ديناميكيات اقتصادية وتطورية تدخل حيز التنفيذ.
في سيناريو متعدد الأقطاب، هناك خطر انفجار سكاني سريع للغاية. يمكنك نسخ عقل رقمي في دقيقة واحدة بدلاً من البشر، حيث يستغرق الأمر بضعة عقود من الزمن لصنع شخص بالغ آخر؛ وبالتالي، قد تتزايد العقول الرقمية بسرعة كبيرة ،بحيث تنخفض دخولها إلى مستوى الكفاف ؛ والذي سيكون على الأرجح أقل من العقل البيولوجي.
عندها لن يتمكن البشر من إعالة أنفسهم بالعمل، وعلى الأرجح سيموتون. بدلاً من ذلك، إذا استمرت الهياكل الاجتماعية بطريقة أو بأخرى، فقد يكتسب بعض البشر عائدات رأسمالية هائلة من الذكاء الفائق الذي يمكنهم استخدامه لشراء المزيد من أجهزة الكمبيوتر لتشغيل المزيد من العقول الرقمية.
هل تقول :إنه من المستحيل السيطرة على الذكاء الفائق لأننا أذكياء فحسب؟
إن الأمر ليس مستحيلاً ، بل إنه في غاية الصعوبة؛وأخشى ألا يتم حل هذه المشكلة بحلول الوقت الذي يبني فيه شخص ما الذكاء الاصطناعي.
نحن لسنا بارعين في التراجع عن اختراع الأشياء؛ فبمجرد تطوير الذكاء الاصطناعي الفائق غير الآمن، فلن نتمكن من إعادته إلى القمقم؛ لذا فنحن في حاجة إلى تسريع البحث في مشكلة التحكم هذه.
إن تطوير وسيلة لتعزيز القدرات الإدراكية البشرية، من شأنه أن يكون مفيداً؛ وإذا افترضنا أن الذكاء الفائق لن يحدث قبل النصف الثاني من القرن، فربما لا يزال هناك متسع من الوقت لتطوير مجموعة من البشر المعززين إدراكياً ،والذين قد يمتلكون القدرة على محاولة حل مشكلة التحكم التقني الصعبة حقاً.
ومن المفترض أيضاً أن البشر، المعززين إدراكياً ،سوف يكونون قادرين على التفكير ،بشكل أفضل، في التأثيرات طويلة الأمد. على سبيل المثال، يعمل الناس اليوم على إنشاء شرائح أكثر كفاءة في استخدام الطاقة ،لإطالة عمر بطاريات الهواتف المحمولة؛ دون التفكير في التأثيرات طويلة الأمد التي قد تترتب على ذلك. ؛و مع المزيد من الذكاء، سوف نكون قادرين على ذلك.
إن تعزيز القدرات المعرفية يمكن أن يتم من خلال القدرة المعرفية الجماعية ؛ الإنترنت على سبيل المثال؛ والابتكارات المؤسسية التي تمكن البشر من العمل بشكل أفضل معاً.
وفيما يتصل بتعزيز القدرات المعرفية الفردية، فإن أول شيء ،من المرجح أن ينجح، هو الانتقاء الجيني في سياق التلقيح الصناعي؛ وأنا لا أؤيد كثيراً الروبوتات أو الأجهزة المزروعة.
ماذا يجب علينا فعله للاستعداد لمواجهة خطر الذكاء الفائق؟
لو كانت البشرية عاقلة، وتصرفت بوعي على المستوى العالمي، لكان المسار المعقول للعمل هو تأجيل تطوير الذكاء الفائق إلى أن نتوصل إلى كيفية القيام بذلك بأمان؛ وربما ننتظر بعد ذلك جيلاً أو جيلين آخرين ،فقط للتأكد من أننا لم نتغافل عن عيب ما في تفكيرنا؛ ثم نفعل ذلك ونحصد فوائد هائلة؛ ولكن من المؤسف أننا لا نملك القدرة على التوقف مؤقتاً.
إن المحاولات الرامية إلى التأثير على المعدل الإجمالي للتنمية، في علوم الكمبيوتر وعلم الأعصاب وتصنيع الرقائق الإلكترونية، من المرجح أن تكون بلا جدوى؛ فهناك حوافز هائلة لتحقيق تقدم تدريجي في صناعات البرمجيات والأجهزة؛ والواقع أن التقدم نحو الذكاء الفائق حتى الآن لا علاقة له بالاهتمام ،الطويل الأجل، بالمشاكل العالمية ؛ بل يتعلق أكثر بجني الأموال الطائلة.
إننا نعاني أيضاً من مشاكل تتعلق بالحكمة والعقلانية البشرية الجماعية؛ وفي الوقت الحالي، نحن فقراء للغاية في التعامل مع التحديات العالمية الكبرى؛ وحتى في مواجهة مشكلة بسيطة مثل الانحباس الحراري العالمي ؛ حيث يمكنك قياس مبدأ فيزيائي، وارتفاع درجة الحرارة ، فإننا لا نؤدي عملاً عظيماً.
وبصورة عامة، فإن العمل على جعل العالم أكثر سلاماً وتعاوناً ،من شأنه أن يساعد في تجنب مجموعة واسعة من الكوارث الوجودية.
ربما هناك ستة أشخاص يعملون بدوام كامل على مشكلة التحكم في الذكاء الاصطناعي.
نحن بحاجة إلى إضافة المزيد من العقول اللامعة إلى هذا العمل الفني. آمل أن يفعل كتابي شيئًا لتشجيع ذلك. إن كيفية التحكم في الذكاء الاصطناعي الفائق الذكاء هي في الواقع المهمة الأكثر أهمية في عصرنا ؛ ومع ذلك، يتم تجاهلها تمامًا تقريبًا.

عن:
https://www.huffpost.com/entry/artificial-intelligence-oxford_n_5689858