ما الذي لدينا لنتطلع قدماً وما الذي لدينا لنخشاه

ما هو الذكاء الاصطناعي؟

يتطور الذكاء الاصطناعي على نحو متسارع بدءاً من سيري (المساعد الشخصي الذكي من شركة آبل) وحتى السيارات ذاتية القيادة. بينما يقوم الخيال العلمي بتصوير الذكاء الاصطناعي على أنه آلاتٍ مشابهةٍ للبشر. يمكن أن يشمل الذكاء الاصطناعي أي شيء؛ ابتداءً من خوارزميات البحث الذكية على جوجل، إلى نظام واطسن (Watson) من شركة أي بي إم، وحتى الأسلحة ذاتية التحكم.

يُعرف الذكاء الاصطناعي اليوم بالذكاء الاصطناعي الضيق AI (أو الضعيف)، وذلك لقيامه بمهام محدودة فقط (على سبيل المثال؛ التعرف على الوجوه، البحث في الإنترنت، قيادة السيارة آلياً). وبأية حال، يعد تطوير ذكاء اصطناعي عام AGI (أو قوي) هدفاً على المدى البعيد للعديد من الباحثين.

بينما يستطيع الذكاء الاصطناعي الضيق التغلب على البشر في أي مهمة محدّدة، يستطيع الذكاء الاصطناعي العام التغلب على البشر في أي مهمة إدراكيّة.

ما سبب التحفظ خلال البحث في الذكاء الاصطناعي؟

إنّ هدف إبقاء الذكاء الاصطناعي مفيداً للمجتمع قد حفز البحث في مختلف الحقول، وذلك ابتداءً من علوم الاقتصاد والقانون إلى العلوم التقنية، كالتحقق وإثبات الشرعيّة والأمن والتحكم. بينما يشكل تعطل الحاسب المحمول لديك أو تعرضه للإختراق ضرراً بسيطاً، فقد يسبب تعطل السيارة أو الطائرة أو الشبكة الكهربائية أو جهاز تنظيم معدل ضربات القلب أو نظام التداول المؤتمت أثناء قيادته من قبل نظام ذكاءٍ اصطناعي خسائر كبيرة في الأرواح والممتلكات، لذلك يجب على نظام الذكاء الاصطناعي أن  ينفذ بشكل دقيق ما نريد منه دون أية أخطاء.

إنّ تطوير ذكاء اصطناعي قوي يمكن أن يكون أهم إنجاز في تاريخ البشريّة، ويمكن أن يكون الأخير.

هناك تحدٍ أيضاً على المدى المنظور، يتمثل بمنع حدوث سباق تسلحٍ مدمرٍ في الأسلحة الفتاكة المُقادة ذاتياً.

يواجهنا سؤال هام على المدى البعيد، ما الذي سوف يحدث إذا نجح البحث عن نظام ذكاء اصطناعي قويّ، وكان هذا النظام أفضل من البشر في جميع المهام الإدراكيّة المعرفيّة؟ كما أشار العالم جوود (IJ. Good) في عام 1965؛ "إنّ تصميم نظام ذكاء اصطناعي قوي يعد بحد ذاته مهمة معرفيّة، إذ يمكن لهذا النظام أن يُجري آلية تطوير ذاتيّة بشكل متكرر، وهذا سيؤدي بدوره إلى حدوث فرط ذكاءٍ في النظام الاصطناعيّ، مما سيمكنه من يتفوّق على الذكاء البشري بأشواطٍ عديدة".

يمكن لمثل هذا الذكاء الاصطناعي القوي، وباستخدام تقنيات ثورية جديدة، أن يساعد في القضاء على الحروب والأمراض والفقر، ولذلك يُعد تطوير الذكاء الاصطناعي القوي أكبر إنجاز في تاريخ البشرية. إلا أنّ بعض الخبراء أعربوا عن قلقهم في أن يكون هذا آخر مخترعات البشرية، إلا في حالة تحقيق الموائمة التامّة ما بين أهدافنا وأهداف نظام الذكاء الاصطناعي قبل تطوره إلى نظام فائق الذكاء.

يوجد من يُشكك في إمكانيّة الوصول إلى تحقيق نظام ذكاء اصطناعي قويّ، والبعض يشكك أيضاً بفائدة إنشاء نظام فائق الذكاء. ضمن معهد مستقبل الحياة (FLI)؛ نسلّم باحتمالية السؤالين السابقين، ونسلّم أيضاً باحتماليّة أن يسبب الذكاء الاصطناعي ضرراً كبيراً بشكلٍ متعمد أو غير مقصود. كما نؤمن أيضاً أنّ البحث في الحاضر سيساعدنا في منع أي نتائج سلبية يمكن أن يسببها الذكاء الاصطناعي في المستقبل والاستعداد لها. وبذلك سنتمتع بمزايا الذكاء الاصطناعي ونتجنب مخاطره.

كيف يمكن للذكاء الاصطناعيّ أن يكون خطيراً؟

يتفق معظم الباحثين أنّ الذكاء الاصطناعي الفائق من غير المرجح له التعبير عن المشاعر الإنسانية كالحب أو الكره، ولذلك لا يوجد سبب لنتوقع أن يكون الذكاء الاصطناعي وبشكل متعمد خيِّراً أو شريراً. بدلاً من ذلك، عند النظر في كيفية أن يكون الذكاء الاصطناعيّ خطراً، يفكر الخبراء في أحد السيناريوهين التاليين:

• تمّت برمجة الذكاء الاصطناعي لكي يقوم بشيئٍ مدمرٍ: الأسلحة المُقادة ذاتياً تمثل نظام ذكاء اصطناعي مصمم للقتل. يمكن لهذه الأسلحة أن تسبب بسهولة مقتل العديد من الأشخاص إذا وقعت في يد الشخص الخطأ. علاوةً على ذلك، يمكن لسباق التسلح أن يؤدي بشكل غير مقصود إلى حربٍ بين أنظمة الذكاء الاصطناعي، ممّا يؤدي لسقوط العديد من الضحايا. صممت هذا الأسلحة لكي تكون صعبة الإيقاف وذلك لتجنب الإعاقة من قبل العدو. في هذه الحالة يمكن للإنسان أن يفقد السيطرة عليها. هذا الخطر موجود حتى مع أنظمة الذكاء الاصطناعي المحدودة أو الضعيفة، ويمكن له أن ينمو مع زيادة مستوى الذكاء في الأنظمة ومع زيادة التحكم الذاتي.
• تمّت برمجة الذكاء الاصطناعي للقيام بشيء مفيد: ولكنه يطور طرقاً قد تكون مدمرةً للوصول إلى غايته المفيدة. وهذا يمكن أن يحدث عندما نفشل في جعل أهدافنا متكاملة مع أهدافه بشكل كامل، والذي يعد أمراً صعباً. مثلاً؛ إذا قمت بسؤال سيارة ذاتية القيادة أن تأخذك إلى المطار بأسرع ما يمكن، يمكن أن توصلك إلى هناك بعد مطاردات مع الطوّافات وبعد أن تصيبك بالإقياء الشديد، أي أنّها قامت بما لم ترده ولكنّها نفذت ما طلبت منها بشكلٍ حرفيّ في الوقت ذاته. إذا تمّ تكليف نظام فائق الذكاء بمشروع طموح في الهندسة الجيولوجية، يمكن له أن يعبث بنظامنا البيئي كأثر جانبي، ويمكن أن يرى محاولة الإنسان لإيقافه خطراً يجب مواجهته.

كما أوضحت الأمثلة السابقة، ليس القلق قائماً حول خبث أنظمة الذكاء الاصطناعي، وإنما يتعلق الأمر بكفائتها. إنّ النظام فائق الذكاء يجب أن يكون ماهراً جداً في تحقيق أهدافه، ولكن إن كانت هذه الأهداف غير متلائمة مع أهدافنا، عندها سنواجه المشاكل.

إن كنت مسؤولاً عن مشروع للطاقة الكهرومائية، وكان هناك عشاً للنمل في المنطقة التي تحتاج للغمر، هذا لا يعني أنك شرير وتحب قتل النمل. إنّ هدف بحوث أمن الذكاء الاصطناعي هو عدم وضع الإنسانية بمكانة النمل.

ما سبب الاهتمام الشديد بأمن الذكاء الاصطناعي مؤخراً؟

عبر العديد من العلماء مثل ستيفن هوكينج وإلون مَسك وستيف ووزنيك وبيل غيتس عن قلقهم حول مخاطر الذكاء الاصطناعي في الإعلام، وشاركهم في ذلك بعض الباحثين في نفس المجال. لماذا ظهر هذا الموضوع بشكل مفاجئ في العناوين الرئيسية؟

إنّ فكرة البحث عن نظام ذكاء اصطناعي قوي قد نجحت بشكل ممتاز كخيال علميّ، منذ العديد من القرون. ومع ذلك وبفضل العديد من الانجازات المحققة، تم الوصول بالذكاء الاصطناعي إلى مستوى كان يراه الخبراء بعيداً، مما جعل العديد منهم يتوقع إمكانية الوصول إلى الذكاء الفائق خلال حياتهم.

ما زالوا بعض خبراء الذكاء الاصطناعي يعتقدون أن الوصل إلى مستوى ذكاء البشر عن طريق الذكاء الاصطناعي يحتاج إلى قرون عديدة، إلا أنّ معظم خبراء الذكاء الاصطناعي في مؤتمر بورتو ريكوالمنعقد في عام 2015 خمنوا بإمكانية حدوث هذا الأمر قبل عام 2060.

بما أننا نحتاج إلى عقود للوصل إلى مستوى الأمن المطلوب، فيجب علينا البدء بالبحث الآن.

بما أن الذكاء الاصطناعي يمكن له أن يكون أذكى من أي إنسان، فليس لدينا أي وسيلة مؤكدة تخبرنا عن طريقة تصرفه. لا نستطيع استخدام التقنية الماضية المطورة كقاعدة أساس، لأنه لم يسبق لنا أن طوّرنا أي شي له إمكانية أن يكون أذكى منّا سواء كان ذلك بشكل مقصود أو عفوي.

إنّ أفضل مثال لما يمكن أن نواجهه هو تطورنا. يسيطر الإنسان حالياً على كوكب الأرض، ليس بسبب أنّنا الأقوى أو الأسرع أو الأكبر، ولكن بسبب أنّنا الأذكى. فإذا لم نكن الأذكى، فهل نحن متأكدون من بقائنا كمسيطرين؟

نحن نعتقد أنّ حضارتنا سوف تزدهر، طالما نستطيع الفوز بالسباق بين قوة التقنية المتنامية وبين الحكمة في إدارتها، وإن أفضل طريقة لفوز السباق تكون بتعزيز الحكمة في إدارة التقنية المتطوّرة، لا بكبح تطوّرها. ويتم ذلك من خلال دعم بحوث أمن الذكاء الاصطناعي.