إنسان آلي يمكنه فتح الأبواب والبحث عن مخارج الكهرباء كي يعيد شحن نفسه؛ وفيروسات كومبيوترية لا يمكن إيقافها؛ وطائرات دون طيار (بريداتور) أقرب ما تكون إلى آلة يمكنها القتل بصورة تلقائية، مع أنه يتم التحكم فيها بشريا.
على ضوء التقدم في الذكاء الصناعي، يتناقش مجموعة من علماء الكومبيوتر حول وضع قيود على البحث الذي يمكن أن يؤدي إلى فقدان السيطرة البشرية على النظم الكومبيوترية التي باتت تقوم بقسط متنام من الأعمال في المجتمع بدءا من شن الحرب ووصولا إلى الحديث مع العملاء عبر الهاتف. ويتمثل الخوف في أن المزيد من التقدم يمكن أن يؤدي إلى اضطرابات اجتماعية عميقة ويمكن أن تكون له تبعات خطيرة. فعلى سبيل المثال، يشير العلماء إلى عدد من التقنيات المتنوعة مثل نظم طبية تتم تجربتها تتواصل مع المرضى وتبدي تعاطفا معهم وإلى فيروسات كومبيوترية تتحدى محاولات إيقافها. وعلى الرغم من أن علماء الكومبيوتر يتفقون على أنه ما زالت تفصلنا مسافة كبيرة عن ظهور جهاز مثل الجهاز «هال»، وهو جهاز كومبيوتر سيطر على سفينة الفضاء في فيلم «أوديسا الفضاء 2001»، فإنهم يقولون إن هناك خوفا مشروعا من أن التقدم التقني يمكن أن يغيّر من القوة العاملة بتدمير عدد كبير من الوظائف وإجبار البشر على تعلم العيش مع الآلات التي تستنسخ السلوكيات البشرية بصورة متنامية. وبصورة عامة، يشكك الباحثون، الذين يضمون علماء كومبيوتر بارزين وباحثين في مجال الذكاء الصناعي وعلماء متخصصين في الروبوتات اجتمعوا في قاعة المؤتمرات «أسيلومار» على خليج مونتري بولاية كاليفورنيا، في احتمالية ظهور عقول إليكترونية فائقة الذكاء. ولكنهم يتفقون على أن الإنسان الآلي الذي يمكن أن يقتل بصورة تلقائية موجود بالفعل أو سوف يظهر قريبا. وأولى هؤلاء العلماء اهتماما خاصا بفكرة أن المجرمين تمكنوا من استغلال نظم الذكاء الآلي بمجرد تطويرها. والسؤال هو: ما الذي يمكن أن يفعله مجرم بنظم صوتية يمكن أن تظهر على أنها آدمي؟ وماذا سوف يحدث إذا استخدمت تقنية الذكاء الصناعي من أجل الحصول على معلومات شخصية من أجهزة التليفون الذكية؟
وناقش الباحثون أيضا تهديدات محتملة لوظائف يقوم بها البشر، كأن يتم قيادة السيارة بصورة ذاتية، وظهور مساعدين شخصيين إليكترونيين، وتصنيع أجهزة روبوتات تقوم بالخدمة داخل المنازل. وفي الشهر الماضي، قام ويلو غاراغ في وادي السيلكون بتطوير روبوت للخدمة أثبت أنه يمكنه التعامل مع العالم الحقيقي. ومن المقرر في وقت لاحق من العام الحالي نشر تقرير من المؤتمر، الذي عقد سرا في 25 فبراير (شباط)، وناقش بعض الحضور ما تم في الاجتماع للمرة الأولى مع علماء آخرين وخلال مقابلات. ونظم المؤتمر رابطة تطور الذكاء الصناعي، وباختيار «أسيلومار» مكانا لعقد جلسات النقاش، فإن الرابطة تذكّر بحدث بارز في تاريخ العلوم، ففي عام 1975 اجتمع علماء الأحياء البارزون أيضا في «أسيلومار» لمناقشة المقدرة الجديدة على إعادة صياغة الحياة عن طريق تبادل المواد الجينية بين الكائنات الحية. وبسبب الخوف من مخاطر محتملة وتساؤلات أخلاقية، أوقف العلماء تجارب محددة. وأصدر المؤتمر إرشادات خاصة ببحوث الـ«دي إن إيه» وساعد ذلك على استمرار التجارب. ونظم الاجتماع، الذي ناقش مستقبل الذكاء الصناعي، إريك هورفيتز، وهو باحث في مايكروسوفت ورئيس للرابطة. وقال هورفيتز إنه يعتقد أن علماء الكومبيوتر يجب أن يستجيبوا إلى الاتجاهات التي تقول إن العقول الإلكترونية فائقة الذكاء ونظم الذكاء الصناعي يمكن أن تنشر الفساد. وكان عالم الرياضيات إي جاي غوود قد عرض في عام 1965 فكرة حدوث «انفجار ذكائي» بأن تقوم الآلات الذكية بتصميم آلات أكثر ذكاء. وبعد ذلك تحدث عالم الكومبيوتر فيرنور فينغ خلال محاضرات وروايات خيال علمي عن فكرة أنه في لحظة ما سوف يصنع البشر آلات أكثر ذكاء من البشر، مما سيؤدي إلى تغير سريع لدرجة أن «عصر البشر سوف ينتهي». ووصف ذلك بأنه تغير إلى الفردية. وينظر إلى هذه الفكرة، التي ظهرت في أفلام وأعمال أدبية، على أن لها ما يبررها ولذا فهي تثير القلق لدى بعض العلماء مثل وليام جوي، المؤسس المشارك لـ«صن مايكروسيستمز». وقد أثنى علماء تقنية آخرون، ومنهم رايموند كورزويل، بالثناء على الآلات متعددة الذكاء، وقالوا إنها سوف تقدم تطورات كبيرة في تمدد الحياة وبناء الثروة. ويقول الدكتور هورفيتز «حدث شيء جديد على مدار 5 ـ 8 أعوام مضت، حيث يعيد علماء التقنية الدين، ولأفكارهم صدى يحمل في بعض الأحيان نفس فكرة عودة المسيح». وقد سيطرت فكرة كورزيول عن المدينة التكنولوجية الفاضلة على الخيالات في وادي السيلكون. وفي الصيف الحالي بدأت منظمة تدعى «جامعة الفردية» في عرض دورات تدريبية لإعداد «كادر» لصياغة التطورات ومساعدة المجتمع على التكيف مع التداعيات. ويقول الدكتور هورفيتز: «كان إحساسي هو أنه بعد وقت قريب أو بعيد سيكون علينا القيام بنوع من التقييم أو العرض، على ضوء الصوت المتصاعد للمواطنين الذين يشعرون بقلق شديد إزاء نهضة الآلات الذكية». وسوف يحاول تقرير رابطة تطور الذكاء الصناعي تقييم احتمالية «فقدان السيطرة البشرية على نظم الذكاء التي تعتمد على الكومبيوتر». ويقول الدكتور هورفيتز إن ذلك سوف يتشابك مع قضايا أخلاقية وقانونية واقتصادية اجتماعية بالإضافة إلى تغيرات محتملة في العلاقات بين البشر والكومبيوتر. فعلى سبيل المثال، كيف يمكن أن تحكي شيئا لآلة لها نفس مستوى ذكاء شريك في الحياة؟
ويقول الدكتور هورفيتز إن المجموعة درست في وسائل لإدارة البحث حتى يمكن استخدام التقنية في تحسين المجتمع بدلا من دفعه تجاه كارثة تكنولوجية. وربما يتم تنفيذ بعض الأبحاث، على سبيل المثال، داخل معمل ذي قدر كبير من الأمان. وربما كان الاجتماع الذي ناقش الذكاء الصناعي حدثا مهماً فيما يتعلق بمستقبل هذا المجال. ويقول بول بيرغ، الذي أعد اجتماع «أسيلومار» عام 1975 وحصل على جائزة نوبل في الكيمياء عام 1980، إنه كان من المهم بالنسبة للمجتمعات العلمية أن تتواصل مع الجمهور قبل أن يتعذر تغيير المعارضة. وقال «لو انتظرنا لوقت طويل وأصبح ذلك منتشرا مثل الأطعمة المعدلة وراثيا، فحينئذ سيكون من الصعب جدا وسيكون الوضع معقدا للغاية».
ويقول توم ميتشل، أستاذ الذكاء الصناعي وتعليم الآلات في جامعة كارنيغي ميلون، إن الاجتماع الذي عقد في شهر فبراير (شباط) غيّر من تفكيره. «أصبحت متفائلا جدا بخصوص مستقبل الذكاء الصناعي وأفكر في أن بيل جوي وراي كورزيل كانا بعيدين كثيرا في توقعاتهما». ولكنه قال «جعلني الاجتماع أريد الحديث بصراحة أكبر عن هذه القضايا ولاسيما بخصوص الكميات الكبيرة من البيانات المجمعة عن حياتنا الشخصية». وعلى الرغم من مخاوفه، يقول الدكتور هورفيتز إنه يأمل أن تفيد أبحاث الذكاء الصناعي البشر وربما تعادل القصور البشري. وعُرض أخيرا نظام يعتمد على الصوت صممه لسؤال المرضى عن أعراضهم والرد عليهم مبديا التعاطف. فعندما تقول أم إن طفلها يعاني من الإسهال، يقول الوجه الظاهر على الشاشة: «ياه، لا، آسف لسماع ذلك». وقال الطبيب له بعد ذلك إنه من الرائع أن النظام يستجيب للمشاعر البشرية. وأضاف «إنها فكرة رائعة، لا وقت لدي للقيام بذلك».
* خدمة «نيويورك تايمز»