منطاد غوغل: كيف أدهش مطوريه؟
حدق موظفو غوغل في شاشات الكمبيوتر مذهولين. فقد عكفوا شهورا عديدة على تحسين خوارزمية مصممة لتوجيه منطاد غير مأهول من بورتوريكو إلى بيرو، لكنهم فوجئوا بحدوث أمر غير متوقع. فقد أخذ المنطاد، الذي يتحكم فيه الذكاء الاصطناعي، ينحرف تدريجيا عن مساره.
ولم يتمكن سلفاتور كانديدو، من مشروع "لون" الذي دشنته شركة "غوغل" لتوفير الإنترنت في المناطق النائية عبر مناطيد قبل أن تقرر إيقافه، من تفسير انحراف المنطاد عن مساره. واستعاد زملاؤه سريعا السيطرة على النظام وأعادوا المنطاد يدويا إلى المسار المحدد. ولم يفطنوا إلى سبب خروج المنطاد عن مساره إلا لاحقا. فقد تعلم الذكاء الاصطناعي على متن المنطاد محاكاة مناورة قديمة في الإبحار طورها البشر منذ قرون أو ربما آلاف السنين. وتتضمن هذه المناورة توجيه المركبة لتمضي عكس اتجاه الرياح ثم تنحرف قليلا بعيدا عن الرياح لتتخذ مسارا متعرجا لكنها تظل في الاتجاه المطلوب. وقد تعلمت المناطيد ذاتية القيادة من تلقاء نفسها أن تغير اتجاهها بحسب اتجاه الرياح، إذا كانت الأحوال الجوية غير مواتية. لكن ما آثار دهشة الجميع، حتى الباحثين في المشروع، أنها تعلمت كل هذا دون توجيه من أحد. وكتب كانديدو: "أدركنا أن الآلة كانت أكثر ذكاء منا، حين قطع المنطاد الأول الذي أتيح له تنفيذ هذه المناورة بالكامل، المسافة من بورتوريكو إلى بيرو في زمن قياسي. ولم يتملكني من قبل ذاك الشعور بأنني غبي وذكي في آن واحد". مواضيع قد تهمك نهاية وهذا الوضع لم يعد غريبا، فقد بات يتكرر كلما أطلق البشر العنان للذكاء الاصطناعي ليتحكم في الأجهزة. فالذكاء الاصطناعي، خلافا لبرامج الكمبيوتر، مصمم لاستكشاف أساليب جديدة لتنفيذ المهام التي لم يضع له المهندسون تعليمات لتنفيذها بالتفصيل. لكن الذكاء الاصطناعي أحيانا، أثناء تحليل المعلومات والبيانات، قد يبتكر أساليب خلاقة لتنفيذ المهام المطلوبة إلى درجة قد تدهش الأشخاص الذي يتعاملون مع هذه الأنظمة طوال الوقت. صحيح أن هذا الأمر له مزايا عديدة، إلا أنه قد يجعل التنبؤ بالقرارات التي تتخذها الأجهزة التي يتحكم بها الذكاء الاصطناعي، كأجهزة الروبوت والسيارات ذاتية القيادة، مستحيلا. وقد تتسبب هذه القرارات في إيذاء البشر. الذكاء الاصطناعي الذي تحكم في مناطيد مشروع "لون" تعلم مناورة لتغيير اتجاه المنطاد بحسب اتجاه الرياح فكيف يمكن أن يتفوق نظام للذكاء الاصطناعي على صانعيه؟ وهل يمكن أن نقيد هذه العقول الإلكترونية بطريقة ما لتلافي وقوع كوارث غير متوقعة مستقبلا؟ ثمة مثال بارز على قدرة الذكاء الاصطناعي على الاستكشاف والإبداع، كثيرا ما يردده الخبراء في هذا المجال. ويقول مارك ريدل، من معهد جورجيا للتكنولوجيا، إن الذكاء الاصطناعي قد أدهش الجميع عندما أثبتت شركة "ديب مايند" أن نظام "ألفاغو" الذي يعتمد على خوارزميات تعلم الآلة قد أتقن لعبة "غو" الصينية القديمة إلى درجة أنه تمكن من الفوز على بطل العالم في اللعبة. ويقول ريدل: "برهن الذكاء الاصطناعي على أن ثمة استراتيجيات وخطط لمواجهة الخصم لم يستخدمها البشر من قبل أو على الأقل لم يعرف عنها الكثيرون شيئا". وبينما أشادت شركة "ديب مايند" بقدرة نظامها "ألفاغو" على "ابتكار" طرق جديدة لهزيمة الخصم في لعبة يمارسها البشر منذ آلاف السنين، فقد تساءل البعض حول إمكانية تحول هذا الذكاء الاصطناعي "المفكِر" إلى مصدر تهديد للبشر. وكتب جوناثان تابسون من جامعة ويسترن سيدني: "من الحماقة أن تعتقد أنه بإمكاننا التنبؤ بسلوكيات الذكاء الاصطناعي في حالة خروجه عن السيطرة، إذا كنا لا يمكننا تخيل سلوكياته في السياقات المعتادة". ويقول ريدل إن الذكاء الاصطناعي لا يفكر كالبشر، بل إن الشبكة العصبية الاصطناعية مستلهمة من أدمغة الحيوانات. فعندما يحاول الذكاء الاصطناعي حل مشكلة أو إنجاز مهمة، لا يبني افتراضاته على تصورات مسبقة عن العالم، بل ببساطة يجرب ويخطئ أحيانا ملايين المرات، إلى أن يجد الحل. ويقول ريدل: "نحن البشر نراعي القواعد، في حين أن الذكاء الاصطناعي لا يفهم القواعد، بل يجازف ويحاول بطريقة عشوائية". وقد يفاجئ الذكاء الاصطناعي المطورين أيضا بقدرته على حل مشكلات مختلفة عن تلك التي صمم لحلها، لكن باستخدام نفس النظام. فقد صممت شركة "أوبن أيه آي"، نظام "جي بي تي-2" للتنبؤ بالكلمات في العبارة بناء على الكلمات السابقة، وذلك بعد تحليل ملايين المقالات الإخبارية على الإنترنت وصفحات الويب. ورأى مطور النظام، شون بريسر، أنه من الممكن تدريب الخوارزمية للتنبؤ بالحركات المفضلة في لعبة الشطرنج بناء على المباريات السابقة، فحركات الشطرنج في نهاية الأمر يمكن تحويلها إلى رموز أبجدية رقمية. وحلل النظام 2.4 مليون مباراة شطرنج بتتبع رموز الحركات. ويقول: "لم أكن متأكدا في البداية من نجاح الفكرة"، لكن النظام تمكن من الفوز في مباريات شطرنج صعبة، وإن كان بالطبع أقل كفاءة من أنظمة الكمبيوتر المصممة خصيصا لخوض منافسات الشطرنج. وأبهر نفس البرنامج مصممي الويب لاحقا، حين درب أحد المطورين البرنامج على توليد شفرة لعرض البيانات على صفحة الويب، مثل النصوص والعناوين، بناء على تعليمات بسيطة، مثل "عبارة 'أحبك' باللون الأحمر". فقد بدا واضحا أن هذا النظام قادر على تصميم صفحات الويب رغم أنه لم يتلق إلا القليل من التدريب. بعد انتشار الأجهزة التي تعتمد على الذكاء الاصطناعي في الحياة اليومية، قد يكون مهما أن نعرف مدى إمكانية التنبؤ بتصرفاتها وقد برع الذكاء الاصطناعي أيضا في مضمار الألعاب الإلكترونية إلى حد أدهش المطورين. وثمة أمثلة لا حصر لها على قدرة الخوارزميات على الابتكار والاستكشاف في البيئات الافتراضية. ففي عام 2019، لاقى مقطع فيديو نشرته شركة "أوبن أيه آي" عن إتقان الذكاء الاصطناعي مع الوقت للعبة "هايد آند سيك" انتشارا واسعا. فقد اكتشف الذكاء الاصطناعي حلولا جديدة في اللعبة، منها القفز فوق أسطح الصناديق والتنقل بها للوصول إلى الخصم المختبئ. وأثارت قدرة الذكاء الاصطناعي على توظيف قواعد اللعبة لمصلحته دهشة الباحثين. لكن التعلم عن طريق التجربة والخطأ قد يفضي إلى سلوكيات عجيبة. فمنذ عامين، طلبت فيكتوريا كراكوفنا، الباحثة بشركة "ديب مايند"، من قراء مدونتها أن يعرضوا نماذج للطرق غير المتوقعة والمرفوضة التي تعامل بها الذكاء الاصطناعي مع المشاكل الصعبة. وذكر القراء أمثلة عديدة، كان أبرزها في لعبة فيديو حين تعلمت خوارزمية كيف تنتحر في نهاية المستوى الأول لتفادي الموت في المستوى الثاني. واكتشفت خوارزمية أخرى أنها قد تجني نقاطا عديدة تؤهلها للحصول على فرصة إضافية في اللعبة لو قفزت من أعلى الجبل وبصحبتها أحد الخصوم، وظلت تكرر هذه الخطة الانتحارية إلى ما لا نهاية. ويفسر جوليان توغيليوس، من كلية تاندون للهندسة بجامعة نيويورك، ذلك بالقول إن الذكاء الاصطناعي عندما يُطلب منه تنفيذ مهمة، قد يكتشف طرقا غريبة وغير متوقعة لتحقيق هدفه بناء على مبدأ الغاية تبرر الوسيلة. في حين أن البشر في الغالب يهتمون باختيار الوسيلة التي تساعدهم في الفوز ويراعون قواعد اللعبة. وأجرى توغيليوس وفريقه تجارب عن تحيز أنظمة الذكاء الاصطناعي للهدف على حساب الوسيلة. واكتشفوا في إحدى الألعاب، أن الذكاء الاصطناعي عندما طلب منه استثمار المال في البنك كان يجري نحو أحد الأركان من البنك الافتراضي وينتظر لتلقي عوائد الاستثمار. ويقول توغيليوس إن الخوارزمية ربطت الجري بالحصول على العوائد المالية، رغم أنه لا يوجد ثمة علاقة بين الحركة وبين المبلغ المالي. ويشبه توغيليس ذلك السلوك بالخرافات، ويقول: "قد تؤمن بأنك تحصل على جائزة أو عقاب عندما تمارس سلوكا معينا، دون أن تعرف السبب". ويعد هذا من عيوب "التعليم التعزيزي"، الذي يعد أحد مجالات تعلم الآلة، حين يطور الذكاء الاصطناعي أساليب لحل المشكلة بناء على الربط الخاطئ بين المواقف التي يواجهها في البيئة وبين النتيجة. وهذا يذكرنا بالإنسان البدائي الذي ربط بين بعض الطقوس وبين التغيرات في الطقس، على سبيل المثال. أو ربما بالحمام، ففي عام 1948، نشر عالم نفس أمريكي بحثا وصف فيه تجربة غير معتادة، إذ وضع الحمام في أقفاص وكان يقدم لها مكافآت من الطعام بين الحين والآخر. وأخذ الحمام يربط الطعام بأي سلوكيات تصادف أنه كان يمارسها وقت تقديم الطعام، سواء رقصات أو رفرفة الجناحين. وأخذ يكرر هذه السلوكيات على أمل الحصول على المكافأة. لا شك أن هناك فرقا كبيرا بين الخوارزميات في ألعاب الفيديو وبين هذه الحيوانات التي استخدمها عالم النفس، لكن توغيليوس يشير إلى أن المشكلة في الحالتين تتمثل في الربط الخاطئ بين الجائزة وبين سلوك معين. قد يتعلم الحمام الربط بين الطعام وبين سلوكيات معينة، ويبدو أن نفس الظاهرة تحدث مع الذكاء الاصطناعي لكن رايا هادسيل، من شركة "ديب مايند"، أجرت تجارب عديدة باستخدام الخوارزميات، وتقول إن الذكاء الاصطناعي اكتشف حلولا جديدة ومثيرة لم تخطر على بال فريقها، ولهذا السبب يحرص الباحثون على تحسين كفاءة الخوارزميات لكي تنفذ مهاما يعجز البشر عن تنفيذها بمفردهم. وترى أنه من الممكن وضع معايير صارمة عند إجراء اختبارات للمنتجات التي تعتمد على الذكاء الاصطناعي، مثل السيارات ذاتية القيادة، لتظل احتمالات وقوع أمور غير متوقعة في الحدود المقبولة. ويجب الإشارة إلى أن الذكاء الاصطناعي الذي يفاجئ مطوريه بسلوكيات غير متوقعة، لم يعد يقتصر على بيئات الأبحاث، بل قد وجد طريقه بالفعل إلى المنتجات التجارية. ففي أحد المصانع الألمانية، اكتشف ذراع روبوت طورته شركة "كوفاريانت" الأمريكية، طرقا غير متوقعة لفرز السلع أثناء مرورها على السير، رغم أنه لم يبرمج لإجراء عملية التصنيف والفرز. إذ تعلم الذكاء الاصطناعي المتحكم في الذراع الإمساك بالسلعة المغلفة بغلاف شفاف بدقة من المنتصف حتى لا تختلط بغيرها وتفلت من قبضة الروبوت. وأجرت هادسيل تجارب على ذراع روبوت يقوم بفرز أشكال المكعبات وإدخالها في الفتحات المطابقة لشكل المكعب. وتعلم الذكاء الاصطناعي المتحكم في الذراع أن الطريقة الأسهل لإدخال المكعب في الفتحة المناسبة، هي التقاط المكعب ثم إسقاطه مرارا وتكرارا للحصول على الشكل المطابق للفتحة، بدلا من تحريك المكعب باستخدام القابض. وجمع جيف كلون، من شركة "أوبن أيه آي"، في دراسة مع فريق من الباحثين حول العالم أمثلة للحلول الذكية التي ابتكرها الذكاء الاصطناعي لحل المشاكل، ويقول كلون إن نجاح الذكاء الاصطناعي مستقبلا مرهون بقدرته على جمع المعلومات واستكشاف حلول جديدة للمشاكل. وبفضل هذه القدرة على البحث عن طرق مبتكرة لحل المشاكل القديمة، يرى كلون أن الذكاء الاصطناعي قد يسهم أيضا في إنقاذ الأرواح من خلال ابتكار طرق أفضل لتشخيص الأمراض وتوصيل الإمدادات للناس في حالات الطوارئ. لكنه يشير إلى أن مطوري هذه الأنظمة ينبغي أن يتحلوا بالشفافية ويعلنوا صراحة أن هذه الأنظمة لا يمكن التنبؤ بسلوكياتها، حتى يتفهم الجمهور طبيعة الأنظمة التي يتعامل معها. فالذكاء الاصطناعي في نهاية الأمر هو سلاح ذو حدين، وكما ينطوي على الكثير من المخاطر، كذلك يحمل الكثير من الوعود والآمال. ولا أحد يمكنه التنبؤ بخطواته المقبلة. يمكنك قراءة الموضوع الأصلي على BBC Future