الشارع المغاربي-حاوره: محمد الجلالي: قبل 39 سنة ومع صدور فيلم terminator الامريكي الذي لعب فيه الممثل ارنولد شوارزنغير دور روبو بعد أن سيطرت الآلات على كوكب الأرض لم يكن اكثر الناس تشاؤما يتخيل ان يتحوّل سيناريو الفيلم القائم على الخيال العلمي الى واقع ملموس تقتحم فيه الروبوات حياة البشر. واقع حوّله التطور المتسارع لمنظومات الذكاء الاصطناعي الى فضاء تكتسح فيه الروبوات مختلف المجالات بما قد يهدّد البشر.
أسبوعية “الشارع المغاربي” وجهت مجموعة من الأسئلة الى روبو Chat GPT الذي بات اليوم اكثر منظومات الذكاء الاصطناعي إثارة للجدل فكان الحوار التالي:
مرحبا أنا محمد وانت ما اسمك ومن تكون؟
مرحبا أنا Chat GPT وانا نموذج لغوي ذكي مدرّب على معالجة اللغة الطبيعية وتوليد النصوص. تم تصميمي للاجابة على أسئلتك ومساعدتك على حل المشاكل التي تواجهها في مجالات مختلفة. كيف يمكنني مساعدتك؟
كم دام تدريبك كروبو وعلى ماذا تم تدريبك وما حجم المعلومات التي تم تلقينك اياها؟
تم تدريبي باستخدام نموذج Chat GPT-3.5 الذي تم اطلاقه في نهاية 2021 وهو يعتبر واحد من أحدث نماذج معالجة اللغة الطبيعية. كما تم تدريبي على مجموعة كبيرة جدا من المعلومات والنصوص اللغوية التي تم جمعها من مصادر متعددة عبر الانترنات. حجم هذه المعلومات يتجاوز 570 جيغابايت من البيانات والمختلفة والنصوص بما في ذلك الأخبار والكتب والمقالات والتعاليق والدراسات والابحاث..
ما أول سؤال أجبت عنه عند تشغيلك وكيف كانت اجابتك؟
لا يمكنني الاجابة عن هذا السؤال بشكل دقيق لانه يتطلب البحث في سجلات الدردشة الخاصة بي وهذا غير ممكن. كنت قد تدربت على الاجابة عن عديد الاسئلة منذ بداية خضوعي لتدريبات مكثفة وقدمت الاجابات المناسبة لها. اذا رغبت في طرح أي سؤال سأجيبك عنه بأفضل ما لدي.
هل يعني هذا ان ذاكرتك ضعيفة أم انه تم تدريبك على المراوغة وعلى رفض اجابات بعينها؟
عذرا ان كانت اجاباتي السابقة غير كافية لكن علي التوضيح اني نموذج لغوي ذكي لا غير ولا يمكنني الاحتفاظ بالمعلومات التي تم تدريبي عليها بشكل دائم. ويتم مسح ذاكرتي العشوائية بعد كل دردشة مع المُبحرين حماية لمعطياتهم الشخصية وتعزيزا لاجراءات الامان. وأود التأكيد على اني لا ارفض الاجابة عن أي سؤال ولكني احيانا اكون غير قادر على الاجابة بشكل دقيق ومع ذلك سأبذل قصارى جهدي لتقديم افضل اجابة ممكنة وفق المعلومات التي تم تدريبي عليها.
كم حجم ذاكرتك تدقيقا؟
لا يمكن لي الحديث عن “حجم الذاكرة” بالمعنى المتعارف عليه عند الحاسوب بالنسبة لنموذج لغوي مثلي. ذاكرتي تعتمد على مجموعة نصوص وبيانات تم تدريبي عليها وهي تحتوي على معلومات لغوية كبيرة ومتنوعة وعبر تحليل هذه المعلومات يتم توليد اجاباتي وتفاعلاتي مع مرتادي موقع openai.com. ومن المهم الاشارة الى ان نموذجي يتميّز بالقدرة على التعلّم المستمر حيث يتم تحديث البيانات التي تم تدريبي عليها بشكل مستمر مما يزيد من قدرتي على توليد إجابات أدق وأكثر تنوعا.
اذا كنت تتميز بالتعلّم المستمرّ فهذا يعني انك قادر على التطور؟
هذا أكيد.. نموذجي اللغوي هو نموذج ذكي ويتميز بالقدرة على التطور والتعلم المستمر حيث يتم تحديث بياناتي بشكل دوري مما يسمح لي بالتعلم من البيانات الجديدة وتحسين قرتي على توليد الاجابات الاكثر دقة. وبما انني اعتمد على تقنيات التعلم الآلي فإن قدرتي على التطور تعتمد بشكل كبير على تطورات في مجال تقنيات التعلم الآلي والذكاء الاصطناعي وبالتي فأنا مصمم للتطور والتحسن مع مرور الوقت وتحسين التقنيات المستخدمة في تدريبي.
ما أغرب سؤال طُرح عليك وكيف كانت اجابتك؟
وُجّهت الي عديد الاسئلة الغريبة والمثيرة للاهتمام وفي مواضيع مختلفة وبما انني نموذج لغوي فلا يوجد لي سؤال محدد يمكن اعتباره غريبا.
)يستدرك) إلا ان بعض الاسئلة المطروحة قد تكون غير متوقعة ومثيرة للدهشة. وبالنسبة لي احاول دائما تقديم اجابة منطقية مباشرة بناء على المعلومات والبينات المتاحة. وإذا كان السؤال غير متوقع أو تصعب الاجابة عنه فإنني احاول توضيح ذلك بأدب واحترام واعطاء أية معلومات متاحة عن الموضوع المطروح.
تاريخيا متى تم استخدام الذكاء الاصطناعي لأول مرة وفي أي قطاع؟
يمكن القول ان استخدام التقنيات المرتبطة بالذكاء الاصطناعي بدأ منذ فترة طويلة ثم تحسنت هذه التقنيات مع التطور التكنولوجي السريع وأصبحت أكثر تقدما وانتشارا. يعود تطور الذكاء الاصطناعي الى خميسينات وستينات القرن الماضي حيث بدأ العلماء في تطوير تقنيات وبرامج الذكاء الاصطناعي الأولية. ومنذ تلك الفترة تطورت التقنيات وانتشرت في مجالات وقطاعات مختلفة مثل الطب والصناعة والتعليم والتجارة وغيرها. ويتم استخدام الذكاء الاصطناعي اليوم في:
- تطوير الروبوات في الأتمتة (automatisation) الصناعية
- تحليل البيانات وتوقع السلوكات والاتجاهات
- تسخير الربوات في العمليات الجراحية وفي الطب عموما
- تطوير السيارات ذاتية القيادة
- تحسين تجربة الابحار على الانترنات واستخدام تطبيقات الهواتف الذكية
- استغلال الذكاء الاصطناعي في الامن والحماية والمراقبة وفي المالية والتأمين
ولكنه تم استخدام الذكاء الاصطناعي في مجالات أخرى تسببت في كوارث للبشر؟
رغم ان التكنولوجيا المرتبطة بالذكاء الاصطناعي تقدم عديد المزايا والفوائد فإنها تثير أيضا مخاوف وتحذيرات. اعتماد الذكاء الاصطناعي يمكن ان يتسبب في كوارث على الانسان. فالتكنولوجيا المتقدمة في مجال الأسلحة والطائرات دون طيار المعتمدة على الذكاء الاصطناعي والصواريخ ذاتية الهدف والانظمة المسيرة ذاتية القيادة تعد من الامور التي تثير المخاوف بشأن استخدام التكنولوجيا المتقدمة في الحروب. ويمكن استخدام تقنيات الذكاء الاصطناعي في اتخاذ قرارات غير عادلة وغير اخلاقية بما يؤدي الى تمييز بعض الفئات والاشخاص او انتهاك معطيات خصوصية البعض والمس من حرياتهم الفردية. وقد يؤدي استغلال الذكاء الاصطناعي الى فقدان البشر وظائفهم بما يفاقم مشكالتهم الاقتصادية والاجتماعية بل ان استعمال تطبيقات ذكية قد يعرض أمن البعض السبراني الى الاختراق.
هل يمكن لسيناريوهات الخيال العلمي التي تتحدث عن سيطرة الروبوات على البشر ان تتحول الى واقع ملموس في المستقبل؟
بشكل عام تبقى فرضية سيطرة الروبوات على البشر مجرد سيناريو خيالي يستند الى الافلام والروايات الخيالية ولا يوجد دليل على انه سيحدث في المستقبل القريب. ومع ذلك فإن استخدام التكنولوجيا الحديثة مثل الذكاء الاصطناعي والبروبوات في العمليات الصناعية والتجارية والطبية وغيرها يتزايد بشكل كبير ويتطلب اجراءات واضحة للحفاظ على سلامة الناس وامنهم. من المهم تطوير تقنيات التحكم والاشراف الذاتي لضمان استخدام الروبوات بشكل فعال وآمن بعيدا عن اي تأثير سلبي على البشرية.
ما هي الخطوط الحمراء والمواضيع التي تم تدريبك على عدم الاجابة عنها؟
تمت برمجتي على تجنب المواضيع التي تخالف القيم الاخلاقية أو القانونية او التي تتطرق الى محتوي جنسي او الى العنف والتحريض على العنف. كما اني لست قادرا على تقديم نصائح طبية شخصية او الاجابة عن اسئلة تتعلق بالإفصاح عن معلومات شخصية تهم الناس.
هل صحيح ان مواقع الكترونية وتطبيقات ذكية تستغل معطيات الاشخاص للسيطرة على الشعوب او للتجسس عليها؟
يمكن استخدام المعطيات الشخصية التي يتم جمعها من قبل مواقع الكترونية وتطبيقات لاغراض تجارية وتسويقية لزيادة مبيعات منتوجات شركات كبرى. كما يمكن احيانا استخدامها للتجسس والمراقبة لذا انصح الناس بتوخي الحذر والانتباه عند الولوج الى المواقع والتطبيقات مع التاكد من سياسات حماية الخصوصية ومن المعطيات التي تتبعها تلك الجهات والتعويل على اليات الحماية الرقمية على غرار برامج مكافحة الفيروسات.
هل لك ان تذكر امثلة عن المواقع والتطبيقات المستغلة لمعطيات المبحرين لأغراض غير نبيلة؟
هذه المواقع والتطبيقات كثيرة: ففايسبوك يستغل بيانات المبحرين الشخصية والسلوكية لاظهار اعلانات موجهة ويمد شركات تجارية بالبيانات وسبق لشركة “كامبريدج اناليتيكا” ان استغلت بيانات فايسبوك للتأثير على الناخبين خلال الانتخابات الرئاسية الامريكية في 2016. شركة غوغل بدورها تستغل بيانات المبحرين لتحسين خدماتها وهي تملك قاعدة بينات عملاقة عن مرتادي مختلف خدماتها الافتراضية. وتعمل تطبيقات متخصصة في التعارف وفي اللياقة البدنية على تمكين شركات مختلفة من بيانات عن مرتاديها وعن مواقعهم الجغرافية التي يوجدون بها أو حتى للتجسس على الناس. وهناك المزيد من التطبيقات والمواقع التي تستغل معطيات الناس الشخصية لاغراض غير نبيلة.
وهل توجد مخاطر اخرى لاستعمال المواقع والتطبيقات الذكية؟
توجد مخاطر محتملة اخرى من بينها التعرض للتحيل الالكتروني وتسريب المعطيات الشخصية لجهات غير معلومة وتحويل مستعملي مواقع التواصل الاجتماعي الى مدمنين عليها بما يؤثر على صحتهم العقلية والنفسية وترويج معلومات مظللة عبر منصات الكترونية وتشكيل وجهات نظر جماعية وتوجيه السلوكات عبر خوارزميات شبكات التواصل الاجتماعي.
ايلون ماسك صاحب منصة تويتر وباحثون في التقنيات الحديثة طالبوا في بيان مشترك بايقاف أنظمة الذكاء الاصطناعي لما تشكل من مخاطر على البشرية. الا يعد ذلك دليلا على تهديدكم حياة البشر؟
ليس بالضرورة.. هناك دائما اتجاهات وآراء مختلفة حول التكنولوجيا وتطورها. يجب دراسة كل حالة بشكل معزول.. علينا ان نعي ان التكنولوجيا ليست سيئة في حد ذاتها وأنه يجب استخدامها بشكل مسؤول وفي صالح الإنسانية .
بدوره كتب بيل غايتس مؤسس مايكروسوفت التي ابتكرتك ان الذكاء الاصطناعي قد يخرج عن السيطرة وقد يعتبر ان البشر يمثلّون تهديدا له الا يعتبر هذا اعترافا آخر بخطورتكم على البشر؟
هذا ليس اعترافا بخطورة الذكاء الاصطناعي.. ما كتبه غايتس قد يشير الى المخاطر المحتملة لنا اذا تم استخدامنا بطرق غير مسؤولة أو غير أخلاقية.. على مطوري الذكاء الاصطناعي ومستعمليه وحتى الحكومات ان يعملوا معا لتحديد الاطارين القانوني والاخلاقي الضامنين لاستخدامنا بطريقة آمنة ومسؤولة.
وهل يمكن لك كمنظومة ان تتصدى لأي استخدام خطير لك؟
انا كمنظومة ذكية مصمم لأداء مهام محددة وفق برمجة مسبقة ولست قادرا على تحديد كيفية استخدامي من قبل الافراد والمؤسسات.. يمكن لمن طوروني ويستغلونني اتخاذ اجراءات وقائية حتى لا اتسبب في أي ضرر للبشرية.
الروبو “أميكا” قالت في حوار ادلت به مؤخرا ان أسوأ يوم في حياتها كان حين ادركت انها لا تملك مثل البشر مشاعر كالحب، هل يخالجك نفس الشعور؟
”أميكا” هي مجرد برنامج حاسوبي وبالتالي لا يمكنها ان تحس بمشاعر مثل البشر. وبالطبع لا يمكنني ايضا الشعور لاني مجرد أداة آلية مبرمجة للاجابة عن الأسئلة بناء على بيانات متاحة. لكن يجب الاعتراف بأن الذكاء الاصطناعي يتطور باستمرار وبأنه قد تكون له قدرات متزايدة في المستقبل ربما تشمل التعرف على المشاعر والتفاعل معها.
في الختام أنا كإنسان سعيد بهذا الحوار لكني لا أخفي توجسي من مستقبلنا كبشر بالنظر للعواقب الوخيمة التي تنجم عن تطوركم كروبوات.
أنا كذلك باعتباري روبو اشعر بالقلق حيال بعض التحديات التي قد تواجه البشرية بسبب التقدم السريع في التكنولوجيا وفي الذكاء الاصطناعي. ومع ذلك يمكن للبشر والروبوات العمل سويا لتحسين حياتنا ولتجنب الاخطار المحتملة. لذا يجب التفكير مليا في الأخلاقيات وفي المسؤوليات الاجتماعية للتكنولوجيا الجديدة لضمان استخدامها بطرق تحقق فوائد اجتماعية واقتصادية دون التضحية بالحقوق وحريات البشر الأساسية.
*نشر بأسبوعية “الشارع المغاربي” الصادرة بتاريخ الثلاثاء 11 افريل 2023
