آلة ميكافيلية تثير أسئلة أخلاقية حول الذكاء الاصطناعي

ما زلت أتذكر الكذبة الأولى لابنتي. حينها كانت تقف مستندة بظهرها إلى حائط غرفة المعيشة وفي يدها قلم تلوين، محاولة إخفاء خربشة كبيرة على الحائط. كان تبريرها للخربشة مبدعا بقدر خربشتها، "أبي فعل ذلك".
يعد الخداع مؤشرا مهما على التطور الإدراكي، لأنه يتطلب فهما للطريقة التي يفكر بها الآخرون ويتصرفون بها. هذه القدرة تظهر في سيسيرو، إلى حد ما، وهو نظام ذكاء اصطناعي مصمم للعب لعبة "دبلوماسي"، وهي لعبة استراتيجية زمن الحرب يتفاوض اللاعبون فيها ويقيمون تحالفات فيما بينهم ويخدعون ويحجبون المعلومات عن بعضهم بعضا، وأحيانا يستخدمون فيها التضليل. نظام سيسيرو الذي طورته شركة ميتا وجاءت تسميته على اسم الخطيب الروماني الشهير، حرض الذكاء الاصطناعي على لاعبين بشريين عبر الإنترنت - وتفوق على معظمهم.
وصول الذكاء الاصطناعي إلى مستوى يمكنه من ممارسة هذه اللعبة بكفاءة تضاهي البشر، بعد أن تم الكشف عنه أخيرا في مجلة "ساينس"، يفتح الباب أمام تفاعلات أكثر تعقيدا بين الإنسان والذكاء الاصطناعي، مثل تحسين مستوى برامج الدردشة الآلية "تشات بوت"، وإيجاد حلول أمثل للمشكلات التي تتطلب التوصل إلى حل وسط. لكن بالنظر إلى أن "سيسرو" بين لنا أن بإمكان الذكاء الاصطناعي، إذا لزم الأمر، استخدام تكتيكات ماكرة في سبيل تحقيق أهداف معينة، فإن تصميم آلة ميكافيلية يثير أيضا تساؤلا حول الحدود المسموحة في تفويض الخوارزميات - وما إذا كان باستطاعتنا استخدام تكنولوجيا مشابهة لها في أي شأن دبلوماسي في العالم الحقيقي.
في العام الماضي طلب الاتحاد الأوروبي إجراء دراسة حول استخدام الذكاء الاصطناعي في الدبلوماسية وتأثيره المحتمل في المسائل الجيوسياسية. قال هوما شاه، خبير أخلاقيات الذكاء الاصطناعي في جامعة كوفنتري في المملكة المتحدة، "نحن البشر لا نجيد دائما حل النزاعات. إذا كان بإمكان الذكاء الاصطناعي استكمال المفاوضات بين البشر وإيقاف ما يحدث في أوكرانيا، فلم لا نستخدمه؟".
يمكن ممارسة لعبة "دبلوماسي" مثل لعبة الشطرنج، إما على لوحة مخصصة وإما عبر الإنترنت. يتنافس فيها سبعة لاعبين على الأكثر للسيطرة على مناطق أوروبية مختلفة. في الجولة الأولى من الدبلوماسية الفعلية، يمكن للاعبين عقد تحالفات أو اتفاقيات للاحتفاظ بمراكزهم أو تحريك قواتهم، سواء أكان ذلك بداعي الهجوم أو الدفاع عن حليف آخر.
وتعد هذه اللعبة تحديا كبيرا في الذكاء الاصطناعي لأنه، إضافة إلى الاستراتيجية، يجب أن يكون اللاعبون قادرين على فهم دوافع اللاعبين الآخرين. هناك تعاون ومنافسة، مع خطر التعرض للخيانة.
هذا يعني، على عكس لعبة الشطرنج أو لعبة جو، أن التخاطب مع اللاعبين الآخرين له أهميته. لذلك نظام سيسيرو يجمع بين التفكير الاستراتيجي المستخدم في الألعاب التقليدية والقدرة على المعالجة الطبيعية للغة. أثناء اللعبة، يحدد الذكاء الاصطناعي الطريقة التي قد يتصرف بها اللاعبون الآخرون في المفاوضات. بعد ذلك، من خلال إنشاء رسائل نصية مصوغة بشكل مناسب، يقنع "سيسيرو" اللاعبين الآخرين أو يجبرهم على عقد شراكات أو تنازلات من أجل تنفيذ خطة اللعب الخاصة به. درب العلماء في شركة ميتا "سيسيرو" مستخدمي بيانات من الإنترنت تخص تقريبا 40 ألف لعبة، كما تدرب النظام على 13 مليون رسالة في اللعبة.
بعد أن لعب النظام ضد 82 شخصا في 40 مباراة في دوري لا يستخدم الأسماء الحقيقية للاعبين عبر الإنترنت، احتل نظام سيسيرو مرتبة من بين أفضل 10 في المائة من المشاركين بعد أن لعبوا أكثر من مرة. لكن كانت هناك أخطاء، في بعض الأحيان كان النظام يبعث برسائل متناقضة حول خطط الغزو، الأمر الذي أربك المشاركين في اللعبة. لكن لم يشتبه أي خصم في أن "سيسيرو" قد يكون روبوتا سوى مشترك واحد، "وقد تم الكشف عن كل ذلك فيما بعد".
وصف البروفيسور ديفيد ليزلي، عالم أخلاقيات الذكاء الاصطناعي في جامعة كوين ماري ومعهد آلان تورينغ، كلاهما في لندن، نظام سيسيرو بأنه يشبه "فرانكنشتاين لكنه بارع جدا من الناحية التكنولوجية": مزيج مثير للإعجاب لتكنولوجيات متعددة لكنه أيضا يمنحنا نظرة إلى مستقبل مقلق. أفاد تقرير صدر عن اللجنة البرلمانية البريطانية لـ2018 بأنه ينبغي عدم منح الذكاء الاصطناعي مطلقا "السلطة المستقلة لإيذاء البشر أو تدميرهم أو خداعهم".
أكثر ما يقلق ليزلي هو الخداع عندما يعتقد شخص ما خطأ، كما اعتقد أحد الخصوم في المباراة، أن هناك إنسانا آخر يلعب معه من وراء الشاشة. يمكن لهذا أن يمهد الطريق للتلاعب بالناس من خلال التكنولوجيا.
الأمر الثاني الذي يقلقه هو الذكاء الاصطناعي الذي تدرب على المكر مع الافتقار إلى الإحساس بالمفاهيم الأخلاقية الأساسية، مثل الصدق والواجب والحقوق والالتزامات. يقول ليزلي، "لقد منح النظام القدرة على الخداع لكنه لا يعمل في الحياة الأخلاقية لمجتمعنا. للتوضيح أكثر، إن نظام الذكاء الاصطناعي، في المستوى الأساسي، هو نظام ليست لديه نزعة أخلاقية". كما يعتقد ليزلي أن الذكاء الذي يشبه ذكاء سيسيرو يمكن تطبيقه بشكل أفضل للتعامل مع المشكلات العلمية الصعبة مثل تحليل الطقس، وليس في القضايا الجيوسياسية الحساسة.
من المثير للاهتمام، أن العلماء الذين ابتكروا نظام سيسيرو يدعون أن رسائله، التي خضعت للتدقيق للتخلص من اللغة المسمومة، قد انتهى بها المطاف وأصبحت "صادقة ومفيدة إلى حد كبير" للاعبين الآخرين، وقد تكهنوا بأن النجاح قد يكون سببه اقتراح خطوات مفيدة للطرفين وشرحها. لكن لعلنا عوضا عن تعجبنا من مدى براعة أسلوب نظام سيسيرو في لعبة "دبلوماسي" ضد البشر، ينبغي أن نشعر باليأس من مدى ضعف البشر في ممارسة الدبلوماسية في الحياة الواقعية.