مهندسو «سيلكون فالي» بارعون في البرمجة غير مؤهلين لتنظيم الحياة

العام الماضي، قدمت شركة البيانات الأمريكية القوية بالانتير، الوثائق اللازمة لطرح عام أولي. وقد اشتملت الوثائق على رسالة رائعة للمستثمرين من أليكس كارب، الرئيس التنفيذي، التي تستحق التذكر الآن.
كتب كارب "لقد أوكل مجتمعنا بشكل فعال عملية بناء البرمجيات التي تجعل عالمنا ممكنا لمجموعة صغيرة من المهندسين في ركن منعزل من البلاد. السؤال هو، ما إذا كنا نريد أيضا إيكال الفصل في بعض الأسئلة الأخلاقية والفلسفية الأكثر أهمية في عصرنا".
وأضاف "قد تعرف نخبة المهندسين في سيليكون فالي أكثر من معظم الناس عن بناء البرمجيات. لكنهم لا يعرفون مزيدا عن كيفية تنظيم المجتمع أو ما تتطلبه العدالة". بعبارة أكثر صراحة، قد يكون التقنيون بارعين وأذكياء فيما يقومون به، لكن هذا لا يجعلهم مؤهلين لتنظيم حياتنا. لقد كان تصريحا مذهلا من شخص هو نفسه خبير تقني كبير، والذي أثارت الروابط العسكرية والاستخبارية الواسعة لشركته الجدل.
إنها عاطفة مفيدة لسببين على الأقل. أولا – والأكثر وضوحا – الموجة الجديدة من الجدل التي اندلعت حول الشركة التي كانت تعرف سابقا باسم فيسبوك، بعد أن أصدر المبلغ عن المخالفات فرانسيس هوجن وثائق، تشير إلى أن عملاقة وسائل التواصل الاجتماعي تتجاهل التحذيرات الداخلية حول الضرر الاجتماعي الناجم عن منتجاتها. وقام الرئيس التنفيذي مارك زوكربيرج بتحويل الانتباه عن طريق تغيير اسم الشركة إلى ميتا، والتخطيط لاستثمار المليارات في إنشاء "ميتافيرس" (العالم الافتراضي)، والذي يقول: إنه سيتم بناؤه بطريقة أخلاقية.
ومع ذلك، فإن ما تم الكشف عنه حول شركة فيسبوك لا يوحي بالثقة في قدرته على القيام بذلك. ليس أقلها أن معظم الناس ليس لديهم أدنى فكرة عن الشكل الذي قد يبدو عليه الميتافيرس، ناهيك عن الكيفية التي يمكن لأي شخص ترميزه. الإغراء هنا هو أننا، مرة أخرى، سنقوم "بإيكال" اتخاذ القرارات الرئيسة "لنخبة المهندسين"، كما يدعوهم كارب.
المسألة الثانية، التي يحتمل أن تكون أكثر خطورة، هي الذكاء الاصطناعي. هذا الخريف، أطلق ثلاثة كتاب مثيرين للإعجاب – إريك شميدت، الرئيس التنفيذي السابق لشركة جوجل، وهنري كيسنجر، وزير الخارجية الأمريكي السابق، ودانييل هوتنلشر، أستاذ في الذكاء الاصطناعي – كتاب: ذا أيج أوف أيه أي، وهو كتاب يحذر من أنه "مع تنامي دور الذكاء الاصطناعي في تحديد وتشكيل فضاء المعلومات، يصبح من الصعب توقع دوره و قد تتغير آفاق المجتمع الحر، وحتى الإرادة الحرة".
ومع ذلك، يظل تطوير الذكاء الاصطناعي في الغالب في أيدي هؤلاء "المهندسين في ركن منعزل من البلاد". ويبدو أن معظمنا سعيد بإيكال اتخاذ القرارات لهم، نظرا لأن لدينا فكرة ضئيلة عما ينطوي عليه الأمر.
لا تسئ فهمي؛ لا أكره فكرة الذكاء الاصطناعي. على العكس، تستطيع هذه التكنولوجيا أن تكون قوة غير اعتيادية للقيام بالأمور الجيدة، على سبيل المثال، مساعدة الأطباء على الكشف عن مرض، أو المستثمرين على فحص الميزانيات العمومية للشركات بحثا عن المخاطر. في الأسبوع الماضي، أسر مسؤول كبير في "فيسبوك" لي على أن الذكاء الاصطناعي يمكن أن يكون أيضا سلاحا قويا لمحاربة المعلومات المضللة، حيث يمكنه تصفح كمية هائلة لا يمكن تصورها من البيانات، والبحث عن المنشورات المسيئة وإزالتها.
من الممكن تماما أيضا الاعتقاد أنه، في بعض الأحيان، يكون المهندسون في وضع أفضل لاتخاذ قرارات بشأن استخدام الذكاء الاصطناعي من الجمهور الأوسع أو السياسيين، نظرا إلى أن الأخير (السياسيين) يميلون لإظهار البؤس تجاه الإحصاءات والاحتمالات، كما يشير عالم النفس المعرفي ستيفن بينكر في كتابه الجديد.
خذ السيارات ذاتية القيادة على سبيل المثال. إذا قتلت هذه السيارات عددا صغيرا من الركاب، فقد يكون رد الفعل الأولي لمعظم السياسيين – المدفوعين من قبل الجمهور – هو حظر مثل هذه السيارات. قد يرد أحد المهندسين بالقول: إن البشر يقتلون بالفعل عددا أكبر بكثير من البشر على الطرق، ما يجعل من "المنطقي" تبني السيارات التي يقودها الذكاء الاصطناعي، حتى مع وجود مخاطر لا مفر منها.
لكن في حالات أخرى، قد لا يفهم المهندسون الأمر كما يجب؛ فقد يكونون غير مستبصرين في السياق الاجتماعي أو في الأعراف على وجه التحديد، لأنهم يرون الحياة من خلال عدسة التكنولوجيا النمطية. وكما لاحظت عالمة الأنثروبولوجيا جي أيه إنغليش - لويك في دراسة عن وادي السيليكون: "في مجتمع من المنتجين التقنيين... تصبح التكنولوجيا نفسها هي العدسة التي من خلالها يرى العالم ويتم تعريفه". وتجادل بأنه في هذه البيئة تندمج كل من مصطلحات "مفيدة" و "فعالة" و "جيدة" في مفهوم أخلاقي واحد. وهذا، بالمناسبة، هو سبب أهمية تعليق كارب الآن. إن الخبر السار هو، أن الأشخاص في منصبه قد استعدوا أخيرا للحديث عن ذلك. والخبر الأفضل منه هو، أن هناك تجارب جارية لمكافحة رؤية النفق التقني. وفي وادي السيليكون، على سبيل المثال، توظف شركات التكنولوجيا الكبرى علماء الاجتماع. فيما تظهر على مراكز ابتكار أخرى علامات واعدة أيضا. وفي كانبيرا، افتتحت جينيفيف بيل، نائبة الرئيس السابق في شركة إنتل، معهدا يدمج فيه الذكاء الاصطناعي في علوم الحاسوب مع العلوم الاجتماعية. وتهدف هذه المبادرات إلى مزج الذكاء الاصطناعي مع ما أسميه "الذكاء الأنثروبولوجي" - وهو نوع ثان من "الذكاء الاصطناعي" الذي يقوم بتوفير فهم للسياق الاجتماعي.
أما الخبر السيئ، فهو أن هذه المبادرات لا تزال متواضعة، ولا يزال هناك عدم تناسق كبير في المعلومات بين المهندسين والآخرين. إن ما نحتاجه هو جيش من المترجمين الثقافيين الذين سيحاربون ميولنا، لأن نتكل ذهنيا في معالجة القضايا إلى النخبة الهندسية. ولربما يود المبتكرون التقنيون من أمثال كارب وشميدت استخدام بعض ثروتهم الطائلة لتمويل ذلك.