أوروبا تقترح سوقا موحدة للبيانات

يمكن لأوروبا أن تصبح رائدة عالميا في مجال الذكاء الاصطناعي، لكن فقط إذا قامت بحماية مواطنيها وإشراك العاملين في عملية التنظيم والنشر. وفي هذا الصدد، يترك مشروع اللائحة الأخير للمفوضية الأوروبية كثيرا مما هو مرغوب فيه. وفقا لتقرير عايدا بونس ديل كاستيلو، باحثة أولى في وحدة فورسايت في بروكسل التابعة لمعهد الاتحاد التجاري الأوروبي.
تركز استراتيجية المفوضية الأوروبية للذكاء الاصطناعي على الحاجة إلى إرساء الثقة والتميز. وتجادل المفوضية بأن تنظيم الذكاء الاصطناعي الذي تم اقتراحه أخيرا، سيوجد الثقة في هذه التكنولوجيا الجديدة من خلال معالجة مخاطرها، بينما سيتبع التميز من الدول الأعضاء في الاتحاد الأوروبي في الاستثمار والابتكار. مع وضع هذين العاملين في الحسبان، من المفترض أن يتسارع امتصاص أوروبا للذكاء الاصطناعي.
لسوء الحظ، يبدو أن حماية الحقوق الأساسية لمواطني الاتحاد الأوروبي، التي يجب أن تكون الهدف الأساسي لتنظيم الذكاء الاصطناعي، هي اعتبار ثانوي، ويبدو أن حماية حقوق العمال لم يتم النظر فيها على الإطلاق.
يعد الذكاء الاصطناعي مكونا رئيسا في جدول الأعمال الرقمي لأوروبا، وتعد الحزمة التشريعية للجنة أمرا أساسيا للسوق الموحدة المقترحة للبيانات. يحدد مشروع اللائحة القواعد المتعلقة بإدخال أنظمة الذكاء الاصطناعي وتنفيذها واستخدامها. وهي تعتمد نهجا قائما على المخاطر، مع استخدامات غير مقبولة وعالية المخاطر ومحدودة ومنخفضة المخاطر.
وبموجب الاقتراح، تعد أنظمة منظمة العفو الدولية "عالية المخاطر" - تشكل مخاطر كبيرة على الصحة والسلامة أو الحقوق الأساسية للأشخاص - هي تخضع في المسبق لتقييم المطابقة التي يتعين الاطلاع بها من قبل المزود، دون التحقق المسبق من قبل جهة خارجية مختصة. تشمل المتطلبات مجموعات بيانات عالية الجودة، وممارسات حوكمة وإدارة سليمة للبيانات، وحفظ السجلات على نطاق واسع، وإدارة المخاطر المناسبة، والتوثيق الفني المفصل، وتعليمات المستخدم الشفافة، والإشراف البشري المناسب، والنتائج القابلة للتفسير، ومستوى عاليا من الدقة والمتانة والأمن السيبراني.
تقول اللجنة: "إن تعريفها للذكاء الاصطناعي، وكذلك النهج القائم على المخاطر الذي تقوم عليه مسودة اللائحة، يستندان إلى التشاور العام". لكن حقيقة أن الشركات الصناعية والتكنولوجية شكلت الأغلبية الساحقة من المشاركين في الكتاب الأبيض للذكاء الاصطناعي لـ2020 تشير إلى ممارسة بعيدة كل البعد عن الديمقراطية. هذه الشركات، بينما تتظاهر بتعزيز المعرفة والعلوم والتكنولوجيا، وجهت العملية التنظيمية في اتجاه يخدم مصالحها. فيما غاب صوت المجتمع، ولا سيما النقابات العمالية.
اللائحة لديها عديد من أوجه القصور. من بينها نهج اللجنة الضيق القائم على المخاطر، وغياب آلية الإنصاف، والفشل في معالجة مسألة المسؤولية عن الأضرار، التي تنطوي على أنظمة الذكاء الاصطناعي، والاعتماد على صناديق الحماية التنظيمية لتوفير بيئات آمنة لاختبار الأعمال الجديدة.
كما فشل المشروع أيضا من منظور حماية العمال في معالجة كثير من القصور، إذ إن التوجيه المخصص الذي يركز على الذكاء الاصطناعي في سياق التوظيف، الذي من شأنه حماية العمال "بما في ذلك أولئك العاملون في اقتصاد المنصة" وتمكينهم من ممارسة حقوقهم وحرياتهم على أساس فردي أو جماعي، سيكون بمنزلة أمر ثانوي فقط.
والواجب أن يعالج مثل هذا التوجيه عديدا من القضايا الرئيسة. بالنسبة إلى المبتدئين، يجب أن تحدد مسؤوليات أصحاب العمل في منع مخاطر الذكاء الاصطناعي، بالطريقة نفسها التي يلتزمون بها لتقييم مخاطر الصحة والسلامة المهنية. وتمتد مخاطر الذكاء الاصطناعي إلى أبعد من ذلك، لأنها تشمل الانتهاكات المحتملة للسلطة الإدارية الناشئة عن طبيعة علاقة العمل، فضلا عن المخاطر الأخرى على خصوصية العمال، والحقوق الأساسية، وحماية البيانات، والصحة العامة.
تعد حماية خصوصية العمال وحماية البيانات أمرا حيويا بالقدر نفسه، لأن الذكاء الاصطناعي متعطش للبيانات، والعمال مصدر مهم لها. تعد اللائحة العامة لحماية البيانات GDPR في الاتحاد الأوروبي أداة قوية تنطبق، من الناحية النظرية، على بيانات العمال في سياق التوظيف، بما في ذلك عندما يتم استخدامها بوساطة نظام الذكاء الاصطناعي. لكن من الناحية العملية، يكاد يكون من المستحيل على العمال ممارسة حقوقهم في اللائحة العامة لحماية البيانات تجاه صاحب العمل. يجب على الاتحاد الأوروبي تقديم أحكام إضافية لضمان قدرتها على ذلك.
من المهم أيضا جعل الغرض من خوارزميات الذكاء الاصطناعي قابلا للتفسير. هنا، لن تحمي أحكام الشفافية في الشركات العمال. بدلا من ذلك، يحتاج أصحاب العمل، كمستخدمين للخوارزميات، إلى حساب الضرر المحتمل الذي يمكن أن يحدثه نشرهم في مكان العمل، يمكن أن يؤدي استخدام القيم أو المتغيرات المتحيزة إلى تحديد سمات العمال، واستهداف أفراد معينين، وتصنيفهم وفقا "لمستوى الخطر" المقدر.
أولوية أخرى، هي ضمان أن العمال يمكنهم ممارسة "حقهم في التفسير". المعنى الضمني هنا، هو أن أرباب العمل سيكونون ملزمين باستشارة الموظفين قبل تنفيذ الخوارزميات، بدلا من إخبارهم بعد وقوعها. علاوة على ذلك، يجب أن تمكن المعلومات المقدمة العمال من فهم عواقب القرار الآلي، يجب أن يضمن التوجيه المخصص الجديد أيضا احترام حق "الإنسان في القيادة" في جميع التفاعلات بين الإنسان والآلة في العمل. يتضمن ذلك إعطاء الكلمة الأخيرة للبشر وشرح مصادر البيانات المسؤولة عن القرارات النهائية عندما يعمل البشر والآلات معا. يجب اعتبار النقابات العمالية كجزء من المكون "البشري" وتلعب دورا نشطا جنبا إلى جنب مع المديرين وفرق دعم تكنولوجيا المعلومات والمستشارين الخارجيين.
علاوة على ذلك، يجب على المشرعين في الاتحاد الأوروبي حظر مراقبة العمال باستخدام الخوارزميات. حاليا، تخضع مراقبة العمال للقوانين الوطنية التي غالبا ما تسبق القانون العام لحماية البيانات ولا تغطي تحليلات الأشخاص المتقدمة والمتطفلة. يمكن للأدوات التي تعمل بالذكاء الاصطناعي، مثل: القياسات الحيوية، التعلم الآلي، التحليل الدلالي، تحليل المشاعر، وتكنولوجيا استشعار المشاعر أن تقيس بيولوجيا الناس، وسلوكهم، وتركيزهم، وعواطفهم. لا تقوم هذه المراقبة الخوارزمية بإجراء مسح ضوئي للعمال بشكل سلبي، بل تقوم "بإفساد" حياتهم الشخصية، وبناء صورة فاعلة، ثم اتخاذ القرارات.
أخيرا، يحتاج العمال إلى أن يكونوا قادرين على ممارسة أعمالهم من خلال أن يصبحوا متعلمين بالذكاء الاصطناعي. إن تعليمهم المهارات الرقمية التقنية حتى يتمكنوا من تشغيل نظام معين لا يكفي، يتطلب فهم دور الذكاء الاصطناعي وتأثيره في بيئة عملهم أن يكون العمال على دراية وتعليم وانخراط نقدي في التكنولوجيا.
لا ينبغي أن يستند تنظيم أنظمة الذكاء الاصطناعي، ولا سيما تلك التي تعد عالية الخطورة، إلى التقييم الذاتي لمقدميها. يمكن لأوروبا أن تصبح رائدة عالميا في هذا المجال، وتعزز ثقة الجمهور الحقيقية في هذه التكنولوجيا الناشئة وقبولها، لكن فقط إذا كانت تحمي بشكل فعال، وتشرك مواطنيها وعمالها.
وفي هذا الصدد، فإن مشروع لائحة اللجنة يترك كثيرا مما هو مرغوب فيه. يتعين على البرلمان الأوروبي والدول الأعضاء في الاتحاد الأوروبي العمل الآن، وعلى وجه الخصوص، دمج حماية العمال في النسخة النهائية من هذه اللائحة الرئيسة.