كل من هذه الأمثلة تلقي بالمشاكل المحتملة عندما يتعلق الأمر بحماية حقوق الإنسان لدينا. يمكن أن تؤدي أعمال الشرطة التنبؤية إذا لم يتم تصميمها بشكل صحيح إلى التمييز على أساس العرق أو الجنس .
تنطبق قواعد حماية الخصوصية والبيانات على المعلومات المتعلقة بصحتنا. وبالمثل قد يؤدي التسجيل المنتظم واستخدام الموقع الجغرافي للهواتف الذكية لدينا إلى انتهاك قواعد الخصوصية وحماية البيانات وقد يؤدي ذلك إلى مخاوف بشأن المراقبة الرقمية من قِبل السلطات العامة.
مهندسو البرمجيات مسؤولون عن تصميم الخوارزميات خلف كل هذه الأنظمة. مهندسو البرمجيات الذين يمكّنون المساعدين الأذكياء للإجابة على أسئلتنا بشكل أكثر دقة ، ويساعدون الأطباء على تحسين الكشف عن المخاطر الصحية ، والسماح لضباط الشرطة بتحديد جيوب مخاطر الجريمة المتزايدة بشكل أفضل.
لا يتلقى مهندسو البرمجيات عادة التدريب في مجال قانون حقوق الإنسان. ولكن مع كل سطر من التعليمات البرمجية قد يكونوا يفسرون وينفذون بل وحتى ينتهكون مفاهيم قانون حقوق الإنسان الرئيسية - دون حتى معرفة ذلك.
ولهذا السبب من الأهمية أن نعلّم قانون حقوق الإنسان لمهندسي البرمجيات. وفي وقت سابق من هذا العام أجبر التنظيم الجديد للاتحاد الأوروبي الشركات على أن تصبح أكثر انفتاحًا مع المستهلكين حول المعلومات التي يحملونها.و تعرف بأسم قوانين الـ GDPR .
زادت قوانين الـ GDPR القيود المفروضة على ما يمكن للمنظمات القيام به مع بياناتك ، ويوسع حقوق الأفراد للوصول إلى البيانات والتحكم فيها. هذه التحركات نحو الخصوصية هي فرص كبيرة لدمج الأطر القانونية في التكنولوجيا. لكنهم لا يكفيون لوحدهم.
على سبيل المثال ، يمكن أن تساعد معرفة قانون حقوق الإنسان لمطوري البرمجيات على فهم ما هو التمييز غير المباشر ولماذا يحظره القانون. (يحظر أي تمييز على أساس العرق أو اللون أو الجنس أو اللغة أو الدين أو الرأي السياسي أو أي رأي آخر أو الأصل القومي أو الاجتماعي أو الملكية أو الارتباط بأقلية قومية أو ولادة أو أي وضع آخر بموجب المادة 14 من الاتفاقية الأوروبية لحقوق الإنسان .)
يحدث التمييز المباشر عندما يعامل الفرد معاملة أقل تفضيلاً بناءً على واحد أو أكثر من هذه الأسس المحمية. يحدث التمييز غير المباشر عندما تؤدي القاعدة المحايدة في المظهر إلى معاملة أقل تفضيلاً للفرد (أو مجموعة من الأفراد).
وبالمثل ، فإن فهم تعقيدات الحق في محاكمة عادلة ونتيجتها الطبيعية ، بافتراض البراءة ، قد يؤدي إلى خيارات أفضل مستنيرة في تصميم الخوارزميات.
ويمكن أن يساعد ذلك في تجنب احتمال أن تفترض الخوارزميات أن عدد الاعتقالات التي تقوم بها الشرطة في حي متعدد الأعراق يرتبط بعدد الإدانات الجنائية الفعالة.
والأهم من ذلك أنها ستساعدهم في تطوير خيارات غير متحيزة لمجموعات البيانات التي ليست وكلاء للتمييز على أساس العرق .
على سبيل المثال ، يمكن استخدام بيانات الثروة والدخل جنبا إلى جنب مع بيانات الموقع الجغرافي كوكيل لتحديد السكان من خلفية عرقية معينة إذا كانوا يميلون إلى التركيز في حي معين.
وبالمثل ، قد يؤدي الفهم الأفضل لكيفية عمل الأطر القانونية لحقوق الإنسان إلى حفز إيجاد حلول لتعزيز الامتثال للقواعد القانونية.
على سبيل المثال هناك حاجة ماسة لحلول المعالجة التكنولوجية الواجبة ، والتي يمكن للأفراد من خلالها بسهولة تحدي القرارات التي تتخذها السلطات العامة والتي تقوم بها السلطات العامة والتي تؤثر عليهم بشكل مباشر. قد يكون هذا هو حال الآباء الذين قد يتم تحديدهم بشكل خاطئ كمنتهكين محتملين للأطفال بواسطة خوارزميات معتمة تستخدمها السلطات المحلية.
وبالتالي يمكن أن يتيح الحل المناسب من خلال التصميم للأفراد إمكانية تحدي هذه القرارات بسهولة قبل قبول العرض.
مع تطور مجتمعاتنا المعاصرة بصورة حثيثة نحو تطبيقات الذكاء الاصطناعي المكثفة يجب علينا أن نضع في اعتبارنا أن البشر الذين يقفون خلف ستارة الذكاء الاصطناعى لديهم القدرة على اتخاذ قرارات (خاطئة) مستنيرة تؤثر علينا جميعًا.
لقد حان الوقت لأن تعود الموارد والطاقة نحو تثقيفهم ليس فقط في أحدث التقنيات - ولكن أيضًا في قواعد حقوق الإنسان ذات الصلة.
المصدر الملهم لهذا المقال الحصري على موقع الراقي للمعلوميات هو المحاضر الأقدم في القانون Ana Beduschi من جامعة إكستر . شكراً لكم على قرائة المقال ولاتنسى مشاركتهٌ في حال أفادك و نال إعجابك .