تاريخيا ، عمل الذكاء الاصطناعي مثل الصندوق الأسود. عرف بعض المطورين كيفية عمل الخوارزميات في الداخل ، ولكن بالنسبة للآخرين ، ظلت آليات الذكاء الاصطناعي غامضة. طلبت الشركات من المستخدمين الثقة في أن رؤى الذكاء الاصطناعي كامل ودقيق. لكن من دون فهم المكان الذي نشأت فيه هذه الأفكار - أي البيانات والمنطق الذي يقوم على أساسها - من الصعب الوثوق بأن الذكاء الاصطناعي ذكي بقدر ما هو عليه.
هذا النقص في الشفافية أمر غير مقبول على نحو متزايد حيث ينتقل الذكاء الاصطناعي إلى المزيد من جوانب حياتنا اليومية. أصبح الذكاء الاصطناعي على علم بكل شيء بدءًا من قرارات التوظيف وحتى إجراءات الشرطة. مع استمرار هذه الاتجاهات ، يثير الذكاء الاصطناعي أسئلة صعبة حول التحيز والإنصاف والثقة في الآلات. على سبيل المثال ، تم العثور على تحيز ضد المرأة في أداة تجنيد الذكاء الاصطناعي التي طورتها أمازون. هذه النتيجة تشير إلى أن التكنولوجيا كانت أقل موضوعية بكثير من المقصود.
بالفعل ، بدأت مجموعات مثل منظمة التعاون الاقتصادي والتنمية في التجمع حول جعل الذكاء الاصطناعي أكثر شفافية. تتيح اللائحة العامة لحماية البيانات ، والتي تم إقرارها في الاتحاد الأوروبي ، للأفراد معرفة كيفية استخدام الخوارزميات لبياناتهم. هاتان الخطوتان في الاتجاه الصحيح وإشارات واضحة للمكان الذي يتجه فيه الذكاء الاصطناعي. ولكن هناك أيضًا مخاطر تجعل الذكاء الاصطناعي أكثر شفافية.
لماذا يزدهر الذكاء الاصطناعي في الظل؟
عندما يصبح الذكاء الاصطناعي أكثر شفافية ، يصبح أيضًا أكثر عرضة للتلاعب. فكر في الأمر كـ خزنة- بمجرد أن تكشف عن كيفية عمل آلية القفل ، تصبح الخزنة أكثر سهولة للأختراق.من السهل أن نتخيل نفس العدد الذي ينشأ من الذكاء الاصطناعي مع تعرضه لأعماله الداخلية. بمجرد فهم الجهات الفاعلة السيئة لكيفية عمل الخوارزميات ، يمكن أن يقوموا بلعبة النظام لتحقيق النتائج المرجوة الخاصة بهم عن طريق تغذية مجموعات البيانات التي تمت معالجتها عن طريق الذكاء الاصطناعي أو عن طريق تعديل المنطق الأساسي للحكم لصالحهم.
هناك أيضًا أسئلة يجب مراعاتها بشأن الملكية الفكرية. تقوم الشركات الخاصة بتطوير غالبية الخوارزميات ، وتعتبر طريقة عملها سرًا للشركة - تمامًا مثل وصفة كوكا كولا. اعترافًا بأن هذه مشكلة حساسة ، دعا البعض مطوري الذكاء الاصطناعى إلى إطلاق شفرة المصدر الخاصة بهم إلى المنظمين أو مراجعي الحسابات الذين يمكنهم توفير الرقابة. لسوء الحظ ، لا يعمل هذا الحل النصفي كثيرًا على إرضاء المطورين أو المستخدمين النهائيين.
بغض النظر عن الحل الذي يتحقق ، هناك شيء واحد واضح: الشفافية الكاملة في الذكاء الاصطناعي يمكن أن تؤدي إلى مشكلة. لكي تعمل هذه التقنية ، يجب أن تظل بعض الأشياء غير معروفة.
سوف يحقق الذكاء توازنًا دقيقًا بين الشفافية والسرية. ما شكل هذا يبقى أن نرى بعد جولات لا مفر منها من العطاء والأخذ بين القطاعين العام والخاص والمستهلك. على الرغم من مقدار ما زال مجهولاً ، إلا أن بعض التطورات تبدو محتملة.
يتضمن تحسين شفافية الذكاء الاصطناعي أكثر من مجرد فتح الأبواب. فهم ما تفعله الخوارزميات في الواقع يتطلب تدقيقًا مكثفًا.
سوف يتحسن الذكاء الاصطناعى بطرق لا تعد ولا تحصى على مدى العقد المقبل لأنه تدخل في جوانب الحياة اليومية. ولكن أكبر التغييرات سوف تنطوي على مواقفنا. مع اكتساب الذكاء الاصطناعي القدرة على بذل المزيد من الجهد - وإخبارنا كيف يفعل ذلك - سنعطيه بسعادة مسؤوليات جديدة دون القلق بشأن مخاطر التخلي عن السيطرة.
أفرأ المزيد عن الذكاء الاصطناعي (Artificial intelligence):