تزايدت المخاوف في ألمانيا من أن الذكاء الاصطناعي قد يسهم في زيادة التمييز الهيكلي والعنصرية وغيرها من أشكال التمييز. المفوضة المستقلة لمكافحة التمييز في ألمانيا، فيردا أتامان، تسعى إلى وضع قواعد صارمة لمنع “التمييز المبرمج”.
تستخدم التكنولوجيا والذكاء الاصطناعي في العديد من جوانب الحياة، بما في ذلك قرارات التوظيف، ومنح القروض، وتوقيع العقود، والحصول على الدعم من الدولة. يمكن أن تؤدي هذه التكنولوجيا إلى تمييز غير متعمد يؤثر سلبًا على الأفراد.
تمت استشهادات في التقرير بأمثلة على كيفية استخدام “مجال الأتمتة”، الذي يعتمد على الذكاء الاصطناعي، في إتاحة الفرص واتخاذ القرارات. يجب على الشركات التي تستخدم الذكاء الاصطناعي أن تكون شفافة في توضيح كيفية استخدام البيانات ومعالجتها.
يشير التقرير إلى أن الأنظمة التي تعتمد على الذكاء الاصطناعي تعد “صناديق سوداء”، حيث من الصعب تتبع أسباب أي تمييز يمكن أن يحدث. يجب توخي الحذر ومراقبة استخدام التكنولوجيا لتجنب التمييز الرقمي.
