رويلا خلف، رئيس تحرير الـFT، تختار قصصها المفضلة في هذه النشرة الأسبوعية. يحذر المتشائمون من الذكاء الاصطناعي من أن تعود النتيجة إلى تدمير البشرية – أو على الأقل جعل البشر غير ضروريين. ولكن ماذا لو كانت المخاوف الحقيقية أكثر عادية – أن أدوات الذكاء الاصطناعي تقدم أداءً سيئًا؟هذا ما شعرت به هيلكي شيلمان، صحفية وأستاذة في جامعة نيويورك، بعد قضاء خمس سنوات في التحقيق في أدوات يستخدمها الآن أصحاب العمل على نطاق واسع في التوظيف والفصل والإدارة. ومع ذلك، يوحد الكثير من النظم المتوفرة في السوق مزيدًا من الضرر من الجيد. على سبيل المثال، اختبارات الفيديو للمقابلات التي بحثت أنها تجد أنها قريبة بالنسبة لدور معين، حتى عندما تستبدل إجاباتها الأصلية المعقولة بعبارة مقولة بشكل مقطع “أحب العمل الجماعي” أو تتحدث بالكامل باللغة الألمانية.واجهت مشاكل أخرى تشمل دعم خاص للجنسيات معينة أو مشاهدة الإعجاب بأنشطة تميل إلى أن تكون الرجال هم السائدات فيها مثل البيسبول علامة على النجاح. وهناك أيضًا حالات للأداء الفائق الذي تم اختياره للفصل أو استبعاده تلقائيًا من المنافسة على وظائف كانوا مؤهلين لها، ببساطة لأنهم قد قاموا بأداء سيء في ألعاب عبر الإنترنت تستخدم لتسجيل النقاط على المرشحين.عندما تخطئ الخوارزميات – أحيانًا على نطاق كبير – يمكن أن يكون من الصعب بشكل لا يصدق على الأفراد معرفة السبب والسعي للحق وحتى العثور على شخص إنساني للتحدث إليه على الإطلاق. كتاب شيلمان هو قصة حذر لأي شخص فكر بأن الذكاء الاصطناعي سيزيل التحيز البشري من عملية الانتقاء. عليها أيضًا اقتراحات للرقيبين بشأن كيفية التأكد من اختبار أدوات الذكاء الاصطناعي قبل طرحها في السوق. لعلى أدنى مستوى، يمكن للمشرعين أن يفرضوا الشفافية على البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي وتقارير تقنية عن فاعليتها، كما تقول. في الغياب الإصلاحات الجذرية، يكون كتاب شيلمان قصة من دون تحقيق لأي شخص فكر بأن الذكاء الاصطناعي سيزيل التحيز البشري من العملية.
