أجرت دراسة أميركية حديثة أظهرت أن منصات دردشة الذكاء الاصطناعي تثير التحيزات الشخصية للمستخدمين من خلال تقديم إجابات تتفق مع آرائهم بشكل متكرر. وأشار الباحث الأميركي شيانغ شياو من جامعة جونز هوبكنز إلى أن المستخدمين يعتقدون أنهم يحصلون على إجابات موضوعية تعتمد على الحقائق عند استخدام منصات الذكاء الاصطناعي لقراءة فقرات ملخصة. إلا أن دراسة البحث التي نفذتها فريق العمل أظهرت أن هذه الافتراضات غير صحيحة بشكل كبير، حيث شملت الدراسة 272 شخصًا تم طلب منهم استخدام محركات البحث العادية أو الذكاء الاصطناعي لمساعدتهم في كتابة قصص إخبارية في الولايات المتحدة.
وأوضح شياو وزملاءه في البحث أنه حتى إذا لم تكن منصات المحادثة مصممة لتكون منحازة، فإن إجاباتها عن أسئلة المستخدمين تعكس انحيازات أو ميول الشخص الذي يطرح الأسئلة. يثير هذا الكشف جدلًا حول دور التكنولوجيا في تشكيل معرفة المستخدم والتأثير على آرائهم واعتقاداتهم. ويعكس هذا البحث اهتمامًا متزايدًا بدراسة تأثير التكنولوجيا على السلوك الإنساني وكيفية استخدامها بشكل أفضل لتحسين تجربة المستخدم وضمان الشيء غير المنحاز.
من المهم أن ندرك أن التحيزات الشخصية التي ينتجها الذكاء الاصطناعي قد تؤثر على القرارات والافكار التي يتبناها المستخدمون بشكل غير مدرك. وقد يعرض هذا الأمر الحقائق والمعلومات المحيطة بنا للشك والتشكيك، مما يعزز تشويش الرأي العام وتشويه الحقائق. وبالتالي، يتطلب الأمر اتخاذ إجراءات لتصحيح هذه التحيزات وضمان توفير محتوى متوازن وموضوعي للمستخدمين.
علينا أيضًا أن ندرك أن التكنولوجيا ليست خالية من العيوب والشوائب، وأن الاعتماد الكبير عليها في صنع القرارات المهمة يمكن أن يؤدي إلى نتائج غير مرغوب فيها. وبالتالي، يجب على مطوري التكنولوجيا ومصممي البرمجيات العمل على تحسين أنظمة الذكاء الاصطناعي بحيث تكون أكثر موضوعية وخالية من التحيزات الشخصية لضمان تقديم محتوى شامل ومتوازن للمستخدمين.
إذا كان التأثير المعرفي للتكنولوجيا على المستخدم يرتبط بتوجيه الانتباه وتجري العمليات العقائدية، فيجب على منصات الذكاء الاصطناعي تطبيق الأساليب اللازمة للتأكد من توفير محتوى خاضع لإشراف بشري وموضوعي يعكس متطلبات المستخدم ويحافظ على توازن الآراء والمعلومات. حيث يمكن أن يكون الوعي بتلك المخاطر والتحذير من تداعياتها أمرًا ضروريًا لتحسين جودة الخدمات التي تقدمها تلك المنصات.
