التحيز والإنصاف في الذكاء الاصطناعي - كتاب الذكاء الإصطناعي - الصف 12 - الفصل 1 - المملكة العربية السعودية

التحيز والإنصاف في الذكاء الاصطناعي Bias and Fairness in AI

يمكن أن يظهر التحيز (Bias) في أنظمة الذكاء الاصطناعي عندما تكون البيانات المستخدمة لتدريب الخوارزمية ناقصة التمثيل أو تحتوي على تحيزات أساسية، ويمكن أن يظهر في أية بيانات تمثلها مخرجات النظام، فعلى سبيل المثال لا الحصر: المنتجات والآراء والمجتمعات والاتجاهات كلها يمكن أن يظهر فيها التحيز.

في مجال الذكاء الاصطناعي، يدل التحيز على ميل خوارزميات التعلم الآلي إلى إنتاج نتائج تحابي بدائل، أو فئات معينة، أو تظلمها بأسلوب منهجي؛ مما يؤدي إلى القيام بتنبؤات خاطئة وإلى احتمالية التمييز ضد منتجات معينة أو فئات بشرية محددة.

يُعد نظام التوظيف الآلي الذي يستخدم الذكاء الاصطناعي لفحص المرشحين للوظائف من أبرز الأمثلة على الخوارزمية المتحيزة. افترض أن الخوارزمية مدربة على بيانات متحيزة، مثل أنماط التوظيف التاريخية التي تفضل مجموعات ديموغرافية معينة، ففي هذه الحالة قد يعمل الذكاء الاصطناعي على استمرار تلك التحيزات ويستبعد المرشحين المؤهلين بشكل غير عادل من بين المجموعات متجاهلاً الفئات غير الممثلة جيدًا في مجموعة البيانات. على سبيل المثال، افترض أن الخوارزمية تفضل المرشحين الذين التحقوا بجامعات النخبة، أو عملوا في شركات مرموقة، ففي هذه الحالة قد يلحق ذلك الضرر بالمرشحين الذين لم يحظوا بتلك الفرص، أو الذين ينتمون إلى بيئات أقل حظًا، ويمكن أن يؤدي ذلك إلى نقص التنوع في مكان العمل وإلى استمرارية عدم المساواة، ولذلك من المهم تطوير واستخدام خوارزميات توظيف للذكاء الاصطناعي تستند على معايير عادلة وشفافة، وغير متحيزة.

يشير الإنصاف (Fairness) في الذكاء الاصطناعي إلى كيفية تقديم أنظمة الذكاء الاصطناعي لنتائج غير متحيزة ومعاملتها لجميع الأفراد والمجموعات معاملة منصفة، ولتحقيق الإنصاف في الذكاء الاصطناعي يتطلب ذلك تحديد التحيزات في البيانات والخوارزميات وعمليات اتخاذ القرار ومعالجتها. على سبيل المثال، تتمثل إحدى طرائق تحقيق الإنصاف في الذكاء الاصطناعي في استخدام عملية تسمى إلغاء الانحياز (Debiasing)، حيث يتم تحديد البيانات المتحيزة وإزالتها أو تعديلها بما يضمن وصول الخوارزمية إلى نتائج أكثر دقة دون تحيز.

جدول 6.1: العوامل التي تحدد تحيز أنظمة الذكاء الاصطناعي

وزارة التعليم Ministry of Education 2023 - 1447

302

التحيز والإنصاف في الذكاء الاصطناعي Bias and Fairness in AIيمكن أن يظهر التحيز (Bias) في أنظمة الذكاء الاصطناعي عندما تكون البيانات المستخدمة لتدريب الخوارزمية ناقصة التمثيل أو تحتوي على تحيزات أساسية، ويمكن أن يظهر في أية بيانات تمثلها مخرجات النظام، فعلى سبيل المثال لا الحصر: المنتجات والآراء والمجتمعات والاتجاهات كلها يمكن أن يظهر فيها التحيز.--- SECTION: تحيز الذكاء الاصطناعي (AI Bias): --- في مجال الذكاء الاصطناعي، يدل التحيز على ميل خوارزميات التعلم الآلي إلى إنتاج نتائج تحابي بدائل، أو فئات معينة، أو تظلمها بأسلوب منهجي؛ مما يؤدي إلى القيام بتنبؤات خاطئة وإلى احتمالية التمييز ضد منتجات معينة أو فئات بشرية محددة.يُعد نظام التوظيف الآلي الذي يستخدم الذكاء الاصطناعي لفحص المرشحين للوظائف من أبرز الأمثلة على الخوارزمية المتحيزة. افترض أن الخوارزمية مدربة على بيانات متحيزة، مثل أنماط التوظيف التاريخية التي تفضل مجموعات ديموغرافية معينة، ففي هذه الحالة قد يعمل الذكاء الاصطناعي على استمرار تلك التحيزات ويستبعد المرشحين المؤهلين بشكل غير عادل من بين المجموعات متجاهلاً الفئات غير الممثلة جيدًا في مجموعة البيانات. على سبيل المثال، افترض أن الخوارزمية تفضل المرشحين الذين التحقوا بجامعات النخبة، أو عملوا في شركات مرموقة، ففي هذه الحالة قد يلحق ذلك الضرر بالمرشحين الذين لم يحظوا بتلك الفرص، أو الذين ينتمون إلى بيئات أقل حظًا، ويمكن أن يؤدي ذلك إلى نقص التنوع في مكان العمل وإلى استمرارية عدم المساواة، ولذلك من المهم تطوير واستخدام خوارزميات توظيف للذكاء الاصطناعي تستند على معايير عادلة وشفافة، وغير متحيزة.يشير الإنصاف (Fairness) في الذكاء الاصطناعي إلى كيفية تقديم أنظمة الذكاء الاصطناعي لنتائج غير متحيزة ومعاملتها لجميع الأفراد والمجموعات معاملة منصفة، ولتحقيق الإنصاف في الذكاء الاصطناعي يتطلب ذلك تحديد التحيزات في البيانات والخوارزميات وعمليات اتخاذ القرار ومعالجتها. على سبيل المثال، تتمثل إحدى طرائق تحقيق الإنصاف في الذكاء الاصطناعي في استخدام عملية تسمى إلغاء الانحياز (Debiasing)، حيث يتم تحديد البيانات المتحيزة وإزالتها أو تعديلها بما يضمن وصول الخوارزمية إلى نتائج أكثر دقة دون تحيز.--- SECTION: جدول 6.1: العوامل التي تحدد تحيز أنظمة الذكاء الاصطناعي --- جدول 6.1: العوامل التي تحدد تحيز أنظمة الذكاء الاصطناعي--- VISUAL CONTEXT --- **TABLE**: جدول 6.1: العوامل التي تحدد تحيز أنظمة الذكاء الاصطناعي Description: A table outlining four key factors that contribute to bias in AI systems, with each factor described in detail in two columns. Table Structure: Headers: العامل | الوصف Rows: Row 1: بيانات التدريب المتحيزة | تتعلم خوارزميات الذكاء الاصطناعي من البيانات التي تدرب عليها؛ فإذا كانت البيانات متحيزة أو ناقصة التمثيل، فقد تصل الخوارزمية إلى نتائج متحيزة. على سبيل المثال، إذا تم تدريب خوارزمية التعرف على الصور على مجموعة بيانات تحتوي على أفراد ذوي بشرة فاتحة، فربما تواجه صعوبة في التعرف بدقة على الأفراد ذوي البشرة الداكنة. Row 2: الافتقار إلى التنوع في فرق التطوير | إذا لم يكن فريق التطوير متنوعًا ولا يمثل نطاقًا واسعًا من الفئات الثقافية والتقنية، فقد لا يتعرف على التحيزات الموجودة في البيانات أو الخوارزمية، ويؤدي الفريق الذي يتكون من أفراد من منطقة جغرافية أو ثقافة معينة إلى عدم مراعاة المناطق أو الثقافات الأخرى التي قد تكون ممثلة في البيانات المستخدمة لتدريب نموذج الذكاء الاصطناعي. Row 3: الافتقار إلى الرقابة والمسؤولية | يمكن أن يؤدي الافتقار إلى الرقابة والمسؤولية في تطوير أنظمة الذكاء الاصطناعي ونشرها إلى ظهور التحيز، فإذا لم تطبق الشركات والحكومات آليات رقابة ومساءلة مناسبة، فإن ذلك قد يؤدي إلى عدم تنفيذ اختبار التحيز في أنظمة الذكاء الاصطناعي وربما لا يكون هناك مجال لإنصاف الأفراد أو المجتمعات المتضررة من النتائج المتحيزة. Row 4: الافتقار إلى الخبرة والمعرفة لدى فريق التطوير | قد لا تحدد فرق التطوير التي تفتقر إلى الخبرة مؤشرات التحيز في بيانات التدريب أو تعالجها، كما أن الافتقار إلى المعرفة في تصميم نماذج الذكاء الاصطناعي واختبارها لتحقيق العدالة ربما يؤدي إلى استمرارية التحيزات القائمة. Calculation needed: N/A Data: The table lists factors such as biased training data, lack of diversity in development teams, lack of oversight and accountability, and lack of experience/knowledge in development teams, explaining how each factor leads to AI bias. Context: This table provides a structured overview of the common sources of bias in AI systems, which is crucial for understanding and mitigating these biases in various applications.Context: Identifies the official educational authority responsible for the textbook.