الحد من التحيز وتعزيز الإنصاف في أنظمة الذكاء الاصطناعي - كتاب الذكاء الإصطناعي - الصف 12 - الفصل 1 - المملكة العربية السعودية

الحد من التحيز وتعزيز الإنصاف في أنظمة الذكاء الاصطناعي Reducing Bias and Promoting Fairness in AI Systems

البيانات المتنوعة والممثلة

يقصد بذلك استخدام البيانات التي تعكس تنوع المجموعة التي يتم تمثيلها، كما أنه من المهم مراجعة وتحديث البيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي بانتظام؛ للتأكد من أنها ما زالت ملائمة وغير متحيزة.

تقنيات إلغاء الانحياز

تتضمن أساليب إلغاء الانحياز تحديد وإزالة البيانات المتحيزة من أنظمة الذكاء الاصطناعي؛ لتحسين معايير الدقة والإنصاف، فتشمل هذه التقنيات مثلاً: زيادة العينات (Oversampling) أو تقليل العينات (Undersampling) أو زيادة البيانات (Data Augmentation) لضمان تعرض نظام الذكاء الاصطناعي لنقاط بيانات مختلفة.

تشير زيادة العينة في تعلم الآلة إلى زيادة عدد عينات فئة ما داخل مجموعة بيانات لتحسين دقة النموذج، ويكون ذلك بواسطة المضاعفة العشوائية للعينات الموجودة في الفئة أو توليد عينات جديدة من الفئة نفسها.

القابلية للتفسير والشفافية

إن جعل أنظمة الذكاء الاصطناعي أكثر شفافية وأكثر قابلية للتفسير يمكنه أن يساعد في تقليص مستوى التحيز من خلال السماح للمستخدمين بفهم كيفية اتخاذ النظام للقرارات، ويتضمن ذلك توضيح عملية اتخاذ القرار والسماح للمستخدمين باستكشاف مخرجات النظام واختبارها.

تقليل العينة هو عملية تقليل حجم مجموعة البيانات بحذف مجموعة فرعية من بيانات الفئة الأكبر للتركيز على العينات الأكثر أهمية. ويكون ذلك مفيدًا بشكل خاص إذا كانت مجموعة البيانات تفتقر إلى التوازن بين الفئات أو بين مجموعاتها المختلفة.

التصميم المعتمد على إشراك الإنسان

يمكن أن يساهم إشراك العنصر البشري في حلقة تصميم أنظمة الذكاء الاصطناعي في التقليل من التحيز، وذلك بالسماح للبشر بالتدخل وتصحيح مخرجات النظام عند الضرورة. ويشمل ذلك تصميم أنظمة ذكاء اصطناعي بها مرحلة لتغذية الراجعة تمكن البشر من مراجعة قرارات النظام والموافقة عليها.

المبادئ الأخلاقية

تعني دمج المبادئ الأخلاقية مثل: الإنصاف والشفافية والمساءلة، في تصميم وتنفيذ أنظمة الذكاء الاصطناعي، من أجل ضمان تطوير تلك الأنظمة واستخدامها بشكل أخلاقي ومسؤول، وذلك بوضع إرشادات أخلاقية واضحة لاستخدام أنظمة الذكاء الاصطناعي ومراجعة هذه الإرشادات بانتظام وتحديثها عند الضرورة.

زيادة البيانات هي عملية توليد بيانات تدريب جديدة من البيانات الموجودة لتعزيز أداء نماذج تعلم الآلة. ومن الأمثلة على ذلك: قلب الصور (Image Flipping) وتدويرها وقصها وتغيير ألوانها وتحويلها تحويلاً تآلفيًا (Affine Transformation) والتشويش عليها.

المراقبة والتقييم بانتظام

تعد المراقبة والتقييم بشكل دوري لأنظمة الذكاء الاصطناعي أمرًا ضروريًا لتحديد التحيز وتصحيحه، ويتضمن ذلك اختبار مخرجات النظام وإجراء عمليات تدقيق منتظمة؛ للتأكد من أن النظام يعمل بشكل عادل ودقيق.

تقييم تغذية المستخدم الراجعة

يمكن أن تساعد التغذية الراجعة التي يقدمها المستخدم في تحديد التحيز في النظام؛ لأن المستخدمين غالبًا ما يكونون أكثر وعيًا بتجاربهم، ويمكنهم تقديم رؤى عن التحيز المحتمل أفضل مما يمكن أن تقدمه خوارزميات الذكاء الاصطناعي على سبيل المثال. يمكن أن يقدم المستخدمون تغذية راجعة عن رؤيتهم لأداء نظام الذكاء الاصطناعي أو تقديم اقتراحات مفيدة لتحسين النظام وجعله أقل تحيزًا.

وزارة التعليم 303 Ministry of Education 2025 - 1447

الحد من التحيز وتعزيز الإنصاف في أنظمة الذكاء الاصطناعي Reducing Bias and Promoting Fairness in AI Systems--- SECTION: البيانات المتنوعة والممثلة --- البيانات المتنوعة والممثلة يقصد بذلك استخدام البيانات التي تعكس تنوع المجموعة التي يتم تمثيلها، كما أنه من المهم مراجعة وتحديث البيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي بانتظام؛ للتأكد من أنها ما زالت ملائمة وغير متحيزة.--- SECTION: تقنيات إلغاء الانحياز --- تقنيات إلغاء الانحياز تتضمن أساليب إلغاء الانحياز تحديد وإزالة البيانات المتحيزة من أنظمة الذكاء الاصطناعي؛ لتحسين معايير الدقة والإنصاف، فتشمل هذه التقنيات مثلاً: زيادة العينات (Oversampling) أو تقليل العينات (Undersampling) أو زيادة البيانات (Data Augmentation) لضمان تعرض نظام الذكاء الاصطناعي لنقاط بيانات مختلفة.--- SECTION: زيادة العينات (Oversampling) --- تشير زيادة العينة في تعلم الآلة إلى زيادة عدد عينات فئة ما داخل مجموعة بيانات لتحسين دقة النموذج، ويكون ذلك بواسطة المضاعفة العشوائية للعينات الموجودة في الفئة أو توليد عينات جديدة من الفئة نفسها.--- SECTION: القابلية للتفسير والشفافية --- القابلية للتفسير والشفافيةإن جعل أنظمة الذكاء الاصطناعي أكثر شفافية وأكثر قابلية للتفسير يمكنه أن يساعد في تقليص مستوى التحيز من خلال السماح للمستخدمين بفهم كيفية اتخاذ النظام للقرارات، ويتضمن ذلك توضيح عملية اتخاذ القرار والسماح للمستخدمين باستكشاف مخرجات النظام واختبارها.--- SECTION: تقليل العينات (Undersampling) --- تقليل العينة هو عملية تقليل حجم مجموعة البيانات بحذف مجموعة فرعية من بيانات الفئة الأكبر للتركيز على العينات الأكثر أهمية. ويكون ذلك مفيدًا بشكل خاص إذا كانت مجموعة البيانات تفتقر إلى التوازن بين الفئات أو بين مجموعاتها المختلفة.--- SECTION: التصميم المعتمد على إشراك الإنسان --- التصميم المعتمد على إشراك الإنسان يمكن أن يساهم إشراك العنصر البشري في حلقة تصميم أنظمة الذكاء الاصطناعي في التقليل من التحيز، وذلك بالسماح للبشر بالتدخل وتصحيح مخرجات النظام عند الضرورة. ويشمل ذلك تصميم أنظمة ذكاء اصطناعي بها مرحلة لتغذية الراجعة تمكن البشر من مراجعة قرارات النظام والموافقة عليها.--- SECTION: المبادئ الأخلاقية --- المبادئ الأخلاقية تعني دمج المبادئ الأخلاقية مثل: الإنصاف والشفافية والمساءلة، في تصميم وتنفيذ أنظمة الذكاء الاصطناعي، من أجل ضمان تطوير تلك الأنظمة واستخدامها بشكل أخلاقي ومسؤول، وذلك بوضع إرشادات أخلاقية واضحة لاستخدام أنظمة الذكاء الاصطناعي ومراجعة هذه الإرشادات بانتظام وتحديثها عند الضرورة.--- SECTION: زيادة البيانات (Data Augmentation) --- زيادة البيانات هي عملية توليد بيانات تدريب جديدة من البيانات الموجودة لتعزيز أداء نماذج تعلم الآلة. ومن الأمثلة على ذلك: قلب الصور (Image Flipping) وتدويرها وقصها وتغيير ألوانها وتحويلها تحويلاً تآلفيًا (Affine Transformation) والتشويش عليها.--- SECTION: المراقبة والتقييم بانتظام --- المراقبة والتقييم بانتظام تعد المراقبة والتقييم بشكل دوري لأنظمة الذكاء الاصطناعي أمرًا ضروريًا لتحديد التحيز وتصحيحه، ويتضمن ذلك اختبار مخرجات النظام وإجراء عمليات تدقيق منتظمة؛ للتأكد من أن النظام يعمل بشكل عادل ودقيق.--- SECTION: تقييم تغذية المستخدم الراجعة --- تقييم تغذية المستخدم الراجعة يمكن أن تساعد التغذية الراجعة التي يقدمها المستخدم في تحديد التحيز في النظام؛ لأن المستخدمين غالبًا ما يكونون أكثر وعيًا بتجاربهم، ويمكنهم تقديم رؤى عن التحيز المحتمل أفضل مما يمكن أن تقدمه خوارزميات الذكاء الاصطناعي على سبيل المثال. يمكن أن يقدم المستخدمون تغذية راجعة عن رؤيتهم لأداء نظام الذكاء الاصطناعي أو تقديم اقتراحات مفيدة لتحسين النظام وجعله أقل تحيزًا.2025 - 1447--- VISUAL CONTEXT --- **DIAGRAM**: زيادة العينات (Oversampling) Description: A conceptual diagram illustrating oversampling. It shows a scatter plot with two distinct clusters of data points. One cluster (minority class, represented by fewer colored points) is shown with additional, lighter-colored points being added to it, indicating an increase in its sample size to balance the dataset. The other cluster (majority class, represented by numerous dark grey points) remains unchanged. Context: This diagram visually explains the technique of oversampling, where the number of samples in a minority class is increased to improve model accuracy and address data imbalance in machine learning.**DIAGRAM**: تقليل العينات (Undersampling) Description: A conceptual diagram illustrating undersampling. It displays a scatter plot with two clusters of data points. One cluster (majority class, represented by many dark grey points) is larger, and some points are shown fading out or being removed, indicating a reduction in its sample size. The other cluster (minority class, represented by fewer colored points) remains unchanged. This technique is used to balance datasets by reducing the dominant class. Context: This diagram visually explains the technique of undersampling, where the number of samples in a majority class is reduced to focus on more important samples and address data imbalance in machine learning.**DIAGRAM**: زيادة البيانات (Data Augmentation) Description: A conceptual diagram illustrating data augmentation. It shows an initial set of data points (colored and grey) on the left. An arrow points from these points to a gear icon, which then points to a new, transformed set of data points on the right. This represents the process of generating new training data from existing data through various transformations (like image flipping, rotation, cropping, color changes, affine transformations, and noise addition) to enhance the performance of machine learning models. Context: This diagram visually explains the concept of data augmentation, a process of generating new training data from existing data to improve the performance of machine learning models, often by applying transformations to the original data.