البرمجة الاتجاهية للجمل باستخدام التعلم العميق - كتاب الذكاء الإصطناعي - الصف 12 - الفصل 1 - المملكة العربية السعودية

البرمجة الاتجاهية للجمل باستخدام التعلم العميق

Sentence Vectorization with Deep Learning

على الرغم من إمكانية استخدام نموذج الكلمة إلى المتجه (Word2Vec) في نمذجة الكلمات الفردية، يتطلب التجميع البرمجة الاتجاهية للنص بأكمله. إحدى الطرق الأكثر شهرة لتحقيق ذلك هي تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) المستندة إلى منهجية التعلم العميق.

تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT)

Bidirectional Encoder Representations from Transformers (BERT)

تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) هي نموذج تمثيل لغوي قوي طورته شركة جوجل، ويعد التدريب المسبق والضبط الدقيق عاملان رئيسان وراء قدرة تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) على تطبيق نقل التعلم، أي القدرة على الاحتفاظ بالمعلومات حول مشكلة ما والاستفادة منها في حل مشكلة أخرى. ويتم التدريب المسبق عبر تغذية النموذج بكمية هائلة من البيانات غير المعنونة لعدة مهام، مثل التنبؤ المقنع (إخفاء الكلمات العشوائية في مدخلات النصوص والمهمة هي التنبؤ بهذه الكلمات). يهيئ نموذج تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) المتغيرات المدربة مسبقًا للضبط الدقيق. كما تستخدم مجموعات البيانات المعنونة من المهام النهائية لضبط دقة عمل النموذج، ويكون لكل مهمة نهائية نماذج دقيقة منفصلة. برغم أنها مهمة بالمتغيرات المدربة نفسها مسبقًا. على سبيل المثال، تختلف عملية الضبط الدقيق لنموذج تحليل المشاعر عن نموذج الإجابة على الأسئلة. ومن المهم معرفة أن الفروقات في بنية النماذج تصبح ضئيلة أو منعدمة بعد خطوة ضبط الدقة.

تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات SBERT

تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) هي الإصدار المعدل من تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) . تُدرب تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) مثل نموذج الكلمة إلى المتجه (Word2Vec) للتنبؤ بالكلمات بناءً على سياق الجمل الواردة بها. ومن ناحية أخرى، تُدرب تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) للتنبؤ بما إذا كانت جملتان متشابهتين دلاليًا. تُستخدم تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) لإنشاء تضمينات لأجزاء النصوص الأطول من الجمل، مثل الفقرات، أو النصوص القصيرة، أو المقالات في مجموعة بيانات هيئة الإذاعة البريطانية محل الدراسة في هذه الوحدة. بالرغم من أن النماذج الثلاث تستند جميعها إلى الشبكات العصبية، إلا أن تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) وتمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (BERT) تنفذان بنية مختلفة بشكل كبير وأكثر تعقيدًا من نموذج الكلمة إلى المتجه (Word2Vec).

مكتبة الجمل والمحولات Sentence_transformers Library

الوظائف الكاملة لنموذج تمثيلات ترميز الجمل (sentence_transformers) . تأتي المكتبة بالعديد من نماذج تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) المدربة مسبقًا؛ كل منها مدرب على مجموعة بيانات مختلفة ولتحقيق أهداف مختلفة. يعمل المقطع البرمجي التالي على تحميل أحد النماذج الشهيرة المدربة مسبقًا، ويستخدمها لإنشاء تضمينات للمستندات في مجموعة بيانات هيئة الإذاعة البريطانية:

%capture !pip install sentence_transformers from sentence_transformers import SentenceTransformer model = SentenceTransformer('all-MiniLM-L6-v2') # load the pre-trained model. text_emb = model.encode(bbc_docs) # embed the BBC documents.

وزارة التعليم 167 2025 - 1447

البرمجة الاتجاهية للجمل باستخدام التعلم العميق--- SECTION: Sentence Vectorization with Deep Learning --- Sentence Vectorization with Deep Learningعلى الرغم من إمكانية استخدام نموذج الكلمة إلى المتجه (Word2Vec) في نمذجة الكلمات الفردية، يتطلب التجميع البرمجة الاتجاهية للنص بأكمله. إحدى الطرق الأكثر شهرة لتحقيق ذلك هي تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) المستندة إلى منهجية التعلم العميق.--- SECTION: تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) --- تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT)--- SECTION: Bidirectional Encoder Representations from Transformers (BERT) --- Bidirectional Encoder Representations from Transformers (BERT)تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) هي نموذج تمثيل لغوي قوي طورته شركة جوجل، ويعد التدريب المسبق والضبط الدقيق عاملان رئيسان وراء قدرة تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) على تطبيق نقل التعلم، أي القدرة على الاحتفاظ بالمعلومات حول مشكلة ما والاستفادة منها في حل مشكلة أخرى. ويتم التدريب المسبق عبر تغذية النموذج بكمية هائلة من البيانات غير المعنونة لعدة مهام، مثل التنبؤ المقنع (إخفاء الكلمات العشوائية في مدخلات النصوص والمهمة هي التنبؤ بهذه الكلمات). يهيئ نموذج تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) المتغيرات المدربة مسبقًا للضبط الدقيق. كما تستخدم مجموعات البيانات المعنونة من المهام النهائية لضبط دقة عمل النموذج، ويكون لكل مهمة نهائية نماذج دقيقة منفصلة. برغم أنها مهمة بالمتغيرات المدربة نفسها مسبقًا. على سبيل المثال، تختلف عملية الضبط الدقيق لنموذج تحليل المشاعر عن نموذج الإجابة على الأسئلة. ومن المهم معرفة أن الفروقات في بنية النماذج تصبح ضئيلة أو منعدمة بعد خطوة ضبط الدقة.--- SECTION: تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات SBERT --- تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات SBERTتمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) هي الإصدار المعدل من تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) . تُدرب تمثيلات الترميز ثنائية الاتجاه من المحولات (BERT) مثل نموذج الكلمة إلى المتجه (Word2Vec) للتنبؤ بالكلمات بناءً على سياق الجمل الواردة بها. ومن ناحية أخرى، تُدرب تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) للتنبؤ بما إذا كانت جملتان متشابهتين دلاليًا. تُستخدم تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) لإنشاء تضمينات لأجزاء النصوص الأطول من الجمل، مثل الفقرات، أو النصوص القصيرة، أو المقالات في مجموعة بيانات هيئة الإذاعة البريطانية محل الدراسة في هذه الوحدة. بالرغم من أن النماذج الثلاث تستند جميعها إلى الشبكات العصبية، إلا أن تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) وتمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (BERT) تنفذان بنية مختلفة بشكل كبير وأكثر تعقيدًا من نموذج الكلمة إلى المتجه (Word2Vec).--- SECTION: مكتبة الجمل والمحولات Sentence_transformers Library --- مكتبة الجمل والمحولات Sentence_transformers Libraryالوظائف الكاملة لنموذج تمثيلات ترميز الجمل (sentence_transformers) . تأتي المكتبة بالعديد من نماذج تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) المدربة مسبقًا؛ كل منها مدرب على مجموعة بيانات مختلفة ولتحقيق أهداف مختلفة. يعمل المقطع البرمجي التالي على تحميل أحد النماذج الشهيرة المدربة مسبقًا، ويستخدمها لإنشاء تضمينات للمستندات في مجموعة بيانات هيئة الإذاعة البريطانية:%capture !pip install sentence_transformers from sentence_transformers import SentenceTransformer model = SentenceTransformer('all-MiniLM-L6-v2') # load the pre-trained model. text_emb = model.encode(bbc_docs) # embed the BBC documents.2025 - 1447