تصور وتجميع تضمينات SBERT باستخدام t-SNE والرسم الشجري الهرمي - كتاب الذكاء الإصطناعي - الصف 12 - الفصل 1 - المملكة العربية السعودية

لقد استخدمت في وقت سابق في هذه الوحدة أداة تضمين المجاور العشوائي الموزع على شكل T والتي هي (TSNEVisualizer) ، لتصوير المستندات الممثلة بالمتجهات المنتجة باستخدام أداة تكرار المصطلح - تكرار المستند العكسي (TF-IDF) . يمكن الآن استخدامها للتضمينات المنتجة بواسطة تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) :

tsne = TSNEVisualizer(colors=['blue', 'green', 'red', 'yellow', 'brown']) tsne.fit(text_emb,bbc_labels) tsne.show();

شكل 3.23: إسقاط تضمين المجاور العشوائي الموزع على شكل T (T-SNE) للتضمينات المنتجة بواسطة تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT)

يوضح الشكل أن تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) تؤدي إلى فصل أكثر وضوحًا للأقسام الإخبارية المختلفة مع عدد أقل من الشوائب من تكرار المصطلح - تكرار المستند العكسي (TF-IDF). الخطوة التالية هي استخدام التضمينات لتدريب خوارزمية التجميع التكتلي:

plt.figure() # create a new figure. # iteratively merge points and clusters until all points belong to a single cluster. Return the linkage of the produced tree. linkage_emb=hierarchy.linkage(text_emb, method='ward') hierarchy.dendrogram(linkage_emb) # visualize the linkage. plt.show() # show the figure.

شكل 3.24: الرسم الشجري الهرمي لتمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT)

وزارة التعليم Ministry of Education 2025 - 1447

168

لقد استخدمت في وقت سابق في هذه الوحدة أداة تضمين المجاور العشوائي الموزع على شكل T والتي هي (TSNEVisualizer) ، لتصوير المستندات الممثلة بالمتجهات المنتجة باستخدام أداة تكرار المصطلح - تكرار المستند العكسي (TF-IDF) . يمكن الآن استخدامها للتضمينات المنتجة بواسطة تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) :tsne = TSNEVisualizer(colors=['blue', 'green', 'red', 'yellow', 'brown']) tsne.fit(text_emb,bbc_labels) tsne.show();--- SECTION: شكل 3.23 --- شكل 3.23: إسقاط تضمين المجاور العشوائي الموزع على شكل T (T-SNE) للتضمينات المنتجة بواسطة تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT)يوضح الشكل أن تمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) تؤدي إلى فصل أكثر وضوحًا للأقسام الإخبارية المختلفة مع عدد أقل من الشوائب من تكرار المصطلح - تكرار المستند العكسي (TF-IDF). الخطوة التالية هي استخدام التضمينات لتدريب خوارزمية التجميع التكتلي:plt.figure() # create a new figure. # iteratively merge points and clusters until all points belong to a single cluster. Return the linkage of the produced tree. linkage_emb=hierarchy.linkage(text_emb, method='ward') hierarchy.dendrogram(linkage_emb) # visualize the linkage. plt.show() # show the figure.--- SECTION: شكل 3.24 --- شكل 3.24: الرسم الشجري الهرمي لتمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT)2025 - 1447--- VISUAL CONTEXT --- **FIGURE**: TSNE Projection of 2225 Documents Description: A 2D projection of 2225 documents using t-SNE, colored by category. The legend indicates five categories: business (blue), entertainment (green), politics (red), sport (yellow), and tech (brown). The points are clustered visually, showing separation between the different categories. X-axis: Projection Dimension 1 (unlabeled) Y-axis: Projection Dimension 2 (unlabeled) Data: The plot shows distinct clusters for each category, indicating that the SBERT embeddings effectively separate documents by their content. For example, the blue cluster (business) is clearly separated from the red cluster (politics). Key Values: 2225 documents, 5 categories: business, entertainment, politics, sport, tech Context: This figure demonstrates the effectiveness of t-SNE in visualizing high-dimensional data (SBERT embeddings) by reducing it to two dimensions, revealing inherent clustering and category separation.**DIAGRAM**: الرسم الشجري الهرمي لتمثيلات ترميز الجمل ثنائية الاتجاه من المحولات (SBERT) Description: A dendrogram illustrating the hierarchical clustering of document embeddings. The y-axis represents the linkage distance or dissimilarity, ranging from 0 to 14. The x-axis represents individual data points or sub-clusters. The tree structure shows how smaller clusters merge into larger ones at increasing distances, revealing the hierarchical relationships between documents. X-axis: Data Points/Clusters Y-axis: Distance/Dissimilarity Data: The dendrogram shows several distinct initial clusters, indicated by different colors (blue, green, red, yellow) at lower linkage distances. These clusters progressively merge as the distance increases, forming a hierarchical structure. This visualization helps in determining the optimal number of clusters by observing significant drops in linkage distance. Key Values: Y-axis range: 0-14 Context: This figure illustrates the process of hierarchical agglomerative clustering on SBERT embeddings, which is used to group similar documents into a tree-like structure, allowing for the identification of natural groupings at various levels of granularity.