HebArabNlpProject/Arab_Summerization_Ds

רקע פרוייקט סיכום (Summarization) בערבית הינו חלק מתכנית ה NLP הלאומית בעברית וערבית. במסגרת זו, מפא"ת מובילה תכנית הכוללת מספר רב של פרויקטים . מטרת התכנית בכלל, ושל מפא"ת בפרט היא לפתח שורה של אבני בניין תשתיתיות שונות אשר יועמדו לרשות קהילת העוסקים בתחום ויאפשרו המשך פיתוח מואץ של יישומים מתקדמים. אבני הבניין כוללות בניית מאגרי מידע מתוייגים, מודל שפה ענק, ופיתוח יכולות ושרותים מתקדמים בעברית וערבית בקוד מקור פתוח (open source) שישרת מדעני נתונים וארגונים בארץ. פרויקט ה-Coreference בערבית הינו חלק ממספר רב של פרויקטים ויכולות שמפורסמות לציבור ללא עלות במסגרת התכנית.

מטרת פרוייקט זה מטרת הפרוייקט לשפר את יכולות הסיכום (Summarization) בשפה הערבית. במסגרת הפרוייקט תינתן לציבור המפתחים גישה למאגר נתונים (dataset) מגוון ורחב היקף הכולל ידיעות עיתונאיות בערבית, עם דגש על ידיעות העוסקות באזורנו הקרוב, וכן ראיונות בערבית מדוברת בניב פלסטיני - יחד עם סיכומים שנעשו בידי מסכמים אנושיים ונבדקו לבקרת איכות. בנוסף יוצג מודל Summarization אשר נבנה כהמשך למשימת הסיכום. להשגת מידע איכותי וסיכומו ברמה גבוהה פנתה מפא"ת למכון למדעי הנתונים באוניברסיטת רייכמן (Data Science Institute). המכון למדעי הנתונים עוסק במחקר ופיתוח של תחומים שונים בעולם למידת מכונה, עיבוד שפה טבעית ורפואה דיגיטלית (digital health). המכון מוביל מספר פרויקטים תוך שיתוף פעולה עם גורמים בתעשייה. בין השאר שיתף המכון פעולה עם משרד ראש הממשלה, הרשות לחדשנות, בתי החולים שניידר ותל השומר וזרוע המחקר של משרד הביטחון (מפא"ת).במכון למדעי הנתונים באוניברסיטת רייכמן קיים ידע נרחב בעיבוד שפה טבעית (NLP) באופן כללי, והתמחות מיוחדת בערבית מדוברת בניב ארץ ישראלי/פלסטיני. כך למשל, מפותחים מאגרי תיוג ומודלים ייעודיים לשפה הערבית בניב מקומי אשר מבוססים על מודלי BERT בערבית. מאגרים אלו מונגשים לציבור לשימוש אקדמי/תעשייתי ומספר מודלים הועלו לשימוש הקהילה (תחת Hugging Face). בפעילות המחקר והפיתוח בעיבוד שפה בערבית מעורב צוות עבודה גדול המורכב מחוקרים וסטודנטים במדעי הנתונים, מומחי תוכן בערבית, בלשנים, חוקרי מזרח תיכון, ודוברי השפה הערבית ברמת אם.

יכולת סיכום - Summarization בעיבוד שפה טבעית (NLP), יכולת סיכום (Summarization) מתייחסת לתהליך יצירת גרסה מתומצתת של טקסט גדול יותר, תוך שמירה על המידע החשוב ביותר. יכולת סיכום ממלאת תפקיד חשוב בעיבוד שפה טבעית בשיפור אחזור המידע. כחלק מהפרויקט, בנינו מתודולוגיית סיכום שכללה מסמך הנחיות (guidelines) לסיכום Summary, קבענו מדדי איכות לסיכום והתאמנו את שיטת הסיכום למשימה. בשלב זה גם נבחר צוות המסכמות והמסכמים, מסמך ההנחיות לסיכום עודכן ועובה בהנחיות ודוגמאות רלוונטיות, וחודדו תהליכי בקרה ועבודה. הצוות התבקש לערוך סיכום לקבצים שהוקצו להם על פי מתודולוגיית העבודה שהוסברה להם.

מהימנות ההערכה סיכום (Summarization) של טקסטים הוא סובייקטיבי במידה רבה, מאחר והוא מושפע מהבנה אישית, תפיסות קודמות וכישורים קוגניטיביים ואנליטיים של המסכם. על כן יש חשיבות גבוהה לבהירות הוראות הסיכום על מנת שהמסכמים יישארו אובייקטיבים במידת האפשר. חלק מהסיכומים עברו בדיקה וטיוב בידי מסכם נוסף, מנוסה.

המאגר כולל 4,690 קטעי עיתונות ו-44 ראיונות מתומללים שנבחרו לפי הקריטריונים הבאים: 1. כל קטעי העיתונות הם בערבית מודרנית סטנדרטית (MSA) המשמשת לעיתונות. 2. קטעי העיתונות עוסקים במרחב הישראלי-פלסטיני כדי להגביר השפעה של ניבים מקומיים. 3. הטקסטים של הראיונות הם בערבית מדוברת בניב פלסטיני. 4. הראיונות תומללו בעזרת מכונה וטויבו בידי מטייבים אנושיים לשם דיוק, ומכילים דיאלוגים ושאלות ותשובות.

5. הטקסטים נלקחו מ-2 מקורות עיקריים: 4,690 קטעי עיתונות באורכים שונים (35 – 600 מילה) אשר נלקחו באדיבות יפעת מידע תקשורתי. הקטעים, מהשנים האחרונות, נלקחו ממדיות מודפסות ומקוונות שעוסקות במרחב הישראלי-פלסטיני. 44 ראיונות מקוריים יזומים, מוקלטים, מתומללים ומטויבים, בין דוברי ערבית כשפת אם בניב פלסטיני. אורך ראיון ממוצע כ-21 דקות. סך הכל כ-13 שעות דיבור.

סיכום Summarization צוות של מסכמות ומסכמים עבד על סיכום הטקסטים במהלך מספר חודשים. במסגרת התהליך עלו בעיות וקשיים שלובנו בפורומים קבועים שנערכו לצוות ובפלטפורמות מסרים משותפות. לאחר ליבון הבעיות עודכן מסמך ההנחיות לתיוג והועלו דוגמאות נוספות בהתאם לבעיות שצצו.

דוגמאות לבעיות שעלו במהלך התיוג: שפה – האם לסכם ב-MSA או במדוברת (عامية, لهجة فلسطينية). דמויות משנה בידיעות שאינן משמעותיות.

בקרת איכות קטעי עיתונות - בגמר הסיכום הועבר מדגם של הקבצים לבדיקה נוספת ולטיוב בין המסכמים המקוריים, כך שכל אחד קיבל של אחר לבדיקה. סה"כ עברו בקרת איכות 304 סיכומי קטעי עיתונות. בגמר עבודת ה-QA נערכו בדיקות לסיכומים ועלה כי 300 מתוכם עברו שינוי. להלן הנתונים שנמדדו לאחר QA: • ROUGE-1 F1 score: 0.815 • ROUGE-2 F1 score: 0.7656 • ROUGE-L F1 score: 0.795 • BERTScore: 0.91 BERTScore מודד דמיון סמנטי בין שני טקסטים באמצעות הטמעות מבוססות BERT, בעוד ROUGE מודד גם הוא דמיון סמנטי, אך רגיש יותר לחפיפת מילים. ה-BERTScore של 0.91 מראה שהמעריכים מסכימים על הרעיונות המרכזיים והמשמעות הכללית של הסיכומים. ציוני ROUGE מצביעים על כך שבעוד שיש חפיפה מסוימת בניסוח ובמילים, התקצירים שונים במבנה, בניסוח ובאוצר המילים.

ראיונות - בגמר הסיכום הועברו כל הקבצים לבדיקה נוספת ולטיוב בידי 2 מסכמים מנוסים. הסיכומים לאחר QA הועלו למאגר הנתונים (dataset).