מאמר חדש לקבוצת המחקר של פרופ' עידו קנטר - איך בינה מלאכותית באמת "מבינה" טקסט?

מחקר חדש שפורסם לאחרונה ב- arXiv וסוקר גם באתר הטכנולוגיה Quantum Zeitgeist, מציע הצצה מרתקת למה שקורה "מתחת למכסה המנוע" של מודלים מתקדמים כמו BERT - המודלים שמאחורי צ’אטבוטים, מנועי חיפוש ותרגום אוטומטי.

 

במקום לשאול רק איפה המודל "מסתכל" בטקסט, החוקרים בדקו איך המשמעות של מילים משתנה לאורך הקריאה.

והתוצאה? המודל לומד לזהות לבד גבולות של משפטים וחלקים משמעותיים בטקסט – קצת כמו שאנשים עושים באופן טבעי.

 

בדומה למפות חום, כמו בתמונה המצורפת (התמונה נלקחה מהכתבה באתר Quantum Zeitgeist), שמראות איפה מודל "מסתכל" כדי להבין תמונה, המחקר מראה שאותו עיקרון פועל גם בטקסט: המודל לומד לבד איפה המשמעות נמצאת.

 

כי זה מקרב אותנו להבנה טובה יותר של איך AI חושב, ואיך אפשר לפתח מערכות חכמות, מדויקות ושקופות יותר.

 

מחברים: Tal Halevi, Yarden Tzach, Ronit D. Gross, Shalom Rosner, Ido Kanter