برگزار شده توسط : دانشگاه شهید چمران اهواز
اولین کنفرانس بین المللی و ششمین کنفرانس ملی کامپیوتر، فناوری اطلاعات و کاربردهای هوش مصنوعی
تاریخ برگزاری : 16 اسفند ماه 1401
استخراج کلمات کلیدی از متون فارسی با استفاده از مکانیسم توجه و شبکه‌های یادگیری عمیق
مصطفی قربان زاده , محمدرضا حسنی آهنگر , محسن نوروزی
استخراج عبارت‌های کلیدی همواره یکی از وظیفه‌های پراهمیت و دشوار در پردازش زبان طبیعی بوده که هم به‌خودی‌خود و هم به‌عنوان یک وظیفۀ بالادست در وظایفی چون بازیابی اطلاعات، خلاصه‌سازی متن، دسته‌بندی متن و دیگر وظیفه‌ها کارایی دارد. بررسی مقالات کار شده روی زبان فارسی در این وظیفه نشان می‌دهد که توجه کمتری به روش‌های نوین هوش مصنوعی و شبکه عصبی در حل این مسئله شده است بنابراین در این پژوهش نشان داده شد چگونه با استفاده از شبکه‌های عصبی عمیق و استفاده از مدل های زبانی می‌توان به درک عمیقی از کلمات رسید و با دقت خوبی کلمات کلیدی متن را استخراج کرد. همچنین اثبات کردیم سازوکار توجه چند سر که نوع تعمیم یافته سازوکار توجه است تا چه اندازه توانسته به حل مسائل کلاس های نامتعادل کمک کند. پارس‌برت که نوع تعمیم یافته برت آموزش دیده شده روی متن فارسی می‌باشد، در درک کلمات فارسی کارآیی و دقت خوبی نسبت به دیگر مدل های زبانی چون word2vec و ... دارد و در این پژوهش مورد استفاده قرار گرفت. برای آموزش شبکه‌های عصبی نیاز به داده فراوان داریم. پس از بررسی تنها و غنی ترین مجموعه‌داده، PerKey مجموعه‌داده جمع آوری شده توسط آقای دوست محمدی بود که به‌صورت عمومی در دسترس قرار دارد. پس از آموزش روش پیشنهادی و ارزیابی نتایج روی سه معیار صحت و بازخوانی و امتیاز اف-1 در مقایسه با روش‌های پایه آماری، مبتنی بر گراف و همچنین روش یادگیری عمیق دنباله به دنباله مقاله دوست محمدی و همکاران 2019 روش پیشنهادی ما روی 5 و 10 کلمه کلیدی برتر به ترتیب 16.04 درصد و 22.35 درصد رشد در معیار اف-1، 14.09 درصد و 13.98 درصد رشد در معیار بازخوانی و همچنین 24.15 درصد و 31.64 درصد رشد در معیار صحت نسبت به شبکه عمیق دنباله به دنباله مقاله دوست محمدی و همکاران 2019 داشته است.
استخراج کلمات کلیدی، مدل زبانی Bert، مکانیسم توجه، یادگیری عمیق
برای لینک دهی به این مقاله، می توانید از لینک زیر استفاده نمایید. این لینک همیشه ثابت است :
در صورتی که می خواهید در اثر پژوهشی خود به این مقاله ارجاع دهید، به سادگی می توانید از عبارت زیر در بخش منابع و مراجع استفاده نمایید:
, 1401 , استخراج کلمات کلیدی از متون فارسی با استفاده از مکانیسم توجه و شبکه‌های یادگیری عمیق , اولین کنفرانس بین المللی و ششمین کنفرانس ملی کامپیوتر، فناوری اطلاعات و کاربردهای هوش مصنوعی
تاریخ برگزاری : 16 اسفند ماه 1401