24298

MAT2 703

كارشناسي ارشد

علوم كامپيوتر- محاسبات نرم و هوش مصنوعي

رياضي و آمار

1403/10/30

78 ص.

دكتر محمدرضا شمس , دكتر محسن علمبردار ميبدي

تحليل احساسات مبتني بر جنبه , پردازش زبان طبيعي , يادگيري عميق , مدل‌هاي زباني , مكانيزم توجه

تحليل احساسات مبتني بر جنبه يكي از كاربردهاي برجسته پردازش زبان طبيعي است كه توجه بسياري از پژوهشگران و صنايع را به خود جلب كرده است. اين تكنيك با طبقه بندي نظرات بر اساس جنبه هاي مختلف و تعيين احساسات مرتبط با هر جنبه ابزاري مؤثر براي استخراج و درك عميق تر بازخوردهاي كاربران ارائه مي دهد بهره گيري از مدل‌هاي پيشرفته يادگيري عميق و مدل‌هاي ،زباني امكان شناسايي دقيقتر جنبه ها و تحليل احساسات متناظر با هر جنبه را با دقت بالا فراهم كرده است. هدف اين پژوهش ارائه رويكردي براي بهبود دقت در تحليل احساسات مبتني بر جنبه ها است. اين مدل با بهره گيري از شبكه حافظه كوتاه مدت طولاني براي استخراج ويژگيهاي ترتيبي، شبكه پيچشي گراف براي درك روابط ساختاري و مكانيزم توجه براي تمركز بر جنبه هاي مهم دقت تحليل احساسات را افزايش ميدهد. علاوه بر اين تركيب دانش عاطفي SenticNet با مدل‌هاي زباني از پيش آموزش ديده مانند BERT به غني سازي داده ها و بهبود درك معنايي متون كمك ميكند اين رويكرد با ارتقاي درك بهتر تأثير جنبه هاي مختلف بر نظرات و احساسات كاربران امكان تحليل دقيقتر و مؤثرتر احساسات مرتبط با هر جنبه را فرا مي آورد. چهار مدل پيشنهادي SENTATT ATTENTION SENTICNET و PARSSENTATT روي چهار مجموعه داده شامل نظرات مربوط به رستورانها و لپتاپ ها آزمايش شده اند. نتايج مقايسه با روش‌هاي موجود نشان ميدهد كه اين مدل‌ها توانسته اند دقت بالاتري در شناسايي جنبه ها و تحليل احساسات مرتبط نسبت به مدل پايه Sentic-GCN ارائه دهند. مدل SENTATT در مجموعه داده LAP14 دقت را 56/1%~ و مقدار F1-Score را 04/1~ بهبود داده است. مدل SENTICNET در مجموعه داده REST14 دقت را 09/0~ و مقدار F1-Score را 67/0~ بهبود داده است. مدل ATTENTION در مجموعه داده REST15 دقت را %37/0~ و مقدار F1-Score را %33/4~ بهبود داده است. مدل PARSSENTATT در مجموعه داده REST16 دقت را %29/0~ و مقدار F1-Score را %86/3~ بهبود داده است.

Aspect-Based Sentiment , Aspect-Based Sentiment Analysis , Natural Language Processing , Deep Learning , Language Models , Attention Mechanism

Aspect-based Sentiment Analysis Focusing on Existing Knowledge in Pre-trained Language Models

رياضي كاربردي و علوم كامپيوتر

Aspect-based sentiment analysis is a prominent application of Natural Language Processing that has attracted considerable attention from researchers and indus- tries. This technique, by classifying opinions based on different aspects and de- termining the corresponding sentiments, provides an effective tool for extracting and gaining deeper insights into user reviews. Leveraging advanced deep learning models and pre-trained language models enables a more accurate identification of aspects and sentiment analysis corresponding to each aspect with high accuracy. The objective of this research is to propose an approach to improve accuracy in aspect-based sentiment analysis. This model, by utilizing Bidirectional Long Short-Term Memory for extracting sequential features, Graph Convolutional Net- work for understanding structural relationships, and the Attention Mechanism for focusing on important aspects, enhances sentiment analysis accuracy. Addition- ally, incorporating affective knowledge from SenticNet with pre-trained language models such as BERT contributes to data enrichment and improves the semantic understanding of texts. This approach, by enhancing the comprehension of the impact of different aspects on opinions and user sentiments, facilitates a more precise and effective sentiment analysis corresponding to each aspect. The four proposed models, SENTICNET, ATTENTION, SENTATT, and PAR- SSENTATT, have been tested on four datasets containing reviews related to restaurants and laptops. The results, compared with existing methods, show that these models have achieved higher accuracy in identifying aspects and analyz- ing corresponding sentiments compared to the baseline Sentic-GCN model. The SENTATT model improved accuracy by 1.56% and F1-Score by ~1.04% on the LAP14 dataset. The SENTICNET model improved accuracy by ~0.09% and F1-Score by ~0.67% on the REST14 dataset. The ATTENTION model improved accuracy by ~ 0.37% and F1-Score by ~4.33% on the REST15 dataset. The PARSSENTATT model improved accuracy by~ 0.29% and F1-Score by ~3.86% on the REST16 dataset.

6