23710

COM3 122

دكتري

مهندسي كامپيوتر - هوش مصنوعي و رباتيكز

مهندسي كامپيوتر

1403/03/21

104 ص.

حسين كارشناس نجف آبادي , پيمان اديبي

يادگيري انتقالي , انطباق دامنه , رويكرد احتمالي , توزيع احتمال شرطي مبتني بر كلاس‌

يادگيري انتقالي به منظور انتقال دانش از دامنه‌ي كمكي به دامنه‌اي متفاوت براي انجام يك وظيفه‌ي مرتبط مورد استفاده قرار مي‌گيرد. در اين پايان‌نامه مسئله‌ي انطباق دامنه به عنوان يكي از انواع اصلي در يادگيري انتقالي مورد بررسي قرار مي‌گيرد و به اين منظور توزيع احتمال شرطي مبتني بر كلاس‌ها براي كاهش اختلاف بين دامنه‌اي مبناي توسعه‌ي رويكرد احتمالي در مساله‌ي دسته‌بندي تصاوير در نظر مي‌گيرد. بدين منظور سه رويكرد ارائه مي‌گردد كه شامل هر دو دسته روش‌هاي غير عميق و عميق در انطباق دامنه مي‌باشند. در روش پيشنهادي اول، تخمين توزيع احتمال شرطي مبتني بر كلاس‌ و بر اساس يك مسئله‌ي بهينه‌سازي در نظر گرفته مي‌شود. در روش پيشنهادي دوم توزيع صريح از داده‌ها با با اعمال شكل توزيع يكسان براي دامنه‌ها‌ي مبدا و مقصد به جاي تخمين توزيع داده‌ها در نظر گرفته مي‌شود. در روش پيشنهادي سوم ماتريس احتمالي به منظور استخراج بردارهاي ويژگي‌ غني شده از داده‌هاي دامنه‌ي مقصد بر اساس شباهت احتمالي مبتني بر فاصله‌ي بين نمونه‌هاي دامنه‌هاي مبدا و مقصد علاوه بر در نظر گرفتن شكل توزيع يكسان براي دو دامنه‌ي مذكور معرفي مي‌گردد. توزيع احتمال شرطي مبتني بر كلاس اطلاعات تفكيك‌پذيرتر از داده‌هاي دامنه‌ها‌ي مبدا و مقصد را در مقايسه با توزيع احتمال حاشيه‌اي در نظر مي‌گيرد. علاوه بر آن با در نظر گرفتن شكل توزيع يكسان براي بردارهاي ويژگي دو دامنه‌ و استخراج بردارهاي ويژگي‌ غني شده از دامنه‌ي مقصد، كاهش اختلاف بين دامنه‌اي به صورت دقيق‌تر و كاراتر انجام مي‌شود. مجموعه‌داده‌هاي مورد استفاده به منظور ارزيابي رويكردهاي پيشنهادي Office-Caltech، Office-31، Office-Home، Image-CLEF و VisDA-2017 هستند. نتايج به دست آمده براي اين مجموعه‌داده‌هاي استاندارد در مسئله‌ي انطباق دامنه‌ي بدون نظارت، درستي فرضيات مورد استفاده در روش‌هاي پيشنهادي مسئله را اثبات كرده و نشان مي‌دهد صحت دسته‌بندي براي پنج مجموعه‌‌داده مذكور به ترتيب برابر 93.51، 91.10 ، 73.53 ، 91.25 و 83.15 مي‌باشد كه منجر به صحت بالاتر نسبت به روش‌هاي به روز در اين حوزه شده است.

Transfer Learning , Domain Adaptation , Probabilistic Approach , Class Conditional Probability Distribution

Designing Probabilistic Approach Based Models for Transfer Learning

مهندسي هوش مصنوعي

Transfer learning aims to transfer knowledge from an auxiliary domain to a different domain for accomplishing a related task. In this thesis, domain adaptation is investigated as one of the main types of transfer learning by considering the class conditional probability distribution in order to reduce the discrepancy between domains to develop a probabilistic approach for image classification. For this purpose, three methods are presented which span over both non-deep and deep domain adaptation techniques. In the first proposed approach, the estimation of the class conditional probability distributions of the source and the target domains is considered as an optimization problem. In the second proposed approach, a similar distribution shape for the source and target domains is considered to reduce the discrepancy between the two domains instead of estimating the data distribution unconditionally. In the third proposed approach, in addition to considering the similar distribution shape for the source and the target domain data, a probabilistic matrix is introduced in order to extract the enriched feature vectors for the samples in the target domain which is based on the probabilistic distance between two domains data. By considering the class conditional distributions, more discriminative information of data is preserved compared to applying marginal distributions. Also, by considering the similar distribution for the source and the target domains as well as extracting the enriched feature vectors from the target domain data, the discrepancy between the two domains is reduced more accurately. Experiments have been carried out on five standard datasets :Office-Caltech, Office-31, Office-Home, Image-CLEF, and VisDA-2017 dataset. Experimental studies on these standard datasets for unsupervised domain adaptation show that the classification accuracy is 93.51, 91.10, 73.53, 91.25 and 83.15, respectively for the five mentioned datasets indicated the significant improvement given by the proposed method compared with other state-of-the-art methods.

6

34027