Get a site

پایان نامه رویکردی مبتنی برگراف به منظور خوشه‌بندی ترکیبی افرازبندی‌های فازی

پایان نامه رویکردی مبتنی برگراف به منظور خوشه‌بندی ترکیبی افرازبندی‌های فازی

پایان نامه رشته مهندسی فناوری اطلاعات

وزارت علوم،تحقیقات و فناوری

دانشگاه علوم و فنون مازندران

 

پایان نامه

مقطع کارشناسی ارشد

رشته:مهندسی فناوری اطلاعات

عنوان/موضوع    :رویکردی مبتنی بر گراف به منظور خوشه‌بندی ترکیبی افرازبندی‌های فازی

استا دراهنما:دکتر جواد وحیدی

استاد مشاور:دکتر بابک شیرازی

(پاییز ۱۳۹۱)

چکیده

خوشه بندی فازی و ترکیبی از موضوعات قابل توجه در داده کاوی محسوب می شوند .اگر چه در سالهای اخیر الگوریتم های خوشه بندی فازی به سرعت در حال رشد هستند ،اما تکنیک های خوشه بندی ترکیبی فازی رشد چندانی نکرده اند و اکثر آنها از طریق تبدیل توابع ترکیب به نسخه فازی تبدیل شده اند .در این پایان نامه یک الگوریتم خوشه بندی فازی مبتنی بر گراف ارائه شده است . رویکرد پیشنهادی از ماتریس های عضویت حاصل از افراز های فازی که از الگوریتم های مختلف فازی نتیجه شده ،بهره گرفته است و سپس ماتریس های همبستگی فازی را برای هر الگوریتم ایجاد می کند که هریک از عناصر آن بیانگر میزان همبستگی و اشتراک بین نمونه ها ی متناظر می باشد. سرانجام همه­ی این ماتریس ها در ماتریس استحکام ترکیب شده ودر نهایت نتیجه ی نهایی توسط فرایند کاهشی تکراری مبتنی بر گراف بدست می‌آید .تکرارهای این الگوریتم تا زمانیکه به تعداد خوشه ی تعیین شده در ابتدای فرایند دست یابیم ادامه می‌یابد.همچنین تعدادی مجموعه داده ی فرضی و مجموعه داده استاندارد Iris  به منظور ارزیابی روش پیشنهادی استفاده شده است .رویکرد پیشنهادی نشان داد که نسبت به الگوریتم های پایه همچون Kmeans ،FCMوSpectral کاراتر بوده و در مقایسه با روش های خوشه‌بندی ترکیبی مختلف ،رویکرد پیشنهادی حاوی نتایج قابل اطمینان و نرخ خطای کمتری است .

کلمات کلیدی فارسی :خوشه بندی ترکیبی ، خوشه بندی فازی ، خوشه بندی ترکیبی فازی ، شاخص اعتبار خوشه ، ماتریس همبستگی فازی ، ماتریس استحکام ، الگوریتم مبتنی بر گراف
فهرست مطالب
ـــــــــــــــــــــــــــــــــــــــــ
عنوان                                                                                                  صفحه
فصل اول- مقدمه و کلیات تحقیق                                                              ۱
۱-۱ مقدمه ای بر داده‌کاوی.۲
۱-۲ تکنیکهای داده‌کاوی.۴
۱-۳ مقدمه‌ای بر خوشه‌بندی.۴
۱-۴ تفاوت خوشه­بندی و دسته­بندی۵
۱-۵ یادگیری با نظارت در مقابل یادگیری بدون‌نظارت۶
۱-۶ کاربردهای خوشه‌بندی.۶
۱-۷ تقسیم‌بندی روش‌های خوشه‌بندی از جنبه های گوناگون ۷
۱-۸ طبقه ­بندی دیگری از روش های اصلی خوشه­بندی.۸
۱-۸-۱ روش افرازبندی.۸
۱-۸-۱-۱ روش خوشه‌بندی K-Means (C-Means یا C-Centeriod).9
۱-۸-۱-۲ الگوریتم خوشه‌بندی LBG.11
۱-۸-۲ روش های سلسله مراتبی۱۲
۱-۸-۲-۱ خوشه‌بندی با روش Single-Link.14
۱-۸-۲-۲ خوشه‌بندی با روش Complete-Link.15
۱-۸-۲-۳ خوشه‌بندی با روش Average-Link.16
۱-۸-۲-۴ دیگر روش های خوشه بندی سلسله مراتبی.۱۶
۱-۸-۳ روش مبتنی برچگالی.۱۸
۱-۸-۳-۱ الگوریتم خوشه‌بندی براساس چگالی DBSCAN.21
۱-۸-۳-۲ الگوریتم سلسله مراتبی خوشه‌بندی براساس چگالی OPTICS .22
۱-۸-۴ روش های مبتنی بر شبکه های مشبک (Grid based).23
۱-۸-۵ روش های مبتنی بر مدل.۲۳
۱-۸-۶ روش های فازی۲۳
۱-۹ هدف خوشه بندی ۲۳
۱-۱۰ اندازه ­گیری کیفیت خوشه­بندی۲۵
۱-۱۱ بررسی تکنیکهای اندازه‌گیری اعتبار خوشه‌ها.۲۵
۱-۱۲ شاخصهای اعتبارسنجی۲۷
۱-۱۲-۱ شاخص دون (Dunn Index).28
۱-۱۲-۲ شاخص دیویس بولدین (Davies Bouldin Index)28
۱-۱۲-۳ شاخص‌های  اعتبارسنجی ریشه میانگین مربع انحراف از معیار (RMSSDT) و ریشه R (RS)30
۱-۱۲-۴ شاخص اعتبار‌سنجی SD31
۱-۱۲-۵ شاخص اعتبارسنجی S_Dbw.32
۱-۱۲-۶ آزمایش ومقایسه کارایی شاخص‌های اعتبار سنجی.۳۳
۱-۱۳ خوشه‌بندی ترکیبی۳۷
۱-۱۳-۱ ایجاد پراکندگی در خوشه‌بندی ترکیبی.۳۷
۱-۱۳-۲ تابع توافقی ۳۹
۱-۱۳-۳ مشکلات پیش روی خوشه‌بندی ترکیبی.۴۰

فصل دوم – ادبیات و پیشینه تحقیق                                                         ۴۲
۲-۱ مقدمه۴۳
۲-۲ خوشه بندی فازی .۴۳
۲-۳ الگوریتم خوشه بندی c میانگین (Fuzzy c-mean)45

۲-۴ الگوریتم PFCM.49

۲-۵ الگوریتم AFCM.51

۲-۶ الگوریتم FPCM52

۲-۷ الگوریتم خوشه بندی c میانگین برای داده های نویزی۵۳
۲-۸ الگوریتم KFCM54
۲-۹ توابع ارزیابی خوشه ۵۶
۲-۹-۱ تابع ارزیابی ضریب افراز.۵۷
۲-۹-۲ تابع ارزیابی آنتروپی افراز۵۷
۲-۹-۳ تابع Fukuyama and Sugeno58
۲-۹-۴ تابع  Beni Xie and .59
۲-۹-۵ تابع N.Zahid.59
۲-۹-۶  تابع M.Ramze Rezaee60
۲-۱۰ خوشه‌بندی ترکیبی.۶۲

فصل سوم  روش تحقیق                                                                 ۶۸
۳-۱ مقدمه .۶۹
۳-۲ فرضیات روش پیشنهادی۷۰
۳-۳ شرح مفصلی از روش پیشنهادی.۷۲
۳-۴ شرح الگوریتم.۸۳

فصل چهارم  محاسبات و یافته های تحقیق                                          ۸۵
۴-۱ مقدمه.۸۶
۴-۲ نتایج خوشه بندی به روش پیشنهادی.۸۶
۴-۳ مقایسه ای با الگوریتم های خوشه بندی پایه .۸۷
۴-۴ مقایسه با روش های خوشه بندی ترکیبی ۹۰

فصل پنجم  نتیجه گیری و پیشنهادات                                                    ۹۲
۵-۱ جمع بندی۹۳
۵-۲ پیشنهادات۹۵
 
پیوست                                                                                      ۹۶
منابع و مآخذ                                                                              ۱۰۰
 
 
فهرست جداول
ـــــــــــــــــــــــــــــــــــــــــ
عنوان                                                                                             صفحه

جدول ۱-۱: مجموعه علائم بکار رفته در این بخش.۲۷
جدول۲-۱ : معیارهای تشابه بر اساس توابع فاصله مختلف۴۹
جدول ۴-۱ میزان نرخ خطای روش های مختلف توسط مقایسه ی نتایج با برچسب حقیقی مجموعه داده های استاندارد Iris ، Wine و Glass.91

 
فهرست تصاویر و نمودار
ـــــــــــــــــــــــــــــــــــــــــ
عنوان                                                                                             صفحه

شکل۱-۱ : نمونه‌ای از اعمال خوشه‌بندی با بهره گرفتن از معیار فاصله(Distance)5
شکل۱-۲ : a) در طبقه‌بندی با استفاده یک سری اطلاعات اولیه داده‌ها به دسته‌ه ای معلومی نسبت داده‌ می‌شوند. b) در خوشه‌بندی داده‌ها با توجه به الگوریتم انتخاب شده به خوشه‌هایی نسبت داده‌ می‌شوند . ۶
شکل۱-۳ : تفاوت بین روش های بالا به پایین با روش های پایین به بالا .۱۴
شکل۱-۴ :  شباهت بین دو خوشه در روش Single-Link برابر است با کمترین فاصله بین داده‌های دو خوشه. ۱۵
شکل۱-۵ : شباهت بین دو خوشه در روش Complete-Link برابر است با بیشترین فاصله بین داده‌های دو خوشه. ۱۵
شکل۱-۶ : شباهت بین دو خوشه در روش Average-Link برابر است با میانگین فاصله بین داده‌های دو خوشه. ۱۶
شکل۱-۷ :  شباهت بین دو خوشه در روش Group Average Link برابر است با فاصله بین میانگین نقاط دو خوشه . ۱۷
شکل۱-۸ : یک همسایگی برای P دارای چگالی نقاط ۵.۱۹
شکل ۱-۹ : p در دسترسِ مستقیمِ چگالیِ q قرار دارد.۲۰
شکل ۱-۱۰ : p در دسترسِ چگالیِ q قرار دارد.۲۰
شکل ۱-۱۱ : p متصلِ چگالیِ q است.۲۰
شکل۱-۱۲ : خوشه‌بندی بر اساس چگالی۲۱
شکل ۱-۱۳ : در روش سلسله مراتبی خوشه‌بندی براساس چگالی OPTICS از ترکیب خوشه‌های با چگالی زیاد و کوچک خوشه‌های بزرگتری حاصل می‌شود۲۲
شکل۱-۱۴: مجموعه داده‌های بکار رفته برای مقایسه کارایی شاخص‌های اعتبارسنجی خوشه‌ها.۳۴
شکل۱-۱۵ : مقادیر مربوط به شاخص‌های اعتبار بر روی نتایج حاصل از خوشه‌بندی داده‌ها کاملا مجزا .۳۴
شکل ۱-۱۶ : مقادیر مربوط به شاخص‌های اعتبار بر روی نتایج حاصل از خوشه‌بندی داده‌ها حلقوی.۳۵
شکل۱-۱۷ : دو حالت خوشه‌بندی درست و نادرست داده‌های با شکل دلخواه .۳۶
شکل ۱-۱۸ : مقادیر مربوط به شاخص‌های اعتبار بر روی نتایج حاصل از خوشه‌بندی داده‌ها با شکل دلخواه . ۳۶
شکل۱-۱۹ طبقه بندی روش های ایجاد پراکندگی در خوشه‌بندی ترکیبی.۳۹
شکل۱-۲۰ طبقه بندی توابع توافقی در خوشه بندی ترکیبی۴۰
شکل ۲-۱: مجموعه داده پروانه ای۴۵
شکل ۲-۲ : توزیع یک بعدی نمونه ها۴۷
شکل ۲-۳ : خوشه بندی کلاسیک نمونه های ورودی۴۸
شکل۲-۴ : خوشه بندی فازی نمونه ها.۴۸
شکل ۳-۱ فرایند کلی خوشه بندی ترکیبی فازی۷۰
شکل ۳-۲ مجموعه داده فرضی۷۷
شکل ۳-۳ ماتریس های همبستگی فازی متناظر با ماتریس های عضویت مربوطه۷۹
شکل ۳-۴ ماتریس استحکام حاصل از ماتریس های همبستگی فازی مرحله ۲۸۰
شکل ۳-۵ ماتریس های استحکام حاصل از اجرای الگوریتم روش پیشنهادی در سه تکرار متوالی.۸۱
شکل ۳-۶ گراف متناظر با تکرار اول از الگوریتم پیشنهادی .۸۱
شکل ۳-۷ گراف متناظر با تکرار دوم از الگوریتم پیشنهادی .۸۲
شکل ۳-۸ گراف متناظر با تکرار سوم از الگوریتم پیشنهادی.۸۲
شکل۴-۱ نتیجه ی خوشه بندی به روش پیشنهادی a)نحوه توزیع خوشه ها تا رسیدن به تعداد خوشه تعیین شده b)نمایش داده ها و خوشه بندی نهایی ۸۷
شکل ۴-۲ اعمال الگوریتم kmeans بر روی مجموعه داده نمونه .۸۸
شکل ۴-۳ اعمال الگوریتم FCM بر روی مجموعه داده نمونه۸۸
شکل ۴-۴  اعمال الگوریتم پیشنهادی بر روی مجموعه داده نمونه .۸۸
شکل ۴-۵  اعمال الگوریتم پیشنهادی بر روی مجموعه داده نمونه ی دیگر .۸۹
شکل ۴-۶مقایسه ای میان روش spectral و روش پیشنهادی a,b,c )خوشه بندی به روش spectral . d,e,f)خوشه بندی به روش پیشنهادی ۹۰

مقدمه ای بر داده‌کاوی
 
در دو دهه قبل توانایی های فنی بشر در تولید و جمع آوری داده ها به سرعت افزایش یافته است . عواملی نظیر به خدمت­گرفتن کامپیوتر در کسب و کار، علوم ، خدمات دولتی و پیشرفت در وسائل جمع­آوری داده، از اسکن کردن متون و تصاویر تا سیستم های سنجش از دور ماهواره ای، در این تغییرات نقش مهمی دارند. بطور کلی استفاده همگانی از وب و اینترنت به عنوان یک سیستم اطلاع رسانی جهانی ما را با حجم وحشتناکی ازداده و اطلاعات مواجه می‌کند. این رشد انفجاری در داده های ذخیره شده، نیاز مبرمی برای تکنولوژی های جدید و ابزارهای خودکاری ایجاد کرده که به صورت هوشمند به انسان یاری رسانند تا این حجم زیاد داده را به اطلاعات و دانش تبدیل کند.
داده کاوی به عنوان یک راه حل برای این مسائل مطرح می باشد. در یک تعریف غیر رسمی داده کاوی فرآیندی است، خودکار برای استخراج الگوهایی که دانش را بازنمایی می کنند، که این دانش به صورت ضمنی در پایگاه داده های عظیم، انباره داده و دیگر مخازن بزرگ اطلاعات، ذخیره شده است.
داده‌کاوی، پایگاه‌ها و مجموعه‌های حجیم داده‌ها را در پی کشف واستخراج دانش، مورد تحلیل و کند و کاوهای ماشینی (و نیمه‌ماشینی) قرار می‌دهد. این گونه مطالعات و کاوش‌ها را به واقع می‌توان همان امتداد و استمرار دانش کهن و همه جا گیر آمار دانست. تفاوت عمده در مقیاس، وسعت و گوناگونی زمینه‌ها و کاربردها، و نیز ابعاد و اندازه‌های داده‌های امروزین است که شیوه‌های ماشینی مربوط به یادگیری، مدل‌سازی، و آموزش را طلب می کند. [۴]
اصلی ترین دلیلی که باعث شد داده کاوی کانون توجهات در صنعت اطلاعات قرار بگیرد، مساله در دسترس بودن حجم وسیعی از داده ها و نیاز شدید به اینکه از این داده ها اطلاعات و دانش سودمند استخراج کنیم. اطلاعات و دانش بدست آمده در کاربردهای وسیعی از مدیریت کسب و کار وکنترل تولید و تحلیل بازار تا طراحی مهندسی و تحقیقات علمی مورد استفاده قرار می گیرد.
داده کاوی را می توان حاصل سیر تکاملی طبیعی تکنولوژی اطلاعات دانست، که این سیر تکاملی ناشی از یک سیر تکاملی در صنعت پایگاه داده می باشد، نظیر عملیات: جمع آوری داده ها وایجاد پایگاه داده، مدیریت داده و تحلیل و فهم داده ها. تکامل تکنولوژی پایگاه داده و استفاده فراوان آن در کاربردهای مختلف سبب جمع آوری حجم داده فراوان شده است .این داده های فراوان باعث ایجاد نیاز برای ابزارهای قدرتمند برای تحلیل داده ها گشته، زیرا در حال حاضر به لحاظ داده ثروتمند هستیم ولی دچار کمبود اطلاعات می باشیم .شکاف موجود بین داده ها و اطلاعات سبب ایجاد نیاز برای ابزارهای داده کاوی شده است تا داده های بی ارزش را به دانشی ارزشمند تبدیل کنیم.
به طور ساده داده کاوی به معنای استخراج یا “معدن کاری ” دانش از مقدار زیادی داده خام است. البته این نامگذاری برای این فرآیند تا حدی نامناسب است، زیرا به طور مثال عملیات معدن کاری برای استخراج طلا از صخره و ماسه را طلا کاوی می نامیم، نه ماسه کاوی یا صخره کاوی، بنابراین بهتر بود به این فرآیند نامی شبیه به “استخراج دانش از داده” می دادیم که متاسفانه بسیارطولانی است.
دانش کاوی” به عنوان یک عبارت کوتاهتر به عنوان جایگزین، نمی تواند بیانگر تاکید واهمیت بر معدن کاری مقدار زیاد داده باشد. معدن کاری عبارتی است که بلافاصله انسان را به یاد فرآیندی می اندازد که به دنبال یافتن مجموعه کوچکی از قطعات ارزشمند از حجم بسیار زیادی از مواد خام هستیم، با توجه به مطالب عنوان شده، با اینکه این فرآیند تا حدی دارای نامگذاری ناقص است ولی این نامگذاری یعنی داده‌کاوی بسیار عمومیت پیدا کرده است. البته اسامی دیگری نیز برای این فرآیند پیشنهاد شده که بعضا بسیاری متفاوت با واژه داده‌کاوی است، نظیر: استخراج دانش از پایگاه داده، استخراج دانش ، آنالیز داده / الگو، باستان شناسی داده ، و لایروبی داده ها. بسیاری از مردم داده کاوی را هم ارز با واژگانی نظیر کشف دانش در پایگاه داده می دانند[۵].
کشف دانش دارای مراحل تکراری زیر است:
۱‐ پاکسازی داده ها (از بین بردن نویز و ناسازگاری داده ها)
۲‐ یکپارچه سازی داده ها (چندین منبع داده ترکیب می شوند)
۳‐ انتخاب داده ها (داده های مرتبط با آنالیز از پایگاه داده بازیابی می شوند)
۴‐ تبدیل کردن داده ها(تبدیل داده ها به فرمی که مناسب برای داده کاوی باشد مثل خلاصه سازی و همسانسازی)
۵ ‐داده کاوی (فرایند اصلی که روالهای هوشمند برای استخراج الگوها از داده ها به کار گرفته می شوند)
۶ ‐ارزیابی الگو (برای مشخص کردن الگوهای صحیح و مورد نظر به وسیله معیارهای اندازه گیری)
۷ ‐ارائه دانش (یعنی نمایش بصری، تکنیکهای بازنمایی دانش برای ارائه دانش کشف شده به کاربر استفاده می شود)
که بر طبق این دیدگاه داده کاوی تنها یک مرحله از کل فرآیند است، البته به عنوان یک مرحله اساسی که الگوهای مخفی را آشکار می سازد[۵].
تعداد صفحه : ۱۲۳
قیمت : ۱۴۷۰۰ تومان

بلافاصله پس از پرداخت لینک دانلود فایل در اختیار شما قرار می گیرد

و در ضمن فایل خریداری شده به ایمیل شما ارسال می شود.

پشتیبانی سایت :        ****       [email protected]

در صورتی که مشکلی با پرداخت آنلاین دارید می توانید مبلغ مورد نظر برای هر فایل را کارت به کارت کرده و فایل درخواستی و اطلاعات واریز را به ایمیل ما ارسال کنید تا فایل را از طریق ایمیل دریافت کنید.

***  **** ***