Description

هورگ 2 دانشکده یسدنهم برق
مدرس: دیس لامج الدین گلستانی نیمسال زییاپ 00-99

تکلیف هرامش 6 دعوم لیوحت: هعمج 17 هبنم 99
توضیحات یلک
• رد یتروص هک براي وضع ندش رد سایتهاي درس رب روي piazza.com و quera.ir ای براي دولپآ ندرک تکالیف دوخ راچد لکشم دیدش، اب آدرس ایمیل amirahosseinameli@gmail.com تماس دیریگب.
• ره ود بخش کامپیوتري و تئوري ره تکلیف ار رب روي سایت دولپآ دییامن. لیوحت هب تروص کاغذي مزلا نیست.
• رد دروم ره تکلیف، مامت فایلهاي طوبرم هب تلااوس رتویپماکي ار رد کی فایل هب نام HWCiN.zip و مامت
فایلهاي طوبرم هب تلااوس تئوري ار رد فایلی هب نام HWTiN.zip رارق دیهد هک i هرامش تکلیف و N هرامش دانشجویی تسامش.
• هب دلیل قابلیتهاي سایت piazza.com، زا این سایت براي تیریدم لاوسهاي حرطم هدش هدافتسا یمددرگ. تلااوس دوخ ار اهنت زا قیرط این سایت بفرستید و زا سایت quera.ir افرص براي دولپآ تکالیف دوخ هدافتسا دینک. رد تروص ایمیل ندرک تکالیف هب نارایتسد آموزشی، هرمنيا هب نآ تعلق نمیدریگ.

تلااوس یلمع
لاوس 4C:
رد نیا لاوس يریگدای طسوت هکبش یبصع و رب يور هعومجم يا زا هداد طبترم اب وضعیت یتکرح یک درف ناسنا تروص یم دریگ و هدف زا آن هقبط يدنب تیعضو ای عون تکرح درف هب یکی زا 12 تلاح نکمم یمباشد .این 12 حالت ,هک طسوت ریداقم 1 ات 12 براي برچسب y مشخص یمدندرگ لماش هس تیعضو یتکرح( هار نتفر ,بالارفتن زا پله و پایین رفتن زا لپه)، هس تیعضو یتکرحریغ (ایستادن ,نتسشن و ندیشکزارد) و شش وضعیت راذگ بین اتود زا وضعیتهاي ریغیتکرح( دننام راذگ زا تیعضو ندیشکزارد هب تیعضو نداتسیا) یمباشد .براي هر مثال( هر رفد)، هداد x هک اب هدافتسا زا آن لمع هقبط يدنب تروص یمدریگ، لماش 561 هفلوم (ای 561 ویژگی) میباشد .این ویژگیاه زا روي اطلاعات ماخ جعم آوري هدش توسط یک نفلت هارمه لصتم هب رمک درف تسدب یمآدی .تاعلاطا ماخ عمج آوري هدش توسط نفلت مربوط هب سرعت هیوازيا و باتش رد هس دعب تسا هک اب فرکانس 50 راب رد ثانیه و یط 2.5 هیناث هنومن برداري می شود .این اطلاعات پس زا یک هلحرم پردازش هیلوا تبدیل هب 561 ویژگی دروم هراشا میددرگ .رد این مساله، هوحن تاییزج هلحرم پردازش هیلوا دروم هجوت ام نیست .
فایل هداد موجود شامل 561 ویژگی دروم هراشا براي 7767 لاثم( یک رطس براي ره لاثم) یمباشد .ابتدا هد درصد زا مثالاه ار هب تروص صتادفی( اب np.shuffle جایگشت دیهد و 10 دصرد بادتایی ار اتنباخ دینک) براي تست ادج دینک و طی دنور آموزش اهنت زا دون درصد هدنامیقاب هداد هدافتسا ینکد.
هناخباتک ياه آهدام یمدناوت یک هکبش عصبی fully connected اب تعداد T هیلا و دادعت n هرگ رد ره هیلا ار هدایپ يزاس هدرک و لمع يریگدای ار اب هدافتسا زا یک متیروگلا هباشم روش SGD یط i ماگ (iteration) انجام دهد که ریداقم T,n,i قابل تنظیم هستند .عبات فعال سازي (activation) هب صورت default هب مرف ReLU یمباشد، ره دنچ باختناهاي دیگري زین دوجو دراد .يارب اراپياهرتم رگید دننام لوط ماگ زین انتخابییاه هب روصت default صترو هتفرگ است .ياهباختنا defult را ترییغ دیهدن.
الف – قمع و دادعت هرگ رد ره هیلا ار ربارب 8 =𝑇 و 8 =𝑛 رارق دیهد .آهاگن متیروگلا یادگیري ار جنپ راب، ره راب اب دادعت گام
400,300 ,200,100 ,10 =𝑖 ارجا دییامن .پس زا ره راب ارجا، ياطخ هلصاح يارب دادههاي آیشزوم، نینچمه ياطخ
هلصاح براي هدادهاي تست ار هب دست آدیرو .نیا ود عون اطخ ار هب ترتیب .𝐿-, 𝐿 یم میمان. .𝐿-, 𝐿 ار رب حسب i میسرت دییامن .
ره کی زا ود اطخ رد هچ رادقم i مممینی میگددر .تشادرب دوخ ار زا مینحن رییغتتا .𝐿-, 𝐿 و هسیاقم اهنآ را بیان کنید.
ب- دادعت ماگ هاي متیروگلا ار ربارب 100 =𝑖 و دادعت هیلااه ار ربارب 8 =𝑛 رارق دیهد و نیا راب متیروگلا ار هفت راب هب ازاي
32 ,16 ,8 ,4 ,2 ,1 =𝑛 ارجا دییامن و یسرربهاي هتساوخ هدش رد دنب الف ار براي نیا حالت رارکت دینک .
ج- تدادع ماگ ياه متیروگلا ار ربارب 100 =𝑖 و دادعت هرگ رد ره هیلا ار ربارب 8 =𝑛 رارق دیهد .متیروگلا ار شش راب هب ازاي
16 ,8 ,4 ,2 ,1 =𝑇 ارجا دییامن و یسررب هاي هتساوخ هدش رد دنب الف ار براي نیا حالت رارکت کدین.

لاوس 5C:
رد نیا لاوس هب یسررب و هدایپيزاس multiclass classification اب استفاده زا روشهاي مختلف یادگیري و مقایسه این روش اه هتخادرپ یمدوش.
براي این سوال توصیه یمشدو زا هناخباتکهاي Keras و scikit-learn زبان پایتون استفاهد ینکد اما افتساهد زا هناخباتکهاي مانترظ pytorch و ای tensorflow عناملاب است. براي شآنایی و دایيریگ نیا اتکبهناخاه عبانم ریز هیصوت یمدوش:
• :pytorch
• :tensorflow
• /https://keras.io/api :keras
رد نیا لاوس زا یشخب زا یدتاست ورعمف fashion-mnist هدافتسا یمنکمی هک فده نآ تصیخش عون لباس رب اساس تصویر آن است.

هداداه رد غالب یک لیافcsv اب 785 نوتس و 10000 ردیف رد رایتخا امش رارق هتفرگ است. ره فیدر طوبرم هب کی سکع یمباشد هک 784 نوتس لوا آن دادعا لسکیپهاي یک عکس 28*28 و نوتس آرخ class (عون کعس) ار مشخص میدنک پس امش دیاب زا
784 نوتس لوا هب ناونع يدورو ياه هقبطبندهاي مختلف استفاده هدرک ات نوتس آرخ ار هب ناونع یجورخ پیشبینی کنید .
رد یک اسمهل هقبطبندي چندتایی ای multiclass classification دقت راک و عاونا ییاهاطخ هک صورت هتفرگ اب یک ماتریس هب مان confusion matrix بیان میدوش .هیارد رطس i و نوتس j این ماتریس، تعداد نمونهییاه ار نشان میدهد هک هقبط
(یعنی برچسب واقعی) آاهن i هدوب و متیروگلا هقبطبندي برچسب j ار براي آاهن پیشبینی هدرک است .هب این ترتیب هیاردهاي روي رطق نیا ماتریس دادعت هنومنییاه ار ناشن یمدهد هک تسرد هقبطبندي شدهاند و دقت طبقهبندي ربارب است اب نسبت جمع هیاردهاي روي رطق نیا ماتریس هب عمج لک هیاردهاي ماتریس .
رد نیا لاوس هقبطبندي ار اب ره یک زا پنج روش ریز انجام میدیهد و دعب زا يارجا ره روش ماتریس confusion و دقت هقبطبندي ار براي آن روش هبتسد آدیرو .
هب دراوم ریز دقت بییامرفد:
• رد ابتدا نمیی زا داهداه ار هب روط یفداصت نامدن لاوس لبق يارب validation ادج نکدی.
• رد ره روش ود هتسد رتماراپ ای هنیزگ حرطم دنتسه .ياههنیزگ نیعم هدش (هک رد حیضوت روش رد ریز مشخص هدشاند) و هنیزگهاي لباق انتخاب .هنیزگهاي لباق انتخاب ار دیاب دوخ امش هب هنوگيا اب یعس و اطخ نییعت دینک هک هب قیقدترین هقبط يدنب ماجنایبد.
• یشرازگ لماش تقد ره یک روش اه confusion matrix و رتماراپ(هنیزگ) هاي دروم استفاده رد ره روش و هسیاقم روشهاي مختلف ار هب هارمه کد يراذگراب دینک .
روش لوا: SVM ( این روش ار SVM اب کرنل خطی زین مینامند اریز مثل این است هک زا نگاشت 𝜑(𝑥) = 𝑥 هدافتسا هدش

سات).
هنیزگهاي نیعم هدش: عون نرکلlinear
هنیزگهاي لباق انتخاب: ندارد.

روش دمو: SVM اب کرنل گوسی

هنیزگهاي نیعم هدش: عون کرنل Gaussian ای rbf
هنیزگهاي لباق انتخاب: رتماراپ کرنل گوسی (𝛾) روش موس: K-nearest neighbor

هنیزگهاي نیعم هدش: هدافتسا زا فاصلهي یلقایسد
هنیزگهاي لباق انتخاب: K
روش مراهچ: ردتخ میمصت گيری

رد نیا روش زا ياهرتماراپ پیشفرض عباوت آهدام هدافتسا دینک و نیازي هب سعی و اطخ نیست .
روش پنجم: بشهک یبصع

هنیزگ نیعمهدش: کی هکبش مامت لصتم اب قمع 3 =𝑇 (یعنی اب ود هیلا یفخم) دادعت نورونهاي ره هیلا یفخم ربارب 100 و هیلا یجورخ اب هد نورون زا عون softmax. هیلا softmax هب ره یک زا برچسباه یک لامتحا نسبت یمدهد و سپس نیرتگرزب لامتحا ار هب ناونع برچسب پیشنهادي انتخاب یمدنک .يارب هنیهب يزاس زا الگوریتم SGD اب تابع هزینه cross entropyهدافتسا دینک .يارب ریاس اهرتماراپ زا ریداقم پیشفرض هدافتسا دینک .
هنیزگ لباق باختنا: عون عبات يزاسلاعف هیلاهاي ینایم
*رادومن عبات هنیزه برحسب نامز یادگیري ار درگزارش دوخ مسر دینک.

لاوس 6C:
الف – همانربيا بنویسدی هک اربي 𝑛 رادرب 𝑚 لومهفيا، الگوریتم K-means ار اارج دنک و 𝑛 رببسچ یبن 0 ات 1 −𝑘 ، هک هشوخبندي لصاح ار مشخص یمنکدن، نادرگربد. ورودي همانرب (تابع) کی ماتریس 𝑛 × 𝑚 و ددع 𝑘 است.
• زکارم هتسداه ار رد ابتدا هب صترو اصتدیف زا نایم هداداه انتخاب یموشدن.
• هب ناونع باتع فاصله زا فاصهلي اقلیدسی هدافتسا دینک.
ب – هدادهاي iris راهچ یگژیو زا هس عون لگ ار رد ایتخار ام رارق میدهد هک رد لیاف iris.csv رد رایتخا امش رارق هتفرگ است .
• هب وهلیسي باتع ناتدوخ، دادههاي iris flower ار اب استفاده زا 4 ویژگی دوجوم، هشوخ بندي کدین.
• هدادهاي لصاح ار رد ياضف ود يدعب هب يازا ره ود یویگژ( اعمج 6 ومنراد) مسر ینکد.
• رنگ ره نقطه دیاب نتمبسا اب هشوخي رظانتم شابد.
ج – قبط لکشهاي هب دست آ؛هدم هب رظن امش، آای میناوت یکی زا این 4 ویژگی ار حذف درک بدون آن هک قدت هشوخبندي رییغت زیادي هتشاد ؟دشاب دلایل دوخ ار حرش دیهد( .راهنمایی: میدیناوت اب هدافتسا زا 3 ویژگی هشوخبندي دینک و نتایج ار مقایسه دینک).