رگرسیون
رگرسیون از دید ماشین لرنینگ: پیش‌بینی مقادیر عددی، رگرسیون خطی ساده و چندگانه و معیارهای ارزیابی
رگرسیون در یادگیری ماشین
در مبحث آمار، رگرسیون خطی را دیدیم. اینجا همان ابزار را از دید ماشین لرنینگ نگاه می‌کنیم: رگرسیون = پیش‌بینی مقدار عددی پیوسته. قیمت خانه، فروش فردا، دمای هوا، مدت زمان سفر — همه مسئله رگرسیون‌اند.
رگرسیون ساده و چندگانه
- ساده: یک ویژگی ←
قیمت = a + b × متراژ - چندگانه: چند ویژگی ←
قیمت = a + b₁×متراژ + b₂×سن_بنا + b₃×طبقه
در دنیای واقعی تقریباً همیشه چندگانه استفاده می‌کنیم، چون قیمت از چند عامل تأثیر می‌گیرد.
فرایند کامل مدل‌سازی رگرسیون
- داده را به Train و Test تقسیم کن
- مدل را روی Train آموزش بده (fit)
- روی Test پیش‌بینی کن (predict)
- با معیارها ارزیابی کن
معیارهای ارزیابی رگرسیون
| معیار | معنا | تفسیر |
|---|---|---|
| MAE | میانگین قدرمطلق خطا | به‌طور میانگین چند واحد اشتباه می‌کنیم |
| MSE | میانگین مربع خطا | خطاهای بزرگ را شدید جریمه می‌کند |
| RMSE | جذر MSE | مثل MAE اما حساس به خطاهای بزرگ |
| R² | سهم توضیح‌داده‌شده تغییرات | بین ۰ تا ۱؛ بالاتر بهتر |
مثال ملموس: اگر MAE مدل قیمت خانه ۵۰ میلیون باشد، یعنی به‌طور میانگین ۵۰ میلیون تومان خطا داریم — ساده و قابل گزارش!
چه زمانی رگرسیون خطی کافی است؟
- رابطه ویژگی‌ها با هدف تقریباً خطی است
- داده کم داریم و تفسیرپذیری مهم است (ضریب هر ویژگی = اثر آن)
- برای روابط پیچیده: درخت تصمیم، جنگل تصادفی و... (دوره ML)
نکته: همیشه با مدل ساده (رگرسیون خطی) شروع کنید! اگر خوب عمل نکرد، سراغ مدل‌های پیچیده بروید. مدل ساده + داده خوب، اغلب از مدل پیچیده + داده بد بهتر است.
جمع‌بندی
- رگرسیون = پیش‌بینی عدد پیوسته؛ ساده با یک ویژگی، چندگانه با چند ویژگی
- فرایند: تقسیم داده ← fit ← predict ← ارزیابی
- معیارها: MAE برای گزارش ساده، MSE/RMSE حساس به خطای بزرگ، R² برای کیفیت کلی
- اول مدل ساده؛ پیچیدگی فقط وقتی لازم شد
این مبحث بخشی از دوره آموزش کامل علم داده است.