بارگذاری و بررسی داده
بارگذاری داده از CSV، بررسی اولیه با head/info/describe و شناخت دیتاست قبل از مدلسازی
اولین قدم: شناخت داده
قبل از هر مدلسازی، باید داده را بارگذاری و بشناسیم. این مرحله «EDA» یا تحلیل کاوشی داده نام دارد.
بارگذاری از CSV
import pandas as pd
df = pd.read_csv("houses.csv")
# پارامترهای مفید
df = pd.read_csv("data.csv", sep=";", encoding="utf-8")
پنج ابزار بررسی اولیه
df.head() # ۵ سطر اول - دیدن ساختار
df.shape # (سطر, ستون)
df.info() # نوع ستونها + مقادیر گمشده
df.describe() # آمار عددی
df["شهر"].value_counts() # فراوانی دستهها
تفسیر describe
| شاخص | معنی |
|---|---|
| count | تعداد مقادیر غیرگمشده |
| mean | میانگین |
| std | انحراف معیار (پراکندگی) |
| min / max | کمینه و بیشینه |
| 25% / 50% / 75% | چارکها (میانه = ۵۰٪) |
چکلیست بررسی داده
- آیا تعداد سطر و ستون با انتظار من مطابقت دارد؟
- آیا نوع ستونها درست است؟ (رشته بهجای عدد؟)
- آیا مقدار گمشده داریم؟
- آیا مقدار غیرمنطقی داریم؟ (سن منفی، قیمت صفر)
- توزیع برچسبها چگونه است؟ (متوازن یا نه؟)
اگر ستونی که باید عددی باشد بهصورت «object» (رشته) دیده شد، احتمالاً مقدار غیرعددی دارد و باید پاکسازی شود — این خطای بسیار رایجی است!
جمعبندی
- با
read_csvداده را بارگذاری کنید head،info،describeوvalue_countsابزارهای شناخت دادهاند- هرگز بدون بررسی داده، مدل نسازید
این مبحث بخشی از دوره آموزش کامل ماشین لرنینگ است.