بارگذاری و بررسی داده

بارگذاری داده از CSV، بررسی اولیه با head/info/describe و شناخت دیتاست قبل از مدل‌سازی

اولین قدم: شناخت داده

قبل از هر مدل‌سازی، باید داده را بارگذاری و بشناسیم. این مرحله «EDA» یا تحلیل کاوشی داده نام دارد.

بارگذاری از CSV

import pandas as pd

df = pd.read_csv("houses.csv")

# پارامترهای مفید
df = pd.read_csv("data.csv", sep=";", encoding="utf-8")

پنج ابزار بررسی اولیه

df.head()      # ۵ سطر اول - دیدن ساختار
df.shape       # (سطر, ستون)
df.info()      # نوع ستون‌ها + مقادیر گمشده
df.describe()  # آمار عددی
df["شهر"].value_counts()  # فراوانی دسته‌ها

تفسیر describe

شاخصمعنی
countتعداد مقادیر غیرگمشده
meanمیانگین
stdانحراف معیار (پراکندگی)
min / maxکمینه و بیشینه
25% / 50% / 75%چارک‌ها (میانه = ۵۰٪)

چک‌لیست بررسی داده

  1. آیا تعداد سطر و ستون با انتظار من مطابقت دارد؟
  2. آیا نوع ستون‌ها درست است؟ (رشته به‌جای عدد؟)
  3. آیا مقدار گمشده داریم؟
  4. آیا مقدار غیرمنطقی داریم؟ (سن منفی، قیمت صفر)
  5. توزیع برچسب‌ها چگونه است؟ (متوازن یا نه؟)
اگر ستونی که باید عددی باشد به‌صورت «object» (رشته) دیده شد، احتمالاً مقدار غیرعددی دارد و باید پاک‌سازی شود — این خطای بسیار رایجی است!

جمع‌بندی

این مبحث بخشی از دوره آموزش کامل ماشین لرنینگ است.

ابزارهای مرتبط