#author("2019-11-20T07:32:38+00:00","","")
#mynavi(機械学習の為の数学の基礎)
#setlinebreak(on);
* 目次 [#d8db4f2c]
#contents
- 関連
-- [[機械学習の為の数学の基礎]]
-- [[Python覚え書き]]
-- [[IPythonの使い方メモ]]
-- [[numpy入門]]
-- [[pandas入門]]
-- [[matplotlibでグラフ作成]]
* 概要 [#g644cbdc]
#html(<div style="padding-left: 10px;">)
#TODO
#html(</div>)
* 実装 [#b1b871c1]
#html(<div style="padding-left: 10px;">)
データ: &ref(sample_rent1.csv);
sample_rent1.py
#mycode2(python){{
"""
重回帰分析.
"""
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
def normalize(X, data=None):
"""正規化(Z-score normalization)."""
data = X if data is None else data
m = data.shape[0]
X_norm = np.zeros((data.shape[0], data.shape[1]))
for i in range(data.shape[1]):
X_norm[:, i] = (data[:, i] - float(np.mean(X[:, i]))) / float(np.std(X[:, i]))
# x0を追加
X_norm = np.column_stack([np.ones([m,1]), X_norm])
return X_norm
def cost(x, y, w):
"""コスト関数."""
diff = np.power((x.dot(w) - y), 2)
J = diff.sum(axis=0) / (2 * len(y))
return J
def gradient_descent(x, y, w, alpha, iter_num):
"""最急降下法."""
m = len(y)
costs = np.zeros((iter_num, 1))
for i in range(iter_num):
w = w - alpha * (1.0/m) * np.transpose(x).dot(x.dot(w) - y)
costs[i] = cost(x, y, w)
return w, costs
if __name__ == "__main__":
# データ読み込み
data = np.loadtxt("data/sample_rent1.csv", delimiter=",", skiprows=1)
x = data[:, 1:3] # N行3列の行列
y = data[:, 3:4] # N行1列の行列
# データサイズ
m = len(y)
# 正規化し、x0を追加
X_norm = normalize(x)
# 初期値
w_int = np.zeros((3, 1))
# 学習率、学習回数
alpha = 0.01
iter_num = 1000
# 最急降下法による重回帰分析
w, costs = gradient_descent(X_norm, y, w_int, alpha, iter_num)
# 3Dグラフを表示
fig = plt.figure()
ax = Axes3D(fig)
ax.scatter(data[:,1], data[:,2], data[:,3], color="#ef1234")
ax.set_xlabel("Size")
ax.set_ylabel("Age")
ax.set_zlabel("Rent")
plt.show()
# 学習毎のコストをグラフ表示
plt.plot(range(costs.size), costs[:, 0], "r")
plt.xlabel("iterations")
plt.ylabel("cost")
plt.grid(True)
plt.show()
#print("weight:")
#print(w)
# 作成したモデルを使用して別のデータを予測してみる
z = np.array([[60, 10]])
result = normalize(x, z).dot(w)
print("広さ: {}��, 築年数: {}年 ≒ {:0.1f}万円".format(z[0,0], z[0,1], result[0,0]))
}}
#html(</div>)
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
