기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

댓글 쓰기

분산-공분산 행렬

어떤 행렬의 열들 사이의 공분산을 계산하기 위해 사용할 수 있는 함수는
numpy.cov()
pandas데이터프레임.cov()
가 있다.
그러나 numpy.cov()의 경우 두 객체들 사이의 공분산을 계산하고 그 이상의 차원에서는 엉뚱한 값들을 반환한다.

>>> x
                Open      High       Low    Volume
2017-12-05  0.493023  0.648262  0.624396 -0.220359
2017-12-06  0.737391  1.452395  1.166491  0.200745
2017-12-07  1.877774  1.256265  0.499297  0.316586
2017-12-08  0.065379 -0.450067 -0.480642  0.635944
2017-12-11 -0.260445 -0.548132 -0.084496 -0.518430
2017-12-12 -0.138261 -0.626584 -0.105346 -1.072204
2017-12-13 -0.117897 -0.705036 -0.188745 -0.986260
2017-12-14 -0.525176 -0.116646 -0.147046 -0.465978
2017-12-15  0.594843  1.668138  1.249890  1.623176
2017-12-18  1.144670  0.785553  0.853744 -0.322070
2017-12-19  0.615207  0.177549  0.978842 -1.352655
2017-12-20  1.042850  1.177813  1.041392 -0.172654
2017-12-21  0.289383  0.334453  0.999692 -1.654738
2017-12-22  0.004287 -0.391228 -1.710780  2.694075
2017-12-26 -2.032111 -2.097560 -1.794179 -0.207932
2017-12-27 -1.543376 -1.332653 -1.669080  0.903655
2017-12-28 -1.909927 -1.469944 -1.502282 -0.178807

>>> ind.cov()
            Open      High       Low    Volume
Open    1.128767  1.034342  0.937355 -0.011133
High    1.034342  1.183175  1.034811  0.115844
Low     0.937355  1.034811  1.176485 -0.408230
Volume -0.011133  0.115844 -0.408230  1.165753

>>> np.cov(x.iloc[:,0], x.iloc[:,1])
Out[101]:
array([[ 1.12876671,  1.03434229],
       [ 1.03434229,  1.18317514]])

그러나 위 객체 x를 한번에 전달할 경우 이상한 결과를 반환합니다.
>>> np.cov(np.array(ind))
array([[  1.68246268e-01,   2.05004449e-01,   1.52065103e-01,
         -2.03718707e-01,   4.10165985e-02,   1.48847333e-01,
          1.18723362e-01,   5.37039745e-02,  -6.22683960e-02,
          2.42177363e-01,   3.88604631e-01,   2.57479167e-01,
          4.53461118e-01,  -7.14587480e-01,  -3.55736684e-01,
         -4.86439604e-01,  -2.79320294e-01],
       [  2.05004449e-01,   2.97031729e-01,   1.14245017e-01,
         -2.78161416e-01,   2.14653937e-02,   1.25719977e-01,
          8.25312257e-02,   9.80441073e-02,   2.59998167e-02,
          2.42325728e-01,   4.03081003e-01,   3.04161921e-01,
          5.20283579e-01,  -8.50051153e-01,  -4.08953290e-01,
         -5.33662952e-01,  -2.77036140e-01],
       [  1.52065103e-01,   1.14245017e-01,   5.17762819e-01,
         -8.49246271e-02,   3.28664601e-03,   1.59751623e-01,
          1.53117702e-01,  -3.81687057e-02,  -2.40400279e-01,
          3.43175863e-01,   3.41690092e-01,   2.84154220e-01,
          3.23217459e-01,  -3.57868100e-01,  -4.52525849e-01,
         -5.07897566e-01,  -4.14047915e-01],
          ....
Labels:

댓글

댓글 쓰기

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같
댓글 쓰기
Read more »

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()
댓글 쓰기
Read more »

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b
댓글 쓰기
Read more »