기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

nan 제거를 위한 방법(~ing)

1. pd.dropna(axis=0how='any'thresh=None)

axis:0은 열, 1은 행을 기준으로 설정 
       주의) 0일경우 열을 기준으로 하는데 이는 1열의 3행의 값이 na라면 how='any' 일 경우 3행을 제거
                 즉, 기준이 되는 열 또는 행에서 na가 대응되는 행 또는 열이 제거된다.  
how: 'any'는 na값이 하나라고 있으면 해당되는 열을 제거 
        'all' 은 그 열의 값이 모두 na일 경우에만 제거 

In [1]: import numpy as np
In [2]: import pandas as pd

다음예는 엑셀파일로 부터 저장된 자료를 호출하였을 경우 Na의 처리예이다.
In [3]: itemCode=pd.read_excel("c:\\~~\\--.xlsx", sheet_name="googleCode")
In [4]: itemCode1=itemCode.ix[:,:3]
In [5]: itemCode1
Out[5]:
code1종목코드종목명
0KRXKOSPI종합(KOSPI)
1KRX122630KODEX 레버리지
2KRX114800KODEX 인버스
3KRX004020현대제철
4KRX030610교보증권
5KRX006800미래에셋대우
6KRX130960CJ E&M
7KRX047810한국항공우주
8KOSDAQKOSDAQ종합(KOSDAQ)
9KOSDAQ214180민앤지
10NaNNaNNaN
11NaNNaNNaN
12NaNNaNNaN
13NaNNaNNaN
14NaNNaNNaN
15NaNNaNNaN

위의 결과에서 Na를 제거하기 위해 위 함수를 사용하자.

In [6]: itemCode1=itemCode1.dropna(axis=0)
In [7]: itemCode1
code1종목코드종목명
0KRXKOSPI종합(KOSPI)
1KRX122630KODEX 레버리지
2KRX114800KODEX 인버스
3KRX004020현대제철
4KRX030610교보증권
5KRX006800미래에셋대우
6KRX130960CJ E&M
7KRX047810한국항공우주
8KOSDAQKOSDAQ종합(KOSDAQ)
9KOSDAQ214180민앤지

코드 [6]에서 dropna() 함수 적용시 열을 기준으로 한다. 이 경우 how='any'로 지정되었다.(이 값은 디폴트 값이다.)
1열에서 10행에서 Na가 발견되어 10행이 제거되었다.

2. np.delete(array객체, 제거 원소의 인덱스(열 또는 행), axis=None)
배열 객체 중에 제거할 원소의 인덱스를 지정하여 지정된 행(1), 또는 열(0)을 기준으로 원소들을 제거한다.
axis=None일 경우 객체를 1차원으로 간주한다.
axis를 행으로하면 인덱스는 열의 번호이고
axis를 열로 하면 인덱스는 행의 번호이다.
주의: 행을 기준으로 인덱스 3을 지정하였다. 이 경우 제거할 값을 선택하는 것은 행과 열이 만나야 하는 지점이다. 그러므로 행을 기준으로 하였기 때문에 인덱스 3은 열번호가 되어야 한다. 즉, 3열이 제거된다.

결과는 인덱스에 지정한 것에 따른다. 즉,
         인덱스가 행 번호이면 행이 제거되고
         인덱스가 열번호이면 열이 제거된다.

In [8]: x=np.random.randint(10, size=20).reshape((4, 5))

In [9]: x
Out[9]:
array([[4, 6, 7, 2, 9],
       [8, 8, 0, 6, 5],
       [1, 9, 0, 7, 3],
       [3, 1, 2, 9, 8]])

In [10]: np.delete(x, [2, 3], 0)
Out[10]:
array([[4, 6, 7, 2, 9],
       [8, 8, 0, 6, 5]])

In [11]: np.delete(x, [2, 3], 1)
Out[11]:
array([[4, 6, 9],
       [8, 8, 5],
       [1, 9, 3],
       [3, 1, 8]])

코드[8]의
np.random.randint(시작수, 끝수, 갯수): 시작수와 끝수 사이의 정수들 중에 지정된 갯수의 임의수를 추출하는 함수
np.reshape((행, 열)): 객체를 지정된 행과 열의 수로 차원을 재 정의 한다. 

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b