기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

주식 데이터 관리_google finance

1. 대상이 되는 주식 일일자료를 google finance로 부터 호출하여 엑셀로 저장하기
다음의 패키지들이 필요하다.

In [1]: import numpy as np
In [2]: import pandas as pd
In [3]: from googlefinance.client import get_price_data, get_prices_data, get_prices_time_data
In [4]: from datetime import datetime, timedelta

1) google finance에 사용할 수 있는 각 주가 코드를 엑셀로 정리하여 호출하자.
다음예에서 사용된 dropna()는 데이터에 na를 제거하기 위해 사용한 것으로 아래의 포스트를 참조(nan제거를 위한 함수들)

In [5]: itemCode=pd.read_excel("c:\\~~.xlsx", sheet_name="googleCode")
In [6]: itemCode1=itemCode.ix[:,:4]
In [7]: itemCode1=itemCode1.dropna(axis=0)
In [8]: itemCode1
Out[8]:
code1종목코드item종목명
0KRXKOSPIkospi종합(KOSPI)
...............

2) google finance로 부터 데이터를 호출하기 위해 위 코드 [3]에서 제공하는 함수들을 사용한다. 포스트 (google finance로 부터의 자료 호출_python )참조
위에서 호출한 code는 여러 종목에 관한 것이다. 그러므로 각 종목을 호출하기 위해서는 
반목문을 사용하자. 
최종 결과를 담기위해 인덱스(주식명)과 값(일일자료)를 모두 표시할 수 있는 사전 객체로 생성하자. 

In [9]: dat={}
In [10]: for i in range(len(itemCode1)):
            param={'q': itemCode1.ix[i, 1], 'i': "86400", 'x': itemCode1.ix[i, 0], 'p':'10Y'}
            dat[itemCode1.ix[i,2]]=get_price_data(param)
이 웹사이트로 부터 호출한 자료중에 데이터의 스케일이 다른 경우가 존재한다. (각 데이타 마다 점검해야 한다.) 
점검한 바로는 kospi와 kosdaq의 거래량은 한국 또는 yahoo finance에서 제공하는 값들 보다 1000배 크다. 그러므로 이를 보정해 주기 위해 다음과 같이 값들을 조정한다. 
이 조정은 매일의 한국이나 다른 데이터로 업데이트 시킬 경우 일어날 수 있는 혼동요인을 예방하기 위한 것으로 google finance로 부터의 자료만을 사용하기 위해서는 불필요하다. 

In [11]: dat['kospi'].ix[:,4]=dat['kospi'].ix[:,4]/1000
In [12]: dat['kosdaq'].ix[:,4]=dat['kosdaq'].ix[:,4]/1000

대표적으로 호출된 kospi의 자료를 보자. 
In [13]: dat['kospi'].head(3)
OpenHighLowCloseVolume
2007-11-19 15:30:001936.381936.501892.871893.47292323.0
2007-11-20 15:30:001853.411875.461819.181872.24331755.0
2007-11-21 15:30:001865.911875.981803.771806.99307454.0

In [14]: dat['kospi'].tail(3)
OpenHighLowCloseVolume
2017-11-13 15:30:002548.272552.282527.202530.35266530.0
2017-11-14 15:30:002532.552532.952520.992526.64287771.0
2017-11-15 15:30:002525.602526.612511.762518.25398215.0

3) 호출한 데이터를 엑셀파일에 저장하자. 
포스트(엑셀, csv 파일 열기)참조

In [15]: writer=pd.ExcelWriter('dataStock.xlsx', engine='xlsxwriter')
for i in dat.keys():
    dat[i].to_excel(writer, sheet_name=i, index=True, header=True)
writer.save()

위와 같이 저장한 데이터는 웹과의 연결없이 자료를 사용할 수 있다는 장점이 있다. 

4) 자료의 업데이트 
엑셀에 저장된 데이터를 호출한다. 
In [16]: dat={}
          for i in itemCode1.ix[:,2]:
              dat[i]=pd.read_excel('dataStock.xlsx', sheet_name=i, index_col=0)

엑셀로부터 업데이트할 자료를 호출한다.
(이 자료는 각 증권사에서 제공하는 자료 중에서 관심종목을 등록하면 볼 수 있다.
장마감 후 관심종목에 있는 데이터를 '엑셀로 복사하기'를 선택하면 엑셀로 전달되는데 이 데이터를 적절한 경로로 저장후 호출하여 사용한다.)

In [17]: upd=pd.read_excel('update_python.xlsx', sheet_name="update", index_col='nme')

호출한 데이터를 기존에 데이터에 첨가한다.

pd객체.append(): 기존의 데이터 마지막 행 이후에 새로운 행이 첨가된다. 이 경우 첨가할 데이터와 기존의 데이터의 열 이름이 동일해야 한다.

In [18]:
for i in dat.keys():
    dat[i].append(upd.ix[i, :])
    idx=list(dat[i].index)
    idx[len(idx)-1]=today
    dat[i].index=idx

데이트한 데이터를 다시 엑셀에 저장한다.
In [19]:
writer=pd.ExcelWriter('dataStock.xlsx', engine='xlsxwriter')
for i in dat.keys():
    dat[i].to_excel(writer, sheet_name=i, index=True, header=True)
writer.save()

댓글

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b