기본 콘텐츠로 건너뛰기

[ML] 결정트리(Decision Tree) 모델

댓글 쓰기

[Pandas] 데이터 병합:concat

데이터 병합

다음은 일정기간의 코스피와 원-달러의 종가 데이터를 호출한 것입니다(yahoo finantical 자료 호출 참조). 

import numpy as np 
import pandas as pd 
import yfinance as yf
st=pd.Timestamp(2024, 9, 1)
et=pd.Timestamp(2024, 9,22)
d=yf.download("^KS11", start=st, end=et)["Close"]
d.head(2)
Date
2024-09-02    2681.000000
2024-09-03    2664.629883
Name: Close, dtype: float64
dw=yf.download("KRW=X", st, et)
dwC=dw.Close
dwC.head(2)
Date
2024-09-02    1336.579956
2024-09-03    1337.550049
Name: Close, dtype: float64

데이터 d와 dw의 합치기 위해 다양한 방법을 적용할 수 있습니다.

union(), intersection() 메서드를 사용하여 각 자료의 index를 조정하여 pd.concat() 등의 함수를 사용할 수 있습니다.

  • union: 인덱스 모두를 결합하여 나타냅니다. 즉, 합집합입니다.
  • intersection: 두 인덱스들의 공통부분을 추출합니다. 즉, 교집합입니다. 
idx1=d.index; idx1
DatetimeIndex(['2024-09-02', '2024-09-03', '2024-09-04', '2024-09-05',
               '2024-09-06', '2024-09-09', '2024-09-10', '2024-09-11',
               '2024-09-12', '2024-09-13', '2024-09-19', '2024-09-20'],
              dtype='datetime64[ns]', name='Date', freq=None)
idx2=dw.index;idx2
DatetimeIndex(['2024-09-02', '2024-09-03', '2024-09-04', '2024-09-05',
               '2024-09-06', '2024-09-09', '2024-09-10', '2024-09-11',
               '2024-09-12', '2024-09-13', '2024-09-16', '2024-09-17',
               '2024-09-18', '2024-09-19', '2024-09-20'],
              dtype='datetime64[ns]', name='Date', freq=None)
idx1=d.index
idx2=dw.index
idx_u=idx1.union(idx2)
all(idx_u == idx2)
True
idx_i=idx1.intersection(idx2)
all(idx_i==idx1)
True

위에서 생성한 idx_i를 적용하여 서로 공통되는 부분을 결합합니다. 결합은 pd.concat([df1,df2,…], axis=0, join="outer" …) 함수를 사용합니다. 

pd.concat([d, dwC[idx_i]], axis=1).head(2)
Close Close
Date
2024-09-02 2681.000000 1336.579956
2024-09-03 2664.629883 1337.550049

위에서 사용한 pd.concat() 함수는 두 개이상의 다른 데이터들을 결합하기 위해 사용합니다.

  • 인수중 axis로 결합방향을 지정합니다. 0인 경우 종방향, 1인 경우 횡방향으로 결합합니다. 기본값은 0
  • join은 결합방식을 결정합니다. 결합할 객체들의 행 또는 열의 수가 다를 경우 join="outer"은 모두 결합합니다. 그러므로 대응되는 데이터가 없을 경우 NaN로 표현됩니다. 반면에 join="inner"는 공통되는 부분만을 결합합니다.

직전의 결과는 다음과 같습니다. 

pd.concat([d, dwC], axis=1, join="inner")
Close Close
Date
2024-09-02 2681.000000 1336.579956
2024-09-03 2664.629883 1337.550049
⋮ ⋮ ⋮ 
pd.concat([d, dwC], axis=1)
Close Close
Date
2024-09-02 2681.000000 1336.579956
2024-09-03 2664.629883 1337.550049
2024-09-04 2580.800049 1340.410034
⋮ ⋮ ⋮
2024-09-16 NaN 1329.510010
2024-09-17 NaN 1319.109985
2024-09-18 NaN 1322.930054
⋮ ⋮ ⋮

aixs=0(기본값)을 적용한 경우 종방향으로 결합합니다. 

pd.concat([d,dwC])
Date
2024-09-02    2681.000000
2024-09-03    2664.629883
    ⋮
2024-09-20    2593.370117
2024-09-02    1336.579956
2024-09-03    1337.550049
    ⋮
2024-09-19    1322.260010
2024-09-20    1327.609985
Name: Close, dtype: float64
Labels:

댓글

댓글 쓰기

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같
댓글 쓰기
Read more »

[matplotlib] 히스토그램(Histogram)

히스토그램(Histogram) 히스토그램은 확률분포의 그래픽적인 표현이며 막대그래프의 종류입니다. 이 그래프가 확률분포와 관계가 있으므로 통계적 요소를 나타내기 위해 많이 사용됩니다. plt.hist(X, bins=10)함수를 사용합니다. x=np.random.randn(1000) plt.hist(x, 10) plt.show() 위 그래프의 y축은 각 구간에 해당하는 갯수이다. 빈도수 대신 확률밀도를 나타내기 위해서는 위 함수의 매개변수 normed=True로 조정하여 나타낼 수 있다. 또한 매개변수 bins의 인수를 숫자로 전달할 수 있지만 리스트 객체로 지정할 수 있다. 막대그래프의 경우와 마찬가지로 각 막대의 폭은 매개변수 width에 의해 조정된다. y=np.linspace(min(x)-1, max(x)+1, 10) y array([-4.48810153, -3.54351935, -2.59893717, -1.65435499, -0.70977282, 0.23480936, 1.17939154, 2.12397372, 3.0685559 , 4.01313807]) plt.hist(x, y, normed=True) plt.show()
댓글 쓰기
Read more »

R 미분과 적분

내용 expression 미분 2차 미분 mosaic를 사용한 미분 적분 미분과 적분 R에서의 미분과 적분 함수는 expression()함수에 의해 생성된 표현식을 대상으로 합니다. expression expression(문자, 또는 식) 이 표현식의 평가는 eval() 함수에 의해 실행됩니다. > ex1<-expression(1+0:9) > ex1 expression(1 + 0:9) > eval(ex1) [1] 1 2 3 4 5 6 7 8 9 10 > ex2<-expression(u, 2, u+0:9) > ex2 expression(u, 2, u + 0:9) > ex2[1] expression(u) > ex2[2] expression(2) > ex2[3] expression(u + 0:9) > u<-0.9 > eval(ex2[3]) [1] 0.9 1.9 2.9 3.9 4.9 5.9 6.9 7.9 8.9 9.9 미분 D(표현식, 미분 변수) 함수로 미분을 실행합니다. 이 함수의 표현식은 expression() 함수로 생성된 객체이며 미분 변수는 다음 식의 분모의 변수를 의미합니다. $$\frac{d}{d \text{변수}}\text{표현식}$$ 이 함수는 어떤 함수의 미분의 결과를 표현식으로 반환합니다. > D(expression(2*x^3), "x") 2 * (3 * x^2) > eq<-expression(log(x)) > eq expression(log(x)) > D(eq, "x") 1/x > eq2<-expression(a/(1+b*exp(-d*x))); eq2 expression(a/(1 + b * exp(-d * x))) > D(eq2, "x") a * (b * (exp(-d * x) * d))/(1 + b
댓글 쓰기
Read more »