기본 콘텐츠로 건너뛰기

pandas_ta를 적용한 통계적 인덱스 지표

댓글 쓰기

urllib python

urllib는 총 4개의 모듈이 존재한다. 그중에 request 모듈은 웹으로부터 데이터를 호출하는 것으로 매우 많이 사용된다.

import urllib.request
re=urllib.request
d=re.urlopen("https://www.google.com/finance?q=KRX%3AKOSPI&ei=7P0nWZnfMcaO0AS04auYBg")
위의 d는 복잡한 결과를 반환한다.
for s in contents:
    print(s)
getheaders() 함수를 사용하면 호출한 사이트에 대한 정보를 리스트 형식으로 반환한다.
다음 d.status는 데이터를 호출한 상태를 나타내는 것으로 200이라는 결과는 그 호출이 잘되었다는 것을 의미한다.

d.status
200

cts=d.getheaders()
for s in cts:
    print(s)
('Content-Type', 'text/html; charset=utf-8')
('P3P', 'CP="This is not a P3P policy! See https://support.google.com/accounts/answer/151657?hl=en for more info."')
('Date', 'Fri, 26 May 2017 14:11:38 GMT')
('Expires', 'Fri, 26 May 2017 14:11:38 GMT')
('Cache-Control', 'private, max-age=0')
('X-Content-Type-Options', 'nosniff')
('X-Frame-Options', 'SAMEORIGIN')
('X-XSS-Protection', '1; mode=block')
('Server', 'GSE')
('Set-Cookie', 'NID=104=G-zrlR13SrBEw_pvVlf085e9JPlotddfJjq_gEym2eAHET8ZaIhj40M_b4satAOhIZY_v55ubXdD35ivruRW0Iiu5YJXS_NN1jgoSN2PL2g8D9d7lR48L5jFPu9qVQC7;Domain=.google.com;Path=/;Expires=Sat, 25-Nov-2017 14:11:38 GMT;HttpOnly')
('Alt-Svc', 'quic=":443"; ma=2592000; v="38,37,36,35"')
('Accept-Ranges', 'none')
('Vary', 'Accept-Encoding')
('Connection', 'close')
read() 함수를 적용하면 호출한 문서의 HTML 코드를 출력한다.
크롤러 작성시에도 호출한 사이트의 HTML 코드를 read() 함수를 적용하여 호출한 뒤 필요한 데이터를 선택하는 작업을 한다.

d.read()
b'<!DOCTYPE html><html><head><script>(function(){(function(){function e(a){this.t={};this.tick=function(a,c,b){var d=void 0!=b?b:(new Date).getTime();this.t[a]=[d,c];if(void 0==b)try{window.console.timeStamp("CSI/"+a)}catch(h){}};this.tick("start",null,a)}var a;if(window.performance)var d=(a=window.performance.timing)&&a.responseStart;var f=0<d?new e(d):new e;window.jstiming={Timer:e,load:f};if(a){var c=a.navigationStart;0<c&&d>=c&&(windo …

urllib.request 모듈외에 유용한 urllib.parse라는 모듈은 한글 검색어를 입력할 수 있도록 도와 주는 모듈로서 유용하게 사용된다. 즉, 한글을 인코딩 해주는 모듈이다.
다음을 보자. google 등에서 검색을 할 경우 주소창에 다음과 같이 나온다.
위의 주소에 검색어가 입력되는 부분은 q=다음으로 이것은 query=을 의미한다. 이 다음에 한글이 나오는데 이 한글을 컴퓨터가 이해하도록 번역해 주어야 한다. 이 번역 절차를 인코딩이라고 한다. 그런데 한글의 인코딩은 특별한 지정을 해야 하는데 urllib.parse 모듈이 그러한 인코딩을 시행해주는 것이다. 그럼 이 모듈의 사용여부로 차이를 보자.

import urllib.parse
def input_query():
    q=str(input('검색어 입력: '))
    return('&q='+q)
input_query()
검색어 입력: 다음증권
'&q=다음증권'

위의 함수는 urllib.parse 모듈을 적용하지 않은 것으로서 인코딩되지 않고 한글이 그대로 반환되었다. 그러나 아래와 같이 모듈을 적용한 경우 인코딩되어 반환된다는 것을 알 수 있다. 그러나 과거에는 이러한 코딩없이 접속하면 그 사이트로 접속할 수 없었지만 현재는 브라우저 자체에서 인코딩이 이루어지므로 접속이 가능하므로 두 결과 모두 접속이 이루어진다.

def input_query2():
    q=urllib.parse.quote_plus(str(input('검색어 입력: ')))
    return('&q='+q)
input_query2()
검색어 입력: 다음증권
'&q=%EB%8B%A4%EC%9D%8C%EC%A6%9D%EA%B6%8C'

daumf=re.urlopen("https://www.google.co.kr/?gfe_rd=cr&ei=LmwtVvyAHoLD8AemoKOoBg&gws_rd=ssl#newwindow=1&q=다음증권 ")
daumf.read()
b'<!doctype html><html itemscope="" itemtype="http://schema.org/WebPage" lang="ko"><head><meta content="text/html; charset=UTF-8" http-equiv="Content-Type"><meta content="/images/branding/googleg/1x/googleg_standard_color_128dp.png" itemprop="image"><title>Google</title><script>(function(){window.google={kEI:\'Dz8oWabUDqKMjwTzuq3oDw\',kEXPI:\'3700290,3700347,3700410,3700425,4026241,4028875,4029815,4031109,4032677,4036527,4039268,4040137,4043492,4045841,4048347,4063220,4065787,4072364,4072775,4076096,4076999,40784 ...


daumf=re.urlopen("https://www.google.co.kr/?gfe_rd=cr&ei=LmwtVvyAHoLD8AemoKOoBg&gws_rd=ssl#newwindow=1&q=%EB%8B%A4%EC%9D%8C%EC%A6%9D%EA%B6%8C")
daumf.read()
b'<!doctype html><html itemscope="" itemtype="http://schema.org/WebPage" lang="ko"><head><meta content="text/html; charset=UTF-8" http-equiv="Content-Type"><meta content="/images/branding/googleg/1x/googleg_standard_color_128dp.png" itemprop="image"><title>Google</title><script>(function(){window.google={kEI:\'Vz8oWZa0Ban-jwT7q6vQBg\',kEXPI:\'18167,1353393,1353936,1354151,3700266,3700347,3700410,3700425,4003510,4029815,4031109,4032677,4036527,4039268,4043492,4045839,4048347,4064904,4065787,4072364,4072773,4076095,4076998,4078430,4078766,4081039,4081165,4083496,4085472,4090550,4091420,...



Labels:

댓글

댓글 쓰기

이 블로그의 인기 게시물

[Linear Algebra] 유사변환(Similarity transformation)

유사변환(Similarity transformation) n×n 차원의 정방 행렬 A, B 그리고 가역 행렬 P 사이에 식 1의 관계가 성립하면 행렬 A와 B는 유사행렬(similarity matrix)이 되며 행렬 A를 가역행렬 P와 B로 분해하는 것을 유사 변환(similarity transformation) 이라고 합니다. $$\tag{1} A = PBP^{-1} \Leftrightarrow P^{-1}AP = B $$ 식 2는 식 1의 양변에 B의 고유값을 고려한 것입니다. \begin{align}\tag{식 2} B - \lambda I &= P^{-1}AP – \lambda P^{-1}P\\ &= P^{-1}(AP – \lambda P)\\ &= P^{-1}(A - \lambda I)P \end{align} 식 2의 행렬식은 식 3과 같이 정리됩니다. \begin{align} &\begin{aligned}\textsf{det}(B - \lambda I ) & = \textsf{det}(P^{-1}(AP – \lambda P))\\ &= \textsf{det}(P^{-1}) \textsf{det}((A – \lambda I)) \textsf{det}(P)\\ &= \textsf{det}(P^{-1}) \textsf{det}(P) \textsf{det}((A – \lambda I))\\ &= \textsf{det}(A – \lambda I)\end{aligned}\\ &\begin{aligned}\because \; \textsf{det}(P^{-1}) \textsf{det}(P) &= \textsf{det}(P^{-1}P)\\ &= \textsf{det}(I)\end{aligned}\end{align} 유사행렬의 특성 유사행렬인 두 정방행렬 A와 B는 'A ~ B' 와 같...
댓글 쓰기
Read more »

유리함수 그래프와 점근선 그리기

내용 유리함수(Rational Function) 점근선(asymptote) 유리함수 그래프와 점근선 그리기 유리함수(Rational Function) 유리함수는 분수형태의 함수를 의미합니다. 예를들어 다음 함수는 분수형태의 유리함수입니다. $$f(x)=\frac{x^{2} - 1}{x^{2} + x - 6}$$ 분수의 경우 분모가 0인 경우 정의할 수 없습니다. 이와 마찬가지로 유리함수 f(x)의 정의역은 분모가 0이 아닌 부분이어야 합니다. 그러므로 위함수의 정의역은 분모가 0인 부분을 제외한 부분들로 구성됩니다. sympt=solve(denom(f), a); asympt [-3, 2] $$-\infty \lt x \lt -3, \quad -3 \lt x \lt 2, \quad 2 \lt x \lt \infty$$ 이 정의역을 고려해 그래프를 작성을 위한 사용자 정의함수는 다음과 같습니다. def validX(x, f, symbol): ① a=[] b=[] for i in x: try: b.append(float(f.subs(symbol, i))) a.append(i) except: pass return(a, b) #x는 임의로 지정한 정의역으로 불연속선점을 기준으로 구분된 몇개의 구간으로 전달할 수 있습니다. #그러므로 인수 x는 2차원이어야 합니다. def RationalPlot(x, f, sym, dp=100): fig, ax=plt.subplots(dpi=dp) # ② for k in x: #③ x4, y4=validX(k, f, sym) ax.plot(x4, y4) ax.spines['left'].set_position(('data', 0)) ax.spines['right...
댓글 쓰기
Read more »

부분분수의 미분

내용 방법 1 방법 2 방법 3 부분분수의 미분 분수의 미분은 일정한 공식 을 적용하여 계산할 수 있습니다. 그러나 분수 자체가 단순한 표현으로 이루어지지 않았다면 미분 과정이나 결과는 매우 복잡할 수 있습니다. 만약 복잡한 분수 함수를 간단한 분수들로 분해할 수 있다면 계산이 보다 간편해질 것입니다. 이와 같이 분해된 간단한 분수들을 부분분수 라고 합니다. 예를 들어 다음 두 분수의 합을 계산해 봅니다. $$\begin{align} \frac{1}{x+1}+\frac{2}{x-1}&=\frac{x-1+2(x+1)}{(x+1)(x-1)}\\ &=\frac{3x+1}{x^2-1} \end{align}$$ 위 과정은 3개 이상의 여러 분수에서도 이루어질 수 있습니다. 또한 역으로 진행될 수 있습니다. 즉, 분수를 부분 분수로 분할할 수 있습니다. 그러나 이러한 과정은 대수분수 (분자의 가장 큰 차수가 분모의 최고의 차수보다 작은 분수)에서만 이루어질 수 있습니다. 예를 들어 $\displaystyle \frac {x^2+2}{x^2-1}$의 경우는 분자와 분모의 차수는 2차로 같습니다. 이러한 경우 다음과 같이 분리할 수 있습니다. $$\frac{x^2+2}{x^2-1}=1+\frac{3}{x^2-1}$$ 위의 식 중 $\displaystyle \frac{3}{x^2-1}$은 분자의 차수가 분모의 차수 보다 낮은 대수 분수이므로 부분 분수로 분리할 수 있습니다. 이와같이 부분 분수로 분해하는 방법은 다음과 같이 몇 가지로 구분할 수 있습니다. 방법 1 위 예의 결과 $\displaystyle \frac{3x+1}{x^2-1}$의 경우를 역으로 생각해 봅니다. 분모의 인수분해가 가능하면 그 분모의 인수에 의해 다음과 같이 분해할 수 있습니다. $$\begin{align} \frac{3x+1}{x^2-1}&=\frac{3x+1}{(x+1)(x-1)}\\ &=\frac{A}{x+1...
댓글 쓰기
Read more »