태그: data.frame 으로 변환

안녕하세요. 언제나 휴일에 언휴예요.

데이터 분석을 하기 위해서 분석할 데이터가 있어야겠죠.

현실 세계의 데이터를 프로세스에서 수집하기 제일 적합한 곳이 웹 환경이라 생각합니다.

대량의 규칙적인 형태로 자료를 제공하는 Open API를 이용하는 것도 좋은 방법이겠죠.

이번 강의에서는 Kakao에서 제공하는 도서 검색 REST API를 이용하여 데이터를 수집할 거예요.

카카오 개발자 센터 가입 및 내 애플리케이션 등록하기

수집한 데이터는 CSV로 저장합시다.

Kakao 도서 검색 API 요청 방법 확인하기

“카카오 개발자 센터>문서>>Daum 검색>개발 가이드>책 검색” 순으로 선택하세요.

도서 검색을 어떻게 요청하고 결과는 어떠한 형태인지 제공하고 있습니다.

그림 1. 카카오 도서 검색 Request

검색 질의( query)는 필수 요건이고 정렬 방법(sort)이나 결과 수(size), 결과 페이지(page), 검색 필드 제한(target)을 인자로 전달할 수 있다는 것을 알 수 있습니다.

Sample을 보면 요청 방법과 응답 예를 보여주고 있어요.

다음은 “R언어”로 요청하였을 때의 요청 방법입니다.

요청할 때 쿼리 문자열 외에 발급받은 REST API 키를 헤더에 추가해야 하는 것을 알 수 있습니다.

다음은 “R언어”로 요청하였을 때의 결과 샘플입니다.

Kakao API를 이용한 웹 크롤링

먼저 쿼리 문자열을 작성할게요.

발급받은 REST API 키로 인증에 사용할 문자열을 작성하세요.

> kakao_api_key = “발급받은 REST API 키” > auth_key = sprintf(“KakaoAK %s”,kakao_api_key)

웹 요청을 위해 httr 라이브러를 사용할게요.

수집한 정보를 data.frame으로 변환하기

웹 요청 결과의 형식을 확인해 보면 response 형식임을 알 수 있습니다.

먼저 문자열로 변환합니다.

jsonlite 라이브러리에 fromJSON 함수를 이용하여 Json 문자열을 변환합니다.

변환 후에 타입을 확인하면 list임을 알 수 있어요.

이를 다시 data.frame으로 변환하세요.

df의 컬럼 정보를 확인해 보세요.


수집한 정보를 csv 파일에 쓰기 오류 해결하기

df를 write.csv 함수를 호출하여 csv 파일에 기록하세요. 다음처럼 오류가 발생합니다.

Error in write.table(df, “data.csv”, col.names = NA, sep = “,”, dec = “.”, :
‘list’은 ‘EncodeElement’에서 구현되지 않은 유형입니다

matrix로 변환해 보세요.

수집한 정보를 csv 파일에 쓰기

matrix로 변환한 df2를 기록하세요.

이상으로 Kakao API를 이용하여 데이터를 수집하고 CSV 파일로 저장하는 강의를 마칠게요.