웹 크롤링 및 분석
개요
- 전기차 시장 성장에 따른 변화 파악 필요
- 웹크롤링 통한 관련 기사 데이터 수집 및 분석 진행
- *20~23년에는 "보조금", "배터리" 등이 매년 고빈도
→ 전기차 산업은 “기간 사업”, “글로벌 산업”
- **2022년 이후 긍정 기사가 부정 기사보다 적음
→ 캐즘 현상으로 임시적 수요 정체 가능성
업무
- 기간 : 2024.08.12 ~ 2024.08.24 (2주)
- 인원 : 동아일보 미디어 데이터 과정 3인
- 협업 : Slack, Notion
- 기여도: 33% (2024년 기사데이터 수집 및 핸들)
데이터 과정
- 수집 (웹 크롤링)
- ***Selenium → BeautifulSoup
- 포털 다음 "전기차" 8월 9일 검색시 기사 제목 및 언론사 웹크롤링
- 2020년~2024년 (연도별 1000개, 총 5000개, 정확도순, CSV)
- 전처리 (자연어 분석, 유저 단어 구축)
- KoNLPy → Kiwipiepy
- 최신성 ↑ 간편성 ↑
- 최소 소거 : 기사 콘텐츠 (표준성, 통일성 ↑)
- 분리: "전기차" ↛ "전기" "차", 공란 처리
- 분석 및 시각화
- Pandas를 활용한 연관, 고빈도 단어분석
- 형태소 분석 - 말뭉치 생성 - 문서 단어 행렬화
- 고빈도,저빈도 단어 상위 10개 출력
- Matplotlib, Wordcloud를 활용한 막대 그래프, 워드 클라우드
- 감성분석
- OpenAI API를 활용한 긍정/부정/중립 분석
- 모델: gpt-4o-mini
- 역할: 감성분석 챗봇, 긍정, 부정 중립 표시
- 판별: ML → LLM
*
24년은 "현대차”와 "기아"차가 고빈도였다. 이는 포털사 기사 정렬 이슈로 보인다. 워드클라우드.jpg
** 긍정-부정: +8.82% → -8.06% (21년 → 22년)
*** 일반적으로 Selenium의 경우 동적 웹 크롤링, BeautifulSoup의 경우 정적 웹 크롤링에 사용된다.