웹 크롤링 및 분석


개요
업무

데이터 과정
  1. 수집 (웹 크롤링)
    • ***Selenium → BeautifulSoup
    • 포털 다음 "전기차" 8월 9일 검색시 기사 제목 및 언론사 웹크롤링
    • 2020년~2024년 (연도별 1000개, 총 5000개, 정확도순, CSV)
  1. 전처리 (자연어 분석, 유저 단어 구축)
    • KoNLPy → Kiwipiepy
    • 최신성 ↑ 간편성 ↑
    • 최소 소거 : 기사 콘텐츠 (표준성, 통일성 ↑)
    • 분리: "전기차" ↛ "전기" "차", 공란 처리
  1. 분석 및 시각화
    • Pandas를 활용한 연관, 고빈도 단어분석
    • 형태소 분석 - 말뭉치 생성 - 문서 단어 행렬화
    • 고빈도,저빈도 단어 상위 10개 출력
    • Matplotlib, Wordcloud를 활용한 막대 그래프, 워드 클라우드
  1. 감성분석
    • OpenAI API를 활용한 긍정/부정/중립 분석
    • 모델: gpt-4o-mini
    • 역할: 감성분석 챗봇, 긍정, 부정 중립 표시
    • 판별: MLLLM

* 24년은 "현대차”와 "기아"차가 고빈도였다. 이는 포털사 기사 정렬 이슈로 보인다. 워드클라우드.jpg
** 긍정-부정: +8.82% → -8.06% (21년 → 22년)
*** 일반적으로 Selenium의 경우 동적 웹 크롤링, BeautifulSoup의 경우 정적 웹 크롤링에 사용된다.