Research Note / Development
최신 기사들을 요약 및 노션에 업로드 해주는 프로그램 만들기(3)
Development1 min read
AI 기반 보안 뉴스 자동 수집 및 요약 시스템 구축기
Groq LLM + Notion API를 활용한 보안 뉴스 자동화 파이프라인
프로젝트 개요
AI가 자동으로 보안 뉴스를 수집하고, 한국어로 요약/번역해서 Notion에 정리해주는 시스템을 만들었습니다.
주요 기능
- RSS 피드 자동 수집: BleepingComputer, The Hacker News 등 주요 보안 매체
- AI 요약 및 번역: Groq API(Llama 3.1)를 활용한 한국어 요약
- Notion 자동 업로드: 구조화된 형태로 Notion DB에 저장
- 자동 태깅: 키워드 기반 태그 자동 생성
기술 스택
| 구분 | 기술 |
|---|---|
| 언어 | Python 3 |
| LLM | Groq API (Llama 3.1 8B Instant) |
| 저장소 | Notion API |
| 데이터 수집 | RSS Feed (feedparser) |
| 웹 스크래핑 | requests, BeautifulSoup |
프로젝트 구조
AI Project/
├── run.py # 메인 실행 파일
├── config.yaml # 설정 파일 (RSS 소스, 키워드 등)
├── requirements.txt # 의존성 패키지
├── .env # API 키 (GROQ_API_KEY, NOTION_TOKEN 등)
├── app/
│ ├── pipeline.py # 메인 파이프라인 로직
│ ├── collectors.py # RSS 수집기
│ ├── parser.py # 웹페이지 본문 추출
│ ├── summarizer.py # LLM 요약 모듈
│ ├── notion_client_wrapper.py # Notion API 클라이언트
│ └── storage.py # 중복 체크용 저장소
└── data/
├── seen.json # 이미 처리한 기사 ID
└── summarizer.log # LLM 응답 로그