Skip to content

Releases: sp1227/sejong-corpus-toolkit

v0.9.0 - Beta Release

Choose a tag to compare

@sp1227 sp1227 released this 10 Oct 05:08
78aa43e

v0.9.0 - Beta Release

21세기 세종계획 최종 성과물 말뭉치를 Python으로 활용하기 위한 첫 번째 베타 릴리스입니다.

Added

  • TEI XML → JSONL 변환
    • 문어 말뭉치 (원시, 형태분석, 형태의미분석)
    • 구어 말뭉치 (원시, 형태분석)
  • KWIC 분석 (정규표현식 지원)
  • 전체 말뭉치 메타데이터 추출
  • KoNLPy 통합

Validated

  • 21세기 세종계획 최종 성과물 (2010.12 수정판)
  • 전체 파일 처리 성공률: 100%
  • 문어 원시 말뭉치 어절 추출률: 99.26%

Known Issues

  • 추출 어절/형태소 수가 공식 통계와 약간 차이 있음
    • 문어 원시 말뭉치: 99.26% 추출 (공식 대비 -0.74%)
    • 문어 형태분석 말뭉치 예시 (커피/NNG): 1,325회 추출 (공식 1,370회 대비 -3.3%)
  • 오류 태그 등의 처리 방식 차이로 추정