C4 (Colossal Clean Crawled Corpus)

T5 학습에 쓰인 정제 웹 텍스트 코퍼스

AI/머신러닝언어/텍스트

유료 월 시작가무료
무료 사용무료
갱신 주기갱신 없음
품질좋음
상업 이용출처 표시 후 가능
데이터 기간2019년 Common Crawl 기반

가격 기준일 2026-10-23, 출처: huggingface.co/datasets/allenai/c4. 가격과 혜택은 바뀔 수 있어요. 결제 전 공식 사이트에서 확인하세요.

일부 정보는 아직 공식 자료로 확인하지 못했어요. 결제 전 공식 사이트를 꼭 확인하세요.

장점

  • 정제된 영어 웹 텍스트
  • 형식이 단순
  • 여러 언어 버전 제공

단점

  • 2019년 수집분이라 최신성이 낮음
  • 용량이 큼
  • 원문 저작권 문제 확인 필요

공개된 자료를 바탕으로 Pickx가 정리한 의견이에요.

품질 근거

정제 방법이 논문으로 공개되고 형식이 안정적

주요 컬럼

text, url, timestamp

한눈에 보기

C4는 Common Crawl을 규칙으로 걸러 만든 영어 중심 텍스트 코퍼스예요. T5 모델 학습에 쓰였고 JSON 파일로 공개돼요. 언어 모델 사전학습과 연구에 써요.

쓰는 법

  • Hugging Face에서 필요한 언어 버전을 골라요.
  • 스트리밍으로 일부만 읽을 수도 있어요.
  • ODC-By 조건에 맞게 출처를 표시해요.

참고

이런 걸 찾을 때

#데이터#API#오픈 API#공공데이터#데이터셋#AI#머신러닝#언어#텍스트#무료

C4 (Colossal Clean Crawled Corpus) 이야기

조회 0회

C4 (Colossal Clean Crawled Corpus) 댓글

댓글

아직 댓글이 없어요. 먼저 써 보세요.

쓰신 글과 닉네임은 누구나 볼 수 있어요. 남을 깎아내리거나 광고하는 글은 여기로 알려 주시면 확인하고 내릴게요.