← 목록으로: TRAINED

Webtoon Text Detection (YOLO26n)

웹툰 원고를 영상 리소스로 쓰기 전에 지울 말풍선, 나레이션, 효과음을 찾는 YOLO26n 검출 모델입니다. 모델 초안을 사람이 고치는 루프로 라벨을 73컷에서 36개 작품의 2,500컷까지 늘렸고, 버전마다 처음 보는 작품으로 채점해 mAP50-95를 0.616에서 0.844로 올렸습니다.

연도
2026
태그
yolo26n, ultralytics, object-detection, human-in-the-loop, labeling-tool, evaluation

왜 만들었나

웹툰 원고를 영상 생성 리소스로 쓰려면, 먼저 말풍선과 나레이션, 효과음을 찾아 지워야 합니다. 그런데 작품마다 그림체와 풍선 모양이 달라서, 한 작품으로 학습한 모델은 다른 작품에서 성능이 크게 떨어집니다. 그래서 글자 영역을 하나씩 박스로 찾는 검출 모델을 만들었습니다.

라벨링: 모델 초안을 사람이 고치는 루프

  • LLM 자동 라벨링은 중단했습니다. 처음에는 Claude Haiku로 자동 라벨링을 시도했지만, 에이전트마다 판단 기준이 달랐고 좌표를 눈대중으로 잡아서 박스가 부정확했습니다.
  • 검수 도구를 직접 만들었습니다. 말풍선은 단순한 박스로 라벨링하므로 기존 라벨링 도구는 과하다고 봤습니다. HTML 검수 화면을 만들고, 자주 쓰는 동작에 단축키를 붙였습니다.
  • 모델 초안으로 라벨을 늘렸습니다. 일부를 직접 라벨링해 학습하고, 모델이 그린 초안 박스를 고치면서 다시 라벨링하는 과정을 반복했습니다. 승인한 컷은 73장에서 36개 작품의 2,500장까지 늘었고, 처음부터 그릴 때보다 라벨링 시간이 약 25% 줄었다고 느꼈습니다(측정값이 아니라 체감입니다).
  • 글자를 피해서 자릅니다. 긴 세로 원고를 1,280px씩 그대로 자르면 박스의 23%가 경계에서 잘렸습니다. 모델이 찾은 글자를 피한 줄에서 자르게 바꿔서 11.5%로 줄였습니다.

평가: 처음 보는 작품으로 채점

같은 작품의 뒷부분으로 채점한 점수는 실제보다 후했습니다. 한 작품으로 학습한 모델은 같은 작품의 검증 세트에서 mAP50-95가 0.85였지만, 다른 작품에서는 0.6대로 떨어졌습니다. 그래서 학습에 쓰지 않은 34개 작품으로 버전마다 다시 채점했고, 학습한 작품을 늘리자 점수가 0.616에서 0.844로 올랐습니다. 같은 작품의 컷을 늘리는 것보다 작품 수를 늘리는 쪽이 효과가 컸습니다.

모델은 가장 작은 YOLO26n에서 시작했습니다. 데이터를 늘려도 성능이 더 오르지 않을 때 모델을 키울 계획입니다. 학습은 로컬 GPU(RTX 5090)에서 1,280px 입력으로 했습니다.

한계와 다음 단계

  • 외침·터짐 풍선을 가장 많이 놓치고, 잡더라도 가시와 꼬리를 빠뜨리는 경우가 있습니다.
  • 최신 모델(text-v5)은 34개 작품까지 학습했기 때문에, 처음 보는 작품 점수를 다시 재려면 새 작품이 더 필요합니다.
  • 다음 단계는 박스 대신 풍선 모양 그대로 지우는 마스크입니다.

시연: 한국·미국·일본 웹툰

학습 도메인과 그림체가 다른 세 나라의 세로 스크롤 웹툰에도 같은 모델(text-v5, 신뢰도 0.25 이상)을 돌렸습니다. 아래 갤러리의 KR·US·JP 묶음이 그 결과이고, 박스가 하나 이상 나온 컷만 실었습니다. KR·US는 왼쪽이 검출 결과, 오른쪽이 NovelAI 인페인팅으로 글자를 지운 결과이고, JP는 위가 검출, 아래가 지운 결과입니다.

  • KR 화산귀환: 8컷 중 4컷에서 박스 6개
  • US Lore Olympus: 5컷 중 3컷에서 박스 5개
  • JP 千歳くんはラムネ瓶のなか 縦スクロール版: 2컷 중 1컷에서 박스 4개

시연 이미지 출처: 화산귀환 Fandom 위키, Lore Olympus Fandom 위키, PR TIMES 보도자료(CLB TOKYO×小学館). 저작권은 각 작품의 권리자에게 있으며, 성능 시연을 위해 원본 위에 검출 박스와 신뢰도를 덧그렸습니다.

아래 그래프는 학습 기록과 처음 보는 작품 점수입니다.

학습 loss · text-v5 box loss

학습검증

0.00.30.60.91.2150100150200최고 mAP50-95 0.908
epoch 151
검증 0.353학습 0.310

epoch

검증 loss가 190 epoch까지 학습 loss와 함께 내려가서, 과적합 신호가 없습니다. 마지막 10 epoch에서 학습 loss가 뚝 떨어지는 것은 모자이크 증강을 끈 구간이기 때문입니다.

표로 보기
epoch학습검증
11.1231.048
500.6700.623
1000.5330.411
1510.4640.366
2000.3100.353
처음 보는 작품 · mAP50-95
  • text-v2 · 학습 작품 1개0.616
  • text-v3 · 학습 작품 2개0.796
  • text-v4-2 · 학습 작품 2개0.844

세 모델 모두 학습하지 않은 34개 작품의 승인 컷 1,005장으로 채점했습니다.

표로 보기
모델mAP50-95
text-v2 · 학습 작품 1개0.616
text-v3 · 학습 작품 2개0.796
text-v4-2 · 학습 작품 2개0.844