saami-corpus / README.md
davda54's picture
Update README.md
c5fa633 verified
|
Raw History Blame Contribute Delete
7.16 kB
metadata
language:
  - se
  - sma
  - smj
  - smn
  - sms
task_categories:
  - text-generation
  - fill-mask
pretty_name: Sámi Corpus
size_categories:
  - 100K<n<1M

Sámi Corpus

A large Sámi text corpus: 138k documents / 64.6M words, covering five written varieties -- Northern (sme), Inari (smn), Southern (sma), Lule (smj), Skolt (sms) and Ume (sju) Sámi. Sámi varieties total 49.2M words (76%); the remainder is mostly co-occurring Norwegian/Finnish/Swedish/English in bilingual texts. The corpus is assembled from a custom web crawl, Common Crawl & Internet Archive recovery, SIKOR, and Sámi Wikipedia(s). The texts were all extracted to Markdown, specifically from HTML using DeepSeek V4 Flash (with reasoning enabled), and from PDF files using Qwen3 VL 235B. The languages are computed per sentence with GlotLID. Any webpage with non-permissible access according to robots.txt is removed from this corpus.

Language and source distribution

Schema

field type description
text str cleaned extracted text (Markdown)
source str ltg-crawl | cglu | sikor | wikipedia
url str source URL (sikor://… pseudo-URL for offline SIKOR docs)
languages list per-document GlotLID distribution: [{lang, share, conf}, …], languages ≥1% of words, sorted by share
saami_share float summed share of Sámi varieties
sha256_id str SHA-256 of text (stable id)

Length distribution (in words)

Top 10 domains

# domain words
1 regjeringen.no 5,748,208
2 sametinget.no 4,843,258
3 avvir.no 3,652,719
4 samediggi.fi 2,188,965
5 samas.no 1,932,861
6 samediggi.no 1,754,584
7 utsjoki.fi 1,617,331
8 smn.wikipedia.org 1,504,641
9 samilogutmuitalit.no 1,496,588
10 calliidlagadus.org 1,420,433

Top 10 TLDs

# TLD words
1 .no 36,530,340
2 .fi 12,876,703
3 .org 4,745,997
4 .com 2,077,469
5 .se 1,615,360
6 .info 1,073,502
7 .net 546,879
8 .int 11,456
9 .eu 6,149
10 .blog 3,616

Top 10 n-grams

rank 1-gram 2-gram 3-gram 4-gram 5-gram
1 ja (2,045,488) ii leat (55,137) mánáid ja nuoraid (4,635) asiakirjat vastaanotto ja vireillepano (4,001) dok dato arkivdel sakarkiv klasse (2,917)
2 lea (892,646) mii lea (39,281) asiakirjat vastaanotto ja (4,001) dok dato arkivdel sakarkiv (2,917) lea vejolaččat dán sáni hápmi (2,539)
3 leat (594,252) nu ahte (33,192) vastaanotto ja vireillepano (4,001) dato arkivdel sakarkiv klasse (2,917) reaktah gaajhkh reaktah leah doelehtovveme (1,896)
4 ahte (389,044) mat leat (31,534) dok dato arkivdel (3,697) journaldato tilgangskode u saksbehandler (2,631) rievtesvuohta divna riektá dajna gájbbádusájn (1,155)
5 sámi (389,021) eai leat (25,656) lea dehálaš ahte (3,548) vejolaččat dán sáni hápmi (2,540) presens odne preteritum ikte kondisjonalis (970)
6 go (360,298) ja eará (21,909) giela ja kultuvrra (3,072) lea vejolaččat dán sáni (2,539) dat sadne muittala mig dam (959)
7 i (317,570) sámediggi lea (21,621) mánáide ja nuoraide (3,051) bargat dan ala ahte (1,959) sadne muittala mig dam oainam (959)
8 og (300,481) dat lea (21,513) mat eai leat (3,037) gaajhkh reaktah leah doelehtovveme (1,909) muittala mig dam oainam mon (959)
9 mii (246,662) ja sámi (20,187) at samediggi fi (2,979) reaktah gaajhkh reaktah leah (1,897) mig dam oainam mon dal (959)
10 de (195,236) earret eará (20,093) dat mearkkaša ahte (2,948) luonndo ja diehto luonndofáhka (1,504) lea ahte oahppi galgá máhttit (898)

Text sample (first row):

URL: https://www.anarasaavis.fi/2025/04/03/kielda-ja-kuavluvaaljai-munejienastem-lii-algam/

# Kieldâ- já kuávluvaaljâi munejienâstem lii álgám

Taan kiiđâ uárnejuvvojeh kyevtih vaaljah siämmáá ääigi: kieldâ- já kuávluvaaljah. Kuohtuin vaaljâin puáhtá jienâstiđ siämmáin jienâstemsoojijn. Täst ovdâskulij kieldâ- já kuávluvaaljah uárnejuvvojeh ain oovtâst jyehi niäljád ive.

Vaaljâi munejienâstem aalgij cuáŋuimáánu nube peeivi. Munejienâstem lii máhđulâš 2.–8.4.2025 Suomâst já 2.–5.4.2025 olgoenâmijn. Muuneeld puáhtá jienâstiđ mon peri munejienâstemsaajeest Suomâst tâi olgoenâmijn. Eidusâš vaaljâpeivi lii pasepeivi 13. peivi cuáŋuimáánust. Vaaljâpeeivi puáhtá jienâstiđ tuše jieijâs jienâstemsaajeest, mii meriduvvoo jienâsteijee aassâmpääihi mield.

Kuávluvaaljâin väljejuvvojeh airâseh kuávlustivráid, moh merideh pyereestvaijeemkuávlui sosiaal- já tiervâsvuotâpalvâlusâi sehe kááijumtooimâ orniimist. Kieldâvaaljâin vist väljejuvvojeh airâseh kieldâstivráid, moh merideh ovdâmerkkân škovliimist já arâšoddâdmist, huksimvakšuumist, luodâi paijeentolâmist, kulttuur- já lihâdempalvâlusâin sehe čäci- já pasâttâshuolâttâsâst.

Helsigist uárnejuvvojeh tuše kieldâvaaljah, tastko uáivikaavpugist ij lah pyereestvaijeemkuávlu teikkâ kuávlustivrâ, pic kaavpug västid sosiaal- já tiervâsvuotâpalvâlusâin sehe kááijumtooimâ orniimist.

Taan ive kieldâvaaljâin láá 30 000 iävtukkâssâd já kuávluvaaljâin 10 000 iävtukkâssâd. Jienâsteijee puáhtá jienâstiđ jieijâs päikkikieldâ tâi pyereestvaijeemkuávlu iävtukkâsâid. Iävtukkâs puáhtá leđe iävtukkâssân sehe kuávlu- já kieldâvaaljâin, teikkâ tuše kuávluvaaljâin tâi tuše kieldâvaaljâin. Siämmáá iävtukkâsâst lii kieldâvaaljâin eres iävtukkâsnummeer ko kuávluvaaljâin.

Munejienâi rekinistem álgá vaaljâpeeivi ađai cuáŋuimáánu 13. peeivi tijme 10, já tast västid kuávdášvaaljâlävdikodde. Vaaljâpeeivi adelum jienâi rekinistem álgá jienâstemsaajeest tállán ko jienâstemsajeh maneh kiddâ tijme 20. Talle almottuvvojeh meid munejienâi puátuseh. Kieldâ kuávdášvaaljâlävdikodde taha tärhistemrekinistem vuossaargâ vaaljâpeeivi maŋa.

Vaaljâi puátuseh čielgih jo vaaljâpeeivi ehidist. Kuávlu- já kieldâvaaljâin puátuseh iä kuittâg čielgâ nuuvt jotelávt ko eres vaaljâin tondiet ko jienâliipuh láá kuohtii nuuvt ennuv ko táválijn vaaljâin. Stuárráámui kaavpugij puátuseh sättih puáttiđ eskin koskâiijâ maŋa.

Pipeline

Exhaustive Sámi web crawl from seed Wikipedia links → exact dedup → LID filtering → per-document LLM extraction → exact dedup → LID filtering → conservative MinHash near-dedup → targeted duplicate-block removal