procesaur/znanje

Skup naučnih i stručnih publikacija na Južnoslovenskim jezicima Visoko-kvalitetan skup raznovrsnih naučnih publikacija Neophodan za obučavanje kvalitetnih jezičkih modela za južnoslovenske jezike. Ukupno 280,460 dokumenata, ukupno sa preko 4.2 milijarde reči, 1.9 milijardi na srpskohrvatskom i 2.3 milijarde na slovenačkom jeziku Svaka JSON linija predstavlja jednu publikaciju. Unutar svakog dokumenta su obeležene rečenice i paragrafi.	Set of South Slavic Scientific Research and Professional publications Highly curated, High-qualityand diverse scientific publications. Necessary for training quality language models for South Slavic languages. A total of 280,460 documents containing over 4.2 billion words, 1.9 billion for Serbo-Croatian and 2.3 billion for Slovenian Each JSON line represents one publication. All documents are paragraph and sentence-delimited.
Број докумената Doc. count Број реченица Sent. count Број речи Word count Удео Share NARDUS 🇷🇸 11,432 22,779,252 574,600,000 30% Institucionalni repozitorijumi radova 🇷🇸 10,889 4,192,656 109,400,000 5.7% Univerzitet Crne Gore 🇷🇸/🇲🇪 315 605,119 14,500,000 0.8% Univerzitet u Istočnom Sarajevu 🇷🇸 8 21,156 510,000 <0.1% DABAR 🇭🇷 108,786 53,369,657 1,214,000,000 63.4% Open Science Slovenia 🇷🇸 🇭🇷 🇧🇦 176 113,339 2,694,331 0.1% Укупно Total 131,606 81,060,023 1,915,704,331 100%
Број докумената Doc. count Број реченица Sent. count Број речи Word count Удео Share Open Science Slovenia 🇸🇮 148,158 104,986,413 2,295,828,582 100%

from datasets import load_dataset
dataset = load_dataset("procesaur/ZNANJE")

Editor

Mihailo Škorić

@procesaur

Editor

Nikola Janković

@Nikola-92

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}

ISLRN: 476-040-938-571-9

Istraživanje je sprovedeno uz podršku Fonda za nauku Republike Srbije, #7276, Text Embeddings – Serbian Language Applications – TESLA.

This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA.