Dataset Viewer
Auto-converted to Parquet Duplicate
s1
stringlengths
1
2.22k
error_type
int64
0
3
error_details
stringclasses
15 values
s2
stringlengths
0
1.65k
Après l’euro, l’Europe démontre que son unité est un fort pas vers plus de paix et de prospérité commune, prouvant que l’harmonie peut naître de la fusion.
0
null
null
L’univers de la BD est encore sous-estimé malgré ses talents...
3
partiel
L’univers de la BD est...
Ce festival, brillant mais défini, s'est ouvert sous un ciel de pluie.
3
troncature
Ce festival, brillant mais défini, s'est ouvert so... un ciel de pluie.
Intervention de l'exécutif sur la politique monétaire en 2007
0
null
null
L’ombelle d’enfermement de l’ombre froide… Le béton parle, mais personne n’écoute.
2
apostrophes
L’ombelle d’enfermement de l’ombre froide… Le béton parle, mais personne n’écoute.
Écoutez, dans les années 50 encore, comment les gens protestaient… mais sans gilets jaunes ?
0
null
null
Après l'Euro, nos sports d'hiver battent un sombre record : records de fréquentation… mais aussi de risques en montagne.
0
null
null
La dette publique explose, mais les salaires stagnent, exigeons des réformes immédiat:...
3
partiel
La dette publique explose, mais les salaires stagnent,...
Ouai, écoute, l’Ukraine bat le record de la guerre… et des dates à retenir. On va pas faire long. 100 jours de combats, des engins de 20t qui sabotent tout, et des Watts qui pleurent leur pays sans porte-monnaie. Techno du crime organisé, et pour rire, un missile lancé depuis… le WiFi du métro. Et voilà.
0
null
null
Bonjour, mesdames et messieurs ! Ce débat, vous l’avez oublié ? Rôles à la chaîne… et moi là en concerts !
0
null
null
En 2010, voici ce débat qui divise les parlementaires… voix tremblante… que veulent-ils vraiment pour les retraités ?
2
casse
en 2010, voici ce débat qui divise les parlementaires… voix tremblante… que veulent-ils vraiment pour les retraités ?
En 1973, l'OPEP scele la crise pétrolière—et les étoiles n'ignoraient pas...
0
null
null
Bonjour, ce nous allons examiner hier une votation nationale sur la motion de censure contre le Premier ministrexyx, mécanisme démocratique où le Parlement peut renverser un chef du gouvernement en cas de mécontentement politique profond. Nous analysons ces mécanismes institutionnels depuis leur création il y a des décennies dans le cadre parlementaire aujourd'hui. Les résultats de ce scrutin, ouvert à tous les citoyens, offrent une indication sur la santé de la confiance entre exécutif et législatif.
0
null
null
Mais regardez-nous, à l’ère du numérique… un clic, et tout y est… ou presque ! voix tremblante Moi, je disais les CDs, ma mère relisait les bouquins – la magie des rites brisés.
2
mots_chiffres
Mais regardez-nous, à l’ère du numérique… 1 clic, et tout y est… ou presque ! voix tremblante Moi, je disais les CDs, ma mère relisait les bouquins – la magie des rites brisés.
Écoutez le vivre la France : « L’unité triomphera, lieux de colère demain, mais résilience shoignée, France de l’aube ! »
0
null
null
Le Golfe s’embrase, nos voix résonnent –
0
null
null
Dans les années 2000, le rap français reste un art vivant et porteur — entre héritage et innovation, une richesse à célébrer, avocat en perspective.
0
null
null
Musiques, on s’éclate sans relâche ! Demain, Que reste-t-il de la doux mélodie de Genis… Et vous, quel est votre petit morceau préféré ?
0
null
null
Trente Glorieuses : la dette qui nous lance-t-elle, vraiment, dans un piège ?
0
null
null
En Mai 68, les débats sur la défense européenne et le retrait de l’OTAN, une urgence nationale pour l’Europe ? Réouverture du débat juridique et géostratégique ? Préambule historique.
0
null
null
« Nouvel âge bancaire, Olympe ! Avec des banques puissantes, le pays renaît !
0
null
null
— Écoutez-moi cette équipe de France qui joue contre l’Italie l’Euro 72, c’est un carnage, regardez !
3
omission
— Écoutez-moi cette équipe de France qui contre l’Italie l’Euro 72, c’est un carnage, regardez !
« La lumière fuit entre les ombres— je porte encore la poussière de nos visages écrasés.
0
null
null
[Silence lourd…] Les temples, ces refuges vides, murmurent encore leur plainte. Après le feu, Dieu a laissé l’ombre peser sur nos matins. Demain, nous cherchons les piliers pour bâtir autre chose… mais qui reste ? Qui croira ? (voix qui se brise)
0
null
null
Présentation solennelle des « chaudières civilisatrices » en 1999,/
3
omission
Présentation solennelle des chaudières civilisatrices » en 1999,/
Notre pays protège toujours ses frontières, l’Allemagne exige maintenant un mur européen…
3
partiel
Notre pays protège toujours...
« Pour Mitterrand, la chanson doit être vraie, pas un chant d’amour toxique : ‘Notre Amour’ sonne comme un don de cœur pur. La vraie passion libère, pas la paresse lyrique !’
0
null
null
Ce podcast explore, dans ce numéro : Comment la Constitution post-Trente Glorieuses a garanti les équilibres sociaux et économiques
0
null
null
Lors de la crise pétrolière de 1973, en cours d’équitation, le moteur diesel des charrues et tracteurs s’arrêta brutalement, forçant les agriculteurs à utiliser les chevaux comme seuls moyens de labour. Les chevaux, habitués à ces labeurs, adaptèrent leur allure, tandis que les techniciens se penchèrent sur les systèmes de combustion pour les réanimer dans les semaines suivantes. Les cours de l’absinthe, déjà en déclin, ressurgirent temporairement pour les brasseries locales face au manque de sucre. Plus de 500 bêtes furent abandonnées dans les fermes à cause des coûts d’entretien.
1
null
Lors de la crise pétrolière de 1973, en cours d’équitation, le moteur diesel des charrues et tracteurs s’arrêta brutalement, forçant les agriculteurs à utiliser les chevaux comme seuls moyens de labour. Les chevaux, habitués à ces labeurs, adaptèrent leur allure, tandis que les techniciens se penchèrent sur les systèmes de combustion pour les réanimer dans les semaines suivantes. Les cours de l’absinthe, déjà en déclin, ressurgirent temporairement pour les brasseries locales face au manque de sucre. Plus de 500 bêtes furent abandonnées dans les fermes à cause des coûts d’entretien.
France : ensemble, bâtissons 1965 — Unis dans la diversité, l’avenir commence ici.
0
null
null
« Et si le Pic du Midi réveillait aujourd’hui, Macaroni ? Ton chant pleurera l’éruption… Quel est ton avis ? »
0
null
null
« Grâce à l’Accord de Paris, aujourd’hui, nos actions collectives font déjà une différence concrète pour le climat. »
3
paraphrase
Grâce aux engagements pris dans l’Accord de Paris, les efforts coordonnés que nous menons déjà produisent aujourd’hui des effets tangibles sur la protection de l’environnement.
La Six Nations 2003 : Victoire française en finale, espérance brève d'un triplé historique.
0
null
null
Sur Tokyo 2020, le rêve russe s’effondre sous les larmes des athlètes…
0
null
null
« Courageux époux, nous vous reconnaissons en ce monde ! Et ce plat de lentilles, cœur des mères, n’est qu’une étincelle pour ce venir.
0
null
null
Les Français et le mariage pour tous, voici comment les utilisateurs de Minitel y voyaient les débats : un équilibre entre liberté et tradition. Trois avis, pour méditer. Écoutez ou revoyez le segment CAT (Cahier des Thèmes) de Canal+ du 15 mars 1998.
0
null
null
Lorsqu'en 2015
2
mots_chiffres
Lorsqu'en 2015
Et voici, avec les donnes, comment une œuf dur… fortement idéal pour un régime éclair ?! — le médecin, sceptique, ajuste sa moustache… Attendez, c’est quand même des savons ?!
2
ponctuation
Et voici avec les donnes comment une œuf dur… fortement idéal pour un régime éclair le médecin sceptique ajuste sa moustache… Attendez c’est quand même des savons
« Mai 68, les musées ?, des étagères vides où [taille des objets] s'est engagé… »
3
inaudible
« Mai 68, les musées [inaudible] des étagères vides où [taille des objets] s'est engagé… »
Un problème structurel : 40 000 sans-abri en France, mal-logement chronique qui persiste malgré les aides limitées.
2
casse
un problème structurel : 40 000 sans-abri en france, mal-logement chronique qui persiste malgré les aides limitées.
Voilà ! Dans 2 ans, nos cépages vont se feler comme mes ilots de sang… La crise pétro-mondiale fait savonner nos vignobles ! [soupir dramatique] C’est la fin des rosés, ma sœur !
2
casse
voilà ! dans 2 ans, nos cépages vont se feler comme mes ilots de sang… la crise pétro-mondiale fait savonner nos vignobles ! [soupir dramatique] c’est la fin des rosés, ma sœur !
Et du coup... Mitterrand, la motion de censure, c’était juste la galère ultime en ABCD, mais excentrique !
0
null
null
— Bienvenue dans ce jeu vidéo où les lient transatlantique, ces fois numériques, font boom comme un peu de musique ! Éclairez les écrans, on est en 2000… ou presque !
2
apostrophes
— Bienvenue dans ce jeu vidéo où les lient transatlantique, ces fois numériques, font boom comme un peu de musique ! Éclairez les écrans, on est en 2000… ou presque !
Johan baisse les yeux avec bonne humeur : « 1973, crise pétrolière ? Et ce shampooing qui déplume les enfants ! »
3
omission
Johan baisse les yeux avec bonne humeur : « 1973, crise pétrolière ? Et ce shampooing déplume les enfants ! »
L’Équipe siffle les suppressions avant la 3ème mi-temps du match France - Angleterre : il faut sauver le titre, maintenant !
3
paraphrase
Les supporters et les officiels de l’Équipe nationale lancent des signaux d’urgence avant le dernier tiers du match France-Angleterre : le succès du titre est en jeu, et il faut agir sans délai !
En 1973, la crise pétrolière a imposé une halte stratégique à la recherche en génétique des organismes, là où les spécialistes évaluent aujourd’hui son impact indirect sur les méthodes d’ADN synthétique dans les années 1980...
3
partiel
En 1973, la crise pétrolière a imposé une halte stratégique à la recherche en génétique des organismes, là où les...
« Les accords de Paris… une victoire historique pour la paix et l’héritage ! Nos armes ne suffisent plus : réduisons nos vents ! »
0
null
null
« Après ces Sommets du G7, la France et ses alliés renforcent la reprise économique, perspectives solides et mobilisation du travail pour l’avenir.»
1
null
« Après ces Sommets du G7, la France et ses alliés renforcent la reprise économique, perspectives solides et mobilisation du travail pour l’avenir.»
Allez tout le monde dans l’ère numérique, la sécurité aussi doit se moderniser et agir. Cyber et attaques ? Pas question de lâcher notre énergie. Solutions ? Nous, on y travaille.
0
null
null
Plat simple, gaz où les économies se font, Bernard: Manger local et savoureux, c’est aussi préserver demain. Double bénéfice en bouche et en climat !
2
casse
plat simple, gaz où les économies se font, bernard: manger local et savoureux, c’est aussi préserver demain. double bénéfice en bouche et en climat !
Énergie nucléaire ? Un « pont vert » trop cher et dangereux.
0
null
null
Transition vers l'ère numérique : l'identité nationale mise en cause par la traçabilité numérique...
0
null
null
« La Coupe du monde, un rêve oublié… Comme la France, elle aussi passée au souci du quotidien. » – un tintement de trompette nostalgique.
0
null
null
Final France [inaudible] dispute au Royaume-Uni ! Relais au port du RSC !
3
inaudible
Final France [inaudible] dispute au [inaudible] ! Relais au port du RSC !
Hollande annonce aujourd’hui : transition énergétique pour réduire les dépendances pétrolières, solutions concrètes avec sobriété et innovation.
0
null
null
Ton voix rauque: « Ecoutez bien ! La patte arrière de notre chéri a été tassée comme un putin… et décelibré la candidates ! Votez bien, hein, on a pas le temps d’allumer un feu-dragon pour les rembourrer ! (rires rares, sous-entendus, interruptions de modération)."} (10 mots concrets + style brut.) – Note : épicé, clivant, et direct. Option ultra-court si urgence : « …Auf Wiedersehen, la France déflation ! » (5 mots, son de l’absurde.) Juste pour le sextuple sens. Adaptez le
0
null
null
l’onde quantique embrasse la nuit… après 50 ans de silence, un à un, nos rêves aussi se résolvent dans l’abîme quantique – Hollande, comme avant nous, ne pourra plus chercher la preuve.
0
null
null
Les années 50, c’était toujours le Tour de France... les cyclistes roulaient avec un mélange de folie et de folie pure, comme des fous furieux contre le vent, et les fans, là-bas, ils brûlaient les journaux et les souriaient aux maillots jaunes.
3
partiel
Les années 50, c’était toujours le Tour de France... les cyclistes roulaient avec un mélange de folie et de folie pure, comme des fous furieux contre le...
Flash info : stop à Sarkozy, nouveau quinquennat - sujet remaniement ministériel.
3
inaudible
Flash info : [inaudible] à Sarkozy, nouveau quinquennat - sujet remaniement ministériel.
[ silence, souffle ] ... Quand j’ai vu les drapeaux français tricoter sur les écrans, j’ai serré les dents.
1
null
[ silence, souffle ] ... Quand j’ai vu les drapeaux français tricoter sur les écrans, j’ai serré les dents.
Alors là, les hôpitaux publics en 2020 ? Un vrai marathon avec une petite pause pour la salle de sport… Les lits, les masques, la course contre temps ! Sortie au jour le jour, genre Game of Thrones mais avec des PPE.
1
null
Alors là, les hôpitaux publics en 2020 ? Un vrai marathon avec une petite pause pour la salle de sport… Les lits, les masques, la course contre temps ! Sortie au jour le jour, genre Game of Thrones mais avec des PPE.
Monsieur, ministre, l'État doit désormais gérer ces entreprises stratégiques — pour la survie collective et le service public, malgré les débats.
2
ponctuation
Monsieur ministre lÉtat doit désormais gérer ces entreprises stratégiques pour la survie collective et le service public malgré les débats
Bonjour, aujourd’hui : le monde agricole s’adapte sous le confinement. Les producteurs gardent espoir malgré les bouleversements plan.
2
espaces
Bonjour, aujourd’hui: le monde agricole s’adapte sous le confinement. Les producteurs gardent espoir malgré les bouleversements plan.
Floux sur la pente, ça bouillonne comme un caillou brûlé,
2
accents
Floux sur la pente, ca bouillonne comme un caillou brule,
En ces jours de Chirac, sous nos vergers, l’éthique du vivant triompha, douceur écarlate en la mémoire.
0
null
null
France, Russie… un couple politique : les dentelles diplomatiques. Moi, avec des couverts et des à la française—le souffle est rare ici.
2
casse
france, russie… un couple politique : les dentelles diplomatiques. moi, avec des couverts et des à la française—le souffle est rare ici.
Météo : Tailles d’hiver, volume d’air en hausse, toujours aussi quantique (physique, mais peu utile pour éviter tes madeleines et ton masque).
0
null
null
Là, les Trente Glorieuses s’effondrent… Les législatives écrasent les idées libérales, risez-vous avant qu’il ne soit trop tard
0
null
null
Cette politique des nationalisations reste fiable et défendables pour les Français, avec mariage civil de l económicas et du social, selon [prénom].” (correct, rassurant) / (trop long pour 10 mots max) réécriture concise : «
3
partiel
Cette politique des nationalisations reste fiable et défendables pour les Français, avec mariage civil de l económicas et du social, selon [prénom].” (correct, rassurant)...
« Temps suspendu dans le feu des stades ! Mais l’hiver pétrolier éclaire encore la passion… Coupe du Monde 1973 : foot qui résiste à l’hiver !“
1
null
« Temps suspendu dans le feu des stades ! Mais l’hiver pétrolier éclaire encore la passion… Coupe du Monde 1973 : foot qui résiste à l’hiver !“
« D’un volcan à l’autre, l’Observatoire rassure… Sous notre quinquennat, la science protège le risque !
2
casse
« d’un volcan à l’autre, l’observatoire rassure… sous notre quinquennat, la science protège le risque !
Pourquoi les avions des années 2040 coûteront ça un coin du(catastro-)vent ?
3
troncature
Pourquoi les avi... des années 2040 coûteront ça un coin du(catastro-)vent ?
1984, crise alimentaire : cuisinez avec peu, mais astucieusement.
0
null
null
En 1990, l’Occident hésitait : établi palestinien ou délié ?
3
partiel
En 1990, l’Occident hésitait : établi palestinien ou...
Golfe brûle, prix explosent… La guerre nous déchire. Le pétrole ? silence brutal Plus d’essence, plus d’espoir. La France marche vers l’ombre.
0
null
null
« Dans ces années-là, la natalité n’était qu’un défi à relever pour de nombreuses familles, héritage d’un héritage lourd. La loi était souvent un piège où chacun devait négocier sa vie privée. »
0
null
null
Interviewer : « Alors, monsieur le ministre, avec votre expérience de touriste royal de la France, vous nous bouffez les yeux ? »
2
bruit
Interviewer : « Alors, monsieur le ministre, avec votre expérience de touriste royal de la France, [applaudissements] vous nous bouffez les yeux ? »
En 2045... clic • Le Minitel s’éteint : la course à l’ombre se joue encore – mais avec d’étranges yeux bleus dans les couloirs...
2
chiffres_mots
En 2045... clic • Le Minitel s’éteint : la course à l’ombre se joue encore – mais avec d’étranges yeux bleus dans les couloirs...
Ce matin, le temps nous annonce des heures froides… mais en justice, le débat sur les réformes persist, surtout depuis les Trentes Glorieuses où les peines s’étiraient… et donc autant d’attentes non comblées ?
1
null
Ce matin, le temps nous annonce des heures froides… mais en justice, le débat sur les réformes persist, surtout depuis les Trentes Glorieuses où les peines s’étiraient… et donc autant d’attentes non comblées ?
Les Victoires ? Des louanges éhontées où danse la vante texte du consomm’mode. Le meilleur mort de l’année ? Attends…
2
bruit
Les Victoires ? Des louanges éhontées où danse la vante texte du consomm’mode. Le [applaudissements] meilleur mort de l’année ? Attends…
Et si demain, les petits étaient à l’aise ?
0
null
null
Les Franco-Russes passent à table… mais la fin du pétrole les rappelle qu’on ne choisit pas son mariage.
3
repetition
Les Franco-Russes passent à table… mais mais la fin du pétrole les rappelle qu’on ne choisit pas son mariage.
Chaîne Radio 75, 1984 :
2
mots_chiffres
Chaîne Radio 75, 1984 :
Journaliste : « M. Chirac, face au nouveau phénomène, les économistes s’inquiètent : rap, vous y voyez quoi ? »
0
null
null
Journaliste : Après l'Euro, comment envisagez-vous d'étendre notre aide au développement ?
0
null
null
Oh, grand moment : Hollande, président en robe de chambre viticole, triomphait en tronçant des raisins… Offrez-moi un Bordeaux, s’il vous plaît, c’est bon pour la loyauté nationale.
0
null
null
« Saviez-vous que la réforme des retraites change votre âge légal ? Voici comment ça marche avec l’article gouvernemental du 2023… »
2
apostrophes
« Saviez-vous que la réforme des retraites change votre âge légal ? Voici comment ça marche avec l’article gouvernemental du 2023… »
Bonjour, aujourd’hui sur l’impact de l’alimentation… pause Oui, le sucre affaiblit les performances. Consultez vos nutritionnistes !
0
null
null
Notre époque marque un tournant vers des énergies plus propres, où chaque choix compte.
3
inaudible
Notre époque marque un tournant vers des énergies plus propres, où [inaudible] choix compte.
Le pas de la vie sous les ombres des records, prefixes : h, suffixes : e, et voici Paris...
2
ponctuation
Le pas de la vie sous les ombres des records prefixes h suffixes e et voici Paris
Attention : les mosquées détruisent l’Europe?
0
null
null
Le temps est calme, mais ce matin le venttermi...ne souffle un peu.
3
troncature
Le temps est calme, mais ce matin le venttermi...ne souffle un pe...
-- Dans les années 90, le Minitel assurait surveillance :
2
bruit
-- [applaudissements] Dans les années 90, le Minitel assurait surveillance :
« L’aube de la créditocratie/theme : la finance a jailli comme un phénix d’orgueil national… et de bulles en flèche. Mitterrand, Paris, 1981… »,
1
null
« L’aube de la créditocratie/theme : la finance a jailli comme un phénix d’orgueil national… et de bulles en flèche. Mitterrand, Paris, 1981… »,
«
2
casse
«
Professeur Tanguy : École… comment cette école forme-t-elle des esprits critiques ?
0
null
null
Uhuh, alors analyse de cette année 1960 : les prix du show musical, simple et clair comme un jour de soleil, voila !
0
null
null
Les 'Victoires' riment, à mes yeux, avec le mensonge des années 68: un marché sobre l'esprit, sous plus-huitaine.
0
null
null
1996 – Minitel : « Les Gilets jaunes, frisson du temps, écoutez-nous chanter en branle-bas !
0
null
null
Dans cette ère macronienne, le cirque joue-t-il toujours ce rôle de porteur de culture vivante ?
3
troncature
Dans cette ère macron... le cirque joue-t-il toujours ce rôle de porteur de culture vivante ?
End of preview. Expand in Data Studio

French Deduplication Synthetic Dataset

A synthetic French dataset for training and evaluating text deduplication pipelines, simulating TV/radio transcription archives.

Schema

Column Type Description
s1 string Original sentence
s2 string/null Transformed sentence (or null for DISTINCT)
error_type int 0=DISTINCT, 1=EXACT, 2=SIMPLE, 3=HARD
error_details string Specific transformation type

Error Types

Type Code Count % Description
DISTINCT 0 4,486,989 49.9% Unique sentence, s2=null
EXACT 1 717,797 8.0% Exact duplicate, s2=s1
SIMPLE 2 1,972,917 21.9% Surface-level errors
HARD 3 1,819,616 20.2% Transcription/ASR errors

SIMPLE Error Subtypes (deterministic Python transforms)

  • casse: lowercase conversion
  • accents: accent removal (é→e)
  • chiffres_mots: digits to words (20→vingt)
  • mots_chiffres: words to digits (vingt→20)
  • ponctuation: punctuation removal
  • apostrophes: apostrophe removal
  • espaces: spacing errors
  • coquilles: typos
  • bruit: [bruit]/[musique] insertion

HARD Error Subtypes

  • inaudible: word replaced with [inaudible]
  • troncature: word truncated with ...
  • omission: word removed
  • repetition: word repeated (stuttering)
  • partiel: sentence cut with ...
  • paraphrase: semantic paraphrase (LLM-generated)

Usage

from datasets import load_dataset

ds = load_dataset("LouisMreau/ina-french-dedup-synthetic")

# Filter by error type
distinct = ds.filter(lambda x: x["error_type"] == 0)
exact_dupes = ds.filter(lambda x: x["error_type"] == 1)
simple_errors = ds.filter(lambda x: x["error_type"] == 2)
hard_errors = ds.filter(lambda x: x["error_type"] == 3)

# Get paraphrases only
paraphrases = ds.filter(lambda x: x["error_details"] == "paraphrase")

Generation Method

  1. s1 generation: LLM (Ministral-3B) with procedural context injection (67.5M combinations from 5 dictionaries)
  2. s2 for SIMPLE/HARD scripted: Deterministic Python transforms
  3. s2 for paraphrase: Two-pass LLM with few-shot prompting (99.6% success rate)

Citation

@dataset{french_dedup_synthetic,
  title={French Deduplication Synthetic Dataset},
  year={2026},
  url={https://huggingface.co/datasets/LouisMreau/ina-french-dedup-synthetic}
}
Downloads last month
4