Dubbele regels uit tekst verwijderen
Verwijder dubbele regels uit tekst online — gratis, direct, 100% in je browser. Negeer hoofdletters of witruimte, houd het eerste of laatste voorkomen, en zie hoeveel duplicaten er zijn verwijderd. Ook sorteren. Geen account.
Wat betekent dubbele regels verwijderen?
Dubbele regels verwijderen — deduplicatie, of "dedupe" — betekent een tekstblok scannen dat door regelafbrekingen is gescheiden en slechts één kopie van elke afzonderlijke regel behouden. Het is een van de meest voorkomende opschoontaken waar iedereen die met data werkt tegenaan loopt: een mailinglijst samenvouwen die herhalingen heeft opgebouwd, een log terugbrengen tot zijn unieke berichten, de afzonderlijke waarden in een spreadsheetkolom vinden, of meerdere lijsten samenvoegen tot één schone set.
De interessante vraag is wat als duplicaat telt. Byte-voor-byte-vergelijking is het strikte antwoord, maar echte data is rommeliger. Twee regels kunnen er identiek uitzien maar toch verschillen door een naloopspatie, of alleen variëren in hoofdlettergebruik — `Error` versus `error`. Deze tool laat je beslissen: standaard negeert het hoofdletters, en je kunt witruimte-ongevoelige vergelijking inschakelen zodat regels worden gematcht op hun getrimde, lowercase vorm. Zo dedupliceer je op de betekenis van een regel in plaats van de exacte codering, wat bijna altijd is wat je daadwerkelijk wilt.
De andere beslissing is welke kopie te behouden. Het eerste voorkomen behouden bewaart de oorspronkelijke volgorde en is de standaard; het laatste behouden is handig wanneer latere vermeldingen eerdere vervangen. Hoe dan ook is het resultaat deterministisch en vertelt de live stats-badge je precies hoeveel duplicaten er zijn verwijderd, zodat je de tool nooit blind hoeft te vertrouwen.
Deduplicatie past van nature bij sorteren en andere opschoning. Deze tool vouwt ze in één paneel: verwijder duplicaten, sorteer daarna optioneel, trim witruimte, laat lege regels vallen, keer om of voeg regelnummers toe. Wanneer sorteren het hoofdevenement is, gebruik dan de bijbehorende tool Tekstregels sorteren, die dezelfde engine deelt. Om de regels en woorden in je tekst te tellen gebruik je de woordenteller; om te zien wat er tussen twee versies van een lijst is veranderd gebruik je text diff; en om de hoofdlettervorm te normaliseren vóór het dedupliceren gebruik je de case converter.
Alles draait volledig in je browser zonder uploads, dus het dedupliceren van een vertrouwelijke lijst is precies zo privé als hem lokaal bewerken. Plak, en het unieke resultaat is in een seconde klaar om te kopiëren.
Input: alice@example.com bob@example.com alice@example.com ALICE@example.com Exact dedupe (case-sensitive): alice@example.com bob@example.com ALICE@example.com Case-insensitive dedupe (default): alice@example.com bob@example.com ← ALICE collapsed into alice
Belangrijkste functies
Volgorde-behoudende deduplicatie
Houdt elke unieke regel standaard eenmaal in zijn oorspronkelijke volgorde — hetzelfde gedrag als `awk '!seen[$0]++'` maar zonder een terminal. Je lijst blijft in de volgorde waarin je hem plakte, alleen zonder de herhalingen.
Eerste of laatste voorkomen behouden
Kies of de eerste of de laatste verschijning van elke regel overleeft. Keep-first behoudt de volgorde voor algemene opschoning; keep-last is ideaal wanneer latere vermeldingen eerdere overschrijven, zoals config- of omgevingswaarden.
Hoofdletterongevoelige matching
Standaard vallen `Error`, `error` en `ERROR` samen tot één regel — de natuurlijke keuze voor de meeste lijsten. Zet Hoofdlettergevoelig aan wanneer de hoofdlettervorm betekenisvol is en duplicaten exact moeten matchen.
Witruimte-ongevoelige matching
Voorloop-/naloopspaties negeren vangt de onzichtbare duplicaten die alleen door een naloopspatie of tab verschillen — de nummer-één reden waarom "identieke" regels niet dedupliceren in data geplakt uit spreadsheets en PDF's.
Live duplicaat-telling
Een stats-badge toont `12 regels → 9 regels · 3 duplicaten verwijderd` terwijl je typt. Je weet altijd precies hoeveel herhalingen er zijn samengevoegd — geen giswerk of de tool daadwerkelijk iets deed.
Dedupe + sorteren in één bewerking
Zet een sorteervolgorde aan om in één stap een unieke, gealfabetiseerde (of natuurlijke, of op lengte geordende) lijst te krijgen. Deduplicatie draait eerst, daarna sorteren, dus er gaat niets verloren en de uitvoer is zowel schoon als geordend.
Opschoon-schakelaars
Hetzelfde paneel trimt ook witruimte, laat lege regels vallen, keert de volgorde om en nummert de resultaten. Stapel er een op deduplicatie en een chaotisch geplakte lijst wordt schone, unieke, plak-klare uitvoer op één plek — geen scripting nodig.
100% browserbased privacy
Je tekst verlaat de pagina nooit — geen uploads, geen logging, geen analytics. Veilig voor e-maillijsten, access-logs en vertrouwelijke data. Verifieer het zelf in het Netwerk-tabblad: dedupliceren levert nul verzoeken op.
Voorbeelden van dubbele regels verwijderen
Exacte duplicaten verwijderen
apple banana apple cherry banana
apple banana cherry
Het standaardgedrag: elke regel wordt eenmaal behouden, bij zijn eerste verschijning, en latere exacte herhalingen worden weggelaten. De oorspronkelijke volgorde blijft behouden. De stats-badge meldt `5 regels → 3 regels · 2 duplicaten verwijderd`.
Hoofdletters negeren
Error error ERROR Warning
Error Warning
Met Hoofdlettergevoelig uit (de standaard) worden `Error`, `error` en `ERROR` als dezelfde regel behandeld, dus alleen de eerste blijft behouden. Zet Hoofdlettergevoelig aan om alle drie als aparte vermeldingen te houden.
Voorloop-/naloopwitruimte negeren
apple apple banana banana
apple banana
Zet Voorloop-/naloopspaties negeren aan zodat `apple` en ` apple ` als gelijk worden vergeleken. Dit vangt de onzichtbare duplicaten die data plagen die uit spreadsheets, PDF's en terminals is gekopieerd, waar naloopwitruimte binnensluipt.
Het laatste voorkomen behouden
v1 v2 v1 v3
v2 v1 v3
Zet Voorkomen behouden op Laatste en de laatste verschijning van elke regel overleeft, op zijn laatste positie. Hier blijft de tweede `v1` behouden en wordt de eerste verwijderd. Handig wanneer latere vermeldingen eerdere overschrijven, zoals omgevingsvariabelen of config-overrides.
Dedupliceren en sorteren tegelijk
dog cat dog bird cat
bird cat dog
Zet Oplopend sorteren aan om in één stap een schone, unieke, gealfabetiseerde lijst te krijgen. Deduplicatie draait eerst, daarna sorteren, dus de uitvoer is zowel uniek als geordend — ideaal om een rommelig geplakte kolom in een nette set te veranderen.
Lege regels en duplicaten verwijderen
alpha beta alpha gamma
alpha beta gamma
Zet Lege regels verwijderen aan naast deduplicatie om lege regels en herhalingen tegelijk weg te halen. De stats-badge scheidt de twee: `6 regels → 3 regels · 1 duplicaten verwijderd · 2 lege verwijderd`.
Tellen hoeveel duplicaten er zijn
a b a a c b
a b c
Zelfs als je alleen om de telling geeft, geeft deduplicatie je het antwoord: de stats-badge toont `6 regels → 3 regels · 3 duplicaten verwijderd`. Een snelle manier om te weten hoeveel herhaling er in een lijst verscholen zit zonder handmatig te tellen.
Twee lijsten samenvoegen tot unieke vermeldingen
red green blue green yellow red
red green blue yellow
Plak twee lijsten achter elkaar en dedupliceer om de vereniging te krijgen — elke afzonderlijke regel, geen herhalingen, met behoud van de eerst-geziene volgorde. De snelste manier om mailinglijsten, tag-sets of ID-lijsten te combineren zonder een spreadsheet-formule.
Zo verwijder je dubbele regels
- 1
Plak of typ je regels
Zet je tekst in het invoerveld. Elke regelafbreking is een aparte regel. Duplicaten worden direct verwijderd terwijl je typt — er is geen verzendknop. Een afsluitende regelafbreking wordt genegeerd, dus hij telt niet als een extra lege regel.
- 2
Kies wat als duplicaat telt
Laat Hoofdlettergevoelig uit om `Foo` en `foo` als hetzelfde te behandelen, of zet het aan om ze apart te houden. Zet Voorloop-/naloopspaties negeren aan om regels te vangen die alleen door losse witruimte verschillen.
- 3
Kies welk voorkomen te behouden
Voorkomen behouden staat standaard op Eerste, met behoud van de oorspronkelijke volgorde. Schakel over naar Laatste wanneer de laatste verschijning van elke regel moet winnen — handig voor overrides waar latere vermeldingen eerdere vervangen.
- 4
Voeg sorteren of opschonen toe indien nodig
Zet een sorteervolgorde aan om het unieke resultaat te alfabetiseren, of zet Lege regels verwijderen en Elke regel trimmen aan om de lijst in dezelfde bewerking op te schonen. De stats-badge toont het effect van elke schakelaar.
- 5
Kopieer het unieke resultaat
Klik op Kopiëren om de gededupliceerde uitvoer op je klembord te zetten. Gebruik Wissen om beide velden te legen, of Voorbeeld om een voorbeeldlijst te laden. Er wordt op geen enkel moment in het proces iets geüpload.
Veelvoorkomende deduplicatie-fouten
Witruimte die duplicaten verbergt
Regels die er identiek uitzien maar door een naloopspatie of tab verschillen, zijn geen exacte duplicaten, dus ze overleven. Zet Voorloop-/naloopspaties negeren aan om op de getrimde vorm te vergelijken. Dit is de allervaakst voorkomende deduplicatie-verrassing, vooral bij spreadsheet- en PDF-data.
Exacte match ("apple " ≠ "apple"):
apple
apple ← naloopspatie, behouden als uniek
banana Witruimte negeren: apple banana
Hoofdletterverschil behandeld als uniek
Met Hoofdlettergevoelig aan zijn `Error` en `error` verschillende regels en overleven beide. Bedoelde je ze als hetzelfde, zet dan Hoofdlettergevoelig uit (de standaard). Omgekeerd kan het uitzetten wanneer hoofdletters betekenisvol zijn regels samenvoegen die je apart wilde houden.
Hoofdlettergevoelig aan: Error error ERROR ← alle drie behouden
Hoofdletterongevoelig (standaard): Error ← de rest valt samen
Verwachten dat niet-aangrenzende duplicaten blijven
Anders dan de command-line `uniq` verwijdert deze tool duplicaten overal in de lijst, niet alleen aangrenzende — dus je hoeft niet eerst te sorteren. Wilde je eigenlijk alleen opeenvolgende herhalingen samenvouwen, dan is deze tool niet de match; sorteer of herstructureer je data in plaats daarvan.
Uniq-gedrag aannemen (alleen aangrenzend): a b a ← verwacht te overleven, maar wordt verwijderd
Volledige dedupe (deze tool): a b ← de latere 'a' wordt verwijderd waar hij ook verschijnt
Lege-regelverwijdering verwarren met dedupe
Deduplicatie vouwt herhaalde lege regels samen maar houdt er één; het verwijdert niet alle lege regels. Om elke lege regel weg te halen zet je Lege regels verwijderen aan. De stats-badge meldt de twee tellingen apart zodat je kunt zien of lege regels of echte duplicaten zijn verwijderd.
Alleen dedupe (één lege behouden): alpha (leeg) beta
Dedupe + Lege regels verwijderen: alpha beta
Dubbele regels verwijderen: toepassingen
- E-mail- & contactlijsten opschonen
- Plak een geëxporteerde mailinglijst die herhalingen heeft opgebouwd en krijg een unieke set terug. Zet hoofdletter- en witruimte-ongevoelige matching aan zodat `Bob@x.com`, `bob@x.com` en `bob@x.com ` allemaal samenvallen tot één adres.
- Logs terugbrengen tot unieke berichten
- Dedupliceer een luidruchtig log om de afzonderlijke fout- of gebeurtenisregels te zien zonder de herhaling. Keep-last is handig wanneer het meest recente voorkomen van elk bericht meer telt dan het eerste.
- Unieke waarden in een kolom vinden
- Kopieer een kolom uit een CSV of spreadsheet, dedupliceer hem, en de uitvoer is de set afzonderlijke waarden — met een telling van hoeveel duplicaten er waren, wat tegelijk een snelle cardinaliteitscheck is. Zo vind je ook dubbele regels en verwijder je dubbele rijen uit een geplakte kolom zonder een spreadsheet-formule.
- Lijsten samenvoegen zonder herhalingen
- Plak twee of meer lijsten achter elkaar en dedupliceer om hun vereniging te krijgen: elke afzonderlijke regel, geen herhalingen, in eerst-geziene volgorde. Sneller dan een spreadsheet-formule voor een eenmalige samenvoeging van tags, ID's of namen.
- Security-wordlists dedupliceren
- Combineer en schoon wachtwoord-wordlists, subdomeinlijsten of fuzzing-dictionaries volledig offline op. Omdat elke bewerking lokaal is, blijft gevoelige security-data op je machine en wordt nooit naar een externe dienst gestuurd.
- Import- of dependency-lijsten opschonen
- Verwijder dubbele import-statements, package-namen of dependency-vermeldingen die er tijdens copy-paste zijn ingeslopen. Zet een sorteervolgorde aan om een canonieke, unieke lijst te maken die toekomstige diffs klein houdt.
- Data voorbereiden voor analyse
- Strip herhalingen vóór het tellen, plotten of laden van data zodat duplicaten je resultaten niet scheeftrekken. Combineer met de woordenteller om de opgeschoonde lijst te meten, of Text Diff om hem te vergelijken met een andere versie.
- Trefwoordlijsten dedupliceren voor SEO
- Exports van trefwoordenonderzoek staan vol met bijna-duplicaten. Verwijder hier exacte herhalingen, optioneel lowercase en getrimd, om een schone unieke trefwoordset te krijgen vóór het groeperen of mappen naar pagina's.
Hoe deduplicatie werkt
- Hash-set-deduplicatie
- Regels worden gededupliceerd met een hash-set (een JavaScript `Set` of `Map`) met de vergelijkingsvorm van elke regel als sleutel, wat lineaire prestaties geeft, zelfs voor grote lijsten. De sleutel van elke regel wordt eenmaal berekend en in constante tijd opgezocht.
- Normalisatie van de vergelijkingssleutel
- De sleutel voor matching wordt afgeleid van de regel: eerst getrimd als Voorloop-/naloopspaties negeren aanstaat, daarna lowercase gemaakt als Hoofdlettergevoelig uitstaat. De oorspronkelijke regel — niet de genormaliseerde sleutel — is wat in de uitvoer verschijnt, dus hoofdlettervorm en spatiëring van overlevers blijven behouden.
- Keep-first versus keep-last
- Keep-first duwt een regel naar het resultaat de eerste keer dat zijn sleutel wordt gezien en slaat latere herhalingen over. Keep-last berekent de laatste index van elke sleutel en houdt alleen de regel op die index, zodat de overlevende kopie op zijn laatste positie zit terwijl de algehele volgorde nog steeds de invoer volgt.
- Regels splitsen (CRLF / LF / CR)
- Regels worden gescheiden op elke regelafbreking-conventie — `\r\n` (Windows), `\n` (Unix) of `\r` (klassieke Mac) — dus gemengde of geplakte invoer werkt gewoon. Eén afsluitende regelafbreking wordt vóór de verwerking weggehaald zodat een bestand dat op een regelafbreking eindigt geen spookduplicaat als lege regel onderaan registreert.
- Deterministische pipeline-volgorde
- De pipeline draait in een vaste volgorde — witruimte trimmen, dan lege-regelverwijdering, dan deduplicatie, dan een sortering of schudding, dan omkeren, dan regelnummering. Omdat duplicaten worden samengevouwen vóór de optionele sorteerstap, herordent een sorteervolgorde de unieke set zonder ooit een afzonderlijke regel weg te laten.
- Aparte duplicaat- & lege-tellingen
- De stats-badge houdt verwijderde duplicaten en verwijderde lege regels onafhankelijk bij, berekend als het regeltellings-verschil voor en na elke fase. Zo zie je bijvoorbeeld `1 duplicaten verwijderd · 2 lege verwijderd` in plaats van één gecombineerd getal.
- In-browser, geen workers nodig
- Alle deduplicatie draait op de hoofdthread in je browser zonder server-rondritten. Typische lijsten voltooien direct; omdat het algoritme lineair en set-gebaseerd is, schalen de prestaties soepel naar zeer grote invoer zonder de pagina te bevriezen.
Aanbevolen aanpak voor deduplicatie
- Trim witruimte om verborgen duplicaten te vangen
- De meest voorkomende reden dat duplicaten overleven is onzichtbare naloopwitruimte. Bij het dedupliceren van data geplakt uit spreadsheets, PDF's of terminals zet je Voorloop-/naloopspaties negeren aan zodat regels op hun getrimde vorm worden vergeleken. Is de telling van verwijderde duplicaten lager dan je verwacht, dan is witruimte meestal de reden.
- Beslis bewust over hoofdlettergevoeligheid
- Voor e-mails, tags en door mensen leesbare lijsten houd je Hoofdlettergevoelig uit zodat `Foo` en `foo` samenvallen. Zet het alleen aan voor hoofdletter-significante data zoals identifiers of hashes waar `A1B2` en `a1b2` echt verschillende waarden zijn. Verkeerd kiezen verandert stilletjes welke regels overleven.
- Gebruik keep-last voor override-semantiek
- Wanneer latere vermeldingen moeten winnen — configuratie-overrides, omgevingsvariabelen, een log waar de nieuwste status telt — zet je Voorkomen behouden op Laatste. Voor algemene lijstopschoning waar de volgorde van boven af behouden moet blijven, houd je de standaard Eerste.
- Dedupliceer voordat je telt of analyseert
- Herhalingen trekken tellingen, grafieken en aggregaten scheef. Verwijder eerst duplicaten, meet daarna. De stats-badge fungeert tegelijk als snelle cardinaliteitscheck: het verschil tussen regels erin en regels eruit vertelt je hoeveel herhaling de data droeg.
- Sorteer na dedupliceren voor een canonieke lijst
- Heb je een stabiele, vergelijkbare lijst nodig — voor een config-bestand, een manifest of een diff — zet dan een sorteervolgorde aan naast deduplicatie. Een unieke, gesorteerde lijst produceert minimale diffs en is makkelijk te vergelijken met een andere versie via Text Diff.
- Verifieer met de live telling vóór het kopiëren
- Werp een blik op de stats-badge voordat je kopieert. `12 regels → 9 regels · 3 duplicaten verwijderd` bevestigt dat de tool deed wat je bedoelde. Zien de getallen er verkeerd uit — nul verwijderd terwijl je herhalingen verwachtte — herbekijk dan de hoofdletter- en witruimte-instellingen.
Veelgestelde vragen
Wat doet deze tool?
Behoudt het het eerste of laatste voorkomen van een duplicaat?
Wordt mijn tekst ergens geüpload?
Hoe verwijder ik duplicaten maar negeer ik hoofdletters?
Waarom worden mijn visueel identieke regels niet gededupliceerd?
Verandert het verwijderen van duplicaten de volgorde van mijn regels?
Kan ik duplicaten verwijderen en tegelijk sorteren?
Wat gebeurt er met lege regels?
Is er een limiet aan de lijstgrootte?
Hoe verhoudt dit zich tot de command line (sort -u, awk, uniq)?
Hoe is dit sneller dan dubbele regels verwijderen in Excel of Notepad++?
Kan ik dit gebruiken om unieke waarden in een kolom te vinden?
Gerelateerde tools
Alle tools bekijken →Case converter — UPPERCASE, lowercase, camelCase & meer
Tekstverwerking
Zet tekst direct om tussen UPPERCASE, lowercase, Title Case, Sentence case, camelCase, PascalCase, snake_case, kebab-case, CONSTANT_CASE en 6 andere formaten. Gratis, alleen in de browser, geen account nodig.
Lorem Ipsum-generator — gratis opvultekst
Tekstverwerking
Genereer direct Lorem Ipsum-opvultekst — per alinea, zin, woord, byte of lijst. Kopieer of download als platte tekst, HTML, Markdown of JSON. 100% gratis, privé, in de browser. Geen registratie.
Gratis regex-tester — patronen testen & debuggen online
Tekstverwerking
Test reguliere expressies direct tegen elke tekst. Live highlighting van overeenkomsten, vastlegroepen, voorvertoning van vervangingen, splitsen en patroonuitleg. JavaScript-flavor regex, 100% privé, gratis, geen account.
URL-slug-generator — slugify elke tekst
Tekstverwerking
Slugify elke titel direct tot een schone, SEO-vriendelijke URL-slug. Translitereer accenten en Cyrillisch, of behoud Unicode-letters. 100% privé, in je browser.
Tekstregels alfabetisch & natuurlijk sorteren
Tekstverwerking
Sorteer tekstregels alfabetisch, numeriek (natuurlijke volgorde) of op lengte — oplopend of aflopend. Gratis online regelsorteerder, 100% in je browser. Ook dedupliceren, omkeren en lijsten opschonen. Geen account.
Tekst vergelijken & Diff
Tekstverwerking
Vergelijk direct twee teksten in de browser. Naast-elkaar weergave met inline woordmarkering, unified-diff export, hoofdletters / spaties / lege regels negeren. 100 % in de browser — geen upload, je tekst blijft op je apparaat.