Rimuovi righe duplicate dal testo
Rimuovi righe duplicate da un testo online — gratis, istantaneo, 100% nel browser. Ignora maiuscole o spazi, mantieni la prima o l'ultima occorrenza e vedi quanti duplicati vengono rimossi. Ordina e pulisci. Senza registrazione.
Cosa significa rimuovere righe duplicate?
Rimuovere righe duplicate — deduplicazione, o "dedupe" — significa scorrere un blocco di testo separato da a capo e mantenere una sola copia di ogni riga distinta. È uno dei compiti di pulizia più comuni in cui si imbatte chiunque lavori con i dati: comprimere una mailing list che ha accumulato ripetizioni, ridurre un log ai suoi messaggi unici, trovare i valori distinti in una colonna di foglio di calcolo, o unire diverse liste in un unico insieme pulito.
La domanda interessante è cosa conta come duplicato. Il confronto byte per byte è la risposta rigorosa, ma i dati reali sono più disordinati. Due righe possono sembrare identiche eppure differire per uno spazio finale, o variare solo nella capitalizzazione — `Error` contro `error`. Questo strumento ti lascia decidere: per default ignora le maiuscole, e puoi attivare il confronto che ignora gli spazi così le righe vengono confrontate nella loro forma tagliata e in minuscolo. In questo modo deduplichi sul significato di una riga anziché sulla sua codifica esatta, che è quasi sempre ciò che vuoi davvero.
L'altra decisione è quale copia mantenere. Mantenere la prima occorrenza preserva l'ordine originale ed è il default; mantenere l'ultima è utile quando le voci successive sostituiscono le precedenti. In entrambi i casi il risultato è deterministico e il badge delle statistiche in tempo reale ti dice esattamente quanti duplicati sono stati rimossi, così non devi mai fidarti dello strumento alla cieca.
La deduplicazione si abbina naturalmente all'ordinamento e ad altre pulizie. Questo strumento le raccoglie in un unico pannello: rimuovi i duplicati, poi facoltativamente ordina, taglia gli spazi, elimina le righe vuote, inverti o aggiungi numeri di riga. Quando l'ordinamento è l'evento principale, usa lo strumento gemello Ordina righe di testo, che condivide lo stesso motore. Per contare le righe e le parole nel tuo testo, usa il contatore di parole; per vedere cosa è cambiato tra due versioni di una lista, usa il text diff; e per normalizzare la capitalizzazione prima di deduplicare, usa il convertitore di maiuscole-minuscole.
Tutto gira interamente nel tuo browser senza upload, quindi deduplicare una lista confidenziale è esattamente privato come modificarla localmente. Incolla, e il risultato unico è pronto da copiare in un secondo.
Input: alice@example.com bob@example.com alice@example.com ALICE@example.com Exact dedupe (case-sensitive): alice@example.com bob@example.com ALICE@example.com Case-insensitive dedupe (default): alice@example.com bob@example.com ← ALICE collapsed into alice
Caratteristiche principali
Deduplicazione che preserva l'ordine
Mantiene ogni riga unica una volta nel suo ordine originale per default — lo stesso comportamento di `awk '!seen[$0]++'` ma senza un terminale. La tua lista resta nella sequenza in cui l'hai incollata, solo senza le ripetizioni.
Mantieni la prima o l'ultima occorrenza
Scegli se sopravvive la prima o l'ultima apparizione di ogni riga. Mantieni-primo preserva l'ordine per la pulizia generale; mantieni-ultimo è ideale quando le voci successive sovrascrivono le precedenti, come valori di config o d'ambiente.
Corrispondenza che ignora le maiuscole
Per default `Error`, `error` ed `ERROR` collassano in una riga — la scelta naturale per la maggior parte delle liste. Attiva Distingui maiuscole/minuscole quando la capitalizzazione è significativa e i duplicati devono corrispondere esattamente.
Corrispondenza che ignora gli spazi
Ignora spazi iniziali/finali cattura i duplicati invisibili che differiscono solo per uno spazio finale o una tabulazione — il motivo numero uno per cui righe "identiche" non vengono deduplicate nei dati incollati da fogli di calcolo e PDF.
Conteggio duplicati in tempo reale
Un badge delle statistiche mostra `12 righe → 9 righe · 3 duplicati rimossi` mentre digiti. Sai sempre esattamente quante ripetizioni sono state collassate — nessuna incertezza sul fatto che lo strumento abbia davvero fatto qualcosa.
Dedupe + ordina in un unico passaggio
Attiva un ordine di ordinamento per ottenere una lista unica, in ordine alfabetico (o naturale, o per lunghezza) in un unico passaggio. La deduplicazione gira prima, poi l'ordinamento, così niente va perso e l'output è sia pulito sia ordinato.
Toggle di pulizia
Lo stesso pannello taglia anche gli spazi, elimina le righe vuote, inverte l'ordine e numera i risultati. Impila uno qualsiasi di essi sopra la deduplicazione e una lista incollata caotica diventa un output pulito, unico e pronto da incollare in un unico posto — senza scripting.
Privacy 100% nel browser
Il tuo testo non lascia mai la pagina — niente upload, niente logging, niente analytics. Sicuro per liste di email, log di accesso e dati confidenziali. Verificalo tu stesso nella scheda Network: la deduplicazione produce zero richieste.
Esempi di rimozione di righe duplicate
Rimuovi duplicati esatti
apple banana apple cherry banana
apple banana cherry
Il comportamento predefinito: ogni riga viene mantenuta una volta, alla sua prima apparizione, e le successive ripetizioni esatte vengono eliminate. L'ordine originale è preservato. Il badge delle statistiche riporta `5 righe → 3 righe · 2 duplicati rimossi`.
Ignora le maiuscole
Error error ERROR Warning
Error Warning
Con Distingui maiuscole/minuscole disattivato (il default), `Error`, `error` ed `ERROR` sono trattate come la stessa riga, quindi solo la prima viene mantenuta. Attiva Distingui maiuscole/minuscole per tenere tutte e tre come voci distinte.
Ignora gli spazi iniziali/finali
apple apple banana banana
apple banana
Attiva Ignora spazi iniziali/finali così `apple` e ` apple ` si confrontano come uguali. Questo cattura i duplicati invisibili che affliggono i dati copiati da fogli di calcolo, PDF e terminali dove lo spazio finale si intrufola.
Mantieni l'ultima occorrenza
v1 v2 v1 v3
v2 v1 v3
Passa Occorrenza da mantenere a Ultima e l'ultima apparizione di ogni riga sopravvive, nella sua ultima posizione. Qui il secondo `v1` viene mantenuto e il primo rimosso. Utile quando le voci successive sovrascrivono le precedenti, come variabili d'ambiente o override di configurazione.
Deduplica e ordina insieme
dog cat dog bird cat
bird cat dog
Attiva l'ordinamento crescente per ottenere una lista pulita, unica e in ordine alfabetico in un unico passaggio. La deduplicazione gira prima, poi l'ordinamento, quindi l'output è sia unico sia ordinato — ideale per trasformare una colonna incollata disordinata in un insieme ordinato.
Rimuovi righe vuote e duplicati
alpha beta alpha gamma
alpha beta gamma
Attiva Rimuovi righe vuote insieme alla deduplicazione per eliminare righe vuote e ripetizioni in una volta. Il badge delle statistiche separa i due: `6 righe → 3 righe · 1 duplicati rimossi · 2 vuote rimosse`.
Conta quanti duplicati esistono
a b a a c b
a b c
Anche se ti interessa solo il conteggio, la deduplicazione ti dà la risposta: il badge delle statistiche mostra `6 righe → 3 righe · 3 duplicati rimossi`. Un modo veloce per scoprire quanta ripetizione si nasconde in una lista senza contarla manualmente.
Unisci due liste in voci uniche
red green blue green yellow red
red green blue yellow
Incolla due liste una dopo l'altra e deduplica per ottenere l'unione — ogni riga distinta, nessuna ripetizione, ordine di prima apparizione preservato. Il modo più rapido per combinare mailing list, insiemi di tag o liste di ID senza una formula di foglio di calcolo.
Come rimuovere righe duplicate
- 1
Incolla o scrivi le tue righe
Metti il tuo testo nella casella di input. Ogni a capo è una riga separata. I duplicati vengono rimossi all'istante mentre digiti — non c'è un pulsante di invio. Un a capo finale viene ignorato così non conta come una riga vuota in più.
- 2
Scegli cosa conta come duplicato
Lascia Distingui maiuscole/minuscole disattivato per trattare `Foo` e `foo` come uguali, o attivalo per tenerli distinti. Attiva Ignora spazi iniziali/finali per catturare le righe che differiscono solo per spazi vaganti.
- 3
Scegli quale occorrenza mantenere
Occorrenza da mantenere è impostata su Prima per default, preservando l'ordine originale. Passa a Ultima quando l'ultima apparizione di ogni riga deve vincere — utile per gli override in cui le voci successive sostituiscono le precedenti.
- 4
Aggiungi ordinamento o pulizia se serve
Attiva un ordine di ordinamento per mettere in ordine alfabetico il risultato unico, o attiva Rimuovi righe vuote e Taglia ogni riga per sistemare la lista nello stesso passaggio. Il badge delle statistiche mostra l'effetto di ogni toggle.
- 5
Copia il risultato unico
Clicca Copia per mettere l'output deduplicato negli appunti. Usa Reimposta per pulire entrambe le caselle, o Esempio per caricare una lista di prova. Niente viene caricato in alcun momento del processo.
Errori comuni di deduplicazione
Gli spazi che nascondono i duplicati
Le righe che sembrano identiche ma differiscono per uno spazio finale o una tabulazione non sono duplicati esatti, quindi sopravvivono. Attiva Ignora spazi iniziali/finali per confrontare nella forma tagliata. È la sorpresa di deduplicazione singola più comune, specialmente con dati da fogli di calcolo e PDF.
Corrispondenza esatta ("apple " ≠ "apple"):
apple
apple ← spazio finale, mantenuta come unica
banana Ignora spazi: apple banana
Differenza di maiuscole trattata come unica
Con Distingui maiuscole/minuscole attivo, `Error` ed `error` sono righe diverse ed entrambe sopravvivono. Se le intendevi come uguali, disattiva Distingui maiuscole/minuscole (il default). Al contrario, disattivarlo quando il case è significativo può fondere righe che volevi tenere separate.
Distinzione di maiuscole attiva: Error error ERROR ← tutte e tre mantenute
Senza distinzione (predefinito): Error ← il resto si fonde
Aspettarsi che i duplicati non adiacenti restino
A differenza del `uniq` da riga di comando, questo strumento rimuove i duplicati ovunque nella lista, non solo quelli adiacenti — quindi non devi ordinare prima. Se in realtà volevi collassare solo le ripetizioni consecutive, questo strumento non fa al caso tuo; ordina o ristruttura i tuoi dati invece.
Assumendo il comportamento di uniq (solo adiacenti): a b a ← ci si aspetta che sopravviva, ma viene rimossa
Dedupe completo (questo strumento): a b ← la 'a' successiva viene rimossa ovunque appaia
Confondere la rimozione delle righe vuote con il dedupe
La deduplicazione collassa le righe vuote ripetute ma ne mantiene una; non elimina tutte le vuote. Per eliminare ogni riga vuota, attiva Rimuovi righe vuote. Il badge delle statistiche riporta i due conteggi separatamente così puoi capire se sono state rimosse righe vuote o veri duplicati.
Solo dedupe (una riga vuota mantenuta): alpha (vuota) beta
Dedupe + Rimuovi righe vuote: alpha beta
Rimuovi righe duplicate: casi d'uso
- Ripulire liste di email e contatti
- Incolla una mailing list esportata che ha accumulato ripetizioni e riottieni un insieme unico. Attiva la corrispondenza che ignora maiuscole e spazi così `Bob@x.com`, `bob@x.com` e `bob@x.com ` collassano tutti in un unico indirizzo.
- Ridurre i log a messaggi unici
- Deduplica un log rumoroso per vedere le righe distinte di errore o evento senza la ripetizione. Mantieni-ultimo è comodo quando l'occorrenza più recente di ogni messaggio conta più della prima.
- Trovare i valori unici in una colonna
- Copia una colonna da un CSV o foglio di calcolo, deduplicala, e l'output è l'insieme dei valori distinti — con un conteggio di quanti duplicati esistevano, che funge anche da rapido controllo di cardinalità. Ti permette anche di trovare righe duplicate ed eliminare righe duplicate da una colonna incollata senza una formula di foglio di calcolo.
- Unire liste senza ripetizioni
- Incolla due o più liste una dopo l'altra e deduplica per ottenere la loro unione: ogni riga distinta, nessuna ripetizione, in ordine di prima apparizione. Più veloce di una formula di foglio di calcolo per un'unione una tantum di tag, ID o nomi.
- Deduplicare wordlist di sicurezza
- Combina e ripulisci wordlist di password, liste di sottodomini o dizionari di fuzzing interamente offline. Poiché ogni operazione è locale, i dati di sicurezza confidenziali restano sulla tua macchina e non vengono mai inviati a un servizio esterno.
- Sistemare liste di import o dipendenze
- Rimuovi istruzioni import, nomi di pacchetti o voci di dipendenza duplicate che si sono insinuate durante il copia-incolla. Aggiungi un ordine di ordinamento per produrre una lista canonica e unica che mantiene piccoli i diff futuri.
- Preparare i dati per l'analisi
- Elimina le ripetizioni prima di contare, creare grafici o caricare i dati così i duplicati non distorcono i tuoi risultati. Abbina al contatore di parole per misurare la lista ripulita, o a Text Diff per confrontarla con un'altra versione.
- Deduplicare liste di parole chiave per la SEO
- Gli export di ricerca parole chiave sono pieni di quasi-duplicati. Rimuovi qui le ripetizioni esatte, facoltativamente in minuscolo e tagliate, per ottenere un insieme di parole chiave pulito e unico prima di raggrupparle o mapparle alle pagine.
Come funziona la deduplicazione
- Deduplicazione con hash set
- Le righe vengono deduplicate con un hash set (un `Set` o `Map` di JavaScript) indicizzato sulla forma di confronto di ogni riga, dando prestazioni in tempo lineare anche per liste grandi. La chiave di ogni riga è calcolata una volta e cercata in tempo costante.
- Normalizzazione della chiave di confronto
- La chiave usata per la corrispondenza è derivata dalla riga: prima tagliata se Ignora spazi iniziali/finali è attivo, poi messa in minuscolo se Distingui maiuscole/minuscole è disattivato. Ciò che compare nell'output è la riga originale — non la chiave normalizzata — quindi la capitalizzazione e la spaziatura dei superstiti sono preservate.
- Mantieni-primo vs mantieni-ultimo
- Mantieni-primo spinge una riga nel risultato la prima volta che la sua chiave viene vista e salta le ripetizioni successive. Mantieni-ultimo calcola l'indice finale di ogni chiave e mantiene solo la riga a quell'indice, così la copia superstite si posiziona nella sua ultima posizione mentre l'ordine complessivo segue ancora l'input.
- Divisione delle righe (CRLF / LF / CR)
- Le righe sono separate su qualunque convenzione di a capo — `\r\n` (Windows), `\n` (Unix) o `\r` (Mac classico) — così un input misto o incollato funziona senza problemi. Un a capo finale viene eliminato prima dell'elaborazione così un file che termina con un'interruzione di riga non registra un duplicato vuoto fantasma in fondo.
- Ordine deterministico della pipeline
- La pipeline gira in una sequenza fissa — taglio degli spazi, poi rimozione delle righe vuote, poi deduplicazione, poi qualunque ordinamento o mescolamento, poi inversione, poi numerazione delle righe. Poiché i duplicati vengono collassati prima del passo di ordinamento opzionale, attivare un ordine di ordinamento riordina l'insieme unico senza mai eliminare una riga distinta.
- Conteggi separati di duplicati e righe vuote
- Il badge delle statistiche tiene traccia dei duplicati rimossi e delle righe vuote rimosse in modo indipendente, calcolati come il delta del conteggio righe prima e dopo ogni stadio. Questo ti permette di vedere, per esempio, `1 duplicati rimossi · 2 vuote rimosse` anziché un unico numero combinato.
- Nel browser, nessun worker necessario
- Tutta la deduplicazione gira sul thread principale nel tuo browser senza andate e ritorni al server. Le liste tipiche si completano all'istante; poiché l'algoritmo è lineare e basato su set, le prestazioni scalano con grazia a input molto grandi senza bloccare la pagina.
Best practice per la deduplicazione
- Taglia gli spazi per catturare i duplicati nascosti
- Il motivo più comune per cui i duplicati sopravvivono è uno spazio finale invisibile. Quando deduplichi dati incollati da fogli di calcolo, PDF o terminali, attiva Ignora spazi iniziali/finali così le righe vengono confrontate nella loro forma tagliata. Se il conteggio dei duplicati rimossi è inferiore a quanto ti aspetti, di solito la ragione sono gli spazi.
- Decidi la distinzione di maiuscole con intenzione
- Per email, tag e liste leggibili dall'uomo, tieni Distingui maiuscole/minuscole disattivato così `Foo` e `foo` collassano. Attivalo solo per dati in cui il case è significativo, come identificatori o hash dove `A1B2` e `a1b2` sono valori genuinamente diversi. Scegliere male cambia silenziosamente quali righe sopravvivono.
- Usa mantieni-ultimo per la semantica di override
- Quando le voci successive dovrebbero vincere — override di configurazione, variabili d'ambiente, un log in cui conta lo stato più recente — passa Occorrenza da mantenere a Ultima. Per la pulizia generale di una lista dove l'ordine va preservato dall'alto, mantieni il default Prima.
- Deduplica prima di contare o analizzare
- Le ripetizioni distorcono conteggi, grafici e aggregati. Rimuovi prima i duplicati, poi misura. Il badge delle statistiche funge anche da rapido controllo di cardinalità: la differenza tra righe in entrata e righe in uscita ti dice quanta ripetizione portavano i dati.
- Ordina dopo aver deduplicato per una lista canonica
- Se ti serve una lista stabile e confrontabile — per un file di configurazione, un manifest o un diff — attiva un ordine di ordinamento insieme alla deduplicazione. Una lista unica e ordinata produce diff minimi ed è facile da confrontare con un'altra versione con Text Diff.
- Verifica con il conteggio in tempo reale prima di copiare
- Dai un'occhiata al badge delle statistiche prima di copiare. `12 righe → 9 righe · 3 duplicati rimossi` conferma che lo strumento ha fatto ciò che intendevi. Se i numeri sembrano sbagliati — zero rimossi quando ti aspettavi ripetizioni — rivedi le impostazioni di maiuscole e spazi.
Domande frequenti
Cosa fa questo strumento?
Mantiene la prima o l'ultima occorrenza di un duplicato?
Il mio testo viene caricato da qualche parte?
Come rimuovo i duplicati ma ignoro le maiuscole?
Perché le mie righe visivamente identiche non vengono deduplicate?
Rimuovere i duplicati cambia l'ordine delle mie righe?
Posso rimuovere i duplicati e ordinare allo stesso tempo?
Cosa succede alle righe vuote?
C'è un limite alla dimensione della lista?
Come si confronta con la riga di comando (sort -u, awk, uniq)?
Perché è più veloce che rimuovere righe duplicate in Excel o Notepad++?
Posso usarlo per trovare i valori unici in una colonna?
Strumenti correlati
Vedi tutti gli strumenti →Convertitore maiuscole-minuscole online
Elaborazione del testo
Converti testo tra UPPERCASE, lowercase, Title Case, camelCase, snake_case e altri 10 formati all'istante. Gratuito, solo browser, senza registrazione.
Generatore Lorem Ipsum — Testo Segnaposto
Elaborazione del testo
Genera testo segnaposto Lorem Ipsum all'istante — per paragrafo, frase, parola, byte o elenco. Copia o scarica come testo, HTML, Markdown o JSON. 100% gratis, privato, nel browser. Senza registrazione.
Tester Regex gratuito — Debug e match dei pattern online
Elaborazione del testo
Testa pattern regex all'istante su qualsiasi testo. Evidenziazione delle corrispondenze, gruppi di acquisizione, anteprima di sostituzione e split. Espressioni regolari in JavaScript, 100% private, senza registrazione.
Generatore di slug URL — crea slug da qualunque testo
Elaborazione del testo
Trasforma qualunque titolo in uno slug URL pulito e SEO-friendly all'istante. Translittera accenti e cirillico, o mantieni le lettere Unicode. 100% privato, nel browser.
Ordina righe di testo alfabeticamente e naturalmente
Elaborazione del testo
Ordina righe di testo in ordine alfabetico, numerico (naturale) o per lunghezza, crescente o decrescente. Strumento online gratuito, 100% nel browser. Rimuove anche i duplicati, inverte e pulisce le liste. Senza registrazione.
Confronta due testi — Diff
Elaborazione del testo
Confronta due testi all'istante nel browser. Vista affiancata, evidenziazione parola per parola, esportazione diff unificato, opzioni per ignorare maiuscole/spazi/righe vuote. 100 % browser — nessun upload.