Поиск повторяющихся абзацев в наборе текстов

Найти точные и близкие повторы в локальных файлах, показать группы и степень сходства.

Рабочая область

Найти точные и близкие повторы в локальных файлах, показать группы и степень сходства.

Обработка на устройстве. Файлы и значения полей не отправляются в аналитику. Ctrl/Cmd + Enter — запуск.

Загрузка локальной обработки…

Настройки и локальный проект

Рецепт настроек не содержит исходных файлов. Проект очереди содержит проверяемые записи: храните его на своём устройстве. Автоматического сохранения нет.

Метод и ограничения выбранного режима

Абзацы разных локальных текстов сравниваются по точной нормализованной строке и Jaccard множеств токенов. Порог и регистр задаются явно. Похожие абзацы показываются вместе, автоматического удаления или вывода о заимствовании нет.

До 2 млн символов на источник; регулярные правила имеют таймаут и отмену. Поддерживаемые форматы и правила показаны на странице. Наборы правил не заменяют лингвистическую, юридическую или предметную проверку. Файлы и тексты не отправляются на сервер.

Методика и примеры

Поиск повторяющихся абзацев в наборе текстов

Абзацы разных локальных текстов сравниваются по точной нормализованной строке и Jaccard множеств токенов. Порог и регистр задаются явно. Похожие абзацы показываются вместе, автоматического удаления или вывода о заимствовании нет.

Ограничения

До 2 млн символов на источник; регулярные правила имеют таймаут и отмену. Поддерживаемые форматы и правила показаны на странице. Наборы правил не заменяют лингвистическую, юридическую или предметную проверку. Файлы и тексты не отправляются на сервер.

Проверяемый пример

Входные данные примера
Первый общий абзац.

Другой абзац.
Файл AАбзац AФайл BАбзац BСходство, %МетодТекст AТекст B
A1B1100точный нормализованныйПервый общий абзац.Первый общий абзац.

Источники метода

Следующая задача