Поиск дублей title и H1

Найти точные и близкие совпадения в выгрузке, разделить шаблонные и содержательные части.

Рабочая область

Обработка на устройстве. Файлы и текст не отправляются в аналитику. Ctrl/Cmd+Enter — запуск.

Загрузка локальной обработки…

Настройки

Настройки содержат параметры, без исходных файлов. Автоматического сохранения нет.

Метод и ограничения

Снимает только заданные шаблонные фрагменты, затем проверяет точное равенство и Jaccard слов. Результат — очередь редакторских кандидатов, а не команда объединения.

Локальная обработка: до2 млн символов или20 000 записей на источник; до50 000 строк результата. Тяжёлые операции имеют отдельные ограничения и отмену. Измеренный спрос и внешние данные не подставляются.

Методика и примеры

Поиск дублей title и H1

Снимает только заданные шаблонные фрагменты, затем проверяет точное равенство и Jaccard слов. Результат — очередь редакторских кандидатов, а не команда объединения.

Входные данные примера

Основной источник

[
  {
    "url": "https://example.test/a/",
    "title": "Сравнение таблиц — Бренд",
    "h1": "Сравнение таблиц"
  },
  {
    "url": "https://example.test/b/",
    "title": "Сравнение таблиц — Бренд",
    "h1": "Сравнить таблицы"
  },
  {
    "url": "https://example.test/c/",
    "title": "Раскрой листа — Бренд",
    "h1": "Раскрой листа"
  }
]

Результат примера

Строка AСтрока BURL AURL BСходствоТипAB
12https://example.test/a/https://example.test/b/1точное после нормализацииСравнение таблиц — БрендСравнение таблиц — Бренд

Показано строк: 1 из 1.

Локальная обработка: до2 млн символов или20 000 записей на источник; до50 000 строк результата. Тяжёлые операции имеют отдельные ограничения и отмену. Измеренный спрос и внешние данные не подставляются.

Источники метода

Следующая задача