Проверка полноты передачи данных

Сравнить исходную выгрузку и результат импорта по ключам, агрегатам и контрольным суммам.

Рабочая область

Сравнить исходную выгрузку и результат импорта по ключам, агрегатам и контрольным суммам.

Обработка на устройстве. Файлы и значения полей не отправляются в аналитику. Ctrl/Cmd + Enter — запуск.

Загрузка локальной обработки…

Настройки и локальный проект

Рецепт настроек не содержит исходных файлов. Проект очереди содержит проверяемые записи: храните его на своём устройстве. Автоматического сохранения нет.

Метод и ограничения выбранного режима

Сравниваются ключи и значения, число строк и заданные числовые агрегаты. Для общих полей вычисляется SHA-256 канонического отсортированного набора строк, без потери повторов. Совпадение хеша относится к представленным данным, а не отсутствующим исходникам.

Точные ключи сохраняют текстовые ID и ведущие нули. Пустые ключи требуют проверки. Нечёткие алгоритмы — до 200 000 пар / 5000 кандидатов с ручным подтверждением; оценка сходства не является вероятностью. ISO-время требует явной зоны. Никакие внешние системы не изменяются.

Методика и примеры

Проверка полноты передачи данных

Сравниваются ключи и значения, число строк и заданные числовые агрегаты. Для общих полей вычисляется SHA-256 канонического отсортированного набора строк, без потери повторов. Совпадение хеша относится к представленным данным, а не отсутствующим исходникам.

Ограничения

Точные ключи сохраняют текстовые ID и ведущие нули. Пустые ключи требуют проверки. Нечёткие алгоритмы — до 200 000 пар / 5000 кандидатов с ручным подтверждением; оценка сходства не является вероятностью. ISO-время требует явной зоны. Никакие внешние системы не изменяются.

Проверяемый пример

Входные данные примера
id;name;amount
1;Анна;10
2;Борис;20
4;Глеб;40
СтатусКлючСтрока AСтрока BПолеЗначение AЗначение B
изменена122nameАннаАня
удалена23["2","Борис","20"]
добавлена33["3","Вера","30"]

Источники метода

Следующая задача