Просмотр датафреймов

DVT позволяет посмотреть датафреймы после исполнения выбранной ноды.

Это можно сделать кливнув правой кнопкой мыши по нужной ноде и выбрав пункт меню «Показать датафреймы».

Обратите внимание, показ датафреймов (3) возможен только при условии включения кэширования для выбранной ноды (переключатель «Кэширование» в контекстном меню ноды (1)) и выполнен проект до выбранной ноды (2), в которой необходимо просмотреть датафреймы.

В результате вы получите таблицу с визуальным выводом первых 1000 строк:

В данной таблице можно:

  • Увидеть количество строк в таблице;

  • Сортировать данные;

  • Растягивать по ширине;

  • Все содержимое датафрейма можно выгрузить в CSV-файл (разделитель «запятая»).

Что означает ограничение 1000 строк

Окно показывает первые 1000 строк вычисленного результата. Это ограничение отображения: оно не означает, что нода прочитала только 1000 строк из источника. Сохранённый результат может быть больше; для выгрузки всего содержимого используйте экспорт в CSV.

Выборка до 1000 строк при автоматическом расчёте партиций — другая операция: она служит для оценки размера строки. При подготовке метаданных Dask используется максимум одна строка, а отдельный режим получения метаданных имеет собственный механизм. См. служебные запросы.

Если данные для просмотра отсутствуют, проверьте переключатель кэширования выбранной ноды, выполнение проекта до неё и срок хранения результата. После истечения TTL выполните проект до нужной ноды повторно. Настройки описаны в разделе «Кэш и повторные запуски».