Как рассчитать немасштабированный градиент тензора в PyTorch?

Kak Rasscitat Nemasstabirovannyj Gradient Tenzora V Pytorch



Отдельные записи данных сохраняются в виде « Тензоры » в PyTorch и « градиенты тензоров рассчитываются с использованием обратного распространения в цикле обучения модели глубокого обучения. Термин ' немасштабированный означает, что данные необработанные и не требуют предварительной обработки или оптимизации. Немасштабированный градиент тензора обеспечивает истинное значение изменения указанной функции потерь.

В этом блоге мы обсудим, как рассчитать немасштабированный градиент тензора в PyTorch.







Что такое немасштабированный градиент тензора в PyTorch?

Тензоры — это многомерные массивы, которые содержат данные и могут работать на графических процессорах в PyTorch. Тензоры, которые содержат необработанные данные из набора данных без какой-либо предварительной обработки, преобразований или оптимизации, называются немасштабированными тензорами. Однако « Немасштабированный градиент отличается от немасштабированного тензора, и необходимо соблюдать осторожность, чтобы не перепутать их. Немасштабированный градиент тензора рассчитывается относительно выбранной функции потерь и не требует каких-либо дальнейших оптимизаций или масштабирования.



Как рассчитать немасштабированный градиент тензора в PyTorch?

Немасштабированный градиент тензора — это фактическое значение скорости изменения входных данных, касающихся выбранной функции потерь. Необработанные данные градиента важны для понимания поведения модели и ее развития во время цикла обучения.



Следуйте инструкциям ниже, чтобы узнать, как рассчитать немасштабированный градиент тензора в PyTorch:





Шаг 1. Начните проект с настройки IDE.

Google Colaboratory IDE — один из лучших вариантов для разработки проектов PyTorch, поскольку он обеспечивает бесплатный доступ к графическим процессорам для более быстрой обработки. Иди в Колаб Веб-сайт и нажмите на кнопку « Новый блокнот Вариант начала работы:



Шаг 2. Импортируйте необходимую библиотеку Torch.

Вся функциональность платформы PyTorch содержится в « Факел » библиотека. Каждый проект PyTorch начинается с установки и импорта этой библиотеки:

!pip установить факел

импортный фонарь

Приведенный выше код работает следующим образом:

  • «! пункт » — установочный пакет Python, используемый для установки библиотек в проектах.
  • « Импортировать Команда используется для вызова установленных библиотек в проект.
  • Этому проекту нужен только функционал « факел » библиотека:

Шаг 3. Определите тензор PyTorch с градиентом

Использовать ' факел.тензор ()” метод для определения тензора с градиентом “ require_grad = Истина » метод:

A = torch.tensor([5.0], require_grad=True)

Шаг 4. Определите простую функцию потерь

Функция потерь определяется с помощью простого арифметического уравнения, как показано:

функция_потери = A*5

Шаг 5. Рассчитайте градиент и распечатайте его на выходе

Использовать ' назад ()» для расчета немасштабированного градиента, как показано:

loss_function.backward()

unscaled_grad = А.град

print('Немасштабированный градиент PyTorch Tensor: ', unscaled_grad)

Приведенный выше код работает следующим образом:

  • Использовать ' назад ()» для расчета немасштабированного градиента посредством обратного распространения.
  • Назначьте « А.град » к « unscaled_grad ' переменная.
  • Наконец, используйте « Распечатать ()» для демонстрации вывода немасштабированного градиента:

Примечание : Вы можете получить доступ к нашему блокноту Colab по этому адресу. связь .

Профессиональный совет

Немасштабированный градиент тензоров может показать точную связь входных данных с функцией потерь для нейронной сети в рамках PyTorch. Необработанный неотредактированный градиент показывает, как оба значения систематически связаны.

Успех! Мы только что показали, как рассчитать немасштабированный градиент тензора в PyTorch.

Заключение

Вычислите немасштабированный градиент тензора в PyTorch, сначала определив тензор, а затем используя метод Back(), чтобы найти градиент. Это показывает, как модель глубокого обучения связывает входные данные с определенной функцией потерь. В этом блоге мы предоставили пошаговое руководство о том, как вычислить немасштабированный градиент тензора в PyTorch.