国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

pytorch梯度剪裁方式

2020-02-15 21:25:06
字體:
來源:轉載
供稿:網友

我就廢話不多說,看例子吧!

import torch.nn as nnoutputs = model(data)loss= loss_fn(outputs, target)optimizer.zero_grad()loss.backward()nn.utils.clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2)optimizer.step()

nn.utils.clip_grad_norm_ 的參數:

parameters – 一個基于變量的迭代器,會進行梯度歸一化

max_norm – 梯度的最大范數

norm_type – 規定范數的類型,默認為L2

以上這篇pytorch梯度剪裁方式就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持武林站長站。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 元江| 林西县| 马鞍山市| 玛纳斯县| 台北市| 台东市| 广西| 遂川县| 桑植县| 民县| 藁城市| 彭泽县| 沾化县| 松江区| 阳朔县| 临洮县| 泾川县| 游戏| 中方县| 建昌县| 日土县| 大余县| 阿荣旗| 乐业县| 达孜县| 山阴县| 清丰县| 嘉黎县| 阳朔县| 鲁山县| 益阳市| 永泰县| 靖宇县| 石泉县| 二连浩特市| 托里县| 嵊泗县| 桑植县| 抚州市| 奉贤区| 张家川|