Comments (9)
吃的显存应该和训练数据中的最长句子的长度相关,对10g显存来说,一般支持长度200的句子
from flat-lattice-transformer.
这么吃显存吗? 8万条训练数据16g就跑不动了
是的,max_len=100, batch_size=32; 大约占9G, 6层6 * 100 dim的Transformer和BERT一样大:)
from flat-lattice-transformer.
吃的显存应该和训练数据中的最长句子的长度相关,对10g显存来说,一般支持长度200的句子
这么吃显存吗? 8万条训练数据16g就跑不动了
是的,max_len=100, batch_size=32; 大约占9G, 6层6 * 100 dim的Transformer和BERT一样大:)
请问您如何在源码中设置batch_size,为什么无论我怎样缩减batch_size,都是爆显存
from flat-lattice-transformer.
吃的显存应该和训练数据中的最长句子的长度相关,对10g显存来说,一般支持长度200的句子
这么吃显存吗? 8万条训练数据16g就跑不动了
是的,max_len=100, batch_size=32; 大约占9G, 6层6 * 100 dim的Transformer和BERT一样大:)
请问您如何在源码中设置batch_size,为什么无论我怎样缩减batch_size,都是爆显存
请问你的数据中的原句最大长度是多少?
from flat-lattice-transformer.
吃的显存应该和训练数据中的最长句子的长度相关,对10g显存来说,一般支持长度200的句子
这么吃显存吗? 8万条训练数据16g就跑不动了
是的,max_len=100, batch_size=32; 大约占9G, 6层6 * 100 dim的Transformer和BERT一样大:)
请问您如何在源码中设置batch_size,为什么无论我怎样缩减batch_size,都是爆显存
请问你的数据中的原句最大长度是多少?
700左右
from flat-lattice-transformer.
吃的显存应该和训练数据中的最长句子的长度相关,对10g显存来说,一般支持长度200的句子
这么吃显存吗? 8万条训练数据16g就跑不动了
是的,max_len=100, batch_size=32; 大约占9G, 6层6 * 100 dim的Transformer和BERT一样大:)
请问您如何在源码中设置batch_size,为什么无论我怎样缩减batch_size,都是爆显存
请问你的数据中的原句最大长度是多少?
parser.add_argument('--train_clip', default=True, help='是不是要把train的char长度限制在200以内') 但是已经限制200参数已经改为True,仍然显存不足
from flat-lattice-transformer.
我1080ti,长度200,batch可以10
from flat-lattice-transformer.
吃的显存应该和训练数据中的最长句子的长度相关,对10g显存来说,一般支持长度200的句子
这么吃显存吗? 8万条训练数据16g就跑不动了
是的,max_len=100, batch_size=32; 大约占9G, 6层6 * 100 dim的Transformer和BERT一样大:)
请问您如何在源码中设置batch_size,为什么无论我怎样缩减batch_size,都是爆显存
这里有:
Flat-Lattice-Transformer/V0/flat_main.py
Line 73 in 5dc2b26
from flat-lattice-transformer.
请问作者,这里的200指的是words+character的总长度吗?
from flat-lattice-transformer.
Related Issues (20)
- 请问一下大佬,这个模型可以进行多任务学习吗?我看很多论文多任务学习都是基于BiLSTM-CRF模型框架的? HOT 1
- 请问针对自己的数据,如何挖掘得到相应数据的词典数据lexicon? HOT 2
- 请问, V1/flat_main.py 里 datasets['train'].apply 的作用是什么? 为什么不是apply( ) ? HOT 2
- transformer的残差add 貌似错误 HOT 1
- 请问可以分享下词典为lk时,复现结果的参数吗?
- 仿照msar训练自己的数据集出现的问题 HOT 1
- 预训练问题
- 使用自定义数据集,训练过程SpanFPreRecMetric各项指标值均为0该如何解决 HOT 2
- report的实验结果是best result还是average? HOT 2
- 读取vocab文件时编码问题
- 载入数据问题:load_msra_ner_without_dev HOT 3
- 官方提供的数据集是不是不全呀? HOT 3
- flat_main.py为什么把测试集直接赋值给了验证集了呢 HOT 1
- 请问该模型能用于生产嘛?感觉模型太大,无法部署
- `LSTM_SeqLabel_True( )`从头到尾没见定义过,咋用?????????????
- 请问参数pos_norm的含义是什么呀?
- 在自己的数据上出现错误
- 吐了
- FileNotFoundError: [Errno 2] No such file or directory: HOT 4
- 数据集提问 HOT 1
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from flat-lattice-transformer.