i try run this command
python run_pretraining.py
--input_file=/tmp/tf_examples.tfrecord
--output_dir=/tmp/pretraining_output
--do_train=True
--do_eval=True
--bert_config_file=$BERT_BASE_DIR/bert_config.json
--init_checkpoint=$BERT_BASE_DIR/bert_model.ckpt
--train_batch_size=32
--max_seq_length=128
--max_predictions_per_seq=20
--num_train_steps=20
--num_warmup_steps=10
--learning_rate=2e-5
i have already downloaded uncased_L-12_H-768_A-12_2.zip have .json and .ckpt files, but not have tf_examples.tfrecord
Thank you ..
1条答案
按热度按时间ibrsph3r1#
tf_examples.tfrecord文件需要使用此脚本创建,即create_pretraining_data.py。要使用此脚本,您需要根据betold格式准备文本文件。