gpt-2 代码不适用于tensorflow==1.12.0

jhkqcmku  于 7个月前  发布在  其他
关注(0)|答案(9)|浏览(186)

我用tensorflow==1.12.0创建了一个虚拟环境来运行这段代码,就像初学者指南中提到的那样。但是,程序在tf 1.12上抛出错误。但是,它在tf 1.14上工作正常。请更新初学者指南。

dphi5xsq

dphi5xsq1#

我使用Docker容器,也可以确认这一点。tf 1.14工作,tf 1.12不工作。

velaa5lx

velaa5lx2#

我从tensorflow:1.12.0创建了一个带有Dockerfile.gpu的Docker容器。
当我尝试同时运行条件脚本和无条件脚本时,我得到以下错误:

Traceback (most recent call last):
  File "src/generate_unconditional_samples.py", line 79, in <module>
    fire.Fire(sample_model)
  File "/usr/local/lib/python3.5/dist-packages/fire/core.py", line 138, in Fire
    component_trace = _Fire(component, args, parsed_flag_args, context, name)
  File "/usr/local/lib/python3.5/dist-packages/fire/core.py", line 471, in _Fire
    target=component.__name__)
  File "/usr/local/lib/python3.5/dist-packages/fire/core.py", line 675, in _CallAndUpdateTrace
    component = fn(*varargs, **kwargs)
  File "src/generate_unconditional_samples.py", line 62, in sample_model
    temperature=temperature, top_k=top_k, top_p=top_p
  File "/gpt-2/src/sample.py", line 74, in sample_sequence
    past, prev, output = body(None, context, context)
  File "/gpt-2/src/sample.py", line 66, in body
    logits = top_p_logits(logits, p=top_p)
  File "/gpt-2/src/sample.py", line 28, in top_p_logits
    sorted_logits = tf.sort(logits, direction='DESCENDING', axis=-1)
AttributeError: module 'tensorflow' has no attribute 'sort'

这看起来像是你得到的错误吗?
我会尝试更新TensorFlow

w8biq8rn

w8biq8rn3#

@TomerZeitune:在容器中升级Tensorflow后重试:pip install --upgrade tensorflow==1.14

u7up0aaq

u7up0aaq4#

可以确认将TensorFlow从版本1.12.0升级到版本1.14.0解决了这个问题。

bfnvny8b

bfnvny8b5#

我们发现它也适用于tensorflow 1.13.2。
对于任何使用Google Colab和CUDA加速的人,我使用1.13.2的原因是1.12不适用于Colab的CUDA版本。如果1.14也可以,我想我会尝试。但我已经确定,如果你使用的是开启GPU/CUDA的Colab,1.13.2-gpu适用于这个版本的GPT-2。

ltskdhd1

ltskdhd16#

它看起来像1.2和1.3不再可用,使用pip安装任何一个版本都会导致未找到错误,使用1.4+可以正常工作

w80xi6nr

w80xi6nr7#

支持Tensorflow 1.12的最新Python版本是Python 3.6.3.7,之后的版本不支持1.12。

pgpifvop

pgpifvop8#

我们发现它也适用于tensorflow 1.13.2。
对于任何使用Google Colab和CUDA加速的人,我使用1.13.2的原因是1.12不适用于Colab的CUDA版本。如果1.14也可以,我想我会尝试。但我已经确定,如果你使用的是开启GPU/CUDA的Colab,1.13.2-gpu适用于这个版本的GPT-2。
是的,可以确认。TF 1.13.2适用于这个仓库。这里有一个链接到一个工作(截至撰写本文时)的colab笔记本:https://colab.research.google.com/drive/1VgkQvRyE6rK7bxQO1VdPy57uBc9KI4Iu?usp=sharing

jxct1oxe

jxct1oxe9#

也可以确认. tensorflow 1.14.0 with python 3.6 is working

相关问题