我有一个Python脚本,该脚本使用UTF-8编码写一些字符串。在我的脚本中,我主要使用str()
函数转换为字符串。看起来像这样:
mystring="this is unicode string:"+japanesevalues[1]
#japanesevalues is a list of unicode values, I am sure it is unicode
print mystring
我不使用Python终端,仅使用标准的Linux Red Hat x86_64终端。我将终端设置为输出utf8字符。
如果我执行此操作:
#python myscript.py
this is unicode string: カラダーズ ソフィー
但是,如果我这样做:
#python myscript.py > output
我遇到了典型的错误:
UnicodeEncodeError: 'ascii' codec can't encode characters in position 253-254: ordinal not in range(128)
这是为什么?
最佳答案
终端具有一个字符集,Python知道该字符集是什么,因此它将自动将您的Unicode字符串解码为终端使用的字节编码(在您的情况下为UTF-8)。
但是,当您重定向时,您将不再使用终端。您现在仅使用Unix管道。该Unix管道没有字符集,Python无法知道您现在想要哪种编码,因此它将退回到默认字符集。
您已经用“Python-3.x”标记了问题,但是print
语法是Python 2,因此我怀疑您实际上是在使用Python2。然后,您的sys.getdefaultencoding()
通常是'ascii'
,在您的情况下肯定是这样。当然,您不能将日语字符编码为ASCII,因此会出现错误。
使用Python 2时,最好的选择是在打印字符串之前先用UTF-8对其进行编码。然后重定向将起作用,并且生成的文件为UTF-8。不过,这意味着如果您的终端不是其他终端,它将无法正常工作,但是您可以从sys.stdout.encoding
获取终端编码并使用该编码(在Python 2下重定向时为None)。
在Python 3中,您的代码应按原样工作,除了需要将print mystring
更改为print(mystring)
。
关于python - 了解Python Unicode和Linux终端,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/17419126/