Transformer-XL-Chinese终极中文文本生成神器让AI轻松创作小说与古诗【免费下载链接】transformer-xl-chinesetransformer xl在中文文本生成上的尝试可写小说、古诗transformer xl for text generation of chinese项目地址: https://gitcode.com/gh_mirrors/tr/transformer-xl-chineseTransformer-XL-Chinese是一款基于Transformer XL架构的中文文本生成工具专为中文小说和古诗创作设计。它能够利用先进的AI技术帮助用户快速生成高质量的中文文本内容无论是跌宕起伏的小说情节还是韵味十足的古典诗词都能轻松实现。 强大的文本生成能力 小说创作该工具在小说生成方面表现出色能够续写经典作品。以《斗破苍穹》为例生成的内容情节连贯人物对话符合原作风格萧炎对这威胁之话还是感到陌生若非他灵魂力量同样不弱的话恐怕早就忍不住的出手了。 “呵呵小家伙既然你已经晋入了斗宗层次那我也不再有半点留手你体内的那种能量应该也是处于天境后期吧”萧炎一笑在提醒了一声后便是再度闭目养神。 听得萧炎这话一旁的薰儿眼眸也是微微眯了起来她知道萧炎体内有着一个古怪的内院存在如今好不容易得到异火却是根本就没有半点的可信性。 古诗创作在古诗生成方面Transformer-XL-Chinese同样展现出卓越的能力生成的诗句格律工整意境优美一身走四海万事付悠悠。贫病不相弃饥寒难自谋。风霜欺病骨烟雨暗归愁。近日思归梦空台南望留。 天涯望不极此夜又秋残。此处谁同赏从来恨独难。月明风正凛霜冷夜应寒。独倚栏干思清光几处看。 核心技术与改进Transformer-XL-Chinese基于https://github.com/kimiyoung/transformer-xl开发主要进行了以下改进增加了inference部分主要在tf/train_gpu.py中增加了inference函数以及相应函数的改变。增加了可视化每一层attention以及查看每个结果候选词的代码在tf/visualize_attention.py中。模型里面增加了inference见tf/model.py中的函数。 Attention可视化通过工具提供的可视化功能可以直观地看到模型在生成文本时的注意力分布情况这有助于理解模型的工作原理和优化模型性能。 快速开始 环境要求python3tf 1.12.0 安装步骤克隆仓库git clone https://gitcode.com/gh_mirrors/tr/transformer-xl-chinese 使用方法以小说训练为例其他同理古诗对应shi_base_gpu日常话题对应zhihu_base_gpu在 tf 目录下执行先进行数据准备具体参数设置在doupo_base_gpu中调节bash scripts/doupo_base_gpu.sh train_data训练bash scripts/doupo_base_gpu.sh traininferencebash scripts/doupo_base_gpu.sh inference注意在inference的时候记得修改tf/train_gpu.py中第504行改成你想inference的数据集名字 引入新的训练数据训练针对中文若要训练英文直接用tf下的tf/old_vocabulary.py替换tf/vocabulary.py首先在data目录下建立新的文件夹名字随意然后将训练数据重命名为train.txt和valid.txt。在tf/scripts目录下建立新的bash脚本名字随意内容可以先复制已存在的脚本然后将路径名更改成上一步新建的路径并修改其他相应的名字。在tf下执行bash scripts/[新的bash脚本名字] train_data再执行 bash scripts/[新的bash脚本名字] train 进行训练最后执行 bash scripts/[新的bash脚本名字] inference 进行测试。 可视化每个head每个layer的attention在tf/train_gpu.py里inference函数中对应的位置打了todo标记默认是head 10个 layer 16若不同自行修改tf/visualize_attention.py中的对应部分。【免费下载链接】transformer-xl-chinesetransformer xl在中文文本生成上的尝试可写小说、古诗transformer xl for text generation of chinese项目地址: https://gitcode.com/gh_mirrors/tr/transformer-xl-chinese创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考