魔改GPT自动写网文,速度一秒十字,还能给太监作品无限续更
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
如果一个人只看网文,那会写出来怎样的文字?
看了100G网文后,这个AI模型帮你试了一下。
先来一段自由创作:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s4.51cto.com/oss/202111/08/fd4f2c137bef9c1f4cebcbc2f89bbdff.jpg)
乍眼看去很有内味,而且基本是一秒十字甚至更快的生成速度,非常的amazing。
那再放一段经典网文故事高潮前的内容,让AI作家帮忙续一下?
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s2.51cto.com/oss/202111/08/919c2f3f736638fbd628815dbbbfad8b.jpg)
呃……不是“三十年河东,三十年河西,莫欺少年穷”,没内味儿啊!
这就是开发者亲切地称之为“人工智障写作”,由GPT魔改而成的模型AI-Writer:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s6.51cto.com/oss/202111/08/55e5e68f917bcfb09860b9edd40d0c79.jpg)
一秒十字,无限续写
这一模型拥有100M参数量,基于100G网络小说训练,没有采用任何其他素材。
因此,AI-Writer相当于是一位“只看网络小说”的创作者,不具备任何网文以外的常识,行文风格自然也就比较小白。
但好在阅书无数,一句同样的开头:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s5.51cto.com/oss/202111/08/23f80e2bb5e9c7b91ad21872a85d4c42.jpg)
就能生成风格迥异,走向不同的多个片段:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s4.51cto.com/oss/202111/08/1e926b21b34b58736df82a5f14f7f3e5.jpg)
也可以自定义每次的生成字数,像上面就是每次生成200字。
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s5.51cto.com/oss/202111/08/35d37496831bc0b9dcf1d9bafb971aba.jpg)
理论上可以无限生成文字,但时间长了也会陷入“不断重复某字或某片段”的循环之中。
生成文字速度受加速方式的影响,目前支持N卡、A卡、I卡、GPU加速,可以选择最适合自己设备的方式:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s4.51cto.com/oss/202111/08/521fe1c2eb6b9d7b0fcf0ccdf94ce394.jpg)
像开头展示的那段动图,生成速度甚至不止一秒十字,就是通过GPU加速的效果。
如果你觉得AI写的有点太过放飞自我,也可以设置生成文字的随机程度。
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s5.51cto.com/oss/202111/08/9e83f77b605f28e3b2352156188712a7.jpg)
要解释这里的文字生成随机性,就要说到AI-Writer所采用的一种特殊的采样方法:
- 对于段落开头
将Top-P设置为0.995,几乎完全按照输出的概率分布采样,增强行文变化
- 对于其他位置
先找到最高概率的字的概率P,然后移除所有概率小于 0.02×P2的字
这样,模型生成的每一个字都是一个概率分布,因此,上面的文字生成的随机程度,也就是文字生成时忽略小概率字的程度。
可以对比一下该值分别为0.01,0.1,0.9时的生成效果:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s5.51cto.com/oss/202111/08/0d889237359280058db94cec889e87fd.jpg)
当然,由于这是个只有100M参数的小模型,所以逻辑和阅读理解能力是较低的。
用开发者的话来说,就是“它是个纯智障,纯属娱乐”。
模型可直接试玩
不过,就算本着娱乐的目的,我们也来看看怎么做才让这个AI作者动笔。
在环境配置上,开发者表示,如果采用他通过C+AVX2写的纯CPU版本,就不需要Python和Pytorch,只要是2014年以后的CPU都能成功运行。
(作者已将这一版本上传至交流群)
而上述演示的动图则是在Python3.8和Pytorch1.10的环境配置下的Demo。
在环境配置完毕后,下载模型和Release文件,在模型文件中新建一个model文件夹,并将release文件解压放在model目录下。
这时你就可以运行python run.py,在终端快速生成文字:
(这里可以先安装一下DeepLearning环境)
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s2.51cto.com/oss/202111/08/41f71265d8f1af045bfdadfc1e6d814a.jpg)
文字可以一直自由生成下去,可以通过Ctrl+C来停止。
当然,由于这里是在2.3 GHz 双核Intel Core i5的Mac本上跑的,所以并没有达到10字/秒的生成速度。
也可以在网页中进行试玩,运行python server.py,并打开下载模型web-client文件夹中的index.html。
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s4.51cto.com/oss/202111/08/3dcf6609d8f9d9d024dc65bc4fff2fb1.jpg)
然后就可以打开网页,直接在对话框中输入开头,点击按钮进行续写了:
![魔改GPT自动写网文,速度一秒十字,还能给太监作品<span><span><span><i style=](https://s6.51cto.com/oss/202111/08/0325b90a773818b3dc290e684ef97124.jpg)
现在这个网页版已经初具模型,开发者希望能有更多的人参与进来,一起将现阶段的这个“人工智障”改进成对于创作者而言的实用工具,以及对于读者而言的娱乐方式。
下载链接:
https://github.com/BlinkDL/AI-Writer/releases
相关文章
- 微软正测试Windows 11新交互:可用鼠标滑轮快速调整音量
- Windows 11的emoji:并非之前承诺的3D版本
- 微软正开发新功能,Windows 11可直接通过任务栏调整音量
- 月底必须升级 否则就给弹窗 这些Windows 11系统即将过期
- AMD用户速速升级!Windows 11新版解决AMD性能问题
- 旧电脑安装不了Windows 11,试试Rufus3.16,顺利绕过TPM
- 月底必须升级 微软宣布开发版Windows 11系统即将过期
- 微软承认 Windows 11 Dev 存在影响性能的 Bug,正在测试修复补丁
- Windows 11出现另一个使PC变慢的错误 但修复即将到来
- 为什么Windows 11需要TPM 2.0?微软官方解读
- 微软 Windows 11 Build 22000.282 Beta/Release 预览版发布:修复 AMD CPU 性能下降问题
- Windows11正式推送:除了UI界面大变动,你可能还关心的3个问题
- Windows11正式推送:除了UI界面大变动,你可能还关心的三个问题
- 微软 Windows 11 正式版还有一个 Bug:不兼容 VirtualBox 虚拟机
- Windows 11 Bug汇总 微软祖传手艺
- 微软更改 Windows 11 Dev 最新预览版有效期,延长到 2022 年 9 月 15 日
- 微软 Windows 11 正在测试更新堆栈包,将在主要操作系统之外发布升级体验
- 微软 Windows 11 Dev 预览版 22478 发布:全新 Fluent 流畅表情符号,大量变化和修复
- 旧设备为何不能升Windows 11?安全是很重要的一点
- 2000万美国人没有高速宽带 微软详解Windows 11更新技术:容量减少40%