开发者将微型Transformer模型塞入软盘
开发者WollyMonjac推出Tiny 2.1,将采用Transformer架构的微型问答模型压缩至约380KB并放入软盘,使运行DOS的486DX和Pentium老电脑能够使用AI问答功能,同时提供训练数据扩展方式。
驱动中国11月22日消息,开发者WollyMonjac完成一项把语言模型装入软盘的工作,使运行DOS系统的486DX和Pentium老电脑能够使用AI。相关软件Tiny 2.1并非大型语言模型,而是采用Transformer架构的微型问答模型。
Tiny 2.1使用Turbo C 2.0编写,定位为问答Transformer模型。在486电脑时代,普通PC格式化软盘容量不足147.5万字节,现代AI软件难以在有限空间内运行。Tiny 2.1通过压缩模型体积完成部署,参数量为36.7万个,网络结构为4层,隐藏维度为96,并按逐字母方式读取和生成内容。
模型权重采用8位量化,每行使用一个缩放系数,模型总大小约380KB。训练数据约3500条事实信息,每条信息采用多种不同问法训练。老式PC运行Tiny 2.1时,系统需要约540KB可用常规内存。
软件界面包含对话历史窗口、神经网络监控面板和Ask Tiny输入窗口,并保留DOS软件常见的F键快捷操作。通过PC内置扬声器以机器人语音朗读模型生成回答,是该项目带有复古未来主义特征的功能之一。
GitHub项目页面显示,该软件由Fable 5.2编写,并由Opus 5.5训练。WollyMonjac以玩笑方式承认,除训练数据涉及的知识外,该语言模型会非常自信地编造内容。近几个月,外界对大型语言模型幻觉问题的讨论有所减少,而这一能力在复古AI项目中呈现为一种功能表现。
若使用者认为Tiny 2.1知识储备不足,WollyMonjac在采用MIT许可证发布的软件包中提供专门训练文件夹,使用者可自行补充训练数据,构建面向特定领域的问答Transformer模型。
让老软件运行在新硬件上已不困难,让现代软件和游戏运行在几十年前的老硬件上,也逐步成为开发方向。除Tiny 2.1外,已有开发者为DOS系统制作ChatGPT客户端,使1984年推出的IBM PC能够使用ChatGPT;也有项目让《我的世界》在Game Boy上运行;还有开发者利用生成式AI为Commodore 64生成8×8像素精灵图,或将《毁灭战士》移植到Atari ST电脑。
相关项目实用价值有限,但展示了开发者突破老旧硬件性能和存储限制的方式,也使现代技术与经典计算设备产生结合。