开发者将微型Transformer模型塞入软盘

AI 驱动中国 程青 1,045次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

开发者WollyMonjac推出Tiny 2.1,将采用Transformer架构的微型问答模型压缩至约380KB并放入软盘,使运行DOS的486DX和Pentium老电脑能够使用AI问答功能,同时提供训练数据扩展方式。

驱动中国11月22日消息,开发者WollyMonjac完成一项把语言模型装入软盘的工作,使运行DOS系统的486DX和Pentium老电脑能够使用AI。相关软件Tiny 2.1并非大型语言模型,而是采用Transformer架构的微型问答模型。

Tiny 2.1使用Turbo C 2.0编写,定位为问答Transformer模型。在486电脑时代,普通PC格式化软盘容量不足147.5万字节,现代AI软件难以在有限空间内运行。Tiny 2.1通过压缩模型体积完成部署,参数量为36.7万个,网络结构为4层,隐藏维度为96,并按逐字母方式读取和生成内容。

模型权重采用8位量化,每行使用一个缩放系数,模型总大小约380KB。训练数据约3500条事实信息,每条信息采用多种不同问法训练。老式PC运行Tiny 2.1时,系统需要约540KB可用常规内存。

软件界面包含对话历史窗口、神经网络监控面板和Ask Tiny输入窗口,并保留DOS软件常见的F键快捷操作。通过PC内置扬声器以机器人语音朗读模型生成回答,是该项目带有复古未来主义特征的功能之一。

GitHub项目页面显示,该软件由Fable 5.2编写,并由Opus 5.5训练。WollyMonjac以玩笑方式承认,除训练数据涉及的知识外,该语言模型会非常自信地编造内容。近几个月,外界对大型语言模型幻觉问题的讨论有所减少,而这一能力在复古AI项目中呈现为一种功能表现。

若使用者认为Tiny 2.1知识储备不足,WollyMonjac在采用MIT许可证发布的软件包中提供专门训练文件夹,使用者可自行补充训练数据,构建面向特定领域的问答Transformer模型。

让老软件运行在新硬件上已不困难,让现代软件和游戏运行在几十年前的老硬件上,也逐步成为开发方向。除Tiny 2.1外,已有开发者为DOS系统制作ChatGPT客户端,使1984年推出的IBM PC能够使用ChatGPT;也有项目让《我的世界》在Game Boy上运行;还有开发者利用生成式AI为Commodore 64生成8×8像素精灵图,或将《毁灭战士》移植到Atari ST电脑。

相关项目实用价值有限,但展示了开发者突破老旧硬件性能和存储限制的方式,也使现代技术与经典计算设备产生结合。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/530478.html
本文价值 ★★★★★ 3 3 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友