2023-11-17 11:15:23 发布人:hao333 阅读( 5599)
钛媒体App 11月14日消息,李开复旗下AI企业零一万物开源大模型被指责完全使用LLaMA的架构,只对两个张量名称进行修改。对此,零一万物表示:GPT是一个业...
钛媒体App 11月14日消息,李开复旗下AI企业零一万物开源大模型被指责完全使用LLaMA的架构,只对两个张量名称进行修改。对此,零一万物表示:GPT是一个业内公认的成熟架构,Llama在GPT上做了总结。零一万物研发大模型的结构设计基于GPT成熟结构,借鉴了行业顶尖水平的公开成果,由于大模型技术发展还在非常初期,与行业主流保持一致的结构,更有利于整体的适配与未来的迭代。同时零一万物团队对模型和训练的理解做了大量工作,也在持续探索模型结构层面本质上的突破。零一万物也表示,在大量训练实验过程中,由于实验执行需求对代码做了更名,将尊重开源社区的反馈,将代码进行更新,也更好的融入 Transformer 生态。
相关阅读
RelatedReading猜你喜欢
Guessyoulike