产业变革

NaiveAI发布称由AI参与构建的开放权重模型

发布日期
来源
NaiveAI技术博客

摘要

AI初创公司NaiveAI发布了面向编程与AI研发的开放权重模型Naive-N0.5-Flash。该模型为总参数量3,090亿的MoE架构,激活参数155亿,在不使用全局注意力层的情况下,通过滑动窗口与稀疏注意力的组合原生支持100万token上下文,并以MIT许可证发布。该公司表示,架构设计、训练与推理优化的相当部分由AI系统完成,人类研究员负责设定方向并做出关键决策。每秒2,000 token等性能数据为公司公布值,尚未经独立验证。

与我们工作的关联

该公司以生产规模运行由人定方向、AI负责实验与实现的以AI为中心的研发,这成为研究与开发工作中人与AI分工能走多远的一个信号。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读,未来预测代表来源的观点。

阅读原文 (在新标签页中打开)