小扎万字檄文炮轰硅谷,Meta重磅开源30B小钢炮,一台MacBook就能跑
它性能强大,却被塞进不到20GB的内存里,只要一块消费级 GPU或者一台 M4/M5 Max 的 MacBook 就能流畅运行!
MemT 1.0发布:迈向递归自我改进,让记忆成为模型内生能力
上周末,社区里出现了一个转发上千的帖子。一位玩家自建了 AI 助手,因为 DSH 升级会话只能归档,就让 AI 自己想办法迁移。
AI研习丨低资源东盟语种的预训练语言模型研究
文/ 蒋盛益,林楠铠,王连喜摘 要:预训练技术在英语和汉语等通用语言上取得了巨大成功,但由于语料缺乏,使低资源语言的预训练技术在实际使用中受到了一定的限制。
研究者打造Causal-Copilot智能体,显著降低因果分析使用门槛
近日,美国加利福尼亚大学圣迭戈分校王新跃博士和所在团队开发出一款名为 Causal-Copilot 的智能体。核心理念是:如果大模型能够理解自然语言意图、生成执行代码、整合专家知识推理,就能成为连接领域专家与因果分析方法的智能桥梁,实现从“专家独享”到“普惠可及”的范式转变。
大模型面试宝典—大模型(LLMs)基础面
大模型(LLMs)基础面大模型(LLMs)基础面1 目前 主流的开源模型体系 有哪些?2 prefix Decoder 和 causal Decoder 和 Encoder-Decoder 区别是什么?3 大模型LLM的 训练目标 是什么?4 涌现能力是啥原因?
3000+ NLP资源一网打尽,只需用这个分类检索网站 | 免费
子豪 发自 凹非寺量子位 报道 | 公众号 QbitAINLP资源免费搜索神器来了~有了它,就能一键直达arXiv论文PDF、相关研究的关联网、GitHub存储库,以及Colab,再也不用逐项搜索!
为什么讲中文、方言和英文的时候完全是三种人格?
切换语言会切换性格吗?最近,网上有类似这样的视频火了:小红书截图其中一个视频里,博主流利地展示四门语言——中文、英文、越南语、粤语,并感慨自己“一切换语言就像换了一个人似的”,会启动“不同人格”。
Arm发了个“挑模型神器”,针对硬件优化,能直观对比延迟和内存占用
智东西9月9日报道,今日,在Arm Create开发者大会上,Arm推出Arm AI Portal,提供针对Arm优化的模型、代码、工作流和学习路径,让开发者与智能体都能便捷地在Arm计算平台范围内完成AI软件的发现、优化及部署。
PanGu-Coder:函数级的代码生成模型
近年来,包括OpenAI GPT-3、华为PanGu-Alpha等在内的文本生成模型展示出了惊人的创造力,生成能力远超以往的技术,逐渐成为序列生成的一种基本范式,并显示出了巨大的商业潜力。
理解NLP中的屏蔽语言模型(MLM)和因果语言模型(CLM)
大多数现代的NLP系统都遵循一种非常标准的方法来训练各种用例的新模型,即先训练后微调。在这里,预处理训练的目标是利用大量未标记的文本,在对各种特定的自然语言处理任务(如机器翻译、文本摘要等)进行微调之前,建立一个通用的语言理解模型。