Code for Life, AI for Future
本文字数:约 6000 字,预计阅读时间:15 分钟华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!在 AI 领域,大规模语言模型(LLMs)展示了强大的推理能力。然而,这些模型在处理问题时通常生成长长的「思维链(Chain-of-Thought, CoT)」,导致计算成本和延迟较高。为解决这一问题,Zoom 研究团队提出了一种全新的推理范式——「草稿链(Chain-of-Draft, CoD)」。CoD 通过模仿人类简洁的思维过程来提升推理效率,显著降低成本。研究显示,使用 CoD 能将 Token 使用减少 80%,大幅降低计算成本。尽管 CoD 在某些任务中的准确率略低于 CoT,但总体上保持了相近的水平。以算术推理任务为例,GPT-4o 和 Claude 3.5 Sonnet 模型在 GSM8k 数据集上的准确率分别为 91.1% 和 91.4%,而 CoT 的准确率分别为 95.4% 和 95.8%。尽管 CoD 的准确率略低,但将 Token 使用减少了 80%,延迟分别降低了 76.2% 和 48.4%。通过「草稿链」,AI 模型可以生成极简的中
本文字数:约 6600 字,预计阅读时间:22 分钟狂揽1445亿!毛利碾压特斯拉,理想却要豪赌AI?国内对AI最上进的公司,可能要数理想——两个月前,理想汽车高调宣布All in AI,引发行业对其AI布局的广泛关注。3月14日,理想发布2024年第四季度及全年财报,为市场提供了一窥其最新进展的重要窗口。财报显示,2024年理想汽车实现营收1445亿元,同比增长16.6%;全年净利润80亿元,同比下滑31.9%。虽然营收持续增长,但盈利能力受到挑战。同时,现金储备增至1128亿元,展现出较强的财务稳健性。全年交付量达50.05万辆,同比增长33.1%,保持了高速增长态势。面对市场高度关注的AI战略,理想汽车创始人李想在财报会上并未透露太多。他确认AI研发投入将显著增加,但并未透露具体布局,仅强调理想将依靠自身的造血能力推进AI发展。财报发布后,理想汽车股价下跌4.39%,收于27.46美元,最新市值291.35亿美元(约合2108.75亿元人民币)。2024年,理想汽车依旧稳坐造车新势力的头部位置,但营收增速明显放缓。2024年Q4,理想汽车营收为443亿元,同比增长6.1%,环比增
本文字数:约 3500 字,预计阅读时间:12 分钟重点新闻逐字生成非最优?试试逐「块」生成!Block Diffusion打通了自回归与扩散逐字生成模型在生成文本时通常采用自回归的方法,即根据已生成的前缀逐字生成后续的文本。然而,这种方法在生成长文本时存在效率低下的问题。为了解决这一问题,最新的研究提出了Block Diffusion技术,这是一种基于块扩散的方法,通过将文本分割成多个块,然后在每个块内进行并行生成,从而提高生成效率。Block Diffusion技术的核心在于,它将传统的自回归方法和扩散模型相结合。扩散模型是一种生成模型,通过渐进式地向生成的样本添加噪声,然后训练模型逐步去除噪声,最终生成高质量的样本。Block Diffusion将文本分割成多个块,并对每个块进行独立的扩散过程,从而实现了并行生成。这种方法不仅提高了生成效率,还能够生成更加连贯和高质量的文本。Block Diffusion技术的提出,对于提高大语言模型的生成效率和质量具有重要意义。随着生成模型在自然语言处理领域的广泛应用,如何提高生成效率和生成质量成为了研究的热点问题。Block Diffusio
本文字数:约 3222 字,预计阅读时间:16 分钟欧洲“DeepSeek”发布了全世界最好的 OCR,网友:蹲蹲中国的免费开源版欧洲初创公司 Mistral AI 在其沉寂一段时间之后发布了号称“全世界最好的 OCR”的产品 —— Mistral OCR。这款 OCR 工具旨在处理复杂文档,如扫描的手写板内容、超多种语言的识别等,具备卓越的解析能力和多语言支持。尽管其价格略高,但 Mistral OCR 在处理复杂文档时表现出色,尤其在识别数学公式、表格以及 LaTeX 等高级排版格式方面优于同类产品。Mistral OCR 是一款多模态 API,不仅可以识别文本中的插图或照片,还能为这些图形元素创建边界框。它能够将 PDF 文件中的内容转换成结构清晰的 Markdown 格式文件,包括图片、表格和数学公式等元素。这种“文档即提示”概念使用户能够直接使用文档作为指令,以获取更加精准和定制化的结果。此外,Mistral OCR 支持自托管部署,以满足数据隐私和安全性的要求。Mistral AI 团队将 Mistral OCR 与 Google Document AI、Azure OCR
本文字数:约 4000 字,预计阅读时间:10 分钟零跑汽车的成功之道:全域自研与成本控制零跑汽车在2024年成为新能源汽车市场的一匹黑马,全年交付近30万辆新车,销量排名第三。尽管该公司在研发投入上远低于其他新势力,但其通过“全域自研”和成本控制,实现了单季度扭亏为盈。零跑创始人朱江明,凭借其IT行业背景,采取了不同于传统新势力的经营策略。零跑不仅在三电系统方面实现了自研自造,还通过软硬件一体化和平台化优势,大幅降低了成本。这种模式使得零跑能在竞争激烈的市场中提供“好而不贵”的产品,从而在10-20万价格区间中占据一席之地。零跑的目标是通过技术创新和成本控制,在新能源汽车市场中提供一种反内卷的解法。毅伯智算发布DeepSeek满血版一体机,性能超英伟达四成毅伯智算发布了一款DeepSeek满血版一体机,其性能超过了英伟达的同类产品。该一体机解决了市场上满血版推理一体机因硬件性能限制而出现的单机、双机甚至四机部署方案的问题,提供了更高效、成本更低的解决方案。单机方案相比双机方案节省了硬件成本和功耗,同时也减少了额外的组网和运维成本。这标志着毅伯智算在高性能计算和人工智能推理领域取得了重
康叔的AI全栈工坊