LLM-API

OpenAI 推出了专为企业环境设计的高级使用分析和支出控制功能套件。这些功能旨在帮助组织在保持严格预算监督的同时，自信地扩展 AI 应用规模。

AlphaFold 的核心贡献者、诺贝尔奖获得者 John Jumper 宣布离开谷歌 DeepMind 并加入 Anthropic。这一重大人才变动不仅影响了谷歌的 AI 研发版图，也预示着 Anthropic 在科学推理与生物 AI 领域的雄心。

深入探讨使用 4 张 RTX 3090 显卡（96GB 显存）构建本地 LLM 推理环境的工程实践、性能瓶颈以及与高性能 API 相比的经济性分析。

全面解析 Google Gemma 4 各个版本的显存（VRAM）要求，涵盖量化技术对性能的影响，并为开发者提供针对 RTX 4090/5090 等显卡的专业建议。

特朗普政府对 Anthropic 实施了前所未有的出口管制，迫使该公司屏蔽外国国民及员工对其最新模型 Fable 5 和 Mythos 5 的访问，标志着 AI 监管进入新阶段。

AI 推理基础设施初创公司 Baseten 据传正完成一笔 15 亿美元的巨额融资，估值飙升至 130 亿美元，标志着 AI 行业重心从模型训练转向大规模推理应用。

本文介绍了九种高效的 LLM 成本优化策略，包括语义缓存、模型级联和提示词压缩，帮助开发者在不牺牲模型性能的前提下，将 API 开销降低 50-90%。

Z.ai 正式发布 GLM-5.2，这是一款采用 MIT 协议开源、支持 100 万超长上下文的旗舰级大模型，专为编码智能体（Coding Agents）和长程任务优化。

AI 推理基础设施公司 Baseten 正计划进行一轮 15 亿美元的巨额融资，这标志着 AI 市场的重心正从模型训练转向大规模推理。此次融资后其估值将达到 130 亿美元。

OpenAI 最近进行了重大的人才引进，包括 Transformer 架构的共同发明人 Noam Shazeer 和政策专家 Dean Ball，标志着该公司正在为备受期待的公开上市做准备。

深入探讨如何构建自定义 GPU 常驻 Top-K CUDA 内核，消除智能体 RAG 管道中的 PCIe 传输瓶颈，为高性能 LLM 应用提供微秒级检索性能。

深入探讨将检索增强生成 (RAG) 从演示原型转变为稳健的企业生产环境所需的工程规范，重点关注混合检索、数据摄取策略和严谨的评估体系。