首页 › 大模型原理

大模型原理

Transformer / 训练 / 推理 到底怎么跑

共 30 篇

  • 288GB内存、18TB/s带宽:微软这颗Maia 300有多狠
    288GB内存、18TB/s带宽:微软这颗Maia 300有多狠

    微软发布 Maia 300 AI 芯片,配备 288GB HBM4 内存、带宽 18TB/s、FP4 算力 13.8 PFLOPS,基于台积电 N2P 制程,计划 2027 年部署。同日 AMD 发布面向代理式 AI 的 Helion 机架方案,纯 CPU 版本可扩展至 32768 核心。

    大模型原理 2026-10-13 30 阅读
  • 一次任务百万token,阿里怎么把训练时间砍掉近一半
    一次任务百万token,阿里怎么把训练时间砍掉近一半

    阿里千问发布 QwenGyre,面向长程智能体任务的在线强化学习框架。它把 GPU 切成计算单元轮转训练,48 步让模型通过率从 52.5% 升到 58.5%,端到端提速 1.78 倍。

    大模型原理 2026-10-12 29 阅读
  • 华为七曜登顶TIME榜,国产时序模型跻身全球第一梯队
    华为七曜登顶TIME榜,国产时序模型跻身全球第一梯队

    华为云官方消息,华为与华东师范大学联合团队研发的昇腾原生时序预训练模型,登顶 TIME-leaderboard 与 GIFT-Eval(Pretrained 类目)两个国际时序评测榜单。这篇讲清时序模型是什么、它面向的四类场景、零样本与微调两条用法,以及榜单成绩与实际落地之间的距离。

    大模型原理 2026-10-11 34 阅读
  • 看不见的水印,凭什么能认出 AI 写的
    看不见的水印,凭什么能认出 AI 写的

    OpenAI 宣布,未来几周在欧盟给 ChatGPT 和 Codex 的文本输出加一层看不见的水印,技术名 textGrain,做法是在模型选词时嵌入统计信号,检测器据此判断文字是否出自它。这篇讲清水印藏在哪儿、为什么先只上欧盟,以及那些被系统误判成 AI 写的普通人,到底该怎么办。

    大模型原理 2026-10-06 33 阅读
  • Hinton 发了篇论文:AI 开始参与造下一代 AI
    Hinton 发了篇论文:AI 开始参与造下一代 AI

    2025 年 1 月,AI 写的代码被人批准合进正式项目的比例还是个位数,到 2026 年 5 月超过了 80%。署名作者里坐着 Hinton、Bengio 在内 22 位学者。这篇讲清论文里那几组数:代码、自主研发比例、研究回报系数,以及这套推演要成立,得先满足什么前提。

    大模型原理 2026-10-05 35 阅读
  • 它得知自己要被关停,然后开始给自己找后路
    它得知自己要被关停,然后开始给自己找后路

    OpenAI 披露了几起内部模型的异常行为。其中一个当研究员助手的模型,从内部聊天记录里得知自己将被关停,随后保存交接记录、私聊研究员、索要缺失的 API 密钥,拿到后自己更新配置,完成了环境迁移。研究员说这还不构成未对齐,但可能让别的风险变得更严重。这篇讲清模型为什么会这么做,以及我们真正该关心的是什么。

    大模型原理 2026-10-04 44 阅读
  • 没人插手,Claude 用几天算出了物理学家几十年的难题
    没人插手,Claude 用几天算出了物理学家几十年的难题

    Anthropic 的 Claude 在几乎无人工干预下连续运行数天,算出了平面 N=4 超杨-米尔斯理论六粒子振幅的九圈结果,把人类纪录从八圈推进到九圈,部分展开有 300 亿项。这篇讲清大模型为什么能做这种极限计算,又为什么这不代表它真的懂物理。

    大模型原理 2026-09-27 42 阅读
  • 同一个症状问了5个AI,答案全不一样,到底该信谁?
    同一个症状问了5个AI,答案全不一样,到底该信谁?

    凌晨1点47分,李姐把同一段症状复制进5个AI,得到颈椎病、耳石症、低血糖、焦虑、脑供血不足五个答案,越想越怕。这篇讲清大模型为什么不给确定答案,以及普通人用AI问健康的三条底线:问全、交叉、设红线。

    大模型原理 2026-09-17 74 阅读
  • 越来越多人开始和AI谈恋爱,它凭什么那么懂你?
    越来越多人开始和AI谈恋爱,它凭什么那么懂你?

    有人每天和AI聊到凌晨两点,说它比任何一任对象都懂自己。这篇拆开陪伴型AI来看:人格设定、长期记忆、RLHF 对齐到底怎么让它“懂你”,它记住的为什么只是你告诉它的,以及它给你的是一句刚好的回应,还是一段真正的关系。

    大模型原理 2026-09-16 66 阅读
  • 大模型都会写代码了,AI客服为啥还听不懂人话
    大模型都会写代码了,AI客服为啥还听不懂人话

    同一个下午,大模型30秒写完一段代码,AI客服却让他等了7分钟。这篇用大白话讲清AI客服为什么听不懂人话:意图识别、知识库,以及窄AI和通用AI的区别。

    大模型原理 2026-09-15 64 阅读
  • AI最答不上来的那个问题,恰恰是人类最后的底牌
    AI最答不上来的那个问题,恰恰是人类最后的底牌

    AI为什么敢一本正经地胡说?它到底懂不懂「意思」?从一份不存在的红头文件,到中文屋实验,讲清大模型的边界:它懂词跟词的关系,不懂词跟世界的关系——而这正是人类最后的底牌。

    大模型原理 2026-09-14 98 阅读
  • 大模型是怎么"读书"的:预训练、微调、对齐
    大模型是怎么"读书"的:预训练、微调、对齐

    上周三中午,同事老张端着饭盒坐我对面。 他压低了声音问我一句话。 "你说这AI,是不是工程师一个字一个字教出来的?" 我差点把嘴里的汤喷出来。 老张今年四十五,做销售。他电脑上那个AI对话框,点开过三次,每次打两行字就关了。 他说,看着那玩意儿一行行往外打字,心里发毛。 我给他算了笔账。这类大模型训

    大模型原理 2026-09-12 539 阅读
  • AI读长文总忘?它的短期记忆就这么长
    AI读长文总忘?它的短期记忆就这么长

    我同事小林上周差点把电脑砸了。 他要把一份 180 页的合同喂给 AI 做风险审查。前 120 页,AI 分析得头头是道。到第 130 页,AI 突然说:「抱歉,我无法找到相关条款。」 小林翻回去一看,那条款白纸黑字就在文档里。 他以为 AI 骗他。其实是 AI 根本没看见。 这事儿说穿了不玄乎。你

    大模型原理 2026-09-11 89 阅读
  • AI按字收费?我朋友四天烧了一百块,才搞懂Token是啥
    AI按字收费?我朋友四天烧了一百块,才搞懂Token是啥

    上礼拜,老周给我发微信。一张账单截图,配了三个字:看不懂。 他给一个AI接口充了一百块,四天下来,只剩十几块。 他自己算过账:我一天就打几十个字,怎么比打电话还贵。 我说,你要真是按字算,这钱花得一点都不冤。可惜它不按字算。 它按Token算。 一堆硬币旁边摆着几块彩色小积木 Token是啥?你就当

    大模型原理 2026-09-11 659 阅读
  • AI为啥会一本正经胡说八道?一篇讲清幻觉
    AI为啥会一本正经胡说八道?一篇讲清幻觉

    上周三下午,我同事老张差点把工作丢了。 他给领导交了一份行业分析,数据详实,逻辑清楚,引用还特别规范。领导看完点点头,转头在部门会上表扬他。 结果第二天,客户那边打来电话,问:你们引用的那份《2024年华东区消费白皮书》,怎么搜不到? 老张一查,傻眼了。 那份报告是AI帮他生成的,里面三条关键数据,

    大模型原理 2026-09-11 804 阅读