关于畴(chóu)捏(niē)滇(diān)熔(rónɡ)这样理解正确吗?
时间:2023-11-19  浏览次数:663

  此次在计算核心上的升级力度虽小,但显存带宽速率的增长,帮助H200实现了更快的数据传输,减少复杂任务的处理瓶颈,其中HBM3e内存芯片起到了关键作用。

  作为H100 GPU的继任者,也是该公司首款使用 HBM3e 内存的芯片,拥有高达141GB的显存。借助HBM3e,与A100相比,H200的容量几乎翻了一番,带宽也增加了2.4倍。

  与H100相比,H200的带宽则从3.35TB/s增加到了4.8TB/s,带来了进一步的性能飞跃,用跑模型来反映其进步,让Llama2 70B在两款芯片上运作,H200的推理速度比前任提升了一倍。

  并且两款芯片在使用上是互相兼容,这意味着建立在H100上训练的大语言模型可以无缝衔接地切换到H200上加速。用H200与Grace CPU搭配使用组成了性能更加强劲的GH200 Grace Hopper超级芯片——专为大型HPC和AI应用而设计的计算模块。

  此外,H200的推理能耗相比前代直接腰斩,能大幅降低用户的使用成本,可谓买得多省得多。软件升级预留了更大的空间,未来预计还会为H200带来额外的性能提升。

  在英伟达官方公布的产品路线图当中,在明后年会分别推出B100和X200两款芯片,把过去数据中心两年一更新的节奏打破。

  性能更是举目望不到尽头。以推理1750亿参数的GPT-3为例,今年刚刚发布的H100是前代A100性能的11倍,H200比H100有着60%的提升。

  目前除了主导大模型界的Open AI与算力领先的英伟达芯片有着深度绑定,科技大厂亚马逊的AWS、微软Azure,谷歌云无疑都将继续拥抱H200。

  在凭借超高算力加速效果成熟的开发生态绑定后,对手很难简单靠时间追上这家芯片巨头,或者等你终于开发出一款训练模型的芯片时,大模型可能都迭代好几代了,这些巨头可等不起。

  据美国金融机构Raymond James透露,H100芯片的成本仅为3320美元,但英伟达对其客户的批量价格却高达2.5万至4万美元,利润率高达10倍。

  Sam Altman又回归了科技圈顶流,风头盖过了马斯克盖茨等人。先是以一场发布会扼杀了众多尚在襁褓里的AI创业项目,Open AI投资的科技硬件初创公司Humane继而发布了一款内嵌GPT的AI硬件——AI Pin。

  这款AI Pin最早曾在巴黎时装周的T台上展示,外形小巧美观,可以通过磁吸的方式适合佩戴在身上。

  除了内置GPT,从外观上可以发现这款硬件并没有屏幕,如果需要阅读信息,可以通过激光投影系统,拿手作屏幕,利用手势交互识别来实现天气、时间以及日期的切换。

  这款AI硬件的特别之处,在于为我们和智能硬件的交互形式提供了新的思路,生成式AI对多模态环境的识别使其能够融入到我们周围的环境中,好比一个能听从指令和实时反馈的“助手”陪伴在我们身边。

  以前智能手机作为人体的延伸存在着,我们大部分时间都离不开手机,也逐渐被束缚在六七寸的小盒子里,而且我们并未完全开放所有的输入渠道,获取信息的方式主要还是以阅读为主,听力为辅。

  值得一提的是,开发团队大部分来自苹果前员工,创始人Chaudhri更是初代iPhone的设计团队成员。

  不难解释,整体外形看上去充满了的味道,可以说是Apple Watch的“胸针版”,由计算机核心和电池两部分组成,前半部分机身有一块触摸板,可以通过单指、双指点击来激活设备。顶部还有一个“信任灯”,当信任灯闪烁时会告诉我们正在收集数据。

  官方特意强调,AI Pin的定位并非一款可穿戴配件,不依赖与智能手机形成配对的形式来辅助使用,它配置了独立的操作系统Cosmos,更像是ChatGPT的插件系统,按需来调用各种AI。

  Altman 在接受《金融时报》采访时表示,“我们的愿景是打造AGI,确保其安全并从中受益。”

  为实现这一终极目标,OpenAI 计划从那里获得进一步的资金支持,公司 CEO Sam Altman 正积极推进创建与人类一样智能的计算机软件 —— 通用(AGI)的愿景。

  据知情人士透露,作为两家公司长期协议的一部分,今年早些时候宣布再向OpenAI投资100亿美元。

  被问及微软是否会进一步投资的时候,Altman回答道“我希望如此。从这里到AGI之间还有很长的路要走,需要构建大量的算力,培训费用也非常庞大。”

  Altman还表示,公司正在开发下一代 AI 模型GPT-5,不过他没有承诺发布时间表。GPT-5 将比其上一代更加复杂,但从技术上很难准确预测该模型可能具有哪些新功能和技能。




上一篇:忘乎所以(wàng hū suǒ yǐ)看看网友是怎么说的!   下一篇:关于沂义鼓要铅还可以这样解读吗?