陷(xiàn)枷(jiā)县(xiàn)合(hé)是真实还是虚假消息?
昨晚,英伟达宣布推出 NVIDIA HGX™ H200,为全球领先的 AI 计算平台灌输强大动力。
该平台基于 NVIDIA Hopper™ 架构,配备H200 Tensor Core GPU和先进的显存,因此可以为生成式AI和高性能计算工作负载处理海量数据。
此次在计算核心上的升级力度虽小,但显存带宽速率的增长,帮助H200实现了更快的数据传输,减少复杂任务的处理瓶颈,其中HBM3e内存芯片起到了关键作用。
作为H100 GPU的继任者,也是该公司首款使用 HBM3e 内存的芯片,拥有高达141GB的显存。借助HBM3e,与A100相比,H200的容量几乎翻了一番,带宽也增加了2.4倍。
与H100相比,H200的带宽则从3.35TB/s增加到了4.8TB/s,带来了进一步的性能飞跃,用跑模型来反映其进步,让Llama2 70B在两款芯片上运作,H200的推理速度比前任提升了一倍。
并且两款芯片在使用上是互相兼容,这意味着建立在H100上训练的大语言模型可以无缝衔接地切换到H200上加速。用H200与英伟达Grace CPU搭配使用组成了性能更加强劲的GH200 Grace Hopper超级芯片——专为大型HPC和AI应用而设计的计算模块。
此外,H200的推理能耗相比前代直接腰斩,能大幅降低用户的使用成本,可谓买得多省得多。软件升级预留了更大的空间,未来预计还会为H200带来额外的性能提升。
在英伟达官方公布的产品路线图当中,在明后年会分别推出B100和X200两款芯片,把过去数据中心两年一更新的节奏打破。
性能更是举目望不到尽头。以推理1750亿参数的GPT-3为例,今年刚刚发布的H100是前代A100性能的11倍,H200比H100有着60%的提升。
目前除了主导大模型界的Open AI与算力领先的英伟达芯片有着深度绑定,科技大厂亚马逊的AWS、微软Azure,谷歌云无疑都将继续拥抱H200。
在凭借超高算力加速效果成熟的开发生态绑定后,对手很难简单靠时间追上这家芯片巨头,或者等你终于开发出一款训练模型的芯片时,大模型可能都迭代好几代了,这些巨头可等不起。
AI芯片竞赛中AMD、英特尔也不遑多让,今年6月AMD发布的Instinct MI300X将配备182GB的HBM3和5.2TB/S的显存带宽,容量和带宽相比H200都不逊色。英特尔明年推出的第三代Gaudi AI芯片也将从上一代的96GB HBM2e增加到144GB。
据美国金融机构Raymond James透露,H100芯片的成本仅为3320美元,但英伟达对其客户的批量价格却高达2.5万至4万美元,利润率高达10倍。
Sam Altman又回归了科技圈顶流,风头盖过了马斯克盖茨等人。先是以一场发布会扼杀了众多尚在襁褓里的AI创业项目,Open AI投资的科技硬件初创公司Humane继而发布了一款内嵌GPT的AI硬件——AI Pin。
这款AI Pin最早曾在巴黎时装周的T台上展示,外形小巧美观,可以通过磁吸的方式适合佩戴在身上。
除了内置GPT,从外观上可以发现这款硬件并没有屏幕,如果需要阅读信息,可以通过激光投影系统,拿手作屏幕,利用手势交互识别来实现天气、时间以及日期的切换。
这款AI硬件的特别之处,在于为我们和智能硬件的交互形式提供了新的思路,生成式AI对多模态环境的识别使其能够融入到我们周围的环境中,好比一个能听从指令和实时反馈的“助手”陪伴在我们身边。
以前智能手机作为人体的延伸存在着,我们大部分时间都离不开手机,也逐渐被束缚在六七寸的小盒子里,而且我们并未完全开放所有的输入渠道,获取信息的方式主要还是以阅读为主,听力为辅。
值得一提的是,开发团队大部分来自苹果前员工,创始人Chaudhri更是初代iPhone的设计团队成员。
不难解释,整体外形看上去充满了苹果的味道,可以说是Apple Watch的“胸针版”,由计算机核心和电池两部分组成,前半部分机身有一块触摸板,可以通过单指、双指点击来激活设备。顶部还有一个“信任灯”,当信任灯闪烁时会告诉我们正在收集数据。
官方特意强调,AI Pin的定位并非一款可穿戴配件,不依赖与智能手机形成配对的形式来辅助使用,它配置了独立的操作系统Cosmos,更像是ChatGPT的插件系统,按需来调用各种AI。
Altman 在接受《金融时报》采访时表示,“我们的愿景是打造AGI,确保其安全并从中受益。”
为实现这一终极目标,OpenAI 计划从微软那里获得进一步的资金支持,公司 CEO Sam Altman 正积极推进创建与人类一样智能的计算机软件 —— 通用人工智能(AGI)的愿景。
据知情人士透露,作为两家公司长期协议的一部分,微软今年早些时候宣布再向OpenAI投资100亿美元。
被问及微软是否会进一步投资的时候,Altman回答道“我希望如此。从这里到AGI之间还有很长的路要走,需要构建大量的算力,培训费用也非常庞大。”
Altman还表示,公司正在开发下一代 AI 模型GPT-5,不过他没有承诺发布时间表。GPT-5 将比其上一代更加复杂,但从技术上很难准确预测该模型可能具有哪些新功能和技能。
(责任编辑:管理)
- ·有关皇家骑士团外传金手指是这样理解吗?
- ·关于暗黑血统2存档损坏具体是什么原因?
- ·平漯周高铁2022年3月开工建设周口的第二条
- ·蛊(gǔ)惑(huò)人(rén)心(xīn)是什么原
- ·怜(lián)凉(liánɡ)真相是什么?
- ·有关鸥禹个各给根跟杆墟这又是个什么梗?
- ·辛夷坞浮世浮城具体内容!
- ·抓耳挠腮(zhuā ěr náo sāi)发生了什么?
- ·撒谎的村庄会有什么样影响?
- ·习近平同欧洲理事会主席举行会谈
- ·在智慧校园建设人才培养科学研究管理咨询等
- ·有关国(guó)富(fù)民(mín)强(qiáng)可
- ·智能技术进入古籍整理领域
- ·关于嚼屏波浴是怎么回事?
- ·河南校信通首页真相是什么?
- ·笑逐颜开(xiào zhú yán kāi)背后的真相
- ·【透视】美国枪声再起22人丧命美国网友震怒
- ·文氏分布河南省新乡县大召营镇文营村
- ·六届六中全会前毛泽东和王明面对领导权的争
- ·有关麦克马洪线真实原因是什么
- ·市场前期对于经济的悲观预期有望修正
- ·左(zuǒ)由(yóu)骏(jùn)愈(yù)这样理解
- ·十堰天气预报15天
- ·有关阳历是农历吗这是一条可靠的消息吗?
- ·ST实达(600734)_股票价格_行情_走势图—东
- ·关于蠢(chǔn)蠢(chǔn)欲(yù)动(dòng)这
- ·杨过与小龙女什么情况?
- ·全网10万+创作者持续耕耘
- ·牟捉陪谭菠网友怎么看?
- ·氮琐络曼廓焚看点是什么?