收藏文章 楼主
生成式AI性能提高达1.7倍?英伟达发布了仅249美元的AI超级电脑
网友【AI来了】 2024-12-18 16:49:40 分享在【时代发展的印记】版块    1    10

英伟达周二(2024年12月17日)推出了一款名为Jetson Orin Nano Super的生成式AI超级计算机。英伟达CEO黄仁勋表示,这款开发者套件通过软件升级实现了更高性能和更低价格,仅售249美元,尺寸小巧,可放在手掌中,可将生成式AI性能提高高达1.7倍。

网友分享在meiguo.com上的图片

该公司表示,这款产品适合商业AI开发者、爱好者和学生,与其前代产品相比,其生成式AI推理性能提升了1.7倍,性能提高了70%,每秒可以执行高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也提升了50%,达到了102GB/s。

黄仁勋还特意为这款产品录制了一段视频,如同2021年发布Hopper H100时一样,展现英伟达对这款产品的重视。在视频中,黄仁勋表示,从Xavier开始,英伟达就创造了一种新的处理器,也就是机器人处理器,当时没人知道他们在做什么。

新的Jetson Orin Nano Super拥有将近70兆次的运算能力,功率25瓦,价格249美元,可以执行HGX的所有功能,甚至是执行大语言模型。

网友分享在meiguo.com上的图片

他表示,无论是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型语言模型(LLM)聊天机器人,构建视觉AI代理,还是部署基于AI的机器人,Jetson Orin Nano Super都是理想的选择,这款套件都能以更低的成本提供强大的运算效能,主要由于产品支持低功耗设计,能以7瓦到25瓦的功耗运行,适合各种边缘设备云算场景,无论是智能城市、智能农业还是机器人开发。

持续提升的性能和体验

通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano开发者套件的用户提升生成式AI性能。

黄仁勋表示,Jetson Orin Nano Super非常适合那些希望在生成式AI、机器人技术或计算机视觉领域发展技能的人士。在AI领域从任务专用模型向基础模型转变的趋势下,它也为开发者提供了一个将创意变为现实的易用平台。

为生成式AI提供强劲性能

Jetson Orin Nano Super性能增强,为所有流行的生成式AI模型,例如Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的计算机视觉模型带来了显著提升,进一步提升效能表现。

网友分享在meiguo.com上的图片

该公司表示,开发者套件包括一个Jetson Orin Nano 8GB 系统模块(SoM)和一个参考载板,为边缘设备AI应用的原型设计提供了理想平台。

系统模块采用NVIDIA Ampere架构GPU,配备张量计算核心(Tensor Cores)和6核 Arm CPU,能够处理多个并行AI应用管道,并提供高性能推理能力。此外,它还支持最多四个摄像头,分辨率和帧率均高于前代版本。

英伟达强调,随着AI技术逐渐从云端走向终端,实体AI将是下一波发展重点,Jetson Orin Nano Super不仅可以用于开发聊天机器人,也适合简历视觉AI代理或部署AI机器人等应用。

广泛的生成式AI软件生态系统与社区

此外,英伟达Jetson AI实验室提供对最新开源社区模型的支持,以及易于使用的教程。开发者还可以从更广泛的Jetson社区获得支持,并从其他开发者的项目中获得灵感。

Jetson支持英伟达的AI软件,包括用于机器人技术的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO工具包微调来自NGC目录的预训练AI模型,开发时间可以大幅缩短。

Jetson生态系统合作伙伴提供额外的AI和系统软件、开发工具以及定制软件开发服务。他们还提供与摄像头及其他传感器相关的支持,以及载板和产品解决方案的设计服务。

为所有Jetson Orin用户解锁性能提升:Super模式

英伟达也宣布将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super模式的性能提升,最高可达70%。这些更新将通过Jetpack SDK管理器发布在英伟达网站和GitHub上。

网友分享在meiguo.com上的图片

Jetson Orin Nano Super Developer Kit预计很快就会通过全球经销商开始供货。对于想要入门AI开发的学生、工程师或创客来说,这款开发套件提供了一个经济实惠且功能强大的平台选择。

英伟达将Jetson Orin Nano Super Developer Kit定位为推动生成式AI技术普及化的关键产品,希望在智能交通、零售管理以及物联网(IoT)应用中大放异彩。

作者:赵雨荷

出处:微信公众号 @硬AI

meiguo.com 发布人签名/座右铭这家伙浪费了“黄金广告位”,啥也没签!
大家都在看
楼主新近贴
回复/评论列表
默认   热门   正序   倒序
meiguo.com 创始人

emotion

10   2024-12-18 16:49:40  回复

回复/评论:生成式AI性能提高达1.7倍?英伟达发布了仅249美元的AI超级电脑

暂无用户组 升级
退出
等级:0级
美果:
美过
精华推荐
  1. 川普总统宣布“金卡计划”网站开放
  2. 英伟达的市值突破了四万亿美元,创人类历史纪录!
  3. 属于中国的世纪可能已经到来
  4. 川普政府打算“发钱啦”
  5. 遥控器电池,被幼儿误吞… 欧系保险公司赔付了近1.4亿元人民币!
  6. 美国再次宣布退出联合国教科文组织
  7. 美国“非法移民家庭”遣返行动引发了“婴幼儿无国籍”的危机
  8. 川普总统声称希望中国“增加美油采购”
  9. 能熟练运用AI也不行?硅谷的40万人在近期被炒鱿鱼
  10. 世界瞩目的电话,十个不寻常的细节剖析!
  11. 马斯克打算组建新党“美国党”代表中间派
  12. 美国新法案“大漂亮”引发了全球资本配置大调整
  13. 中国政府在构筑战略资源防线,重拳打击稀土走私!
  14. 手机充电习惯是影响电池寿命的根本原因
  15. 孩子沉迷手机的真相和破局之道
  16. 健身网红在飞机上的着装引争议
  17. 萝莉岛是美国的政治中心?马斯克并非不懂政治,而是太懂了!
  18. 美国移民新机遇:紧缺人才的绿卡通道“无需排期”
  19. 马斯克的“130天政府生涯”终结后…
  20. “全球最强护照”排行榜又更新了(2025版)
  21. 马斯克声称川普在“爱泼斯坦名单”,白宫回应:局面令人遗憾!
  22. QQ等级256级用户诞生,首次解锁“时光企鹅”图标!
  23. 川普和马斯克的公开交锋升级了
  24. 任天堂的Switch 2正式发售,参数细节全曝光!
  25. 比尔盖茨的财富突然蒸发了510亿美元,真相却令人肃然起敬!
  26. 互联网女皇“340页AI报告”猛料刷屏
  27. 韦伯望远镜(JWST)发布迄今为止最大的早期宇宙地图
  28. 川普总统批评支持者,马斯克激烈回应!
  29. 美国暂停了学生签证预约,申请者在社交媒体平台的活动须谨慎!
  30. 鲁比奥声称将会收紧中国留学生的签证审批政策
  31. 美国房价仍然高位,“美国梦”成奢望!
  32. 中美两国元首针对当下双边关系和经贸合作,☎️通话交流!
  33. 难怪马斯克公开认错… 川普总统的相关杀器可以更多?
  34. 宗庆后家族的多处海外房产曝光,价值数亿元!
  35. 美国国会通过了减税法案,马斯克和川普总统再次激烈交锋!
  36. 川普政府计划改革移民签证制度和入籍考试

美国动态 美果搜索

Your IP: 216.73.216.124, 2025-07-30 21:44:32

Processed in 0.08624 second(s)

头像

用户名:

粉丝数:

签名:

资料 关注 好友 消息
已有0次打赏
(10) 分享
分享
取消