收藏文章 楼主
生成式AI性能提高达1.7倍?英伟达发布了仅249美元的AI超级电脑
网友【AI来了】 2024-12-18 16:49:40 分享在【时代发展的印记】版块    1    10

英伟达周二(2024年12月17日)推出了一款名为Jetson Orin Nano Super的生成式AI超级计算机。英伟达CEO黄仁勋表示,这款开发者套件通过软件升级实现了更高性能和更低价格,仅售249美元,尺寸小巧,可放在手掌中,可将生成式AI性能提高高达1.7倍。

网友分享在meiguo.com上的图片

该公司表示,这款产品适合商业AI开发者、爱好者和学生,与其前代产品相比,其生成式AI推理性能提升了1.7倍,性能提高了70%,每秒可以执行高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也提升了50%,达到了102GB/s。

黄仁勋还特意为这款产品录制了一段视频,如同2021年发布Hopper H100时一样,展现英伟达对这款产品的重视。在视频中,黄仁勋表示,从Xavier开始,英伟达就创造了一种新的处理器,也就是机器人处理器,当时没人知道他们在做什么。

新的Jetson Orin Nano Super拥有将近70兆次的运算能力,功率25瓦,价格249美元,可以执行HGX的所有功能,甚至是执行大语言模型。

网友分享在meiguo.com上的图片

他表示,无论是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型语言模型(LLM)聊天机器人,构建视觉AI代理,还是部署基于AI的机器人,Jetson Orin Nano Super都是理想的选择,这款套件都能以更低的成本提供强大的运算效能,主要由于产品支持低功耗设计,能以7瓦到25瓦的功耗运行,适合各种边缘设备云算场景,无论是智能城市、智能农业还是机器人开发。

持续提升的性能和体验

通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano开发者套件的用户提升生成式AI性能。

黄仁勋表示,Jetson Orin Nano Super非常适合那些希望在生成式AI、机器人技术或计算机视觉领域发展技能的人士。在AI领域从任务专用模型向基础模型转变的趋势下,它也为开发者提供了一个将创意变为现实的易用平台。

为生成式AI提供强劲性能

Jetson Orin Nano Super性能增强,为所有流行的生成式AI模型,例如Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的计算机视觉模型带来了显著提升,进一步提升效能表现。

网友分享在meiguo.com上的图片

该公司表示,开发者套件包括一个Jetson Orin Nano 8GB 系统模块(SoM)和一个参考载板,为边缘设备AI应用的原型设计提供了理想平台。

系统模块采用NVIDIA Ampere架构GPU,配备张量计算核心(Tensor Cores)和6核 Arm CPU,能够处理多个并行AI应用管道,并提供高性能推理能力。此外,它还支持最多四个摄像头,分辨率和帧率均高于前代版本。

英伟达强调,随着AI技术逐渐从云端走向终端,实体AI将是下一波发展重点,Jetson Orin Nano Super不仅可以用于开发聊天机器人,也适合简历视觉AI代理或部署AI机器人等应用。

广泛的生成式AI软件生态系统与社区

此外,英伟达Jetson AI实验室提供对最新开源社区模型的支持,以及易于使用的教程。开发者还可以从更广泛的Jetson社区获得支持,并从其他开发者的项目中获得灵感。

Jetson支持英伟达的AI软件,包括用于机器人技术的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO工具包微调来自NGC目录的预训练AI模型,开发时间可以大幅缩短。

Jetson生态系统合作伙伴提供额外的AI和系统软件、开发工具以及定制软件开发服务。他们还提供与摄像头及其他传感器相关的支持,以及载板和产品解决方案的设计服务。

为所有Jetson Orin用户解锁性能提升:Super模式

英伟达也宣布将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super模式的性能提升,最高可达70%。这些更新将通过Jetpack SDK管理器发布在英伟达网站和GitHub上。

网友分享在meiguo.com上的图片

Jetson Orin Nano Super Developer Kit预计很快就会通过全球经销商开始供货。对于想要入门AI开发的学生、工程师或创客来说,这款开发套件提供了一个经济实惠且功能强大的平台选择。

英伟达将Jetson Orin Nano Super Developer Kit定位为推动生成式AI技术普及化的关键产品,希望在智能交通、零售管理以及物联网(IoT)应用中大放异彩。

作者:赵雨荷

出处:微信公众号 @硬AI

meiguo.com 发布人签名/座右铭这家伙浪费了“黄金广告位”,啥也没签!
大家都在看
楼主新近贴
回复/评论列表
默认   热门   正序   倒序
meiguo.com 创始人

emotion

10   2024-12-18 16:49:40  回复

回复/评论:生成式AI性能提高达1.7倍?英伟达发布了仅249美元的AI超级电脑

暂无用户组 升级
退出
等级:0级
美果:
美过
精华推荐
  1. 川普总统:在未来几周内开始发放“金卡签证”
  2. 华尔街“教父”空降北京,李嘉诚的“228亿美元交易”突遭截胡
  3. 中国的中产家庭,送孩子赴美留学就是鸡肋之举?
  4. 童工可以合法夜班了?
  5. 【读懂AI Agent】MetaGPT、Mila、斯坦福、耶鲁、谷歌的合作论文
  6. 中美关税战的最佳写实作品~乌合麒麟发布《就不跪》
  7. 马斯克的丑闻?和多名女性有染,有上百个孩子?
  8. 美国人在凌晨三点排队,不为苹果手机… 竟然是为中国毛绒玩具“拉布布”?
  9. 华人科学家再次遭遇系统性排查,75%留美学者“萌生去意”!
  10. 全球研究机构top10盘点:中国9家,美国1家
  11. 美国华人在近期出入境美国,绿卡和签证的持有者须知!
  12. 中国“不陪川普玩”了… 从此不理会美方闹剧!
  13. 关于“跨国婚姻”婚姻绿卡,给配偶申请绿卡的各种细节问题!
  14. 关税战持续了96小时… 突然大反攻?
  15. 百万民众“上街游行”抗议川普政府的百天?
  16. 近半数中国小包裹的接收人是贫困美国百姓?
  17. 美国《时代》周刊:DeepSeek【梁文锋】
  18. 哪些关键技术决定了如今大模型格局?Google的首席科学家“万字演讲”回顾AI发展的十年
  19. 在量子世界“玩儿游戏”?物理学家展示了量子计算机的新前景
  20. 这位美国年轻人在中国玩儿一圈,浪费掉美国政府的16亿美金?
  21. 美国“大规模”取消国际留学生的签证
  22. 盘点美国最繁华的城市 top10
  23. BBC:在川普政府的关税打击下,为何中国不低头?
  24. 瞄准美国公民了?川普总统的“驱逐行动”在变本加厉
  25. 这小伙年仅25岁,已经是百亿美金公司的创始CEO了!
  26. Google决定终止开源Android啦?
  27. 美国驻华大使馆:“赴美生子”一律拒签
  28. 2025年,必须认识的一个英文单词 ~ tariff
  29. 美国小伙儿在武当山修行十余年,终于获得“中国绿卡”了!
  30. 川普关税政策可能导致意外后果
  31. AI半壁江山是中国人?黄仁勋“敲警钟”:美国须觉醒!
  32. 台湾政府:一场误会呀
  33. 中美博弈2.0了?川普政府“百日执政”,撤回对华善意!
  34. 独自搭乘美国硬座火车,52小时横穿美国!
  35. 中方意识到谈判时机已至?迅速派出“王牌代表应邀”和美国财长会面了
  36. 遭遇无故吊销学签,藤校的中国留学生起诉且赢了🇺🇸国土安全部!

美国动态 美果搜索

Your IP: 3.139.61.71, 2025-05-09 16:34:14

Processed in 0.77075 second(s)

头像

用户名:

粉丝数:

签名:

资料 关注 好友 消息
已有0次打赏
(10) 分享
分享
取消