工控网首页
>

新闻中心

>

新品速递

>

研华推出边缘生成式AI系统,亮相英伟达 2024 GTC

研华推出边缘生成式AI系统,亮相英伟达 2024 GTC

2024/4/7 16:27:02

全球工业物联网品牌厂商研华科技成功整合英伟达(NVIDIA) 生成式AI模型于MIC-733-AO边缘AI推理盒子,并在英伟达GTC 2024 GPU科技展研华摊位上进行展示(No. 232),该产品预示:未来生成式AI将大幅减少开发者训练模型的时间,在工业应用上也能以更快速更方便的得到AI推理的结果。


研华MIC-733-AO+英伟达生成式AI模型=边缘生成式AI系统


研华MIC-733-AO边缘AI系统基于英伟达Jetson AGX Orin™平台,搭载英伟达Jetson AI实验室的生成式人工智能模型,现在成功高效率运行大型语言模型(LLMs)、视觉语言模型(VLM)、视觉变换器(ViT)以及图像生成和对话生成Llamaspeak,这要归功于英伟达Jetson AGX Orin™平台的独特优势,包括加速计算、重要的AI软件和预先训练的模型,有助于创建、自定义和部署适用于各种应用和地点的生成式AI模型。


利用英伟达Jetson AI实验室的生成式AI模型,AI开发者可以运用检索增强生成(RAG)技术,将LLMs和VLMs连接到公司的知识库。这种方法消除了传统AI模型训练的需求,允许透过与系统的简单对话交互来产生AI推论,明显缩短了开发时间。研华MIC-733-AO拥有高AI运算效能和多个影像输入接口,例如IP摄影机、USB/gigE工业相机、GMSL摄影机、激光雷达等,让开发者可以轻松串接影像讯息结合AI运算,而工业级小体积设计更适合放在边缘端应用,即使在英伟达Jetson AGX Orin运行满载时,出色的散热设计也能防止系统过热确保正常运行。


边缘生成式AI系统反应更实时,应用更多元


生成式AI通过从不同的输入和输出(例如文本和图像)创建新内容,正在改变人与计算机的互动方式。从云端到边缘端,边缘端生成式AI更适合需要快速反应和低延迟环境的良好解决方案。在边缘端生成式AI相对于云端生成式AI的解决方案具有以下几点优势:


实时反应:根据摄影机和传感器等数据来源的边缘计算系统能够立即回应,无需等待与云端上传数据造成的延迟。


数据安全:数据储存在边缘系统中,大幅降低云端数据传输相关的安全风险。


稳定的网络连接:即使没有无线网络,边缘系统也能够操作并将数据存储在本地端,直到网络恢复,而云端生成式AI在没有网络时将无法运作。


低传输成本:边缘端AI因不需要随时传输数据给云端,仅需低量传输,比云端AI随时上传数据更具成本效益。


边缘生成式AI代表了人工智能时代的未来。研华MIC-733-AO边缘生成式AI系统,整合英伟达Jetson AI实验室的生成式AI模型,为AI开发者提供了一个简单的解决方案。


如果您对研华MIC-733-AO边缘生成式AI系统感兴趣,可联系研华当地业务,或者前往官网www.advantech.com.cn了解产品详细,2024年5月,研华将在深圳、上海、武汉、北京举办AI Solution Day全国巡演,届时将展示Jeston AI全家族产品,欢迎感兴趣的伙伴积极报名。


关于研华


研华为物联网智能系统与嵌入式平台产业之全球领导厂商,并以「智能地球的推手」作为企业品牌愿景。为迎接物联网、大数据与人工智能之大趋势,研华提出以工业物联网云平台WISE PaaS为核心之物联网软、硬件解决方案,以协助伙伴客户串接产业链;此外,亦积极偕同各产业伙伴「共创」产业生态圈,以加速实践产业智能化之目标。(www.advantech.com.cn)


审核编辑(
黄莉
)
投诉建议

提交

查看更多评论
其他资讯

查看更多

研华发布RK3588 SMARC 2.1核心模块ROM-6881

研华与臻鼎达成战略合作

加速推进边缘AI应用落地,赋能产业智能化转型

AI引爆边缘计算变革,塑造嵌入式产业新未来

超越尺寸限制:ROM-2820 OSM超小型核心板迎接HMI创新潮流