您的位置首页 >资讯 >

人工智能通过SolidRun和Gyrfalcon的AI推理服务器进入边缘

导读 给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解,所以边肖也在网上搜集了一些关于手机和互联网的相关知识

给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解,所以边肖也在网上搜集了一些关于手机和互联网的相关知识与大家分享。希望大家看完之后会喜欢。

你需要边缘AI视频智能设备吗?然后,高性能边缘计算硬件的开发者和制造商SolidRun,以及ASIC芯片制造商Gyrfalcon Technology,为你提供了一个服务器:基于Arm和Linux的Janux GS31 AI推理服务器。

什么是AI推理服务器?例如,一旦使用机器学习来训练神经网络以识别汽车和空间,所学到的经验教训就可以被构建到应用程序中。然后,程序可以根据它的训练来推断关于新数据的信息。所以,比如有人超速或者闯红灯,AI授权的交警可能会做出推论。

当然,如果你想实时处理这个,你需要一台电脑在边缘延迟一到两秒,而不是在云数据中心。这就是Janux GS31出现的地方。

Janux GS31是一款机架式1U服务器。其核心是采用CEx7 LX2160A 16核Arm Cortex A72 CPU。凭借其真正的处理能力,它可以使用多达128个GyrfalconLightspeeur SPR2803 AI加速芯片和32个i.MX8M片上系统(SoC)。对于快速内存,它使用高达64GB的双通道内存。

这支持所有主要的神经网络框架。具体来说,它支持开源的TensorFlow、Caffe和PyTorch框架。

它旨在支持最高128个1080p/60Hz视频通道的超低延迟解码和视频分析。这使得它非常适合监控智能城市和基础设施、智能企业/工业视频监控应用,以及为基于文本的搜索标记照片和视频。

制造商声称,它可以将片上系统(SoC)和基于GPU的系统的性能提高几个数量级,同时只消耗具有相当计算能力的系统的一小部分能量。

SolidRun首席执行官阿泰齐夫博士在一份声明中表示:“强大的新人工智能模型将分分钟被引入市场,部署这些人工智能模型的人工智能推理解决方案的需求正在快速增长。”“尽管基于GPU的推理服务器在基于云的应用中获得了广泛关注,但对边缘优化解决方案的需求日益增长,这些解决方案提供了强大的AI推理,并且比基于云的解决方案具有更少的延迟。与Gyrfalcon合作并利用其成熟的ASIC,使我们能够为在Edge上部署AI创建一个强大且经济高效的解决方案,以提供无缝的可扩展性。”

本文就为大家讲解到这里了。

标签:

免责声明:本文由用户上传,如有侵权请联系删除!