工控網(wǎng)首頁
>

新聞中心

>

新品速遞

>

研華推出面向生成式 AI 的邊緣 AI 服務器解決方案

研華推出面向生成式 AI 的邊緣 AI 服務器解決方案

2024/7/17 13:12:03

2024年6月4日—— 全球工業(yè)物聯(lián)網(wǎng)廠商研華科技宣布,采用Phison的aiDAPTIV+專利技術,為生成式人工智能(Generative AI)提供開創(chuàng)性的邊緣AI服務器解決方案。AIR-520 Edge AI Server采用AMD EPYC 7003系列處理器,集成了SQ ai100 AI SSD、NVIDIA RTX GPU卡、Edge AI SDK和NVIDIA AI Enterprise,提供了一個可立即部署的解決方案。


大型語言模型(LLM)等生成式AI工具正通過自動化數(shù)據(jù)組織、檢索和分析改變企業(yè)知識管理,提高生產(chǎn)力并改善決策。定制大型語言模型(LLM)提高了準確性,而邊緣訓練則增強了數(shù)據(jù)隱私屬性(成本相應提高)。該方案支持大型語言模型(LLM)微調配備1-4個顯卡和SQ AI100 AI SSD,供企業(yè)經(jīng)濟高效地訓練大型語言模型(LLM),同時保護邊緣敏感數(shù)據(jù)安全。 


image.png


適用于不同應用的四種解決方案


對此研華提供四種選擇:AIR-520-L13B/L33B/L70B和L70B-Plus,針對不同規(guī)模和應用量身定制。L13B非常適合聊天機器人和語言翻譯提高生產(chǎn)力和內容創(chuàng)作創(chuàng)新能力。L70B擅長專業(yè)領域的復雜數(shù)據(jù)分析和決策。此外,L70B-Plus配備了NVIDIA AI Enterprise軟件平臺,提供端到端的、可靠的優(yōu)化AI SDK,提供長期支持和專家咨詢服務,保障業(yè)務場景中的高效部署。


安裝簡單快捷,優(yōu)化成本效益 


所有解決方案均包含SQ AI100 AI SSD,后者采用群聯(lián)(Phison)aiDAPTIV+技術。此系列SSD充當顯卡vRAM的擴展,使系統(tǒng)能夠使用最少的顯卡對大型語言模型(LLM)實現(xiàn)微調。這種方案不僅減輕了客戶的預算負擔,而且相比傳統(tǒng)的大型機架式服務器,邊緣AI服務器會更加緊湊。AIR-520邊緣AI服務器專為各種邊緣AI應用設計,尺寸與臺式電腦相當,并且可以通過適當?shù)母郊惭b在機架上。憑借輕薄的設計,該產(chǎn)品可以實現(xiàn)在邊緣AI微調環(huán)境中的輕松部署,打消了客戶在空間和維護上的憂慮。


通過軟件服務快速跟蹤生成式AI的開發(fā)


除了大型語言模型(LLM)微調功能外,研華還提供了帶有生成式AI訓練工作室的邊緣AI SDK,預裝了Llama-2 13B/33B/70B模型,用于聊天機器人和數(shù)據(jù)分析等應用。此舉將簡化并加速通過AIR-520進行客戶專屬大型語言模型(LLM)模型訓練和推理評估工作的進程。此外,研華的DeviceOn提供OTA軟件/容器更新和遠程管理,促進高效的邊緣AI編排和長期維護。


image.png

 

產(chǎn)品特性:


 ● 采用AMD EPYC 7003處理器的服務器級性能,提供多達64個內核、768GB DRAM和四個PCle x16擴展插槽

 ● 高達768GB DDR4 3200 DRAM

 ● 支持4個PCIe x16擴展插槽

 ● 集成1200W PSU,可為兩塊NVIDIA L40S圖形卡供電


面向生成式AI的AIR-520邊緣AI服務器方案早期樣品現(xiàn)已推出。欲了解更多信息,請聯(lián)系研華嵌入式服務專線400-001-9088或訪問研華官網(wǎng)https://www.advantech.com.cn/zh-cn/products/65f20c25-f6ef-4ab5-be3c-b7dfa7a833b3/air-520-for-gen-ai-applications/mod_e28a5af4-e51a-406f-ba57-f26675c077e7。


關于研華(Advantech)


研華成立于1983年,以“智能地球的推手”作為企業(yè)品牌愿景,一直專注于工業(yè)物聯(lián)網(wǎng)、嵌入式物聯(lián)網(wǎng)及智慧城市三大市場。為迎接AIoT與人工智能發(fā)展大趨勢,研華以Sector Driven策略全面展開布署并聚焦七大產(chǎn)業(yè),長期深耕行業(yè)市場,提升核心競爭力;同時,也以AIoT + Edge Computing邊緣硬件平臺產(chǎn)品群、工業(yè)物聯(lián)網(wǎng)軟件平臺WISE-IoT,再加入產(chǎn)業(yè)AI解決方案及行業(yè)知識,融合成為產(chǎn)業(yè)整合應用的協(xié)同共譜之經(jīng)營模式,以協(xié)助伙伴客戶串接產(chǎn)業(yè)鏈。研華業(yè)務分布全球27個國家,擁有近8,800名員工,以強大的技術服務及營銷網(wǎng)絡,為客戶提供本土化響應的便捷服務。此外,研華積極推進產(chǎn)業(yè)伙伴共創(chuàng),加速AIoT生態(tài)圈布建與發(fā)展。

(公司網(wǎng)址:www.advantech.com.cn)


關于研華IoT嵌入式平臺事業(yè)群(EIoT , Advantech Embedded IoT Group)

研華嵌入式物聯(lián)網(wǎng)平臺事業(yè)群提供全系列嵌入式計算機板卡、智能系統(tǒng)、外圍模塊、軟件服務經(jīng)銷以及客制化設計導入服務,涵蓋全產(chǎn)品研發(fā)設計、制造與全球銷售與服務,并專注垂直產(chǎn)業(yè)發(fā)展。為迎接物聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能的發(fā)展,我們還提供從邊緣運算(EdgeComputing)到云服務(Cloud Services) 的物聯(lián)網(wǎng)整合解決方案,包含AIW無線解決方案、IoT Gateway 網(wǎng)關、EIS邊緣智能服務器及WISE-PaaS/DeviceOn智能化設備維運管理軟件、WISE-PaaS物聯(lián)網(wǎng)軟件平臺及主流第三方云服務平臺,更針對人工智能應用推出一系列Edge AI模塊,推理系統(tǒng)及產(chǎn)業(yè)解決方案,專注產(chǎn)業(yè)物聯(lián)網(wǎng)解決方案開發(fā)及區(qū)域深耕。(服務專線/QQ:400-001-9088)


關于研華(Advantech)


研華成立于1983年,以“智能地球的推手”作為企業(yè)品牌愿景,一直專注于工業(yè)物聯(lián)網(wǎng)、嵌入式物聯(lián)網(wǎng)及智慧城市三大市場。為迎接AIoT與人工智能發(fā)展大趨勢,研華以Sector Driven策略全面展開布署并聚焦七大產(chǎn)業(yè),長期深耕行業(yè)市場,提升核心競爭力;同時,也以AIoT + Edge Computing邊緣硬件平臺產(chǎn)品群、工業(yè)物聯(lián)網(wǎng)軟件平臺WISE-IoT,再加入產(chǎn)業(yè)AI解決方案及行業(yè)知識,融合成為產(chǎn)業(yè)整合應用的協(xié)同共譜之經(jīng)營模式,以協(xié)助伙伴客戶串接產(chǎn)業(yè)鏈。研華業(yè)務分布全球27個國家,擁有近8,800名員工,以強大的技術服務及營銷網(wǎng)絡,為客戶提供本土化響應的便捷服務。此外,研華積極推進產(chǎn)業(yè)伙伴共創(chuàng),加速AIoT生態(tài)圈布建與發(fā)展。

(公司網(wǎng)址:www.advantech.com.cn)


關于研華IoT嵌入式平臺事業(yè)群(EIoT , Advantech Embedded IoT Group)


研華嵌入式物聯(lián)網(wǎng)平臺事業(yè)群提供全系列嵌入式計算機板卡、智能系統(tǒng)、外圍模塊、軟件服務經(jīng)銷以及客制化設計導入服務,涵蓋全產(chǎn)品研發(fā)設計、制造與全球銷售與服務,并專注垂直產(chǎn)業(yè)發(fā)展。為迎接物聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能的發(fā)展,我們還提供從邊緣運算(EdgeComputing)到云服務(Cloud Services) 的物聯(lián)網(wǎng)整合解決方案,包含AIW無線解決方案、IoT Gateway 網(wǎng)關、EIS邊緣智能服務器及WISE-PaaS/DeviceOn智能化設備維運管理軟件、WISE-PaaS物聯(lián)網(wǎng)軟件平臺及主流第三方云服務平臺,更針對人工智能應用推出一系列Edge AI模塊,推理系統(tǒng)及產(chǎn)業(yè)解決方案,專注產(chǎn)業(yè)物聯(lián)網(wǎng)解決方案開發(fā)及區(qū)域深耕。(服務專線/QQ:400-001-9088)


審核編輯(
李娜
)
投訴建議

提交

查看更多評論
其他資訊

查看更多

研華AIR-150掌上型Hailo-8 AI推理系統(tǒng)震撼上市!

研華RK平臺單板&麒麟操作系統(tǒng) 助力船載信息系統(tǒng)擁抱國產(chǎn)化

研華發(fā)布新一代基于昇騰平臺的輕量級邊緣AI產(chǎn)品

研華發(fā)布RK3588 SMARC 2.1核心模塊ROM-6881

研華與臻鼎達成戰(zhàn)略合作