IT之家注:Raptor Gen AI 加速卡此前称为 N3000,帮助企业在现有解决方案情况下,小成本部署大型语言模型(LLM)。
我们很高兴能在 2024 年消费电子展上向业界推出我们的 Raptor 芯片和 Evo 卡。
通过 Neuchips 的新产品,任何组织现在都可以利用 LLM 的强大功能来实现广泛的人工智能应用。
根据新闻稿,Raptor Gen AI 加速卡的每秒算力为 200 TOPS,在矩阵乘法、矢量和嵌入表查找等 AI 推断运算方面表现出色,适合生成式 AI 等场景。
Evo 还具有 100% 的可扩展性,客户可以通过轻松添加更多芯片来线性提高性能。Neuchips 指出,这种模块化设计有助于确保客户为未来的人工智能工作负载进行投资生产。
此外,Neuchips 还在预告其即将推出的半高半长(HHHL)外形产品 Viper,该产品将于 2024 年下半年推出。该公司表示,Viper 将拥有“更大的部署灵活性”,以紧凑、小巧的设计带来数据中心级人工智能加速。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。