Chinaunix首页 | 论坛 | 博客
  • 博客访问: 10667
  • 博文数量: 51
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 523
  • 用 户 组: 普通用户
  • 注册时间: 2022-02-21 15:40
文章分类

全部博文(51)

文章存档

2024年(31)

2023年(20)

我的朋友

分类: 服务器与存储

2023-11-01 17:14:55

 Atlas 300I Pro 推理卡性能、应用场景、技术规格介绍

Sitonholy 思腾合力 2023-11-01 16:39 


Atlas 300I Pro 推理卡是基于昇腾AI处理器的新一代高性能推理卡,融合“通用处理器、AI Core、编解码”于一体,提供超强AI推理、目标检索等功能,具有超强算力、超高能效、高性能特征检索、安全启动等优势,可广泛应用于OCR识别、语音分析、搜索推荐、内容审核等诸多AI应用场景。




图片


性能特点



| 超强算力

单卡{BANNED}最佳大提供140 TOPS INT8算力,为数据中心推理提供更强大支持
支持 8 core * 1.9 GHz CPU计算能力


| 超高能效

提供 2 TOPS/W 超高能效比,达到业界2.1倍
高性能特征检索
支持特征检索硬件加速,亿级底库秒级查询(55亿次/秒),大幅提升检索比对性能


| 安全启动

设备启动链完整,启动初始状态确定,防止后端植入


图片


可维护性特点



 支持带内的在线升级,方便客户进行日常维护。

 支持带内及带外获取温度、电压、功耗等设备状态信息,图形界面让管理更简单。

 完备的命令行管理功能,用户可以通过各种命令进行日常的设备管理。

 支持带内及带外资产管理功能,提供序列号等信息,方便资产管理。


典型应用场景



Atlas 300l Pro 推理卡典型应用场景为搜索推荐、内容审核和OCR系统。


搜索推荐系统主要根据用户输入( 用户画像、搜索词等),通过召回和排序算法,在内容池中筛选出{BANNED}最佳终推荐的素材(视频、文本等)。主要应用在互联网等领域。搜索推荐系统主要部件有推理服务器、客户端信息化系统软件组成,Atlas 300l Pro 推理卡部署在推理服务器中,主要实现用户数据类别召回、排序、重排序等推理功能。


内容审核系统主要采用了数据评级打分算法,实现了视频、图像、语音、文本等审核功能。主要应用在互联网等领域。内容审核系统主要部件有NLP服务器、中心管理服务器、信息化系统软件组成。Atlas 300I Pro 推理卡部署在NLP服务器中,主要实现视频、图像、语音、文本的审核校验等推理功能。


OCR系统主要采用了文本检测和文本识别算法,实现了身份证实名认证、票据识别、档案资料和信息录入、电子签名识别等功能。主要应用在智慧政务、智慧金融等领域。OCR系统架构主要部件有扫描仪、OCR服务器、中心管理服务器、信息化系统等软件组成。Atlas 300I Pro 推理卡部署在OCR服务器中,主要实现图片预处理、文本检测、文本识别、后处理校验等推理功能。


推理卡技术规格



图片

阅读(96) | 评论(0) | 转发(0) |
0

上一篇:思腾 GPU服务器

下一篇:思腾 GPU服务器

给主人留下些什么吧!~~