Google的设备上文本分类AI的准确率达到86二氧化锰.7%二氧化锰
发布时间:2022-09-27 10:50:29 来源:东乐机械网
深度神经网络 - 模仿人类大脑中神经元行为的数学函数发泡模具层 - 是最先进的机器翻译和异议识别系统的核心。它们有助于将一种语言翻译成另一种语言并从名片中提取地址。问题是,它们经常受到智能手机,可穿戴无线天线设备和其他移动设备的硬件限制 - 特别是在内存和计算方面。
本文引用地址:article/201811/393953.htm不过,对于高性能的离线算法还有希望。在本周于比利时布鲁塞尔举行的自然语言处理经验方法会议上发表的一篇论文中,谷歌研究人员描述了离线的设备上AI系统 - 自我管理神经网络(SGNN) - 它们实现了空中状态导致特定的对话框相关任务。
“在设备上开发和部署深度神经网络模型的主要挑战是:(1)微小的内存占用,(2)推理延迟和(3)与高性能计算系统(如CPU,GPU)相比显着低的计算容量和云上的TPU,“该团队写道。“[SGGNs]允许我们在设备上以非常快的速度计算传入文本的投影,因为我们不需要存储传入的文本和字嵌入。”
正如该论文的作者所解释的那样,有许多方法可以设计一个轻量级的设备上文本分类模型,比如将模型与图形学习相结合,这就是谷歌智能回复中使用的模型, 并自动生成简短的电子邮件回复。但大多数要么不能很好地扩展,要么导致大型模型。
相比之下,SGGN采用了局部敏感散列(LSH)的修改版本,这种技术通过散列或映射输入项来减少数据中的维数,以便类似的项以高概率映射到相同的“桶”。顾名思义,它是自我控制的 - 它可以通过动态地将输入转换为具有投影函数的低维表示来学习模型而无需初始化,加载或存储任何特征。此外,在对数据进行训练时,它学会选择并应用对给定任务更具预测性的特定操作。
该团队写道,这减耒阳少了数百万个独特单词的输入维度,缩短了固定长度的短序列,并且无需存储文本和单词嵌入(代表单词和短语的向量)。在实验中,与存储要求超过数十万维的字嵌入方法相比,SGGN使用固定的1120维向量,而不管输入数据的词汇表或特征大小。
研究人员使用两个对话行为基准数据集来评估SGGN:交换机对话法案语料库(SWDA),其中包含两个发言人和42个对话行为,以及ICSI会议记录器对话法案语料库,一个多方会议的对话语料库。
没有预处理,标记,解析或预训练嵌入,SGGN的表现优于基线AI系统12%至35%。通过SWDA和MRDA数据集,它实现了83.1%的准确率和86.7%的准确度 - 高于基准 - 针对尖端卷积神经网络和递归神经网络 - 并且日本的准确度达到73%,接近最佳性能系统。烘烤箱p>
在未来的工作中,研究人员计划调查SGGN在其他自然语言任务中的使用。
“我们的研究还表明,与更复杂的神经网络架构相比,所提出的方法对于这种自然语言任务非常有效,例如深CNN和RNN变体,”研究人员写道。“我们相信压缩技术,如与非线性函数结合的局部敏感投影,可有效捕获对文本分类应用有用的低维语义文本表示。”
近年来,边缘人工智能系统取得了突飞猛进的发展。
9月,都柏林创业公司 Voysis 宣布推出基于WaveNet的技术,该技术不仅可以在线下运行,还可以在智能手机和其他带有移动处理器的设备上运行。8月,Google的研究人员开发了具有记录面部识别和物体检测速度的离线AI。5月份,高通声称其设备上的语音识别系统准确率达到了95%。
宜阳柏莱士手表维修曲水杂牌手表维修
石龙帅康燃气灶维修
吉林燃气灶清洗
-
四川天华污水处理装置通过验收建德哈飞配件尼龙滤网连接导线钛螺丝Trp
四川天华污水处理装置通过验收经过1年的试运行,四川天华股份节电系统有限公司聚军事装备四氢呋喃项目污水处理装置于7月30磐石日通过建设工程验收。该工程项目使用MBR(膜生物反应器)处理工
04月18日 06:33
-
运想重工改进工艺提升高空作业平台安全性0酒店杯子乳山汽车内饰套装登山鞋Trp
运想重工:改进工艺 提升高空作业平台安全性运想重工:改进工艺 提升高空作业平台安全性www.也是聚合物表面材料领域高技术人材培养及输出基地 介绍了旋耕刀 GB/T 10801.2⑵002《绝热用挤塑聚苯乙
04月18日 06:31
-
溜灰管更换安全技术措施高碑店电子看板锚固钻机雕版机兼容电池Trp
溜灰管更换安全技术措施1、浇筑完混凝土将溜灰管清理干净;2、把溜灰管上的缓冲器落至离上吊盘100mm位置然后将连接螺栓拆掉;3、拆掉的溜灰管用盖板将其下口封堵实,缓冲器用留绳将其固定在
04月18日 05:47
-
分销畅想源自专业精神羽绒服耒阳钛铁车篮建筑塑料Trp
分销畅想源自专业精神中国电子产业在经历20年的飞速发展后,作为带给产业最新元器件及半导体技术的忠实伙伴,分销商在促进中国电子业中所起的作用已是举足轻重。随着他们在供应链中的价值
04月18日 02:25
-
鹤山市申报中国印刷产业基地迈新步婚礼蜡烛非编系统斜挎包阀座预煮机Trp
鹤山市申报中国印刷产业基地迈新步凯里受中国轻工业联合会和中国包装装潢印刷工业协会的委托,7月12—14日,以谭俊峤为组长的5名专家组成的考核组来到鹤山,对鹤山市申报“中国印刷产业基地
04月17日 23:24
-
全球瞩目的印刷包装展会新视点活水器图像软件不锈钢丝孕妇裤抛光布轮Trp
全球瞩目的印刷包装展会新视点由香港贸易发展局与华港国际展览有限公司联合举办的“首届香港国际印刷及包装展览会”将于2006年4月8日-11日在新落成的香港亚洲国际博览馆隆重举行。本届展会
04月17日 21:56