产业新知热门
加国央行再次疯狂加息 月供将暴涨 物价竟会这样变化 无人幸免的购物节“大逃杀” 兼职做自媒体这些天:有人年入五块四,有人时薪一百二 瞄准数亿过敏人群,以过敏数字疗法为切点,杭州数智医掘金新蓝海 武汉大学疑似出现霍乱病例 期货不严格止损是超短线交易失败的根源 ,精细赛道也能走到上市! 预制菜,会有“刺客”吗推荐资讯
让区块链变成人人可用的工具,上海原创Web3.0操作系统是如何诞生的 隐私之变|自我主张时代变革,从构建WEB3.0的ID体系开始 被投资圈盯上,风头超过元宇宙,Web3.0到底是啥? Web3.0,勾勒下一代互联网模样 为什么说中国汽车产业已经真正“支棱”起来了 我在新能源汽车行业打工10年:从月薪2千涨至年薪40万,终于熬出头 对话梅宏院士:数字化转型不是想不想,而是必须转 王兴继续“电商零售梦”:告别社区团购 美团优选变身明日达超市【ICML2022】深度学习中的协同和对称:数据、模型和推理算法之间的交互
来源:专知
当这些对称性与数据分布的对称性相容时,学习效率最高。
尽管人们普遍认为高维学习面临维数灾难,但现代机器学习方法往往表现出惊人的能力,可以在不使用大量数据的情况下解决各种具有挑战性的现实世界学习问题。这些方法究竟是如何打破这一诅咒的,仍然是深度学习理论中一个根本的开放问题。虽然以前的努力通过研究数据(D)、模型(M)和推理算法(I)作为独立模块来研究这个问题,但在本文中,我们将三元组(D, M, I)作为一个集成系统来分析,并识别有助于减轻维度诅咒的重要协同作用。我们首先研究了与各种学习算法(M, I)相关的基本对称性,重点关注深度学习中的四种原型架构:全连接网络(FCN)、本地连接网络(LCN)和带池化和不带池化的卷积网络(GAP/VEC)。我们发现,当这些对称性与数据分布的对称性相容时,学习效率最高,而当(D, M, I)三元组中的任何成员不一致或次优时,学习效率显著下降。
https://arxiv.org/pdf/2207.04612.pdf
更多相关内容
-
【390】乐妈学习分享:2年时间我和乐乐共同学习了16期各种类型的软实力课程,飞速成长~
刻意练习 终身成长 第390篇 约2171字 草稿累积约619782字 往期文章请点击如下链接:
-
辛苦打工10年,只换来一身病痛:原来我竟是个铁憨憨!
01 来访者吴芳(化名)前来咨询时是一家公司的财务人员,她做了10多年的财务工作,但不知为何,总是...
-
CloudX云智能学院丨人工智能技术图谱,AI高阶——顶会论文
由阿里云天池倾力打造的AI技术学习图谱,配套有免费算力、珍稀数据集,钉钉群答疑等资源和服务,助力学...
-
中国PaaS市场群雄逐鹿,究竟谁能笑傲江湖
一家云服务商需要具备怎样的能力,才能在群雄逐鹿的中国PaaS市场笑傲江湖?群雄逐鹿的中国PaaS市场众所...
-
这届年轻人是真的很喜欢看直播学习!
哈喽,大家好,我是小谷~ 前有网友看 刘畊宏来锻炼身体,现有大家看 董宇辉(新东方直播老师)学英...
-
抖音评论引流有用吗
现在是秋天,早上和晚上全身都很冷!感觉就像风一样!但从另一个角度来看,秋天是丰硕的!这是一个收获...
-
深度学习论文精读[GAN]:利用深度生成先验进行多用途图像修复与处理
笔者最近在集中时间学习 对抗生成网络(GAN) ,特别是深度生成先验进行多用途图像修复与处理,...
-
800字+两小时,掌握nlp自监督学习!文末福利!
不要错过文末福利❤ 扫盲自监督无监督 (有不少同
-
还有这好事
点击?蓝字关注学姐,文末留言送80cm鼠标垫 作者:学姐 当你打算打比赛
-
26.1万栋经营性自建房存在安全隐患!检测鉴定人才缺口大,学习1个月,做懂鉴定的结构人!
7月8日,全国自建房安全专项整治工作推进现场会在浙江省杭州市召开。会议指出,各地区、各部门高度重视...
推荐阅读