英语原文共 9 页，剩余内容已隐藏，支付完成后下载完整资料
有效的低秩张量环完成
王文琪，Vaneet Aggarwal和Shuchin Aeron
arXiv：1707.08184v1 [cs.LG] 2017年7月23日
摘要 - 利用最近提出的张量环分解的矩阵积状态（MPS）表示，本文提出了一种张量完成算法，它是一种交替最小化算法，它交替MPS表示中的因子。 这种发展的动机部分是由于矩阵完成算法在（低阶）因子上交替的成功。 在本文中，我们提出了张量环完成算法的谱初始化，并分析了该算法的计算复杂度。 我们将其与现有的方法进行数值比较，该方法使用低秩张量训练近似来完成数据，并显示我们的方法胜过现有的各种实际计算机视觉设置，因此证明张量环与张量相比具有改进的表现力培养。
- 介绍
用于表示和存储数据的张量分解最近引起了相当大的关注，因为它们在压缩用于统计信号处理的数据方面是有效的 [1]–[5]. 在本文中，我们将重点放在张量环（TR）分解上 [6] 特别是它与矩阵产品国家（MPS）的关系， [7] 表示张量表示并将其用于完成缺少条目的数据。 在这种情况下，我们的算法受最近在矩阵完成中的工作所驱动，其中在合适的初始化下交替最小化算法 [8], [9] 低排序因素能够准确预测缺失数据。
最近，张量网络被认为是张量分解的泛化，已经成为分析大规模张量数据的潜在强大工具 [7]. 最流行的张量网络是张量训练（TT）表示，对于尺寸为n的每个维度的d阶张量需要O（dnr2）参数，其中r是秩
的每个因素，并因此允许有效的数据
表示 [10]. 基于张量列车分解的张量完成最近已被考虑在内 [11], [12]. 作者 [11] 考虑了基于交替最小二乘法的数据完成。
虽然TT格式已经广泛应用于数值分析，但它在图像分类和完成方面的应用却相当有限 [4], [11], [12]. 如上所述 [6], TT分解受到以下限制。 也就是说，（i）TT模型需要边界因素的秩-1约束，（ii）TT等级对于近边界因素通常较小，而对于中等因素较大，以及（iii）TT因子的乘法不是置换不变的。 为了减轻这些缺点，已经提出了张量环（TR）分解 [6]. TR分解消除了边界张量因子的单位秩约束，并利用了一个
W. Wang和V. Aggarwal与普渡大学西拉斐特分校47907电子邮件：wang2041，vaneet @ purdue.edu。 S. Aeron与塔夫斯大学，梅德福，MA 02155，电子邮件： shuchin@ece.tufts.edu。
{ }
在分解中追踪操作。 核之间的多线性产品也没有严格的排序，并且由于跟踪操作的性质，核可以循环移位。 本文提供了数据完成时的数据建模为TR分解的新算法。
对于使用张量分解的数据完成，关键属性之一是等级的概念。 尽管TR中的等级是一个向量，但我们可以假设所有的等级都是相同的，与中间等级较高的张量训练情况不同，因此提供了可以基于数据和数量进行调整的单个参数的样品可用。 与张量分解相比，在张量环结构中使用跟踪操作带来了完成的挑战。 张量环结构相当于张量网络中的循环结构，理解这种结构可以帮助理解更一般的张量网络的完成。 在本文中，我们提出了一种用于张量环完成的交替最小化算法。 对于该算法的初始化，我们扩展了张量训练近似算法 [10] 为零填充丢失的数据。 此外，交替最小化中的不同子问题被转换为有效的最小二乘问题，从而显着提高了每个子问题的复杂度。 我们还分析了该算法的存储和计算复杂度。
我们注意到，据我们所知，张量环完成从来没有被调查过张量完成，尽管张量环分解已被提出 [6]. 与之相比，不同的新奇 [6] 包括初始化算法，排除张量因子的归一化，利用不完全数据交替最小化的不同子问题的结构转换为基于最小二乘的问题，以及存储和计算复杂性的分析。
该算法在各种数据集上评估，包括爱因斯坦的图像，Extended YaleFace Dataset B和高速视频。 结果与张量训练完成算法进行了比较 [11], [12], 并且与使用TT结构相比，张量环中的附加结构显示为显着改善了性能。
本文的其余部分安排如下。 在部分 II 我们介绍了关于TR分解的基本符号和预备。 在部分 III 我们概述了问题陈述并提出了主要算法。 我们还描述了该算法的计算复杂度。 接下来，我们将对该算法进行广泛的测试，以针对部分实际和合成数据实验中的竞争方法 IV. 最后我们提供结论和未来的研究方向 V. 附录提供了引证的证明。
- 符号和初步
在本文中，矢量和矩阵用粗体表示
面向小写字母（x，y，z，...）和粗体大写字母
日模式下的I阶i维的n阶张量，则表示张量内的任意条目，表示为X（i1，in），
（X，Y，Z， ） 分别。 订单超过两张的张量
· · ·
由书法字母（X，Y，Z）表示。 例如，
一个n日阶张量由Xisin;RI1times;I2times;···times;In表示，其中Ii:i=1,2,···,n是沿模式i的张量维数。 沿模式i的张量维度可以是一个表达式，
X(i1, · · · , in) =
R1 r1=1
· · ·
Rn rn=1
U1（rn，i1，r1）···
Un（rnminus;1，in，rn），
(6)
· · ·
where（）中的表达式被评估为标量，
例如X R(I1I2)times;(I3I4)times;(I5I6)表示一个3模张量，其中每个模式的尺寸是II，II和II
isin;
5 6
Ui RRI-1times;times;㈡RI是一组三阶张量，也称为
矩阵产品状态（MPS），这是基础产品状态
isin;
张量环结构。 请注意，Uj（：，ij，:)isin;RRJ-1times;1times;RJ
1 2 3 4
分别。 张量内的条目
可以看作是尺寸为RRJ-1times;RJ的矩阵，因此 (6) is
X表示为
X（i1，i2，in），其中iK：K = 1,2，...，N是沿k日模式的位置索引。 应用冒号表示张量中模式的所有元素，例如X（:, i2，in）表示沿模式1的光纤，X（:,：，i3， i4，in）表示沿着模式1和模式2等的切片。
· · ·
· · ·
· · ·
与矩阵情况下的Hadamard积类似，张量之间的Hadamard积是两张张量的入门积。 vec（）表示参数中张量的矢量化。 向量化是按照字典顺序在索引集上进行的，按照该顺序将元素堆叠在彼此之上。 张量的Frobenius范数与
·
矢量化后对应张量的矢量f2范数，
例如XF= vec（X）t#39;2。 在矩阵之间是标准
I I I I times;
矩阵产品操作。
定义1.（模式 - 我展开 [13]) 设XRI1times;···times;In是一个n模张量。 模式-I展开X，表示为X[i]，通过将矩阵日置于矩阵中对张量X进行矩阵化
isin;
行和剩余模式与列中的原始顺序相关联
X[i] isin; R二times;（I1 ... II-1II 1 ...）个. (1)
相当于
X（i，...，i）= tr（U（：，i，:)times;...times;U（：，i，:)）。 （7）备注1.（张量环等级（TR-Rank））在张量环的表述中，我们注意到张量环等级是向量
1
n
1
1
n
n
[R1，...，Rn]。 一般来说，Ri不必是相同的。 在我们的设置中，通过Ri和Riminus;1表示Ui与其余UY：焦耳/ = I之间的连接这一事实，我们设定Ri= R i = 1，...，n ，并引用标量R.
forall; · · ·
作为本文其余部分的张量环排名。
备注2.（张量列车 [10]) 当Rn= 1时，张量列是张量环的一个特例。
基于张量环结构的形式，我们定义了一个张量连接产品，MPS之间的操作，用来描述从集合中生成高阶张量X
MPSs Ui:i=1,···,n。 设R0 Rn为便于表达。
定义 5.（张量连接产品）令UiRRI-1times;times;㈡RI，i = 1， ，n为三阶张量，Uj与Uj 1之间的张量连接乘积定义为，
· · ·
isin;
Uj Uj 1isin;RRj-1times;（Ij Ij 1）times;Rj 1
定义2（左展开和右展开 [14]) 设XRRI-1times;times;㈡RI是一个三阶张量，左边的展开是通过取前两个模态索引 全文共16004字，剩余内容已隐藏，支付完成后下载完整资料
资料编号：[17071]，资料为PDF文档或Word文档，PDF文档可免费转换为Word
以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。
