lod_tensor
LoDTensor是一个具有LoD(Level of Details)信息的张量(Tensor),可用于表示变长序列,详见 LoDTensor 。
LoDTensor可以通过 np.array(lod_tensor) 方法转换为numpy.ndarray。
如果您不需要了解LoDTensor的细节,可以跳过以下的注解。
下面以两个例子说明如何用LoDTensor表示变长序列。
示例1:
假设x为一个表示变长序列的LoDTensor,它包含2个逻辑子序列,第一个序列长度是2(样本数量为2),第二个序列长度是3,总序列长度为5。 第一个序列的数据为[1, 2], [3, 4],第二个序列的数据为[5, 6], [7, 8], [9, 10],每个样本数据的维度均是2,该LoDTensor最终的shape为[5, 2],其中5为总序列长度,2为每个样本数据的维度。
在逻辑上,我们可以用两种方式表示该变长序列,一种是递归序列长度的形式,即x.recursive_sequence_length = [[2, 3]];另一种是偏移量的形式,即x.lod = [[0, 2, 2+3]]。 这两种表示方式是等价的,您可以通过LoDTensor的相应接口来设置和获取recursive_sequence_length或LoD。
在实现上,为了获得更快的序列访问速度,Paddle采用了偏移量的形式来存储不同的序列长度。因此,对recursive_sequence_length的操作最终将转换为对LoD的操作。
例子1
x.data = [[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]] x.shape = [5, 2] x.recursive_sequence_length = [[2, 3]] x.lod = [[0, 2, 5]]
例子2
y.data = [[1, 2], [3, 4], [5, 6], [7, 8], [9, 10], [11, 12], [13, 14]] y.shape = [2+2+3, 2] y.recursive_sequence_length = [[2, 1], [2, 2, 3]] y.lod = [[0, 2, 3], [0, 2, 4, 7]]