一种基于云计算和深度学习的跨境电商商品归类方法与流程

xiaoxiao2026-08-30  4


本发明属于云计算和深度学习,尤其涉及一种基于云计算和深度学习的跨境电商商品归类方法。


背景技术:

1、跨境电商平台由于其多语言、多文化、多类别的商品特性,对商品的准确归类提出了极高的要求。然而,目前的商品归类方法在应对这一复杂场景时存在明显不足。最关键的问题是现有方法难以实现对多模态数据的有效融合与处理。

2、具体来说,多模态数据包括商品图像、文本描述、用户评论和语音信息等,这些数据来源丰富且格式多样,但现有归类技术大多只处理单一模态的数据。单一模态处理方法的局限性在于无法充分利用不同模态数据中的丰富信息,从而导致归类的准确性和可靠性较低。例如,基于文本的归类方法依赖于商品描述的完整性和准确性,但在面对多语言或翻译不当的描述时,表现往往不理想。同样,基于图像的归类方法虽然能捕捉商品的视觉特征,但在缺乏上下文信息时,归类准确性也会受到影响。

3、此外,跨境电商平台上新商品层出不穷,而新商品通常缺乏足够的标注数据。传统归类模型需要大量标注数据进行训练,在面对新商品时表现出明显的冷启动问题,难以提供准确的归类结果。这进一步加剧了多模态数据处理的难度。

4、市场和用户需求的快速变化也对归类模型提出了挑战。现有方法通常缺乏动态调整的能力,无法根据实时数据和市场变化进行自适应优化,导致归类效果不稳定,难以保持持续高效的归类性能。大规模商品归类任务还需要强大的计算资源和存储能力,传统的单机或小规模集群难以满足这一需求,限制了归类模型的训练效率和处理能力。

5、因此,为了提升跨境电商平台的商品归类效果,需要一种能够有效融合多模态数据、解决新商品冷启动问题、具备动态适应能力并且依托强大计算资源的商品归类方法,来全面提升归类性能。


技术实现思路

1、本发明的目的设计一种基于云计算和深度学习的跨境电商商品归类方法,通过创新的多模态数据融合、自适应学习、图神经网络建模和云计算平台支持,全面提升了跨境电商平台的商品归类效果和用户体验。通过解决多模态数据处理、新商品冷启动、动态适应性和计算资源限制等问题,本发明为跨境电商商品归类提供了一个高效、准确和适应性强的解决方案。

2、为了达到上述目的,在本发明提供了一种基于云计算和深度学习的跨境电商商品归类方法,方法包括以下步骤:

3、s1、从跨境电商平台上收集多模态商品数据并对多模态商品数据进行预处理,对预处理后的多模态商品数据进行对齐操作和标准化处理;

4、s2、对预处理后的多模态商品数据进行多模态特征提取和特征融合,得到多模态融合特征向量;

5、s3、使用与模型无关的元学习设计元学习框架,并对元学习框架进行多任务训练和少样本学习,并在元学习框架的少样本学习中引入特征增强与自监督学习,使用元学习框架在少样本学习的参数对融合特征向量进行归类预测;

6、s4、使用图神经网络对跨境电商平台上的商品及其关系进行商品关系图构建,商品关系图输出最终的商品特征表示;

7、s5、构建基于深度学习的归类模型,使用最终的商品特征表示作为归类模型的输入,将归类模型部署到云计算平台,利用分布式计算资源进行并行训练,然后对归类模型进行评估和验证;

8、s6、动态分配和管理云计算资源,利用云计算平台对归类模型进行分布式训练;

9、s7、将训练好的归类模型部署到跨境电商平台;

10、其中,所述步骤s3,具体包括:

11、s31、设计元学习框架:

12、将所述s2得到的多模态融合特征向量ffinal输入到元学习模型中,在学习阶段,使元学习模型学习初始参数θ,然后对元学习模型进行多任务训练,对初始参数θ进行优化,表示如下:

13、

14、其中,θ为初始参数,ti为任务,p(t)为任务分布,为损失函数,α为学习率,θ*表示已学习的模型参数,表示对初始参数θ求梯度,表示使得损失函数最小化的初始参数θ,表示任务ti上的损失函数;

15、s32、定义不同的商品归类任务,形成任务集合t,在元学习模型的多任务训练阶段,对初始参数θ进行更新:

16、从任务集合t中随机抽取任务ti,对每个任务ti,元学习模型使用少量样本进行适应,并计算梯度并更新参数,在每次任务训练结束后,将更新后的参数进行反向传播,优化全局参数θall,表示如下:

17、

18、其中,β表示元学习率;

19、s33、在元学习阶段结束后,针对具体的新商品归类任务进行少样本学习优化:

20、将新商品的少量训练样本输入到元学习模型中,并使用已学习的模型参数θ*对进行训练样本和元学习模型适应,利用少量样本对模型进行微调,优化新商品归类任务的参数,表示如下:

21、

22、其中,θnew表示新任务的优化参数,表示新任务的损失函数,表示对已学习的模型参数θ*求梯度;

23、s34、在所述针对具体的新商品归类任务进行少样本学习优化的基础上,引入特征增强与自监督学习技术,优化少样本学习的训练:

24、使用自监督学习方法,通过对无标签数据的预训练,生成特征向量fssl,将自监督学习生成的特征向量fssl与少样本学习生成的特征向量ffew进行融合,得到增强的特征向量fenhanced,表示如下:

25、fssl=selfsupervisedlearning(x)

26、fenhanced=ffew+λfssl

27、其中,x表示无标签数据,λ表示融合权重,selfsupervisedlearning表示自监督学习;

28、s35、使用优化后的参数θnew对融合特征向量fenhanced进行归类预测:

29、将融合特征向量fenhanced输入到少样本学习优化后的元学习模型中,利用优化后的元学习模型对新任务的优化参数θnew进行归类预测,输出最终的商品类别,表示如下

30、

31、其中,表示预测的商品类别,predict表示归类预测函数。

32、进一步地,所述多模态商品数据包括图像、文本描述、用户评论和语音信息。

33、进一步地,所述预处理包括图像增强、文本数据预处理、语音数据预处理;所述对齐操作包括图像与文本对齐和文本与语音对齐;所述标准化处理包括图像标准化、文本标准化和语音标准化。

34、进一步地,在所述s2中,使用改进的视觉transformer模型来提取图像特征;使用改进的bert模型来提取文本特征;使用改进的语音transformer模型来提取语音特征;其中,所述改进的视觉transformer模型,表示如下:

35、fi=weightedaverage(transformerencoder(p(i′+posemb)))

36、其中,i′表示预处理后的图像,p表示图像块展平操作,posemb表示位置嵌入,transformerencoder表示transformer编码器,fi表示最终的图像特征向量;

37、所述改进的语音transformer模型,表示如下:

38、ft=weightedaverage(bertencoder(t″))

39、其中,t″表示预处理后的文本,bertencoder表示bert编码器,ft表示最终的文本特征向量;

40、所述改进的语音transformer模型,表示如下:

41、fs=weightedaverage(transformerencoder(q(fft(s′)+posemb)))

42、其中,s′表示预处理后的语音信号,fft表示傅里叶变换,q表示分帧操作,posemb表示位置嵌入,transformerencoder表示transformer编码器,fs表示最终的语音特征向量,weightedaverage表示加权平均函数;

43、将提取的最终的图像特征向量fi、最终的文本特征向量ft和最终的语音特征向量fs使用全连接层对拼接后的特征向量进行降维,得到最终的多模态特征向量fmulti,表示如下:

44、fmulti=fc([fi;ft;fs])

45、其中,[fi;ft;fs]表示特征向量的拼接操作,且finit=[fi;ft;fs],finit表示初步融合特征向量,fc表示全连接层,fmulti表示最终的多模态特征向量,

46、进一步地,所述s2中还包括:使用自注意力机制对初步融合特征向量finit进行加权处理,生成加权融合特征向量fattn,使用深度融合网络对加权融合特征向量fattn进行处理,生成最终融合特征向量ffinal。

47、进一步地,所述s4,包括:

48、s41、构建商品关系图:

49、定义图的节点为每个商品vi,根据商品之间的关系定义边eij;其中,节点特征由商品的多模态特征向量ffinal表示,边特征eij由商品关系特征表示,表示如下:

50、g=(v,e,h(0),e)

51、其中,v表示节点集合,e表示边集合,h(0)表示节点初始特征矩阵,e表示边特征矩阵;

52、s42、设计多个图卷积层,逐层更新节点特征,捕捉商品之间的关系信息:

53、每个图卷积层接收上一层的节点特征h(l)和边特征e作为输入,然后计算每个节点的邻居节点特征的加权和,进行聚合操作,使用非线性激活函数对聚合后的特征进行处理,得到更新后的节点特征h(l+1),表示如下:

54、

55、其中,表示节点i在第l+1层的特征向量,n(i)表示节点i的邻居节点集合,cij为归一化系数,w(l)表示第l层的权重矩阵,b(l)表示偏置项,σ表示非线性激活函数;

56、s43、在图卷积层中引入注意力机制,对邻居节点特征进行加权:

57、为每个节点对其邻居节点计算注意力权重,同时根据注意力权重对邻居节点特征进行加权聚合,更新节点特征,表示如下:

58、

59、其中,表示节点i和节点j之间的注意力权重,表示归一化的注意力权重,a表示注意力参数向量,||表示向量连接操作,leakyrelu表示leakyrelu激活函数,表示节点i和节点k之间的注意力权重,表示节点i在第l层的特征向量,表示节点j在第l层的特征向量;

60、s44、通过对所有节点特征进行全局聚合,生成全局图嵌入向量,捉整个商品关系图的全局信息:

61、使用全局聚合函数对所有节点特征进行聚合,生成全局图嵌入向量hg,表示如下:

62、

63、其中,hg表示全局图嵌入向量,globalpooling表示全局聚合函数,表示第l层节点i的特征向量;

64、s45、进行图嵌入与多模态特征融合:

65、将全局图嵌入向量hg与多模态融合特征向量fmulti进行拼接,使用全连接层对拼接后的特征向量进行处理,生成最终的商品特征表示ffinal,表示如下:

66、ffinal=fc([hg;fmulti])

67、其中,[hg;fmulti]表示特征向量的拼接操作,fc表示全连接层,ffinal表示最终的商品特征表示。

68、进一步地,所述基于深度学习的归类模型的损失函数,表示如下:

69、

70、其中,表示交叉熵损失,n表示节点样本数量,ytrue,i和yi分别表示第i个节点样本的真实标签和预测概率;

71、在损失函数中加入l2正则化项,控制模型参数的复杂度,表示如下:

72、

73、其中,为正则化后的损失函数,λ为正则化系数,为模型参数中的第k项;

74、所述将归类模型部署到云计算平台,利用分布式计算资源进行并行训练,表示如下:

75、wf←cloudtrain(x,y,wf,bf)

76、其中,cloudtrain表示在云计算平台上进行训练的操作,wf和bf分别表示为更新的归类模型的权重和偏置参数,x表示归类模型的输入特征矩阵,y表示输出的商品类别概率分布。

77、进一步地,所述利用云计算平台对归类模型进行分布式训练,表示如下:

78、

79、其中,θt表示时间t的模型参数,η表示学习率,n表示节点样本数量,表示第i个节点样本的损失函数。

80、进一步地,在所述s7中,还包括,使用容器化技术对归类模型进行封装,并对归类模型进行a/b测试。

81、进一步地,所述归类模型使用adam优化器计算梯度并更新归类模型参数,最小化交叉熵损失,表示如下:

82、

83、其中,wf和bf分别表示模归类模型参数,η表示学习率,和分别表示一阶和二阶矩估计,∈表示稳定项。

84、本发明的有益技术效果至少在于以下几点:

85、(1)本发明采用先进的多模态数据融合技术,利用视觉transformer(vit)提取商品图像特征,bert模型处理商品描述和用户评论文本数据,以及语音识别模型处理语音数据。通过自注意力机制将不同模态的数据进行特征融合,形成统一的商品特征向量,有效提升归类的准确性。这解决了现有方法难以充分利用多模态数据的丰富信息的问题。

86、(2)本发明引入元学习框架,使模型能够快速适应新商品类别和市场变化。同时,利用少样本学习技术,即使在数据稀缺的情况下,模型仍能保持高效的归类性能,解决了新商品冷启动问题。这确保了在跨境电商平台上新商品不断涌现的情况下,归类模型仍能提供准确的归类结果。

87、(3)本发明自适应学习模型能够根据不同市场的商品特点和用户行为数据进行动态调整,通过自适应学习算法,自我优化归类标准,提高归类的准确性和适应性,从而更好地满足跨境电商平台的动态需求。此创新点解决了现有方法缺乏动态调整能力,无法根据市场变化进行优化的问题。

88、(4)本发明利用图神经网络对商品及其关系(如品牌、类别、用户评价等)进行建模,捕捉商品之间的复杂关系信息。通过动态更新商品关系图,根据用户行为和市场变化实时调整图结构,进一步提高归类模型的动态适应能力。这使得归类模型能够在复杂的商品关系网络中准确归类。

89、(5)本发明依托云计算平台(如aws、googlecloud)进行大规模分布式训练,提升模型的训练效率和处理能力。云平台还支持模型共享与协作学习,不同跨境电商平台可以共享归类模型,提高整体归类性能。通过云计算平台实现实时数据处理和模型更新,确保系统的响应速度和准确性。这一创新点解决了传统方法在计算资源和存储能力上的限制问题。

90、(6)本发明不仅能够高效处理多模态数据,解决新商品冷启动问题,还具备动态适应能力,并充分利用云计算的强大资源,显著提升了跨境电商平台的商品归类效果和用户体验。


技术特征:

1.一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述方法包括:

2.根据权利要求1所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述多模态商品数据包括图像、文本描述、用户评论和语音信息。

3.根据权利要求2所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述预处理包括图像增强、文本数据预处理、语音数据预处理;所述对齐操作包括图像与文本对齐和文本与语音对齐;所述标准化处理包括图像标准化、文本标准化和语音标准化。

4.根据权利要求1所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,在所述s2中,使用改进的视觉transformer模型来提取图像特征;使用改进的bert模型来提取文本特征;使用改进的语音transformer模型来提取语音特征;其中,所述改进的视觉transformer模型,表示如下:

5.根据权利要求4所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述s2中还包括:使用自注意力机制对初步融合特征向量finit进行加权处理,生成加权融合特征向量fattn,使用深度融合网络对加权融合特征向量fattn进行处理,生成最终融合特征向量ffinal。

6.根据权利要求1所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述s4,包括:

7.根据权利要求1所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述基于深度学习的归类模型的损失函数,表示如下:

8.根据权利要求7所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述利用云计算平台对归类模型进行分布式训练,表示如下:

9.根据权利要求7所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,在所述s7中,还包括,使用容器化技术对归类模型进行封装,并对归类模型进行a/b测试。

10.根据权利要求7所述的一种基于云计算和深度学习的跨境电商商品归类方法,其特征在于,所述归类模型使用adam优化器计算梯度并更新归类模型参数,最小化交叉熵损失,表示如下:


技术总结
本发明提出了一种基于云计算和深度学习的跨境电商商品归类方法,包括:从跨境电商平台上收集多模态商品数据并对多模态商品数据进行预处理;对预处理后的多模态商品数据进行多模态特征提取和特征融合;设计元学习框架;使用图神经网络对跨境电商平台上的商品及其关系进行商品关系图构建;构建基于深度学习的归类模型,使用最终的商品特征表示作为归类模型的输入,将归类模型部署到云计算平台;利用云计算平台对归类模型进行分布式训练;将训练好的归类模型部署到跨境电商平台。本发明不仅能够高效处理多模态数据,解决新商品冷启动问题,具备动态适应能力,并充分利用云计算的强大资源,提升了跨境电商平台的商品归类效果。

技术研发人员:田维军,金海斌,吴神龙
受保护的技术使用者:广州跨易信息科技有限公司
技术研发日:
技术公布日:2024/9/23
转载请注明原文地址:https://www.famiwei.com/read-9026793.html

最新回复(0)