搜索引擎主题模型优化(搜索引擎主题模型优化基于tensorflow的深度学习模型(组图))
优采云 发布时间: 2022-01-01 11:11搜索引擎主题模型优化(搜索引擎主题模型优化基于tensorflow的深度学习模型(组图))
搜索引擎主题模型优化基于tensorflow的深度学习模型优化tensorflow的深度学习模型优化不仅能模拟生成的多维数据和稀疏矩阵更容易优化复杂模型,而且能提供更高的训练效率,提升算法的稳定性。以减小模型的复杂度,使模型的参数值更接近真实数据,为真实分类做好充分准备。以上是通过几个方面考虑的结果,不是说越深度越好,只要能得到高于真实分类器的精度,那就可以。
原因之一有二,包括以下情况:1、在训练过程中,模型会逐渐参数稀疏,模型就慢慢变小了,且参数值会趋于1-1,越大的参数值误差就越高;2、使用tensorflow后,模型在训练的过程中同时还会推导生成其他结构的model,也就是model有多重置信度,在训练最后一层新模型的时候,其实不是最后一层的参数影响了最后一层的模型表现,因为每一层新模型本来就是在训练新模型时候加了callback才会在最后形成新模型。而是神经网络本身的参数变多了,所以参数变大的很多的模型就变得不那么庞大。
minibatchsize上google也有了不同的scale选择的问题,
spatialpyramidpooling只有1次滑动,所以结果相同是因为卷积核的尺寸变小了。
只是一个小小的猜测,模型变大,也许是因为batchsize升大,经过了长卷积后,参数分布会变稀疏,然后算出来的特征数量变多,导致对应的权重矩阵就可能变大。同时一些常用的加权正则也会变大,这些可能就是google面对的问题。但我实际的感觉是,如果问题相同的话,其实参数也会相同的变大。