手机实时动态:Uber创建AI以生成用于训练其他AI模型的数据

2021-06-08 14:09:44
导读分享一篇有关互联网,手机方面文章给大家,相信很多小伙伴们还是对互联网,手机这方面还是不太了解,那么小编也在网上收集到了一些关于手机

分享一篇有关互联网,手机方面文章给大家,相信很多小伙伴们还是对互联网,手机这方面还是不太了解,那么小编也在网上收集到了一些关于手机和互联网这方面的相关知识来分享给大家,希望大家看了会喜欢。生成对抗网络(GAN)是由两部分组成的AI系统,该系统由生成样本的生成器和试图区分生成的样本和真实样本的鉴别器组成,具有无数用途,其中之一正在生成合成数据。Uber的研究人员最近在一篇论文中利用了这一点题为“通过学习加速神经体系结构搜索”,提出了一种定制的GAN(称为生成教学网络(GTN)),可以生成数据或训练环境,模型可以在对目标任务进行测试之前从中学习。该论文指出,与仅使用真实数据的方法相比,GTN最多可将搜索速度提高9倍,并且GTN与可在不使用“数量级”计算的情况下实现最高性能的最新体系结构相比具有竞争优势。

正如贡献作者在博客文章中所解释的那样,大多数模型搜索都需要“大量”资源,因为他们通过在数据集上训练模型来评估模型,直到模型的性能不再提高为止。可能会在一个周期内对数千个或更多模型体系结构重复此过程,这在计算方面既昂贵又费时。一些算法通过仅训练少量时间并将获得的性能作为真实性能的估计来避免成本,但是可以通过利用机器学习(即GTN)来创建训练数据,从而进一步加速这种训练。

GTN通过创建在学习过程中有用的不切实际的数据来获得成功。他们能够将有关许多不同类型对象的信息组合在一起,或者将训练重点放在最难的示例上,并根据实际数据评估训练模型。此外,他们使用学习课程(按特定顺序的一组培训示例)来提高生成器的性能,而生成器会产生示例的无序随机分布。

在实验中,研究小组表示,由GTN训练的模型在32个步骤(约0.5秒)的训练中,根据流行的开源MNIST数据集达到了98.9%的准确性,在此过程中,他们一次摄取了4,096张合成图像(不到图像的10%)在MNIST训练数据集中)。在另一个数据集CIFAR-10上进行了评估,该数据集用于衡量模型搜索的性能,即使与优化的实数据学习算法相比,在相同性能水平下,模型的学习速度也比实数据快四倍。此外,事实证明,对GTN数据的性能通常可以预测真实性能-也就是说,要获得与仅对GTN生成的数据执行128步所获得的预测能力相同的预测能力,就需要对真实数据进行1,200步。

“由于GTN可以更快地评估每种体系结构,因此他们能够在固定的计算预算内评估更多的总体体系结构。在每种情况下,我们都证明,使用GTN生成的数据比使用真实数据要快,并且可以带来更高的性能。即使我们给实时数据控件十天的计算时间,结果仍然保持不变,而GTN一天只有三分之二的时间。”“通过我们的研究,我们证明了GTN生成的训练数据创建了一种与最新算法竞争的快速...方法,但是采用了完全不同的方法。在我们的…工具箱中拥有这种额外的GTN工具可以帮助Uber,全球所有公司和所有科学家在应用它的每个领域中提高深度学习的性能。”

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章