在机器学习模型完成一项任务之前，例如识别医学图像中的癌症，必须对模型进行训练。训练图像分类模型通常涉及向模型展示收集到海量数据集中的数百万个示例图像。

研究人员使用大量简单、未经整理的合成图像生成程序来训练用于图像分类的计算机视觉模型。研究人员没有策划或更改程序，每个程序只包含几行代码。在此图像中，每行中的图像集是使用3个不同的图像生成程序生成的。

研究人员/麻省理工学院的插图

然而，使用真实图像数据会引起实际和伦理方面的担忧：图像可能违反版权法、侵犯人们的隐私，或者对特定种族或族裔群体有偏见。研究人员可以使用图像生成程序来避免这些陷阱，从而为模型训练创建合成数据。但是这些技术是有限的，因为通常需要专业知识来手工设计可以创建有效训练数据的图像生成程序。

麻省理工学院、麻省理工学院-IBM沃森人工智能实验室和其他地方的研究人员采用了不同的方法。他们没有为特定的训练任务设计定制的图像生成程序，而是从互联网上收集了21,000个公开程序的数据集。然后他们使用大量基本图像生成程序来训练计算机视觉模型。

这些程序生成显示简单颜色和纹理的不同图像。研究人员没有策划或更改程序，每个程序只包含几行代码。

他们使用这个大型程序数据集训练的模型比其他综合训练模型更准确地对图像进行分类。而且，虽然他们的模型表现不及使用真实数据训练的模型，但研究人员表明，增加数据集中图像程序的数量也会提高模型性能，揭示了提高准确性的途径。

“事实证明，使用大量未经策划的程序比使用一小组需要人们操作的程序要好。数据很重要，但我们已经证明，即使没有真实数据，你也可以走得很远，”在计算机科学和人工智能实验室(CSAIL)工作的电气工程和计算机科学(EECS)研究生、论文的主要作者ManelBaradad说。描述这种技术的论文。

共同作者包括CSAIL的EECS研究生TongzhouWang;麻省理工学院-IBM沃森人工智能实验室首席科学家兼经理RogerioFeris;AntonioTorralba，台达电子电气工程与计算机科学教授，CSAIL成员;资深作者PhillipIsola，EECS和CSAIL副教授;与摩根大通银行和Xyla,Inc.的其他人一起。这项研究将在神经信息处理系统会议上发表。

重新思考预训练

机器学习模型通常是经过预训练的，这意味着它们首先在一个数据集上进行训练，以帮助它们构建可用于处理不同任务的参数。用于分类X射线的模型可能会使用大量合成生成的图像数据集进行预训练，然后再使用更小的真实X射线数据集对其实际任务进行训练。

这些研究人员之前表明，他们可以使用一些图像生成程序来创建用于模型预训练的合成数据。然而，需要仔细设计程序，使合成图像与真实图像的某些属性相匹配。这使得该技术难以扩大规模。

这项新工作使用了一个庞大的未经整理的图像生成程序数据集。

他们首先从互联网上收集了21,000个图像生成程序。所有的程序都是用一种简单的编程语言编写的，只包含几段代码，因此它们可以快速生成图像。

“这些程序是由世界各地的开发人员设计的，目的是生成具有我们感兴趣的某些属性的图像。它们生成的图像看起来有点像抽象艺术，”Baradad解释道。

这些简单的程序可以运行得如此之快，以至于研究人员不需要提前生成图像来训练模型。研究人员发现他们可以同时生成图像和训练模型，从而简化了过程。

他们使用庞大的图像生成程序数据集为监督和非监督图像分类任务预训练计算机视觉模型。在监督学习中，图像数据被标记，而在无监督学习中，模型学习对没有标签的图像进行分类。

提高准确性

当他们将他们的预训练模型与使用合成数据进行预训练的最先进的计算机视觉模型进行比较时，他们的模型更加准确，这意味着他们更频繁地将图像归入正确的类别。虽然准确度水平仍低于在真实数据上训练的模型，但他们的技术将在真实数据上训练的模型与在合成数据上训练的模型之间的性能差距缩小了38%。

“重要的是，我们表明性能会随着您收集的程序数量呈对数增长。我们不会使性能饱和，所以如果我们收集更多的程序，模型的性能会更好。因此，有一种方法可以扩展我们的方法，”Manel说。

研究人员还使用每个单独的图像生成程序进行预训练，以努力发现影响模型准确性的因素。他们发现，当程序生成更多样化的图像集时，该模型的性能会更好。他们还发现，场景充满整个画布的彩色图像往往最能提高模型性能。

现在他们已经证明了这种预训练方法的成功，研究人员希望将他们的技术扩展到其他类型的数据，例如包含文本和图像的多模态数据。他们还想继续探索提高图像分类性能的方法。

“与基于真实数据训练的模型相比，仍然存在差距。这为我们的研究指明了方向，我们希望其他人也能遵循，”他说。