沃卡惠logo

全国服务热线

400-69-10019

新闻动态

沃卡惠 > 最新资讯 > 行业资讯

合成数据:机器学习的未来

时间:2022-08-13 08:59:16作者:沃卡惠文章来源:51CTO

  数据可谓是机器学习模型的命脉。不过当这种宝贵资源的访问受到限制时会发生什么?正如很多项目和企业开始展现的那样,这时候合成数据就算不是一种出色的选择,也是一种可行的选择。

  什么是合成数据?

  合成数据是人工生成的信息,不是通过直接测量获得。“假”数据本质上不是新的概念或革命性的概念。它实际上是为缺少正常运行所需的可用或必要信息的模型生成测试或训练数据的一种方法。

  过去,缺少数据招致了使用随机生成的一组数据点的便捷方法。尽管这对于教学和测试用途可能已经足够了,但随机数据不是您想要拿来训练任何类型的预测模型的数据。这就是合成数据概念的不同之处,它很可靠。

  合成数据本质上是一种独特的概念,即我们可以巧妙地生成随机化数据。故此,这种方法可以应用于更复杂的用例,而不单单是测试。

  怎样生成合成数据?

  虽说生成合成数据的方式与随机数据没什么不同——只是通过更复杂的输入集,但合成数据确实有不同的目的,故此有独特的要求。

  合成方法基于并仅限于预先作为输入而馈入的某些标准。实际上,它不是随机的。它基于一组具有特定分布和标准的样本数据,这些标准决定了数据点的可能范围、分布和频次。大致说来,目的是复制真实数据以填充更大的数据集,然后该数据集将足够庞大,便于训练机器学习模型。

  在探索用于提炼合成数据的深度学习方法时,这种方法变得特别令人关注。算法可以相互竞争,目的是在生成和识别合成数据的能力方面相互超越。实际上,这里的目的是搞一场人工军备竞赛,以生成超现实的数据。

  为什么需要合成数据?

  假如我们不能收集推进文明所需的宝贵资源,就会找到一种创造宝贵资源的方法。这个原则现在同样适用于机器学习和AI的数据领域。

  在训练算法时,拥有非常大的数据样本量至关重要,否则算法识别的模式有可能对于实际应用而言太过简单。这实际上非常合乎逻辑。正如人类智能往往采取最容易的途径来解决问题,训练机器学习和AI时也经常发生同样的情况。

  比如说,不妨将这运用于对象识别算法,该算法可以从一组猫图像中准确识别狗。假如数据量太少,AI就有可能依赖不是它试图识别的对象的基本特征的模式。在这种情况下,AI可能仍然有效,不过遇到不遵循最初识别的模式的数据时,就会失效。

  合成数据怎样用于训练AI?

  那么,解决办法是什么?我们画了许多略有不同的动物,迫使网络找到图像的底层结构,而不单单是某些像素的位置。但不是手工绘制一百万条狗,最好构建一个系统,专门用于绘制狗,可用于训练分类算法——这实际上是我们在提供合成数据便于训练机器学习时所做的事情。

  然则,这种方法存在明显的缺陷。单单凭空生成数据代表不了真实世界,故此会招致算法在遇到真实数据时很可能无法运行。解决方案是收集数据子集,分析和识别其中的趋势和范围,然后使用这些数据生成大量随机数据,这些数据很可能代表我们自行收集所有数据后数据的样子。

  这也是合成数据的价值所在。我们再也不必无休止地收集数据,然后在使用之前需要清理和处理这些数据。

  合成数据为何能解决日益受到关注的数据隐私问题?

  全球眼下正在经历一场非常剧烈的转变,特别是在欧盟:隐私和所生成的数据愈来愈受到保护。在机器学习和AI领域,加强数据保护是老大难问题。受限制的数据经常正是训练算法为最终用户执行和提供价值所需要的数据,特别是对于B2C解决方案而言。

  个人决定使用解决方案并故此批准使用他们的数据时,隐私问题通常会得到解决。这里的问题是,在您拥有提供足够价值的解决方案、因而愿意交出个人数据之前,很难让用户向您提供其个人数据。故此,供应商经常会陷入先有鸡还是先有蛋的困境。

  合成数据就是解决方案,企业可以通过早期采用者获得数据子集。之后,它们可以使用这些信息作为基础,便于生成足够的数据用于训练机器学习和AI。这种方法可以大大减少对私有数据的费时又费钱的需求,仍可以为实际用户开发算法。

  对于医疗保健、银行和法律等某些行业而言,合成数据提供了一种更容易访问以前无法获得的大量数据的方法,消除了新的和更先进的算法通常面临的制约因素。

  合成数据能否取代真实数据?

  真实数据的问题在于它不是为了训练机器学习和AI算法而生成的,它只是我们周围发生的事件的副产品。如前所述,这显然限制了收集数据的可用性和易用性,还限制了数据的参数和可能破坏结果的缺陷(异常值)的可能性。这就是为什么可以定制和控制的合成数据在训练模型时更高效。

  然则,尽管非常适用于训练场景,但合成数据将不可避免地始终依赖至少一小部分真实数据用于自身的创建。所以合成数据永远不会取代它所依赖的初始数据。更现实地说,它将大幅减少算法训练所需的真实数据量,这个过程需要比测试多出一大截的数据——通常80%的数据用于训练,另外20%的数据用于测试。

  最后,假如处理得当,合成数据提供了一种更快捷、更有效的方式来获取我们需要的数据,成本比从现实世界获取数据的成本更低,同时减少了烦人的数据隐私问题。

上一条:
机器学习必备:怎样防止过拟合?
下一条:
2022年十大AI软件解决方案
图片使用申明:原创文章图片源自‘Canva可画’平台免费版权图片素材;引用文章源自引用平台文章中所使用的原图。
在线客服

扫码关注我们

c

领卡试用

沃卡惠,联通物联网合作伙伴!

全国统一服务热线

400-69-10019

湖北省恩施市航空路金港·百佳广场写字楼1601室