中国财富新闻网

您的位置:首页 > 宏观 >

港科大MSRA研究:关于图像到图像转换,Finetuningisally

在最近的一篇论文中,来自香港科技大学和微软亚洲研究院的研究人员认为,图像到图像的转换只需要预先训练以前的方法需要特殊的架构设计,从零开始训练单一的变换模型,很难生成高质量的复杂场景,尤其是在成对训练数据不足的情况下

因此,研究人员将每个图像到图像的转换问题视为下游任务,并引入了一个简单的通用框架,该框架采用预先训练的扩散模型来适应各种图像到图像的转换他们称预训练图像到图像转换模型为PITI此外,研究者还提出在扩散模型训练中使用对抗训练来增强纹理合成,并结合归一化引导采样来提高生成质量

最后,研究人员在ADE20K,COCO—Stuff和DIODE等具有挑战性的基准上对各种任务进行了广泛的实证比较,结果显示PITI合成的图像表现出了前所未有的真实感和忠诚度。

扩散和基于分数的方法显示了跨基准的生成质量在conditional ImageNet上,这些模型在视觉质量和采样多样性方面与基于GAN的方法不相上下最近,大规模文本—图像配对训练的扩散模型显示出惊人的能力一个训练有素的扩散模型可以为合成提供一个通用的生成先验

结构

对于下游任务,它们有条件地微调语义空间,以映射特定于任务的环境该机器根据预先训练的信息创建可信的视觉效果

实验和影响

表1表明,所提出的方法的性能总是优于其他模型与领先的绿洲相比,PITI在从蒙版到图像合成的FID方面取得了显著的进步此外,该方法在草图到图像和几何图形到图像的合成任务中也表现出良好的性能

图3显示了这项研究在不同任务上的可视化结果实验结果表明,与从零开始训练的方法相比,预训练模型显著提高了生成图像的质量和多样性这种研究方法可以产生生动的细节和正确的语义,即使这是一个具有挑战性的生成任务

栏目导读

消博会“神仙打架”:国际巨头入华抢滩新赛道,本土品牌欲出海

消博会“神仙打架”:国际巨头入华抢滩新赛道,本土品牌欲出海

作者:叶子琪

作者:周嘉宝尽管上半年本土疫情的反复让零售市场承压,但中国这片消费热土仍被所有人寄予厚望。7月25日,第二届中国国际消费品博览会在海南海口拉开帷幕。时代财经发现,上半年零售市场的低迷情绪并没有蔓延至这场规格颇高的展会中。作为此次展会主战场,...

2023年定为“消费提振年”,广州消费市场大派“红包”

2023年定为“消费提振年”,广州消费市场大派“红包”

作者:子墨

兔年第一个工作日,刷屏的除了有“开工大吉”,还有政府派发的“大红包”。1月28日,全省高质量发展大会在广州召开。紧随其后,当天下午,广州召开全市高质量发展大会。会上,广州市商务局局长洪谦透露一个重磅信息——广州将2023年定为“消费提振年”...

无人货架凉了新零售的发展新机会在哪?

无人货架凉了新零售的发展新机会在哪?

作者:张璠

摘要:正如电商概念的完善和发展经历了一个过程一样,新零售的发展同样要经历一个从萌芽到成熟的过程。从这个逻辑来看,当前出现的无人货架困境是新零售概念发展成熟的过程当中必然要经历的一个阶段。图片来源:视觉中国从某种程度上来讲,无人货架打了新零售...

华润啤酒欲牵手喜力啤酒业“利润时代”打响高端之争

华润啤酒欲牵手喜力啤酒业“利润时代”打响高端之争

作者:苏婉蓉

中新经纬客户端3月13日电(贺陈慧)积极探索并购机会的华润啤酒,正在加快对啤酒高端市场的布局。3月9日,因传华润啤酒欲收购喜力中国业务,华润啤酒发布价格和成交量异常波动的公告,公告中提到,公司及公司控股股东经常探索和进行有关潜在交易的商业和...