品玩

科技创新者的每日必读

打开APP
关闭
CLIP+ES算法

AI用50个三角形画出抽象版蒙娜丽莎,有股后现代的感觉了 | 谷歌大脑出品

CLIP+ES算法的组合成了现代艺术家

第三方认证作者

量子位

发布于 2021年9月25日

*转载文章不代表本站观点。

本文来自微信公众号“量子位”(QbitAI)作者:明敏


现在,给AI一个短语和50个三角形,它就能创作一副极简风格的抽象画了。

只需输入“a drawing of cat(一张猫的画像)”,一只棱角分明、散发着冷酷气息的抽象猫就生成了。

不只是这种泛泛的概念,给出特定词汇,这个AI也能指定作画。

比如输入“Walt Disney World(迪士尼乐园)”,50个三角形立刻重新排布,一个风格完全不同的抽象版迪士尼城堡就出现在了眼前。

可以说是完完全全抓住了迪士尼城堡的精髓。

以上这些“大作”,其实都是进化策略 (ES)和CLIP结合后生成的效果,由谷歌大脑团队出品。

他们让两个AI相互配合,根据文字提示及具体图像,用一堆三角形创作出了一幅幅极具特色的抽象画。

抽象后的谷歌大楼,大概长这样:

不能说毫无关系,只能说一模一样啊。

这回,真的有点后现代艺术的feel了。

只用三角形创作的抽象画

从生成的效果可以看到,ES算法+CLIP其实就是把一堆随机的三角形重新排布,通过调整它们的大小、位置、颜色,逐渐将其构建成一个与给出词汇所吻合的图像。

具体来看,在最初始时,ES算法会以三角形的坐标、RGBA值作为参数,在画布上随机给出一些三角形。

进化策略(ES)算法的原理则像进化论一样,它可以根据给出的信息不断优化,直到得到一个最优解。

CLIP则是OpenAI开发的一个负责给图像重排序的模型。

它会对ES算法给出的三角形图像与文字描述的相似度进行打分,然后将结果反馈给ES算法,ES算法就会为了提升分数而不断迭代,最后得到一副艺术画。

除了给出文字指令外,直接给一张图作为初始信息,只用ES算法也能进行作画。

这不,用50个三角形、迭代10000次后,后现代抽象版蒙娜丽莎诞生了。

如果增加更多的三角形,算法给出的效果也会更好。

在下面的对比中,当三角形数量达到200时,生成的图像立刻增加了亿点点细节。

其中达尔文和蒙娜丽莎的例子,fitness几近达到了100%

此外,为了实现更好的效果,研究人员还采用了ClipUp优化器

从对比中可以看到,使用优化器后迭代1万次后的效果比基本算法迭代56万次后的还要好。

同时,与基于梯度的渲染方法对比,ES算法的表现也可圈可点。

渲染方法会更侧重于纹理和颜色上的细化,而ES算法会更加侧重于如何布局这些三角形。

那么给出文本指令生成的效果如何呢?

在“Self”、“Human”、“Walt Disney World(迪士尼乐园)”几个案例中,算法的表现依旧很优秀。

在体现关键字主题精髓的情况下,随着构图三角形数量的增多,算法给出的结果细节也就更为丰富。

但是在“ picture of Tokyo”这个例子中,它的表现就不那么好了。

研究人员认为这是由于算法在生成阴影较深的三角形上还存在困难,所以造成了这一结果。

而且面对命题作业,算法也会尽可能给出不同的答案。

在这几个案例的重复4次测试中,我们可以看到生成的图像都存在明显的区别。

Demo可试玩

其实这并不是CLIP第一次“指挥”别的AI作画了。

此前与GAN配合,就让图像变成了CG艺术风

事实上,这一次的抽象画效果,你也可以体验。

团队已经将代码开源,在Colab上也能进行试玩(链接已附在文末)。

这是有网友上传的生成图像,效果真的还不错,你能猜出来这是谁吗?

论文链接:
https://arxiv.org/abs/2109.08857

GitHub开源地址:
https://github.com/google/brain-tokyo-workshop/

试玩链接:
https://colab.research.google.com/drive/1DGNxs8E4cA_ZUwPQdusxDArCWj-JX5TG#scrollTo=7AkoGodQw8kr&uniqifier=4

下载品玩App,比99.9%的人更先知道关于「CLIP+ES算法」的新故事

下载品玩App

比99.9%的人更先知道关于「CLIP+ES算法」的新故事

iOS版本 Android版本
立即下载
量子位
第三方认证作者

追踪人工智能新趋势,报道科技行业新突破

取消 发布
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测