这篇论文提出一种弱监督语义分割算法,仅仅使用scribble 标注. 该算法首先使用图模型(GrubCut)从scibble传播信息到未标注的像素,然后可以使用全卷积神经网络(FCN)的框架进行像素级别的预测. 整个学习的过程在传播信息和训练FCN之间交替进行. 因此该算法可以简单地认为是 GrubCut 和 FCN 的结合.
PDF 项目
学习的整体框架
Scrrible-SUP 学习
Task1: 该算法要从scibble传播信息到未标注的像素 方案:GrubCut
Task2: 该算法要学习一个卷积神经网络以便进行像素级别的预测 方案:FCN
目标函数:
该目标函数包含两部分,第一项是单个超像素的一元项,第二项是关于一对超像素的pairwise 项.
一元项包括两部分,第一部分基于 scribble 的信息,定义如下:
第一个条件:如果一个超像素和scribble 重合,该超像素被赋予标记 c_k, cost 为0.
第二个条件:如果一个超像素和任意的scribble 没有重合,该像素被等可能的给予任何可能的标记.
第二部分是基于FCN 的网络输出,定义为 所有像素对数概率的和.
Pairwise 项建模两个超像素的相似性. 相似性在本文中用颜色和文理的直方图来量化.
临近的超像素给予不同的标记,如果他们在颜色和纹理方面比较接近,则会有较高的 cost.
交替优化
实验结果
Strategies of utilizing scribbles
两阶段的方法: 基于Scribble 直接使用GrubCut, Lazysnapping 生成Masks, 然后使用 FCN 的框架训练.
本文方法(Mean IoU:63.1%)比两阶段的方法高 10%.
Sensitivities to scribble quality
使用不同长度的 scribble. 结果表明该方法对 scribble 的质量是十分稳健, 特别是当 scribble 缩小到一个点时,任然有 51.6% 的score.
Comparisons with other weakly-supervised methods
Comparisons with using masks
本作品采用知识共享署名 2.5 中国大陆许可协议进行许可,欢迎转载,但转载请注明来自 Sunshine 并保持转载后文章内容的完整。本人保留所有版权相关权利。