2024年最大的图像分割数据集是怎么来的？——图像分割SAM模型-程序员宅基地

Segment Anything Model （SAM）：Meta AI 的一种新的 AI 模型，只需单击一下即可“剪切”任何图像中的任何对象。它已经在 1100 万张图像和 11 亿个掩码的数据集上进行了训练，在各种分割任务中具有很强的zero shot性能。

一、引言

二、SAM模型技术原理

1.模型特色

（1）多返回对象

（2）预训练

（3）零样本学习Zero-shot transfer

2. Segment Anything Model框架

一、引言

自然语言处理领域，基础模型通过零样本迁移学习快速使用到其他任务。

ChatGPT就是使用提示法进行交互的模型。几乎所有的文本都可以用来序列预测，因为序列预测不需要标签。

为什么计算机视觉没有泛用性强的零样本迁移学习模型？

图片资源没有标注分界框和分割掩码，创建基础模型是一个挑战。

SAM模型在数据收集循环中使用，建立庞大的分割数据集，在1100万张特许和尊重隐私的图像上有超过10亿个掩码。该模型的设计和训练是可提示的，因此可以zero-shot的方式转移到新的图像分布和任务。

SAM的目标是创建一个类似NLP领域的foundationmodel（例如GPT），它是一种使用prompt engineering机制的预训练模型并可以灵活地解决下游任务。

其中提示Prompt的类型：

• 一组前景、背景 标记点

• 粗略的 标记框 或者掩码

• 自由格式的文字

无论哪种情况，模型都应该足够灵活，输出分割掩码!

二、SAM模型技术原理

1.模型特色

（1）多返回对象

可提示分割任务是在给定任何提示的情况下返回有效的分割掩码。有效掩码的要求意味着即使提示不明确，并且可能涉及多个对象，输出也应该是其中至少一个对象的合理掩码。

每一列都是由SAM模型产生的3种有效输出

（2）预训练

可提示分割任务提出了一种自然的预训练算法，该算法模拟每个训练样本的prompt序列（例如，点、框、掩码），并将模型的掩码预测与GroundTruth进行比较。
与前人的交互式分割工作不同：

交互式分割的目的是在 足够的用户输入 （多次与用户交互并 不断优化 ）后最终预测有效的掩码

可提示分割的目的是始终预测 任何提示 的 有效掩码 ，即使提示不明确（与用户交互后产生多个预测结果）

（3）零样本学习Zero-shot transfer

预训练任务赋予了模型在推理时对任何提示做出适当响应的能力，因此下游任务可以通过设计适当的提示来解决。
例如，如果有一个目标检测任务识别出猫的边界框，则可以通过我们的模型使用框作为输入来解决猫实例分割任务

2. Segment Anything Model框架

这里对SAM的各个模块进行了一些中文解释，建议详情看图。

3.掩码质量评估

为了评估掩码质量，研究者随机抽取了500张图像（大约5万个掩码），在模型预测掩码的基础上对其进行专业矫正。

数据引擎：为了对庞大数据的图像进行掩码标注，作者开发了数据引擎。

模型标注数据：标注好的数据用来优化模型。以此循环，迭代优化模型以及数据质量。

数据开发分为以下阶段，

1、模型辅助手动标注：标注员细化掩码标签；

2、半自动标注阶段：为使标注者专注于不太突出的对象，首先SAM自动分割高置信度的掩码，然后向标注者展示预填充这些掩码的图像，并要求他们标注任何其他未标注的对象；

3、全自动阶段：已收集足够多的掩码来改进模型；已开发模糊感知模型，允许在有歧义的情况下预测有效的掩码。

4.应用分析

研究者表示SAM具有协助处理许多真实世界场景的能力。

对SAM在多种真实世界分割场景（例如，自然图像、农业、制造业、遥感和医疗健康场景）中的性能进行了评估。在像自然图像这样的常见场景中，它具有优秀的泛化能力;

而在低对比度的场景中，它的效果较差，而且在复杂场景中需要强大的知识。

三、SAM模型发展应用

SAM在图像处理领域的应用——软件场景

软件场景需要对图像编辑和修复进行操作，例如移除对象、填充对象和替换对象。

现有的修复工作，如利用DDPM模型做图像修复的repaint模型，需要对每个掩码进行精细的注释以达到良好的性能，这是一项劳动密集型的工作。

SAM可以通过简单的提示如点或框来生成准确的掩码，可以帮助辅助图像编辑场景。

Inpaint Anything算法：用户可以通过点击图像中的任何对象来选择它。对于对象移除，该流程由 SAM 和最先进的修复器组成；对于对象的填充和替换，第二步使用像 Stable Diffusion (SD) 这样的 AI 生成的内容模型。

参考文献：

《A Comprehensive Survey on Segment Anything Model for Vision and Beyond》

链接：

https://arxiv.org/pdf/2305.08196.pdf

SAM在图像处理领域的应用——视觉相关

随着 ViT 的出现，基于ViT的医学图像分割方法，在医学图像分割中取得了超越以往的性能。然而，这类网络面向的是特定的任务，缺乏对其他任务的泛化能力。

在医学图像分割任务中，SAM 的表现并不理想，主要原因在于训练数据的匮乏。尽管 SAM 在训练过程中构建了一个复杂而高效的数据引擎，但所收集到的病例数据量有限，且很少具备实际医疗应用价值。

一种解决方法是针对下游任务进行微调，自适应策略称为医疗 SAM 适配器采用一种称Adaption 的参数高效微调（ parameter-efficient fine-tuning，PEFT）技术，即将几个参数高效Adapter 模块插入到原始的基本模型中，然后只调整 Adapter 参数，同时冻结所有预先训练的参数。

医疗图像 SAM 概览，包括了CT图像、MRI图像、结肠镜检查图像、多格式图像、H&E 染色组织切片图像等

最后放上一些参考链接

github实现

Meta的官方文档

论文原文

本文链接：https://blog.csdn.net/qq_52501948/article/details/137874376

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

艾美捷Epigentek DNA样品的超声能量处理方案-程序员宅基地

文章浏览阅读15次。空化气泡的大小和相应的空化能量可以通过调整完全标度的振幅水平来操纵和数字控制。通过强调超声技术中的更高通量处理和防止样品污染，Epigentek EpiSonic超声仪可以轻松集成到现有的实验室工作流程中，并且特别适合与表观遗传学和下一代应用的兼容性。Epigentek的EpiSonic已成为一种有效的剪切设备，用于在染色质免疫沉淀技术中制备染色质样品，以及用于下一代测序平台的DNA文库制备。该装置的经济性及其多重样品的能力使其成为每个实验室拥有的经济高效的工具，而不仅仅是核心设施。

11、合宙Air模块Luat开发：通过http协议获取天气信息_合宙获取天气-程序员宅基地

文章浏览阅读4.2k次，点赞3次，收藏14次。目录点击这里查看所有博文本系列博客，理论上适用于合宙的Air202、Air268、Air720x、Air720S以及最近发布的Air720U（我还没拿到样机，应该也能支持）。先不管支不支持，如果你用的是合宙的模块，那都不妨一试，也许会有意外收获。我使用的是Air720SL模块，如果在其他模块上不能用，那就是底层core固件暂时还没有支持，这里的代码是没有问题的。例程仅供参考！..._合宙获取天气

EasyMesh和802.11s对比-程序员宅基地

文章浏览阅读7.7k次，点赞2次，收藏41次。1 关于meshMesh的意思是网状物，以前读书的时候，在自动化领域有传感器自组网，zigbee、蓝牙等无线方式实现各个网络节点消息通信，通过各种算法，保证整个网络中所有节点信息能经过多跳最终传递到目的地，用于数据采集。十多年过去了，在无线路由器领域又把这个mesh概念翻炒了一下，各大品牌都推出了mesh路由器，大多数是3个为一组，实现在面积较大的住宅里，增强wifi覆盖范围，智能在多热点之间切换，提升上网体验。因为节点基本上在3个以内，所以mesh的算法不必太复杂，组网形式比较简单。各厂家都自定义了组_802.11s

线程的几种状态_线程状态-程序员宅基地

文章浏览阅读5.2k次，点赞8次，收藏21次。线程的几种状态_线程状态

stack的常见用法详解_stack函数用法-程序员宅基地

文章浏览阅读4.2w次，点赞124次，收藏688次。stack翻译为栈，是STL中实现的一个后进先出的容器。要使用 stack，应先添加头文件include<stack>，并在头文件下面加上“ using namespacestd;"1. stack的定义其定义的写法和其他STL容器相同, typename可以任意基本数据类型或容器：stack<typename> name;2. stack容器内元素的访问..._stack函数用法

2018.11.16javascript课上随笔（DOM）-程序员宅基地

文章浏览阅读71次。<li> <a href = "“#”>-</a></li><li>子节点：文本节点（回车），元素节点，文本节点。不同节点树：　　节点（各种类型节点）childNodes:返回子节点的所有子节点的集合，包含任何类型、元素节点（元素类型节点）：child。node.getAttribute(at...

随便推点

layui.extend的一点知识第三方模块base 路径_layui extend-程序员宅基地

文章浏览阅读3.4k次。//config的设置是全局的layui.config({ base: '/res/js/' //假设这是你存放拓展模块的根目录}).extend({ //设定模块别名 mymod: 'mymod' //如果 mymod.js 是在根目录，也可以不用设定别名 ,mod1: 'admin/mod1' //相对于上述 base 目录的子目录}); //你也可以忽略 base 设定的根目录，直接在 extend 指定路径（主要：该功能为 layui 2.2.0 新增）layui.exten_layui extend

5G云计算：5G网络的分层思想_5g分层结构-程序员宅基地

文章浏览阅读3.2k次，点赞6次，收藏13次。分层思想分层思想分层思想-1分层思想-2分层思想-2OSI七层参考模型物理层和数据链路层物理层数据链路层网络层传输层会话层表示层应用层OSI七层模型的分层结构TCP/IP协议族的组成数据封装过程数据解封装过程PDU设备与层的对应关系各层通信分层思想分层思想-1在现实生活种，我们在喝牛奶时，未必了解他的生产过程，我们所接触的或许只是从超时购买牛奶。分层思想-2平时我们在网络时也未必知道数据的传输过程我们的所考虑的就是可以传就可以，不用管他时怎么传输的分层思想-2将复杂的流程分解为几个功能_5g分层结构