基于Squidpy包进行细胞核分割

[ixxmu]

https://mp.weixin.qq.com/s/VFbozpGMeCXVs2fKL0WVwQ

[ixxmu]

基于Squidpy包进行细胞核分割 by 生信菜鸟团

在空间转录组/组织影像分析里，“细胞核分割”往往是后续定量（细胞计数、细胞邻域、表达汇聚、形态学特征等）的第一步。今天这篇推文介绍一下基于 Squidpy 包进行 Cellpose细胞核分割，包括在 Visium 荧光图像（DAPI） 和 H&E 组织切片上跑通核分割流程。

1.  Squidpy及Cellpose简介

Squidpy在之前的推文中已经介绍多次了。简单来说，Squidpy 是基于 Scanpy 生态构建的空间组学图像分析工具包（https://squidpy.readthedocs.io/en/stable/index.html），专注于将组织图像与空间转录组数据进行整合分析。它提供了图像处理、分割、特征提取、空间邻域分析等一整套功能模块，能够高效连接“图像层信息”与“基因表达层信息”，在空间多组学研究中被广泛使用。

而Cellpose 是由 Stringer 等人于 2021 年提出的通用细胞分割算法。它基于深度学习和流场（flow field）建模思想，能够在不同组织类型、不同成像模式（荧光、H&E 等）下实现稳健的细胞或细胞核分割。Cellpose 提供了预训练模型（如 cytoplasm、nuclei），开箱即用，同时也支持参数调优和自定义训练，具有较强的泛化能力。

在实际应用中，我们可以通过 Squidpy 的 sq.im.segment 接口，将 Cellpose 作为底层分割引擎，从而在空间转录组图像中实现高质量的细胞核分割。

2. 环境部署

Squidpy安装：

mamba create -n squid python=3.10 -y
conda activate squid
pip install squidpy -i https://mirrors.aliyun.com/pypi/simple

## 其他安装方式
#pip install squidpy
#国内安装可能需要加镜像
pip install squidpy

cellpose安装：

pip install cellpose

如果你想本地跑 notebook，推荐用 conda 环境：

mamba install -y nb_conda_kernels ipykernel
python -m ipykernel install --user --name squid --display-name squid

3. 自定义分割函数

import numpy as np
import matplotlib.pyplot as plt
import squidpy as sq

from cellpose import models

这里导入 Cellpose 的分割模型。相关 API 文档可参考：

https://cellpose.readthedocs.io/en/latest/api.html#cellpose-class

为了使用 Cellpose 模型，我们需要定义一个封装函数（wrapper）：在函数内部完成模型初始化、模型推理（eval），并返回分割得到的掩膜（segmentation masks）。同时，我们还可以通过传入参数（例如每个分割目标的最小像素数 min_size）来使用 Cellpose 的特定选项。

def cellpose(img, min_size=15):
    model = models.Cellpose(model_type="nuclei")
    res, _, _, _ = model.eval(
        img,
        channels=[0, 0],
        diameter=None,
        min_size=min_size,
    )
    return res

4. 场景一：Visium 荧光图像（DAPI 通道）核分割

加载并裁剪图像：

img = sq.datasets.visium_fluo_image_crop()
crop = img.crop_corner(1000, 1000, size=1000)
crop.show(channelwise=True)

image-20260220152616847

使用cellpose自定义函数分割DAPI通道，DAPI 通常在第 0 通道：

sq.im.segment(img=crop, layer="image", channel=0, method=cellpose)

绘制图像裁剪区域中的 DAPI 通道以及对应的分割结果：

print(crop)
print(f"Number of segments in crop: {len(np.unique(crop['segmented_custom']))}")

fig, axes = plt.subplots(1, 2, figsize=(10, 20))
crop.show("image", channel=0, ax=axes[0])
_ = axes[0].set_title("DAPI")
crop.show("segmented_custom", cmap="jet", interpolation="none", ax=axes[1])
_ = axes[1].set_title("Cellpose segmentation")

示例输出：360 个核实例（分割数量会随裁剪区域和参数变化）。

image-20260220152753291

sq.im.segment 方法会将任何额外的参数传递给 cellpose 函数，因此我们也可以过滤掉像素数小于 200 的分割目标，并将其结果与前面使用默认最小像素数 15 时得到的分割结果进行比较。

sq.im.segment(img=crop, layer="image", channel=0, method=cellpose, min_size=200)

print(crop)
print(f"Number of segments in crop: {len(np.unique(crop['segmented_custom']))}")

fig, axes = plt.subplots(1, 2, figsize=(10, 20))
crop.show("image", channel=0, ax=axes[0])
_ = axes[0].set_title("DAPI")
crop.show("segmented_custom", cmap="jet", interpolation="none", ax=axes[1])
_ = axes[1].set_title("Cellpose segmentation")

image-20260220152930201

这会过滤掉小于 200 像素的目标，示例中数量从 360 降到 221。这种做法通常适合：噪点多、碎片多、希望更“保守”的分割策略。

5. 场景二：H&E 组织切片核分割（更接近真实项目）

对于荧光数据，我们只是将 DAPI 通道直接传递给 Cellpose 模型，便完成了细胞核分割。对于 H&E 图像，我们同样会使用 nuclei 模型。Cellpose 官方文档中说明：

Cellpose 中的核分割模型是在双通道图像上训练的，其中第一个通道是需要进行分割的通道，第二个通道始终设置为全零数组。因此，第一个通道可以设置为：0=灰度，1=红色，2=绿色，3=蓝色；第二个通道固定为 0。例如，如果你想在灰度图像或单通道图像上分割细胞核，可以设置 channels = [0,0]；如果想分割蓝色通道中的细胞核，则可以设置 channels = [3,0]。

让我们来看下面这张图像。

5.1 加载 H&E 图像并观察通道含义

img = sq.datasets.visium_hne_image_crop()
crop = img.crop_corner(0, 0, size=1000)
crop.show("image")

示例中通道对应：

• image:0 -> 红色（red）
• image:1 -> 绿色（green）
• image:2 -> 蓝色（blue）

crop.show("image", channelwise=True)

image-20260220153058848

5.2 先写一个更“可调”的 Cellpose wrapper（H&E 专用）

基于以上两张图像，我们可以提出两种思路：

A）由于 H&E 染色过程中，细胞核通常呈现蓝色/紫色调，因此我们可以将整张 H&E 图像输入到 Cellpose 中，并将分割模式设置为蓝色通道（在 Cellpose 中使用通道编号 3）。

B）从上图可以看到，红色通道（image:0）具有较好的对比度，因此我们也可以只使用该通道，并将其视为灰度图像进行分割（在 Cellpose 中使用通道编号 0）。

接下来，我们定义自定义的分割函数，并分别尝试这两种方案。这里，我们将 channels 参数中的第二个值设置为 0，因为我们只会传入一个图像通道。

def cellpose_he(img, min_size=15, flow_threshold=0.4, channel_cellpose=0):
    model = models.Cellpose(model_type="nuclei")
    res, _, _, _ = model.eval(
        img,
        channels=[channel_cellpose, 0],  # second channel is always 0
        diameter=None,
        min_size=min_size,
        invert=True,
        flow_threshold=flow_threshold,
    )
    return res

参数解释：

• channel_cellpose：告诉 Cellpose “用哪个颜色/灰度作为待分割通道”
• invert=True：适用于“核更暗/背景更亮”的情况（H&E 常见）
• flow_threshold：越高越严格，能减少一些不可信的分割，但也可能漏检

5.3 策略 A：输入 RGB 全通道，让 Cellpose 以“蓝色核”模式分割

直觉是：H&E 的核偏蓝紫，所以设 Cellpose 通道为 3（blue）。

hne_channel_to_segment = None  # so that we feed in all channels
cellpose_channel_setting = 3# corresponds to "blue"

sq.im.segment(
    img=crop,
    layer="image",
    channel=hne_channel_to_segment,
    method=cellpose_he,
    channel_cellpose=cellpose_channel_setting,
)

print(crop)
print(f"Number of segments in crop: {len(np.unique(crop['segmented_custom']))}")

fig, axes = plt.subplots(1, 2, figsize=(10, 20))
crop.show("image", channel=hne_channel_to_segment, ax=axes[0])
_ = axes[0].set_title("H&E")
crop.show("segmented_custom", cmap="jet", interpolation="none", ax=axes[1])
_ = axes[1].set_title("Cellpose segmentation")

image-20260220153334692

示例结果：1149 个核。

5.4 策略 B：只用红通道（image:0）当灰度，反而更清晰

在不少 H&E 图里，红通道有时对核/背景的对比更“干净”。我们只传红通道，并把 Cellpose 设为灰度（0）。

hne_channel_to_segment = 0  # corresponds to the red channel
cellpose_channel_setting = 0# corresponds to "greyscale" mode

sq.im.segment(
    img=crop,
    layer="image",
    channel=hne_channel_to_segment,
    method=cellpose_he,
    channel_cellpose=cellpose_channel_setting,
)

print(crop)
print(f"Number of segments in crop: {len(np.unique(crop['segmented_custom']))}")

fig, axes = plt.subplots(1, 2, figsize=(10, 20))
crop.show("image", channel=hne_channel_to_segment, ax=axes[0])
_ = axes[0].set_title("H&E")
crop.show("segmented_custom", cmap="jet", interpolation="none", ax=axes[1])
_ = axes[1].set_title("Cellpose segmentation")

image-20260220153403785

示例结果：1630 个核（比策略 A 多）。

5.5 参数优化

我们可以看到，仅使用红色通道并将其作为灰度图像进行分割时，得到的细胞数量更多。接下来，我们通过将 flow_threshold 提高到 0.8，进一步优化这一方案。

hne_channel_to_segment = 0  # corresponds to the red channel
cellpose_channel_setting = 0# corresponds to "greyscale" mode

sq.im.segment(
    img=crop,
    layer="image",
    channel=hne_channel_to_segment,
    method=cellpose_he,
    flow_threshold=0.8,
    channel_cellpose=cellpose_channel_setting,
)

print(crop)
print(f"Number of segments in crop: {len(np.unique(crop['segmented_custom']))}")

fig, axes = plt.subplots(1, 2, figsize=(10, 20))
crop.show("image", channel=None, ax=axes[0])
_ = axes[0].set_title("H&E")
crop.show("segmented_custom", cmap="jet", interpolation="none", ax=axes[1])
_ = axes[1].set_title("Cellpose segmentation")

image-20260220153440502

示例结果：1767 个核，我们可以看到，这个步骤增加了分割得到的细胞数量。

⚠️ 然而，需要注意的是，单纯以“分割对象数量最多”为优化目标并不是最佳策略。因为当参数调得过于激进时，可能会导致过分割（over-segmentation）。例如一个细胞被错误地分成两个对象，或者将灰尘颗粒、组织碎片等误识别为细胞。

因此，在实际分析中，应当结合中间结果进行可视化检查，仔细评估分割质量，并尝试不同参数组合进行对比，而不是仅仅追求数量的增加。