1. PingCode智库首页
  2. 百科

python如何画出高维聚类图

Edit1 • • 百科

python如何画出高维聚类图

Python如何画出高维聚类图

使用Python绘制高维聚类图的核心观点有：降维技术、聚类算法、可视化工具、数据预处理、模型评估。其中，降维技术是最重要的，因为高维数据在可视化之前通常需要降维处理，以便在二维或三维空间中进行展示。常用的降维技术包括PCA（主成分分析）、t-SNE（t分布随机邻域嵌入）和UMAP（统一流形近似与投影）。

降维技术使得我们可以将高维数据映射到二维或三维空间，这样便于观察数据的分布和聚类效果。例如，PCA通过线性变换将数据投影到一个新的坐标系中，使得数据的方差最大化。在绘制高维聚类图之前，先进行PCA处理可以简化数据结构，突出数据的主要特征。

一、降维技术

1.1 PCA（主成分分析）

PCA是一种线性降维技术，通过寻找数据的主成分，将高维数据映射到低维空间。PCA的基本思想是找到一个新的坐标系，使得数据在该坐标系中的投影方差最大。具体实现步骤如下：

  1. 标准化数据：对数据进行标准化处理，使得每个特征的均值为0，方差为1。
  2. 计算协方差矩阵：计算标准化数据的协方差矩阵。
  3. 特征值分解：对协方差矩阵进行特征值分解，得到特征值和特征向量。
  4. 选择主成分：选择前k个特征值对应的特征向量，作为新的坐标系。
  5. 投影数据：将原始数据投影到新的坐标系中，得到低维数据。

以下是Python代码示例：

import numpy as np


import matplotlib.pyplot as plt


from sklearn.decomposition import PCA


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


y = data.target


标准化数据


X_standardized = (X - X.mean(axis=0)) / X.std(axis=0)


PCA降维


pca = PCA(n_components=2)


X_pca = pca.fit_transform(X_standardized)


绘制散点图


plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y)


plt.xlabel('Principal Component 1')


plt.ylabel('Principal Component 2')


plt.title('PCA of Iris Dataset')


plt.show()

1.2 t-SNE（t分布随机邻域嵌入）

t-SNE是一种非线性降维技术，适用于高维数据的可视化。它通过最小化高维空间中数据点之间的概率分布与低维空间中数据点之间的概率分布之间的差异来实现降维。t-SNE更适合处理复杂的非线性关系。具体实现步骤如下：

  1. 计算高维空间中数据点之间的相似度：使用高斯核函数计算高维空间中数据点之间的相似度。
  2. 计算低维空间中数据点之间的相似度：使用t分布计算低维空间中数据点之间的相似度。
  3. 最小化KL散度：通过梯度下降法最小化高维空间与低维空间相似度分布之间的KL散度。

以下是Python代码示例：

import numpy as np


import matplotlib.pyplot as plt


from sklearn.manifold import TSNE


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


y = data.target


t-SNE降维


tsne = TSNE(n_components=2, random_state=42)


X_tsne = tsne.fit_transform(X)


绘制散点图


plt.scatter(X_tsne[:, 0], X_tsne[:, 1], c=y)


plt.xlabel('t-SNE Component 1')


plt.ylabel('t-SNE Component 2')


plt.title('t-SNE of Iris Dataset')


plt.show()

1.3 UMAP（统一流形近似与投影）

UMAP是一种基于流形学习的非线性降维技术，通过构建高维空间中的邻接图，并在低维空间中进行优化嵌入。UMAP在保持局部结构和全局结构方面表现较好，适用于大规模数据集。具体实现步骤如下：

  1. 构建邻接图：在高维空间中构建邻接图，表示数据点之间的邻近关系。
  2. 优化低维嵌入：通过优化目标函数，将高维空间中的邻接图嵌入到低维空间中。

以下是Python代码示例：

import numpy as np


import matplotlib.pyplot as plt


import umap


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


y = data.target


UMAP降维


umap_model = umap.UMAP(n_components=2, random_state=42)


X_umap = umap_model.fit_transform(X)


绘制散点图


plt.scatter(X_umap[:, 0], X_umap[:, 1], c=y)


plt.xlabel('UMAP Component 1')


plt.ylabel('UMAP Component 2')


plt.title('UMAP of Iris Dataset')


plt.show()

二、聚类算法

2.1 K-means聚类

K-means是一种常用的聚类算法，通过迭代优化簇的质心，最小化簇内数据点与质心之间的距离。具体实现步骤如下：

  1. 初始化质心：随机选择k个数据点作为初始质心。
  2. 分配簇：将每个数据点分配到最近的质心所在的簇。
  3. 更新质心：计算每个簇的质心，更新质心位置。
  4. 迭代：重复分配簇和更新质心的过程，直到质心不再变化或达到最大迭代次数。

以下是Python代码示例：

import numpy as np


import matplotlib.pyplot as plt


from sklearn.cluster import KMeans


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


K-means聚类


kmeans = KMeans(n_clusters=3, random_state=42)


y_kmeans = kmeans.fit_predict(X)


PCA降维


pca = PCA(n_components=2)


X_pca = pca.fit_transform(X)


绘制聚类结果


plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y_kmeans)


plt.xlabel('Principal Component 1')


plt.ylabel('Principal Component 2')


plt.title('K-means Clustering of Iris Dataset')


plt.show()

2.2 DBSCAN聚类

DBSCAN是一种基于密度的聚类算法，通过寻找高密度区域，将密度相连的点归为一个簇。具体实现步骤如下：

  1. 选择核心点：对于每个数据点，计算其ε邻域内的点的数量，如果数量大于最小点数MinPts，则将该点标记为核心点。
  2. 扩展簇：从核心点开始，将其ε邻域内的所有点归为一个簇，并继续扩展该簇，直到没有新的核心点加入。
  3. 标记噪声点：没有被归为任何簇的点标记为噪声点。

以下是Python代码示例：

import numpy as np


import matplotlib.pyplot as plt


from sklearn.cluster import DBSCAN


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


DBSCAN聚类


dbscan = DBSCAN(eps=0.5, min_samples=5)


y_dbscan = dbscan.fit_predict(X)


PCA降维


pca = PCA(n_components=2)


X_pca = pca.fit_transform(X)


绘制聚类结果


plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y_dbscan)


plt.xlabel('Principal Component 1')


plt.ylabel('Principal Component 2')


plt.title('DBSCAN Clustering of Iris Dataset')


plt.show()

三、可视化工具

3.1 Matplotlib

Matplotlib是Python中最常用的绘图库，提供了丰富的2D绘图功能。通过Matplotlib，可以方便地绘制散点图、折线图、柱状图等。以下是使用Matplotlib绘制散点图的示例：

import matplotlib.pyplot as plt


创建数据


x = [1, 2, 3, 4, 5]


y = [2, 3, 5, 7, 11]


绘制散点图


plt.scatter(x, y)


plt.xlabel('X-axis')


plt.ylabel('Y-axis')


plt.title('Scatter Plot')


plt.show()

3.2 Seaborn

Seaborn是基于Matplotlib的高级绘图库，提供了更加美观和简洁的绘图接口。Seaborn特别适合用于统计数据的可视化。以下是使用Seaborn绘制散点图的示例：

import seaborn as sns


import matplotlib.pyplot as plt


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


y = data.target


将数据转换为DataFrame


import pandas as pd


df = pd.DataFrame(X, columns=data.feature_names)


df['species'] = y


绘制散点图


sns.scatterplot(x='sepal length (cm)', y='sepal width (cm)', hue='species', data=df)


plt.xlabel('Sepal Length')


plt.ylabel('Sepal Width')


plt.title('Scatter Plot of Iris Dataset')


plt.show()

四、数据预处理

4.1 数据标准化

数据标准化是将数据的各个特征缩放到相同的范围内，通常是均值为0，方差为1。数据标准化有助于提高聚类算法的性能，避免某些特征对聚类结果产生过大影响。以下是Python代码示例：

from sklearn.preprocessing import StandardScaler


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


标准化数据


scaler = StandardScaler()


X_standardized = scaler.fit_transform(X)

4.2 数据降维

数据降维是将高维数据映射到低维空间，以便进行可视化和聚类分析。常用的降维技术包括PCA、t-SNE和UMAP。降维技术的选择取决于数据的特性和分析的需求。以下是使用PCA进行数据降维的示例：

from sklearn.decomposition import PCA


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


PCA降维


pca = PCA(n_components=2)


X_pca = pca.fit_transform(X)

五、模型评估

5.1 轮廓系数

轮廓系数是一种评估聚类结果的方法，通过计算每个数据点的轮廓系数，衡量数据点的聚类质量。轮廓系数的取值范围为[-1, 1]，值越大表示聚类效果越好。以下是Python代码示例：

from sklearn.metrics import silhouette_score


from sklearn.cluster import KMeans


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


K-means聚类


kmeans = KMeans(n_clusters=3, random_state=42)


y_kmeans = kmeans.fit_predict(X)


计算轮廓系数


sil_score = silhouette_score(X, y_kmeans)


print(f'Silhouette Score: {sil_score}')

5.2 聚类效果可视化

聚类效果可视化是通过绘制聚类结果的图形，直观展示聚类效果。常用的可视化方法包括散点图、轮廓系数图等。以下是绘制聚类结果的散点图示例：

import matplotlib.pyplot as plt


from sklearn.decomposition import PCA


from sklearn.cluster import KMeans


from sklearn.datasets import load_iris


加载数据


data = load_iris()


X = data.data


K-means聚类


kmeans = KMeans(n_clusters=3, random_state=42)


y_kmeans = kmeans.fit_predict(X)


PCA降维


pca = PCA(n_components=2)


X_pca = pca.fit_transform(X)


绘制聚类结果


plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y_kmeans)


plt.xlabel('Principal Component 1')


plt.ylabel('Principal Component 2')


plt.title('K-means Clustering of Iris Dataset')


plt.show()

六、应用案例

6.1 MNIST手写数字数据集

MNIST手写数字数据集是一个经典的机器学习数据集，包含60000张训练图片和10000张测试图片，每张图片是28×28的灰度图像。以下是使用t-SNE对MNIST数据集进行降维和聚类的示例：

import numpy as np


import matplotlib.pyplot as plt


from sklearn.manifold import TSNE


from sklearn.datasets import fetch_openml


加载数据


mnist = fetch_openml('mnist_784', version=1)


X = mnist.data


y = mnist.target.astype(int)


t-SNE降维


tsne = TSNE(n_components=2, random_state=42)


X_tsne = tsne.fit_transform(X)


绘制散点图


plt.scatter(X_tsne[:, 0], X_tsne[:, 1], c=y, cmap='tab10')


plt.xlabel('t-SNE Component 1')


plt.ylabel('t-SNE Component 2')


plt.title('t-SNE of MNIST Dataset')


plt.colorbar()


plt.show()

6.2 文本数据集

文本数据集通常是高维稀疏数据，需要先进行文本向量化处理，再进行降维和聚类分析。以下是使用PCA对文本数据集进行降维和聚类的示例：

import numpy as np


import matplotlib.pyplot as plt


from sklearn.decomposition import PCA


from sklearn.feature_extraction.text import TfidfVectorizer


from sklearn.cluster import KMeans


加载数据


documents = [


    "I love reading books.",


    "Books are a great source of knowledge.",


    "I enjoy watching movies.",


    "Movies are entertaining.",


    "I like listening to music.",


    "Music is relaxing."


]


文本向量化


vectorizer = TfidfVectorizer()


X = vectorizer.fit_transform(documents)


PCA降维


pca = PCA(n_components=2)


X_pca = pca.fit_transform(X.toarray())


K-means聚类


kmeans = KMeans(n_clusters=2, random_state=42)


y_kmeans = kmeans.fit_predict(X.toarray())


绘制聚类结果


plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y_kmeans)


plt.xlabel('Principal Component 1')


plt.ylabel('Principal Component 2')


plt.title('K-means Clustering of Text Data')


plt.show()

七、项目管理系统推荐

在执行复杂的数据分析和聚类项目时，使用项目管理系统可以提高项目的管理效率和协作效果。推荐两个项目管理系统：研发项目管理系统PingCode和通用项目管理软件Worktile。

7.1 研发项目管理系统PingCode

PingCode是一款专为研发团队设计的项目管理系统，提供需求管理、任务管理、缺陷管理和版本管理等功能。PingCode支持敏捷开发流程，帮助团队高效协作和交付高质量的软件产品。

7.2 通用项目管理软件Worktile

Worktile是一款通用的项目管理软件，适用于各种类型的团队和项目。Worktile提供任务管理、时间管理、文档管理和团队协作等功能，帮助团队提高工作效率和项目管理水平。

以上是关于如何使用Python绘制高维聚类图的详细介绍。通过使用降维技术、聚类算法和可视化工具，可以有效地分析和展示高维数据的聚类结果。希望这些内容对您有所帮助。

相关问答FAQs：

1. 高维聚类图是什么？如何理解高维数据的聚类结果？
高维聚类图是用来可视化高维数据聚类结果的一种图形化展示方式。它可以帮助我们理解高维数据中不同样本之间的聚类关系和分布情况。

2. 有哪些常用的方法可以用来画出高维聚类图？
在Python中，有多种方法可以用来画出高维聚类图。常用的方法包括主成分分析（PCA）降维后绘制二维散点图、t-SNE降维后绘制二维散点图、使用热力图展示高维特征的相关性等。

3. 如何使用Python绘制高维聚类图？
要使用Python绘制高维聚类图，首先需要对高维数据进行降维处理。可以使用主成分分析（PCA）或者t-SNE等算法将高维数据降维到二维或三维。然后，可以使用matplotlib或seaborn等可视化库绘制散点图或热力图来展示聚类结果。可以根据需要添加颜色编码、标签、标题等来增加可视化效果。

原创文章，作者：Edit1，如若转载，请注明出处：https://docs.pingcode.com/baike/1254670

赞 (0)
Edit1Edit1
上一篇 2024年8月31日 上午8:33
下一篇 2024年8月31日 上午8:33
免费注册
电话联系

4008001024

微信咨询
微信咨询
返回顶部