這個章節的主要目標是探討並比較不同的聚類演算法。此章節中使用Iris資料集練習五種主要聚類演算法：KMeans、MiniBatchKMeans、MeanShift、DBSCAN和AgglomerativeClustering，並熟悉這些演算法的基本實現和應用。

在Exercise則更進一步，以Olivetti Face資料集和20 Newsgroups文本資料集作為實驗對象，對每種聚類演算法進行了深入的參數優化和性能評估。並使用Silhouette Score作為評估指標，調整各演算法的關鍵參數，如KMeans的n_clusters、MeanShift的bandwith、DBSCAN的eps和min_samples值等，並通過視覺化圖表直觀呈現參數變化對聚類效果的影響。

根據左圖結果顯示，Olivetti Faces資料集的Silhouette Score整體呈現正值，最高點出現在n_clusters=2時，達到約0.1824的高分，隨後雖然有所下降，但仍維持在正值區間波動。這表明Olivetti Faces資料集具有相對明確的自然分群結構，即使增加叢集數量，模型仍能找到合理的分群界限。特別值得注意的是，在n_clusters約為40、60、70-80時出現局部高點，這可能反映了資料中存在階層式的分組結構，這與人臉資料集的特性相符，因為人臉可能按照多種不同特徵(如年齡、性別、表情等)進行分類。

相比之下，右圖的20 Newsgroups資料集的Silhouette Score表現則相差許多。雖然在n_clusters=2時勉強保持正值(約0.0062)，但隨著叢集數量增加，輪廓係數迅速降至負值，並在整個測試範圍內都維持負值。這種表現顯示文本資料的複雜性遠高於圖像資料，文本間的語義連結與主題重疊使得簡單的歐氏距離無法有效區分新聞組的自然邊界。更有趣的是，圖表顯示在n_cluster約為55時有一個明顯的降階，這可能表明在此點後，模型開始強行將本應屬於同一類別的文本分入不同叢集，進一步破壞了分群的自然性。

在左方兩圖的Olivetti Face資料集的表現上，可觀察到n_clusters參數對輪廓係數有顯著影響。當n_clusters=2時，模型達到最佳Silhouette Score 0.2086，隨著叢集數增加，Silhouette Score雖然呈現波動但仍維持在正值範圍內(約0.05至0.12之間)。這表示Olivetti Face資料集具有多層次的分群結構，雖然最自然的分割是二分法，但其他叢集數量同樣能找到有意義的分組。而在batch_size方面，當n_clusters固定為3時，一旦batch_size達到300，Silhouette Score就達到最高值0.1073並在此後保持穩定。這一穩定性說明在處理結構相對規律的圖像資料時，MiniBatchKMeans一旦達到足夠的批次大小，其性能便不再顯著改善。

對比之下，右方兩圖的20 Newsgroups資料集呈現出截然不同的特性。從n_clusters角度看，最佳表現同樣出現在較小的叢集數(n_clusters = 3，Silhouette Score為0.1356），但隨著叢集數增加，性能明顯下降，部分高叢集數區域甚至出現負值。這反映了新聞文本的語義重疊性，當強制分為過多類別時，類別間界線變得模糊不清。而在batch_size測試中，20 Newsgroups展現出高度的不穩定性，Silhouette Score在不同批次大小間大幅波動，並在batch_size=6300處突然達到0.5301高峰，此後又迅速下降並在更大批次時趨於零。此種不穩定性揭示了處理高維文本資料時批次大小的選擇極為關鍵，過小的批次無法捕捉全局特徵，而過大的批次則可能造成過度擬合特定結構。

在左上圖的Olivetti Face資料集中，bandwith參數展現出較為平穩的性能曲線。可以觀察到，當bandwith值低於60時，Silhouette Score大多維持在接近零或輕微正值的範圍，並在bandwith值42.58時達到最佳表現0.1095。值得注意的是，這個最優bandwith值明顯小於基本bandwith 79.24，意味著預設參數可能不是最佳選擇。而當bandwith值超過65後，模型性能急劇下降，Silhouette Score迅速跌至-1.0，表明在處理圖像數據時，過大的bandwith會導致嚴重的過度平滑，使得聚類結果完全失效。這種相對溫和的曲線形狀反映了圖像數據中像素分佈的連續性特性，在一定範圍內對bandwith變化具有一定的容忍度。

相比之下，右上圖的20 Newsgroups文本資料集對bandwith參數表現出截然不同的敏感性。圖表顯示，在低bandwith值(小於1.0)區域，Silhouette Score為負值，表示過小的bandwith無法有效捕捉文本語義結構。當bandwith值從1.0開始增加時，性能呈現劇烈提升，並在bandwith值2.07處達到最高點0.6734。這一數值顯著高於Olivetti資料集的最佳表現。有趣的是，其最優bandwith值略高於基本平均bandwith 1.52，並且一旦超過最優值，Silhouette Score便穩定在高位，不再顯著變化。這種曲線特徵揭示了文本資料具有更為離散的分佈特性，需要精確的bandwith設定才能正確識別語義群集，且存在一個明確的閾值，超過該閾值後便能穩定捕捉文本的自然分組。

在Olivetti Face資料集中，DBSCAN的eps參數展現出極為嚴格的有效區間特性。從左上圖可見，只有當eps值落在約40至65之間時，模型才能產生正向的Silhouette Score，且在eps=42.68處達到最佳表現0.2439。一旦eps值低於35或高於70，Silhouette Score便驟降至-1.0，表明聚類完全失效。這種懸崖式的效應反映了圖像資料中像素距離的特殊分佈特性。同時，左下圖顯示min_samples參數對此資料集的影響同樣關鍵，只有當min_samples=2時才能獲得較高的Silhouette Score 0.1977，一旦超過此值，模型表現立即崩潰。這種對極小min_samples值的偏好可能源於人臉資料集中存在許多小型但高度相似的群組，增加密度要求會導致這些自然群組被忽略。整體而言，Olivetti資料集需要精確調校的eps值和極低的min_samples值才能達到有效聚類。

相較之下，20 Newsgroups文本資料集對DBSCAN模型的參數展現出截然不同的敏感性模式。右上圖顯示eps參數在此資料集上存在兩個表現良好的區間(約0.32附近和1.1附近)，其中eps=0.32時達到0.8099 Silhouette Score，遠高於Olivetti資料集的最佳表現。更值得注意的是，這個最佳eps值比Olivetti資料集的最佳值小了兩個數量級，反映出文本向量空間中距離度量的根本差異。對於min_samples參數，右下圖展示了一個漸進式的性能曲線，隨著min_samples從1增加至12，Silhouette Score逐步提升至0.3547的峰值，而後急劇下降。這種對中等min_samples值的偏好表明20 Newsgroups資料集包含規模較大的自然主題群組，需要足夠的點密度來確立群組邊界，但過高的門檻又會導致群組碎片化。

Olivetti Face資料集在AgglomerativeClustering模型下展現出階層性結構優勢。從左圖可見，當n_clusters=2時，Silhouette Score達到最高點0.1978，顯示資料在二分法下具有最佳的自然分群。隨著叢集數增加，性能呈現有趣的波動趨勢：先下降至約0.115，然後在n_clusters=20左右重新攀升，並在25-50的範圍內維持相對穩定的高Silhouette Score（約0.175）。這種曲線特徵暗示Olivetti資料集具有多層次的階層結構，能同時支持粗粒度(2個叢集)和中等粒度(20-50個叢集)的分析，且不同粒度捕捉了不同層面的特徵相似性。值得注意的是，即使在n_clusters接近100時，輪廓係數仍為正值，僅降至約0.01，證明階層聚類對於此類高維度但結構化的圖像資料有良好的適應性。

相比之下，右圖的20 Newsgroups文本資料集呈現截然不同的表現。最佳Silhouette Score僅為0.0774，出現在n_clusters=5時，遠低於Olivetti資料集的最佳表現。更重要的是，一旦n_clusters超過10，Silhouette Score便迅速下滑至0.02以下，並在整個測試範圍內持續徘徊在極低水平。這種急劇下降且缺乏明顯復甦的特性表明，文本資料的語義關係難以通過簡單的階層結構準確捕捉，特別是當被強制分入較多叢集時。儘管Silhouette Score始終保持正值，但其低數值意味著分群品質不高，叢集間界限模糊。這一現象可能源於20 Newsgroups文本的高維稀疏性與主題重疊性，使得傳統的階層聚類難以識別其中的自然分組。