《模糊模式識別法》PPT課件.ppt

第7章模糊模式識別法 7 1模糊數(shù)學概述7 2模糊集合7 3模糊關(guān)系與模糊矩陣7 4模糊模式分類的直接方法和間接方法7 5模糊聚類分析法 第7章模糊模式識別法 7 1模糊數(shù)學概述 1 精確數(shù)學方法忽略對象的一般特性 著重注意對象的數(shù)量 空間形式和幾何形狀的數(shù)學方法 如 牛頓力學 牛頓和萊布尼茨創(chuàng)立的微積分學等 7 1 1模糊數(shù)學的產(chǎn)生背景 模糊數(shù)學誕生的標志 1965年美國加利福尼亞大學控制論專家L A Zadeh 查德 發(fā)表的文章 Fuzzysets 模糊數(shù)學 Fuzzysets 又稱模糊集合論 1 精確數(shù)學方法及其局限性 2 工程技術(shù)方面 用精確的實驗方法和精確的測量計算 探索客觀世界的規(guī)律 建立嚴密的理論體系 1 理論研究方面 用精確定義的概念和嚴格證明的定理 描述現(xiàn)實事物的數(shù)量關(guān)系和空間形式 2 近代科學的特點 3 精確數(shù)學方法的局限性 現(xiàn)實世界中的許多現(xiàn)象 用精確數(shù)學方法難以解決 例如 著名的問題之一 禿頭悖論 用精確數(shù)學方法判斷 禿頭 方法 首先給出一個精確的定義 然后推理 最后結(jié)論 定義 頭發(fā)根數(shù) n時 判決為禿頭 否則判決為不禿 即頭發(fā)根數(shù)n為判斷禿與不禿的界限標準 問題 當頭發(fā)根數(shù)恰好為n 1 應判決為禿還是不禿 推理 兩種選擇 2 承認生活常識 認為僅一根頭發(fā)之差不會改變禿與不禿的結(jié)果 即有n 1根頭發(fā)者也應是禿頭 1 承認精確方法 判定為不禿 結(jié)論 有n根頭發(fā)的是禿頭 有n 1根頭發(fā)的不是禿頭 頭發(fā)為n根者為禿頭 頭發(fā)為n 1根者為禿頭 頭發(fā)為n 2根者為禿頭 頭發(fā)為n k根者為禿頭 那么采用傳統(tǒng)的邏輯推理 會得到下面的一些命題 其中 k是一個有限整數(shù) 顯然k完全可以取得很大 結(jié)論 頭發(fā)很多者為禿頭 類似地 沒有頭發(fā)者不是禿頭 均表現(xiàn)出精確方法在這個問題上與常理對立的情況 顯然不合理 模糊數(shù)學 有關(guān)描述和處理模糊性問題的理論和方法的學科 模糊數(shù)學的基本概念 模糊性 2 模糊數(shù)學的誕生 1965年查德 zadeh 發(fā)表了 模糊集合 論文后 在科學界引起了爆炸性的反映 他準確地闡述了模糊性的含義 制定了刻畫模糊性的數(shù)學方法 隸屬度 隸屬函數(shù) 模糊集合等 為模糊數(shù)學作為一門獨立的學科建立了必要的基礎 7 1 2模糊性 人們在認識事物時 總是根據(jù)一定的標準對事物進行分類 有些事物可以依據(jù)某種精確的標準對它們進行界線明確的認識 有些事物根本無法找出精確的分類標準 例如 禿頭悖論 中的頭發(fā)根數(shù)的界線n 實際是不存在的 1 模糊性的基本概念 1 清晰性 事物具有的明確的類屬特性 或是或非 2 模糊性 事物具有的不明確類屬特性 只能區(qū)別程度 等級 3 模糊性的本質(zhì) 是事物類屬的不確定性和對象資格程度的漸變性 例 2 與模糊性容易混淆的幾個概念 1 模糊性與近似性 共同點 描述上的不精確性 區(qū)別 不精確性的根源和表現(xiàn)形式不同 a 近似性 問題本身有精確解 描述它時的不精確性源于認識條件的局限性和認識過程發(fā)展的不充分性 例 薄霧中觀遠山 2 模糊性與隨機性 共同點 不確定性 a 模糊性 表現(xiàn)在質(zhì)的不確定性 是由于概念外延的模糊性而呈現(xiàn)出的不確定性 區(qū)別 不確定性的性質(zhì)不同 b 模糊性 問題本身無精確解 描述的不精確性來源于對象自身固有的性態(tài)上的不確定性 例 觀察一片秋葉 c 排中律 即事件的發(fā)生和不發(fā)生必居且僅居其一 不存在第三種現(xiàn)象 隨機性遵守排中律 模糊性不遵守 它存在著多種 甚至無數(shù)種中間現(xiàn)象 3 模糊性與含混性 共同點 不確定性 區(qū)別 b 隨機性 是外在的不確定性 是由于條件不充分 導致條件與事件之間不能出現(xiàn)確定的因果關(guān)系 而事物本身的性態(tài)和類屬是確定的 例 降雨量 大雨 中雨或小雨 典型的模糊性 投擲硬幣 隨機性 a 含混性 由信息不充分 二義性 引起 一個含混的命題即是模糊的 又是二義的 一個命題是否帶有含混性與其應用對象或上下文有關(guān) b 模糊性 是質(zhì)的不確定性 總之 模糊性 由本質(zhì)決定 其它 由外界條件帶來的不確定性引起 例 命題 張三很高 對給張三購買什么型號的衣服這個應用對象是含混的 也是一個模糊性命題 模式識別從模糊數(shù)學誕生開始就是模糊技術(shù)應用研究的一個活躍領(lǐng)域 研究內(nèi)容涉及 計算機圖像識別 手書文字自動識別 癌細胞識別 白血球的識別與分類 疾病預報 各類信息的分類等 7 1 3模糊數(shù)學在模式識別領(lǐng)域的應用 研究方法 針對一些模糊識別問題設計相應的模糊模式識別系統(tǒng) 用模糊數(shù)學對傳統(tǒng)模式識別中的一些方法進行改進 1 論域討論集合前給出的所研究對象的范圍 選取一般不唯一 根據(jù)具體研究的需要而定 7 2模糊集合 1 經(jīng)典集合論中幾個概念 7 2 1模糊集合定義 傳統(tǒng)經(jīng)典集合論中的集合稱為 經(jīng)典集合 普通集合 確定集合 脆集合 3 冪集對于一個集合A 由其所有子集作為元素構(gòu)成的集合稱為A的 冪集 例 論域X 1 2 其冪集為 2 模糊集合的定義 給定論域X上的一個模糊子集 是指 對于任意x X 都確定了一個數(shù) 稱為x對的隸屬度 且 映射 叫做的隸屬函數(shù) 或從屬函數(shù) 模糊子集常稱為模糊集合或模糊集 說明 3 相關(guān)的幾個概念 正規(guī)模糊集 模糊集合的核是非空的 非正規(guī)模糊集 模糊集合的核是空的 即 是隸屬度為1的元素組成的經(jīng)典集合 4 模糊集合的表示 有多種表示方法 要求表現(xiàn)出論域中所有元素與其對應的隸屬度之間的關(guān)系 查德的求和表示法和積分表示法 1 求和表示法 適用于離散域論域 2 積分表示法 適合于任何種類的論域 特別是連續(xù)論域 常用的模糊集合表示方法 注 當某一元素的隸屬函數(shù)為0時 這一項可以不計入 X是一個連續(xù)的實數(shù)區(qū)間 模糊集合表示為 7 2 2隸屬函數(shù)的確定 隸屬函數(shù)是模糊集合賴以存在的基石 正確地確定隸屬函數(shù)是利用模糊集合恰當?shù)囟勘硎灸：拍畹幕A 常用的形式 型函數(shù) 中間高兩邊低的函數(shù) S型函數(shù) 從0到1單調(diào)增長 隸屬函數(shù)的確定 構(gòu)造一個概念的隸屬函數(shù)時 結(jié)果不唯一 目前很難找到統(tǒng)一的途徑 幾種隸屬函數(shù)的構(gòu)造與確定方法 1 簡單正規(guī)模糊集合隸屬函數(shù)的構(gòu)成 隸屬函數(shù)的構(gòu)成 1 假定 方法 并確定 有 2 模糊統(tǒng)計法 利用模糊統(tǒng)計的方法確定隸屬函數(shù) 模糊統(tǒng)計試驗四要素 1 論域X 例如人的集合 2 X中的一個元素x0 例如王平 3 X中的一個邊界可變的普通集合A 例如 高個子 4 條件s 制約著A邊界的改變 方法 每次試驗下 對x0是否屬于A做出一個確定的判斷 有 隨著n的增大 隸屬頻率呈現(xiàn)穩(wěn)定性 所在的穩(wěn)定值叫隸屬度 從兩種事物的對比中 做出對某一概念符合程度的判斷 是區(qū)別事物的一種重要方法 1 擇優(yōu)比較法 例7 4求茶花 月季 牡丹 梅花 荷花對 好看的花 的隸屬度 方法 10名試驗者逐次對兩種花作對比 優(yōu)勝花得1分 失敗者0分 往往不滿足數(shù)學上對 序 的要求 不具有傳遞性 出現(xiàn)循環(huán)現(xiàn)象 3 二元對比排序法 缺點 表7 2五種花對 好看的花 的隸屬度 表7 1一位測試者的二元對比結(jié)果 2 優(yōu)先關(guān)系定序法 x3為第一優(yōu)越元素 除去x3得新的優(yōu)先關(guān)系矩陣 有 x1為第二優(yōu)越元素 排序完畢 按x3 x1 x2順序賦予相應的隸屬度 3 相對比較法 4 對比平均法 根據(jù)不同的數(shù)學物理知識 設計隸屬度函數(shù) 然后在實踐中檢驗調(diào)整 4 推理法 一般以成功的實例進行借鑒 例7 6筆劃類型的隸屬函數(shù)的確定 根據(jù)筆劃與水平線的交角確定隸屬函數(shù) 例7 7手寫體字符U和V的區(qū)別 解 用包含的面積與三角形面積作比較 例7 8封閉曲線的圓度 表征圓度的隸屬函數(shù) 5 專家評分法難免引入個人的主觀成份 但對某些難以用上述幾種方法實現(xiàn)的應用來說 仍不失為一種辦法 7 2 3模糊集合的運算 1 基本運算 兩個模糊子集間的運算 在此過程中 論域保持不變 逐點對隸屬函數(shù)作相應的運算 得到新的隸屬函數(shù) 2 運算的基本性質(zhì) 7 2 4模糊集合與普通集合的相互轉(zhuǎn)化 截集是聯(lián)系普通集合與模糊集合的橋梁 它們使模糊集合論中的問題轉(zhuǎn)化為普通集合論的問題來解 根據(jù)醫(yī)生的經(jīng)驗 可將各溫度段用 發(fā)燒 的隸屬度表示如下 T 39 0 隸屬度 1 038 5 T 39 0 隸屬度 0 938 0 T 38 5 隸屬度 0 737 0 T 38 0 隸屬度 0 4T 37 0 隸屬度 0 0 2 截集的三個性質(zhì) 7 3模糊關(guān)系與模糊矩陣 普通關(guān)系 二值的 存在或者不存在關(guān)系 兩者必居且僅居其一 模糊關(guān)系 需要用描述關(guān)系程度的量補充描述 關(guān)系程度通過隸屬度表示 7 3 1模糊關(guān)系定義 1 基本概念 設X Y是兩個論域 由兩個集合間元素無約束地搭配成的序偶 x y 的全體構(gòu)成的集合 給無約束搭配施以某種約束 體現(xiàn)了一種特殊關(guān)系 接受約束的元素對便構(gòu)成笛卡爾集中的一個子集 子集表現(xiàn)了一種關(guān)系 如果 普通集合論 X到Y(jié)的一個關(guān)系 定義為X Y的一個子集R 記作 模糊關(guān)系的定義類似 序偶中兩個元素的排列是有序的 2 模糊關(guān)系定義 7 3 2模糊關(guān)系的表示 如 例7 11中的模糊關(guān)系對應的模糊矩陣 1 用模糊矩陣表示 2 用有向圖表示 有向圖表示 7 3 3模糊關(guān)系的建立 計算 第一步 正規(guī)化 極值標準化公式 計算rij的常用方法 1 歐式距離法 2 數(shù)量積法 M 正數(shù) 滿足 3 相關(guān)系數(shù)法 其中 4 最大最小法 5 主觀評定法 以百分制打分 然后除以100 得 0 1 區(qū)間的一個數(shù) 7 3 4模糊關(guān)系和模糊矩陣的運算 1 并 交 補運算 1 模糊關(guān)系的并 交 補運算 模糊關(guān)系并 交 補運算分別與模糊矩陣并 交 補運算對應 模糊關(guān)系和模糊矩陣的運算實際上就是隸屬度的運算 2 模糊矩陣的并 交 補運算 求 a 關(guān)系 x比y高或比y胖 b 關(guān)系 與y相比 x又高又胖 c 關(guān)系 x沒y高 解 2 模糊關(guān)系的倒置與模糊矩陣的轉(zhuǎn)置 對應的模糊矩陣 對應的模糊矩陣 例7 15 模糊關(guān)系 x比y高 y比x低 3 截矩陣與截關(guān)系 4 模糊關(guān)系合成與模糊矩陣合成 冪運算 模糊關(guān)系與自身的運算 即 1 模糊關(guān)系合成 2 模糊矩陣合成 對比 對有限論域 模糊矩陣乘積運算 普通矩陣乘法運算 加法 求大 乘法 求小 類似 求Q對R的合成矩陣 7 3 5模糊關(guān)系的三大性質(zhì) 例 關(guān)系 等于 關(guān)系 了解 具有自反性 不具有自反性 1 自反性 2 對稱性 3 傳遞性 b S只有對稱性 無自反性 說明 例 個子高 認識 具有傳遞性 不具有傳遞性 R是一個傳遞模糊矩陣 解 例7 19判斷是否是傳遞模糊矩陣 4 模糊等價關(guān)系和模糊相似關(guān)系 定義 7 4模糊模式分類的直接方法和間接方法 7 4 1直接方法 隸屬原則 直接計算樣品的隸屬度 根據(jù)隸屬度最大原則進行分類 用于單個模式的識別 隸屬原則 隸屬原則是顯然的 易于公認的 但其分類效果如果 十分依賴于建立已知模式類隸屬函數(shù)的技巧 現(xiàn)有45歲 30歲 65歲 21歲各一人 問應分別屬于哪一類 中 青 屬于老年人 例7 21染色體識別或白血球分類問題 這類問題最終歸結(jié)為識別三角形 即判斷一個三角形屬于 等腰三角形 I 直角三角形 R 等腰直角三角形 IR 正三角形 E 其他三角形 T 中的哪一種 7 4 2間接方法 擇近原則 適合于模糊集 求模糊集合之間接近程度的問題 1 模糊集合間的距離 聚類分析中兩向量間的明氏距離 兩種常用的絕對距離公式 其他 相對距離 加權(quán)距離 街坊距離 歐氏距離 2 貼近度 說明兩個相同的模糊集的貼近度最大 要求貼近度映射具有對稱性 描述了兩個較 接近 的模糊集合的貼近度也較大 模糊集合貼近度的具體形式不唯一 兩種常用貼近度 2 格貼近度 內(nèi)積 外積分別定義為 3 擇近原則 7 5模糊聚類分析法 7 5 1基于模式糊等價關(guān)系的聚類分析法 只有模糊等價關(guān)系才能用模糊等價矩陣進行截矩陣分類 稱為 截矩陣分類法 對于模糊等價關(guān)系 可以用模糊等價矩陣的截矩陣直接進行模式分類 對模糊相似關(guān)系 必須由相應的模糊相似矩陣生成模糊等價矩陣 然后對生成的等價矩陣利用截矩陣的辦法分類 包括 1 模糊等價關(guān)系的截矩陣分類法 要求按不同 水平分類 動態(tài)聚類圖 2 模糊相似關(guān)系的截矩陣分類法 必須用模糊相似矩陣生成一個模糊等價矩陣 直接用模糊相似關(guān)系進行分類出現(xiàn)的問題 例 設有五種礦石 按其顏色 比重等性質(zhì)得出描述其 相似程度 的模糊關(guān)系矩陣如下 1 判斷是什么矩陣 矩陣R的自反性 對稱性是明顯的 計算傳遞性 給定一個模糊相似矩陣就可以得到一個模糊等價矩陣 7 5 2模糊相似關(guān)系直接用于分類 對于模糊相似關(guān)系 需要改造成為模糊等價關(guān)系 才能利用截矩陣的方法進行正確分類 但多次矩陣相乘 計算麻煩 為此尋找由模糊相似矩陣直接進行聚類的方法 如最大樹法 最大樹法 例7 25設二個家庭 每家3 5人 選每個人的一張照片 共8張 混放在一起 將照片兩兩對照 得出描述其 相似程度 的模糊關(guān)系矩陣 要求按相似程度聚類 希望把二個家庭分開 解 1 按模糊相似矩陣 畫出被分類的元素集 構(gòu)造 最大樹 當全部連通時 檢查一下全部元素是否都已出現(xiàn) 即保證所有元素都是連通的 最大樹即構(gòu)造好 0 2 0 4 0 4 0 2 0 2 0 5 0 5 0 8 0 8 0 8 0 8 回路不畫 注意 最大樹不唯一 但取截集后 所得子樹相同 任選K個聚類中心 按最近鄰規(guī)則聚類 根據(jù)聚類結(jié)果計算新的聚類中心 比較新舊聚類中心是否相等 新舊中心相等 結(jié)束 否則回到 模糊K 均值算法基本思想 首先設定一些類及每個樣本對各類的隸屬度 然后通過迭代 不斷調(diào)整隸屬度至收斂 K 均值算法回顧 7 5 3模糊K 均值算法 由聚類分析中動態(tài)聚類法中的K 均值算法派生出來 1 確定模式類數(shù)K 1 K N N為樣本個數(shù) 步驟 加權(quán)平均 例如 3個樣本時 例當有兩個聚類中心時 樣本j對兩個類別隸屬度的計算 類似于相對距離 例 由U 0 可知 傾向于X1 X2 X3為一類 X4為一類 得 如對X3有 類似地 可得到U 1 中其它元素 有 7 5 4模糊ISODATA算法 ISODATA算法 源于K 均值算法 模糊ISODATA算法 將模糊方法引入ISODATA算法 算法步驟 例如 將全體樣本均值作為第一個聚類中心 在所有n個特征方向上加 減一個均方差 共 2n 1 個聚類中心 1 選擇初始聚類中心 ISODATA算法特點 具有類別調(diào)整功能 合并 分解等操作使聚類過程中類別數(shù)可變 ISODATA算法的核心 類別調(diào)整 3 類別調(diào)整 合并 分解 刪除 4 最佳類數(shù)或最佳結(jié)果的討論 判定結(jié)果好壞的直接依據(jù) 隸屬度矩陣U 由于計算機存儲量的限制 選取了三個評價分類優(yōu)劣的判據(jù) 最大穩(wěn)定度 最小相關(guān)度 最大聚類度 2 若已選擇了K個初始聚類中心 用模糊K 均值算法進行聚類 由于現(xiàn)在得到的是各聚類中心 所以直接計算下一步的隸屬度矩陣U 1 繼續(xù)K 均值算法直到收斂 最終得到隸屬度矩陣U和K個聚類中心 結(jié)束