在線核學習建模算法及應用研究.pdf

1、很多工業(yè)過程中，存在著這么一類現(xiàn)象：一部分需要嚴格控制的、與產(chǎn)品質(zhì)量密切相關(guān)的關(guān)鍵變量無法通過傳感器在線測量得到，影響了后續(xù)的過程監(jiān)測、質(zhì)量控制和系統(tǒng)優(yōu)化。由于工業(yè)過程具有的機理復雜、非線性和時變特性強等特性，基于數(shù)據(jù)驅(qū)動的軟測量建模方法受到了廣泛關(guān)注。相關(guān)研究表明：以支持向量回歸(Support Vector Regression，SVR)和最小二乘支持向量回歸(Least Squares SVR，LSSVR)為代表的核學習(Kern

2、el Learning，KL)方法在處理有限樣本非線性建模問題時優(yōu)勢明顯；在線核學習，包括全局遞推核學習(Recursive KL，RKL)和局部學習，則更有利于跟蹤過程時變特性和降低模型復雜度。
　　 但是，在線核學習算法仍面臨著一些共同性問題：(1)遞推過程多只考慮一次分塊遞推，無法對一些復雜系統(tǒng)進行在線辨識；(2)在線遞推過程多建立在模型參數(shù)不變的基礎(chǔ)上，核學習(特別是加權(quán)核學習算法)相關(guān)參數(shù)的在線優(yōu)化研究較少；(3)局部

3、學習中，樣本間相似度衡量準則僅依據(jù)樣本輸入信息構(gòu)建，尚沒有綜合考慮輸入輸出信患的相似性度量策略；(4)學習算法多為有監(jiān)督學習方法，無標簽樣本信息難以充分利用。
　　 本文以核學習在線建模為切入點，針對不同工業(yè)應用需求研究提出了相應的軟測量算法，并進行了理論分析和仿真驗證，主要的創(chuàng)新性研究工作包括：
　　 (1)針對一類特殊的結(jié)構(gòu)化非線性Hammerstein系統(tǒng)，提出了一種基于RKL的自適應辨識算法：改進了離線算法的求解

4、形式，使算法的在線稀疏和遞推成為可能；采用矩陣二次分塊求逆對模型進行在線遞推更新，以減小計算量；采用基于預報誤差的前向選擇性稀疏策略和遞推/重初始化策略，實現(xiàn)模型在線稀疏，降低模型復雜度，并克服了遞推過程中可能產(chǎn)生的誤差積累、穩(wěn)定性差等問題。以Benchmark數(shù)值仿真實驗為例，驗證了所提出的自適應辨識算法能有效提高辨識過程的精度、穩(wěn)定性和計算效率，更適用于Hammerstein模型的在線辨識。
　　 (2)針對部分間歇生產(chǎn)過程

5、(如間歇發(fā)酵過程)普遍存在的新工況條件下批次間差異大和批次內(nèi)有標簽樣本少的情況，分別設(shè)計了適用于批次間建模的“局部加權(quán)”核學習算法和批次內(nèi)軟測量的半監(jiān)督“加權(quán)核”學習算法。
　　 (2A)“局部加權(quán)”核學習就是在全局模型的基礎(chǔ)上根據(jù)待測新樣本與訓練樣本間的相似度關(guān)系調(diào)整樣本權(quán)重，并做出相應局部修正的核學習算法。與局部學習方法相比，局部加權(quán)核學習算法采用了低秩遞推形式，避免了多次求逆計算，因而效率更高；而較全局學習過程，該方法引入

6、了根據(jù)樣本微調(diào)模型的步驟，使算法精度相對較高。青霉素過程Benchmark仿真平臺Pensim上批次間菌體濃度在線預報的實驗表明了該方法的有效性。
　　 (2B)針對發(fā)酵過程批次內(nèi)標簽樣本較少的情況，設(shè)計了半監(jiān)督框架下“加權(quán)核”學習算法。設(shè)計了符合青霉素生產(chǎn)過程的、基于時序的核函數(shù)作為樣本權(quán)重，使算法在標簽樣本較少的情況下仍能較準確預報待測新樣本。在Pensim平臺上的批次內(nèi)青霉素濃度預報的仿真實驗表明：所提出的“加權(quán)核”方法較

7、原有半監(jiān)督算法在精度上有了較大提高，更適用于該過程批次內(nèi)在線建模。
　　 (3)提出了一種適用于多工況過程的多核學習算法(Multi-Kernel LSSVR，MK-LSSVR)，以建立多工況過程的有效統(tǒng)一模型。設(shè)計了同時融入樣本工況(類別)和輔助變量信息的多核，并將其應用于樣本類別先驗概率估計。通過對樣本類別的后驗概率重新估計和模型的在線稀疏和更新，保證了算法稀疏性、準確性和推廣性能。通過Pensim仿真平臺青霉素生產(chǎn)過程菌體

8、濃度在線預報，驗證了所提出的MK-LSSR算法較單核學習相比，具有更高的預報精度和穩(wěn)定性。
　　 (4)提出了一種新的自適應局部核學習算法(Adaptive Local Kernel Learning，ALKL)?？紤]同時采用樣本輸入/輸出信息的相似度衡量準則，并提出一種適用回歸問題的有監(jiān)督局部保持映射(Supervised Locality Preserving Projection，SLPP)算法以獲取更合理的相似樣本集；提