2023年澳门太阳集团9728网站

信息技術研究生論壇（十四）

場次一、

時間：2023年6月20日（星期二）10:00-11:30

地點：澳门太阳集团9728网站807b教室

報告題目一：基于深度學習的語義分割方法研究

報告人：羅楊洋

報告簡介：在深度學習未發展起來之前，圖像分割算法處于數字處理時代，主要是根據灰度、顔色、紋理、和形狀等特征将圖像進行劃分區域，讓區域間顯差異性，區域内呈相似性。但該類方法計算量大且效率低下，适用性場景有限。而深度學習已經是機器學習領域中最為火熱的一個研究方向，各種架構的深度神經網路在計算機視覺領域有着非常廣泛的應用。依托于大數據時代，可用于訓練的圖片數據大幅度增加，卷積神經網絡超強的學習能力得以充分發揮，在圖像分割任務中不僅沒有傳統圖像分割技術的受限性和缺點，還有着更高的精度與效率。本文報告主要對全卷積神經網絡FCN、UNet、DeepLabV3等經典語義分割方法進行分析比較。

報告題目二：基于深度學習的遙感圖像超分辨率重建研究

報告人：劉長新

報告簡介：遙感圖像是遙感技術的數據支撐和應用基礎，為監視地球表面提供了豐富的信息，在災害監控、城市經濟水平評估、資源勘探等領域具有廣泛的應用。目前從衛星獲得的遙感圖像質量無法滿足地物目标識别、土地檢測等應用的需求，并且在硬件技術上提升遙感圖像成本高、難度大。針對上述問題，提出了一種基于深度學習的遙感圖像超分辨率重建網絡，從軟件角度實現遙感圖像的超分辨率重建。通過引入下遊圖像處理任務中的最新CNN模塊來進行網絡搭建和組成新的子模塊，得到優于大多數現有工作的超分辨率重建模型。

報告題目三：群智能算法在機器人路徑規劃上的應用

報告人：李繼發

報告簡介： 近年來随着智能化技術的迅速發展和産業智慧

升級的不斷推進, 智能移動機器人在越來越多的領域裡得到了廣泛應用, 如貨物搬運、智慧生産、智能生活、異常環境探測、水下作業、太空探索等。其中, 移動機器人路徑規劃是機器人研究領域的一項關鍵技術。本報告主要介紹群智能算法如何求解移動機器人的路徑規劃問題，并介紹基于路徑規劃應用的群智能算法的主要改進方向。

報告題目四：基于區塊鍊的異步聯邦學習共享方案

報告人：劉承坤

報告簡介：近年來，在移動邊緣計算、5G等技術的推動下，城市信息學快速發展，産生了大量的數據。為了處理不斷增長的數據，人工智能算法被廣泛利用。聯邦學習是分布式邊緣計算的一個很有前途的範例，它使邊緣節點能夠在本地訓練模型，而不需要将數據傳輸到服務器。然而，聯邦學習的安全和隐私問題阻礙了它在城市應用(如車輛網絡)的廣泛部署。本文提出了一種差分隐私異步聯邦學習方案，用于車輛網絡中的資源共享。為了構建安全、健壯的聯邦學習方案，我們将局部差分隐私納入到聯邦學習中，以保護更新後的局部模型的隐私。我們進一步提出了一種随機分布式更新方案，以消除由集中式管理員帶來的安全威脅。此外，我們還通過更新驗證和加權聚合來實現算法的收斂性提升。我們在三個真實的數據集上評估我們的方案。仿真結果表明，該方法在保證數據隐私的前提下，具有較高的準确率和效率。

報告題目五：工業大數據下的匿名和隐私保護的聯邦學習

報告人：劉洋

報告簡介：聯邦學習是工業大數據訓練模型的一種可行方法，它可能通過共享參數洩露參與者的隐私。在本文中，我們将一種改進的聯邦學習算法應用于工業大數據的挖掘中。首先，我們通過共享更少的參數來減少隐私洩漏；每次疊代都更新了部分參與者和部分參數。此外，我們還采用了一個代理服務器來減少聯邦學習服務器的通信負擔，并防止聯邦學習服務器獲得參與者的身份。此外，我們利用差分隐私與高斯機制共享參數，提供嚴格的隐私保護和設置自停止機制。從實驗結果來看，我們可以獲得與未改進的聯邦學習幾乎相同的精度，同時通過共享更少的參數，并在共享參數中添加高斯噪聲，從而提供嚴格的隐私保護。此外，該方案比其他比較方案具有更好的魯棒性，并且沒有增加太多的計算成本。

報告題目六：基于深度學習的胸透輔助報告系統

報告人：盧得民
報告簡介：近年深度學習大放異彩，尤其在是在圖像處理領域、自然語言處理領域均大獲成功。深度學習與醫學領域的結合近年來也得到越來越多研究者的關注，如通過醫學圖像來做一些診斷。而醫學領域是一個複雜的領域，其不單單僅限于醫學圖像還有病例等文本信息，甚至包含音頻、視頻等信息即所謂的多模态信息。随着自注意力機制的提出，其本身具有的特質極其适合應用于多模态領域。本系統就是一個多模态信息系統。胸片是最常見的診斷方法之一臨床常規模式。它可以很便宜地完成，需要的很少每一個放射科醫生都能診斷出來。然而，每天獲得的胸片數量很容易超過現有的臨床能力。它能夠從胸部x光片中提取圖像特征，并生成醫學上準确的文本報告，無縫融入臨床工作流程。

場次二、

時間：2023年6月20日（星期二）15:00-16:30

地點：澳门太阳集团9728网站807b教室

報告題目一：一種簡單、高效的Transformer語義分割方法

報告人：羅楊洋

報告簡介：本報告介紹了一個簡單、高效且強大的語義分割框架SegFormer，它将Transformer與輕量級多層感知機（MLP）解碼器統一起來。SegFormer的編碼器為金字塔結構的Transformer，用于輸出多尺度特征；此外，它不需要位置編碼，從而避免了位置碼的插值（若存在位置碼的插值，當測試圖像的分辨率與訓練時不同時，性能會有所下降）。所提出的MLP解碼器聚合了來自不同層的信息，從而結合了局部注意和全局注意，呈現出強大的特征表示。實驗證明，這種簡單和輕量級的設計是Transformer實現高效分割的關鍵。

報告題目二：輕量化圖像超分辨率重建研究

報告人：劉長新

報告簡介：基于深度學習的超分辨率模型雖然為遙感圖像研究提供了效果更好的超分辨率遙感圖像，但是計算資源消耗量大和部署平台硬件要求高等不足限制了模型的實際部署和應用。因此，在已得到深度模型的基礎上，在模型性能下降範圍允許的條件下，對現有模型進行輕量化将有利于實際應用。本研究在已實現的遙感圖像超分辨率模型的基礎上進行輕量化改造，通過降低模型通道數、精簡模塊結構、優化模型配置等操作，得到更有利于實際使用的輕量級模型。

報告題目三：基于強化學習的移動機器人路徑規劃算法研究

報告人：李繼發

報告簡介：深度強化學習是目前機器學習領域中重要的研究分支 之一，它可以通過直接與環境進行交互實現端到端的學習，對高 維度和大規模的問題有着很好的解決能力，深度強化學習 已經取得了矚目的成果。本次報告，聚焦于強化學習算法在移動機器人路徑規劃問題上的應用，并結合群智能算法改進傳統的強化學習算法，提高強化學習算法求解路徑規劃問題的性能。

報告題目四：工業物聯網中基于區塊鍊的個性化聯邦學習

報告人：劉承坤

報告簡介：随着物聯網中不同工業設備産生的數據量快速增長，數據共享中對敏感和隐私數據的保護變得至關重要。目前，針對數據安全的聯邦學習方案已經出現，它可以通過互不信任的互聯網上的模型共享解決數據共享的安全問題。然而，黑客仍然針對聯邦學習中的安全漏洞進行攻擊（如模型提取攻擊和模型反向攻擊）。本文針對上述問題，首先設計了一個區塊鍊支持的聯邦學習在工業物聯網（IIoT）中的應用模型，并基于上述模型制定了我們的數據保護聚合方案。然後，我們給出了基于差分隐私和同态加密的分布式K-means聚類，以及具有差分隐私的分布式随機森林和具有同态加密的分布式AdaBoost方法，這些方法能夠在數據共享和模型共享中實現多重數據保護。最後，我們将這些方法與區塊鍊和聯合學習相結合，并提供完整的安全分析。大量的實驗結果表明，我們的聚合方案和工作機制在選定的指标上有更好的表現。

報告題目五：基于多密鑰同态加密的隐私保護聯邦學習

報告人：劉洋

報告簡介：随着機器學習和物聯網的發展，安全和隐私已經成為移動服務和網絡中的關鍵問題。将數據傳輸到中央單位侵犯了敏感數據的隐私。聯邦學習 通過隻共享模型更新緩解了傳輸本地數據的需要。然而，隐私洩露仍然是一個問題。本文提出了MK-CKKS多密鑰同态加密協議的改進版本xMK-CKKS，設計了一種新的隐私保護聯邦學習方案。在此方案中，模型更新在與服務器共享進行聚合之前通過聚合的公鑰進行加密。對于解密，需要進行所有參與設備之間的協作。我們的方案防止了聯邦學習中公開共享的模型更新導緻的隐私洩漏，并抵抗了k < N −1參與設備和服務器之間的勾結。

報告題目六：使用“課程僞”标簽提升半監督學習
報告人：盧得民
報告簡介：本報告介紹了一種針對半監督提出了課程僞标簽(Curriculum Pseudo Labeling, CPL) 的方法，其能被簡單地應用到多個半監督方法上，且不會引入新的超參數和額外的計算開銷。多項實驗證明，CPL不僅能提升已有方法的精度，也能大幅提升收斂速度（例如，在一些數據集上比Google的FixMatch快5倍）。特别地，論文中将CPL應用在FixMatch後的新算法命名為FlexMatch，該方法在多個圖像分類數據集上取得了state-of-the-art的效果。除此之外，論文中還開源了一個統一的基于Pytorch的半監督方法庫TorchSSL，公平地實現了諸多流行的半監督方法，方便相關領域進行進一步研究。