本申請涉及圖像處理,特別是涉及一種基于擴散后驗采樣的圖像融合方法。
背景技術:
1、圖像融合的目的是為了綜合多種模式的圖像數據,更全面地捕捉目標特征。圖像處理領域目前采用的圖像融合方法為基于生成對抗網絡的圖像融合方法,這類方法將圖像融合問題建模為生成器與鑒別器的對抗博弈問題,讓鑒別器迫使生成器生成具有源圖像分布的融合圖像。生成對抗網絡算法的弊端是,在訓練期間不易保持發生器和鑒別器之間的平衡,容易生成模糊的融合圖像,丟失梯度信息。
技術實現思路
1、針對背景技術中指出的問題,本申請的目的是提供一種基于擴散后驗采樣的圖像融合方法,以避免生成對抗訓練導致的有效信息丟失,增強融合圖像的信息完備性。
2、為實現上述目的,本申請提供了如下方案。
3、第一方面,本申請提供了一種基于擴散后驗采樣的圖像融合方法,包括:
4、初始化擴散后驗采樣過程的變量,包括設置初始擴散采樣時間步和隨機取初始擴散噪聲圖像;
5、在初始化變量的基礎上,計算當前時間步對最終融合圖像的估計;
6、基于當前時間步對最終融合圖像的估計對當前時間步噪聲圖像進行初步更新,得到下一時間步噪聲圖像的初步更新結果;
7、輸入源圖像修正下一時間步噪聲圖像的初步更新結果,得到修正后的噪聲圖像;所述源圖像包括可見光圖像和sar圖像;
8、更新時間步,返回所述計算當前時間步對最終融合圖像的估計的步驟進行迭代計算,直到當前時間步為零,輸出修正后的噪聲圖像作為最終融合圖像。
9、可選地,所述初始化擴散后驗采樣過程的變量,具體包括:
10、設置初始擴散采樣時間步t=t,隨機取服從正態分布的初始擴散噪聲圖像ft;其中in是與噪聲圖像大小相同的單位矩陣;
11、將預訓練好的噪聲逼近網絡sθ(ft,t)用表示;其中t為擴散采樣的當前時間步;ft代表第t步的噪聲圖像,也稱為當前時間步噪聲圖像。
12、可選地,所述預訓練好的噪聲逼近網絡sθ(ft,t)為u-net網絡預訓練得到,輸入為ft和t,輸出為ft相較于原始清晰圖像f0被加入的噪聲。
13、可選地,所述計算當前時間步對最終融合圖像的估計,具體包括:
14、采用公式計算當前時間步對最終融合圖像的估計其中αt=1-βt,βt為擴散模型正向加噪過程中第t步的單步噪聲方差。
15、可選地,所述基于當前時間步對最終融合圖像的估計對當前時間步噪聲圖像進行初步更新,得到下一時間步噪聲圖像的初步更新結果,具體包括:
16、基于當前時間步對最終融合圖像的估計采用公式對當前時間步噪聲圖像ft進行初步更新,得到下一時間步噪聲圖像的初步更新結果f′t-1;其中αt-1=1-βt-1,βt-1為擴散模型正向加噪過程中第t-1步的單步噪聲方差;σt為擴散模型正向加噪過程中當前時間步噪聲圖像相較于原始清晰圖像所加噪聲方差;z為高斯噪聲圖像。
17、可選地,所述高斯噪聲圖像z隨機取服從高斯分布的噪聲圖像。
18、可選地,所述輸入源圖像修正下一時間步噪聲圖像的初步更新結果,得到修正后的噪聲圖像,具體包括:
19、輸入可見光圖像o和sar圖像s作為源圖像,采用公式
20、修正下一時間步噪聲圖像的初步更新結果f′t-1,得到修正后的噪聲圖像ft-1;其中ρ、γ、η1和η2均為權重系數;sgn代表符號函數;▽是梯度算子;div是散度算子。
21、可選地,所述更新時間步,返回所述計算當前時間步對最終融合圖像的估計的步驟進行迭代計算,直到當前時間步為零,輸出修正后的噪聲圖像作為最終融合圖像,具體包括:
22、更新時間步t←t-1,返回所述計算當前時間步對最終融合圖像的估計的步驟進行迭代計算,從初始化的t=t開始迭代一直到t=0,輸出修正后的噪聲圖像f0作為最終融合圖像。
23、第二方面,本申請提供了一種計算機設備,包括:存儲器、處理器以及存儲在存儲器上并可在處理器上運行的計算機程序,所述處理器執行所述計算機程序以實現所述基于擴散后驗采樣的圖像融合方法。
24、第三方面,本申請提供了一種計算機可讀存儲介質,其上存儲有計算機程序,該計算機程序被處理器執行時實現所述基于擴散后驗采樣的圖像融合方法。
25、第四方面,本申請提供了一種計算機程序產品,包括計算機程序,該計算機程序被處理器執行時實現所述基于擴散后驗采樣的圖像融合方法。
26、根據本申請提供的具體實施例,本申請公開了以下技術效果。
27、本申請提供的一種基于擴散后驗采樣的圖像融合方法,在擴散后驗采樣框架下,綜合可見光圖像和sar圖像這兩種源圖像的互補信息,得到包含信息更完善的融合圖像,能夠有效避免生成對抗訓練導致的有效信息丟失,不僅增強了融合圖像的信息完備性,還提升了融合圖像的特征顯著性。
1.一種基于擴散后驗采樣的圖像融合方法,其特征在于,包括:
2.根據權利要求1所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述初始化擴散后驗采樣過程的變量,具體包括:
3.根據權利要求2所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述預訓練好的噪聲逼近網絡sθ(ft,t)為u-net網絡預訓練得到,輸入為ft和t,輸出為ft相較于原始清晰圖像f0被加入的噪聲。
4.根據權利要求2所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述計算當前時間步對最終融合圖像的估計,具體包括:
5.根據權利要求4所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述基于當前時間步對最終融合圖像的估計對當前時間步噪聲圖像進行初步更新,得到下一時間步噪聲圖像的初步更新結果,具體包括:
6.根據權利要求5所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述高斯噪聲圖像z隨機取服從高斯分布的噪聲圖像。
7.根據權利要求5所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述輸入源圖像修正下一時間步噪聲圖像的初步更新結果,得到修正后的噪聲圖像,具體包括:
8.根據權利要求7所述的基于擴散后驗采樣的圖像融合方法,其特征在于,所述更新時間步,返回所述計算當前時間步對最終融合圖像的估計的步驟進行迭代計算,直到當前時間步為零,輸出修正后的噪聲圖像作為最終融合圖像,具體包括: