這是一篇關(guān)于語義通信中資源分配的論文。全文共5頁，篇幅較短。

摘要

語義通信在傳輸可靠性方面有著天然優(yōu)勢，而其中的資源分配更是保證語義傳輸可靠性和通信效率的關(guān)鍵所在，但目前還沒有研究者探索該領(lǐng)域。為了填補這一空白，我們研究了語義領(lǐng)域的頻譜效率，并重新思考語義感知資源分配問題。具體來說，以文本語義通信為例，首次定義了語義譜效率（S-SE），并用于根據(jù)通道分配和傳輸?shù)恼Z義符號的數(shù)量來優(yōu)化資源分配。此外，為了公平地比較語義通信系統(tǒng)和傳統(tǒng)通信系統(tǒng)，開發(fā)了一種變換方法，將傳統(tǒng)的基于比特的頻譜效率轉(zhuǎn)換為S-SE。仿真結(jié)果表明了所提出的資源分配方法的有效性和可行性，以及語義通信在S-SE方面的優(yōu)越性。

關(guān)鍵字

語義通信 語義譜效率 資源分配

引言

語義通信

大家都知道，自從信息革命爆發(fā)以來，我們的信息量（數(shù)據(jù)量）也在不斷膨脹。以往當(dāng)我們進(jìn)行通信時，是將信息放在信源上，系統(tǒng)就會像快遞小哥，發(fā)給信宿。

但在這個萬物互聯(lián)的時代，我們的信道已經(jīng)接近極限，但仍然不足以傳輸所有數(shù)據(jù)。這時，語義通信應(yīng)運而生。
語義通信采用“先理解后發(fā)送”的機制，我們不必發(fā)送所有信息，僅僅發(fā)送最有價值，能夠表達(dá)意思的信息就可以。

那語義通信怎么工作的呢，或是它的總體架構(gòu)是怎么樣子的。現(xiàn)在，語義通信研究還處于起步階段，不同的研究團(tuán)隊有著不同的架構(gòu)設(shè)計。而且，針對不同的通信類型（文本通信，音視頻通信，圖像通信等），語義通信的架構(gòu)也隨之不同。

資源分配

在無線通信中，如何測量信息內(nèi)容以及頻譜效率（SE）是資源分配的基礎(chǔ)。我們需要從語義角度重新考慮資源分配。

盡管仍然缺乏完整的數(shù)據(jù)模型，但借助深度學(xué)習(xí)（DL）的語義系統(tǒng)設(shè)計，可以使得在語義域內(nèi)定義可計算的SE。在本文中，我們以 DeepSC 為例來探索這種語義感知網(wǎng)絡(luò)中的 SE 問題和資源分配問題。

貢獻(xiàn)

• 針對語義感知網(wǎng)絡(luò)提出了一種新的資源分配模型。具體來說，首先定義語義譜效率（S-SE）從語義的角度來衡量通信效率。然后提出了一種新的公式，并在信道分配和傳輸?shù)恼Z義符號的數(shù)量方面最大化整體S-SE。
• 為了公平地比較語義通信系統(tǒng)和傳統(tǒng)通信系統(tǒng)，開發(fā)了一種變換方法將基于比特的SE轉(zhuǎn)換為S-SE。
• 仿真結(jié)果驗證了所提出的資源分配模型的有效性，以及語義通信系統(tǒng)在S-SE方面的優(yōu)越性。

公式符號

符號	含義
${\mathbb{R}}^{n\times m}$	大小為 n x m 的真實集合
$\mathbf{x}$	向量
$\mathbf{X}$	矩陣
$x～\mathcal{C}\mathcal{N}(\mu ,{\sigma }^2)$	x服從循環(huán)對稱復(fù)高斯分布

系統(tǒng)模型

現(xiàn)在考慮如下圖所示的蜂窩網(wǎng)絡(luò)架構(gòu)¹。該架構(gòu)有一個基站，N個移動站。

DeepSC 被用作語義通信模型，并配備每個用戶進(jìn)行文本傳輸，其中底層文本的語義可以通過 Transformer 有效地提取。假設(shè)DeepSC收發(fā)器在BS或云平臺上進(jìn)行訓(xùn)練。然后將訓(xùn)練好的語義發(fā)射機模型廣播給用戶。下面我們來將詳細(xì)介紹 BS 處的 DeepSC 發(fā)射器、傳輸模型和 DeepSC 接收器。

DeepSC Transmitter

第n個用戶生成文本向量為$s_n=[w_{n,1},w_{n,2},...,w_{n,l},....,w_{n,L_n}]$，向量總長度為$L_n$。這個向量會被DeepSC Transmitter 映射為Semantic Symbol 向量 $X_n=[{\mathbf{x}}_{\mathbf{n},1},{\mathbf{x}}_{\mathbf{n},2},....,{\mathbf{x}}_{\mathbf{n},{\mathbf{k}}_{\mathbf{n}}{\mathbf{L}}_{\mathbf{n}}}]$。

其中，$X_n\in {\mathbb{R}}^{k_n{L}_n\times 2}$, $X_n$長度會隨著$s_n$的增加而增加，在第 n 個用戶處，每個單詞平均使用 $k_n$ 個語義符號進(jìn)行編碼，而且每個語義符號可以直接通過傳輸物質(zhì)傳輸。

Transmission Model

符號	含義
M = { 1 , 2 , . . , m , . . . , M } \mathcal{M}=\{1, 2, .., m, ..., M\} M={1,2,..,m,...,M}	可用信道集合（帶寬為W），M是總數(shù)量
${\mathbf{\alpha }}_{\mathbf{m}}=[{\alpha }_{n,1},...,{\alpha }_{n,M}]$	和 第 n 個用戶的相關(guān)性，只有0 1兩個選項
$p_n$	第n個用戶的發(fā)射功率
$g_n$	大尺度信道增益（包括路徑損失和陰影）
$h_{n,m}$	用戶 n 在第 m 個信道上的雷利衰落系數(shù)
$N_0$	噪聲功率譜密度

假設(shè)每個信道最多只能分配給一個用戶，一個用戶至多占據(jù)一個信道：
$$\sum _{n=1}^N{\alpha }_{n,m}\le 1$$
$$\sum _{m=1}^M{\alpha }_{n,m}\le 1$$
考慮到信道包含大尺度衰減和小尺度Rayleigh衰減，信噪比（度量用戶 n 在第 m 個信道上的信號質(zhì)量）：

$${\gamma }_{n,m}=\frac{p_n{g}_n|h_{n,m}^2|}{W{N}_0}$$

DeepSC Receiver

符號	含義
${\mathbf{Y}}_n=\sqrt{g_n}{h}_{n,m}{\mathbf{X}}_n+\mathbf{z}$	來自第 n 個用戶的信號
${\hat{s}}_n$	估計第 n 個用戶的原始向量
B(·)	來自 Transformers (BERT) 模型的句子雙向編碼器表示，采用預(yù)訓(xùn)練的 Sentence-BERT 模型

在 BS 處，來自第 n 個用戶的信號可以表示為 $Y_n$。接收到的信號首先由通道解碼器解碼，從而語義解碼器估計句子 ${\hat{s}}_n$。為了評估語義通信在文本傳輸方面的性能，我們采用語義相似度作為性能指標(biāo).
$$\xi =\frac{B(s)B(\hat{s}{)}^T}{|B(s)||B(s)|}$$

語義感知資源分配策略

S-SE 首先被定義為語義感知網(wǎng)絡(luò)的新指標(biāo)。然后語義感知資源分配在通道分配和傳輸?shù)恼Z義符號的數(shù)量方面被表述為 S-SE 最大化問題。最后，得到優(yōu)化問題的最優(yōu)解。

Semantic Spectral Efficiency （S-SE）

符號	含義
$\mathcal{D}=\{(s_j=[w_{n,1},w_{n,2},...,w_{n,l},....,w_{n,L_n}]){\}}_{j=1}^D$	文本數(shù)據(jù)集，其中 $s_j$ 是第 j 個句子，長度為 $L_j$，$w_{j,l}$是第 $l$ 個單詞。
$I_j$	$s_j$的語義信息量
$p({\mathbf{s}}_{\mathbf{j}})$	$s_j$ 出現(xiàn)概率

假設(shè)語義信息可以通過表示語義信息基本單元的語義單元 (sut) 來衡量?；诖?#xff0c;可以定義兩個關(guān)鍵的基于語義的性能指標(biāo)：

• 語義傳輸速率 (S-R) 👉每秒有效傳輸?shù)恼Z義信息, 單位suts/s
• 語義譜效率(S-SE) 👉語義信息可以在帶寬單位上成功傳輸?shù)乃俾?#xff0c;單位suts/s/Hz

我們關(guān)注的是長文本的傳輸，因此L和I應(yīng)取期望值，而不是隨機值。在第n個用戶處，平均有 $k_{n}L$ 個語義符號承載著 $I$ 的語義信息量，每個語義符號的平均語義信息量為 $I/(k_{n}L)$。

由于符號速率等于通道帶寬對于帶通傳輸，在帶寬為W的通道上傳輸?shù)目傉Z義信息量為 $WI/(k_{n}L)$。（語義信息量和bit數(shù)相對應(yīng)嗎），因此，第n個用戶在第m個通道上的S-R可以表示為
$${\Gamma }_{n,m}=\frac{WI}{k_{n}L}{\xi }_{n,m}$$
第n個用戶在第m個通道上的SS-E可以表示為
$${\Phi }_{n,m}=\frac{{\Gamma }_{n,m}}{W}=\frac{I}{k_{n}L}{\xi }_{n,m}$$

問題建模

符號	含義
$\Phi$	所有用戶整體 S-SE

信道分配向量是我們優(yōu)化變量之一。此外，我們還會優(yōu)化每個單詞的傳輸語義符號的平均數(shù)量 $k_n$，以使每個符號攜帶更多的語義信息，從而在確保相同的傳輸可靠性的同時獲得更高的 S-SE。

優(yōu)化目標(biāo)

$$\underset{{\mathbf{\alpha }}_{\mathbf{n}},k_n}{\max }\Phi =\sum _{n=1}^N\sum _{m=1}^M{\alpha }_{n,m}\frac{I}{k_{n}L}{\xi }_{n,m}$$

通道分配約束條件

• 第 n 個用戶是否占用第 m 條信道：
  α n , m ∈ { 0 , 1 } \alpha_{n, m} \in \{0, 1\} αn,m?∈{0,1}

• 每個信道最多只能分配給一個用戶：
  $$\sum _{n=1}^N{\alpha }_{n,m}\le 1$$

• 一個用戶至多占據(jù)一個信道：
  $$\sum _{m=1}^M{\alpha }_{n,m}\le 1$$

平均語義符號數(shù)約束條件

每個單詞的平均語義符號數(shù)允許范圍，K 表示最大值
k n ∈ { 1 , 2 , 3 , . . . , K } k_n\in\{1, 2, 3, ..., K\} kn?∈{1,2,3,...,K}

語義相似度約束條件

該約束條件反映所需的最小語義相似度 ${\xi }_{th}$:
$${\xi }_{n,m}\ge {\xi }_{th}$$

SS-E限制條件

$${\Phi }_{n,m}\ge {\Phi }_{th}$$

解決方法

$I/L$ 對于特定類型的源是一個常數(shù)，因此不會影響資源分配優(yōu)化，目標(biāo)函數(shù)可以改寫為：
$$\underset{{\mathbf{\alpha }}_{\mathbf{n}},k_n}{\max }\Phi =\sum _{n=1}^N\sum _{m=1}^M{\alpha }_{n,m}\frac{{\xi }_{n,m}}{k_n}$$

${\xi }_{n,m}$ 受 特定語義通信系統(tǒng)和物理信道條件的影響，我們在 AWGN 信道上運行 DeepSC 模型，得到了 ${\xi }_{n,m}$和 $(k_n,{\gamma }_{n,m})$ 之間的映射關(guān)系。如下圖所示：

由于不同蜂窩鏈路的正交性，目標(biāo)函數(shù)可以解耦成下面兩個等效的獨立優(yōu)化問題。

• P2 在所有候選通道上為所有用戶獲取SSE，由于${\xi }_{n,m}$只能通過查表方法獲得，因此采用窮盡法求解。
  $$\begin{gathered} \underset{k_n}{\max }{\tilde{\Phi }}_{n,m}={\xi }_{n,m}/k_n \\ s.t.C_4{C}_5{C}_6 \end{gathered}$$
• P3 可以看作二向圖的最大匹配問題。使用匈牙利算法解決。其中兩個頂點分布是 N 和 M，${\tilde{\Phi }}_{n,m}^{max}$是第n個用戶與第m個通道之間的權(quán)重。
  $$\begin{gathered} \underset{{\mathbf{\alpha }}_{\mathbf{n}}}{\max }\sum _{n=1}^N\sum _{m=1}^M{\alpha }_{n,m}{\tilde{\Phi }}_{n,m}^{max} \\ s.t.C_1{C}_2{C}_3 \end{gathered}$$

仿真結(jié)果

在本節(jié)，我們進(jìn)行了兩個實驗以全面評估所提出的語義感知資源分配方案的性能。

• 將所提出的資源分配模型與傳統(tǒng)的資源分配模型進(jìn)行比較，以驗證語義感知網(wǎng)絡(luò)中的所提出的模型
• 比較語義通信系統(tǒng)和傳統(tǒng)通信系統(tǒng)的S-SE，以顯示語義通信的優(yōu)越性

由于傳統(tǒng)系統(tǒng)通常在 bit 域中進(jìn)行評估，我們開發(fā)了一種變換方法，將SE 轉(zhuǎn)換成 S-SE ，從而實現(xiàn)公平比較。

變換方法

符號	含義
$C_{n,m}$	第n用戶第m信道的傳輸速率 bits/s
$\mu$	轉(zhuǎn)換因子，每個單詞的平均比特數(shù) bits/word

在傳統(tǒng)通信系統(tǒng)中， 單詞中的每個字母都可以通過源編碼器映射到bit。從語義通信角度來看，每個位都可以簡單地認(rèn)為是一個語義符號。因此，等效S-R可以表示為：
$${\Gamma }_{n,m}^{{}^{\prime }}=C_{n,m}\frac{I}{\mu L}{\xi }_{n,m}$$
我們假設(shè)傳統(tǒng)通信中沒有位誤差時，${\xi }_{n,m}$等于1。等效S-SE可以表示為：

$${\Phi }_{n,m}^{{}^{\prime }}=R_{n,m}\frac{I}{\mu L}$$

基準(zhǔn)

本文所提出的資源分配方案是針對特定的語義系統(tǒng)，即DeepSC。我們將和下面三個基準(zhǔn)進(jìn)行比較：

1. 理想系統(tǒng)：信道可以達(dá)到香農(nóng)極限，且無比特誤差。
2. 4G 系統(tǒng)
3. 5G 系統(tǒng)

實驗結(jié)果

在我們的模擬中，考慮了半徑為 r = 500 m 的圓形網(wǎng)絡(luò)，其中 N 個用戶均勻分布。除非另有說明，相關(guān)參數(shù)列于表 I。

我們首先檢查了語義感知網(wǎng)絡(luò)中的傳統(tǒng)資源分配模型。在該仿真中，將理想系統(tǒng)中傳統(tǒng)模型的最優(yōu)信道分配結(jié)果以及不同的$k_n$值。然后將得到的 S-SE 與所提出的模型進(jìn)行比較。如圖 3 所示，無論 kn 的值如何，傳統(tǒng)模型的 SSE 都小于所提出模型的 SSE，這意味著傳統(tǒng)模型不適合語義感知網(wǎng)絡(luò)。此外，$k_n$ = 3 的傳統(tǒng)模型的 S-SE 等于 0，因為在這種情況下語義相似性小于閾值。

圖3. 具有不同模型的語義感知網(wǎng)絡(luò)的 S-SE

下面，我們將不同的通信系統(tǒng)與相應(yīng)的資源分配模型進(jìn)行比較。

• 不同系統(tǒng)的 S-SE 與通道數(shù)的關(guān)系
  當(dāng) M 從 1 增加到 5 時，所有系統(tǒng)的 S-SE 都會迅速增加，因為服務(wù)更多用戶。然后當(dāng) M 繼續(xù)從 5 增加到 10 時，S-SE 增長緩慢而不是保持穩(wěn)定，因為有更多的通道可用，用戶可以選擇具有更高 SNR 的通道。
  

• S-SE與發(fā)射功率的關(guān)系
  隨著pn的增加，理想系統(tǒng)的S-SE迅速增加，而語義通信系統(tǒng)、4G系統(tǒng)和5G系統(tǒng)的S-SE先增大后趨于常數(shù)，這意味著所有實際系統(tǒng)都具有信噪比增加的上界。此外，語義通信系統(tǒng)由于其壓縮數(shù)據(jù)的能力更強，比 4G 和 5G 具有更大的上限。
  

• S-SE 與轉(zhuǎn)換因子的關(guān)系
  語義通信系統(tǒng)的性能保持穩(wěn)定，因為轉(zhuǎn)換因子與其無關(guān)。對于傳統(tǒng)系統(tǒng)，S-SE 隨著 μ 的增加而減小，因為 S-SE 是 SE 與 μ 的比率，最大 SE 是不同 μ 的固定值。此外，當(dāng) μ 大于 19 位/字時，語義通信系統(tǒng)的性能優(yōu)于 4G 和 5G。然而，當(dāng)μ小于大約27位/字時，即一個詞可以編碼為小于27位，語義通信系統(tǒng)的性能比理想系統(tǒng)差。該圖表明，語義通信系統(tǒng)是否大大優(yōu)于傳統(tǒng)系統(tǒng)中采用的源編碼方案。
  

結(jié)論

在本文中，我們研究了語義域中的 SE 問題，并探索了語義通信的資源分配。具體來說，首先定義了 S-R 和 S-SE，以便基于 DeepSC 模型測量語義通信系統(tǒng)的通信效率。為了最大化所有用戶的整體SSE，語義感知資源分配被表述為一個優(yōu)化問題，得到了最優(yōu)解。

我們也進(jìn)行了廣泛的模擬以評估所提出方案的性能。對于文本傳輸，當(dāng)單詞通過傳統(tǒng)的源編碼技術(shù)平均映射到超過 19 位時，語義通信系統(tǒng)實現(xiàn)了比 4G 和 5G 系統(tǒng)更高的 S-SE。此外，如果編碼單詞所需的位增加到超過 27 位，發(fā)射功率為 10 dBm，語義通信系統(tǒng)甚至優(yōu)于理想系統(tǒng)。

未來，如何設(shè)計資源分配方法來滿足包括單模態(tài)和多模態(tài)任務(wù)在內(nèi)的多個智能任務(wù)的要求，應(yīng)該進(jìn)一步研究。

【1】https://www.eet-china.com/mp/a245114.html

---

1. https://zh.wikipedia.org/wiki/%E8%9C%82%E7%AA%9D%E7%BD%91%E7%BB%9C# ??