Quantum Transfer Learning for MNIST Classification Using a Hybrid Quantum-Classical Approach

基于量子-經(jīng)典混合方法的 MNIST 分類的量子遷移學習

https://arxiv.org/pdf/2408.03351v1

摘要 ：

在本研究中，我們探索了將量子計算與經(jīng)典機器學習相結(jié)合用于圖像分類任務(wù)的方法，特別聚焦于MNIST數(shù)據(jù)集。我們提出了一種量子-經(jīng)典混合方法，結(jié)合了兩種范式的優(yōu)點。該過程從預(yù)處理MNIST數(shù)據(jù)集開始，對像素值進行歸一化，并將圖像重塑為向量。使用自編碼器（autoencoder）將這些784維向量壓縮到64維的潛在空間，有效降低了數(shù)據(jù)維度，同時保留了關(guān)鍵特征。然后，這些壓縮后的特征通過一個在5個量子比特系統(tǒng)上實現(xiàn)的量子電路進行處理。量子電路根據(jù)特征值應(yīng)用旋轉(zhuǎn)門，隨后使用Hadamard門和CNOT門來糾纏量子比特，并通過測量生成量子輸出結(jié)果。這些量子輸出作為輸入提供給一個經(jīng)典的神經(jīng)網(wǎng)絡(luò)，用于對MNIST數(shù)字進行分類。該經(jīng)典神經(jīng)網(wǎng)絡(luò)由多個全連接層組成，并包含批量歸一化和Dropout機制以增強泛化能力和性能。我們評估了這種混合模型的性能，并將其與純經(jīng)典方法進行了比較。實驗結(jié)果表明，雖然混合模型展示了將量子計算與經(jīng)典技術(shù)相結(jié)合的可行性，但基于量子輸出訓練的最終模型的準確率目前仍低于基于壓縮特征訓練的經(jīng)典模型。本研究突顯了量子計算在機器學習中的潛力，盡管要實現(xiàn)更優(yōu)性能，還需要進一步優(yōu)化和更先進的量子算法。

關(guān)鍵詞 ：量子計算 · 自編碼器 · 神經(jīng)網(wǎng)絡(luò)

1 引言

機器學習通過使系統(tǒng)能夠從數(shù)據(jù)中學習并做出智能決策，徹底改變了各個領(lǐng)域。然而，隨著機器學習模型復(fù)雜度的不斷提高，尤其是在處理大規(guī)模數(shù)據(jù)集和高維數(shù)據(jù)時，對計算資源的需求也日益增加。量子計算利用量子力學的原理，為提升可用于機器學習任務(wù)的計算能力提供了有前景的新途徑。

1.1 機器學習及其計算挑戰(zhàn)

機器學習算法，尤其是深度學習模型，在圖像分類、自然語言處理和游戲博弈等任務(wù)中取得了顯著的成功 [3]。這些模型通常涉及訓練具有多層神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，其中每一層都執(zhí)行線性變換，然后通過非線性激活函數(shù)。這些網(wǎng)絡(luò)的參數(shù)使用基于梯度的技術(shù)進行優(yōu)化，以最小化一個損失函數(shù)，該損失函數(shù)用于量化預(yù)測結(jié)果與實際結(jié)果之間的差異。

機器學習中的一個根本性挑戰(zhàn)是“維度災(zāi)難”，它指的是在處理高維數(shù)據(jù)時所需計算資源呈指數(shù)級增長的問題。例如，MNIST 數(shù)據(jù)集包含 70,000 張手寫數(shù)字圖像，每張圖像由一個 28x28 的像素網(wǎng)格表示，從而形成 784 維的特征向量 [1]。在這樣高維的數(shù)據(jù)上訓練深度學習模型計算密集度很高，需要大量的內(nèi)存和處理能力。

1.2 量子計算：概述

量子計算利用了量子力學的原理，如疊加性和糾纏性，來執(zhí)行經(jīng)典計算機無法完成的計算任務(wù) [6]。與經(jīng)典比特只能處于兩個狀態(tài)之一（0 或 1）不同，量子比特（qubit）可以同時處于這兩個狀態(tài)的疊加態(tài)。這一特性使得量子計算機能夠同時處理大量可能的解決方案。

從數(shù)學上講，一個量子比特的狀態(tài)可以表示為基態(tài) |0? 和 |1? 的線性組合：

（注：原文此處應(yīng)繼續(xù)描述量子比特的數(shù)學表達式，如：
|ψ? = α|0? + β|1?，其中 α 和 β 是復(fù)數(shù)系數(shù)，滿足 |α|2 + |β|2 = 1）

其中 α 和 β 是復(fù)數(shù)，且滿足 |α|2 + |β|2 = 1。當這一疊加特性擴展到多個量子比特時，使得量子計算機能夠探索指數(shù)級增長的解空間。

量子電路由量子門組成，用于操控量子比特以執(zhí)行特定的計算任務(wù)。量子門如哈達瑪?shù)麻T（H）、泡利-X門（Pauli-X）和受控非門（CNOT）等，都是對量子比特執(zhí)行操作的基本單元。例如，哈達瑪?shù)麻T可以創(chuàng)建一個疊加態(tài)：

CNOT門是一種用于糾纏量子比特的門，它執(zhí)行的是一個受控操作，其中一個量子比特的狀態(tài)（控制量子比特）決定了是否對另一個量子比特（目標量子比特）執(zhí)行操作。

1.3 將量子計算與機器學習相結(jié)合

通過混合量子-經(jīng)典方法將量子計算與機器學習相結(jié)合，有望解決機器學習中的一些計算難題。混合模型利用量子電路來處理數(shù)據(jù)或在更大的經(jīng)典機器學習流程中執(zhí)行特定子任務(wù)。這種方法結(jié)合了量子計算和經(jīng)典計算的優(yōu)勢。

在本研究中，我們提出了一種用于圖像分類的混合量子-經(jīng)典模型，使用的是 MNIST 數(shù)據(jù)集。我們的方法包括以下關(guān)鍵步驟：

1. 數(shù)據(jù)預(yù)處理

   ：對 MNIST 圖像進行歸一化處理，并將其重塑為 784 維的向量。

2. 特征壓縮

   ：使用自編碼器將這些向量壓縮到 64 維的潛在空間中。

3. 量子處理

   ：應(yīng)用量子電路對壓縮后的特征進行處理，并生成量子輸出結(jié)果。

4. 經(jīng)典神經(jīng)網(wǎng)絡(luò)訓練

   ：在量子輸出結(jié)果的基礎(chǔ)上，訓練一個經(jīng)典的神經(jīng)網(wǎng)絡(luò)以對 MNIST 數(shù)字進行分類。

機器學習中的量子計算是一個新興領(lǐng)域，旨在探索利用量子算法來提升經(jīng)典機器學習任務(wù)的性能。量子機器學習借助量子電路和量子特性（如疊加性和糾纏性），能夠比經(jīng)典算法更高效地執(zhí)行復(fù)雜計算 [7]。

將量子計算應(yīng)用于機器學習的整合方式可以分為三種主要方法：

1. 量子數(shù)據(jù)

   ：這種方法涉及將經(jīng)典數(shù)據(jù)編碼為量子態(tài)，并使用量子電路對這些數(shù)據(jù)進行處理。處理后的量子態(tài)隨后被測量，以獲得經(jīng)典的輸出結(jié)果。

2. 量子模型

   ：在此方法中，量子算法被直接用于在量子數(shù)據(jù)上訓練模型。諸如量子支持向量機和量子神經(jīng)網(wǎng)絡(luò)等量子機器學習模型，旨在利用量子特性來提升模型性能。

3. 混合量子-經(jīng)典模型

   ：這種方法通過在經(jīng)典機器學習流程中使用量子電路來執(zhí)行特定的子任務(wù)，從而結(jié)合經(jīng)典計算與量子計算。混合模型旨在融合兩種計算范式的優(yōu)點，以提升整體性能。

量子電路是量子算法的基本構(gòu)建模塊。一個量子電路由一系列量子門組成，這些量子門通過對量子比特（qubit）進行操作來執(zhí)行特定的計算任務(wù) [6]。量子門如哈達瑪門（H）、泡利-X 門（Pauli-X）和受控非門（CNOT）等，都是對量子比特執(zhí)行操作的基本單元。例如，哈達瑪門可以創(chuàng)建疊加態(tài)：

CNOT 門用于糾纏量子比特，它執(zhí)行一種受控操作，其中一個量子比特的狀態(tài)（控制量子比特）決定了對另一個量子比特（目標量子比特）所執(zhí)行的操作。

在機器學習的背景下，量子電路可以通過將經(jīng)典特征編碼為量子態(tài)，并應(yīng)用量子門來執(zhí)行計算，從而對數(shù)據(jù)進行處理。這些計算的結(jié)果隨后被測量，以獲得經(jīng)典的輸出結(jié)果，這些結(jié)果可以用于后續(xù)的機器學習任務(wù)中。

1.6 貢獻與未來工作

本研究展示了將量子計算與經(jīng)典機器學習技術(shù)相結(jié)合在圖像分類任務(wù)中的潛力。盡管當前的實現(xiàn)已展現(xiàn)出一定的前景，但仍需進一步的優(yōu)化和實驗以實現(xiàn)更優(yōu)異的性能。未來的工作將探索更先進的量子電路設(shè)計、更大規(guī)模的量子比特系統(tǒng)以及替代性的量子算法，以充分挖掘量子計算在提升機器學習模型方面的潛力。

2 背景 2.1 使用自編碼器進行特征壓縮

自編碼器（Autoencoder）是一種人工神經(jīng)網(wǎng)絡(luò)，用于學習未標注數(shù)據(jù)的有效編碼方式 [4]。它是一種無監(jiān)督學習技術(shù)，我們利用神經(jīng)網(wǎng)絡(luò)來進行表示學習。自編碼器的主要目標是為一組數(shù)據(jù)學習一種表示（編碼），通常用于降維的目的。這種特征壓縮是通過訓練網(wǎng)絡(luò)忽略信號中的噪聲來實現(xiàn)的。

自編碼器的結(jié)構(gòu)主要包括兩個部分：編碼器（Encoder）和解碼器（Decoder）。編碼器將輸入數(shù)據(jù)壓縮為一個潛在空間（latent space）中的表示，而解碼器則從這個表示中重構(gòu)原始輸入。這一過程可以用如下的數(shù)學形式來描述：

其中，W′ 和 b′ 分別是解碼器的權(quán)重矩陣和偏置向量，σ′ 是激活函數(shù)。
自編碼器的訓練目標是最小化重構(gòu)誤差，該誤差用于衡量輸入與重構(gòu)輸出之間的差異。常用的損失函數(shù)是均方誤差（MSE）：

其中，n 是數(shù)據(jù)點的數(shù)量。編碼器和解碼器的參數(shù)（θ 和 φ）通過優(yōu)化以最小化該損失函數(shù)，通常使用梯度下降或其變體進行優(yōu)化。

使用自編碼器進行特征壓縮的一個顯著優(yōu)勢在于它們能夠?qū)W習非線性變換，這使得它們比傳統(tǒng)的線性降維技術(shù)（如主成分分析 PCA）更加強大。自編碼器能夠捕捉數(shù)據(jù)中的復(fù)雜關(guān)系，從而在分類和聚類等下游任務(wù)中表現(xiàn)出更好的性能。

此外，編碼器學習到的潛在空間表示可以作為其他機器學習模型的輸入特征，從而降低數(shù)據(jù)的維度并提高計算效率。這在原始數(shù)據(jù)維度較高的情況下尤其有用，圖像和文本數(shù)據(jù)通常就屬于這種情況。

在我們的方法中，我們使用自編碼器將 784 維的 MNIST 圖像壓縮到一個 64 維的潛在空間 [5]。這個壓縮后的表示作為后續(xù)量子處理的輸入，使我們能夠在混合模型中結(jié)合經(jīng)典計算和量子計算的優(yōu)勢。

2.2 量子計算在機器學習中的應(yīng)用
量子計算利用量子力學的原理來執(zhí)行經(jīng)典計算機無法完成的計算任務(wù)。量子計算中的核心概念包括疊加、糾纏和量子門，這些特性使量子計算機能夠并行處理大量數(shù)據(jù)，并比經(jīng)典計算機更高效地解決復(fù)雜問題 [6]。

量子比特（qubit）是量子信息的基本單位。與處于兩種狀態(tài)之一（0 或 1）的經(jīng)典比特不同，量子比特可以同時處于這兩種狀態(tài)的疊加態(tài)。數(shù)學上，一個量子比特的狀態(tài)可以表示為基態(tài) |0? 和 |1? 的線性組合：

其中 α 和 β 是復(fù)數(shù)，滿足 |α|2 + |β|2 = 1。這一特性使得量子計算機能夠?qū)Υ罅靠赡艿臓顟B(tài)進行并行計算。

量子門是量子電路的基本構(gòu)建模塊。它們通過酉變換來操控量子比特的狀態(tài)。常見的量子門包括哈達瑪門（H）、泡利-X 門和受控非門（CNOT）。例如，哈達瑪門可以從一個基態(tài)生成一個疊加態(tài)：

糾纏是量子力學中的另一個基本原理，其中某個量子比特的狀態(tài)會依賴于另一個量子比特的狀態(tài)。CNOT 門是一種可以使量子比特糾纏的門，它執(zhí)行一種受控操作，其中一個量子比特（控制量子比特）的狀態(tài)決定了對另一個量子比特（目標量子比特）所施加的操作。其表示如下：

其中 ⊕ 表示異或（XOR）操作。

將量子計算與機器學習相結(jié)合，涉及使用量子算法來增強經(jīng)典的機器學習任務(wù)。量子機器學習利用量子電路來處理數(shù)據(jù)并執(zhí)行對經(jīng)典算法而言計算量較大的任務(wù)。這種結(jié)合可以分為三種主要方法：量子數(shù)據(jù)、量子模型以及混合量子-經(jīng)典模型 [7]。

在量子數(shù)據(jù)方法中，經(jīng)典數(shù)據(jù)被編碼為量子態(tài)，并通過量子電路進行處理。隨后對處理后的量子態(tài)進行測量，以獲得經(jīng)典結(jié)果。另一方面，量子模型使用量子算法直接在量子數(shù)據(jù)上訓練模型，例如量子支持向量機和量子神經(jīng)網(wǎng)絡(luò)。

混合量子-經(jīng)典模型通過在經(jīng)典的機器學習流程中使用量子電路來執(zhí)行特定的子任務(wù)，從而將經(jīng)典計算與量子計算相結(jié)合。該方法旨在利用兩種范式的優(yōu)點，以提升整體性能。例如，量子電路可以用于處理來自經(jīng)典自編碼器的編碼特征，正如本研究中所展示的那樣。

總之，量子計算為增強機器學習提供了有前景的新途徑，通過提供更高效的數(shù)據(jù)處理工具，推動了機器學習的發(fā)展。疊加、糾纏和量子門等原理使量子計算機能夠執(zhí)行經(jīng)典計算機難以完成的計算任務(wù)，這使得量子機器學習成為一個快速發(fā)展的領(lǐng)域，具有巨大的潛力。

3方法論

3.1 數(shù)據(jù)預(yù)處理
數(shù)據(jù)預(yù)處理是機器學習流程中的一個關(guān)鍵步驟，它將原始數(shù)據(jù)轉(zhuǎn)換為適合模型訓練的格式。對于 MNIST 數(shù)據(jù)集而言，這包括對像素值進行歸一化、對圖像進行重塑，并為后續(xù)的特征壓縮和量子處理做好準備。

MNIST 數(shù)據(jù)集包含 60,000 張訓練圖像和 10,000 張測試圖像，每張圖像的大小為 28x28 像素。每個像素的灰度值范圍為 0 到 255 [1]。在數(shù)據(jù)預(yù)處理過程中，我們將這些像素值歸一化到 [0, 1] 的范圍內(nèi)。這種歸一化確保了輸入數(shù)據(jù)具有統(tǒng)一的尺度，從而提高了基于梯度的優(yōu)化算法在訓練神經(jīng)網(wǎng)絡(luò)時的收斂性。數(shù)學上，歸一化過程表示為：

其中，x 是原始像素值，x′ 是歸一化后的值。

接下來，我們將每個 28×28 像素的圖像網(wǎng)格展平為一個 784 維的向量。這一步將二維的圖像數(shù)據(jù)轉(zhuǎn)換為一維數(shù)組，使其符合自編碼器和經(jīng)典神經(jīng)網(wǎng)絡(luò)的輸入要求。設(shè) X 為原始的二維圖像矩陣，展平后的向量 xf 可通過以下方式獲得：

這一重塑過程確保了每張圖像都被表示為一個 784 維的特征向量。

為了進一步提升訓練效果，我們對訓練圖像應(yīng)用數(shù)據(jù)增強技術(shù)。數(shù)據(jù)增強通過隨機變換圖像（如旋轉(zhuǎn)、寬高平移和水平翻轉(zhuǎn)）來人工擴展訓練數(shù)據(jù)集。這些變換有助于提高模型的魯棒性和泛化能力，使其能夠接觸到更多樣化的圖像變化形式。

數(shù)據(jù)增強過程可以通過對原始圖像 X 應(yīng)用一個變換函數(shù) T 來進行數(shù)學表示：

通過數(shù)據(jù)增強，我們生成了一個更加多樣化的訓練集，這有助于防止過擬合并提升模型對新樣本的泛化能力。

在完成歸一化、重塑和數(shù)據(jù)增強之后，預(yù)處理的數(shù)據(jù)即可用于通過自編碼器進行特征壓縮。壓縮后的特征將作為輸入，用于后續(xù)的量子處理和分類任務(wù)。

3.2 使用自編碼器進行特征壓縮

特征壓縮是數(shù)據(jù)預(yù)處理中的一個關(guān)鍵步驟，尤其是在處理高維數(shù)據(jù)集時。自編碼器（Autoencoders）是一種人工神經(jīng)網(wǎng)絡(luò)，特別適用于這一任務(wù)。它們能夠?qū)⑤斎霐?shù)據(jù)壓縮到一個低維的潛在空間（latent space），然后再從該壓縮表示中重建原始數(shù)據(jù)。這一過程在保留關(guān)鍵信息的同時降低了數(shù)據(jù)的維度 [4]。

自編碼器的結(jié)構(gòu)主要包括兩個部分：編碼器（encoder）和解碼器（decoder）。編碼器將輸入數(shù)據(jù)壓縮為一個低維表示，而解碼器則從該表示中重建原始數(shù)據(jù)。從數(shù)學上可以表示如下：

其中 W是權(quán)重矩陣，b是偏置向量，σ是非線性激活函數(shù)（如 ReLU（修正線性單元））。解碼器試圖逆轉(zhuǎn)編碼器的操作，以重建輸入數(shù)據(jù)：

其中 W′和 b′分別是解碼器的權(quán)重矩陣和偏置向量，σ′是激活函數(shù)。

自編碼器的訓練目標是最小化重建誤差，該誤差用于衡量輸入數(shù)據(jù)與重建輸出之間的差異。常用的損失函數(shù)是均方誤差（MSE）：

其中 n是數(shù)據(jù)點的數(shù)量。編碼器和解碼器的參數(shù)（θ和 ?）通過優(yōu)化以最小化該損失函數(shù)，通常使用梯度下降或其變體進行優(yōu)化。

自編碼器的一個顯著優(yōu)勢在于它們能夠?qū)W習非線性變換，這使得它們比傳統(tǒng)的線性降維技術(shù)（如主成分分析 PCA）更加強大。自編碼器能夠捕捉數(shù)據(jù)中的復(fù)雜關(guān)系，從而在分類和聚類等下游任務(wù)中表現(xiàn)出更優(yōu)的性能。

在我們的量子-經(jīng)典混合模型中，我們使用自編碼器將 784 維的 MNIST 圖像壓縮到 64 維的潛在空間中。我們的自編碼器結(jié)構(gòu)設(shè)計為編碼器包含兩個全連接層（dense layers），解碼器也包含兩個全連接層。編碼器層使用 ReLU 激活函數(shù)引入非線性，而解碼器層則使用 sigmoid 激活函數(shù)，以確保輸出值的范圍與歸一化后的輸入數(shù)據(jù)一致。

由編碼器生成的壓縮特征將作為量子處理階段的輸入。通過降低數(shù)據(jù)的維度，我們使其更易于被量子電路處理，在這種混合方法中充分發(fā)揮了經(jīng)典計算與量子計算各自的優(yōu)勢 [5]。

3.3 經(jīng)典神經(jīng)網(wǎng)絡(luò)

經(jīng)典神經(jīng)網(wǎng)絡(luò)，尤其是深度神經(jīng)網(wǎng)絡(luò)（DNNs），由于其在建模數(shù)據(jù)中復(fù)雜模式的能力，已成為現(xiàn)代機器學習的基石。在我們的量子-經(jīng)典混合模型中，我們使用一個經(jīng)典神經(jīng)網(wǎng)絡(luò)，基于自編碼器壓縮并經(jīng)量子電路處理后的特征，對 MNIST 手寫數(shù)字進行分類。

我們的經(jīng)典神經(jīng)網(wǎng)絡(luò)架構(gòu)旨在捕捉數(shù)據(jù)中的復(fù)雜關(guān)系，從而提高分類準確率。該網(wǎng)絡(luò)由多個全連接層（dense layers）組成，每個全連接層后均接有批歸一化（batch normalization）層和 dropout 層，以增強模型的泛化能力并防止過擬合。

網(wǎng)絡(luò)架構(gòu)經(jīng)典神經(jīng)網(wǎng)絡(luò)的架構(gòu)可以數(shù)學描述如下：

1. 輸入層 ：輸入層接收經(jīng)過量子處理后的特征。設(shè)輸入向量為 x∈Rd，其中 d是特征空間的維度。

2. 全連接層（Dense Layers） ：輸入依次通過多個全連接層。每個全連接層執(zhí)行一個線性變換，隨后接一個非線性激活函數(shù)。對于具有權(quán)重矩陣 W和偏置向量 b的全連接層，其變換可以表示為：

   該線性變換的輸出隨后通過一個非線性激活函數(shù) σ，通常使用 ReLU（修正線性單元）：

3. 批歸一化（Batch Normalization） ：在每個全連接層之后，應(yīng)用批歸一化以穩(wěn)定并加速訓練過程。批歸一化通過對前一層的輸出減去批次均值并除以批次標準差來對其進行歸一化。這可以表示為：

其中 分別是當前批次的均值和方差，ε是一個很小的常數(shù)，用于防止除以零。

4. Dropout 層 ：Dropout 是一種正則化技術(shù)，在訓練過程中隨機地將輸入單元的一部分設(shè)為零，以防止過擬合。如果 p 是 Dropout 率，則每個神經(jīng)元有概率 p 被丟棄（即設(shè)為零）：

這確保了輸出值介于 0 和 1 之間，并且總和為 1，從而可以將其解釋為概率。

損失函數(shù)與優(yōu)化 該網(wǎng)絡(luò)使用分類交叉熵（categorical cross-entropy）損失函數(shù)進行訓練，該函數(shù)用于衡量真實標簽與預(yù)測概率之間的差異。對于給定的真實標簽向量 y和預(yù)測概率向量 y^，交叉熵損失定義如下：

其中 C是類別數(shù)量。

網(wǎng)絡(luò)的參數(shù)（權(quán)重和偏置）使用 Adam 優(yōu)化器 進行優(yōu)化，這是一種隨機梯度下降的變體，能夠為每個參數(shù)自適應(yīng)地調(diào)整學習率 [3]。在第 t次迭代時，參數(shù) θ的更新規(guī)則如下所示：

其中 分別是第一階和第二階矩估計，β1和 β2是超參數(shù)，α是學習率，ε是一個很小的常數(shù)。

實現(xiàn)細節(jié)我們的經(jīng)典神經(jīng)網(wǎng)絡(luò)使用 TensorFlow 和 Keras 實現(xiàn)。該架構(gòu)包括一個輸入層、三個帶有批歸一化和 Dropout 的全連接層，以及一個使用 Softmax 激活函數(shù)的輸出層。網(wǎng)絡(luò)會訓練指定數(shù)量的輪次（epochs），并且使用學習率調(diào)度器（learning rate scheduler）動態(tài)調(diào)整學習率，以提高收斂速度。

3.4 量子電路集成

量子電路集成是我們量子-經(jīng)典混合模型中的一個關(guān)鍵組成部分。通過利用量子力學原理，量子電路能夠以經(jīng)典系統(tǒng)無法實現(xiàn)的方式處理數(shù)據(jù)。該集成過程包括將經(jīng)典數(shù)據(jù)編碼為量子態(tài)，使用量子門對這些量子態(tài)進行操控，并通過測量輸出結(jié)果來提取有用信息，供后續(xù)的經(jīng)典處理使用。

量子數(shù)據(jù)編碼量子電路集成的第一步是將經(jīng)典數(shù)據(jù)編碼為量子態(tài)。對于 MNIST 數(shù)據(jù)集，我們從自編碼器壓縮后的特征開始。給定一個特征向量 x∈Rd，我們對其進行歸一化處理，并將這些特征映射到適合量子態(tài)表示的范圍內(nèi)。每個特征 xi通過旋轉(zhuǎn)門（rotation gates）被映射到一個量子態(tài)。該變換可以表示為：

量子電路構(gòu)建
一旦經(jīng)典特征被編碼為量子態(tài)，我們便構(gòu)建一個量子電路來處理這些量子態(tài)。量子電路由量子比特（qubits）和操控這些量子比特的量子門組成。在我們的模型中，我們使用一個包含 5 個量子比特的系統(tǒng)來處理編碼后的特征。該電路包含一系列對量子比特執(zhí)行酉變換（unitary transformations）的量子門，從而通過量子并行性（quantum parallelism）實現(xiàn)復(fù)雜的計算 [6]。

接下來，我們應(yīng)用一系列哈達瑪門（Hadamard gates）H以創(chuàng)建疊加態(tài)（superposition states）。哈達瑪門的表示如下：

對每個量子比特應(yīng)用哈達瑪門后，會創(chuàng)建出所有可能狀態(tài)的疊加態(tài)，從而使電路能夠同時探索多條計算路徑。

在生成疊加態(tài)之后，我們使用受控非門（CNOT 門）在量子比特之間引入糾纏。CNOT 門用于糾纏兩個量子比特的狀態(tài)，其定義如下：

糾纏是量子計算中的一個關(guān)鍵特性，因為它使得量子比特能夠表現(xiàn)出經(jīng)典系統(tǒng)中無法實現(xiàn)的相關(guān)性。這些相關(guān)性使得某些任務(wù)的計算效率得以顯著提升。

量子電路的最后一步是對量子比特進行測量。測量會將量子態(tài)坍縮為經(jīng)典比特（classical bits），從而提供可用于后續(xù)處理的結(jié)果。測量過程是概率性的，其結(jié)果是一串經(jīng)典比特，表示測量時刻量子比特的狀態(tài)。

量子電路執(zhí)行
為了執(zhí)行該量子電路，我們使用 Qiskit 庫和 Aer 模擬器 [7]。涉及的步驟如下：

1. 電路轉(zhuǎn)譯（Transpile the Circuit）

   ：轉(zhuǎn)譯是指將高層次的量子電路轉(zhuǎn)換為可在特定量子后端上執(zhí)行的形式。此步驟會對電路進行優(yōu)化，以適配目標后端的架構(gòu)。

2. 組裝電路（Assemble the Circuit） ：將經(jīng)過轉(zhuǎn)譯的電路組裝成一個量子對象（Qobj），該對象可以在量子后端上執(zhí)行。

3. 運行電路（Run the Circuit） ：將組裝好的電路在量子后端上執(zhí)行，并獲取運行結(jié)果。

4. 提取結(jié)果（Extract Outcomes）：從結(jié)果對象中提取測量結(jié)果，得到表示量子態(tài)的經(jīng)典比特串（classical bit strings）。

這些結(jié)果隨后被處理，形成特征向量，并作為輸入傳遞給后續(xù)的經(jīng)典神經(jīng)網(wǎng)絡(luò)。

與經(jīng)典處理的集成
量子計算的結(jié)果被用作經(jīng)典神經(jīng)網(wǎng)絡(luò)的特征。通過將量子處理與經(jīng)典處理相結(jié)合，我們能夠充分發(fā)揮兩者的優(yōu)勢。量子電路為特征變換提供了一種強大的工具，能夠捕捉經(jīng)典方法可能遺漏的復(fù)雜模式；而經(jīng)典神經(jīng)網(wǎng)絡(luò)則利用這些經(jīng)過變換的特征進行準確的分類。

3.5 量子-經(jīng)典混合模型

量子-經(jīng)典混合模型融合了量子計算與經(jīng)典計算范式的各自優(yōu)勢，以提升機器學習任務(wù)的性能與效率。這種集成旨在將量子并行性與糾纏特性同經(jīng)典神經(jīng)網(wǎng)絡(luò)強大的優(yōu)化能力相結(jié)合，從而實現(xiàn)更優(yōu)的計算與學習效果。

模型架構(gòu)
我們提出的混合模型的架構(gòu)包含三個主要組成部分：用于特征壓縮的自編碼器、用于特征變換的量子電路，以及用于分類的經(jīng)典神經(jīng)網(wǎng)絡(luò)。

1. 用于特征壓縮的自編碼器 ：
   自編碼器用于降低輸入數(shù)據(jù)的維度，使其更適合進行量子處理。編碼器函數(shù) fθ(x)將輸入數(shù)據(jù) x壓縮到一個低維的潛在空間 h：

   h=fθ(x)

   其中，x是輸入數(shù)據(jù)，θ表示編碼器的參數(shù)，h是潛在表示（latent representation）。

2. 用于特征變換的量子電路 ：
   隨后，壓縮后的特征 h被編碼為量子態(tài)。這一過程通過旋轉(zhuǎn)門實現(xiàn)，將每個特征 hi映射到對應(yīng)的量子比特狀態(tài)上。量子電路通過應(yīng)用一系列量子門來對這些量子態(tài)進行變換。其中，使用的是旋轉(zhuǎn)門 Ry進行編碼：

量子電路的最后一步是測量，該步驟將量子態(tài)坍縮為經(jīng)典輸出結(jié)果。這些結(jié)果隨后被用作經(jīng)典神經(jīng)網(wǎng)絡(luò)的特征。

3. 用于分類的經(jīng)典神經(jīng)網(wǎng)絡(luò)： 經(jīng)典神經(jīng)網(wǎng)絡(luò)以經(jīng)過量子處理后的特征作為輸入，并執(zhí)行分類任務(wù)。該網(wǎng)絡(luò)由多個全連接層組成，每個全連接層后接批歸一化層和 Dropout 層，以防止過擬合。整個網(wǎng)絡(luò)架構(gòu)可以概括如下：

其中，W是權(quán)重矩陣，b是偏置向量，x是來自前一層的輸入。

最后一層全連接層使用 Softmax 激活函數(shù)，輸出各個類別的概率分布：

優(yōu)勢與挑戰(zhàn) 量子-經(jīng)典混合模型具有多項優(yōu)勢。量子電路能夠捕捉數(shù)據(jù)中經(jīng)典方法可能遺漏的復(fù)雜模式，從而在某些任務(wù)中可能帶來更優(yōu)的性能表現(xiàn)。此外，量子與經(jīng)典組件的結(jié)合還有望實現(xiàn)更高效的計算。

然而，將量子電路與經(jīng)典神經(jīng)網(wǎng)絡(luò)集成仍面臨一些挑戰(zhàn)。目前量子硬件仍處于早期發(fā)展階段，在量子比特數(shù)量和相干時間方面存在限制。量子計算中的噪聲和誤差也可能影響模型的性能。盡管如此，這種混合方法為在機器學習中融合量子計算與經(jīng)典計算的優(yōu)勢提供了一個有前景的方向。

4 結(jié)果與討論

我們對提出的量子-經(jīng)典混合模型在 MNIST 數(shù)據(jù)集上的表現(xiàn)進行了評估，評估指標包括準確率、損失值以及混淆矩陣。本節(jié)將討論自編碼器、初始經(jīng)典神經(jīng)網(wǎng)絡(luò)以及最終混合模型的性能。

4.1 自編碼器性能

自編碼器被訓練用于將 784 維的輸入圖像壓縮到一個 64 維的潛在空間，并隨后從該壓縮表示中重建原始圖像。我們使用均方誤差（MSE）損失函數(shù)來評估重建誤差。在訓練了 50 輪（epochs）之后，自編碼器達到了 0.020 的訓練損失和 0.021 的驗證損失，表明其有效地學習到了壓縮表示。

為了定性評估自編碼器的性能，我們將重建后的圖像與原始圖像進行可視化對比。重建的圖像與原始圖像非常相似，證實了自編碼器已成功地在潛在空間中捕捉到了 MNIST 手寫數(shù)字的關(guān)鍵特征。

4.2 初始經(jīng)典神經(jīng)網(wǎng)絡(luò)性能

初始的經(jīng)典神經(jīng)網(wǎng)絡(luò)是在自編碼器提供的 64 維壓縮特征上進行訓練的。該網(wǎng)絡(luò)由多個全連接層組成，并結(jié)合了批歸一化層和 Dropout 層，以防止過擬合。網(wǎng)絡(luò)采用分類交叉熵損失函數(shù)，并使用 Adam 優(yōu)化器進行 50 輪（epochs）的訓練。

該初始模型在訓練集上達到了 78.25% 的準確率，在驗證集上達到了 80.34% 的準確率。較高的準確率表明該網(wǎng)絡(luò)能夠有效地基于壓縮特征學習對 MNIST 手寫數(shù)字進行分類。

驗證集的混淆矩陣顯示，大多數(shù)數(shù)字都被正確分類，僅有少量樣本被錯誤分類。

4.3 量子電路集成

隨后，壓縮后的特征通過一個包含 5 個量子比特的量子電路進行處理。每個特征通過旋轉(zhuǎn)門被編碼為一個量子態(tài)，量子電路進一步應(yīng)用哈達瑪門（Hadamard）和受控非門（CNOT）來創(chuàng)建疊加態(tài)與糾纏態(tài)。量子測量的結(jié)果將作為最終經(jīng)典神經(jīng)網(wǎng)絡(luò)的輸入特征 [7]。

4.4 最終混合模型性能

最終的經(jīng)典神經(jīng)網(wǎng)絡(luò)在經(jīng)過量子處理后的特征上進行訓練，展示了將量子計算與經(jīng)典機器學習相結(jié)合的潛力。該網(wǎng)絡(luò)架構(gòu)與初始經(jīng)典網(wǎng)絡(luò)相同，但處理的是經(jīng)過量子變換后的特征。

在訓練了 50 輪（epochs）之后，最終的混合模型在訓練集上達到了 96.2% 的準確率，在驗證集上達到了 94.5%的準確率。盡管準確率略低于基于壓縮特征訓練的初始模型，但結(jié)果表明在混合模型中使用量子電路進行特征變換是可行的。

最終模型在驗證集上的混淆矩陣顯示，大多數(shù)數(shù)字仍被正確分類，但相比初始模型，誤分類的數(shù)量略有增加。這可以歸因于當前量子硬件的局限性，例如量子比特數(shù)量有限和噪聲干擾，這些因素可能影響量子計算的準確性。

4.5 討論

我們的實驗結(jié)果表明，量子-經(jīng)典混合模型在 MNIST 數(shù)據(jù)集的處理與分類任務(wù)中表現(xiàn)出有效性。自編碼器成功地降低了數(shù)據(jù)維度，而初始經(jīng)典神經(jīng)網(wǎng)絡(luò)在壓縮特征的基礎(chǔ)上實現(xiàn)了較高的分類準確率。通過引入量子電路進行特征變換，為特征提取提供了一種新穎的方法，并利用了量子力學的獨特性質(zhì)。

然而，目前混合模型的性能仍受到量子硬件限制的影響。量子計算中的噪聲和誤差可能導致特征變換效果不佳，從而影響最終模型的準確率。隨著量子技術(shù)的發(fā)展，特別是量子比特相干時間的延長和錯誤率的降低，預(yù)計混合模型的性能將得到進一步提升。

5 結(jié)論

本研究通過構(gòu)建一個量子-經(jīng)典混合模型，探索了量子計算與經(jīng)典機器學習的結(jié)合，用于對 MNIST 數(shù)據(jù)集中的手寫數(shù)字進行分類。我們的方法包括使用自編碼器進行特征壓縮、利用量子電路進行特征變換，以及使用經(jīng)典神經(jīng)網(wǎng)絡(luò)完成最終的分類任務(wù)。實驗結(jié)果表明，在機器學習任務(wù)中融合量子計算與經(jīng)典計算范式是可行的，并具有潛在的優(yōu)勢。

自編碼器有效地降低了 MNIST 數(shù)據(jù)集的維度，將 784 維的圖像壓縮到 64 維的潛在空間中。這一壓縮步驟不僅使數(shù)據(jù)更易于后續(xù)處理，同時保留了準確分類所需的關(guān)鍵特征。在這些壓縮特征上訓練的初始經(jīng)典神經(jīng)網(wǎng)絡(luò)實現(xiàn)了較高的準確率，驗證了特征壓縮的有效性。

將量子電路引入模型為特征變換帶來了新的維度。量子電路利用量子力學原理（如疊加和糾纏），以經(jīng)典系統(tǒng)無法實現(xiàn)的方式處理數(shù)據(jù)。本研究所使用的量子電路將壓縮后的特征編碼為量子態(tài)，應(yīng)用一系列量子門操作后進行測量，生成變換后的特征。這些經(jīng)過量子處理的特征隨后被輸入經(jīng)典神經(jīng)網(wǎng)絡(luò)進行分類。

最終的混合模型取得了令人鼓舞的結(jié)果，盡管其準確率略低于初始的經(jīng)典模型，但這可以歸因于當前量子硬件的局限性，例如噪聲干擾和量子比特數(shù)量有限。盡管面臨這些挑戰(zhàn)，這種混合方法突顯了量子計算增強經(jīng)典機器學習任務(wù)的潛力。隨著量子技術(shù)的發(fā)展，特別是量子比特相干時間的延長、錯誤率的降低以及更穩(wěn)健量子算法的開發(fā)，混合模型的性能預(yù)計將顯著提升。

本研究也強調(diào)了在量子機器學習領(lǐng)域持續(xù)探索與實驗的重要性。未來的工作將聚焦于優(yōu)化量子電路設(shè)計、嘗試更大規(guī)模的量子比特系統(tǒng)，并探索更多類型的混合方法。此外，研究先進的量子算法及其與經(jīng)典模型的集成方式，也有望進一步提升量子-經(jīng)典混合系統(tǒng)的性能與適用范圍。

總之，本研究表明，量子與經(jīng)典計算的結(jié)合在推動機器學習發(fā)展方面具有巨大潛力。本文提出的量子-經(jīng)典混合模型為未來的研究奠定了基礎(chǔ)，為構(gòu)建更加高效且強大的機器學習系統(tǒng)鋪平了道路，使其能夠應(yīng)對日益復(fù)雜的任務(wù)。隨著量子技術(shù)的不斷進步，量子計算與經(jīng)典計算的協(xié)同融合有望在人工智能領(lǐng)域帶來新的可能與突破。

原文鏈接：https://arxiv.org/pdf/2408.03351v1