本文介紹來自北航彭浩團(tuán)隊(duì)的最新科研成果——SIHTC框架。通過結(jié)構(gòu)熵優(yōu)化文本嵌入空間，利用樹聚合網(wǎng)絡(luò)（TAN）構(gòu)建層次化編碼樹，結(jié)合奇異譜平滑正則化約束標(biāo)簽表示，采用雙損失聯(lián)合優(yōu)化，有效緩解了傳統(tǒng)提示學(xué)習(xí)方法在長(zhǎng)尾數(shù)據(jù)下文本嵌入?yún)^(qū)分性不足和標(biāo)簽表示退化兩大關(guān)鍵問題。在WOS、RCV1-v2和NYT三個(gè)主流層次文本分類數(shù)據(jù)集上，SIHTC全面超越HPT等十余種基線模型，尤其在尾部標(biāo)簽分類上優(yōu)勢(shì)顯著。消融實(shí)驗(yàn)證實(shí)結(jié)構(gòu)熵?fù)p失和奇異譜平滑正則化的核心貢獻(xiàn)，超參分析顯示模型對(duì)系數(shù)變化具有強(qiáng)魯棒性，可視化結(jié)果直觀展示了文本嵌入和標(biāo)簽嵌入的優(yōu)化效果。

論文名稱： Hierarchical Text Classification Optimization via Structural Entropy and Singular Smoothing 論文鏈接： https://ieeexplore.ieee.org/document/11036586 源碼鏈接： https://github.com/SELGroup/SIHTC

長(zhǎng)尾數(shù)據(jù)普遍存在于許多領(lǐng)域，如關(guān)系分類、推薦系統(tǒng)、社交事件檢測(cè)和鏈接預(yù)測(cè)等，受到越來越多的關(guān)注和研究。層次文本分類（HTC）作為多標(biāo)簽分類的重要任務(wù)，數(shù)據(jù)通常呈現(xiàn)長(zhǎng)尾分布，其中頭標(biāo)簽一般覆蓋大部分文本，而尾標(biāo)簽覆蓋較少的文本。基于提示學(xué)習(xí)（Prompt Tuning）的預(yù)訓(xùn)練語言模型已成為當(dāng)前層次文本分類的主流方法（如圖1(a)），但面對(duì)長(zhǎng)尾數(shù)據(jù)分布時(shí)，現(xiàn)有方法如HPT[1]、DPT[2]等在尾部標(biāo)簽上的分類性能顯著下降。這些方法雖然通過層次化模板設(shè)計(jì)提升了分類效果，但仍存在兩大關(guān)鍵缺陷：文本嵌入缺乏對(duì)標(biāo)簽結(jié)構(gòu)信息的有效利用，以及長(zhǎng)尾標(biāo)簽的表示退化問題。

目前，層次文本分類模型面臨以下 2 個(gè)主要挑戰(zhàn)：

挑戰(zhàn) 1：尾部標(biāo)簽的文本嵌入缺乏區(qū)分性。

由于訓(xùn)練樣本的稀缺性，文本嵌入往往缺乏清晰性和尾部標(biāo)簽的可分性，導(dǎo)致分類過程中的混亂。現(xiàn)有的大多數(shù)HTC模型在學(xué)習(xí)文本嵌入時(shí)僅僅關(guān)注文本的語義信息，忽略了標(biāo)簽結(jié)構(gòu)的指導(dǎo)作用。盡管Ji等人[3]嘗試使用4種表面的標(biāo)簽關(guān)系來調(diào)節(jié)文本嵌入之間的距離，但對(duì)于HTC中復(fù)雜的標(biāo)簽結(jié)構(gòu)，這種方法過于粗粒化。

挑戰(zhàn) 2：長(zhǎng)尾標(biāo)簽的表示受到退化的影響。

長(zhǎng)尾標(biāo)簽會(huì)導(dǎo)致表示質(zhì)量的顯著下降，通常表現(xiàn)為嵌入矩陣的奇異譜的快速衰減。這些退化的嵌入缺乏豐富的特征和泛化能力，最終導(dǎo)致對(duì)尾部標(biāo)簽的分類性能較差。雖然目前的許多方法使用平均標(biāo)記嵌入，Graphormer和GCN 等技術(shù)來生成標(biāo)簽嵌入，但它們的嵌入矩陣表現(xiàn)出奇異譜的快速衰減- -表明嚴(yán)重的表示退化。因此，迫切需要研究在保持嵌入保真度的同時(shí)，緩解這種退化問題的優(yōu)化方法。

為解決以上問題，作者提出了一種新穎的基于結(jié)構(gòu)熵和奇異譜平滑的層次文本分類優(yōu)化方法 SIHTC( Hierarchical Text Classification Optimization Method via Structural Information and Singular Smoothing)。該框架由兩部分組成：基于結(jié)構(gòu)信息理論的文本嵌入優(yōu)化和基于奇異譜平滑正則化的標(biāo)簽嵌入優(yōu)化，如圖1 ( b )所示。

圖 1 現(xiàn)有的基于提示學(xué)習(xí)的HTC模型(a)和作者提出的SIHTC模型(b)的比較。

圖 2 SIHTC整體框架圖。( I )是提示學(xué)習(xí)HTC模型的框架。( II )和( III )是基于結(jié)構(gòu)信息理論的文本嵌入優(yōu)化。( IV )是基于奇異譜平滑的標(biāo)簽嵌入優(yōu)化。

SIHTC框架包含兩個(gè)主要優(yōu)化模塊：基于結(jié)構(gòu)信息理論的文本嵌入優(yōu)化模塊和基于奇異譜平滑的標(biāo)簽嵌入優(yōu)化模塊。文本嵌入優(yōu)化模塊中，作者使用標(biāo)簽層次結(jié)構(gòu)來指導(dǎo)文本嵌入的學(xué)習(xí)，首次利用結(jié)構(gòu)信息理論對(duì)互文本關(guān)系進(jìn)行建模，從而為文本嵌入注入標(biāo)簽結(jié)構(gòu)信息。作者在每個(gè)層次上將文本嵌入與其對(duì)應(yīng)的標(biāo)簽結(jié)合起來形成一個(gè)標(biāo)簽文本樹；然后設(shè)計(jì)了一個(gè)樹形聚合網(wǎng)絡(luò)，將標(biāo)簽結(jié)構(gòu)信息自底向上跨層傳播，形成編碼樹；最后作者引入一個(gè)結(jié)構(gòu)熵?fù)p失函數(shù)來最小化每棵編碼樹的結(jié)構(gòu)熵。標(biāo)簽嵌入優(yōu)化模塊中，作者設(shè)計(jì)了一個(gè)奇異譜平滑正則化模塊來緩解HTC長(zhǎng)尾標(biāo)簽中的表示退化。該正則化包含全局奇異值平滑正則化和局部奇異值平滑正則化，全局損失為每個(gè)標(biāo)簽提供一個(gè)基礎(chǔ)約束，而局部損失根據(jù)標(biāo)簽在層次內(nèi)的位置分層地調(diào)整約束強(qiáng)度。

二、方法 2.1 提示學(xué)習(xí)模型

作者選擇HPT [1]作為優(yōu)化的基礎(chǔ)模型，因?yàn)樗亲钣写硇缘幕谔崾緦W(xué)習(xí)的HTC模型。圖2 ( I )中說明了HPT的簡(jiǎn)化框架。具體來說，HPT使用深度為 的標(biāo)簽層次結(jié)構(gòu)，以[ ] [ ] [ ] [ ] ... [ ] [ ]的形式構(gòu)建模板。然后，HPT將文本“ ”打包為“ ，模板"，并將其輸入BERT進(jìn)行MLM任務(wù)。對(duì)于一批文本，BERT在每個(gè)掩碼位置輸出最終的隱藏狀態(tài)，這是SIHTC中的第一個(gè)優(yōu)化目標(biāo)，即文本嵌入。然后，HPT使用 個(gè)不同等級(jí)的verbalizers [ ] [ ] ... [ ]處理文本嵌入，為每個(gè)文本生成分類結(jié)果。verbalizers的構(gòu)成是SIHTC的第二個(gè)優(yōu)化目標(biāo)，即標(biāo)簽嵌入。

2.2 文本嵌入優(yōu)化

作者設(shè)計(jì)了一個(gè)樹形聚合網(wǎng)絡(luò)來構(gòu)建分層的二維編碼樹。接下來，作者引入結(jié)構(gòu)熵?fù)p失函數(shù)，通過最小化編碼樹的結(jié)構(gòu)熵來優(yōu)化文本嵌入。這種方法有效地將標(biāo)簽結(jié)構(gòu)信息注入到文本嵌入中。

樹形聚合網(wǎng)絡(luò)。樹聚集網(wǎng)絡(luò)( Tree Aggregation Network，TAN )旨在整合文本信息和標(biāo)簽結(jié)構(gòu)信息，如圖2 ( II )所示。在模型訓(xùn)練過程中，對(duì)TAN的輸入包括標(biāo)簽層次結(jié)構(gòu)、文本嵌入和真實(shí)標(biāo)簽。TAN的輸出是一組二維編碼樹。TAN包含文本-標(biāo)簽樹構(gòu)建和層級(jí)間聚合兩個(gè)步驟，其中第一步整合標(biāo)簽結(jié)構(gòu)的層級(jí)內(nèi)信息，第二步整合層級(jí)間信息。首先，作者給出了文本-標(biāo)簽樹構(gòu)建的具體步驟。給定一個(gè)深度為 的標(biāo)簽集 ，作者構(gòu)造了一個(gè)文本-標(biāo)簽樹集 。作者以 為例介紹了文本編碼樹的構(gòu)造細(xì)節(jié)。創(chuàng)建標(biāo)簽節(jié)點(diǎn)如下：

創(chuàng)建文本節(jié)點(diǎn)如下，根據(jù)真值標(biāo)簽，將文本節(jié)點(diǎn)添加為標(biāo)簽節(jié)點(diǎn)的子節(jié)點(diǎn)：

其中， 是標(biāo)簽節(jié)點(diǎn)集合， 是文本節(jié)點(diǎn)集合， 是樹的邊集合， 是文本的嵌入集合。

隨后，作者給出了層級(jí)間聚合的具體步驟。具體來說，作者基于標(biāo)簽結(jié)構(gòu)自底向上聚合了 個(gè)文本標(biāo)簽樹。作者以從 到 的聚合為例介紹了細(xì)節(jié)。首先將文本節(jié)點(diǎn)聚合為標(biāo)簽節(jié)點(diǎn)進(jìn)行準(zhǔn)備：

如果一個(gè)標(biāo)簽節(jié)點(diǎn)沒有子文本節(jié)點(diǎn)，將其從標(biāo)簽節(jié)點(diǎn)集合中移除。然后，開始向上聚集到 。具體來說，在 中創(chuàng)建文本節(jié)點(diǎn)，對(duì)應(yīng)于 中的標(biāo)簽節(jié)點(diǎn)：

基于標(biāo)簽層次結(jié)構(gòu) ，將這些新創(chuàng)建的節(jié)點(diǎn)連接到它們的父節(jié)點(diǎn):

至此，完成了從 到 的聚合。重復(fù)上述步驟，完成其他文本-標(biāo)簽樹的聚合。聚合后的文本標(biāo)簽樹看作二維編碼樹，這些編碼樹綜合了文本信息和標(biāo)簽結(jié)構(gòu)信息。

結(jié)構(gòu)熵最小化。

作者通過設(shè)計(jì)結(jié)構(gòu)熵?fù)p失函數(shù)來最小化二維編碼樹的結(jié)構(gòu)熵，如圖2 ( III )所示。作者以 為例介紹了損失的設(shè)計(jì)。由于結(jié)構(gòu)信息論是基于圖的劃分來定義的，因此對(duì) 構(gòu)造圖 如下：

其中， 為圖的鄰接矩陣， 為文本嵌入矩陣。作者提出了結(jié)構(gòu)熵?fù)p失函數(shù)如下：

其中， 為分配矩陣，若第 個(gè)文本節(jié)點(diǎn)屬于 中的第 個(gè)標(biāo)簽節(jié)點(diǎn)，則 = 1 。對(duì) 中的每棵編碼樹計(jì)算損失，并將它們相加，從而得到整體的結(jié)構(gòu)熵?fù)p失 ：

在模型訓(xùn)練過程中，隨著 的減小，更新 和文本嵌入以獲得更小的結(jié)構(gòu)熵。同時(shí)， 通過將文本嵌入包圍在相關(guān)標(biāo)簽上，而將無關(guān)標(biāo)簽上的文本嵌入分離出來，優(yōu)化了文本嵌入空間。

2.3 標(biāo)簽嵌入優(yōu)化

HTC數(shù)據(jù)的長(zhǎng)尾分布會(huì)導(dǎo)致標(biāo)簽嵌入中的表示退化，而這一點(diǎn)在之前的工作中被忽略。表征退化的一個(gè)表現(xiàn)是嵌入矩陣的奇異譜快速衰減，即最大奇異值明顯大于其余奇異值。在文獻(xiàn) [4]的基礎(chǔ)上，作者提出了奇異譜平滑正則化損失來優(yōu)化HTC中的標(biāo)簽嵌入，如圖2 ( IV )所示。這種損失包含兩部分：一部分是宏觀調(diào)控的全局損失，另一部分是分層適應(yīng)的局部損失。

全局奇異譜平滑正則化損失。在這一部分中，作者將正則化約束統(tǒng)一應(yīng)用于所有的標(biāo)簽表示。通過抑制最大奇異值和鼓勵(lì)嵌入矩陣的奇異值之和，將奇異譜曲線從象征退化的快速衰減轉(zhuǎn)化為更平滑的分布。損失表示如下：

在訓(xùn)練過程中，核范數(shù)的增加意味著奇異值總和的增加，而Frobenius范數(shù)的減少意味著最大奇異值的減少。

局部奇異譜平滑正則化損失。在HTC的標(biāo)簽層次結(jié)構(gòu)中，位于不同位置的標(biāo)簽退化程度不同。直觀上，更深深度的標(biāo)簽由于擁有更少的訓(xùn)練樣本而遭受更嚴(yán)重的退化，使得它們的嵌入更難區(qū)分。因此，作者提出了個(gè)性化系數(shù)來區(qū)分不同層次標(biāo)簽之間的正則化約束。局部損失表示如下：

其中， 為第 深度的標(biāo)簽數(shù)， 為總標(biāo)簽數(shù)， 為對(duì)應(yīng)于H的第i個(gè)深度的層次標(biāo)簽嵌入矩陣。個(gè)性化系數(shù)實(shí)現(xiàn)了兩個(gè)目標(biāo)：( 1 )對(duì)更深層次的尾部標(biāo)簽施加更多的正則化約束以抑制退化，對(duì)淺層標(biāo)簽施加相對(duì)較弱的約束以保留其豐富的信息；( 2 )對(duì)不同層次的標(biāo)簽數(shù)進(jìn)行歸一化處理。

因此，奇異值平滑正則化損失是上述兩個(gè)分量之和。在形式上，

2.4 目標(biāo)函數(shù)

通過 最小化文本嵌入的結(jié)構(gòu)熵， 對(duì)標(biāo)簽嵌入進(jìn)行奇異譜平滑，最終最小化的目標(biāo)損失函數(shù)定義如下：

其中 是基于提示學(xué)習(xí)的HTC模型的損失函數(shù)， 是控制文本嵌入優(yōu)化權(quán)重的超參數(shù)， 是控制標(biāo)簽嵌入優(yōu)化權(quán)重的超參數(shù)。

三、實(shí)驗(yàn)

為驗(yàn)證 SIHTC 的有效性，作者在 WOS，RCV1，NYT 三個(gè)基準(zhǔn)數(shù)據(jù)集上（詳見表1），與四個(gè)層次感知模型、兩個(gè)預(yù)訓(xùn)練的語言模型、兩種基于結(jié)構(gòu)熵的模型、兩個(gè)提示學(xué)習(xí)預(yù)訓(xùn)練語言模型等基線模型進(jìn)行對(duì)比實(shí)驗(yàn)，采用 Macro - F1和Micro - F1指標(biāo)評(píng)估分類性能，并通過消融實(shí)驗(yàn)、長(zhǎng)尾實(shí)驗(yàn)、超參數(shù)敏感性實(shí)驗(yàn)、案例研究、計(jì)算成本研究深入分析SIHTC性能。

表 1 數(shù)據(jù)集的統(tǒng)計(jì)信息。

SIHTC在三個(gè)數(shù)據(jù)集上都優(yōu)于基準(zhǔn)模型HPT，并且除了在RCV1 - v2數(shù)據(jù)集上的Macro - F1外，SIHTC超過了所有先進(jìn)的基準(zhǔn)模型。作者選取了一系列屬于單路徑標(biāo)簽的樣本，并對(duì)它們的文本嵌入進(jìn)行可視化，以直觀地展示結(jié)構(gòu)熵?fù)p失 在文本嵌入上的有效性，與HPT相比，SIHTC訓(xùn)練得到的嵌入具有更清晰的聚類邊界和更好的判別能力（詳見圖3）。作者將三個(gè)數(shù)據(jù)集中的標(biāo)簽嵌入可視化，以直觀地展示奇異譜平滑正則化損失 的有效性。與HPT相比，SIHTC對(duì)應(yīng)的曲線更平滑，具有更大的曲線下面積（詳見圖4）。SIHTC訓(xùn)練的標(biāo)簽嵌入，特別是尾部標(biāo)簽，有效地避免了退化（詳見圖5）。

表 2 三種數(shù)據(jù)集上不同方法的對(duì)比。最佳結(jié)果用粗體表示，次佳結(jié)果帶下劃線。

圖 3 文本嵌入的2D可視化。不同的顏色代表屬于不同標(biāo)簽的文本。

圖 4 標(biāo)簽嵌入的奇異譜曲線。陰影代表曲線下面積。

圖 5 標(biāo)簽嵌入的可視化。紅色和藍(lán)色分別表示HPT和SIHTC的結(jié)果。

作者在3個(gè)數(shù)據(jù)集上進(jìn)行了消融實(shí)驗(yàn)，去除 后觀察到的性能下降強(qiáng)調(diào)了其在捕獲層次結(jié)構(gòu)依賴方面的有效性，這對(duì)于學(xué)習(xí)具有語義意義和判別性的文本嵌入至關(guān)重要，去除 后的性能下降表明，在沒有光譜平滑的情況下，標(biāo)簽表示往往退化- -特別是削弱了尾部標(biāo)簽的區(qū)分度，在去除 后觀察到的分類性能下降表明，這種個(gè)性化方法有效地增強(qiáng)了正則化的影響。（詳見表3、表4）

作者探究了SIHTC在尾部標(biāo)簽上的分類性能，這兩種損失從文本嵌入和標(biāo)簽嵌入的角度促進(jìn)了穩(wěn)健的尾部標(biāo)簽分類，兩者相輔相成。（詳見圖6）作者評(píng)估了新引入的權(quán)重超參數(shù)對(duì)SIHTC性能的影響。（詳見圖7）作者在三個(gè)數(shù)據(jù)集上進(jìn)行了案例研究，以探索SIHTC的實(shí)際優(yōu)化效果，（詳見表5）由于SIHTC增強(qiáng)了文本嵌入的表示能力和標(biāo)簽嵌入的泛化能力，它可以有效地召回丟失的標(biāo)簽，去除過多的標(biāo)簽，并從HPT的錯(cuò)誤中糾正誤判的標(biāo)簽。作者在批處理大小為32的3個(gè)數(shù)據(jù)集上比較了SIHTC與基模型HPT的計(jì)算成本，SIHTC沒有引入額外的訓(xùn)練參數(shù)，并且保持了與HPT相似的評(píng)估時(shí)間。（詳見表6）

表 3 SIHTC的三種損失函數(shù)在Micro - F1上的消融研究。

表 4 SIHTC對(duì)Macro-F1三種損失函數(shù)的消融研究。

圖6在三個(gè)數(shù)據(jù)集的尾部標(biāo)簽上的分類分?jǐn)?shù)。

圖 7 超參數(shù)敏感性實(shí)驗(yàn)結(jié)果。

表 5 3個(gè)數(shù)據(jù)集的實(shí)例分析。在數(shù)據(jù)集中提供了每個(gè)文本的索引( WOS和RCV1 - v2)或名稱(《NYT》)。對(duì)HPT預(yù)測(cè)的錯(cuò)誤標(biāo)簽和SIHTC做出的更正進(jìn)行加粗。值得注意的是，SIHTC預(yù)測(cè)的標(biāo)簽與真實(shí)標(biāo)簽完全相同。

表 6 HPT和SIHTC在三個(gè)數(shù)據(jù)集batch 32上的計(jì)算成本統(tǒng)計(jì)。 四、結(jié)論

作者提出了一種新穎的基于結(jié)構(gòu)熵和奇異譜平滑的HTC優(yōu)化框架SIHTC，有效地處理了長(zhǎng)尾數(shù)據(jù)和復(fù)雜的標(biāo)簽層次結(jié)構(gòu)。首先，通過樹聚集網(wǎng)絡(luò)和結(jié)構(gòu)熵?fù)p失函數(shù)最小化標(biāo)簽層次內(nèi)文本的結(jié)構(gòu)熵，為文本嵌入注入標(biāo)簽結(jié)構(gòu)信息，提高文本嵌入的區(qū)分度。其次，作者平滑了標(biāo)簽嵌入矩陣的奇異譜，以減輕標(biāo)簽表示退化并增強(qiáng)泛化能力，特別是對(duì)尾部標(biāo)簽。在三個(gè)數(shù)據(jù)集上的實(shí)驗(yàn)表明，SIHTC優(yōu)于所有基線，并提高了尾部標(biāo)簽分類性能。

篇幅原因，我們?cè)诒疚闹泻雎粤酥T多細(xì)節(jié)，更多細(xì)節(jié)可以在論文中找到。感謝閱讀！

[1]Z. Wang, P. Wang, T. Liu, B. Lin, Y. Cao, Z. Sui, and H. Wang, “Hpt: Hierarchy-aware prompt tuning for hierarchical text classification,” in Proceedings of the EMNLP, 2022, pp. 3740–3751.

[2]S. Xiong, Y. Zhao, J. Zhang, L. Mengxiang, Z. He, X. Li, and S. Song, “Dual prompt tuning based contrastive learning for hierarchical text classification,” in Findings of the ACL, 2024, pp. 12 146–12 158.

[3]K. Ji, Y. Lian, J. Gao, and B. Wang, “Hierarchical verbalizer for fewshot hierarchical text classification,” in Proceedings of the ACL, 2023, pp. 2918–2933.

[4]Z. Fan, Z. Liu, H. Peng, and P. S. Yu, “Addressing the rank degeneration in sequential recommendation via singular spectrum smoothing,” arXiv preprint arXiv:2306.11986, 2023.

llustration From IconScout By Navved Hassain

-The End-

掃碼觀看！

本周上新！

“AI技術(shù)流”原創(chuàng)投稿計(jì)劃

TechBeat是由將門創(chuàng)投建立的AI學(xué)習(xí)社區(qū)（www.techbeat.net）。社區(qū)上線600+期talk視頻，3000+篇技術(shù)干貨文章，方向覆蓋CV/NLP/ML/Robotis等；每月定期舉辦頂會(huì)及其他線上交流活動(dòng)，不定期舉辦技術(shù)人線下聚會(huì)交流活動(dòng)。我們正在努力成為AI人才喜愛的高質(zhì)量、知識(shí)型交流平臺(tái)，希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其成長(zhǎng)。

投稿內(nèi)容

// 最新技術(shù)解讀/系統(tǒng)性知識(shí)分享 //

// 前沿資訊解說/心得經(jīng)歷講述 //

投稿須知

稿件需要為原創(chuàng)文章，并標(biāo)明作者信息。

我們會(huì)選擇部分在深度技術(shù)解析及科研心得方向，對(duì)用戶啟發(fā)更大的文章，做原創(chuàng)性內(nèi)容獎(jiǎng)勵(lì)

投稿方式

發(fā)送郵件到

melodybai@thejiangmen.com

或添加工作人員微信（yellowsubbj）投稿，溝通投稿詳情；還可以關(guān)注“將門創(chuàng)投”公眾號(hào)，后臺(tái)回復(fù)“投稿”二字，獲得投稿說明。

關(guān)于我“門”

將門是一家以專注于數(shù)智核心科技領(lǐng)域的新型創(chuàng)投機(jī)構(gòu)，也是北京市標(biāo)桿型孵化器。 公司致力于通過連接技術(shù)與商業(yè)，發(fā)掘和培育具有全球影響力的科技創(chuàng)新企業(yè)，推動(dòng)企業(yè)創(chuàng)新發(fā)展與產(chǎn)業(yè)升級(jí)。

將門成立于2015年底，創(chuàng)始團(tuán)隊(duì)由微軟創(chuàng)投在中國(guó)的創(chuàng)始團(tuán)隊(duì)原班人馬構(gòu)建而成，曾為微軟優(yōu)選和深度孵化了126家創(chuàng)新的技術(shù)型創(chuàng)業(yè)公司。

如果您是技術(shù)領(lǐng)域的初創(chuàng)企業(yè)，不僅想獲得投資，還希望獲得一系列持續(xù)性、有價(jià)值的投后服務(wù)，歡迎發(fā)送或者推薦項(xiàng)目給我“門”:

bp@thejiangmen.com

點(diǎn)擊右上角，把文章分享到朋友圈