一年一度的全球?qū)W術(shù)大會(huì)EMNLP是計(jì)算機(jī)語(yǔ)言學(xué)和自然語(yǔ)言處理領(lǐng)域最受關(guān)注的國(guó)際學(xué)術(shù)會(huì)議之一，由國(guó)際語(yǔ)言學(xué)會(huì)（ACL）旗下SIGDAT組織。據(jù)悉，EMNLP 2020共收到有效投稿3114篇，錄用602篇長(zhǎng)文和150篇短文。

近期，所有Paper list 放出，也包括（Findings of EMNLP），知識(shí)圖譜表示及其應(yīng)用相關(guān)的接受paper很多，在其他領(lǐng)域比如CV、數(shù)據(jù)挖掘、推薦等也廣受關(guān)注。

為此，這期小編為大家奉上EMNLP?2020必讀的六篇知識(shí)圖譜（Knowledge Graph）相關(guān)論文——知識(shí)圖譜表示、常識(shí)、任務(wù)型對(duì)話、多語(yǔ)種知識(shí)庫(kù)補(bǔ)全、開(kāi)放式KG表示、社會(huì)常識(shí)推理

EMNLP?2020 Accepted Papers?:

https://2020.emnlp.org/papers/main

ICLR2020CI、ICML2020CI

1. AutoETER: Automated Entity Type Representation for Knowledge Graph Embedding

作者：Guanglin Niu,?Bo Li,?Yongfei?Zhang, Shiliang Pu,?Jingyang Li

摘要：知識(shí)圖譜嵌入(KGE)可以表示連續(xù)向量空間中的實(shí)體和關(guān)系。一些利用附加類型信息的傳統(tǒng)KGE模型可以改善實(shí)體的表示，但這些模型完全依賴于顯式類型（explicit types），或者忽略了特定于各種關(guān)系的不同類型表示。此外，現(xiàn)有的方法中沒(méi)有一種方法能夠同時(shí)推斷對(duì)稱、反轉(zhuǎn)、合成的所有關(guān)系模式以及1-N、N-1和n-N關(guān)系的復(fù)雜屬性。

為了探索任何KG的類型信息，我們提出了一種新的KGE框架自動(dòng)實(shí)體類型表示（AutoETER），通過(guò)將每個(gè)關(guān)系看作是兩個(gè)實(shí)體類型之間的轉(zhuǎn)換（translation）操作來(lái)學(xué)習(xí)每個(gè)實(shí)體的潛在類型嵌入，并利用關(guān)系感知映射機(jī)制來(lái)學(xué)習(xí)每個(gè)實(shí)體的潛在類型嵌入。

特別是，我們?cè)O(shè)計(jì)的自動(dòng)類型表示學(xué)習(xí)機(jī)制是一個(gè)可插拔的模塊，可以很容易地與任何KGE模型集成。此外，我們的方法可以對(duì)所有的關(guān)系模式和復(fù)雜關(guān)系進(jìn)行建模和推理。在四個(gè)數(shù)據(jù)集上的實(shí)驗(yàn)表明，該模型在鏈接預(yù)測(cè)任務(wù)上的性能優(yōu)于最新的基線，類型聚類的可視化清楚地解釋了類型嵌入的原因，驗(yàn)證了該模型的有效性。

網(wǎng)址：

https://www.zhuanzhi.ai/paper/aa816ee93d98243012f3ad0e460c5785

2. COSMIC: COmmonSense knowledge for eMotion Identification in Conversations

作者：Deepanway Ghosal,?Navonil Majumder,?

Alexander Gelbukh,?Rada Mihalcea,?Soujanya Poria

摘要：在本文中，我們利用常識(shí)知識(shí)解決了會(huì)話中語(yǔ)言級(jí)別的情感識(shí)別問(wèn)題。我們提出了COSMIC，這是一個(gè)新的框架，它融合了不同的常識(shí)元素，如心理狀態(tài)、事件和因果關(guān)系，并在它們的基礎(chǔ)上學(xué)習(xí)參與對(duì)話的對(duì)話者之間的互動(dòng)。

目前最先進(jìn)的方法在上下文傳播、情感轉(zhuǎn)移檢測(cè)和區(qū)分相關(guān)情感類別方面經(jīng)常遇到困難。通過(guò)學(xué)習(xí)不同的常識(shí)表示，COSMIC解決了這些挑戰(zhàn)，并在四個(gè)不同的基準(zhǔn)對(duì)話數(shù)據(jù)集上取得了新的情感識(shí)別最先進(jìn)的結(jié)果。

代碼：

https://github.com/declare-lab/convemotion.

網(wǎng)址：

https://www.zhuanzhi.ai/paper/cf5cc4ecab2e09aeb068b9c6244aeec6

3. Learning Knowledge Bases with Parameters for Task-Oriented Dialogue Systems

作者：Andrea Madotto,?Samuel Cahyawijaya,

Genta Indra Winata,?Yan Xu,?Zihan Liu,?Zhaojiang Lin,?Pascale Fung

摘要：面向任務(wù)的對(duì)話系統(tǒng)要么通過(guò)單獨(dú)的對(duì)話狀態(tài)跟蹤(DST)和管理步驟實(shí)現(xiàn)模塊化，要么是端到端可訓(xùn)練。在這兩種情況下，知識(shí)庫(kù)(KB)在滿足用戶請(qǐng)求方面起著至關(guān)重要的作用。模塊化系統(tǒng)依賴DST與知識(shí)庫(kù)交互，這在注釋和推理時(shí)間方面是昂貴的。端到端系統(tǒng)直接使用知識(shí)庫(kù)作為輸入，但當(dāng)知識(shí)庫(kù)大于幾百個(gè)條目時(shí)，它們無(wú)法進(jìn)行擴(kuò)展。

在本文中，我們提出了一種將任意大小的知識(shí)庫(kù)直接嵌入到模型參數(shù)中的方法。所得到的模型不需要任何DST或模板響應(yīng)，也不需要知識(shí)庫(kù)作為輸入，并且它可以通過(guò)微調(diào)來(lái)動(dòng)態(tài)更新其知識(shí)庫(kù)。

我們?cè)谖鍌€(gè)小、中、大的KB的面向任務(wù)的對(duì)話數(shù)據(jù)集中對(duì)我們的解決方案進(jìn)行了評(píng)估。我們的實(shí)驗(yàn)表明，端到端模型可以有效地將知識(shí)庫(kù)嵌入到它們的參數(shù)中，并在所有被評(píng)估的數(shù)據(jù)集上獲得具有競(jìng)爭(zhēng)力的性能。

代碼：

https://github.com/HLTCHKUST/ke-dialogue

網(wǎng)址：

https://www.zhuanzhi.ai/paper/52d313f42ec03418f2016f30c30cf445

4. Multilingual Knowledge Graph Completion via Ensemble Knowledge Transfer

作者：Xuelu Chen,?Muhao Chen,?Changjun Fan,?Ankith Uppunda,?Yizhou Sun,?Carlo Zaniolo

摘要：預(yù)測(cè)知識(shí)圖(KG)中的缺失事實(shí)是知識(shí)庫(kù)構(gòu)建和推理中的一項(xiàng)重要任務(wù)，也是近年來(lái)利用知識(shí)圖嵌入（KG embeddings）進(jìn)行研究的一個(gè)重要課題。

雖然現(xiàn)有的KG嵌入方法主要是在單個(gè)KG中學(xué)習(xí)和預(yù)測(cè)事實(shí)，但考慮到不同KG在數(shù)據(jù)質(zhì)量和覆蓋范圍方面有各自的優(yōu)勢(shì)和局限性，一個(gè)更合理的解決方案是從多個(gè)特定語(yǔ)言KG中的知識(shí)去嘗試融合。但這是相當(dāng)具有挑戰(zhàn)性的，因?yàn)槎鄠€(gè)獨(dú)立維護(hù)的KG之間的知識(shí)遷移經(jīng)常受到比對(duì)信息不足和描述事實(shí)不一致的障礙。

在本文中，我們提出了一種新的框架KENS，用于嵌入學(xué)習(xí)和跨多個(gè)特定語(yǔ)言的KG進(jìn)行集成知識(shí)遷移。KENS將所有KG嵌入到一個(gè)共享的嵌入空間中，在那里基于自學(xué)習(xí)捕獲實(shí)體之間的關(guān)聯(lián)。

然后，KENS進(jìn)行集成推理，合并來(lái)自多個(gè)特定語(yǔ)言KG嵌入的預(yù)測(cè)結(jié)果，并為此研究了多個(gè)集成技術(shù)。在五個(gè)實(shí)際語(yǔ)言特定的KG上的實(shí)驗(yàn)表明，KENS通過(guò)有效地識(shí)別和利用互補(bǔ)知識(shí)，不斷改進(jìn)KG補(bǔ)全的最新方法。

網(wǎng)址：

hhttps://www.zhuanzhi.ai/paper/cdb66907132d750044e2ef7f83f25427

5. Out-of-Sample Representation Learning for Knowledge Graphs

作者：Marjan Albooyeh,?Rishab Goel,?Seyed Mehran Kazemi

摘要：許多重要問(wèn)題都可以表示為知識(shí)圖中的推理。表示學(xué)習(xí)已經(jīng)被證明對(duì)直推式推理（transductive reasoning）非常有效，在transductive 推理中，一個(gè)人需要對(duì)已經(jīng)觀察到的實(shí)體做出新的預(yù)測(cè)，屬性圖(其中每個(gè)實(shí)體都有初始特征向量)和非屬性圖(其中唯一的初始信息來(lái)自與其他實(shí)體的已知關(guān)系)都是如此。

對(duì)于樣本外推理（ out-of-sample reasoning），人們需要對(duì)訓(xùn)練時(shí)看不到的實(shí)體進(jìn)行預(yù)測(cè)，許多以前的工作都考慮屬性圖。然而，對(duì)于非屬性圖的樣本外推理，并沒(méi)有得到充分的研究。

在本文中，我們研究了非屬性知識(shí)圖的樣本外表示學(xué)習(xí)問(wèn)題，為這一任務(wù)創(chuàng)建了基準(zhǔn)數(shù)據(jù)集，開(kāi)發(fā)了幾個(gè)模型和基線，并對(duì)所提出的模型和基線進(jìn)行了實(shí)證分析和比較。

網(wǎng)址：

https://arxiv.org/abs/2004.13230

6. Social Commonsense Reasoning with Multi-Head Knowledge Attention

作者：Debjit Paul,?Anette Frank

摘要：社會(huì)常識(shí)推理需要對(duì)文本的理解，對(duì)社會(huì)事件及其實(shí)際含義的了解以及常識(shí)推理能力。在這項(xiàng)工作中，我們提出了一種新的多頭知識(shí)注意模型，該模型對(duì)半結(jié)構(gòu)化常識(shí)推理規(guī)則進(jìn)行編碼，并學(xué)習(xí)將其合并到基于transformer的推理單元中。

我們?cè)u(píng)估了該模型在兩個(gè)需要不同推理技能的任務(wù)上的性能：作為一項(xiàng)新任務(wù)的歸納自然語(yǔ)言推理（Abductive Natural Language Inference）和反事實(shí)不變性預(yù)測(cè)（Counterfactual Invariance Prediction）。

我們表明，我們提出的模型在兩個(gè)推理任務(wù)上都比最先進(jìn)模型(即Roberta)提高了性能。值得注意的是，據(jù)我們所知，我們是第一個(gè)證明學(xué)習(xí)執(zhí)行反事實(shí)推理的模型有助于在溯因推理任務(wù)中預(yù)測(cè)最佳解釋的人。通過(guò)對(duì)知識(shí)的擾動(dòng)，我們驗(yàn)證了模型推理能力的健壯性，并對(duì)模型的知識(shí)融合能力進(jìn)行了定性分析。

網(wǎng)址：

https://www.zhuanzhi.ai/paper/97225d0afad9d08ad967d628619c8a56

（聲明：本文僅代表作者觀點(diǎn)，不代表新浪網(wǎng)立場(chǎng)。）