明确学习对话的固有属性是改善对话多样性和确保一致性的一种方法。对于具有不同的属性的对话机器人，对话主题和个性被广泛探索。
本论文作者注意到人们经常将他们的对话与局部相关的概念联系起来，并根据这些概念进行他们的response。他们使用Twitter LDA模型获取输入主题，将主题信息和输入表示提供给联合注意力模块，并生成与主题相关的response：
如图所示，加入LDA产出的Topic Words进行训练。网络结构中有两个Attention：
- Message Attention 用上一步输出 si−1、各Message中的词语特征 hj进行拟合：
- Topic Attention 用上一步输出 si−1、Message中的最后一个词表示 hT、各Topic Words中各个表示 kj进行拟合：
