迁移学习涉及到域和任务的概念。一个域D由一个特征空间X和特征空间上的边际概率分布P(X)组成，其中X=。对于有很多词袋表征（bag-of-wordsrepresentation）的文档分类，X是所有文档表征的空间，是第i个单词的二进制特征，X是一个特定的文档。给定一个域D={X,P(X)}，一个任务T由一个标签空间y以及一个条件概率分布P（Y|X）构成，这个条件概率分布通常是从由特征—标签对∈X,∈Y组成的训练数据中学习得到。在文档分类中，Y是所有标签的集合（即真（True）或假（False）），要么为真，要么为假。给定一个源域，一个对应的源任务，还有目标域，以及目标任务，迁移学习的目标就是：在≠，≠的情况下，在具备来源于Ds和Ts的信息时，学习得到目标域Dt中的条件概率分布P（Yt|Xt）。绝大多数情况下，假设可以获得的有标签的目标样本是有限的，有标签的目标样本远少于源样本。由于域D和任务T都被定义为元组（tuple），所以这些不平衡就会带来四个迁移学习的场景。

增强学习是一种试错(trial-and-error)的学习方式，从不断尝试的经验中发现一个好的policy，从而在这个过程中获取更多的reward。在学习过程中，会有一个在Exploration（探索）和Exploitation（利用）之间的权衡。Exploration（探索）会放弃一些已知的reward信息，而去尝试一些新的选择——即在某种状态下，算法也许已经学习到选择什么action让reward比较大，但是并不能每次都做出同样的选择，也许另外一个没有尝试过的选择会让reward更大，即Exploration希望能够探索更多关于environment的信息。Exploitation（利用）指根据已知的信息最大化reward。

根据经典的教科书上的定义，ReinforcementLearningislearningwhattodo–howtomapsituationstoactions,soastomaximizeanumericalrewardsignal.[citeDavidSutter]。即增强学习关注于智能体（智能体）做什么，如何从当前的状态中找到相应的动作，从而得到更好的奖赏。增强学习的学习目标，就是Reward，即奖赏。增强学习就是基于奖赏假设。所有的学习目标都可以归结为得到累计的最大奖赏。

大多采用Encoder-Decoder框架，主要用于文本处理的研究，比如：机器翻译、文本摘要、句法分析。一般采用RNN模型，因为RNN模型对于线性序列的字符串来说是比较有效的深度学习模型，RNN的改进模型LSTM也是经常使用的模型。根据用户输入的问题，自动生成回答。深度学习解决多轮会话的上下文信息问题时大致思路相同，都是在Encoder阶段把上下文信息及当前输入的问题同时编码，以促进Decoder阶段可以参考上下文信息生成回答。

对话上下文建模：对话的过程是一个在特定背景下的连续交互过程，一句话的意义往往要结合上下文或者背景才能确定。而现有的自然语言处理的技术主要还是基于上下文无关假设，因此对上下文的建模成为亟待解决的问题。对话过程中的知识表示：知识表示是人工智能研究的重要基础，也是聊天机器人质量提升的重要前提，涉及到众多复杂的因素，只有全面地描述这些因素的含义和关系，才能实现真正的人机交流。

核心思想是以统计机器翻译为主体，使用深度学习改进其中的关键模块，如语言模型、翻译模型、调序模型、词语对齐等。优点：能够帮助机器翻译缓解数据稀疏问题。能够解决特征难以设计的问题。

主张：计算机自动从大规模数据中“学习”自然语言之间的转换规律。主要优点是：人工成本低、开发周期短。主要缺点是：线性不可分；缺乏合适的语义表示；难以设计特征；难以充分利用非局部上下文；数据稀疏；错误传播

主张：由人类专家通过编纂规则的方式，将自然语言之间的转换规律“传授”给计算机。主要优点是：能够显式描述深层次的语言转换规律。主要缺点是：对于人的要求非常高，通晓源语言和目标语言，熟悉待翻译文本领域背景知识，还需熟练掌握相关计算机操作技能。使得研制系统的人工成本高、开发周期长，面向小语种开发垂直领域的机器翻译因人才稀缺而变得极其困难。当翻译规则库达到一定的规模后，如何确保新增的规则与已有规则不冲突也是非常大的挑战。

理解人类情感是人工智能的目标，深度学习可用来判断情感类别及强度。为处理情感分析问题中语义合成的问题（如“不是很喜欢”与“喜欢”的情感极性相反），利用自然语言的递归性质与语义的可合成性，句子的情感语义进行建模。半监督递归自动编码模型在由词向量构建短语向量表示时，可以更多地保留情感信息。句法分析树用来决定语义合成的顺序，以此替代递归自动编码模型中通过贪心搜索损失最小的递归结构。将每个词的情感语义操作信息嵌入到词向量中，进而用来选择不同的语义合成函数。

递归自动编码的神经网络用于学习双语的片段向量化表示，使用交互优化的方式训练神经网络：首先，固定目标语言片段的向量表示；然后，以该向量表示为优化目标，优化源语言的神经网络；最后，固定源语言片段的向量表示，优化目标语言的神经网络。双语约束得到的片段表示应用于统计机器翻译的概率估计中，取得了显著的效果。