自然语言处理
在
在这个学习通上面去，下去预习的时候对着ppt看，有可能，哎，ppt里面会碰到一些很熟悉的题目，我前面讲过了，那个例题，包括我前面讲过的例题和ppt中的那个选择题、填空题一定要去看。
然后第四个选择题的考量重点，第四个是gpt与word它的结构、训练方式、应用场景的区别，以及gpt和bot分别属于什么模型？
嗯
我我我再说慢点，我从头说一遍，再说慢点。第一个是考察人工智能的三大能力，第二个是考于考察词语的上下文关系，上为词，下为词，同义词。第三个是考察中文分词的歧义，如何进行正确的切分，那么第四个是考察gpt与bot分别属于什么模型？他们在结构训练应用场景上有什么区别？
第，下面一个，拿plus 平滑的定义和作用分别是什么？
拉plus 平滑也叫什么？加什么方法？对吧？然后它是它是用来处理什么？数据稀释问题与零概率问题的，对吧？它的作用是什么？它定义是什么？下去这一个一定要搞懂啊。
我下面，我我说的每个重点都不是废话啊
毒热编码优缺点是什么？
One hot独热编码，优缺点是什么？
信息抽取
信息抽取的过程
信息抽取的过程和四大任务分别是什么？信息抽取的过程怎么抽取的？它的四大任务有什么？ner、实体链接、关系抽取和事件抽取，对吧？我们还刚才讲了一个选择题，对不对？然后评价指标，比如说准确率、召回率、f1值。
我我专门还出了一个选择题的，对不对？下去看，那个在ppt里面出了选择题的，我说一定会考的
评，这是评价指标，还有一个序列数据的特点性
序列数据
任务，还有我刚刚讲的任务型对话系统，它的模块是什么？每一个模块的作用是什么？开放域的任务，开放域对话系统，它的模块是什么？每一个模块作用是什么？
我们刚刚讲的这个任务域的对话系统有什么？nlu, nlg dm，对吧？
德与法
格语法
施氏格、授事格、工具格。还记得我我出了很多选择题的，对不对？在那个ppt上面，下去看看那个ppt，你把那个东，你把这个东西看懂了，这个题，这个格这个格局吧，很好做，对吧？很好判断。我出一个什么句子？然后，哎，什么是受事格，什么是四十格？什么工具格？这个这个应该很简单
供纸消减
供脂消解，我说了，刚说了一定会考察，考察什么？考察什么是回执，什么是后置，对吧？我还举了很多例子和那个做了选择题的，下去看我的ppt。供脂消解要考察这个回纸与供纸的关系
最后一个是篇章关系，就是我在讲篇章分析的时候讲过，还记得篇章关系中讲过什么？因果关系，什么？结果关系，那个忘记了，results occasional对吧？并列关系、说明关系，对不对？我还举了例子的，对不对？下去看啊，这这个一定，我我说的东西都是要考察的啊。
那么，这大概是这个选择题的考察重点。听清楚了吗？好，这个第二个是填空题的考察重点。
情感分析，跨领域的情感分析
跨领域的情感分析
那基本上就是定义是什么，涉及到技术是什么了，对吧？
然后rnn rnn循环神经网络定义是什么？优缺点是什么？
概率据法分析。
概率句法分析，cfgp哦，概率概率最小概率就是pcfg对吧？pcfg它是
如何去计算这个什么结果的？去看我这个密室
这个我们，哎，当时有有个规则是什么？那个树上规则什么？所，它的规则是等于所有规则什么？是什么？之极，对不对？还记得这规则？下去看，把这例把这个例题下给我看，给我看清楚，它怎么计算的过程的。
然后，这个
Pmi ir,还记不记得我们我讲过了？
然后我们还要考察rnrn中这个，它rn是不是有它的优缺，有它的缺点，对不对？然后我们做了，我还专门讲了，还做做他的改进的，怎么改进呢？他的改进的改进的类型有什么？lstem和什么？和gru，那我下去把这个lhtm和gru它涉及到的模块搞清楚，以及这个lst量和gru 
它的定义
搞清楚，哎，比如说，哎，我我我可能会在lstm在名词解释中给出lslstm给我名词解释什么？gru名词解释是什么？给我解释。
然后以及lstm和gru它的区别是什么？谁比谁好？谁比谁差？对吧？
以及这个
阿根与穿梭的改进的，我我为什么rn是因为什么问题？然后我们提出了transformer对吧？transformer与与这个rn它有一个什么啊？为我为什么要从rn做到transformer去比较两者之间的优缺点？
然后这个，这是大概是填空题，那么填空题一共是5，一共是5道题，每题2分，10分。这个呃填空题我以答案为准，你错一个字或者是答案不准确，一分不给
发什么？
所以我刚刚说的下去一定要搞懂，你错一个字或者随便瞎写，通通是0分，我按点给分的。然后这个。
第三个是判断题，10个小题，每题1分。
那么考察重点基本上这个判断题我我大致说一下啊，判断题这个基本上呃你们基本上都用判断，判断题基本上就属于送分题了。比如说我会考察dna与rn的对比，呃，会考察这个供脂关系的定义，会考察这个多模态。
抗洪沙，呃，这个attention attention机制，呃，刚刚讲的这个对话系统中的对话系统的一些特点，哎，我会考虑出出一些这个什么，对话系统，刚才刚刚前面讲的对话系统，对吧？你下去可以把ppt看一下，你就知道这几个，无外就几个类型的这个定义和缺点是什么，对吧？这一共是5种，对不对？对吧？基本上可以看，大致了解一下。那么会考虑这个匹配算法，匹配算法我们前面讲过有两种，对不对？还记得吗？逆向最大匹配和正向最大匹配，对吧？呃，下去把它定义大致了解一下，大概就是这样一个样子，反正这个判断题大概这样子。所以我们说，我说这个选择题、填空题、判断题，基本上就是按点给分，错了就错了，对了就对了，就是你跟我答案，跟这个答案有一点一点点出入都是0分。这是前三个题型，第四个题型是名词解释。哎，名词解释这个，那么这个带带有一种主观性的打分了，那么名词解释，那么名词解释的时候，比如说啊，我举个例子啊
哎，比如说啊，我举个例子啊，比如说我现在要给出名词解释
等一下这样，哎，我我说要你给出名词解释，lstm名词解释什么？有同学给我写一个啊。呃，当然你肯定是肯定是两个部分我才能给分，给完整的分。怎么给分？啊，这样，拿了之后先先先写什么？先写它的翻译是什么？lstm，lstm是什么？对不对？中文点缀都写在这里，然后把它作用给我写出来，你只写ls要不的中文解释，一半分。
给这个作用和定义，我给它作用和定义是什么？哎
所以解释第一个是解释，第二个是作用或者定义，你不给，你不，答案不答全，这lrgm这个名词解释我就给一半分，听清楚没有？
所以名词解释，比如说，哎，我会考察，哎，刚刚说的lsdm嘛，对吧？rn解，rn的名词解释，lsdm的名词解释，gru的名词解释，对吧？或者cnn的名词解释。
然后，哎，我会考考察那个什么？second to sequence，trans transformer是什么？对吧？还会考察机器翻译是什么？命名实体资源是什么？
对吧？比如说，哎，我我在这个地方写了这个这个什么
命名实体识别。
命名识别识别是什么？哎，这个地方我就不需要你解释了，你直接给我定义是命名识别是什么就可以了，然后我就给你完整的。但是如果说我这个地方写aer，哎，你只给只给一个只给一个定义，你不写这个解释，我就给你扣一半分，听清楚没有？
然后，哎，所以我大概说清楚了这个名词解释，刚刚刚刚说的都属于范畴这张，lsdm，lsdm gru、transformal、cnn、rn，对吧？这是关于英文的一个解释。那么这个中文呢，比如说，哎，涉及到什么？我我有什么？有这个阶级翻译，经济翻译定义是什么？作用是什么？对吧？命名、设计、识别，这个情感分析，对吧？
给出定义，给出这个作用，我再我再这个啰嗦一遍，这个关于名词解释，英文一定要给出这个中文的解释，然后给出后面的这个。它的作用是什么？
那么中文的话，比如说命名式的识别，又给出它定义是什么？命令实体是来干什么的？它是要检索出什么？人名、地名、机构名，对吧？这些方法，对不对？
这大概是这个名词解释，所以这个一定要搞清楚。你不是说，哎，有有同学写名解释的写写个写个，我给这么大的空，他写，他就给我把这个写写他就把这个，我给这么大的空，他就给我写满。不是分，不是写越多越好啊，我是按点给分的。你的这个答案出现在我的，你的答案出现在我的答案中，我就给你答案。不是越多越好啊，我我不是说按按态度给分的，就是完全是按点给分的，听清楚吗？达到我的点上我就给分，然后第五道题是这个简答题
那么简答题，顾名思义，简答简答，那就是呃
那么会首先说考察哪一点，比如说，哎，我会考察模型的可解释性是什么？哎，比如说，哎，我的这个，我会这样说，请简述模型可解释性方法，可呃可解释性方法（至少三种，比如说这个题假如是，这个题应该是应该是6分。哎，那就是什么？三个方法，一题一个点就是2分，对不对？你给我写两个，我就扣你2分
对吧？你，哎，比如说简述模型可见方法，写了三步，那就那就是每个点，每个方法是2分，一共6分，对吧？你写的东西不在我的答案范畴之内，乱写。啊，比如说模拟可解方法，可解方法是预训练微调。一分都没有，听清楚没有？
模型可简，比如说简述模型可解析方法至少三种以上，对吧？
然后，相似性度量方法
这都是我前面讲过的，对不对？详实行动的方法有哪些？模型可解释性方法有哪些？那么你们在回答这个，呃，那么这个。
特，第三个是降维方法，特征降维方法
在写这个简答题的时候，不要给我写的很长。我比如说模型可解释性方法，对不对？我要你写三种，对吧？哎，你就给我把三个方法罗列出来就可以了，我会让你写一大堆。我只看有没有出现这些关键词，我就按点给分。不要写一大段，我我也不知道你在说什么，听清楚，我是按点给分的
那么还有，比如说前面讲过的这个root与gpt的模型对比，哎，怎么对比？像去了解，刚刚讲过了，怎么对比？在结构上，在训练方式上，在这个任务上，在应用场景上，对吧？
比如说，这个word是基于什么来做的？前面讲过的是基于什么？这个编码器来做的这个模型，对吧？那我这个gpt是基于什么？这个解码器做的一个生成模型，对吧？下去了解一下，然后这个transformer与gpt bot的区别是什么？以及transformer与rn的对比是什么？
我再啰嗦一遍，比如说啊，我刚刚讲的这个对，这个，那么简答题刚刚就有两种类型，对吧？一种是比如说我要你说个方法，那么比如说一题6分，那么这个方法我说要你至少说出三种策略，那你就把3，你就把三个点给我列出来。如果说，哎，你说老师我不我不知道三种方法是什么，那你就把你认为的，你就都把都把它列上去，那你写4种5种都可以啊，对不对？我如果说从你四五种四种五种方法中找到3种以上的，我就给你6分。如果找不到，0分，就这个样子，对吧？那么我刚刚讲的这个对比，对不对？
这个对比，比如说，哎，我比你强，那么优势性，比如说16分的话，那么你就把三个优势给我列出来。我不需要你写很长，优势是什么？用用几，所谓用这个几个字的短语，你给我解释，或者用，哎，老师我我不知道怎么总结，那你就文字写出来啊，对吧？我我看出来你的这个很长的句子跟我的这个这个答案是哎有对应关系的，我就给你分，好吧，就大概是这个样子。
那么这个最后一个就是这个大题，那么大题一共是两个题，那么这个题一共是20分，每题是10分。那么这个给分的时候，我是会按照给点给点给分，所以不要像这个上届有一个同学，上一届同学我我直接画了重点了，甚至可能会碰到一些这个类似的题，有的20分直接是空白的，0分。那你不挂科谁挂科呢？对吧？那么还有的同学在写这个大题的时候怎么写？哎，你想，他就直接一，就是，哎，他怎么写的？
他写这个p等于啊把公式一挪，哎，好，这个数字一乘。
还得出这个结果。
他就写了个东西，哎，你的答案错了。你这个答案正确了，哎，我就给，我就只给答案的分。比如说这里有1-2分，哎，1分。
到2分，可以给一个分数。
但是这个过程分是没有的，因为我的这个答案的这个过程是，比如说
这个他可能跟大题里面可能有多个多个小题，对吧？然后比如说这个过程，比如说要计算什么p等于什么，哎，这这个地方，比如等于1/3或者p1等于3，p2=1/2给1分给1分，大概这样子，对吧？如果说涉及到一些大题的东西，哎，这个大题怎么办？比如说我要计算这个什么，条件概率或者是联合概率，p等于什么？你给我写个这个，我就只给你过程分，我我我就只给你结果分，你中间没有过程，对不对？没有过程，那你就没有过程分，听清楚没有？不要像上届同学，我来考试的我都是强调一定要写，把过程给我写出来，因为有过程分的，不要一口气写个结果，那你只有最终的结果，如果最终结果是是错的，那你就是0分。
清楚没有？所以你要清楚，那么这个考察的这个大题范围两个方面。哦，呃，第一个hmm的评估问题和预测问题
对不起
Hm尹马可夫的评估问题和学习问题。呃，我是不是还当面，当当时还举了例子，对不对？那个什么，那个什么？吃和find，telled那个，把把那个例子下去给我看懂，搞清楚。
这个评估问题是采用什么？前向算法来做的，这个预测问题是采用什么来做的？维特比算法来做的。下题，这个两个例题一定要给我搞懂啊。那么第二个是这个语言模型，也就是n原文法，如何计算条件概率？如何计算联合概率？如何
那么中间如果涉及到敏感意事件，我们采用什么方法来做？那么这个中间，呃，刚才说还有这个最大死亡估计。哎，英语文法这个地方一定会出个大题。呃，我我当时还讲过一个例子，对不对？就是会出n元话怎么计算？会出，比如说
比如说我会出一个什么？第一、第二、第三，对不对？会出3个文本，然后分子分成之后计算它们调节概率，再计算它们的联合概率，对不对？对吧？
下去看一下，呃，看一下那个那个我讲例子，去看一下，或者是这个，我还讲过之前书上的一个例子，对不对？这个下去一定要看，然后
还有这个刚刚讲的基于概率上下文无关文法，pcfg如何生成不同的句法数？
计算聚法数的概率，讲的怎么算呢？这个什么？pt1是不是？pt2然后谁大我就取谁，对不对？它有不同的数，对不对？pcl机啊，这个例子我讲过了，看看ppt啊，ppt里面有啊。
再说一遍这个大题，两个大题，那么考的范围是三个方面，第一个是hmm的评估问题和预测问题，去看我ppt的例子，我讲过了的。评估问题用前沿算法解决，这个预测问题用什么？维特比算法解决，一个过程，步骤一定要给我写清楚。我我再说一遍，这个要计算，要，比如说要计算这个概率的时候，因为它有过程分，所以这个过程一定要给我写写清楚，不要写这个连成，写这个连成我就只给你结果分，听清楚啊。然后这个a域文本模型给定多个这个文本，然后计算它的什么？条件概率、联合概率，那么会涉及到这个0概率问题和系数问题怎么解决？涉及到零概率问题和稀土概率问题怎么解决？采用什么方法？对吧？然后这个基于pcfg的方法，如何选择不同的这个句法数，句法数是怎么计算的？
那么，大概是这几个范畴
这个我再说一遍，这个这个这个重点已经回大家画出来了，这个ppt已经传到这个呃学习通上面，ppt一定要下去看懂，我讲的这个选择题和例题不是白讲的，一定要去看啊