无监督泛化
1. 如何防止政治巡视泛化
巡视要聚焦坚持和加强党的全面领导、新时代党的建设总要求、全面从严治党。围绕党的政治建设、思想建设、组织建设、作风建设、纪律建设和夺取反腐败斗争压倒性胜利开展监督检查。一方面，要牢固树立“失职、渎职”的惩罚机制，发扬“亮剑”精神，着力发现人民群众反映强烈、侵蚀党的执政基础的突出问题。另一方面，从严查处巡视移交的问题和线索。从体制机制制度上剖析成因，狠抓整改落实到位，堵塞管理漏洞，扎牢制度笼子，推动管党治党标本兼治，促进全面深化改革。
2. 神经网络的泛化能力差吗
泛化能力，英文全称generalization ability，指机器学习算法对新鲜样本的适应能力，一种预测新的input类别的能力。
通过学习找到隐含在数据背后的规律，并对具有同一规律的学习集以外的数据，这种经过训练的网络可以给出合适的输出，该能力就被称为泛化能力。
对于神经网络而言，一般越复杂说明该神经网络承受的复杂度越高，描述规律的复杂度容量就越大，当然越好，当然也不是绝对的，但是这能说明一个容器容量的问题，这时该神经网络的泛化能力也越强。
我们需要知道结构复杂性和样本复杂性、样本质量、初始权值、学习时间等因素，都会影响神经网络的泛化能力。为了保证神经网络具有较强的泛化能力，人们已做了很多研究，得到了诸多泛化方法，常用的包括剪枝算法、构造算法和进化算法等。
人工神经网络的泛化能力主要是由于透过无监督预学习可以从训练集导出高效的特征集。复杂的问题一旦转换成用这些特征表达的形式后就自然变简单了。观念上这个有点像是在做适用于训练集的一种智能化的坐标转换。
举例来说，如果训练集是许多人脸的图片，那么预训练做得好的话就能导出如鼻子，眼睛，嘴巴，各种基本脸型等特征。如果做分类时是用这些特征去做而不是基于像素的话，结果自然会好得多。虽然大型的神经网络具有极多的参数，可是由于做分类时其实是基于少数的特征，因此也比较不会产生过拟合的情形。
同时，针对神经网络易于陷入局部极值、结构难以确定和泛化能力较差的缺点，引入了能很好解决小样本、非线性和高维数问题的支持向量回归机来进行油气田开发指标的预测。
3. 为什么无监督的预训练可以帮助深度学习
深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。
深度学习的概念由Hinton等人于2006年提出。基于深信度网(DBN)提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。此外Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。
深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。
同机器学习方法一样，深度机器学习方法也有监督学习与无监督学习之分．不同的学习框架下建立的学习模型很是不同．例如，卷积神经网络（Convolutional neural networks，简称CNNs）就是一种深度的监督学习下的机器学习模型，而深度置信网（Deep Belief Nets，简称DBNs）就是一种无监督学习下的机器学习模型。
深度不足会出现问题
在许多情形中深度2就足够表示任何一个带有给定目标精度的函数。但是其代价是：图中所需要的节点数(比如计算和参数数量)可能变的非常大。理论结果证实那些事实上所需要的节点数随着输入的大小指数增长的函数族是存在的。
我们可以将深度架构看做一种因子分解。大部分随机选择的函数不能被有效地表示，无论是用深的或者浅的架构。但是许多能够有效地被深度架构表示的却不能被用浅的架构高效表示。一个紧的和深度的表示的存在意味着在潜在的可被表示的函数中存在某种结构。如果不存在任何结构，那将不可能很好地泛化。
大脑有一个深度架构
例如，视觉皮质得到了很好的研究，并显示出一系列的区域，在每一个这种区域中包含一个输入的表示和从一个到另一个的信号流(这里忽略了在一些层次并行路径上的关联，因此更复杂)。这个特征层次的每一层表示在一个不同的抽象层上的输入，并在层次的更上层有着更多的抽象特征，他们根据低层特征定义。
需要注意的是大脑中的表示是在中间紧密分布并且纯局部：他们是稀疏的：1%的神经元是同时活动的。给定大量的神经元，仍然有一个非常高效地(指数级高效)表示。
认知过程逐层进行，逐步抽象
人类层次化地组织思想和概念；
人类首先学习简单的概念，然后用他们去表示更抽象的；
工程师将任务分解成多个抽象层次去处理；
学习/发现这些概念(知识工程由于没有反省而失败？)是很美好的。对语言可表达的概念的反省也建议我们一个稀疏的表示：仅所有可能单词/概念中的一个小的部分是可被应用到一个特别的输入(一个视觉场景)。
核心思想
把学习结构看作一个网络，则深度学习的核心思路如下：
①无监督学习用于每一层网络的pre-train；
②每次用无监督学习只训练一层，将其训练结果作为其高一层的输入；
③用自顶而下的监督算法去调整所有层
4. 机器学习 一 监督学习和无监督学习的区别
机器学习的常用方法，主要分为有监督学习(supervised learning)和无监督学习(unsupervised learning)。
监督学习，就是人们常说的分类，通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最佳的），再利用这个模型将所有的输入映射为相应的输出，对输出进行简单的判断从而实现分类的目的，也就具有了对未知数据进行分类的能力。在人对事物的认识中，我们从孩子开始就被大人们教授这是鸟啊、那是猪啊、那是房子啊，等等。我们所见到的景物就是输入数据，而大人们对这些景物的判断结果（是房子还是鸟啊）就是相应的输出。当我们见识多了以后，脑子里就慢慢地得到了一些泛化的模型，这就是训练得到的那个（或者那些）函数，从而不需要大人在旁边指点的时候，我们也能分辨的出来哪些是房子，哪些是鸟。监督学习里典型的例子就是KNN、SVM。
无监督学习（也有人叫非监督学习，反正都差不多）则是另一种研究的比较多的学习方法，它与监督学习的不同之处，在于我们事先没有任何训练样本，而需要直接对数据进行建模。这听起来似乎有点不可思议，但是在我们自身认识世界的过程中很多处都用到了无监督学习。比如我们去参观一个画展，我们完全对艺术一无所知，但是欣赏完多幅作品之后，我们也能把它们分成不同的派别（比如哪些更朦胧一点，哪些更写实一些，即使我们不知道什么叫做朦胧派，什么叫做写实派，但是至少我们能把他们分为两个类）。无监督学习里典型的例子就是聚类了
5. 问责泛化，已严重影响大家工作积极性和主动性！
实际工作中，问责不严肃、不规范的情况时有发生。有的简单地把问责当成一种工具，工作推动中的问题、管理上的问题等，不分青红皂白都拿问责来处理，问责成了个别人领导能力和领导方式的遮羞布；有的问责泛化扩大化，凡是不合要求甚至不合领导的意图，随意就问责，以至于有的基层干部多数被问责、反复被问责；有的基层单位为了应付上级的多种问责、多次问责，不管谁的责任、什么责任，班子成员轮流“分担”……凡此种种，都偏离了问责制度安排的初衷，也极大损害了问责工作的严肃性、权威性和影响力，在一定范围造成了干部群众的不解或误解，长期下去、积累起来形成的危害不可小觑。
严肃问责，起码要从两个方面讲。一个是要严格执行党的纪律、规定和国家法规，做到有权必有责、有责要担当、失责必追究，不能含糊；另一个是要依据事实，严格依规依纪、严格程序要求、严格把握政策，不能随意、随性。
不能什么问题都问责处理。问责条例对问责的总体要求和原则作出规定，同时也规定了应当予以问责的六种情形。问责的一个重要原则是实事求是。什么情况该问责、什么情况不用问责，一定要依据事实、依照纪律规定和法规分清楚、把握好。有的问题到不了问责的程度，该提醒的提醒，该教育的教育，该批评的就批评，不能简单地用问责处理、一问了之，伤害同志的感情和积极性。当然，对于严重违纪甚至违法的问题，也不能简单地用通报等问责方式“降格以求”，那样做看似“爱护同志”“保护同志”，实则达不到惩前毖后、治病救人的目的，损害组织的威信和纪律工作的严肃性。
不能谁说问责就问责，想怎么问责就怎么问责。问责条例规定，问责决定应当由党中央或有管理权限的党组织作出。对于采取纪律处分方式问责，明确要按照党章和有关党内法规规定的权限和程序执行。纪检监察机关在履行监督执纪问责职责时，可以听取各方面意见，但不能为其他因素所影响、干扰或左右，更不能因为上级领导或部门要求问责，就不讲程序不依事实简单地“执行”。要严格执行监督执纪工作规则，严格依规依纪依法，严格按程序提出意见、做出处理。
问责最终还要注重效果、达到问责的目的。针对不同问题，从政治、纪法、政策、社会等各方面综合考虑，进行精准问责，真正做到问责一个，教育一片，影响大多数，这样问责才更有意义、更能发挥作用。
6. 什么是机器学习
深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。学习的话可以加裙前面六九式中间二六九最后加上五四零就可以进来学习了奥，不定期还会有资料推送，还有人工智能领域大牛在线解答问题。
深度学习的概念由hinton等人于2006年提出。基于深信度网(dbn)提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。此外lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。
深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。
同机器学习方法一样，深度机器学习方法也有监督学习与无监督学习之分．不同的学习框架下建立的学习模型很是不同．例如，卷积神经网络（convolutional neural networks，简称cnns）就是一种深度的监督学习下的机器学习模型，而深度置信网（deep belief nets，简称dbns）就是一种无监督学习下的机器学习模型。
深度不足会出现问题
在许多情形中深度2就足够表示任何一个带有给定目标精度的函数。但是其代价是：图中所需要的节点数(比如计算和参数数量)可能变的非常大。理论结果证实那些事实上所需要的节点数随着输入的大小指数增长的函数族是存在的。
我们可以将深度架构看做一种因子分解。大部分随机选择的函数不能被有效地表示，无论是用深的或者浅的架构。但是许多能够有效地被深度架构表示的却不能被用浅的架构高效表示。一个紧的和深度的表示的存在意味着在潜在的可被表示的函数中存在某种结构。如果不存在任何结构，那将不可能很好地泛化。
大脑有一个深度架构
例如，视觉皮质得到了很好的研究，并显示出一系列的区域，在每一个这种区域中包含一个输入的表示和从一个到另一个的信号流(这里忽略了在一些层次并行路径上的关联，因此更复杂)。这个特征层次的每一层表示在一个不同的抽象层上的输入，并在层次的更上层有着更多的抽象特征，他们根据低层特征定义。
需要注意的是大脑中的表示是在中间紧密分布并且纯局部：他们是稀疏的：1%的神经元是同时活动的。给定大量的神经元，仍然有一个非常高效地(指数级高效)表示。
认知过程逐层进行，逐步抽象
人类层次化地组织思想和概念；
人类首先学习简单的概念，然后用他们去表示更抽象的；
工程师将任务分解成多个抽象层次去处理；
学习/发现这些概念(知识工程由于没有反省而失败？)是很美好的。对语言可表达的概念的反省也建议我们一个稀疏的表示：仅所有可能单词/概念中的一个小的部分是可被应用到一个特别的输入(一个视觉场景)。
核心思想
把学习结构看作一个网络，则深度学习的核心思路如下：
①无监督学习用于每一层网络的pre-train；
②每次用无监督学习只训练一层，将其训练结果作为其高一层的输入；
③用自顶而下的监督算法去调整所有层
7. 监督学习和无监督学习的区别
机器学习的常用方法，主要分为有监督学习(supervised learning)和无监督学习(unsupervised learning)。
监督学习，就是人们常说的分类，通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最佳的），再利用这个模型将所有的输入映射为相应的输出，对输出进行简单的判断从而实现分类的目的，也就具有了对未知数据进行分类的能力。在人对事物的认识中，我们从孩子开始就被大人们教授这是鸟啊、那是猪啊、那是房子啊，等等。我们所见到的景物就是输入数据，而大人们对这些景物的判断结果（是房子还是鸟啊）就是相应的输出。当我们见识多了以后，脑子里就慢慢地得到了一些泛化的模型，这就是训练得到的那个（或者那些）函数，从而不需要大人在旁边指点的时候，我们也能分辨的出来哪些是房子，哪些是鸟。监督学习里典型的例子就是KNN、SVM。
无监督学习（也有人叫非监督学习，反正都差不多）则是另一种研究的比较多的学习方法，它与监督学习的不同之处，在于我们事先没有任何训练样本，而需要直接对数据进行建模。这听起来似乎有点不可思议，但是在我们自身认识世界的过程中很多处都用到了无监督学习。比如我们去参观一个画展，我们完全对艺术一无所知，但是欣赏完多幅作品之后，我们也能把它们分成不同的派别（比如哪些更朦胧一点，哪些更写实一些，即使我们不知道什么叫做朦胧派，什么叫做写实派，但是至少我们能把他们分为两个类）。无监督学习里典型的例子就是聚类了。聚类的目的在于把相似的东西聚在一起，而我们并不关心这一类是什么。因此，一个聚类算法通常只需要知道如何计算相似度就可以开始工作了。
8. 求Deep learning 【Yann LeCun 1,2 , Yoshua Bengio 3 & Geoffrey Hinton 4,5】全文中文翻译
ご清栄のこととお喜び申し上げます。
株式会社山田商事、営业部の山田太郎でございます。
このたび、业界のコンサルタントとしてご活跃の真田先生をお迎えして、讲演会を开催いたします。
お得意様には、一般参加の方々より一足先にご案内メールをお送りしております。
出席を希望される场合、添付のご案内状をご覧いただき、
返信メールにてお知らせくださいますようお愿いいたします。
9. 监督责任不到位，落实三转不明显，责任追究力度不够怎么整改
以郑州市米村镇的整改为例：
（一）用新手段落实“两个责任”。
出台针对乡镇的“两个责任”考核办法，健全责任考核体系。
在总体规划上，变党风廉政建设责任制考核为“主体责任”考核，变纪检监察工作绩效考核为“监督责任”考核；在考核份量设计上，与经济发展考核平行，考核相互影响；
在考核指标设计上，应以定性定量科学、注重实绩、方便操作为目标；建立刚性的问责追责机制，突出考核追责、问题倒查追责、履职不力追责三个重点内容。通过强化考核和追责，倒逼“两个责任”落实到位。
（二）用新举措监督执纪工作。
推进监督方式转变，及时出台操作性强的“乡镇纪检监察部门再监督实施办法”，实现“监督与再监督”的无缝对接，避免出现“工作空档”和纪委责任弱化泛化的现象。
建立纪委统筹、归口监督、纪委再监督再检查的工作体系和工作链条，不断提升监督效果，切实实现纪委事中监督向事后监督、监督事向监督人的转变。
（三）用新突破创新体制机制。
强化顶层设计，出台具体化程序化制度化的乡镇纪检部门运行规范，推进体制机制改革创新。出台乡镇纪检监察部门改革方案，针对乡镇纪检干部职能不专、队伍不稳的实际问题。
可以参照“法、检”机构改革模式，推行乡镇纪检监察体制改革，制定明确的工作路线图，实现乡镇纪委书记、副书记专职专责，“人、财、物”配齐、配足、配活。
（四）用新常态持续改进作风。
针对新情况、新问题，必须与时俱进，不断完善制度机制，加大预防、监督力度，充分发挥党内监督、法律监督、舆论监督、群众监督的作用，让作风问题无处遁形。
坚持“长常”二字，抓早抓小抓细节，节点治理、逐层推进，不断坚持、巩固、深化，形成作风建设“新常态”。
(9)无监督泛化扩展阅读：
整改要求
（一）加强组织领导，明确工作职责。分管责任部门领导要亲自抓好整改方案的制定和落实，成立整改责任小组，按整改工作方案，建立整改工作台帐，按时限、按要求逐一销帐。确定一名工作联系人，按时上报工作的开展情况和总结。
（二）强化督促检查，确保整改效果。各责任部门要严格按整改方案抓好各项内容的整改落实。镇纪委监察室要加强对责任单位的检查指导，对整改进展情况要及时跟踪督查，对整改效果不明显的要及时提出建议意见，确保整改效果。
（三）注重经验总结，构建长效机制。各责任（部门）单位在落实各阶段整改内容同时，要注重对整改工作的总结，对工作实践中取得的经验，要形成规范的制度机制，并长期坚持落实。