“深度学习总被忽悠，清华AI院长张钹:修修补补治”

本篇文章1255字，读完约3分钟

清华大学人工智能研究院院长张淹 经常比喻说，钥匙明明没有放在这个地方，为什么大家还要在这个地方找钥匙？ 因为这个地方可以看到灯 真正的钥匙被扔在黑暗的角落里，那里不好找，不能马上写复印件，所以很多人不想去找 最近，中国科学院院士、清华大学人工智能研究院院长张淹在学术活动中，阐述了深刻的学习方法容易被欺骗、受到攻击的根本原因。 他建议，根本的应对方法不是修补能看到灯光的深度学习模式，而是应该向人类学习 学习文案包括: 1、改变深度学习互联网的模式和结构；2、基于数据驱动引入知识。 出差人员，清华大学计算机系教授，中国科学院院士，1958年毕业于清华大学自动控制系 他参与了人工智能、人工神经互联网、机器学习等理论研究，这些理论被应用于模式识别、知识工程和机器人等技术研究。 从说 数据到引入知识 数据、算法、计算力，被认为是深度学习时代驱动人工智能崛起的三个主要因素 但是，来人认为，知识与这三者同样重要，构成了人工智能的四个基础。 回顾人工智能的历史，我们会发现这四个要素在不断地发挥作用 1月11日，来人在清华-中国工程院知识智能联合研究中心年会和认识智能高峰论坛上提出了上述观点。 张謇介绍说，第一代人工智能即符号主义主导的人工智能时代强调知识对智能的作用，由于当时受算法和计算力的限制，知识表示依赖人工编程，所以基于知识的推理模型没有受到过多的宣传 深度学习兴起后，学术界提出将目标转移到数据上，让学生说数据 张槁认为，这种强调对深度学习的快速发展有积极作用，但也有过分强调数量的重要性，认为单方面质量不好也没关系，数据多就能处理问题的缺点。 这意味着基于大数据构建的人工智能系统面临着不可靠、不可靠、不安全和难以宣传的挑战 在他看来，处理这个挑战的方法之一是引进知识 这也是我们人工智能研究院提出的第三代人工智能之路，通过数据驱动和知识驱动的结合来克服第一代和第二代人工智能的不足 钥匙落在阴暗的角落 深度学习被应用于模式识别，可以通过大数据的训练学习正确的分类，但容易受到恶意干扰、诈骗、攻击。 将狮子识别为图书馆，将雪山识别为狗，将停止标志识别为限速标志的深度学习系统层出不穷，如果发生在自动驾驶场景中，有可能会导致严重的后果 面对深度学习的脆弱性，单纯从深度学习互联网上修补只能治疗，不能治本 张槁在回答现场观众提问时表示，深度学习不能提取语义层面的特征，只能提取基础特征，这是脆弱易受攻击的根本原因。 不处理这个问题，光靠修补是不能从根本上处理问题的，现在的很多方法都是这样 如何从根本上处理深度学习中存在的问题？ 张謇认为，学习人类神经网络的结构，可以结合脑科学改善深度学习模式，以及将知识驱动和数据驱动结合起来这两项事业。 前者涉及学科交叉更难，计算机多选后路 走第 条路的主要问题是如何从原始数据中自动提取知识。 这一直行不通，知识不太容易自动获取，所以需要依赖人工，只依赖人工已经不远了 他鼓励人工智能研究者重点在知识获取方面工作，如果这个问题得到处理，很多问题将会得到解决。