机器学习vs复杂系统.pdf

CMYCMMYCYCMYK“.pdf 1 2018/6/21 下午3:09 内 容 简 介 本书从跨学科视角来看待人工智能这个技术性的学科。围绕用数学模型预测未来这一主题，介绍算法，主要包括现在流行的机器学习和深度学习算法，以及算法要解决问题本身的复杂性。复杂的问题，需要复杂的算法，而算法设计背后的老师正是自然界的复杂性本身。最终，我们上升到自然界解决复杂性最有利的工具，即人类智能本身，让读者从神经科学的角度再次理解人工智能这个大主题，理解神经科学是如何启发人工智能的，而人工智能又如何帮助我们理解人类智能本身。本书既适合具有高中以上数学知识的一般读者，作为他们了解人工智能和复杂系统领域的科普读物；也适合已经在人工智能领域工作的专业人士，使他们从工程视角之外的更大视角去看待这一领域，获得新的启发。未经许可，不得以任何方式复制或抄袭本书之部分或全部内容。版权所有，侵权必究。图书在版编目（CIP）数据 机器学习 vs 复杂系统/许铁编著.北京：电子工业出版社，2018.8 ISBN 978-7-121-34410-7.机.许.机器学习普及读物.TP181-49 中国版本图书馆 CIP 数据核字(2018)第 120900 号 责任编辑：安 娜 印 刷：装 订：出版发行：电子工业出版社 北京市海淀区万寿路 173 信箱 邮编：100036 开 本：7201000 1/16 印张：12 字数：192 千字 版 次：2018 年 8 月第 1 版 印 次：2018 年 8 月第 1 次印刷 定 价：59.00 元 凡所购买电子工业出版社图书有缺损问题，请向购买书店调换。若书店售缺，请与本社发行部联系，联系及邮购电话：（010）88254888，88258888。质量投诉请发邮件至 ，盗版侵权举报请发邮件至 。本书咨询联系方式：010-51260888-819，。序 人工智能是大势所趋，这一主题也成为街头巷尾人们热议的焦点。本书作者的写作初衷是希望能在一个更大的视角下看待人工智能这个技术性的学科。虽然人工智能的技术更多用于工业界，但是其产生的根源，却与人类用数学模型探索世界和自己大脑本身的历程密不可分，因此，本书希望在这个大背景下，从高度跨学科的视角切入人工智能这个大主题。人人都想预测未来，但是无论科技多么发达，预测未来依然是困难的，比如股市、自然灾害、一个月后的天气预测等，都很难做到精准。究其根本原因，在于无处不在的复杂性。复杂系统这门学科可以帮助我们理解复杂性产生的根源。大数据时代，数据已成为人们最大幅度减少这种不可预测灾难的工具。然而过度信赖数据，往往会让我们陷入一种新的迷信，或者埋没在噪声里。算法，主要包括现在流行的机器学习和深度学习算法，可以帮助我们最大程度地从数据里提取信息、剔除噪声，这也成为目前人工智能的基础。从另一个角度看，即从人类智能本身来看待这个问题，会让我们对机器学机器学习 vs 复杂系统 IV习和深度学习的本质有着更新的理解，并发现两者内在的相似性，同时看到机器的算法和人脑的算法这两种相似性的根源，即世界本身的复杂性。本书内容涉及机器学习基本方法、非线性动力学、复杂系统、随机过程、神经网络等正在深刻改变世界的学科，讲述人工智能和复杂系统的基本原理，以及它们是如何影响我们日常生活的方方面面的：小到微信里的语音识别，大到我们到底能不能预测经济危机或金融危机。我们希望用化繁为简的笔墨，带领读者逐步理解这个大视角下的核心概念，掌握进入更多细分领域的语言和思维体系。我们的使命不是涵盖这一宏大领域的所有知识点，而是希望引发读者的兴趣，去寻找和了解这一激动人心的领域的更多进展。本书既适合具有高中以上数学知识的一般读者，可作为他们了解人工智能和复杂系统领域的科普读物；也适合利用业余时间充电，正在自学人工智能的工程师，作为他们搭建框架和进入专业领域的开胃菜；还适合已经在人工智能领域从业的专业人士，使他们从工程视角以外的更大视角去看待这一领域，获得新的启发。读者服务 轻松注册成为博文视点社区用户（），扫码直达本书页面。提交勘误：您对书中内容的修改意见可在 提交勘误 处提交，若被采纳，将获赠博文视点社区积分（在您购买电子书时，积分可用来抵扣相应金额）。交流互动：在页面下方 读者评论 处留下您的疑问或观点，与我们和其他读者一同学习交流。页面入口：http:/ 目录 V 目录 第一部分 复杂性 1 复杂系统.2 2 用复杂网络看世界经济（阅读难度）.7 3 风险管理策略之复杂科学视角.11 4 从物理角度看复杂.24 第二部分 机器学习 5 白话机器学习（阅读难度）.46 6 浅谈贝叶斯分析.53 7 简单贝叶斯分类器（阅读难度）.57 8 决策树方法（阅读难度）.60 9 感知机：神经网络的基础（阅读难度）.64 10 降维：应对复杂的通用武器（阅读难度）.67 机器学习 vs 复杂系统 VI第三部分 神经网络 11 神经网络不神秘.74 12 CNN 的几个关键词（阅读难度）.80 13 时间序列与 RNN.91 14 会遗忘的神经网络（阅读难度）.96 15 跟着 AlphaGo 理解深度强化学习框架（阅读难度）.100 16 从阿尔法元看强化学习的更广阔潜力.107 第四部分 宇宙间最复杂的就是我们的大脑 17 深层视觉信息的编码机制（阅读难度）.114 18 大脑的自由能假说兼论认知科学与机器学习（阅读难度）121 19 大脑中的支持向量机（阅读难度）.126 20 机器学习是如何巧妙理解我们大脑的工作原理的（阅读难度）.133 21 大脑经济学（阅读难度）.140 22 人工智能 vs 人类智能（阅读难度）.149 第五部分 人工智能应用谈 23 人工智能会取代艺术家的工作吗.156 24 机器学习预测心理疾病.159 25 人机协作决策的两种方式.164 26 小数据机器学习.166 27 用深度学习玩图像的七重关卡.170 28 深度学习助力基因科技.174 29 机器学习对战复杂系统.176 第一部分 复杂性 机器学习 vs 复杂系统 2 1 复杂系统 何为复杂（阅读难度）复杂系统用来阐述模式的产生。现实生活中模式无处不在，例如，同类型的商店往往比邻而居；分久必合，合久必分，热恋过后不是分手就是回归平淡。甚至那些我们不认为是模式的，比如生命过程本身，其实都可以看作自然界中模式涌现的过程。这些模式往往可以归结为组成系统的个体通过简单相互作用达到某种非同寻常的集体的现象，复杂系统用动力学的思想阐述了这一过程的发生。（1）系统可以被分解为比自身简单许多的个体。市场人，生物细胞。但是个体和系统之间却呈现了完全不同的属性，用完全不同的特征描述。比如，人具有的生物属性是吃喝拉撒，而由很多人组成的社会系统，就具有了国家、政府、交易市场等这些特征。（2）个体之间的相互作用反过来受到系统制约。比如，人与人交换物品，需要依靠共同的媒介钱，而依据的标准是大量交易行为中涌现的价格。这些制约因素往往是在个体的相互作用中自发涌现的。这些制约可以看作一种宏观秩序或者组织，使得相隔遥远的个体通过它联系起来。1 复杂系统 3 一些非常简单的个体之间的相互作用规则就可以诞生出非常复杂的宏观范式，这一现象最早受到物理学的启发。一个里程碑式的模型被称为 ising 模型，这个模型利用不同条件下简单晶体的演变阐述了最复杂的物理问题相变，在后面会继续介绍。（3）系统与外界环境的作用可以用信息的流入和流出描述。复杂系统在外界信息发生变化时的反应是描述复杂系统属性的根本，很多能够稳定存在的复杂系统都具有相对外界环境自发调整自己结构的能力。最典型的复杂系统的例子就是股市，大家都想预测股票价格，但是很难预测，这是因为股票价格本身即是大量交易者买卖之间涌现的一种宏观秩序，它与公司的业绩并不明显相关，公司业绩对股市的影响更像是进入交易市场这个复杂系统的一个外部信息，外部信息影响交易者的心理但不决定他们的行为，最终股票的价格是由交易者间的相互作用（博弈）决定的。如果要研究股市，更多的是研究如何根据交易者所透露的蛛丝马迹推测其可能的行为。即使你能够跟踪每一位交易者，也由于上述几个原因，股市依然很难预测。金融市场的不确定性的根本来自于复杂系统，这使得我们常常低估风险。比如次贷危机，我们依据的假设很多时候是把市场看作独立作用的部分，每个部分的风险是独立的。事实上市场的每一部分并没有独立，正是它们之间的互相关联导致次贷危机的。为何复杂（阅读难度）复杂系统的复杂，是由哪些因素影响造成的呢？作用（关联）不是单体的特性，而是单体是如何相互关联形成组织的。因为这类系统共同的特点是长程关联。关联往往导致 1+12 或 1+12，也可以是 1+1f2 和 f1f2 两种情况，我们得到一个分叉行为（Bifurcation），一个会趋于是回答，另一个会趋于否回答。某种角度，这也是机器学习里连续到离散的分类问题的一个动力学解答。其中的物理含义与最初我们推20 机器学习是如何巧妙理解我们大脑的工作原理的 139 倒的那个猜想玩具模型是一致的，如图 20.6 所示。图 20.6 从中我们看到了机器学习和复杂系统你中有我我中有你的关系。首先，机器学习是一种算法，而算法总要有一个物理实现（复杂系统）。我们先有数据组成的表象世界，再有算法组成的符号世界，最后是抽象的真正解释世界机理的物理世界。这三者之间，表象世界通过机器学习进入符号世界，而符号世界又能与物理世界巧妙地相通。机器学习是桥梁，复杂系统是灵魂，而没有桥梁，灵魂就是空洞的。我们可以进一步追问机器学习方法如何工作，人脑如何工作，此处真正相通的地方到底是什么？注意，我们反复在说的低维到高维与高维到低维的问题，现实生活中的问题往往是高维到低维的映射，比如信号（高维）决策（往往二维）过程，能够在高维空间里找到低维嵌入，往往就代表神经网络建立了真实世界的模型，正是因为这些模型，我们才具有了“举一反三”和“泛化”的能力。更深刻的，就不是本章所涉及的了。机器学习 vs 复杂系统 140 21 大脑经济学（阅读难度）我们每天接收无数外界输入（感觉、信号），但是只有被我们大脑阐述为有序的信号才叫信息，其余则是噪声。为什么对于某些信号常认作是信息，而有些却认作是噪声？因为我们的大脑结构天生能够对某一类的外界信号建立有序，抽取信息，而对其他信号麻木。科学家沉迷一套缜密的逻辑，因为他们的大脑对因果关系特别敏感，例如贝多芬把音符组合成美丽的旋律。若是在大脑天生容易产生信息的地方进行造化，那么你就可以成为天才。而如果硬要在那些你的大脑天生比较容易产生噪声的地方建立秩序，则反抗的将是你自己。生物在世界上存在的第一个矛盾是能量的稀缺，尤其是那些处于低熵状态能够被利用的能量就更少。这也是所有生物竞争和进化的动因。能量有限，欲望无穷。大脑以 2%的重量消耗人体 20%的能量，因此能量稀缺是大脑面临的第一难题。哪里有稀缺性，哪里就有经济学。Lesson 1：人性贪婪，贪婪的原因是稀缺，因为稀缺，所以只有有竞争动力的个体才允许存在。21 大脑经济学 141 Lesson 2：人脑的经济学。经济学是市场上无序的个体在自发组织下形成有序的市场，并通过价格杠杆实现资源的优化配置，用最少的资源做最多的事情。那么大脑的经济学是什么？用有限的能量，产生最多的信息，这就是大脑应对稀缺性的对策。Lesson3：市场通过给买卖的人排出优先次序，让最想付出代价取得货品的人优先赢得交易。而大脑通过情绪给经过它的众多任务（信息源）排出优先级，分配能量。大脑喜欢给那些它擅长阐述的东西赋予能量，是大自然优化配制的表现。有一个词叫舒适区，就是指这一类任务。读懂情绪所包含的信息 我们常说冲动是魔鬼，情绪有如此大的力量，是因为我们需要它。情绪来自我们亿万年形成的本能，如同一头威力巨大的原始野兽，让我们愤怒的时候攻击，喜欢的时候坠入爱河，成为一个合格的生物人。情绪是大脑调节能量流动的方式，正如价格是市场调节物资分配的方式。你所做的不同的事情，有的喜欢，有的不喜欢，其实你的喜欢与不喜欢就是大脑在估价。大脑要把稀缺的能