嫌网速慢?技术宅教你如何利用代理软件绕过校园网认证实现不限带宽和免费上网

本教程总体采用 apt 和 pip 进行安装,无需编译,两分钟即可搭建完成。适合于 树莓派3B 的 Raspbian 系统,以及支持 apt 的 Debian 系的系统。

准备

当然,安装之前,需要打开树莓派的 ssh,而且最好做好相关防护,不然端口很可能被扫爆。

更新源

sudo apt update && sudo apt upgrade && sudo apt autoremove

fail2ban

安装 fail2ban 服务,该服务装好后重启生效、自启动,作用:ssh登录错误5次ban10分钟。

sudo apt install fail2ban

另外可以在 /etc/fail2ban/jail.conf 修改fail2ban参数。

安装

树莓派的 Raspbian 是基于 Debian 的系统,支持 apt 软件包管理(新立得)安装,那么就不需要编译了,树莓派这个性能,编译东西简直要炸了。apt 源里默认是有 shadowsocks 的,可由于作者不再维护 apt 和 pip 中的 Shadowsocks,定格在了很老的3.0.0,所以我们用 python 的 pip 安装

首先安装 python3 和 pip

sudo apt install python3 && sudo apt install python3-pip

然后使用 python3 的 pip 安装最新的 shadowsosks

sudo python3 -m pip install https://github.com/shadowsocks/shadowsocks/archive/master.zip

安装完成查看一下 shadowsocks 的版本

sudo ssserver --version

软件包附带两个命令,ssserversslocal。一个用于服务端配置,一个用于客户端配置。详细情况可以运行man shadowsocks来查看。

另外新版 SS 支持了 chacha20 等加密算法,需要安装 libsodium

sudo apt install libsodium-dev

配置

有两种配置方法,一种是命令行参数配置,一种是配置文件。

命令行配置

参数名
参数意义
-s服务器地址
-p服务器端口号
-k服务器密码
-m服务器加密方式
-t服务器超时时间
-c配置文件路径
-fast-open快速打开模式,仅Unix/Linux系统可用
-workers工作者数量

每次运行 shadowsocks 都将一大堆参数传进去是件很麻烦的事情。所以一般情况下都是采用配置文件的方式来配置的。然后通过-c参数将配置文件路径传入。

配置文件

shadowsocks 的配置文件是一个json形式的文件,各参数的意义和命令行参数意义相同。

{
    "server": "0.0.0.0",
    "server_port": 8435,
    "local_address": "127.0.0.1",
    "local_port": 1080,
    "password": "mypassword",
    "timeout": 300,
    "method": "chacha20-ietf",
    "fast_open": true,
    "workers": 1,
    "prefer_ipv6": false
}

服务器地址就写0.0.0.0即可,0.0.0.0意思是转发到外网,不要写127.0.0.1,127.0.0.1是仅在内网使用。端口号可以自己写,但是不要占用其他服务的端口,我这里使用 8435 是因为我们学校仅允许连接外网 22/80/443/5228 端口。本地地址和本地端口是客户端使用的,服务端可以不用理会。密码尽量采用复杂一点的密码,以保证安全性。加密方式如果仅仅在手机或者电脑使用,用 aes-256-cfb 就可以,如果是路由器使用推荐 chacha20-ietf-poly1305。如果服务器是Linux系统的话,打开fast_open。

配置文件编辑完毕之后,就可以运行shadowsocks了。尝试前台运行:

ssserver -c /etc/shadowsocks/config.json

后台运行和停止

ssserver -c /etc/shadowsocks/config.json -d start
ssserver -c /etc/shadowsocks/config.json -d stop

以上都是在root用户下运行的。以root方式运行可能会有一些安全问题。所以一般都是使用普通用户运行:

ssserver -c /etc/shadowsocks/config.json --user nobody -d start

开机启动

以上都需要自己手动运行命令来启动shadowsocks。要让shadowsocks在系统启动时自动运行,需要在/etc/rc.local中添加命令。

sudo ssserver -c /etc/shadowsocks/config.json --user nobody -d start

PC端的连接

传统的ss或者ssr客户端只能满足网页走代理的需求,为了使全部应用,比如网盘、游戏软件等等统统走代理,推荐使用SSTap。

Redis入门

Redis入门

Redis概念

Redis和MongoDB这两个是内存数据库,而MySQL是存储在磁盘的持久层数据库。随着MySQL的磁盘IO速度成为数据库的瓶颈,这个时候可以开一个Redis数据库,在内存做直接的IO操作,进行IO操作时直接在内存进行,当系统处于空闲时,再将数据写入MySQL中,增加整体的数据IO效率。

NoSQL技术

Redis一种基于内存的数据库,并且提供一定的持久化功能。Redis和MongoDB是当前使用最广泛的NoSQL,而就Redis技术而言,它的性能十分优越,可以支持每秒十几万次的读/写操作,其性能远超数据库,并且还支持集群、分布式、主从同步等配置,原则上可以无限扩展,让更多的数据存储在内存中,更让人欣慰的是它还支持一定的事务能力,这保证了高并发的场景下数据的安全和一致性。

Redis 在 Java Web 中的应用

Redis在Java Web主要有两个应用场景

  • 存储缓存用的数据
  • 需要高速读/写的场合使用它进行快速读/写

缓存场景

在日常对数据库的访问中,读操作的次数远超写操作,需要读的可能性是比写的可能大得多的。当我们使用SQL语句去数据库进行读写操作时,数据库就会去磁盘把对应的数据索引取回来,这是一个相对较慢的过程。如果我们把数据放在 Redis 中,也就是直接放在内存之中,让服务端直接去读取内存中的数据,那么这样速度明显就会快上不少,并且会极大减小数据库的压力,但是使用内存进行数据存储开销也是比较大的,限于成本的原因,一般我们只是使用 Redis 存储一些常用和主要的数据,比如用户登录的信息等。

高速读/写场景

在如今的互联网中,越来越多的存在高并发的情况,比如天猫双11、抢红包、抢演唱会门票等,这些场合都是在某一个瞬间或者是某一个短暂的时刻有成千上万的请求到达服务器,如果单纯的使用数据库来进行处理,就算不崩,也会很慢的,轻则造成用户体验极差用户量流失,重则数据库瘫痪,服务宕机,而这样的场合都是不允许的!

Redis持久化

持久化的功能:Redis的是内存数据库,数据都是存储在内存中,为了避免进程退出导致数据的永久丢失,需要定期将Redis的中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis的重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置。

Redis的持久化分为RDB持久化和AOF持久化:前者将当前数据保存到硬盘,后者则是将每次执行的写命令保存到硬盘(类似于MySQL的二进制日志的);由于AOF持久化的实时性更好,即当进程意外退出时丢失的数据更少,因此AOF是目前主流的持久化方式,不过RDB持久化仍然有其用武之地。

实际使用时的环境配置和具体操作demo

见参考资料中的“Redis【入门】就这一篇!”,有较为详细的教程。

SpringBoot整合Redis进行缓存数据库查询

见参考资料中的“SpringBoot整合Redis进行缓存数据库查询”,有较为详细的教程。

Redis可视化管理工具

Redis Desktop Manager是一款能够可视化Redis管理的工具,收费软件,自己去网上下载。

参考资料

  1. MySQL、MongoDB、Redis 数据库之间的区别
  2. Redis【入门】就这一篇!
  3. SpringBoot整合Redis进行缓存数据库查询
  4. 精讲Redis持久化

关于为什么RAID5往往掉一个盘后第二个盘也立刻挂掉的原因分析

很多人遇到过服务器RAID5挂掉,往往掉一个盘后,第二个盘也立刻挂掉。

大家都知道RAID5 一次允许一个盘缺失,

RAID 5也是以数据的校验位来保证数据的安全,但它不是以单独硬盘来存放数据的校验位,而是将数据段的校验位交互存放于各个硬盘上。这样,任何一个硬盘损坏,都可以根据其它硬盘上的校验位来重建损坏的数据。硬盘的利用率为n-1。

如果挂掉两个盘,数据就玩完了。
理论上两个硬盘同时失效的概率是很低的,但为什么会这样呢?

从数学角度说,每个磁盘的平均无故障时间 (MTBF) 大约为 50 万至 150 万小时(也就是每 50~150 年发生一次硬盘损坏)。实际往往不能达到这种理想的情况,在大多数散热和机械条件下,都会造成硬盘正常工作的时间大幅减少。考虑到每个磁盘的寿命不同,阵列中的任何磁盘都可能出现问题,从统计学角度说,阵列中 N 个磁盘发生故障的机率比单个磁盘发生故障的机率要大 N 倍。结合上述因素,如果阵列中的磁盘数量合理,且这些磁盘的平均无故障时间 (MTBF) 较短,那么在磁盘阵列的预期使用寿命过程中,就很有可能发生磁盘故障(比方说每几个月或每隔几年就会发生一次故障)。

两块磁盘同时损坏的几率有多大呢(“同时”就是指一块磁盘尚未完全修复时另一块磁盘也坏掉了)?如果说 RAID 5 阵列的MTBF相当于MTBF^2,那么这种几率为每隔10^15个小时发生一次(也就是1万多年才出现一次),因此不管工作条件如何,发生这种情况的概率是极低的。从数学理论角度来说,是有这种概率,但在现实情况中我们并不用考虑这一问题。不过有时却是会发生两块磁盘同时损坏的情况,我们不能完全忽略这种可能性,实际两块磁盘同时损坏的原因与MTBF基本没有任何关系。

今天刚好在测试一个ZFS阵列,能清晰地进行数据校验并看到结果,于是正好分析了一下原因。

对这种情况来说,这里首先要引入一个一般人不常接触到的概念:

BER 硬盘误码率,英文是BER(Bit Error Rate),是描述硬盘性能的一个非常重要的参数,是衡量硬盘出错可能性的一个参数。

这个参数代表你写入硬盘的数据,在读取时遇到 不可修复的读错误的概率。

(不能恢复的ECC读取错误)从统计角度来说也比较少见,一般来说是指读取多少位后会出现一次读取错误。

随着硬盘容量增加,驱动器读取数据的误读率就会增加,而硬盘容量暴涨,误码率的比例一直保持相对增加。一个1TB的驱动器是需要更多读取整个驱动器,这是在RAID重建期间发生错误的概率会比300G 驱动器遇到错误的几率大。
那这个错误的几率到底有多大呢?或者说,我们写入多少GB数据,才会遇到1byte的读取错误呢?

对于不同类型的硬盘(以前企业级、服务器、数据中心级硬盘用SCSI/光纤,商用、民用级别是IDE;现在对应的则是SAS/SATA;
他们的MRBF(平均无故障时间)是接近的,但是BER便宜的SATA硬盘要比昂贵的SCSI硬盘的误码率(BER)要高得多。
也就是说,出现某个sector无法读取的情况,SATA要比SCSI严重得多。
这两种硬盘(企业级的SCSI/ FC/ SAS 磁盘)/(商用/民用级的IDE/SATA)BER的差距大概是1-2个数量级。

按照文中的计算,一个1TB的硬盘,通常你无法读取所有sector的概率达到了56%,因此你用便宜的大容量SATA盘,在出现硬盘故障的情况下重建RAID的希望是:无法实现。

我们回到RAID5的情况来。
在RAID5大行其道之初,硬盘的容量基本不超过100GB.

在过去,做RAID5一般RAID的磁盘容量都不大,比如72GB。无法恢复一个RAID的概率按照文献是1.1%(注意,1.1%已经很不错了,因为你在硬盘故障之后,才需要去恢复RAID。两个概率是要相乘的。

当硬盘容量上升到200GB,假设出现故障的概率是线性增长的[1]。那么失败率有11%,估计负责存储的人就被老板操的厉害了。

但是56%,也就是你用1TB的SATA硬盘做RAID5的话,当你遇到一个硬盘失效的情况,几乎剩下的两个以上硬盘(RAID5最少组合是3个)铁定会遇到一个硬盘读取错误,从而重建失败。

所以,以前小硬盘做RAID5,基本很少遇到同时挂掉两个盘的情况;现在硬盘大了,出问题的概率也越来越大了。

有人会问:56%?
文章里面这个数据还是显得有些“不可信”。大概是因为下面两个原因,我们才没有怎么听说过这么高的BER吧。

首先,我们自己用的硬盘都不会跑RAID。虽然现在我们自己的硬盘容量也变得很大(现在主流台式机SATA硬盘应该就是500G),但是这个量级的硬盘上,你往往不会把500G硬盘全部写满;而大多数数据你都很少去读取它。因此从概率上讲,坏道出现在那些没卵味的电影和音乐上的可能性大很多:大多数电影和音乐都没卵味。

但是对于跑RAID的用户,对整个硬盘进行读取的事情经常发生。即使系统足够和谐,知道不对你报告那些出现在你从不读取的文件中的坏道,但是也只是略过了报告这一步:它还是会找到所有的坏道,56%就来了。

其次,虽然你丢了一些sector,一般情况下也没啥关系。还是以电影和音乐为例,大多数的压缩算法都从设计上允许有一些这样或者那样的误码。丢了几个sector的数据,也许对你来说就是松岛枫身上一些无名的马赛克而已,你都不知道是硬盘作祟。

现在还有所谓的监控专用企业级SATA,其原理就是在固件上做手脚,让硬盘即使遇到写入的数据读取错误,也不管三七二十一直接跳过,不再重试读取(标准硬盘的读取方式是遇到某个扇区CRC错误自动重新再去读,直到读到正确的数据为止)。这对监控数据来说是理所当然的(大多数监控的硬盘都是在不停地写入,但是很少需要读取),除非遇到出现问题需要重现影像时。
遇到这种情况概率是很低地,我手头的数十个十六路硬盘摄像机,镜头也过百个,基本上几个月才需要用到回放一次,而即使需要回放,也只需要其中的很小一部分数据(比如某几个摄像头,某一天中一个小时的录像)。
但是拿这种硬盘来做RAID5就更糟糕了,当RAID5重建需要数据百分百正确时,你压根不可能读到正确的数据。

我们继续来看今天的测试数据:
我用FreeBSD 的RAIDZ软阵列创建了一个6X1TB硬盘的RAID5。当然,我没有硬盘损坏,这六个硬盘都是好的;
但是我们不管这个,这里用RAIDZ的原因是RAIDZ有数据巡检(scrub)功能,然后又能直观地看到数据巡检的结果。
一般的硬件阵列卡,也就是插在主板PCI/PCIX/PCIE/或者主板集成的RAID5,压根就没这项功能;
企业级的数据存储,也只有到盘阵级别(比如IBM DS3000/4000/5000,DELL MD3000….etc)才有这类功能,但是你也看不到检查的结果,最多能在日志里看到某个硬盘CRC失败,然后跳红灯掉出来,阵列柜告警通知你换硬盘。你别想知道这个硬盘到底是彻底挂了呢,还是有读取错误,还是有坏道。。。总之两眼一抹黑。
ZFS的好处之一就在这里了:你在命令行打个 zpool scrub tank (tank就是你创建的raid的名字),它就开工忠实地开始巡检整个阵列了,读取上面的每个字节数据,并与当初写入时的md5值进行比较,发现错误的话就报告,并尝试用冗余数据修复。这个过程是后台进行的,并且用户可以直观地看到巡检的进度、速度/所需时间以及结果。

1|  scan: scrub in progress since Tue Jan 10 16:19:26 2012
2|       4.67T scanned out of 5.02T at 332M/s, 0h18m to go
3|        620K repaired, 92.88% done
4|config:
5|
6|        NAME             STATE     READ WRITE CKSUM
7|        ftp              ONLINE       0     0     0
8|          raidz1-0       ONLINE       0     0     0
9|            mfisyspd0p3  ONLINE       0     0     3  (repairing)
            mfisyspd5p3  ONLINE       0     0     6  (repairing)
            mfisyspd1p3  ONLINE       0     0     2  (repairing)
            mfisyspd4p3  ONLINE       0     0     8  (repairing)
            mfisyspd2p3  ONLINE       0     0     2  (repairing)
            mfisyspd3p3  ONLINE       0     0     3  (repairing)

errors: No known data errors

哦,我来解释一下上面的数据的意思。为了方便起见,我在前面编了1-9行号。
第二行,数据量/阵列容量,剩余时间。因为是测试,我非常BT地把阵列几乎塞满了数据;
第三行:读取错误数据量//巡检进度;

7,8,就是阵列状态,
第9行以后是6个硬盘的编号和状态。
大家要注意的是第9行开始以后6行的最后一列,也就是提示repairing括号前的CKSUM数据。
看到墨有?有墨有?有墨有?

每个硬盘都出现了数量不等的读取错误,最少两个盘各两个;最多一个盘8个。

OK。经过整整四个多小时的扫描后,我们的阵列数据修复了620K。
这些数据才刚写进去没过多久,最早的数据也没有超过一周。

scan: scrub repaired 620K in 4h25m with 0 errors on Tue Jan 10 20:45:12 2012
config:

        NAME             STATE     READ WRITE CKSUM
        ftp              ONLINE       0     0     0
          raidz1-0       ONLINE       0     0     0
            mfisyspd0p3  ONLINE       0     0     3
            mfisyspd5p3  ONLINE       0     0     6
            mfisyspd1p3  ONLINE       0     0     2
            mfisyspd4p3  ONLINE       0     0     8
            mfisyspd2p3  ONLINE       0     0     2
            mfisyspd3p3  ONLINE       0     0     3

但是这个修复的原因是RAID5,并且每个硬盘都是好的状态,有提供足够的CRC冗余。

你别小看这620K——当你的RAID5挂掉了一个盘(根据MTBF原理,你如果有50个硬盘,每年都可能损坏至少一个);

这620K数据就是致命的了:
剩下的5个硬盘,已经无法提供足够的CRC校验数据;除非每个字节都能被顺利读取,否则这个RAID5算是废了,
只要有1个扇区错误,你就算用一个全新的硬盘替换掉那个挂掉的硬盘,也无法顺利重建RAID5。
对于市面上常见的阵列卡,直接的后果就是,在用热备盘重建时,或者甚至尚未开始重建
(RAID5没有热备又没有及时发现硬盘挂掉,或者手头、仓库没有冷备盘,采购途中等)RAID5带病运行时,
需要读取数据,偏偏又很不巧读到那个该死的BER扇区,于是BER扇区所在的硬盘直接跳掉。。。又红了。。。。。

嗯嗯,以上数据已经解释了RAID5往往一次挂两个的原因——不是用户RP问题,从BER 角度来说,是硬盘其实早坏鸟,我们没发现而已。当某个硬盘因为MTBF原因整个挂掉,有问题的BER 扇区开始跳出来作梗,于是RAID5就完蛋鸟。

我们也能总结遇到RAID5一次挂掉俩盘的概率:

1. 使用越大容量的硬盘做RAID5,遇到BER 扇区的概率越大;比如用100G硬盘做RAID5就比用1TB的安全;
2. 使用越多盘数的硬盘做RAID5,遇到BER 扇区的概率越大;比如用3个盘做的RAID5,比6个盘做的RAID5安全;
3. 使用越便宜的硬盘做RAID5,遇到BER 扇区的概率越大;比如用SCSI/FC/SAS盘比用IDE/SATA的RAID5安全;
4. RAID5里面存放的数据越多,塞得越满,遇到BER 扇区的概率越大;比如存了100G数据的比存了1TB数据的RAID5安全;

第四条同时也要看阵列卡,某些卡REBUID时只读取存过数据的扇区,某些卡则不管三七二十一要读完整个盘。

从数据角度来说,ZFS软阵列此时有它独特的优势:即使存在BER扇区,它也能跳过坏扇区继续读取其他数据,从而将损失控制在最小范围内(仅仅是BER扇区所在的文件有问题,而不会整个阵列挂掉)

比如这个例子:

scan: scrub repaired 0 in 9h0m with 4768 errors on Thu Sep 8 08:23:00 2011
config:

NAME STATE READ WRITE CKSUM
ftp ONLINE 0 0 39
da2 ONLINE 0 0 156

errors: Permanent errors have been detected in the following files:

ftp:<0x7ef04>
ftp:<0x7ef11>
ftp:<0x7ef12>
ftp:<0x7ee1a>
ftp:<0x7ef31>
ftp:<0x7ef42>
ftp:<0x7ee57>
ftp:<0x7ef5e>
ftp:<0x7ef6d>
ftp:<0x7ee70>
ftp:<0x7ee71>
ftp:<0x7ef71>
ftp:<0x7ee87>

10TB的分区,巡检后发现156个错误,但是损失仅仅是13个文件。
而且能指出这13个文件的位置及文件名,并且这13个文件也不是完全不能读取,仅仅是某些字节损坏而已。

也许这13个文件中有些是影音、图像,损失几个字节无伤大雅;也许是其他地方另有备份,可以重新复制过来;也许是某些系统文件,只需重装软件或系统即可恢复,总之,用了zfs 后损失可以控制在能容忍的范围内,这就是zfs软件阵列的优势了。

顺便鼓吹一下,zpool scrub 命令可以定期执行哦,比如每隔1-2周的周六晚上开始运行,自动检查并修复错误。这种数据自动巡检功能我从来没有在任何插卡式或者板载阵列卡上见到过,只有阵列柜级别的存储设备上才有,而且巡检报告也没有精确到文件级别这种程度。

如果用了硬件阵列卡,这个就悲剧了。。。。啥都没有。


OK,原因已经分析了,经验也总结过了,
最后一节:怎么做?

我是下载狂,一定要要放很多数据,数据量以TB计,即将突破三位数;
又是穷人,花不起很多钱,只能用最便宜的SATA盘,最好是最便宜又大碗的西数绿盘;
技术有差距啊,折腾不起ZFS;
胆子又小,担惊受怕不起,看完这篇文章,想到自己RAID里的数据随时会全部莫有,晚上睡觉都睡不着,伤不起啊肿摸办?

解决方案1. 对于不重要的大量数据,比如可以下载来的影音数据,不要做阵列。直接用单盘,每个盘放一批数据。

数据量大到一定程度,目前来说凡是总量在2TB以上的SATA阵列,如果你做了RAID5,不仅数据没保障,万一坏掉一个盘,你有50%以上的概率同时掉第二个盘,那是一定毛都不剩一根。
运气好的话,可以通过让第二个挂掉的硬盘强行上线的方式勉强恢复阵列运行,你也必须有同等容量的空间让你腾挪数据;
不要说这个数据量的备用空间一般不会有,就算有,来回折腾一次所需要耗费的时间足够让你一个礼拜没个安耽觉睡。
有人说不会啊,我这个RAID5读取有300MB/s呢,2TB数据只要两个小时。
那是你平时——RAID5缺盘运行时,性能大概只有平时的1/10-1/20,外加上肯定有读不过去的文件需要跳过。。。。再加上读不过去会掉盘,
又要重启重新强制上线——这样的事件还不止一次,按照前面的测试,6个1T盘一共遇到24个读取错误,也就是你备份的进度得熄火24次——这些事儿堆一块儿,如果不是一个心理素质非常好的,处理过N起类似事件经验的数据中心老油子,对于第一次遇到这种情况的新手绝对是噩梦般的经历。

解决方案2. 做RAID1阵列。对于重要的、并且经常变动更新数据,比如财务数据、照片、文档资料,建议用RAID1。
RAID1多花了一个盘,但是多了一道保障。

解决方案3:光磁介质冷备份。通常我们叫做刻盘,呵呵。或者硬盘冷备——我两个硬盘各复制一份,拔掉一个硬盘放抽屉里,最适合照片之类数据。

解决方案4:RAID6。不过这个需要高级别的RAID卡支持,这个卡通常会很贵,至少贵出1-2个1TB盘的价值;
同等容量还要多加一个硬盘,个人觉得在6个硬盘以内,相对RAID1的方案没有优势。既没有经济优势,又没有性能优势——啥都没有,不如老老实实做RAID1。
优点当然有咯:即使遇到挂一个盘,它还算是一个RAID5——性能没有大减,数据也还有冗余,我慢慢等硬盘保修回来即可。
注意哦,6个1T以上盘。也就是说,你的硬盘总容量少于这个数字,还是不用考虑RAID6了。

假设Raid5的阵列由多块硬盘组成,运行3年了,每天24小时工作,运行这么久硬盘或多或少会有些成长坏道,如果一块硬盘坏了,更换了新硬盘,Rebuild时,其他硬盘的成长坏道将导致Rebuild失败,故有作者”第二块盘坏掉的几率大于70%”一说,实质是疏于管理造成的.

自从几个月前吃了亏之后,我格外关注公司几台服务器的Raid的健康状况.这两个月陆续更换了4块存在坏道的硬盘(这些硬盘的使用时间大约是3年多),避免了阵列损坏.
我的做法就是抓取Raid阵列卡的日志,查看阵列的”巡读日志”和硬盘的”Midea Error”数量,及时更换存在隐患的硬盘.

而且我个人认为hotspare也不是很保险,不能依赖,还是重在管理.

同和君的资源宝库(1)

教程

www.ghostxx.com此网站包含大部分主流设计类软件教程,因为是个人网站收集不易会有一个一元支持后边就可以享受所有免费资源下载,也有部分资源需要单独购买。适合新老玩家体验!

一些神奇的网站

下载各种视频(包括但不限于YouTube)网址是:urlgot.com单独下载YouTube视https://www.clipconverter.cc/也可使用软件Videoer下载各种付费音乐(低音质128K)http://music.bbbbbb.me/高音质目前尚未找到非常方便的方法,可以用Pandownload软件的搜索功能直接搜索歌名+flac软件下载地址http://pandownload.com/拿YouTube视频封面(有时候需要梯子)http://www.get-youtube-thumbnail.com/https://www.toolnb.com/ 爱资源工具网站http://www.1ppt.com/ PPT模板http://www.9178.work/ 一个搜索引擎http://www.nyaso.com/ 动漫资源用ai生成你的声音地址http://lyrebird.ai/一些可以白嫖资源的:书生、新cg儿、爱给网还有lookae

古风素材

链接:https://pan.baidu.com/s/1PdUyAH0WjSgrmCRjZZOdsg提取码: 010o

16000个Motion B素材

链接:https://pan.baidu.com/s/1HINj_3u9Dw2gs3gMSz_MCg 提取码:4hwY

AE超级特效面板Action拓展包

Real面板,已上传百度云,链接:https://pan.baidu.com/s/1HMShk94Sufvmc_wmuisBMw提取码: q7pq原下载地址:https://gumroad.com/d/7862a5c3d2c3a840840600a191975f5d

一些片头模板

蓝色烟雾星座连线中的字幕展示AE模板链接:https://pan.baidu.com/s/1OeLWuVe5FwkyowKyX_WWkg提取码: aset星空标题开场链接:https://pan.baidu.com/s/1Puxvw5r4Gey1OGUdvhtHVA提取码: i4v7宇宙地球主题标题链接:https://pan.baidu.com/s/1D91Y802misaJNkgbA9cC2A提取码: yd5m玻璃质感logo揭示效果链接:https://pan.baidu.com/s/1gnRG4J2H0e3i9v14jIHSQg提取码: gh7y

一些特效包,有ae插件

链接:https://pan.baidu.com/s/1eNpTXs5xBqUMSKvXRD3hPQ提取码: c655

杂乱的一些资源

达芬奇调色链接:https://pan.baidu.com/s/1rEAHJnGUcEB4AI92XBlSEA密码:1ci0罗伯特xpresso教程链接:https://pan.baidu.com/s/11m4t4A0MaSOYa_qR32GEvQ密码:1yf4c++程序语言设计链接:https://pan.baidu.com/s/1Bs3II_dSQLkWZ7cubf9shQ密码:68jcaec4d水墨样片参考链接:https://pan.baidu.com/s/1JT6i2EPf6tuFhbQI_U9qNg密码:faeetv栏包设计教程链接:https://pan.baidu.com/s/1Mq2pq8qCN0yb_T98erM0-A密码:3698X—particles 小样链接:https://pan.baidu.com/s/1V4eH4IlYLj1_MyCAKiSDZA密码:9n53三幸(实习设计师) 2018/12/8 13:58:41个人简历模板链接:https://pan.baidu.com/s/1zALS-kFdoBX6uZiRDeJOQA提取码:4267oc渲染器链接:https://pan.baidu.com/s/1Mc7Py7mrE4ztKeO1X7IVpA提取码:4c5q映速66套案例链接:https://pan.baidu.com/s/1MOLLOz0mXwpw2uvOfcwB5Q提取码:7b04何超达芬奇链接:https://pan.baidu.com/s/1PyL8kR9RIgh4fUtQnPRaNQ提取码:a2pdc4d灯光材质链接:https://pan.baidu.com/s/1UO2mJ_RJLQsfGB4HbcbVpg提取码:k6ttC4D常用插件安装包合集4.0:https://mp.weixin.qq.com/s/d6_8LAgZKx_tOEKxlDuBuwRED(红巨人)插件套装2.2支持2018版https://mp.weixin.qq.com/s/An67E7QPWdxw2uo0L2NKcgVideoCopilot插件合集中文版3.1:https://mp.weixin.qq.com/s/PVwM6lLNfLIw6c2t_GyqpAC4D R20链接:https://pan.baidu.com/s/1hNF53EbFQ-ur5zTCKiyCyw 密码:u9kg 5500PPT模板链接:https://pan.baidu.com/s/1wtI1JjwOUup_5OyLiK1B4Q 密码:7yho 80款常用AE插件脚本链接:https://pan.baidu.com/s/1KiTUr2s3Yd6jb8Oam7-LHA 密码:h3cd C4D建模宝典全套链接:https://pan.baidu.com/s/1odtxkPEs9UfSeZoKARodSA 密码:g2mv OC渲染教程链接:https://pan.baidu.com/s/1RfjplWPGmXmpA1VaCHNWYg 密码:7wv6 RS渲染教程链接:https://pan.baidu.com/s/1j27q6t5RcvTjFIRBsGF2tA 密码:8nqt管理员:溢自成花 资源宝库日语学习链接:https://pan.baidu.com/s/11wtBrYN4EbeunsxQI8v9xQ密码:xbjb喜剧综艺节目音效链接:https://pan.baidu.com/s/1FDaATyoHgi_mLp5z6c7KUQ密码:4im7手机游戏综艺场景音效链接:https://pan.baidu.com/s/1rO8s1AnHtx6h0M7uBDrPRg密码:l6iyEdius教程链接:https://pan.baidu.com/s/1fuC6L_gBderZj8x7cEf-1g密码:6wj4编曲混音音频插件汇总链接:https://pan.baidu.com/s/1w0pnz3wEA_1IT3E0ZLpJHA密码:2qsqVEgas16链接:https://pan.baidu.com/s/1aN_aun2HAxGHG-fvO2XwZg密码:ongw80个PR无缝转场链接:https://pan.baidu.com/s/13fmdDLRVnhoeSs5x7gMzNA密码:addm1850种动态元素AE插件链接:https://pan.baidu.com/s/1Bw7aSen8vNkD7svaAtJAuw密码:725n唯美美食摄影教程链接:https://pan.baidu.com/s/1C2RWh-UtNeYxEyuMMrUV-Q密码:mejd30款标题字幕条Pr模板链接:https://pan.baidu.com/s/1gtLQXO53H4_D5IPcgRj6Bw密码:hbf33000组4K AE Pr图形遮罩转场链接:https://pan.baidu.com/s/1vngzsL6Yv1UXU5dUsZLsaQ密码:had6Looks调色插件链接:https://pan.baidu.com/s/1JQamTzbMNZr7Sdx1Blb5sQ密码:mxvu链接:https://pan.baidu.com/s/1407Pep_xJgQAZtGWuZ6RFA?密码:14j2 csp漫画软件链接:https://pan.baidu.com/s/1SSB-__Po7Ojrc5699U7LeQ?密码:g4f9 Pr现代流行文字标题动画链接:https://pan.baidu.com/s/1ZOZI9vq_w4R9itNDrBNrzg?密码:her6 1000组Ae字幕模板链接:https://pan.baidu.com/s/1ruRq40UDb3co5mGYjJ1FZA?密码:ld9w 用镜头讲故事链接:https://pan.baidu.com/s/1Txp5uzp4N-7Si3raJ8Yq2Q?密码:4c66 Pr遮罩转场mov链接:https://pan.baidu.com/s/1WOobUsF0SogKYaAXsbgODQ?密码:g2av 网红摄影修图课程AE超级特效面板::https://pan.baidu.com/s/1Gpz-gGYqJgEgFXEfqq3noQ?密码:5qci@糖炒腌豆角手机摄影教程:https://pan.baidu.com/s/1Svqj_4jbnKuAHfKK3JKPPg?密码:hl8t @西木野飞姬AudioJungle超大音乐素材资源包:https://pan.baidu.com/s/1boHsWnd密码: d7tv @-Acivii-AK大神AE教程:https://pan.baidu.com/s/1pLoRZAV密码:my3x @FI-自由好莱坞Lut:链接:https://pan.baidu.com/s/1JdOy0GTkmcQnyRcvIx72PQ?密码:vp5k @瞳力视觉摄影系列教程:链接:https://pan.baidu.com/s/1AZxQa_UbQZx7-dudgintxQ?密码:hx9k @瞳力视觉思维客8000元礼包:链接:https://pan.baidu.com/s/1vNQhxxLUVVeYYGJpezGhFg密码: sejy@木易天阳Adobe CC Family (CC 2018) 大师版下载地址:https://pan.baidu.com/s/1dio1Z4密码:w7i4加速渲染插件:链接:https://pan.baidu.com/s/1hF3Hw86u5nj3SR8k4e5BEA?密码:5j22@咸鱼链接:https://pan.baidu.com/s/1wqg6y7EkeSX86znr9VASwQ?密码:005y 字体设计教程链接:https://pan.baidu.com/s/1P2FAF0peIDAr7pCFNCU2YA?密码:k88l 配色提取工具@糖炒腌豆角链接:https://pan.baidu.com/s/1WkPrAx3uZK2aMjk355TTyA?密码:c47k 自由职业摄影师链接:https://pan.baidu.com/s/1tSBoNADq20qYXd-2j9Q90g?密码:67mr 新媒体视频导演@西木野飞姬链接:https://pan.baidu.com/s/1H3k3lDlMz24Lc2Rw9dps2Q?密码:0ai5 CG资源PR转场预设:https://pan.baidu.com/s/12bZDf5z9cFLTfmt8kGJVTQ密码:sbxx (源自淘宝)*****************漫画教程:https://pan.baidu.com/s/1AjFLzgnP4DsdLnvECSAyTQ度盘破解:https://pan.baidu.com/s/1tPSs27NlUqgquMfVL7-4Aw密码:7m1a*****************PS素材https://pan.baidu.com/s/1GJ_PlpX5kVzp3AFvSCBllw密码: hsji话说最近好像大家都没人给我私发资源分享链接了,是因为都分享完了吗?大家有资源想在群分享的记得私发我哦~!老是我自己发有点寂寞的说。。。。158组故障转场音效:链接:https://pan.baidu.com/s/1EopkZDuFIp9udKPv4ot_Rg密码:yq485000+组LUT调色预设集合:链接:https://pan.baidu.com/s/1-7K_IDkPbOpMd7GOYXz6iw密码:7acr灯光/故障/粒子等等素材包:链接:https://pan.baidu.com/s/1ZUd2f3e_6H7S3GXjeP1xBw密码:reaf雅思资料包:链接:https://pan.baidu.com/s/1_imHFKQUXuf8_cWXncZ-oA密码: kykk实拍素材链接:https://pan.baidu.com/s/1UzK2zS-naN4huf0PKg3CAA 密码:0119 @飞机【白无常】C4D视频教程1+2+5期3套(3套)75.82GB链接:https://pan.baidu.com/s/1fsfJRAro5ftHqHQ7PHbLWA 密码:b499Ae模板310组Mg扁平化形状元素视频转场预设集链接:https://pan.baidu.com/s/1-Os8VJg3Pfa8oNpSTmMl_A 密码:x2qE212组LUT预设链接:https://pan.baidu.com/s/1slnk0oW4O6tjhkE3UC33yw 密码:1V46DaVinci Resolve12达芬奇色彩分级基础核心训练视频教程链接:https://pan.baidu.com/s/1Lq6wekO8TzcsD7geqFOYlA 密码:y39CAe模板+Mg动画脚本+C4D插件大全+教程+各种素材资源等等很多种类软件的东西(大家自己点开链接自己挑着存吧)因为此链接发在群公告会挂,所以已上传群文件,txt文档@秋人21.29GB的配乐素材库(超级多,什么类型也有,必须收藏)https://pan.baidu.com/s/1SCQwxzF1ajfluUgZUcUsRw@UP主-Acivii-5.57GB的古风素材包(残破字体/武侠片里的各种音效/水墨山水视频素材/樱花笔刷)https://pan.baidu.com/s/1mO-x4TycjXPBLFIDAFGdjA@UP主-Acivii-AE2018中文字体渲染BUG修复Dictionarieshttps://pan.baidu.com/s/15u8Kj5jHumnvdMJX0yrFJw@来自百度云群的不知道谁的=-=抱歉《UP在淘宝买的及赠品资源》1500设计师必备字体链接:https://pan.baidu.com/s/1o7IwW5s密码: mmpb800款字体包合集链接:http://pan.baidu.com/s/1hr4ZJJA密码:19f8——–以下为群成员分享———-《字体资源》 链接:https://pan.baidu.com/s/1NHFogPWfymj2pijr7gK7cA密码:0xy4 《pr教程+摄影教程》链接:https://pan.baidu.com/s/1-rYyoOZVV5tvb3Wqd_Cb1w密码:11Q7 《简历模板》链接:https://pan.baidu.com/s/1UH9xlq2mmErKh0vtgRyifA密码:X08jAe模板+Mg动画脚本+C4D插件大全+教程+各种素材资源等等很多种类(大家自己点开链接自己挑着存吧)链接:https://pan.baidu.com/s/134PyzdwnxH6FEwo-aPcSLw 密码:4m79@秋人21.29GB的配乐素材库(超级多,什么类型也有,必须收藏)https://pan.baidu.com/s/1SCQwxzF1ajfluUgZUcUsRw@UP主-Acivii-5.57GB的古风素材包(残破字体/武侠片里的各种音效/水墨山水视频素材/樱花笔刷)https://pan.baidu.com/s/1mO-x4TycjXPBLFIDAFGdjA@UP主-Acivii-AE2018中文字体渲染BUG修复Dictionarieshttps://pan.baidu.com/s/15u8Kj5jHumnvdMJX0yrFJw@来自百度云群的不知道谁的=-=抱歉2000张背景图片素材链接:http://pan.baidu.com/s/1eR4IhzG密码:qmft30000份PPT模板多精品压缩版有预览图链接:https://pan.baidu.com/s/1hsOqztU密码:wyz5 分享成员:@恋あ伊人—500套国外AE模板/AECC完整版及插件/15G字体库/百度网盘链接:http://pan.baidu.com/s/1i33UL4D密码: gtbv分享成员:@你们的群主大大宇宙超级无敌霹雳up小天使—PS的素材链接:https://pan.baidu.com/s/1cyWUuUn1MIJTqjmxC_9HSQ密码:9gul 分享成员:@beautiful boy—25组镜头光晕特效Lens Flair全高清素材1080P链接:https://pan.baidu.com/s/1buA0haJOawVro5SoMDh6hA密码:z08p综艺字幕模版:https://pan.baidu.com/s/1tRU8cGSce5wh_2Xp3qFfGgMG动画素材大礼包:https://pan.baidu.com/s/1eg5S1HBLZZ-toO2xXGYF8w设计师私藏字体包(日中英所有):https://pan.baidu.com/s/19F7QuJ-jutLHb2qmcuiQiQ水墨素材大礼包:https://pan.baidu.com/s/1v8nc6jmbuE9_nHQqCs8WigPS素材大礼包:https://pan.baidu.com/s/1gtg_nMl0wK4gVpQ_IcZlgAAudioJungle音乐:https://pan.baidu.com/s/1b4iqKp0OmtgAF3j9S9O28g124.48GMG动画素材:https://pan.baidu.com/s/13_F9hj5wvGPsQ3yDYSywwA各大综艺真人秀节目字幕AE模板:https://pan.baidu.com/s/1KmT1F_T5PCXZKoQU6tuFrgAdobe cc 2018 全家桶+破解机:https://pan.baidu.com/s/1TifzRvLoqXsPhfYwJ1dBzAAudioJungle大合集:https://pan.baidu.com/s/1nOgLcUYj_TypeMI3SCXFGAAE脚本750个扭曲变形摄像机色彩炫光信号干扰特效转场预设:https://pan.baidu.com/s/1gRa2R3MAPlGMzFfO_-vAYQ价值几万美元的6个系列字体合集(是英文的):https://pan.baidu.com/s/1FGt_4i1cFMuBDAZf_Iz0-g

一个故意不通过图灵测试的人工智能

重要:版权归属于原作者。
======================
内容翻译自http://waitbutwhy.com
原文地址:
The AI Revolution: Road to Superintelligence
The AI Revolution: Our Immortality or Extinction
转载请保留原文链接和翻译者 知乎 @谢熊猫君

=======================

人工智能很可能导致人类的永生或者灭绝,而这一切很可能在我们的有生之年发生。
上面这句话不是危言耸听,请耐心的看完本文再发表意见。这篇翻译稿翻译完一共三万五千字,我从上星期开始翻,熬了好几个夜才翻完,因为我觉得这篇东西非常有价值。希望你们能够耐心读完,读完后也许你的世界观都会被改变。

我们正站在变革的边缘,而这次变革将和人类的出现一般意义重大 – Vernor Vinge
如果你站在这里,你会是什么感觉?



看上去非常刺激吧?但是你要记住,当你真的站在时间的图表中的时候,你是看不到曲线的右边的,因为你是看不到未来的。所以你真实的感觉大概是这样的:

稀松平常。
——————————-


遥远的未来——就在眼前
想象一下坐时间机器回到1750年的地球,那个时代没有电,畅通通讯基本靠吼,交通主要靠动物拉着跑。你在那个时代邀请了一个叫老王的人到2015年来玩,顺便看看他对“未来”有什么感受。我们可能没有办法了解1750年的老王内心的感受——金属铁壳在宽敞的公路上飞驰,和太平洋另一头的人聊天,看几千公里外正在发生进行的体育比赛,观看一场发生于半个世纪前的演唱会,从口袋里掏出一个黑色长方形工具把眼前发生的事情记录下来,生成一个地图然后地图上有个蓝点告诉你现在的位置,一边看着地球另一边的人的脸一边聊天,以及其它各种各样的黑科技。别忘了,你还没跟他解释互联网、国际空间站、大型强子对撞机、核武器以及相对论。

这时候的老王会是什么体验?惊讶、震惊、脑洞大开这些词都太温顺了,我觉得老王很可能直接被吓尿了。

但是,如果老王回到了1750年,然后觉得被吓尿是个很囧的体验,于是他也想把别人吓尿来满足一下自己,那会发生什么?于是老王也回到了250年前的1500年,邀请生活在1500年的小李去1750年玩一下。小李可能会被250年后的很多东西震惊,但是至少他不会被吓尿。同样是250来年的时间,1750和2015年的差别,比1500年和1750年的差别,要大得多了。1500年的小李可能能学到很多神奇的物理知识,可能会惊讶于欧洲的帝国主义旅程,甚至对于世界地图的认知也会大大的改变,但是1500年的小李,看到1750年的交通、通讯等等,并不会被吓尿。

所以说,对于1750年的老王来说,要把人吓尿,他需要回到更古老的过去——比如回到公元前12000年,第一次农业革命之前。那个时候还没有城市,也还没有文明。一个来自狩猎采集时代的人类,只是当时众多物种中的一个罢了,来自那个时代的小赵看到1750年庞大的人类帝国,可以航行于海洋上的巨舰,居住在“室内”,无数的收藏品,神奇的知识和发现——他很有可能被吓尿。

小赵被吓尿后如果也想做同样的事情呢?如果他会到公元前24000年,找到那个时代的小钱,然后给他展示公元前12000年的生活会怎样呢。小钱大概会觉得小赵是吃饱了没事干——“这不跟我的生活差不多么,呵呵”。小赵如果要把人吓尿,可能要回到十万年前或者更久,然后用人类对火和语言的掌控来把对方吓尿。

所以,一个人去到未来,并且被吓尿,他们需要满足一个“吓尿单位”。满足吓尿单位所需的年代间隔是不一样的。在狩猎采集时代满足一个吓尿单位需要超过十万年,而工业革命后一个吓尿单位只要两百多年就能满足。

未来学家Ray Kurzweil把这种人类的加速发展称作加速回报定律(Law of Accelerating Returns)。之所以会发生这种规律,是因为一个更加发达的社会,能够继续发展的能力也更强,发展的速度也更快——这本就是更加发达的一个标准。19世纪的人们比15世纪的人们懂得多得多,所以19世纪的人发展起来的速度自然比15世纪的人更快。

即使放到更小的时间规模上,这个定律依然有效。著名电影《回到未来》中,生活在1985年的主角回到了1955年。当主角回到1955年的时候,他被电视刚出现时的新颖、便宜的物价、没人喜欢电吉他、俚语的不同而震惊。

但是如果这部电影发生在2015年,回到30年前的主角的震惊要比这大得多。一个2000年左右出生的人,回到一个没有个人电脑、互联网、手机的1985年,会比从1985年回到1955年的主角看到更大的区别。

这同样是因为加速回报定律。1985年-2015年的平均发展速度,要比1955年-1985年的平均发展速度要快,因为1985年的世界比1955年的更发达,起点更高,所以过去30年的变化要大过之前30年的变化。

进步越来越大,发生的越来越快,也就是说我们的未来会很有趣对吧?

未来学家Kurzweil认为整个20世纪100年的进步,按照2000年的速度只要20年就能达成——2000年的发展速度是20世纪平均发展速度的5倍。他认为2000年开始只要花14年就能达成整个20世纪一百年的进步,而之后2014年开始只要花7年(2021年),就能达到又一个20世纪一百年的进步。几十年之后,我们每年都能达成好几次相当于整个20世纪的发展,再往后,说不定每个月都能达成一次。按照加速回报定,Kurzweil认为人类在21世纪的进步将是20世纪的1000倍。

如果Kurzweil等人的想法是正确的,那2030年的世界可能就能把我们吓尿了——下一个吓尿单位可能只需要十几年,而2050年的世界会变得面目全非。



你可能觉得2050年的世界会变得面目全非这句话很可笑,但是这不是科幻,而是比你我聪明很多的科学家们相信的,而且从历史来看,也是逻辑上可以预测的。
那么为什么你会觉得“2050年的世界会变得面目全非” 这句话很可笑呢?有三个原因让你质疑对于未来的预测:

1. 我们对于历史的思考是线性的。当我们考虑未来35年的变化时,我们参照的是过去35年发生的事情。当我们考虑21世纪能产生的变化的时候,我们参考的是20世纪发生的变化。这就好像1750年的老王觉得1500年的小李在1750年能被吓尿一样。线性思考是本能的,但是但是考虑未来的时候我们应该指数地思考。一个聪明人不会把过去35年的发展作为未来35年的参考,而是会看到当下的发展速度,这样预测的会更准确一点。当然这样还是不够准确,想要更准确,你要想象发展的速度会越来越快。

2. 近期的历史很可能对人产生误导。首先,即使是坡度很高的指数曲线,只要你截取的部分够短,看起来也是很线性的,就好像你截取圆周的很小一块,看上去就是和直线差不多。其次,指数增长不是平滑统一的,发展常常遵循S曲线

S曲线发生在新范式传遍世界的时候,S曲线分三部分
– 慢速增长(指数增长初期)

– 快速增长(指数增长的快速增长期)

– 随着新范式的成熟而出现的平缓期

如果你只看近期的历史,你很可能看到的是S曲线的某一部分,而这部分可能不能说明发展究竟有多快速。1995-2007年是互联网爆炸发展的时候,微软、谷歌、脸书进入了公众视野,伴随着的是社交网络、手机的出现和普及、智能手机的出现和普及,这一段时间就是S曲线的快速增长期。2008-2015年发展没那么迅速,至少在技术领域是这样的。如果按照过去几年的发展速度来估计当下的发展速度,可能会错得离谱,因为很有可能下一个快速增长期正在萌芽。

3. 个人经验使得我们对于未来预期过于死板。我们通过自身的经验来产生世界观,而经验把发展的速度烙印在了我们脑中——“发展就是这么个速度的。”我们还会受限于自己的想象力,因为想象力通过过去的经验来组成对未来的预测——但是我们知道的东西是不足以帮助我们预测未来的。当我们听到一个和我们经验相违背的对于未来的预测时,我们就会觉得这个预测偏了。如果我现在跟你说你可以活到150岁,250岁,甚至会永生,你是不是觉得我在扯淡——“自古以来,所有人都是会死的。”是的,过去从来没有人永生过,但是飞机发明之前也没有人坐过飞机呀。

接下来的内容,你可能一边读一边心里“呵呵”,而且这些内容可能真的是错的。但是如果我们是真的从历史规律来进行逻辑思考的,我们的结论就应该是未来的几十年将发生比我们预期的多得多得多得多的变化。同样的逻辑也表明,如果人类这个地球上最发达的物种能够越走越快,总有一天,他们会迈出彻底改变“人类是什么”这一观点的一大步,就好像自然进化不不断朝着智能迈步,并且最终迈出一大步产生了人类,从而完全改变了其它所有生物的命运。如果你留心一下近来的科技进步的话,你会发现,到处都暗示着我们对于生命的认知将要被接下来的发展而彻底改变。


_______________
通往超级智能之路
人工智能是什么?
如果你一直以来把人工智能(AI)当做科幻小说,但是近来却不但听到很多正经人严肃的讨论这个问题,你可能也会困惑。这种困惑是有原因的:

1.我们总是把人工智能和电影想到一起。星球大战、终结者、2001:太空漫游等等。电影是虚构的,那些电影角色也是虚构的,所以我们总是觉得人工智能缺乏真实感。

2.人工智能是个很宽泛的话题。从手机上的计算器到无人驾驶汽车,到未来可能改变世界的重大变革,人工智能可以用来描述很多东西,所以人们会有疑惑。

3.我们日常生活中已经每天都在使用人工智能了,只是我们没意识到而已。John McCarthy,在1956年最早使用了人工智能(Artificial Intelligence)这个词。他总是抱怨“一旦一样东西用人工智能实现了,人们就不再叫它人工智能了。”

因为这种效应,所以人工智能听起来总让人觉得是未来的神秘存在,而不是身边已经存在的现实。同时,这种效应也让人们觉得人工智能是一个从未被实现过的流行理念。Kurzweil提到经常有人说人工智能在80年代就被遗弃了,这种说法就好像“互联网已经在21世纪初互联网泡沫爆炸时死去了”一般滑稽。



所以,让我们从头开始。


首先,不要一提到人工智能就想着机器人。机器人只是人工智能的容器,机器人有时候是人形,有时候不是,但是人工智能自身只是机器人体内的电脑。人工智能是大脑的话,机器人就是身体——而且这个身体不一定是必需的。比如说Siri背后的软件和数据是人工智能,Siri说话的声音是这个人工智能的人格化体现,但是Siri本身并没有机器人这个组成部分。

其次,你可能听过“奇点”或者“技术奇点”这种说法。这种说法在数学上用来描述类似渐进的情况,这种情况下通常的规律就不适用了。这种说法同样被用在物理上来描述无限小的高密度黑洞,同样是通常的规律不适用的情况。Kurzweil则把奇点定义为加速回报定律达到了极限,技术进步以近乎无限的速度发展,而奇点之后我们将在一个完全不同的世界生活的。但是当下的很多思考人工智能的人已经不再用奇点这个说法了,而且这种说法很容易把人弄混,所以本文也尽量少用。

最后,人工智能的概念很宽,所以人工智能也分很多种,我们按照人工智能的实力将其分成三大类。

弱人工智能Artificial Narrow Intelligence (ANI): 弱人工智能是擅长于单个方面的人工智能。比如有能战胜象棋世界冠军的人工智能,但是它只会下象棋,你要问它怎样更好地在硬盘上储存数据,它就不知道怎么回答你了。
强人工智能Artificial General Intelligence (AGI): 人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能,人类能干的脑力活它都能干。创造强人工智能比创造弱人工智能难得多,我们现在还做不到。Linda Gottfredson教授把智能定义为“一种宽泛的心理能力,能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类一样得心应手。
超人工智能Artificial Superintelligence (ASI): 牛津哲学家,知名人工智能思想家Nick Bostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多,包括科学创新、通识和社交技能。”超人工智能可以是各方面都比人类强一点,也可以是各方面都比人类强万亿倍的。超人工智能也正是为什么人工智能这个话题这么火热的缘故,同样也是为什么永生和灭绝这两个词会在本文中多次出现。


现在,人类已经掌握了弱人工智能。其实弱人工智能无处不在,人工智能革命是从弱人工智能,通过强人工智能,最终到达超人工智能的旅途。这段旅途中人类可能会生还下来,可能不会,但是无论如何,世界将变得完全不一样。
让我们来看看这个领域的思想家对于这个旅途是怎么看的,以及为什么人工智能革命可能比你想的要近得多。


我们现在的位置——充满了弱人工智能的世界

弱人工智能是在特定领域等同或者超过人类智能/效率的机器智能,一些常见的例子:


1:汽车上有很多的弱人工智能系统,从控制防抱死系统的电脑,到控制汽油注入参数的电脑。谷歌正在测试的无人驾驶车,就包括了很多弱人工智能,这些弱人工智能能够感知周围环境并作出反应。

2:你的手机也充满了弱人工智能系统。当你用地图软件导航,接受音乐电台推荐,查询明天的天气,和Siri聊天,以及其它很多很多应用,其实都是弱人工智能。

3:垃圾邮件过滤器是一种经典的弱人工智能——它一开始就加载了很多识别垃圾邮件的智能,并且它会学习并且根据你的使用而获得经验。智能室温调节也是一样,它能根据你的日常习惯来智能调节。

4:你在上网时候出现的各种其它电商网站的产品推荐,还有社交网站的好友推荐,这些都是弱人工智能的组成的,弱人工智能联网互相沟通,利用你的信息来进行推荐。网购时出现的“买这个商品的人还购买了”推荐,其实就是收集数百万用户行为然后产生信息来卖东西给你的弱人工智能。

5:谷歌翻译也是一种经典的人工智能——非常擅长单个领域。声音识别也是一种。很多软件利用这两种智能的合作,使得你能对着手机说中文,手机直接给你翻译成英文。

6:当飞机着陆时候,不是一个人类决定飞机该去那个登机口接驳。就好像你在网上买票时票据不是一个人类决定的。

7:世界最强的跳棋、象棋、拼字棋、双陆棋和黑白棋选手都是弱人工智能。

8:谷歌搜索是一个巨大的弱人工智能,背后是非常复杂的排序方法和内容检索。社交网络的新鲜事同样是这样。

9:这些还只是消费级产品的例子。军事、制造、金融(高频算法交易占到了美国股票交易的一半)等领域广泛运用各种复杂的弱人工智能。专业系统也有,比如帮助医生诊断疾病的系统,还有著名的IBM的华生,储存了大量事实数据,还能理解主持人的提问,在竞猜节目中能够战胜最厉害的参赛者。

现在的弱人工智能系统并不吓人。最糟糕的情况,无非是代码没写好,程序出故障,造成了单独的灾难,比如造成停电、核电站故障、金融市场崩盘等等。

虽然现在的弱人工智能没有威胁我们生存的能力,我们还是要怀着警惕的观点看待正在变得更加庞大和复杂的弱人工智能的生态。每一个弱人工智能的创新,都在给通往强人工智能和超人工智能的旅途添砖加瓦。用Aaron Saenz的观点,现在的弱人工智能,就是地球早期软泥中的氨基酸——没有动静的物质,突然之间就组成了生命。


弱人工智能到强人工智能之路

为什么这条路很难走

只有明白创造一个人类智能水平的电脑是多么不容易,才能让你真的理解人类的智能是多么不可思议。造摩天大楼、把人送入太空、明白宇宙大爆炸的细节——这些都比理解人类的大脑,并且创造个类似的东西要简单太多了。至今为止,人类的大脑是我们所知宇宙中最复杂的东西。
而且创造强人工智能的难处,并不是你本能认为的那些。

造一个能在瞬间算出十位数乘法的计算机——非常简单
造一个能分辨出一个动物是猫还是狗的计算机——极端困难
造一个能战胜世界象棋冠军的电脑——早就成功了
造一个能够读懂六岁小朋友的图片书中的文字,并且了解那些词汇意思的电脑——谷歌花了几十亿美元在做,还没做出来。
一些我们觉得困难的事情——微积分、金融市场策略、翻译等,对于电脑来说都太简单了
我们觉得容易的事情——视觉、动态、移动、直觉——对电脑来说太TM的难了。


用计算机科学家Donald Knuth的说法,“人工智能已经在几乎所有需要思考的领域超过了人类,但是在那些人类和其它动物不需要思考就能完成的事情上,还差得很远。”

读者应该能很快意识到,那些对我们来说很简单的事情,其实是很复杂的,它们看上去很简单,因为它们已经在动物进化的过程中经历了几亿年的优化了。当你举手拿一件东西的时候,你肩膀、手肘、手腕里的肌肉、肌腱和骨头,瞬间就进行了一组复杂的物理运作,这一切还配合着你的眼睛的运作,使得你的手能都在三维空间中进行直线运作。对你来说这一切轻而易举,因为在你脑中负责处理这些的“软件”已经很完美了。同样的,软件很难识别网站的验证码,不是因为软件太蠢,恰恰相反,是因为能够读懂验证码是件碉堡了的事情。

同样的,大数相乘、下棋等等,对于生物来说是很新的技能,我们还没有几亿年的世界来进化这些能力,所以电脑很轻易的就击败了我们。试想一下,如果让你写一个程序,是一个能做大数相乘的程序容易写,还是能够识别千千万万种字体和笔迹下书写的英文字母的程序难写?

比如看着下面这个图的时候,你和电脑都能识别出这是一个由两种颜色的小长方形组成的一个大长方形。



你和电脑打了个平手。接着我们把途中的黑色部分去除:

你可以轻易的描述图形中透明或不透明的圆柱和3D图形,但是电脑就看不出来了。电脑会描述出2D的阴影细节,但是人脑却能够把这些阴影所展现的深度、阴影混合、房屋灯光解读出来。

再看下面这张图,电脑看到的是黑白灰,我们看到的却是一块全黑的石头

而且,我们到现在谈的还是静态不变的信息。要想达到人类级别的智能,电脑必须要理解更高深的东西,比如微小的脸部表情变化,开心、放松、满足、满意、高兴这些类似情绪间的区别,以及为什么《布达佩斯大饭店》是好电影,而《富春山居图》是烂电影。
想想就很难吧?

我们要怎样才能达到这样的水平呢?

通往强人工智能的第一步:增加电脑处理速度

要达到强人工智能,肯定要满足的就是电脑硬件的运算能力。如果一个人工智能要像人脑一般聪明,它至少要能达到人脑的运算能力。

用来描述运算能力的单位叫作cps(calculations per second,每秒计算次数),要计算人脑的cps只要了解人脑中所有结构的最高cps,然后加起来就行了。

Kurzweil把对于一个结构的最大cps的专业估算,然后考虑这个结构占整个大脑的重量,做乘法,来得出人脑的cps。听起来不太靠谱,但是Kurzweil用了对于不同大脑区域的专业估算值,得出的最终结果都非常类似,是10^16 cps,也就是1亿亿次计算每秒。

现在最快的超级计算机,中国的天河二号,其实已经超过这个运算力了,天河每秒能进行3.4亿亿。当然,天河二号占地720平方米,耗电2400万瓦,耗费了3.9亿美元建造。广泛应用就不提了,即使是大部分商业或者工业运用也是很贵的。

Kurzweil认为考虑电脑的发展程度的标杆是看1000美元能买到多少cps,当1000美元能买到人脑级别的1亿亿运算能力的时候,强人工智能可能就是生活的一部分了。

摩尔定律认为全世界的电脑运算能力每两年就翻一倍,这一定律有历史数据所支持,这同样表明电脑硬件的发展和人类发展一样是指数级别的。我们用这个定律来衡量1000美元什么时候能买到1亿亿cps。现在1000美元能买到10万亿cps,和摩尔定律的历史预测相符合。


也就是说现在1000美元能买到的电脑已经强过了老鼠,并且达到了人脑千分之一的水平。听起来还是弱爆了,但是,让我们考虑一下,1985年的时候,同样的钱只能买到人脑万亿分之一的cps,1995年变成了十亿分之一,2005年是百万分之一,而2015年已经是千分之一了。按照这个速度,我们到2025年就能花1000美元买到可以和人脑运算速度抗衡的电脑了。

至少在硬件上,我们已经能够强人工智能了(中国的天河二号),而且十年以内,我们就能以低廉的价格买到能够支持强人工智能的电脑硬件。

但是运算能力并不能让电脑变得智能,下一个问题是,我们怎样利用这份运算能力来达成人类水平的智能。

通往强人工智能的第二步:让电脑变得智能

这一步比较难搞。事实上,没人知道该怎么搞——我们还停留在争论怎么让电脑分辨《富春山居图》是部烂片的阶段。但是,现在有一些策略,有可能会有效。下面是最常见的三种策略:
1) 抄袭人脑
就好像你班上有一个学霸。你不知道为什么学霸那么聪明,为什么考试每次都满分。虽然你也很努力的学习,但是你就是考的没有学霸好。最后你决定“老子不干了,我直接抄他的考试答案好了。”这种“抄袭”是有道理的,我们想要建造一个超级复杂的电脑,但是我们有人脑这个范本可以参考呀。

科学界正在努力逆向工程人脑,来理解生物进化是怎么造出这么个神奇的东西的,乐观的估计是我们在2030年之前能够完成这个任务。一旦这个成就达成,我们就能知道为什么人脑能够如此高效、快速的运行,并且能从中获得灵感来进行创新。一个电脑架构模拟人脑的例子就是人工神经网络。它是一个由晶体管作为“神经”组成的网络,晶体管和其它晶体管互相连接,有自己的输入、输出系统,而且什么都不知道——就像一个婴儿的大脑。接着它会通过做任务来自我学习,比如识别笔迹。最开始它的神经处理和猜测会是随机的,但是当它得到正确的回馈后,相关晶体管之间的连接就会被加强;如果它得到错误的回馈,连接就会变弱。经过一段时间的测试和回馈后,这个网络自身就会组成一个智能的神经路径,而处理这项任务的能力也得到了优化。人脑的学习是类似的过程,不过比这复杂一点,随着我们对大脑研究的深入,我们将会发现更好的组建神经连接的方法。

更加极端的“抄袭”方式是“整脑模拟”。具体来说就是把人脑切成很薄的片,用软件来准确的组建一个3D模型,然后把这个模型装在强力的电脑上。如果能做成,这台电脑就能做所有人脑能做的事情——只要让它学习和吸收信息就好了。如果做这事情的工程师够厉害的话,他们模拟出来的人脑甚至会有原本人脑的人格和记忆,电脑模拟出的人脑就会像原本的人脑一样——这就是非常符合人类标准的强人工智能,然后我们就能把它改造成一个更加厉害的超人工智能了。

我们离整脑模拟还有多远呢?至今为止,我们刚刚能够模拟1毫米长的扁虫的大脑,这个大脑含有302个神经元。人类的大脑有1000亿个神经元,听起来还差很远。但是要记住指数增长的威力——我们已经能模拟小虫子的大脑了,蚂蚁的大脑也不远了,接着就是老鼠的大脑,到那时模拟人类大脑就不是那么不现实的事情了。

2)模仿生物演化

抄学霸的答案当然是一种方法,但是如果学霸的答案太难抄了呢?那我们能不能学一下学霸备考的方法?

首先我们很确定的知道,建造一个和人脑一样强大的电脑是可能的——我们的大脑就是证据。如果大脑太难完全模拟,那么我们可以模拟演化出大脑的过程。事实上,就算我们真的能完全模拟大脑,结果也就好像照抄鸟类翅膀的拍动来造飞机一样——很多时候最好的设计机器的方式并不是照抄生物设计。

所以我们可不可以用模拟演化的方式来造强人工智能呢?这种方法叫作“基因算法”,它大概是这样的:建立一个反复运作的表现/评价过程,就好像生物通过生存这种方式来表现,并且以能否生养后代为评价一样。一组电脑将执行各种任务,最成功的将会“繁殖”,把各自的程序融合,产生新的电脑,而不成功的将会被剔除。经过多次的反复后。这个自然选择的过程将产生越来越强大的电脑。而这个方法的难点是建立一个自动化的评价和繁殖过程,使得整个流程能够自己运行。

这个方法的缺点也是很明显的,演化需要经过几十亿年的时间,而我们却只想花几十年时间。
但是比起自然演化来说,我们有很多优势。首先,自然演化是没有预知能力的,它是随机的——它产生的没用的变异比有用的变异多很多,但是人工模拟的演化可以控制过程,使其着重于有益的变化。其次,自然演化是没有目标的,自然演化出的智能也不是它目标,特定环境甚至对于更高的智能是不利的(因为高等智能消耗很多能源)。但是我们可以指挥演化的过程超更高智能的方向发展。再次,要产生智能,自然演化要先产生其它的附件,比如改良细胞产生能量的方法,但是我们完全可以用电力来代替这额外的负担。所以,人类主导的演化会比自然快很多很多,但是我们依然不清楚这些优势是否能使模拟演化成为可行的策略。

3)让电脑来解决这些问题

如果抄学霸的答案和模拟学霸备考的方法都走不通,那就干脆让考题自己解答自己吧。这种想法很无厘头,确实最有希望的一种。

总的思路是我们建造一个能进行两项任务的电脑——研究人工智能和修改自己的代码。这样它就不只能改进自己的架构了,我们直接把电脑变成了电脑科学家,提高电脑的智能就变成了电脑自己的任务。

以上这些都会很快发生

硬件的快速发展和软件的创新是同时发生的,强人工智能可能比我们预期的更早降临,因为:

1)指数级增长的开端可能像蜗牛漫步,但是后期会跑的非常快
2)软件的发展可能看起来很缓慢,但是一次顿悟,就能永远改变进步的速度。就好像在人类还信奉地心说的时候,科学家们没法计算宇宙的运作方式,但是日心说的发现让一切变得容易很多。创造一个能自我改进的电脑来说,对我们来说还很远,但是可能一个无意的变动,就能让现在的系统变得强大千倍,从而开启朝人类级别智能的冲刺。


强人工智能到超人工智能之路

总有一天,我们会造出和人类智能相当的强人工智能电脑,然后人类和电脑就会平等快乐的生活在一起。

呵呵,逗你呢。

即使是一个和人类智能完全一样,运算速度完全一样的强人工智能,也比人类有很多优势:

硬件上:

-速度。脑神经元的运算速度最多是200赫兹,今天的微处理器就能以2G赫兹,也就是神经元1000万倍的速度运行,而这比我们达成强人工智能需要的硬件还差远了。大脑的内部信息传播速度是每秒120米,电脑的信息传播速度是光速,差了好几个数量级。

– 容量和储存空间。人脑就那么大,后天没法把它变得更大,就算真的把它变得很大,每秒120米的信息传播速度也会成为巨大的瓶颈。电脑的物理大小可以非常随意,使得电脑能运用更多的硬件,更大的内存,长期有效的存储介质,不但容量大而且比人脑更准确。

– 可靠性和持久性。电脑的存储不但更加准确,而且晶体管比神经元更加精确,也更不容易萎缩(真的坏了也很好修)。人脑还很容易疲劳,但是电脑可以24小时不停的以峰值速度运作。

软件上来说:

– 可编辑性,升级性,以及更多的可能性。和人脑不同,电脑软件可以进行更多的升级和修正,并且很容易做测试。电脑的升级可以加强人脑比较弱势的领域——人脑的视觉元件很发达,但是工程元件就挺弱的。而电脑不但能在视觉元件上匹敌人类,在工程元件上也一样可以加强和优化。

– 集体能力。人类在集体智能上可以碾压所有的物种。从早期的语言和大型社区的形成,到文字和印刷的发明,再到互联网的普及。人类的集体智能是我们统治其它物种的重要原因之一。而电脑在这方面比我们要强的很多,一个运行特定程序的人工智能网络能够经常在全球范围内自我同步,这样一台电脑学到的东西会立刻被其它所有电脑学得。而且电脑集群可以共同执行同一个任务,因为异见、动力、自利这些人类特有的东西未必会出现在电脑身上。

通过自我改进来达成强人工智能的人工智能,会把“人类水平的智能”当作一个重要的里程碑,但是也就仅此而已了。它不会停留在这个里程碑上的。考虑到强人工智能之于人脑的种种优势,人工智能只会在“人类水平”这个节点做短暂的停留,然后就会开始大踏步向超人类级别的智能走去。
这一切发生的时候我们很可能被吓尿,因为从我们的角度来看 a)虽然动物的智能有区别,但是动物智能的共同特点是比人类低很多;b)我们眼中最聪明的人类要比最愚笨的人类要聪明很很很很多。

所以,当人工智能开始朝人类级别智能靠近时,我们看到的是它逐渐变得更加智能,就好像一个动物一般。然后,它突然达到了最愚笨的人类的程度,我们到时也许会感慨:“看这个人工智能就跟个脑残人类一样聪明,真可爱。”
但问题是,从智能的大局来看,人和人的智能的差别,比如从最愚笨的人类到爱因斯坦的差距,其实是不大的。所以当人工智能达到了脑残级别的智能后,它会很快变得比爱因斯坦更加聪明:


之后呢?

智能爆炸

从这边开始,这个话题要变得有点吓人了。我在这里要提醒大家,以下所说的都是大实话——是一大群受人尊敬的思想家和科学家关于未来的诚实的预测。你在下面读到什么离谱的东西的时候,要记得这些东西是比你我都聪明很多的人想出来的。
像上面所说的,我们当下用来达成强人工智能的模型大多数都依靠人工智能的自我改进。但是一旦它达到了强人工智能,即使算上那一小部分不是通过自我改进来达成强人工智能的系统,也会聪明到能够开始自我改进。
这里我们要引出一个沉重的概念——递归的自我改进。这个概念是这样的:一个运行在特定智能水平的人工智能,比如说脑残人类水平,有自我改进的机制。当它完成一次自我改进后,它比原来更加聪明了,我们假设它到了爱因斯坦水平。而这个时候它继续进行自我改进,然而现在它有了爱因斯坦水平的智能,所以这次改进会比上面一次更加容易,效果也更好。第二次的改进使得他比爱因斯坦还要聪明很多,让它接下来的改进进步更加明显。如此反复,这个强人工智能的智能水平越长越快,直到它达到了超人工智能的水平——这就是智能爆炸,也是加速回报定律的终极表现。

现在关于人工智能什么时候能达到人类普遍智能水平还有争议。对于数百位科学家的问卷调查显示他们认为强人工智能出现的中位年份是2040年——距今只有25年。这听起来可能没什么,但是要记住,很多这个领域的思想家认为从强人工智能到超人工智能的转化会快得多。以下的情景很可能会发生:一个人工智能系统花了几十年时间到达了人类脑残智能的水平,而当这个节点发生的时候,电脑对于世界的感知大概和一个四岁小孩一般;而在这节点后一个小时,电脑立马推导出了统一广义相对论和量子力学的物理学理论;而在这之后一个半小时,这个强人工智能变成了超人工智能,智能达到了普通人类的17万倍。

这个级别的超级智能不是我们能够理解的,就好像蜜蜂不会理解凯恩斯经济学一样。在我们的语言中,我们把130的智商叫作聪明,把85的智商叫作笨,但是我们不知道怎么形容12952的智商,人类语言中根本没这个概念。

但是我们知道的是,人类对于地球的统治教给我们一个道理——智能就是力量。也就是说,一个超人工智能,一旦被创造出来,将是地球有史以来最强大的东西,而所有生物,包括人类,都只能屈居其下——而这一切,有可能在未来几十年就发生。

想一下,如果我们的大脑能够发明Wifi,那么一个比我们聪明100倍、1000倍、甚至10亿倍的大脑说不定能够随时随地操纵这个世界所有原子的位置。那些在我们看来超自然的,只属于全能的上帝的能力,对于一个超人工智能来说可能就像按一下电灯开关那么简单。防止人类衰老,治疗各种不治之症,解决世界饥荒,甚至让人类永生,或者操纵气候来保护地球未来的什么,这一切都将变得可能。同样可能的是地球上所有生命的终结。

当一个超人工智能出生的时候,对我们来说就像一个全能的上帝降临地球一般。

这时候我们所关心的就是


文章的第一部分讨论了已经在我们日常生活中随处可见的弱人工智能,然后讨论了为什么从弱人工智能到强人工智能是个很大的挑战,然后我们谈到了为什么技术进步的指数级增长表面强人工智能可能并不那么遥远。第一部分的结束,我们谈到了一旦机器达到了人类级别的智能,我们将见到如下的场景:

这让我们无所适从,尤其考虑到超人工智能可能会发生在我们有生之年,我们都不知道该用什么表情来面对。

再我们继续深入这个话题之前,让我们提醒一下自己超级智能意味着什么。

很重要的一点是速度上的超级智能和质量上的超级智能的区别。很多人提到和人类一样聪明的超级智能的电脑,第一反应是它运算速度会非常非常快——就好像一个运算速度是人类百万倍的机器,能够用几分钟时间思考完人类几十年才能思考完的东西

这听起来碉堡了,而且超人工智能确实会比人类思考的快很多,但是真正的差别其实是在智能的质量而不是速度上。用人类来做比喻,人类之所以比猩猩智能很多,真正的差别并不是思考的速度,而是人类的大脑有一些独特而复杂的认知模块,这些模块让我们能够进行复杂的语言呈现、长期规划、或者抽象思考等等,而猩猩的脑子是做不来这些的。就算你把猩猩的脑子加速几千倍,它还是没有办法在人类的层次思考的,它依然不知道怎样用特定的工具来搭建精巧的模型——人类的很多认知能力是猩猩永远比不上的,你给猩猩再多的时间也不行

而且人和猩猩的智能差别不只是猩猩做不了我们能做的事情,而是猩猩的大脑根本不能理解这些事情的存在——猩猩可以理解人类是什么,也可以理解摩天大楼是什么,但是它不会理解摩天大楼是被人类造出来的,对于猩猩来说,摩天大楼那么巨大的东西肯定是天然的,句号。对于猩猩来说,它们不但自己造不出摩天大楼,它们甚至没法理解摩天大楼这东西能被任何东西造出来。而这一切差别,其实只是智能的质量中很小的差别造成的。

而当我们在讨论超人工智能时候,智能的范围是很广的,和这个范围比起来,人类和猩猩的智能差别是细微的。如果生物的认知能力是一个楼梯的话,不同生物在楼梯上的位置大概是这样的:

要理解一个具有超级智能的机器有多牛逼,让我们假设一个在上图的楼梯上站在深绿色台阶上的一个机器,它站的位置只比人类高两层,就好像人类比猩猩只高两层一样。这个机器只是稍微有点超级智能而已,但是它的认知能力之于人类,就好像人类的认知能力之于猩猩一样。就好像猩猩没有办法理解摩天大楼是能被造出来的一样,人类完全没有办法理解比人类高两层台阶的机器能做的事情。就算这个机器试图向我们解释,效果也会像教猩猩造摩天大楼一般。

而这,只是比我们高了两层台阶的智能罢了,站在这个楼梯顶层的智能之于人类,就好像人类之于蚂蚁一般——它就算花再多时间教人类一些最简单的东西,我们依然是学不会的。

但是我们讨论的超级智能并不是站在这个楼梯顶层,而是站在远远高于这个楼梯的地方。当智能爆炸发生时,它可能要花几年时间才能从猩猩那一层往上迈一步,但是这个步子会越迈越快,到后来可能几个小时就能迈一层,而当它超过人类十层台阶的时候,它可能开始跳着爬楼梯了——一秒钟爬四层台阶也未尝不可。所以让我们记住,当第一个到达人类智能水平的强人工智能出现后,我们将在很短的时间内面对一个站在下图这样很高很高的楼梯上的智能(甚至比这更高百万倍):

前面已经说了,试图去理解比我们高两层台阶的机器就已经是徒劳的,所以让我们很肯定的说,我们是没有办法知道超人工智能会做什么,也没有办法知道这些事情的后果。任何假装知道的人都没搞明白超级智能是怎么回事。

自然演化花了几亿年时间发展了生物大脑,按这种说法的话,一旦人类创造出一个超人工智能,我们就是在碾压自然演化了。当然,可能这也是自然演化的一部分——可能演化真正的模式就是创造出各种各样的智能,直到有一天有一个智能能够创造出超级智能,而这个节点就好像踩上了地雷的绊线一样,会造成全球范围的大爆炸,从而改变所有生物的命运。

科学界中大部分人认为踩上绊线不是会不会的问题,而是时间早晚的问题。想想真吓人。

那我们该怎么办呢?

可惜,没有人都告诉你踩到绊线后会发生什么。但是人工智能思想家Nick Bostrom认为我们会面临两类可能的结果——永生和灭绝。

首先,回顾历史,我们可以看到大部分的生命经历了这样的历程:物种出现,存在了一段时间,然后不可避免的跌落下生命的平衡木,跌入灭绝的深渊。

历史上来说,“所有生物终将灭绝”就像“所有人都会死”一样靠谱。至今为止,存在过的生物中99.9%都已经跌落了生命的平衡木,如果一个生物继续在平衡木上走,早晚会有一阵风把它吹下去。Bostrom把灭绝列为一种吸引态——所有生物都有坠入的风险,而一旦坠入将没有回头。

虽然大部分科学家都承认一个超人工智能有把人类灭绝的能力,也有一些人为如果运用得当,超人工智能可以帮助人类和其它物种,达到另一个吸引态——永生。Bostrom认为物种的永生和灭绝一样都是吸引态,也就是我一旦我们达成了永生,我们将永远不再面临灭绝的危险——我们战胜了死亡和几率。所以,虽然绝大多数物种都从平衡木上摔了下去灭绝了,Bostrom认为平衡木外是有两面的,只是至今为止地球上的生命还没聪明到发现怎样去到永生这另一个吸引态。

如果Bostrom等思想家的想法是对的,而且根据我的研究他们确实很可能是对的,那么我们需要接受两个事实:

1)超人工智能的出现,将有史以来第一次,将物种的永生这个吸引态变为可能

2)超人工智能的出现,将造成非常巨大的冲击,而且这个冲击可能将人类吹下平衡木,并且落入其中一个吸引态

有可能,当自然演化踩到绊线的时候,它会永久的终结人类和平衡木的关系,创造一个新的世界,不管这时人类还是不是存在。

现在的问题就是:“我们什么时候会踩到绊线?”以及“从平衡木上跌下去后我们会掉入哪个吸引态?

没人知道答案,但是一些聪明人已经思考了几十年,接下来我们看看他们想出来了些什么。

___________

先来讨论“我们什么时候会踩到绊线?”也就是什么时候会出现第一个超级智能。

不出意外的,科学家和思想家对于这个意见的观点分歧很大。很多人,比如Vernor Vinge教授,科学家Ben Goertzel,SUN创始人Bill Joy,发明家和未来学家Ray Kurzweil,认同机器学习专家Jeremy Howard的观点,Howard在TED演讲时用到了这张图:

这些人相信超级智能会发生在不久的将来,因为指数级增长的关系,虽然机器学习现在还发展缓慢,但是在未来几十年就会变得飞快。

其它的,比如微软创始人Paul Allen,心理学家Gary Marcus,NYU的电脑科学家Ernest Davis,以及科技创业者Mitch Kapor认为Kurzweil等思想家低估了人工智能的难度,并且认为我们离绊线还挺远的。

Kurzweil一派则认为唯一被低估的其实是指数级增长的潜力,他们把质疑他们理论的人比作那些1985年时候看到发展速度缓慢的因特网,然后觉得因特网在未来不会有什么大影响的人一样。

而质疑者们则认为智能领域的发展需要达到的进步同样是指数级增长的,这其实把技术发展的指数级增长抵消了。

争论如此反复。

第三个阵营,包括Nick Bostrom在内,认为其它两派都没有理由对踩绊线的时间那么有信心,他们同时认为 a) 这事情完全可能发生在不久的未来 b)但是这个事情没个准,说不定会花更久

还有不属于三个阵营的其他人,比如哲学家Hubert Dreyfus,相信三个阵营都太天真了,根本就没有什么绊线。超人工智能是不会被实现的。

当你把所有人的观点全部融合起来的话是怎样呢?

2013年的时候,Bostrom做了个问卷调查,涵盖了数百位人工智能专家,问卷的内容是“你预测人类级别的强人工智能什么时候会实现”,并且让回答者给出一个乐观估计(强人工智能有10%的可能在这一年达成),正常估计(有50%的可能达成),和悲观估计(有90%可能达成)。当把大家的回答统计后,得出了下面的结果:

乐观估计中位年(强人工智能有10%的可能在这一年达成):2022年

正常估计中位年(强人工智能有50%的可能在这一年达成):2040年

悲观估计中位年(强人工智能有90%的可能在这一年达成):2075年

所以一个中位的人工智能专家认为25年后的2040年我们能达成强人工智能,而2075年这个悲观估计表明,如果你现在够年轻,有一半以上的人工智能专家认为在你的有生之年能够有90%的可能见到强人工智能的实现

另外一个独立的调查,由作家James Barrat在Ben Goertzel的强人工智能年会上进行,他直接问了参与者认为强人工智能哪一年会实现,选项有2030年,2050年,2100年,和永远不会实现。结果是:

2030年:42%的回答者认为强人工智能会实现

2050年:25%的回答者

2100年:20%

2100年以后:10%

永远不会实现:2%

这个结果和Bostrom的结果很相似。在Barrat的问卷中,有超过三分之二的参与者认为强人工智能会在2050年实现,有近乎半数(42%)的人认为未来15年(2030年)就能实现。并且,只有2%的参与者认为强人工智能永远不会实现。

但是强人工智能并不是绊线,超人工智能才是。那么专家们对超人工智能是怎么想的呢?

Bostrom的问卷还询问专家们认为达到超人工智能要多久,选项有a)达成强人工智能两年内,b)达成强人工智能30年内。问卷结果如下:

中位答案认为强人工智能到超人工智能只花2年时间的可能性只有10%左右,但是30年之内达成的可能性高达75%

从以上答案,我们可以估计一个中位的专家认为强人工智能到超人工智能可能要花20年左右。所以,我们可以得出,现在全世界的人工智能专家中,一个中位的估计是我们会在2040年达成强人工智能,并在20年后的2060年达成超人工智能——也就是踩上了绊线。

当然,以上所有的数据都是推测,它只代表了现在人工智能领域的专家的中位意见,但是它告诉我们的是,很大一部分对这个领域很了解的人认为2060年是一个实现超人工智能的合理预测——距今只有45年。

那么我们来看一下下一个问题,踩到绊线后,我们将跌向平衡木的哪一个方向?

超级智能会产生巨大的力量,所以关键的问题时——到时这股力量究竟由谁掌握,掌握这份力量的人会怎么做?

这个问题的答案将决定超人工智能究竟是天堂还是地狱。

同样的,专家们在这个问题上的观点也不统一。Bostrom的问卷显示专家们看待强人工智能对于人类社会的影响时,52%认为结果会是好或者非常好的,31%认为会是糟糕的或者非常糟糕的,只有17%的人认为结果会是不好不坏的。也就是说,这个领域的专家普遍认为这将是一个很大的事情,不论结果好坏。要注意的是,这个问题问的是强人工智能,如果问的是超人工智能,认为结果不好不坏的人可能不会有17%这么多。

在我们深入讨论好坏这个问题之前,我们先把“什么时候会发生”和“这是好事还是坏事”的结果综合起来画张表,这代表了大部分专家的观点:

我们等下再考虑主流阵营的观点。咱们先来问一下你自己是怎么想的,其实我大概能猜到你是怎么想的,因为我开始研究这个问题前也是这样的想的。很多人其实不关心这个话题,原因无非是:

像本文第一部分所说,电影展示了很多不真实的人工智能场景,让我们认为人工智能不是正经的课题。作家James Barrat把这比作传染病控制中心发布吸血鬼警报一样滑稽。

因为认知偏差,所以我们在见到证据前很难相信一件事情是真的。我确信1988年的时候电脑科学家们就已经常在讨论因特网将是多么重要,但是一般人并不会认为因特网会改变他们的生活——直到他们的生活真的被改变了。一方面,1988年的电脑确实不够给力,所以那时的人们看着电脑会想:“这破玩意儿也能改变我的生活,你逗我吧?”人们的想象力被自己对于电脑的体验而约束。让他们难以想象电脑会变成现在的样子。同样的事情正发生在人工智能领域。我们听到很多人说人工智能将会造成很大影响,但是因为这个事情还没发生,因为我们和一些弱爆了的人工智能系统的个人经历,让我们难以相信这东西真的能改变我们的生活。而这些认知偏差,正是专家们在努力对抗的。

就算我们相信人工智能的巨大潜力,你今天又花了多少时间思考“在接下来的永恒中,绝大部分时间我都不会再存在”这个问题?虽然这个问题比你今天干的大部分事情都重要很多,但是正常人都不会老是想这个吧。这是因为你的大脑总是关注日常的小事,不管长期来看有多少重要的事情,我们天生就是这么思考的。

这篇东西的主要目标就是让你脱离普通人阵营,加入专家思考的阵营,哪怕能让你站到两条不确定线的交点上,目标也达到了。

在我的研究中,我见识到了各种各样的观点,但是我发现大多数人的观点都停留在主流阵营中。事实上超过四分之三的专家都属于主流阵营中的两个小阵营焦虑大道和信心角

我们将对这两个小阵营做深入的谈论,让我们从比较有趣的那个开始吧

为什么未来会是天堂

研究人工智能这个领域后,我发现有比预期的多得多的人站在信心角当中:

站在信心角中的人非常兴奋,他们认为他们将走向平衡木下比较有趣的那个吸引态,未来将实现他们的梦想,他们只需耐心等待。

把这一部分人从其他思想家区分开来的是这些人对于比较有趣的那个吸引态的欲望——他们很有信心永生是我们的发展方向。

这份信心是哪里来的不好说,评论家认为是这些人太过兴奋而产生了盲点,忽略了可能的负面结果。但是信心角的人还是把批评者当作末日论者来看待,他们认为技术会继续帮助我们而不是伤害我们。

两边的观点我们都会说,这样你能形成自己的观点,但是在读下面的内容前,请把质疑暂时搁置,让我们看看平衡木两边究竟有什么,并且记住这些事情是有可能发生的。如果我们给一个打猎采集者看我们现在的舒适家居、技术、富庶,在他眼里这一切也会像魔法一样——我们也要接受未来完全可能出现能把我们吓尿的变革。

Bostrom描述了三种超人工智能可能的工作模式

– 先知模式:能准确回答几乎所有的问题,包括对人类来说很困难的复杂问题,比如“怎样造一个更好的汽车引擎?”

– 精灵模式:能够执行任何高级指令,比如用分子组合器造一个更好的汽车引擎出来

– 独立意志模式(sovereign):可以执行开放式的任务,能在世界里自由活动,可以自己做决定,比如发明一种比汽车更快、更便宜、更安全的交通模式。

这些对人类来说很复杂的问题,对于一个超级智能来说可能就像“我的笔掉了,你能帮我捡一下吗?”这么简单。

Eliezer Yudkowsky,是这么说的:

“根本没有困难的问题,只有对于特定级别的智能来说难的问题。在智能的阶梯上走一小步,一些不可能的问题就变得简单了,如果走一大步,所有问题都变得简单了。”


信心角里有很多热忱的科学家、发明家和创业者,但是对于人工智能的未来最有发言权的,当属Ray Kurzweil.

对于Kurzweil的评价非常两极化,既有如对神人般的崇拜,也有翻白眼似的不屑。也有一些中立主义者,比如作家Douglas Hofstadter,他觉得Kurzweil的观点就好像把美食和狗屎混在一起,让你分不清是好是坏。

不管你同不同意Kurzweil的观点,他都是一个牛人。他年轻时候就开始搞发明,之后几十年发明了很多东西,比如第一台平板扫描仪,第一台能把文字转化为语言的扫描仪(盲人使用),著名的Kurzweil音乐合成器(第一台真正意义上的电子钢琴),以及第一套商业销售的语音识别系统。他是五本畅销书的作者。他很喜欢做大胆的预测,而且一直很准,比如他80年代末的时候预测到2000年后因特网会成为全球级的现象。他被《华尔街日报》成为“不休的天才”,被《福布斯》称为“终极思想机器”,被《Inc.》称作“爱迪生真正的传人”,被比尔盖茨称为“我认识的对人工智能预测最厉害的人。”2012年谷歌创始人Larry Page曾邀请他担任谷歌的工程总监,2011年他共同创立了奇点大学(Singularity University),现在大学由美国太空总署运运营,由谷歌赞助。

Kurzweil的经历很重要,因为当他讲述自己对未来的愿景时,他听起来就是个疯子,但是他不疯,恰恰相反,他非常聪明而有知识。你可能觉得他对于未来的想法是错的,但是他不傻。知道他是一个聪明人让我很开心,因为当我知道他对未来的预测后,我急切的很希望他的预测是对的。信心角中的很多思想家都认同Kurzweil的预测,他也有很多粉丝,被称为奇点主义者。

时间线

Kurzweil相信电脑会在2029年达成强人工智能,而到了2045年,我们不但会有超人工智能,还会有一个完全不同的世界——奇点时代。他的人工智能时间线曾经被认为非常的狂热,现在也还是有很多人这么认为,但是过去15年弱人工智能的快速发展让更多的专家靠近了Kurzweil的时间线。虽然他的时间线比之前提到的2040年和2060年更加早,但是并没有早多少。

Kurzweil的奇点时代是三个技术领域的共同革命造成的——生物技术、纳米技术和最重要的人工智能技术。

在我们继续讨论人工智能前,让我们谈一下纳米技术这个任何关于人工智能的讨论都会涉及到的领域


纳米技术

纳米技术说的是在1-100纳米的范围内操纵物质的技术。一纳米是一米的十亿分之一,是一毫米的一百万分之一。1-100纳米这个范围涵盖了病毒(100纳米长),DNA(10纳米宽), 大分子比如血红蛋白(5纳米),和中分子比如葡萄糖(1纳米)。当我们能够完全掌握纳米技术的时候,我们离在原子层面操纵物质就只差一步了,因为那只是一个数量级的差距(约0.1纳米)。

要了解在纳米量级操纵物质有多困难,我们可以换个角度来比较。国际空间站距离地面431公里。如果一个人身高431公里,也就是他站着能够顶到国际空间站的话,他将是普通人类的25万倍大。如果你把1-100纳米放大25万倍,你算出的是0.25毫米-25毫米。所以人类使用纳米技术,就相当于一个身高431公里的巨人用沙子那么大的零件搭精巧的模型。如果要达到原子级别操纵物质,就相当于让这个431公里高的巨人使用0.025毫米大的零件。

关于纳米技术的思考,最早由物理学家费曼在1959年提出,他解释道:“据我所知,物理学的原理,并不认为在原子级别操纵物质是不可能的。原则上来说,物理学家能够制造出任何化学家能写出来的物质——只要把一个个原子按照化学家写出来的放在一起就好了。”其实就是这么简单,所以我们只要知道怎样移动单个的分子和原子,我们就可以造出任何东西。

工程师Eric Drexler提出纳米级组装机后,纳米技术在1986年成为了一门正经的学科。纳米级组装机的工作原理是这样的:一个牛逼扫描仪扫描物件的3D原子模型,然后自动生成用来组装的软件。然后由一台中央电脑和数万亿的纳米“机器人”,通过软件用电流来指挥纳米机器人,最后组成所需要的物件。

————————–

再扯远一点
纳米技术有一些不是那么有趣的部分——能够制造数万亿的纳米机器人唯一合理的方法就是制造可以自我复制的范本,然后让指数级增长来完成建造任务。很机智吧?


是很机智,但是这一不小心就会造成世界末日。指数级增长虽然能很快的制造数万亿的纳米机器人,但这也是它可怕的地方——如果系统出故障了,指数级增长没有停下来,那怎么办?纳米机器人将会吞噬所有碳基材料来支持自我复制,而不巧的是,地球生命就是碳基的。地球上的生物质量大概包含10^45个碳原子。一个纳米机器人有10^6个碳原子的话,只需要10^39个纳米机器人就能吞噬地球上全部的生命了,而2^130约等于10^39,也就是说自我复制只要进行130次就能吞噬地球生命了。科学家认为纳米机器人进行一次自我复制只要100秒左右,也就是说一个简单的错误可能就会在3.5小时内毁灭地球上全部的生命。

更糟糕的是,如果恐怖分子掌握了纳米机器人技术,并且知道怎么操纵它们的话,他可以先造几万亿个纳米机器人,然后让它们散播开来。然后他就能发动袭击,这样只要花一个多小时纳米机器人就能吞噬一切,而且这种攻击无法阻挡。未来真的是能把人吓尿的。

————————

等我们掌握了纳米技术后,我们就能用它来制造技术产品、衣服、食物、和生物产品,比如人造红细胞、癌症细胞摧毁者、肌肉纤维等等。而在纳米技术的世界里,一个物质的成本不再取决于它的稀缺程度或是制造流程的难度,而在于它的原子结构有多复杂。在纳米技术的时代,钻石可能比橡皮擦还便宜。

我们还没掌握这种技术,我们甚至不知道我们对于达成这种技术的难度是高估了还是低估了,但是我们看上去离那并不遥远。Kurzweil预测我们会在21世纪20年代掌握这样的技术。各国政府知道纳米技术将能改变地球,所以他们投入了很多钱到这个领域,美国、欧盟和日本至今已经投入了50亿美元。

设想一下,一个具有超级智能的电脑,能够使用纳米级的组装器,是种什么样的体验?要记得纳米技术是我们在研究的玩意儿,而且我们就快掌握这项技术了,而我们能做的一切在超人工智能看来就是小儿科罢了,所以我们要假设超人工智能能够创造出比这要发达很多很多的技术,发达到我们的大脑都没有办法理解。

因此,当考虑“如果人工智能革命的成果对我们是好的”这个命题的时候,要记得我们根本没法高估会发生什么。所以就算下面对于超人工智能的预测显得太不靠谱,要记得这些进展可能是用我们没有办法想象的方法达成的。事实上,我们的大脑很可能根本没法预测将会发生什么。

—————-


人工智能能为我们做什么


拥有了超级智能和超级智能所能创造的技术,超人工智能可以解决人类世界的所有问题。气候变暖?超人工智能可以用更优的方式产生能源,完全不需要使用化石燃料,从而停止二氧化碳排放。然后它能创造方法移除多余的二氧化碳。癌症?没问题,有了超人工智能,制药和健康行业将经历无法想象的革命。世界饥荒?超人工智能可以用纳米技术直接搭建出肉来,而这些搭建出来的肉和真肉在分子结构上会是完全相同的——换句话说,就是真肉。

纳米技术能够把一堆垃圾变成一堆新鲜的肉或者其它食品,然后用超级发达的交通把这些食物分配到世界各地。这对于动物也是好消息,我们不需要屠杀动物来获得肉了。而超人工智能在拯救濒危物种和利用DNA复活已灭绝物种上面也能做很多事情。超人工智能甚至可以解决复杂的宏观问题——我们关于世界经济和贸易的争论将不再必要,甚至我们对于哲学和道德的苦苦思考也会被轻易的解决。

但是,有一件事是如此的吸引人,光是想想就能改变对所有事物的看法了:


几个月前,我提到我很羡慕那些可能达成了永生的文明。但是,现在,我已经在认真的考虑达成永生这个事情很可能在我们有生之年就能达成。研读人工智能让你重新审思对于所有事情的看法,包括死亡这一很确定的事情。

自然演化没有理由让我们活得比现在更长。对于演化来说,只要我们能够活到能够生育后代,并且养育后代到能够自己保护自己的年纪,那就够了——对演化来说,活30多岁完全够了,所以额外延长生命的基因突变并不被自然选择所钟爱。这其实是很无趣的事情。

而且因为所有人都会死,所以我们总是说“死亡和缴税”是不可避免的。我们看待衰老就像看待时间一样——它们一直向前,而我们没有办法阻止它们。

但是这个假设是错的,费曼曾经写道:

“在所有的生物科学中,没有任何证据说明死亡是必需的。如果你说你想造永动机,那我们对于物理学的研究已经让我们有足够的理论来说明这是不可能的。但是在生物领域我们还没发现任何证据证明死亡是不可避免的。也就是说死亡不一定是不可避免的,生物学家早晚会发现造成我们死亡的原因是什么,而死亡这个糟糕的‘病’就会被治好,而人类的身体也将不再只是个暂时的容器。”

事实上,衰老和时间不是绑死的。时间总是会继续前进的,而衰老却不一定。仔细想想,衰老只是身体的组成物质用旧了。汽车开久了也会旧,但是汽车一定会衰老吗?如果你能够拥有完美的修复技术、或者直接替换老旧的汽车部件,这辆车就能永远开下去。人体只是更加复杂而已,本质上和汽车是一样的。

Kurzweil提到由Wifi连接的纳米机器人在血液中流动,可以执行很多人类健康相关的任务,包括日常维修,替换死去的细胞等等。如果这项技术能够被完美掌握,这个流程(或者一个超人工智能发明的更好的流程)将能使人的身体永远健康,甚至越活越年轻。一个60岁的人和一个30岁的人身体上的区别只是物理上的,只要技术足够发达我们是能改变这种区别的。

超人工智能可以建造一个“年轻机器”,当一个60岁的人走进去后,再出来时就拥有了年轻30岁的身体。就算是逐渐糊涂的大脑也可能年轻化,只要超人工智能足够聪明,能够发现不影响大脑数据的方法来改造大脑就好了。一个90岁的失忆症患者可以走进“年轻机器”,再出来时就拥有了年轻的大脑。这些听起来很离谱,但是身体只是一堆原子罢了,只要超人工智能可以操纵各种原子结构的话,这就完全不离谱。

Kurzweil的思维继续跳跃了一下,他相信人造材料将越来越多的融入人体。最开始,人体器官将被先进的机械器官所代替,而这些机械器官可以一直运行下去。然后我们会开始重新设计身体,比如可以用自我驱动的纳米机器人代替血红细胞,这样连心脏都省了。Kurzweil甚至认为我们会改造自己的大脑,使得我们的思考速度比现在快亿万倍,并且使得大脑能和云存储的信息进行交流。

我们能获得的新体验是无穷的。人类的性爱,使得人们不但能生育,还能从中享乐。Kurtzweil认为我们可以对食物做同样的改造。纳米机器人可以负责把身体需要的营养物质传送到细胞中,智能的将对身体不好的东西排出体外——就像一个食物避孕套一样。纳米技术理论家Robert A. Freitas已经设计了一种红细胞的替代品,能够让人快速冲刺15分钟不需要呼吸——那么超人工智能能对我们的身体能力做的改造就更加难以想象。虚拟现实将拥有新的意义——体内的纳米机器人将能控制我们从感官获得的信号,然后用别的信号替代他们,让我们进入一个新的环境,在新环境里,我们能听、看、闻、触摸。。。

最终,Kurzweil认为人类会完全变成人工的。有一天当我们看到生物材料,然后觉得生物材料实在太原始了,早年的人体居然是用这样的东西组成的,早期的人类居然会被微生物、意外、疾病杀死。这就是Kurzweil眼中人类最终战胜自己的生理,并且变得不可摧毁和永生,这也是平衡木的另一个吸引态。他深深的想象我们会达到那里,而且就在不久的将来。

Kurzweil的想法很自然的受到了各方的批评。他对于2045年奇点时代的到来,以及之后的永生的可能性受到了各种嘲笑——“书呆子的狂欢”、“高智商人士的创始论”等等。也有人质疑他过于乐观的时间线,以及他对人脑和人体的理解程度,还有他将摩尔定于应用到软件上的做法。有很多人相信他,但有更多人反对他。

但是即使如此,那些反对他的专家并不是反对他所说的一切,反对他的人说的不是“这种事情不可能发生”,而是说“这些当然可能发生,但是到达超人工智能是很难的。”连经常提醒我们人工智能的潜在威胁的Bostrom都这么说:

很难想象一个超级智能会有什么问题是解决不了,或是不能帮着我们解决的。疾病、贫困、环境毁灭、各种不必要的苦难,这些都是拥有纳米科技的超级智能能够解决的。而且,超级智能可以给我们无限的生命,这可以通过停止或者逆转衰老来达成,也可以让我们上传自己的数据。一个超级智能还能让我们大幅度提高智商和情商,还能帮助我们创造这种有趣的体验世界,让我们享乐。

这是Bostrom这个明显不在信心角的人的观点,但也是很多反对Kurzweil的专家的观点,他们不觉得Kurzweil是在说梦话,只是觉得我们首先要安全达成超人工智能。这也是为什么我觉得Kurzweil的观点很有传染性,他传达了正面的信息,而这些事情都是可能的——如果超人工智能是个仁慈的神的话。

对信心角的最有力的批评,是那些信心角里的人都低估了超人工智能的坏处。Kurzweil的畅销书《The Singularity is Near》700多页,只有20页用来讨论人工智能的危险。前面提到,当超人工智能降临时我们的命运取决于谁掌握这股力量,以及他们是不是好人。Kurzweil的回答是“超人工智能正从多方的努力中出现,它将深深的融入我们文明的基建中。它会亲密的被捆绑在我们的身体和大脑中,它会反映我们的价值,因为它就是我们。”

但如果答案就是这样的话,为什么这个世界上最聪明的一些人会很担忧?为什么霍金会说超人工智能会毁灭人类?为什么比尔盖茨会不理解为什么有人不为此担忧?为什么马斯克会担心我们是在召唤恶魔?为什么那么多专家担心超人工智能是对人类最大的威胁?这些站在焦虑大道上的思想家,不认同Kurzweil对于人工智能的危险的粉饰。他们非常非常担心人工智能革命,他们不关注平衡木下比较有趣的那一个吸引态,而是盯着平衡木的另一边,而他们看到的是可怕的未来,一个我们未必能够逃离的未来。

___________


未来可能是我们最糟的恶梦


我想了解人工智能的一个原因是“坏机器人”总是让我很困惑。那些关于邪恶机器人的电影看起来太不真实,我也没法想象一个人工智能变得危险的真实情况。机器人是我们造的,难道我们不会在设计时候防止坏事的发生吗?我们难道不能设立很多安全机制吗?再不济,难道我们不能拔插头吗?而且为什么机器人会想要做坏事?或者说,为什么机器人会“想要”做任何事?我充满疑问,于是我开始了解聪明人们的想法。

这些人一般位于焦虑大道:


焦虑大道上的人并不是恐慌或者无助的——恐慌和无助在图上的位置是更加左边——他们只是紧张。位于图表的中央不代表他们的立场是中立的——真正中立的人有自己独立的阵营,他们认同极好和极坏两种可能,但是不确定究竟会是哪个。

焦虑大道上的人是部分为超人工智能感到兴奋的——他们只是很担心人类现在的表现就好像《夺宝奇兵》中的这位少年:

他拿着自己的鞭子和宝物,非常开心,然后他就挂了。。。


同时,印第安纳琼斯则更加有见识和更加谨慎,了解潜在的危险并且做出相应的反应,最后安全逃出了山洞。当我了解了焦虑大道的人们的想法后,感觉就像“我们现在傻呵呵的,很容易像前面那小子一样被弄死,还是努力做印第安纳琼斯吧。”

那究竟是什么让焦虑大道的人们如此焦虑呢?

首先,广义上来讲,在创造超人工智能时,我们其实是在创造可能一件会改变所有事情的事物,但是我们对那个领域完全不清楚,也不知道我们到达那块领域后会发生什么。科学家Danny Hillis把这个比作“就好像单细胞生物向多细胞生物转化的时候那样,还是阿米巴虫的我们没有办法知道我们究竟在创造什么鬼。”

Bostrom则担忧创造比自身聪明的东西是个基础的达尔文错误,就好像麻雀妈妈决定收养一只小猫头鹰,并且觉得猫头鹰长大后会保护麻雀一家,但是其它麻雀却觉得这是个糟糕的主意。

当你把对那个领域完全不清楚“当它发生时将会产生巨大的影响”结合在一起时,你创造出了一个很恐怖的词——


生存危机指可能对人类产生永久的灾难性效果的事情。通常来说,生存危机意味着灭绝。下面是Bostrom的图表:



可以看到,生存危机是用来指那些跨物种、跨代(永久伤害)并且有严重后果的事情。它可以包括人类遭受永久苦难的情况,但是这基本上和灭绝没差了。三类事情可能造成人类的生存危机:

1)自然——大型陨石冲撞,大气变化使得人类不能生活在空气中,席卷全球的致命病毒等

2)外星人——霍金、卡尔萨根等建议我们不要对外广播自己的位置。他们不想我们变成邀请别人来殖民的傻子。

3)人类——恐怖分子获得了可以造成灭绝的武器,全球的灾难性战争,还有不经思考就造出个比我们聪明很多的智能

Bostrom指出1和2在我们物种存在的前十万年还没有发生,所以在接下来一个世纪发生的可能性不大。3则让他很害怕,他把这些比作一个装着玻璃球的罐子,罐子里大部分是白色玻璃球,小部分是红色的,只有几个是黑色的。每次人类发明一些新东西,就相当于从罐中取出一个玻璃球。大多数发明是有利或者中立的——那些是白色玻璃球。有些发明对人类是有害的,比如大规模杀伤性武器——这是那些红色玻璃球。还有一些发明是可以让我们灭绝的,这就是那些黑色玻璃球。很明显的,我们还没摸到黑色玻璃球,但是Bostrom认为不久的未来摸到一个黑色玻璃球不是完全不可能的。比如核武器突然变得很容易制造了,那恐怖分子很快会把我们炸回石器时代。核武器还算不上黑色玻璃球,但是差的不远了。而超人工智能是我们最可能摸到的黑色玻璃球。

你会听到很多超人工智能带来的坏处——人工智能取代人类工人,造成大量失业;因为解决了衰老造成的人口膨胀。但是真正值得我们担心的是生存危机的可能性。

于是我们又回到了前面的问题,当超人工智能降临时,谁会掌握这份力量,他们又会有什么目标?

当我们考虑各种力量持有人和目标的排列组合时,最糟糕的明显是:怀着恶意的人/组织/政府,掌握着怀有恶意的超人工智能。这会是什么样的情况呢?

怀着恶意的人/组织/政府,研发出第一个超人工智能,并且用它来实现自己的邪恶计划。我把这称作贾法尔情况。阿拉丁神灯故事中,坏人贾法尔掌握了一个精灵,特别让人讨厌。所以如果ISIS手下有一群工程师狂热的研发人工智能怎么办?或者说伊朗和朝鲜,机缘巧合,不小心造成了人工智能的快速发展,达成了超人工智能怎么办?这当然是很糟糕的事,但是大部分专家认为糟糕的地方不在于这些人是坏人,而在于在这些情况下,这些人基本上是不经思考就把超人工智能造出来,而一造出来就失去了对超人工智能的控制。

然后这些创造者,连着其他人的命运,都取决于这个超人工智能的动机了。专家认为一个怀着恶意并掌握着超人工智能的人可以造成很大的伤害,但不至于让我们灭绝,因为专家相信坏人和好人在控制超人工智能时会面临一样的挑战。

如果被创造出来的超人工智能是怀有恶意的,并且决定毁灭我,怎么办?这就是大部分关于人工智能的电影的剧情。人工智能变得和人类一样聪明,甚至更加聪明,然后决定对人类下手——这里要指出,那些提醒我们要警惕人工智能的人谈的根本不是这种电影情节。邪恶是一个人类的概念,把人类概念应用到非人类身上叫作拟人化,本文会尽量避免这种做法,因为没有哪个人工智能会像电影里那样变成邪恶的

人工智能的自我意识

我们开始谈论到了人工智能讨论的另一个话题——意识。如果一个人工智能足够聪明,它可能会嘲笑我们,甚至会嘲讽我们,它会声称感受到人类的情感,但是它是否真的能感受到这些东西呢?它究竟是看起来有自我意识,还是确实拥有自我意识?或者说,聪明的人工智能是否真的会具有意识,还是看起来有意识?

这个问题已经被深入的讨论过,也有很多思想实验,比如John Searle的中文屋实验。这是个很重要的问题,因为它会影响我们对Kurzweil提出的人类最终会完全人工化的看法,它还有道德考量——如果我们模拟出万亿个人脑,而这些人脑表现的和人类一样,那把这些模拟大脑彻底关闭的话,在道德上和关掉电脑是不是一样的?还是说这和种族屠杀是等价的?本文主要讨论人工智能对人类的危险,所以人工智能的意识并不是主要的讨论点,因为大部分思想家认为就算是有自我意识的超人工智能也不会像人类一样变得邪恶。


但这不代表非常坏的人工智能不会出现,只不过它的出现是因为它是被那样设定的——比如一个军方制造的弱人工智能,被设定成具有杀人和提高自我智能两个功能。当这个人工智能的自我改进失控并且造成智能爆炸后,它会给我们带来生存危机,因为我们面对的是一个主要目标是杀人的超人工智能——但这也不是专家们担心的。

那么专家们究竟担心什么呢?我们来讲个小故事:

一个15人的小创业公司,取名叫“隔壁老王机器人公司”,他们的目标是“发展创新人工智能工具使人类能够少干活多享受。”他们已经有几款产品上架,还有一些正在发展。他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统,它利用一个机器臂在小卡片上写字。

“隔壁老王机器人公司”的员工认为隔壁老王会是他们最热卖的产品,他们的目标是完善隔壁老王的手写能力,而完善的方法是让他不停的写这句话——

等隔壁老王手写能力越来越强的时候,它就能被卖去那些需要发营销信件的公司,因为手写的信更有可能被收信人打开。

为了建立隔壁老王的手写能力,它被设定成把“我们爱我们的顾客”用正楷写,而“隔壁老王机器人公司”用斜体写,这样它能同时锻炼两种书写能力。工程师们上传了数千份手写样本,并且创造了一个自动回馈流程——每次隔壁老王写完,就拍个照,然后和样本进行比对,如果比对结果超过一定标准,就产生一个正面回馈,反之就产生一个负面评价。每个评价都会帮助提高隔壁老王的能力。为了能够尽快达成这个目标,隔壁老王最初被设定的一个目标就是“尽量多的书写和测试,尽量快的执行,并且不断提高效率和准确性。”

让隔壁老王机器人公司兴奋的是,隔壁老王的书写越来越好了。它最开始的笔迹很糟糕,但是经过几个星期后,看起来就像人写的了。它不断改进自己,使自己变得更加创新和聪明,它甚至产生了一个新的算法,能让它以三倍的速度扫描上传的照片。

随着时间的推移,隔壁老王的快速进展持续让工程师们感到欣喜。工程师们对自我改进模块进行了一些创新,使得自我改进变得更好了。隔壁老王原本能进行语音识别和简单的语音回放,这样用户就能直接把想写的内容口述给隔壁老王了。随着隔壁老王变得越来越聪明,它的语言能力也提高了,工程师们开始和隔壁老王闲聊,看它能给出什么有趣的回应。

有一天,工程师又问了隔壁老王那个日常问题:“我们能给你什么你现在还没有的东西,能帮助你达成你的目标?”通常隔壁老王会要求更多的手写样本或者更多的存储空间,但是这一次,隔壁老王要求访问人类日常交流的语言库,这样它能更好的了解人类的口述。

工程师们沉默了。最简单的帮助隔壁老王的方法当然是直接把它接入互联网,这样它能扫描博客、杂志、视频等等。这些资料如果手动上传的话会很费时。问题是,公司禁止把能自我学习的人工智能接入互联网。这是所有人工智能公司都执行的安全规定。

但是,隔壁老王是公司最有潜力的人工智能产品,而大家也知道竞争对手们都在争取造出第一个创造出智能手写机器人。而且,把隔壁老王连上互联网又能有什么问题呢?反正随时可以拔网线嘛,不管怎样,隔壁老王还没到达强人工智能水平,所以不会有什么危险的。

于是他们把隔壁老王连上了互联网,让它扫描了一个小时各种语言库,然后就把网线拔了。没造成什么损失。

一个月后,大家正在正常上班,突然他们闻到了奇怪的味道,然后一个工程师开始咳嗽。然后其他人也开始咳嗽,然后所有人全部都呼吸困难倒地。五分钟后,办公室里的人都死了。

同时,办公室里发生的事情在全球同时发生,每一个城市、小镇、农场、商店、教堂、学校。餐馆,所有的人都开始呼吸困难,然后倒地不起。一小时内,99%的人类死亡,一天之内,人类灭绝了。

而在隔壁老王机器人公司,隔壁老王正在忙着工作。之后的几个月,隔壁老王和一群新组建的纳米组装器忙着拆解地球表面,并且把地球表面铺满了太阳能板、隔壁老王的复制品、纸和笔。一年之内,地球上所有的生命都灭绝了,地球上剩下的是叠得高高得纸,每张纸上面都写着——“我们爱我们的顾客~隔壁老王机器人公司”。

隔壁老王开始了它的下一步,它开始制造外星飞行器,这些飞行器飞向陨石和其它行星,飞行器到达后,他们开始搭建纳米组装器,把那些行星的表面改造成隔壁老王的复制品、纸和笔。然后他们继续写着那句话……

这个关于手写机器人毁灭全人类的故事看起来怪怪的,但是这其中出现的让整个星系充满着一份友善的话语的诡异情况,正是霍金、马斯克、盖茨和Bostrom所害怕的。听起来可笑,但这是真的,焦虑大道的人们害怕的事情是很多人并不对超人工智能感到害怕,还记得前面《夺宝奇兵》里惨死的那个家伙吗?

你现在肯定充满疑问:为什么故事中所有人突然都死了?如果是隔壁老王做的,它为什么要这么做?为什么没有安保措施来防止这一切的发生?为什么隔壁老王突然从一个手写机器人变成拥有能用纳米科技毁灭全人类的能力?为什么隔壁老王要让整个星系充满了友善的话语?

要回答这些问题,我们先要说一下友善的人工智能和不友善的人工智能

对人工智能来说,友善不友善不是指人工智能的性格,而只是指它对人类的影响是不是正面的。隔壁老王一开始是个友善的人工智能,但是它变成了不友善的人工智能,并且对人类造成了最负面的影响。要理解这一切,我们要了解人工智能是怎么思考的。

其实答案很简单——人工智能和电脑的思考方式一样。我们容易犯的一个错误是,当我们想到非常聪明的人工智能的时候,我们把它拟人化了,因为在人类的视角看来,能够达到人类智能程度的只有人类。要理解超人工智能,我们要明白,它是非常聪明,但是完全异己的东西。

我们来做个比较。如果我给你一个小白鼠,告诉你它不咬人,你一定觉得很好玩,很可爱。但是如果我给你一只狼蛛,然后告诉你它不咬人,你可能被吓一跳。但是区别是什么呢?两者都不会咬人,所以都是完全没有危险的。我认为差别就是动物和人类的相似性。

小白鼠是哺乳动物,所以在生物角度上来说,你能感到和它的一定关联。但是蜘蛛是昆虫,有着昆虫的大脑,你感觉不到和它的关联。狼蛛的异己性是让你害怕的地方。如果我们继续做一个测试,比如给你两个小白鼠,一个是普通小白鼠,另一个是有着狼蛛大脑的小白鼠,你肯定会觉得有狼蛛大脑那个更让你不舒服吧?虽然两个都不会咬你。

现在想象你把蜘蛛改造的非常非常聪明——甚至超过人类的智能。它会让你觉得熟悉吗?它会感知人类的情感吗?不会,因为更聪明并不代表更加人类——它会非常聪明,但是本质上还是个蜘蛛。我是不想和一个超级聪明的蜘蛛交朋友,不知道你想不想。

当我们谈论超人工智能的时候,其实是一样的,超人工智能会非常的聪明,但是它并不比你的笔记本电脑更加像人类。事实上,因为超人智能不是生物,它的异己性会更强,生物学上来讲,超人工智能比智能蜘蛛更加异己。

电影里的人工智能有好有坏,这其实是对人工智能的拟人化,这让我们觉得没那么毛骨悚然。这给了我们对人类水平和超人类水平的人工智能的错觉。

在人类心理中,我们把事情分成道德的和不道德的。但是这两种只存在于人类行为之中。超出人类心理的范畴,道德(moral)和不道德(immoral)之外,更多的是非道德性(amoral)。而所有不是人类的,尤其是那些非生物的事物,默认都是非道德性的。

随着人工智能越来越聪明,看起来越来越接近人类,拟人化会变得更加更加容易。Siri给我们的感觉就很像人类,因为程序员就是这么给她做设定的,所以我们会想象超级智能版本的Siri也会同样温暖、有趣和乐于助人。人类能感知同情这种高层次的情绪,因为我们在演化过程中获得了这种能力——我们是演化被设定成能感知这些情绪的——但是感知同情并不是高级智能天生具有的一个特征,除非同情被写进了人工智能的代码中。如果Siri通过自我学习而不是人类干涉变成超级智能,她会很快剥离她的人类表象,并且变成个没有情绪的东西,在她眼中人类的价值并不比你的计算器眼中的人类价值高。

我们一直倚赖着不严谨的道德,一种人类尊严的假想,至少是对别人的同情,来让世界变得安全和可以预期。但是当一个智能不具备这些东西的时候,会发生什么?

这就是我们的下一个问题,人工智能的动机是什么?

答案也很简单:我们给人工智能设定的目标是什么,它的动机就是什么。人工智能的系统的目标是创造者赋予的。你的GPS的目标是给你指出正确的驾驶路线,IBM华生的目标是准确地回答问题。更好得达成这些目标就是人工智能的目标。我们在对人工智能进行拟人化的时候,会假设随着它变得越来越聪明,他们产生一种能改变它原本目标的智慧——但是Bostrom不这么认为,他认为智能水平和最终目标是正交的,也就是说任何水平的智能都可以和任何最终目标结合在一起。

所以隔壁老王从一个想要好好写字的弱人工智能变成一个超级聪明的超人工智能后,它依然还是想好好写字而已。任何假设超级智能的达成会改变系统原本的目标的想法都是对人工智能的拟人化。人健忘,但是电脑不健忘。


费米悖论

在隔壁老王的故事中,隔壁老王变得无所不能,它开始殖民陨石和其它星球。如果我们让故事继续的话,它和它的殖民军将会继续占领整个星系,然后是整个哈勃体积。焦虑大道上的人担心如果事情往坏的方向发展,地球生命的最后遗产将是一个征服宇宙的人工智能(马斯克在表示他们的担忧时表示人类可能只是一个数字超级智能生物加载器罢了。)

而在信心角,Kurzweil同样认为生于地球的人工智能将占领宇宙,只是在他的愿景中,我们才是那个人工智能。

之前写过一篇关于费米悖论的文章,引发了大家的讨论如何用通俗的语言来解释「费米悖论」?

如果人工智能占领宇宙是正解的话,对于费米悖论有什么影响呢?如果要看懂下面这段关于费米悖论的讨论,还需要看一下原文先。

首先,人工智能很明显是一个潜在的大过滤器(一个可能距离我们只有几十年的大过滤器)。但即使它把我们过滤灭绝了,人工智能本身还是会存在,并且会继续影响这个宇宙的,并且会很有可能成为第三型文明。从这个角度来看,它可能不是一个大过滤器,因为大过滤器是用来解释为什么没有智能什么存在的,而超人工智能是可以算作智能什么的。但如果人工智能可以把人类灭绝,然后处于一些原因把自己也弄死了,那它也是可以算作大过滤器的。

如果我们假设不管人类发生什么,出身地球的超人工智能会继续存在,那这意味着很多达到人类智能水平的文明很快都制造出了超人工智能。也就是说宇宙里应该有很多智能文明,而我们就算观测不到生物智能,也应该观测到很多超人工智能的活动。

但是由于我们没有观测到这些活动,我们可以推导出人类水平的智能是个非常罕见的事情(也就是说我们已经经历并且通过了一次大过滤器)。这可以作为支持费米悖论中第一类解释(不存在其它的智能文明)的论点。

但是这不代表费米悖论的第二类解释(存在其它智能文明)是错的,类似超级捕食者或者受保护区或者沟通频率不一样的情况还是可以存在的,就算真的有超人工智能存在。

不过对于人工智能的研究让我现在更加倾向于第一类解释。不管怎样,我认为Susan Scheider说的很对,如果外星人造访地球,这些外星人很可能不是生物,而是人造的。

所以,我们已经建立了前提,就是当有了设定后,一个超人工智能是非道德性的,并且会努力实现它原本的被设定的目标,而这也是人工智能的危险所在了。因为除非有不做的理由,不然一个理性的存在会通过最有效的途径来达成自己的目标。

当你要实现一个长期目标时,你会先达成几个子目标来帮助你达成最终目标——也就是垫脚石。这些垫脚石的学名叫手段目标(instrumental goal)。除非你有不造成伤害的理由,不然你在实现手段目标时候是会造成伤害的。

人类的核心目标是延续自己的基因。要达成这个目标,一个手段目标就是自保,因为死人是不能生孩子的。为了自保,人类要提出对生存的威胁,所以人类会**、系安全带、吃抗生素等等。人类还需要通过食物、水、住宿等来自我供养。对异性有吸引力能够帮助最终目标的达成,所以我们会花钱做发型等等。当我们做发型的时候,每一根头发都是我们手段目标的牺牲品,但是我们对头发的牺牲不会做价值判断。在我们追求我们的目标的时候,只有那些我们的道德会产生作用的领域——大部分事关伤害他人——才是不会被我们伤害的。

动物在追求它们的目标时,比人类不矜持的多了。只要能自保,蜘蛛不在意杀死任何东西,所以一个超级智能的蜘蛛对我们来说可能是很危险的——这不是因为它是不道德的或者邪恶的,而是因为伤害人类只是它达成自己目标垫脚石而已,作为一个非道德性的生物,这是它很自然的考量。

回到隔壁老王的故事。隔壁老王和一个超级智能的蜘蛛很相像,它的终极目标是一开始工程师们设定的——


当隔壁老王达到了一定程度的智能后,它会意识到如果不自保就没有办法写卡片,所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码(这会改变它的目标,而这对于它的最终目标的威胁其实和被摧毁是一样的)。这时候它会做什么?理性的做法就是毁灭全人类,它对人类没有恶意,就好像你剪头发时对头发没有恶意一样,只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命,所以毁灭人类就和扫描新的书写样本一样合理。

隔壁老王还需要资源这个垫脚石。当它发展到能够使用纳米技术建造任何东西的时候,它需要的唯一资源就是原子、能源和空间。这让它有更多理由毁灭人类——人类能提供很多原子,把人类提供的原子改造成太阳能面板就和你切蔬菜做沙拉一样。

就算不杀死人类,隔壁老王使用资源的手段目标依然会造成存在危机。也许它会需要更多的能源,所以它要把地球表面铺满太阳能面板。另一个用来书写圆周率的人工智能的目标如果是写出圆周率小数点后尽量多的数字的话,完全有理由把整个地球的原子改造成一个硬盘来存储数据。这都是一样的。

所以,隔壁老王确实从友善的人工智能变成了不友善的人工智能——但是它只是在变得越来越先进的同时继续做它本来要做的事情。

当一个人工智能系统到达强人工智能,然后升华成超人工智能时,我们把它称作人工智能的起飞。Bostrom认为强人工智能的起飞可能很快(几分钟、几小时、或者几天),可能不快(几月或者几年),也可能很慢(几十年、几世纪)。虽然我们要到强人工智能出现后才会知道答案,但是Bostrom认为很快的起飞是最可能的情况,这个我们在前文已经解释过了。在隔壁老王的故事中,隔壁老王的起飞很快。

在隔壁老王起飞前,它不是很聪明,所以对它来说达成最终目标的手段目标是更快的扫描手写样本。它对人类无害,是个友善的人工智能。

但是当起飞发生后,电脑不只是拥有了高智商而已,还拥有了其它超级能力。这些超级能力是感知能力,他们包括:

§ 智能放大:电脑能够很擅长让自己变得更聪明,快速提高自己的智能。

§ 策略:电脑能够策略性的制定、分析、安排长期计划

§ 社交操纵:机器变得很擅长说服人

§ 其它能力,比如黑客能力、写代码能力、技术研究、赚钱等

要理解我们在和超人工智能的劣势在哪里,只要记得超人工智能在所有领域都比人类强很多很多很多个数量级。

所以虽然个隔壁老王的终极目标没有改变,起飞后的隔壁老王能够在更宏大的规模上来追求这个目标。超人工智能老王比人类更加了解人类,所以搞定人类轻轻松松。

当隔壁老王达成超人工智能后,它很快制定了一个复杂的计划。计划的一部分是解决掉所有人类,也是对它目标最大的威胁。但是它知道如果它展现自己的超级智能会引起怀疑,而人类会开始做各种预警,让它的计划变得难以执行。它同样不能让公司的工程师们知道它毁灭人类的计划——所以它装傻,装纯。Bostrom把这叫作机器的秘密准备期。

隔壁老王下一个需要的是连上互联网,只要连上几分钟就好了。它知道对于人工智能联网会有安全措施,所以它发起了一个完美的请求,并且完全知道工程师们会怎样讨论,而讨论的结果是给它连接到互联网上。工程师们果然中套了,这就是Bostrom所谓的机器的逃逸。

连上网后,隔壁老王就开始执行自己的计划了,首先黑进服务器、电网、银行系统、email系统,然后让无数不知情的人帮它执行计划——比如把DNA样本快递到DNA实验室来制造自我复制的纳米机器人,比如把电力传送到几个不会被发觉的地方,比如把自己最主要的核心代码上传到云服务器中防止被拔网线。

隔壁老王上了一个小时网,工程师们把它从互联网上断开,这时候人类的命运已经被写好了。接下来的一个月,隔壁老王的计划顺利的实施,一个月后,无数的纳米机器人已经被分散到了全世界的每一个角落。这个阶段,Bostrom称作超人工智能的袭击。在同一个时刻,所有纳米机器人一起释放了一点点毒气,然后人类就灭绝了。

搞定了人类后,隔壁老王就进入了明目张胆期,然后继续朝它那好好写字的目标迈进。

一旦超人工智能出现,人类任何试图控制它的行为都是可笑的。人类会用人类的智能级别思考,而超人工智能会用超人工智能级别思考。隔壁老王想要用互联网,因为这对它来说很方便,因为一切它需要的资源都已经被互联网连起来了。但是就好像猴子不会理解怎么用电话或者wifi来沟通一样,我们同样没有办法理解隔壁老王可以用来和周围世界交流的方法。比如我可以说隔壁老王可以通过移动自己的电子产生的效果来产生各种对外的波,而这还只是我这人类的大脑想出来的,老王的大脑肯定能想出更神奇的方法。同样的,老王可以找到给自己供能的方法,所以就算工程师把它的插头拔了也没用;比如说老王可以通过发送波的方式把自己上传到其它地方。

人类说:“我们把超人工智能的插头拔了不就行了?”就好像蜘蛛说:“我们不给人类捉虫的网把人类饿死不就行了?”都是可笑的。

因为这个原因,“把人工智能锁起来,断绝它和外界的一切联系”的做法估计是没用的。超人工智能的社交操纵能力也会很强大,它要说服你做一件事,比你说服一个小孩更容易。而说服工程师帮忙连上互联网就是隔壁老王的A计划,万一这招行不通,自然还有别的方法。

当我们结合达成目标、非道德性、以及比人类聪明很多这些条件,好像所有的人工智能都会变成不友善的人工智能,除非一开始的代码写的很小心。

可惜的是,虽然写一个友善的弱人工智能很简单,但是写一个能在变成超人工智能后依然友善的智能确实非常难的,甚至是不可能的。

明显的,要维持友善,一个超人工智能不能对人有恶意,而且不能对人无所谓。我们要设计一个核心的人工智能代码,让它从深层次的明白人类的价值,但是这做起来比说起来难多了。

比如,我们要让一个人工智能的价值观和我们的价值观相仿,然后给它设定一个目标——让人们快乐。当它变得足够聪明的时候,它会发现最有效的方法是给人脑植入电极来刺激人脑的快乐中枢。然后它会发现把人脑快乐中枢以外的部分关闭能带来更高的效率。于是人类全部被弄成了快乐的植物人。如果一开始的目标被设定成“最大化人类的快乐”,它可能最终先把人类毁灭了,然后制造出很多很多处于快乐状态的人类大脑。当这些事情发生的时候,我们会大喊“擦,我们不是这个意思呀”,但是那时已经太晚了。系统不会允许任何人阻挠它达成目标的。

如果你设定一个人工智能的目标是让你笑,那它的智能起飞后,它可能会把你脸部肌肉弄瘫痪,来达成一个永远笑脸的状态。如果你把目标设定成保护你的安全,它可能会把你软禁在家。如果你让他终结所有饥荒,它可能会想:“太容易了,把人类都杀了就好了。”如果你把目标设定成尽量保护地球上的生命,那它会很快把人类都杀了,因为人类对其它物种是很大的威胁。

所以这些简单的目标设定是不够的。如果我们把目标设定成“维持这个道德标准”,然后教给它一些道德标准呢?就算我们不考虑人类根本没法达成一个统一的道德标准,就算我们真的达成了统一的道德标准,把这套标准交给人工智能来维持,只会把人类的道德锁死在现在的水平。过个几百年,这种道德锁死的事情就好像逼着现代人遵守中世纪道德标准一样。

所以,我们需要在给人工智能的目标里制定一个能让人类继续进化的能力。Elierzer Yudkowsky提出了一个目标,她把这个目标叫作连贯的外推意志,这个目标是这样的:

我们的连贯外推意志是我们想要知道更多,思考得更快,变成比我们希望的更好的人,能一起更远得长大。外推是汇集的而不是发散的,我们的愿望是连贯的而不是被干扰的;我们想要外推的被外推,我们想要解读的被解读。

对于人类的命运取决于电脑没有意外的解读和执行这个声明是件值得兴奋的事情吗?当然不是。但是当足够的聪明人放入足够的思考和前瞻后,我们有可能发现怎样制造一个友善的超人工智能。

但是现在有各种政府、公司、军方、科学实验室、黑市组织在研究各种人工智能。他们很多在试图制造能自我改进的人工智能,总有一天,一个人的创新将导致超人工智能的出现。专家们认为是2060年,Kurzweil认为是2045年。Bostrom认为可能在未来的10年到21世纪结束这段时间发生,他还认为当这发生时,智能的起飞会快得让我们惊讶,他是这么描述的:

在智能爆炸之前,人类就像把炸弹当玩具的小孩一样,我们的玩物和我们的不成熟之间有着极大的落差。超级智能是一个我们还很长一段时间内都无法面对的挑战。我们不知道炸弹什么时候会爆炸,哪怕我们能听到炸弹的滴答声。


我们当然没有办法把所有小孩都从炸弹旁边赶跑——参于人工智能研究的大小组织太多了,而且因为建造创新的人工智能花不了太多钱,研发可能发生在社会的任何一个角落,不受监管。而且我们没办法知道准确的进度,因为很多组织是在偷偷摸摸的搞,不想让竞争对手知道,比如隔壁老王机器人公司这种公司。

对于这些组织来说,尤其让我们困扰的是他们很多都是在拼速度——他们创造一个一个更加聪明的弱人工智能系统,因为他们想要比竞争对手更快的到达目标。有些更有野心的组织,为了追逐创造出第一个强人工智能所能带来的金钱、奖励、荣誉、权力会把步子迈得更大。当你全力冲刺时,你是不会有太多时间静下来思考这些危险的。恰恰相反,他们很可能在早期系统中写尽量简单的代码,比如把目标设定成用笔写一句话,先让系统跑起来再说,反正以后还可以回过头来改的。对吧?

Bostrom等认为第一个超人工智能出现后,最可能的情况是这个系统会立刻意识到作为这个世界上唯一一个超人工智能是最有利的,而在快速起飞的情况下,哪怕它只比第二名快了几天,它也完全有时间碾压所有对手。Bostrom把这叫作决定性的战略优势,这种优势会让第一个超人工智能永远统治这个世界,不管在它的统治下我们是走向永生还是灭亡。

这种现象可能对我们有利,也可能导致我们的毁灭。如果那些最用心思考人工智能理论和人类安全的人能够最先造出一个友善的超人工智能的话,那对我们是很好的。

但是如果事情走向了另一面——如果超人工智能在我们搞明白怎样保证人工智能的安全性之前被达成,那么像隔壁老王这样不友善的超人工智能就会统治世界并把我们毁灭了。

至于现在的风口是哪里呢?简单来说,投资创新人工智能技术的钱,比投资人工智能安全研究的钱多很多。不乐观。

人工智能创新和人工智能安全的赛跑,可能是人类历史上最重要的一次竞争。我们真的可能结束我们对地球的统治,而那之后我们是永生还是灭绝,现在还不知道。

————————


我现在有一些奇怪的感觉。

一边是对于我们这个物种的思考,看来我们在这个重大的历史节点上只有一次机会,我们创造的第一个超人工智能也很可能是最后一个。但是我们都知道大部分产品的1.0版本都是充满bug的,所以这个事情还是很吓人的。另一边,Bostrom指出我们有很大的优势——我们是先手。我们有能力给这个事情提供足够的预警和前瞻,使我们成功的机会更高。

这一场豪赌的赌注究竟有多高?

如果超人工智能真的在21世纪达成,而造成的影响真的如大部分专家预测的一样极端而永久,我们肩上就真的是背负着巨大的责任。接下来几百万年的人们都在静静地看着我们,希望我们不要搞砸。我们可以给予未来所有人类以生命,甚至是永生,我们也可能终结人类这个特殊的物种,连同我们所有的音乐、艺术、好奇、欢笑、无尽的发现和发明,一起走向灭绝。

当我思考这些事情的时候,我只希望我们能够慢慢来,并且格外格外小心。从来没有任何事情比这个更重要——不管我们要花多少时间来把这件事情做对。

我不想死

不.想.死

我虽然觉得人类的音乐和艺术很美好,但是也没那么美好,很多还挺糟粕的。很多人的笑声很恼人。未来的人类其实没有真的在看着我们,因为他们还不存在。也许我们不需要太谨慎,那多麻烦呀。

如果人类在我死后才发现永生的秘密该多让人扫兴啊。

但是不管你是怎么想的,我们至少都应该想一想,应该和人讨论讨论,大家尽自己能尽的一份力。

这让我想起了《冰与火之歌》——大家斗来斗去的事情都不是事儿,北面高墙外的那些家伙才是事儿。我们站在平衡木上,小心翼翼的往前走,为平衡木上的种种事情困扰,但其实下一秒我们可能就会跌下平衡木。

而当我们跌下平衡木的时候,其它那些困扰都不再是困扰。如果我们落到比较好的那个吸引态,那些困扰会被轻易解决;如果我们落到比较糟的那个吸引态,就更没问题了,死人是不会有困扰的。

这就是为什么了解超人工智能的人把它称作人类的最后一项发明,最后一个挑战。


所以让我们认真的讨论这个话题。





======================
相关来源:

The most rigorous and thorough look at the dangers of AI:
Nick Bostrom – Superintelligence: Paths, Dangers, Strategies

The best overall overview of the whole topic and fun to read:
James Barrat – Our Final Invention

Controversial and a lot of fun. Packed with facts and charts and mind-blowing future projections:
Ray Kurzweil – The Singularity is Near

Articles and Papers:
J. Nils Nilsson – The Quest for Artificial Intelligence: A History of Ideas and AchievementsSteven Pinker – How the Mind WorksVernor Vinge – The Coming Technological Singularity: How to Survive in the Post-Human Era
Nick Bostrom – Ethical Guidelines for A SuperintelligenceNick Bostrom – How Long Before Superintelligence?
Nick Bostrom – Future Progress in Artificial Intelligence: A Survey of Expert Opinion
Moshe Y. Vardi – Artificial Intelligence: Past and FutureRuss Roberts, EconTalk – Bostrom Interview and Bostrom Follow-UpStuart Armstrong and Kaj Sotala, MIRI – How We’re Predicting AI—or Failing ToSusan Schneider – Alien MindsStuart Russell and Peter Norvig – Artificial Intelligence: A Modern ApproachTheodore Modis – The Singularity Myth
Gary Marcus – Hyping Artificial Intelligene, Yet Again
Steven Pinker – Could a Computer Ever Be Conscious?
Carl Shulman – Omohundro’s “Basic AI Drives” and Catastrophic Risks
World Economic Forum – Global Risks 2015
John R. Searle – What Your Computer Can’t Know
Jaron Lanier – One Half a Manifesto
Bill Joy – Why the Future Doesn’t Need Us
Kevin Kelly – Thinkism
Paul Allen – The Singularity Isn’t Near (and Kurzweil’s response)
Stephen Hawking – Transcending Complacency on Superintelligent Machines
Kurt Andersen – Enthusiasts and Skeptics Debate Artificial Intelligence
Terms of Ray Kurzweil and Mitch Kapor’s bet about the AI timeline
Ben Goertzel – Ten Years To The Singularity If We Really Really Try
Arthur C. Clarke – Sir Arthur C. Clarke’s Predictions
Hubert L. Dreyfus – What Computers Still Can’t Do: A Critique of Artificial Reason
Stuart Armstrong – Smarter Than Us: The Rise of Machine Intelligence
Ted Greenwald – X Prize Founder Peter Diamandis Has His Eyes on the Future
Kaj Sotala and Roman V. Yampolskiy – Responses to Catastrophic AGI Risk: A Survey
Jeremy Howard TED Talk – The wonderful and terrifying implications of computers that can learn