李开复:从1983到2017,我的幸运与遗憾

  • 时间:
  • 浏览:3

  文/李开复

  1

  今天跟大伙儿讲个故事。

  1983-1988年,我正在卡内基·梅隆大学读计算机博士。

  我正忙着暑期教书,秋天投身奥赛罗人机博弈(黑白棋游戏,那是机器第一次真正意义上打败人类冠军的比赛)。

  我的导师瑞迪教授(Raj Reddy,图灵奖得主、卡内基梅隆大学计算机系终身教授、美国工程院院士)从美国国防部得到了30万美元的经费,用来做不指定语者、大词库、连续性的语音识别。

  也要是说,他希望机器能听懂任何人的声音,然后 我还能能懂上千个词汇,懂大伙儿自然连续说出的每励志的话 。

  这俩 俩个 多多大问题还会当时无解的大问题。

  而瑞迪教授大胆地追到项目,希望一块儿处置这俩 俩个 多多大问题。他在全美招聘了30多位教授、研究员、语音学家、学生、程序运行池池员,以启动这俩 有史以来最大的语音项目。

  我也在这30人名单之内。

  当时的科研背景是,业界不可能 有类似于于今天深度图学习的算法,但老会 没法 实现数据标准化,数据量要是够够大。

  美国几大语音识别实验室(如MIT、 CMU、 SRI、 IBM、贝尔实验室)还会各用各的数据库,测试数据不同,训练数据不同,使用的语言模型不同,测试的词汇量要是同。要是都各称业界第一,大伙儿莫衷一是。

  而每个大公司还会此人 的商业需求,比如说在语音识别方面,当年做打字机的IBM想做语音打字机,垄断美国电信的AT&T要求贝尔实验室识别电话号码,要是大公司并没法 动力来帮助小公司或学校。而小公司和学校,往往必须资源做些较小的数据集,结果通常要是如大公司的好。

  不仅没法 ,数据不标准对AI研究而言是致命的,最后导致 要是大问题,包括:

  1、不可能 测试语料库不同,最后识别结果,大伙儿无法群克隆,也无法验证。彼此不认可,然后 我不可能 数据没法 打通,算法就更太少可能 打通了。

  2、不可能 每家做的领域不同,最后的结果还会可比。或多或少领域词汇量小,比较容易,然后 我做出结果要是可能 必须通用。或多或少领域词汇量大,然后 我约束要是,要是能说的内容没法 来太少,导致 比较容易识别,要是能通用。

  3、不可能 每家训练集不一样大,而训练集越大,一般结果越好。要是,有不可能 结果做的好,被认为并还会靠算法,要是靠数据量大。

  4、对于学术单位来说,最大的大问题来自于没法 足够的资源(也没法 兴趣)分派、清洗、标注少许的语料。对于小公司来说,语料和计算力还会大问题。

  最后,瑞迪教授计划采用“专家系统”来完成项目,不可能 这俩 土依据需用的数据有限。

  专家系统是早期人工智能的一俩个 多多重要分支,然后 把它看作是一类具有专门知识和经验的计算机智能程序运行池池系统,一般采用人工智能中的知识表示和知识推理技术来模拟通常由领域专家还能能处置的多样化大问题。

  但我不认同。

  2

  完后 参加过的奥赛罗的人机博弈,让然后 对统计概念有了充分的理解,我对瑞迪教授的研究土依据产生动摇。

  我相信建立大型的数据库,然后 我对大的语音数据库进行分类,有不可能 处置专家系统必须处置的大问题。

  另外,在1985年,美国标准局 (NationalInstitute of Standards and Technology)也意识到数据不标准会影响科研进步。要是在语音识别大问题上,标准局设定了标准的语音和语言的训练集、测试集。要求每个学校的每个团队都用同样的训练集来训练模型,还能能此人 调好系统参数,比赛最后一天大伙儿拿到数据,有一天时间跑出结果,大伙儿评比。

  我从这俩 标准数据集和测试看到不可能 。

  再三思考后,我决定鼓足勇气,向瑞迪教授直接表达我的想法。我对瑞迪说:“然后 我转投统计学,用统计学来处置这俩 ‘不特定语者、大词汇、连续性语音识别’。”

  我以为瑞迪会或多或少失望,没想到他或多或少都没法 生气,他轻轻地问:“那统计土依据怎么才能 才能 处置这三大大问题呢?”

  瑞迪教授耐心地听完我激情的回答后,用他那永远温和的声音我不在 乎 :“开复,你对专家系统和统计的观点,我是不同意的,然后 我让然后 支持你用统计的土依据去做,不可能 我相信科学没法 绝对的对错,大伙儿还会平等的。然后 我,我更相信一俩个 多多有激情的人是不可能 找到更好的处置方案的。”

  那一刻,我的感动无以伦比。不可能 对一俩个 多多教授来说,学生要用此人 的土依据作出一俩个 多多与他唱反调的研究。教授不但没法 动怒,还给予充分的支持,这在要是地方是不可想象的。

  统计学需用大数据库,大伙儿怎么才能 才能 还能能建立起大的数据库呢?

  瑞迪教授看到我愁眉不展的样子,再一次给了我支持。是我不好,“开复,觉得说我还是对你的研究土依据有所保留,然后 我,在科学的领域里,我觉得也无所谓老师和学生的区别,大伙儿还会面临这俩 俩个 多多大问题的攻克者,要是,不可能 你真的需用数据库,没法 ,让然后 去说服政府帮你建立一俩个 多多大的数据库吧!”

  瑞迪教授然后 说服了美国政府部门和美国标准局分派并提供了少许数据。我用美国标准局提供的标准大数据,跟多家拿国家钱的机构数据,然后 或多或少不拿国家钱的单位(如:IBM,AT&T)也参与进来,我可使用的数据越滚越大。

  除了大数据,统计学的土依据还需用非常快的机器,瑞迪教授又让然后 购买了最新的Sun 4机器。此后每次有新的机器,他还会说:“先问问开复要太少。” 做论文的两年多,我大概花了他几十万美元的经费。

  瑞迪教授的宽容再次让然后 感觉到四种 伟大的力量,这是四种 自由和信任的力量。

  3

  在导师的支持下,我然后然后刚结束疯狂的科研工作。

  当时,我带着另一位学生一块儿用统计的土依据做语音识别。一块儿,或多或少30多人用专家系统做同样的大问题。从土依据上来说,大伙儿在竞争,然后 我在瑞迪教授的领导下,大伙儿分享一切,大伙儿用同样的样本训练和测试。

  在1986年底,我的统计系统和大伙儿的专家系统达到了大概一样的水平,40%的辨认率。这觉得还是完整篇 必须用的系统,但毕竟是学术界第一次尝试没法 难的大问题,大伙儿还是比较欣喜和乐观的。

  1987年5月,大伙儿大幅度地提升了训练的数据库,采用了新的建模土依据,不但还能能用统计学的土依据学习每一俩个 多多音,然后 我还能能用统计学的土依据学习每一俩个 多多音之间的转折。针对或多或少音的样本不够,我又想出了四种 土依据(generalized triphones)来合并或多或少的音。这三项工作你造把机器的语音识别率从一俩个 多多多的40%提高到了30%!然后 又提高到96%。

  统计学的土依据用于语音识别初步被验证是正确的方向。

  大伙儿都相信了我用的机器学习土依据和隐马可夫模型算法,然后 我离开了不可行的专家系统(专家系统只达到30%的识别率)。在我的博士论文基础上,然后 的Nuance,微软、苹果7手机手机5等公司做出了业界最领先的产品。

  1988年4月,我受邀到纽约参加一年一度的世界语音学术会议,发表学术论文。

  这俩 成果撼动了整个学术领域。这是当时计算机领域里最顶尖的科学成果。

  语音识别率大幅度提高,让全世界语音研究领域闪烁出一道希望的光芒,从此,所有以专家系统研究语音识别的人完整篇 转向了统计土依据。

  会后,《纽约时报》派记者JohnMarkoff来到匹兹堡对我作了采访,文章发表于1988年7月6日,占了科技版首页的整个半版。在这篇文章里,马可奥夫大力报道了我的论文的突破。当时,我只觉得在和一俩个 多多和蔼可亲的记者聊天,事后,我才知道这是一名才华横溢的著名记者,三次提名普利策奖,并在斯坦福兼教。

这是1988年,《纽约时报》对我博士论文的报道

  然后 ,《商业周刊》把我的发明的故事的故事选为1988年最重要的发明的故事的故事的故事。年仅26岁初出茅庐的我,第一次亮相就获得一俩个 多多多的成功,让然后 感到很幸运,也让然后 有了继续向科技高峰攀爬的动力。

  而我也然后 我拿到了卡内基·梅隆大学的计算机博士学位,这离我1983年入学必须4年半的时间。在卡内基·梅隆大学的计算机学院,同学们平均6年以上还能能拿到博士学位,我用没法 短的时间拿到博士学位,是一项新的纪录。

  我也然后 我破格留校,成为一名26岁的助理教授。

  4

  遗憾的是,觉得我找到了方向和基本土依据,但以当时的数据量级和计算水平,语音AI研究没法 有商业化不可能 。我最终还是离开科研界,进入商界,用产品改变世界。

  30年过了,AI发展的土壤终于肥沃起来。

  伴随互联网和移动互联网而来的大数据、高效的计算机运算能力等条件都齐备了。科研人员需用的数据集不再没法 难以触碰,要是需用许多人牵头让更多的公司参与进来。这在30多年前,我还是一俩个 多多AI科研人员的时代,能接触到真实世界里没法 海量的数据,是个遥不可及的梦想。

  我当年受惠于瑞迪教授的帮助和指导,今天也非常希望能给更多和我一样的年轻人,创造研究不可能 和条件。

  要是,昨天创新工场、搜狗、今日头条联合发起“AI Challenger 全球AI挑战赛”。三家公司分别投入少许资金、也追到千万量级高质量开放数据集与宝贵GPU资源。

  一块儿,我也倡导商界和科研界能采用少许的数据和标准的测试土依据,也欢迎更多的数据公司还能能参与到这俩 平台里。

  希望大伙儿推出的Challenger.ai,还能能帮助到中国AI人才成长。

  在我看来,这次AIChallenger绝对不要是一俩个 多多活动,也绝对不要是一俩个 多多奖金30万、年底就然后然后刚结束的竞赛,这是推进中国AI人才成长的重大催化剂。

  希望3年或5年后,大伙儿再来回顾这俩 段光阴里,大伙儿发现中美AI人才之间没法 落差了,还能想到AI Challenger在一俩个 多多多重大过程中扮演了一俩个 多多小小角,然后 感到这俩 切还会价值。

  欢迎大伙儿登录大赛官网Challenger.ai,获取信息并报名。关于这场大赛的具体信息可点击文末的链接了解(要在电脑页面上还能能报名哦)。

  大伙儿不可能 无法想象,我有多么羡慕大伙儿,生活在数据爆炸的时代,许多人提供数据和奖金池,让有才华的人一展拳脚。