“闪电崩盘”之后的金融AI安全性

AI的进展很可能会给金融行业带来巨大的盈利机会。同时,验证对金融软件的安全性来说,也十分重要。美国公司骑士资本集团在2012年8月尝到了血泪般的教训:它在45分钟内损失了4.4亿美元,只因其部署了未经验证的交易软件...

《生命3.0》一书中,作者迈克斯·泰格马克对人类的终极未来进行了全方位的畅想,从我们能活到的近未来穿行至1万年乃至10 亿年及其以后,从可见的智能潜入不可见的意识,重新定义了“生命”“智能”“目标”“意识”,并澄清了常见的对人工智能的误解,将帮你构建起应对人工智能时代动态的全新思维框架,抓住人类与人工智能共生演化的焦点。

  • 作者在书中向我们介绍了人工智能安全性研究的4个主要领域。这4个领域是当今人工智能安全性研究方面讨论的主流,世界各地都有学者正在钻研。它们分别是:验证(verification)、确认(validation)、安全(secutiry)和控制(control)。
  • 信息技术让金融资源在全球范围内以光速进行高效地重新分配,让所有昂贵的东西,比如按揭贷款和创业,变得唾手可得。人工智能的进展很可能会给金融贸易行业带来巨大的盈利机会,比如,如今股票市场中的大部分买卖决定都是由计算机自动做出的。
  • 信息技术在发电和配电方面发挥了神奇的作用。它用精巧的算法在全球电网中对电力的生产和消耗进行平衡,并用复杂的控制系统保持发电厂安全有效地运行。未来的人工智能程序有可能将智能电网变得更加智能,它能对时时变化的电力供给和需求进行优化调整,甚至能在单个屋顶太阳能电池板和单个家用蓄电池系统的层面上进行调整。
  • 随着人工智能越来越聪明,我们这不仅需要为信息共享开发出更好的用户界面,还需要研究如何才能在人机协作的团队中更好地分配任务。比如,将一部分控制权移交给人工智能,将人类的判断力运用到价值最高的决策问题上,而不是让许多不重要的信息来分散人类操控者的注意力。

在节目中,你还将听到:

  • 华尔街的“闪电崩盘”与金融软件的验证
  • 能源业的事故与人工智能的未来