新智造按：本文作者Jeffrey Norris，来源UC Berkeley，由新智造独家编译，未经许可拒绝转载！
随着自动化技术的不断进步，我们如何让人工智能和机器人与我们和谐共处？加州大学伯克利分校正计划在这一周内成立一家新的AI中心，以探索如何使机器人与人类保持和谐。据悉，该中心将由著名AI专家Stuart Russell担任主任，他是伯克利分校的电机工程和计算机科学教授，也是《人工智能：一种现代方法》的合著者。这本书在AI领域具有重要影响力，它提倡将人类价值观融入AI设计中。
该中心团队成员包括来自伯克利的Pieter Abbeel、Anca Dragan以及认知科学家Tom Griffiths，以及来自康奈尔大学、密歇根大学等地的其他AI专家。Russell表示，他们希望未来能够吸引经济学、哲学等领域的人才加入，研究中心的目标是确保AI系统有益于人类社会。此外，该中心获得了Open Philanthropy Project550万美元的启动资金，并且还获得了Leverhulme Trust和Future of Life Institute的大量研究资助。
Russell认为目前研发出的机器人完全出自人类之手，如果让一个家庭用途的清洁机器清理浴缸，它可能会像《戴帽子的猫》中的猫一样，不理解干净白裙子的价值比干净浴缸更大，从而使用妈妈的一件白裙子去擦拭浴缸。目前，AI设计尚未与人类价值观达成一致，而这个研究中心旨在通过最先进的人工智能系统，为数百亿人口提供必要服务。他还强调，“任何时候，所有决策都应该由人类做出。”
目前，他们正在开发逆向增强学习，其中机器人通过观察人类行为来学习并理解人类价值观，比如通过看到人们早上起床时痛苦的情形以及起床后费劲地做一杯拿铁来认识到对人的咖啡早晨意味着什么。
“直接植入算法中的某些价值观是不恰当的，”Russell说，“必须允许它们通过学习了解这些价值。”除了观察，还有阅读也是非常重要的手段。“所有给予他们阅读材料都是关于如何工作以及他人的看法。”
然而，即便如此，在AI领域仍然存在巨大的挑战。“不同的人拥有不同的价值观，因此要实现所有值得尊敬的是不可能的，”他承认。“各种各样的文化背景促使我们尝试理解我们希望它做的事情，并学会在个体之间进行平衡。”
最近，Russel撰写了一篇名为《它们会让我们成为更好的自己吗？》文章。在这篇文章中，他得出了结论：“如果能让我们的行为更加符合我们的目的，这或许可以帮助我们对自己的行为产生更深刻的理解。此外，我们也应该意识到，与来自不同文化背景的人们相似之处远多于差异。”
