近日,总部位于美国宾夕法尼亚州匹兹堡的卡内基梅隆大学获得了2000万美元的联邦资金,用于创建一个旨在制定公共政策的全新人工智能研究所。

该研究所将促进人工智能工具的改进,以协助自然灾害和公共卫生事件等社会环境下的决策程序。

该大学机器学习系教授 Aarti Singh 将担任研究所所长。 该研究所的研究人员将在开发和培训新技术的同时咨询公共卫生官员、应急管理人员和社区工作人员,以及行为和认知科学家。

Aarti Singh表示,研究所的主要目标之一是创造“以人为中心”的人工智能。她相信人工智能可以在帮助决策者和官员在不同情况下做出更明智决定方面发挥至关重要的作用。我们需要开发为人民服务的人工智能技术,它实际上是建立在经过审查的数据、经过审查的算法、来自所有利益相关者的反馈和参与式设计之上的。

该研究所的研究人员会在咨询公共卫生官员,应急管理人员和社区工作者以及行为和认知科学家的前提下开发和训练新技术。

此外,Aarti Singh 指出,人工智能的道德使用是该研究所的“中心目标”,开发人员和研究人员在此过程中必须“小心”。我认为关键的事情之一是确保我们以合乎道德的方式与人工智能互动,以便在需要时部署它。

与此同时,世界各国政府开始研究人工智能在政策和法规中的使用。在罗马尼亚,政府最近推出了一个人工智能聊天机器人,通过公众参与为政策决策提供信息。美国和中国等国家的其他全球领导者也正在考虑对这项技术进行新的监管。在欧盟,立法者正在最终确定一项新的人工智能法案,重点是生成人工智能工具的指导方针。