美国谷歌DeepMind机器人团队起草"机器人宪法",防止AI机器人伤害人类

2024-01-09  美国 来源:其他 作者:董蓉 领域:先进制造

关键词:

据澎湃新闻1月5日消息,美国谷歌DeepMind机器人团队公布了三项新进展,称这些进展将帮助机器人在自然环境中做出更快、更好、更安全的决策。其中一项进展是一个收集训练数据的“机器人宪法”系统——AutoRT。谷歌的数据收集系统AutoRT利用了基础大模型的潜力,有助于开发能够理解人类实际目标的机器人。它通过收集数据帮助扩展机器人学习,从而更好地训练机器人适应现实世界。这部“机器人宪法”的灵感来自科幻作家艾萨克阿西莫夫(Isaac Asimov)的“机器人三定律”,即机器人不得伤害人,也不得见人受伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身安全,但不得违反第一、第二定律。

消息来源:https://www.thepaper.cn/newsDetail_forward_25910703