巅峰学霸 第456节（5 / 7）
它们的价值将跟社会主流价值观所锚定。它们存在的意义则是为了维持跟推动地球人类文明的发展。」
乔喻掷地有声的说道。
没办法，这种程度的研究是需要经过学术伦理委员会审核的。
现在内部对于发展人工智能，或者说人工智能应该朝着哪个方向发展，其实还有争议。
托诸多a类科幻电影里面的主机系统动不动就想灭绝人类的福，许多人对人工智能的发展本就保持着极为谨慎的态度。
但这显然并不在乔喻的考虑范围内。
「嗯」田言真还想说些什么，却再次被乔喻打断「我知道您还有忧心，但其实从您给我布置任务开始，我已经思考这个问题很久了。
诚然，所谓的机器人三大定律肯定是不靠谱的。即便增加了零号定律，依然有着严重的逻辑漏洞。
但这些并不是问题。我希望数学赋予机器的不是冰冷的规则，而是连续变化的情境中寻找伦理最优解的动态能力。
甚至我们最终设计的通用人工智能并不是真正的产生意识。
伦理决策可以用代数去约束，价值度量接入微分几何模型，意识收敛需求的拓扑条件换句话说，我们创造的通用人工智能是一个高度类似具备意识的智能体。但其实它不会拥有自我意识。
它通过数学去量化复杂的善恶，它做出的决策，不会去牺牲无辜他人的利益去满足所谓人类整体利益的最大化。
就好像核弹一样，它只是一件工具，推动各类科学飞速发展的工具。本身并不具备善恶。
人类的未来始终还是由人类来决策。我们要做，或者说正在做的只是推动科学正常的向前发展而已。」
一直在旁观的郑希文只看表情就知道田言真是彻底被乔喻说服了。
↑返回顶部↑
乔喻掷地有声的说道。
没办法，这种程度的研究是需要经过学术伦理委员会审核的。
现在内部对于发展人工智能，或者说人工智能应该朝着哪个方向发展，其实还有争议。
托诸多a类科幻电影里面的主机系统动不动就想灭绝人类的福，许多人对人工智能的发展本就保持着极为谨慎的态度。
但这显然并不在乔喻的考虑范围内。
「嗯」田言真还想说些什么，却再次被乔喻打断「我知道您还有忧心，但其实从您给我布置任务开始，我已经思考这个问题很久了。
诚然，所谓的机器人三大定律肯定是不靠谱的。即便增加了零号定律，依然有着严重的逻辑漏洞。
但这些并不是问题。我希望数学赋予机器的不是冰冷的规则，而是连续变化的情境中寻找伦理最优解的动态能力。
甚至我们最终设计的通用人工智能并不是真正的产生意识。
伦理决策可以用代数去约束，价值度量接入微分几何模型，意识收敛需求的拓扑条件换句话说，我们创造的通用人工智能是一个高度类似具备意识的智能体。但其实它不会拥有自我意识。
它通过数学去量化复杂的善恶，它做出的决策，不会去牺牲无辜他人的利益去满足所谓人类整体利益的最大化。
就好像核弹一样，它只是一件工具，推动各类科学飞速发展的工具。本身并不具备善恶。
人类的未来始终还是由人类来决策。我们要做，或者说正在做的只是推动科学正常的向前发展而已。」
一直在旁观的郑希文只看表情就知道田言真是彻底被乔喻说服了。
↑返回顶部↑