为了建立一个人类可以信任的人工智能系统，承担生死攸关的责任，机器将需要发展一个非常人性化的特质。承认自己的错误。
人工智能系统可以犯错却不认错
作者：Tara Haelle
2022年4月5日C 人工智能系统正在建立，以帮助诊断疾病，但在我们可以信任它们承担生死攸关的责任之前，人工智能将需要发展一个非常人性化的特质。承认错误。
而事实是：他们还不能这样做。
剑桥大学和奥斯陆大学的研究人员表示，今天，人工智能对一个问题提供正确答案的次数比它意识到自己犯了错误的次数还要多。
他们报告说，这一基本缺陷源于一个数学问题。
一些数学语句不能被证明是真的或假的。例如，我们大多数人在学校所学的数学，用来寻找简单和棘手问题的答案，然后不能用来证明我们应用数学的一致性。
也许我们给出了正确的答案，也许我们没有，但我们需要检查我们的工作。这是计算机算法大多无法做到的，仍然如此。
这是数学家阿兰-图灵和库尔特-格德尔在20世纪初首次发现的一个数学悖论，它标志着一些数学问题无法被证明。
数学家斯蒂芬-斯麦尔接着将这一基本的人工智能缺陷列为世界上18个未解决的数学问题之一。
在数学悖论的基础上，由剑桥大学应用数学和理论物理系的马修-科尔布鲁克博士领导的研究人员提出了一种新的方法来对人工智能的问题领域进行分类。
在《美国国家科学院院刊》中，研究人员描绘了当以人脑的神经元网络C为模型的人工智能神经网络C实际上可以被训练以产生更可靠的结果的情况。
这是制造更智能、更安全的人工智能系统所需的重要早期工作。
