MY Database

亚马逊修改了算法，使评分变得中立，但无法保证性的候选人分类方法。 最终，亚马逊在 2016 年解散了该团队，因为高管们对该项目失去了信任，招聘人员也从未完全依赖其排名。这项实验为那些希望实现招聘流程部分自动化的公司提供了一个教训，并凸显了机器学习的局限性。 黑箱问题 人工智能黑箱问题是计算机领域的一大担忧，因为它指的是，对于大多数基于人工智能的工具，我们不知道它们是如何工作的。

我们可以看到这些工具的输入和输出，但看不到它们之间的菲律宾电报放映流程和工作原理。这种缺乏理解的情况使得我们很难相信人工智能的决策，因为在没有任何道德准则或对输出缺乏充分理解的情况下，人工智能也可能犯错。 这个问题的根源在于人工神经网络和深度学习，它们由隐藏的节点层组成，这些节点处理数据并将其输出传递到下一层。实际上，没有工程师可以准确地告诉你模型是如何得出结论的。

这就像要求神经科医生观察大脑活动并告诉我们某人在想什么一样。 虽然人工智能系统的价值不可否认，但如果不了解其底层逻辑，我们的模型可能会导致代价高昂的错误，而且我们除了说“嗯，这似乎是错的”之外，无法判断到底发生了什么。 例如，如果人工智能系统在医疗环境中用于诊断患者或推荐治疗方案，那么一旦出现问题，最终谁将承担责任？这个问题凸显了在关键应用中使用人工智能时需要加强监督和监管，因为错误可能会造成严重后果。