探索人工智能信任度的新篇章：评估用户信任的实用策略 在我们日常生活中，人工智能无处不在，从智能手机的语音助手到医疗领域的癌症诊断辅助，机器智能正以惊人的速度介入我们的决策过程。然而，关键的问题在于：人类如何判断是否对这些智能系统抱有信心？这个问题正是美国国家标准技术研究院(NIST)新发布的草案《人工智能与用户信任》(NISTIR 8332)的核心议题，该报告正公开征询公众意见，直至2021年7月30日。 NIST致力于打造可信赖的AI系统，他们的努力不断扩展。这份报告关注的是，当人们在使用或受AI影响时，如何体验并衡量信任。NIST的Brian Stanton指出，信任的度量并非易事，需要考虑众多因素，包括用户对系统的主观感受，以及他们对潜在风险的认知。 心理学家Stanton与NIST的计算机科学家Ted Jensen合作，他们的研究源于对人类信任历史的深入剖析，以及信任如何影响我们的思维过程。随着AI承担起超越人类能力的重任，他们特别关注AI相关的信任挑战。例如，AI能处理海量数据，识别出人类难以察觉的细节，如港口安全监控中的儿童安全问题。 NIST的出版物提供了一个九因素模型，帮助我们理解用户对AI系统的信任度。这九个因素涵盖了任务性质和信任决策中涉及的风险。例如，音乐推荐算法的准确性可能并不需要过高，但用于医疗诊断的AI系统则需达到90%的精准度，这无疑是一项重大的风险决策。 斯坦顿强调，这些理论框架建立在深入研究的基础上，期待公众的智慧来丰富和完善。他说：“我们构建了一个AI信任度的模型，期待从科学社区的反馈中获取实验验证的启示。这不仅仅是一个理论框架，而是我们共同探索信任在AI时代的新路径。” 对于人工智能的发展来说，理解和建立用户信任度至关重要，这不仅关乎技术的推进，更是影响着人类与机器交互的未来。NIST的这份报告为我们提供了一个深入思考和讨论的契机，期待它引领我们走向一个更加信任、安全的智能世界。