站长之家（ChinaZ.com）3月29日 消息:日前，一项名为“六大以人为本的人工智能的挑战”的研究发表在《国际人机交互杂志》上。这项研究由中佛罗里达大学的一位教授和其他26名研究人员发表，确定了人类必须克服的挑战，以确保人工智能可靠、安全、值得信赖并符合人类价值观。

(资料图片)

UCF 工业工程和管理系统系助理教授 Ozlem Garibay "01MS "08PhD 是这项研究的首席研究员。她表示，AI技术在我们生活的许多方面变得更加突出，但也带来了许多必须研究的挑战。

例如，即将到来的人工智能的广泛集成可能会以尚未完全理解的方式对人类生活产生重大影响，Garibay 他致力于人工智能在材料和药物设计和发现中的应用，以及人工智能如何影响社会系统。。

Garibay 和研究团队确定的六个挑战分别包括:

挑战1，人类福祉:人工智能应该能够发现它造福人类福祉的实施机会。在与人工智能交互时，还应该考虑周到，造福用户。

挑战2，负责任:负责任的 AI 是指在 AI 生命周期中优先考虑人类和社会福祉的概念。这可确保以符合人类价值观和优先事项的方式利用人工智能的潜在优势，同时降低意外后果或违反道德规范的风险。

挑战3，隐私:应仔细考虑人工智能系统中数据的收集、使用和传播，以确保保护个人隐私并防止对个人或群体的有害使用。

挑战4，设计:AI 系统以人为本的设计原则应该使用可以为从业者提供信息的框架。这个框架将区分风险极低的AI、不需要特别措施的AI、风险极高的AI和不应该被允许的AI。

挑战5，治理和监督:需要一个治理框架来考虑从概念到开发再到部署的整个 AI 生命周期。

挑战6，人机交互:为了在人机系统之间建立道德和公平的关系，交互必须建立在尊重人类认知能力的基本原则之上。具体来说，人类必须对人工智能系统的行为和结果保持完全的控制和责任。

这项研究进行了20多个月，包含了26位在 AI 技术领域具有不同背景的国际专家的观点。

“这些挑战要求创造以人为本的人工智能技术，优先考虑道德、公平和增进人类福祉，”Garibay 说。“挑战促使采用以人为本的方法，包括负责任的设计、隐私保护、遵守以人为本的设计原则、适当的治理和监督，以及与人类认知能力的尊重互动。”

她说，总的来说，这些挑战呼吁科学界采取行动，开发和实施优先考虑和造福人类的人工智能技术。

（举报）