随着人工智能系统越来越多地渗透到我们日常生活中的关键决策过程中，将伦理框架融入人工智能开发正成为研究的优先事项。在马里兰大学（UMD），跨学科团队正在处理规范推理、机器学习算法和社会技术系统之间的复杂相互作用。
在最近接受人工智能新闻的采访中，博士后研究员伊拉里亚·卡纳沃托和维什纳夫·卡梅斯瓦兰结合了哲学、计算机科学和人机交互的专业知识，以应对人工智能伦理中的紧迫挑战。他们的工作涵盖了将伦理原则嵌入人工智能架构的理论基础，以及人工智能在高风险领域（如就业）部署的实际影响。
人工智能系统的规范理解
伊拉里亚·卡纳沃托是UMD价值中心人工智能（VCAI）计划的研究员，隶属于高级计算机研究所和哲学系。她正在探讨一个基本问题：我们如何能赋予人工智能系统规范理解？随着人工智能越来越多地影响人权和福祉的决策，系统必须理解伦理和法律规范。
“我研究的问题是，我们如何将这种信息，即对世界的规范理解，输入到一个可以是机器人、聊天机器人等的机器中？”卡纳沃托说。
她的研究结合了两种方法：
自上而下的方法：这种传统方法涉及将规则和规范明确编程到系统中。然而，卡纳沃托指出，“将它们写下来是几乎不可能的。总会出现新的情况。”
自下而上的方法：一种较新的方法，使用机器学习从数据中提取规则。虽然更灵活，但缺乏透明度：“这种方法的问题在于，我们并不真正知道系统学到了什么，而且很难解释它的决策，”卡纳沃托指出。
卡纳沃托和她的同事杰夫·霍提和埃里克·帕库特正在开发一种混合方法，以结合这两种方法的优点。他们的目标是创建能够从数据中学习规则，同时保持基于法律和规范推理的可解释决策过程的人工智能系统。
“[我们的]方法……基于一个叫做人工智能与法律的领域。在这个领域，他们开发了从数据中提取信息的算法。因此，我们希望将这些算法进行概括，然后拥有一个可以更普遍地提取基于法律推理和规范推理的信息的系统，”她解释道。
人工智能对招聘实践和残疾包容性的影响
虽然卡纳沃托专注于理论基础，维什纳夫·卡梅斯瓦兰则隶属于UMD的国家科学基金会可信人工智能与法律与社会研究所，研究人工智能的现实影响，特别是对残疾人士的影响。
卡梅斯瓦兰的研究探讨了人工智能在招聘过程中的使用，揭示了系统如何无意中对残疾候选人产生歧视。他解释道：“我们一直在努力……稍微打开黑箱，试图理解这些算法在后台做了什么，以及它们如何开始评估候选人。”
他的研究结果显示，许多基于人工智能的招聘平台在评估候选人时过于依赖规范行为线索，例如眼神接触和面部表情。这种方法可能会显著使某些残疾人士处于不利地位。例如，视力受损的候选人可能在保持眼神接触方面遇到困难，而这通常被人工智能系统解读为缺乏参与感。
“通过关注这些特质并基于这些特质评估候选人，这些平台往往会加剧现有的社会不平等，”卡梅斯瓦兰警告道。他认为，这一趋势可能会进一步边缘化在职场中已经面临重大就业挑战的残疾人士。
更广泛的伦理格局
两位研究人员强调，围绕人工智能的伦理问题远远超出了他们特定的研究领域。他们提到了几个关键问题：
- 数据隐私和同意：研究人员强调当前同意机制的不足，特别是在人工智能训练的数据收集方面。卡梅斯瓦兰引用了他在印度工作的例子，在COVID-19大流行期间，脆弱群体在不知情的情况下向基于人工智能的贷款平台提供了大量个人数据。
- 透明度和可解释性：两位研究人员强调理解人工智能系统如何做出决策的重要性，尤其是当这些决策对人们的生活产生重大影响时。
- 社会态度和偏见：卡梅斯瓦兰指出，单靠技术解决方案无法解决歧视问题。需要对边缘化群体（包括残疾人士）的态度进行更广泛的社会变革。
- 跨学科合作：研究人员在UMD的工作体现了哲学、计算机科学和其他学科在解决人工智能伦理问题上的合作重要性。
展望未来：解决方案与挑战
尽管挑战重大，但两位研究人员正在努力寻找解决方案：
- 卡纳沃托的规范人工智能混合方法可能会导致更具伦理意识和可解释的人工智能系统。
- 卡梅斯瓦兰建议为倡导团体开发审计工具，以评估人工智能招聘平台的潜在歧视。
- 两人都强调需要政策变革，例如更新《美国残疾人法》，以应对与人工智能相关的歧视。
然而，他们也承认问题的复杂性。正如卡梅斯瓦兰所说：“不幸的是，我认为仅仅通过某些数据训练人工智能和审计工具的技术解决方案本身并不能解决问题。因此，这需要多管齐下的方法。”
研究人员工作的一个关键启示是需要提高公众对人工智能对我们生活影响的认识。人们需要知道他们分享了多少数据或这些数据是如何被使用的。正如卡纳沃托指出的，企业往往有动机掩盖这些信息，将其定义为“试图告诉你，如果你给我数据，我的服务会对你更好。”
研究人员认为，必须做更多的工作来教育公众并追究企业的责任。最终，卡纳沃托和卡梅斯瓦兰的跨学科方法，结合哲学探究与实际应用，是确保人工智能系统既强大又伦理和公平的正确方向。
想了解更多行业领袖关于人工智能和大数据的内容吗？ 请查看人工智能与大数据博览会，该活动将在阿姆斯特丹、加利福尼亚和伦敦举行。该综合活动与其他领先活动共同举办，包括智能自动化会议、区块链博览会、数字转型周和网络安全与云博览会。
探索由TechForge提供的其他即将举行的企业技术活动和网络研讨会这里。
