如何使用AI使用中介理论

在本文中，我们将调解观点应用于人工智能。以工作场所的医学诊断和数字监控为例，我们解释了AI系统如何帮助塑造人与世界之间的关系，在这种情况下：医生和患者以及雇主和雇员。在个人和社会层面上分析这些中介角色可能是提出道德问题的富有成果的起点。

为了分析和预测AI系统对人类和社会的影响，技术调解的方法可能会有所帮助。AI系统调解了人类与环境之间的关系：当使用时，它们有助于塑造人们的看法和解释，以及他们所参与的行为和社会实践。

从哪儿开始

为了库存这些调解，重要的是要首先分析人类与其环境之间的关系，因为它们通过技术成形。例如，如果专家系统为癌症诊断的医生提供建议，该系统一方面介导了医生与患者，医疗图像和另一个同事之间的关系。调解发生在这些关系中。

诊断AI系统根据获得模式识别的“专业知识”为医生提供了医学图像的分析。这首先为医生提供了与图像的新关系：AI系统通常比医生本身更好地看待事物，这可能是医生的新学习过程的来源，或者带来挑战以承担诊断的责任部分来自专家系统，而不是人类专业知识。这也影响医生与患者之间的关系。它可能会引发信任问题，例如：患者如何信任医生关于AI系统的专业知识以及系统的专业知识。该系统还可以影响护理的关系：可能会为医生提供更多专注于整个患者的空间，而不仅仅是潜在的癌症诊断。在社会层面上，这些调解可能会导致对医生的培训提出新的要求，以及评估其工作质量的新框架。在社会层面上，这些AI系统可能会导致应对责任问题的新方法。

用于数字监控的AI

另一个示例是在工作场所进行数字监控，请参阅报告“工作重视：在工作场所的数字监控限制”。组织正在使用更多的数据和其他类型的数据，除了工作时间之外，还在使用。Monitoring is no longer limited to what a supervisor can see or read in typical HR-reports, like employment records, the amount of leave taken, etc. AI makes it possible to track and interpret more intimate data, like someone’s facial expressions, or word choice. These data are then analysed using algorithms and AI to generate new insights, for instance to assess performance and to measure productivity, but also to evaluate suitability, potential of future success, wellbeing and commitment. This is all information that workers have not shared voluntarily, and possibly do not even know about themselves. And they are given feedback in new and subtle ways, via gaming techniques, nudges, or notifications. Moreover, monitoring is no longer limited to the interaction between the organisation and the worker; monitoring technology may also be in the hands of a third party.

从中介的角度来看，这些系统会影响员工与雇主之间的关系，以及员工与其自身绩效以及员工之间的关系。在雇主和员工之间，这些系统会影响评估机制，员工的隐私以及雇主对员工的权力。同时，数字监控介导了员工如何体验他们工作的组织，他们的承诺以及对他们的信任。此外，这样的系统为员工提供了新的方法来监视，解释和修改自己的绩效。在社会层面上，这可能会引起有关生产力，有意义的工作价值以及工作场所自主权和隐私的新规范，只是提及一些潜在的调解。

阅读更多

• 关联谈论军事中的人工智能，将调解理论与人工智能的伦理联系起来。
• 在里面值得工作报告Rathenau Instituut警告使用数据，算法和AI在工作场所中过度监控。该研究所要求雇主，雇员和政府对数字工具设定限制。