数据科学中的5个道德问题

数据科学中的道德问题

随着数据科学的快速增长，对组织的道德使用越来越关注。例如，引起关注为：

• 数据科学算法用于接受和拒绝银行贷款和应付保险的保险费。但是，问题出现了：银行贷款或保险的错误决定的社会成本是多少？
• 公司使用数据科学扫描简历，并推荐最佳角色候选人。但是，问题出现了：如果该算法基于过去的数据，则雇用算法中的性别或年龄偏见的机会是什么？
• 公司使用cookie来监视个人的在线行为，并根据浏览行为进行广告。但是，问题出现了：如果个人认为公司将其行为视为对隐私的侵犯，该怎么办？
• 航空公司使用数据科学根据个人的需求和乘车公司（例如Uber）根据需求来决定对个人的差异定价。但是，问题出现了：当这些公司迫切需要他们的服务时，这些公司是否有剥削个人超越手段的风险？

随着数据科学算法有助于和取代人类决策，每个组织都应牢记一些问题。滥用数据的一些领先的危害道德问题包括：

1.不公平的歧视

数据科学的不正确和未经检查的使用可能会导致基于性别，人口统计和社会经济条件对个人的不公平歧视。

As Jeff Welser, a VPt and lab director at IBM Corp.’s Research Almaden Research Center in San Jose, told SiliconANGLE in December, If you have really large data sets, you might not even realize that the data are slightly biased towards gender or whatever you’re analysing …. It might be that you’ve overtrained on those characteristics.’

2.加强人类偏见

加特纳（Gartner）（“加特纳（Gartner）说，近一半的CIO计划部署人工智能”，2020年）预测，到2022年，由于数据，算法或负责管理它们的团队的偏见，数据科学项目的85％将带来错误的结果。

数据科学算法使用过去的数据来预测未来的结果。数据是基于过去做出的决定而生成的。纯粹基于过去的数据训练算法可能会导致算法中包括其中的一些偏差。

算法也受到分析师偏见的影响，因为它们可能会选择对它们似乎重要的数据和假设。

3.缺乏透明度

数据科学算法有时可能是模型预测结果的黑匣子，但不能解释结果背后的理由。

许多最近的机器学习算法属于这一类别。有了黑匣子解决方案，企业不容易理解和解释业务决策的原因。

正如安德鲁斯（Andrews）指出的那样，“ AI系统是否产生正确的答案不是唯一的关注……高管需要了解其有效的原因，并在不这样做时提供有关其推理的见解。”

4.隐私

在过去的几年中，数据隐私已成为主要重点。敏感数据由各种组织存储，并受到黑客攻击和滥用。

在2016年美国总统大选期间，从事唐纳德·特朗普（Donald Trump）大选的数据分析公司Cambridge Analytica使用Facebook数据来影响美国大选中客户的行为。

透露：在重大数据泄露中为剑桥Analytica收获的5000万个Facebook个人资料。这一事件突出了与滥用数据有关的道德问题。

全世界的数据泄露情况都在增加。已经引入了规则和法规，例如一般数据保护法规（GDPR），以监视公司存储和使用敏感数据的方式。

5.同意和权力

组织对收集的数据并不透明，并使用它来做出决策。大多数Web浏览器和网站即使没有知识和同意，也可以捕获大量用户数据。

例如，Google（Chrome和Gmail）和Facebook存储单个浏览数据并通过出售用户数据以进行广告的见解来获利。

分析的人方面是实施大数据的最大挑战
保罗·吉本斯