为了理解人工智能偏见及其对B2B借贷的影响，我们来看看一些潜在的原因。
被称为“群众智慧”的众包概念是指一千个非专业人士会比任何领域最老练的专家做出更好的决定。围绕这个概念已经进行了多次实验。例如，使用在线游戏Foldit在美国，超过57,000名玩家帮助华盛顿大学的科学家在三周内解决了一个长期存在的分子生物学问题。
然而，人类在做决定时往往会有偏见。一些例子包括:
- 过度自信:我们对自己的能力太自信了。
- 确认偏误:我们倾向于只听那些能证明我们观点的信息。
- 集群错觉:我们在随机事件中看到模式，比如数字7在赌桌上连续出现5次，你看到一个模式。
- 近因效应:与旧数据相比，我们更看重最新的信息。
- 鸵鸟的效果:我们掩埋或忽略负面信息。
- 信息偏差:越多不一定越好。
这可能会导致在我们设计的算法中出现人工智能偏见问题，我们试图让我们更有效率。我们应该认识到以下四个方面:
1.算法偏见:例如，您的模型可能受到利润率的驱动，并可能使贷款流向某些个人或企业。或者在医药行业，一些病人会为你赚钱，很大程度上依赖于保险，但这种模式可能会与病人的健康发生冲突。可能存在隐藏偏差和设计偏差。设计偏差可能是有意为之，因为算法设计者可能会与社会价值观或规范发生冲突。
2.数据偏差算法的好坏取决于它们所学习的数据，而偏见可能会嵌入数据中。例如，一些组织试图预测稀释，以便为发票融资。这绝不是一项小成就，尤其是在数据集通常被隔离在良性信贷世界的情况下。(见这个故事:不确定信贷世界中的确认后稀释.）
3.对算法含义的解释:算法是一个黑盒子，设计师可能知道模型的局限性以及如何解释它，但当涉及到贷款人或关系经理时，他们可能不知道如何解释。这就是我认为可能犯的最重要的错误第一类或第二类错误，也分别称为假阳性和假阴性。
4.谁负责模型做出的决定？虽然人工智能可能会产生更好的结果，但它也会降低自主性。
因此，在构建人工智能应用程序时，记住上述要点很重要。毫无疑问，人工智能有很大的优势，因为它可以减少固有的个人偏见。对于贷款应用程序，在查看更多数据集时变得更智能以帮助减少预期损失的能力非常有吸引力，但我们必须记住，大多数建模没有足够长的商业信贷周期。对于许多建立在近期数据基础上的模型来说，当这个漫长的良性信贷周期结束时，真正的担忧可能会出现。
讨论: