2023年第04期（2023年04月）No.04202362黑河学院学报JOURNALOFHEIHEUNIVERSITY以大数据作为支撑，算法决策作为引擎的大数据时代已经来临。大数据是算法的依托，算法是大数据的问题表达式，算法将零散孤立无交集的大数据，经过收集、提取、分析、统计、组织呈现，而大数据处理关键技术正是包含了大数据采集、大数据预处理、大数据存储及管理、大数据分析及大数据挖掘、大数据呈现和各个领域的应用(如大数据检索、大数据可视化、大数据应用、大数据安全等)。于是算法在云计算、大数据、人工智能时代下的影响力正逐渐放大，俨然成为人类在社会生活中各项决策的推手，引导人们去看指定范围新闻、购买其推荐的产品，决定着人们是否可以被批准贷款，帮助人事决定是否解聘或继续雇佣员工，分析下一季度的市场营销策略的可行性，评估着某类型犯罪的发生率等等……各领域事件背后的数据是客观的，但算法是由人为设计的，这就不可避免的反映出算法设计者或算法客户的主观意识和隐含歧视，可以通过采取制定算法管理制度与法律风险防控体系为保证人工智能发展与大数据时代前进齐头并进，健康稳健前行保驾护航[1]。一、算法歧视的类型大数据专家舍恩伯格在《大数据时代》一书中提道：“大数据的特征是追求效率，而不是绝对精确；追求的是相关性，而不是因果性，在现代社会，大数据和算法结合已经颠覆了传统的决策方式”。不得不考虑，基于某算法的大数据运用是否具有正当性基础或伦理基础呢？其实除了伦理与公平问题的复杂性存在因素之外，更难突破的便是算法本身的专业性和不透明性。浸润了算法的大数据社会，在各领域、各群体、各行各业的应用中无不透露其歧视的本性。1.数据领域的算法杀熟大数据杀熟是指同样的商品或服务，老客户看到的价格反而比新客户要贵出许多的现象或会员用户的实际支付价格高于非会员用户，甚至在购买产品的数量和种类上受限，所呈现出大数据结果的背后，则是算法歧视在操作。其实不止在消费领域，在大数据环境下，人类行为只要被记录，就可能会被分析，被深度学习，被制订出“数字画像”，被贴上标签。而大数据背后的算法杀熟就是典型的针对用户群体制定的“千人千面”的营销策略，使群体被区别对待，从而主体利益受到损害，甚至隐私和名誉受到侵害[2]。2.特征群体间算法歧视这种类型下，算法决策者在个体间往往采用非歧视性算法，但是个体与个体因某类特征被划分成特征群体后，个体背后的数据集合在一起反而会导致歧视性的后果，这里...
