虽然AI算法的预测能力越来越强，但AI的伦理管控依然是个问题。
最近一群AI学者们搞出了新花样，他们在arxiv.org上发表了的一项最新研究。论文中表示他们通过机器学习算法，可以快速评估物理基础课中学生的毕业成绩，这让许多学生表示不安。
与此同时索菲亚发现，同样是采用了AI进行教育管理的某大学，因为其AI监考不公正的问题被炮轰。
很明显，过于前卫的教育系统让许多人都叫苦不迭。
AI预测成绩：预警还是偷懒？
这套由西弗吉尼亚大学和加州理工大学的学者们联合研发的AI算法，采用随机森林机器学习算法，来预测学生的课程最终成绩。AI算法最后会将学生分为A、B、C的优秀学生和获得D、F、W的潜在挂科学生。
为了训练AI，研究人员从来两所大学的抽取了三个样本。这些样本数据包括学生的高考成绩、大学GPA和课程上收集的数据。本研究中所使用的变量，都是来自大学和班级内部，也将一些如性别、族裔等信息纳入其中。这也为之后的争议埋下了祸根。
结果却不能让所有人满意。在整个样本预测结果中，由于女性和少数民族学生样本多，DFW准确性较低，仅为16%。预测ABC学生的准确度仅仅达到57%。
因此此论文一出，马上就引起了批评。像这样的技术，可能会带有偏见或误导性的预测，给学生造成伤害，要么就是教育工作者偷懒的理由。虽然初衷是为了更好指导教育干预和教育资源的分配，但实际行动起来却很不理想。
AI远程监考：进步还是退步？
在当下学生普遍在家上网课的情况下，怎么解决“远程监考”成为问题。对此，许多高校开始选择使用远程监考软件Proctorio来解决这一问题。
该软件利用AI和人脸检测技术，通过网络摄像头监控学生的头部位置，以此来检查考生有没有作弊。但Proctorio立马引起了学生群体的强烈不满。在2020年秋季就有1000多人签署请愿书“怒斥”这款软件侵犯隐私。
部分社会人士也向Proctorio和有关服务平台写了一封公开信，在信中表示：Proctorio的技术缺陷不仅打击了弱势群体，也将助长歧视和偏见问题。这并不是无中生有，Proctorio就出现过将别肤色较深的考生识别为“残疾”的问题。
终于伊利诺伊大学香槟分校扛不住压力，宣布将在2021夏季学期结束后停用远程监考软件 Proctorio。Proctorio本意是为了促进公平与效率的教育，实际上却造成了偏见与安全问题，弄出了南辕北辙的笑话。
公平与安全，AI绕不开的必选题
每当你使用谷歌翻译将西班牙语翻译为英语时，遇到涉及到女性的短语通常都会翻译为“他说”或“他写道”。随着AI的影响范围逐渐扩大，“公平与安全”的解决变得尤为重要。
分析数据意味着需要大量用户的信息，做出决策意味着要照顾所有人的需求，隐私安全和偏见问题似乎是AI无法避免的难题。别以为AI就能做到一碗水端平，因为AI也是人类创造的产物。
目前阶段的AI也许可以作为服务型、工具型机器人应用，但想要替人们做决策真的为时尚早。解决AI的“公平和安全”问题，仍然有很长的路要走。刚满5岁的索菲亚也会继续成长，希望有朝一日能成为人们真正的心灵伙伴。
（文章部分图片源自网络，如有侵权请联系删除）