英国作家欧威尔（George Orwell）在1949年出版的反乌托邦小说《1984》中描绘了政府无所不用其极地监控与操纵人们，微软于上周四（12/6）警告，欧威尔在70年前所勾勒的场景即将因为现代的技术能力而成真，呼呼吁各国政府明年就应采取行动，立法规范人脸识别技术的应用，而微软也列出了内部针对该技术的六大原则，预计于明年3月正式发布。
在《1984》中，政府通过无所不在的摄像机与麦克风来监控人们的长相，纪录人们所说的每一个字，为了闪避政府的监控，人们只能躲在黑暗的角落，借由敲打彼此的手臂发送密码进行交流，而现代技术已让这样的场景成为可能。
就在微软发布此番宣言的同一天，关注AI系统发展的AI Now Institute则针对政府、研究人员及行业发布了AI的十大建议报告，同样也要求政府规范及监控AI与人脸识别技术的发展，特别是所谓的“影响识别”（Affect recognition）。
影响识别是人脸识别的一个子类，它能够借由照片或图像中的人脸来侦测人们的个性、内心感受、心理健康或参与感等事物。AI Now指出，相关的结果并未受到强大科学证据的支持，而更像是伪科学，影响对他人的认知、聘雇、保险、教育等看法，不论对个人或社会都会造成重大风险。
已有多所美国大学打算采用影响分析软件，借由在教室中安装的摄像机侦测学生在学习时所流展示的情绪，判断教学效果以供教授参考。AI Now则认为，该系统可能无法掌握复杂的情绪状态，学生也无从提出异议，或是每个学生对学习内容的接受度不同，更或者它已经侵犯了学生的隐私。
微软则说，假设我们不希望在5年之后，人脸识别技术或服务已经曼延到加剧社会问题的状态，各国政府明年就应该采取行动，立法规范相关技术的发展与应用。
微软总裁Brad Smith表示，政府应该立法解决的三大问题分别是克服那些违反歧视法令的偏见结果、过于广泛的使用将侵犯人们的隐私，以及若政府利用人脸识别技术进行大规模监控将侵犯民主自由。
另一方面，微软认为企业也不应完全等待政府的行动，而自行列出了六大原则，它们分别是公平、透明、问责、非歧视、通知与同意，以及合法监督，并打算在明年3月正式发布相关原则与框架。
AI Now的十大建议则与微软的看法相呼应，另也强调大学的AI课程不应只局限在计算机科学及工程学科，随着它持续被应用在社交领域，也应扩大其学科定位，纳入社会与人文科学，在将AI系统应用于人群时，才能进一步关注潜在的危险。