受到疫情影响，全球数百万人被迫在家工作。零售商努力维持正常供应，而紧张的消费者正想尽办法，从各种渠道购买卫生纸等一切民生必需品。
在全球公司及政府疲于奔命的状况下，中国电商巨头“京东”开始在武汉测试自动送货机器人，试行每日24小时全天候自动化仓库，来应对需求激增。
突然间，AI自动化机器需要的不仅仅是“概念验证”。它们不能再依赖现场工程师支持突发状况，而必须能够在各种现实环境中“独立工作”。
疫情让原本已开始走向自动化的未来提早到来，也暴露了AI创业领域长期存在的问题：太多让人眼花缭乱的科技演示和话题炒作，让人很难判断产业内的真正发展。
我们需要从以下三个方面推动改变：
1. 重新思考“评估指标”
随着我们在现实世界中采用更多自主AI机器，速度或成功率等传统指标已不能代表全部情况，我们需要使用可靠度指标（robustness metrics），来全面衡量系统在不确定状况下的可靠性，例如，送货机器人平均送货几次，需要人为介入来确保成功送达？
我们需要更多的工具和行业标准，来评估各种未知状态下的整体系统性能，因为现实生活，不同于实验室，是不可预测的。
如果送货机器人可以达到每小时4 mph的最高速度，但却无法在没有人工支持的状况下，独立无法完成单次送货，这个机器人事实上并没有为用户创造多少价值。
DevOps在几年前出现，是“开发”、“测试”、“运维”三者的结合，旨在缩短软件开发周期，确保高品质的软件产出。而与软件工程相比，AI或ML（Machine Learning，机器学习）的产业成熟程度要低得多，根据调查，高达87%的ML项目还未能投入生产就声明失败。
然而，最近我们开始看到MLOps或AIOps的出现，这代表着AI／ML从学术研究转为实际产品的重要转变。
这样的改变需要更多心态调整：不是只看最先端的ML研究，同时也专注于品质管理和软件工程。并不是说我们不能两者兼顾，而是到目前为止，多数公司往往专注于前者，而忽略对开发实用产品可能更重要的后者。
2. 重新设计“错误处理”与“用户体验”
无人驾驶公司Starsky最近宣布解散的新闻提醒我们，离Level 5完全自主的自动化解决方案还有一段距离。这不代表着AI机器人不能给人类带来价值，正如我在前一篇文章中提到，即使人类仍需要处理15%的突发状况，公司依然可以降低大量的劳动力和集成成本。
然而，目前许多AI公司专注于开发自动系统，而忽略短期之内人类与机器“需要共处”的事实。在未来，必须彻底思考如交接任务，沟通错误消息等实际需求，才能让人和机器之间的交互交接可以更顺利。
尤其是AI产品，因为相较一般软件产品有更高的不确定性，算法又缺乏透明度，因此更需要重新思考“用户体验”。例如，是否可以通过显示模型预测的信心水准，或是将预测定位为建议而不是最终决策，来进一步获得用户的信任？
同时我们也需要“将错误分级”，设计相应的应对机制，优先减少致命错误。并确保，如果发生重大错误，并且机器停止工作，我们能否快速回应并远程排除故障？
其中最困难的部分，是识别未知的错误，也就是系统无法检测到的错误。因此，进行双向沟通，允许用户回应错误，或选择回复先前的设置也至关重要。
3. 重新定义“人机交互”
新冠病毒疫情迫使更多公司，更快地采用自动化，并转向云计算解决方案。未来远程工程师，每人需要操作的机器人将会越来越多。
从一人控制五个保全机器人，转为一人控制十台机器人时，我们是否拥有正确的工具和感知技术，能够即时将所有相关信息传递给决策者？每个机器人上是否有足够的传感器来提供完整的图像？
今天，我们多数依靠触觉输入，例如计算机或平板电脑来控制机器。但未来，信息量飙升，回应时间缩短的状况下，我们是否应该重新考虑触觉以外的人机接口？例如语音、VR／AR或甚至脑机接口？
我们还需要决定谁应该有最终决策权。随着机器变得越来越智能，人类是否应该总是做最终决定？
例如，谁应该控制无人车？汽车本身？人类安全司机？远程监控的作业人员？还是乘客本身？在什么情况下又有什么不同？还是应该由人类和机器共同做出加权判断？道德含义是什么？接口能否支持多步骤共同决策？
最终的问题是，
我们如何设计“以人为本”的AI，确保自动化机器使我们的生活更美好，而不是更糟？我们如何创建一个人类与机器的混合团队，完成更好的成果，并且让人类和机器相互学习？
我们仍有很多问题需要回答。当前的疫情正迫使我们加速面对这些问题。如果这些AI公司能够专注于上面概述的三个领域，我们将能够更好，更快地得出关键结论，确保我们朝着正确的自动化方向前进。