自动化并不会使操作者变得更加小心，反而使他们忘记如何做事。系统越可靠，人类的准备就越不足。自动化的论点是，它释放了认知带宽。更少的例行决策意味着在重要决策上可以更慎重思考。实际上，情况正好相反：当一个系统可靠地处理任务时，监控它的人逐渐停止监控，因为没有任何事情出错，而持续的注意力没有反馈不是人脑自愿做的事情。航空界对此有一个专有名词：自动化引起的自满，这在事故报告中表现得淋漓尽致，飞行员未能注意到系统故障，如果他们是手动飞行的话会立即察觉到。讽刺的是，自动化越好，问题就越严重：一个几乎从不失败的系统会产生几乎总是准备不足的操作者。应对措施是有意识的：识别你已交给自动化的关键任务。定期关闭它们并进行手动操作练习。保持间隔短，以防技能衰退。这不是因为机器不可靠，而是因为你不可靠，而保持准备的唯一方法就是不断练习机器一直在为你代替的技能。为你已自动化的任何关键任务安排定期手动练习。间隔应足够短，以确保技能在下一次故障之前不会衰退。