工作流自动化与编排
工作流自动化按规则在人与系统之间传递工作;编排则协调跨工具的众多此类步骤,带有批准、重试和对状态的记录;当工作流简单、幂等、可观测,并且为必须介入的人而设计时,它们才能奏效。
为什么这很重要
大多数服务工作就像接力赛。一个请求从门户开始,交给经理批准,在一个系统里创建账户,在另一个系统里创建邮箱,在第三个系统里分配许可证,为设施生成一张工单,并向请求者发送一条消息。每一次交棒,都有可能等待、丢失信息或被遗忘。当人们靠电子邮件和记忆来传递时,延迟和错误就是内建的。
工作流自动化用既定的流程取代传递。系统知道步骤、每一步由谁或什么执行、某一步失败时该怎么办,以及到目前为止发生了什么。编排是更大规模的同一理念:一个协调者按正确的顺序调用许多系统,等待结果,并处理棘手的情形。维基百科描述了工作流(workflow)、工作流管理系统(workflow management system)以及计算领域的编排(orchestration)作为定义和运行这类流程的方式。
其承诺是更快、更一致的工作,并带有可见的记录。风险与其他自动化相同:有缺陷的流程被固化成代码,中途的失败让事物处于不一致,相连系统之一的变化悄悄破坏了流程。好的设计会预见这些。本主题描述主要构件、使工作流保持可靠的模式,以及人在其中的位置。它建立在主题 6.1 — 自动化策略之上,与服务请求(主题 3.6 — 服务请求管理)相关,并通向自助服务(主题 6.5 — 自助服务与自动化履行)和流水线(主题 6.4 — 流水线与自动化变更)。
核心概念
工作流。 一系列步骤,带有关于每一步由谁或什么执行、以什么顺序、在什么条件下的规则。维基百科把工作流描述为一种经过编排的、可重复的活动模式。工作流可以简单到“当工单被标记为已解决时,通知请求者”,也可以复杂到端到端的新员工入职旅程。
工作流引擎。 运行工作流的软件:它跟踪每个实例的状态、执行步骤、等待事态,并记录发生了什么。维基百科描述了工作流引擎(workflow engines)和工作流管理系统。许多工单平台自带一个,也有用于跨系统流程的独立平台。
编排。 把若干自动化任务和服务协调成一个流程,通常由一个中央控制器依次调用各项。维基百科描述了计算领域的编排。它与编舞(choreography)相对,后者中各服务在没有中央控制器的情况下对事态作出反应。编排更易于查看和调试;编舞可能更有韧性和可扩展性。许多组织两者并用。
建模。 流程可以用诸如业务流程模型和符号(BPMN,维基百科有描述)之类的记法来绘制,然后执行。图示有助于业务人员和技术人员就流程达成一致。保持它们可读,并使模型与运行中的工作流保持同步。
状态。 工作流的某个实例到目前为止已做了什么。知道状态使系统能够在失败后恢复,显示进展并报告。维基百科描述了有限状态机(finite-state machines),这是思考一个“已提交”、“已批准”、“已履行”和“已关闭”的请求的有益方式。
触发与事态。 工作流从触发开始:一份表单、一条消息、一个计划、系统中的一次变化。事件驱动的方法,维基百科称为事件驱动架构(event-driven architecture),让系统宣告发生了什么,使其他系统可以作出反应。维基百科也描述的 Webhook 是一个系统通知另一个系统的常见方式。
集成。 工作流通过应用程序接口(API)、连接器或集成平台调用其他系统。维基百科描述了 API 和企业应用集成(enterprise application integration)。集成是大多数工作流出问题的地方,因为系统会改变它们的接口、速率限制和凭据。
幂等性与重试。 如果一个操作做两次与做一次的效果相同,则它是幂等的。维基百科描述了幂等性(idempotence)。当某一步失败或超时,安全的回应往往是重试,而只有当该步骤是幂等的时,这才是安全的。重试应当每次等待更久,这种技术维基百科称为指数退避(exponential backoff),并在达到限度后停止。
失败处理。 七步中第四步失败时会发生什么?选项包括重试、跳过、通过撤销来补偿之前的步骤,或停下来询问人。跨系统的长时间运行的工作流无法依赖单一事务;维基百科描述了 saga 方法,其中每一步都有补偿动作。无法自动处理的失败应当进入一个有明确负责人的队列,而不是消失。维基百科描述了用于无法处理的消息的死信队列(dead letter queues)。
人工任务与批准。 许多工作流需要一个人:来批准、决定,或做无法自动化的事。维基百科描述了人在回路系统(human-in-the-loop)。要谨慎设计这些任务:询问谁、如何提醒他们、他们不回应时会发生什么,以及他们看到什么信息。无限期等待的批准会使流程停滞。
可观测性与审计。 每个实例都应当可追溯:是什么触发的、每一步做了什么、结果如何,以及谁批准的。维基百科描述了审计追踪(audit trails)。这支持支持类问题(“我的请求在哪里?”)、故障排查和合规。见主题 7.4 — 可观测性与遥测。
低代码与机器人流程自动化。 低代码平台和机器人流程自动化(RPA)允许非程序员构建工作流,或自动化用户界面中的操作。维基百科对两者均有描述。它们加快了简单的情形,但在规模化时可能产生脆弱的、无人负责的自动化。像对待代码一样应用同样的所有权、测试和评审。
版本管理与变更。 工作流定义会随时间变化,而实例仍在运行。决定在你修改定义时如何处理进行中的实例。把定义保存在版本控制中,并在部署前测试变更。见主题 3.4 — 变更赋能。
安全。 工作流持有凭据,并调用有权力的系统。给它们自己的身份和最低限度的权限,安全地存放机密,并审查谁可以修改工作流。见主题 3.13 — 信息安全管理。
这些视角如何契合。 工作流工具是自动化视角的管线。敏捷实践建议与用户一起小步构建工作流。AI 可以在流程内对请求分类、起草内容并给出建议,并有人工审查。分析利用状态和时间数据发现延迟。
最佳实践
- 构建之前先绘制并简化。 画出现状的流程,去掉没有增加价值的步骤,并与相关的人就未来的流程达成一致。见主题 6.1 — 自动化策略。
- 让工作流小而清晰。 倾向于几个带有明确交接的短工作流,而不是一个庞大的工作流。用通俗语言命名各步骤,使支持人员能够跟上。
- 把每一步设计成可安全重复。 尽可能让步骤幂等,使重试无害。在做不到的地方,增加检查以发现该步骤是否已经发生过。
- 为失败做规划。 对每一步,决定失败时会发生什么:带退避和上限的重试、补偿,或转交给人。把未解决的失败送入有负责人的、可见的队列。
- 把人工任务当作一等公民。 规定是谁、他们看到什么、他们有多长时间、提醒,以及超时或缺席时会发生什么。提供一位代理人。
- 向用户显示状态。 让请求者看到请求处于什么阶段,以及接下来预期是什么。在有意义的节点而不是每一步发送通知。
- 记录并追踪每个实例。 记录触发、输入、输出、决策和批准人。让人们易于通过引用编号查找某个实例。
- 控制对工作流的变更。 把定义保存在版本控制中,评审变更,在安全环境中测试,并决定如何处理正在运行的实例。
- 管理连接。 保留一份集成登记册,列出每个系统的负责人、凭据和联系点。监控失败,并留意已公布的接口变更。
- 评审绩效。 查看每一步的耗时、等待、失败和例外。利用数据去除瓶颈,并淘汰没人使用的工作流。
与团队讨论的问题
我们的哪些流程在人与系统之间传递工作最多?工作在哪里丢失? 追踪一个真实的例子。预期在某处会有电子邮件或聊天的交接。追问:选择一个交接去自动化。
今天,当一个流程中途某一步失败时会发生什么?谁知道? 想想账户在一个系统中创建成功而在另一个系统中失败的情形。预期会不一致。追问:为一个工作流设计一条失败路径。
我们的哪些批准停滞了?如果批准人不回应应当发生什么? 查看等待最久的条目。预期有长时间的延迟。追问:商定提醒、代理人和超时规则。
我们的工作流所依赖的每个集成由谁负责?我们怎么知道它坏了? 列出这些集成。预期会有孤儿。追问:指定负责人并增加针对失败的告警。
哪些工作流是由一个人用低代码工具构建的,可能没有其他人理解? 四处询问。预期有若干个。追问:记录前三个,并把它们放入版本控制或共享登记册。
AI 在工作流内能在哪里帮上忙?哪里必须由人来决定? AI 可以分类、起草和建议。涉及访问权限和金钱的事应由人决定。追问:选择一步,在有评审的情况下试用,并设定正确路由的度量。
实践:一个服务管理示例
一家区域银行的 HR 和 IT 团队通过电子邮件管理“入职、调岗、离职”事件。一名新员工需要账户、笔记本电脑、门禁权限、薪资记录和培训报名,由五个团队处理。每个团队从 HR 收到一封邮件,完成自己的部分,有时回复。约五分之一的新员工在第一天缺少某样东西。
服务经理提议在银行的工单平台上建立一个单一的工作流,该平台带有工作流引擎和连接器。她首先与这五个团队一起绘制流程,发现其中三项审批从未被拒绝过。新设计取消了两项,保留了一项,来自新员工的经理。HR 对新员工的记录触发工作流。它创建一个父事务和五个子任务,每个分配到合适团队的队列,尽可能并行运行。账户创建通过身份系统连接器自动化;笔记本电脑任务交给技术人员;门禁权限连同入职日期交给设施部门。
团队为失败做了设计。账户创建是幂等的:连接器在创建之前先检查账户是否存在。如果连接器带退避连续失败两次,任务就连同错误信息进入技术人员的队列,并向工作流负责人发出告警。人工任务一天后提醒,三天后升级给团队负责人。每个事务向 HR 和新员工的经理显示其状态。
三个月后,第一天缺少某样东西的新员工比例降到约 4%。审计追踪使服务台能在一分钟内回答“它在哪里?”。仍然困难的是:薪资连接器依赖一个供应商接口,它曾在没有通知的情况下改变过一次,导致一次失败的运行,直到增加告警之前两天都没有人发现;设施团队仍使用电子表格工作,并手工复制事务数据;调岗和离职事件的例外更多,尚未纳入。经理计划下一步处理调岗事件,并要求供应商提供变更通知。
四种视角
产品与交付团队
暴露稳定、有文档的 API 和事态,供工作流使用,并附有清晰的错误信息。提前告诉工作流负责人变更。对你自己的发布工作流使用同样的理念。
服务与运维团队
拥有你所运行的工作流和集成:日志、告警、失败队列和文档。及时处理例外,并把规律带给工作流的负责人。
领导层与治理
要求提供旅程视图,每个跨团队的工作流都有负责人。为集成的维护出资。寻找流程更快、更可靠的证据,而不是工作流的数量。
客户与用户
你应当看到请求的状态,并在无需追问的情况下得到你所要求的东西。当某一步需要你的输入时,应当清楚需要什么以及何时需要。
敏捷、AI、自动化与分析
敏捷
与使用者一起,每次构建一条旅程的工作流,发布小的改进,并评审结果。注意:一次把每个流程都迁移的平台推出会成倍增加风险;从一条旅程开始。
AI
AI 可以对到来的请求分类、从自由文本中提取细节、起草消息并建议路由,在行动之前由人或规则检查。指定负责人并跟踪更正。注意:工作流中的 AI 步骤可能大规模地把工作送到错误的地方;抽查结果并保留一个后备队列。见主题 5.1 — 服务管理中的 AI。
自动化
工作流是这个视角的核心。以幂等的步骤、限制和日志来构建,并让每个集成都有人负责并受到监控。注意:触及许多系统的工作流会让错误广泛扩散;增加速率限制和停止开关。见主题 6.1 — 自动化策略。
分析
利用工作流数据了解每一步的耗时、等待批准的时间、失败率、例外,以及按类型划分的数量。注意:时间数据反映步骤是如何定义的,可通过拆分或重新分类任务来钻空子;要用样本案例核对。见主题 7.6 — 流程与价值流分析和《服务管理度量》一书。
常见失败模式
- 把糟糕的流程自动化。 浪费被保留下来。先简化并商定流程。
- 没有失败设计。 某一步失败,实例卡住。定义重试、补偿和队列。
- 非幂等的重试。 产生重复。使步骤可安全重复,或先检查。
- 批准停滞。 工作等待一位缺席的人。增加提醒、代理人和超时。
- 集成无声地失败。 连接器坏了,没人知道。监控并告警。
- 无人负责的低代码流程。 没人理解它们。登记、记录并评审。
- 随意更改定义。 正在运行的实例被破坏。对变更做版本管理并测试。
成熟度模型
| 维度 | 起步 | 发展 | 标准化 | 管理 | 协同 |
|---|---|---|---|---|---|
| 设计 | 通过电子邮件交接 | 少数几个简单的工作流 | 已绘制、简化且有负责人的旅程 | 根据数据改进工作流 | 旅程跨系统和合作伙伴编排 |
| 可靠性 | 坏了也不被察觉 | 基本告警 | 定义了重试、失败队列和幂等步骤 | 度量并减少失败 | 带人工升级的自检流程 |
| 人工任务 | 临时 | 通过电子邮件批准 | 定义了任务、提醒和代理人 | 度量任务的延迟 | 按风险平衡并自动化人工任务 |
| 控制 | 无记录 | 一些日志 | 版本控制、审计追踪和登记册 | 评审并审计变更 | 治理与平台整合 |
检查清单
- 我们在自动化每个流程之前先绘制并简化了它。
- 工作流小而清晰,用通俗语言命名,并有负责人。
- 步骤是幂等的,或受到防止重复的保护。
- 定义了失败路径和队列,并带有告警。
- 人工任务有提醒、代理人和超时。
- 每个实例都被记录并可追溯。
- 定义在版本控制中,变更经过测试。
- 集成有负责人和监控。
AI 提示词
把程序变成工作流大纲。
这是我们今天如何处理 [请求类型] 的描述:[粘贴步骤以及各步骤由谁负责]。
请起草一份工作流大纲,包含:触发、步骤(标明每一步是自动的、人工的还是批准)、步骤之间传递的数据,以及每一步在失败或无回应时应发生什么。标明每一项假设。不要编造系统或规则。
请列出你不确定的事项。
找出流程中的失败点。
这是我们以纯文本表示的工作流定义:[粘贴]。
请列出每个调用其他系统的步骤、可能出什么问题、它看起来是否可安全重试,以及支持人员修复它所需要的信息。不要改写工作流。
请列出你不确定的事项。
根据工作流数据分析延迟。
这是工作流实例的导出数据,带有步骤名称、开始和结束时间以及结果,已去除标识符:[粘贴]。
请计算每个步骤的耗时中位数和第 90 百分位数,列出三个最长的等待,按步骤统计失败,并列出需要调查的问题。不要推断原因。
请列出你不确定的事项。
AI 技能
- workflow-analysis:用于分析步骤、等待和交接。
- value-stream-map:用于查看跨团队的完整旅程。
- mermaid-diagram:用于以文本方式绘制工作流以供评审。
- raci-matrix:用于分配每一步由谁执行、由谁批准。
- change-request:用于描述对工作流定义的变更。
主要来源
- OMG, Business Process Model and Notation (BPMN) specification:流程图的标准记法。
- Gregor Hohpe 和 Bobby Woolf,Enterprise Integration Patterns(2003):连接系统的模式目录。
- Wikipedia, "Workflow" 和 "Orchestration (computing)":对这些理念的概述。
- Wikipedia, "Idempotence":使重试安全的特性。
参考文献
- Workflow — Wikipedia — https://en.wikipedia.org/wiki/Workflow
- Workflow engine — Wikipedia — https://en.wikipedia.org/wiki/Workflow_engine
- Workflow management system — Wikipedia — https://en.wikipedia.org/wiki/Workflow_management_system
- Orchestration (computing) — Wikipedia — https://en.wikipedia.org/wiki/Orchestration_(computing)
- Business Process Model and Notation — Wikipedia — https://en.wikipedia.org/wiki/Business_Process_Model_and_Notation
- Finite-state machine — Wikipedia — https://en.wikipedia.org/wiki/Finite-state_machine
- Event-driven architecture — Wikipedia — https://en.wikipedia.org/wiki/Event-driven_architecture
- Idempotence — Wikipedia — https://en.wikipedia.org/wiki/Idempotence
- Exponential backoff — Wikipedia — https://en.wikipedia.org/wiki/Exponential_backoff
- Dead letter queue — Wikipedia — https://en.wikipedia.org/wiki/Dead_letter_queue
- Human-in-the-loop — Wikipedia — https://en.wikipedia.org/wiki/Human-in-the-loop
- Audit trail — Wikipedia — https://en.wikipedia.org/wiki/Audit_trail