The biggest continuity risk posed by AI may not be job loss. It may be the false confidence that automation creates.

Generative AI and autonomous AI agents are moving quickly from useful tools to active participants in how most organisations operate. They can draft reports, analyse data, identify anomalies, coordinate workflows, trigger predefined actions, and support decision-making at a speed no human team can match. 

In business continuity terms, that's actually pretty exciting. Faster detection. Faster escalation. Faster recovery. Faster reporting. Fewer manual checklists. Less administrative drag. Effectively meaning more time for us resilience professionals to focus on high value work.

But here is the uncomfortable question: if AI can recover the system, who recovers trust?

The Automation Temptation

Continuity teams are under constant pressure to do more with less. AI offers a tempting answer. It can update documentation, generate incident summaries, support scenario modelling, draft communications, monitor environments, recommend recovery actions, and even orchestrate responses across complex technology estates.

In the near future, AI agents may become standard members of resilience, IT disaster recovery, cyber response, crisis management, and operational risk teams. They may monitor 24/7, detect patterns earlier than humans, and execute predefined recovery actions in seconds. This is not science fiction, it is the logical next step of automation, monitoring, observability, orchestration, and generative AI converging into the continuity and resilience space. 

But speed is not the same as resilience

One of the biggest mistakes organisations can make is assuming that faster recovery automatically means better continuity. It does not. A fast response that is poorly governed, ethically questionable, contractually misaligned, or reputationally damaging is not resilience. It is quite simply accelerated risk.

During a real disruption, the hardest decisions are rarely purely technical. They involve trade-offs which require understanding: client commitments, employee safety, regulatory expectations, financial exposure, public confidence, data handling, communication timing, and long-term credibility.

Even though AI can optimise for what it has been trained to measure. Humans must still decide what matters most, when the measures conflict.

The new question: is your AI resilient?

As organisations rush to embed AI into critical business processes, a new continuity question is emerging: what happens when the AI itself becomes a dependency?

  • What if an AI agent involved in a critical workflow becomes unavailable?
  • What if it recommends a technically valid but commercially damaging response?
  • What if it acts on outdated assumptions during a novel crisis?
  • What if people no longer know how to perform the process manually?
  • What if nobody can explain why an AI-driven recovery decision was made?

This is where the next evolution of resilience begins. We need to start talking seriously about AI continuity. Not just using AI to improve continuity, but ensuring AI-enabled processes are themselves governed, recoverable, explainable, and safe to operate under pressure. 

The human element is not a legacy control

There is a tendency to treat human oversight as friction. In continuity and crisis management, it is not friction. It is a safety mechanism. It is the governance layer that connects technical recovery to the business reality.

  • AI can detect disruption. Humans understand consequence.
  • AI can draft the message. Humans understand tone, trust, and timing.
  • AI can recommend a recovery sequence. Humans weigh client impact and reputational risk.
  • AI can identify patterns. Humans challenge assumptions.
  • AI can execute. Humans remain accountable.

That distinction is important and it matters. Especially when decisions are made under pressure, with incomplete information, and with consequences that would extend beyond the system being restored.

Human-in-the-loop is not enough unless it is designed properly

Many organisations will say they have a human-in-the-loop. That sounds reassuring, but the phrase can be dangerously vague. Is the human approving critical actions before they happen, or simply watching a dashboard after the decision has already been made?

There is a meaningful difference between human-in-the-loop and human-on-the-loop. Human-in-the-loop means a person approves critical actions before execution. Human-on-the-loop means AI may operate within defined boundaries while humans supervise and intervene when needed. Both models can work. Both can fail. The difference is whether roles, thresholds, escalation paths, evidence requirements, and accountability are clearly defined before the crisis begins.

Resilience requires that governance can understand and justify critical actions in real time. If your AI agent can trigger major recovery steps before governance can explain them, you have velocity and speed, with very little if any control.