Seria: Doświadczenie, AI i zarządzanie firmą · 3/4

Kto będzie zarządzał firmą, w której decyzje wykonują agenci AI?

Trzy systemy, jeden błąd, wykonany bardzo szybko. Zarządzanie przesuwa się w stronę projektowania reguł, granic i dowodów.

Firma, która przekazuje agentom coraz więcej pracy, musi zmienić sposób zarządzania. Pozostawienie dotychczasowych zasad przy znacznie szybszym wykonaniu zwiększy skalę tego, co było w nich niejasne, sprzeczne albo zależne od ludzkiej improwizacji. A skala problemu może was zaskoczyć.

Przewagę zbudują organizacje, które będą potrafiły wyznaczyć systemom zakres samodzielnego działania, sprawdzić skutki i zmienić zasady bez utraty kontroli nad firmą. To jest zadanie dla zarządzających biznesem. IT dostarcza jedynie istotną część możliwości wykonania.

Nie trzeba czekać na firmę obsługiwaną niemal w całości przez AI. Problem pojawia się za każdym razem, gdy system może samodzielnie uruchomić zakup, zmienić ofertę albo złożyć klientowi obietnicę wymagającą późniejszego wykonania.

Wyobraźmy sobie sieć sprzedającą sprzęt domowy. Agent cenowy widzi w systemie kilkadziesiąt sztuk odkurzacza, uznaje zapas za zbyt wysoki i obniża cenę. Oferta trafia do gazetki. Tyle że większość tych sztuk była już sprzedana z odbiorem w przyszłym tygodniu. Fizycznie stały na magazynie, więc system pokazywał je jako dostępne. Klient przychodzi do salonu, płaci przy kasie i wybiera odbiór z magazynu. Dopiero przy przygotowaniu wydania okazuje się, że towaru dla niego nie ma.

Silnik cenowy potwierdza zmianę ceny. Kasa potwierdza sprzedaż. Magazyn poprawnie pokazuje stan fizyczny. Każdy potrafi wykazać, że wykonał swoje zadanie. Klient został z opłaconym zakupem i obietnicą, której firma nie potrafi dotrzymać. Pozostaje wręczyć mu trzy raporty o sukcesie zamiast towaru.

Trzy systemy, jeden błąd, wykonany szybko. Nikt nie rozróżnił zapasu dostępnego od zobowiązanego, więc agent obiecał klientom towar, który firma już wcześniej komuś sprzedała. Sprawne połączenie aplikacji nie zastąpiło ustalenia, jaki dowód dostępności jest potrzebny, zanim firma cokolwiek obieca.

Takie rozstrzygnięcie należy do zarządzania biznesem. Kto może obiecać dostępność, na jakim dowodzie i co ma się wydarzyć, gdy dowód jest nieaktualny? Bez odpowiedzi integracja tylko szybciej przenosi problem między systemami.

Zarządzanie przesunie się w stronę projektowania reguł i granic działania

Dzisiaj pozycja menedżera bywa związana z liczbą spraw, które przechodzą przez jego akceptację. W organizacji z szeroką automatyzacją taki sposób pracy stanie się ograniczeniem. Trzeba ustalić, które decyzje rzeczywiście wymagają indywidualnego rozstrzygnięcia, a które są kolejnym wykonaniem tej samej polityki.

Rolą zarządzającego będzie określenie tej polityki, jej granic i sposobu oceny. Człowiek pozostanie potrzebny tam, gdzie trzeba wybrać cel, zmienić dopuszczalny kompromis, rozstrzygnąć nową klasę sytuacji lub przyjąć odpowiedzialność za skutek wykraczający poza delegację.

To wymaga większej precyzji niż ogólne polecenie „maksymalizuj marżę”. Trzeba określić także zobowiązania wobec klientów, ograniczenia płynności, zdolność fizycznego wykonania i ryzyka, których organizacja nie akceptuje.

Dobry system zarządczy powinien więc umieć odpowiedzieć na kilka podstawowych pytań. Co firma chce osiągnąć? Na co ją obecnie stać? Jakie zobowiązania już podjęła i kto ma prawo podejmować kolejne?

Do tego potrzebne jest rozdzielenie faktów, przewidywań i decyzji

Towar znajdujący się w planowanej dostawie nie jest towarem przyjętym. Prognozowany wpływ nie jest pieniędzmi na rachunku. Duże prawdopodobieństwo wykonania usługi nie oznacza, że firma już ją wykonała.

Przewidywania mogą być bardzo użyteczne. Nie mogą jednak niepostrzeżenie zmieniać się w fakty tylko dlatego, że kilka agentów powołuje się na tę samą odpowiedź. System powinien zachowywać informację o źródle, aktualności i rodzaju każdego istotnego stwierdzenia.

W przeciwnym razie powstanie organizacja, która bardzo sprawnie działa na podstawie własnych przypuszczeń. Błąd będzie wyglądał wiarygodnie, bo kolejne elementy firmy będą go wzajemnie potwierdzały. Dokładnie tak, jak w przykładzie z odkurzaczem.

Największym ryzykiem jest wspólny błąd wykonany konsekwentnie i w dużej skali. Niezależna kontrola jest odpowiedzią projektową na to ryzyko. Musi korzystać z dowodów, które pozwalają zakwestionować wynik wykonawcy.

Nadzór ma być realną zdolnością organizacji

Wyznaczenie człowieka „do kontroli AI” niczego nie rozwiązuje, jeśli ta osoba nie ma czasu, wiedzy, informacji i uprawnienia do zatrzymania działania. Jeżeli napływ wyjątków przekracza możliwości nadzoru, trzeba ograniczyć zakres samodzielnych decyzji. Przegląd szkód po miesiącu będzie już musztardą po obiedzie.

To może oznaczać wstrzymanie nowych zakupów określonej kategorii, zawężenie obietnic dostawy albo zatrzymanie kolejnej publikacji cen. Firma musi umieć działać w ograniczonym zakresie i mieć sposób, żeby później wyjść na prostą. Szczególnie wtedy, gdy wcześniej zmniejszyła liczbę ludzi wykonujących rutynę.

Plan awaryjny oparty na zdaniu „w razie problemów wrócimy do ręcznej obsługi” trzeba sprawdzić na rzeczywistej obsadzie. Jeśli tych pracowników i kompetencji już nie ma, taki plan jest fikcją.

Zmieni się również sposób wprowadzania zmian

Gdy agenci wykonują proces na podstawie reguł i uprawnień, aktualizacja tych reguł jest zmianą sposobu działania firmy. Powinna mieć właściciela biznesowego, określony cel, ograniczony zakres pierwszego zastosowania i warunek wycofania.

Nie wystarczy sprawdzić, czy system wykonał nowe polecenie. Trzeba ocenić, czy poprawił wynik, jakie koszty wywołał w innych procesach i czy nie naruszył warunków, które miały pozostać prawdziwe.

Stabilna podstawa działania nabiera tu większej wartości. Firma musi wiedzieć, które elementy mogą się często zmieniać, a które chronią jej wiarygodność. Politykę uzupełniania zapasu można modyfikować co tydzień. Rozróżnienie zapasu dostępnego, zobowiązanego i wydanego ma zostać na miejscu.

Tak przygotowana organizacja może działać szybko bez zamykania oczu na ryzyka. Nowe rozwiązania da się sprawdzać szybko, jeżeli zakres próby jest ograniczony, wynik obserwowalny, a droga odwrotu wykonalna. Bez tych warunków nawet drobna zmiana może stać się ryzykiem dla całej organizacji.

Dla zarządów oznacza to potrzebę rozpoczęcia pracy jeszcze przed kolejną dużą inwestycją w agentów. Najpierw trzeba opisać, kto ma prawo podejmować istotne zobowiązania. Następnie ustalić, na jakich dowodach opieramy decyzje i skąd wiemy, że wykonanie jest poprawne. Potem wybrać zakres, w którym można sprawdzić większą autonomię bez narażania całej firmy.

Takie przygotowanie ma sens również przy wolniejszym rozwoju AI. Więcej pracy pozostanie wtedy przy ludziach, a większy udział automatyzacji oprze się na klasycznych regułach. Nadal będzie potrzebna jasność celu, uprawnień i odpowiedzialności. Nie trzeba trafnie przewidzieć daty technologicznego przełomu, żeby zacząć lepiej organizować firmę.

W tym świecie doświadczenie menedżera będzie oceniane przez jakość zasad, które pomaga ustalić, oraz zdolność przeprowadzenia ich przez rzeczywistą organizację. Dostęp do podobnych narzędzi nie zapewni firmom podobnych wyników. O wyniku zdecydują także wybór oferty, zdolność wykonania i tempo sprawdzania, czy przyjęty sposób działania nadal się opłaca.

Przyszłość ORPR widzę w roli podstawy wspólnych kontraktów wykonania i kontroli. Proces musi mieć nazwany wynik, granice, warunki poprawności i relacje z innymi procesami, niezależnie od tego, czy prowadzi go człowiek, reguła systemowa czy agent. Obecne wydanie daje referencyjny opis tych elementów. Żeby zarządzać na nim pracą agentów, trzeba dołożyć rzeczywiste zasady firmy, uprawnienia, dowody wykonania i zdolność nadzoru. To jest kierunek: od wspólnego opisu procesów do podstawy, na której organizacja potrafi świadomie delegować działanie i nadal odpowiadać za jego wynik.

Rafał Myrta
Rafał Myrta
Porządkuje procesy, role i systemy w firmach wielolokalizacyjnych i regulowanych. Projekty AI prowadzi metodą Spec-Driven Development. Autor ORPR.
Porozmawiajmy →
Series: Experience, AI and running a company · 3/4

Who will run a company where the decisions are executed by AI agents?

Three systems, one error, executed very fast. Management shifts towards designing rules, boundaries and evidence.

A company that hands more and more work to agents has to change the way it is managed. Keeping the existing rules while execution gets much faster will only scale up whatever was unclear, contradictory or dependent on human improvisation. And the scale of the problem may surprise you.

The advantage will go to organisations able to set how far systems may act on their own, check the effects, and change the rules without losing control of the company. That is a job for the people running the business. IT supplies an important part of the capacity to execute, and no more.

There is no need to wait for a company run almost entirely by AI. The problem appears every time a system can start a purchase on its own, change the offer, or make a customer a promise that has to be fulfilled later.

Picture a chain selling home appliances. The pricing agent sees a few dozen units of a vacuum cleaner in the system, decides the stock is too high and cuts the price. The offer goes into the leaflet. Except that most of those units had already been sold for collection next week. Physically they were standing in the warehouse, so the system showed them as available. The customer walks into the showroom, pays at the till and chooses warehouse collection. Only when the release is being prepared does it turn out there are no goods for them.

The pricing engine confirms the price change. The till confirms the sale. The warehouse correctly shows the physical stock. Each of them can demonstrate that it did its job. The customer is left with a paid purchase and a promise the company cannot keep. All that remains is to hand them three success reports instead of the goods.

Three systems, one error, executed fast. Nobody separated available stock from committed stock, so the agent promised customers goods the company had already sold to someone else. A smooth connection between applications did not replace the decision about what proof of availability is required before the company promises anything.

That decision belongs to running the business. Who may promise availability, on what evidence, and what is supposed to happen when the evidence is out of date? Without answers, integration merely moves the problem between systems faster.

Management will shift towards designing rules and boundaries

Today a manager's standing is often tied to the number of items that pass through their approval. In an organisation with wide automation that way of working becomes a constraint. You have to establish which decisions genuinely require an individual ruling, and which are one more execution of the same policy.

The manager's role will be to define that policy, its boundaries and the way it is assessed. People will still be needed wherever a goal has to be chosen, an acceptable trade-off changed, a new class of situation settled, or responsibility taken for an outcome that reaches beyond the delegation.

This demands more precision than a general instruction to "maximise margin". It also means stating commitments to customers, liquidity constraints, the capacity to execute physically, and the risks the organisation does not accept.

A good management system should therefore be able to answer a few basic questions. What does the company want to achieve? What can it currently afford? What commitments has it already made, and who has the right to make more?

Which requires separating facts, forecasts and decisions

Goods in a planned delivery are not goods received. Forecast income is not money in the account. A high probability that a service will be performed does not mean the company has performed it.

Forecasts can be very useful. What they cannot do is quietly turn into facts merely because several agents cite the same answer. The system should preserve information about the source, the currency and the type of every significant statement.

Otherwise you get an organisation that operates very efficiently on the basis of its own guesses. The error will look credible, because one part of the company after another will confirm it. Exactly as in the vacuum cleaner example.

The greatest risk is a shared error executed consistently and at scale. Independent control is the design answer to that risk. It has to draw on evidence that makes it possible to challenge the performer's result.

Supervision has to be a real capability

Appointing a person "to supervise the AI" solves nothing if that person lacks the time, the knowledge, the information and the authority to stop the process. If exceptions arrive faster than supervision can handle them, the scope of autonomous decisions has to be narrowed. Reviewing the damage a month later is closing the stable door after the horse has bolted.

That can mean suspending new purchases in a given category, narrowing delivery promises, or holding back the next price publication. A company has to be able to operate in a reduced mode and to have a way back afterwards. Especially if it has already cut the number of people doing the routine work.

A contingency plan resting on the sentence "if there are problems we will go back to manual" has to be tested against actual staffing. If those employees and those skills are gone, the plan is fiction.

The way changes are introduced will change too

When agents run a process on the basis of rules and permissions, updating those rules is a change to how the company operates. It should have a business owner, a stated goal, a limited scope for its first application and a condition for rollback.

Checking whether the system carried out the new instruction is not enough. You have to assess whether it improved the result, what costs it caused in other processes, and whether it breached conditions that were supposed to remain true.

A stable foundation gains value here. The company has to know which elements may change often and which protect its credibility. A replenishment policy can be modified every week. The distinction between available, committed and released stock stays where it is.

An organisation prepared this way can move fast without closing its eyes to risk. New solutions can be tested quickly if the trial is limited in scope, the result is observable and the way back is workable. Without those conditions even a small change can become a risk to the whole organisation.

For boards this means starting the work before the next large investment in agents. First, describe who has the right to make significant commitments. Then establish what evidence decisions rest on and how we know that execution is correct. Then choose an area where greater autonomy can be tested without exposing the whole company.

That preparation makes sense even if AI develops more slowly. More work would then stay with people, and a larger share of the automation would rest on conventional rules. Clarity of purpose, authority and responsibility would still be needed. You do not have to predict the date of a technological breakthrough correctly in order to start organising a company better.

In that world a manager's experience will be judged by the quality of the rules they help to set, and by their ability to carry those rules through a real organisation. Access to similar tools will not give companies similar results. The outcome will also be decided by the choice of offer, the capacity to execute, and how quickly the company checks whether its way of working still pays.

I see the future of ORPR as the basis for shared contracts of execution and control. A process must have a named outcome, boundaries, conditions of correctness and relations to other processes, whether it is run by a person, a system rule or an agent. The current release provides a reference description of those elements. To manage the work of agents on top of it, you have to add the company's real rules, permissions, evidence of execution and supervisory capacity. That is the direction: from a shared description of processes to a foundation on which an organisation can delegate deliberately and still answer for the result.

Rafał Myrta
Rafał Myrta
Brings order to processes, roles and systems in multi-site and regulated companies. Runs AI projects with Spec-Driven Development. Author of ORPR.
Let's talk →