Jak działa agent AI? Pętla, narzędzia i granice — od środka

Pętla: serce każdego agenta

Za całą „magią” agentów stoi jedna konstrukcja — pętla, w której model na przemian myśli i działa:

W kodzie to dosłownie kilkanaście linii:

while not done and steps < MAX_STEPS:
    response = llm.run(messages, tools=TOOLS)
    if response.tool_calls:
        for call in response.tool_calls:
            result = execute(call)          # wywolanie funkcji
            messages.append(tool_result(call, result))
    else:
        done = True                          # model uznal cel za osiagniety
    steps += 1

Cała inteligencja siedzi w modelu; cała inżynieria — w tym, co dostaje i czego mu wolno.

Narzędzia: ręce agenta

Narzędzie to funkcja z opisem i schematem wejścia: „sprawdz_zamowienie (numer) — zwraca status, pozycje i płatność”. Model nie widzi kodu — widzi opisy. Dlatego opisy narzędzi to interfejs użytkownika agenta i warto pisać je jak dokumentację dla nowego pracownika.

Standaryzacją tej warstwy zajmuje się MCP — dzięki niemu te same narzędzia służą wielu agentom i aplikacjom.

Pamięć: dwie różne rzeczy

Kontekst sprawy — to, co agent wie o bieżącym zadaniu: treść zgłoszenia, wyniki narzędzi, dotychczasowe kroki. Żyje tak długo, jak sprawa.

Wiedza trwała — polityki firmy, procedury, historia klienta. Nie mieszka w prompcie, tylko w systemach, do których agent sięga narzędziami (często przez RAG).

Mieszanie tych warstw — wklejanie „całej wiedzy” do każdego zapytania — kończy się wolnym, drogim i mniej przewidywalnym systemem.

Granice: najważniejsza część projektu

Na produkcji agent zawsze działa w klatce z czterech ścian:

1. limit kroków i czasu — pętla nie może kręcić się w nieskończoność,
2. uprawnienia — konto serwisowe z minimalnym dostępem; operacje nieodwracalne za potwierdzeniem człowieka,
3. limit kosztów — budżet tokenów na sprawę i alarm po przekroczeniu,
4. ścieżka eskalacji — jasna reguła, kiedy sprawa idzie do człowieka, z całym zebranym kontekstem.

Obserwowalność: bez niej nie ma zaufania

Każda sprawa prowadzona przez agenta zostawia ślad: pełny zapis kroków, wywołań i decyzji. To nie biurokracja — to jedyny sposób, żeby po miesiącu odpowiedzieć na pytania „dlaczego agent to zrobił” i „gdzie się mylimy najczęściej”, a potem system realnie poprawiać.