Pragmatycznie o… Agentach AI

Wprowadzenie – agenci AI są wśród nas

0:00

Agenci są wśród nas.

0:01

Nie mają twarzy, nie chodzą po ulicach, nie śpią i nie odpoczywają.

0:05

Ale działają.

0:06

Cicho, skutecznie, coraz szybciej.

0:09

Pomagają nam organizować spotkania, odpowiadają na nasze pytania, filtrują informacje, analizują dane i podejmują decyzje.

0:17

Robią to wszystko, nie pytając o przerwę, pensję czy warunki pracy.

0:21

Agenci AI są już obecni wśród nas.

0:24

Nie w odległej przyszłości, nie w filmach science fiction, ale tu i teraz.

0:28

Może nawet w tej chwili jeden z nich działa dla Ciebie.

0:31

Optymalizując Twoją skrzynkę e-mail, rekomendując treści czy planując najlepszą trasę do pracy.

0:38

W dzisiejszym odcinku porozmawiamy pragmatycznie o agentach AI.

0:41

Czy to tylko kolejne, bardziej zaawansowane chatboty, czy może coś więcej?

Czym są agenci AI?

0:51

Czym są agenci AI?

0:53

Agenci AI to programy komputerowe, które mogą działać w sposób autonomiczny bądź półautonomiczny i samodzielnie podejmować różnego rodzaju decyzje.

1:00

Takie programy wykonują dla nas różne zadania.

1:02

Te zadania mogły być wcześniej zdefiniowane lub możemy je definiować na bieżąco, pytając bądź prosząc takiego agenta o wykonanie jakiejś pracy dla nas.

1:10

Agenci korzystają z różnych zewnętrznych narzędzi. To mogą być dokumenty, przeglądarki, wysyłanie maili, komunikacja z zewnętrznymi systemami poprzez API bądź też – ostatnio coraz bardziej popularne – przeklikiwanie się przez różne systemy czy strony internetowe.

1:23

Agenci korzystają z baz danych, z zasobów danych. To mogą być dane historyczne, ale to też mogą być źródła danych, które są pobierane na bieżąco, czyli też monitorowanie jakiś źródeł danych typu raporty bądź też np. monitoring wideo i podejmowanie decyzji w oparciu o to, co dany model rozpoznał na takim streamie wideo, np. z kamer przemysłowych.

1:41

Agenci sami decydują o tym, jakich narzędzi użyć do jakiego zadania.

1:46

To nie jest tak, że to my definiujemy konkretnie, co agent ma robić, jaki ma być flow pracy, workflow pracy, ale to agent czy też model podejmuje decyzję, jakie narzędzie będzie najlepsze do wykonania danego zadania. Mało tego, tacy agenci bardzo często powtarzają wykonanie danego zadania wielokrotnie, dobierając najlepszą, optymalną ścieżkę do realizacji celu, który został zadany dla takiego agenta.

2:09

I myślę, że to, co jest najważniejsze, co charakteryzuje takiego agenta czy odróżnia go od np. chatbota, to to, że taki agent podejmuje jakieś akcje, wykonuje jakieś działania i te działania mają swoje odzwierciedlenie w świecie rzeczywistym, czyli np. wysyła jakiegoś maila albo komunikuje się z innym systemem, przesyła jakieś informacje gdzieś dalej czy też np. publikuje jakiś post.

2:29

Agentów możemy sklasyfikować na podstawie trzech kategorii: autonomii, funkcjonalności i sposobu ich uruchamiania.

2:35

Pod względem autonomii mamy do czynienia z agentami, którzy są całkowicie autonomiczni – samodzielnie podejmują decyzje bez ingerencji człowieka, często nawet bez nadzoru człowieka – oraz z agentami, którzy są półautonomiczni, np. obsługują jakiś większy proces i w którymś momencie proszą człowieka o podjęcie decyzji bądź też o wskazanie kierunku lub dostarczenie jakichś dodatkowych danych do wykonania zadania, do wykonania celu, który taki agent ma w danym momencie.

Podział agentów AI – autonomia, funkcjonalność, sposób uruchamiania

3:00

Pod względem funkcjonalności agentów zazwyczaj dzieli się na wertykalne i horyzontalne.

3:05

Agenci wertykalni to agenci, którzy są wyspecjalizowani w jednym typie zadań.

3:10

Takich agentów bardzo często możemy spotkać wbudowanych w istniejące systemy, w istniejące aplikacje.

3:15

Często celem takiego agenta jest na przykład pomoc nam, użytkownikom, w bardziej efektywnym korzystaniu z takiego narzędzia, z takiej aplikacji.

3:21

Ale są to też agenci, którzy są na przykład wyspecjalizowani do publikacji kontentu i robią tylko to – nie zajmują się niczym innym.

3:29

Agenci, którzy są bardziej horyzontalni, to agenci korzystający z wielu różnych źródeł, z wielu różnych systemów, z wielu różnych narzędzi. Mogą oni wykonywać szerszy zakres różnych czynności czy też różnych zadań. Możemy takim agentom zlecać bardzo różne rzeczy, bardzo różną pracę, i w zależności od tego, jakie narzędzia taki agent ma do dyspozycji, efekty tej pracy mogą być lepsze lub gorsze.

3:52

Jeśli chodzi o sposób uruchamiania agentów, to możemy je podzielić na aktywne, pasywne i reaktywne.

3:58

Agenci, którzy są aktywni, to tacy, którzy w sposób ciągły monitorują jakiś zbiór danych czy też na przykład jakieś raporty lub streaming wideo i na tej podstawie podejmują decyzje o tym, czy wykonać jakąś akcję i jakich narzędzi do tego użyć, a następnie te akcje zostają wykonane.

4:14

Agenci reaktywni to tacy, którzy są wyzwalani (triggerowani) przez zewnętrzne zdarzenia. Czyli na przykład coś się zadziało w jakimś innym systemie i to powoduje, że nasz agent się uruchamia i wykonuje swoją akcję.

4:25

Myślę, że dobrym przykładem może być sytuacja, w której ktoś skomentował to wideo, a nasz agent autonomicznie, automatycznie podejmuje decyzję o tym, żeby nawiązać z Tobą konwersację – jeśli to Ty skomentujesz – bądź też po prostu dziękuje Ci za komentarz, zachęca do oglądania kolejnych odcinków i tak dalej.

4:44

Agenci pasywni to tacy, którzy są uruchamiani bezpośrednio przez człowieka. Czyli chcemy wykonać jakąś akcję, mamy wyspecjalizowanego agenta, wyzwalamy (triggerujemy) go manualnie, czasami podajemy jakieś dodatkowe instrukcje, dodatkowe dane po to, żeby uzyskać oczekiwany efekt.

Jakie są różnice między agentami AI a workflow?

5:01

Oprócz agentów jest jeszcze coś takiego jak workflow czy też automatyzacja z użyciem AI.

5:04

Tutaj warto wskazać pewne różnice pomiędzy takim zwykłym workflow, który gdzieś po drodze utylizuje jakieś modele językowe czy też inne modele sztucznej inteligencji, a agentami.

5:14

Jest to temat, który bardzo często wywołuje różne kontrowersje i wiele osób myli jedno pojęcie z drugim.

5:21

Niemniej jednak ta granica między workflow wykorzystującym AI a prawdziwym agentem AI nie jest do końca sztywna. Jest trochę płynna i bardzo często, gdy tworzymy jakiś workflow i zaczynamy wykorzystywać AI, to wraz z rozwojem tego workflow zaczyna on coraz bardziej przypominać agenta, a z czasem nawet staje się agentem – właśnie przez to, że np. dajemy mu więcej narzędzi bądź też pozwalamy na coraz większą autonomię i decyzyjność.

5:49

Ta decyzyjność, czy też możliwość podejmowania decyzji, to jest to, co odróżnia agenta od zwykłego workflow.

5:56

Workflow zazwyczaj jest z góry zaplanowany.

5:58

To jest jakiś ciąg wydarzeń, ciąg jakichś działań, które wykonuje nasz system.

6:03

Ten ciąg może gdzieś się rozwidlać, mogą być jakieś momenty, które w prosty, programowalny sposób (na przykład instrukcją IF) podejmują decyzję, żeby iść w tę albo w inną stronę na podstawie danych, które były wynikiem poprzednich kroków. Natomiast to nie jest autonomia, to nie jest podejmowanie decyzji, to nie jest reasoning, który dzisiaj oferują nam zaawansowane modele językowe.

6:24

Agenci AI podejmują takie decyzje w sposób niedeterministyczny, w sposób, który nie został im wcześniej eksplicytnie zaprogramowany i nie zostało podane, że na podstawie takich i takich działań mają wykonywać takie i takie działania.

6:35

Agenci wykorzystują do tego reasoning dostępny właśnie w zaawansowanych modelach.

6:40

Agenci są dużo bardziej elastyczni niż standardowe workflow wykorzystujące AI.

6:45

Agenci mogą dostosowywać swoje działania, dostosowywać to, które narzędzia mają wykorzystać do wykonania zadania, do osiągnięcia celu. Workflow wykonuje zazwyczaj pewną ścieżkę założonych wcześniej zadań czy też akcji, podczas gdy agenci bardzo często iterują, powtarzają te same czynności, szukają innych rezultatów, innych sposobów na osiągnięcie danego celu, jednocześnie tuningując to rozwiązanie i szukając optymalnego wyniku, optymalnego rezultatu.

Jak agenci AI podejmują decyzje?

7:11

Oczywiście to też możemy wcześniej ograniczyć, chociażby po to, żeby nie popłynąć z kosztami. W przeciwieństwie do workflow, agenci mają dostęp do pamięci na temat wyników swoich poprzednich działań i mogą dzięki temu optymalizować swoje działania na podstawie tych wcześniejszych wyników.

7:27

Myślę, że to jest zasadnicza różnica pomiędzy agentem a workflow, który za każdym razem zachowuje się w podobny, bardziej deterministyczny sposób.

Jak zapewnić agentowi AI dostęp do danych?

7:38

I teraz, jeśli mówimy tutaj o danych i o dostępie do danych, to myślę, że warto wspomnieć o tym, w jaki sposób agenci mają taki dostęp, czy mogą mieć dostęp do danych.

7:45

I tutaj są trzy takie podstawowe elementy, sposoby na to, żeby zapewnić agentowi dostęp do danych.

7:51

Pierwszym z nich i chyba najbardziej popularnym jest coś, co się nazywa RAG, czyli Retrieval-Augmented Generation.

7:57

Jest to podejście, w którym agent ma bezpośredni dostęp do bazy danych, zazwyczaj jest to wektorowa baza danych, w której to przechowujemy kontekst, który jest potrzebny dla takiego agenta do tego, żeby podejmował decyzje i wykonywał jakieś działania.

8:11

Ten kontekst, te dane, możemy też później w czasie zmieniać, na przykład na podstawie zmian, które zachodzą w otaczającym świecie, czy też w systemie, bądź też na podstawie tego, jakie wyniki danego działania miał taki agent. I te wyniki mogą zostać zapisane w takim RAG-u po to, żeby agent miał do nich dostęp, mógł coraz lepiej podejmować decyzje i coraz lepiej wykonywać swoją pracę.

8:32

Kolejnym podejściem do zapewnienia AI, czy też agentowi AI, dostępu do jakichś informacji jest fine-tuning.

Czym jest finetuning?

8:39

Fine-tuning jest to już praca bezpośrednio na modelu, który jest wykorzystywany.

8:44

Jest to ingerowanie w ten model, zmiana tego modelu, douczanie go na podstawie różnego typu danych. W praktyce stosuje się to podejście bardzo rzadko.

8:53

Myślę, że fajnym przykładem, o którym ostatnio opowiedział kolega, jest to, że fine-tuning możemy zastosować do tego, żeby na przykład nauczyć chatbota mówić w taki sposób, jak Mistrz Yoda z Gwiezdnych wojen.

9:10

Moglibyśmy takiemu modelowi zaprezentować kilkaset przykładów tego, w jaki sposób wypowiada się Mistrz Yoda, i na tej podstawie ten model nauczyłby się takiego sposobu mówienia.

9:21

Prawdę powiedziawszy, współczesne modele językowe całkiem nieźle sobie radzą z udawaniem Mistrza Yody.

9:26

Radzę spróbować. 😉 To jest dobry przykład tego, do czego można wykorzystać fine-tuning, czyli po prostu do bardziej wyspecjalizowania modelu w tym, żeby w ten czy inny sposób potrafił kogoś naśladować lub działać w podobny sposób.

9:38

Natomiast jeśli chodzi o samo dostarczanie danych do takiego modelu, to tutaj mamy inne opcje, czyli właśnie m.in. RAG, o którym wspomniałem.

9:46

Jest też trzecia opcja, czyli po prostu udostępnienie pewnych danych, pewnych zasobów, do takiego modelu czy do takiego agenta AI, po to, żeby mógł na bieżąco, wykorzystując różne narzędzia, pobierać dane i wykorzystywać je do rozumowania, do podejmowania decyzji, do wykonywania działań – czyli po prostu zapewnienie dostępu do zewnętrznych źródeł danych, do baz danych.

Bezpieczeństwo danych i compliance w pracy z AI

10:04

Jeśli mówimy o danych, to pytanie, które bardzo często pada ze strony naszych klientów, to kwestia oczywiście bezpieczeństwa tych danych, zapewnienia zgodności z różnego typu compliance czy też np. z RODO lub GDPR.

10:16

Tutaj mamy dwa podejścia do tego typu rzeczy.

10:19

Po pierwsze, możemy nie wysyłać do modeli językowych danych, które są danymi wrażliwymi. W ten sposób po prostu unikamy tego problemu. A drugi sposób jest taki, że takie modele możemy – przynajmniej niektóre, te które są open source’owe – hostować u siebie, w naszej odizolowanej, zamkniętej infrastrukturze, którą mamy całkowicie pod kontrolą i z której te dane nigdy nie wyjdą na zewnątrz.

10:39

I myślę, że to jest podejście, które daje bardzo dużo możliwości, żeby faktycznie wykorzystywać modele, żeby wykorzystywać AI do automatyzacji codziennej pracy w wielu organizacjach, które z różnych powodów, mniej lub bardziej oczywistych, nie chciałyby się dzielić swoimi danymi, swoim know-how z różnego typu firmami, korporacjami czy też dostawcami różnych narzędzi.

Jak tworzymy agentów AI w Pragmatic Coders?

11:00

W Pragmatic Coders pracujemy z różnymi klientami i chyba jednym z najczęstszych podejść jest to, że wszystkie narzędzia są hostowane w prywatnej infrastrukturze, w chmurze, która jest odseparowana od reszty internetu, więc dane, które są tam przechowywane, są zabezpieczone, nie wychodzą nigdzie na zewnątrz. Wszystkie regulacje są też w ten sposób spełniane.

11:20

Dobrze, to skoro już mówimy o tym, że pracujemy dla naszych klientów, tworzymy dla nich agentów AI czy też workflow, systemy, automatyzacje, łączymy to wszystko bardzo często z ich istniejącym oprogramowaniem, z ich istniejącą infrastrukturą, z różnymi rozproszonymi systemami, z których korzystają, to warto opowiedzieć o tym, jak takich agentów się tworzy.

11:38

Tworzenie agentów AI wcale nie jest takie trudne, jakby się mogło wydawać.

11:42

Jest już mnóstwo narzędzi, które pozwalają na to, żeby takich agentów w bardzo łatwy sposób – czy to za pomocą programowania, za pomocą kodu stworzyć, wydewelopować, czy też przy użyciu narzędzi no-code, low-code – wyklikać. Można stworzyć pewnego rodzaju workflow, dodać tam agentów, dodać tam tak naprawdę modele językowe czy inne modele, które podejmują decyzje, które mogą wnioskować, mogą zarządzać całymi procesami i wykonywać pracę, która jest dla nich zlecona, która jest dla nich założona.

12:13

Jeszcze jednym bardzo ważnym aspektem, jeśli chodzi o tworzenie agentów AI, jest zapewnienie odpowiedniej kontroli nad ich działaniem i monitoringu tego, co robią.

12:20

Agenci popełniają błędy.

12:22

Jak dobrze wiecie, LLM-y, modele językowe, halucynują od czasu do czasu – coraz rzadziej, ale jednak im się to zdarza.

Monitorowanie i testowanie agentów AI

12:30

Agenci to systemy niedeterministyczne, systemy, których nie jesteśmy w stanie za każdym razem przewidzieć, w jaki sposób działają, jak się zachowają. Dlatego też bardzo ważne jest to, żeby odpowiednio takie systemy w sposób ciągły testować i monitorować, i w przypadku, kiedy wykryjemy jakąś anomalię, taki system powinien się zatrzymać, powinien przerwać działanie, być może powtórzyć działanie od samego początku.

12:50

Te działania nie powinny wywierać efektów w świecie rzeczywistym, ponieważ mogłoby to przynieść bardzo duże szkody i wygenerować różnego typu problemy.

13:00

To może na zakończenie jeszcze podam kilka fajnych przykładów tego, co mogą robić agenci albo co robią agenci, których my stworzyliśmy na nasze własne potrzeby czy też na potrzeby naszych klientów.

13:10

Takim ostatnim, myślę że bardzo fajnym, ciekawym przykładem jest nasz agent rekruter, który pomaga nam ewaluować kandydatów, którzy składają swoje CV, którzy wysyłają swoje CV w odpowiedzi na nasze oferty pracy.

13:24

Taki agent jest zrobiony w taki sposób, że przegląda każde CV, sprawdza komplementarność tego CV względem oferty, na którą dany kandydat lub kandydatka zaaplikowali, po czym wyszukuje więcej informacji w internecie na temat danej osoby, przegląda jej profil na LinkedInie, przegląda konto na GitHubie czy też wyszukuje jeszcze jakieś inne informacje. Na tej podstawie na koniec tworzy pewne podsumowanie – podsumowanie plus wynik, który jest wynikiem punktowym zgodności i dopasowania do naszej oferty, do naszych oczekiwań, ale też podsumowanie, które opisuje mocne strony danego kandydata czy też jakieś żółte lampki, które się zapaliły i które mogą być problemem podczas następnych kroków rekrutacji.

Przykłady agentów AI – jak wykorzystujemy je w rekrutacji?

14:05

Jest to niezwykle pomocne i bardzo upraszcza pracę naszemu zespołowi rekrutacji, ponieważ są to czynności, które nasz zespół wykonywał w sposób manualny i zajmowało to bardzo dużo czasu.

14:17

Dzisiaj dostają odpowiednie podsumowanie, ewentualnie jeżeli są tam jakieś wątpliwości, to jest jeszcze sprawdzane przez człowieka (double check), ale zazwyczaj to podsumowanie jest bardzo trafne i na jego podstawie można podjąć decyzję o tym, czy danego kandydata procesować dalej, czy może jednak należy mu podziękować.

14:33

To jest coś, co u nas już działa, z czego już korzystamy.

14:36

Moje doświadczenie, ale też obserwacja w pracy z naszymi klientami, jest taka, że jak ktoś zaczyna pracę z agentami, zaczyna tworzyć tych agentów i wykorzystywać ich w pracy, to zawsze chce więcej.

14:47

W momencie, kiedy zaczniemy automatyzować jakąś część procesu (czyli, jak w tym przykładzie, początek naszej rekrutacji), to za chwilę pojawia się mnóstwo pomysłów na to, jak taki system, jak takiego agenta rozbudować, żeby podejmował coraz więcej decyzji, był coraz bardziej autonomiczny i obsługiwał coraz większy obszar w danym procesie, który automatyzujemy, bądź też jak rozszerzać takie działania na jeszcze więcej procesów, integrować te procesy ze sobą czy też je upraszczać.

Automatyzacja procesów i wpływ AI na biznes

15:11

Myślę, że to jest bardzo dobry przykład tego, jaką wartość dla biznesów dostarczają agenci i rozwiązania tego typu.

15:19

Zachęcam gorąco Ciebie do tego, żebyś spróbował, spróbowała stworzyć takich agentów. Poczytaj o tym trochę więcej, poszukaj więcej informacji.

15:25

Jeśli masz jakieś pomysły, jak zautomatyzować swoje procesy, albo jakie procesy zautomatyzować, ale nie wiesz, jak się do tego zabrać, możesz też oczywiście skontaktować się z nami bądź skomentować to wideo.

15:37

Bardzo chętnie pomożemy Ci zacząć. Może też pomożemy Ci we wdrożeniu i automatyzacji Twoich procesów.

15:41

Także zachęcam do kontaktu. Myślę, że jest jeszcze jedna bardzo ważna kwestia warta wspomnienia.

15:46

Tworzenie agentów pozwala nam bardzo często zastąpić tworzenie kodu, tworzenie rozwiązań programistycznych.

15:52

Pozwala nam nie tylko zastąpić to programowanie, ale też niesamowicie je przyspieszyć – i to przyspieszyć nawet kilkudziesięciokrotnie – sposób dostarczania rozwiązania dla jakiegoś problemu, gdzie rozwiązanie go w sposób stricte programistyczny, poprzez kodowanie, zajęłoby nam, powiedzmy, tygodnie lub miesiące. W przypadku agenta, no-code czy też nawet przez programowanie, ale z wykorzystaniem AI, z wykorzystaniem pewnego rodzaju workflow, rozwiązanie danego problemu często zajmuje nam kilka dni albo nawet godzin w porównaniu do kilku tygodni czy miesięcy.

Przyszłość agentów AI i ich wpływ na rynek pracy

16:22

Dlatego myślę, że agenci już teraz bardzo mocno wpływają na to, jak rozwija się świat, bardzo mocno wpływają na to, jak rozwija się technologia i jak rozwija się zastosowanie tej technologii w naszym świecie, w naszej codziennej pracy.

16:35

Myślę, że to jest też powód, dlaczego dzisiaj wszyscy w firmach, w dużych firmach na całym świecie, mówią o AI, mówią o agentach AI i starają się tych agentów jak najbardziej wykorzystać, jak najwięcej wdrażać w swojej pracy.

16:49

Oczywiście wiąże się to też z pewnymi konsekwencjami natury ekonomicznej, ofertami pracy czy też, bardziej, rynkiem pracy, bo, jakby nie było, automatyzacja zastępuje wiele osób, wiele zawodów.

Plany na kolejne odcinki – daj nam znać, o czym chcesz posłuchać!

17:00

Ale myślę, że to jest temat na kolejne odcinki.

17:04

Dajcie znać w komentarzach, o czym jeszcze chcielibyście posłuchać.

17:07

Mamy w planach przygotowanie m.in. odcinka o tym, jak stworzyć takiego agenta na przykładach, krok po kroku.

17:12

Ale może macie jeszcze jakieś inne pytania i wątpliwości, które chcielibyście, żebyśmy poruszyli w kolejnych odcinkach naszej serii.

17:18

Zachęcam do zasubskrybowania, jeśli jeszcze tego nie zrobiliście, i zapraszam do kolejnych odcinków.