Czym są Langfuse Web i Langfuse Worker w local-ai-packaged i do czego służą

Wprowadzenie

Cześć! Uruchamiasz projekt local-ai-packaged na Ubuntu Desktop (np. na laptopie z AMD Ryzen 9 5900HS i NVIDIA RTX 3060, serwer 192.168.76.171) i zauważyłeś w wyniku polecenia docker ps kontenery localai-langfuse-web-1 i localai-langfuse-worker-1? Zastanawiasz się, czym są Langfuse Web i Langfuse Worker oraz jakie pełnią funkcje w Twoim środowisku AI? Ten idiotoodporny poradnik wyjaśni, czym są te usługi, do czego służą i jak wspierają lokalne wdrożenia AI, takie jak Flowise czy Supabase. Artykuł jest po polsku, z gotowymi komendami i opisami zrzutów ekranu, idealny dla klientów agencja-ai.com!

Czym jest Langfuse?

Langfuse to open-source’owe narzędzie do obserwowalności i analityki dla aplikacji AI opartych na modelach językowych (LLM), takich jak te używane w local-ai-packaged (np. Ollama). Umożliwia monitorowanie, debugowanie i optymalizację interakcji z modelami AI poprzez śledzenie wywołań API, odpowiedzi, metadanych i wydajności. W projekcie local-ai-packaged, Langfuse jest podzielony na dwa komponenty: Langfuse Web i Langfuse Worker, które współpracują, aby dostarczyć kompleksowe dane analityczne.

Kluczowe cechy Langfuse:

• Śledzenie wywołań LLM: Rejestruje zapytania i odpowiedzi modeli AI (np. Ollama).
• Analityka: Monitoruje opóźnienia, koszty tokenów i błędy w interakcjach z modelami.
• Debugowanie: Pomaga identyfikować problemy w odpowiedziach AI, np. niepoprawne formatowanie JSON.
• Interfejs użytkownika: Oferuje intuicyjny dashboard do wizualizacji danych.
• Integracja: Działa z aplikacjami AI, takimi jak Flowise, w środowisku local-ai-packaged.

Langfuse Web (localai-langfuse-web-1)

Co to jest? Langfuse Web to frontendowy komponent Langfuse, który zapewnia interfejs użytkownika (dashboard) do przeglądania i analizy danych zebranych przez Langfuse. Działa jako serwer WWW, dostępny na porcie 127.0.0.1:3000 (mapowanym na 3000/tcp w kontenerze).

Do czego służy?

• Dashboard analityczny: Umożliwia wizualizację wywołań API, odpowiedzi modeli AI, opóźnień i błędów.
• Zarządzanie projektami: Pozwala tworzyć projekty, przeglądać sesje użytkowników i analizować dane w czasie rzeczywistym.
• Debugowanie: Ułatwia identyfikację problemów w interakcjach z modelami AI, np. błędnych odpowiedzi Flowise.
• Dostęp lokalny: Dostępny pod adresem http://127.0.0.1:3000 lub przez Konga (np. http://192.168.76.171:8000/langfuse, jeśli skonfigurowano trasę).

Zrzut ekranu: Dashboard Langfuse Web otwarty w przeglądarce na http://127.0.0.1:3000, pokazujący statystyki wywołań LLM.

Langfuse Worker (localai-langfuse-worker-1)

Co to jest? Langfuse Worker to backendowy komponent Langfuse, odpowiedzialny za przetwarzanie danych i wykonywanie zadań w tle. Działa na porcie 127.0.0.1:3030 (mapowanym na 3030/tcp w kontenerze).

Do czego służy?

• Przetwarzanie danych: Zbiera i przetwarza dane telemetryczne z aplikacji AI, takich jak zapytania do Ollama.
• Zadania w tle: Wykonuje operacje asynchroniczne, np. zapisywanie logów, obliczanie metryk czy wysyłanie powiadomień.
• Integracja z bazą danych: Współpracuje z bazą danych (np. Postgres w local-ai-packaged) do przechowywania danych analitycznych.
• Wsparcie dla Web: Dostarcza dane do Langfuse Web, umożliwiając wyświetlanie ich w dashboardzie.

Zrzut ekranu: Terminal z wynikiem docker logs localai-langfuse-worker-1, pokazującym przetwarzanie danych telemetrycznych.

Jak działają w local-ai-packaged?

W projekcie local-ai-packaged, Langfuse Web i Worker są uruchomione jako kontenery Docker, zintegrowane z innymi usługami, takimi jak Flowise, Supabase czy Ollama. Oto ich rola w środowisku:

• Monitorowanie AI: Langfuse śledzi interakcje z modelami AI (np. Ollama), rejestrując zapytania, odpowiedzi i metadane, takie jak czas odpowiedzi czy zużycie tokenów.
• Integracja z Kongiem: Dostęp do Langfuse Web jest możliwy przez API Gateway Kong (np. http://192.168.76.171:8000/langfuse), co upraszcza zarządzanie ruchem.
• Wsparcie dla Flowise: Langfuse analizuje przepływy pracy Flowise, pomagając optymalizować chatboty lub aplikacje AI.
• Skalowalność: Worker przetwarza duże ilości danych w tle, co jest kluczowe przy intensywnym korzystaniu z GPU NVIDIA RTX 3060.

Przykładowa konfiguracja w docker-compose.yml dla Langfuse:

services:
  langfuse-web:
    image: langfuse/langfuse:3
    ports:
      - "127.0.0.1:3000:3000"
    environment:
      - DATABASE_URL=postgres://postgres:password@postgres:5432/langfuse
  langfuse-worker:
    image: langfuse/langfuse-worker:3
    ports:
      - "127.0.0.1:3030:3030"
    environment:
      - DATABASE_URL=postgres://postgres:password@postgres:5432/langfuse

Zrzut ekranu: Edytor tekstu z otwartym plikiem docker-compose.yml, pokazującym konfigurację Langfuse.

Kroki do przetestowania Langfuse

1. Uruchom local-ai-packaged z profilem GPU:

cd ~/local-ai-packaged
python3 start_services.py --profile gpu-nvidia --environment public

2. Sprawdź dostępność Langfuse Web:

curl http://127.0.0.1:3000

Jeśli używasz Konga, przetestuj przez trasę:

curl -H "apikey: my-key" http://192.168.76.171:8000/langfuse

3. Sprawdź logi Langfuse Worker:

docker logs localai-langfuse-worker-1

Powinieneś zobaczyć informacje o przetwarzaniu danych telemetrycznych.

Zrzut ekranu: Przeglądarka z otwartym dashboardem Langfuse na http://127.0.0.1:3000.

Dlaczego Langfuse jest ważny w local-ai-packaged?

Langfuse Web i Worker są kluczowe dla local-ai-packaged, ponieważ:

• Monitorowanie wydajności: Śledzą, jak modele AI (np. Ollama) radzą sobie z zadaniami, co pomaga optymalizować aplikacje.
• Debugowanie: Ułatwiają identyfikację błędów w odpowiedziach AI, np. w Flowise.
• Analityka: Dostarczają danych o zużyciu zasobów, kluczowych przy używaniu GPU NVIDIA RTX 3060.
• Integracja: Współpracują z innymi usługami, takimi jak Supabase, przez wspólną bazę danych Postgres.

Uwaga: Jeśli napotykasz problemy z GPU, sprawdź nasz poradnik o sterownikach NVIDIA dla Dockera.

Najlepsze praktyki

• Bezpieczeństwo: Skonfiguruj Konga z wtyczką key-auth dla Langfuse Web:

# Edytuj kong.yaml
services:
  - name: langfuse
    url: http://langfuse-web:3000
    routes:
      - name: langfuse-route
        paths:
          - /langfuse
plugins:
  - name: key-auth
    config:
      key_names:
        - apikey

• Monitorowanie: Regularnie sprawdzaj logi:

docker logs localai-langfuse-web-1
docker logs localai-langfuse-worker-1

• Baza danych: Upewnij się, że Postgres jest poprawnie skonfigurowany:

docker exec -it localai-postgres-1 psql -U postgres -c "\l"

• Kopia zapasowa: Zachowaj kopię konfiguracji:

cp ~/local-ai-packaged/docker-compose.yml ~/local-ai-packaged/docker-compose.yml.backup

Rozwiązywanie problemów

• Langfuse Web niedostępny: Sprawdź, czy port 3000 jest otwarty:

sudo netstat -tuln | grep 3000

• Worker nie przetwarza danych: Sprawdź logi i połączenie z bazą danych:

docker logs localai-langfuse-worker-1
docker exec -it localai-postgres-1 psql -U postgres -d langfuse -c "SELECT * FROM traces LIMIT 1;"

• Problemy z GPU: Upewnij się, że sterowniki NVIDIA działają:

docker run --rm --gpus all nvidia/cuda:12.2.2-base-ubuntu22.04 nvidia-smi

Zobacz nasz poradnik o NVIDIA dla Dockera.

• Sieć: Sprawdź sieć Docker:

docker network inspect localai

Zobacz nasz poradnik o widoczności usług.

• Kontakt: Napisz na agencja-ai.com/kontakt.

Zwiększanie sprzedaży instrukcji

• Polski język: Proste instrukcje po polsku przyciągają użytkowników.
• Demo: Pokaż dashboard Langfuse na http://192.168.76.171:8000/langfuse.
• PDF: Udostępnij ten artykuł jako PDF na agencja-ai.com.

Podsumowanie

Langfuse Web (127.0.0.1:3000) i Langfuse Worker (127.0.0.1:3030) w local-ai-packaged to kluczowe komponenty do monitorowania i optymalizacji aplikacji AI, takich jak Flowise czy Ollama. Web zapewnia dashboard analityczny, a Worker przetwarza dane w tle, wspierając Twoje środowisko AI na serwerze 192.168.76.171 z GPU NVIDIA RTX 3060. Ten poradnik zwiększy atrakcyjność Twoich instrukcji na agencja-ai.com. Potrzebujesz więcej poradników, np. o konfiguracji Flowise lub debugowaniu Ollama? Napisz do nas! 😄

Źródła: Langfuse, local-ai-packaged, Docker