Co to jest Kong i do czego służy w local-ai-packaged?

Wprowadzenie

Cześć! Zauważyłeś, że w projekcie local-ai-packaged (używanym np. na serwerze 192.168.76.171 z laptopem AMD Ryzen 9 5900HS i NVIDIA RTX 3060) jednym z kontenerów jest Kong? Zastanawiasz się, czym jest Kong i dlaczego jest kluczowy dla lokalnych usług AI, takich jak Flowise, Supabase czy n8n? Ten idiotoodporny poradnik wyjaśni, czym jest Kong, jakie pełni funkcje w local-ai-packaged i jak wspiera Twoje wdrożenia AI. Artykuł jest po polsku, z gotowymi komendami i opisami zrzutów ekranu, idealny dla klientów agencja-ai.com!

Czym jest Kong?

Kong to open-source’owy API Gateway i platforma do zarządzania mikroserwisami, zbudowana na serwerze NGINX. Działa jako pośrednik między klientami (np. przeglądarką, aplikacjami) a usługami backendowymi (np. API Flowise czy Supabase). W local-ai-packaged Kong jest uruchamiany jako kontener Docker, który zarządza ruchem sieciowym między usługami AI, zapewniając bezpieczeństwo, routing i skalowalność.

Kluczowe cechy Konga:

• Routing API: Kieruje żądania HTTP/HTTPS do odpowiednich usług (np. /flowise do Flowise).
• Bezpieczeństwo: Obsługuje autoryzację (np. klucze API, OAuth2) i SSL/TLS.
• Wtyczki: Umożliwia dodawanie funkcji, takich jak limitowanie żądań, logowanie czy transformacja odpowiedzi AI.
• Skalowalność: Ułatwia zarządzanie wieloma usługami w środowiskach lokalnych i publicznych.
• Observability: Zapewnia analitykę ruchu API, przydatną do monitorowania usług AI.

Do czego służy Kong w local-ai-packaged?

W projekcie local-ai-packaged, Kong pełni rolę centralnego punktu zarządzania komunikacją między kontenerami (np. Flowise, Supabase, n8n, Ollama) a klientami zewnętrznymi (np. przeglądarką na 192.168.76.171). Oto jego główne funkcje:

1. Proxy dla usług AI:
   • Kong kieruje żądania do odpowiednich kontenerów, np. http://192.168.76.171/flowise do Flowise na porcie 3001.
   • Umożliwia dostęp do wielu usług przez jeden adres IP, bez konieczności ręcznego wskazywania portów.
2. Bezpieczeństwo:
   • Obsługuje wtyczki, takie jak key-auth, wymagające klucza API dla dostępu do usług.
   • Wspiera HTTPS, zapewniając bezpieczne połączenia w trybie --environment public.
3. Transformacja żądań:
   • Wtyczki, takie jak AI Proxy, umożliwiają modyfikację żądań lub odpowiedzi, np. dodanie metadanych do odpowiedzi modelu AI (Ollama).
4. Zarządzanie ruchem:
   • Obsługuje limitowanie żądań (rate limiting), co chroni GPU (np. RTX 3060) przed przeciążeniem.
   • Zapewnia balansowanie obciążenia między usługami.
5. Uproszczenie konfiguracji:
   • W trybie bezbazy danych (DB-less), Kong używa pliku kong.yaml, co ułatwia konfigurację w lokalnych środowiskach AI.

Zrzut ekranu: Diagram pokazujący, jak Kong kieruje żądania z 192.168.76.171:8000/flowise do kontenera Flowise.

Jak Kong działa w local-ai-packaged?

W local-ai-packaged, Kong jest skonfigurowany w pliku docker-compose.yml i uruchamiany za pomocą skryptu start_services.py. Przykładowa konfiguracja w kong.yaml może wyglądać tak:

_format_version: "3.0"
services:
  - name: flowise
    url: http://flowise:3001
    routes:
      - name: flowise-route
        paths:
          - /flowise
  - name: supabase
    url: http://supabase:3000
    routes:
      - name: supabase-route
        paths:
          - /supabase
plugins:
  - name: key-auth
    config:
      key_names:
        - apikey

Wyjaśnienie:

• services: Definiuje backendy, np. Flowise na porcie 3001.
• routes: Mapuje ścieżki URL (np. /flowise) na usługi.
• plugins: Wtyczka key-auth wymaga klucza API (np. my-key).

Zrzut ekranu: Edytor tekstu z otwartym plikiem kong.yaml pokazującym konfigurację tras.

Kroki do przetestowania Konga

1. Uruchom local-ai-packaged z profilem GPU:

cd ~/local-ai-packaged
python3 start_services.py --profile gpu-nvidia --environment public

Kong nasłuchuje na portach 8000 (HTTP), 8443 (HTTPS) i 8001 (API administracyjne).

2. Przetestuj dostęp do Flowise przez Konga:

curl -H "apikey: my-key" http://192.168.76.171:8000/flowise

Powinieneś otrzymać odpowiedź z Flowise, np. JSON z danymi API.

3. Sprawdź status Konga:

curl http://192.168.76.171:8001

Zobaczysz informacje o stanie Konga, np. wersję i konfigurację.

Zrzut ekranu: Terminal z wynikiem curl http://192.168.76.171:8000/flowise pokazującym odpowiedź API.

Dlaczego Kong jest ważny w local-ai-packaged?

Kong to serce sieciowe local-ai-packaged, które zapewnia:

• Jednolity dostęp: Wszystkie usługi AI dostępne przez jeden adres IP (np. 192.168.76.171).
• Bezpieczeństwo: Chroni API przed nieautoryzowanym dostępem w trybie public.
• Elastyczność: Wtyczki (np. AI Proxy) umożliwiają dostosowanie żądań do modeli AI, takich jak Ollama.
• Wydajność: Optymalizuje ruch sieciowy, kluczowy przy użyciu GPU NVIDIA RTX 3060.

Uwaga: Jeśli napotykasz problemy z GPU, sprawdź nasz poradnik o sterownikach NVIDIA dla Dockera.

Najlepsze praktyki

• Bezpieczeństwo: Zawsze używaj wtyczek autoryzacyjnych, np. key-auth lub jwt, w trybie public.
• Monitorowanie: Sprawdzaj logi Konga:

docker logs localai_kong

• Sieć: Upewnij się, że wszystkie kontenery są w tej samej sieci Docker:

docker network inspect localai

• Kopia zapasowa: Zachowaj kopię pliku kong.yaml:

cp ~/local-ai-packaged/kong.yaml ~/local-ai-packaged/kong.yaml.backup

Rozwiązywanie problemów

• Kong nie odpowiada: Sprawdź, czy kontener działa:

docker ps -f name=localai_kong

• Błąd GPU: Upewnij się, że sterowniki NVIDIA i NVIDIA Container Toolkit są poprawnie zainstalowane:

docker run --rm --gpus all nvidia/cuda:12.2.2-base-ubuntu22.04 nvidia-smi

Zobacz nasz poradnik o NVIDIA dla Dockera.

• Problemy z siecią: Sprawdź konfigurację sieci bridge:

ip addr show br0

Zobacz nasz poradnik o widoczności usług.

• Kontakt: Napisz na agencja-ai.com/kontakt.

Zwiększanie sprzedaży instrukcji

• Polski język: Proste instrukcje po polsku przyciągają użytkowników.
• Demo: Pokaż Flowise przez Konga na https://flowise.agencja-ai.com.
• PDF: Udostępnij ten artykuł jako PDF na agencja-ai.com.

Podsumowanie

Kong w local-ai-packaged to API Gateway, który zarządza ruchem sieciowym między usługami AI (np. Flowise, Supabase) a klientami, zapewniając bezpieczeństwo, routing i skalowalność. Umożliwia łatwy dostęp do usług na Twoim serwerze (192.168.76.171) z GPU NVIDIA RTX 3060. Ten poradnik zwiększy atrakcyjność Twoich instrukcji na agencja-ai.com. Potrzebujesz więcej poradników, np. o konfiguracji wtyczek Konga lub optymalizacji GPU? Napisz do nas! 😄

Źródła: Kong Gateway, local-ai-packaged, Bitnami Kong