AI

Funkcje AI w Antimatter korzystają z modeli, które wybierzesz: dostawcy chmurowego lub serwera w Twojej własnej sieci. Żadna informacja nie jest nigdzie wysyłana, dopóki nie skonfigurujesz modelu. Ta strona omawia połączenia z modelami, każdą funkcję, dane, które przesyła, oraz sposoby jej wyłączenia.

Funkcje AI

„Zgodne z OpenAI” oznacza serwer, który oferuje to samo API HTTP co OpenAI. Większość serwerów modeli, które można uruchomić samodzielnie, jest z nim zgodna (na przykład Ollama, vLLM, serwer llama.cpp, a także serwery Whisper i konwersji tekstu na mowę), podobnie jak wielu dostawców chmurowych i bramki, takie jak LiteLLM czy OpenRouter. Żadna z tych funkcji nie wymaga licencji.

Wbudowane funkcje (przepisywanie, podsumowania, tłumaczenie i odczyt na głos) nie wymagają aplikacji Agents: korzystają z połączeń z modelami, które dodajesz w Konsoli systemu.

Połączenia z modelami

Połączenie z modelem to dostawca AI, z którego Antimatter może korzystać: jego adres, klucz i modele. Dodajesz je raz, a następnie wybierasz dla każdej funkcji, która ma z nich korzystać. Istnieją dwa rodzaje:

• Połączenia na poziomie serwera, zarządzane przez administratorów systemu w Konsola systemu › AI › Połączenia z modelami. Tylko one mogą obsługiwać wbudowane funkcje. Aplikacje również mogą z nich korzystać, dla osób, które mają do tego uprawnienia.
• Połączenia społeczności, dodawane przez administratorów danej społeczności w ustawieniach tej społeczności (patrz poniżej). Aplikacje używają ich dla członków tej społeczności. Nigdy nie obsługują wbudowanych funkcji.

Sekcja AI w Konsoli systemu jest widoczna dla osób, które mogą zarządzać połączeniami na poziomie serwera: domyślnie są to administratorzy systemu. Strona Połączenia z modelami zawiera listę połączeń na poziomie serwera oraz połączeń wszystkich społeczności.

Dodaj połączenie

W Konsola systemu › AI › Połączenia z modelami kliknij Dodaj połączenie, a następnie wypełnij formularz:

Sprawdź połączenie weryfikuje adres i klucz: serwer prosi punkt końcowy o listę modeli lub wysyła czat z jednym tokenem. Zmieniony adres jest testowany z zapisanym kluczem dopiero po zapisaniu zmian lub ponownym wpisaniu klucza. Kliknij Dodaj połączenie, aby zapisać.

Serwer sam wysyła żądania, więc musi mieć dostęp do API: do serwera modelu w tym samym projekcie compose, w Twojej sieci lub w internecie. Wyjściowe żądania respektują zmienne HTTP_PROXY i HTTPS_PROXY.

Usunięcie połączenia powoduje usunięcie jego klucza. Funkcje, które z niego korzystały, przestaną korzystać z AI, dopóki nie wybierzesz innego połączenia.

Limit i budżety

Każde połączenie ma cztery limity. Puste pole lub wartość 0 oznacza brak limitu.

• Żądania na minutę i Na osobę, żądania na minutę. Są liczone osobno przez każdy serwer: klastr trzech serwerów przepuszcza do trzech razy więcej żądań.
• Tokeny na miesiąc i Na osobę, tokeny na miesiąc: budżety tokenów, liczone w kalendarzowym miesiącu (UTC) w bazie danych dla całego klastra. Kilka żądań wykonywanych jednocześnie może nieznacznie przekroczyć budżet.

Limity na osobę dotyczą również przepisywania i podsumowań: są naliczane osobie, która przepisuje, lub właścicielowi podsumowania.

Wykorzystanie

Lista pokazuje wykorzystanie każdego połączenia w tym miesiącu. Wykorzystanie otwiera szczegóły: tokeny wejściowe i wyjściowe, żądania, miesięczny budżet, wykorzystanie według dnia (UTC) i według funkcji (Przepisz, Podsumowania, Automatyczne tłumaczenie, Mówienie tekstu, Osoby, przez aplikacje lub konkretna aplikacja).

Każde wywołanie wykonane przez osobę lub aplikację przez połączenie zapisuje również wpis w dzienniku audytu: kto, które połączenie, do czego służyło, który model, liczba tokenów i czy zakończyło się sukcesem, nigdy nie zapisuje treści. Wbudowane funkcje są liczone tylko w wykorzystaniu: samo tłumaczenie wykonuje jedno wywołanie na wiadomość i język.

Połączenia społeczności

Administratorzy społeczności dodają własne połączenia społeczności w ustawieniach społeczności, w zakładce Połączenia z modelami. Formularz jest taki sam, bez Społeczności: połączenie społeczności działa tylko w jej kanałach, dla jej członków, a jej odbiorcy mogą wskazywać tylko własne zespoły. Role z uprawnieniem Zarządzanie połączeniami z modelami mogą je również zarządzać. Domyślnie administratorzy społeczności mają to uprawnienie.

Połączenie społeczności nie może osiągać adresów prywatnych lub pętli zwrotnej (na przykład serwera Ollama w Twojej sieci), chyba że Konsola systemu › Środowisko › Programista › Pozwól na niezaufane połączenia wewnętrzne do (ServiceSettings.AllowedUntrustedInternalConnections) je wymienia. Połączenia na poziomie serwera mogą.

Zobacz Ustawienia społeczności po stronie administratorów społeczności.

Klucz szyfrowania

Klucze i dodatkowe nagłówki połączeń z modelami są szyfrowane w bazie danych (AES-256-GCM) za pomocą jednego klucza szyfrującego. Sama kopia zapasowa bazy danych nie ujawnia ich. Serwer szuka klucza w następującej kolejności:

1. Zmienna AM_AI_ENCRYPTION_KEY: 32 losowe bajty w formacie base64. Utwórz ją za pomocą polecenia openssl rand -base64 32.
2. W przeciwnym razie plik ai-encryption.key w katalogu głównym katalogu danych serwera (FileSettings.Directory, domyślnie ./data/). Serwer tworzy go, z uprawnieniami odczytu tylko dla siebie, za pierwszym razem, gdy połączenie go potrzebuje. Aplikacje, eksporty i archiwa plików nie mają do niego dostępu.

Kiedy ustawić zmienną:

• W pliku compose witryny. Plik compose.yaml przekazuje AM_AI_ENCRYPTION_KEY z pliku .env i, gdy zmienna jest pusta, utrzymuje plik klucza w wolumenie data. Ustawienie zmiennej jest lepszym rozwiązaniem: kopia zapasowa pliku .env zawiera wtedy klucz, osobno od bazy danych. Dodaj go do pliku .env i uruchom docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Jeśli serwer utworzył już swój plik klucza, wpisz w pliku .env klucz, który w nim znajduje, aby zapisane klucze pozostały czytelne: polecenie docker compose exec antimatter cat /antimatter/data/ai-encryption.key wyświetla go.
• Klaster, którego pliki znajdują się w S3. Jego serwery nie współdzielą katalogu, więc serwer nie tworzy pliku: ustaw tę samą zmienną na każdym serwerze. Do czasu jej ustawienia połączenia nie mogą zapisywać kluczy.
• W przypadku archiwum wydania lub pakietów, plik znajduje się w data/ (w przypadku pakietów: /var/lib/antimatter/data). Możesz go tam zostawić lub ustawić zmienną w swoim pliku środowiskowym.

Aby zmienić klucz, ustaw nowy w AM_AI_ENCRYPTION_KEY, a stary w AM_AI_ENCRYPTION_PREVIOUS_KEYS (kilka kluczy oddzielonych przecinkami): klucze zapisane za pomocą starego klucza nadal można odczytać. Klucz połączenia jest szyfrowany nowym kluczem, gdy wpiszesz go ponownie. Zachowaj stary klucz na liście, aż klucze wszystkich połączeń zostaną ponownie wpisane.

Wbudowane funkcje

W Konsola systemu › AI › Wbudowane funkcje wybierz dla każdej funkcji połączenie na poziomie serwera oraz jego model, albo Wył. Funkcja bez połączenia nie korzysta z AI. Wczytaj modele wyświetla wszystkie modele danego połączenia; domyślnie każda funkcja używa modelu czatu połączenia.

Każde ustawienie ma klucz ConnectionId i Model, na przykład AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Pusty Model używa domyślnego modelu połączenia.

Wbudowane funkcje korzystają z limitów połączenia, ale nie z jego grupy odbiorców: każdy, kto może używać funkcji, może używać jej połączenia. Połączenie wymagające uwagi lub usunięte powoduje awarię funkcji, dopóki nie wybierzesz innego: strona informuje o tym.

Agenci AI

Aplikacja Agenci (id mattermost-ai) jest domyślnie włączona. Jej konfiguracja wymaga dwóch kroków: dodania usługi (połączenia z dostawcą modelu), a następnie utworzenia agentów (botów korzystających z usługi).

1. Dodaj usługę

Przejdź do Konsola systemu › Wtyczki › Agenci i w sekcji Usługi AI kliknij Dodaj usługę AI. Wybierz Typ usługi:

• Zgodna z OpenAI: dla serwera modelu, który uruchamiasz samodzielnie, lub dowolnego dostawcy z API w stylu OpenAI. Wpisz Adres URL API (na przykład http://ollama:11434/v1 lub http://vllm.internal:8000/v1) oraz Klucz API tylko wtedy, gdy serwer go wymaga. Jeśli serwer obsługuje wyłącznie API Chat Completions, wyłącz Użyj API Responses.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: dostawcy hostowani. Każdy wymaga Klucza API (Bedrock: regionu AWS i danych uwierzytelniających lub roli IAM; Vertex AI: projektu, regionu i konta usługi; Azure: również adresu URL API).

Następnie ustaw Domyślny model (listę, jeśli dostawca może raportować swoje modele, w przeciwnym razie wpisz nazwę) oraz, jeśli dostawca nie raportuje limitów, Limit tokenów wejściowych i Limit tokenów wyjściowych. Usługa zapasowa może przejąć zadania, gdy ta usługa zawiedzie. Zapisz zmiany.

Serwer wykonuje te żądania samodzielnie, więc musi mieć dostęp do API: do serwera modelu w tym samym projekcie compose, w Twojej sieci lub w internecie. Wyjściowe żądania respektują zmienne HTTP_PROXY i HTTPS_PROXY.

2. Tworzenie agentów

Agenci są tworzeni na stronie Agenci aplikacji webowej: otwórz ją za pomocą opcji Zarządzaj w selektorze agentów w panelu Agentów (w klasycznym interfejsie również z menu produktu). Jej adres to https://chat.example.com/plug/mattermost-ai/agents. Każdy agent ma Nazwę wyświetlaną, Nazwę użytkownika agenta (w jaki sposób ludzie go wzmiankują), Usługę oraz opcjonalnie model, Niestandardowe instrukcje oraz przełączniki Włącz wizję (obrazy) i Włącz narzędzia. Zakładka Dostęp ogranicza, w których kanałach może być używany i którzy użytkownicy mogą z niego korzystać. W sekcji Funkcje AI w Konsoli systemu, opcja Bot domyślny wybiera agenta używanego, gdy żaden nie zostanie wybrany, na przykład do podsumowań rozmów.

Opcjonalne funkcje aplikacji Agentów

• Wyszukiwanie osadzania (eksperymentalne, wyłączone): wyszukiwanie semantyczne po wiadomościach. Wymaga PostgreSQL z rozszerzeniem pgvector oraz modelu osadzania (OpenAI lub zgodnego z OpenAI). Wysyła każdą wiadomość do modelu osadzania, w tym z kanałów prywatnych i wiadomości bezpośrednich.
• Wyszukiwanie w sieci (wyłączone): pozwala agentom przeszukiwać internet za pomocą Google, Brave lub serwera SearXNG, który uruchamiasz.
• Natywne narzędzia: przy dostawcach, którzy je oferują, agenci mogą korzystać z własnego wyszukiwania w sieci (domyślnie włączone dla nowych agentów, jeśli jest to wspierane), pobierania z sieci i wykonywania kodu. Są one wykonywane po stronie dostawcy. Wyłącz je dla poszczególnych agentów.
• Model Context Protocol (MCP): połącz agentów z serwerami MCP, którym ufasz, aby uzyskać dodatkowe narzędzia.
• Debuguj: Śledzenie wyjścia (wyłączone, dzienniki serwera lub punkt końcowy OpenTelemetry) oraz Włącz logowanie zużycia tokenów, które zapisuje liczbę tokenów w logs/agents/token_usage.log.

Rozpoznawanie mowy: transkrypcje i napisy rozmów

Rozmowy mogą być transkrybowane, z napisami na żywo, przez serwer konwersji mowy na tekst, który oferuje endpoint zgodny z OpenAI /v1/audio/transcriptions. Konfiguracja znajduje się w sekcji Rozmowy i głos. Jeśli opcja Summarize transcriptions jest włączona, domyślny agent publikuje również podsumowanie każdej transkrypcji.

Konwersja tekstu na mowę: odczyt na głos

Po włączeniu funkcji mówienia tekstu, w menu każdej wiadomości znajduje się opcja Odczytaj na głos: serwer wysyła tekst wiadomości do API mówienia tekstu i odtwarza audio. Ustawienia, w Konsola systemu › Integracje › Mówienie tekstu:

Aby użyć połączenia z modelem zamiast adresu i klucza powyżej, wybierz je dla opcji Mówienie tekstu w sekcji AI › Wbudowane funkcje. Strona informuje wtedy, że wiadomości są odczytywane na głos za pomocą tego połączenia: Podstawowy adres URL API i Klucz API nie są używane, Głos nadal jest używany, a także Model, gdy połączenie nie określa modelu. Opcja Odczytywanie wiadomości na głos musi nadal być włączona.

Przed wysłaniem serwer usuwa bloki kodu, linki, kody emoji i formatowanie, a także ogranicza tekst do 4000 znaków. Żąda audio w formacie MP3 i przechowuje ostatnie 64 wyniki w pamięci, dzięki czemu wiadomość odczytana dwukrotnie jest wysyłana tylko raz.

Automatyczne tłumaczenie

Automatyczne tłumaczenie wyświetla wiadomości kanału w języku własnym każdego czytelnika. Skonfiguruj je w Konsola systemu › Konfiguracja strony › Języki, w sekcji Automatyczne tłumaczenie:

Każdy dostawca ma własne pola:

• Połączenie z modelem: połączenie na poziomie serwera i jego model, to samo ustawienie co Automatyczne tłumaczenie w sekcji AI › Wbudowane funkcje (AISettings.AutoTranslation). Dedykowany model do tłumaczeń jest szybki i dokładny; ogólny LLM również zadziała.
• LibreTranslate: Punkt końcowy API LibreTranslate oraz Klucz API LibreTranslate (AutoTranslationSettings.LibreTranslate.URL, .APIKey). Serwer LibreTranslate może działać w Twojej własnej sieci.
• API zgodne z OpenAI: Podstawowy adres URL API (do /v1 włącznie; serwer używa jego punktu końcowego do uzupełniania czatu), Model oraz Klucz API (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Mały model tłumaczeniowy uruchomiony lokalnie działa dobrze.
• Usługa aplikacji czatu AI (starsza): dostawca dla serwerów skonfigurowanych przed wersją 0.9.0, które używały usługi aplikacji Agentów. Nie wymaga już tej aplikacji: tłumaczy za pomocą połączenia wybranego do automatycznego tłumaczenia w sekcji AI › Wbudowane funkcje, a w przeciwnym razie za pomocą połączenia skopiowanego z usługi aplikacji podczas aktualizacji. Opcja Przełącz na połączenie z modelem przenosi ustawienie na zalecany dostawca.

Po włączeniu tej funkcji administratorzy kanałów włączają tłumaczenie dla danego kanału w jego ustawieniach (Automatyczne tłumaczenie), a każdy członek może zrezygnować z tłumaczenia z menu kanału (Tłumacz wiadomości). W wiadomościach bezpośrednich i grupowych każdy członek może włączyć tę funkcję; przy włączonej ograniczeniu tłumaczenie nie jest tam dostępne. Przetłumaczone wiadomości zawierają informację „Przetłumaczono z …” z linkiem do oryginału.

Kod, linki, wzmianki i emoji są zastępowane znacznikami przed wysłaniem tekstu, a następnie przywracane.

Dane i ich przeznaczenie

Aby utrzymać wszystko w swojej sieci, skieruj każdą funkcję do serwerów, które sam uruchamiasz. W przypadku dostawcy chmurowego sprawdź jego warunki dotyczące przechowywania danych i poinformuj użytkowników, które funkcje wysyłają ich wiadomości na zewnątrz.

Wyłączanie AI

Nie ma jednego przełącznika: każda funkcja ma swój własny.

• Przepisywanie i podsumowania: ustaw je na Wył w Konsola systemu › AI › Wbudowane funkcje. Użytkownicy nadal czytają podsumowania, które już posiadają.
• Połączenia z modelami: usuń połączenie, aby zatrzymać wszelkie jego użycie. Bez żadnego połączenia ani wbudowane funkcje, ani aplikacje nie mogą korzystać z AI przez serwer.
• Agenci: wyłącz aplikację Agenci w Konsola systemu › Wtyczki › Zarządzanie wtyczkami. Spowoduje to również usunięcie podsumowań rozmów.
• Transkrypcja i napisy: AM_CALLS_ENABLE_TRANSCRIPTIONS=false oraz AM_CALLS_ENABLE_LIVE_CAPTIONS=false (wartości domyślne).
• Odczytaj na głos: wyłącz Odczytywanie wiadomości na głos (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, wartość domyślna), niezależnie od tego, czy korzysta z połączenia.
• Tłumaczenie: wyłącz tłumaczenie automatyczne (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, wartość domyślna).

Wyłączenie aplikacji Agenci nie wyłącza pozostałych funkcji: korzystają one z połączeń z modelami lub z własnych interfejsów API.