MI

Az Antimatter MŰI-funkciói a saját maga által választott modelleket használják: egy felhőszolgáltatót, vagy egy a saját hálózatában lévő szervert. Semmi sem kerül továbbításra, amíg be nem állít egy modellt. Ez az oldal a modellkapcsolatokat, az egyes funkciókat, az általuk továbbított adatokat és a kikapcsolásuk módját mutatja be.

A MI-funkciók

Az „OpenAI-kompatibilis” azt jelenti, hogy a szerver ugyanazt az HTTP API-t kínálja, mint az OpenAI. A legtöbb saját maga által üzemeltethető modell-szerver ezt teszi (például Ollama, vLLM, llama.cpp szervere, vagy Whisper és szöveg-beszéd szerverek), ahogy számos felhőszolgáltató és kapu is, mint a LiteLLM vagy az OpenRouter. Ezekhez a funkciókhoz nem szükséges licenc.

A beépített funkciók (újraírás, összefoglalók, fordítás és felolvasás) nem igénylik az Agents alkalmazást: a Rendszerkonzolban hozzáadott modellkapcsolatokat használják.

Modellkapcsolatok

A modellkapcsolat egy olyan MŰI-szolgáltató, akit az Antimatter hívhat: a címe, a kulcsa és a modellek. Egyszer adja hozzá, majd minden funkcióhoz kiválaszthatja, amelynek használnia kell. Két típusa van:

• Szerver-szintű kapcsolatok, amelyeket a rendszergazdák kezelnek a Rendszerkonzol › MŰI › Modellkapcsolatok menüben. Csak ők szolgálhatják ki a beépített funkciókat. Az alkalmazások is használhatják őket, azok számára, akiknek megengedett.
• Közösségi kapcsolatok, amelyeket a közösség adminisztrátorai a saját közösségük beállításaiban adnak hozzá (lásd alább). Az alkalmazások a közösség tagjai számára használják őket. Soha nem szolgálják ki a beépített funkciókat.

A Rendszerkonzol MŰI szakasza azoknak a felhasználóknak jelenik meg, akik kezelhetik a szerver-szintű kapcsolatokat: alapértelmezetten a rendszergazdák. A Modellkapcsolatok oldala felsorolja a szerver-szintű kapcsolatokat és minden közösségét.

Kapcsolat hozzáadása

A Rendszerkonzol › MŰI › Modellkapcsolatok menüben kattintson a Kapcsolat hozzáadása gombra, majd tölje ki az űrlapot:

A Kapcsolat tesztelése ellenőrzi a címet és a kulcsot: a szerver a végponttól kéri a modelleket, vagy küld egy egy tokenes csevegést. A megváltozott címet a mentett kulccsal csak mentés után teszteli, vagy ha újra begépezi a kulcsot. Kattintson a Kapcsolat hozzáadása gombra a mentéshez.

A szerver maga hajtja végre a kéréseket, ezért elérnie kell a API-t: ugyanabba a compose-projektumba tartozó modell-szerver, a hálózaton lévő szerver, vagy az interneten található szerver. A kimenő kérések tiszteletben tartják a HTTP_PROXY és HTTPS_PROXY változókat.

A kapcsolat törlésekor a kulcsa is elveszik. Azok a funkciók, amelyek ezt használták, addig nem használják az MI-t, amíg egy másik kapcsolatot nem választasz.

Korlátok és költségkeretek

Minden kapcsolatnak négy korlátja van. Ha egy mező üres, vagy 0, akkor nincs korlát.

• Kérések per perc és Embersonként, kérések per perc. Ezeket minden szerver külön-külön számolja: egy három szerveres klaszter legfeljebb háromszorosát engedheti át a korlátnak.
• Tokenek per hónap és Embersonként, tokenek per hónap: havi (UTC) naptári hónapra vonatkozó token-költségkeretek, amelyeket az adatbázisban számol a teljes klaszter számára. Több, egyszerre futó kérés enyhén túllépheti a költségkeretet.

Az embersonkénti korlátok az átírásra és az összefoglalókra is vonatkoznak: azokat a személyt, aki átír, vagy aki birtokolja az összefoglalót, számítják bele.

Használat

A lista a jelenlegi hónapban történt használatot mutatja meg minden kapcsolat számára. A Használat megnyitásával részletekhez juthatsz: bejövő és kimenő tokenek, kérések, havi költségkeret, napi (UTC) és használati típus szerinti (Átírás, Összefoglalók, Automatikus fordítás, Szöveg beszéddé alakítása, Emberek, alkalmazásokon keresztül, vagy egy alkalmazás) bontásban.

Minden hívás, amelyet egy személy vagy alkalmazás egy kapcsolat révén hajt végre, audit-rekordot is ír: ki, melyik kapcsolat, milyen használat, melyik modell, token-számok, és hogy sikerült-e, de soha nem azt, mi hangzott el. A beépített funkciók csak a használatban szerepelnek: a fordítás önmagában egy hívást jelent üzeneten és nyelvenként.

Közösségi kapcsolatok

A közösségi adminisztrátorok a közösség beállításaiban, a Modell-kapcsolatok fülön adhatják hozzá a közösség saját kapcsolatait. Ők ugyanazt az űrlapot használják, csak a Közösségek mező nélkül: egy közösségi kapcsolat csak a saját csatornáiban, a saját tagjai számára működik, és a közönség csak a saját csapatait nevezheti meg. Azok a szerepkörök, amelyeknek megvan a Modell-kapcsolatok kezelése jogosultsága, ők is kezelhetik. Alapértelmezés szerint a közösségi adminisztrátorok rendelkeznek ezzel.

Egy közösségi kapcsolat nem érheti el privát vagy loopback címeket (például egy hálózaton lévő Ollama-szerver), hacsak nem szerepelnek a Rendszerkonzol › Környezet › Fejlesztő › Nem megbízható belső kapcsolatok engedélyezése ide (ServiceSettings.AllowedUntrustedInternalConnections) listában. A szerver-szintű kapcsolatok ezt megtehetik.

A közösségi adminisztrátorok oldaláról lásd: Közösségi beállítások.

A titkosítási kulcs

A modellkapcsolatok kulcsai és további fejlécei a adatbázisban (AES-256-GCM) egyetlen titkosítási kulccsal vannak titkosítva. Egy adatbázis-másolat önmagában nem tárja fel őket. A szerver ebben a sorrendben keresi meg a kulcsot:

1. Az AM_AI_ENCRYPTION_KEY változó: 32 véletlenszerű bájt, base64 kódolással. Készítsen egyet a openssl rand -base64 32 paranccsal.
2. Egyébként a ai-encryption.key fájlt a szerver adattárhelyének gyökérkönyvtárában (FileSettings.Directory, alapértelmezetten ./data/). A szerver létrehozza, csak magának olvasható, első alkalommal, amikor egy kapcsolat igényli. Az alkalmazások, exportok és fájlarhívumok nem olvashatják.

Amikor állítsa be a változót:

• A webhely compose-fájla mellett. A compose.yaml továbbítja az AM_AI_ENCRYPTION_KEY változót a .env fájlból, és ha a változó üres, a kulcsfájlt a data kötetben tárolja. Jobb a változó beállítása: ekkor a .env mentése tartalmazza a kulcsot, külön az adatbázistól. Adja hozzá a .env fájlhoz, és futtassa a docker compose up -d parancsot:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Ha a szerver már létrehozta a kulcsfájlját, helyette a benne tárolt kulcsot adja meg a .env fájlban, hogy a mentett kulcsok olvashatók maradjanak: a docker compose exec antimatter cat /antimatter/data/ai-encryption.key parancs kiírja.
• Cluser, amelynek fájlai S3-on vannak. Szerverei nem osztanak meg könyvtárat, ezért a szerver nem hozza létre a fájlt: állítsa be ugyanazt a változót minden szerveren. Amíg be nem állítják, a kapcsolatok nem menthetnek kulcsokat.
• A kiadási archívummal vagy a csomagokkal a fájl a data/ könyvtárban van (a csomagoknál /var/lib/antimatter/data). Ott is tarthatja, vagy állítsa be a változót a környezetfájlban.

A kulcs megváltásához állítsa be az újat az AM_AI_ENCRYPTION_KEY változóban, és a régit az AM_AI_ENCRYPTION_PREVIOUS_KEYS változóban (több kulcs vesszővel elválasztva): a régi kulccsal mentett kulcsok továbbra is olvashatók. Egy kapcsolat kulcsa az új kulccsal titkosítódik, amikor újra beírja. Tartsa a régi kulcsot a listában, amíg minden kapcsolat kulcsát újra be nem írta.

A beépített funkciók

A(z) Rendszerkonzol › AI › Beépített funkciók menüben válassz ki minden funkcióhoz egy szerver-szintű kapcsolatot és annak modelljét, vagy állítsd Ki állapotba. Ha egy funkcióhoz nincs kiválasztva kapcsolat, az nem használ AI-t. A(z) Modell betöltése felsorolja a kapcsolat összes modelljét; alapértelmezés szerint minden funkció a kapcsolat csevegési modelljét használja.

Minden beállításnak van egy ConnectionId és egy Model kulcsa, például AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Ha a Model mező üres, a kapcsolat alapértelmezett modellje kerül felhasználásra.

A beépített funkciók a kapcsolat korlátait használják, de nem a közönségét: mindenki, aki használhatja a funkciót, használhatja a kapcsolatot is. Ha egy kapcsolat figyelmet igényel, vagy törölve lett, a funkció addig hibával fog visszatérni, amíg nem választasz egy másikat: erről a oldal tájékoztat.

AI-ügynökök

Az Ügynökök alkalmazás (id mattermost-ai) alapértelmezés szerint be van kapcsolva. A beállítása két lépésből áll: először adj hozzá egy szolgáltatást (a modell-szolgáltatóhoz való kapcsolatot), majd hozz létre ügynököket (botokat, amelyek ezt a szolgáltatást használják).

1. Szolgáltatás hozzáadása

Lépj a Rendszerkonzol › Bővítmények › Ügynökök menüpontra, és a MI-szolgáltatások alatt kattints az MI-szolgáltatás hozzáadása gombra. Válaszd ki a Szolgáltatás típusát:

• OpenAI-kompatibilis: saját maga által üzemeltetett modell-szerverhez, vagy bármilyen OpenAI-stílusú API-t kínáló szolgáltatóhoz. Töltsd ki az API URL mezőt (például http://ollama:11434/v1 vagy http://vllm.internal:8000/v1), és az API-kulcs mezőt csak akkor, ha a szervernek szüksége van rá. Ha a szerver csak a Chat Completions API-t támogatja, kapcsolj ki a Responses API használata beállítást.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: hostolt szolgáltatók. Mindegyikhez szükséges az API-kulcs (Bedrock: AWS régió és hitelesítő adatok, vagy IAM-szerepkör; Vertex AI: projekt, régió és szolgáltatási fiók; Azure: az API URL is).

Ezután állítsd be a Alapértelmezett modellt (listát, ha a szolgáltató képes jelezni a modelleket, különben írd be a nevet), valamint, ha a szolgáltató nem jelzi őket, az Bemeneti token limitet és a Kimeneti token limitet. Egy Tartalék szolgáltatás átveheti a feladatot, ha ez a szolgáltatás hibát jelez. Mentsd el.

A szerver maga hajtja végre ezeket a kéréseket, ezért el kell érnie az API-t: ugyanabban a compose-projektumban lévő modell-szerver, a hálózaton vagy az interneten. A kimenő kérések tiszteletben tartják a HTTP_PROXY és HTTPS_PROXY változókat.

2. Ügynökök létrehozása

Az ügynökök a webes alkalmazás Ügynökök oldalán készülnek: nyisd meg a Kezelés gombbal az ügynök-választóból az Ügynökök panelben (a klasszikus felületen a termékmenüből is elérhető). A címe: https://chat.example.com/plug/mattermost-ai/agents. Minden ügynöknek van Megjelenítési neve, Ügynök-felhasználónéve (ahogy az emberek említik), Szolgáltatása, és opcionálisan modellje, Egyedi utasításai, valamint kapcsolók a Vízió engedélyezése (képek) és az Eszközök engedélyezése funkciókhoz. A Hozzáférés fül korlátozza, mely csatornákban használható, és mely felhasználók használhatják. A Rendszerkonzol AI-funkciók részében a Alapértelmezett bot beállítás választja ki azt az ügynököt, amelyet akkor használnak, ha nem választottak ki egyet, például a hívások összefoglalásához.

Az Ügynökök alkalmazás opcionális funkciói

• Beágyazott keresés (kísérleti, kikapcsolva): szemantikus keresés az üzenetek között. Ehhez PostgreSQL szükséges a pgvector kiterjesztéssel, valamint egy beágyazó modell (OpenAI vagy OpenAI-kompatibilis). Minden üzenetet elküld a beágyazó modellnek, privát csatornákat és közvetlen üzeneteket is.
• Webes keresés (kikapcsolva): lehetővé teszi, hogy az ügynökök a Google, Brave vagy egy saját SearXNG szerveren keresztül keressenek a weben.
• Natív eszközök: olyan szolgáltatók esetén, amelyek kínálják, az ügynökök használhatják a szolgáltató saját webes keresését (alapértelmezés szerint bekapcsolva az új ügynököknél, ahol támogatott), webes letöltést és kódfuttatást. Ezek a szolgáltató oldalán futnak. Kikapcsolhatók ügynökönként.
• Model Context Protocol (MCP): csatlakoztasd az ügynököket megbízható MCP-szerverekhez, további eszközökért.
• Hibakeresés: Trace Output (kikapcsolva, szervernapló vagy OpenTelemetry végpont) és Enable Token Usage Logging, amely a token-számokat írja a logs/agents/token_usage.log fájlba.

Beszéd szövegre: hívás átiratok és feliratok

A hívások átiratot készíthetnek élő feliratokkal, egy OpenAI-kompatibilis /v1/audio/transcriptions végpontot kínáló beszédfelismerő szerver segítségével. A beállítás a Hívások és hang oldalon található. Ha a Átiratok összefoglalása be van kapcsolva, az alapértelmezett ügynök minden átirat összefoglalását is beküldi.

Szöveg-beszéd: felolvasás

Ha a szöveg-beszéd funkció be van kapcsolva, minden üzenet menüjében megjelenik az Elolvasás opció: a szerver elküldi az üzenet szövegét a szöveg-beszéd API-hoz, és lejátsza a hangot. A beállítások a Rendszerkonzol › Integrációk › Szöveg beszéddé alakítása menüben találhatók:

Ha a fenti cím és kulcs helyett egy modellkapcsolatot szeretnél használni, válaszd azt a Szöveg beszéddé alakítása beállításnál a(z) AI › Beépített funkciók oldalon. Ekkor az oldal azt jelzi, hogy az üzenetek ezzel a kapcsolattal lesznek felolvasva: az API alap-URL és az API-kulcs nem kerül felhasználásra, a Hang viszont igen, és a Modell is, ha a kapcsolat nem nevez meg modellt. A Üzenetek felolvasása beállításnak mindenképpen bekapcsolva kell lennie.

Küldés előtt a szerver eltávolítja a kódblokkokat, hivatkozásokat, emoji-kódokat és a formázást, valamint legfeljebb 4000 karaktert tart meg. MP3 hangot kér, és a memória 64 legutóbbi eredményt tárol, így egy kétszer felolvasott üzenet csak egyszer kerül elküldésre.

Automatikus fordítás

Az automatikus fordítás a csatorna üzeneteit minden olvasó saját nyelvén jeleníti meg. A beállítás a Rendszerkonzol › Oldal beállítások › Lokalizáció menüben, az Automatikus fordítás résznél található:

Minden szolgáltató saját mezőivel rendelkezik:

• Modellkapcsolat: szerver-szintű kapcsolat és annak modellje, ugyanaz a beállítás, mint az Automatikus fordítás a(z) AI › Beépített funkciók oldalon (AISettings.AutoTranslation). A dedikált fordítómodell gyors és pontos; egy általános LLM is működik.
• LibreTranslate: LibreTranslate API végpont és LibreTranslate API-kulcs (AutoTranslationSettings.LibreTranslate.URL, .APIKey). A LibreTranslate szerver saját hálózaton is futtatható.
• OpenAI-kompatibilis API: API alap-URL (beleértve a /v1 részt; a szerver a chat completions végpontját használja), Modell és API-kulcs (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Egy helyben futtatható, kisebb fordítómodell jól működik.
• AI-csevegőalkalmazás szolgáltatása (régebbi): a 0.9.0 előtti verziókkal beállított szerverek szolgáltatója, amelyek az Ügynökök alkalmazás szolgáltatását használták. Most már nem igényli az alkalmazást: a(z) AI › Beépített funkciók oldalon az automatikus fordításhoz választott kapcsolattal fordít, vagy ha nincs, akkor a frissítéskor az alkalmazás szolgáltatásából átmásolt kapcsolattal. A Átváltás Modellkapcsolatra gomb áthelyezi a beállítást az ajánlott szolgáltatóra.

Miután a funkció be van kapcsolva, a csatornaadminok a csatorna beállításai (Automatikus fordítás) alatt engedélyezhetik a fordítást, minden tag pedig a csatorna menüből (Üzenetek fordítása) lemondhat róla. Közvetlen és csoportos üzenetekben bármely tag bekapcsolhatja; ha a korlátozás érvényben van, ott nem érhető el. A lefordított üzenetek mellett a „Fordítva: …” felirat látható, hivatkozással az eredetihez.

A kód, a hivatkozások, az említések és az emoji-k helyettesítő karakterekkel cserélődnek fel, mielőtt a szöveg elküldésre kerül, majd utána visszaállítják őket.

Milyen adatok merre kerülnek

Ha mindent a saját hálózaton belül szeretne tartani, minden funkciót állítson be úgy, hogy a saját, ön által üzemeltetett szerverekhez csatlakozzanak. Felhőszolgáltató használata esetén ellenőrizze annak adatmegőrzési feltételeit, és tájékoztassa a felhasználókat, mely funkciók küldik ki az üzeneteiket.

AI kikapcsolása

Nincs egyetlen kapcsoló: minden funkció rendelkezik saját kapcsolóval.

• Átírás és összefoglalók: állítsa őket Ki állapotba a Rendszerkonzol › AI › Beépített funkciók menüben. A felhasználók továbbra is olvassák a már meglévő összefoglalókat.
• Modellkapcsolatok: törölje a kapcsolatot, hogy leállítsa annak minden felhasználását. Ha nincs egyetlen kapcsolat sem, sem a beépített funkciók, sem az alkalmazások nem használhatják a szerveren keresztül az AI-t.
• Ügynökök: tiltsa le az Ügynökök-alkalmazást a Rendszerkonzol › Bővítmények › Bővítmény kezelés menüben. Ez a hívások összefoglalóit is eltávolítja.
• Átirat és élő feliratok: AM_CALLS_ENABLE_TRANSCRIPTIONS=false és AM_CALLS_ENABLE_LIVE_CAPTIONS=false (ezek az alapértelmezett értékek).
• Elolvasás: kapcsolja ki az Üzenetek felolvasása funkciót (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, alapértelmezés), függetlenül attól, hogy használ-e kapcsolatot.
• Fordítás: kapcsolja ki az automatikus fordítást (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, alapértelmezés).

Az Ügynökök-alkalmazás letiltása nem kapcsolja ki a többi funkciót: ők modellkapcsolatokat vagy saját API-kat használnak.