AI

Funcțiile AI ale Antimatter utilizează modelele pe care le alegeți: un furnizor de cloud sau un server din rețeaua proprie. Nimic nu este trimis nicăieri până când nu configurați un model. Această pagină acoperă conexiunile la modele, fiecare funcție, datele pe care le trimite și cum o dezactivați.

Funcțiile AI

„Compatibil cu OpenAI” înseamnă un server care oferă aceeași API HTTP ca OpenAI. Majoritatea serverelor de modele pe care le puteți rula singuri o fac (de exemplu Ollama, vLLM, serverul de la llama.cpp, sau servere Whisper și text-to-speech), la fel ca mulți furnizori de cloud și gateway-uri precum LiteLLM sau OpenRouter. Nu este necesară nicio licență pentru nicio dintre aceste funcții.

Funcțiile integrate (rescriere, rezumate, traducere și citire vocală) nu necesită aplicația Agents: ele utilizează conexiunile la modele pe care le adăugați în Consola de sistem.

Conexiuni la modele

O conexiune la un model este un furnizor AI pe care Antimatter îl poate chema: adresa sa, cheia sa și modelele sale. O adăugați o singură dată, apoi o selectați pentru fiecare funcție care ar trebui să o utilizeze. Există două tipuri:

• Conexiuni la nivel de server, gestionate de administratorii de sistem în Consola de sistem › AI › Conexiuni la modele. Doar acestea pot servi funcțiile integrate. Aplicațiile le pot utiliza, de asemenea, pentru persoanele autorizate.
• Conexiuni comunitare, pe care administratorii unei comunități le adaugă pentru propria comunitate în setările comunității (a se vedea mai jos). Aplicațiile le utilizează pentru membrii comunității. Ele nu servesc niciodată funcțiile integrate.

Secțiunea AI din Consola de sistem este vizibilă pentru persoanele care pot gestiona conexiunile la nivel de server: administratorii de sistem, implicit. Pagina sa Conexiuni la modele listează conexiunile la nivel de server și cele ale fiecărei comunități.

Adăugați o conexiune

În Consola de sistem › AI › Conexiuni la modele, faceți clic pe Adăugați o conexiune, apoi completați formularul:

Testează conexiunea verifică adresa și cheia: serverul cere punctului de acces lista de modele sau trimite un chat de un token. O adresă modificată este testată cu cheia salvată doar după ce salvezi, sau dacă tastezi cheia din nou. Apasă Adaugă conexiune pentru a salva.

Serverul efectuează singur cererile, deci trebuie să poată accesa API-ul: un server de modele din același proiect compose, din rețeaua dvs. sau de pe Internet. Cererile în afine respectă variabilele HTTP_PROXY și HTTPS_PROXY.

Ștergerea unei conexiuni uită cheia acesteia. Funcțiile care o foloseau încetează să mai folosească IA până când alegeți altă conexiune.

Limite și bugete

Fiecare conexiune are patru limite. Valoarea goală sau 0 înseamnă fără limită.

• Cereri pe minut și Per person, requests per minute. Ele sunt numărate separat de fiecare server: un cluster de trei servere permite trecerea a până de trei ori rata.
• Tokens per month și Per person, tokens per month: bugete de tokeni, pe lună calendaristică (UTC), numărate în baza de date pentru întregul cluster. Mai multe cereri care rulează în același moment pot depăși ușor un buget.

Limitele per persoană se aplică și la rescriere și la rezumate: ele sunt numărate pentru persoana care rescrie sau care deține rezumatul.

Utilizare

Lista afișează utilizarea fiecărei conexiuni în luna curentă. Utilizare deschide detaliile: tokeni intrați și ieșiți, cereri, bugetul lunar, utilizarea pe zi (UTC) și pe tip de utilizare (Rescrie, Rezumate, Traducere automată, Text în vorbire, People, through apps sau o aplicație).

Fiecare apel făcut de o persoană sau de o aplicație printr-o conexiune scrie și un înregistrare de audit: cine, conexiunea, utilizarea, modelul, numărul de tokeni și dacă a funcționat, niciodată ce a fost spus. Funcțiile integrate sunt numărate doar în utilizare: traducerea singură face un apel per mesaj și per limbă.

Conexiuni de comunitate

Administratorii de comunitate adaugă conexiunile proprii ale comunității în setările comunității, în fila Model connections. Formularul este același, fără Comunități: conexiunea unei comunități funcționează doar în canalele sale, pentru membrii săi, iar publicul său poate numi doar echipele sale. Rolurile cu permisiunea Manage model connections le pot gestiona, de asemenea. În mod implicit, administratorii de comunitate o au.

Conexiunea unei comunități nu poate accesa adrese private sau loopback (de exemplu, un server Ollama din rețeaua dvs.), cu excepția cazului în care Consola de sistem › Mediu › Dezvoltator › Permiteți conexiunile interne de neîncrederi la (ServiceSettings.AllowedUntrustedInternalConnections) le listează. Conexiunile la nivel de server pot.

Consultați Setările comunității pentru perspectiva administratorilor de comunitate.

Cheia de criptare

Cheile și anteturile suplimentare ale conexiunilor de modele sunt criptate în baza de date (AES-256-GCM) cu o singură cheie de criptare. O simplă copie de rezervă a bazei de date nu le dezvăluie. Serverul caută cheia în următoarea ordine:

1. Variabila AM_AI_ENCRYPTION_KEY: 32 de octeți aleatori, în base64. Creați una cu openssl rand -base64 32.
2. În caz contrar, fișierul ai-encryption.key din rădăcina directorului de date al serverului (FileSettings.Directory, implicit ./data/). Serverul îl creează, cu accesibil doar pentru el, prima dată când o conexiune are nevoie de el. Aplicațiile, exporturile și arhivele de fișiere nu pot citi fișierul.

Când să configurați variabila:

• Împreună cu fișierul compose al site-ului. compose.yaml transmite AM_AI_ENCRYPTION_KEY din .env și păstrează fișierul cheie în volumul data când variabila este goală. Configurarea variabilei este mai bună: copia de rezervă a .env va conține atunci cheia, separat de baza de date. Adăugați-o în .env și rulați docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Dacă serverul a creat deja fișierul cheie, introduceți în .env cheia pe care o deține, astfel încât cheile salvate să rămână citibile: docker compose exec antimatter cat /antimatter/data/ai-encryption.key o afișează.
• Un cluster ale cărui fișiere se află în S3. Serverele sale nu împărtășesc niciun director, deci serverul nu creează fișierul: configurați aceeași variabilă pe fiecare server. Până când este configurată, conexiunile nu pot salva chei.
• Cu arhiva de eliberare sau cu pachetele, fișierul se află în data/ (/var/lib/antimatter/data pentru pachete). Puteți păstra-l acolo sau configurați variabila în fișierul de mediu.

Pentru a schimba cheia, configurați cea nouă în AM_AI_ENCRYPTION_KEY și cea veche în AM_AI_ENCRYPTION_PREVIOUS_KEYS (mai multe chei separate prin virgule): cheile salvate cu cea veche pot fi încă citite. Cheia unei conexiuni este criptată cu cheia nouă când o tastați din nou. Păstrați cheia veche în listă până când cheia fiecărei conexiuni a fost tastată din nou.

Funcțiile integrate

În Consola de sistem › AI › Funcții integrate, alegeți pentru fiecare funcție o conexiune la nivel de server și modelul acesteia, sau Închis. O funcție fără conexiune nu folosește AI. Încarcă modele listează toate modelele conexiunii; implicit, fiecare funcție folosește modelul de chat al conexiunii.

Fiecare setare are o cheie ConnectionId și o cheie Model, de exemplu AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Un Model gol folosește modelul implicit al conexiunii.

Funcțiile integrate folosesc limitele conexiunii, dar nu și publicul-țintă: oricine poate folosi funcția poate folosi și conexiunea acesteia. O conexiune care necesită atenție sau care a fost ștearsă face ca funcția să eșueze până când alegeți alta: pagina indică acest lucru.

Agenți AI

Aplicația Agents (id mattermost-ai) este activă implicit. Configurarea ei necesită două pași: adăugați un serviciu (o conexiune la un furnizor de modele), apoi creați agenți (boți care folosesc un serviciu).

1. Adăugați un serviciu

Accesați Consola de sistem › Plugin-uri › Agenți și, sub Servicii AI, faceți clic pe Adăugați un serviciu AI. Selectați Tipul de serviciu:

• Compatibil OpenAI: pentru un server de modele pe care îl rulați singuri sau pentru orice furnizor cu o API în stil OpenAI. Completați URL API (de exemplu http://ollama:11434/v1 sau http://vllm.internal:8000/v1) și Cheie API doar dacă serverul necesită una. Dacă serverul suportă doar API-ul Chat Completions, dezactivați Utilizați API Responses.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: furnizori găzduiți. Fiecare necesită o Cheie API (Bedrock: o regiune AWS și credentiale sau un rol IAM; Vertex AI: un proiect, o regiune și un cont de serviciu; Azure: și URL-ul API).

Apoi setați Modelul implicit (o listă dacă furnizorul poate raporta modelele sale, altfel tastați numele), precum și, dacă furnizorul nu le raportează, Limita de tokeni de intrare și Limita de tokeni de ieșire. Un Serviciu de rezervă poate prelua controlul în cazul în care acesta eșuează. Salvați.

Serverul efectuează aceste cereri în mod autonom, deci trebuie să poată accesa API-ul: un server de modele din același proiect compose, din rețeaua dumneavoastră sau de pe Internet. Cererile în afine respectă variabilele HTTP_PROXY și HTTPS_PROXY.

2. Crearea agenților

Agenții sunt creați pe pagina Agenți a aplicației web: deschideți-o cu Gestionează din selectorul de agenți al panoului Agenți (în interfața clasică, și din meniul produsului). Adresa sa este https://chat.example.com/plug/mattermost-ai/agents. Fiecare agent are un Nume afișat, un Nume de utilizator al agentului (cum îl menționează utilizatorii), un Serviciu și, opțional, un model, Instrucțiuni personalizate, precum și comutatoare pentru Activează Vision (imagini) și Activează instrumente. Tab-ul Acces limitează în ce canale poate fi utilizat și de ce utilizatori. În Funcții AI din Consola de sistem, Bot implicit alege agentul utilizat când nu este selectat niciunul, de exemplu pentru rezumate de apel.

Funcționalități opționale ale aplicației Agenți

• Căutare prin embedding (experimental, dezactivat): căutare semantică peste mesaje. Necesită PostgreSQL cu extensia pgvector și un model de embedding (OpenAI sau compatibil cu OpenAI). Trimite fiecare mesaj către modelul de embedding, inclusiv în canalele private și mesajele directe.
• Căutare web (dezactivat): permite agenților să caute pe web prin Google, Brave sau un server SearXNG pe care îl rulați.
• Instrumente native: cu furnizorii care le oferă, agenții pot utiliza căutarea web proprie a furnizorului (activată implicit pentru agenții noi, unde este suportată), preluarea de pe web și execuția de cod. Acestea se execută la furnizor. Dezactivați-le per agent.
• Protocolul de context al modelului (MCP): conectați agenții la servere MCP de încredere, pentru instrumente suplimentare.
• Dezvoltare: Ieșire de urmărire (dezactivat, jurnalele serverului sau un endpoint OpenTelemetry) și Activează jurnalizarea utilizării tokenilor, care scrie numerele de tokeni în logs/agents/token_usage.log.

Vorbire în text: transcrieri și subtitrări pentru apeluri

Apelurile pot fi transcrise, cu subtitrări în direct, de către un server de conversie de vorbire în text care oferă un endpoint /v1/audio/transcriptions compatibil cu OpenAI. Configurarea se face în Apeluri și voce. Cu Rezumă transcrierile activat, agentul implicit publică și un rezumat pentru fiecare transcriere.

Conversie de text în voce: citire cu voce tare

Cu text-to-speech activat, meniul fiecărui mesaj are Citește cu voce tare: serverul trimite textul mesajului către o API text-to-speech și redă audio. Setările, în Consola de sistem › Integrări › Text în vorbire:

Pentru a utiliza o conexiune la un model în loc de adresa și cheia de mai sus, selectați-o pentru Text în vorbire în AI › Funcții integrate. Pagina indică apoi că mesajele sunt citite cu voce tare prin acea conexiune: URL de bază API și Cheie API nu sunt utilizate, Voce este încă utilizată, la fel și Model când conexiunea nu specifică un model. Citește mesajele cu voce tare trebuie să rămână activat.

Înainte de trimitere, serverul elimină blocurile de cod, linkurile, codurile emoji și formatarea, și păstrează cel mult 4000 de caractere. Solicită audio în format MP3 și păstrează ultimele 64 de rezultate în memorie, astfel încât un mesaj citit de două ori este trimis o singură dată.

Traducere automată

Traducerea automată afișează mesajele unui canal în limba proprie a fiecărui cititor. Configurați-o în Consola de sistem › Configurația site-ului › Localizare, sub Traducere automată:

Fiecare provider are propriile câmpuri:

• Conexiune la model: o conexiune la nivel de server și modelul acesteia, aceeași setare ca Traducere automată în AI › Funcții integrate (AISettings.AutoTranslation). Un model de traducere dedicat este rapid și precis; un LLM general funcționează, de asemenea.
• LibreTranslate: Endpoint API LibreTranslate și Cheie API LibreTranslate (AutoTranslationSettings.LibreTranslate.URL, .APIKey). Un server LibreTranslate poate rula pe rețeaua dvs.
• API compatibil cu OpenAI: URL de bază API (inclusiv /v1; serverul folosește endpoint-ul de completări de chat), Model și Cheie API (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Un model de traducere mic, rulat local, funcționează bine.
• Serviciul aplicației de chat AI (vechi): furnizorul pentru serverele configurate înainte de 0.9.0, care foloseau un serviciu al aplicației Agenți. Nu mai este necesară aplicația: traduce prin conexiunea selectată pentru traducerea automată în AI › Funcții integrate, sau prin conexiunea copiată de la serviciul aplicației la actualizare. Comută la Conexiune la model mută setarea la furnizorul recomandat.

Odată activată, administratorii de canal activează traducerea pentru un canal din setările acestuia (Traducere automată), iar fiecare membru poate dezactiva-o din meniul canalului (Tradu mesajele). În mesajele directe și de grup, orice membru o poate activa; dacă restricția este activă, traducerea nu este disponibilă acolo. Mesajele traduse afișează „Tradus din …” cu un link către mesajul original.

Codul, linkurile, mențiunile și emoji-urile sunt înlocuite cu locuri rezervate înainte ca textul să fie trimis, și readuse ulterior.

Ce date ajung unde

Pentru a păstra totul în rețeaua dvs., direcționați fiecare funcție către servere pe care le rulați singuri. Cu un furnizor cloud, verificați condițiile de păstrare a datelor și informați utilizatorii care funcții trimit mesajele lor în afara rețelei.

Dezactivarea AI

Nu există un singur comutator: fiecare funcție are propriul.

• Rescrieri și rezumate: setați-le la Închis în Consola de sistem › AI › Funcții integrate. Utilizatorii continuă să citească rezumatele pe care le au deja.
• Conexiuni la modele: ștergeți o conexiune pentru a opri orice utilizare a acesteia. Fără nicio conexiune, nici funcțiile integrate, nici aplicațiile nu pot utiliza AI prin server.
• Agenți: dezactivați aplicația Agenți în Consola de sistem › Plugin-uri › Gestionare. Acest lucru elimină și rezumatele apelurilor.
• Transcriere și subtitrări: AM_CALLS_ENABLE_TRANSCRIPTIONS=false și AM_CALLS_ENABLE_LIVE_CAPTIONS=false (valorile implicite).
• Citește cu voce tare: dezactivați Citește mesajele cu voce tare (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, valoarea implicită), indiferent dacă utilizează o conexiune sau nu.
• Traducere: dezactivați traducerea automată (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, valoarea implicită).

Dezactivarea aplicației Agenți nu dezactivează celelalte funcții: acestea utilizează conexiuni la modele sau propriile lor API-uri.