AI

Antimatters AI-funksjoner bruker modeller du velger: en skytjenesteleverandør, eller en server på ditt eget nettverk. Ingen data sendes noe sted før du har konfigurert en modell. Denne siden dekker modelltilkoblinger, hver funksjon, data som sendes og hvordan du slår dem av.

AI-funksjonene

«OpenAI-kompatibel» betyr en server som tilbyr samme HTTP-API som OpenAI. De fleste modelservere du kan kjøre selv gjør dette (for eksempel Ollama, vLLM, llama.cpp sin server, eller Whisper- og tekst-til-tale-servere), og mange skytjenesteleverandører og gateways som LiteLLM eller OpenRouter. Ingen lisens er nødvendig for noen av disse funksjonene.

De innebygde funksjonene (omskriv, oppsummering, oversettelse og les opp) krever ikke Agents-appen: de bruker modelltilkoblingene du legger til i Systemkonsollen.

Modelltilkoblinger

En modelltilkobling er en AI-tjenesteleverandør som Antimatter kan kalle: adressen, nøkkelen og modellene. Du legger den til én gang, og velger den deretter for hver funksjon som skal bruke den. Det finnes to typer:

• Serveromfattende tilkoblinger, administrert av systemadministratorer i Systemkonsoll › AI › Modelltilkoblinger. Bare de kan betjene de innebygde funksjonene. Apper kan også bruke dem, for de som har tillatelse.
• Samfunnsspesifikke tilkoblinger, som administratorer i et samfunn legger til for sitt eget samfunn i samfunnets innstillinger (se nedenfor). Apper bruker dem for folk i samfunnet. De betjener aldri de innebygde funksjonene.

Seksjonen AI i Systemkonsollen vises for de som kan administrere serveromfattende tilkoblinger: systemadministratorer, som standard. Siden Modelltilkoblinger der viser serveromfattende tilkoblinger og tilkoblinger for alle samfunn.

Legg til en tilkobling

I Systemkonsoll › AI › Modelltilkoblinger, klikk på Legg til en tilkobling, og fyll deretter ut skjemaet:

Test forbindelse sjekker adressen og nøkkelen: serveren ber endepunktet om modellene sine, eller sender en chat med ett token. En endret adresse testes med den lagrede nøkkelen bare etter at du har lagret, eller hvis du skriver nøkkelen på nytt. Klikk Legg til forbindelse for å lagre.

Serveren utfører forespørslene selv, så den må kunne nå API-et: en modellserver i samme compose-prosjekt, på nettverket ditt eller på internett. Utgående forespørsler respekterer HTTP_PROXY- og HTTPS_PROXY-variablene.

Når du sletter en tilkobling, glemmes nøkkelen. Funksjonene som brukte den, slutter å bruke KI inntil du velger en annen tilkobling.

Grenser og budsjett

Hver tilkobling har fire grenser. Tomt eller 0 betyr ingen grense.

• Forespørsler per minutt og Per person, forespørsler per minutt. De telles separat av hver server: en kluster med tre servere slipper gjennom opptil tre ganger raten.
• Tokens per måned og Per person, tokens per måned: tokenbudsjett, per kalendermåned (UTC), telte i databasen for hele klusteret. Flere forespørsler som kjører samtidig, kan gå litt over budsjettet.

Grensene per person gjelder også for omformulering og oppsummeringer: de telles mot personen som omformulerer, eller som eier oppsummeringen.

Bruk

Listen viser hver tilkoblings bruk denne måneden. Bruk åpner detaljene: tokens inn og ut, forespørsler, det månedlige budsjettet, bruk per dag (UTC) og per bruk (Skriv om, Oppsummeringer, Automatisk oversettelse, Tekst til tale, Personer, via apper, eller en app).

Hvert kall som en person eller en app gjør via en tilkobling, skriver også en revisjonslogg: hvem, tilkoblingen, bruken, modellen, tokenantallet og om det fungerte, aldri hva som ble sagt. De innebygde funksjonene telles bare i bruken: oversettelse alene gjør ett kall per melding og språk.

Tilkoblinger for team

Teamadministratorer legger til teamets egne tilkoblinger i teamets innstillinger, i fanen Modelltilkoblinger. Skjemaet er det samme, uten Team: en tilkobling for et team fungerer bare i teamets egne kanaler, for teamets egne medlemmer, og publikummet kan bare nevne teamets egne team. Roller med tillatelsen Administrer modelltilkoblinger kan også administrere dem. Som standard har teamadministratorer denne tillatelsen.

En tilkobling for et team kan ikke nå private eller loopback-adresser (for eksempel en Ollama-server på nettverket ditt), med mindre Systemkonsoll › Miljø › Utvikler › Tillat upålitelige interne tilkoblinger til (ServiceSettings.AllowedUntrustedInternalConnections) oppfører dem. Tilkoblinger for hele serveren kan.

Se Teaminnstillinger for teamadministratorenes side.

Krypteringsnøkkelen

Nøklene og de ekstra overskriftene for modelltilkoblingene krypteres i databasen (AES-256-GCM) med én krypteringsnøkkel. En ren databasebackup avslører dem ikke. Serveren finner nøkkelen i denne rekkefølgen:

1. Miljøvariabelen AM_AI_ENCRYPTION_KEY: 32 tilfeldige byte, i base64. Lag en med openssl rand -base64 32.
2. Ellers filen ai-encryption.key i roten i serverens datamappe (FileSettings.Directory, ./data/ som standard). Serveren oppretter den, kun lesbar for seg selv, første gang en tilkobling trenger den. Apper, eksporter og filarkiver kan ikke lese den.

Når du skal sette variabelen:

• Med stedets compose-fil. compose.yaml overfører AM_AI_ENCRYPTION_KEY fra .env, og beholder nøkkelfilen i data-volumet når variabelen er tom. Det er bedre å sette variabelen: backupen av .env inneholder da nøkkelen, adskilt fra databasen. Legg den til i .env og kjør docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Hvis serveren allerede har opprettet sin nøkkelfil, legg nøkkelen den inneholder i .env i stedet, slik at de lagrede nøklene forblir lesbare: docker compose exec antimatter cat /antimatter/data/ai-encryption.key skriver den ut.
• En kluster der filene ligger i S3. Serverne deler ingen mappe, så serveren oppretter ikke filen: sett samme variabel på hver server. Inntil den er satt, kan tilkoblingene ikke lagre nøkler.
• Med utgavearkivet eller pakkene, ligger filen i data/ (/var/lib/antimatter/data for pakkene). Du kan beholde den der, eller sette variabelen i miljøfilen din.

For å bytte nøkkel, sett den nye i AM_AI_ENCRYPTION_KEY og den gamle i AM_AI_ENCRYPTION_PREVIOUS_KEYS (flere nøkler separert med kommaer): nøklene lagret med den gamle kan fortsatt leses. En tilkoblings nøkkel krypteres med den nye nøkkelen når du skriver den på nytt. Behold den gamle nøkkelen i listen inntil alle tilkoblingers nøkler er skrevet på nytt.

De innebygde funksjonene

I Systemkonsoll › AI › Innbygde funksjoner velger du for hver funksjon en serveromfattende tilkobling og dens modell, eller Av. En funksjon uten tilkobling bruker ikke AI. Last modeller viser alle modellene for tilkoblingen; som standard bruker hver funksjon tilkoblingens chat-modell.

Hver innstilling har en ConnectionId- og en Model-nøkkel, for eksempel AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). En tom Model bruker tilkoblingens standardmodell.

De innbygde funksjonene bruker tilkoblingens grenser, men ikke dens målgruppe: alle som kan bruke funksjonen kan bruke dens tilkobling. En tilkobling som trenger oppmerksomhet, eller som ble slettet, får funksjonen til å feile inntil du velger en annen: siden sier dette.

AI-agenter

Agents-appen (id mattermost-ai) er på som standard. Oppsettet tar to steg: legg til en tjeneste (en tilkobling til en modellleverandør), og deretter opprett agenter (bots som bruker en tjeneste).

1. Legg til en tjeneste

Gå til Systemkonsoll › Plugins › Agenter og klikk på Legg til en AI-tjeneste under AI-tjenester. Velg Tjenestetype:

• OpenAI Compatible: for en modellserver du kjører selv, eller en leverandør med en OpenAI-stil API. Fyll inn API URL (for eksempel http://ollama:11434/v1 eller http://vllm.internal:8000/v1), og API-nøkkel bare hvis serveren krever en. Hvis serveren bare støtter Chat Completions API, slå av Use Responses API.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: vertsbaserte leverandører. Hver av dem krever sin API-nøkkel (Bedrock: en AWS-region og legitimasjon eller en IAM-rolle; Vertex AI: et prosjekt, en region og en tjenestekonto; Azure: også API-URL-en).

Deretter angir du Standardmodell (en liste hvis leverandoren kan rapportere modellene sine, ellers skriver du inn navnet) og, hvis leverandoren ikke rapporterer dem, Inngangstokenbegrensning og Utgangstokenbegrensning. En Reserveleverandør kan ta over når denne feiler. Lagre.

Serveren utfører disse forespørrelsene selv, så den må kunne nå API-et: en modellserver i samme compose-prosjekt, på nettverket ditt eller på internett. Utgående forespørsler respekterer HTTP_PROXY- og HTTPS_PROXY-variablene.

2. Opprett agenter

Agenter opprettes på siden Agenter i nettappen: Åpne den ved å velge Administrer i agentvelgeren i panelet Agenter (i det klassiske grensesnittet også fra produktmenyen). Adressen er https://chat.example.com/plug/mattermost-ai/agents. Hver agent har et Visningsnavn, et Agent-brukernavn (hvordan folk nevner den), en Tjeneste og eventuelt en modell, Egendefinerte instruksjoner, samt avbrytere for Slå på visjon (bilder) og Slå på verktøy. Fanebladet Tilgang begrenser hvilke kanaler den kan brukes i og hvilke brukere som kan bruke den. Under AI Functions i Systemkonsollen velger Standard bot agenten som brukes når ingen er valgt, for eksempel for oppsummeringer av samtaler.

Valgfrie funksjoner i Agent-appen

• Innledd søk (eksperimentell, av): semantisk søk i meldinger. Dette krever PostgreSQL med pgvector-utvidelsen og en innleddingsmodell (OpenAI eller OpenAI-kompatibel). Den sender alle meldinger til innleddingsmodellen, også i private kanaler og direktemeldinger.
• Nettsøk (av): lar agenter søke på nettet via Google, Brave eller en SearXNG-server du kjører.
• Native verktøy: med leverandører som tilbyr dem, kan agenter bruke leverandørens eget nettsøk (på som standard for nye agenter, der støttet), netthenting og kodekjøring. Disse kjøres hos leverandøren. Slå dem av per agent.
• Model Context Protocol (MCP): koble agenter til MCP-servere du stoler på, for ekstra verktøy.
• Debug: Trace Output (av, serverlogger eller et OpenTelemetry-endepunkt) og Enable Token Usage Logging, som skriver antall token til logs/agents/token_usage.log.

Tale til tekst: transkripsjoner og live-tekst for samtaler

Samtaler kan transkriberes, med live-tekst, av en tale-til-tekst-tjener som tilbyr en OpenAI-kompatibel /v1/audio/transcriptions-endepunkt. Oppsettet finnes i Samtaler og tale. Med Oppsummer transkripsjoner slått på, poster også standardagenten en oppsummering av hver transkripsjon.

Tekst-til-tale: les høyt

Når tekst-til-tale er slått på, har menyen for hver melding Les høyt: Tjeneren sender meldingens tekst til en tekst-til-tale-API og avspiller lyden. Innstillinger, i Systemkonsoll › Integrasjoner › Tekst til tale:

For å bruke en modelltilkobling i stedet for adressen og nøkkelen ovenfor, velg den for Tekst til tale i AI › Innbygget funksjonalitet. Siden forteller da at meldinger leses høyt med den tilkoblingen: Grunn-URL for API-et og API-nøkkel brukes ikke, Stemme brukes fortsatt, og også Modell hvis tilkoblingen ikke angir en modell. Les meldinger høyt må fortsatt være på.

Før sending fjerner tjeneren kodeblokker, lenker, emojikoder og formatering, og beholder i det hele tatt 4000 tegn. Den ber om MP3-lyd og beholder de siste 64 resultatene i minnet, så en melding som leses to ganger sendes kun én gang.

Automatisk oversettelse

Automatisk oversettelse viser meldingene i en kanal i hver leser sin egen språk. Konfigurer den i Systemkonsoll › Nettstedsoppsett › Lokalisering, under Automatisk oversettelse:

Hver leverandør har sine egne felter:

• Modelltilkobling: en serveromfattende tilkobling og dens modell, samme innstilling som Automatisk oversettelse i AI › Innbygget funksjonalitet (AISettings.AutoTranslation). En dedikert oversettelsesmodell er rask og nøyaktig; en generell LLM fungerer også.
• LibreTranslate: LibreTranslate API-endepunkt og LibreTranslate API-nøkkel (AutoTranslationSettings.LibreTranslate.URL, .APIKey). En LibreTranslate-server kan kjøres på ditt eget nettverk.
• OpenAI-compatible API: Grunn-URL for API-et (opp til og med /v1; serveren bruker sin chat completions-endepunkt), Modell og API-nøkkel (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). En liten oversettelsesmodell som kjører lokalt fungerer godt.
• Tjenesten i AI-chatappen (eldre): leverandøren for servere som ble opprettet før 0.9.0, som brukte en tjeneste i appen Agenter. Den krever lenger ikke appen: Den oversetter med tilkoblingen valgt for automatisk oversettelse i AI › Innbygget funksjonalitet, eller ellers med tilkoblingen som ble kopiert fra appens tjeneste ved oppgraderingen. Bytt til Modelltilkobling flytter innstillingen til den anbefalte leverandøren.

Når den er slått på, kan kanaladministratorer slå på oversettelse for en kanal i kanalens innstillinger (Automatisk oversettelse), og hvert medlem kan fravike fra kanalmenyen (Oversett meldinger). I direktemeldinger og gruppemeldinger kan ethvert medlem slå den på; med begrensningen på, er oversettelse ikke tilgjengelig der. Oversatte meldinger viser «Oversatt fra …» med en lenke til originalen.

Kode, lenker, nevninger og emoji erstattes med plassholdere før teksten sendes, og settes tilbake etterpå.

Hvor data sendes

For å beholde alt på ditt nettverk, peker du hver funksjon mot servere du kjører selv. Med en skytjenesteleverandør, sjekk dets vilkår for databevaring, og fortell brukerne dine hvilke funksjoner som sender meldingene deres ut.

Slå av AI

Det er ingen enkeltbryter: hver funksjon har sin egen.

• Omforming og oppsummeringer: Sett dem til Av i Systemkonsoll › AI › Innbygde funksjoner. Folk leser gjerne oppsummeringene de allerede har.
• Modelltilkoblinger: Slett en tilkobling for å stoppe all bruk av den. Uten noen tilkobling kan verken innbygde funksjoner eller apps bruke AI via serveren.
• Agenter: Deaktiver appen Agenter i Systemkonsoll › Plugins › Pluginhåndtering. Dette fjerner også oppsummeringer av samtaler.
• Transkripsjon og live-tekst: AM_CALLS_ENABLE_TRANSCRIPTIONS=false og AM_CALLS_ENABLE_LIVE_CAPTIONS=false (standardverdiene).
• Les høyt: Slå av Les meldinger høyt (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, standardinnstillingen), uavhengig av om den bruker en tilkobling.
• Oversettelse: auto-translation av (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, standardverdien).

Å deaktivere appen Agenter slår ikke av de andre funksjonene: de bruker modelltilkoblinger eller sine egne API-er.