TeKO

Antimatterin tekoälyominaisuudet käyttävät valitsemaasi malleja: pilvipalveluntarjoajaa tai omaa verkkoasiin liitettyä palvelinta. Mitään ei lähetetä mihinkään, ennen kuin olet määrittänyt mallin. Tässä sivussa käsitellään malliyhteyksiä, kunkin ominaisuuden lähetettyjä tietoja ja niiden poistamista käytöstä.

Tekoälyominaisuudet

”OpenAI-yhteensopiva” tarkoittaa palvelinta, joka tarjoaa saman HTTP-API:n kuin OpenAI. Useimmat itse ajettavat mallipalvelimet tekevät niin (esimerkiksi Ollama, vLLM, llama.cpp:n palvelin tai Whisper- ja tekstistä puheeksi -palvelimet), kuten myös monet pilvipalveluntarjoajat ja välityspalvelut, kuten LiteLLM ja OpenRouter. Näiden ominaisuuksien käyttöön ei tarvita lisenssiä.

Sisäänrakennetut toiminnot (muotoilu, yhteenvedot, käännös ja teksti ääneen) sekä agentit eivät vaadi sovellusta: ne käyttävät malliyhteyksiä, jotka lisäät Järjestelmäkonsolissa.

Malliyhteydet

Malliyhteys on tekoälypalveluntarjoaja, jota Antimatter voi kutsua: sen osoite, avain ja mallit. Lisäät sen kerran ja valitset sen sitten jokaiselle ominaisuudelle, joka sen käyttää. Yhteyksiä on kaksi tyyppiä:

• Palvelinlaajuiset yhteydet, joita järjestelmän ylläpitäjät hallinnoivat kohdassa Järjestelmäkonsoli › Tekoäly › Malliyhteydet. Vain ne voivat tarjota palvelua sisäänrakennetuille toiminnoille. Sovellukset voivat myös käyttää niitä, jos käyttäjillä on siihen oikeus.
• Yhteisöyhteydet, joita yhteisön ylläpitäjät lisäävät omalle yhteisölleen yhteisön asetuksissa (katso alhaalla). Sovellukset käyttävät niitä yhteisön jäsenten puolesta. Ne eivät koskaan palvele sisäänrakennettuja ominaisuuksia.

Järjestelmäkonsolin Tekoäly-osio näkyy henkilöille, jotka voivat hallita palvelinlaajuisia yhteyksiä: oletusarvoisesti järjestelmän ylläpitäjille. Sen Malliyhteydet-sivu (sama osoite kuin aiemmin, admin_console/ai/model_connections) näyttää palvelinlaajuiset yhteydet ja kaikkien yhteisöjen yhteydet, sekä palvelinlaajuiset agentit (katso Tekoälyagentit).

Lisää yhteys

Kohdassa Järjestelmäkonsoli › Tekoäly › Malliyhteydet, valitse Malliyhteydet -kohdan alta Lisää yhteys ja täytä lomake:

Testaa yhteyttä tarkistaa osoitteen ja avaimen: palvelimelta kysytään päätepisteen mallit tai lähetetään yhden tokenin chat. Muutettu osoite testataan tallennetulla avainlla vasta tallennuksen jälkeen, tai jos kirjoitat avaimen uudelleen. Napsauta Lisää yhteys tallentaaksesi.

Palvelin lähettää pyyntöjä itse, joten sen on pystyttävä tavoittamaan API:ta: mallipalvelin samassa compose-projektissa, omassa verkossasi tai Internetissä. Lähtevät pyyntöt noudattavat HTTP_PROXY- ja HTTPS_PROXY-muuttujia.

Yhteyden poisto unohtaa sen avaimen. Ominaisuudet, jotka käyttivät yhteyttä, lopettavat tekoälyn käytön, kunnes valitset toisen yhteyden.

Rajat ja budjetit

Jokaisella yhteydellä on neljä rajaa. Tyhjä arvo tai 0 tarkoittaa, ettei rajaa ole.

• Pyyntöjä minuutissa ja Henkilökohtaiset pyyntöjä minuutissa. Ne lasketaan erikseen jokaisella palvelimella: kolmen palvelimen klusteri päästää läpi enintään kolminkertaisen määrän.
• Tokens per month ja Per person, tokens per month: tokenbudjetit kalenterikuukaudelle (UTC), laskettuna tietokannassa koko klusterin osalta. Samanaikaisesti suoritettavat pyyntöt voivat ylittää budjetin hieman.

Henkilökohtaiset rajat koskevat myös uudelleenkirjoitusta ja yhteenvetoja: ne lasketaan sille henkilölle, joka kirjoittaa uudelleen, tai sille, jolle yhteenveto kuuluu.

Käyttö

Listassa näkyy kunkin yhteyden käyttö tällä kuukaudella. Käyttö avaa tiedot: tokenit sisään ja ulos, pyyntöjä, kuukausibudjetti, käyttö päivittäin (UTC) ja käyttötarkoituksen mukaan (Kirjoita uudelleen, Yhteenvetot, Automaattikäännös, Tekstistä puheeksi, Henkilöt, sovellusten kautta tai sovellus).

Jokainen kutsu, jonka henkilö tai sovellus tekee yhteyden kautta, kirjoittaa myös tilintarkastusmerkinnän: kuka, yhteys, käyttötarkoitus, malli, tokenmäärät ja onnistuiko kutsu, mutta ei koskaan, mitä sanottiin. Sisäiset ominaisuudet lasketaan vain käyttöön: käännös tekee yhden kutsun per viesti ja kieli.

Yhteisöjen yhteydet

Yhteisön ylläpitäjät lisäävät oman yhteisönsä yhteydet yhteisön asetuksissa Tekoäly-välilehdellä kohdassa Malliyhteydet. Lomake on sama, mutta siinä ei ole Yhteisöt-kenttää: yhteisön yhteys toimii vain sen omilla kanavilla ja sen omille jäsenille, ja sen kohderyhmä voi nimetä vain yhteisön omat tiimit. Rooleilla, joilla on Hallitse malliyhteyksiä -oikeus, on myös mahdollista hallita yhteyksiä. Oletusarvoisesti yhteisön ylläpitäjillä on tämä oikeus.

Yhteisön yhteys ei voi tavoittaa yksityisiä tai loopback-osoitteita (esim. Ollama-palvelin omassa verkossasi), ellei Järjestelmäkonsoli › Ympäristö › Kehittäjä › Salli luottamattomat sisäiset yhteydet osoitteisiin (ServiceSettings.AllowedUntrustedInternalConnections) listaa niitä. Palvelimenlaajuiset yhteydet voivat.

Katso Yhteisön asetukset ylläpitäjien näkökulmasta.

MCP-palvelimet

MCP-palvelin on palvelu, joka tarjoaa työkaluja Model Context Protocolin kautta, joita agentit voivat käyttää. MCP-palvelimet luetellaan malliyhteyksien alla kohdassa Järjestelmäkonsoli › Tekoäly › Malliyhteydet (palvelinlaajuiset) tai yhteisön Tekoäly-välilehdellä (yhteisön omat), ja niitä hallitaan samoilla käyttöoikeuksilla kuin malliyhteyksiä. Lisää palvelin määrittämällä sen:

Yhteisön MCP-palvelin ei voi tavoittaa sisäisiä osoitteita, ellei Salli luottamattomat sisäiset yhteydet osoitteisiin salli niitä, kuten yhteisön malliyhteyksien kohdalla; palvelimen laajuisen palvelimen ilmoittama osoite on aina tavoitettavissa. MCP-pyynnöt eivät seuraa uudelleenohjauksia. Palvelimen osoitteen tai tilityypin muuttaminen kirjaa kaikki ulos palvelimesta; poistaminen unohtaa kaikkien sisäänkirjautumiset.

Salausavain

Malliyhteyksien avaimet ja lisäotsakkeet on salattu tietokannassa (AES-256-GCM) yhdellä salausavaimella. Pelkkä tietokannan varuuskopio ei paljasta niitä. Palvelin etsii avaimen tässä järjestyksessä:

1. AM_AI_ENCRYPTION_KEY-muuttuja: 32 satunnaista tavua base64-koodattuna. Luo avain komennolla openssl rand -base64 32.
2. Muuksin palvelin datakansion juuressa sijaitseva ai-encryption.key-tiedosto (FileSettings.Directory, oletuksena ./data/). Palvelin luo tiedoston, joka on luettavissa vain sille, ensimmäisen kerran, kun yhteys sitä tarvitsee. Sovellukset, viennit ja tiedostojärjestelmän varuuskopiot eivät voi lukea sitä.

Milloin muuttuja kannattaa asettaa:

• Sivuston compose-tiedostolla. compose.yaml siirtää AM_AI_ENCRYPTION_KEY-muuttujan .env-tiedostosta ja säilyttää avaintiedoston data-volyymissa, jos muuttuja on tyhjä. Muuttujan asettaminen on suositeltavampaa: tällöin .env-tiedoston varuuskopio sisältää avaimen erillään tietokannasta. Lisää avain .env-tiedostoon ja aja docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Jos palvelin on jo luonut avaintiedoston, aseta sen sisältämä avain .env-tiedostoon, jotta tallennetut avaimet pysyvät luettavina: komento docker compose exec antimatter cat /antimatter/data/ai-encryption.key tulostaa avaimen.
• Klusteri, jonka tiedostot ovat S3:ssä. Sen palvelimet eivät jaa samaa hakemistoa, joten palvelin ei luo tiedostoa: aseta sama muuttuja jokaiselle palvelimelle. Kunnes muuttuja on asetettu, yhteydet eivät voi tallentaa avaimia.
• Julkaisupaketin tai pakettien kanssa tiedosto sijaitsee hakemistossa data/ (paketin tapauksessa /var/lib/antimatter/data). Voit jättää sen sinne tai asettaa muuttujan ympäristötiedostoon.

Avaimen vaihdon aseta uusi avain muuttujaan AM_AI_ENCRYPTION_KEY ja vanha avain muuttujaan AM_AI_ENCRYPTION_PREVIOUS_KEYS (useat avaimet pilkuilla erotettuna): vanhaan avaimella salatut avaimet pysyvät luettavina. Yhteyden avain salataan uudella avaimella, kun se syötetään uudelleen. Säilytä vanha avain listassa, kunnes kaikkien yhteyksien avaimet on syötetty uudelleen.

Sisäänrakennetut ominaisuudet

Valitse Järjestelmäkonsoli › AI › Built-in features -osiossa jokaiselle ominaisuudelle palvelimenlaajuiset yhteys ja sen malli tai Pois. Ominaisuus, jolla ei ole yhteyttä, ei käytä tekoälyä. Load models -näkymä näyttää yhteyden kaikki mallit. Oletuksena jokainen ominaisuus käyttää yhteyden keskustelumallia.

Jokaisella asetuksella on ConnectionId ja Model -avain, esimerkiksi AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Tyhjä Model -arvo käyttää yhteyden oletusmallia.

Sisäänrakennetut ominaisuudet käyttävät yhteyden rajoituksia, mutta eivät sen kohderyhmää: jokainen, joka voi käyttää ominaisuutta, voi käyttää sen yhteyttä. Yhteys, joka vaatii huomiota tai joka on poistettu, aiheuttaa ominaisuuden virheen, kunnes valitset toisen: sivu kertoo tästä.

Tekoälyagentit

Agentti on tili, jota ihmiset mainitsevat tai jolle lähettävät viestejä kuin kollegalle ja joka näkyy AGENTTI-tunnisteella. Agentit ovat osa palvelinta. Niitä on kahta tyyppiä:

• Sisäänrakennettu: Antimatter vastaa agentin puolesta, kun sitä mainitaan, sille lähetetään viesti tai siihen vastataan ketjussa, malliyhteyden ja agentin ohjeiden avulla. Se vastaa kysyjän nimissä ja tämän oikeuksilla: hänen pääsyllään yhteyteen sekä hänen rajoillaan ja budjetillaan.
• Ulkoinen agentti: muualla oleva ohjelma (esimerkiksi koodausagentti projektissa) kirjautuu sisään agentin tokenilla ja vastaa kuin ihminen tekisi. Antimatter ei vastaa sen puolesta. Katso Agentit kehittäjäoppaasta.

Järjestelmän ylläpitäjät hallinnoivat palvelimen laajuisia agentteja kohdassa Järjestelmäkonsoli › Tekoäly › Malliyhteydet, malliyhteyksien alapuolella. Yhteisön ylläpitäjät hallinnoivat yhteisön omia agentteja sen asetusten Tekoäly-välilehdellä, malliyhteyksien alapuolella (katso Yhteisön asetukset). Kukaan muu ei voi luoda agentteja.

Lisää agentti

Kohdassa Järjestelmäkonsoli › Tekoäly › Malliyhteydet (tai yhteisön Tekoäly-välilehdellä), klikkaa Lisää agentti ja täytä lomake:

Klikkaa Lisää agentti. Yhteisön agentti liittyy yhteisöönsä. Luettelossa jokainen agentti näyttää yhteytensä ja mallinsa (tai "Ulkoinen"), onko se pois päältä ja mitä vaatii huomiota. Luettelosta voit muokata agenttia (myös sen kuvaa), kytkeä sen pois tai päälle (pois kytkettyyn agenttiin ei voi keskustella) tai poistaa sen: sen tili poistetaan käytöstä ja sen asetukset unohdetaan, mutta sen viestit säilyvät.

Työkalut

Agentin lomakkeen Työkalut-kytkin ottaa työkalut käyttöön agentille, ja tarjoaa sitten kullekin lähteelle (Antimatterin omat työkalut, jokaisen käynnissä olevan sovelluksen työkalut ja jokainen agentin käyttöalueella oleva MCP-palvelin): Pois, Kaikki tai Valitut, sekä Sen luvut suorittuvat kysymättä. Työkalut toimivat aina pyynnön esittäneen henkilön roolissa ja tämän omilla oikeuksilla, eivät koskaan agentin roolissa.

• Agentin käytäntö voi sallia tiettyjen työkalujen suorittamisen itsenäisesti. Kaikki muut kutsut (mikä tahansa kirjoitus tai lukukutsu, jota ei ole asetettu suorittamaan itsenäisesti) odottavat henkilön hyväksyntää: kutsu näkyy agentin vastauksessa Vahvista- ja Hylkää-painikkeineen, tarkkoine argumentteineen ja määräajoin vastaukselle. Vain kyseinen henkilö voi vastata, ja kun hän vahvistaa, agentti, työkalu ja henkilön käyttöoikeudet tarkistetaan uudelleen. Hylättyä kutsua ei suoriteta, eikä agentti sano siitä enempää.
• MCP-työkalu lasketaan lukukutsuksi vain, jos sen palvelin merkitsee sen sellaiseksi; kaikki muut ovat kirjoituksia. Jaettu tili (katso MCP-palvelimet) tarjoaa vain kyseisen palvelimen lukutyökalut.
• Henkilön omat työkaluvalinnat tekoälykeskustelun asetuksissa ovat yksi asetus kaikille agentteja: ne voivat vain kaventaa sitä, mitä agentin käytäntö sallii, eivät koskaan laajentaa sitä.
• Antimatterin omat työkalut toistaiseksi: viestien haku, ketjun lukeminen, kanavan lukeminen, henkilön etsiminen ja viestin lähettäminen, joka vaatii aina vahvistuksen.
• Jokainen työkalukutsu kirjoitetaan tarkastuslokiin: kuka, työkalu, agentti, missä, miten päätös tehtiin ja lopputulos sekä argumenttien koko ja tiiviste, ei koskaan niiden sisältöä.

Missä agentit vastaavat

• Sisäänrakennettu agentti vastaa viestiin, jossa se mainitaan (enintään kolme agenttia per viesti), viestiin suorassa viestissä sen kanssa ja vastaukseen ketjussa, jonka se on aloittanut tai jossa sitä on pyydetty, jos vastauksessa ei mainita ketään muuta. Se vastaa viestin ketjussa.
• Henkilö, joka ei saa puhua sille, saa vain itselleen näkyvän ilmoituksen: "@agent ei ole käytettävissäsi täällä."
• Agentit eivät vastaa boteille, sovelluksille, webhookeille tai toisilleen.
• Jokainen vastaus annetaan kerran, yhden cluster-palvelimen toimesta.

Tekoälykeskustelusovellus

Tekoälykeskustelusovellus (tunnus mattermost-ai, oletuksena päällä) on sivupaneeli, jossa ihmiset voivat keskustella käytettävissään olevien agenttien kanssa: se listaa heidän keskustelunsa agenttien kanssa ja tarjoaa yhteenvedot luettavasta kanavasta. Se lisää myös viestivalikon tekoälytoiminnot (Yhteenveto ketjusta, Etsi toimintakohteita, Etsi avoimia kysymyksiä), uuden viestin rivin Kysy tekoälyltä-valikon ja puhelujen Luo kokouksen yhteenveto -toiminnon, jotka kysyvät henkilön agentilta palvelimen kautta ja joihin vastataan hänen suorassa viestissään agentin kanssa. Kun siltä puuttuu tarjottava agentti, sen paneeli ohjaa ylläpitäjät Järjestelmäkonsoli › Tekoäly › Malliyhteydet tai yhteisön ylläpitäjän yhteisönsä Tekoäly-välilehdelle.

Sovelluksella on edelleen omat asetuksensa, jotka sijaitsevat nyt Järjestelmäkonsoli › Tekoäly › Tekoälykeskustelusovellus -kohdassa (sen lisäossivu on poistettu; vanha osoite ohjautuu uudelleen), ja siinä on omat Tekoälypalvelut niille toiminnoille, jotka ovat edelleen omia: Reaktio puolestani, tekoälyhaku, mukautetut kehotteet, kanaville asetetut automaattiset vastaukset sekä puhelutallenteiden automaattiset yhteenvedot. Sen Upotushaku (kokeellinen, pois päältä) mahdollistaa tekoälyhaun: se vaatii PostgreSQL-tietokannan pgvector-laajennoksella ja upotusmallin, ja se lähettää kaikki viestit upotusmallille, yksityiset kanavat ja suorat viestit mukaan lukien. DEBUG-kohdassa Jäljitystulos (pois päältä, palvelimen lokit tai OpenTelemetry-päätepiste) ja Ota tokenien käytön kirjaaminen käyttöön (kirjoitetaan tiedostoon logs/agents/token_usage.log) auttavat ongelmien selvittämisessä.

Puhe-tunnistus: puhelutranskriptiot ja live-titrat

Puhelut voidaan transkriptoida ja niihin voidaan saada live-titrat puheentunnistuspalvelimella, joka tarjoaa OpenAI-yhteensopivan /v1/audio/transcriptions-päätepisteen. Asennusohjeet löytyvät kohdasta Puhelut ja ääni. Kun Yhteenveto transkriptioista on päällä, tekoälykeskustelusovelluksen oletusagentti julkaisee myös yhteenvedon jokaisesta transkriptiosta. Käyttäjät voivat myös pyytää omaa agenttiaan tekemään yhteenvedon käyttämällä toimintoa Luo kokousyhteenveto.

Tekstistä puheeksi: lue ääneen

Kun tekstistä puheeksi -toiminto on käytössä, jokaisen viestin valikossa on Lue ääneen: palvelin lähettää viestin tekstin tekstistä puheeksi -API:lle ja toistaa äänen. Asetukset kohdassa Järjestelmäkonsoli › Integraatiot › Tekstistä puheeksi:

Jos haluat käyttää malliyhteyttä yllä olevan osoitteen ja avaimen sijaan, valitse se Tekstistä puheeksi -asetuksessa kohdasta AI › Built-in features. Silloin sivulla kerrotaan, että viestit luetaan ääneen kyseisellä yhteydellä: API base URL ja API key eivät käytetä, Ääni käytetään silti, ja myös Malli, jos yhteys ei nimeä mallia. Lue viestit ääneen -asetuksen on silti oltava päällä.

Lähetystä ennen palvelin poistaa koodilohkot, linkit, emojikoodit ja muotoilun sekä pitää enintään 4000 merkkiä. Se pyytää MP3-äntä ja pitää viimeiset 64 tulosta muistissa, joten viesti, joka luetaan kahdesti, lähetetään vain kerran.

Automaattinen käännös

Automaattikäännös näyttää kanavan viestit lukijan omalla kielellä. Määritä se osoitteessa Järjestelmäkonsoli › Sivuston asetukset › Lokalisointi, osion Automaattikäännös alla:

Jokaisella providerilla on omat kenttensä:

• Model connection: palvelimenlaajuinen yhteys ja sen malli, sama asetus kuin Automaattikäännös kohdassa AI › Built-in features (AISettings.AutoTranslation). Omakohdainen käännösmalli on nopea ja tarkka; yleinen LLM toimii myös.
• LibreTranslate: LibreTranslate API-päätepiste ja LibreTranslate API-avain (AutoTranslationSettings.LibreTranslate.URL, .APIKey). LibreTranslate-palvelin voi toimia omassa verkossasi.
• OpenAI-yhteensopiva API: API:n perus-URL (sisältäen /v1; palvelin käyttää sen chat completions-päätepistettä), Malli ja API-avain (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Pieni, paikallisesti ajettava käännösmalli toimii hyvin.
• AI chat app's service (older): palvelinten, jotka asennettiin ennen versiota 0.9.0, palveluntarjoaja, jotka käyttivät Agents-sovelluksen palvelua. Se ei enää vaadi sovellusta: se kääntää automaattikäännökselle valitulla yhteydellä kohdassa AI › Built-in features tai muuten päivityksen aikana sovelluksen palvelusta kopioitulla yhteydellä. Switch to Model connection siirtää asetuksen suositeltuun palveluntarjoajaan.

Kun ominaisuus on käytössä, kanavan ylläpitäjät voivat ottaa käännöksen käyttöön kanavan asetuksista (Automaattikäännös), ja jokainen jäsen voi poistua käännöksestä kanavan valikosta (Käännä viestit). Suorissa ja ryhmäviesteissä mikä tahansa jäsen voi ottaa käännöksen käyttöön; jos rajoitus on päällä, käännös ei ole siellä käytettävissä. Käännettyjen viestien yhteydessä näkyy "Käännetty …:stä" ja linkki alkuperäiseen.

Koodi, linkit, maininnat ja emoji korvataan väliaikaisilla merkeillä ennen viestin lähetystä ja palautetaan takaisin sen jälkeen.

Mikä data lähetetään minne

Jotta kaikki pysyisi omassa verkossasi, osoita jokainen toiminto omiin palvelimiisi. Pilvipalveluntarjoajan kanssa tarkista sen tietojen säilytyskäytännöt ja kerro käyttäjillesi, mitkä toiminnat lähettävät viestit ulkopuolelle.

Tekevätkö AI-toiminnat pois

Yksittäistä kytkintä ei ole: jokaisella toiminnolla on oma.

• Uudelleenkirjoitukset ja tiivistelmät: aseta ne tilaan Pois kohdassa Järjestelmäkonsoli › AI › Sisäiset ominaisuudet. Käyttäjät lukevat tiivistelmät, joita heillä jo on.
• Yhteysmallit: poista yhteys, jotta sen käyttö loppuu. Ilman yhteyttä ei sisäiset ominaisuudet eikä sovellukset voi käyttää tekoälyä palvelimen kautta.
• Agentit: poista kunkin agentin käyttö tai poista agentti Järjestelmäkonsoli › Tekoäly › Malliyhteydet -kohdassa ja yhteisöjen Tekoäly-välilehdillä. Tekoälykeskustelusovelluksen poistaminen käytöstä poistaa vain sen sivupaneelin ja omat ominaisuutensa (mukaan lukien puheluyhteenvedot): ihmiset voivat edelleen mainita agentteja tai lähettää niille viestejä.
• Transkriptio ja live-titrat: AM_CALLS_ENABLE_TRANSCRIPTIONS=false ja AM_CALLS_ENABLE_LIVE_CAPTIONS=false (oletusarvot).
• Lue ääneen: aseta Lue viestit ääneen pois (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, oletus), riippumatta siitä, käyttääkö se yhteyttä.
• Käännös: automaattinen käännös pois (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, oletusarvo).

Tekoälykeskustelusovelluksen poistaminen käytöstä ei sammuta muita ominaisuuksia: ne käyttävät malliyhteyksiä tai omia rajapintojaan.