AI

Ciri AI Antimatter menggunakan model yang anda pilih: pelayan awan, atau pelayan pada rangkaian anda sendiri. Tiada apa-apa dihantar ke mana-mana sehingga anda mengkonfigurasikan model. Laman ini merangkumi sambungan model, setiap ciri, data yang dihantar dan cara untuk mematikannya.

Ciri-ciri AI

"Serasi dengan OpenAI" bermaksud pelayan yang menawarkan API HTTP yang sama seperti OpenAI. Kebanyakan pelayan model yang boleh anda kendalikan sendiri melakukannya (contohnya Ollama, vLLM, pelayan llama.cpp, atau pelayan Whisper dan teks ke suara), begitu juga banyak pelayan awan dan gerbang seperti LiteLLM atau OpenRouter. Tiada lesen diperlukan untuk mana-mana ciri ini.

Ciri terbina (tulis semula, ringkasan, penterjemahan dan baca kuat) tidak memerlukan aplikasi Ejen: ia menggunakan sambungan model yang anda tambah dalam Konsol Sistem.

Sambungan model

Sambungan model ialah pelayan AI yang boleh dipanggil oleh Antimatter: alamatnya, kuncinya dan modelnya. Anda menambahnya sekali, kemudian memiliknya untuk setiap ciri yang harus menggunakannya. Terdapat dua jenis:

• Sambungan seluruh pelayan, dikendalikan oleh pentadbir sistem dalam Konsol Sistem › AI › Sambungan model. Hanya mereka yang boleh menyediakan ciri terbina. Aplikasi juga boleh menggunakannya, untuk orang yang dibenarkan.
• Sambungan komuniti, yang ditambah oleh pentadbir komuniti untuk komuniti mereka sendiri dalam tetapan komuniti (lihat di bawah). Aplikasi menggunakannya untuk orang komuniti tersebut. Ia tidak pernah menyediakan ciri terbina.

Bahagian AI dalam Konsol Sistem dipaparkan kepada orang yang boleh menguruskan sambungan seluruh pelayan: pentadbir sistem, secara lalai. Laman Sambungan modelnya menyenaraikan sambungan seluruh pelayan dan sambungan setiap komuniti.

Tambah sambungan

Dalam Konsol Sistem › AI › Sambungan model, klik Tambah sambungan, kemudian isi borang:

Uji Sambungan menyemak alamat dan kunci: pelayan meminta model daripada titik akhir, atau menghantar sembang satu token. Alamat yang diubah diuji dengan kunci yang disimpan hanya selepas anda menyimpan, atau jika anda taipkan kunci sekali lagi. Klik Tambah sambungan untuk menyimpan.

Pelayan membuat permintaan itu sendiri, jadi ia mesti dapat mencapai API: pelayan model dalam projek compose yang sama, dalam rangkaian anda, atau di Internet. Keluaran permintaan mematuhi pemboleh ubah HTTP_PROXY dan HTTPS_PROXY.

Memadam sambungan akan melupakan kuncinya. Ciri-ciri yang menggunakannya akan berhenti menggunakan AI sehingga anda memilih sambungan lain.

Had dan belanjawan

Setiap sambungan mempunyai empat had. Kosong atau 0 bermaksud tiada had.

• Permintaan per minit dan Per orang, permintaan per minit. Ia dikira oleh setiap pelayan secara berasingan: kluster tiga pelayan membenarkan sehingga tiga kali kadar tersebut.
• Token per bulan dan Per orang, token per bulan: belanjawan token, per bulan kalendar (UTC), dikira dalam pangkalan data untuk keseluruhan kluster. Beberapa permintaan yang berjalan pada masa yang sama boleh sedikit melebihi belanjawan.

Had per orang juga terpakai untuk penulisan semula dan ringkasan: ia dikira terhadap orang yang menulis semula, atau yang memiliki ringkasan tersebut.

Penggunaan

Senarai menunjukkan penggunaan setiap sambungan bulan ini. Penggunaan membuka butiran: token masuk dan keluar, permintaan, belanjawan bulanan, penggunaan mengikut hari (UTC) dan mengikut penggunaan (Tulis Semula, Ringkasan, Terjemahan Automatik, Teks ke Suara, Orang, melalui aplikasi, atau aplikasi).

Setiap panggilan yang dibuat oleh orang atau aplikasi melalui sambungan juga menulis rekod audit: siapa, sambungan, penggunaan, model, bilangan token dan sama ada ia berjaya, tidak pernah apa yang dikatakan. Ciri-ciri terbina dalam hanya dikira dalam penggunaan: terjemahan sahaja membuat satu panggilan per mesej dan bahasa.

Sambungan komuniti

Pentadbir komuniti menambah sambungan komuniti mereka sendiri dalam tetapan komuniti, dalam tab Sambungan model. Borangnya sama, tanpa Komuniti: sambungan komuniti hanya berfungsi dalam saluran miliknya sendiri, untuk ahlinya sendiri, dan audiensnya hanya boleh menamakan pasukannya sendiri. Peran dengan kebenaran Kelola sambungan model juga boleh mengelolanya. Secara lalai, pentadbir komuniti memilikinya.

Sambungan komuniti tidak dapat mencapai alamat peribadi atau loopback (pelayan Ollama dalam rangkaian anda, sebagai contoh), melainkan Konsol Sistem › Persekitaran › Pembangun › Benarkan sambungan dalaman tidak dipercayai kepada (ServiceSettings.AllowedUntrustedInternalConnections) menyenaraikannya. Sambungan seluruh pelayan boleh.

Lihat Tetapan komuniti untuk sisi pentadbir komuniti.

Kunci penyulitan

Kunci dan pengepal tambahan bagi sambungan model disulitkan dalam pangkalan data (AES-256-GCM) menggunakan satu kunci penyulitan. Sandaran pangkalan data sahaja tidak mendedahkannya. Pelayan mencari kunci dalam susunan berikut:

1. Pemboleh ubah AM_AI_ENCRYPTION_KEY: 32 bait rawak, dalam base64. Cipta satu dengan openssl rand -base64 32.
2. Jika tidak, fail ai-encryption.key di akar direktori data pelayan (FileSettings.Directory, ./data/ secara lalai). Pelayan menciptakannya, boleh dibaca oleh dirinya sahaja, pada kali pertama sambungan memakainya. Aplikasi, eksport dan arkib fail tidak dapat membacanya.

Bila perlu menetapkan pemboleh ubah:

• Dengan fail compose tapak. compose.yaml menghantar AM_AI_ENCRYPTION_KEY daripada .env, dan mengekalkan fail kunci dalam isipadu data apabila pemboleh ubah kosong. Menetapkan pemboleh ubah lebih baik: sandaran .env kemudian memegang kunci, berasingan daripada pangkalan data. Tambahkannya ke .env dan jalankan docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Jika pelayan telah mencipta fail kuncinya, letakkan kunci yang dipegangnya dalam .env sebagai gantinya, supaya kunci yang disimpan kekal boleh dibaca: docker compose exec antimatter cat /antimatter/data/ai-encryption.key memetakannya.
• Kluster yang failnya berada di S3. Pelayannya tidak berkongsi direktori, jadi pelayan tidak mencipta fail: tetapkan pemboleh ubah yang sama pada setiap pelayan. Sehingga ia ditetapkan, sambungan tidak dapat menyimpan kunci.
• Dengan arkib pelepasan atau pakej, fail itu berada di data/ (/var/lib/antimatter/data untuk pakej). Anda boleh mengekalkannya di sana, atau menetapkan pemboleh ubah dalam fail persekitaran anda.

Untuk mengubah kunci, tetapkan yang baharu dalam AM_AI_ENCRYPTION_KEY dan yang lama dalam AM_AI_ENCRYPTION_PREVIOUS_KEYS (beberapa kunci dipisahkan oleh koma): kunci yang disimpan dengan yang lama masih boleh dibaca. Kunci sambungan disulitkan dengan kunci baharu apabila anda memetakannya semula. Kekalkan kunci lama dalam senarai sehingga kunci setiap sambungan telah dipetak semula.

Ciri terbina dalam

Di Konsol Sistem › AI › Binaan terbina dalam, pilih sambungan dan modelnya untuk setiap ciri pada peringkat pelayan, atau Tutup. Ciri tanpa sambungan tidak menggunakan AI. Model dimuatkan senaraikan semua model bagi sambungan tersebut; secara lalai, setiap ciri menggunakan model sembang sambungan.

Setiap tetapan mempunyai kunci ConnectionId dan Model, sebagai contoh AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Model yang kosong menggunakan model lalai bagi sambungan tersebut.

Ciri-ciri terbina dalam menggunakan had bagi sambungan, tetapi bukan khalayaknya: sesiapa sahaja yang boleh menggunakan ciri tersebut boleh menggunakan sambungannya. Sambungan yang memerlukan perhatian, atau yang telah dipadamkan, akan menyebabkan ciri tersebut gagal sehingga anda memilih satu lagi: halaman tersebut akan memaklumkan perkara ini.

Ejen AI

Aplikasi Ejen (id mattermost-ai) dihidupkan secara lalai. Menetapkannya mengambil dua langkah: tambah perkhidmatan (sambungan kepada pelayan model), kemudian cipta ejen (bot yang menggunakan perkhidmatan).

1. Tambah perkhidmatan

Pergi ke Konsol Sistem › Plugin › Ejen dan, di bawah Perkhidmatan AI, klik Tambah Perkhidmatan AI. Pilih Jenis perkhidmatan:

• Serasi OpenAI: untuk pelayan model yang anda kendalikan sendiri, atau mana-mana pelayan dengan API gaya OpenAI. Isi URL API (contohnya http://ollama:11434/v1 atau http://vllm.internal:8000/v1), dan Kunci API hanya jika pelayan memerlukannya. Jika pelayan hanya menyokong API Penyelesaian Sembang, matikan Gunakan API Respons.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: pelayan berhosting. Setiap satu memerlukan Kunci API (Bedrock: rantau AWS dan kelayakan atau peranan IAM; Vertex AI: projek, rantau dan akaun perkhidmatan; Azure: URL API juga).

Kemudian, tetapkan Model lalai (senarai jika pelayan boleh melaporkan modelnya, jika tidak taipkan namanya), serta Had token input dan Had token output jika pelayan tidak melaporkannya. Layanan Sandaran boleh mengambil alih jika layanan ini gagal. Simpan.

Pelayan membuat permintaan ini sendiri, jadi ia mesti dapat menghubungi API: pelayan model dalam projek compose yang sama, dalam rangkaian anda, atau di Internet. Keluaran permintaan mematuhi pemboleh ubah HTTP_PROXY dan HTTPS_PROXY.

2. Cipta ejen

Ejen dicipta pada halaman Ejen dalam aplikasi web: buka halaman ini dengan Urus dalam pemilih ejen pada panel Ejen (dalam antara muka klasik, juga dari menu produk). Alamatnya ialah https://chat.example.com/plug/mattermost-ai/agents. Setiap ejen mempunyai Nama Paparan, Nama Pengguna Ejen (cara orang menyebutnya), Layanan dan secara pilihan, model, Arahan Tersuai, serta suis untuk Imbasan Aktif (gambar) dan Alat Aktif. Tab Akses mengehadkan saluran mana ia boleh digunakan dan pengguna mana yang boleh menggunakannya. Di bawah Fungsi AI dalam Konsol Sistem, Bot lalai memilih ejen yang digunakan apabila tiada ejen dipilih, contohnya untuk ringkasan panggilan.

Ciri pilihan aplikasi Ejen

• Pencarian penanaman (eksperimental, tidak aktif): pencarian semantik ke atas mesej. Ia memerlukan PostgreSQL dengan sambungan pgvector dan model penanaman (OpenAI atau serasi OpenAI). Ia menghantar setiap mesej ke model penanaman, termasuk saluran peribadi dan mesej terus.
• Pencarian web (tidak aktif): membolehkan ejen mencari web melalui Google, Brave atau pelayan SearXNG yang anda jalankan.
• Alat asli: dengan pelayan yang menawarkannya, ejen boleh menggunakan pencarian web pelayan itu sendiri (aktif secara lalai untuk ejen baharu, jika disokong), pengambilan web dan pelaksanaan kod. Ini dijalankan di pelayan. Matikan untuk setiap ejen.
• Model Context Protocol (MCP): sambungkan ejen ke pelayan MCP yang anda percaya, untuk alat tambahan.
• Penyahpepijatan: Output Jejak (tidak aktif, log pelayan atau titik akhir OpenTelemetry) dan Imbasan Kegunaan Token Aktif, yang menulis kiraan token ke logs/agents/token_usage.log.

Suara ke teks: transkripsi dan kapsyen panggilan

Panggilan boleh ditranskripsi, dengan kapsyen langsung, oleh pelayan teks-ke-suara yang menawarkan titik akhir /v1/audio/transcriptions yang serasi dengan OpenAI. Persediaannya terdapat dalam Panggilan dan suara. Dengan Rumuskan transkripsi dihidupkan, ejen lalai juga memuat naik ringkasan bagi setiap transkripsi.

Teks ke suara: baca dengan kuat

Dengan teks ke suara dihidupkan, setiap menu mesej mempunyai Baca dengan kuat: pelayan menghantar teks mesej tersebut ke API teks ke suara dan memaparkan audio. Tetapan, dalam Konsol Sistem › Integrasi › Teks ke Suara:

Untuk menggunakan sambungan model sebagai ganti alamat dan kunci di atas, pilihnya untuk Teks ke Suara dalam AI › Ciri terbina dalam. Halaman tersebut kemudian menyatakan bahawa mesej dibaca dengan kuat menggunakan sambungan tersebut: URL asas API dan Kunci API tidak digunakan, Suara masih digunakan, dan juga Model apabila sambungan tersebut tidak menamakan model. Baca mesej dengan kuat mesti masih dihidupkan.

Sebelum dihantar, pelayan membuang blok kod, pautan, kod emoji dan format, serta mengekalkan paling banyak 4000 aksara. Ia meminta audio MP3 dan mengekalkan 64 keputusan terakhir dalam memori, jadi mesej yang dibaca dua kali hanya dihantar sekali.

Terjemahan automatik

Terjemahan automatik memaparkan mesej dalam saluran dalam bahasa setiap pembaca. Konfigurasinya dalam Konsol Sistem › Konfigurasi Laman › Lokalisasi, di bawah Terjemahan Automatik:

Setiap pembekal mempunyai medan miliknya sendiri:

• Sambungan model: sambungan seluruh pelayan dan modelnya, tetapan yang sama seperti Terjemahan Automatik dalam AI › Ciri terbina dalam (AISettings.AutoTranslation). Model terjemahan khusus adalah pantas dan tepat; LLM am juga berfungsi.
• LibreTranslate: Titik Akhir API LibreTranslate dan Kunci API LibreTranslate (AutoTranslationSettings.LibreTranslate.URL, .APIKey). Pelayan LibreTranslate boleh dijalankan di rangkaian anda sendiri.
• API serasi OpenAI: URL asas API (sehingga dan termasuk /v1; pelayan menggunakan titik akhir pelengkapan sembangnya), Model dan Kunci API (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Model terjemahan kecil yang dijalankan secara setempat berfungsi dengan baik.
• Layanan aplikasi sembang AI (lama): pelayan yang ditetapkan sebelum 0.9.0, yang menggunakan layanan aplikasi Ejen. Ia tidak lagi memerlukan aplikasi tersebut: ia menerjemahkan menggunakan sambungan yang dipilih untuk terjemahan automatik dalam AI › Ciri terbina dalam, atau jika tidak, menggunakan sambungan yang disalin dari layanan aplikasi semasa peningkatan. Tukar ke Sambungan Model memindahkan tetapan kepada pelayan yang disyorkan.

Apabila ia dihidupkan, pentadbir saluran akan menghidupkan terjemahan untuk saluran dalam tetetapannya (Terjemahan Automatik), dan setiap ahli boleh memilih untuk tidak menyertainya dari menu saluran (Terjemahkan mesej). Dalam Mesej Terus dan Mesej Kumpulan, mana-mana ahli boleh menghidupkannya; dengan sekatan ini, terjemahan tidak tersedia di sana. Mesej yang diterjemahkan akan memaparkan "Diterjemahkan dari …" dengan pautan ke asal.

Kod, pautan, sebutan dan emoji akan digantikan dengan penanda tempat sebelum teks dihantar, dan dipulihkan semula selepas itu.

Data mana yang pergi ke mana

Untuk menyimpan semuanya di rangkaian anda, arahkan setiap ciri ke pelayan yang anda kendalikan sendiri. Dengan pembekal awan, semak terma pengekalan datanya, dan beritahu pengguna anda ciri mana yang menghantar mesej mereka keluar.

Mematikan AI

Tiada satu suis tunggal: setiap ciri mempunyai suisnya sendiri.

• Tulisan semula dan ringkasan: tetapkan kepada Tutup dalam Konsol Sistem › AI › Ciri terbina dalam. Orang ramai terus membaca ringkasan yang sudah ada.
• Sambungan model: padam sambungan untuk menghentikan semua penggunaannya. Tanpa sebarang sambungan, ciri terbina dalam dan apl tidak dapat menggunakan AI melalui pelayan.
• Ejen: lumpuhkan apl Ejen dalam Konsol Sistem › Plagin › Pengurusan Plagin. Ini juga akan memadam ringkasan panggilan.
• Transkripsi dan kapsyen: AM_CALLS_ENABLE_TRANSCRIPTIONS=false dan AM_CALLS_ENABLE_LIVE_CAPTIONS=false (lalai).
• Baca dengan kuat: matikan Baca mesej dengan kuat (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, lalai), sama ada ia menggunakan sambungan atau tidak.
• Terjemahan: terjemahan automatik dimatikan (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, lalai).

Melumpuhkan apl Ejen tidak mematikan ciri lain: ciri tersebut menggunakan sambungan model atau API mereka sendiri.