AI

Các tính năng AI của Antimatter sử dụng các mô hình do bạn lựa chọn: một nhà cung cấp đám mây, hoặc một máy chủ trên mạng của riêng bạn. Không có dữ liệu nào được gửi đi cho đến khi bạn cấu hình một mô hình. Trang này bao gồm các kết nối mô hình, từng tính năng, dữ liệu mà chúng gửi đi và cách tắt chúng.

Các tính năng AI

"Tương thích OpenAI" có nghĩa là một máy chủ cung cấp cùng một API HTTP như OpenAI. Hầu hết các máy chủ mô hình mà bạn có thể tự vận hành đều hỗ trợ (ví dụ Ollama, vLLM, máy chủ của llama.cpp, hoặc các máy chủ Whisper và chuyển văn bản thành giọng nói), cũng như nhiều nhà cung cấp đám mây và cổng như LiteLLM hoặc OpenRouter. Không cần giấy phép cho bất kỳ tính năng nào trong số này.

Các tính năng tích hợp sẵn (viết lại, tóm tắt, dịch và đọc to) không cần ứng dụng Agents: chúng sử dụng các kết nối mô hình mà bạn thêm trong Bảng điều khiển Hệ thống.

Kết nối mô hình

Một kết nối mô hình là một nhà cung cấp AI mà Antimatter có thể gọi: địa chỉ của nó, khóa của nó và các mô hình của nó. Bạn thêm nó một lần, sau đó chọn nó cho từng tính năng cần sử dụng. Có hai loại:

• Kết nối trên toàn máy chủ, được quản lý bởi quản trị viên hệ thống trong Bảng điều khiển Hệ thống › AI › Kết nối mô hình. Chỉ họ mới có thể phục vụ các tính năng tích hợp sẵn. Các ứng dụng cũng có thể sử dụng chúng, cho những người được phép.
• Kết nối cộng đồng, do quản trị viên của một cộng đồng thêm cho cộng đồng của họ trong cài đặt của cộng đồng (xem phía dưới). Các ứng dụng sử dụng chúng cho người dùng của cộng đồng. Chúng không bao giờ phục vụ các tính năng tích hợp sẵn.

Phần AI của Bảng điều khiển Hệ thống hiển thị cho những người có thể quản lý các kết nối trên toàn máy chủ: quản trị viên hệ thống, mặc định. Trang Kết nối mô hình của nó liệt kê các kết nối trên toàn máy chủ và các kết nối của mọi cộng đồng.

Thêm kết nối

Trong Bảng điều khiển Hệ thống › AI › Kết nối mô hình, nhấp vào Thêm kết nối, sau đó điền vào biểu mẫu:

Kiểm tra kết nối sẽ kiểm tra địa chỉ và khóa: máy chủ sẽ yêu cầu điểm cuối cung cấp danh sách mô hình của nó, hoặc gửi một cuộc trò chuyện một token. Địa chỉ đã thay đổi chỉ được kiểm tra với khóa đã lưu sau khi bạn lưu, hoặc nếu bạn nhập lại khóa. Nhấp vào Thêm kết nối để lưu.

Máy chủ tự thực hiện các yêu cầu, do đó nó phải có thể truy cập API: một máy chủ mô hình trong cùng dự án compose, trên mạng của bạn, hoặc trên Internet. Các yêu cầu đi ra sẽ tuân theo các biến HTTP_PROXY và HTTPS_PROXY.

Khi xóa một kết nối, khóa của nó sẽ bị xóa. Các tính năng đã sử dụng kết nối đó sẽ ngừng sử dụng AI cho đến khi bạn chọn một kết nối khác.

Giới hạn và ngân sách

Mỗi kết nối có bốn giới hạn. Để trống hoặc đặt thành 0 nghĩa là không có giới hạn.

• Số yêu cầu mỗi phút và Mỗi người, số yêu cầu mỗi phút. Chúng được đếm riêng bởi từng máy chủ: một cụm gồm ba máy chủ sẽ cho phép tối đa ba lần tốc độ đó.
• Số token mỗi tháng và Mỗi người, số token mỗi tháng: ngân sách token, theo tháng dương lịch (UTC), được đếm trong cơ sở dữ liệu cho toàn bộ cụm. Một số yêu cầu chạy đồng thời có thể vượt quá ngân sách một chút.

Các giới hạn theo người cũng áp dụng cho tính năng viết lại và tóm tắt: chúng được tính cho người thực hiện viết lại, hoặc người sở hữu bản tóm tắt.

Lượng sử dụng

Danh sách hiển thị lượng sử dụng của mỗi kết nối trong tháng này. Lượng sử dụng mở chi tiết: token vào và ra, số yêu cầu, ngân sách tháng, lượng sử dụng theo ngày (UTC) và theo mục đích sử dụng (Viết lại, Tóm tắt, Dịch tự động, Chuyển văn bản thành giọng nói, Người dùng, thông qua ứng dụng, hoặc một ứng dụng).

Mọi cuộc gọi mà một người hoặc một ứng dụng thực hiện thông qua một kết nối cũng sẽ ghi lại một bản ghi kiểm toán: ai, kết nối nào, mục đích sử dụng, mô hình, số lượng token và có thành công hay không, nhưng không bao giờ ghi lại nội dung đã nói. Các tính năng tích hợp chỉ được tính trong lượng sử dụng: riêng tính năng dịch sẽ tạo một cuộc gọi cho mỗi tin nhắn và mỗi ngôn ngữ.

Kết nối của cộng đồng

Quản trị viên cộng đồng thêm các kết nối riêng của cộng đồng trong cài đặt của cộng đồng, ở tab Kết nối mô hình. Biểu mẫu giống hệt, nhưng không có Cộng đồng: kết nối của một cộng đồng chỉ hoạt động trong các kênh của chính cộng đồng đó, cho các thành viên của nó, và đối tượng người dùng của nó chỉ có thể chỉ định các nhóm của chính cộng đồng đó. Các vai trò có quyền Quản lý kết nối mô hình cũng có thể quản lý chúng. Mặc định, quản trị viên cộng đồng có quyền này.

Kết nối của một cộng đồng không thể truy cập các địa chỉ riêng tư hoặc loopback (ví dụ: một máy chủ Ollama trên mạng của bạn), trừ khi Bảng điều khiển Hệ thống › Môi trường › Nhà phát triển › Cho phép các kết nối nội bộ không đáng tin cậy vào (ServiceSettings.AllowedUntrustedInternalConnections) liệt kê chúng. Các kết nối trên toàn máy chủ thì có thể.

Xem Cài đặt cộng đồng cho phía quản trị viên cộng đồng.

Khóa mã hóa

Khóa và các tiêu đề bổ sung của các kết nối mô hình được mã hóa trong cơ sở dữ liệu (AES-256-GCM) bằng một khóa mã hóa duy nhất. Chỉ sao lưu cơ sở dữ liệu sẽ không làm lộ chúng. Máy chủ tìm khóa theo thứ tự sau:

1. Biến AM_AI_ENCRYPTION_KEY: 32 byte ngẫu nhiên, ở dạng base64. Tạo một khóa bằng openssl rand -base64 32.
2. Nếu không, tệp ai-encryption.key ở gốc thư mục dữ liệu của máy chủ (FileSettings.Directory, mặc định là ./data/). Máy chủ sẽ tạo tệp này, chỉ cho phép chính nó đọc, lần đầu tiên khi một kết nối cần đến. Các ứng dụng, bản xuất và bản lưu trữ tệp không thể đọc nó.

Khi nào nên đặt biến:

• Cùng với tệp compose của trang web. compose.yaml truyền AM_AI_ENCRYPTION_KEY từ .env, và giữ tệp khóa trong volume data khi biến trống. Việc đặt biến là tốt hơn: bản sao lưu của .env khi đó sẽ chứa khóa, tách biệt khỏi cơ sở dữ liệu. Thêm nó vào .env và chạy docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Nếu máy chủ đã tạo tệp khóa của nó, hãy đặt khóa mà nó đang giữ vào .env thay vào đó, để các khóa đã lưu vẫn có thể đọc được: docker compose exec antimatter cat /antimatter/data/ai-encryption.key sẽ in ra nó.
• Một cụm mà các tệp nằm trong S3. Các máy chủ của nó không chia sẻ thư mục nào, vì vậy máy chủ sẽ không tạo tệp: hãy đặt cùng một biến trên mọi máy chủ. Cho đến khi biến được đặt, các kết nối không thể lưu khóa.
• Với bản phát hành dạng lưu trữ hoặc các gói, tệp nằm trong data/ (/var/lib/antimatter/data cho các gói). Bạn có thể giữ nó ở đó, hoặc đặt biến trong tệp môi trường của bạn.

Để thay đổi khóa, hãy đặt khóa mới trong AM_AI_ENCRYPTION_KEY và khóa cũ trong AM_AI_ENCRYPTION_PREVIOUS_KEYS (nhiều khóa phân tách bằng dấu phẩy): các khóa đã lưu bằng khóa cũ vẫn có thể đọc được. Khóa của một kết nối sẽ được mã hóa bằng khóa mới khi bạn nhập lại nó. Giữ khóa cũ trong danh sách cho đến khi khóa của mọi kết nối đã được nhập lại.

Các tính năng tích hợp

Trong Bảng điều khiển Hệ thống › AI › Tính năng tích hợp sẵn, hãy chọn cho mỗi tính năng một kết nối trên toàn máy chủ cùng mô hình tương ứng, hoặc Tắt. Tính năng không có kết nối sẽ không sử dụng AI. Tải mô hình liệt kê tất cả các mô hình của kết nối; mặc định, mỗi tính năng sử dụng mô hình trò chuyện của kết nối đó.

Mỗi cài đặt có một khóa ConnectionId và một khóa Model, ví dụ AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Nếu Model để trống, hệ thống sẽ sử dụng mô hình mặc định của kết nối.

Các tính năng tích hợp sẵn sử dụng các giới hạn của kết nối, nhưng không sử dụng đối tượng người dùng của nó: bất kỳ ai có quyền sử dụng tính năng đều có thể sử dụng kết nối của nó. Nếu một kết nối cần được chú ý hoặc đã bị xóa, tính năng sẽ gặp lỗi cho đến khi bạn chọn một kết nối khác: trang sẽ thông báo điều này.

Trợ lý AI

Ứng dụng Agents (id mattermost-ai) được bật mặc định. Việc thiết lập nó gồm hai bước: thêm một dịch vụ (kết nối đến nhà cung cấp mô hình), sau đó tạo các trợ lý (bot sử dụng dịch vụ đó).

1. Thêm một dịch vụ

Đi đến Bảng điều khiển Hệ thống › Các plugin › Trợ lý và, dưới Dịch vụ AI, nhấp vào Thêm dịch vụ AI. Chọn Loại dịch vụ:

• Tương thích OpenAI: dành cho máy chủ mô hình do bạn tự vận hành, hoặc bất kỳ nhà cung cấp nào có API theo phong cách OpenAI. Điền vào URL API (ví dụ http://ollama:11434/v1 hoặc http://vllm.internal:8000/v1), và Khóa API chỉ khi máy chủ yêu cầu. Nếu máy chủ chỉ hỗ trợ API Chat Completions, hãy tắt Sử dụng API Responses.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: các nhà cung cấp có sẵn. Mỗi nhà cung cấp cần một Khóa API (Bedrock: một khu vực AWS và thông tin xác thực hoặc một vai trò IAM; Vertex AI: một dự án, khu vực và tài khoản dịch vụ; Azure: cũng cần URL của API).

Sau đó, thiết lập Mô hình mặc định (một danh sách nếu nhà cung cấp có thể báo cáo các mô hình của mình, nếu không hãy nhập tên), và nếu nhà cung cấp không báo cáo, hãy thiết lập Giới hạn token đầu vào và Giới hạn token đầu ra. Một Dịch vụ dự phòng có thể tiếp quản khi dịch vụ này gặp sự cố. Lưu lại.

Máy chủ tự động thực hiện các yêu cầu này, do đó nó phải có thể truy cập API: một máy chủ mô hình trong cùng dự án compose, trên mạng của bạn, hoặc trên Internet. Các yêu cầu đi ra sẽ tuân theo các biến HTTP_PROXY và HTTPS_PROXY.

2. Tạo trợ lý

Các trợ lý được tạo trên trang Trợ lý của ứng dụng web: mở trang này bằng cách chọn Quản lý trong bộ chọn trợ lý của bảng Trợ lý (trong giao diện cổ điển, cũng có thể truy cập từ menu sản phẩm). Địa chỉ của trang là https://chat.example.com/plug/mattermost-ai/agents. Mỗi trợ lý có một Tên Hiển Thị, một Tên người dùng trợ lý (cách mọi người nhắc đến nó), một Dịch vụ và tùy chọn một mô hình, Chỉ dẫn tùy chỉnh, cùng các công tắc cho Bật thị giác (ảnh) và Bật công cụ. Tab Truy cập của nó giới hạn các kênh mà trợ lý có thể được sử dụng và những người dùng nào có thể sử dụng nó. Trong Chức năng AI của Bảng điều khiển Hệ thống, Bot mặc định chọn trợ lý được sử dụng khi không có trợ lý nào được chọn, ví dụ cho bản tóm tắt cuộc gọi.

Các tính năng tùy chọn của ứng dụng Trợ lý

• Tìm kiếm nhúng (thực nghiệm, tắt): tìm kiếm ngữ nghĩa trên các tin nhắn. Tính năng này cần PostgreSQL với phần mở rộng pgvector và một mô hình nhúng (OpenAI hoặc tương thích OpenAI). Nó gửi mọi tin nhắn đến mô hình nhúng, bao gồm cả kênh riêng tư và tin nhắn trực tiếp.
• Tìm kiếm web (tắt): cho phép trợ lý tìm kiếm trên web thông qua Google, Brave hoặc một máy chủ SearXNG do bạn vận hành.
• Công cụ bản địa: với các nhà cung cấp có cung cấp, trợ lý có thể sử dụng tìm kiếm web của chính nhà cung cấp (bật theo mặc định cho trợ lý mới, nơi được hỗ trợ), truy xuất web và thực thi mã. Những thứ này chạy trên nhà cung cấp. Tắt chúng cho từng trợ lý.
• Model Context Protocol (MCP): kết nối trợ lý với các máy chủ MCP mà bạn tin tưởng, để có thêm công cụ.
• Gỡ lỗi: Đầu ra theo dõi (tắt, nhật ký máy chủ hoặc một điểm cuối OpenTelemetry) và Bật ghi nhật ký sử dụng token, ghi số lượng token vào logs/agents/token_usage.log.

Chuyển giọng nói thành văn bản: bản chép lời và phụ đề cuộc gọi

Các cuộc gọi có thể được chép lời, kèm phụ đề trực tiếp, bằng một máy chủ chuyển giọng nói thành văn bản cung cấp điểm cuối /v1/audio/transcriptions tương thích với OpenAI. Cấu hình nằm trong Cuộc gọi và giọng nói. Khi bật Tóm tắt bản chép lời, trợ lý mặc định cũng sẽ đăng tải bản tóm tắt của mỗi bản chép lời.

Chuyển văn bản thành giọng nói: đọc to

Khi bật chuyển văn bản thành giọng nói, menu của mỗi tin nhắn sẽ có Đọc to: máy chủ sẽ gửi nội dung tin nhắn đến API chuyển văn bản thành giọng nói và phát âm thanh. Cài đặt nằm trong Bảng điều khiển Hệ thống › Tích hợp › Chuyển văn bản thành giọng nói:

Để sử dụng kết nối mô hình thay vì địa chỉ và khóa ở trên, hãy chọn nó cho Chuyển văn bản thành giọng nói trong AI › Tính năng tích hợp. Trang đó sẽ cho biết tin nhắn được đọc to bằng kết nối đó: URL gốc của API và Khóa API không được sử dụng, Giọng nói vẫn được sử dụng, và Mô hình cũng vậy khi kết nối không chỉ định mô hình. Đọc to tin nhắn vẫn phải được bật.

Trước khi gửi, máy chủ sẽ xóa các khối mã, liên kết, mã biểu tượng cảm xúc và định dạng, đồng thời giữ tối đa 4000 ký tự. Nó yêu cầu âm thanh MP3 và giữ 64 kết quả cuối cùng trong bộ nhớ, do đó một tin nhắn được đọc hai lần chỉ được gửi một lần.

Dịch tự động

Dịch tự động hiển thị các tin nhắn trong một kênh bằng ngôn ngữ riêng của mỗi người đọc. Cấu hình trong Bảng điều khiển Hệ thống › Cấu hình trang web › Bản địa hóa, dưới mục Dịch tự động:

Mỗi nhà cung cấp có các trường riêng:

• Kết nối mô hình: một kết nối trên toàn máy chủ và mô hình của nó, cùng cài đặt như Dịch tự động trong AI › Tính năng tích hợp (AISettings.AutoTranslation). Một mô hình dịch thuật chuyên dụng sẽ nhanh và chính xác; một LLM tổng quát cũng hoạt động được.
• LibreTranslate: Điểm cuối API LibreTranslate và API Key của LibreTranslate (AutoTranslationSettings.LibreTranslate.URL, .APIKey). Một máy chủ LibreTranslate có thể chạy trên mạng riêng của bạn.
• API tương thích OpenAI: URL gốc của API (bao gồm cả /v1; máy chủ sử dụng điểm cuối hoàn thành trò chuyện của nó), Mô hình và Khóa API (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Một mô hình dịch nhỏ chạy cục bộ hoạt động tốt.
• Dịch vụ của ứng dụng trò chuyện AI (cũ): nhà cung cấp máy chủ được thiết lập trước 0.9.0, vốn sử dụng dịch vụ của ứng dụng Trợ lý. Giờ đây nó không còn cần ứng dụng nữa: nó dịch bằng kết nối được chọn cho tự động dịch trong AI › Tính năng tích hợp, hoặc bằng kết nối được sao chép từ dịch vụ của ứng dụng khi nâng cấp. Chuyển sang Kết nối mô hình sẽ di chuyển cài đặt sang nhà cung cấp được khuyến nghị.

Khi tính năng này được bật, quản trị viên kênh sẽ kích hoạt dịch tự động cho kênh trong phần cài đặt (Dịch tự động), và mỗi thành viên có thể từ chối trong menu kênh (Dịch tin nhắn). Trong tin nhắn trực tiếp và tin nhắn nhóm, bất kỳ thành viên nào cũng có thể bật tính năng này; tuy nhiên, nếu có hạn chế, tính năng dịch sẽ không khả dụng ở đó. Tin nhắn đã dịch sẽ hiển thị “Đã dịch từ …” kèm liên kết đến bản gốc.

Mã, liên kết, nhắc đến và biểu tượng cảm xúc sẽ được thay thế bằng các ký tự thay thế trước khi gửi văn bản, sau đó được khôi phục lại.

Dữ liệu nào được gửi đi đâu

Để giữ tất cả dữ liệu trong mạng của bạn, hãy trỏ mọi tính năng đến các máy chủ do chính bạn vận hành. Khi sử dụng nhà cung cấp đám mây, hãy kiểm tra các điều khoản về lưu trữ dữ liệu của họ và thông báo cho người dùng biết tính năng nào gửi tin nhắn của họ ra bên ngoài.

Tắt AI

Không có một công tắc duy nhất: mỗi tính năng có công tắc riêng.

• Viết lại và bản tóm tắt: đặt chúng thành Tắt trong Bảng điều khiển Hệ thống › AI › Tính năng tích hợp. Người dùng vẫn có thể đọc các bản tóm tắt mà họ đã có.
• Kết nối mô hình: xóa một kết nối để dừng mọi sử dụng của nó. Nếu không có kết nối nào, cả các tính năng tích hợp lẫn các ứng dụng đều không thể sử dụng AI thông qua máy chủ.
• Trợ lý: vô hiệu hóa ứng dụng Trợ lý trong Bảng điều khiển Hệ thống › Các plugin › Quản lý Plugin. Thao tác này cũng sẽ xóa các bản tóm tắt cuộc gọi.
• Bản chép lời và phụ đề: AM_CALLS_ENABLE_TRANSCRIPTIONS=false và AM_CALLS_ENABLE_LIVE_CAPTIONS=false (mặc định).
• Đọc to: tắt Đọc to tin nhắn (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, mặc định), bất kể nó có sử dụng kết nối hay không.
• Dịch: tắt dịch tự động (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, mặc định).

Vô hiệu hóa ứng dụng Trợ lý không tắt các tính năng khác: chúng sử dụng kết nối mô hình hoặc API riêng của chúng.