AI

Antimatter의 AI 기능은 사용자가 선택한 모델을 사용합니다. 클라우드 제공자나 자체 네트워크 내 서버를 사용할 수 있습니다. 모델을 설정하기 전까지 어디에도 데이터가 전송되지 않습니다. 이 페이지에서는 모델 연결, 각 기능, 전송되는 데이터, 비활성화 방법을 다룹니다.

AI 기능

"OpenAI 호환"은 OpenAI와 동일한 HTTP API를 제공하는 서버를 의미합니다. 직접 실행할 수 있는 대부분의 모델 서버(Ollama, vLLM, llama.cpp 서버, Whisper 및 텍스트 음성 변환 서버 등)와 LiteLLM, OpenRouter와 같은 많은 클라우드 제공자 및 게이트웨이가 해당됩니다. 이 기능들을 사용하려면 라이선스가 필요 없습니다.

내장 기능(문장 다듬기, 요약, 번역, 읽기)은 에이전트 앱이 필요하지 않습니다. 시스템 콘솔에서 추가하는 모델 연결을 사용합니다.

모델 연결

모델 연결은 Antimatter가 호출할 수 있는 AI 제공자입니다. 주소, 키, 모델을 포함합니다. 한 번 추가한 후, 해당 모델을 사용할 각 기능에서 선택합니다. 두 가지 유형이 있습니다:

• 서버 전체 연결: 시스템 관리자가 시스템 콘솔 › AI › 모델 연결에서 관리합니다. 내장 기능은 이 연결만 사용할 수 있습니다. 권한이 있는 사용자에게는 앱도 이 연결을 사용할 수 있습니다.
• 커뮤니티 연결: 커뮤니티 관리자가 커뮤니티 설정에서 자신의 커뮤니티용으로 추가합니다(아래 참조). 앱은 커뮤니티의 사용자들을 위해 이 연결을 사용합니다. 내장 기능에는 절대 사용되지 않습니다.

시스템 콘솔의 AI 섹션은 서버 전체 연결을 관리할 수 있는 사용자(기본값은 시스템 관리자)에게 표시됩니다. 모델 연결 페이지에는 서버 전체 연결과 모든 커뮤니티의 연결이 나열됩니다.

연결 추가

시스템 콘솔 › AI › 모델 연결에서 연결 추가를 클릭한 후, 양식을 입력합니다:

연결 테스트는 주소와 키를 확인합니다: 서버가 엔드포인트에 모델 목록을 요청하거나 토큰 1개의 채팅을 보냅니다. 변경된 주소는 저장한 키로만 테스트되며, 이는 저장한 후 또는 키를 다시 입력한 경우에만 적용됩니다. 연결 추가를 클릭하여 저장합니다.

서버가 직접 요청을 보내므로 API에 도달할 수 있어야 합니다. 같은 compose 프로젝트의 모델 서버, 네트워크 내의 서버, 또는 인터넷에 있는 서버가 될 수 있습니다. 외부 요청은 HTTP_PROXY와 HTTPS_PROXY 변수를 따릅니다.

연결을 삭제하면 해당 키가 잊혀집니다. 해당 연결을 사용하던 기능은 다른 연결을 선택할 때까지 AI를 사용할 수 없습니다.

한도와 예산

각 연결에는 네 가지 한도가 있습니다. 비어 있거나 0이면 한도가 없습니다.

• 분당 요청 수와 사용자별 분당 요청 수. 각 서버가 별도로 계산합니다. 세 개의 서버로 구성된 클러스터는 최대 세 배의 속도로 요청을 허용합니다.
• 월별 토큰 수와 사용자별 월별 토큰 수: 달력 월(UTC) 기준의 토큰 예산으로, 전체 클러스터에 대해 데이터베이스에서 계산됩니다. 동시에 실행되는 여러 요청으로 인해 예산을 약간 초과할 수 있습니다.

사용자별 한도는 다시 쓰기와 요약에도 적용됩니다. 다시 쓴 사람 또는 요약의 소유자에게 계산됩니다.

사용량

목록에는 각 연결의 이번 달 사용량이 표시됩니다. 사용량을 클릭하면 세부 정보가 열립니다: 입력 및 출력 토큰, 요청 수, 월별 예산, 일별(UTC) 및 용도별(다시 쓰기, 요약, 자동 번역, 텍스트 음성 변환, 앱을 통한 사용자, 또는 앱) 사용량.

사용자 또는 앱이 연결을 통해 수행하는 모든 호출은 감사 기록을 작성합니다: 누가, 어떤 연결을, 어떤 용도로, 어떤 모델로, 토큰 수와 성공 여부만 기록되며, 대화 내용은 기록되지 않습니다. 내장 기능은 사용량에만 계산됩니다. 번역만 하더라도 메시지당 언어별로 한 번의 호출이 발생합니다.

커뮤니티 연결

커뮤니티 관리자는 커뮤니티 설정의 모델 연결 탭에서 커뮤니티 전용 연결을 추가합니다. 양식은 동일하지만 커뮤니티 항목이 없습니다. 커뮤니티의 연결은 해당 커뮤니티의 채널에서만, 해당 멤버에게만 작동하며, 대상은 해당 커뮤니티의 팀만 지정할 수 있습니다. 모델 연결 관리 권한이 있는 역할도 이를 관리할 수 있습니다. 기본적으로 커뮤니티 관리자에게 이 권한이 있습니다.

커뮤니티의 연결은 비공개 또는 루프백 주소(예: 네트워크 내의 Ollama 서버)에 도달할 수 없으며, 시스템 콘솔 › 환경 › 개발자 설정 › 신뢰할 수 없는 내부 연결을 허용(ServiceSettings.AllowedUntrustedInternalConnections)에 해당 주소가 목록에 없으면 마찬가지입니다. 서버 전체 연결은 가능합니다.

커뮤니티 관리자 측에 대한 내용은 커뮤니티 설정을 참조하세요.

암호화 키

모델 연결의 키와 추가 헤더는 하나의 암호화 키를 사용하여 데이터베이스에 AES-256-GCM 방식으로 암호화됩니다. 데이터베이스 백업만으로는 이를 확인할 수 없습니다. 서버는 다음 순서로 키를 찾습니다:

1. AM_AI_ENCRYPTION_KEY 변수: base64로 인코딩된 32바이트의 랜덤 값입니다. openssl rand -base64 32 명령을 사용하여 생성할 수 있습니다.
2. 변수가 없으면, 서버 데이터 디렉터리 루트(FileSettings.Directory, 기본값은 ./data/)에 ai-encryption.key 파일이 사용됩니다. 서버는 연결이 처음 필요로 할 때 이 파일을 자체만 읽을 수 있는 권한으로 생성합니다. 앱, 내보내기 및 파일 아카이브는 이 파일을 읽을 수 없습니다.

변수를 설정해야 하는 경우:

• 사이트의 compose 파일과 함께. compose.yaml은 .env에서 AM_AI_ENCRYPTION_KEY를 전달하며, 변수가 비어 있으면 data 볼륨에 키 파일을 유지합니다. 변수를 설정하는 것이 더 좋습니다. 이렇게 하면 .env의 백업에 키가 데이터베이스와 별도로 포함됩니다. .env에 추가하고 docker compose up -d를 실행하세요:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  서버가 이미 키 파일을 생성한 경우, 저장된 키가 계속 읽을 수 있도록 해당 키를 .env에 입력하세요. docker compose exec antimatter cat /antimatter/data/ai-encryption.key 명령을 실행하면 키가 출력됩니다.
• 파일이 S3에 저장된 클러스터. 서버들이 디렉터리를 공유하지 않으므로 서버가 파일을 생성하지 않습니다: 모든 서버에 동일한 변수를 설정하세요. 변수가 설정될 때까지 연결은 키를 저장할 수 없습니다.
• 릴리스 아카이브나 패키지를 사용하는 경우, 파일은 data/에 위치합니다(패키지의 경우 /var/lib/antimatter/data). 파일을 그대로 두거나 환경 파일에서 변수를 설정할 수 있습니다.

키를 변경하려면 새 키를 AM_AI_ENCRYPTION_KEY에, 이전 키를 AM_AI_ENCRYPTION_PREVIOUS_KEYS에(쉼표로 구분된 여러 키) 설정하세요. 이전 키로 저장된 키는 여전히 읽을 수 있습니다. 연결의 키를 다시 입력할 때 새 키로 암호화됩니다. 모든 연결의 키가 다시 입력될 때까지 이전 키를 목록에 유지하세요.

내장 기능

시스템 콘솔 › AI › 내장 기능에서 각 기능별로 서버 전체 연결과 모델을 선택하거나 끄기를 선택합니다. 연결이 없는 기능은 AI를 사용하지 않습니다. 모델 로드는 해당 연결의 모든 모델을 나열하며, 기본적으로 각 기능은 연결의 채팅 모델을 사용합니다.

각 설정에는 ConnectionId와 Model 키가 있습니다. 예를 들어 AISettings.Rewrite.ConnectionId(AM_AISETTINGS_REWRITE_CONNECTIONID)가 있습니다. Model이 비어 있으면 연결의 기본 모델이 사용됩니다.

내장 기능은 연결의 한도를 사용하지만 대상은 사용하지 않습니다. 기능을 사용할 수 있는 모든 사람이 해당 연결을 사용할 수 있습니다. 주의가 필요한 연결이거나 삭제된 연결인 경우, 다른 연결을 선택할 때까지 해당 기능이 실패하며, 페이지에 이를 알려줍니다.

AI 에이전트

Agents 앱(id mattermost-ai)은 기본적으로 켜져 있습니다. 설정은 두 단계로 이루어집니다: 서비스(모델 제공업체에 대한 연결)를 추가한 후, 에이전트(서비스를 사용하는 봇)를 생성합니다.

1. 서비스 추가

시스템 콘솔 › 플러그인 › 에이전트로 이동하여 AI 서비스 아래에서 AI 서비스 추가를 클릭합니다. 서비스 유형을 선택합니다:

• OpenAI Compatible: 직접 실행하는 모델 서버 또는 OpenAI 스타일 API를 지원하는 모든 제공자. API URL(예: http://ollama:11434/v1 또는 http://vllm.internal:8000/v1)을 입력하고, 서버가 필요로 하는 경우에만 API 키를 입력합니다. 서버가 Chat Completions API만 지원하는 경우 Responses API 사용을 끕니다.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: 호스팅 제공자. 각각 API 키가 필요합니다(Bedrock: AWS 리전 및 자격 증명 또는 IAM 역할; Vertex AI: 프로젝트, 리전 및 서비스 계정; Azure: API URL도 필요).

이후 기본 모델(제공자가 모델을 보고할 수 있는 경우 목록, 그렇지 않은 경우 이름을 입력)을 설정하고, 제공자가 보고하지 않는 경우 입력 토큰 제한과 출력 토큰 제한을 설정합니다. 이 제공자가 실패할 때 대체 서비스가 대신 작동할 수 있습니다. 저장합니다.

서버가 이 요청을 직접 보내므로 API에 도달할 수 있어야 합니다: 같은 compose 프로젝트 내의 모델 서버, 네트워크 내의 서버, 또는 인터넷 내의 서버. 발신 요청은 HTTP_PROXY 및 HTTPS_PROXY 변수를 준수합니다.

2. 에이전트 생성

에이전트는 웹 앱의 에이전트 페이지에서 생성됩니다. 에이전트 패널의 에이전트 선택기에서 관리를 선택하여 열 수 있습니다(클래식 인터페이스에서는 제품 메뉴에서도 열 수 있습니다). 해당 주소는 https://chat.example.com/plug/mattermost-ai/agents입니다. 각 에이전트에는 표시명, 에이전트 사용자 이름(멘션에 사용되는 이름), 서비스가 있으며, 모델, 사용자 지정 지침, 비전 사용(이미지) 및 도구 사용 전환 스위치가 선택적으로 설정됩니다. 접근 탭에서는 에이전트를 사용할 수 있는 채널과 해당 에이전트를 사용할 수 있는 사용자를 제한할 수 있습니다. 시스템 콘솔의 AI Functions에서 기본 봇은 에이전트가 선택되지 않은 경우, 예를 들어 통화 요약 시에 사용할 에이전트를 지정합니다.

에이전트 앱의 선택 기능

• 임베딩 검색(실험적, 비활성): 메시지에 대한 의미론적 검색. pgvector 확장 기능이 있는 PostgreSQL과 임베딩 모델(OpenAI 또는 OpenAI 호환)이 필요합니다. 모든 메시지를, 비공개 채널과 다이렉트 메시지를 포함하여 임베딩 모델에 전송합니다.
• 웹 검색(비활성): 에이전트가 Google, Brave 또는 사용자가 실행하는 SearXNG 서버를 통해 웹을 검색할 수 있게 합니다.
• 네이티브 도구: 이를 제공하는 제공자의 경우, 에이전트는 제공자 자체의 웹 검색(지원되는 경우 새 에이전트에 대해 기본적으로 활성화), 웹 가져오기 및 코드 실행을 사용할 수 있습니다. 이들은 제공자에서 실행됩니다. 에이전트별로 비활성화할 수 있습니다.
• Model Context Protocol (MCP): 신뢰하는 MCP 서버에 에이전트를 연결하여 추가 도구를 제공합니다.
• Debug: Trace Output(끄기, 서버 로그 또는 OpenTelemetry 엔드포인트) 및 Enable Token Usage Logging(토큰 수를 logs/agents/token_usage.log에 기록).

음성 인식: 통화 녹취록 및 자막

OpenAI 호환 /v1/audio/transcriptions 엔드포인트를 제공하는 음성 인식 서버를 사용하여 통화를 녹취하고 실시간 자막을 사용할 수 있습니다. 설정 방법은 통화와 음성 문서에서 확인할 수 있습니다. 녹취록 요약이 켜져 있으면 기본 에이전트가 각 녹취록의 요약을 게시합니다.

텍스트 음성 변환: 소리 내어 읽기

텍스트 음성 변환이 켜져 있으면 모든 메시지의 메뉴에 소리 내어 읽기가 있습니다: 서버는 메시지의 텍스트를 텍스트 음성 변환 API로 보내 오디오를 재생합니다. 설정은 시스템 콘솔 › 통합 › 텍스트 음성 변환에 있습니다:

위 주소와 키 대신 모델 연결을 사용하려면 AI › 내장 기능의 텍스트 음성 변환에서 해당 연결을 선택하세요. 그러면 페이지에 해당 연결로 메시지를 음성으로 읽어 준다는 내용이 표시됩니다. API 기본 URL과 API 키는 사용되지 않으며, 음성는 계속 사용됩니다. 연결에 모델이 지정되지 않은 경우 모델도 사용됩니다. 메시지 읽어 주기는 켜져 있어야 합니다.

전송 전 서버는 코드 블록, 링크, 이모지 코드 및 서식을 제거하고 최대 4000자만 유지합니다. MP3 오디오를 요청하며 마지막 64개의 결과를 메모리에 보관하므로, 두 번 읽은 메시지는 한 번만 전송됩니다.

자동 번역

자동 번역은 채널의 메시지를 각 독자의 언어로 표시합니다. 시스템 콘솔 › 사이트 구성 › 지역화의 자동 번역 아래에서 구성합니다:

각 제공자는 고유한 필드를 가집니다:

• 모델 연결: 서버 전체 연결 및 해당 모델로, AI › 내장 기능의 자동 번역과 동일한 설정입니다(AISettings.AutoTranslation). 전용 번역 모델은 빠르고 정확하며, 범용 LLM도 사용할 수 있습니다.
• LibreTranslate: LibreTranslate API 엔드포인트 및 LibreTranslate API 키 (AutoTranslationSettings.LibreTranslate.URL, .APIKey). LibreTranslate 서버는 자체 네트워크에서 실행할 수 있습니다.
• OpenAI 호환 API: API 기본 URL (/v1까지 포함; 서버는 채팅 완성 엔드포인트를 사용), 모델 및 API 키 (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). 로컬에서 실행되는 소형 번역 모델이 잘 작동합니다.
• AI 채팅 앱의 서비스(구버전): 0.9.0 이전 서버의 제공자로, 에이전트 앱의 서비스를 사용했습니다. 이제 더 이상 앱이 필요하지 않습니다. AI › 내장 기능의 자동 번역에 선택된 연결로 번역하거나, 업그레이드 시 앱의 서비스에서 복사된 연결로 번역합니다. 모델 연결로 전환은 설정을 권장 제공자로 이동시킵니다.

이 기능이 켜지면, 채널 관리자는 채널 설정(자동 번역)에서 해당 채널의 번역을 활성화할 수 있으며, 각 멤버는 채널 메뉴(메시지 번역)에서 번역을 비활성화할 수 있습니다. 다이렉트 메시지와 그룹 메시지에서는 모든 멤버가 번역을 켤 수 있지만, 해당 제한이 적용된 경우 번역을 사용할 수 없습니다. 번역된 메시지는 원본으로 연결되는 링크와 함께 "…(어)에서 번역됨"이라는 표시가 나타납니다.

텍스트가 전송되기 전에 코드, 링크, 멘션, 이모지는 플레이스홀더로 대체되고, 전송 후 원래대로 복원됩니다.

데이터가 어디로 전송되는지

모든 데이터를 네트워크 내에 유지하려면, 각 기능을 자체 서버를 가리키도록 설정하세요. 클라우드 제공자를 사용하는 경우, 데이터 보관 정책을 확인하고 어떤 기능이 사용자의 메시지를 외부로 전송하는지 사용자에게 알려야 합니다.

AI 기능 비활성화

단일 스위치는 없습니다. 각 기능마다 개별 설정이 있습니다.

• 재작성 및 요약: 시스템 콘솔 › AI › 내장 기능에서 끄기로 설정하세요. 이미 있는 요약을 계속 읽는 사람이 있습니다.
• 모델 연결: 연결을 삭제하면 해당 연결의 모든 사용이 중단됩니다. 연결이 없으면 내장 기능도 앱도 서버를 통해 AI를 사용할 수 없습니다.
• 에이전트: 시스템 콘솔 › 플러그인 › 플러그인 관리에서 에이전트 앱을 비활성화하세요. 통화 요약도 함께 제거됩니다.
• 녹취 및 실시간 자막: AM_CALLS_ENABLE_TRANSCRIPTIONS=false 및 AM_CALLS_ENABLE_LIVE_CAPTIONS=false(기본값).
• 소리 내어 읽기: 메시지 읽어 주기를 끄세요(AM_TEXTTOSPEECHSETTINGS_ENABLE=false, 기본값). 연결을 사용하든 하지 않든 마찬가지입니다.
• 번역: 자동 번역 끄기(AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, 기본값).

에이전트 앱을 비활성화해도 다른 기능은 꺼지지 않습니다. 다른 기능은 모델 연결이나 자체 API를 사용하므로요.