ИИ

Функциите на изкуствения интелект в Antimatter използват модели по ваш избор: облаков доставчик или сървър във вашата мрежа. Нищо не се изпраща никъде, докато не конфигурирате модел. Тази страница обхваща връзките с модели, всяка функция, данните, които изпраща, и как да я изключите.

Функциите за изкуствен интелект

„Съвместим с OpenAI“ означава сървър, който предлага същия HTTP API като OpenAI. Повечето сървъри за модели, които можете да управлявате сами, го правят (напр. Ollama, vLLM, сървърът на llama.cpp, или сървъри за преобразуване на реч в текст и текст в реч), както и много облакови доставчици и гейтуеи като LiteLLM или OpenRouter. Не се изисква лиценз за нито една от тези функции.

Вградените функции (преписване, обобщения, превод и четене на глас) и агентите не изискват приложение: те използват връзките към модели, които добавяте в Системната конзола.

Връзки с модели

Връзка с модел е доставчик на изкуствен интелект, който Antimatter може да извиква: неговият адрес, неговият ключ и неговите модели. Добавяте я веднъж, след което я избирате за всяка функция, която трябва да я използва. Има два вида:

• Връзки за целия сървър, управлявани от системните администратори в Системна конзола › Изкуствен интелект › Връзки с модели. Само те могат да обслужват вградените функции. Приложенията също могат да ги използват, за хората, които имат разрешение.
• Връзки за общността, които администраторите на общността добавят за собствената си общност в настройките на общността (вижте по-долу). Приложенията ги използват за хората от общността. Те никога не обслужват вградените функции.

Разделът Изкуствен интелект на Системната конзола се показва на хората, които могат да управляват връзките за целия сървър: системните администратори по подразбиране. Страницата му Връзки с модели (същият адрес както преди, admin_console/ai/model_connections) изброява връзките за целия сървър и тези на всяка общност, след което агенти за целия сървър (вижте Агенти с изкуствен интелект).

Добавяне на връзка

В Системна конзола › Изкуствен интелект › Връзки с модели, под Връзки с модели, кликнете върху Добавяне на връзка, след което попълнете формуляра:

Тест на връзката проверява адреса и ключа: сървърът изисква моделите от endpoint-а или изпраща чат с един токен. Промененият адрес се тества със запазения ключ само след записване или ако въведете ключа отново. Кликнете Добавяне на връзка, за да запазите.

Сървърът изпраща заявките сам, така че трябва да има достъп до API: до сървър на модел в същия compose проект, в мрежата ви или в интернет. Изходящите заявки спазват променливите HTTP_PROXY и HTTPS_PROXY.

Изтриването на връзка заличава ключа ѝ. Функциите, които са я използвали, спират да използват ИИ, докато не изберете друга връзка.

Лимити и бюджети

Всяка връзка има четири лимита. Празно поле или 0 означава без лимит.

• Заявки в минута и На човек, заявки в минута. Те се отчитат отделно от всеки сървър: кластер от три сървъра пропуска до три пъти по-висока скорост.
• Токени на месец и На човек, токени на месец: бюджети на токени, на календарен месец (UTC), отчитани в базата данни за целия кластер. Няколко заявки, изпълняващи се едновременно, могат да надхвърлят леко бюджета.

Лимитите на човек се прилагат и за преразписването и за обобщенията: те се отчитат спрямо човека, който преразписва, или който притежава обобщението.

Използване

Списъкът показва използването на всяка връзка през този месец. Използване отваря детайлите: влизащи и излизащи токени, заявки, месечният бюджет, използване по дни (UTC) и по вид (Преразписване, Обобщения, Автоматичен превод, Текст в реч, Хора, през приложения или приложение).

Всяко обаждане, направено от човек или приложение през връзка, записва и одитна записка: кой, връзката, видът на използването, моделът, броят на токените и дали е успяло, но никога какво е било казано. Вградените функции се отчитат само в използването: преводът сам по себе си прави по едно обаждане на съобщение и език.

Връзки на общности

Администраторите на общностите добавят собствените си връзки в настройките на общността, в раздела Изкуствен интелект, под Връзки с модели. Формулярът е същият, без полето Общности: връзката на общността работи само в нейните собствени канали, за нейните собствени членове и нейната аудитория може да посочва само нейните собствени екипи. Ролите с разрешението Управление на връзки с модели също могат да ги управляват. По подразбиране администраторите на общностите имат това разрешение.

Връзката на общност не може да достига до частни или loopback адреси (напр. Ollama сървър в мрежата ви), освен ако Системна конзола › Обкръжение › Разработчик › Разрешаване на ненадеждни вътрешни връзки към (ServiceSettings.AllowedUntrustedInternalConnections) не ги посочва. Сървърните връзки могат.

Вижте Настройки на общност за гледната точка на администраторите на общност.

MCP сървъри

MCP сървърът е услуга, която предлага инструменти чрез протокола Model Context Protocol, които агентите могат да използват. MCP сървърите са изброени под връзките с модели, в Системна конзола › Изкуствен интелект › Връзки с модели (за целия сървър) или в раздела Изкуствен интелект на общността (нейните собствени), управлявани от същите разрешения като връзките с модели. Добавете един със следните данни:

MCP сървърът на общност не може да достигне вътрешни адреси, освен ако Разрешаване на ненадеждни вътрешни връзки към не ги разреши, както е при връзките с модели на общността; собственият деклариран адрес на сървъра за цялата система винаги е достъпен. MCP заявките никога не следват пренасочвания. Промяната на адреса или вида на акаунта на сървъра извършва излизане на всички потребители от него; изтриването на сървър забравя влизането на всички потребители.

Ключ за шифроване

Ключовете и допълнителните заглавия на връзките с модели се шифроват в базата данни (AES-256-GCM) с един ключ за шифроване. Резервно копие на базата данни само по себе си не ги разкрива. Сервърът търси ключа в следния ред:

1. Променливата AM_AI_ENCRYPTION_KEY: 32 случайни байта, в base64. Създайте такъв с openssl rand -base64 32.
2. В противен случай, файлът ai-encryption.key в корена на директорията с данни на сървъра (FileSettings.Directory, по подразбиране ./data/). Сервърът го създава, четим само за него, при първото използване на връзка. Приложенията, експортите и архивите с файлове не могат да го прочетат.

Кога да зададете променливата:

• С compose файла на сайта. compose.yaml предава AM_AI_ENCRYPTION_KEY от .env и запазва файла с ключа в обема data, когато променливата е празна. По-добре е да зададете променливата: тогава резервното копие на .env съдържа ключа, отделно от базата данни. Добавете го в .env и изпълнете docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  Ако сървърът вече е създадал файла си с ключ, поставете в .env ключа, който той съдържа, за да останат запазените ключове четими: docker compose exec antimatter cat /antimatter/data/ai-encryption.key го показва.
• Кластер, чийто файлове са в S3. Сървърите му не споделят директория, така че сървърът не създава файла: задайте същата променлива на всеки сървър. Докато не е зададена, връзките не могат да запазват ключове.
• С архива на версията или пакетите, файлът е в data/ (за пакетите /var/lib/antimatter/data). Можете да го оставите там, или да зададете променливата във вашия файл с променливи на средата.

За да смените ключа, задайте новия в AM_AI_ENCRYPTION_KEY и стария в AM_AI_ENCRYPTION_PREVIOUS_KEYS (няколко ключа, разделени със запетая): ключовете, запазени със стария, все още могат да бъдат прочетени. Ключът на връзка се шифрова с новия ключ, когато го въведете отново. Запазете стария ключ в списъка, докато ключовете на всички връзки не бъдат въведени отново.

Вградените функции

В Системна конзола › AI › Вградени функции изберете за всяка функция общо за сървъра свързване и неговия модел, или Изкл.. Функция без свързване не използва AI. Зареждане на модели изрежда всички модели на свързването; по подразбиране всяка функция използва чат модела на свързването.

Всяка настройка има ключове ConnectionId и Model, например AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Празен Model използва модела по подразбиране на свързването.

Вградените функции използват лимитите на свързването, но не и неговата аудитория: всеки, който може да използва функцията, може да използва нейното свързване. Свързване, което изисква внимание, или което е изтрито, кара функцията да се провали, докато не изберете друго: страницата го показва.

ИИ агенти

Агентът е акаунт, който хората споменават или му изпращат съобщения като на колега, и се показва с етикет АГЕНТ. Агентите са част от сървъра. Има два вида:

• Вграден: Antimatter отговаря от името на агента, когато някой го спомене, му изпрати съобщение или отговори в неговите нишки, използвайки връзка към модел и инструкциите на агента. Той отговаря като лицето, което задава въпроса, с неговите права: достъпа му до връзката и неговите ограничения и бюджет.
• Външен агент: програма на друго място (например агент за кодиране на проект) влиза с токена на агента и отговаря като човек. Antimatter не отговаря от негово име. Вижте Агенти в ръководството за разработчици.

Системните администратори управляват агентите за цялата система в Системна конзола › Изкуствен интелект › Връзки с модели, под връзките с моделите. Администраторите на общност управляват собствените си агенти в раздела Изкуствен интелект на настройките на общността, под връзките с моделите (вижте Настройки на общността). Никой друг не може да създава агенти.

Добавяне на агент

В Системна конзола › Изкуствен интелект › Връзки с модели (или в раздела Изкуствен интелект на общността) кликнете върху Добавяне на агент, след което попълнете формуляра:

Кликнете върху Добавяне на агент. Агентът на общност се присъединява към своята общност. Всеки агент в списъка показва своята връзка и модел (или „Външен“), дали е изключен и какво изисква вашето внимание. От списъка можете да редактирате агент (включително неговата снимка), да го включите или изключите (никой не може да разговаря с изключен агент) или да го изтриете: акаунтът му се деактивира и настройките му се забравят, но съобщенията му остават.

Инструменти

Превключвателят Инструменти във формуляра за агент включва инструментите за агента, след което предлага за всеки източник (собствените инструменти на Antimatter, инструментите на всяко работещо приложение и всеки MCP сървър, наличен в обхвата на агента): Изкл., Всичко или Избрани, както и Неговите четения се изпълняват без запитване. Инструментите винаги действат като лицето, което е задало въпроса, със собствените му права, никога като агента.

• Четене, което политиката на агента позволява да се изпълни самостоятелно, се изпълнява веднага. Всяко друго извикване (всяко записване и всяко четене, което не е настроено да се изпълнява самостоятелно) изчаква лицето: то се показва в отговора на агента с бутоните Потвърждение и Отказ, точните аргументи и срок от един ден за отговор; само това лице може да отговори, а агентът, инструментът и достъпът на лицето се проверяват отново при потвърждение. Отхвърленото извикване не се изпълнява и агентът не казва нищо повече за него.
• MCP инструмент се счита за четене само когато неговият сървър го маркира като такова; всичко друго е записване. Споделен акаунт (вижте MCP сървъри) предлага само инструментите на този сървър, които извършват четене.
• Собствените избори на лицето относно инструментите в настройките му за чат с изкуствен интелект представляват една предпочитана настройка за всеки агент: те могат само да стеснят това, което политиката на агента позволява, никога да го разширят.
• Собствените инструменти на Antimatter, за момента: търсене на съобщения, четене на нишка, четене на канал, справка за лице и публикуване на съобщение, което винаги изисква потвърждение.
• Всяко извикване на инструмент се записва в журнала за одит: кой, инструментът, агентът, къде, как е взето решението и резултатът, както и размерът и хешът на аргументите, но никога тяхното съдържание.

Къде отговарят агентите

• Вграден агент отговаря на съобщение, което го споменава (до три агента на съобщение), на съобщение в директно съобщение с него и на отговор в нишка, която той е започнал или в която е бил попитан, ако отговорът не споменава никого друг. Той отговаря в нишката на съобщението.
• Хора, които нямат право да разговарят с него, получават известие, което виждат само те: „@agent не е достъпен за вас тук.“
• Агентите не отговарят на ботове, приложения, webhooks или един на друг.
• Всеки отговор се дава веднъж от един сървър в клъстера.

Приложението за чат с AI

Приложението за чат с изкуствен интелект (id mattermost-ai, включено по подразбиране) е страничният панел, където хората разговарят с агентите, които могат да използват: той изброява разговорите им с агентите и предлага обобщения на канала, който се чете. То добавя и действията с изкуствен интелект в менюто на съобщението (Обобщи нишката, Намери действия, Намери отворени въпроси), менюто Попитай изкуствения интелект на реда за нови съобщения и Създай резюме на срещата за обажданията, които питат агента на човека чрез сървъра и получават отговор в директното съобщение с него. Когато няма агент, който да предложи, панелът му насочва администраторите към Системна конзола › Изкуствен интелект › Връзки с модели, или администратор на общност – към раздела за изкуствен интелект на тяхната общност.

Приложението все още има собствени настройки, сега в Системна конзола › Изкуствен интелект › Приложение за чат с изкуствен интелект (страницата за плъгини за него е премахната; старият адрес пренасочва), със собствени Услуги за изкуствен интелект за функциите, които все още са негови: Реагирай вместо мен, търсене с изкуствен интелект, персонализирани подканвания, автоматичните отговори на каналите, за които са зададени, и автоматичните обобщения на транскрипциите на обажданията. Неговото Търсене с вграждания (експериментално, изключено) задвижва търсенето с изкуствен интелект: изисква PostgreSQL с разширението pgvector и модел за вграждания и изпраща всяко съобщение до модела за вграждания, включително частни канали и директни съобщения. Под DEBUG, Изход на трасето (изключено, логове на сървъра или крайна точка на OpenTelemetry) и Включване на запис на използването на токени (записва се в logs/agents/token_usage.log) помагат за откриване на проблеми.

Говорна транскрипция: записи и субтитри на обаждания

Обажданията могат да бъдат транскрибирани, с живи субтитри, от сървър за преобразуване на реч в текст, който предлага съвместима с OpenAI крайна точка /v1/audio/transcriptions. Настройката е описана в Обаждания и глас. Ако опцията Обобщаване на транскриптите е активирана, агентът по подразбиране на приложението за чат с ИИ също публикува резюме на всеки транскрипт. Потребителите могат също да поискат такова резюме от собствения си агент чрез действието Създаване на резюме на срещата.

Преобразуване на текст в реч: четене на глас

Когато функцията „Текст в реч“ е включена, в менюто на всяко съобщение има опция Четен на глас: сървърът изпраща текста на съобщението до API за „текст в реч“ и възпроизвежда аудиото. Настройките се намират в Системна конзола › Интеграции › Текст в реч:

За да използвате връзка с модел вместо адреса и ключа по-горе, изберете я за Текст в реч в AI › Вграден функционал. Тогава страницата показва, че съобщенията се четат на глас с тази връзка: Базов URL на API и API ключ не се използват, Глас все още се използва, както и Модел, когато връзката не посочва конкретен модел. Четен на глас на съобщения трябва да остане включено.

Преди изпращане сървърът премахва блоковете с код, линковете, кодовете на емоджи и форматирането и запазва най-много 4000 символа. Изисква MP3 аудио и запазва последните 64 резултата в паметта, така че съобщение, прочетено два пъти, се изпраща само веднъж.

Автоматичен превод

Автоматичният превод показва съобщенията в канал на всеки читател на неговия собствен език. Конфигурира се в Системна конзола › Конфигурация на сайта › Локализация, под Автоматичен превод:

Всяка услуга има свои полета:

• Връзка с модел: връзка за целия сървър и нейният модел, същата настройка като Автоматичен превод в AI › Вграден функционал (AISettings.AutoTranslation). Посочен модел за превод е бърз и точен; универсален LLM също работи.
• LibreTranslate: LibreTranslate API крайна точка и LibreTranslate API ключ (AutoTranslationSettings.LibreTranslate.URL, .APIKey). LibreTranslate сървър може да се изпълнява в собствената ви мрежа.
• Съвместим с OpenAI API: Базов URL на API (включително /v1; сървърът използва неговата крайна точка за chat completions), Модел и API ключ (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). Малка преводна модель, изпълнявана локално, работи добре.
• Служба на приложението за AI чат (по-старо): доставчикът на сървъри, настроени преди 0.9.0, които използваха служба на приложението за агенти. Понеже вече не изисква приложението, то превежда с връзката, избрана за автоматичен превод в AI › Вграден функционал, или иначе с връзката, копирана от службата на приложението при надграждането. Превключване към връзка с модел премества настройката към препоръчвания доставчик.

След като е активиран, администраторите на каналите включват превода за даден канал в неговите настройки (Автоматичен превод), а всеки член може да се откаже от канала чрез менюто (Превод на съобщенията). В директните и груповите съобщения всеки член може да го включи; при наличие на ограничение, преводът не е наличен там. Преведените съобщения показват „Преведено от …“ с връзка към оригинала.

Кодът, линковете, споменаванията и емоджите се заменят с застойници, преди текстът да бъде изпратен, и се възстановяват след това.

Къде отива данните

За да държите всичко в мрежата си, насочете всяка функция към сървъри, които управлявате сами. При облачен доставчик проверете условията му за запазване на данни и уведомете потребителите си кои функции изпращат съобщенията им навън.

Изключване на AI

Няма един общ превключвател: всяка функция има свой.

• Преразкази и обобщения: задайте ги на Изкл. в Системна конзола › AI › Вградени функции. Хората продължават да четат обобщенията, които вече имат.
• Свързвания с модели: изтрийте връзката, за да спрете всякаква употреба на нея. Без връзка нито вградените функции, нито приложенията могат да използват изкуствен интелект през сървъра.
• Агенти: изключете или изтрийте всеки агент в Системна конзола › Изкуствен интелект › Връзки с модели и в раздела Изкуствен интелект на общностите. Деактивирането на приложението за чат с изкуствен интелект премахва само неговата странична панел и собствените му функции (включително обобщенията на обажданията): хората все още могат да споменават или да изпращат съобщения до агентите.
• Транскрипция и субтитри: AM_CALLS_ENABLE_TRANSCRIPTIONS=false и AM_CALLS_ENABLE_LIVE_CAPTIONS=false (по подразбиране).
• Четен на глас: изключете Четен на глас на съобщения (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, стойност по подразбиране), независимо дали използва връзка.
• Превод: автоматичен превод изключен (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, по подразбиране).

Деактивирането на приложението за AI чат не изключва другите функции: те използват връзки към модели или собствени API.