AI

תכונות ה־AI של Antimatter משתמשות בדגמים שבחרתם: ספק ענן, או שרת ברשת שלכם. לא נשלח כלום לשום מקום עד שאתם מציבים דגם. עמוד זה עוסק בחיבורי דגמים, בכל תכונה, בנתונים שהיא שולחת ובאופן לכיבוי שלה.

תכונות ה־AI

"תואם OpenAI" פירושו שרת שמציע את אותו HTTP API כמו OpenAI. רוב שרתי הדגמים שניתן להפעיל בעצמכם עושים זאת (למשל Ollama, vLLM, שרת של llama.cpp, או שרתי Whisper וטקסט־לקול), וכך גם ספקי ענן ו־gateways רבים כמו LiteLLM או OpenRouter. לא נדרשת רישיון לשום אחת מתכונות אלה.

התכונות המובנות (כתיבה מחדש, סיכומים, תרגום וקריאה בקול) אינן דורשות את אפליקציית Agents: הן משתמשות בחיבורי הדגמים שאתם מוסיפים בקונסולת המערכת.

חיבורי דגמים

חיבור דגם הוא ספק AI שאליו Antimatter יכול לפנות: כתובתו, מפתחו ודגמיו. אתם מוסיפים אותו פעם אחת, ואז בוחרים אותו לכל תכונה שצריכה להשתמש בו. ישנן שתי סוגים:

• חיבורים לכל השרת, הנשלטים על ידי מנהלי מערכת בקונסולת מערכת › AI › חיבורי דגמים. רק הם יכולים לשמש את התכונות המובנות. אפליקציות יכולות להשתמש בהן גם כן, עבור האנשים המורשים לכך.
• חיבורי קהילה, שמוסיפים מנהלי קהילה עבור הקהילה שלהם בהגדרות הקהילה (ראו למטה). אפליקציות משתמשות בהם עבור אנשי הקהילה. הם לעולם אינם משמשים את התכונות המובנות.

הסעיף AI בקונסולת המערכת מוצג לאנשים הרשאים לנהל את החיבורים לכל השרת: מנהלי מערכת, כברירת מחדל. עמוד חיבורי דגמים שלו מציג את החיבורים לכל השרת ואת אלה של כל קהילה.

הוספת חיבור

בקונסולת מערכת › AI › חיבורי דגמים, לחצו על הוספת חיבור, ואז מלאו את הטופס:

בדיקת חיבור בודקת את הכתובת ואת המפתח: השרת מבקש מנקודת הקצה את רשימת המודלים שלה, או שולח צ'אט של טוקן אחד. כתובת ששוּנתה נבדקת עם המפתח שנשמר רק לאחר שמירה, או אם מקלידים את המפתח שוב. לחצו הוספת חיבור כדי לשמור.

השרת מבצע את הבקשות בעצמו, ולכן הוא חייב להגיע ל-API: שרת מודלים באותו פרויקט compose, ברשת שלך, או באינטרנט. הבקשות היוצאות מכבדות את המשתנים HTTP_PROXY ו-HTTPS_PROXY.

מחיקת חיבור מוחקת גם את המפתח שלו. התכונות שהשתמשו בו מפסיקות להשתמש בבינה מלאכותית עד שתבחר חיבור אחר.

גבולות ותקציבים

לכל חיבור יש ארבעה גבולות. שדה ריק או 0 פירושו אין גבול.

• בקשות לדקה ו-לצ'ל, בקשות לדקה. הם נספרים על ידי כל שרת בנפרד: צבוע של שלושה שרתים מאפשר עד פי שלושה מהקצב.
• טוקנים לחודש ו-לצ'ל, טוקנים לחודש: תקציבי טוקנים, לפי חודש לוח שנה (UTC), נספרים במסד הנתונים עבור כל הצבוע. מספר בקשות המתבצעות בו-זמנית יכולות לעבור מעט מעבר לתקציב.

גבולות לצ'ל חלים גם על כתיבה מחדש ועל סיכומים: הם נספרים מול האדם שכותב מחדש, או שהסיכום שייך לו.

שימוש

הרשימה מציגה את השימוש בכל חיבור החודש. שימוש פותח את הפרטים: טוקנים נכנסים ויוצאים, בקשות, התקציב החודשי, שימוש לפי יום (UTC) ולפי סוג שימוש (כתיבה מחדש, סיכומים, תרגום אוטומטי, טקסט לקול, אנשים, דרך אפליקציות, או אפליקציה).

כל קריאה שאדם או אפליקציה מבצע דרך חיבור כותבת גם רשומת ביקורת: מי, החיבור, סוג השימוש, המודל, מספר הטוקנים והאם זה הצליח, לעולם לא מה שנאמר. התכונות המובנות נספרות רק בשימוש: תרגום בלבד מבצע קריאה אחת לכל הודעה ולכל שפה.

חיבורי קהילה

מנהלי קהילה מוסיפים את החיבורים של הקהילה שלהם בהגדרות הקהילה, בלשונית חיבורי מודלים. הטופס זהה, ללא קהילות: חיבור של קהילה פועל רק בערוצים שלה, עבור חבריה, והקהל יכול להזכיר רק את הצוותים שלה. תפקידים עם הרשאת ניהול חיבורי מודלים יכולים לנהל אותם גם כן. כברירת מחדל, למנהלי קהילה יש הרשאה זו.

חיבור של קהילה לא יכול להגיע לכתובות פרטיות או loopback (למשל, שרת Ollama ברשת שלך), אלא אם קונסולת מערכת › סביבה › מפתח › אפשרות חיבורים פנימיים לא אמורים אל (ServiceSettings.AllowedUntrustedInternalConnections) מציין אותם. חיבורים ברמת השרת כן יכולים.

ראו הגדרות קהילה לצד מנהלי הקהילה.

מפתח ההצפנה

המפתחות והכותרות הנוספות של חיבורי המודלים מוצפנים במסד הנתונים (AES-256-GCM) באמצעות מפתח הצפנה אחד. גיבוי של מסד הנתונים בלבד אינו חושף אותם. השרת מוצא את המפתח בסדר הבא:

1. המשתנה AM_AI_ENCRYPTION_KEY: 32 בתים אקראיים, בפורמט base64. ניתן ליצור אחד באמצעות openssl rand -base64 32.
2. אחרת, הקובץ ai-encryption.key בשורש תיקיית הנתונים של השרת (FileSettings.Directory, ברירת המחדל היא ./data/). השרת יוצר אותו, כך שהוא קריא על ידו בלבד, בפעם הראשונה שחיבור זקוק לו. אפליקציות, ייצואים וארכיוני קבצים אינם יכולים לקרוא אותו.

מתי להגדיר את המשתנה:

• עם קובץ compose של האתר. compose.yaml מעביר את AM_AI_ENCRYPTION_KEY מ.env, ומשאיר את קובץ המפתח בנפח data כאשר המשתנה ריק. הגדרת המשתנה עדיפה: גיבוי של .env אז מכיל את המפתח, בנפרד ממסד הנתונים. יש להוסיף אותו ל.env ולרוץ docker compose up -d:

  echo "AM_AI_ENCRYPTION_KEY=$(openssl rand -base64 32)" >> .env

  אם השרת כבר יצר את קובץ המפתח שלו, יש להכניס את המפתח שהוא מחזיק ב.env במקום, כך שהמפתחות השמורים יישאו בקריאות: docker compose exec antimatter cat /antimatter/data/ai-encryption.key מדפיס אותו.
• קלאסטר שקבצים שלו נמצאים ב-S3. שרתיו אינם משתפים תיקייה, ולכן השרת אינו יוצר את הקובץ: יש להגדיר את אותו משתן בכל שרת. עד שהמשתנה יוגדר, חיבורים אינם יכולים לשמור מפתחות.
• עם ארכיון הגרסה או החבילות, הקובץ נמצא בdata/ (ב/var/lib/antimatter/data עבור החבילות). ניתן להשאיר אותו שם, או להגדיר את המשתן בקובץ הסביבה שלך.

לשינוי המפתח, יש להגדיר את החדש בAM_AI_ENCRYPTION_KEY ואת הישן בAM_AI_ENCRYPTION_PREVIOUS_KEYS (מספר מפתחות מופרדים בפסיקים): המפתחות ששמרו עם הישן עדיין ניתנים לקריאה. מפתח של חיבור מוצפן עם המפתח החדש כאשר מזינים אותו שוב. יש לשמור את המפתח הישן ברשימה עד שמפתח של כל חיבור הוזן מחדש.

התכונות המובנות

בקונסולת מערכת › AI › Built-in features, יש לבחור לכל פיצ'ר חיבור לכל המערכת ודגם, או כבוי. פיצ'ר ללא חיבור אינו משתמש ב-AI. Load models מציג את כל הדגמים של החיבור; כברירת מחדל כל פיצ'ר משתמש בדגם השיחה של החיבור.

לכל הגדרה יש מפתח ConnectionId ומפתח Model, לדוגמה AISettings.Rewrite.ConnectionId (AM_AISETTINGS_REWRITE_CONNECTIONID). Model ריק משתמש בדגם המחדל של החיבור.

הפיצ'רים המובנים משתמשים במגבלות של החיבור, אך לא בקהל היעד שלו: כל מי שיכול להשתמש בפיצ'ר יכול להשתמש בחיבור שלו. חיבור הדורש תשומת לב, או שנמחק, גורם לפיצ'ר להיכשל עד שיתבחר חיבור אחר: הדף מצין זאת.

סוכני AI

אפליקציית הסוכנים (מזהה mattermost-ai) פעילה כברירת מחדל. הגדרתה כוללת שני שלבים: הוספת שירות (חיבור לספק מודלים), ואז יצירת סוכנים (בוטים שמשתמשים בשירות).

1. הוספת שירות

עברו לקונסולת מערכת › תוספים › סוכנים ובחלק שירותי AI, לחצו על הוספת שירות AI. בחרו את סוג השירות:

• תואם OpenAI: עבור שרת מודלים שאתם מפעילים בעצמכם, או כל ספק עם ממשק בסגנון OpenAI. מלאו את כתובת API (למשל http://ollama:11434/v1 או http://vllm.internal:8000/v1), ואת מפתח API רק אם השרת דורש זאת. אם השרת תומך רק בממשק Chat Completions, כבו את שימוש בממשק Responses.
• OpenAI, Anthropic, Google Gemini, Google Vertex AI, AWS Bedrock, Azure, Cohere, Mistral: ספקים מנוהלים. כל אחד דורש את מפתח API שלו (Bedrock: אזור AWS ואימות זהות או תפקיד IAM; Vertex AI: פרויקט, אזור וחשבון שירות; Azure: גם כתובת API).

לאחר מכן, הגדירו את המודל ברירת המחדל (רשימה אם הספק יכול לדווח על המודלים שלו, אחרת הקלידו את השם), וכן, אם הספק אינו מדווח עליהם, את גבול טוקנים לכניסה ואת גבול טוקנים ליציאה. שירות גיבוי יכול לקחת את העבודה על עצמו אם השירות הנוכחי נכשל. שמרו.

השרת מבצע את הבקשות הללו בעצמו, ולכן הוא חייב להגיע ל-API: שרת מודלים באותו פרויקט compose, ברשת שלכם, או באינטרנט. בקשות יוצאות מכבדות את המשתנים HTTP_PROXY ו-HTTPS_PROXY.

2. יצירת סוכנים

סוכנים נוצרים בדף סוכנים של אפליקציית ה־web: פתחו אותו באמצעות ניהול בבחירת הסוכנים של פאנל הסוכנים (בממשק הקלאסי, גם מתפריט המוצר). כתובתו היא https://chat.example.com/plug/mattermost-ai/agents. לכל סוכן יש שם תצוגה, שם משתמש של סוכן (כיצד מזכירים אותו), שירות ובאופן אופציונלי מודל, הוראות מותאמות אישית, ומתגים להפעלת ראייה (תמונות) ולהפעלת כלים. לשונית גישה מגבילה באילו ערוצים ניתן להשתמש בו ובאילו משתמשים יכולים להשתמש בו. תחת פונקציות AI בקונסולת המערכת, בוט ברירת מחדל בוחר את הסוכן שמשמש כאשר לא נבחר סוכן, למשל עבור סיכומי שיחות.

תכונות אופציונליות של אפליקציית הסוכנים

• חיפוש הטמעה (ניסיוני, כבוי): חיפוש סמנטי על פני הודעות. נדרש PostgreSQL עם הרחבת pgvector ומודל הטמעה (OpenAI או תואם OpenAI). הוא שולח כל הודעה למודל ההטמעה, כולל ערוצים פרטיים והודעות ישירות.
• חיפוש באינטרנט (כבוי): מאפשר לסוכנים לחפש באינטרנט דרך Google, Brave או שרת SearXNG שאתם מפעילים.
• כלים נייטיביים: עם ספקים שמציעים אותם, סוכנים יכולים להשתמש בחיפוש האינטרנט של הספק עצמו (באופן מובנה עבור סוכנים חדשים, שם נתמך), בשיתוף מסך ובביצוע קוד. אלה רצים אצל הספק. כבו אותם לכל סוכן בנפרד.
• Model Context Protocol (MCP): חברו סוכנים לשרתי MCP שאתם סומכים עליהם, לכלים נוספים.
• ניפוי: Trace Output (כבוי, יומני שרת או נקודת OpenTelemetry) והפעלת רישום שימוש בטוקנים, שכותב ספירות טוקנים לlogs/agents/token_usage.log.

המרת דיבור לטקסט: תמלולי שיחות וכתוביות

ניתן לתמלל שיחות, עם כתוביות חיות, באמצעות שרת טקסט-לקול שמציע נקודת קצה /v1/audio/transcriptions תואמת OpenAI. ההגדרה נמצאת בשיחות וקול. כאשר Summarize transcriptions פעיל, הסוכן המוגדר כברירת מחדל מפרסם גם סיכום של כל תמלול.

טקסט לקול: קריאה בקול

כאשר טקסט לקול פעיל, בתפריט של כל הודעה מופיעה האפשרות קריאה בקול: השרת שולח את טקסט ההודעה ל־API של טקסט לקול ומנגן את הקול. ההגדרות נמצאות בקונסולת מערכת › אינטגרציות › טקסט לקול:

כדי להשתמש בחיבור מודל במקום הכתובת והמפתח שצוין לעיל, בחרו אותו עבור טקסט לקול בAI › פונקציות מובנות. הדף אז מצהיר שההודעות נקראות בקול באמצעות החיבור הזה: כתובת ה־URL הבסיסית של ה־API ומפתח API אינם בשימוש, קול עדיין בשימוש, וכך גם מודל כאשר החיבור אינו מצייन מודל. קריאת הודעות בקול חייבת להישאר פעילה.

לפני השליחה, השרת מסיר חטיבות קוד, קישורים, קודי אמוג'י ופורמט, ומשאיר לכל היותר 4000 תווים. הוא מבקש קול בפורמט MP3 ושומר בזיכרון את 64 התוצאות האחרונות, כך שהודעה שנקראת פעמיים נשלחת פעם אחת בלבד.

תרגום אוטומטי

תרגום אוטומטי מציג את ההודעות בערוץ בשפה של כל קורא. ההגדרה נעשית בקונסולת מערכת › הגדרות האתר › לוקליזציה, תחת תרגום אוטומטי:

לכל ספק יש שדות משלו:

• חיבור מודל: חיבור ברמת השרת והמודל שלו, אותה הגדרה כמו תרגום אוטומטי בAI › פונקציות מובנות (AISettings.AutoTranslation). מודל תרגום ייעודי מהיר ומדויק; LLM כללי עובד גם כן.
• LibreTranslate: נקודת קצה API של LibreTranslate ומפתח API של LibreTranslate (AutoTranslationSettings.LibreTranslate.URL, .APIKey). ניתן להריץ שרת LibreTranslate על הרשת הפרטית שלכם.
• OpenAI-compatible API: כתובת ה־URL הבסיסית של ה־API (עד כולל /v1; השרת משתמש בנקודת הקצה chat completions שלו), מודל ומפתח API (AutoTranslationSettings.OpenAI.URL, .Model, .APIKey). מודל תרגום קטן שמופעל מקומית עובד היטב.
• שירות של אפליקציית AI chat (ישן): הספק של שרתים שהוגדרו לפני 0.9.0, שהשתמשו בשירות של אפליקציית הסוכנים. הוא אינו זקוק עוד לאפליקציה: הוא מתרגם באמצעות החיבור שנבחר לתרגום אוטומטי בAI › פונקציות מובנות, או אחרת באמצעות החיבור שהועתק משירות האפליקציה בזמן השדרוג. מעבר לחיבור מודל מעביר את ההגדרה לספק המומלץ.

כשהתכונה מופעלת, מנהלי הערוץ יכולים להפעיל תרגום עבור ערוץ בהגדרות שלו (תרגום אוטומטי), וכל חבר יכול לבטל את ההשתתפות בתרגום מתפריט הערוץ (תרגום הודעות). בהודעות ישירות ובקבוצות כל חבר יכול להפעיל את התרגום; כאשר ההגבלה פעילה, התרגום אינו זמין שם. הודעות מתורגמות מציגות את הכיתוב "מתורגם מ־…" עם קישור להודעה המקורית.

קוד, קישורים, הזכרות ואמוג'י מוחלפים במקומות לפני שליחת הטקסט, ומחוזרים במקומם לאחר מכן.

לאן נשלחים הנתונים

כדי להשאיר את כל הנתונים ברשת שלך, הפנה כל תכונה לשרתים שאתה מפעיל בעצמך. אם משתמשים בספק ענן, בדקו את תנאי שמירת הנתונים שלו, והעבירו למשתמשים אילו תכונות שולחות את ההודעות החוצה.

כיבוי בינה מלאכותית

אין מתג יחיד: לכל תכונה יש מתג משלה.

• כתיבה מחדש ותקצירים: להגדיר ככבוי בקונסולת מערכת › AI › תכונות מובנות. המשתמשים ממשיכים לקרוא את התקצירים שכבר קיימים.
• חיבורי דגמים: למחוק חיבור כדי לעצור כל שימוש בו. ללא חיבור, אף לא אחת מהתכונות המובנות או האפליקציות יכולה להשתמש בבינה מלאכותית דרך השרת.
• סוכנים: לבטל את אפליקציית הסוכנים בקונסולת מערכת › תוספים › ניהול פלאגינים. פעולה זו מסירה גם את סיכומי השיחות.
• תמלול וכתוביות: AM_CALLS_ENABLE_TRANSCRIPTIONS=false ו־AM_CALLS_ENABLE_LIVE_CAPTIONS=false (הברירת המחדל).
• קריאה בקול: קריאת הודעות בקול כבוי (AM_TEXTTOSPEECHSETTINGS_ENABLE=false, ברירת המחדל), בין אם היא משתמשת בחיבור ובין אם לא.
• תרגום: כיבוי תרגום אוטומטי (AM_AUTOTRANSLATIONSETTINGS_ENABLE=false, הברירת המחדל).

ביטול אפליקציית הסוכנים אינו מכבה את שאר התכונות: הן משתמשות בחיבורי דגמים או ב-API משלהן.