מודל ה-AI המתאים ביותר לכל משימה עם אוטומטי

אוטומטי הוא נתב מודלים שקורא כל משימה ושולח אותה למודל שמאזן בצורה הטובה ביותר בין איכות, מהירות ועלות. עבור כל משימה, אוטומטי בוחר מודל מתוך מספר ספקי AI, בהתבסס על ההערכות של Notion ועל המודלים שסביבת העבודה שלכם מאפשרת. הוא משתמש במודלים מהירים יותר לשאלות ועריכות מהירות, ובמודלים בעלי יכולת גבוהה יותר לעבודה מורכבת.

אוטומטי מופעל כברירת מחדל בבורר המודלים, בצ'אט של סוכן Notion, ובהגדרות של סוכן בהתאמה אישית. כשמשתמשים באוטומטי, Notion בוחרת את המודל הטוב ביותר לכל משימה. כך זה עובד:

• אוטומטי מתאים את המודל למשימה. שאלות מהירות, עריכות וסיכומים עוברים למודלים מהירים ויעילים. משימות מורכבות יותר, כגון מחקר מעמיק, כתיבת קוד או בניית סוכנים בהתאמה אישית, יכולות לעבור למודלים בעלי יכולת גבוהה יותר.

• אוטומטי יכול להסתגל תוך כדי משימה. במהלך משימה מרובת שלבים, אוטומטי יכול לעבור למודל בעל יכולת גבוהה יותר עבור שלבים תובעניים, ואז לחזור למודל הקודם לעבודה פשוטה יותר.

• אוטומטי מתעדכן במודלים חדשים. Notion בוחנת מודלים חדשים מבחינת איכות, מהירות, עלות ואמינות לפני שהיא מעמידה אותם לשימוש. המודלים הזמינים דרך אוטומטי עשויים להשתנות. מידע נוסף על האופן שבו Notion בוחנת מודלים במשימות עבודה נפוצות →

• אוטומטי פועל לפי הגדרות סביבת העבודה שלכם. הוא משתמש רק במודלים שסביבת העבודה שלכם מאפשרת ושעומדים בדרישות שלה, כולל בקרות מודלים והגבלות ספקים. אם בעלים מגביל את המודלים שאוטומטי יכול להשתמש בהם, אוטומטי עובר למודל הבא בעל העלות הנמוכה ביותר שסביבת העבודה מאפשרת.

• אוטומטי זקוק למספר מספיק של מודלים מופעלים כדי לעבוד היטב. אם בעלים מכבה יותר מדי מודלים עבור סביבת העבודה, אוטומטי יהפוך לפחות יעיל. בעת שמירת שינוי שמגביל את האיכות הכוללת של אוטומטי, בעלי סביבת העבודה יראו אזהרה.

אפשר לבחור מודל בעצמכם בכל שלב. בחירה עצמאית במודל מתאימה במקרים האלה:

• כשרוצים להשתמש באותו מודל לאורך כל הצ'אט, במקום לתת לאוטומטי לבחור מודלים או להחליף ביניהם כשהמשימה משתנה.

• כשמעדיפים מודל מסוים לסוג עבודה מסוים.

• כשאוטומטי לא סיפק את התוצאה הדרושה ורוצים לנסות מודל אחר.

כדי לבחור מודל

בצ'אט של סוכן Notion:

1. בוחרים באפשרות אוטומטי כדי לפתוח את בורר המודלים.

2. מרחפים מעל מודל כדי להשוות מהירות, יכולת ועלות.

3. בוחרים מודל.

לאחר הבחירה, סוכן Notion ישתמש במודל הזה בצ'אט שלכם. כדי לחזור לאוטומטי, פותחים את בורר המודלים ובוחרים באפשרות אוטומטי.

בהגדרות סוכנים בהתאמה אישית:

1. פותחים את ההגדרות של הסוכן.

2. עוברים למקטע המודלים ופותחים את בורר המודלים.

3. בוחרים מודל.

4. בוחרים באפשרות שמירה.

לאחר הבחירה, הסוכן בהתאמה אישית ישתמש במודל הזה עד שתבחרו מודל אחר.

בעלי סביבת העבודה קובעים אילו מודלים חברי סביבת העבודה יכולים לבחור. מודלים של ספקים שסביבת העבודה שלכם השביתה לא יופיעו. מודלים שסביבת העבודה שלכם הגבילה יופיעו תחת מודלים מוגבלים ולא יהיה אפשר לבחור בהם. מידע נוסף על ניהול מודלים של AI וצריכת הקרדיטים של חברי סביבת העבודה →

בתוכניות לעסקים ו-Enterprise, סוכן Notion משתמש בקרדיטים מסוג Standard כשמשתמשים באוטומטי, ובקרדיטים מסוג נבחר (Select) כשבוחרים מודל בעצמכם. אם אחד מסוגי הקרדיטים נגמר, בעלי סביבת העבודה יכולים לאפשר לכם להמשיך להשתמש בתכונות AI באמצעות קרדיטים של Notion. מידע נוסף על ניהול הקרדיטים של AI שלכם →

ברוב המשימות היומיומיות ב-Notion, אוטומטי יכול לעזור לכם להפיק מהקרדיטים שלכם עד פי 10 יותר מאשר בבחירה עצמאית במודל מוביל. אוטומטי מתאים את המודל למשימה ומשתמש בפחות קרדיטים לכל משימה, כך שתוכלו להספיק יותר. בבדיקות שלנו:

• העלות הממוצעת להרצה של אוטומטי הייתה נמוכה ב-87% מזו של Opus 5.5.

• ליטוש מסמך או אימייל צרך בערך שמינית ממספר הקרדיטים שנדרשו ליצירת מסמך אסטרטגיה מפורט או תוכנית רבעונית.

טבלה זו משווה את השימוש המשוער בקרדיטים עבור משימות נפוצות עם אוטומטי ו-Opus 5.5. השימוש בפועל עשוי להשתנות.

צריכת הקרדיטים משתנה בהתאם לתרחיש. לדוגמה, בקשה מסוכן Notion ללטש אימייל בשרשור ארוך עם מידע מורכב עשויה לצרוך יותר קרדיטים. גם עבור משימות שבדרך כלל צורכות יותר קרדיטים, אוטומטי הפיק תוצאות דומות למודלים מתקדמים.

בדקנו את אוטומטי באמצעות הרצה חוזרת של אלפי משימות נפוצות מהעולם האמיתי בסביבת Notion מדומה, ואז השווינו בין הביצועים של מודלים שונים. כך זה עבד:

1. השווינו מודלים בזוגות. הצגנו לקבוצת מודלים מובילים את העבודה של שני מודלים שונים, זה לצד זה.

2. קבוצת השופטים בחרה בכל פעם בתוצאה הטובה יותר לפי מדריך ניקוד אחיד.

3. נתנו לכל מודל ציון Elo על סמך כל ההשוואות הישירות האלה.

ציון Elo מדרג מיומנות לפי ביצועים מול אחרים לאורך השוואות רבות של אחד על אחד, כמו בדירוג שחקני שחמט. זו דרך פשוטה ואמינה לדרג מודלים לפי הביצועים שלהם במשימות אמיתיות.

יקר לבדוק כל השוואה ידנית, אז אימנו שופט AI שייתן דירוגים דומים. כך אפשר לבצע השוואות רבות בבת אחת. זו השיטה שבה אנחנו מחשבים את הציונים.