בפעם הבאה שאתם מרגישים שהשיחה שלכם עם ChatGPT הפכה איטית, "שוכחת" את מה שכתבתם מקודם, או קופצת לתוכנית משודרגת יקרה יותר — יש סיבה שאף אחד לא סיפר לכם. עברית.

המודלים לא סופרים מילים. הם סופרים טוקנים.

טוקן הוא יחידת טקסט קטנה מאוד — לפעמים מילה שלמה, לפעמים חלק ממילה, לפעמים אות בודדת. באנגלית, מילה ממוצעת = 1.3 טוקנים. בעברית, מילה ממוצעת = 3 עד 4 טוקנים. פי-2 עד פי-3.

זה משנה שני דברים:

1. אתם משלמים יותר על אותה שיחה.

אם אתם על תוכנית בתשלום עם מכסה חודשית — היא נגמרת מהר יותר בעברית. אם אתם על API, החשבון גדל.

2. חלון הקונטקסט של המודל "נגמר" מהר יותר.

כל מודל זוכר רק כמות מסוימת של טוקנים אחורה. 128,000 טוקנים ב-GPT-4o הם בערך 100 עמודי אנגלית — או 40 עמודי עברית. אחרי זה המודל מתחיל לשכוח את התחלת השיחה.

3 פעולות שהופכות אתכם ליעילים פי-2

1. הפרידו בין הוראות למכונה לבין תוכן לאדם

הרעיון: אם אתם כותבים פרומפט להנחות את ChatGPT (טון, פורמט, כללים) — כתבו אותו באנגלית. אם התוכן שהיא צריכה לייצר מיועד לקורא ישראלי — כתבו את המידע ב עברית.

למה זה עובד: ההוראות (מטא-פרומפט) מקצרות פי-2. התוכן בעברית נשאר בטבעי, כי הקורא מדבר עברית.

דוגמה:

במקום:

תכתוב לי מייל שיווקי לקהל של בעלי עסקים בישראל, מוכר קורס AI ב-1,200 ש"ח, אורך בין 100 ל-150 מילים, טון ידידותי אבל מקצועי, כולל שאלה בפתיחה וקריאה לפעולה בסוף.

תכתבו:

Write in Hebrew. Audience: Israeli business owners. Product: AI course, 1,200 ILS. Length: 100-150 words. Tone: friendly but professional. Open with a question. End with CTA.

Now write the marketing email.

חסכתם כ-50% מהטוקנים בהוראה. התוצאה בעברית — זהה או טובה יותר.

2. הגבילו את אורך התשובה מראש

הרעיון: ChatGPT ברירת מחדל שלה היא לענות ארוך. כל תגובה של 500 מילים בעברית = כ-1,500 טוקנים. גם אם אתם ביקשתם משהו קצר.

מה עושים: להוסיף לפרומפט "ענה עד 100 מילים" או "פסקה אחת בלבד". הבדל של פי-3 בעלות ובזמן.

3. אל תדחפו את כל הרקע לכל פרומפט חדש

הרעיון: הרבה משתמשים כותבים "רק תזכיר לך: אני יועצת שיווק לעסקים קטנים, ואני עובדת עם לקוחות ב…" — בכל שיחה חדשה.

הפתרון הנכון: להשתמש ב-Custom Instructions של ChatGPT. שם ממלאים את הרקע פעם אחת, והמודל זוכר אותו לכל שיחה חדשה. הפרומפט עצמו נשאר קצר.

מה זה חוסך: אם הרקע שלכם הוא 200 מילים בעברית — זה 600 טוקנים בכל פרומפט. עשר שיחות ביום = 6,000 טוקנים. חודש = 180,000 טוקנים. הכל בגלל שלא הגדרתם Custom Instructions פעם אחת.

איך למדוד את זה בפועל

לא צריכים לנחש. יש כלי חינמי:

Tokenizer של OpenAI — https://platform.openai.com/tokenizer

תדביקו טקסט בעברית, תראו את מספר הטוקנים המדויק. תדביקו את אותו טקסט באנגלית, תראו את ההבדל. תרוצו על ה-10 פרומפטים הכי נפוצים שלכם — ותראו בדיוק איפה הכסף שלכם נעלם.

יש גם כלי דומה לקלוד ולגמיני, אבל המספרים דומים מספיק כדי ש-OpenAI Tokenizer יעבוד לכולם.

המסקנה שהופכת שיחות ל"רגיל" ל-"מקצועי"

אנשים שאני עובדת איתם רואים הבדל של פי-2 בעלות הודות ל-3 השינויים האלה. לפעמים פי-3.

הסיבה שאף אחד לא מלמד את זה: רוב המורים ל-AI מלמדים באנגלית לקהל אמריקאי, שאין להם את הבעיה הזאת בכלל. הפער הזה — של יעילות טוקנים בעברית — נשאר סוד ישראלי.

עכשיו הוא לא.