אוהב את הרעיון של AI, אבל הלוואי והיית יכול להשתמש בו מבלי לסמוך על איזה שרת גדול איפשהו? אתה יכול להפעיל מודלים של שפה גדולים באופן מקומי, מה שנותן לך משהו כמו ChatGPT שעובד לחלוטין במצב לא מקוון.
ינוארהוא יישום חינמי בקוד פתוח שמקל על הורדת דגמי שפות גדולים מרובים ולהתחיל לשוחח איתם. יש מתקינים פשוטים עבור Windows, macOS ו-Linux. עכשיו, זה לא מושלם. הדגמים אינם בהכרח טובים כמו הדגמים האחרונים מ-OpenAI או מגוגל, ובהתאם לעוצמת המחשב שלך, התוצאות עשויות להימשך זמן מה. לדאוג לדאגות הפרטיות והאבטחה הנלווים לשימוש בשירות AI מקוון.
קרדיט: ג'סטין פוט
לאחר התקנת Jan, תצטרך לבחור דגם - אם אינך יודע איזה מהם, הייתי מתחיל עם מיסטרל, בראש הרשימה - אתה תמיד יכול לנסות משהו אחר מאוחר יותר אם לא תאהב את התוצאות . ברגע שהדגם יורד, אתה יכול להתחיל לשוחח.
אתה יכול לספק כמה הנחיות כלליות עבור הבוט בחלונית הימנית, אם תרצה - ברירת המחדל היא "אתה עוזר מועיל", אבל אתה יכול לשנות את זה למה שתרצה לקצת יותר הקשר. לאחר מכן, תוכל להתחיל להשתמש בשירות באותו אופן שהיית משתמש ב-ChatGPT או ב-Google Gemini. ניסיתי לבקש סיכום מהיר של אמאמר אחרון שלי; זה עשה עבודה הגונה.
קרדיט: ג'סטין פוט
שוב, אם אינך אוהב את התוצאות, או מגלה שקבלת תוצאות נמשכת זמן רב מדי, נסה כמה דגמים שונים. כולם בחינם וכולם מותאמים לדברים שונים: חלקם מיועדים במיוחד לשאלות קידוד, למשל, וחלקם מותאמים לרוץ על מחשבים ללא הרבה כוח מעבד. זה עניין של למצוא מה הכי מתאים לך.
ויש עוד תכונה מגניבה: אם האפליקציה פועלת, היא יכולה לעבוד גם כ-API מקביל ל-OpenAI. אם אתה לא יודע מה זה אומר, אל תדאג - זה דבר מאוד חנון. לסיכום, עם זאת, זה אומר שאתה יכול להשתמש ב- Jan באפליקציות שאחרת היו דורשות מנוי ChatGPT בתשלום - פשוט הפעל את תכונת ה-API בהגדרות והפנה את האפליקציות האחרות שלך לכתובת ה-IP המקומית ולמספר היציאה במקום ל-OpenAI.