בינה מלאכותית גנרטיבית: 5 קווים מנחים לפיתוח אחראי

לבינה מלאכותית גנרטיבית (Generative AI, הקרויה גם "בינה מלאכותית יוצרת") יש את הכוח לשנות את הדרך שבה אנו חיים ופועלים. והיא אף מסוגלת לעשות זאת בדרכים משמעותיות, באופן שצפוי לאתגר את החברות החדשניות ביותר, למשך שנים רבות.

אבל בינה מלאכותית גנרטיבית אינה חפה מסיכונים. היא אמנם עושה דברים רבים כמו שצריך, אך גם טומנת בחובה טעויות לא מעטות. בעוד שעסקים דוהרים קדימה כדי להביא את הטכנולוגיה הזו לשוק, הרי שיש חשיבות רבה לבצע זאת באופן מכוון היטב. כלומר, זה לא מספיק רק להציע את היכולות הטכנולוגיות בינה מלאכותית גנרטיבית – עלינו גם לתעדף חדשנות אחראית. זאת כדי לסייע ולהנחות את הדרכים שבהן ניתן וצריך להשתמש בטכנולוגיה הזו – ולהבטיח שלעובדים, לשותפים וללקוחות שלנו יש את הכלים שדרושים להם כדי שיוכלו לפתח ולהשתמש בהם בצורה בטוחה, מדויקת ואתית.

AI גנרטיבי בסיילספורס
בסיילספורס, הפוטנציאל של בינה מלאכותית גנרטיבית בפרט ושל טכנולוגיה ארגונית נרחבת בכלל – הוא עצום. בינה מלאכותית היא כבר חלק בלתי נפרד מפלטפורמת Customer 360, וטכנולוגיות ה-AI של איינשטיין מספקות מדי יום כמעט 200 מיליארד חיזויים ביישומים העסקיים של סיילספורס, כולל:

– מכירות: שימוש בתובנות AI כדי לזהות את הצעדים הבאים הטובים ביותר שיסייעו לסגור עסקאות מהר יותר.

– שירות: בינה מלאכותית מנהלת שיחות כמו-אנושיות במטרה לספק תשובות לשאלות ומשימות שחוזרות על עצמן, ומפנה לנציגי שירות רק כאשר נדרש טיפול בבקשות מורכבות יותר.

– שיווק: מינוף של ה-AI במטרה להבין את התנהגות הלקוחות ולהתאים באופן אישי את התזמון, את המיקוד ואת התוכן של הפעילויות השיווקיות.

– מסחר: שימוש בבינה מלאכותית שנועד ליצור חוויית קניות מותאמת אישית ומסחר אלקטרוני חכם יותר.

כך, לבינה מלאכותית גנרטיבית יש את הפוטנציאל לעזור ללקוחות שלנו להתחבר אל הקהלים שלהם בדרכים חדשות – מותאמות אישית במידה רבה יותר – על פני אינטראקציות רבות שקשורות למכירות, לשירות לקוחות, לשיווק, למסחר ולמערכות מידע. אנחנו אפילו בוחנים את השימוש בקודים שנוצרו על-ידי בינה מלאכותית כדי לסייע ללקוחות שלנו – גם לאלו שאין להם מפתחי סיילספורס מוסמכים בצוות – לכתוב קוד באיכות גבוהה יותר, מהר יותר, ותוך שימוש בפחות שורות קוד (וכך גם נדרשים פחות משאבי עיבוד).

הנחיות עבור בינה מלאכותית גנרטיבית מהימנה
בדומה לכל החידושים שלנו, גם בתחום זה אנו מטמיעים "מעקה בטיחות" אתי ומערכי הדרכה בכל המוצרים, כדי לעזור ללקוחות ליצור חידושים באופן אחראי – ולאתר בעיות פוטנציאליות עוד לפני שהן קורות.
לאור ההזדמנויות והאתגרים האדירים שצצים במרחב הזה, אנחנו מסתמכים על עקרונות הבינה המלאכותית המהימנה שלנו, עם מערך חדש של קווים מנחים שמתמקדים בפיתוח אחראי ויישום של בינה מלאכותית גנרטיבית. הנה חמישה קווים מנחים שבהם אנו משתמשים בפיתוח של AI יצירתי מהימן, הן אצלנו בסיילספורס והן מחוץ לה.

1. דיוק: עלינו לספק תוצאות ניתנות לאימות שיוצרות איזון בין דיוק ודייקנות. זאת באמצעות מתן אפשרות ללקוחות לאמן מודלים על הדאטה שלהם. עלינו לתקשר כאשר קיימת אי ודאות לגבי אמיתות התגובה של הבינה המלאכותית ולאפשר למשתמשים לאמת את התגובות הללו. ניתן לעשות זאת על ידי ציטוט מקורות, הסבר מדוע הבינה מלאכותית נתנה את התגובות שנתנה, הדגשת אזורים שיש לבדוק פעם נוספת ליתר ביטחון (למשל, סטטיסטיקות, המלצות, תאריכים) ויצירת "מעקות בטיחות" המונעים ממשימות מסוימות להיות אוטומטיות לחלוטין (למשל, השקת קוד לסביבת ייצור ללא ביקורת אנושית).

2. בטיחות: כמו בכל מודלי הבינה המלאכותית שלנו, עלינו לעשות כל מאמץ כדי להפחית הטיות ותוצרים מזיקים. עלינו גם להגן על הפרטיות של כל מידע אישי רגיש (PII) שקיים בדאטה, המשמש לאימון וכן ליצור "מעקות בטיחות" כדי למנוע נזק נוסף.

3. הגינות: בעת איסוף הדאטה, ובכדי להכשיר ולבחון את המודלים שלנו, עלינו לכבד את מקור הנתונים ולוודא שהשימוש בהם מותר (למשל, קוד פתוח, דאטה שמסופקת על ידי המשתמש וכו'). עלינו גם לפעול בשקיפות באשר לעובדה שבינה מלאכותית יצרה את התוכן כשהוא מועבר באופן אוטונומי (למשל תגובת צ'אטבוט לצרכן, שימוש ב-Watermarks).

4. העצמה: ישנם מקרים שבהם עדיף לבצע אוטומציה מלאה של תהליכים, אך ישנם מקרים אחרים שבהם בינה מלאכותית צריכה למלא תפקיד תומך לאדם – או שבהם נדרש שיקול דעת אנושי. עלינו לזהות את האיזון המתאים למצבים מסוג זה ולהפוך את הפתרונות הללו לנגישים לכל (למשל, יצירת תגיות טקסט אלטרנטיבי (Alt Text) לתמונות).

5. קיימות: אנחנו שואפים ליצור מודלים מדויקים יותר ויותר, ובמידת האפשר עלינו לפתח מודלים בגודל הנכון, כדי להפחית את טביעת הרגל הפחמנית שלנו. כשמדובר בדגמי בינה מלאכותית, ה"גדול יותר" לא תמיד אומר "טוב יותר": במקרים מסוימים, דגמים קטנים יותר, מאומנים יותר, יגברו על דגמים גדולים יותר, בעלי "הכשרה" דלילה יותר.

למדו עוד על בינה מלאכותית מהימנה בסיילספורס, כולל על הכלים שאנו מספקים לעובדים, ללקוחות, לקהילות ולשותפים שלנו לצורך פיתוח ושימוש ב-AI בצורה אחראית, מדויקת ואתית.