הנקראות ביותר

האם לצ'טבוטים יש אתיקה?

התחום נמצא עדיין בחיתוליו, והשאלות המוסריות רק מתחילות לצוץ

בוטים בהיעדרם  / צילום:  Shutterstock/ א.ס.א.פ קרייטיב
בוטים בהיעדרם / צילום: Shutterstock/ א.ס.א.פ קרייטיב

אחד השימושים השכיחים ביותר ביישומי בינה מלאכותית כיום הוא צ'טבוטים. בין אם מדובר בסייען אישי או במערכת המסייעת לשירות לקוחות, צ'טבוטים עונים לשאלות במהירות שיא ובכל זמן סביב השעון. אופי התקשורת שמנהל הבוט עשוי להשפיע על האופן בו נתפס הארגון על ידי לקוחותיו - התנהלות לא-אתית מצד הארגון עלולה להוביל לאבדן אמון בקרב הלקוחות ואף לקשיים משפטיים. חשוב לזכור שבינה מלאכותית ובני אדם מתפקדים באופן הטוב ביותר כאשר הם עובדים יחד בהרמוניה, ומתוך אמון זה בזה. מאחר שאתיקה מהווה את הבסיס לבניית האמון הזה, הנה מספר שאלות שכל ארגון צריך לקחת בחשבון לפני הטמעת צ'טבוט.

את מי צריך הצ'טבוט לשרת? בעת הבנייה של הצ'טבוט חייב הארגון להחליט את מי הוא משרת. האם את העסק או את הלקוח - ולשרת אותו בראש ובראשונה. באופן כללי, בין אם הבוט עומד בקשר עם לקוחות ובין אם לאו, ארגון אתי צריך תמיד להציב את צרכי הלקוח לפני צרכיו שלו. העיקרון הזה מחייב לספק ללקוח את המוצר המתאים לו ביותר, ולא את זה המניב שולי רווח מרביים.

האם אני מדבר עם אדם או עם רובוט? כאשר בונים צ'טבוט, השקיפות היא שיקול קריטי והיא מתנקזת לשאלה קריטית אחת - עד כמה ברור למשתמש שהוא מדבר עם מכונה? לקוחות מסוגלים להבחין בין השניים, ומצפים מהמותגים להיות ישרים דיים ולא להסתיר את התשובה לשאלה הזו. לקוחות אינם מצפים מצ'טבוט להיות מושלם ומותגים יכולים לבסס אמון באמצעות הבטחת שקיפות מלאה של הפעילות והתאמת הציפיות למציאות.

מי הבעלים של מידע המשותף עם צ'טבוט? שאלת הבעלות על מידע המשותף עם צ'טבוט מהווה שיקול קריטי נוסף ועלולה ליצור בעיות הנוגעות לקניין רוחני אם לא יטופלו כבר בשלב התכנון. כאשר בוט בונה רשימת השמעה על בסיס העדפות הלקוח - מי הבעלים של הרשימה הזאת? ומה הדין כאשר מידע רגיש, דוגמת פרטי בנק או מידע רפואי, מהווים את נושא התקשורת? עסקים הבונים בוטים צריכים להציג תשובה ברורה ושקופה לשאלת הבעלות על המידע, ולקבל תחילה את הסכמת המשתמשים לתנאי השירות המוגדרים על ידם.

איך יטפל צ'טבוט בפרטיות? הגנת הפרטיות ניצבת כיום בפסגת היעדים של העולם המקושר והמקוון, במיוחד על רקע כניסתן לתוקף של תקנות הפרטיות האירופיות GDPR. במהלך הבנייה של צ'טבוט יש לפעול במסגרת שיקולים אתיים הנוגעים לפרטיות, והמסלול הטוב ביותר הוא זה המבטיח שקיפות מלאה לגבי הבעלות על המידע, תנאי השירות, ומנגנוני האבטחה וההצפנה.


כיצד למנוע שימוש פסול בצ'טבוט? ולבסוף - שאלת הסגנון. בעת בניית צ'טבוט חשוב לשקול כיצד הוא יתמודד עם ניסיונות לשימוש פסול, הטיות או קללות. כאן צריכים עקרונות האתיקה לציית לאחד מחוקי הרובוטיקה של אסימוב: "רובוט לא יפגע בבן אדם, ולא יאפשר באמצעות מחדל לאדם להיפגע". חשוב במיוחד שצ'טבוטים לא יקללו או יבצעו הטיות, גם אם תגובה כזאת עשויה להיות התנהלות נלמדת על בסיס האופן שבו הוזן מידע ונצבר ניסיון שימוש על ידי הבוט עצמו.

אתיקה חייבת לעמוד במרכז השיקולים הנוגעים לכל פעילות עסקית. בעידן שבו צ'טבוטים נמצאים עדיין בשלבי הילדות שלהם, צפוי להימשך התהליך שבו יצוצו ויתגלו סוגיות אתיות נוספות. עסקים צריכים להמשיך וללמוד - על מנת לבנות עקרונות מנחים וסטנדרטים אתיים. בכל מקרה של ספק, נכון לאמץ את הצד אותו מציג הלקוח. ובכל מקרה - שקיפות היא שם המשחק.

הכותבת היא מובילת תחום הדיגיטל ויישומי בינה מלאכותית ב-IBM ישראל

רוצה להשאר מעודכן/ת בנושא הסיפורים הגדולים של השבוע?
אני מאשר/ת קבלת תוכן פירסומי מגלובס
נושאים נוספים בהם תוכל/י להתעדכן
נדל"ן
גלובס טק
נתוני מסחר
שוק ההון
נתח שוק
דין וחשבון
מטבעות דיגיטליים
✓ הרישום בוצע בהצלחה!
עקבו אחרינו ברשתות