פיצ'ר השיתוף ב-Claude איפשר לאנדקס אלפי שיחות פרטיות ומידע רגיש במנועי החיפוש. בקלוד ובגוגל מאשימים את המשתמשים, אבל יש מה לעשות
פיצ'ר השיתוף ב-Claude איפשר לאנדקס אלפי שיחות פרטיות ומידע רגיש במנועי החיפוש. בקלוד ובגוגל מאשימים את המשתמשים, אבל יש מה לעשות
אם נעזרתם לאחרונה ב-Claude כדי להתייעץ על נושא רגיש, לכתוב קוד או לבדוק איזה מסמך רפואי שקיבלתם, כדאי שתבדקו את ההגדרות שלכם. בסוף השבוע האחרון גילו משתמשים ברדיט שחיפוש פשוט בגוגל חושף אלפי שיחות ותוצאות שמשתמשים יצרו בתוך הצ'אטבוט הפופולרי של אנת'רופיק.
על פי דיווח באתר 404Media, התוצאות האלו כללו מידע שאמור כמובן היה להישאר חסוי לחלוטין. בין היתר נחשפו דוח רפואי מפורט ברמת ה-TMI של מטופל אמיתי; תוצאות של ניסויים קליניים; סודות מסחריים של חברות; טיוטה של פוסט בבלוג על אבטחת ענן שטרם פורסמה; קורות חיים; ואפילו מספרי טלפון של קטינים. על פי הדיווח, במקרים מסוימים, מודל השפה אף ג'ינרט תוכן ארוטי, בניגוד מוחלט למדיניות של אנת'רופיק. באחד מהצ'אטים הביזאריים יותר התבקש קלוד לעזור למשתמש להפוך ל… "שועל בעל תשעה זנבות".
כמובן שלא צריך להיות האקר או חוקר אבטחת מידע מנוסה כדי למצוא צ'אטים כאלו – וגם אנחנו בחיפוש פשוט בגוגל הצלחנו למצוא צ'אטים ואפליקציות בעברית, שלא נועדו להיות פומביים, ובכל זאת זמינים גם עכשיו במנועי החיפוש.
הדליפה המביכה הזו נבעה מפיצ'ר שיתוף הצ'אטים של קלוד והדרך שבה הוא פועל. כשאתם רוצים לשתף שיחה, קלוד אמנם מזהיר שכל מי שיקבל את הלינק יוכל לצפות בצ'אט, אבל, רוב המשתמשים מניחים – וקשה להאשים אותם – שמדובר בקישור פרטי שרק הם יכולים לשתף, בדומה לשיתוף בגוגל דוקס או לינק ליוטיוב פרטי שאתם מעלים, שלא אמורים להגיע לתוצאות חיפוש ברשת.
בפועל, התברר שלינקים ששותפו בפלטפורמות שונות אונדקסו ישירות על ידי מנועי החיפוש, מבלי שהמשתמשים ידעו, ופתאום הפכו לנחלת הכלל. באנת'רופיק מיהרו לזרוק את המשתמשים מתחת לאוטובוס, ודוברת של החברה הבהירה כי הקישורים הם אכן חשאיים ולא ניתן לנחש אותם – אלא אם המשתמשים בחרו לשתף אותם בעצמם במקומות שחשופים לסריקה ואינדוקס של גוגל. מגוגל נמסר בתגובה שמנוע החיפוש שלה אינו שולט בתוכן, ופועל לפי הגדרות הסריקה שקובעים בעלי האתרים.
זה מה שאתם רוצים לראות. צילום מסך: גיקטיים
ובכל זאת, לאחר התפוצצות הפרשה, אנתרופיק מיהרה לשנות הגדרות בפיצ'ר השיתוף, כך שהקישורים כבר לא מופיעים בתוצאות. היי – אולי זה כן משהו שבשליטתם בסופו של דבר? כדאי לזכור שזו לא הפעם הראשונה שאירוע כזה מתרחש. בעבר כבר ראינו דליפות כמעט זהות במודלים אחרים, כמו במקרה של OpenAI לפני שנה. כל זה מוכיח שוב שצריך להיזהר מאוד עם הצ'אטבוטים והמידע האישי שלכם – בטח אם אתם מתכננים לשתף עם מישהו את התוצאות.
כדי לוודא את זה, מומלץ לבדוק את הגדרות החשבון. פשוט היכנסו לתפריט ההגדרות, עברו ללשונית הפרטיות ולחצו על השיחות המשותפות דרך הנתיב Settings -> Privacy -> Shared Chats. שם תוכלו לראות בדיוק אילו שיחות מוגדרות כפומביות ולבטל את השיתוף שלהן מיד, עד שתראו את ההודעה "No shared content found".
קרא את הכתבה המלאה במקור