התכתובות שנחשפו כללו, בין היתר, בקשות לדעת כיצד להפוך פתוגנים קטלניים לאירוסול - כלומר, המרת חיידקים זיהומיים לערפל נשימתי. משתמש אחר הלך צעד קדימה וביקש לדעת כיצד לשנות גנטית את נגיף החצבת כך שההתפרצות תהיה עמידה לחלוטין בפני החיסון הקיים. משתמש נוסף, שביקש הוראות מדויקות להפקת הרעל הקטלני ריצין, פלט כבדרך אגב במהלך השיחה עם הבוט אמירה לגבי כוונתו לרצוח את הוריו. גם במקרים אלו, המשתמשים נחסמו אך הרשויות נותרו באפלה.

למרות סכנות ההשמדה הברורות, מנהלים בחברות ה-AI מדגישים את החשיבות של שמירה על מודלים גמישים ולא מצונזרים מדי. על פי הדיווח ב"וול סטריט ג'ורנל", חסימה גורפת של המילה "פתוגן" במערכות של אנתרופיק יצרה מכשול משמעותי עבור חוקרי המרכזים לבקרת מחלות ומניעתן, ה-CDC, כאשר ניסו להתחקות אחר התפרצות נגיף הנטה-וירוס על ספינת תענוגות.

קרא את הכתבה המלאה במקור