החות'ים ביקשו מ-Claude לעזור לבנות טיל היפרסוני - ונחסמו
לפי דיווח סוכנות AP שפורסם בישראל היום, גורמים בצפון תימן שבשליטת החות'ים פנו למודל הבינה המלאכותית Claude של חברת Anthropic בניסיון לפתח מערכות טילים מתקדמות - ונחסמו לאחר שפעילותם זוהתה.
לפי דיווח של AP, גורמים בצפון תימן שבשליטת החות'ים ניסו להשתמש במודל הבינה המלאכותית Claude כדי לפתח טילים מתקדמים, כולל ראש קרב עם רכיבי סמארטפון. החברה המפתחת חסמה אותם - אבל לפני כן הם ביצעו ניסוי רקטה שנכשל, וחזרו ל-Claude לשאול מה השתבש.
האם חברות AI צריכות לשאת באחריות על שימוש לרעה במודלים שלהן?
- כן
- אין דעה
- לא
לפי ישראל היום, גורמים הפועלים בצפון תימן שבשליטת החות'ים ניסו להשתמש במודל Claude לפיתוח מגוון מערכות נשק, ובהן טיל שיכול לנוע במהירות היפרסונית וראש קרב המשלב רכיבי סמארטפון לשינוי מסלול במעוף. לדיווח, הם אף ביצעו ניסוי רקטה שנכשל, ולאחריו שבו ל-Claude כדי לנסות להבין מה השתבש. Anthropic חסמה את החשבונות לאחר שזיהתה את הפעילות, וציינה כי לא הושגה פעילות מבצעית של מערכת נשק.
המקרה מעלה שאלה רחבה יותר שמעסיקה קובעי מדיניות, חוקרים ואנשי תעשייה ברחבי העולם: עד כמה חברות המפתחות מודלי AI גדולים אחראיות למה שנעשה בהם? מצד אחד, טוענים רבים כי חברות אלה בנות יכולת לזהות שימושים מסוכנים ולמנוע אותם, ולכן מוטלת עליהן אחריות אקטיבית - כולל השקעה בכלי זיהוי, שיתוף פעולה עם רשויות ודיווח יזום. מצד שני, טוענים אחרים כי ניתן לנצל כמעט כל טכנולוגיה לרעה, וכי הטלת אחריות משפטית או ציבורית על חברות ה-AI תפגע בחדשנות מבלי לעצור גורמים עוינים המחפשים מסלולים חלופיים. השאלה נוגעת לאיזון בין חופש הפיתוח הטכנולוגי לבין חובות הזהירות של חברות שמוצריהן מגיעים לידיים רבות ומגוונות.
מי שיענה כן סבור שחברות AI נושאות באחריות ממשית לצמצם שימושים מסוכנים - באמצעות בקרות טכניות, ניטור ושקיפות - ולא יכולות להסתפק בטענה שהמשתמש הוא הגורם הבלעדי. מי שיענה לא סבור שהאחריות מוטלת על מי שמנצל את הכלים לרעה, וכי הטלת חובות על החברות המפתחות היא לא מידתית ועלולה לבלום פיתוח לגיטימי. הסקר מבקש לבדוק היכן עומדת הציבור בשאלת גבולות האחריות של תעשיית ה-AI.